47 PoseBench / DockGen
同一套输入与脚本下,对接与共折叠方法在四套难度递增集上的位姿准确度。新口袋集的样本量在相关论文两处写法不一(14 与 122),跨论文引用极易串口径。
bench-47 · 模型在做什么:预测给定对象的结果 · 谁判对错:已有参考答案 · 结构/共折叠 · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | PoseBench / DockGen;别名:PoseBench、DockGen、DockGen-E、DockGen-clusters;有歧义、不自动链接:Astex Diverse、CASP15 set |
| 家族 | 家族条目:DockGen (new-pocket generalization set) ;PoseBench (four-dataset docking suite) 。边界:DockGen 是口袋泛化数据集;PoseBench 是跑四套数据集的评测流水线,内含其改造版。 |
| 模型在做什么 | 预测给定对象的结果 |
| 谁判对错 | 已有参考答案(2 条协议,逐条见下) |
| 领域 | 结构/共折叠(次领域:小分子) |
| 发布方 | University of Missouri、Massachusetts Institute of Technology, CSAIL(学术实验室) |
| 首次发布 | (依据:DockGen 预印本 arXiv 2402.18396 v1(本条最早的公开里程碑)) |
| 其他里程碑 | 预印本 v1 (DockGen 预印本 v1);期刊上线 (评测流水线论文期刊在线);代码发布 (评测流水线首个公开发行版本(0.4.0)) |
| 最近更新 | ,新版本:v1.1.0 修正 v1.0.0 中主配体打分的缺陷,三套主配体集上各方法成绩平均下调约 15%,v1.0.0 的数字须重跑。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(维护方未公告新一轮评测或新数据集版本。) |
| 规模 | 四套集合:易例 85、时间切分 308(分析用 130)、新口袋 122、多配体 19 个复合物。 明细:复合物数(Astex Diverse) 85;复合物数(其中 130 个在截止日之后、用于后续分析)(PoseBusters Benchmark) 308;生物学相关装配体数(DockGen-E) 122;多配体复合物数(含 102 个配体片段)(CASP15) 19;原始 DockGen 测试复合物数(另有 141 个验证)(DockGen (Corso 2024)) 189 |
| 状态 | ● 活跃:流水线持续维护并接收新方法;四套集合本身冻结 |
| wet lab 更新 | 静态:不做新实验;全部复用公开晶体结构。 |
| 需自补 wet lab | 断言真实泛化时需要 |
| 报告模型数 | 5 个计入(自报 1 · 第三方 4) |
| 当前排名 | ◌ 第三方(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 2 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 47a PoseBench 套件(Astex Diverse / PoseBusters / DockGen-E / CASP15) | 已有参考答案 | — | RoseTTAFold All-Atom (RFAA)(三) | 位姿准确度必须与物理有效性联读——有的模型 RMSD 分布最紧却很少通过物理检查;各方法的比对、模板与采样预算也不一致。 | 同一套输入与评测脚本下,对接与共折叠方法在四个集上的位姿准确度,以及结构是否物理合理。 | 方法在真实筛选中的排序或亲和力能力;训练截止不同的模型也不能当同一时间切分来比。 |
| 47b DockGen / DockGen-E 新口袋泛化集 | 已有参考答案 | — | RoseTTAFold All-Atom (RFAA)(三) | 口袋所属结构域完全未见过时成功率大幅下降,早期深度方法还不如搜索式对接;按结构域划分使它成为隔离最强的泛化集之一。 | 当口袋所属结构域完全没在训练集出现过时,对接方法还剩多少成功率,以及与搜索式对接的差距。 | 方法在常见、训练充分的口袋上的表现;也不能用它评价亲和力或虚拟筛选富集。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:用预测的无配体蛋白结构做位姿预测,覆盖单配体、新口袋与多配体三类情形。
- 真值:公开晶体复合物结构,按来源分为易例、时间切分与结构域留出三档。
- 主指标:位姿 RMSD≤2Å 且通过有效性检查的比例
- 次指标:配体质心 RMSD≤1Å;相互作用指纹匹配度
- 版本陷阱:同一套新口袋集在流水线里叫 DockGen、在另一篇论文里叫 DockGen-E,且那篇论文两处图注把样本量写成 14 与 122;v1.0.0 与 v1.1.0 的分数差约 15%。
当前排名
状态:◌ 第三方
- 指标:位姿 RMSD≤2Å 且通过有效性检查的成功率
- 评测集 / 口径:PoseBench v1.1.0, four datasets (Astex Diverse / PoseBusters Benchmark / DockGen-E / CASP15)
- 快照日期:
当前第一:DiffDock-L,22.6%(Top-1 位姿 RMSD<2Å 的成功率;DockGen test split (Corso 2024, 189 complexes);自报;;旧)。头条条目未核实,显示下一条已核实条目
说明:名次由评测方给出,成功率只在图中;各方法训练截止不同,新口袋集与部分模型训练期重叠。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| AlphaFold 3 | 1 | 不显示:出处不全 | 位姿 RMSD≤2Å 且通过有效性检查的成功率 | PoseBench, all four datasets, with MSAs | 第三方 | 出处 | 由评测方跑出:四套集上均为带 MSA 组的第一;具体百分比只在图中,正文未给 | |
| Boltz-1 / Boltz-1x | 2 | 不显示:出处不全 | 位姿 RMSD≤2Å 且通过有效性检查的成功率 | PoseBench, Astex Diverse and PoseBusters Benchmark, without MSAs | 第三方 | 出处 | 无 MSA 组在两套集上排第一 | |
| Chai-1 | 2 | 不显示:出处不全 | 位姿 RMSD≤2Å 且通过有效性检查的成功率 | PoseBench, DockGen-E, without MSAs | 第三方 | 出处 | 无 MSA 组在新口袋集上排第一 | |
| DiffDock-L | — | 22.6% | Top-1 位姿 RMSD<2Å 的成功率 | DockGen test split (Corso 2024, 189 complexes) | 自报 | 出处 | 原始新口袋集论文的自报值;同表搜索式对接基线为 17.5% 与 7.9% |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。5 个计入(自报 1 · 第三方 4)。
开发方按官方口径自报(1)
第三方评测(4)
- AlphaFold 3:评测方在四套集上运行,预测结果已存档公开(第三方,置信度高;出处)
- Boltz-1 / Boltz-1x:评测方运行的是 Boltz-1;Boltz-2 被刻意排除(第三方,置信度高;出处)
- Chai-1:评测方在四套集上运行(第三方,置信度高;出处)
- Vina:作为常规对接基线由评测方运行,四套集齐全(第三方,置信度高;出处)
提及但不构成配对
局限与注意
- 新口袋集的样本量在相关论文两处写法不一(14 与 122),跨论文引用极易串口径。
- v1.0.0 的主配体打分有缺陷,v1.1.0 后各方法成绩平均下调约 15%,旧数字不可直接引用。
- 新口袋集的复合物自 2019 年起入库,与多个共折叠模型的训练期重叠。
- 各方法的 MSA、模板与采样预算不同,单次推理耗时相差两个数量级。
- 位姿准确不等于亲和力或筛选富集,该套件不评价这两项。
新模型怎么用
安装评测流水线,按文档对四套集跑推理,由脚本统一做结构对齐、打分与有效性检查;静态即可跑完。报告须写明流水线版本(v1.0.0 与 v1.1.0 差约 15%)、用的是哪套数据集、是否提供 MSA、重复次数,以及自家训练截止日与新口袋集的重叠。可搭配 PoseBusters 与 PLINDER。
搭配:PoseBusters · PoseX · PLINDER / PINDER / Runs N' Poses · FoldBench · CASP
来源
- 评测流水线预印本(预印本)
- 评测流水线期刊版(期刊)
- 官方仓库(方法清单与运行命令)(仓库)
- 新口袋泛化集原论文(预印本)
- 引用该套件并给出另一组图注样本量的模型论文(第三方论文)
- 预测结果与预处理数据存档(存档)
更正记录
无。
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。