01 CASP
两年一届的蛋白结构预测盲测;增量价值已转向复合物、RNA、配体与构象系综。复合物、RNA、配体赛道靶数少,排名对少数靶点敏感,多数结果无置信区间。
bench-01 · 模型在做什么:预测给定对象的结果 · 谁判对错:已有参考答案、先交卷后公布答案 · 结构/共折叠 · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | CASP;全称:蛋白质结构预测关键评估(Critical Assessment of protein Structure Prediction);别名:CASP14、CASP15、CASP16、CASP17 |
| 家族 | 否(CASP1 至 CASP17 是同一挑战的各届,不是家族条目。) |
| 模型在做什么 | 预测给定对象的结果 |
| 谁判对错 | 已有参考答案、先交卷后公布答案(6 条协议,逐条见下) |
| 领域 | 结构/共折叠(次领域:小分子、基因组/RNA) |
| 发布方 | Protein Structure Prediction Center, University of California, Davis(学术实验室) |
| 首次发布 | (依据:首届 CASP(CASP1)于 1994 年举行,仅有年份证据;会议月份无出处,会议结束日不作首发。) |
| 其他里程碑 | 开赛 / 首批题目 (首届 CASP(CASP1)于 1994 年举行,仅有年份证据;会议月份无出处,会议结束日不作首发。) |
| 最近更新 | ,新一轮:CASP17 预测季于 2026-09-11 结束,评估进行中;结果预计 2026-11-30 上线,现场会议 2026-12-01 至 05(罗马)。(会议日期说法不一:官方页称结果 11-30 上线、会议 12-01 至 05)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | †(未核实)(组织方公告:CASP17 结果上线日) |
| 规模 | CASP16:210 个注册组(162 专家 + 48 服务器);药企配体赛道 233 个姿态靶、140 个亲和力靶。 明细:注册组(CASP16) 210 groups;专家组 / 服务器(CASP16) 162 / 48 groups;蛋白三级结构靶(CASP16) 156 targets;寡聚体靶(CASP16) 108 targets;RNA 靶(CASP16) 52 targets;药企配体姿态靶(CASP16) 233 targets;药企亲和力靶(第二阶段)(CASP16) 140 (110) targets |
| 状态 | ● 活跃:活跃:CASP17 结果待公布;资金依赖少数资助方 |
| wet lab 更新 | 新:每两年一届,真值为结构生物学家提供的未公开实验结构;新真值只能通过参加下一届获得。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 15 个计入(榜 3 · 赛后复用 12);另 1 条不计入(未证实 1) |
| 当前排名 | — 无排名(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 6 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 01a CASP 实时盲测·蛋白单体/复合物 | 先交卷后公布答案 | 盲测(提交时真值未公开) | AlphaFold3(自/三)、MassiveFold(自/三) | 真值高;基线深度模型显著领先;效度中;饱和接近饱和;泄漏风险低 | — | — |
| 01b CASP 实时盲测·RNA | 先交卷后公布答案 | 盲测(提交时真值未公开) | RhoFold+/DRfold2/trRosettaRNA(榜/自) | 真值中;基线被追平或反超;效度中;饱和未饱和;泄漏风险中 | — | — |
| 01c CASP16 药企赛道:配体位姿 + 亲和力(RFAA 为评估方基线,非参赛组) | 先交卷后公布答案 | — | RoseTTAFold All-Atom (RFAA)(三)、ClusPro(kozakovvajda)(榜) | 真值中;基线部分追平;效度低;饱和未饱和;泄漏风险中 | 能回答:在药企真实项目提供、提交时未公开的化合物上,各参赛方法把配体放进口袋的几何准确度,以及同靶化合物排序能做到什么量级。 | 不能回答:不能据此比较各方法的绝对亲和力预测精度,也不能把评估方事后跑的基线成绩与参赛组成绩当同一条件下的排名看。 |
| 01d CASP 历届靶点回溯·蛋白结构/接触 | 已有参考答案 | 中(时间留出;同源未控,待核) | Chai-1(自)、ESM3(自)、OpenFold3(自)、Profluent-E1(自)、xTrimoPGLM(自) | 真值高;基线未报基线;效度中;饱和接近饱和;泄漏风险中 | — | — |
| 01e CASP 历届靶点回溯·RNA | 已有参考答案 | 中(时间留出;同源未控,待核) | AlphaFold3(自/三)、NeuralPLexer3(自)、OpenFold3(自)、RhoFold+/DRfold2/trRosettaRNA(榜/自) | 真值中;基线被追平或反超;效度中;饱和未饱和;泄漏风险中 | — | — |
| 01f CASP 历届靶点回溯·亲和力 | 已有参考答案 | 中(时间留出;同系列,待核) | AQAffinity(自)、Boltz-2(自)、IsoDDE(自)、TerraBind(自) | 真值中;基线部分追平;效度低;饱和未饱和;泄漏风险高 | — | — |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:在实验结构公开前,从序列盲测预测蛋白、复合物、RNA、配体姿态与亲和力及构象系综。
- 真值:X 射线、冷冻电镜、NMR 解出但评估前保密的实验结构。
- 主指标:按类别的官方 z-score 累加排名
- 次指标:单体 GDT_TS、lDDT;复合物 QS、DockQ、ICS;RNA TM-score、INF;配体 LDDT-PLI 与亲和力排序
- 版本陷阱:赛道随届变化、assessor 每届更换,跨届不严格可比;训练截止晚于某届的模型对该届不再盲。
当前排名
状态:— 无排名
- 指标:CASP16 各类别官方 z-score(Z>-2)排名;结构域 GDT_TS、寡聚体 DockQ、RNA TM-score
- 评测集 / 口径:CASP16 (2024); CASP17 results pending
- 快照日期:(旧:早于截至日 12 个月以上)
- 榜单页面
说明:CASP17 结果预计 2026-11-30 上线,尚无排名;CASP16 无单一总榜;其他本站模型多为对 CASP15/16 靶的回顾性自报,不可比。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| AF3-server | 13 | rank 13 of 110 (protein domains, all); avg GDT_TS 87.1 (top-ranked models) | CASP16 各类别官方 z-score(Z>-2)排名;结构域 GDT_TS、寡聚体 DockQ、RNA TM-score | CASP16 (2024); CASP17 results pending | 第三方 | 出处 | CASP16 中 AF3 的评估论文(Proteins 2026)表 2;AF2 类方法约 85.5 | |
| AF3-server | 10 | rank 10 of 81 (protein multimers, all); avg DockQ 0.53 (first-ranked models) | CASP16 各类别官方 z-score(Z>-2)排名;结构域 GDT_TS、寡聚体 DockQ、RNA TM-score | CASP16 (2024); CASP17 results pending | 第三方 | 出处 | 同一论文表 2;中等难度寡聚体排第 2 | |
| AF3-server | 8 | rank 8 of 32 (RNA/DNA multimers) | CASP16 各类别官方 z-score(Z>-2)排名;结构域 GDT_TS、寡聚体 DockQ、RNA TM-score | CASP16 (2024); CASP17 results pending | 第三方 | 出处 | 同一论文表 2;RNA 单体名次无法清晰提取 | |
| MassiveFold | 40 | rank 40 of 110 (domains); rank 30 of 81 (multimers) | CASP16 各类别官方 z-score(Z>-2)排名;结构域 GDT_TS、寡聚体 DockQ、RNA TM-score | CASP16 (2024); CASP17 results pending | 第三方 | 出处 | 同一论文表 2 | |
| trRosettaRNA-family server (academic group) | 1 | 不显示:出处不全 | CASP16 各类别官方 z-score(Z>-2)排名;结构域 GDT_TS、寡聚体 DockQ、RNA TM-score | CASP16 (2024); CASP17 results pending | 第三方 | 出处 | 结构域类(GDT_TS)点名第一的组;据本站笔记为 trRosettaRNA 系服务器,属组非模型;RNA 与寡聚体类第一为其他学术组 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。15 个计入(榜 3 · 赛后复用 12);另 1 条不计入(未证实 1)。
官方参赛 / 官方榜单(3)
- MassiveFold:依据只是本站自己的页面(未核实 / unverified);官方名次未报告(榜单,置信度中,未核实†;—)
- OpenComplex2:参加该届并在讨论日作报告;幻灯片的对比图标注为未发表数据,官方名次与分数未检出(榜单,置信度中;出处)
- RhoFold+/DRfold2/trRosettaRNA:家族格:CASP16 的参赛只属 trRosettaRNA2,RhoFold+ 的 CASP15 评测是回溯(榜单,置信度中,未核实†;出处)
赛后数据复用(12)
- AlphaFold 3:论文回溯使用赛后公开靶点;CASP16 中它只作为其他组管线的组件,官方榜无独立条目(第三方,置信度高,未核实†;出处)
- AQAffinity:对已发布赛季两个亲和力子集的事后使用,只有图、无数值,其中一个子集与训练靶点高度相似(第三方,置信度中;出处)
- Boltz-2:赛后回溯使用亲和力数据,不是盲测参赛(第三方,置信度高;出处)
- Chai-1:依据只是本站自己的页面(未核实):只有二手转引,且属赛后回溯(第三方,置信度中,未核实†;—)
- ESM3:赛后时间留出复用,不是参赛;论文未报 CASP16(自报,置信度高;出处)
- IsoDDE:赛后借用 CASP16 盲亲和力数据作图对比,只有图、无单一数值,不是参赛(自报,置信度中;出处)
- Nesso-1:对已发布赛季亲和力集(140 个复合物、2 个靶点)的赛后复用,非参赛(第三方,置信度高;出处)
- NeuralPLexer3:矩阵中的 CASP 格与 RNA 格共用同一条证据,属事后使用已发布数据,尚待复核(第三方,置信度中;出处)
- OpenFold3:赛后用 CASP16 数据,README 仅图;来源类型按配对表原样保留(第三方,置信度中,未核实†;出处)
- Profluent-E1:用某届 CASP 的靶点做长程接触图评测,数值在论文表格中,本轮未取到(第三方,置信度中;出处)
- TerraBind:对已发布赛季亲和力集的事后评测,非参赛(第三方,置信度高;出处)
- xTrimoPGLM:折叠分支在 CASP15 的 56 个目标上事后评测,不是参赛(自报,置信度高;出处)
未证实(1,不计数)
- Enchant v1/v2:v3 页面称在该赛事的留出结构上评测,仅有图、无协议(未知,置信度低,未核实†;出处)
局限与注意
- 复合物、RNA、配体赛道靶数少,排名对少数靶点敏感,多数结果无置信区间。
- 单体精度已接近实验不确定性,增量转向复合物、RNA、配体与系综。
- 训练截止晚于某届的模型对该届靶点不再盲;事后评估须核对训练截止与靶点释放日。
- 资金脆弱:NIH 资助 2025-07 到期后,由被评估领域的一家头部开发方一次性捐赠续命(媒体报道,金额未披露)。
- 不测湿实验命中率;结构精度到药物发现命中率的因果证据弱。
新模型怎么用
CASP17 预测季已结束,下一届预计 2028 年(未公告)。已揭盲的 CASP14–16 靶点可作回顾集,前提是训练截止早于靶点释放日;可用官方 LGA、lDDT 与 OpenStructure 自评。报告须写明届次、赛道、靶点数、取 model 1 还是 best-of-5,以及训练截止。
搭配:CAMEO · CAPRI · PoseBusters · RNA-Puzzles · ProteinGym
来源
- CASP17 官网(官方网站)
- CASP16 官方统计页(官方网站)
- CASP1–9 历届列表(官方网站)
- CASP16 总览(Proteins 2026)(期刊)
- CASP16 药物类配体评估(Proteins)(期刊)
- CASP16 中 AlphaFold 3 的评估(Proteins 2026)(第三方论文)
- CASP14 结构域评估(Proteins 2021)(期刊)
- STAT:CASP 资金报道(新闻)
- CASP17 会议报名页(官方网站)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| first_release | 1994-12 | 1994 | 只有 CASP1 的年份有出处;12 月会议月份无出处,会议结束日也不是首发。 | 依据 | 2026-11-16 |
| first_release_basis | first CASP (CASP1) meeting at Asilomar, December 1994 (prediction season earlier in 1994) | first CASP round, 1994 (year-only evidence; prediction season 1994). Meeting month not sourced; conference end date never used as first release. | 依据改为仅年份口径。 | 依据 | 2026-11-16 |
| scale | 209 groups registered, ~300 targets, 200+ pharma co-crystals, ~160 affinity data | 210 groups registered (162 expert + 48 server); 233 pharma pose ligand targets; 140 pharma affinity targets (110 at stage 2); 156 tertiary + 108 multimer + 52 RNA targets; no single ~300-target figure | 官方统计页给出 210 个注册组、233 个姿态靶与 140 个亲和力靶;"约 300 靶"在官方页不存在。 | 依据 | 2026-11-16 |
| models_reported.model-nesso-1 | not listed (zero-pairing list) | retrospective-dataset-use | 使用已公开的 CASP16 亲和力集属赛后数据复用,不是参赛。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。