50 蛋白 motif scaffolding 基准
蛋白 motif 支架生成的历史题集,以回折自洽判成功。判据来自结构预测器,不是实验可行性;该预测器连天然长序列也大面积判为不可设计。
bench-50 · 模型在做什么:提出候选(生成与设计) · 谁判对错:计算函数打分 · 蛋白 · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | 蛋白 motif scaffolding 基准;全称:RFdiffusion 的 25 题 motif-scaffolding 题集与 Scaffold-Lab 统一复跑框架;别名:Scaffold-Lab、RFdiffusion motif-scaffolding benchmark;有歧义、不自动链接:motif scaffolding benchmark、24 motif problems、25 benchmark problems |
| 家族 | 家族条目:RFdiffusion motif-scaffolding set (25 problems) ;Scaffold-Lab (24 problems) 。边界:只含 RFdiffusion 原 25 题题集与 Scaffold-Lab 的 24 题版本;MotifBench 另有记录。 |
| 模型在做什么 | 提出候选(生成与设计) |
| 谁判对错 | 计算函数打分(2 条协议,逐条见下) |
| 领域 | 蛋白(次领域:分子生成) |
| 发布方 | University of Washington, Institute for Protein Design、Shanghai Jiao Tong University(学术实验室) |
| 首次发布 | (依据:bioRxiv 预印本 v1,首次给出该 motif-scaffolding 题集) |
| 其他里程碑 | 预印本 v1 (bioRxiv 预印本 v1);期刊上线 (Nature 在线发表(题集与判据的正式出处)) |
| 最近更新 | ,仅维护:统一复跑框架仓库的文档提交;该框架论文 2026-05-22 发表于 PLOS Comput Biol,题集本身未变。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(无组织方,也无人公告新一版题集。) |
| 规模 | 原题 25 道,Scaffold-Lab 版 24 道;每题 100 个设计,框架内评 7 种方法。 明细:题目数(RFdiffusion (Nature 2023)) 25;题目数(去掉 6VW1)(Scaffold-Lab) 24;每题设计数(RFdiffusion (Nature 2023)) 100;框架内对比的骨架生成方法数(Scaffold-Lab) 7 |
| 状态 | ○ 冻结:题集冻结,区分度已由后继题集接手 |
| wet lab 更新 | 静态:不做新实验;motif 取自已公开的 PDB 结构。 |
| 需自补 wet lab | 断言真实泛化时需要 |
| 报告模型数 | 1 个计入(自报 1) |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 2 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 50a RFdiffusion 原论文 25 题 motif-scaffolding 基准(Scaffold-Lab 版为 24 题) | 计算函数打分 | — | RFdiffusion(v1)(自) | 判据来自结构预测的自洽性而非实验,而该判据连天然长序列也大面积判为不可设计;原题集已被视作饱和。 | 能回答:在这 25 个历史 motif 题上,哪些生成方法能产出通过回折自洽判据的骨架。 | 不能回答:这些骨架在实验里能否折叠或行使功能——判据全部来自结构预测器,对长度与柔性都很敏感。 |
| 50b Scaffold-Lab | 计算函数打分 | — | RFdiffusion(v1)(三)、GPDL / TDS / Chroma(条件);FrameDiff / FrameFlow / Genie / Chroma(无条件)(三) | 固定回折流程统一了口径,并同时报多样性与新颖性;长蛋白上成功率明显下降,参评的全是深度生成模型。 | 能回答:在同一套回折流程下,各骨架生成方法的可设计性、多样性、新颖性与算力代价如何互换。 | 不能回答:哪种方法做出的骨架在湿实验里更可能成立——框架内没有任何实验终点。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:给定天然 motif,生成承载它的支架骨架,经序列重设计与结构预测回折判定成功与否。
- 真值:计算 oracle:回折结构与设计模型、与天然 motif 的几何一致性。
- 主指标:通过回折判据的题目数或成功率
- 次指标:多样性(Foldseek 聚类);新颖性(对 PDB 的 TM-score);单个骨架的生成耗时
- 版本陷阱:原文是 25 题;Scaffold-Lab 去掉 6VW1 后为 24 题,且默认回折器是 ESMFold 而非 AF2。
当前排名
状态:≠ 不可比
- 指标:通过回折判据的题目数或成功率
- 评测集 / 口径:RFdiffusion 25-problem set vs Scaffold-Lab 24-problem set; AF2 vs ESMFold refolding
- 快照日期:
排名行不显示分数:4 个口径,无统一排名
说明:无官方榜单;两套题集差一题,回折器与采样规则不同,数字不可横向比较。
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| RFdiffusion(非本站模型) | — | 不显示:口径不可比:题集差一题,回折器与采样规则不同,排名行不显示分数。 | 通过回折判据的题目数或成功率 | RFdiffusion 25-problem set vs Scaffold-Lab 24-problem set; AF2 vs ESMFold refolding | 自报 | 出处 | 作者自报,AF2 回折判据,原始 25 题 | |
| RFjoint Inpainting(非本站模型) | — | 不显示:口径不可比:题集差一题,回折器与采样规则不同,排名行不显示分数。 | 通过回折判据的题目数或成功率 | RFdiffusion 25-problem set vs Scaffold-Lab 24-problem set; AF2 vs ESMFold refolding | 第三方 | 出处 | 由另一方法的论文跑出的对照臂 | |
| Hallucination(非本站模型) | — | 不显示:口径不可比:题集差一题,回折器与采样规则不同,排名行不显示分数。 | 通过回折判据的题目数或成功率 | RFdiffusion 25-problem set vs Scaffold-Lab 24-problem set; AF2 vs ESMFold refolding | 第三方 | 出处 | 同一篇论文中的对照臂 | |
| RFdiffusion(统一复跑)(非本站模型) | — | 不显示:口径不可比:题集差一题,回折器与采样规则不同,排名行不显示分数。 | 通过回折判据的题目数或成功率 | RFdiffusion 25-problem set vs Scaffold-Lab 24-problem set; AF2 vs ESMFold refolding | 第三方 | 出处 | 第三方统一复跑,24 题平均成功率,ESMFold 回折 |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。1 个计入(自报 1)。
开发方按官方口径自报(1)
局限与注意
- 判据来自结构预测器,不是实验可行性;该预测器连天然长序列也大面积判为不可设计。
- 「25 题」与「24 题」是两套题集:后者是去掉 6VW1 的统一复跑版本。
- 评分器与被评模型共享结构先验,易被全 α 骨架与对抗序列抬高成绩。
- 2023 年已有方法解出 23/25,区分度被 MotifBench 等后继题集接手。
- 逐方法的成功率多数只在图中给出,正文只给少量数字。
新模型怎么用
用统一复跑框架跑全流程:ProteinMPNN 重设计加 ESMFold 回折,报可设计性、多样性与新颖性。引用数值须写明 25 题还是 24 题、回折器用 AF2 还是 ESMFold、每骨架采样几条序列。更难的题目改用 MotifBench。
搭配:MotifBench · Adaptyv competitions / BenchBB
来源
- 原论文(题集与判据出处)(期刊)
- 统一复跑框架论文(期刊)
- 统一复跑框架官方仓库(仓库)
- 对回折判据局限的第三方研究(第三方论文)
- 原论文预印本 v1(预印本)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| scale.items (problem count) | 24 | 25 in the original paper; 24 only in the Scaffold-Lab version with 6VW1 removed | 原论文写明解出 25 题中的 23 题;24 题是去掉 6VW1 后的版本。 | 依据 | 2026-11-18 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。