53 UNICORNE-BENCH
一条序列要给出多个构象:八个工具在 829 组实验系综上的恢复率。最强工具只完全恢复 8.2% 的系综,构象多样性越大越差,各工具失败的靶重叠而非互补。
bench-53 · 模型在做什么:预测给定对象的结果 · 谁判对错:已有参考答案 · 结构/共折叠 · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | UNICORNE-BENCH;全称:UNICORNE 蛋白构象数据库的系综预测基准;别名:UNICORNE-BENCH-1、UNICORNE_BENCH;有歧义、不自动链接:UNICORNE、UNICORNEdb |
| 家族 | 否(只有首个发行版,后续版本将随结构数据库增长另行编号。) |
| 模型在做什么 | 预测给定对象的结果 |
| 谁判对错 | 已有参考答案(1 条协议,逐条见下) |
| 领域 | 结构/共折叠(次领域:蛋白) |
| 发布方 | Vanderbilt University, Center for AI in Protein Dynamics(学术实验室) |
| 首次发布 | (依据:基准数据首个版本在 Zenodo 发布(代码仓库同日建立)) |
| 其他里程碑 | 最早公开证据 (Zenodo 首个版本发布日);代码发布 (复现代码仓库建立);官方公告 (Zenodo 1.1 版(修正位移矩阵并更新论文标题)) |
| 最近更新 | ,仅维护:仓库补入数据集元数据与数据库映射表;基准数据仍是 1.1 版,被评工具与分数未变。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(官方只说后续版本随结构数据库增长编号,未给日期。) |
| 规模 | 839 组多构象蛋白(质检后 829),2122 个真值结构,八个工具每组各采样 1000 个结构。 明细:过滤后的多构象系综数(UNICORNE-BENCH-1) 839;人工折叠质检后评测的系综数(UNICORNE-BENCH-1) 829;叠合后的真值结构数(UNICORNE-BENCH-1) 2122;被评预测器数(四个生成式、四个 MSA 扰动式)(UNICORNE-BENCH-1) 8;每个系综每个工具的采样结构数(UNICORNE-BENCH-1) 1000 |
| 状态 | ● 活跃:首个发行版,工具分数与复现脚本齐备,接受外部模型加入 |
| wet lab 更新 | 静态:不做新实验;真值全部取自已公开的实验解析结构。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 1 个计入(榜 1) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 53a UNICORNE-BENCH | 已有参考答案 | — | BioEMU(榜)、ESMFlow(榜)、ESMDiff(榜)、AlphaFlow(榜)、CFrandom(榜)、AFsample2(榜)、SPEACH_AF(榜) | 最强工具只完整复现约 8% 的构象集合,构象差异越大越差,各工具失败的靶重叠而非互补;分模型得分与隔离方式均未公开。 | 面向“一条序列给出多个构象”的任务,当前公开工具离完整复现实验观察到的构象集合还有多远。 | 具体哪个工具更强——分模型得分未公开;也无法确认分数是在与训练集隔离的条件下取得。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:只给序列,要求生成一组结构,覆盖该蛋白全部已实验解析的构象。
- 真值:同一条目下至少两个实验解析构象,按统一规则叠合。
- 主指标:全部构象都被恢复的系综占比(完全恢复率)
- 次指标:单个构象的恢复率 [email protected];最佳匹配结构相似度均值与分布距离
- 版本陷阱:官网只列七个工具,数据与代码仓库列八个(多一个 AlphaFold3 系);分数文件的列名与论文的指标名不同;1.0 版位移矩阵有误,须用 1.1 版。
当前排名
状态:▣ 榜单
- 指标:完全恢复率:系综内全部构象都被恢复的占比
- 评测集 / 口径:UNICORNE-BENCH-1 (829 evaluated ensembles, 1,000 samples per tool)
- 快照日期:
- 榜单页面
当前第一:AFsample3,FRR 8.2%; [email protected] 34.0 +/- 30.0; TM-bar 0.819 +/- 0.101(完全恢复率,附单构象恢复率与最佳匹配相似度;UNICORNE-BENCH-1, 828 ensembles scored for this tool;榜单;)
本站最佳:BioEmu
说明:最强工具也只完全恢复 8.2% 的系综,两家并列第一;只核到部分工具的数值行,名次未必完整。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| AFsample3(非本站模型) | 1 | FRR 8.2%; [email protected] 34.0 +/- 30.0; TM-bar 0.819 +/- 0.101 | 完全恢复率,附单构象恢复率与最佳匹配相似度 | UNICORNE-BENCH-1, 828 ensembles scored for this tool | 榜单 | 出处 | 非本站模型;官方汇总表数值,68/828 个系综被完全恢复 | |
| AFsample2(非本站模型) | 1 | FRR 8.2% | 完全恢复率 | UNICORNE-BENCH-1, 828 ensembles | 榜单 | 出处 | 非本站模型;与上一条并列,同为 68/828 | |
| BioEmu | — | FRR 6.1%; [email protected] 30.1 +/- 29.2; TM-bar 0.814 +/- 0.099 | 完全恢复率,附单构象恢复率与最佳匹配相似度 | UNICORNE-BENCH-1, 823 ensembles scored for this tool | 榜单 | 出处 | 本站清单内的唯一被评工具;官方汇总表只公开了部分工具的数值行,完整八工具名次未核到 |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。1 个计入(榜 1)。
官方参赛 / 官方榜单(1)
局限与注意
- 最强工具只完全恢复 8.2% 的系综,构象多样性越大越差,各工具失败的靶重叠而非互补。
- 真值全部来自公开结构库,被评工具的训练集通常也包含同一批结构。
- 把多个实验构象等权当作真值,不含占据度或能量权重。
- 论文全文尚未公开,指标聚合与阈值细节只能从代码与分数文件反推。
- 官网与数据存档对被评工具数量的说法不一致(七个与八个)。
新模型怎么用
从公开存档取基准定义与真值结构,对 829 条序列各采样一组结构,用官方脚本做结构比对与指标计算,再与已公布的八个工具并表;不需要自做湿实验。报告须写明被计分的系综数(缺失的系综不计入均值)、采样数与工具版本,并说明自家训练集与这些公开结构的重叠。可搭配 CAMEO。
来源
- 官方复现代码仓库(指标定义与工具汇总表)(仓库)
- 基准数据存档 1.1 版(存档)
- 官方榜单页面(榜单)
- 会议海报页(公开摘要)(官方网站)
更正记录
无。
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。