37 TraitGym
非编码因果变异与匹配对照的二分类基准。复杂性状的正例来自统计 fine-mapping,因果性是概率性的,非实验证实。
bench-37 · 模型在做什么:理解状态(表征与排序) · 谁判对错:已有参考答案 · 基因组/RNA · 补充收录 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | TraitGym |
| 家族 | 否(两个子集属同一数据集的配置,不构成家族。) |
| 模型在做什么 | 理解状态(表征与排序) |
| 谁判对错 | 已有参考答案(2 条协议,逐条见下) |
| 领域 | 基因组/RNA |
| 发布方 | University of California, Berkeley(学术实验室) |
| 首次发布 | (依据:bioRxiv 预印本 v1(10.1101/2025.02.11.637758);HF 数据集与榜单的创建日不作首发证据) |
| 其他里程碑 | 预印本 v1 (bioRxiv 预印本 v1);代码发布 (GitHub 标签 0.1(提交日)) |
| 最近更新 | †(未核实),仅维护:代码标签 0.1;此后主分支仅 CI 提交(2026-01-19),另有未合入的修订分支;论文 v2 在 2025-03-04。(未检出 release 对象,日期取标签提交日。)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(作者未公告新版本;修订分支无公告日期。) |
| 规模 | 孟德尔集 338 个变异(113 性状);复杂性状集 1,140 个(83 性状);各配 9 个匹配对照。 明细:孟德尔因果变异(matched_9) 338;孟德尔对照(matched_9) 3,042;复杂性状变异(matched_9) 1,140;复杂性状对照(matched_9) 10,260;覆盖性状(Mendelian / complex) 113 / 83 |
| 状态 | ◐ 低频:榜单仍在线,但自 2025-03 无新条目;论文仍为预印本。 |
| wet lab 更新 | 静态:复用公开的 OMIM 与 UK Biobank fine-mapping 结果,不新增变异。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 3 个计入(改协议 1 · 赛后复用 2) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 2 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 37a TraitGym 孟德尔性状 | 已有参考答案 | 弱或无 | AlphaGenome(自)、Evo 2(三) | 保守性基线不输任何 DNA 语言模型,监督组合分数最高;338 个正例下 0.03 的差距不足以排名。 | 能回答:在匹配对照下,一个打分能否把已知的非编码致病变异排在前面。 | 不能回答:换算到全基因组时的实际精度——1:9 的人工基线率远高于真实先验。 |
| 37b TraitGym 复杂性状 | 已有参考答案 | 弱或无 | AlphaGenome(自)、Evo 2(三) | 头部约 0.362、单模型 0.30、零样本 0.25,远未饱和;几个大模型接近随机,而标签不进任何模型训练。 | 能回答:对精细定位得到的高后验变异,一个打分相对匹配对照的区分度。 | 不能回答:被选中的变异是否真因果;正例偏向大效应位点,匹配后仍可能有连锁残余。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:二分类:区分已知或强候选的非编码因果调控变异与按位置、后果等条件匹配的对照变异。
- 真值:孟德尔集来自 OMIM 的因果变异;复杂性状集来自统计 fine-mapping 的候选。
- 主指标:按染色体加权平均的 AUPRC。
- 次指标:自助法标准误。
- 版本陷阱:须标明子集(孟德尔或复杂性状)与配置(matched_9 或 all),以及是零样本还是线性探针,三者的名次不可互换。
当前排名
状态:▣ 榜单
- 指标:按染色体加权平均的 AUPRC(主指标),附标准误
- 评测集 / 口径:TraitGym Mendelian traits (matched_9) and complex traits (matched_9), zero-shot and linear-probing tracks
- 快照日期:†(未核实)(旧:早于截至日 12 个月以上)
- 榜单页面
当前第一:CADD,0.712 (se 0.038)(按染色体加权平均的 AUPRC(主指标),附标准误;TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks;榜单;†(未核实);旧)
本站最佳:Evo2 40B(第 5 名)
说明:榜单快照为 2025-03-07,此后无新模型;名次按子集与设定分片,不可跨片比较;数值用榜单自身的取舍位数。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| CADD(非本站模型) | 1 | 0.712 (se 0.038) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 非站内模型;孟德尔集零样本第 1。 | |
| Evo2 40B | 5 | 0.557 (se 0.051) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 孟德尔集零样本;7B 为 0.385(第 10),1B 为 0.254(第 13)。 | |
| Borzoi | 7 | 0.436 (se 0.052) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 孟德尔集零样本。 | |
| Enformer(非本站模型) | 1 | 0.303 (se 0.010) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 非站内模型页;复杂性状线性探针第 1,站内只有同名 benchmark 条目。 | |
| Borzoi | 2 | 0.297 (se 0.014) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 复杂性状线性探针;榜上站内模型的最好位次。 | |
| Evo2 40B | 9 | 0.153 (se 0.007) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 复杂性状线性探针。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。3 个计入(改协议 1 · 赛后复用 2)。
开发方自报,协议有改动(1)
- AlphaGenome:用了该 benchmark 的变异集,但报富集比例而非榜单指标,无可对照分数(自报,置信度中;出处)
赛后数据复用(2)
- Borzoi:TraitGym 作者事后评测 Borzoi(第三方,置信度中,未核实†;出处)
- Evo 2:由该 benchmark 作者按自己协议跑的评测,本模型论文未报告(第三方,置信度高;出处)
局限与注意
- 复杂性状的正例来自统计 fine-mapping,因果性是概率性的,非实验证实。
- 孟德尔集仅 338 个正例,性状分布不均,小差距不应读作排名。
- 非盲测:变异与对照均来自公开数据,可能落在模型训练语料内。
- 结论分层:基于比对的方法在孟德尔与复杂疾病性状占优,轨迹模型在复杂非疾病性状更好。
- 榜单自 2025-03 无新条目;AlphaGenome 不在榜上,其用法口径不同。
新模型怎么用
从 Hugging Face 取数据,按配套脚本打分。在孟德尔与复杂性状两个 matched_9 配置上分别报按染色体加权的 AUPRC 与标准误;与基于比对的方法同表,并报与集成基线的差距;按变异类别拆分,避免被某一类主导;写明是零样本还是线性探针。用了本集的变异不等于进了它的榜。要证明对新性状有效,需独立的功能验证或前瞻变异集。
搭配:Basenji/Enformer test set · ClinVar hold-out protocol · GUE + Nucleotide Transformer 基准 · BEND · CAGI
来源
- TraitGym 预印本(bioRxiv 10.1101/2025.02.11.637758)(预印本),
- TraitGym 预印本 v2(预印本),
- 官方仓库 songlab-cal/TraitGym(仓库)
- Hugging Face 数据集(包仓库)
- Hugging Face 榜单(榜单),
- AlphaGenome 论文(Nature 2026,PMC12851941)(期刊)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| latest_update | 2025-07-04 | 2025-03-25 | 只检出标签 0.1(提交日 2025-03-25),无 release 对象;HF 数据集与榜单的最后修改日分别为 2025-03-25 与 2025-03-07,原日期无出处。 | 依据 | 2026-11-16 |
| latest_update_kind | new-version | code-maintenance-only | 此后主分支只有 CI 提交,修订分支未合入,不构成新版本。 | 依据 | 2026-11-16 |
| status_note | leaderboard continuously running | leaderboard still online but no new entries since 2025-03 | 榜单空间最后修改为 2025-03-07,“持续运行”在站上读作仍在收新条目。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。