模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

11 ClinVar hold-out protocol

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

用临床标签库的留出变异区分致病与良性,各论文自定快照与子集。没有官方切分,预测器与标签相互污染,以本库训练者分数被高估。

bench-11 · 模型在做什么:理解状态(表征与排序) · 谁判对错:已有参考答案 · 基因组/RNA · 核心 30 项 · 截至 2026-11-16

概况

字段 内容
名称 / 别名 ClinVar hold-out protocol;全称:基于临床变异标签库的留出式评测协议;别名:ClinVar benchmark、ClinVar evaluation;有歧义、不自动链接:ClinVar
家族 否(这是围绕一个数据库形成的评测惯例,没有成员关系明确的家族。)
模型在做什么 理解状态(表征与排序)
谁判对错 已有参考答案(3 条协议,逐条见下)
领域 基因组/RNA
发布方 US National Center for Biotechnology Information(非营利研究机构)
首次发布 †(未核实)(依据:数据库的正式完整公开发布(官方手册);2012-11 的原型单列,不作首发;四月的具体日期无出处。) 仅月份有据;评测协议本身无发布日
其他里程碑 最早公开证据 †(未核实)(原型版本的公开记录);官方公告 †(未核实)(官方手册记载的完整公开发布)
最近更新 ,数据发布:按周发布的变异文件与按月发布的完整记录各更新一次;评测协议本身没有更新。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(发布节奏是观察到的,组织方未公告具体日期。)
规模 无统一版本:各论文自建子集,规模从约一万到十余万变异不等。 明细:自建测试变异数(某错义模型)(2023) 18924;自建错义变异数(某蛋白语言模型) 约 15 万;库内记录数(2026-11-16 查询)(2026-11-16) 4713415;其中标注为致病的记录数(2026-11-16) 266706
状态 ● 活跃:数据库月更;评测协议无维护方
wet lab 更新 累积:不做新实验;月度新增的是临床提交,不是新测量。
需自补 wet lab 不需要
报告模型数 5 个计入(改协议 5)
当前排名 ≠ 不可比(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-16

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 3 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
11c ClinVar 版本冻结与时间留出 已有参考答案 中 popEVE(自) 版本差集挡住了直接重叠,但新入库标签可能本身就用了计算证据,形成循环;基因内评估只覆盖少数基因。 能回答:在冻结版本之后新入库的变异上,一个方法的排序能力是否还站得住。 不能回答:分数能否直接当临床证据——多数工具的校准只到较弱的证据强度。
11d ClinVar 自建或改编测试集(口径各异) 已有参考答案 待核 AlphaMissense(自)、BioReason(自) 仅用基因身份的零模型就能拿到 AUROC 0.921;负例取常见变异,等位频率与保守性都能当捷径。 能回答:在某篇论文自定的题面内,一个模型与其所列对照的相对高低。 不能回答:跨论文谁更强,也不能说明模型是否超出基因身份与频率这类捷径。
11e ClinVar 零样本打分(不做切分) 已有参考答案 待核(零样本不等于没有预训练暴露) AlphaGenome(自)、Evo 2(自/三) 编码区上保守性与比对基线反超大模型,头部差 0.002–0.02 小于口径差异;标签部分由同源信号支撑,存在循环。 能回答:不做训练时,一个模型对已标注变异的整体区分度与保守性基线差多少。 不能回答:对尚未标注的新变异的判断力——没有切分,基因身份与频率都不受控。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:二分类:在留出变异上区分致病与良性,主要是错义,也扩展到非编码与剪接。
  • 真值:临床实验室与研究者提交的分类,带评审星级,不是实验测量。
  • 主指标:auROC
  • 次指标:auPRC 与基因内平均 auROC;校准后的计算证据强度
  • 版本陷阱:必须写明快照日期、星级门槛、变异类别与负样本来源;换一套负样本,各方法分数都会变。

当前排名

状态:≠ 不可比

  • 指标:auROC 或 auPRC(依论文而异)
  • 评测集 / 口径:Each paper builds its own ClinVar subset/snapshot

排名行不显示分数:5 个口径,无统一排名

说明:这是数据库而非榜单:每篇论文自选快照、过滤与变异类别,用本库训练的预测器还有循环风险,无法跨模型排名。

不可比:下表按条目列出,不排名次。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
AlphaMissense — 不显示:口径不可比:快照与子集不同,排名行不显示分数。†(未核实) auROC 或 auPRC(依论文而异) Each paper builds its own ClinVar subset/snapshot 自报(二手) 出处 自建错义测试集;数值只经二手报道佐证,且以本库训练者有高估风险
AlphaGenome — 不显示:口径不可比:快照与子集不同,排名行不显示分数。†(未核实) auROC 或 auPRC(依论文而异) Each paper builds its own ClinVar subset/snapshot 自报(二手) 出处 剪接相关子集的自报,取自站内既有注记,未复核
Evo 2 — 不显示:口径不可比:快照与子集不同,排名行不显示分数。†(未核实) auROC 或 auPRC(依论文而异) Each paper builds its own ClinVar subset/snapshot 自报(二手) 出处 自建子集的图示结果,无可引数值;各变异类别上强弱不一
popEVE — 不显示:口径不可比:快照与子集不同,排名行不显示分数。 auROC 或 auPRC(依论文而异) Each paper builds its own ClinVar subset/snapshot 自报(二手) 出处 基因内 AUROC,仅见图表未转录;取自站内既有注记
BioReason (Evo2+Qwen3-4B) — 不显示:口径不可比:快照与子集不同,排名行不显示分数。 auROC 或 auPRC(依论文而异) Each paper builds its own ClinVar subset/snapshot 自报(二手) 出处 自建的派生切分;取自站内既有注记,未复核

排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。5 个计入(改协议 5)。

开发方自报,协议有改动(5)

  • AlphaGenome:开发方自建的变异效应套件,只覆盖剪接相关类别(自报,置信度中;出处)
  • AlphaMissense:自建的临床变异留出测试集(非官方划分),另报基因级汇总;口径为开发方自定(自报,置信度高;出处)
  • BioReason:开发方自报,任务为自建 KEGG 变异任务,非 ClinVar 留出协议(自报,置信度高;出处)
  • Evo 2:开发方自划的编码与非编码子集,数值只在图中;正文结论为名次性描述(自报,置信度中;出处)
  • popEVE:专家整理的 2019 与 2020 子集(每基因至少 5 良性 + 5 致病),指标 AUC;逐模型值只在扩展数据图(自报,置信度高;出处)

局限与注意

  1. 没有官方切分,预测器与标签相互污染,以本库训练者分数被高估。
  2. 编码区错义的汇总 auROC 已在 0.9 以上,0.01–0.03 的差距没有区分意义。
  3. 基因分布严重偏斜,少数高频检测基因占据大部分变异。
  4. 真值是提交的临床判读而非实验测量,不同提交者之间存在分类冲突。
  5. 高 auROC 不等于临床可用;临床端需要校准后的证据强度。

新模型怎么用

取一个明确日期的数据库快照,按星级与变异类别筛出留出集打分即可,不需自补湿实验。报告须写明快照日期、星级门槛、负样本来源与基因分布,并说明模型是否见过本库标签;要支持泛化结论,应改用时间切分或按基因留出,并同报校准后的证据强度。可搭配 ProteinGym 与 CAGI。

搭配:ProteinGym · CAGI · TraitGym · Basenji/Enformer test set

来源

  1. 数据库官方站(官方网站)
  2. 官方手册中的数据库章节(官方网站)
  3. 官方发布目录(仓库)
  4. 评审星级说明(官方网站)
  5. 数据库早期描述论文(期刊)
  6. 以自建子集报告本协议的模型论文(期刊)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
first_release_basis ClinVar NAR database paper online (public launch reportedly Apr 2013, not verified) official full public release of ClinVar, April 2013 (NCBI Handbook); Nov 2012 prototype stored separately, not displayed as first release; exact April day not sourced. 复核确认 2013 年 4 月为完整公开发布,并要求把原型单独列出而非合并。 依据 2026-11-16
first_release 2013-11-14 2013-04 (official launch; prototype Nov 2012) 原记录的日期是期刊论文的在线日,不是数据库发布日。 依据 2026-11-16
ranking.entries per-model scores shown in the ranking row scores withheld; each entry keeps its protocol description only 显示规则:口径不可比的条目不展示分数,逐协议数值只留在实体页。 依据 2026-11-16

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。