模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

49 NTv3 Benchmark

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

统一输入与预测头,比各基因组模型在多物种功能轨道上的表征能力。基准由 NTv3 团队自建、自跑、自评,未见第三方复核。

bench-49 · 模型在做什么:理解状态(表征与排序) · 谁判对错:已有参考答案 · 基因组/RNA · 2026-11 新收录 · 截至 2026-11-18

概况

字段 内容
名称 / 别名 NTv3 Benchmark;全称:Nucleotide Transformer v3 功能轨道预测基准;别名:NTv3_benchmark_dataset_revised;有歧义、不自动链接:NTv3
家族 否(初版与修订版是同一榜单的两个版本,不是家族成员。)
模型在做什么 理解状态(表征与排序)
谁判对错 已有参考答案(1 条协议,逐条见下)
领域 基因组/RNA
发布方 InstaDeep(平台公司)
首次发布 (依据:基准论文预印本第一版(bioRxiv))
其他里程碑 最早公开证据 (榜单页面首次提交(当日创建,初始为模板));预印本 v1 (bioRxiv 预印本 v1)
最近更新 ,新版本:10-28 用修订版替换初版(155 条轨道、11 个物种、10 个模型),初版榜移至末页;10-29 改引预印本第二版。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(运行方未公告下一次更新或新增物种。)
规模 现行版 155 条轨道、11 个物种、7 类实验、10 个模型;初版为 106 个任务、7 个物种。 明细:功能轨道数(修订版 2026-10-29 / revised) 155;物种数(修订版 2026-10-29 / revised) 11;人类轨道数(修订版 2026-10-29 / revised) 34;任务数(初版 2025-12 / initial) 106;物种数(初版 2025-12 / initial) 7;上榜模型数(修订版 2026-10-29 / revised) 10
状态 ● 活跃:2026-10 刚换版;由模型作者自建自评
wet lab 更新 静态:不做新实验;用已公开的 ATAC、ChIP、RNA-seq 等轨道数据。
需自补 wet lab 断言真实泛化时需要
报告模型数 4 个计入(榜 4)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-18

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
49a NTv3 Benchmark(2026-10-29 版:155 条轨道、11 个物种;初版 106 个任务、7 个物种) 已有参考答案 — Nucleotide Transformer v1/v2 (NT-H/MS/1000G, NT-v2)(榜)、NTv3(榜)、AlphaGenome(榜)、Evo 2(榜) 序列到功能模型明显高于语言模型,而语言模型不高于从头训练的卷积基线;基准由其中一个模型的团队自建自评。 能回答:统一输入与预测头下,不同基因组模型的表征对多物种功能轨道的预测能力。 不能回答:变异效应或临床判读能力;头部约 0.01 的差距不足以排先后,且缺第三方复核。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:给定 32 kb 序列,用统一的单碱基预测头预测功能轨道信号,比较各模型表征而非训练配方。
  • 真值:11 个基因组上公开的可及性、组蛋白与转录因子结合、转录起始、RNA 结合、表达与翻译数据。
  • 主指标:留出测试集上的 Pearson 相关
  • 次指标:按实验类型分列的平均分;达到最佳检查点的 GPU 小时
  • 版本陷阱:初版 106 任务 7 物种与现行版 155 轨道 11 物种不可混用;官方从不跨物种平均,任何总分都是自行汇总。

当前排名

状态:▣ 榜单

  • 指标:测试集上每条轨道的 Pearson 相关,按物种内轨道平均
  • 评测集 / 口径:现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均
  • 快照日期:
  • 榜单页面

当前第一:NTv3 700M (tracks),0.636(测试集上每条轨道的 Pearson 相关,按物种内轨道平均;现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均;榜单;)

说明:榜由 NTv3 团队自建自评;官方不跨物种平均,此处取人类榜;人、牛、大鼠上前两名只差约 0.01。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
NTv3 700M (tracks) 1 0.636 测试集上每条轨道的 Pearson 相关,按物种内轨道平均 现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均 榜单 出处 榜单与模型同属一方;人类 34 条轨道的平均 Pearson。
AlphaGenome 2 0.627 测试集上每条轨道的 Pearson 相关,按物种内轨道平均 现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均 榜单 出处 由运行方用 fold-1 检查点微调评测,非该模型作者自报;与第 1 名相差约 0.01。
Borzoi 3 0.567 测试集上每条轨道的 Pearson 相关,按物种内轨道平均 现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均 榜单 出处 由运行方评测的预训练序列到功能模型。
Residual CNN 44M(非本站模型) 4 0.516 测试集上每条轨道的 Pearson 相关,按物种内轨道平均 现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均 榜单 出处 从头训练的卷积基线,高于全部预训练语言模型。
Evo2 1B 6 0.409 测试集上每条轨道的 Pearson 相关,按物种内轨道平均 现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均 榜单 出处 只评了 1B 版本、单种子,且仅 5 个物种。
NTv2 500M(非本站模型) 8 0.382 测试集上每条轨道的 Pearson 相关,按物种内轨道平均 现行修订版(2026-10-29)人类榜:34 条轨道,取三个种子的平均 榜单 出处 NT v1 各版未上榜;该权重低于从头训练基线。

排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。4 个计入(榜 4)。

官方参赛 / 官方榜单(4)

  • AlphaGenome:11 个物种中 10 个有分;人类用 fold-1 检查点以避开测试区。(榜单,置信度高;出处)
  • Borzoi:全部物种有分,是第三高的序列到功能模型。(榜单,置信度高;出处)
  • Evo 2:只评了 Evo2 1B、单种子、5 个物种,不能代表 7B 或 40B。(榜单,置信度中,未核实†;出处)
  • NTv3:现行版上以 NTv3 700M (tracks) 列于 11 个物种,均居首或次席;榜单由其作者运行。(榜单,置信度高;出处)

提及但不构成配对

  • AlphaMissense:本榜只评轨道预测,不评变异效应,故与变异打分模型无配对。(出处)

局限与注意

  1. 基准由 NTv3 团队自建、自跑、自评,未见第三方复核。
  2. 人、牛、大鼠上前两名只差约 0.01,低于同一模型三个种子间的典型波动。
  3. 官方结果中同一模型同一轨道的三种子标准差中位约 0.018,个别轨道更大。
  4. 只评轨道预测,不评变异效应或临床判读,成绩不能外推到这些用途。
  5. 各模型覆盖的物种不同,跨物种求平均会把不同题集混在一起。

新模型怎么用

从官方数据集取基因组、切分与轨道,按统一的 32 kb 输入与单碱基预测头训练读出层,按物种分别报 Pearson 并给出种子数。引用必须写明是初版还是现行修订版、哪个物种、多少条轨道;不要跨物种求平均,也不要把本榜成绩读成变异效应能力。可与 Enformer、BEND 配套。

搭配:Basenji/Enformer test set · BEND · DART-Eval · GUE + Nucleotide Transformer 基准 · TraitGym

来源

  1. 官方榜单页面(榜单)
  2. 官方基准数据集(修订版)(官方网站)
  3. 基准与模型的预印本(预印本)
  4. 官方结果表(逐模型、物种、轨道、种子)(官方网站)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
scale 106 tasks, 7 species 155 tracks, 11 species in the current revised release; 106 tasks and 7 species belong to the 2025-12 initial release 官方页面 2026-10-29 已改版,旧规模只适用于初版。 依据 2026-11-18

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。