模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

67 VenusX

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

细粒度功能注释基准:残基、片段与配对三个粒度,含跨家族切分。真值是数据库注释,不少由家族传播或计算推导,不是逐条实验测定。

bench-67 · 模型在做什么:理解状态(表征与排序) · 谁判对错:已有参考答案 · 蛋白 · 2026-11 新收录 · 截至 2026-11-18

概况

字段 内容
名称 / 别名 VenusX
家族 否(单一基准,发布至今没有版本家族。)
模型在做什么 理解状态(表征与排序)
谁判对错 已有参考答案(1 条协议,逐条见下)
领域 蛋白(次领域:抗体)
发布方 Shanghai Jiao Tong University、East China University of Science and Technology(学术实验室)
首次发布 (依据:该基准论文的 arXiv v1 投稿日)
其他里程碑 预印本 v1 (该基准论文的 arXiv v1 投稿日)
最近更新 ,仅维护:官方仓库的代码推送;数据集与切分未变,仓库简介另称论文被 ICLR 2026 收录,未核到收录页。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(维护方未公告新版本数据集或新一轮评测。)
规模 逾 878,000 个样本、56 个数据集;6 类注释 × 2 种切分 × 3 个同一性阈值。 明细:样本数(paper v1) 878,000+;数据集数(paper v1) 56;注释类别(活性位点、结合位点、保守位点、motif、结构域、表位)(paper v1) 6;同一性阈值(50/70/90%)(paper v1) 3;学习型基线模型数(paper v1) 15;对齐类基线(Foldseek、TM-align、BLASTP)(paper v1) 3
状态 ○ 冻结:数据集静态,仓库仍有代码提交
wet lab 更新 静态:不做新实验;标注取自 InterPro、BioLiP 与 SAbDab。
需自补 wet lab 断言真实泛化时需要
报告模型数 1 个计入(第三方 1)
当前排名 ≠ 不可比(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-18

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
67a VenusX 功能位点与片段注释 已有参考答案 — 多个蛋白语言模型基线(ESM2 t30/t33/t36、ESM-1b、ProtBert、ProtT5、Ankh-base、TM-vec、ProstT5、SaProt 35M_AF2/650M_PDB、ProtSSN、ESM-IF1、MIF-ST、GVP-GNN)(自) 结构对齐工具在多个设置下居首而序列对齐基线大幅落后;跨家族切分下残基级预测大幅下降,表位几乎无区分度。 能回答:在残基、片段、结构域三个粒度上,序列模型、结构模型与对齐工具各在哪类注释更可靠。 不能回答:这些分数对应多少真实的功能发现——真值是数据库注释,不是实验验证的位点。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:在残基、片段与配对三个粒度上判定功能注释:标位点、分片段类别、给功能相似度打分。
  • 真值:InterPro、BioLiP 与 SAbDab 的注释,其中不少由家族传播或计算推导。
  • 主指标:残基级 AUPR、片段级 macro-F1、成对 AUC
  • 次指标:片段级 MCC 与宏平均精确率/召回率;跨家族相对混合家族的掉分幅度
  • 版本陷阱:混合家族与跨家族两套数字不可横向比较,引用必须写明切分与同一性阈值。

当前排名

状态:≠ 不可比

  • 指标:残基级 AUPR、片段级 macro-F1、成对 AUC
  • 评测集 / 口径:VenusX: six annotation types x mixed-family / cross-family x 50/70/90% identity
  • 快照日期:(旧:早于截至日 12 个月以上)

排名行不显示分数:4 个口径,无统一排名

说明:无官方榜单与总分;数字全部出自基准论文,混合家族与跨家族两套不可横比。

不可比:下表按条目列出,不排名次。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
Ankh-base(非本站模型) — 不显示:口径不可比:注释类别、切分与同一性阈值各异,排名行不显示分数。 残基级 AUPR、片段级 macro-F1、成对 AUC VenusX: six annotation types x mixed-family / cross-family x 50/70/90% identity 榜单 出处 混合家族的 15 项 InterPro 任务中 7 项 AUPR 居首,但不通吃
SaProt-650M — 不显示:口径不可比:注释类别、切分与同一性阈值各异,排名行不显示分数。 残基级 AUPR、片段级 macro-F1、成对 AUC VenusX: six annotation types x mixed-family / cross-family x 50/70/90% identity 榜单 出处 跨家族 InterPro 任务上最佳或次佳,由基准作者复跑
Foldseek(非本站模型) — 不显示:口径不可比:注释类别、切分与同一性阈值各异,排名行不显示分数。 残基级 AUPR、片段级 macro-F1、成对 AUC VenusX: six annotation types x mixed-family / cross-family x 50/70/90% identity 榜单 出处 成对任务 8 个设置中 3 个居首,最高 AUC 99.0%,是结构对齐基线
BLASTP(非本站模型) — 不显示:口径不可比:注释类别、切分与同一性阈值各异,排名行不显示分数。 残基级 AUPR、片段级 macro-F1、成对 AUC VenusX: six annotation types x mixed-family / cross-family x 50/70/90% identity 榜单 出处 序列对齐基线,每项任务落后 40 个 AUC 点以上

排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。1 个计入(第三方 1)。

第三方评测(1)

  • SaProt:由基准作者复跑 35M 与 650M 两档;650M 在跨家族切分上最佳或次佳(第三方,置信度高;出处)

局限与注意

  1. 真值是数据库注释,不少由家族传播或计算推导,不是逐条实验测定。
  2. 跨家族切分下活性位点与结合位点的最佳 AUPR 比混合家族掉 70%–80%。
  3. 表位一类在所有切分下都没有模型超过 0.3 AUPR,与结构域一类混在同一张表里。
  4. 对齐基线强弱取决于用结构还是序列:结构对齐接近天花板,序列对齐大幅落后。
  5. 被评模型的预训练语料覆盖这些家族,官方未做预训练暴露审计。

新模型怎么用

从官方仓库取数据,按给定的混合家族与跨家族切分在 50%、70%、90% 三个同一性阈值上各跑一遍,逐注释类别报分,并必须带上 Foldseek 等对齐基线作对照。只报混合家族的数字会高估跨家族能力,表位一类所有模型都不超过 0.3 AUPR。

搭配:CAFA · FLIP / FLIP2 · ProteinGym

来源

  1. 原论文预印本(预印本)
  2. 原论文全文(含基线表)(预印本)
  3. 官方仓库(仓库)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
scale / ranking.entries baseline list and numbers not verified Fifteen learned baselines plus three alignment baselines, with the reported leaders verified in the paper 本轮回原文核到逐模型名单与关键数值。 依据 2026-11-18

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。