模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

18 LAB-Bench / LABBench2

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

生物研究基础能力题库;原版多选已部分饱和,作者以 LABBench2 取代。多选题抬高了原版分数;小子集(41 题与 135 题)噪声大;公开的 80% 可能已被污染;无湿实验证据

bench-18 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 文本与 agent · 核心 30 项 · 截至 2026-11-16

概况

字段 内容
名称 / 别名 LAB-Bench / LABBench2;全称:语言智能体生物学基准;别名:LAB-Bench、LABBench2、LitQA2、LitQA3、FigQA、ProtocolQA、SeqQA、SeqQA2、CloningScenarios、CloningQA、DbQA、SuppQA、TableQA;有歧义、不自动链接:LitQA
家族 家族条目:LAB-Bench ;LABBench2 †(未核实)。边界:家族条目:原版 LAB-Bench(多选)与 LABBench2(开放作答、可带工具);两者题库与分数不可同列
模型在做什么 多步分析与问答(agent)
谁判对错 已有参考答案(3 条协议,逐条见下)
领域 文本与 agent
发布方 FutureHouse、Edison Scientific(多类机构联合)
首次发布 (依据:LAB-Bench arXiv v1(2407.10362))
其他里程碑 预印本 v1 (LAB-Bench arXiv v1(2407.10362))
最近更新 ,仅维护:labbench2 评测框架提交:按注释 CDS 文件给 seqqa2 基因评分;2026-10 有多次评分器与运行器修复。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(组织方未公告下一版本或榜单更新时间。)
规模 原版 2,457 题、30 个子任务;LABBench2 1,912 个任务、11 类,无多选 明细:题目(论文 Table 1)(LAB-Bench) 2,457;子任务(LAB-Bench) 30;HF 公开行数(约 20% 私有留存)(LAB-Bench) 1,967;任务(论文 Table 1;发布页写 1,892)(LABBench2) 1,912;类别(LABBench2) 11
状态 ● 活跃:LABBench2 有官方榜(更新于 2026-03-23);原版部分子集已饱和
wet lab 更新 静态:无;题目由组织方内部编写,按版本修订
需自补 wet lab 不需要
报告模型数 3 个计入(榜 1 · 改协议 2);另 5 条不计入(未证实 5)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-16

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 3 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
18a LAB-Bench 原版·公开题 已有参考答案 弱或无(题目与答案公开) 前沿 LLM(榜/自) 多选形式使分数偏高,多个子类已接近或超过人类专家,是否给工具可带来约二十个百分点的差别。 能回答:在文献理解、图表解读、实验方案排错等题上,模型选对答案的比例,以及带工具与否的差别。 不能回答:开放作答下的真实水平(改开放后下降 26–46 个百分点),也不能据几十题的小子集排名。
18b LAB-Bench 原版·所谓隐藏测试集(自行切分的 315 题) 已有参考答案 弱或无(题目与答案公开) Biomni(自) 所谓隐藏题其实是从公开数据里自行切出的,成绩已与人类专家持平,差距落在统计误差内。 能回答:在数据库查询与序列操作两类题上,一套代理系统的正确率与人类专家接近到什么程度。 不能回答:在出题方真正保留的私有题集上成绩如何,也不能与人类直接比较(题量与可用工具都不对等)。
18c LABBench2(含官方榜) 已有参考答案 弱或无(题目与答案公开) GPT-Rosalind(自)、前沿 LLM(榜/自) 改为开放作答并加可执行验证;代码工具把分数抬高十几到二十几个百分点,子任务难度从 0.36 到 0.95 差距极大。 能回答:在实验与文献类任务上,模型裸答与带工具执行的差距,以及各子任务的难易分布。 不能回答:总分接近的模型谁更强——总分是 15 个子基准等权平均,掩盖长尾,且成绩由出题方自行运行。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:LLM 与 agent 的生物研究能力:文献、数据库、图表、序列、克隆与实验协议排错
  • 真值:专家编写答案,部分(ProtocolQA、SeqQA)程序构造;LABBench2 序列与克隆题用可执行验证器
  • 主指标:accuracy(LABBench2:验证器或专家评审)
  • 次指标:precision(原版);coverage(原版)
  • 版本陷阱:原版与 LABBench2 题库不同,不可同列;须写明版本、有无工具、是否内联上下文与榜单日期;厂商系统卡子项常为派生口径

当前排名

状态:▣ 榜单

  • 指标:LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base'
  • 评测集 / 口径:LABBench2 (1,912 tasks, 11 categories)
  • 快照日期:
  • 榜单页面

当前第一:gpt-5-2,0.609 (Tools + high); Base 0.345(LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base';LABBench2 (1,912 tasks, 11 categories);榜单;)

说明:榜单仅 5 个模型(页面标注发布 2026-02-05、更新 2026-03-23),无 GPT-Rosalind 或 agent 系统;原版无榜单,厂商系统卡数字为自报子集

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
gpt-5-2 1 0.609 (Tools + high); Base 0.345 LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' LABBench2 (1,912 tasks, 11 categories) 榜单 出处 总榜第一(Tools + high);Base 设定第一为 gemini-3-pro-preview(0.404)
gpt-5-2-pro 2 0.583 (Tools + high); Base 0.382 LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' LABBench2 (1,912 tasks, 11 categories) 榜单 出处 —
gemini-3-pro-preview 3 0.564 (Tools + high); Base 0.404 LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' LABBench2 (1,912 tasks, 11 categories) 榜单 出处 —
claude-opus-4-6 4 0.519 (Tools + high); Base 0.349 LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' LABBench2 (1,912 tasks, 11 categories) 榜单 出处 —
claude-opus-4-5 5 0.471 (Tools + high); Base 0.325 LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' LABBench2 (1,912 tasks, 11 categories) 榜单 出处 —
Biomni — 不显示:出处不全(缺 url 与日期),按诚实规则不显示该数字†(未核实) LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' Original LAB-Bench DbQA/SeqQA subsets (not LABBench2) 自报(二手) —†(未核实) — 原版 LAB-Bench 子集,非 LABBench2;来自本站笔记(二手),未复核;与榜单不可比

排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。3 个计入(榜 1 · 改协议 2);另 5 条不计入(未证实 5)。

官方参赛 / 官方榜单(1)

开发方自报,协议有改动(2)

  • Biomni:开发方自报,只用 DbQA/SeqQA 子集,口径与官方不同(自报,置信度低,未核实†;出处)
  • GPT-Rosalind:只覆盖该评测第二版 15 项中的 11 项,官方只给定性结论,无公开分数,官方榜单亦未收录(自报,置信度中;出处)

未证实(5,不计数)

  • Co-Scientist:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
  • Intern-S:官方仓库与三篇论文的可读正文均未出现该评测的报分(未知,置信度高;出处)
  • Quine:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
  • SciReasoner:论文正文未出现,该格仅据本站页面判定,须显示未证实(二手,置信度高;出处)
  • VERID:官方材料(博客与论文)未检出该评测的报分(未知,置信度高;出处)

局限与注意

  1. 多选题抬高了原版分数;小子集(41 题与 135 题)噪声大;公开的 80% 可能已被污染;无湿实验证据
  2. LABBench2 论文称各模型准确率较原版低 26–46 个百分点;原版分数不能代表开放作答能力
  3. 厂商系统卡的子项(如开放作答版 ProtocolQA)是派生口径,同一子项有多套复述数字,应以原文为准
  4. ProtocolQA 是纸面找错,不涉及实际实验执行

新模型怎么用

跑仓库或 Hugging Face 数据即可,无需湿实验;原版需自写 agent 函数返回选项字母。优先使用 LABBench2,写明有无工具(检索、代码执行)、是否内联上下文与榜单日期;私有 20% 留存集无法自查污染。搭配 BixBench 与 Adaptyv 等湿实验盲测。

搭配:BixBench · Adaptyv competitions / BenchBB · PubMedQA · BioASQ

来源

  1. LAB-Bench 论文 arXiv 2407.10362(预印本)
  2. LABBench2 论文 arXiv 2604.09554(预印本)
  3. LABBench2 官方榜单页(榜单)
  4. LABBench2 发布页(公司博客)
  5. labbench2 仓库(仓库)
  6. LAB-Bench 仓库(仓库)
  7. LAB-Bench Hugging Face 数据(仓库)
  8. Claude Opus 4.5 系统卡(厂商自报)(公司博客)
  9. Biomni 预印本(开发方)(预印本)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
ranking.entries[Biomni] Biomni original LAB-Bench subset scores shown as a ranking entry Score withheld: entry lacks url and date 变更集 §5.3:provenance 不全(缺 url 与日期)的条目不显示分数。 依据 2026-11-16

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。