模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

64 ScienceAgentBench

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

从 44 篇论文提取 102 个数据驱动任务,要求 agent 写出可运行的完整 Python 程序。HAL 榜已暂停收新模型,榜首仍是 2025 年条目,不代表 2026 年模型的水平。

bench-64 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 文本与 agent · 2026-11 新收录 · 截至 2026-11-18

概况

字段 内容
名称 / 别名 ScienceAgentBench;全称:数据驱动科学发现的语言 agent 评测(ScienceAgentBench);别名:ScienceAgentBench verified;有歧义、不自动链接:SAB
家族 否(原版与 2026 年 verified 版是同一题集的修订,属版本而非家族。)
模型在做什么 多步分析与问答(agent)
谁判对错 已有参考答案(1 条协议,逐条见下)
领域 文本与 agent(次领域:小分子)
发布方 The Ohio State University(学术实验室)
首次发布 (依据:论文预印本 arXiv 2410.05080 v1;仓库自述 agent 与评测代码早几天发布,但只有自述、无打标版本,不作首发。)
其他里程碑 预印本 v1 (论文预印本 arXiv 2410.05080 v1);代码发布 †(未核实)(仓库 README 更新记录:agent 与评测代码发布(与仓库创建同日))
最近更新 ,新版本:发布 verified 版以减少评测假阴性,数据集改为 verified 切分;此后只有 2026-11-16 的链接修正。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(组织方未公告新一版或新一轮评测。)
规模 102 题,来自 4 个学科的 44 篇论文;其中生物信息学 27 题、计算化学 20 题。 明细:任务数(original and verified split) 102;来源论文(original) 44;学科数(original) 4;生物信息学任务(verified split) 27;计算化学任务(verified split) 20;地理信息科学任务(verified split) 27;心理与认知科学任务(verified split) 28;参与验证的学科专家(original) 9
状态 ◐ 低频:低频;2026-04 出 verified 版,HAL 榜已暂停收新模型
wet lab 更新 静态:无实验;任务来自已发表论文的数据分析,verified 版只修正判分。
需自补 wet lab 不需要
报告模型数 1 个计入(榜 1)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-18

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
64a ScienceAgentBench 已有参考答案 — 前沿 LLM(榜) 成功与否由可执行脚本判定,自调试能把成绩抬高近一倍;官方榜停在 2025 年条目,生物类题只占一部分。 能回答:在含 27 道生信题的数据驱动任务上,模型配简单自调试外壳能否写出通过判据的完整程序。 不能回答:2026 年新模型的水平(官方榜已停更),也不能区分榜上相邻条目。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:agent 读入数据集与任务说明,写出一个可独立运行的 Python 程序,产出指定结果文件。
  • 真值:论文原分析的参考程序与输出;图像类输出由 GPT-4o 评判。
  • 主指标:成功率(SR)
  • 次指标:可执行率(VER);CodeBERTScore 与 API 成本
  • 版本陷阱:原论文取 3 次尝试最佳,HAL 为单次运行;2026-04 起应用 verified 切分,旧数字与新切分不可直接比。

当前排名

状态:▣ 榜单

  • 指标:成功率(HAL,SAB Self-Debug 外壳,单次运行)
  • 评测集 / 口径:ScienceAgentBench 102 tasks (HAL, SAB Self-Debug, single run)
  • 快照日期:†(未核实)(旧:早于截至日 12 个月以上)
  • 榜单页面

当前第一:o3 Medium (April 2025), SAB Self-Debug,33.33%(成功率(HAL,SAB Self-Debug 外壳,单次运行);ScienceAgentBench 102 tasks (HAL, SAB Self-Debug, single run);榜单;†(未核实);旧)

说明:HAL 已暂停收新模型,榜首仍是 2025 年模型,快照标旧;第三方配对复析称 25 个 agent 中 15 个都可能排第一。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
o3 Medium (April 2025), SAB Self-Debug 1 33.33% 成功率(HAL,SAB Self-Debug 外壳,单次运行) ScienceAgentBench 102 tasks (HAL, SAB Self-Debug, single run) 榜单 †(未核实) 出处 榜单第一名,带 HAL 复现标记
Claude Sonnet 4.5 High (September 2025), SAB Self-Debug 2 30.39% 成功率(HAL,SAB Self-Debug 外壳,单次运行) ScienceAgentBench 102 tasks (HAL, SAB Self-Debug, single run) 榜单 †(未核实) 出处 与第 1 名相差 3 题;另有两条同为 30.39%
OpenAI o1-preview (self-debug) — 42.2% 成功率(原论文,3 次尝试取最佳) ScienceAgentBench 102 tasks (original paper protocol) 第三方 出处 基准作者运行;3 次尝试取最佳,与 HAL 单次运行口径不同
Claude-3.5-Sonnet (self-debug / direct prompting) — 32.4% (self-debug) / 16.7% (direct prompting) 成功率(原论文,3 次尝试取最佳) ScienceAgentBench 102 tasks (original paper protocol) 第三方 出处 不执行代码的直接提示与自调试外壳对照

排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。1 个计入(榜 1)。

官方参赛 / 官方榜单(1)

局限与注意

  1. HAL 榜已暂停收新模型,榜首仍是 2025 年条目,不代表 2026 年模型的水平。
  2. 头部分差在一个标准误内(102 题时约 4.7 个百分点);第三方配对复析显示相邻 agent 多数无法区分。
  3. 生物相关题不到一半:生物信息学 27 题、计算化学 20 题,其余为地理信息与心理学。
  4. 原论文取 3 次尝试最佳,HAL 为单次运行;2026-04 的 verified 版修正了假阴性,新旧数字不可直接比。
  5. 数据集与参考程序可下载,存在训练污染风险;作者以删点和替换测试标签等改动缓解。

新模型怎么用

从数据集托管页取 verified 切分的标注表,按官方说明下载完整评测包,用容器化评测脚本运行。报告须写明切分(原版或 verified)、尝试次数、外壳、是否用专家知识,并单列生物信息学与计算化学子集。不需自补湿实验。可搭配 BixBench 与 BioML-bench。

搭配:BixBench · BioML-bench · LAB-Bench / LABBench2 · scBench

来源

  1. 原论文(ICLR 2025)(预印本)
  2. 官方仓库与评测脚本(仓库)
  3. 官方数据集托管页(verified 切分)(仓库)
  4. HAL 榜单页(榜单)
  5. 对 HAL 榜单的第三方配对复析(第三方论文)

更正记录

无。

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。