模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

29 BixBench

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

让 agent 在容器里对真实数据写代码做生信分析,并按结论判分。真值出自单人分析,存在题目歧义与错误答案,第三方核验子集上的分数明显更高。

bench-29 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 文本与 agent · 核心 30 项 · 截至 2026-11-16

概况

字段 内容
名称 / 别名 BixBench;全称:生物信息分析 agent 评测(BixBench);别名:BixBench v1.5、BixBench3;有歧义、不自动链接:Verified-50
家族 否(后继版本由另一家机构运营、任务与指标都不同,本站单列,不作同一家族。)
模型在做什么 多步分析与问答(agent)
谁判对错 已有参考答案(3 条协议,逐条见下)
领域 文本与 agent
发布方 FutureHouse、ScienceMachine(非营利研究机构)
首次发布 †(未核实)(依据:论文 arXiv v1(2025-02-28);数据集托管页的创建日早一天,但创建不等于公开可用。) 托管页创建日不作首发
其他里程碑 预印本 v1 †(未核实)(论文 arXiv v1);代码发布 †(未核实)(官方仓库最后一次合入)
最近更新 †(未核实),榜单条目:后继版本的榜单新增一条模型条目;原版本的最近事件是论文修订与仓库合入。(榜单页只有逐条发布日,无整体快照日)。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(组织方未公告原版本的新一版或新一轮评测。)
规模 初版 53 个 capsule、296 题;修订版约 61 个 capsule、205 题。 明细:capsule 数(v1) 53;题目数(v1) 296;capsule 数(v3 / repository v1.5) 约 61;题目数(v3 / repository v1.5) 205;后继版本任务数(successor) 20
状态 ● 活跃:活跃;后继版本有官方榜单并在持续更新
wet lab 更新 静态:无实验;版本更新是过滤式修订,不新增数据。
需自补 wet lab 不需要
报告模型数 3 个计入(榜 1 · 自报 1 · 改协议 1);另 6 条不计入(未证实 6)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-16

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 3 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
29a BixBench 原版 v1/v1.5 全集 已有参考答案 弱或无(题目与答案公开) Biomni(自)、GPT-Rosalind(自)、Kosmos/Edison Analysis(自/三)、前沿 LLM(榜/自/三) 抽样复审发现约三分之一题目的题干或答案需要修改,数值题的选项判分抬高了成绩,判分模型与被测同族。 能回答:代理系统在真实生信分析任务上,得出与参考答案一致结论的大致比例。 不能回答:相差几个百分点的系统谁更强——约三分之一题目有缺陷,各家脚手架与运行方也不同。
29b BixBench Verified-50 已有参考答案 弱或无(题目与答案公开) Biomni(自)、前沿 LLM(榜/自/三) 50 题经复审修订,去掉歧义与错误真值,更能反映分析能力;但题量小,修订与判分由同一利益相关方完成。 能回答:在去掉歧义与错误真值后的 50 道分析题上,各代理系统的通过比例。 不能回答:头部差距是否真实——50 题的统计误差约 6 个百分点,且修订方同时开发其中一个系统。
29c BixBench3(后继版官方榜) 已有参考答案 中(数据需同意条款获取;运行时限制检索) Kosmos/Edison Analysis(自/三)、前沿 LLM(榜/自/三) 按已发表论文的产物程序化判分,避开了模型打分;20 个任务等权平均,大数据任务仍几乎做不出来。 能回答:在 20 个真实分析任务上,模型能否产出与论文结果数值一致的产物,以及总体完成水平。 不能回答:分数相近的条目谁更强(每个任务只跑一次),也不认可规定方法之外的合理替代分析。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:agent 在真实数据集上写并运行代码,完成多步生信分析,按结论判分。
  • 真值:专家分析笔记本给出的结论,不是湿实验测量。
  • 主指标:开放作答准确率(由模型判分)
  • 次指标:选择题准确率(含与不含“信息不足”选项)
  • 版本陷阱:必须写明版本与子集:初版、修订版、第三方核验子集与后继版本的题量和指标都不同。

当前排名

状态:▣ 榜单

  • 指标:平均分(后继版本 20 个任务,按源论文程序化判分)
  • 评测集 / 口径:BixBench3 (successor benchmark, 20 research-study-scale tasks)
  • 快照日期:†(未核实)
  • 榜单页面

当前第一:gemini-4-argon,0.523(平均分(后继版本 20 个任务,按源论文程序化判分);BixBench3 (successor benchmark, 20 research-study-scale tasks);榜单;†(未核实))

说明:唯一的官方榜单属于后继版本,任务与指标都不同,与原版本的准确率不可比;原版本没有官方榜单,也没有官方核验子集,相关条目是自报或第三方数字。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
gemini-4-argon 1 0.523 平均分(后继版本 20 个任务,按源论文程序化判分) BixBench3 (successor benchmark, 20 research-study-scale tasks) 榜单 出处 榜单第一名;条目标注的发布日为 2026-10-16
claude-fable-5.1 (with fallback) 2 0.515 平均分(后继版本 20 个任务,按源论文程序化判分) BixBench3 (successor benchmark, 20 research-study-scale tasks) 榜单 出处 模型名按榜单原样抄录
claude-opus-5.5 3 0.502 平均分(后继版本 20 个任务,按源论文程序化判分) BixBench3 (successor benchmark, 20 research-study-scale tasks) 榜单 出处 —
gpt-6-astra 4 0.492 平均分(后继版本 20 个任务,按源论文程序化判分) BixBench3 (successor benchmark, 20 research-study-scale tasks) 榜单 出处 —
grok-4.6 5 0.488 平均分(后继版本 20 个任务,按源论文程序化判分) BixBench3 (successor benchmark, 20 research-study-scale tasks) 榜单 出处 榜单共列 20 个模型,末位为 0.000
Biomni — 52.2% (full set) / 88.7% (Verified-50) 平均分(后继版本 20 个任务,按源论文程序化判分) Original BixBench: full set, plus a third-party verified subset of 50 questions 自报 出处 原版本而非后继版本;由其开发方自己跑,不与榜单同列
Kosmos/Edison Analysis — 46% (Edison self-report, full set); 42.4% full set / 78.0% Verified-50 (Phylo re-run) 平均分(后继版本 20 个任务,按源论文程序化判分) Original BixBench: full set, plus a third-party verified subset of 50 questions 第三方 出处 原版本;自报方与后继版本的运营方同属一家,存在利益关联

排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。3 个计入(榜 1 · 自报 1 · 改协议 1);另 6 条不计入(未证实 6)。

官方参赛 / 官方榜单(1)

开发方按官方口径自报(1)

  • Kosmos / Edison Analysis:开发方自报,且该数字属 Edison Analysis,与 Kosmos 的产品对应关系不清;BixBench 由同一公司制作;未进 BixBench3 官方榜(自报,置信度低,未核实†;出处)

开发方自报,协议有改动(1)

  • Biomni:由开发方 Phylo 自跑(全集与 verified-50 子集),且 Phylo 是 benchmark 方的竞争者(自报,置信度中,未核实†;出处)

未证实(6,不计数)

  • Co-Scientist:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
  • GPT-Rosalind:官方文字只称在有公开分数的模型中领先,未注明评测版本;具体数值只见于二手转述且各家不一致(二手,置信度中;出处)
  • Intern-S:官方仓库与三篇论文的可读正文均未出现该评测的报分(未知,置信度高;出处)
  • Quine:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
  • SciReasoner:论文正文未出现,该格仅据本站页面判定,须显示未证实(二手,置信度高;出处)
  • VERID:官方材料(博客与论文)未检出该评测的报分(未知,置信度高;出处)

局限与注意

  1. 真值出自单人分析,存在题目歧义与错误答案,第三方核验子集上的分数明显更高。
  2. 选择题版本信号很弱,开放作答由模型判分,判分器本身是误差来源。
  3. 数据与题目公开,存在训练污染风险,且无时间冻结。
  4. 引用分数必须标版本:各版本题量与子集不同,数值不可直接比较。
  5. 后继版本由商业机构运营并自报成绩,存在利益关联。

新模型怎么用

按官方环境在容器内跑 agent,对每个 capsule 产出分析结论并用官方判分脚本计分,不需自补湿实验。报告须写明版本、题量、是否用核验子集、判分模型与 agent 框架,并区分开放作答与选择题;后继版本的分数不得与原版本混比。可搭配 LAB-Bench 与 BioML-bench。

搭配:LAB-Bench / LABBench2 · BioML-bench · BioMysteryBench · BioASQ

来源

  1. 原论文(预印本)
  2. 官方仓库与评测环境(仓库)
  3. 官方数据集托管页(仓库)
  4. 后继版本官方榜单页(榜单)
  5. 第三方核验子集与复跑的博客(公司博客)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
ranking.eval_set all ranking rows labelled as the successor's task set rows on the original benchmark are labelled as the original's full set plus a third-party verified subset 后继版本与原版本任务与指标不同,标签必须分开,否则两套分数会被误读为可比。 依据 2026-11-16
first_release 2025-03 2025-02-28 (paper arXiv v1) 日期审计:论文 v1 的发布日早于编号所示月份,托管页创建日不作首发。 依据 2026-11-16

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。