模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

68 BioDesignBench

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

给 LLM 智能体一套蛋白设计工具,按计算指标与流程评分看能否完成设计任务。质量分(35 分)由 Boltz-2 预测给出,而 Boltz-2 也在智能体工具箱里,智能体可以直接针对评分器优化。

bench-68 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 文本与 agent · 2026-11 新收录 · 截至 2026-11-18

概况

字段 内容
名称 / 别名 BioDesignBench;全称:LLM 智能体蛋白设计评测(BioDesignBench);别名:BioDesignBench Leaderboard
家族 否(单一基准,只有一次榜单快照,无版本家族。)
模型在做什么 多步分析与问答(agent)
谁判对错 已有参考答案(1 条协议,逐条见下)
领域 文本与 agent(次领域:蛋白、分子生成)
发布方 Duke University(学术实验室)
首次发布 (依据:预印本 bioRxiv v1;榜单数据文件标注更早的 2026-04-14,但不能证明当日已公开。)
其他里程碑 最早公开证据 †(未核实)(榜单数据文件标注的更新日(不能证明当日已公开));预印本 v1 (预印本 bioRxiv v1)
最近更新 ,论文修订:预印本 v2 上线;仓库说明 2026-06-24 更新分数与示例任务,榜单数据仍停在 2026-04-14 快照。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(组织方未公告新一版或新一轮评测。)
规模 76 道专家整理的蛋白设计任务,17 个参考工具,100 分混合评分;榜单 11 行。 明细:任务数(2026-04-14 board) 76;参考 MCP 工具(repository) 17;设计矩阵(repository) 2 × 5;评分满分(算法 / LLM 评审)(2026-04-14 board) 100 (72 / 28);质量项(Boltz-2 重预测)(2026-04-14 board) 35 points;榜单行(人类 2、固定流程 1、LLM 4×2 模式)(2026-04-14 board) 11
状态 ◐ 低频:低频;榜单只有 2026-04 一次快照
wet lab 更新 静态:无湿实验;设计质量全由结构预测计算。
需自补 wet lab 断言真实泛化时需要
报告模型数 1 个计入(榜 1)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-18

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
68a BioDesignBench 已有参考答案 — 前沿 LLM(榜) 没有实验终点,质量分由结构预测器算出,而同样的预测器就在被测工具箱里;人类专家仍高于所有模型。 能回答:给定同一套设计工具时,各智能体能否规划并执行完整流程,以及与人类专家、固定流程的差距。 不能回答:设计出的蛋白在湿实验里是否有功能,也不能区分相差几分的条目(单次运行、无置信区间)。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:智能体经 MCP 调用生成、预测与物理工具,完成从头设计或改造任务,提交候选序列与结构。
  • 真值:无实验真值:质量项由 Boltz-2 重预测的结构置信度指标计算,其余由规则与 LLM 评审给分。
  • 主指标:100 分混合总分
  • 次指标:六个分项(方法、编排、质量等);按设计方式与分子类别的分项分
  • 版本陷阱:须写明工具呈现模式(guided 或 unguided)、榜单快照日与评审模型;人类上限、人类专家与固定流程行是参照,不是参赛条目。

当前排名

状态:▣ 榜单

  • 指标:100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审)
  • 评测集 / 口径:BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14
  • 快照日期:
  • 榜单页面

当前第一:DeepSeek V3 (unguided),60.43 /100(100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审);BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14;榜单;)

本站最佳:GPT-5 (unguided)(第 3 名)

说明:名次只排 LLM 智能体;人类专家 61.25、人类上限 74.85 均高于所有 LLM。质量分来自 Boltz-2 预测,未经实验验证。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
Human Oracle(非本站模型) — 74.85 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 人类上限参照,质量项仅 26.24/35;不参与名次
Human Expert(非本站模型) — 61.25 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 人类专家参照,高于所有 LLM 智能体;不参与名次
DeepSeek V3 (unguided)(非本站模型) 1 60.43 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 LLM 智能体第一;开放权重模型,不在本站前沿模型类别内
DeepSeek V3 (guided)(非本站模型) 2 58.46 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 —
GPT-5 (unguided) 3 55.61 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 本站模型中最佳
GPT-5 (guided) 4 55.26 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 —
Hardcoded Pipeline(非本站模型) — 54.20 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 非 LLM 固定流程参照;不参与名次
Claude Sonnet 4.5 (guided) 5 50.23 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 —
Claude Sonnet 4.5 (unguided) 6 41.17 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 —
Gemini 2.5 Pro (guided) 7 8.75 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 —
Gemini 2.5 Pro (unguided) 8 8.11 /100 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 榜单 出处 —

排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。1 个计入(榜 1)。

官方参赛 / 官方榜单(1)

  • 前沿通用大模型:官方榜单含 GPT-5、Claude Sonnet 4.5、Gemini 2.5 Pro 各两种工具呈现模式;按模型集合计一格(榜单,置信度高;出处)

提及但不构成配对

  • Boltz-2:Boltz-2 是评分器,同时也在智能体工具箱里,不是被测模型。(出处)
  • Biomni:官方仓库含 Biomni 的智能体包装器,但榜单没有它的条目。(出处)

局限与注意

  1. 质量分(35 分)由 Boltz-2 预测给出,而 Boltz-2 也在智能体工具箱里,智能体可以直接针对评分器优化。
  2. 人类专家对照为 61.25 分,仍高于所有 LLM 智能体;人类上限仅 74.85 分,质量项 26.24/35,评分天花板受预测器限制。
  3. 完全没有湿实验,分数不代表设计出的蛋白有功能。
  4. 28 分来自 LLM 评审团,方法与编排分奖励按预期调用工具,测的更多是流程合规而非设计成功。
  5. 榜单只有 2026-04-14 一次快照、单次运行、未报置信区间,相差几分的条目无法区分。

新模型怎么用

经官方榜单的提交流程评测(任务私有、提交带 canary),本地可用官方仓库与参考工具服务自测。报告须写明 guided 或 unguided 模式、评审模型与运行次数;若要谈功能,须另做湿实验。可搭配 MotifBench 与 Adaptyv。

搭配:MotifBench · Adaptyv competitions / BenchBB · BioML-bench

来源

  1. 预印本(bioRxiv)(预印本)
  2. 官方仓库(评分流程与智能体框架)(仓库)
  3. 官方榜单(榜单)

更正记录

无。

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。