68 BioDesignBench
给 LLM 智能体一套蛋白设计工具,按计算指标与流程评分看能否完成设计任务。质量分(35 分)由 Boltz-2 预测给出,而 Boltz-2 也在智能体工具箱里,智能体可以直接针对评分器优化。
bench-68 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 文本与 agent · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | BioDesignBench;全称:LLM 智能体蛋白设计评测(BioDesignBench);别名:BioDesignBench Leaderboard |
| 家族 | 否(单一基准,只有一次榜单快照,无版本家族。) |
| 模型在做什么 | 多步分析与问答(agent) |
| 谁判对错 | 已有参考答案(1 条协议,逐条见下) |
| 领域 | 文本与 agent(次领域:蛋白、分子生成) |
| 发布方 | Duke University(学术实验室) |
| 首次发布 | (依据:预印本 bioRxiv v1;榜单数据文件标注更早的 2026-04-14,但不能证明当日已公开。) |
| 其他里程碑 | 最早公开证据 †(未核实)(榜单数据文件标注的更新日(不能证明当日已公开));预印本 v1 (预印本 bioRxiv v1) |
| 最近更新 | ,论文修订:预印本 v2 上线;仓库说明 2026-06-24 更新分数与示例任务,榜单数据仍停在 2026-04-14 快照。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(组织方未公告新一版或新一轮评测。) |
| 规模 | 76 道专家整理的蛋白设计任务,17 个参考工具,100 分混合评分;榜单 11 行。 明细:任务数(2026-04-14 board) 76;参考 MCP 工具(repository) 17;设计矩阵(repository) 2 × 5;评分满分(算法 / LLM 评审)(2026-04-14 board) 100 (72 / 28);质量项(Boltz-2 重预测)(2026-04-14 board) 35 points;榜单行(人类 2、固定流程 1、LLM 4×2 模式)(2026-04-14 board) 11 |
| 状态 | ◐ 低频:低频;榜单只有 2026-04 一次快照 |
| wet lab 更新 | 静态:无湿实验;设计质量全由结构预测计算。 |
| 需自补 wet lab | 断言真实泛化时需要 |
| 报告模型数 | 1 个计入(榜 1) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 68a BioDesignBench | 已有参考答案 | — | 前沿 LLM(榜) | 没有实验终点,质量分由结构预测器算出,而同样的预测器就在被测工具箱里;人类专家仍高于所有模型。 | 能回答:给定同一套设计工具时,各智能体能否规划并执行完整流程,以及与人类专家、固定流程的差距。 | 不能回答:设计出的蛋白在湿实验里是否有功能,也不能区分相差几分的条目(单次运行、无置信区间)。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:智能体经 MCP 调用生成、预测与物理工具,完成从头设计或改造任务,提交候选序列与结构。
- 真值:无实验真值:质量项由 Boltz-2 重预测的结构置信度指标计算,其余由规则与 LLM 评审给分。
- 主指标:100 分混合总分
- 次指标:六个分项(方法、编排、质量等);按设计方式与分子类别的分项分
- 版本陷阱:须写明工具呈现模式(guided 或 unguided)、榜单快照日与评审模型;人类上限、人类专家与固定流程行是参照,不是参赛条目。
当前排名
状态:▣ 榜单
- 指标:100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审)
- 评测集 / 口径:BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14
- 快照日期:
- 榜单页面
当前第一:DeepSeek V3 (unguided),60.43 /100(100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审);BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14;榜单;)
本站最佳:GPT-5 (unguided)(第 3 名)
说明:名次只排 LLM 智能体;人类专家 61.25、人类上限 74.85 均高于所有 LLM。质量分来自 Boltz-2 预测,未经实验验证。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| Human Oracle(非本站模型) | — | 74.85 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | 人类上限参照,质量项仅 26.24/35;不参与名次 | |
| Human Expert(非本站模型) | — | 61.25 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | 人类专家参照,高于所有 LLM 智能体;不参与名次 | |
| DeepSeek V3 (unguided)(非本站模型) | 1 | 60.43 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | LLM 智能体第一;开放权重模型,不在本站前沿模型类别内 | |
| DeepSeek V3 (guided)(非本站模型) | 2 | 58.46 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | — | |
| GPT-5 (unguided) | 3 | 55.61 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | 本站模型中最佳 | |
| GPT-5 (guided) | 4 | 55.26 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | — | |
| Hardcoded Pipeline(非本站模型) | — | 54.20 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | 非 LLM 固定流程参照;不参与名次 | |
| Claude Sonnet 4.5 (guided) | 5 | 50.23 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | — | |
| Claude Sonnet 4.5 (unguided) | 6 | 41.17 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | — | |
| Gemini 2.5 Pro (guided) | 7 | 8.75 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | — | |
| Gemini 2.5 Pro (unguided) | 8 | 8.11 /100 | 100 分混合总分(72 分算法评分含 Boltz-2 重预测,28 分 LLM 评审) | BioDesignBench 76 tasks, leaderboard snapshot 2026-04-14 | 榜单 | 出处 | — |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。1 个计入(榜 1)。
官方参赛 / 官方榜单(1)
提及但不构成配对
局限与注意
- 质量分(35 分)由 Boltz-2 预测给出,而 Boltz-2 也在智能体工具箱里,智能体可以直接针对评分器优化。
- 人类专家对照为 61.25 分,仍高于所有 LLM 智能体;人类上限仅 74.85 分,质量项 26.24/35,评分天花板受预测器限制。
- 完全没有湿实验,分数不代表设计出的蛋白有功能。
- 28 分来自 LLM 评审团,方法与编排分奖励按预期调用工具,测的更多是流程合规而非设计成功。
- 榜单只有 2026-04-14 一次快照、单次运行、未报置信区间,相差几分的条目无法区分。
新模型怎么用
经官方榜单的提交流程评测(任务私有、提交带 canary),本地可用官方仓库与参考工具服务自测。报告须写明 guided 或 unguided 模式、评审模型与运行次数;若要谈功能,须另做湿实验。可搭配 MotifBench 与 Adaptyv。
搭配:MotifBench · Adaptyv competitions / BenchBB · BioML-bench
来源
- 预印本(bioRxiv)(预印本)
- 官方仓库(评分流程与智能体框架)(仓库)
- 官方榜单(榜单)
更正记录
无。
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。