62 HeurekaBench
单细胞科研 agent 评测:从已发表研究复现洞见,开放题与选择题各 50 道。智能体比较只在 Lite 子集(开放题 22、选择题 18),头部差距在误差内,不能排名。
bench-62 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 文本与 agent · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | HeurekaBench;别名:sc-HeurekaBench、sc-HeurekaBench-Lite |
| 家族 | 否(Lite 是同一题集的子集,不构成家族。) |
| 模型在做什么 | 多步分析与问答(agent) |
| 谁判对错 | 已有参考答案(1 条协议,逐条见下) |
| 领域 | 文本与 agent(次领域:单细胞) |
| 发布方 | EPFL(学术实验室) |
| 首次发布 | (依据:arXiv 2601.01678 v1) |
| 其他里程碑 | 预印本 v1 (arXiv 2601.01678 v1) |
| 最近更新 | ,仅维护:仓库仅改 README 链接;论文 v2 为 2026-02-22,之后未见新报分或榜单。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(维护方未公告新版本或新一轮评测的日期。) |
| 规模 | 50 道开放题与 50 道选择题,来自 13 篇论文的 41 条洞见;Lite 子集 22/18 题。 明细:开放题数(sc-HeurekaBench) 50;选择题数(sc-HeurekaBench) 50;已验证洞见数(sc-HeurekaBench) 41;来源论文数(sc-HeurekaBench) 13;Lite 开放题 / 选择题(sc-HeurekaBench-Lite) 22 / 18 |
| 状态 | ◐ 低频:论文发布后只有维护性提交 |
| wet lab 更新 | 静态:不做新实验;真值是重新运行代码复现过的已发表结论。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 3 个计入(第三方 3) |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 62a HeurekaBench | 已有参考答案 | — | Biomni(三)、CellVoyager(三)、BixBench-Agent(三)、MedGemma/Med-Gemini(三)、前沿 LLM(三) | 真值是人工复现过的论文洞见;题目经对抗过滤偏向两款模型,系统间比较只在十几到二十几题的小子集上。 | 能回答:在已复现的单细胞研究洞见上,智能体能否通过分析数据重新得出论文结论。 | 不能回答:几种智能体谁更好(子集太小,头部差距在误差内),也不代表做出新发现的能力。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:智能体分析单细胞 RNA-seq 数据,回答开放题或选择题,重新得出论文中的结论。
- 真值:经代码复现验证的论文洞见(9 篇 Nature、4 篇 Cell)。
- 主指标:开放题 1–5 分(LLM 评分)
- 次指标:选择题准确率
- 版本陷阱:智能体之间只在 Lite 子集比较,全集只用于规划器对比;两者分数不可混用。
当前排名
状态:≠ 不可比
- 指标:开放题 1–5 分(GPT-4o 评分)
- 评测集 / 口径:sc-HeurekaBench-Lite (22 OEQ / 18 MCQ) vs full set (50 / 50)
- 快照日期:
排名行不显示分数:3 个口径,无统一排名
说明:无官方榜单;三个智能体只在小子集上比较,开放题与选择题第一名不同,差距在误差内。
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| BixBench-Agent(非本站模型) | — | 不显示:头部差距落在误差内,且子集与指标不同,排名行不显示分数。 | 开放题 1–5 分(GPT-4o 评分) | sc-HeurekaBench-Lite | 第三方 | 出处 | 出题方运行;大数据集上崩溃,只比 Lite | |
| Biomni (Claude-4-Sonnet planner) | — | 不显示:头部差距落在误差内,且子集与指标不同,排名行不显示分数。 | 开放题 1–5 分(GPT-4o 评分) | sc-HeurekaBench-Lite | 第三方 | 出处 | 出题方运行;全集上为 2.58 | |
| CellVoyager(非本站模型) | — | 不显示:头部差距落在误差内,且子集与指标不同,排名行不显示分数。 | 开放题 1–5 分(GPT-4o 评分) | sc-HeurekaBench-Lite | 第三方 | 出处 | 出题方运行;非本站模型 |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。3 个计入(第三方 3)。
第三方评测(3)
- Biomni:出题方 EPFL 运行,Lite 与全集都有(第三方,置信度高;出处)
- MedGemma / Med-Gemini:MedGemma-27B 仅作 Biomni 内的规划器,非独立作答(第三方,置信度中;出处)
- 前沿通用大模型:作为 Biomni 规划器及裸模型对照(Claude-4-Sonnet、GPT-4o)(第三方,置信度高;出处)
局限与注意
- 智能体比较只在 Lite 子集(开放题 22、选择题 18),头部差距在误差内,不能排名。
- 开放题由 GPT-4o 按 1–5 分评分,与专家相关性高但样本只有 25 个回答。
- 题目经对抗过滤删去了 Claude-4-Sonnet 能直接答对的选择题,而它正是被测规划器,难度分布有偏。
- 真值都是已发表结论,论文与数据公开,测的是复现而非新发现,后续模型可能见过结论。
新模型怎么用
从官方仓库获取题目与数据,智能体分析数据后作答;开放题用论文的 G-Eval 流程与 GPT-4o 评分。报告须写明全集还是 Lite、智能体框架、规划器模型、步数上限与评分器。可搭配 scIB 与 BixBench。
搭配:BixBench · scIB (+Open Problems) · BiomniBench / Biomni-Eval1
来源
更正记录
无。
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。