模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

63 scBench

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

给 agent 真实单细胞测序数据快照,用确定性判分器检验每一步分析结果。现行 V1(195 题)与论文版(394 题)题集不同,分数不能混用,也不能连起来看进步。

bench-63 · 模型在做什么:多步分析与问答(agent) · 谁判对错:已有参考答案 · 单细胞 · 2026-11 新收录 · 截至 2026-11-18

概况

字段 内容
名称 / 别名 scBench;全称:单细胞 RNA-seq 分析 agent 评测(scBench);别名:SingleCellBench、scBench V1
家族 否(论文版(394 题)与现行 V1(195 题)是同一基准的两个版本,按版本记录,不作家族。)
模型在做什么 多步分析与问答(agent)
谁判对错 已有参考答案(1 条协议,逐条见下)
领域 单细胞(次领域:文本与 agent)
发布方 LatchBio(平台公司)
首次发布 (依据:论文预印本 arXiv 2602.09063 v1;仓库创建日更早,但创建不等于公开发布。)
其他里程碑 预印本 v1 (论文预印本 arXiv 2602.09063 v1)
最近更新 ,榜单条目:现行 V1 榜单数据更新,共 42 个模型加外壳配置;官方仓库 2026-11-16 起改为指向该榜单。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(组织方未公告新一版或新一轮评测。)
规模 现行 V1:195 题、6 个测序平台、6 类任务;论文版 394 题、7 类任务,两版分数不可混用。 明细:题目数(V1 (current)) 195;测序平台(V1 (current)) 6;任务类别(V1 (current)) 6;榜单配置数(V1 board, 2026-11-17) 42;公开示例题(V1 (current)) 6;题目数(paper (arXiv v1)) 394;任务类别(paper (arXiv v1)) 7;被测模型(paper (arXiv v1)) 8;公开示例题(paper (arXiv v1)) 30
状态 ● 活跃:活跃;现行 V1 榜单在 2026-11 仍在更新
wet lab 更新 静态:无实验;真值由已发表数据集按既定参数重算,不新增实验数据。
需自补 wet lab 不需要
报告模型数 1 个计入(榜 1)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-18

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 1 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
63a scBench(Latch) 已有参考答案 — 暂无已核实的模型 完整题集不公开、答案按特定参数重算,泄漏风险低;但平台之间的差异比模型之间还大,题集已更换过。 能回答:在 6 个测序平台的单细胞分析单步任务上,各「模型+外壳」能否得到落在容差内的结果。 不能回答:头部相差一两个百分点的模型谁更强,也不代表完整长流程分析;论文版与 V1 版分数不能混用。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:agent 在真实单细胞数据快照上写代码,完成质控、归一化、降维、聚类、细胞注释或差异表达中的一步,并输出结构化结果。
  • 真值:按作者参数从原始数据重跑已发表流程得到的数值或标签,附容差。
  • 主指标:通过率(确定性判分)
  • 次指标:按平台与任务类别的分项通过率;论文版:3 次重复均值与 95% 置信区间
  • 版本陷阱:须写明论文版(394 题、3 次重复、统一外壳)还是现行 V1(195 题、模型加外壳配置);两版不可比,LSVP 变体须单列。

当前排名

状态:▣ 榜单

  • 指标:通过率(现行 V1,模型加外壳配置,确定性判分)
  • 评测集 / 口径:scBench V1 (195 evaluations), benchmarks.bio board
  • 快照日期:
  • 榜单页面

当前第一:GPT-6 Astra (Pi harness),63.9%(通过率(现行 V1,模型加外壳配置,确定性判分);scBench V1 (195 evaluations), benchmarks.bio board;榜单;)

说明:前 10 名在 59.8%–63.9% 之间,分差接近 195 题的抽样误差;外壳与安全过滤变体会改变名次。分数只对 V1 有效。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
GPT-6 Astra (Pi harness) 1 63.9% 通过率(现行 V1,模型加外壳配置,确定性判分) scBench V1 (195 evaluations), benchmarks.bio board 榜单 出处 榜单第一名
GPT-6.1 Sol (Codex harness) 2 63.6% 通过率(现行 V1,模型加外壳配置,确定性判分) scBench V1 (195 evaluations), benchmarks.bio board 榜单 出处 —
GPT-6 Astra (Codex harness) 3 63.4% 通过率(现行 V1,模型加外壳配置,确定性判分) scBench V1 (195 evaluations), benchmarks.bio board 榜单 出处 同一模型换外壳只差 0.5 个百分点
Claude Opus 5.5 (Pi harness, LSVP) 5 61.9% 通过率(现行 V1,模型加外壳配置,确定性判分) scBench V1 (195 evaluations), benchmarks.bio board 榜单 出处 LSVP 为免安全过滤的评测变体;同模型标准运行为 55.4%(Pi)
Claude Opus 4.6 (mini-SWE-agent) — 52.8% (95% CI 48.3–57.2) 通过率(论文版,3 次重复均值) scBench paper version (394 evaluations, 3 replicates) 第三方 出处 论文版第一,由基准开发方运行;题集不同,不与 V1 同列比较

排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。1 个计入(榜 1)。

官方参赛 / 官方榜单(1)

  • 前沿通用大模型:现行 V1 官方榜单的配置多为前沿通用大模型加外壳;按模型集合计一格(榜单,置信度高;出处)

局限与注意

  1. 现行 V1(195 题)与论文版(394 题)题集不同,分数不能混用,也不能连起来看进步。
  2. 头部配置相差 1–3 个百分点,落在 195 题的抽样误差内(通过率约 0.6 时标准误约 3.5 个百分点)。
  3. 外壳与安全过滤变体影响明显:同一模型的 LSVP 变体比标准运行高约 5–6 个百分点;论文中冷门平台准确率可低 40 个百分点以上。
  4. 每题是一步分析的快照,含选择题,不覆盖长流程中的误差累积。
  5. 完整题集不公开,只能经官方榜单比较;榜单页未说明运营方与基准开发方的关系。

新模型怎么用

用官方仓库的判分器与示例题熟悉格式;完整题集不公开,成绩以官方榜单为准。报告须写明版本(V1 或论文版)、模型与外壳、是否为 LSVP 变体、重复次数,并按平台与任务类别分项。不需自补湿实验。可搭配 scIB 与 BixBench。

搭配:scIB (+Open Problems) · BixBench · BioMysteryBench · 虚拟细胞挑战赛与扰动预测评测

来源

  1. 原论文(预印本)
  2. 官方仓库(判分器、示例题与历史结果)(仓库)
  3. 现行 V1 官方榜单(榜单)

更正记录

无。

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。