模型与 Benchmark板块首页
怎么读
怎么给 benchmark 分类一个分数能信到哪一步:真值噪声、简单基线、泄漏与饱和协议索引:113 条协议按谁判对错分组方法与数据:分类口径、收录与停更标准、已知局限
模型与数据
模型索引:112 个模型按领域分组模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…benchmark 的规模、更新与 wet lab 数据
Benchmark:理解状态(表征与排序)
02 ProteinGym09 scIB11 ClinVar hold-out protocol13 CAGI16 GUE + Nucleotide Transform…17 CAFA21 DREAM5 / BEELINE / CausalB…26 FLIP / FLIP234 AbBiBench37 TraitGym38 BEND39 RNAGym45 DART-Eval49 NTv3 Benchmark67 VenusX
Benchmark:预测给定对象的结果
01 CASP03 MoleculeNet04 TDC05 PoseBusters06 CASF-201615 CAMEO22 CAPRI24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles27 Polaris / ASAP / OpenADMET30 PLINDER / PINDER / Runs N'…31 FoldBench33 PoseX35 FLAb / FLAb243 Ginkgo GDPa146 FEP 相对结合自由能基准47 PoseBench / DockGen51 OpenADMET 盲测系列52 Biogen ADME53 UNICORNE-BENCH54 OMol25 + FAIR Chemistry 榜单55 PDBbind-CleanSplit / LP-PD…57 CatPred-DB66 MassSpecGym
Benchmark:提出候选(生成与设计)
19 PMO20 CACHE28 Adaptyv competitions / Ben…36 AIntibody40 MotifBench50 蛋白 motif scaffolding 基准56 Protein Engineering Tourna…
Benchmark:多步分析与问答(agent)
14 PubMedQA18 LAB-Bench / LABBench223 BioASQ29 BixBench42 BioMysteryBench58 ChemBench59 LifeSciBench60 Terminal-Bench-Science61 BiomniBench / Biomni-Eval162 HeurekaBench63 scBench64 ScienceAgentBench65 SciReasoner / Biology-Inst…68 BioDesignBench
Benchmark:已停更
07 USPTO family08 Basenji/Enformer test set10 GuacaMol12 DUD-E / LIT-PCBA32 CrossDocked202041 BioML-bench44 FS-Mol
相邻领域
相邻领域:不在主分类内的评测
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

24 虚拟细胞挑战赛与扰动预测评测

整理 2026-11-18 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 协议拆分与读法
  3. 测什么、怎么测
  4. 当前排名
  5. 报告过的模型
  6. 局限与注意
  7. 新模型怎么用
  8. 来源
  9. 更正记录

唯一为评测专门生成 Perturb-seq 数据的挑战,但线性与均值基线仍难被打败。2025 届指标可被尺度与变换投机:第三方分析显示 ℓ1/ℓ2 版 PDS 对预测尺度敏感,MAE 几乎所有提交都差于基线。

bench-24 · 模型在做什么:预测给定对象的结果 · 谁判对错:已有参考答案、先交卷后公布答案 · 单细胞 · 核心 30 项 · 截至 2026-11-16

概况

字段 内容
名称 / 别名 虚拟细胞挑战赛与扰动预测评测;全称:Virtual Cell Challenge(VCC)与 PerturBench 等单细胞扰动预测评测;别名:Virtual Cell Challenge、VCC、VCC 2025、VCC 2026、PerturBench、cell-eval;有歧义、不自动链接:Norman、Replogle、Adamson
家族 家族条目:PerturBench ;Virtual Cell Challenge 2025 ;Virtual Cell Challenge 2026 。边界:VCC 是年度盲测挑战,PerturBench 与 Norman/Replogle/Adamson 套件是静态评测,cell-eval 只是评测工具;首发日取最早成员 PerturBench,不等于 VCC 的启动日。
模型在做什么 预测给定对象的结果
谁判对错 已有参考答案、先交卷后公布答案(6 条协议,逐条见下)
领域 单细胞(次领域:基因组/RNA)
发布方 Arc Institute、Altos Labs(非营利研究机构)
首次发布 (依据:家族中最早成员:PerturBench 的 arXiv v1(VCC 本身 2025-06-26 启动))
其他里程碑 预印本 v1 (PerturBench arXiv 2408.10609 v1);开赛 / 首批题目 (VCC 2025 启动,数据与排行榜开放);官方公告 (VCC 2026 公告,报名开放)
最近更新 †(未核实),新一轮:VCC 2026 终测集发放,终提交 2026-11-05 截止;截至 2026-11-16 结果未公布。(该日期未能对应到带日期的官方段落,按未核实显示。)。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 †(未核实)(组织方赛程称 2026 届结果在 11 月中下旬公布(另有新闻稿写 12 月))
规模 VCC 2025:约 30 万细胞、300 个扰动、300 多支终提交队;VCC 2026:六个细胞系,细胞数未公布。 明细:细胞数(H1 hESC)(VCC 2025) ~300000 {'zh': '个细胞', 'en': 'cells'};CRISPRi 扰动数(VCC 2025) 300;注册人数(VCC 2025) 5000+ {'zh': '人', 'en': 'people'};终提交队数(VCC 2025) 300+;细胞系(3 验证、3 终测,未复核)(VCC 2026) 6;细胞数(VCC 2026) None
状态 ● 活跃:活跃:VCC 2026 已截止,结果尚未公布
wet lab 更新 新:是,年度:组织方自行做 Perturb-seq;2025 届约 30 万细胞,2026 届细胞数未公布。
需自补 wet lab 不需要
报告模型数 9 个计入(榜 1 · 改协议 6 · 赛后复用 2)
当前排名 ▣ 榜单(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-16

协议拆分与读法

同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 6 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。

协议 谁判对错 隔离 在用模型(已核实) 五维要点 能回答 不能回答
24a VCC 2025 当届盲测 先交卷后公布答案 盲测(提交时真值未公开) VCC 2025 冠军方案 BM_xTVC(榜)、TransPert (Team Outlier)(榜)、Altos Labs flow-matching 'go-with-the-flow'(榜/自) 真值中;基线部分追平;效度低;饱和无法判断;泄漏风险中 — —
24b VCC 2025 全集赛后补评 已有参考答案 中 Lingshu-Cell(自) 真值中;基线部分追平;效度低;饱和无法判断;泄漏风险高 — —
24c 公开扰动集(Norman/Adamson/Replogle,GEARS 口径) 已有参考答案 中 scGPT/Geneformer(三) 真值低;基线被追平或反超;效度低;饱和未饱和;泄漏风险中 — —
24d 自建扰动留出(Tahoe-100M、iPSC、DepMap 等) 已有参考答案 待核 Lingshu-Cell(自)、Stack(自)、STATE(自)、X-Cell(自) 真值未知;基线部分追平;效度低;饱和无法判断;泄漏风险高 — —
24e PerturBench 已有参考答案 — 暂无已核实的模型 真值低;基线被追平或反超;效度中;饱和无法判断;泄漏风险中 能回答:在统一流程下,CPA、SAMS-VAE、GEARS 等扰动模型与线性/潜空间加性等简单模型相比,在协变量迁移和组合扰动预测上是否有优势。 不能回答:模型对完全未见的细胞类型或未见基因扰动的预测能力;没有均值基线和噪声上限,零点零几的分差不能作为选型依据。
24f VCC 2026 零样本轮(2026-08启动,新版cell-eval,6指标聚合) 先交卷后公布答案 — 暂无已核实的模型 真值未知;基线无法判断;效度中;饱和无法判断;泄漏风险中 能回答(结果公布后):在从未见过扰动数据的细胞系上,各团队预测 CRISPRi 敲低转录组响应的能力在统一 6 指标聚合下的相对排名。 不能回答:单个模型架构的贡献(参赛方可用任意外部数据,名次混入数据与工程因素),也不能用验证榜分数代替最终成绩。

在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。

测什么、怎么测

  • 任务:预测某基因被敲低后细胞转录组的变化,含未见扰动外推与未见细胞背景(2026 届为零样本)。
  • 真值:组织方新做的 CRISPRi Perturb-seq 测量;静态套件用已发表的 Norman、Replogle、Adamson 数据。
  • 主指标:2025:PDS、DES、MAE 的聚合名次
  • 次指标:Generalist Prize:7 项指标平均名次;2026:cell-eval 新版六指标聚合;Pearson delta 与 AUPRC
  • 版本陷阱:2025 届全集已公开,不再是盲测;两届指标体系不同,PDS 的 ℓ1/ℓ2 版本对预测尺度敏感,跨届名次不可比。

当前排名

状态:▣ 榜单

  • 指标:VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次
  • 评测集 / 口径:Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations)
  • 快照日期:
  • 榜单页面

当前第一:Team BM_xTVC, xTrimoSCPerturb (improved scFoundation architecture with protein-model embeddings),rank 1 of 300+ final-round teams (board publishes ranks only, no numeric scores)(VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次;Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations);榜单;)

说明:2026 届(零样本、六细胞系)已于 2026-11-05 截止但截至 2026-11-16 未公布名次,当前名次仍是 2025 届;该榜只公布名次,从不公布数值。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
Team BM_xTVC, xTrimoSCPerturb (improved scFoundation architecture with protein-model embeddings) 1 rank 1 of 300+ final-round teams (board publishes ranks only, no numeric scores) VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) 榜单 出处 总冠军;组织方总结页只公布名次与奖项,任何队伍都没有数值分数。
Team XLearning Lab (fully connected network, ESM-2 embeddings, residual delta prediction)(非本站模型) 2 不显示:出处不全 VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) 榜单 出处 非本站模型;无公布数值。
Team Outlier, TransPert (summary-level statistical framework)(非本站模型) 3 不显示:出处不全 VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) 榜单 出处 非本站模型;无公布数值。
Team Altos Labs, go-with-the-flow (flow matching with a custom U-Net), Generalist Prize(非本站模型) — 不显示:出处不全 VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) 榜单 出处 非本站模型;该奖按前 50 名终提交中 7 项指标的平均名次评选,无数值。
STATE — 不显示:口径不同且非榜单,不作排名显示。†(未核实) VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) 自报 出处 不是参赛条目:组织方用其论文的四项指标定义 Generalist Prize;其自报的 Tahoe-100M 结果口径不同,不是榜单成绩。

排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。9 个计入(榜 1 · 改协议 6 · 赛后复用 2)。

官方参赛 / 官方榜单(1)

  • xTrimoSCPerturb / scFoundation:赛事方官方总结列为 VCC 2025 总排名第 1;各项指标数值未公开。另有独立研究把 scFoundation 与简单线性基线对比,结论不利(榜单,置信度高;出处)

开发方自报,协议有改动(6)

  • C2S-Scale:扰动预测用自选数据集与自建指标,对比三个同类方法,不是该评测的官方赛道(自报,置信度高;出处)
  • CellFM:用两套早期公开扰动数据并统一接同一个下游预测器,不是该挑战赛的盲测;领先以相对提升百分比表述(自报,置信度高;出处)
  • Stack:开发方自划的扰动集,对手是各评测集上从零训练的两个传统方法与若干基础模型;发布页与预印本均无可引用数值。挑战赛主张在发布页上并不存在(自报,置信度高;出处)
  • STATE:在第三方扰动语料上用开发方自建指标评测;挑战赛的盲测得分未公布,是否按盲测协议评过无公开材料可证,该部分按未证实处理(自报,置信度高,未核实†;出处)
  • Tahoe-x1:留出细胞背景的扰动响应预测,开发方自建口径并明确不是挑战赛;摘要与模型卡均未给数值(自报,置信度高;出处)
  • X-Cell:自建的留出 iPSC 扰动集,不是该挑战赛的盲测;项目页称比次优方法高数倍但未写明对手名称,预印本摘要的口径是「最多」若干倍(自报,置信度高;出处)

赛后数据复用(2)

  • Lingshu-Cell(灵枢·细胞):作者在 VCC H1 公开榜单数据上赛后补评,论文附录自述为事后评估并与参赛条目分开,不是比赛提交,不能记为榜单第一(自报,置信度高;出处)
  • scGPT / Geneformer:独立研究事后在公开扰动数据上评测(第三方,置信度高;出处)

局限与注意

  1. 2025 届指标可被尺度与变换投机:第三方分析显示 ℓ1/ℓ2 版 PDS 对预测尺度敏感,MAE 几乎所有提交都差于基线。
  2. 多项独立评测显示深度与基础模型在扰动预测上并不稳定胜过 mean、no-change 或线性基线。
  3. 榜单只给名次不给数值,300 个扰动下官方未说明名次差是否超出噪声。
  4. 2025 届为单一细胞系,跨细胞泛化未被测到;全集现已公开,不再是盲测集。
  5. 外部预训练与公开 Perturb-seq 可能与测试靶点重叠;无前瞻湿实验验证,也无分数到靶点发现命中率的证据。

新模型怎么用

2025 届数据已公开可静态跑,真盲测只能参加下一届。必须同时报 mean、no-change 与线性基线,并用多指标(cosine 版 PDS、Pearson delta、AUPRC)加 PerturBench 的名次与 RMSD,不要只看单一 PDS。要知道对自家细胞系的泛化需自补 Perturb-seq,成本未公开。

搭配:DREAM5 / BEELINE / CausalBench · scIB (+Open Problems) · Basenji/Enformer test set

来源

  1. VCC 2025 组织方总结页(官方网站),
  2. VCC 2026 公告(官方网站),
  3. PerturBench 论文(预印本),
  4. 深度模型与线性基线对比(第三方)(第三方论文)
  5. PDS 指标的第三方分析(第三方论文)
  6. PertEval-scFM(论文)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
first_release 2025 (VCC launch treated as the family's first release) 2024-08-20, PerturBench arXiv v1, with the VCC 2025 launch (2025-06-26) kept as a member 家族条目的首发取最早成员,且必须写明边界,避免把 PerturBench 的日期读作 VCC 启动日。 依据 2026-11-16
scale 2026 edition: six cell lines, zero-shot, cell counts implied 2025 figures verified; the 2026 cell count is unpublished and 'six cell lines' was not re-confirmed 组织方公告未给 2026 届细胞数,六细胞系一说本轮未复核,不得给确定值。 依据 2026-11-16
latest_update VCC 2026 in progress, without a dated event 2026-10-22 final test set released; submissions closed 2026-11-05; winners unannounced as of 2026-11-16 (flagged unverified) 该事件无法对应到带日期的官方段落,因此标未核实;不得写成结果已公布。 依据 2026-11-16
models_reported STATE, Stack, X-Cell and others listed as VCC results self-reported-modified-protocol: own datasets and metrics, not the VCC board 自建口径不等于 VCC 榜单成绩;Tahoe-100M 的扰动数另统一为 1,100(新闻稿的约 1,200 不采用)。 依据 2026-11-16

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。