21 DREAM5 / BEELINE / CausalBench
基因调控网络推断的三代评测,分数主要反映金标准网络的质量。金标准只含已知边,预测中的假阳性可能是未知真边,分数主要反映真值质量。
bench-21 · 模型在做什么:理解状态(表征与排序) · 谁判对错:已有参考答案 · 基因组/RNA · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | DREAM5 / BEELINE / CausalBench;全称:基因调控网络推断评测家族:DREAM5 网络推断挑战、BEELINE、CausalBench;别名:DREAM5、DREAM5 network inference challenge、BEELINE、Beeline、CausalBench;有歧义、不自动链接:DREAM、DREAM challenges |
| 家族 | 家族条目:DREAM5 network inference challenge †(未核实);DREAM5 results paper ;BEELINE ;CausalBench 。边界:三代不同口径:DREAM5 是 2010 年的盲测挑战,BEELINE 是单细胞评测框架,CausalBench 是 CRISPRi 扰动因果套件;分数不可跨成员比较。 |
| 模型在做什么 | 理解状态(表征与排序) |
| 谁判对错 | 已有参考答案(4 条协议,逐条见下) |
| 领域 | 基因组/RNA(次领域:单细胞) |
| 发布方 | DREAM Challenges、Virginia Tech、GSK.ai(多类机构联合) |
| 首次发布 | †(未核实)(依据:家族中最早成员:DREAM5 挑战年份(会议在当年 11 月,开赛月份无出处)) |
| 其他里程碑 | 预印本 v1 †(未核实)(BEELINE bioRxiv v1);期刊上线 (DREAM5 结果论文 Nature Methods 在线);开赛 / 首批题目 †(未核实)(DREAM5 挑战年份) |
| 最近更新 | †(未核实),论文修订:CausalBench 在 Communications Biology 正式发表(arXiv v1 为 2022-10-31,挑战赛 2023 年举办)。(本站笔记写 PMLR 版 2025-05,本轮只核到期刊版。)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(三个成员均无新一轮或新版本公告。) |
| 规模 | DREAM5:4 个网络、35 种方法;BEELINE:12 个算法、400 多个模拟数据集;CausalBench:2 个 CRISPRi 数据集、20 万以上样本。 明细:网络数(DREAM5) 4;方法数(29 个参赛提交加 6 个现成工具)(DREAM5) 35;算法数(BEELINE) 12;模拟数据集(BEELINE) 400+;实验 scRNA-seq 数据集(BEELINE) 5;CRISPRi 数据集(K562、RPE1)(CausalBench) 2;干预样本(CausalBench) 200000+ {'zh': '个细胞', 'en': 'cells'} |
| 状态 | ◐ 低频:DREAM5 冻结;BEELINE 低频维护;CausalBench 挑战 2023 年结束 |
| wet lab 更新 | 静态:否:DREAM5 当年对 53 条新预测做过一次实验检验,23 条获支持;此后无新增。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 0 个计入;另 2 条不计入(未证实 2) |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 4 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 21a DREAM5 网络推断挑战 | 已有参考答案 | — | 暂无已核实的模型 | 金标准不完整,未知真边被当成假阳性;2010 年的树模型至今仍是强基线,绝对分数很低。 | 能回答:在细菌与模拟数据上,一个方法找回已知调控边的能力与经典方法相比如何。 | 不能回答:在人类细胞或单细胞数据上的准确性;分数低且受金标准缺失主导,小幅分差没有意义。 |
| 21b BEELINE 单细胞网络推断评测 | 已有参考答案 | 弱或无 | scGPT/Geneformer(三) | 真实单细胞数据上多数方法接近随机,基础模型的注意力推断也近随机;金标准不完整使分差难解释。 | 能回答:在给定的几套单细胞数据与数据库金标准上,一个方法比随机和共表达基线好多少。 | 不能回答:找回的边是否为直接调控关系;排在前面的假阳性多是间接边。 |
| 21c CausalBench 扰动数据因果推断 | 已有参考答案 | — | 暂无已核实的模型 | 留出的只是同一批扰动目标的部分细胞,与指标同构的简单均值差方法在统计评估上领先,代理库偏向研究充分的基因。 | 能回答:一个方法挑出的基因对在干预后是否出现可测的表达偏移,精确率与召回率如何取舍。 | 不能回答:是否恢复了真实的直接因果网络,也不能评估对未扰动基因或新细胞类型的推断。 |
| 21d 其他基因调控网络评测口径(如 benGRN) | 已有参考答案 | 待核 | scPRINT-2(自) | 绝对分数很低、多处劣于随机;评测工具由被评模型的作者自建,还有用真值挑选模型内部结构的变体。 | 能回答:在文献整理与扰动推导的几套真值上,一个方法相对经典方法与随机的位置。 | 不能回答:分差是否反映真实能力——多处劣于随机,口径由方法作者自定。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:给定表达数据,推断转录因子到靶基因的有向调控边;无监督,无训练测试切分。
- 真值:已知网络或通路库:GeneNetWeaver 模拟网络、RegulonDB、ChIP 加基序,以及 STRING、CORUM 等互作库。
- 主指标:AUPR/AUROC 综合分(DREAM5)
- 次指标:AUPRC ratio 与 EPR(BEELINE);mean Wasserstein 与 false omission rate(CausalBench);对通路库的 precision/recall
- 版本陷阱:必须写明是哪一代、哪个数据集与哪个金标准库;BEELINE 数据公开可调参,DREAM5 为盲测,两者不可混比。
当前排名
状态:≠ 不可比
- 指标:DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR
- 评测集 / 口径:DREAM5 network inference (frozen), BEELINE and CausalBench suites
- 快照日期:†(未核实)(旧:早于截至日 12 个月以上)
- 榜单页面
排名行不显示分数:3 个口径,无统一排名
说明:DREAM5 自 2012 年冻结且无本站模型参赛;BEELINE 与 CausalBench 无在线榜;基础模型的结果用的是自建划分,不构成可比排名。
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| Community (consensus) network(非本站模型) | — | 不显示:口径不可比且数值未复核,不显示分数。†(未核实) | DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR | DREAM5 network inference (frozen), BEELINE and CausalBench suites | 榜单 | 出处 | 非本站模型;把各方法的边排名平均得到的社区网络稳健优于任何单一方法;未复核数值,不给分数。 | |
| scGPT / Geneformer, attention-edge GRN inference | — | 不显示:来源未给数值,且为未经同行评审的预印本。†(未核实) | DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR | DREAM5 network inference (frozen), BEELINE and CausalBench suites | 第三方 | 出处 | BEELINE 口径的第三方预印本:注意力边主要反映共表达,无数值分数。 | |
| scPRINT-2 | — | 不显示:协议不同且无可引数值。†(未核实) | DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR | DREAM5 network inference (frozen), BEELINE and CausalBench suites | 自报 | 出处 | scPRINT-2 自报在自建 GRN 评测上有提升,非 DREAM5 或 BEELINE 协议,本轮未找到数值。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。0 个计入;另 2 条不计入(未证实 2)。
未证实(2,不计数)
- scGPT / Geneformer:第三方注意力分析,仅据摘要,未证实(未知,置信度低,未核实†;出处)
- scPRINT-2:摘要称基因网络推断改进,仓库提到 benGRN 包,分数在预印本正文;是否按该 benchmark 协议未核实,不计入(未知,置信度中,未核实†;出处)
局限与注意
- 金标准只含已知边,预测中的假阳性可能是未知真边,分数主要反映真值质量。
- 多数方法只略优于随机;BEELINE 实验数据上 EPR 多数接近 1,无一超过 1.5。
- CausalBench 发现利用干预信息的方法并不优于只用观测数据的方法,与合成基准结论相反。
- 基础模型的预训练语料含这些公开数据与 ChIP 库,污染风险未被系统评估。
- 湿实验转化只有 DREAM5 的 53 条预测(23 条获支持),此后无新证据。
新模型怎么用
静态跑即可,不需自补湿实验:BEELINE 自带 Docker 与配置,跑一个整理好的数据集并对比 AUPRC ratio;必须同时报共表达或相关基线,并用 CausalBench 检验因果方法的可扩展性。要证明预测边是真实调控,需自补 CRISPRi 或 ChIP 抽检;不要只报 AUROC。
搭配:虚拟细胞挑战赛与扰动预测评测 · scIB (+Open Problems) · Basenji/Enformer test set
来源
- DREAM5 结果论文(Nature Methods)(期刊),
- DREAM5 挑战官方页(官方网站)
- BEELINE 全文(期刊)
- BEELINE 期刊版(期刊)
- CausalBench 论文(预印本),
- CausalBench 期刊版(期刊),†(未核实)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| first_release | 2012 | 2010 (the DREAM5 challenge year; 2012-07-15 is the results paper) | 站上把结果论文年份当作首发;首发应是挑战举办年,论文在线日单列为里程碑。 | 依据 | 2026-11-16 |
| latest_update | CausalBench PMLR paper, 2025-05 | 2025-03-11, CausalBench published in Communications Biology (kind: paper-revision) | 本轮只核到期刊版;PMLR 版日期未能复现,故改用可证事件并标未核实。 | 依据 | 2026-11-16 |
| family | three generations described in prose only | explicit family entry with four members and a boundary statement | 家族边界必须写明,避免跨成员比分数。 | 依据 | 2026-11-16 |
| models_reported | scPRINT-2 counted as reporting this family | disputed-or-unconfirmed: its own GRN benchmark, not the DREAM5/BEELINE protocol | 该模型因此进入零配对名单;自建评测不算本家族配对。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。