51 OpenADMET 盲测系列
用未公开的药企与高通量实测数据,做 ADMET 预测的盲测打榜。榜上参赛者多为用户名,公司归属只能靠自愿提交的模型报告,不能由用户名推断。
bench-51 · 模型在做什么:预测给定对象的结果 · 谁判对错:先交卷后公布答案 · 小分子 · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | OpenADMET 盲测系列;全称:OpenADMET 盲测挑战系列(ExpansionRx / PXR 诱导 / CYP 抑制);别名:OpenADMET ExpansionRx Blind Challenge、OpenADMET PXR Induction Blind Challenge、OpenADMET CYP Inhibition Blind Challenge;有歧义、不自动链接:OpenADMET |
| 家族 | 家族条目:ExpansionRx Blind Challenge ;PXR Induction Blind Challenge ;CYP Inhibition Blind Challenge 。边界:三场是不同主办数据、不同终点、不同榜单的盲测;同组织发布的 AHR、pKa 等只有数据没有榜,不算成员。 |
| 模型在做什么 | 预测给定对象的结果 |
| 谁判对错 | 先交卷后公布答案(3 条协议,逐条见下) |
| 领域 | 小分子 |
| 发布方 | OpenADMET、Octant Bio、Expansion Therapeutics、University of California, San Francisco(多类机构联合) |
| 首次发布 | (依据:首场(ExpansionRx)开放投稿) |
| 其他里程碑 | 最早公开证据 (首场榜单页面创建);开赛 / 首批题目 (首场开放投稿(官方时间线));官方公告 (榜单页面创建日) |
| 最近更新 | ,结果公布:CYP 盲测 11-03 截止投稿,11-04 关闭提交,11-05 发布最终榜并揭盲活性数据与部分结构。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(主办方未公告下一场盲测的日期或靶点。) |
| 规模 | ExpansionRx 9 个终点、2,281 个盲测分子;PXR 513 活性加 184 结构;CYP 4 个同工酶、750 化合物。 明细:终点数 / 盲测分子数(ExpansionRx) 9 / 2,281;最终榜条目数(ExpansionRx) 103;活性盲测化合物 / 结构盲测化合物(PXR) 513 / 184;活性榜 / 结构榜最终条目数(PXR) 103 / 30;同工酶数 / 盲测化合物数(CYP) 4 / 750;直接抑制 / TDI / 结构三榜最终条目数(CYP) 103 / 62 / 38 |
| 状态 | ● 活跃:三场已结束并出最终榜;下一场未公告 |
| wet lab 更新 | 新:每场用新测的实验数据:药企先导优化批次,或高通量剂量反应与晶体结构。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 0 个计入 |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 3 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 51a ExpansionRx 盲测(9 个终点) | 先交卷后公布答案 | — | Inductive Bio 参赛条目(榜) | 用项目早期分子训练、对更晚期分子前瞻预测;头部明显优于指纹基线,但范围限于单一化学系列,且允许外部与专有数据。 | 在一个真实先导优化项目里对更晚期分子前瞻预测时,各 ADMET 模型的误差排序与相对指纹基线的差距。 | 模型在别的项目、别的化学系列上的表现;揭盲后同数据上的分数也不再算盲测。 |
| 51b PXR 诱导盲测(活性 / 结构两榜) | 先交卷后公布答案 | — | Inductive Bio 参赛条目(榜) | 最终榜前列大量条目在统计上不可区分;测试集是训练命中物的类似物扩展,结构赛道的蛋白本身早已公开,只有配体位姿是盲的。 | 在赛前未公开的统一测定数据上,各方法对同一先导系列类似物的活性误差与排序差多少。 | 谁“赢了”——最终榜前列同属一个显著性层;也不能回答对全新化学空间是否还准。 |
| 51c CYP 抑制盲测 | 先交卷后公布答案 | — | Inductive Bio 参赛条目(榜)、CheMeleon(榜) | 头部明显领先组织方的树模型与表格模型基线;但测试化合物是训练命中物的近邻类似物,外部公开数据通道完全开放。 | 在统一测定、四个同工酶全测的盲测集上,参赛方法相对组织方基线领先多少,三条赛道难度如何。 | 模型对与训练命中物不相似的新骨架是否同样准;也不能把中期榜上的基线名次当成最终榜的对照。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:在真值封存的前提下预测 ADMET 终点:理化与代谢性质、PXR 诱导 pEC50、四个 CYP 同工酶的抑制与时间依赖抑制,另有配体结构赛道。
- 真值:主办方在赛前测好并封存的实验值:微粒体清除、渗透、结合率、剂量反应 pEC50/pIC50 与 X 射线结构。
- 主指标:相对绝对误差(RAE,按终点宏平均)
- 次指标:MAE、R²、Spearman、Kendall;TDI 分类的 MCC;结构赛道 LDDT-PLI;自助法得到的显著性分层
- 版本陷阱:每场的终点、指标与测试集都不同,三场分数不可互比;中期榜与最终榜的评分集合也不同。
当前排名
状态:▣ 榜单
- 指标:各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE
- 评测集 / 口径:三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物
- 快照日期:
- 榜单页面
当前第一:CYP 直接抑制最终榜第 1(用户名 whippoorwill),0.3409(各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE;三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物;榜单;)
说明:头条取最近结束的 CYP 直接抑制榜;三场口径不同不可互比,榜上只有用户名,公司对应关系以模型报告为准。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| CYP 直接抑制最终榜第 1(用户名 whippoorwill)(非本站模型) | 1 | 0.3409 | 各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE | 三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物 | 榜单 | 出处 | 宏平均 ST-RAE;榜上只显示用户名,其模型报告写明参赛方为 Inductive Bio,报告中没有产品名。 | |
| CYP 直接抑制最终榜第 2(用户名 preheat-to-450)(非本站模型) | 2 | 0.3431 | 各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE | 三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物 | 榜单 | 出处 | 与第 1 名相差 0.0022,两条同列显著性第一层。 | |
| PXR 活性最终榜第 1(用户名 matcha-croissant)(非本站模型) | 1 | 0.4061 | 各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE | 三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物 | 榜单 | 出处 | 分数为 Analog Set 2 上的 MAE(RAE 0.5631);模型报告标题写明参赛方为 Inductive Bio。 | |
| PXR 结构赛道最终榜第 1(用户名 willvith)(非本站模型) | 1 | 0.5302 | 各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE | 三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物 | 榜单 | 出处 | LDDT-PLI;该赛道最终榜共 30 条,与活性赛道不是同一批参赛者。 | |
| ExpansionRx 最终榜第 1(用户名 pebble)(非本站模型) | 1 | 0.5113 | 各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE | 三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物 | 榜单 | 出处 | 九终点宏平均 RAE,置信字母独占首位;其模型报告自述参赛方为 Inductive Bio。 | |
| CYP 中期榜上的组织方基线 CheMeleon-baseline(非本站模型) | 132 | 0.771 | 各场不同:ExpansionRx 宏平均 RAE、PXR pEC50 的 RAE、CYP 四同工酶宏平均 ST-RAE | 三场盲测各自的最终榜:ExpansionRx 9 终点全盲测集、PXR Analog Set 2(513 中的第二阶段)、CYP 750 化合物 | 榜单 | 出处 | 组织方基线只出现在中期榜(219 条),最终榜没有基线条目。 |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。0 个计入。
暂无模型与本 benchmark 构成配对。
提及但不构成配对
- Beacon(Inductive Bio):三场官方最终榜只列用户名,相关模型报告署名为 Inductive Bio,未出现该产品名;产品层面的第一只见公司新闻稿。(出处)
- Chemprop v2:参赛者大量使用该工具,但官方榜上没有以它名义提交的条目,不构成配对。(出处)
局限与注意
- 榜上参赛者多为用户名,公司归属只能靠自愿提交的模型报告,不能由用户名推断。
- 头部条目常标注使用了专有数据,与只用公开数据的条目并非同一起点。
- 中期榜与最终榜的评分集合与条目数不同,混用两者会读错差距。
- 组织方基线只在部分中期榜出现,不能用最终名次来谈基线差距。
- 真值在开赛前已测得,属封存盲测,不等于对未来新化学的前瞻验证。
新模型怎么用
赛后仍可用:从公开的训练集与已揭盲的测试集复现,按各场的官方指标自评,并与最终榜上的分数同表对照。引用名次必须写明是哪一场、哪条赛道、中期榜还是最终榜;榜上只有用户名,不要把用户名当成公司或产品。结构赛道须另报覆盖率。可与 Polaris、Biogen ADME 配套。
搭配:Polaris / ASAP / OpenADMET · Biogen ADME · TDC (ADMET + DTI) · MoleculeNet (+OGB) · CACHE
来源
- 首场官方榜单页面(榜单)
- PXR 盲测官方榜单页面(榜单)
- CYP 盲测官方榜单页面(榜单)
- CYP 盲测训练与揭盲测试数据(官方网站)
- 主办方对首场参赛方法的复盘(公司博客)
更正记录
无。
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。