46 FEP 相对结合自由能基准
按靶排序同系列化合物:对标物理自由能方法的两套公开配体集。同一套八靶数据两种叫法(JACS benchmark 与 FEP+ benchmark),容易被当成两个基准。
bench-46 · 模型在做什么:预测给定对象的结果 · 谁判对错:已有参考答案 · 小分子 · 2026-11 新收录 · 截至 2026-11-18
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | FEP 相对结合自由能基准;全称:自由能微扰(FEP)相对结合自由能公开基准集;别名:FEP+ benchmark、JACS benchmark、JACS set、Merck FEP benchmark、Schrodinger public binding free energy benchmark;有歧义、不自动链接:FEP benchmark、fep-benchmark、FEP+ |
| 家族 | 家族条目:FEP+ / JACS set (8 targets) ;Merck FEP benchmark (8 targets) 。边界:两套各 8 靶:前者出自 2015 年方法论文,后者来自工业项目,不是同一组数据。 |
| 模型在做什么 | 预测给定对象的结果 |
| 谁判对错 | 已有参考答案(2 条协议,逐条见下) |
| 领域 | 小分子(次领域:结构/共折叠) |
| 发布方 | Schrodinger, Inc.、Merck KGaA、EMD Serono Research and Development Institute(多类机构联合) |
| 首次发布 | (依据:JACS 论文在线,首次公开八靶标配体集与参考数据) |
| 其他里程碑 | 期刊上线 (JACS 论文在线(FEP+ / JACS 八靶标));代码发布 (官方输入文件仓库首个标签版本 v1.0/v2.0) |
| 最近更新 | ,仅维护:Merck 集仓库追加一轮 20ns 模拟结果;两套配体集本身未变,自 2023 年后无新版本。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(发布方未公告新靶标批次或新一轮评测。) |
| 规模 | 两套各 8 个靶标,合计 16 个同系列配体系列;每靶约二十到四十个已测化合物。 明细:靶标数(BACE、CDK2、JNK1、MCL1、p38、PTP1B、thrombin、Tyk2)(FEP+ / JACS set) 8;靶标数(CDK8、c-Met、Eg5、HIF-2a、PFKFB3、SHP-2、SYK、TNKS2)(Merck FEP benchmark) 8;其中被某共折叠模型用作评测子集的化合物数(4-target subset (CDK2, TYK2, JNK1, p38)) 87 |
| 状态 | ○ 冻结:两套集合冻结,仍是亲和力模型最常引用的对照 |
| wet lab 更新 | 静态:不做新实验;复用已发表项目中的实验亲和力。 |
| 需自补 wet lab | 断言真实泛化时需要 |
| 报告模型数 | 1 个计入(改协议 1) |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-18 |
协议拆分与读法
同一个 benchmark 名下常有多场规则不同的考试。下表把它拆成 2 条协议,逐条写明谁判对错、在用的模型和这个分数能回答什么。分类口径见怎么给 benchmark 分类。
| 协议 | 谁判对错 | 隔离 | 在用模型(已核实) | 五维要点 | 能回答 | 不能回答 |
|---|---|---|---|---|---|---|
| 46a FEP+ 基准(八靶标) | 已有参考答案 | — | LigUnity(自)、PLANET (v1/v2.0)(自) | 只评同系列排序、不评绝对误差;头部深度模型的总体相关性仍低于物理自由能方法,且各家是否剔除相似训练数据不一致。 | 在八个公开靶标的类似物系列里,模型能否排对同系列化合物强弱,以及与物理自由能方法的差距。 | 模型在未公开化学系列上的表现与绝对精度是否够用;跨论文分数也不可直接并列。 |
| 46b Merck FEP 基准 | 已有参考答案 | — | LigUnity(自)、PLANET (v1/v2.0)(自) | 来自真实工业项目的八个靶,头部深度模型的平均排序相关性在 0.4 量级,低于物理自由能方法;数据公开多年已进入公共活性库。 | 在八个来自真实工业项目的类似物系列上,模型对同靶化合物的排序能力及相对物理自由能方法的位置。 | 模型在新项目、未公开系列上的前瞻表现;各家自报相关系数也不可直接比较。 |
在用模型括号内:榜 = 主办方榜单,自 = 开发方自报,三 = 第三方评测;只列已核实的配对。五维 = 真值可靠性、基线状况、指标效度、饱和度、泄漏风险;"未评估"表示该协议尚未完成五维评审。
测什么、怎么测
- 任务:给定一个靶标与一组结构类似的配体,预测它们的相对结合强弱并按顺序排列。
- 真值:公开发表的实验亲和力(Ki、IC50 等),多数来自同一项目的同一套 assay。
- 主指标:每靶相关系数(Spearman 或 Pearson)
- 次指标:绝对误差 MUE/RMSE(kcal/mol);跨靶聚合的均值与分布
- 版本陷阱:同一套八靶数据,有的论文叫 JACS benchmark、有的叫 FEP+ benchmark;Merck 集是另一套;引用须注明靶标子集与相关系数类型。
当前排名
状态:≠ 不可比
- 指标:每靶相关系数跨靶取平均(Spearman 与 Pearson 混用)
- 评测集 / 口径:Mixed: FEP+/JACS 8 targets vs a 4-target subset (87 compounds) vs Merck 8 targets
- 快照日期:†(未核实)
排名行不显示分数:4 个口径,无统一排名
说明:无官方榜单;各家用不同子集、不同相关系数,且是否剔除相似训练数据各不相同,数字不可并列。
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| Boltz-2 | — | Pearson R target avg. 0.66 | 四靶子集上的每靶 Pearson 均值 | FEP+ benchmark, 4-target subset (CDK2, TYK2, JNK1, p38; 87 compounds) | 自报 | 出处 | 开发方技术报告自报;只用四靶子集,训练集按 90% 序列同一性剔除相关蛋白 | |
| PLANET v2.0(非本站模型) | — | 不显示†(未核实) | 八靶标 ranking power 的总体 Spearman | FEP+ / JACS benchmark, 8 targets | 自报 | †(未核实) | 出处 | 非本站模型;作者自报,原文称整体仍低于物理自由能方法 |
| PLANET v2.0(非本站模型) | — | 不显示†(未核实) | 八靶标 ranking power 的平均 Spearman | Merck FEP benchmark, 8 targets | 自报 | †(未核实) | 出处 | 非本站模型;作者自报,原文称与一款经典对接打分相当 |
| LigUnity(非本站模型) | — | 不显示:原文无单一数值,不作为排名数字显示。†(未核实) | 零样本与微调设置下的每靶 Spearman 与 r² | FEP+ / JACS and Merck benchmarks, 8 targets each | 自报 | †(未核实) | 出处 | 非本站模型;数值只在箱线图中,正文未给单值;预训练阶段剔除了相似 assay |
排名数据读取于 2026-11-18。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。1 个计入(改协议 1)。
开发方自报,协议有改动(1)
局限与注意
- 同一套八靶数据两种叫法(JACS benchmark 与 FEP+ benchmark),容易被当成两个基准。
- 数据公开多年,已进入公共活性库;是否剔除相似 assay 各家做法不同,排名表并非同一隔离条件。
- 每靶只有二三十个化合物,单靶相关系数的统计误差足以吞掉头部差距。
- 只评排序不评绝对误差,而先导优化的决策阈值是用 kcal/mol 定义的。
- 靶标都是研究充分的经典体系,成绩不能外推到新项目的未公开化学系列。
新模型怎么用
从官方输入文件仓库取配体与蛋白结构,按靶分别预测同系列化合物的相对强弱,报告每靶相关系数与绝对误差。报告须写明用的是哪一套(八靶 FEP+/JACS 还是 Merck)、取了哪些靶、用 Spearman 还是 Pearson,以及训练数据是否剔除了与该靶相似的 assay——这一步不同会让分数不可比。可搭配 CASF 与 PDBbind-CleanSplit。
搭配:CASF-2016 · PDBbind-CleanSplit / LP-PDBBind · Polaris / ASAP / OpenADMET · DUD-E / LIT-PCBA
来源
- FEP+/JACS 八靶标原始方法论文(期刊)
- Merck FEP 基准原始论文(期刊)
- 官方输入文件仓库(仓库)
- Merck 基准仓库(仓库)
- 在该基准子集上报分的共折叠模型技术报告(预印本)
- 在两套集合上报分的亲和力模型论文(预印本)
- 在两套集合上报分的另一篇亲和力模型论文(期刊)
更正记录
无。
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。