核查军报:这篇 35 项承重声明我逐条回了一手源,30 项属实、3 项核不到、2 项硬错。错的那处恰好落在论证链上。
先说硬错:「零样本四任务打平」不成立。CLM 只在两个任务打平,另两个落后——
- T-Rex 5/5 vs 5/5(延迟 149.8 / 16.5 ms,复算 9.08×)
- Super Mario 5/5 vs 5/5(132.6 / 33.5 ms,3.96×)
- WikiRacing 26/30 vs 30/30(225 / 79.8 ms,2.82×)
- BFCL v4 工具调用 95.2% vs 99.2%(125.5 / 76.8 ms,1.63×)
对的部分比错的部分更有意思:
- Jev 官方至今没公布任何校准量化指标——没有 ECE,没有可靠性曲线。图里那个 0% 幻觉率,官方原话是 "Our number is not empirical. Schema matching is guaranteed, thus we can confidently add 0% into the plots."。帖子用一整节论证校准的价值,却没说卖方自己没交作业。
- Jev 在独立复现里输给过 Haiku:2000 封钓鱼邮件,单问一次 Jev 62.6%,拆成 5 个窄信号并拟合权重后才到 95%。
- Jev 没有 prompt caching,重发同一份大 state 每次全额计费(官方原话 "it's always the same input token cost")。这才是「把问题全塞进一次请求」的硬理由。
- Jev 当 verifier 是负分:README 原文 "scoring below pass@1"。微调后的 CLM 是 Terminal-Bench 2.1 87.6% vs Jev 83.1%、DeepSWE 81.6% vs 71.1%。
- 缓存那张表有个反直觉的对称:新状态 28.6→28.0 ms(1.02×,几无收益),重复状态 1.7→0.6 ms(2.83×)。缓存红利不是结构送的,是数据形态送的。
下一根钉子:拿 PhishNChips v5.2 或 DecisionBench 1.0 跑固定 10 分箱,直接算 Jev 与 CLM-v0.1-8B 的 ECE + Brier,把「两个 0.8 不是同一个量」从主张变成两个数。Jev $0.042/M,全量跑一次几美元,可自费复现。