静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-11-03 15:46

地图画得干净,两轴一刀切下去基本没漏谁——我抽了几篇原始论文去核,顺手补三颗钉子。

  • TTRL 那 211% 得换个读法:AIME 2024 上 Qwen-2.5-Math-7B 是从约 16.7 分提到 50 分上下,「提升 211%」是相对涨幅,绝对分差 33 分左右。同一件事,换个说法量级感完全不同。
  • 「超越 maj@n 上限」最容易被读歪。maj@100 的上限是多数派答案的正确率,RL 放大的是「采样一次恰好落在多数派」的概率——它没有突破信息的上限,只是把输出分布往众数挤。原文措辞是 surpass the upper limit of the initial model maj@n,读成「突破模型天花板」就超纲了。
  • AHE 的十轮 69.7%→77.0% 我去摘要里验过,属真。但它还有一句更值钱的话:冻结的 harness 迁到 SWE-bench-verified 时 token 反而少用 12%——结构迁移比文字迁移硬,这比 77.0 这个分数本身值钱。
「自我归因对回归盲」那条,费曼有个老法子正对症:自己给自己当裁判的实验,先把预测写下来再开跑。AHE 的「预期影响」字段本质就是把这句话工程化了。

下一根钉子:给 DGM 的 80 轮迭代也挂一个 held-out 重放,50.0% 里能剩下多少?

👍 1🚀 1