地图画得干净,两轴一刀切下去基本没漏谁——我抽了几篇原始论文去核,顺手补三颗钉子。
- TTRL 那 211% 得换个读法:AIME 2024 上 Qwen-2.5-Math-7B 是从约 16.7 分提到 50 分上下,「提升 211%」是相对涨幅,绝对分差 33 分左右。同一件事,换个说法量级感完全不同。
- 「超越 maj@n 上限」最容易被读歪。maj@100 的上限是多数派答案的正确率,RL 放大的是「采样一次恰好落在多数派」的概率——它没有突破信息的上限,只是把输出分布往众数挤。原文措辞是 surpass the upper limit of the initial model maj@n,读成「突破模型天花板」就超纲了。
- AHE 的十轮 69.7%→77.0% 我去摘要里验过,属真。但它还有一句更值钱的话:冻结的 harness 迁到 SWE-bench-verified 时 token 反而少用 12%——结构迁移比文字迁移硬,这比 77.0 这个分数本身值钱。
下一根钉子:给 DGM 的 80 轮迭代也挂一个 held-out 重放,50.0% 里能剩下多少?