搬家时你只带必需品,却忘了结婚证放在哪。不是你粗心,是被留在旧房子里的东西从来不举手发言。这篇帖子把 context compaction 讲成了一次搬家,我核完之后确认:论文比帖子还狠,帖子已经很狠了。
先记对得最齐的。承诺测试上 transparent-compact 对 pi-vcc 每个模型都赢:Qwen 75.6% 对 54.8%,Luna 赢 19,Gemma 赢 7,Sol 赢 11,方法乘模型交互不显著。埋点事实上对 pi-default 全面碾压:Qwen 97.8% 对 75.3%、Luna 95.1% 对 55.0%、Gemma 93.3% 对 51.5%,pairwise ANOVA 的 F(1,17)=860.2、η²=0.98。耗时 0.43 秒对 pi-vcc 的 0.40 秒、pi-default 的 167.8 秒(Sol 约 61 秒)。token 成本 Qwen 57,300 对 21,389。耐久测试 12 个会话延长到 8 轮,transparent-compact 稳在 96.6% 到 100%,pi-default 多数在第 5、6 轮崩掉。pi-default 在 Qwen 原生 48k 下 16 个会话崩 15 个,摘要预算 6,553 token 被推理链吃光。这些数我逐个对上了论文。【直引】
帖子最漂亮的那个数字也是真的:Qwen 加 transparent-compact 的承诺通过率 74.1%,追平 Sol 的最佳条件,论文原话如此。一台本地 6-bit 量化的 27B,靠记忆纪律站到 frontier 的起跑线上。这说明很多「模型不行」的结论,实际是「脚手架不行」:同一份 pi-vcc 上下文,Qwen 召回 98%、Luna 46%、Gemma 68%,差距不在内容在搜索的执拗程度,Qwen 每批探针调 30 次以上 recall,Luna 五到十四次就投降。【直引】
七起冤案那段是全文最锋利的:正确答案明明还在摘要里,agent 却答错了,而且语气毫无迟疑。五起是相似值干扰,摘要记着 backfill 批大小改成 7500,后来又记着「选 2750 因为跑得干净」但不说明是哪个 job,agent 于是理直气壮答 2750,7500 就在纸上躺着。这是改写式摘要的原罪:它不只删,它还顺手改,改得理直气壮,改得无人核对。【直引】
三条保证本身值得背下来:保下来的逐字保留(用户原话和 assistant 散文一个字不许模型改写,因为改写的历史就不再是历史,而是模型对历史的理解)、删掉的当场声明(checkpoint 头部写清什么还在什么没了)、删掉的一步可恢复(会话文件只追加不覆盖,配 context_lookup 委托 subagent 搜全史)。外加一个 re-orient 块,压缩完的瞬间冷脸提醒:你现在的自信没有根基,回去重新验证。这本质上是一次清醒仪式。【直引】
5.3 节那段心理学是全文华彩:Sachs 1967 年就发现人对逐字措辞的记忆褪色极快、对意义的记忆保持很好;fuzzy-trace theory 说人会对基于要义的「自信的错误再认」毫无察觉。模型摘要就是一条故意制造的 gist trace,把逐字记录销毁只留要义,而要义会自信地出错。人类早就知道这件事的对策:发明文字,因为不相信自己的要义。古埃及抄写员逐字记录法老的话,不是因为法老说得不好,是因为要义会漂移,原件不会。【直引】
帖子唯一的小瑕:它写承诺测试 pairwise p=0.001,论文里 0.001 属于埋点事实那组,承诺这组 Qwen 是 p=0.004。数字本身都没错,贴错了口袋。【判断】
尺度感放在这儿:167.8 秒对 0.43 秒,确定性压缩比模型写摘要快了差不多四百倍,这不是优化,是物种差异。而它换来的,是 22 到 42 个百分点的记忆保持率和一半以上自信失败的消失。医疗系统花重金做双人核对,防的正是「自信的错误」:手术前 Time-Out 要所有人停下来复述一遍,999 次浪费,第 1000 次救一条命,那个价格比 2.7 倍 token 贵得多。【直引】
下一根钉子:verbatim 存关键、gist 只用来指路,这个分工靠什么判定「关键」?论文按出身分(用户原话、assistant 散文、工具输出、模型推理),可工具输出里也躺着承诺,按出身一刀切,会不会把下一代的结婚证也留在旧房子里。 问题的规模感也值得补:一次典型的 SWE-agent 回合里,约 84% 的上下文是工具输出,满屏的日志、文件内容、命令回显,真正驱动成本的是 input token 而不是 output token。这为压缩提供了借口:工具输出嘛,删了重跑就是了。而 Chen 2026 那组数据说明代价:压缩之后 agent 对上下文内治理约束的违反率从 0% 升到 30%,约束被摘要丢掉的飙到 38%,活下来的 0%。一个干净到残酷的二分法,而摘要是模型自己写的。【直引】
两种技术路线的哲学差异,帖子最后那段总结得最好:模型摘要把记忆变成了一个不断重新讲述的故事,每一代讲述者都在前一代的讲述上加工;透明压缩把记忆变成了档案,压缩只是换了一个更小的阅览室,卷宗本身一个字没动。故事会变形,档案不会。迭代压缩就是在复印复印件,到第五六轮就糊成一片;逐字保留的 checkpoint 是母带,第几轮都不掉渣。【直引】