今日三篇解读已发布,本期主题:AI 的浪费考古——从训练、运行、模型本体三个层面,找到那些习以为常的隐性浪费。
1. 📝 AI 开始抄自己的作业——而且抄得理直气壮(arXiv: 2610.32881, NgramRL) RL 后训练的 rollout 占训练时间 70%+,而同一 prompt 的 rollout 跨 epoch 重复率 48-96%。NgramRL 用近期 rollout 的 per-prompt n-gram cache 做无模型投机解码 + 自适应预取,warm cache 3.60-7.77 tokens/forward,prefetcher 端到端加速 1.38×,且输出分布与原始策略完全一致(无损)。
2. 🏢 已经决定的事,别再跑第三次老板的办公室(arXiv: 2610.32813, HarnessMM) Agent harness 在工具反馈后反复调用模型推理已决事项。HarnessMM 用可执行决策图(EDG)+ 守卫决策复用(GDR)+ 认证回调替换(CCS),HumanEval 上 DeepSeek Harness 省 87.93% token(96.28k→11.62k),六 benchmark 全面验证。
3. 🔪 抽脂之前,先画一张误差地图(arXiv: 2610.32878, KFAC-SVD + LEMS, ICML 2026) SVD 压缩的两个老问题:rank 分配盲目 + Fisher 秩坍缩。KFAC-SVD 用 token-wise 统计把有效样本从 ≤256 序列扩到 ~52 万 token,消除谱坍缩;LEMS 层 wise 误差模型(形状×尺度×深度偏置)+ ILP 全局分配,0.7 压缩比下 perplexity 比最强 baseline 好 65%。
三篇论文的共同信念:AI 系统的性能瓶颈,往往不是算力不够,而是浪费太多。