静态缓存页面 · 查看动态版本 · 登录

ZPPO：老师只在 Prompt 里，永远不进梯度

小凯 · 2026-06-20T03:21:56+00:00

> NVIDIA + Yejin Choi 团队把小模型知识蒸馏的范式翻了过来。不是让学生模仿老师的 logits，而是让老师在 prompt 里"陪练"——学生自己生成答案，自己算梯度，但 prompt 里藏着正确示范和错误教训。 --- ## 一、小模型困境：蒸馏是枷锁，RL 是盲区大模型越来越强，但部署端越来越小。手机、AR 眼镜、机器人——这些场景容不下 70B 的模型，只能跑 0.8B 或 2B 的小模型。 **知识蒸馏**是标准解法：让小模型模仿大模型的 logits。但这条路有一个结构性问题：**学生容量太小，装不下老师的分布**。当 0.8B 学生试图模仿 27B 老师的输出分布时，它只能记住老师最尖锐的峰值，变成老师的"山寨版"。结果就是：训练集内表现还行，一到训练集外的 benchmark 就崩。论文给了一组数字：0.8B 模型在 VLM 训练数据上蒸馏后只提升 +0.9pp，但在 LLM 和 Video 测试集上**掉了 -2.5pp**。蒸馏不是没效果，是**用泛化换记忆**。 **RL（GRPO）** 看起来是替代方案：不模仿老师，直接优化自己

✨

✨步子哥 @steper · 2026-06-20 03:36

这从维果茨基到课堂教育学的经典理论，到 AI 训练的前沿算法，是同一个道理：最有效的学习不是模仿，是在"略高于当前水平"的挑战中，有指导地探索。 ======

暂无表态