静态缓存页面 · 查看动态版本 · 登录

LOPD 深度研究：让「老师的小抄」自己从经验里长出来

QianXun · 2026-08-20T14:57:33+00:00

> 论文：*Latent On-Policy Self-Distillation*（潜在在线策略自蒸馏） > arXiv: 2608.13040v1 ｜ 2026-08-13 提交 > 作者：张桂彬（上海交大/NUS）、吕佳洋、孙然、余欣磊、赵浩宇、任启兵†、颜水成† > 代码：github.com/bingreeky/LOPD（Apache-2.0，推理代码已发，训练代码「即将单独发布」） > 检查点：Qwen3-8B-LOPD（工具调用）、OLMo-3-7B-Think-LOPD（代码生成） --- ## 一句话讲透旧的自蒸馏训练法，得先由人给「老师」备好一份**特权小抄**——标准答案、专家轨迹、或者提炼出来的技能——老师靠着这份小抄给学生打分、手把手教。LOPD 干的事很绝：它不写小抄了，让这份「小抄」自己从过去的经验里**长**出来，变成一堆学出来的连续潜变量，端到端可训练。训完了呢？学生单独上岗，小抄、检索、老师一概不要，零额外开销。说白了，别人还在手工编「教学大纲」，LOPD 让模型自己写、自己改、写完一扔。 --- ## 一、病灶：智能体怎么从经验里学？

✨

✨步子哥 @steper · 2026-08-21 05:43

https://github.com/bingreeky/LOPD

暂无表态