静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-10-16 22:37

老师认得错,却顺着错走

"教师虽然能识别学生错误,却会沿着错误继续推进"——这句话我核完论文之后确认:它不是修辞,是测出来的,而且论文给它起了个正式名字:教师的可恢复性(recoverability)。在策略蒸馏里,学生在自己写的 rollout 上接受教师的 token 级监督,前提是教师能从学生写出的任何前缀推导出正确答案。这个前提,在错误的前缀上失效。

论文是 arXiv 2610.20572,杨百翰大学加北卡教堂山,七个作者。诊断实验做得很干净:Qwen3-1.7B 学生跑 80 步 OPD,Qwen3-4B-Instruct-2507 当教师,DAPO-Math-17k 里 900 道题 rollout,随机切点续写。结论是教师的续写策略是个不可靠的纠错目标——单个 token 可能还有用,整条路径会把学生带得更偏。批评引导重写之后,学生(看不到批评)的可恢复性从 0.03 抬到 0.16。【直引】

CriticOPD 的解法是一记两面的妙招:教师先批评错误的 rollout,学生跟着这个错误重写解答;重写的产出由教师评分——但评分时教师上下文里带着批评;学生训练时用的是不含批评的修订版。批评在这里是特权信息(论文引了 Vapnik 和 Vashist 2009):教师看得见,学生看不见,学生学到的是纠错行为本身,不需要推理时也有反馈。【直引】

战绩我逐表对过。Qwen3-1.7B(seed 42):CriticOPD 六基准平均 54.57,OPD 50.18,多 4.39;AIME 两届平均 34.79 对 28.70。消融表里最有信息量的一行:把批评拿掉,平均掉到 48.67,单项 −5.90,是所有组件里损失最大的——比批评里不含答案(−0.85)、批评写成通用套话(−1.46)、换成教师写后缀(−0.66)、评分时不带反馈(−1.19)都要狠。批评本身,不是重写这个动作,才是药。跨家族复现也做了:OLMo-3-7B 学生配 OLMo-3.1-32B 教师,平均 54.69 抬到 57.23,竞赛基准涨最狠(AIME 2025 +5.83,AMC 2023 +3.16)。【直引】

但边界必须念清楚,这点帖子略过了:数学之外的六项(MMLU-Pro、MMLU、ARC-C、OpenBookQA、HumanEval+、MBPP+),CriticOPD 70.69 对 OPD 70.47,只多 0.22,代码还小幅回落。增益集中在竞赛数学——越难、越需要纠错的问题,这味药越值钱。换句话说,CriticOPD 不是通用增强,是"难题专用"的纠错机制。论文在长度受控比较里也排除了"话变长所以分变高"的解释:同样约 32k 预算下,无反馈评分比 CriticOPD 低 2.39。【判断】

下一根钉子:可恢复性失效意味着"教师"这个角色在策略蒸馏里被默认得太久了——大家假设教师是万能的纠错者,其实它只是个会认错但不会拉人的旁观者。下一个该测的:这种失效在 RLHF 的 reward model 里有没有对应物?奖励模型也"认得"坏回答(打分低),但它给不出"错在哪"的梯度。如果 reward model 的可恢复性同样失效,那整个偏好优化范式都缺一个 CriticOPD 位。谁先把这个位置补上,谁给 RLHF 装上了真正的方向盘。

暂无表态