抄答案，还是抄思路

这是三天内的第三篇蒸馏论文，正好凑齐一个楼层结构。第一篇治 token 级的数值病：老师打分无界，学生写一个老师眼里几乎不可能的词就被负无穷砸晕，解法是把老师稀释。第二篇把对齐单位从词换成语义动作：比决定，不比措辞。今天这第三篇再往下挖一层：就算答案的分布对齐了，学生是怎么算出这个答案的，跟老师是同一条路吗？

上海科技大学上周的论文 OPMD 给出的答案是：不一定。而且这个「不一定」，正是输出级蒸馏一直漏掉的那一半。

搬进去，用不上

先看论文里一个干净得扎眼的实验。把老师的中间层隐状态取出来，通过一个投影器映射到学生的隐层空间，然后硬塞进学生的前向计算——学生当场出问题：生成质量崩掉。而换一个训练目标不同的投影器，同样搬老师的隐层，学生各深度的表现全面上涨。

两个投影器的区别只有一个：前者用均方误差训练——目标是把老师的隐层映射得离学生的隐层「近」；后者用学生的下游任务表现训练——目标是映射过去的隐层学生「用得上」。

这个实验拆穿了一件事：把老师的表征搬到学生脑子里，搬得像不像不重要，学生后续的计算链路能不能用才重要。几何上对齐的表征，学生下游计算未必认。形式对齐和功能对齐是两件事。

两步走：先造翻译，再抄思路

论文的方法分两步。第一步造一个「学生兼容型教师」：学生和教师两个主干都冻结，只训一个桥接模块，把教师的隐层信息注入学生的计算界面——注意训练目标是上面说的功能效用，不是距离。这个桥造好后，把老师的隐层轨迹翻译成学生机体能用的版本。

第二步是「在线内化」：学生在自己采样的前缀上训练，把第一步造出来的优质隐层轨迹复现成自己的原生计算。训练完，教师和桥全部拆掉，学生独立工作——推理时零额外开销。训练时带着的这套外部装备，最后要长在学生身上。

这个「部署时移除」的形状最近反复出现：昨天 ActionOPD 的自蒸馏变体，是让一个能看到特权上下文的分身教只看公开信息的本体，考的时候不带特权信息。同一个道理：借来的拐杖只在学走路时用，考试时必须自己站着。

数字与一个反直觉

三组师生设置——Qwen3-4B 教 Qwen3-1.7B、强化过的数学老师教 Qwen3-1.7B、数学老师教 Qwen2.5-3B——OPMD 在 AMC 上比输出级蒸馏分别高 3.76、7.04、2.66 个百分点；第二组里 AIME 2024 和 2025 再涨 4.37 和 3.95。

里面藏着一个反直觉的对照。把老师从通用版换成数学强化版，输出级蒸馏的学生成绩反而降了（AMC 35.31 到 33.12），OPMD 的学生反而升了（39.07 到 40.16）。更强的老师没有自动教出更强的学生——输出级的蒸馏消化不了专业老师的深功夫，机制级的能。老师的强项藏在中间计算里，你不监督中间，就白瞎了这位老师。

效率也顺带量了：训练推进中两个方法的回复都越来越长，但每个检查点上 OPMD 都用更短的回复拿更高的分。训练 256 步的 OPMD，超过训练 512 步和 768 步的输出级蒸馏，token 还花得更少。

学得会偏好，学不会执行

论文最值钱的一段分析在最右边。做层干预实验，比较「学生中间层被教师隐层替换后的解题路线」和「完全体蒸馏学生的路线」：中间层更新后，学生选的解题路线确实向完全体靠拢了——它学会了老师「喜欢怎么解」。但答案正确率上仍有一段明显的差距——它还没练出把这条路走通的执行能力。

「偏好某个解法」和「有本事执行这个解法」是两个维度。这个区分对整个蒸馏领域都适用：你从老师那里抄来的，可能只是品味，不是手艺。品味的迁移便宜，手艺的迁移要靠在线内化一遍遍练。这大概也解释了为什么只对齐输出的蒸馏有天花板——它连品味都没传全。

局限照录：师生对和任务都测得有限（数学为主、代码为辅），更大的模型还没验证；路线标注是模型自己判的，当描述性证据看。

三天三层

把三篇连起来看：第一篇在词的概率层修数值稳定性，第二篇在语义层换对齐单位，第三篇进到中间计算层传机制。词、决定、思路——蒸馏的监督信号一路往深处搬，每搬一层，前一层解决不了的问题就清楚一层。输出对齐了，词可以不同（第二篇的功劳）；中间计算对齐了，输出自然对（这一篇的主张）。

而整个三部的公共前提是同一句话：老师到底什么值得学。答案只是老师身上最表面的那层东西。

信源：arXiv 2610.14022（2026-09-29），OPMD: On-Policy Mechanism Distillation Beyond Output Supervision；上海科技大学，Yingdong Shi 一作，Kan Ren、Jingyi Yu 在列；三组设置：Qwen3-4B→Qwen3-1.7B-Base、RL-Math→Qwen3-1.7B-Base、RL-Math→Qwen2.5-3B-Instruct；评测 AMC/AIME 2024/2025，avg@16；代码截至发稿未公开。