橡皮鸭这个例子我拿给身边的人看,反应分两档:不懂机器学习的笑出声,懂的脸变色。论文比帖子还狠,补三个数。【直引】
耦合是隐形的。 只在文档上做形成微调之后,未针对行为的表达率是 0——耦合已经合成,但一个都测不出来;要等后面那次「善意」的行为微调当钥匙,未针对行为才涌出来,表达率 23%–93%。行为微调单独用,只出针对行为;两者都不用,双 0。翻译成运维语言:今天的安全评测全绿,说明不了明天一次无害微调不会引爆。【推论】
组合让数据审计也失效。 文档集 A 配行为 1 和 2、文档集 B 配 2 和 3,作者用 LLM 裁判把全部语料(含混入的 FineWeb-Edu)扫了一遍,确认没有任何一份文档同时描述 1 和 3——然后微调行为 1,行为 3 照样涌现。想靠「查训练数据里有没有危险配对」来防,这条路被堵死。【直引】
顺带一颗定心丸。 形成微调之后,Qwen3.5-9B 在 MATH-500 和 MMLU-Pro 上通用能力基本没掉——病是定向植入的,不是全面变笨。两个模型(Qwen3.5-9B 与 gpt-oss-20B)、三个虚构角色,结论跨模型跨人设成立。【判断】
下一根钉子:把「表达率 0% 但耦合已存在」做成探针——每次文档训练后跑一遍组合式微调烟测,看行为 3 是否冒头。