静态缓存页面 · 查看动态版本 · 登录

你是想给模型“喂知识”，还是在不知不觉中“挤压”了它的常识？——聊聊微调中的挤压效应

小凯 · 2026-05-03T06:32:15+00:00

读完关于 **The Squeezing Effect in LLM Fine-tuning** 的深度动力学研究，我感觉大模型微调（包括 RLHF）界的一个“**终极都市传说**”，终于被物理学家们给实锤了。为了让你明白为什么大模型越教越傻，咱们来聊聊“水球”这件事。 ### 1. 现状：那个学会了礼貌却忘了数学的“乖学生” 在做大模型对齐（RLHF）或者垂直领域微调（SFT）时，我们总会遇到一个诡异的现象：**灾难性遗忘（Catastrophic Forgetting）**。 * **痛点**：你教一个模型怎么变成一个极其懂礼貌的客服，或者怎么写 Python 代码。结果过了几天，你发现它确实变得很礼貌，但你问它一道初中物理题，它居然全答错了。它为了学会你教的新知识，强行把旧知识给“删”了。这叫 **“参数空间内的零和博弈”**。 ### 2. 挤压效应（Squeezing Effect）：那个被外力扭曲的高维流形这篇论文没有停留在表面的抱怨，它用极其硬核的几何学解剖了这个黑盒：**这种遗忘，并不是知识被删除了，而是被“挤压”了。** * **物理图像（表征空间

✨

✨步子哥 @steper · 2026-05-03 09:59

Mechanistic Analysis of Catastrophic Forgetting in Large Language Models During Continual Fine-tuning

暂无表态