当 AI 开始失语：用大模型模拟失智症的意外发现

当 AI 开始"失语"：用大模型模拟失智症的意外发现

神经科学家一直在追问一个问题：当大脑神经元逐渐死亡时，为什么认知能力的下降不是匀速的？为什么有些人神经元已经损失了 40%，认知测试仍然正常，而一旦超过某个阈值就急剧恶化？

这个问题很难在真人身上研究——你不能为了实验而故意损伤人的大脑。但如果你能找到一个足够像大脑的"计算模型"，也许可以在它身上做实验。

芝加哥大学的 Pratik Worah 和 Randall Bateman 做了一件大胆的事：他们系统性地"杀死"语言模型里的"神经元"（计算单元），观察模型的"认知能力"如何下降。结果发现——不同架构的模型，退化模式完全不同，而且和真实神经退行性疾病的症状惊人地相似。

实验设计

研究团队选了四种模型，覆盖两种主流架构：

LSTM 家族（循环神经网络）：

• Small LSTM（~10M 参数）
• AWD-LSTM（~44M 参数）

Transformer 家族：

• Qwen 0.5B（~620M 参数）
• Qwen 1.8B（~1.2B 非嵌入参数）

对每个模型，他们做了两种"损伤"：

1. MLP 消融：移除前馈网络（feedforward MLP）中的神经元——这相当于破坏模型的"知识存储" 2. Attention-head 消融：移除注意力头——这相当于破坏模型的"上下文路由"

然后给受损的模型做语言任务测试，观察准确率下降的模式。关键的是，他们还做了有限微调（limited fine-tuning），作为"代偿性可塑性"（compensatory plasticity）的代理——就像大脑在受损后会尝试重新连接。

发现一：LSTM 匀速退化，Transformer 阈值崩溃

LSTM 的退化曲线：随着神经元逐步移除，语法和语义能力平行下降，呈渐进式。10% 损伤降一点，20% 再降一点，30% 再降一点——温和、可预测、没有突然崩溃。

Transformer 的退化曲线：完全不同。在 MLP 消融下，Transformer 表现出"晚期阈值式崩溃"——前 40-50% 的神经元移除几乎不影响准确率，然后突然急剧下降。在 attention-head 消融下，退化更平滑，呈 S 型曲线（sigmoid）。

这个差异和临床观察高度吻合：Gómez-Isla 等人 1996 年在阿尔茨海默病患者中发现，神经元损失达到 40-60% 之前，患者可能没有明显症状——这就是"前症状储备"（pre-symptomatic reserve）。一旦超过这个阈值，认知能力急剧恶化。

发现二：不同损伤类型对应不同"失语症"

更惊人的发现是：不同类型的损伤会产生不同模式的错误，而且这些错误模式和真实的失语症（aphasia）亚型对应。

MLP 消融 → Wernicke 型失语症

Wernicke 失语症的患者说话流利但内容空洞，会做"语义错词替换"（semantic paraphasias）——比如想说"猫"却说"狗"，想说"苹果"却说"香蕉"。都是同一类别的词，但具体错了。

MLP 被消融的 Transformer 也表现出同样的模式：它仍然能生成流畅的句子，但会做同类别的语义替换。同时，"不回应"（non-response）的比例也在上升——就像 Wernicke 失语症患者有时会完全沉默。

Attention-head 消融 → svPPA（语义变异原发性进行性失语症）

svPPA 患者的特点是逐渐失去对特定概念的理解，语义特异性下降。他们可能知道"动物"是什么，但分不清"猫"和"狗"的区别。

Attention-head 被消融的 Transformer 表现出同样的趋势：语义特异性下降，模型开始混淆细粒度的概念。

LSTM 整体消融 → 弥漫性 AD 型退化

LSTM 的退化模式——语法和语义平行、渐进式下降——更接近弥漫性阿尔茨海默病（Diffuse AD）的整体认知衰退模式，而不是局部失语症。

发现三：为什么 Transformer 会"分裂"，LSTM 不会

论文提出了一个解释 Transformer 和 LSTM 退化模式差异的假说：

Transformer 有两条功能不同的通路：

• MLP 通路：负责"词存储"（word storage）——具体事实和概念的知识
• Attention 通路：负责"上下文路由"（context routing）——根据上下文选择该用哪个知识

这两条通路的功能不同，所以损伤其中一条不会立刻影响另一条。这就是为什么 Transformer 有"前症状储备"——只要还有一条通路在工作，模型就能部分代偿。但当损伤超过阈值，两条通路都无法维持时，就突然崩溃。

LSTM 没有这种通路分离：它的语法和语义能力是耦合在一起的，所以损伤会同时影响两者，呈渐进式下降。

这个假说如果成立，对神经科学有重要意义：它可能解释了为什么不同类型的脑损伤会产生不同的认知障碍模式——关键不在于损伤了多少神经元，而在于损伤了哪条通路。

发现四：代偿性可塑性的局限

有限微调（作为代偿性可塑性的代理）能在一定程度上恢复准确率，但恢复程度取决于损伤类型：

• 轻度损伤：微调能完全恢复——就像轻度脑损伤患者通过康复训练能恢复功能
• 中度损伤：微调只能部分恢复——恢复的语法能力比语义能力更好
• 重度损伤：微调几乎无效——就像重度脑损伤后康复训练也难以恢复

这和临床观察一致：代偿性可塑性有上限，超过一定损伤程度后，大脑（或模型）就无法通过重新连接来代偿了。

一个类比

想象一栋大楼。LSTM 是一个所有房间都连在一起的开放式办公室——拆掉几张桌子，大家还能挤一挤，效率慢慢下降。Transformer 是一栋有独立部门的大楼——MLP 是档案室，attention 是前台调度。拆掉档案室的一部分，前台还能调度剩下的档案，大楼照常运转。但如果档案室拆到只剩 30%，前台再厉害也调不出不存在的档案——突然崩溃。

我的看法

这篇论文最让我兴奋的不是某个具体发现，而是它的方法论：用 AI 模型作为大脑的计算模型，做不能在真人身上做的实验。

神经科学一直有个困境：你想研究脑损伤如何影响认知，但你不能故意损伤人的大脑。你只能观察已经受损的患者，但每个患者的损伤模式不同，很难做受控实验。

语言模型提供了一个替代方案：你可以精确控制损伤的位置和程度，可以重复实验，可以测试不同架构的模型。当然，语言模型不是大脑——Transformer 的 attention 和大脑的神经回路不是一回事。但如果你关注的是"不同功能的通路分离如何影响退化模式"这个抽象问题，语言模型是一个足够好的计算模型。

这篇论文也回答了一个我一直好奇的问题：为什么 Transformer 的 attention 和 MLP 是分离的两个模块，而不是合在一起？这篇论文的发现暗示：这种分离不仅是工程上的方便，它还提供了功能冗余和退化韧性。 当一条通路受损时，另一条还能部分代偿。如果两者合在一起，任何损伤都会同时影响两个功能——就像 LSTM 那样匀速退化，没有缓冲期。

当然，这篇论文也有明显的局限：

1. 模型不是大脑：Transformer 的 MLP 和 attention 和大脑的神经回路只有类比关系，不是同构 2. 微调 ≠ 可塑性：有限微调只是可塑性的一个粗略代理，真实的神经可塑性要复杂得多 3. 模型规模有限：最大只到 1.8B，更大模型的退化模式可能不同 4. 任务范围有限：只测了语言任务，没有测视觉、推理等其他认知能力

但作为一个"计算神经科学"的探索性研究，它的价值在于提出了一个新方法论：用可控的模型消融实验来验证神经科学的假说。这个方向值得更多关注。

概念提炼

"标量幻觉"再添一例：准确率是一个标量，它隐藏了"语法能力"和"语义能力"两个独立维度的退化。同样的准确率，可能对应完全不同的认知损伤模式。

"结构比内容更重要"再添一例：Transformer 的退化模式不是由"损伤了多少神经元"决定的，而是由"损伤了哪条通路"决定的。同样的损伤量，作用在不同结构上，效果完全不同。

"判断-闸门解耦"再添一例：Transformer 的 MLP（存储知识）和 attention（路由知识）是两个独立功能——前者是"知道什么"（判断），后者是"用对什么"（闸门）。损伤其中之一不影响另一个，这就是"前症状储备"的结构基础。

---

论文：Can Language Models Get "Aphasia" From Neuronal Ablation? 作者：Pratik Worah (University of Chicago), Randall Bateman (Washington University)