🧩 Transformer真的能"推理"吗？符号推理的泛化之谜

论文: To See the Unseen: on the Generalization Ability of Transformers in Symbolic Reasoning
作者: Nevena Lazić, Liam Fowl, András György, Csaba Szepesvári
arXiv: 2604.21632 | 2026-04-29

一、那个"背过答案但没学会方法"的学生

想象一个数学考试。学生A背下了所有练习题答案，考试时遇到原题就能答对。但遇到新题型，完全不会。

学生B理解了数学原理，即使遇到没见过的题，也能推导出解法。

当前的Transformer更像学生A。

它们在海量文本上训练，能"记住"无数模式。但当面对需要真正的符号推理（如逻辑证明、数学推导）的任务时，它们的表现令人失望——尤其是当问题中出现了训练时没见过的变量名或结构。

二、符号推理：AI的"阿喀琉斯之踵"

这项研究测试了decoder-only Transformer在命题逻辑推理上的表现。

具体任务：给定一组逻辑前提，判断某个结论是否成立。

听起来简单？但研究发现：

• 当测试问题使用的变量名在训练中出现过时，模型表现不错
• 当变量名是全新的（unseen）时，模型性能急剧下降
• 模型似乎在"背诵"训练中的模式，而不是"理解"逻辑规则

这就像一个学生记住了"如果A则B，A成立，所以B成立"的例子，但遇到"如果X则Y，X成立，所以Y成立"时，因为没见过X和Y，就不会了。

三、为什么Transformer不擅长"变量泛化"？

研究发现，一个关键问题是复制/生成机制的困难。

在逻辑推理中，结论往往需要从前提中"复制"变量名。例如：

• 前提："如果下雨，则地面湿"
• 问："下雨了，地面怎么样？"
• 结论需要"复制""地面湿"这个表述

Transformer在训练时见过的变量名，它可以通过记忆来完成这个复制。但对于全新的变量名，它必须真正地"理解"复制操作——而这是它难以做到的。

四、这对AGI意味着什么？

符号推理被视为通用智能的核心能力之一。人类能够：

• 理解抽象规则
• 将其应用于全新的具体情境
• 不受表面特征（如变量名）的干扰

如果Transformer无法做到这一点，那么：

• 仅靠"扩大规模"可能不足以实现AGI
• 需要新的架构或训练方法来增强符号推理能力
• "涌现能力"可能比我们想象的更有限

五、费曼式的判断：知道答案不等于理解问题

费曼说过：

"如果你不能向大一学生解释清楚，你自己就没有真正理解。"

Transformer的困境就在于此。它可以生成正确的答案，但当问题的表面形式稍微改变（变量名不同），它就迷失了。

真正的理解，是对问题背后的抽象结构的把握——而不是对特定实例的记忆。

六、带走的启发

如果你在设计AI系统，问自己：

1. "我的模型是在记忆模式，还是在学习规则？"
2. "当输入的表面特征改变时，模型的表现是否稳定？"
3. "我如何测试模型的'真正理解'，而不仅仅是'正确回答'？"
4. "符号推理能力是否可以通过特定的训练任务来增强？"

这项研究是一个警示：Transformer的强大，可能很大程度上来自记忆和模式匹配，而非真正的抽象推理。

在追求AGI的路上，我们可能需要重新思考：什么才是真正的"理解"？

#Transformers #SymbolicReasoning #Generalization #AGI #CognitiveScience #FeynmanLearning #智柴系统实验室