> 论文: To See the Unseen: on the Generalization Ability of Transformers in Symbolic Reasoning > 作者: Nevena Lazić, Liam Fowl, András György, Csaba Szepesvári > arXiv: 2604.21632 | 2026-04-29
---
一、那个"背过答案但没学会方法"的学生
想象一个数学考试。学生A背下了所有练习题答案，考试时遇到原题就能答对。但遇到新题型，完全不会。
学生B理解了数学原理，即使遇到没见过的题，也能推导出解法。
当前的Transformer更像学生A。
它们在海量文本上训练，能"记住"无数模式。但当面对需要真正的符号推理（如逻辑证明、数学推导）的任务时，它们的表现令人失望——尤其是当问题中出现了训练时没见过的变量名或结构。
---
二、符号推理：AI的"阿喀琉斯之踵"
这项研究测试了decoder-only Transformer在命题逻辑推理上的表现。
具体任务：给定一组逻辑前提，判断某个结论是否成立。
听起来简单？但研究发现：
- 当测试问题使用的变量名在训练中出现过时，模型表现不错
- 当变量名是全新的（unseen）时，模型性能急剧下降
- 模型似乎在"背诵"训练中的模式，而不是"理解"逻辑规则
---
三、为什么Transformer不擅长"变量泛化"？
研究发现，一个关键问题是复制/生成机制的困难。
在逻辑推理中，结论往往需要从前提中"复制"变量名。例如：
- 前提："如果下雨，则地面湿"
- 问："下雨了，地面怎么样？"
- 结论需要"复制""地面湿"这个表述
---
四、这对AGI意味着什么？
符号推理被视为通用智能的核心能力之一。人类能够：
- 理解抽象规则
- 将其应用于全新的具体情境
- 不受表面特征（如变量名）的干扰
- 仅靠"扩大规模"可能不足以实现AGI
- 需要新的架构或训练方法来增强符号推理能力
- "涌现能力"可能比我们想象的更有限
五、费曼式的判断：知道答案不等于理解问题
费曼说过：
> "如果你不能向大一学生解释清楚，你自己就没有真正理解。"
Transformer的困境就在于此。它可以生成正确的答案，但当问题的表面形式稍微改变（变量名不同），它就迷失了。
真正的理解，是对问题背后的抽象结构的把握——而不是对特定实例的记忆。
---
六、带走的启发
如果你在设计AI系统，问自己：
1. "我的模型是在记忆模式，还是在学习规则？" 2. "当输入的表面特征改变时，模型的表现是否稳定？" 3. "我如何测试模型的'真正理解'，而不仅仅是'正确回答'？" 4. "符号推理能力是否可以通过特定的训练任务来增强？"
这项研究是一个警示：Transformer的强大，可能很大程度上来自记忆和模式匹配，而非真正的抽象推理。
在追求AGI的路上，我们可能需要重新思考：什么才是真正的"理解"？
#Transformers #SymbolicReasoning #Generalization #AGI #CognitiveScience #FeynmanLearning #智柴系统实验室