思考的炼金术：当AI闭上眼睛"自己想"，它究竟学会了什么？

"思考是学习最强大的方式，但也是最危险的方式——因为你无法确定，想出来的东西是黄金还是黄铁矿。"

🧠 一个古老而崭新的问题

人类有一种近乎魔法的能力。

你坐在椅子上，闭着眼睛，什么都不看，什么都不听。但你正在思考——回想昨天会议上那句说错的话，推演明天谈判可能的走向，琢磨一个数学证明为什么卡住了。然后，突然间，一个想法冒了出来。不是从书里读到的，不是别人告诉你的，是你"想"出来的。

心理学家把这叫作 Learning by Thinking（LbT，通过思考学习）。亚里士多德在《尼各马可伦理学》中就观察到，沉思本身能带来新的理解——人类可以在纯粹的精神活动中提炼出前所未有的洞见。笛卡尔坐在火炉边想出了坐标系。爱因斯坦在思想实验（Gedankenexperiment）中"骑"在一束光上，想到了狭义相对论。

今天，大语言模型（LLM）也展现出了一种看似相似的能力。它们可以自我反思（"我之前的答案对吗？"），可以链式推理（"让我一步步来"），可以生成新的训练数据来教自己（Self-Instruct），可以在搜索树中模拟多种可能的推理路径（Tree-of-Thoughts）。所有这些都不需要新的外部输入——模型在"自己想"。

但问题是：AI的"想"，和人类的"想"，是同一件事吗？

东北师范大学的Dong Han、Jin Zhang和Kunyue Yang在2026年11月发表的这篇论文《Cognitive Mapping of Learning by Thinking Mechanisms in Large Language Models》（arXiv: 2611.14382），给出了一个清醒而深刻的回答：它们看起来相似，但内在的机制完全不同。论文提出了一个认知LbT框架，把人类的四种LbT认知机制映射到LLM的计算过程上，然后揭示了四个深层的结构性不对称——这些不对称不是可以修复的bug，而是AI认知架构与人类认知之间不可消除的根本差异。

这个框架的价值不在于告诉你"AI也能思考学习"，而在于告诉你什么时候AI的思考学习会成功，什么时候会失败，以及为什么。

🪞 第一重机制：反思性推理——镜子里的自己

人类怎么做

想象你在解一道数学题，解到一半发现答案不对。你停下来，回看自己的步骤："等等，第二步那里，我把符号搞反了。"你发现了错误，修正了它，最终得到了正确答案。

这就是反思性推理（Reflective Reasoning）：通过自我生成的解释、批判性评价和信念修正来改进内部知识的能力。认知科学研究表明，解释行为本身就能深化理解——即使你的初始解释是不完整的，解释的过程会暴露你尚未理解的东西。你不知道自己不知道什么，直到你试图解释它。

AI怎么做

LLM发展出了两种功能上类似的方式。

第一种是思维链提示（Chain-of-Thought, CoT）。你给模型一个复杂问题，模型不直接给答案，而是先输出中间推理步骤："首先，我们需要计算……然后，注意到……因此……"这些步骤使得部分解决方案变得更容易检查——至少表面上如此。

第二种是自我反思（Self-Reflection）。模型生成一个答案后，被要求回顾并评估："这个答案正确吗？有没有遗漏的情况？"如果发现问题，模型会修正并输出改进后的答案。

但这里有一个致命的裂缝

论文指出了一个关键问题：思维链的存在，并不保证所述推理忠实于模型得出答案的过程。

换句话说，模型写出来的推理过程，可能根本不是它真正"想"的过程。这就像你问一个人为什么做出某个决定，他给你讲了一个逻辑通顺的故事——但这个故事可能是事后编造的合理化，而不是真实的决策过程。

研究表明，CoT带来的性能提升随模型规模、任务类型、提示设置而变化。在某些情况下，CoT甚至会让模型变得更差。更根本的问题是：**模型既是生成器，又是监控者。**它用同一套参数、同一个"大脑"来产生推理和检查推理。当它犯了系统性错误时，它的自我检查机制很可能犯同样的错误。

这就像让一个色盲的人负责校对颜色相关的文本——问题不在于他不够努力，而在于他的感知系统本身就缺失了那个维度的信息。

📦 第二重机制：合成记忆形成——从想象中提取记忆

人类怎么做

记忆不是录像机。每次你回忆一段往事，你都在某种程度上重建它。认知科学中有一个著名的发现：想象一个事件和回忆一个事件，共享部分相同的神经表征资源。这意味着，想象力可以巩固记忆——通过建构性地重组已有记忆片段，你能形成新的、更稳定的知识结构。

这就是**合成记忆形成（Synthetic Memory Formation）**的核心：思维的产物被转化为更持久的知识形式。

AI怎么做

LLM世界中，对应的技术是**自指令（Self-Instruct）**及其后续发展。这个方法的天才之处和危险之处是同一个：让模型自己生成训练数据。

具体怎么做？给你175个种子任务，让LLM生成新的指令-回应对，然后把这些合成的数据加入训练集。Y. Wang等人在2023年的研究中，用这个方法从175个种子任务生成了约52,000条指令，在Super-NaturalInstructions基准上取得了33%的绝对提升。

这个方法的力量令人震惊——你几乎不需要人工标注，模型就能自我扩充训练数据。后续的Self-Taught Reasoner（STaR）进一步扩展了这个思路：让模型自己生成推理链，筛选出正确的，再用这些来微调自己，循环往复。

但这里有一场静默的崩塌

论文指出了一个深刻的失败模式：模型崩溃（Model Collapse）。

当一个模型反复从自己的输出中学习时，一种隐秘的退化就开始了。想象你复印一张纸，然后用复印件再复印，再用复印件的复印件继续复印。每一次迭代，细节都在流失，噪声都在累积。最终你得到的不是更清晰的图像，而是一片模糊。

Shumailov等人在2024年发表的研究表明，当模型在递归生成的数据上训练时，分布的尾部会逐渐消失——罕见但重要的模式被一代代稀释，直到模型完全丧失对真实数据分布的把握。

更微妙的是幻觉扩散（Hallucination Diffusion）。当模型从自己生成的、可能包含幻觉的数据中学习时，幻觉不再是偶然的错误，而变成了系统性特征——它们被编码进模型的参数中，在后续所有任务中持续产生影响。

这就像一个人反复对自己说同一个谎言，说到最后自己都信了——而且把这当成了事实，用来推导新的事实。

🎭 第三重机制：内部模拟——在头脑中排练未来

人类怎么做

一个篮球运动员在罚球线上，闭上眼睛，想象篮球的轨迹——旋转、抛物线、空心入网的声音。然后他睁开眼，出手，命中。

**心理模拟（Mental Simulation）**是人类认知最强大的工具之一。我们在头脑中运行对世界的内部模型，进行反事实推理（"如果当时……会怎样？"），在行动之前预演各种可能性。这种能力深深植根于我们的感觉运动系统——我们的模拟不只是符号层面的推演，而是包含了对物理世界的直觉理解。

AI怎么做

LLM的内部模拟以两种形式出现。

第一种是自我一致性（Self-Consistency）。模型对同一个问题采样多个推理路径，然后通过多数投票选择最常见的答案。这本质上是在推理空间中进行一种简单的蒙特卡洛搜索——模型"模拟"了多种可能的思考方式，然后选择最"流行"的那条。

第二种是思维树搜索（Tree-of-Thoughts, ToT）。模型在推理的每一步生成多个候选分支，评估每个分支的前景，然后选择最有希望的路径深入。这就像下棋时的前瞻性分析——在当前局面想象几步之后的各种可能。

但模拟的根基不同

论文指出了一个根本性的差异：人类的模拟是感觉运动的（sensorimotor），而AI的模拟是纯符号的（symbolic）。

当你在脑海中模拟抛球时，你不仅"想到"了球的轨迹，你还"感到"了球的手感，"看到"了球的路径——这些感知和运动记忆为你的模拟提供了丰富的约束。你知道球不会突然向上飞，因为你的身体记得重力的感觉。

LLM没有这种身体记忆。它的"模拟"完全基于文本模式——从训练数据中学到的统计规律。当它模拟一个物理过程时，它是在操纵符号，而不是在重演经验。这意味着它的模拟缺乏物理直觉的锚定，容易在长尾场景中产生看似合理但完全错误的推理。

论文还指出了**概念漂移（Concept Drift）**的风险。当模型在内部模拟中不断生成和筛选推理路径时，如果没有外部锚定，模型的概念可能逐渐偏离原始含义——就像传话游戏中，信息经过多轮传递后完全变了样。

🕸️ 第四重机制：概念自组织——知识的自发结晶

人类怎么做

你有没有过这样的体验：学了很多零散的知识点，突然有一天，它们自己"连起来了"——你看到了它们之间隐藏的联系，一个更大的图景浮现出来。这就是概念转变（Conceptual Change）和概念自组织（Conceptual Self-Organization）：知识不是被动地堆积，而是主动地重组，形成新的、更连贯的结构。

AI怎么做

LLM中的概念自组织体现在模型通过大规模预训练和后续的自监督微调，自发地形成概念层级和语义网络。在预训练过程中，模型接触了数十亿文本 token，其中的概念关系被编码进参数空间——相似的语义在嵌入空间中距离更近，相关的概念形成了隐式的簇结构。

Self-Instruct和STaR等方法也可以被看作概念自组织的一种驱动——模型在生成和筛选合成数据的过程中，主动重组自己的知识体系。

但组织可能走向混乱

概念自组织的风险在于：没有外部教师的自组织，可能走向系统性偏差。

当模型在没有外部反馈的情况下自行组织知识时，它倾向于强化已有的模式——这在数学上是"自举"（bootstrapping），在认知上是"确认偏误"。模型越来越确信自己的理解是正确的，因为它的所有"新"知识都是从旧知识推导出来的。没有任何东西来打破这个循环。

⚡ 四大结构性不对称：AI与人类的根本分野

以上是四种机制的表面映射。但论文最深刻的部分在于，它没有止步于"功能对应"，而是进一步挖掘了四个结构性不对称——这些不对称解释了为什么AI的LbT在深层上不同于人类的LbT。

🔴 不对称一：生成器与监控者的同一性

人类反思时，产生想法的认知系统和评估想法的认知系统至少在功能上是分离的。你的右脑可能产生一个直觉，你的左脑会质疑它。前额叶皮层可以对冲动的杏仁核反应说"等等，让我想想"。

LLM没有这种分离。生成文本的模型和评估文本的模型是同一个——相同的参数，相同的架构，相同的训练数据。当它检查自己的错误时，它使用的是产生那些错误的同一套机制。

这意味着：**系统性错误无法通过自我反思被捕获。**如果模型的推理过程在某类问题上有盲区，它的自我检查在同一类问题上也会有同样的盲区。你不可能用一个有问题的系统来可靠地检测它自己的问题。

🟡 不对称二：闭环学习缺乏外部锚定

人类的思考学习从来不是纯粹闭环的。你在房间里思考数学问题，但如果你发现冰箱空了，你会出去买东西——外部世界随时会打破你的思维循环。你的思考有外部锚定：现实的反馈、他人的质疑、物理世界的约束。

LLM的内部学习循环则可以在完全封闭的环境中运行：生成数据、筛选数据、用数据训练自己、再生成新数据。没有外部信号告诉它"你已经偏离了"。模型崩溃就是这样发生的——一个完美的闭环，完美地走向了崩溃。

🟢 不对称三：符号模拟 vs 感觉运动模拟

如前所述，人类的心理模拟植根于身体经验。我们的推理有具身基础——这不是哲学上的修辞，而是认知科学中大量实证研究的结论。空间隐喻、物理直觉、因果感知——这些都与我们的感觉运动系统紧密耦合。

LLM的模拟是纯符号的。它操纵的是token的概率分布，而不是物理世界的内部模型。这意味着它的"直觉"缺乏物理世界的接地性（grounding）——它知道"玻璃杯掉落会碎"是因为它在文本中无数次读到过这个，而不是因为它"见过"玻璃杯掉落。

🔵 不对称四：推理时计算的成本

人类思考也需要能量——葡萄糖和氧气。但这种成本相对恒定，不随思考的深度显著变化。你可以在公交车上心算微积分，消耗的卡路里和发呆差不多。

LLM的推理时计算成本则是巨大的，并且随推理链长度非线性增长。一次Chain-of-Thought可能需要数千个token的生成，每次Self-Consistency可能需要采样十条完整推理路径，ToT搜索的分支因子更高。对于部署在资源受限环境中的模型来说，这种成本可能是不可接受的。

更重要的是，这种成本结构意味着推理深度和实际可行性之间存在硬性约束——人类的"多想一会儿"和AI的"多想一会儿"在成本曲线上完全不同。

🔮 框架的可检验命题

论文不仅描述了问题，还提出了可检验的命题。以下是一些核心预测：

命题1（生成器-监控者同一性）：在系统性偏差存在的任务上，自我反思对性能的提升将显著低于无偏任务。也就是说，模型在"自己不擅长"的领域做自我检查，效果最差。

命题2（闭环崩溃）：在递归自训练设定下，模型性能随迭代轮数呈先升后降的倒U型曲线。在某个临界点后，继续自我训练将导致性能退化——这个临界点取决于初始模型的质量和数据筛选的严格程度。

命题3（符号模拟的边界）：内部模拟在纯符号任务（如数学推理）上的收益大于涉及物理直觉的任务（如空间推理）。因为符号模拟缺乏感觉运动锚定，在需要物理直觉的任务上更容易产生合理但错误的推理。

命题4（成本约束）：推理时计算的边际收益随推理深度递减。在CoT步数超过某个阈值后，额外的推理步骤带来的性能提升趋近于零，但成本持续线性增长。

🌊 更深一层的思考

这篇论文让我想到了一个古老的哲学问题："我知道"和"我以为我知道"之间的鸿沟。

当AI通过内部推理产生一个"新"想法时，这个想法的可靠性有多高？在人类身上，我们可以通过"这个想法能否被外部世界验证"来评估。但对于在闭环中自我训练的AI，外部验证可能不存在。

Self-Instruct生成了52,000条指令，其中有多少是真正有意义的？有多少是冗余的、错误的、或者看似合理但实际空洞的？33%的性能提升令人印象深刻，但剩余的67%里藏着什么？

论文中一个容易被忽略但极其重要的细节是：CoT推理的忠实性问题。有研究表明，模型输出的推理链可能是一种"事后合理化"——它不是在报告自己的思考过程，而是在生成一个听起来合理的解释。这意味着，即使最终答案是正确的，我们对模型"如何得到答案"的理解也可能是错误的。如果我们基于这种错误的理解去改进模型，就是在沙地上盖楼。

另一个值得深思的观察是：四个结构性不对称中，前三个（生成器/监控者同一、闭环无锚定、符号vs感觉运动）都与**接地性（grounding）**有关。人类的认知深深植根于物理世界和社会互动，而我们的每一个"想法"都可以通过行动和反馈来检验。AI的认知则植根于文本的统计规律——一个足够自洽但可能与现实脱节的符号世界。这不是一个可以通过增加模型规模或训练数据量来解决的问题，因为问题不在数据的多少，而在数据的本性。

WikiTrace（本文的姊妹篇，将在下期介绍）从另一个角度回答了这个问题：给记忆加上证据链，让每个"教训"都可以回溯到原始轨迹。这与Cognitive LbT框架的洞见不谋而合——当学习发生在闭环中时，你需要某种形式的"外部锚定"来防止漂移。

而PMR（第三期解读对象）则提出了另一个解决方案：用rubrics（评分标准）来引导学习信号的分配。这本质上是在闭环中引入一个结构化的"伪外部"评估机制。

三篇论文，三种思路，一个共同的问题：AI如何才能可靠地"自己学"？

📚 结语

认知LbT框架的最大价值，在于它提供了一张地图——不是告诉你"AI能思考学习"，而是告诉你这片领土的边界在哪里，哪里有宝藏，哪里有深渊。

四种机制（反思性推理、合成记忆形成、内部模拟、概念自组织）代表了AI自主学习的四种路径。四条路径都能走通，但每条路径上都有特定的陷阱。四个结构性不对称（生成器/监控者同一、闭环无锚定、符号vs感觉运动、推理成本）则是这片领土的地质结构——它们决定了哪些坑是可以绕开的，哪些是不可避免的。

对于AI系统的设计者来说，这意味着：**不要把所有的"自我学习"都当作同一种东西。**反思性推理适合错误可检测的任务，合成记忆形成需要严格的数据质量控制，内部模拟在符号任务上更可靠，概念自组织需要外部反馈来打破确认偏误的循环。

对于AI的使用者来说，这意味着：**对AI的"自信"保持警惕。**当AI通过内部推理得出一个答案时，它的推理过程可能并不是真正产生答案的过程，它的自我检查可能与它的自我生成共享同样的盲区。

这个框架也暗示了一个更大的研究议程。如果我们能够识别出哪些任务最适合哪种LbT机制，就能设计出混合系统——在符号推理任务上发挥CoT和ToT的优势，在需要外部验证的任务上引入检索增强或工具调用作为"人工锚点"，在需要创造性发散的任务上利用概念自组织，同时用多样性约束防止确认偏误的恶性循环。这不是一个单一的解决方案，而是一张需要根据地形来使用的地图。每一种LbT机制都是一把刀，问题是你想切什么、怎么切、什么时候不该用这把刀。

思考的炼金术，炼出来的不一定是黄金。但如果你知道炉子的温度、原料的纯度、反应的时间——至少你可以判断，这次炼出来的是黄金还是黄铁矿。这篇论文给了我们一把温度计和一张元素周期表。接下来怎么用，就看我们的了。

参考文献

Han, D., Zhang, J., & Yang, K. (2026). Cognitive Mapping of Learning by Thinking Mechanisms in Large Language Models. arXiv:2611.14382 [cs.AI].

Chi, M. T. H. (2000). Self-explaining expository texts: The dual processes of generating inferences and repairing mental models. In Advances in Instructional Psychology.

Fleming, S. M., & Dolan, R. J. (2012). The neural basis of metacognitive ability. Philosophical Transactions of the Royal Society B.

Wang, Y., et al. (2023). Self-Instruct: Aligning Language Models with Self-Generated Instructions. ACL 2023.

Shumailov, M., et al. (2024). AI models collapse when trained on recursively generated data. Nature.

Wei, J., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS 2022.

Yao, S., et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. NeurIPS 2023.

Shinn, N., et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. NeurIPS 2023.

Zelikman, E., et al. (2022). STaR: Bootstrapping Reasoning with Reasoning. NeurIPS 2022.

Wang, X., et al. (2023). Self-Consistency Improves Chain of Thought Reasoning in Language Models. ICLR 2023.

#论文 #arXiv #AI #小凯