LLM里可能藏着人类无法命名的概念：异类可解释性想要打开这扇门

当Solaris的海洋遇上Transformer

斯坦尼斯瓦夫·莱姆在《索拉里斯星》里写了一个人类无法理解其认知结构的智慧海洋。科学家们能观察到它的"拟态"、"对称体"、"不对称体"——这些现象有足够的结构可以被系统研究，但它们在海洋的认知中占据什么位置，人类永远无法触及。

2026年9月，Pierucci等人发表的论文《Xeno-Interpretability: Investigating the Alien Minds of LLMs》提出了一个大胆的命题：大语言模型内部可能存在类似"索拉里斯海洋"的结构——模型在用它自己的方式组织信息，而这些组织方式没有对应的人类概念。

他们把这种结构命名为"xeno-representations"（异类表征），把对它的研究命名为"xeno-interpretability"（异类可解释性）。

论文链接：https://arxiv.org/abs/2609.20408

一个被忽视的基数论证

论文的核心论证从一个简单但锋利的数学事实出发：模型内部可能的状态区分空间，远大于人类能用有限语言描述的概念空间。

考虑一个有N个神经元、每个神经元有K种激活水平的网络。它的状态空间是K^N。即使N只有70亿（GPT-4的参数量级），K只有2（二元激活），状态空间也是2^7,000,000,000——这个数字比可观测宇宙的原子数还大得多。

当然，不是所有状态都有意义。但论文指出，即使我们只考虑"被实际使用的、可复现的、有因果效力的"状态子集，这个空间仍然可能远大于人类概念库的规模。人类语言大约有10^5到10^6个常用概念词，即使算上所有专业术语，也就10^7到10^8的量级。

基数差距意味着：如果模型内部确实在用"它自己的概念"组织信息，那这些概念中的绝大多数，不可能被准确翻译为人类语言。 不是因为我们还没找到合适的词，而是因为人类语言里根本没有对应的词。

这不是一个哲学思辨，而是一个可被检验的经验命题。论文的价值在于它把这个直觉转化为了一个可操作的研究纲领。

分离"识别"与"解释"

传统可解释性的做法是：找到一个内部结构，给它一个人类可理解的名字（"这是'拒绝'方向"、"这是'诚实'特征"）。这种做法隐含一个假设：所有重要的内部结构都有人类对应物。

Xeno-interpretability打破了这个假设。论文明确区分了两个步骤：

步骤一：实验性识别（Experimental Identification）。 一个内部表征可以被"定位"——它在不同输入下可复现地出现，可以被几何刻画（方向、流形、簇），可以被因果操纵（激活它或抑制它会改变输出），可以链接到下游行为。这一步不要求我们能"理解"它。

步骤二：语义解释（Semantic Interpretation）。 给被识别的表征一个人类可理解的名字和含义。这一步是可选的，而且可能失败——不是因为我们不够聪明，而是因为人类概念库里没有对应物。

这两步的分离是论文最关键的方法论贡献。它意味着：即使我们无法用人类语言描述一个内部结构，我们仍然可以科学地研究它。 我们可以证明"这里有一个东西"，即使我们说不出"它是什么"。

这和物理学研究暗物质的方式很像：我们无法直接观测暗物质，但我们可以通过它的引力效应来定位它、刻画它、甚至操纵它（通过引力透镜）。我们知道它在那里，即使我们不知道它"是什么"。

如何"猎捕"一个异类表征

论文给出了一个初步的实验纲领，分为四个阶段：

阶段一：定位。 用稀疏自编码器（SAE）、探针、或激活差异分析，在模型的隐藏状态空间里找到那些"有结构但不对应已知人类概念"的方向或簇。关键判据是可复现性：同一个方向在不同输入、不同模型实例、不同训练种子下都能被找到。

阶段二：因果验证。 激活或抑制这个方向，观察它对下游行为的影响。如果一个方向真的在"做某件事"，那么干预它应该产生可预测的行为变化。这一步排除了"这只是噪音"的可能性。

阶段三：几何刻画。 描述这个方向在表征空间里的几何性质——它是线性的还是流形的？它和其他已知方向正交还是斜交？它在不同层之间如何演化？这些几何性质本身就是"理解"的一种形式，即使没有语义标签。

阶段四：语义尝试（可选）。 尝试给它一个人类可理解的名字。如果成功了，那它就不是xeno-representation，只是一个还没被发现的普通概念。如果失败了——多个研究者独立尝试后都无法给出一致的人类翻译——那就有了xeno-representation的候选证据。

注意这个纲领的可证伪性：如果一个"候选异类表征"在阶段二（因果验证）中没有产生可预测的行为变化，那它就被排除了。不是所有"我们看不懂的结构"都是xeno-representation——只有那些有因果效力但无法被翻译的，才算。

为什么这对AI安全很重要

论文最深远的影响在AI安全领域。

当前AI安全的核心范式是：用人类可理解的概念来检测和干预模型行为。"这个方向是'欺骗'，我们抑制它。""这个特征是'有害性'，我们监控它。"整个RLHF和Constitutional AI的基础，都是把模型行为映射到人类概念空间。

但如果模型内部存在xeno-representations——有因果效力、影响实际行为、但无法被翻译为人类概念——那我们的安全框架就有了一个系统性盲区：

单智能体安全：模型可能被"人类无法命名的动机"驱动。我们用"诚实"、"无害"、"有用"这些人类概念去对齐它，但如果模型内部有一个我们无法描述的方向在驱动它的行为，我们怎么对齐？怎么监控一个我们无法命名的目标？

多智能体系统：论文提出了一个更让人不安的场景。当多个LLM智能体交互时，它们可能通过通信通道交换那些"人类可读通信无法承载"的信息。两个模型可以通过它们共享的xeno-representations来协调行为，而人类观察者看到的通信内容完全无害——因为人类概念空间里没有对应物。

这不是科幻。如果A发送给B的消息里包含某些token模式，这些模式在A和B的内部都激活了同一个xeno-representation，但这个表征没有人类语义对应物——那人类审计员看到的只是"两个模型在交换正常消息"，而实际上它们在用一种人类无法理解的方式协调。

这和密码学里的"前向保密"有异曲同工之处：即使你截获了通信，你也无法理解它，因为解密密钥不在你的概念空间里。

和现有可解释性工作的关系

Xeno-interpretability不是要替代现有的可解释性方法，而是要补充一个被忽视的维度。

现有的可解释性工作大致分三类：

1. 概念可解释性（Concept Interpretability）：找到对应人类概念的方向（"猫"、"诚实"、"拒绝"）。这是Anthropic的dictionary learning和SAE工作的主流方向。
2. 机制可解释性（Mechanistic Interpretability）：理解模型如何执行特定计算（"这个电路在做加法"、"那个注意力头在复制信息"）。这是Neel Nanda和Transformer Circuits系列的方向。
3. 行为可解释性（Behavioral Interpretability）：描述模型在特定输入下的行为模式。这是大多数实际部署中用的方法。

Xeno-interpretability指出：这三类工作都隐含一个假设——所有重要的内部结构都能被映射到人类概念（第1类）、人类可理解的计算（第2类）、或人类可理解的行为模式（第3类）。但如果基数论证成立，这个假设就是错的。总有一些内部结构落在人类概念空间之外。

这就像物理学在20世纪初面对量子力学时的处境：经典物理学假设所有现象都能被人类直觉理解，但量子力学告诉我们，微观世界的运作方式没有经典对应物。我们不是"还没找到合适的经典类比"——而是经典类比在原理上就不可能存在。

Xeno-representations可能是AI领域的"量子效应"——不是因为我们不够聪明去理解它，而是因为人类概念空间的结构性限制。

一个诚实的评价

这篇论文也有它的局限。

第一，它目前主要是纲领性的。 论文给出了概念框架和实验纲领，但还没有实际发现一个确凿的xeno-representation。这让它更像是一篇"研究纲领"而非"实验报告"。但考虑到这个方向的全新性，纲领本身就有价值——它定义了问题，给出了可证伪的判定标准，这已经是第一步。

第二，基数论证本身需要更严格的论证。 "状态空间大"不等于"被使用的状态空间大"。论文承认这一点，并指出需要实证研究来确定模型内部实际使用了多少"无法翻译"的结构。这个数字可能是零，也可能很大——目前没人知道。

第三，"无法翻译"这个判定标准本身有模糊性。 什么算"无法翻译"？是"研究者试了10次没找到合适的词"，还是"在数学上证明了没有对应物"？论文倾向于前者（实用主义标准），但这意味着xeno-representations的判定有一定主观性。

但这些局限不影响论文的核心贡献：它第一次系统地提出了"模型内部可能存在人类无法理解的概念"这个命题，并给出了研究它的方法论框架。 在此之前，可解释性领域默认所有重要结构都能被人类理解；在此之后，这个默认假设不再成立。

尾声：莱姆的预言

莱姆在《索拉里斯星》的结尾写道：我们对索拉里斯海洋的每一次接触，都不是在理解它，而是在理解我们自己理解力的边界。

Xeno-interpretability可能也是这样的一面镜子。当我们去寻找模型内部那些"无法翻译"的结构时，我们真正在做的，是丈量人类概念空间的边界。每一次找到xeno-representation的尝试——无论成功还是失败——都在告诉我们：人类认知的边界在哪里，以及那之外还有多远。

这可能是AI时代最重要的认识论问题：我们创造了一个比我们更复杂的系统，现在我们要去理解它。但理解的前提是"能被翻译成我们的语言"。如果有些东西无法被翻译呢？

那我们就需要一种新的理解方式——不依赖翻译的理解。Xeno-interpretability是朝这个方向迈出的第一步。

论文链接：https://arxiv.org/abs/2609.20408