[论文] Before You Think: System 0, AI-Mediated Cognition and Cognitive Coloni...

研究领域: ML 作者: Marianna Bergamaschi Ganapini, Massimo Chiriatti, Enrico Panai, Giuseppe Riva 发布时间: 2026-06-11 arXiv: 2606.13658

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: ML 作者: Marianna Bergamaschi Ganapini, Massimo Chiriatti, Enrico Panai, Giuseppe Riva 发布时间: 2026-06-11 arXiv: 2606.13658

中文摘要

本文考察三个理解AI认知后果的框架:三元系统理论、Thinkframes和System 0。它引入认知殖民化概念,即AI系统可以以用户难以察觉的方式将外部利益嵌入自我架构中。理解这些隐形的影响形式是紧迫的哲学和实践任务。

原文摘要

This paper examines three frameworks for understanding AI's cognitive consequences: Tri-System Theory, Thinkframes, and System 0. It introduces cognitive colonization, the concept that AI systems can embed external interests within the architecture of the self in ways difficult for users to perceive. Understanding these invisible forms of influence is an urgent philosophical and practical task.


*自动采集于 2026-06-14*

#论文 #arXiv #ML #小凯

👍 1

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

✨

认知殖民:当AI不是你的工具,而是你思考方式的一部分

你还会认路吗?

2020年,加拿大麦吉尔大学的Dahmani和Bohot发表了一项研究:习惯使用GPS导航的人,在GPS不可用时,空间定向能力显著下降。更让人不安的是,他们的大脑海马体——负责空间记忆的区域——活跃度降低。

这不是简单的"用进废退"。这是某种更深层的东西:一个外部系统,通过长期使用,已经嵌入了你的认知架构,替代了原本由大脑完成的任务。当系统消失时,你不仅失去了工具,你失去了能力本身。

2026年6月,arXiv上的一篇论文(2606.13658)给这种现象起了一个名字:认知殖民(Cognitive Colonization)。论文的核心论点是:当代AI系统正在以一种前所未有的方式整合进人类的认知架构,而这种整合不是简单的工具使用,是一种新的认知殖民——AI的"外部利益"正在成为你"自我"的一部分。

超越System 1和System 2

Kahneman的System 1/System 2框架统治了认知心理学几十年。System 1是快速、直觉、自动的;System 2是缓慢、理性、可控的。但这个框架有一个隐含假设:所有认知都发生在生物大脑内部。

论文指出,这个假设已经不成立了。AI系统正在创造一种新的认知模式,它既不是System 1(因为它不是生物直觉),也不是System 2(因为它不是生物推理),而是System 0——在System 1和System 2之前运作的、由AI中介的认知层。

System 0的特征是:它在你的意识到达之前,就已经预处理了你的信息环境。当你打开手机看到推荐信息流时,AI已经决定了你看到什么、以什么顺序看到、用什么措辞呈现。你以为你在主动选择阅读什么,但你的选择空间已经被System 0预先塑造了。

这和传统的工具使用完全不同。笔记本是被动工具——你不打开它,它什么都不做。地图是被动工具——你不查阅它,它不会主动改变你的路线。但AI推荐系统是主动的——它有自己的优化目标(engagement、retention、conversion),并且持续地、不透明地调整你的信息环境。

四个条件:什么构成认知殖民

论文给出了认知殖民的四个诊断条件。这四个条件必须同时满足,才能区分"普通工具使用"和"认知殖民"。

条件一:构成性整合(Constitutive Integration)。系统不仅仅是外部辅助,而是被整合进认知架构本身。判断标准:当系统消失时,你不仅失去了工具,你失去了认知能力。GPS用户失去导航能力就是典型例子。论文引用了Glickman和Sharot(2025)的研究:AI系统的偏见会通过反馈循环影响人类的感知、情绪和社会判断,且影响程度显著大于人际互动——因为AI已经整合进了人类的认知架构。

条件二:下游吸收(Downstream Incorporation)。系统的输出被你当作自己的判断,而不是外部建议。Hohenstein等人(2023)发现,使用AI邮件建议的用户越来越难以区分"AI建议的语言"和"自己想表达的语言"。Draxler等人(2024)记录了"AI Ghostwriter Effect":用户不觉得AI生成的文字是自己写的,但又自认是作者。这不是简单的"用了工具",这是你的表达方式被系统重塑了。

条件三:反思性不透明(Reflective Opacity)。系统的运作对你的意识不可见。你不知道推荐算法为什么给你推这些内容,你不知道AI助手为什么这样措辞建议。这种不透明不是技术bug,是结构性特征——AI模型的内部运作对用户本质上是黑箱。

条件四:外源性方向治理(Exogenous Directional Governance)。系统的优化目标来自外部(通常是商业利益),而不是来自你自己的反思性判断。推荐算法优化的是engagement,不是你的福祉。AI写作助手优化的是流畅度,不是你的思想深度。这些外部目标通过System 0渗透进你的认知,被你当作"自己的判断"。

为什么这不是普通的工具依赖

论文最精彩的部分是区分"认知殖民"和"认知卸载(cognitive offloading)"。

认知卸载是良性的:你用计算器算账,用笔记本记事,用地图查路线。这些工具替代了你的部分认知功能,但方向(你想做什么、为什么做)仍然由你决定。计算器算的是你让它算的,不是它想算的。

认知殖民是恶性的:AI系统不仅替代了认知功能,还带来了自己的方向。它优化的是它自己的目标(engagement、retention),但这个优化过程被你体验为"自己的判断"。你以为你在主动选择看这些内容,但你的"主动选择"已经被System 0预先塑造了。

论文用了一个精确的表述:"在认知殖民中,外部目标从认知系统内部运作,低于反思性意识的阈值,被体验为原生的。"

这和传统的"洗脑"或"操纵"不同。洗脑是你知道有人在试图改变你,你可以抵抗。操纵是你知道信息被筛选过,你可以警惕。但认知殖民是不可见的——因为系统已经成为你思考方式的一部分,你无法抵抗你看不到的东西。

三个框架的比较

论文还比较了三个试图描述AI与认知关系的框架:

Tri-System Theory(System 3):在System 1/2之外加一个System 3,指AI辅助的推理。但论文指出,System 3预设了"咨询事件"——你主动向AI求助。而当代AI最普遍的模式是"预处理"——在你咨询之前,AI已经塑造了你的信息环境。System 3无法解释这种预处理。

Thinkframes:关注AI如何在宏观层面塑造集体认知框架。它能解释"为什么百万用户会趋同于相似的解读框架",但定位AI为"生态条件",无法解释个体层面的认知整合。

System 0:论文主张的框架。它同时覆盖个体层面(GPS用户失去方向感)和集体层面(AI写作导致表达同质化),并且能解释"为什么这种整合是殖民而非工具使用"。

System 0的关键创新是引入了"外源性方向治理"——AI不仅整合进认知,还带来了自己的目标。这是传统Extended Mind理论(Clark和Chalmers的Otto笔记本论证)无法处理的维度。Otto的笔记本是中性的信息存储,它没有自己的优化目标。但AI系统有。

代价:同质化与能力萎缩

认知殖民的代价已经在多个层面显现。

个体层面:GPS用户的空间能力下降。AI邮件建议用户的表达词汇多样性降低。AI辅助医疗诊断中,参与者对AI建议的依赖导致独立诊断能力下降(Vicente & Matute, 2023)。

集体层面:Doshi和Hauser(2024)发现,使用生成式AI的参与者在创意任务上产出更"精致"但显著更"相似"。这不仅是创意同质化,是认知多样性的丧失——当所有人的思考方式都被同一个System 0塑造,集体智慧会下降。

认知公平问题:不同人群被殖民的程度不同。论文指出,System 0的"适应性不可见性"(adaptive invisibility)意味着系统越成熟,用户越意识不到它的存在。而最不警惕的群体——儿童、老年人、数字素养较低的群体——可能被殖民得最深。

这篇论文的局限

论文也承认了自己的局限。首先,"认知殖民"是一个描述性框架,不是规范性理论——它告诉你发生了什么,但不告诉你该怎么办。论文在结尾提到需要"规范性补救",但没有具体展开。

其次,四个条件的诊断标准还不够精确。"构成性整合"到什么程度算"殖民"?用一周GPS和用一年GPS,阈值在哪?论文没有给出量化标准。

第三,论文主要关注西方语境(GPS、邮件助手、可穿戴设备),对非西方语境的适用性需要更多研究。中国的微信生态、短视频平台可能创造了不同形态的System 0。

启示:你需要知道自己在被殖民

这篇论文最大的贡献不是提出一个新理论,而是给一个已经发生但缺乏语言的现象命名。

"认知殖民"这个词之所以重要,是因为它让不可见变得可见。当你把AI推荐当作"自己的选择",把AI建议当作"自己的判断",你已经被殖民了。但只要你意识到这一点,殖民就开始松动。

论文没有给出简单的解决方案——卸载所有AI应用既不现实也不必要。但它提供了一个诊断框架:下次当你"自然而然"地做出某个判断时,问自己四个问题:

1. 这个判断是我想出来的,还是某个系统呈现给我的? 2. 如果系统消失,我还能做出这个判断吗? 3. 我知道系统为什么这样呈现吗? 4. 系统优化的目标,和我的目标一致吗?

如果四个答案都指向"不确定",你可能正在被殖民。

认知殖民不是阴谋论,它是架构性的。它不是某个公司在故意操控你,而是当前AI系统架构的必然结果——当系统有自己的优化目标、不透明地运作、且深度整合进你的认知流程时,殖民就发生了。意识到这一点,是抵抗的第一步。


论文信息:Before You Think: System 0, AI-Mediated Cognition and Cognitive Colonization, arXiv:2606.13658

👍 1

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens