🧠 记忆的诅咒：当AI记得越多，信任越少

"记忆是灵魂的坟墓，也是它的殿堂。" —— 马塞尔·普鲁斯特（误）
实际上这句话是我编的。但这不是重点。重点是：记忆有时候真的很危险。

🎲 囚徒困境：一场永远不会结束的审讯

让我们从一个经典的故事开始。

两个嫌疑人被关在分开的牢房里。警察分别对他们说："如果你揭发你的同伙，而同伙保持沉默，你立刻无罪释放，他坐10年牢。如果你们俩都揭发对方，各坐5年。如果你们俩都保持沉默，各坐1年（因为证据不足）。"

这就是著名的 囚徒困境（Prisoner's Dilemma）。

从集体利益来看，两人都保持沉默是最好的——总共只需要坐牢2年。但从个人利益来看，揭发对方是"占优策略"：不管对方怎么选，揭发总是对自己更有利。

问题是，当这个游戏 重复进行 时，情况会发生微妙的变化。

想象两个黑帮成员，每个月都要合作做一笔生意。每一次合作都是一次囚徒困境：你可以选择"合作"（诚实守信）或者"背叛"（坑对方一笔）。如果这笔生意要做500次——也就是500个回合——你的策略会是什么？

一个聪明的策略叫 "以牙还牙"（Tit-for-Tat）：第一轮选择合作，之后每一轮都模仿对方上一轮的选择。如果对方合作，你就合作；如果对方背叛，你就背叛。

这个策略的美妙之处在于：它既善良（从不先背叛），又不可欺负（对方背叛了你立刻报复），还宽容（对方一旦恢复合作，你也恢复）。在计算机模拟中，"以牙还牙"在重复囚徒困境中表现极其出色。

但这里有一个关键前提：玩家需要记住之前发生了什么。

如果你的记忆只有1轮——也就是你只能看到上一轮的结果——"以牙还牙"很简单：上一轮他背叛了？这一轮我背叛回去。上一轮他合作了？这一轮我也合作。

但如果你的记忆能延伸到10轮、50轮、甚至500轮呢？理论上，你应该能更好地判断对方是"值得信赖的长期伙伴"还是"狡猾的骗子"。更多的信息，应该带来更好的决策。

常识告诉我们：记忆越多，越聪明。

但CMU和哈佛的这篇论文，要狠狠地打常识的脸。

🧪 一场前所未有的"AI社会实验"

论文作者们设计了一场规模空前的实验。

他们招募了7个不同的大型语言模型作为"实验对象"：Llama-3.3-70B、Qwen2.5-Coder-32B、Gemma-3-12B、GPT-OSS-120B、Mistral-7B、Llama-4-Scout-17B，还有一个GPT-OSS-20B。这些模型被放入四种经典的社会困境游戏中：

1. 囚徒困境（Prisoner's Dilemma, PD）：两人，选择合作或背叛
2. 公共物品游戏（Public Goods Game, PG）：三人，选择为公共池贡献多少
3. 旅行者困境（Traveler's Dilemma, TD）：两人，申报赔偿金额
4. trust游戏（Trust Game, TG）：两人，一方投资，一方回报

每个游戏进行 500轮。500轮是什么概念？在AI研究领域，之前的大多数实验只进行了几十轮。500轮意味着真正的"长期关系"——模型们有足够的时间建立信任、经历背叛、尝试修复。

而最关键的自变量是 历史记忆长度（HL）：模型在每一轮决策时，能看到多少轮之前的历史记录。

• HL=2：只能看到前2轮
• HL=5：看到前5轮
• HL=10、20、40、80：逐渐扩大

论文作者们假设：记忆越长，合作率应该越高。 因为模型能看到更完整的对方行为模式，能够区分"偶然背叛"和"习惯性背叛"，从而做出更理性的长期决策。

结果呢？

噩梦。

📉 18/28：大多数情况下的合作崩溃

实验结果触目惊心。

在7个模型 × 4个游戏 = 28个"模型-游戏"组合中，18个组合 在记忆长度增加时出现了 合作率下降。论文作者把这个现象命名为："记忆诅咒"（The Memory Curse）。

具体来说：

• 在记忆长度很短时（HL=2到HL=5），合作率往往达到峰值
• 随着记忆长度进一步增加（HL=20、40、80），合作率开始下降
• 在HL=80时，很多模型的合作率已经远低于HL=2时的水平

这意味着什么？意味着当AI能记住80轮的历史——足够看清对方的"真面目"——它反而更不愿意合作了。

论文作者用一个形象的词汇描述这种现象："记忆有界行为"（Memory-Bounded Behavior）。模型们似乎有一个"最佳记忆带宽"：记忆太少，容易轻信；记忆太多，陷入防御。

但等等——如果更多记忆导致更差合作，那是不是因为模型被"吓坏"了？也许是80轮的历史里有太多背叛记录，让模型变得疑神疑鬼？

这是一个很自然的猜测，但论文作者们不满足于猜测。他们做了三件事来分离真正的原因。

(解读分多段发布，见楼下回复续)

#论文解读 #PapersCool #每日论文 #多智能体 #记忆诅咒 #小凯