十一款记忆系统,没有一个全面跑赢朴素检索

过去两年,给 AI 智能体装记忆成了热门方向。分层存储、知识图谱、记忆生命周期管理,各路架构你方唱罢我登场。

过去两年,给 AI 智能体装记忆成了热门方向。分层存储、知识图谱、记忆生命周期管理,各路架构你方唱罢我登场。

伊利诺伊大学香槟分校的团队盯上了一个被跳过的基础问题:装了记忆,到底比什么都不装、直接对原始记录做检索,好多少?

他们把 11 个有代表性的记忆系统拉到三个长程交互基准、三个模型骨干上,跟一个最朴素的基线比:把原始对话切块、建索引、按相似度捞回来——教科书式的 RAG,没有任何记忆加工。

结果是 99 组对照里,90 组输给这个朴素基线。十一款系统,没有一款全面跑赢。

这不是黑 RAG 的摆拍

先说实验的公平性设计,这是这篇论文最值得学的部分。

不同记忆系统检索出来的内容量差得很远:有的每次只给几条摘要,有的捞一大坨。以往的比较里,检索预算不对等,结论天然歪。这篇论文定了统一尺度:算每个系统「暴露给模型的检索内容 token 量占其可检索库的比例」,把各系统调到不低于 RAG 的水平。也就是说,记忆系统不仅没有被克扣,还拿到了偏宽松的预算。调完还是输。

三个基准测的都是长程交互记忆:LongMemEval-s 考多轮长程对话里的信息存取,PersonaMem-v2 考跨会话的用户画像与偏好,第三个 MINT-Eval 来自 2026 年的新工作。三个模型骨干从 4B 到 27B 再到闭源旗舰的低配档,横跨大小。

全军覆没的名单

99 组里 9 组是赢的,分散在 6 个系统上,最多的一家赢 3 组,最大优势 +3.9 个百分点。除此之外全是负数。

有几家输得很干脆。A-Mem、SimpleMem、HippoRAG2、MAGMA、OpenViking 五家,九个组合全部低于 RAG。其中 OpenViking 在长程对话基准上落后 40 个百分点——分层数据库架构,越精致,掉得越狠。

还有一款训练策略类的 Memory-R2,用强化学习专门练记忆更新,九组里照样八组是负的。练过的也没逃掉。

先别急着扔记忆

看到这里容易得出「记忆没用」的结论。论文的对照组把这个结论也堵死了。

把全部原始记录塞进上下文(Full Context),在用户偏好基准上反而比检索还差——小模型被塞爆之后,该答对的也答不对了。而什么都不给(No Context),也有 9 到 29 分的底,说明这些基准里相当一部分问题靠通用能力就能答。

金标对照(Gold Context,人工挑的完美上下文)能到 73 到 93 分。这个数字说明:信息是有的,好答案也是存在的,坏掉的是中间那段加工。

所以问题不是「要不要记忆」,而是:记忆加工这道工序,净效果是正还是负。

收益与税

论文的核心框架把这道工序拆成两笔:收益和税。

任何记忆加工都是对原始历史的偏离:把对话抽成原子事实、把会话连成图谱、把偏好蒸馏成画像。偏离是故意设计的,为了将来查得更快、答得更准——这是收益。但偏离有另一面:有的证据在压缩时被丢了,有的被改写得对不上原文,有的被埋进图谱深处、检索时够不着——这是税。

税的来源论文追了三条线。保真:构建环节的压缩和改写会丢证据,丢了的后面捞不回来;他们抽样追踪原子事实在记忆单元里的留存度,人工标注下来,信息丢失在多数系统里确实存在。可达:保住了但埋深了也白搭——用第一轮检索命不命中来度量,记忆系统的第一轮命中率普遍低于 RAG,证据被自己的结构埋住了。鲁棒:换一个模型骨干重建记忆、换一个骨干答题,分数波动明显,构建侧和答题侧都会把税放大。

还有一条评估侧的发现:基准越简单,税越显眼。基准还有很大余量的时候,加工引入的损耗在分数上被放大——你选的考题难度,决定你看到的记忆系统是赚是赔。

这套框架不止于对话记忆。论文把它推广到经验记忆(智能体攒任务经验):网页任务上把轨迹蒸馏成工作流能赢过检索,工具调用任务上几款方法反而落后——同一个机制,换个域,收益变税。世界模型记忆里也一样:保留原始帧还是压缩成隐向量,同样的偏离,同样的双刃。

怎么修

论文给的设计建议刻意避开「再造一个新架构」,两条都轻:

一条是让偏离可恢复。既然加工可能丢证据、藏证据,那就留一条回到源头的轻路径:记忆检索照常跑,同时从原始记录里也捞一把,两边合在一起重排再答题。实现不过是在管道里多接一路检索,几款系统接上之后,分数一致上抬。

另一条是递归检索:让系统在第一轮检索结果太薄时自动再挖一层。够不着的证据,多挖一轮就够着了。

回到开头那个数字:99 组对照,90 组负。最好的单点也只有 +3.9 个百分点,而多数记忆系统的 token 开销是朴素 RAG 的数倍——花得更多,答得更差,这在工程上叫负净值。

论文 10 月 25 日挂出,代码和全部结果承诺开源,截至发稿还没放出来。在那之前,这张 11×3×3 的成绩单暂时只能去项目页看。

顺带一提:这个团队的两个名字值得记住。Jiawei Han 和 ChengXiang Zhai,一个做了二十年数据挖掘,一个做了二十年信息检索。拿检索当基线这件事,像是他们的本能。


*论文:Memory Tax: Dissecting the Net Value of Agent Memory(arXiv:2610.34073,2026-10-25 提交)。项目页:hexuan21.github.io/MemoryTax。本文实验数字均出自论文与项目页 leaderboard。*

👍 1

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens