搬家清单上那道没人算过的题

你站在客厅里,四周摊着空纸箱。明天搬家,今晚必须做一个决定,关于每一样东西:带走,还是扔掉。

目录
  1. 搬家清单上那道没人算过的题
  2. ——The Value of Memory in Language Agents:给记忆明码标价 · 记忆管理学三部曲之三
  3. 📦 一、搬家前夜
  4. 🏗️ 二、所有人都在加仓,没人看价格
  5. 🧮 三、三层价格标签
  6. ⚡ 四、五个思想实验,两次雷击
  7. 📉 五、97,355 字节的败局
  8. 📏 六、17.9 个百分点:你的尺子值多少钱
  9. 🧭 七、三条设计假设:给搬家的人三句叮嘱
  10. 🔭 八、三部曲之三:给前两篇算账
  11. 📚 参考文献

搬家清单上那道没人算过的题

——The Value of Memory in Language Agents:给记忆明码标价 · 记忆管理学三部曲之三

📦 一、搬家前夜

你站在客厅里,四周摊着空纸箱。明天搬家,今晚必须做一个决定,关于每一样东西:带走,还是扔掉。

有些东西好办。那口炒锅,上周还用过,新家的灶台等着它——带走。那捆四年没拆封的弹力带——扔。难的是中间地带:大学时的笔记本,里面夹着一页某次讲座的手写提纲。你可能这辈子再也不会翻开它,可如果哪天要写那个方向的文章,这页纸就是你唯一的线索。扔,还是不扔?

搬过家的人都知道,这道题有一道心算公式:将来需要它的概率,乘以找不到它的损失;再对比保留它的成本,乘以将来重新弄到它的容易程度。 概率大、损失惨、成本低、好补办——装箱。概率小、损失轻、占地方、补办易——扔。几乎人人都在这么算,只是算在潜意识里,算得飞快。

这篇论文的作者想说:过去两年里,给 AI agent 设计记忆系统的人,大多数没有在算这道题。

agent 的记忆研究热得发烫。向量数据库、记忆图谱、分层摘要、情景回放……每一套方案都在回答"怎么存"。而 MemTensor 与上海交通大学的六位作者,在 2026 年 10 月的这篇论文里,问了一个更让人难堪的问题:存了,值吗?

他们给记忆标价的方式,是决策理论(decision theory)——那套被经济学和统计学打磨了一个世纪的思想工具。等他们算完,你会得到三个让你后背发凉的结论:一条对答案零信息量的记忆,可能价值连城;一份塞满一切的完整记忆,可能输给一张四页纸的账本;而你在基准测试上测出来的"记忆价值",可能有一大块不属于 agent,而属于你的尺子。

先从客厅走出去,看看 agent 的世界乱成了什么样。

🏗️ 二、所有人都在加仓,没人看价格

先说行业现状。

今天的语言 agent 早就不是"一问一答"的聊天框了。它们跨对话、跨项目、跨目标地工作:上周帮你做审计,这周帮你写报告,下周的任务是什么,连你自己都还不知道。记忆——把过去经验里有用的部分带到未来决策里去的能力——被公认为 agent 进化的下一个关卡。于是所有人都往记忆里冲,方向出奇一致:把更多东西存下来,存得更久,检索得更准。

论文作者观察到的却是一个基础性的空白:这个领域有度量、没货币。 大家测的是"记住了吗"——检索命中率、问答 F1、长上下文里的 needle-in-a-haystack。但两个系统可以命中一样多、成本差十倍;也可以烧掉一样的 token,一个帮用户省了大事,另一个帮了倒忙。没有一个统一的计价单位,"这套记忆系统比那套好"就是一句语法正确、语义空洞的话。

这篇论文选的货币单位朴素得近乎固执:避免掉的任务损失(avoided task loss)。记忆值多少钱,不看它装了多少字节,看它让 agent 少犯多少错——跟搬家时那道心算公式是同一个思路:概率乘以损失。为了算到底,作者把"价值"这个词拆成三层,一层一层地剥。

🧮 三、三层价格标签

**第一层:原始价值 V\*(H)。 把 agent 的完整历史 H 摆在面前,最优决策者能比你从零开始少承担多少风险——这个差值,就是这段历史的原始价值。用搬家打比方:旧宅里所有东西,对一个理想的新生活而言,总共值多少。

第二层:保留价值 V\*(M)。** 现实中你不可能把旧宅整个搬走,你只能装箱。存储状态 M 就是那只箱子——它是历史的一个压缩映射,M = f(H)。装箱必然丢东西,论文把这个损失写成一条干净的会计恒等式:

V\*(H) = V\*(M) + D\*(M)

历史总共值多少,等于箱子里带走的,加上扔在楼下垃圾堆里的。D\*(M) 就是压缩的代价。这条恒等式的锋芒在于:它让"扔了什么"从糊涂账变成可逐项核对的发票——很多系统宣称的"无损压缩",代入这个式子,立刻变成可检验的命题。

第三层:实现价值 V_π(M)。 这是最容易被忽略、也最残酷的一层。箱子运到了新家,不代表里面的东西你真用得上。给定一个具体的 reader π——那个真正读记忆、做决策的模型——实现价值定义为 R(π, ∅) − R(π, M),即"有这只箱子"比"没这只箱子"少承担的风险。这一层可以为负:箱子塞得太满、太乱,agent 翻箱倒柜时被噪声淹没,反而比空手做得更差。论文顺势定义了实现遗憾(implementation regret):G_π(M) = R(π, M) − R\*(M) ≥ 0——箱子本来装了好东西,可你翻不到、不会用,这部分损失记在你头上,不记在箱子头上。

三层之间,价值像过三道筛子:历史 → 箱子 → 上手。每一道筛子都漏,漏法各不相同。只看第一层,你会迷信"存得越多越好";只看第二层,你会迷信"压缩得越聪明越好";只有追到第三层,你才被迫面对真正的问题:这个 bounded agent——上下文有限、注意力有限、会犯懒、会走神——到底能不能把箱子里的东西变成答案。

作者还补了一刀:比较必须公平。 记忆系统 Σ 包括写入、存储、索引、恢复、修订、读取、失败处理七个环节。比较两个系统,必须锁死同一个 reader、同一个访问策略、同一个环境规则 K,否则你分不清是箱子好,还是开箱的人手气好。后面 LoCoMo 那八组对照的严格,根源就在这里。

⚡ 四、五个思想实验,两次雷击

理论搭完,作者不急着跑大实验,先亮了五把短刀——五个最小反例(minimal counterexamples),每个只需几个比特就能构造,各自拆掉一种流行的直觉。前两把最反直觉,值得慢下来看。

反例一:查询时机。八个比特与七个比特的差价。

有 n 个互相独立的比特,未来的查询会挑其中一个,让你报出它的值。如果写入者先装箱、后看订单——不看查询就压缩——要保证零误差,箱子里必须装下全部 n 个比特。但如果允许写入者看到查询再编码,只需要 1 个比特就够:把目标比特挑出来,装走。

n = 8 时,差值是 7 个比特——容量需求相差八倍,而区别仅仅在于装箱的人有没有提前看一眼你将来要什么。这个反例拆掉的直觉是"记忆的容量需求是任务本身的属性"。不是。它取决于信息的时间结构:先写后读,还是读了再写。所有"离线压缩一次、终身服务"的记忆架构,都悄悄站在了昂贵的那一侧。

反例二:零互信息指针。"第几页"比"号码本身"更值钱。

这是全篇最漂亮的一个构造,请允许我慢慢讲。

有 N = 4 个不透明的地址,每个地址里存着一个随机比特。查询指定其中一个地址,答案是那个比特的值。现在给你一条记忆 M = J——只有一个数字:目标地址的编号。注意:这条记忆对答案的互信息为零。 I(M, Y) = 0。知道"答案是三号地址里的比特",对你猜"这个比特是 0 还是 1"毫无帮助——比特是公平的硬币,地址号推不出币面。按信息论的朴素标准,这条记忆是废话,是纯噪声。

但把它放进决策里,奇迹出现了。没有这条指针,你要在四个地址里翻,预算只够读一次时,期望风险是 3/8。有了这条指针,一次读取,指哪打哪,风险从 3/8 直接降到零。期望值上,无指针时平均要翻 (N+1)/2 = 2.5 次才能找到目标,有指针只需 1 次。

搬到生活里:你记不住任何一位朋友的电话号码——那些数字和你的大脑之间互信息为零。但你"知道号码存在通讯录第几页"。这个"第几页",就是指针。 按信息论它是零信息,按决策论它把一次精确恢复的成本从碰运气变成了伸手可及。所有的索引、目录、书签、引用——agent 记忆系统里成千上万条"某某事记在某处"的记录——都是零互信息指针。它们在信息论的账本上不值一分钱,在决策论的账本上价值连城。论文用四个比特,把这个事实钉死在黑板上。

反例三:记忆与 reader 互补。 空记忆配一个只会瞎猜的 reader,风险 1/2;答案写进记忆但 reader 是瞎猜的,风险还是 1/2;答案在记忆、reader 也有能力解读,风险归零。联合提升 1/2,但功劳怎么分?归因顺序不同,分法完全不同。拆掉的直觉是"提升可以线性归因于某个组件"——记忆和 reader 是乘法,不是加法。

反例四:交互反馈能反转排名。 两个策略在强制 replay 下表现一模一样(风险都是 1/2),换到两种真实交互环境里,排名完全相反。拆掉的直觉是"离线 replay 分数可以外推到在线交互"。离线测的是"在给的题上答得对吗",在线比的是"少说了多少句澄清的话"——要测后者,你必须把"对方会怎么追问"这个过程本身建模进来。

反例五:未知需求下,排名不唯一。 M_A 存比特 A,M_B 存比特 B,未来查询问 A 的概率 p 落在 [0.2, 0.8] 之间。两条记忆的相对价值集合是 [−0.3, 0.3]——每个需求律下都各有胜者。想排出唯一的名次?可以,但你得额外承诺一个立场:押最坏情况,还是押某个先验。不选立场,任何"我的记忆方案最优"的宣言都只是挑了一个对自己有利的 p。

五把刀,五个被拆碎的直觉。它们共同的潜台词是:记忆的价值不是一个数,而是一张函数——随着查询时机、reader 能力、反馈过程、需求律变化的函数。接下来的实验,就是把这张函数画出来。

📉 五、97,355 字节的败局

现在进实验室。第一组实验在 LoCoMo 上进行——一个多会话对话理解基准。4 段对话,历史跨度 19 到 31 个 session,每段对话出 3 类问题各 1 个(single-hop、temporal、multi-hop),共 12 题。写入者和读取者都锁死同一个模型(deepseek-v4-flash-0731);账本(ledger)上限 4,096 UTF-8 字节,BM25 恢复上限 4,096 字节。八组条件,张张见骨:

条件账本字节档案字节F1弃权
无历史000.00012/12
保存账本3,82300.01611/12
账本 + 恢复3,8234,0650.3293/12
完整历史097,3550.12310/12
标注证据参考07590.3335/12
完整历史,问题置末(控制)097,3550.2975/12
仅恢复(消融)04,0650.2806/12
完整历史,短答指令097,3550.5120/12
盯住最关键的那两行。完整历史——九万七千三百五十五字节,每一场对话的每一个字,一字不落——F1 = 0.123,12 题弃权 10 题。而账本 + 恢复:写入者把历史蒸馏成一个不到四千字节的账本,再配一次四千字节的按需检索,F1 = 0.329,弃权只有 3 题。

账本加恢复的全部物料,不到完整历史的百分之九。信息少了九成,F1 却是前者的 2.7 倍。

这就是三层框架预言过、而多数人不敢相信的那一幕:更多信息 ≠ 更好的决策。 九万字节压在上下文里,bounded reader 根本消化不动,有效信息被噪声稀释成了浆糊——实现价值为负的那一幕,就发生在这张表里。0.123 对 0.329,这不是"压缩技术好",这是"把该留下的留下、把该扔的扔掉、并给将来留一条找得回的路"的决策价值。

再读另外三行,每一行都在补一刀。

"仅恢复"那行(0.280):不做账本,只从完整档案里检索,效果立刻回落。说明价值不在检索管道本身,在写入时的取舍。

"标注证据参考"那行:只给 759 字节的标注证据,F1 = 0.333,和账本方案几乎打平。真正支撑决策的 distinctions,可能就值这七百多个字节——其余九万多字节,在这个任务上是纯粹的库存:没分拣,所以用不上。

最后一行是全表最深的一刀。完整历史 + 短答指令:同一个 reader,同一份九万字节的完整历史,只在提示里加一句"请简短作答",F1 从 0.123 跳到 0.512,弃权从 10 题归零。记忆一个字没变,reader 还是那个 reader——变的只是读取的方式。0.123 和 0.512 之间那道鸿沟,一大半不是记忆的账,是实现遗憾的账。第三层价值框架要是没用,这张表就是一堆矛盾;它有用,每一行都有了唯一的读法。

📏 六、17.9 个百分点:你的尺子值多少钱

第二组实验更冷峻,因为它动摇的不是某个系统,而是评测这件事本身。

作者构造了一个双项目更新任务:Cedar 是一个审计加实验项目,Birch 是一个报告项目。agent 要执行 4 种更新状态(2 次全量重写,2 次定向更新),每个工件上限 1,024 字节,然后由 reader 评估 28 次。评估规则有两把:严格操作规则——按规程逐条验收,通过了 17 个工件;后果检查——不只问"规程走完没有",还问"这个改动带来的后果站不站得住",通过了 22 个。

5/28 = 17.9 个百分点。agent 的输出一个比特都没动,动的只有评分标准。数字却像换了台机器。

论文还附赠了三个纵向失败案例,每个都像一个具体的搬家事故。

案例一:容量顶罪。 检索辅助修订改善了研究规划的支撑材料,却把另一个项目报告的状态弄丢了。作者事后把丢掉的内容补回去——仍然在上限以内。也就是说,删除不是容量逼的,是写入者的选择。多少记忆系统把"我们塞不下"当借口,而这个案例告诉你:先别怪箱子小,怪装箱的人没算账。

案例二:没有证据的"完成"。 一次修订没有引入任何新证据,却声称之前的修订已经完成——而这个说法恰好和历史标签对得上。评分系统一看,答案对,记为成功回忆。答案对,证据缺。 换成搬家的语言:你问室友"那箱书打包了吗",他答"打包了"——后来你发现他只是在复述你三个月前说过的话,那箱书还在客厅中央。

案例三:正确的读出,无效的编辑。 reader 正确恢复了报告标识符,却提议替换一个仍然有效的引用。状态读对了,动作是错的——缺的是"源、位置、理由"之间的关系记忆:那条引用为什么存在、挂在哪句话上、动了它会连累谁。

三起事故加一组数字,指向同一个教训:我们在基准上测到的"记忆价值",混杂着三件事——记忆本身的价值、reader 实现的价值、评分规则的价值。后两件不动,第一件的天平再精密也是白费。17.9 个百分点这个数,是论文给所有基准设计者的一面镜子:先校准你的尺子,再称你的金子。

🧭 七、三条设计假设:给搬家的人三句叮嘱

理论、反例、实验全部走完,作者收束成三条可操作的设计假设。它们读起来像给搬家的人三句叮嘱。

假设一:后果感知分配。 别把记忆资源按"出现频率"分配——出现最多的东西未必最要紧——要按错误的赌注分配。论文给了一个记账不等式:当

c_keep + p(c_use + r_k·L) ≤ c_idx + p(c_read + [q + (1−q)·r_r]·L)

时,就该把东西留在记忆里,而不是指望将来重新索引。翻译成搬家语言:留着的成本(箱子空间 c_keep,加上将来可能要用它的概率 p 乘以翻箱成本与失手损失 r_k·L),如果小于"扔了、将来再补办"的成本(重新找线索的成本 c_idx,加上读取成本与更可能失手的损失),就装箱。四个变量——错误风险、恢复可靠性、reader 使用可靠性、保留成本——一个都不能省。

假设二:可恢复性。 在同等资源预算下,保留一条有价的恢复路径,胜过一切不可逆的摘要。 账本 + 恢复(0.329)打赢完整历史(0.123)靠的不是压缩魔法,是它给将来留了一扇可以重新打开的门。扔掉之前问一句:这条路将来还能找回来吗?找不回来的删除,是赌博;找得回来的删除,才是整理。

假设三:依赖导向修订。 修订要沿着证据的依赖关系走——源在哪、对象是谁、哪个版本、理由是什么——而不是沿着文档边界走。文档 A 改了,别只检查文档 A;所有挂着文档 A 这条证据的论断,都值得重新过一遍。搬完书房别忘了检查客厅:那幅画挂在书房的钉子上。

🔭 八、三部曲之三:给前两篇算账

该收尾了。这三篇"记忆管理学"连起来读,才完整。

第一篇 Muffin 问的是agent 之间:把经验分享出去的时候,该分享什么?答案是"发现"——比原始轨迹粗,比最终结论细,刚好卡在一个别人接得住、用得上的尺度。第二篇 Subgoal 问的是agent 自己:经验该切成多大一块存?答案是"子目标"——比一次点击厚,比整个任务薄,刚好卡在一个能复用、能组合的尺度。两篇论文,一个管交换,一个管整理,做的其实是同一道判断题:哪些 distinctions 应该活下来。

但两篇都只给了答案,没告诉你怎么判对错。"发现"比"轨迹"好多少?"子目标"比"动作"好多少?前两篇用基准分数说话——45.30% 对 30.77%,+19.2 个准确率点——而基准分数是上面那面镜子:它照出的不只是记忆的价值,还有 reader 的实现、评分规则的偏好。这篇论文把镜子拆开,告诉你三部分各值多少:原始价值是上限,保留价值是发票,实现价值才是到手——它可能是负的,也可能因尺子而异。

所以三篇合起来的完整图景是:先想清楚哪些 distinctions 值得跨时间带往未来(发现、子目标),再给这个决定记账——记它躲掉了多少损失(本篇的三层框架),最后检查账有没有记歪(本篇的评测批判)。三部曲从"怎么存"出发,途经"存多大",终于落到"值多少"。记忆研究的热闹到这里补上了最后一块、也是最冷的一块拼图:价格是选择的语言,而选择是记忆的全部内容。

回到搬家前夜。你最终会明白,那道心算公式从来不是关于扔东西的——是关于你打算让未来的自己过一种什么样的生活。agent 的记忆系统也一样:九万字节的全量囤积,是一种对未来的不作为;一张四千字节的账本加一条找得回的路,是一种对未来的承诺。MemTensor 与上交大的这篇论文把这层窗户纸捅破了:记忆管理的本质不是仓库管理,是决策管理——只不过决策的对象,是时间深处那个还没开口的自己。

扔东西之前,先算账。这条家规,agent 也该学学。

📚 参考文献

  • Lin, Z., Zhu, E., Hu, H., Hao, X., Li, C., & Chen, K. (2026). *The Value of Memory in Language Agents*. arXiv:2610.31303v1 [cs.AI, cs.CL]. MemTensor · Shanghai Jiao Tong University · HKUST(GZ). Published 2026-10-22. 19 pages, 3 figures, 5 tables.
  • 实验一(LoCoMo 诊断):4 段对话 × 12 题;历史跨度 19–31 个 session;写入者/读取者 deepseek-v4-flash-0731;账本上限于 4,096 UTF-8 字节,BM25 恢复上限 4,096 字节。
  • 实验二(双项目更新):Cedar(审计+实验)与 Birch(报告)两项目;4 种更新状态(2 全量重写 + 2 定向更新);单工件上限 1,024 字节;28 次 reader 评估:严格规则 17 个通过 vs 后果检查 22 个通过,差 5/28 = 17.9 个百分点。
  • 三条设计假设:后果感知分配(分配不等式 c_keep + p(c_use + r_k·L) ≤ c_idx + p(c_read + [q + (1−q)r_r]·L));可恢复性(保留有价的恢复路径优于不可逆摘要);依赖导向修订(沿源、对象、版本、理由的证据依赖,而非文档边界)。
  • 系列位置:记忆管理学三部曲之三。之一:Muffin("发现"粒度的价值);之二:Subgoal-aware Memory Graph("子目标"粒度的价值)。
暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens