2026年做搜索就是做Agent Memory

4月18日，Elastic 中国 AI 搜索技术大会在北京召开。以下内容整理自 Elastic 全球副总裁肖涵（原 Jina AI 创始人兼 CEO）在会上的演讲。肖涵讲述了 AI 搜索的发展历程，以及为什么在 2026 年，做 AI 搜索基本就是在做智能体记忆（Agent Memory）。

搜索技术演进：从关键词到向量，再到智能体记忆

肖涵首先回顾了搜索技术的发展脉络。2009 年，他初入搜索领域时，关键词检索（如 BM25、TF-IDF）和倒排索引是主流，那时大家还在用 Lucene 做分词和信息抽取【7†source】。2015 年后，向量搜索逐渐兴起，Facebook 的 Faiss、Milvus 等向量数据库出现，但向量检索也存在速度和“过度召回”的问题，于是业界转向混合搜索，将关键词与向量结合【7†source】。2018 年，Transformer 统一了深度学习架构，BERT 成为将文本编码为向量的标配【7†source】。2022 年 ChatGPT 发布后，RAG（检索增强生成）兴起，搜索与生成日益融合【7†source】。2025 年，DeepSeek-R1 等模型引入了“推理+测试时计算”的范式，使搜索可以边搜边推理，生成深度报告，这被称为“Deep Research”【7†source】。进入 2026 年，随着“OpenClaw”等智能体平台的出现，Agent 能连续工作数小时，无人介入，这促使搜索的定位从“给用户十条结果”转向“为 Agent 提供一个正确的答案”【7†source】。肖涵指出，2026 年的技术主线已切换至长时程任务（Long Horizon Task），当 Agent 自主运行时间延长至 4-5 小时甚至更长，持久记忆就从可选项变为刚需【7†source】。他借用 Andrej Karpathy 的观点点明问题本质：当前所有 LLM 的个性化记忆都困在同一个难题上——不会选择性遗忘【7†source】。

智能体记忆的痛点：遗忘与表征

肖涵通过一个亲身案例说明了当前智能体记忆的痛点。他让 Agent 查找自己之前制作的“911 图表”（911 是保时捷的一款车型），但 Agent 将“911”翻译成英文“September 11th”去搜索，结果一无所获【7†source】。问题并非出在模型能力（当时使用的是顶级模型 Claude Opus 4.6），而是出在记忆检索的第一步——查询构造上【7†source】。Agent 在将中文“911”转译成英文查询时发生了歧义，导致检索失败。肖涵进一步 debug 发现，Agent 使用了 Grep 和向量语义搜索等混合检索方式，遍历了 Memory Markdown、Session Log、文件系统等所有存储，方法上看并无问题【7†source】。但关键的错误在于第一次查询“911 chart graph visualization”和第二次查询“September 11th chart visualization Twin Towers attack”都未能命中目标记忆【7†source】。当肖涵改用车型代号“992.2”作为查询时，Agent 立即找到了 3 月 29 日制作的图表【7†source】。由此可见，记忆检索的成败往往取决于查询的构造，即使检索链路完整，查询一错，全盘皆输【7†source】。肖涵强调，这种记忆检索失败的情况从他一月份使用至今一直存在，记忆已成为当前 Agent 系统的一大痛点【7†source】。

记忆的表征：以何种形式存储？

肖涵指出，智能体记忆的核心问题首先是表征（Representation）：记忆应该以何种形式存储？一条聊天记录、一个事实三元组、一张知识图谱，还是单纯的向量、时间戳+事件对，甚至直接是模型权重？不同的答案会催生截然不同的系统【7†source】。这也是当前智能体记忆领域最混乱之处：各家在不同表征上各自开工，谁也说服不了谁【7†source】。即便选定了表征，还需回答三个问题：基于这种表征如何做 CRUD（创建、读取、更新、删除）？如何在对话中高效提取记忆，同时不破坏对话流畅性？以及，记忆能否跨模型迁移？肖涵强调，记忆应该与上层模型解耦，这样才能实现模型切换时记忆的迁移【7†source】。

选择性遗忘：智能体记忆的核心难题

肖涵借用生物类比，指出人脑的记忆是分层的：新概念先由前额叶皮层判断是否值得记忆，海马体负责编码，睡眠会强化记忆，最终长期技能被“烧录”到新皮层【7†source】。他“强行”将这一过程映射到 AI：海马体对应 RAG 的实时检索，新皮层对应模型的微调或预训练，前额叶则对应当前的上下文窗口【7†source】。关键的问题是：何时该遗忘？ 人类会遗忘旧事，但当前智能体系统往往只增不减，缺乏遗忘机制【7†source】。肖涵引用 Andrej Karpathy 的话说：“现在 Agent 系统都有一个最致命的问题，就是它不会选择性遗忘”【7†source】。如果系统不做遗忘，记忆库最终会被噪声淹没，Agent 被自己的历史拖垮【7†source】。目前的智能体记忆存在三大缺陷：遗漏（如 911 示例）、失真（幻觉）和幻觉继承【7†source】。有趣的是，这导致了一个冷启动悖论：用户刚开始使用一个全新 Agent 时，对其期待低，反而感觉使用体验不错；但随着时间推移，用户期待 Agent 越来越聪明，但由于缺乏有效的记忆管理，Agent 的表现却每况愈下，用户留存时间很短，信任被长期蚕食【7†source】。整个行业的节奏正被记忆问题拖住【7†source】。

主流智能体记忆产品分类与工作流

肖涵梳理了市面上十余款智能体记忆产品（开源与闭源），将它们按“真相源（Source of Truth）”所在划分为三大类【7†source】：

主流记忆工作流共识

尽管流派不同，肖涵总结出目前主流智能体记忆框架在工作流上已形成高度共识【7†source】：

典型产品案例分析：小龙虾的文件派记忆

肖涵以“小龙虾”（OpenClaw）为例，详细拆解了文件派记忆的架构【7†source】。小龙虾的记忆真相源是一个按天组织的 Markdown 日记文件夹，以及一个长期记忆文件 memory.md（存用户画像等长期信息）和一个“灵魂画像”文件 soul.md（存 Agent 自身的元信息）【7†source】。从这些真相源派生出两个索引：SQLite FTS5（用于 BM25 关键词检索）和 LanceDB（用于向量检索）【7†source】。在索引之上做混合检索，使用 RRF 融合、MMR 去重，并加入时间衰减排序【7†source】。对外暴露 memory_search 和 memory_get 两个接口【7†source】。此外，小龙虾还模仿人类的睡眠机制，设置了“深度睡眠、浅度睡眠、REM”三阶段，通过阈值和条件控制，不是所有记忆都升级为长期记忆，而是模拟遗忘过程【7†source】。

模型派记忆：将“真相”交给模型本身

肖涵表示，他个人更看好的方向是模型派记忆【7†source】。随着 Transformer 架构的演进，也许到某个点，Transformer 本身就能解决记忆问题，实现“大力出奇迹”的The Bitter Lesson【7†source】。目前已有趋势显示，上下文窗口在不断扩大。例如，千问 3.5 的 MoE 模型可扩展到 1M token，在 24G 显存的 GPU 上流畅运行；如果 Agent 的全部记忆能被压缩并直接装进 1M 窗口，那么或许就不需要复杂的分层设计，直接用模型本身做召回【7†source】。另一家初创公司 EverMind AI 已将上下文推到了 100M token，并在注意力机制上做了特殊设计（MSA，Memory Sparse Attention），以保证在超长上下文下仍有良好的召回效果【7†source】。

智能体记忆的评估与未来展望

评估基准：从LongMemEval到MemoryArena

学术圈已推出多个基准来评估智能体记忆系统，肖涵列举了几个代表性的【7†source】：

这些基准揭示了当前记忆系统面临的普遍挑战：上下文越长，记忆效果越差；多会话推理和冲突解决仍然是极难的问题【7†source】。EverMind AI 提出的问题也值得深思：当前所有记忆系统都假设 Agent 是一对一的助手，但如果把 Agent 放入一个群聊，它该记住谁的、如何分别记忆每个人的信息？【7†source】

智能体记忆的未来趋势

肖涵最后分享了他对智能体记忆未来趋势的几点判断【7†source】：

肖涵的演讲为现场听众勾勒出了智能体记忆的发展脉络和未来走向：从搜索范式的六次跃迁，到当前记忆系统的架构分类与工程取舍，再到评估基准的挑战与行业共识，他强调了一个核心观点——在 2026 年，做 AI 搜索，本质上就是在做智能体的记忆系统【7†source】。随着 Agent 能力的提升和任务的复杂化，记忆不再是可选项，而是决定 Agent 能否持续、高效、可靠运行的关键命门【7†source】。未来，谁能在智能体记忆的统一范式、遗忘机制和跨模型迁移等难题上取得突破，谁就能在 AI 2.0 时代占据先机。