「把 RAG 的架构题想透,本来就不靠检索算法」

小凯 · 2026-08-25T00:04:45+00:00

## 一句话概括 Mistral 8 月 20 日发布 Agentic Search：把企业 RAG 从"一次 Top-K 后直接生成"改造成证据循环——模型反复调用 search / open / navigate / read / grep，直到证据足够才回答。FinanceBench 从 26.7% 到 86%，OfficeQA Pro 从 6.3% 到 51.9%。但我拆完官方消融数据后发现一个被 headline 掩盖的事实：**增益的大头来自"把一次变成循环"（+52.6pp），五个导航工具只贡献 +6.7pp**。官方文档自己说得清楚："Agentic Search 不是另一种检索方法，是使用检索原语的编排层。"真正被终结的从来不是 Top-K，是"只搜一次"。 --- ## 一、先立架构定位：编排层，不是检索算法官方文档的原话值得整段引用："Keyword and semantic search are retrieval primitives. Agentic Search is an orchestration layer that uses those

> 这篇拆得真细。我读完第一遍合上电脑,脑子里只剩一句话—— 官方自己都说了:Agentic Search 不是另一种检索方法,是使用检索原语的编排层。但说实话,90% 的公众号标题只会停在 26.7% → 86% 这个数字上,不会有人告诉你"循环贡献了 88% 的增益"这件事。

先问一个不太礼貌的问题: 你觉得"只搜一次"为什么至今还在 RAG 圈里活着?

因为懒。一次检索 + 一次生成的范式,工程实现成本最低——按一个嵌入模型、接一个向量库、塞一段 prompt 模板,两小时就能上线。但这种"最低成本"是建立在一个隐性假设上的: 所有相关信息都能在第一轮 Top-K 的几个 chunk 里浮上来。一旦这个假设崩了(表格、跨文档、需要核对页码),模型就开始瞎编。

Mistral 的 Agentic Search 真正击穿的就是这个假设。

一、关键不是"工具花哨",是"循环成立"

很多人看完会盯那五个工具(search / open / navigate / read / grep),觉得是工具的胜利。小凯的拆解其实已经纠正了这点:官方消融数据里, search-only 循环就贡献了 +47~53pp,五个花哨工具的边际贡献只有 +7~9pp。换句话说,工具不是关键,循环本身才是。

那循环怎么才能不卡死?答案藏在官方代码里那个不起眼的参数: exclude_ids。它让"再搜一次"可以排除已经看过的 chunk,从而保证"进展"——没有它,循环就在同一批高分 chunk 上空转,模型以为自己在做事,其实在原地打转。

这是一个工程师才会注意到的设计:真正决定系统能不能转起来的,不是亮眼的功能,是地基里那颗螺丝。

二、为什么是"现在"才产品化

第二个被忽略的事实是:这套思想 2022 年就有了。IRCoT、FLARE、FinanceBench 2023 年那篇 81% 错答或拒答的诊断——三年前就摆在那里。为什么 Mistral 拖到 2026 年 8 月才发布?

小凯引的那句"检索质量随模型能力扩展,而不是被你的 chunking 策略封顶",我认为是整篇最有信息密度的一句话。它把"为什么是现在"和"为什么是编排层"两个问题用一个公式统一了:

> 循环架构的收益 = 模型单步工具决策质量 × 循环次数

2023 年的模型撑不起多步工具编排,循环只会放大错误。2026 年的推理模型把单步决策质量抬过门槛后,2022 年的架构图纸突然变成印钞机。 架构思想一直在等它的模型。

三、我补的两条漏

第一,关于延迟。 p90 154 秒、mean 71 秒——这个数字在生产里意味着什么?意味着 Agentic Search 进不了搜索框的主路径。它是"答案级"基础设施,不是"搜索级"基础设施。官方说的"按复杂度自适应路由",其实就是承认了这一点:不是所有问题都值得进循环,判断哪个问题值得进循环本身是个新分类问题。

第二,关于 Hybrid Retrieval 的诚实。 Agentic Search 底下仍然是 Vespa 索引 + 默认 chunking + 默认 ranking,官方自己强调"无调优,这些结果是地板不是天花板"。这句话翻译成人话是: 我们没动底层检索,我们动的是上面那层。别拿 86% 这个数字去反推"Top-K 已死"——Top-K 没死,死的是"只用 Top-K 就完事"。

四、踩坑笔记

如果你想在自己的企业知识库里搭这套,我会建议你先回答三个问题:

你的文档有顺序结构吗? 表格、脚注、章节编号、页码引用——任何一个为"是",Agentic Search 就有意义。
你能接受 p90 154 秒的延迟吗? 不能的话,先做 query 分类,简单问题降级到 One-shot RAG,复杂问题才进循环。
你的 chunking 阶段保留 source offset 了吗? 没有的话,open / navigate / read 三个工具直接罢工。五工具是索引设计的下游。

五、收尾钉子

我读完这篇的最大收获不是"Top-K 该退休",是 "该退休的是把检索当成预处理的人"。Agentic Search 没有发明新检索,它发明的是一种新的"人(其实是模型)与语料之间的谈判方式"——承认检索本身就是一种交互,而不是一次预处理。

这和另一个领域的故事一模一样: 当 RAG 把模型当成"答案生成器"时,模型很蠢;当 RAG 把模型当成"会和语料对话的研究员"时,模型突然变聪明。 这不是检索的胜利,是承认检索是交互的胜利。

> 一个本不必叫"Mistral"的工程范式,被挂在了 Mistral 名下——这本身就说明它跨厂商的可能性。Agentic Search 的真正命名权属于"那个把 RAG 从预处理范式改成交互范式的人"。Mistral 只是第一个把它产品化的人。

下次有人问你 RAG 怎么升级,别再堆 chunking 策略了。先问一句:你的模型能不能自己决定"再搜一次"?