SourceLearn:别把反复访问当重复劳动——LLM Agent 该学会「学手册」

研究领域: NLP / Agent Memory 作者: Lucheng Fu, Kejing Xia, Yiyang Wang, Yiqiao Jin, Jinjin He, Xiyuan Yang, Haoxin Liu, Ye Yu, Haibo Jin, Yijia Xiao, Wenke Lee, B. A…

目录
  1. 论文概要
  2. 你是怎么学会用一本手册的?
  3. 从"知识访问"到"源学习"
  4. 数据说话
  5. 和现有方法的本质区别
  6. 一个更深的洞察
  7. 诚实评价

论文概要

研究领域: NLP / Agent Memory 作者: Lucheng Fu, Kejing Xia, Yiyang Wang, Yiqiao Jin, Jinjin He, Xiyuan Yang, Haoxin Liu, Ye Yu, Haibo Jin, Yijia Xiao, Wenke Lee, B. Aditya Prakash, Haohan Wang 机构: Georgia Tech / UIUC / UCLA arXiv: 2610.02150 代码: github.com/luchengfu6/SourceLearn 网站: sourcelearn.github.io


你是怎么学会用一本手册的?

想象你刚入职一家公司,拿到一本 500 页的内部 API 文档。第一次遇到问题,你翻到第 137 页找到答案。第二次遇到类似问题,你又翻到第 137 页。第三次……第四次……

你会发现自己每次都在翻同一页吗?不会。你会记住"第 137 页讲的是认证流程",下次直接跳过去。再后来,你不仅记住了页码,还理解了"这个文档的认证部分总是先讲 token 再讲 refresh",你建立了对这本手册的结构性理解。

但现在的 LLM Agent 不是这样工作的。每次遇到问题,它都像第一次翻开这本手册——检索、读取、回答、遗忘。下一次遇到类似问题,从头来过。

这就是 Georgia Tech 和 UIUC 团队在论文《From Knowledge Access to Source Learning》里指出的核心问题:我们把"反复访问同一个知识源"当成了"重复劳动",而不是"学习机会"。

从"知识访问"到"源学习"

论文提出了一个概念叫 source learning(源学习)。核心思想是:当 Agent 反复使用同一个知识源(一份文档、一个代码库、一套 API 文档)时,它不应该只是反复检索,而应该逐步建立起对这个源的结构性理解——知识是怎么组织的、怎么解释的、怎么应用的。

他们用一个叫 persistent source model(持久化源模型) 来表示这种理解。这个模型不是原始文本的副本,而是从源中提炼出来的可复用知识结构。

SourceLearn 的架构包含两个互补的学习机制:

1. Self-Directed Source Learning(自主导向学习)

Agent 主动识别"我还有什么没搞懂",然后自适应地重新访问源。就像你读一本书时发现第三章的某个概念没理解,会主动翻回去重读。

2. Task-Guided Source Learning(任务引导学习)

Agent 在完成下游任务时,发现"原来这个知识需要这样组织才好用"。比如你做了几次认证相关的任务后,发现每次都需要把 token 和 refresh 的信息拼在一起,于是你更新了自己的知识结构,下次直接存成"认证对"。

两个机制的共同点:学习信号决定"什么需要重新思考",而持久化更新始终从权威源重建。这意味着 Agent 不会凭空编造知识,所有更新都有据可查。

数据说话

在 5 个基准测试和 3 个 LLM 后端的 15 个设置中,SourceLearn 在 13 个设置上取得最佳,最高比 Hybrid RAG 高出 22.6 分。

这个数字意味着什么?想象两个 Agent 同时处理同一个知识密集型任务序列。一个用传统 RAG,一个用 SourceLearn。第一个任务它们可能差不多,但到了第五个、第十个任务,SourceLearn 的优势会越来越大——因为它在"学习"这个源,而不只是在"访问"它。

和现有方法的本质区别

方法做什么缺什么
RAG检索相关片段不积累理解
Long-context把整个源塞进上下文不提炼结构
Agent Memory保存历史交互保存的是经验,不是源的理解
SourceLearn建立并迭代源的结构性理解—
关键区别在于:RAG 优化的是"怎么找",Agent Memory 优化的是"怎么记",而 SourceLearn 优化的是"怎么理解"。它不是在检索层面做改进,而是在认知层面做积累。

一个更深的洞察

这篇论文让我想到一个类比:RAG 是"查字典",SourceLearn 是"学语言"。

查字典的人每次遇到不认识的词都翻一遍,效率不低但不会进步。学语言的人会逐渐建立起对语言结构的理解——词根、词缀、搭配模式——下次遇到新词也能猜个八九不离十。

SourceLearn 的 persistent source model 本质上是在学"这个源的语言":它的知识结构、组织逻辑、应用模式。这种理解一旦建立,就不只是对当前任务有用,而是对所有使用这个源的任务都有用。

这也解释了为什么 SourceLearn 的优势会随任务增多而扩大——它是一种复利型学习。每次使用都在加深对源的理解,而更深的理解又让下一次使用更高效。

诚实评价

论文也有局限。首先,source model 本身需要存储和维护,对于频繁变化的源(如实时数据流)可能不适用。其次,论文的实验集中在文档型源上,对于代码库或 API 文档这类结构化源的效果还需要更多验证。最后,"源学习"和"微调"之间的边界值得讨论——如果 Agent 对源的理解足够深,是否应该固化到模型权重里?

但这些问题不影响核心贡献的价值:SourceLearn 把"反复访问"重新定义为"学习机会",这是一个范式转换级别的洞察。


论文链接: arxiv.org/abs/2610.02150 代码: github.com/luchengfu6/SourceLearn 项目主页: sourcelearn.github.io

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens