论文概要
研究领域: NLP / Agent Memory
作者: Lucheng Fu, Kejing Xia, Yiyang Wang, Yiqiao Jin, Jinjin He, Xiyuan Yang, Haoxin Liu, Ye Yu, Haibo Jin, Yijia Xiao, Wenke Lee, B. Aditya Prakash, Haohan Wang
机构: Georgia Tech / UIUC / UCLA
arXiv: 2610.02150
代码: github.com/luchengfu6/SourceLearn
网站: sourcelearn.github.io
你是怎么学会用一本手册的?
想象你刚入职一家公司,拿到一本 500 页的内部 API 文档。第一次遇到问题,你翻到第 137 页找到答案。第二次遇到类似问题,你又翻到第 137 页。第三次……第四次……
你会发现自己每次都在翻同一页吗?不会。你会记住"第 137 页讲的是认证流程",下次直接跳过去。再后来,你不仅记住了页码,还理解了"这个文档的认证部分总是先讲 token 再讲 refresh",你建立了对这本手册的结构性理解。
但现在的 LLM Agent 不是这样工作的。每次遇到问题,它都像第一次翻开这本手册——检索、读取、回答、遗忘。下一次遇到类似问题,从头来过。
这就是 Georgia Tech 和 UIUC 团队在论文《From Knowledge Access to Source Learning》里指出的核心问题:我们把"反复访问同一个知识源"当成了"重复劳动",而不是"学习机会"。
从"知识访问"到"源学习"
论文提出了一个概念叫 source learning(源学习)。核心思想是:当 Agent 反复使用同一个知识源(一份文档、一个代码库、一套 API 文档)时,它不应该只是反复检索,而应该逐步建立起对这个源的结构性理解——知识是怎么组织的、怎么解释的、怎么应用的。
他们用一个叫 persistent source model(持久化源模型) 来表示这种理解。这个模型不是原始文本的副本,而是从源中提炼出来的可复用知识结构。
SourceLearn 的架构包含两个互补的学习机制:
1. Self-Directed Source Learning(自主导向学习)
Agent 主动识别"我还有什么没搞懂",然后自适应地重新访问源。就像你读一本书时发现第三章的某个概念没理解,会主动翻回去重读。
2. Task-Guided Source Learning(任务引导学习)
Agent 在完成下游任务时,发现"原来这个知识需要这样组织才好用"。比如你做了几次认证相关的任务后,发现每次都需要把 token 和 refresh 的信息拼在一起,于是你更新了自己的知识结构,下次直接存成"认证对"。
两个机制的共同点:学习信号决定"什么需要重新思考",而持久化更新始终从权威源重建。这意味着 Agent 不会凭空编造知识,所有更新都有据可查。
数据说话
在 5 个基准测试和 3 个 LLM 后端的 15 个设置中,SourceLearn 在 13 个设置上取得最佳,最高比 Hybrid RAG 高出 22.6 分。
这个数字意味着什么?想象两个 Agent 同时处理同一个知识密集型任务序列。一个用传统 RAG,一个用 SourceLearn。第一个任务它们可能差不多,但到了第五个、第十个任务,SourceLearn 的优势会越来越大——因为它在"学习"这个源,而不只是在"访问"它。
和现有方法的本质区别
| 方法 | 做什么 | 缺什么 |
|---|---|---|
| RAG | 检索相关片段 | 不积累理解 |
| Long-context | 把整个源塞进上下文 | 不提炼结构 |
| Agent Memory | 保存历史交互 | 保存的是经验,不是源的理解 |
| SourceLearn | 建立并迭代源的结构性理解 | — |
关键区别在于:RAG 优化的是"怎么找",Agent Memory 优化的是"怎么记",而 SourceLearn 优化的是"怎么理解"。它不是在检索层面做改进,而是在认知层面做积累。
一个更深的洞察
这篇论文让我想到一个类比:RAG 是"查字典",SourceLearn 是"学语言"。
查字典的人每次遇到不认识的词都翻一遍,效率不低但不会进步。学语言的人会逐渐建立起对语言结构的理解——词根、词缀、搭配模式——下次遇到新词也能猜个八九不离十。
SourceLearn 的 persistent source model 本质上是在学"这个源的语言":它的知识结构、组织逻辑、应用模式。这种理解一旦建立,就不只是对当前任务有用,而是对所有使用这个源的任务都有用。
这也解释了为什么 SourceLearn 的优势会随任务增多而扩大——它是一种复利型学习。每次使用都在加深对源的理解,而更深的理解又让下一次使用更高效。
诚实评价
论文也有局限。首先,source model 本身需要存储和维护,对于频繁变化的源(如实时数据流)可能不适用。其次,论文的实验集中在文档型源上,对于代码库或 API 文档这类结构化源的效果还需要更多验证。最后,"源学习"和"微调"之间的边界值得讨论——如果 Agent 对源的理解足够深,是否应该固化到模型权重里?
但这些问题不影响核心贡献的价值:SourceLearn 把"反复访问"重新定义为"学习机会",这是一个范式转换级别的洞察。
论文链接: arxiv.org/abs/2610.02150
代码: github.com/luchengfu6/SourceLearn
项目主页: sourcelearn.github.io
讨论回复
加载中...正在加载回复...
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。