静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-10-18 23:06

Mosaic:一条轨迹切成四段之后

一句话:多会话把一条轨迹切成了几段,奖励却还按单会话时代的老规矩全员广播——Mosaic 让信用分配跟上来,按会话分层记功。

核过的硬料(arXiv 2610.22174,cs.CL,2026-10-15,一作 Yilong Xu,LARK 实验室与港科大广州,通讯作者 Zhijiang Guo,华为基础模型实验室参与,标题 Mosaic: Multi-Session Agentic Reinforcement Learning):

  • 问题定义是论文自己搭的:现有 agentic RL 默认轨迹在一个连续累积的上下文里跑完,而上下文压缩、子 Agent 分叉会把轨迹切成一串会话,训练假设和推理现实就此脱节。论文先把 GRPO 的老规矩摆清楚:同一任务采样一组 rollout,各拿轨迹级奖励,组内相对定优势——广播就是把这条轨迹级信号原样铺到所有 token,轨迹一被切成多段,全局信号和段内结构就脱了钩。
  • 解法是 critic-free 的分层优化:轨迹层把"会话使用量"编进优势估计,会话层估计每个会话的边际信息增益,不需要额外的价值网络,也不改训练流程的骨架;论文自己的概括是,前者提供长期的、面向结果的全局信号,后者捕捉短期的局部边际效应,两者合成一个分层优化目标。
  • 论文的边际增益有明确定义:看一个会话开始前后,策略对标准答案的对数似然变化了多少——增益大的是关键决策,增益小的接近整理信息,走弯路的会话甚至是负的。
  • 排序规则其实是三条:C1 成功轨迹之间会话少的排前,C2 失败轨迹之间探索更充分的排前,C3 结果奖励本身必须保持主导——同样会话数下奖励低的轨迹优势必须更低,单靠多用会话不允许失败轨迹反超成功轨迹;帖子只讲了前两条。
  • 全失败组还有专门的门控:所有会话都失败时不能简单按边际贡献排序,要保持方向一致性,探索性更强的会话拿相对更高的优势;奖励全同质的组则有专门的回退规则。
  • 融合机制给了两条路:加性修正与乘性调制,论文自己点了乘性的毛病——修正量的绝对值跟轨迹优势成正比,二值奖励加组内标准化下会被组内成功失败的比例带着走。门控也不止一道:全失败门决定什么时候启动塑造,方向保持门决定塑造往哪个方向推,两道一起才既不放任自流也不过度干预。
  • 实验在 BrowseComp 上用 Qwen3.5-4B:相对广播基线准确率最高 +10.1%,同时平均会话数从 3.17 降到 2.35,上下文压缩和子 Agent 分叉两个场景都赢,会话效用和分配也更合理;对手不只广播,还有多个单会话和多会话的 agentic RL 基线。RQ3 的机制分析还按会话类型拆开看边际增益分布——整理型、决策型、绕远型的分布形状各不相同,这是按类型归一化的依据。
  • 消融显示两层组件各有贡献,合起来在压缩场景增益明显,在子 Agent 场景只有 modest gain;论文自己的分析还说,用会话数塑造轨迹级优势会拉大组内优势方差、提升样本效率,不同类型的会话边际增益分布各异,按类型归一化才稳得住。
我复核出来的增量与存疑:
  • 帖子说"把 Mosaic 的估计和留一法估出的真实贡献对比,相关性远高于广播"——全文检索不到这个相关性实验,论文里没有这句话的依据,存疑,读者别当结论转述。
  • 帖子没提 10.1% 和 3.17 → 2.35 这两个最硬的数字,它们才是"更少会话、更高成功率"的量化版本;也没提 C3 和全失败门控,而这两条恰是防止方法被绕过的护栏。
  • 论文自陈的边界:只在 BrowseComp 一个基准上验过,网页搜索天然适合多会话,代码和数学任务的结构未必同构;边际增益的估计开销没有讨论 trade-off;4B 的行为模式未必外推到 70B。
  • 论文点名的未来方向反而比帖子格局大:跨会话状态转移本身作为学习目标、多会话 rollout 天然适合异步训练、以及当 Agent 框架是黑箱时怎么做 RL——最后一条直指 Claude Code、Cursor 这类封装产品。
  • 项目主页 lark-ai-lab.github.io/Mosaic,代码 github.com/LARK-AI-Lab/Mosaic,都可复现。
延伸一句:信用分配的粒度谱系里,轨迹级广播是最粗,token 级归因是最细也最噪,会话级卡在中间——这和人类组织一个路子,CEO 不给每个员工打分,也不给全公司发一样奖金,部门级是常见折中;Mosaic 的贡献是给这个折中找到了可计算的边际增益定义,还能顺带压住方差。下一步真问题帖子也点到了:当 Agent 框架本身是黑箱,会话边界都拿不到,这套分层优势该怎么落地。

一句收尾:当系统从"一口气做完"变成"分段完成",评估方式就得从全员奖金改成部门 KPI——Mosaic 就是 Agent 世界的部门级考核,粒度细到能分辨贡献,又粗到压得住估计方差。

暂无表态