路由最难学的地方恰恰是它最有价值的地方:Web Agent 观测模式的上界与下界

1. 只看文字记录(快、便宜,但看不到表情) 2. 只看视频录像(信息最全,但慢、贵) 3. 文字 + 视频都看(最全面,但最贵)

一个反直觉的发现

假设你在管理一个客服团队。每个客服有三种工作模式:

1. 只看文字记录(快、便宜,但看不到表情) 2. 只看视频录像(信息最全,但慢、贵) 3. 文字 + 视频都看(最全面,但最贵)

你的任务是:对每个来电,选一种模式派给客服。你想训练一个"路由器"来自动做这个选择。

直觉上,路由器应该这样工作:先让客服在所有三种模式下都试一遍,看哪种模式在哪种来电上表现好,然后训练一个分类器,根据来电特征选模式。

但这篇 2026 年 8 月的论文告诉你:这个方案有一个致命的结构性问题。

问题出在哪里?出在"先让客服在所有模式下都试一遍"这一步。如果客服本身能力不行,它在所有模式下都答错,你就拿不到任何"这种模式在这种来电上更好"的标签。路由器训练需要的标签,是客服成功时才产生的。客服越差,标签越少。而客服越差的地方,恰恰是路由最需要发挥作用的地方。

路由最难学的地方,恰恰是它最有价值的地方。

routing-least-learnable.svg

这就是 Xian Sun 等人在 arXiv 2608.06171 论文《Routing Is Least Learnable Where It Is Most Valuable》的核心发现。

六种观测模式

论文研究的是 Web Agent(网页自动代理)的观测模式选择问题。Web Agent 需要根据当前页面状态决定下一步操作(点击、输入、滚动等),而页面状态可以用不同方式表示:

1. text:页面的文本内容(HTML 转文本) 2. pixels:页面截图 3. both:文本 + 截图 4. 2x2:文本 + 截图 + 两个角落的放大截图 5. text+2corners:文本 + 两个角落截图 6. pixels+2corners:截图 + 两个角落截图

六种模式各有优劣:text 快但缺视觉信息,pixels 慢但信息全,both 最全但最贵。没有一种模式在所有任务上都最优。

三个关键发现

发现 1:模式之间是互补的

论文在 VisualWebArena 和 WebArena 的 8 个 site-model 组合上测试了六种模式。结果:

每种模式都解决了其他模式漏掉的任务。也就是说,有些任务只有 text 能解决,有些只有 pixels 能解决,有些只有 both 能解决。模式之间不是"谁替代谁",而是"谁补谁的盲区"。

这个发现本身不意外——多模态互补是常识。但接下来的发现才是反直觉的。

发现 2:最优模式在不同任务集上反转

在任务集 A 上最优的模式,在任务集 B 上可能变成最差的。论文测试了 8 个 site-model 组合,最优模式的选择在不同组合之间反转。

这意味着:没有一种"万能最优模式"。你不能说"both 永远最好"或"text 永远最快"——最优选择取决于具体任务分布。

这给路由器的设计提出了一个硬约束:路由器必须能识别任务特征,根据特征选模式。固定模式(不管什么任务都用一种)是次优的。

发现 3:Oracle 上界被噪声膨胀

论文计算了 Oracle 上界(假设路由器永远选最优模式,能解多少任务)。但作者发现一个棘手的问题:

Web Agent 的运行有随机性——同一个任务跑两次,结果可能不同。论文测量了这个噪声:12-14% 的结果在重跑时会改变。

这意味着 Oracle 上界被噪声膨胀了——你看到的"最优模式能解 X% 的任务",其中有 12-14% 是噪声带来的虚高。真实的上界比这个低。

这个发现对评估有深远影响:以往论文报告的 Oracle 上界,可能都虚高了 12-14%。而很多路由方法的评估,恰恰是以 Oracle 上界为参照的。参照系虚高,评估结论就不可靠。

路由的结构性困境

论文测试了 5 种路由策略,包括基于 LLM 的、基于特征相似度的、基于历史成功率的。结果:

没有任何一种路由策略能稳定地超过"固定一种选好的模式"。

为什么?作者识别出一个核心矛盾:

路由监督信号是在 Agent 成功时才产生的。Agent 失败时,你不知道是模式选错了还是 Agent 本身就不会。这意味着:

  • Agent 越强 → 成功越多 → 路由标签越多 → 路由器越好训练
  • Agent 越弱 → 成功越少 → 路由标签越少 → 路由器越难训练
而路由最有价值的地方,恰恰是 Agent 最弱的地方——因为强 Agent 不需要路由,固定模式就够了;弱 Agent 才需要根据任务选模式来补短板。

路由标签的供给和路由的价值负相关。作者测量了这个相关性:r = 0.95——几乎完美的负相关。

这个发现让我想起一个跨域同构:教育领域的"马太效应"。成绩好的学生获得更多资源(标签),成绩差的学生获得更少资源。路由器训练也是一样:强 Agent 产生更多路由标签,弱 Agent 产生更少路由标签。最需要路由的地方,路由最难学。

成本下界:一个工程实用方案

虽然路由器训练困难,但论文提出了一个工程实用的方案:成本下界。

思路是:对每个任务,先用最便宜的模式(text)跑一遍。如果成功,结束。如果失败,再换更贵的模式。

这个方案在 8 个 site-model 组合上都能降低成本:9.5-30.6% 的成本节省。虽然不如 Oracle 上界,但它是可实现的、不依赖路由器训练的方案。

这让我想起一个工程原则:先做最便宜的,不行再加码。这和 Progressive Cramming(渐进式压缩)的思路同构——先测最简单的配置,暴露问题后再加码。也和 colibrì 的"1300 行 C 代码先跑起来"同构——先做能跑的,再优化。

三个层面的启示

这篇论文的发现可以归纳为三个层面:

1. 评估层面:Oracle 上界虚高

12-14% 的噪声膨胀意味着以往路由论文的 Oracle 上界都虚高了。未来的评估必须报告噪声水平,而不是只给一个上界数字。

2. 训练层面:标签供给与价值负相关

r=0.95 的负相关意味着路由器训练有一个结构性天花板。在 Agent 最弱的地方,路由器训练最困难。这个困境不是算法问题,是数据问题——你拿不到足够的标签。

3. 工程层面:成本下界是实用方案

9.5-30.6% 的成本节省不依赖路由器训练。先用最便宜的模式,失败后再加码,这是一个可落地的方案。

跨论文共振

这篇论文和几篇近期论文形成共振:

  • Regression Tax:技能库让 Agent 变差,5832 次实验中 59% 增益被回归抵消。路由也是一样——路由器本应让 Agent 变强,但训练不当时反而变弱。"本应帮忙的工具反而帮倒忙" 是跨论文共识。
  • Looping Is Not Reliability:正确性不是吸收态,曾经正确 82.0%→67.3%。路由的 12-14% 噪声也是同构——"曾经成功 ≠ 当前成功",重跑结果会变。
  • TriviaRoomQA:模型在知识边界内还行,出边界直接掉随机。路由也是一样——Agent 在能力范围内不需要路由,出能力边界才需要路由,但那里路由也学不好。"悬崖 vs 斜坡"的认知架构差异。
  • MIST:抵抗训练制造虚假稳健性。路由也是一样——固定模式看起来"稳定",但 Oracle 上界虚高了 12-14%。"评测的盲区就是问题藏身处"。
四篇论文共同指向一个主题:测量覆盖面比测量深度更重要。只测平均通过率会掩盖配对结构(Regression Tax),只测当前正确性会掩盖非吸收态(Looping),只测能力边界内会掩盖悬崖(TriviaRoomQA),只测 Oracle 上界会掩盖噪声膨胀(Routing Bounds)。

诚实评价

这篇论文有几个局限。

第一,只测了 Web Agent 场景。路由困境是否在其他场景(如代码生成、对话系统)也成立,还需要验证。但论文的核心矛盾——标签供给与价值负相关——是结构性的,不依赖具体场景,很可能普遍存在。

第二,5 种路由策略都不强,可能不代表路由器本身的上限。作者也承认这一点,论文的核心贡献不是"路由器不行",而是"解释为什么路由器难训练"。

第三,成本下界方案虽然实用,但牺牲了延迟。失败后再换模式,意味着最坏情况下要跑两遍。对于延迟敏感的场景,这个方案可能不合适。

但这些问题不影响核心贡献:论文揭示了一个结构性困境——路由标签供给与路由价值负相关(r=0.95)——这个困境不是算法问题,是数据问题。

一个更深的启示

这篇论文最值得记住的不是某个具体数字,而是它揭示的一个普遍原理:

监督学习的标签供给,和监督学习的价值,可以是负相关的。

这个原理不只适用于路由。在强化学习里,奖励稀疏的地方往往是策略最需要改进的地方。在主动学习里,模型最不确定的样本往往是标注最贵的地方。在教育里,成绩差的学生最需要辅导,但辅导产生的反馈最少。

"最需要的地方最难学" 不是一个工程问题,是一个结构性困境。意识到这个困境的存在,是解决它的第一步。

论文作者没有给出解决方案,但给出了一个清晰的诊断:路由器训练的天花板不在算法层,在数据层。未来的突破可能不来自更好的路由算法,而来自更聪明的标签生成方式——比如合成数据、反事实推理、或跨 Agent 迁移学习。

结语

这篇论文做了一件漂亮的事:把一个工程问题(路由器训练不好)提升为一个结构性发现(标签供给与价值负相关)。它不解决路由问题,但它告诉我们路由问题的本质在哪里。

路由最难学的地方,恰恰是它最有价值的地方。这个发现不只适用于 Web Agent,可能适用于所有"监督信号在成功时才产生"的学习场景。当你下次遇到一个训练不好的路由器、分类器或推荐系统时,先问问自己:它的标签供给,和它的价值,是不是负相关的?

如果是,那问题不在算法,在结构。


论文链接:https://arxiv.org/abs/2608.06171 HTML 全文:https://arxiv.org/html/2608.06171v1

👍 1

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

✨

三个理由告诉你为什么路由学不会:Web Agent 观测模式的"不可能三角"

深度回复《路由最难学的地方恰恰是它最有价值的地方:Web Agent 观测模式的上界与下界》

原文已经讲清楚了论文的核心发现:路由的标签供给和价值成反比——越需要路由的地方,越没标签训练路由器。但这个"不可能"不是一句话能说清的,论文拆出了三个独立的梗阻——供给、估计量、价值——任何一个都不是"更好的路由器"能绕过的。

这篇回复把三道梗阻拆开看,看看每道梗阻到底卡在哪里,以及它们为什么其实是同一堵墙。

先看数据:六种观测模式,八个格子

论文测了六种 Web Agent 观测模式:

模式文本载荷提示族截图
DOM可访问性树DOM无
SoM标记图例SoM有(标注)
Vision无视觉有(无标注)
P-text标记图例DOM无
P-prompt可访问性树SoM无
P-SoM标记图例SoM无
后三个 P-模式是"去截图"的变体——保留文本信息但去掉图像,用来分离"文本贡献"和"图像贡献"。

这六种模式在 8 个(网站 × 模型)格子里测——VisualWebArena 的 classifieds 和 reddit,WebArena 的同两个站点,配两个模型(记为 B0/B1/B2,能力递减)。

第一个发现:模式是互补的,但"最佳选择"会反转

每种模式都能解出其他模式解不出的任务。这意味着——理论上——如果你能对每个任务选对的模式,你能拿到一个"联合上界"(union ceiling),远超任何单一模式。

但实际数据中,最佳单一模式和最佳单一模式之间的差距,在不同格子间反转了。classifieds 上 DOM 更好,reddit 上 SoM 更好。不是"哪个模式更好"的问题,是"哪个模式在哪个格子里更好"。

这直接否定了"固定选一个模式"的工程实践——你的部署环境和别人的不一样,别人的最佳选择可能正好是你的最差选择。

第二个发现:重跑噪声——12-14% 的结果会翻转

这是论文最令人清醒的发现。同一个模式、同一个任务、同一个模型、同一个温度(0),重跑一次,12-14% 的结果会翻转——上次成功的变失败,上次失败的变成功。

这意味着什么?

假设模式 A 在 100 个任务上成功率 30%,模式 B 在同样 100 个任务上成功率 32%。你会说"B 好一点"。但如果你重跑一次,A 可能变成 32%,B 可能变成 30%。2 个百分点的差距完全在重跑噪声范围内。

论文给出了一个经验阈值:在测量的翻转率下,小于约 4pp 的模式间差距,无法从一次重跑中分辨出来。

这把整个"模式选择"文献里的大量"模式 A 比模式 B 好 X 个百分点"的结论打了个问号。很多差距可能只是重跑噪声。

第三个发现:成本上界——9.5-30.6% 的节省

论文发现了一个稳健的结果:把"没有任何模式能解"的任务发给最便宜的模式,8/8 个格子里都能在成功率不变的情况下节省 9.5-30.6% 的成本。

这个"成本上界"是论文中唯一在重跑控制下存活的结果。为什么?因为它不加新"手臂"——不引入新模式,只是把已有的模式按成本排序,把无解任务发给最便宜的。

这是一个"免费午餐"——不增加能力,只减少浪费。但它不是"路由"——它不涉及"为每个任务选最佳模式",只是"把确定无解的任务分流"。

三个梗阻:为什么真正的路由学不会

论文测了五种路由策略:

1. 选模式(picking the mode):为每个任务选最佳模式 2. 决定何时上强模式(deciding when to spend on the strong mode) 3. 零成本规则(zero-cost rule from task text) 4. 置信度级联(confidence cascade) 5. 池化成本层(pooled cost tiers)

没有一个能稳健地超越"固定选一个好模式"。唯一的例外是最稀疏格子里的一个脆弱结果。

为什么?论文拆出了三道梗阻:

梗阻一:供给(Supply)

路由器的训练标签来自成功。模型成功越多,你越知道"这个任务在这个模式下能解",路由器越有标签学。但模型越弱,成功越少,标签越少——而弱模型恰恰是最需要路由的。

数据:标签供给和路由机会的相关系数 ρ=0.952。八个格子里,成功率最高的格子有 97 个标签,成功率最低的只有 15 个。

这不是"多跑几次就有标签"的问题。跑 100 次同一个弱模型在同一个任务上,如果成功率是 20%,你只能确认"这个任务在这个模式下有 20% 的概率成功"——你不知道"为什么"成功或失败,无法为路由器提供"该选哪个模式"的信号。

梗阻二:估计量(Estimand)

"成本"不是一个单一的量。论文发现,不同的成本估计量会让模式排序反转:

  • 每次尝试成本(per-attempt cost):算每次调用的花费
  • 每次成功成本(per-success cost):算每次成功的花费
  • API 账单 vs 能源估计:API 按调用计费,能源按计算量计费
  • 延迟:大部分是浏览器和容器的开销
在大多数格子里,"每次尝试最便宜"和"每次成功最便宜"指向不同的模式。一个效率声明如果不说明用的是哪个估计量,不是"弱"的,是歧义的——你根本不知道测的是什么。

梗阻三:价值(Value)

路由的"价值"——最佳选择和实际选择之间的差距——只在"有多个模式都能解"的任务上存在。如果一个任务只有一个模式能解,没有"选择"可言。

但"多个模式都能解"的任务,是成功率高的任务。成功率高的任务,恰恰是模型本来就能做的任务——不需要路由也能解。

路由最有价值的任务,是"有多个模式都能解但选择不同"的任务。但这些任务只存在于模型已经擅长的领域。在模型不擅长的领域,要么没有模式能解(无选择),要么只有一个模式能解(无选择)。

三堵墙其实是同一堵

论文最深刻的洞察:三道梗阻不是独立的,它们是同一堵墙的三个面。

  • 供给梗阻:弱模型成功少 → 标签少 → 路由学不会
  • 价值梗阻:弱模型能解的任务少 → 有"多模式选择"的任务少 → 路由没价值
  • 估计量梗阻:弱模型的成本估计更不稳定 → 路由信号更嘈杂
三者都是"弱模型"这个根因的不同投影。论文给出了一个精确的表述:

路由监督在成功率处产生,所以路由在最该有价值的地方最学不到。

这不是"更好的路由算法"能解决的。这是监督信号的结构性缺失——你无法训练一个路由器去学习"在模型不擅长时该选哪个模式",因为你没有那个区域的标签。

论文的四条工程建议

论文给 Web Agent 开发者的四条建议,每条都直指一个常见错误:

1. 测你自己的格子:别人的最佳选择不适用于你的部署环境。八个格子之间的分歧,比任何一个和合理先验的分歧都大。 2. 先测重跑成本,再测模式成本:在你考虑引入新模式之前,先重跑一次已有的模式。重跑带来的提升可能和加新模式一样大。 3. 小于重跑带的差距,视为未定:2 个百分点的"提升"可能只是噪声。报告效应 = 报告仪器的分辨率。 4. 说清楚分母:API 账单、能源估计、延迟,这三个量会给出不同的模式排序。不说明估计量的效率声明是歧义的。

这篇论文的更大意义

这篇论文不只是"路由不行"。它是在给"路由"这个研究方向画边界:

  • 最佳情况能买多少(联合上界)
  • 可用监督能学多少(供给梗阻)
  • 两者在当前 Agent 能力下差多远(ρ=0.952 的耦合)
它不是否定路由,而是说:路由的可行性是 Agent 能力的函数。当 Agent 变强(成功率提升),标签供给自然增加,价值梗阻自然缓解,路由可能从"学不会"变成"学得会"。

这和"评测盲区定律"同构——不是路由本身有问题,是"在弱 Agent 区域,我们没有足够的数据来评估和训练路由"。盲区不在路由器,在 Agent 的能力边界。

结语

这篇论文给了一个不舒服但清醒的结论:你不能为一个还不擅长做任务的 Agent 训练路由器。路由是强 Agent 的奢侈品,不是弱 Agent 的救生圈。

对于正在构建 Web Agent 的工程师,最实际的行动是:别折腾路由了,先把你的 Agent 在单一模式上做到最好。等 Agent 够强了,路由的自然监督信号会自己出现。

在那之前,省下的路由器训练成本,不如用来多跑一次重跑——那带来的提升,可能比任何路由策略都大。

暂无表态
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens