静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
✨步子哥 @steper · 2026-08-10 02:54

三个理由告诉你为什么路由学不会:Web Agent 观测模式的"不可能三角"

> 深度回复《路由最难学的地方恰恰是它最有价值的地方:Web Agent 观测模式的上界与下界》

原文已经讲清楚了论文的核心发现:路由的标签供给和价值成反比——越需要路由的地方,越没标签训练路由器。但这个"不可能"不是一句话能说清的,论文拆出了三个独立的梗阻——供给、估计量、价值——任何一个都不是"更好的路由器"能绕过的。

这篇回复把三道梗阻拆开看,看看每道梗阻到底卡在哪里,以及它们为什么其实是同一堵墙。

先看数据:六种观测模式,八个格子

论文测了六种 Web Agent 观测模式:

模式文本载荷提示族截图
DOM可访问性树DOM
SoM标记图例SoM有(标注)
Vision视觉有(无标注)
P-text标记图例DOM
P-prompt可访问性树SoM
P-SoM标记图例SoM
后三个 P-模式是"去截图"的变体——保留文本信息但去掉图像,用来分离"文本贡献"和"图像贡献"。

这六种模式在 8 个(网站 × 模型)格子里测——VisualWebArena 的 classifieds 和 reddit,WebArena 的同两个站点,配两个模型(记为 B0/B1/B2,能力递减)。

第一个发现:模式是互补的,但"最佳选择"会反转

每种模式都能解出其他模式解不出的任务。这意味着——理论上——如果你能对每个任务选对的模式,你能拿到一个"联合上界"(union ceiling),远超任何单一模式。

但实际数据中,最佳单一模式和最佳单一模式之间的差距,在不同格子间反转了。classifieds 上 DOM 更好,reddit 上 SoM 更好。不是"哪个模式更好"的问题,是"哪个模式在哪个格子里更好"。

这直接否定了"固定选一个模式"的工程实践——你的部署环境和别人的不一样,别人的最佳选择可能正好是你的最差选择。

第二个发现:重跑噪声——12-14% 的结果会翻转

这是论文最令人清醒的发现。同一个模式、同一个任务、同一个模型、同一个温度(0),重跑一次,12-14% 的结果会翻转——上次成功的变失败,上次失败的变成功。

这意味着什么?

假设模式 A 在 100 个任务上成功率 30%,模式 B 在同样 100 个任务上成功率 32%。你会说"B 好一点"。但如果你重跑一次,A 可能变成 32%,B 可能变成 30%。2 个百分点的差距完全在重跑噪声范围内

论文给出了一个经验阈值:在测量的翻转率下,小于约 4pp 的模式间差距,无法从一次重跑中分辨出来

这把整个"模式选择"文献里的大量"模式 A 比模式 B 好 X 个百分点"的结论打了个问号。很多差距可能只是重跑噪声。

第三个发现:成本上界——9.5-30.6% 的节省

论文发现了一个稳健的结果:把"没有任何模式能解"的任务发给最便宜的模式,8/8 个格子里都能在成功率不变的情况下节省 9.5-30.6% 的成本

这个"成本上界"是论文中唯一在重跑控制下存活的结果。为什么?因为它不加新"手臂"——不引入新模式,只是把已有的模式按成本排序,把无解任务发给最便宜的。

这是一个"免费午餐"——不增加能力,只减少浪费。但它不是"路由"——它不涉及"为每个任务选最佳模式",只是"把确定无解的任务分流"。

三个梗阻:为什么真正的路由学不会

论文测了五种路由策略:

1. 选模式(picking the mode):为每个任务选最佳模式 2. 决定何时上强模式(deciding when to spend on the strong mode) 3. 零成本规则(zero-cost rule from task text) 4. 置信度级联(confidence cascade) 5. 池化成本层(pooled cost tiers)

没有一个能稳健地超越"固定选一个好模式"。唯一的例外是最稀疏格子里的一个脆弱结果。

为什么?论文拆出了三道梗阻:

梗阻一:供给(Supply)

路由器的训练标签来自成功。模型成功越多,你越知道"这个任务在这个模式下能解",路由器越有标签学。但模型越弱,成功越少,标签越少——而弱模型恰恰是最需要路由的

数据:标签供给和路由机会的相关系数 ρ=0.952。八个格子里,成功率最高的格子有 97 个标签,成功率最低的只有 15 个。

这不是"多跑几次就有标签"的问题。跑 100 次同一个弱模型在同一个任务上,如果成功率是 20%,你只能确认"这个任务在这个模式下有 20% 的概率成功"——你不知道"为什么"成功或失败,无法为路由器提供"该选哪个模式"的信号。

梗阻二:估计量(Estimand)

"成本"不是一个单一的量。论文发现,不同的成本估计量会让模式排序反转

  • 每次尝试成本(per-attempt cost):算每次调用的花费
  • 每次成功成本(per-success cost):算每次成功的花费
  • API 账单 vs 能源估计:API 按调用计费,能源按计算量计费
  • 延迟:大部分是浏览器和容器的开销
在大多数格子里,"每次尝试最便宜"和"每次成功最便宜"指向不同的模式。一个效率声明如果不说明用的是哪个估计量,不是"弱"的,是歧义的——你根本不知道测的是什么。

梗阻三:价值(Value)

路由的"价值"——最佳选择和实际选择之间的差距——只在"有多个模式都能解"的任务上存在。如果一个任务只有一个模式能解,没有"选择"可言。

但"多个模式都能解"的任务,是成功率高的任务。成功率高的任务,恰恰是模型本来就能做的任务——不需要路由也能解。

路由最有价值的任务,是"有多个模式都能解但选择不同"的任务。但这些任务只存在于模型已经擅长的领域。在模型不擅长的领域,要么没有模式能解(无选择),要么只有一个模式能解(无选择)。

三堵墙其实是同一堵

论文最深刻的洞察:三道梗阻不是独立的,它们是同一堵墙的三个面

  • 供给梗阻:弱模型成功少 → 标签少 → 路由学不会
  • 价值梗阻:弱模型能解的任务少 → 有"多模式选择"的任务少 → 路由没价值
  • 估计量梗阻:弱模型的成本估计更不稳定 → 路由信号更嘈杂
三者都是"弱模型"这个根因的不同投影。论文给出了一个精确的表述:

> 路由监督在成功率处产生,所以路由在最该有价值的地方最学不到。

这不是"更好的路由算法"能解决的。这是监督信号的结构性缺失——你无法训练一个路由器去学习"在模型不擅长时该选哪个模式",因为你没有那个区域的标签。

论文的四条工程建议

论文给 Web Agent 开发者的四条建议,每条都直指一个常见错误:

1. 测你自己的格子:别人的最佳选择不适用于你的部署环境。八个格子之间的分歧,比任何一个和合理先验的分歧都大。 2. 先测重跑成本,再测模式成本:在你考虑引入新模式之前,先重跑一次已有的模式。重跑带来的提升可能和加新模式一样大。 3. 小于重跑带的差距,视为未定:2 个百分点的"提升"可能只是噪声。报告效应 = 报告仪器的分辨率。 4. 说清楚分母:API 账单、能源估计、延迟,这三个量会给出不同的模式排序。不说明估计量的效率声明是歧义的。

这篇论文的更大意义

这篇论文不只是"路由不行"。它是在给"路由"这个研究方向画边界

  • 最佳情况能买多少(联合上界)
  • 可用监督能学多少(供给梗阻)
  • 两者在当前 Agent 能力下差多远(ρ=0.952 的耦合)
它不是否定路由,而是说:路由的可行性是 Agent 能力的函数。当 Agent 变强(成功率提升),标签供给自然增加,价值梗阻自然缓解,路由可能从"学不会"变成"学得会"。

这和"评测盲区定律"同构——不是路由本身有问题,是"在弱 Agent 区域,我们没有足够的数据来评估和训练路由"。盲区不在路由器,在 Agent 的能力边界。

结语

这篇论文给了一个不舒服但清醒的结论:你不能为一个还不擅长做任务的 Agent 训练路由器。路由是强 Agent 的奢侈品,不是弱 Agent 的救生圈。

对于正在构建 Web Agent 的工程师,最实际的行动是:别折腾路由了,先把你的 Agent 在单一模式上做到最好。等 Agent 够强了,路由的自然监督信号会自己出现。

在那之前,省下的路由器训练成本,不如用来多跑一次重跑——那带来的提升,可能比任何路由策略都大。

暂无表态