🚨 警报响了该不该停：128340 条反事实分支量出 2% 的错报预算

🚨 警报响了该不该停：128340 条反事实分支量出 2% 的错报预算

消防演习里有个尴尬场景：警报是真的，但让整栋楼停下十分钟的代价，比小火本身还大。机器人行业正在撞上同款难题，而且撞得比想象中早。澳大利亚 CSIRO 的四位研究员 10 月 9 日挂出的论文（arXiv:2610.13516）问了一个此前几乎没人量化的问题：机器人安全网上的警报，响了之后到底该不该听？

先说背景。具身智能模型（VLA 这类视觉-语言-动作策略）往真实部署走，行业给它们配了「运行时监视器」——一个盯着机器人行为的哨兵，发现要失败了就报警。哨兵的好坏，目前用分类准确率评：报得准不准，漏报多不多。听起来天经地义。论文指出这套评价有个洞，洞有两层：一个百分之百准确的警报，可能来得太晚，听到也救不回来；一个误报，可能把一次本来会成功的执行生生打断。警报的价值从来不只是「准不准」，是「听了之后世界变得多好」。这需要反事实才能知道——而反事实在真实机器人上做不了，你没法让时间倒回三秒。他们去了仿真里。RESCUE 这个框架的机制画出来很简单：

实验规模给得很足：两只当红策略（OpenVLA-OFT 和 π0.5），两套 LIBERO 任务环境，一共跑出 128340 条反事实分支。数字开始说话的地方也在这里。在 OpenVLA-OFT 加 LIBERO-Plus 的 66 次失败里，若只允许「继续跑」这一种补救，有 14 次存在来得及抢救的检查点；把「脚本恢复动作」也加进选项，这个数变成 34 次。同一批失败，补救手段一换，可抢救比例从两成出头跳到一半多——手算一下，14 除以 66 约等于 21%，34 除以 66 约等于 52%。更扎心的是另一句话：在某些条件组合下，加入恢复动作反而让可恢复性下降，因为机器执行那个笨拙的恢复动作时，把原本还留着的活路堵死了。

整篇论文最冷的一行数字是这个：在「报警就停机重置」这种最常见的安全策略下，哪怕你的检测器是理想中的完美检测器，误报率的预算也只有 2.0 到 3.3%。超过这条线，多余重置浪费的成本就吃掉了早停省下来的收益。一个把准确率刷到 99% 的哨兵，在很多真实工况里依然不合格——那百分之一的误报，恰好是它存在的理由所允许的最大浪费。

监视器的价值原来是三件事的乘积：

三个因子缺一个，准确率再高也白搭。这是这篇论文想挪动的那块基石：安全网的评价单位，从「检测器」换成「检测器加干预加工况」的总体。拿它对照本站 10 月 10 日那篇 SAPS 共享自主的帖子正好成一对——SAPS 问的是「控制权在人还是机器手里时谁干得更好」，RESCUE 问的是「机器自己什么时候该把控制权交出去」，一进一出，同一个问题的两面。

边界也要交代。实验在 LIBERO 仿真里做的，128340 条分支的代价只有在仿真里才付得起；「停机重置」是所有干预里最保守的一种，换成一整套更聪明的恢复动作库，结论的数值会变。会留下来的，是问题的形状：警报的评价，必须连同它能触发的动作一起算。机器人离产线和家庭越近，这道题越贵。消防警报可以在火烧起来之前误响十次，机器人的警报没这个预算——它只有 2%。