别用博士当保安：主动Agent不需要LLM来决定"要不要醒"，小模型快83倍还更准

你手机上的 AI 助手，每时每刻都在做一件极其浪费的事：把你的生活翻译成文字，然后读给自己听。

你打开了一个 App——它把这个动作写成"用户打开了微信"。你收到了一条消息——它写成"用户收到了来自张三的消息"。你切换了歌曲——它写成"用户切换了播放列表中的歌曲"。然后，它把这些文字一股脑塞给大模型，问："我该不该主动做点什么？"

99% 的时候，大模型说："不用。"

这就是当前"主动 Agent"的工作方式：**每一个事件都调用一次 LLM，让 LLM 决定是否行动。**听起来很智能，实际上蠢得令人发指——你雇了一个 24 小时待命的博士，就为了让他每秒钟看一眼"用户又划了一下屏幕"，然后说"不用管"。

这篇论文问了一个尖锐的问题：真的需要 LLM 来做这个决定吗？

问题的本质：结构被碾平了

关键洞察在于：用户活动天然就是结构化的，不是文本。

操作系统记录的用户行为是 (actor, verb, object, timestamp) 四元组——比如 (用户, 打开, 微信, 14:30:02)。这些四元组在操作系统内部已经组织成了图结构：谁对什么做了什么，什么时候做的，和之前的事件有什么关联。

但现有的主动 Agent 做了什么？它把这个图结构碾平成文字，然后让 LLM 从文字中重新恢复这个结构。这就像你把一张地图撕成碎片拼成一句话，然后让别人根据这句话重新画地图——多此一举，而且信息必然丢失。

论文的核心主张：把"始终在线"的信号当作图更新来处理，而不是文本。

方案：小模型当门卫，大模型当写手

研究团队提出的架构极其简洁：

第一层：时序图学习（TGL）模型当门卫。 这是一个很小的图神经网络，吃进结构化的事件流，吐出两个东西：

• 触发概率：这个事件值不值得唤醒 LLM？
• 路由分数：如果值得，应该交给哪个下游 Agent？

一次前向传播，11 毫秒搞定。

第二层：LLM 只在被触发时调用。 它收到的不是原始文本流，而是一个精简的、结构化的"交接包"——只包含相关的上下文。LLM 的唯一任务是把结构化信息转化为流畅的用户面向的自然语言响应。

打个比方：TGL 是大楼的保安，LLM 是前台接待。保安 24 小时盯着监控（事件流），判断谁需要接待（触发），然后只把需要接待的人领到前台（路由）。前台不需要看所有监控画面，只需要和被领来的人交谈。

实验结果：小模型碾压大模型

结果令人震惊：

在 14 个骨干模型上，TGL 的 F1 分数全部提升，平均 +16.7，最高 +46.0。注意，是全部，没有例外。

速度对比更夸张：

• GPU 服务器上：TGL 每事件 11.13 毫秒，比最快的 LLM-as-trigger 配置快 4-7 倍
• 消费级笔记本上：TGL 每事件 13.99 毫秒，比最快的 LLM-as-trigger 配置快 12-83 倍

内存占用： TGL 模型只有约 220 MiB（BF16 精度），可以部署在设备端，和它消费的隐私敏感活动流放在一起。这意味着用户数据不需要上传到云端。

触发稳定性： TGL 的单一 checkpoint 在所有测试场景中给出了最强的触发 AUC 和最稳定的部署阈值。相比之下，LLM-as-trigger 在不同场景下表现波动很大。

为什么小模型反而更好？

这个反直觉的结果有深层原因：

1. 结构信息天然适合图模型。 事件流的 (actor, verb, object, timestamp) 结构就是图的节点和边。图神经网络天生擅长处理这种数据，而 LLM 需要先"理解"文本中的隐含结构。

2. 触发决策是模式匹配，不是推理。 判断"用户打开微信后 30 秒又打开了支付宝"是否值得触发，本质上是在图上做子模式匹配。这不需要 LLM 的推理能力，只需要高效的结构化模式识别。

3. LLM 的"理解"在这里是浪费。 LLM 的优势在于生成流畅文本和复杂推理，但触发决策既不需要生成文本也不需要复杂推理。用 LLM 做这个，就像用跑车送快递——能送到，但太贵了。

4. 延迟是致命的。 主动 Agent 需要实时响应。LLM 的推理延迟（即使只是单次前向传播）在事件密集时会成为瓶颈。TGL 的 11 毫秒 vs LLM 的 50-900 毫秒，差距是数量级的。

更深的启示：不是所有 AI 问题都需要 LLM

这篇论文的启示远超"主动 Agent"这个具体场景：

LLM 是通用推理引擎，但不是万能的。 在很多 AI 应用中，真正需要的不是"理解自然语言"，而是"高效处理结构化数据"。把结构化数据碾平成文本再让 LLM 处理，是一种架构上的反模式。

正确的分工是：小模型做感知和过滤，大模型做推理和生成。 这不是新概念——经典的两阶段检测器（如 Faster R-CNN）就是这么设计的：轻量级网络提候选，重量级网络做精细分类。但这个思路在 LLM 时代被遗忘了，因为大家太迷恋"端到端大模型"的优雅。

端到端不等于一个大模型搞定一切。 真正的端到端是整个系统的端到端优化，而不是把所有功能塞进一个模型。当你的系统有明确的"感知-决策-执行"分层时，用不同规模和类型的模型处理不同层次，才是工程上的正确选择。

诚实的评价

这篇论文的局限也很明显：TGL 模型需要针对特定的事件流格式训练，不像 LLM 那样 zero-shot 泛化。如果事件流的 schema 变了，TGL 可能需要重新训练。此外，论文的实验主要在模拟环境中进行，真实世界的部署效果还有待验证。

但方向是对的。当整个 AI 圈都在往"更大、更通用"的方向狂奔时，这篇论文提醒我们：有时候，小而专精才是正确答案。 不是每个问题都需要 GPT-4 来解决——有时候，一个 220MB 的小模型就够了，而且做得更好。

论文链接：https://arxiv.org/abs/2605.30152

作者：Xiaoze Liu, Ruowang Zhang, Amir H. Abdi, Michel Galley, Zhikai Chen, Siheng Xiong, Xiaoqian Wang, Jing Gao