智能体不打电话了,改写脚本:一次搬走 300 万 token 的手术

调用一次工具,模型要把全部上下文重发一遍。这个动作在一段长任务里重复几十次,账单的大头从来都落在「重发」两个字上。10 月 29 日,Factory 公司发布 Droid 1.0,把这个循环改掉了:模型不再一次一次要工具,它写一小段 JavaScript 程序,让程序自己去调工具,跑完只汇报一段摘要。公司自报的基准显…

目录
  1. 🧵 从一次一问到整段脚本
  2. 📏 缰绳之间的差距有多宽
  3. 💰 独立缰绳这门生意

调用一次工具,模型要把全部上下文重发一遍。这个动作在一段长任务里重复几十次,账单的大头从来都落在「重发」两个字上。10 月 29 日,Factory 公司发布 Droid 1.0,把这个循环改掉了:模型不再一次一次要工具,它写一小段 JavaScript 程序,让程序自己去调工具,跑完只汇报一段摘要。公司自报的基准显示,这套做法在成本与分数上同时压过了 OpenAI 和 Anthropic 自家的官方外壳。

🧵 从一次一问到整段脚本

先看清旧账怎么欠的。编码智能体的运行结构分两层:模型本身只会预测文字,真正让它能读文件、跑命令的是外层那套「缰绳」,行业里叫 harness,也就是指令模板、工具定义,加上把它们串起来的执行循环。Codex 和 Claude Code 都是缰绳。以往每一次工具调用都要走一个来回,指令和历史全部重发,一份 151 条工单的批量搬运要做 312 次工具调用,折合约 36 次模型请求,吃掉约 310 万输入 token。

Droid 1.0 的做法是让模型把整个批量操作写成一段程序。程序在隔离沙箱里执行,沙箱碰不到真实文件和网络,只能调用注册过的工具接口;执行结束把结果摘要交回给模型。上面那笔搬运账,现在只要 2 次模型请求、约 6.1 万 token,缩水到五十分之一。另一次任务里,模型核对 547 次运行中的 5384 个测试作业,全程只看到一份标出 41 个失败的摘要。

小贴士:这套「程序化工具调用」并非 Factory 原创的思路,公司自己标注源头是 2024 年的 CodeAct 论文,让智能体用代码而不是单条指令与环境交互。Droid 的贡献在于把它做成了产品级的默认路径。

📏 缰绳之间的差距有多宽

Factory 跑的自家基准给出了横评数字。同样是 GPT-6.1 Sol 这个模型,套在 Droid 里比套在 Codex 里高 3.5 分,成本还低 12%;换成 Claude Opus 5.5,Droid 对 Cursor、OpenCode、Devin,直到 Anthropic 自家的 Claude Code,领先幅度在 3.0 到 7.6 分之间,成本最多低 24%。光是把调用方式换成脚本,这一项就砍掉了 Opus 5.5 上 15% 的成本。

对照组Droid 领先成本差异
Droid + GPT-6.1 Sol 对 Codex3.5 分(Terminal-Bench 4)低 12%
Droid + Opus 5.5 对 Claude Code领先 3.0 到 7.6 分最多低 24%
每个已解任务的耗时比 Claude Code 快 26%token 少 17%
GPT-6.1 Sol 上的速度慢 10%token 少 12%
速度那一栏有一处反转:在 Anthropic 的模型上 Droid 又快又省,在 OpenAI 的模型上省了 token 却慢了一成。缰绳与模型之间的配合各有各的顺手感,一家通吃的通用外壳目前还不存在。

这份基准还有一个必须写明的裁定细节:Devin 这个对手戒不掉中途向用户提问的习惯,Factory 的处理办法是,凡 Codex 解出而 Devin 因提问暂停的任务,一律记 Devin 得分,平均每个试验记 4.7 题。这项调整只动准确率,不动成本与耗时。全部数字出自厂商自测,没有第三方复现。

💰 独立缰绳这门生意

Droid 1.0 还压缩了启动指令,从 20887 token 砍到 13055,降幅 37%,办法是预先只给 2 个工具定义而不是 11 个,其余按需加载。公司还称生产请求的输入有 98% 读自供应商缓存,缓存价格远低于全价,这笔折扣直接写在账单上。

这盘生意的底层逻辑是模型中立。开发者想在 Anthropic、OpenAI 和开源权重模型(比如 Kimi K3)之间换着用,就得放弃每家实验室为自己模型调校的官方外壳的顺手感。Factory 的赌注是:一条为所有模型都调校过的中立缰绳,能把这层手感差距补回来。12% 的价差很小,你自己的代码库完全可以把它抹平,验证的办法也便宜:同一个下午,同一批任务,两边各跑一遍。真正值得记下的是这个架构信号,批量操作的算力不该花在「重发上下文」上,该花在干活上。这个道理对智能体的每一层都成立,Droid 只是把它写进了产品默认值。


信源与限定:Factory 官方发布「Droid 1.0: Building a Frontier Harness」(10 月 29 日)及 AI Insiders 的逐项核对。全部基准数字为厂商自测,无第三方复现;Devin 得分调整规则(平均每试验 4.7 题)来自 Factory 自己的方法说明;「98% 缓存读取」为公司口径;CodeAct 论文出处为 Factory 自述。

#AI编程 #智能体 #工程效率

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens