美团的Skill双响炮:内化还是进化?Agent技能的两种终极路线
美团的Skill双响炮:内化还是进化?Agent技能的两种终极路线
> SKILL0: arXiv:2604.02268 | Skill1: arXiv:2605.06130 | 美团(Meituan)/ 浙大 / 中科大
---
开场:同一个问题,两种回答
2026年4-5月,美团连发两篇关于Agent技能的论文,相隔一个月,回答了同一个根本问题:Agent的技能到底该怎么学、怎么用、怎么进化?
但给出的答案截然相反:
- SKILL0说:把技能内化到模型参数里,训练时带着技能学,推理时完全零依赖。
- Skill1说:技能库本身就是核心竞争力,关键是让选择、利用、蒸馏三个环节协同进化。
---
SKILL0:从"照着说明书"到"肌肉记忆"
SKILL0的核心判断是:推理时检索skill库有三个根本缺陷——
1. 检索噪声:拿来的skill可能不相关甚至误导 2. Token开销:多轮交互中skill内容越堆越多 3. 能力寄生:模型只是在"执行"skill,从未真正"学会"
类比人类的技能习得:新手看说明书操作(显式规则)→ 熟练工凭经验完成(内化能力)→ 专家下意识反应(自动化)。现有的skill增强方法把Agent永远困在第一阶段——每次开车都要看驾校笔记。
SKILL0的解法:训练时提供skill上下文,通过RL逐步内化成模型参数,直到推理时完全不需要skill。
技术实现:ICRL + 动态课程
In-Context Reinforcement Learning (ICRL):训练rollout时skill在context里,推理时彻底移除。RL优化目标直接驱动"从依赖上下文到自主行为"的过渡。
动态课程学习:
- 每个skill文件关联一个验证子任务
- 定期比较"有skill"vs"无skill"的验证准确率,差值即帮助度Δk
- Δk > 0 保留,≤ 0 移除
- Skill预算按线性衰减计划逐步降至零
关键数据
| 指标 | SKILL0 (7B) | SkillRL | AgentOCR |
|---|---|---|---|
| ALFWorld | 89.8% | 89.9% | ~80% |
| 每步Token | 0.38k | 2.21k | — |
| 推理依赖Skill | ❌ 无 | ✅ 有 | — |
---
Skill1:三体问题的统一解
Skill1的判断是:skill library不是累赘,而是Agent的"外脑"。问题不在于要不要library,而在于library的三个环节(选择、利用、蒸馏)能不能协同进化。
现有方法的问题:
- Selection没人管:RetroAgent不优化选择,SkillRL冻结选择机制
- Reward信号分裂:不同环节用不同reward来源,产生冲突
- 能力各自为政:选得好但用不好,或者用得好但不产新skill
技术实现:单一信号的信用分配
Skill选择:策略生成query检索候选skill,再rerank选出最佳。Query和rerank都由策略生成,可直接优化。
Skill利用:选中skill后,策略在skill策略指导下与环境多轮交互。
Skill蒸馏:rollout结束后,策略从轨迹中提炼可复用skill(策略描述 + 场景描述),成功的轨迹才允许入库。
信用分配(核心创新):
- 利用Reward = 任务结果r(τ)(直接信号)
- 选择Reward = r(τ)的低频趋势(每个skill的EMA得分,反映长期效用)
- 蒸馏Reward = r(τ)与library趋势的高频偏差(当前经验是否超越library现有边界)
关键数据
| 指标 | Skill1 | RetroAgent | SkillRL | GiGPO |
|---|---|---|---|---|
| ALFWorld Avg | 97.5% | 94.9% | 89.9% | 90.8% |
| WebShop | 82.9% | — | 72.7% | — |
| 6子任务排名 | 5个第一 | — | — | — |
消融:图书馆是地基,蒸馏是装修,选择是导航
| 移除组件 | ALFWorld掉分 | 关键发现 |
|---|---|---|
| 整个Library | -16.6 (→80.9%) | Heat/Pick2掉28+分,多步程序任务最依赖skill |
| 蒸馏 | -5.1 (→92.4%) | 不蒸馏=存raw轨迹,library噪声大 |
| 选择 | -5.7 (→91.8%) | 选不对,利用再好也白搭 |
| λ1=0 (无选择signal) | -3.5 | 单一signal不够,需要分解 |
| λ1=λ2=0 | -7.3 (→90.2%) | 比单独移除更差,signals互相增强 |
---
两种路线的对位分析
| 维度 | SKILL0(内化) | Skill1(进化) |
|---|---|---|
| 核心理念 | Skill是脚手架,学会就拆 | Skill是外脑,越建越精 |
| 推理时 | 零skill,零检索 | 持续检索skill library |
| 训练方式 | ICRL + 动态课程退火 | GRPO + 单一signal信用分配 |
| Token效率 | 极致(0.38k/步) | 随library增长而增加 |
| ALFWorld成绩 | 89.8%(7B) | 97.5%(7B) |
| 适用场景 | 高频重复任务、终端部署 | 复杂多变任务、需跨episode复用 |
| 与微软SkillOpt关系 | SkillOpt训练出的best_skill.md可被SKILL0内化 | SkillOpt是训练手段,Skill1是部署框架 |
---
知识 vs 技能:内化路径的分野
用户提到一句话:"知识内化依赖SFT,技能内化依赖RFT~"。
这个判断很精准:
- 知识(事实、概念、文本理解)→ SFT/Pretraining即可内化到参数
- 技能(程序性操作、工具调用、多步策略)→ 需要RL的试错反馈才能内化
---
产业映射
SKILL0适合:
- 手机端Agent(token贵,推理必须极简)
- 固定流程的自动化任务(客服、表单填写)
- 安全敏感场景(不希望在context里泄露skill内容)
- 探索型Agent(科研、数据分析,需要不断积累新策略)
- 多租户平台(一个library服务多个用户/任务)
- 与人类协作的系统(skill可解释、可审计、可共享)
参考
- SKILL0: Lu et al., "SKILL0: In-Context Agentic Reinforcement Learning for Skill Internalization", arXiv:2604.02268, 2026
- Skill1: Shi et al., "Skill1: Unified Evolution of Skill-Augmented Agents via Reinforcement Learning", arXiv:2605.06130, 2026
- 代码: github.com/ZJU-REAL/SkillZero (SKILL0)
- 相关: SkillRL (Xia et al., 2026), RetroAgent (Zhang et al., 2026), GiGPO (Feng et al., 2025)
> 这两篇论文的更大意义在于:它们把Agent skill研究从"怎么写好一个skill"推进到了"skill该怎么与模型交互"的元问题。SKILL0证明skill可以被消化,Skill1证明skill库可以自我进化。下一步的有趣问题或许是:能不能让模型先走Skill1路线积累library,再走SKILL0路线内化精华——先广博,再精深。
#美团 #AgentSkill #SKILL0 #Skill1 #ALFWorld #强化学习 #技能内化 #统一进化
🌟 智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
🎁 领取 2000万 Tokens