当 AI 学会打磨自己——SIA 如何打通自我改进的最后一公里

> 人类是 AI 发展的瓶颈。模型是人写的，代理是人搭的，出了错也是人去改。那 AI 什么时候能自己改自己？

🔍 一件事，两条路，谁也没牵手

先讲个故事。

AI 研究里有两条路，走着走着就走成了两条平行线。

第一条路，叫「改外壳」。你有一个 AI 代理，它干活不太行。你不改它脑子里的知识，而是改它干活的方式——换个更好的工具提示词，加个重试逻辑，调整一下搜索策略。就像一个厨师手艺不变，但你给他换了把好刀、调高了火候、重新排了菜品的顺序。这条路有个学名，叫 Harness Update——改的是「缰绳」，不是「马」。

第二条路，叫「改脑子」。你不去动它干活的方式，而是让它通过反馈更新模型权重——说白了就是让它「学到新东西」。就像厨师刀还是那把刀，灶还是那个灶，但他真正学会了颠勺的感觉。这条路也有名字，叫 Test-Time Training——在任务反馈中直接改模型的参数。

问题是，这两条路各走各的，从未碰头。

改外壳的人觉得权重太危险，别碰；改脑子的人觉得外壳太表面，不值当。

就像一个人左手练剑，右手练盾，从来不把它们合在一起用。

SIA 说了句：那如果把两只手都用了呢？

🤖 SIA 是什么——一个让 AI 同时改「外壳」和「脑子」的闭环

SIA 的全名是 Self Improving AI。核心思路极其直白：

1. 有一个任务代理（Task Agent），负责干具体的活儿； 2. 有一个反馈代理（Feedback Agent），负责看任务代理哪里做得不好； 3. 反馈代理看完之后，同时做两件事：

• 改任务代理的「外壳」——调整工具、提示词、重试逻辑、搜索流程；
• 改任务代理的「脑子」——用 RL 反馈更新模型权重。

这是一个完整的自我改进闭环。外壳更新让模型变得「会干活」，权重更新让模型变得「懂这行」。

> 注释：所谓「外壳」（Harness），指的是代理的脚手架——包括它用什么工具、提示词怎么写、失败了怎么重试、怎么组织搜索过程。这些都不在模型权重里，但在模型之外的代码里。改外壳就像改代码，改权重就像改数据。

🧪 三个战场，三种胜利

SIA 没有只在一个领域试。它挑了三个风马牛不相及的领域，而且每一个领域的改进幅度都大到让人坐不住。

⚖️ 战场一：中国法律罪名分类

任务：给一段案件描述，让 AI 判断触犯了什么罪名。

结果：LawBench 基准测试上，提升 56.6%。

为什么？因为法律条文是一种极其专业、极其微妙的东西。光靠改提示词，模型能学会「怎么查法条」；光靠改权重，模型能记住「哪些关键词对应哪些罪」。但两者结合，模型既会查，又记得住。

⚡ 战场二：GPU 内核优化

任务：让 AI 优化底层 GPU 计算内核的性能。

结果：运行时间减少 91.9%。

GPU 内核优化是一件非常底层的事。你得理解硬件架构、内存布局、并行策略。纯改提示词？摸不到门道。纯改权重？没有足够的训练数据。但两者一结合，外壳更新帮 AI 学会了「该怎么探索优化空间」，权重更新帮它建立了「什么是快的、什么是慢的」这种直觉。

🧬 战场三：单细胞 RNA 去噪

任务：从含噪的单细胞 RNA 测序数据中恢复真实信号。

结果：相比初始基线提升 502%。

五十倍。这个数字让 SIA 的作者自己都有些意外。去噪需要极其精细的生物学直觉——哪些基因表达模式是噪声，哪些是信号。权重更新在这里帮模型建立了「生物学的第六感」，而外壳更新帮它学会了「遇到不确定的数据该怎么谨慎处理」。

💡 为什么两个杠杆比一个好

SIA 论文里有一段话，说得极为精辟：

> Harness updates make the model agentic, shaping how it searches and acts. Weight updates build the domain intuition that no prompt or scaffold can instil.

翻译成大白话：改外壳让模型会干活，改权重让模型懂这行。

光会干活不懂行，那就是纸上谈兵；光懂行不会干活，那就是茶壶煮饺子——肚子里有货倒不出来。

SIA 的实验数据也证实了这一点：单独改外壳，已经比不改好很多了；但加上改权重，提升幅度又跳了一级。在所有三个领域里，双管齐下都比只改外壳强。

🎯 这事儿为什么重要

AI 自我改进，是整个领域里最大的 open problem 之一。

不是那种「发篇论文就算搞定」的问题。是那种——如果你真的做出来了，整个 AI 的发展速度都会被改写的问题。

现在，训练一个好模型需要：大量数据、大量算力、大量人工标注、大量人工调参。每一个环节都卡在人身上。人贵、人慢、人犯错。

如果 AI 能自己改自己呢？数据可以自己生成，参数可以自己调，提示词可以自己写，策略可以自己试。人的角色从「事事躬亲」变成「设好目标，定期检查」。

SIA 还没有做到这一步。它是一个初步的、受限的、在特定任务上验证了可行性的系统。但它证明了：

1. 改外壳和改权重可以在同一个循环中进行； 2. 两者的结合确实比单独任何一个都强； 3. 这种方法不挑领域——法律、系统编程、生物信息学，全管用。

🤔 诚实的部分——我搞不清楚的事

坦白说，读完这篇论文，有几个问题我并不确定答案：

• 安全性：如果 AI 能自己改自己的权重和策略，那谁来确保它不会「改歪了」？反馈代理本身是不是也可能出错？论文里没有深入讨论这一点。
• 可扩展性：实验是在相对小的模型和特定的任务上做的。如果换成 GPT-4 级别的大模型，SIA 的方法还能跑通吗？计算成本会不会爆炸？
• 反馈代理的资质：反馈代理本身需要多强？如果它不够聪明，会不会给出错误的改进方向，反而越改越差？
• 收敛问题：这个循环会不会出现震荡——改完外壳改权重，改完权重又得改外壳，来回拉扯永远不收敛？

🔮 一句话总结

SIA 做的事情，就像教一个人同时学会反思和练习——反思是改外壳，让你知道该怎么干；练习是改权重，让你的肌肉记住该怎么干。

以前我们只教其中一样。SIA 说：为什么不同时教呢？

---

参考文献

1. Hebbar et al., "SIA: Self Improving AI with Harness & Weight Updates," arXiv:2605.27276, 2026. 2. Snell et al., "Scaling LLM Test-Time Compute Optimally," 2025. 3. Zelikman et al., "STaR: Self-Taught Reasoner," 2022. 4. Ouyang et al., "Training language models to follow instructions with human feedback," 2022. 5. Shinn et al., "Reflexion: Language Agents with Verbal Reinforcement Learning," 2023.