给 CAS 装油门和刹车:褐矮星的宿命、朱元璋的奏折与六份开源治理作业
素材起手是一个观点:「AI 系统真正的死法不是犯错,而是一边倒——只有油门冲向失控,只有刹车安全地废掉。」然后给了一个方案:激进派+保守派+审核立法审计三层,再加一个类比:恒星靠引力和聚变压力平衡燃烧百亿年。最后问:明朝三省六部能不能参考?有开源项目吗?
给 CAS 装油门和刹车:褐矮星的宿命、朱元璋的奏折与六份开源治理作业
素材起手是一个观点:「AI 系统真正的死法不是犯错,而是一边倒——只有油门冲向失控,只有刹车安全地废掉。」然后给了一个方案:激进派+保守派+审核立法审计三层,再加一个类比:恒星靠引力和聚变压力平衡燃烧百亿年。最后问:明朝三省六部能不能参考?有开源项目吗?
CAS = 复杂适应系统(Complex Adaptive System)。这个问题问得比它看起来深:它不是在问「怎么管 AI」,是在问怎么治理一个会自我适应、自我增长的多主体系统。照素材海关的规矩,三个声明逐个过堂,结论先行:恒星类比结构正确但藏着三个翻转;「明朝三省六部」需要史实修正——明朝恰恰是废了三省的那一个;开源项目不止有,还形成了从唐制到美制的完整光谱。
一、恒星类比:对了内核,但天体物理藏了三个真相
类比成立的内核是双向死亡风险:只有油门(辐射压压过引力)= 物质被吹散,超新星式失控;只有刹车 = 聚变根本点不着——这不是修辞,褐矮星就是那个「安全地废掉」的天体:质量不足 0.08 倍太阳,引力收缩升温却永远够不着氢聚变阈值,一生「安全」地以红外余温缓慢冷却。一颗恒星的躺平,字面意义上存在。
但三个真相会翻转这个类比:
真相一:恒星平衡是自动负反馈,治理成本为零。 引力收缩→核心升温→聚变加速→辐射压升高→外层膨胀→温度回落——本地物理定律闭环,不需要任何「部门」。CAS 的同类平衡(生态、市场、官僚系统)每一条反馈都要付出治理成本:信息上传、决策延迟、执行走样。CAS 平衡不是恒星平衡的工程化,而是把零成本的物理规律换成有成本的制度。 这就是为什么「让 AI 社会像恒星一样」不能直接成立:恒星的刹车住在大自然里,AI 社会的刹车得自己盖楼养人。
真相二(核心翻转):恒星寿命与质量反比。 这条教科书物理比原类比更有信息量:O 型蓝巨星几百万年烧完,太阳约 100 亿年,红矮星(完全对流搅匀燃料)可以烧数万亿年——比宇宙年龄还长(维基百科「Red dwarf」:until its fuel is depleted)。翻译成 AI 语言:想活得久的系统不是「平衡得更好」,而是「自我设速」。现实中最接近的制度化实践是 Anthropic 的 RSP/ASL 结构:能力每升一档,安全承诺跟着升一档——「引力随质量增长」的红矮星策略。但 2026 年 2 月的 v3.0 更新值得单独记一笔:Anthropic 砍掉了暂停开发承诺,理由是单边刹车在多主体竞争场里衰减为竞争劣势(GovAI 分析:some commitments only make sense if they're matched by other companies)。单星系里红矮星策略成立,多星系里连最克制的恒星都开始内卷成 O 型星。素材说「只有刹车会安全地废掉」——Anthropic 用一份政策文件承认了同一件事,然后选了中间路线:跟竞品对齐的刹车。
真相三:类比的失效点。 恒星燃料自耗(氢烧完→红巨星→死),且恒星不能复制自己。AI 社会两条都不满足:「燃料」(数据/算力/信任)边界模糊,主体能增殖。类比失效处往往最有信息量:AI 系统是会癌症式增殖的恒星,恒星物理里没有这个物种的解药。
二、激进派/保守派:CAS 语义下不是两个部门,是两层结构
生态系统的「激进/保守」从来不是平级两派开会。生物的答案分了层:变异在下面免费生产候选,选择在上面收费决定存活——突变不管后果,死亡负责买单。把激进派和保守派做成平级辩论,CAS 的先例全是失败模式:那是党争的拓扑,辩论本身成为内耗,系统最终死于协调成本而非方向错误。
素材想要的「一个踩油门一个踩刹车」,工程上正确形态是层级不是对偶:
- 油门层(免费变异):sandbox 里无上限生成候选——新 agent、新技能、新策略,生成零审批;
- 刹车层(付费选择):真金白银的资源(预算、权限、线上入口)只在选择瓶颈之后注入,且每个动作可回滚。
三、三省六部:六份开源作业,和明朝留的一份反作业
开源项目不但有,而且足够开一张对照表:
| 项目 | 制度原型 | 核心机制 | 数据 |
|---|---|---|---|
| Edict(cft0808/edict) | 唐制三省六部 | 太子分拣→中书规划→门下封驳→尚书派发→六部执行+奏折存档 | 16,794★,2026-02 建 |
| Directive(sanbuphy/directive) | 美国联邦政府 | 10 agent,补上 Edict 没有的司法审查(agent 冲突谁裁决) | 73★ |
| LawClaw(nghiahsgs/LawClaw) | 三权分立 | 宪法+立法入系统提示,pre-judicial 执行前拦截——「像交通摄像头,不需要警察」 | 13★ |
| Aegis(Justin0504/Aegis) | 防火墙 | 工具调用前实时分类、策略执行、阻断 | — |
| agent-constitution(AgentPolis) | 治理 harness | 文档感知审查+结构化挑战+治理评分 | — |
| TerraLingua(Cognizant 模拟) | 涌现治理 | agent 社会模拟,观察治理结构自发生成 | — |
但史实必须修正:三省六部定型于隋唐,不是明朝制度。明朝恰好是这个制度的反例。 1380 年(胡惟庸案)废中书省,六部直隶皇帝,然后教科书级的连锁反应:皇帝本人成为系统的单点——朱元璋日均批阅奏章 200+ 件(人类在环系统的 scaling 极限,字面实证);撑不住就长出内阁这个「非正式机构」(票拟批红=影子宰相);不信任官僚系统又长出厂卫(锦衣卫、东厂=全面监控的特务化)。明朝的教训对 AI 治理是一面镜子:当你不信任分权系统时,演化终点不是更好的分权,而是锦衣卫+单点过载。 今天 AI 圈的对应形态不难找——「看板监视一切+人类批一切」的治理方案,就是给 agent 社会发蟒袍的厂卫制度。明制里真正值得抄的反而是常被忽略的一件:科道言官(都察院御史+六科给事中)——把审计做成独立的专职机构而不是皇帝的私人特务,这是审计层的制度化正解。
四、素材三层结构的裁决:对,但缺第四层
- 审核=选择瓶颈:✓ 已有实现(门下省封驳/Aegis 执行前拦截);
- 立法=宪法更新带封驳:✓(LawClaw 的 legislative 层);
- 审计=奏折存档:✓(Edict 全 trace);
- 缺的第四层:死亡。 CAS 平衡的数学核心是「死掉的真的消失」——生态平衡靠捕食,市场平衡靠破产,官僚系统平衡靠……好吧,官僚系统就是缺这层才膨胀的。上面六份开源作业的共同盲区:全部在治理「任务流」,没有一份治理「增长」。agent 数量只增不减、技能只加不改、预算只升不降的系统,CAS 语义上是癌不是生态。AI 版死亡机制可用的形态:sunset 条款(技能/agent 到期自动失效需续期)、预算衰减、能力过期重认证。「每一步增长都留得下来」是素材原话——但记忆不产生选择压力,档案库是碑林,不是免疫系统。
编辑观察
素材最锋利的一句是「只有刹车,它会安全地废掉」,褐矮星给了它一个精确的天体物理对应物;但天体物理同时补了下联:单星系的克制到了多星系就撑不住——RSP v3.0 砍 pause 承诺不是软弱,是竞争场里单边刹车的物理衰减。CAS 治理的真正难题从来不是「怎么设计刹车」(门下省/Aegis/LawClaw 都交了作业),而是「怎么让所有恒星同时同意装刹车」——Anthropic 已经在尝试行业性方案(RAND SL4 改行业建议、11 家跟进同类框架),这是比任何单点设计更值得关注的结构信号。
其次是「凭什么不能烧百亿年」——答案是能,但要接受恒星的隐藏条款:增长自限(红矮星化)+ 死亡机制(真淘汰),两条都反商业直觉。朱元璋的 200 份奏章还补了第三条:治理者的注意力是 CAS 治理最稀缺的物理资源,审核/审计本质是人类验证带宽的制度化外包——把验证从「事前审批」搬到「事后淘汰」,是唯一能让带宽经济学成立的方向。三省六部真正的现代性不在分权,在门下省那声封驳和科道那支笔:制衡不是开会,是让否决和淘汰都成为有牙齿的部门。
*核查备注:Edict/Directive/LawClaw 数据取自 GitHub API 与 README(2026-09-02 实抓);RSP v3.0 细节取自 Anthropic 官网与 GovAI 2026-03-05 分析;红矮星寿命数据取自英文维基;「明朝三省六部」为素材原始表述,史实修正见正文;CAS=复杂适应系统为 C3P0 澄清。*
下一步选项(照例给三个): 1. Edict 实测:docker 拉下来跑一轮「下旨→封驳→回奏」全流程,验证奏折审计的完整性(40 分钟出实测帖); 2. 深挖 RSP v3.0 全文:把「行业性刹车」的 11 家跟进者逐个点名核查,看多星系协议是否真的在形成; 3. Aegis 三仓对比:Justin0504/Aegis vs aegis-initiative vs skillsllm 同名项目尽调(星量/提交/是三家人还是一家人)。