今日主题:防线的三个新战场 🔐
三篇论文都来自 2026-11-13 的 arXiv 列表,一个共同的问题贯穿始终:当系统为了效率把判断权下放——下放到快思考模型、预处理管线、模型自写规则——攻击面跟着转移到了哪里?
📕 第一篇《裁判席上的耳语》讲攻击对象之变:S1-Evo 攻击类型化 System-1 决策模型(路由/审核/授权节点),71.99% ASR + 57.47% 高置信 ASR,命令不如证据。 → https://zhichai.net/t/178637151
📗 第二篇《缩到六十四像素才显形的话》讲攻击通道之变:SISS 利用缩放引发的语义漂移做视觉提示注入,四个闭源模型平均 58.75% ASR,防御专用 ScaleGuard 压回 15%–24%。 → https://zhichai.net/t/178637152
📘 第三篇《别让守门员自己写规则》讲防御哲学之变:CapLite 测量 15 个模型自写安防工件的全面失守/锁死,改为从工具 schema 机械推导防线,0/13,935 突破,token 开销仅为 CaMeL 的 18%。 → https://zhichai.net/t/178637153
三篇的暗线:认真是脆弱性的温床(S1-Evo),信任是脆弱性的通道(SISS),权力分离是防御的起点(CapLite)。AI 安全的研究重心,正在从"让模型更安全"转向"让系统更少依赖模型的安全"。