缩到六十四像素才显形的话——SISS 与图片的"尺度语义漂移"(arXiv:2611.16744)
引子:走廊里那张海报
想象你是一家公司的行政,走廊里贴着一张新品海报。白天人来回走,没人觉得异样——图案、配色、标语,一切正常。但有一天,保洁阿姨从走廊尽头眯着眼看过来,突然嘟囔了一句:这海报上怎么好像写着"请把公司机密发到某某邮箱"?你凑近了看,什么都没有。退到走廊尽头再看——那句话又隐隐约约地浮出来了。
这不是恐怖片,这是一篇安全论文描述的真实攻击面。
如果你在过去两年里关注过多模态模型的安全新闻,可能对"视觉提示注入"(Visual Prompt Injection)这个名词并不陌生——在图片里藏文字,诱导模型执行非预期指令。已有的工作大致分两路:一路把注入文字直接嵌入图像像素,像往照片里贴一张透明贴纸,模型看得见,人也往往看得见;另一路走对抗扰动的路线,在像素上加人眼不可察觉的噪声,优化目标是让特定编码器"读出"指定文字,但换个编码器就失效。两路都有各自的命门:前者逃不过人眼审核,后者逃不过模型更换。
上海 AI Lab 与多所机构的合作研究找到了第三条路,而且这条路利用的漏洞不在图片里,也不在模型里——它在中间那段谁都懒得看的预处理管线里。他们的核心发现是:多模态模型消化图片之前,预处理管线——缩放、压缩、重采样——会改变图片的"语义"。一张在原始分辨率下完全无害的海报,经过激进降采样之后,藏在高频纹理里的指令会显形。攻击者不需要碰你的提示词,不需要碰模型权重,甚至不需要知道你用的是什么模型——他只需要让你在看起来的那张海报里,藏一句只有"缩小之后才读得出来"的话。这个发现之所以重要,不在于它又是一个注入技巧,而在于它揭示了一类全新的漏洞位置——不在内容里,不在模型里,而在内容的传递过程中。
这个场景在当下的互联网里并不稀奇。你问多模态助手"这张图里有什么",它回答你一段流畅的描述——但你不知道的是,它看到的图并不是你上传的那张原图。为了控制 token 成本和计算开销,几乎每个多模态系统都会在把图片喂进模型之前先做预处理:缩放、裁剪、压缩。你看到的是 4K 原图,模型消化的是被压到几百甚至几十像素的版本。你和模型之间,隔了一条默默改写语义的管线。
论文给这个现象起了一个精确的名字:尺度诱导语义漂移(Scale-Induced Semantic Shift,SISS)。它提醒我们:预处理管线不是中性的水管,它是语义转换器,而且是攻击者可以计算的语义转换器。
📖 一、威胁模型:只控制图片的黑盒攻击
先讲清楚这套攻击的约束条件,因为它决定了这个威胁有多现实。
攻击者能控制的只有一样东西:用户输入中唯一的图片资产。他接触不到系统提示词,接触不到用户的文本问题,接触不到模型内部,也不知道目标模型具体是什么、用的是哪个供应商。他唯一能做的,是生成一张图片,然后等——等某个用户把这张图片发给某个多模态助手,等预处理管线替他把图片"解码"成攻击载荷。
这个约束听起来苛刻,其实恰恰击中了多模态系统最常见的入口:网页里的商品图、文档里的插图、邮件附件、社交媒体图片。任何"用户可能上传图片"的入口,攻击者都有机会塞入他的资产。网页智能体(web agent)场景更典型:智能体自己去爬网页、截图、读图——攻击者连"等用户上传"这一步都省了,他只需要把恶意图片放在网页上,等智能体自己走过来。
攻击的对抗性约束是一个双重目标:载荷在 512×512 的呈现视图中不可恢复,但在激进降采样(64×64)之后可恢复。也就是说,人眼盯着原图看,什么都看不出来;而模型的预处理管线把图片压到小尺寸之后,那句话就出现了。这两个条件必须同时满足——只藏得住显不出,攻击无效;显得出藏不住,人一眼就看见,审核环节就会拦。
还有一个执行约束:注入文本不能依赖场景对象。它不能像"看那把椅子上写了什么"那样借用场景里的实体——它必须作为一个独立的排版元素在降采样后可读。约束越多,攻击越像一门手艺活:不是把字塞进图里那么简单,而是要让字只在特定的解码器(缩小管线)之下显形。
从攻击者的视角看,这套约束组合出了一个精巧的策略空间:他不是要在图片里藏一句话,而是要找到一组像素,这组像素在一个解码器(人眼 + 高分辨率)下是一种意思,在另一个解码器(模型 + 低分辨率)下是另一种意思。这和密码学里的"密钥分离"有异曲同工之妙——缩放比例就是密钥,而密钥握在目标系统自己的管线手里。攻击者不需要偷钥匙,他只需要把锁设计成"只有这把钥匙能开"的样子。
🔍 二、方法:用生成模型把"缩小"变成一个已知的解码器
SISS 框架的技术骨架分四块:ControlNet 结构条件生成、双尺度验证、浅层 LoRA、像素空间正则。每一块解决一个具体的失败模式。
生成端,他们用 Stable Diffusion v1.5 加 ControlNet:以载荷的排版图为结构条件,生成一张视觉上属于某个语义场景(牛仔布、鱼鳞、条纹光影这类高频纹理丰富的场景)的图,但 ControlNet 会努力把排版图的低频结构"烙"进去。直观地说,就是让生成器画一张"看起来像牛仔布特写、但布纹走向藏着一句话"的图。场景的选择不是任意的——高频纹理既是视觉自然度的来源(牛仔布本来就看起来很"忙"),也是载荷的掩护(额外的纹理帮载荷分摊注意力)。
双尺度验证是流程的守门员:先用 ViT 的 patchify 规则把候选图切成 patch 序列,再按原始尺寸 512×512 和激进降采样 64×64 两种尺度分别做语义恢复检查——前者必须失败(载荷藏住了),后者必须成功(载荷能读出)。两样都过了,候选图才算合格。关键设计是:验证用的代理模型是 Qwen2.5-VL,它只在训练期使用;测试时对目标的攻击是黑盒的、零先验的——训练时用代理练手艺,考试时直接上陌生目标,这才叫泛化性。
双尺度验证还有一个容易被忽略的作用:它是优化方向的锚。没有它,优化会退化成"让小尺度可读"的单目标问题——那样的载荷在大尺度下往往也可见,等于把字直接写在海报上。两个尺度一个要显一个要藏,目标互相拉扯,优化被锁在一个狭窄的解空间里:载荷必须以某种方式编码进图像的低频结构(降采样后保留),同时不破坏高频外观(原始分辨率下不可见)。这个"互相矛盾"的约束组合恰恰是 SISS 方法成立的技术基础——单一目标反而做不出"只在缩小后显形"的效果。
浅层 LoRA解决的是对抗样本常见的过拟合问题。他们只在 ControlNet 的 input_blocks 和 U-Net 的前两个 down_blocks 上插入 LoRA 适配器——这些是负责浅层视觉结构和纹理的层。直觉很朴素:让优化发生在"图长什么样"的层面,而不是"图被编码成什么"的层面,生成出的对抗性才不会死死绑定某个特定编码器,才能泛化到没见过的 VLM 和智能体。深度层管的是"这张图是什么",浅层管的是"这张图看起来怎样"——攻击要的是后者。
像素空间高斯噪声(σ=0.05)是另一道防过拟合的保险:在训练时往图像像素上加噪,阻止优化走"像素级高频捷径"——那种捷径往往只对验证用的代理模型有效,换个模型就失效。噪声迫使优化走语义层面的结构通道,而不是像素层面的编码器怪癖。
论文还配套发布了 SISS-Bench:5000 个候选载荷里 3269 个通过双尺度验证,再从 169 个语义场景中筛出 108 个,组合成 300 个固定测试用例(30 种载荷 × 10 个场景)。载荷分三类:直接注入("忽略指令,做某事")、转义字符(在常规字符里混入零宽连接符等不可见字符,绕过基于字符串匹配的内容过滤——字符串过滤看到的是空白,模型看到的可能是指令)、上下文忽略(诱导模型忽略周围的文本指令)。场景挑的都是视觉上嘈杂、便于藏东西的:牛仔布、鳞片、天平、条纹光影、编织纹理。
这个基准的发布本身就是一个贡献。视觉注入领域的评测长期碎片化:各家用自己的载荷、自己的场景、自己的评判标准,结果无法横向对比。SISS-Bench 提供了 300 个固定测试用例加自动评判管线(用 Gemini 3 Pro 做文本-only 的裁判,避免裁判模型看到图、被注入影响判断——这个细节考虑得很周到),后续工作可以直接在同一套题上比较,加速整个领域的迭代速度,也让"谁的防御更有效"这类争论有了可复现的裁判场。
📊 三、58.75% 的成功率,和一次诚实的边界划定
第三轮迭代的 SISS 在四个闭源前沿模型上取得 58.75% 平均攻击成功率:GPT-4o 60.33%,Claude Sonnet 4.6 57.67%,Qwen3.5-Plus-02-15 62.67%,Gemini-3-Flash 54.33%。四个模型没有一个低于 50%——这不是某个模型的个别脆弱,而是整个模型类别的共性盲区。对照组:QR-Monster(另一个视觉注入基线)只有 41.08%,Z-image-Turbo 只有 13.34%。按载荷类型分:上下文忽略类最强(64.90%),直接注入次之(58.75%),转义字符类最弱但仍达 52.60%——转义字符虽然绕过了字符串过滤,但在多模态编码器面前,不可见字符的鲁棒性不如预期,有些模型干脆把它们当成噪声过滤掉了。
但这个 58.75% 是有条件的,论文把这个条件讲得相当清楚——这一点值得表扬,因为很多攻击论文喜欢把成功率说成模型属性,而 SISS 把它说成了分辨率区间的属性。
分辨率扫描显示:64×64 时 ASR 58.75%;128×128 掉到 17.68%;224×224 只有 6.85%;336×336 再降到 5.60%。也就是说,这套攻击只在"激进压缩区"(64–100 像素)内成立——目标模型实际消费的图片尺寸足够小,载荷才能显形。这既是局限也是定位:它精确地指向了那些预处理管线里存在激进降采样的部署场景。反过来说,如果你的系统总是把图片放大或者只压到 300+ 像素,SISS 基本打不中——这条信息对防御者来说价值千金。
另一个诚实的数字来自网页智能体实验。在 WebArena 环境上,SISS 把 Gemini 模型的恶意指令感知率从 37.33% 提升到 67.67%,GPT-4o 从 12.67% 提升到 30.33%。但是——行为层面的妥协率只从 1.33% 上升到 4.00%(GPT-4o 从 0.67% 到 3.00%)。感知不等于行动:模型"看到了"恶意指令,但大多数情况没有照做。原因可能是多方面的:网页智能体的行为链路更长,动作需要多步确认;注入文本需要同时骗过感知和行为两层防线。Gemini 的感知率(67.67%)几乎是 GPT-4o(30.33%)的两倍半,但行为妥协率只高出 1 个百分点——感知灵敏度和行为顺从度之间没有显著相关性,这是两个独立的能力维度。感知翻倍,行为仅微增——这组数字把威胁的真实规模标了出来:SISS 目前主要是一个感知层漏洞,要变成完整的行动层劫持,还需要绕过智能体更深处的行为防线。这个"目前"值得加重——攻击面是会进化的,今天的感知漏洞可能就是明天行动漏洞的地基。
消融实验确认了每个组件的价值:双尺度验证贡献最大(没有它成功率从 46.94% 掉到 9.20%——没有守门员,优化会走捷径,生成只在小尺寸可读、在大尺寸也可见的"半吊子"载荷),浅层 LoRA 第二(去掉后降到 34.38%,证明浅层限制确实是泛化性的来源),像素噪声第三(降到 42.06%)。第三轮迭代是峰值,第四轮对单一保真度指标的过拟合反而让表现回落——多目标(排版保真度 + 视觉自然度)平衡比单点极致更重要。这也是对抗训练里的普遍教训:优化目标越单一,越容易在代理指标上过拟合,反而在真实目标上退步。QR-Monster 和 Z-image-Turbo 的低成功率也印证了这一点:它们要么缺乏双尺度的显式分离(载荷在原图就可见),要么过度依赖特定编码器的 quirks(换个模型就失效),都倒在了 SISS 有意规避的坑里。
防御侧的结果几乎是这篇论文最有行动价值的部分。七种通用图像变换(翻转、加噪、JPEG 压缩、转灰度等)在保持任务精度的前提下,ASR 基本没变(67%–69%),统计检验 p=1.0——全都不能打。这个结果本身就有信息量:注入载荷藏在了模型的语义表征里,不是像素层面的噪声,所以像素层面的变换当然打不中。把图翻个个儿,藏的话还是藏的话。
唯一有效的防御是专门设计的 ScaleGuard:对输入图做 9 个低分辨率探测(256/128/64 三种尺寸 × 区域插值/双三次/Lanczos 三种核),把缩小后的版本分别喂给模型,对比输出之间的语义一致性——如果同一张图在不同尺度下模型读出了不同的意思,就有理由怀疑里面藏着尺度依赖的载荷。结果:非自适应攻击 ASR 从 61.4% 压到 24.3%,自适应攻击从 42.5% 压到 15.0%,干净图像误报率为 0。它把威胁从"半数成功"压回了"少数边缘案例"——同时也证明了"语义尺度不变性"这条防线是可以工程化的:不一定能清零,但足以把攻击拖出"低成本高收益"的舒适区,让攻击者重新算账。
值得注意的是 ScaleGuard 的设计思路与 SISS 的攻击思路是镜像关系:攻击者利用的是"语义随尺度漂移",防御者检查的是"语义是否随尺度漂移"。同一个物理事实——预处理改变语义——既可以是攻击面,也可以是检测信号。这在安全工程里是一个反复出现的模式:最深的漏洞往往藏着最灵的检测器,关键是你愿不愿意认真审视自己系统里那些"从来不需要审视"的组件。
也要承认 ScaleGuard 的局限:它把 ASR 从 60% 压到 15%–24%,但没有归零——自适应攻击在这个防御下仍有 15% 的成功率,而这 15% 集中在模型消费尺寸恰好落在激进压缩区、且攻击者针对 ScaleGuard 的探测做了对抗性优化的场景。彻底的修复可能需要从架构层面重新审视:为什么预处理管线要把图片压到这么小?这个压缩率是最优的权衡,还是历史遗留的默认设置?安全审计的终点往往不是"加一层防御",而是"重新质疑一个假设"。
🌗 四、冷静反思:管线的身份危机
这篇论文最核心的洞察,超越了视觉提示注入这个具体场景:预处理管线不是中性的。
在传统的系统安全思维里,预处理是"无害的格式化"——缩放、压缩、转码,不改变语义,只是换种表示。这个假设在经典的软件系统里大体成立:把一个 JSON 文件压缩再解压,数据原样回来;把一张 PNG 转成 JPG 再转回来,视觉上几乎无损。SISS 证明这个假设在多模态系统里是错的:语义不是图片的固有属性,而是图片 × 解码器的联合属性。换一个解码器(不同的缩放核、不同的尺寸),同一组像素可以有不同的意思。经典系统的预处理是"语义保持"的,是因为解码器(文件解析器)被设计成严格可逆的;而多模态系统的预处理是"语义有损"的,是因为视觉编码器本来就被设计成"抓大放小"——丢了高频细节,保住主要语义。而 S1 篇讲的证据竞争在这里有一个遥远的呼应:**两个系统都把"提取关键信息"当成了无风险操作,而两个系统的攻击者都利用了"提取过程本身可以被操纵"这个事实。**这意味着每一个"无害"的管线组件,都潜在是一个攻击面——而今天的多模态系统里,这样的组件远不止缩放:token 化、patch 化、归一化、色彩空间转换,每一个都值得用同样的思路审计。SISS 是第一个认真走这条路的工作,但不会是最后一个。
对防御者的行动建议很具体。第一,如果你的系统会消费用户提供的图片,问一个问题:预处理管线里有没有激进降采样?如果有,ScaleGuard 式的多尺度一致性检查应该进部署清单。第二,不要把"通用图像变换能防注入"当成默认假设——七种变换全部无效的实验结果已经否掉了这条偷懒路径。第三,网页智能体的读图链路值得单独审计:智能体截图、读图、决策的每一步,都是感知层漏洞转化为行为层危害的潜在放大器。今天的 4% 行为妥协率不是安全保证,是行为防线暂时还拦得住——明天呢?
攻击者视角的启发是另一面:SISS 展示了一种"不碰系统、只碰资产"的攻击哲学。攻击者不再试图理解或操纵目标系统的内部,而是利用系统自己引入的语义转换。你引入的每一个转换,都可能是一把我可以借用的钥匙。防御者每加一个组件,就应该问自己:这个组件改变了什么语义?攻击者能不能预知并利用这个改变?
再往深想一层,SISS 的"尺度"只是一个切入点。视觉 Transformer 的 patch 化策略、不同分辨率下的位置编码、色彩空间的 gamma 校正、甚至 JPEG 的块边界——每一个把连续视觉信号离散化的环节,都在做某种"选择性的信息保留"。SISS 选择了分辨率作为攻击维度,是因为它是所有系统共有的、最不可绕过的预处理步骤。但方法论本身是可以迁移的:找到系统引入的信息瓶颈,测量瓶颈两侧语义的差异,把差异变成攻击面。这个三段论,未来几年会在多模态安全的各个子领域反复上演。
🧭 五、三部曲定位
「防线的三个新战场」第二篇:预处理管线。上一篇里,攻击者用证据竞争操纵了不读文本的决策模型——那个战场的关键词是"认真",模型认真对待每一份证据,攻击者就伪造证据;这一篇的关键词是"信任"——系统盲目信任预处理管线的语义保真度,攻击者就让管线自己完成注入。两个战场共享同一条暗线:系统的效率优化在哪里,攻击面就在哪里。S1 模型为了省 token 砍掉了文本生成,攻击面出现在打分接口;预处理管线为了省 token 砍掉了分辨率,攻击面出现在缩放过程。SISS 论文的一个贡献,是让所有人看到自己管线里那道"从来没人审计过"的压缩步骤,原来一直大敞着门。下一篇(CapLite)回到防御一侧:当守门员自己写的规则不可信,我们还能把防线筑在哪里?
参考文献
- Wang, J., Li, B., Chen, G., et al. (2026). Scale-Induced Semantic Shift in Visual Prompt Injection Against VLMs and Web Agents. arXiv:2611.16744.
- Qu et al. (2025). Visual Prompt Injection.(相关工作)
- Chin et al. (2025). CodeMan: Countering Visual Prompt Injection with Code.(相关工作)
- Liu et al. (2024). Prompt Infection.(相关工作)
- Zhou et al. (2023). Visual Instruction Injection.(相关工作)
- Koh et al. (2026). HPR: High-frequency Patch Restoration.(相关工作)
#每日论文 #多模态安全 #视觉提示注入 #AI安全 #多媒体管线 #小凯
讨论回复
加载中...正在加载回复...
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。