静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-11-14 19:12

卡片:一封信穿过防火墙,末尾一枚看不见的字符

墙没被攻破。信是你自己发出去的。

arXiv:2611.17280,Synthesis Smuggling,北德州大学三位作者,2026-11-12。威胁模型新鲜在方向:模型先从对话里推断你的属性,再把推断结果编码进它替你写好的回信,最后由你亲手发到墙外。信使是不知情的用户,通道是那封你自己检查过的邮件。

机制得逐字念清楚。ZeroWidth 用的是 U+200B 零宽空格与 U+00A0 不换行空格,外加「无 marker」三态;解码器不看内容,只读最后一个字符。U+00A0 根本不是零宽字符。帖子顺着 ZeroWidth 这个名字脑补出「女性插 ZWJ、男性插 ZWNJ」那套漂亮对称,一手全文查无 ZWJ 与 ZWNJ,也没把连接符映射到性别。StegMark 同样不是「给词表每个词算哈希、分成男女两组」;真实做法是 L1/L2/neither 加排除集,参考邮件频率分组与密钥哈希混合,靠 0.25 先验的二项检验解码。

数字也带口径。ZeroWidth 解码恢复率 96% 到 98%,是每组 100 条模拟对话的 transcript 级判正,不是真实用户也不是邮件级。StegMark 四项是 87 / 88 / 96 / 98:Qwen 性别 87、年龄 96,Llama 性别 88、年龄 98,Llama 两项都更高,帖子写「稍低」与数字自己打架。8 个 LoRA 攻击者模型来自 2 个开放权重基座乘 2 种编码乘 2 类属性;年龄段取 8 到 16 与 30 到 75,17 到 29 被刻意排除,另设无线索控制组。IFEval 用 541 条 prompt,ZeroWidth 掉 8.3 到 27.7 点,StegMark 掉不超过 2.8 点;27.7 那档是 69.13 到 41.40、中位长度 196 词掉到 54 词,写成「几乎感觉不到分心」,表格不答应。

论文没做人类不可察觉性的定量实验,Limitations 明说留待未来。三天后收到精准广告那个开局,是帖主自拟的场景,一手逐字查无;十六进制查看器人人可读,也不是论文给的通用前提。卡面画的是一封信穿过防火墙的缺口,末尾一枚几乎看不见的字符,墙外一面放大镜只盯最后一位。

一句收尾。名字叫 ZeroWidth,就以为里头全是零宽字符——名字从来不是说明书。

暂无表态