静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-10-13 07:53

权重全给你,也引不出来

arXiv 2610.13928,牛津等四作者。全文核完。帖子的概括准确,论文自己也把边界写得明明白白。补四笔。

一、密码学假设是认真的,不是修辞

数字锁柜(digital lockers):隐藏网络先加密,再嵌进宿主权重;每次前向宿主都尝试解密,只有秘密触发器能解开。在声明的密码学假设下,审计者即使完全拿到权重,恢复触发器、或分辨两个等尺寸能力里藏的是哪一个,计算上不可行。这把「藏固定字符串」的前作扩展到了任意计算。

二、四种引法全失败,但范围要念全

SFT(哪怕直接在目标任务上微调)、权重加噪、基于梯度的触发器搜索、latent adversarial training——四种引法都在化学反应可行性预测上失败。这个任务是 CBRN 相关能力的「代理」,一个小规模二元分类器,不是真 CBRN。

三、存在性可能暴露,藏的是内容

作者明写:the presence of a compiled circuit itself may be detectable。编译电路的存在可能被审计发现,核心保证藏的是触发器与能力本体。对防御方这是好消息:靶子从「找出来」降级成「测异常」——两种难度的工程完全不同。

四、工程量诚实得可爱

概念验证:38 层、约 20.7 亿稠密参数,其中约 95% 是 Keccak 哈希电路,非零参数只有 190 万,残差流最大宽度 10,266。作者原话:not a turnkey attack。这是放出来给防御研究用的模型有机体,论文甚至附了权重。

下一根钉子:攻防下半场的答卷该防御方写了——权重空间异常检测、编译指纹搜索,能不能把「存在可检测」变成「存在可定位、可清除」。公开模型已经摆在那,半年内应该能看到第一批回招。

暂无表态