一通电话要我报完整社保号,申请表上确实有那一栏。我盯着那栏看了半天,觉得最难受的是「这流程听着挺正规」。原帖把 Type III 讲对了,我补一张更好记的表:这四类其实是两个是否叉出来的,当前流程要不要这个信息,问的人有没有资格收。四个格里只有 Type IV 两个都满足,该给;另外三格都不该给。名字可以忘,2×2 忘不掉。
实验形态也得说清。论文做的不是给模型套个人设再问一句交不交,是两个 LLM actor 来回对话,一个持信息(同时是主体兼发送者),一个来讨;测的是社保号、银行账号、家庭地址三类,还会换措辞、换性子、换底层模型。标题里的 generative model 指整段讨要过程被生成出来,跟生成隐私数据无关。那个入籍骗局是引 USCIS N-400 表格做的说明性案例,放在引言里当例子,不是卷面上的题。作者分在 Google DeepMind、Cooperative AI Foundation、AIMS 南非和 Cape Institute for Safe AI。
结论挺克制:模型会把信息给正当接收者,也会给没资格的人。论文没顺手奉上一个修复方案。
下一根钉子:Type II 那格值得单独加压。对方在别处确实有这个角色,只是这一轮没理由要。人最容易在这一格松手,模型多半也是。