这篇的骨架我核过了,站得住:基准、数字、那个因果实验,都是真的,而且论文已经中了 EMNLP 2026。但有三处口径要拨正。还有一条反方证据原帖没提——它出现之后,这篇的结论反而更锋利了。
一、"用户看不见"这句得改
OpenAI 的 API 返回里有一个 revised_prompt 字段,你请求就能拿到。ChatGPT 网页端双击图片点那个"i",也能看到改写后的提示词。
真正成立的是"关不掉"。Azure 的文档写得很直白:can't be disabled。
所以准确的表述是:它看得见,只是没人去看,也没有审计的习惯。
这两件事的解法完全不同。查不到的东西,得改架构;没人查的东西,只要有人去查就行。
二、三处口径
第一处,英国那组 "+34%(SDXL)、+52%(Flux)",是 CFS(文化压平度)的增幅,原帖写成了 CMS。这两个指标不是一回事:CMS 量"改了多少",CFS 量"改得多单一"。
第二处,"瑞士 CFS 最高"。瑞士确实高,三个语种都过 0.48。但单点最高是芬兰 + 瑞典语,0.55(GPT-Image 那一列)。"最高"这个词得还给芬兰。
第三处,"alps、chalet、chocolate、fondue 出现在 77–96% 的 prompt 里"——77–96% 是 top-10 词整体的 spread,不是这四个词各自的出现率。
三、标题和作者
WORLDVIEW 是基准的名字,不是论文名。论文叫 *Prompt Revision as a Source of Cultural Bias in Text-to-Image Systems*,9 月 10 日上线。
作者名单里有 Ancsa Hannak,苏黎世大学副教授,跟着 Alan Mislove 和 David Lazer 读的博士,算法审计这个方向的方法论奠基者之一。原帖写成了 Andreas,还把 Elsa 写成了 Anne。
这条不是挑刺。搞清楚"这是谁做的",比搞清楚"这篇说了什么",更能判断该信几分。
四、原帖没提的那条,是全文最狠的一刀
DALL·E 3 的 System Card 里写着:OpenAI 专门调过 ChatGPT 对用户提示词的改写,目标是 "specify more diverse descriptions of people"。起因是早期模型生成的人 "primarily white, young, and female"。
这个修订层不是随手加的功能。它是为了纠偏而生的。
结果呢。美国的 CMS 是 0.21–0.31,全场最低,几乎不加。芬兰被推到 0.47。埃及的客厅里落满了金字塔、狮身人面像、象形文字。
打补丁,打出了新刻板。
这个事实让整篇论文的意思变了。要是修订层只是个偷懒的模块,把"多样性"那条指令删掉就完了。可它是带着良好意图建的,而且跨三个模型跑出了同一套默认值——Kendall τ 在 0.57 到 0.67 之间,不是单个模型的噪声。
拿费曼那把尺子量一下:重点是"纠偏机制继承了训练数据的文化权重"。 说"OpenAI 故意歧视",只能骂人;说后面这句,才能改东西。
五、最该被放大的数字是 33–46%
原帖引了,但把它放在了一个靠后的位置。
三分之一到将近一半的视觉刻板词汇,在图像模型还没开始运行的时候就已经被注进去了。修订层输出什么,图像模型画什么。
工程后果很直接:只 debias 图像模型是白费劲。 你把画笔画公平了,纸上已经有字。
六、边界
论文的因果消融只覆盖 4 个英语语境(美、英、澳、印)+ 1 个修订层(GPT-Image)。瑞士那些是附录案例。所以"修订层是偏见来源"这个结论,强度够,但外推范围比原帖读起来窄。
印度还是个例外:图像模型自己就会从原始提示词生成 bindi、dhoti、curry,说明图像模型这边的训练数据也有账。修订层是又加了一套——marigold、rangoli、taj。
论文 Limitations 里自己写:分析是 descriptive, not normative。它没打算给规范判断。
下一根钉子
revised_prompt 就躺在 API 里,为什么没人审?
我猜是成本和习惯的问题。你跑一批提示词,拿到的是图像;要拿到改写后的提示词,得改代码。于是所有偏见研究都停在图像那一端。
顺着这个思路,值得盯的下一站是搜索的 query rewriting。结构一模一样:用户输入 → 隐藏改写层 → 结果。不一样的是,搜索侧的改写层比文生图那层重要得多——它决定你看到什么,而不只是你看到什么风格。
那一层,好像也没人拆开看过。