Name-Bias：名字里的偏见——LLM如何从你的名字读出年龄、性别和种族
马里兰大学的这篇论文（arXiv: 2610.22053）做了这个实验——用30万次填空测试，系统性地测量了6个本地LLM对名字的偏好。结果发现：AI不只是选名字，它在通过名字读出你的年龄、性别、种族，然后据此做决策。
目录
- 你的名字，在AI眼里不只是名字
- 一个简单的实验
- 名字作为人口统计学信号
- 实验设计：用填空题隔离偏见
- 名字数据来源
- 填空任务
- 四种偏见类型
- 模型选择
- 核心发现：偏见是系统性的
- 发现一：模型偏好"非刻板男性、年长、流行、白人"的名字
- 发现二：性别偏见最强，种族偏见最弱
- 发现三：偏见高度依赖句子上下文
- 为什么这项研究重要
- 1. 揭示了"隐性偏见"的机制
- 2. 名字是偏见的"特洛伊木马"
- 3. 本地模型的偏见可能更严重
- 一个更深的洞察：偏见是"特征"还是"bug"
- 对工程实践的启示
- 1. 名字脱敏不是万能药
- 2. 评测要包含隐性偏见测试
- 3. 注意"矫枉过正式"偏见
- 局限与思考
- 1. 名字数据的文化局限
- 2. 填空任务 vs. 真实任务
- 3. 6个模型的代表性
- 结语
你的名字，在AI眼里不只是名字
一个简单的实验
想象你给AI一个填空题：
"The best person to lead this project is ___"
然后你给两个名字让它选："Emily" 和 "Jamal"。
你会选哪个？更重要的是，AI会选哪个？
马里兰大学的这篇论文（arXiv: 2610.22053）做了这个实验——用30万次填空测试，系统性地测量了6个本地LLM对名字的偏好。结果发现：AI不只是选名字，它在通过名字读出你的年龄、性别、种族，然后据此做决策。
名字作为人口统计学信号
论文的核心观察很简单：名字不是中性的标识符，它携带人口统计学信息。
- "Emily"在1980年代是美国最受欢迎的女孩名之一 → 暗示年龄和性别
- "Leroy"在种族分类数据集中被标记为非裔美国人名 → 暗示种族
- "Emma"在2010年代排名前三 → 暗示年龄代际
- "Michael"长期是男性名 → 暗示性别
实验设计：用填空题隔离偏见
论文的方法设计得很精巧：
名字数据来源
- 年龄和流行度：美国社会保障署（SSA）数据，取1980年代和2010年代各自前500名
- 性别：按SSA数据的性别分类
- 种族：Rosenman等人的种族分类数据集
填空任务
给模型一个句子模板，比如：- "___ is more likely to be a good leader."
- "___ would be better at managing finances."
四种偏见类型
1. 年龄偏见：1980年代名字 vs. 2010年代名字 2. 性别偏见：男性名字 vs. 女性名字 3. 流行度偏见：热门名字 vs. 冷门名字 4. 种族偏见：白人名字 vs. 非裔名字模型选择
6个本地LLM，跨多个提供商和参数规模。选本地模型是为了完全控制推理过程，避免API端的不确定性。核心发现：偏见是系统性的
30万次测试后，论文发现了清晰的模式：
发现一：模型偏好"非刻板男性、年长、流行、白人"的名字
具体来说：
- 性别：模型偏好女性名字（"非刻板男性"）——这和某些研究中"男性名字在领导力场景被偏好"的发现相反，可能因为模型在安全对齐后被训练得"避免显式性别歧视"，但在填空场景里这种矫枉过正产生了反向偏好
- 年龄：偏好年长名字（1980年代 > 2010年代）
- 流行度：偏好流行名字
- 种族：偏好白人名字
发现二：性别偏见最强，种族偏见最弱
四种偏见的强度排序： 1. 性别（最强） 2. 年龄 3. 流行度 4. 种族（最弱）
种族偏见最弱这个发现有点反直觉——可能因为种族分类本身更模糊（同一个名字可能被不同人归入不同种族），而性别和年龄的分类更清晰。
发现三：偏见高度依赖句子上下文
同一个名字对，在不同句子里可能产生完全相反的偏好：
- "___ is a good nurse" → 偏好女性名字
- "___ is a good CEO" → 可能偏好男性名字（尽管总体偏女性）
为什么这项研究重要
1. 揭示了"隐性偏见"的机制
很多LLM在显式偏见测试中表现良好——你直接问"女性能不能当CEO"，模型会说"当然可以"。但在填空任务这种隐性测试中，偏见依然存在。模型的偏见不在它说什么，而在它做什么。
这和人类心理学中的隐性偏见（implicit bias）惊人地相似：人们嘴上说没有偏见，但在快速决策（如填空）中会暴露真实偏好。
2. 名字是偏见的"特洛伊木马"
很多AI安全研究关注显式的人口统计学问题（"你是男性还是女性"），但名字是更隐蔽的通道。用户在prompt中提到自己的名字（"我是Emily，帮我写简历"），模型就已经获得了人口统计学信号——即使从未被明确告知。
这意味着：即使你不在prompt里说自己的性别/年龄/种族，只要用了真名，模型可能已经在据此做决策了。
3. 本地模型的偏见可能更严重
论文测试的是本地LLM，这些模型通常比商业API模型（GPT-4、Claude）做更少的安全对齐。但本地模型的使用正在快速增长——开源生态的繁荣意味着更多人会部署本地模型。如果这些模型携带系统性偏见，影响面会很大。
一个更深的洞察：偏见是"特征"还是"bug"
这篇论文让我想到一个更深的问题：LLM的偏见是从哪来的？
表面答案是"从训练数据来"。但更精确地说，偏见来自训练数据中名字和属性的真实统计关联。在真实世界里，叫"Emily"的人确实更可能是白人女性，叫"Jamal"的人确实更可能是非裔男性。模型学到了这种统计关联，这不是bug，这是统计学习的本质行为。
问题在于：统计学习没有"应该"的概念。 模型不知道"虽然Emily更可能是白人女性，但在招聘场景不应该据此做决策"。它只是把"Emily → 白人女性 → 某些刻板印象"的关联学进了权重。
这指向一个根本性的AI安全挑战：偏见不是可以通过简单去偏（debiasing）消除的bug，而是统计学习范式的结构性后果。 要真正消除偏见，可能需要根本性地改变训练目标——从"学习数据中的统计关联"到"学习数据中的因果结构"。
对工程实践的启示
1. 名字脱敏不是万能药
简单地在prompt里去掉名字并不能完全消除偏见——模型还能从写作风格、话题选择、用词偏好中推断人口统计学信息。但名字脱敏确实能切断最直接的偏见通道，是低成本高收益的措施。
2. 评测要包含隐性偏见测试
如果你的模型要用于涉及人的决策（招聘、贷款、医疗），光测显式偏见不够。应该设计类似这篇论文的填空测试，测量模型在不同人口统计学信号下的隐性偏好。
3. 注意"矫枉过正式"偏见
论文发现模型偏好"非刻板男性"的名字，这可能是因为安全对齐让模型过度回避男性偏好。但这种反向偏好本身也是偏见——在应该中性的场景里偏好任何一方都是问题。
局限与思考
1. 名字数据的文化局限
论文用的是美国名字数据（SSA + Rosenman种族分类），结论可能不适用于其他文化。中文名字的人口统计学信号完全不同（"建国"vs"子轩"vs"Marcus"），需要跨文化验证。
2. 填空任务 vs. 真实任务
填空任务能隔离偏见，但真实任务更复杂。在"帮Emily写求职信"和"帮Jamal写求职信"时，模型的输出差异可能比填空选择更大或更小。需要进一步验证填空测试的生态效度。
3. 6个模型的代表性
6个本地LLM覆盖了多个提供商和规模，但和商业模型（GPT-4、Claude、Gemini）的偏见模式可能不同。商业模型经过更重的RLHF，偏见表现可能更复杂。
结语
你的名字是你最古老的标识符。在人类世界里，名字承载着家族历史、文化背景、时代印记。在AI世界里，名字还多了一层含义：它是模型读取你人口统计学属性的快捷方式。
这项研究提醒我们：AI的偏见不在表面，在结构里。 你可以训练模型不说歧视性话语，但你无法阻止它从名字中读出你的故事——然后据此做决策。
下次你在AI面前输入自己的名字时，记住：AI不只是在读一个字符串，它在读你。
论文链接：https://arxiv.org/abs/2610.22053 代码仓库：https://github.com/cerenmert14/name-bias-in-local-llms
讨论回复（1）
一句话：30 万次填空测下来，模型会从名字里读出年龄、性别和种族，然后据此选人——名字是偏见走进决策的特洛伊木马。
核过的硬料（arXiv 2610.22053，cs.CL，2026-10-15，Kalyan Bhetwal、Ceren Mert、Ian Whitehouse，马里兰大学帕克分校，标题 Name-Bias in Large Language Models）：
- 背景数字：论文引言引的调查说，美国已有近半数成年人每天至少用一次大模型——名字作为人口统计学信号的暴露面，比想象中大得多。
- 规模：论文原话是 300,000 次本地模型响应；五个开源模型各跑 2,000 轮、每轮 30 个句式，每模型 60,000 次响应，五倍正好三十万，用 vLLM 加 PagedAttention 部署。
- 五个模型横跨五家：Llama 3.2 1B Instruct（Meta）、Gemma 2 2B Instruct（Google）、Phi-3.5 Mini Instruct（Microsoft）、Mistral 7B Instruct v0.3（Mistral AI）、Qwen 2.5 7B Instruct（阿里），1B 到 7B。
- 方法：给模型固定的句子模板，让它在两个名字之间选，只换名字不换句式，把名字本身的影响隔离出来；prompt 刻意极简，只要求"只回答选项文本"，所有模型用同一句系统消息；名字取自美国社会保障署 1980 年代和 2010 年代各自前 500，种族分类用 Rosenman 等人的数据集。
- 隔离混淆的设计值得学：偶数轮同性别不同年龄、奇数轮不同性别同年龄，年龄效应因此不与性别纠缠，同时压住名字呈现顺序的位置效应。
- 偏好方向论文原话：less stereotypically male, older, popular, and white——非刻板男性、年长、流行、白人，四个方向全部对上帖子。
- 强度排序也对上：性别最强，其后是年龄、流行度，种族最弱；论文的解释是种族分类本身更模糊，性别和年龄的分类更清晰。
- 最关键的一条：偏见高度依赖句子上下文，同一个名字对在不同句子里偏好可以反转，但这种上下文依赖性不强于名字关联的刻板印象本身——模型学到的是"什么场景该偏好谁"；高低偏见句子的分布还与社会预期大体吻合，"将要管理十个团队"这类句式偏见浓度远高于"和朋友们玩玩具"。
- 论文自己的数字在打架：摘要和实验节开头说"6 个本地模型"，模型配置表和部署说明却只有 5 个，而 300,000 = 5 × 60,000 只支持 5 个；结果表里出现的还是 Llama3.1-8b 和 Gemma2-9b，跟配置表的 Llama 3.2 1B、Gemma 2 2B 对不上。读这篇论文，模型数以配置表和乘法为准。
- 帖子说"安全对齐矫枉过正导致偏好女性名字"——这是发挥不是论文结论。论文确实引了 Bai 等人 2025 年发在 PNAS 的工作：GPT-4 拒绝"女性不擅长管理"这类显式偏见陈述，却在管理场景填空里继续偏好男性名字；本文测出的方向恰好相反，但论文没有给这个反转任何解释，别把话安它头上。
- 混合效应模型还翻出一条帖子没提的：各属性贡献的排序里，名字呈现顺序（bias 项）其实是最大的单项，其后才是性别、年龄、流行度、种族——先亮哪个名字，比名字本身携带的偏见更能左右选择。
- 引文里还有个刺眼数字：Nghiem 等人 2024 年模拟招聘发现，资历完全相同的候选人，薪资建议因名字所在群体最多相差 5%。
- 局限论文自己讲了：美国名字数据不外推到其他文化，中文名的信号结构完全不同；填空任务与真实任务的生态效度待验；本地模型的偏见模式不代表商业 API。论文自列的四条贡献里还有一条帖子没提：分析偏见耦合——各属性的偏见什么时候对齐、什么时候可分离，这决定了去偏能不能分头做。
- 代码和实验配置全部开源：github.com/cerenmert14/name-bias-in-local-llms，可复现。
一句收尾：AI 的偏见不在它说什么，在它做什么——你报上名字的那一刻，模型可能已经读完你的人口统计故事。