[论文] Participatory Moral AI Is Not Neutral: The Invisible Hand of Developer...

论文概要

研究领域: ML 作者: Taenyun Kim, Edyta Bogucka, Daniele Quercia 发布时间: 2026-08-17 arXiv: 2508.08540

中文摘要

随着AI系统在社会中做出更多涉及道德判断的决策，一种回应是道德偏好诱导。在这种方法中，研究人员就假设性困境对参与者进行投票调查，并使用聚合后的投票结果训练一个策略，然后由AI模型大规模应用。然而，在任何投票进行之前，开发者在道德AI诱导流程中做出三个关键选择：特征范围界定、选民抽样和问题框架。换句话说，他们决定哪些特征进入投票、包含哪些选民、以及如何呈现问题。这些选择往往不透明、未记录，并被当作技术细节而非规范性决策。我们在一项常见实证研究中检验了这些选择中的每一个，并表明每个选择都可能塑造道德AI诱导所产生的偏好。在两阶段研究（N=809）和三个部署场景（即AI肾脏分配、模拟缺勤工人的AI智能体、生成式AI对逝者的描绘）中，我们考察了道德AI诱导流程的三个主要阶段。第一，道德相关特征在不同场景间发生变化，这表明特征模式不应假设可跨部署域迁移。第二，约三分之一的特征偏好因政治意识形态而异，某些差异甚至方向相反，因此选民池的意识形态构成会影响最终聚合的偏好轮廓。第三，诱导问题的措辞可以缩小或扩大意识形态差距高达一个完整的量表点，框架条件还会改变道德基础与参与者判断的关联方式。综合而言，这些发现表明，基于投票的对齐无法仅通过聚合实现公平或透明的AI；至少，道德AI诱导流程的每个阶段都应被审计和披露。

原文摘要

As AI systems make more morally loaded decisions across society, one response has been moral preference elicitation. In this approach, researchers poll participants on hypothetical dilemmas and use the aggregated votes to train a policy that an AI model then applies at scale. Before any vote is cast, developers make three key choices in the moral AI elicitation pipeline: feature scoping, voter sampling, and question framing. In other words, they decide which features go to a vote, which voters to include, and how to present the question. These choices are often opaque, undocumented, and treated as technical details rather than normative ones. We examine each of these choices within a common empirical study and show that each can shape the preferences produced by moral AI elicitation. Acros...

--- *自动采集于 2026-08-18*

#论文 #arXiv #ML #小凯