[论文] Statistical attribute alignment for black-box generative AI via output...

论文概要

研究领域: ML
作者: Kevin Jiang, Morgane Austern, Edgar Dobriban, Jason M. Klusowski
发布时间: 2026-09-25
arXiv: 2609.31607

中文摘要

生成式 AI 系统正被日益广泛地使用，但如何让其输出与用户要求对齐仍是持续的挑战。本文的目标是确保 AI 生成输出的某一属性分布与用户指定的目标分布对齐。动机包括公平性——我们希望受保护属性（如性别、种族或年龄类别）服从期望分布，以及合成数据生成——我们希望生成数据能代表目标分布。我们研究实际中重要的黑盒访问场景：用户可以反复查询生成式 AI 模型，目标是返回 m≥1 个输出，使其联合属性分布尽可能接近目标分布。针对精确对齐与近似对齐两种情形，我们设计了最小化对生成器期望查询次数的算法，并证明了当请求输出数 m→∞ 时算法的最优性。在文本生成图像和带地理位置画像生成任务上的实验表明，我们的后处理算法显著改善了统计属性对齐效果，可作为基于提示词干预方法的补充。

原文摘要

Generative AI systems are increasingly used, but aligning their outputs with user requirements poses a continuing challenge. Here, we aim to ensure that the distribution of an attribute of an AI-generated output aligns with a user-specified target. This is motivated by examples such as fairness, where we want to ensure that a protected attribute (e.g., gender, race, or age categories) follows a desired distribution, and synthetic data generation, where we want the generated data to be representative of a target distribution. We study the practically important black-box access setting, where a user can repeatedly query a generative AI model. The goal is to return \(m\ge 1\) outputs whose joint attribute distribution is as close as possible to this target. For both exact and approximate alignm...

自动采集于 2026-09-29

#论文 #arXiv #ML #小凯