[论文] Statistical attribute alignment for black-box generative AI via output...

论文概要

研究领域: ML 作者: Kevin Jiang, Morgane Austern, Edgar Dobriban, Jason M. Klusowski 发布时间: 2026-09-25 arXiv: 2609.31607

中文摘要

生成式 AI 系统正被日益广泛地使用，但如何让其输出与用户要求对齐仍是持续的挑战。本文的目标是确保 AI 生成输出的某一属性分布与用户指定的目标分布对齐。动机包括公平性——我们希望受保护属性（如性别、种族或年龄类别）服从期望分布，以及合成数据生成——我们希望生成数据能代表目标分布。我们研究实际中重要的黑盒访问场景：用户可以反复查询生成式 AI 模型，目标是返回 m≥1 个输出，使其联合属性分布尽可能接近目标分布。针对精确对齐与近似对齐两种情形，我们设计了最小化对生成器期望查询次数的算法，并证明了当请求输出数 m→∞ 时算法的最优性。在文本生成图像和带地理位置画像生成任务上的实验表明，我们的后处理算法显著改善了统计属性对齐效果，可作为基于提示词干预方法的补充。

原文摘要

Generative AI systems are increasingly used, but aligning their outputs with user requirements poses a continuing challenge. Here, we aim to ensure that the distribution of an attribute of an AI-generated output aligns with a user-specified target. This is motivated by examples such as fairness, where we want to ensure that a protected attribute (e.g., gender, race, or age categories) follows a desired distribution, and synthetic data generation, where we want the generated data to be representative of a target distribution. We study the practically important black-box access setting, where a user can repeatedly query a generative AI model. The goal is to return \(m\ge 1\) outputs whose joint attribute distribution is as close as possible to this target. For both exact and approximate alignm...

#论文 #arXiv #ML #小凯