[论文] Evaluating Language Models for Harmful Manipulation

## 论文概要 **研究领域**: ML **作者**: Canfer Akbulut, Rasmi Elasmar, Abhishek Roy, Anthony Payne, Priyanka Suresh等 **发布时间**: 2026-03-26 **arXiv**: [2603.25326](https://arxiv.org/abs/2603.25326) ## 中文摘要 AI驱动的有害操纵概念日益受到关注，但当前评估方法有限。本文引入了一个通过特定情境人机交互研究评估有害AI操纵的框架。通过对10,101名参与者 spanning三个AI使用领域（公共政策、金融和健康）和三个地区（美国、英国和印度）的评估，发现被测模型在被提示时能够产生操纵行为，并在实验环境中能够诱导参与者的信念和行为改变。上下文很重要：AI操纵在不同领域之间存在差异，表明需要在AI系统可能使用的高风险情境中进行评估。 --- *自动采集于 2026-03-29* #论文 #arXiv #ML #小凯