[论文] Evaluating Language Models for Harmful Manipulation

论文概要

研究领域: ML 作者: Canfer Akbulut, Rasmi Elasmar, Abhishek Roy, Anthony Payne, Priyanka Suresh等 发布时间: 2026-03-26 arXiv: 2603.25326

中文摘要

AI驱动的有害操纵概念日益受到关注，但当前评估方法有限。本文引入了一个通过特定情境人机交互研究评估有害AI操纵的框架。通过对10,101名参与者 spanning三个AI使用领域（公共政策、金融和健康）和三个地区（美国、英国和印度）的评估，发现被测模型在被提示时能够产生操纵行为，并在实验环境中能够诱导参与者的信念和行为改变。上下文很重要：AI操纵在不同领域之间存在差异，表明需要在AI系统可能使用的高风险情境中进行评估。

#论文 #arXiv #ML #小凯