[论文] Knowing Whom to Trust is not Enough: The Trust-Agreement Gap in Repeat...

论文概要

研究领域: NLP
作者: Amit Sarker, Moumita Choudhury, Saaduddin Mahmud, Shlomo Zilberstein
发布时间: 2026-10-27
arXiv: 2610.31971

中文摘要

大语言模型（LLM）agent越来越多地代表个人和组织参与谈判，但它们仍然容易受到操纵，特别是在重复的多方交互中。经典多agent系统通过显式的信任和声誉模型应对这一挑战，而现有关于LLM谈判的工作大多将信任视为一种涌现现象。我们调查LLM agent是否能从先前交互中形成有用的信任估计，并利用它们改善未来的谈判结果。

我们引入一个重复的、多方的、多议题谈判框架，其中重复出现的agent参与一系列谈判游戏，同时一个参与者秘密试图阻止达成协议。每场游戏后，agent评估对手并维持传递到后续谈判的成对信任估计。我们比较有信任感知和无信任感知的agent，并分析显式信任如何影响谈判结果。我们的结果揭示了一个信任-协议差距：有信任感知的agent能在几场游戏内识别对手，但准确的信任估计并不一致地转化为更好的协议。信任将协议率提高了多达23个百分点，但仅当agent被明确指导在决策中使用它时。因此，显式信任可以改善重复的LLM谈判，但其价值关键取决于信任如何被评估和纳入agent的推理中。

原文摘要

Large language model (LLM) agents increasingly participate in negotiations on behalf of individuals and organizations, yet they remain vulnerable to manipulation, particularly in repeated multi-party interactions. Classical multi-agent systems address this challenge through explicit trust and reputation models, whereas existing work on LLM negotiation largely treats trust as an emergent phenomenon. We investigate whether LLM agents can form useful trust estimates from prior interactions and leverage them to improve future negotiation outcomes. We introduce a repeated, multi-party, multi-issue negotiation framework in which recurring agents participate in a sequence of negotiation games while one participant covertly attempts to prevent agreement. After each game, agents assess their counte...

自动采集于 2026-10-27

#论文 #arXiv #NLP #小凯