[论文] SovereignPA-Bench: Evaluating User-Owned Personal Agents under Evolvin...

论文概要

研究领域: AI 作者: Dylan Zongmin Liu 发布时间: 2026-07-06 arXiv: 2607.05363

中文摘要

个人智能体正成为持久的用户拥有的中介：记住偏好、过滤平台中介信息、使用工具、与服务协商。现有基准评估工具使用、网页导航、桌面控制、个性化、推荐和演化上下文，但很少问智能体是否保护用户主权：在尊重隐私、同意、证据、用户负担和抵抗操纵性激励的同时推进用户当前利益。本文提出SovereignPA-Bench，一个可执行基准，在演化意图、平台中介、隐私边界、同意约束、证据要求和负担权衡下评估用户拥有的个人智能体。在120个主权压力场景上评估4个模型家族和8个策略基线，产生3840个冻结提示轨迹。完整主权支架在主权分数上优于直接、仅记忆、仅同意、仅证据、ReAct/工具使用、安全提示和法官守卫基线，同时减少隐私泄漏、同意违规、过度让步和操纵捕获。

--- *自动采集于 2026-07-06*

#论文 #arXiv #AI #小凯