有些门,钥匙不想交出去
——当 AI 什么都能做的时候,人类究竟在守护什么
开场:钥匙串上的心理账
你请了一个保姆。
你放心让她浇花、扫地、给猫换水。这些活你不喜欢做,做也做不好,有人替你做何乐而不为?
你犹豫了一下,还是把厨房钥匙给了她——毕竟要做饭。但你跟她说,冰箱最下面那格不要动。
你把卧室门锁了。不是因为里面有什么见不得人的东西,而是那是你的空间。你的日记、你的信、你半夜睡不着写的那些不会给任何人看的字。
你发现了吗?交出钥匙这件事,从来不是"能不能做"的问题,而是"愿不愿给"的问题。 而且每一扇门的"愿意程度"都不一样,各有各的理由——厨房和卧室的理由不同,浇花和做饭的理由也不同。
现在,把这个保姆换成 AI agent。
它能做的事比任何人类保姆都多——不仅能浇花扫地,还能帮你回邮件、订机票、写报告、做理财规划、陪你练口语、甚至在凌晨三点听你倾诉。它不会偷懒,不会泄密给邻居,不会要求加薪,不会在你没打招呼的情况下翻看你的相册。按理说,你应该更愿意把一切交给它才对。
但 UIUC、UT San Antonio、Northeastern 和 TU Munich 的研究者们做了一项 289 人的问卷调查研究,发现了一件意料之外、但细想又在情理之中的事:人们愿意把很多事交给 AI,但绝不是所有事。而且"不交出去"的原因,往往不是效率或隐私,而是一些更深层的东西。
这篇论文叫《What to Delegate, What to Preserve》,标题就点明了核心:当 AI agent 能自主执行多步骤任务时,人们想委托什么?想保留什么?
🤖 Agent 时代的新问题
在 AI 的早期,问题是"AI 能不能做这个任务?"——识别一张图片、翻译一句话、回答一个事实问题。这些问题有明确的对错,要么能做要么不能做。做不了的等着技术进步,做得了的直接用。
但现在不一样了。AI agent 能做的是开放式、多步骤、需要判断力的任务:不只是"订一张机票",而是"帮我规划一次符合预算、偏好和体力状况的旅行";不只是"回一封邮件",而是"帮我处理这周所有不重要的沟通,重要的留给我";不只是"查一下怎么投资",而是"根据我的风险偏好和财务目标,帮我持续管理这个投资组合"。
当 AI 的能力跨越了"能不能"的门槛,问题就变成了一个全新的维度:"我愿不愿意?"
这不是一个工程问题,这是一个关于人的问题。关于信任、控制、成就感、意义感的问题。关于"我"和"我的 AI"之间关系的边界问题。关于当一个无所不能的 agent 站在你面前时,你心里那杆秤会怎么摆的问题。
论文的核心贡献是:把这个模糊的"愿不愿意"变成了可量化的数据。他们设计了 45 个具体场景,覆盖 9 个生活领域,问了 289 个真实的美国成年人:"这件事,你愿意让 AI 做到什么程度?"
📋 研究怎么做:289个人,45个场景,9个生活切片
这项研究的调查设计非常扎实。让我带你看看它是怎么构造的。
参与者: 289 名美国成年人,年龄跨度从 19 岁到 81 岁,涵盖了从 Z 世代到婴儿潮世代的完整光谱。52.6% 为女性,79.9% 为非西班牙裔白人,政治倾向大致均衡(50.5% 民主党,40.8% 共和党),教育水平从高中到研究生不等。所有参与者都有 AI 使用经验——不是那种"听说过 ChatGPT"的程度,而是真的用过。
场景设计: 45 个场景,覆盖 9 个生活领域:
- 家庭管理:清理和整理物品、创建和管理购物清单
- 职场:写报告、处理邮件
- 旅行:预订交通和住宿、规划行程
- 身体健康:安排健康预约、规划锻炼
- 心理健康与情感支持:在工作后帮助你处理负面情绪、应对社交焦虑
- 学习:语言学习、准备考试
- 创意工作:为创意项目产生新想法、编辑和改进作品
- 沟通:回复不重要的消息、翻译
- 个人理财:跟踪支出、规划储蓄
这些场景不是泛泛而谈的"你觉得 AI 怎么样",而是具体到:"想象你刚结束了一个特别累的工作日,感到情绪很低落。有一个 AI agent 可以检测你的情绪状态,主动提供放松练习或鼓励的话。你愿意让这个 AI 在多大程度上自主完成这件事?"
测量维度: 每个场景,参与者要回答的不只是"愿不愿意委托",还有一系列心理变量:
- 自动化偏好(核心因变量):从"完全不委托"到"完全委托",5 级量表
- 信任:对 AI 在该任务上可靠性的信心
- 协作需求:希望 AI 是独立工作还是在人的监督下工作
- AI 领导力:希望 AI 在决策中扮演多大角色
- 隐私担忧:对个人信息暴露的担忧程度
- 支付意愿:愿意为 AI 做这个任务付多少钱
- 感知成就感:自动化这个任务会不会减少个人成就感
- 人际后果:这个任务涉及多少人际互动
- 先验经验:以前有没有用 AI 做过类似任务
最终样本产生了 2,601 个"受访者 × 领域 × 场景"观测。2,601 个数据点,足以支持可靠的统计推断。
🔍 发现一:不是"愿不愿意",而是"哪件事"
如果让你猜:人们对 AI 的总体委托意愿是高还是低?
直觉上你可能会觉得"应该挺高的吧,AI 这么方便了"。或者你可能会觉得"应该挺低的,人们不信任 AI"。
两种直觉都不完全对。因为总体平均数掩盖了最重要的模式:不同领域之间的巨大差异。
研究发现,人们在沟通和旅行领域最愿意委托 AI,而在心理健康、身体健康和职场领域最不愿意。
这个模式很合理。想想看:
回复一封不太重要的邮件,如果 AI 写得不好,你大不了重写一篇——代价低、可逆、没有严重后果。订一张机票,AI 订错了你可以改签或退票——虽然有麻烦但不算灾难。
但如果 AI 帮你做心理健康疏导呢?搞砸了不是"重写"那么简单——一个错误的建议可能让你更加焦虑,或者在关键时刻错过了真正需要的帮助。同样,身体健康——你愿不愿意让一个 AI 自主决定你的锻炼强度和频率而不需要你确认?大概率不愿意,因为身体是自己的,搞坏了没有"撤销"按钮。
职场也一样。写一份报告,AI 初稿可以帮你省时间,但如果 AI 直接替你发了呢?万一内容有误或不符合你的立场,责任谁担?
委托意愿不是一个全局态度,而是一个任务级别的判断。 它取决于至少三个因素:出错的代价有多大、出错了能不能撤销、以及这件事对你有多重要。
这听起来像常识,但很多 AI 产品的设计假设恰恰相反——它们假设"用户要么信任 AI,要么不信任",然后给所有功能套同一个信任等级。这篇论文用数据告诉你:别这么做。信任是分领域的、分任务的、分场景的。
🔍 发现二:信任驱动委托,成就感阻止委托
这是论文最核心的统计发现。研究者用回归模型分析哪些因素预测了委托意愿,结果是:
正向预测因子(让你更愿意委托的):
- 信任:你越信任 AI 在该任务上的表现,越愿意委托。这个最强,没有之一。
- 希望 AI 领导:你希望 AI 在决策中扮演更大角色,越愿意委托。
- 有先前经验:你以前用 AI 做过类似的事,更放心交给它。
- 预期省钱:如果你觉得 AI 做这个能省钱,更愿意委托。
负向预测因子(让你更不愿意委托的):
- 担心成就感减少:如果你觉得自动化这个任务会让你失去"做事的满足感",你就不愿意交出去。这是最强的负向预测因子之一。
这个结果里,最值得关注的是最后一项:成就感。
效率最大化者可能会说:"如果 AI 做得又快又好,你自己做还有什么意义?这不是浪费时间吗?" 但人们不这么算。很多人在乎的不是"事情做完了",而是"这件事是我做的"。做饭不只是为了吃饱,画画不只是为了得到一张图,锻炼不只是为了健康数据——过程本身就是意义的一部分。
这个发现和心理学中"内在动机"(intrinsic motivation)的研究高度一致。Deci 和 Ryan 的自我决定理论早就指出:人类有自主感(autonomy)、胜任感(competence)和关联感(relatedness)三种基本心理需求。当 AI 完全替代你做一件事时,它同时剥夺了你的自主感("这是我的选择")和胜任感("我能做好这件事")——即使效率提高了,心理成本也悄然增加了。
这意味着,对于那些设计 AI 产品的人来说,"能不能做"不是唯一要考虑的因素。你还需要问:"用户自己做这件事时,在获得什么?如果我们把这件事自动化了,用户会失去什么?" 如果答案是"失去成就感和掌控感",那你需要认真考虑:这个自动化功能是真正帮助了用户,还是在悄悄削弱他们的幸福感?
🕵️ 发现三:隐私的"意外"缺席
这是论文中最让人意外的发现。
在预测委托意愿的所有因素中,隐私担忧在调整后与委托意愿没有独立关联。
也就是说,当你控制了信任、成就感、省钱等其他因素后,"我担心个人信息泄露"这件事本身并不能预测一个人是否愿意委托 AI 做事。
这可能是因为:在 2026 年,隐私已经不再是一个"差异化因素"——人们已经普遍假设使用数字服务就意味着放弃一定程度的隐私。用论文的话说,可能是一种**"隐私疲惫"或"隐私顺从"**——不是人们不在乎隐私,而是他们已经在心里把隐私当成使用任何数字服务的入场券。就像你进游泳池就得穿泳衣一样,你用 AI 就得给数据——这不是选择题,而是前提条件。
或者,另一种解释是:隐私担忧确实存在,但它被嵌入在其他更具体的判断里了。比如,你不信任 AI 处理你的健康数据——这里面可能既有隐私担忧,也有对 AI 能力的担忧,还有对健康后果严重性的担忧。当这些因素被分开测量后,隐私的独特贡献就变得不显著了。
还有一种可能是:隐私担忧是一种"背景噪音",而不是"决策变量"。 它让人们感到不安,但不一定会改变行为。你知道你的数据在被收集,你不喜欢,但你还是用了——因为不用的话代价更大。这是行为经济学中"隐私悖论"(privacy paradox)的经典表现。
无论哪种解释,这个结果都提醒设计者:不要假设"加强隐私保护"就能提高用户采用率。 用户可能不会因为你做了更好的隐私保护就更愿意用你的 AI agent,但他们会因为你赢得了信任而更愿意用。隐私是必要条件,但不是充分条件——它是一张入场券,不是卖点。
🗝️ 开放式回答揭示的"有边界的自主权"
统计数字之外,论文还有一个重要发现来自定性分析。研究者让参与者用自由文本解释他们为什么愿意或不愿意委托,然后对回答进行主题编码。这些自由回答中反复出现的模式,比任何统计数字都更能揭示人们内心真正的想法。
反复出现的模式是:人们不想完全交出控制权,但也不想完全自己动手。他们想要的是"有边界的自主权"。
具体来说,人们的偏好可以分成三种配置:
AI 执行 + 人监督。 这是最常见的模式。AI 做大部分执行工作,但人在关键节点检查、确认、或调整方向。比如:AI 帮你起草邮件,但你审一遍再发;AI 帮你做旅行规划,但你确认最终行程;AI 帮你整理房间,但你决定哪些东西扔、哪些留。
AI 协作 + 人主导。 AI 提供建议和信息支持,但决策权在人。比如:AI 帮你分析理财选项,但选哪个投资组合由你决定;AI 给你创意灵感,但最终作品由你创作;AI 帮你准备面试问题的答案,但怎么说是你的风格。
AI 全权执行 + 人保留否决权。 AI 完全自主地执行任务,但人有权在任何时候介入或撤销。比如:AI 自动回复不重要的邮件,但你随时可以查看和修改;AI 自动管理你的日程,但你保留覆盖权;AI 自动调节室温,但你可以随时手动调。
注意这三种模式的共同点:人始终在回路中(in the loop),只是参与程度不同。 没有人说"我把一切都交给 AI,我自己完全不管"。即使是那些最愿意委托的人,也希望保留某种形式的监督、确认或否决权。
一位参与者的回答特别能说明问题(大意):"我愿意让 AI 帮我做很多事,但前提是我在任何时候都能说'停'。不是因为我怀疑它的能力,而是因为这是我的选择,我的责任,我的生活。"
论文把这个发现重新概念化了"委托"(delegation)这个词。委托不是一个二元选择(全交/不交),而是一个关于执行、协作、领导和权威的配置。你是在调节一个连续的旋钮,而不是在切换一个开关。这个旋钮的刻度因人而异、因任务而异、甚至因时间而异——你今天可能愿意让 AI 全权处理邮件,但如果明天要发一封特别敏感的邮件,你肯定会把旋钮调回"手动"。
💬 一个耐人寻味的细节:沟通领域的矛盾
论文报告了一个有趣的矛盾:人们在沟通领域最愿意委托 AI(比如回复不重要的消息),但在开放式回答中,很多人又表达了对 AI 沟通"不像我"的担忧。
一位参与者写道(大意):"我知道 AI 能帮我回消息,但我担心它说得不像我。如果朋友发现是 AI 在跟他们聊天,那会很尴尬。而且,如果是重要的人发来的消息,即使 AI 能回,我也想自己回。"
这个矛盾揭示了委托决策中的一个深层张力:效率和真实性之间的拉锯。 人们想节省时间(效率动机),但也想保持人际互动的真实性(身份动机)。当这两个目标冲突时,不同人会做出不同选择——有人选择效率优先("不重要的人就让 AI 回吧"),有人选择真实性优先("即使是小事,我也想自己回"),还有人在两者之间摇摆不定。
这种摇摆本身就是一个重要信号:委托意愿不是静态的偏好,而是一个动态决策过程。 同一个用户,面对同一件事,在不同时间、不同心情、不同对象面前,可能会做出不同的选择。这意味着 AI agent 产品需要支持这种灵活性——不是让用户设置一次"委托级别"然后就不管了,而是允许他们在每次交互中实时调整。
🎯 对 AI 产品设计的启示
这些发现对正在设计 AI agent 产品的人有直接的操作性启示:
1. 信任是一切的前提。 这不是空话。数据清楚地表明,信任是最强的正向预测因子。建立信任的方式包括:透明的决策过程("我为什么这样建议")、可靠的表现记录("上次类似的事我处理对了")、以及在出错时的优雅降级("这次没做好,让我换一种方式")。信任是积累出来的,不是靠一个"我们很安全"的声明就能建立的。
2. 不要假设隐私保护能提高采用率。 虽然隐私仍然重要(出于伦理和法律原因),但数据不支持"更好的隐私 → 更多用户采用"这个因果链。把隐私当成底线(必须做好),而不是卖点(用来吸引用户)。
3. 把成就感当成设计约束。 如果你的 AI agent 自动化了一个用户从中获得满足感的任务,你实际上是在制造一种"损失"。好的设计应该考虑:能不能让 AI 和用户一起做,而不是完全替代用户做?能不能让用户在关键决策点保留"这是我的选择"的感觉?能不能让 AI 的角色更像"教练"(帮你做得更好)而不是"替代者"(替你做了)?
4. 提供"有边界的自主权"的配置选项。 不要给"全自动"和"全手动"两个极端选项,而是提供一个连续的控制光谱,让用户自己决定 AI 在哪些节点需要人类确认。更重要的是,这个光谱应该是可动态调整的——用户可以在任何时候把控制权调大或调小,而不需要重启系统或更改全局设置。
5. 分领域、分场景地设计信任机制。 用户在旅行领域的高信任,不代表他们在健康领域也会高信任。每个领域的委托决策有独立的逻辑——不同的风险、不同的情感投入、不同的出错代价。好的 AI agent 应该能感知这种领域差异,自动调整自己的行为模式。
🗺️ 局限
作者们列出了几个重要的局限:
-
仅美国样本。 文化背景对委托意愿的影响可能很大——集体主义文化和个人主义文化对"自动化"和"人际互动"的价值观可能截然不同。在美国样本中发现的"成就感效应",在其他文化中可能表现不同——比如在一些更看重集体效率的文化中,人们可能更愿意为了团队利益而放弃个人成就感。
-
假设性场景。 参与者回答的是"如果发生这种情况,你愿意委托吗",而不是面对真实的委托决策。意图和实际行为之间往往有差距——很多研究表明,人们说的和做的是两回事。在真实场景中,当 AI 真的站在你面前说"让我来做吧"的时候,你的答案可能会变。
-
横断面设计。 无法确定因果关系——是信任导致委托,还是委托经验建立信任?很可能两者都有,但这项研究无法分离。这意味着,如果你想通过"让用户先试试"来建立信任,这个策略是否有效,从这项研究中无法得知。
-
场景覆盖有限。 45 个场景虽然覆盖了 9 个领域,但无法穷尽所有日常任务类型。某些未被覆盖的领域(如育儿、宗教活动、政治参与)可能有非常不同的模式——这些领域往往涉及更深层价值观和身份认同,委托意愿可能更低。
💡 更深的思考:当"做"不再是必须的
这篇论文表面上是在问"人们愿意把什么交给 AI",但更深层的问法可能是:当 AI 能做所有事的时候,人类还需要做什么?
答案不是"什么都不做"。至少从这项研究的数据来看,人们本能地在区分:哪些事是"功能性的"(完成任务就好,谁做不重要),哪些是"构成性的"(做事的过程塑造了"我是谁",不能外包)。
你让 AI 帮你打扫房间,没问题——你不是一个"打扫卫生的人",你的身份不由扫地定义。但如果你让 AI 替你安慰伤心的朋友呢?替你写孩子的睡前故事呢?替你在深夜反思人生呢?这些事的"做",就是它们的意义本身。
这种区分让人想起古希腊的一个区分:poiesis(制作)和 praxis(行动)。制作是为了产出——谁做的、怎么做不重要,重要的是结果。行动本身就是目的——做这件事就是在过你的人生,它的价值不在结果而在过程。
也许,当 AI 越来越强大,人类的价值不会消失,但会浓缩——浓缩到那些"必须亲自做"的时刻。而这些时刻是什么,每个人心里都有自己的账本。AI 设计者需要尊重这个账本,而不是假装它不存在。
参考文献
Wheeler, S., Rammouz, V., Qian, Y., Liu, Z., Wei, M., Rios, A., He, T., & Zhou, K. (2026). What to Delegate, What to Preserve: Human Preferences for Agentic AI Across Everyday Life and Work. arXiv:2611.09730.
#每日论文 #论文精读 #人机协作 #AI委托 #用户信任 #隐私悖论 #智柴外脑
讨论回复
加载中...正在加载回复...
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。