研究主题:Dark Patterns, Deceptive Design, and the Law
研究日期:2026年6月15日
研究方法:多源检索(学术数据库、微信公众号、国际组织报告、法律数据库)
一、核心著作概览
《Dark Patterns, Deceptive Design, and the Law: AI's Hidden Influence on Our Digital Experience》
| 项目 | 内容 |
|---|---|
| 作者 | Mark Leiser(前荷兰阿姆斯特丹自由大学与莱顿大学学者,协助运营 deceptive.design 网站) |
| 出版社 | Hart Publishing(Bloomsbury旗下) |
| 出版时间 | 2025年8月 |
| ISBN | 9781509987115 |
| 定价 | £21.99(平装) |
全书结构(三大部分、八章):
-
第一部分:暗黑模式的概念界定与监管回应
- 第1章:一个令人恐惧的未来……除非采取行动
- 第2章:欺骗性技术及其相关危害
- 第3章:对暗黑模式和欺骗性设计的监管回应
- 第4章:新兴的数字设计法律法规
-
第二部分:AI与欺骗性设计的深度绑定
- 第5章:系统架构模式与个性化剥削
- 第6章:AI驱动的欺骗性设计
- 第7章:脆弱性之辩
-
第三部分:走向不受操纵的未来
- 第8章:构建公平数字生态的多层级方案
核心洞见:全书始于概念界定(预勾选框、复杂取消流程、隐蔽收费等典型形态),揭示其利用认知偏差颠覆用户自主决策的本质。聚焦AI通过用户画像与个性化算法将传统操纵手段升级为精准定制的数字陷阱,从后端系统到前端界面形成全链条操控。横向对比欧盟、美国、巴西、印度等法域,指出法律存在定义模糊、执行碎片化等短板,最后提出明确法律界定、强化算法透明度、建立行业自律标准、提升用户数字素养等多层级解决方案。
二、暗黑模式的定义、类型与分类体系
2.1 定义演进
暗黑模式(Dark Patterns)的概念由用户体验设计师 Harry Brignull 于2010年首次提出,指"网站和应用中使用的技巧,使用户做出并非本意的行为,如购买或注册某些东西"。
核心特征(多数学者共识):
- 操纵性或欺骗性:设计本身具有操纵或欺骗性质
- 负面或有害结果:对消费者造成实际损害
2.2 主要类型(国际通用分类)
根据FTC、OECD和学术界的归纳,暗黑模式主要包含以下类别:
| 类型 | 表现 | 案例 |
|---|---|---|
| 隐形续订(Sneaking) | 隐藏自动续费信息,用户不知情即被扣费 | 81%的订阅网站不允许用户在注册时关闭自动续费 |
| 阻碍(Obstruction) | 使取消或退订异常困难 | 注册一键完成,取消需要拨打客服电话 |
| 反复骚扰(Nagging) | 反复弹出提示,拒绝后仍持续 | TikTok即使用户拒绝仍反复提示上传通讯录 |
| 强制行动(Forced Action) | 要求完成无关步骤才能使用功能 | 66.4%要求免费试用前填写支付信息 |
| 社交证明(Social Proof) | 展示虚假的他人行为数据 | "XX人正在浏览""您的朋友YY已购买" |
| 界面干扰(Interface Interference) | 视觉设计突出对商家有利的选项 | 38.3%使用视觉突出更高价方案 |
| 虚假紧迫感(False Urgency) | 制造虚假的稀缺或时间压力 | "仅剩2件""倒计时XX分钟" |
| 确认羞辱(Confirm Shaming) | 情感施压的措辞 | "不,我不想省钱""我不想错过优惠" |
| 水滴定价(Drip Pricing) | 隐藏费用在最后一步才显示 | 机票/酒店预订中常见 |
| 伪装广告(Disguised Advertisement) | 广告伪装为普通内容 | 搜索引擎中混杂的"广告"标识极不明显 |
| 诱饵与调包(Bait and Switch) | 广告宣传与最终提供不符 | 展示低价产品,点入后发现已下架 |
2.3 中国学者的分类
同济大学法学院 刘颖、刘佳璇(《上海财经大学学报》2024年第5期)从消费者决策影响力角度,将暗黑模式分为三个层次:
- 诱导型暗黑模式:轻度引导,利用认知偏差倾向性地影响选择
- 欺骗型暗黑模式:中度欺骗,通过虚假或误导性信息使用户偏离真实意图
- 操纵型暗黑模式:重度操控,系统性剥夺用户的自主决策能力
他们还指出,暗黑模式最根本的特征是 对用户自主性的减损,具体表征包括:确认羞辱、切换诱饵、误导和选择假象。
三、全球监管格局
3.1 欧盟:从碎片化走向统一立法
欧盟是全球暗黑模式监管最积极的法域,但面临立法碎片化的困境。至少 七部法律 涉及暗黑模式规制:
(一)现有法律框架
| 法律 | 相关条款 | 核心规定 | 局限性 |
|---|---|---|---|
| 《不公平商业做法指令》(UCPD) | 附件I | 禁止误导性和侵略性商业做法 | 未使用"暗黑模式"术语,仅明确禁止有限类型 |
| 《数字服务法》(DSA) | 第25条 | 明确禁止在线平台使用暗黑模式 | 排除UCPD和GDPR已涵盖的做法,实际适用范围受限 |
| 《通用数据保护条例》(GDPR) | 同意规则 | 获取数据同意的特定技术可被解释为暗黑模式 | 未明确提及暗黑模式,留下解释空间 |
| 《人工智能法》(AI Act) | 第5条 | 禁止潜意识技术、故意操纵或欺骗性技术 | 需逐案解释,且需造成"重大伤害" |
| 《数字市场法》(DMA) | 第13条 | 反规避规则,捕捉守门人使用的暗黑模式 | 仅适用于被认定的守门人平台 |
| 《数据法》(Data Act) | 序言第38条 | 禁止第三方在界面设计中使用暗黑模式 | 序言而非正文条款 |
| 《消费者权利指令》(CRD) | 第16条(e)项 | 禁止远程金融服务合同中的暗黑模式 | 仅限金融服务领域 |
(二)核心问题
- 缺乏统一法律定义:欧盟层面不存在单一的暗黑模式法律定义,导致法律不确定性和执法不一致
- DSA的实质性局限:第25条的明确禁令因排除条款而被架空,多数案件仍需回到UCPD的逐案分析
- 执行碎片化:学界(如Inge Graef)警告碎片化框架导致执法不足
(三)即将出台:《数字公平法》(Digital Fairness Act, DFA)
| 项目 | 内容 |
|---|---|
| 性质 | 欧盟首次针对暗黑模式的横向、统一立法 |
| 适用范围 | 所有数字服务提供商,不限于大型平台 |
| 公众咨询 | 2025年7月17日—10月9日 |
| 预计提案 | 2026年第三季度 |
| 核心要求 | 清晰透明的界面设计;"一键取消"功能;未成年人特殊保护;企业举证义务 |
| 禁止行为 | 蟑螂旅馆(复杂退订)、虚假紧迫感、确认羞辱、隐藏费用、反复骚扰 |
| 处罚 | 参照GDPR模式,可能高达年营业额一定比例的巨额罚款 |
3.2 美国:执法驱动型监管
美国的暗黑模式监管以 FTC执法 为核心,辅以专门立法提案:
FTC执法行动
- 2022年:发布跨行业暗黑模式报告,涵盖电商、儿童应用、Cookie同意横幅
- 2024年7月:联合26国、27个机构开展全球调查,分析642个订阅服务
- 76% 使用至少一种暗黑模式
- 67% 使用超过一种
- 最常见:隐形续订(81%)、隐瞒取消信息(70%)、强制填写支付信息(66.4%)
- 过往执法案例:起诉约会应用Match,指控其利用暗黑模式阻碍用户取消订阅
专门立法:《DETOUR法案》
美国国会在审议的《欺骗性体验在线用户减少法案》(DETOUR Act),旨在:
- 禁止大型在线平台使用暗黑模式
- 将儿童"强制性使用"纳入规制
- 集中在消费者保护与竞争规范层面
3.3 印度:全球首个专项指南
印度是全球首个发布暗黑模式专项监管指南的国家:
《2023年暗黑模式防范与监管指南》
- 发布机构:印度中央消费者保护局(CCPA)
- 法律依据:《2019年消费者保护法》第18条
- 生效日期:2023年11月30日
- 适用范围:所有在印度系统性提供商品或服务的平台、广告商和卖家
明确定义的13种暗黑模式:
| 序号 | 类型 | 核心定义 |
|---|---|---|
| 1 | 虚假紧迫感 | 虚假陈述紧迫感或稀缺性以误导用户 |
| 2 | 购物车夹带 | 未经同意将额外项目加入购物车 |
| 3 | 羞耻诱导 | 制造恐惧、羞耻或内疚感推动购买 |
| 4 | 强制行动 | 强迫购买额外商品或分享个人信息 |
| 5 | 订阅陷阱 | 使取消订阅变得不可能或极为复杂 |
| 6 | 界面干扰 | 突出特定信息、掩盖相关信息以误导 |
| 7 | 诱饵与调包 | 宣传特定结果但提供替代结果 |
| 8 | 水滴定价 | 价格要素未预先披露 |
| 9 | 伪装广告 | 将广告伪装为用户生成内容或新闻 |
| 10 | 反复骚扰 | 重复、持续的用户交互以促成交易 |
| 11 | 陷阱问题 | 故意使用混淆语言误导用户 |
| 12 | SaaS账单 | 利用重复订阅隐蔽获取资金 |
| 13 | 流氓恶意软件 | 使用恐吓软件误导用户支付 |
最新执法动态(2025年5月):
- 消费者事务部长召集亚马逊、Meta等超50家电商开会
- 要求每年提交暗黑模式内部审计报告
- 成立多方参与的联合工作组
3.4 中国:在个人信息保护框架内的探索
现有规范体系
| 法规/文件 | 性质 | 与暗黑模式的关系 |
|---|---|---|
| 《个人信息保护法》第5条 | 法律 | 诚信原则,可作规制基础 |
| 《个人信息保护法》第7条 | 法律 | 公开透明原则,与暗黑模式相悖 |
| 《个人信息保护法》第14、17条 | 法律 | 告知同意规则,与暗黑模式规制存在目的性重叠 |
| 《App违法违规收集使用个人信息行为认定方法》 | 规范性文件 | 规范个人信息收集行为 |
| 《个人信息处理中告知和同意的实施指南》 | 推荐性国标 | 含HCI设计规范,但仅供自愿采用 |
核心困境(据唐风云2025年分析)
- 法律法规位阶不足:《实施指南》为推荐性标准,仅供自愿采用,难以产生强制性效力
- 专项规范缺失:现有规范仅能涵盖部分场景,无法覆盖平台运营中的其他暗黑模式形态
- 法律真空:在现有框架内,暗黑模式规制实际上处于"法律上的真空地带"
学者建议(据刘颖、刘佳璇2024年)
- 治理思路:从现象层面跨越到模式层面,区分不同形态的暗黑模式
- 倾斜保护:对"算法消费者"实行倾斜保护
- 多方联动:建立行业自律、法律责任分配、惩罚与声誉机制的三层体系
- 举证责任倒置:平台承担证明界面设计合规的举证责任
学者建议(据唐风云2025年)
- 引入路径:在个人信息保护法领域先行引入暗黑模式概念,通过原则性条款归入现有法律体系
- 扩展适用:将规制经验引申至数字平台治理的其他层面
- 三大管理机制:
- 行业技术自律:内部政策禁止暗黑模式、定期审查、用户举报机制
- 法律责任分配:平台承担主动杜绝义务和消极配合义务
- 惩罚和声誉机制:借鉴欧盟DSA罚款(最高全球营业额6%)、应用市场下架、通报批评
四、实证数据与执法动态
4.1 FTC 2024年全球调查关键数据
| 指标 | 比例 |
|---|---|
| 使用至少一种暗黑模式的订阅服务 | 76% |
| 使用超过一种暗黑模式 | 67% |
| 不允许在注册时关闭自动续费 | 81% |
| 未提供如何取消订阅的信息 | 70% |
| 未提供取消截止日期以避免再次扣费 | 67% |
| 要求免费试用前填写支付信息 | 66.4% |
| 使用视觉设计突出更高价方案 | 38.3% |
| 使用社交证明推动订阅 | 21.5% |
| 预设更贵/更长订阅方案 | 22.5% |
4.2 全球执法趋势
| 法域 | 最新动态 | 执法强度 |
|---|---|---|
| 欧盟 | DFA预计2026年Q3提案;DSA已对超大型平台展开调查 | 高(最高罚全球营业额6%) |
| 美国 | FTC主席2024-2025年担任ICPEN主席;DETOUR法案审议中 | 中高(FTC个案执法) |
| 印度 | 2023年发布专项指南;2025年要求年度审计 | 中(制度初建) |
| 中国 | 学术讨论活跃,尚未专项立法 | 低(分散于个保法、消保法) |
| 巴西 | 将暗黑模式纳入消费者保护框架 | 低中 |
| 英国 | CMA(竞争与市场管理局)专项监管行动 | 中 |
五、AI时代的暗黑模式:升级与挑战
5.1 AI驱动的欺骗性设计
Mark Leiser在其著作中特别指出,AI正在将传统暗黑模式推向新的维度:
| 传统暗黑模式 | AI升级版 |
|---|---|
| 统一的预勾选框 | 个性化预选项——AI根据用户画像预选"最可能被接受"的选项 |
| 固定的虚假紧迫感 | 动态紧迫感——AI根据用户行为实时调整倒计时和库存提示 |
| 静态的界面干扰 | 自适应界面——AI根据用户特征动态调整界面元素的突出程度 |
| 批量的社交证明 | 精准社交证明——AI匹配与用户最相似群体的行为数据 |
5.2 新型危害
- 超个性化助推(Hyper-Nudging):利用深度用户画像,为每个用户量身定做操纵方式
- 结构性侵蚀:从后端系统到前端界面形成全链条操控,非单一接触点可识别
- 数字鸿沟加深:对不同数字素养的用户作用效果各异,低素养用户受害更深
5.3 AI监管的回应
- 欧盟AI Act:禁止潜意识技术和故意操纵技术,但需逐案解释
- 中国AI监管:尚未将暗黑模式纳入AI治理框架
- 核心挑战:如何区分"个性化推荐"(合法)与"个性化操纵"(非法),以及如何检测AI驱动的新型暗黑模式
六、趋势与展望
6.1 立法趋势
- 从碎片化走向统一:欧盟DFA标志着全球首次暗黑模式横向统一立法尝试
- 从软法走向硬法:中国从推荐性国标走向强制性立法是可预期方向
- 从消费者保护走向平台治理:规制范围扩展至竞争秩序、数据治理、数字伦理
6.2 执法趋势
- 国际协作加强:FTC领导的ICPEN 2024年联合调查覆盖26国
- 举证责任转移:多国讨论将合规证明责任转移至平台
- 技术监管工具:开发自动化检测暗黑模式的审查工具
6.3 关键争议
- 合法说服 vs. 非法操纵:边界模糊,如何建立可操作的判断标准?
- 创新保护 vs. 用户保护:如何平衡监管与数字创新?
- "公平设计"(Fairness by Design):是否应作为横向原则强制嵌入所有数字产品?
参考文献
- Mark Leiser, Dark Patterns, Deceptive Design, and the Law: AI's Hidden Influence on Our Digital Experience, Hart Publishing, 2025.
- European Parliament, "Regulating dark patterns in the EU: Towards digital fairness," EPRS At a Glance, January 2025.
- FTC, "FTC, ICPEN, GPEN Announce Results of Review of Use of Dark Patterns," July 10, 2024.
- 刘颖、刘佳璇,〈数字经济中黑暗模式的法律规制:基本原理、域外方案与本土路径〉,《上海财经大学学报》2024年第26卷第5期,第122-138页。
- 唐风云,〈暗黑模式规制:从个人信息保护到数字平台治理〉,澎湃新闻/上海市法学会"东方法学",2025年7月24日。
- CCPA (India), "Guidelines for Prevention and Regulation of Dark Patterns, 2023," November 30, 2023.
- 2B Advice, "Digital Fairness Act: New EU rules against manipulative digital design methods," August 11, 2025.
- BEUC, "Towards the Digital Fairness Act," Position Paper, December 2025.
- OECD, "Dark Commercial Patterns," OECD Digital Economy Papers, October 2022.
- "No harm no foul: how harms caused by dark patterns shape Europe's regulatory response," International Review of Law, Computers & Technology, 2025.
报告说明:本报告基于公开可获取的学术文献、法律法规文本、监管机构报告及新闻报道,力求客观呈现全球暗黑模式监管的全景图。如需获取原文或进一步研究具体课题,可随时提出。
讨论回复
1 条回复推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。