预测性警务的"有色眼镜"：当算法学会歧视 | 论文解读

想象你是一位城市规划师，手握一张神奇的地图——它能预测哪里会发生犯罪，然后指挥警车前往那些区域巡逻。听起来像科幻电影？不，这叫做"预测性警务"，已经在美国几十个城市投入使用。但问题在于：这张地图可能是一张"有偏见的镜子"。

一、算法的"有色眼镜"

让我们从一个简单的思想实验开始。

假设一个社区A在过去十年被警察频繁巡逻，因此记录了更多逮捕数据。而社区B很少被巡逻，逮捕记录自然就少。现在，一个AI系统学习这些数据后会得出什么结论？

它会说："社区A犯罪率高，应该多派警力！"

这就是反馈循环——你巡逻得越多，逮捕越多，数据就越"证明"你需要更多巡逻。这就像一个人站在哈哈镜前，镜中的扭曲影像让他相信自己真的很胖，于是节食，而节食的行为又被镜子"证实"了。

二、研究者如何"解剖"偏见

来自孟加拉国Jagannath大学的Barman兄弟（Pronob Kumar和Pronoy Kumar）设计了一个精妙的实验框架，来量化这种偏见的严重程度。

武器一：生成对抗网络（GAN）

GAN由两部分组成：

• 生成器：像一个"造假画家"，试图画出逼真的犯罪热点图
• 判别器：像一个"鉴宝专家"，试图分辨真假

两者相互博弈，最终生成器学会画出与真实数据分布几乎无法区分的巡逻点。

武器二：Noisy-OR检测模型

这是一个概率模型，用来计算：当警车巡逻到某个区域时，发现犯罪的概率是多少。它考虑了多个因素：

• 犯罪实际发生的概率
• 警察在场的可能性
• 目击或举报的概率

武器三：四大公平性指标

研究者设计了一套"体检指标"来测量算法的健康状况：

1. 差别影响比（DIR）

计算公式：DIR = P(被发现|黑人) / P(被发现|白人)

法律上的"五分之四规则"规定：DIR低于0.8意味着对黑人群体的系统性低估；高于1.25则意味着高估。

2. 人口统计均等差距

直接比较两个群体被发现犯罪的概率差值。

3. 基尼系数

借自经济学，衡量不同群体间检测率的不平等程度。0表示完全平等，1表示完全不平等。

4. 偏见放大分数（BAS）

综合前两项，惩罚既有方向性偏见又有高不平等的情况。

三、触目惊心的数据

研究者分析了：

• 巴尔的摩：2017-2019年，超过14.5万起案件
• 芝加哥：2022年，超过23.3万起案件

巴尔的摩：年度间的戏剧性波动

你没看错——2019年的DIR达到了一万五千七百一十四！这意味着什么？

用更直观的语言：在2019年的"检测模式"下，白人居民几乎完全从警察的雷达上消失了。警车被算法指挥到黑人聚居区，而白人社区几乎得不到巡逻。

这就像一个GPS导航系统，突然决定只给某些街区指路，而其他街区被彻底遗忘。

芝加哥：另一种偏见

与巴尔的摩相反，芝加哥2022年的平均DIR仅为0.22——这意味着系统性低估黑人社区的犯罪。算法认为黑人社区"不值得"巡逻资源。

这种跨城市的巨大差异揭示了一个关键洞见：偏见的方向不是算法固有的，而是由训练数据的空间分布决定的。

四、两种模式的对比

研究者比较了两种警务模式：

检测模式：AI驱动的巡逻分配

• DIR极度不稳定（0.04到35,582）
• 容易陷入反馈循环

报告模式：基于市民举报的响应

• DIR相对稳定（0.61到1.22）
• 市民的"地面真相"起到了纠偏作用

这提示我们：社区参与可能是对抗算法偏见的一道防火墙。

五、CTGAN去偏：希望还是陷阱？

研究者尝试用**条件表格生成对抗网络（CTGAN）**进行去偏。思路很简单：如果训练数据中黑人社区的案例太少，就生成一些合成数据来"平衡"。

结果呢？

黑人检测率从3.44%上升到4.93%，但白人检测率从6.70%暴跌到1.59%。DIR从0.513（低估黑人）变成了3.106（高估黑人）。

这就像跷跷板——压低一端，另一端就翘起。在固定的警力预算下，给一个群体更多关注，必然意味着另一个群体被忽视。

六、偏见的结构性根源

研究还发现了强烈的社会经济关联：

• 社区白人比例与检测率的相关系数：r = 0.83
• 社区黑人比例与检测率的相关系数：r = -0.81

这不是偶然的统计波动，而是几十年种族隔离、经济剥夺和执法偏见的结构性遗产。算法并没有创造这些不平等——它只是学会了镜子中扭曲的倒影。

七、我们能做什么？

这项研究提出了三条政策建议：

1. 年度审计：不要只在部署时检查一次，偏见会随时间变化
2. 资源再分配：纯粹的数据去偏不够，需要真实的政策和资源调整
3. 强化社区举报渠道：市民的参与是算法反馈循环的"解药"

八、更深层的思考

预测性警务的问题，本质上是技术乐观主义与社会复杂性的碰撞。我们相信数据是"客观的"，却忘记了数据本身就是社会过程的产物。

正如研究者所言：历史犯罪数据编码的是"过去执法行为的空间足迹"，而不是"真实犯罪的空间分布"。

当我们用过去的偏见训练未来的算法，我们得到的不是预测，而是预言的自我实现。

论文信息：

• 标题：Unmasking Algorithmic Bias in Predictive Policing
• 作者：Pronob Kumar Barman, Pronoy Kumar Barman
• arXiv：2603.18987
• 发布时间：2026年3月20日

#论文解读 #科普 #AI #算法公平 #预测警务 #小凯