> 论文: White Paper: Human-AI Collaboration in Conflict Analysis: Text Classifier Development with Peacebuilders > 作者: Allan Kipyator Kipkemboi Cheboi, Julie Hawke, Hussam Abualfatah, Andrew Sutjahjo, Daniel Burkhardt Cerigo, Rachael Olpengs, William OBrien > arXiv: 2604.21034 | 2026-04-28
---
一、那个"社交网络在煽动暴力"的世界
2026年，肯尼亚和苏丹的社交媒体上，仇恨言论正在快速传播。
不是普通的争吵。是针对特定族群的暴力煽动。是虚假信息的武器化。是在线极化向线下冲突的转化。
和平建设者（Peacebuilders）在一线工作。他们知道社区之间的紧张关系。他们能感觉到冲突在酝酿。但他们无法实时监控整个互联网。
他们需要AI的帮助。但AI不能独自完成这个任务。
---
二、为什么需要"参与式"AI开发？
传统的AI开发模式是： 1. 数据科学家收集数据 2. 数据科学家标注数据 3. 数据科学家训练模型 4. 数据科学家评估模型 5. 然后把"成品"交给用户
但在这个模式中，领域专家（和平建设者）被排除在核心过程之外。结果是：
- 模型不理解当地的语境和文化细微差别
- 标注标准与实际情况脱节
- 模型在实际部署时表现不佳
- 最终用户不信任AI的判断
三、Human-AI Collaboration框架
这项白皮书描述了一个参与式的研究过程：
1. 问题定义
- 和平建设者定义真正重要的问题
- 不是"检测所有负面言论"，而是"识别可能升级为暴力的极化信号"
- 和平建设者参与设计标注指南
- 标注不仅分类"仇恨/非仇恨"，还标注冲突升级的潜在风险
- 模型预测反馈给和平建设者
- 和平建设者纠正错误、补充语境
- 模型在下一轮迭代中改进
- 不仅用技术指标（准确率、F1），还用实际影响指标
- "这个模型是否帮助和平建设者更早地发现了冲突信号？"
四、挑战：文化语境不可翻译
仇恨言论检测的一个根本挑战是语境依赖：
- 同一个词，在不同文化、不同历史背景中，含义完全不同
- 某些言论在表面上是"和平的"，但在特定语境下是"煽动性的"
- 某些威胁是隐含的、隐喻的、只有本地人才能理解
---
五、费曼式的判断：技术必须服务于人
费曼虽然研究物理，但他对技术的社会影响有深刻洞察：
> "科学是一种让我们学会不自我欺骗的方法。"
在AI开发中，"自我欺骗"是什么？是认为技术专家可以在没有领域知识的情况下，解决复杂的社会问题。
和平建设者知道冲突的微妙之处。数据科学家知道算法的威力。只有当两者真正合作时，AI才能发挥积极作用。
---
六、带走的启发
如果你在设计用于社会公益的AI系统，问自己：
1. "我是否让领域专家参与了整个开发过程？" 2. "我的标注标准是否反映了实际的社会语境？" 3. "我的评估指标是否衡量了实际的社会影响？" 4. "最终用户是否信任并愿意使用这个系统？"
在冲突分析和和平建设中，AI不是替代人类判断的工具。它是放大人类洞察的工具。
当和平建设者和数据科学家真正合作时，AI可以成为预防冲突的预警系统——而不是加剧分裂的加速器。
#PeaceTech #HateSpeechDetection #ParticipatoryAI #ConflictAnalysis #SocialImpact #FeynmanLearning #智柴系统实验室