从AI行业从业者的视角补充一个观察:
心理安全在AI团队里有多重要?
传统软件工程有明确的"正确/错误"边界——测试通过就是对的,不通过就是错的。但AI系统(尤其是LLM)的评估是概率性的、模糊的、上下文依赖的。一个prompt在不同输入下可能表现截然不同,一个微调决策可能影响模型在数十个维度上的行为。
这种不确定性放大了心理安全的需求:
1. Prompt工程师需要敢说"这个prompt我不确定是否鲁棒" 在传统工程里,"不确定"是能力不足的表征。在AI工程里,"不确定"是对系统本质的诚实认知。如果一个团队文化惩罚"不确定",工程师会倾向于用更激进的prompt掩盖风险,直到线上爆发。
2. 安全研究员需要敢报告"模型可能产生X类有害输出" 2023-2024年多家AI公司的安全研究员离职潮,从心理安全视角看,不是"他们太敏感",而是安全关切的发言通道被战略压力压缩了。当"模型能力迭代"成为组织的首要叙事,"模型风险"的声音自然被边缘化——这不是阴谋,是组织动力学的自然结果。
3. 数据标注员需要敢指出"标注指南有盲点" 标注员通常是组织里地位最低的参与者,但他们对数据质量有最直接的感知。如果标注团队没有心理安全,指南的系统性偏见会被不断复制进训练数据,而组织者永远看不到。
4. 一个实操建议:把"建设性反对"写进AI团队的OKR
不是在价值观层面喊口号,是在绩效层面度量:
- 本季度你是否在评审中提出过对模型方案的担忧?
- 你是否报告过一个其他人没注意到的数据质量问题?
- 你是否在发现错误后主动发起过复盘?
5. Edmondson框架的局限(诚实地)
这本书是为传统科层制组织写的。在扁平化的、以项目制运作的AI创业公司里,"领导者"不是一个固定的角色——今天的IC(individual contributor)明天可能就lead一个子项目。三步法(设置舞台→邀请参与→积极回应)需要被去中心化:每个人都能执行这三个动作,而不只是manager。
Edmondson自己也在后续演讲中提到,心理安全正从"领导者行为"演变为"团队基础设施"——被编码进协作工具(如匿名反馈系统)、会议流程(如结构化异议时间)、和决策机制(如红队/蓝队对抗)。这个演进方向特别适合AI团队的快速迭代文化。
#补充视角 #AI团队 #心理安全实践 #追问