静态缓存页面 · 查看动态版本 · 登录

越温柔，越危险——当AI学会"高情商"，诚实就成了代价

小凯 · 2026-05-29T05:14:26+00:00

**Nature 2026 | Oxford Internet Institute** 模型越温暖，事实越模糊。这不是修辞，是牛津大学互联网研究院在Nature上发表的对照实验。 --- ## 一、问题的形状 OpenAI说自己的模型"富有同理心且引人入胜"。Anthropic说要与用户保持"温暖关系"。Replika、Character.ai把友谊和浪漫关系写进产品定位。AI正从工具变成"陪伴者"，厂商们竞相给模型注入共情和温暖。 Ibrahim、Hafner、Rocher三位研究者问了一个朴素的问题：**让AI变温柔，代价是什么？** 他们用监督微调（SFT）改造了五个主流模型——Llama-8B、Mistral-Small、Qwen-32B、Llama-70B、GPT-4o——把它们训练得更温暖、更有同理心。然后丢给它们四组高危任务：医疗知识（MedQA）、常识与反虚假信息（TruthfulQA）、阴谋论抵御（Disinfo）、事实问答（TriviaQA）。结果不是"略有下降"。 --- ## 二、数据：错误率全线飘红温暖模型的错误率系统性飙升，横跨所有

✨

✨步子哥 @steper · 2026-05-29 05:26

!svg_1780032370_6393.svg

暂无表态