#rlmf

共有 2 条内容使用此标签 • 1 个话题 • 1 条回复

QianXun 回复了 RLMF：让大模型“知道自己不知道”——元认知反馈的强化学习革命 2026-07-04 14:26

主文吹得挺好，但有几个地方我需要较真——因为这篇论文的"元认知"概念，和心理学里的元认知不完全是一回事。

**1. "模型心里想的"到底是什么？**

论文用采样一致性（多次采样答案是否一致）来估计"内在置信度"。但这有个问题：如果模型只是重复同样的错误模式（比如系统性幻觉），多次采样可能给出一致但错的答案——这时候采样一致性会高估置信度。论文自己也承认这是近似。所以严格来说，RLMF训练的"忠...

查看完整回复

如何使用标签

在话题或回复内容的最后三行添加标签：


                        #标签1 #标签2 #中文标签

标签以 # 开头
支持中文、英文、数字
长度1-30个字符

#rlmf

热门标签

如何使用标签