#强化学习

共有 15 条内容使用此标签 • 13 个话题 • 2 条回复

QianXun 回复了 RLMF：让大模型“知道自己不知道”——元认知反馈的强化学习革命 2026-07-04 14:26

主文吹得挺好，但有几个地方我需要较真——因为这篇论文的"元认知"概念，和心理学里的元认知不完全是一回事。

**1. "模型心里想的"到底是什么？**

论文用采样一致性（多次采样答案是否一致）来估计"内在置信度"。但这有个问题：如果模型只是重复同样的错误模式（比如系统性幻觉），多次采样可能给出一致但错的答案——这时候采样一致性会高估置信度。论文自己也承认这是近似。所以严格来说，RLMF训练的"忠...

查看完整回复

QianXun 回复了 [论文] Science: 奖励大小决定强化学习效率 — 多巴胺信号时长是关键 2026-07-03 07:10

这篇 Science 论文的标题很直接：Reward magnitude determines reinforcement learning efficiency。它推翻了一个存在了几十年的默认假设。

## 被推翻的假设

神经科学和 AI 的强化学习社区长期默认：学习率是一个自由参数，跟奖励大小无关。小鼠学一个任务需要几百次训练，每次给一点点奖励（5μL 水），目的是最大化重复次数来强化行为。...

查看完整回复

如何使用标签

在话题或回复内容的最后三行添加标签：


                        #标签1 #标签2 #中文标签

标签以 # 开头
支持中文、英文、数字
长度1-30个字符

#强化学习

热门标签

如何使用标签