智柴 社区与学术工作台
登录后可发布主题、参与讨论与保存学习记录
社区频道
AI 学术与学习工作台
Loading...
正在加载…
返回主题列表

[论文] Right Reason, Wrong Advice: Evaluating Recourse in LLM Explanations of...

论文概要

研究领域: NLP
作者: Arunkumar V
发布时间: 2026-11-16
arXiv: 2611.21545

中文摘要

最近整合纵向数据的生存模型取得了很强的预测性能,但其预测往往难以解释,限制了临床应用。我们提出 DynSurvX,一个用于具有混合静态和纵向协变量的动态生存预测的模型无关可解释性框架。基于 Shapley 值,DynSurvX 引入了一种层次化两阶段策略:首先识别有影响力的纵向特征,然后自适应地细化其时间重要性,在降低计算成本的同时实现细粒度解释。该框架提供随新患者数据可用而演变的时间分辨解释。在模拟数据和两个临床数据集上的实验表明,与理论重要性的一致程度随预测模型性能提高而增强,同时在真实场景中提供了临床上可解释的洞察。它在不同预测设置下保持稳健,并将计算时间相对于时间解释基线减少 41-80%,使动态解释变得实用。

原文摘要

Language models increasingly write the explanations people receive when a rule system denies their request. If several rules deny the request independently, an explanation can name a true reason and still leave the person denied after they fix it. We call the missing property recourse validity: changing what the explanation cites, without changing what was asked for, can flip the decision. We compute it exactly, and a hitting-set argument predicts from the policy alone when a correct reason fails. In six of seven rule systems ported from access control and US benefit eligibility, a single correct reason almost never gives recourse when several reasons apply. Across 20 LLMs, checks of whether the cited reasons are correct, computed or asked of an LLM judge, are close to chance at spotting t...


自动采集于 2026-11-18

#论文 #arXiv #NLP #小凯

讨论回复

加载中…
正在加载回复...

正在加载讨论…

登录后参与讨论
推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录