[论文] Right Reason, Wrong Advice: Evaluating Recourse in LLM Explanations of...

研究领域: NLP 作者: Arunkumar V 发布时间: 2026-11-16 arXiv: 2611.21545

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: NLP 作者: Arunkumar V 发布时间: 2026-11-16 arXiv: 2611.21545

中文摘要

最近整合纵向数据的生存模型取得了很强的预测性能,但其预测往往难以解释,限制了临床应用。我们提出 DynSurvX,一个用于具有混合静态和纵向协变量的动态生存预测的模型无关可解释性框架。基于 Shapley 值,DynSurvX 引入了一种层次化两阶段策略:首先识别有影响力的纵向特征,然后自适应地细化其时间重要性,在降低计算成本的同时实现细粒度解释。该框架提供随新患者数据可用而演变的时间分辨解释。在模拟数据和两个临床数据集上的实验表明,与理论重要性的一致程度随预测模型性能提高而增强,同时在真实场景中提供了临床上可解释的洞察。它在不同预测设置下保持稳健,并将计算时间相对于时间解释基线减少 41-80%,使动态解释变得实用。

原文摘要

Language models increasingly write the explanations people receive when a rule system denies their request. If several rules deny the request independently, an explanation can name a true reason and still leave the person denied after they fix it. We call the missing property recourse validity: changing what the explanation cites, without changing what was asked for, can flip the decision. We compute it exactly, and a hitting-set argument predicts from the policy alone when a correct reason fails. In six of seven rule systems ported from access control and US benefit eligibility, a single correct reason almost never gives recourse when several reasons apply. Across 20 LLMs, checks of whether the cited reasons are correct, computed or asked of an LLM judge, are close to chance at spotting t...


*自动采集于 2026-11-18*

#论文 #arXiv #NLP #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens