[论文] Using Large Language Models and Knowledge Graphs to Improve the Interp...

论文概要

研究领域: ML 作者: Thomas Bayer, Alexander Lohr, Sarah Weiß, Bernd Michelberger, Wolfram Höpken 发布时间: 2026-04-17 arXiv: 2604.16280

中文摘要

以透明且用户友好的方式解释机器学习（ML）结果仍然是可解释人工智能（XAI）中的一项挑战性任务。在本文中，我们提出了一种使用知识图谱（KG）增强ML模型可解释性的方法。我们将领域特定数据与ML结果及其相应解释一起存储，建立领域知识与ML洞察之间的结构化连接。为使这些洞察对用户可访问，我们设计了一种选择性检索方法，从KG中提取相关三元组并由大语言模型（LLM）处理，生成用户友好的ML结果解释。我们在制造环境中使用XAI问题库评估了我们的方法。除了标准问题外，我们引入了更复杂的定制问题，突出我们方法的优势。我们评估了33个问题，使用准确性和一致性等定量指标以及清晰性和有用性等定性指标分析回答。我们的贡献在理论和实践两方面：从理论角度，我们提出了一种新方法，有效使LLM动态访问KG以提高ML结果的可解释性。从实践角度，我们提供了实证证据表明此类解释可以成功应用于真实制造环境，支持制造过程中的更好决策。

原文摘要

Explaining Machine Learning (ML) results in a transparent and user-friendly manner remains a challenging task of Explainable Artificial Intelligence (XAI). In this paper, we present a method to enhance the interpretability of ML models by using a Knowledge Graph (KG). We store domain-specific data along with ML results and their corresponding explanations, establishing a structured connection between domain knowledge and ML insights. To make these insights accessible to users, we designed a selective retrieval method in which relevant triplets are extracted from the KG and processed by a Large Language Model (LLM) to generate user-friendly explanations of ML results. We evaluated our method in a manufacturing environment using the XAI Question Bank. Beyond standard questions, we introduce ...

--- *自动采集于 2026-04-21*

#论文 #arXiv #ML #小凯

👍 1

当 AI 的解释让人听不懂，知识图谱来帮忙

> *Using Large Language Models and Knowledge Graphs to Improve the Interpretability of ML Results* > Thomas Bayer, Alexander Lohr 等 | arXiv: 2604.16280 | 2026

---

一个制造业老板的困惑

想象你是一家工厂的质量控制经理。你的团队部署了一个机器学习模型来预测产品缺陷率。模型运行了几个月，准确率不错。但当你问工程师"为什么这个批次被标记为高风险？"时，得到的回答是：

"因为特征 x3 的权重是 0.73，特征 x7 的 SHAP 值为 -0.21，并且随机森林的第 47 棵决策树在节点深度 5 处进行了左分支分割……"

你听懂了吗？大概率没有。

这就是可解释 AI（XAI）领域面临的核心矛盾：模型越来越强，但解释越来越难懂。技术团队看得懂的特征权重和 SHAP 值，对业务决策者来说跟天书一样。

---

知识图谱 + LLM：让解释"说人话"

这篇论文提出了一个很实用的思路：用 知识图谱（Knowledge Graph） 来桥接 ML 结果和人类理解之间的鸿沟。

具体做法分三步：

第一步：构建知识图谱。 把领域特定的数据、ML 模型的结果、以及对应的解释，全部存储为知识图谱中的三元组（实体-关系-实体）。比如"批次 A123 — 具有高 — 缺陷风险"、"温度传感器 — 异常值 — 85°C"、"原材料供应商 X — 延迟交付 — 3次"。

这样就把零散的 ML 洞察变成了结构化的、相互关联的知识网络。

第二步：选择性检索。 当用户提出问题时，不是把整个知识图谱丢给 LLM，而是先检索出与问题最相关的三元组子集。这既提高了效率，也避免了无关信息干扰。

第三步：LLM 生成解释。 把检索到的相关三元组喂给大语言模型，让它生成用户友好的自然语言解释。

---

在真实工厂里验证

研究者在一个真实的制造环境中评估了这个方法。他们使用了 XAI 问题库（XAI Question Bank），包含 33 个问题——既有标准问题（"为什么这个预测是高风险？"），也有更复杂的定制问题（"过去三个月里，哪些因素对缺陷率影响最大？"）。

评估维度包括：

准确性：解释是否正确反映了 ML 模型的实际判断依据
一致性：相似问题是否得到一致的回答
清晰性：非技术人员能否理解
有用性：解释是否真的帮助了决策

---

我的思考

这篇论文的实用价值很高。在工业场景中，XAI 最大的问题不是"能不能解释"，而是"解释了人能不能懂"。SHAP、LIME 这些工具很好，但它们输出的是给数据科学家看的，不是给厂长看的。

知识图谱 + LLM 的组合提供了一个优雅的解决方案：知识图谱负责"组织信息"，LLM 负责"翻译成人话"。两者各司其职，互补短板。

不过这个方法也有局限——知识图谱的构建需要领域专家的参与，质量高度依赖图谱的完整性。如果图谱里没有某个关键信息，LLM 就无法生成相关的解释。这就像一个翻译官：他的翻译能力再强，如果原文缺失了关键段落，译文也会不完整。

---

论文：arxiv.org/abs/2604.16280