ReviewRobot: Explainable Paper Review Generation based on Knowledge Synthesis
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；DiDi Labs（滴滴实验室）；Salesforce Research（赛富时研究院）
本文提出 ReviewRobot，通过构建并比较目标论文、相关工作与背景知识图谱生成评分、证据和模板化评论，实现可解释的论文评审辅助。
2020-12-03 cs.AI cs.CL
Towards Explainable Job Title Matching: Leveraging Semantic Textual Relatedness and Knowledge Graphs
ADAPT Centre, Munster Technological University, Cork, Ireland（ADAPT中心，穆斯林科技学院，科克，爱尔兰）
本研究提出结合密集嵌入与知识图谱的自监督混合架构，通过分层评估语义文本相关性，在职位匹配中实现可解释性并降低高相关区域RMSE达25%。
2025-09-11 cs.AI cs.CL
Who is this Explanation for? Human Intelligence and Knowledge Graphs for eXplainable AI
Cefriel（切夫里尔）；Politecnico di Milano（米兰理工大学）
可解释的AI专注于为AI算法的输出向用户（通常是决策者）生成解释。这样的用户需要解释人工智能系统，以决定是否信任机器的结果。因此，在应对这一挑战时，应适当注意提供目标用户群体可以理解的解释。在本章中，我们主张需要更好地研究什么构成了人类的解释，即人类决策者可以解释和行动的机器行为的正当性。特别是，我们专注于人类智能可以为可解释的AI带来的贡献，特别是与知识图谱的开发相结合。事实上，我们呼吁知识表示与推理、社会科学、人类计算和人机合作研究之间更好地相互作用--正如其他人工智能分支已经探索的那样--以便通过采用人在回路方法来支持可解释人工智能的目标。
2020-05-27 cs.AI cs.HC
Fairness-Aware Explainable Recommendation over Knowledge Graphs
Rutgers University（罗格斯大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Washington（华盛顿大学）
最近，人们越来越关注公平性的考虑，特别是在智能决策系统的背景下。特别是可解释的推荐系统，可能会受到解释偏差和性能差异的影响。在本文中，我们分析了不同群体的用户，根据他们的活动水平，发现不同群体之间的推荐性能存在偏见。我们表明，不活跃的用户可能更容易收到不满意的建议，由于不活跃的用户的训练数据不足，他们的建议可能会有偏见的培训记录更活跃的用户，由于协同过滤的性质，这导致系统的不公平待遇。我们提出了一个公平性约束的方法，通过启发式重新排名，以减轻这种不公平的问题，在知识图谱的背景下，可解释的建议。我们在几个真实世界的数据集上进行实验，使用最先进的基于知识图谱的可解释推荐算法。实验结果表明，该算法不仅能够提供高质量的可解释推荐，而且在多个方面降低了推荐的不公平性。
2020-06-28 cs.AI cs.IR cs.SI
XAI4Wind: A Multimodal Knowledge Graph Database for Explainable Decision Support in Operations & Maintenance of Wind Turbines
University of Hull（赫尔大学）
基于状态的监测（CBM）已广泛用于风力发电行业，用于监测涡轮机的运行不一致性和故障，其技术范围从信号处理和振动分析到使用监控与采集（SCADA）数据的人工智能（AI）模型。然而，现有的研究并没有提出一个具体的基础，以促进可解释的决策支持在操作和维护（O&M），特别是自动化的决策支持，通过建议相应的维修行动报告故障预测的CBM技术。知识图谱数据库（KG）对特定领域信息的集合进行建模，并在医疗保健和金融等领域的现实决策支持中发挥了内在作用，但在风能行业中受到的关注非常有限。我们提出了XAI4Wind，一个多模态知识图谱，用于在现实世界的运行涡轮机中提供可解释的决策支持，并通过实验展示了所提出的KG的几个用例，通过交互式查询和推理进行O&M规划，并使用图形数据科学算法提供新的见解。建议KG结合了多模态知识，如SCADA参数和报警与自然语言维护动作，图像等，通过将我们的KG与异常预测的可解释人工智能模型相结合，我们表明，它可以提供有效的人类可理解的O&M策略，用于预测各种涡轮机子组件的操作不一致性。这有助于在传统的黑盒AI模型中注入更好的信任和信心。我们公开我们的KG，并设想它可以作为风电行业提供自主决策支持的基础。
2021-02-24 cs.AI
Explainable Representations for Relation Prediction in Knowledge Graphs
LASIGE, Faculdade de Ciências（理学院LASIGE实验室）；Universidade de Lisboa（里斯本大学）
SEEK通过识别实体间共享语义子图并学习其表示，为知识图谱关系预测提供可解释的多方面表示，在蛋白质相互作用和基因-疾病关联预测中显著优于标准方法。
2023-06-22 cs.AI cs.LG
Graphing else matters: exploiting aspect opinions and ratings in explainable graph-based recommendations
Universidad Autónoma de Madrid（马德里自治大学）；Pontificia Universidad Católica de Chile（智利天主教大学）
神经网络嵌入的成功引发了人们对使用知识图谱进行各种机器学习和信息检索任务的新兴趣。特别是，目前基于图嵌入的推荐方法已经显示出最先进的性能。这些方法通常对潜在的评级模式和内容特征进行编码。与以往的工作不同，在本文中，我们建议利用从图中提取的嵌入，结合文本评论中表达的评级和基于方面的意见的信息。然后，我们适应和评估国家的最先进的图形嵌入技术，从亚马逊和Yelp评论六个域生成的图形，优于基线嵌入器。我们的方法的优点是提供的解释，利用基于方面的意见，由用户推荐的项目。此外，我们还提供了利用方面意见作为可视化仪表板中的解释的建议的适用性的示例，该仪表板允许获得关于从输入图的嵌入中获得的类似用户的最喜欢和最不喜欢的方面的信息。
2022-07-28 cs.AI cs.IR cs.LG
JobMatchAI-An Intelligent Job Matching Platform Using Knowledge Graphs, Semantic Search and Explainable AI
Arizona State University（亚利桑那州立大学）
本文提出JobMatchAI平台，整合Transformer嵌入、技能知识图谱和可解释重排序技术，优化技能匹配、经验、地点、薪资和公司偏好，提供 resume 驱动的搜索工作流解释，发布JobSearch-XS基准和混合检索栈评估技能泛化能力。
2026-07-29 cs.AI
KGxBoard: Explainable and Interactive Leaderboard for Evaluation of Knowledge Graph Completion Models
NEC Laboratories America（NEC美国实验室）；University of Mannheim（曼海姆大学）；NEC Laboratories Europe（NEC欧洲实验室）；Carnegie Mellon University（卡内基梅隆大学）；Inspired Cognition（Inspired Cognition公司）
知识图谱（KG）以（头、谓词、尾）三元组的形式存储信息。为了用新知识来增强KG，研究人员提出了KG完成（KGC）任务的模型，如链接预测;即，回答（h; p;？）或（？; p; t）查询。这样的模型通常是在一个测试集上用平均度量进行评估的。虽然对跟踪进度很有用，但平均单分指标无法揭示模型到底学到了什么，或者没有学到什么。为了解决这个问题，我们提出KGxBoard：一个交互式框架，用于对有意义的数据子集进行细粒度评估，每个子集都测试KGC模型的个人和可解释能力。在我们的实验中，我们强调了我们使用KGxBoard发现的发现，这是不可能用标准平均单分指标检测到的。
2022-08-23 cs.AI
TLogic: Temporal Logical Rules for Explainable Link Forecasting on Temporal Knowledge Graphs
Siemens AG（西门子股份公司）；Ludwig Maximilian University of Munich（慕尼黑大学）
传统的静态知识图谱将关系数据中的实体建模为节点，由特定关系类型的边连接。然而，信息和知识不断演变，出现了时间动态，预计会影响未来的局势。在时间知识图谱中，通过为每条边配备时间戳或时间范围来将时间信息集成到图中。基于嵌入的方法已经被引入到时态知识图谱的链接预测中，但是它们大多缺乏可解释性和可理解的推理链。特别是，它们通常不被设计为处理链路预测-涉及未来时间戳的事件预测。我们解决的任务，时间知识图谱的链接预测，并介绍TLogic，一个可解释的框架，是基于时间的逻辑规则提取通过时间随机游走。我们将TLogic与三个基准数据集上的最新基线进行了比较，并显示出更好的整体性能，同时我们的方法还提供了保持时间一致性的解释。此外，与大多数最先进的基于嵌入的方法相比，TLogic在归纳设置中工作得很好，其中已经学习的规则被转移到具有公共词汇表的相关数据集。
2022-03-09 cs.AI cs.LG
Scalable and Explainable Enterprise Knowledge Discovery Using Graph-Centric Hybrid Retrieval
Persistent Systems
针对企业异构系统中复杂查询检索困难的问题，提出集成KBLam、DeepGraph和语义搜索的模块化混合检索框架，构建统一知识图谱支持多跳推理，实验显示答案相关性较GPT基线提升达80%。
2025-10-13 cs.AI cs.DB
Semantics of the Black-Box: Can knowledge graphs help make deep learning systems more interpretable and explainable?
University of South Carolina（南卡罗来纳大学）；Embibe
最近在深度学习（DL）方面的一系列创新已经显示出对个人和社会产生积极和消极影响的巨大潜力。在计算机视觉、自然语言处理、信号处理和人机交互等技术领域日益困难、定义明确的研究任务上，利用大规模计算能力和庞大数据集的DL模型的表现明显优于先前的历史基准。然而，DL模型的黑盒性质及其对大量数据的过度依赖浓缩成标签和密集表示，对系统的可解释性和可解释性提出了挑战。此外，数字学习者还没有被证明有能力有效地利用对人类理解至关重要的相关领域知识和经验。这方面在早期以数据为中心的方法中是缺失的，需要知识注入学习和其他策略来整合计算知识。本文演示了如何知识，提供了一个知识图谱，被纳入DL方法使用知识注入学习，这是一个战略。然后，我们讨论这如何在当前方法的可解释性和可解释性方面产生根本性差异，并通过医疗保健和教育应用的自然语言处理示例来说明这一点。
2020-12-11 cs.AI
RACER: Reinforced Agent Collaboration for Explainable Reasoning on Knowledge Graphs
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；Chinaunicom Software Nanjing Branch（中国联通软件南京分公司）
RACER是面向知识图谱可解释推理的强化智能体协作框架，通过多智能体协作等技术解决LLM的幻觉与复杂推理难题，在两个数据集上平均提升5%性能。
2026-09-01 cs.AI
Knowledge Graphs and Explainable AI as Complementary Resources for Urban Mining
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
研究城市采矿中拆除前评估，基于信息系统资源传统，提出知识图谱与可解释人工智能的四种整合模式，解锁决策可辩护性属性，以满足拆除前评估对监管工件的需求，通过防火门示例说明模式。
2026-07-13 cs.AI
Explainable Biomedical Recommendations via Reinforcement Learning Reasoning on Knowledge Graphs
AstraZeneca（阿斯利康）
为了让人工智能在生物学和医学领域产生更大的影响，建议的准确性和透明度至关重要。在其他领域，神经符号方法的多跳推理的知识图谱已被证明产生透明的解释。然而，缺乏将其应用于复杂生物医学数据集和问题的研究。在本文中，探索药物发现的方法，得出坚实的结论，其适用性。我们第一次系统地将其应用于多个生物医学数据集和推荐任务，并进行了公平的基准比较。研究发现，该方法平均比最佳基线高出21.7%，同时产生了新颖的生物学相关解释。
2022-10-07 cs.AI cs.LG cs.SI
On the Relationship Between KR Approaches for Explainable Planning
Washington University in St. Louis（圣路易斯华盛顿大学）；New Mexico State University（新墨西哥州立大学）
在本文中，我们建立在概念从知识表示和推理（KR）扩展一个初步的逻辑为基础的框架，其特点是模型和解问题的可解释的规划。我们还提供了一个详细的阐述类似KR技术之间的关系，如溯因解释和信念的变化，其适用性可解释的规划。
2020-12-16 cs.AI
On the Multiple Roles of Ontologies in Explainable AI
University of Padua（帕多瓦大学）；University of Twente（特文特大学）
该研究梳理了本体在可解释AI中可发挥作用的三个核心视角，对现有相关方法进行分类定位，并指出了基于本体的解释方法待解决的挑战与评估方向。
2023-11-08 cs.AI
Explainable Lane Change Prediction for Near-Crash Scenarios Using Knowledge Graph Embeddings and Retrieval Augmented Generation
Department of Computer Engineering, University of Alcalá（阿尔卡拉大学计算机工程系）
本文提出利用知识图谱嵌入与检索增强生成技术，预测危险和安全变道，提升模型可解释性并提高预判准确性。
2025-01-20 cs.AI cs.CL cs.IR
Knowledge Graph Construction for Stock Markets with LLM-Based Explainable Reasoning
Hana Institute of Technology, Hana TI（hana技术研究所）；TelePIX Co., Ltd.（telepix公司）；Qraft Technologies（qraft技术公司）
本文提出基于大语言模型的可解释推理方法，构建股票市场知识图谱以捕捉复杂关系，提升投资分析与决策支持能力。
2025-11-16 cs.AI cs.DB
FOKE: A Personalized and Explainable Education Framework Integrating Foundation Models, Knowledge Graphs, and Prompt Engineering
Macau University of Science and Technology（澳门科技大学）；Communication University of China（中国传媒大学）
FOKE框架融合基础模型、知识图谱与提示工程，通过知识森林、多维用户画像和交互式提示实现个性化可解释的智能教育，并在编程教育等场景中验证其有效性。
2024-05-06 cs.AI cs.HC stat.AP
xERTE: Explainable Reasoning on Temporal Knowledge Graphs for Forecasting Future Links
Institute of Informatics, LMU Munich（慕尼黑大学信息学研究所）；Corporate Technology, Siemens AG（西门子股份公司中央研究院）；Department of Informatics, Technical University of Munich（慕尼黑工业大学信息学系）
建模随时间演化的知识图谱（KG）最近得到了越来越多的关注。在这里，图表示学习已经成为时间KG上的链接预测的主导范例。然而，基于嵌入的方法在很大程度上是以黑箱方式运行的，缺乏解释其预测的能力。本文提供了一个链接预测框架，原因在查询相关的子图的时间KG和联合模型的结构依赖和时间动态。特别是，我们提出了一个时间关系注意力机制和一个新的反向表示更新计划，以指导周围的查询封闭子图的提取。子图通过时间邻居的迭代采样和注意力传播来扩展。我们的方法提供了人类可以理解的证据来解释预测。我们评估我们的模型的四个基准时间知识图谱的链接预测任务。虽然更易于解释，但与以前的最佳KG预测方法相比，我们的模型在Hits@1上获得了高达20%的相对改进。我们还对53名受访者进行了调查，结果表明，该模型提取的链接预测证据与人类的理解一致。
2021-04-01 cs.AI cs.LG
Jointly Learning Explainable Rules for Recommendation with Knowledge Graph
Tsinghua University（清华大学）；University of Southern California（南加利福尼亚大学）
可解释性和有效性是构建推荐系统的两个关键方面。以前的努力主要集中在合并边信息，以实现更好的推荐性能。然而，这些方法具有一些弱点：（1）基于神经网络的嵌入方法的预测难以解释和调试;（2）基于符号、图形的方法（例如，基于Meta路径的模型）需要人工努力和领域知识来定义模式和规则，并且忽略项目关联类型（例如，可替换的和互补的）。在本文中，我们提出了一种新的联合学习框架集成\textit{induction of explainable rules from knowledge graph}与\textit{construction of a rule-guided neural recommendation model}。该框架鼓励两个模块相互补充，以产生有效的和可解释的推荐：1）归纳规则，从以项目为中心的知识图谱中挖掘，总结常见的多跳关系模式，用于推断不同的项目关联，并为模型预测提供人类可读的解释; 2）推荐模块可以通过归纳规则进行扩充，从而在处理冷启动问题时具有更好的泛化能力。大量的实验\footnote{Code and data can be found at: \url{https://github.com/THUIR/RuleRec}}表明，我们提出的方法已经取得了显着的改善，在现实世界的数据集上的基线项目推荐。我们的模型在通过将项目名称链接到相关实体而生成的“嘈杂”项目知识…
2019-03-09 cs.AI cs.IR cs.LG
Context-aware explainable recommendations over knowledge graphs
Paris-Dauphine University, PSL Research University, CNRS UMR 7243, LAMSADE（巴黎第九大学，PSL研究大学，法国国家科学研究中心UMR 7243，LAMSADE）
本文提出CA-KGCN框架，通过建模适应用户上下文的偏好并整合知识图谱语义关系，实现上下文感知的可解释推荐。
2023-10-24 cs.AI cs.IR
EXplainable Neural-Symbolic Learning (X-NeSyL) methodology to fuse deep learning representations with expert knowledge graphs: the MonuMAI cultural heritage use case
ENSTA, Institut Polytechnique Paris（巴黎综合理工学院ENSTA）；Inria（法国国家信息与自动化研究所）；DaSCI Andalusian Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学DaSCI安达卢西亚数据科学与计算智能研究所）；University of Granada（格拉纳达大学）；Free University of Bozen-Bolzano（波尔扎诺自由大学）
最新的用于检测和分类的深度学习（DL）模型比经典的机器学习算法实现了前所未有的性能。然而，DL模型是难以调试、解释和验证的黑盒方法。DL本身无法提供非技术受众可以验证的解释。相比之下，将概念转换为规则或符号的符号人工智能系统-例如知识图谱-更容易解释。然而，它们具有较低的泛化和扩展能力。一个非常重要的挑战是融合DL表示与专家知识。解决这一挑战以及性能-可解释性权衡的一种方法是在不排除领域专家知识的情况下利用两个流的最佳效果。我们通过考虑符号知识以领域专家知识图谱的形式表示来解决这个问题。我们提出了可解释的神经符号学习（X-NeSyL）方法，旨在学习符号和深度表示，以及一个可解释性指标，以评估机器和人类专家解释的一致性水平。最终目标是在学习过程中将DL表示与专家领域知识融合，以作为可解释性的良好基础。X-NeSyL方法分别涉及在推理和训练时具体使用两种解释概念：1）EXPLANet：基于专家对齐的可解释部分的cLAsifier NETwork架构，一种使用符号表示的组合CNN，以及2）SHAP-Backprop，一种可解释的AI通知训练程序，引导DL过程与知识图谱形式的符号表示对齐。我们展示了使用MonuMAI数据集进行纪念碑立面图像分类的X-NeSyL方法，并证明了我们的方法提高了可解释性和性能。
2021-10-13 cs.AI cs.CV cs.LG
Explainable Knowledge Graph Retrieval-Augmented Generation (KG-RAG) with KG-SMILE
针对检索增强生成（RAG）的黑盒不透明问题，提出基于扰动的KG-SMILE框架，通过识别关键图谱实体与关系提升知识图谱RAG的可解释性，兼顾模型效果与透明度。
2025-09-03 cs.AI
OAK4XAI: Model towards Out-Of-Box eXplainable Artificial Intelligence for Digital Agriculture
University College Dublin（都柏林大学）
最近的机器学习方法在人工智能（AI）应用中是有效的。它们以高精度产生稳健的结果。然而，这些技术中的大多数都没有提供人类可以理解的解释来支持他们的结果和决策。它们通常充当黑匣子，不容易理解决策是如何做出的。可解释的人工智能（XAI），最近受到了很大的关注，试图为决策和训练的AI模型提供人类可以理解的解释。例如，在数字农业中，相关领域通常呈现出与背景知识没有联系的特殊或输入特征。在农业数据上应用数据采掘过程会产生难以解释的结果（知识）。在本文中，我们提出了一个知识地图模型和本体设计的XAI框架（OAK4XAI）来处理这个问题。该框架不仅考虑过程的数据分析部分，而且还考虑到通过本体和知识地图模型（作为框架的模块提供）的领域知识的语义方面。许多正在进行的XAI研究旨在为给定的特征值如何有助于模型决策提供准确和可描述的解释。然而，所提出的方法，重点是提供一致的信息和定义的概念，算法，和价值观涉及的数据采掘模型。我们建立了一个农业计算本体（AgriComO）来解释农业中挖掘的知识。AgriComO具有精心设计的结构，包括适用于农业和计算领域的广泛概念和转换。
2022-09-29 cs.AI
Ekar: An Explainable Method for Knowledge Aware Recommendation
Peking University（北京大学）；Mila-Quebec AI Institute（米拉-魁北克人工智能研究院）；HEC Montreal（蒙特利尔高等商学院）
本文研究了基于知识图谱的推荐系统，它可以有效地解决数据稀疏和冷启动问题。最近，已经开发了各种方法来解决这个问题，这些方法通常尝试学习用户和项目的有效表示，然后根据用户的表示将项目与用户匹配。虽然这些方法已经被证明是相当有效的，他们缺乏良好的解释，这是至关重要的推荐系统。在本文中，我们采取了不同的路线，并提出通过找到有意义的路径，从用户到项目生成建议。具体来说，我们制定的问题作为一个顺序的决策过程中，目标用户被定义为初始状态，和图上的边缘被定义为行动。我们根据现有的国家的最先进的方法，然后训练的政策功能与策略梯度方法。在三个真实世界数据集上的实验结果表明，我们提出的方法不仅提供了有效的建议，而且提供了很好的解释。
2022-01-07 cs.AI cs.IR
Faithful Path Language Modeling for Explainable Recommendation over Knowledge Graph
University of Cagliari（卡利亚里大学）；Polytechnic University of Turin（都灵理工大学）
本文提出PEARLM模型，通过知识图谱约束解码机制确保推荐解释路径真实有效，在提升可解释性的同时显著提高推荐准确性。
2024-04-30 cs.AI cs.IR cs.LG
MKG-CARE: Case-Aware Reasoning with Multimodal Knowledge Graphs for Explainable Medical Image Diagnosis
University of Science and Technology of China（科学技术大学）
提出一种基于多模态知识图谱的病例感知推理框架，通过构建结构化诊断记忆、自适应检索相似病例、知识传播与注入机制以及置信度校准的决策精化方案，提升医学图像分类的性能和可解释性。
2026-08-21 cs.AI cs.CV
Investigating ADR mechanisms with knowledge graph mining and explainable AI
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；LORIA（洛林计算机科学及其应用实验室）；Orange Labs（奥兰治实验室）；LIMICS（LIMICS实验室）；Inserm（法国国家健康与医学研究院）；Université Sorbonne Paris Nord（索邦巴黎北大学）；Sorbonne Université（索邦大学）；CHU de St Etienne（圣艾蒂安大学附属医院）；NGERE（NGERE实验室）；Centre Régional de Pharmacovigilance（区域药物警戒中心）；CHRU de Nancy（南锡大学区域医院中心）；Inria Paris（法国国家信息与自动化研究所巴黎中心）；Université de Paris（巴黎大学）
药物不良反应（ADR）在随机临床试验和上市后药物警戒中得到了表征，但在大多数情况下，其分子机制仍不清楚。除了临床试验之外，关于药物成分的许多知识元素都可以在开放获取的知识图谱中获得。此外，已经建立了药物分类，将药物标记为几种ADR的致病性或非致病性。我们建议挖掘知识图谱，用于识别生物分子特征，这些特征可以自动复制专家分类，以区分药物致病性或非特定类型的ADR。从可解释的人工智能角度来看，我们探索了简单的分类技术，如决策树和分类规则，因为它们提供了人类可读的模型，解释了分类本身，但也可能为ADR背后的分子机制提供解释。总之，我们挖掘特征的知识图谱;我们训练分类器来区分与ADR相关或不相关的药物;我们分离出既能有效再现专家分类又能被专家解释的特征（即，基因本体论术语、药物靶点或途径名称）;我们手动评估它们如何解释。提取的特征以良好的保真度再现了DILI和SCAR的致病或非致病药物的分类。专家们完全同意，73%和38%的最具区别性的特征可能分别解释DILI和SCAR;部分同意（2/3）90%和77%。知识图谱提供了不同的功能，以使简单和可解释的模型，以区分药物之间的原因或不为ADR。除了解释分类，大多数歧视性的功能似乎是很好的候选人，进一步调查ADR机制。
2020-12-16 cs.AI cs.LG cs.SC
KERAIA: An Adaptive and Explainable Framework for Dynamic Knowledge Representation and Reasoning
Teesside University（泰赛大学）
KERAIA框架通过Clouds of Knowledge、DRels、LoTs等创新机制，将人类隐性专业知识转化为可追溯、可解释的动态知识表示与推理算法，并在海战仿真、工业诊断和RISK决策等案例中验证了其有效性。
2025-05-07 cs.AI cs.ET cs.SC
ECATS: Explainable-by-design concept-based anomaly detection for time series
Università degli Studi di Trieste（的里雅斯特大学）；Università degli Studi di Pisa（比萨大学）
针对信息物理系统异常检测缺乏可解释性的问题，提出基于概念的神经符号架构ECATS，利用信号时序逻辑公式和交叉注意力机制学习概念嵌入，在保证局部可解释性的同时实现了优异的分类性能。
2024-07-30 cs.AI cs.LG
Diagnosis of Acute Poisoning Using Explainable Artificial Intelligence
Weill Cornell Medical Centre（威尔康奈尔医学中心）；Brigham and Women’s Hospital（布莱根妇女医院）；Boston Children’s Hospital（波士顿儿童医院）
医学毒理学是治疗物质毒性作用的临床专业，无论是过量，用药错误还是蝎子蜇伤。与其他医学专业一样，毒理学知识和研究的数量已经超过了临床医生个人完全掌握和保持最新的能力。机器学习技术在医学毒理学中的应用具有挑战性，因为最初的治疗决策通常基于几段文本数据，并且严重依赖先验知识。机器学习技术通常不能以一种对医生透明的方式表示知识，从而提高了可用性的障碍。基于规则的系统和决策树学习是更透明的方法，但通常概括性差，需要专家策展来实现和维护。在这里，我们构建了一个概率逻辑网络来表示医学毒理学家的知识库的一部分。我们的方法透明地模仿了执业临床医生的知识表示和临床决策。这款名为Tak的软件在简单的病例和中等难度的病例上表现得比人类好，但在具有挑战性的临床病例上表现得比人类好。Tak在所有难度级别上都优于决策树分类器。概率逻辑提供了一种可解释的人工智能形式，如果它能达到可接受的性能水平，那么它在医疗保健中的使用可能更容易被接受。
2021-02-01 cs.AI cs.HC cs.LG
Explainable Sparse Knowledge Graph Completion via High-order Graph Reasoning Network
University of Science and Technology of China（中国科学技术大学）；Singapore Management University（新加坡管理大学）
知识图谱（KG）在许多应用中正成为越来越重要的基础设施，同时遭受不完整性问题。KG完成任务（KGC）根据不完整的KG自动预测缺失的事实。然而，现有的方法在现实世界的场景中表现不令人满意。一方面，它们的性能会随着KG稀疏性的增加而急剧下降。另一方面，预测的推理过程是一个不可信的黑箱。本文提出了一种新的稀疏KGC的可解释模型，将高阶推理合成到一个图卷积网络中，即HoGRN。它不仅可以提高泛化能力，以缓解信息不足的问题，而且还提供可解释性，同时保持模型的有效性和效率。有两个主要组件可以无缝集成以进行联合优化。首先，高阶推理组件通过捕获关系之间的内生相关性来学习高质量的关系表示。这可以反映逻辑规则来证明更广泛的缺失事实的合理性。其次，实体更新组件利用无权重的图卷积网络（GCN）来有效地对具有可解释性的KG结构进行建模。与传统的方法不同，我们进行实体聚合和设计组合为基础的注意力在关系空间中没有额外的参数。轻量级的设计使HoGRN更适合稀疏设置。为了进行评估，我们进行了广泛的实验-HoGRN在几个稀疏KG上的结果呈现出令人印象深刻的改进（平均9%的MRR增益）。进一步的消融和病例研究证明了主要组件的有效性。我们的代码将在接受后发布。
2022-07-14 cs.AI cs.LG
Inside Knowledge: Graph-based Path Generation with Explainable Data Augmentation and Curriculum Learning for Visual Indoor Navigation
National University of Science and Technology POLITEHNICA Bucharest（波兰堡国立科学与技术大学）；Bitdefender（Bitdefender公司）
本文提出一种仅依赖视觉输入的实时室内导航方法，通过基于图的路径生成、可解释数据增强和课程学习实现高效训练，并构建了大型购物中心数据集及Android应用。
2025-08-15 cs.AI cs.CV
LinkLogic: A New Method and Benchmark for Explainable Knowledge Graph Predictions
Inbound Health；University of São Paulo（圣保罗大学）；Nvidia（英伟达）；BenevolentAI
本文提出LinkLogic链路预测解释方法，并基于FB13数据集构建了首个链路预测解释基准，通过定量和定性评估生成解释的保真度、选择性和相关性，为知识图谱预测解释方法的实证评估奠定基础。
2024-06-02 cs.AI cs.LG cs.SI
XAI-MeD: Explainable Knowledge Guided Neuro-Symbolic Framework for Domain Generalization and Rare Class Detection in Medical Imaging
XAI-MeD通过整合临床知识的神经符号框架，提升医学影像中领域泛化和稀有类别检测的性能，实现更鲁棒和可解释的多模态医学AI。
2026-01-05 cs.AI cs.CV
SBERT studies Meaning Representations: Decomposing Sentence Embeddings into Explainable Semantic Features
Heidelberg University（海德堡大学）
本研究提出S$^3$BERT，通过逼近AMR图度量将SBERT句子嵌入分解为可解释的语义子嵌入，同时保持原嵌入的相似度性能，兼顾可解释性与效率。
2022-10-28 cs.AI cs.CL
Explainable Graph Spectral Clustering For GloVe-like Text Embeddings
Institute of Computer Science of Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文提出了一种针对GloVe-like文本嵌入的可解释图谱聚类方法，旨在提升文本聚类结果的可解释性。
2025-12-22 cs.AI cs.LG
ProSLM : A Prolog Synergized Language Model for explainable Domain Specific Knowledge Based Question Answering
University of California Santa Cruz（加州大学圣克鲁兹分校）
针对现有神经符号方法未用形式逻辑为大语言模型提供查询上下文、验证输出的问题，提出融合领域知识库、逻辑推理与LLM的ProSLM框架，可实现上下文收集与事实验证，开辟神经符号生成式AI文本验证与用户个性化新方向。
2024-09-17 cs.AI cs.CL
A Method for Handling Negative Similarities in Explainable Graph Spectral Clustering of Text Documents -- Extended Version
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文提出了一种处理文本文档图谱谱聚类中负相似性问题的方法，通过实验验证了不同解决方案的优劣，并展示了GloVe嵌入在该问题上的应用改进。
2025-12-01 cs.AI cs.CL
Transparent Semantic Spaces: A Categorical Approach to Explainable Word Embeddings
Valencian Research Institute for Artificial Intelligence (VRAIN)（瓦伦西亚人工智能研究 institute）；Universitat Politècnica de València（瓦伦西亚理工大学）
本文提出基于范畴论的透明语义空间框架，通过构造文本语义范畴和词嵌入范畴，证明GloVe、Word2Vec与度量MDS算法的等价性，并给出嵌入前计算与缓解偏置的数学方法，以提升词嵌入的可解释性。
2025-08-28 cs.AI cs.CL math.CT
Disentangled and Self-Explainable Node Representation Learning
University of Pisa（比萨大学）；CENTAI Institute（CENTAI研究院）；Delft University of Technology（代尔夫特理工大学）
针对无监督节点嵌入可解释性不足的问题，提出DiSeNE框架，通过解耦表示学习生成逐维度可解释的嵌入，并设计新目标函数与评估指标，实验验证其有效性。
2025-10-16 cs.AI cs.LG stat.ML
Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning
Shanghai Institute of AI Education, East China Normal University, Shanghai, 200241, China（上海人工智能教育研究院，华东师范大学，上海，200241，中国）；Shool of Computer Sicence and Technology, East China Normal University, Shanghai, 200241, China（计算机科学与技术学院，华东师范大学，上海，200241，中国）
本文提出PLKT框架，通过概率嵌入和逻辑推理提高知识追踪的可解释性，实验显示其在预测准确性和可解释性上均优于现有方法。
2026-05-10 cs.AI
Explainable Few-shot Knowledge Tracing
Beihang University（北京航空航天大学）；Tsinghua University（清华大学）
针对现有知识追踪依赖大量数据且缺乏解释的问题，提出可解释的小样本知识追踪任务，利用大型语言模型构建认知引导框架，从少量记录中追踪知识并提供自然语言解释，实验证明其性能可比肩或超越深度方法。
2024-05-26 cs.AI cs.CL cs.CY
Experiments with truth using Machine Learning: Spectral analysis and explainable classification of synthetic, false, and genuine information
San Jose State University（圣何塞州立大学）
本研究针对虚假信息难治理的问题，采用谱分析、可视化及可解释分类方法，结合多种嵌入技术与机器学习算法，发现虚假信息与真实信息高度交织，现有算法的区分效果不及文献宣称的水平。
2024-07-07 cs.AI cs.CL
Explainable embeddings with Distance Explainer
Netherlands eScience Center（荷兰eScience中心）；Center for Information Technology（信息科技中心）；University of Groningen（格罗宁根大学）
本文提出Distance Explainer，通过选择性遮蔽和距离排序的遮蔽过滤生成嵌入空间的局部后验解释，验证了其在跨模态嵌入中的有效性，提升了深度学习应用的透明度和可信度。
2026-07-08 cs.AI cs.CL cs.CV
Reproducibility Study of "XRec: Large Language Models for Explainable Recommendation"
University of Amsterdam（阿姆斯特丹大学）
本研究复现XRec框架，用Llama 3替代GPT-3.5-turbo评估，并扩展了专家混合模块的嵌入修改，验证其生成个性化解释的有效性及稳定性提升，同时提供开源实现。
2025-10-06 cs.AI cs.CL
SafeRx-Agent: A Knowledge-Grounded Multi-Agent Framework for Safe and Explainable Medication Recommendation
McGill University（麦吉尔大学）；McMaster University（麦马斯特大学）；University of Toronto（多伦多大学）；Ohio University（俄亥俄大学）
提出SafeRx-Agent，一种基于知识的多智能体框架，通过患者上下文、外部临床知识和安全验证来推荐可追溯的药物集合，在MIMIC-III和MIMIC-IV数据集上提高了细粒度药物预测准确性，同时控制了药物相互作用、禁忌症和药物集合大小。
2026-05-29 cs.AI cs.CL
Knowledge-intensive Language Understanding for Explainable AI
University of South Carolina（南卡罗来纳大学）；Embible, Inc.（Embible公司）
人工智能系统在各个领域都得到了广泛的应用。与此同时，在某些领域的进一步采用受到阻碍，因为无法完全信任人工智能系统不会伤害人类。除了对公平性的关注外，隐私、透明度和可解释性也是在人工智能系统中建立信任的关键。正如在描述值得信赖的人工智能时所说的那样，“信任来自理解。如何做出人工智能主导的决策以及包括哪些决定因素对于理解至关重要。“解释AI系统的子领域被称为XAI。可以解释AI系统的多个方面;这些包括数据可能具有的偏差、在示例空间的特定区域中缺少数据点、收集数据的公平性、特征重要性等。然而，除此之外，关键的是具有与决策制定直接相关的以人为中心的解释，类似于领域专家如何基于“领域知识”来制定决策，“这也包括完善的，同行验证的明确指导方针。为了理解和验证人工智能系统的结果（例如分类、建议、预测），从而建立对人工智能系统的信任，有必要涉及人类理解和使用的显式领域知识。
2021-08-02 cs.AI cs.CL
Towards an Explainable Comparison and Alignment of Feature Embeddings
The Chinese University of Hong Kong（香港中文大学）；Sharif University of Technology（谢赫大学）
本文提出SPEC框架，通过差分核矩阵特征分解实现特征嵌入的可解释比较，并以线性复杂度优化问题对齐嵌入，在ImageNet和MS-COCO上验证了有效性。
2025-08-16 cs.AI cs.CV cs.LG
Learning Interpretation with Explainable Knowledge Distillation
University of Florida（佛罗里达大学）
知识蒸馏（KD）是近年来模型压缩和加速的一个关键解决方案。在KD中，一个小的学生模型通常是通过最小化两者的概率输出之间的差异来从一个大的教师模型训练的。然而，正如我们的实验所示，现有的KD方法可能无法将教师的关键可解释知识传递给学生，即两个模型对预测的解释并不一致。本文提出了一种新的可解释的知识蒸馏模型XDistillation，通过该模型将教师模型和解释信息的表现转移到学生模型。XDistillation模型利用卷积自动编码器的思想来近似教师的解释。我们的实验表明，通过XDistillation训练的模型不仅在预测准确性方面，而且在对教师模型的忠诚度方面都优于传统KD方法训练的模型。
2021-11-12 cs.AI cs.LG
Deep-IRT: Make Deep Learning Based Knowledge Tracing Explainable Using Item Response Theory
Find Solution Ai Limited（Find Solution Ai有限公司）
基于深度学习的知识追踪模型已被证明优于传统的知识追踪模型，而不需要人工工程的功能，但其参数和表示长期以来一直被批评为无法解释。在本文中，我们提出了Deep-IRT，这是一个综合的项目反应理论（IRT）模型和知识追踪模型，是基于深度神经网络架构称为动态键值记忆网络（DKVMN），使深度学习为基础的知识追踪可解释。具体来说，我们使用DKVMN模型来处理学生的学习轨迹，并估计学生的能力水平和项目难度水平随着时间的推移。然后，我们使用IRT模型来估计概率，学生将正确回答一个项目使用估计的学生能力和项目的难度。实验表明，Deep-IRT模型保留了DKVMN模型的性能，同时提供了对学生和项目的直接心理解释。
2019-04-26 cs.AI cs.LG stat.ML
Foundations of Explainable Knowledge-Enabled Systems
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究（机构））
自人工智能早期以来，可解释性一直是一个重要的目标。已经开发了几种产生解释的方法。然而，这些方法中的许多方法与当时的人工智能系统的能力紧密结合。随着人工智能系统在某些关键环境中的普及，需要向最终用户和决策者解释它们。我们提出了一个可解释的人工智能系统的历史概述，重点是知识使能系统，跨越专家系统，认知助理，语义应用程序，和机器学习域。此外，借用过去的方法的优势，并确定所需的差距，使解释用户和上下文为中心，我们提出了新的解释和可解释的知识支持系统的定义。
2020-03-17 cs.AI cs.LG cs.LO
