Using Part-based Representations for Explainable Deep Reinforcement Learning
School of Informatics, Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学信息学院）；Computational Intelligence and Deep Learning Research Group（计算智能与深度学习研究组）
本文提出一种用于深度强化学习中actor模型的非负训练方法，通过非负初始化和改进的保号训练技术提取基于部件的表示，在遵守非负约束的同时增强可解释性，并在Cartpole基准上验证了有效性。
2024-08-22 cs.AI cs.LG
Toward Explainable Offline RL: Analyzing Representations in Intrinsically Motivated Decision Transformers
DISPOC University of Siena（DISPOC 硅恩纳大学）；University of Siena（硅恩纳大学）；University of Milan（米兰大学）
针对内在动机提升弹性决策Transformer（EDTs）离线强化学习性能的表征机制未明问题，本文提出事后可解释性框架，通过分析嵌入属性揭示不同内在动机变体的表征结构差异及与性能的环境特定关联，证明其作为表征先验的作用。
2025-11-17 cs.AI cs.LG
Disentangled and Self-Explainable Node Representation Learning
University of Pisa（比萨大学）；CENTAI Institute（CENTAI研究院）；Delft University of Technology（代尔夫特理工大学）
针对无监督节点嵌入可解释性不足的问题，提出DiSeNE框架，通过解耦表示学习生成逐维度可解释的嵌入，并设计新目标函数与评估指标，实验验证其有效性。
2025-10-16 cs.AI cs.LG stat.ML
Learning Explainable Representations of Complex Game-playing Strategies
North Carolina State University（北卡罗来纳州立大学）；Indian Institute of Technology Bombay（印度理工学院孟买分校）；Tata Research Development and Design Centre（塔塔研究开发与设计中心）；Northeastern University（东北大学）
本文提出一种类似人类认知的策略，将强化学习代理的游戏策略综合为可执行程序，以学习可解释的表示，并在国际象棋和网格环境中验证其有效性。
2026-10-07 cs.AI cs.LG
Table2Vec: Automated Universal Representation Learning to Encode All-round Data DNA for Benchmarkable and Explainable Enterprise Data Science
University of Technology Sydney（悉尼科技大学）
企业数据通常涉及多个异构数据源和外部数据，它们分别记录业务活动、交易、客户人口统计、状态、行为、与企业的交互和通信，以及其产品、服务、生产、营销、运营和管理的消费和反馈，企业数据科学中的一个关键挑战是实现有效的整体企业数据理解和数据驱动的发现以及对全面企业DNA的决策。我们引入了一个神经编码器Table2Vec，用于从全方位的企业DNA中对客户等实体进行自动通用表示学习，并进行自动数据特征分析和数据质量增强。学习到的通用表示用作代表性和基准企业数据基因组，并且可以用于企业范围和特定于域的学习任务。Table 2 Vec集成了针对低质量企业数据和下游学习任务的自动化通用表示学习。我们举例说明了Table2Vec在复杂的异构多关系大表上表征企业中的全方位客户数据DNA，以构建通用的客户向量表示。每个客户的学习通用表示是全面的，具有代表性和基准性的，以支持企业数据科学中的企业范围和特定领域的学习目标和任务。Table2Vec显著优于通常用于企业分析的现有浅层、提升和深度学习方法。我们进一步讨论了自动化通用企业表示和学习的研究机会，方向和应用，以及自动化，通用，整个企业和道德机器学习和数据科学的学习企业数据DNA。
2021-12-03 cs.AI cs.LG
Learning Explainable and Better Performing Representations of POMDP Strategies
RWTH Aachen University（亚琛工业大学）；Masaryk University（马萨里克大学）；Technical University of Munich（慕尼黑工业大学）
针对 POMDP 策略的记忆表示问题，提出用改进的 L*-算法学习自动机表示，以更小、更可解释的结构保持甚至提升策略性能，并显著增强可扩展性。
2024-10-02 cs.AI cs.LG cs.LO
Deep Explainable Relational Reinforcement Learning: A Neuro-Symbolic Approach
Örebro University（厄勒布鲁大学）；KU Leuven（鲁汶大学）
本文提出神经符号框架 DERRL，将符号规划的关系表示、约束与深度学习结合，提取逻辑规则形式的可解释策略，并在多种环境中验证其可迁移与泛化能力。
2023-07-14 cs.AI cs.LG
Explainable fault and severity classification for rolling element bearings using Kolmogorov-Arnold networks
School of Electrical & Computer Engineering, National Technical University of Athens（电气与计算机工程学院，雅典技术大学）
本研究利用Kolmogorov-Arnold网络构建统一框架，通过自动特征选择和超参数调优实现滚动轴承故障与严重程度的可解释分类，在多个数据集上达到100% F1分数，并具备处理多种故障类型的适应性。
2025-10-22 cs.AI cs.LG
Algebraically Explainable Controllers: Decision Trees and Support Vector Machines Join Forces
Technical University of Munich（慕尼黑工业大学）
最近，决策树（DT）已被用作控制器的可解释表示（a.k.a.战略、政策、决策者）。虽然它们通常非常有效，并为离散系统提供小型且易于理解的控制器，但复杂的连续动态仍然构成了挑战。特别是，当变量之间的关系采取更复杂的形式时，例如多项式，它们不能使用可用的DT学习过程来获得。相比之下，支持向量机提供了更强大的表示，能够发现许多这样的关系，但不是以可解释的形式。因此，我们建议结合这两个框架，以获得更丰富的，域相关的代数谓词的可理解的表示。我们证明和评估所提出的方法实验上建立的基准。
2022-08-29 cs.AI cs.LG cs.SY
Learning disentangled representations for explainable chest X-ray classification using Dirichlet VAEs
University of Leeds（利兹大学）
本研究探讨了使用狄利克雷变分自编码器（DirVAE）学习解开的胸部X射线（CXR）图像的潜在表示。我们的工作假设是，分布稀疏性，由狄利克雷先验促进，将鼓励解开CXR图像的多标签分类的复杂任务的特征学习。使用CheXpert数据库中的CXR图像对DirVAE进行训练，并通过实施辅助多标签分类任务来研究DirVAE模型学习的多模态潜在表示的预测能力，以期根据类特定特征强制分离潜在因素。使用DirVAE学习的潜在空间的预测性能和可解释性分别进行了定量和定性评估，并与标准高斯先验VAE（GVAE）进行比较。我们介绍了一种新的方法，可解释的多标签分类，我们进行梯度引导的潜在遍历为每个类的兴趣。研究结果表明，DirVAE是能够解开潜在的因素到类特定的视觉功能，一个属性不提供的GVAE，并实现了边际增长的预测性能相对于GVAE。我们生成的视觉示例表明，我们的可解释性方法在应用于训练的DirVAE时，能够突出显示CXR图像中与感兴趣的类别临床相关的区域，此外，还可以识别分类依赖于虚假特征相关性的情况。
2023-02-06 cs.AI cs.CV cs.LG
Distributed Linguistic Representations in Decision Making: Taxonomy, Key Elements and Applications, and Challenges in Data Science and Explainable Artificial Intelligence
School of Business Administration, Southwestern University of Finance and Economics（西南财经大学工商管理学院）；Institute of Systems Engineering, Dalian University of Technology（大连理工大学系统工程研究所）；Business School, Hohai University（河海大学商学院）；Business School, Sichuan University（四川大学商学院）；School of Economics and Management, Southwest Jiaotong University（西南交通大学经济管理学院）；School of Information Management and Statistics, Hubei University of Economics（湖北经济学院信息管理与统计学院）；Andalusian Research Institute on Data Science and Computational Intelligence (DaSCI), University of Granada（格拉纳达大学安达卢西亚数据科学与计算智能研究所）；Faculty of Computing and Information Technology, King Abdulaziz University（阿卜杜勒阿齐兹大学计算机与信息技术学院）
分布式语言表示是建模语言决策中偏好信息的不确定性和复杂性的有力工具。为了提供一个全面的角度发展的分布式语言表示决策，我们提出了现有的分布式语言表示的分类。然后，我们回顾了分布式语言信息处理在决策中的关键要素，包括距离测量，集结方法，分布式语言偏好关系，和分布式语言多属性决策模型。接下来，我们从数据科学和可解释人工智能的角度讨论了当前的挑战和未来的研究方向。
2020-08-07 cs.AI
Explainable artificial intelligence for mechanics: physics-informing neural networks for constitutive models
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院（KIT））；RWTH Aachen University（亚琛工业大学）
（人工）神经网络在力学中越来越受欢迎，以通过模型降阶技术加速计算，并作为各种材料的通用模型。然而，神经网络的主要缺点仍然存在：它们的众多参数很难解释和解释。因此，神经网络通常被标记为黑盒，其结果通常无法解释。在力学中，新的和活跃的物理学领域--知情神经网络试图通过在力学知识的基础上设计深度神经网络来减轻这一缺点。通过使用这种先验知识，更深入和更复杂的神经网络变得可行，因为可以解释机械假设。但神经网络参数的内部推理和解释仍然是神秘的。作为对物理信息方法的补充，我们提出了物理信息方法的第一步，该方法解释了在机械数据上训练的后验神经网络。这种新颖的可解释的人工智能方法旨在阐明神经网络的黑箱及其高维表示。其中，主成分分析将RNN的细胞状态中的分布式表示去相关，并允许与已知的基本函数进行比较。新的方法是由一个系统的超参数搜索策略，确定最好的神经网络架构和训练参数的支持。基本本构模型（超弹性，弹塑性和粘弹性）的三个案例研究的结果意味着，所提出的策略可以帮助确定数值和分析的封闭形式的解决方案，以表征新材料。
2021-07-12 cs.AI cs.LG
Dy-mer: An Explainable DNA Sequence Representation Scheme using Dictionary Learning
Shenzhen Key Laboratory of Ubiquitous Data Enabling（深圳 ubiquitous 数据赋能重点实验室）；Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
Dy-mer通过字典学习方法，提供了一种可解释且稳健的DNA序列表示方案，实现了在DNA启动子分类和motif检测等任务中的高性能表现。
2025-12-13 cs.AI cs.LG q-bio.GN
On the Relationship Between KR Approaches for Explainable Planning
Washington University in St. Louis（圣路易斯华盛顿大学）；New Mexico State University（新墨西哥州立大学）
在本文中，我们建立在概念从知识表示和推理（KR）扩展一个初步的逻辑为基础的框架，其特点是模型和解问题的可解释的规划。我们还提供了一个详细的阐述类似KR技术之间的关系，如溯因解释和信念的变化，其适用性可解释的规划。
2020-12-16 cs.AI
EXplainable Neural-Symbolic Learning (X-NeSyL) methodology to fuse deep learning representations with expert knowledge graphs: the MonuMAI cultural heritage use case
ENSTA, Institut Polytechnique Paris（巴黎综合理工学院ENSTA）；Inria（法国国家信息与自动化研究所）；DaSCI Andalusian Institute in Data Science and Computational Intelligence, University of Granada（格拉纳达大学DaSCI安达卢西亚数据科学与计算智能研究所）；University of Granada（格拉纳达大学）；Free University of Bozen-Bolzano（波尔扎诺自由大学）
最新的用于检测和分类的深度学习（DL）模型比经典的机器学习算法实现了前所未有的性能。然而，DL模型是难以调试、解释和验证的黑盒方法。DL本身无法提供非技术受众可以验证的解释。相比之下，将概念转换为规则或符号的符号人工智能系统-例如知识图谱-更容易解释。然而，它们具有较低的泛化和扩展能力。一个非常重要的挑战是融合DL表示与专家知识。解决这一挑战以及性能-可解释性权衡的一种方法是在不排除领域专家知识的情况下利用两个流的最佳效果。我们通过考虑符号知识以领域专家知识图谱的形式表示来解决这个问题。我们提出了可解释的神经符号学习（X-NeSyL）方法，旨在学习符号和深度表示，以及一个可解释性指标，以评估机器和人类专家解释的一致性水平。最终目标是在学习过程中将DL表示与专家领域知识融合，以作为可解释性的良好基础。X-NeSyL方法分别涉及在推理和训练时具体使用两种解释概念：1）EXPLANet：基于专家对齐的可解释部分的cLAsifier NETwork架构，一种使用符号表示的组合CNN，以及2）SHAP-Backprop，一种可解释的AI通知训练程序，引导DL过程与知识图谱形式的符号表示对齐。我们展示了使用MonuMAI数据集进行纪念碑立面图像分类的X-NeSyL方法，并证明了我们的方法提高了可解释性和性能。
2021-10-13 cs.AI cs.CV cs.LG
Learning Explainable Treatment Policies with Clinician-Informed Representations: A Practical Approach
OpenAI (work done while at Stanford University)（OpenAI（工作期间在斯坦福大学））；Stanford University（斯坦福大学）
本文提出利用临床指导的表示学习可解释的治疗策略，以提高远程患者监测中1型糖尿病青少年的血糖控制效果。
2024-11-26 cs.AI cs.LG stat.AP
Sparse Autoencoders Make Audio Foundation Models more Explainable
LIUM, Le Mans Université（利姆大学LIUM）；VivoLab, I3A, University of Zaragoza（瓦沃拉实验室、I3A、萨拉戈萨大学）
本研究利用稀疏自编码器分析音频预训练模型的隐藏表示，揭示其在歌唱技巧分类中的可解释性提升及对自监督学习系统的作用。
2025-12-17 cs.AI cs.LG cs.SD
Interpretable Representations in Explainable AI: From Theory to Practice
University of Bristol（布里斯托尔大学）；ETH Zurich（苏黎世联邦理工学院）
本文研究了可解释表示的属性及其在表格、图像和文本数据中的应用，分析了其解释力与潜在操纵风险，并提出了设计可信可解释表示的具体建议。
2024-04-26 cs.AI cs.LG stat.ML
Explainable and Interpretable Diabetic Retinopathy Classification Based on Neural-Symbolic Learning
Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）；Singapore Eye Research Institute（新加坡眼科研究所）；Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Institute for Molecular and Clinical Ophthalmology（分子与临床眼科研究所）；National University of Singapore（新加坡国立大学）
在本文中，我们提出了一个可解释和可解释的糖尿病视网膜病变（ExplainDR）分类模型的神经符号学习的基础上。为了获得可解释性，在决策中应考虑高层次的符号表示。具体来说，我们引入了一个人类可读的符号表示，它遵循与眼睛健康状况相关的糖尿病视网膜病变特征的分类风格，以实现可解释性。然后，我们将从疾病预测中的符号表示获得的人类可读特征包括在内。在糖尿病视网膜病变分类数据集上的实验结果表明，与应用于IDRiD数据集的最先进方法相比，我们提出的ExplainDR方法具有良好的性能，同时还提供了可解释性和可解释性。
2022-04-01 cs.AI cs.CV cs.LG
Contrastive Learning for Aspect Representation towards Explainable Recommendation
Toronto Metropolitan University（多伦多都会大学）
本文提出CLARER模型，结合评分与评论方面特征，利用Transformer和对比学习提升推荐准确性与可解释性，在三个基准数据集上优于基线。
2026-10-07 cs.AI cs.IR
dtControl 2.0: Explainable Strategy Representation via Decision Tree Learning Steered by Experts
Technical University of Munich（慕尼黑工业大学）；I.I.T. Delhi（印度理工学院德里校区）
最近的进展表明，决策树是如何适合于简洁地表示满足各种目标的策略（或控制器）的数据结构。此外，它们也使战略更容易解释。最近的工具dtControl为管道提供了支持混合系统策略合成的工具，如SCOTS和Uppaal Rupgo。我们提出了dtControl 2.0，一个新版本，具有几个基本的新颖功能。最重要的是，用户现在可以提供在决策树学习过程中要利用的领域知识，并且还可以基于动态提供的信息交互地引导该过程。为此，我们还提供了图形用户界面。它允许检查和重新计算结果的部分，建议以及接收关于谓词的建议，以及决策过程的可视化模拟。此外，我们接口的概率系统的模型检查器，即风暴和PRISM，并提供专门的支持分类枚举类型的状态变量。因此，控制器更容易解释，更小。
2021-05-04 cs.AI cs.FL cs.LG
A Unifying Framework of Concept-based Explainable AI with Completeness Guarantees
本文提出统一理论框架，用共同数学语言描述基于概念的可解释AI方法，通过概念自编码器视图界定概念不完备性，并给出归因完备性保证。
2026-09-29 cs.AI cs.CV cs.LG
Reqo: A Comprehensive Learning-Based Cost Model for Robust and Explainable Query Optimization
University of Ottawa（渥太华大学）
Reqo提出了一种鲁棒且可解释的查询优化成本模型，通过增强计划生成、表示和选择三个阶段，提升查询优化的性能和可解释性。
2026-01-11 cs.AI cs.DB cs.LG
PlanT: Explainable Planning Transformers via Object-Level Representations
University of Tübingen（图宾根大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
在复杂环境中规划最佳路线需要对周围场景进行有效推理。虽然人类驾驶员优先考虑重要对象并忽略与决策无关的细节，但基于学习的规划者通常从包含所有车辆和道路上下文信息的密集高维网格表示中提取特征。在本文中，我们提出了PlanT，这是一种在自动驾驶背景下使用标准Transformer架构进行规划的新方法。PlanT基于具有紧凑对象级输入表示的模仿学习。在CARLA的Longest6基准测试中，PlanT优于所有先前的方法（匹配专家的驾驶分数），同时在推理过程中比同等的基于像素的规划基线快5.3倍。将PlanT与现成的感知模块相结合，提供了一个基于传感器的驾驶系统，该系统在驾驶评分方面比现有的最新技术水平高出10分以上。此外，我们提出了一个评估协议，以量化规划者识别相关对象的能力，为他们的决策提供见解。我们的研究结果表明，植物可以集中在场景中最相关的对象，即使这个对象是几何距离。
2022-10-25 cs.AI cs.CV cs.LG
Matching Representations of Explainable Artificial Intelligence and Eye Gaze for Human-Machine Interaction
HRL Laboratories, LLC（HRL实验室有限责任公司）
基于任务的刺激的快速非语言交流是人机合作的一个挑战，特别是在驾驶等闭环交互中。为了实现这一点，我们必须理解人类和机器的信息表示，并确定桥接这些表示的基础。分层相关传播（LRP）等可解释的人工智能（XAI）技术为深度神经网络等高维机器学习技术提供了视觉热图解释。在人类认知方面，视觉注意是由与当前任务相关的感觉输入的自下而上和自上而下的处理驱动的。由于XAI和人类认知都应该关注与任务相关的刺激，因此它们对视觉注意力的表示可能会重叠，从而可能提供人类和机器之间的非语言交流手段。在这项工作中，我们研究了经过训练以预测驾驶行为的神经网络的LRP热图解释与人类驾驶员的眼睛注视热图之间的相关性。该分析用于确定使用这种技术来提高驾驶性能的可行性。我们发现，LRP热图显示出越来越多的相似性水平与眼睛注视根据任务特异性的神经网络。然后，我们提出这些发现如何通过视觉上将注意力引导到相关区域来帮助人类。据我们所知，我们的工作提供了第一个已知的分析LRP和眼睛注视的驾驶任务。
2021-01-30 cs.AI cs.HC
Explainable and Discourse Topic-aware Neural Language Understanding
Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））
本文提出一种神经复合语言模型，在主题与语言模型的联合学习框架中，引入可解释的主题表示与句子级主题篇章建模，实验证明其有效提升了多任务的语言理解能力。
2023-06-27 cs.AI cs.CL cs.LG
NeuSOGA3D: A Neuro-Symbolic Framework for Explainable 3D Geometric Reconstruction
University of Hull（赫尔大学）；Xiamen University（厦门大学）；University of Washington（华盛顿大学）；Chinese Academy of Sciences（中国科学院）
NeuSOGA3D提出一种结合神经感知与符号几何推理的混合框架，通过正交投影、隐式样条和构造实体几何操作，从点云重建可解释且CAD兼容的三维几何，并在ModelNet40全部类别上验证了有效性。
2026-09-21 cs.AI
Acquiring Qualitative Explainable Graphs for Automated Driving Scene Interpretation
Simula Research Laboratory（西穆拉研究实验室）；LIRMM, U. of Montpellier, CNRS（蒙彼利埃大学CNRS LIRMM实验室）
针对自动驾驶场景可解释性需求，本文提出定性可解释图QXG用于长时序场景定性时空推理，基于定性约束获取范式构建，在NuScenes数据集上验证其可实时计算、存储占用低，可提升自动驾驶感知与控制的可信度。
2023-08-24 cs.AI cs.RO
Explainable Abstract Trains Dataset
NOVA LINCS（NOVA LINCS实验室）
可解释的抽象列车数据集是一个包含列车简化表示的图像数据集。旨在为合理性解释抽取算法的应用和研究提供一个平台。该数据集附有一个本体，该本体基于所描绘的列车的视觉特征对所描绘的列车进行概念化和分类，从而允许精确理解每个训练是如何被标记的。数据集中的每个图像都用描述列车特征的多个属性和训练元素的边界框进行注释。
2020-12-15 cs.AI cs.CV
Explainable Scene Understanding with Qualitative Representations and Graph Neural Networks
Simula Research Laboratory（西穆拉研究实验室）；Université Paris-Saclay（巴黎萨克雷大学）
针对自动驾驶场景理解中QXGs与浅层模型仅分析单关系链、忽略场景上下文的局限，提出处理完整图结构的GNN架构，在nuScenes数据集上实现更优性能，为可解释场景理解提供新方法。
2025-04-17 cs.AI cs.CV cs.RO
Explainable Knowledge Graph Embedding: Inference Reconciliation for Knowledge Inferences Supporting Robot Actions
Georgia Institute of Technology（佐治亚理工学院）
支持机器人的学习知识图谱表示包含丰富的驱动机器人行为的领域知识。然而，不存在一个推理和解框架，表示如何影响机器人的顺序决策的知识图谱表示。我们使用教学方法来解释一个学习，黑盒知识图谱表示，一个知识图谱嵌入的推论。我们的可解释模型，使用决策树分类器来局部近似黑盒模型的预测，并提供非专家可解释的自然语言解释。从我们的算法评估结果肯定了我们的模型设计的选择，我们的用户研究的结果与非专家支持所提出的推理和解框架的需要。关键的是，我们的模拟机器人评估结果表明，我们的解释使非专家纠正不稳定的机器人行为，由于荒谬的信念在黑盒子。
2022-05-04 cs.AI cs.RO
Deep state-space modeling for explainable representation, analysis, and generation of professional human poses
Centre for Robotics, Mines Paris, Université PSL（巴黎高等矿业学院机器人中心，巴黎文理研究大学）
本文提出三种新方法，将人体运动表述为遵循GOM结构的深度状态空间模型，以解决随机性和可解释性挑战，用于专业人员全身灵巧性分析和人工专业运动生成。
2023-05-24 cs.AI cs.CV cs.HC
Explainable Representation of Finite-Memory Policies for POMDPs using Decision Trees
Technical University of Munich（慕尼黑技术大学）；Nanyang Technological University（南洋理工大学）；Masaryk University（马萨里克大学）
本文提出通过决策树和Mealy机结合的方法，为POMDPs中的有限内存策略提供可解释且更小的表示，提升策略的可解释性。
2026-04-29 cs.AI cs.LG cs.RO
RG-Flow: A hierarchical and explainable flow model based on renormalization group and sparse prior
University of California, Berkeley（加州大学伯克利分校）；Berkeley AI Research（伯克利人工智能研究院）；Redwood Center（雷德伍德中心）
基于流的生成模型已经成为一类重要的无监督学习方法。在这项工作中，我们将重整化群（RG）和稀疏先验分布的关键思想，设计了一个分层的流为基础的生成模型，RG-Flow，它可以分离信息在不同尺度的图像和提取解开表示在每个尺度。我们在合成的多尺度图像数据集和CelebA数据集上演示了我们的方法，表明解纠缠表示可以在不同尺度上对图像进行语义操作和风格混合。为了可视化潜在的表示，我们引入了基于流的模型的感受野，并表明RG-Flow的感受野与卷积神经网络的感受野相似。此外，我们取代广泛采用的各向同性高斯先验分布的稀疏拉普拉斯分布，以进一步提高表示的解纠缠。从理论的角度来看，我们提出的方法具有$O(\log L)$的复杂性修复的图像与边缘长度$L$相比，以前的生成模型与$O(L^2)$的复杂性。
2022-08-15 cond-mat.dis-nn cs.AI cs.CV
SBERT studies Meaning Representations: Decomposing Sentence Embeddings into Explainable Semantic Features
Heidelberg University（海德堡大学）
本研究提出S$^3$BERT，通过逼近AMR图度量将SBERT句子嵌入分解为可解释的语义子嵌入，同时保持原嵌入的相似度性能，兼顾可解释性与效率。
2022-10-28 cs.AI cs.CL
Activation Template Matching Loss for Explainable Face Recognition
Shenzhen University（深圳大学）；Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳人工智能与机器人研究院）
我们能否构建一个可解释的人脸识别网络，能够学习基于面部部位的特征，如眼睛，鼻子，嘴巴等，而无需任何手动注释或添加数据集？在本文中，我们提出了一个通用的可解释的信道损耗（ECLoss）来构建一个可解释的人脸识别网络。使用ECLoss训练的可解释网络可以很容易地学习目标卷积层上基于面部部分的表示，其中单个通道可以检测到特定的面部部分。我们在数十个数据集上的实验表明，ECLoss实现了卓越的可解释性指标，同时提高了人脸验证的性能，而无需人脸对齐。此外，我们的可视化结果也说明了建议ECLoss的有效性。
2022-07-05 cs.AI cs.CV
Generalizable and Explainable Dialogue Generation via Explicit Action Learning
The University of Melbourne（墨尔本大学）；Twitter Inc.（推特公司）
任务型对话的反应生成同时隐含优化两个目标：任务完成和语言质量。条件反应生成作为一种有效的方法，分别和更好地优化这两个目标。这种方法依赖于系统动作注释，这是昂贵的获得。为了减轻对动作注释的需求，引入了潜在动作学习来将每个话语映射到潜在表示。然而，这种方法容易过度依赖于训练数据，从而限制了泛化能力。为了解决这个问题，我们建议学习自然语言的行动，代表话语作为一个跨度的话。这种明确的动作表征通过语言的组成结构促进了泛化。它还提供了一个可解释的生成过程。我们提出的无监督方法学习一个记忆组件，将系统话语总结成一小段单词。为了进一步促进紧凑的动作表示，我们提出了一个辅助任务，使用记忆组件恢复状态注释作为总结对话上下文。我们提出的方法优于MultiWOZ，一个基准多域数据集上的潜在动作基线。
2020-10-08 cs.AI cs.CL
Advancing Ante-Hoc Explainable Models through Generative Adversarial Networks
Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）
提出一种结合无监督解释生成器与 GAN 对抗训练的概念学习框架，使视觉分类器的潜在概念对齐人类可解释属性，并验证了其鲁棒性与语义一致性。
2024-04-03 cs.AI cs.CV cs.LG
CausalGraphX: A Counterfactual Graph Neural Network Framework for Explainable Systemic Risk Assessment
University of Houston（休斯顿大学）；Kent State University（肯特州立大学）；PayPal Inc.（贝宝公司）
针对传统风险模型无法捕捉金融网络复杂动态及图神经网络缺乏因果解释的问题，提出因果图X框架，结合图神经网络与反事实推理，能有效评估系统性风险并提供可解释的反事实解释，优于传统和深度学习基线。
2026-07-17 cs.AI
Diff-Explainer: Differentiable Convex Optimization for Explainable Multi-hop Inference
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap 研究所）
本文介绍了Diff-Explainer，第一个混合框架，可解释的多跳推理，集成了显式约束与神经架构，通过可微凸优化。具体来说，Diff-Explainer允许在约束优化框架内微调神经表示，以自然语言回答和解释多跳问题。为了证明混合框架的有效性，我们结合现有的基于ILP的求解器的多跳问答（QA）与基于变换器的表示。对科学和常识QA任务的广泛实证评估表明，在端到端可微框架中集成显式约束可以显着提高不可微ILP求解器的性能（8.91% - 13.3%）。此外，额外的分析表明，Diff-Explainer能够实现强大的性能相比，独立的Transformers和以前的多跳方法，同时仍然提供结构化的解释，以支持其预测。
2022-06-22 cs.AI cs.CL
Towards Explainable Motion Prediction using Heterogeneous Graph Representations
University of Alcala（阿尔卡拉大学）；AI Sweden（瑞典人工智能中心）；Zenseact AB（Zenseact公司）；Linköping University（林雪平大学）；Chalmers University of Technology（查尔姆斯理工大学）；European Commission, Joint Research Centre（欧盟委员会联合研究中心）
运动预测系统旨在捕捉交通场景的未来行为，使自动驾驶车辆能够执行安全有效的规划。这些场景的演变是高度不确定的，并依赖于代理与场景中的静态和动态对象的交互。基于GNN的方法最近引起了人们的关注，因为它们非常适合自然地对这些相互作用进行建模。然而，尚未探索的主要挑战之一是如何解决这些模型的复杂性和不透明性，以满足自动驾驶系统的透明度要求，其中包括可解释性和可解释性等方面。在这项工作中，我们的目标是通过使用不同的方法来提高运动预测系统的可解释性。首先，我们提出了一个新的可解释的异构基于图的策略（XHGP）模型的基础上的交通场景和车道图遍历的异构图表示，学习交互行为使用对象级和类型级的注意。这种习得的注意力提供了关于场景中最重要的代理和交互的信息。其次，我们用GNNEspainer提供的解释来探索这个相同的想法。第三，我们应用反事实推理，通过探索训练模型对输入数据变化的敏感性来解释选定的各个场景，即，掩蔽场景的某些元素、修改轨迹以及添加或移除动态代理。本文提供的可解释性分析是迈向更透明和可靠的运动预测系统的第一步，从用户，开发人员和监管机构的角度来看，这一点很重要。复制本作品的代码可在https://github.com/sancarlim/Explainable-MP/tree/v1.1上公开获得。
2022-12-07 cs.AI cs.RO
Explainable by-design Audio Segmentation through Non-Negative Matrix Factorization and Probing
LIUM；Le Mans University（勒芒大学）；IRIT；IDS, Telecom Paris（巴黎电信学院IDS）；ViVoLab, University of Zaragoza（萨拉戈萨大学ViVoLab）
针对音频分割黑盒模型缺乏可解释性的问题，提出基于非负矩阵分解的可解释性设计音频分割模型，兼具良好分割性能与可解释隐表示，为可解释表示评估提供新方向。
2024-06-19 cs.AI cs.SD eess.AS
Dot-to-Dot: Explainable Hierarchical Reinforcement Learning for Robotic Manipulation
Dept. of Computing（计算机系）；Dept. of Bioengineering（生物工程系）；Data Science Institute（数据科学研究所）
机器人系统越来越能够自动化和完成复杂的任务，特别是依靠智能系统、深度学习和人工智能的最新进展。然而，随着机器人和人类在交互中的接近，机器人决策过程的可解释性或可解释性对于人类来说变得越来越重要。只有通过对环境和手头任务的基本表示的相互理解，才能实现成功的交互和协作。这是当前深度学习系统中的一个挑战。我们提出了一个层次化的深度强化学习系统，由一个低级别的代理有效地处理大的动作/状态空间的机器人系统，通过以下的指示的高级代理，这是学习的环境和任务的高级动态。这个高级代理形成了一个对世界和手头任务的表示，这是人类操作员可以解释的。该方法，我们称之为点到点，测试MuJoCo为基础的模型的获取机器人机械手，以及阴影的手，以测试其性能。结果表明，有效的学习复杂的动作/状态空间的低级代理，和可解释的任务和决策过程中学习的高级代理表示。
2019-08-11 cs.AI cs.LG cs.RO
Representational Difference Explanations
Caltech（加州理工学院）；University of Edinburgh（爱丁堡大学）
提出表征差异解释（RDX）方法，用于发现和可视化模型表征差异，在现有XAI失效的场景下恢复有意义区别，并在ImageNet和iNaturalist子集上验证其有效性。
2025-10-27 cs.AI cs.CV cs.LG
Explainable AI in Speaker Recognition -- Making Latent Representations Understandable
Centre for Vision, Speech and Signal Processing, University of Surrey（萨里大学视觉、语音和信号处理中心）；Department of Informatics, King’s College London（伦敦国王学院信息学院）
本文提出层次聚类算法（SLINK和HDBSCAN）分析说话人识别网络表示中的层次聚类现象，并设计HCCM算法和Liebig分数为这些聚类提供语义解释。
2026-06-29 cs.AI eess.AS eess.SP
In System Alignments we Trust! Explainable Alignments via Projections
Eindhoven University of Technology（埃因霍温理工大学）
针对流程挖掘中对齐技术难以处理不精确日志和模型的问题，本文提出通过投影实现松弛对齐，以区分可信与不可信内容，提升流程理解并暴露质量问题。
2025-01-24 cs.AI cs.FL
Gyan: An Explainable Neuro-Symbolic Language Model
Innospark Ventures & Gyan AI（Innospark Ventures及Gyan AI）；Gyan AI Inc.（Gyan AI公司）
Gyan基于非Transformer架构构建，克服了传统大语言模型的局限性，在多个数据集上取得SOTA表现，展示了可信任且可靠的使命关键任务模型潜力。
2026-05-13 cs.AI cs.CL cs.ET
Knowledge Graph Embeddings and Explainable AI
Bocconi University（博科尼大学）；IBM Research AI（IBM研究AI）；Accenture Labs（埃森哲实验室）；University of Milan-Bicocca（米兰比可卡大学）；University College London（伦敦大学学院）
知识图谱嵌入是一种广泛采用的知识表示方法，其中实体和关系嵌入在向量空间中。在本章中，我们通过解释知识图谱嵌入的概念、如何生成它们以及如何评估它们来向读者介绍它们。我们总结了国家的最先进的在这一领域中描述的方法，已被引入到表示知识的向量空间。在知识表示方面，我们考虑了可解释性问题，并讨论了解释通过知识图谱嵌入获得的预测的模型和方法。
2020-04-30 cs.AI cs.CL
KERAIA: An Adaptive and Explainable Framework for Dynamic Knowledge Representation and Reasoning
Teesside University（泰赛大学）
KERAIA框架通过Clouds of Knowledge、DRels、LoTs等创新机制，将人类隐性专业知识转化为可追溯、可解释的动态知识表示与推理算法，并在海战仿真、工业诊断和RISK决策等案例中验证了其有效性。
2025-05-07 cs.AI cs.ET cs.SC
LLM2Loss: Leveraging Language Models for Explainable Model Diagnostics
Netflix（奈飞）
提出LLM2Loss方法，利用CLIP等跨模态基础模型提取语义表示，训练轻量级诊断模型映射数据点到任务损失，从而识别黑盒模型的失败模式与偏差。
2023-05-17 cs.AI cs.CV
Ekar: An Explainable Method for Knowledge Aware Recommendation
Peking University（北京大学）；Mila-Quebec AI Institute（米拉-魁北克人工智能研究院）；HEC Montreal（蒙特利尔高等商学院）
本文研究了基于知识图谱的推荐系统，它可以有效地解决数据稀疏和冷启动问题。最近，已经开发了各种方法来解决这个问题，这些方法通常尝试学习用户和项目的有效表示，然后根据用户的表示将项目与用户匹配。虽然这些方法已经被证明是相当有效的，他们缺乏良好的解释，这是至关重要的推荐系统。在本文中，我们采取了不同的路线，并提出通过找到有意义的路径，从用户到项目生成建议。具体来说，我们制定的问题作为一个顺序的决策过程中，目标用户被定义为初始状态，和图上的边缘被定义为行动。我们根据现有的国家的最先进的方法，然后训练的政策功能与策略梯度方法。在三个真实世界数据集上的实验结果表明，我们提出的方法不仅提供了有效的建议，而且提供了很好的解释。
2022-01-07 cs.AI cs.IR
DReX: An Explainable Deep Learning-based Multimodal Recommendation Framework
University of Delhi, Delhi, India（德里大学）；National Institute of Technology, Warangal, India（印度战争格尔国家理工学院）
DReX通过多模态反馈的交互级特征逐步细化用户和物品表示，提升推荐系统的可解释性和性能。
2026-02-23 cs.AI cs.IR
Robust and Explainable 3D Mode Shape Recognition Using Region-Aware Graph Neural Networks
Siemens Digital Industries Software（西门子数字工业软件）；KU Leuven（根特大学）；Department of Mechanical Engineering（机械工程系）
提出规范工程图表示与区域感知图学习框架，将异构有限元模型和实验测量转化为通用图，通过图注意力学习和区域感知池化实现跨车辆架构的鲁棒3D模态形状识别，并提供物理解释。
2026-07-03 cs.AI cs.CE cs.SY
Patients-like-me: A Variational LM--GNN Framework for Explainable Clinical Prediction
McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Georgia State University（佐治亚州立大学）；Ohio University（俄亥俄大学）
本研究提出Patients-like-me（PLM）这一LM-GNN统一框架，结合局部患者语义与全局队列结构，在MIMIC-III、MIMIC-IV上优于现有方法，可提供可解释的参考患者归因，且计算开销适度。
2026-10-14 cs.AI cs.CL
