Sparse encoding for more-interpretable feature-selecting representations in probabilistic matrix factorization
National Institutes of Health（美国国立卫生研究院）；Clinical Center（临床中心）；NIDDK（糖尿病、消化系统疾病和肾脏疾病研究所）；mederrata
针对层级泊松矩阵分解缺乏编码器稀疏性、可解释性不足的问题，提出用广义加性模型自洽强制编码器稀疏性的方法，兼具特征选择能力，在模拟数据与医保患者共病场景验证了有效性。
2020-12-29 cs.LG q-bio.QM stat.ML
EEG-to-Gait Decoding via Phase-Aware Representation Learning
College of Computing and Data Science, Nanyang Technological University, Singapore 639798（计算与数据科学学院，南洋理工大学，新加坡）；Department of Computer Science and Engineering, Shanghai Jiao Tong University, Shanghai 200240, China（计算机科学与工程系，上海交通大学，上海）；Institute of Neural Engineering, Graz University of Technology, Graz, Austria（神经工程研究所，格拉茨技术大学，奥地利）；Centre of AI in Medicine (C-AIM), Nanyang Technological University, Singapore（医学人工智能中心（C-AIM），南洋理工大学，新加坡）
NeuroDyGait通过相意识表示学习实现EEG到步态解码，提升跨受试者性能并满足实时BCI需求。
2026-02-12 cs.LG eess.SP
Fast, accurate, and interpretable decoding of electrocorticographic signals using dynamic mode decomposition
Osaka University（大阪大学）；Osaka University Graduate School of Medicine（大阪大学大学院医学系研究科）；Institute for Quantum Life Science, National Institutes for Quantum Science and Technology（量子科学技术研究开发机构量子生命科学研究所）；RIKEN Center for Advanced Intelligence Project（理化学研究所智能研究中心）；ATR Neural Information Analysis Laboratories（ATR神经信息分析实验室）
针对基于Grassmann核的动态模态神经解码存在的计算慢、兼容性差、可解释性弱的问题，提出将动态模态转换为空间动态模态特征的方法，在皮层脑电图信号解码中实现了更快、更准确且可解释的效果。
2023-10-31 cs.LG eess.SP
Adaptive Discovery of Interpretable Audio Attributes with Multimodal LLMs for Low-Resource Classification
Kyoto University（京都大学）
本文提出利用多模态大语言模型自适应发现可解释音频属性，提升低资源音频分类的效率和准确性。
2026-03-07 cs.LG cs.SD
Interpretable Partitioned Embedding for Customized Fashion Outfit Composition
Zhejiang University（浙江大学）；Arizona State University（亚利桑那州立大学）；Alibaba Group（阿里巴巴集团）
智能化的时装组合是近年来越来越流行的一种时尚。最近，一些基于深度学习的方法揭示了竞争性组合。然而，不可解释的特性使得这种基于深度学习的方法不能满足设计师、企业和消费者理解服装组成中不同属性的重要性的迫切需要。为了实现可解释的和定制的时装组合，我们提出了一个分区嵌入网络来学习服装项目的可解释表示。整个网络结构由三个部分组成：自动编码器模块，监督属性模块和多独立模块。自动编码器模块用于将所有有用的信息编码到嵌入中。在监督属性模块中，采用多个属性标签，以确保整体嵌入的不同部分对应不同的属性。在多独立模块中，采用对抗操作来实现相互独立的约束。利用可解释的、分块的嵌入，我们构造了一个服装组成图和一个属性匹配图。给定指定的属性描述，我们的模型可以推荐一个排名列表的服装组成与可解释的匹配分数。实验结果表明：（1）该模型所推荐的服装与已有的方法相比，具有更好的嵌入效果。
2018-06-21 cs.CV cs.LG
MoRE-Brain: Routed Mixture of Experts for Interpretable and Generalizable Cross-Subject fMRI Visual Decoding
University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）；Oak Ridge National Laboratory（橡树岭国家实验室）
MoRE-Brain提出分层混合专家架构，通过双阶段路由机制动态加权专家贡献，实现高保真、可解释且跨被试泛化的fMRI视觉解码。
2025-10-07 cs.AI cs.CV cs.HC
Augmenting Interpretable Knowledge Tracing by Ability Attribute and Attention Mechanism
Harbin Normal University（哈尔滨师范大学）
知识追踪的目的是通过对学生过去的答案序列进行建模，跟踪学生在练习活动中知识获取的变化，并预测他们未来的学习成绩。大多数现有的方法忽略了学生的能力是不断变化的或个体之间的差异，并且缺乏模型预测的可解释性。为此，本文提出了一种基于能力属性和注意力机制的新模型。首先对交互序列进行分段，获取学生的能力属性，然后动态地将学生分配到能力相近的组中，并通过计算练习与技能之间的注意力权重来量化练习与技能的相关性，以增强模型的可解释性。我们进行了广泛的实验，并评估了真实的在线教育数据集。结果表明，该模型的预测性能优于5种典型的知识追踪模型，并通过推理路径对模型预测结果进行了解释。
2023-02-04 cs.LG
EXACT: Explicit Attribute-Guided Decoding-Time Personalization
Department of Statistics, the Pennsylvania State University, PA, USA（统计系，宾夕法尼亚州立大学）；University of Southern California, CA, USA（南加州大学）
EXACT通过显式属性引导解码时个性化，利用预定义可解释属性提升生成质量，有效缓解上下文偏好变化。
2026-02-06 cs.AI cs.IR cs.LG
An Interpretable Latency Model for Speculative Decoding in LLM Serving
MIT（麻省理工学院）；Red Hat AI（红帽人工智能）
本文提出一个可解释的延迟模型，用于LLM服务中的推测解码，通过Little定律推断有效批处理大小，并分解预填充、草稿和验证的请求需求，以解释延迟变化及系统配置影响。
2026-05-14 cs.LG cs.PF
Decoding Urban-health Nexus: Interpretable Machine Learning Illuminates Cancer Prevalence based on Intertwined City Features
Texas A&M University（德克萨斯农工大学）
本研究利用XGBoost模型分析美国五大都市区数据，揭示年龄、少数族裔和人口密度是癌症患病率关键因素，并发现增加绿地、减少开发区域和排放可缓解癌症患病率。
2023-06-23 cs.CY cs.LG
VecGAN: Image-to-Image Translation with Interpretable Latent Directions
Bilkent University（比尔肯特大学）
我们提出了VecGAN，一个图像到图像的翻译框架，用于具有可解释的潜在方向的面部属性编辑。人脸属性编辑任务面临的挑战是精确的属性编辑与可控的强度和保存图像的其他属性。为了实现这个目标，我们通过潜在空间分解设计了属性编辑，对于每个属性，我们学习了一个与其他属性正交的线性方向。另一个分量是变化的可控强度，即标量值。在我们的框架中，这个标量可以通过投影从参考图像中采样或编码。我们的工作受到固定预训练GANs的潜在空间分解工作的启发。然而，虽然这些模型无法进行端到端的训练，并且很难精确编辑编码图像，但VecGAN是针对图像翻译任务进行端到端训练的，并且成功地编辑了一个属性，同时保留了其他属性。我们广泛的实验表明，VecGAN在本地和全局编辑方面都取得了显着的改进。
2022-07-07 cs.AI cs.CV cs.LG
Learning to Price: Interpretable Attribute-Level Models for Dynamic Markets
IIT Madras, TCS Research（IIT马德拉斯，TCS研究）
本文提出ADEPT算法，通过加性分解模型在动态市场中实现高效且可解释的价格定价。
2026-01-30 cs.AI cs.LG
ELUDE: Generating interpretable explanations via a decomposition into labelled and unlabelled features
Princeton University（普林斯顿大学）
在过去的十年里，深度学习模型在机器学习的不同领域取得了巨大的成功;然而，这些模型的规模和复杂性使它们难以理解。为了使它们更易于解释，最近的几项工作专注于通过人类可解释的语义属性来解释深层神经网络的部分。然而，仅仅使用语义属性可能无法完全解释复杂的模型。在这项工作中，我们建议增加这些属性与一小部分不可解释的功能。具体来说，我们开发了一种新的解释框架ELUDE（通过标记和未标记DEcomposition解释），将模型的预测分解为两部分：一部分是通过语义属性的线性组合可解释的，另一部分是依赖于一组不可解释的特征。通过识别后者，我们能够分析模型中“无法解释”的部分，从而深入了解模型所使用的信息。我们表明，未标记的特征集可以推广到使用相同特征空间训练的多个模型，并将我们的工作与两种流行的面向属性的方法（可解释基础分解和概念瓶颈）进行比较，并讨论ELUDE提供的其他见解。
2022-06-16 cs.CV cs.LG
Interpretable Few-shot Learning with Online Attribute Selection
School of Computer Science（计算机科学学院）；Carleton University（卡尔顿大学）
提出基于人类友好属性的少样本学习内在可解释模型，通过在线属性选择和未知属性扩充机制，在四个数据集上达到黑盒模型性能并提升决策可解释性。
2025-03-31 cs.CV cs.LG
Decoding Extrahepatic Targeting of Lipid Nanoparticles with Interpretable Machine Learning
University of Southern California（南加利福尼亚大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；East Tennessee State University（东田纳西州立大学）
本研究用可解释机器学习预测脂质纳米颗粒的肝外积聚，识别关键脂质设计规则，为肝外RNA递送提供指导。
2026-09-17 cs.CE cs.LG q-bio.QM
An interpretable latent variable model for attribute applicability in the Amazon catalogue
University of Oxford（牛津大学）；Amazon（亚马逊）
学习亚马逊目录中产品的属性适用性（例如，预测鞋应该具有尺寸的值，而不是电池类型的值是一个挑战。对可解释模型的需求取决于（1）缺乏地面实况训练数据，（2）需要利用有关潜在空间的先验信息，以及（3）了解新的、看不见的数据的预测质量的能力。为此，我们开发了MaxMachine，这是一种概率潜变量模型，它可以学习分布式二进制表示，与可能在数据中共同出现的特征集相关联。MaxMachines的层可以堆叠，以便更高层编码更抽象的信息。任何一组变量都可以被钳制以编码先验信息。我们开发了基于快速采样的后验推理。初步结果表明，该模型在19个产品组中的17个中比基线有所改进，并提供了定性合理的预测。
2017-12-04 cs.LG stat.ML
Attri-VAE: attribute-based interpretable representations of medical images with variational autoencoders
Universitat Pompeu Fabra（庞培法布拉大学）；Vicomtech Foundation（Vicomtech基金会）；ICREA（加泰罗尼亚研究与高等教育学院）
深度学习（DL）方法，其中可解释性本质上被认为是模型的一部分，需要更好地理解临床和基于成像的属性与DL结果的关系，从而促进它们在医疗决策背后的推理中的使用。使用变分自编码器（VAE）构建的潜在空间表示不能确保对数据属性的单独控制。文献中已经提出了基于属性的方法，用于基准数据中的经典计算机视觉任务。在本文中，我们提出了一种VAE方法，属性VAE，其中包括一个属性正则化项，将临床和医学成像属性与生成的潜在空间中的不同正则化维度相关联，从而能够更好地解释属性。此外，生成的注意力地图解释了正则化潜在空间维度中的属性编码。使用属性VAE方法，我们分析了健康和心肌梗死患者的临床，心脏形态学和放射组学属性。该模型提供了一个很好的权衡重建保真度，解纠缠，和可解释性，优于国家的最先进的VAE方法根据几个定量指标。由此产生的潜在空间允许在两个不同输入样本之间的轨迹中或沿着特定属性维度生成真实的合成数据，以更好地解释不同心脏状况之间的变化。
2022-12-12 cs.CV cs.LG eess.IV
ML4EJ: Decoding the Role of Urban Features in Shaping Environmental Injustice Using Interpretable Machine Learning
本研究构建可解释机器学习模型，分析城市特征对空气污染、城市热岛和洪水暴露差异的非线性影响，发现社会人口特征最为关键且模型跨区域迁移性有限，为促进社会公平的城市设计政策提供新视角。
2023-10-03 cs.LG
Decoding pedestrian and automated vehicle interactions using immersive virtual reality and interpretable deep learning
Ryerson University（瑞尔森大学）
为了确保在自动驾驶汽车时代行人友好的街道，重新评估城市地区的现行政策，做法，设计，规则和法规至关重要。本研究调查行人过街行为，作为城市动态的一个重要因素，预计将受到自动驾驶汽车的存在。为此，提出了一个可解释的机器学习框架，以探讨在自动驾驶汽车存在的情况下，影响行人在穿过中间街区人行横道前等待时间的因素。为了收集丰富的行为数据，我们开发了一个动态和沉浸式的虚拟现实实验，180名参与者来自大多伦多地区（GTA）4个不同地点的异质人群。然后使用数据驱动的Cox比例风险（CPH）模型分析行人等待时间行为，其中协变量的线性组合被灵活的非线性深度神经网络取代。所提出的模型在拟合优度方面实现了5%的改进，但更重要的是，使我们能够纳入更丰富的协变量集。一个基于博弈论的可解释性方法被用来了解不同的协变量的行人等待过马路前的时间的贡献。结果表明，道路上自动驾驶汽车的存在，更宽的车道宽度，道路上的高密度，有限的视线距离和缺乏步行习惯是导致等待时间延长的主要因素。我们的研究表明，为了向对残疾人友好的城市地区迈进，应考虑国家一级的儿童教育方案，加强老年人的安全措施，推广积极的交通方式，并修订交通规则和条例。
2021-01-05 cs.HC cs.LG
Latent Space Disentanglement via Activation Steering for Interpretable Attribute Control in Symbolic Music Generation
Athens University of Economics；Innovation Lab Orfium Athens, Greece；Department of Music Technology；Acoustics Hellenic Mediterranean University Rethymno, Greece；Institute of Informatics \& Telecommunications National Center for Scientific Research “Demokritos” Athens, Greece；Department of Informatics Athens University of Economics
本文利用差分均值方法从多轨音乐Transformer的残差流中分离音高和时长的潜在方向，并通过Gram-Schmidt正交化实现双属性引导，从而在推理时实现可解释的确定性属性调制。
2026-05-29 cs.AI cs.IR cs.LG
Selective, Interpretable, and Motion Consistent Privacy Attribute Obfuscation for Action Recognition
TU Graz（格拉茨工业大学）；York University（约克大学）
针对现有全局混淆和缺乏可解释性的问题，本文提出人工选择隐私模板与选择性属性混淆方案，实现可解释且时间一致的隐私保护，无需重训练，在三个数据集上优于现有方法。
2024-03-19 cs.CV cs.LG
Learning Attributed Graphlets: Predictive Graph Mining by Graphlets with Trainable Attribute
Nagoya Institute of Technology（名古屋工业大学）
本文提出可解释的图分类算法LAGRA，通过近端梯度下降与图挖掘树搜索结合的高效剪枝策略，训练属性图元（AGs）的权重与属性向量，在保持可解释性的同时取得了优于或可比现有算法（含图神经网络）的预测性能。
2024-02-10 cs.LG
Contextual Semantic Interpretability
Wageningen University（瓦赫宁根大学）；Oxford University（牛津大学）；CMAP, École Polytechnique（巴黎综合理工学院应用数学中心）；IRISA, University Bretagne Sud, CNRS（南布列塔尼大学、法国国家科学研究中心、IRISA）；EPFL（洛桑联邦理工学院）
已知卷积神经网络（CNN）学习捕获与任务相关的概念的图像表示，但是以妨碍模型可解释性的隐式方式这样做。然而，有人可能会说，这种表示隐藏在神经元中，可以通过教模型识别场景中存在的语义可解释属性来显式化。我们将这样的中间层称为\emph{semantic bottleneck}。一旦属性被学习，它们可以被重新组合以达到最终决策，并提供准确的预测和CNN决策背后的明确推理。在本文中，我们将探讨捕获上下文的语义瓶颈：我们希望属性在几个有意义的元素的组中，并共同参与最终决策。我们使用两层语义瓶颈，将属性收集到可解释的稀疏组中，允许它们根据上下文对最终输出做出不同的贡献。我们测试我们的上下文语义可解释的瓶颈（CSIB）的任务，景观scenicness估计和训练的语义可解释的瓶颈使用辅助数据库（SUN属性）。当应用于Flickr图像的真实测试集时，我们的模型产生的预测与不可解释的基线一样准确，同时为每个预测提供清晰和可解释的解释。
2020-09-18 cs.AI cs.CV cs.LG
Who Needs Decoders? Efficient Estimation of Sequence-level Attributes
University of Cambridge（剑桥大学）
针对序列级属性预测，提出非自回归代理（NAP）模型，直接从编码预测标量指标，绕过昂贵自回归解码，在MT的OOD检测和性能预测中优于深度集成且推理高效。
2023-05-09 cs.AI cs.CL cs.LG
Closing the Loop: PID Feedback Control for Interpretable Activation Steering in Symbolic Music Generation
Athens University of Economics and Business（雅典经济与商业大学）；Orfium Research（Orfium 研究）；Hellenic Mediterranean University（希腊地中海大学）；Archimedes / Athena Research Center（阿基米德/雅典娜研究中心）
提出基于PID反馈控制的推理时激活引导框架，通过差分均值法提取音高和时长潜在方向，并利用Gram-Schmidt正交化解耦多属性引导，实现符号音乐生成中细粒度、可解释的属性调制。
2026-06-18 cs.AI cs.LG cs.SD
Interpretable Approximation of High-Dimensional Data
Chemnitz University of Technology（开姆尼茨工业大学）
在本文中，我们应用先前介绍的近似方法的基础上的方差分析（方差分析）分解和分组变换的合成和真实数据。这种方法的优点是近似的可解释性，即，对属性交互作用或变量耦合的重要性进行排序的能力。此外，我们能够生成一个属性的排名，以确定不重要的变量和减少问题的维数。我们比较公开的基准数据集的方法与其他方法。
2021-03-25 cs.LG cs.NA math.NA
Data storytelling meets interpretable machine learning: Decoding AI decisions for non-experts without revealing sensitive data and model details
Renmin University of China（中国人民大学）
本研究将数据叙事与可解释机器学习结合，通过“What-if”和“Why-not”故事及数据脱敏，为非专家解读AI决策，实证显示可及性显著优于传统SHAP可视化。
2026-09-15 cs.AI cs.CL cs.HC
Explaining with Attribute-based and Relational Near Misses: An Interpretable Approach to Distinguishing Facial Expressions of Pain and Disgust
University of Bamberg（班贝格大学）
针对疼痛与厌恶面部表情难以区分的问题，提出基于属性和关系的近似失误对比解释方法，利用可解释规则分类器输出，通过两种相似度度量确定对比实例，验证了时序关系有助于区分二者。
2023-08-27 cs.AI cs.LG
Interpretable Fair Clustering
School of Software, Dalian University of Technology（大连理工大学软件学院）
本文提出了一种可解释且公平的聚类框架，通过整合公平性约束到决策树结构中，提升聚类的公平性和可解释性。
2025-11-26 cs.LG
Attention Is Indeed All You Need: Semantically Attention-Guided Decoding for Data-to-Text NLG
University of California, Santa Cruz（加州大学圣克鲁兹分校）
自从神经模型在数据到文本的语言生成中被采用以来，它们总是依赖于外部组件来提高其语义准确性，因为模型通常不具有生成可靠地提到输入中提供的所有信息的文本的能力。在本文中，我们提出了一种新的解码方法，从编码器-解码器模型的交叉注意中提取可解释的信息，并使用它来推断生成的文本中提到了哪些属性，随后用于重新评分波束假设。使用T5和BART的这种解码方法，我们在三个数据集上展示了它在生成的输出中显着减少语义错误的能力，同时保持其最先进的质量。
2021-09-15 cs.CL cs.LG
Neural Probabilistic Circuits: Enabling Compositional and Interpretable Predictions through Logical Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；College of William and Mary（威廉与玛丽学院）
提出神经概率电路（NPC），通过属性识别与概率电路逻辑推理实现组合式可解释预测，三阶段训练，理论误差有界，在四个基准上性能媲美黑盒模型且可解释性更强。
2025-01-20 cs.AI cs.LG
Random Subspace Mixture Models for Interpretable Anomaly Detection
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Maryland（马里兰大学）
我们提出了一种新的基于子空间的方法来构建高维数据的概率模型，并强调其在异常检测中的应用。该方法是基于概率密度的统计估计，使用随机子空间的密度与几何平均相结合。在选择随机子空间时，使用每个属性的相等表示来确保正确的统计极限。高斯混合模型（GARCH）用于创建每个子空间的概率密度，包括减轻奇异性的技术，允许处理数值和类别属性的能力。通过贝叶斯信息准则自动确定每个GMM的分量数，以防止过拟合。与针对基准异常检测数据集的突出算法相比，所提出的算法获得了具有竞争力的AUC分数，并具有简单，可扩展和可解释的额外好处。
2021-08-13 cs.AI cs.LG stat.ML
Do Users Benefit From Interpretable Vision? A User Study, Baseline, And Dataset
Freie Universität Berlin（柏林自由大学）；Weizenbaum Institut Berlin（柏林魏森鲍姆研究所）；TU Berlin（柏林工业大学）
存在多种方法来解释图像分类模型。然而，与简单地比较各种输入和模型各自的预测相比，它们是否为用户提供了任何好处仍不清楚。我们进行了一项用户研究（N=240），以测试这样的基线解释技术对基于概念和反事实的解释。为此，我们贡献了一个合成数据集生成器，能够偏置单个属性并量化它们与模型的相关性。在一项研究中，我们评估参与者是否能够识别与地面事实相比的相关属性集。我们的研究结果表明，基线优于基于概念的解释。来自可逆神经网络的反事实解释与基线相似。尽管如此，它们仍然允许用户更准确地识别某些属性。我们的研究结果强调了衡量用户对模型偏差的推理能力的重要性，而不是仅仅依赖于技术评估或代理任务。我们开源了我们的研究和数据集，因此它可以作为未来研究的蓝图。有关代码，请参见https://github.com/berleon/do_users_benefit_from_interpretable_vision
2022-04-25 cs.AI cs.CV cs.HC
Interpretable MEG Decoding of Perceived Speech: Cortical Sources and the Stimulus Features That Drive Retrieval
HSE University（高等经济大学）；ITMO University（ITMO大学）
本研究重新设计MEG到音频检索架构，在MEG-MASC数据集上实现39.75±0.34%的Top-1准确率，通过源映射与输入干预明确了驱动语音检索的关键刺激特征。
2026-08-04 cs.LG cs.SD q-bio.NC
Bayesian Time-Series Classifier for Decoding Simple Visual Stimuli from Intracranial Neural Activity
Isfahan University of Technology（伊斯法罕理工大学）；Worcester Polytechnic Institute（伍斯特理工学院）；Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）
针对颅内神经数据有限且具随机性的问题，提出可解释的贝叶斯时间序列分类器BTsC，用于解码视觉颜色刺激，并在4名患者数据上达到75.55%的平均准确率。
2023-07-28 cs.LG eess.SP q-bio.NC
Decoding Federated Learning: The FedNAM+ Conformal Revolution
UC San Diego（加州大学圣地亚哥分校）；ECE（电子工程系）；CSE（计算机科学与工程系）
本文提出FedNAM+框架，通过集成NAMs与共形预测方法，利用梯度敏感度图实现可解释且高效的像素级不确定性估计，在多个数据集上验证了其高精度与低计算开销的优势。
2025-06-28 cs.CV cs.LG
Verbalized Graph Representation Learning: A Fully Interpretable Graph Model Based on Large Language Models Throughout the Entire Process
Huazhong Agricultural University（华中农业大学）
针对传统GNN语义理解与推理能力不足、可解释性差，现有LLM与GNN结合方法仅部分可解释的问题，提出全流程可解释的言语化图表示学习方法VGRL，将参数空间约束为文本描述，经实验验证有效，为图表示学习提供新路径。
2024-10-04 cs.LG
Graph Grounded Cross Attention Transformer Neural Network for Structurally Constrained Full Event Sequence Generation in Predictive Process Monitoring
Department of Computer Science, University of Milan（米兰大学计算机科学系）
提出图锚定交叉注意力Transformer（GGATN），通过全局过程图作为结构化记忆、Transformer自注意力编码序列位置、图锚定交叉注意力注入过程拓扑，结合维特比式图约束解码，一次性生成完整事件序列，在六个基准日志上优于LLM基线。
2026-06-18 cs.AI cs.LG
Disentangling Interpretable Generative Parameters of Random and Real-World Graphs
University College London（伦敦大学学院）；Microsoft Research Cambridge（微软剑桥研究院）
虽然存在各种各样的可解释的图形生成程序，匹配观察到的图形拓扑结构与这些程序和选择其参数仍然是一个悬而未决的问题。设计生成模型，密切再现现实世界的图形需要领域知识和耗时的模拟。虽然现有的深度学习方法依赖于较少的手动建模，但它们几乎没有提供可解释性。这项工作的方法图生成（解码）的逆图压缩（编码）。我们表明，在一个以解纠缠为重点的深度自动编码框架中，特别是Beta-变分自编码器（Beta-VAE），生成过程及其参数的选择自然出现在潜在空间中。我们的模型能够学习解纠缠的，可解释的潜变量，这些潜变量代表程序生成的随机图和真实世界的图的生成参数。解纠缠的程度是使用互信息间隙（Mutual Information Gap，简称ISI）来定量测量的。当在ER随机图上训练我们的Beta-VAE模型时，它的潜变量与ER随机图参数n和p有一个接近一对一的映射。我们部署该模型来分析图拓扑和节点属性之间的相关性，测量它们的相互依赖性，而无需手工挑选拓扑属性。
2019-11-06 cs.LG cs.SI nlin.CD
Interpretable Fuzzy Modeling Reveals Population-Level Representation Differences in P300 Brain Computer Interfaces Across Neurodivergent and Neurotypical Cohorts
Department of Management, Griffith Business School（管理学院，格里菲斯商学院）；Department of Neuroscience, Perelman School of Medicine, University of Pennsylvania（神经科学系，佩尔曼医学学院，宾夕法尼亚大学）；Marketing Department, Wharton School of Business, University of Pennsylvania（营销系，沃顿商学院，宾夕法尼亚大学）；Department of Psychology, School of Arts and Sciences, University of Pennsylvania（心理学系，艺术与科学学院，宾夕法尼亚大学）
本文提出可解释的模糊时空框架用于P300分类，分析不同群体在波形形态和表征几何上的系统性差异，揭示群体异质性对解码性能及模型学习结构的影响。
2026-04-04 cs.HC cs.LG eess.SP
Data is Moody: Discovering Data Modification Rules from Process Event Logs
Airbus Operations GmbH（空中客车运营有限公司）；Stahl-Holding-Saar（萨尔钢铁控股公司）；CISPA Helmholtz Center for Information Security（CISPA赫尔姆霍茨信息安全中心）
针对事件日志中属性数据变化规则挖掘缺失的问题，提出基于MDL原理的Moody算法，以发现简洁可解释的if-then规则，实验证明其高效、鲁棒且需少量数据。
2023-12-22 cs.LG
Explaining Neural Networks by Decoding Layer Activations
Institute of Information Systems, University of Liechtenstein（列支敦士登大学信息系统学院）；Department of Information Systems, HEC, University of Lausanne（洛桑大学高等商学院信息系统系）
我们提出了一个“CLAsifier-Decoder”架构（\emph{ClaDec}），便于理解的输出任意层的神经网络（NN）。它使用解码器将给定层的不可解释表示转换为与人类熟悉的领域更相似的表示。在图像识别问题中，通过将\emph{ClaDec}的重构图像与用作参考的传统自动编码器（AE）的重构图像进行对比，可以识别层表示什么信息。我们还扩展了\emph{ClaDec}，允许人类的可解释性和保真度之间的权衡。我们评估我们的方法使用卷积神经网络的图像分类。我们表明，重建的可视化使用编码从一个分类器捕获更多的相关信息比传统的AE分类。相关代码可在\url{https://github.com/JohnTailor/ClaDec}上获得
2021-02-26 cs.LG stat.ML
Leakage Safe Graph Features for Interpretable Fraud Detection in Temporal Transaction Networks
The University of Tulsa（塔尔萨大学）
本文提出了一种用于时间交易网络中可解释欺诈检测的泄漏安全图特征提取方法，通过构建交易图并计算结构描述符，结合因果变异特征和随机森林分类器，提升欺诈检测的可解释性和实用性。
2026-02-24 cs.CR cs.LG
Explicit modelling of subject dependency in BCI decoding
University of Trento（特伦托大学）；University of Bologna（博洛尼亚大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
针对BCI受试者差异大、标注数据少的问题，提出以受试者身份为条件的轻量级CNN端到端方法，并结合超参数优化与两种条件机制，实现少校准数据下的高效泛化。
2025-09-27 cs.HC cs.LG
Attribute-based Regularization of Latent Spaces for Variational Auto-Encoders
Center for Music Technology, Georgia Institute of Technology（佐治亚理工学院音乐技术中心）
使用深度生成模型对数据属性进行选择性操作是一个活跃的研究领域。在本文中，我们提出了一种新的方法来构造变分自动编码器（VAE）的潜在空间，以显式地编码不同的连续值属性。这是通过使用属性正则化损失来实现的，该属性正则化损失强制属性值与属性将被编码的维度的潜在代码之间的单调关系。因此，在训练后，模型可以通过简单地改变相应正则化维度的潜在代码来操纵属性。从几个定量和定性的实验结果表明，所提出的方法导致解开和可解释的潜在空间，可用于有效地操纵广泛的数据属性跨越图像和符号音乐域。
2020-07-29 cs.LG stat.ML
GrASP: A Library for Extracting and Exploring Human-Interpretable Textual Patterns
Imperial College London（伦敦帝国学院）；IBM Research（IBM研究院）
数据探索是每个数据科学和机器学习项目的重要步骤，包括涉及文本数据的项目。我们提供了一种新颖的语言工具，以公开可用的Python库的形式从文本数据中提取模式。该库集成了现有GrASP算法的第一个公共实现。它允许用户使用一些通用的内置语言属性（如上位词，词性标签和句法依赖标签）提取模式，如原始算法所设想的那样，以及特定于域的自定义属性，这些属性可以通过实现两个函数并入库中。该库配备了一个基于Web的界面，使人类用户能够方便地探索数据，通过提取的模式，使用互补的模式为中心和以示例为中心的意见：前者包括自然语言的阅读和统计每个提取的模式;后者显示每个提取的模式应用程序的训练样本。我们证明了有用的分类（垃圾邮件检测和参数挖掘），模型分析（机器翻译），并在数据集（SNLI和20新闻组）的文物发现库。
2022-06-16 cs.AI cs.CL cs.LG
Revealing interpretable object representations from human behavior
National Institute of Mental Health（美国国家精神卫生研究所）
为了研究心理对象表征如何与行为相关，我们使用人类对代表1，854个对象类别的图像的行为判断来估计对象的稀疏非负表征。这些表征预测了对象之间的潜在相似性结构，这捕获了人类行为判断中大部分可解释的差异。在低维嵌入的各个维度被认为是高度可重复的和可解释的分类成员，功能和感知属性的传达程度。我们进一步证明了嵌入解释其他形式的人类行为的预测能力，包括分类，典型性判断和特征评级，这表明维度反映了人类对特定任务之外的对象的概念表征。
2019-01-09 cs.CV cs.LG q-bio.NC
PTSM: Physiology-aware and Task-invariant Spatio-temporal Modeling for Cross-Subject EEG Decoding
本文提出PTSM框架，通过双分支掩码与信息论解纠缠约束，在跨被试EEG解码中实现零样本泛化并超越现有方法。
2025-08-15 cs.AI cs.LG
IntroVAC: Introspective Variational Classifiers for Learning Interpretable Latent Subspaces
University of Padova（帕多瓦大学）
学习复杂数据的有用表示多年来一直是广泛研究的主题。随着深度神经网络的普及，变分自编码器获得了大量关注，因为它们基于编码器/解码器架构提供了数据分布的显式模型，该架构能够生成图像并在低维子空间中对其进行编码。然而，潜在的空间是不容易解释和生成能力显示出一些限制，因为图像通常看起来模糊，缺乏细节。在本文中，我们提出了内省变分分类器（IntroVAC），该模型通过利用来自附加标签的信息来学习可解释的潜在子空间，并通过对抗训练策略来提高图像质量。我们表明，IntroVAC能够学习潜在空间中有意义的方向，从而实现对图像属性的细粒度操作。我们在CelebA数据集上验证了我们的方法。
2020-09-14 cs.CV cs.LG stat.ML
Fully-hierarchical fine-grained prosody modeling for interpretable speech synthesis
Google Brain（谷歌大脑）
本文在Tacotron 2文语转换模型的基础上，提出了一种层次化、细粒度、可解释的韵律潜变量模型。它实现了韵律的多分辨率建模，通过调节较细的水平表示的粗水平的。此外，它使用具有自回归结构的条件变分自动编码器（VAE）在所有潜在维度上施加分层条件。重建性能的评价表明，新的结构不会降低模型，同时允许更好的可解释性。韵律属性的解释提供了词级和音素级的韵律表征之间的比较。此外，定性和定量的评价被用来证明潜在的维度的解纠缠的改善。
2020-02-06 cs.LG cs.SD eess.AS
Extracting representations of cognition across neuroimaging studies improves brain decoding
Inria（法国国家信息与自动化研究所）；CEA（法国原子能与替代能源委员会）；Univ. Paris Saclay（巴黎萨克雷大学）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）
认知脑成像正在积累关于许多不同心理过程的神经基质的数据集。然而，大多数研究基于少数受试者，统计功效较低。跨研究分析数据可以带来更大的统计功效;然而，目前的脑成像分析框架无法大规模使用，因为它需要将所有认知任务都纳入统一的理论框架。我们介绍了一种新的方法来分析大脑的反应，跨任务的心理过程没有一个联合模型。该方法通过将具有特定认知焦点的小型研究与探索较少焦点的心理过程的大型研究联合分析，提高了小型研究的统计功效。我们的方法提高了35个广泛不同的功能成像研究的80%的解码性能。它以数据驱动的方式，通过预测心理过程的共同大脑表征来发现任务之间的共性。这些大脑网络被调整到心理操纵。它们勾勒出了可解释的和合理的大脑结构。提取的网络已经可用;它们可以很容易地在新的神经成像研究中重复使用。我们提供了一个多学习解码工具，以适应新的数据。
2021-05-19 cs.CV cs.LG q-bio.QM
DisParQ: Self-Supervised Part Concepts for Interpretable Vision Foundation Models
Jagiellonian University（雅盖隆大学）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Ardigen SA（Ardigen公司）
DisParQ通过自监督学习从冻结的视觉骨干中提取离散部件概念，无需标签或语言，在ImageNet线性探测达到83.2%的top-1准确率，并支持跨类别部件检索。
2026-10-08 cs.AI cs.CV cs.LG
