Automated discovery of interpretable gravitational-wave population models
Flatiron Institute（熨斗研究所）；Princeton University（普林斯顿大学）
我们提出了一个自动的方法来发现分析人口模型的引力波（GW）事件的数据。随着更多的引力波（GW）事件被检测到，灵活的模型，如高斯混合模型已变得更加重要，在拟合GW属性的分布，由于他们的表达。然而，灵活的模型带有许多缺乏物理动机的参数，使得解释这些模型的含义具有挑战性。在这项工作中，我们证明了符号回归可以补充灵活的模型，通过蒸馏的后验预测分布，这种灵活的模型到可解释的分析表达式。我们恢复常见的GW人口模型，如幂律加高斯，并找到一个新的经验人口模型相结合的准确性和简单性。这展示了一种在不断增长的GW目录中自动发现可解释的人口模型的策略，该策略可以应用于其他天体物理现象。
2022-07-25 astro-ph.HE astro-ph.IM cs.LG
An aggregate learning approach for interpretable semi-supervised population prediction and disaggregation using ancillary data
UCLouvain（鲁汶天主教大学）
人口普查数据以粗略的分辨率提供有关人口特征的详细信息。然而，越来越需要精细，高分辨率的人口计数映射来描述人口动态，并评估气候冲击，自然灾害，基础设施投资，发展政策等的后果。在本文中，我们建议在聚合学习范式的背景下看待这个问题，其中所有训练点的输出值是未知的，但它只知道点的聚合（即在这种情况下，对于可进行人口普查的像素区域）。我们用一个非常简单和可解释的模型证明，尽管这种方法很简单，但它在某些指标上甚至优于最先进的指标。
2019-06-29 cs.LG stat.ML
From Correlation to Causation: Formalizing Interpretable Machine Learning as a Statistical Process
DKFZ（德国癌症研究中心）；ETH Zürich（苏黎世联邦理工学院）
可解释人工智能（XAI）在安全关键系统中是必需的，例如在临床诊断中，由于致命决策的风险很高。然而，目前，XAI类似于一个松散的方法集合，而不是一个定义良好的过程。在这项工作中，我们阐述了XAI，可解释机器学习（IML）和经典统计学的最大子组之间的概念相似性。基于这些相似之处，我们提出了一个正式的IML沿线的统计过程。采用这种统计观点使我们能够将机器学习模型和IML方法解释为复杂的统计工具。基于这种解释，我们推断出三个关键问题，我们认为这是至关重要的成功和采用IML的安全关键设置。通过制定这些问题，我们进一步的目标是引发关于IML与经典统计学的区别以及我们的观点对该领域未来的意义的讨论。
2022-07-11 cs.AI cs.CV cs.LG
Interpretable Machine Learning for Discovery: Statistical Challenges \& Opportunities
Rice University（莱斯大学）；Baylor College of Medicine（贝勒医学院）
本文综述了 Interpretable Machine Learning 在科学发现中的应用，重点探讨了在监督和无监督环境下生成新知识的技术，并以数据划分、稳定性及统计推断等理论与实践视角分析了验证发现的重大挑战。
2023-08-02 cs.LG stat.ME stat.ML
Interpretable Assessment of Fairness During Model Evaluation
LinkedIn Corporation（领英公司）
对于开发产品或算法的公司来说，不仅要了解全球范围内的潜在影响，还要了解对用户亚群的影响。特别是，重要的是要检测是否有某些用户组在业务指标方面受到与其他用户组不同的影响，或者模型是否在公平性问题上对他们进行了不平等的处理。在本文中，我们引入了一种新的层次聚类算法来检测用户之间的异质性，在给定的子种群集合中，任何指定的组相似性的概念。我们证明了统计保证的输出，并提供可解释的结果。我们证明了该算法的性能从LinkedIn的真实数据。
2020-10-26 cs.LG stat.ME
Interpretable Fuzzy Modeling Reveals Population-Level Representation Differences in P300 Brain Computer Interfaces Across Neurodivergent and Neurotypical Cohorts
Department of Management, Griffith Business School（管理学院，格里菲斯商学院）；Department of Neuroscience, Perelman School of Medicine, University of Pennsylvania（神经科学系，佩尔曼医学学院，宾夕法尼亚大学）；Marketing Department, Wharton School of Business, University of Pennsylvania（营销系，沃顿商学院，宾夕法尼亚大学）；Department of Psychology, School of Arts and Sciences, University of Pennsylvania（心理学系，艺术与科学学院，宾夕法尼亚大学）
本文提出可解释的模糊时空框架用于P300分类，分析不同群体在波形形态和表征几何上的系统性差异，揭示群体异质性对解码性能及模型学习结构的影响。
2026-04-04 cs.HC cs.LG eess.SP
Statistical learning for accurate and interpretable battery lifetime prediction
Stanford University（斯坦福大学）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Ginzton Laboratory, Stanford University（斯坦福大学金兹顿实验室）
电池寿命预测的数据驱动方法正吸引越来越多的关注，在应用程序中的退化机制知之甚少，合适的训练集是可用的。然而，虽然先进的机器学习和深度学习方法可以在最少的数据预处理的情况下实现高性能，但具有工程特征的更简单的线性模型通常可以实现相当的性能，特别是对于小的训练集，同时还提供物理和统计可解释性。在这项工作中，我们使用以前发布的数据集来开发简单，准确和可解释的数据驱动模型，用于电池寿命预测。我们首先提出了“容量矩阵”的概念，作为一个紧凑的表示电池电化学循环数据，以及一系列的功能表示。然后，我们创建了许多单变量和多变量模型，其中许多模型的性能与之前为此数据集发布的最高性能模型相当。这些模型还提供了对这些细胞降解的见解。我们的方法既可以用于快速训练新数据集的模型，也可以用于对更先进的机器学习方法的性能进行基准测试。
2021-04-24 cond-mat.mtrl-sci cs.LG stat.AP
Interpretable Phase Detection and Classification with Persistent Homology
University of Amsterdam（阿姆斯特丹大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们应用持久的同源性的任务，发现和表征相变，使用晶格自旋模型的统计物理工作的例子。持久性图像提供了用于进行统计任务的同调数据的有用表示。为了识别相变，对这些图像进行简单的逻辑回归对于我们考虑的模型是足够的，然后从回归的权重中读取可解释的序参量。磁化强度、阻挫和涡旋-反涡旋结构被确定为表征相变的相关特征。
2020-12-01 cond-mat.stat-mech cs.LG math.AT
Statistical-Neural Interaction Networks for Interpretable Mixed-Type Data Imputation
Graduate School of Human Sciences, Waseda University（早稻田大学人类科学研究生院）；Faculty of Human Sciences, Waseda University（早稻田大学人类科学学院）
SNI通过结合统计先验和神经注意力实现可解释的混合类型数据填补，提供依赖诊断和权衡参数，优于部分基线方法。
2026-01-18 cs.LG stat.ML
Statistical Embeddings for Similarity, Retrieval, and Interpretable Alignment of Numeric Tabular Datasets
Idaho National Laboratory（爱达荷国家实验室）
提出一种通过结构化探索性数据分析描述符、句子变换器嵌入和典型相关分析（CCA）来表征和比较数值表格数据集的方法，实现跨数据集的相似性检索和可解释变量级对齐，并支持差分隐私。
2026-05-28 cs.LG stat.AP stat.ML
INSHAPE: Instance-Level Shapelets for Interpretable Time-Series Classification
Department of Artificial Intelligence, Korea University（韩国大学人工智能系）
本文提出INSHAPE框架，通过发现每个时间序列特有的变量长度判别性时间模式，解决传统方法在实例特定特征与整体模式不一致以及忽略时间依赖性的问题，从而提高时间序列分类的可解释性和预测性能。
2026-08-14 cs.AI cs.LG
Interpretable statistical feature engineering for early disruption prediction in the short pulse ADITYA tokamak
Group in Computational Science and HPC, Dhirubhai Ambani University（计算科学与高性能计算组，迪鲁拜·安巴尼大学）
本研究针对短脉冲ADITYA托卡马克，开发了基于统计特征与随机森林分类器的可解释机器学习框架，实现了高准确率的早期破裂预测，为短脉冲托卡马克实时等离子体控制提供了实用方案。
2026-08-25 cs.LG physics.data-an physics.plasm-ph
LearnAD: Learning Interpretable Rules for Brain Networks in Alzheimer's Disease Classification
Department of Computing（计算系）；Imperial College London（伦敦帝国学院）；School of Public Health（公共卫生学院）
LearnAD通过学习可解释的规则，实现了在阿尔茨海默病分类中识别脑网络的高可解释性方法。
2025-12-30 cs.AI cs.LG
Multimodal brain age estimation using interpretable adaptive population-graph learning
Imperial College London（伦敦帝国理工学院）；King’s College London（伦敦国王学院）；Technical University of Munich（慕尼黑工业大学）
针对静态群体图构建难、影响GCN性能的问题，提出端到端自适应群体图学习框架，用注意力机制加权多模态特征建图，提升可解释性，在UK Biobank脑年龄任务上性能优于现有方法。
2023-07-19 cs.CV cs.LG
SynapsNet: Enhancing Neuronal Population Dynamics Modeling via Learning Functional Connectivity
University of British Columbia（不列颠哥伦比亚大学）
提出深度学习框架SynapsNet，通过学习神经元间的功能连接性来建模群体动力学，在多种记录模态和任务中显著提升了群体活动预测性能，并准确揭示了神经元间的预测性相互作用。
2024-11-12 cs.LG q-bio.NC
Integrating Statistical and Machine Learning Approaches to Identify Receptive Field Structure in Neural Populations
Boston University（波士顿大学）；Brandeis University（布兰迪斯大学）
神经元可以同时编码多个变量，神经科学家通常对基于神经元的感受野特性对神经元进行分类感兴趣。统计模型为确定影响神经发放活动的因素和对单个神经元进行分类提供了强有力的工具。然而，随着神经记录技术的发展，可以从大量人群中同时产生尖峰数据，经典的统计方法往往缺乏处理这些数据所需的计算效率。机器学习（ML）方法以实现高效的大规模数据分析而闻名;然而，它们通常需要具有平衡数据的大量训练集，以及准确的标签以适应良好。此外，ML的模型评估和解释通常比经典统计方法更具挑战性。为了解决这些挑战，我们开发了一个综合框架，结合统计建模和机器学习方法来识别来自大种群的神经元的编码特性。为了证明这一框架，我们应用这些方法的数据从一个人口的神经元记录从大鼠海马的空间感受野的分布特征在这个地区。
2022-10-27 cs.LG q-bio.NC
VINE: Visualizing Statistical Interactions in Black Box Models
Georgia Institute of Technology（佐治亚理工学院）
随着机器学习变得越来越普遍，迫切需要对预测模型进行可解释的解释。先前的工作已经开发了有效的方法来可视化全局模型行为，以及生成本地（特定于实例）的解释。然而，相对较少的工作已经解决了区域的解释-如何组相似的实例在一个复杂的模型中的行为，以及可视化统计特征的相互作用的相关问题。缺乏可用于这些分析需求的实用程序阻碍了关键任务，透明和符合社会目标的模型的开发。我们提出了VINE（视觉交互效应），一种新的算法来提取和可视化黑盒模型中的统计交互效应。我们还提出了一种新的评价指标，用于可解释的ML空间中的可视化。
2019-04-01 cs.LG stat.ML
Principal Differences Analysis: Interpretable Characterization of Differences between Distributions
MIT（麻省理工学院）
我们引入主差分析（PDA）来分析高维分布之间的差异。该方法通过找到最大化所得到的单变量群体之间的Wasserstein散度的投影来操作。依靠克莱默-沃尔德装置，它不需要对底层分布的形式进行假设，也不需要对其类间差异的性质进行假设。介绍了一种稀疏的方法来识别负责的差异功能。我们提供的算法，为原来的极大极小制定以及其半定松弛。除了得到一些收敛的结果，我们说明了如何可以应用该方法来确定细胞群之间的差异，在体感皮层和海马表现为单细胞RNA-seq。我们更广泛的框架超出了Wasserstein分歧的具体选择。
2015-10-30 cs.LG stat.ME stat.ML
Interpretable machine learning of amino acid patterns in proteins: a statistical ensemble approach
Università di Padova（帕多瓦大学）；INFN（意大利国家核物理研究院）
本文提出一种统计集成方法整合机器学习模型的解释，利用受限玻尔兹曼机揭示α-螺旋和β-折叠末端的五氨基酸序列模式，发现氨基酸在二级结构两亲性模式中的意外作用规律。
2023-03-27 cond-mat.stat-mech cs.LG q-bio.BM
Random Subspace Mixture Models for Interpretable Anomaly Detection
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Maryland（马里兰大学）
我们提出了一种新的基于子空间的方法来构建高维数据的概率模型，并强调其在异常检测中的应用。该方法是基于概率密度的统计估计，使用随机子空间的密度与几何平均相结合。在选择随机子空间时，使用每个属性的相等表示来确保正确的统计极限。高斯混合模型（GARCH）用于创建每个子空间的概率密度，包括减轻奇异性的技术，允许处理数值和类别属性的能力。通过贝叶斯信息准则自动确定每个GMM的分量数，以防止过拟合。与针对基准异常检测数据集的突出算法相比，所提出的算法获得了具有竞争力的AUC分数，并具有简单，可扩展和可解释的额外好处。
2021-08-13 cs.AI cs.LG stat.ML
WEITS: A Wavelet-enhanced residual framework for interpretable time series forecasting
Jilin University（吉林大学）；Georgia Institute of Technology（佐治亚理工学院）
针对深度时序预测可解释性不足且优化复杂的问题，提出频率感知框架 WEITS，利用多级小波分解与前后向残差架构兼顾表示能力、统计可解释性和计算效率。
2024-05-17 cs.AI cs.LG
Individualized Risk Assessment of Preoperative Opioid Use by Interpretable Neural Network Regression
University of Michigan（密歇根大学）
据报告，术前阿片类药物使用与术前阿片类药物需求量较高、术后结局较差以及术后医疗保健利用和支出增加相关。了解术前使用阿片类药物的风险有助于建立以患者为中心的疼痛管理。在机器学习领域，深度神经网络（DNN）因其超强的预测能力而成为风险评估的有力手段;然而，黑箱算法可能使结果不如统计模型可解释。为了弥合统计和机器学习领域之间的差距，我们提出了一种新的可解释神经网络回归（INNER），它结合了统计和DNN模型的优势。我们使用拟议的INNER对术前阿片类药物使用进行个体化风险评估。在镇痛结局研究（AOS）中，对34，186名预期手术的患者进行了深入的模拟和分析，结果表明，拟议的INNER不仅可以使用术前特征作为DNN准确预测术前阿片类药物的使用，而且还可以估计患者使用阿片类药物而没有疼痛的特定几率以及阿片类药物使用的比值比报告的整体身体疼痛增加一个单位，导致对使用阿片类药物的倾向比DNN更直接的解释。我们的研究结果确定了与阿片类药物使用密切相关的患者特征，并且与以前的研究结果基本一致，证明INNER是术前阿片类药物使用个体化风险评估的有用工具。
2022-05-07 cs.LG stat.AP
Extracting Interpretable Models from Tree Ensembles: Computational and Statistical Perspectives
MIT（麻省理工学院）；University of Sydney（悉尼大学）
本文提出一种提取树集成中简洁决策规则的估计器，通过灵活控制规则数量和交互深度提升准确性，并建立非渐近预测误差界，实验表明其优于现有规则提取算法。
2026-03-30 cs.LG stat.ML
Interpretable and synergistic deep learning for visual explanation and statistical estimations of segmentation of disease features from medical images
Massachusetts Institute of Technology（麻省理工学院）
用于疾病分类或医学图像分割的深度学习（DL）模型越来越多地使用来自不相关自然世界图像的迁移学习（TL）进行训练。然而，TL在医学成像领域的专门任务的缺点和效用仍然未知，并且基于增加训练数据将提高性能的假设。我们报告了详细的比较，严格的统计分析和广泛使用的DL架构的二进制分割后，TL与ImageNet初始化（TII模型）与监督学习的宏观光学皮肤癌，显微镜前列腺芯活检和计算机断层扫描（CT）DICOM图像的医学图像（LMI模型）的比较。通过对TII和LMI模型输出及其Grad-CAM对应物的目视检查，我们的结果确定了几种违反直觉的情况，其中两种模型对一个肿瘤的自动分割或使用单个模型的各种组合中的单个分割输出掩码导致性能提高10%。我们还报告了复杂的集成DL策略，用于在低数据状态下实现临床级医学图像分割和模型解释。例如：我们所描述的LMI和TII模型的估计性能、解释和可复制性可用于稀疏性促进更好学习的情况。TII和LMI模型、代码和超过10，000个医学图像及其Grad-CAM输出的免费GitHub存储库可用作高级计算医学和DL研究的起点，用于生物医学发现和应用。
2020-11-11 cs.LG stat.ML
N-BEATS: Neural basis expansion analysis for interpretable time series forecasting
Element AI（元素人工智能公司）；Mila（米拉人工智能研究所）
我们专注于使用深度学习解决单变量时间序列点预测问题。我们提出了一种基于向后和向前残差链接的深度神经架构，以及一个非常深的全连接层堆栈。该体系结构具有许多理想的属性，是可解释的，适用于广泛的目标域，无需修改，快速训练。我们测试了几个著名的数据集，包括M3，M4和TOURISM竞争数据集包含来自不同领域的时间序列的建议架构。我们为所有数据集展示了N-BEATS两种配置的最新性能，将预测准确性提高了11%，比去年的M4竞赛冠军提高了3%，M4竞赛是神经网络和统计时间序列模型之间的领域调整手工制作的混合体。我们模型的第一种配置不使用任何时间序列特定的组件，其在异构数据集上的性能强烈表明，与公认的智慧相反，深度学习原语（如残差块）本身足以解决广泛的预测问题。最后，我们演示了如何增强所提出的体系结构，以提供可解释的输出，而不会在准确性上造成相当大的损失。
2020-02-20 cs.LG stat.ML
Recovering Sparse and Interpretable Subgroups with Heterogeneous Treatment Effects with Censored Time-to-Event Outcomes
Carnegie Mellon（卡内基梅隆大学）
涉及随机化实验以及观察性数据的研究通常涉及至事件结局的时间，例如至失败、死亡或不良状况发生的时间。由于失访，这些结局通常会被删失，并且既定的统计实践涉及比较治疗组和对照组之间的风险比方面的治疗疗效。在本文中，我们提出了一种统计方法来恢复稀疏表型（或亚型），表现出差异处理效应相比，研究人群。我们的方法包括将数据建模为混合物，同时通过结构化稀疏正则化来执行参数收缩。我们提出了一种新的推理程序所提出的模型，并证明其在恢复稀疏表型在心血管健康的大型标志性现实世界的临床研究的有效性。
2023-02-24 cs.LG stat.ME stat.ML
An Information-Theoretic Framework for Credit Risk Modeling: Unifying Industry Practice with Statistical Theory for Fair and Interpretable Scorecards
H2O.ai；Center for Trustworthy AI Through Model Risk Management, University of North Carolina Charlotte（可信人工智能通过模型风险管理中心，北卡罗来纳大学夏洛特分校）
本文提出统一的信息论框架，揭示信用风险指标WoE、IV与PSI的本质联系，推导其标准误差以实现假设检验与公平性约束，并通过实验证明基于信息论的分箱策略比编码选择更重要。
2025-09-11 cs.LG stat.ML
Enforcing Interpretability and its Statistical Impacts: Trade-offs between Accuracy and Interpretability
University of Waterloo（滑铁卢大学）；Vector Institute；University of Toronto（多伦多大学）
到目前为止，还没有正式的研究统计成本的可解释性在机器学习。因此，围绕潜在权衡的讨论往往是非正式的，误解比比皆是。在这项工作中，我们的目标是启动这些权衡的正式研究。一个似乎不可逾越的障碍是缺乏任何商定的可解释性定义。相反，我们建议转变视角。而不是试图定义可解释性，我们建议建模的\emph{act}的\emph{enforcing}可解释性。作为一个出发点，我们专注于设置经验风险最小化的二元分类，并将可解释性视为对学习的约束。也就是说，我们假设我们得到了一个被认为是可解释的假设子集，这可能取决于数据分布和上下文的其他方面。然后，我们模型的行为，执行经验风险最小化的一组可解释的假设的可解释性。该模型允许我们使用统计学习理论中的已知结果来推理强制可解释性的统计含义。专注于准确性，我们进行了案例分析，解释为什么一个可能会或可能不会观察到的准确性和可解释性之间的权衡时，限制可解释的分类器不来或不来的一些额外的统计风险的成本。最后，我们用一些工作的例子和一些开放的问题，我们希望这将刺激进一步的理论发展周围的权衡涉及的可解释性。
2020-10-28 cs.LG stat.ML
IDEA: Interpretable Dynamic Ensemble Architecture for Time Series Prediction
The Hong Kong University of Science and Technology（香港科技大学）
我们通过一个可解释的集成来提高单变量时间序列点预测的准确性和泛化能力。我们提出了一个可解释的动态Ensemble架构（IDEA），其中可解释的基础学习者作为一个组，稀疏通信独立地给出预测。该模型是由多个顺序堆叠的组连接的组回溯残差和经常性输入竞争。由端到端培训驱动的横向和纵向包围带来了最先进的（SOTA）性能。与TOURISM数据集上的最佳统计基准相比，预测准确性提高了2.6%，与M4数据集上的最佳深度学习基准相比，预测准确性提高了2%。该体系结构具有几个优点，适用于不同领域的时间序列，可解释给用户专门的模块化结构和强大的任务分配的变化。
2022-01-14 cs.LG
Structural Neural Additive Models: Enhanced Interpretable Machine Learning
Georg-August University（哥廷根大学）；TU Clausthal（克劳斯塔尔工业大学）
深度神经网络（DNN）在广泛的任务中表现出卓越的性能，并已成为解决需要高水平预测能力的问题的首选方法。人们对DNN如何做出决策进行了广泛的研究，然而，本质上不可解释的网络直到今天仍然是不可观察的“黑匣子”。近年来，该领域已经看到了对可解释的神经网络的推动，例如视觉上可解释的神经加法模型（NAM）。我们提出了一个更进一步的可理解性的方向超越了仅仅可视化的功能效果，并提出了结构神经加法模型（SNAM）。一个建模框架，将经典和清晰可解释的统计方法与神经应用程序的预测能力相结合。我们的实验验证了SNAM的预测性能。所提出的框架的性能与最先进的完全连接的DNN相当，我们表明SNAM甚至可以优于NAM，同时保持内在的更可解释性。
2023-02-18 cs.LG stat.CO
Discovering and Steering Interpretable Concepts in Large Generative Music Models
Dartmouth College（达特茅斯学院）；MIT（麻省理工学院）
本文提出了一种基于稀疏自编码器的方法，在大规模生成音乐模型中发现可解释概念，并用于引导模型生成，揭示了传统方法未发现的音乐结构原理。
2026-03-01 cs.LG cs.SD eess.AS
Transparent and Fair Profiling in Employment Services: Evidence from Switzerland
本文通过瑞士行政数据比较传统统计、可解释和黑箱模型，发现可解释 boosting 机器在预测性能上接近最佳黑箱模型，且通过模型稀疏性、特征平滑和公平性缓解可提升透明度和公平性。
2025-09-15 cs.CY cs.LG
Interpretable Neural Causal Models with TRAM-DAGs
HTWG Konstanz（康斯坦茨应用科学大学）
针对现有神经因果模型可解释性不足、适用变量类型受限的问题，提出TRAM-DAG方法，用变换模型建模SCM的函数关系，兼顾可解释性与灵活性，在因果层级各层查询任务中性能达到或优于现有最优模型。
2025-03-20 cs.LG stat.ML
TimePred: efficient and interpretable offline change point detection for high volume data -- with application to industrial process monitoring
Technische Universität Berlin - Machine Learning Group（柏林技术大学-机器学习组）
TimePred通过自监督框架实现高效且可解释的高体积数据突变点检测，适用于工业过程监控，显著降低计算成本并提升检测准确性。
2025-12-01 cs.LG
Interpretable Recurrent Neural Networks Using Sequential Sparse Recovery
University of Washington（华盛顿大学）
循环神经网络（RNN）是处理连续数据的强大而有效的方法。然而，RNN通常被认为是“黑箱”模型，其内部结构和学习参数是不可解释的。在本文中，我们提出了一个可解释的RNN的顺序迭代软阈值算法（SISTA）的基础上解决顺序稀疏恢复问题，该模型与稀疏的潜在向量序列的相关观测序列。由此产生的SISTA-RNN的架构是由SISTA的计算结构隐式定义的，这导致了一种新的堆叠RNN架构。此外，SISTA-RNN的权重完全可以解释为原则性统计模型的参数，在这种情况下，包括稀疏化字典，迭代步长和正则化参数。此外，在特定的顺序压缩感知任务中，SISTA-RNN比传统的最先进的黑盒RNN（包括长短期记忆（LSTM）RNN）训练得更快，性能更好。
2016-11-22 cs.LG stat.ML
A Deep Learning Interpretable Classifier for Diabetic Retinopathy Disease Grading
Universitat Rovira i Virgili（罗维拉-威尔吉利大学）
深度神经网络模型已被证明在图像分类任务中非常成功，也适用于医疗诊断，但其主要问题是缺乏可解释性。它们曾经作为直觉机器工作，具有很高的统计置信度，但无法对报告的结果给出可解释的解释。这些模型的参数数量庞大，很难从中推断出合理的解释。在本文中，我们提出了一种糖尿病视网膜病变可解释的分类器，能够将视网膜图像分类到不同的疾病严重程度，并通过为隐藏空间和输入空间中的每个点分配一个分数来解释其结果，以线性方式评估其对最终分类的贡献。生成的可视化地图可以由专家进行解释，以便将自己的知识与模型给出的解释进行比较。
2017-12-21 cs.CV cs.LG stat.ML
Symbolic Neural ODEs: Learning interpretable models from time-series data
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
该研究提出符号神经常微分方程框架，通过多步训练结合稀疏正则化，从时间序列数据中学习稳定、可泛化的稀疏可解释动力系统模型，可准确恢复多类系统的动力学特性。
2026-08-25 cs.LG cs.SY eess.SY
An interpretable LSTM neural network for autoregressive exogenous model
ETH Zurich（苏黎世联邦理工学院）；EPFL Lausanne（洛桑联邦理工学院）；TalkingData Co., Ltd.（北京腾云天下科技有限公司）
在本文中，我们提出了一个可解释的LSTM递归神经网络，即，多变量LSTM，用于具有外生变量的时间序列。目前，递归神经网络中广泛使用的注意力机制主要关注数据的时间方面，缺乏对变量重要性的表征。为此，我们开发了配备张量化隐藏状态的多变量LSTM，以学习变量特定的表示，这会引起时间和变量级别的注意。初步实验表明，多变量LSTM的预测性能相当w.r.t.基于编码器-解码器的基线。更有趣的是，以变量注意力为特征的真实数据集中的变量重要性与统计Granger因果检验所确定的变量重要性高度一致，这展示了多变量LSTM作为预测和知识发现的简单统一的端到端框架的前景。
2018-04-14 cs.LG stat.ML
High Dimensional Data Enrichment: Interpretable, Fast, and Data-Efficient
Mathematical Biosciences Institute（数学生物学研究所）；The Ohio State University（俄亥俄州立大学）；UC Riverside（加州大学河滨分校）；University of Minnesota（明尼苏达大学）
针对高维多任务学习中的 Data Enrichment/Sharing 问题，提出一种由凸函数刻画结构的公共与个体参数估计器，给出了非渐近误差界并设计了具有几何收敛率的迭代算法，首次提供了全面的统计与计算分析。
2023-06-30 cs.LG stat.ML
DINAMO: Dynamic and INterpretable Anomaly MOnitoring for Large-Scale Particle Physics Experiments
Department of Experimental Physics, European Organization for Nuclear Research (CERN)（欧洲核子研究中心（CERN）实验物理学系）；Laboratory for Nuclear Science, Massachusetts Institute of Technology (MIT)（麻省理工学院核科学实验室）
本文提出DINAMO框架，通过构建演化直方图模板并结合统计变体与机器学习增强版本，实现大规模粒子物理实验中时间相关异常的自动化检测，在合成数据集上验证了高准确率与可解释性，并已在LHCb实验中部署。
2025-09-17 cs.LG hep-ex
In Search of Grandmother Cells: Tracing Interpretable Neurons in Tabular Representations
KI-Werkstatt University of Applied Sciences Berlin（KI-Werkstatt应用科学大学柏林）
本文提出两种信息论度量，用于量化神经元对单一概念的显著性和选择性，并在表格基础模型TabPFN中发现部分神经元对高层概念具有统计显著的显著性。
2026-01-07 cs.AI cs.LG
SHIP: A Shapelet-based Approach for Interpretable Patient-Ventilator Asynchrony Detection
The University of Melbourne（墨尔本大学）；Monash University（莫纳什大学）；Austin Health（奥斯汀健康中心）
针对机械通气中 PVA 检测的数据不平衡与可解释性不足，本文提出基于 shapelet 的 SHIP，通过数据增强、shapelet 池及融合统计特征实现准确且可解释的事件识别。
2025-03-13 cs.AI cs.LG
CellCycleGAN: Spatiotemporal Microscopy Image Synthesis of Cell Populations using Statistical Shape Models and Conditional GANs
RWTH Aachen University（亚琛工业大学）
时空显微图像的自动分析是生命科学研究的必然要求。深度学习的最新发展为自动分析此类图像数据提供了强大的工具，但在很大程度上取决于所提供的训练数据的数量和质量。为此，我们开发了一种新的方法，用于真实生成荧光标记细胞核的合成2D+t显微镜图像数据。该方法结合时空统计形状模型的不同细胞周期阶段的条件GAN产生的细胞群体的时间序列，并提供实例级控制的细胞周期阶段和荧光强度的产生的细胞。我们展示了GAN调节的效果，并创建了一组合成图像，这些图像可以很容易地用于细胞分割和跟踪方法的训练和基准测试。
2021-01-26 cs.CV cs.LG eess.IV
Towards Statistical and Computational Complexities of Polyak Step Size Gradient Descent
University of Texas at Austin（德克萨斯大学奥斯汀分校）
研究了在总体损失函数的广义光滑性和Lojasiewicz条件下，Polyak步长梯度下降算法的统计复杂性和计算复杂性，即当样本容量趋于无穷大时经验损失函数的极限，以及经验损失函数和总体损失函数梯度之间的稳定性，即，样本和总体损失函数的梯度之间的浓度界的多项式增长。我们证明了Polyak步长梯度下降迭代在样本大小的对数迭代次数后达到围绕真实参数的最终统计收敛半径。当种群损失函数不是局部强凸时，它比固定步长的梯度下降算法在样本大小上的多项式迭代次数更便宜，可以达到相同的最终统计半径。最后，我们用三个统计实例：广义线性模型、混合模型和混合线性回归模型来说明我们的一般理论。
2021-10-15 cs.LG math.ST stat.ML
