Neural Additive Models: Interpretable Machine Learning with Neural Nets
Google Research（谷歌研究院）；Microsoft Research（微软研究院）；Cohere；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；MIT（麻省理工学院）
深度神经网络（DNN）是强大的黑盒预测器，在各种任务上都取得了令人印象深刻的性能。然而，他们的准确性是以可理解性为代价的：通常不清楚他们是如何做出决定的。这阻碍了它们在高风险决策领域（如医疗保健）的适用性。我们提出了神经加性模型（NAM），它将DNN的一些表达能力与广义加性模型的固有可理解性相结合。NAM学习神经网络的线性组合，每个神经网络关注单个输入特征。这些网络是联合训练的，可以学习它们的输入特征和输出之间的任意复杂关系。我们在回归和分类数据集上的实验表明，NAM比广泛使用的可理解模型（如逻辑回归和浅决策树）更准确。它们在准确性上与现有的最先进的广义加法模型相似，但更灵活，因为它们基于神经网络而不是提升树。为了证明这一点，我们展示了NAM如何因其可组合性而用于合成数据和COMPAS累犯数据的多任务学习，并证明NAM的可微性使其能够训练更复杂的COVID-19可解释模型。
2021-10-24 cs.AI cs.LG stat.ML
Doubly Robust Counterfactual Classification
Harvard Medical School（哈佛医学院）；Carnegie Mellon University（卡内基梅隆大学）；Harvard University（哈佛大学）
我们研究反事实分类作为一种新的工具，在假设（与事实相反）的情况下进行决策。我们提出了一个双重鲁棒的非参数估计一般的反事实分类器，在那里我们可以通过铸造的分类问题作为一个非线性的数学规划，涉及反事实，将灵活的约束。我们继续分析估计的收敛速度，并提供了一个封闭形式的表达其渐近分布。我们的分析表明，所提出的估计是强大的滋扰模型误指定，并可以达到快速的$\sqrt{n}$率与易处理的推理，即使使用非参数机器学习方法。我们通过模拟研究我们的方法的实证性能，并将其应用于累犯风险预测。
2023-01-15 cs.LG stat.ME stat.ML
Expert-Guided Class-Conditional Goodness-of-Fit Scores for Interpretable Classification with Informative Missingness
Department of Statistics and Operations Research, School of Mathematical Sciences, Tel Aviv University（统计与运筹学系，数学科学学院，特拉维夫大学）；Israel NDC, Soreq Nuclear Research Center（以色列NDC，Soreq核研究中心）
本文提出一种专家引导的类条件模型，用于构建可解释的良好适应度特征，应用于地震监测，通过减少专家分析工作量提升透明度。
2026-10-28 cs.LG stat.AP stat.ML
Learning Fair Representations via an Adversarial Framework
Zhejiang University（浙江大学）；PPDAI GROUP Inc.（拍拍贷集团）；University of Colorado Boulder（科罗拉多大学博尔德分校）；University of California, Los Angeles（加州大学洛杉矶分校）
公平性已经成为我们研究界的一个核心问题，因为分类算法被应用于社会关键领域，如累犯预测和贷款审批。在这项工作中，我们考虑了基于受保护属性的潜在偏见（例如，种族和性别），并通过学习在受保护群体之间在统计上无法区分的个体的潜在表示来解决这个问题，同时充分保留用于分类的其他信息。为此，我们开发了一个极大极小对抗框架，其中包含一个生成器来捕获数据分布并生成潜在表示，以及一个评论家来确保不同保护组之间的分布是相似的。我们的框架提供了一个理论上的保证，统计平价和个人的公平。在四个真实世界数据集上的实证结果也表明，学习的表示可以有效地用于分类任务，如信用风险预测，同时阻碍与受保护群体相关的信息，特别是当删除受保护的属性不足以进行公平分类时。
2019-04-30 cs.LG stat.ML
Interpretable Classification of Bacterial Raman Spectra with Knockoff Wavelets
深度神经网络和其他复杂的机器学习模型被广泛应用于生物医学信号数据，因为它们可以检测复杂的模式并计算准确的预测。然而，解释这些模型的困难是一个限制，特别是对于涉及高风险决策的应用，包括细菌感染的识别。在本文中，我们考虑了快速拉曼光谱数据，并证明了具有精心选择的特征的逻辑回归模型可以达到与神经网络相媲美的精度，同时更简单，更透明。我们的分析利用小波特征与直观的化学解释，并进行控制变量选择与仿制品，以确保预测是相关的和非冗余的。虽然我们专注于一个特定的数据集，所提出的方法是广泛适用于其他类型的信号数据的可解释性可能是重要的。
2021-05-02 eess.SP stat.AP stat.ML
GapTV: Accurate and Interpretable Low-Dimensional Regression and Classification
我们考虑的问题，估计一个回归函数在常见的情况下，功能的数量很小，模型的可解释性是一个高优先级，简单的线性或添加剂模型无法提供足够的性能。为了解决这个问题，我们提出了GapTV，一种在概念上与CART和最近的CRISP算法相关的方法，一种用于可解释的非线性回归的最先进的替代方法。GapTV将特征空间划分为常数值块，并通过凸优化例程联合拟合所有块的值。我们的方法是完全数据自适应的，因为它包含了高度鲁棒的例程，用于自动调整所有超参数。我们将我们的方法与CART和CRISP进行比较，并证明GapTV在准确性和可解释性之间找到了更好的权衡。
2017-02-23 stat.ML
Interpretable Visualizations of Data Spaces for Classification Problems
本文提出一种混合监督-非监督技术，用于可视化分类问题的决策边界，通过化学神经毒性的案例展示其可解释性与分析能力。
2026-03-13 cs.LG stat.ML
The Fairness of Risk Scores Beyond Classification: Bipartite Ranking and the xAUC Metric
Cornell University（康奈尔大学）
在机器学习的预测风险评分为高风险决策提供信息的情况下，例如刑事司法中的保释和判刑，公平性一直是一个严重的问题。最近的工作的特点是不同的影响，这种风险分数可以有一个二元分类任务时使用。然而，这可能无法解释风险评分的下游用途更加多样化及其非二元性质。为了更好地解释这一点，在本文中，我们调查的角度来看，一个二分排序任务，其中一个试图排名积极的例子高于消极的预测风险分数的公平性。我们引入xAUC差异作为评估风险评分的不同影响的指标，并将其定义为将一个受保护组的随机阳性样本排名在另一组的阴性样本之上的概率差异，反之亦然。我们提供了一个分解的二分排名损失的组件，涉及的差异和组件，涉及每个组内的纯预测能力。我们使用xAUC分析来审计累犯预测，收入预测和心脏骤停预测的预测风险评分，其中它描述了简单比较组内预测性能并不明显的差异。
2019-06-01 cs.LG stat.ML
FrequentNet: A Novel Interpretable Deep Learning Model for Image Classification
Zhejiang University（浙江大学）；Microsoft（微软）；Instacart；Cornell University（康奈尔大学）
本文提出了一种新的基线深度学习模型，更有利于图像分类。与卷积神经网络（CNN）实践不同，在卷积神经网络（CNN）实践中，通过反向传播来训练滤波器以表示图像的不同模式，我们受到“PCANet：A Simple深度学习Baseline for图像分类？从频域中的基向量（如傅立叶系数或小波）中选择滤波器向量，而无需反向传播。研究人员已经证明，频域中的那些基础通常可以提供物理见解，这通过分析所选择的频率来增加模型的可解释性。此外，与CNN的“黑箱”训练过程相比，训练过程也将更加省时、数学上清晰和可解释。
2021-08-12 cs.CV stat.ML
Multivariable times series classification through an interpretable representation
University of Granada（格拉纳达大学）
多变量时间序列分类是一项重要性日益增加的任务，由于在各个领域（经济，卫生，能源，交通，作物等）的新问题的扩散。其中大量的信息源是可用的。传统上在单变量环境中工作的方法的直接外推不能经常应用于多变量问题中以获得最佳结果。这主要是由于这些方法无法捕捉符合多元时间序列的不同变量之间的关系。迄今为止发布的多元提案提供了有竞争力的结果，但很难解释。在本文中，我们提出了一种时间序列分类方法，考虑到一个多变量时间序列的不同变量之间的关系，通过一组描述性的功能，考虑到时间序列的替代表示。我们采用传统的分类算法，获得可解释的和有竞争力的结果。
2020-09-08 cs.LG stat.ML
Interpretable Two-level Boolean Rule Learning for Classification
Massachusetts Institute of Technology（麻省理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
作为对可解释的机器学习研究的贡献，我们开发了一种新的优化框架，用于学习精确和稀疏的两级布尔规则。我们考虑合取范式（AND-of-OR）和析取范式（OR-of-AND）中的规则。提出了一个原则性的目标函数，贸易分类的准确性和可解释性，其中我们使用汉明损失来表征准确性和稀疏性来表征可解释性。我们提出了有效的程序来优化这些目标的基础上线性规划（LP）松弛，块坐标下降，交替最小化。实验表明，我们的新算法提供了很好的准确性和可解释性之间的权衡。
2016-06-18 cs.LG stat.ML
Interpretable CNNs for Object Classification
Shanghai Jiao Tong University（上海交通大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出了一种在深度卷积神经网络（CNN）中学习可解释卷积滤波器进行对象分类的通用方法，其中每个可解释滤波器对特定对象部分的特征进行编码。我们的方法不需要额外的注释对象的部分或纹理的监督。相反，我们使用与传统CNN相同的训练数据。我们的方法在学习过程中自动为高conv层中的每个可解释过滤器分配特定类别的对象部分。在CNN的conv层中的这种显式知识表示帮助人们澄清在CNN中编码的逻辑，即，回答CNN从输入图像中提取什么模式并用于预测。我们已经使用具有各种结构的不同基准CNN测试了我们的方法，以证明我们方法的广泛适用性。实验表明，我们的可解释的过滤器是更有意义的语义比传统的过滤器。
2020-03-12 cs.CV cs.LG stat.ML
Learning Qualitatively Diverse and Interpretable Rules for Classification
Harvard University（哈佛大学）
人们越来越有兴趣开发精确的模型，也可以解释给人类。不幸的是，如果某些数据集存在多个不同但准确的模型，当前的机器学习方法不太可能找到它们：标准技术可能会恢复一个组合它们的复杂模型。在这项工作中，我们介绍了一种方法来识别一个数据集的不同但准确的模型的最大集合。我们的经验表明，在数据支持多个准确的分类器的情况下，我们倾向于恢复更简单，更可解释的分类器，而不是更复杂的。
2018-07-19 cs.LG stat.ML
Low-dimensional Interpretable Kernels with Conic Discriminant Functions for Classification
Eskişehir Teknik Üniversitesi（埃斯基谢希尔技术大学）；Erasmus University Rotterdam（鹿特丹伊拉斯姆斯大学）
核通常被开发和用作隐式映射函数，由于其高维特征空间表示，显示出令人印象深刻的预测能力。在这项研究中，我们逐步构建了一系列简单的特征映射，导致可解释的低维内核的集合。在每一步中，我们都保留了原始特征，并确保输入数据的维数增加非常低，这样得到的判别函数仍然是可解释的，并且可以快速训练。尽管我们坚持可解释性，我们获得高精度的结果，即使没有深入的超参数调整。将我们的结果与基准数据集上的几个知名内核进行比较表明，所提出的内核在预测精度方面具有竞争力，而训练时间显着低于最先进的内核实现。
2020-07-17 cs.LG stat.ML
Learning Interpretable Shapelets for Time Series Classification through Adversarial Regularization
Univ Rennes（雷恩大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；IRISA（雷恩信息与随机系统研究所）；Laboratoire Hubert Curien UMR 5516（于贝尔·居里安实验室 UMR 5516）；Univ Lyon（里昂大学）；LETG（环境时空地理学实验室）
时间序列分类可以通过联合学习数据集中序列的基于shapelet的表示并根据此表示对序列进行分类来成功解决。然而，尽管学习的形状是有区别的，但它们并不总是与数据集中的真实序列相似。这使得难以解释决策，即难以分析是否存在触发决策的系列中的特定行为。在本文中，我们使用一个简单的卷积网络来处理时间序列分类任务，并引入了一个对抗性正则化来约束模型学习更多可解释的形状。我们对所有常见的时间序列基准的分类结果与类似的最先进的算法获得的结果相当，但我们的逆向正则化方法学习的形状，通过设计，可解释。
2019-06-12 cs.AI cs.LG stat.ML
Background Knowledge Injection for Interpretable Sequence Classification
Insight Centre for Data Analytics, University College Dublin（都柏林大学学院洞察数据分析中心）；Accenture Labs（埃森哲实验室）；Inria（法国国家信息与自动化研究所）
序列分类是构建模型的监督学习任务，该模型预测不可见的符号序列的类标签。虽然准确性至关重要，但在某些情况下，可解释性是必须的。不幸的是，这种权衡往往很难实现，因为我们缺乏独立于人类的可解释性指标。我们介绍了一种新的序列学习算法，它结合了（i）线性分类器-已知在预测能力和可解释性之间取得良好的平衡，以及（ii）背景知识嵌入。我们扩展了经典的子序列特征空间与组的符号，这是由背景知识注入通过字或图形嵌入，并使用这个新的特征空间来学习线性分类器。我们还提出了一个新的措施来评估一组符号特征的可解释性的基础上的符号嵌入。从可穿戴设备和氨基酸序列分类的人类活动识别实验表明，我们的分类方法保留了预测能力，同时提供了更多可解释的模型。
2020-06-25 cs.LG stat.ML
InterpNET: Neural Introspection for Interpretable Deep Learning
UC Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）
人类能够解释他们的推理。相反，深度神经网络不是。本文试图通过引入一种新的方法来设计可解释的神经网络分类，人类视觉系统的内部工作的生理证据的启发，以弥合这一差距。本文提出了一种神经网络设计范式，称为InterpNET，它可以与任何现有的分类体系结构相结合，产生自然语言的分类解释。该模块的成功依赖于网络的计算和推理在其内部层激活中表示的假设。虽然原则上InterpNET可以应用于任何现有的分类体系结构，它是通过一个图像分类和解释任务进行评估。在CUB鸟类分类和解释数据集上的实验表明，该模型能够定性和定量地生成高质量的解释。虽然目前该数据集的最新METEOR评分为29.2，但InterpNET的METEOR评分要高得多，为37.9。
2017-11-16 cs.LG stat.ML
Interpretable Fundus Image Classification via Ring-Based Retinal Vasculature Features
University of Toronto（多伦多大学）；Duke Kunshan University（昆山杜克大学）；York University（约克大学）；Fields Institute for Research in Mathematical Sciences（菲尔兹数学科学研究所）
本研究提出基于环形视网膜血管特征的可解释眼底图像分类框架，仅用血管描述符在HRF数据集达91.1%准确率，与RETFound相当，可支持可解释疾病分类等且无需大量任务训练数据。
2026-08-26 cs.CV stat.ML
Methods and Models for Interpretable Linear Classification
我们提出了一个整数规划框架，以建立准确和可解释的离散线性分类模型。与现有的方法不同，我们的框架旨在为从业者提供他们所需的控制和灵活性，以便为所选领域定制准确和可解释的模型。为此，我们的框架可以通过最小化0- 1分类损失来生成完全优化准确性的模型，并通过合并一系列离散约束和惩罚函数来解决可解释性的多个方面。我们使用我们的框架来生成难以用现有方法创建的模型，例如评分系统和M-of-N规则表。此外，我们提出了专门设计的优化方法，以提高我们的框架的可扩展性，通过分解和数据减少。我们表明，离散线性分类器可以达到任何其他线性分类器的训练精度，并提供一个奥卡姆剃刀型参数，为什么使用小的离散系数可以提供更好的推广。我们通过数值实验和案例研究证明了我们的框架的性能和灵活性，在该案例研究中，我们构建了一个高度定制的睡眠呼吸暂停诊断的临床工具。
2014-10-01 cs.LG stat.ME stat.ML
Interpretable Deep Learning for Two-Prong Jet Classification with Jet Spectra
近年来，使用深度学习对喷气式飞机进行分类得到了极大的关注。然而，深度神经网络的性能往往是以可解释性为代价的。在这里，我们提出了一个可解释的网络训练的射流频谱$S_{2}(R)$，这是一个两点的关联函数的射流成分。该谱可以从能量流的任意射流分级器函数的函数泰勒级数导出。一个可解释的网络可以通过截断序列来获得。网络的中间特征是红外和共线安全C-相关器，其允许我们估计分类中的角度尺度R处的$S_{2}(R)$沉积物的重要性。该架构的性能与在射流图像上训练的卷积神经网络（CNN）的性能相当，尽管输入的数量和架构的复杂性比CNN分类器明显简单。我们考虑两个例子：一个是对母粒子色荷不同的两股喷注的分类，另一个是对Pythia 8和Herwig 7产生的喷注的比较。
2020-03-26 hep-ex hep-ph stat.ML
Interpretable multiclass classification by MDL-based rule lists
Leiden University（莱顿大学）
最近，可解释分类器受到了数据采掘界越来越多的关注，因为它们本质上比更复杂的分类器更容易理解和解释。可解释的分类模型的示例包括决策树、规则集和规则列表。学习这样的模型通常涉及优化超参数，这通常需要大量的数据，并可能导致相对较大的模型。在本文中，我们考虑的问题，学习紧凑而准确的概率规则列表的多类分类。具体来说，我们提出了一种新的形式化的基础上概率规则列表和最小描述长度（MDL）的原则。这导致了几乎无参数的模型选择，自然允许权衡模型复杂性与拟合优度，从而有效地避免了过度拟合和超参数调整的需要。最后，我们介绍了Classy算法，该算法根据所提出的标准，greetly发现规则列表。我们的经验表明，Classy选择的小概率规则列表在预测性能和可解释性的结合方面优于最先进的分类器。我们表明，Classy是不敏感的唯一参数，即，候选集，以及训练集上的压缩与分类性能相关，验证了我们基于MDL的选择标准。
2019-10-31 cs.AI cs.LG stat.ML
Interpretable Time-series Classification on Few-shot Samples
University of Technology Sydney（悉尼科技大学）
最近的少样本学习工作专注于用先验元知识训练模型，以快速适应具有未知类和样本的新任务。然而，传统的时间序列分类算法无法解决的Few-Shot的情况。现有的少样本学习方法是针对图像或文本数据提出的，大多数是基于神经元的模型，缺乏可解释性。本文提出了一个可解释的基于神经的框架，即\textit{Dual Prototypical Shapelet Networks (DPSN)}的Few-Shot时间序列分类，它不仅训练一个神经网络为基础的模型，但也解释模型从双粒度：1）全局概述使用代表性的时间序列样本，2）局部亮点使用歧视性的形状。特别地，生成的双原型形状由代表性样本和判别性部分长度形状组成，代表性样本可以主要展示类中所有样本的整体形状，判别性部分长度形状可以用于区分不同的类。我们从公共基准数据集获得了18个Few-Shot TSC数据集，并通过与基线的比较来评估所提出的方法。DPSN框架的性能优于最先进的时间序列分类方法，特别是在使用有限的数据进行训练时。最后通过几个案例验证了模型的解释能力。
2020-07-02 cs.LG stat.ML
Evolving LLM-Generated Features for Interpretable Classification
Amazon Web Services（亚马逊云服务）
提出演化框架迭代生成自然语言特征定义，用于可解释分类，在三个基准上平均提升2.9个百分点，优于零样本LLM分类，并提供可审计决策逻辑。
2026-10-06 cs.LG stat.ML
Learning Fair Rule Lists
Université du Québec à Montréal（蒙特利尔魁北克大学）；LAAS-CNRS（法国国家科学研究中心自动化、计算机工程与信号实验室）；Université de Toulouse（图卢兹大学）
随着黑箱模型在高风险决策系统中的普遍使用，对公平和可解释模型的需求正在增加。虽然已经表明，可解释的模型可以在几个关键领域的黑箱模型一样准确，现有的公平分类技术，可解释的设计往往显示较差的准确性/公平性权衡与他们的非可解释的同行。在本文中，我们提出了FairCORELS，一个公平的分类技术解释的设计，其目标是学习公平的规则列表。我们的解决方案是一个多目标的变体CORELS，分支定界算法学习规则列表，支持几个统计公平的概念。这类措施的例子包括统计上的均等、机会均等和机会均等。FairCORELS在真实世界数据集上的实证评估表明，它优于最先进的公平分类技术，这些技术通过设计可解释，同时与不可解释的技术竞争。
2020-02-18 cs.LG stat.ML
Fast, Accurate and Interpretable Time Series Classification Through Randomization
RMIT University（皇家墨尔本理工大学）；The University of Melbourne（墨尔本大学）
时间序列分类（TSC）旨在预测给定时间序列的类别标签，这对于经济学和医学等丰富的应用领域至关重要。最先进的TSC方法主要集中在分类准确性和效率上，而不考虑其分类的可解释性，这是现代应用（例如电器建模）和立法（例如欧洲通用数据保护条例）所要求的重要属性。为了解决这个问题，我们提出了一种新的TSC方法-随机监督时间序列森林（r-STSF）。r-STSF是高效的，达到了最先进的分类精度，并实现了可解释性。r-STSF采用一种有效的基于区间的方法，根据判别子序列（区间）的聚合值对时间序列进行分类。为了达到最先进的精度，r-STSF使用判别子序列构建随机树的集合。它使用四个时间序列表示，九个聚合函数和一个监督的二进制启发搜索结合特征排名指标，以确定高度歧视性的子系列。歧视性的子系列有助于进行可解释的分类。在大量数据集上的实验表明，r-STSF达到了最先进的精度，同时比大多数现有的TSC方法快了几个数量级。它是唯一的分类器从国家的最先进的组，使解释性。我们的研究结果还强调，r-STSF是分类复杂时间序列数据集时最好的TSC方法。
2021-05-31 cs.LG stat.ML
Learning Interpretable Rules for Multi-label Classification
Technische Universität Darmstadt（达姆施塔特工业大学）；Universität Paderborn（帕德博恩大学）
多标签分类（MLC）是一个监督学习问题，其中，与标准的多类分类相反，一个实例可以同时与多个类标签相关联。在本章中，我们提倡一种基于规则的多标签分类方法。规则学习算法通常用于不仅对准确预测感兴趣，而且还需要领域专家可以理解，分析和定性评估的可解释理论的情况。理想情况下，通过揭示数据中包含的模式和错误，基于规则的理论在应用领域产生新的见解。最近，一些作者已经开始研究如何基于规则的模型可以用于建模多标签数据。详细讨论这项任务，我们强调了一些问题，使规则学习更具挑战性的MLC比传统的分类。虽然主要集中在我们自己以前的工作，我们也提供了一个简短的概述，在这一领域的相关工作。
2018-12-07 cs.LG stat.ML
SIRUS: Stable and Interpretable RUle Set for Classification
Safran Tech（赛峰科技）；Sorbonne Université（索邦大学）；Ecole Polytechnique（巴黎综合理工学院）
最先进的学习算法，如随机森林或神经网络，通常被称为“黑盒”，因为它们的预测机制中涉及的操作的数量和复杂性很高。这种可解释性的缺乏是涉及关键决策的应用程序的一个很大的限制，通常是制造业中生产过程的分析。在这样的关键背景下，模型必须是可解释的，即，简单、稳定、可预测。为了解决这个问题，我们设计了SIRUS（稳定和可解释的规则集），一个新的分类算法的基础上随机森林，它采取了一个简短的规则列表的形式。虽然简单的模型通常不稳定的数据扰动，SIRUS实现了显着的稳定性改善了尖端的方法。此外，SIRUS继承了接近随机森林的预测准确性，并结合了决策树的简单性。这些属性进行评估，从理论和经验的角度来看，通过广泛的数值实验的基础上，我们的R/C++软件实现SIRUS可从CRAN。
2020-12-16 cs.LG math.ST stat.ML
On The Stability of Interpretable Models
University of Pisa（比萨大学）；ISTI-CNR（意大利国家研究委员会信息科学与技术研究所）
建立可解释的分类模型的目的是向外部监督机构提供决策逻辑的可理解描述。当孤立地考虑时，决策树、一组分类规则或线性模型被广泛认为是人类可解释的。然而，这些模型是作为更大的分析过程的一部分生成的。数据汇集和准备或模型构建中的偏差可能会严重影响设计过程的责任。我们进行了一个实验研究的稳定性的可解释模型的特征选择，实例选择和模型选择。我们的结论应提高认识和科学界的需要，可解释的模型的稳定性影响评估的关注。
2019-03-15 cs.AI cs.LG stat.ML
Abstracted Shapes as Tokens -- A Generalizable and Interpretable Model for Time-series Classification
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Stony Brook University（石溪大学）；University of California, San Diego（加利福尼亚大学圣地亚哥分校）；IBM Research（IBM研究院）
本文提出可解释预训练模型 VQShape，利用向量量化将跨域时间序列统一表示为抽象形状码，支持可解释分类并具备零样本跨域泛化能力。
2025-01-07 cs.LG stat.ML
Interpretable bias mitigation for textual data: Reducing gender bias in patient notes while maintaining classification performance
The University of Vermont（佛蒙特大学）；MassMutual Data Science（MassMutual数据科学公司）；VA Boston Healthcare System（波士顿VA医疗保健系统）
一般而言，医疗系统，特别是患者的治疗决定和结果，受到基于性别和其他人口因素的偏见的影响。随着语言模型越来越多地应用于医学，人们越来越有兴趣将算法公平性构建到影响患者护理的过程中。解决这个问题的大部分工作都集中在语言模型中编码的偏见上--对从远距离阅读语料库中得出的概念之间关系的统计估计。在这项工作的基础上，我们调查如何由医疗从业者和语言模型相互作用的单词选择方面的偏见。我们确定并删除性别语言从两个临床笔记数据集，并描述了一个新的去偏过程中使用基于BERT的性别分类器。通过数据增强，我们在健康状况分类任务中显示出最小的退化，用于低至中等水平的偏差去除。最后，我们比较的偏见语义编码的语言模型的偏见经验观察到的健康记录。这项工作概述了一种可解释的方法，使用数据增强，以确定和减少潜在的偏见，在自然语言处理管道。
2021-03-10 cs.CL stat.ML
CRITS: Convolutional Rectifier for Interpretable Time Series Classification
Department of Computer and Systems Sciences, Stockholm University（斯德哥尔摩大学计算机与系统科学系）；Department of Computer Science and Engineering, University of Oviedo（奥维多大学计算机科学与工程系）
针对现有卷积网络可解释方法存在输入空间解释不足或需随机扰动的问题，提出可解释时间序列分类模型CRITS，借助全连接整流网络的ReLU激活内在提取局部解释，无需梯度、扰动和显著性图升尺度，并验证了其分类性能与解释质量。
2025-05-24 cs.AI cs.LG stat.ML
Interpretable and Differentially Private Predictions
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Tübingen（图宾根大学）；University of Cambridge（剑桥大学）
可解释的预测，即明确机器学习模型做出特定决策的原因，可能会通过揭示单个数据点的特征来损害隐私。这就提出了本文讨论的中心问题：模型可以在不损害隐私的情况下被解释吗？对于由相应丰富模型拟合的复杂大数据，平衡隐私性和可解释性特别具有挑战性，因此这个问题在很大程度上尚未探索。在本文中，我们提出了一个家庭的简单的模型，在近似复杂的模型，使用几个局部线性映射每类提供高的分类精度，以及不同的私人解释的分类的目的。我们说明了我们的方法在几个图像基准数据集以及医疗数据集上的实用性。
2020-04-05 cs.LG stat.ML
Physically-interpretable classification of biological network dynamics for complex collective motions
Nagoya University（名古屋大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Japan Institute of Sports Sciences（日本体育科学研究所）；Kyushu University（九州大学）
理解生物网络动力学是各个科学和工程领域的基本问题。网络理论能够揭示元素之间的关系及其传播，但对于复杂的集体运动，网络的性质往往是瞬时的和复杂的变化。这里解决的一个基本问题是基于物理可解释的动力学特性对集体运动网络进行分类。在这里，我们应用一个数据驱动的频谱分析称为图形动态模式分解，获得集体运动分类的动力学特性。以一场球赛为例，我们对不同全局行为中的策略集体运动进行了分类，发现除了物理属性外，上下文节点信息对分类至关重要。此外，我们发现了标签特定的较强的光谱之间的关系最近的代理，提供物理和语义解释。我们的方法有助于从非线性动力系统的角度理解生物复杂网络动力学的原理。
2020-06-13 cs.LG cs.MA cs.SI
Interpretable Rule Discovery Through Bilevel Optimization of Split-Rules of Nonlinear Decision Trees for Classification Problems
Michigan State University（密歇根州立大学）
对于涉及设计，控制，其他实际目的的监督分类问题，用户不仅有兴趣找到一个高精度的分类器，但他们也要求得到的分类器是容易解释的。虽然分类器的可解释性的定义可以因情况而异，但在这里，通过人类可解释的分类器，我们将其限制为用简单的数学术语表示。作为一种新的方法，我们表示一个简单的数学规则，使用非线性决策树（NLDT）的组合分类器。树的每个条件（非终端）节点表示涉及特征的非线性数学规则（分裂规则），以便将给定条件节点中的数据集划分为两个不重叠的子集。这种划分旨在最小化结果子节点的不纯性。通过限制每个条件节点上的分裂规则结构和决策树的深度，保证了分类器的可解释性。在一个给定的条件节点的非线性分裂规则是使用进化的双层优化算法，而上层集中在到达一个可解释的结构的分裂规则，较低的水平实现最合适的权重（系数）的规则的各个组成部分，以最大限度地减少净杂质的两个子节点。所提出的算法的性能证明了一些控制测试问题，现有的基准问题，和工业问题。两个到500个特征问题的结果是令人鼓舞的，并开辟了进一步的范围，应用所提出的方法，更具有挑战性和复杂的分类任务。
2020-08-02 cs.LG cs.NE stat.ML
MAGIC-Flow: Multiscale Adaptive Conditional Flows for Generation and Interpretable Classification
MOX, Department of Mathematics Politecnico di Milano（米兰理工大学数学系MOX部门）
MAGIC-Flow提出一种条件多尺度归一化流架构，在单一框架内实现生成与分类，通过可逆双射保证精确似然计算，支持可控合成与可解释推理，在医学影像等数据有限场景下提升生成质量与分类性能。
2025-10-24 cs.CV cs.LG eess.IV
