Curve Your Enthusiasm: Concurvity Regularization in Differentiable Generalized Additive Models
University of Freiburg(弗赖堡大学);Scenarium AI;Merantix Momentum;nyonic
本文针对广义加性模型中因特征间共曲性损害可解释性的问题,提出一种惩罚非线性变换后特征成对相关性的正则化方法,并在合成与真实数据上验证其可在不明显降低预测质量的同时提升可解释性。
2023-11-25 cs.LG stat.ML
Inferring feature importance with uncertainties in high-dimensional data
SINTEF DIGITAL(挪威科学与工业研究基金会数字研究所);Norwegian University of Science and Technology(挪威科技大学);SimulaMet(西穆拉代谢研究所);Yale School of Public Health(耶鲁大学公共卫生学院)
估计特征重要性是解释基于数据的模型的一个重要方面。除了解释模型本身之外,一个同样相关的问题是哪些特征在底层数据生成过程中很重要。我们提出了一个基于Shapley值的框架,用于推断个体特征的重要性,包括估计量中的不确定性。我们建立在最近发表的SAGE(Shapley加性全局重要性)的特征重要性度量,并引入子SAGE,它可以估计,而无需重新搜索基于树的模型。我们认为,可以估计的不确定性,从引导和展示的方法,树集成方法。该框架以合成数据以及高维基因组学数据为例。
2021-09-20 cs.LG stat.ME stat.ML
Disentangling Interactions and Dependencies in Feature Attribution
University of Tübingen(蒂宾根大学);Tübingen AI Center(蒂宾根人工智能中心)
针对现有全局特征重要性方法易混淆特征个体贡献与交互、依赖协同效应的问题,提出可唯一分解的DIP数学框架,将特征重要性拆分为独立、交互、依赖三类贡献,并给出实际估计方法与配套可视化方案。
2024-10-31 cs.LG stat.ML
Marginal Contribution Feature Importance -- an Axiomatic Approach for The Natural Case
Tel-Aviv University(特拉维夫大学);University of California, Los Angeles(加州大学洛杉矶分校)
在对医疗数据训练预测模型时,目标有时是获得对某种疾病的见解。在这种情况下,通常使用特征重要性作为工具来突出导致该疾病的重要因素。由于有许多计算特征重要性分数的现有方法,因此理解它们的相对优点并不容易。此外,使用它们的场景的多样性导致对特征重要性分数的不同期望。虽然通常区分关注个体预测的局部分数和关注特征对模型的贡献的全局分数,但另一个重要的划分区分了模型场景,其中目标是理解给定模型的预测和自然场景,其中目标是理解疾病等现象。我们开发了一组公理,表示期望从一个功能的重要性函数在自然场景中的属性,并证明,只存在一个功能,满足所有这些,边际贡献功能的重要性(MCI)。我们分析了这个函数的理论和经验性质,并将其与其他特征重要性分数进行了比较。虽然我们的重点是自然的情况下,我们建议,我们的公理化的方法也可以在其他情况下进行。
2020-10-15 cs.LG
How Well Do Feature-Additive Explainers Explain Feature-Additive Predictors?
University of Notre Dame(圣母大学)
本文通过解析导出的真实标准评估LIME、SHAP等特征可加性解释器,发现它们在特征交互场景下均无法正确归因特征重要性。
2023-10-27 cs.AI cs.LG
Error-controlled non-additive interaction discovery in machine learning models
University of Michigan(密歇根大学);University of Waterloo(滑铁卢大学);University of Washington(华盛顿大学)
针对特征交互发现缺乏稳健误差控制的问题,提出Diamond,利用model-X knockoffs与非加性蒸馏在多类ML模型中控制FDR,并验证其可提升生物医学数据发现可靠性。
2025-02-13 cs.LG stat.AP stat.ML
Interpreting Deep Forest through Feature Contribution and MDI Feature Importance
Nanjing University(南京大学)
针对深度森林从第二层起因使用前层生成特征导致现有随机森林解释工具失效的问题,提出每层含估计与校准两步的计算方法,实现了深度森林的特征贡献度与MDI特征重要性计算,经模拟和真实数据验证有效。
2023-05-01 cs.LG
Consistent feature attribution for tree ensembles
Paul G. Allen School of Computer Science, University of Washington(华盛顿大学保罗·G·艾伦计算机科学学院);Department of Genome Sciences, University of Washington(华盛顿大学基因组科学系)
请注意,本文的更新扩展版本现在可以在:arXiv:1802.03888在许多应用程序中,了解哪些特征对模型很重要,以及为什么要进行单独的预测是至关重要的。对于树集成方法,这些问题通常通过将重要性值归因于输入特征来回答,无论是全局还是单个预测。在这里,我们表明,目前的特征属性方法是不一致的,这意味着改变模型,更多地依赖于一个给定的功能,实际上可以降低分配给该功能的重要性。为了解决这个问题,我们开发了快速精确的解决方案SHAP(SHapley加法解释)值,这是最近被证明是唯一的附加功能属性的方法,基于条件的期望,是一致的和本地准确的。我们将这些改进集成到最新版本的XGBoost中,展示了当前方法的不一致性,并展示了如何使用SHAP值显着提高监督聚类性能。特征重要性值是理解诸如梯度提升树和随机森林等广泛使用的模型的关键部分,因此对它们的改进具有广泛的实际意义。
2018-02-17 cs.AI cs.LG stat.ML
Statistical Inference and Learning for Shapley Additive Explanations (SHAP)
Management Science and Engineering, Stanford University(管理科学与工程,斯坦福大学)
本文提出了一种半参数方法,用于对SHAP的p次幂进行统计推断,通过去偏差估计器和平滑技术提升特征重要性分析的可靠性。
2026-10-20 cs.LG math.ST stat.ML
Feature-Aware Anisotropic Local Differential Privacy for Utility-Preserving Graph Representation Learning in Metal Additive Manufacturing
Louisiana State University(路易斯安那州立大学);Missouri University of Science and Technology(密苏里科技大学)
本文提出FI-LDP-HGAT框架,结合分层图注意力网络和特征重要性感知的各向异性高斯机制,以提升金属增材制造中图表示学习的效用与隐私保护。
2026-04-06 cs.AI cs.CR cs.LG
xplainfi: Feature Importance and Statistical Inference for Machine Learning in R
xplainfi是基于R语言mlr3生态系统的机器学习特征重要性工具包,提供全局、基于损失的特征重要性方法,包含排列特征重要性、条件特征重要性等,并支持统计推断。
2026-03-16 cs.LG
Importance Estimation for Neural Network Pruning
NVIDIA(英伟达)
神经网络参数的结构修剪减少了推理期间的计算、能量和存储器传输成本。我们提出了一种新的方法,估计神经元(滤波器)对最终损失的贡献,并迭代地删除那些分数较小的神经元。我们描述了我们的方法的两个变化,使用一阶和二阶泰勒展开近似过滤器的贡献。这两种方法都可以在任何网络层上一致地扩展,而不需要每层的敏感性分析,并且可以应用于任何类型的层,包括跳过连接。对于在ImageNet上训练的现代网络,我们通过实验测量了通过我们的方法计算的贡献与真实重要性的可靠估计之间的高度相关性(> 93%)。修剪与所提出的方法导致改进的国家的最先进的准确性,FLOPs,和参数减少。在ResNet-101上,我们通过删除30%的参数实现了40%的FLOPS减少,ImageNet上的前1名准确率损失了0.02%。代码可在www.example.com上获得。
2019-06-25 cs.CV cs.LG stat.ML
On the importance of stationarity, strong baselines and benchmarks in transport prediction problems
Technical University of Denmark (DTU)(丹麦技术大学)
在过去的几年里,交通界见证了对时空预测新深度学习方法的巨大研究贡献。这些贡献往往强调空间相关性的建模,而忽略了人类流动模式的相当稳定和经常性。在这篇简短的论文中,我们展示了基于平均每周模式和线性回归的朴素基线方法可以实现与许多最先进的交通时空预测深度学习方法相当的结果,甚至在几个数据集上优于它们,从而将数据中的平稳性和循环模式的重要性与空间相关性的重要性进行对比。此外,我们建立了9个不同的参考基准,可用于比较时空预测的新方法,并提供了最佳实践和该领域正在采取的方向的讨论。
2022-03-06 cs.LG stat.AP stat.ML
Visualizing the Feature Importance for Black Box Models
Ludwig-Maximilians-University Munich(慕尼黑大学)
近年来,大量的模型无关的方法来提高机器学习模型的透明性,可信性和可解释性已经被开发出来。我们引入局部特征重要性作为最近模型不可知的全局特征重要性方法的局部版本。基于局部特征重要性,我们提出了两种可视化工具:部分重要性(PI)和个体条件重要性(ICI)图,它们可以可视化特征的变化如何影响模型的平均性能,以及个体观测。我们提出的方法与部分依赖(PD)和个体条件期望(ICE)图相关,但可视化预期(条件)特征重要性,而不是预期(条件)预测。此外,我们表明,平均ICI曲线在整个观察产生PI曲线,并整合PI曲线相对于所考虑的功能的分布结果在全球功能的重要性。本文的另一个贡献是Shapley特征重要性,它根据边际贡献在特征之间公平地分配模型的整体性能,并且可以用于比较不同模型之间的特征重要性。
2018-12-28 cs.AI cs.LG stat.ML
A Framework for Evaluating Post Hoc Feature-Additive Explainers
University of Notre Dame(圣母大学)
数据驱动模型的许多应用都要求决策的透明度,特别是在医疗保健、刑事司法和其他高风险环境中。机器学习研究的现代趋势已经导致算法越来越复杂,以至于它们被认为是黑匣子。为了减少决策的不透明性,已经提出了以人类可理解的方式描述这种模型的内部工作的方法。这些事后技术被描述为通用的解释器-能够忠实地增强决策与算法的洞察力。不幸的是,关于什么是“好的”解释,人们几乎没有达成一致意见。此外,目前的解释评价方法要么是主观的,要么是代理的手段。在这项工作中,我们提出了一个框架,用于评估的事后解释地面真相,直接来自模型的添加剂结构。我们证明了该框架在理解解释者的功效,通过评估数千个合成和几个现实任务的流行解释者。该框架揭示了解释可能是准确的,但错误地归因于个别特征的重要性。
2022-05-05 cs.AI cs.LG
Neural Additive Experts: Context-Gated Experts for Controllable Model Additivity
University of Virginia(弗吉尼亚大学)
神经加法专家通过上下文门控机制和专家混合框架,在保持特征归因清晰性的同时,实现模型加法性和预测准确性的平衡。
2026-02-11 cs.AI cs.LG
MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception
Indian Institute Technology(印度理工学院);AIShield;Bosch Global Software Technologies(博世全球软件技术公司)
本文提出MISLEAD方法,结合SHAP特征重要性分析与基于二分搜索的Optimal Epsilon技术,高效确定逃避攻击所需的最小扰动,并通过多架构实验验证其在生成对抗样本和操纵模型结果方面的有效性。
2024-05-02 cs.CR cs.LG
Small Contributions, Small Networks: Efficient Neural Network Pruning Based on Relative Importance
ÉTS, University of Quebec(魁北克大学 ÉTS);Google(谷歌)
本文提出一种基于激活统计和信息论的神经网络剪枝方法,通过构建权重贡献分布识别并移除低贡献权重,并结合剪枝感知训练策略,在多个数据集和架构上优于现有剪枝技术。
2024-10-21 cs.AI cs.LG cs.NE
Interpretable Additive Recurrent Neural Networks For Multivariate Clinical Time Series
Philips Research North America(飞利浦北美研究)
具有循环神经网络(RNN)的时间序列模型可以具有很高的准确性,但不幸的是,由于特征相互作用,时间相互作用和非线性变换,很难解释。可解释性在医疗保健等领域非常重要,在这些领域中,需要构建模型来深入了解他们所了解的关系,以验证和信任模型预测。我们需要精确的时间序列模型,用户可以了解各个输入特征的贡献。我们提出了可解释RNN(I-RNN),通过强制模型中变量之间的关系是可加性的,来平衡模型的复杂性和准确性。RNN的隐藏状态之间的相互作用受到限制,并在最后一步进行相加组合。I-RNN专门捕获临床时间序列的独特特征,这些特征在时间上不均匀采样,异步获取,并且具有缺失数据。重要的是,隐藏状态激活表示与预测目标相关的特征系数,并且可以被可视化为风险曲线,该风险曲线捕获个体输入特征与结果之间的全局关系。我们在Physionet 2012 Challenge数据集上评估了I-RNN模型,以预测院内死亡率,并在现实世界的临床决策支持任务中评估了I-RNN模型:预测重症监护室中的血流动力学干预。I-RNN以全局和局部特征重要性的形式提供解释,与高度可理解的模型(如在手工设计的特征上训练的决策树)相当,同时显著优于它们。I-RNN保持可理解性,同时提供与最先进的基于衰减和基于插值的递归时间序列模型相当的准确性。在真实世界的临床数据集上的实验结果驳斥了准确性和可解释性之间存在权衡的神话。
2021-09-15 cs.AI cs.LG