CI-GNN: A Granger Causality-Inspired Graph Neural Network for Interpretable Brain Network-Based Psychiatric Diagnosis
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；UiT - Arctic University of Norway（挪威北极圈大学）
针对现有脑网络诊断用GNN解释器事后解释、缺因果性的问题，提出内置可解释的CI-GNN，通过CMI正则化解耦因果/非因果子图表示，在多数据集上性能与解释可靠性均优于基线。
2024-01-28 cs.LG q-bio.NC stat.ML
Interpretable Clustering with Adaptive Heterogeneous Causal Structure Learning in Mixed Observational Data
Tsinghua University（清华大学）
针对现有聚类方法因果感知不足、异质性建模欠缺的问题，提出无监督框架HCL，通过双向迭代与自监督正则从混合观测数据中联合推断潜在簇与异质因果结构，理论可识别且性能优异，可用于发现机制层面的可解释因果异质性。
2025-10-28 cs.LG
Interpretable Reward Modeling with Active Concept Bottlenecks
Department of Computer Science, ETH Zurich, Zurich, Switzerland（苏黎世联邦理工学院计算机科学系）；Department of Applied Mathematics and Theoretical Physics, University of Cambridge, United Kingdom（剑桥大学应用数学与理论物理系）
本文提出概念瓶颈奖励模型CB-RM，通过主动学习动态选择最有信息量的概念标签，在保持偏好准确率的同时提升可解释性和样本效率。
2025-07-20 cs.LG
Causal Effect Estimation using Variational Information Bottleneck
Beijing Institute of Technology（北京理工大学）；University of Aberdeen（阿伯丁大学）
因果推理是在因果关系中估计干预措施的因果效应。确切地说，在一个二元干预的因果模型中，即，控制和治疗，因果效应只是事实和反事实之间的差异。困难在于，可能永远得不到必须估计的反事实，因此因果效应只能是一种估计。估计反事实的关键挑战是识别影响结果和治疗的混杂因素。一种典型的方法是将因果推理公式化为监督学习问题，从而可以预测反事实。包括线性回归和深度学习模型在内，最近的机器学习方法已经适用于因果推理。本文提出了一种基于变分信息瓶颈（CEVIB）的因果效应估计方法。有希望的一点是，VIB能够自然地从数据中提取混杂变量，这使得能够通过使用观察数据来估计因果效应。我们将CEVIB与其他方法进行了比较，将它们应用于三个数据集，表明我们的方法取得了最佳性能。我们还通过实验证明了我们方法的鲁棒性。
2022-07-16 cs.LG
Inducing Causal Structure for Interpretable Neural Networks
Stanford University（斯坦福大学）
在许多领域，我们对因果结构有着充分的见解，这些见解对于引入我们的训练模型非常有用，同时仍然允许它们以数据驱动的方式学习。为了实现这一目标，我们提出了交换干预训练（IIT）的新方法。在IIT中，我们（1）在因果模型中对齐变量（例如，确定性程序或贝叶斯网络），以及（2）当两个模型中的对齐表示被设置为它们对于源输入将是的值时，训练神经模型以匹配基础输入上的因果模型的反事实行为。IIT是完全可微的，可以灵活地与其他目标结合，并保证目标因果模型在其损失为零时是神经模型的因果抽象。我们评估IIT的结构视觉任务（MNIST-PVR），导航语言任务（ReaSCAN），和一个自然语言推理任务（MQNLI）。我们将IIT与多任务训练目标和数据增强进行比较。在我们所有的实验中，IIT取得了最好的结果，并产生了更可解释的神经模型，因为它们更成功地实现了目标因果模型。
2022-07-20 cs.LG
Structural Causal Bottleneck Models
Department of Computer Science, University of Potsdam（波恩大学计算机科学系）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
本文提出结构因果瓶颈模型（SCBMs），通过低维摘要统计来捕捉高维变量间的因果效应，提供灵活的降维框架，并展示其在小样本迁移学习中的优势。
2026-10-19 cs.LG stat.ML
ConceptTS: LLM-Guided Concept Bottlenecks for Interpretable Multivariate Time-Series Forecasting
Stanford University（斯坦福大学）；University of California, Davis（加州大学戴维斯分校）
ConceptTS是围绕人类可理解概念的可解释多变量时间序列预测框架，利用大语言模型生成概念与标注规则，在空气质量数据集上达到与黑箱基线相当的准确率，且决策过程可解释。
2026-08-24 cs.LG
A deep causal inference model for interpretable travel behaviour analysis
Toronto Metropolitan University（多伦多都会大学）；Laboratory of Innovations in Transportation (LiTrans)（交通创新实验室）
本文提出深度因果推断模型CAROLINA，融合因果推断、深度学习与离散选择建模，用于可解释出行行为分析，并通过生成式反事实模型预测人类行为，实验证明其在因果发现、预测和政策评估上有效。
2026-11-03 cs.LG
CTP:A Causal Interpretable Model for Non-Communicable Disease Progression Prediction
Zhejiang Lab（之江实验室）；Zhejiang University（浙江大学）
本文提出因果轨迹预测模型CTP，结合轨迹预测与因果发现，在存在未测量混杂因素时估计治疗效应边界，提升疾病进展预测的可解释性并辅助临床决策。
2023-09-22 cs.LG
Interpretable Models for Granger Causality Using Self-explaining Neural Networks
ETH Zürich（苏黎世联邦理工学院）
时间序列数据的探索性分析可以更好地理解复杂的动力系统。格兰杰因果关系是一个实用的框架，用于分析序列数据中的相互作用，应用于广泛的领域。在本文中，我们提出了一个新的框架推断多变量格兰杰因果关系的非线性动力学的基础上扩展的自解释神经网络。这个框架比其他基于神经网络的Granger因果关系推断技术更具解释性，因为除了关系推断之外，它还允许检测Granger因果效应的迹象并检查它们随时间的变化。在对模拟数据的综合实验中，我们表明，我们的框架在推断格兰杰因果关系方面与几种强大的基线方法不相上下，并且在推断相互作用符号方面具有更好的性能。结果表明，我们的框架是一个可行的和更可解释的替代稀疏输入神经网络推断格兰杰因果关系。
2021-01-19 cs.LG stat.ML
ShifaMind: A Multiplicative Concept Bottleneck for Interpretable ICD-10 Coding
College of Information Science, University of Arizona（亚利桑那大学信息科学学院）
本文提出ShifaMind，一种基于乘法概念瓶颈的架构，通过改变瓶颈形式而非宽度，提升ICD-10编码的准确性和可解释性。
2026-05-08 cs.CL cs.LG
Interpretable Reward Redistribution in Reinforcement Learning: A Causal Approach
Eindhoven University of Technology（埃因霍温理工大学）；University of California San Diego（加州大学圣迭戈分校）；University College London（伦敦大学学院）；University of Liverpool（利物浦大学）
本文提出一种基于因果生成模型的奖励再分配框架GRD，通过识别不可观测的马尔可夫奖励和因果关系，实现可解释的奖励分配并保持策略不变性，在延迟奖励场景中优于现有方法。
2023-11-10 cs.LG
Attentional Bottleneck: Towards an Interpretable Deep Driving Network
Waymo Research（Waymo研究院）
深度神经网络是自动驾驶汽车行为预测和运动生成的关键组成部分。它们的主要缺点之一是缺乏透明度：它们应该为触发某些行为的原因提供易于解释的理由。我们提出了一个架构称为注意力瓶颈的目标是提高透明度。我们的关键思想是将视觉注意力（识别模型正在使用输入的哪些方面）与信息瓶颈（使模型能够只使用输入的重要方面）相结合。这不仅提供了稀疏和可解释的注意力地图（例如，只关注场景中的特定车辆），而且它在不影响模型准确性的情况下增加了这种透明度。事实上，我们发现在将注意力瓶颈应用于ChauffeurNet模型时，准确性略有提高，而我们发现传统视觉注意力模型的准确性有所下降。
2020-05-08 cs.CV cs.LG cs.RO
Adaptive Test-Time Intervention for Concept Bottleneck Models
Columbia University（哥伦比亚大学）；UC Berkeley（加州大学伯克利分校）
针对概念瓶颈模型（CBM）中概念使用存在黑箱或性能牺牲的问题，提出FIGS-BD方法，通过二元蒸馏将CBM的概念-目标部分转化为可解释树模型，保持性能的同时实现归因解释，并在4个数据集上通过自适应测试时干预显著提升人在环场景的性能。
2025-04-14 cs.LG
Scaling Interpretable Transformers with Parity Bottleneck Layers
Principles of Intelligence（智能原理）
研究旨在解决训练可解释Transformer模型的难题，提出ParityTransformer架构，通过奇偶瓶颈层实现，实验表明其在稀疏探测任务中表现良好，在特征相关指标上更优，朝着训练内部表示可设计解释的模型迈出一步。
2026-07-24 cs.AI cs.LG
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology（麻省理工学院）
本文提出三种技术缓解概念瓶颈模型中的偏见，以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
CausalKANs: interpretable treatment effect estimation with Kolmogorov-Arnold networks
causalKANs通过Kolmogorov-Arnold网络实现可解释的治疗效应估计，提供高准确性和可解释性的平衡解决方案。
2025-12-05 cs.LG stat.ML
Reliable Estimation of Individual Treatment Effect with Causal Information Bottleneck
KAIST（韩国科学技术院）；AItrics
从观察数据中估计个体水平治疗效应（ITE）是因果机器学习中一个具有挑战性和重要性的领域，并且通常在各种关键任务应用中被考虑。在本文中，我们提出了一个信息理论的方法，以找到更可靠的表示估计ITE。我们利用信息瓶颈（IB）原则，该原则解决了简洁性和表示的预测能力之间的权衡。随着因果信息瓶颈的扩展图形模型的引入，我们鼓励学习表示和治疗类型之间的独立性。我们还从理解半监督学习框架中的ITE的角度引入了一种额外形式的正则化器，以确保更可靠的表示。实验结果表明，我们的模型达到了最先进的结果，并表现出更可靠的预测性能与现实世界的数据集上的不确定性信息。
2019-06-07 cs.LG stat.ML
Distilling interpretable causal trees from causal forests
POLIS: The Centre for Social Policy and Research（POLIS：社会政策与研究中心）；Australian National University（澳大利亚国立大学）
本文提出 Distilled Causal Tree，从因果森林蒸馏单棵可解释因果树，在噪声或高维相关特征场景下多数模拟优于原因果森林，并保持双重稳健与渐近正态。
2024-08-02 cs.LG econ.EM
Interpretable, multi-dimensional Evaluation Framework for Causal Discovery from observational i.i.d. Data
Humboldt University Berlin（柏林洪堡大学）；Bucharest University of Economic Studies（布加勒斯特经济研究大学）
针对观测数据非线性因果发现缺乏统一评估框架的问题，提出可解释的六维评估指标DOS，并通过大规模模拟研究评估七类结构学习算法，发现摊销因果发现性能接近最优。
2024-12-16 cs.LG stat.ML
CausalMamba: Interpretable State Space Modeling for Temporal Rumor Causality
University of California, Berkeley（加州大学伯克利分校）
CausalMamba通过整合Mamba、GCNs和可微因果发现，实现对谣言传播因果关系的可解释建模与分析。
2025-11-20 cs.LG cs.SI
Interpretable Deep Learning for Stock Returns: A Consensus-Bottleneck Asset Pricing Model
Department of Industrial and Management Engineering, POSTECH（POSTECH工业与管理工程系）；Graduate School of Artificial Intelligence, POSTECH（POSTECH人工智能研究生院）；Korea University Business School（韩国大学商学院）
本文提出共识-瓶颈资产定价模型，通过将分析师共识作为结构性瓶颈，提升模型预测准确性并锚定经济可解释驱动因素，发现基于该模型的组合具有稳健的收益梯度。
2026-04-24 cs.AI cs.LG q-fin.PR
From Tokens to Policy: Causal and Interpretable Heterogeneous Treatment Effects Identification
ISTA；UNICEF（联合国儿童基金会）；UCLA（加州大学洛杉矶分校）
提出NEXIS方法，利用多模态预处理表示将HTE识别转化为马尔可夫毯发现问题，实现因果可解释的异质性处理效应识别，并在非洲反贫困项目中验证。
2026-10-01 cs.LG
Explaining a black-box using Deep Variational Information Bottleneck Approach
Carnegie Mellon University（卡内基梅隆大学）；Petuum Inc.（Petuum公司）；Arizona State University（亚利桑那州立大学）
可解释的机器学习近年来受到了广泛的关注。在解释黑箱决策系统时，为了简明扼要地提供大量信息，简明和全面是必要的。然而，现有的可解释的机器学习方法未能同时考虑准确性和全面性，导致冗余解释。我们提出了变信息瓶颈的解释，VIBI，一个系统不可知的解释方法，提供了一个简短而全面的解释。VIBI采用信息理论原理，信息瓶颈原理，作为寻找这种解释的标准。对于每一个实例，VIBI选择的关键特征是最大限度地压缩了输入（准确性），并提供了关于黑盒系统对该输入所做决定的信息（全面性）。我们在三个数据集上评估了VIBI，并在通过人工和定量指标评估的可解释性和保真度方面与最先进的可解释机器学习方法进行了比较
2019-10-03 cs.LG stat.ML
CausalFormer: An Interpretable Transformer for Temporal Causal Discovery
Tongji University（同济大学）；Fudan University（复旦大学）
针对现有时间因果发现方法仅利用深度学习模型部分组件参数、映射不完整的问题，提出由因果感知Transformer和基于分解的因果检测器组成的CausalFormer模型，在多类数据集上实现了当前最优的时间因果发现性能。
2024-06-24 cs.LG stat.ME
Causality Learning: A New Perspective for Interpretable Machine Learning
University of Technology Sydney（悉尼科技大学）
近年来，机器学习在图像识别、文本分类、信用评分预测、推荐系统等领域得到了快速发展。尽管在不同领域取得了巨大的成就，但研究人员仍然关注任何机器学习（ML）技术下的机制，这些机制本质上是黑箱的，并且为了达到更高的准确性而变得更加复杂。因此，解释机器学习模型是目前研究界的一个主流课题。然而，传统的可解释机器学习关注的是关联而不是因果关系。本文概述了因果分析的基本背景和关键概念，然后总结了最新的因果方法可解释的机器学习。本文还讨论了评估方法质量的评估技术，以及因果可解释性中的开放问题。
2021-09-17 cs.AI cs.LG stat.ML
Interpretable Imitation Learning with Dynamic Causal Relations
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Laboratories America（NEC美国实验室）；East China Normal University（华东师范大学）
针对模仿学习智能体黑箱难解释、决策因果机制动态变化的问题，提出基于格兰杰因果的可自解释模仿学习框架，以状态依赖的动态因果图揭示决策逻辑，在多数据集上兼顾可解释性与预测准确率。
2024-01-30 cs.LG
Interpretable Generative Models through Post-hoc Concept Bottlenecks
University of California San Diego（加州大学圣迭戈分校）
提出两种低成本事后概念瓶颈方法（CB-AE和CC），无需真实数据即可构建可解释生成模型，在多个数据集上提升可解释性和可操控性约25%，训练速度快4-15倍。
2025-03-25 cs.CV cs.LG
Data-driven discovery of interpretable causal relations for deep learning material laws with uncertainty propagation
Johns Hopkins University（约翰斯·霍普金斯大学）；Columbia University（哥伦比亚大学）
本文提出了一个计算框架，产生合奏预测力学模型与不确定性量化（UQ）。首先，我们开发了一个因果发现算法，通过有向无环图（DAG）来推断在每个代表性体积元素（RVE）模拟过程中测量的时间历史数据之间的因果关系。利用从多个RVE模拟估计的多组合理的因果关系，预测在导出的因果图中传播，同时使用配备有dropout层的深度神经网络作为用于不确定性量化的贝叶斯近似。我们选择了两个有代表性的数值例子（摩擦界面的牵引分离定律，颗粒集合体的弹塑性模型）来检验所提出的因果发现方法在土木工程应用中常见的材料定律预测的准确性和鲁棒性。
2021-05-20 cs.LG stat.ML
Causally Reliable Concept Bottleneck Models
Università della Svizzera Italiana（瑞士意大利大学）；University of Liechtenstein（利赫泰森大学）；Politecnico di Torino（托尼诺理工学院）；IBM Research（IBM研究院）；Scuola Universitaria Professionale della Svizzera Italiana（瑞士意大利专业大学）
本文提出C$^2$BMs，一种基于概念的因果可靠模型，通过结构化概念瓶颈提升可解释性和因果推理能力。
2026-01-31 cs.AI cs.LG
Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset
Dalhousie University（达尔豪斯大学）
本文利用因果生成学习与反事实推断，提出针对图像分类器的可解释方法，包括像素级影响分析、基于蒙特卡洛的属性重要性估计及反事实解释优化，并在 Morpho-MNIST 上验证其可解释性优于 OmnixAI。
2024-01-21 cs.LG
Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
Saarland University（萨尔兰大学）；Tianjin University of Technology（天津工业大学）；University of Macau（澳门大学）；University of Exeter（埃克塞特大学）
本研究通过生成器框架比较概念瓶颈模型与标准分类器在几何和语义扰动下的鲁棒性，揭示可解释性不固有提升鲁棒性，而是重新分配敏感性，存在依赖扰动机制的任务结构权衡。
2026-10-22 cs.AI cs.LG
Interpretable and Steerable Concept Bottleneck Sparse Autoencoders
University of California, San Diego（加州大学圣迭戈分校）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
本文提出CB-SAE框架，通过剪枝低效神经元和增加概念瓶颈提升LVLMs和图像生成任务的可解释性和可操控性，效果提升分别为32.1%和14.5%。
2026-03-30 cs.CV cs.LG
Interpretable Neural Causal Models with TRAM-DAGs
HTWG Konstanz（康斯坦茨应用科学大学）
针对现有神经因果模型可解释性不足、适用变量类型受限的问题，提出TRAM-DAG方法，用变换模型建模SCM的函数关系，兼顾可解释性与灵活性，在因果层级各层查询任务中性能达到或优于现有最优模型。
2025-03-20 cs.LG stat.ML
The Causal Information Bottleneck and Optimal Causal Variable Abstractions
Department of Information and Computing Sciences（信息与计算科学系）
针对传统信息瓶颈忽视因果结构的问题，提出因果信息瓶颈 CIB，在压缩变量的同时保持对目标变量的因果控制，并通过实验验证其抽象能准确捕捉因果关系。
2025-06-11 cs.AI cs.IT cs.LG
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性，提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
Learning Interpretable Models with Causal Guarantees
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）
机器学习在帮助提高医疗、法律和金融决策质量方面表现出了很大的潜力。在这些应用中，机器学习模型必须满足两个重要标准：（i）它们必须是因果关系，因为目标通常是预测个体治疗效果，（ii）它们必须是可解释的，以便人类决策者可以验证和信任模型预测。最近在每个方向上都取得了很大的进展，但最先进的方法从根本上是不相容的。我们提出了一个框架，从观察数据中学习可解释的模型，可用于预测个体治疗效果（ITE）。特别是，我们的框架将任何监督学习算法转换为估计ITE的算法。此外，我们证明了我们的模型预测的治疗效果的误差界。最后，在对真实世界数据的实验中，我们表明使用我们的框架训练的模型显著优于一些基线。
2021-10-11 cs.LG stat.ML
Dagma-DCE: Interpretable, Non-Parametric Differentiable Causal Discovery
Stony Brook University（石溪大学）
针对可微因果发现现有方法代理指标与实际因果强度偏差大的问题，提出可解释、模型无关的Dagma-DCE方案，用可解释因果强度度量定义加权邻接矩阵，在模拟数据集上达SOTA性能，支持专家阈值设定与稀疏惩罚，代码开源且易适配。
2024-01-05 cs.LG stat.ME stat.ML
Interpretable Deep Causal Learning for Moderation Effects
University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）
在这篇扩展的抽象论文中，我们解决了因果机器学习模型中的可解释性和有针对性的正则化问题。特别是，我们专注于在观察到的混杂因素下估计个体因果/治疗效应的问题，这些混杂因素可以控制和调节治疗对感兴趣结果的影响。针对因果设置进行调整的黑盒ML模型在这项任务中通常表现良好，但它们缺乏可解释的输出，无法识别治疗异质性的主要驱动因素及其功能关系。我们提出了一种新型的深度反事实学习架构，用于估计个体治疗效果，可以同时：i）传达有针对性的正则化，并围绕感兴趣的数量产生量化的不确定性（即，条件平均治疗效应）; ii）解开协变量的基线预后和调节效应，并输出描述其与结果关系的可解释评分函数。最后，我们通过一个简单的模拟实验演示了该方法的使用。
2022-07-11 cs.AI cs.LG stat.ML
Causal Rule Forest: Toward Interpretable and Precise Treatment Effect Estimation
National Sun Yat-sen University（台湾中山大学）
针对现有异质处理效应估计方法可解释性差的问题，提出因果规则森林（CRF），通过学习隐藏模式转化为可解释的多层布尔规则，提升其他可解释因果推断模型的预测精度与亚组识别能力。
2024-08-27 cs.AI cs.LG
Causally-Aware Information Bottleneck for Domain Adaptation
Department of Computer Science（计算机科学系）；Appalachian State University（阿巴拉契亚州立大学）
本文提出一种因果意识的信息瓶颈方法，用于在领域适应中有效推断缺失的目标变量，适用于高维因果模型，并提供统一的轻量工具。
2026-01-07 cs.AI cs.LG
Dynamic Sparse Causal-Attention Temporal Networks for Interpretable Causality Discovery in Multivariate Time Series
针对多变量时间序列因果发现难题，提出DyCAST-Net架构，结合膨胀卷积与动态稀疏注意力过滤虚假连接，在金融与营销数据集上优于现有模型，提供更精确的因果延迟估计与可解释性。
2025-07-13 cs.AI cs.IR cs.LG
From Black-box to Causal-box: Towards Building More Interpretable Models
Causal Artificial Intelligence Lab（因果人工智能实验室）；Columbia University（哥伦比亚大学）
本文提出因果可解释性概念，分析黑盒与概念模型均不满足，并开发框架设计因果可解释模型，通过图准则权衡可解释性与准确性，实验验证理论。
2025-10-24 cs.AI cs.LG stat.ML
Vision Paper: Causal Inference for Interpretable and Robust Machine Learning in Mobility Analysis
ETH Zürich（苏黎世联邦理工学院）；Prescient Design, Genentech | Roche（罗氏旗下基因泰克Prescient Design）；Swiss Data Science Center（瑞士数据科学中心）
人工智能（AI）正在彻底改变我们生活的许多领域，引领技术进步的新时代。特别是，交通部门将受益于人工智能的进步，并推动智能交通系统的发展。构建智能交通系统需要人工智能和移动性分析的复杂组合。在过去的几年里，使用先进的深度神经网络的交通应用得到了快速发展。然而，这种深度神经网络很难解释并且缺乏鲁棒性，这减缓了这些人工智能算法在实践中的部署。为了提高它们的可用性，越来越多的研究工作致力于开发可解释和鲁棒的机器学习方法，其中因果推理方法最近获得了牵引力，因为它提供了可解释和可操作的信息。此外，这些方法中的大多数是针对图像或序列数据开发的，这些数据不满足移动性数据分析的特定要求。这篇愿景论文强调了基于深度学习的移动性分析中需要可解释性和鲁棒性的研究挑战，总结了使用因果推理提高机器学习方法的可解释性和鲁棒性的最新进展，并强调了开发面向移动性分析的因果启用机器学习模型的机会。这一研究方向将使人工智能在交通领域的应用更具可解释性和可靠性，从而为更安全、更高效、更可持续的未来交通系统做出贡献。
2022-10-18 cs.AI cs.LG
Information Bottlenecks, Causal States, and Statistical Relevance Bases: How to Represent Relevant Information in Memoryless Transduction
发现相关但可能隐藏的变量是构建关于自然世界的有用和预测理论的关键一步。这个简短的说明解释了这个问题的三种方法之间的联系：最近推出的信息瓶颈方法，计算力学方法推断最佳模型，和鲑鱼的统计相关性的基础。
2000-06-16 cond-mat.dis-nn cs.LG nlin.AO
When Does Routing Become Interpretable? Causal Probes on Block Attention Residuals
ETH Zurich（苏黎世联邦理工学院）
研究块注意力残差中路由的可解释性，发现仅当路由参与训练时才出现结构化深度路由，且路由权重与因果重要性存在分离，需用因果干预验证。
2026-06-12 cs.LG
Causality-Aware Local Interpretable Model-Agnostic Explanations
University of Pisa（比萨大学）
本文针对XAI方法的特征独立性假设缺陷，提出一种整合因果知识的局部模型无关解释器扩展，通过在数据中编码显式因果关系，提升了黑盒模型解释的忠实度、一致性与可靠性。
2024-04-15 cs.AI cs.LG
Causal Information Bottleneck Boosts Adversarial Robustness of Deep Neural Network
Tongji University（同济大学）；SmartMore. Co. Ltd.（思谋科技有限公司）
信息瓶颈（IB）方法是深度学习中对抗对抗攻击的一种可行的防御方案。然而，该方法存在虚假相关性，限制了其对抗鲁棒性的进一步提高。在本文中，我们将因果推理到IB框架，以减轻这样的问题。具体来说，我们通过工具变量将IB方法获得的特征分为稳健特征（内容信息）和非稳健特征（风格信息）来估计因果效应。利用这种框架，可以减轻非鲁棒特征的影响，以增强对抗鲁棒性。最后对该方法的有效性进行了分析。在MNIST、FashionMNIST和CIFAR-10上的大量实验表明，该方法对多个对抗攻击具有相当的鲁棒性。我们的代码将被释放。
2022-10-25 cs.AI cs.CR cs.LG
Causal Feature Selection with Dimension Reduction for Interpretable Text Classification
Temple University（天普大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
与类别标签相关但不直接导致类别标签的文本特征有时对预测有用，但它们可能没有洞察力。作为传统的基于相关性的特征选择的替代方案，因果推理可以揭示文本特征和标签之间更有原则、更有意义的关系。为了帮助研究人员深入了解文本数据，例如社会科学应用，在本文中，我们研究了一类基于匹配的因果推理方法的文本特征选择。文档分类中使用的特征通常是高维的，然而现有的因果特征选择方法使用倾向分数匹配（PSM），这在高维空间中是无效的。本文提出了一种新的因果特征选择框架，将降维与因果推理相结合，改进了文本特征选择。在合成数据和真实数据上的实验证明了我们的方法在提高分类和增强可解释性方面的潜力。
2020-10-09 cs.CL cs.IR cs.LG
Diverse Concept Proposals for Concept Bottleneck Models
Harvard SEAS（哈佛大学工程与应用科学学院）
提出一种为概念瓶颈模型生成多样化概念提议的方法，通过提供多种替代解释供专家选择，解决了最具预测性概念与专家直觉不一致的问题，并在合成数据集和EHR数据上验证了有效性。
2024-12-24 cs.LG
Causal learning with sufficient statistics: an information bottleneck approach
Istituto Italiano di Tecnologia（意大利理工学院）；Dept. of Neurobiology, Harvard Medical School（哈佛医学院神经生物学系）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-ETH学习系统中心）；Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制论研究所）
从部分可观测的隐变量多变量系统的观测数据中推断因果关系是许多科学领域的基本问题。从系统变量之间的条件独立性中提取因果信息的方法是用于此目的的常用工具，但由于缺乏独立性而受到限制。为了克服这一局限性，我们利用了这样一个事实，即一个系统的生成机制的法律往往导致子结构体现在一个变量的生成函数方程，它作为充分统计量的影响，其他变量对它。这些功能充分统计量构成中间隐藏变量提供新的条件独立性进行测试。我们建议使用信息瓶颈方法，一种常用的降维技术，找到足够的统计数据集。使用这些统计数据，我们制定了新的额外的规则的因果方向，提供因果信息不能从标准的结构学习算法，只利用可观察变量之间的条件独立。我们验证了使用充分统计量的结构学习与模拟系统构建包含特定的充分统计量和基准数据的监管规则以前和独立提出的生物信号转导网络模型。
2020-10-12 cs.LG stat.ML
CI-CBM: Class-Incremental Concept Bottleneck Model for Interpretable Continual Learning
Department of Electrical and Computer Engineering, University of California San Diego（加州大学圣地亚哥分校电气与计算机工程系）；Department of Computer Science and Engineering, University of California San Diego（加州大学圣地亚哥分校计算机科学与工程系）；Halıcıoğlu Data Science Institute, University of California San Diego（加州大学圣地亚哥分校Halıcıoğlu数据科学研究所）
本文提出CI-CBM模型，通过概念正则化和伪概念生成技术，在持续学习中保持可解释性，实验表明其在七种数据集上性能优异，比现有可解释方法平均提升36%。
2026-04-16 cs.CV cs.LG
CausalSent: Interpretable Sentiment Classification with RieszNet
StanfordStats（斯坦福大学统计学系）；Google（谷歌）
针对NLP模型黑箱问题，提出基于RieszNet双头架构的CausalSent框架，提升文本处理效应估计精度，在IMDB数据上MAE降低2-3倍，并发现“love”词使正面情感概率增加2.9%。
2025-08-26 cs.CL cs.LG
Hierarchical Bias-Driven Stratification for Interpretable Causal Effect Estimation
IBM Research（IBM研究院）；University of Oxford（牛津大学）
针对现有透明因果效应估计方法多为黑盒事后解释、缺乏可解释性的问题，提出可解释平衡方法BICauseTree，基于定制目标的决策树实现局部自然实验聚类识别与偏差降低，性能与现有方法相当。
2024-01-31 cs.LG stat.ME stat.ML
