Proactive Pseudo-Intervention: Causally Informed Contrastive Learning For Interpretable Vision Models
Duke University（杜克大学）；Microsoft Corporation（微软公司）
深度神经网络擅长理解复杂的视觉信号，其性能与人类专家不相上下，甚至更胜一筹。然而，ad-hoc模型决策的视觉解释往往揭示了一个惊人的依赖程度，利用非因果关系的视觉线索，强烈相关的目标标签在训练数据。因此，深度神经网络对从不同来源收集的新输入的泛化受到损害，并且其决策规则的逆向工程提供了有限的可解释性。为了克服这些限制，我们提出了一种新的对比学习策略，称为{ \it主动伪干预}（PPI），利用主动干预，以防止图像功能没有因果关系。我们还设计了一个新的因果通知显着性映射模块，以确定关键的图像像素进行干预，并显示它极大地促进了模型的可解释性。为了证明我们的建议的实用性，我们对标准的自然图像和具有挑战性的医学图像数据集进行基准测试。相对于竞争解决方案，PPI增强模型始终提供卓越的性能，特别是在域外预测和来自异构源的数据集成方面。此外，我们的因果训练显着性图相对于其非因果对应物更简洁和有意义。
2021-04-29 cs.AI cs.CV
Spectral Inference Networks: Unifying Deep and Spectral Learning
DeepMind（深度思维）；Google Brain（谷歌大脑）
我们提出了谱推理网络，一个通过随机优化学习线性算子特征函数的框架。谱推断网络将慢特征分析推广到一般对称算子，并且与计算物理学中的变分蒙特卡罗方法密切相关。因此，它们可以成为从视频或图形结构数据进行无监督表示学习的强大工具。我们将训练谱推理网络作为一个双层优化问题，它允许多个特征函数的在线学习。我们展示了在量子力学和合成数据集上视频特征学习问题上训练光谱推理网络的结果。我们的研究结果表明，谱推理网络可以准确地恢复线性算子的特征函数，并可以以完全无监督的方式从视频中发现可解释的表示。
2020-01-16 cs.AI cs.LG stat.ML
Interpretable Neural System Dynamics: Combining Deep Learning with System Dynamics Modeling to Support Critical Applications
University of Applied Sciences and Arts of Southern Switzerland（瑞士南瑞士应用科学与艺术大学）；Dalle Molle Institute for Artificial Intelligence（达勒莫勒人工智能研究所）
本研究提出整合基于概念的可解释性、机制可解释性与因果机器学习的神经系统动力学框架，结合深度学习预测能力与系统动力学的可解释性、因果可靠性，将通过AutoMoTIF项目验证，助力自主系统的可解释性与安全融合。
2025-05-20 cs.AI cs.LG
SphUnc: Hyperspherical Uncertainty Decomposition and Causal Identification via Information Geometry
University of Macau（澳门大学）；Fudan University（复旦大学）；Hangzhou Dianzi University（杭州电子科技大学）；Renmin University of China（中国人民大学）；Hanyang University（翰阳大学）；Tsinghua University（清华大学）；Zhejiang University（浙江大学）；University of Liverpool（利物浦大学）；Southeast University（东南大学）；Central South University（中南大学）
SphUnc结合超球面表示学习与结构因果建模，通过信息几何融合分解不确定性为epistemic和aleatoric成分，并通过样本模拟实现因果识别，提升多智能体系统中的预测准确性和不确定性校准能力。
2026-08-05 cs.AI cs.LG
Interpretability is in the Mind of the Beholder: A Causal Framework for Human-interpretable Representation Learning
University of Trento（特伦托大学）；University of Pisa（比萨大学）
本文提出一个基于因果表示学习的数学框架，通过显式建模人类观察者推导机器表示与人类概念词汇间的对齐，将可解释性与解耦、概念泄漏等属性统一在信息论视角下，为人类可解释表示学习奠定理论基础。
2023-09-14 cs.HC cs.LG
A causal graph-informed temporal convolution architecture for interpretable retail electricity price forecasting
The Ohio State University（俄亥俄州立大学）；John Glenn College of Public Affairs, The Ohio State University（俄亥俄州立大学约翰·格伦公共事务学院）
本研究提出CG-TCN模型，通过整合因果图与时序卷积网络提升零售电价预测的精度与可解释性，在俄亥俄州数据上的预测误差优于基准模型，可为电力市场相关决策提供支撑。
2026-08-28 cs.LG stat.AP
Causal disentanglement of multimodal data
Center for Computing Research, Sandia National Laboratories（桑迪亚国家实验室计算研究中心）；Applied Information Sciences Center, Sandia National Laboratories（桑迪亚国家实验室应用信息科学中心）；School of Computing and Augmented Intelligence, Arizona State University（亚利桑那州立大学计算与增强智能学院）；School of Engineering and Applied Science, University of Pennsylvania（宾夕法尼亚大学工程与应用科学学院）
针对探索性因果表示学习缺乏先验信息的问题，提出causalPIMA算法，结合多模态数据与物理约束，通过可微框架同步学习DAG与潜空间，实现无监督下的因果特征发现与可解释结构学习。
2023-11-08 cs.AI cs.LG stat.ML
Constructing Interpretable Features from Compositional Neuron Groups
Blavatnik School of Computer Science and AI, Tel Aviv University（特拉维夫大学Blavatnik计算机科学与人工智能学院）
本文提出SNMF方法，通过半非负矩阵分解直接分解MLP激活，生成稀疏线性组合的可解释特征，并在多个模型上验证其在因果操控中的优越性。
2026-05-02 cs.CL cs.LG
Disentangled Representations for Causal Cognition
School of Engineering and Informatics（工程与信息学院）；University of Sussex（萨塞克斯大学）；Araya Inc.（Araya公司）
本文连接因果认知研究与机器学习中的解耦表征方法，提出统一框架，为动物认知研究提供计算视角，并推动因果强化学习新算法的发展。
2024-06-30 cs.AI cs.LG q-bio.NC
Sparse Lifting of Dense Vectors: Unifying Word and Sentence Representations
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
作为自动化自然语言处理的第一步，词语和句子的表示具有核心的重要性，并吸引了大量的研究关注。从早期的one-hot和bag-of-words表示到最近的分布式密集和稀疏表示，提出了不同的方法。尽管已经取得了成功的结果，这样的向量往往是由不可解释的组件，并面临在实际应用中的内存和计算需求的非平凡的挑战。在本文中，我们设计了一种新的表示模型，该模型将密集的词向量投影到更高维的空间中，并支持具有潜在可解释成分的词向量的高度稀疏和二进制表示，同时尽可能保持原始向量之间的成对内积。在计算上，我们的模型是放松作为一个对称的非负矩阵分解问题，承认一个快速而有效的解决方案。在一系列的实证评估中，该模型表现出一致的改进和高潜力的实际应用。
2019-11-05 cs.CL cs.LG
Towards Causal Representations of Climate Model Data
Mila –Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；Osnabrück University（奥斯纳布吕克大学）；Université de Montréal（蒙特利尔大学）；Intel Labs（英特尔实验室）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Columbia University（哥伦比亚大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文研究基于机器学习的气候仿真器泛化性与可解释性不足的问题，评估因果表征学习方法 CDSD 在排放、温度和降水等多类气候数据集上的表现，为稳健可解释的气候模型仿真提供思路。
2023-12-06 cs.AI cs.LG physics.ao-ph
Causality Learning: A New Perspective for Interpretable Machine Learning
University of Technology Sydney（悉尼科技大学）
近年来，机器学习在图像识别、文本分类、信用评分预测、推荐系统等领域得到了快速发展。尽管在不同领域取得了巨大的成就，但研究人员仍然关注任何机器学习（ML）技术下的机制，这些机制本质上是黑箱的，并且为了达到更高的准确性而变得更加复杂。因此，解释机器学习模型是目前研究界的一个主流课题。然而，传统的可解释机器学习关注的是关联而不是因果关系。本文概述了因果分析的基本背景和关键概念，然后总结了最新的因果方法可解释的机器学习。本文还讨论了评估方法质量的评估技术，以及因果可解释性中的开放问题。
2021-09-17 cs.AI cs.LG stat.ML
A Unifying Causal Framework for Analyzing Dataset Shift-stable Learning Algorithms
Johns Hopkins University（约翰斯·霍普金斯大学）；Brex Inc.（Brex公司）；Bayesian Health（贝叶斯健康公司）
最近对预测模型的外部有效性的兴趣（即，不同的训练和测试分布的问题（称为数据集移位）已经产生了许多用于找到预测分布的方法，这些预测分布对于数据集移位是不变的，并且可以用于在新的、不可见的环境中进行预测。然而，这些方法考虑了不同类型的偏移，并且是在不同的框架下开发的，因此很难从理论上分析解决方案在稳定性和准确性方面的差异。从因果关系图的角度来看，我们使用灵活的图形表示来表达各种类型的数据集变化。给定一个已知的图形的数据生成过程中，我们表明，所有不变的分布对应于一个因果层次的图形操作符，禁用边缘的图形负责的转变。该层次结构提供了一个共同的理论基础，以了解何时以及如何实现稳定的转变，以及在什么方式稳定分布可以不同。我们用它来建立跨环境的极大极小最优性能的条件，并推导出新的算法，找到最佳的稳定分布。使用这个新的角度来看，我们经验证明，有一个权衡极大极小和平均性能。
2022-07-18 cs.AI cs.LG stat.ML
Interpretable Deep Causal Learning for Moderation Effects
University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）
在这篇扩展的抽象论文中，我们解决了因果机器学习模型中的可解释性和有针对性的正则化问题。特别是，我们专注于在观察到的混杂因素下估计个体因果/治疗效应的问题，这些混杂因素可以控制和调节治疗对感兴趣结果的影响。针对因果设置进行调整的黑盒ML模型在这项任务中通常表现良好，但它们缺乏可解释的输出，无法识别治疗异质性的主要驱动因素及其功能关系。我们提出了一种新型的深度反事实学习架构，用于估计个体治疗效果，可以同时：i）传达有针对性的正则化，并围绕感兴趣的数量产生量化的不确定性（即，条件平均治疗效应）; ii）解开协变量的基线预后和调节效应，并输出描述其与结果关系的可解释评分函数。最后，我们通过一个简单的模拟实验演示了该方法的使用。
2022-07-11 cs.AI cs.LG stat.ML
Function Based Isolation Forest (FuBIF): A Unifying Framework for Interpretable Isolation-Based Anomaly Detection
Brain, Mind and Computer Science, University of Padova, Italy（脑科学与计算机科学系，帕多瓦大学，意大利）；Department of Mathematics, Sapienza University of Roma, Italy（数学系，罗马萨皮恩扎大学，意大利）；Department of Information Engineering, University of Padova, Italy（信息工程系，帕多瓦大学，意大利）
本文提出基于函数的隔离森林（FuBIF），通过实值函数分支推广隔离森林以提升灵活性，并配套FuBIFFI算法提供特征重要性解释，实验验证其性能并开源实现。
2025-11-08 cs.LG stat.ML
From Black-box to Causal-box: Towards Building More Interpretable Models
Causal Artificial Intelligence Lab（因果人工智能实验室）；Columbia University（哥伦比亚大学）
本文提出因果可解释性概念，分析黑盒与概念模型均不满足，并开发框架设计因果可解释模型，通过图准则权衡可解释性与准确性，实验验证理论。
2025-10-24 cs.AI cs.LG stat.ML
Interpretable Models for Granger Causality Using Self-explaining Neural Networks
ETH Zürich（苏黎世联邦理工学院）
时间序列数据的探索性分析可以更好地理解复杂的动力系统。格兰杰因果关系是一个实用的框架，用于分析序列数据中的相互作用，应用于广泛的领域。在本文中，我们提出了一个新的框架推断多变量格兰杰因果关系的非线性动力学的基础上扩展的自解释神经网络。这个框架比其他基于神经网络的Granger因果关系推断技术更具解释性，因为除了关系推断之外，它还允许检测Granger因果效应的迹象并检查它们随时间的变化。在对模拟数据的综合实验中，我们表明，我们的框架在推断格兰杰因果关系方面与几种强大的基线方法不相上下，并且在推断相互作用符号方面具有更好的性能。结果表明，我们的框架是一个可行的和更可解释的替代稀疏输入神经网络推断格兰杰因果关系。
2021-01-19 cs.LG stat.ML
Interpretable, multi-dimensional Evaluation Framework for Causal Discovery from observational i.i.d. Data
Humboldt University Berlin（柏林洪堡大学）；Bucharest University of Economic Studies（布加勒斯特经济研究大学）
针对观测数据非线性因果发现缺乏统一评估框架的问题，提出可解释的六维评估指标DOS，并通过大规模模拟研究评估七类结构学习算法，发现摊销因果发现性能接近最优。
2024-12-16 cs.LG stat.ML
Dagma-DCE: Interpretable, Non-Parametric Differentiable Causal Discovery
Stony Brook University（石溪大学）
针对可微因果发现现有方法代理指标与实际因果强度偏差大的问题，提出可解释、模型无关的Dagma-DCE方案，用可解释因果强度度量定义加权邻接矩阵，在模拟数据集上达SOTA性能，支持专家阈值设定与稀疏惩罚，代码开源且易适配。
2024-01-05 cs.LG stat.ME stat.ML
Data-driven discovery of interpretable causal relations for deep learning material laws with uncertainty propagation
Johns Hopkins University（约翰斯·霍普金斯大学）；Columbia University（哥伦比亚大学）
本文提出了一个计算框架，产生合奏预测力学模型与不确定性量化（UQ）。首先，我们开发了一个因果发现算法，通过有向无环图（DAG）来推断在每个代表性体积元素（RVE）模拟过程中测量的时间历史数据之间的因果关系。利用从多个RVE模拟估计的多组合理的因果关系，预测在导出的因果图中传播，同时使用配备有dropout层的深度神经网络作为用于不确定性量化的贝叶斯近似。我们选择了两个有代表性的数值例子（摩擦界面的牵引分离定律，颗粒集合体的弹塑性模型）来检验所提出的因果发现方法在土木工程应用中常见的材料定律预测的准确性和鲁棒性。
2021-05-20 cs.LG stat.ML
Interpretable Clustering with Adaptive Heterogeneous Causal Structure Learning in Mixed Observational Data
Tsinghua University（清华大学）
针对现有聚类方法因果感知不足、异质性建模欠缺的问题，提出无监督框架HCL，通过双向迭代与自监督正则从混合观测数据中联合推断潜在簇与异质因果结构，理论可识别且性能优异，可用于发现机制层面的可解释因果异质性。
2025-10-28 cs.LG
Interpretable Causal Discovery via Causal-Effect Constraints
Yale University（耶鲁大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
该研究将条件因果发现转化为贝叶斯推理问题，采用稀有事件估计技术解决小后验质量事件的计算挑战，经合成图和Sachs蛋白质数据集验证了方法的准确性与辅助科学探索的作用。
2026-09-24 cs.AI cs.LG stat.ML
Dynamic Sparse Causal-Attention Temporal Networks for Interpretable Causality Discovery in Multivariate Time Series
针对多变量时间序列因果发现难题，提出DyCAST-Net架构，结合膨胀卷积与动态稀疏注意力过滤虚假连接，在金融与营销数据集上优于现有模型，提供更精确的因果延迟估计与可解释性。
2025-07-13 cs.AI cs.IR cs.LG
Interpretable Neural Causal Models with TRAM-DAGs
HTWG Konstanz（康斯坦茨应用科学大学）
针对现有神经因果模型可解释性不足、适用变量类型受限的问题，提出TRAM-DAG方法，用变换模型建模SCM的函数关系，兼顾可解释性与灵活性，在因果层级各层查询任务中性能达到或优于现有最优模型。
2025-03-20 cs.LG stat.ML
LUMINA: Laplacian-Unifying Mechanism for Interpretable Neurodevelopmental Analysis via Quad-Stream GCN
Seoul National University, Seoul, Republic of Korea（首尔国立大学，韩国首尔）；NVIDIA AI Technology Center HK, Hong Kong（NVIDIA香港人工智能技术中心，香港）
LUMINA通过四流图卷积网络和双频谱图拉普拉斯过滤机制，提升fMRI数据中神经连接动态的可解释性，在ADHD和ASD诊断中表现优异。
2026-03-05 cs.AI cs.LG
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性，提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
Learning Interpretable Models with Causal Guarantees
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）
机器学习在帮助提高医疗、法律和金融决策质量方面表现出了很大的潜力。在这些应用中，机器学习模型必须满足两个重要标准：（i）它们必须是因果关系，因为目标通常是预测个体治疗效果，（ii）它们必须是可解释的，以便人类决策者可以验证和信任模型预测。最近在每个方向上都取得了很大的进展，但最先进的方法从根本上是不相容的。我们提出了一个框架，从观察数据中学习可解释的模型，可用于预测个体治疗效果（ITE）。特别是，我们的框架将任何监督学习算法转换为估计ITE的算法。此外，我们证明了我们的模型预测的治疗效果的误差界。最后，在对真实世界数据的实验中，我们表明使用我们的框架训练的模型显著优于一些基线。
2021-10-11 cs.LG stat.ML
Beyond Coefficients: Forecast-Necessity Testing for Interpretable Causal Discovery in Nonlinear Time-Series Models
Lucy Family Institute for Data & Society（数据与社会联合研究所）；University of Notre Dame（诺特大学）；Department of Political Science（政治学系）
针对非线性时间序列模型中因果分数被误读为回归系数的问题，提出基于边消融和预测比较的预测必要性检验框架，以评估因果关系的实际必要性。
2026-04-20 cs.AI cs.LG stat.ME
Causal Rule Forest: Toward Interpretable and Precise Treatment Effect Estimation
National Sun Yat-sen University（台湾中山大学）
针对现有异质处理效应估计方法可解释性差的问题，提出因果规则森林（CRF），通过学习隐藏模式转化为可解释的多层布尔规则，提升其他可解释因果推断模型的预测精度与亚组识别能力。
2024-08-27 cs.AI cs.LG
Distilling interpretable causal trees from causal forests
POLIS: The Centre for Social Policy and Research（POLIS：社会政策与研究中心）；Australian National University（澳大利亚国立大学）
本文提出 Distilled Causal Tree，从因果森林蒸馏单棵可解释因果树，在噪声或高维相关特征场景下多数模拟优于原因果森林，并保持双重稳健与渐近正态。
2024-08-02 cs.LG econ.EM
Vision Paper: Causal Inference for Interpretable and Robust Machine Learning in Mobility Analysis
ETH Zürich（苏黎世联邦理工学院）；Prescient Design, Genentech | Roche（罗氏旗下基因泰克Prescient Design）；Swiss Data Science Center（瑞士数据科学中心）
人工智能（AI）正在彻底改变我们生活的许多领域，引领技术进步的新时代。特别是，交通部门将受益于人工智能的进步，并推动智能交通系统的发展。构建智能交通系统需要人工智能和移动性分析的复杂组合。在过去的几年里，使用先进的深度神经网络的交通应用得到了快速发展。然而，这种深度神经网络很难解释并且缺乏鲁棒性，这减缓了这些人工智能算法在实践中的部署。为了提高它们的可用性，越来越多的研究工作致力于开发可解释和鲁棒的机器学习方法，其中因果推理方法最近获得了牵引力，因为它提供了可解释和可操作的信息。此外，这些方法中的大多数是针对图像或序列数据开发的，这些数据不满足移动性数据分析的特定要求。这篇愿景论文强调了基于深度学习的移动性分析中需要可解释性和鲁棒性的研究挑战，总结了使用因果推理提高机器学习方法的可解释性和鲁棒性的最新进展，并强调了开发面向移动性分析的因果启用机器学习模型的机会。这一研究方向将使人工智能在交通领域的应用更具可解释性和可靠性，从而为更安全、更高效、更可持续的未来交通系统做出贡献。
2022-10-18 cs.AI cs.LG
CausalMamba: Interpretable State Space Modeling for Temporal Rumor Causality
University of California, Berkeley（加州大学伯克利分校）
CausalMamba通过整合Mamba、GCNs和可微因果发现，实现对谣言传播因果关系的可解释建模与分析。
2025-11-20 cs.LG cs.SI
Hierarchical Bias-Driven Stratification for Interpretable Causal Effect Estimation
IBM Research（IBM研究院）；University of Oxford（牛津大学）
针对现有透明因果效应估计方法多为黑盒事后解释、缺乏可解释性的问题，提出可解释平衡方法BICauseTree，基于定制目标的决策树实现局部自然实验聚类识别与偏差降低，性能与现有方法相当。
2024-01-31 cs.LG stat.ME stat.ML
Causality-Aware Local Interpretable Model-Agnostic Explanations
University of Pisa（比萨大学）
本文针对XAI方法的特征独立性假设缺陷，提出一种整合因果知识的局部模型无关解释器扩展，通过在数据中编码显式因果关系，提升了黑盒模型解释的忠实度、一致性与可靠性。
2024-04-15 cs.AI cs.LG
CausalFormer: An Interpretable Transformer for Temporal Causal Discovery
Tongji University（同济大学）；Fudan University（复旦大学）
针对现有时间因果发现方法仅利用深度学习模型部分组件参数、映射不完整的问题，提出由因果感知Transformer和基于分解的因果检测器组成的CausalFormer模型，在多类数据集上实现了当前最优的时间因果发现性能。
2024-06-24 cs.LG stat.ME
An Information-Theoretic Framework for Credit Risk Modeling: Unifying Industry Practice with Statistical Theory for Fair and Interpretable Scorecards
H2O.ai；Center for Trustworthy AI Through Model Risk Management, University of North Carolina Charlotte（可信人工智能通过模型风险管理中心，北卡罗来纳大学夏洛特分校）
本文提出统一的信息论框架，揭示信用风险指标WoE、IV与PSI的本质联系，推导其标准误差以实现假设检验与公平性约束，并通过实验证明基于信息论的分箱策略比编码选择更重要。
2025-09-11 cs.LG stat.ML
CIExplainer++: Generating Causal and Interpretable Explanations for Graph Neural Networks
NOVA LINCS；NOVA School of Science and Technology（NOVA科技学院）
提出CIExplainer方法，基于潜在结果框架识别对GNN预测因果影响最大的子图，并进一步提出G2TeXplainer将因果子图转化为自然语言解释。
2026-06-23 cs.LG stat.OT
Inducing Causal Structure for Interpretable Neural Networks
Stanford University（斯坦福大学）
在许多领域，我们对因果结构有着充分的见解，这些见解对于引入我们的训练模型非常有用，同时仍然允许它们以数据驱动的方式学习。为了实现这一目标，我们提出了交换干预训练（IIT）的新方法。在IIT中，我们（1）在因果模型中对齐变量（例如，确定性程序或贝叶斯网络），以及（2）当两个模型中的对齐表示被设置为它们对于源输入将是的值时，训练神经模型以匹配基础输入上的因果模型的反事实行为。IIT是完全可微的，可以灵活地与其他目标结合，并保证目标因果模型在其损失为零时是神经模型的因果抽象。我们评估IIT的结构视觉任务（MNIST-PVR），导航语言任务（ReaSCAN），和一个自然语言推理任务（MQNLI）。我们将IIT与多任务训练目标和数据增强进行比较。在我们所有的实验中，IIT取得了最好的结果，并产生了更可解释的神经模型，因为它们更成功地实现了目标因果模型。
2022-07-20 cs.LG
Learning interpretable causal networks from very large datasets, application to 400,000 medical records of breast cancer patients
CNRS（法国国家科学研究中心）；Institut Curie（居里研究所）；Université PSL（巴黎文理研究大学）；Sorbonne Université（索邦大学）；INSERM（法国国家健康与医学研究院）；Université Paris（巴黎大学）
发现因果效应是科学研究的核心，但当只有观测数据时，仍然具有挑战性。在实践中，因果网络很难学习和解释，并且仅限于相对较小的数据集。我们报告了一种更可靠和可扩展的因果发现方法（iMIIC），基于一般的互信息上确界原理，该方法大大提高了推断因果关系的精度，同时区分了真正的原因和假定的潜在因果效应。我们展示了来自美国监测，流行病学和最终结果计划的396，179名乳腺癌患者的合成和现实生活中的医疗数据。90%以上的预测因果效应似乎是正确的，而其余的意外直接和间接因果效应可以从诊断程序、治疗时机、患者偏好或社会经济差异方面进行解释。iMIIC的独特能力为在一系列研究领域发现可靠和可解释的因果网络开辟了新的途径。
2023-03-11 cs.LG physics.data-an q-bio.MN
Disentangling Causal Substructures for Interpretable and Generalizable Drug Synergy Prediction
School of Computer Science and Engineering（计算机科学与工程学院）；Hunan Provincial Key Lab on Bioinformatics（湖南省生物信息学重点实验室）；Big Data Institute（大数据研究院）
提出CausalDDS框架，通过解耦药物分子的因果与虚假子结构并结合条件干预机制，提升了药物协同预测的准确性、可解释性及在冷启动和分布外场景下的泛化能力。
2025-11-04 cs.AI cs.LG
UDDETTS: Unifying Discrete and Dimensional Emotions for Controllable Emotional Text-to-Speech
University of Science and Technology of China（中国科学技术大学）；Alibaba Group（阿里巴巴集团）；China Mobile（中国移动）
针对LLM TTS难以可解释地合成细粒度情感语音的问题，提出UDDETTS框架，统一离散与维度情感，引入ADV空间并采用半监督训练，实现沿三个维度的线性情感控制，提升端到端合成性能。
2025-09-25 cs.AI cs.CL cs.LG
Causal Feature Selection with Dimension Reduction for Interpretable Text Classification
Temple University（天普大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
与类别标签相关但不直接导致类别标签的文本特征有时对预测有用，但它们可能没有洞察力。作为传统的基于相关性的特征选择的替代方案，因果推理可以揭示文本特征和标签之间更有原则、更有意义的关系。为了帮助研究人员深入了解文本数据，例如社会科学应用，在本文中，我们研究了一类基于匹配的因果推理方法的文本特征选择。文档分类中使用的特征通常是高维的，然而现有的因果特征选择方法使用倾向分数匹配（PSM），这在高维空间中是无效的。本文提出了一种新的因果特征选择框架，将降维与因果推理相结合，改进了文本特征选择。在合成数据和真实数据上的实验证明了我们的方法在提高分类和增强可解释性方面的潜力。
2020-10-09 cs.CL cs.IR cs.LG
A New Causal Rule Learning Approach to Interpretable Estimation of Heterogeneous Treatment Effect
本文提出一种因果规则学习方法，用于可解释性地估计心房间隔缺损的异质治疗效应，通过规则发现、选择和分析步骤提升模型的可解释性与准确性。
2025-11-21 cs.LG stat.ME stat.ML
Sparse Feature Circuits: Discovering and Editing Interpretable Causal Graphs in Language Models
Northeastern University（东北大学）；MIT（麻省理工学院）；Technion – IIT（以色列理工学院）
本文提出稀疏特征电路方法，通过细粒度可解释特征构建因果子网络，并引入SHIFT提升分类器泛化，实现无监督可扩展的模型行为解释。
2025-03-27 cs.AI cs.CL cs.LG
A deep causal inference model for interpretable travel behaviour analysis
Toronto Metropolitan University（多伦多都会大学）；Laboratory of Innovations in Transportation (LiTrans)（交通创新实验室）
本文提出深度因果推断模型CAROLINA，融合因果推断、深度学习与离散选择建模，用于可解释出行行为分析，并通过生成式反事实模型预测人类行为，实验证明其在因果发现、预测和政策评估上有效。
2026-11-03 cs.LG
Causal AI For AMS Circuit Design: Interpretable Parameter Effects Analysis
University of Florida（佛罗里达大学）
本文提出基于因果推理的框架，通过SPICE仿真数据构建DAG并估算ATE，实现参数影响的可解释性分析，验证了因果AI在AMS设计中的高精度和可解释性。
2026-03-24 cs.AI cs.AR cs.LG
Evolutionary Causal Discovery with Relative Impact Stratification for Interpretable Data Analysis
Waseda University（早稻田大学）
研究提出ECD方法，结合遗传编程与RIS算法解析变量关系并评估相对影响，通过表达式树增强可解释性，在合成和真实EHR数据上验证了其高准确性与稳定性。
2024-04-25 cs.LG cs.NE cs.SC
Causal Interpretability for Machine Learning -- Problems, Methods and Evaluation
Arizona State University（亚利桑那州立大学）；Army Research Lab（陆军研究实验室）
机器学习模型在无数的应用中取得了显著的成就。然而，这些模型中的大多数都是黑箱，并且它们是如何做出决策的还不清楚。这使得模型不可靠和不可信。为了深入了解这些模型的决策过程，人们提出了各种传统的可解释模型。此外，为了产生更人性化的解释，最近关于可解释性的工作试图回答与因果关系有关的问题，例如“为什么这个模型会做出这样的决定？或者“是一个特定的特征导致了模型的决定吗？“".在这项工作中，旨在回答因果问题的模型被称为因果可解释模型。现有的调查涵盖了传统可解释性的概念和方法。本文从问题和方法两个方面对因果可解释模型进行了综述。此外，该调查还深入了解了现有的可解释性评估指标，这可以帮助从业人员了解每个评估指标适用于哪些场景。
2020-03-19 cs.LG stat.ML
CTP:A Causal Interpretable Model for Non-Communicable Disease Progression Prediction
Zhejiang Lab（之江实验室）；Zhejiang University（浙江大学）
本文提出因果轨迹预测模型CTP，结合轨迹预测与因果发现，在存在未测量混杂因素时估计治疗效应边界，提升疾病进展预测的可解释性并辅助临床决策。
2023-09-22 cs.LG
Dynamic Regularized CBDT: Variance-Calibrated Causal Boosting for Interpretable Heterogeneous Treatment Effects
Dublin International College Beijing University of Technology（北京理工大学 Dublin 国际学院）
针对基于树的因果推理技术在观测数据中估计误差高的问题，提出动态正则化因果提升决策树（CBDT）框架，通过整合方差正则化与平均处理效应校准、动态更新正则化参数，显著提升估计精度并保持可解释性。
2025-04-18 cs.LG stat.ML
Causal and Interpretable Structures in LLM Compositional Tasks
Cornell University（康奈尔大学）；Goodfire AI
本研究通过分析循环概念任务中的激活，揭示了LLM在Transformer层中逐步组织关系信息的几何与因果机制，并发现限制到因果相关联合表示可提升预测准确性。
2026-09-30 cs.AI cs.CL cs.LG
CausalSent: Interpretable Sentiment Classification with RieszNet
StanfordStats（斯坦福大学统计学系）；Google（谷歌）
针对NLP模型黑箱问题，提出基于RieszNet双头架构的CausalSent框架，提升文本处理效应估计精度，在IMDB数据上MAE降低2-3倍，并发现“love”词使正面情感概率增加2.9%。
2025-08-26 cs.CL cs.LG
Interpretable Reward Redistribution in Reinforcement Learning: A Causal Approach
Eindhoven University of Technology（埃因霍温理工大学）；University of California San Diego（加州大学圣迭戈分校）；University College London（伦敦大学学院）；University of Liverpool（利物浦大学）
本文提出一种基于因果生成模型的奖励再分配框架GRD，通过识别不可观测的马尔可夫奖励和因果关系，实现可解释的奖励分配并保持策略不变性，在延迟奖励场景中优于现有方法。
2023-11-10 cs.LG
Unifying distillation and privileged information
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Facebook AI Research（Facebook人工智能研究院）；Columbia University（哥伦比亚大学）
蒸馏（Hinton等人，2015）和特权信息（Vapnik & Izmailov，2015）是两种使机器能够从其他机器学习的技术。本文将这两种技术统一为广义蒸馏，一个从多台机器和数据表示中学习的框架。我们提供了关于广义蒸馏的内部工作原理的理论和因果见解，将其扩展到无监督，半监督和多任务学习场景，并说明了其对合成和真实世界数据的各种数值模拟的功效。
2016-02-26 cs.LG stat.ML
