Interpretable, multi-dimensional Evaluation Framework for Causal Discovery from observational i.i.d. Data
Humboldt University Berlin(柏林洪堡大学);Bucharest University of Economic Studies(布加勒斯特经济研究大学)
针对观测数据非线性因果发现缺乏统一评估框架的问题,提出可解释的六维评估指标DOS,并通过大规模模拟研究评估七类结构学习算法,发现摊销因果发现性能接近最优。
2024-12-16 cs.LG stat.ML
CausalFormer: An Interpretable Transformer for Temporal Causal Discovery
Tongji University(同济大学);Fudan University(复旦大学)
针对现有时间因果发现方法仅利用深度学习模型部分组件参数、映射不完整的问题,提出由因果感知Transformer和基于分解的因果检测器组成的CausalFormer模型,在多类数据集上实现了当前最优的时间因果发现性能。
2024-06-24 cs.LG stat.ME
Data-driven discovery of interpretable causal relations for deep learning material laws with uncertainty propagation
Johns Hopkins University(约翰斯·霍普金斯大学);Columbia University(哥伦比亚大学)
本文提出了一个计算框架,产生合奏预测力学模型与不确定性量化(UQ)。首先,我们开发了一个因果发现算法,通过有向无环图(DAG)来推断在每个代表性体积元素(RVE)模拟过程中测量的时间历史数据之间的因果关系。利用从多个RVE模拟估计的多组合理的因果关系,预测在导出的因果图中传播,同时使用配备有dropout层的深度神经网络作为用于不确定性量化的贝叶斯近似。我们选择了两个有代表性的数值例子(摩擦界面的牵引分离定律,颗粒集合体的弹塑性模型)来检验所提出的因果发现方法在土木工程应用中常见的材料定律预测的准确性和鲁棒性。
2021-05-20 cs.LG stat.ML
Interpretable Neural Causal Models with TRAM-DAGs
HTWG Konstanz(康斯坦茨应用科学大学)
针对现有神经因果模型可解释性不足、适用变量类型受限的问题,提出TRAM-DAG方法,用变换模型建模SCM的函数关系,兼顾可解释性与灵活性,在因果层级各层查询任务中性能达到或优于现有最优模型。
2025-03-20 cs.LG stat.ML
MOCHA: Discovering Multi-Order Dynamic Causality in Temporal Point Processes
Tongji University(同济大学)
MOCHA提出一种新框架,通过时变DAG上的多跳路径发现时间点过程中的多阶动态因果,联合建模因果发现与事件预测,在真实数据集上取得最优性能并揭示可解释结构。
2025-08-26 cs.LG
Dagma-DCE: Interpretable, Non-Parametric Differentiable Causal Discovery
Stony Brook University(石溪大学)
针对可微因果发现现有方法代理指标与实际因果强度偏差大的问题,提出可解释、模型无关的Dagma-DCE方案,用可解释因果强度度量定义加权邻接矩阵,在模拟数据集上达SOTA性能,支持专家阈值设定与稀疏惩罚,代码开源且易适配。
2024-01-05 cs.LG stat.ME stat.ML
Learning interpretable causal networks from very large datasets, application to 400,000 medical records of breast cancer patients
CNRS(法国国家科学研究中心);Institut Curie(居里研究所);Université PSL(巴黎文理研究大学);Sorbonne Université(索邦大学);INSERM(法国国家健康与医学研究院);Université Paris(巴黎大学)
发现因果效应是科学研究的核心,但当只有观测数据时,仍然具有挑战性。在实践中,因果网络很难学习和解释,并且仅限于相对较小的数据集。我们报告了一种更可靠和可扩展的因果发现方法(iMIIC),基于一般的互信息上确界原理,该方法大大提高了推断因果关系的精度,同时区分了真正的原因和假定的潜在因果效应。我们展示了来自美国监测,流行病学和最终结果计划的396,179名乳腺癌患者的合成和现实生活中的医疗数据。90%以上的预测因果效应似乎是正确的,而其余的意外直接和间接因果效应可以从诊断程序、治疗时机、患者偏好或社会经济差异方面进行解释。iMIIC的独特能力为在一系列研究领域发现可靠和可解释的因果网络开辟了新的途径。
2023-03-11 cs.LG physics.data-an q-bio.MN
Evolutionary Causal Discovery with Relative Impact Stratification for Interpretable Data Analysis
Waseda University(早稻田大学)
研究提出ECD方法,结合遗传编程与RIS算法解析变量关系并评估相对影响,通过表达式树增强可解释性,在合成和真实EHR数据上验证了其高准确性与稳定性。
2024-04-25 cs.LG cs.NE cs.SC
Inducing Causal Structure for Interpretable Neural Networks Applied to Glucose Prediction for T1DM Patients
Amsterdam University Medical Center(阿姆斯特丹大学医学中心);University of Amsterdam(阿姆斯特丹大学)
本文将 IIT 因果抽象方法用于 T1DM 患者餐后血糖预测,借助无环版 simglucose 训练 MLP,使其在不同预测时域上优于标准模型并支持机制可解释性分析。
2025-03-18 cs.LG q-bio.BM
Interpretable Causal Discovery via Causal-Effect Constraints
Yale University(耶鲁大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
该研究将条件因果发现转化为贝叶斯推理问题,采用稀有事件估计技术解决小后验质量事件的计算挑战,经合成图和Sachs蛋白质数据集验证了方法的准确性与辅助科学探索的作用。
2026-09-24 cs.AI cs.LG stat.ML
Beyond Coefficients: Forecast-Necessity Testing for Interpretable Causal Discovery in Nonlinear Time-Series Models
Lucy Family Institute for Data & Society(数据与社会联合研究所);University of Notre Dame(诺特大学);Department of Political Science(政治学系)
针对非线性时间序列模型中因果分数被误读为回归系数的问题,提出基于边消融和预测比较的预测必要性检验框架,以评估因果关系的实际必要性。
2026-04-20 cs.AI cs.LG stat.ME
Causal AI For AMS Circuit Design: Interpretable Parameter Effects Analysis
University of Florida(佛罗里达大学)
本文提出基于因果推理的框架,通过SPICE仿真数据构建DAG并估算ATE,实现参数影响的可解释性分析,验证了因果AI在AMS设计中的高精度和可解释性。
2026-03-24 cs.AI cs.AR cs.LG
CAPS: Context-Aware Priority Sampling for Enhanced Imitation Learning in Autonomous Driving
Noah’s Ark Lab, Huawei Technologies Canada(华为加拿大技术有限公司诺亚实验室)
CAPS通过上下文感知优先级采样提升自动驾驶模仿学习的数据效率,通过聚类重新平衡数据集以提高模型泛化能力。
2026-03-06 cs.LG cs.RO
Causal Discovery for Manufacturing Domains
Robert Bosch LLC(罗伯特·博世有限责任公司)
产量和质量的提高对任何制造公司都至关重要。提高产量的方法之一是通过发现影响产量的根本原因。我们建议使用数据驱动的可解释的因果模型来确定影响产量的关键因素。我们专注于在产品制造周期的不同生产和测试阶段测量的因素。我们将因果结构学习技术应用于从这条线收集的真实数据。具体来说,这项工作的目标是从生产线产生的观测数据中学习可解释的因果模型。重点已经给出了模型的可解释性,使他们在制造领域的行动。我们强调了装配线数据带来的挑战,并提出了缓解这些挑战的方法。我们还确定了源自装配线的数据的独特特征,以及如何利用它们来改善因果发现。因果结构学习的标准评估技术表明,学习的因果模型似乎密切代表了生产过程中不同因素之间的潜在因果关系。这些结果也得到了制造领域专家的验证,他们认为这些结果很有前途。这项工作演示了如何数据采掘和知识发现可以用于根本原因分析领域的制造业和连接的行业。
2016-06-13 cs.AI cs.LG
Scalable Causal Imitation Learning
研究在模仿学习观测不匹配及有未观测混杂因素时的问题,提出因果软Q模仿学习和因果逆软Q学习算法,结合因果调整框架与逆强化学习目标,在长视任务中显著优于现有CIL算法。
2026-07-21 cs.AI cs.LG
Targeted Reduction of Causal Models
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
针对复杂模型中因果解释困难的问题,提出定向因果简化(TCR)方法,通过信息论目标从干预数据中学习简明因果因子,并验证了其在多系统中生成可解释高层解释的能力。
2024-06-03 cs.LG stat.ML
Beyond AHI: An Interpretable Causal-Discovery-Guided Framework for Sleep Recovery in Connected Health
University of California, Irvine(加州大学尔湾分校)
提出一种可解释的因果发现引导框架,从多模态PSG中推导层次化睡眠恢复评分(SRS),在两大队列中SRS与感知恢复的关联强度是AHI的2.5倍。
2026-09-02 cs.LG eess.SP stat.AP
Sequential Causal Imitation Learning with Unobserved Confounders
Purdue University(普渡大学);Columbia University(哥伦比亚大学)
“猴子看猴子做”是一句古老的格言,指的是对系统底层机制没有深刻理解的天真模仿。事实上,如果演示者可以获得模仿者(猴子)无法获得的信息,例如一组不同的传感器,那么无论模仿者如何完美地模拟其感知的环境(见),试图复制演示者的行为(做)可能会导致糟糕的结果。在因果模仿学习的标题下,在演示者和模仿者之间存在失配的情况下的模仿学习已经在文献中进行了研究(Zhang et al.,2020年),但现有的解决方案仅限于单阶段决策。本文研究了序列情境下的因果模仿学习问题,其中模仿者在每一集必须做出多个决定。我们开发了一个图形化的标准,这是必要的和足够的因果模仿的可行性,提供条件时,模仿者可以匹配演示者的性能,尽管不同的能力。最后,我们提供了一个有效的算法来确定模仿和证实我们的理论与模拟。
2022-08-12 cs.AI cs.LG
Improving Generalization Ability of Robotic Imitation Learning by Resolving Causal Confusion in Observations
DATA61 of CSIRO(CSIRO DATA61)
针对机器人模仿学习泛化性差的问题,本研究提出显式学习观测与动作的因果关系,简化了特征解耦要求,构建可嵌入主流架构的因果学习框架,经仿真验证能显著提升域偏移下的性能。
2025-07-30 cs.LG cs.RO
Invariant Causal Routing for Governing Social Norms in Online Market Economies
Tianjin University(天津大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Peking University(北京大学);University of Bristol(布里斯托大学)
本文提出不变因果路由(ICR)框架,通过因果推理和不变因果发现,实现在线市场经济中稳定社会规范的治理,提升政策的可解释性和有效性。
2026-03-04 cs.AI cs.CY cs.LG
Causal Imitability Under Context-Specific Independence Relations
EPFL(洛桑联邦理工学院)
该研究探索已知上下文特定独立性(CSI)关系下的因果模仿学习问题,证明其可行性决策为NP难,提出必要且在特定结构假设下充分的图判据,并给出结合CSI与数据的可靠算法。
2023-06-11 cs.AI cs.LG
Maximum Causal Tsallis Entropy Imitation Learning
Seoul National University(首尔国立大学);Kakao Brain
在本文中,我们提出了一种新的最大因果Tsallis熵(MCTE)框架的模仿学习,可以有效地学习稀疏的多模态策略分布的演示。我们提供了完整的数学分析所提出的框架。首先,最佳解决方案的MCTE问题是一个稀疏分布,其支持集可以调整。所提出的方法比softmax分布具有优势,因为它可以通过分配零概率来排除不必要的操作。其次,我们证明了一个MCTE问题是等价于鲁棒贝叶斯估计的意义上的Brier得分。第三,我们提出了一个最大因果Tsallis熵模仿学习(MCTEIL)算法与稀疏混合密度网络(稀疏MDN)的混合权重建模使用sparsemax分布。特别是,我们表明,因果Tsallis熵的MDN鼓励探索和有效的混合利用,而玻尔兹曼吉布斯熵是不太有效的。我们验证了所提出的方法在两个模拟研究和MCTEIL优于现有的模仿学习方法的平均回报和学习多模态政策。
2018-05-28 cs.LG stat.ML
Causal Imitation Learning under Expert-Observable and Expert-Unobservable Confounding
Department of Computer Science, University of Oxford, UK(计算机科学系,牛津大学);ETH Zurich, Switzerland(苏黎世联邦理工学院)
本文提出DML-IL算法,通过工具变量回归解决因果模仿学习中的隐藏混杂问题,并在连续状态-动作环境中优于现有基线方法。
2026-01-29 cs.AI cs.LG
Causal Imitation Learning with Unobserved Confounders
Columbia University(哥伦比亚大学);Purdue University(普渡大学)
孩子们学习的一种常见方式是模仿成年人。模仿学习的重点是学习政策与适当的性能从示范产生的专家,一个未指定的性能指标,和未观察到的奖励信号。流行的模仿学习方法要么直接模仿专家的行为策略(行为克隆),要么学习一个奖励函数,优先考虑观察到的专家轨迹(逆强化学习)。然而,这些方法依赖于这样的假设,即专家用来确定其行为的协变量被完全观察到。在本文中,我们放松了这一假设,并研究了当学习者和专家的感官输入不同时的模仿学习。首先,我们提供了一个非参数的,图形化的标准,是完整的(既必要又充分),以确定模仿的可行性,从示范数据和定性假设的基础环境的组合,表示在因果模型的形式。然后,我们表明,当这样的标准不成立,模仿仍然是可行的,利用定量知识的专家轨迹。最后,我们开发了一个有效的程序学习模仿政策,从专家的轨迹。
2022-08-12 cs.AI cs.LG
InfoGAIL: Interpretable Imitation Learning from Visual Demonstrations
MIT(麻省理工学院);Stanford University(斯坦福大学)
模仿学习的目标是在没有明确奖励信号的情况下模仿专家的行为。然而,由人类提供的专家演示通常由于通常未明确建模的潜在因素而显示出显著的可变性。在本文中,我们提出了一个新的算法,可以推断的潜在结构的专家演示在一个无监督的方式。我们的方法建立在生成对抗模仿学习之上,不仅可以模仿复杂的行为,还可以学习复杂行为数据的可解释和有意义的表示,包括视觉演示。在驾驶领域,我们表明,从人类演示中学习的模型能够准确地再现各种行为,并使用原始视觉输入准确地预测人类的行为。与各种基线相比,我们的方法可以更好地捕捉潜在的结构专家演示,往往恢复语义有意义的因素的变化的数据。
2017-11-14 cs.AI cs.CV cs.LG
Regularizing Adversarial Imitation Learning Using Causal Invariance
ETH Zürich(苏黎世联邦理工学院)
针对对抗模仿学习易吸收专家数据中虚假相关性的问题,本文提出以因果不变性作为对抗训练正则化原则,并可直接用于现有框架,在二维环境和高维机器人运动任务上验证了有效性。
2023-08-17 cs.AI cs.LG
Causal Imitation Learning under Temporally Correlated Noise
Carnegie Mellon University(卡内基梅隆大学);Cornell University(康奈尔大学);Aurora Innovation(奥罗拉创新)
我们开发的模仿学习的算法,从政策数据,被破坏的时间相关的噪声在专家的行动。当噪声影响记录数据的多个时间步时,它可能表现为学习者可能会抓住的状态和动作之间的虚假相关性,导致策略性能低下。为了打破这些虚假的相关性,我们应用计量经济学的工具变量回归(IVR)技术的现代变体,使我们能够在不需要访问交互式专家的情况下恢复基本政策。特别是,我们提出了两种技术,一个生成的建模风味(DoubIL),可以利用访问模拟器,和一个游戏理论风味(ResiduIL),可以完全离线运行。我们发现,我们的算法相比,毫不逊色,模拟控制任务的行为克隆。
2022-02-02 cs.LG cs.RO
Interpretable Clustering with Adaptive Heterogeneous Causal Structure Learning in Mixed Observational Data
Tsinghua University(清华大学)
针对现有聚类方法因果感知不足、异质性建模欠缺的问题,提出无监督框架HCL,通过双向迭代与自监督正则从混合观测数据中联合推断潜在簇与异质因果结构,理论可识别且性能优异,可用于发现机制层面的可解释因果异质性。
2025-10-28 cs.LG
Invariant Causal Imitation Learning for Generalizable Policies
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);University of Cambridge(剑桥大学);University of California, Los Angeles(加州大学洛杉矶分校)
针对多环境模仿学习易受虚假相关影响、泛化差的问题,提出不变因果模仿学习ICIL,通过学习跨域不变因果特征表示、结合专家观测能量正则化,实现可泛化到未知环境的模仿策略,在控制与医疗任务上验证有效。
2023-11-02 cs.LG stat.ML
Confounded Causal Imitation Learning with Instrumental Variables
Beijing Technology and Business University(北京科技与商务大学);Chinese Academy of Sciences(中国科学院);Institute of Computing Technology(计算技术研究所)
针对未测量混杂导致模仿策略估计偏差的问题,提出C2L模型和两阶段框架,利用伪变量准则识别有效工具变量,并通过基于模拟器或离线的方法优化策略。
2025-07-23 cs.AI cs.LG
Object-Aware Regularization for Addressing Causal Confusion in Imitation Learning
Korea Advanced Institute of Science and Technology(韩国科学技术院);Microsoft Research Asia(微软亚洲研究院)
行为克隆已被证明是有效的学习顺序决策的政策,从专家示范。然而,行为克隆经常遭受因果混淆的问题,即由于强相关性而不是我们想要的原因,政策依赖于专家行为的明显效果。本文介绍了对象感知的规则化(OREO),一个简单的技术,规范化的模仿政策,在对象感知的方式。我们的主要思想是鼓励政策,统一参加所有的语义对象,以防止利用滋扰变量与专家的行动强烈相关的政策。为此,我们引入了一个两阶段的方法:(a)我们通过利用来自矢量量化变分自编码器的离散代码从图像中提取语义对象,以及(b)我们随机丢弃共享相同离散代码的单元,即,屏蔽语义对象我们的实验表明,OREO显着提高了行为克隆的性能,在各种Atari环境和自动驾驶CARLA环境中的性能优于其他各种基于正则化和cacability-based方法。我们还表明,我们的方法甚至优于反向强化学习方法训练了大量的环境交互。
2021-10-27 cs.AI cs.LG
Optimizing Interpretable Decision Tree Policies for Reinforcement Learning
Delft University of Technology(代尔夫特理工大学)
针对强化学习中神经网络策略缺乏可解释性的问题,提出决策树策略优化(DTPO)算法,利用策略梯度直接优化完整决策树,实验证明其性能优于模仿学习等基线方法。
2024-08-21 cs.LG
Initial State Interventions for Deconfounded Imitation Learning
University of California Berkeley(加州大学伯克利分校)
本文针对模仿学习中的因果混淆问题,提出一种基于初始状态干预的掩蔽算法,在不依赖专家查询、奖励函数或因果图的前提下保守地去除虚假相关观测,并在CartPole和Reacher上验证了行为克隆效果。
2023-08-11 cs.LG cs.SY eess.SY
Causal Imitation Learning Under Measurement Error and Distribution Shift
Department of Mathematics and Statistics, Boston University(数学与统计学系,波士顿大学)
CausIL通过建模因果关系来应对测量误差和分布偏移,在无需奖励或专家查询的情况下恢复目标策略,提升模仿学习的鲁棒性。
2026-01-29 cs.LG stat.ME stat.ML
GABRIL: Gaze-Based Regularization for Mitigating Causal Confusion in Imitation Learning
Thomas Lord Department of Computer Science, University of Southern California, USA(美国南加州大学计算机科学系)
针对模仿学习中的因果混淆问题,提出基于人类眼动数据的正则化方法 GABRIL,通过引导模型关注因果相关特征缓解混淆影响,在 Atari 和 CARLA 基准上取得显著性能提升并增强了可解释性。
2025-07-25 cs.AI cs.LG cs.RO
Interpretable Reward Redistribution in Reinforcement Learning: A Causal Approach
Eindhoven University of Technology(埃因霍温理工大学);University of California San Diego(加州大学圣迭戈分校);University College London(伦敦大学学院);University of Liverpool(利物浦大学)
本文提出一种基于因果生成模型的奖励再分配框架GRD,通过识别不可观测的马尔可夫奖励和因果关系,实现可解释的奖励分配并保持策略不变性,在延迟奖励场景中优于现有方法。
2023-11-10 cs.LG
Incorporating Retrieval-based Causal Learning with Information Bottlenecks for Interpretable Graph Neural Networks
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);Shanghai Jiao Tong University(上海交通大学);Key Laboratory of Machine Intelligence and Advanced Computing, Sun Yat-sen University(中山大学机器智能与先进计算重点实验室)
本研究提出一种结合检索式因果学习与图信息瓶颈的可解释因果GNN框架,能半参数化检索关键子图并压缩解释,在提升解释精度的同时增强GNN预测性能。
2024-02-07 cs.LG
From Tokens to Policy: Causal and Interpretable Heterogeneous Treatment Effects Identification
ISTA;UNICEF(联合国儿童基金会);UCLA(加州大学洛杉矶分校)
提出NEXIS方法,利用多模态预处理表示将HTE识别转化为马尔可夫毯发现问题,实现因果可解释的异质性处理效应识别,并在非洲反贫困项目中验证。
2026-10-01 cs.LG
Distilling interpretable causal trees from causal forests
POLIS: The Centre for Social Policy and Research(POLIS:社会政策与研究中心);Australian National University(澳大利亚国立大学)
本文提出 Distilled Causal Tree,从因果森林蒸馏单棵可解释因果树,在噪声或高维相关特征场景下多数模拟优于原因果森林,并保持双重稳健与渐近正态。
2024-08-02 cs.LG econ.EM
CausalMamba: Interpretable State Space Modeling for Temporal Rumor Causality
University of California, Berkeley(加州大学伯克利分校)
CausalMamba通过整合Mamba、GCNs和可微因果发现,实现对谣言传播因果关系的可解释建模与分析。
2025-11-20 cs.LG cs.SI
Causal Semantic Communication for Digital Twins: A Generalizable Imitation Learning Approach
Virginia Tech(弗吉尼亚理工大学);Huazhong University of Science and Technology(华中科技大学)
提出面向数字孪生无线系统的因果语义通信框架,将其建模为模仿学习与双层优化问题,借助深度因果推断和网络状态模型提升语义可靠性、压缩表示并增强场景泛化。
2023-04-25 cs.IT cs.LG eess.SP
Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset
Dalhousie University(达尔豪斯大学)
本文利用因果生成学习与反事实推断,提出针对图像分类器的可解释方法,包括像素级影响分析、基于蒙特卡洛的属性重要性估计及反事实解释优化,并在 Morpho-MNIST 上验证其可解释性优于 OmnixAI。
2024-01-21 cs.LG
Feedback in Imitation Learning: The Three Regimes of Covariate Shift
Princeton(普林斯顿大学);Aurora Innovation(奥罗拉创新公司);Carnegie Mellon(卡内基梅隆大学)
模仿学习的实践者经常注意到,对先前行为的条件化策略导致学习者在原地的“坚持”错误和表现之间的巨大差异。互动的方法可以证明解决这个分歧,但需要反复查询的演示。最近的工作确定了这种分歧是源于一个“因果混淆”在预测当前的行动,并寻求消融因果方面的当前状态使用工具的因果推理。在这项工作中,我们认为,这种分歧只是协变量偏移的另一种表现形式,加剧了决策和输入功能之间的反馈设置。学习者通常依赖于对决策具有强预测性的特征,但这些特征受到强协变量偏移的影响。我们的工作证明了广泛的一类问题,这种转变可以减轻,理论上和实践中,利用模拟器,但没有任何进一步的查询专家演示。我们分析了现有的基准用于测试模仿学习的方法,并发现这些基准是可实现的和简单的,因此不足以捕捉更难的制度错误复合在现实世界中的决策问题。我们发现,在一个令人惊讶的对比与以前的文献,但与我们的理论相一致,天真的行为克隆提供了极好的结果。我们详细介绍了需要新的标准化基准,捕捉机器人问题中看到的现象。
2021-02-11 cs.LG cs.RO stat.ML
Causality Learning: A New Perspective for Interpretable Machine Learning
University of Technology Sydney(悉尼科技大学)
近年来,机器学习在图像识别、文本分类、信用评分预测、推荐系统等领域得到了快速发展。尽管在不同领域取得了巨大的成就,但研究人员仍然关注任何机器学习(ML)技术下的机制,这些机制本质上是黑箱的,并且为了达到更高的准确性而变得更加复杂。因此,解释机器学习模型是目前研究界的一个主流课题。然而,传统的可解释机器学习关注的是关联而不是因果关系。本文概述了因果分析的基本背景和关键概念,然后总结了最新的因果方法可解释的机器学习。本文还讨论了评估方法质量的评估技术,以及因果可解释性中的开放问题。
2021-09-17 cs.AI cs.LG stat.ML
CIExplainer++: Generating Causal and Interpretable Explanations for Graph Neural Networks
NOVA LINCS;NOVA School of Science and Technology(NOVA科技学院)
提出CIExplainer方法,基于潜在结果框架识别对GNN预测因果影响最大的子图,并进一步提出G2TeXplainer将因果子图转化为自然语言解释。
2026-06-23 cs.LG stat.OT
Power Interpretable Causal ODE Networks: A Unified Model for Explainable Anomaly Detection and Root Cause Analysis in Power Systems
PICODE网络通过统一模型实现电力系统中异常检测与根本原因分析的可解释性,提升模型的可解释性和减少对标注数据的依赖。
2026-02-13 cs.AI cs.LG
Learning Interpretable Models with Causal Guarantees
Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学)
机器学习在帮助提高医疗、法律和金融决策质量方面表现出了很大的潜力。在这些应用中,机器学习模型必须满足两个重要标准:(i)它们必须是因果关系,因为目标通常是预测个体治疗效果,(ii)它们必须是可解释的,以便人类决策者可以验证和信任模型预测。最近在每个方向上都取得了很大的进展,但最先进的方法从根本上是不相容的。我们提出了一个框架,从观察数据中学习可解释的模型,可用于预测个体治疗效果(ITE)。特别是,我们的框架将任何监督学习算法转换为估计ITE的算法。此外,我们证明了我们的模型预测的治疗效果的误差界。最后,在对真实世界数据的实验中,我们表明使用我们的框架训练的模型显著优于一些基线。
2021-10-11 cs.LG stat.ML
When Does Routing Become Interpretable? Causal Probes on Block Attention Residuals
ETH Zurich(苏黎世联邦理工学院)
研究块注意力残差中路由的可解释性,发现仅当路由参与训练时才出现结构化深度路由,且路由权重与因果重要性存在分离,需用因果干预验证。
2026-06-12 cs.LG
Causal Rule Forest: Toward Interpretable and Precise Treatment Effect Estimation
National Sun Yat-sen University(台湾中山大学)
针对现有异质处理效应估计方法可解释性差的问题,提出因果规则森林(CRF),通过学习隐藏模式转化为可解释的多层布尔规则,提升其他可解释因果推断模型的预测精度与亚组识别能力。
2024-08-27 cs.AI cs.LG
Causal Navigation by Continuous-time Neural Networks
CSAIL MIT(麻省理工学院计算机科学与人工智能实验室);IST Austria(奥地利科学技术学院)
模仿学习可以在丰富的逼真环境中实现高保真、基于视觉的策略学习。然而,这种技术往往依赖于传统的离散时间神经模型,并面临着难以推广到域的变化,未能占代理和环境之间的因果关系。在本文中,我们提出了一个理论和实验框架,学习因果关系表示使用连续时间神经网络,特别是在离散时间的同行。我们在一系列复杂任务的无人机视觉控制学习的背景下评估我们的方法,从短期和长期导航到通过逼真的环境追逐静态和动态物体。我们的研究结果表明,因果连续时间深度模型可以执行强大的导航任务,而高级递归模型则失败了。这些模型直接从原始视觉输入中学习复杂的因果控制表示,并使用模仿学习来解决各种任务。
2021-08-16 cs.AI cs.LG cs.NE
Interpretable Deep Causal Learning for Moderation Effects
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
在这篇扩展的抽象论文中,我们解决了因果机器学习模型中的可解释性和有针对性的正则化问题。特别是,我们专注于在观察到的混杂因素下估计个体因果/治疗效应的问题,这些混杂因素可以控制和调节治疗对感兴趣结果的影响。针对因果设置进行调整的黑盒ML模型在这项任务中通常表现良好,但它们缺乏可解释的输出,无法识别治疗异质性的主要驱动因素及其功能关系。我们提出了一种新型的深度反事实学习架构,用于估计个体治疗效果,可以同时:i)传达有针对性的正则化,并围绕感兴趣的数量产生量化的不确定性(即,条件平均治疗效应); ii)解开协变量的基线预后和调节效应,并输出描述其与结果关系的可解释评分函数。最后,我们通过一个简单的模拟实验演示了该方法的使用。
2022-07-11 cs.AI cs.LG stat.ML
Dynamic Sparse Causal-Attention Temporal Networks for Interpretable Causality Discovery in Multivariate Time Series
针对多变量时间序列因果发现难题,提出DyCAST-Net架构,结合膨胀卷积与动态稀疏注意力过滤虚假连接,在金融与营销数据集上优于现有模型,提供更精确的因果延迟估计与可解释性。
2025-07-13 cs.AI cs.IR cs.LG
Vision Paper: Causal Inference for Interpretable and Robust Machine Learning in Mobility Analysis
ETH Zürich(苏黎世联邦理工学院);Prescient Design, Genentech | Roche(罗氏旗下基因泰克Prescient Design);Swiss Data Science Center(瑞士数据科学中心)
人工智能(AI)正在彻底改变我们生活的许多领域,引领技术进步的新时代。特别是,交通部门将受益于人工智能的进步,并推动智能交通系统的发展。构建智能交通系统需要人工智能和移动性分析的复杂组合。在过去的几年里,使用先进的深度神经网络的交通应用得到了快速发展。然而,这种深度神经网络很难解释并且缺乏鲁棒性,这减缓了这些人工智能算法在实践中的部署。为了提高它们的可用性,越来越多的研究工作致力于开发可解释和鲁棒的机器学习方法,其中因果推理方法最近获得了牵引力,因为它提供了可解释和可操作的信息。此外,这些方法中的大多数是针对图像或序列数据开发的,这些数据不满足移动性数据分析的特定要求。这篇愿景论文强调了基于深度学习的移动性分析中需要可解释性和鲁棒性的研究挑战,总结了使用因果推理提高机器学习方法的可解释性和鲁棒性的最新进展,并强调了开发面向移动性分析的因果启用机器学习模型的机会。这一研究方向将使人工智能在交通领域的应用更具可解释性和可靠性,从而为更安全、更高效、更可持续的未来交通系统做出贡献。
2022-10-18 cs.AI cs.LG
From Black-box to Causal-box: Towards Building More Interpretable Models
Causal Artificial Intelligence Lab(因果人工智能实验室);Columbia University(哥伦比亚大学)
本文提出因果可解释性概念,分析黑盒与概念模型均不满足,并开发框架设计因果可解释模型,通过图准则权衡可解释性与准确性,实验验证理论。
2025-10-24 cs.AI cs.LG stat.ML