Disentangled Representation for Causal Mediation Analysis
University of South Australia(南澳大利亚大学);Guangxi Normal University(广西师范大学);Simon Fraser University(西蒙菲莎大学)
本文提出 DMAVAE,通过将潜在混杂因素解耦为三类并采用逐段去混杂假设,替代序列可忽略性,以准确估计因果中介的自然直接、间接和总效应。
2023-12-16 cs.LG stat.ME
Causal disentanglement of multimodal data
Center for Computing Research, Sandia National Laboratories(桑迪亚国家实验室计算研究中心);Applied Information Sciences Center, Sandia National Laboratories(桑迪亚国家实验室应用信息科学中心);School of Computing and Augmented Intelligence, Arizona State University(亚利桑那州立大学计算与增强智能学院);School of Engineering and Applied Science, University of Pennsylvania(宾夕法尼亚大学工程与应用科学学院)
针对探索性因果表示学习缺乏先验信息的问题,提出causalPIMA算法,结合多模态数据与物理约束,通过可微框架同步学习DAG与潜空间,实现无监督下的因果特征发现与可解释结构学习。
2023-11-08 cs.AI cs.LG stat.ML
Disentangled Representation Learning for Causal Inference with Instruments
University of South Australia(南澳大学);RMIT University(皇家墨尔本理工大学);University of Newcastle(纽卡斯尔大学)
针对潜在混杂下工具变量需已知或数量受限的问题,本文提出基于 VAE 的解耦表示学习方法,在未知 IV 代理身份时学习 IV 表示并实现因果效应无偏估计。
2024-12-05 cs.AI cs.LG stat.ML
Linear Causal Representation Learning by Topological Ordering, Pruning, and Disentanglement
School of Mathematical Sciences, Shanghai Jiao Tong University, Shanghai, China(上海交通大学数学科学学院);Institute of Natural Sciences, MOE--LSC(教育部-上海交大联合实验室);SJTU--Yale Joint Center for Biostatistics(上海交大-耶鲁大学生物统计联合中心);Data Science, Shanghai Jiao Tong University, Shanghai, China(上海交通大学数据科学);Bio--X Institutes, Shanghai Jiao Tong University, Shanghai, China(上海交通大学Bio-X研究院)
提出一种在更弱假设下通过拓扑排序、剪枝和解缠恢复线性因果表示的新算法,并通过合成实验和大语言模型可解释性分析验证其有效性。
2026-05-27 cs.LG stat.ML
Neural State-Space Modeling with Latent Causal-Effect Disentanglement
Rochester Institute of Technology(罗切斯特理工学院)
尽管时间序列重建的深度学习方法取得了实质性进展,但由于其对优化损失的贡献可以忽略不计,因此没有现有方法被设计用于发现具有微小信号强度的局部活动。然而,这种局部活动可以表示生理系统中的重要异常事件,例如触发心脏中电波的异常传播的额外病灶。我们讨论了一种新的技术,用于重建这样的局部活动,而小的信号强度,是随后的全球活动,具有较大的信号强度的原因。我们的核心创新是通过明确建模和解开系统的潜在状态如何受到潜在的隐藏内部干预的影响来实现这一点。在一个新的神经制定的状态空间模型(SSM),我们首先介绍了通过一个系统的相互作用的神经ODE,分别描述1)的连续时间动态的内部干预,2)其对系统的原生状态的轨迹的影响的潜在动力学的因果效应建模。由于干预不能直接观察到,但必须从观察到的后续效果中解脱出来,我们整合了系统的本地无干预动态的知识,并通过假设它负责实际和假设的无干预动态之间观察到的差异来推断隐藏的干预。我们证明了一个概念验证的框架重建异位病灶破坏过程中的正常心电传播从远程观察。
2022-09-26 cs.AI cs.LG stat.ML
A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms
Université de Montréal(蒙特利尔大学);Ruprecht-Karls-Universität Heidelberg(海德堡大学);École Polytechnique Montréal(蒙特利尔综合理工学院)
我们建议元学习因果结构的基础上如何快速学习者适应新的分布所产生的稀疏分布的变化,例如,由于干预,代理的行动和其他来源的非平稳性。我们表明,在这种假设下,正确的因果结构的选择导致更快地适应修改后的分布,因为变化集中在一个或几个机制时,学到的知识是适当的模块化。这导致稀疏的预期梯度和较低的有效数量的自由度需要重新学习,同时适应变化。它激励使用修改后的分布的适应速度作为元学习目标。我们演示了如何使用它来确定两个观测变量之间的因果关系。分布的变化不需要对应于标准干预措施(钳制变量),学习者对这些干预措施没有直接的知识。我们表明,因果结构可以通过连续变量参数化,并学习端到端。然后,我们探索如何将这些想法用于学习编码器,该编码器将低级观察变量映射到未观察到的因果变量,从而更快地适应分布外,学习表示空间,其中可以满足独立机制的假设以及由于动作和非平稳性而导致的这些机制中的小而稀疏的变化。
2019-02-04 cs.LG stat.ML
Causal Disentanglement with Network Information for Debiased Recommendations
Arizona State University(亚利桑那州立大学);City University of Hong Kong(香港城市大学)
推荐系统的目标是通过学习用户和项目的表示来向用户推荐新的项目。在实践中,这些表示是高度纠缠的,因为它们包括关于多个因素的信息,包括用户的兴趣,项目属性以及诸如用户一致性和项目流行度之类的混淆因素。考虑这些纠缠的表示来推断用户偏好可能导致有偏见的推荐(例如,当推荐器模型推荐流行项目时,即使它们不符合用户的兴趣)。最近的研究建议从因果关系的角度来建立推荐系统的模型。暴露和评级分别类似于因果推理框架中的治疗和结局。这种情况下的关键挑战是解释隐藏的混杂因素。这些混杂因素未被观察到,因此很难对其进行测量。另一方面,由于这些混杂因素会影响曝光率和评级,因此在生成无偏见推荐时必须考虑到它们。为了更好地近似隐藏的混杂因素,我们建议利用网络信息(即,用户-社交和用户-项目网络),其被示出影响用户如何发现项目并与项目交互。除了用户一致性,混淆的方面,如项目的流行程度存在于网络信息中也被捕获在我们的方法的帮助下,\textit{causal disentanglement}解开学习表示成独立的因素,负责(a)建模项目的暴露给用户,(b)预测的评级,和(c)控制隐藏的混杂因素。在真实数据集上的实验验证了该模型在去偏推荐系统中的有效性。
2022-04-14 cs.IR cs.LG stat.ML
Exploiting network information to disentangle spillover effects in a field experiment on teens' museum attendance
青年教育的一个关键因素是使他们对历史和艺术遗产有敏感认识。我们分析了在佛罗伦萨(意大利)进行的实地实验,以评估如何适当的激励分配给高中班级可能会导致青少年参观博物馆在他们的空闲时间。不遵守和溢出效应使得这种集群式鼓励设计的影响评估具有挑战性。我们建议混合主要分层和因果调解,根据他们的遵守行为,并使用他们的友谊网络作为调解人的信息定义子群体的单位。我们正式定义了主要的自然直接和间接效应以及主要控制的直接和溢出效应,并使用它们来解开其他因果渠道的溢出。我们采用贝叶斯方法进行推理。
2022-05-06 econ.EM stat.AP stat.ME
Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies
Samsung AI Lab(三星人工智能实验室);Mila(米拉研究所);ServiceNow Research(ServiceNow研究院)
本研究提出机制稀疏性正则化原理,建立非参数可识别性理论,提出基于变分自编码器的估计方法,实现部分解缠,可利用多节点未知目标干预实现解缠,是CLeaR 2022工作的大幅扩展版。
2026-08-03 cs.LG stat.ML
An Adaptive Kernel Approach to Federated Learning of Heterogeneous Causal Effects
National University of Singapore(新加坡国立大学);Roche AG(罗氏公司);Harvard University(哈佛大学)
我们提出了一个新的因果推理框架,从联邦环境中的多个分散的数据源中学习因果效应。我们引入了一种自适应传输算法,该算法通过利用随机傅立叶特征将损失函数分解为多个分量来学习数据源之间的相似性,每个分量与一个数据源相关联。数据来源可能有不同的分布;因果效应是独立和系统地纳入。该方法通过传递系数估计源之间的相似性,因此不需要关于相似性度量的先验信息。可以估计异质因果效应,而无需在源之间共享原始训练数据,从而最小化隐私泄漏的风险。我们还提供了极大极小下限来评估从不同来源学习的参数的质量。经验表明,所提出的方法在具有不同分布的分散数据源上优于基线。
2023-01-01 cs.AI cs.LG stat.ME
Learning Conditional Instrumental Variable Representation for Causal Effect Estimation
University of South Australia(南澳大学)
本文提出DVAE.CIV方法,利用解纠缠表示学习自动学习条件工具变量及其条件集的表示,以消除未测量混杂偏差,在合成和真实数据上优于现有因果效应估计器。
2023-06-21 cs.AI cs.LG stat.ME
Learning Disentangled Representations for Counterfactual Regression via Mutual Information Minimization
Alibaba Group(阿里巴巴集团)
学习个体水平的处理效应是因果推理中的一个基本问题,在许多领域受到越来越多的关注,特别是在用户增长领域,这是许多互联网公司关注的问题。近年来,将协变量分解为工具因子、混杂因子和调节因子的非纠缠表示学习方法在治疗效果估计中取得了巨大的成功。然而,如何准确地了解潜在的分离因素仍然是一个悬而未决的问题。具体而言,以前的方法无法获得独立的解开的因素,这是一个必要的条件,识别处理效果。在本文中,我们提出了通过互信息最小化(MIM-DRFR),它使用多任务学习框架来共享信息时,学习潜在的因素,并纳入MI最小化学习标准,以确保这些因素的独立性的反事实回归的解开表示。包括公共基准测试和真实工业用户增长数据集在内的广泛实验表明,我们的方法比最先进的方法表现得更好。
2022-06-02 cs.LG stat.ML
Weakly supervised causal representation learning
Qualcomm AI Research(高通人工智能研究院);University of Amsterdam(阿姆斯特丹大学)
从非结构化的低级数据(如像素)中学习高级因果表示和因果模型是不可能的。我们证明在温和的假设下,这种表示是可识别的弱监督设置。这涉及一个数据集,其中包含随机、未知干预前后的配对样本,但没有进一步的标签。然后,我们引入隐式潜在的因果模型,变分自编码器表示因果变量和因果结构,而不必优化显式离散图结构。在简单的图像数据,包括一个新的数据集的模拟机器人操作,我们证明了这样的模型可以可靠地识别因果结构和解开因果变量。
2022-10-11 cs.LG stat.ML
A Framework for Causal Discovery in non-intervenable systems
在复杂的非线性系统中,存在许多框架来推断因果关系,但缺乏一个完整的理论。提出了一个新的框架,是完全非线性的,提供了一个完整的信息理论解开因果过程,允许非线性的原因之间的相互作用,确定缺失或未知的过程的因果强度,并可以分析系统,不能表示有向无环图。基本的构建块是信息理论的措施,如(条件)互信息和一个新的概念,称为确定性,单调增加的信息有关的目标进程。详细介绍了该框架,并与其他现有的框架进行了比较,并讨论了混杂因素的处理。虽然有系统的结构,框架不能解开,有人认为,任何因果框架,是基于集成量将错过潜在的重要信息的潜在概率密度函数。该框架在几个高度简化的随机过程上进行了测试,以演示如何处理阻塞和网关,以及混沌Lorentz 1963系统。我们表明,该框架提供了信息的本地动态,但也揭示了更大规模的结构的基础吸引子的信息。此外,通过将其应用到与厄尔尼诺南方振荡系统相关的实际观测中,我们证明了其相对于其他方法的能力和优势。
2021-09-27 cs.IR cs.IT math.IT
Causal Representation Learning for Generalisable Recommendation
University of Warwick(沃里克大学);Spotify(Spotify公司);University College London(伦敦大学学院)
针对推荐系统中训练分布与部署分布不一致导致的泛化问题,提出基于因果表示学习的信息论解缠标准及其可计算变分下界,仅利用混淆日志即可提升模型在分布偏移下的泛化能力,在Spotify A/B测试、KuaiRand数据集和合成基准上验证了有效性。
2026-10-26 cs.LG stat.ME stat.ML
Disentangling spatial interference and spatial confounding biases in causal inference
The University of Manchester(曼彻斯特大学);Federal University of Agriculture, Abeokuta(阿贝奥库塔联邦农业大学)
本文通过DAG视角澄清空间混杂的误解,区分直接和间接空间混杂及空间干扰,并探讨其在因果推断中的影响。
2026-02-02 stat.ME
Interpretable Deep Causal Learning for Moderation Effects
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
在这篇扩展的抽象论文中,我们解决了因果机器学习模型中的可解释性和有针对性的正则化问题。特别是,我们专注于在观察到的混杂因素下估计个体因果/治疗效应的问题,这些混杂因素可以控制和调节治疗对感兴趣结果的影响。针对因果设置进行调整的黑盒ML模型在这项任务中通常表现良好,但它们缺乏可解释的输出,无法识别治疗异质性的主要驱动因素及其功能关系。我们提出了一种新型的深度反事实学习架构,用于估计个体治疗效果,可以同时:i)传达有针对性的正则化,并围绕感兴趣的数量产生量化的不确定性(即,条件平均治疗效应); ii)解开协变量的基线预后和调节效应,并输出描述其与结果关系的可解释评分函数。最后,我们通过一个简单的模拟实验演示了该方法的使用。
2022-07-11 cs.AI cs.LG stat.ML
Towards Trustworthy Explanation: On Causal Rationalization
University of California Irvine(加州大学欧文分校);IQVIA(艾昆纬)
针对现有基于关联的合理化方法在处理高度相关片段时无法识别真正理由的伪相关问题,提出因果合理化方法,通过引入非伪相关性和效率两个因果要求,基于结构因果模型定义因果概率以学习充分且必要的理由,并在真实数据集上验证了其优越性能。
2023-09-09 cs.AI cs.CL cs.LG
Causal-Symbolic Meta-Learning (CSML): Inducing Causal World Models for Few-Shot Generalization
smail.iitm.ac.in(印度理工学院)
针对深度学习依赖虚假相关性导致泛化差的问题,提出CSML框架,通过感知、可微因果诱导和图推理模块学习共享因果世界模型,实现少样本快速适应,并在CausalWorld基准上显著优于基线。
2025-09-15 cs.AI cs.LG stat.ML
Rank-Based Causal Discovery for Post-Nonlinear Models
Technical University of Munich(慕尼黑工业大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
针对双变量情形外后非线性模型因果发现易过拟合难调参的问题,提出基于秩的方法估计函数参数,分离函数估计与独立性检验,证明一致性并经实验验证。
2023-02-23 cs.LG stat.ME stat.ML
Valuing an Engagement Surface using a Large Scale Dynamic Causal Model
Amazon(亚马逊公司)
本文提出一种大规模动态因果模型,用于理清AI驱动的参与界面(ES)为客户和企业带来的因果价值,并通过评估投资回报与识别高价值产品线及功能来支持业务决策。
2024-08-21 cs.LG econ.EM stat.AP
Counterfactual Fairness with Disentangled Causal Effect Variational Autoencoder
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
如果我们能开发出一种方法来去除分类特征中隐藏的敏感信息,那么公平分类的问题就可以得到缓解。这条分离敏感信息的线是通过因果推理发展起来的,因果推理使反事实世代能够对比相反敏感属性的假设情况。随着这种与因果关系的分离,深层潜在因果模型中的一个频繁假设定义了一个单一的潜在变量来吸收因果图的整个外生不确定性。然而,我们声称这种结构不能区分1)由干预引起的信息(即,敏感变量)和2)来自数据的与干预相关的信息。因此,本文提出了解纠缠因果效应变分自编码器(DCEVAE)来解决这一局限性,它将外生不确定性分解为两个潜在变量:1)与干预措施无关; 2)与干预措施相关而无因果关系。特别是,我们的解开方法保留了潜在的变量相关的干预措施,在生成反事实的例子。我们表明,我们的方法估计的总效果和反事实的效果没有一个完整的因果图。通过添加公平正则化,DCEVAE生成反事实公平数据集,同时丢失较少的原始信息。此外,DCEVAE仅通过翻转敏感信息来生成自然的反事实图像。此外,我们从理论上展示了DCEVAE的协方差结构的差异和以前的工作的潜在的解纠缠的角度来看。
2020-12-09 cs.AI cs.LG
Disentanglement of Latent Representations via Causal Interventions
University of Auckland(奥克兰大学)
本文提出一种结合因果理论与向量量化变分自编码器的解耦方法,通过因果图干预实现图像单一因素的原子转换,并引入动作检索任务,在不平衡数据下也能精确操控高层语义属性。
2023-09-23 cs.CV cs.DM cs.LG
Measuring the Effect of Causal Disentanglement on the Adversarial Robustness of Neural Network Models
Simula Research Laboratory(西穆拉研究院)
针对因果神经网络鲁棒性源于因果解耦但缺乏定量验证的问题,研究借鉴CV领域解耦指标,基于统一ResNet18架构和多数据集多攻击实验,证实因果-混淆因子去相关程度与对抗鲁棒性强相关,混淆因子像素信息量与鲁棒性中等负相关。
2023-08-21 cs.LG
Robustly Disentangled Causal Mechanisms: Validating Deep Representations for Interventional Robustness
ETH Zurich(苏黎世联邦理工学院);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
学习分解表示的能力对于神经网络的数据高效和鲁棒使用是重要的,所述分解表示将高维非结构化数据中的变化的潜在来源分开。虽然最近提出了各种旨在实现这一目标的方法,但缺乏一个普遍接受的定义和验证程序。我们提供了一个因果关系的角度表示学习,其中包括解纠缠和域转移的鲁棒性作为特殊情况。我们的因果框架使我们能够引入一个新的指标来定量评估深层潜变量模型。我们展示了如何从标记的观测数据中估计这个度量,并进一步提供了一个有效的估计算法,该算法在数据集大小上线性扩展。
2019-05-13 cs.LG stat.ML
Identifiability Guarantees for Causal Disentanglement from Soft Interventions
Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所);Laboratory for Information and Decision Systems, MIT(麻省理工学院信息与决策系统实验室);MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);IBM Research(IBM研究院);Google Research(谷歌研究院)
该研究针对潜因果变量不可观测的因果解缠场景,在广义忠实性假设下证明了可识别性,开发自编码变分贝叶斯算法实现框架,可在无限数据下恢复等价类潜因果模型并预测组合干预效果,已应用于基因组学组合扰动效应预测。
2023-11-09 cs.LG math.ST stat.ME
A Causal Disentangled Multi-Granularity Graph Classification Method
Chongqing University of Posts and Telecommunications(重庆邮电大学)
针对图分类因缺乏多粒度区分导致关键信息混淆的问题,提出因果解耦多粒度图表示学习方法CDM-GNN,通过多粒度视角解耦重要子结构与偏差部分,在真实数据集上展现出强分类性能并生成符合人类认知的解释。
2023-10-25 cs.AI cs.LG stat.ME
Linear Causal Disentanglement via Interventions
Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学布罗德研究所);Harvard University(哈佛大学)
本文研究线性潜在因果模型下观测变量的因果解耦可识别性,证明每个潜在变量需至少一次干预以保证可识别性,提出基于推广RQ分解的证明方法,并通过实验验证了理论结果。
2023-06-11 cs.LG stat.ML
Disentangled Double Machine Learning for Accurate Causal Effect Estimation
School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机科学与信息工程学院);School of Computer and Information Technology, Shanxi University(山西大学计算机与信息学院)
提出解缠双机器学习(DDML),通过因果角色解缠和残差依赖正交化策略,解决高维或有限样本下双机器学习中因混淆因子未解缠导致的偏差和不稳定问题,在合成、半合成和真实数据集上优于13种基线方法。
2026-05-24 cs.AI cs.LG
Structural Disentanglement of Causal and Correlated Concepts
C2VAE通过联合建模因果和相关关系,提升可控数据生成的质量和解缠能力。
2025-11-19 cs.LG stat.ML
Identifiability Guarantees for Causal Disentanglement from Purely Observational Data
Massachusetts Institute of Technology(麻省理工学院);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所);LIDS, Massachusetts Institute of Technology(麻省理工学院信息与决策系统实验室)
研究纯观测数据下的因果解缠问题,提出在加性高斯噪声和线性混合的非线性因果模型中实现因果变量逐层辨识的理论保证及基于得分估计求解二次规划的实用算法。
2024-12-23 cs.LG stat.ML
Graph Disentangle Causal Model: Enhancing Causal Inference in Networked Observational Data
Ant Group(蚂蚁集团);Alibaba Group(阿里巴巴集团);Zhejiang University(浙江大学)
针对网络化观测数据中隐藏混杂及调整因素与混杂因素混淆的问题,提出 GDC 框架,通过因果解耦、多图聚合和因果约束提升 ITE 估计效果。
2024-12-05 cs.IR cs.LG
Desiderata for Representation Learning: A Causal Perspective
UC Berkeley(加州大学伯克利分校)
表示学习构造低维表示来概括高维数据的本质特征。这个学习问题通常通过描述与学习的表示相关联的各种必要条件来解决;例如,它们是非虚假的,有效的,或不纠缠的。然而,将这些直观的需求转化为可以根据观察到的数据进行测量和增强的正式标准可能具有挑战性。在本文中,我们从因果的角度来看待表示学习,使用反事实量和因果断言的可观察结果来形式化非虚假性和效率(在监督表示学习中)和解纠缠(在无监督表示学习中)。这产生了可计算的度量,可用于评估表示满足感兴趣的需求的程度,并从单个观测数据集学习非虚假和解纠缠的表示。
2022-02-10 cs.LG stat.ME stat.ML
Cross-Platform Hate Speech Detection with Weakly Supervised Causal Disentanglement
Arizona State University(亚利桑那州立大学);Stanford University(斯坦福大学);Amazon Alexa AI(亚马逊Alexa人工智能)
针对跨平台仇恨言论检测中传统方法适配性差、因果解耦需依赖目标标签的问题,研究提出弱监督因果解耦框架HATE WATCH,通过置信度重加权与对比正则化实现特征解耦,在跨平台场景下取得更优检测性能,助力可扩展内容审核与安全网络社区建设。
2024-04-17 cs.CL cs.LG
Efficiently Disentangle Causal Representations
本文提出一种基于条件概率差异和模型泛化能力的高效因果解耦表示学习方法,仅需评估泛化能力,在多种任务上比先前方法样本效率高1.9-11.0倍、速度快9.4-32.4倍。
2024-01-02 cs.LG stat.ML
Disentangling Dynamical Systems: Causal Representation Learning Meets Local Sparse Attention
Applied Artificial Intelligence Lab, Oxford Robotics Institute, Oxford, UK(应用人工智能实验室,牛津机器人研究所,英国牛津)
提出一种结合因果表示学习和局部稀疏注意力的方法,从原始轨迹数据中无结构假设地解耦系统参数,并通过图论准则保证可辨识性。
2026-06-12 cs.LG
Object-centric architectures enable efficient causal representation learning
Mila – Quebec AI Institute(魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);Samsung - SAIT AI Lab, Montreal(三星SAIT人工智能实验室(蒙特利尔))
本文针对多对象观测下单射假设失效导致解耦失败的问题,提出一种修改 Slot Attention 的以对象为中心架构,利用稀疏扰动弱监督高效解耦各对象属性,并通过图像实验验证其数据效率和有效性。
2023-10-29 cs.LG
Temporally Disentangled Representation Learning under Unknown Nonstationarity
Carnegie Mellon University(卡内基梅隆大学);Salesforce Research(Salesforce研究院);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文研究非平稳序列数据中时间延迟潜在因果变量的可辨识性,提出NCTRL估计框架,无需辅助变量即可从非线性混合中恢复潜在变量并识别因果关系,实验证明其显著优于现有基线。
2024-08-01 cs.LG stat.ML
Representation Disentaglement via Regularization by Causal Identification
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
针对传统解耦表示学习的i.i.d.假设难以处理有偏数据集的问题,本研究提出基于因果对撞结构的识别正则化(ReI)方法,可在变分框架下更优地学习鲁棒、可解释且符合领域知识的解耦表示。
2024-01-26 cs.LG
Deep Disentangled Representation Network for Treatment Effect Estimation
Alibaba Group(阿里巴巴集团)
本文提出一种结合专家混合、多头注意力与线性正交正则化的深度解耦表示算法,用于软分解协变量并消除选择偏差,从而更精确地估计个体治疗效果,实验证明其优于现有方法。
2025-07-09 cs.AI cs.LG
Block Disentanglement in CRL: Bridging Identifiability and Visual State Estimation
Rensselaer Polytechnic Institute(伦斯勒理工学院);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Swiss AI, EPFL(瑞士人工智能,洛桑联邦理工学院);Google DeepMind(谷歌DeepMind);University of Delaware(特拉华大学)
本文为干预性因果表示学习在弱化假设下建立块解缠的可辨识性保证,并将其应用于无标签的具身视觉状态估计,实现从图像视频恢复机器人物理变量,架起理论到实践的桥梁。
2026-10-06 cs.LG stat.ML
Learning Causal Representations of Single Cells via Sparse Mechanism Shift Modeling
Genentech Research and Early Development(基因泰克研究与早期开发部);Stanford University(斯坦福大学);New York University(纽约大学)
潜在变量模型,如变分自动编码器(VAE)已成为分析生物学数据的首选工具,特别是在单细胞基因组学领域。剩下的一个挑战是潜在变量作为定义细胞身份的生物过程的可解释性。在生物学应用之外,这个问题通常被称为学习解纠缠表示。尽管引入了VAE的几种解缠绕促进变体,并将其应用于单细胞基因组学数据,但在没有额外结构的情况下,该任务已被证明是不可行的。相反,最近的方法建议利用非平稳数据,以及稀疏机制转移假设,以学习解纠缠表示与因果语义。在这里,我们将这些方法学进展的应用扩展到具有遗传或化学扰动的单细胞基因组学数据的分析。更确切地说,我们提出了一个单细胞基因表达数据的深度生成模型,其中每个扰动都被视为针对未知但稀疏的潜在变量子集的随机干预。我们对这些方法进行了模拟单细胞数据的基准测试,以评估它们在潜在单元恢复,因果目标识别和域外推广方面的性能。最后,我们将这些方法应用于两个真实世界的大规模基因扰动数据集,并发现利用稀疏机制转移假设的模型在迁移学习任务上优于当代方法。我们使用scvi-tools库实现了我们的新模型和基准测试,并在https://github.com/Genentech/sVAE上将其作为开源软件发布。
2023-02-16 cs.LG q-bio.GN
ROPES: Robotic Pose Estimation via Score-Based Causal Representation Learning
Google DeepMind(谷歌DeepMind);Carnegie Mellon University(卡内基梅隆大学);Rensselaer Polytechnic Institute(伦塞拉尔理工学院)
本文提出ROPES,一种基于评分因果表示学习的无监督机器人姿态估计方法,通过干预识别可控潜在因子,无需标记数据即可高保真解耦,为CRL提供实用测试平台。
2025-10-23 cs.LG cs.RO
Causal Graph Neural Networks for Healthcare
University of Oxford(牛津大学);Leipzig University(莱比锡大学)
本文探讨了因果图神经网络在医疗保健中的应用,通过结合生物医学数据的图表示与因果推断,学习不变机制而非虚假相关性,旨在提升跨机构部署的性能并减少歧视性模式。
2026-03-27 cs.AI cs.LG
Disentangled Representation via Variational AutoEncoder for Continuous Treatment Effect Estimation
National University of Defense Technology(国防科技大学);College of Systems Engineering(系统工程学院)
针对连续处理效应估计中协变量混杂与噪声问题,提出DRVAE模型将协变量解耦为工具、混杂、调整和噪声因子,通过平衡混杂因子提升剂量-反应曲线估计精度,优于现有方法。
2024-06-04 cs.LG
Learning Causal Mechanisms through Orthogonal Neural Networks
Halmstad University(哈尔姆斯塔德大学)
本文提出带正交化层和专家间数据重分配的对抗式无监督方法,从失真数据中发现、解耦并求逆独立生成机制,提升可分离性、收敛速度及微弱变换的发现能力。
2023-06-05 cs.AI cs.LG
Robust Domain Generalisation with Causal Invariant Bayesian Neural Networks
NAOInstitute, University of Auckland(奥克兰大学NAO研究所)
针对训练域与目标域不一致时深度神经网络性能骤降的问题,提出解耦数据分布学习与推理机制的因果不变贝叶斯神经网络,经理论和实验验证可近似因果干预推理,在分布外图像识别任务上优于点估计同类模型。
2024-10-08 cs.LG stat.ME
Causal Manifold Fairness: Enforcing Geometric Invariance in Representation Learning
Machine Learning Lab IIIT-Hyderabad(IIIT-海得拉巴第二工业大学机器学习实验室)
本文提出因果流形公平性框架,通过强制潜在空间几何不变性,解决敏感属性对数据流形几何的因果扭曲问题,实现公平性与效用的平衡。
2026-01-06 cs.AI cs.CY cs.LG
A Critical View of the Structural Causal Model
School of Computer Science, Tel Aviv University(特拉维夫大学计算机科学学院);Facebook AI Research (FAIR)(Facebook AI Research (FAIR)(常见译法:脸书人工智能研究院))
在单变量的情况下,我们表明,通过比较单变量的原因和效果的个体复杂性,可以识别的原因和效果,而不考虑它们的相互作用。在我们的框架中,复杂性是通过对分布的分位数进行操作的自动编码器的重建误差来捕获的。比较两个自动编码器的重建误差,每个变量一个,表现出令人惊讶的是,以及公认的因果关系方向性基准。因此,关于两者中哪一个是原因,哪一个是结果的决定可能不是基于因果关系,而是基于复杂性。在多变量情况下,可以确保因果关系的复杂性得到平衡,我们提出了一种新的对抗性训练方法,该方法模仿因果模型的解缠结构。我们证明,在多维的情况下,这样的建模很可能只适合因果关系的方向的数据。此外,唯一性结果表明,学习模型能够识别潜在的因果和残留(噪声)成分。我们的多维方法优于文献方法在合成和真实世界的数据集。
2020-02-23 cs.AI cs.LG stat.ML
Latent Causal Invariant Model
Microsoft Research Asia(微软亚洲研究院);Peking University(北京大学)
当前的监督学习可以在数据拟合过程中学习虚假的相关性,从而带来关于可解释性、分布外(OOD)泛化和鲁棒性的问题。为了避免虚假的相关性,我们提出了一个潜在的因果不变性模型(LaCIM),追求因果预测。具体来说,我们引入的潜在变量分为(a)输出的原因因素和(b)其他虚假相关的输出通过混杂因素,建模的潜在因果因素。我们进一步假设从潜在空间到观测数据的生成机制是因果不变的。我们给出了这种不变性的可识别的主张,特别是从其他人的输出因果因素的解纠缠,作为精确推理和避免虚假相关的理论保证。我们提出了一种基于变分贝叶斯的估计方法,并优化了潜在的预测空间。我们的方法的实用性得到了验证,提高了可解释性,预测能力的各种OOD方案(包括医疗保健)和安全的鲁棒性。
2021-04-27 cs.LG stat.ML
Beyond DAGs: A Latent Partial Causal Model for Multimodal Learning
Responsible AI Research Centre(负责任人工智能研究中心);Australian Institute for Machine Learning, Adelaide University(阿德莱德大学澳大利亚机器学习研究所);School of Computer Science and Engineering, The University of New South Wales(新南威尔士大学计算机科学与工程学院);School of Mathematics and Statistics, The University of Melbourne(墨尔本大学数学与统计学院);Department of Philosophy, Carnegie Mellon University(卡内基梅隆大学哲学系)
本文提出了一种用于多模态学习的潜在部分因果模型,通过解耦表示提升模型在少量样本学习和领域泛化中的性能。
2026-02-27 cs.CV cs.LG stat.ML