Towards causality-aware predictions in static anticausal machine learning tasks: the linear structural causal model case
我们提出了一种反事实的方法来训练"因果感知”预测模型,该模型能够在静态反因果机器学习任务(即,预测任务,其中结果影响特征)。在受混杂困扰的应用中,该方法可用于生成不受观察到的混杂因素影响的预测。在涉及观察到的介质的应用中,该方法可以用于生成仅捕获直接或间接因果影响的预测。机械地,我们训练监督学习者(反事实)模拟功能,只保留感兴趣的因果关系产生的关联。我们专注于线性模型,其中连接协方差,因果效应和预测均方误差的分析结果是现成的。相当重要的是,我们表明,我们的方法不需要知识的完整的因果图。只要知道哪些变量代表潜在的混杂因素和/或介质就足够了。我们讨论了该方法的稳定性相对于选择偏差产生的数据集移位,并使用合成数据实验验证该方法。
2020-11-30 stat.AP
ABC3: Active Bayesian Causal Inference with Cohn Criteria in Randomized Experiments
Korea University(高丽大学)
提出ABC3主动贝叶斯因果推断策略,通过最小化积分后验方差和组间不平衡,在随机实验中高效估计条件平均处理效应,并经真实数据实验验证其效率与理论性质。
2024-12-15 cs.AI cs.LG stat.ME
A theoretical study of Y structures for causal discovery
University of Wisconsin-Milwaukee(威斯康星大学密尔沃基分校);Carnegie Mellon University(卡内基梅隆大学);University of Pittsburgh(匹兹堡大学);Vanderbilt University(范德堡大学)
有几个现有的算法,在适当的假设下,可以可靠地识别一个子集的基本因果关系的观测数据。本文介绍了第一个计算上可行的分数为基础的算法,可以可靠地识别离散模型的大样本限制的因果关系,同时允许的可能性,有未观察到的共同原因。在这样做时,算法不需要为具有未观察到的共同原因的因果结构分配分数。该算法是基于识别所谓的Y子结构内的贝叶斯网络结构,可以从观测数据中学习。Y亚结构的一个例子是A -> C,B -> C,C -> D。在提供因果发现的背景之后,本文证明了该算法在大样本限制下是可靠的条件。
2012-06-27 cs.AI stat.ME
Theoretical Impediments to Machine Learning With Seven Sparks from the Causal Revolution
University of California, Los Angeles(加州大学洛杉矶分校)
当前的机器学习系统几乎完全以统计或无模型模式运行,这对它们的功率和性能带来了严重的理论限制。这样的系统不能推理干预和回顾,因此不能作为强大人工智能的基础。为了达到人类水平的智能,学习机器需要现实模型的指导,类似于因果推理任务中使用的模型。为了证明这些模型的重要作用,我将总结当前机器学习系统无法完成的七项任务,这些任务已经使用因果建模工具完成。
2018-01-11 cs.AI cs.LG stat.ML
Retrospective Causal Inference with Machine Learning Ensembles: An Application to Anti-Recidivism Policies in Colombia
我们提出了新的方法来估计因果关系的影响,回顾微观数据的协助下,一个机器学习合奏。这种方法克服了传统方法(如回归建模或匹配)中的两个重要限制:(i)有关回顾性反事实的模糊性和(ii)潜在的错误指定,过度拟合,以及在因果效应估计中对大型识别协变量集的偏倚倾向或低效使用。我们的方法基于假设的人口干预措施,将分析目标定位于定义良好的"回顾性干预效应“(RIE),并应用机器学习集成,使数据能够以受控的方式指导我们如何使用大型识别协变量集。我们说明了减少在哥伦比亚的前战斗人员累犯的政策选择的分析。
2016-07-11 stat.ML
Probability trees and the value of a single intervention
Technical University of Denmark(丹麦技术大学)
统计因果关系中最基本的问题是从有限的数据中确定因果关系。概率树,结合先验因果结构与贝叶斯更新,已被建议作为一种可能的解决方案。在这项工作中,我们量化的信息增益从一个单一的干预,并表明,预期的信息增益,之前进行干预,并从干预的预期收益有简单的表达式。这导致了一种主动学习方法,该方法简单地选择具有最高预期增益的干预,我们通过几个例子来说明。我们的工作展示了概率树及其参数的贝叶斯估计如何提供一种简单而可行的快速因果归纳方法。
2022-05-18 cs.LG stat.ME
Information-Theoretic Causal Bounds under Unmeasured Confounding
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了一种信息论框架,通过数据驱动的方法在未测量混杂因素下实现因果效应的精确识别,无需外部参数或假设。
2026-02-20 cs.AI cs.LG stat.ME
Causal Structure Learning for Dynamical Systems with Theoretical Score Analysis
CaDyT通过理论分数分析方法,改进动态系统因果结构学习,优于现有方法,适用于规则和非规则采样数据。
2025-12-16 cs.AI cs.LG math.DS
Anticipating Performativity by Predicting from Predictions
Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
对人的预测,比如他们的预期教育成就或信用风险,可以是表演性的,并塑造他们想要预测的结果。了解这些预测对最终结果的因果影响对于确定未来预测模型的含义和选择部署哪些模型至关重要。然而,这种因果估计任务带来了独特的挑战:模型预测通常是输入特征的确定性函数,并且与结果高度相关。这使得预测对结果的因果影响不可能与协变量的直接影响分开。我们通过因果可识别性的镜头来研究这个问题,尽管这个问题的难度很大,但我们强调了三种自然场景,其中协变量,预测和结果之间的因果关系可以从观察数据中识别:预测中的随机化,数据收集过程中部署的预测模型的过度参数化,以及离散预测输出。从经验上讲,我们表明,鉴于我们的可识别性条件成立,通过将预测视为输入特征来进行预测的监督学习的标准变体确实可以找到可转移的函数关系,从而可以得出关于新部署的预测模型的结论。这些积极的结果从根本上依赖于在数据收集过程中记录的模型预测,这就提出了重新思考标准数据收集做法的重要性,以便能够更好地理解社会成果和行为反馈回路。
2022-10-18 cs.LG stat.ME stat.ML
Bivariate Causal Discovery for Categorical Data via Classification with Optimal Label Permutation
Texas A&M University(德州农工大学)
定量数据的因果发现已经被广泛研究,但对分类数据的研究较少。我们提出了一种新的因果模型的分类数据的基础上,一个新的分类模型,称为分类与最佳标签排列(COLP)。通过设计,COLP是一个简约的分类器,它产生了一个可证明可识别的因果模型。通过比较因果模型和反因果模型的似然函数的简单学习算法足以学习因果方向。通过与合成和真实数据的实验,我们证明了所提出的基于COLP的因果模型的良好性能相比,国家的最先进的方法。我们还提供了一个随附的R包COLP,其中包含拟议的因果发现算法和分类因果对的基准数据集。
2022-12-11 cs.LG stat.ME stat.ML
Statistical Causality from a Decision-Theoretic Perspective
我们提出了统计因果关系的决策理论框架的概述,这是非常适合制定和解决的问题,确定应用原因的影响。该方法进行了详细描述,并与其他目前的配方,如结构方程模型和潜在的反应。主题和应用包括混淆,治疗效果的治疗,工具变量和动态治疗策略。
2014-05-09 math.ST stat.ME stat.TH
An extensive simulation study evaluating the interaction of resampling techniques across multiple causal discovery contexts
该研究针对因果发现中重采样验证方法特性不明的问题,通过理论证明特定重采样方法可模拟算法调优参数赋值,并结合大规模仿真实验验证结论,为实践中重采样方法与调优参数的选择提供具体指导。
2025-03-19 cs.AI stat.ME
Evaluation of Causal Structure Learning Algorithms via Risk Estimation
近年来,从数据中学习因果结构的方法取得了许多进展。然而,对这些方法的经验评估却发展得很不完善。出于这种差距,我们提出了以下问题:如何才能评估,在一个给定的问题设置,一个或多个因果结构学习方法的实际效果?我们正式的决策理论框架中的问题,通过预期损失或风险的因果设置的概念。我们引入了因果风险的理论概念以及可以从数据中计算的样本量,并从理论上和通过广泛的模拟研究来研究两者之间的关系。我们的研究结果提供了一个简单的框架,用于评估因果结构学习方法,可以应用于一系列实际用例。
2020-06-27 stat.ME
Invariance & Causal Representation Learning: Prospects and Limitations
Technische Universität Berlin(柏林工业大学);German Aerospace Center(德国航空航天中心)
本文研究不变性与因果表征学习的关系,证明仅凭不变性无法识别潜在因果变量,并指出需引入额外约束。
2023-12-06 cs.AI cs.LG stat.ML
Guiding Treatment Strategies: The Role of Adjuvant Anti-Her2 Neu Therapy and Skin/Nipple Involvement in Local Recurrence-Free Survival in Breast Cancer Patients
Mercurial AI Inc(Mercurial AI公司)
该研究利用LiNGAM从Duke MRI乳腺癌观察数据中识别因果关系,量化抗Her2 Neu治疗与皮肤/乳头受累对无局部复发生存期的影响,以支持个性化治疗决策。
2025-01-04 cs.LG stat.AP
Estimating Causal Treatment Effects in Placebo-Controlled Randomized Clinical Trials When High Placebo Response is Anticipated
Smith Center for Outcomes Research in Cardiology, Beth Israel Deaconess Medical Center(贝斯以色列女医生医疗中心心脏结局研究史密斯中心);Department of Statistics, SungKyunKwan University(成均馆大学统计系);Biostatistics Department, Boston University(波士顿大学生物统计学系)
针对高安慰剂反应削弱ITT效应的难题,提出两阶段框架估计标准化因果治疗效果,通过单盲导入期测量安慰剂反应并利用预后评分估计CATE,模拟验证有效性。
2026-10-15 stat.ME
CausalRM: Causal-Theoretic Reward Modeling for RLHF from Observational User Feedbacks
Peking University(北京大学);Xiaohongshu Inc.(小红书公司);Zhejiang University(浙江大学)
本文提出CausalRM框架,通过因果理论处理观察性用户反馈中的噪声和偏见问题,提升RLHF任务性能,实验显示在WildGuardMix和HarmBench上分别提升49.2%和32.7%。
2026-03-19 cs.AI cs.CL cs.LG
Causal Discovery in Dynamic Fading Wireless Networks
本文针对动态衰落无线网络中的因果发现问题,提出基于序贯回归与 NOTEARS 无环约束的在线更新算法,推导检测延迟的理论上下界,并通过仿真验证其与网络规模、噪声方差及结构变化幅度的定量关系。
2025-11-10 cs.LG eess.SP stat.ME
Information-Theoretic Approximation to Causal Models
GfK SE(GfK公司);AlgoBalance UG (limited liability)(AlgoBalance有限责任公司)
从有限样本中推断两个离散随机变量X和Y之间的因果方向和因果效应往往是一个至关重要的问题,也是一项具有挑战性的任务。然而,如果我们能够获得观测和干预数据,就有可能解决这一任务。如果X导致了Y,那么我们是通过观察X的变化还是通过积极干预X来观察Y的效果,这都无关紧要。该不变性原理在高维概率空间中创建了观察分布和介入分布之间的联系。我们将源自X和Y样本的分布嵌入到该高维空间中,使得嵌入的分布最接近遵循关于相对熵的不变性原理的分布。这使我们能够计算给定经验分布的最佳信息理论近似,该分布遵循假设的潜在因果模型。我们表明,这种信息理论近似因果模型(IACM)可以通过解决线性优化问题。特别是,通过将经验分布近似为单调因果模型,我们可以计算因果关系的概率。我们也可以使用IACM的因果发现问题的二元,离散的情况下。然而,在加性噪声模型的标记合成数据上的实验结果表明,我们的因果发现方法落后于最先进的方法,因为不变性原理只编码因果关系的必要条件。然而,对于合成的乘性噪声数据和真实世界的数据,我们的方法可以在某些情况下与其他方法竞争。
2020-10-15 cs.IT cs.LG math.IT
A category theoretical argument for causal inference
MIT(麻省理工学院)
本文的目标是设计一个因果推理方法占因果因素之间的复杂的相互作用。所提出的方法依赖于一个类别理论的定义,因变量,自变量和潜变量的产品和箭头的类别中的未标记的分区。在整个文件中,我们演示了所提出的方法是如何考虑可能的隐藏变量,如环境变量或噪声,以及它如何可以解释统计方面的$p$值。这种解释,从范畴论统计,是通过一组命题突出的函子属性方差分析。我们使用这些属性与我们的范畴理论框架相结合,提供解决方案的因果推理问题,既健全的代数和统计特性。作为一个应用程序,我们展示了如何所提出的方法可以用来设计一个组合的全基因组关联算法的遗传学领域。
2020-06-14 cs.AI math.AG math.CT
Decision-theoretic foundations for statistical causality
我们为决策理论统计因果关系(DT)企业开发了数学和解释基础,这是表示和解决因果问题的一种简单方法。DT将因果推理重新定义为“辅助决策”,旨在了解何时以及如何利用外部数据(通常是观察性数据),通过利用数据和问题之间的假设关系来帮助我解决判定问题。因果问题的任何表述中所体现的关系都需要更深层次的论证,而这必然依赖于上下文。在这里,我们澄清了支持DT方法应用所需的考虑因素。可交换性的考虑被用来构建所需的关系,并打算治疗和干预治疗之间的区别形成了“可交换性”的有利条件的基础。我们还展示了DT观点如何统一和揭示其他流行的统计因果关系的形式化,包括潜在的反应和有向无圈图。
2020-04-26 math.ST stat.TH
Information-theoretic signatures of causality in Bayesian networks and hypergraphs
Imperial College London(帝国理工学院);University Hospital Würzburg(维尔茨堡大学医院)
本文探讨了信息论方法在贝叶斯网络和超图中识别因果关系的潜力,通过部分信息分解揭示了因果结构的局部特性,为因果推断提供了新的理论基础。
2026-04-12 cs.IT math.IT stat.ML
Causal quartets: Different ways to attain the same average treatment effect
平均因果效应往往可以在其变异的背景下得到最好的理解。我们用两组四张图来证明,所有这些图都代表相同的平均效应,但具有非常不同的异质性模式。与Anscombe(1973)著名的相关性四重奏一样,这些图表戏剧性地说明了现实世界的变化可能比简单的数字总结更复杂。这些图表还让我们深入了解为什么平均效应往往比预期的要小得多。
2023-02-24 stat.AP stat.ME
Vector causal inference between two groups of variables
目前识别因果关系的方法大多假设变量是标量随机变量。然而,在许多领域中,感兴趣的对象是向量或标量变量组。提出了一种新的基于约束的非参数方法,用于从观测数据中推断两个向量值随机变量之间的因果关系。我们的方法采用稀疏估计的有向图和无向图,是基于两个新的原则groupwise因果推理,我们证明理论上在珍珠的图形模型为基础的因果关系框架。我们的理论考虑补充了两个新的因果发现算法的因果相互作用之间的两个随机向量,找到正确的因果方向可靠的模拟,即使相互作用是非线性的。我们根据经验评估我们的方法,并将其与其他最先进的技术进行比较。
2022-12-01 stat.ME
Relating Graph Neural Networks to Structural Causal Models
TU Darmstadt(达姆施塔特工业大学);DeepMind;Google(谷歌)
因果关系可以用结构因果模型(SCM)来描述,该模型携带有关感兴趣的变量及其机械关系的信息。对于大多数感兴趣的过程,底层的SCM只能部分地观察到,因此因果推理试图利用暴露的过程。图神经网络(GNN)作为结构化输入的通用逼近器,为因果学习提供了一个可行的候选者,这表明它与SCM的集成更紧密。为此,我们提出了一个理论分析,从第一原则,建立了一个更一般的看法神经因果模型,揭示了GNN和SCM之间的几个新的连接。我们建立了一个新的基于GNN的因果推理模型类,它是因果效应识别的必要和充分条件。我们的模拟和标准基准的实证说明验证了我们的理论证明。
2021-10-22 cs.LG stat.ML
Potential Outcome and Decision Theoretic Foundations for Statistical Causality
本文探讨了单世界干预图(SWIGs)与Philip Dawid基于决策图的图形因果模型之间的关联,建立了Dawid方法与基于潜在结果的方法之间的对应关系,并给出了与SWIGs同构的理论重构。
2023-09-08 math.ST stat.TH
CausalSmith: A Formally Grounded, Self-Improving Agentic Framework for Automated Research in Causal Inference
提出因果锻造框架用于因果推理自动化研究,结合因果论库与因果史密斯智能管道,通过声明审核增强内核验证,并用自主研究工件评估系统,为因果推理自动化研究提供新途径。
2026-09-16 cs.AI cs.LG econ.EM
Causal Entropy and Information Gain for Measuring Causal Control
Utrecht University(乌得勒支大学)
针对现有可解释机器学习方法及信息论特征选择缺乏因果性的问题,提出因果熵与因果信息增益度量以衡量特征对结果的因果控制能力,推导相关基础结论并验证其在特征选择中优于标准互信息,助力因果领域可解释方法开发。
2024-01-26 cs.IT cs.LG math.IT
Joint Application of the Target Trial Causal Framework and Machine Learning Modeling to Optimize Antibiotic Therapy: Use Case on Acute Bacterial Skin and Skin Structure Infections due to Methicillin-resistant Staphylococcus aureus
University of Florida(佛罗里达大学);Emerging Pathogens Institute(新兴病原体研究所)
细菌感染是全球高死亡率的原因。潜在的感染和多方面的患者的临床状态的抗菌药物耐药性可能会妨碍抗生素治疗的正确选择。随机临床试验提供了平均处理效应估计,但对于风险分层和治疗选择的优化并不理想,即,个体化处理效应(ITE)。在这里,我们利用从美国南部学术诊所收集的大规模电子健康记录数据来模拟临床试验,即,“目标试验”,并为诊断为耐甲氧西林金黄色葡萄球菌(MRSA)所致急性细菌性皮肤和皮肤结构感染(ABSSSI)的患者开发死亡率预测和ITE估计的机器学习模型。ABSSSI-MRSA是一种具有挑战性的疾病,治疗选择减少-万古霉素是首选,但它具有不可忽视的副作用。首先,我们使用倾向得分匹配来模拟试验,并创建治疗随机(万古霉素与其他抗生素)数据集。接下来,我们使用这些数据来训练各种机器学习方法(包括boosted/LASSO逻辑斯谛回归、支持向量机和随机森林),并通过自举验证(bootstrap validation)在接收器特征下的面积(AUC)方面选择最佳模型。最后,我们使用这些模型来计算ITE,并确定通过治疗改变可能避免的死亡。袋外测试表明SVM和RF是最准确的,AUC分别为81%和78%,但BLR/LASSO也相差不远(76%)。通过使用BLR/LASSO计算反事实,万古霉素增加了死亡风险,但其显示出较大的变异性(比值比1.2,95%范围0.4-3.8),对结局概率的贡献不大。相反,RF…
2022-07-15 cs.LG stat.ML
Direct and Indirect Effects -- An Information Theoretic Perspective
信息理论(IT)的方法来量化因果关系的影响已经经历了一些流行的文献,在理论和应用(如神经科学和气候科学)领域。虽然这些因果测量是可取的,因为它们是模型不可知的,可以捕获非线性相互作用,但它们与因果影响的常见统计概念有根本不同,因为它们(1)比较效应的分布,而不是效应的值;(2)相对于代表原因的随机变量而不是原因的特定值定义。在这里,我们提出了直接,间接和总的因果关系的IT措施。拟议的措施是不同的现有的IT技术,因为它们能够测量因果关系的影响,定义相对于特定的价值的原因,同时仍然提供灵活性和IT技术的普遍适用性。我们提供了一个可识别的结果,并展示了应用所提出的措施,估计厄尔尼诺-南方涛动的因果关系在北美太平洋西北部的温度异常的影响。
2020-07-28 cs.IT math.IT stat.AP
Asymmetric predictability in causal discovery: an information theoretic approach
针对观察性研究中因果推断的难题,提出基于预测不对称性的信息几何框架与有向互信息(DMI)度量,结合傅里叶密度估计与数据拆分实现高效因果发现,经模拟和应用验证了性能。
2023-11-07 math.ST stat.CO stat.ME
Characterizing Signalling: Connections between Causal Inference and Space-time Geometry
ETH Zürich(苏黎世联邦理工学院);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家数字科学研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立高等电子、计算机、电信、物理和化学工程学校);Institut Néel(内埃尔研究所)
本文研究因果推断与时空几何的联系,改进信息理论信号的刻画,并定义锥形性属性,探讨信息理论因果模型在时空中的嵌入。
2026-07-17 gr-qc math-ph math.MP
Foundations of Causal Discovery on Groups of Variables
本文为变量组因果发现建立理论基础,探讨微观与组级假设关系,分析因果忠实性条件,涵盖含环和双向边的图模型及分组时间序列特例。
2024-03-19 math.ST stat.ME stat.TH
Integrating Earth Observation Data into Causal Inference: Challenges and Opportunities
University of Texas at Austin(德克萨斯大学奥斯汀分校);Chalmers University of Technology(查尔姆斯理工大学);Linköping University(林雪平大学)
观察性研究需要调整与治疗和结局相关的混杂因素。在观察到的变量是表格中的数量,如在一个街区的平均收入的设置,工具已经开发解决这种混淆。然而,在发展中世界的许多地方,有关当地社区的专题可能很少。在这方面,卫星图像可以发挥重要作用,作为否则无法观测到的混淆变量的代理。在本文中,我们研究了在这种非表格设置,在卫星图像中发现的模式或对象的混杂偏差的混杂调整。使用在非洲的反贫困援助计划的评估作为我们运行的例子,我们正式执行因果调整与这种非结构化的数据的挑战-什么条件是足以确定因果关系的影响,如何进行估计,以及如何量化的方式,其中某些方面的非结构化图像对象是最预测的治疗决策。通过模拟,我们还探讨了基于卫星图像的观测推断的灵敏度图像分辨率和误指定的图像相关的混淆。最后,我们将这些工具应用于从卫星图像中估计非洲社区反贫困干预措施的效果。
2023-01-30 cs.LG stat.AP stat.ML
Higher order definition of causality by optimally conditioned transfer entropy
Institute of Computer Science of the Czech Academy of Sciences(捷克科学院计算机科学研究所);Faculty of Nuclear Sciences and Physical Engineering, Czech Technical University(捷克技术大学核科学与物理工程系);National Institute of Mental Health(国家心理健康研究所)
针对标准因果概念无法反映高阶协同交互的问题,提出基于信息论的因果推断泛化方法,通过最优条件转移熵实现多变量因果交互描述,推动从因果网络向因果超网络发展。
2025-04-29 cs.IT cs.LG math.IT
Causal Simulation Experiments: Lessons from Bias Amplification
最近的理论工作在因果推断探索了一类重要的变量,当条件下,可能会进一步放大现有的未测量的混杂偏差(偏差放大)。尽管这一理论工作,现有的模拟偏差放大在临床设置表明,偏差放大可能不是重要的,在许多实际情况下,在理论literature.We建议解决这种紧张局势,使用工具从半参数回归文献导致的一般表征方面的几何OLS估计,使我们能够扩展目前的结果,以更大的一类DAG,函数形式和分布假设。我们进一步使用这些结果来了解目前的模拟方法的局限性,并提出了一个新的框架进行因果模拟实验比较估计。然后,我们评估的挑战和好处,扩展这种模拟方法的背景下,一个真正的临床数据集与二进制处理,奠定了基础的原则性方法,敏感性分析的偏差放大存在不可测量的混杂。
2020-03-18 econ.EM math.ST stat.AP
A paradox from randomization-based causal inference
在潜在结果框架下,因果效应被定义为治疗和控制下的潜在结果之间的比较。为了从随机试验中推断因果效应,Neyman提出检验平均因果效应为零的原假设(Neyman 'snull),Fisher提出检验个体因果效应为零的原假设(Fisher' snull)。尽管Neyman零值和Fisher零值之间的细微差别引起了理论和实践统计学家的许多争议和困惑,但80多年来,文献中一直缺乏对这两种方法的仔细比较。我们填补了这一历史空白,使它们之间的理论比较,并强调了一个有趣的悖论,还没有被以前的研究人员承认。从逻辑上讲,Fisher的null意味着Neyman的null。因此,令人惊讶的是,在实际的完全随机实验中,拒绝内曼的零并不意味着拒绝费舍尔的零为许多现实的情况下,包括案件与恒定的因果关系的影响。此外,我们还证明了这一悖论也存在于其他常用的实验中,如分层实验、配对实验和析因试验。渐近分析、数值例子和真实数据例子都支持这一令人惊讶的现象。除了其历史和理论意义外,这一悖论也为现代研究者带来了有益的实践启示。
2016-06-23 math.ST stat.TH
Causal models on probability spaces
我们描述了测量理论的概率和因果推理之间的接口,通过构建因果模型的概率空间内的潜在结果的框架。我们发现,测度论提供了一个精确的和有指导意义的语言因果关系和考虑的概率空间的因果模型提供了清晰的因果推理的中心概念。通过仔细研究简单的,有指导意义的例子,我们展示了因果效应,因果相互作用,匹配程序和随机化的见解。此外,我们介绍了一个简单的技术,可视化的因果模型的概率空间,这是有用的生成的例子和发展因果直觉。最后,我们提供了一个公理框架的因果关系,并作出初步的步骤,一般因果模型的正式理论。
2019-07-02 math.ST stat.TH
Generalization in anti-causal learning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);Max Planck ETH Center for Learning Systems(马克斯·普朗克-苏黎世联邦理工学院学习系统中心)
在新的情况下学习和行动的能力仍然是动画智能的特权,因为当前的机器学习方法在超出标准i.i.d.时大多失败。设置.出现这种差异的原因是什么?大多数机器学习任务都是反因果的,即,我们从结果(观察)中推断原因(标签)。通常,在监督学习中,我们构建的系统试图直接反转因果机制。相反,在本文中,我们认为,强大的泛化能力关键取决于搜索和验证有意义的假设,需要访问因果模型。在这样一个框架中,我们希望找到导致观察到的结果的原因。反因果模型用于驱动此搜索,但需要因果模型进行验证。我们调查因果和反因果任务之间的根本区别,讨论的主题范围从对抗攻击解开变量的因素的影响,并提供了大量的证据,从文献中证实我们的观点。我们提倡在监督学习中引入因果模型,以将范式从仅推理转变为搜索和验证。
2018-12-03 cs.LG stat.ML
Multi-Task Anti-Causal Learning for Reconstructing Urban Events from Residents' Reports
Stony Brook University(石溪大学);Johns Hopkins University(约翰霍普金斯大学)
本文提出MTAC框架,通过利用跨任务不变性,从居民报告中重建城市事件,提升重建准确性,达到34.61%的MAE减少。
2026-10-02 cs.LG
Anti-causal domain generalization: Leveraging unlabeled data
Apple(苹果公司);ETH Zürich(苏黎世联邦理工学院)
针对反因果设置下的域泛化问题,提出利用无标签数据估计环境扰动方向,通过惩罚模型对协变量均值和协方差变化的敏感性实现鲁棒性,并提供最坏情况最优性保证。
2026-06-18 cs.LG stat.ML
Networks of Causal Abstractions: A Sheaf-theoretic Framework
DIET Sapienza University of Rome(Sapienza罗马大学DIET)
本文提出因果抽象网络(CAN)框架,通过她夫理论统一多个上下文依赖因果机制模型,解决分布式智能体间因果视角协调问题,实现因果学习与推理。
2026-04-28 cs.AI cs.LG eess.SP
Generalizable Information Theoretic Causal Representation
University College London(伦敦大学学院);Nanyang Technological University(南洋理工大学);Noah’s Ark Lab, Huawei(华为诺亚方舟实验室);Renmin University of China(中国人民大学)
有证据表明,表示学习可以在许多现实世界的场景中,如图像分类和推荐系统,提高模型的多个下游任务的性能。现有的学习方法依赖于建立特征和下游任务(标签)之间的相关性(或其代理),这通常会导致包含标签的原因,效果和虚假相关变量的表示。由于非因果部分的不稳定性,它的普遍性可能会恶化。在本文中,我们提出了从观测数据中学习因果表示,根据我们假设的因果图,用互信息度量正则化学习过程。该优化包含一个反事实损失,基于此,我们推导出一个理论保证,cacability-inspired学习具有降低的样本复杂度和更好的泛化能力。大量的实验表明,通过我们的方法学习的因果表示训练的模型在对抗攻击和分布偏移下是鲁棒的。
2022-02-17 cs.LG
On the Equivalence of Causal Models: A Category-Theoretic Approach
Kyoto University(京都大学);Nagahama Institute of Bio-Science and Technology(长滨生物科学技术大学)
我们开发了一个范畴理论的标准,用于确定具有不同但同态有向无环图的因果模型在离散变量上的等价性。继Jacobs等人(2019)之后,我们将因果模型定义为因果串图的概率解释,即,从图$G$的“语法”范畴$\textsf{Syn}_G$到有限集和随机矩阵的范畴$\textsf{Stoch}$的函子。因果模型的等价性是根据两个这样的函子之间的自然变换或同构来定义的,我们分别称之为$Φ$ -抽象和$Φ$ -等价。它表明,当一个模型是另一个的$Φ$ -抽象,前者的干预演算可以一致地翻译成后者。我们还确定了条件下,一个模型容纳一个$Φ$ -抽象,当变换是确定性的。
2022-01-18 cs.LG
Information-Theoretic Bias Reduction via Causal View of Spurious Correlation
Seoul National University(首尔大学);Adobe Research(Adobe研究院)
我们提出了一种信息论偏差测量技术,通过虚假相关的因果解释,这是有效的识别特征级算法偏见,利用条件互信息。虽然已经提出并广泛研究了几种偏差测量方法,以在各种任务(如人脸识别)中实现算法公平性,但其基于准确度或logit的度量容易导致微不足道的预测分数调整,而不是基本的偏差减少。因此,我们设计了一个新的去偏置框架对算法偏见,其中包括一个偏差正则化损失所提出的信息理论偏差测量方法。此外,我们提出了一个简单而有效的无监督去偏置技术的基础上随机标签噪声,它不需要明确的监督偏置信息。提出的偏差测量和去偏的方法进行了验证,在不同的现实情况下,通过广泛的实验,多个标准的基准。
2022-01-10 cs.AI cs.CY cs.LG
Causal Masking on Spatial Data: An Information-Theoretic Case for Learning Spatial Datasets with Unimodal Language Models
Department of Electrical and Computer Engineering(电气与计算机工程系);Johns Hopkins University(约翰霍普金斯大学);Whiting School of Engineering(工程学院)
本文以国际象棋为研究对象,探讨因果掩码在空间数据上的可行性,发现基于空间棋盘状态训练的因果掩码语言模型棋力优于序列数据模型,证明因果掩码是训练空间单模态LLM的可行甚至更优方法。
2025-10-30 cs.AI cs.LG stat.ML
The Paradox of Outcome Optimization: A Causal Information-Theoretic Bound on Reasoning Shortcuts in LLMs
HFIPS, Chinese Academy of Sciences(中国科学院HFIPS);University of Science and Technology of China(中国科学技术大学)
针对基于结果强化学习的LLM在分布外任务中推理脆弱的问题,提出因果信息论框架解释奖励诱导的流形坍缩,并证明过程奖励模型作为拓扑滤波器可消除低复杂度捷径。
2026-05-30 cs.AI cs.LG
Causal Feature Learning for Utility-Maximizing Agents
Santa Fe Institute(圣塔菲研究所);Oxford Internet Institute(牛津互联网研究所)
从低层次数据中发现高层次因果关系是自然科学和社会科学中经常出现的一个重要而具有挑战性的问题。在一系列论文中,Chalupka等人(2015,2016 a,2016 b,2017)开发了一种因果特征学习(CFL)的程序,以自动化这项任务。我们认为,CFL不建议粗化的情况下,语用考虑规则有利于它,并建议粗化的情况下,语用考虑规则对it.We提出了一种新的技术,语用因果特征学习(PCFL),扩展了原来的CFL算法在有用的和直观的方式。我们表明,PCFL具有相同的吸引力的测量理论的性质,原来的CFL算法。我们通过理论分析和实验比较了这两种方法的性能。
2020-08-27 cs.AI cs.LG
Cohomological Obstructions to Global Counterfactuals: A Sheaf-Theoretic Foundation for Generative Causal Models
School of Management, University of Science and Technology of China(管理学院,中国科学技术大学);School of Computer Science and Engineering, University of Science and Technology of China(计算机科学与工程学院,中国科学技术大学)
本文基于层论构建生成因果模型,揭示因果图非平凡同调导致的上同调障碍,并提出熵正则化和熵沃尔什因果层拉普拉斯方程,实现高维数据反事实导航。
2026-03-18 cs.LG
Assessing putative bias in prediction of anti-microbial resistance from real-world genotyping data under explicit causal assumptions
University of Florida(佛罗里达大学)
全基因组测序(WGS)正迅速成为鉴定抗菌素耐药性(AMR)的常规手段,因为它能够获得有关导致耐药性和驱动病原体移动的基因和机制的高分辨率信息。相比之下,传统的表型(基因图)测试不能很容易地阐明这样的信息。然而,从基因型-表型数据开发AMR预测工具可能会有偏差,因为采样是非随机的。样品种源、采集时期和物种代表性可能混淆遗传性状与AMR的关联。因此,预测模型在采样分布偏移的新数据上的表现可能很差。在这项工作中,在一组明确的因果假设下,我们使用病理系统资源整合中心(PATRIC)的基因型-表型AMR数据评估了基于倾向的再平衡和混杂调整对AMR预测的有效性。我们选择细菌基因型(编码为k-mer签名,即长度为k的DNA片段),国家,年份,物种和四环素类药物的AMR表型,准备来自单个国家的最新基因组的测试数据。我们测试了有/没有偏倚处理的增强逻辑回归(BLR)和随机森林(RF)。在10,936例中,我们发现了物种,地点和年份不平衡的证据。基因签名对AMR的影响的粗略变化与偏倚调整变化不同,但仅适度变化(从4000多万k-mer中选择前20,000个)。对于来自自助法和外部测试(n= 1,085)的袋外样本,RF(0.95)的受试者工作特征(AUROC)下的面积与BLR(0.94)相当,其中AUROC未降低。我们观察到,与单独使用遗传签名相比,使用偏倚处理的AUROC获得了1%-5%的增益。..…
2021-07-23 cs.LG q-bio.GN
On Causality in Domain Adaptation and Semi-Supervised Learning: an Information-Theoretic Analysis for Parametric Models
University of Melbourne(墨尔本大学)
该研究从信息论视角分析参数模型下因果性对UDA和SSL泛化性能的影响,区分因果与反因果学习场景,推导了不同场景下超额风险与样本量的阶数关系,揭示了因果机制与学习难度的关联。
2024-09-16 cs.IT cs.LG math.IT
Competition is the key: A Game Theoretic Causal Discovery Approach
The School of Interdisciplinary Research (SIRe), Indian Institute of Technology (IIT) Delhi(跨学科研究学院(SIRe)、印度理工学院德里分校);Robert Bosch GmbH, India(德国罗伯特·博世有限公司,印度);Department of Applied Mechanics, Yardi School of Artificial Intelligence, Indian Institute of Technology (IIT) Delhi(应用力学系、雅迪人工智能学院、印度理工学院德里分校)
本文提出一种博弈论强化学习框架,通过DDQN智能体与GES或GraN-DAG竞争并热启动,实现因果发现,提供有限样本保证,在合成和真实基准上优于基线且可扩展。
2025-10-23 cs.LG
RMT-KD: Random Matrix Theoretic Causal Knowledge Distillation
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
RMT-KD利用随机矩阵理论进行因果知识蒸馏,实现高达80%的参数减少,同时仅损失2%的精度,提升推理速度和能效。
2026-02-06 cs.LG