Fairness in Algorithmic Decision Making: An Excursion Through the Lens of Causality
Pennsylvania State University(宾夕法尼亚州立大学);Purdue University(普渡大学)
由于我们生活的几乎所有方面都越来越受到算法决策系统的影响,作为一个社会,我们有责任确保这些系统不会成为基于性别,种族,民族,宗教等的不公平歧视的工具。我们介绍了基于因果关系的群体公平性的两个定义:公平的平均因果效应(FACE)和公平的平均因果效应的治疗(FACT)。我们使用Rubin-Neyman潜在结果框架来分析因果关系,以稳健地估计FACE和FACT。我们证明了我们提出的方法的有效性合成数据。我们对两个真实世界数据集的分析,来自UCI存储库的成人收入数据集(以性别为受保护属性),以及NYC Stop和Frisk数据集(以种族为受保护属性),表明FACE和FACT获得的歧视证据,或缺乏歧视,通常与其他研究的结果一致。我们进一步表明,事实,是有点更微妙的脸相比,可以产生的歧视,从那些使用脸不同的结果。
2019-03-27 cs.LG stat.ML
Causal structure learning from time series: Large regression coefficients may predict causal links better in practice than small p-values
University of Copenhagen(哥本哈根大学)
在这篇文章中,我们描述了从时间序列数据中学习因果结构的算法,这些数据在2019年神经信息处理系统会议(NeurIPS)上赢得了因果4气候竞赛。我们研究我们的组合既定的想法如何实现半现实和现实的时间序列数据表现出共同的挑战,在现实世界的地球科学数据的竞争力。特别是,我们讨论了a)利用线性方法来识别非线性系统中的因果联系的基本原理,b)关于为什么大的回归系数在实践中可以比小的p值更好地预测因果联系以及为什么归一化数据有时可能会阻碍因果结构学习的模拟支持的解释。对于基准测试的使用,我们在这里详细介绍了算法,并在https://github.com/sweichwald/tidybench上提供了实现。我们提出了竞争证明基线基准比较的方法,以指导开发新的算法,从时间序列的结构学习。
2020-09-02 cs.LG stat.AP stat.ML
Causal thinking for decision making on Electronic Health Records: why and how
针对电子健康记录数据驱动医疗决策易受混杂因素影响的问题,提出分步因果决策框架,结合MIMIC-IV数据集验证步骤选择的影响,并公开代码数据以指导实践。
2024-12-11 stat.ME stat.ML
Counterfactual Invariance to Spurious Correlations: Why and How to Pass Stress Tests
Google Research(谷歌研究院);University of Chicago(芝加哥大学)
非正式地说,“虚假相关性”是指模型对分析师认为不重要的输入数据的某些方面的依赖。在机器学习中,这些具有“当你看到它时就知道”的特性;例如,改变句子主语的性别会改变情感预测器的输出。为了检查虚假的相关性,我们可以通过扰动输入数据的不相关部分来“压力测试”模型,看看模型预测是否会改变。在本文中,我们使用因果推理的工具来研究压力测试。我们引入反事实不变性作为要求的形式化,即改变输入的不相关部分不应该改变模型预测。我们连接反事实的不变性的领域模型的性能,并提供实用的方案学习(近似)反事实不变的预测(不访问反事实的例子)。事实证明,反事实不变性的手段和含义从根本上取决于数据的真正潜在因果结构-特别是,是标签导致特征还是特征导致标签。不同的因果结构需要不同的正则化方案来诱导反事实不变性。同样,反事实不变性意味着不同的域转移保证取决于潜在的因果结构。这一理论得到了文本分类的实证结果的支持。
2021-11-02 cs.AI cs.LG stat.ML
To do or not to do: cost-sensitive causal decision-making
Solvay Business School(索尔维商学院);Vrije Universiteit Brussel(布鲁塞尔自由大学);Faculty of Economics and Business(经济与商业学院);Katholieke Universiteit Leuven(鲁汶大学)
因果分类模型在各种操作业务流程中采用,以根据流程实例特征预测处理对感兴趣的分类业务结果的影响。这允许优化操作决策,并选择最佳治疗方法应用于每个特定情况,目的是最大限度地提高积极结果率。虽然在文献中已经提出了各种强大的方法来学习因果分类模型,但考虑到各种治疗的成本和潜在结果的益处,还没有正式的框架来阐述基于估计的个体治疗效果的最佳决策。因此,在这篇文章中,我们扩展了预期值框架,并正式引入了一个成本敏感的决策边界的双二元因果分类,这是一个线性函数的估计个人治疗效果,积极的结果概率和成本和效益参数的问题设置。该边界允许对阳性和阴性治疗类别中的实例进行因果分类,以最大化预期的因果利润,这是作为成本敏感因果分类中的目标引入的。我们引入了预期因果利润排名器,它在每个可能的阈值上对因果分类实例进行排名,以最大化预期因果利润,并且不同于传统的基于个体治疗效果的排名方法。建议的排名方法进行实验评估合成和营销活动的数据集。结果表明,所提出的排名方法有效地优于成本不敏感的排名方法,并允许提高盈利能力。
2021-01-05 cs.AI cs.LG stat.ML
Why did the distribution change?
Amazon(亚马逊)
我们描述了一个正式的方法,图形因果模型的基础上,以确定变量的概率分布的变化的“根本原因”。在将联合分布分解为每个变量的条件分布之后,给定其父母(“因果机制”),我们将变化归因于这些因果机制的变化。这种归因分析说明了这样一个事实,即机制往往独立变化,有时只有其中一些机制发生变化。通过模拟,我们研究了我们的分布变化归因方法的性能。然后,我们提出了一个现实世界的案例研究,确定男性和女性之间的收入分配差异的驱动因素。
2021-05-23 cs.AI cs.LG stat.ME
LLM Cannot Discover Causality, and Should Be Restricted to Non-Decisional Support in Causal Discovery
The Hong Kong Polytechnic University(香港理工大学)
本文论证LLM因自回归建模缺乏因果推理理论基础而不应直接决定因果关系,提出将其限制为非决策性辅助角色,并实验证明LLM引导的启发式搜索可加速因果结构学习。
2025-06-01 cs.LG
Causal Discovery and Classification Using Lempel-Ziv Complexity
BITS Pilani K K Birla Goa Campus(BITS Pilani K K Birla 果阿校区);National Institute of Advanced Studies(国家高级研究院);Indian Institute of Science(印度科学学院)
本研究基于Lempel-Ziv复杂度提出新的因果性度量和距离度量,构建因果决策树,在因果结构数据上显著优于传统基尼决策树,并能推断主要因果变量。
2024-11-14 cs.LG stat.ME
AutoCause: A Python framework that automates expert decisions in environmental time-series causal discovery
ISR-Lisbon, Instituto Superior Técnico(里斯本信号与系统研究所,里斯本高等理工学院);Digital Scholarship at Oxford, University of Oxford(牛津大学牛津数字学术中心);Jet Propulsion Lab., Caltech(加州理工学院喷气推进实验室)
AutoCause是一款开源Python框架,通过封装四种因果发现方法、添加参考模型并分级链接,实现环境时间序列因果发现中专家决策的自动化,提升分析的可审计性与可重复性。
2026-08-04 cs.LG
Posterior-Calibrated Causal Circuits in Variational Autoencoders: Why Image-Domain Interpretability Fails on Tabular Data
Indian Institute of Technology, Patna(印度理工学院巴特那分校);Rajarshi School of Management Technology, Varanasi(拉贾尔希管理技术学院瓦拉纳西分校);Jaypee Institute of Information Technology, Noida(杰皮信息技术学院诺伊达分校)
研究探讨了图像相关变分自编码器中的因果电路在表格数据上的泛化能力,提出三种新方法并发现表格VAE的因果电路模块化程度低于图像VAE,且β-VAE在异质表格特征上的CES评分显著下降。
2026-04-05 cs.LG
Stochastic Intervention for Causal Effect Estimation
University of Technology Sydney(悉尼科技大学)
因果推理方法广泛应用于精准医疗、最优政策和经济学等决策领域。这些应用的核心是干预策略的治疗效果估计。目前的估计方法大多局限于确定性的处理,但无法解决随机空间处理策略。此外,以往的方法只能根据治疗效果做出二值的“是”或“否”决策,缺乏提供细粒度的效果估计度来解释决策过程的能力。因此,本研究提出一种新的随机倾向分数和随机干预效应估计量,将因果推理方法应用于随机干预效应的估计。同时,我们设计了一个定制的遗传算法特定的随机干预效应(Ge-SIO)的目的是提供决策的因果证据。我们提供的理论分析和进行实证研究,以证明我们提出的措施和算法可以实现显着的性能提升与国家的最先进的基线相比。
2021-05-27 cs.AI cs.LG stat.ML
Why do you take that route?
本文的目的是确定研究者感兴趣的变量中的特定上下文因素是否因果地影响驾驶员的路径选择行为。据我们所知,有有限的文献,考虑各种因素对路径选择的因果推理的基础上的影响,然而,收集数据集是敏感的上述因素是具有挑战性的,现有的方法通常只考虑一般因素激励驾驶员路径选择行为。为了填补这些空白,我们使用沉浸式虚拟环境(IVE)工具进行了一项研究,以获取驾驶员的路径选择行为数据,除了传统的测量变量外,还包括驾驶员的网络熟悉度,教育水平,财务关注度等。具有上下文感知,高保真的属性,IVE数据提供了机会,将人为相关因素的影响纳入路由选择的因果分析,并提出了一个更可定制的研究工具,用于调查因果因素的路径选择在网络路由。这种因果分析为驾驶员的改道决策提供了定量证据。
2019-05-12 cs.CY stat.AP stat.ME
Management Decisions in Manufacturing using Causal Machine Learning -- To Rework, or not to Rework?
University of Hamburg(汉堡大学);ams Osram(ams欧司朗)
针对制造系统中返工决策需平衡良率提升与成本的问题,提出基于因果机器学习的最优返工策略估计模型,用DML技术估计条件处理效应,经光电半导体真实数据验证可实现2%-3%的良率提升。
2024-06-17 cs.AI cs.LG econ.EM
Identifying Intended Effects with Causal Models
本文扩展了Judea Pearl的因果推断框架,通过引入目的论推断来建模行动并识别预期效应,定义了混杂效应并引入干涉加以控制,解决了因果分析需纳入意图的根本问题。
2024-02-12 physics.data-an stat.ME
Guide, Not Bind: Why Defeasible Priors Fail in Augmented Lagrangian Causal Discovery
PES University(PES大学)
该研究揭示了增广拉格朗日因果发现中「引导而非约束」设计的两个失效原因,通过理论分析和3072次训练实验验证,提出DADU松弛规则违反必要条件,且相关性匹配目标存在边方向绑定问题。
2026-09-04 cs.LG
Causal inference using the algorithmic Markov condition
推断连接n个可观测量的因果结构通常基于检测统计依赖性和选择使联合测量马尔可夫的单图。在这里,我们将讨论为什么因果推理也是可能的,当只有单一的观察。我们开发了一个理论,如何生成因果图解释单个对象之间的相似性。为此,我们取代的概念,条件随机独立的因果马尔可夫条件的条件算法互信息的消失,并描述了相应的因果推理规则。我们解释了为什么一个一致的重新制定的因果推理算法的复杂性意味着一个新的推理原则,也考虑到条件概率密度的复杂性,使它能够选择马尔可夫等价因果图。这一见解提供了一个理论基础的启发式原则提出了早期的工作。我们还讨论了如何用可判定的复杂性准则代替Kolmogorov复杂性。这可以被看作是一种算法模拟,用基于潜在分布的隐式或显式假设的实际独立性测试来取代统计独立性的经验不可判定问题。
2008-04-23 cs.IT math.IT math.ST
Incorporating structural uncertainty in causal decision making
Department of Mathematics and Computer Science(数学与计算机科学系);University of Eindhoven(埃因霍温大学)
该研究针对因果决策中常被忽略的结构不确定性问题,提出对竞争因果结构做贝叶斯模型平均的方法,证明其正则条件下的最优性,验证了因果发现方法的量化能力,补充了现有稳健因果推断路径。
2025-07-31 cs.LG math.ST stat.TH
Why Is the Double-Robust Estimator for Causal Inference Not Doubly Robust for Variance Estimation?
Vanderbilt University Medical Center(范德堡大学医学中心);UCSD Herbert Wertheim School of Public Health and Human Longevity Science(加州大学圣地亚哥分校赫伯特·韦特海姆公共卫生与人类长寿科学学院);University of Florida(佛罗里达大学)
本文探讨了因果推断中双重稳健估计器在方差估计中的局限性,并提出混合框架方法以实现有效推断。
2025-11-22 stat.ME
The Causal Uncertainty Principle
Institute for Global Health and Development, Queen Margaret University(全球健康与发展研究所,爱丁堡玛格丽特女王大学)
本文提出因果不确定性原理,指出因果推断中精确识别与泛化能力存在结构性权衡,通过证据状态的非交换性解释了信息运输失败的根源。
2025-11-27 cs.IT math.IT stat.AP
From Correlation to Causation: Understanding Climate Change through Causal Analysis and LLM Interpretations
Zhejiang University(浙江大学)
本研究提出一个整合相关性分析、机器学习因果发现与LLM解释的三步因果推断框架,识别影响碳排放的社会经济因素,支持气候领域数据驱动的政策制定与战略决策。
2024-12-21 cs.CY cs.LG stat.ME
Decision-theoretic foundations for statistical causality
我们为决策理论统计因果关系(DT)企业开发了数学和解释基础,这是表示和解决因果问题的一种简单方法。DT将因果推理重新定义为“辅助决策”,旨在了解何时以及如何利用外部数据(通常是观察性数据),通过利用数据和问题之间的假设关系来帮助我解决判定问题。因果问题的任何表述中所体现的关系都需要更深层次的论证,而这必然依赖于上下文。在这里,我们澄清了支持DT方法应用所需的考虑因素。可交换性的考虑被用来构建所需的关系,并打算治疗和干预治疗之间的区别形成了“可交换性”的有利条件的基础。我们还展示了DT观点如何统一和揭示其他流行的统计因果关系的形式化,包括潜在的反应和有向无圈图。
2020-04-26 math.ST stat.TH
Modified Causal Forests for Estimating Heterogeneous Causal Effects
揭示政策和业务决策在不同粒度级别的因果效应的异质性,为决策者提供了大量的价值。本文通过在多个维度上修改Wager和Athey(2018)提出的因果森林方法,在选择可观察量框架中为多个治疗模型开发了新的估计和推理程序。新的估计量具有理想的理论,计算和实践性质的因果效应的各种聚集水平。虽然经验蒙特卡罗研究表明,他们优于以前建议的估计,应用到积极的劳动力市场方案的评价显示的应用研究的新方法的价值。
2019-07-05 econ.EM stat.ML
Generalized Thompson Sampling for Sequential Decision-Making and Causal Inference
最近,它已被证明如何从预测分布的最佳行动,有时被称为汤普森采样的采样行动,可以应用于解决顺序自适应控制问题,当最佳策略是已知的每个可能的环境。然后,预测分布可以通过最优策略的贝叶斯叠加来构建,所述最优策略由其后验概率加权,所述后验概率通过贝叶斯推断和因果演算来更新。在这里,我们讨论这种方法的三个重要特征。首先,我们讨论在多大程度上可以被视为政策不确定性的贝叶斯建模的自然结果,这样的汤普森采样。其次,我们展示了如何汤普森采样可以用来研究多个自适应代理之间的相互作用,从而开辟了一条途径的博弈论分析。第三,我们展示了如何汤普森抽样可以应用于推断因果关系时,与环境中的顺序方式进行交互。总之,我们的研究结果表明,汤普森抽样可能不仅是一个有用的启发式,但一个原则性的方法来解决问题的自适应顺序决策和因果推理。
2013-03-18 cs.AI stat.ML
Computational Causal Inference
Netflix
我们介绍计算因果推断作为一个跨学科领域的因果推断,算法设计和数值计算。该领域旨在开发专门从事因果推断的软件,这些软件可以以高性能,通用和鲁棒的方式分析具有各种因果效应的海量数据集。对软件的关注提高了研究的灵活性,并使因果推断能够容易地集成到大型工程系统中。特别是,我们使用计算因果推断来加深因果推断、在线实验和算法决策之间的关系。本文描述了新的领域,需求,可扩展性的机会,开放的挑战,并开始讨论社区如何能够团结起来,以解决扩展因果推断和决策的挑战。
2020-07-21 cs.LG stat.CO
Efficient Real-world Testing of Causal Decision Making via Bayesian Experimental Design for Contextual Optimisation
University of Oxford(牛津大学);Microsoft Research Cambridge(微软剑桥研究院)
对使用因果机器学习模型做出的决策进行真实世界的测试是其成功应用的必要先决条件。我们专注于评估和改进情境治疗分配决策:这些是应用于客户的个性化治疗,每个客户都有自己的情境信息,目的是最大化奖励。在本文中,我们介绍了一个模型无关的框架,收集数据,评估和改善上下文决策,通过贝叶斯试验设计。具体来说,我们的方法是用于数据效率的评价过去的治疗分配的遗憾。与A/B测试等方法不同,我们的方法避免了分配已知高度次优的治疗方法,同时进行一些探索以收集相关信息。我们通过引入基于信息的设计目标来实现这一目标,并对该目标进行端到端优化。我们的方法适用于离散和连续的治疗。比较我们的信息理论的方法,在几个模拟研究的基线证明了我们所提出的方法的优越性能。
2022-07-12 cs.AI cs.LG stat.CO
Unveiling Bias in Sequential Decision Making: A Causal Inference Approach for Stochastic Service Systems
针对随机服务系统中决策受历史影响而产生的序贯偏差,本文结合动态治疗方案与标记点过程定义并识别因果效应,提出具有双重稳健性和半参数效率的估计量,并在急诊数据中验证其影响。
2023-07-15 stat.ME
Statistical Causality from a Decision-Theoretic Perspective
我们提出了统计因果关系的决策理论框架的概述,这是非常适合制定和解决的问题,确定应用原因的影响。该方法进行了详细描述,并与其他目前的配方,如结构方程模型和潜在的反应。主题和应用包括混淆,治疗效果的治疗,工具变量和动态治疗策略。
2014-05-09 math.ST stat.ME stat.TH
Uncertainty-aware Causal Decision Making via Effect Bound Decomposition
Electrical and Computer Engineering, Purdue University(帕克大学电气与计算机工程系);Computer Science, Johns Hopkins University(约翰霍普金斯大学计算机科学系);Cohesity
提出一种新框架,通过分解因果效应值的可消除与不可消除部分,区分收集更多样本能否帮助识别最优行动,并利用神经因果模型近似实现该分解。
2026-09-30 cs.AI cs.LG
Neural Networks Decoded: Targeted and Robust Analysis of Neural Network Decisions via Causal Explanations and Reasoning
The University of Edinburgh(爱丁堡大学);School of Informatics(信息学院)
针对深度神经网络决策不透明、现有可解释性方案存在缺陷的问题,提出基于因果推断的TRACER方法,无需改动模型即可分析决策机制、生成反事实解释,经多数据集验证效果优于现有方法,兼具模型理解与优化的双重价值。
2024-10-07 cs.AI cs.LG stat.ME
Potential Outcome and Decision Theoretic Foundations for Statistical Causality
本文探讨了单世界干预图(SWIGs)与Philip Dawid基于决策图的图形因果模型之间的关联,建立了Dawid方法与基于潜在结果的方法之间的对应关系,并给出了与SWIGs同构的理论重构。
2023-09-08 math.ST stat.TH
From Correlation to Causation in Lane Change Prediction for Automated Driving: A Causal Explanation Framework
University of Alcalá(阿尔卡拉大学)
提出基于因果推断的换道预测框架,结合深度结构因果建模与干预效应分析,在预测准确率超过95%的同时,识别直接贡献变量及其因果链,实现可解释的因果推理。
2026-06-16 cs.AI cs.LG
Econometric vs. Causal Structure-Learning for Time-Series Policy Decisions: Evidence from the UK COVID-19 Policies
Bayesian Artificial Intelligence research lab, MInDS research group(贝叶斯人工智能研究实验室,MInDS研究小组);School of Electronic Engineering and Computer Science, Queen Mary University of London(电子工程与计算机科学学院,伦敦女王玛丽大学)
本文比较了计量经济学与传统因果机器学习在时间序列数据中的因果结构学习效果,通过英国新冠疫情防控政策案例,评估四种计量经济学方法与十一种因果机器学习算法在图结构、模型维度和因果效应恢复能力上的表现。
2026-05-08 cs.AI cs.LG econ.EM
A Note on the Estimation Method of Intervention Effects based on Statistical Decision Theory
本文利用结构方程模型和因果图,讨论了统计因果分析中的干预效果估计问题。干预效果被定义为当因果变量$X$通过外部操作被固定为特定值时对响应变量$Y$的因果效果,并且基于因果图被定义。干预效果被定义为因果图中概率分布的函数,然而,通常这些概率分布是未知的,因此需要根据数据来估计它们。换句话说,使用因果图估计干预效果的步骤如下:1.从数据中估计因果关系图,2。根据数据估计因果图中的概率分布。计算干预效果。然而,如果在统计决策论的框架内对干预效果进行估计,那么用这种方法进行的估计就不一定是最优的。在这项研究中,我们制定了两种情况下的干预效果的估计问题,情况下的因果图是已知的情况下,它是未知的情况下,在统计决策论的框架,并推导出贝叶斯准则下的最优决策方法。我们通过数值模拟表明所提出的方法的有效性。
2019-01-16 stat.ME
Decision-analytical models as causal models
Erasmus MC University Medical Center(伊拉斯谟斯大学医学中心);Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
研究聚焦健康经济评估中因果问题,核心方法是将决策分析模型过程形式化为因果推断任务,主要贡献是定义并分解模型偏差,为医学决策分析建模和因果推断提供统一基础,明确模型偏差及因果假设作用。
2026-09-29 stat.ME
A Causal Inference Approach for Evaluating Diagnostic Tests and AI-Enabled Medical Devices: From Effect Modification to Information-Augmented Decision-Making
Division of Biostatistics, University of California, Berkeley(加州大学伯克利分校生物统计系)
本研究提出因果推理方法,区分诊断测试的解释性与实用性有效性,采用TMLE及交叉验证TMLE进行非参数估计,可用于评估诊断测试及人工智能医疗设备的作用途径。
2026-08-21 stat.ME stat.ML
Causal Discovery for Fairness
INRIA(法国国家信息与自动化研究所);École Polytechnique(巴黎综合理工学院);IPP(巴黎综合理工学院研究院)
考虑基于AI和ML的决策的社会和伦理后果对于安全和可接受地使用这些新兴技术至关重要。特别是,公平性保证了ML的决定不会导致对个人或少数群体的歧视。利用因果关系可以更好地确定和可靠地衡量公平/歧视,这种因果关系考虑到敏感属性(如性别、种族、宗教等)之间的因果关系,而不仅仅是联系。以及决定(例如,工作招聘、贷款发放等)。然而,使用因果关系来解决公平问题的最大障碍是因果模型(通常表示为因果图)的不可用性。现有的因果关系的公平性的方法在文献中不解决这个问题,并假设因果模型是可用的。在本文中,我们不做这样的假设,我们回顾了主要的算法,发现因果关系,从可观察的数据。本研究的重点是因果发现及其对公平性的影响。特别是,我们展示了不同的因果发现方法可能会导致不同的因果模型,最重要的是,因果模型之间的微小差异如何对公平/歧视结论产生重大影响。这些结果通过使用合成和标准公平基准数据集的实证分析得到巩固。本研究的主要目标是强调因果发现步骤的重要性,以适当地解决公平使用因果关系。
2022-06-14 cs.AI cs.CY cs.LG
A causal modeling perspective on decision theory
基于非参数结构方程模型(NPSEM)为决策理论提供统一形式框架,提出个人决策理论并证明其在特定假设下的最优性。
2026-06-29 cs.AI stat.ME
Estimating Heterogeneous Causal Mediation Effects with Bayesian Decision Tree Ensembles
因果推断文献越来越多地认识到,明确针对处理效应异质性可以提高科学认识和政策建议。为了达到同样的目的,研究治疗与结果之间的因果关系也是有用的。本文将在\emph{causal mediation analysis}的背景下解决这些问题。我们引入了一个基于贝叶斯加性回归树的变系数模型来识别和规范异质因果中介效应;类似于线性结构方程模型,这些效应对应于系数的协变量依赖性产物。我们发现,即使在协变量很少的大型数据集上,LSEM也可以对条件平均直接和间接效应产生高度不稳定的估计,而我们的\emph{Bayesian causal mediation forests}模型产生稳定的估计。我们发现,我们的方法是保守的,效果估计“缩小到同质性。我们使用来自医疗支出面板调查的数据和基于模拟数据的数据来检查我们方法的显著特性。最后,我们展示了如何将我们的模型与后验总结策略相结合,以识别有趣的子群并解释模型拟合。
2023-03-02 stat.AP stat.ME
The tropical geometry of causal inference for extremes
极值统计是经典统计的最大模拟,而回归几何是经典几何的最大模拟。在本文中,我们回顾了最近的工作,从热带几何的见解被用来开发新的,高效的学习算法,在基准数据集上的性能领先的极值统计。我们给出了直觉,在基准数据集上的表现的支持下,为什么以及何时应该采用经典方法的极端因果推理。最后,我们列出了因果推理、热带几何和深度学习交叉点的一些悬而未决的问题。
2022-07-20 math.CO math.ST stat.TH
Causal Inference for Social Discrimination Reasoning
发现人类或自动决策中的歧视性偏见是一项日益重要和困难的任务,机器学习和数据采掘的普遍使用加剧了这一问题。目前,歧视发现主要依赖于决策记录的相关性分析,忽略了混杂偏见的影响。我们提出了一种基于倾向得分分析的因果歧视发现方法,该方法是一种用于过滤混淆变量影响的统计工具。我们引入了因果措施的歧视,量化的群体成员的决定的影响,并强调因果歧视/偏袒模式,通过学习回归树的新措施。我们在两个真实世界的数据集上验证了我们的方法。我们提出的因果歧视框架有可能提高机器学习的透明度,并在训练数据和学习算法中检测歧视性偏见。
2019-11-04 cs.CY stat.AP
Causal quartets: Different ways to attain the same average treatment effect
平均因果效应往往可以在其变异的背景下得到最好的理解。我们用两组四张图来证明,所有这些图都代表相同的平均效应,但具有非常不同的异质性模式。与Anscombe(1973)著名的相关性四重奏一样,这些图表戏剧性地说明了现实世界的变化可能比简单的数字总结更复杂。这些图表还让我们深入了解为什么平均效应往往比预期的要小得多。
2023-02-24 stat.AP stat.ME
The risks of risk assessment: causal blind spots when using prediction models for treatment decisions
该研究指出临床常用的三种预测模型治疗处理方法存在因果盲点,易引发误读与决策失误,建议扩展模型开发指南并引入因果推断技术,以保障治疗决策安全。
2025-06-16 stat.ME
Causal Markov Decision Processes: Learning Good Interventions Efficiently
University of Michigan(密歇根大学);Adobe Inc.(奥多比公司)
我们引入因果马尔可夫决策过程(C-MDP),一个新的形式主义顺序决策相结合的标准MDP制定因果结构的状态转移和奖励函数。许多当代和新兴的应用领域,如数字医疗和数字营销,可以受益于C-MDP建模,因为干预和状态/奖励之间的因果关系机制。我们提出了因果置信上限值迭代(C-UCBVI)算法,该算法利用C-MDP中的因果结构,并提高了不考虑因果知识的标准强化学习算法的性能。我们证明了C-UCBVI满足$\tilde{O}(HS\sqrt{ZT})$后悔界,其中$T$是总时间步,$H$是情节视界,$S$是状态空间的基数.值得注意的是,我们的后悔界限不与行动/干预的大小($A$)成比例,而只与因果图相关的量$Z$成比例,$Z$可以指数地小于$A$。通过将C-UCBVI扩展到因子化的MDP设置,我们提出了因果因子化的UCBVI(CF-UCBVI)算法,该算法进一步减少了$S$方面的指数后悔。此外,我们表明,RL算法的线性MDP问题也可以纳入C-MDP。我们的经验表明,我们的因果关系的方法在各种设置的好处,以验证我们的算法和理论结果。
2021-02-15 cs.LG stat.ML
Uncertainty Quantification and Causal Considerations for Off-Policy Decision Making
针对离策略评估的统计不确定性与因果局限,提出边际比率估计器降低方差、共形离策略预测提供有限样本区间、序贯决策因果边界,为鲁棒决策及策略评估提供新方法与见解。
2025-02-09 cs.LG stat.ML
Causal Interpretability for Machine Learning -- Problems, Methods and Evaluation
Arizona State University(亚利桑那州立大学);Army Research Lab(陆军研究实验室)
机器学习模型在无数的应用中取得了显著的成就。然而,这些模型中的大多数都是黑箱,并且它们是如何做出决策的还不清楚。这使得模型不可靠和不可信。为了深入了解这些模型的决策过程,人们提出了各种传统的可解释模型。此外,为了产生更人性化的解释,最近关于可解释性的工作试图回答与因果关系有关的问题,例如“为什么这个模型会做出这样的决定?或者“是一个特定的特征导致了模型的决定吗?“".在这项工作中,旨在回答因果问题的模型被称为因果可解释模型。现有的调查涵盖了传统可解释性的概念和方法。本文从问题和方法两个方面对因果可解释模型进行了综述。此外,该调查还深入了解了现有的可解释性评估指标,这可以帮助从业人员了解每个评估指标适用于哪些场景。
2020-03-19 cs.LG stat.ML
Generalizing Off-Policy Evaluation From a Causal Perspective For Sequential Decision-Making
Harvard University(哈佛大学)
基于来自不同政策的观测数据评估政策的效果是几个高风险决策领域的共同问题,并且已经提出了几种政策外评估(OPE)技术。然而,这些方法在很大程度上将OPE表述为与用于生成数据的过程无关的问题(即因果图形式的结构假设)。我们认为,明确强调这种关联对我们理解OPE的基本限制具有重要意义。第一,这意味着目前的业务促进方案的制定只涉及一套狭窄的任务,即一个具体的因果被估量,其重点是对人口或次人口的政策进行前瞻性评价。其次,我们展示了这种关联如何激励自然desiderata考虑一组一般的因果被估量,特别是扩大的作用,OPE反事实的政策外评估在人口的个人水平。因果被估量的精确描述强调了在所述生成假设下,哪些OPE被估量可从观测数据中识别。对于那些无法识别的OPE被估量,因果观点进一步强调了需要更多实验数据的地方,并强调了人类专业知识可以帮助识别和估计的情况。此外,OPE的许多形式主义完全忽略了不确定性在估计过程中的作用,我们展示了如何具体描述因果被估量突出了不确定性的不同来源,以及人类的专业知识何时可以自然地管理这种不确定性。我们讨论了这些方面的每一个可操作的必要条件,为未来的OPE研究规模和实际效用。
2022-01-20 cs.LG stat.ML
Causal Strategic Linear Regression
Harvard School of Engineering and Applied Sciences(哈佛大学工程与应用科学学院);Stanford Computer Science Department(斯坦福大学计算机科学系)
在许多预测决策场景中,如信用评分和学术测试,决策者必须构建一个模型,该模型考虑到代理人通过改变其特征来“游戏”决策规则的倾向,以便获得更好的决策。而战略分类文献先前假设代理的结果是没有因果关系的影响,他们的功能(因此,战略代理的目标是欺骗决策者),我们加入并行工作,在建模代理的结果作为其可变属性的函数。作为我们的主要贡献,我们提供了用于学习决策规则的高效算法,这些算法在可实现的线性设置中优化了三个不同的决策者目标:准确预测代理的博弈后结果(预测风险最小化),激励代理改进这些结果(代理结果最大化),并估计真实基础模型的系数(参数估计)。我们的算法通过允许决策者测试一系列决策规则并观察代理人的反应,有效地通过决策规则执行因果干预,从而规避了Miller等人(2020)的硬性结果。
2022-08-25 cs.AI cs.LG stat.ML
Transfer learning with causal counterfactual reasoning in Decision Transformers
causaLens;King’s College London(伦敦国王学院)
适应环境突发事件变化的能力是强化学习中的一个重要挑战。事实上,将先前获得的知识转移到具有看不见的结构特性的环境中可以大大提高构建新的最优策略的灵活性和效率。在这项工作中,我们研究了环境动态变化下的迁移学习问题。在这项研究中,我们在离线强化学习设置中应用因果推理,将学习到的策略转移到新的环境中。具体来说,我们使用决策Transformer(DT)架构来提取新环境的新策略。DT通过在源环境的事实和反事实模拟上执行策略部署来收集数据。我们表明,这种机制可以引导一个成功的政策目标环境,同时保留大部分的奖励。
2021-10-27 cs.AI cs.LG stat.ML
A Step Towards Inherently Interpretable Causal Machine Learning Models For Decision Support
Paderborn University(帕德博恩大学)
提出将因果机器学习与固有可解释模型结合,用于横截面数据,在预测和假设分析中实现竞争性能,同时提供系统结构、变量间因果关系及连接它们的函数形式的透明性。
2026-06-24 cs.CE stat.ML
Causal Fairness Analysis
ETH Zürich(苏黎世联邦理工学院);Columbia University(哥伦比亚大学)
基于人工智能和机器学习的决策系统已被广泛应用于现实世界的各种场景,包括医疗保健、执法、教育和金融。展望未来,自主系统将推动整个业务决策,更广泛地说,支持大规模决策基础设施,以解决社会最具挑战性的问题,这不再是遥不可及的。当决策由人类做出时,不公平和歧视的问题普遍存在,当决策使用几乎没有透明度,问责制和公平性的机器时,这些问题仍然存在(或可能被放大)。在本文中,我们介绍了一个\textit{causal fairness analysis}的框架,旨在填补这一空白,即,理解,建模,并可能解决决策设置中的公平问题。我们的方法的主要见解将是将观察到的数据上存在的差异的量化与首先产生差异的潜在且通常未观察到的因果机制的集合联系起来,我们称之为因果公平性分析的基本问题(FPCFA)。为了解决FPCFA,我们研究的问题,分解的变化和公平性的经验措施,这种变化的结构机制和不同的人口单位。我们的努力最终在公平地图,这是第一次系统地尝试组织和解释文献中发现的不同标准之间的关系。最后,我们研究了进行因果公平性分析所需的因果假设,并提出了一个公平性食谱,它允许数据科学家评估不同影响和不同处理的存在。
2022-07-23 cs.AI cs.LG stat.ML
Sparse Markov Decision Processes with Causal Sparse Tsallis Entropy Regularization for Reinforcement Learning
Seoul National University(首尔大学)
本文提出了一种新的因果稀疏Tsallis熵正则化的稀疏马尔可夫决策过程(MDP),该策略正则化可使稀疏MDP的最优策略分布具有稀疏性和多峰性。本文首先分析了稀疏MDP的最优性条件,然后给出了稀疏MDP的最优性条件。然后,我们提出了一个稀疏值迭代方法,解决了稀疏MDP,然后证明了收敛性和最优性稀疏值迭代使用Banach不动点定理。建议的稀疏MDP相比,软MDP利用因果熵正则化。我们表明,稀疏MDP的性能误差有一个恒定的界限,而软MDP的错误增加相对于动作的数量,其中这种性能误差是由引入的正则化项。在实验中,我们将稀疏MDP应用于强化学习问题。所提出的方法优于现有的方法在收敛速度和性能。
2017-10-13 cs.AI cs.LG stat.ML
From algorithms to action: improving patient care requires causality
本文指出在癌症研究中,忽略因果性的结果预测模型在用于治疗决策时可能造成伤害,并解释了现有验证指南的不足,提出了如何构建和验证对决策有用的因果模型的方法。
2024-04-01 cs.CY cs.LG stat.ML
Causal Fairness for Outcome Control
Columbia University(哥伦比亚大学)
本文针对结果控制任务,从因果视角定义收益与收益公平,并进一步提出因果收益公平及优化算法,以在最大化结果$Y$时消除受保护属性导致的歧视。
2023-06-08 cs.AI cs.LG stat.ML
Contextual Distributionally Robust Optimization with Causal and Continuous Structure
本文提出考虑底层分布因果和连续结构的上下文分布鲁棒优化框架,通过因果Sinkhorn分歧和Soft Regression Forest决策规则,实现可解释且高效的优化方法,并在实验中验证了其性能和可解释性。
2026-09-29 cs.AI cs.LG math.OC