Algorithmic Bias in Recidivism Prediction: A Causal Perspective
The Pennsylvania State University（宾夕法尼亚州立大学）
ProPublica对替代性制裁（COMPAS）软件工具所产生的累犯预测的分析表明，这些预测对非裔美国人被告有种族偏见。我们分析的COMPAS数据使用的基本算法的公平性问题的因果关系重新制定。具体来说，我们评估是否COMPAS表现出种族偏见对非裔美国人被告使用事实，最近推出的因果关系接地算法公平性的措施。我们使用Neyman-Rubin潜在结果框架从观察数据中进行因果推断，以估计COMPAS数据中的FACT。我们的分析提供了强有力的证据表明，COMPAS表现出对非裔美国人被告的种族偏见。我们进一步表明，COMPAS数据的FACT估计是强大的存在不可测量的混杂。
2019-11-24 cs.AI cs.LG stat.ME
Causal Equal Protection as Algorithmic Fairness
Arizona State University（亚利桑那州立大学）；Politecnico di Milano（米兰理工大学）；Algorithmwatch
本文提出因果平等保护原则，将分类均等与因果分析结合，主张个人不应因受保护特征而承受不平等的分类错误风险，并允许在能均衡风险时使用这些特征。
2025-02-05 cs.AI cs.CY cs.DS
Separators and Adjustment Sets in Causal Graphs: Complete Criteria and an Algorithmic Framework
Radboud University Nijmegen（拉德堡德大学（奈梅亨））
从非实验数据中对因果效应的可识别性进行原则性推理是图因果模型的一个重要应用。本文重点讨论的影响，可识别的协变量调整，一种常用的估计方法。我们提出了一个算法框架，有效地测试，构建和枚举$m$ -分离器的祖先图（AG），一类图形因果模型，可以表示潜在的混淆因素的存在的不确定性。此外，我们证明了减少因果效应识别协变量调整$m$ -分离的子图的有向无环图（DAG）和最大祖先图（MAG）。联合起来，这些结果产生建设性的标准，其特征在于所有的调整集以及所有的最小和最小的调整集，用于识别所需的因果效应与多变量暴露和潜在的混淆的存在下的结果。我们的研究结果扩展了这些问题的特殊情况下，现有的几个解决方案。我们的高效算法使我们能够经验性地量化协变量调整和随机DAG和MAG中的do-calculus之间的可识别性差距，涵盖了广泛的场景。我们的算法的实现在R包dagitty中提供。
2019-01-24 cs.AI cs.LG
The Causal Frame Problem: An Algorithmic Perspective
McGill University（麦吉尔大学）
框架问题（英语：Frame Problem，简称FP）是心理哲学和认识论中的一个难题，由《斯坦福哲学百科全书》（Stanford Encyclopedia of Philosophy）阐述如下：“我们如何解释我们表面上只根据与当前情况相关的东西而不必明确考虑所有不相关的东西来做出决定的能力？“在这项工作中，我们专注于FP的因果变体，因果框架问题（CFP）。假设推理机的心理因果模型可以（隐式）由因果贝叶斯网表示，我们首先引入一个概念，称为潜在水平（PL）。PL，本质上，编码一个节点相对于它的邻居在因果贝叶斯网络的相对位置。利用心理学文献的因果判断，我们证实了索赔PL可能承担如何在头脑中编码的时间。使用PL，我们提出了一个推理框架，称为PL为基础的推理框架（PLIF），它允许一个有限理性的方法CFP正式阐述在马尔的算法分析水平。我们表明，我们提出的框架，PLIF，是一致的因果判断文献中的广泛的调查结果，PL和PLIF作出了一些预测，其中一些已经支持现有的研究结果。
2017-01-26 cs.AI q-bio.NC stat.ML
Causal blankets: Theory and algorithmic framework
Imperial College London（帝国理工学院）；University of Cambridge（剑桥大学）；Araya Inc.（阿拉亚公司）；University of London（伦敦大学）；University of Hertfordshire（赫特福德大学）
我们引入了一个新的框架来识别感知-动作循环（PALO）直接从数据的基础上计算力学的原则。我们的方法是基于因果毯的概念，它将感觉和活动变量捕获为动态的充分统计数据-即“差异造成差异”。“此外，我们的理论提供了一个广泛适用的程序来构建PALO，既不需要稳态也不需要马尔可夫动力学。使用我们的理论，我们表明，每一个二分随机过程有一个因果毯，但在何种程度上，这导致一个有效的PALO制定不同的综合信息的bipartition。
2020-09-29 cs.AI nlin.AO q-bio.NC
Capuchin: Causal Database Repair for Algorithmic Fairness
University of Washington（华盛顿大学）
公平性越来越被认为是机器学习系统的关键组成部分。然而，这些系统训练的基础数据往往反映了歧视，这表明数据库修复问题。现有的公平处理方法依赖于统计相关性，而这些相关性可能被统计异常所愚弄，比如辛普森悖论。基于因果关系的公平定义的建议可以正确地模拟这些情况中的一些，但它们需要规范的基本因果模型。在本文中，我们正式的情况下，作为一个数据库修复问题，证明公平的分类器的充分条件，而不是一个完整的因果模型的容许变量。我们表明，这些条件正确地捕捉微妙的违反公平。然后，我们使用这些条件作为数据库修复算法的基础，这些算法为在其训练标签上训练的分类器提供可证明的公平性保证。我们评估我们的算法在真实数据上，证明了在文献中提出的多个公平性指标上的最新技术水平的改进，同时保留了高实用性。
2019-10-01 cs.AI cs.DB
Algorithmic Causal Effect Identification with causaleffect
Universitat de Barcelona（巴塞罗那大学）
当我们理解了原因和结果之间的关系时，我们作为一个物种的进化向前迈出了一大步。这些关联对于某些事件来说可能是微不足道的，但在复杂的场景中却并非如此。为了严格证明某些事件是由其他事件引起的，因果理论和因果推理被形式化，引入了$do$算子及其相关规则。本报告的主要目标是回顾并在Python中实现一些算法，以从观察数据中计算条件和非条件因果查询。为此，我们首先提出了一些基本的背景知识概率和图论，在引入重要成果的因果理论，用于建设的算法。然后，我们深入研究了Shpitser和Pearl在2006年提出的识别算法，并解释了我们在Python中的实现。主要的识别算法可以看作是$do$演算规则的重复应用，它最终要么从实验概率返回因果查询的表达式，要么无法识别因果效应，在这种情况下，该效应是不可识别的。我们介绍了我们新开发的Python库，并给出了一些使用示例。
2021-07-09 cs.AI cs.MS math.ST
Algorithmic syntactic causal identification
School of Computer Science, University of Birmingham（伯明翰大学计算机科学学院）
针对现有因果识别方法依赖概率论而无法适用于非概率场景的问题，本文提出基于对称幺半范畴的纯语法算法化因果识别方法，并推导出后门和前门调整的语法类似物。
2025-01-29 cs.AI cs.LG stat.ME
Algorithmic recourse under imperfect causal knowledge: a probabilistic approach
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-ETH学习系统中心）；University of Cambridge（剑桥大学）；Saarland University（萨尔兰大学）
最近的工作讨论了反事实解释的局限性，以推荐算法追索权的行动，并认为需要考虑特征之间的因果关系。不幸的是，在实践中，真正的基础结构因果模型通常是未知的。在这项工作中，我们首先表明，这是不可能的，以保证追索权，而不进入真正的结构方程。为了解决这一限制，我们提出了两种概率方法来选择最佳行动，在有限的因果知识（例如，只有因果图）。第一个捕获加性高斯噪声下的结构方程的不确定性，并使用贝叶斯模型平均来估计反事实分布。第二个删除任何假设的结构方程，而不是计算的平均影响追索行动的个人类似的人寻求追索权，导致一种新的基于亚群的干预概念的追索权。然后，我们推导出一个基于梯度的程序，选择最佳的追索行动，并实证表明，所提出的方法导致更可靠的建议下不完善的因果知识比非概率基线。
2020-10-23 cs.AI cs.LG stat.ML
On the Fairness of Causal Algorithmic Recourse
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Saarland University（萨尔大学）；The Alan Turing Institute（艾伦·图灵研究所）
算法公平性通常从预测的角度来研究。相反，在这里，我们调查的公平性的角度，追索权行动建议个人补救不利的分类。我们提出了两个新的公平标准，在组和个人层面上，这-不像以前的工作均衡的平均组明智的距离从决策边界-明确占功能之间的因果关系，从而捕捉下游的影响，在物理世界中进行追索行动。我们探讨了我们的标准如何与其他人，如反事实的公平，并表明，公平的追索权是补充公平的预测。我们从理论上和经验上研究如何通过改变分类器来执行公平的因果追索权，并在Adult数据集上进行案例研究。最后，我们讨论了我们的标准所揭示的数据生成过程中的公平违规行为是否可以通过社会干预而不是对分类器的限制来更好地解决。
2022-03-06 cs.AI cs.LG stat.ML
The Importance of Modeling Data Missingness in Algorithmic Fairness: A Causal Perspective
EPFL Lausanne（洛桑联邦理工学院）；Microsoft Research（微软研究院）
用于机器学习的训练数据集通常存在某种形式的缺失。例如，为了学习决定向谁提供贷款的模型，可用的训练数据包括过去被给予贷款的个人，但不包括那些没有被给予贷款的个人。如果忽略这种缺失，则在部署模型时会使训练过程的任何公平性保证无效。使用因果图，我们在不同的现实世界的情况下，失踪机制的特点。我们展示了各种分布，在流行的公平算法，可以或不能从训练数据恢复的条件下。我们的理论结果意味着，这些算法中的许多不能保证在实践中的公平性。对缺失进行建模也有助于识别公平算法的正确设计原则。例如，在多阶段设置中，在多轮筛选中做出决策，我们使用我们的框架来推导设计公平算法所需的最小分布。我们提出的算法分散的决策过程中，仍然达到类似的性能，需要集中和不可恢复的分布的最佳算法。
2020-12-21 cs.AI cs.LG
Neural Algorithmic Reasoning with Causal Regularisation
Purdue University（普渡大学）；DeepMind（深度思维）
本文提出 Hint-ReLIC 方法，利用算法中间计算不变性构建因果正则化与数据增强，在 CLRS 基准上显著提升神经算法推理的分布外泛化能力，OOD 测试性能最高提升 3 倍。
2023-07-03 cs.AI cs.LG stat.ME
Causal Algorithmic Recourse: Foundations and Methods
Department of Statistics & Data Science（统计与数据科学系）；UCLA（加州大学洛杉矶分校）；Department of Computer Science（计算机科学系）；Columbia University（哥伦比亚大学）
本文提出因果框架，通过预后干预结果建模算法补救过程，引入后补救稳定性条件，开发基于copula的算法推断补救效果，并提供分布自由方法学习补救效果。
2026-05-12 cs.AI cs.LG stat.ML
Information-Theoretic Bias Reduction via Causal View of Spurious Correlation
Seoul National University（首尔大学）；Adobe Research（Adobe研究院）
我们提出了一种信息论偏差测量技术，通过虚假相关的因果解释，这是有效的识别特征级算法偏见，利用条件互信息。虽然已经提出并广泛研究了几种偏差测量方法，以在各种任务（如人脸识别）中实现算法公平性，但其基于准确度或logit的度量容易导致微不足道的预测分数调整，而不是基本的偏差减少。因此，我们设计了一个新的去偏置框架对算法偏见，其中包括一个偏差正则化损失所提出的信息理论偏差测量方法。此外，我们提出了一个简单而有效的无监督去偏置技术的基础上随机标签噪声，它不需要明确的监督偏置信息。提出的偏差测量和去偏的方法进行了验证，在不同的现实情况下，通过广泛的实验，多个标准的基准。
2022-01-10 cs.AI cs.CY cs.LG
Mathematical decisions and non-causal elements of explainable AI
University of Toronto（多伦多大学）；Australian National University（澳大利亚国立大学）
算法决策在敏感环境中的社会影响在多个利益相关者之间产生了激烈的辩论，如道德和政治哲学家，计算机科学家和公众。然而，缺乏一种共同的语言和一个概念框架来适当地弥合辩论的道德、技术和政治方面，这阻碍了讨论尽可能有效。社会科学家和心理学家通过收集大量的经验数据为这场辩论做出了贡献，但对算法决策的社会影响的哲学分析仍然相对贫乏。在试图解决这一空白，本文认为，不同类型的层次结构的解释为什么和如何实现的算法决策的结果可以建立相关的道德和技术方面的算法决策之间的联系。特别是，我为算法决策的解释和解释提供了一个多方面的概念框架，我声称这个框架可以为多个利益相关者之间关于算法决策的社会影响以及更普遍的人工智能治理和道德的集中讨论奠定基础。
2019-12-12 cs.AI cs.CY cs.HC
A Systems Thinking Approach to Algorithmic Fairness
Epistamai Apex NC（Epistamai Apex）
本文提出用系统思维建模算法公平，通过因果图整合机器学习、因果推断与系统动力学，辅助决策者理解公平政策权衡，为AI政策设计提供社会技术基础。
2025-06-20 cs.AI cs.CY
Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；University of Tübingen（蒂宾根大学）；University College London（伦敦大学学院）
民事追索权旨在向个人提供可采取行动的建议，以便从自动决策系统中获得更有利的结果。由于它涉及对物质世界中进行的干预进行推理，追索权从根本上说是一个因果问题。现有的方法计算追索行动的影响，使用因果模型从数据中学习的假设下，没有隐藏的混杂和建模假设，如加性噪声。基于Balke和Pearl（1994）的开创性工作，我们提出了一种离散随机变量的替代方法，该方法放松了这些假设，并允许未观察到的混杂和任意结构方程。所提出的方法只需要规范的因果图和混淆结构和边界的预期反事实效果的追索行动。如果下限高于某个阈值，即，在决策边界的另一侧，追索权在预期中得到保证。
2021-06-22 cs.AI cs.LG stat.ML
No Fair Lunch: A Causal Perspective on Dataset Bias in Machine Learning for Medical Imaging
Microsoft Health Futures（微软健康未来部门）；Imperial College London（帝国理工学院）；The Hospital for Sick Children（病童医院）
本文从因果视角分析医学影像机器学习中的数据集偏差，提出三类因果偏差机制，并指出当前缓解方法的局限性，进而提供一个实用的三步框架以支持安全公平的AI预测模型开发。
2023-07-31 cs.AI cs.CV cs.LG
Causal-Copilot: An Autonomous Causal Analysis Agent
University of California San Diego（加利福尼亚大学圣迭戈分校）
Causal-Copilot是一个基于大语言模型的自主智能体，自动化因果分析全流程，整合20多种技术，支持自然语言交互，实证性能优于现有基线，弥合理论与应用鸿沟。
2025-04-21 cs.AI
Algorithmic Harms Associated with Generative Model-Augmented Recommendation Systems
本研究扩展了算法危害分类法，分析生成模型增强推荐系统可能引发的新型及内生危害，并提供因果分析以支持检测与缓解。
2026-09-29 cs.AI cs.CL cs.IR
Entropic Causal Inference: Identifiability and Finite Sample Results
MIT（麻省理工学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
熵因果推断是从观测数据中推断两个分类变量之间因果关系方向的框架。核心假设是系统中未观察到的随机性不会太大。这种未观察到的随机性是由基础结构因果模型中的外生变量的熵来衡量的，该模型控制着观察到的变量之间的因果关系。Kocaoglu等人指出，当外生变量的熵不太大时，因果方向是可识别的。在本文中，我们证明了他们的猜想的一个变种。也就是说，我们表明，几乎所有的因果模型的外生变量的熵不与观测变量的状态数的比例，因果方向是可识别的观测数据。我们还考虑了Kocaoglu等人提出的基于最小熵耦合的算法方法，并首次证明了使用有限数量的样本的算法可识别性保证。我们进行了大量的实验，以评估该方法的鲁棒性放松我们的理论中的一些假设，并证明了恒定熵的外生变量和没有潜在的混淆假设可以放松在实践中。我们还经验性地描述了因果识别所需的观察样本的数量。最后，我们将该算法应用于Tuebingen因果对数据集。
2021-01-10 cs.AI cs.IT cs.LG
Intelligence and Unambitiousness Using Algorithmic Information Theory
Oxford University（牛津大学）；University of Cincinnati（辛辛那提大学）；Australian National University（澳大利亚国立大学）
数学信息论启发了一般智能（AGI）的难以处理的构造，并且未发现的易于处理的近似可能是可行的。强化学习（RL）是智能体学习解决任意可解问题的主导范式，它给了智能体一个危险的激励：获得任意的“权力”，以便干预他们自己的奖励。我们回顾了一般智能算法信息理论强化学习器（如Hutter（2005）AIXI）将寻求任意权力的论点，包括我们。然后，使用信息理论的探索时间表，和因果影响理论的启发设置，我们提出了一个变体的AIXI学会不寻求任意的权力，我们称之为“无野心”。我们表明，我们的代理学习获得奖励至少以及一个人类导师，而依赖于该导师的概率递减。并给出了一个正式的假设，我们探测经验，我们表明，最终，代理人的世界模型包含以下真实的事实：干预“外部世界”将不会对奖励获取的影响，因此，它没有激励塑造外部世界。
2021-05-13 cs.AI
ActPC-Chem: Discrete Active Predictive Coding for Goal-Guided Algorithmic Chemistry as a Potential Cognitive Kernel for Hyperon & PRIMUS-Based AGI
SingularityNET（奇点网）；TrueAGI；OpenCog
提出 ActPC-Chem 范式，利用元图重写规则的算法化学与离散主动预测编码，融合 AIRIS 和 PLN，为 OpenCog Hyperon 等架构构建认知内核，实现结构化、多模态的逻辑一致预测。
2024-12-21 cs.AI
Binarized Neural Networks Converge Toward Algorithmic Simplicity: Empirical Support for the Learning-as-Compression Hypothesis
本文以二值化神经网络为代理，利用算法概率和块分解方法度量训练中的算法复杂度变化，证明其比熵更能跟踪结构变化并与训练损失相关，从而为“学习即算法压缩”假设提供经验支持。
2025-09-18 cs.AI cs.IT cs.LG
The Algorithm Is Not the Behavior: Learned Priors Override Look-Ahead in a Chess-Playing Neural Network
Fraunhofer HHI（弗劳恩霍夫人工智能研究所）
研究发现，国际象棋神经网络Leela Chess Zero在中间层能正确计算解法，但最终输出被安全优先的先验知识覆盖，导致错误答案。
2026-11-04 cs.AI cs.LG
The Temporal Logic of Causal Structures
Courant Institute of Mathematical Sciences（柯朗数学科学研究所）；New York University（纽约大学）
具有潜在因果结构的时程数据的计算分析在各种领域都是需要的，包括神经尖峰序列、股票价格波动和基因表达水平。然而，仅从数值时间过程数据确定什么在协调可见过程、将潜在的初步原因分离成真正的原因和虚假的原因并且以可行的计算复杂性来这样做可能是具有挑战性的。为此，我们一直在开发一种新的算法的基础上的框架相结合的概念，因果关系的哲学与算法的方法建立在模型检验和统计技术的多个假设检验。因果关系的时序逻辑公式，重构推理问题的模型检验。所使用的逻辑PCTL允许描述因果关系之间的时间以及观察到这种关系的概率。我们表明，配备了这些因果公式与其相关的概率，我们可以计算的平均影响的原因，使其效果，然后发现统计上显着的原因，通过多个假设检验的概念（治疗每个因果关系作为一个假设），和错误的发现控制。通过探索一个精心选择的家庭的潜在的所有重要的假设与合理的最小描述长度，它是可能的驯服算法的计算复杂性，同时探索几乎完整的搜索空间的所有表面原因。我们已经在许多领域测试了这些想法，并在这里用两个例子来说明它们。
2012-05-09 cs.AI
Improving Fair Predictions Using Variational Inference In Causal Models
University of Amsterdam（阿姆斯特丹大学）
随着机器学习对人们生活的影响越来越大，算法公平性的重要性也越来越大。最近的公平性度量的工作表明，需要在公平性约束的因果推理。在这项工作中，一个实用的方法命名为公平贸易提出了灵活的预测模型，集成敏感的因果路径的公平性约束。该方法使用最新的进展，变分推理，以占未观察到的混杂因素。此外，提出了一种方法大纲，它使用的因果机制估计审计黑盒模型。在检测非法社会福利的背景下，对模拟数据和真实数据集进行了实验。这项研究旨在为机器学习技术做出贡献，这些技术尊重我们的道德和法律边界。
2020-08-25 cs.AI cs.LG stat.ML
Decomposing Counterfactual Explanations for Consequential Decision Making
University of Tübingen（图宾根大学）；University of Amsterdam（阿姆斯特丹大学）
算法追索的目标是扭转不利的决定（例如，从贷款拒绝到批准）通过建议可操作的特征改变（例如，减少信用卡的数量）。为了生成低成本的追索权，大多数方法都是在假设特征是可独立操作的（IMF）的情况下工作的。为了解决特征依赖性问题，通常通过因果追索范式来研究追索问题。然而，众所周知，强假设，编码在因果模型和结构方程，阻碍了这些方法的适用性在复杂的领域，因果依赖结构是模糊的。在这项工作中，我们开发了\texttt{DEAR}（解开因果关系追索权），一个新颖而实用的追索框架，弥补了国际货币基金组织和强因果假设之间的差距。\texttt{DEAR}通过从有希望的追索权特征的子集中分离出共变特征的潜在表示来生成追索权，以捕获主要的实际追索权需求。我们对真实世界数据的实验证实了我们的理论动机的追索权模型，并强调了我们的框架的能力，提供可靠的，低成本的追索权存在的功能依赖。
2022-11-03 cs.AI cs.CY cs.LG
On the Need and Applicability of Causality for Fairness: A Unified Framework for AI Auditing and Legal Analysis
CISPA, Helmholtz Center for Information Security（亥姆霍兹信息安全中心CISPA）；University of Liège（列日大学）；INRIA, Saclay Ile-de-France（法国国家信息与自动化研究所萨克雷-法兰西岛分部）
本文聚焦AI公平性评估中的因果关系需求，结合法律与社会视角，分析欧盟相关案例与监管下证明AI决策因果性的挑战及方法局限，提出提升算法透明度、问责制与公平性的可行方案。
2025-03-19 cs.AI cs.CY cs.LG
An Algorithmic Approach for Causal Health Equity: A Look at Race Differentials in Intensive Care Unit (ICU) Outcomes
Columbia University（哥伦比亚大学）；Flinders University（弗林德斯大学）；University of Melbourne（墨尔本大学）；Technical University of Munich（慕尼黑工业大学）；Prince Charles Hospital Brisbane（布里斯班查尔斯王子医院）；Edith Cowan University（伊迪丝·考恩大学）；Monash University（莫纳什大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出基于因果推断的健康差异分析框架，利用澳、美ICU数据揭示少数群体入院风险、生存与再入院差异，并开发IICE Radar监测原住民ICU资源过度利用。
2025-01-09 cs.AI cs.LG stat.AP
Causal Inference by Stochastic Complexity
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland University（萨尔大学）
算法马尔可夫条件指出，两个随机变量X和Y之间最可能的因果方向可以被识别为具有最低柯尔莫哥洛夫复杂度的方向。然而，由于停机问题，这个概念是不可计算的。因此，我们建议做因果推理的随机复杂性。也就是说，我们建议通过最小描述长度（MDL）原则来近似Kolmogorov复杂度，使用一个关于所考虑的模型类的最小-最大最优得分。这意味着即使在对抗性设置中，例如当真实分布不在该类中时，我们仍然可以获得相对于该类的数据的最佳编码。我们实例化这个框架，我们称之为CISC，对单变量离散变量，使用类的多项式分布。实验表明，CISC对合成数据、基准数据以及真实数据都非常准确，远远优于最先进的技术水平，并且在样本和域大小方面具有非常好的扩展性。
2017-02-22 cs.AI cs.LG
An Explainable AI Approach to Large Language Model Assisted Causal Model Auditing and Development
Stony Brook University（石溪大学）；College of Marin（马林学院）；Akai Kaeru LLC（Akai Kaeru 有限责任公司）
提出用大型语言模型（如ChatGPT）逐边审计因果网络，生成方向、混杂和中介见解并可视化，辅助人类分析师修正模型，实现人机协作的因果建模。
2023-12-23 cs.AI cs.HC cs.LG
Linear-Time Primitives for Algorithm Development in Graphical Causal Inference
Institute for Theoretical Computer Science（理论计算机科学研究所）；Department of Mathematical Sciences（数学科学系）；School of Mathematics and Statistics（数学与统计学学院）
本文提出CIfly框架，将因果推理任务转化为可达性操作，以线性时间运行，替代道德化和潜在投影，提供高效开源实现，并支持工具变量等新算法开发。
2025-06-18 cs.AI cs.DS cs.LG
Disaggregated Interventions to Reduce Inequality
New York University（纽约大学）；London School of Economics（伦敦政治经济学院）
数据科学领域的一项重要研究认为，对种族或性别等社会类别的不公平歧视可能会因算法决策而发生或放大。与此同时，现实世界的差异继续存在，甚至在算法决策之前。在这项工作中，我们借鉴了社会科学中引入因果建模和约束优化领域的见解，并开发了一种新的算法框架，用于解决预先存在的现实世界差异。我们的框架的目的，我们称之为“影响补救框架”，是衡量现实世界的差距，并发现最佳干预政策，可以帮助改善公平或获得机会的那些谁是服务不足的利益的结果。我们开发了一种分解的方法来解决预先存在的差异，放松了结构因果模型中使用社会类别所需的典型假设。我们的方法灵活地结合了反事实，并与各种本体论假设的社会类别的性质是兼容的。我们展示了一个假设的案例研究的影响补救，并比较我们的分解方法，现有的国家的最先进的方法，比较其结构和由此产生的政策建议。与大多数关于最优策略学习的工作相反，我们将差异减少本身作为一个目标，明确地将算法的力量集中在减少不平等上。
2022-12-07 cs.AI cs.CY cs.LG
Quantum causal inference in the presence of hidden common causes: An entropic approach
Appalachian State University（阿巴拉契亚州立大学）；Purdue University（普渡大学）
量子因果关系是一个新兴的研究领域，它有可能极大地促进我们对量子系统的理解。本文提出了一个利用熵原理融合量子信息科学和因果推理的理论框架。为此，我们利用隐藏原因的熵和观测变量的条件互信息之间的权衡，以开发一种可扩展的算法方法，用于在量子系统中存在潜在混杂因素（常见原因）的情况下推断因果关系。作为一个应用，我们考虑了一个三纠缠量子比特的系统，并通过单独的噪声量子信道传输第二和第三量子比特。在这个模型中，我们验证了第一个量子位是一个潜在的混淆者，也是第二个和第三个量子位的共同原因。相比之下，当两个纠缠的量子比特被准备好，其中一个通过噪声信道发送时，没有共同的混淆因素。我们还表明，所提出的方法优于经典的因果推理的结果时，Tubingen数据库的变量是经典的，通过利用量子依赖变量之间的密度矩阵，而不是联合概率分布。因此，所提出的方法以原则性的方式统一了经典和量子因果推理。
2022-12-19 cs.AI cs.IT cs.LG
Prompting Strategies for Enabling Large Language Models to Infer Causation from Correlation
Google DeepMind（谷歌DeepMind）
本研究提出PC-SubQ提示策略，通过将因果发现PC算法分解为固定子问题逐步引导LLM，在Corr2Cause基准上显著提升了五个LLM从相关推断因果的能力且对查询扰动具有鲁棒性。
2024-12-18 cs.AI cs.CL cs.LG
Entropic Causal Inference
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；California Institute of Technology（加州理工学院）
本文研究了利用观测数据确定两个离散随机变量之间因果关系方向的问题。与以前的工作不同，我们保留了最一般的函数模型，但对未观察到的外生变量做了一个假设：受奥卡姆剃刀的启发，我们假设外生变量在真正的因果方向上是简单的。我们用雷尼熵来量化简单性。我们的主要结果是，在自然假设下，如果外生变量在真实方向上具有低$H_0$熵（基数），则它在错误方向上必须具有高$H_0$熵。建立了估计最小熵外生变量的几个算法困难性结果。我们证明了寻找具有最小熵的外生变量的问题等价于寻找给定$n$边缘分布的最小联合熵的问题，也称为最小熵耦合问题。我们提出了一个有效的贪心算法的最小熵耦合问题，即$n=2$可证明找到一个局部最优。这给出了一个贪心算法来寻找具有最小$H_1$（香农熵）的外生变量。我们的贪婪熵为基础的因果推理算法具有类似的性能，最先进的加性噪声模型在真实的数据集。我们的方法的一个优点是，我们不使用随机变量的值，但只有他们的分布。因此，我们的方法可以用于因果推理的顺序和分类数据，不像加性噪声模型。
2016-11-15 cs.AI cs.IT math.IT
