Algorithmic Bias in Recidivism Prediction: A Causal Perspective
The Pennsylvania State University（宾夕法尼亚州立大学）
ProPublica对替代性制裁（COMPAS）软件工具所产生的累犯预测的分析表明，这些预测对非裔美国人被告有种族偏见。我们分析的COMPAS数据使用的基本算法的公平性问题的因果关系重新制定。具体来说，我们评估是否COMPAS表现出种族偏见对非裔美国人被告使用事实，最近推出的因果关系接地算法公平性的措施。我们使用Neyman-Rubin潜在结果框架从观察数据中进行因果推断，以估计COMPAS数据中的FACT。我们的分析提供了强有力的证据表明，COMPAS表现出对非裔美国人被告的种族偏见。我们进一步表明，COMPAS数据的FACT估计是强大的存在不可测量的混杂。
2019-11-24 cs.AI cs.LG stat.ME
Algorithmic syntactic causal identification
School of Computer Science, University of Birmingham（伯明翰大学计算机科学学院）
针对现有因果识别方法依赖概率论而无法适用于非概率场景的问题，本文提出基于对称幺半范畴的纯语法算法化因果识别方法，并推导出后门和前门调整的语法类似物。
2025-01-29 cs.AI cs.LG stat.ME
The Importance of Time in Causal Algorithmic Recourse
University of Pisa（比萨大学）
本文指出现有因果算法追索方法未纳入时间维度的局限，提出将时间维度整合到因果算法追索中以增强建议的合理性与可靠性，并通过实验验证了时间在该领域的重要作用。
2023-06-08 cs.AI cs.LG
Separators and Adjustment Sets in Causal Graphs: Complete Criteria and an Algorithmic Framework
Radboud University Nijmegen（拉德堡德大学（奈梅亨））
从非实验数据中对因果效应的可识别性进行原则性推理是图因果模型的一个重要应用。本文重点讨论的影响，可识别的协变量调整，一种常用的估计方法。我们提出了一个算法框架，有效地测试，构建和枚举$m$ -分离器的祖先图（AG），一类图形因果模型，可以表示潜在的混淆因素的存在的不确定性。此外，我们证明了减少因果效应识别协变量调整$m$ -分离的子图的有向无环图（DAG）和最大祖先图（MAG）。联合起来，这些结果产生建设性的标准，其特征在于所有的调整集以及所有的最小和最小的调整集，用于识别所需的因果效应与多变量暴露和潜在的混淆的存在下的结果。我们的研究结果扩展了这些问题的特殊情况下，现有的几个解决方案。我们的高效算法使我们能够经验性地量化协变量调整和随机DAG和MAG中的do-calculus之间的可识别性差距，涵盖了广泛的场景。我们的算法的实现在R包dagitty中提供。
2019-01-24 cs.AI cs.LG
Algorithmic causal structure emerging through compression
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；ELLIS Institute（ELLIS研究所）
该研究探究因果性、对称性与压缩的关联，提出跨环境压缩数据涌现因果性的框架，定义算法因果性，验证其可通过最小化Kolmogorov复杂度上界涌现，为大语言模型等的因果涌现提供新视角。
2025-03-21 cs.AI cs.CC cs.IT
Causal Equal Protection as Algorithmic Fairness
Arizona State University（亚利桑那州立大学）；Politecnico di Milano（米兰理工大学）；Algorithmwatch
本文提出因果平等保护原则，将分类均等与因果分析结合，主张个人不应因受保护特征而承受不平等的分类错误风险，并允许在能均衡风险时使用这些特征。
2025-02-05 cs.AI cs.CY cs.DS
Data Management for Causal Algorithmic Fairness
University of Washington（华盛顿大学）
公平性越来越被认为是机器学习系统的关键组成部分。然而，正是这些系统所训练的基础数据往往反映出歧视，这表明存在数据管理问题。在本文中，我们首先区分了文献中关于公平的联想和因果定义，并认为公平的概念需要因果推理。然后，我们审查现有的工作，并确定未来的机会，应用数据管理技术的因果算法公平性。
2019-10-01 cs.DB cs.LG
Algorithmic recourse under imperfect causal knowledge: a probabilistic approach
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-ETH学习系统中心）；University of Cambridge（剑桥大学）；Saarland University（萨尔兰大学）
最近的工作讨论了反事实解释的局限性，以推荐算法追索权的行动，并认为需要考虑特征之间的因果关系。不幸的是，在实践中，真正的基础结构因果模型通常是未知的。在这项工作中，我们首先表明，这是不可能的，以保证追索权，而不进入真正的结构方程。为了解决这一限制，我们提出了两种概率方法来选择最佳行动，在有限的因果知识（例如，只有因果图）。第一个捕获加性高斯噪声下的结构方程的不确定性，并使用贝叶斯模型平均来估计反事实分布。第二个删除任何假设的结构方程，而不是计算的平均影响追索行动的个人类似的人寻求追索权，导致一种新的基于亚群的干预概念的追索权。然后，我们推导出一个基于梯度的程序，选择最佳的追索行动，并实证表明，所提出的方法导致更可靠的建议下不完善的因果知识比非概率基线。
2020-10-23 cs.AI cs.LG stat.ML
On the Fairness of Causal Algorithmic Recourse
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Saarland University（萨尔大学）；The Alan Turing Institute（艾伦·图灵研究所）
算法公平性通常从预测的角度来研究。相反，在这里，我们调查的公平性的角度，追索权行动建议个人补救不利的分类。我们提出了两个新的公平标准，在组和个人层面上，这-不像以前的工作均衡的平均组明智的距离从决策边界-明确占功能之间的因果关系，从而捕捉下游的影响，在物理世界中进行追索行动。我们探讨了我们的标准如何与其他人，如反事实的公平，并表明，公平的追索权是补充公平的预测。我们从理论上和经验上研究如何通过改变分类器来执行公平的因果追索权，并在Adult数据集上进行案例研究。最后，我们讨论了我们的标准所揭示的数据生成过程中的公平违规行为是否可以通过社会干预而不是对分类器的限制来更好地解决。
2022-03-06 cs.AI cs.LG stat.ML
The Importance of Modeling Data Missingness in Algorithmic Fairness: A Causal Perspective
EPFL Lausanne（洛桑联邦理工学院）；Microsoft Research（微软研究院）
用于机器学习的训练数据集通常存在某种形式的缺失。例如，为了学习决定向谁提供贷款的模型，可用的训练数据包括过去被给予贷款的个人，但不包括那些没有被给予贷款的个人。如果忽略这种缺失，则在部署模型时会使训练过程的任何公平性保证无效。使用因果图，我们在不同的现实世界的情况下，失踪机制的特点。我们展示了各种分布，在流行的公平算法，可以或不能从训练数据恢复的条件下。我们的理论结果意味着，这些算法中的许多不能保证在实践中的公平性。对缺失进行建模也有助于识别公平算法的正确设计原则。例如，在多阶段设置中，在多轮筛选中做出决策，我们使用我们的框架来推导设计公平算法所需的最小分布。我们提出的算法分散的决策过程中，仍然达到类似的性能，需要集中和不可恢复的分布的最佳算法。
2020-12-21 cs.AI cs.LG
Detecting and Mitigating Algorithmic Bias in Binary Classification using Causal Modeling
Singapore Institute of Technology（新加坡理工学院）；University of Western Australia（西澳大利亚大学）
该研究针对二分类场景中的算法性别偏差问题，提出基于因果建模的检测与缓解方法，经Adult数据集验证可有效减偏差且略提准确率，方法易用可解释性强。
2023-11-09 cs.CY cs.LG
A Causal Perspective on Meaningful and Robust Algorithmic Recourse
Institute for Statistics, LMU Munich（慕尼黑大学统计研究所）；Research Group Neuroinformatics, University of Vienna（维也纳大学神经信息学研究组）；Munich Center for Mathematical Philosophy, LMU Munich（慕尼黑大学慕尼黑数学哲学中心）
决策追索解释告知利益相关者如何采取行动来扭转不利的预测。然而，一般来说，ML模型不能很好地预测干预分布。因此，以期望的方式改变预测的动作可能不会导致潜在目标的改进。这种追索权对模型改装既无意义，也不可靠。扩展Karimi等人的工作。（2021），我们提出了有意义的算法追索权（MAR），只建议改善预测和目标的行动。我们证明这种选择约束突出模型审计和有意义的，可操作的追索权解释之间的差异。此外，我们引入了一种称为有效算法追索权（effective algorithmic recourse，缩写为MAR）的放松方法，在某些假设下，它只允许对目标的原因进行干预，从而产生有意义的追索权。
2021-07-16 cs.LG stat.ML
Explaining Algorithmic Fairness Through Fairness-Aware Causal Path Decomposition
Institute for Artificial Intelligence, Tsinghua University（清华大学人工智能研究院）；University of Florida（佛罗里达大学）；Weill Cornell Medicine（威尔康奈尔医学院）
算法公平性近年来在数据采掘和机器学习领域引起了广泛的关注。到目前为止，现有的研究主要集中在定量指标的发展，以衡量算法的差异在不同的保护组，并调整算法的输出，以减少这种差异的方法。在本文中，我们建议研究的问题，识别模型差异的来源。与现有的解释方法，通常学习特征的重要性，我们认为特征变量之间的因果关系，并提出了一种新的框架，从公平意识的因果路径，这是路径连接的敏感属性和最终的预测，图上的贡献之和分解的差距。我们还考虑的情况下，在这些路径内的某些边缘上的方向无法确定。我们的框架也是模型不可知的，适用于各种定量差异的措施。对合成数据集和真实数据集的实证评估表明，我们的方法可以提供精确和全面的解释模型的差异。
2021-08-11 cs.LG
Causal Algorithmic Recourse: Foundations and Methods
Department of Statistics & Data Science（统计与数据科学系）；UCLA（加州大学洛杉矶分校）；Department of Computer Science（计算机科学系）；Columbia University（哥伦比亚大学）
本文提出因果框架，通过预后干预结果建模算法补救过程，引入后补救稳定性条件，开发基于copula的算法推断补救效果，并提供分布自由方法学习补救效果。
2026-05-12 cs.AI cs.LG stat.ML
Information-Theoretic Bias Reduction via Causal View of Spurious Correlation
Seoul National University（首尔大学）；Adobe Research（Adobe研究院）
我们提出了一种信息论偏差测量技术，通过虚假相关的因果解释，这是有效的识别特征级算法偏见，利用条件互信息。虽然已经提出并广泛研究了几种偏差测量方法，以在各种任务（如人脸识别）中实现算法公平性，但其基于准确度或logit的度量容易导致微不足道的预测分数调整，而不是基本的偏差减少。因此，我们设计了一个新的去偏置框架对算法偏见，其中包括一个偏差正则化损失所提出的信息理论偏差测量方法。此外，我们提出了一个简单而有效的无监督去偏置技术的基础上随机标签噪声，它不需要明确的监督偏置信息。提出的偏差测量和去偏的方法进行了验证，在不同的现实情况下，通过广泛的实验，多个标准的基准。
2022-01-10 cs.AI cs.CY cs.LG
Mathematical decisions and non-causal elements of explainable AI
University of Toronto（多伦多大学）；Australian National University（澳大利亚国立大学）
算法决策在敏感环境中的社会影响在多个利益相关者之间产生了激烈的辩论，如道德和政治哲学家，计算机科学家和公众。然而，缺乏一种共同的语言和一个概念框架来适当地弥合辩论的道德、技术和政治方面，这阻碍了讨论尽可能有效。社会科学家和心理学家通过收集大量的经验数据为这场辩论做出了贡献，但对算法决策的社会影响的哲学分析仍然相对贫乏。在试图解决这一空白，本文认为，不同类型的层次结构的解释为什么和如何实现的算法决策的结果可以建立相关的道德和技术方面的算法决策之间的联系。特别是，我为算法决策的解释和解释提供了一个多方面的概念框架，我声称这个框架可以为多个利益相关者之间关于算法决策的社会影响以及更普遍的人工智能治理和道德的集中讨论奠定基础。
2019-12-12 cs.AI cs.CY cs.HC
Fairness in Algorithmic Decision Making: An Excursion Through the Lens of Causality
Pennsylvania State University（宾夕法尼亚州立大学）；Purdue University（普渡大学）
由于我们生活的几乎所有方面都越来越受到算法决策系统的影响，作为一个社会，我们有责任确保这些系统不会成为基于性别，种族，民族，宗教等的不公平歧视的工具。我们介绍了基于因果关系的群体公平性的两个定义：公平的平均因果效应（FACE）和公平的平均因果效应的治疗（FACT）。我们使用Rubin-Neyman潜在结果框架来分析因果关系，以稳健地估计FACE和FACT。我们证明了我们提出的方法的有效性合成数据。我们对两个真实世界数据集的分析，来自UCI存储库的成人收入数据集（以性别为受保护属性），以及NYC Stop和Frisk数据集（以种族为受保护属性），表明FACE和FACT获得的歧视证据，或缺乏歧视，通常与其他研究的结果一致。我们进一步表明，事实，是有点更微妙的脸相比，可以产生的歧视，从那些使用脸不同的结果。
2019-03-27 cs.LG stat.ML
Mitigating Algorithmic Bias in Multiclass CNN Classifications Using Causal Modeling
Singapore Institute of Technology（新加坡理工学院）；University of Western Australia（西澳大学）
本研究针对多类CNN分类中的性别偏见问题，采用一对多技术结合因果建模调整预测概率，在提升分类性别公平性的同时几乎不影响甚至略提高准确率，证明公平性与准确率无需必然权衡。
2025-01-14 cs.CV cs.LG
Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；University of Tübingen（蒂宾根大学）；University College London（伦敦大学学院）
民事追索权旨在向个人提供可采取行动的建议，以便从自动决策系统中获得更有利的结果。由于它涉及对物质世界中进行的干预进行推理，追索权从根本上说是一个因果问题。现有的方法计算追索行动的影响，使用因果模型从数据中学习的假设下，没有隐藏的混杂和建模假设，如加性噪声。基于Balke和Pearl（1994）的开创性工作，我们提出了一种离散随机变量的替代方法，该方法放松了这些假设，并允许未观察到的混杂和任意结构方程。所提出的方法只需要规范的因果图和混淆结构和边界的预期反事实效果的追索行动。如果下限高于某个阈值，即，在决策边界的另一侧，追索权在预期中得到保证。
2021-06-22 cs.AI cs.LG stat.ML
Represented Is Not Computed: A Causal Test of Candidate Algorithmic Intermediates in a Transformer
MKSSS's Cummins College of Engineering for Women（MKSSS女子工程学院）；Institute of Cognitive Science（认知科学研究所）；Osnabrück University（奥斯纳布吕克大学）
本文研究了变换器在执行算术任务时如何整合组件，发现模型虽然能准确回答问题，但其内部表示与计算路径之间存在因果分离，表明探针结果可能与实际因果观察有显著差异。
2026-10-27 cs.LG
D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias
Stony Brook University（石溪大学）
随着人工智能的兴起，算法已经变得更善于从训练数据中学习潜在模式，包括基于性别、种族等根深蒂固的社会偏见。将此类算法部署到招聘、医疗保健、执法等领域，引发了人们对机器学习算法中公平性、问责制、信任度和可解释性的严重担忧。为了缓解这个问题，我们提出了D-BIAS，这是一个可视化的交互工具，它体现了人工智能的方法，用于审计和减轻表格数据集中的社会偏见。它使用图形因果模型来表示数据集中不同特征之间的因果关系，并作为注入领域知识的媒介。用户可以通过识别因果网络中的不公平因果关系并使用一系列公平度量来检测对一个群体（比如女性）或一个子群体（比如黑人女性）的偏见的存在。此后，用户可以通过作用于不公平的因果边来减轻偏差。对于每个交互，比如削弱/删除有偏因果边，系统使用一种新方法来模拟基于当前因果模型的新（去偏）数据集。用户可以直观地评估他们的交互对不同公平性指标、效用指标、数据失真和底层数据分布的影响。一旦满意，他们可以下载去偏数据集，并将其用于任何下游应用程序，以实现更公平的预测。我们通过在3个数据集上进行实验以及正式的用户研究来评估D-BIAS。我们发现，D-BIAS有助于减少偏见显着相比，在不同的公平性指标的基线去偏置方法，同时引起很少的数据失真和效用的小损失。此外，我们基于人在回路的方法在信任、可解释性和问责制方面明显优于自动化方法。
2022-08-10 cs.CY cs.HC cs.LG
The Role of Causality in Algorithmic Recourse
Georgia Institute of Technology（佐治亚理工学院）；Vector Institute（向量研究院）；Drexel University（德雷塞尔大学）；Leiden University（莱顿大学）
本研究针对算法追索仅关注翻转模型预测的缺陷，提出因果表演框架建模追索行动的因果传播，实验显示其优于标准方法并减少模型重训需求。
2026-07-31 cs.CY cs.GT cs.LG
No Fair Lunch: A Causal Perspective on Dataset Bias in Machine Learning for Medical Imaging
Microsoft Health Futures（微软健康未来部门）；Imperial College London（帝国理工学院）；The Hospital for Sick Children（病童医院）
本文从因果视角分析医学影像机器学习中的数据集偏差，提出三类因果偏差机制，并指出当前缓解方法的局限性，进而提供一个实用的三步框架以支持安全公平的AI预测模型开发。
2023-07-31 cs.AI cs.CV cs.LG
Deep Equilibrium Algorithmic Reasoning
University of Cambridge（剑桥大学）；MediaTek Research（联发科研究院）
本文提出用深度均衡视角替代循环架构执行神经算法推理，通过直接求解均衡方程免去对算法真实步数的依赖，并在CLRS-30基准上验证了其性能提升与加速潜力。
2024-10-19 cs.LG
Mitigating Nonlinear Algorithmic Bias in Binary Classification
本文利用因果建模检测并缓解二元分类中随年龄非线性变化的算法偏差，通过在因果模型中引入高阶多项式项实现去偏，在几乎不影响分类准确率的同时提升公平性。
2024-05-07 cs.CY cs.LG stat.AP
Causal Feature Selection for Algorithmic Fairness
University of Chicago（芝加哥大学）；IBM Research AI（IBM研究院人工智能部门）
在高风险的社会决策中使用机器学习（ML）鼓励在整个ML生命周期中考虑公平性。虽然数据集成是生成高质量训练数据的主要步骤之一，但大多数公平性文献都忽略了这一阶段。在这项工作中，我们在数据管理的集成组件中考虑公平性，旨在确定在不向数据集添加任何偏差的情况下提高预测的特征。我们在因果干预公平范式下工作。在不需要先验的基础结构因果模型的情况下，我们提出了一种方法来确定一个子集合的功能，通过执行不同的功能子集之间的条件独立性测试，确保数据集的公平性。我们使用组测试来提高方法的复杂性。我们从理论上证明了所提出的算法的正确性，以确定功能，确保干预的公平性，并表明，次线性条件独立性测试是足够的，以确定这些变量。在真实世界的数据集上进行了详细的经验评估，以证明我们的技术的有效性和效率。
2022-03-31 cs.CY cs.DB cs.LG
Towards causal benchmarking of bias in face analysis algorithms
Massachusetts Institute of Technology（麻省理工学院）；California Institute of Technology（加州理工学院）；Amazon Web Services（亚马逊云科技）
度量算法偏见对于评估算法公平性和指导算法改进都是至关重要的。目前在计算机视觉中测量算法偏见的方法是基于观测数据集的，不足以完成这项任务，因为它们将算法偏见与数据集偏差混为一谈。为了解决这个问题，我们开发了一种用于测量人脸分析算法的算法偏见的实验方法，该方法直接操纵感兴趣的属性，例如，性别和肤色，以揭示属性变化和性能变化之间的因果关系。我们所提出的方法是基于生成合成的“横断面”的匹配样本图像，设计沿特定属性不同，而其他属性不变。我们的方法的一个关键方面是依赖于人类观察者的感知，既要指导操作，又要测量算法偏见。除了允许测量算法偏见之外，合成样带相对于观测数据集还有其他优势：它们更均匀地对属性进行采样，允许对少数群体和交叉群体进行更直接的偏差分析，它们能够预测新场景中的偏差，它们大大减少了伦理和法律挑战，并且它们经济快速，有助于使偏差测试负担得起并广泛使用。我们通过将其与采用传统观察方法分析性别分类算法中的偏见的研究进行比较来验证我们的方法。这两种方法得出不同的结论。虽然观察方法报告了性别和肤色偏见，但实验方法揭示了由于性别，头发长度，年龄和面部毛发造成的偏见。
2020-07-13 cs.CV cs.CY cs.LG
An Algorithmic Approach for Causal Health Equity: A Look at Race Differentials in Intensive Care Unit (ICU) Outcomes
Columbia University（哥伦比亚大学）；Flinders University（弗林德斯大学）；University of Melbourne（墨尔本大学）；Technical University of Munich（慕尼黑工业大学）；Prince Charles Hospital Brisbane（布里斯班查尔斯王子医院）；Edith Cowan University（伊迪丝·考恩大学）；Monash University（莫纳什大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出基于因果推断的健康差异分析框架，利用澳、美ICU数据揭示少数群体入院风险、生存与再入院差异，并开发IICE Radar监测原住民ICU资源过度利用。
2025-01-09 cs.AI cs.LG stat.AP
Algorithmic Harms Associated with Generative Model-Augmented Recommendation Systems
本研究扩展了算法危害分类法，分析生成模型增强推荐系统可能引发的新型及内生危害，并提供因果分析以支持检测与缓解。
2026-09-29 cs.AI cs.CL cs.IR
Boosting Local Causal Discovery in High-Dimensional Expression Data
University of Amsterdam（阿姆斯特丹大学）
我们研究了局部因果发现（LCD），一个简单而有效的基于约束的因果发现方法，在预测大规模基因表达数据中的因果效应的性能。我们构建具体的高维政权的实用估计。受ICP算法的启发，我们使用了可选的预选方法和两种不同的统计检验。经验上，由此产生的LCD估计被认为是接近ICP的准确性，最先进的方法，而它是算法更简单，计算更有效。
2019-11-01 cs.LG stat.ME stat.ML
Causal Inference out of Control: Estimating the Steerability of Consumption
Stanford University（斯坦福大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（图宾根人工智能中心）
监管机构和学者对数字平台的算法行为对消费的因果影响越来越感兴趣。我们引入了一个一般的因果推理问题，我们称之为消费的可操纵性，抽象了许多感兴趣的设置。专注于观察设计和利用问题的结构，我们展示了一组因果可识别性的假设，显着削弱了标准设计往往不切实际的重叠假设。我们的方法的关键新颖之处在于明确地对消费随时间的动态进行建模，将平台视为作用于动态系统的控制器。从这个动态系统的角度来看，我们能够表明，消费和适当的响应算法控制动作的外源性变化足以识别消费的可操纵性。我们的研究结果说明了控制理论和因果推理的富有成效的相互作用，我们从计量经济学，宏观经济学和机器学习的例子说明。
2023-02-10 cs.CY cs.LG stat.ML
The Algorithm Is Not the Behavior: Learned Priors Override Look-Ahead in a Chess-Playing Neural Network
Fraunhofer HHI（弗劳恩霍夫人工智能研究所）
研究发现，国际象棋神经网络Leela Chess Zero在中间层能正确计算解法，但最终输出被安全优先的先验知识覆盖，导致错误答案。
2026-11-04 cs.AI cs.LG
Algorithmic Fairness in Education
Cornell University（康奈尔大学）
数据驱动的预测模型越来越多地用于教育，以支持学生，教师和管理员。然而，人们担心这些算法系统的预测和使用的公平性。在这篇教育领域算法公平性的介绍中，我们与之前关于教育机会、偏见和歧视的文献进行了比较，并研究了算法系统的核心组成部分（测量、模型学习和行动），以确定开发和部署这些系统过程中的偏见和歧视来源。统计，相似性为基础的，和因果关系的公平概念进行审查和对比的方式，他们在教育环境中的应用。对教育技术的政策制定者和开发者的建议为如何促进教育中的算法公平性提供了指导。
2021-04-11 cs.AI cs.CY cs.LG
Binarized Neural Networks Converge Toward Algorithmic Simplicity: Empirical Support for the Learning-as-Compression Hypothesis
本文以二值化神经网络为代理，利用算法概率和块分解方法度量训练中的算法复杂度变化，证明其比熵更能跟踪结构变化并与训练损失相关，从而为“学习即算法压缩”假设提供经验支持。
2025-09-18 cs.AI cs.IT cs.LG
Causal Discovery by Telling Apart Parents and Children
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland University（萨尔大学）
我们考虑的问题推断的有向，因果图从观测数据，假设没有隐藏的混杂因素。我们采取信息理论的方法，并作出三个主要贡献。首先，我们展示了如何通过算法信息理论，我们可以获得SCI，一个高度稳健，有效和计算效率的测试条件独立性-并显示它优于最先进的应用时，基于约束的推理方法，如稳定的PC。其次，建立在SCI，我们展示了如何区分父母和孩子的一个给定的节点的算法马尔可夫条件的基础上。我们给出了攀登算法，以有效地发现有向的，因果马尔可夫毯-并表明它至少是作为推断全球网络的准确性，而更有效。最后，但并非最不重要的是，我们详细介绍了如何使用Climb分数来指导那些边缘，这些边缘是基于PC或GES的最先进的因果发现算法留下的-并表明这将其精度，召回率和F1分数提高了20%。
2018-09-06 cs.LG stat.ML
Improving Fair Predictions Using Variational Inference In Causal Models
University of Amsterdam（阿姆斯特丹大学）
随着机器学习对人们生活的影响越来越大，算法公平性的重要性也越来越大。最近的公平性度量的工作表明，需要在公平性约束的因果推理。在这项工作中，一个实用的方法命名为公平贸易提出了灵活的预测模型，集成敏感的因果路径的公平性约束。该方法使用最新的进展，变分推理，以占未观察到的混杂因素。此外，提出了一种方法大纲，它使用的因果机制估计审计黑盒模型。在检测非法社会福利的背景下，对模拟数据和真实数据集进行了实验。这项研究旨在为机器学习技术做出贡献，这些技术尊重我们的道德和法律边界。
2020-08-25 cs.AI cs.LG stat.ML
Decomposing Counterfactual Explanations for Consequential Decision Making
University of Tübingen（图宾根大学）；University of Amsterdam（阿姆斯特丹大学）
算法追索的目标是扭转不利的决定（例如，从贷款拒绝到批准）通过建议可操作的特征改变（例如，减少信用卡的数量）。为了生成低成本的追索权，大多数方法都是在假设特征是可独立操作的（IMF）的情况下工作的。为了解决特征依赖性问题，通常通过因果追索范式来研究追索问题。然而，众所周知，强假设，编码在因果模型和结构方程，阻碍了这些方法的适用性在复杂的领域，因果依赖结构是模糊的。在这项工作中，我们开发了\texttt{DEAR}（解开因果关系追索权），一个新颖而实用的追索框架，弥补了国际货币基金组织和强因果假设之间的差距。\texttt{DEAR}通过从有希望的追索权特征的子集中分离出共变特征的潜在表示来生成追索权，以捕获主要的实际追索权需求。我们对真实世界数据的实验证实了我们的理论动机的追索权模型，并强调了我们的框架的能力，提供可靠的，低成本的追索权存在的功能依赖。
2022-11-03 cs.AI cs.CY cs.LG
Towards Scalable Bayesian Learning of Causal DAGs
University of Helsinki（赫尔辛基大学）；HIIT（赫尔辛基信息技术研究所）；University of Oslo（奥斯陆大学）
我们给出了贝叶斯推理的方法，有向无环图，DAG，和被动观察到的完整数据的因果关系。我们的方法建立在最近的马尔可夫链蒙特卡洛计划学习贝叶斯网络，这使得有效的近似抽样从图后验，只要每个节点被分配一个小数目$K$的候选父母。我们提出的算法技术，以显着减少空间和时间的要求，这使得使用大得多的值的$K$可行的。此外，我们研究的问题，选择候选父母每个节点，以最大限度地提高覆盖后质量。最后，我们将我们的抽样方法与一种新的贝叶斯方法相结合，用于估计线性高斯DAG模型中的因果效应。数值实验表明，我们的方法在检测祖先后代关系的性能，并在因果关系估计我们的贝叶斯方法被证明优于以前的方法。
2020-11-18 cs.AI cs.LG
Causal Inference via Conditional Kolmogorov Complexity using MDL Binning
Northeastern University（东北大学）；GE Global Research（通用电气全球研究中心）
最近的发展已经将因果推理与数学信息论联系起来，并且已经开发了利用条件柯尔莫哥洛夫复杂性来确定两个随机变量之间的因果关系的方法。我们提出了一种方法来推断因果方向之间的连续变量使用MDL装箱技术的数据离散化和复杂性计算。我们的方法捕获数据的形状，并使用它来确定哪个变量具有更多关于另一个变量的信息。它的高预测性能和鲁棒性在几个真实世界的用例中得到了证明。
2019-11-06 cs.IT cs.LG math.IT
fairadapt: Causal Reasoning for Fair Data Pre-processing
ETH Zürich（苏黎世联邦理工学院）
机器学习算法对于各种预测任务都很有用，但它们也可以学习如何根据性别、种族或其他敏感属性进行区分。这一认识催生了公平机器学习领域，其目的是衡量和减轻这种算法偏见。这篇手稿描述了R-包fairadapt，它实现了因果推理预处理方法。通过使用因果图模型和观察到的数据，该方法可以用来解决以下形式的假设问题：“如果我是不同的性别/种族，我的工资会是多少？".这种个人层面的反事实推理有助于消除歧视，并有助于证明公平的决定。我们还讨论了适当的放松，假设从敏感属性到结果的某些因果途径不是歧视性的。
2021-10-19 cs.AI cs.CY cs.LG
Neural Networks with Causal Graph Constraints: A New Approach for Treatment Effects Estimation
Universitat de Barcelona（巴塞罗那大学）；Zenital（泽尼塔尔公司）
提出NN-CGC模型，通过因果图约束减少虚假交互偏差，提升治疗效应估计精度，在基准上达到新最优。方法对不完美因果图鲁棒，部分因果信息优于忽略。
2024-04-18 cs.LG stat.ME
CARE: Turning LLMs Into Causal Reasoning Expert
Duke University（杜克大学）
CARE通过监督微调提升LLMs的因果推理能力，使其在因果发现任务中超越传统算法和大参数模型。
2025-11-20 cs.AI cs.LG
Linear-Time Primitives for Algorithm Development in Graphical Causal Inference
Institute for Theoretical Computer Science（理论计算机科学研究所）；Department of Mathematical Sciences（数学科学系）；School of Mathematics and Statistics（数学与统计学学院）
本文提出CIfly框架，将因果推理任务转化为可达性操作，以线性时间运行，替代道德化和潜在投影，提供高效开源实现，并支持工具变量等新算法开发。
2025-06-18 cs.AI cs.DS cs.LG
Causally Fair Node Classification on Non-IID Graph Data
Clemson University（克莱姆森大学）；University of Arkansas（亚拉巴马大学）；Walmart Inc.（沃尔玛公司）
针对图数据中节点因果机制异质性违反经典因果模型假设的问题，提出基于网络结构因果模型的消息传递变分自编码器，通过计算干预分布实现因果公平节点分类，理论保证可分解性和图独立性条件，实验验证其有效缓解偏差。
2026-06-23 cs.AI cs.LG
Toward Universal Laws of Outlier Propagation
本文利用算法信息论提出离群值传播的普适定律，证明联合样本的随机性亏缺可按因果机制分解，并表明弱离群值不能导致强离群值，从而为离群值检测与根因归因提供统一的理论基础。
2025-07-06 cs.LG
An Explainable AI Approach to Large Language Model Assisted Causal Model Auditing and Development
Stony Brook University（石溪大学）；College of Marin（马林学院）；Akai Kaeru LLC（Akai Kaeru 有限责任公司）
提出用大型语言模型（如ChatGPT）逐边审计因果网络，生成方向、混杂和中介见解并可视化，辅助人类分析师修正模型，实现人机协作的因果建模。
2023-12-23 cs.AI cs.HC cs.LG
Near-Optimal Multi-Perturbation Experimental Design for Causal Structure Learning
ETH Zürich（苏黎世联邦理工学院）；Massachusetts Institute of Technology（麻省理工学院）
因果结构学习是许多领域的关键问题。因果结构可以通过在感兴趣的系统上进行实验来学习。我们解决了设计一批同时干预多个变量的实验的问题。虽然可能比通常考虑的单变量干预措施更有信息量，但由于复合干预措施集上的双指数组合搜索空间，选择此类干预措施在算法上更具挑战性。在本文中，我们开发了有效的算法优化不同的目标函数量化的信息量的一个约束批实验。通过建立新的子模块属性，这些目标，我们提供近似保证我们的算法。我们的算法在经验上优于随机干预和只选择单变量干预的算法。
2021-11-24 cs.LG
Causal Discovery in the Era of Agents
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
提出智能体应辅助因果发现流程而非提供因果结论，通过causal-learn+平台实现数据驱动、算法支撑的因果发现，避免语言模型不可靠性转化为因果证据。
2026-06-23 cs.AI cs.LG cs.SE
Path Signature Area-Based Causal Discovery in Coupled Time Series
Johns Hopkins University（约翰斯·霍普金斯大学）
耦合动力系统在自然界中经常被观察到，但如果没有关于系统的额外领域知识，通常不能很好地理解它们的因果结构。特别是在分析不可能进行受控实验的动力系统的观测时间序列数据时，例如气候变量的时间序列，确定特征如何因果地相互影响可能具有挑战性。有许多技术可用于从数据中恢复因果关系，例如Granger因果关系，收敛交叉映射和因果图结构学习方法，例如PCMCI。路径签名及其相关的有符号区域提供了一种新的方法来分析因果联系的动力系统，特别是在通知无模型，数据驱动的方法来算法因果发现。在本文中，我们探讨了使用路径签名的因果发现，并提出了应用的置信序列来分析两个变量之间的签署面积的大小的意义。这些置信序列区域以更大的采样长度收敛，并且结合分析跨时间序列的时移版本的成对有符号区域，可以帮助识别滞后/超前因果关系的存在。这种方法提供了一种新的方法来定义两个时间序列之间存在的因果联系的置信度，并最终可能提供一个假设检验框架来定义一个时间序列是否导致另一个时间序列
2021-10-23 cs.LG stat.ML
FairPFN: A Tabular Foundation Model for Causal Fairness
ELLIS Institute Tübingen（图宾根ELLIS研究所）；University of Freiburg（弗赖堡大学）；Prior Labs（Prior实验室）；Meta
针对因果公平方法依赖已知因果模型的问题，本文提出在合成因果公平数据上预训练的表格基础模型 FairPFN，可在无因果模型先验知识时识别并消除受保护属性的因果效应。
2025-06-08 cs.CY cs.LG
Formalizing Neurath's Ship: Approximate Algorithms for Online Causal Learning
University College London（伦敦大学学院）；University of California Berkeley（加州大学伯克利分校）
更高层次的认知取决于学习世界模型的能力。我们可以在计算层面将其描述为一个结构学习问题，其目标是最好地识别一组关系数据之间的主要因果关系。然而，在因果模型上执行精确贝叶斯推断的计算成本随着关系数据的数量增加而迅速增长。这意味着因果学习背后的认知过程必须是大致近似的。一个强大的近似类，专注于连续输入的顺序吸收，被科学哲学中的Neurath的船比喻所捕获，其中理论变化被视为一个随机和渐进的过程，这是由人们在考虑替代品时放弃当前理论的有限意愿所塑造的，因为他们希望接近地面真理。受这个比喻和算法的启发，近似贝叶斯推理在机器学习，我们提出了一个算法级模型的因果结构学习下，学习者只代表一个单一的全局假设，他们更新本地，因为他们收集证据。我们提出了一个相关的计划，了解如何在这些限制下，学习者选择信息干预，操纵因果系统，以帮助阐明其工作。我们发现支持我们的方法在四个实验的分析。
2017-05-26 cs.LG
Maximum Causal Entropy Specification Inference from Demonstrations
University of California, Berkeley（加州大学伯克利分校）
在许多设置中（例如，机器人）演示提供了一种指定任务的自然方式;然而，用于从演示中示教学习的大多数方法或者不提供为任务学习的工件（诸如奖励或策略）可以被安全地组成的保证，和/或不显式地捕获历史依赖性。出于这种缺陷，最近的作品提出了学习布尔任务规范，一类布尔非马尔可夫奖励承认定义明确的组成，并明确处理历史依赖关系。这项工作继续这一研究路线，通过适应最大因果熵逆强化学习，以估计后验概率的规格给定的多组演示。关键的算法见解是利用大量的文献和工具，减少了有序的二元决策图，有效地编码时间展开的马尔可夫决策过程。这使得能够将朴素指数时间算法转换为多项式时间算法。
2020-05-16 cs.LG cs.RO stat.ML
