Evaluating computational models of explanation using human judgments
University of California at Berkeley（加州大学伯克利分校）
我们评估四个计算模型的解释贝叶斯网络模型预测比较，人类的判断。在两个实验中，我们向人类参与者提供因果结构，模型对此做出不同的预测，要么为观察到的事件寻求最佳解释（实验1），要么让参与者为观察到的事件提供解释（实验2）。在两个版本的两个因果结构和两个实验中，我们发现因果解释树和最相关的解释模型比最可能的解释或解释树模型更适合人类数据。我们确定这些模型的优点和缺点，以及它们可以揭示人类的解释。最后，我们提出并行进行计算和心理学解释研究的价值。
2013-09-26 cs.AI
Diagnosing and Mitigating Sycophancy and Skepticism in LLM Causal Judgment
Stanford University（斯坦福大学）
本文提出CAUSALT3基准测试，通过三个轴评估分解性能，识别并缓解因果判断中的阿谀和怀疑陷阱，通过Regulated Causal Anchoring方法改进推理控制。
2026-04-08 cs.AI
Knowledge is Power: Understanding Causality Makes Legal judgment Prediction Models More Generalizable and Robust
Fudan University（复旦大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Tsinghua University（清华大学）
本文通过因果结构模型分析法律判决预测模型依赖非因果信息的问题，提出数据层面的CIESAM和模型层面的CASAM两种因果增强方法，在三个法律数据集上取得SOTA性能，证明因果关系是提升模型鲁棒性与泛化性的关键。
2023-04-18 cs.AI cs.CL
MaSCoD: A Multi-Agent Framework for Structural-Context-Guided Candidate Causal Graph Generation
SCSK Corporation（SCSK株式会社）
MaSCoD通过多智能体框架在直接边判断前组织候选变量和结构模式，减少因果图生成中的关系遗漏，实验表明该方法能提升召回率和F1分数。
2026-09-18 cs.AI
EviDAG: Auditable Causal DAG Authoring with Biomedical Literature
Massachusetts General Hospital（麻省总医院）；Harvard University（哈佛大学）；Northeastern University（东北大学）
该研究针对生物医学因果分析中构建因果DAG多为手动过程的问题，提出DAGForge系统。它能基于研究概念描述创作可审计的因果DAG，经评估在召回率等方面表现良好，减轻了DAG策划负担，支持生物医学研究相关工作。
2026-07-29 cs.AI
From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models
University of Southern California（南加州大学）
本研究通过SSU-Bench数据集和因果追踪方法，发现视觉-语言模型中联合安全判定受干预影响的位置从早层转向晚层，且最终标记状态可读出模型决策，但可读性不等于正确性。
2026-10-07 cs.AI
The Cognitive Processing of Causal Knowledge
Illinois Institute of Technology（伊利诺伊理工学院）；Northeastern Illinois University（东北伊利诺伊大学）
简要描述了使用贝叶斯网络表示、推理和学习因果结构的概率因果图模型。然后，有人认为，这个模型是密切相关的人类如何推理和学习因果结构。它表明，心理学研究折扣（推理关于如何存在的一个原因的影响，使另一个原因不太可能）支持的假设，即人类达到相同的判断算法在贝叶斯网络中进行推理。接下来，皮亚杰的研究表明，人类通过观察与某些学习贝叶斯网络结构的算法所使用的相同的独立性和依赖性来学习因果结构。基于这一指示，因果关系的主观定义。最后，进一步测试这些索赔的准确性的方法进行了讨论。
2013-02-06 cs.AI
Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment
Università degli Studi di Genova（热那亚大学）；FAIR IALAB；University of Buenos Aires（布宜诺斯艾利斯大学）；University College London（伦敦大学学院）
研究探讨了人类在AI导致有害结果时对因果责任的归因，发现AI代理程度越高，责任归于AI；开发者虽远离事件但被归责高，用户责任降低；分解AI为大语言模型和代理组件时，代理部分更易被归责。
2026-02-17 cs.AI cs.CY
Transitive Expert Error and Routing Problems in Complex AI Systems
复杂AI系统中，传递专家误差导致领域边界处因果错误输出，通过多专家激活、边界校准和覆盖检测等干预措施加以解决。
2026-01-07 cs.AI
Pooling of Causal Models under Counterfactual Fairness via Causal Judgement Aggregation
University of Oslo（奥斯陆大学）
在本文中，我们考虑的问题，由不同的专家提供的多个概率因果模型的组合下，聚合模型满足反事实公平的标准的要求。我们建立在机器学习中因果模型和公平性的工作基础上，我们表达了在意见池框架内组合多个模型的问题。我们提出了两个简单的算法，接地理论的反事实的公平性和因果判断聚合，保证生成聚合概率因果模型尊重公平的标准，我们比较他们的行为的玩具案例研究。
2018-10-01 cs.AI cs.CY
The Causal Frame Problem: An Algorithmic Perspective
McGill University（麦吉尔大学）
框架问题（英语：Frame Problem，简称FP）是心理哲学和认识论中的一个难题，由《斯坦福哲学百科全书》（Stanford Encyclopedia of Philosophy）阐述如下：“我们如何解释我们表面上只根据与当前情况相关的东西而不必明确考虑所有不相关的东西来做出决定的能力？“在这项工作中，我们专注于FP的因果变体，因果框架问题（CFP）。假设推理机的心理因果模型可以（隐式）由因果贝叶斯网表示，我们首先引入一个概念，称为潜在水平（PL）。PL，本质上，编码一个节点相对于它的邻居在因果贝叶斯网络的相对位置。利用心理学文献的因果判断，我们证实了索赔PL可能承担如何在头脑中编码的时间。使用PL，我们提出了一个推理框架，称为PL为基础的推理框架（PLIF），它允许一个有限理性的方法CFP正式阐述在马尔的算法分析水平。我们表明，我们提出的框架，PLIF，是一致的因果判断文献中的广泛的调查结果，PL和PLIF作出了一些预测，其中一些已经支持现有的研究结果。
2017-01-26 cs.AI q-bio.NC stat.ML
Auditing Pairwise Equivalence Judgments: Self-Critique Effects and Diversity Measurement in Multi-Agent Hypothesis Generation
Johns Hopkins University（约翰霍普金斯大学）；Merck & Co., Inc.（默克公司）
本研究审计多智能体假设生成中的成对等价性判断，发现自我批判轮次增加机制级分歧，且等价规则（LLM评判者、TF-IDF、嵌入）显著影响多样性测量，表明等价性定义是关键的测量选择。
2026-10-06 cs.AI
ARGORA: Orchestrated Argumentation for Causally Grounded LLM Reasoning and Decision Making
School of EE, KAIST, Daejeon, South Korea（韩国科学技术院电子工程学院）；S2W Inc., Pangyo, South Korea（S2W公司）
ARGORA通过构建因果论证图，提升大语言模型在因果推理和决策中的准确性与修正能力。
2026-01-29 cs.AI
World Agent: Can Language Models Keep a World Running?
提出世界智能体任务，将世界生成评估从交付转向持续运行，并构建WorldAgent-Benchmark，通过维护和演绎两轨道衡量模型维持世界运行的能力，发现因果检查是各模型最薄弱环节。
2026-09-29 cs.AI
Combining Probabilistic, Causal, and Normative Reasoning in CP-logic
KU Leuven – University of Leuven（鲁汶大学）
近年来，对实际因果关系的一个适当的正式定义的探索--即，在具体的观察中所体现的因果关系，而不是一般的因果关系，已经达到了令人印象深刻的程度。在某种程度上，这是由于洞察力，这一概念在许多不同的领域，如法律理论，工程，医学，伦理学等，由于这种多样性的应用，一些研究人员已经从一个单一的理想化的定义转移到一个更务实的，基于上下文的帐户的焦点起着根本性的作用。例如，Halpern和Hitchcock最近的工作借鉴了关于人们因果判断的实证研究，提出了一个分级和上下文敏感的因果关系概念。虽然我们赞同他们的许多观察，但他们仅限于定性排序，在更复杂的例子中会遇到麻烦。因此，我们的目标是改进他们的方法，通过使用CP逻辑（因果概率逻辑）的形式语言，以及由当前作者使用它开发的定义实际因果关系的框架。首先，我们将他们的想法重新表述为我们的定量，概率设置，之后，我们修改它以适应更大类的例子。此外，我们介绍了统计和规范的考虑之间的正式区别。
2015-03-03 cs.AI
Reading Is Not Using: Retrieval, Judgment, and the Design of AI Financial Research Workflows
Carroll School of Management, Boston College（波士顿学院卡罗尔管理学院）；Columbia Business School, Columbia University（哥伦比亚大学哥伦比亚商学院）
该研究针对长上下文金融分析中存在的检索-整合缺口，通过实验发现工作流架构会影响LLMs将检索到的风险披露信息整合至投资判断的效果，指出AI分析师表现由模型能力与工作流架构共同决定。
2026-08-26 cs.AI cs.CL
Causal Preference Elicitation
University of California, Berkeley（加州大学伯克利分校）
提出一种贝叶斯框架，通过主动查询局部边关系来集中有向无环图的后验分布，实现专家参与的因果发现。
2026-06-02 cs.AI cs.LG stat.ME
Large Language Models are Effective Priors for Causal Graph Discovery
University College London（伦敦大学学院）；University of Bologna（博洛尼亚大学）
本研究提出评估LLM因果判断的度量标准，研究提示设计以指定结构先验，并整合LLM先验到图发现算法，提升常识基准性能，尤其改善边方向性判断。
2024-05-22 cs.AI cs.LG
Safety Paradox: How Enhanced Safety Awareness Leaves LLMs Vulnerable to Posterior Attack
Singapore University of Technology and Design（新加坡科技设计大学）；Nanyang Technological University（南洋理工大学）
本文揭示安全对齐增强的LLM因内部安全评估能力而面临后验攻击漏洞，通过实验和理论分析证明安全判断能力越强越易被利用，并提出因果干预验证。
2026-09-29 cs.AI
Ground(less) Truth: A Causal Framework for Proxy Labels in Human-Algorithm Decision-Making
Carnegie Mellon University（卡内基梅隆大学）
本文提出一个因果框架，系统识别并厘清人类-AI决策中代理标签的五种目标变量偏差来源，用以审视既有建模假设和实验设计，并为未来研究提供评估策略。
2023-05-25 cs.AI cs.CY cs.HC
Combining Interventional and Observational Data Using Causal Reductions
University of Amsterdam（阿姆斯特丹大学）
未观察到的混杂是估计因果效应时的主要挑战之一。我们提出了一种因果简化方法，在给定因果模型的情况下，将任意数量的可能高维潜在混杂因素替换为单个潜在混杂因素，该潜在混杂因素在与治疗变量相同的空间中取值，而不改变因果模型所需的观察和干预分布。这使我们能够从合并数据中以原则性的方式估计因果效应，而不依赖于常见但往往不切实际的假设，即所有混杂因素都已被观察到。我们在三种不同的情况下应用我们的因果还原。在第一种情况下，我们假设治疗和结果是离散的。因果关系的减少，然后意味着可以利用估计目的的观察和干预分布之间的界限。在观测样本高度不平衡的某些情况下，可以通过合并观测数据来提高因果效应估计的准确性。其次，对于连续变量，假设线性高斯模型，我们推导出观测分布和干预分布参数的等式约束。第三，对于一般的连续设置（可能是非线性和非高斯），我们参数化的减少因果模型使用规范化流，一个灵活的类容易可逆的非线性变换。我们对合成数据进行了一系列实验，发现在几种情况下，在不牺牲准确性的情况下，添加观察训练样本可以减少干预样本的数量。
2023-02-22 cs.AI cs.LG stat.ME
Provable Guarantees on the Robustness of Decision Rules to Causal Interventions
University of Oxford（牛津大学）
决策规则对数据生成过程中的变化的鲁棒性对于决策系统的成功部署至关重要。这种转变可以被视为对因果图的干预，它捕捉了数据生成过程中的变化（可能是假设的），无论是由于自然原因还是对手的行动。我们认为因果贝叶斯网络和正式定义的干预鲁棒性问题，一种新的基于模型的决策函数的鲁棒性的概念，衡量最坏情况下的性能相对于一组干预措施，表示变化的参数和/或因果关系的影响。通过依赖于一个易于处理的表示贝叶斯网络的算术电路，我们提供了有效的算法，用于计算保证的上限和下限的干预鲁棒性概率。实验结果表明，该方法产生有用的和可解释的范围内的实际网络，铺平了道路，可证明因果关系的强大的决策系统。
2021-05-19 cs.AI cs.LG
Features of Explainability: How users understand counterfactual and causal explanations for categorical and continuous features in XAI
Insight SFI Centre for Data Analytics, School of Computer Science, University College Dublin（都柏林大学学院计算机科学学院Insight SFI数据分析中心）；VistaMilk SFI Research Centre, School of Computer Science, University College Dublin（都柏林大学学院计算机科学学院VistaMilk SFI研究中心）；School of Psychology and Institute of Neuroscience, Trinity College Dublin, University of Dublin（都柏林圣三一学院心理学院和神经科学研究所）
该研究通过127人的对照实验发现，反事实解释在提升用户预测AI决策准确性上与因果解释相当但主观满意度更高，且用户对类别特征解释的理解优于连续特征。
2022-04-21 cs.AI cs.HC
Robust Weighted Triangulation of Causal Effects Under Model Uncertainty
Dept. of Mathematics and Statistics University of Massachusetts Amherst（数学与统计学系 马萨诸塞大学阿默斯特分校）
本文提出一种在模型不确定性下稳健的因果效应三角测量框架，结合因果发现与半参数理论方法，提供有效统计推断并展示其在模拟和实证中的应用。
2026-07-10 cs.AI stat.ME
Expert-Guided g-computation with Large Language Models for Estimating Causal Effects on Timings: Applications to Hospital Quality Improvement
University of California, San Francisco（加利福尼亚大学旧金山分校）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；University of Washington, Seattle（华盛顿大学西雅图分校）
本研究提出专家引导g计算法（egg-computation），结合专家判断与LLM技术，用于估计医院干预措施对平均住院时长的因果效应，在模拟和真实医院数据中表现优于传统方法。
2026-08-12 cs.AI stat.AP stat.ME
Causality matters in medical imaging
Imperial College London（帝国理工学院）
本文讨论了因果关系语言如何为医学成像机器学习的主要挑战提供新的启示：1）数据稀缺，即高质量注释的可用性有限，以及2）数据不匹配，即经过训练的算法可能无法在临床实践中推广。通过因果关系的视角来看待这些挑战，可以让有关数据收集、注释程序和学习策略的决策更加透明。我们讨论了图像和注释之间的因果关系如何不仅对预测模型的性能产生深远的影响，而且甚至可能决定首先应该考虑哪些学习策略。例如，我们得出结论，半监督可能不适合图像分割-从我们的因果分析中可能令人惊讶的见解之一，这是用计算机辅助诊断（皮肤病分类）和放射治疗（肿瘤的自动轮廓）的代表性现实世界的例子来说明的。我们强调，了解和解释医学成像数据中的因果关系对于机器学习的安全发展非常重要，对于监管和负责任的报告至关重要。为了促进这一点，我们为未来的研究提供了分步建议。
2019-12-17 cs.AI cs.CV cs.LG
