Compact Representations of Extended Causal Models
Cornell University(康奈尔大学);California Institute of Technology(加州理工学院)
朱迪亚·珀尔是第一个使用因果模型提出实际因果关系定义的人。许多作者认为,对实际因果关系的充分说明不仅要诉诸因果结构,而且要考虑到正常性。在早期的工作中,我们使用扩展的因果模型提供了实际因果关系的定义,其中包括因果结构和常态的信息。扩展的因果模型可能非常复杂。在本文中,我们将展示如何实现扩展因果模型的紧凑表示。
2013-09-05 cs.AI
What caused what? A quantitative account of actual causation using dynamical causal networks
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Tufts University(塔夫茨大学)
实际因果关系涉及的问题是“什么导致了什么?“考虑一个由相互作用的元素组成的系统中的两个状态之间的转换,比如一个人工神经网络,或者一个生物大脑回路。哪种突触组合导致神经元放电?哪些图像特征导致分类器误解图片?即使详细了解系统的因果网络,其元素,它们的状态,连接性和动态,也不能自动提供一个简单的答案,“什么导致了什么?”“问题。基于图形模型的实际因果关系的反事实描述,与系统干预相结合,已经证明了在解决符合直觉因果判断的特定问题案例方面的初步成功。在这里,我们从一组因果关系的基本要求(实现,组成,信息,集成和排除),并制定了严格的,定量的实际因果关系,一般适用于离散动力系统。我们提出了一个正式的框架来评估这些因果关系的要求,是基于系统的干预和分区,并考虑所有的反事实的状态转换。该框架通过识别和量化连接两个连续系统状态的所有实际原因和影响的强度来提供对过渡的完整因果解释。最后,我们研究了几个典型的案例和悖论的因果关系,并表明,他们可以照亮所提出的框架,量化实际的因果关系。
2019-01-09 cs.AI math.ST stat.TH
The Counterfactual NESS Definition of Causation
Munich Center for Mathematical Philosophy(慕尼黑数学哲学中心);Ludwig Maximilian University(路德维希马克西米利安大学)
在之前与Joost Vennekens的合作中,我提出了一个基于某些合理原则的实际因果关系的定义,从而使关于因果关系的辩论从对实例的严重关注转向更系统的分析。本文从两个方面对这一分析作出了贡献。首先,我表明,我们的定义实际上是一个形式化的赖特著名的NESS定义的因果关系相结合的反事实的差异制造条件。这意味着,我们的定义整合了两种非常有影响力的因果关系方法,这两种方法声称彼此对立。第二,我修改了我们的定义,以提供一个实质性的改进:我削弱了差异制造条件,以这样一种方式,它避免了有问题的分析情况下的优先购买权。由此产生的反事实NESS因果关系定义形成了反事实方法和NESS方法之间的自然妥协。
2020-12-15 cs.AI
Sufficient and necessary causation are dual
CISPA, Saarland University(萨尔大学 CISPA 亥姆霍兹信息安全中心);Saarland Informatics Campus(萨尔信息学园区)
因果关系是自希波克拉底以来哲学争论的焦点。最近的工作定义了实际的因果关系方面的珍珠/哈尔彭的因果关系框架,形式化的必要原因(IJCAI'15)。这启发了安全领域的因果关系概念(CSF'15),这可能令人惊讶,而不是形式化的充分原因。我们提供了必要原因和充分原因之间的明确关系。
2017-10-25 cs.AI cs.LO
Combining Probabilistic, Causal, and Normative Reasoning in CP-logic
KU Leuven – University of Leuven(鲁汶大学)
近年来,对实际因果关系的一个适当的正式定义的探索--即,在具体的观察中所体现的因果关系,而不是一般的因果关系,已经达到了令人印象深刻的程度。在某种程度上,这是由于洞察力,这一概念在许多不同的领域,如法律理论,工程,医学,伦理学等,由于这种多样性的应用,一些研究人员已经从一个单一的理想化的定义转移到一个更务实的,基于上下文的帐户的焦点起着根本性的作用。例如,Halpern和Hitchcock最近的工作借鉴了关于人们因果判断的实证研究,提出了一个分级和上下文敏感的因果关系概念。虽然我们赞同他们的许多观察,但他们仅限于定性排序,在更复杂的例子中会遇到麻烦。因此,我们的目标是改进他们的方法,通过使用CP逻辑(因果概率逻辑)的形式语言,以及由当前作者使用它开发的定义实际因果关系的框架。首先,我们将他们的想法重新表述为我们的定量,概率设置,之后,我们修改它以适应更大类的例子。此外,我们介绍了统计和规范的考虑之间的正式区别。
2015-03-03 cs.AI
On the Semantics of Primary Cause in Hybrid Dynamic Domains
University of Regina(里贾纳大学)
本文在混合行动理论框架下提出了两种初级原因的定义,通过贡献形式化因果关系,并证明其等价性。
2026-02-16 cs.AI
Moral reinforcement learning using actual causation
Technical University of Denmark(丹麦技术大学)
强化学习系统将在越来越大的程度上做出对人类福祉产生重大影响的决策,因此,这些系统做出符合我们对道德良好行为的期望的决策至关重要。道德上的善通常被定义为因果关系,如一个人的行为是否确实导致了特定的结果,以及该结果是否可以被预期。我们提出了一种在线强化学习方法,该方法在代理不应该造成伤害的约束下学习策略。这是通过使用实际因果关系理论定义原因,并在代理人的行为是不良结果的实际原因时将责任归咎于代理人来实现的。我们对一个玩具伦理困境进行了实验,在这个玩具伦理困境中,奖励函数的自然选择会导致明显不受欢迎的行为,但我们的方法学习了一种避免成为有害行为原因的政策,证明了我们方法的合理性。允许智能体在观察因果道德差异(如责备)的同时进行学习,为学习更符合我们道德判断的政策提供了可能性。
2022-05-17 cs.AI cs.CY cs.LG
Reasoning about Actual Causes in Nondeterministic Domains -- Extended Version
University of Regina(里贾纳大学);York University(约克大学)
本文研究非确定性领域中的实际因果推理,基于非确定性情境演算提出“必然导致”和“可能导致”概念,并扩展回归方法以支持对这些实际因果关系概念的推理。
2024-12-21 cs.AI
Action Languages Based Actual Causality for Computational Ethics: a Sound and Complete Implementation in ASP
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);National Institute of Informatics(国立信息学研究所);École Normale Supérieure(巴黎高等师范学院);Université PSL(巴黎文理研究大学);Collège de France(法兰西公学院)
本文提出将适用于行动语言的actual causation定义(Wright的NESS测试形式化)完备可靠地翻译为逻辑编程,使智能体能在ASP中处理复杂因果关系,从而拓展计算伦理学可处理的伦理情境。
2023-05-24 cs.AI
Thinking About Causation: A Causal Language with Epistemic Operators
University of Helsinki(赫尔辛基大学);ILLC, Universiteit van Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所);University of Bergen(卑尔根大学)
本文提出了一个正式的框架建模的因果关系和(定性)认知推理的相互作用。为了这个目的,我们扩展了因果模型的概念与代理的认知状态的表示。在对象语言方面,我们添加了运算符来表达知识和观察新信息的行为。我们提供了一个健全的和完整的公理化的逻辑,并讨论了这个框架的因果团队语义的关系。
2020-10-30 cs.AI cs.LO
Causes and Explanations: A Structural-Model Approach, Part I: Causes
我们提出了一个新的定义的实际原因,使用结构方程模型反事实。我们表明,该定义产生一个合理的和优雅的因果关系,处理好的例子,造成了其他定义的问题,并解决了主要困难,在传统的帐户。
2005-11-07 cs.AI
Searching for Actual Causes: Approximate Algorithms with Adjustable Precision
Telecom Paris, LTCI, IPParis(电信巴黎学院、LTCI、IPParis)
针对非专业用户期望的“实际原因”难以形式化且识别为NP完全问题,提出一组多项式复杂度、精度可调的算法,能处理非布尔、黑盒和随机系统并平衡精度与计算时间。
2026-09-29 cs.AI
A Causal Analysis of Harm
University of Tübingen(图宾根大学);LMU(慕尼黑大学);causaLens;King’s College London(伦敦国王学院);Cornell University(康奈尔大学)
随着自主系统迅速变得无处不在,越来越需要一个法律和监管框架来解决此类系统何时以及如何伤害某人的问题。在哲学文献中曾有几次试图界定伤害的定义,但没有一次证明能够处理所提出的许多例子,导致一些人建议应放弃伤害的概念,“代之以更规范的概念”。由于伤害通常是造成的,这些定义大多涉及某种程度的因果关系。然而,令人惊讶的是,他们都没有使用因果模型和他们可以表达的实际因果关系的定义。在本文中,我们正式定义了一个定性的伤害概念,该概念使用因果模型,并基于众所周知的实际因果关系定义(Halpern,2016)。我们的定义的关键新颖之处在于,它是基于对比因果关系,并使用一个默认的效用,实际结果的效用进行比较。我们表明,我们的定义是能够处理的例子,从文献中,并说明其重要性,推理的情况下,涉及自治系统。
2023-01-19 cs.AI
T-CPDL: A Temporal Causal Probabilistic Description Logic for Developing Logic-RAG Agent
University of Derby(德比大学)
本文提出时序因果概率描述逻辑T-CPDL,扩展传统描述逻辑以处理时间、因果和概率推理,实验证明其显著提升语言模型推理准确性与可解释性,并为Logic-RAG框架奠定基础。
2025-06-23 cs.AI cs.LO
The Difficulties of Learning Logic Programs with Cut
因为真正的逻辑程序员通常使用cut(!),一个有效的逻辑程序学习过程应该能够处理它。2因为cut谓词只有过程意义,所以包含cut的子句不能像大多数学习系统那样使用外延求值方法来学习。另一方面,搜索可能程序的空间(而不是独立子句的空间)是不可行的。另一种解决方案是首先生成一个候选基础程序,该程序覆盖了正例,然后通过在适当的地方插入cut来使其一致。以前没有研究过用cut学习程序的问题,这似乎是一种自然合理的方法。我们推广这个计划,并调查所产生的困难。一般来说,一些主要的缺点实际上是由于需要内涵评价造成的。作为一个结论,本文的分析表明,在精确和技术的理由,学习切是困难的,目前的归纳技术可能应限于纯粹的声明性逻辑语言。
1993-11-01 cs.AI
Combining LLMs with Logic-Based Framework to Explain MCTS
Vanderbilt University(范德比大学);Eindhoven University of Technology(埃因霍温理工大学)
针对序列规划中AI信任缺失问题,提出一种结合计算树逻辑与LLM的解释框架,用于解答关于MCTS和MDP的查询,确保事实一致性,并在准确性和事实一致性上表现优异。
2025-05-01 cs.AI
Extending Automated Deduction for Commonsense Reasoning
Tallinn University of Technology(塔林理工大学)
常识推理一直被认为是人工智能的圣杯之一。该领域的大多数最新进展都是通过用于自然语言处理的新型机器学习算法实现的。然而,如果不结合逻辑推理,这些算法仍然可以说是肤浅的。除了一些值得注意的例外,实际的自动化逻辑推理机的开发人员大多避免关注这个问题。本文认为,经典一阶逻辑的现有自动推理机所使用的方法和算法可以扩展到常识推理。而不是设计新的专门的逻辑,我们提出了一个框架的扩展主流的分辨率为基础的搜索方法,使这些能够执行搜索任务的实际常识推理合理的效率。建议的扩展主要依赖于普通的证明树上操作,旨在处理常识知识库,包含不一致,默认规则,分类,主题,相关性,置信度和相似性的措施。我们认为,机器学习最适合于常识知识库的构建,而扩展的基于逻辑的方法将非常适合于实际回答来自这些知识库的查询。
2020-03-29 cs.AI
The formal-logical characterisation of lies, deception, and associated notions
King’s College London(伦敦国王学院)
以形式化的方式定义各种不诚实的概念是使智能代理能够在不可信的环境中行动的关键步骤。这篇评论评估了这一主题的文献,通过查看基于模态逻辑的正式定义以及其他正式的方法。哲学基础的标准被用来评估定义的正确性和完整性。这篇评论的主要贡献是表明只有少数定义完全符合这一黄金标准,并指出在实际代理环境中成功应用这些定义所缺少的步骤。
2016-12-28 cs.AI cs.LO cs.MA
Bridging Legal Interpretation and Formal Logic: Faithfulness, Assumption, and the Future of AI Legal Reasoning
University of California, Santa Cruz(加州大学圣克鲁兹分校)
本文提出一种结合大语言模型与形式验证的神经符号方法,旨在提升AI辅助法律推理的可靠性与可信度,减少人工验证负担。
2026-05-13 cs.AI cs.CL cs.CY