Inapproximability of sufficient reasons for decision trees
Centro Nacional de Inteligencia Artificial（国家人工智能中心）；Instituto de Ingeniería Matemática y Computacional, Universidad Católica de Chile（智利天主教大学数学与计算工程学院）；Instituto Milenio Fundamentos de los Datos（千禧年数据基础研究所）
本文证明了计算决策树$δ$-充分理由最小规模问题的近似困难性。
2023-04-05 cs.AI cs.CC
Argumentative Human-AI Decision-Making: Toward AI Agents That Reason With Us, Not For Us
New Mexico State University（新墨西哥州立大学）；King's College London（伦敦国王学院）；Imperial College London（伦敦帝国学院）；Washington University in St. Louis（圣路易斯华盛顿大学）
本文探讨论证型人机决策的新范式，结合论证框架挖掘、合成与推理，使AI代理能与人类进行辩证互动，提升高风险领域的人工智能可信度。
2026-03-16 cs.AI
On the Explanatory Power of Decision Trees
CRIL, Université d’Artois & CNRS, France（阿尔图瓦大学CRIL实验室与法国国家科学研究中心）；Institut Universitaire de France（法国大学研究院）
决策树长期以来被认为是敏感应用中的首选模型，其中可解释性至关重要。在本文中，我们研究了布尔决策树的计算能力，在推导，最小化，并计数充分的理由和对比解释。我们证明了一个决策树的实例的最小尺寸的所有充分理由的集合可以指数大于输入（实例和决策树）的大小。因此，生成全套充分理由可能是遥不可及的。此外，计算一个充分的理由通常是不够的;事实上，同一个实例的两个充分的理由可能在许多特征上有所不同。为了处理这个问题，并生成合成视图的所有充分的理由，我们引入的概念，相关的功能和必要的功能，表征（可能否定）的功能出现在至少一个或在每个充分的理由，我们表明，它们可以计算在多项式时间。我们还介绍了解释的重要性的概念，这表明如何频繁的每个（可能否定）功能是在所有充分的理由。我们展示了如何解释的重要性的一个功能和足够的理由的数量可以通过一个模型计数操作，这在许多情况下是实际的。我们还解释了如何枚举最小尺寸的充分理由。我们最后表明，不同于充分的理由，一个实例的所有对比解释的决策树的集合可以导出，最小化和计数在多项式时间。
2021-09-04 cs.AI
DFAH-Bench: What Agreement Leaves Unmeasured in Financial Agents
研究金融决策中智能体行为稳定性，引入DFAH-Bench基准，通过多渠道衡量。发现仅结果一致性不能完全反映稳定性，前沿模型存在决策与工具路径一致性差距，识别出三种行为模式，并开源相关代码和数据。
2026-10-22 cs.AI cs.CL cs.LG
A New Class of Explanations for Classifiers with Non-Binary Features
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
该研究针对非二元特征分类器，提出基于新型量化算子的改进版完整理由，进而得到更丰富的充分与必要理由类新解释，提升了分类器决策的解释信息量。
2023-07-22 cs.AI cs.LG cs.LO
Social Circuits behind Multi-agent Echo Chambers
Simon Fraser University（西蒙弗雷泽大学）；University of Alberta（阿尔伯塔大学）；Southern University of Science and Technology（南方科技大学）
针对多智能体通信中的回声室问题，提出社会电路框架追踪消息对接收者激活的影响，并据此设计CGD方法选择有用消息，在三个模型四个数据集上取得最高或并列最高准确率且生成更少令牌。
2026-09-29 cs.AI
Causal Explanations for Sequential Decision-Making in Multi-Agent Systems
University of Edinburgh（爱丁堡大学）
本文提出 CEMA 框架，利用概率模型模拟反事实世界，为动态多智能体系统中的序贯决策生成因果自然语言解释，以提升自主智能体的可信赖度，并在自动驾驶场景中验证了其有效性和对用户信任的积极影响。
2024-02-14 cs.AI cs.RO
Symbolic Decision Theory and Autonomous Systems
Imperial Cancer Research Fund（帝国癌症研究基金）
在不确定性和不完全信息下进行推理的能力是决策支持技术的基本要求。在本文中，我们认为，集中在理论技术的评估和选择的决策选项分散了注意力，从许多更广泛的问题，在决策。虽然不确定性推理的数值方法有很强的理论基础，但它们的代表性很弱，只能处理决策过程的一小部分。另一方面，基于知识的系统提供了更大的灵活性，但没有明确的决策理论。我们在这里描述的工作正在进行的象征性决策程序提供一个理论框架。一个中心的建议是一个扩展形式的推理，我们称之为论证;推理和反对决策选项从广义域理论。该方法已成功地用于几个决策支持应用程序，但有人认为，一个全面的决策理论必须涵盖自主决策，代理可以制定问题，以及采取决定。这一理论的一个主要理论挑战是捕捉反射的想法，允许决策代理人对他们的目标进行推理，他们相信什么，为什么，以及他们需要知道什么或做什么，以实现他们的目标。
2013-03-20 cs.AI
Probabilistic Models for Agents' Beliefs and Decisions
Stanford University（斯坦福大学）
智能系统的许多应用需要对领域中代理的心理状态进行推理。我们可能想推理一个智能体的信念，包括关于其他智能体的信念;我们也可能想推理一个智能体的偏好，以及他的信念和偏好如何与他的行为相关。我们定义了一个概率认知逻辑（PEL），其中的信念语句给出了一个正式的语义，并提供了一个算法，断言和查询的PEL公式在贝叶斯网络。然后，我们将展示如何通过将代理的决策过程建模为影响图并假设他的行为是理性的来推理代理的行为。然后，PEL可以用于从代理的观察到的动作推理到关于域的其他方面的结论，包括未观察到的域变量和代理的精神状态。
2013-01-16 cs.AI
Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions
本文提出CEC框架，通过对个体与反事实对照体的特征归因对齐，检测并缓解隐藏的程序性偏见，提升信用决策的公平性。
2026-05-12 cs.AI cs.CE cs.CY
What Hides behind Unfairness? Exploring Dynamics Fairness in Reinforcement Learning
Australian Artificial Intelligence Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所）
本文通过因果视角探究强化学习中长期不公平性的来源，提出动态公平性概念以区分环境动态导致的不平等，并推导识别公式进行定量评估，实验证明其能有效解释、检测和减少不平等。
2024-04-28 cs.AI cs.CY cs.LG
Sufficient reasons for classifier decisions in the presence of constraints
School of Computer Science（计算机学院）；The University of Sydney, Australia（悉尼大学，澳大利亚（注：按要求提取到大学级别，故仅保留悉尼大学））
最近的工作揭示了一个理论，推理的决策由二进制分类器：分类器描述了一个布尔函数，和背后的原因被归类为积极的实例是素蕴涵的功能，满足的实例。这些工作的一个缺点是，它们没有明确地处理已知底层数据受到约束的场景，例如，特征的某些组合可能不存在、可能不可观察或可能需要被忽略。我们提出了一个更一般的理论，也是基于素蕴涵，量身定制，考虑到限制。其主要思想是将存在约束的分类器视为描述部分布尔函数，即，在不满足约束的实例上未定义。我们证明，这个简单的想法导致的原因是不那么（有时更）简洁。也就是说，不考虑约束（例如，忽略或作为否定实例）导致被考虑约束的原因所包含的原因。我们说明了这种改进的简约合成分类器和分类器从真实数据中学习。
2021-05-12 cs.AI cs.LO
Can LLMs Extract Architectural Design Decisions from Source Code Commits? - A Preliminary Exploratory Study
International Institute of Information Technology Hyderabad（海得拉巴国际信息技术学院）；Paderborn University（帕德博恩大学）
该研究以30个开源项目的ADDs为样本，测试4种LLMs提取ADDs的效果，发现少样本提示可提升对齐度，但生成结果常缺失决策原理，为架构感知LLM系统研究提供了方向。
2026-09-04 cs.AI cs.SE
A Contractualist Argumentation Framework for Moral Decision-Making
Hospital del Mar Research Institute（德尔马医院研究所）；Ghent University（根特大学）；imec（imec研究院）
该研究针对自主智能体在共享环境中需处理冲突利益的道德决策问题，提出基于Scanlon契约论的、扩展了价值过滤的ASPIC+契约论论证框架，经实例验证其有效性并探讨了与现有方法的关联。
2026-08-04 cs.AI cs.CY
The Garden of Forking Paths: Observing Dynamic Parameters Distribution in Large Language Models
Ipazia S.p.A.（伊帕齐亚公司）；University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Florence（佛罗伦萨大学）
本研究通过观察大型语言模型训练中参数统计分布的时间演化及分岔效应，旨在理解Transformer性能，降低训练与评估成本，并揭示权重稀疏化有效性的原因。
2024-03-13 cond-mat.dis-nn cond-mat.stat-mech cs.AI
