ArgLLM-App: An Interactive System for Argumentative Reasoning with Large Language Models
Imperial College London(伦敦帝国学院)
ArgLLM-App是一个基于大语言模型的论证推理交互系统,通过可视化解释和用户交互实现决策的可解释性和可挑战性。
2026-02-27 cs.AI cs.CL
A User Study Evaluating Argumentative Explanations in Diagnostic Decision Support
Bielefeld University(比勒菲尔德大学);CITEC(CITEC研究中心);Semantic Computing Group(语义计算组);Bielefeld University, Medical School and University Medical Center OWL(比勒菲尔德大学医学院和OWL大学医学中心);Mara Hospital, Department of Epileptology(马拉医院,癫痫科);Ruhr-Epileptology, University Hospital Knappschaftskrankenhaus Bochum(鲁尔-癫痫学,博希姆大学医院Knappschaftskrankenhaus);Ruhr-University(鲁尔大学)
本文通过医生问卷与访谈的用户研究,评估诊断决策支持中不同 AI 生成的论证性解释,以识别最有效、最有用且能促进信任的解释类型。
2025-05-15 cs.AI
Argumentative Large Language Models for Explainable and Contestable Claim Verification
Department of Computing, Imperial College London, UK(伦敦帝国学院计算机系)
本文提出论证大型语言模型(ArgLLMs),通过引入论证推理增强LLMs,使其决策可解释且可争议,通过实验验证其在主张验证任务中的性能。
2025-04-18 cs.AI cs.CL
Annotation and Classification of Evidence and Reasoning Revisions in Argumentative Writing
Learning Research and Development Center(学习研究与发展中心);University of Pittsburgh(匹兹堡大学)
自动写作评估系统可以提高学生的写作,只要学生注意到提供的反馈,并以与这些反馈一致的方式修改他们的论文草稿。然而,现有的关于在这种系统中修改议论文的研究主要集中在学生修改的类型上(例如,表面vs.内容),而不是修改实际上对所提供的反馈做出反应并改进文章的程度。我们引入了一个注释计划,以捕捉证据使用和推理(“RER”计划),并将其应用到第五和第六年级学生的议论文水平的修订的性质。我们表明,可以实现可靠的手动注释,修订注释与根据提供的反馈对论文改进进行整体评估相关。此外,我们探讨了根据我们的计划自动分类修订的可行性。
2021-07-14 cs.AI cs.CL cs.LG
Towards Preserving Semantic Structure in Argumentative Multi-Agent via Abstract Interpretation
近二十年来,论证在知识表示、推理和多智能体系统等领域受到了广泛关注。然而,在动态多智能体系统中的论证遇到的问题,显着的论点产生的代理,这是在牺牲代表的复杂性和计算成本。在这项工作中,我们的目标是从模型检查的角度来研究抽象的概念,其中有几个参数试图从不同的角度来捍卫相同的位置,从而减少论证框架的大小,同时保留系统中的语义流结构。
2022-11-28 cs.AI
Argumentative XAI: A Survey
Ericsson Research(爱立信研究院);Imperial College London(帝国理工学院);Università degli Studi di Brescia(布雷西亚大学)
可解释人工智能(XAI)已经研究了几十年,近年来与人工智能本身一起见证了前所未有的增长。在XAI的各种方法中,论证模型在AI和社会科学文献中都得到了提倡,因为它们的辩证性质似乎与解释活动的一些基本理想特征相匹配。在本调查中,我们概述了XAI方法,这些方法使用计算论证领域的方法构建,利用其广泛的推理抽象和解释交付方法。我们概述了文献集中在不同类型的解释(内在的和事后的),不同的模型,基于论证的解释部署,不同形式的交付,以及他们使用的不同的论证框架。我们还为未来的工作制定了路线图。
2021-05-24 cs.AI
MoralReason: Generalizable Moral Decision Alignment For LLM Agents Using Reasoning-Level Reinforcement Learning
针对大语言模型智能体的分布外道德对齐难题,本文提出基于推理级强化学习的MoralReason方法,构建Moral-Reason-QA数据集并采用复合奖励的GRPO训练,实现了未见过场景下的道德决策对齐能力提升。
2025-11-15 cs.AI
Learning and Reasoning for Robot Sequential Decision Making under Uncertainty
SUNY Binghamton(纽约州立大学宾汉姆顿分校);University of Indianapolis(印第安纳波利斯大学)
机器人经常面临需要多个动作的复杂任务,其中顺序决策(SDM)功能变得必要。这项工作的关键贡献是一个机器人SDM框架,称为LCORPP,支持同时的能力,监督学习被动状态估计,自动推理与人类知识的陈述,并规划下实现长期目标的不确定性。特别是,我们使用一个混合推理范式来完善的状态估计,并提供信息先验的概率规划。在实验中,移动机器人的任务是估计人类的意图,使用他们的运动轨迹,声明性的上下文知识,和人机交互(基于对话和基于运动)。结果表明,在效率和准确性,我们的框架表现优于其无学习和无推理的办公环境。
2019-12-10 cs.AI
Free Argumentative Exchanges for Explaining Image Classifiers
Imperial College London(帝国理工学院)
提出基于双智能体辩论的多智能体论证框架FAX,用于生成图像分类器的可解释输出,并通过共识度与说服率实验证明其更忠实有效。
2025-02-18 cs.AI
Advancing Algorithmic Approaches to Probabilistic Argumentation under the Constellation Approach
Institute of Software Technology, Graz University of Technology(格拉茨工业大学软件技术研究所)
本文研究星座方法下概率论证推理的高复杂度问题,区分两类计数任务的复杂度,并提出基于树分解动态规划的完全外延概率计算算法,实验显示其具有应用前景。
2024-07-06 cs.AI
Argumentation-based Agents that Explain their Decisions
Federal University of Technology - Paraná (UTFPR)(巴拉那联邦理工大学)
可解释的人工智能(XAI)系统,包括智能代理,必须能够向与之交互的人类(或其他系统)解释其内部决策、行为和推理。在本文中,我们专注于BDI(信念-欲望-意图)代理的扩展模型如何能够生成关于他们的推理的解释,特别是关于他决定承诺的目标。我们的建议是基于论证理论,我们使用参数来表示的原因,导致代理人作出决定,并使用论证语义来确定可接受的论点(原因)。我们提出了两种类型的解释:部分的和完整的。我们将我们的建议应用于救援机器人的场景。
2020-09-13 cs.AI
Neuro-Argumentative Learning with Case-Based Reasoning
Imperial College London(伦敦帝国学院)
本研究提出神经符号分类模型Gradual AA-CBR,结合论证辩论结构与神经特征提取器,在保持与神经网络相当性能的同时提升可解释性,且在多分类等多方面优于现有纯符号AA-CBR。
2025-05-21 cs.AI cs.LG
Argumentatively Coherent Judgmental Forecasting
Department of Computing, Imperial College London, UK(帝国理工学院计算系);Department of Informatics, King’s College London, UK(伦敦国王学院信息学系)
本文提出并定义论证连贯性性质,通过评估表明过滤不连贯预测可提升人类及LLM预测准确性,但用户对该性质认同度低,需在基于论证的判断性预测中整合过滤机制。
2025-08-25 cs.AI
Argumentation for Explainable Scheduling (Full Paper with Proofs)
Imperial College London(帝国理工学院)
数学优化提供了高效的工具,用于为具有明确目标的问题(特别是调度)找到解决方案。然而,优化求解器通常是无法解释的黑盒子,其解决方案对用户不可访问,并且用户无法与之交互。我们定义了一个新的范例,使用论证,使优化求解器和用户之间的互动,支持的证明或反驳解决方案的易于处理的解释。解决方案可以来自求解器或用户感兴趣的解决方案(在“假设”场景的上下文中)。具体来说,我们定义的论证和自然语言解释为什么时间表是(不)可行的,(不)有效的或(不)满足固定用户的决定,基于模型的基本完工时间调度问题的抽象论证框架(AF)。我们定义了三种类型的AF,其稳定的扩展是在一对一的对应关系的时间表是可行的,有效的和满足固定的决策,分别。我们从这些AF中提取出论证性解释,并从论证性解释中提取出自然语言解释。
2019-02-20 cs.AI
Critical-Questions-of-Thought: Steering LLM reasoning with Argumentative Querying
University of Lincoln(林肯大学);Brunel University of London(伦敦布鲁内尔大学)
本文针对LLM逻辑与数学推理泛化能力弱的问题,提出基于Toulmin论证模型中“批判性问题”的推理引导方法,通过探究推理过程纠正逻辑错误,在MT-Bench上表现优于基线及CoT。
2024-12-19 cs.AI cs.CL
Reward Design for Justifiable Sequential Decision-Making
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);Saarland University(萨尔大学)
本文提出用零和辩论博弈构建奖励模型以量化决策可辩护性,并训练可辩护策略,在脓毒症治疗决策中证明该反馈能显著提升策略可辩护性且几乎不损失性能,同时与理想裁判反馈相当。
2024-02-24 cs.AI cs.LG
Defeasible Logic Programming: An Argumentative Approach
这里报告的工作介绍了可废止逻辑编程(DeLP),一种形式主义,结合逻辑编程和可废止论证的结果。DeLP提供了以弱规则的形式以声明的方式表示信息的可能性,以及用于证明蕴涵结论的可废止论证推理机制。在DeLP中,论证形式主义将用于在矛盾的目标之间做出决定。论证将得到论证的支持,而这些论证可能会被其他论证击败。一个查询q将成功时,有一个参数A的q是有保证的,即,参数A,支持q是发现不败的保证程序,实现了辩证分析。DeLP的可废止论证基础允许构建处理动态域中不完整和矛盾信息的应用程序。因此,所得到的方法是适合于代表代理的知识,并为代理提供一个基于论证的推理机制。
2003-02-20 cs.AI
ORDDAR: Observation-Driven Reasoning for Distortion-Resilient Decision, Action, and Cognitive Recovery
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校);Google Research(谷歌研究院)
本研究提出ORDDAR推理框架,通过局部认知状态转换检测、失真定位与针对性修复,提升了多类推理任务的质量、恢复能力与可解释性。
2026-09-01 cs.AI cs.LG
Probabilistic Deduction: an Approach to Probabilistic Structured Argumentation
Nanyang Technological University(南洋理工大学)
本文介绍了概率推理(PD)作为一种概率结构化论证的方法。PD框架由概率规则(p-规则)组成。作为经典结构化论证框架中的规则,p-规则构成了演绎系统。此外,p规则还表示定义联合概率分布的条件概率。在PD框架下,通过求解规则概率可满足性来进行概率推理。同时,通过论证和攻击,可以获得对概率推理的论证性解读。在这项工作中,我们介绍了封闭世界假设(P-CWA)的概率版本,并证明我们的概率方法符合P-CWA下的经典论证的完全扩展和最大熵推理。我们提出了几种方法来计算联合概率分布从p-规则实现一个实用的证明理论PD。PD提供了一个框架,以统一的概率推理与论证推理。这是第一个工作的概率结构化论证的联合分布是不假定形式的外部来源。
2022-09-01 cs.AI
Towards an Argumentative Foundation for Evaluative AI
Imperial College London(伦敦帝国学院);The University of Queensland(昆士兰大学);Cardiff University(卡迪夫大学);King’s College London(伦敦国王学院)
该研究提出以计算论辩为基础,为具备可解释性和可争议性的评估型人工智能(EAI)提供正式可计算基础,推动构建分布式、以人类为中心的EAI系统。
2026-08-11 cs.AI cs.MA
Adaptive Collaboration of Arena-Based Argumentative LLMs for Explainable and Contestable Legal Reasoning
ACAL通过自适应多智能体协作和 Arena 基础论证框架,提升法律推理的可解释性和可争议性,实验证明其在效率和透明度上的优势。
2026-02-21 cs.AI cs.MA cs.SC
Beyond the Known: Decision Making with Counterfactual Reasoning Decision Transformer
Applied AI Institute, Deakin University, Australia(应用人工智能研究所,德肯大学,澳大利亚);School of IT, Deakin University, Australia(信息学院,德肯大学,澳大利亚)
本文提出CRDT框架,通过生成和利用反事实经验增强DT在数据有限、动态变化及未见场景中的决策与轨迹拼接能力,并在Atari和D4RL上验证其优于传统DT。
2025-05-14 cs.AI cs.LG
OmouAI: Argumentative Human-AI Policy Deliberation with Simulated Personas
New Mexico State University(新墨西哥州立大学);Washington University in St. Louis(圣路易斯华盛顿大学);United Nations University(联合国大学)
OmouAI结合LLMs与计算论证,通过模拟人格支持人类参与政策审议,以确定性的论证语义评估外部目标,减少谄媚并提供忠实解释。
2026-09-28 cs.AI
SpArX: Sparse Argumentative Explanations for Neural Networks [Technical Report]
Imperial College London(帝国理工学院);Cardiff University(卡迪夫大学)
本文提出SpArX方法,利用多层感知机与量化论证框架的关系,通过稀疏化MLP并转换为等价QAF,生成全局或局部论证解释,以更忠实地揭示神经网络的决策机制与实际推理过程。
2023-07-31 cs.AI cs.LG stat.ML
Can formal argumentative reasoning enhance LLMs performances?
Brunel University London(伦敦布鲁内尔大学);University of Lincoln(林肯大学)
本文提出MQArgEng流水线,将计算论证语义引入大语言模型,以提升其推理与对话性能;基于MT-Bench的初步实验表明该方法在多数主题类别中带来适度性能提升,验证了其可行性。
2024-05-16 cs.AI cs.CL
Neurosymbolic Learning for Inference-Time Argumentation
Department of Computing, Imperial College London(伦敦帝国理工学院计算机系)
本文提出了一种用于三元主张验证的可训练神经符号框架,通过在训练和推理过程中结合形式论证语义来指导大语言模型生成论证并分配基础分数,从而提高三元预测的准确性。
2026-06-09 cs.AI
StartLux-Decision: AutoThink Decision Models with Reinforcement Learning for Calibrated Deliberative Decisions
StartLux;The University of Hong Kong(香港大学);Southern University of Science and Technology(南方科技大学)
该研究推出StartLux-Decision系列决策模型,含Instant与AutoThink变体,通过三阶段训练及RLCD²强化学习方法优化,在Decision Index 0.3和DecisionPivot基准上取得优异表现。
2026-10-21 cs.AI cs.CL
AKReF: An argumentative knowledge representation framework for structured argumentation
本文提出论证知识表示框架AKReF,将论证文本转化为论证知识图(AKG),通过应用肯定前件式和推理标记识别隐式间接关系,支持论证连贯性检查与冲突集提取等复杂推理任务。
2025-07-15 cs.AI cs.CL cs.LG
PeerArg: Argumentative Peer Review with LLMs
Imperial College London(伦敦帝国学院)
本文提出结合 LLM 与知识表示的 PeerArg 论证式同行评审系统,依据评审意见预测论文接收,并在三个数据集上验证其一种变体优于少样本端到端 LLM。
2025-02-18 cs.AI
Evaluating Uncertainty Quantification Methods in Argumentative Large Language Models
Imperial College London(帝国理工学院伦敦分校);King’s College London(伦敦国王学院)
本文评估了在论证大语言模型中不同不确定性量化方法在声明验证任务中的性能,发现直接提示法效果优于复杂方法。
2025-09-26 cs.AI cs.CL
Deep Arguing
Department of Computing(计算系);Imperial College London(帝国理工学院伦敦校区)
本文提出深度辩论方法,结合深度学习与辩论构建与推理,实现多模态数据的可解释分类。通过端到端训练学习特征表示和辩论交互,提升可解释性和预测性能。
2026-05-11 cs.AI
Natural-Language Multi-Agent Simulations of Argumentative Opinion Dynamics
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文提出了一种基于自然语言主体的论证模型(ABMA)。它的人工慎思代理(ADA)是在人工智能和计算语言学中最近发展起来的所谓神经语言模型的帮助下构建的。ADA配备了一个最低限度的信念系统,并可能产生和提交新的贡献的对话。自然语言ABMA允许我们用英语模拟集体审议,即用论据、理由和主张本身,而不是用它们的数学表示(如在正式模型中)。本文使用自然语言ABMA来测试论证的正式理性平衡模型的鲁棒性[Maes & Flache 2013,Singer et al. 2019]:首先,只要ADA保持被动,确认偏差和同质更新就会触发极化,这与正式模型的结果一致。然而,一旦ADA开始积极地产生新的贡献,保守性的演变就由代理人 * 作为作者 * 的属性主导。这表明,创造新的论点,理由和主张对对话产生了关键性的影响,对于理解集体审议的动态具有至关重要的意义。论文最后指出了该模型的进一步富有成效的应用以及未来研究面临的挑战。
2021-04-14 cs.AI cs.CL cs.CY
MArgE: Meshing Argumentative Evidence from Multiple Large Language Models for Justifiable Claim Verification
MArgE框架通过为多个大语言模型的证据构建形式化论证树,实现可辩护的声明验证,实验证明其性能优于单个模型及非结构化多模型辩论方法。
2025-08-04 cs.AI cs.CL
When Should a Robot Think? Resource-Aware Reasoning via Reinforcement Learning for Embodied Robotic Decision-Making
Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所);Northeastern University(东北大学);Harvard University(哈佛大学);Cornell University(康奈尔大学);MIT(麻省理工学院);Fujitsu Research of America(美国富士通研究);Tsinghua University(清华大学);Peking University(北京大学);University of Georgia(佐治亚大学);Florida International University(佛罗里达国际大学);EmbodyX Inc(EmbodyX公司);Cisco Systems(思科系统)
提出RARRL框架,通过强化学习学习高层编排策略,使具身代理能自适应决定是否调用LLM推理、选择推理角色及分配计算预算,以平衡推理开销与任务成功率。
2026-08-25 cs.AI cs.LG cs.RO
Transfer learning with causal counterfactual reasoning in Decision Transformers
causaLens;King’s College London(伦敦国王学院)
适应环境突发事件变化的能力是强化学习中的一个重要挑战。事实上,将先前获得的知识转移到具有看不见的结构特性的环境中可以大大提高构建新的最优策略的灵活性和效率。在这项工作中,我们研究了环境动态变化下的迁移学习问题。在这项研究中,我们在离线强化学习设置中应用因果推理,将学习到的策略转移到新的环境中。具体来说,我们使用决策Transformer(DT)架构来提取新环境的新策略。DT通过在源环境的事实和反事实模拟上执行策略部署来收集数据。我们表明,这种机制可以引导一个成功的政策目标环境,同时保留大部分的奖励。
2021-10-27 cs.AI cs.LG stat.ML
VIPER: Visual Perception and Explainable Reasoning for Sequential Decision-Making
Sorbonne Université, CNRS, ISIR(索邦大学、国家科学研究中心、ISIR)
VIPER提出融合VLM感知与LLM推理的模块化框架,通过文本中间表示增强可解释性,在ALFWorld上超越现有视觉指令规划器。
2025-09-10 cs.AI cs.LG cs.RO
CasiMedicos-Arg: A Medical Question Answering Dataset Annotated with Explanatory Argumentative Structures
Université Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);I3S(信息科学与信号处理实验室);HiTZ Center - Ixa(HiTZ中心-Ixa团队);University of the Basque Country UPV/EHU(巴斯克大学)
本研究提出首个多语言医学问答数据集CasiMedicos-Arg,标注了临床病例诊断解释的论证结构与关系,为论证挖掘任务提供基准,可辅助住院医生训练解释能力。
2024-10-08 cs.AI cs.CL
Reasoning with Sampling: Cutting at Decision Points
Yale University(耶鲁大学);Stanford University(斯坦福大学)
提出Entropy-Cut Metropolis-Hastings算法,利用基础模型的下一词元熵作为代理识别关键决策点并重新采样,从而高效地从幂分布中采样以增强推理能力,在多个基准上超越基线和RL训练模型。
2026-09-30 cs.AI cs.CL cs.LG
Interactive Explanations by Conflict Resolution via Argumentative Exchanges
Imperial College London(帝国理工学院)
针对XAI领域现有研究多聚焦静态解释的问题,提出基于计算论辩的论辩式交流(AXs)框架,用于智能体间冲突解决,分析其理论特性并通过模拟实验验证不同智能体行为的冲突解决效果。
2023-06-09 cs.AI cs.MA
Guidelines for the Annotation and Visualization of Legal Argumentation Structures in Chinese Judicial Decisions
Law School, Nanjing University(南京大学法学院)
提出一个系统化、可操作的标注框架,用于表示司法判决中的法律论证结构,支持大规模司法推理分析和法律论证挖掘。
2026-06-17 cs.AI cs.CL
A novel structured argumentation framework for improved explainability of classification tasks
Technological University Dublin(都柏林理工大学)
本文提出扩展论证决策图($xADG$)框架,通过布尔逻辑和多前提支持构建更简洁的论证图,在分类任务中实现高准确率并减少支持数量,优于其他$ADG$方法。
2023-06-27 cs.AI cs.LG cs.LO
Contestable Multi-Agent Debate with Arena-based Argumentative Computation for Multimedia Verification
University of New Brunswick(新 Brunswick大学);University of Science, VNU-HCM(越南国家大学科学学院(VNU-HCM))
本文提出一种可争议的多智能体框架,结合多模态大语言模型、外部验证工具和基于竞技场的定量双极论证,以解决多媒体验证的透明性和可争议性问题。
2026-05-14 cs.AI cs.MM
Have You Been Convinced? A Neuro-symbolic Argumentation Reasoning Approach to Detecting Persuasiveness in ChangeMyView Discussions
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);Universidade da Coruña(拉科鲁尼亚大学);Spanish National Research Council(西班牙国家研究委员会)
该研究提出神经符号论证推理系统NARS,构建CMV2BAS数据集,结合检索增强迭代LLM推理与渐进式论证语义学检测ChangeMyView讨论的说服力,其性能优于零样本大模型,同时明确了关键挑战并发布相关资源。
2026-10-14 cs.AI cs.CL cs.SC
Dealing with Qualitative and Quantitative Features in Legal Domains
Inst. for Computer Science and Eng. (UNS-CONICET)(计算机科学与工程研究所(南方国立大学-阿根廷国家科学技术研究委员会));Universidad Nacional del Sur(南方国立大学);Universidad Nacional de Santiago del Estero(圣地亚哥德尔埃斯特罗国立大学);University of Bologna(博洛尼亚大学)
在这项工作中,我们丰富了论证的形式主义,包括一个正式的特征相关的知识,以捕捉适当的推理在法律领域。我们以标签的形式将元数据信息添加到参数中,这些标签表示关于参数的定量和定性数据。这些标签根据参数之间的支持、冲突和聚合关系通过论证图传播。
2019-03-05 cs.AI
LLM-based Argument Mining meets Argumentation and Description Logics: a Unified Framework for Reasoning about Debates
Department of Informatics, Modeling, Electronics and System Engineering University of Calabria, Italy(信息学、建模、电子与系统工程系 卡拉布里亚大学)
本文提出一种结合论证挖掘与描述逻辑的统一框架,用于分析辩论的透明、可解释和形式化方法。
2026-03-03 cs.AI
Explaining Random Forests using Bipolar Argumentation and Markov Networks (Technical Report)
Imperial College London(伦敦帝国学院)
随机森林是一种决策树集成,可用于解决各种机器学习问题。然而,由于树木的数量和它们的个体大小可能很大,它们的决策过程往往是不可理解的。为了对决策过程进行推理,我们建议将其表示为一个论证问题。我们概括了充分和必要的论证的解释,使用马尔可夫网络编码,讨论这些解释的相关性,并建立家庭的溯因解释从文献中的关系。由于解释问题的复杂性很高,我们讨论了概率近似算法,并提出了第一个实验结果。
2022-11-21 cs.AI cs.LG cs.LO
Understanding ProbLog as Probabilistic Argumentation
Imperial College London(伦敦帝国理工学院);Leipzig University(莱比锡大学);KU Leuven(鲁汶大学)
本文证明概率逻辑编程语言ProbLog是基于假设基础论证的概率抽象论证的一种实例,从而为ProbLog引入替代语义和论证性解释铺平道路。
2023-08-30 cs.AI
Towards Developing Ethical Reasoners: Integrating Probabilistic Reasoning and Decision-Making for Complex AI Systems
The University of Edinburgh(爱丁堡大学)
针对现有AI伦理框架适应性不足的问题,提出一个结合中间表示、概率推理和知识表示的元级伦理推理框架,支持个体与多智能体决策,并给出定理基础,以构建稳健可靠的伦理AI系统。
2025-02-28 cs.AI
Reasoning about the Value of Decision-Model Refinement: Methods and Application
Stanford University(斯坦福大学);Rockwell International Science Center(罗克韦尔国际科学中心);National University of Singapore(新加坡国立大学)
我们调查的价值,沿着不同维度的细化扩展的决策模型的完整性。具体来说,我们分析了决策模型的定量,概念和结构细化的期望值。我们举例说明了细化的关键维度。模型细化的价值分析可用于将分析者或自动推理系统的注意力集中在与最大期望值相关联的决策模型的扩展上。
2013-03-06 cs.AI
Simulate, Reason, Decide: Scientific Reasoning with LLMs for Simulation-Driven Decision Making
Computer Science and Engineering University of Michigan(计算机科学与工程大学密歇根大学)
提出MechSim框架,通过神经符号推理使LLM能够推理科学模拟器的机制和假设,提升决策透明度和可靠性。
2026-06-03 cs.AI
Exact Reasoning Under Uncertainty
Stanford University(斯坦福大学)
本文的重点是设计专家系统,以支持决策在复杂的,不确定的环境。在这种情况下,我们的研究表明,严格的概率表示,使决策理论推理的使用,是非常可取的,最近提出的替代方案(例如,模糊集理论和Dempster-Shafer理论)。此外,我们还讨论了语言的影响图和相应的方法-决策分析-使决策理论被有效地和高效地用作决策辅助。最后,我们使用RACHEL,一个系统,帮助不孕夫妇选择医疗,说明决策分析的方法,作为专家决策系统的基础。
2013-03-27 cs.AI
Integrating Logical and Probabilistic Reasoning for Decision Making
Rockwell International Science Center(罗克韦尔国际科学中心);Stanford University(斯坦福大学)
我们描述了一种表示和一组推理方法,结合逻辑编程技术与概率网络表示的不确定性(影响图)。该技术强调复杂和不确定领域的概率和决策理论模型的动态构建和解决方案。给定一个查询,如果可能的话,会产生一个逻辑证明;如果不可能,会产生一个基于查询和决策域知识的影响图,并随后求解。一个统一的声明,一阶,知识表示相结合的逻辑,概率和决策理论推理的综合推理过程。
2013-03-27 cs.AI
Decision-Theoretic Foundations for Causal Reasoning
我们提出了一个定义的原因和影响的决策理论的原语,从而提供了一个原则性的基础因果推理。我们的定义偏离了因果关系的传统观点,因为因果断言可能会随着可用的决策集而变化。我们认为,这种方法提供了更清晰的概念的原因。此外,在本文中,我们研究的编码因果关系的有向无环图。我们描述了一类特殊的影响图,那些在规范形式,并显示其关系到珍珠的代表性的原因和效果。最后,我们展示了规范形式如何促进反事实推理。
1995-12-01 cs.AI
Knowledge Structures and Evidential Reasoning in Decision Analysis
Schlumberger Palo Alto Research(斯伦贝谢帕洛阿尔托研究院);University of California, Berkeley(加州大学伯克利分校)
决策因素在复杂决策过程中的作用表现为这些因素如何影响决策的整体性。评估部分匹配因素的证据,然后将有效的计算规则应用于这些角色,以形成证据的适当聚合。这种技术的使用支持表达更深层次的因果关系,也可以保持决策者的认知结构比通常的加权方法,确定性因素或其他概率模型可以更好。
2013-03-27 cs.AI