Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models
FSG NeuroInformatics, Faculty of Computer Science, University of Vienna(维也纳大学计算机科学系神经信息学研究所);Halicioglu Data Science Institute and Department of Philosophy, University of California, San Diego(加州大学圣地亚哥分校Halicioglu数据科学研究所和哲学系)
本文探讨在因果信息未知时,如何通过因果模型确立决策中的行动-结果概率,扩展了纳什均衡的概念,应用于战略游戏中考虑因果信息的情况。
2022-10-28 cs.AI stat.ME
A new axiomatization for likelihood gambles
Siemens Medical Solutions Inc.(西门子医疗解决方案公司)
本文研究了一个新的和更普遍的公理化比以前提出的偏好似然赌博。似然博弈描述了决策者知道多个概率模型和从其中一个模型生成的随机样本,但不知道模型的先验概率的情况下的行为。这个新的公理系统的灵感来自詹森的概率赌博公理化。我们的方法提供了一个新的视角下的模糊决策数据的作用。它避免了贝叶斯方法中最有争议的问题之一,即先验概率的假设。
2012-06-27 cs.AI
Probabilities of Causation for Continuous and Vector Variables
Yokohama National University(横滨国立大学);Iowa State University(爱荷华州立大学)
本文将因果概率(PoC)扩展至连续变量及多处理与多结果向量,引入子总体与多假设项的PoC以捕捉复杂反事实信息,提供非参数识别定理并在教育数据集上验证应用。
2024-05-30 cs.AI
Weighted Sets of Probabilities and Minimax Weighted Expected Regret: New Approaches for Representing Uncertainty and Making Decisions
Cornell University(康奈尔大学)
我们考虑一个设置代理的不确定性是由一组概率措施,而不是一个单一的措施。在获取新信息时对这样的一组度量进行逐个度量更新是众所周知的,存在问题;代理并不总是能够适当地学习。为了处理这些问题,我们建议使用加权概率集:一种表示,其中每个度量都与权重相关联,该权重表示其重要性。我们描述了一个自然的方法来更新在这种情况下,一个自然的方法来确定权重。然后,我们将展示如何使用这种表示在决策中,通过修改一个标准的决策方法-最小化预期遗憾-获得极大极小加权预期遗憾(MWER)。我们提供了一个公理化的特点,在静态和动态的情况下,由MWER引起的偏好。
2013-02-21 cs.AI cs.GT
Making Decisions Using Sets of Probabilities: Updating, Time Consistency, and Calibration
CWI(荷兰国家数学与计算机科学研究所);Cornell University(康奈尔大学)
我们考虑代理应该如何更新她的信念时,她的信念是由一组P的概率分布,代理决策使用极大极小准则,也许是最好的研究和最常用的标准在文献中。我们采用了一个博弈论的框架,代理人发挥对一个庄家,谁选择一些分布从P.我们认为两个合理的游戏,不同的庄家知道当他做出选择。之前观察到的异常现象,如时间不一致,可以理解为是因为不同的游戏正在进行,针对不同信息的博彩公司。我们的特点是重要的特殊情况下,最佳决策规则根据极大极小准则的金额要么条件或简单地忽略的信息。最后,我们考虑更新和校准之间的关系时,不确定性描述的概率集。我们的结果强调了Epstein和Schneider的矩形性条件的关键作用。
2014-01-16 cs.AI cs.GT
Combination of Upper and Lower Probabilities
Universidad de Granada(格拉纳达大学)
在本文中,我们考虑与不完全概率系统相关的几种类型的信息和组合方法。我们区分“先验”和证据信息。前者是对整个总体的描述,后者是基于对特定情况的观察的限制。然后,我们提出了不同的组合方法,为每一个。我们还认为条件反射是“先验”和证据信息的异质组合。证据信息被表示为一个凸集的似然函数。根据经典的可能性理论,这些将具有与行为相关联的可能性分布。
2013-03-20 cs.AI
Fact Probability Vector Based Goal Recognition
University of Mannheim(曼海姆大学)
本文提出一种基于事实概率向量的目标识别方法,通过将观察事实与预期概率映射到实向量空间计算启发式值,并验证了近似概率方法,在降低计算复杂度的同时提升了识别精度。
2024-08-26 cs.AI
Weighted Sets of Probabilities and MinimaxWeighted Expected Regret: New Approaches for Representing Uncertainty and Making Decisions
Cornell University(康奈尔大学)
我们考虑一个设置代理的不确定性是由一组概率措施,而不是一个单一的措施。在获取新信息时对这样一组措施进行逐个措施更新是众所周知的问题;代理并不总是能够适当地学习。为了处理这些问题,我们建议使用加权概率集:一种表示,其中每个度量都与权重相关联,该权重表示其重要性。我们描述了一个自然的方法来更新在这种情况下,一个自然的方法来确定权重。然后,我们将展示如何使用这种表示在决策中,通过修改一个标准的决策方法,最小化预期遗憾,以获得最小最大加权预期遗憾(MWER)。我们提供了一个公理化的特点,在静态和动态的情况下,由MWER诱导的偏好。
2012-10-16 cs.AI cs.GT q-fin.TR
Decision-Making Under Uncertainty: Beyond Probabilities
Radboud University(拉德堡德大学)
这份立场文件反映了在不确定情况下决策的最新技术水平。一个经典的假设是,概率可以充分捕获系统中的所有不确定性。在本文中,重点是不确定性,超越了这一经典的解释,特别是通过采用一个明确的区别任意和认识的不确定性。本文概述了马尔可夫决策过程(MDP)和扩展,以解释部分可观测性和对抗行为。这些模型充分捕捉任意的不确定性,但未能考虑到认知的不确定性鲁棒。因此,我们提出了一个全面的概述,所谓的不确定性模型,表现出更强大的解释不确定性。我们展示了几种离散和连续模型的解决方案技术,从形式化验证,基于控制的抽象,到强化学习。作为本文的一个组成部分,我们列出并讨论了几个关键的挑战,在处理丰富类型的不确定性在基于模型的方式。
2023-03-10 cs.AI cs.LG cs.RO
Who Should I Trust: AI or Myself? Leveraging Human and AI Correctness Likelihood to Promote Appropriate Trust in AI-Assisted Decision-Making
The Hong Kong University of Science and Technology(香港科技大学);East China Normal University(华东师范大学);Purdue University(普渡大学)
在人工智能辅助决策中,人类决策者必须知道何时信任人工智能,何时信任自己。然而,之前的研究仅基于AI的正确性可能性(CL)的AI信心来校准人类信任,但忽略了人类的CL,阻碍了最佳团队决策。为了缩小这一差距,我们提出了在任务实例级别上基于双方的CL来促进人类的适当信任。我们首先通过近似他们的决策模型和计算他们在类似情况下的潜在表现来模拟人类的CL。我们通过两个初步研究证明了我们的模型的可行性和有效性。然后,我们提出了三个CL开发策略,以校准用户的信任显式/隐式在人工智能辅助决策过程。受试者间实验(N=293)的结果表明,与仅使用AI信心相比,我们的CL开发策略促进了更适当的人类对AI的信任。我们进一步为更具人性化的人工智能辅助决策提供了实际影响。
2023-01-14 cs.AI cs.HC cs.LG
Robust Anytime Learning of Markov Decision Processes
Radboud University(拉德堡德大学);University of Oxford(牛津大学)
提出一种结合贝叶斯推断与鲁棒策略计算的任意时间学习方法,用于从有限数据中学习MDP转移概率,并能在任何时刻停止以生成鲁棒策略。
2023-06-19 cs.AI cs.LG
Best-Effort Policies for Robust Markov Decision Processes
Department of Computer Science, University of Oxford(牛津大学计算机科学系)
针对鲁棒马尔可夫决策过程中多个最坏情形等价的最优鲁棒策略选择问题,提出最优鲁棒尽力策略准则,证明其存在性并给出低开销计算算法,通过数值实验验证了方法可行性。
2025-11-19 cs.AI cs.LO
Similarity-Based Models of Word Cooccurrence Probabilities
在自然语言处理(NLP)的许多应用中,需要确定给定单词组合的可能性。例如,语音识别器可能需要确定“吃桃子”和"吃海滩“这两个单词组合中的哪一个更可能。统计NLP方法根据训练语料库中单词组合的频率来确定单词组合的可能性。然而,语言的本质是,许多单词组合是罕见的,不会出现在任何给定的语料库。在这项工作中,我们提出了一种方法来估计这种以前看不见的单词组合的概率,使用现有的信息“最相似”的话。我们描述了基于分布词相似度的概率词关联模型,并将其应用于两个任务,语言建模和伪词消歧。在语言建模任务中,使用基于相似性的模型来改进退避语言模型中的不可见二元组的概率估计。基于相似性的方法在预测看不见的二元组和统计上显着减少语音识别错误方面产生了20%的困惑改善。我们还比较了四个基于相似性的估计方法对回退和最大似然估计方法的伪词义消歧任务,在该任务中,我们控制了一元和二元频率,以避免给予太多的权重,易于消除歧义的高频配置。基于相似性的方法在这一特定任务上的性能提高了40%。
1998-09-27 cs.AI cs.CL cs.LG
Causal inference for data-driven debugging and decision making in cloud computing
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
云计算涉及复杂的技术和经济系统和交互。这带来了各种挑战,其中两个是:(1)在沙箱实验的帮助下,调试和控制以优化计算系统的性能,以及(2)对用于云客户端决策的“点”资源的成本的隐私保护预测。在本文中,我们正式调试反事实的概率和控制后(软)干预概率。我们证明了反事实可以近似地从“随机”图形因果模型中计算出来(而它们最初只定义为“确定性”功能因果模型),并基于这个草图,提出了一种数据驱动的方法来解决问题(1)。为了解决问题(2),我们通过后(软)干预概率形式化投标,并提出了一个简单的数学结果近似积分的“不完全”的条件概率分布。我们展示了云客户端如何使用这一点来权衡隐私与玩具场景中投标行为结果的可预测性。我们报告模拟和真实数据的实验。
2020-03-10 cs.AI cs.DC
Robust Entropy-regularized Markov Decision Processes
Singapore Management University(新加坡管理大学);Massachusetts Institute of Technology(麻省理工学院)
由熵正则化马尔可夫决策过程(ER-MDP)产生的随机和软最优策略对于探索和模仿学习应用是理想的。出于这样一个事实,即这些政策是敏感的状态转移概率,这些概率的估计可能是不准确的,我们研究了一个强大的版本的ER-MDP模型,其中随机最优的政策是需要强大的模糊性,在底层的转移概率。我们的工作是在强化学习(RL)的两个重要计划,即鲁棒MDP和熵正则化MDP的十字路口。我们发现,在我们的设置中,非鲁棒ER-MDP和鲁棒非正则化MDP模型的基本属性也成立,使得鲁棒ER-MDP问题易于处理。我们展示了我们的框架和结果如何可以集成到不同的算法方案,包括价值或(修改)的政策迭代,这将导致新的强大的RL和逆RL算法来处理不确定性。分析了传统不确定度设置下的计算复杂性和误差传播。
2021-12-31 cs.AI cs.LG
Beyond Calibration: Do a Typed-Decision Model's Probabilities Obey the Probability Axioms?
本文提出无需标签的逻辑关联问题测试,发现类型化决策模型Jev和Qwen3.8-27B的概率违反概率公理,且不一致性随置信度变化,暴露了校准无法发现的系统偏差。
2026-09-29 cs.AI cs.CL cs.LG
TypedBench: A Benchmark for Calibration, Framing Sensitivity, and Cost in System One Decision Models
DFKI GmbH(德国人工智能研究中心);RPTU Kaiserslautern(凯泽斯劳滕工业大学);Imperial College London(伦敦帝国学院);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
研究人员构建TypedBench基准评估第一类决策模型,发现托管模型受措辞影响且置信不足,解码器路由准确但随选项增多变慢,需联合评估模型多方面性能。
2026-10-12 cs.AI stat.AP
When Policies Change Probabilities: Modular Decision-Making for LLM Code Review
该研究针对LLM代码审查,测试4种审查界面的策略与概率分离情况,提出模块化流水线可提升概率准确性、降低损失,验证了风险与行动分离评估的必要性。
2026-08-05 cs.AI cs.MA cs.SE
Perturbation Sensitivity of Maximum-Likelihood Pairwise Ranking in Computational Decision Systems
研究基于最大似然估计的成对排名系统对策略性数据扰动的脆弱性,提出自适应子集选择攻击(ASSA)方法,实验表明少量扰动即可显著改变全局排名。
2026-10-08 cs.AI cs.GT cs.LG