Optimistic Mirror Descent Either Converges to Nash or to Strong Coarse Correlated Equilibria in Bimatrix Games
我们证明了,对于任何足够小的固定$ε> 0$,当两个局中人都是一般和两个局中人时,(双矩阵)游戏采用乐观镜像下降(OMD),具有平滑正则化,学习率$η= O(ε^2)$和$T = Ω(\text{poly}(1/ε))$重复,或者动态达到$ε$ -近似纳什均衡(NE),或者游戏的平均相关分布是$Ω(\text{poly}(ε))$ -强粗相关均衡(CCE):任何可能的单方面偏离不仅使玩家更糟,而且将使其效用降低$Ω(\text{poly}(ε))$。作为一个直接的后果,当OMD的迭代是有界远离纳什均衡的双矩阵游戏,我们保证收敛到一个确切的CCE后,只有$O(1)$迭代。我们的研究结果表明,解耦的无遗憾学习算法可以收敛到CCE的一般和游戏显着快于NE,例如,零和游戏。为了建立这一点,我们表明,当OMD没有达到任意接近NE,(累积)遗憾的两个球员不仅是负面的,但随时间线性衰减。考虑到后悔是在线学习中性能的标准衡量标准,我们的研究结果表明,游戏中的无后悔学习算法的循环行为可以从效率方面得到证明。
2022-10-07 cs.GT
First-order (coarse) correlated equilibria in non-concave games
本文研究光滑非凹博弈中的一阶粗糙相关均衡,证明了在线梯度上升的普适近似性质,并将原始-对偶无政府代价分析与广义Lyapunov函数估计问题相联系。
2025-11-04 cs.GT
Near Optimal Convergence to Coarse Correlated Equilibrium in General-Sum Markov Games
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文改进了一般和马尔可夫博弈中向粗相关均衡的收敛速率,通过将自适应步长技术扩展至马尔可夫设定并定制OFTRL算法,实现了已知最快的收敛速率。
2025-11-04 cs.AI cs.GT cs.LG
Decentralized MARL for Coarse Correlated Equilibrium in Aggregative Markov Games
The School of Mathematical Sciences University of Chinese Academy of Sciences(中国科学院大学数学科学学院);SKLMS AMSS, CAS(中国科学院数学与系统科学研究院数学与应用数学国家重点实验室)
本文提出一种适应性阶段式V学习算法,用于在聚合马尔可夫游戏中去中心化学习粗相关均衡,通过调整阶段长度和无遗憾更新实现高效学习。
2026-03-29 cs.GT cs.SY eess.SY
No-Regret Learning in Bayesian Games
Northwestern University(西北大学);Microsoft Research(微软研究院);Cornell University(康奈尔大学)
最近的价格的无政府状态分析游戏的完全信息表明,粗糙的相关均衡,其特点是从无悔学习动态的结果,有接近最优的福利。这项工作提供了两个主要的技术成果,将这一结论提升到不完全信息的游戏,即,贝叶斯博弈首先,贝叶斯博弈中的近最优福利直接来自于当私有信息公开时,在同一博弈中的近最优福利的基于平滑性的证明。其次,在这些不完全信息博弈中,无悔学习动态收敛于贝叶斯粗相关均衡。这些结果是通过将贝叶斯博弈解释为完全信息的随机博弈来实现的。
2015-11-19 cs.GT cs.LG
Near-Optimal Quantum Algorithms for Computing (Coarse) Correlated Equilibria of General-Sum Games
School of Computer Science, Peking University(北京大学计算机科学学院);Center on Frontiers of Computing Studies, Peking University(北京大学计算前沿研究中心)
本文研究多人一般和标准式博弈中 ε-近似 CE 与 CCE 的量子计算,分别基于量子改进的多尺度 MWU 和扩展零和博弈技术,取得近最优查询复杂度并给出下界。
2025-10-19 cs.CC cs.GT cs.LG
Faster No-Regret Learning Dynamics for Extensive-Form Correlated and Coarse Correlated Equilibria
最近出现的趋势,在游戏中学习的文献一直关注提供更快的学习动力学相关和粗糙的相关均衡正规形式的游戏。对于具有更大挑战性的扩展形式游戏,人们所知甚少,这种游戏可以捕捉连续和同时的动作,以及不完美的信息。在本文中,我们建立了快速的无遗憾学习动力学\textit{extensive-form correlated equilibria (EFCE)}在多人一般和信息扩展形式的游戏。当所有玩家都遵循我们的加速动态时,游戏的相关分布是$O(T^{-3/4})$近似EFCE,其中$O(\cdot)$符号在游戏描述中抑制参数多项式。这显著提高了$O(T^{-1/2})$的最佳先验率。为了实现这一点,我们开发了一个框架,通过预测执行加速\emph{Phi-regret minimization}。我们的关键技术贡献之一-使我们能够使用我们的通用模板-是通过结构化马尔可夫链的精细扰动分析来表征与\emph{trigger deviation functions}相关的不动点的稳定性。此外,对于更简单的解决方案的概念的扩展形式的\emph{coarse}相关平衡(EFCCE),我们给出了一个新的简洁的封闭形式的相关不动点的特征,绕过昂贵的计算所需的平稳分布的EFCE。我们的结果将EFCCE更接近\emph{normal-form coarse correlated equilibria}的每迭代的复杂性…
2022-02-11 cs.GT
The Complexity of Computing Coarse Correlated Equilibria in Markov Games with a Single Controller
Massachusetts Institute of Technology(麻省理工学院);National Technical University of Athens(雅典国立技术大学);Archimedes, Athena Research Center(阿基米德,雅典研究中心);University of California, Irvine(加州大学尔湾分校);National and Kapodistrian University of Athens(雅典国家与卡波迪斯特里阿斯大学)
研究两人单控制器随机博弈中计算近似平稳马尔可夫粗相关均衡的复杂性,证明其为PPAD - 完全,不依赖均衡坍缩或类似纳什结构,通过构造单控制器小装置,在不同精度要求下得出难性结论。
2026-07-14 cs.GT
Learning Equilibria in Mean-Field Games: Introducing Mean-Field PSRO
多智能体学习的最新进展已经看到了一系列算法的引入,这些算法围绕基于人口的训练方法PSRO,表现出收敛到纳什均衡、相关均衡和粗相关均衡。值得注意的是,当代理数量增加时,学习最佳响应变得更加困难,因此阻碍了PSRO训练方法。平均场对策的范式提供了一个渐近解,当考虑的游戏是匿名对称的。不幸的是,平均场近似引入了非线性,这阻止了PSRO的直接适应。基于最优化和对抗性遗憾最小化理论,本文避开了这一问题,引入了平均场PSRO,它是PSRO的一种改进,可以学习平均场博弈中的纳什均衡、粗相关均衡和相关均衡。关键是用新定义的平均场无对抗后悔学习器或黑盒优化来代替精确的分布计算步骤。我们比较了该方法与标准PSRO算法的渐近复杂度,通过压缩时间混合权值,极大地提高了经验Bandit收敛速度,并保证了其对支付噪声的理论鲁棒性。最后,我们说明了平均场PSRO的速度和精度的几个平均场游戏,演示收敛到强和弱平衡。
2022-08-29 cs.GT cs.MA
Polynomial-Time Computation of Optimal Correlated Equilibria in Two-Player Extensive-Form Games with Public Chance Moves and Beyond
Carnegie Mellon University(卡内基梅隆大学);Strategy Robot, Inc.(Strategy Robot 公司);Strategic Machine, Inc.(Strategic Machine 公司);Optimized Markets, Inc.(Optimized Markets 公司)
与正规形式博弈不同,相关均衡已经被研究了45年以上,扩展形式相关性仍然没有得到很好的理解。造成这种差距的部分原因是,广泛形式游戏的连续性允许丰富的行为和激励,这在正常形式设置中是不可能的。这种丰富性转化为一个显着不同的复杂性景观周围的广泛形式的相关均衡。到目前为止,已知的是,在两个玩家的扩展形式博弈中找到最优扩展形式相关均衡(EFCE)、扩展形式粗略相关均衡(EFCCE)或正规形式粗略相关均衡(NFCCE)在博弈不包括机会移动时在计算上是易处理的,而在博弈包括机会移动时是难处理的。在本文中,我们显着细化这一复杂性阈值表明,在两个球员的游戏,最佳相关的平衡可以在多项式时间计算,只要满足一定的条件。我们表明,该条件成立,例如,当所有的机会移动是公开的,也就是说,双方球员观察所有的机会移动。这意味着,最佳的EFCE,EFCCE和NFCCE可以在多项式时间内计算的游戏规模在两个球员的游戏与公共机会移动,提供了最大的正复杂性结果周围的广泛形式的相关性在十多年。
2020-09-09 cs.AI cs.GT
Extensive Games with Possibly Unaware Players
标准博弈论假设博弈的结构是参与者之间的共同知识。我们放宽这一假设,考虑广泛的游戏,代理人可能不知道完整的游戏结构。特别是,他们可能不知道他们和其他代理人可以采取的行动。我们展示了如何这样的游戏可以表示,关键的想法是从游戏树的每个节点的每个代理的角度来描述游戏。我们提供了一个广义的纳什均衡,并表明,每个游戏的意识有一个广义的纳什均衡。最后,我们将这些结果扩展到有意识的无意识的游戏,其中玩家i可能知道玩家j可以做出我不知道的动作,以及主观游戏,其中付款人可能没有关于实际游戏的共同知识,并且他们的信念与共同的先验不相容。
2007-04-16 cs.GT cs.MA
Robust Stackelberg Equilibria in Extensive-Form Games and Extension to Limited Lookahead
Carnegie Mellon University(卡内基梅隆大学)
Stackelberg均衡作为计算博弈论中的一个解决方案概念变得越来越重要,主要是受到安全设置等实际问题的启发。然而,在实践中,关于对手的模型通常存在不确定性。本文是,据我们所知,第一次调查Stackelberg均衡下的不确定性,在广泛形式的游戏,最广泛的游戏类之一。我们引入强大的Stackelberg均衡,其中的不确定性是关于对手的收益,以及对手有有限的前瞻性和不确定性是关于对手的节点评价函数。我们开发了一个新的混合整数规划的确定性有限前瞻设置。然后,我们扩展到强大的设置Stackelberg均衡无限和有限的前瞻下的对手。我们表明,对于对手的收益(或对手的节点评价的情况下,有限的前瞻性)的区间不确定性的特定情况下,鲁棒Stackelberg均衡可以计算与混合整数规划,是相同的渐近大小的确定性设置。
2017-11-21 cs.AI cs.GT cs.MA
Translating Extensive Form Games to Open Games with Agency
我们证明了开放博弈覆盖了具有完美信息和不完美信息的广泛形式博弈。这样做迫使我们解决开放游戏目前的两个弱点:在开放游戏中缺乏玩家及其代理的概念,以及缺乏选择运营商。使用前者,我们构建后者,这些选择运营商subtermise以前提出的运营商开放游戏,从而取得进展的核心,规范和符合人体工程学的演算游戏运营商。总的来说,这些创新提高了开放式游戏的组合性水平,并展示了它们的表现力。
2022-11-03 cs.GT cs.MA math.CT
Ultracoarse Equilibria and Ordinal-Folding Dynamics in Operator-Algebraic Models of Infinite Multi-Agent Games
Bahcesehir University(巴塞希尔大学);Turkish Aeronautical Association University(土耳其航空协会大学)
提出无限多智能体博弈的算子代数框架,证明非交换遗憾学习动力学收敛至唯一随机最优反应均衡,并用序数折叠指数刻画超限收敛时间。
2025-07-25 cs.AI cs.GT cs.MA
Quantum information approach to normal representation of extensive games
我们修改了量子战略博弈的概念,使其适用于广泛的形式的游戏。我们证明,我们的修改允许考虑正常表示的任何有限的广泛的游戏使用量子信息的基本概念。通过研究完全信息下的塞尔滕马博弈和两阶段扩展博弈的一般形式,说明了我们的思想的一个潜在应用。在这两个例子中,我们使用的方法,以及Marinatto-Weber量化的游戏。
2011-07-19 cs.GT
Solving zero-sum extensive-form games with arbitrary payoff uncertainty models
University of Strathclyde(思克莱德大学);Zondax GmbH
从博弈论的角度对战略冲突进行建模涉及到对认知不确定性的处理。由于计算限制,回报不确定性模型通常限于简单的概率模型。应用于扑克的人工智能(AI)研究最近取得了突破,产生了新的近似方法,如反事实遗憾最小化,可以成功地处理大规模的不完美游戏。通过借鉴这些思想,这项工作解决了任意连续收益分布的问题。我们提出了一种方法,Harsanyi-Counterfactual遗憾最小化,解决两人零和扩展形式的游戏与任意的支付分布模型。给定一个博弈$Γ$,利用Harsanyi变换,我们生成一个新的博弈$Γ^\#$,然后应用反事实后悔最小化方法,得到$\varepsilon$ -Nash均衡.我们包括数值实验,展示了该方法如何可以应用到以前发表的问题。
2019-04-24 cs.AI cs.GT
Convergence analysis and acceleration of the smoothing methods for solving extensive-form games
近年来,广泛形式的博弈得到了大量的研究。它可以表示具有多个决策点和不完全信息的游戏,因此它有助于制定具有不确定输入的游戏,如扑克。我们考虑一个扩展形式的游戏与两个球员和零和,即,他们的收益之和总是零在这种博弈中,寻找最优策略的问题可以表述为双线性鞍点问题。这个公式根据游戏的大小而变大,因为它有代表每个玩家在所有决策点的策略的变量。为了解决这类大规模的双线性鞍点问题,研究了一种光滑化方法--过量间隙技术。该方法生成一系列近似解,其误差保证收敛于$\mathcal{O}(1/k)$,其中$k$是迭代次数。然而,它的缺点是与游戏大小相关的误差的理论界限很差。这使得它不适用于大型游戏。我们的目标是改进光滑化方法,使其能够应用于大规模的游戏解决广泛的形式的游戏。为此,我们在这项工作中做出了两个贡献。首先,我们稍微修改了平滑方法中使用的强凸函数,以提高与游戏大小相关的理论界。其次,我们提出了一个启发式称为中心技巧,它允许平滑方法与其他方法相结合,从而加快在实践中的收敛。因此,我们将EGT与CFR+相结合,CFR+是一种最先进的扩展形式游戏方法,可以在传统平滑方法表现不佳的游戏中实现良好的性能。所提出的平滑方法被证明有潜力解决大型游戏在实践中。
2023-03-20 cs.AI cs.GT
Computing rational decisions in extensive games with limited foresight
Imperial College London(帝国理工学院)
我们介绍了一类广泛的形式游戏,玩家可能无法预见他们的决定可能产生的后果,并形成一个模型,他们利用对手,以实现更有利可图的结果。我们改进了现有的模型,游戏有限的远见,赋予玩家高阶推理的能力,并提出了一个新的解决方案的概念,以解决来自真实的游戏的直觉。我们分析由此产生的均衡,设计一个有效的程序来计算它们。
2016-05-29 cs.AI cs.GT cs.LO
From Natural Language to Extensive-Form Game Representations
University of Liverpool(利物浦大学);The Alan Turing Institute(阿兰·图灵研究所)
本文提出一种基于LLM和上下文学习的两阶段框架,通过识别信息集和自调试模块,将自然语言博弈描述转换为pygambit扩展型博弈树,实现Nash均衡自动计算,显著优于基线模型。
2025-01-31 cs.AI cs.CL cs.GT
Zero-sum Polymatrix Markov Games: Equilibrium Collapse and Efficient Computation of Nash Equilibria
本文针对零和多人矩阵马尔可夫博弈,通过证明粗相关均衡坍缩为纳什均衡,实现了ε-近似纳什均衡的高效计算。
2023-05-29 cs.GT cs.MA cs.SI
Solving Large Extensive-Form Games with Strategy Constraints
University of Alberta(阿尔伯塔大学);DeepMind(深度思维公司(DeepMind)(注:DeepMind通常指Google旗下的DeepMind Technologies Limited,作为独立研究机构,此处按常见译法保留))
可拓形式博弈是不完全信息下多主体交互的一种常见模型。在两人零和博弈中,典型的解概念是每个参与者在无约束策略集上的纳什均衡。然而,在许多情况下,我们希望限制这套可能的战略。例如,约束是对有限资源、风险缓解、安全性、与过去行为观察的一致性或代理的其他次要目标进行建模的自然方式。在小型博弈中,线性约束下的最优策略可以通过求解线性规划来找到;然而,用于求解大型博弈的最先进算法无法处理一般约束。在这项工作中,我们介绍了一种广义形式的反事实遗憾最小化,可证明发现任何可行的凸约束下的最佳策略。我们证明了我们的算法的有效性,找到战略,减轻风险的安全游戏,并在扑克游戏中的对手建模时,只有部分私人信息的观察。
2019-02-05 cs.AI cs.GT
Self-confirming Games: Unawareness, Discovery, and Equilibrium
文献中无意识游戏的均衡概念不能被解释为学习过程的稳态,因为玩家可能会在游戏中发现新的动作。从这个意义上说,许多无意识的游戏是“自我毁灭”的,因为玩家在玩过一次游戏后,对游戏的表征必须改变。我们定义的发现过程中,在每一个状态有一个广泛的形式的游戏与无意识,与球员的发挥决定了过渡到可能的另一个广泛的形式的游戏与无意识中,球员现在知道的行动,他们以前发现。如果参与者在无意识的情况下在每一场博弈中采取了广泛形式的合理化策略,那么发现过程就是合理化的。我们表明,对于任何无意识的游戏有一个合理化的发现过程,导致一个自我确认的游戏,拥有一个广泛的形式合理化的自我确认的均衡。这种平衡的概念可以被解释为学习和发现过程的稳态。
2017-07-27 cs.GT cs.MA
XDO: A Double Oracle Algorithm for Extensive-Form Games
University of California, Irvine(加州大学尔湾分校);Department of Computer Science(计算机科学系)
策略空间响应预言机(PSRO)是一种用于两人零和博弈的强化学习(RL)算法,已被经验证明可以在大型博弈中找到近似的纳什均衡。虽然PSRO保证收敛到近似的纳什均衡,并可以处理连续的行动,它可能需要一个指数数量的迭代信息状态(infostates)的数量增长。我们提出了扩展形式双预言机(XDO),一个扩展形式的双预言机算法的两个球员零和游戏,是保证收敛到一个近似的纳什均衡线性的信息状态的数量。与PSRO不同,PSRO在游戏的根源混合最佳对策,XDO在每个信息状态混合最佳对策。我们还介绍了神经XDO(NXDO),其中通过深度RL学习最佳响应。在Leduc扑克的表格实验中,我们发现XDO在比PSRO小一个数量级的迭代次数中达到近似纳什均衡。在一个改进的Leduc扑克游戏和Oshi-Zumo上的实验表明,在相同的计算量下,表格XDO比CFR具有更低的可利用性。我们还发现,NXDO优于PSRO和NFSP的顺序多维连续动作游戏。NXDO是第一个可以在高维连续动作序列游戏中找到近似纳什均衡的深度RL方法。实验代码可在www.example.com获得。
2022-01-28 cs.AI cs.GT cs.LG
Learning in Multi-Player Stochastic Games
Columbia University(哥伦比亚大学)
本文研究了有限时间内多局中人随机博弈中的同时学习问题。虽然随机博弈的典型目标解是一个纳什均衡,但这对许多参与者来说是难以解决的。相反,我们专注于{ \it相关均衡}的变体,如那些广泛的形式的游戏研究。我们从对抗性MDP问题的一个困难结果开始:即使对于3的视野,获得对最佳非平稳策略的次线性遗憾也是\textsf{NP} -当奖励和过渡都是对抗性的时。这意味着,收敛到最弱的自然解概念-正规形式的粗相关equilibrium-是不可能的,通过黑盒减少到一个没有遗憾的算法,即使在随机游戏与恒定的地平线(除非$\textsf{NP}\subseteq\textsf{BPP}$)。相反,我们转向一个不同的目标:当所有参与者使用这些算法时,{ \it生成}一个均衡。我们的主要结果是算法产生的{ \it extensive-form}相关的平衡,其运行时间是指数的地平线,但多项式的所有其他参数。我们给出了一个类似的算法,这是多项式的所有参数的“快速混合”随机游戏。我们还展示了一种方法,有效地达到正常形式的粗相关平衡的“单控制器”随机游戏,遵循传统的无悔的方法。当共享的随机性是可用的,这两个生成算法可以扩展到同时遗憾界和收敛在传统意义上。
2022-10-25 cs.AI cs.GT cs.LG
Quantum realization of extensive games
我们推广了一个经典的有限可拓对策的概念,使其对量子对象的应用有帮助。该推广将静态博弈的量子实现方案推广到任何有限扩展博弈。它代表了任何经典的有限扩展游戏的量子域的扩展。此外,我们的模型是兼容的静态游戏与著名的量子计划。本文通过两个实例进行了总结。
2010-08-19 cs.GT quant-ph
No-Regret Learning Dynamics for Extensive-Form Correlated Equilibrium
Politecnico di Milano(米兰理工大学);Carnegie Mellon University(卡内基梅隆大学)
在规范型博弈中,简单的、解耦的无悔动力学收敛到相关均衡的存在是多智能体系统理论中的一个著名结果。具体来说,20多年前就已经知道,当所有参与者在重复的正态形式博弈中寻求最小化他们的内部遗憾时,经验的博弈频率收敛到正态形式相关均衡。可拓形式(也就是树形)博弈通过对连续和同时移动以及私有信息进行建模来推广正规形式博弈。由于博弈中的序列性质和部分信息的存在,广义形式的相关性与正规形式的相关性有显着不同的性质,其中许多仍然是开放的研究方向。扩展形式相关均衡(EFCE)是规范形式相关均衡的自然扩展形式对应。然而,目前尚不清楚EFCE是否是由于解偶联剂动力学而出现的。在本文中,我们给出了第一个非耦合的无悔动力学收敛到集的EFCE在$n$ -播放器一般和扩展形式的游戏,完美的回忆。首先,我们引入了一个概念的触发遗憾的扩展形式的游戏,扩展了正常形式的游戏中的内部遗憾。当每个玩家都有低触发后悔时,经验的游戏频率接近EFCE。然后,我们给出了一个有效的无触发后悔算法。该算法将触发后悔问题分解为局中人在每个决策点的局部子问题,并由每个决策点的局部解构造局中人的全局策略。
2022-09-02 cs.AI cs.GT cs.LG
Computational Results for Extensive-Form Adversarial Team Games
Politecnico di Milano(米兰理工大学)
据我们所知,我们提供了第一个广泛形式的对抗性团队游戏的计算研究。这些游戏是连续的零和游戏,其中一组玩家共享相同的效用函数,面对对手。我们根据团队的沟通能力定义了三种不同的场景。在第一种情况下,队友可以在比赛前和比赛中沟通和联系他们的行动。在第二种情况下,他们只能在演出前交流。在第三种情况下,根本不可能进行通信。我们定义了最合适的解决方案的概念,我们研究了部分或空通信所造成的低效率,表明低效率可以是任意大的游戏树的大小。此外,我们研究了上述三种情况下的均衡寻找问题的计算复杂性,并为每种情况提供了一个精确的算法。最后,我们经验性地评估了算法在随机游戏中的可扩展性以及部分或零通信所造成的效率低下。
2017-11-18 cs.AI cs.GT
Well-Founded Extensive Games with Perfect Information
我们考虑了具有完备信息和良基博弈树的广义博弈,并研究了这些博弈中子博弈完美均衡集的存在性和刻画问题。我们还提供了这样的两类游戏中存在子博弈完美均衡的刻画:两个玩家零和游戏,分别有两个和三个结果。
2021-06-22 cs.GT
Fast Convergence of Optimistic Gradient Ascent in Network Zero-Sum Extensive Form Games
Singapore Univ. of Technology and Design(新加坡科技设计大学);University of Washington(华盛顿大学);EPFL(洛桑联邦理工学院)
游戏学习的研究迄今主要集中在范式游戏。相比之下,我们对广泛形式游戏(EFG),特别是具有许多代理的EFG学习的理解远远落后,尽管它们在本质上更接近许多现实世界的应用。我们考虑网络零和扩展形式游戏的自然类,它结合了代理支付的全局零和属性,图形游戏的有效表示以及EFG的表达能力。我们研究了乐观梯度上升(OGA)在这些游戏中的收敛特性。我们证明了这种在线学习动态的时间平均行为表现出$O(1/T)$率收敛到纳什均衡集。此外,我们还证明了对于某些依赖于博弈的常数$c>0$,日常行为也以速率$O(c^{-t})$收敛于纳什。
2022-07-18 cs.GT cs.LG cs.MA
Theoretical and Practical Advances on Smoothing for Extensive-Form Games
Carnegie Mellon University(卡内基梅隆大学);University of Alberta(阿尔伯塔大学)
稀疏迭代法,特别是一阶方法,被认为是解决大规模两人零和扩展形式博弈最有效的方法之一。这些方法的收敛速度在很大程度上取决于距离生成函数的性质,他们是basedon. We调查的加速一阶方法解决扩展形式的游戏通过更好的设计的扩张熵函数-一类距离生成函数相关的域与扩展形式的游戏。通过引入一个新的加权方案的扩张熵函数,我们开发的第一个距离生成函数的战略空间的序列游戏,没有依赖于分支因子的球员。这一结果提高了收敛速度的几个一阶方法的一个因素的$Ω(b^dd)$,其中$b$是分支因子的球员,和$d$是深度的游戏树。到目前为止,反事实遗憾最小化方法在实践中更快,更受欢迎,比一阶方法,尽管他们的理论上的收敛速度较低。使用我们的新的加权方案和实际调整,我们表明,第一次,过度的差距技术可以更快地比最快的反事实遗憾最小化算法,CFR+,在实践中。
2017-05-09 cs.AI cs.GT
No-Regret Learning in Extensive-Form Games with Imperfect Recall
University of Alberta(阿尔伯塔大学)
反事实遗憾最小化(CFR)是一种有效的无遗憾学习算法,用于决策问题建模为广泛的游戏。CFR的后悔界限取决于完美回忆的要求:玩家总是记得透露给他们的信息以及信息透露的顺序。然而,在没有完美回忆的游戏中,CFR的保证不适用。在本文中,我们提出了第一个遗憾时,适用于一般类的游戏不完美的回忆CFR界。此外,我们表明,CFR适用于任何抽象属于我们的一般类的结果,不仅为抽象的游戏,但对于完整的游戏以及遗憾界。我们验证了我们的理论,并展示了如何不完美的回忆可以用来交易一个小的增加,在三个领域的记忆显着减少遗憾:骰子卷扑克,幻影井字游戏,虚张声势。
2012-05-03 cs.AI cs.GT
Correlation in Extensive-Form Games: Saddle-Point Formulation and Benchmarks
虽然纳什均衡在扩展形式的游戏是很好的理解,很少有人知道扩展形式的相关均衡(EFCE)的属性,无论是从行为和从计算的角度来看。在这种情况下,玩家的策略行为由一个外部设备补充,该设备会在游戏进行时私下向代理推荐移动;玩家可以随时自由偏离,但不会收到未来的建议。我们的贡献是三方面的。首先,我们表明,EFCE可以制定为双线性鞍点问题的解决方案。为了展示这种新的配方可以激发新的算法来计算EFCEs,我们提出了一个简单的次梯度下降法,利用这种配方和EFCEs的结构特性。我们的方法具有更好的可扩展性比以前的方法基于线性规划。其次,我们提出了两个基准游戏,我们希望这将作为未来评估EFCE求解器的基础。这些游戏的选择,以涵盖两个自然的应用领域EFCE:通过调解解决冲突,讨价还价和谈判。第三,我们记录了EFCE在我们提出的游戏中的定性行为。我们发现,在这些游戏中的社会福利最大化的均衡是非常重要的,并表现出令人惊讶的微妙的顺序行为,到目前为止还没有得到文献的关注。
2019-10-28 cs.GT cs.MA
(Mechanical) Reasoning on Infinite Extensive Games
为了更好地理解推理参与分析无限的游戏在广泛的形式,我们进行了实验,在这里报道的证明助手Coq。
2008-05-28 cs.GT cs.LO
Low-Variance and Zero-Variance Baselines for Extensive-Form Games
DeepMind;University of Alberta(阿尔伯塔大学)
可拓形式博弈(Extensive-Form Games,EFG)是不完全信息下多主体交互的一种常见模型。解决这些游戏的最先进的算法通常执行游戏树的完整遍历,这在大型游戏中可能会非常慢。或者,基于采样的方法,如蒙特卡罗反事实后悔最小化,在树中走一个或多个轨迹,每次迭代时只触及一小部分节点,代价是由于采样值的方差而需要更多的迭代来收敛。在本文中,我们扩展了最近的工作,使用基线估计,以减少这种变化。我们引入了一个框架的基线校正值的EFG,概括了以前的工作。在我们的框架内,我们提出了新的基线功能,导致显着降低方差相比,现有的技术。我们表明,这样一个功能的一个特定的选择-预测基线-在某些抽样方案下是可证明的最佳。这允许甚至沿着采样轨迹的零方差值估计的有效计算。
2019-07-22 cs.AI cs.GT
Polytope-form games and Index/Degree Theories for Extensive-form games
本文提出了扩展型博弈均衡的index理论,为此发展了策略集为一般多面体且支付函数为多重仿射的博弈的index理论,这类多面体源于识别正则型博弈中等价的混合策略。
2023-07-02 cs.GT econ.TH math.AT
LiteEFG: An Efficient Python Library for Solving Extensive-form Games
Massachusetts Institute of Technology(麻省理工学院);LIDS(林肯实验室);EECS(电气工程与计算机科学学院)
LiteEFG是一个高效的Python库,通过Python表达计算图并由C++后端执行,实现多人扩展型博弈的快速求解,用户只需定义单节点更新规则即可自动处理整个博弈树结构。
2024-07-29 cs.AI cs.GT cs.LG
What game are we playing? End-to-end learning in normal and extensive form games
Carnegie Mellon University(卡内基梅隆大学)
虽然最近的人工智能工作在解决大型、零和、可拓形式的游戏方面取得了很大进展,但过去大多数工作的基本假设是,游戏本身的参数是智能体已知的。本文论述了相对未被充分探索但同样重要的“逆”设置,其中底层游戏的参数并不为所有代理所知,但必须通过观察来学习。我们提出了一个差异化的,端到端的学习框架来解决这个任务。特别是,我们考虑了一个正则化版本的游戏,相当于一个特定形式的量子响应平衡,并开发1)原始对偶牛顿方法,在正常和广泛的形式的游戏中找到这样的平衡点;和2)反向传播方法,让我们分析计算梯度的所有相关的游戏参数通过解决方案本身。这最终让我们通过端到端的方式学习游戏,有效地将“可微游戏求解器”集成到更大的深度网络架构的循环中。我们证明了学习方法的有效性,在几个设置,包括扑克和安全游戏任务。
2018-06-27 cs.GT cs.LG cs.MA
Stochastic Regret Minimization in Extensive-Form Games
Carnegie Mellon University(卡内基梅隆大学);Columbia University(哥伦比亚大学);Strategic Machine, Inc.(战略机器公司);Strategy Robot, Inc.(战略机器人公司);Optimized Markets, Inc.(优化市场公司)
蒙特卡罗反事实后悔最小化算法(MCCFR)是一种最先进的算法,用于解决对于满树遍历来说太大的序列博弈。它通过使用可以通过采样计算的梯度估计来工作。然而,序列博弈的随机方法还没有得到广泛的研究超过MCCFR。在本文中,我们开发了一个用于开发随机后悔最小化方法的新框架。这个框架允许我们使用任何遗憾最小化算法,再加上任何梯度估计。MCCFR算法可以作为我们框架的一个特例进行分析,这种分析导致了更强的收敛性理论,同时得到了一个简化的证明。我们的框架允许我们实例化几个新的随机方法来解决序列游戏。我们在三个游戏上进行了大量的实验,其中我们的方法的一些变体优于MCCFR。
2020-02-19 cs.AI cs.GT cs.LG
Efficient Deviation Types and Learning for Hindsight Rationality in Extensive-Form Games: Corrections
后见之明理性(英语:Hindsight rationality)是一种玩一般和游戏的方法,它规定了个体代理关于一组偏差的无遗憾学习动态,并进一步描述了多个代理之间的联合理性行为。为了在顺序决策环境中发展后见之明的理性学习,我们将行为偏差形式化为尊重扩展形式游戏结构的一般偏差类。将时间选择的思想集成到反事实遗憾最小化(CFR)中,我们引入了扩展形式的遗憾最小化(EFR)算法,该算法可以对任何给定的行为偏差集实现事后理性,其计算与集合的复杂性密切相关。我们确定的行为偏差子集,部分序列偏差类型,subtermons先前研究的类型,并导致有效的EFR实例中的游戏具有中等长度。此外,我们提出了一个彻底的实证分析EFR实例化与不同的偏差类型在基准游戏中,我们发现,较强的类型通常会导致更好的性能。
2022-06-01 cs.AI cs.GT
Faster Algorithms for Optimal Ex-Ante Coordinated Collusive Strategies in Extensive-Form Zero-Sum Games
Carnegie Mellon University(卡内基梅隆大学);Politecnico di Milano(米兰理工大学);Strategic Machine, Inc.(战略机器公司);Strategy Robot, Inc.(战略机器人公司);Optimized Markets, Inc.(优化市场公司)
我们专注于寻找一个最优策略的问题,一个团队的两个球员,面对一个对手在一个信息零和扩展形式的游戏。队员在比赛中不允许交流,但可以在比赛前协调。在这种情况下,众所周知,团队所能做的最好的事情就是从一个联合(也就是说,每个参与者一个)中抽取一个潜在随机策略的样本。游戏开始时的概率分布。在本文中,我们首先提供了新的建模结果计算这样一个最佳的分布绘制连接到一个不同的文献上的扩展形式的相关性。其次,我们提供了一种算法,该算法通过仅使用其中只有一个团队成员在每个配置文件中随机化的配置文件来计算这样的最优分布。我们还可以限制解决方案中允许的此类配置文件的数量。这通过增加上限产生了一个随时算法。我们发现,往往是少数精心挑选的这样的配置文件足以达到最佳效用的团队。这使团队成员能够通过相对简单和易于理解的计划进行协调。最后,受此观察的启发,并利用我们介绍的理论概念,我们开发了一个有效的列生成算法,为团队找到最佳分布。我们在一套常见的基准游戏上评估它。这是三个数量级的速度比现有的最先进的游戏,后者可以解决,它也可以解决一些游戏,以前无法解决。
2020-09-21 cs.AI cs.GT cs.LG
Deconstruction of Infinite Extensive Games using coinduction
有限的对象,更具体地说,有限的游戏形式化使用归纳法,而无限的对象形式化使用共归纳法。在这篇文章中,在介绍了共同归纳的概念之后,我们重新审视了博弈论的基本概念--无限(离散)广泛博弈。其中,我们引入了纳什均衡的定义和无限博弈的子博弈完美均衡的概念。我们使用这些概念来分析著名的无限游戏,如美元拍卖游戏和蜈蚣游戏,我们表明,人类的行为,往往被认为是不合逻辑的是完全合理的,如果承认人类代理人的原因共感。
2009-04-28 cs.GT cs.LO
A process algebraic form to represent extensive games
在本文中,我们介绍了一个基于代理的表示的游戏,为了提出一个紧凑的表示,多方博弈在博弈论。我们的方法的灵感来自于进程理论和进程代数中的概念。此外,我们引入了一个算法,其输入是一个游戏的形式的进程代数(本文提出)和作为输出,发现的纳什均衡的游戏在线性空间复杂度。
2019-04-27 cs.GT
Computational Extensive-Form Games
我们定义的解决方案的概念,适当的计算有限的球员玩一个固定的有限游戏。要做到这一点,我们需要定义一个\emph{computational game}(在某种适当的意义上,它是一个不断变大的博弈序列)表示一个有限的底层扩展形式博弈的含义。粗略地说,我们要求序列中的所有博弈都具有与底层博弈基本相同的结构,除了两个不可区分的历史(即,在相同的信息集合中)可以对应于在计算游戏中仅在计算上不可区分的历史。我们定义了计算博弈的纳什均衡和序列均衡的计算版本,并表明每个纳什均衡(分别为,序列)均衡对应于计算纳什(分别,计算游戏中的均衡。我们的方法的一个优点是,如果一个密码协议表示一个抽象的游戏,那么我们可以分析它的战略行为在抽象的游戏,从而分离的密码分析的协议从战略分析。
2015-06-09 cs.GT
Efficient Deviation Types and Learning for Hindsight Rationality in Extensive-Form Games
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所);Université de Montréal(蒙特利尔大学);Mila(米拉研究所);DeepMind(深度思维);Brown University(布朗大学)
后见之明理性(英语:Hindsight rationality)是一种玩一般和游戏的方法,它规定了个体代理关于一组偏差的无遗憾学习动态,并进一步描述了多个代理之间的联合理性行为。为了在顺序决策环境中发展后见之明的理性学习,我们将行为偏差形式化为尊重扩展形式游戏结构的一般偏差类。将时间选择的思想集成到反事实遗憾最小化(CFR)中,我们引入了扩展形式的遗憾最小化(EFR)算法,该算法可以对任何给定的行为偏差集实现事后理性,其计算与集合的复杂性密切相关。我们确定的行为偏差子集,部分序列偏差类型,subtermons先前研究的类型,并导致有效的EFR实例中的游戏具有中等长度。此外,我们提出了一个彻底的实证分析EFR实例化与不同的偏差类型在基准游戏中,我们发现,较强的类型通常会导致更好的性能。
2022-06-22 cs.AI cs.GT
Timeability of Extensive-Form Games
可拓形式的游戏构成了标准的表示方案的游戏与时间的组成部分。但是,所有扩展形式的游戏都符合我们在现实世界中可以实现的协议吗?我们经常排除不完美回忆的游戏,这种游戏规定代理人忘记她以前知道的东西。在本文中,我们表明,即使是一些游戏完美的回忆可以是有问题的实施。具体来说,我们表明,如果代理人有一种时间流逝的感觉(比如说,访问一个时钟),那么一些广泛的形式的游戏不能再实现,无论我们如何尝试时间的游戏,一些信息将泄漏给代理人,他们不应该有。我们说这样的游戏是不完全时间。我们提供了易于检查的必要和充分条件,使游戏完全可计时。本文的大部分技术深度都涉及如何近似时间游戏,我们表明这总是可以做到的,尽管它可能需要大量的时间。具体来说,我们表明,对于一些游戏的时间需要近似实现游戏的增长作为一个权力塔的高度成正比的玩家数量和一个参数,测量近似的精度在顶部的权力塔。在实践中,这使得游戏无法计时。除了对博弈论的概念贡献外,我们相信我们的方法可以应用于防止安全协议中的信息泄漏。
2015-02-11 cs.GT
Dependent Types for Extensive Games
可拓博弈是经济学中广泛使用的工具,用来描述一个群体的决策过程。在本文中,我们提出了一个形式化的表示基于证明辅助COQ,主要集中在无限广泛的游戏和他们的特点。COQ提出了一个称为“依赖类型”的特性,这意味着对象的类型可能依赖于其组件的类型。例如,代理的选择集或效用集可能取决于代理本身。使用依赖类型,我们正式描述了一个非常一般的一类博弈和策略配置文件,这对应于博弈理论家所习惯的。我们还讨论了博弈论中的无限性概念,以及如何精确描述。
2017-12-06 cs.GT math.LO
On the Complexity of the Optimal Correlated Equilibria in Extensive-Form Games
University of Oxford(牛津大学);CNRS & Université Paris-Cité, IRIF(法国国家科学研究中心与巴黎西岱大学,IRIF);University of Liverpool(利物浦大学)
该研究证明多人扩展式博弈中最优NFCE的阈值问题为PSPACE-难,AFCE的该问题为NP-难,确定了多类相关均衡阈值问题的NP-完全性,还将扩展式博弈中任意NE计算归入FixP。
2026-07-30 cs.CC cs.GT
Watermarking Game-Playing Agents in Perfect-Information Extensive-Form Games
Strategic Machine, Inc.(战略机器公司);Strategy Robot, Inc.(策略机器人公司);Optimized Markets, Inc.(优化市场公司)
本文研究如何在完美信息扩展型游戏中对策略进行水印,通过调整LLM的KGW水印技术,展示水印检测的统计测试方法,并探讨质量与可检测性之间的权衡。
2026-05-14 cs.AI cs.CR cs.GT
Safe Search for Stackelberg Equilibria in Extensive-Form Games
Facebook AI Research(脸书人工智能研究院)
Stackelberg均衡是两人博弈中的一个解概念,其中领导者对追随者拥有承诺权。近年来,它已成为许多安全应用的基石,包括机场巡逻和野生动物偷猎预防。尽管这些设置中的许多设置本质上是顺序的,但现有技术提前预先计算整个解决方案。在本文中,我们提出了一个理论上健全和经验有效的方法来应用搜索,它利用额外的在线计算,以改善解决方案,在一般和游戏的Stackelberg平衡的计算。领导者不再试图预先解决整个博弈,而是首先离线计算近似的“蓝图”解决方案,然后针对实际博弈中遇到的特定子博弈在线改进。我们证明了我们的搜索技术保证不会比预先计算的蓝图策略更差,并根据经验证明,与纯离线方法相比,它可以近似解决更大的游戏。我们还表明,我们的搜索操作可以被铸造为一个较小的Stackelberg问题,使我们的方法互补现有的算法的基础上的战略生成。
2021-02-02 cs.AI cs.GT
Correlated Equilibria in Large Anonymous Bayesian Games
本研究将贝叶斯相关均衡扩展到大规模非原子博弈,提出贝叶斯相关沃德罗普均衡,证明其作为有限博弈均衡的极限,并揭示凸势博弈中相关均衡收敛到沃德罗普均衡的性质。
2023-09-05 cs.GT econ.TH
Double-oracle sampling method for Stackelberg Equilibrium approximation in general-sum extensive-form games
Warsaw Univeristy of Technology(华沙理工大学)
本文提出了一种新的不完全信息和完全回忆一般和序列对策强Stackelberg均衡的近似方法。所提出的方法是通用的,因为它不依赖于任何特定的游戏模型的特定属性。该方法是基于以下两个阶段的迭代交错:(1)引导蒙特卡罗树搜索抽样的追随者的战略空间和(2)建立领导者的行为战略树,抽样追随者的战略是一个最佳的响应。上述解决方案的评估与预期的领导者的效用和时间要求上的三套拦截游戏具有可变的特点,发挥图。与三个国家的最先进的MILP/LP为基础的方法的比较表明,在绝大多数的测试情况下,提出的基于仿真的方法导致最佳的领导者的战略,同时优于竞争力的方法,在更好的时间可扩展性和更低的内存要求。
2019-09-09 cs.AI cs.GT
A new quantum scheme for normal-form games
我们给出了严格的数学描述的Marinatto-Weber量子博弈方案的细化。该模型允许玩家选择投影仪操作员,以确定他们执行本地操作员的状态。由该方案导出的对策是有限策略型对策的推广。特别是,它涵盖了广泛的游戏,即正常表示,战略博弈由外延博弈产生。我们用一个广泛博弈的例子来说明我们的想法,并证明了经典博弈和量子博弈中的理性选择可能会导致显着不同的结果。
2017-01-24 cs.GT
Optimal Private Payoff Manipulation against Commitment in Extensive-form Games
Peking University(北京大学);Columbia University(哥伦比亚大学)
该研究针对扩展式博弈中领导者依赖追随者收益信息做策略承诺的场景,分析乐观与悲观两类追随者的最优收益操纵行为,刻画可诱导的博弈结果并证明该问题多项式时间可解。
2023-06-13 cs.AI cs.DS cs.GT
Computing Maxmin Strategies in Extensive-Form Zero-Sum Games with Imperfect Recall
不完全回忆的可拓形式博弈是一个重要的博弈论模型,它允许在动态策略交互中紧凑地表示策略。由于负面的理论结果,不完美回忆游戏的实际应用受到限制:纳什均衡不一定存在,计算最大最小策略是NP困难的,并且它们可能需要无理数。我们提出了第一个算法近似最大最小的两个球员零和不完美回忆游戏没有心不在焉的策略。我们修改了著名的序列形式的线性规划模型的策略不完美的回忆游戏,并使用最近的技术来近似双线性项。我们的主要算法是一个分支定界搜索这些线性规划,可证明达到所需的近似指数后的步骤的大小的游戏。实验结果表明,该算法可以在几分钟内逼近随机生成的大小超过玩具问题的不完美回忆游戏的最大最小策略。
2017-05-24 cs.GT