Polynomial-Time Linear-Swap Regret Minimization in Imperfect-Information Sequential Games
该研究针对序贯博弈中可高效实现的最强理性概念这一长期开放问题,证明可通过多项式时间迭代实现无线性交换遗憾,且该理性概念强于无触发遗憾,可高效逼近线性偏离相关均衡。
2023-11-07 cs.GT
The Application of Non-Cooperative Stackelberg Game Theory in Behavioral Science: Social Optimality with any Number of Players
在这里,我们提出了一个突破性的新假设的博弈论。这个假设的第一部分包含了一个公理化的观察,即所有的游戏都是由设计师创造的,无论它们是:(动态/静态)或(静态/非静态)或(顺序/一次性)非合作游戏,重要的是,无论它们是否旨在表示非合作Stackelberg游戏,它们都可以映射到Stackelberg游戏。即,游戏设计者是完全理性和诚实的领导者,而追随者则映射到所设计游戏的玩家。如果现在游戏设计者,或者在斯塔克尔伯格语境中的“领导者”,采取了一种纯粹的策略,我们假设下面的第二部分是从对最终游戏领导的公理化观察中得出的,经验主义的洞察力导致了这个假设的第二部分。重要的是,实现一个非合作的斯塔克伯格博弈,一个非常诚实和理性的领导者会导致所有参与者(追随者)的社会最优性,假设所有追随者和领导者都是纯策略的,领导者是完全理性的,诚实的,并且能够在领导这个有限博弈的任何有限次数的迭代中实现最小的领导能力。
2015-04-29 cs.GT
Adaptive Regret Minimization in Bounded-Memory Games
最小化后悔的在线学习算法在涉及在不确定环境中重复做出决策的情况下提供了强有力的保证,例如,驾驶员每天决定开车上班的路线。虽然后悔最小化已被广泛研究重复游戏,我们研究后悔最小化的更丰富的一类游戏称为有界记忆游戏。在两人有限记忆-m博弈的每一轮中,两个玩家同时进行一个动作,观察一个结果并获得奖励。奖励可以取决于最后m个结果以及玩家在当前回合中的动作。对于重复游戏,标准的后悔概念不再适用,因为行为和奖励可能取决于游戏的历史。为了解释这种普遍性,我们引入了k-自适应后悔的概念,它比较了通过对一个假设的k-自适应对手的算法规定的行动所获得的奖励,以及事后对同一对手的最佳专家所获得的奖励。粗略地说,一个假设的k-适应对手调整她的策略,以防御者的行动完全一样,真正的对手会在每个窗口的k轮。我们的定义是由一组专家参数化,其中可以包括固定和自适应防御策略。我们研究了完美和不完美信息的有界记忆博弈中自适应遗憾最小化的内在复杂性,并设计了相应的算法。我们证明了一个硬度的结果表明,与不完美的信息,任何k-自适应后悔最小化算法(与固定的战略专家)必须是低效的,除非NP=RP,即使对一个不经意的对手。相比之下,对于完美和不完美信息的有界记忆博弈,我们提出了近似0-自适应遗憾最小化算法,以对抗时间为n^{O(1)}的遗忘对手。
2013-09-05 cs.GT
Regret Minimizing Equilibria and Mechanisms for Games with Strict Type Uncertainty
机制设计在代理交互协议的构建中有着广泛的应用。在标准设置中,类型(例如,效用函数)不为其他代理所知,也不为机制设计者所知。当这种不确定性被概率量化时,一种机制会导致代理之间的不完全信息博弈。然而,在许多情况下,效用函数的不确定性不容易量化。研究了不完全信息博弈问题,其中不确定性是严格的或不可量化的。我们建议使用极大极小遗憾作为决策标准,在这样的游戏,一个强大的方法来处理类型的不确定性。我们定义了最小最大遗憾均衡,并证明了这些存在于有限游戏的混合策略。在此框架下,采用极大极小遗憾作为设计者自身的优化准则,研究了机制设计问题,并对此类机构的自动优化进行了研究。
2012-07-11 cs.GT
Honest signaling in zero-sum games is hard, and lying is even harder
证明了在指数时间假设下,在两人零和博弈中找到一个ε-近似最优的对称信号方案需要拟多项式时间.这是由[Cheng et al.,FOCS'15],并解决了[Dughmi,FOCS'14]的一个悬而未决的问题。我们还证明了找到一个乘法近似是NP-困难的。我们还介绍了一个新的模型,一个不诚实的信号可以公开承诺使用一个计划,但根据不同的计划后的信号。对于这个模型,我们证明了即使找到(1-2^{-n})-近似最优方案也是NP-困难的。
2017-04-18 cs.DS cs.GT
When Is Delegated Play Truthful? Within-Range Regret and the Trilemma of Aligned Delegation
Kent State University(肯特州立大学)
研究广告商和用户委托代理的最优诚实描述问题,核心方法是基于代理的范围内遗憾,主要贡献是统一特定拍卖自动出价结果、确定语言模型诱导代理假设成立条件,揭示护栏三难困境及生产模型诚实报告存在未认领剩余等情况。
2026-07-17 cs.GT cs.MA econ.TH
Clairvoyant Regret Minimization: Equivalence with Nemirovski's Conceptual Prox Method and Extension to General Convex Games
Piliouras等人最近的一篇论文。[2021,2022]介绍了一种用于正规形式游戏的解耦学习算法-称为千里眼MWU(CMWU)。在本文中,我们证明了CMWU等价于Nemirovski [2004]描述的概念性prox方法。这种连接立即表明,它是可能的扩展CMWU算法的任何凸游戏,一个问题由Piliouras等人留下的开放。我们呼吁由此产生的算法-再次相当于概念prox方法-千里眼OMD。与此同时,我们表明,我们的分析产生了一个改进的遗憾界相比,由Piliouras等人,因为CMWU的遗憾只与玩家数量的平方根有关,而不是玩家本身的数量。
2022-08-31 cs.GT
Regret Pruning for Learning Equilibria in Simulation-Based Games
近年来,经验博弈理论分析(EGTA)已成为一个强大的工具,分析游戏中的一个确切的规格的效用是不可用的。相反,EGTA假定访问oracle,即,一个模拟器,它可以生成无偏的噪声样本的球员的未知效用,给定的战略配置文件。因此,可以通过重复查询模拟器来经验地估计效用。最近,已经提出了各种渐进采样(PS)算法,其旨在产生PAC风格的学习保证(例如,具有高概率的近似纳什均衡)使用尽可能少的模拟器查询。最近的一项工作介绍了一种修剪技术,称为遗憾修剪,进一步减少模拟器的数量放在PS算法,旨在学习纯纳什均衡查询。在本文中,我们解决了一个严重的限制,这种原始的遗憾修剪方法-它只能保证真正的纯纳什均衡的经验博弈的近似均衡的真实游戏,并无法提供任何强有力的保证近似纯纳什均衡的功效。这是一个重要的限制,因为在许多游戏中,纯纳什均衡在计算上很难找到,甚至不存在。我们介绍三种新的遗憾修剪的变化。前两个变化概括了原来的遗憾修剪方法,以保证近似纯纳什均衡的经验博弈。第三种变化更进一步,甚至对经验博弈的所有近似混合纳什均衡产生强保证。我们使用这些遗憾修剪的变化,设计两种新的渐进式采样算法,PS-REG+和PS-REG-M,实验优于以前的国家的最先进的算法学习纯和混合平衡,分别基于模拟的游戏。
2022-11-30 cs.GT
Regret-Minimizing Double Oracle for Extensive-Form Games
提出统一的 Regret-Minimizing Double Oracle 框架分析扩展式博弈双预言机方法,并设计 PDO,将 XDO 的指数级样本复杂度降为关于信息集数的多项式级,且实证收敛更快。
2023-07-13 cs.GT
Intention Games: Towards Strategic Coexistence between Partially Honest and Blind Players
竞争实体之间的战略互动通常被认为是从这些互动中获得的利益的完整揭示的角度来看,在公开的支付函数和/或信念的形式,在宣布的游戏。然而,在类似的竞争环境中,竞争对手之间存在着战略相互作用,在这种情况下,玩家可以选择在私人收益的可用性下制定战略。在这篇文章中,我们提出了一个正式的框架,竞争性的生态系统中,每个球员都被允许从公开的最优策略的某些私人收益大于宣布的收益,鉴于这些叛逃有一定的可接受的范围内,从长远来看,所有的球员同意。我们把这种博弈论的构造称为意图博弈。我们正式定义了一个意图游戏,并存在于这种相互作用,允许公开叛逃的参与者的均衡的概念。我们比较了意图游戏与传统的战略形式的游戏,并证明了类型理论的意图游戏的建设。在一个部分诚实的环境中,我们给出了古诺竞争、移动应用程序之间的安全交互、互联网服务提供商之间通过内容分发网络进行的互联网服务数据采购竞争以及比特币挖矿竞争的意图博弈实例。我们给出了一个使用意图游戏来确定玩家参与的密码协议。最后,我们证明了意图游戏框架的双重模型的可能性。
2020-02-11 cs.CR cs.GT
Sync Pure Counterfactual Regret Minimization in Incomplete Information Extensive Form Games
本文结合同步虚构博弈与纯CFR,提出同步PCFR算法,在不完全信息扩展形式博弈中收敛速度比CFR+快约一个数量级且内存更省。
2023-11-13 cs.GT
Simultaneous AlphaZero: Extending Tree Search to Markov Games
University of Colorado Boulder(科罗拉多大学博尔德分校)
同时AlphaZero通过矩阵游戏求解器扩展了AlphaZero框架,以处理多步骤双人零和马尔可夫游戏中的同时行动和不确定性。
2026-08-17 cs.GT
Semi Bandit Dynamics in Congestion Games: Convergence to Nash Equilibrium and No-Regret Guarantees
本文提出一种在线梯度下降新变体,在半老虎机反馈下使拥塞游戏收敛至纳什均衡并取得次线性遗憾,收敛速率仅多项式依赖于玩家和设施数量,解决了Du等人2022年的开放问题。
2023-06-27 cs.GT
A Lower Bound on Swap Regret in Extensive-Form Games
针对扩展式博弈中多项式轮次的无交换遗憾学习算法是否存在的开放问题,本文证明其下界,指出实现ε平均交换遗憾至少需exp(Ω(min{m^(1/14), ε^(-1/6)}))轮,排除了poly(m,1/ε)轮算法的可能。
2024-06-19 cs.GT
Polynomial Convergence of Bandit No-Regret Dynamics in Congestion Games
本文提出一种强盗反馈下的在线学习算法,使拥堵博弈动态在多项式轮数内收敛到ε-近似纳什均衡,并保证次线性遗憾,同时为DAG网络拥堵博弈给出多项式时间实现。
2024-01-17 cs.GT
Satisfaction and Regret in Stackelberg Games
本文提出Stackelberg博弈中跟随者满意度的新概念,证明其可提升领导者效用,并分析遗憾匹配算法的收敛行为,指出其可能收敛至非无遗憾的混合策略,但条件RM可接近Stackelberg解。
2024-08-21 cs.GT
Pointwise Convergence in Games with Conflicting Interest
该研究提出非负加权遗憾概念以分析利益冲突博弈,证明OMD、OFTRL两种乐观无遗憾算法以O(1/ε²)速率收敛到ε-近似纳什均衡,有限均衡下可逐点收敛且具鲁棒性,并通过实验验证了理论结果。
2025-05-21 cs.GT
Hierarchies of No-regret Algorithms
本文研究玩家在不同双人游戏中使用无悔算法的效用问题,发现无换悔算法在某些游戏中表现更差,其根本原因在于学习速率差异。
2026-04-27 cs.GT
On the Complexity of Computing Sparse Equilibria and Lower Bounds for No-Regret Learning in Games
本文研究了正则形式与扩展形式博弈中无悔学习的复杂性,证明了扩展形式博弈存在超多项式下界,并首次为乘法权重更新等经典算法给出了依赖维度的非平凡下界。
2023-11-24 cs.GT
A Logarithmic Regret Bound for Optimistic Hedge in General-Sum Games
本文证明在一般和博弈中,乐观 Hedge 算法采用常数步长可在自我对弈中实现 O(√n log d_i log T) 的对数级个体遗憾,优于对抗性遗憾界,并通过高阶差分分析改进现有结果。
2026-09-18 cs.GT
No-Regret Learning in Bayesian Games
Northwestern University(西北大学);Microsoft Research(微软研究院);Cornell University(康奈尔大学)
最近的价格的无政府状态分析游戏的完全信息表明,粗糙的相关均衡,其特点是从无悔学习动态的结果,有接近最优的福利。这项工作提供了两个主要的技术成果,将这一结论提升到不完全信息的游戏,即,贝叶斯博弈首先,贝叶斯博弈中的近最优福利直接来自于当私有信息公开时,在同一博弈中的近最优福利的基于平滑性的证明。其次,在这些不完全信息博弈中,无悔学习动态收敛于贝叶斯粗相关均衡。这些结果是通过将贝叶斯博弈解释为完全信息的随机博弈来实现的。
2015-11-19 cs.GT cs.LG
Watermarked Game Solving via Perturbed Regret Minimization
Computer Science Department, CMU(卡内基梅隆大学计算机科学系);Strategic Machine, Inc.(战略机器有限公司);Strategy Robot, Inc.(策略机器人有限公司);Optimized Markets, Inc.(优化市场有限公司)
本文针对现有博弈智能体水印技术仅适用于完美信息博弈的局限,提出集成于学习过程、可用于不完美信息博弈的扰动遗憾最小化水印方法,其水印代价小且易检测。
2026-08-18 cs.GT
Routing Games in the Wild: Efficiency, Equilibration and Regret (Large-Scale Field Experiments in Singapore)
路由博弈是博弈论中研究最多的领域之一。这些笔和纸的计算与理解日常交通路线的现实有多大关系?我们专注于一个语义丰富的数据集,捕捉成千上万的新加坡通勤者的日常行为的详细信息,并研究以下基本问题:(一)交通平衡?(ii)系统行为是否与延迟最小化代理一致?(iii)由此产生的系统是否有效?为了以一种符合我们日常直觉的方式来捕捉交通网络的效率,我们引入了一个新的度量标准,即灾难压力,它反映了公地悲剧和无政府状态无政府代价效应的综合效率低下。
2017-08-14 cs.GT
No-Regret Learning in Extensive-Form Games with Imperfect Recall
University of Alberta(阿尔伯塔大学)
反事实遗憾最小化(CFR)是一种有效的无遗憾学习算法,用于决策问题建模为广泛的游戏。CFR的后悔界限取决于完美回忆的要求:玩家总是记得透露给他们的信息以及信息透露的顺序。然而,在没有完美回忆的游戏中,CFR的保证不适用。在本文中,我们提出了第一个遗憾时,适用于一般类的游戏不完美的回忆CFR界。此外,我们表明,CFR适用于任何抽象属于我们的一般类的结果,不仅为抽象的游戏,但对于完整的游戏以及遗憾界。我们验证了我们的理论,并展示了如何不完美的回忆可以用来交易一个小的增加,在三个领域的记忆显着减少遗憾:骰子卷扑克,幻影井字游戏,虚张声势。
2012-05-03 cs.AI cs.GT
Solving Imperfect-Information Games via Discounted Regret Minimization
Carnegie Mellon University(卡内基梅隆大学)
反事实后悔最小化(CFR)是一类迭代算法,是最流行的,在实践中,最快的方法来近似解决大规模的信息博弈。在本文中,我们引入了新的CFR变体,1)以各种方式从早期迭代中折扣遗憾(在某些情况下,积极和消极的遗憾不同),2)以各种方式重新加权迭代以获得输出策略,3)使用非标准的遗憾最小化器和/或4)利用“乐观遗憾匹配”。它们在许多环境中显著提高了性能。首先,我们引入了一个变体,在每个测试的游戏中,包括大规模的现实设置中,它的性能都优于CFR+,这是现有的最先进的算法。CFR+是一个强大的基准:没有其他算法已经能够胜过it. Finally,我们表明,与CFR+,许多重要的新的变种是兼容的现代信息游戏修剪技术和一个也是兼容的游戏树中的采样。
2019-02-21 cs.AI cs.GT
Efficient $Φ$-Regret Minimization with Low-Degree Swap Deviations in Extensive-Form Games
本文针对扩展式博弈中交换遗憾最小化问题,引入$k$-中介偏差集并开发参数化算法,在特定条件下实现多项式或拟多项式轮数复杂度,填补了现有极端算法间的场景空白。
2025-02-13 cs.GT
Sample-Efficient Regret-Minimizing Double Oracle in Extensive-Form Games
针对扩展式博弈求解中样本复杂度高的问题,提出AdaDO算法将样本复杂度降至多项式级,同时构建RMDO理论框架指导高效DO算法设计,实验验证其性能优于多种强基线。
2024-11-01 cs.GT
Efficient Regret Minimization in Non-Convex Games
Department of Computer Science, Princeton University(普林斯顿大学计算机科学系)
本文研究非凸损失函数重复博弈中的后悔最小化问题。最小化后悔的标准概念在计算上是困难的。因此,我们定义了一个自然的概念,遗憾,允许有效的优化和推广离线保证收敛到近似的局部最优。我们给出了基于梯度的方法,实现最佳遗憾,这反过来又保证收敛到平衡在这个框架中。
2017-07-31 cs.GT cs.LG stat.ML
Reduced Space and Faster Convergence in Imperfect-Information Games via Regret-Based Pruning
Carnegie Mellon University(卡内基梅隆大学)
反事实后悔最小化(CFR)算法是求解零和信息博弈的最常用的迭代算法。基于后悔的修剪(RBP)是一种改进,允许临时修剪性能不佳的操作,从而加快CFR。我们引入了Total RBP,这是一种新形式的RBP,它可以减少CFR的空间需求,因为动作被修剪。我们证明,在零和游戏中,它渐近修剪任何行动,不是一个最佳对策的一部分,一些纳什均衡。这导致可证明的更快收敛和更低的空间要求。实验表明,总RBP结果在空间上减少了一个数量级,减少因子随着游戏大小的增加而增加。
2016-09-12 cs.AI cs.GT
Swap Regret and Correlated Equilibria Beyond Normal-Form Games
University of Pennsylvania(宾夕法尼亚大学);Tel Aviv University(特拉维夫大学);Google Research(谷歌研究院);Courant Institute of Mathematical Sciences(柯朗数学科学研究所)
本文提出多面体博弈中的轮廓交换遗憾概念,证明其亚线性最小化是学习算法不可被对手操纵的充要条件,并给出高效算法保证$O(\sqrt{T})$遗憾,同时揭示其诱导的相关均衡与第三方调解可实现结果间的差距。
2025-02-27 cs.GT cs.LG
No-Regret Learning in Games with Noisy Feedback: Faster Rates and Adaptivity via Learning Rate Separation
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);EPFL(洛桑联邦理工学院);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Criteo AI Lab(Criteo人工智能实验室)
当学习者与其他优化代理参与连续游戏时,我们研究了遗憾最小化的问题:在这种情况下,如果所有玩家都遵循无遗憾算法,则相对于完全对抗的环境,可以实现显着降低的遗憾。我们研究这个问题的背景下,变分稳定的游戏(一类连续的游戏,其中包括所有的凹凸和单调的游戏),当玩家只能获得噪声估计他们的个人收益梯度。如果噪声是加性的,博弈论和纯粹的对抗设置享受类似的遗憾保证;然而,如果噪声是乘法的,我们表明,学习者可以,事实上,实现恒定的遗憾。我们通过具有学习率分离的乐观梯度方案来实现这种更快的速度-也就是说,该方法的外推和更新步骤根据噪声分布调整到不同的时间表。随后,为了消除对精细超参数调整的需要,我们提出了一种完全自适应的方法,该方法可以获得与非自适应方法几乎相同的保证,同时在不了解游戏或噪声配置文件的情况下操作。
2023-03-17 cs.GT cs.LG
Evolutionary Dynamics and $Φ$-Regret Minimization in Games
SUTD(新加坡科技设计大学);DeepMind(深度思维)
后悔已经被确立为在线学习的一个基本概念,并且同样在游戏中的学习动力学分析中具有重要的应用。后悔量化了学习者的表现与事后的基线之间的差异。众所周知,遗憾最小化算法收敛于游戏中的某些均衡;然而,在博弈论中使用的传统形式的遗憾主要考虑允许偏离确定性行动或策略的基线。在本文中,我们重新审视了我们对遗憾的理解,从整个\emph{mixed}策略空间(即,概率分布在纯策略),镜头下的先前建立的$Φ$ -后悔框架,它提供了一个连续的更强的后悔措施。重要的是,$Φ$ -后悔使学习代理考虑偏离和混合策略,概括了几个现有的后悔概念,如外部,内部和交换后悔,从而扩大了从基于后悔的学习算法分析中获得的见解。我们在这里证明,经过充分研究的进化学习算法的复制动力学(RD)无缝地最大限度地减少了最强的可能形式的$Φ$ -遗憾的通用$2 \times 2$游戏,没有任何修改的基础算法本身。随后,我们进行实验验证我们的理论结果在一套144 $2 \times 2$游戏,其中RD表现出不同的行为。最后,我们提供的经验证据,$Φ$ -遗憾最小化的RD在一些较大的游戏,暗示进一步的机会,$Φ$ -遗憾为基础的研究,从理论和实证的角度来看,这样的算法。
2021-06-28 cs.GT cs.LG cs.MA
Regret Minimization in Non-Zero-Sum Games with Applications to Building Champion Multiplayer Computer Poker Agents
在两人零和博弈中,如果两个博弈者都最小化他们的平均外部后悔,那么策略剖面的平均值收敛到一个纳什均衡。然而,对于n人一般和游戏,遗憾最小化的理论保证较少被理解。尽管如此,反事实遗憾最小化(CFR),一个流行的遗憾最小化算法的广泛形式的游戏,产生了获奖的三人德州扑克代理在年度电脑扑克比赛(ACPC)。在本文中,我们提供了第一套理论性质的遗憾最小化算法在非零和游戏证明,解决方案消除迭代严格控制。我们正式定义\emph{dominated actions}在扩展形式的游戏,显示CFR避免迭代严格支配的行动和战略,并证明,删除迭代支配的行动是足以赢得一个模拟锦标赛在一个小的扑克游戏。此外,对于两个玩家的非零和游戏,我们绑定的最坏情况下的性能,并表明,在实践中,后悔最小化可以产生非常接近均衡的策略。我们的理论进步使我们对CFR进行了新的修改,用于两个以上玩家的游戏,更有效,可以用来生成比以前更强大的策略。此外,我们提出了一个新的三人德州扑克代理,是使用CFR和一种新的游戏分解方法。我们的新代理赢得了2012年ACPC的三人项目,并击败了以前比赛中的三人项目,同时需要比2011年冠军更少的资源来产生。最后,我们表明,我们的CFR修改计算出一个战略,我们的新代理在四分之一的时间标准CFR使用一半的内存质量相等。
2013-04-30 cs.GT cs.MA
No-Regret Learning in Stackelberg Security Games with an Unknown, Bounded Set of Attacker Types
Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文研究未知有界攻击者类型集的Stackelberg安全博弈的无遗憾学习,通过分析不同观察信息下的算法遗憾,给出对应次线性遗憾的算法及结果,明确延迟附加代价不可避免。
2026-10-14 cs.GT
Minimizing Regret in Discounted-Sum Games
本文研究了加权对策图上折扣和对策的最小化后悔问题。我们给算法的一般问题的计算最小遗憾的控制器(夏娃)以及几个变种,这取决于哪些策略的环境(亚当)被允许使用。我们还考虑了在这些情况下为夏娃合成无遗憾策略的问题。
2018-05-04 cs.FL cs.GT cs.LO
Polylogarithmic Nash Regret in Matrix Games with Bandit Feedback
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究提出乐观支付平衡算法,在有限矩阵博弈中实现对数多项式的纳什遗憾,解决了非唯一均衡下的开放问题,证明观察对手动作足以达到该保证。
2026-09-29 cs.GT cs.LG
No-Regret Learning in Network Stochastic Zero-Sum Games
无悔学习被广泛用于计算两人零和对策的纳什均衡。然而,对于网络随机零和对策,由于参与者只能获得局部信息,且费用函数包含不确定性,遗憾分析仍然缺乏.这样的对策模型可以在安全游戏中找到,当一组检查员一起工作来检测一组逃避者时。本文提出了一种分布式随机镜像下降(D-SMD)方法,并分别建立了凸-凹代价和强凸-强凹代价下的遗憾界$O(\sqrt{T})$和$O(\log T)$.我们的边界匹配的最知名的一阶在线优化算法。然后,我们证明了D-SMD的时间平均迭代收敛到纳什均衡集。最后,我们证明了在严格凸-严格凹的条件下,D-SMD的实际迭代几乎必然收敛到Nash平衡点。
2022-05-29 cs.GT math.OC
Game Redesign in No-regret Game Playing
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
我们研究的游戏重新设计的问题,其中外部设计师有能力改变支付函数在每一轮,但招致的设计成本偏离原来的游戏。玩家应用无遗憾学习算法以有限的反馈重复玩改变的游戏。设计者的目标是(i)激励所有玩家频繁地采取特定的目标动作配置文件;以及(ii)产生小的累积设计成本。我们提出了游戏重新设计算法,保证目标动作配置文件是在T-o(T)轮,而只产生o(T)的累积设计成本。游戏重新设计描述了积极和消极的应用:一个仁慈的设计者,激励玩家采取与原始游戏的解决方案相比具有更好的社会福利的目标动作配置文件,或者一个恶意攻击者,其目标动作配置文件使自己受益,但不是玩家。四个经典游戏的模拟证实了我们提出的重新设计算法的有效性。
2021-10-18 cs.GT cs.LG
Self-Bounding Regret Matching+ in Potential Games and Product-Simplex Optimization
Johns Hopkins University(约翰斯·霍普金斯大学);Miramar College(米拉马尔学院)
本文提出RM+的精确一步守恒律,证明其在乘积单纯形光滑目标上可经O(ε⁻²)次迭代找到ε-KKT点,解决有限精确潜在博弈交替策略下遗憾有界的开放问题,性能优于对比变体。
2026-09-25 cs.GT
Team Belief DAG: Generalizing the Sequence Form to Team Games for Fast Computation of Correlated Team Max-Min Equilibria via Regret Minimization
提出团队信念DAG(TB-DAG)表示法,将团队策略描述为凸集,通过遗憾最小化技术指数级提升相关团队极大极小均衡的计算速度和规模。
2024-02-17 cs.GT
Learning not to Regret
Charles University(查理大学);Czech Technical University(捷克技术大学);Google DeepMind(谷歌DeepMind);University of Alberta(阿尔伯塔大学);EquiLibre Technologies
本文提出“学习不后悔”框架,通过元学习神经预测后悔匹配算法,在相似博弈分布上实现均衡求解的快速收敛,并在河牌扑克实验中取得超十倍改进。
2024-02-19 cs.GT cs.LG
An Incentive-Compatible Smart Contract for Decentralized Commerce
提出一种区块链智能合约作为托管,允许互不信任方交易非数字商品,通过博弈论证明在仲裁者偏向诚实方时诚实策略安全,并推广至多方交易以摊销费用。
2020-08-24 cs.GT
Regret Minimization in Behaviorally-Constrained Zero-Sum Games
Carnegie Mellon University(卡内基梅隆大学)
无遗憾学习已经成为解决扩展形式游戏的强大工具。这是由反事实遗憾最小化(CFR)框架,它依赖于实例化的遗憾最小化的单形在每个信息集的游戏。我们使用的CFR框架的实例开发算法解决行为约束(作为一种特殊情况,在Selten意义上扰动)的扩展形式的游戏,这使我们能够计算近似的纳什均衡的改进。纳什均衡的改进是由纳什均衡中的一个主要缺陷引起的:它实际上没有保证它将如何在博弈树中以零概率到达的部分中发挥作用。改进可以解决这个问题,但尚未在实践中采用,主要是由于缺乏可扩展的算法。我们表明,相比标准算法,我们的方法找到的解决方案,有更好的细化性能,同时享受的收敛速度,是最先进的算法纳什均衡计算在理论和实践中。
2017-11-09 cs.GT cs.LG
Optimism Without Regularization: Constant Regret in Zero-Sum Games
SUTD(新加坡科技设计大学);Aarhus University(奥胡斯大学)
本文提出在零和博弈中无需正则化即可实现常数遗憾的乐观 fictitious play 方法,并证明其在无正则化情况下具有最优速率。
2026-01-14 cs.GT cs.LG
On the Convergence of No-Regret Learning Dynamics in Time-Varying Games
Carnegie Mellon University(卡内基梅隆大学);University of California Irvine(加州大学欧文分校);Strategy Robot, Inc.(战略机器人公司);Optimized Markets, Inc.(优化市场公司);Strategic Machine, Inc.(战略机器公司)
本文研究了动态多智能体环境下无悔学习算法的收敛性,刻画了时变博弈中乐观梯度下降(OGD)的收敛界限,并扩展至一般和多人博弈,为元学习和动态遗憾保证提供了新见解。
2023-10-18 cs.GT cs.LG
Multiplicative Optimism for Constant Regret in Games
MIT(麻省理工学院);Google Deepmind(谷歌DeepMind)
本文提出乘性乐观遗憾匹配(MORM),一种非耦合学习规则,在有限一般和博弈中实现常数遗憾,并扩展到对抗性效用场景。
2026-09-21 cs.GT cs.LG math.OC
Convergence to Nash Equilibrium and No-regret Guarantee in (Markov) Potential Games
Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of Waterloo(滑铁卢大学)
针对随机成本与赌博机反馈下的势博弈及马尔可夫势博弈,提出带充分探索和递归梯度估计的 Frank-Wolfe 变体,实现纳什均衡收敛、次线性遗憾,并将马尔可夫情形的纳什遗憾改进至 O(T^{4/5})。
2024-04-04 cs.GT cs.LG
Optimistic Mirror Descent Either Converges to Nash or to Strong Coarse Correlated Equilibria in Bimatrix Games
我们证明了,对于任何足够小的固定$ε> 0$,当两个局中人都是一般和两个局中人时,(双矩阵)游戏采用乐观镜像下降(OMD),具有平滑正则化,学习率$η= O(ε^2)$和$T = Ω(\text{poly}(1/ε))$重复,或者动态达到$ε$ -近似纳什均衡(NE),或者游戏的平均相关分布是$Ω(\text{poly}(ε))$ -强粗相关均衡(CCE):任何可能的单方面偏离不仅使玩家更糟,而且将使其效用降低$Ω(\text{poly}(ε))$。作为一个直接的后果,当OMD的迭代是有界远离纳什均衡的双矩阵游戏,我们保证收敛到一个确切的CCE后,只有$O(1)$迭代。我们的研究结果表明,解耦的无遗憾学习算法可以收敛到CCE的一般和游戏显着快于NE,例如,零和游戏。为了建立这一点,我们表明,当OMD没有达到任意接近NE,(累积)遗憾的两个球员不仅是负面的,但随时间线性衰减。考虑到后悔是在线学习中性能的标准衡量标准,我们的研究结果表明,游戏中的无后悔学习算法的循环行为可以从效率方面得到证明。
2022-10-07 cs.GT
Bounds for Approximate Regret-Matching Algorithms
University of Alberta(阿尔伯塔大学)
解决大型非真实信息博弈的一个主要方法是反事实遗憾最小化(CFR)。在CFR中,许多后悔最小化问题组合起来解决这个问题。对于非常大型的游戏,通常需要抽象来使CFR易于处理。抽象通常是手动调整的,可能会删除完整游戏中的重要战略差异并损害性能。函数近似提供了一种自然的解决方案,可以找到好的抽象来近似整个游戏。结合函数逼近的一种常见方法是学习后悔最小化算法所需的输入,允许在许多后悔最小化问题中推广。本文给出了当后悔极小化算法使用估计值而不是真值时的后悔界。这种形式的分析是第一个推广到更大类的$(Φ, f)$ -后悔匹配算法,并包括不同形式的后悔,如交换,内部和外部后悔。我们演示了这些结果如何给一个稍微紧的约束回归后悔匹配(RRM),并提出了一个新的结合回归与对冲的约束。
2019-11-28 cs.GT cs.LG
Proximal Regret and Proximal Correlated Equilibria: A New Tractable Solution Concept for Online Learning and Games
Yale University(耶鲁大学);MIT CSAIL(麻省理工学院CSAIL);University of Southern California(南加州大学);University of Virginia(弗吉尼亚大学)
本文提出介于外部遗憾与交换遗憾之间的近端遗憾概念,证明经典在线梯度下降无需修改即可达到最优近端遗憾界,并据此定义近端相关均衡,统一并拓展了在线学习与博弈论中的多种均衡概念。
2025-11-05 cs.GT cs.LG
Is Learning in Games Good for the Learners?
Google(谷歌)
本文提出允许非对称后悔约束的广义均衡,刻画重复博弈中奖励与后悔的权衡,并分析面对不同无后悔学习者时的最优收益及 Stackelberg 策略学习复杂度。
2023-12-16 cs.GT cs.LG
Distributed No-Regret Learning in Multi-Agent Systems
Cornell University(康奈尔大学)
在这篇教程文章中,我们概述了在以重复未知游戏为模型的多智能体系统中分布式无悔学习的新挑战和代表性结果。四个新兴的游戏特点-动态性,不完全和不完美的反馈,有限理性,和异质性-挑战规范的游戏模型进行了探讨。对于这四个特征中的每一个,我们阐明了它在游戏建模、后悔的概念、可行的游戏结果以及分布式学习算法的设计和分析中的含义和后果。
2020-02-20 cs.GT cs.LG cs.MA
On the Convergence of No-Regret Dynamics in Information Retrieval Games with Proportional Ranking Functions
本文研究了信息检索博弈中发布者的策略性行为,证明了具有凹激活函数的比例排序函数能诱导无悔学习动态收敛,并揭示了激活函数凹性与博弈凹性的等价性,同时分析了不同选择对发布者与用户福利及收敛速率的影响。
2025-01-29 cs.GT cs.IR
Constant Individual Regret in General Games
Massachusetts Institute of Technology(麻省理工学院)
针对完全信息反馈下的有限N玩家标准型博弈,提出确定性完全非耦合的ECHO-OFTRL算法,消除个体遗憾与时间跨度的多对数依赖,保证各玩家遗憾上界为O(poly(N, log m_max))。
2026-09-01 cs.GT cs.LG