Sychronous vs. asynchronous coalitions in multiplayer games, with applications to guts poker
本文研究多人博弈中同步与异步联盟的差异,指出异步最优值求解为非凸优化问题,并通过数值方法和支付函数凹凸性条件,肯定回答了三人 Guts 异步联盟最优值是否为零的开放问题。
2024-12-25 cs.GT
ScrofaZero: Mastering Trick-taking Poker Game Gongzhu by Deep Reinforcement Learning
University of Michigan(密歇根大学);Peking University(北京大学);Tsinghua University(清华大学)
人们在博弈人工智能方面取得了显著的进展,特别是在完全信息博弈领域。然而,作为一种流行的不完全信息博弈形式,扑克牌游戏中的取整策略一直被认为是一个挑战。由于诡计游戏不仅需要高水平的推理,而且还需要高水平的推理才能脱颖而出,因此它可以成为不完全信息游戏AI的一个新里程碑。我们研究公珠,一种类似于但比契约桥牌稍微简单一点的技巧游戏。尽管如此,公主的策略对人类和计算机玩家来说都足够复杂。我们通过深度强化学习从\textit{tabula rasa}中训练了一个强大的公珠AI ScrofaZero,而以前解决扑克游戏的努力很少利用神经网络的表示能力。此外,我们引入了新的技术,不完美的信息游戏,包括分层抽样,重要性加权,积分超过等价类,贝叶斯推理等,我们的人工智能可以达到人类专家级的性能。在构建我们的程序的方法可以很容易地转移到一个广泛的技巧游戏。
2021-02-15 cs.AI cs.GT cs.NE
Regret Minimization in Non-Zero-Sum Games with Applications to Building Champion Multiplayer Computer Poker Agents
在两人零和博弈中,如果两个博弈者都最小化他们的平均外部后悔,那么策略剖面的平均值收敛到一个纳什均衡。然而,对于n人一般和游戏,遗憾最小化的理论保证较少被理解。尽管如此,反事实遗憾最小化(CFR),一个流行的遗憾最小化算法的广泛形式的游戏,产生了获奖的三人德州扑克代理在年度电脑扑克比赛(ACPC)。在本文中,我们提供了第一套理论性质的遗憾最小化算法在非零和游戏证明,解决方案消除迭代严格控制。我们正式定义\emph{dominated actions}在扩展形式的游戏,显示CFR避免迭代严格支配的行动和战略,并证明,删除迭代支配的行动是足以赢得一个模拟锦标赛在一个小的扑克游戏。此外,对于两个玩家的非零和游戏,我们绑定的最坏情况下的性能,并表明,在实践中,后悔最小化可以产生非常接近均衡的策略。我们的理论进步使我们对CFR进行了新的修改,用于两个以上玩家的游戏,更有效,可以用来生成比以前更强大的策略。此外,我们提出了一个新的三人德州扑克代理,是使用CFR和一种新的游戏分解方法。我们的新代理赢得了2012年ACPC的三人项目,并击败了以前比赛中的三人项目,同时需要比2011年冠军更少的资源来产生。最后,我们表明,我们的CFR修改计算出一个战略,我们的新代理在四分之一的时间标准CFR使用一半的内存质量相等。
2013-04-30 cs.GT cs.MA
Beyond Game Theory Optimal: Profit-Maximizing Poker Agents for No-Limit Holdem
KyungHee University(庆熙大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出融合GTO防守基线与实时对手剥削的扑克智能体,并通过CFR类方法验证其在单挑和多人无限注德州扑克中超越GTO、实现利润最大化。
2025-09-28 cs.CL cs.GT
Bayes' Bluff: Opponent Modelling in Poker
University of Alberta(阿尔伯塔大学)
扑克是人工智能的一个具有挑战性的问题,具有非确定性动力学,部分可观察性,以及未知对手的额外难度。对这一领域的所有不确定性进行建模并非易事。在本文中,我们提出了一个贝叶斯概率模型的扑克游戏,分离的不确定性,在游戏动态的不确定性对手的策略。然后,我们描述了两个关键子问题的方法:(i)推断后验对手的策略,给出了先验分布和观察他们的发挥,以及(ii)发挥适当的反应,该分布。我们展示了一个减少版本的扑克使用狄利克雷先验的整体方法,然后在完整的游戏德州扑克使用更知情的前。我们展示了有效的方法来对付对手,根据后验。
2012-07-04 cs.AI cs.GT
Are ChatGPT and GPT-4 Good Poker Players? -- A Pre-Flop Analysis
UC Berkeley(加州大学伯克利分校)
本文通过翻牌前分析评估 ChatGPT 和 GPT-4 的扑克能力,发现二者虽理解 GTO 概念,但均非最优玩家;GPT-4 更高级且激进,ChatGPT 保守,策略各有缺陷。
2023-12-21 cs.AI cs.CL cs.GT
Limit Continuous Poker: A Variant of Continuous Poker with Limited Bet Sizes
本文引入并分析了一种下注大小可变但有限的连续扑克变体,推导出其纳什均衡策略,并展示了策略如何随下注限制变化,最终联系到现实扑克中有限下注的策略含义。
2026-05-31 cs.GT econ.TH
Monte Carlo Continual Resolving for Online Strategy Computation in Imperfect Information Games
在线游戏算法产生高质量的策略,其离线替代方案所需的一小部分内存和计算。连续解析(CR)是最近一种理论上合理的在线游戏方法,已被用于在扑克中超越人类专业人士。然而,该算法的某些部分是扑克特有的,它具有其他不完美信息游戏所不具有的许多特性。我们提出了一个域独立的制定CR适用于任何两个球员的零和扩展形式的游戏,一个抽象的解决算法。我们进一步描述和实现其蒙特卡洛变体(MCCR),它使用蒙特卡洛反事实后悔最小化(MCCFR)作为一个解决方案。我们证明了CR的正确性,并显示了一个$O(T^{-1/2})$依赖MCCR的可利用的计算时间。此外,我们提出了一个实证比较MCCR与增量树建设在线结果抽样和信息集MCTS在几个领域。
2019-03-08 cs.GT
Identifying Playerś Strategies in No Limit Texas Holdém Poker through the Analysis of Individual Moves
Departamento de Engenharia Informática, Faculdade de Engenharia da Universidade do Porto(波尔图大学工程学院信息工程系);Laboratório de Inteligência Artificial e de Ciência de Computadores, Universidade do Porto(波尔图大学人工智能与计算机科学实验室)
竞争性人工扑克代理的发展已被证明是一个挑战,因为代理必须处理不可靠的信息和欺骗,这使得必须对对手进行建模,以达到良好的效果。本文提出了一种方法来开发扑克代理对手建模技术。该方法是基于应用聚类算法的扑克游戏数据库,以确定玩家类型的基础上,他们的行动。首先,通过聚类所有玩家的移动来识别共同的游戏移动。然后,通过计算球员执行每种类型的运动的频率来定义球员类型。根据给定的数据集,识别出7种不同类型的球员,每种球员至少有一种战术。玩家类型的识别可以提高扑克代理的整体性能,因为它通过将每个对手关联到不同的集群来帮助代理预测对手的移动。
2013-01-25 cs.AI cs.GT
Most Important Fundamental Rule of Poker Strategy
Ganzfried Research(甘茨弗里德研究公司)
扑克是一种不完全信息的大型复杂游戏,已被列为人工智能的主要挑战问题。最近有一系列的突破,最终在代理人已经成功地击败了最强大的人类球员在两个球员没有限制德州扑克。最强的代理是基于近似纳什均衡策略的算法,这些算法存储在大量的二进制文件中,人类无法理解。最近的一系列研究探索了从人类可以理解的强博弈论策略中推断知识的方法。当人类是最终决策者时,这将是有用的,并允许人类从大量算法生成的策略中做出更好的决策。使用机器学习的技术,我们发现了一个新的简单的扑克策略的基本规则,导致性能显着改善的最佳先验规则,也可以很容易地应用于人类球员。
2020-02-21 cs.AI cs.GT cs.LG
SpinGPT: A Large-Language-Model Approach to Playing Poker Correctly
LAMSADE, Université Paris Dauphine - PSL, CNRS, Paris, France(LAMSADE,巴黎政治经济大学-PSL,国家科学研究中心,法国)
SpinGPT是一种针对三人在线扑克格式Spin & Go量身定制的大型语言模型,通过监督微调和强化学习在扑克比赛中表现出色。
2026-02-23 cs.AI cs.GT cs.LG
Mistakes in Games
我们定义了一个新的概念,“错误”的战略和行动的战略形式和广泛的形式的游戏,分析的关系,以前的主要博弈论的解决方案的概念,研究算法的计算,并探索实用性。这个概念在网络安全方面有潜在的应用,例如检测人类玩家是否在扑克等游戏中非法使用实时辅助。
2019-10-12 cs.CR cs.GT cs.MA
Computing Human-Understandable Strategies
School of Computing and Information Sciences(计算与信息科学学院);Florida International University(佛罗里达国际大学)
均衡计算的算法通常不试图确保计算出的策略是人类可以理解的。例如,最强的扑克代理的策略被表示为大量的二进制文件。在许多情况下,我们希望计算出人类可以实际实现的策略,人类可能有计算限制,并且可能只能记住已经计算出的策略的少量特征或组件。我们研究的扑克游戏中,私人信息的分布可以是任意的。我们通过随机选择信息概率创建了一个大型的游戏实例和解决方案训练集,并提出了从训练实例中学习的算法,以便在具有未知信息分布的游戏中表现良好。我们能够总结出几个关于扑克策略的新的基本规则,这些规则可以很容易地被人类实施。
2017-02-20 cs.AI cs.GT cs.LG
RSD-Poker: Structure-Adaptive and Shift-Robust Risk-Utility Certification for Residual Policies in Imperfect-Information Games
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
RSD-Poker提出结构自适应与移位鲁棒的残差策略认证框架,通过冻结残差族、学习划分及鲁棒映射,在不完全信息博弈中实现风险与效用双重证书,显著降低留出违规并提升弱效用。
2026-10-19 cs.AI cs.GT cs.LG
Continuous Blackjack: Equilibrium, Deviation and Adaptive Strategy
我们介绍一个经典的扑克游戏二十一点的变种-连续二十一点。我们研究了纳什均衡以及局中人偏离纳什均衡的情形,然后重点研究了一大类适应性策略,得到了一个无模型策略。最后,我们将强化学习技术应用到游戏中,并解决了几个相关的工程挑战。
2022-03-23 cs.GT math.OC
Robust Deep Monte Carlo Counterfactual Regret Minimization: Addressing Theoretical Risks in Neural Fictitious Self-Play
本文提出鲁棒深度MCCFR框架,通过自适应组件部署提升大规模博弈的对抗性能,实验显示在Kuhn和Leduc扑克中取得显著改进。
2026-01-28 cs.AI cs.GT stat.ML
Two-Player Zero-Sum Differential Games with One-Sided Information
针对单边信息下双人零和微分博弈中连续行动空间导致传统算法不可扩展的问题,本文利用不完全信息博弈凸化性质与Isaacs条件,提出复杂度独立于行动空间大小且可解耦均衡策略计算的算法,成功近似归航博弈最优策略。
2025-02-13 cs.GT
Safe and Nested Subgame Solving for Imperfect-Information Games
Carnegie Mellon University(卡内基梅隆大学)
在无信息博弈中,一个子博弈中的最优策略可能依赖于其他未到达子博弈中的策略。因此,子博弈不能孤立地求解,而必须将整个博弈的策略作为一个整体来考虑,这与完全信息博弈不同。然而,可以先近似整个博弈的解,然后通过求解单个子博弈来改进它。这被称为子博弈求解。我们引入子博弈解决技术,在理论和实践中优于以前的方法。我们还展示了如何调整它们,以及过去的子博弈求解技术,以响应原始动作抽象之外的对手动作;这显着优于现有的最先进的方法,动作翻译。最后,我们表明,子博弈求解可以重复的游戏进展下来的游戏树,导致低得多的可利用性。这些技术是Libratus的关键组成部分,Libratus是第一个在单挑无限制德州扑克中击败顶级人类的AI。
2017-11-16 cs.AI cs.GT
A Survey of Decision Making in Adversarial Games
Tongji University(同济大学);Shanghai Research Institute for Intelligent Autonomous Systems(上海智能自主系统研究院);Institute for Advanced Study, Tongji University(同济大学高等研究院)
到目前为止,博弈论已经在各个领域得到了广泛的应用,包括经济学、工业、法学和人工智能,其中每个参与者只以非合作或合作的方式关心自己的利益,但对其他参与者没有明显的恶意。然而,在许多实际应用中,如扑克、国际象棋、追捕逃犯、缉毒、海岸警卫队、网络安全和国防等,玩家往往具有明显的对抗性立场,即每个玩家的自私行为不可避免地或故意地对其他玩家造成损失或破坏。沿着这一思路,本文提供了一个系统的调查三个主要的游戏模型广泛应用于对抗游戏,即,零和正规形式和扩展形式游戏,Stackelberg(安全)游戏,零和微分游戏,从一系列的角度,包括游戏模型的基础知识,(近似)均衡概念,问题分类,研究前沿,(近似)最优策略寻求技术,流行的算法和实际应用。最后,也讨论了相关对抗游戏的未来研究方向。
2022-07-16 cs.AI cs.GT
Domain-Independent Game Abstraction using Word Embedding Techniques
CMU Strategic Machine, Inc.(CMU战略机器公司);Strategy Robot, Inc.(策略机器人公司);Optimized Markets, Inc.(优化市场公司)
本文提出一种基于自然语言处理的词嵌入技术进行游戏抽象的方法,通过将动作视为词,利用词向量表示和聚类实现领域无关的游戏抽象,实验表明该方法有效但不如专用算法。
2026-05-15 cs.AI cs.GT
Revisiting Game Representations: The Hidden Costs of Efficiency in Sequential Decision-making Algorithms
Czech Technical University in Prague(捷克技术大学);Carnegie Mellon University(卡内基梅隆大学)
本文比较扩展式博弈与序贯贝叶斯博弈表示,指出信息状态树虽高效却限制可表示博弈,并揭示现有基准结果可能因测试类别受限而产生偏差。
2023-12-05 cs.AI cs.GT
Measuring Permissiveness in Parity Games: Mean-Payoff Parity Games Revisited
我们研究奇偶博弈中的不确定性策略,目的是计算一个最宽容的获胜策略。在早期的工作之后,我们根据策略阻止的转换的平均数量/权重来衡量宽容度。使用翻译成平均支付平价游戏,我们证明了问题的计算(的许可)一个最宽容的获胜策略是在NP-NP。在此过程中,我们提供了一个新的研究平均收益平价游戏。特别地,我们证明了对手有一个无记忆的最优策略,并给出了一个新的算法来解决这些游戏。
2011-06-28 cs.GT cs.LO
Dominated Actions in Imperfect-Information Games
Ganzfried Research(Ganzfried研究)
本文研究不完全信息博弈中的主导动作,提出一种多项式时间算法判断动作是否被混合策略主导,从而有效缩减博弈树规模,用于纳什均衡计算。
2026-07-22 cs.AI cs.GT cs.MA
Adapting Beyond the Depth Limit: Counter Strategies in Large Imperfect Information Games
AI Center, FEE, CTU in Prague(布拉格捷克技术大学电气工程与计算机学院AI中心)
针对大型不完美信息博弈中现有方法仅能适应对手有限行为的问题,提出采用矩阵值状态策略组合的ABD算法,实现对对手模型信息的充分利用,在扑克和战舰游戏中显著提升效用与安全性。
2025-02-09 cs.AI cs.GT
On Measuring the Impact of Human Actions in the Machine Learning of a Board Game's Playing Policies
我们系统地研究了人工干预对策略棋盘游戏中计算机玩家训练的影响。在该游戏中,计算机玩家利用神经网络的强化学习来发展他们的游戏策略,并表现出缓慢的学习速度。人工干预可以显著提高学习性能,但系统地进行它似乎是一个集成的游戏开发环境,而不是自动进化学习的问题。
2006-11-30 cs.AI cs.GT cs.NE
Convergence analysis and acceleration of the smoothing methods for solving extensive-form games
近年来,广泛形式的博弈得到了大量的研究。它可以表示具有多个决策点和不完全信息的游戏,因此它有助于制定具有不确定输入的游戏,如扑克。我们考虑一个扩展形式的游戏与两个球员和零和,即,他们的收益之和总是零在这种博弈中,寻找最优策略的问题可以表述为双线性鞍点问题。这个公式根据游戏的大小而变大,因为它有代表每个玩家在所有决策点的策略的变量。为了解决这类大规模的双线性鞍点问题,研究了一种光滑化方法--过量间隙技术。该方法生成一系列近似解,其误差保证收敛于$\mathcal{O}(1/k)$,其中$k$是迭代次数。然而,它的缺点是与游戏大小相关的误差的理论界限很差。这使得它不适用于大型游戏。我们的目标是改进光滑化方法,使其能够应用于大规模的游戏解决广泛的形式的游戏。为此,我们在这项工作中做出了两个贡献。首先,我们稍微修改了平滑方法中使用的强凸函数,以提高与游戏大小相关的理论界。其次,我们提出了一个启发式称为中心技巧,它允许平滑方法与其他方法相结合,从而加快在实践中的收敛。因此,我们将EGT与CFR+相结合,CFR+是一种最先进的扩展形式游戏方法,可以在传统平滑方法表现不佳的游戏中实现良好的性能。所提出的平滑方法被证明有潜力解决大型游戏在实践中。
2023-03-20 cs.AI cs.GT
Persona Vectors in Games: Measuring and Steering Strategies via Activation Vectors
Harvard University(哈佛大学)
本文通过对比激活添加方法,在博弈论场景中构建了代表利他、宽恕和他人期望的角色向量,发现激活引导能系统性地改变策略选择和自然语言解释,但同时也观察到言辞与策略可能产生分歧。
2026-03-22 cs.AI cs.GT
Measuring productivity in networks: A game-theoretic approach
本文提出一种基于合作博弈论的方法,通过完全二分网络和衰减因子建模同伴效应,给出沙普利值显式公式及更易计算的联盟稳定分配方案,并基于物流网络属性刻画该方案。
2024-02-02 cs.GT cs.SI
Measuring Player's Behaviour Change over Time in Public Goods Game
The University of Nottingham(诺丁汉大学)
公共产品博弈中的一个重要问题是博弈者的行为是否会随着时间的推移而发生变化,如果是,那么这种变化有多显著。在这个游戏中,玩家可以根据他们参与公共利益的程度分为不同的群体。这个问题可以被认为是一个概念漂移问题,通过询问在一系列游戏回合中发生在玩家集群上的变化量。在这项研究中,我们提出了一种方法来测量变化的集群相同的项目在离散的时间点使用外部聚类验证指标和曲线下面积。外部聚类指数最初用于衡量建议的聚类算法和专家提供的项目的地面真实标签之间的差异。代替不同的聚类标签比较,我们使用这些指标来比较任意两个连续时间点的聚类之间或第一个时间点与其余时间点之间的聚类,以测量通过时间点的聚类之间的差异。理论上,任何外部聚类索引都可以用于测量任何传统(非时间)聚类算法的变化,因为任何时间点都不携带任何时间信息。对于公共产品博弈,我们的研究结果表明,随着时间的推移,球员的变化,但变化是平滑的,相对恒定的任何两个时间点之间。
2016-09-09 cs.AI cs.GT
Multi-Agent Coordination in Adversarial Environments through Signal Mediated Strategies
Politecnico di Milano(米兰理工大学)
许多真实世界的场景都涉及到必须协调行动以达到共同目标的代理团队。我们专注于设置在一个团队的代理人面临一个对手在一个零和,信息不对称的游戏。团队成员可以在游戏开始前协调他们的策略,但在游戏的游戏阶段无法沟通。例如,在桥牌、扑克牌中的共谋和投标中的共谋就是这种情况。在这种情况下,无模型RL方法通常无法捕获协调,因为代理的策略是以分散的方式执行的。我们的第一个贡献是一个博弈论的集中训练方案,有效地执行轨迹采样,以促进团队协调。当团队成员可以观察到彼此的行动,我们证明,这种方法可以证明产生均衡策略。然后,我们引入了一个信号为基础的框架,代表团队协调战略的缓冲区的过去的经验。每个团队成员的策略被参数化为一个神经网络,其输出取决于从学习的概率分布中提取的合适的外源信号。通过结合这两个元素,我们凭经验证明了在以前最先进的多智能体RL算法没有收敛到协调平衡的情况下。
2021-02-09 cs.AI cs.GT cs.LG