Policy iteration for perfect information stochastic mean payoff games with bounded first return times is strongly polynomial
Ye和Hansen,Miltersen和Zwick的最新结果表明,一个或两个玩家(完美信息)零和随机对策的政策迭代,限制在一个固定的折扣率的情况下,是强多项式。我们表明,平均支付零和随机对策的策略迭代也是强多项式时,限制到给定状态的第一个有界的平均返回时间的情况下。证明是基于非线性Perron-Frobenius理论的方法,使我们能够减少平均支付问题的状态依赖贴现率的贴现问题。我们的分析还表明,政策迭代仍然是强多项式的贴现问题,其中的贴现率可以在某些状态下的状态依赖(甚至是负的),提供的非负矩阵的谱半径相关的所有战略是有界的从上面严格小于1的固定常数。
2013-10-18 math.OC
Stationary Markov Perfect Equilibria in Discounted Stochastic Games
在称为“(可分解的)粗转移核”的一般条件下,证明了随机对策中平稳马尔可夫完美均衡的存在性.这一结果涵盖了相关平衡,噪声随机对策,随机对策有限行动和状态独立的过渡,和随机对策的混合物作为特殊情况下的各种早期存在的结果。通过建立随机对策与对应的条件期望之间的新联系,提供了一个非常简单的证明。作为说明性的例子,随机对策的新应用,包括随机对策与内生冲击和随机动态寡头模型。
2017-01-21 math.OC q-fin.GN
Two-Person Zero-Sum Stochastic Linear-Quadratic Differential Games
研究了确定性系数的二人零和随机线性二次(简称LQ)微分对策的开环鞍点和开环上下限,以及它们之间的关系.得到了开环上下限值有限的必要条件和开环鞍点存在的充分条件。证明了在该充分条件下,对应的Riccati方程存在唯一的强正则解,并据此建立了开环鞍点的闭环表示.给出的例子表明,开环上限值和下限值的有限性并不能保证开环鞍点的存在。但对于经典的确定性LQ对策,这两个问题是等价的,都意味着Riccati方程的可解性,并获得了一个明确的表示的解决方案。
2020-05-24 math.OC
Subgame-Perfect Equilibria in Stochastic Timing Games
我们引入了随机时间博弈的子博弈概念和可能的混合策略中的子博弈完美均衡的相关概念。虽然一个很好的概念,子博弈完美均衡的连续时间的游戏是不是在一般情况下,我们认为,我们的模型是合适的版本定时游戏。我们表明,这个概念与通常的离散时间游戏相吻合。许多连续时间的时间博弈只有混合策略的均衡,特别是在战略实物期权文献中经常出现的抢占博弈。我们提供了一个良好的基础,一些主力均衡的文献,这一直缺乏,因为我们显示。我们得到了一个一般的建设性的存在结果子博弈完美均衡抢占游戏,并说明我们的研究结果的几个明确的应用。
2014-09-19 math.OC math.PR
Solving Ergodic Markov Decision Processes and Perfect Information Zero-sum Stochastic Games by Variance Reduced Deflated Value Iteration
最近,Sidford,Wang,Wu和Ye(2018)开发了一种将方差缩减技术与值迭代相结合的算法来求解折扣马尔可夫决策过程。当折扣因子固定时,该算法具有次线性复杂度。在这里,我们将这种方法推广到均值支付问题,包括马尔可夫决策过程和完美信息零和随机对策。我们得到次线性复杂性界,假设有一个区别的状态,这是从所有的初态和所有的政策。我们的方法是基于减少从平均支付问题的折扣问题的Doob h-变换,结合通货紧缩技术。该算法的复杂性分析同时使用Sidford等人开发的技术。在折扣情况下和非线性谱理论技术(Collatz-Wielandt特征值)。
2019-09-13 math.OC
A characterization of sub-game perfect Nash equilibria for SDEs of mean field type
研究了一类具有时间不一致成本泛函的平均场型动态判定问题,导出了刻画子对策完美Nash平衡点的随机最大值原理。随后,这种方法被扩展到一个平均场游戏,以构建分散的策略,并获得其性能的估计。
2014-03-25 math.OC math.PR
Robust Pairwise n-Person Stochastic Duel Game
本文研究的是另一种对抗决斗型设置下的多人对策模型。利用首次超过理论,对最灵活多人决斗对策进行了解析求解,并给出了确定不定常决斗对策模型的显式公式。与传统的二人决斗游戏不同,本文引入了多个战场,每个战场都成为两个玩家的射击场。该模型针对现实世界的情况,特别是选定的目标射击场景。本文设计了一个求解多战场最佳射击时机的模拟器。这个新提出的模型是完全数学解释,以适应在各个领域,包括战略和业务。
2021-04-10 math.OC math.PR
On Zero-Sum Two Person Perfect Information Semi-Markov Games
零和二人完全信息半马尔可夫博弈在有限比率平均支付下存在一个值,最大者和最小者都有最优纯半平稳策略。我们得到的结果,首先固定一个任意的初始状态,并形成对应于每对纯静态策略的两个球员的未贴现收益矩阵,并证明该矩阵有一个纯鞍点。
2023-02-14 cs.GT math.OC
Two Person Zero-sum Game in Weak Formulation and Path Dependent Bellman-Isaacs Equation
本文研究了两人零和随机微分对策的弱形式。不像标准文献中使用的策略类型的控制,弱制定允许我们考虑控制对控制的游戏。我们将在自然条件下证明博弈值的存在性。本文的另一个主要特点是,我们允许非马尔可夫结构,因此游戏值是一个随机过程。我们将价值过程刻画为相应的路径依赖Bellman-Isaacs方程的唯一黏性解,这是Ekren,Keller,Touzi和Zhang(arXiv:1109.5971)以及Ekren,Touzi和Zhang最近提出的一个概念.
2012-09-28 math.OC math.PR
A Time-Inconsistent Dynkin Game: from Intra-personal to Inter-personal Equilibria
研究了非指数折扣下离散时间非零和Dynkin对策。对于两个玩家来说,有两个层次的博弈论推理交织在一起。首先,每个参与者都在当前和未来的自我中寻找一个内在的均衡,以解决非指数折扣引发的时间不一致性。接下来,给定另一个参与人选择的停止策略,每个参与人在自己的内部均衡中选择一个最佳对策。由此产生的个人间均衡是两个参与者之间的纳什均衡,每个参与者都使用了相对于另一个参与者的停止策略的最佳个人内均衡。在适当的条件下,我们表明,一个人与人之间的平衡存在,根据具体的迭代程序以及佐恩引理。为了说明我们的理论结果,我们研究了一个两个玩家的实物期权定价问题:两个公司谈判的合作协议,共同发起一个项目。通过明确地推导人际均衡,我们发现谈判中的强制力主要取决于两家公司的不耐烦程度。
2021-12-01 math.OC q-fin.MF
Variance strikes back: sub-game--perfect Nash equilibria in time-inconsistent $N$-player games, and their mean-field sequel
ETH Zürich(苏黎世联邦理工学院)
本文研究了时间不一致N玩家游戏中的子游戏完美纳什均衡及其均场后续,通过耦合反向随机微分方程分析并证明了其收敛性。
2025-12-09 econ.TH math.OC math.PR
On Non-Cooperative Perfect Information Semi-Markov Games
本文证明N人非合作完全信息半马尔可夫博弈在极限比率平均收益下存在纯半平稳纳什均衡,通过归约为SMDP简化证明,并用Mondal算法求解。
2024-02-26 cs.GT math.OC
Linear-Quadratic $N$-person and Mean-Field Games: Infinite Horizon Games with Discounted Cost and Singular Limits
我们考虑随机微分对策与$N$几乎相同的球员,线性高斯动态,和无限地平线折扣二次成本。容许控制是系统各态历经的反馈。本文首先研究了由$N$ Hamilton-Jacobi-Bellman和$N$ Kolmogorov-Fokker-Planck偏微分方程组成的系统的仿射Nash平衡点的存在性,证明了在小折扣因子下二次高斯解的存在性和唯一性.然后,我们证明了这样的解决方案的唯一二次高斯平均场方程对的解决方案的收敛性。讨论了一些奇异极限,如噪声消失、廉价控制和折扣消失等。
2014-03-17 math.AP math.OC
Does randomization matter in dynamic games?
研究了完全信息动态博弈中的混合策略。通过一个例子说明了一个博弈者采用混合策略可以获得更高的收益。与此相反,本文的主要结果表明,每个两人的动态零和对策的性质具有非混合性质,这意味着混合策略是无用的,在这类最经典的游戏。在应用方面,我们证明了两人自然零和对策中纯策略子对策完美均衡的存在性。在此基础上,我们还证明了存在一个普适子博弈完美均衡,它能导出此类博弈中所有的纯策略子博弈完美均衡。对多个局中人的主要结果进行了推广,并讨论了进一步的结果。
2019-12-30 cs.GT math.OC
Blackwell Equilibrium in Repeated Games
本文将 Blackwell 最优性引入重复博弈,定义对所有高贴现因子同时序贯理性的均衡,并揭示不同监督结构下其均衡集合的显著差异。
2025-01-07 econ.TH math.OC
Dynamic Programming for Pure-Strategy Subgame Perfection in an Arbitrary Game
本文利用价值函数刻画了一个任意的、可能无限时域博弈的纯策略子博弈完美均衡。它将游戏的扩展形式指定为五元形式(Streufert 2023p,arXiv:2107.10801v4),这是一组五元组,形式化了节点、动作、玩家和情境之间的抽象关系(情境概括了信息集)。由于五式是一个集合,本文可以明确地将游戏形式划分为多个形式,每个形式都从一个(Selten)子根开始,并包含所有后续节点,除了那些跟随后续子根的节点。然后,子根的集合成为价值函数的域,并且分段形式的划分成为值递归的框架,该值递归从动态规划推广了贝尔曼方程。主要结果连接的价值递归与子博弈完美均衡的原始游戏,上下收敛的假设下。最后,一个推论子博弈完美的特点是没有一个改进的单件偏差。
2023-03-10 cs.GT econ.TH math.OC
On the three-person game baccara banque
Baccara银行是一个由$θ\in(0,1)$参数化的三人零和对策。唐顿和洛克伍德对这个博弈的研究表明,纳什均衡只具有学术价值。他们更喜欢的选择是我们所说的独立合作均衡。但是这个解只存在于特定的$θ$中。第三种解决方案,我们称之为相关合作均衡,总是存在的。根据“与替换”的假设,以及一个简化的假设有关的信息提供给一个球员,我们得出的所有$θ$的三个解决方案。
2014-11-14 cs.GT math.OC math.PR
Globalized Robust Markov Perfect Equilibrium for Discounted Stochastic Games and its Application on Intrusion Detection in Wireless Sensor Networks: Part I -- Theory
在这篇文章中,我们研究了一个折扣随机博弈模型的无线传感器网络中的资源最优入侵检测。为了解决网络参数不确定性的问题,我们提出了一个全球化的折扣鲁棒随机博弈的鲁棒博弈理论框架。一个强大的解决方案所考虑的问题是一个最佳的点,是可行的所有实现的数据从一个给定的不确定性集。为了允许在参数移出不确定性集时有控制地违反约束,全球化鲁棒框架的概念应运而生。在这篇文章中,我们制定了一个全球化的鲁棒对应的折扣随机博弈考虑。借助全局鲁棒优化的思想,提出了全局鲁棒马尔可夫完美均衡的概念。当参与人的行动次数有限时,折扣随机博弈证明了这种均衡的存在性。利用压缩映射定理、Kakutani不动点定理和等度连续的概念证明了该结果的存在性。为了计算所考虑的折扣随机博弈的全球化鲁棒马尔可夫完美均衡,还提供了所提出的全球化鲁棒对应物的易于处理的表示。使用推导出的易处理的表示,我们制定了一个全球化的强大的无线传感器网络入侵检测系统。仿真结果表明,所提出的全球化解决方案是更少的数据扰动的敏感性比鲁棒解决方案。
2019-10-28 cs.GT math.OC
Policy iteration algorithm for zero-sum multichain stochastic games with mean payoff and perfect information
我们考虑零和随机对策与有限的状态和行动空间,完美的信息,平均支付标准,没有任何不可约的假设,马尔可夫链相关的战略(多链游戏)。这种游戏的价值可以用一个非线性方程组来描述,包括平均支付向量和一个辅助向量(相对价值或偏差)。我们在这里开发了一个策略迭代算法的零和随机对策的平均回报,以下的两个作者的想法(Cochet-Terrasson和Gaubert,C。R.数学学院Sci.巴黎,2006年)。该算法依赖于非线性谱投影的概念(Akian和Gaubert,Nonlinear Analysis TMA,2003),其类似于线性位势论中的超调和函数的约化的概念。为了避免循环,在每次退化迭代(其中平均支付向量没有改进),通过减少先前的相对值来获得新的相对值。我们表明,序列的值和相对值满足字典序单调性,这意味着该算法不终止。我们说明了算法的平均支付版本的里奇曼游戏(随机拔河或离散无穷拉普拉斯型方程),其中退化迭代是频繁的。我们报告的数值实验大规模的情况下,从后者的游戏,以及从单调离散化的平均回报追求逃避确定性微分对策。
2012-08-02 cs.GT math.OC
A "trembling hand perfect" equilibrium for a certain class of mean field games
本文研究一类可关联Wasserstein空间标量输运方程的平均场博弈,构造了纳什均衡非唯一性的显式例子,并利用熵解理论得到消失噪声极限的显式误差估计,为均衡选择提供了理性准则。
2025-06-13 math.AP math.OC
Linear-Quadratic $N$-person and Mean-Field Games with Ergodic Cost
我们考虑随机微分对策与$N$球员,线性高斯动态在任意状态空间维度,和长时间平均成本与二次运行成本。容许控制是系统各态历经的反馈。首先利用$N$ Hamilton-Jacobi-Bellman和$N$ Kolmogorov-Fokker-Planck偏微分方程的组合系统研究仿射Nash平衡点的存在性.利用代数Riccati和Sylvester方程的可解性,给出了二次Gauss解存在唯一的充要条件.在运营成本对称的条件下,对于几乎相同的局中人,我们研究了大人口极限,$N$趋于无穷大,并找到了平均场博弈HJB-KFP方程对的唯一二次高斯解.明确的解决方案的例子,特别是共识问题。
2014-07-09 math.AP math.OC
An Overview of Some Extensions of Mean Field Games beyond Perfect Homogeneity and Anonymity
NYU-ECNU Institute of Mathematical Sciences, NYU Shanghai(纽约大学-华东师范大学数学科学研究所,上海纽约大学)
本文以教学视角综述了放松同质性与匿名性假设的多种平均场博弈扩展模型,涵盖多种群、graphon、主次及Stackelberg MFG等框架,并讨论了合作参与者变体。
2025-11-07 cs.GT math.OC
Common Information based Markov Perfect Equilibria for Linear-Gaussian Games with Asymmetric Information
University of Southern California(南加州大学);Coordinated Science Laboratory at the University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校联合科学实验室)
本文研究了具有不对称信息的线性高斯博弈,提出基于公共信息的马尔可夫完美均衡概念,通过求解线性方程组计算均衡,并讨论了二次成本函数下的唯一性及与其他纳什均衡的区别。
2014-01-20 cs.GT cs.SY eess.SY