Bridging Bayesian and Minimax Mean Square Error Estimation via Wasserstein Distributionally Robust Optimization
Stanford University(斯坦福大学);EPFL(洛桑联邦理工学院);Delft University of Technology(代尔夫特理工大学)
我们引入了一个分布鲁棒的最小均方误差估计模型与Wasserstein模糊集恢复一个未知的信号从噪声观测。所提出的模型可以被看作是一个统计学家之间的零和对策选择一个估计-也就是说,一个可测函数的观察-和一个虚构的对手选择一个先验-也就是说,一对信号和噪声分布范围内的独立Wasserstein球-的目标是最小化和最大化的预期平方估计误差,分别。我们表明,如果Wasserstein球的正态分布的中心,那么零和对策承认一个纳什均衡,其中玩家的最优策略分别由{ \em仿射}估计和{ \em正常}先验。我们进一步证明了这个纳什均衡可以通过求解一个易处理的凸规划来计算。最后,我们开发了一个Frank-Wolfe算法,它可以比最先进的通用求解器更快地解决这个凸程序。我们证明了该算法具有线性收敛速率,并且其测向子问题可以用准封闭形式求解。
2021-01-27 cs.LG math.OC math.ST
Statistical Analysis of Wasserstein Distributionally Robust Estimators
Stanford University(斯坦福大学);Singapore University of Technology and Design(新加坡科技设计大学);VinAI Research(VinAI研究院)
我们认为,统计方法调用一个最小-最大分布鲁棒配方提取良好的样本性能数据驱动的优化和学习问题。认识到从有限样本中学习的分布不确定性,最小-最大公式引入了一个对抗性的内部参与者来探索看不见的协变量数据。由此产生的分布鲁棒优化(DRO)配方,其中包括Wasserstein DRO配方(我们的主要重点),指定使用最佳运输现象。在描述了如何通过有限维对偶重构来处理这些无限维最小-最大问题后,本教程进入了它的主要部分,即解释了一个最佳选择对手预算大小的通用配方。这是通过研究极限行为的最优输运投影公式所产生的查询最小的置信区域,包括未知的人口风险最小化。顺便说一句,这个系统的处方符合在高维统计的具体例子,并在误差界,是免费的维数灾难的结果。配备了这个处方,我们提出了一个中心极限定理的DRO估计,并提供了一个配方,用于构建兼容的置信区域,是有用的不确定性量化。本教程的其余部分致力于深入了解由最小-最大公式选择的优化器的性质以及最优输运预测的其他应用。
2021-08-04 cs.LG math.OC math.ST
Distributionally Robust Multimodal Machine Learning
University of Wisconsin, Madison(威斯康星大学麦迪逊分校)
本文提出分布鲁棒优化框架研究多模态机器学习,建立泛化上界与极小极大下界,并在仿真和真实数据上验证其鲁棒性提升。
2025-11-07 cs.LG
Machine Learning's Dropout Training is Distributionally Robust Optimal
Stanford University(斯坦福大学);Columbia University(哥伦比亚大学)
本文表明,在广义线性模型中的辍学培训是一个两个球员,零和游戏的最小最大的解决方案,其中的对抗性质破坏了统计学家的协变量使用乘法非参数变量误差模型。在这个博弈中,自然界最不利的分布是丢弃噪声,其中自然界以某种固定的概率$δ$独立地删除协变量向量的条目。这个结果意味着,dropout训练确实为样本内数据的乘法扰动引起的分布提供了样本外预期损失保证。除了决策理论的分析,本文作出了两个贡献。首先,有一个关于如何选择调优参数$δ$的具体建议,以保证随着样本量变大,脱落训练后的样本内损失超过真实的总体损失,并具有某种预先指定的概率。其次,本文提出了一种新的,可并行化的,无偏的多级蒙特卡罗算法,以加快实现辍学训练。我们的算法具有更小的计算成本相比,天真的实施辍学,提供的数据点的数量是远远小于协变量向量的维数。
2021-04-14 cs.LG stat.ML
Group Distributionally Robust Optimization with Flexible Sample Queries
National Key Laboratory for Novel Software Technology, Nanjing University, China(国家新型软件技术重点实验室,南京大学,中国);School of Artificial Intelligence, Nanjing University, China(人工智能学院,南京大学,中国);John Hopcroft Center, Shanghai Jiao Tong University, China(约翰·霍普克罗夫特中心,上海交通大学,中国);Thomas Lord Department of Computer Science, University of Southern California, USA(托马斯·劳德计算机科学系,美国南加州大学)
针对现有组分布鲁棒优化算法无法适配动态样本量的问题,将其建模为双人博弈,提出新型PLA算法与支持可变样本量的GDRO算法,推导高概率误差界并通过实验验证有效性。
2026-11-03 cs.LG math.OC
player2vec: A Language Modeling Approach to Understand Player Behavior in Games
KTH Royal Institute of Technology(瑞典皇家理工学院);King(金德科技公司)
本文提出player2vec,将远程Transformer语言建模方法扩展到游戏行为数据,通过自监督学习玩家表示,并验证其在拟合行为分布和揭示行为模式方面的有效性。
2024-06-07 cs.AI cs.CL cs.LG
Distributionally Robust Performative Prediction
University of Michigan(密歇根大学)
本文针对性能预测中分布映射误设问题,提出分布鲁棒性能最优(DRPO)框架,并证明其作为真实性能最优的鲁棒近似具有理论保证,同时通过增广重构实现高效优化,实验验证了其在微观和宏观误设下的优势。
2025-02-07 cs.LG stat.ML
Federated Distributionally Robust Optimization for Phase Configuration of RISs
Centre for Wireless Communications (CWC), University of Oulu(奥卢大学无线通信中心(CWC));Princeton University(普林斯顿大学)
在这篇文章中,我们研究了鲁棒的可重构智能表面(RIS)辅助下行链路通信异构RIS类型的监督学习设置的问题。通过对异构RIS设计的下行链路通信进行建模,将其作为学习如何以分布式方式优化相位配置的不同工作者,我们使用分布式鲁棒配方以通信高效的方式解决了这个分布式学习问题,同时建立了收敛速度。通过这样做,我们可以确保最坏情况下工人的全局模型性能接近其他工人的性能。仿真结果表明,我们提出的算法需要更少的通信轮(约50%),以达到相同的最坏情况下的分布测试精度相比,竞争对手的基线。
2021-10-08 cs.LG cs.NI stat.ML
Towards Action Model Learning for Player Modeling
North Carolina State University(北卡罗来纳州立大学)
玩家建模试图创建一个计算模型,它精确地近似玩家在游戏中的行为。大多数玩家建模技术依赖于领域知识,并且不能在游戏之间转移。此外,玩家模型目前并没有产生任何关于玩家认知过程的解释性见解,例如心理模型的创建和改进。在本文中,我们提出了我们的研究结果与使用动作模型学习(AML),其中一个动作模型是学习给定的数据在一个播放轨迹的形式,学习玩家模型在一个域不可知的方式。我们通过引入一种技术来定量估计玩家对游戏机制的理解程度,从而证明了该模型的实用性。我们评估现有的AML算法(FAMA)的球员建模和开发一种新的算法称为停电,是受球员认知。我们比较停电与FAMA使用的益智游戏推箱子,停电产生更好的球员模型。
2021-03-09 cs.HC cs.LG
3D-Learning: Diffusion-Augmented Distributionally Robust Decision-Focused Learning
University of Houston(休斯敦大学)
3D-Learning通过利用扩散模型的分布建模能力,在最坏情况分布下优化决策性能,提升LLM资源分配任务中对非分布样本的鲁棒性。
2026-02-03 cs.LG
Learning Optimal Distributionally Robust Stochastic Control in Continuous State Spaces
Department of Industrial and Systems Engineering(工业与系统工程系);USC(南加州大学);Management Science and Engineering(管理科学与工程);Stanford University(斯坦福大学);Department of Industrial Engineering and Decision Analytics(工业工程与决策分析系);HKUST(香港科技大学);Stern School of Business(Stern 商学院)
针对连续状态动作空间无限时域系统中传统马尔可夫控制策略易受扰动的问题,提出分布鲁棒随机控制范式,分析两类对抗模型,刻画有限样本极小极大速率,设计深度强化学习类求解算法并验证其管理场景适用性。
2025-11-15 cs.LG stat.ML
Behavior Structformer: Learning Players Representations with Structured Tokenization
King(金氏集团)
本文提出 Behavior Structformer,通过结构化分词将追踪事件转为稠密 token 并结合 Transformer 序列化处理,显著提升用户行为建模效果。
2024-06-07 cs.CL cs.LG
Player Modeling via Multi-Armed Bandits
Drexel University(德雷塞尔大学);Rowan University(罗文大学)
本文主要研究在自适应游戏中,仅从玩家行为出发构建个性化玩家模型。我们提出了两个主要的贡献:第一个是一种新的方法,球员建模的基础上多武装土匪(MABs)。该方法同时并且以原则性的方式解决了收集数据以对当前玩家感兴趣的特征进行建模的问题以及基于该模型来适配交互式体验的问题。其次,我们提出了一种方法来评估和微调这些算法之前,在用户研究中生成数据。这是一个重要的问题,因为进行用户研究是一个昂贵且劳动密集型的过程;因此,事先评估算法的能力可以节省大量资源。我们评估我们的方法在建模玩家的社会比较取向(SCO)的背景下,目前的实证结果,从模拟和真实的球员。
2021-02-10 cs.AI cs.LG
Player Modeling using Behavioral Signals in Competitive Online Games
DePaul University(德保罗大学)
竞争性网络游戏使用评级系统来匹配具有相似技能的玩家,以确保玩家获得满意的体验。在本文中,我们专注于解决不同方面的游戏行为建模时,创建比赛的球员的重要性。为此,我们从超过75,000场大逃杀比赛的数据集中设计了几个行为特征,并根据检索到的特征创建了玩家模型。然后,我们使用创建的模型来预测数据中不同玩家群体的排名。预测的排名进行比较,三个流行的评级系统。我们的研究结果表明,简单的行为模型优于主流评级系统。一些行为特征为所有玩家群体提供了准确的预测,而另一些行为特征则被证明对某些玩家群体有用。这项研究的结果强调了在分配任务时考虑球员行为的不同方面,如目标,策略和专业知识的必要性。
2021-11-29 cs.GT cs.LG
Balance Equation-based Distributionally Robust Offline Imitation Learning
University of Southern California(南加州大学)
针对标准模仿学习在训练与部署环境动力学不一致时性能下降的问题,提出基于平衡方程的分布式鲁棒离线模仿学习框架,仅用标称动力学下的专家演示学习鲁棒策略,在连续控制基准上展现更优的鲁棒性和泛化性。
2025-11-11 cs.AI cs.LG
Distributionally Robust Online Markov Game with Linear Function Approximation
Zewu Zheng, Yuanyuan Lin(作者)
针对强化学习中仿真到现实差距问题,提出分布鲁棒在线马尔可夫博弈算法DR-CCE-LSI,通过d-矩形性假设和最小值假设解决学习难度,实现ε-近似鲁棒CCE,样本效率达极小极大最优并经仿真验证。
2025-11-11 cs.LG stat.ML
Machine Learning Modeling to Evaluate the Value of Football Players
University College London(伦敦大学学院)
在大多数体育运动中,尤其是足球,大多数教练和分析师使用符号分析来搜索关键绩效指标。该方法利用基于视频片段和进球得分的数字记录的事件的统计摘要。不幸的是,这种方法现在已经过时了,因为通过机器学习(ML)简化更复杂过程变量分析的技术不断发展。机器学习是人工智能(AI)的一种形式,它使用算法来检测有意义的模式并基于位置数据定义结构。本研究通过建立机器学习模型,研究球员的各种特征、球员的工资和球员的市场价值之间的关系,探索一种新的足球运动员价值评估方法。本项目使用的足球运动员数据来自多个足球网站。以足球运动员的工资数据作为评价球员价值的代理,利用其他特征建立并训练ML模型,预测球员的合适工资。动机是探索足球运动员的不同特征与他们的工资之间的关系-每个特征如何影响他们的工资,或者哪些是影响工资的最重要的特征?足球运动员的价值虽然有很多标准可以反映,但球员的工资是最直观、最关键的指标之一,因此本研究将以球员的工资作为评价其价值的代理指标。球员的许多特征都会影响球员的价值,但球员的价值主要由三种因素决定:基本特征、球场表现和俱乐部成就。
2022-07-22 cs.LG
Distributionally Robust Optimization with Adversarial Data Contamination
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出一种新颖的建模框架与高效算法,结合对训练数据污染和分布偏移的鲁棒性,在对抗性破坏下优化Wasserstein-1 DRO目标,并证明其估计误差达到$O(\sqrtε)$,为双重挑战下的学习提供了首个严格保证。
2025-11-02 cs.DS cs.LG math.OC
Data-driven Multistage Distributionally Robust Linear Optimization with Nested Distance
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文研究基于嵌套距离的多阶段分布鲁棒线性优化,通过推导等价的递归形式和动态规划重构,解决了非凸极小极大问题,并调和了静态与动态建模框架。
2024-07-23 cs.LG math.OC math.PR
Safe Distributionally Robust Feature Selection under Covariate Shift
Graduate School of Engineering, Nagoya University, Nagoya, Japan(名古屋大学工学研究科);Center for Advanced Intelligence Project, RIKEN, Tokyo, Japan(RIKEN高级智能项目)
本文研究了在协变量偏移下的分布鲁棒特征选择问题,提出安全-DRFS方法,通过扩展传统稀疏建模中的安全筛选到分布鲁棒设置,确保在输入分布偏移范围内包含所有可能最优的特征子集。
2026-03-17 cs.LG stat.ML
DR-SAC: Distributionally Robust Soft Actor-Critic for Reinforcement Learning under Uncertainty
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);New York University(纽约大学)
本文提出DR-SAC,首个基于Actor-Critic的分布鲁棒强化学习算法,用于连续动作空间的离线学习。通过最大化熵正则化奖励,对抗最坏可能的转移模型,在KL散度约束的不确定性集内实现收敛保证,并结合生成建模方法估计未知的名义转移模型。
2026-04-18 cs.AI cs.LG math.OC
Beyond Minimax Rates in Group Distributionally Robust Optimization via a Novel Notion of Sparsity
University of Victoria(维多利亚大学);Pontificia Universidad Católica de Chile(智利天主教大学)
研究提出$(λ, β)$-稀疏性新概念以超越群分布鲁棒优化(GDRO)的极小化速率,利用sleeping bandits算法将样本复杂度对群数$K$的线性依赖降至更小的$β$,并在合成与真实数据集上验证了有效性。
2025-01-31 cs.AI cs.LG math.OC
Minimax Optimal and Computationally Efficient Algorithms for Distributionally Robust Offline Reinforcement Learning
Duke University(杜克大学)
针对分布鲁棒离线强化学习,提出在线性参数化设定下实现函数逼近的极小极大最优与计算高效算法,并开创实例依赖的次优性分析,揭示了鲁棒离线RL中函数逼近的独特性与难度。
2025-03-03 cs.AI cs.LG stat.ML
On the Foundation of Distributionally Robust Reinforcement Learning
Department of Industrial and Systems Engineering, University of Southern California(工业与系统工程系,南加州大学);Industrial Engineering and Decision Analytics, Hong Kong University of Science and Technology(工业工程与决策分析,香港科技大学);Management Science and Engineering, Stanford University(管理科学与工程,斯坦福大学);Stern School of Business, New York University(斯特恩商学院,纽约大学)
针对训练与部署环境变化下的鲁棒策略需求,本文构建含决策者与对手多属性的RMDP框架,研究DPP存在性并给出反例与渐近最优策略,完善DRRL理论基础。
2025-08-24 cs.LG cs.SY eess.SY
A Methodology for Player Modeling based on Machine Learning
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学)
人工智能正逐渐受到更多的关注,作为增加数字游戏沉浸感的基本特征。在几种人工智能方法中,玩家建模正在成为一种重要的方法。其主要思想是理解和建模玩家的特征和行为,以开发更好的AI。在这项工作中,我们讨论了这个新领域的几个方面。我们提出了一个分类法来组织这个领域,讨论了这个主题的几个方面,从实现决策到模型试图描述的内容。然后,我们分类,在我们的分类法,在这个领域的一些最重要的作品。我们还提出了一种使用ML处理玩家建模的通用方法,并实例化了这种方法来模拟游戏《文明IV》中玩家的偏好。这种方法的实例化有几个步骤。我们首先讨论了一个通用的表示,无论是什么被建模,并评估它与战略游戏文明IV执行实验。继续所提出的方法的实例化,我们评估了使用游戏得分信息来区分不同偏好的适用性。我们提出了一个虚拟代理人在游戏中的特征,比较他们的行为与他们所陈述的偏好。一旦我们描述了这些智能体的特征,我们就能够观察到不同的偏好会产生不同的行为,这些行为可以通过几个游戏指标来衡量。然后,我们解决了偏好建模问题作为一个二元分类任务,与监督学习的方法。我们比较了四种不同的方法,基于不同的范式(SVM,AdaBoost,NaiveBayes和JRip),在不同虚拟代理的一组比赛中对其进行评估。我们使用学习的模型来推断人类玩家的偏好来结束我们的工作。使用一些评估的分类器,我们获得了超过60%的准确率,大多数推断的偏好。
2013-12-13 cs.AI cs.LG
Distributionally robust self-supervised learning for tabular data
Boston University(波士顿大学);Amazon(亚马逊)
本文提出在表格数据自监督预训练阶段结合JTT和DFR方法学习鲁棒表示,通过特征专用模型集成提升下游分类的切片鲁棒性和泛化性能。
2025-11-07 cs.LG
Modeling Matches as Language: A Generative Transformer Approach for Counterfactual Player Valuation in Football
Department of Artificial Intelligence, University of Seoul, Seoul, Republic of Korea(首尔大学人工智能系);Institute for Sports and Preventive Medicine, Saarland University, Saarbrücken, Germany(萨尔兰州预防医学研究所);Chair for Sports Analytics, Saarland University(萨尔兰州体育分析教授职位)
本文提出ScoutGPT,通过将足球比赛事件视为序列标记,利用生成式Transformer模型模拟反事实球员估值,提升对球员转会效果的预测能力。
2026-08-05 cs.AI cs.LG
It Takes Two to Negotiate: Modeling Social Exchange in Online Multiplayer Games
National University of Singapore(新加坡国立大学);Indian Institute of Technology Ropar(罗帕尔印度理工学院);Carnegie Mellon University(卡内基梅隆大学)
本研究通过标注《外交》游戏中的聊天消息,分析谈判策略,发现其可预测长期结果,但对短期结果预测作用有限,并提供了公开数据集。
2023-11-15 cs.CL cs.GT cs.LG
Time Series Modeling for Dream Team in Fantasy Premier League
英格兰超级联赛中的足球运动员的表现在很大程度上因赛季和球队而异。显然,一种能够预测和分析这些球员在场上滑稽动作的未来的方法将在很大程度上帮助管理。在梦幻超级联赛这样的模拟环境中,来自世界各地的爱好者参与并管理整个赛季的球员目录。由于积分系统的动态性质,没有已知的方法来制定梦之队。本研究的目的是解决这个问题,使用自回归综合移动平均(ARIMA)和递归神经网络(RNNs)的时间序列预测的球员点和随后的最大化的总积分使用线性规划(LPP)的混合。考虑到过去三个赛季的球员积分,通过对ARIMA和RNN进行不同的建模,然后创建一个相同的集合,对当前赛季进行了预测。在此之前,适当的数据预处理技术被部署,以提高准备模型的有效性。采用LPP方法对守门员、后卫、中场和前锋等球员类型以及总预算的约束进行了有效优化。对拟议团队的验证是在即将到来的赛季中完成的,球员们的表现超出了预期,并有助于加强解决方案的可行性。同样,所提出的方法可以扩展到英超联赛的官方经理在球场上。
2019-09-19 cs.CY cs.LG
Double Pessimism is Provably Efficient for Distributionally Robust Offline Reinforcement Learning: Generic Algorithm and Robust Partial Coverage
Stanford University(斯坦福大学);The Hong Kong University of Science and Technology(香港科技大学);Peking University(北京大学)
本文提出适用于分布鲁棒离线强化学习的双重悲观原理及通用算法框架$P^2MPO$,证明其在鲁棒部分覆盖数据下样本高效,还拓展至鲁棒马尔可夫博弈求解鲁棒纳什均衡。
2023-08-22 cs.AI cs.LG math.OC
MVP-Shapley: Feature-based Modeling for Evaluating the Most Valuable Player in Basketball
University of Science and Technology of China(科学技术大学);Netease, Fuxi AI Lab(网易凤凰人工智能实验室);University at Buffalo(布法罗大学)
提出一种基于Shapley值的MVP评估框架,通过特征处理、胜负模型训练和贡献分配,结合因果优化实现球员排名,并在NBA数据集上验证有效性。
2026-05-28 cs.GT cs.LG
Distributionally Robust Policy Learning under Concept Drifts
New York University(纽约大学);University of Pennsylvania(宾夕法尼亚大学);Hong Kong University of Science and Technology(香港科技大学);Arena Technologies
本文研究概念漂移下的分布鲁棒策略学习,提出双重鲁棒估计器评估最坏平均奖励,并设计算法最大化策略价值,次优差距为κ(Π)n^{-1/2}阶且速率最优,数值实验显示显著优于现有基准。
2025-06-01 cs.LG stat.ML
Beyond Winning and Losing: Modeling Human Motivations and Behaviors Using Inverse Reinforcement Learning
近年来,强化学习(RL)方法已被应用于建模游戏,并取得了巨大的成功,在各种环境中实现了超人的表现,如雅达利,围棋和扑克。然而,这些研究大多集中在赢得游戏,在很大程度上忽略了丰富而复杂的人类动机,这是理解不同球员的不同行为所必需的。在本文中,我们提出了一种新的方法,称为多动机行为建模(MMBM),考虑到多方面的人类动机和模型的底层价值结构的球员使用逆RL。我们的方法不需要访问系统的动态,使得它可行的大型多人在线游戏等复杂的交互式环境建模。MMBM在魔兽世界阿凡达历史数据集上进行了测试,该数据集记录了超过70,000名用户在三年内的游戏体验。我们的模型揭示了不同玩家群体的价值结构存在显著差异。利用动机建模的结果,我们还预测和解释了他们的不同的游戏行为,并提供了一个定量评估的游戏环境的重新设计如何影响玩家的行为。
2018-07-05 cs.AI cs.LG stat.ML
Modeling Player Personality Factors from In-Game Behavior and Affective Expression
University of California, Santa Cruz(加州大学圣克鲁兹分校)
本研究探索从游戏内行为与情感对话决策预测玩家人格指标,用随机森林回归基于62名玩家的《辐射:新维加斯》游玩数据验证了部分人格的可预测性,为后续大规模数据与更复杂模型研究奠定基础。
2023-08-27 cs.AI cs.HC cs.LG
Safe Wasserstein Constrained Deep Q-Learning
University of California, Berkeley(加州大学伯克利分校)
本文提出了一种分布式鲁棒Q-学习算法(DrQ),它利用Wasserstein模糊集在在线学习过程中提供理想的概率样本外安全保证。首先,我们遵循过去的工作,通过分离的约束功能的主要目标,以创建一个层次的机器,估计可行的状态动作空间内的约束马尔可夫决策过程(CMDP)。DrQ的工作原理在这个框架内,通过Wasserstein分布鲁棒优化(DRO)获得的收紧补偿变量增加约束成本。这些偏移变量对应于由约束Q函数的TD误差表征的建模误差的最坏情况分布。这个过程使我们能够安全地接近名义约束边界。我们使用锂离子电池快速充电的案例研究,探索理想的安全保证如何转化为相对于传统方法的普遍提高的安全性。
2021-10-25 cs.LG stat.ML
Probabilistic Modeling of Human Teams to Infer False Beliefs
University of Arizona(亚利桑那大学)
本文提出概率图模型ToMCAT,使AI智能体能在Minecraft城市搜救场景中推断人类团队的个体与共享心理状态及错误信念,其准确率显著优于随机且媲美人类观察者。
2023-10-19 cs.LG
Sequential Additivity in Distributionally Robust Ranking and Selection
本文针对分布鲁棒排序与选择问题,提出序列可加性,建立采样下界,研究可加分配(AA)过程并提出通用可加分配(GAA)框架,证明其错误选择概率指数衰减且可达到采样下界。
2026-08-28 cs.LG stat.ME stat.ML
Safety Screening for Voltage Control in Active Distribution Grids via Distributionally Robust Conformal Screening
RWTH Aachen University(亚琛工业大学);Technical University of Denmark(丹麦技术大学)
针对主动配电网新电压控制策略预部署的安全评估难点,提出DR-CSS框架,经IEEE标准节点系统实验验证可识别所有不安全场景,支持更安全的策略部署决策。
2026-09-01 cs.AI cs.LG cs.SY
Causality and Generalizability: Identifiability and Learning Methods
University of Copenhagen(哥本哈根大学);Technical University of Denmark(丹麦技术大学);University of Amsterdam(阿姆斯特丹大学)
这篇博士论文包含了统计因果建模领域的几个贡献。统计因果模型是嵌入因果假设的统计模型,允许对受外部操纵(干预)影响的随机系统的行为进行推断和推理。本论文的研究领域涉及因果效应估计、因果结构学习和分布鲁棒(分布外推广)预测方法。我们提出了新的和一致的线性和非线性因果效应估计的工具变量设置,采用数据依赖的均方预测误差正则化。我们提出的估计显示,在某些设置中,均方误差的改进相比,规范和国家的最先进的估计。我们发现,最近的研究分布稳健的预测方法有连接到充分研究的估计计量经济学。这种联系使我们证明,一般的K-类估计具有分布鲁棒性。此外,我们提出了一个一般框架的分布鲁棒性的干预诱导的分布。在这个框架中,我们推导出充分条件的分布鲁棒预测方法的可识别性,并提出不可能的结果,显示了这些条件的必要性。本文提出了一种新的结构学习方法,适用于加性噪声模型,有向树作为因果图。我们证明了一致性消失的可识别性设置,并提供了一种方法来测试子结构假设与渐近族明智的误差控制,仍然有效的后选择。最后,我们提出了启发式的想法学习非线性时间序列模型的摘要图。
2021-10-04 cs.LG stat.ML
Modeling Others using Oneself in Multi-Agent Reinforcement Learning
New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
我们考虑多智能体强化学习设置不完美的信息,其中每个代理都试图最大化自己的效用。奖励函数取决于两个智能体的隐藏状态(或目标),因此智能体必须从观察到的行为中推断出其他参与者的隐藏目标,以便解决任务。我们提出了一种新的学习方法,在这些领域:自学习建模(SOM),其中一个代理使用自己的政策来预测其他代理的行动,并更新其信念的隐藏状态在一个在线的方式。我们在三个不同的任务上评估了这种方法,并表明在合作和对抗环境中,代理能够使用对其他参与者隐藏状态的估计来学习更好的策略。
2018-03-23 cs.AI cs.LG
Robust Predictive Modeling Under Unseen Data Distribution Shifts: A Methodological Commentary
Hong Kong University of Science and Technology(香港科技大学);University of Notre Dame(圣母大学)
本文通过实际客户流失案例,指出训练与测试数据分布不一致的问题,并探讨领域泛化方法,提出采用不确定性意识的预测建模方法以提升模型鲁棒性。
2026-03-27 cs.LG
An Exponentially Converging Particle Method for the Mixed Nash Equilibrium of Continuous Games
Institute of Mathematics, École polytechnique fédérale de Lausanne (EPFL)(洛桑联邦理工学院数学研究所)
针对高维连续策略双人零和博弈混合纳什均衡计算难的问题,提出一种基于原子测度参数化与邻近点更新的粒子方法,证明其指数收敛性并验证了在分类任务中的应用价值。
2025-09-03 cs.GT cs.LG math.OC
Decentralized Stochastic Multi-Player Multi-Armed Walking Bandits
SUNY-Binghamton University(纽约州立大学宾汉姆顿分校)
多人多臂强盗是一个越来越相关的决策问题,认知无线电系统的应用程序的动机。大多数关于这个问题的研究都集中在这样一个设定上,即玩家对所有的手臂都有\textit{full access},并且当拉动同一只手臂时没有奖励,因此所有玩家都以最大化他们的累积奖励为目标来解决同一个强盗问题。然而,这些设置忽略了许多现实世界应用中的几个重要因素,其中玩家具有\textit{limited access}到\textit{a dynamic local subset of arms}(即,手臂有时可能是"行走“的,并且玩家无法接近)。为此,本文提出了一个\textit{multi-player multi-armed walking bandits}模型,旨在解决上述建模问题。现在的目标是最大化的奖励,但是,玩家只能从本地子集拉手臂,只有收集一个完整的奖励,如果没有其他玩家拉相同的arm.We采用置信上限(UCB)来处理的探索开发权衡,并采用分布式优化技术,以妥善处理冲突。通过仔细整合这两种技术,我们提出了一个分散的算法与近最优保证的遗憾,并可以很容易地实现,以获得有竞争力的经验性能。
2022-12-12 cs.AI cs.LG cs.MA
No Press Diplomacy: Modeling Multi-Agent Gameplay
Mila(米拉研究所);University of Montreal(蒙特利尔大学);McGill University(麦吉尔大学);University of Michigan(密歇根大学)
外交是一个七人非随机、非合作的游戏,代理人通过团队合作和背叛来获取资源。对信任和协调的依赖使外交成为第一个非合作多智能体基准,用于丰富环境中复杂的连续社会困境。在这项工作中,我们专注于训练一个学习玩无媒体版外交的代理,其中玩家之间没有专用的沟通渠道。我们提出了DipNet,一个基于神经网络的无新闻外交政策模型。该模型是在一个包含超过15万个人类游戏的新数据集上训练的。我们的模型是通过监督学习(SL)从专家轨迹,然后用来初始化一个强化学习(RL)代理通过自我发挥训练。SL和RL代理都通过击败流行的基于规则的机器人来展示最先进的No Press性能。
2019-11-19 cs.AI cs.LG cs.MA