Regret-Based Federated Causal Discovery with Unknown Interventions
Sorbonne Université（索邦大学）；INSERM（国家健康与医学研究院）；Institut Pierre Louis d’Epidémiologie et de Santé Publique（流行病学与公共卫生研究所）
提出I-PERI算法，通过恢复客户端图并集的CPDAG并利用跨客户端干预引起的结构差异定向额外边，得到更紧的Φ-马尔可夫等价类，解决联邦环境下未知客户端级干预的因果发现问题。
2026-05-29 cs.AI cs.LG
Regret Analysis of Stochastic and Nonstochastic Multi-armed Bandit Problems
Princeton University（普林斯顿大学）；Università degli Studi di Milano（米兰大学）
多臂强盗问题是具有探索-开发权衡的序列决策问题的最基本例子。这是在选择过去收益最高的选项和探索未来可能收益更高的新选项之间的平衡。虽然对强盗问题的研究可以追溯到30年代，但在一些现代应用中出现了探索-利用权衡，例如广告投放，网站优化和数据包路由。从数学上讲，多臂强盗是由与每个选项相关的支付过程定义的。在这个调查中，我们关注两个极端的案例，在这两个案例中，后悔的分析特别简单和优雅：i.i.d.收益和对抗性收益除了基本的设置，许多行动，我们还分析了一些最重要的变种和扩展，如上下文强盗模型。
2012-11-03 cs.LG stat.ML
No-Regret Learning in Time-Varying Zero-Sum Games
University of Southern California（南加利福尼亚大学）；National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室）
在固定的两人零和博弈中，从重复博弈中学习是博弈论和在线学习中的经典问题。我们考虑这个问题的一个变体，其中游戏收益矩阵随时间变化，可能是以对抗的方式。我们首先提出了三个性能指标来指导这个问题的算法设计：1）充分研究的个人遗憾，2）二元差距的扩展，和3）一个新的措施，称为动态纳什均衡遗憾，它量化了玩家的回报和极大极小博弈值之间的累积差异。接下来，我们开发了一个单一的无参数算法，同时享有所有这三个性能指标的有利保证。这些保证是适应不同的非平稳措施的回报矩阵，重要的是，恢复最好的已知结果时，回报矩阵是固定的。我们的算法是基于一个两层结构的元算法学习一组黑盒基学习满足一定的属性，随着几个新的成分专门设计的时变游戏设置。实验结果进一步验证了算法的有效性。
2022-01-30 cs.GT cs.LG stat.ML
A Differential Equations Approach to Optimizing Regret Trade-offs
Microsoft Research（微软研究院）
我们考虑的经典问题的预测二进制序列和研究{ \em最佳}算法，以获得最好的可能的遗憾和支付功能，这个问题。这个问题原来也相当于问题的最佳权衡之间的遗憾，两个专家在“专家问题”，研究之前由\cite{kearns-regret}。虽然，比如说，$Θ(\sqrt{T})$的遗憾是已知的，我们认为，重要的是要问什么是可证明的最佳算法，这个问题-既因为它导致自然算法，以及因为遗憾实际上往往是规模相当的最终收益，因此是一个不可忽略的条款。在基本设置中，该结果基本上遵循Cover '65的经典结果。在这里，我们专注于另一个标准设置，时间折扣收益，其中最终的“停止时间”是没有指定的。我们表现出一个明确的特征，最佳的遗憾，这种设置。为了得到我们的主要结果，我们证明了最优支付函数必须满足Hermite微分方程，因此由该方程的解给出。事实证明，支付函数的特征与经典（非贴现）设置有质的不同，也就是说，本质上存在唯一的最优解。
2013-05-07 cs.LG
Polylogarithmic Nash Regret in Matrix Games with Bandit Feedback
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究提出乐观支付平衡算法，在有限矩阵博弈中实现对数多项式的纳什遗憾，解决了非唯一均衡下的开放问题，证明观察对手动作足以达到该保证。
2026-09-29 cs.GT cs.LG
Near-Optimal Regret Bounds for Contextual Combinatorial Semi-Bandits with Linear Payoff Functions
NEC Corporation（日本电气株式会社）；RIKEN AIP（理化学研究所人工智能项目）；Tokyo Institute of Technology（东京工业大学）；Chuo University（中央大学）；Keio University（庆应义塾大学）；National Institute of Informatics（国立情报学研究所）
具有线性支付函数的上下文组合半强盗问题是一个决策问题，在该问题中，学习者在给定的约束条件下，每轮选择一组具有特征向量的手臂，以最大化手臂的回报之和.几个现有的算法的遗憾界是最佳的回合数$T$。然而，在当前最佳上限和下限之间存在$\tilde{O}(\max(\sqrt{d}, \sqrt{k}))$的差距，其中$d$是特征向量的维度，$k$是一轮中所选臂的数量，并且$\tilde{O}(\cdot)$忽略对数因子。$k$和$d$的相关性具有实际重要性，因为在诸如推荐系统的实际应用中，$k$可能大于$T$。在本文中，我们通过改进上界和下界来填补这一空白。更准确地说，我们证明了Qin，Chen和Zhu（2014）提出的C ${}^2$ UCB算法对于划分拟阵约束具有最佳遗憾界$\tilde{O}(d\sqrt{kT} + dk)$。对于一般的约束条件，我们提出了一个算法，修改的奖励估计的武器在C ${}^2$ UCB算法，并证明它享有最佳的遗憾界更一般的问题，可以同时考虑到其他目标。我们还表明，我们的技术将适用于相关的问题。数值实验支持我们的理论结果和考虑。
2021-02-27 cs.LG stat.ML
Non-Stationary Bandits under Recharging Payoffs: Improved Planning with Sublinear Regret
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
随机多臂强盗设置最近已在非平稳制度，其中每个动作的平均收益是一个非递减的函数，因为它是最后一次播放的回合数。该模型捕捉了用户的自然行为方面，这些方面决定了推荐平台，广告投放系统等的性能。即使假设先验知识的平均回报函数，计算上述模型中的最优规划是NP难的，而最先进的是一个$1/4$ -近似算法的情况下，最多一个手臂可以发挥每一轮。我们首先集中在设置的平均支付函数是已知的。在这种情况下，我们显着提高了最知名的保证规划问题的多项式时间$(1-{1}/{e})$ -近似算法（渐近和预期），随机LP舍入和时间相关（交错）调度方法的新组合的基础上。此外，我们的算法实现了改进的保证-与以前的工作相比-在每一轮可以玩多个手臂的情况下。移动到强盗设置，当平均支付函数最初是未知的，我们展示了我们的算法可以转化为一个强盗算法与次线性遗憾。
2022-10-12 cs.DS cs.LG
The Online Saddle Point Problem and Online Convex Optimization with Knapsacks
我们研究在线鞍点问题，在线学习问题，在每次迭代的一对行动需要选择不知道当前和未来的（凹凸）支付函数。我们的目标是最大限度地减少累积收益和鞍点值的总收益函数，我们使用称为“SP遗憾”的度量测量之间的差距。这个问题推广了在线凸优化框架，但在这里我们必须确保两个玩家的累积收益接近于游戏总和的纳什均衡。我们提出了一种算法，实现SP-遗憾成正比的$\sqrt{\ln(T)T}$在一般情况下，和$\log(T)$ SP-遗憾的强凹凸的情况下。我们还考虑了支付函数是双线性的，决策集是概率单形的特殊情况。在这种情况下，我们能够设计的算法，减少SP-遗憾的界限，从一个线性依赖的维度的问题，一个\textit{logarithmic}。我们还研究了强盗反馈下的问题，并提供了一个算法，实现次线性SP-Regret。然后，我们考虑一个在线凸优化背包问题的动机是各种各样的应用程序，如：动态定价，拍卖和众包。我们将这个问题的在线鞍点问题，并建立$O(\sqrt{T})$后悔使用原始-对偶算法。
2020-04-05 cs.LG math.OC stat.ML
Competing Against Equilibria in Zero-Sum Games with Evolving Payoffs
Georgia Institute of Technology（佐治亚理工学院）
我们研究的问题，重复玩的零和游戏中的支付矩阵可能会改变，在一个可能的对抗方式，在每一轮，我们称之为在线矩阵游戏。寻找两人零和博弈的纳什均衡（NE）是统计学、最优化和经济学中许多问题的核心，对于一个固定的博弈矩阵，这可以很容易地归结为求解一个线性规划。但是当收益矩阵随时间演变时，我们的目标是找到一个顺序算法，在某种意义上，它可以与长期平均收益矩阵的NE竞争。我们设计了一个小NE遗憾的算法-也就是说，我们确保双方的长期回报是接近最小最大事后诸葛亮。我们的算法实现了近最佳的依赖轮数和依赖poly-acromically上的可用的行动的球员的数量。此外，我们表明，天真的减少，每个球员只是尽量减少自己的遗憾，未能实现既定的目标，无论使用哪种算法。我们还考虑了所谓的强盗设置，其中的反馈是显着有限的，我们提供了一个算法，小NE后悔使用一点估计每个支付矩阵。
2019-07-17 cs.LG stat.ML
Response-Based Approachability and its Application to Generalized No-Regret Algorithms
Technion – Israel Institute of Technology（以色列理工学院）
由Blackwell（1956）引入的可逼近性理论提供了具有向量值支付的重复博弈的基本结果，并且从那时起就被有效地应用于博弈学习理论和在线对抗设置中的学习算法。给定一个具有向量收益的重复博弈，如果某个参与者（代理人）能够确保平均收益向量收敛到目标集合$S$，则该参与者（代理人）可以接近该目标集合，无论他的对手对手做什么。布莱克威尔提供了两个等价的条件集凸集是可接近的。第一个（主要）条件是几何分离条件，而第二个（双重）条件要求集合是{ \em不可排除}，即对于对手的每个混合动作，存在代理的混合动作（{ \em响应}），使得所得的回报向量属于$S$。现有的可接近性算法依赖于原始条件，并且基本上需要在每个阶段计算从给定点到$S$的投影方向。在本文中，我们介绍了一个可接近性算法，依赖于Blackwell的{ \em对偶}条件。因此，该算法依赖于计算对手在每个阶段的某个动作的反应，而不是投影。该算法的实用性证明了它的经典遗憾最小化问题，其中包括遗憾最小化与侧约束和遗憾最小化的全局成本函数的某些推广。在这些问题中，所需的预测计算通常是复杂的，但响应是容易获得的。
2013-12-30 cs.GT cs.LG
Breaking the Moments Condition Barrier: No-Regret Algorithm for Bandits with Super Heavy-Tailed Payoffs
Peking University（北京大学）；Pazhou Lab（琶洲实验室）；University of California, Los Angles（加利福尼亚大学洛杉矶分校）
尽管在处理机器学习中的重尾错误方面做了大量的努力，但很少有人知道错误的时刻何时变得不存在：随机噪声$η$对于某些$α> 0$满足Pr $\left[|η| > |y|\right] \le 1/|y|^α$。我们第一次尝试积极处理这种超重尾噪声在强盗学习问题：我们提出了一种新的强大的统计估计，平均中位数，估计一个随机变量通过计算一系列的经验中位数的经验平均值。然后，我们提出了一个通用的还原算法框架，解决强盗学习问题（包括多臂和线性强盗问题）：中位数估计的平均值可以应用到几乎任何强盗学习算法作为一个黑箱过滤其奖励信号，并获得类似的遗憾界，如果奖励是亚高斯。我们表明，遗憾界是接近最优的，即使非常重尾噪声。我们还实证证明了所提出的算法的有效性，这进一步证实了我们的理论结果。
2021-10-26 cs.LG
R2-B2: Recursive Reasoning-Based Bayesian Optimization for No-Regret Learning in Games
National University of Singapore（新加坡国立大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种递归推理形式主义贝叶斯优化（BO）建模的推理过程中的相互作用的有限理性，自私的代理未知的，复杂的，和成本评估的支付函数在重复的游戏，我们称之为递归推理为基础的BO（R2-B2）。我们的R2-B2算法是通用的，因为它不约束不同代理的支付函数之间的关系，因此可以应用于各种类型的游戏，如常和，一般和，和共同支付游戏。我们证明，通过在2级或以上的推理，并在一个比其他代理更高的水平，我们的R2-B2代理可以实现更快的渐近收敛到没有遗憾，比没有利用递归推理。我们还提出了一个计算成本更低的R2-B2变体，称为R2-B2-Lite，代价是较弱的收敛保证。我们的R2-B2算法的性能和通用性的经验证明，使用合成游戏，对抗机器学习，和多智能体强化学习。
2020-06-30 cs.AI cs.GT cs.LG
Learning payoffs while routing in skill-based queues
针对技能匹配排队系统中收益参数未知的路由优化问题，提出一种基于线性规划基本可行解的自适应学习算法，证明其多对数悔值及渐近最优性，数值实验验证了其在静态和时变环境下的性能。
2024-12-13 cs.LG math.PR
Learning in games with continuous action sets and unknown payoff functions
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；LIG（格勒诺布尔信息实验室）；Stanford University（斯坦福大学）
本文研究了具有连续行动集的博弈中无悔学习的收敛性。具体来说，我们专注于通过“双平均”学习，这是一种广泛使用的无遗憾学习方案，玩家沿着他们的个人收益梯度采取小步，然后将输出“镜像”回他们的行动集。在反馈方面，我们假设参与者只能估计他们的收益梯度到一个零平均误差有界的方差。为了研究诱导序列的收敛性，我们引入了变分稳定性的概念，并证明了稳定的平衡点是局部吸引的概率很高，而全局稳定的平衡点是全局吸引的概率为1。我们还讨论了混合策略学习在有限对策中的一些应用，并给出了该方法收敛速度的显式估计。
2018-01-16 cs.GT cs.LG math.OC
Bayesian Optimization under Heavy-tailed Payoffs
Indian Institute of Science（印度科学学院）
我们考虑黑箱优化的一个未知的函数在非参数高斯过程设置时，在观察到的函数值的噪声可以重尾。这与现有文献相反，现有文献通常假设查询的亚高斯噪声分布。假设未知函数属于再生核希尔伯特空间（RKHS）引起的内核，我们首先表明，适应著名的GP-UCB算法与奖励截断享有次线性$\tilde{O}(T^{\frac{2 + α}{2(1+α)}})$遗憾，即使只有$(1+α)$次时刻，$α\in (0,1]$，奖励分布有界（$\tilde{O}$隐藏对数因子）。然而，对于共同平方指数（SE）和Matérn内核，这被认为是显着大于一个基本的$Ω(T^{\frac{1}{1+α}})$下限遗憾。我们解决这个差距，开发新的贝叶斯优化算法，核近似技术的基础上，遗憾的边界匹配的下限，以SE内核。我们数值基准的算法在环境的基础上合成模型和现实世界的数据集。
2019-09-16 cs.LG stat.ML
Strategizing against Learners in Bayesian Games
Google Research（谷歌研究院）
我们研究重复的两个球员的游戏，其中一个球员，学习者，采用了无遗憾的学习策略，而另一个，优化，是一个理性的效用最大化。我们考虑一般的贝叶斯游戏，其中优化器和学习者的收益可能取决于类型，这是从一个公开的已知分布，但私下透露给学习者。我们解决以下问题：（a）什么是裸最低限度，优化器可以保证获得无遗憾学习算法采用的学习者？(b)是否有学习算法将优化器回报限制在此最小值？(c)这些算法能否有效地实现？在建立这种优化器-学习者交互理论的同时，我们定义了一种新的后悔组合概念，称为多面体交换后悔，这可能在其他环境中具有独立的意义。
2022-05-17 cs.GT cs.LG
Pseudonorm Approachability and Applications to Regret Minimization
Google Research（谷歌研究院）
布莱克威尔著名的可接近性理论为各种学习问题提供了一个通用框架，包括后悔最小化。然而，Blackwell的证明和隐式算法使用$\ell_2$（欧几里德）距离测量可接近性。我们认为，在许多应用中，如遗憾最小化，它是更有用的研究下的其他距离度量，最常见的$\ell_\infty$度量的可接近性。但是，为$\ell_\infty$可接近性设计的算法的时间和空间复杂度取决于向量支付空间的维数，这通常是非常大的。因此，我们提出了一个框架转换高维$\ell_\infty$的可接近性问题，低维的可接近性问题，从而解决这些问题。我们首先表明，平均支付和可接近集之间的$\ell_\infty$ -距离可以等价地定义为一个低维平均向量支付和一个新的凸集之间的伪距离，我们定义。接下来，我们开发了伪范可逼近性的算法理论，类似于之前关于$\ell_2$和其他规范的可逼近性的工作，表明它可以通过单位伪范球的Fenchel对偶给出的凸集上的在线线性优化（OLO）来实现。然后，我们用它来显示，模温和的规范化假设，存在一个$\ell_\infty$ -可逼近算法，其收敛性是独立的原始向量支付的维度。我们进一步表明，该算法承认多项式时间的复杂性，假设原来的$\ell_\infty$距离可以有效地计算。我们还给出了一个$\ell_\infty$ -逼近算法，其收敛性是对数在这方面使用的FTRL算法与最大熵正则化。
2023-02-03 cs.LG
Almost Optimal Algorithms for Linear Stochastic Bandits with Heavy-Tailed Payoffs
The Chinese University of Hong Kong（香港中文大学）
在线性随机强盗中，通常假设收益是亚高斯噪声。本文在较弱的噪声假设下，研究了具有h{ \underline e}avy-{ \underline t}支付的\underline{lin}随机{ \underline b}及其分布（LinBET）问题，其中对于某些$ε\in (0,1]$，分布具有有限阶$1+ε$矩.我们严格地分析了LinBET的遗憾下界为$Ω(T^{\frac{1}{1+ε}})$，这意味着2阶有限矩（即，有限方差）产生$Ω(\sqrt{T})$的界，其中$T$是玩强盗游戏的总回合数。所提供的下限还表明，国家的最先进的算法LinBET是远远不是最佳的。通过采用中值的手段与一个精心设计的分配的决定和截断的基础上的历史信息，我们开发了两种新的强盗算法，其中遗憾的上限匹配的下限多对数因子。据我们所知，我们是第一个解决LinBET最佳意义上的多项式阶$T$。我们提出的算法进行评估的基础上合成的数据集，并优于国家的最先进的结果。
2018-11-11 cs.LG stat.ML
Matrix games with bandit feedback
DeepMind（深度思维）
我们研究了一个具有未知支付矩阵和强盗反馈的经典零和矩阵博弈，其中参与者只观察彼此的行为和噪声支付。这推广了通常的矩阵游戏，其中玩家知道支付矩阵。尽管有许多应用，这个问题得到了相对较少的关注。虽然对抗强盗算法实现了低遗憾，他们没有利用矩阵结构，并执行相对于新的算法。主要贡献是对UCB和K学习的变体的遗憾分析，这些变体适用于任何对手，例如，即使对手对抗性地对学习者的混合策略做出最佳反应。一路上，我们表明，汤普森失败灾难性的，在这种情况下，并提供经验比较现有的算法。
2021-06-12 cs.LG stat.CO stat.ML
Risk-averse Contextual Multi-armed Bandit Problem with Linear Payoffs
Georgia Institute of Technology（佐治亚理工学院）
本文考虑了风险厌恶准则下线性支付的上下文多臂强盗问题。在每一轮中，每只手臂的上下文都被揭示出来，决策者选择一只手臂来拉动，并获得相应的奖励。特别地，我们考虑均值-方差作为风险标准，最佳臂是具有最大均值-方差回报的臂。我们应用汤普森采样算法的不相交模型，并提供了一个全面的遗憾分析所提出的算法的一个变体。对于$T$轮，$K$行动，和$d$维特征向量，我们证明了遗憾界的$O((1+ρ+\frac{1}ρ) d\ln T \ln \frac{K}δ\sqrt{d K T^{1+2ε} \ln \frac{K}δ \frac{1}ε})$，持有概率$1-δ$下的均值方差准则与风险容忍度$ρ$，任何$0<ε<\frac{1}{2}$，$0<δ<1$。我们所提出的算法的实证表现证明通过一个投资组合选择问题。
2022-06-24 cs.IT cs.LG math.IT
Doubly robust Thompson sampling for linear payoffs
Seoul National University（首尔国立大学）；UNIST（蔚山科学技术院）；Shepherd23 Inc.（Shepherd23公司）
针对上下文赌博机中奖励缺失与遗憾分析复杂的问题，提出结合双重稳健估计器的DR汤普森采样算法，推导了不含上下文维度的更优遗憾界，实验验证其性能优于LinTS。
2023-04-30 cs.LG stat.ML
Misalignment, Learning, and Ranking: Harnessing Users Limited Attention
Columbia University（哥伦比亚大学）；University of Chicago（芝加哥大学）；University of Pennsylvania（宾夕法尼亚大学）；FAIR, Meta（Meta FAIR研究院）
本文针对推荐系统中用户冲动选择与平台长期收益错位的问题，提出利用用户有限注意力前缀窗口的排序模型，分别针对对抗性窗口与随机收益、对抗性收益与随机窗口两种设置设计 bandit 算法，实现最优对数遗憾和 O(√T) 遗憾。
2024-02-21 cs.DS cs.LG
Faster Game Solving via Predictive Blackwell Approachability: Connecting Regret Matching and Mirror Descent
Carnegie Mellon University（卡内基梅隆大学）；Columbia University（哥伦比亚大学）；Strategic Machine, Inc.（Strategic Machine 公司）；Strategy Robot, Inc.（Strategy Robot 公司）；Optimized Markets, Inc.（Optimized Markets 公司）
布莱克威尔可接近性是一个推理具有向量值回报的重复博弈的框架。我们引入预测Blackwell可接近性，其中给出下一个回报向量的估计，并且决策者试图基于该估计的准确性来实现更好的性能。为了推导出实现预测Blackwell可接近性的算法，我们首先展示了四个著名算法之间的强大连接。跟随正则化领导者（FTRL）和在线镜像下降（OMD）是在线凸优化中最流行的后悔极小化算法。尽管这种流行，遗憾匹配（RM）和遗憾匹配+（RM+）算法已在解决大型游戏的实践中首选（作为反事实遗憾最小化框架内的局部遗憾最小化）。我们表明，RM和RM+是运行FTRL和OMD的结果，分别选择半空间，以迫使在任何时候在底层的Blackwell可接近性游戏的算法。通过将FTRL或OMD的预测变体应用于该连接，我们获得预测Blackwell可接近性算法，以及RM和RM+的预测变体。在18个常见的零和扩展形式的基准游戏的实验中，我们表明，预测RM+加上反事实遗憾最小化收敛速度远远快于最快的先验算法（CFR+，DCFR，LCFR）在所有的游戏，但两个扑克游戏，有时两个或更多的数量级。
2021-03-08 cs.AI cs.GT cs.LG
Refined approachability algorithms and application to regret minimization with global costs
INRAE（法国国家农业、食品与环境研究院）；AgroParisTech（巴黎高科农业学院）
布莱克威尔的可接近性是一个框架，其中两个参与者，决策者和环境，玩一个重复的游戏与向量值的回报。决策者的目标是使平均收益收敛到一个称为目标的给定集合。当这确实是可能的，简单的算法，保证收敛是已知的。这个抽象的工具被成功地用于构建各种重复游戏中的最优策略，但也在在线学习中找到了一些应用。通过扩展由（Abernethy等人，2011），我们构造并分析了一类遵循正则化领导者算法（FTRL）的Blackwell的可接近性，它不仅能够最小化到目标集的欧氏距离（因为它通常是在Blackwell的可接近性的上下文中），而且能够最小化广泛的距离类量。这种灵活性使我们能够应用这些算法，密切减少各种在线学习问题的兴趣量。特别地，对于具有$\ell_p$全局代价的后悔最小化问题，我们得到了在$p$和维数$d$中具有显式依赖性的第一界.
2021-09-07 cs.LG math.OC stat.ML
Linear Contextual Bandits with Hybrid Payoff: Revisited
Microsoft Research（微软研究院）
本文重新研究混合收益线性上下文赌博机，提出利用混合奖励结构与多样性条件改进LinUCB和DisLinUCB的遗憾分析，并设计新算法HyLinUCB，在多数场景下实现显著更低的遗憾且可扩展至大规模动作空间。
2024-09-03 cs.AI cs.LG
Thompson Sampling for Contextual Bandits with Linear Payoffs
Microsoft Research（微软研究院）
Thompson抽样是求解多臂强盗问题的最古老的算法之一。它是一种基于贝叶斯思想的随机算法，最近在几项研究表明它与最先进的方法相比具有更好的经验性能后，引起了人们的极大兴趣。然而，关于其理论性能的许多问题仍然悬而未决。本文设计并分析了一种推广的Thompson抽样算法，用于求解具有线性支付函数的随机上下文多臂强盗问题，当上下文由自适应对手提供时.这是上下文强盗问题中最重要和最广泛研究的版本之一。我们提供了第一个理论保证汤普森采样的上下文版本。我们证明了一个高概率的遗憾界的$\tilde{O}(d^{3/2}\sqrt{T})$（或$\tilde{O}(d\sqrt{T \log(N)})$），这是最好的遗憾界的任何计算效率的算法可用于这个问题在目前的文献中，并在一个因素的$\sqrt{d}$（或$\sqrt{\log(N)}$）的信息理论下限为这个问题。
2014-02-03 cs.DS cs.LG stat.ML
Online Learning with Gaussian Payoffs and Side Observations
University of Alberta（阿尔伯塔大学）；Imperial College London（帝国理工学院）
我们考虑一个具有高斯收益和边信息的序列学习问题：在选择一个动作$i$之后，学习者接收关于每个动作$j$的收益的信息，这些收益以高斯观测的形式表示，其均值与均值收益相同，但方差取决于对$(i,j)$（并且可能是无限的）。该设置允许从一个动作到另一个动作的更精细的信息传输比以前的部分监测设置，包括最近引入的图形结构的反馈情况。在文献中的第一次，我们提供了非渐近的问题依赖于任何算法的遗憾，恢复现有的渐近问题依赖于下界和有限时间极大极小下界在文献中。我们还提供了算法，实现问题相关的下限（一些通用的常数因子）或极大极小下限（对数因子）。
2015-10-27 cs.LG stat.ML
Optimal No-regret Learning in Repeated First-price Auctions
Center for Data Science, New York University（纽约大学数据科学中心）；Stern School of Business, New York University（纽约大学斯特恩商学院）；Department of Electrical Engineering, Stanford University（斯坦福大学电气工程系）
针对重复第一价格拍卖中仅能观测中标价的审查式反馈问题，提出基于偏序上下文老虎机的框架及结合收益函数的样本高效算法，分别在随机和对抗私有估值场景下取得近似最优悔界。
2024-03-04 cs.GT cs.IT cs.LG
Delay as Payoff in MAB
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
本文研究了多臂老虎机中延迟即收益的变体，分别针对延迟作为成本和奖励两种场景证明了最优遗憾界，并揭示了两者在改进程度上的显著差异。
2024-10-15 cs.LG
Online Learning in Unknown Markov Games
Massachusetts Institute of Technology（麻省理工学院）；Princeton University（普林斯顿大学）
我们研究了未知马尔可夫博弈中的在线学习，这是一个在对手的行为不可观察的情景多智能体强化学习中出现的问题。我们表明，在这种具有挑战性的设置，实现次线性后悔对最佳对策事后诸葛亮是统计上很难。然后，我们考虑一个较弱的概念的遗憾与\emph{minimax value}的游戏，并提出了一个算法，实现了次线性$\tilde{\mathcal{O}}(K^{2/3})$遗憾后，$K$事件。这是未知马尔可夫博弈中在线学习的第一个次线性后悔界（据我们所知）。重要的是，我们的后悔界限与对手行动空间的大小无关。因此，即使对手的行为是完全可观察的，我们的遗憾界限也会改善现有的分析（例如，(Xie例如，2020年））的对手数量的指数因子。
2021-02-06 cs.LG stat.ML
Smoothness-Adaptive Contextual Bandits
Stanford University（斯坦福大学）
研究了一类随机协变量的非参数多臂强盗问题，其中一个关键的复杂性驱动因素是支付函数关于协变量的光滑性。以往的研究主要集中在推导极小极大最优算法的情况下，它是一个先验已知如何顺利的支付函数。然而，在实践中，支付函数的平滑度通常是事先不知道的，并且平滑度的错误指定可能会严重恶化现有方法的性能。在这项工作中，我们考虑一个框架，支付函数的平滑度是未知的，并研究何时以及如何算法可以适应未知的平滑度。首先，我们建立，设计算法，适应未知的光滑的支付函数，在一般情况下，是不可能的。然而，在自相似条件下（这不会降低手头的动态优化问题的极大极小复杂性），我们建立适应未知的平滑是可能的，并进一步设计了一个通用的策略，实现平滑自适应性能。我们的政策在整个决策过程中推断收益的平滑性，同时利用现成的非自适应政策的结构。我们建立，无论是可微或不可微的支付函数的问题设置，这种政策相匹配（对数尺度）的后悔率，是可以实现的平滑的回报是已知的先验。
2021-10-15 cs.LG stat.ML
Oracle-Efficient Regret Minimization in Factored MDPs with Unknown Structure
Tel-Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
我们研究遗憾最小化在非情节因子马尔可夫决策过程（FMDPs），其中所有现有的算法作出强烈的假设，因子结构的FMDPs是已知的学习者提前。在本文中，我们提供了第一个学习FMDP的结构，同时最大限度地减少遗憾的算法。我们的算法是基于乐观面对不确定性的原则，结合一个简单的统计方法的结构学习，并可以有效地实现了一个FMDP规划器的Oracle访问。此外，我们给我们的算法的一个变体，仍然是有效的，即使当预言是有限的非因子的行动，这是几乎所有现有的近似规划的情况。最后，我们利用我们的技术来证明已知结构情况下的一个新下界，缩小了与Chen et al. [2021]的遗憾界的差距。
2021-10-11 cs.LG stat.ML
Regret bounds for meta Bayesian optimization with an unknown Gaussian process prior
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
贝叶斯优化通常假设贝叶斯先验是给定的。然而，在贝叶斯优化的强大的理论保证，往往是令人遗憾的是，在实践中，因为在先验的未知参数妥协。在本文中，我们采用了一种变体的经验贝叶斯，并表明，通过估计高斯过程之前从离线数据采样从相同的先验和构造无偏估计的后验，变体的GP-UCB和概率的改善实现了接近零的遗憾界，这减少到一个常数成比例的观测噪声的离线数据的数量和在线评估的数量增加。经验上，我们已经验证了我们的方法具有挑战性的模拟机器人问题的任务和运动规划。
2018-11-23 cs.AI cs.LG stat.ML
Learning in Bayesian Stackelberg Games With Unknown Follower's Types
Politecnico di Milano（米兰理工大学）；MIT（麻省理工学院）
本文研究了在未知追随者类型情况下，设计无遗憾算法以最小化领导者遗憾的贝叶斯斯塔克尔伯格博弈学习问题。
2026-01-31 cs.GT cs.LG
Logarithmic Regret for Learning Linear Quadratic Regulators Efficiently
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
研究了过渡参数初始未知的线性二次型控制系统的学习问题。最近的结果表明，在这种情况下，有效的学习算法与遗憾的决策步骤的数量的平方根增长。我们提出了新的高效的算法，实现，也许令人惊讶的是，遗憾的是，规模只有（多）数学的步骤数在两种情况下：当只有状态转移矩阵$A$是未知的，当只有状态-动作转移矩阵$B$是未知的，最优策略满足一定的非退化条件。另一方面，我们给出了一个下界，表明当后一个条件被违反时，平方根后悔是不可避免的。
2020-07-01 cs.LG stat.ML
Optimistic Thompson Sampling for No-Regret Learning in Unknown Games
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）
本文针对未知博弈中的多玩家决策问题，提出基于汤普森采样的算法，利用对手动作与奖励结构将实验预算降低十倍以上，并给出对数级遗憾界，同时提出先乐观后无悔框架并在交通路由与雷达感知中验证其有效性。
2024-02-25 cs.AI cs.GT cs.LG
No-Regret Bayesian Optimization with Unknown Hyperparameters
ETH Zurich（苏黎世联邦理工学院）；University of Toronto（多伦多大学）
基于高斯过程模型的贝叶斯优化（BO）是一种有效的优化黑箱函数的方法。虽然一些BO算法可证明收敛于未知函数的全局最优解，但它们假设内核的超参数是预先已知的。但实际情况并非如此，错误指定通常会导致这些算法收敛到较差的局部最优值。在本文中，我们提出了第一个BO算法，可证明没有遗憾，收敛到最佳的超参数的知识。在优化过程中，我们缓慢地调整静态内核的超参数，从而随着时间的推移扩展相关的函数类，以便BO算法考虑更复杂的函数候选。基于理论上的见解，我们提出了几个实用的算法，实现BO的经验样本效率与在线超参数估计，但保留理论上的收敛保证。我们评估我们的方法在几个基准问题。
2019-04-01 cs.LG stat.ML
Policy Optimization Achieves Data-Dependent Regret Bounds in MDPs with Unknown Transitions
针对在线表格马尔可夫决策过程，提出基于乐观跟随正则化领导者的算法，通过设计乐观Q函数估计器和数据依赖转移奖励，在未知转移下实现一阶、二阶和路径长度遗憾界，并达到随机情形下的间隙相关polylog(T)遗憾。
2026-07-01 cs.LG stat.ML
Normal Bandits of Unknown Means and Variances: Asymptotic Optimality, Finite Horizon Regret Bounds, and a Solution to an Open Problem
Rutgers University（罗格斯大学）；Graduate School of Frontier Sciences, The University of Tokyo（东京大学前沿科学研究生院）
考虑从由随机变量$X^i_k$、$ i = 1,\ldots , N,$和$k = 1, 2, \ldots$指定的有限数量的$N \geq 2$总体中顺序抽样的问题;其中$X^i_k$表示从总体$i$到其被抽样的$k^{th}$的结果。假设对于每个固定的$i$，$\{ X^i_k \}_{k \geq 1}$是i.i.d.正态随机变量，均值$μ_i$和方差$σ_i^2$未知。目的是制定政策$π$，用于决定在任何时候从哪个$N$人群中抽取样本形成$n=1,2,\ldots$，以便最大化$n$样本的预期结果总和，或者等效地最小化由于缺乏参数$μ_i$和$σ_i^2$的信息而导致的遗憾。在本文中，我们提出了一个简单的膨胀样本均值（ISM）指数政策，是渐近最优的意义下定理4如下。这解决了Burnetas和Katehakis（1996）的一个悬而未决的问题。此外，有限时域后悔界。
2015-06-03 cs.LG stat.ML
Contextual-Bandit Based Personalized Recommendation with Time-Varying User Interests
Cornell University（康奈尔大学）；Alibaba Group（阿里巴巴集团）
研究了高度非平稳环境下的上下文强盗问题。由于用户兴趣的时变，上下文强盗问题在各种推荐系统中普遍存在。两个模型与不相交和混合支付被认为是表征的现象，用户对不同的项目的偏好不同，随着时间的推移。在不相交支付模型中，使用手臂的奖励由特定于手臂的偏好向量确定，该偏好向量是分段平稳的，不同手臂之间的变化是异步的和明显的。提出了一种有效的学习算法，是自适应的突然奖励的变化和理论的遗憾分析表明，一个次线性缩放的时间长度$T$的遗憾实现。该算法被进一步扩展到一个更一般的设置与混合的回报，其中的奖励，发挥手臂是由一个手臂特定的偏好向量和联合系数向量共享的所有武器。在真实世界的数据集上进行了实证实验，以验证所提出的学习算法在这两种设置下对基线的优势。
2020-02-29 cs.AI cs.LG stat.ML
Finding the Stochastic Shortest Path with Low Regret: The Adversarial Cost and Unknown Transition Case
University of Southern California（南加州大学）
我们取得了显着进展的随机最短路径问题的对抗成本和未知的过渡。具体来说，我们开发的算法，实现$\widetilde{O}(\sqrt{S^2ADT_\star K})$后悔的全信息设置和$\widetilde{O}(\sqrt{S^3A^2DT_\star K})$后悔的强盗反馈设置，其中$D$是直径，$T_\star$是最优策略的预期命中时间，$S$是状态的数量，$A$是行动的数量，和$K$是情节的数量。我们的工作在全信息环境中严格改进（Rosenberg和Mansour，2020），扩展（Chen等人，2020）从已知过渡到未知过渡，也是第一个考虑最具挑战性的组合：具有对抗成本和未知过渡的强盗反馈。为了弥补我们的上界和当前最佳下界之间的差距，通过一个随机遗忘的对手，我们还提出了算法与近最佳遗憾这种特殊情况下。
2021-06-14 cs.AI cs.LG
Partially Observable Contextual Bandits with Linear Payoffs
JPMorgan AI Research（摩根大通人工智能研究院）
针对金融等场景中上下文部分可观测、具相关性且收益线性的问题，提出整合系统辨识、滤波与经典老虎机算法的EMKF-Bandit流程，证明其次线性遗憾并通过模拟验证其优势与适用性。
2024-09-17 cs.LG stat.ML
Optimism Without Regularization: Constant Regret in Zero-Sum Games
SUTD（新加坡科技设计大学）；Aarhus University（奥胡斯大学）
本文提出在零和博弈中无需正则化即可实现常数遗憾的乐观 fictitious play 方法，并证明其在无正则化情况下具有最优速率。
2026-01-14 cs.GT cs.LG
Breaking the $\sqrt{T}$ Barrier: Instance-Independent Logarithmic Regret in Stochastic Contextual Linear Bandits
AWS AI（亚马逊云科技人工智能部门）
我们证明了一个独立的实例（多）对数后悔随机上下文土匪线性回报。以前，在\cite{chu2011contextual}，一个下界的$\mathcal{O}(\sqrt{T})$示出的上下文线性强盗问题与任意（adversarily选择）的背景。在本文中，我们表明，随机上下文确实有助于减少从$\sqrt{T}$到$\polylog(T)$的遗憾。我们提出了低遗憾随机上下文Bandits（\texttt{LR-SCB}），它利用随机上下文，并执行参数估计（在$\ell_2$范数）和遗憾最小化同时进行。\texttt{LR-SCB}以历元为单位工作，其中前一历元的参数估计用于减少当前历元的遗憾。\texttt{LR-SCB}的（多）对数后悔源于两个关键事实：（a）应用范数自适应算法来利用参数估计和（b）分析移位线性上下文强盗算法，表明移位导致后悔增加。我们还通过实验证明，随机背景确实会导致与$\polylog(T)$成比例的遗憾。
2022-05-19 cs.AI cs.IT cs.LG
Online Control of Unknown Time-Varying Dynamical Systems
Princeton University（普林斯顿大学）；Google AI Princeton（谷歌AI普林斯顿）；UC Berkeley（加州大学伯克利分校）；MIT（麻省理工学院）
研究了非随机控制模型下动态未知的时变线性系统的在线控制问题。在一个高层次上，我们证明了这种设置是\emph{qualitatively harder}比未知的时不变或已知的时变动态，并补充我们的负面结果与算法的上界制度，次线性遗憾是可能的。更具体地说，我们研究遗憾的界限方面的常见类别的政策：干扰行动（SLS），干扰响应（尤拉），和线性反馈政策。虽然这三类基本上是等价的LTI系统，我们证明了这些等价性打破时变系统。我们证明了一个下界，没有算法可以获得次线性遗憾的前两个类，除非系统的变化性的一定措施也在地平线上的次线性尺度。此外，我们表明，离线规划的状态线性反馈政策是NP-困难的，这表明硬度的在线学习问题。在积极的一面，我们给出了一个有效的算法，达到一个次线性的遗憾界对类的扰动响应政策，上述系统的变异性条款。事实上，我们的算法享有次线性\emph{adaptive}遗憾界，这是一个严格强于标准遗憾的度量，更适合于时变系统。我们素描扩展干扰行动政策和部分观察，并提出了一个低效的算法对线性状态反馈政策的遗憾。
2022-02-16 cs.LG math.OC stat.ML
Regret Bounds for Decentralized Learning in Cooperative Multi-Agent Dynamical Systems
University of Southern California（南加利福尼亚大学）；Preferred Networks America, Inc（美国优选网络公司）
后悔分析是多智能体强化学习（MARL）中的一个挑战，主要是由于环境的动态性和智能体间信息的分散性。我们试图在多智能体线性二次（LQ）动力系统的分散学习的背景下解决这一挑战。我们从一个简单的设置，包括两个代理和两个动态解耦的随机线性系统，每个系统由一个代理控制。系统通过二次成本函数耦合。当两个系统的动态是未知的，有没有代理之间的通信，我们证明了没有学习策略可以产生次线性$T$遗憾，其中$T$是时间范围。当只有一个系统的动态是未知的，有一个单向的通信从代理控制未知系统的其他代理，我们提出了一个MARL算法的基础上建设一个辅助单代理LQ问题。在建议的MARL算法的辅助单代理问题作为一个隐式的协调机制之间的两个学习代理。这允许代理在辅助单代理问题的遗憾的$O(\sqrt{T})$内实现遗憾。因此，使用现有的单智能体LQ遗憾的结果，我们的算法提供了一个$\tilde{O}(\sqrt{T})$遗憾界。(Here $\tilde{O}(\cdot)$隐藏常数和对数因子）。我们的数值实验表明，这个界限是匹配的实践。从两个代理的问题，我们将我们的结果扩展到多代理LQ系统与某些通信模式。
2020-01-27 cs.LG cs.MA math.OC
On Uninformative Optimal Policies in Adaptive LQR with Unknown B-Matrix
KTH Royal Institute of Technology（瑞典皇家理工学院）
本文给出了自适应线性二次型调节器（LQR）的局部渐近极小极大遗憾下界。我们认为affiliate参数化的$B$ -矩阵和已知的$A$ -矩阵，并旨在了解当对数后悔是不可能的，即使在存在结构边信息。在定义了Fisher信息的奇异性条件下的无信息最优策略的内在概念之后，我们通过诉诸van Trees不等式（Bayesian Cramér-Rao）和二次型（Bellman误差）的遗憾表示来获得LQR的这种无信息实例的局部极小极大遗憾下界。结果表明，如果参数化导致一个无信息的最优策略，对数后悔是不可能的，在时间范围内的速率至少是平方根的顺序。我们明确地描述了一个无信息的最优策略的概念系统理论量的零空间和特定的实例参数化。
2021-04-30 cs.LG math.OC stat.ML
Distributed No-Regret Learning in Multi-Agent Systems
Cornell University（康奈尔大学）
在这篇教程文章中，我们概述了在以重复未知游戏为模型的多智能体系统中分布式无悔学习的新挑战和代表性结果。四个新兴的游戏特点-动态性，不完全和不完美的反馈，有限理性，和异质性-挑战规范的游戏模型进行了探讨。对于这四个特征中的每一个，我们阐明了它在游戏建模、后悔的概念、可行的游戏结果以及分布式学习算法的设计和分析中的含义和后果。
2020-02-20 cs.GT cs.LG cs.MA
Game Redesign in No-regret Game Playing
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
我们研究的游戏重新设计的问题，其中外部设计师有能力改变支付函数在每一轮，但招致的设计成本偏离原来的游戏。玩家应用无遗憾学习算法以有限的反馈重复玩改变的游戏。设计者的目标是（i）激励所有玩家频繁地采取特定的目标动作配置文件;以及（ii）产生小的累积设计成本。我们提出了游戏重新设计算法，保证目标动作配置文件是在T-o（T）轮，而只产生o（T）的累积设计成本。游戏重新设计描述了积极和消极的应用：一个仁慈的设计者，激励玩家采取与原始游戏的解决方案相比具有更好的社会福利的目标动作配置文件，或者一个恶意攻击者，其目标动作配置文件使自己受益，但不是玩家。四个经典游戏的模拟证实了我们提出的重新设计算法的有效性。
2021-10-18 cs.GT cs.LG
Randomised Optimism via Competitive Co-Evolution for Matrix Games with Bandit Feedback
School of Computer Science, University of Birmingham（计算机科学学院，伯明翰大学）
针对未知收益矩阵的老虎机反馈双人零和矩阵博弈，提出融合进化算法的竞争协同进化老虎机学习算法CoEBL，首次证明该类算法可实现次线性遗憾，且实验表现优于多种经典老虎机算法。
2025-05-19 cs.AI cs.GT cs.LG
A Dimension-free Algorithm for Contextual Continuum-armed Bandits
City University of Hong Kong（香港城市大学）；University of Toronto（多伦多大学）；Fudan University（复旦大学）
在上下文连续体-武装匪徒中，上下文$x$和武器$y$都是连续的，并且从高维空间中提取。学习$f(x,y)$的收益函数没有特定的参数形式。文献表明，对于Lipschitz连续函数，最优后悔是$\tilde{O}(T^{\frac{d_x+d_y+1}{d_x+d_y+2}})$，其中$d_x$和$d_y$是上下文和臂的维度，因此遭受维度灾难。我们开发了一个算法，实现遗憾$\tilde{O}(T^{\frac{d_x+1}{d_x+2}})$时，$f$是全球凹的$y$。在许多应用中，全局最小化是一个常见的假设。该算法是基于随机逼近和在线估计的梯度信息。我们的研究结果产生了一个有价值的见解，灾难的维度的武器可以克服一些温和的结构的支付函数。
2022-10-03 cs.LG stat.ML
Dynamic Pricing with Finitely Many Unknown Valuations
Università degli Studi di Milano（米兰大学）；ENS Paris-Saclay（巴黎萨克雷高等师范学院）；CNRS（法国国家科学研究中心）；Criteo AI Lab（Criteo人工智能实验室）
激励张贴价格拍卖的买家被分组在一个未知数量的潜在类型，其特征在于他们的私人价值的良好的销售，我们研究收入最大化的随机动态定价时，买家的私人价值的分布是支持在一个未知的点集[0，1]的未知基数$K$。该设置可以被视为随机$K$ -武装强盗问题的实例，其中还必须学习武装的位置（$K$未知赋值）。在分布自由的情况下，我们证明，我们的设置是一样硬$K$武装随机土匪：没有算法可以实现一个遗憾显着优于$\sqrt{KT}$，（其中T是时间范围），我们提出了一个有效的算法匹配这个下限对数因子。在分布依赖的情况下，我们表明，对于所有的$K>2$，我们的设置是严格的硬比$K$武装随机土匪证明，这是不可能的，以获得遗憾的界限，在时间或更慢的增长。另一方面，当一个下限$γ>0$上的最小下降的需求曲线是已知的，我们证明了一个上限的遗憾顺序$(1/Δ+(\log \log T)/γ^2)(K\log T)$。这是一个显着的改进，以前已知的不连续的需求曲线，在最好的顺序$(K^{12}/γ^8)\sqrt{T}$遗憾边界。当$K=2$在分布依赖的情况下，我们的设置的硬度降低到随机$2$武装土匪：我们证明了上界的顺序$(\log T)/Δ$（高达$\log\log$因素）的遗憾可以实现没有信息的需求曲线。最后，我们显示了一个$O(\sqrt{T})$上限的设置中，买家的决定是非随机的遗憾，和遗憾的测量相对于最好…
2019-03-05 cs.LG stat.ML
No-Regret Learning in Games with Noisy Feedback: Faster Rates and Adaptivity via Learning Rate Separation
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；EPFL（洛桑联邦理工学院）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Criteo AI Lab（Criteo人工智能实验室）
当学习者与其他优化代理参与连续游戏时，我们研究了遗憾最小化的问题：在这种情况下，如果所有玩家都遵循无遗憾算法，则相对于完全对抗的环境，可以实现显着降低的遗憾。我们研究这个问题的背景下，变分稳定的游戏（一类连续的游戏，其中包括所有的凹凸和单调的游戏），当玩家只能获得噪声估计他们的个人收益梯度。如果噪声是加性的，博弈论和纯粹的对抗设置享受类似的遗憾保证;然而，如果噪声是乘法的，我们表明，学习者可以，事实上，实现恒定的遗憾。我们通过具有学习率分离的乐观梯度方案来实现这种更快的速度-也就是说，该方法的外推和更新步骤根据噪声分布调整到不同的时间表。随后，为了消除对精细超参数调整的需要，我们提出了一种完全自适应的方法，该方法可以获得与非自适应方法几乎相同的保证，同时在不了解游戏或噪声配置文件的情况下操作。
2023-03-17 cs.GT cs.LG
Sub-linear Regret Bounds for Bayesian Optimisation in Unknown Search Spaces
Applied Artificial Intelligence Institute（应用人工智能研究所）；Deakin University（德金大学）
本文提出了一种扩展搜索空间的贝叶斯优化算法，通过超调和级数控制扩展率，实现亚线性 regrets 界限，并在高维空间中验证了其优越性。
2020-11-01 cs.IT cs.LG math.IT
