Coordination without communication: optimal regret in two players multi-armed bandits
Microsoft Research（微软研究院）；University of British Columbia（不列颠哥伦比亚大学）
我们考虑两个代理人同时玩同一个随机三臂强盗问题。两个特工在合作，但他们无法沟通。我们提出了一个策略，没有冲突的球员之间的所有（具有非常高的概率），并接近最佳的遗憾$O(\sqrt{T \log(T)})$。我们还认为，额外的对数项$\sqrt{\log(T)}$应该是必要的，通过证明一个完整的信息变量的问题的下限。
2020-07-09 cs.GT cs.LG cs.MA
Building Bridges: Viewing Active Learning from the Multi-Armed Bandit Lens
Georgia Institute of Technology（佐治亚理工学院）
在本文中，我们提出了一个多臂强盗启发，池为基础的主动学习算法的问题的二进制分类。通过仔细构建一个类比之间的主动学习和多臂土匪，我们利用的想法，如置信下限，自洽正则化从多臂土匪文献设计我们提出的算法。我们的算法是一个顺序算法，它在每一轮中分配一个采样分布在池中，从这个分布中采样一个点，并查询这个采样点的标签的oracle。这种抽样分布的设计也受到了主动学习和多臂强盗之间的类比的启发。我们将展示如何推导出我们的算法所需的置信下限。与先前提出的主动学习算法的实验比较表明，在一些标准的UCI数据集上的性能优越。
2013-09-26 cs.LG stat.ML
Batched Multi-armed Bandits Problem
Stanford University（斯坦福大学）
在本文中，我们研究了多臂强盗问题中的批量设置，其中所采用的政策必须分为少量的批次数据。虽然在\cite{perchet2016batched}中已经完全刻画了双臂随机强盗的极小极大后悔，但对于多臂情况，武器数量对后悔的影响仍然是开放的。此外，自适应地选择批量大小是否有助于减少遗憾的问题也仍然有待探讨。在本文中，我们提出了BaSE（批量连续消除）的政策，以实现率最优的遗憾（对数因子内）批量多武装土匪，匹配的下限，即使批量大小是以自适应的方式确定。
2019-10-26 cs.IT cs.LG math.IT
A Survey on Practical Applications of Multi-Armed and Contextual Bandits
IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
近年来，多臂强盗（MAB）框架在各种应用中吸引了大量的关注，从推荐系统和信息检索到医疗保健和金融，由于其出色的性能与某些有吸引力的属性相结合，例如从较少的反馈中学习。多臂强盗领域目前正在蓬勃发展，因为各种实际应用所激发的新问题设置和算法正在引入，建立在经典强盗问题之上。本文旨在提供一个全面的审查顶端最近的发展，在多臂土匪的多个现实生活中的应用。具体来说，我们介绍了一种常见的基于MAB的应用程序的分类，并总结了这些领域的最新技术。此外，我们还确定了当前的重要趋势，并提供了与这个令人兴奋和快速增长的领域的未来有关的新观点。
2019-04-02 cs.LG stat.ML
Randomized Allocation with Nonparametric Estimation for Contextual Multi-Armed Bandits with Delayed Rewards
University of Minnesota（明尼苏达大学）
我们研究了一个多臂强盗问题的协变量设置有可能延迟观察奖励。在对延迟的概率分布进行一些温和的假设下，并使用适当的随机化来选择武器，所提出的策略是强一致的。
2019-09-04 cs.LG math.ST stat.ML
Multi-armed Bandit Algorithm against Strategic Replication
LINE Plus Corporation（LINE Plus公司）；Pohang University of Science and Technology（浦项科技大学）
我们考虑了一个多臂强盗问题，其中每个代理注册一组武器，当代理的武器被选中时，代理将获得奖励。代理可能会策略性地提交更多的复制武器，这可以通过滥用强盗算法的探索-利用平衡来带来更多的回报。我们的分析表明，一个标准的算法确实无法防止复制，并遭受线性遗憾的时间$T$。我们的目标是设计一个强盗算法，使复制的积极性降低，并实现了一个小的累积遗憾。我们设计了防复制的分层UCB（H-UCB），它在任意均衡下都具有$O(\ln T)$ -后悔.我们进一步提出了鲁棒层次UCB（RH-UCB），它具有一个次线性的遗憾，即使在一个现实的情况下与非理性的代理复制粗心。我们通过数值实验验证了我们的理论研究结果。
2021-10-23 cs.GT cs.LG stat.ML
A Central Limit Theorem, Loss Aversion and Multi-Armed Bandits
Shandong University（山东大学）；McGill University（麦吉尔大学）
研究了一个多臂强盗问题，其中决策者是损失厌恶的，特别是在收益域中是风险厌恶的，而在损失域中是风险爱好的。重点是大视野。损失厌恶渐近（大视野）属性的后果是来自一些分析结果。该分析是基于一个新的中心极限定理的一组措施下，条件方差可以在很大程度上非结构化的历史依赖的方式只受限制，他们躺在一个固定的间隔。
2022-05-18 cs.LG econ.TH math.PR
Analysis of Thompson Sampling for Partially Observable Contextual Multi-Armed Bandits
情境多臂强盗是强化学习中与个体信息相关联的序列决策的经典模型。一个广泛使用的强盗策略是汤普森采样，其中来自数据驱动的关于未知参数的概率信念的样本用于选择控制动作。对于这种计算速度快的算法，性能分析可在全上下文观测下使用。然而，很少有人知道的问题，上下文不完全观察。我们提出了一个汤普森采样算法的部分可观察的上下文多武装土匪，并建立理论性能保证。从技术上讲，我们表明，所提出的政策尺度的遗憾与时间和武器的数量，线性的维度。此外，我们建立学习未知参数的速率，并提供说明性的数值分析。
2021-11-29 cs.LG stat.ML
Beyond the Hazard Rate: More Perturbation Algorithms for Adversarial Multi-armed Bandits
University of Michigan（密歇根大学）
最近的工作跟随扰动领导（FTPL）算法的对抗性多臂强盗问题突出了危险率的分布产生的扰动的作用。假设风险率是有界的，这是可能的，提供多种FTPL算法的多臂强盗问题的后悔分析。本文将对有界风险率条件下FTPL算法的后悔界的研究推向了新的高度。这样做有很好的理由：均匀分布和高斯分布等自然分布违反了条件。我们给出了有界支持和无界支持分布的遗憾界，而不假设风险率条件。我们还反驳了一个猜想，高斯分布不能导致低遗憾算法。事实上，它导致了接近最佳的后悔，达到对数因子。我们的方法中的一个关键因素是引入了一个新的概念，称为广义风险率。
2018-01-05 cs.GT cs.LG stat.ML
Using Subjective Logic to Estimate Uncertainty in Multi-Armed Bandit Problems
University of Oslo（奥斯陆大学）
多臂强盗问题是一个经典的决策问题，其中一个代理必须学习一个最佳的行动平衡的探索和利用。正确管理这种权衡需要正确评估不确定性;在多臂强盗中，就像在其他机器学习应用中一样，区分系统固有的随机性（任意不确定性）和来自代理有限知识的随机性（认知不确定性）是很重要的。在本文中，我们认为主观逻辑的形式主义，一个简洁的和表达的框架来表达狄利克雷多项模型作为主观意见，我们将其应用到多武装匪徒的问题。我们提出了基于主观逻辑的新算法来解决多臂强盗问题，我们将它们与文献中的经典算法进行比较，并分析了它们在评估不确定性动态方面提供的见解。我们的初步研究结果表明，主观逻辑量，使有用的评估的不确定性，可以利用更精细的代理。
2020-08-17 cs.LG stat.ML
Correlated Multi-armed Bandits with a Latent Random Source
Carnegie Mellon University（卡内基梅隆大学）
我们考虑了一个新的多臂强盗框架，其中通过拉动手臂获得的奖励是一个共同的潜在随机变量的函数。由于共同随机源而导致的手臂之间的相关性可用于设计广义置信上限（UCB）算法，该算法将某些手臂识别为$non-competitive$，并避免探索它们。因此，我们将一个$K$ -武装的强盗问题转化为一个$C+1$ -武装的问题，其中$C+1$包括最好的武装和$C$ $competitive$武装.我们的遗憾分析表明，竞争性武器需要拉动$\mathcal{O}(\log T)$次，而非竞争性武器只需要拉动$\mathcal{O}(1)$次。因此，有制度，我们的算法实现了$\mathcal{O}(1)$遗憾，而不是典型的对数遗憾缩放的多臂强盗算法。我们还评估了预期遗憾的下限，并证明我们的相关UCB算法实现$\mathcal{O}(1)$遗憾只要可能。
2019-01-29 cs.LG stat.ML
Value Directed Exploration in Multi-Armed Bandits with Structured Priors
University of New Hampshire（新罕布什尔大学）
多武装匪徒是一个典型的机器学习问题，需要平衡探索和利用。虽然在开发具有强有力理论保证的算法方面取得了进展，但对实际接近最优的有限时间性能的关注较少。在本文中，我们提出了一个算法贝叶斯多武装土匪，利用价值函数驱动的在线规划技术。在UCB和Gittins指数的基础上，引入了线性可分的价值函数，它既考虑了预期收益，又考虑了探索的收益，从而实现了n步前视。该算法享有次线性的性能保证，我们目前的模拟结果，确认其强度与结构化的先验问题。我们的方法的简单性和通用性，使它成为一个强大的候选人分析更复杂的多臂土匪问题。
2017-05-17 cs.AI cs.LG stat.ML
Lifelong Learning in Multi-Armed Bandits
Centre Borelli, ENS Paris-Saclay（巴黎萨克雷高等师范学院博雷利中心）；Cdiscount（Cdiscount公司）；CREST, ENSAE Paris（巴黎经济与统计高等学校统计与经济研究中心）；Criteo AI Lab（Criteo人工智能实验室）
持续学习和利用从先前任务积累的知识以提高未来性能是长期存在的机器学习问题。在本文中，我们研究了多臂强盗框架中的问题，目标是最小化一系列任务的总后悔。虽然大多数强盗算法的设计有一个低的最坏情况下的遗憾，我们在这里检查平均遗憾的强盗实例从一些先验分布，可能会随着时间的推移而变化。我们特别关注UCB算法的置信区间调整。我们提出了一个强盗的方法与贪心算法，我们进行了广泛的实验评估，在平稳和非平稳的环境。我们进一步将我们的解决方案的致命的强盗问题，显示经验的改进，比以前的工作。
2020-12-28 cs.LG stat.ML
Multi-armed Bandit Requiring Monotone Arm Sequences
Rotman School of Management, University of Toronto（多伦多大学罗特曼管理学院）
在许多在线学习或多臂强盗问题中，所采取的动作或拉动的手臂是有序的，并且要求随时间单调变化。例子包括动态定价，其中公司使用加价政策来取悦早期采用者并阻止战略等待，以及临床试验，其中剂量分配通常遵循剂量递增原则以防止剂量限制毒性。考虑了当要求臂序列单调时的连续臂强盗问题。我们证明了当未知目标函数是Lipschitz连续的时，后悔是$O(T)$。当目标函数为单峰或拟凹时，该算法的后悔率为$\tilde O(T^{3/4})$，也是最优的。这偏离了连续武装强盗文献中的最优速率$\tilde O(T^{2/3})$，并证明了单调性要求对学习效率的影响。
2021-10-06 cs.LG stat.ML
Indexability of Finite State Restless Multi-Armed Bandit and Rollout Policy
IIIT Allahabad（印度信息技术学院阿拉哈巴德分校）
该研究针对有限状态躁动多臂老虎机的无限时域折扣奖励最大化问题，分析单臂模型的可索引性，提出值迭代验证方法，还研究了在线rollout策略，实验表明二者性能均优于短视策略。
2023-04-30 cs.LG cs.SY eess.SY
Pareto Regret Analyses in Multi-objective Multi-armed Bandit
Northwestern University（西北大学）
本文提出适用于随机与对抗设置的多目标多臂老虎机帕累托遗憾定义及相应算法，并证明其在对抗设置下最优、随机设置下近最优。
2023-05-30 cs.LG stat.ML
Trading off rewards and errors in multi-armed bandits
Inria SequeL；CMU EnLearn
研究多臂老虎机中准确识别臂均值与累积奖励之间的权衡，提出具有后悔保证的算法，通过实验验证上下界。
2026-10-06 cs.LG stat.ML
Deep Contextual Multi-armed Bandits
HubSpot, Inc.（HubSpot公司）
上下文多臂强盗问题经常出现在重要的工业应用中。现有的解决方案对上下文进行线性建模，这使得能够进行不确定性驱动的（原则性的）探索，或者通过使用ε贪婪探索策略进行非线性建模。在这里，我们提出了一个深度学习框架的上下文多武装匪徒，这是既非线性的，同时使原则性的探索。我们通过汤普森采样来解决探索与开发的权衡问题，方法是利用贝叶斯神经网络权重上的推理时间丢失与后验采样之间的联系。为了随着更多的数据提供给模型而自动调整探索的水平，辍学率是学习的，而不是被认为是一个超参数。我们证明，我们的方法大大减少了两个任务（UCI蘑菇任务和赌场奇偶校验任务）相比，1）非上下文土匪，2）ε贪婪的深度上下文土匪，和3）固定的辍学率深度上下文土匪的遗憾。我们的方法目前正在应用于营销优化问题在HubSpot。
2018-07-25 cs.LG stat.ML
Multi-Armed Bandits and Quantum Channel Oracles
本文研究多臂老虎机问题的量子算法，在奖励随机性访问受限但臂可叠加查询的模型下，证明查询复杂度与经典算法相同，推广了无结构搜索无加速的结论。
2025-03-19 quant-ph stat.ML
Bridging Adversarial and Nonstationary Multi-armed Bandit
Rotman School of Management, University of Toronto（多伦多大学罗特曼管理学院）；The Hong Kong University of Science and Technology（香港科技大学）；School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院）
本文提出统一的多臂老虎机框架，通过基于时间窗口的预言机平滑桥接对抗性与非平稳特例，并给出达到最优遗憾匹配下界的算法。
2023-11-26 cs.LG stat.ML
Multi-Agent Combinatorial-Multi-Armed-Bandit framework for the Submodular Welfare Problem under Bandit Feedback
Indian Institute of Technology Ropar, Rupnagar, India（印度理工学院罗帕尔分校）；Purdue University, West Lafayette, USA（普渡大学）
本文提出多代理组合老虎机框架，用于在带反馈下解决亚模性福利问题，通过探索后承诺策略实现O(T^{2/3})的遗憾界。
2026-02-18 cs.GT cs.LG stat.ML
Regret Analysis of Stochastic and Nonstochastic Multi-armed Bandit Problems
Princeton University（普林斯顿大学）；Università degli Studi di Milano（米兰大学）
多臂强盗问题是具有探索-开发权衡的序列决策问题的最基本例子。这是在选择过去收益最高的选项和探索未来可能收益更高的新选项之间的平衡。虽然对强盗问题的研究可以追溯到30年代，但在一些现代应用中出现了探索-利用权衡，例如广告投放，网站优化和数据包路由。从数学上讲，多臂强盗是由与每个选项相关的支付过程定义的。在这个调查中，我们关注两个极端的案例，在这两个案例中，后悔的分析特别简单和优雅：i.i.d.收益和对抗性收益除了基本的设置，许多行动，我们还分析了一些最重要的变种和扩展，如上下文强盗模型。
2012-11-03 cs.LG stat.ML
PAC-Bayesian Lifelong Learning For Multi-Armed Bandits
Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Southern Denmark（南丹麦大学）；Technische Universität Darmstadt（达姆施塔特工业大学）
我们提出了一个PAC贝叶斯分析终身学习。在终身学习问题中，一系列的学习任务被一次一个地观察，目标是将从以前的任务中获得的信息转移到新的学习任务中。我们考虑的情况下，每个学习任务是一个多臂强盗问题。我们得到的预期平均奖励，将获得下界，如果一个给定的多臂强盗算法运行在一个新的任务与特定的先验和一组步骤。我们提出了终身学习算法，使用我们的新的边界作为学习目标。我们提出的算法进行了评估，在几个终身多臂土匪问题，并发现执行比基线方法，不使用泛化界限。
2022-03-07 cs.LG stat.ML
PAC-Bayesian aggregation and multi-armed bandits
本文对以下几个方面做出了贡献：（1）统计学习的PAC-Bayesian分析，（2）三个聚集问题：给定d函数，如何预测以及（i）这些d函数中的最佳函数（模型选择类型聚合），（ii）这些d函数的最佳凸组合，（iii）这些d函数的最佳线性组合，（3）多臂强盗问题。
2010-11-15 math.ST stat.TH
A Survey of Online Experiment Design with the Stochastic Multi-Armed Bandit
University of British Columbia（不列颠哥伦比亚大学）
自适应序贯试验设计是众多领域的研究热点。我们调查和综合的在线统计学习范式的工作，被称为多武装土匪整合现有的研究作为资源，为某一类在线实验。我们首先探讨了传统的随机模型的多臂土匪，然后探讨该模型的并发症的分类方案，对于每个并发症涉及到一个特定的要求或考虑的实验设计背景。最后，在本文的最后，我们提出了一个表的所有研究算法的遗憾的已知上限提供了未来的理论工作的角度和决策工具的从业者寻找理论保证。
2015-11-03 cs.LG stat.ML
Transfer in Sequential Multi-armed Bandits via Reward Samples
Indian Institute of Science（印度科学学院）；Robert Bosch Center for Cyber-Physical Systems（罗伯特·博世网络物理系统中心）
本文针对序贯多臂老虎机中奖励分布随回合变化的问题，提出一种基于UCB的样本迁移算法，利用历史回合奖励样本提升累积遗憾性能，实证显示优于标准UCB。
2024-03-19 cs.LG stat.ML
Discrete Choice Multi-Armed Bandits
Indiana University Bloomington（印第安纳大学伯明顿分校）；Chemnitz University of Technology（开姆尼茨工业大学）
该研究搭建离散选择模型与在线学习、多臂老虎机的关联，给出含Exp3的算法族次线性遗憾界，还基于广义嵌套logit模型提出可高效实现、灵活调参的对抗式多臂老虎机算法，并通过随机老虎机数值实验验证可行性。
2023-10-01 cs.GT cs.LG stat.ML
Contextual Multi-Armed Bandits for Causal Marketing
这项工作探讨了因果关系的多臂强盗方法自动化营销的想法，在那里我们估计和优化的因果（增量）影响。专注于因果效应导致更好的投资回报率（ROI），只针对那些不会采取有机行动的可说服客户。我们的方法借鉴了因果推理，隆起建模和多武装土匪的优势。它优化了因果治疗效果，而不是纯粹的结果，并在数据汇集中纳入了反事实生成。根据升级建模结果，我们对增量业务指标进行了优化。多臂强盗方法允许我们扩展到多个治疗，并对记录的数据执行非策略策略评估。特别是汤普森抽样策略，使类似的客户背景和反事实结果的具体化的治疗探索。初步的离线实验零售时尚营销数据集显示我们的建议的优点。
2018-10-02 cs.LG stat.ML
Differential Privacy for Multi-armed Bandits: What Is It and What Is Its Cost?
Chalmers University of Technology（查尔姆斯理工大学）
基于差分隐私（DP）框架，引入并统一了多臂强盗算法的隐私定义。我们用一个统一的图形模型来表示框架，并使用它来连接隐私定义。我们推导出并对比了满足这些定义的强盗算法的遗憾下界。我们利用统一的证明技术来实现所有的下限。我们发现，对于所有这些，学习者的遗憾增加了一个乘法因子依赖于隐私级别$ε$。我们观察到，当我们不需要本地差分隐私的奖励的依赖性较弱。
2020-06-23 cs.LG stat.ML
Bounded regret in stochastic multi-armed bandits
Princeton University（普林斯顿大学）；Université Paris Diderot（巴黎狄德罗大学）
当已知最优臂的值$μ^{(\star)}$以及最小正间隙$Δ$的正下界时，研究了随机多臂强盗问题.我们提出了一个新的随机化策略，在这种情况下，达到遗憾{ \em一致有界的时间}。我们还证明了几个下界，特别是有界后悔是不可能的，如果一个人只知道$Δ$，和有界后悔$1/Δ$是不可能的，如果一个人只知道$μ^{(\star)}$
2013-02-12 cs.LG math.ST stat.ML
Instrument-Armed Bandits
Cornell University（康奈尔大学）
我们扩展了经典的多臂强盗（MAB）模型的设置不遵守，其中的手臂拉是一个纯粹的工具和应用的治疗可能会有所不同，这就产生了仪器武装强盗（IAB）的问题。只要实验单位是人，IAB设置就相关，因为自由意志、伦理和法律可能禁止无限制或强制应用治疗。特别是，该设置是相关的动态临床试验和其他对照试验对人类干预的土匪模型。尽管如此，在强盗文学中并没有充分研究过这种背景。我们发现，有各种各样的和不同的概念，遗憾在这种情况下，所有这些都只在经典的MAB设置相吻合。我们描述这些遗憾的行为，并分析标准的MAB算法。我们认为，一种特殊的遗憾，捕获的因果关系的治疗效果，但标准的MAB算法不能实现次线性控制这种遗憾。相反，我们开发了新的算法IAB问题，证明了新的遗憾的界限，并将它们与标准的MAB算法的数值例子。
2017-05-21 cs.LG stat.ML
Sequential Transfer in Multi-armed Bandit with Finite Set of Models
Carnegie Mellon University（卡内基梅隆大学）；INRIA Lille - Nord Europe（法国国家信息与自动化研究所里尔-北欧分部）
从先前的任务中学习，并将这些经验转移到提高未来的表现上，对于构建终身学习代理至关重要。虽然监督学习和强化学习的结果表明迁移可以显着提高学习性能，但大多数关于迁移的文献都集中在批量学习任务上。在本文中，我们研究的问题\textit{sequential transfer in online learning}，特别是在多臂强盗框架，其目标是尽量减少累积遗憾的一系列任务，通过逐步转移知识，从以前的任务。我们介绍了一种新的强盗算法的基础上的矩量法的方法估计的可能的任务，并获得遗憾的界限。
2013-07-25 cs.LG stat.ML
An Asymptotically Optimal Strategy for Constrained Multi-armed Bandit Problems
Sogang University（西江大学）
对于随机多臂强盗（MAB）问题，从一个约束模型，推广经典的，我们证明了一个渐近最优性是可以实现的一个简单的策略扩展从$ε_t$ -贪婪的战略。我们提供了一个有限的时间下界的概率正确选择的最佳近可行的手臂，持有所有的时间步骤。在某些条件下，当时间$t$趋于无穷大时，该界趋近于1。还讨论了具有$(1-\frac{1}{t})^4$数量级的渐近收敛速率的$\{ε_t\}$的特定示例序列，该序列从足够大的$t$成立。
2018-05-03 cs.LG math.OC stat.ML
Multi-Armed Bandits with Correlated Arms
Carnegie Mellon University（卡内基梅隆大学）
我们考虑一个多臂强盗框架，其中通过拉动不同的手臂获得的奖励是相关的。我们开发了一个统一的方法来利用这些奖励的相关性，并提出了基本概括的经典强盗算法的相关设置。我们提出了一个统一的证明技术来分析所提出的算法。C-UCB的严格分析（相关的强盗版本的上限置信度）表明，该算法最终拉某些次优的武器，称为非竞争性，只有O（1）倍，而不是O（log T）拉所需的经典强盗算法，如UCB，TS等，我们提出了遗憾的下限，并表明，当武器相关通过一个潜在的随机源，我们的算法获得订单最优后悔。我们通过MovieLens和Goodreads数据集上的实验验证了所提出的算法，并显示出比经典的强盗算法有显着的改进。
2021-09-10 cs.LG stat.ML
Modeling Human Decision-making in Generalized Gaussian Multi-armed Bandits
Princeton University（普林斯顿大学）
我们提出了一个正式的人类决策模型，在探索利用任务的背景下，多臂强盗问题，决策者必须选择多个选项与不确定的回报。我们解决了标准的多臂强盗问题，多臂强盗问题的转移成本，和多臂强盗问题的图。我们专注于高斯奖励的情况下，决策者使用贝叶斯推理来估计奖励值。我们的模型与贝叶斯先验的平均回报决策者的先验知识。我们开发的可信上限（UCL）算法的标准多臂强盗问题，并表明，这种确定性算法实现对数累积预期遗憾，这是最佳性能的无信息先验。我们展示了如何良好的先验和良好的假设武器之间的相关性结构可以大大提高决策性能，即使在很短的时间范围内。我们扩展到随机UCL算法，并得出几个连接到人类的决策行为。我们目前的经验数据，从人类的实验，并表明，人类的表现是有效地捕捉随机UCL算法与适当的参数。对于带转移费用的多臂强盗问题和图上的多臂强盗问题，分别将UCL算法推广为块UCL算法和图块UCL算法.我们表明，这些算法也实现了对数累积预期遗憾，并需要一个亚对数预期数量的武器之间的过渡。我们进一步说明了这些算法的性能与数值例子。注：本版本中包含的附录G详细说明了对先前发布的证明中的疏忽进行的微小修改。本书的其余部分反映了已发表的作品。
2019-12-20 cs.LG math.OC stat.ML
Application of Multi-Armed Bandits to Model-assisted designs for Dose-Finding Clinical Trials
我们考虑将多臂强盗应用于剂量探索临床试验的模型辅助设计。多武装土匪是非常简单和强大的方法，以确定行动，以最大限度地提高奖励在有限的试验次数。在多武装匪徒中，我们首先考虑使用汤普森采样，该采样基于来自后验分布的随机样本来确定行动。在小样本量下，如剂量探索试验中，由于后验分布的尾部较重，随机样本的变异性太大，我们还考虑了正则化Thompson抽样和贪婪算法的应用。贪婪算法基于后验均值确定剂量。此外，我们还提出了一种方法来确定剂量的基础上的后验中位数。我们评估我们提出的设计的性能，通过模拟研究的六种情况。
2022-01-14 stat.ME
Incentivized Exploration for Multi-Armed Bandits under Reward Drift
University of Colorado, Boulder（科罗拉多大学博尔德分校）；University of Virginia（弗吉尼亚大学）；Clemson University（克莱姆森大学）
我们研究激励探索的多臂强盗（MAB）的问题，玩家获得补偿探索武器以外的贪婪的选择，并可能提供有偏见的反馈奖励。我们试图通过分析激励MAB算法的三个实例的性能来理解这种漂移的奖励反馈的影响：UCB，$\varepsilon$ -贪婪和汤普森采样。研究结果表明，在漂移报酬下，它们都实现了$\mathcal{O}(\log T)$后悔和补偿，因此在激励探索方面是有效的。最后给出了数值算例以补充理论分析。
2019-12-16 cs.LG stat.ML
Output-Weighted Sampling for Multi-Armed Bandits with Extreme Payoffs
University of Pennsylvania（宾夕法尼亚大学）；Massachusetts Institute of Technology（麻省理工学院）
我们提出了一种新的类型的收购功能，在线决策的多臂和上下文的强盗问题的极端收益。具体而言，我们将收益函数建模为高斯过程，并制定了一种新型的置信上限（UCB）获取函数，该函数根据观察到的奖励的变化性指导对被认为最相关的土匪的探索。这是通过计算一个易于处理的似然比来实现的，该似然比量化了输出相对于输入的重要性，并且本质上充当了促进对极端奖励的探索的\textit{attention mechanism}。我们展示了所提出的方法在几个合成基准的好处，以及一个现实的例子，涉及嘈杂的传感器网络数据。最后，我们提供了一个JAX库，用于使用高斯过程进行有效的bandit优化。
2021-10-08 cs.LG stat.ML
Analysis of Thompson Sampling for Combinatorial Multi-armed Bandit with Probabilistically Triggered Arms
Bilkent University（比尔肯特大学）
分析了在半强盗反馈条件下，具有概率触发臂的组合多臂强盗的组合Thompson采样（CTS）的后悔性。我们假设学习者可以访问精确的优化预言，但事先不知道预期的基本臂结果。当期望回报函数在期望基臂结果上是Lipschitz连续时，我们推导了CTS的$O(\sum_{i =1}^m \log T / (p_i Δ_i))$后悔界，其中$m$表示基臂数目，$p_i$表示基臂$i$的最小非零触发概率，$Δ_i$表示基臂$i$的最小次优间隙.我们还比较了CTS与组合置信上界（CUCB）通过级联强盗问题的数值实验。
2019-02-19 cs.LG stat.ML
A Finite-Time Analysis of Multi-armed Bandits Problems with Kullback-Leibler Divergences
我们考虑一个基于Kullback-Leibler算法的随机多臂强盗问题的情况下，分布有限的支持（不一定事先知道），其渐近遗憾匹配的下界\cite{Burnetas96}。我们的贡献是提供一个有限时间分析这个算法，我们得到的界限，其主要条款是小于以前已知的算法与有限时间分析（如UCB型算法）。
2011-05-29 math.ST stat.TH
Regret lower bounds and extended Upper Confidence Bounds policies in stochastic multi-armed bandit problem
研究了经典随机多臂强盗模型中的后悔下界。Lai和Robbins的一个著名结果，后来被Burnetas和Katehakis推广，建立了所有相容策略的对数界。我们放松的一致性的概念，并表现出一个概括的对数界。我们还证明了在一般的Hannan相容情形下不存在对数界。为了得到这些结果，我们研究了流行的置信上限（ucb）政策的变体。作为一个副产品，我们证明，这是不可能的设计一个自适应的政策，将选择最好的两个算法，利用环境的属性。
2011-12-16 stat.ML
The Unreasonable Effectiveness of Greedy Algorithms in Multi-Armed Bandit with Many Arms
Stanford University（斯坦福大学）
本文研究了多臂情形下的贝叶斯多臂老虎机问题，发现子抽样贪心算法因臂收益先验分布尾部事件引发的新型自由探索，在理论和经验上均优于SS-UCB，能实现速率最优或次线性遗憾。
2024-03-20 cs.LG stat.ML
Multi-Armed Bandits with Local Differential Privacy
The Ohio State University（俄亥俄州立大学）；Iowa State University（爱荷华州立大学）
研究了具有局部差分隐私（LDP）保证的多臂强盗（MAB）问题的后悔最小化问题。在随机强盗系统中，奖励可能涉及用户的活动，这可能涉及私人信息，用户可能不希望代理知道。然而，在许多情况下，代理需要知道这些活动，以提供更好的服务，如推荐和新闻提要。为了解决这个问题，我们采用了差分隐私和研究遗憾的上限和下限的MAB算法与给定的LDP保证。在本文中，我们证明了一个下限，并提出算法的遗憾上限匹配的下限常数因素。数值实验也证实了我们的结论。
2020-07-06 cs.CR cs.LG stat.ML
Regional Multi-Armed Bandits
School of Information Science and Technology University of Science and Technology of China（中国科学技术大学信息科学技术学院）
我们考虑经典的多臂强盗问题的一个变种，其中每个手臂的预期奖励是一个未知参数的函数。臂被分成不同的组，每组具有共同的参数。因此，当玩家在每个时隙选择手臂时，同一组中的其他手臂的信息也被揭示。这个区域性的强盗模型自然地连接了玩家只能学习所选手臂的非信息性强盗设置和对一个手臂进行采样可以揭示所有手臂信息的全局强盗模型。我们提出了一个有效的算法，UCB-g，解决了区域强盗问题相结合的置信上限（UCB）和贪婪的原则。参数依赖和参数自由后悔上界推导。我们还建立了一个匹配下界，证明了UCB-g的序最优性。此外，我们提出了SW-UCB-g，这是一个扩展的UCB-g的非平稳环境中的参数随时间缓慢变化。
2018-02-22 cs.LG stat.ML
A Tight Lower Bound for Non-stochastic Multi-armed Bandits with Expert Advice
Kent State University（凯特州立大学）；The University of Tokyo（东京大学）；RIKEN（理化学研究所）；The Hebrew University（希伯来大学）
本文通过证明与已有上界匹配的下界，确定了带有专家建议的非随机多臂老虎机问题的极小化极大最优期望遗憾为 $Θ(\sqrt{T K \log(N/K)})$。
2025-10-31 cs.LG stat.ML
Best Arm Identification in Batched Multi-armed Bandit Problems
Shanghai University of Finance and Economics（上海财经大学）；Columbia University（哥伦比亚大学）
针对批处理多臂老虎机的最优臂识别问题，提出通用线性规划框架及两阶段算法，兼具良好理论性质与数值性能。
2023-12-21 cs.LG stat.ME stat.ML
A Change-Detection based Framework for Piecewise-stationary Multi-Armed Bandit Problem
The Ohio State University（俄亥俄州立大学）
多臂强盗问题在平稳假设下得到了广泛的研究。然而，在现实中，这个假设往往不成立，因为奖励本身的分布可能会随着时间的推移而变化。针对分段平稳环境下的多臂强盗问题，提出了一种基于变化检测的框架，并研究了一类基于变化检测的UCB（Upper Confidence Bound）策略CD-UCB，该策略主动检测变化点并重新启动UCB索引.然后，我们开发了属于CD-UCB类的PHT-UCB和PHT-UCB，并使用累积和（PHTUM）和Page-Hinkley检验（PHT）来检测变化。我们证明了在较温和的假设下，EQUUM-UCB得到了最著名的后悔上界。我们还证明了遗憾减少的CD-UCB政策任意伯努利奖励和雅虎！网页点击率的数据集。
2017-11-20 cs.AI cs.LG stat.ML
Scalable Discrete Sampling as a Multi-Armed Bandit Problem
University of Cambridge（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）
从离散分布中抽取样本是蒙特卡罗方法的构建组件之一。与其他采样算法一样，离散采样算法在大规模推理问题中也存在计算量大的问题。我们研究的问题采样的离散随机变量具有高度的依赖性，这是典型的大规模贝叶斯推断和图形模型，并提出了一个有效的近似解决方案与子采样方法。我们提出了一种新的离散采样和多臂强盗问题与有限奖励人口之间的联系，并提供了三个算法的理论保证。实验结果表明，该近似算法在大规模问题中具有较好的鲁棒性和有效性。
2016-04-27 cs.LG stat.ML
An Instance-Dependent Analysis for the Cooperative Multi-Player Multi-Armed Bandit
Microsoft Research（微软研究院）；University of California, Berkeley（加州大学伯克利分校）
研究了多人多武装匪徒中的信息共享与合作问题。我们提出了第一个算法，实现对数后悔这个问题时，碰撞奖励是未知的。我们的研究结果基于两项创新。首先，我们表明，一个简单的修改连续消除策略可以用来让球员估计他们的次优差距，常数的因素，在没有碰撞。其次，我们利用第一个结果来设计一个通信协议，成功地使用冲突的小奖励，以协调玩家之间，同时保持有意义的实例依赖的对数遗憾保证。
2022-09-30 cs.AI cs.LG stat.ML
The Multi-Armed Bandit Problem: An Efficient Non-Parametric Solution
Lai和Robbins（1985）和Lai（1987）为多臂强盗问题提供了有效的参数解，表明通过置信上限（UCB）进行的臂分配实现了最小遗憾。这些界限是从报酬分布的Kullback-Leibler信息构造的，从指定的参数族估计。近年来，由于机器学习算法和数据分析的新应用，人们对多臂强盗问题重新产生了兴趣。研究了非参数手臂分配程序，如$ε$ -greedy、Boltzmann exploration和BESA，并在非参数设置下分析了UCB程序的修改版本。然而，与UCB不同，这些非参数程序在一般参数设置下效率不高。在本文中，我们提出了有效的非参数程序。
2019-01-16 math.ST stat.TH
Regret Analysis of the Finite-Horizon Gittins Index Strategy for Multi-Armed Bandits
University of Alberta（阿尔伯塔大学）
我分析了著名的Gittins指数策略的频率后悔多武装土匪高斯噪声和有限的地平线。值得注意的是，事实证明，这种方法导致有限时间的遗憾保证可与流行的UCB算法。一路上，我推导出有限时间的界限Gittins指数是渐近精确的，可能是独立的利益。我还讨论了一些计算问题，目前的实验结果表明，一个特定版本的Gittins指数策略是一个适度的改进现有的算法，如UCB和汤普森采样有限时间遗憾的保证。
2016-05-27 cs.LG math.ST stat.ML
Tight Lower Bounds for Combinatorial Multi-Armed Bandits
Technion, Israel Institute of Technology（以色列理工学院）；Nvidia Research（英伟达研究院）
组合多臂强盗问题（Combinatorial Multi-Armed Bandit problem）是一个顺序决策问题，其中智能体在每一轮中选择一组武器，观察这些武器中每一个的反馈，并旨在最大化其选择的武器的已知奖励函数。虽然以前的工作证明了遗憾的上限，在这种设置一般的奖励功能，只有少数作品提供匹配的下限，所有特定的奖励功能。在这项工作中，我们证明了遗憾的下限组合土匪举行温和的假设下，所有顺利的奖励功能。我们推导出问题相关和问题无关的边界，并表明最近提出的Gini加权平滑参数（Merlis和Mannor，2019）也确定了单调奖励函数的下界。值得注意的是，这意味着我们的下界紧到对数因子。
2020-07-16 cs.LG stat.ML
An Index-based Deterministic Asymptotically Optimal Algorithm for Constrained Multi-armed Bandit Problems
Sogang University（西江大学）
对于有约束的多臂强盗模型，通过构造证明了存在一个基于指标的确定性渐近最优算法。最优性是通过选择最优可行臂的概率收敛到无限水平上的概率来实现的。该算法是建立在Locatelli等人。的“随时无参数阈值”算法的假设下，最优值是已知的。我们给出了渐近最优性概率的一个有限时间界，该概率为1-O（|A| Te^{-T}），其中T是视界大小，A是强盗中的臂的集合。然后，我们研究了一个宽松的版本的算法，估计的最优值的一般形式，并讨论了算法的渐近最优性后，一个足够大的T的例子。
2020-07-29 cs.LG math.OC stat.ML
contextual: Evaluating Contextual Multi-Armed Bandit Problems in R
JADS；Tilburg University（蒂尔堡大学）
在过去的十年中，上下文强盗算法已经越来越受欢迎，因为它们在解决顺序决策问题的有效性和灵活性-从在线广告和金融到临床试验设计和个性化医疗。与此同时，到目前为止，令人惊讶的是，研究人员和从业者能够以标准化的方式模拟和比较新的和现有的强盗算法的财富的选择很少。为了帮助缩小分析研究和实证评估之间的差距，本文介绍了面向对象的R包“上下文”：一个用户友好的，并通过其面向对象的结构，易于扩展的框架，便于并行比较上下文和上下文无关的土匪政策，通过模拟和离线分析。
2020-01-01 cs.LG math.OC stat.ML
