Modifying Squint for Prediction with Expert Advice in a Changing Environment
Leiden University（莱顿大学）
我们提供了一种新的方法，在线学习，特别是预测与专家的意见，在不断变化的环境。在不变的环境中，Squint算法被设计为始终至少与其他已知算法一样好地起作用，并且在特定情况下，它的作用要好得多。然而，当使用传统的黑盒算法来使Squint适合不断变化的环境时，它失去了它的有益特性。因此，我们提供了一个新的算法，斜视CE，这是适合于不断变化的环境，并保持斜视的属性。
2022-09-14 cs.LG
Collaborative prediction with expert advice
UC Berkeley（加州大学伯克利分校）
许多实际的学习系统聚集了许多用户的数据，而学习理论传统上认为单个学习者信任他们所有的观察。一个很好的例子是专家建议预测的基本学习问题。到目前为止，还没有理论研究的一般合作版本的预测与专家的意见，其中许多用户面临着类似的问题，并希望分享他们的经验，以便更快地学习。这个协作框架中的一个关键问题是鲁棒性：通常，聚合数据的算法很容易受到即使是少数不诚实用户的操纵。我们展示了第一个强大的协作算法预测专家的意见。当所有用户都是诚实的，有相似的口味，我们的算法匹配的性能池数据和使用传统的算法。但我们的算法也保证了添加用户不会显着降低性能，即使额外的用户行为不利。即使绝大多数用户的行为是敌对的，我们也能实现强有力的保证。作为一个特殊的情况下，我们的算法是非常强大的用户之间的变化。
2016-04-08 cs.LG
PDE approach to the problem of online prediction with expert advice: a construction of potential-based strategies
Southern Federal University（南联邦大学）
我们考虑一系列重复的预测游戏，并正式通过到极限。所得的非线性抛物型偏微分方程的上解在N的意义下与势函数密切相关。Cesa-Bianci，G. Lugosi（2003年）。任何这样的超解给出了一个上限预测的遗憾，并建议基于潜力的预测策略，满足Blackwell条件。一个传统的上限最坏情况下的遗憾是合理的一个简单的验证参数。
2017-05-02 cs.LG
Prediction with expert advice for the Brier game
Computer Learning Research Centre（计算机学习研究中心）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
我们证明了Brier预测博弈是可混合的，并找到了最优的学习率和替代函数，将所得的预测算法应用于足球和网球比赛结果的预测。理论上的性能保证在这些数据集上是相当严格的，特别是在更广泛的网球数据的情况下。
2008-06-27 cs.LG
Rethinking Log Odds: Linear Probability Modelling and Expert Advice in Interpretable Machine Learning
JP Morgan AI Research（摩根大通人工智能研究院）
我们引入了一系列可解释的机器学习模型，其中有两个广泛的补充：线性加性模型（LAM），它取代了通用加性模型（GAM）中无处不在的逻辑链接函数;和SubscaleHedge，一种专家建议算法，用于组合在称为子尺度的特征子集上训练的基础模型。LAMs可以增强任何配备有S形链接函数的加性二元分类模型。此外，他们提供了直接的全局和局部属性的加性成分的模型输出的概率空间。我们认为，LAMs和SubscaleHedge提高了其基础算法的可解释性。使用严格的零假设显著性测试的广泛套件的金融建模数据，我们表明，我们的算法不会遭受大的性能惩罚的ROC AUC和校准。
2022-11-11 cs.LG
Operational thermal load forecasting in district heating networks using machine learning and expert advice
VITO（弗拉芒技术研究院）；EnergyVille（能源城）；NODA（NODA公司）
预测热负荷是控制区域供热和供冷系统的大多数优化解决方案的关键组成部分。最近的研究分析了一些数据驱动的方法应用于热负荷预测的结果，本文提出的结果相结合的收集这些个人的方法在一个专家系统。专家系统将以一种总是跟踪系统中最佳专家的方式组合多个热负荷预测。该解决方案的测试和验证，使用27个月的热负荷数据集，从位于瑞典Rottne的10栋住宅楼，以及从天气预报服务收到的室外温度信息。该专家系统由以下数据驱动方法组成：线性回归、极端随机树回归、前馈神经网络和支持向量机。所提出的解决方案的结果进行比较的结果的个别方法。
2017-10-17 cs.LG
Optimal Non-Asymptotic Lower Bound on the Minimax Regret of Learning with Expert Advice
Yahoo Labs（雅虎实验室）
证明了$d$独立高斯变量的最大值的期望和$d$独立对称随机游动的最大值的期望的非渐近下界.这两个下界都恢复了极限中的最佳前导常数。随机游动的下界的一个简单应用是在专家建议下在线学习的极大极小遗憾的（渐近最优）非渐近下界。
2015-11-06 cs.LG stat.ML
Prediction with Advice of Unknown Number of Experts
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
在专家建议预测的框架下，我们考虑了最近引入的一种遗憾界限：取决于有效而不是名义上的专家数量的界限。与主要依赖于有效专家数但也弱依赖于名义专家数的正态-对冲界不同，我们得到了一个完全不包含名义专家数的正态-对冲界.我们使用防御性预测方法，并介绍了防御性预测在多值上鞅中的应用。
2014-08-09 cs.LG stat.ML
Optimal discovery with probabilistic expert advice
Princeton University（普林斯顿大学）；Université of Liege（列日大学）；CNRS（法国国家科学研究中心）；Telecom ParisTech（巴黎高等电信学院）
我们考虑一个原始的问题，从电力系统的安全分析的问题，我们命名为最佳的发现与概率专家的意见。我们解决它与乐观的范式和良好的图灵失踪质量估计的基础上的算法。我们表明，这种策略一致达到最优的发现率在宏观极限意义下，在一些假设的概率专家。我们还提供了数值实验表明，这种最佳行为可能仍然保持在较弱的假设。
2011-10-25 cs.LG math.OC
Active Learning with Expert Advice
Nanyang Technological University（南洋理工大学）；Microsoft Corporation（微软公司）
利用专家建议方法的常规学习假设学习者总是接收结果（例如，类标签）的每个传入的训练实例在每个试验结束时。在实际应用程序中，从Oracle获取结果可能成本高昂或耗时。在本文中，我们解决了一个新的问题，主动学习与专家的意见，一个实例的结果是公开的，只有当它是由在线学习者的要求。我们的目标是通过向Oracle询问尽可能少的问题来学习准确的预测模型。为了应对这一挑战，我们提出了一个主动预测器框架，用于在线主动学习，并提供专家建议，该框架试图扩展两个常规预测器，即，指数加权平均预测器和贪婪预测器，通过专家建议来解决主动学习的任务。我们证明了所提出的算法满足汉南一致性在一些适当的假设下，并验证了我们的技术的有效性，通过一组广泛的实验。
2013-09-26 cs.LG stat.ML
Budgeted Online Active Learning with Expert Advice and Episodic Priors
Oregon State University（俄勒冈州立大学）；Washington State University（华盛顿州立大学）
本文针对标签预算极少的有限时域数据流，提出一种同时利用专家预测器和情景行为先验的预算在线主动学习方法，并在农业模拟与真实葡萄数据上验证其显著优于现有基线。
2025-06-03 cs.LG
Prediction with Expert Advice in Games with Unbounded One-Step Gains
Institute for Information Transmission Problems, Russian Academy of Sciences（俄罗斯科学院信息传输问题研究所）
本文考虑了专家建议下的预测博弈。本文对Kalai和Vempala跟踪扰动领导者的算法进行了一些改进，并给出了一步增益不受限制的情况。我们表明，在一般情况下，任何概率预测算法的累积增益可以比池中的一些专家的增益差得多。然而，我们给出了在一般情况下，这种累积增益的下限，并构造了一个通用的算法，具有最佳的性能;我们还证明了，在情况下，当一步的池中的专家的增益有“有限的偏差”，我们的算法的性能接近最好的专家的性能。
2008-06-26 cs.AI cs.LG
Optimal Tracking in Prediction with Expert Advice
Bilkent University（比尔肯特大学）；Turkcell Teknoloji（土耳其电信技术公司）；DataBoss A.S.（DataBoss公司）
我们研究了专家建议设置的预测，其目的是通过组合一组专家产生的决策来产生决策，例如，独立运行的算法在专家建议设定的预测条件下，我们得到了最小-最大最优动态后悔，我们可以以最佳方式与专家决策的时变（不一定是固定的）组合竞争。我们的最终算法是真正在线的，没有先验信息，如时间范围或损失范围，这是常用的不同的算法在文献中。我们的遗憾保证和最小-最大下限都是在一般考虑到专家损失可能具有时变特性并且可能无界的情况下推导出来的。我们的算法可以适用于限制性的情况下，损失反馈和决策。我们的保证是普遍的，即，我们的最终算法可以提供对任何竞争者序列的最小-最大优化方式与对数复杂度的遗憾保证。请注意，据我们所知，对于专家建议问题的预测，我们的算法是第一个在没有先验知识的情况下产生这种普遍最优，自适应和真正在线保证的算法。
2022-08-07 cs.LG math.OC
Information-Theoretic Regret Bounds for Bandits with Fixed Expert Advice
Università degli Studi di Milano（米兰大学）；Politecnico di Milano（米兰理工大学）
我们调查的问题与专家的意见，专家是固定的和已知的分布在行动的土匪。改进以前的分析，我们表明，在这种情况下的遗憾是由信息理论的数量，衡量专家之间的相似性。在某些自然的特殊情况下，这允许我们获得EXP4的第一个遗憾界，如果专家足够相似，它可以任意接近于零。而对于一个不同的算法，我们提供了另一个界限，描述专家之间的KL分歧的相似性，我们表明，这个界限可以在某些情况下小于EXP4。此外，我们为某些类别的专家提供了下限，表明我们分析的算法在某些情况下几乎是最优的。
2023-03-15 cs.LG stat.ML
On the asymptotic optimality of the comb strategy for prediction with expert advice
University of Michigan（密歇根大学）；Florida State University（佛罗里达州立大学）
对于具有几何停止的对抗环境中的专家建议预测问题，我们计算了值函数长时间行为的精确首阶展开。然后，我们使用这种扩展来证明，如Gravin等人所述。[12]，在4个专家的情况下，梳状策略确实是对手的渐近最优策略。
2020-03-19 cs.LG math.OC math.PR
Consistent Learning-to-Defer with Expert-Conditional Advice
School of Computing（计算学院）；Département de Mathématiques（数学系）；National University of Singapore（新加坡国立大学）；Sorbonne University（索邦大学）；Fédération ENAC（ENAC联合会）；ISAE-SUPAERO；ONERA；Agency for Science, Technology and Research（科技研究局）；Université de Toulouse（图卢兹大学）；Institute for Infocomm Research（信息与通信研究所）
研究在决策时可为专家提供额外信息（建议）的延迟学习问题，提出一种在复合专家-建议动作空间上的增广替代损失，并证明其一致性保证和最优策略恢复能力。
2026-10-05 cs.LG stat.ML
Prediction with Expert Advice by Following the Perturbed Leader for General Weights
在将聚合策略应用于专家建议预测时，必须自适应地调整学习率。sqrt（复杂性/当前损失）的自然选择使得加权多数衍生工具的分析非常复杂。特别是，对于任意权重，迄今为止还没有证明结果。Kalai（2003）的备选“跟随扰动领导者”（FPL）算法（基于Hannan的算法）的分析更容易。我们得到的损失界自适应学习率和有限的专家类与统一的权重和可数的专家类与任意的权重。对于前一种设置，我们的损失界匹配到目前为止最好的已知结果，而对于后者，我们的结果是（据我们所知）新的。
2004-05-12 cs.AI cs.LG
A Tight Lower Bound for Non-stochastic Multi-armed Bandits with Expert Advice
Kent State University（凯特州立大学）；The University of Tokyo（东京大学）；RIKEN（理化学研究所）；The Hebrew University（希伯来大学）
本文通过证明与已有上界匹配的下界，确定了带有专家建议的非随机多臂老虎机问题的极小化极大最优期望遗憾为 $Θ(\sqrt{T K \log(N/K)})$。
2025-10-31 cs.LG stat.ML
Optimal discovery with probabilistic expert advice: finite time analysis and macroscopic optimality
Princeton University（普林斯顿大学）；University of Liège（列日大学）；Université Paul Sabatier（保罗·萨巴捷大学）
我们考虑一个原始的问题，从电力系统的安全分析的问题，我们命名为最佳的发现与概率专家的意见。我们解决它的算法的基础上乐观的范式和良好的图灵失踪的质量估计。我们证明了两个不同的遗憾界的概率专家弱假设下，该算法的性能。在更严格的假设下，我们还证明了一个宏观的最优性结果，比较算法与预言策略和均匀采样。最后，我们提供了数值实验来说明这些理论研究结果。
2013-03-29 cs.LG stat.ML
On prediction from expert advice with more than five experts
University of Minnesota（明尼苏达大学）；Louisiana State University（路易斯安那州立大学）
本文证明在六位或更多专家的预测问题中，不存在单一全排序对手策略全局最优，通过首阶修正连接不同专家数量的最优策略，并利用五位专家问题的精确最优集结果。
2026-10-06 cs.GT cs.LG math.AP
Learning to Use Learners' Advice
ETH Zurich（苏黎世联邦理工学院）
在本文中，我们研究了一个变体的框架，在线学习使用专家意见有限/土匪反馈。我们将每个专家视为一个学习实体，寻求更准确地反映某些现实世界的应用。在我们的设置中，在任何时间$t$的反馈在某种意义上是有限的，即它仅对已经由中央算法（预报器）\emph{i.e.}选择的专家$i^t$可用，只有专家$i^t$从环境接收反馈并且在时间$t$开始学习。我们认为一个通用的黑箱方法，预测不控制或知道的学习动力学的专家除了知道以下的无遗憾学习属性：平均遗憾的任何专家$j$消失的速度至少$O(t_j^{\regretRate-1})$与$t_j$学习步骤，其中$\regretRate \in [0, 1]$是一个参数。本着在多武装匪徒问题中与事后最佳行动竞争的精神，我们的目标是在w.r.t.该算法通过遵循总是选择一个专家的策略可以接收的累积损失。我们证明了以下的硬度结果：没有任何协调之间的预测和专家，这是不可能设计一个预测实现无遗憾的保证。为了规避这种困难的结果，我们考虑一个实际的假设，允许预测者“指导”的学习过程中的专家通过过滤/阻止他们观察到的反馈从环境中，\emph{i.e.}，不允许选定的专家$i^t$在时间$t$学习一些时间步长。然后，我们设计了一个新的无遗憾学习算法\algo，通过仔细指导专家观察到的反馈，这个问题设置。我们证明了\algo在$\Time$时间步长后达到了$O(\Time^\f…
2017-02-17 cs.LG
A Generalized Online Algorithm for Translation and Scale Invariant Prediction with Expert Advice
在这项工作中，我们的目标是创建一个完全在线的算法框架，用于预测专家的建议，这是无预警和无尺度的专家损失。我们的目标是创建一个通用的算法，适用于各种各样的应用程序。为了这个目的，我们研究了我们的算法对一个通用的竞争类在顺序预测专家咨询问题的预期遗憾，其中预期遗憾的措施之间的差异，我们的预测算法的损失和损失的“最好的”专家选择策略的竞争。我们设计我们的算法使用的普遍预测的角度来竞争对一个指定的类的专家选择策略，这不一定是一个固定的专家选择。类的专家选择策略，我们要竞争，纯粹是由手头的具体应用程序，是左通用，这使得我们的广义算法适用于许多不同的问题。我们表明，我们的算法和它的性能界限，这是二阶，表示在平方损失的总和方面的损失序列是不需要的初步知识。我们的后悔界限在任意缩放和转换损失时是稳定的。
2020-09-09 cs.LG stat.ML
Prediction with Corrupted Expert Advice
Tel Aviv University（特拉维夫大学）；Ben-Gurion University（本-古里安大学）；Google Research（谷歌研究院）
我们重新审视预测的基本问题与专家的意见，在环境是良性的，并产生随机损失的设置，但由学习者观察到的反馈是受温和的对抗腐败。我们证明了经典的乘性权重算法的一个变体，随着步长的减小，在这种设置中实现了恒定的遗憾，并在广泛的环境中表现最佳，无论注入腐败的大小。我们的研究结果揭示了一个令人惊讶的差距之间的经常可比的遵循正规化的领导者（FTRL）和在线镜像下降（OMD）框架：我们表明，在腐败的随机制度的专家，遗憾的性能OMD实际上是严格劣于FTRL。
2020-10-20 cs.LG stat.ML
Improved Regret Bounds for Bandits with Expert Advice
Università degli Studi di Milano（米兰大学）；Politecnico di Milano（米兰理工大学）；Politecnico di Torino（都灵理工大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；TU Delft（代尔夫特理工大学）
本文在受限反馈下证明专家建议赌博机遗憾下界为√(KT ln(N/K))，匹配上界并改进现有下界；标准反馈下提出基于专家一致性的新上界，实现对数改进。
2024-06-24 cs.LG stat.ML
Long-Term Online Smoothing Prediction Using Expert Advice
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
对于专家建议设置的预测，我们构造的预测算法所遭受的损失不会比池中的任何专家都多。与标准方法相比，我们研究了时间序列的长期预测情况，并考虑两种情况。在第一个中，在每个步骤$t$中，学习者必须组合专家针对前面的时间间隔$[t+1, t+d]$发布的点预测。我们的方法意味着，在每个时间步专家发布任意多个步骤的点预测，然后学习者（算法）将这些预测和之前的预测结合成一个矢量预测步骤$[t+1,t+d]$。通过结合过去和当前的长期预测，我们获得了一种平滑机制，可以保护我们的算法免受临时趋势变化、噪声和离群值的影响。在第二种情况下，在每一步，$t$专家发布一个预测函数，学习者必须将这些函数组合成一个函数，用于长期时间序列预测。对于每一种情况下，我们开发了一个算法，结合专家的预测和证明$O(\ln T)$对抗性遗憾上限两种算法。
2019-02-27 cs.LG stat.ML
Combining Expert Advice Efficiently
Centrum voor Wiskunde en Informatica (CWI)（荷兰国家数学与计算机科学研究院（CWI））
我们展示了如何使用隐马尔可夫模型（HMM）简明清晰地定义专家建议的预测模型;然后可以使用标准HMM算法来有效地计算，除其他外，专家预测应如何根据模型进行加权。我们将许多现有的模型转换为Hacker，并在每种情况下恢复最知名的运行时间。我们还描述了两个新的模型：开关分布，这是最近开发的，以提高贝叶斯/最小描述长度模型选择，和一个新的概括的固定份额算法的基础上运行长度编码。我们给出了所有模型的损失界限，并对它们之间的关系进行了新的阐述。
2008-02-15 cs.DS cs.IT cs.LG
The Value of AI Advice: Personalized and Value-Maximizing AI Advisors Are Necessary to Reliably Benefit Experts and Organizations
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Yale University（耶鲁大学）
本文强调AI顾问需个性化、价值最大化并选择性建议，以可靠提升专家和组织决策价值，避免削弱专家表现。
2025-10-14 cs.HC cs.LG
Towards Optimal Algorithms for Prediction with Expert Advice
Microsoft Research（微软研究院）
我们研究的经典问题的预测与专家的意见，在对抗设置几何停止时间。1965年，Cover给出了两个专家情况下的最优算法。在本文中，我们设计的最佳算法，对手和遗憾的情况下，3个专家。此外，我们证明了$2$和$3$专家的最佳算法是一个概率匹配算法（类似于汤普森抽样）对一个特定的随机对手。值得注意的是，我们的证明表明，概率匹配算法不仅是最佳的对这个特定的随机对手，但最小最大最优。我们的分析开发的上限和下限同时，类似于原始对偶方法。我们对最佳对手的分析是通过粒子在多个墙壁之间随机行走的微妙渐近性来进行的。我们使用的连接，我们开发的随机游走，以获得一个改进的算法和遗憾的情况下，$4$专家界，并提供了一个一般的框架设计的最佳算法和对手的任意数量的专家。
2016-07-11 cs.GT cs.LG math.PR
Optimal Prediction Using Expert Advice and Randomized Littlestone Dimension
The Henry and Marilyn Taub Faculty of Computer Science, Technion, Israel（计算机科学学院，技术ion）；Faculty of Mathematics, Technion, Israel（数学学院，技术ion）；Department of Computer Science, Purdue University, USA（计算机科学系，普渡大学）；Google Research, Israel（谷歌研究，以色列）
本文通过随机化Littlestone维度研究了最优预测问题，解决了利用专家建议的预测中的最优错误界问题。
2025-12-17 cs.LG
Prediction of Locally Stationary Data Using Expert Advice
Institute for Information Transmission Problems（信息传输问题研究所）；Russian Academy of Sciences（俄罗斯科学院）
本文在博弈论框架下研究连续机器学习，提出一种仅依赖结构性假设的局部平稳时间序列在线预测算法，并给出其效率估计。
2023-10-30 cs.AI cs.LG
Prediction with Expert Advice: Anytime Regret with Many Experts Matches the Fixed-Time Constant
Google Research（谷歌研究院）；Yale University（耶鲁大学）；Google DeepMind（谷歌DeepMind）
本文针对专家建议预测问题，提出一种无需预知时间范围的算法，其任意时刻遗憾界匹配已知固定时间常数，消除了此前 $\sqrt{2}$ 的差距。
2026-09-24 cs.LG stat.ML
Combinatorial Black-Box Optimization with Expert Advice
IBM Research（IBM研究）；Argonne National Laboratory（阿贡国家实验室）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
研究布尔超立方体上的黑盒函数优化问题。尽管有大量的连续域上的黑盒函数优化的文献，没有太多的注意力已经支付给组合域上的优化学习模型，直到最近。然而，最近设计的算法的计算复杂性是令人望而却步的，即使是中等数量的变量，使用现有的算法绘制一个样本是更昂贵的比许多感兴趣的黑盒功能的功能评估。为了解决这个问题，我们提出了一个计算效率高的模型学习算法的基础上多线性多项式和指数权重更新。在该算法中，我们交替模拟退火相对于当前的多项式表示和更新的权重使用单项专家的意见。在无约束和和约束布尔优化的各种数据集上的数值实验表明，所提出的算法的竞争力的性能，同时提高了计算时间的几个数量级相比，在文献中的最先进的算法。
2020-10-13 cs.LG stat.ML
Prediction with Expert Advice under Heavy-Tailed Losses
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
该研究针对重尾损失下基于专家建议的预测问题，确定了极小极大伪遗憾率，提出两种无需知晓ε和θ的自适应算法，还给出ε和θ已知时的最优算法，成果为相关预测任务提供了理论与方法支撑。
2026-10-14 cs.LG stat.ML
Prediction with Expert Advice: a PDE Perspective
University of Minnesota（明尼苏达大学）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
这项工作解决了一个经典的问题，在线预测专家的意见。我们假设一个敌对的对手，我们考虑有限的地平线和随机停止版本的零和，两人对策。针对一个适当的连续极限，利用最优控制的方法，将博弈的价值刻画为某个非线性偏微分方程的黏性解.分析还揭示了预测者和对手的最小最大最优策略。特别是，我们的工作提供了对Gravin，Peres和Sivan最近工作的连续统一观点（Proc SODA 2016）。我们的技术类似于Kohn和Serfaty（Comm Pure Appl Math 2010）的技术，其中一些两人对策的缩放限制导致椭圆或抛物偏微分方程。
2019-04-25 cs.GT cs.LG math.AP
A Novel Experts Advice Aggregation Framework Using Deep Reinforcement Learning for Portfolio Management
Sharif University of Technology（谢里夫理工大学）
使用深度强化学习解决投资组合管理问题在金融界引起了广泛的关注。我们提出了一种新方法，使用专家信号和历史价格数据来输入我们的强化学习框架。虽然专家信号已经在金融领域的以前的工作中使用过，但据我们所知，这是第一次将这种方法与深度RL结合起来用于解决金融投资组合管理问题。我们提出的框架由一个用于聚合信号的卷积网络、另一个用于历史价格数据的卷积网络和一个普通网络组成。我们使用邻近策略优化算法作为代理来处理奖励并在环境中采取行动。结果表明，平均而言，我们的框架可以获得最好的专家所获得的利润的90%。
2022-12-29 cs.LG q-fin.CP q-fin.PM
New Potential-Based Bounds for Prediction with Expert Advice
Center for Data Science, New York University（纽约大学数据科学中心）；Courant Institute of Mathematical Sciences, New York University（纽约大学科朗数学科学研究所）
这项工作解决了经典的机器学习问题的在线预测专家的意见。我们考虑这个零和二人博弈的有限视界版本。使用验证参数从最优控制理论，我们认为找到更好的下限和上限的游戏（后悔）的价值的问题，找到更好的子和上解的某些偏微分方程（PDE）的任务。这些子解和上解作为参与者和对手策略的势，导致相应的界限。为了得到明确的界限，我们使用特定偏微分方程的封闭形式的解决方案。我们的界限适用于任何给定数量的专家和视野;在某些制度（我们确定），他们改善了以前的艺术状态。对于两个和三个专家，我们的界限提供了最佳的领先秩序项。
2020-06-29 cs.GT cs.LG math.AP
XNAS: Neural Architecture Search with Expert Advice
Alibaba Group（阿里巴巴集团）
提出了一种基于专家建议预测理论的差分神经网络结构优化方法。它的优化准则很好地适合于结构选择，即，它最小化了由操作的次优选择引起的遗憾。与以前的搜索松弛，需要硬修剪的架构，我们的方法的目的是动态地消灭劣质架构，提高优越的。它实现了一个最佳的最坏情况下的遗憾界，并建议使用多个学习率的基础上，所携带的信息量的后向梯度。实验表明，我们的算法在多个图像分类数据集上取得了很好的性能。具体来说，它在移动设置下获得了CIFAR-10的1.6%的出错率，ImageNet的24%，并在另外三个数据集上获得了最先进的结果。
2019-06-19 cs.CV cs.LG math.OC
Continuous Prediction with Experts' Advice
University of British Columbia（不列颠哥伦比亚大学）；Google（谷歌）
根据专家的建议进行预测是在线学习中最基本的问题之一，并且解决了许多技术挑战。最近的一系列工作通过微分方程和连续时间分析的镜头来研究在线学习。这种观点对在线学习中的几个问题产生了最佳结果。本文采用连续时间随机微积分方法研究离散时间专家问题。我们使用这些工具来设计一个连续的时间，无参数的算法与改进的保证分位数遗憾。然后，我们开发了一个类似的离散时间算法，具有非常相似的分析和相同的分位数遗憾界。最后，我们设计了一个任意时间连续时间算法，当增益是独立的布朗运动时，遗憾匹配最优固定时间速率;在许多设置中，这是最困难的情况。这提供了一些证据，即使有对抗性收益，最佳的随时和固定时间的后悔可能会重合。
2022-09-30 cs.LG math.PR stat.ML
New Potential-Based Bounds for the Geometric-Stopping Version of Prediction with Expert Advice
Center for Data Science, New York University（纽约大学数据科学中心）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
这项工作解决了经典的机器学习问题的在线预测专家的意见。一个新的潜在的框架固定的地平线版本的这个问题最近已经开发出使用验证参数从最优控制理论。本文扩展了这个框架的随机（几何）停止的版本。为了获得明确的界限，我们构造潜在的几何版本用于固定的地平线版本的问题。这种结构导致新的明确的下限和上限与特定的对手和球员的策略。虽然有几个已知的下限在固定的地平线设置，我们的下限似乎是第一个这样的结果在几何停止设置与任意数量的专家。在某些情况下，我们的框架还导致改进的上界。对于两个和三个专家，我们的界限是最优的领导秩序。
2020-06-29 cs.GT cs.LG math.AP
Bandits with Abstention under Expert Advice
The Alan Turing Institute（阿兰·图灵研究所）；University of Milan（米兰大学）；CENTAI Institute（CENTAI研究所）；TU Wien（维也纳技术大学）；University College London（伦敦大学学院）
研究bandit反馈下带弃权（不执行）选项的专家建议预测问题，提出CBA算法，通过利用弃权动作无奖励无损失的特性，显著改进了Exp4和SpecialistExp等经典算法的奖励界，并实现了近线性运行时间的高效上下文实现。
2024-11-12 cs.LG stat.ML
Numerical solution of a PDE arising from prediction with expert advice
School of Mathematics, University of Minnesota（明尼苏达大学数学学院）；Department of Mathematics, Louisiana State University（路易斯安那州立大学数学系）
本文通过数值求解与专家建议预测博弈相关的退化椭圆方程，利用对称性将计算维度提升至 n≤10，并提出 COMB 策略非最优等对抗策略最优性猜想。
2025-02-03 cs.AI cs.LG cs.NA
Bandit-Based Policy Invariant Explicit Shaping for Incorporating External Advice in Reinforcement Learning
JPMorgan Chase（摩根大通）；Huawei（华为）；University of Alberta（阿尔伯塔大学）
本文将RL中融入外部建议问题形式化为shaping-bandits多臂赌博机，并提出UPIES、RPIES和LPIES三种塑造算法，在保持策略不变的同时加速学习并利用任意建议。
2023-09-18 cs.AI cs.LG
Dynamic Ensemble Active Learning: A Non-Stationary Bandit with Expert Advice
University of Edinburgh（爱丁堡大学）；University College London（伦敦大学学院）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
主动学习旨在通过预测哪些样本对人类教师标记有用来降低注释成本。然而，很明显，不存在最佳的主动学习算法。受各种关于什么是好的标准的哲学的启发，不同的算法在不同的数据集上表现良好。这促使人们研究主动学习者的集合，这些学习者通常通过多臂强盗算法来学习在给定场景中构成良好标准的内容。虽然算法集成可以带来更好的结果，但它们忽略了一个事实，即算法效率不仅在数据集之间存在差异，而且在单个主动学习会话期间也存在差异。也就是说，最好的标准是非平稳的。这打破了现有算法的保证，并阻碍了它们在实践中的性能。在本文中，我们提出动态集成主动学习作为一个更普遍和有前途的研究方向。我们开发了一个动态集成主动学习器的基础上，非平稳的多臂强盗专家建议算法。我们的动态集成在主动学习的每一步都选择正确的标准。它有理论上的保证，并在$13$流行的数据集上显示出令人鼓舞的结果。
2018-09-29 cs.AI cs.LG stat.ML
On preserving non-discrimination when combining expert advice
Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；Cornell University（康奈尔大学）
我们研究了顺序决策和避免歧视受保护群体之间的相互作用，当例子到达网上，不遵循分布假设。我们考虑经典在线学习的最基本的扩展：“给定一类预测器，这些预测器对于特定的度量是单独非歧视性的，我们如何将它们组合起来以在保持非歧视性的同时表现得与最佳预测器一样好？“令人惊讶的是，我们表明，这项任务是无法实现的流行概念的“均衡的赔率”，需要平等的假阴性率和平等的假阳性率跨组。在积极的一面，另一个概念的非歧视，“均衡的出错率“，我们表明，运行单独的实例的经典乘法权重算法为每个组实现这一保证。有趣的是，即使对于这个概念，我们表明，具有更强的性能保证比乘法权重的算法不能保持非歧视性。
2019-03-29 cs.DS cs.LG stat.ML
Prediction with Expert Advice under Local Differential Privacy
Department of Computer Sciences University of Wisconsin — Madison（计算机科学系威斯康星大学麦迪逊分校）；Department of Electrical and Computer Engineering University of Wisconsin — Madison（电气与计算机工程系威斯康星大学麦迪逊分校）
本文在局部差分隐私约束下提出RW-AdaBatch和RW-Meta算法，通过隐私放大和专家选择方法提升预测性能，实验证明在新冠疫情期间表现优于经典方法。
2025-12-07 cs.CR cs.DS cs.LG
An Optimal Algorithm for Linear Bandits
我们提供了第一个算法的在线强盗线性优化，T轮后的遗憾是为了sqrt{Td ln N}的任何有限类X的N个行动在d维，和顺序d*sqrt{T}（直到日志因子）时，X是无限的。这些界限一般是不可改进的。其基本思想是利用凸几何的工具来构造基本上是最优的勘探基础。我们还根据专家建议提出了线性强盗模型的应用。有趣的是，这些结果表明，在d维中，专家建议的强盗线性优化并不比专家建议的在线d臂强盗问题（其中EXP 4是最优的）更困难（就可实现的遗憾而言）。
2012-02-14 cs.LG stat.ML
A PDE Approach to the Prediction of a Binary Sequence with Advice from Two History-Dependent Experts
University of Minnesota（明尼苏达大学）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
二进制序列的预测是在线机器学习的一个经典例子。我们喜欢称之为“股票预测问题”，将序列视为股票的价格历史，在每个时间步长上涨或下跌一个单位。在这个问题中，投资者可以获得两个或更多“专家”的预测，并努力减少她对表现最好的专家的最后一次遗憾。概率不起作用;相反，市场被假定为是对抗性的。我们考虑的情况下，有两个历史依赖的专家，其预测是由d最近的股票走势。集中在一个适当的连续极限，并使用最优控制，图论，和偏微分方程的方法，我们讨论的投资者和对抗性市场的策略，我们确定相关的上限和下界的投资者的最后一次后悔。当d小于4时，我们的上界和下界合并，因此所提出的策略是渐近最优的。与其他近期将偏微分方程应用于预测的方法相比，我们的方法有一个新的元素：有两个时间尺度，因为最近的历史在每一步都在变化，而遗憾积累得更慢。
2020-07-24 cs.GT cs.LG math.AP
Principled Bayesian Optimisation in Collaboration with Human Experts
EPFL（洛桑联邦理工学院）；Empa（瑞士联邦材料科学与技术实验室）；University of Oxford（牛津大学）；Toyota Motor Corporation（丰田汽车公司）
提出首个与人类专家协作的贝叶斯优化方法，通过二元标签建议和自适应信任级别调整，在保证交接和无害的前提下，显著减少专家标注成本并提升优化效率。
2024-10-14 cs.LG math.OC
Improved Regret Bounds for Tracking Experts with Memory
University College London（伦敦大学学院）
我们解决了在具有Bousquet和Warranty意义上的长期记忆保证的非平稳环境中具有专家建议的顺序预测问题[4]。我们给出了一个线性时间算法，它改进了最著名的后悔界限[26]。该算法结合了相对熵投影步骤。这种预测比以前的权重共享方法更有利，因为权重更新可能会带来隐含成本，例如投资组合优化。我们给出了一个算法来计算这个投影步骤在线性时间，这可能是独立的利益。
2021-06-24 cs.LG
Online Learning with Automata-based Expert Sequences
Courant Institute（库朗研究所）；Google Research（谷歌研究院）
我们认为一个一般的框架在线学习与专家的意见，遗憾的定义相对于序列的专家接受了加权自动机。我们的框架涵盖了以前研究的几个问题，包括与K-移位专家的竞争。我们给出了一系列的算法，这个问题，包括一个自动机为基础的算法扩展加权多数和更有效的算法的基础上的概念，故障转移。我们进一步提出了有效的算法的竞争对手自动机的近似的基础上，特别是通过最小化的\infty -雷尼分歧得到的n元模型，并提出了广泛的研究这种模型的近似特性。最后，我们还将我们的算法和结果扩展到睡眠专家的框架。
2017-10-22 cs.LG
Online Learning with Low Rank Experts
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）；Technion—Israel Institute of Technology（以色列理工学院）；The Hebrew University of Jerusalem（希伯来大学）；Tel Aviv University（特拉维夫大学）
我们考虑专家意见的预测问题时，专家的损失有低维结构：他们被限制到一个未知的$d$维子空间。我们设计的算法与遗憾界是独立的专家的数量，只依赖于排名$d$。对于随机模型，我们证明了$Θ(\sqrt{dT})$的一个紧界，并将其推广到一个近似$d$子空间的情形。对于对抗模型，我们给出了$O(d\sqrt{T})$的上界和$Ω(\sqrt{dT})$的下界。
2016-05-23 cs.LG
Online Learning with Many Experts
Technion—Israel Institute of Technology（以色列理工学院）
我们研究的问题，预测与专家的意见时，专家的数量可能是非常大的问题，甚至是无限的。我们设计了一个算法，获得了紧遗憾界的$\widetilde{O}(εT + N + \sqrt{NT})$，其中$N$是经验$ε$覆盖数的序列的损失函数的环境。此外，我们提出了一个对冲程序，使我们能够找到最佳的$ε$在事后。最后，我们讨论了我们的算法的一些有趣的应用。我们展示了我们的算法如何适用于Hazan et al.（2016）的近似低秩专家模型，并讨论了具有有界变化的专家的情况，其中在统计和在线设置中获得的遗憾界限之间存在令人惊讶的巨大差距。
2017-02-25 cs.LG
Online Learning with Uncertain Feedback Graphs
University of California, Irvine（加州大学欧文分校）
通过专家建议进行的在线学习广泛用于各种机器学习任务。它考虑的问题是，学习者从一组专家中选择一个来接受建议并做出决定。在许多学习问题中，专家可能是相关的，因此学习者可以观察到与所选专家相关的专家子集相关的损失。在这种情况下，专家之间的关系可以通过反馈图来捕获，该反馈图可以用于帮助学习者做出决策。然而，在实践中，名义反馈图往往带有不确定性，这使得它不可能揭示专家之间的实际关系。为了应对这一挑战，目前的工作研究各种情况下的潜在不确定性，并开发新的在线学习算法来处理不确定性，同时利用不确定反馈图。在较弱的条件下证明了所提算法具有次线性后悔性。在真实数据集上的实验证明了新算法的有效性。
2021-06-15 cs.LG stat.ML
Online Learning for Changing Environments using Coin Betting
UW-Madison（威斯康星大学麦迪逊分校）；Stony Brook University（石溪大学）
在线学习的一个关键挑战是经典算法可能很慢才能适应不断变化的环境。最近的研究提出了“Meta”算法，将任何在线学习算法转换为适应不断变化的环境的算法，其中的自适应性被称为强自适应后悔的数量进行分析。本文描述了一种新的Meta算法，它具有强自适应的遗憾界是一个因素的$\sqrt{\log(T)}$优于其他算法具有相同的时间复杂度，其中$T$是时间范围。我们还扩展了我们的算法，以实现一阶（即，依赖于观察到的损失）强适应性的遗憾界的第一次，我们的知识。其核心是一种新的无参数算法，用于专家建议学习（LEA）问题，其中专家有时不输出连续时间步长的建议（即，\emph{sleeping}专家）。该算法是由所谓的硬币投注问题的最优算法的简化而得。实证结果表明，我们的算法优于国家的最先进的方法在学习与专家的意见和度量学习的情况下。
2017-11-06 cs.LG stat.ML
