Collaborative prediction with expert advice
UC Berkeley（加州大学伯克利分校）
许多实际的学习系统聚集了许多用户的数据，而学习理论传统上认为单个学习者信任他们所有的观察。一个很好的例子是专家建议预测的基本学习问题。到目前为止，还没有理论研究的一般合作版本的预测与专家的意见，其中许多用户面临着类似的问题，并希望分享他们的经验，以便更快地学习。这个协作框架中的一个关键问题是鲁棒性：通常，聚合数据的算法很容易受到即使是少数不诚实用户的操纵。我们展示了第一个强大的协作算法预测专家的意见。当所有用户都是诚实的，有相似的口味，我们的算法匹配的性能池数据和使用传统的算法。但我们的算法也保证了添加用户不会显着降低性能，即使额外的用户行为不利。即使绝大多数用户的行为是敌对的，我们也能实现强有力的保证。作为一个特殊的情况下，我们的算法是非常强大的用户之间的变化。
2016-04-08 cs.LG
Continuous Prediction with Experts' Advice
University of British Columbia（不列颠哥伦比亚大学）；Google（谷歌）
根据专家的建议进行预测是在线学习中最基本的问题之一，并且解决了许多技术挑战。最近的一系列工作通过微分方程和连续时间分析的镜头来研究在线学习。这种观点对在线学习中的几个问题产生了最佳结果。本文采用连续时间随机微积分方法研究离散时间专家问题。我们使用这些工具来设计一个连续的时间，无参数的算法与改进的保证分位数遗憾。然后，我们开发了一个类似的离散时间算法，具有非常相似的分析和相同的分位数遗憾界。最后，我们设计了一个任意时间连续时间算法，当增益是独立的布朗运动时，遗憾匹配最优固定时间速率;在许多设置中，这是最困难的情况。这提供了一些证据，即使有对抗性收益，最佳的随时和固定时间的后悔可能会重合。
2022-09-30 cs.LG math.PR stat.ML
Towards Optimal Algorithms for Prediction with Expert Advice
Microsoft Research（微软研究院）
我们研究的经典问题的预测与专家的意见，在对抗设置几何停止时间。1965年，Cover给出了两个专家情况下的最优算法。在本文中，我们设计的最佳算法，对手和遗憾的情况下，3个专家。此外，我们证明了$2$和$3$专家的最佳算法是一个概率匹配算法（类似于汤普森抽样）对一个特定的随机对手。值得注意的是，我们的证明表明，概率匹配算法不仅是最佳的对这个特定的随机对手，但最小最大最优。我们的分析开发的上限和下限同时，类似于原始对偶方法。我们对最佳对手的分析是通过粒子在多个墙壁之间随机行走的微妙渐近性来进行的。我们使用的连接，我们开发的随机游走，以获得一个改进的算法和遗憾的情况下，$4$专家界，并提供了一个一般的框架设计的最佳算法和对手的任意数量的专家。
2016-07-11 cs.GT cs.LG math.PR
Efficient tracking of a growing number of experts
Centre de Mathématiques Appliquées École Polytechnique（巴黎综合理工学院应用数学中心）；Inria Lille - Nord Europe（法国国家信息与自动化研究所里尔-北欧中心）
我们考虑一个变化的预测问题与专家的意见，新的预测，直到那时是未知的可能会出现在每一轮。正如在专家建议的预测中经常出现的那样，设计一个实现接近最优后悔保证的算法是简单的，使用专家的聚合。然而，当比较类足够丰富时，例如当最佳专家和专家集本身随着时间的推移而变化时，此类策略天真地需要维持大量的权重（通常与时间范围呈指数关系）。相比之下，设计既能达到接近最优后悔又能保持合理数量权重的策略是非常重要的。我们考虑三个越来越具有挑战性的目标（简单的遗憾，转移遗憾和稀疏转移遗憾），扩展现有的概念定义为一个固定的专家合奏，在每种情况下，我们设计的策略，实现严格的遗憾界限，自适应的参数比较类，同时计算成本低廉。此外，我们的算法是随时，不可知的传入专家的数量和完全无参数。之所以能取得如此显著的结果，要归功于两个简单但非常有效的秘诀：第一个是来自专家框架的“回避技巧”，它能够处理最不具挑战性的后悔概念，但在处理更复杂的目标时却受到限制。第二，我们引入的“静音技巧”，以提供更大的灵活性。我们将展示如何结合这两个技巧，以处理最具挑战性的比较策略。
2017-08-31 cs.LG stat.ML
Advice-Efficient Prediction with Expert Advice
Queensland University of Technology（昆士兰科技大学）；UC Berkeley（加州大学伯克利分校）；University College London（伦敦大学学院）；The Technion（以色列理工学院）
有专家建议的建议有效预测（类似于标签有效预测）是有专家建议的预测游戏的变体，其中在游戏的每一轮中，我们被允许从$N$专家中询问有限数量的$M$的建议。这种设置特别有趣，因为在每一轮上征求每个专家的意见都很昂贵。我们提出了一个算法，建议有效的预测与专家的意见，实现$O(\sqrt{\frac{N}{M}T\ln N})$遗憾的$T$轮的游戏。
2013-04-12 cs.LG stat.ML
Principled Bayesian Optimisation in Collaboration with Human Experts
EPFL（洛桑联邦理工学院）；Empa（瑞士联邦材料科学与技术实验室）；University of Oxford（牛津大学）；Toyota Motor Corporation（丰田汽车公司）
提出首个与人类专家协作的贝叶斯优化方法，通过二元标签建议和自适应信任级别调整，在保证交接和无害的前提下，显著减少专家标注成本并提升优化效率。
2024-10-14 cs.LG math.OC
Soft-Bayes: Prod for Mixtures of Experts with Log-Loss
DeepMind（深度思维）
我们认为预测与专家的意见下的日志损失的目标是获得高效和强大的算法。我们认为，现有的算法，如指数梯度，在线梯度下降和在线牛顿步骤不足以满足这两个要求。我们的主要贡献是Prod算法的分析，该算法对任何数据序列都是鲁棒的，并且相对于每轮专家的数量在线性时间内运行。尽管无界性质的对数损失，我们得到一个界，是独立的最大损失和最大的梯度，只取决于专家的数量和时间范围。此外，我们给出了一个贝叶斯解释的Prod和适应的算法，以获得跟踪遗憾。
2019-01-08 cs.LG stat.ML
Dying Experts: Efficient Algorithms with Optimal Regret Bounds
University of Victoria（维多利亚大学）
我们研究了决策理论在线学习的一个变体，在这个变体中，学习者可用的专家集可以随着时间的推移而缩小。这是一个经过充分研究的专家睡眠问题的限制版本，它本身是根据专家建议进行预测的基本博弈的推广。和很多这个方向的作品类似，我们的标杆是排名遗憾。各种结果表明，在完全对抗的睡眠专家问题中实现最佳遗憾在计算上是困难的。这激发了我们的放松，任何进入睡眠的专家都不会再醒来。我们称这种设置为“垂死的专家”，并在两种不同的情况下进行研究：学习者知道专家死亡顺序的情况和学习者不知道的情况。在这两种情况下，我们提供了匹配的上限和下限的排名后悔在完全对抗的设置。此外，我们提出了新的，计算效率高的算法，获得我们的最佳上限。
2019-10-29 cs.LG stat.ML
Near Optimal Memory-Regret Tradeoff for Online Learning
Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
在专家问题中，在$T$的每一天，代理需要遵循$n$“专家”之一的建议。每过一天，每个专家的建议都会带来损失。学习理论的一个基本结果是，智能体可以实现后悔消失，也就是说，他们的累积损失在事后诸葛亮专家的累积损失的$o(T)$范围内。如果没有足够的空间来记住所有的专家，智能体能否表现良好？我们在两个方向上扩展了对这个问题的一个新的研究路线：$\bullet$我们给出了一个新的算法，对不经意的对手，改进了[PZ 23]获得的内存后悔权衡，几乎匹配的下限[SWXZ 22]。$\bullet$我们还考虑了一个自适应对手谁可以观察过去的专家选择的代理。在这种情况下，我们给出了一个新的算法和一个新的下限，证明了大致$\sqrt{n}$内存是必要的和足够的$o(T)$遗憾。
2023-03-09 cs.AI cs.DS cs.LG
Adaptive and Efficient Algorithms for Tracking the Best Expert
National Key Laboratory for Novel Software Technology（Novel Software Technology国家重点实验室）；Nanjing University（南京大学）
在本文中，我们考虑在动态环境中的专家意见的预测问题。我们选择跟踪遗憾作为性能指标，并开发了两个自适应和有效的算法与数据相关的跟踪遗憾界。第一种算法实现了二阶跟踪遗憾界，改进了现有的一阶界。第二个算法享有的路径长度的界限，这通常是不可比的二阶界限，但在缓慢移动的环境中提供的优势。这两种算法都是在在线镜像下降框架下开发的，并从现有的算法中汲取灵感，获得静态遗憾的数据依赖性界限。其关键思想是在在线镜像下降的更新步骤中使用裁剪单纯形。最后，我们扩展我们的算法和分析，在线矩阵预测，并提供了第一个数据依赖的跟踪遗憾界这个问题。
2020-02-08 cs.LG stat.ML
Optimal Non-Asymptotic Lower Bound on the Minimax Regret of Learning with Expert Advice
Yahoo Labs（雅虎实验室）
证明了$d$独立高斯变量的最大值的期望和$d$独立对称随机游动的最大值的期望的非渐近下界.这两个下界都恢复了极限中的最佳前导常数。随机游动的下界的一个简单应用是在专家建议下在线学习的极大极小遗憾的（渐近最优）非渐近下界。
2015-11-06 cs.LG stat.ML
Coin Betting and Parameter-Free Online Learning
Stony Brook University（石溪大学）；Yahoo Research（雅虎研究院）
近年来，许多无参数算法已经被开发用于Hilbert空间上的在线线性优化和专家建议的学习。这些算法实现了取决于未知竞争对手的最佳遗憾界限，而不必通过Oracle选择来调整学习率。我们提出了一个新的直观的框架来设计\emph{both}在线线性优化希尔伯特空间和学习专家的建议，减少投注对抗硬币的结果的基础上，无参数算法。我们使用基于Krichevsky-Trofimov估计的投注算法来实例化它。由此产生的算法很简单，没有参数需要调整，并且在遗憾保证和每轮复杂度方面改进或匹配先前的结果。
2016-11-04 cs.LG
Improved Regret Bounds for Tracking Experts with Memory
University College London（伦敦大学学院）
我们解决了在具有Bousquet和Warranty意义上的长期记忆保证的非平稳环境中具有专家建议的顺序预测问题[4]。我们给出了一个线性时间算法，它改进了最著名的后悔界限[26]。该算法结合了相对熵投影步骤。这种预测比以前的权重共享方法更有利，因为权重更新可能会带来隐含成本，例如投资组合优化。我们给出了一个算法来计算这个投影步骤在线性时间，这可能是独立的利益。
2021-06-24 cs.LG
Active Learning with Expert Advice
Nanyang Technological University（南洋理工大学）；Microsoft Corporation（微软公司）
利用专家建议方法的常规学习假设学习者总是接收结果（例如，类标签）的每个传入的训练实例在每个试验结束时。在实际应用程序中，从Oracle获取结果可能成本高昂或耗时。在本文中，我们解决了一个新的问题，主动学习与专家的意见，一个实例的结果是公开的，只有当它是由在线学习者的要求。我们的目标是通过向Oracle询问尽可能少的问题来学习准确的预测模型。为了应对这一挑战，我们提出了一个主动预测器框架，用于在线主动学习，并提供专家建议，该框架试图扩展两个常规预测器，即，指数加权平均预测器和贪婪预测器，通过专家建议来解决主动学习的任务。我们证明了所提出的算法满足汉南一致性在一些适当的假设下，并验证了我们的技术的有效性，通过一组广泛的实验。
2013-09-26 cs.LG stat.ML
Online Learning with Low Rank Experts
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）；Technion—Israel Institute of Technology（以色列理工学院）；The Hebrew University of Jerusalem（希伯来大学）；Tel Aviv University（特拉维夫大学）
我们考虑专家意见的预测问题时，专家的损失有低维结构：他们被限制到一个未知的$d$维子空间。我们设计的算法与遗憾界是独立的专家的数量，只依赖于排名$d$。对于随机模型，我们证明了$Θ(\sqrt{dT})$的一个紧界，并将其推广到一个近似$d$子空间的情形。对于对抗模型，我们给出了$O(d\sqrt{T})$的上界和$Ω(\sqrt{dT})$的下界。
2016-05-23 cs.LG
Consistent Learning-to-Defer with Expert-Conditional Advice
School of Computing（计算学院）；Département de Mathématiques（数学系）；National University of Singapore（新加坡国立大学）；Sorbonne University（索邦大学）；Fédération ENAC（ENAC联合会）；ISAE-SUPAERO；ONERA；Agency for Science, Technology and Research（科技研究局）；Université de Toulouse（图卢兹大学）；Institute for Infocomm Research（信息与通信研究所）
研究在决策时可为专家提供额外信息（建议）的延迟学习问题，提出一种在复合专家-建议动作空间上的增广替代损失，并证明其一致性保证和最优策略恢复能力。
2026-10-05 cs.LG stat.ML
Online Learning with Many Experts
Technion—Israel Institute of Technology（以色列理工学院）
我们研究的问题，预测与专家的意见时，专家的数量可能是非常大的问题，甚至是无限的。我们设计了一个算法，获得了紧遗憾界的$\widetilde{O}(εT + N + \sqrt{NT})$，其中$N$是经验$ε$覆盖数的序列的损失函数的环境。此外，我们提出了一个对冲程序，使我们能够找到最佳的$ε$在事后。最后，我们讨论了我们的算法的一些有趣的应用。我们展示了我们的算法如何适用于Hazan et al.（2016）的近似低秩专家模型，并讨论了具有有界变化的专家的情况，其中在统计和在线设置中获得的遗憾界限之间存在令人惊讶的巨大差距。
2017-02-25 cs.LG
A Tight Lower Bound for Non-stochastic Multi-armed Bandits with Expert Advice
Kent State University（凯特州立大学）；The University of Tokyo（东京大学）；RIKEN（理化学研究所）；The Hebrew University（希伯来大学）
本文通过证明与已有上界匹配的下界，确定了带有专家建议的非随机多臂老虎机问题的极小化极大最优期望遗憾为 $Θ(\sqrt{T K \log(N/K)})$。
2025-10-31 cs.LG stat.ML
Improved Space Bounds for Learning with Experts
MIT（麻省理工学院）；Northeastern University（东北大学）
我们改进了空间和遗憾之间的权衡，为在线学习与专家意见的问题超过$T$天与$n$专家。在给定$δ\in (0,1)$的$n^δ$空间预算的情况下，我们给出了一个实现后悔$\tilde{O}(n^2 T^{1/(1+δ)})$的算法，改进了[PZ23]中的后悔界$\tilde{O}(n^2 T^{2/(2+δ)})$.改进是特别突出的政权$δ\rightarrow 1$的遗憾，我们的算法接近$\tilde{O}_n(\sqrt{T})$，匹配的$T$依赖在标准的在线设置没有空间限制。
2023-03-02 cs.DS cs.LG
Prediction with Corrupted Expert Advice
Tel Aviv University（特拉维夫大学）；Ben-Gurion University（本-古里安大学）；Google Research（谷歌研究院）
我们重新审视预测的基本问题与专家的意见，在环境是良性的，并产生随机损失的设置，但由学习者观察到的反馈是受温和的对抗腐败。我们证明了经典的乘性权重算法的一个变体，随着步长的减小，在这种设置中实现了恒定的遗憾，并在广泛的环境中表现最佳，无论注入腐败的大小。我们的研究结果揭示了一个令人惊讶的差距之间的经常可比的遵循正规化的领导者（FTRL）和在线镜像下降（OMD）框架：我们表明，在腐败的随机制度的专家，遗憾的性能OMD实际上是严格劣于FTRL。
2020-10-20 cs.LG stat.ML
Defensive forecasting for optimal prediction with expert advice
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
防御性预测方法被应用于二元结果的专家建议预测问题。事实证明，防御性预测不仅是有竞争力的聚合算法，但也处理的情况下，“事后诸葛亮”的专家，其意见取决于学习者的预测，本文假设的依赖于学习者的预测是连续的。
2007-08-10 cs.LG
Long-Term Online Smoothing Prediction Using Expert Advice
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
对于专家建议设置的预测，我们构造的预测算法所遭受的损失不会比池中的任何专家都多。与标准方法相比，我们研究了时间序列的长期预测情况，并考虑两种情况。在第一个中，在每个步骤$t$中，学习者必须组合专家针对前面的时间间隔$[t+1, t+d]$发布的点预测。我们的方法意味着，在每个时间步专家发布任意多个步骤的点预测，然后学习者（算法）将这些预测和之前的预测结合成一个矢量预测步骤$[t+1,t+d]$。通过结合过去和当前的长期预测，我们获得了一种平滑机制，可以保护我们的算法免受临时趋势变化、噪声和离群值的影响。在第二种情况下，在每一步，$t$专家发布一个预测函数，学习者必须将这些函数组合成一个函数，用于长期时间序列预测。对于每一种情况下，我们开发了一个算法，结合专家的预测和证明$O(\ln T)$对抗性遗憾上限两种算法。
2019-02-27 cs.LG stat.ML
Multiplicative Reweighting for Robust Neural Network Optimization
Tel Aviv University（特拉维夫大学）
针对神经网络在噪声标签下性能下降的问题，提出将专家建议学习中的乘法权重（MW）用于样本重加权，理论证明其与梯度下降结合的收敛性及一维优势，实证显示在CIFAR-10等数据集上提升了噪声标签下的准确性并影响对抗鲁棒性。
2025-11-11 cs.CR cs.LG
Prediction with Expert Advice under Discounted Loss
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
我们研究的预测专家的意见，在设置中的损失是累积的一些折扣-旧的损失的影响可能会逐渐消失。我们推广的聚集算法和聚集算法回归到这种情况下，提出了一个合适的指数权重算法的新变种，并证明各自的损失界。
2010-06-04 cs.LG
Multiarmed Bandits With Limited Expert Advice
IBM T. J. Watson Research Center（IBM T. J. Watson研究中心）；Yorktown Heights, NY 10598（纽约州约克镇高地，邮编10598（注：该地址属于机构位置信息，非独立机构，按要求不提取））
我们解决了COLT 2013年开放问题的\citet{SCB}在最大限度地减少遗憾的建议有效的多武装土匪与专家的意见。给出了一个K臂N专家的设置算法，每轮只允许查询和使用M个专家的建议，T轮后的遗憾界为\tilde{O} \bigP{\sqrt{\frac{\min\{K, M\} N}{M} T}}.我们还证明了这个问题的任何算法必须有预期遗憾至少\tilde Ω \bigP{\sqrt{\frac{\min\{K, M\} N}{M}T}}，从而表明我们的上限是近紧。
2013-07-08 cs.LG
Combinatorial Black-Box Optimization with Expert Advice
IBM Research（IBM研究）；Argonne National Laboratory（阿贡国家实验室）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
研究布尔超立方体上的黑盒函数优化问题。尽管有大量的连续域上的黑盒函数优化的文献，没有太多的注意力已经支付给组合域上的优化学习模型，直到最近。然而，最近设计的算法的计算复杂性是令人望而却步的，即使是中等数量的变量，使用现有的算法绘制一个样本是更昂贵的比许多感兴趣的黑盒功能的功能评估。为了解决这个问题，我们提出了一个计算效率高的模型学习算法的基础上多线性多项式和指数权重更新。在该算法中，我们交替模拟退火相对于当前的多项式表示和更新的权重使用单项专家的意见。在无约束和和约束布尔优化的各种数据集上的数值实验表明，所提出的算法的竞争力的性能，同时提高了计算时间的几个数量级相比，在文献中的最先进的算法。
2020-10-13 cs.LG stat.ML
Prediction with Expert Advice under Heavy-Tailed Losses
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
该研究针对重尾损失下基于专家建议的预测问题，确定了极小极大伪遗憾率，提出两种无需知晓ε和θ的自适应算法，还给出ε和θ已知时的最优算法，成果为相关预测任务提供了理论与方法支撑。
2026-10-14 cs.LG stat.ML
Second Order Regret Bounds Against Generalized Expert Sequences under Partial Bandit Feedback
研究了部分反馈下的专家建议问题，提出了一个序贯极小极大优化算法。我们的算法与一个更一般的部分监控设置，在那里，与经典的强盗反馈，损失可以显示在一个对抗的方式。我们的算法采用了一个普遍的预测的角度，其性能进行了分析，对一般的专家选择序列的遗憾。遗憾的是，我们研究的是对一个一般的竞争类，涵盖了许多设置（如开关或上下文专家设置）和专家选择序列的竞争类是由手头的应用程序。我们的遗憾界是二阶界的平方损失和我们的算法的正规化遗憾的损失序列的任意仿射变换下不变。我们的算法是真正的在线，不使用任何有关损失序列的初步信息。
2022-04-13 cs.IT cs.LG eess.SP
Prediction with expert evaluators' advice
我们引入了一个新的协议，预测与专家的意见，每个专家评估学习者和他自己的性能使用的损失函数，可能会随着时间的推移而改变，并可能是不同的损失函数使用的其他专家。学习者的目标是表现得比每个专家更好或不差很多，由该专家评估，同时为所有专家。如果专家使用的损失函数都是适当的评分规则和所有的混合，我们表明，防御性预测算法享有相同的性能保证，可达到的聚集算法在标准设置和已知是最佳的。这一结果也适用于“专家”（或“睡眠”）专家的情况。在这种情况下，防御性预测算法简化为聚合算法的简单修改。
2009-03-23 cs.LG
Supermartingales in Prediction with Expert Advice
Computer Learning Research Centre（计算机学习研究中心）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
我们应用防御性预测的方法，使用博弈论上鞅的基础上，预测专家的意见。在传统的专家数可数和结果数有限的情况下，防御性预测算法非常接近于著名的聚集算法。对于这两种本质上不同的方法，不仅性能保证是相同的，而且预测也是相同的。我们还讨论了一个新的设置，专家可以给学习者的未来决定的建议条件。这两种算法都可以适应新的设置，并提供与传统设置相同的性能保证。最后，我们概述了防御性预测的应用程序设置几个损失函数。
2010-03-10 cs.LG
Modifying Squint for Prediction with Expert Advice in a Changing Environment
Leiden University（莱顿大学）
我们提供了一种新的方法，在线学习，特别是预测与专家的意见，在不断变化的环境。在不变的环境中，Squint算法被设计为始终至少与其他已知算法一样好地起作用，并且在特定情况下，它的作用要好得多。然而，当使用传统的黑盒算法来使Squint适合不断变化的环境时，它失去了它的有益特性。因此，我们提供了一个新的算法，斜视CE，这是适合于不断变化的环境，并保持斜视的属性。
2022-09-14 cs.LG
Optimal discovery with probabilistic expert advice
Princeton University（普林斯顿大学）；Université of Liege（列日大学）；CNRS（法国国家科学研究中心）；Telecom ParisTech（巴黎高等电信学院）
我们考虑一个原始的问题，从电力系统的安全分析的问题，我们命名为最佳的发现与概率专家的意见。我们解决它与乐观的范式和良好的图灵失踪质量估计的基础上的算法。我们表明，这种策略一致达到最优的发现率在宏观极限意义下，在一些假设的概率专家。我们还提供了数值实验表明，这种最佳行为可能仍然保持在较弱的假设。
2011-10-25 cs.LG math.OC
Bandits with Abstention under Expert Advice
The Alan Turing Institute（阿兰·图灵研究所）；University of Milan（米兰大学）；CENTAI Institute（CENTAI研究所）；TU Wien（维也纳技术大学）；University College London（伦敦大学学院）
研究bandit反馈下带弃权（不执行）选项的专家建议预测问题，提出CBA算法，通过利用弃权动作无奖励无损失的特性，显著改进了Exp4和SpecialistExp等经典算法的奖励界，并实现了近线性运行时间的高效上下文实现。
2024-11-12 cs.LG stat.ML
On the asymptotic optimality of the comb strategy for prediction with expert advice
University of Michigan（密歇根大学）；Florida State University（佛罗里达州立大学）
对于具有几何停止的对抗环境中的专家建议预测问题，我们计算了值函数长时间行为的精确首阶展开。然后，我们使用这种扩展来证明，如Gravin等人所述。[12]，在4个专家的情况下，梳状策略确实是对手的渐近最优策略。
2020-03-19 cs.LG math.OC math.PR
On prediction from expert advice with more than five experts
University of Minnesota（明尼苏达大学）；Louisiana State University（路易斯安那州立大学）
本文证明在六位或更多专家的预测问题中，不存在单一全排序对手策略全局最优，通过首阶修正连接不同专家数量的最优策略，并利用五位专家问题的精确最优集结果。
2026-10-06 cs.GT cs.LG math.AP
Prediction with Expert Advice in Games with Unbounded One-Step Gains
Institute for Information Transmission Problems, Russian Academy of Sciences（俄罗斯科学院信息传输问题研究所）
本文考虑了专家建议下的预测博弈。本文对Kalai和Vempala跟踪扰动领导者的算法进行了一些改进，并给出了一步增益不受限制的情况。我们表明，在一般情况下，任何概率预测算法的累积增益可以比池中的一些专家的增益差得多。然而，我们给出了在一般情况下，这种累积增益的下限，并构造了一个通用的算法，具有最佳的性能;我们还证明了，在情况下，当一步的池中的专家的增益有“有限的偏差”，我们的算法的性能接近最好的专家的性能。
2008-06-26 cs.AI cs.LG
PDE approach to the problem of online prediction with expert advice: a construction of potential-based strategies
Southern Federal University（南联邦大学）
我们考虑一系列重复的预测游戏，并正式通过到极限。所得的非线性抛物型偏微分方程的上解在N的意义下与势函数密切相关。Cesa-Bianci，G. Lugosi（2003年）。任何这样的超解给出了一个上限预测的遗憾，并建议基于潜力的预测策略，满足Blackwell条件。一个传统的上限最坏情况下的遗憾是合理的一个简单的验证参数。
2017-05-02 cs.LG
Optimal Tracking in Prediction with Expert Advice
Bilkent University（比尔肯特大学）；Turkcell Teknoloji（土耳其电信技术公司）；DataBoss A.S.（DataBoss公司）
我们研究了专家建议设置的预测，其目的是通过组合一组专家产生的决策来产生决策，例如，独立运行的算法在专家建议设定的预测条件下，我们得到了最小-最大最优动态后悔，我们可以以最佳方式与专家决策的时变（不一定是固定的）组合竞争。我们的最终算法是真正在线的，没有先验信息，如时间范围或损失范围，这是常用的不同的算法在文献中。我们的遗憾保证和最小-最大下限都是在一般考虑到专家损失可能具有时变特性并且可能无界的情况下推导出来的。我们的算法可以适用于限制性的情况下，损失反馈和决策。我们的保证是普遍的，即，我们的最终算法可以提供对任何竞争者序列的最小-最大优化方式与对数复杂度的遗憾保证。请注意，据我们所知，对于专家建议问题的预测，我们的算法是第一个在没有先验知识的情况下产生这种普遍最优，自适应和真正在线保证的算法。
2022-08-07 cs.LG math.OC
Prediction with expert advice for the Brier game
Computer Learning Research Centre（计算机学习研究中心）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
我们证明了Brier预测博弈是可混合的，并找到了最优的学习率和替代函数，将所得的预测算法应用于足球和网球比赛结果的预测。理论上的性能保证在这些数据集上是相当严格的，特别是在更广泛的网球数据的情况下。
2008-06-27 cs.LG
Rethinking Log Odds: Linear Probability Modelling and Expert Advice in Interpretable Machine Learning
JP Morgan AI Research（摩根大通人工智能研究院）
我们引入了一系列可解释的机器学习模型，其中有两个广泛的补充：线性加性模型（LAM），它取代了通用加性模型（GAM）中无处不在的逻辑链接函数;和SubscaleHedge，一种专家建议算法，用于组合在称为子尺度的特征子集上训练的基础模型。LAMs可以增强任何配备有S形链接函数的加性二元分类模型。此外，他们提供了直接的全局和局部属性的加性成分的模型输出的概率空间。我们认为，LAMs和SubscaleHedge提高了其基础算法的可解释性。使用严格的零假设显著性测试的广泛套件的金融建模数据，我们表明，我们的算法不会遭受大的性能惩罚的ROC AUC和校准。
2022-11-11 cs.LG
Prediction with Expert Advice by Following the Perturbed Leader for General Weights
在将聚合策略应用于专家建议预测时，必须自适应地调整学习率。sqrt（复杂性/当前损失）的自然选择使得加权多数衍生工具的分析非常复杂。特别是，对于任意权重，迄今为止还没有证明结果。Kalai（2003）的备选“跟随扰动领导者”（FPL）算法（基于Hannan的算法）的分析更容易。我们得到的损失界自适应学习率和有限的专家类与统一的权重和可数的专家类与任意的权重。对于前一种设置，我们的损失界匹配到目前为止最好的已知结果，而对于后者，我们的结果是（据我们所知）新的。
2004-05-12 cs.AI cs.LG
XNAS: Neural Architecture Search with Expert Advice
Alibaba Group（阿里巴巴集团）
提出了一种基于专家建议预测理论的差分神经网络结构优化方法。它的优化准则很好地适合于结构选择，即，它最小化了由操作的次优选择引起的遗憾。与以前的搜索松弛，需要硬修剪的架构，我们的方法的目的是动态地消灭劣质架构，提高优越的。它实现了一个最佳的最坏情况下的遗憾界，并建议使用多个学习率的基础上，所携带的信息量的后向梯度。实验表明，我们的算法在多个图像分类数据集上取得了很好的性能。具体来说，它在移动设置下获得了CIFAR-10的1.6%的出错率，ImageNet的24%，并在另外三个数据集上获得了最先进的结果。
2019-06-19 cs.CV cs.LG math.OC
New Potential-Based Bounds for Prediction with Expert Advice
Center for Data Science, New York University（纽约大学数据科学中心）；Courant Institute of Mathematical Sciences, New York University（纽约大学科朗数学科学研究所）
这项工作解决了经典的机器学习问题的在线预测专家的意见。我们考虑这个零和二人博弈的有限视界版本。使用验证参数从最优控制理论，我们认为找到更好的下限和上限的游戏（后悔）的价值的问题，找到更好的子和上解的某些偏微分方程（PDE）的任务。这些子解和上解作为参与者和对手策略的势，导致相应的界限。为了得到明确的界限，我们使用特定偏微分方程的封闭形式的解决方案。我们的界限适用于任何给定数量的专家和视野;在某些制度（我们确定），他们改善了以前的艺术状态。对于两个和三个专家，我们的界限提供了最佳的领先秩序项。
2020-06-29 cs.GT cs.LG math.AP
Combining Expert Advice Efficiently
Centrum voor Wiskunde en Informatica (CWI)（荷兰国家数学与计算机科学研究院（CWI））
我们展示了如何使用隐马尔可夫模型（HMM）简明清晰地定义专家建议的预测模型;然后可以使用标准HMM算法来有效地计算，除其他外，专家预测应如何根据模型进行加权。我们将许多现有的模型转换为Hacker，并在每种情况下恢复最知名的运行时间。我们还描述了两个新的模型：开关分布，这是最近开发的，以提高贝叶斯/最小描述长度模型选择，和一个新的概括的固定份额算法的基础上运行长度编码。我们给出了所有模型的损失界限，并对它们之间的关系进行了新的阐述。
2008-02-15 cs.DS cs.IT cs.LG
An Optimal Algorithm for Linear Bandits
我们提供了第一个算法的在线强盗线性优化，T轮后的遗憾是为了sqrt{Td ln N}的任何有限类X的N个行动在d维，和顺序d*sqrt{T}（直到日志因子）时，X是无限的。这些界限一般是不可改进的。其基本思想是利用凸几何的工具来构造基本上是最优的勘探基础。我们还根据专家建议提出了线性强盗模型的应用。有趣的是，这些结果表明，在d维中，专家建议的强盗线性优化并不比专家建议的在线d臂强盗问题（其中EXP 4是最优的）更困难（就可实现的遗憾而言）。
2012-02-14 cs.LG stat.ML
New Potential-Based Bounds for the Geometric-Stopping Version of Prediction with Expert Advice
Center for Data Science, New York University（纽约大学数据科学中心）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
这项工作解决了经典的机器学习问题的在线预测专家的意见。一个新的潜在的框架固定的地平线版本的这个问题最近已经开发出使用验证参数从最优控制理论。本文扩展了这个框架的随机（几何）停止的版本。为了获得明确的界限，我们构造潜在的几何版本用于固定的地平线版本的问题。这种结构导致新的明确的下限和上限与特定的对手和球员的策略。虽然有几个已知的下限在固定的地平线设置，我们的下限似乎是第一个这样的结果在几何停止设置与任意数量的专家。在某些情况下，我们的框架还导致改进的上界。对于两个和三个专家，我们的界限是最优的领导秩序。
2020-06-29 cs.GT cs.LG math.AP
Operational thermal load forecasting in district heating networks using machine learning and expert advice
VITO（弗拉芒技术研究院）；EnergyVille（能源城）；NODA（NODA公司）
预测热负荷是控制区域供热和供冷系统的大多数优化解决方案的关键组成部分。最近的研究分析了一些数据驱动的方法应用于热负荷预测的结果，本文提出的结果相结合的收集这些个人的方法在一个专家系统。专家系统将以一种总是跟踪系统中最佳专家的方式组合多个热负荷预测。该解决方案的测试和验证，使用27个月的热负荷数据集，从位于瑞典Rottne的10栋住宅楼，以及从天气预报服务收到的室外温度信息。该专家系统由以下数据驱动方法组成：线性回归、极端随机树回归、前馈神经网络和支持向量机。所提出的解决方案的结果进行比较的结果的个别方法。
2017-10-17 cs.LG
Dynamic Ensemble Active Learning: A Non-Stationary Bandit with Expert Advice
University of Edinburgh（爱丁堡大学）；University College London（伦敦大学学院）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
主动学习旨在通过预测哪些样本对人类教师标记有用来降低注释成本。然而，很明显，不存在最佳的主动学习算法。受各种关于什么是好的标准的哲学的启发，不同的算法在不同的数据集上表现良好。这促使人们研究主动学习者的集合，这些学习者通常通过多臂强盗算法来学习在给定场景中构成良好标准的内容。虽然算法集成可以带来更好的结果，但它们忽略了一个事实，即算法效率不仅在数据集之间存在差异，而且在单个主动学习会话期间也存在差异。也就是说，最好的标准是非平稳的。这打破了现有算法的保证，并阻碍了它们在实践中的性能。在本文中，我们提出动态集成主动学习作为一个更普遍和有前途的研究方向。我们开发了一个动态集成主动学习器的基础上，非平稳的多臂强盗专家建议算法。我们的动态集成在主动学习的每一步都选择正确的标准。它有理论上的保证，并在$13$流行的数据集上显示出令人鼓舞的结果。
2018-09-29 cs.AI cs.LG stat.ML
On preserving non-discrimination when combining expert advice
Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；Cornell University（康奈尔大学）
我们研究了顺序决策和避免歧视受保护群体之间的相互作用，当例子到达网上，不遵循分布假设。我们考虑经典在线学习的最基本的扩展：“给定一类预测器，这些预测器对于特定的度量是单独非歧视性的，我们如何将它们组合起来以在保持非歧视性的同时表现得与最佳预测器一样好？“令人惊讶的是，我们表明，这项任务是无法实现的流行概念的“均衡的赔率”，需要平等的假阴性率和平等的假阳性率跨组。在积极的一面，另一个概念的非歧视，“均衡的出错率“，我们表明，运行单独的实例的经典乘法权重算法为每个组实现这一保证。有趣的是，即使对于这个概念，我们表明，具有更强的性能保证比乘法权重的算法不能保持非歧视性。
2019-03-29 cs.DS cs.LG stat.ML
The Value of AI Advice: Personalized and Value-Maximizing AI Advisors Are Necessary to Reliably Benefit Experts and Organizations
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Yale University（耶鲁大学）
本文强调AI顾问需个性化、价值最大化并选择性建议，以可靠提升专家和组织决策价值，避免削弱专家表现。
2025-10-14 cs.HC cs.LG
Budgeted Online Active Learning with Expert Advice and Episodic Priors
Oregon State University（俄勒冈州立大学）；Washington State University（华盛顿州立大学）
本文针对标签预算极少的有限时域数据流，提出一种同时利用专家预测器和情景行为先验的预算在线主动学习方法，并在农业模拟与真实葡萄数据上验证其显著优于现有基线。
2025-06-03 cs.LG
Prediction of Locally Stationary Data Using Expert Advice
Institute for Information Transmission Problems（信息传输问题研究所）；Russian Academy of Sciences（俄罗斯科学院）
本文在博弈论框架下研究连续机器学习，提出一种仅依赖结构性假设的局部平稳时间序列在线预测算法，并给出其效率估计。
2023-10-30 cs.AI cs.LG
Prediction with Expert Advice: a PDE Perspective
University of Minnesota（明尼苏达大学）；Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所）
这项工作解决了一个经典的问题，在线预测专家的意见。我们假设一个敌对的对手，我们考虑有限的地平线和随机停止版本的零和，两人对策。针对一个适当的连续极限，利用最优控制的方法，将博弈的价值刻画为某个非线性偏微分方程的黏性解.分析还揭示了预测者和对手的最小最大最优策略。特别是，我们的工作提供了对Gravin，Peres和Sivan最近工作的连续统一观点（Proc SODA 2016）。我们的技术类似于Kohn和Serfaty（Comm Pure Appl Math 2010）的技术，其中一些两人对策的缩放限制导致椭圆或抛物偏微分方程。
2019-04-25 cs.GT cs.LG math.AP
A Novel Experts Advice Aggregation Framework Using Deep Reinforcement Learning for Portfolio Management
Sharif University of Technology（谢里夫理工大学）
使用深度强化学习解决投资组合管理问题在金融界引起了广泛的关注。我们提出了一种新方法，使用专家信号和历史价格数据来输入我们的强化学习框架。虽然专家信号已经在金融领域的以前的工作中使用过，但据我们所知，这是第一次将这种方法与深度RL结合起来用于解决金融投资组合管理问题。我们提出的框架由一个用于聚合信号的卷积网络、另一个用于历史价格数据的卷积网络和一个普通网络组成。我们使用邻近策略优化算法作为代理来处理奖励并在环境中采取行动。结果表明，平均而言，我们的框架可以获得最好的专家所获得的利润的90%。
2022-12-29 cs.LG q-fin.CP q-fin.PM
