Online Irregular Multivariate Time Series Forecasting via Uncertainty-Driven Dual-Expert Calibration
Key Laboratory of Big Data \& Artificial Intelligence in Transportation (Beijing Jiaotong University), Ministry of Education School of Computer Science；Technology, Beijing Jiaotong University Beijing China；School of Computer Science；Tangshan Research Institute, Beijing Jiaotong University Tangshan China；Key Laboratory of Big Data \& Artificial Intelligence in Transportation (Beijing Jiaotong University), Ministry of Education；Technology, Beijing Jiaotong University；Tangshan Research Institute, Beijing Jiaotong University
针对在线不规则多变量时间序列预测中数据分布动态变化导致性能下降的问题，提出不确定性驱动的双专家校准框架Under-Cali，通过不确定性估计、双专家校准和自适应路由模块实现稳定高效的在线学习。
2026-05-27 cs.AI cs.LG
Online Learning with Automata-based Expert Sequences
Courant Institute（库朗研究所）；Google Research（谷歌研究院）
我们认为一个一般的框架在线学习与专家的意见，遗憾的定义相对于序列的专家接受了加权自动机。我们的框架涵盖了以前研究的几个问题，包括与K-移位专家的竞争。我们给出了一系列的算法，这个问题，包括一个自动机为基础的算法扩展加权多数和更有效的算法的基础上的概念，故障转移。我们进一步提出了有效的算法的竞争对手自动机的近似的基础上，特别是通过最小化的\infty -雷尼分歧得到的n元模型，并提出了广泛的研究这种模型的近似特性。最后，我们还将我们的算法和结果扩展到睡眠专家的框架。
2017-10-22 cs.LG
AQuA -- Combining Experts' and Non-Experts' Views To Assess Deliberation Quality in Online Discussions Using LLMs
Heinrich Heine University Düsseldorf（杜塞尔多夫海因里希·海涅大学）；Technical University Ilmenau（伊尔默瑙工业大学）；Johannes Gutenberg University Mainz（美因茨约翰内斯·古腾堡大学）；Technical University Dortmund（多特蒙德工业大学）
本研究提出加性商议质量评分AQuA，结合20项商议指数的适配器模型与专家、非专家标注的相关系数加权计算统一评分，兼具透明度与跨数据集一致性，印证了社会科学相关理论。
2024-04-17 cs.AI cs.CL cs.LG
To Defer or Not to Defer? Online Learning with LLMs and Congested Experts
KTH Royal Institute of Technology（瑞典皇家理工学院）
该研究针对结合LLM与拥塞专家的在线决策问题，提出KL-PBD算法，通过Kullback-Leibler下置信界指导延迟决策，在合成与真实问答数据集上验证了其最优遗憾性能。
2026-10-14 cs.AI cs.LG
Online Learning with Many Experts
Technion—Israel Institute of Technology（以色列理工学院）
我们研究的问题，预测与专家的意见时，专家的数量可能是非常大的问题，甚至是无限的。我们设计了一个算法，获得了紧遗憾界的$\widetilde{O}(εT + N + \sqrt{NT})$，其中$N$是经验$ε$覆盖数的序列的损失函数的环境。此外，我们提出了一个对冲程序，使我们能够找到最佳的$ε$在事后。最后，我们讨论了我们的算法的一些有趣的应用。我们展示了我们的算法如何适用于Hazan et al.（2016）的近似低秩专家模型，并讨论了具有有界变化的专家的情况，其中在统计和在线设置中获得的遗憾界限之间存在令人惊讶的巨大差距。
2017-02-25 cs.LG
Online Aggregation of Probability Forecasts with Confidence
本文介绍了专家建议预报（PEA）的数值试验和一些理论发展。一个实验涉及根据温度预测电力消耗，并使用真实数据。由于依赖的模式可以随着季节和一天中的时间而变化，该领域自然允许PEA与具有不同“专业领域”的专家一起制定。我们考虑的情况下，几个竞争的方法产生在线预测的概率分布函数的形式。概率预测和结果之间的差异由损失函数（评分规则）来衡量。连续结果的评分规则的一个流行示例是连续排序概率评分（CRPS）。在本文中，结合概率预测的问题被认为是在PEA框架。证明了CRPS是一个可混合的损失函数，并给出了以CRPS为损失函数的Vovk聚集算法的后悔时间上界.此外，我们将一个“平滑”的版本的专门专家的方法在这个计划中，使我们能够结合概率预测的专业专家重叠域的能力。
2021-09-29 cs.AI cs.LG
Thompson Sampling for Online Learning with Linear Experts
Technion（以色列理工学院）
在这篇文章中，我们提出了一个版本的汤普森采样算法的问题，在线线性推广与充分的信息（即，Kalai和Vempala在2005年进行了研究。该算法使用高斯先验和随时间变化的高斯似然，我们表明，它基本上减少到Kalai和Vempala的跟随扰动领导者的策略，用高斯噪声代替指数分布的噪声。这意味着对于具有完整信息的在线学习，Thompson采样（具有时变似然）的sqrt（T）遗憾界限。
2013-11-03 cs.LG stat.ML
Online Covering with Multiple Experts
LIG, University Grenoble-Alpes（格勒诺布尔-阿尔卑斯大学LIG实验室）
本文提出多专家在线覆盖算法，引入动态基准，实现O(log K)竞争比，并提供了在线组合多个算法的全新视角。
2023-12-22 cs.DM cs.DS cs.LG
Adaptive Online Prediction by Following the Perturbed Leader
在将聚合策略应用于专家建议预测时，必须自适应地调整学习率。sqrt（复杂性/当前损失）的自然选择使得加权多数衍生工具的分析非常复杂。特别是，对于任意权重，迄今为止还没有证明结果。Kalai & Vempala（2003）的“Follow the Perturbed Leader”（FPL）算法（基于Hannan的算法）的分析更容易。我们得到的损失界自适应学习率和有限的专家类与统一的权重和可数的专家类与任意的权重。对于前一种设置，我们的损失界匹配到目前为止最知名的结果，而对于后者，我们的结果是新的。
2005-04-16 cs.AI cs.LG
Online Learning with Low Rank Experts
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）；Technion—Israel Institute of Technology（以色列理工学院）；The Hebrew University of Jerusalem（希伯来大学）；Tel Aviv University（特拉维夫大学）
我们考虑专家意见的预测问题时，专家的损失有低维结构：他们被限制到一个未知的$d$维子空间。我们设计的算法与遗憾界是独立的专家的数量，只依赖于排名$d$。对于随机模型，我们证明了$Θ(\sqrt{dT})$的一个紧界，并将其推广到一个近似$d$子空间的情形。对于对抗模型，我们给出了$O(d\sqrt{T})$的上界和$Ω(\sqrt{dT})$的下界。
2016-05-23 cs.LG
FreeBalance: Pre-Routing Online Moe Load Balancing via Residual Workload Prediction
FreeBalance 是一种 MoE 模型在线负载均衡框架，通过残差 workload 预测实现专家迁移与预路由计算重叠，降低负载失衡与推理延迟，提升分布式推理效率。
2026-08-17 cs.AI cs.LG
Orchestrate Latent Expertise: Advancing Online Continual Learning with Multi-Level Supervision and Reverse Self-Distillation
Tsinghua University（清华大学）
针对在线持续学习中回放缓冲区导致的过拟合与欠拟合困境，提出多级在线顺序专家MOSE，通过多级监督与逆向自蒸馏提升新样本学习与旧知识保留能力。
2024-03-30 cs.AI cs.CV cs.LG
Adaptive Bayesian Online Learning via Expert Aggregation
Inha University（仁荷大学）
研究如何改进贝叶斯在线学习，将其更新规则视为专家，按顺序预测损失聚合专家。通过在线共形推理和高斯过程回归实例化框架，得到平滑贝叶斯对应物及神谕不等式，实验显示聚合能跟踪强大专家且无需神谕专家选择。
2026-07-23 cs.LG stat.ML
Learning from B Cell Evolution: Adaptive Multi-Expert Diffusion for Antibody Design via Online Optimization
受B细胞亲和力成熟启发，本文提出一种基于在线元学习的自适应多专家扩散框架，通过物理知识引导的迭代优化为每个抗原个性化生成抗体，无需预训练即可提升界面质量与泛化能力。
2025-08-15 cs.AI cs.LG
Online Adaptation for Enhancing Imitation Learning Policies
School of Computing University of Eastern Finland Joensuu, Finland
本文提出在线自适应方法，将预训练模仿学习策略的动作提议与专家经验相结合，以在基础策略失败时恢复并提升智能体性能。
2024-06-07 cs.AI cs.LG
Budgeted Online Active Learning with Expert Advice and Episodic Priors
Oregon State University（俄勒冈州立大学）；Washington State University（华盛顿州立大学）
本文针对标签预算极少的有限时域数据流，提出一种同时利用专家预测器和情景行为先验的预算在线主动学习方法，并在农业模拟与真实葡萄数据上验证其显著优于现有基线。
2025-06-03 cs.LG
HOBA: Hierarchical On-Policy Bidding Agents for Adaptive Online Advertising
Kuaishou Technology（快手科技）
针对在线广告投标系统问题，提出 HOBA 分层强化学习框架，在三个时间尺度解耦相关环节，通过实验验证其优于现有基线，大规模在线部署实现目标成本提升 3.6%，证明该范式有效。
2026-07-29 cs.AI cs.LG
PDE approach to the problem of online prediction with expert advice: a construction of potential-based strategies
Southern Federal University（南联邦大学）
我们考虑一系列重复的预测游戏，并正式通过到极限。所得的非线性抛物型偏微分方程的上解在N的意义下与势函数密切相关。Cesa-Bianci，G. Lugosi（2003年）。任何这样的超解给出了一个上限预测的遗憾，并建议基于潜力的预测策略，满足Blackwell条件。一个传统的上限最坏情况下的遗憾是合理的一个简单的验证参数。
2017-05-02 cs.LG
Online Learning with an Almost Perfect Expert
Purdue University（普渡大学）；Microsoft Research（微软研究院）
我们研究了多类在线学习问题，其中预测者使用$n$专家的建议进行一系列预测。我们的主要贡献是分析的制度，最好的专家，使最$b$错误，并表明，当$b = o(\log_4{n})$，最佳的预测者所犯的错误的预期数量是最多$\log_4{n} + o(\log_4{n})$。我们还描述了一个对手的战略表明，这个界是紧的，最坏的情况下达到二进制预测。
2018-09-27 cs.DS cs.GT cs.LG
$k\texttt{-experts}$ -- Online Policies and Fundamental Limits
Indian Institute of Technology (ISM) Dhanbad（印度理工学院（印度矿业学院）丹巴德）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
我们介绍了$\texttt{$ k $-experts}$问题-一个推广的经典预测专家的建议框架。与经典版本不同，在经典版本中，学习者在每轮从$N$专家池中选择一个专家，在这个问题中，学习者可以在每轮$(1\leq k\leq N)$中选择$k$专家的子集。假设学习者在每轮获得的奖励是$k$选择的专家的函数。主要目标是设计一个在线学习政策与一个小遗憾。在这种追求中，我们提出了$\texttt{SAGE}$（$\textbf{Sa}$ mpled Hed $\textbf{ge}$）-一个框架，设计有效的在线学习政策，利用统计抽样技术。对于广泛的一类奖励函数，我们表明，$\texttt{SAGE}$要么实现了第一次次线性后悔保证或改善现有的。此外，超越遗憾的概念，我们充分表征的错误界限可实现的稳定损失函数的在线学习政策。最后，我们通过建立一个严格的遗憾下限的一个变种的$\texttt{$ K $-experts}$问题，并进行实验与标准数据集的文件。
2022-02-17 cs.IT cs.LG math.IT
Near Optimal Memory-Regret Tradeoff for Online Learning
Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
在专家问题中，在$T$的每一天，代理需要遵循$n$“专家”之一的建议。每过一天，每个专家的建议都会带来损失。学习理论的一个基本结果是，智能体可以实现后悔消失，也就是说，他们的累积损失在事后诸葛亮专家的累积损失的$o(T)$范围内。如果没有足够的空间来记住所有的专家，智能体能否表现良好？我们在两个方向上扩展了对这个问题的一个新的研究路线：$\bullet$我们给出了一个新的算法，对不经意的对手，改进了[PZ 23]获得的内存后悔权衡，几乎匹配的下限[SWXZ 22]。$\bullet$我们还考虑了一个自适应对手谁可以观察过去的专家选择的代理。在这种情况下，我们给出了一个新的算法和一个新的下限，证明了大致$\sqrt{n}$内存是必要的和足够的$o(T)$遗憾。
2023-03-09 cs.AI cs.DS cs.LG
Dynamic Multi-period Experts for Online Time Series Forecasting
Pohang University of Science and Technology（浦项科学技术大学）；Kyungpook National University（庆北国立大学）
DynaME通过动态多时期专家框架有效应对时间序列预测中的重复和新兴漂移，显著优于现有方法。
2026-03-10 cs.LG
Trading-Off Payments and Accuracy in Online Classification with Paid Stochastic Experts
University of Amsterdam（阿姆斯特丹大学）；Imperial College London（帝国理工学院）；Università degli Studi di Milano（米兰大学）；Politecnico di Milano（米兰理工大学）
研究带有付费随机专家的在线分类问题，提出结合Lipschitz bandits与替代损失的在线学习算法，通过优化支付控制预测准确率，将总成本遗憾界降至$\mathcal{O}(K^2(\log T)\sqrt{T})$并在合成数据上验证有效。
2023-07-03 cs.LG stat.ML
Kalman Recursions Aggregated Online
Sorbonne Université（索邦大学）；EDF Lab（法国电力实验室）
在这篇文章中，我们的目标是通过使用提供专家预测的模型的基本属性来改进专家聚集的预测。我们限制自己的情况下，专家预测来自卡尔曼递归，拟合状态空间模型。通过使用指数权重，我们构建了不同的卡尔曼递归在线聚合（KAO）算法，这些算法以或多或少的自适应方式与最佳专家或最佳专家凸组合竞争。利用卡尔曼递推的二阶性质，改进了专家集结文献中专家为卡尔曼递推时的已有结果。我们将我们的方法应用于卡尔曼递归，并通过对专家的错误进行状态空间建模，将其扩展到一般的对抗性专家设置。我们将这些新算法应用于一个真实的电力消耗数据集，并展示了与其他指数加权平均程序相比，它如何提高预测性能。
2020-02-26 cs.LG stat.ME stat.ML
EANet: Expert Attention Network for Online Trajectory Prediction
North China Electric Power University（华北电力大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
针对自动驾驶轨迹预测中场景突变时模型更新慢、梯度异常的问题，提出基于Hedge Propagation的在线学习框架EANet，通过专家注意力调整网络层权重并引入短期运动趋势核函数，实现快速响应与高精度预测。
2023-09-11 cs.AI cs.LG cs.RO
Competing with Gaussian linear experts
Computer Learning Research Centre（计算机学习研究中心）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
我们研究了在线回归问题。我们证明了岭回归平方损失的理论界。我们不对输入向量或结果做任何假设。我们还表明，贝叶斯岭回归可以被认为是一个在线算法与所有的高斯线性专家竞争。
2010-05-10 cs.LG
Expert-Free Online Transfer Learning in Multi-Agent Reinforcement Learning
Trinity College Dublin（都柏林圣三一学院）
本文提出无专家在线迁移学习算法EF-OnTL及不确定性估计扩展sars-RND，在多智能体系统中动态选择迁移源，无需专家或外部输入即可实现优于无迁移的性能。
2023-07-28 cs.AI cs.LG cs.MA
Efficiently Aligning Language Models with Online Natural Language Feedback
提出使用在线自然语言反馈替代可验证奖励，通过迭代优化代理奖励模型并在过优化点收集专家监督，在模糊领域高效对齐语言模型，实验表明可大幅提升专家监督的数据效率。
2026-06-02 cs.AI cs.LG
A Generalized Online Algorithm for Translation and Scale Invariant Prediction with Expert Advice
在这项工作中，我们的目标是创建一个完全在线的算法框架，用于预测专家的建议，这是无预警和无尺度的专家损失。我们的目标是创建一个通用的算法，适用于各种各样的应用程序。为了这个目的，我们研究了我们的算法对一个通用的竞争类在顺序预测专家咨询问题的预期遗憾，其中预期遗憾的措施之间的差异，我们的预测算法的损失和损失的“最好的”专家选择策略的竞争。我们设计我们的算法使用的普遍预测的角度来竞争对一个指定的类的专家选择策略，这不一定是一个固定的专家选择。类的专家选择策略，我们要竞争，纯粹是由手头的具体应用程序，是左通用，这使得我们的广义算法适用于许多不同的问题。我们表明，我们的算法和它的性能界限，这是二阶，表示在平方损失的总和方面的损失序列是不需要的初步知识。我们的后悔界限在任意缩放和转换损失时是稳定的。
2020-09-09 cs.LG stat.ML
Bridging Imitation and Online Reinforcement Learning: An Optimistic Tale
Google Deepmind（谷歌DeepMind）；University of Southern California（南加州大学）
针对不完美专家离线演示如何引导 MDP 在线学习的问题，提出 iPSRL 分析算法及可计算的 iRLSVI，将 RLSVI 与模仿学习结合，并显著降低贝叶斯遗憾。
2023-07-16 cs.AI cs.LG
Dynamic Adaptive Shared Experts with Grouped Multi-Head Attention Mixture of Experts
KunLun Meta（昆仑元）
本文提出DASG-MoE混合模型，通过整合分组多头注意力、双尺度共享专家和分层自适应动态路由三大模块，有效提升了长序列建模的计算效率与长距离依赖捕获能力，并在多个基准数据集上超越现有先进模型。
2025-09-05 cs.AI cs.LG
Hybrid Reinforcement Learning with Expert State Sequences
IBM Research AI（IBM研究院人工智能部门）
现有的模仿学习方法通常需要完整的演示数据，包括动作序列和状态，是可用的。在本文中，我们考虑一个更现实和困难的情况下，强化学习代理只能访问的状态序列的专家，而专家的行动是不可观察的。我们提出了一种新的基于张量的模型来推断未观察到的专家状态序列的行动。然后通过结合强化学习和模仿学习的混合目标优化代理的策略。我们评估了我们的混合方法的说明域和雅达利游戏。实证结果表明，（1）智能体能够利用状态专家序列比纯强化学习基线学习得更快，（2）与标准深度神经网络相比，我们的基于张量的动作推理模型在推理专家动作方面具有优势，（3）混合策略优化目标对专家状态序列中的噪声具有鲁棒性。
2019-03-11 cs.AI cs.LG stat.ML
Minimal Ingredients for Reward Assignment from Expert Demonstrations
New York University（纽约大学）；New York University Abu Dhabi（纽约大学阿布扎赫尔分校）；Shanghai Frontiers Science Center of Artificial Intelligence and Deep Learning, NYU Shanghai（上海前沿科学中心（人工智能与深度学习））
该研究探究从专家演示分配奖励的最小结构，通过32个基准测试和三种下游RL算法，发现离线场景仅需接近度，在线或多演示时需轻量级时间对应，倡导奖励设计的算法极简主义。
2026-08-10 cs.AI cs.LG
Online Learning with Uncertain Feedback Graphs
University of California, Irvine（加州大学欧文分校）
通过专家建议进行的在线学习广泛用于各种机器学习任务。它考虑的问题是，学习者从一组专家中选择一个来接受建议并做出决定。在许多学习问题中，专家可能是相关的，因此学习者可以观察到与所选专家相关的专家子集相关的损失。在这种情况下，专家之间的关系可以通过反馈图来捕获，该反馈图可以用于帮助学习者做出决策。然而，在实践中，名义反馈图往往带有不确定性，这使得它不可能揭示专家之间的实际关系。为了应对这一挑战，目前的工作研究各种情况下的潜在不确定性，并开发新的在线学习算法来处理不确定性，同时利用不确定反馈图。在较弱的条件下证明了所提算法具有次线性后悔性。在真实数据集上的实验证明了新算法的有效性。
2021-06-15 cs.LG stat.ML
Cascading Randomized Weighted Majority: A New Online Ensemble Learning Algorithm
Sharif University of Technology（谢里夫理工大学）；Ohio State University（俄亥俄州立大学）
随着世界上数据量的增加，从这些数据中学习的最佳方法是利用在线学习算法。在线集成方法是利用分类器的集成来预测数据标签的在线算法。专家建议的预测是在线集成学习文献中研究得很好的问题。加权多数算法和随机加权多数（RWM）是最知名的解决方案，这个问题，旨在收敛到最好的专家。由于在某些专家中，最好的专家不一定在数据空间的所有区域中具有最小误差，因此定义特定区域并收敛到每个区域中的最佳专家将导致更好的结果。本文针对RWM算法的这一缺陷，提出了一种新颖的在线集成算法来解决专家建议预测问题。我们提出了一个级联版本的RWM，以实现不仅更好的实验结果，但也有足够大的数据集更好的误差界。
2015-02-02 cs.LG stat.ML
Asymptotically optimal strategies for online prediction with history-dependent experts
University of Minnesota（明尼苏达大学）
针对专家依赖历史的在线预测问题，建立了精确的渐近最优策略。预测问题（部分）在称为$d$维de Bruijn图的离散图上进行，其中$d$是专家使用的历史天数。以前的工作[11]为$n=2$专家和$d\leq 4$历史日建立了$O(\varepsilon)$最优策略，而[10]为所有$n\geq 2$和所有$d\geq 1$建立了$O(\varepsilon^{1/3})$最优策略，其中游戏针对$N$步骤和$\varepsilon=N^{-1/2}$进行。本文证明了de Bruijn图上的最优性条件对应于一个图Poisson方程，并对$n$和$d$的所有值建立了$O(\varepsilon)$最优策略.
2020-08-31 cs.GT cs.LG math.AP
Online Aggregation of Unbounded Losses Using Shifting Experts with Confidence
Institute for Information Transmission Problems, Moscow（莫斯科信息传输问题研究所）
我们开发的设置顺序预测的基础上转移的专家和专业专家的方法的“平滑”版本。为了聚合专家预测，我们使用AdaHedge算法，这是具有自适应学习率的Hedge算法的一个版本，并通过元算法Fixed Share对其进行扩展。基于此，我们结合了两种算法的优点：（1）利用了算法的最优特性--转移后悔;（2）在专家损失有符号无界的情况下，后悔界是有效的。此外，（3）我们在这个计划中纳入了一个“平滑”版本的专业专家的方法，使我们能够做出更灵活和准确的预测。所有结果都是在对抗性环境中获得的-没有对数据源的性质进行假设。我们提出了短期预测的电力消费的实际数据的基础上的数值实验结果。
2020-01-23 cs.LG stat.ML
Online Learning-to-Defer with Varying Experts
School of Computing, National University of Singapore（新加坡国立大学计算机学院）；Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse, France（法国图卢兹大学ENAC ISAE-SUPAERO ONERA联合体）；Institute for Infocomm Research, A*STAR , Singapore（新加坡A*STAR信息通信研究所）；IPAL, IRL 2955, Singapore（新加坡IPAL实验室）；Department of Mathematics, National University of Singapore（新加坡国立大学数学系）
针对动态专家池和流式数据，提出首个在线学习延迟决策算法，利用H-一致性界和在线凸优化实现遗憾界保证。
2026-08-31 cs.LG stat.ML
Online Learning in Case of Unbounded Losses Using the Follow Perturbed Leader Algorithm
Institute for Information Transmission Problems, Russian Academy of Sciences（俄罗斯科学院信息传输问题研究所）
本文考虑了在专家意见下的序贯预测问题，其中专家在每一步所遭受的损失不能预先有界。我们提出了一些修改的Kalai和Vempala算法的扰动领导人的权重取决于过去的损失的专家。引入了游戏的体积和尺度波动的新概念。我们提出了一个概率算法保护不受限制的大一步损失。该算法在专家池中专家一步损失的尺度波动趋于零的情况下具有最优性能。
2010-08-25 cs.LG
Evidence-Aligned Local Composition of Discrete Experts for Sequence Restoration
Tufts University（塔夫茨大学）；Boston College（波士顿学院）
提出证据对齐的局部专家组合方法，通过去噪损失推断逐位置软权重，在无标签和路由器下恢复混合文档，字段准确率达0.85-0.98。
2026-09-14 cs.AI cs.LG
Towards Reducing Biases in Combining Multiple Experts Online
MIT（麻省理工学院）；Univ. Rey Juan Carlos（胡安卡洛斯国王大学）
在许多现实生活中，包括工作和贷款申请，看门人必须对一个人是否适合某个特定的机会做出合理和公平的实时决定。在本文中，我们的目标是在一个在线随机决策过程中实现近似的群体公平性，我们考虑的公平性度量是均衡的赔率。我们的工作遵循经典的从专家学习方案，假设一组有限的分类器（人类专家，规则，选项等），不能修改。我们为每个标签类别以及敏感组运行算法的单独实例，其中选择每个实例的概率针对公平性和遗憾性进行了优化。我们的理论结果表明，近似相等的赔率可以实现，而不会牺牲太多的遗憾。我们还证明了该算法的性能通常使用的公平性社区的真实数据集。
2021-05-24 cs.LG stat.ML
Malicious Experts versus the multiplicative weights algorithm in online prediction
Department of Mathematics, University of Michigan（密歇根大学数学系）；Department of Electrical Engineering, Princeton University（普林斯顿大学电气工程系）
我们考虑两个专家和一个预报员的预测问题。我们假设其中一个专家是诚实的，并且在每一轮中以$μ$的概率做出正确的预测。另一个是恶意的，他知道每一轮的真实结果，并做出预测，以最大限度地增加预测者的损失。假设预测者采用经典的乘性权重算法，我们找到了恶意专家的价值函数的上界和下界。我们的研究结果表明，乘法权重算法不能抵抗恶意专家的腐败。我们还表明，自适应乘法权重算法是渐近最优的预测，因此更能抵抗恶意专家的腐败。
2020-03-18 cs.LG math.OC math.PR
Online Deep Learning for Improved Trajectory Tracking of Unmanned Aerial Vehicles Using Expert Knowledge
Nanyang Technological University（南洋理工大学）；Aarhus University（奥胡斯大学）
本工作提出了一种基于在线学习的控制方法，用于同时使用深度学习和专家知识来改进无人机的轨迹跟踪。所提出的方法不需要精确的系统模型进行控制，它是对系统动态变化以及操作的不确定性鲁棒性。学习分为两个阶段：离线（前）培训和在线（后）培训。在前者中，常规控制器执行一组轨迹，并且基于输入-输出数据集，训练基于深度神经网络（DNN）的控制器。在后者中，模仿传统控制器的经过训练的DNN控制系统。与文献中现有的论文不同，该网络仍在针对DNN训练阶段未使用的不同轨迹集进行训练。由于规则库，其中包含的专家知识，所提出的框架学习系统动态和操作的不确定性实时。实验结果表明，所提出的在线学习为基础的方法提供了更好的轨迹跟踪性能相比，只有离线训练的网络。
2019-05-26 cs.LG cs.RO
Adaptive Selective Sampling for Online Prediction with Experts
Eindhoven University of Technology（埃因霍温理工大学）；Eindhoven Artificial Intelligence Systems Institute (EAISI)（埃因霍温人工智能系统研究所（EAISI））；University College London（伦敦大学学院）；University of Amsterdam（阿姆斯特丹大学）
本文研究专家建议下的二进制序列在线预测问题，提出基于指数加权预测器的标签高效选择性采样算法，在减少标签收集的同时保持最优最坏情况遗憾，并证明其标签复杂度与轮数平方根成正比，且能渐近匹配主动学习的极小极大速率。
2023-10-20 cs.LG stat.ML
Policy Gradient Search: Online Planning and Expert Iteration without Search Trees
DeepMind（深度思考）；OpenAI；University of California, Berkeley（加州大学伯克利分校）；Google Brain（谷歌大脑）
蒙特卡罗树搜索（MCTS）算法执行基于模拟的搜索以在线改进策略。在搜索过程中，模拟策略被调整以探索最有希望的路线。MCTS已经被最先进的程序用于解决许多问题，但是MCTS的缺点是它使用存储在搜索树中的Monte Carlo平均值来估计状态的值;这不能扩展到具有非常高分支因子的游戏。我们提出了一种替代的基于模拟的搜索方法，策略梯度搜索（PGS），通过策略梯度更新在线适应神经网络模拟策略，避免了搜索树的需要。在Hex中，PGS实现了与MCTS相当的性能，并且使用专家迭代与PGS训练的代理能够在9 x9 Hex中击败最强大的开源Hex代理MoHex 2.0。
2019-04-07 cs.LG stat.ML
Efficient User Sequence Learning for Online Services via Compressed Graph Neural Networks
Peking University（北京大学）；Alipay (Hangzhou) Information & Technology Co. Ltd.（支付宝（杭州）信息技术有限公司）
本文提出统一框架ECSeq，利用图压缩技术进行用户序列关系建模，在保持高效率和即插即用特性的同时，显著提升了预训练序列模型的预测性能。
2024-06-05 cs.AI cs.LG
Faster, Smaller, and Smarter: Task-Aware Expert Merging for Online MoE Inference
National Key Research and Development Program of China（国家重点研发计划）；Shenzhen Science and Technology Program（深圳科技计划）；National Natural Science Foundation of China（国家自然科学基金）
本文提出Tanbr，一种基于树结构的自适应神经老虎机路由器，通过估计任务分布实现高效可靠的在线MoE推理，减少延迟和内存使用并保持高准确性。
2026-01-23 cs.LG
Online Residual Learning from Offline Experts for Pedestrian Tracking
ETH Zürich（苏黎世联邦理工学院）；inspire AG（inspire AG公司）
针对在线行人轨迹预测，本文提出 ORL，将多个离线预测与递推最小二乘在线残差校正结合，并通过专家建议框架和自适应 softmax 聚合，实现遗憾保证与最佳性能。
2024-09-09 cs.LG cs.SY eess.SY
Active Reward Learning from Online Preferences
Stanford University（斯坦福大学）
机器人策略需要适应人类偏好和/或新环境。人类专家可能拥有帮助机器人实现这种适应所需的领域知识。然而，现有的工作通常需要对人类反馈进行昂贵的离线重新训练，并且这些反馈通常需要频繁且过于复杂，以至于人类无法可靠地提供。为了避免给人类专家带来不必要的负担，并允许在关键的现实情况下快速适应，我们建议设计并以在线方式谨慎地呈现易于回答的成对动作偏好查询。我们的方法设计查询，并确定何时提出它们，以最大限度地提高预期值来自查询的信息。我们证明了我们的方法与模拟实验，人类用户的研究，和真正的机器人实验。在这些设置中，我们的方法优于基线技术，同时向人类专家提出更少的查询。实验视频、代码和附录可以在https://sites.google.com/view/onlineactivepreferences上找到。
2023-02-27 cs.AI cs.LG cs.RO
No-Regret Online Prediction with Strategic Experts
University of Washington（华盛顿大学）
研究策略性专家在线二元预测框架的推广，允许每轮挑选多个专家，提出利用效用函数特定结构的激励相容且无遗憾的算法。
2023-05-24 cs.GT cs.LG
Online Learning with LLM Experts from Limited Feedback
Virginia Tech（弗吉尼亚理工大学）；Adobe Research（Adobe 研究院）
本文研究有限反馈下将提示路由至LLM专家的在线学习问题，提出老虎机算法实现次线性遗憾，并在实验中验证了高效学习高质量路由策略的能力。
2026-09-09 cs.LG stat.ML
A Deterministic Analysis of an Online Convex Mixture of Expert Algorithms
Koc University（科克大学）
我们分析了一个在线学习算法，该算法自适应地结合了并行运行的两个组成算法（或专家）的输出来模拟未知的期望信号。这种在线学习算法实现（并在某些情况下优于）的最佳成分算法的均方误差（MSE）性能的混合物中的稳定状态。然而，在文献中，该算法的MSE分析使用近似，并依赖于底层信号和系统的统计模型。因此，这样的分析可能是没有用的或有效的各种现实生活中的系统，显示出高度的非平稳性，极限环，在许多情况下，甚至是混乱的信号。在本文中，我们产生的结果，在一个单独的序列方式。特别是，我们涉及的时间累积平方估计误差的在线算法在任何时间在任何时间间隔的时间累积平方估计误差的最佳凸混合的组成算法直接调整到基本信号在确定性的意义上，没有任何统计假设。从这个意义上说，我们的分析提供了瞬态，稳态和跟踪行为的算法在一个很强的意义上没有任何近似的基础信号的推导或统计假设，这样我们的结果是保证举行。我们通过例子来说明所介绍的结果。
2012-09-28 cs.LG
Long-Term Online Smoothing Prediction Using Expert Advice
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
对于专家建议设置的预测，我们构造的预测算法所遭受的损失不会比池中的任何专家都多。与标准方法相比，我们研究了时间序列的长期预测情况，并考虑两种情况。在第一个中，在每个步骤$t$中，学习者必须组合专家针对前面的时间间隔$[t+1, t+d]$发布的点预测。我们的方法意味着，在每个时间步专家发布任意多个步骤的点预测，然后学习者（算法）将这些预测和之前的预测结合成一个矢量预测步骤$[t+1,t+d]$。通过结合过去和当前的长期预测，我们获得了一种平滑机制，可以保护我们的算法免受临时趋势变化、噪声和离群值的影响。在第二种情况下，在每一步，$t$专家发布一个预测函数，学习者必须将这些函数组合成一个函数，用于长期时间序列预测。对于每一种情况下，我们开发了一个算法，结合专家的预测和证明$O(\ln T)$对抗性遗憾上限两种算法。
2019-02-27 cs.LG stat.ML
Online (Non-)Convex Learning via Tempered Optimism
Inria（法国国家信息与自动化技术研究所）；Ecole Normale Supérieure（法国高等科学研究院）；PSL Research University（巴黎综合理工学院）；Sorbonne Université（索邦大学）；University College London（伦敦大学学院）
针对动态环境下现有乐观在线学习专家易过拟合、信息相关性不足的问题，提出乐观退火在线学习框架，改进非凸场景下的在线梯度与镜像下降算法，推导凸损失下的对应算法，并通过实验验证其实际有效性。
2025-10-28 cs.LG math.OC stat.ML
