Online Learning-to-Defer with Varying Experts
School of Computing, National University of Singapore（新加坡国立大学计算机学院）；Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse, France（法国图卢兹大学ENAC ISAE-SUPAERO ONERA联合体）；Institute for Infocomm Research, A*STAR , Singapore（新加坡A*STAR信息通信研究所）；IPAL, IRL 2955, Singapore（新加坡IPAL实验室）；Department of Mathematics, National University of Singapore（新加坡国立大学数学系）
针对动态专家池和流式数据，提出首个在线学习延迟决策算法，利用H-一致性界和在线凸优化实现遗憾界保证。
2026-08-31 cs.LG stat.ML
Expert-Calibrated Learning for Online Optimization with Switching Costs
University of California, Riverside（加州大学河滨分校）
我们研究在线凸优化与切换成本，一个实际上很重要，但也极具挑战性的问题，由于缺乏完整的离线信息。通过利用基于机器学习（ML）的优化器的强大功能，ML增强的在线算法（本文中也称为专家校准）已经成为最先进的技术，具有可证明的最坏情况性能保证。尽管如此，通过使用训练ML模型作为独立优化器并将其插入ML增强算法的标准实践，平均成本性能可能非常不令人满意。为了解决“如何学习”的挑战，我们提出了EC-L2 O（专家校准学习优化），它通过明确考虑下游专家校准器来训练基于ML的优化器。为了实现这一目标，我们提出了一种新的可微分专家校准器，它概括了正则化的在线平衡下降，并在预测误差较大时提供了比纯ML预测更好的竞争比。对于训练，我们的损失函数是两个不同损失的加权和-一个最小化平均ML预测误差以获得更好的鲁棒性，另一个最小化校准后的平均成本。我们还为EC-L2 O提供了理论分析，强调专家校准甚至可以有益于平均性价比，并且EC-L2 O实现的成本与离线最佳预言机（即，尾成本比率）可以有界。最后，我们通过运行可持续数据中心需求响应的模拟来测试EC-L2 O。我们的研究结果表明，EC-L2 O可以凭经验实现较低的平均成本以及较低的竞争比现有的基线算法。
2022-04-22 cs.LG math.OC
A Regret-Variance Trade-Off in Online Learning
Università degli Studi di Milano（米兰大学）；ETH Zürich（苏黎世联邦理工学院）
我们考虑预测与专家的意见，为强凸和有界损失，并调查之间的权衡遗憾和“方差”（即，学习者预测和最佳专家预测的平方差）。对于$K$专家，已知指数加权平均（EWA）算法可以实现$O(\log K)$后悔。我们证明了EWA的一个变体要么实现了消极的遗憾（即，该算法优于最佳专家），或者保证方差和遗憾的$O(\log K)$界限。基于这一结果，我们展示了几个例子，说明如何在学习中利用预测的方差。在在线批量分析中，我们表明，一个大的经验方差允许提前停止在线批量转换，并优于类中最好的预测器的风险。当不考虑提前停止时，我们还恢复了模型选择聚集的最优速率。在在线预测与腐败的损失，我们表明，腐败的遗憾的影响可以补偿一个大的方差。在在线选择性抽样中，我们设计了一个算法，当方差较大时，抽样较少，同时保证期望中的最优后悔界。在在线学习中，我们使用一个类似的术语作为方差，以推导出该设置中的第一个高概率$O(\log K)$遗憾界。最后，我们将我们的结果扩展到在线线性回归的设置。
2022-06-06 cs.LG stat.ML
Tracking a Small Set of Experts in Online Convex Optimization
Princeton University（普林斯顿大学）；Google DeepMind（谷歌DeepMind）
该研究针对在线凸优化中跟踪小专家集的问题，证明了离散化应用Bousquet-Warmuth算法的低效性，在超图植入团猜想下确立了信息论与多项式时间可实现遗憾的分离。
2026-10-15 cs.LG math.OC stat.ML
Near Optimal Memory-Regret Tradeoff for Online Learning
Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
在专家问题中，在$T$的每一天，代理需要遵循$n$“专家”之一的建议。每过一天，每个专家的建议都会带来损失。学习理论的一个基本结果是，智能体可以实现后悔消失，也就是说，他们的累积损失在事后诸葛亮专家的累积损失的$o(T)$范围内。如果没有足够的空间来记住所有的专家，智能体能否表现良好？我们在两个方向上扩展了对这个问题的一个新的研究路线：$\bullet$我们给出了一个新的算法，对不经意的对手，改进了[PZ 23]获得的内存后悔权衡，几乎匹配的下限[SWXZ 22]。$\bullet$我们还考虑了一个自适应对手谁可以观察过去的专家选择的代理。在这种情况下，我们给出了一个新的算法和一个新的下限，证明了大致$\sqrt{n}$内存是必要的和足够的$o(T)$遗憾。
2023-03-09 cs.AI cs.DS cs.LG
Improved Space Bounds for Learning with Experts
MIT（麻省理工学院）；Northeastern University（东北大学）
我们改进了空间和遗憾之间的权衡，为在线学习与专家意见的问题超过$T$天与$n$专家。在给定$δ\in (0,1)$的$n^δ$空间预算的情况下，我们给出了一个实现后悔$\tilde{O}(n^2 T^{1/(1+δ)})$的算法，改进了[PZ23]中的后悔界$\tilde{O}(n^2 T^{2/(2+δ)})$.改进是特别突出的政权$δ\rightarrow 1$的遗憾，我们的算法接近$\tilde{O}_n(\sqrt{T})$，匹配的$T$依赖在标准的在线设置没有空间限制。
2023-03-02 cs.DS cs.LG
Efficient Exploration of Gradient Space for Online Learning to Rank
University of Virginia（弗吉尼亚大学）
在线学习排名（OL2R）基于直接从用户收集的隐式反馈来优化返回的搜索结果的效用。为了改进估计，OL2R算法检查一个或多个探索性梯度方向，并且如果用户通过交错测试优选所提议的方向，则更新当前排名器。在本文中，我们加速在线学习过程中的梯度空间的有效探索。我们的算法，命名为空间梯度下降，减少了探索空间，只有最近表现不佳的梯度的\emph{null space}。这可以防止算法重复探索最近与用户的交互所阻止的方向。为了提高敏感性的交错测试，我们有选择地构建候选排名，以最大限度地提高他们可以区分候选排名文件在当前查询的机会，我们使用历史上困难的查询，以确定最好的排名时，领带发生在比较排名。与最先进的OL2R算法在几个公共基准上进行了广泛的实验比较，证实了我们提出的算法的有效性，特别是在早期阶段的快速学习收敛和有前途的排名质量。
2018-05-18 cs.IR cs.LG
Perceptron like Algorithms for Online Learning to Rank
University of Michigan（密歇根大学）
感知器是一个经典的在线学习分类函数的算法。在本文中，我们提供了一个新的扩展的感知器算法的学习排序问题的信息检索。我们考虑流行的列表式性能指标，如归一化贴现累积增益（NDCG）和平均精度（AP）。感知器用于分类的现代观点是，它只是在线梯度下降（OGD）的一个实例，在错误轮次期间，使用铰链损失函数。出于这种解释，我们提出了一个新的家庭列表，大利润率排名代理。这个家族的成员可以被认为是铰链缺失的类似物。利用所提出的家庭的一定的自约束属性，我们提供了一个保证的累积NDCG（或AP）引起的损失，我们的感知器般的算法。我们表明，如果存在一个完美的甲骨文排名器，可以正确地排名在一个在线的排名数据序列中的每个实例，有一定的利润率，该序列上的感知算法的累积损失是有界的常数，无论序列的长度。这个结果让人想起Novikoff的分类感知器收敛定理。此外，我们证明了一个下界的累积损失可实现的任何确定性算法，假设存在完美的预言排名。下界表明，我们的感知机界是不紧，我们提出了另一个，\emph{purely online}，算法达到了下界。我们提供了模拟和大型商业数据集的实证结果来证实我们的理论结果。
2016-08-23 cs.LG stat.ML
Adaptive and Efficient Algorithms for Tracking the Best Expert
National Key Laboratory for Novel Software Technology（Novel Software Technology国家重点实验室）；Nanjing University（南京大学）
在本文中，我们考虑在动态环境中的专家意见的预测问题。我们选择跟踪遗憾作为性能指标，并开发了两个自适应和有效的算法与数据相关的跟踪遗憾界。第一种算法实现了二阶跟踪遗憾界，改进了现有的一阶界。第二个算法享有的路径长度的界限，这通常是不可比的二阶界限，但在缓慢移动的环境中提供的优势。这两种算法都是在在线镜像下降框架下开发的，并从现有的算法中汲取灵感，获得静态遗憾的数据依赖性界限。其关键思想是在在线镜像下降的更新步骤中使用裁剪单纯形。最后，我们扩展我们的算法和分析，在线矩阵预测，并提供了第一个数据依赖的跟踪遗憾界这个问题。
2020-02-08 cs.LG stat.ML
Concentric mixtures of Mallows models for top-$k$ rankings: sampling and identifiability
BCAM；Telecom Paris（巴黎高等电信学院）
在本文中，我们考虑了两个Mallow模型的混合物，用于顶级$k$排名，两者具有相同的位置参数，但具有不同的尺度参数，即，同心马洛模型的混合物。当我们有一个由两个同质人口组成的异质选民人口时，就会出现这种情况，其中一个是专家选民的子人口，而另一个则包括非专家选民。我们提出了有效的抽样算法马洛顶部$k$排名。我们表明，这两个组件的可识别性，和他们各自的参数在此设置中的可学习性，首先，边界的样本复杂性的Borda算法与顶部- $k$排名和第二，提出多项式时间算法的分离在每个组件的排名。最后，由于排名聚合将遭受大量的噪声引入的非专家选民，我们适应Borda算法能够恢复地面真相共识排名，这是特别一致的专家排名。
2020-11-05 cs.AI cs.LG stat.ML
Online Ranking: Discrete Choice, Spearman Correlation and Other Feedback
给定$n$对象的集合$V$，在线排名系统在每个时间步输出集合的完整排名，观察某种形式的反馈并遭受损失。我们研究的设置，其中（对抗）反馈是$V$中的一个元素，损失是位置（第0，第1，第2.）在输出的排名中的项目。更一般地说，我们研究的设置中的反馈是一个子集$U$的最多$k$元素在$V$，和损失是这些元素的位置的总和。我们提出了一个算法的预期遗憾$O(n^{3/2}\sqrt{Tk})$在一个时间范围内的$T$步骤的最佳单一的排名在事后。这通过$Ω(\sqrt{k})$的因子、$Ω(\sqrt{\log n})$的因子或通过将每轮的运行时间从二次改进为$O(n\log n)$来改进先前的算法和分析。我们还证明了一个匹配的下界。我们的技术也意味着一个改进的遗憾界在线排名聚合斯皮尔曼相关性措施，和其他更复杂的排名损失函数。
2013-10-14 cs.GT cs.LG stat.ML
Online Algorithm for Aggregating Experts' Predictions with Unbounded Quadratic Loss
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
针对带无界二次损失的专家预测在线聚合问题，提出一种基于专家损失指数重加权、无需预先知道损失上界的在线聚合算法。
2025-01-11 cs.LG
Online Learning with Automata-based Expert Sequences
Courant Institute（库朗研究所）；Google Research（谷歌研究院）
我们认为一个一般的框架在线学习与专家的意见，遗憾的定义相对于序列的专家接受了加权自动机。我们的框架涵盖了以前研究的几个问题，包括与K-移位专家的竞争。我们给出了一系列的算法，这个问题，包括一个自动机为基础的算法扩展加权多数和更有效的算法的基础上的概念，故障转移。我们进一步提出了有效的算法的竞争对手自动机的近似的基础上，特别是通过最小化的\infty -雷尼分歧得到的n元模型，并提出了广泛的研究这种模型的近似特性。最后，我们还将我们的算法和结果扩展到睡眠专家的框架。
2017-10-22 cs.LG
FlexMoRE: A Flexible Mixture of Rank-heterogeneous Experts for Efficient Federatedly-trained Large Language Models
University of Southern Denmark（南丹麦大学）；Ordbogen A/S（Ordbogen公司）
FlexMoRE通过灵活的秩异质专家混合模型，在联邦训练的大型语言模型中实现更高效的性能，使用低秩适配器替代完整专家，提升任务表现并减少参数量。
2026-02-09 cs.LG
Rank-Induced PL Mirror Descent: A Rank-Faithful Second-Order Algorithm for Sleeping Experts
本文提出RIPLM算法，直接在秩诱导的Plackett–Luce参数化中更新，首次在睡眠专家设定中同时实现秩忠实性与方差自适应性。
2025-09-14 cs.LG
Budgeted Online Active Learning with Expert Advice and Episodic Priors
Oregon State University（俄勒冈州立大学）；Washington State University（华盛顿州立大学）
本文针对标签预算极少的有限时域数据流，提出一种同时利用专家预测器和情景行为先验的预算在线主动学习方法，并在农业模拟与真实葡萄数据上验证其显著优于现有基线。
2025-06-03 cs.LG
TileQ: Efficient Low-Rank Quantization of Mixture-of-Experts with 2D Tiling
Institute of Software Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）
TileQ通过二维铺砖结构低秩量化方法，在不进行微调的情况下实现混合专家模型的高效量化，显著降低内存使用和推理延迟，同时保持最先进的准确性。
2026-05-10 cs.LG
PDE approach to the problem of online prediction with expert advice: a construction of potential-based strategies
Southern Federal University（南联邦大学）
我们考虑一系列重复的预测游戏，并正式通过到极限。所得的非线性抛物型偏微分方程的上解在N的意义下与势函数密切相关。Cesa-Bianci，G. Lugosi（2003年）。任何这样的超解给出了一个上限预测的遗憾，并建议基于潜力的预测策略，满足Blackwell条件。一个传统的上限最坏情况下的遗憾是合理的一个简单的验证参数。
2017-05-02 cs.LG
Bandwidth-Efficient Adaptive Mixture-of-Experts via Low-Rank Compensation
Rensselaer Polytechnic Institute（罗切斯特理工学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；George Washington University（乔治·华盛顿大学）
本文提出了一种带宽高效自适应混合专家方法，通过低秩补偿实现精度恢复，提升带宽-准确性权衡和吞吐量。
2025-12-18 cs.LG
Dynamic Multi-period Experts for Online Time Series Forecasting
Pohang University of Science and Technology（浦项科学技术大学）；Kyungpook National University（庆北国立大学）
DynaME通过动态多时期专家框架有效应对时间序列预测中的重复和新兴漂移，显著优于现有方法。
2026-03-10 cs.LG
Competing with Gaussian linear experts
Computer Learning Research Centre（计算机学习研究中心）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
我们研究了在线回归问题。我们证明了岭回归平方损失的理论界。我们不对输入向量或结果做任何假设。我们还表明，贝叶斯岭回归可以被认为是一个在线算法与所有的高斯线性专家竞争。
2010-05-10 cs.LG
Little by Little: Continual Learning via Incremental Mixture of Rank-1 Associative Memory Experts
University of New South Wales（新南威尔士大学）
针对持续学习中专家粒度粗糙导致的冗余、干扰和遗忘问题，提出MoRAM方法，将秩-1适配器作为细粒度专家和联想记忆单元，通过自激活机制实现增量扩展，显著提升塑性-稳定性权衡和泛化能力。
2026-05-29 cs.LG
Online Learning in Case of Unbounded Losses Using the Follow Perturbed Leader Algorithm
Institute for Information Transmission Problems, Russian Academy of Sciences（俄罗斯科学院信息传输问题研究所）
本文考虑了在专家意见下的序贯预测问题，其中专家在每一步所遭受的损失不能预先有界。我们提出了一些修改的Kalai和Vempala算法的扰动领导人的权重取决于过去的损失的专家。引入了游戏的体积和尺度波动的新概念。我们提出了一个概率算法保护不受限制的大一步损失。该算法在专家池中专家一步损失的尺度波动趋于零的情况下具有最优性能。
2010-08-25 cs.LG
Faster, Smaller, and Smarter: Task-Aware Expert Merging for Online MoE Inference
National Key Research and Development Program of China（国家重点研发计划）；Shenzhen Science and Technology Program（深圳科技计划）；National Natural Science Foundation of China（国家自然科学基金）
本文提出Tanbr，一种基于树结构的自适应神经老虎机路由器，通过估计任务分布实现高效可靠的在线MoE推理，减少延迟和内存使用并保持高准确性。
2026-01-23 cs.LG
Online Learning to Rank with Feedback at the Top
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
我们考虑一个在线学习排序设置，在每一轮，一个不经意的对手产生一个列表的$m$文件，有关的查询，和学习者产生分数排名的文件。然后，对手生成相关性向量，学习者根据收到的反馈更新其排名。我们认为反馈被限制为仅是$k \ll m$的排名列表中的顶部$k$文档的相关性级别的设置。然而，学习器的性能是基于未显示的全相关向量，使用适当的学习排序损失函数来判断的。我们开发了有效的算法，众所周知的损失在逐点，成对和列表家庭。我们还证明，没有在线算法可以有次线性遗憾，与前1反馈，任何损失，是校准相对于NDCG。我们将我们的算法应用于基准数据集上，证明了从高度限制的反馈中对排名函数进行有效的在线学习。
2016-03-06 cs.LG
Adaptive Bayesian Online Learning via Expert Aggregation
Inha University（仁荷大学）
研究如何改进贝叶斯在线学习，将其更新规则视为专家，按顺序预测损失聚合专家。通过在线共形推理和高斯过程回归实例化框架，得到平滑贝叶斯对应物及神谕不等式，实验显示聚合能跟踪强大专家且无需神谕专家选择。
2026-07-23 cs.LG stat.ML
Online Covering with Multiple Experts
LIG, University Grenoble-Alpes（格勒诺布尔-阿尔卑斯大学LIG实验室）
本文提出多专家在线覆盖算法，引入动态基准，实现O(log K)竞争比，并提供了在线组合多个算法的全新视角。
2023-12-22 cs.DM cs.DS cs.LG
A Deterministic Analysis of an Online Convex Mixture of Expert Algorithms
Koc University（科克大学）
我们分析了一个在线学习算法，该算法自适应地结合了并行运行的两个组成算法（或专家）的输出来模拟未知的期望信号。这种在线学习算法实现（并在某些情况下优于）的最佳成分算法的均方误差（MSE）性能的混合物中的稳定状态。然而，在文献中，该算法的MSE分析使用近似，并依赖于底层信号和系统的统计模型。因此，这样的分析可能是没有用的或有效的各种现实生活中的系统，显示出高度的非平稳性，极限环，在许多情况下，甚至是混乱的信号。在本文中，我们产生的结果，在一个单独的序列方式。特别是，我们涉及的时间累积平方估计误差的在线算法在任何时间在任何时间间隔的时间累积平方估计误差的最佳凸混合的组成算法直接调整到基本信号在确定性的意义上，没有任何统计假设。从这个意义上说，我们的分析提供了瞬态，稳态和跟踪行为的算法在一个很强的意义上没有任何近似的基础信号的推导或统计假设，这样我们的结果是保证举行。我们通过例子来说明所介绍的结果。
2012-09-28 cs.LG
APRIL: Active Preference-learning based Reinforcement Learning
CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；Université Paris-Sud（巴黎第十一大学）
本文主要研究有限先验知识下的强化学习。例如，在群体机器人领域，专家很难设计奖励函数或演示目标行为，禁止使用标准RL和反向强化学习。虽然专业知识有限，但人类专家仍然经常能够发出偏好并对代理演示进行排名。早期的工作提出了一个迭代的基于偏好的RL框架：专家的偏好被用来学习一个近似的策略返回，从而使代理实现直接的策略搜索。迭代地，代理选择一个新的候选策略，并演示它;专家排名新的演示相对于以前的最佳之一;专家的排名反馈，使代理细化近似的政策回报，并迭代的过程。在本文中，基于偏好的强化学习结合主动排名，以减少排名查询的专家需要产生一个令人满意的政策。在山地车和癌症治疗试验台上的实验证明，几十个排名可以帮助我们学习一个有能力的政策。
2012-08-05 cs.LG
Online Ranking with Top-1 Feedback
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
我们考虑一个系统学习排名一组固定的$m$项目的设置。我们的目标是为具有不同兴趣的用户提供良好的项目排名，这些用户在$T$轮中与系统进行在线交互。我们考虑一种新的顶部$1$反馈模型：在每一轮结束时，只有排名靠前的对象的相关性得分被揭示。然而，系统的性能是根据整个排名列表来判断的。我们提供了一套全面的结果，在这个具有挑战性的设置下的可学习性。对于PairwiseLoss和DCG这两种常用的排序测度，我们证明了极小极大后悔是$Θ(T^{2/3})$ .此外，极小极大后悔是可以实现的，使用一个有效的策略，每轮只花$O(m \log m)$时间。同样有效的策略实现了$O(T^{2/3})$对Precision@ $k$的遗憾。令人惊讶的是，我们表明，对于这些排名措施的标准化版本，即，AUC，NDCG \& MAP，没有在线排名算法可以有次线性遗憾。
2016-03-06 cs.LG
Online Mixture of Experts: No-Regret Learning for Optimal Collective Decision-Making
Riebaki AI
针对在线专家混合场景的集体决策优化问题，提出两种带无悔理论保证的聚合算法，并将其应用于专家大语言模型在线微调，可动态调整专家权重提升聚合模型性能。
2025-11-16 cs.AI cs.LG
Online Learning to Rank with Top-k Feedback
University of Michigan（密歇根大学）
我们考虑两种设置的在线学习排名反馈限制在排名靠前的项目。该问题被转换为学习者和用户序列之间的在线游戏，经过$T$回合。在这两种设置中，学习者的目标是向用户呈现项目的排名列表。学习者的表现是根据整个排名列表和项目的真实相关性来判断的。然而，学习者在每轮结束时接收高度受限的反馈，其形式为仅最高$k$排名的项目的相关性，其中$k \ll m$。第一个设置是\emph{non-contextual}，其中要排名的项目列表是固定的。第二个设置是\emph{contextual}，其中项目列表以传统查询文档列表的形式变化。没有对项目和语境的相关性的生成过程进行随机假设。我们为这两种设置提供了有效的排名策略。策略实现$O(T^{2/3})$遗憾，其中遗憾是基于流行的排名措施在第一设置和排名代理人在第二设置。我们还提供了不可能的结果，某些排名措施和一定类别的代理人，当反馈仅限于排名靠前的项目，即$k=1$。我们经验证明我们的算法在模拟和真实世界的数据集上的性能。
2016-08-23 cs.LG
Director: Accelerating Distributed MoE Serving via Online Proactive Expert Placement
研究针对混合专家模型服务中专家放置问题，提出Director系统，通过预测驱动的在线专家放置、轻量级预测器或量化副本及在线迁移模块，结合多项式时间运行的优化器，有效降低端到端延迟，实验证明其对流行MoE模型延迟降低显著。
2026-07-13 cs.AI cs.LG
Sequential Decision Making with Expert Demonstrations under Unobserved Heterogeneity
University of Toronto（多伦多大学）；Stanford University（斯坦福大学）
针对专家演示依赖未观测上下文的在线序列决策问题，提出ExPerior经验贝叶斯算法，用专家数据构建决策先验，在多种决策场景下性能优于现有基线。
2025-06-15 cs.LG
MoRE: A Mixture of Low-Rank Experts for Adaptive Multi-Task Learning
School of Computer Science and Information Engineering, Hefei University of Technology（合肥工业大学计算机科学与信息工程学院）；School of Information Science and Technology, University of Science and Technology of China（中国科学技术大学信息科学与技术学院）；Artificial Intelligence Research Institute, iFLYTEK Company Ltd.（iFLYTEK公司人工智能研究院）
本文提出了一种用于多任务参数高效微调的新型低秩专家混合方法MoRE，通过自适应秩选择器联合训练不同秩的LoRA专家，显著提升了LLMs的多任务性能且无额外推理成本。
2025-05-28 cs.LG
OD-Gear: Online Decomposition and Group Sampling for Expert-Guided Adversarial Routing in Scalable Capacitated Vehicle Routing
School of Information Science（信息科学学院）；Guangdong Provincial Key Laboratory of Brain-Inspired Intelligent Computation, Department of CSE, SUSTech, Shenzhen 518055, P. R. China（脑启发智能计算广东省重点实验室、计算机科学与工程系、南方科技大学、深圳518055，中华人民共和国）
OD-DEAL通过结合混合遗传搜索和在线重心聚类分解，利用对抗学习实现高保真知识蒸馏，从而在大规模CVRP问题中实现高效、高质量的实时推断。
2026-08-11 cs.LG
Hierarchically Gated Experts for Efficient Online Continual Learning
The University of New South Wales（新南威尔士大学）
针对在线持续学习中的未知任务流问题，提出层级门控专家（HGE）算法，通过动态增长的专家层级结构高效选择最佳专家，在标准基准上取得与现有方法相当且更高效的结果。
2024-12-22 cs.AI cs.LG
Trading-Off Payments and Accuracy in Online Classification with Paid Stochastic Experts
University of Amsterdam（阿姆斯特丹大学）；Imperial College London（帝国理工学院）；Università degli Studi di Milano（米兰大学）；Politecnico di Milano（米兰理工大学）
研究带有付费随机专家的在线分类问题，提出结合Lipschitz bandits与替代损失的在线学习算法，通过优化支付控制预测准确率，将总成本遗憾界降至$\mathcal{O}(K^2(\log T)\sqrt{T})$并在合成数据上验证有效。
2023-07-03 cs.LG stat.ML
$k\texttt{-experts}$ -- Online Policies and Fundamental Limits
Indian Institute of Technology (ISM) Dhanbad（印度理工学院（印度矿业学院）丹巴德）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
我们介绍了$\texttt{$ k $-experts}$问题-一个推广的经典预测专家的建议框架。与经典版本不同，在经典版本中，学习者在每轮从$N$专家池中选择一个专家，在这个问题中，学习者可以在每轮$(1\leq k\leq N)$中选择$k$专家的子集。假设学习者在每轮获得的奖励是$k$选择的专家的函数。主要目标是设计一个在线学习政策与一个小遗憾。在这种追求中，我们提出了$\texttt{SAGE}$（$\textbf{Sa}$ mpled Hed $\textbf{ge}$）-一个框架，设计有效的在线学习政策，利用统计抽样技术。对于广泛的一类奖励函数，我们表明，$\texttt{SAGE}$要么实现了第一次次线性后悔保证或改善现有的。此外，超越遗憾的概念，我们充分表征的错误界限可实现的稳定损失函数的在线学习政策。最后，我们通过建立一个严格的遗憾下限的一个变种的$\texttt{$ K $-experts}$问题，并进行实验与标准数据集的文件。
2022-02-17 cs.IT cs.LG math.IT
Each Rank Could be an Expert: Single-Ranked Mixture of Experts LoRA for Multi-Task Learning
Zhejiang University（浙江大学）；Shanghai Innovation Institute（上海创新研究院）；ByteDance Inc.（字节跳动公司）；Fudan University（复旦大学）；The Chinese University of Hong Kong（香港中文大学）
本文提出SMoRA，将每个LoRA秩视为独立专家并动态激活，在统一框架下实现更细粒度知识共享，以更少参数在多任务中取得更优性能。
2025-06-19 cs.AI cs.LG
Online Learning with Uncertain Feedback Graphs
University of California, Irvine（加州大学欧文分校）
通过专家建议进行的在线学习广泛用于各种机器学习任务。它考虑的问题是，学习者从一组专家中选择一个来接受建议并做出决定。在许多学习问题中，专家可能是相关的，因此学习者可以观察到与所选专家相关的专家子集相关的损失。在这种情况下，专家之间的关系可以通过反馈图来捕获，该反馈图可以用于帮助学习者做出决策。然而，在实践中，名义反馈图往往带有不确定性，这使得它不可能揭示专家之间的实际关系。为了应对这一挑战，目前的工作研究各种情况下的潜在不确定性，并开发新的在线学习算法来处理不确定性，同时利用不确定反馈图。在较弱的条件下证明了所提算法具有次线性后悔性。在真实数据集上的实验证明了新算法的有效性。
2021-06-15 cs.LG stat.ML
Online Learning with an Almost Perfect Expert
Purdue University（普渡大学）；Microsoft Research（微软研究院）
我们研究了多类在线学习问题，其中预测者使用$n$专家的建议进行一系列预测。我们的主要贡献是分析的制度，最好的专家，使最$b$错误，并表明，当$b = o(\log_4{n})$，最佳的预测者所犯的错误的预期数量是最多$\log_4{n} + o(\log_4{n})$。我们还描述了一个对手的战略表明，这个界是紧的，最坏的情况下达到二进制预测。
2018-09-27 cs.DS cs.GT cs.LG
Cascading Randomized Weighted Majority: A New Online Ensemble Learning Algorithm
Sharif University of Technology（谢里夫理工大学）；Ohio State University（俄亥俄州立大学）
随着世界上数据量的增加，从这些数据中学习的最佳方法是利用在线学习算法。在线集成方法是利用分类器的集成来预测数据标签的在线算法。专家建议的预测是在线集成学习文献中研究得很好的问题。加权多数算法和随机加权多数（RWM）是最知名的解决方案，这个问题，旨在收敛到最好的专家。由于在某些专家中，最好的专家不一定在数据空间的所有区域中具有最小误差，因此定义特定区域并收敛到每个区域中的最佳专家将导致更好的结果。本文针对RWM算法的这一缺陷，提出了一种新颖的在线集成算法来解决专家建议预测问题。我们提出了一个级联版本的RWM，以实现不仅更好的实验结果，但也有足够大的数据集更好的误差界。
2015-02-02 cs.LG stat.ML
Kalman Recursions Aggregated Online
Sorbonne Université（索邦大学）；EDF Lab（法国电力实验室）
在这篇文章中，我们的目标是通过使用提供专家预测的模型的基本属性来改进专家聚集的预测。我们限制自己的情况下，专家预测来自卡尔曼递归，拟合状态空间模型。通过使用指数权重，我们构建了不同的卡尔曼递归在线聚合（KAO）算法，这些算法以或多或少的自适应方式与最佳专家或最佳专家凸组合竞争。利用卡尔曼递推的二阶性质，改进了专家集结文献中专家为卡尔曼递推时的已有结果。我们将我们的方法应用于卡尔曼递归，并通过对专家的错误进行状态空间建模，将其扩展到一般的对抗性专家设置。我们将这些新算法应用于一个真实的电力消耗数据集，并展示了与其他指数加权平均程序相比，它如何提高预测性能。
2020-02-26 cs.LG stat.ME stat.ML
Towards Reducing Biases in Combining Multiple Experts Online
MIT（麻省理工学院）；Univ. Rey Juan Carlos（胡安卡洛斯国王大学）
在许多现实生活中，包括工作和贷款申请，看门人必须对一个人是否适合某个特定的机会做出合理和公平的实时决定。在本文中，我们的目标是在一个在线随机决策过程中实现近似的群体公平性，我们考虑的公平性度量是均衡的赔率。我们的工作遵循经典的从专家学习方案，假设一组有限的分类器（人类专家，规则，选项等），不能修改。我们为每个标签类别以及敏感组运行算法的单独实例，其中选择每个实例的概率针对公平性和遗憾性进行了优化。我们的理论结果表明，近似相等的赔率可以实现，而不会牺牲太多的遗憾。我们还证明了该算法的性能通常使用的公平性社区的真实数据集。
2021-05-24 cs.LG stat.ML
Online Deep Learning for Improved Trajectory Tracking of Unmanned Aerial Vehicles Using Expert Knowledge
Nanyang Technological University（南洋理工大学）；Aarhus University（奥胡斯大学）
本工作提出了一种基于在线学习的控制方法，用于同时使用深度学习和专家知识来改进无人机的轨迹跟踪。所提出的方法不需要精确的系统模型进行控制，它是对系统动态变化以及操作的不确定性鲁棒性。学习分为两个阶段：离线（前）培训和在线（后）培训。在前者中，常规控制器执行一组轨迹，并且基于输入-输出数据集，训练基于深度神经网络（DNN）的控制器。在后者中，模仿传统控制器的经过训练的DNN控制系统。与文献中现有的论文不同，该网络仍在针对DNN训练阶段未使用的不同轨迹集进行训练。由于规则库，其中包含的专家知识，所提出的框架学习系统动态和操作的不确定性实时。实验结果表明，所提出的在线学习为基础的方法提供了更好的轨迹跟踪性能相比，只有离线训练的网络。
2019-05-26 cs.LG cs.RO
Adaptive Selective Sampling for Online Prediction with Experts
Eindhoven University of Technology（埃因霍温理工大学）；Eindhoven Artificial Intelligence Systems Institute (EAISI)（埃因霍温人工智能系统研究所（EAISI））；University College London（伦敦大学学院）；University of Amsterdam（阿姆斯特丹大学）
本文研究专家建议下的二进制序列在线预测问题，提出基于指数加权预测器的标签高效选择性采样算法，在减少标签收集的同时保持最优最坏情况遗憾，并证明其标签复杂度与轮数平方根成正比，且能渐近匹配主动学习的极小极大速率。
2023-10-20 cs.LG stat.ML
Policy Gradient Search: Online Planning and Expert Iteration without Search Trees
DeepMind（深度思考）；OpenAI；University of California, Berkeley（加州大学伯克利分校）；Google Brain（谷歌大脑）
蒙特卡罗树搜索（MCTS）算法执行基于模拟的搜索以在线改进策略。在搜索过程中，模拟策略被调整以探索最有希望的路线。MCTS已经被最先进的程序用于解决许多问题，但是MCTS的缺点是它使用存储在搜索树中的Monte Carlo平均值来估计状态的值;这不能扩展到具有非常高分支因子的游戏。我们提出了一种替代的基于模拟的搜索方法，策略梯度搜索（PGS），通过策略梯度更新在线适应神经网络模拟策略，避免了搜索树的需要。在Hex中，PGS实现了与MCTS相当的性能，并且使用专家迭代与PGS训练的代理能够在9 x9 Hex中击败最强大的开源Hex代理MoHex 2.0。
2019-04-07 cs.LG stat.ML
Coupled Distributional Random Expert Distillation for World Model Online Imitation Learning
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Hillbot（Hillbot公司）；University of California, San Diego（加州大学圣地亚哥分校）
本研究提出一种基于随机网络蒸馏的耦合分布随机专家蒸馏方法，用于提升世界模型在线模仿学习的稳定性与性能。
2026-01-04 cs.AI cs.LG
AQuA -- Combining Experts' and Non-Experts' Views To Assess Deliberation Quality in Online Discussions Using LLMs
Heinrich Heine University Düsseldorf（杜塞尔多夫海因里希·海涅大学）；Technical University Ilmenau（伊尔默瑙工业大学）；Johannes Gutenberg University Mainz（美因茨约翰内斯·古腾堡大学）；Technical University Dortmund（多特蒙德工业大学）
本研究提出加性商议质量评分AQuA，结合20项商议指数的适配器模型与专家、非专家标注的相关系数加权计算统一评分，兼具透明度与跨数据集一致性，印证了社会科学相关理论。
2024-04-17 cs.AI cs.CL cs.LG
Rank Also Matters: Hierarchical Configuration for Mixture of Adapter Experts in LLM Fine-Tuning
Peking University（北京大学）
针对LLM微调中现有LoRA-MoE方法忽略适配器秩的问题，本文提出HILO分层方案，动态调整各层适配器专家的数量与秩，在更少可训练参数下取得更高准确率。
2025-02-06 cs.AI cs.LG
Learning the Experts for Online Sequence Prediction
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Selim and Rachel Benin School of Computer Science and Engineering（塞利姆和雷切尔·贝宁计算机科学与工程学院）
在线序列预测是在给定先前元素的情况下预测序列的下一个元素的问题。这个问题已经在单个序列预测的背景下得到了广泛的研究，其中没有对序列的起源进行预先假设。单个序列预测算法对于长序列工作得相当好，其中算法有足够的时间来学习序列的时间结构。然而，它们可能对短序列给出较差的预测。一种可能的补救方法是依赖于具有专家建议的一般预测模型，其中学习者可以访问一组$r$专家，每个专家都对序列进行自己的预测。众所周知，如果序列长度是$\log(r)$的数量级，则有可能预测得几乎和最好的专家一样好。但是，如果没有关于问题的确切的先验知识，就不清楚如何选择一小组{ \em good}专家。在本文中，我们描述和分析了一个新的算法，学习一个很好的专家使用的训练集以前观察到的序列。我们证明了我们的方法的优点，通过将其应用在网络上的点击预测的任务。
2012-06-18 cs.AI cs.LG
Shared Low-rank Basis Factorization for Data-free Mixture-of-Experts Compression
Kyoto University（京都大学）；The University of Tokyo（东京大学）；RIKEN AIP（理化学研究所革新智能统合研究中心）
针对MoE大模型压缩，提出共享低秩基分解（SLBF）无数据权重重构方法，通过专家间共享秩-k基降低重构误差，在16B至122B五个架构上优于剪枝、合并和重构三类方法。
2026-10-08 cs.AI cs.LG
Malicious Experts versus the multiplicative weights algorithm in online prediction
Department of Mathematics, University of Michigan（密歇根大学数学系）；Department of Electrical Engineering, Princeton University（普林斯顿大学电气工程系）
我们考虑两个专家和一个预报员的预测问题。我们假设其中一个专家是诚实的，并且在每一轮中以$μ$的概率做出正确的预测。另一个是恶意的，他知道每一轮的真实结果，并做出预测，以最大限度地增加预测者的损失。假设预测者采用经典的乘性权重算法，我们找到了恶意专家的价值函数的上界和下界。我们的研究结果表明，乘法权重算法不能抵抗恶意专家的腐败。我们还表明，自适应乘法权重算法是渐近最优的预测，因此更能抵抗恶意专家的腐败。
2020-03-18 cs.LG math.OC math.PR
