Online Control of Unknown Time-Varying Dynamical Systems
Princeton University（普林斯顿大学）；Google AI Princeton（谷歌AI普林斯顿）；UC Berkeley（加州大学伯克利分校）；MIT（麻省理工学院）
研究了非随机控制模型下动态未知的时变线性系统的在线控制问题。在一个高层次上，我们证明了这种设置是\emph{qualitatively harder}比未知的时不变或已知的时变动态，并补充我们的负面结果与算法的上界制度，次线性遗憾是可能的。更具体地说，我们研究遗憾的界限方面的常见类别的政策：干扰行动（SLS），干扰响应（尤拉），和线性反馈政策。虽然这三类基本上是等价的LTI系统，我们证明了这些等价性打破时变系统。我们证明了一个下界，没有算法可以获得次线性遗憾的前两个类，除非系统的变化性的一定措施也在地平线上的次线性尺度。此外，我们表明，离线规划的状态线性反馈政策是NP-困难的，这表明硬度的在线学习问题。在积极的一面，我们给出了一个有效的算法，达到一个次线性的遗憾界对类的扰动响应政策，上述系统的变异性条款。事实上，我们的算法享有次线性\emph{adaptive}遗憾界，这是一个严格强于标准遗憾的度量，更适合于时变系统。我们素描扩展干扰行动政策和部分观察，并提出了一个低效的算法对线性状态反馈政策的遗憾。
2022-02-16 cs.LG math.OC stat.ML
Stabilized Sparse Online Learning for Sparse Data
Columbia University（哥伦比亚大学）
随机梯度下降（SGD）通常用于大规模机器学习问题的优化。Langford等人（2009）介绍了一种稀疏在线学习方法，通过截断梯度来诱导稀疏性。然而，对于高维稀疏数据，由于特征稀疏性的异质性，该方法收敛速度慢且方差大。为了缓解这个问题，我们引入了一个稳定的截断随机梯度下降算法。我们采用软阈值方案的权重向量，其中施加的收缩是自适应的每个功能中可用的信息量。所得到的稀疏权重向量的可变性进一步控制的稳定性选择集成的信息截断。为了更好地收敛，我们采用了一种退火策略的截断率，这导致了一个平衡的权衡之间的探索和利用学习稀疏的权重向量。数值实验表明，该算法在预测精度、稀疏性和稳定性方面优于原算法。
2017-05-09 cs.LG stat.ML
Online to Offline Conversions, Universality and Adaptive Minibatch Sizes
ETH Zürich（苏黎世联邦理工学院）
我们提出了一种凸优化的方法，依赖于一个新的计划，在线自适应算法转换为离线方法。在离线优化设置中，我们推导出的方法，以获得有利的自适应保证，这取决于查询梯度的谐波和。我们进一步表明，我们的方法隐式地适应目标的结构：在光滑的情况下，快速收敛速度，确保没有任何先验知识的平滑参数，同时仍然保持在非光滑设置的保证。我们的方法具有对随机设置的自然扩展，从而导致SGD（随机GD）的懒惰版本，其中根据梯度的大小选择\emph{adaptively} minibathes。从而提供了一个原则性的方法来选择小批量的大小。
2017-05-31 cs.LG math.OC stat.ML
Fully Implicit Online Learning
Tsinghua University（清华大学）；Tencent AI Lab（腾讯AI实验室）
正则化在线学习广泛应用于机器学习应用中。在在线学习中，执行精确最小化（$i.e.,$隐式更新）已知有利于解的数值稳定性和结构。本文研究了一类正则化在线算法，我们称之为\emph{fully implicit online learning}（FIOL）。我们证明了对于任意Bregman发散，FIOL在一般凸情形下具有$O(\sqrt{T})$遗憾，在强凸情形下具有$O(\log T)$遗憾，并且该遗憾避免了线性化的逼近误差，具有一步改进效果.然后，我们提出了有效的算法来解决FIOL的子问题。我们表明，即使子问题的解决方案没有封闭的形式，它可以解决的线性化在线算法的复杂性。实验验证了所提出的方法。
2019-02-06 cs.LG stat.ML
Implicit Riemannian Optimism with Applications to Min-Max Problems
Zuse Institute Berlin（柏林Zuse研究所）；Carlos III University of Madrid（马德里卡洛斯三世大学）
本文提出基于非精确隐式更新的Hadamard流形黎曼乐观在线学习算法，能处理流形内约束且不依赖几何常数，并据此开发了极小极大问题算法，首次几乎匹配欧几里得问题下界的梯度预言机复杂度。
2025-01-30 cs.LG math.OC
Data-Dependent Bounds for Online Portfolio Selection Without Lipschitzness and Smoothness
National Taiwan University（国立台湾大学）
该研究首次为非利普希茨、非光滑损失的在线凸优化场景下的在线投资组合选择，提出数据相关的小损失与渐变悔界，设计的算法兼具良好悔速率与计算效率，并给出新型理论分析方法。
2023-11-04 cs.LG math.OC stat.ML
Faster Margin Maximization Rates for Generic and Adversarially Robust Optimization Methods
College of Computing, Georgia Institute of Technology（佐治亚理工学院计算学院）；Google Research（谷歌研究院）；School of Electrical and Computer Engineering, Georgia Institute of Technology（佐治亚理工学院电气与计算机工程学院）；School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程学院）
针对 mirror descent、steepest descent 及对抗训练隐式偏差速率较慢的问题，本文将优化转化为正则化双线性博弈的在线学习动态，并利用遗憾界得到显著更快的最大间隔收敛速率。
2024-04-07 cs.LG
IGT-OMD: Implicit Gradient Transport for Decision-Focused Learning under Delayed Feedback
Thayer School of Engineering, Dartmouth College（达特茅斯学院泰勒工程学院）
本文提出IGT-OMD算法，通过隐式梯度传输减少延迟反馈下的传输误差，实现子线性 regrets 绑定，并在多个任务中验证了其有效性。
2026-05-12 cs.LG
Online Learning with Preference Feedback
Cornell University（康奈尔大学）
提出了一种新的带有偏好反馈的在线学习模型。该模型特别适用于Web搜索和推荐系统等应用程序，其中偏好数据很容易从隐式用户反馈（例如点击）中获得。特别地，在每个时间步骤，响应于上下文（例如查询）向用户呈现潜在结构化对象（例如排名），为他或她提供一些未观察到的效用量。作为反馈，算法接收到将提供更高效用的改进对象。我们提出了一个学习算法与可证明的遗憾界这个在线学习设置，并证明其有效性的网络搜索应用程序。新的学习模型也适用于许多其他的互动学习问题，并承认几个有趣的扩展。
2011-11-03 cs.AI cs.LG
Implicit Bias of Gradient Descent for Wide Two-layer Neural Networks Trained with the Logistic Loss
Laboratoire de Mathématiques d’Orsay（奥赛数学实验室）；CNRS（法国国家科学研究中心）；Université Paris-Saclay（巴黎萨克雷大学）；INRIA（法国国家信息与自动化研究所）；ENS（巴黎高等师范学院）；PSL Research University（PSL研究大学）
训练神经网络以最小化逻辑（也称为交叉熵）损失在许多监督分类任务中表现良好。为了理解这一现象，我们分析了具有均匀激活的无限宽两层神经网络的训练和泛化行为。我们表明，指数尾损失的梯度流的限制，可以充分表征为一个最大的利润分类在一定的非希尔伯特空间的功能。在存在隐藏的低维结构时，所得到的边缘是独立的环境维度，这导致强的推广界。相比之下，仅训练输出层隐式地解决了核支持向量机，其先验不具有这种自适应性。我们对训练的分析在运行时间方面是非定量的，但我们通过显示与在线镜像下降的等价性来证明简化设置中的计算保证。最后，数值实验表明，我们的分析很好地描述了具有ReLU激活的双层神经网络的实际行为，并证实了这种隐式偏差的统计优势。
2020-06-22 cs.LG math.OC stat.ML
Online and Stable Learning of Analysis Operators
Department of Mathematics, University of Innsbruck（因斯布鲁克大学数学系）
本文提出四种在线学习分析算子的迭代算法，基于优化原则，改进了分析K-SVD和分析SimCO，通过投影梯度下降、隐式欧拉方案和奇异值策略，在合成和图像数据上表现出更好的恢复率和更快的收敛速度。
2018-02-01 cs.LG cs.NA math.NA
Feature Dynamics as Implicit Data Augmentation: A Depth-Decomposed View on Deep Neural Network Generalization
State Key Laboratory of Mathematical Sciences, Academy of Mathematics and Systems Science, Chinese Academy of Sciences, Beijing 100190, China（数学科学国家重点实验室，数学与系统科学研究院，中国科学院，北京）；School of Mathematical Sciences, University of Chinese Academy of Sciences, Beijing 100049, China（数学科学学院，中国科学院大学，北京）；Shanghai Institute for Mathematics and Interdisciplinary Sciences 200433, China（上海数学与交叉科学研究院）
该研究从深度分解视角探究深度神经网络的泛化机制，发现特征演化的时间一致性可作为隐式结构化增强支持泛化，且SGD注入的各向异性噪声是其结构化可变性的来源，为相关研究提供了新视角。
2025-10-02 cs.LG
Infer Implicit Contexts in Real-time Online-to-Offline Recommendation
Koubei, Alibaba Group（阿里巴巴集团口碑）；Tsinghua University（清华大学）
理解用户上下文对于成功的推荐至关重要，特别是对于O2O推荐，如Yelp，Groupon和口碑。与传统推荐中个人偏好大多是静态的不同，O2O推荐应该是动态的，以捕捉用户在时间和位置上的变化。然而，精确地推断用户的实时的【形】上下文信息，特别是那些隐式的，是非常困难的，这是O2O推荐的核心挑战。在本文中，我们提出了一种新的方法，称为混合注意力约束去噪自动编码器（MACDAE），推断隐式上下文，从而提高质量的实时的【形】O2O推荐。在MACDAE中，我们首先利用用户，项目和显式上下文之间的交互来推断用户的隐式上下文，然后将学习到的隐式上下文表示组合到端到端模型中以进行推荐。MACDAE在实际系统中工作得很好。我们对所提出的方法进行了离线和在线评估。在几个真实世界的数据集（Yelp，Dianping和Koubei）上的实验表明，我们的方法可以实现比最先进的显着改进。此外，在线A/B测试表明，在现实世界的流量中，点击率提高了2.9%，转化率提高了5.6%。我们的模型已经在口碑网的“猜你喜欢”推荐产品中得到了应用。
2019-07-08 cs.IR cs.LG stat.ML
Implicitly Normalized Online PCA: A Regularized Algorithm with Exact High-Dimensional Dynamics
Machine Learning and Information Processing Group, KUIS AI Center（机器学习与信息处理组，KUIS人工智能中心）；Department of Electrical and Electronics Engineering（电子与电气工程系）
隐式归一化在线主成分分析（INO-PCA）通过动态范数演变和正则化更新，在高维极限下实现对问题相关信息的有效编码和利用，优于Oja算法并适应非平稳环境。
2025-12-01 cs.LG stat.ML
Tuning-Free Online Robust Principal Component Analysis through Implicit Regularization
Department of Electrical Engineering, Indian Institute of Technology Madras（电子工程系，印度理工学院马德拉斯）
针对标准在线鲁棒主成分分析（OR-PCA）依赖数据集敏感调参的问题，提出利用修正梯度下降的隐式正则化效应实现免调参，在模拟与真实数据集上表现优于或等同于调参后的OR-PCA，提升了大规模数据集的可扩展性。
2025-08-14 cs.CV cs.LG stat.ML
BubbleRank: Safe Online Learning to Re-Rank via Implicit Click Feedback
University of Amsterdam（阿姆斯特丹大学）；Google Research（谷歌研究院）；DeepMind（深度思维）；University of Alberta（阿尔伯塔大学）
在本文中，我们研究的问题，安全的在线学习重新排名，用户的反馈是用来提高显示列表的质量。学习排序传统上被研究在两个设置。在离线设置中，排名通常从法官创建的相关性标签中学习。这种方法通常已成为工业排名应用（如搜索）的标准。然而，这种方法缺乏探索，因此受到离线训练数据的信息内容的限制。在在线设置中，算法可以对列表进行实验，并以顺序的方式从反馈中学习。Bandit算法非常适合这种设置，但它们倾向于从头开始学习用户偏好，这导致了高昂的初始探索成本。这对排名列表中的安全探索提出了额外的挑战。我们提出了BubbleRank，一个强盗算法的安全重新排名，结合了离线和在线设置的优势。该算法从一个初始的基本列表开始，并通过逐渐将排名较高的不太有吸引力的项目交换为排名较低的更有吸引力的项目来在线改进它。我们证明了BubbleRank的n步遗憾的上限，优雅地降低了初始基础列表的质量。我们的理论研究结果得到了大规模现实世界点击数据集上的广泛实验的支持。
2019-06-29 cs.LG stat.ML
Online Data Selection Is Implicit Alignment
East China Normal University（华东师范大学）；Shanghai University（上海大学）
研究将在线数据选择视为隐式对齐机制，给定相同条件比较多种在线选择器在无偏好优化时引起的行为漂移，提出评估和量化方法，引入ADA和AAS，可在保持数据效率时限制安全和风格轴漂移。
2026-07-09 cs.LG
Implicit Parameter-free Online Learning with Truncated Linear Models
Boston University（波士顿大学）
无参数算法是不需要设置学习率的在线学习算法。他们实现了最佳的后悔相对于初始点和任何竞争对手之间的距离。然而，无参数算法不考虑损失的几何形状。最近，在随机优化文献中，有人提出使用截断线性下限，通过更紧密地建模损失来产生更好的性能。特别是，截断线性模型大大减少了过冲损失函数的最小值的问题。不幸的是，截断线性模型不能与无参数算法一起使用，因为更新的计算成本非常高。在本文中，我们提出了新的无参数算法，可以利用截断的线性模型，通过一个新的更新，有一个“隐式”的味道。基于一种新的分解的遗憾，新的更新是有效的，只需要一个梯度在每一步，永远不会超过截断模型的最小值，并保留了有利的参数自由属性。我们还进行了实证研究，证明我们的算法的实际效用。
2022-03-19 cs.LG
From Implicit to Explicit feedback: A deep neural network for modeling sequential behaviours and long-short term preferences of online users
Hanoi University of Science and Technology（河内理工大学）；VCCorp Corporation（VCCorp公司）
在这项工作中，我们研究了在推荐系统中使用多种类型的行为的优势。直觉上，每个用户都必须做一些隐式动作（例如，点击）之前做出明确的决定（例如，购买）。以往的研究表明，内隐和外显反馈有不同的作用，一个有用的建议。然而，这些研究要么分别利用内隐和外显行为，要么忽略了用户和项目之间的顺序交互的语义。此外，我们假设用户的偏好是长期和短期利益的组合。在本文中，我们提出了一些深度学习架构。第一种是隐式到显式（ITE），通过用户的行为序列来利用用户的兴趣。以及两个版本的ITE与双向编码器表示，从Transformers为基础的（BERT为基础的）架构称为BERT-ITE和BERT-ITE-Si，它结合了用户的长期和短期的喜好，没有和副信息，以提高用户的表示。实验结果表明，我们的模型优于以前的国家的最先进的，也证明了我们的意见，利用隐式显式顺序的有效性，以及结合长期和短期的偏好在两个大规模的数据集。
2021-07-26 cs.LG
An Implicit Form of Krasulina's k-PCA Update without the Orthonormality Constraint
University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）；Google Brain（谷歌大脑）
我们对在线$k$ -PCA问题的两个常用更新，即Krasulina和Oja的更新，提出了新的见解。我们发现，Krasulina的更新对应于一个投影梯度下降步骤的正交$k$ -帧的Stiefel流形上，而Oja的更新相当于一个梯度下降步骤使用的非投影梯度。根据这些观察，我们推导出Krasulina的$k$ -PCA更新的更多\emph{implicit}形式，即尽可能多地使用未来梯度信息的版本。最有趣的是，我们的隐式Krasulina更新通过绕过正交约束避免了昂贵的QR分解步骤。我们表明，新的更新实际上对应于一个在线EM步骤应用于概率$k$ -PCA模型。更新的概率视图允许我们在分布式设置中组合多个模型。我们的实验表明，隐式Krasulina更新产生优越的收敛性，同时显着更快。我们还提供了强有力的证据表明，新的更新可以受益于并行性和更稳定的w.r.t.调整学习率。
2019-09-11 cs.LG stat.ML
CoSyn: Detecting Implicit Hate Speech in Online Conversations Using a Context Synergized Hyperbolic Network
IIIT-Delhi（德里印度理工学院）；University of Maryland College Park（马里兰大学帕克分校）
本文提出CoSyn，一种上下文协同双曲神经网络，通过结合用户与对话上下文并利用双曲空间建模，有效检测在线对话中的隐式仇恨言论，在6个数据集上性能显著优于基线。
2023-10-24 cs.AI cs.CL cs.LG
Implicit Look-alike Modelling in Display Ads: Transfer Collaborative Filtering to CTR Estimation
University College London（伦敦大学学院）；MediaGamma Limited（MediaGamma有限公司）
用户行为定位在在线广告中至关重要。与赞助搜索关键字定位和上下文广告页面内容定位相比，用户行为定位通过跟踪用户的在线行为来建立用户的兴趣档案，然后根据每个用户的兴趣提供相关的广告，这导致更高的定位准确性，从而更好地改善广告效果。当前的用户分析方法包括构建关键字和主题标签或将用户映射到层次分类法。然而，据我们所知，有没有以前的工作，明确调查用户在线访问的相似性，并将这种相似性到他们的广告响应预测。在这项工作中，我们提出了一个通用的框架，学习用户简档的基础上，他们的在线浏览行为，并将学习到的知识，他们的广告响应的预测。在技术上，我们提出了一个基于概率潜在因素图模型的迁移学习模型，其中用户的广告响应配置文件是从他们的在线浏览配置文件生成的。基于真实世界数据的大规模实验表明，我们的解决方案在一些强基线上有显着的改善。
2016-01-11 cs.IR cs.LG
IR-MCL: Implicit Representation-Based Online Global Localization
University of Bonn（波恩大学）；University of Oxford（牛津大学）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所）
确定移动机器人的状态是机器人导航系统的重要组成部分。在本文中，我们解决了使用2D LiDAR数据估计机器人在室内环境中的姿态的问题，并研究了现代环境模型如何改善金标准蒙特卡罗定位（MCL）系统。我们提出了一个神经占用字段隐式地表示使用神经网络的场景。使用预训练的网络，我们可以通过体渲染合成任意机器人姿势的2D LiDAR扫描。基于隐式表示，我们可以获得合成和实际扫描之间的相似性作为观察模型，并将其集成到MCL系统中进行精确定位。我们评估我们的方法对自我记录的数据集和三个公开的。我们表明，我们可以准确和有效地定位机器人使用我们的方法超越了最先进的方法的定位性能。实验表明，所提出的隐式表示能够预测更准确的2D LiDAR扫描，从而为我们基于粒子滤波的定位提供改进的观察模型。我们的方法代码将在https://github.com/PRBonn/ir-mcl上提供。
2023-02-03 cs.AI cs.LG cs.RO
Implicit Temporal Differences
The Technion - Israel Institute of Technology（以色列理工学院）；Harvard University（哈佛大学）
在强化学习中，TD（$λ$）算法是一种基本的策略评估方法，具有高效的在线实现，适用于大规模问题。TD（$λ$）的一个实际缺点是其对步长选择的敏感性。这是一个经验上众所周知的事实，大的步长导致快速收敛，代价是更高的方差和不稳定的风险。在这项工作中，我们介绍了隐式TD（$λ$）算法，它具有相同的功能和计算成本的TD（$λ$），但显着更稳定。我们提供了一个理论解释这种稳定性和典型的基准任务的隐式TD（$λ$）的实证评估。我们的研究结果表明，隐式TD（$λ$）优于标准TD（$λ$）和一个国家的最先进的方法，自动调整步长，从而显示出广泛的适用性的承诺。
2014-12-21 cs.LG stat.ML
Efficient learning by implicit exploration in bandit problems with side observations
SequeL team, INRIA Lille – Nord Europe（SequeL团队，INRIA里尔–北欧地区）
本文提出了一种在部分可观测模型下实现近最优后悔保证的算法，通过隐式探索策略在不预先知晓观察系统的情况下提升效率，同时定义了新的部分信息设置以解决在线组合优化问题。
2026-04-27 cs.LG stat.ML
Consistent Position Bias Estimation without Online Interventions for Learning-to-Rank
Cornell University（康奈尔大学）
呈现偏差是从搜索引擎中的隐式反馈中学习时的关键挑战之一，因为它由于排名中的位置、显著性和其他呈现因素而将相关性信号与无信息信号混淆。虽然最近显示了如何反事实的学习排序（LTR）方法\cite{Joachims/etal/17a}可以证明克服演示偏差，如果观察倾向是已知的，它仍然显示如何准确地估计这些倾向。在本文中，我们提出了第一种方法来产生一致的倾向估计没有手动相关性判断，破坏性干预，或限制性的相关性建模假设。我们只需要我们有来自多个不同排名函数的隐式反馈数据。此外，我们认为，我们的估计技术适用于扩展类的上下文基于位置的倾向模型，其中倾向不仅取决于位置，但也可观察到的查询和文档的功能。初步的模拟研究证实，该方法是可扩展的，准确的，和强大的。
2018-06-09 cs.IR cs.LG stat.ML
CausalTAD: Causal Implicit Generative Model for Debiased Online Trajectory Anomaly Detection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；DiDi Global Inc.（滴滴全球公司）
本文提出因果隐式生成模型CausalTAD，通过do-演算消除路网偏好混杂偏置，以 $P({T}|do({C}))$ 作为异常判据，在训练轨迹和分布外数据上均显著提升轨迹异常检测性能。
2024-12-25 cs.LG
Exploratory Preference Optimization: Harnessing Implicit Q*-Approximation for Sample-Efficient RLHF
Microsoft（微软公司）
提出探索性偏好优化（XPO）算法，通过在 DPO 目标中增加探索奖励实现 RLHF 在线探索，兼具理论可证明的样本高效性与实证优越性。
2024-05-31 cs.AI cs.CL cs.LG
Generalized Implicit Follow-The-Regularized-Leader
Boston University（波士顿大学）
本文提出广义隐式 FTRL 框架，利用 Fenchel-Young 不等式替代损失线性化，统一并扩展了 FTRL、隐式 FTRL、aProx 和 Mirror-Prox 等算法，可直接改进最坏情况遗憾上界，并以相同计算复杂度恢复隐式 OMD 的时间变化界。
2023-05-31 cs.LG math.OC stat.ML
Inverse Multiobjective Optimization Through Online Learning
Amazon（亚马逊）；University of Pittsburgh（匹兹堡大学）
我们研究的问题，学习的目标函数或约束的多目标决策模型的基础上，一组顺序到达的决定。特别是，这些决策可能不准确，可能带有测量噪声，或者是决策者有限理性的结果。在本文中，我们提出了一个通用的在线学习框架来处理这个学习问题，使用逆多目标优化。更准确地说，我们开发了两个在线学习算法与隐式更新规则，可以处理噪声数据。数值结果表明，这两种算法都能很好地学习参数，并且对噪声具有很好的鲁棒性。
2022-12-24 cs.LG math.OC
Generalized Inverse Optimization through Online Learning
University of Pittsburgh（匹兹堡大学）；Duke University（杜克大学）
逆优化是一种强大的学习偏好和限制的范例，可以根据一组外部信号和相应的决策对来解释决策者的行为。然而，大多数逆优化算法是专门设计在批量设置，其中所有的数据是预先可用的。因此，很少在适合于实时应用的在线设置中使用这些方法。在本文中，我们提出了一个通用的框架，通过在线学习逆优化。具体来说，我们开发了一个在线学习算法，使用隐式更新规则，可以处理噪声数据。此外，在额外的规律性假设的数据和模型，我们证明了我们的算法收敛速度为$\mathcal{O}(1/\sqrt{T})$，是统计上一致的。在我们的实验中，我们表明，在线学习方法可以学习的参数具有很高的精度，是非常强大的噪声，并实现了显着提高计算效率的批处理学习方法。
2018-11-02 cs.LG math.OC stat.ML
Dynamic Ensemble Bayesian Filter for Robust Control of a Human Brain-machine Interface
Zhejiang University School of Medicine（浙江大学医学院）；Affiliated Mental Health Center & Hangzhou Seventh People’s Hospital（附属精神卫生中心暨杭州市第七人民医院）；Qiushi Academy for Advanced Studies, Zhejiang University（浙江大学求是高等研究院）；Zhejiang Lab（之江实验室）；Second Affiliated Hospital of Zhejiang University School of Medicine（浙江大学医学院附属第二医院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）
目的：脑机接口（BMI）旨在为假肢和计算机光标等设备提供直接的大脑控制，这些设备已被证明具有恢复活动能力的巨大潜力。目前的BMI的一个主要局限性在于由于神经信号的可变性而导致在线控制的不稳定性能，这严重阻碍了BMI的临床可用性。方法：针对在线BMI控制中神经元的变异性，提出了一种动态集成贝叶斯滤波器（DyEnvelope）。DyEntrance通过动态测量模型扩展了贝叶斯滤波器，该模型可以根据神经变化及时自适应地调整其参数。这是通过学习候选函数池并根据神经信号动态加权和组装它们来实现的。通过这种方式，DyEntrance可以应对信号的变化，提高在线控制的鲁棒性。结果如下：与速度卡尔曼滤波器相比，DyEntrance显著提高了控制精度（在随机目标追踪任务中，成功率提高了13.9%，到达时间减少了13.5%）和鲁棒性（在不同的实验日期内表现得更稳定）。结论：我们的研究结果证明了DyEntrance在在线BMI控制方面的优越性。重要性：DyEntrance为鲁棒神经解码构建了一个新颖灵活的框架，有利于不同的神经解码应用。
2022-04-22 cs.AI cs.LG eess.SP
Implicit Interpretation of Importance Weight Aware Updates
Boston University（波士顿大学）
该研究针对次梯度下降学习率调优难的问题，基于广义隐式FTRL框架首次证明在线学习场景下IWA更新的遗憾上界严格优于普通梯度更新，表明IWA更新是近似隐式/近端更新，补充了其理论解释。
2023-07-22 cs.LG
Multi-Dueling Bandits and Their Application to Online Ranker Evaluation
University of Copenhagen（哥本哈根大学）；University College London（伦敦大学学院）
新的排名算法正在不断开发和完善，需要开发有效的方法来评估这些排名。在线排名评估的重点是有效地确定的挑战，从隐式用户反馈，排名的有限集合的排名是最好的。在线排名评估可以通过决斗禁令来建模，决斗禁令是一种用于在成对比较的有限反馈下的在线学习的数学模型。排名对的比较是通过交错结果集和检查用户点击的文档来执行的。决斗强盗模型解决了在每次迭代中比较哪对排名的关键问题，从而为探索-利用权衡提供了解决方案。最近，已经开发了用于同时比较两个以上的排序器的方法。然而，在每次迭代中比较哪些排名的问题是开放的。我们解决这个问题，提出了一个推广的决斗土匪模型，使用同时比较的一个不受限制的排名。我们评估我们的算法上的合成数据和几个标准的大规模在线排名评估数据集。我们的实验结果表明，该算法产生的数量级的改善性能相比，国家的最先进的决斗强盗算法。
2016-08-22 cs.IR cs.LG stat.ML
HiHa: Introducing Hierarchical Harmonic Decomposition to Implicit Neural Compression for Atmospheric Data
Jilin University（吉林大学）；Institute of Atmospheric Physics（大气物理研究所）
针对大气数据压缩难题，提出HiHa方法，通过分层谐波分解和多尺度隐式神经表示实现高保真高压缩率，实验证明其优于现有方法且压缩数据不影响下游模型精度。
2024-11-09 cs.IT cs.LG math.IT
Deciphering Implicit Hate: Evaluating Automated Detection Algorithms for Multimodal Hate
Anti-Defamation League（反诽谤联盟）；The Alan Turing Institute（艾伦·图灵研究所）；University of Oxford（牛津大学）；Meedan
准确检测和分类在线仇恨是一项艰巨的任务。隐性仇恨尤其具有挑战性，因为此类内容往往具有不寻常的句法、多义词和较少的偏见标记（例如，污言秽语）。这个问题在多模态内容（例如模因（文本和图像的组合））中更加突出，因为它们通常比单峰内容（例如，单独的文本）。本文评估的作用，语义和多模态的情况下，检测内隐和外显的仇恨。我们发现，文本和视觉丰富都提高了模型的性能，多模态模型（0.771）优于其他模型的F1得分（0.544，0.737和0.754）。虽然单模态文本上下文感知（Transformer）模型在隐性仇恨检测子任务上最准确，但多模态模型总体上优于它，因为误报的倾向较低。我们发现，所有的模型执行更好的内容与充分的注释者协议，多模态模型是最好的分类内容注释者不同意。为了进行这些调查，我们对5,000个多式联运条目的样本进行了高质量的注释。对推文的主要类别、模式和策略进行了注释。我们使这个语料库，连同码本，代码和最终模型，免费提供。
2021-06-10 cs.CL cs.CV cs.CY
