Characterization of Frequent Online Shoppers using Statistical Learning with Sparsity
ArangoDB Inc(ArangoDB公司);Chitek-i
开发让客户满意的购物体验需要企业了解客户的品味。这项工作报告了一种方法来学习经常购物者的购物偏好,以在线礼品店结合零售分析和统计学习的思想与稀疏。购物活动被表示为二分图。该图通过应用基于稀疏性的统计学习方法进行细化。这些方法是可解释的,并揭示了有关客户偏好以及产品驱动商店收入的见解。
2021-11-11 cs.LG
LOFS: Library of Online Streaming Feature Selection
University of South Australia(南澳大学);University of Massachusetts Boston(马萨诸塞大学波士顿分校);University of Vermont(佛蒙特大学)
作为一个新兴的研究方向,在线流特征选择处理的是在一个特征空间中连续增加的维度,而数据实例的数量是固定的。在线流特征选择提供了一种新的、互补的算法方法来丰富在线特征选择,特别是针对大数据分析中的高维度。本文介绍了第一个在MATLAB中使用的全面的开源库,它实现了在线流特征选择的最新算法。该库旨在促进这一令人兴奋的研究方向的新算法的开发,并在新方法和现有方法之间进行比较。
2016-03-02 cs.LG stat.ML
SGD momentum optimizer with step estimation by online parabola model
Jagiellonian University(雅盖隆大学)
在随机梯度下降中,特别是在神经网络训练中,目前主要的一阶方法是:不将局部距离建模为最小。最佳步长所需的这些信息由二阶方法提供,然而,它们有许多困难,从具有系数维数平方的全Hessian开始。本文提出了一个从成功的一阶动量法到二阶动量法的最小步骤:单方向在线抛物线建模:动量法的归一化$\hat{v}$。通过估计$\hat{v}$方向上的梯度$\vec{g}=\nabla F(\vecθ)$的线性趋势来完成:使得$g(\vecθ_\bot+θ\hat{v})\approx λ(θ-p)$用于$θ= \vecθ\cdot \hat{v}$、$g= \vec{g}\cdot \hat{v}$、$\vecθ_\bot=\vecθ-θ\hat{v}$。使用线性回归,$λ$、$p$是通过在所考虑的方向上仅更新四个平均值($g$、$θ$、$gθ$、$θ^2$)来估计的MSE。指数移动平均线允许在这里进行廉价的在线估计,削弱了旧梯度的贡献。控制曲率的符号$λ$,我们可以从鞍排斥,而不是在标准牛顿方法中的吸引。在其余的方向:在二阶模型中不考虑,我们可以同时执行例如梯度下降。还讨论了其学习率近似为$μ=σ_θ/ σ_g$,允许例如自适应SGD -对于每个参数分别优化(二阶)学习率。
2019-12-09 cs.LG stat.ML
Online Parallel Multi-Task Relationship Learning via Alternating Direction Method of Multipliers
School of Computer Science and Technology, Xidian University(西安电子科技大学计算机科学与技术学院);Tencent AI Lab, Tencent Inc(腾讯公司腾讯AI实验室);MBZUAI(穆罕默德·本·扎耶德人工智能大学);School of Intelligent Engineering, Henan Institute of Technology(河南工程学院智能工程学院)
针对在线多任务学习中的梯度消失和集中式瓶颈问题,提出基于ADMM的并行框架,动态建模任务关系,支持去中心化部署,实验证明其精度和效率优于SGD方法。
2024-11-09 cs.AI cs.DC cs.LG
An Online Convex Optimization Approach to Blackwell's Approachability
Technion – Israel Institute of Technology(以色列理工学院)
布莱克威尔在20世纪50年代提出了向量收益重复博弈中可接近性的概念,以及可接近性的几何条件和相应的策略,这些策略依赖于计算{ \em转向方向}作为从当前平均收益向量到(凸)目标集的投影。最近,Abernethy,Batlett和Hazan(2011)提出了一类可接近性算法,该算法依赖于在线线性规划的无遗憾属性来计算合适的转向方向序列。这是第一次进行的目标集是凸锥,然后推广到任何凸集嵌入到一个更高的维凸锥。在本文中,我们提出了一个更直接的配方,依赖于支持函数的集合,随着合适的在线凸优化算法,这导致了一般类的逼近算法。我们进一步表明,Blackwell的原始算法及其收敛性作为一个特殊情况。
2015-03-01 cs.GT cs.LG
Particle swarm optimization for online sparse streaming feature selection under uncertainty
Chongqing University of Posts and Telecommunications(重庆邮电大学);Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences(中国科学院重庆绿色智能技术研究院)
针对在线稀疏流式特征选择中特征-标签关系不确定和数据不完整问题,提出融合粒子群优化与三支决策的POS2FS框架,在六个真实数据集上验证其优于现有OSFS和OS2FS方法。
2025-08-24 cs.AI cs.LG cs.NE
Online Optimization : Competing with Dynamic Comparators
University of Pennsylvania(宾夕法尼亚大学);Cornell University(康奈尔大学)
最近的在线学习的文献集中在开发自适应算法,利用观察序列的规律性,但保留最坏情况下的性能保证。一个补充方向是开发预测方法,在复杂的基准测试中表现良好。在本文中,我们一起解决这两个方向。我们提出了一个完全自适应的方法,竞争与动态基准,其中遗憾的保证规模与规则性的成本函数和比较器的序列。值得注意的是,遗憾界适应问题环境中较小的复杂性度量。最后,我们将我们的研究结果漂移零和,两个球员的游戏,双方球员实现没有遗憾的保证对最好的行动序列事后诸葛亮。
2015-01-26 cs.LG math.OC stat.ML
Stochastic Online Optimization for Cyber-Physical and Robotic Systems
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zürich(苏黎世联邦理工学院)
本文提出了一种基于梯度的在线优化框架,用于解决网络物理和机器人系统中的随机规划问题,通过整合动态近似模型和非凸设置下的收敛分析,提升算法收敛性并验证其在多种机器人仿真和实际实验中的有效性。
2026-01-03 cs.LG cs.RO
A Multi-parameter Updating Fourier Online Gradient Descent Algorithm for Large-scale Nonlinear Classification
大规模非线性分类是支持向量机领域中一个具有挑战性的课题。在线随机傅立叶特征映射算法是处理大规模非线性分类问题的重要方法。这些方法的主要缺点是:(1)由于在学习过程中只更新超平面向量,而随机方向是固定的,因此不能保证这些在线方法在数据逐个到来时能够适应数据分布的变化。(2)为了获得更好的分类精度,随机方向的维数往往更高,这导致更长的测试时间。为了克服这些缺点,提出了一种基于随机特征映射的多参数更新傅立叶在线梯度下降算法(MPU-FOGD).在该方法中,所提出的随机特征映射具有较低的维数,而多参数更新策略可以保证学习模型在数据逐个到来时能够更好地适应数据分布的变化。从理论上证明了与现有的随机傅立叶特征映射相比,所提出的随机傅立叶特征映射可以给出更严格的误差界。在多个基准数据集上的实验结果表明,与现有的在线随机傅立叶特征映射方法相比,该方法具有更好的测试精度.
2022-03-16 cs.LG eess.SP
An Improved Frequent Directions Algorithm for Low-Rank Approximation via Block Krylov Iteration
Center for Intelligent Decision-making and Machine Learning, Xi’an Jiaotong University(西安交通大学智能决策与机器学习研究中心);Xi’an Jiaotong University(西安交通大学)
频繁方向作为一种确定性的矩阵绘制技术,已被提出用于解决低秩近似问题。该方法具有较高的精度和实用性,但对于大规模数据需要大量的计算量。最近的一些随机版本的频繁方向的工作大大提高了计算效率,但不幸的是牺牲了一些精度。为了解决这个问题,本文的目的是找到一个更准确的投影子空间,以进一步提高现有的频繁方向技术的效率和有效性。利用块Krylov迭代和随机投影技术,提出了一种快速、精确的频繁方向算法r-BKIFD。严格的理论分析表明,该算法具有与原频繁方向算法相当的误差界,并且当迭代次数选择适当时,逼近误差可以任意小.在合成数据和真实数据上的大量实验结果进一步证明了r-BKIFD在计算效率和精度方面优于几种流行的频繁方向算法。
2022-03-04 cs.LG
Online Batch Selection for Faster Training of Neural Networks
Univesity of Freiburg(弗莱堡大学)
深度神经网络通常使用随机非凸优化过程进行训练,该过程由在数据集的分数(批次)上估计的梯度信息驱动。虽然人们普遍认为批量大小是离线调优的一个重要参数,但对在线选择批量的好处仍然知之甚少。我们调查在线批量选择策略的两个国家的最先进的方法的随机梯度为基础的优化,AdaDelta和亚当。由于整个数据集要最小化的损失函数是各个数据点的损失函数的聚合,直观地说,应该更频繁地考虑(批量选择)具有最大损失的数据点。然而,这种直觉的局限性和随着时间的推移对选择压力的适当控制是一个悬而未决的问题。我们提出了一个简单的策略,所有的数据点排名w.r.t.它们的最新已知损失值和被选择的概率作为等级的函数呈指数衰减。我们在MNIST数据集上的实验结果表明,选择批次可以将AdaDelta和Adam的速度提高约5倍。
2016-04-25 cs.LG cs.NE math.OC
Direction-Aware Offline-to-Online Learning in Linear Contextual Bandits
Department of Industrial Engineering and Decision Analytics(工业工程与决策分析系)
本文提出Ellipsoidal-MINUCB算法,通过引入方向偏置证书解决离线到在线学习中的方向性偏置问题,提高在线学习的性能。
2026-05-07 cs.LG
DFORD: Directional Feedback based Online Ordinal Regression Learning
Machine Learning Lab, Kohli Center on Intelligent Systems, IIIT Hyderabad, India(机器学习实验室,Kohli智能系统中心,IIIT海得拉尔,印度);IIIT Hyderabad, India(IIIT海得拉尔,印度)
DFORD通过方向反馈实现在线序回归,采用探索-利用策略并引入核方法,有效降低内存消耗,实现O(log T)的遗憾界。
2025-12-22 cs.LG
Ridge Regression with Frequent Directions: Statistical and Optimization Perspectives
University of Warwick(华威大学)
尽管频繁方向(\acrshort{fd})在理论和实践上都有令人印象深刻的表现,但它在大规模回归问题中并没有得到广泛的应用。先前的工作表明,随机化草图(i)在估计数据的协方差矩阵方面比\acrshort{fd}表现更差;(ii)在估计草图岭回归的偏倚和/或方差时产生高误差。本文给出了基于\acrshort{fd}的概略岭回归模型的偏差和方差的第一常数因子相对误差界。我们补充这些统计结果表明,\acrshort{fd}可用于优化设置,通过迭代方案,产生高精度的解决方案。这改进了随机化方法,这些方法需要在每次迭代时都需要一个新的草图,以加快收敛速度。在这两种设置中,我们还表明使用\emph{Robust Frequent Directions}进一步增强了性能。
2020-11-06 cs.DS cs.LG stat.ML
Particle-based Online Bayesian Sampling
University of California, Santa Barbara(加州大学圣巴巴拉分校);Microsoft Research Asia(微软亚洲研究院)
在线优化由于其跟踪真实世界流数据的能力而获得了越来越多的关注。虽然在线优化方法已被广泛研究的设置频率统计,很少有作品考虑在线优化与贝叶斯抽样问题。在本文中,我们研究了在线粒子变分推理(OPVI)算法,使用一组粒子来表示近似分布。为了减少使用随机近似所造成的梯度误差,我们包括一个次线性增加批量的方法,以减少方差。为了跟踪一系列动态变化的目标后验序列的OPVI算法的性能,我们提供了一个详细的理论分析,从Wasserstein梯度流的角度与动态遗憾。综合实验和贝叶斯神经网络实验表明,该算法比单纯应用现有的贝叶斯抽样方法在在线环境下取得了更好的效果。
2023-02-28 cs.LG
Whats in a Video: Factorized Autoregressive Decoding for Online Dense Video Captioning
Google Deepmind(谷歌DeepMind)
本文提出一种基于分因式自回归解码的在线密集视频描述方法,无需未来帧即可输出频繁且时间对齐的局部字幕,并通过训练推理优化支持长视频,性能优于现有方法且计算量降低20%。
2024-11-22 cs.CL cs.CV cs.LG
Effective Streaming Low-tubal-rank Tensor Approximation via Frequent Directions
Xi’an Jiaotong University(西安交通大学)
低管秩张量近似被提出来分析大规模和多维数据。然而,由于有限的计算资源,在流媒体设置中找到这样的精确近似是具有挑战性的。为了缓解这个问题,本文扩展了一个流行的矩阵素描技术,即频繁方向,构造一个高效和准确的低管秩张量近似流数据的基础上张量奇异值分解(t-SVD)。具体地说,新算法允许张量数据被逐层观察,但只需要维护和增量更新一个小得多的草图,可以捕获原始张量的主要信息。严格的理论分析表明,当草图尺寸线性增长时,新算法的逼近误差可以任意小。大量的实验结果合成和真实的多维数据进一步揭示了该算法的优越性相比,其他素描算法获得低管秩近似,在效率和精度方面。
2021-08-23 cs.LG stat.ML
Dynamic Learning with Frequent New Product Launches: A Sequential Multinomial Logit Bandit Problem
University of California, Berkeley(加州大学伯克利分校);IBM Research(IBM研究院)
受企业推出新产品以跟上顾客快速变化的品味这一现象的启发,我们考虑了一种新颖的在线学习设置,其中利润最大化的卖家需要通过提供推荐来了解顾客的偏好,该推荐可能包含现有产品和在销售期间推出的新产品。我们提出了一个序列多项logit(SMNL)模型来描述客户的行为时,产品推荐是在层次。对于已知客户偏好的离线版本,我们提出了一个多项式时间算法,并描述了最优分层产品推荐的性质。对于在线问题,我们提出了一种学习算法,并量化了它的遗憾界。此外,我们扩展了设置,以纳入一个约束,以确保每个新产品都学习到给定的精度。我们的研究结果表明,层次结构可以用来减轻与学习新产品相关的风险。
2019-04-29 cs.LG stat.ML
Learning-Augmented Frequent Directions
University of Copenhagen(哥本哈根大学);MIT(麻省理工学院);UW-Madison(威斯康星大学麦迪逊分校);University of Waterloo(滑铁卢大学)
本文简化并推广了学习增强的频次估计,提出了误差更小的Misra-Gries算法变体,并将学习增强扩展至高维矩阵流,分析了Frequent Directions算法的变体。
2025-03-02 cs.DS cs.LG
Online Competitive Influence Maximization
Carnegie Mellon University(卡内基梅隆大学);The Chinese University of Hong Kong(香港中文大学);Microsoft Research(微软研究院)
在线影响力最大化作为一种在学习未知网络参数值的同时最大化通过社交网络传播的影响力的方式已经引起了很多关注。大多数以前的作品集中在单个项目的扩散。在本文中,我们引入了一个新的在线竞争影响力最大化(OCIM)问题,其中两个竞争项目(例如,产品、新闻故事)在同一网络中传播,并且边缘上的影响概率是未知的。我们采用了组合多臂强盗(CMAB)框架OCIM,但与非竞争性设置,重要的单调性属性(影响扩散增加时,边缘上的影响概率增加)不再持有由于竞争性质的传播,这带来了一个重大的新挑战的问题。我们提供了一个非平凡的证明,CMAB的触发概率调制(TPM)条件仍然保持在OCIM,这是我们提出的算法OCIM-TS和OCIM-OFU实现次线性贝叶斯和频率后悔,分别是有用的。我们还设计了一个OCIM-ETC算法,需要更少的反馈和更容易的离线计算,在一个更坏的频率论遗憾界的代价。实验结果证明了算法的有效性。
2022-03-02 cs.LG cs.SI stat.ML
Offline-to-Online Learning in Linear Bandits
University of Tokyo(东京大学)
针对随机线性Bandit问题,提出一种平衡离线数据与在线探索的算法,实现次线性遗憾并随离线样本增加降低离线参考遗憾。
2026-06-03 cs.LG stat.ML
Direction-Conditioned Policies for Online Goal-Conditioned Reinforcement Learning
Indian Institute of Technology Kharagpur(印度理工学院卡哈拉格普尔分校)
提出方向条件化策略(DCP),通过利用表示空间中的方向与距离信息改进对比强化学习,在多个导航和操作任务中提升成功率和目标接近时间,并验证其几何捕获能力。
2026-10-06 cs.AI cs.LG cs.RO
Deep Reinforcement Learning for Online Optimal Execution Strategies
Imperial College London(伦敦帝国学院)
本文提出基于DDPG的演员-评论家算法,用于在具有一般衰减核瞬时价格冲击的动态市场中学习非马尔可夫最优执行策略,并通过数值实验验证其逼近效果与对时变市场条件的适应性。
2024-10-17 cs.LG stat.ML
Efficient Multinomial Logistic Bandit via Frequent Directions
State Key Laboratory of Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院);Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院)
针对多项式逻辑斯蒂老虎机的高维计算瓶颈,提出集成频繁方向矩阵素描的EOFD-MLogB算法,将每轮复杂度降至O(Kd(m+K)^2)时间和O(Kd(m+K))空间,并证明其遗憾界接近原算法。
2026-06-11 cs.LG stat.ML
Conversion rate prediction in online advertising: modeling techniques, performance evaluation and future directions
Huazhong University of Science and Technology(华中科技大学);Zhengzhou University(郑州大学)
本文综述了在线广告中CVR预测的建模技术、性能评估及未来方向,探讨了不同技术的联系与挑战。
2025-12-01 cs.AI cs.IR cs.LG
Direction-Conditioned Policies via Compositional Subgoal Scoring for Online Goal-Conditioned Reinforcement Learning
Department of Computer Science and Engineering, Indian Institute of Technology Kharagpur(计算机科学与工程系,印度理工学院Kharagpur分校);Department of Mechanical Engineering, Indian Institute of Technology Kharagpur(机械工程系,印度理工学院Kharagpur分校)
提出方向条件策略(DCP),通过共享InfoNCE表示将目标达成分解为子目标评分和方向条件动作,理论证明方向充分性、训练与部署一致性及可控子空间失效条件,在九个环境中优于对比RL。
2026-06-16 cs.AI cs.LG cs.RO
Online Learning in Kernelized Markov Decision Processes
Indian Institute of Science(印度科学学院)
我们考虑在线学习在未知的,情节马尔可夫决策过程(MDP)的连续状态和行动的遗憾最小化。我们开发的UCRL和后验采样算法,采用非参数高斯过程先验的状态和动作空间概括的变种。当真正的MDP的过渡和奖励功能的成员相关联的再生核希尔伯特空间的对称PSD内核(频率设置)引起的功能,我们发现,算法享受次线性遗憾界。边界是在显式的核结构参数,即一种新的推广的信息增益度量从核土匪,并突出了过渡和奖励函数结构对学习性能的影响。我们的结果是适用于多维状态和行动空间的复合核结构,并推广的结果,从文献中的核土匪,和自适应控制的参数线性动力系统的二次成本。
2019-01-03 cs.LG stat.ML
(Optimal) Online Bipartite Matching with Degree Information
MIT(麻省理工学院)
我们提出了一个在线图问题的模型,其中算法可以访问预测(例如,基于建模假设或基于过去的数据)图中节点的度。在这个模型中,我们研究了在线二分匹配的经典问题,和一个自然的贪婪匹配算法MinPredictedDegree,它使用离线节点的度的预测。对于Chung,Lu和Vu的随机图模型的二分版本,其中离线度的预期值是已知的并用作预测,我们证明了MinPredictedDegree随机图支配任何其他在线算法,即,对于从该模型绘制的图是最佳的。由于模型的“对称”版本(其中所有在线节点都是相同的)是经过充分研究的“已知i.i.d.模型”,由此得出MinPredictedDegree对这些输入的竞争比至少为0.7299。对于幂律度分布图的特殊情况下,我们表明,MinPredictedDegree经常产生匹配几乎一样大,真正的最大匹配这样的图。我们补充这些结果与一个广泛的实证评估表明,MinPredictedDegree比较有利的最先进的在线算法进行在线匹配。
2022-11-14 cs.DS cs.LG
Analysis of Online Toxicity Detection Using Machine Learning Approaches
Delhi Technological University(德里理工大学)
社交媒体和互联网已经成为人们传播和消费信息的一个组成部分。在一段时间内,社交媒体发生了巨大的变化,几乎一半的人口使用社交媒体表达他们的观点和意见。网络仇恨言论是当今社交媒体的弊端之一,需要加以控制。在本文中,我们将了解仇恨言论是如何起源的,以及它的后果是什么;机器学习算法解决在线仇恨言论问题的趋势。这项研究有助于提供一个系统的方法,以帮助研究人员确定一个新的研究方向,并阐明研究和模型的缺点,以及提供未来的方向,以推进该领域。
2021-04-23 cs.CL cs.CY cs.LG
Direction-Aware Adaptive Online Neural Speech Enhancement with an Augmented Reality Headset in Real Noisy Conversational Environments
Center for Advanced Intelligence Project (AIP), RIKEN(理化学研究所先进智能项目中心);Graduate School of Informatics, Kyoto University(京都大学信息学研究科);National Institute of Advanced Industrial Science and Technology (AIST)(日本产业技术综合研究所);LTCI, Télécom Paris, Institut Polytechnique de Paris(巴黎理工学院巴黎电信学院信息处理与通信实验室)
本文描述了用于增强现实(AR)耳机的在线语音增强的实际响应和性能感知开发,该增强现实(AR)耳机帮助用户理解在真实嘈杂的回声环境中进行的对话(例如,鸡尾酒会)。可以使用称为快速多通道非负矩阵分解(FastMNMF)的最先进的盲源分离方法,由于其无监督性质,该方法在各种环境中工作良好。然而,其沉重的计算成本,阻止其应用到实时处理。相比之下,使用深度神经网络(DNN)来估计语音和噪声的空间信息的监督波束成形方法很容易适应实时处理,但在失配条件下会遭受严重的性能下降。鉴于这种互补的特点,我们提出了一种双进程鲁棒在线语音增强方法的基础上基于DNN的波束形成与FastMNMF指导的适应。FastMNMF(后端)以小批量方式执行,并且噪声和增强的语音对与原始并行训练数据一起使用,用于以计算允许的间隔用反向传播更新方向感知DNN(前端)。该方法与称为加权预测误差(WPE)的盲去混响方法一起使用,用于以流式方式转录说话者的有噪混响语音,该语音可以从视频中检测到或者通过用户的手势或眼睛注视来选择,并且利用AR技术在空间上示出转录。我们的实验表明,单词错误率提高了10个点以上的运行时适应使用只有12分钟的观察。
2022-07-15 cs.LG cs.SD eess.AS
Online Model-based Anomaly Detection in Multivariate Time Series: Taxonomy, Survey, Research Challenges and Future Directions
Mercedes-Benz AG(梅赛德斯-奔驰公司);Leiden University(莱顿大学)
本文综述了多元时间序列中基于模型的在线半监督与无监督异常检测方法,提出在线/离线与训练/推理的新分类法,并指出基准测试、数据集缺陷和评估指标不足是核心挑战。
2024-09-19 cs.AI cs.LG cs.SY
Stochastic Regret Guarantees for Online Zeroth- and First-Order Bilevel Optimization
Amirkabir University of Technology(阿姆斯泰尔大学);University of Pennsylvania(宾夕法尼亚大学);Samsung SDS Research America(三星SDS美国研究部);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出了一种新的搜索方向,证明了利用该方向的零阶和一阶随机在线双层优化算法能够在不使用窗口平滑的情况下实现亚线性随机双层遗憾。此外,该框架通过减少超梯度估计中的oracle依赖、同时更新内层和外层变量以及使用基于零阶的Hessian、雅可比和梯度估计来提高效率。
2026-05-19 cs.LG cs.NA math.NA