Logarithmic Regret for Adversarial Online Control
MIT(麻省理工学院);UC Berkeley(加州大学伯克利分校)
针对一类已知的具有对抗性干扰的系统,提出了一种在线线性二次型控制的新算法。现有的遗憾界为$\sqrt{T}$的设置规模,除非强随机假设施加在扰动过程。我们给出了第一个算法与对数遗憾任意对抗性干扰序列,提供的状态和控制成本由已知的二次函数。我们的算法和分析使用的最优离线控制律的表征减少在线控制问题(延迟)在线学习近似优势函数。与以前的技术相比,我们的方法不需要控制迭代的移动成本,导致对数遗憾。
2020-06-23 cs.LG math.OC stat.ML
Dynamical Models and Tracking Regret in Online Convex Programming
Duke University(杜克大学)
本文介绍了一种新的在线凸优化方法,它结合了一个家庭的候选动力学模型,并建立了新的跟踪遗憾界的规模与比较器的偏差,在这个家庭中的最佳动力学模型。先前的在线优化方法被设计为具有与最佳比较器序列的总累积损失相当的总累积损失,并且现有的跟踪或移位遗憾界限随着比较器序列的总体变化而缩放。然而,在许多实际情况下,环境是非平稳的,并且具有小变化的比较器序列是相当弱的,从而导致大的损失。相比之下,所提出的动态镜像下降方法可以通过跟踪最佳动态模型并基于该模型形成预测来产生相对于高度可变的比较器序列的低遗憾。这一概念在动态场景的连续压缩观察和跟踪动态社交网络的背景下实证。
2013-01-07 cs.LG stat.ML
Online Convex Optimization in Adversarial Markov Decision Processes
Tel Aviv University(特拉维夫大学);Google Research(谷歌研究院)
我们考虑在线学习在情节无环马尔可夫决策过程(MDP),其中的损失函数可以任意改变情节之间,和过渡函数是未知的学习。我们展示了$\tilde{O}(L|X|\sqrt{|A|T})$后悔边界,其中$T$是情节的数量,$X$是状态空间,$A$是动作空间,$L$是每个情节的长度。我们的在线算法是使用熵正则化方法实现的,它允许扩展原始的对抗MDP模型来处理凸性能标准(不同的方式来聚合单个事件的损失),以及改进以前的遗憾界限。
2019-05-19 cs.AI cs.LG stat.ML
Combining Adversarial Guarantees and Stochastic Fast Rates in Online Learning
Centrum Wiskunde & Informatica(荷兰国家数学与计算机科学研究所);Leiden University(莱顿大学)
我们考虑在线学习算法,保证最坏情况下的后悔率在对抗性的环境(因此,他们可以安全地部署,并将执行鲁棒性),但最佳地适应有利的随机环境(因此,他们将在各种实际重要性的设置表现良好)。我们通过著名的伯恩斯坦(a.k.a.广义Tsybakov边限)条件。对于最近的两个算法(眯着眼睛的对冲设置和MetaGrad的在线凸优化),我们表明,他们的数据依赖的个人序列的遗憾保证的特定形式意味着他们自动适应随机环境的伯恩斯坦参数。我们证明,这些算法在各自的设置中达到快速的速度都在预期和高概率。
2016-05-20 cs.LG
Between Stochastic and Adversarial Online Convex Optimization: Improved Regret Bounds via Smoothness
University of Amsterdam(阿姆斯特丹大学);Korteweg-de Vries Institute for Mathematics(科尔特韦格-德弗里斯数学研究所);University of Twente(特文特大学);Pontificia Universidad Católica de Chile(智利天主教大学)
随机数据和对抗数据是在线学习中被广泛研究的两种环境。但许多优化任务既不是独立同分布的。也不是完全敌对的,这使得它的根本利益,以获得更好的理论理解之间的世界这两个极端。在这项工作中,我们建立了新的遗憾界在线凸优化的设置,随机i.i.d.之间插值。和完全对抗性的损失通过利用预期损失的平滑性,这些界限用梯度的方差代替了对最大梯度长度的依赖性,这在以前只针对线性损失是已知的。另外,他们削弱了i.i.d.假设,例如,允许敌对中毒轮,这是以前考虑在专家和土匪设置。我们的结果扩展到在线凸优化框架。在完整的身份证上。在这种情况下,我们的边界匹配随机加速结果的预期速率,并且在完全对抗的情况下,它们优雅地恶化以匹配极小极大遗憾。我们还提供了下限表明,我们的遗憾上限是紧的随机方差和对抗性变化的损失梯度的所有中间制度。
2022-06-08 cs.LG math.OC stat.ML
Online Learning in Stabilized Linear Dynamical Games with Adversarial Disturbances
Singapore University of Technology and Design(新加坡科技设计大学);National University of Singapore(国立新加坡大学);Archimedes/Athena RC(阿基米德/雅典娜研究中心)
本文研究多智能体线性动态系统中对抗性扰动下的在线控制,提出基于局部策略更新的在线梯度控制器,证明次线性且近最优的个体遗憾界,并在目标一致时建立时变势博弈的均衡跟踪保证。
2026-10-27 cs.GT cs.LG math.OC
Online Supervised Subspace Tracking
Georgia Institute of Technology(佐治亚理工学院)
当存在两个时间序列$x_t$和$y_t$,一个是高维预测变量,另一个是响应变量,子空间跟踪需要同时考虑这两个序列时,我们提出了一个监督子空间跟踪的框架.它扩展了经典的在线子空间跟踪工作,可以看作是跟踪的$x_t$。我们的在线充分降维(OSDR)是一个元算法,可以应用于各种情况下,包括线性回归,逻辑回归,多元线性回归,多项逻辑回归,支持向量机,随机点积模型和多尺度union-of-subspace模型。OSDR以较低的计算复杂性实时地降低数据维数,并能处理丢失数据和动态数据。OSDR使用交替最小化方案,并通过格拉斯曼流形上的梯度下降更新子空间。可以利用在许多设置中相对于子空间的格拉斯曼梯度是秩一(或在某些情况下是低秩)的事实来有效地执行子空间更新。OSDR的优化问题是非凸的,一般难以分析,我们提供了一个简单的线性回归设置的OSDR的收敛性分析。通过仿真和实际数据的数值例子,OSDR的良好性能相比,传统的无监督子空间跟踪。
2015-09-01 cs.LG math.ST stat.ML
Adversarial Delays in Online Strongly-Convex Optimization
我们考虑存在对抗延迟的强凸在线优化问题;在T-迭代在线游戏中,玩家在时间t的查询的反馈被对手任意延迟d_t轮,并在游戏结束之前在迭代t+d_t-1交付。特别是\algo{online-gradient-descent}算法,我们证明了它有一个简单的遗憾界\Oh{\sum_{t=1}^T \log (1+ \frac{d_t}{t})}。这给出了一个明确而简单的界,而不诉诸任何分布和限制的假设的延迟。我们进一步展示了这个结果如何包含和推广文献中现有的几个已知结果。具体地说,它匹配著名的对数遗憾\Oh{\log T}时,没有延迟(即d_t = 1)和遗憾界的\Oh{τ\log T}为常数延迟d_t = τ。
2019-09-11 cs.AI cs.LG stat.ML
GTAdam: Gradient Tracking with Adaptive Momentum for Distributed Online Optimization
University of Bologna(博洛尼亚大学)
本文提出GTAdam分布式在线优化算法,结合梯度跟踪与一阶和二阶动量估计,在强凸条件下证明动态遗憾上界并保证静态线性收敛,多智能体实验验证其优于现有方法。
2023-09-12 cs.DC cs.LG math.OC
Accelerated Rates between Stochastic and Adversarial Online Convex Optimization
研究介于随机与完全对抗之间的在线凸优化问题,利用预期损失的平滑性建立新型遗憾界,将最大梯度长度依赖替换为梯度方差,并在两端分别恢复随机加速率与极小化极大遗憾,上下界紧致匹配。
2025-10-31 cs.LG math.OC stat.ML
Online learning-based trajectory tracking for underactuated vehicles with uncertain dynamics
University of Pennsylvania(宾夕法尼亚大学);Instituto de Ciencias Matematicas (CSIC-UAM-UCM-UC3M)(数学科学研究所(西班牙国家研究委员会-马德里自治大学-马德里康普顿斯大学-卡洛斯三世大学));Technical University of Munich(慕尼黑工业大学)
近年来,由于航空和水下航行器以及纳米卫星数量的增加,欠驱动车辆受到了广泛的关注。这些飞行器的轨迹跟踪控制是越来越多的应用领域的一个重要方面。然而,外部干扰和内部动态的一部分往往是未知的或非常耗时的模型。为了克服这个问题,我们提出了一个跟踪控制律的欠驱动刚体动力学使用在线学习为基础的预言未知动态的预测。我们表明,高斯过程模型是特别感兴趣的角色的预言。所提出的方法保证了有界的跟踪误差与高概率的界限是明确给出的。数值例子突出了所提出的控制律的有效性。
2021-09-14 cs.LG cs.SY eess.SY
SkeleVision: Towards Adversarial Resiliency of Person Tracking with Multi-Task Learning
Georgia Institute of Technology(佐治亚理工学院)
使用计算机视觉技术的人员跟踪具有广泛的应用,例如自动驾驶、家庭安全和体育分析。然而,日益增长的对抗攻击威胁引起了人们对这种技术的安全性和可靠性的严重关切。在这项工作中,我们研究了多任务学习(MTL)对广泛使用的SiamRPN跟踪器的对抗鲁棒性的影响,在人跟踪的背景下。具体来说,我们调查的效果,共同学习与语义类似的任务的人跟踪和人类的关键点检测。我们进行了广泛的实验,更强大的对抗攻击,可以在物理上实现,证明了我们的方法的实用价值。我们对模拟和真实世界数据集的实证研究表明,与通常只对人跟踪的单一任务进行训练相比,使用MTL进行训练始终使攻击SiamRPN跟踪器变得更加困难。
2022-04-02 cs.CV cs.LG
Predictive Linear Online Tracking for Unknown Targets
ETH Zürich(苏黎世联邦理工学院);inspire AG(inspire AG公司);Institute for Dynamic Systems and Control, ETH Zürich(苏黎世联邦理工学院动态系统与控制研究所)
针对未知非平稳运动目标,提出PLOT算法,利用带指数遗忘的递推最小二乘学习时变模型并结合滚动时域控制,证明动态遗憾为O(√(TV_T)),且在真实四旋翼上验证并开源。
2024-06-13 cs.LG cs.SY eess.SY
Regret Analysis of Online LQR Control via Trajectory Prediction and Tracking: Extended Version
The Australian National University(澳大利亚国立大学);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出并分析了一种新的在线线性二次型调节器(LQR)控制方法。成本矩阵按顺序显示,并有可能在很短的时间内预览未来的值。我们的新方法包括使用可用的成本矩阵来预测的最优轨迹,和跟踪控制器来驱动系统走向it.We采用动态后悔的概念来衡量这种建议的在线LQR控制方法的性能,我们的主要结果是,我们的方法的(动态)遗憾的上限由一个常数。此外,遗憾上界与预览窗口的长度呈指数衰减,是可扩展的干扰系统。我们在模拟中表明,我们提出的方法提供了改进的性能相比,其他先前提出的在线LQR方法。
2023-02-21 cs.LG cs.SY eess.SY
Physical Adversarial Textures that Fool Visual Object Tracking
Element AI
我们提出了一个系统,用于生成不显眼的纹理,当显示在物理世界中的数字或印刷海报,导致视觉对象跟踪系统变得混乱。例如,当机器人的摄像机跟踪的目标在这样的海报前面移动时,我们生成的纹理使跟踪器锁定它并允许目标躲避。这项工作的目的是欺骗很少有针对性的回归任务,特别是比较不同的优化策略:非有针对性的,有针对性的,和一个新的家庭的指导对抗损失。虽然我们使用期望转换(EOT)算法来生成在不同条件下成像时欺骗跟踪模型的物理对手,但我们比较了不同条件变量(包括视点,照明和外观)的影响,以找到具有高对抗强度和收敛速度的实际攻击设置。我们进一步展示了仅使用模拟场景优化的纹理可能会混淆真实世界的跟踪系统。
2019-09-15 cs.CV cs.LG cs.RO
Online Bayesian Meta-Learning for Cognitive Tracking Radar
Virginia Tech(弗吉尼亚理工大学);US Army Research Laboratory(美国陆军研究实验室)
认知雷达的一个关键组成部分是泛化能力,或在一系列感知环境中实现一致的性能,因为物理场景的各个方面可能会随时间而变化。这对基于学习的波形选择方法提出了挑战,因为在一个场景中有效的传输策略在另一个场景中可能是非常次优的。我们解决这个问题的战略偏见的学习算法,通过利用高层次的结构跟踪实例,称为元学习。在这项工作中,我们开发了一种在线元学习方法,用于波形敏捷跟踪。该方法使用从先前目标跟踪中获得的信息来加速和增强新跟踪实例中的学习。这导致在样本有效的学习,通过利用固有的相似性,在跟踪场景中,由于共同的物理元素,如目标类型或杂波统计的一类有限状态目标通道。我们制定的贝叶斯学习的框架内的在线波形选择问题,并提供先验依赖的性能界限的元学习问题,使用概率近似正确(PAC)贝叶斯理论。我们提出了一个计算上可行的元后验采样算法,并研究了在不同场景的仿真研究中的性能。最后,我们研究了与波形敏捷跟踪的在线元学习相关的潜在性能优势和实际挑战。
2023-02-07 cs.IT cs.LG cs.SY
Adversarial Semi-Supervised Multi-Domain Tracking
RIKEN Center for Advanced Intelligence Project (AIP)(理化学研究所先进智能项目中心)
用于多域学习的神经网络通过共享和共同学习参数来实现来自不同域的信息的有效组合。在视觉跟踪中,在多域跟踪器的共享层中出现的特征,在各种序列上训练,对于在看不见的视频中进行跟踪至关重要。然而,在完全共享的架构中,一些新出现的特征仅在特定领域中有用,从而减少了所学习的特征表示的泛化。我们提出了一个半监督学习方案,使用对抗学习来分离域不变和域特定特征,鼓励它们之间的相互排斥,并利用自监督学习来增强使用未标记库的共享特征。通过使用这些功能并为每个序列训练专用层,我们构建了一个在不同类型的视频上表现出色的跟踪器。
2020-09-30 cs.CV cs.LG
Adversaries in Online Learning Revisited: with applications in Robust Optimization and Adversarial training
Zuse Institute Berlin(柏林祖斯研究所);Technische Universität Berlin(柏林工业大学);Alibaba Inc(阿里巴巴公司)
我们重新审视了在线学习中的“对手”概念,其动机是使用在线学习方法解决鲁棒优化和对抗训练。虽然在线学习中的一个经典设置涉及“对抗”设置,但似乎这个概念的使用不太严格,导致应用在线学习的结果和见解时出现混乱。具体来说,有两种根本不同类型的对手,这取决于“对手”是否能够预测在线学习算法的外生随机性。这与鲁棒优化和对抗训练特别相关,因为对抗序列通常是预期的,并且许多在线学习算法在这种情况下无法实现减少遗憾。然后,我们将其应用于通过在线学习解决鲁棒优化问题或(等效地)对抗性训练问题,并使用假想游戏为各种各样的问题类建立一种通用方法。在这种情况下,两个参与人相互博弈,原始参与人参与决策,双重参与人参与不确定数据的实现。当博弈结束时,原始参与者已经获得了一个近似鲁棒的解。这个元游戏允许解决各种鲁棒优化和多目标优化问题,并推广了arXiv:1402.6361的方法。
2021-01-27 cs.LG math.OC
Efficient Adversarial Attacks for Visual Object Tracking
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Cyberspace Security Research Center, Peng Cheng Laboratory(鹏城实验室网络空间安全研究中心);Beijing Key Laboratory of Digital Media, School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机学院数字媒体北京市重点实验室)
视觉目标跟踪是一项重要的任务,它要求跟踪器能够快速、准确地发现目标。现有的最先进的对象跟踪器,即,基于Siamese的跟踪器使用DNN来实现高精度。然而,视觉跟踪模型的鲁棒性却很少被研究。本文分析了基于Siamese网络的目标跟踪器的弱点,并将对抗性例子扩展到视觉目标跟踪。我们提出了一个端到端的网络FAN(快速攻击网络),它使用一种新的漂移损失结合嵌入式特征损失攻击暹罗网络的跟踪器。在单GPU下,FAN训练速度快,攻击性能强。FAN可以在10ms内生成一个对抗示例,实现有效的目标攻击(OTB上至少40%的丢包率)和非目标攻击(OTB上至少70%的丢包率)。
2020-08-01 cs.CV cs.LG eess.IV
An Online Learning-based Framework for Tracking
University of California, San Diego(加利福尼亚大学圣迭戈分校)
我们研究的跟踪问题,即,估计隐藏状态的对象随着时间的推移,从不可靠的和嘈杂的测量。跟踪问题的标准框架是生成框架,这是解决方案的基础,如贝叶斯算法及其近似,粒子滤波器。然而,这些解决方案可能对模型失配非常敏感。在本文中,动机的在线学习,我们介绍了一个新的框架跟踪。我们为这个框架提供了一个有效的跟踪算法。我们提供的实验结果比较我们的算法模拟数据的贝叶斯算法。实验结果表明,当模型存在轻微的不匹配时,该算法的性能优于贝叶斯算法。
2012-03-15 cs.AI cs.LG stat.ML
Wasserstein Generative Adversarial Networks for Online Test Generation for Cyber Physical Systems
Åbo Akademi University(奥博学术大学)
提出了一种基于Wasserstein生成对抗网络的在线测试生成算法WOGAN。WOGAN是一个通用的黑盒测试生成器,适用于任何具有用于确定失败测试的适应度函数的被测系统。作为概念证明,我们通过生成道路来评估WOGAN,使得汽车的车道辅助系统不能停留在指定车道上。我们发现,我们的算法具有竞争力的性能方面,以前公布的算法。
2022-05-23 cs.LG cs.SE
Online Adversarial Purification based on Self-Supervision
University of California, San Diego(加利福尼亚大学圣迭戈分校)
众所周知,深度神经网络容易受到对抗性示例的影响,其中输入空间中的扰动会导致潜在网络表示的放大偏移。在本文中,我们结合了规范监督学习与自监督表示学习,并提出了自监督在线对抗净化(SOAP),一种新的防御策略,使用自监督损失,以净化敌对的例子在测试时。我们的方法利用了自监督信号的标签独立性,并对抗了自监督任务的对抗性扰动。SOAP与最先进的对抗性训练和净化方法相比,具有竞争力的鲁棒准确性,并且训练复杂性大大降低。此外,我们的方法是强大的,即使对手的知识的净化防御策略。据我们所知,我们的论文是第一个概括了使用自监督信号进行在线测试时净化的想法。
2021-01-23 cs.CR cs.CV cs.LG
Recurrent Autoregressive Networks for Online Multi-Object Tracking
Stanford University(斯坦福大学);University of Washington(华盛顿大学)
在线多目标跟踪的主要挑战是基于其跟踪历史将对象轨迹与每个视频帧中的检测可靠地关联。在这项工作中,我们提出了递归自回归网络(RAN),一个时间生成建模框架来表征多个对象随时间的外观和运动动态。RAN耦合外部存储器和内部存储器。外部存储器明确地存储时间窗口中每个轨迹的先前输入,而内部存储器通过处理外部存储器来学习总结长期跟踪历史并关联检测。我们在MOT 2015和2016数据集上进行了实验,以证明我们的跟踪方法在高度拥挤和遮挡场景中的鲁棒性。我们的方法在两个基准测试中取得了最好的结果。
2018-03-04 cs.AI cs.CV cs.LG
Online and Real-time Object Tracking Algorithm with Extremely Small Matrices
Intel Parallel Computing Labs(英特尔并行计算实验室);Intel Data Center Group(英特尔数据中心集团)
在线和实时的【形】对象跟踪是一种有趣的工作负载,可用于跟踪对象(例如,汽车、人、动物)在一系列视频序列中实时的【形】。对于边缘设备上的简单对象跟踪,对象跟踪的输出可以像在检测到的对象周围绘制限界框一样简单,并且在某些情况下,在这种计算中使用的输入矩阵非常小(例如,4x 7、3x 3、5x 5等)。因此,实际工作量很低。因此,典型的基于多线程的并行化技术不能加速跟踪应用;相反,基于吞吐量的并行化技术,其中每个线程对独立的视频序列进行操作是更有益的。在本文中,我们分享我们的经验,在共享内存多核并行化的简单在线和实时的【形】跟踪(SORT)应用程序。
2021-03-22 cs.DC cs.LG stat.ML
Learning Online for Unified Segmentation and Tracking Models
Monash University(莫纳什大学)
跟踪需要在推理阶段建立目标的判别模型。实现这一目标的一种有效方法是在线学习,它可以轻松地胜过仅离线训练的模型。最近的研究表明,视觉跟踪由于其像素级的歧视,显着受益于视觉跟踪和分割的统一。然而,对这样一个统一的模型进行在线学习是一个很大的挑战。分割模型不能容易地从视觉跟踪场景中给出的先验信息中学习。在本文中,我们提出了TrackMLP:一种新的元学习方法,它只从部分信息中学习,以解决强加的挑战。我们的模型能够广泛利用有限的先验信息,因此比其他在线学习方法具有更强的目标-背景区分能力。从经验上讲,我们表明,我们的模型实现了最先进的性能和有形的改进竞争车型。我们的模型在VOT 2019、VOT 2018和VOT 2016数据集中实现了66.0%、67.1%和68.5%的改进平均重叠,比我们的基线高6.4%、7.3%和6.4%。代码将公开提供。
2021-11-12 cs.AI cs.CV cs.LG
Modeling stochastic eye tracking data: A comparison of quantum generative adversarial networks and Markov models
OsloMet – Oslo Metropolitan University(奥斯陆都会大学);Simula Research Laboratory(西穆拉研究实验室)
本文比较QGANs与马尔可夫模型在随机眼动速度数据建模中的表现,发现QGANs具分布逼近潜力,但马尔可夫模型复现真实分布更准确。
2024-08-01 cs.LG cs.NE quant-ph
Adversarial Radar Inference: Inverse Tracking, Identifying Cognition and Designing Smart Interference
Cornell University(康奈尔大学);Information Systems Laboratories, Inc.(信息系统实验室公司);University of Dayton Research Institute(代顿大学研究院);Air Force Research Laboratory(空军研究实验室)
本文考虑了三个相互关联的对抗性推理问题,涉及认知雷达。首先讨论了雷达的逆跟踪,根据雷达的动作来估计敌方对我方的估计,并对雷达的感知精度进行校准。其次,使用显示偏好从微观经济学,我们制定了一个非参数测试,以确定是否认知雷达是一个受约束的效用最大化与信号处理的限制。我们考虑两个雷达的功能,即波束分配和波形设计,相对于认知雷达被假定为最大限度地提高其效用,并构建一个集值估计雷达的效用函数。最后,我们讨论了如何在物理层水平上设计干扰来迷惑雷达,迫使它改变其发射波形。抽象的水平范围从智能干扰设计的基础上维纳滤波器(在脉冲/波形水平),逆卡尔曼滤波器在跟踪水平和显示偏好,以确定效用最大化的系统水平。
2021-07-22 cs.LG eess.SP
InvisibiliTee: Angle-agnostic Cloaking from Person-Tracking Systems with a Tee
Renmin University of China(中国人民大学);CSIRO(澳大利亚联邦科学与工业研究组织)
在调查了人员跟踪系统引起的隐私问题后,我们提出了一种黑盒对抗攻击方法,对最先进的人体检测模型InvisibiliTee。该方法为T恤学习可打印的对抗模式,这些T恤可以在人员跟踪系统面前隐藏物理世界中的穿着者。我们设计了一个角度不可知的学习方案,该方案利用时尚数据集的分割和几何扭曲过程,因此生成的对抗模式可以有效地从所有摄像机角度欺骗人检测器和看不见的黑盒检测模型。在数字和物理环境中的实验结果表明,随着InvisibiliTee的开启,个人跟踪系统检测佩戴者的能力显着下降。
2022-08-15 cs.CV cs.LG
Diffusion Models for Multi-target Adversarial Tracking
Institute of Robotics and Intelligent Machines (IRIM), Georgia Institute of Technology(佐治亚理工学院机器人与智能机器研究所)
本文提出CADENCE方法,利用基于约束的交叉注意力扩散模型和稀疏状态信息生成多模态对抗轨迹预测,在单目标与多目标追捕环境中以ADE指标超越基线方法。
2024-01-12 cs.LG cs.MA cs.RO
Tracking Performance of Online Stochastic Learners
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
该研究建立平稳假设下在线随机学习器的稳态性能与随机游走模型下跟踪性能的关联,可直接从稳态表达式推断跟踪性能,为大规模漂移场景下的算法性能分析提供新方法。
2020-04-04 cs.LG cs.MA eess.SP
Zero-Shot Adaptation for mmWave Beam-Tracking on Overhead Messenger Wires through Robust Adversarial Reinforcement Learning
Graduate School of Informatics, Kyoto University(京都大学信息学研究生院);Centre for Wireless Communications, University of Oulu(奥卢大学无线通信中心);School of Engineering, Tokyo Institute of Technology(东京工业大学工学院);NTT Access Network Service Systems Laboratories, NTT Corporation(日本电报电话公司接入网业务系统实验室)
基于机器学习的毫米波(mmWave)波束跟踪使得能够开发准确的跟踪策略,同时避免了周期性地解决波束优化问题的需要。然而,它的适用性仍然是可验证的,当训练测试差距存在的环境参数,影响节点的动态。从这个怀疑的角度来看,这项研究的贡献是双重的。首先,通过考虑一个例子的情况下,我们确认,训练测试的差距产生不利影响的波束跟踪性能。更具体地说,我们认为节点放置在架空吊线缆,节点动力学的影响,由几个环境参数,例如,线质量和张力。虽然这些都是特定的场景,但它们可以深入了解培训-测试差距问题的验证。其次,我们证明了\textit{zero-shot adaptation}作为一种解决方案的可行性,其中学习代理适应训练过程中看不到的环境参数。这是通过利用鲁棒的对抗性强化学习(RARL)技术来实现的,其中这种训练和测试间隙被视为与合法的波束跟踪代理联合训练的对手的干扰。数值计算表明,通过RARL学习的波束跟踪策略可以应用于广泛的环境参数,而不会严重降低接收功率。
2021-07-10 cs.LG cs.NI
Online and Real-Time Tracking in a Surveillance Scenario
Fraunhofer IML(弗劳恩霍夫物流研究院);DB Schenker(德铁信可)
本文提出了一种方法,在监视场景中的跟踪。该场景的典型方面是24/7操作,其中静态摄像机安装在具有许多对象或人的人的高度上方。多对象跟踪基准20(MOT 20)最好地反映了这种情况。我们可以证明,我们的方法在这个基准测试中是实时的【形】的,并且在HOTA,MOTA和IDF 1中优于所有其他实时的【形】方法。我们通过贡献一个快速的暹罗网络来实现这一点,该网络重新制定为线性运行时间(而不是二次),以从检测中生成指纹。因此,可以基于多个跟踪特定评级将检测与卡尔曼滤波器相关联:指纹的余弦相似性、交集与并集以及图像中的像素距离比。
2021-06-02 cs.CV cs.LG
Meta-LinEXP3: Online-within-Online Learning for Adversarial Linear Contextual Bandits
College of Science, National University of Defense Technology(国防科技大学理学院)
针对对抗性线性上下文赌博机,提出在线内在线元学习算法 Meta-LinEXP3,利用任务先验指导内部学习器,实现次线性遗憾并验证于高光谱采样。
2026-09-16 cs.LG math.OC
Deep Flow Collaborative Network for Online Visual Tracking
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
基于深度学习的视觉跟踪算法(诸如MDNet)利用深度神经网络的特征提取能力来实现高性能。然而,这些跟踪器的跟踪效率不是很高,由于缓慢的特征提取为每帧的视频。在本文中,我们提出了一个有效的跟踪算法,以减轻耗时的问题。具体来说,我们设计了一个深流协作网络,它只在稀疏的关键帧上执行昂贵的特征网络,并通过光流将特征映射传输到其他帧。此外,我们提出了一个有效的自适应关键帧调度机制,以选择最合适的关键帧。我们在大规模数据集上评估了所提出的方法:OTB2013和OTB2015。实验结果表明,该算法具有较高的加速比和精度。
2019-11-05 cs.CV cs.LG
An Optimistic Algorithm for online CMDPS with Anytime Adversarial Constraints
KAIST(韩国科学技术院);ShanghaiTech University(上海科技大学)
针对对抗性约束下的在线安全强化学习问题,提出OMDPD算法,首次解决任意时刻对抗性约束的在线CMDP,实现最优遗憾和约束违反界限且无需依赖Slater条件。
2025-05-28 cs.AI cs.LG
RetinaTrack: Online Single Stage Joint Detection and Tracking
Google(谷歌)
传统上,多目标跟踪和目标检测是使用单独的系统来执行的,其中大多数先前的工作专门集中在这些方面中的一个方面而不是另一个方面。跟踪系统显然受益于获得准确的检测,然而,文献中有充分的证据表明,检测器可以受益于跟踪,例如,可以帮助随着时间的推移平滑预测。在本文中,我们重点关注自动驾驶的检测跟踪范式,其中这两项任务都是关键任务。我们提出了一个概念上简单而有效的检测和跟踪联合模型,称为RetinaTrack,它修改了流行的单阶段RetinaNet方法,使其适合实例级嵌入训练。通过对Waymo开放数据集的评估,我们表明,我们的性能优于最新的最先进的跟踪算法,同时需要的计算量明显减少。我们认为,我们简单而有效的方法可以作为这一领域今后工作的坚实基础。
2020-03-30 cs.CV cs.LG eess.IV
Higher-Order Equilibrium Tracking for EM-Compressible Online Estimation
School of Computer Science and Technology(计算机科学与技术学院);College of AI(人工智能学院)
本文研究了潜在变量模型中的在线估计问题,提出通过跟踪移动经验均衡来实现高阶均衡跟踪,证明了从批量到在线的转移定理,并展示了在潜在线性高斯协方差估计中的应用。
2026-05-09 cs.LG math.ST stat.TH
CAMELTrack: Context-Aware Multi-cue ExpLoitation for Online Multi-Object Tracking
UCLouvain(列日大学);EPFL(苏黎世联邦理工学院);Sportradar(Sportradar公司)
本文提出新型关联模块CAMEL及在线多目标跟踪流水线CAMELTrack,通过基于transformer的模块和以关联为中心的训练方案直接从数据学习关联策略,摆脱了手工启发式规则,在保持模块化设计的同时于多个跟踪基准上达到SOTA性能。
2025-05-02 cs.CV cs.LG
Adversarial Deep Learning for Online Resource Allocation
The University of Hong Kong(香港大学)
在线算法是算法设计的一个重要分支。设计具有有限竞争比(就最坏情况性能而言)的在线算法可能很难,并且通常依赖于特定于问题的假设。受生成对抗网络(GAN)的对抗训练以及在线算法的竞争率基于最坏情况输入的事实的启发,我们采用深度神经网络从头开始学习资源分配和定价问题的在线算法,目标是离线最佳和学习的在线算法之间的性能差距可以最小化最坏情况输入。具体来说,我们利用两个神经网络分别作为算法和对手,让他们玩一个零和游戏,与对手负责产生最坏情况的输入,而算法学习的基础上提供的输入对手的最佳策略。为了确保算法网络更好地收敛(到所需的在线算法),我们提出了一种新的每轮更新方法来处理顺序决策,以打破不同轮之间的复杂依赖关系,从而可以对每个可能的动作进行更新,而不仅仅是采样动作。据我们所知,我们的工作是第一次使用深度神经网络从最坏情况性能保证的角度设计在线算法。实证研究表明,我们的更新方法确保收敛到纳什均衡和学习算法优于国家的最先进的在线算法在各种设置。
2021-11-19 cs.AI cs.LG
Tracking the Copyright of Large Vision-Language Models through Parameter Learning Adversarial Images
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室)
提出参数学习攻击(PLA)方法,通过构造对抗图像并反向更新参数,在不修改原始模型的情况下追踪微调后大型视觉-语言模型的版权,实验证明其有效性优于基线方法。
2025-02-23 cs.AI cs.LG
Online Deep Learning for Improved Trajectory Tracking of Unmanned Aerial Vehicles Using Expert Knowledge
Nanyang Technological University(南洋理工大学);Aarhus University(奥胡斯大学)
本工作提出了一种基于在线学习的控制方法,用于同时使用深度学习和专家知识来改进无人机的轨迹跟踪。所提出的方法不需要精确的系统模型进行控制,它是对系统动态变化以及操作的不确定性鲁棒性。学习分为两个阶段:离线(前)培训和在线(后)培训。在前者中,常规控制器执行一组轨迹,并且基于输入-输出数据集,训练基于深度神经网络(DNN)的控制器。在后者中,模仿传统控制器的经过训练的DNN控制系统。与文献中现有的论文不同,该网络仍在针对DNN训练阶段未使用的不同轨迹集进行训练。由于规则库,其中包含的专家知识,所提出的框架学习系统动态和操作的不确定性实时。实验结果表明,所提出的在线学习为基础的方法提供了更好的轨迹跟踪性能相比,只有离线训练的网络。
2019-05-26 cs.LG cs.RO
Adversarial Search and Tracking with Multiagent Reinforcement Learning in Sparsely Observable Environment
Institute of Robotics and Intelligent Machines (IRIM), Georgia Institute of Technology(佐治亚理工学院机器人与智能机器研究所(IRIM))
针对稀疏可观测环境中对抗性逃避智能体的搜索与跟踪难题,提出结合可学习过滤模型估计对手位置的多智能体强化学习(MARL)框架,使探测率提升46%并超越所有基线方法。
2023-10-21 cs.AI cs.LG cs.RO
Online Fair Revenue Maximizing Cake Division with Non-Contiguous Pieces in Adversarial Bandits
Sharif University of Technology(谢里夫理工大学)
经典的切蛋糕问题提供了一个模型,用于解决公平和有效地分配一个可分割的,异构的资源与不同的偏好之间的代理。专注于蛋糕切割的标准制定,其中每个代理必须在离线设置中接收一块连续的蛋糕,这项工作的重点是在线分配代理之间的非连续的蛋糕块,并建立算法结果的公平性措施。在这方面,我们利用经典的对抗性多武装土匪,同时实现次线性公平和收入后悔。对抗性强盗是模拟对抗性强化学习环境的强大工具,它通过在探索和利用之间应用智能权衡,在每一步中只观察一个动作的奖励,为学习的遗憾提供了强大的上限。本文研究了著名的基于指数加权{-}重要性概率分布的EXP_3算法的性能。
2021-11-29 cs.GT cs.LG
Scalable Adversarial Online Continual Learning
University of New South Wales(新南威尔士大学);University of South Australia(南澳大学);Nanyang Technological University(南洋理工大学)
对抗性持续学习对于持续学习问题是有效的,因为特征对齐过程的存在产生对灾难性遗忘问题具有低敏感性的任务不变特征。然而,ACL方法带来了相当大的复杂性,因为它依赖于特定于任务的网络和鉴别器。它还经历了一个迭代的训练过程,这不适合在线(一个时期)持续学习的问题。提出了一种可扩展的对抗性持续学习(SCALE)方法,提出了一个参数生成器,将共同特征转化为特定任务的特征,并在对抗性博弈中引入一个参数生成器来归纳共同特征。使用三个损失函数的新组合以元学习方式进行训练过程。SCALE在准确性和执行时间方面都优于显著的基线。
2022-09-04 cs.AI cs.LG
Adversarial Attacks on Online Handwriting using Salience-based Temporal Editing
Kyushu University(九州大学)
研究在线手写识别模型的对抗攻击问题,提出基于显著性引导时间编辑的框架,通过按时间显著性插入和删除点生成对抗样本,在保持手写视觉结构的同时具有更强的一次性黑盒转移性。
2026-09-22 cs.CV cs.LG
Fully Dynamic Online Selection through Online Contention Resolution Schemes
Meta
我们研究完全动态的在线选择问题的对抗/随机设置,包括贝叶斯在线选择,先知不等式,张贴价格机制,随机探测问题的组合约束。在经典的“增量”版本的问题中,选定的元素保持活跃,直到输入序列结束。另一方面,在问题的完全动态版本中,元素在有限的时间间隔内保持活跃,然后离开。例如,该模型将任务与具有任务/工人依赖的工作时间的工人进行在线匹配,以及易腐货物的顺序发布定价。在线竞争解决方案(OCRS)的概念给出了对抗环境中在线选择问题的一种成功方法,该方案使用先验信息来制定潜在优化问题的线性松弛,其最佳分数解对于输入序列的任何对抗顺序都是在线舍入的。我们的主要贡献是提供了一个通用的方法来构建一个OCRS的完全动态在线选择问题。然后,我们展示了如何使用这样的OCRS构造无悔算法的部分信息模型与半强盗反馈和对抗性的输入。
2023-01-08 cs.AI cs.LG
Efficient Online Quantum Generative Adversarial Learning Algorithms with Applications
The University of Sydney(悉尼大学);University of Technology Sydney(悉尼科技大学)
针对量子生成对抗学习缺乏明确算法的问题,提出融合在线学习的QMMW算法,并通过参数化量子电路与纯态纠缠测试验证其高效性。
2019-04-21 cs.LG quant-ph
An Approximate Dynamic Programming Approach to Adversarial Online Learning
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Univ. Grenoble Alpes(格勒诺布尔大学);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LIG(格勒诺布尔信息与信号处理实验室);Max-Planck Institute for Software Systems (MPI-SWS)(马克斯·普朗克软件系统研究所);University of California, Berkeley(加利福尼亚大学伯克利分校)
我们描述了一个近似的动态规划(ADP)的方法来计算近似的最佳策略和最小的损失,可以保证在折扣重复游戏与向量值的损失。这类游戏主要出现在对抗性环境中重复决策的后悔分析中,也被称为对抗性在线学习。在我们的方法的核心是一个表征的帕累托边界的预期损失,玩家可以保证在这些游戏中作为唯一的不动点的集值动态规划运营商。当应用到后悔最小化与折扣损失的问题,我们的方法产生的算法,实现显着改善的性能界限相比,现成的在线学习算法,如对冲。因此,这些结果表明,基于ADP的方法在对抗性在线学习中的巨大潜力。
2020-10-26 cs.DS cs.GT cs.LG
Learning Robust Algorithms for Online Allocation Problems Using Adversarial Training
ETH Zürich(苏黎世联邦理工学院);Google Research(谷歌研究院)
我们解决的挑战,找到算法在线分配(即二分匹配)使用机器学习的方法。在本文中,我们专注于AdWords问题,这是一个经典的在线预算匹配问题的理论和实际意义。与现有的工作相比,我们的目标是完成算法设计{ \em tabula rasa},即,除了指定优化问题的目标和约束之外,没有任何人类提供的见解或专家调整的训练数据。我们基于博弈论、对抗训练和GANs的见解和想法构建了一个框架。我们方法的关键是生成对抗示例,暴露任何给定算法的弱点。在我们的背景下,一个独特的挑战是从头开始生成完整的例子,而不是扰动给定的例子,我们证明这可以完成的Adwords问题。我们使用这个框架来共同训练一个算法网络和一个对抗网络,直到它们收敛到一个均衡。这种方法可以找到与已知最优结果一致的算法和对抗性示例。其次,我们解决了算法的鲁棒性问题,即我们能否设计出在实际分布下都很强的算法,以及对对抗性实例表现出鲁棒性能。为了实现这一点,我们训练算法网络使用对抗性和实用的分布,如幂律的混合物;由此产生的网络表现出两个输入制度之间的平滑权衡。
2020-10-16 cs.LG stat.ML
From Black-Scholes to Online Learning: Dynamic Hedging under Adversarial Environments
Boston University(波士顿大学);Princeton University(普林斯顿大学)
我们考虑了一种非随机的在线学习方法来定价金融期权,通过将市场动态建模为自然(对手)和投资者之间的重复博弈。我们证明,这样的框架产生类似的结构作为Black-Scholes模型,广泛流行的期权定价模型在随机金融,欧洲和美国的期权凸支付。在非凸期权的情况下,我们构造近似定价算法,并证明其效率可以通过引入人工概率测度来分析,与金融文献中所谓的风险中性测度平行,即使我们的框架是完全对抗的。连续时间收敛的结果和扩展,将价格跳跃。
2014-06-23 cs.DS cs.LG q-fin.PR
Online Adversarial Attacks
Mila(米拉人工智能研究所);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学);Meta AI Research(Meta人工智能研究院)
对抗攻击暴露了深度学习模型的重要漏洞,但很少有人关注数据作为流到达的设置。在本文中,我们形式化的在线对抗攻击问题,强调在现实世界的用例中发现的两个关键要素:攻击者必须在目标模型的部分知识下操作,攻击者所做的决定是不可撤销的,因为他们对瞬态数据流进行操作。我们首先严格分析了一个确定性的变体的在线威胁模型绘制平行的理论计算机科学中研究充分的$k$秘书问题,并提出虚拟+,一个简单而实用的在线算法。我们的主要理论结果表明,虚拟+产量可证明是最好的竞争比在所有单阈值算法的$k<5$-扩展以前的分析$k$秘书问题。我们还介绍了\textit{stochastic $k$-secretary} -有效地减少在线黑盒传输攻击的$k$秘书的问题下的噪音-并证明了虚拟+适应这种设置的性能的理论界限。最后,我们通过对MNIST,CIFAR-10和Imagenet分类器进行实验来补充我们的理论结果,揭示在线算法在实现接近最佳性能方面的必要性,以及攻击策略和在线攻击选择之间的丰富相互作用,使FGSM等简单策略能够胜过更强大的对手。
2022-03-22 cs.CR cs.DS cs.LG
A Hybrid Stochastic Gradient Tracking Method for Distributed Online Optimization Over Time-Varying Directed Networks
针对时变有向网络中的分布式在线优化问题,提出TV-HSGT算法,通过混合随机梯度跟踪与方差缩减机制,在无需梯度有界假设下提升动态遗憾界,并在实验中验证其有效性。
2025-08-28 cs.DC cs.LG math.OC
Tracking Behavioral Patterns among Students in an Online Educational System
University of Copenhagen(哥本哈根大学)
分析在线教育系统生成的日志数据是改善教育系统并增加我们对学生学习方式的理解的重要任务。在这项研究中,我们调查了丹麦最大的小学数字学习内容提供商Clio Online以前从未见过的数据。我们考虑了2015-2017年期间14,810名学生的300万次会议的数据。我们分析了学生在一周内的活动。通过使用非负矩阵分解技术,我们得到软聚类,揭示一天中的时间,主题,活动类型,活动复杂性(衡量布卢姆的分类),和性能之间的依赖关系。此外,我们的方法可以跟踪个别学生随着时间的推移的行为变化,以及教育系统中的一般行为变化。根据研究结果,我们提出了行为改变的建议,以优化学习体验,提高绩效。
2019-08-21 cs.CY cs.LG stat.ML
BeatNet: CRNN and Particle Filtering for Online Joint Beat Downbeat and Meter Tracking
University of Rochester(罗切斯特大学)
节奏信息的在线估计,如节拍位置、强拍位置和节拍,对于许多实时音乐应用是至关重要的。音乐节奏包含复杂的时间层次关系,使其分析本质上具有挑战性,有时是主观的。此外,试图实时估计节奏信息的系统必须是因果关系的,并且必须快速有效地产生估计。在这项工作中,我们介绍了一个用于联合节拍,下拍和节拍跟踪的在线系统,该系统利用因果卷积和递归层,然后在推理过程中应用一对顺序蒙特卡罗粒子滤波器。所提出的系统不需要为了执行下拍跟踪而准备好时间签名,而是能够随着时间的推移估计仪表并调整预测。此外,我们提出了一个信息门策略,以显着降低粒子滤波的计算成本在推理步骤,使系统比以前的基于采样的方法快得多。在GTZAN数据集上进行的实验表明,该系统的性能优于各种在线节拍和下拍跟踪系统,并实现了与基线离线联合方法相当的性能。
2021-08-08 cs.AI cs.IR cs.LG