Randomized Sparse Neural Galerkin Schemes for Solving Evolution Equations with Deep Networks
Courant Institute for Mathematical Sciences(库朗数学科学研究所);New York University(纽约大学)
针对时间序列训练神经网络求解含时偏微分方程时误差易累积放大的问题,提出随机稀疏更新参数的神经伽辽金格式,兼具防过拟合与低计算成本优势,在精度和速度上均较稠密更新格式最高提升两个数量级。
2023-10-07 cs.LG cs.NA math.NA
Frank-Wolfe with Subsampling Oracle
École Normale Supérieure(巴黎高等师范学院);UC Berkeley(加州大学伯克利分校);ETH Zurich(苏黎世联邦理工学院);CNRS(法国国家科学研究中心)
我们分析了两个新的随机化的弗兰克-沃尔夫(FW)或条件梯度算法的变种。经典的FW算法需要在每次迭代时求解域上的线性最小化问题,而所提出的方法只需要在原始域的小\emph{subset}上求解线性最小化问题。我们提出的第一个算法是一个随机变量的原始FW算法,并实现了$\mathcal{O}(1/t)$次线性收敛速度的确定性对应。第二算法是离开步骤FW算法的随机化变体,并且再次作为其确定性对应物,达到线性(即,指数)收敛速度,使其成为第一个可证明收敛的随机变量的离开步骤FW。在这两种情况下,虽然子采样以恒定因子降低了收敛速度,但是线性最小化步骤可以是确定性版本的成本的一小部分,特别是当数据被流式传输时。我们说明了回归问题的算法的计算收益,涉及$\ell_1$和潜在的组套索处罚。
2018-03-20 cs.LG math.OC stat.ML
Non-Stationary Bandits under Recharging Payoffs: Improved Planning with Sublinear Regret
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
随机多臂强盗设置最近已在非平稳制度,其中每个动作的平均收益是一个非递减的函数,因为它是最后一次播放的回合数。该模型捕捉了用户的自然行为方面,这些方面决定了推荐平台,广告投放系统等的性能。即使假设先验知识的平均回报函数,计算上述模型中的最优规划是NP难的,而最先进的是一个$1/4$ -近似算法的情况下,最多一个手臂可以发挥每一轮。我们首先集中在设置的平均支付函数是已知的。在这种情况下,我们显着提高了最知名的保证规划问题的多项式时间$(1-{1}/{e})$ -近似算法(渐近和预期),随机LP舍入和时间相关(交错)调度方法的新组合的基础上。此外,我们的算法实现了改进的保证-与以前的工作相比-在每一轮可以玩多个手臂的情况下。移动到强盗设置,当平均支付函数最初是未知的,我们展示了我们的算法可以转化为一个强盗算法与次线性遗憾。
2022-10-12 cs.DS cs.LG
Sublinear Time Algorithm for Online Weighted Bipartite Matching
Tsinghua University(清华大学);Adobe Research(奥多比研究院);Columbia University(哥伦比亚大学);Rice University(莱斯大学);Boston University(波士顿大学);Duke University(杜克大学)
针对在线二分匹配中大规模物品导致权重计算耗时过长的问题,提出基于随机化数据结构的次线性时间近似权重计算方法,在保持匹配算法竞争比的同时显著提升了计算效率。
2024-02-12 cs.DS cs.LG
Provably Efficient and Agile Randomized Q-Learning
Carnegie Mellon University(卡内基梅隆大学);Yale University(耶鲁大学)
本文提出了一种结合基于采样的探索和敏捷策略更新的随机Q学习算法,实现了可证明的高效和敏捷的回合制表格强化学习性能。
2026-02-04 cs.LG
Primal-Dual $π$ Learning: Sample Complexity and Sublinear Run Time for Ergodic Markov Decision Problems
Princeton University(普林斯顿大学)
考虑通过采样状态转移来近似马尔可夫决策过程(MDP)的最优策略的问题。与现有的基于非线性Bellman方程逐次逼近的强化学习方法相比,我们提出了一种基于值和策略之间的线性对偶性的原始-对偶$π$学习方法. $π$学习方法是无模型的,并且随着新数据的出现对策略和值向量进行原始-对偶更新。对于具有有限状态空间$S$和有限动作空间$A$的无限时域未贴现马尔可夫决策过程,$π$学习方法使用以下样本转移数$$ \tilde{O}( \frac{(τ\cdot t^*_{mix})^2 |S| |A| }{ε^2} ),$$找到$ε$最优策略,其中$t^*_{mix}$是所有策略的混合时间的上界,$τ$是表征策略的平稳分布范围的参数。$π$学习方法也适用于MDP的计算问题,其中转移概率和奖励被明确地给出作为输入。在每个状态转换可以在$\tilde{O}(1)$时间内采样的情况下,$π$学习方法给出了用于求解平均奖励MDP的次线性时间算法。
2017-10-17 cs.CC cs.LG math.OC
Unmixing Incoherent Structures of Big Data by Randomized or Greedy Decomposition
通过矩阵分解学习大数据往往存在计算量大、结构复杂、噪声大等问题。在本文中,我们研究了更多的自适应模型和有效的算法,分解的数据矩阵与不连贯的结构的语义组件的总和。本文首先介绍了一种交替投影的方法--GO分解(GoDec),它从被噪声$G$污染的数据矩阵$X=L+S+G$中估计低秩部分$L$和稀疏部分$S$。提出了两种加速策略来实现大数据上的可扩展解混算法:1)提出了双边随机投影(BRP)算法,通过对$X-S$在低维下的左右随机投影建立封闭形式,来加速GoDec中$L$的更新; 2)Greedy bilateral(GreB)范式以相互适应和贪婪增量的方式更新$L$的左右因子,并且在时间和样本复杂度方面都实现了显著的改进。然后,我们提出了三个非平凡的变种GoDec的推广GoDec更一般的数据类型,其快速算法可以从这两个策略......
2013-09-02 cs.DS cs.LG stat.ML
FedRand: Enhancing Privacy in Federated Learning with Randomized LoRA Subparameter Updates
Graduate School of AI, KAIST(韩国科学技术院人工智能学院)
FedRand框架通过让客户端仅随机公开部分LoRA子参数参与联邦聚合、保留其余参数为私有,从而在保持与完整LoRA通信方法相当准确率的同时,显著提升视觉-语言模型联邦学习对成员推断攻击的鲁棒性。
2025-03-11 cs.LG
Scalable and Sustainable Deep Learning via Randomized Hashing
Rice University(莱斯大学)
当前的深度学习架构正在变得越来越大,以便从复杂的数据集中学习。这些架构需要庞大的矩阵乘法运算来训练数百万个参数。相反,另一个日益增长的趋势是将深度学习引入低功耗嵌入式设备。从计算和能源的角度来看,与深度网络的训练和测试相关的矩阵运算非常昂贵。我们提出了一种新的基于哈希的技术,以大幅减少训练和测试深度网络所需的计算量。我们的方法结合了最近的想法,从自适应辍学和随机散列最大内积搜索,以有效地选择具有最高激活的节点。我们的深度学习新算法通过在显著更少的(稀疏)节点上操作,降低了正向和反向传播的总体计算成本。因此,我们的算法只使用了总乘法的5%,同时平均保持在原始模型精度的1%以内。所提出的基于散列的反向传播的一个独特性质是更新总是稀疏的。由于稀疏的梯度更新,我们的算法非常适合异步和并行训练,从而随着核心数量的增加而接近线性加速。我们证明了我们提出的算法的可扩展性和可持续性(能源效率),通过严格的实验评估几个真实的数据集。
2016-12-05 cs.LG cs.NE stat.ML
Simultaneously Achieving Sublinear Regret and Constraint Violations for Online Convex Optimization with Time-varying Constraints
Tsinghua University(清华大学);Peking University(北京大学);Shanghai Qi Zhi Institute(上海期智研究院)
提出了一种新的基于虚拟队列的在线凸优化(OCO)算法,并对动态后悔和约束违反进行了性能分析.设计了一种新的对偶变量更新规则和一种新的将时变约束函数引入到对偶变量中的方法。据我们所知,我们的算法是第一个无参数算法,同时实现次线性动态遗憾和约束违反。我们提出的算法在许多方面也优于最先进的结果,例如,我们的算法不需要斯莱特条件。同时,对于一类连续约束随时间变化足够平滑的约束OCO问题,我们的算法实现了$O(1)$约束违反.此外,我们扩展我们的算法和分析的情况下,时间范围$T$是未知的。最后,数值实验进行验证我们的算法的理论保证,我们提出的框架的一些应用将被概述。
2021-11-15 cs.LG math.OC
No-Regret Learning in Dynamic Stackelberg Games
University of California, Berkeley(加利福尼亚大学伯克利分校);Purdue University(普渡大学);The University of Texas at Austin(得克萨斯大学奥斯汀分校)
在Stackelberg博弈中,领导者采用随机策略,跟随者选择最佳策略作为回应。我们认为一个标准的Stackelberg游戏的扩展,称为离散时间动态Stackelberg游戏,有一个潜在的状态空间,影响领导者的奖励和可用的策略,并根据领导者和追随者的选择策略的马尔可夫方式演变。虽然标准的Stackelberg游戏已被用来提高调度安全域,他们的部署往往是有限的,需要完整的信息的追随者的效用函数。相反,我们考虑的情况下,跟随者的效用函数是未知的领导者,但是,它可以线性参数化。然后,我们的目标是提供一个算法,规定一个随机策略的领导者在游戏的每一步的基础上观察如何追随者在前面的步骤作出反应。我们设计了一个无遗憾的学习算法,具有很高的概率,实现了遗憾界(相比,事后的最佳政策),这是次线性的时间步长的数量;次线性的程度取决于代表追随者的效用函数的功能的数量。所提出的学习算法的后悔度与状态空间的大小和多项式中其余的博弈参数无关。我们表明,所提出的学习算法优于现有的无模型强化学习方法。
2022-02-10 cs.GT cs.LG
Sublinear-Time Algorithms for Diagonally Dominant Systems and Applications to the Friedkin-Johnsen Model
School of Computing and Data Science, The University of Hong Kong, China(香港大学计算机与数据科学学院);School of Computer Science and Technology, University of Science and Technology of China, China(中国科学技术大学计算机科学与技术学院)
研究求解对角占优线性系统的次线性时间随机算法,基于概率递推分析突破了仅适用于对称矩阵的限制,并应用于改进 Friedkin-Johnsen 模型的意见估计。
2025-09-16 cs.DS cs.LG cs.SI
Sublinear Time Quantum Sensitivity Sampling
University of California, Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出统一的量子敏感性采样框架,在k-中位数/k-均值聚类、ℓp回归和低秩近似等问题上构造核心集,实现了亚线性时间复杂度和对已有量子采样方法的改进。
2026-11-10 cs.DS cs.LG quant-ph
Provably Accelerated Randomized Gossip Algorithms
The University of Edinburgh, UK(爱丁堡大学);Facebook AI Research, Montreal(脸书人工智能研究);KAUST, KSA(王国立科技大学)
本文提出了一种可证明加速的随机传话算法,用于解决平均一致性问题。该算法受到最近开发的加速随机Kaczmarz方法的启发,该方法是解决线性系统问题的流行方法。在每次传话迭代中,网络中的所有节点都会更新它们的值,但只有成对的节点交换私有信息。还展示了在流行无线传感器网络上的数值实验,展示了我们协议的优势。
2018-10-31 cs.DC cs.LG cs.MA
FedDR -- Randomized Douglas-Rachford Splitting Algorithms for Nonconvex Federated Composite Optimization
The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);IBM Research(IBM研究院)
我们开发了两个新的算法,称为FedDR和FedcFedDR,解决联邦学习中的一个基本的非凸复合优化问题。我们的算法依赖于一个新的组合之间的非凸道格拉斯-Rachford分裂方法,随机块坐标策略,和异步实现。它们也可以处理凸正则化器。与文献中最近的方法不同,例如,FedSplit和FedPD,我们的算法在每个通信回合只更新一部分用户,并且可能以异步方式更新,使它们更实用。这些新算法可以处理统计和系统异构性,这是联邦学习中的两个主要挑战,同时实现最佳的通信复杂性。事实上,我们的新算法匹配的通信复杂度下限到一个常数因子下的标准假设。我们的数值实验说明了我们的方法比现有的算法在合成和真实数据集的优势。
2021-10-28 cs.DC cs.LG stat.ML
Efficient and Optimal No-Regret Caching under Partial Observation
Avignon University(阿维尼翁大学);ENS Lyon(里昂高等师范学院);Inria(法国国家信息与自动化研究所)
针对部分观测下的缓存问题,基于 FPL 算法提出一种随机化缓存策略,首次实现渐近最优遗憾界限与常数摊销时间复杂度,并在合成与真实轨迹上验证了有效性。
2025-03-04 cs.LG cs.NI
Compression Barriers for Autoregressive Transformers
Boston University(波士顿大学)
该研究证明无结构假设下自回归Transformer的KV缓存无法实现次线性空间,给出不同维度下的空间下界,分析稀疏性假设的作用并提出滑动窗口注意力的KV压缩新算法,还证明非自适应算法无法在线次线性计算注意力。
2025-02-21 cs.AI cs.CC cs.DS