Convergence rate of a simulated annealing algorithm with noisy observations
在本文中，我们提出了一个修改版本的模拟退火算法求解随机全局优化问题。更确切地说，我们解决的问题，找到一个全局极小值的函数与嘈杂的评价。我们提供了一个收敛速度和优化的参数化，以确保一个给定的准确性和置信水平接近1的最小数量的评估。这项工作是完成了一组数值实验和评估的实际性能都在基准测试用例和现实世界的例子。
2017-03-01 math.OC math.ST stat.ML
A discrete Consensus-Based Global Optimization Method with Noisy Objective Function
本文将离散时间CBO方法的收敛性分析扩展到目标函数仅能计算带噪声随机估计量的情况，证明在有限次迭代中粒子到解的均方距离期望可任意小，并通过数值实验展示噪声影响。
2025-04-03 math.OC
Blind Random Search with Noisy Loss Measurements: Averaging, Thresholding, and Almost Sure Convergence
该研究针对含噪声损失测量的盲随机搜索问题，通过结合平均与阈值化技术，实现了真实损失的几乎必然收敛。
2026-09-07 cs.IT math.IT math.OC
Convergence of Batch Updating Methods with Approximate Gradients and/or Noisy Measurements: Theory and Computational Results
在本文中，我们提出了一个统一的和一般的框架分析批处理更新方法的非线性，高维优化。该框架涵盖了所有目前使用的批量更新方法，并适用于非凸以及凸函数。此外，该框架允许使用噪声破坏的梯度，以及梯度的一阶近似（有时称为“无梯度”方法）。通过将迭代分析看作是随机过程的收敛问题，我们能够建立一个非常一般的定理，其中包括零阶和一阶方法的最已知的收敛结果。“二阶”或基于动量的方法的分析不是本文的一部分，将在其他地方进行研究。然而，数值实验表明，基于动量的方法可能会失败，如果真正的梯度被取代的一阶近似。这需要进一步的理论分析。
2023-01-27 math.OC stat.ML
On the convergence rate of noisy Bayesian Optimization with Expected Improvement
Center for Applied Scientific Computing, Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室应用科学计算中心）；National University of Singapore（新加坡国立大学）
针对贝叶斯优化中期望改进（EI）的理论收敛问题，本文在高斯过程（GP）先验假设下，首次建立带噪声观测的GP-EI渐近误差界及速率，并通过分析EI函数的探索利用性质，改进了无噪声和有噪声场景下的误差界。
2025-02-12 cs.LG math.OC stat.ML
LyAm: Robust Non-Convex Optimization for Stable Learning in Noisy Environments
Tarbiat Modares University（塔里亚特莫达雷斯大学）；Shahid Beheshti University（沙希德贝赫沙迪大学）；Institute for Cognitive and Brain Sciences（认知与脑科学研究所）
针对深度神经网络训练中噪声梯度与不稳定收敛的问题，提出结合Adam与Lyapunov稳定性机制的新型优化器LyAm，理论证明其非凸收敛性，并在CIFAR等数据集上验证了其优于现有方法的准确率与稳定性。
2025-07-15 cs.LG math.OC
On the convergence of gradient-like flows with noisy gradient input
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；LIG（格勒诺布尔信息实验室）；Maastricht University（马斯特里赫特大学）
针对带噪声梯度输入的凸优化问题，分析了随机扰动下类梯度流的渐近行为。具体来说，我们专注于广泛研究的类镜像下降计划的凸计划与紧凑的可行域，我们研究的动力学的收敛性和浓度的存在噪声的性质。在消失的噪声限制，我们表明，动态收敛到解决方案的基本问题（a.s.）。否则，当噪声是持久的，我们表明，从长远来看，动力学集中在内部解决方案，他们收敛到边界的解决方案，是足够的“尖锐”。最后，我们证明了一个适当的整流的方法收敛的变体，而不管噪声的大小（或结构的基本凸计划），我们推导出一个明确的估计其收敛速率。
2017-09-20 cs.LG math.DS math.OC
Mean-Field Langevin Dynamics: Exponential Convergence and Annealing
噪声粒子梯度下降（NPGD）算法是一种最小化包含熵项的测度空间上的凸函数的算法。在多粒子的限制，该算法是由一个平均场朗之万动力学-一个推广的朗之万动力学与非线性漂移-这是我们的主要研究对象。以前的工作表明，它的收敛到唯一的极小通过非定量参数。我们证明了这种动态收敛在指数速度，假设一定的家庭的Log-Sobolev不等式成立。例如，这个假设适用于某些双层神经网络的风险最小化，其中NPGD等价于标准噪声梯度下降。我们还研究了退火动力学，并表明，噪声衰减的对数率，动态收敛值的非正则化目标函数的全局最小值。
2022-08-11 math.OC
Solution of network localization problem with noisy distances and its convergence
具有凸和非凸距离约束的网络定位问题可以建模为非线性最优化问题。现有的定位技术主要基于凸优化。在这些技术中，非凸距离约束被忽略或放松为凸约束，以使用凸优化方法，如SDP，最小二乘逼近等。我们提出了一种方法来解决非线性非凸网络定位问题与噪声的距离测量没有任何修改的一般模型中的约束。我们利用非线性拉格朗日技术的非凸优化的问题转化为一个单一的变量连续函数的求根问题。然后使用迭代法解决该问题。然而，在迭代的每一步中，函数值的计算涉及有限极小-极大问题（FMX）。我们使用平滑梯度法来解决FMX问题。我们还证明了从所提出的迭代法获得的解决方案收敛到一般的本地化问题的实际解决方案。所提出的方法获得的解决方案与所需的标签的准确性在实时。
2017-11-20 cs.OH math.OC
A non-monotone trust-region method with noisy oracles and additional sampling
本文提出一种带噪声预言与额外采样的非单调信赖域随机二阶方法，通过自适应样本量策略控制近似误差，并在深度神经网络训练中实现几乎必然收敛且显著减少梯度评估次数。
2024-01-17 math.OC
Fast convergence of dynamical ADMM via time scaling of damped inertial dynamics
在本文中，我们提出了一个二阶时间连续动态系统的快速收敛保证，以解决仿射约束的结构凸极小化问题的希尔伯特设置。该系统是与增广拉格朗日制定的最小化问题。相应的动力学发挥作用的三个一般的时变参数，每个特定的属性，并分别与粘性阻尼，外推和时间缩放。通过适当地调整这些参数，我们开发了一个李雅普诺夫分析，它提供了快速收敛性能的值和可行性差距。这些结果自然会为开发相应的加速ADMM算法铺平道路，通过时间离散化获得。
2021-03-23 math.OC
High-order augmented Lagrangian methods and robust multilevel inner solvers
Texas State University（德克萨斯州立大学）
本文提出了一种高阶增广拉格朗日方法，用于求解凸优化问题，实现了任意快速的收敛速度，并应用于数据拟合、流体流动和科学机器学习等领域。
2026-11-10 math.OC
First- and Second-Order High Probability Complexity Bounds for Trust-Region Methods with Noisy Oracles
本文提出一种修正的信赖域方法，针对函数值、梯度和Hessian估计带噪声且预言机不假设无偏一致的情形，采用松弛步长接受准则与谨慎半径更新策略，推导出收敛至近似一阶和二阶最优点的迭代复杂度指数衰减尾部界，并通过两组数值实验验证理论紧致性与算法性能。
2023-07-01 math.OC
Fast Convergence of Stochastic Gradient Descent under a Strong Growth Condition
在Solodov [1998]和Tseng [1998]假设每个梯度$f_i'$的范数由平均梯度$f'$的范数的线性函数有界的情况下，我们考虑优化函数光滑凸函数$f$，该函数是一组可微函数$f_i$的平均。证明了在这些假设下，具有极小常数步长的基本随机梯度法具有$O(1/k)$收敛速度，并且当$g$是强凸的时，具有线性收敛速率.
2013-08-29 math.OC
Fast Reflected Forward-Backward algorithm: achieving fast convergence rates for convex optimization with linear cone constraints
University of Vienna（维也纳大学）；Faculty of Mathematics and Computer Science, University of Science, Ho Chi Minh City（胡志明市科技大学数学与计算机科学学院）；Vietnam National University, Ho Chi Minh City（越南国家大学胡志明市分校）；Northwest Normal University（西北师范大学）
本文提出快速反射前向-后向算法，通过引入Nesterov动量项和修正项，在实希尔伯特空间中求解单调算子之和的零点问题，实现线性锥约束凸优化的最后迭代$o(1/k)$收敛速率，并给出数值验证。
2025-10-16 math.OC
A Nesterov type algorithm with double Tikhonov regularization: fast convergence of the function values and strong convergence to the minimal norm solution
本文研究带双重Tikhonov正则化的Nesterov型算法，证明其强收敛到光滑凸函数最小范数解，且保持$\mathcal{O}(n^{-2})$最优收敛速率，并给出离散速度与梯度估计。
2023-08-09 math.OC
Fast convergence of dynamical systems with implicit Hessian damping and Tikhonov regularization
本文针对线性等式约束凸优化问题，提出带隐式Hessian阻尼的原始-对偶动力系统以消除振荡并实现快速收敛，并结合Tikhonov正则化证明轨迹强收敛到最小范数解，数值实验验证了理论结果。
2025-08-23 math.OC
Derivative-Free Optimization of Noisy Functions via Quasi-Newton Methods
本文提出了一种求解噪声函数极小化问题的有限差分拟牛顿法。该方法利用BFGS更新的可扩展性和功率，并采用自适应过程来基于Hamming（2012）和Moré and Wild（2011）的噪声估计技术选择差分间隔$h$。该噪声估计过程和$h$的选择是廉价的，但并不总是准确的，并且为了防止故障，该算法结合了恢复机制，该恢复机制在线搜索过程不能产生可接受的点的情况下采取适当的动作。提出了一种新的收敛性分析，认为一个嘈杂的线搜索过程的影响。数值实验比较的方法和函数插值置信域方法。
2019-01-08 math.OC
Fast Convergence Rates for Distributed Non-Bayesian Learning
我们考虑分布式学习的问题，其中代理网络的共同目标是同意一个假设，最好地解释了一组条件独立的随机过程的分布式观测。我们提出了一个分布式算法，并建立一致性，以及一个非渐近的，明确的和几何收敛速度的信念周围的最佳假设集的浓度。此外，如果代理在静态网络上进行交互，我们提供了一个改进的学习协议，具有更好的可扩展性，在网络中的节点数量。
2017-04-11 math.OC
Fast convergence rates and trajectory convergence of a Tikhonov regularized inertial primal\mbox{-}dual dynamical system with time scaling and vanishing damping
本文提出一种带有时间缩放和消失阻尼的Tikhonov正则化惯性原对偶动力系统求解Hilbert空间线性约束凸优化问题，证明了基于重缩放正则化参数衰减速度的快速收敛速率及轨迹强弱收敛性，并通过数值实验验证理论。
2024-04-23 math.OC
Noisy Low-rank Matrix Optimization: Geometry of Local Minima and Convergence Rate
University of California, Berkeley（加州大学伯克利分校）
低秩矩阵优化在机器学习中有着广泛的应用。在矩阵传感的特殊情况下，这个问题已经通过限制等距属性（RIP）的概念进行了广泛的研究，导致了大量的结果的几何景观的问题和常见算法的收敛速度。然而，现有的结果可以处理的情况下，一般的目标函数受噪声数据只有当RIP常数接近0的问题。在本文中，我们开发了一个新的数学框架来解决上述问题，限制性更小的RIP常数。我们证明，只要RIP常数的无噪声目标是小于$1/3$，任何虚假的本地解决方案的噪声最优化问题必须接近地面真理的解决方案。通过严格的鞍性质，我们还表明，近似解可以在多项式时间内找到。当RIP常数大于$1/3$时，我们刻画了问题在真实情况下的局部极小值的几何特征。与已有的文献结果相比，本文给出了最强RIP界，并对一般低秩最优化问题在任意有限方差族随机破坏下的全局和局部最优化景观进行了完整的理论分析.
2023-03-15 cs.LG math.OC stat.ML
A Note on Randomized Kaczmarz Algorithm for Solving Doubly-Noisy Linear Systems
College of Computing, Mohammed VI Polytechnic University（穆罕默德六世理工大学计算机学院）；University of Central Florida（中佛罗里达大学）；University of California, Irvine（加州大学欧文分校）
本文分析了随机化Kaczmarz算法在系数矩阵和右侧向量均含噪声的双重噪声线性系统中的收敛性，证明了在无需无噪声矩阵信息的情况下可有效控制收敛，并通过数值实验验证了理论。
2024-08-23 cs.LG cs.NA math.NA
Noisy Linear Convergence of Stochastic Gradient Descent for CV@R Statistical Learning under Polyak-Łojasiewicz Conditions
Michigan State University（密歇根州立大学）
条件风险值（$\mathrm{CV@R}$）是最流行的风险度量之一，最近被认为是监督统计学习的性能标准，因为它与现代应用中期望的操作特性有关，例如安全性，公平性，分布鲁棒性和预测误差稳定性。然而，由于其变分定义，$\mathrm{CV@R}$通常被认为会导致困难的优化问题，即使是光滑和强凸损失函数。我们通过建立噪声（即，固定精度）线性收敛的随机梯度下降顺序$\mathrm{CV@R}$学习，为一大类不一定强凸（或甚至凸）损失函数满足集限制Polyak-Lojasiewicz不等式。这类包含所有光滑和强凸损失，确认经典问题，如线性最小二乘回归，可以有效地解决$\mathrm{CV@R}$标准下，就像他们的风险中性版本。我们的结果在这样一个风险意识岭回归任务的数值说明，也验证了他们在实践中的有效性。
2021-01-19 cs.LG cs.SY eess.SP
On stochastic mirror descent with interacting particles: convergence properties and variance reduction
一个开放的问题，在优化与噪声信息是一个确切的极小值是独立的噪声量的计算。随机逼近算法中的标准实践是使用递减步长。然而，这导致收敛较慢。第二种选择是使用固定的步长并运行算法的独立副本并对它们求平均值。第三种选择是运行算法的副本并允许它们交互。目前还不清楚哪种选择效果最好。为了解决这个问题，我们减少了一个确切的极小值与噪声梯度信息的计算问题的随机镜像下降与相互作用的粒子的研究。我们研究了随机镜像下降的收敛性，并明确了通信和方差减少之间的权衡。我们提供的理论和数值证据表明，相互作用有助于提高收敛性和减少方差的估计。
2020-11-05 math.OC stat.ML
Distributed Stochastic Constrained Composite Optimization over Time-Varying Network with a Class of Communication Noise
研究了一类带有通信噪声的时变网络上分布式随机多智能体约束最优化问题。本文考虑的问题，在复合优化设置，这是更普遍的文献中的噪声网络优化。值得注意的是，现有的主流噪声网络优化方法是基于欧几里德投影。基于Bregman投影的镜像下降格式，提出了一种非欧方法，并研究了其收敛性。这种方法是分布式随机复合镜像下降型方法（DSCMD-N），它提供了一个更通用的算法框架。得到了DSCMD-N的一些新的误差界。据我们所知，这是第一个工作，分析和推导的收敛速度的优化算法在噪声网络优化。在适当的通信噪声条件下，我们还证明了该方法在非光滑凸优化下可以得到一个最优的$O(1/\sqrt{T})$速率。在期望收敛性、高概率收敛性和几乎必然收敛性方面得到了新的收敛结果。
2022-12-19 cs.SY eess.SY math.OC
Fast and Accurate Estimation of Low-Rank Matrices from Noisy Measurements via Preconditioned Non-Convex Gradient Descent
University of Illinois-Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出面向含噪测量的预条件非凸梯度下降方法，用于低秩矩阵估计，保证以免疫病态和过参数化的线性速率达到极小极大误差，并在6000万像素医学图像去噪中显著降噪。
2024-02-28 cs.LG math.OC stat.ML
Convergence Analysis of the Wasserstein Proximal Algorithm beyond Geodesic Convexity
University of British Columbia（不列颠哥伦比亚大学）；University of Southern California（南加州大学）；California Institute of Technology（加州理工学院）
本文提出了一种无需假设目标函数测地凸性的简单自包含分析，证明了Wasserstein近端算法在自然的Wasserstein类欧几里得Polyak-Łojasiewicz不等式下具有无偏线性收敛性，改进了现有在强测地凸性下求解Wasserstein梯度流的近端算法收敛率，并扩展到半测地凸目标的近端算法。
2026-10-02 math.OC stat.ML
Aspiration-based Perturbed Learning Automata in Weakly-Acyclic Games with Noisy Utility Measurements
Software Competence Center Hagenberg GmbH（软件能力中心哈根贝格有限公司）
本文提出了一种基于收益的学习方案，用于分析弱无环游戏中在存在噪声观测时的随机稳定性，首次解决了此类游戏的收敛问题。
2026-09-01 cs.GT cs.SY eess.SY
Global Convergence of Sub-gradient Method for Robust Matrix Recovery: Small Initialization, Noisy Measurements, and Over-parameterization
University of Michigan（密歇根大学）
在这项工作中，我们研究了次梯度方法（SubGM）的性能上的自然非凸和非光滑配方的低秩矩阵恢复与$\ell_1$ -损失，其中的目标是恢复一个低秩矩阵从有限数量的测量，其中的一个子集可能是严重损坏的噪声。我们研究的情况下，真正的解决方案的秩是未知的，而不是高估。秩的过度估计导致过度参数化模型，其中存在比所需更多的自由度。这种过度参数化可能导致过度拟合，或者对算法的性能产生不利影响。我们证明了一个简单的SubGM与小的初始化是不可知的过参数化和噪声的测量。特别是，我们表明，小的初始化抵消了SubGM的性能上的过参数化的影响，导致其收敛速度的指数改善。此外，我们提供了第一个统一的框架，用于分析SubGM在离群值和高斯噪声模型下的行为，表明SubGM收敛到真正的解决方案，即使在任意大和任意密集的噪声值下，并且-也许令人惊讶的是-即使全局最优解不对应于地面真相。在我们的研究结果的核心是一个强大的变种的限制等距属性，称为签名RIP，它控制的偏差的次微分的$\ell_1$ -损失从一个理想的，预期的损失。作为我们的结果的副产品，我们考虑了一个子类的鲁棒低秩矩阵恢复高斯测量，并表明，所需的样本数量，以保证SubGM的全局收敛性是独立的过参数化的秩。
2022-02-17 cs.LG math.OC stat.ML
Zeroth-Order Langevin Monte Carlo via SPSA under Noisy Function Measurements
Michigan State University（密歇根州立大学）；Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对带噪声的零阶采样场景，提出LMC-SPSA方法，优化了Wasserstein误差的维度依赖，精度缩放更优，实证采样误差更小。
2026-08-11 math.OC math.ST stat.CO
On a Faster $R$-Linear Convergence Rate of the Barzilai-Borwein Method
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
Barzilai-Borwein（BB）方法在非线性最优化中已经证明了巨大的经验成功。然而，BB方法的收敛速度并没有得到很好的理解，因为已知的BB方法对二次问题的收敛速度比最速下降（SD）方法差得多。因此，理论和实践之间存在很大的差异。为了缩小这一差距，我们证明了BB方法收敛$R$ -线性的速度为$1-1/κ$，其中$κ$是条件数，强凸二次问题。最后，给出了一个具有理论收敛速率的例子，说明了我们的界的紧性。
2021-01-22 cs.LG math.OC
Incremental Quasi-Newton Methods with Faster Superlinear Convergence Rates
National University of Singapore（新加坡国立大学）；Fudan University（复旦大学）
本文针对有限和强凸优化问题，提出将对称秩1更新与块更新融入增量拟牛顿框架，实现与条件数无关的局部超线性收敛，且数值实验显著优于基线方法。
2024-02-04 cs.LG math.OC
Towards Fast-Convergence, Low-Delay and Low-Complexity Network Optimization
分布式网络优化已经研究了十多年。然而，我们仍然没有一个很好的想法，如何设计方案，可以同时提供良好的性能，跨维度的效用最优性，收敛速度和延迟。为了解决这些挑战，在本文中，我们提出了一个新的算法框架，所有这些指标接近最优。我们的新算法的显着特点是三重：（i）快速收敛：它收敛只有$O(\log(1/ε))$迭代，是所有现有算法中最快的速度;（ii）低延迟：它保证了有限的队列长度的最佳效用;（iii）简单的实现：该算法的控制变量是基于虚拟队列，不需要维护每个流的信息。该方法建立在交替方向乘子法中的一种不精确Uzawa方法的基础上，为证明这种方法的全局和线性收敛速度提供了一条新的理论途径，而不需要对约束矩阵作满秩假设.
2017-07-17 cs.NI math.OC
Extra-Gradient Method with Flexible Anchoring: Strong Convergence and Fast Residual Decay
本文提出一种锚定项由一般参数控制的超梯度方法，基于Tikhonov正则化单调流的显式离散化，建立了强收敛性与参数化收敛速率，并在标准参数下恢复$O(k^{-1})$快速残差衰减。
2024-10-18 cs.NA math.NA math.OC
Efficient Over-parameterized Matrix Sensing from Noisy Measurements via Alternating Preconditioned Gradient Descent
State Key Laboratory of Robotics, Shenyang Institute of Automation, Chinese Academy of Sciences（机器人国家重点实验室，沈阳自动化研究所，中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）；State University of New York at Buffalo（纽约州立大学布法罗分校）；School of Management, Xi’an Jiaotong University（西安交通大学管理学院）
针对过参数化噪声矩阵感知问题，提出交替预条件梯度下降（APGD）算法，交替更新因子矩阵，消除了阻尼参数需求并支持更大步长，理论证明其线性收敛至近最优误差，实验验证在多类低秩估计任务中收敛最快且计算时间最短。
2025-05-31 cs.LG math.OC stat.ML
Strong convergence and fast rates for systems with Tikhonov regularization
研究实希尔伯特空间中带Tikhonov正则化的二阶动力系统，通过消失阻尼和校正项实现轨迹向最小范数解的强收敛及快速收敛率，并将其应用于线性约束凸优化的原始对偶系统。
2024-11-26 math.DS math.FA math.OC
Policy Optimization for Constrained MDPs with Provable Fast Global Convergence
Texas A&M University（得克萨斯农工大学）
我们解决的问题，找到一个有约束的马尔可夫决策过程（CMDP）使用梯度下降为基础的算法的最优策略。以前的结果表明，原始-对偶方法可以实现$\mathcal{O}(1/\sqrt{T})$全局收敛速度的最优性差距和约束违反。我们提出了一种新的算法称为策略镜像下降原始对偶（PMD-PD）算法，可以证明实现更快的$\mathcal{O}(\log(T)/T)$收敛速度的最优性差距和约束违反。对于原始（策略）更新，PMD-PD算法利用修改的价值函数并执行自然的策略梯度步骤，其等效于具有适当正则化的镜像下降步骤。对于双重更新，PMD-PD算法使用修改的拉格朗日乘子，以确保更快的收敛速度。我们还提出了这种方法的两个扩展的设置与零约束违反和基于样本的估计。实验结果表明，与现有的基于策略梯度的算法相比，PMD-PD算法具有更快的收敛速度和更好的性能。
2022-02-03 cs.AI cs.LG math.OC
Guaranteed Noisy CP Tensor Recovery via Riemannian Optimization on the Segre Manifold
Department of Applied and Computational Mathematics and Statistics, University of Notre Dame（应用与计算数学与统计学系，诺特丹大学）
针对高维数据分析中低CP秩张量的含噪恢复难题，提出基于Segre流形黎曼优化的RGD与RGN算法，证明其收敛性并通过实验验证了有效性。
2026-11-10 cs.LG math.OC math.ST
Fast Stochastic Algorithms for SVD and PCA: Convergence Properties and Convexity
Weizmann Institute of Science（魏茨曼科学研究所）
我们研究了\cite{shamir2015stochastic}引入的快速计算前导奇异向量的VR-PCA算法的收敛性。我们证明了几个新的结果，包括一个正式的分析块版本的算法，从随机初始化和收敛。我们还做了一些独立的利益，如如何预初始化，只有一个确切的权力迭代可以显着提高随机方法的运行时间，以及什么是凸性和非凸性的基本优化问题的性质。
2015-07-31 cs.LG cs.NA math.NA
Exponentially fast convergence to (strict) equilibrium via hedging
LIG-CNRS, Univ. Grenoble-Alpes（格勒诺布尔阿尔卑斯大学LIG-CNRS）
出于快速收敛是必不可少的数据网的应用程序，我们分析了学习的问题，在一般的N人游戏，承认一个纯策略的纳什均衡。具体来说，我们考虑的情况下，玩家反复互动，并试图从过去的经验中学习的小调整的基础上本地-和可能不完美的-收益信息。具体来说，我们专注于所谓的“对冲”的指数权重算法的变种，玩家选择一个行动的概率成正比的行动的累积收益随着时间的推移的指数。当参与者对他们的混合收益有完美的信息时，算法局部收敛到严格的均衡，收敛速度是指数级的-$\mathcal{O}(\exp(-a\sum_{j=1}^{t}γ_{j}))$，其中$a>0$是常数，$γ_{j}$是算法的步长。在存在不确定性的情况下，收敛需要一个更保守的步长策略，但在很大的概率下，该算法保持局部收敛，并达到指数收敛速度。
2016-07-29 cs.GT cs.LG math.OC
Fast Linear Convergence of Randomized BFGS
自20世纪50年代后期拟牛顿法首次出现以来，它已成为求解无约束优化问题的一种应用最广泛、最有效的算法范式。尽管它们在实践中取得了巨大的成功，但几乎没有理论表明为什么这些方法如此有效。我们提供了一个半局部的收敛速率的随机BFGS方法，可以显着优于梯度下降，最后给出理论证据支持优越的经验性能的方法。
2021-02-03 cs.NA math.NA math.OC
