Zeroth-order non-convex learning via hierarchical dual averaging
Criteo AI Lab；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Grenoble INP（格勒诺布尔理工学院）
我们提出了一个层次版本的双平均零阶在线非凸优化-即，学习过程，其中在每个阶段，优化器面对未知的非凸损失函数，并且仅接收所引起的损失作为反馈。所提出的一类政策依赖于一个在线模型的建设，聚集损失信息，因为它到达，它由两个主要组成部分：（a）一个正则化适应的Fisher信息度量（相对于周围空间的度量规范）;和（b）一个原则性的探索问题的状态空间的基础上，适应分层时间表。这种结构能够更好地控制模型的偏差和方差，并允许我们推导出学习者静态和动态后悔的严格界限-即，在游戏的地平线上，事后对最好的动态政策所产生的遗憾。
2021-09-13 cs.LG math.OC
Zeroth-order Stochastic Compositional Algorithms for Risk-Aware Learning
Yale University（耶鲁大学）；Princeton University（普林斯顿大学）
我们提出了$\textit{Free-MESSAGE}^{p}$，第一个零阶算法（弱）凸的均值-半指数为基础的风险感知学习，这也是第一个三级零阶组合随机最优化算法。使用非平凡的扩展Nesterov的经典结果高斯平滑，我们开发的$\textit{Free-MESSAGE}^{p}$算法从第一原则，并表明，它基本上解决了一个平滑的替代原来的问题，前者是一个一致逼近，后者，在一个有用的，方便的意义。然后，我们提出了一个完整的分析的$\textit{Free-MESSAGE}^{p}$算法，它建立了收敛在一个用户可调邻域的最优解的凸成本，以及明确的收敛速度凸，弱凸，强凸成本，并在一个统一的方式。顺序，并为固定的问题参数，我们的研究结果表明，没有牺牲收敛速度相比，现有的一阶方法，同时达到一定的平衡之间的条件的问题，它的维数，以及所获得的结果的准确性，自然扩展以前的结果在零阶风险中性学习。
2021-12-13 cs.LG cs.SY eess.SP
Escaping Saddle Points for Zeroth-order Nonconvex Optimization using Estimated Gradient Descent
Purdue University（普渡大学）
梯度下降及其变体广泛用于机器学习。然而，在许多应用中，梯度的oracle访问可能不可用，限制了梯度下降的直接使用。针对一般的非凸优化问题，提出了一种估计梯度的梯度下降算法，该算法收敛于一个稳定点。除了一阶平稳特性之外，二阶平稳特性在机器学习应用中对于实现更好的性能也很重要。我们表明，建议的无模型非凸优化算法返回一个$ε$ -二阶驻点与$\widetilde{O}(\frac{d^{2+\fracθ{2}}}{ε^{8+θ}})$查询的功能，任何任意$θ>0$。
2019-10-03 cs.LG math.OC stat.ML
Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework
Syracuse University（雪城大学）；Northeastern University（东北大学）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
在这项工作中，我们专注于研究随机零阶（ZO）优化，不需要一阶梯度信息，只使用功能评估。ZO优化的问题已经出现在许多最近的机器学习应用中，其中目标函数的梯度不可用或难以计算。在这种情况下，我们可以通过基于函数值的梯度估计来近似全梯度或随机梯度。在这里，我们提出了一种新的混合梯度估计器（HGE），它利用了随机梯度估计的查询效率以及坐标方向梯度估计的方差减少。我们表明，在协调重要性抽样的优雅设计，建议HGE为基础的ZO优化方法是有效的，无论是在迭代复杂度以及功能查询成本。我们提供了一个彻底的理论分析，我们提出的方法的收敛性非凸，凸，强凸优化。我们表明，我们得到的收敛速度推广了一些突出的现有方法在非凸的情况下的结果，并匹配凸的情况下的最佳结果。我们还证实了一个现实世界的黑盒攻击生成应用程序的理论，以证明我们的方法比国家的最先进的ZO优化方法的经验优势。
2020-12-21 cs.LG math.OC stat.ML
Stochastic Zeroth-Order Optimization under Strongly Convexity and Lipschitz Hessian: Minimax Sample Complexity
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）；New York University（纽约大学）；Princeton University（普林斯顿大学）
本文针对随机零阶反馈下的强凸且二阶光滑函数优化问题，首次建立了极小极大简单遗憾的紧致上下界，并提出一种结合引导阶段与镜像下降阶段的算法，通过精确刻画球面采样梯度估计器实现最优偏差-方差权衡。
2024-06-28 cs.IT cs.LG math.IT
A Near-Optimal Algorithm for Univariate Zeroth-Order Budget Convex Optimization
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Università degli Studi di Milano（米兰大学）；Toulouse School of Economics（图卢兹经济学院）；Istituto Italiano di Tecnologia（意大利技术研究院）
本文研究了一元凸函数$f$最小化问题的一个自然推广，通过顺序查询其值。在每个时间步$t$，优化器可以在其选择的查询点$X_t$中投入预算$b_t$，以在$X_t$处获得$f$的模糊评估，其准确性取决于在时间上投入到$X_t$中的预算量。这种设置的动机是最小化的目标，其值只能通过冗长或昂贵的计算近似确定。我们设计了一个任何时候的参数自由算法，称为二进搜索，我们证明了接近最优的优化误差保证。作为我们的分析的副产品，我们表明，经典的依赖于全球Lipschitz常数的误差界是一个人工制品的粒度的预算。最后，我们用数值模拟来说明我们的理论结果。
2022-09-24 cs.LG math.OC
Zeroth-order Nonconvex Stochastic Optimization: Handling Constraints, High-Dimensionality and Saddle-Points
Department of Statistics, University of California, Davis（加利福尼亚大学戴维斯分校统计系）；Department of Operations Research and Financial Engineering, Princeton University（普林斯顿大学运筹学与金融工程系）
在本文中，我们提出并分析了零阶随机逼近算法的非凸和凸优化，重点解决约束优化，高维设置和鞍点避免。为了处理约束优化，我们首先提出了条件梯度算法实现类似于标准的随机梯度算法只使用零阶信息的速率的概括。为了便于零阶优化在高维，我们探讨了结构稀疏性假设的优点。具体来说，（i）我们强调了一个隐式正则化现象，其中零阶信息的标准随机梯度算法通过改变步长来适应手头问题的稀疏性，以及（ii）提出了一个零阶信息的截断随机梯度算法，其收敛速率仅依赖于多维。接下来我们重点讨论如何避免非凸设置中的鞍点。为此，我们解释高斯平滑技术的基础上估计梯度的零阶信息作为一个实例的一阶斯泰因的身份。在此基础上，利用二阶Stein恒等式，给出了一个仅利用零阶信息的函数的黑塞矩阵的线性时间估计.然后，我们提供了一个算法，以避免鞍点，这是基于零阶三次正则化牛顿法，并讨论其收敛速度。
2019-01-14 cs.DS cs.LG math.OC
Zeroth-order Asynchronous Doubly Stochastic Algorithm with Variance Reduction
University of Texas at Arlington（德克萨斯大学阿灵顿分校）
零阶（无导数）优化在机器学习中吸引了很多关注，因为显式梯度计算可能在计算上昂贵或不可行。为了处理体积和维数都很大的问题，近年来提出了异步双随机零阶算法。现有的异步双随机零阶优化算法的收敛速度为$O(\frac{1}{\sqrt{T}})$（序列随机零阶优化算法也是如此）。针对光滑但不一定凸的函数的有限和问题，提出了一种基于加速方差缩减技术的异步双随机零阶优化算法（AsyDSZOVR）.严格的理论分析表明，收敛速度可以从现有算法的最佳结果$O(\frac{1}{\sqrt{T}})$提高到$O(\frac{1}{T})$。我们的理论结果也是对序列随机零阶优化算法的改进。
2016-12-05 cs.LG
An Enhanced Zeroth-Order Stochastic Frank-Wolfe Framework for Constrained Finite-Sum Optimization
School of Management, Xi’an Jiaotong University（西安交通大学管理学院）
提出增强的零阶随机Frank-Wolfe框架，通过双重方差缩减降低梯度近似和采样方差，在凸与非凸有限和优化中实现最优查询复杂度，并在多项机器学习任务中验证了高效性与可扩展性。
2025-01-23 cs.LG cs.NA math.NA
Adaptively Incorporating Directional Hints into Zeroth-Order Optimization
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；University of Hong Kong（香港大学）
针对非凸零阶优化，提出控制变量零阶下降（CV-ZOD）框架，自适应利用方向提示，实现介于一阶与零阶之间的收敛速率，并在模拟科学优化任务中验证有效性。
2026-11-10 cs.LG math.OC
Single Point-Based Distributed Zeroth-Order Optimization with a Non-Convex Stochastic Objective Function
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；CentraleSupélec（巴黎中央理工-高等电力学院）
针对分布式优化中一阶梯度跟踪方法需获知梯度的现实局限，提出基于梯度跟踪单点估计的零阶分布式优化方法，证明非凸下单次带噪查询可收敛，速率达$O(\frac{1}{\sqrt[3]{K}})$，并通过数值算例验证理论结果。
2024-10-08 cs.LG math.OC
Power Homotopy for Zeroth-Order Non-Convex Optimizations
Department of Engineering, Shenzhen MSU-BIT University（工程系，深圳MSU-BIT大学）
研究零阶非凸优化问题，提出GS-PowerHP方法，通过采用$\sigma$递减的幂平滑同伦机制改进探索与细化权衡，理论和实验表明该方法优于固定$\sigma$基线，在不同优化任务中性能稳健。
2026-07-16 cs.LG math.OC
Quantum Algorithm for Online Convex Optimization
Sun Yat-sen University（中山大学）；Chinese Academy of Sciences（中国科学院）
我们探讨是否可以找到量子优势的零阶在线凸优化问题，这也被称为强盗凸优化与多点反馈。在这种设置中，给定对零阶预言机的访问（即，损失函数被访问为返回任何查询输入的函数值的黑盒），玩家尝试最小化对抗生成的凸损失函数的序列。这个过程可以被描述为玩家和对手之间的$T$回合迭代博弈。在本文中，我们提出了量子算法的问题，并首次表明，潜在的量子优势是可能的在线凸优化问题。具体而言，我们的贡献如下。(i)当允许参与者在每轮中查询零阶预言机$O(1)$次作为反馈时，我们给出了一个实现$O(\sqrt{T})$后悔的量子算法，该算法不依赖于$n$维度，优于已知的只实现$O(\sqrt{nT})$后悔的最优经典算法.值得注意的是，我们的量子算法已经达到了经典一阶方法的下限。(ii)我们证明了对于强凸损失函数，量子算法也能在$O(1)$查询的情况下实现$O(\log T)$遗憾，这意味着量子算法在全信息情况下能实现与经典算法相同的遗憾界.
2022-04-01 cs.LG quant-ph
Stochastic Zeroth order Descent with Structured Directions
University of Genova（热那亚大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；CBMM - MIT（麻省理工学院CBMM）
该研究提出结构化随机零阶下降方法，在多正交方向近似随机梯度，证明了凸函数和满足Polyak-Łojasiewicz条件非凸函数的收敛性与速率，经模拟和超参数优化验证具竞争力。
2024-10-08 cs.LG math.OC
Adaptive Zeroth-Order Optimisation of Nonconvex Composite Objectives
Technische Universität Berlin（柏林工业大学）
在本文中，我们提出并分析了非凸复合目标的零阶优化算法，重点是减少复杂性对维数的依赖。这是通过利用低维结构的决策集使用随机镜像下降法与熵相似的功能，它执行梯度下降的空间配备了最大的范数。为了提高梯度估计，我们用基于Rademacher分布的采样方法取代了经典的高斯平滑方法，并表明小批量方法可以处理非欧几何。为了避免调整超参数，我们分析了一般随机镜像下降的自适应步长，并表明所提出的算法的自适应版本收敛，而不需要有关问题的先验知识。
2022-08-14 cs.LG math.OC
Zeroth-Order Stochastic Mirror Descent Algorithms for Minimax Excess Risk Optimization
Shanghai University（上海大学）；Great Bay Institute for Advanced Study（大湾区高等研究院）
针对MERO问题，本文提出适用于平滑与非平滑场景的ZO-SMD算法，通过估计分布极小风险将其转化为极小化极大优化问题，并证明了其最优收敛速率，数值实验验证了算法有效性。
2024-08-22 cs.LG math.OC stat.ML
The Multi-Query Paradox in Zeroth-Order Optimization
Department of Computer Science and Engineering, The Chinese University of Hong Kong, Hong Kong（香港中文大学计算机科学与工程系）；The Chinese University of Hong Kong, Hong Kong（香港中文大学）；Xiamen University, China（厦门大学）
本文研究零阶优化中的多查询问题，发现单次查询方法在ZO-Avg中最优，而ZO-Align在多查询情况下表现更佳，揭示了聚合方法对优化效率的关键影响。
2026-02-02 cs.LG
Stochastic Zeroth-order Optimization via Variance Reduction method
The University of Sydney（悉尼大学）；University of California, Davis（加州大学戴维斯分校）
无导数优化已经成为机器学习中用于优化黑盒模型的重要技术。为了在不显式计算梯度的情况下进行更新，大多数当前方法迭代地从高斯分布中采样随机搜索方向，并计算沿该方向的估计梯度。然而，由于搜索方向的变化，现有方法的收敛速度和查询复杂度受到$d$的影响，其中$d$是问题维度。在本文中，我们介绍了一种新的随机零阶方法与方差减少高斯平滑（SZVR-G），并建立了优化非凸问题的复杂性。随着样本空间和搜索空间的方差减少，我们的算法的复杂性是次线性的$d$，严格优于目前的方法，在光滑和非光滑的情况下。此外，我们将所提出的方法扩展到小批量版本。我们的实验结果表明，所提出的方法优于现有的无导数优化技术的性能。此外，我们成功地将我们的方法应用于对深度神经网络进行通用黑盒攻击，并给出了一些有趣的结果。
2018-08-02 cs.LG math.OC stat.ML
Optimization of Smooth Functions with Noisy Observations: Local Minimax Rates
Machine Learning Department, Carnegie Mellon University（卡内基梅隆大学机器学习系）；Department of Statistics and Data Science, Carnegie Mellon University（卡内基梅隆大学统计与数据科学系）
研究了具有零阶反馈的未知非凸光滑函数的全局优化问题。在这种设置中，允许算法自适应地查询不同位置处的底层函数，并接收查询点处的函数值的噪声评估（即，算法可以访问零阶信息）。优化性能的评估在估计的最优和真正的最优的函数值的期望差。与经典优化设置相反，优化算法不能直接访问一阶信息（如梯度）。我们表明，经典的极大极小分析框架，这大致表征了在这种情况下的优化算法的最坏情况下的查询复杂性，导致过于悲观的结果。我们提出了一个局部极小极大框架来研究自适应函数评估优化光滑函数的基本困难，它提供了零阶优化的内在困难的精细图像。我们发现，对于全局最小值附近水平集快速增长的函数，精心设计的优化算法可以用更少的查询来确定一个接近全局最小值的函数。对于强凸和光滑函数的特殊情况，我们隐含的收敛速度匹配的零阶凸优化问题。在频谱的另一端，对于最坏情况下的光滑函数，没有算法可以比在$\ell_\infty$ -范数中估计整个未知函数的极大极小速率更快地收敛。我们提供了一个直观和有效的算法，达到推导出的误差上界。
2018-03-22 cs.LG math.ST stat.ML
SPIDER: Near-Optimal Non-Convex Optimization via Stochastic Path Integrated Differential Estimator
Peking University（北京大学）；Tencent AI Lab（腾讯人工智能实验室）
在本文中，我们提出了一种名为\textit{Stochastic Path-Integrated Differential EstimatoR}（SPIDER）的新技术，该技术可用于跟踪许多确定性的感兴趣量，同时显着降低计算成本。我们将SPIDER应用于两个任务，即随机一阶和零阶方法。对于随机一阶方法，本文将SPIDER算法与归一化梯度下降法相结合，提出了两种仅利用随机梯度求解非凸随机最优化问题的新算法：SPIDER-SFO和SPIDER-SFO \textsuperscript{+}。我们提供了尖锐的误差有界的结果，他们的收敛速度。特别地，我们证明了SPIDER-SFO和SPIDER-SFO \textsuperscript{+}算法分别在寻找$ε$ -近似一阶稳定点和寻找$(ε, \mathcal{O}(ε^{0.5}))$ -近似二阶稳定点时，实现了$\mathcal{O}\left( \min( n^{1/2} ε^{-2}, ε^{-3} ) \right)$和$\tilde{\mathcal{O}}\left( \min( n^{1/2} ε^{-2}+ε^{-2.5}, ε^{-3} ) \right)$的破纪录的梯度计算代价.此外，我们证明了SPIDER-SFO几乎匹配的算法下限找到近似的一阶平稳点的梯度Lipschitz假设下，在有限和设置。对于随机零阶方法，我们…
2018-10-17 cs.LG math.OC stat.ML
First and zeroth-order implementations of the regularized Newton method with lazy approximated Hessians
École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Université catholique de Louvain（鲁汶天主教大学）
本文提出三次正则化牛顿方法的一阶与零阶实现，利用有限差分和自适应搜索避免Lipschitz常数，并引入惰性Hessian更新，显著提升非凸优化的复杂度界。
2023-09-05 cs.LG math.OC
ZO-AdaMM: Zeroth-Order Adaptive Momentum Method for Black-Box Optimization
University of Minnesota（明尼苏达大学）；MIT-IBM Watson AI Lab, IBM Research（麻省理工学院-IBM沃森人工智能实验室，IBM研究院）；Northeastern University（东北大学）；Princeton University（普林斯顿大学）
自适应动量方法（AdaMM）利用过去的梯度同时更新下降方向和学习率，已成为解决机器学习问题的最流行的一阶优化方法之一。然而，AdaMM是不适合解决黑盒优化问题，显式梯度形式是困难的或不可行的。在本文中，我们提出了一个零阶AdaMM（ZO-AdaMM）算法，推广AdaMM的梯度自由制度。我们发现，ZO-AdaMM的凸和非凸优化的收敛速度大致是$O(\sqrt{d})$的一个因素比一阶AdaMM算法，其中$d$是问题的大小。特别是，我们提供了一个深刻的理解，为什么Mahalanobis距离事项的ZO-AdaMM和其他AdaMM类型的方法的收敛。作为一个副产品，我们的分析使第一步了解自适应学习率方法的非凸约束优化。此外，我们展示了两个应用程序，设计每图像和通用的对抗攻击从黑盒神经网络，分别。我们在ImageNet上进行了大量的实验，并根据经验表明，与$6$最先进的ZO优化方法相比，ZO-AdaMM收敛到高精度的解决方案要快得多。
2019-10-16 cs.LG math.OC stat.ML
Federated Online and Bandit Convex Optimization
TTIC（丰田工业大学芝加哥分校）；Apple ML Research（苹果机器学习研究院）
本文研究自适应对手下具有间歇通信的联邦在线与赌博机凸优化，证明一阶反馈时协作无益，而在零阶反馈的高维机制中协作可带来线性加速，并提出分布式单点和双点反馈算法，获得紧遗憾界。
2023-11-29 cs.LG math.OC stat.ML
Zeroth-Order Regularized Optimization (ZORO): Approximately Sparse Gradients and Adaptive Sampling
University of California, Los Angeles（加州大学洛杉矶分校）；Damo Academy, Alibaba US（阿里巴巴美国达摩院）；Xmotors AI（Xmotors人工智能公司）
我们考虑最小化高维目标函数的问题，其中可能包括一个正则化项，使用（可能有噪声）的功能评估。这种优化也被称为无导数优化、零阶优化或黑盒优化。我们提出了一种新的$\textbf{Z}$ eroth- $\textbf{O}$ rder $\textbf{R}$正则化的$\textbf{O}$优化方法，称为ZORO。当底层梯度在一个梯度上近似稀疏时，ZORO需要非常少的目标函数评估来获得减小目标函数的新梯度。我们实现这一点与自适应，随机梯度估计，其次是一个不精确的近似梯度方案。在一个新的近似稀疏梯度假设和各种不同的凸设置，我们显示（理论和经验）的收敛速度的ZORO是唯一的数学依赖于问题的维数。数值实验表明，ZORO优于现有的方法类似的假设，在合成和真实数据集。
2021-12-01 cs.LG math.OC
On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization
Department of Computer Science University of Maryland College Park（计算机科学系大学马里兰大学学院公园）
本文针对零阶优化中梯度估计器存在偏差的问题，提出基于函数评估的无偏估计器族，通过望远镜级数重表述和精心采样消除偏差，并证明其在光滑非凸目标上达到最优复杂度，实验验证了其优越性。
2025-10-22 cs.AI cs.LG math.OC
Improved Regret for Zeroth-Order Adversarial Bandit Convex Optimisation
DeepMind（深度思维）
我们证明了零阶对抗强盗凸优化的极大极小遗憾的信息论上界至多为$O(d^{2.5} \sqrt{n} \log(n))$，其中$d$是维数，$n$是交互数.这改进了Bubeck等人（2017）的$O(d^{9.5} \sqrt{n} \log(n)^{7.5}$。证明是基于识别一个改进的探索性分布的凸函数。
2020-09-25 cs.LG math.OC stat.ML
Obtaining Lower Query Complexities through Lightweight Zeroth-Order Proximal Gradient Algorithms
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Texas A&M University（得克萨斯农工大学）；University Maryland College Park（马里兰大学学院公园分校）
本文利用计算开销仅为O(1)的随机零阶估计器，提出ZOOD性质与两个通用归约框架，并基于此设计ZOR-ProxSVRG和ZOR-ProxSAGA算法，显著降低了凸与非凸问题的函数查询复杂度。
2024-10-03 cs.LG math.OC
Zeroth and First Order Stochastic Frank-Wolfe Algorithms for Constrained Optimization
Indian Institute of Technology Kanpur（坎普尔印度理工学院）
本文考虑了具有两组约束的随机凸优化问题：（a）优化变量域上的确定性约束，这是难以投影的;和（b）允许有效投影的确定性或随机约束。这种形式的问题经常出现在半定规划的上下文中，以及当各种NP困难的问题近似通过半定松弛解决。由于投影到第一组约束是困难的，因此有必要探索无投影算法，例如随机Frank-Wolfe（FW）算法。另一方面，第二组约束不能以相同的方式处理，并且必须作为指示函数并入目标函数内，从而使FW方法的应用复杂化。类似的问题之前已经研究过，但是，他们遭受缓慢的收敛速度。这项工作，配备了基于动量的梯度跟踪技术，保证快速的收敛速度与最知名的速度没有第二组约束的问题。所提出的算法的零阶变体也被开发，并再次提高了最先进的速率结果。我们进一步提出了新的修剪FW的变种，享受相同的收敛速度，因为他们的经典同行，但经验表明，需要显着减少调用线性最小化预言加速整体算法。在稀疏矩阵估计、半定松弛聚类和均匀稀疏割问题的相关应用中，对所提算法的有效性进行了测试。
2022-03-18 cs.LG eess.SP math.OC
A Hybrid-Order Distributed SGD Method for Non-Convex Optimization to Balance Communication Overhead, Computational Complexity, and Convergence Rate
Institute for Research in Fundamental Sciences (IPM)（基础科学研究所（IPM））；Nokia Bell Labs（诺基亚贝尔实验室）；Sharif University of Technology（谢里夫理工大学）
本文提出了一种分布式随机梯度下降（SGD）算法，该算法通信量小，计算复杂性低，收敛速度快。为了减少通信负载，在算法的每次迭代中，工作节点计算并传送一些缩放器，这些缩放器是一些\emph{pre-shared directions}中的样本函数的方向导数。然而，为了保持准确性，在每一个特定的迭代次数之后，它们都会传递随机梯度的向量。为了降低每次迭代中的计算复杂性，工作节点通过仅执行两个函数评估而不是计算一阶梯度向量来用零阶随机梯度估计来近似方向导数。所提出的方法大大提高了零阶方法的收敛速度，保证了逐阶更快的收敛。此外，与著名的通信有效的方法模型平均（执行局部模型更新和定期通信的梯度同步的局部模型）相比，我们证明了，对于一般类的非凸随机问题和合理的参数选择，所提出的方法保证了相同的顺序的通信负载和收敛速度，同时具有顺序较少的计算复杂性。在神经网络应用中的各种学习问题的实验结果表明，所提出的方法相比，各种国家的最先进的分布式SGD方法的有效性。
2020-03-27 cs.DC cs.IT cs.LG
Converge Faster, Talk Less: Hessian-Informed Federated Zeroth-Order Optimization
Rochester Institute of Technology（罗切斯特理工大学）；Google（谷歌）；ComboCurve Inc.（ComboCurve公司）
HiSo通过利用Hessian信息加速联邦零阶优化的收敛，显著提升通信效率。
2026-02-02 cs.DC cs.LG
Explicit and Non-asymptotic Query Complexities of Rank-Based Zeroth-order Algorithms on Smooth Functions
Xi’an Jiaotong University（西安交通大学）
本文研究了基于秩的零阶优化算法在光滑函数上的显式非渐近查询复杂性，提出了新的理论分析方法，解决了现有算法收敛速率的理论缺口。
2025-12-18 cs.LG cs.NE
A simple and improved algorithm for noisy, convex, zeroth-order optimisation
Institut für Mathematik, Universität Potsdam（波茨坦大学数学研究所）
本文提出一种基于重心法的简单零阶凸优化算法，在噪声查询预算下实现 $d^2/\sqrt{n}$ 的收敛速率，略优于现有最佳结果且分析更简单。
2024-06-26 cs.LG math.OC stat.ML
A Zeroth-Order Momentum Method for Risk-Averse Online Convex Games
KTH Royal Institute of Technology（KTH皇家理工学院）；Digital Futures（数字未来中心）；Duke University（杜克大学）；Air Force Research Laboratory（美国空军研究实验室）
我们考虑在重复未知的游戏中的风险厌恶学习，其中代理的目标是最大限度地减少他们的个人风险，从而产生显着的高成本。具体而言，代理使用条件风险值（CVaR）作为风险度量，并依赖于强盗反馈的形式，在每一集的成本值的选择行动，以估计其CVaR值和更新他们的行动。使用强盗反馈估计CVaR的一个主要挑战是，代理只能访问自己的成本值，然而，这取决于所有代理的行动。为了解决这一挑战，我们提出了一个新的风险厌恶学习算法的动量，利用完整的历史信息的成本值。我们表明，该算法实现了次线性的遗憾，并在文献中最知名的算法相匹配。我们提供了一个古诺游戏的数值实验表明，我们的方法优于现有的方法。
2022-09-06 cs.GT cs.LG stat.ML
Minimisation of Quasar-Convex Functions Using Random Zeroth-Order Oracles
School of Engineering（工程学院）；Australian National University（澳大利亚国立大学）；Department of Electrical and Electronic Engineering（电子与电气工程系）；University of Melbourne（墨尔本大学）
本文研究随机高斯平滑零阶方法在无约束和约束设置下最小化类星凸函数及强类星凸函数的性能，证明了收敛性并给出了复杂度界，同时引入近端类星凸性概念处理约束问题，并在线性动力系统辨识等机器学习问题上验证了效果。
2026-06-24 cs.AI cs.LG cs.NA
Zeroth-Order Optimization Finds Flat Minima
Department of Computer Science, ETH Zurich（苏黎世联邦理工学院计算机科学系）；Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所）；Amazon（亚马逊公司）；Paul G. Allen School of Computer Science and Engineering, University of Washington（华盛顿大学保罗·G·阿伦计算机科学与工程学校）
针对零阶优化隐式正则化特性未知的问题，本文证明其通过两点估计器倾向于小Hessian迹的平坦极小值，给出凸光滑函数的收敛速率，并通过二分类和语言模型微调实验验证理论。
2025-11-11 cs.AI cs.LG math.OC
A Proximal Zeroth-Order Algorithm for Nonconvex Nonsmooth Problems
University of Central Florida（中佛罗里达大学）
在本文中，我们专注于解决一类重要的非凸最优化问题，其中包括许多问题，如信号处理网络多智能体系统和分布式学习网络。针对局部目标函数是光滑但可能非凸的部分和非光滑但凸的部分在线性等式约束下之和的问题，提出了一种近似零阶原始对偶法（PZO-PDA），该算法考虑了问题的信息结构.该算法仅利用零阶信息（即，函数值），但是对于仅目标函数的噪声信息可访问的应用实现了灵活性，其中经典方法不能被应用。我们证明了PZO-PDA的收敛性和收敛速度。数值实验验证了理论结果。
2018-10-17 cs.LG math.OC stat.ML
A Second-Order Method for Stochastic Bandit Convex Optimisation
DeepMind（深度思维）
本文提出了一种求解无约束零阶随机凸强盗问题的简单有效的算法，并证明了它的遗憾最多为$(1 + r/d)[d^{1.5} \sqrt{n} + d^3] polylog(n, d, r)$，其中$n$是视界，$d$是维数，$r$是包含损失最小的已知球的半径.
2023-02-10 cs.LG math.OC stat.ML
Hybrid Decentralized Optimization: Leveraging Both First- and Zeroth-Order Optimizers for Faster Convergence
本文研究混合去中心化优化，使具备一阶和零阶优化能力的节点共存协同求解任务，提出对含噪梯度估计器的新分析，证明系统整合零阶节点可加速收敛，适用于凸/非凸目标及深度神经网络训练。
2025-10-30 cs.DC cs.LG
Sparse Perturbations for Improved Convergence in Stochastic Zeroth-Order Optimization
Heidelberg University（海德堡大学）
随机零阶（SZO）方法的兴趣最近在黑盒优化场景中重新燃起，例如对深度神经网络的对抗性黑盒攻击。SZO方法只需要在随机输入点处对目标函数求值的能力，然而，它们的弱点是它们的收敛速度依赖于待求值函数的维数。我们提出了一种稀疏SZO优化方法，该方法将该因子降低到学习过程中随机扰动的预期维度。我们给出了一个证明，证明了这种减少稀疏SZO优化的非凸函数，而不作任何假设的目标函数或梯度的稀疏性。此外，我们提出的实验结果，神经网络MNIST和CIFAR的训练损失和测试精度的收敛速度更快，和一个更小的距离的梯度近似的真实梯度稀疏SZO相比，密集SZO。
2020-06-29 cs.LG math.OC stat.ML
Explicit and Non-asymptotic Query Complexities of Rank-Based Zeroth-order Algorithm on Stochastic Smooth Functions
Xi’an Jiaotong University（西安交通大学）
本文提出了一种基于秩的零阶优化算法，针对随机光滑函数建立了显式非渐近查询复杂性界限，证明顺序信息在随机优化中的有效性。
2025-12-22 cs.LG math.OC
An Accelerated Variance-Reduced Conditional Gradient Sliding Algorithm for First-order and Zeroth-order Optimization
Nanjing University of Information Science & Technology（南京信息工程大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；JD Finance America Corporation（京东金融美国公司）；University of Pittsburgh（匹兹堡大学）
条件梯度算法（也称为Frank-Wolfe算法）最近在机器学习社区中重新流行起来，因为它具有解决约束问题的无投影特性。虽然已经提出了条件梯度算法的许多变体来提高性能，但它们依赖于一阶信息（梯度）来优化。自然，这些算法无法在日益流行的零阶优化领域正常工作，其中只有零阶信息（函数值）可用。为了填补这一空白，我们提出了一种新的加速方差减少条件梯度滑动（ARCS）算法的有限和问题，它可以使用一阶或零阶信息进行优化。据我们所知，ARCS是第一个零阶条件梯度滑动型算法解决凸问题的零阶优化。在一阶优化中，ARCS的收敛结果在梯度查询预言机的数量方面大大优于以前的算法。最后，通过在真实数据集上的实验，验证了ARCS的优越性。
2021-09-18 cs.LG math.OC
Gradientless Descent: High-Dimensional Zeroth-Order Optimization
Google Brain（谷歌大脑）
零阶优化是最小化目标$f(x)$的过程，给定oracle访问自适应选择的输入$x$处的评估。在本文中，我们提出了两个简单而强大的无梯度下降（GLD）算法，不依赖于底层的梯度估计和数值稳定。我们从一个新的几何角度分析我们的算法，并提出了一种新的分析，表明收敛在一个$ε$ -球的最佳$O(kQ\log(n)\log(R/ε))$评价，任何单调变换的光滑和强凸的目标与潜在的尺寸$k < n$，其中输入尺寸是$n$，$R$是输入空间的直径和$Q$是条件数。我们的速率是同类中第一个既1）多变量依赖于维数，2）单调变换下不变。我们进一步利用我们的几何视角来表明我们的分析是最优的。单调不变性及其利用低潜在维度的能力是我们的算法取得经验成功的关键，正如BBOB和MuJoCo基准测试所证明的那样。
2020-05-18 cs.LG math.OC stat.ML
Zeroth-Order Algorithms for Smooth Saddle-Point Problems
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Higher School of Economics（高等经济学院）；Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机研究所）；Institute for Information Transmission Problems RAS（俄罗斯科学院信息传输问题研究所）；Caucasus Mathematical Center, Adyghe State University（阿迪格国立大学高加索数学中心）
鞍点问题最近受到机器学习社区越来越多的关注，主要是由于使用随机梯度训练生成对抗网络的应用。同时，在某些应用中，只有零阶oracle可用。本文提出了几种利用零阶预言机求解随机光滑（强）凹凸鞍点问题的算法，并估计了它们的收敛速度及其对变量维数$n$的依赖性.特别是，我们的分析表明，在可行集是两个单纯形的直积的情况下，我们的随机项的收敛速度仅由一个$\log n$因素比一阶方法差。我们还考虑了一个混合的设置和开发1/2阶的方法，使用零阶预言的最小化部分和一阶预言的最大化部分。最后，我们展示了我们的零阶和1/2阶方法在实际问题上的实际性能。
2021-02-27 cs.LG math.OC
Quantum Speedups of Optimizing Approximately Convex Functions with Applications to Logarithmic Regret Stochastic Convex Bandits
Peking University（北京大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们开始研究优化近似凸函数的量子算法。给定一个凸集${\cal K}\subseteq\mathbb{R}^{n}$和一个函数$F\colon\mathbb{R}^{n}\to\mathbb{R}$使得存在一个凸函数$f\colon\mathcal{K}\to\mathbb{R}$满足$\sup_{x\in{\cal K}}|F(x)-f(x)|\leq ε/n$，我们的量子算法找到一个$x^{*}\in{\cal K}$使得$F(x^{*})-\min_{x\in{\cal K}} F(x)\leqε$使用$\tilde{O}(n^{3})$量子求值查询到$F$ .与最著名的经典算法相比，这实现了多项式量子加速。作为应用，我们给出了一个求解带$\tilde{O}(n^{5}\log^{2} T)$遗憾的零阶随机凸强盗问题的量子算法，与经典的$Ω(\sqrt{T})$下界相比，在$T$上有指数级的加速.在技术上，我们实现量子加速$n$利用量子模拟退火框架，并采用量子版本的打了就跑的步行。我们在$T$中对零阶随机凸强盗的加速是由于在平均估计的乘性误差中的二次量子加速。
2022-09-26 cs.LG math.OC quant-ph
Asynchronous Distributed Reinforcement Learning for LQR Control via Zeroth-Order Block Coordinate Descent
Chongqing University（重庆大学）；North Carolina State University（北卡罗来纳州立大学）；Oklahoma State University（俄克拉荷马州立大学）；DEVCOM Army Research Laboratory（DEVCOM陆军研究实验室）
本文提出一种利用网络结构进行局部零阶梯度估计的异步分布式优化算法，无需共识协议，并将其应用于分布式LQR控制的强化学习设计。
2024-05-03 cs.AI cs.LG cs.SY
FedZeN: Towards superlinear zeroth-order federated learning via incremental Hessian estimation
University of Padova（帕多瓦大学）；Uppsala University（乌普萨拉大学）
本文提出 FedZeN，这是一种在联邦零阶凸优化中利用增量 Hessian 与 Stiefel 流形搜索方向估计曲率的算法，实现高概率局部二次及全局线性收敛，并在实验中优于现有方法。
2023-09-29 cs.LG math.OC
Zeroth-Order Nonconvex Nonsmooth Optimization with Heavy-Tailed Noise
Zhuanghua Liu（刘庄华）；Luo Luo（罗洛）
针对目标函数Lipschitz连续的非凸非光滑问题，提出一种通过裁剪两点梯度估计器的在线到非凸转换框架的随机零阶算法，在重尾噪声下实现$(δ, ε)$-Goldstein驻点，其零阶复杂度为${\\mathcal O}(d^{\\frac{p}{2(p-1)}}δ^{-1}ε^{-\\frac{2p-1}{p-1}})$，与已知最优结果一致。
2026-05-23 cs.LG
Neural Ising Machines via Unrolling and Zeroth-Order Training
Stanford University（斯坦福大学）
通过展开和零阶训练的神经异步机提出了一种数据驱动的启发式方法，用于高效解决NP难的Ising和Max-Cut优化问题。
2026-01-30 cond-mat.dis-nn cs.LG nlin.CD
A Historical Trajectory Assisted Optimization Method for Zeroth-Order Federated Learning
School of Software Engineering, Sun Yat-sen University（中山大学软件工程学院）
针对零阶联邦学习中各向同性随机采样梯度估计误差高的问题，提出利用历史轨迹张成子空间的非各向同性采样方法，在不增加显著通信与计算开销的前提下保持收敛速率并经实验验证有效。
2026-11-09 cs.AI cs.LG
Dimensional Peeking for Low-Variance Gradients in Zeroth-Order Discrete Optimization via Simulation
Nanyang Technological University（南洋理工大学）
本文提出一种通过模拟实现的维度窥视方法，用于减少零阶离散优化中的梯度方差，提升优化性能。
2026-01-21 cs.LG cs.MS
Stochastic Zeroth-order Riemannian Derivative Estimation and Optimization
University of California, Davis（加州大学戴维斯分校）
研究了欧几里得空间中黎曼子流形上的随机零阶优化问题，其任务是求解只有噪声目标函数估值的黎曼最优化问题.为此，我们的主要贡献是提出估计的黎曼梯度和海森噪声目标函数的评价，基于黎曼版本的高斯平滑技术。所提出的估计克服了困难的非线性的流形约束和使用欧氏高斯平滑技术时出现的问题，函数只定义在流形上。我们使用建议的估计解决黎曼最优化问题在以下设置的目标函数：（i）随机和梯度Lipschitz（在非凸和测地凸设置），（ii）梯度Lipschitz和非光滑函数的总和，和（iii）海森Lipschitz。对于这些设置，我们分析了我们的算法，以获得适当定义的概念$ε$ -平稳点或$ε$ -近似局部极小的Oracle复杂性。值得注意的是，我们的复杂性是独立的周围的欧几里得空间的尺寸，只取决于所考虑的流形的内在尺寸。我们证明了我们的算法的适用性，通过仿真结果和现实世界中的应用程序对机器人的黑箱刚度控制和黑箱攻击的神经网络。
2021-01-05 cs.DS cs.LG math.OC
Towards Gradient Free and Projection Free Stochastic Optimization
Carnegie Mellon University（卡内基梅隆大学）；Google AI（谷歌人工智能）
本文主要研究\emph{constrained} \emph{stochastic}优化问题。提出了一种零阶Frank-Wolfe算法，该算法除了具有经典Frank-Wolfe算法的无投影特性外，还具有无梯度特性。在凸性和光滑性假设下，证明了该算法以$O\left(1/T^{1/3}\right)$的速度收敛到最优目标函数，其中$T$表示迭代次数.特别是，原始的次优间隙示出具有$O\left(d^{1/3}\right)$，这是最好的已知的尺寸依赖于所有零阶优化算法与一个方向导数每次迭代的尺寸依赖。对于非凸函数，我们得到\emph{Frank-Wolfe}间隙为$O\left(d^{1/3}T^{-1/4}\right)$ .黑盒优化实验结果表明了该算法的有效性。
2019-02-18 cs.LG math.OC
Communication-Efficient Stochastic Zeroth-Order Optimization for Federated Learning
ShanghaiTech University（上海科技大学）；EPFL（洛桑联邦理工学院）
联邦学习（FL）作为一种新兴的边缘人工智能范例，使许多边缘设备能够协作训练全局模型，而无需共享它们的私有数据。为了提高FL的训练效率，已经提出了各种算法，从一阶到二阶方法。然而，这些算法不能应用于梯度信息不可用的场景中，例如，联邦黑盒攻击和联邦超参数调整。为了解决这个问题，在本文中，我们提出了一种无导数联邦零阶优化（FedZO）算法，其特点是在每个通信回合中基于随机梯度估计器执行多个本地更新，并使部分设备参与。在非凸设置下，我们推导了FedZO算法在非独立同分布数据上的收敛性能，并表征了局部迭代次数和参与边缘设备数量对收敛的影响。为了实现无线网络上的通信高效的FedZO，我们进一步提出了空中计算（AirComp）辅助FedZO算法。通过适当的收发器设计，我们证明了AirComp-assisted FedZO的收敛性在一定的信噪比条件下仍然可以保持。仿真结果验证了FedZO算法的有效性和理论观察。
2022-10-10 cs.AI cs.LG eess.SP
Zeroth-Order Sampling Methods for Non-Log-Concave Distributions: Alleviating Metastability by Denoising Diffusion
Georgia Institute of Technology（佐治亚理工学院）
本文针对非对数凹分布采样问题，提出基于去噪扩散的DDMC元框架及零阶实现ZOD-MC，证明其逆多项式收敛性，实验显示低维下性能优于现有扩散采样器且对势垒升高、势能不连续不敏感。
2024-10-30 cs.LG math.PR math.ST
