Zeroth-Order Learning in Continuous Games via Residual Pseudogradient Estimates
在多人博弈中,一群自利的玩家致力于优化自己的局部目标,而目标取决于其他玩家所采取的行动。每个参与者的局部梯度信息,在实现寻找博弈解的算法中至关重要,往往是不可用的。在本文中,我们专注于设计解决方案的算法,多人游戏使用强盗反馈,即,每个参与者唯一可用的反馈是实现的目标值。为了解决现有的强盗学习算法中的一个单一的预言机调用的大的变化的问题,我们提出了两个算法,通过集成的残余反馈计划到单调用额外的梯度法。随后,我们表明,实际的播放序列几乎肯定可以收敛到一个临界点,如果游戏是伪单调加和特征的收敛速度的临界点时,游戏是强伪单调。作为补充,还研究了单调对策中生成序列的遍历收敛速度。最后通过数值算例进一步验证了算法的有效性。
2023-01-05 math.OC
An Inexact Preconditioned Zeroth-order Proximal Method for Composite Optimization
针对仅有函数值可用的复合优化问题,提出基于相同试验点有限差分估计梯度和预条件子的预处理零阶近端梯度法,并证明其全局收敛性与最坏情况复杂度,数值实验验证了方法的优越性。
2024-01-07 math.OC
A Gaussian smoothing-based zeroth-order method for Goldstein second-order stationarity
Chengdu University of Information Technology(成都信息工程大学);The Hong Kong Polytechnic University(香港理工大学);Zhejiang University of Technology(浙江工业大学)
该研究引入戈德斯坦二阶δ-次微分等概念,针对连续可微函数提出基于立方正则化和高斯平滑同伦的零阶算法,用于寻找近似二阶平稳点,并推导了迭代复杂度。
2026-07-24 math.OC
A Parameter-Free Zeroth-Order Algorithm for Decentralized Stochastic Convex Optimization
MIRIAI(莫斯科信息检索与分析研究所);Appied AI Institute(应用人工智能研究所)
本文提出一种去中心化POEM算法,通过双点平滑和自适应半径与步长规则,实现无需先验知识的去中心化随机凸优化。
2026-03-16 math.OC
Zeroth-Order Non-smooth Non-convex Optimization via Gaussian Smoothing
Indian Institute of Science(印度科学学院)
针对仅含噪声函数值的Lipschitz连续非光滑非凸优化问题,提出一种双时间尺度零阶投影随机次梯度方法,利用高斯平滑逼近Clarke次微分,并证明迭代几乎必然收敛到Clarke驻点邻域。
2026-06-01 math.OC
Zeroth-order methods for noisy Hölder-gradient functions
本文证明了非凸优化零阶方法的新的复杂性界,其中目标函数值具有不精确观测。我们使用Nesterov和Spokoiny [2015]的高斯平滑方法,并将其结果扩展到光滑零阶非凸问题的最优化方法,以设置具有Hölder连续梯度的函数的最小化,并获得噪声上界。我们考虑了基于正态分布随机高斯向量的有限差分梯度近似,并证明了基于这种近似的梯度下降格式收敛到光滑函数的平稳点。我们还考虑收敛到原来的(不平滑)功能的稳定点,并获得的步骤的数量上的界限,使其梯度的范数小的算法。此外,我们提供了零阶预言中的噪声水平的界限,仍然可以保证上述界限。我们还考虑单独的情况下,$ν= 1$,并表明,在这种情况下,所获得的边界上的尺寸的依赖性可以得到改善。
2021-01-13 math.OC
Fully Adaptive Zeroth-Order Method for Minimizing Functions with Compressible Gradients
本文提出一种完全自适应的零阶方法,用于最小化具有 $L$-Lipschitz 连续梯度的可微函数,无需预先知道稀疏度 $s$ 或 Lipschitz 常数 $L$,并在梯度可压缩时获得改进的评估复杂度界限。
2025-07-14 math.OC
Certified Multi-Fidelity Zeroth-Order Optimization
Toulouse School of Economics(图卢兹经济学院);IRT Saint Exupéry(圣埃克苏佩里技术研究院);Institut de Mathématiques de Toulouse(图卢兹数学研究所)
本文研究多保真度零阶优化中的认证算法,通过极小极大博弈形式化问题,提出MFDOO的认证变体并证明其近乎最优的成本复杂度,同时应用于含噪评估特例。
2024-10-11 cs.LG math.OC math.ST
On the irreducibility and convergence of a class of nonsmooth nonlinear state-space models on manifolds and their applications to zeroth-order optimization
本文放宽假设至流形与局部Lipschitz连续,证明一类非线性状态空间马尔可夫链的不可约性与收敛性,并应用于协方差矩阵自适应进化策略的零阶优化。
2025-09-08 math.OC math.PR
Inexact Zeroth-Order Nonsmooth and Nonconvex Stochastic Composite Optimization and Applications
King’s College London(伦敦国王学院);Yale University(耶鲁大学)
本文提出了一种近似零阶方法,用于解决非光滑非凸随机复合优化问题,并展示了其在广泛问题中的应用,超越了现有方法的局限性。
2025-12-10 math.OC
Model-Free Optimization on Smooth Compact Manifolds: Overcoming Topological Obstructions using Zeroth-Order Hybrid Dynamics
由常微分方程(ODEs)建模的光滑自治动力系统不能鲁棒全局稳定紧致无边界流形上的一点。这种障碍,这是拓扑性质,意味着传统的光滑优化动力学是不能够鲁棒地解决全球最优化问题在这样的空间。反过来,无模型优化算法通常从基于模型的算法继承其稳定性和收敛性,也可能遭受类似的拓扑障碍。例如,这是零阶方法和基于扰动的技术中的情况,其中梯度和海森通常经由费用函数的测量或评估来实时估计。为了解决这个问题,我们引入了一类混合无模型优化动力学,它结合了连续时间和离散时间反馈,以克服在光滑紧致流形上发展的传统基于ODE的优化算法中出现的障碍。特别是,我们引入了一个混合控制器,不同的无模型反馈法之间的切换,通过应用适当的探索测地抖动家庭的协同同胚适应的成本函数,定义的最优化问题。测地线抖动使探索的流形,同时保持其前向不变性,一个属性,这是很重要的许多实际应用中,基于物理的约束限制系统的可行轨迹。混合控制器利用测地线抖动获得的信息,以实现鲁棒全局实用稳定的成本的最小集。所提出的方法是无模型的性质,因为它只需要测量或评价的费用函数。数值结果说明了该方法的主要思想和优点。
2022-12-06 math.OC
Conservation Voltage Reduction (CVR) via Two-Timescale Control in Unbalanced Power Distribution Systems
在配电系统中采用电压控制装置,通过使系统更接近可接受的电压下限来降低功耗;这种技术称为节能降压(CVR)。系统的传统设备(具有二进制控制)和新设备(例如具有连续控制的智能逆变器)与可变光伏(PV)发电耦合的不同操作模式导致电压波动,这使得实现CVR目标具有挑战性。本文提出了一种双时标控制馈线的电压控制设备,以实现CVR,其中包括(1)一个集中式控制器在一个较慢的时间尺度上运行,以协调电压控制设备在整个馈线和(2)本地控制器在一个较快的时间尺度上运行,以减轻电压波动,由于PV的变化。集中式控制器利用三相最优潮流模型来获得传统设备和智能逆变器的决策变量。本地控制器操作智能逆变器,以最大限度地减少电压波动,并通过调整无功功率支持将节点电压恢复到其参考值。所提出的方法进行了验证,使用IEEE-123总线(中型)和R3-12.47-2(大型)馈线。结果表明,该方法是有效的,在实现CVR目标的不平衡配电系统。
2020-04-24 cs.SY eess.SY math.OC
A Zeroth-Order Deep Learning Method for Fully Nonlinear Parabolic Partial Differential Equations with Unknown Coefficients
针对高维未知系数非线性PDE,提出基于零阶导数估计的无模型深度学习方法,通过模拟器生成数据并学习解及其导数,理论分析给出非渐近误差界和样本复杂度。
2026-06-25 cs.LG math.OC
Sparse Training with Lipschitz Continuous Loss Functions and a Weighted Group L0-norm Constraint
本文的动机是深度神经网络训练的结构化稀疏性。研究了一类加权群L0-范数约束,给出了这类约束的投影和法锥。使用随机平滑,我们开发的零阶和一阶算法,最小化Lipschitz连续函数约束的任何闭集,可以投影到。非渐近收敛的保证被证明在预期的两个相关的收敛标准,可以被认为是近似平稳点的算法。使用所提出的算法给出了两个进一步的方法:一个具有非渐近收敛保证的高概率,和其他渐近保证几乎必然的一个平稳点。我们特别相信,这些是第一个这样的非渐近收敛的结果,约束Lipschitz连续损失函数。
2022-12-20 math.OC
Zeroth-order Gradient and Quasi-Newton Methods for Nonsmooth Nonconvex Stochastic Optimization
Pennsylvania State University(宾夕法尼亚州立大学);University of Michigan(密歇根大学);Rutgers University(罗格斯大学)
针对非光滑非凸随机优化,提出两种零阶方法(方差缩减梯度VRG-ZO和随机拟牛顿VRSQN-ZO),实现Clarke平稳点的近似计算,并给出迭代与样本复杂度保证。
2025-10-17 math.OC
Inexact Proximal Point Algorithms for Zeroth-Order Global Optimization
本文研究连续非凸函数的零阶全局优化问题,构建了非精确近端点方法的理论框架,提出了基于张量列近似和蒙特卡洛积分的两种实用算法,并证明了其收敛性与有效性。
2025-06-02 math.OC
Direct search for stochastic optimization in random subspaces with zeroth-, first-, and second-order convergence and expected complexity
Argonne National Laboratory(阿贡国家实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
研究在随机子空间中进行随机优化的StoDARS框架,通过在特定随机子空间生成搜索方向实现可扩展性,证明其在目标函数连续可微时期望复杂度与其他方法相似,还证明其收敛性及扩展了对MADS算法二阶行为的分析。
2026-07-29 math.OC
Optimal Distributed Frequency and Voltage Control for Zonal Electricity Markets
区域电价是一种非常适合激励利润最大化的生产者和消费者在大规模电力系统上运行的电网支持行为的机制。在区域电力市场中,当地系统运营商创建单独的价格区,其根据当地电网条件(例如某些地区的电能过剩或短缺)提供适当的价格信号。在本文中,实时分区定价控制器的AC电力网络,确保频率和电压的稳定性,以及帕累托效率的闭环平衡。基于一个动态网络模型,考虑到线路损耗和与相邻价格区的功率交换,分布式连续时间控制律推导出只需要邻居到邻居的通信。应用程序的实时拥塞管理策略说明了如何空间和时间上的差异化价格,使电网支持的操作的参与者,而无需由上级控制机构的干预。不同的分区定价概念相比,一个孤立的电网操作的有效性证明通过模拟IEEE-57总线系统。
2021-06-19 cs.SY eess.SY math.OC
Gradient-Free Optimization for Non-Smooth Saddle Point Problems under Adversarial Noise
我们考虑非光滑鞍点最优化问题。为了解决这些问题,我们提出了一个零阶方法下有界或Lipschitz连续噪声,可能的对抗。与现有的算法相比,我们的算法在两个标准方面都是最优的:Oracle调用复杂度和允许噪声的最大值。所提出的方法是简单的,易于实现,因为它是建立在零阶版本的随机镜像下降。给出了平均和概率意义下的收敛性分析。我们还特别注意的二元间隙$r$ -增长条件$(r\geq 1)$,我们提供了一个修改我们的算法使用重新启动技术。我们还评论无限噪声方差和上界的情况下,Lipschitz噪声。所得结果不仅对鞍点问题,而且对凸优化也有重要意义。
2023-03-25 math.OC
Learning generalized Nash equilibria in monotone games: A hybrid adaptive extremum seeking control approach
在本文中,我们解决了学习问题的广义纳什均衡(GNE)在仅仅单调的游戏。首先,我们提出了一种新的连续半分散的解决方案算法,使用一阶信息计算GNE与中央协调器没有投影。作为第二个主要贡献,我们设计了一个增益自适应方案,以前的算法,以减轻问题的不当缩放的代价函数与约束。第三,我们提出了一个数据驱动的前一种算法的变体,其中每个代理估计他们的个人pseudogradient通过零阶信息,即测量他们的个人代价函数值。最后,我们将我们的方法应用于石油开采工程中的扰动振幅优化问题。
2021-10-06 cs.SY eess.SY math.OC
Zero-Sum Power Factor Games
Georgia Institute of Technology(佐治亚理工学院);University of Michigan(密歇根大学)
针对含分布式能源资源的电力网络电压调控问题,提出基于线性电压模型的鲁棒极小极大策略,通过功率因子比抵消有功注入影响,可应用于特定DER额定值,数值测试验证了其调控效果。
2026-08-21 cs.SY eess.SY math.OC
Solving scalability issues in calculating PV hosting capacity in low voltage distribution networks
针对低压配电网单相光伏接纳容量计算中NLP及MINLP模型计算量大的可扩展性问题,提出一种无需二进制变量仍可保证光伏单相接的方法,并与MINLP结果在求解时间和技术指标上做对比。
2023-07-19 cs.SY eess.SY math.OC
Volt/VAR Optimization in Transmission Networks with Discrete-Control Devices
School of Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院工业与系统工程学院);School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院)
本文提出了一种结合离散控制设备与交流功率流物理的电压/无功优化框架,以提高输电网络的电压稳定性并减少VAR生成。
2026-01-29 cs.SY eess.SY math.OC
Optimal Power Flow with Step-Voltage Regulators in Multi-Phase Distribution Networks
本文提出了一种基于支路潮流的多相配电网最优潮流(OPF)问题,该问题允许Y形、闭合三角形和开放三角形步进电压调节器(SVRs)的抽头选择。假设SVR是理想的,并且它们的抽头由连续的决策变量表示。为了解决非线性问题,传统的OPF的分支流半定规划框架进行了扩展,以适应SVR边缘。解决了三种类型的非凸性:(a)非SVR边缘上的秩1约束,(b)SVR功率流和抽头上的非线性等式约束,以及(c)SVR电压和抽头上的三线性等式。利用对SVR次级电压的实际相位分离假设,为(c)和(a)的某些秩-1约束提供新颖的McCormick松弛,同时丢弃其余的。使用基于功率守恒的线性松弛来代替(b)。标准配电测试馈线的数值模拟证实了所提出的凸公式的优点。
2019-01-14 math.OC
Stochastic Dual Algorithm for Voltage Regulation in Distribution Networks with Discrete Loads
本文考虑了分布式能源的配电网络,并设计了一种基于激励的算法,允许网络运营商和客户追求给定的运营和经济目标,同时确保电压在规定的范围内。考虑了具有连续和离散控制命令的异构DER。我们解决四个主要的挑战:离散决策变量,非凸性由于Stackelberg游戏结构,从客户的私人信息不可用,和异步操作。从一个非凸的设置,我们开发了一个分布式的随机对偶算法,解决了一个放松的问题,并证明了所提出的算法达到了全局最优解的平均原问题。离散决策变量的可行值也被恢复。算法的稳定性分析建立和数值证实。
2017-08-11 math.OC
High-voltage solution in radial power networks:Existence, properties and equivalent algorithms
交流潮流方程描述了电网的稳态行为。虽然已经开发了许多算法来计算潮流方程的解,但很少有理论结果可用于表征何时存在此类解,或者何时可以保证这些算法收敛。在本文中,我们推导出的充要条件的存在性和唯一性的均匀(均匀$R/X$比)的配电线路的平衡辐射状配电网的潮流解。我们研究了三种不同的求解方法:不动点迭代法、凸松弛法和能量函数法,证明了这三种算法成功地找到解的充要条件是解存在。此外,所有三种算法总是找到潮流方程的唯一高压解,我们正式建立了该解的存在性。其可以被正式定义为高压解--功率流方程的任何其它解在每个总线处具有更小或相等的电压幅值。在这个解决方案中,我们证明了(i)电压幅值是无功功率注入的增函数,(ii)解决方案是注入的连续函数,以及(iii)解决方案是最后一个消失的系统是过去的可行性边界加载。
2017-06-16 math.OC
Convergence Analysis of Stochastic Saddle Point Mirror Descent Algorithm -- A Projected Dynamical View Point
本文从投影动力学视角提出非欧域连续时间鞍点动力学,证明其稳定性,并据此建立 SSPMD 的几乎必然收敛及零阶 SZSPMD 的邻域收敛性。
2024-04-07 math.OC
Design of a Continuous Local Flexibility Market with Network Constraints
据我们所知,本文首次提出了一个连续的本地灵活性市场,明确考虑网络约束的设计。在局部灵活性市场的早期阶段,连续市场预计是最适当的设计选择,因为流动性不足可能阻碍市场发展。与此同时,负荷越来越大的配电系统需要明确考虑网络约束,在本地灵活的市场清算,以帮助解决,而不是加剧本地网络的问题,如线路拥挤和电压问题。本文定义了基本的设计考虑,介绍了本地灵活性市场清算算法,并-旨在建立一个起点,为未来的研究-讨论了设计方案和研究过程中出现的挑战,需要进一步调查。
2021-04-15 math.OC
Achieve Performatively Optimal Policy for Performative Reinforcement Learning
针对表现性强化学习,提出零阶Frank-Wolfe算法,在正则化主导条件下实现首个多项式时间收敛到表现性最优策略,并证明价值函数梯度主导性与驻点有界性。
2025-10-06 cs.LG math.OC