On the convergence rate of grid search for polynomial optimization over the simplex
我们考虑标准单纯形上给定多项式的近似极小化问题,该问题是通过在所有具有给定分母${r} \in \mathbb{N}$的有理网格点上取最小值而得到的。它显示在[De Klerk,E.,Laurent,M.,Sun,Z.:基于多元超几何分布的单纯形上多项式优化的误差分析。{\em SIAM J. Optim.} 25(3)1498--1514(2015)],如果存在有理全局最小值,则该近似的相对精度取决于$r$作为$O(1/r^2)$。在本文中,我们证明了有理极小条件是不必要的,以获得$O(1/r^2)$界。
2016-03-10 math.OC
Convergence Analysis and Strategy Control of Evolutionary Games with Imitation Rule on Toroidal Grid: A Full Version
本文首次严格证明了环面网格上带随机模仿规则的演化博弈收敛性,并解决了最小智能体一致性控制问题,揭示了固定背叛与合作节点数量对系统收敛状态的影响。
2023-06-29 math.DS math.OC
A Novel Fully Informed Water Cycle Algorithm for Solving Optimal Power Flow Problems in Electric Grids
最优潮流(OPF)是电网规划和运行的重要工具。线流约束、发电机负荷效应、分段费用函数、排放和电压质量成本使得最优化模型非凸且求解计算繁琐。解决问题的元启发式技术已经成为一个很有前途的解决方案,以解决复杂的最优潮流问题。近年来,水循环算法(WCA)被提出来用于求解最优化问题,它是一种基于水循环过程观测和地表径流模型的方法。提出了一种改进的WCA算法,该算法利用个体之间共享全局和局部信息的概念,提高了WCA算法的开发能力。所谓的完全知情的WCA(FIWCA)进行测试,对标准的WCA和其他元启发式技术在IEEE 30和57总线系统的各种情况下的文献研究。比较和讨论文献中研究的元分析方法的性能和可靠性。优化结果表明,与WCA算法和其他算法相比,FIWCA算法具有更好的性能,特别是在重复次数的稳定性方面。因此,它成为一个工具,解决OPF在一个可靠和有效的方式。
2019-09-19 cs.SY eess.SY math.OC
Exponential convergence of a dissipative quantum system towards finite-energy grid states of an oscillator
基于量子纠错的稳定子形式体系,提出一种针对量子谐振子的 Lindblad 主方程,通过指数 Lyapunov 函数实现向有限能量网格态的精确稳定化,并在光子损耗下展现自主纠错潜力。
2022-09-08 math.OC quant-ph
Grid is Good: Adaptive Refinement Algorithms for Off-the-Grid Total Variation Minimization
提出了一种自适应精化算法来求解全变差正则化测度最优化问题。该方法基于i)离散化对偶问题的分辨率和ii)检测包含违反对偶约束的点的单元迭代地构造单位立方体的二元分区。检测是基于双证书上的上限,在分支定界法的精神。这种方法的好处在于避免了使用启发式方法来寻找双重证书的最大化者。我们证明了这种方法的收敛性温和的假设和线性收敛速率下额外的非退化假设。简单的数值实验证实了这些结果。
2023-01-18 math.OC
Weak and strong convergence of an inertial proximal method for solving bilevel monotone equilibrium problems
本文介绍一种求解希尔伯特空间中两个单调平衡双函数的两层问题的惯性逼近方法。在适当的条件下,在不对轨迹作任何限制性假设的情况下,证明了由迭代法产生的序列的弱收敛性和强收敛性。两个特殊的情况下,说明所提出的方法进行了讨论,相对于分层极小化问题和平衡问题下鞍点约束。最后,通过数值算例验证了算法的可实现性.该算法及其收敛性结果改进和发展了前人的结果。
2022-10-19 math.OC
Convergence rate bounds for a proximal ADMM with over-relaxation stepsize parameter for solving nonconvex linearly constrained problems
本文建立了求解非凸线性约束最优化问题的一种近似交替方向法(ADMM)的收敛速度界。近端ADMM的变体允许包含属于间隔$(0,2)$的超松弛步长参数。据我们所知,文献中所有相关的论文都只考虑了超松弛因子位于区间$(0,(1+\sqrt{5})/2)$的情况。
2017-11-03 math.OC
On the Convergence Analysis of Asynchronous SGD for Solving Consistent Linear Systems
在大数据和机器学习领域,数据并行,分布式随机算法在当今引起了极大的关注。虽然这些算法的同步版本是很好地理解其收敛性,其异步同行的收敛性分析没有得到广泛的研究。在本文中,我们提出并分析了一个{ \it分布式,异步并行} SGD解决一个任意一致的线性系,通过将系统转化为随机最优化问题,研究了Richtárik和Takác在[35]。我们比较了我们的异步SGD算法的收敛速度与同步并行算法提出的Richtárik和Takánik在[35]在不同的选择超参数--步长,阻尼因子,处理器的数量,和延迟因子。我们证明了我们的异步并行SGD算法也具有全局线性收敛速率,类似于{ \em basic}方法和[35]中的同步并行方法,用于通过随机重构求解任意相容线性系。我们还表明,我们的异步并行SGD改进后的{ \em基本}方法具有更好的收敛速度时,处理器的数量大于4。我们进一步表明,这种异步的方法比它的同步对应的某些线性系渐近更好。此外,对于某些线性系,我们计算所需的处理器的最小数量,我们的异步并行SGD是更好的,并发现这个数字可以低至两个病态的问题。
2020-04-05 cs.CC cs.DC cs.NA
Voltage Regulation Algorithms for Multiphase Power Distribution Grids
Virginia Tech(弗吉尼亚理工大学);University of Minnesota(明尼苏达大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种适用于多相电网的电压调节算法,通过分析线性化电网模型,改进了传统电压调节设备,并验证了其在不同电网拓扑下的收敛性和鲁棒性。
2015-08-26 cs.SY eess.SY math.OC
Convergence of Tikhonov regularization for solving ill-posed operator equations with solutions defined on surfaces
University of Vienna(维也纳大学);Johannes Kepler University of Linz(林茨约翰内斯·开普勒大学);Austrian Academy of Sciences(奥地利科学院)
本文研究了求解定义在曲面上的病态算子方程的Tikhonov正则化方法,分析了表面扰动对误差的影响,并探讨了向量丛上的函数正则化分析,展示了重力反演和表面矢量场去噪的应用。
2016-12-14 cs.NA math.DG math.FA
GridSFM: A Foundation Model for Solving AC Optimal Power Flow
Microsoft Research(微软研究院)
GridSFM是一个结合预训练图神经网络与物理信息微调的基础模型,用于大规模求解交流最优潮流,在10000节点算例上实现2.45%零样本误差,并仅用100个实例适应新电网,优于专用模型。
2026-10-08 cs.LG cs.SY eess.SY
Convergence of Two Simple Methods for Solving Monotone Inclusion Problems in Reflexive Banach Spaces
我们提出了两个非常简单的方法,第一个与常数步长和第二个与自适应步长,寻找一个零的两个单调算子的和在实自反巴拿赫空间。我们的方法在每次迭代中只需要对单值算子进行一次评估。当集值算子是极大单调的且单值算子是Lipschitz连续的时,得到了弱收敛结果;当集值算子和单值算子中的任何一个都是强单调的时,得到了强收敛结果.在实自反巴拿赫空间中,我们也得到了我们所提出的方法收敛速率。最后,我们应用我们的结果来解决广义纳什均衡问题的天然气市场。
2022-07-10 math.OC
A strong convergence theorem for solving an equilibrium problem and a fixed point problem using the Bregman distance
本文利用Bregman距离,提出了一种新的投影型算法,用于求平衡问题的解集和不动点集的公共元素.然后在适当的条件下证明了算法产生的序列的强收敛性。最后,利用MATLAB软件,我们给出了一个数值例子来说明我们的算法的收敛性能。
2021-12-26 math.FA math.OC
Interior point methods in optimal control problems of affine systems: Convergence results and solving algorithms
本文针对控制仿射的最优控制问题提出内点方法,通过求解微分代数方程边值问题实现收敛,并给出原始及原始-对偶算法及数值验证。
2023-08-31 math.OC
TV-based Spline Reconstruction with Fourier Measurements: Uniqueness and Convergence of Grid-Based Methods
本文研究了从分段多项式周期函数的低频信息中恢复分段多项式周期函数的问题。这意味着我们只能访问最大截止频率$K_c$以下的地面实况的傅立叶样本的可能损坏版本。重建任务被指定为具有涉及$M$阶导数正则化算子$\mathrm{L} = \mathrm{D}^M$的全变差(TV)正则化(在测量的意义上)的最优化问题。阶数$M \geq 1$决定了重建的分段多项式样条的阶数,而TV正则化范数(已知可提高稀疏性)保证了少量的片段。我们表明,我们的最优化问题的解决方案总是唯一的,据我们所知,这是第一个基于电视的问题。此外,我们表明,这个解决方案是一个周期样条匹配的正则化算子$\mathrm{L}$的节点数是上限由$2 K_c$。然后,我们考虑基于网格的离散化我们的最优化问题的空间中的均匀$\mathrm{L}$样条。在理论方面,我们表明,任何序列的离散化问题的解决方案一致收敛到唯一的解决方案的网格大小为零的无网格问题。最后,在算法方面,我们提出了一个基于B样条的算法来解决基于网格的问题,并通过实验证明了其数值可行性。在这两个方面,我们利用了原始问题解的唯一性。
2022-02-10 eess.SP math.OC
Solving Time-Continuous Stochastic Optimal Control Problems: Algorithm Design and Convergence Analysis of Actor-Critic Flow
本文提出actor-critic框架求解时间连续随机最优控制问题,采用最小二乘时间差分和策略梯度方法,并建立了线性收敛速率,通过数值实验验证了其有效性。
2025-01-24 math.OC
On the convergence of iterative schemes for solving a piecewise linear system of equations
研究了锥约束二次规划问题和绝对值方程组的分段线性系的半光滑牛顿法的全局收敛性和有限收敛性.本文首先通过一个反例否定了关于对称正定矩阵的Newton迭代法的全局收敛性和有限收敛性的一个猜想。此外,我们讨论了一些令人惊讶的特点,半光滑牛顿迭代在低维和它的行为在高维。此外,我们提出了两个迭代计划的启发,经典的Jacobi和Gauss-Seidel方法的线性系的方程找到一个解决方案的问题。我们研究的充分条件的收敛性提出的程序,这也是足够的问题的解决方案的存在性和唯一性。最后,我们进行了一些计算实验,旨在说明的行为(在CPU时间方面)的建议的迭代与半光滑牛顿法密集和稀疏的大规模问题。
2023-01-20 math.OC
Stochastic convergence of random search to fixed size Pareto set approximations
本文给出了随机搜索算法到Pareto集的一个子集的第一个收敛结果,该子集具有给定的最大尺寸k和近似质量的界。该算法的核心是基于目标空间上假设的多级网格的新的选择准则。它示出,当使用这个标准接受新的搜索点,解决方案档案序列收敛概率为1的帕累托集的一个子集,ε主导整个帕累托集。所获得的近似质量等于网格单元在最精细分辨率水平上的大小,该分辨率水平允许在考虑的网格族内具有至多k个点的近似。虽然收敛的结果是一般的理论兴趣,归档算法可能是任何类型的迭代多目标最优化方法,如进化算法或其他metasteristics,这一切都依赖于使用有限的在线存储器来存储最佳解决方案,发现到目前为止的帕累托集的近似的高实用价值。
2007-11-23 math.OC
Distributed Stochastic Approximation for Solving Network Optimization Problems Under Random Quantization
我们研究网络上的分布式最优化问题,当节点之间的通信受到限制时,节点之间交换的信息必须量化。这种不完美的通信构成了根本性的挑战,而这种不完美的通信如果没有得到适当的考虑,就会阻止这些算法的收敛。我们在本文中的第一个贡献是提出了一个修改的共识为基础的梯度法解决这些问题,使用随机(抖动)量化。该算法可以被解释为一个著名的两个时间尺度的随机算法的分布式变种。然后,我们研究的收敛性,并得出上界的收敛速度的节点和底层网络拓扑结构之间的可用带宽的函数,凸和强凸目标函数的建议的方法。我们的结果补充了现有文献中缺少这种收敛性和收敛速度的显式公式。最后,我们提供了数值模拟的收敛性能进行比较的分布式梯度法和没有量化的解决著名的回归问题的网络,二次和绝对损失函数。
2018-10-27 math.OC
Compact R-Continuity with Applications to Solving Inclusions and Convergence of Algorithms
该文研究巴拿赫空间集值映射的紧R-连续性,揭示其性质并关联有限维下的Łojasiewicz不等式,将其用于非光滑优化下降算法收敛分析及新型R类包含问题求解算法的设计验证。
2025-09-04 math.OC
A Gradient Sampling method based on Ideal direction for solving nonsmooth nonconvex optimization problems: convergence analysis and numerical experiments
本文对求解非光滑非凸函数极小化问题的梯度采样(GS)方法进行了改进。GS方法的一个缺点是每次迭代都需要求解二次最优化问题(QP),这非常耗时,尤其是对于大规模目标。为了解决这个问题,我们提出了一个新的下降方向,即理想方向,有没有必要考虑任何二次或线性最优化的子问题。结果表明,该方向满足Armijo步长条件,并可用于使目标函数大幅度降低。此外,我们证明了使用理想方向保持GS方法的整体收敛。此外,在一些适度的假设下,我们提出了一个上界的严重迭代次数。利用这个上界,我们开发了一种不同的策略来研究该方法的收敛性。我们还证明了所提出的方法的效率,使用小,中,大规模的问题,在我们的数值实验。
2019-07-02 math.OC
Conditional extragradient algorithms for solving variational inequalities
本文利用可行集的非零法向量推广了求解变分不等式问题的经典外梯度算法。特别是,概念算法提出了两个不同的线搜索。然后,我们建立这些算法在温和的假设下的收敛结果。我们的研究表明,非零的法向量,如果选择适当,可以显着提高收敛。
2019-02-22 math.OC
An adaptive discretization method solving semi-infinite optimization problems with quadratic rate of convergence
针对半无限优化问题求解难度高的问题,结合经典自适应离散化与双层优化技术,提出一种具二次收敛速度的新方法,并证明迭代极限为驻点。
2019-10-30 math.OC
Weak and strong convergence of a relaxed inertial proximal splitting algorithm for solving hierarchical equilibrium problems
National School of Applied Sciences, Sidi Mohamed Ben Abdellah University(国立应用科学学院,西迪穆罕默德·本阿卜拉大学);Cadi Ayyad university, Faculty of Sciences Semlalia(卡迪·艾雅德大学,塞姆拉拉理学院)
本文提出 RIPSA 求解分层均衡问题,分别在无收缩因子、强单调性及引入 Browder-Halpern 收缩因子条件下证明其弱收敛与强收敛性,并扩展至凸极小化和单调变分不等式。
2025-09-28 math.OC
Symplectic Extra-gradient Type Method for Solving General Non-monotone Inclusion Problem
针对现有加速外梯度方法直接用初始点易降低收敛速度的局限,提出基于辛加速技术的新型加速外梯度方法,建立收敛性理论并引入线搜索提升效率,数值实验验证其收敛速度优于现有同类方法。
2025-03-21 math.OC
Convergence Rates of Two-Time-Scale Gradient Descent-Ascent Dynamics for Solving Nonconvex Min-Max Problems
Virginia Tech(弗吉尼亚理工大学)
近年来,由于非凸极小极大最优化问题在机器学习、网络资源分配、分布式优化等领域的广泛应用,使得求解非凸极小极大最优化问题成为研究热点。也许,最流行的一阶方法在解决最小-最大优化是所谓的同步(或单循环)梯度下降-上升算法,由于其简单的实现。然而,该算法的收敛性的理论保证是非常稀疏的,因为它可以发散,即使在一个简单的双线性问题。在本文中,我们的重点是描述的有限时间性能(或收敛速度)的连续时间变量的同时梯度下降-上升算法。特别是,我们得出了一些不同的条件下的基本目标函数,即双边Polyak-L ojasiewicz(PL),单边PL,非凸强凹,强凸非凹条件下,这种方法的收敛速度。在相同的目标函数条件下,我们的收敛性结果改进了已有的结果。在我们的分析中的关键思想是使用经典的奇异扰动理论和耦合李雅普诺夫函数来解决梯度下降和上升动力学之间的时间尺度差异和相互作用。我们对连续时间算法的研究结果可以用来提高离散时间算法的收敛性。
2021-12-17 cs.GT cs.LG math.OC
Online decentralized tracking for nonlinear time-varying optimal power flow of coupled transmission-distribution grids
输配电网协调交流最优潮流(ACOPF)已成为处理可再生能源(RESs)的高渗透率相关问题的关键。然而,由于隐私问题,获取所有系统细节并集中解决ACOPF是不可行的。间歇性的可再生能源和不可控负荷会迅速改变电网的运行状况。现有的分散最优化方法很少能跟踪时变ACOPF的最优解。在这里,我们提出了一种在线分散最优化方法来跟踪时变的ACOPF的耦合输配电网。首先,时变ACOPF问题转换为一个动态系统的基础上Karush-Kuhn-Tucker条件从控制的角度。其次,发展了一个由对时间的偏导数表示的预测项,以提高动态系统的跟踪精度。第三,一个分散的实施方案,用于解决动态系统的基础上,只有一些信息交换的边界变量。此外,该算法可以直接用于解决非线性潮流方程,而不依赖于凸松弛或线性化技术。数值试验结果表明了该算法的有效性和快速跟踪性能。
2022-08-03 cs.DC math.OC
Distributed Optimization using ALADIN for MPC in Smart Grids
针对智能电网中的优化问题,提出了一种分布式优化算法。详细地说,我们提出了一种基于增广拉格朗日的交替方向不精确牛顿(ALADIN)方法的变体,该方法具有全局收敛保证,适用于所考虑的线性二次优化问题。我们建立了局部二次收敛的建议计划,并阐述其优势相比,交替方向乘法(ADMM)。特别是,我们表明,在更多的通信成本,ALADIN需要更少的迭代,以达到所需的精度。此外,它是数值证明的迭代次数是独立的子系统的数量。运行ALADIN和ADMM基于模型预测控制器的基准案例研究所提出的方案的有效性说明。
2020-04-03 cs.SY eess.SY math.OC