Projective Splitting as a Warped Proximal Algorithm
我们证明了P.L. Combettes和J. Eckstein在他们的2018年数学课程中。论文可以被看作是最近提出的翘曲邻近算法的实例。
2021-06-04 math.OC
A quasi-Newton proximal splitting method
LJLL, CNRS-UPMC(巴黎第六大学数学研究所);GREYC, CNRS-ENSICAEN-Université de Caen(卡昂大学)
本文推导了凸分析中关于特定缩放范数下邻近算子计算的新结果,并利用对偶问题的分段线性特性实现了高效邻近计算,进而提出一种优雅的拟牛顿加速方法,在信号处理、稀疏恢复和机器学习等领域优于现有技术。
2012-06-20 cs.NA math.NA math.OC
Accelerated Primal-Dual Proximal Gradient Splitting Methods for Convex-Concave Saddle-Point Problems
National Center for Applied Mathematics in Chongqing, Chongqing Normal University(重庆师范大学应用数学中心);Chongqing Research Institute of Big Data, Peking University(北京大学重庆大数据研究院)
本文针对双线性鞍点问题,提出带自适应尺度参数与Bregman散度的加速原始-对偶邻近梯度分裂方法,结合速度校正保证稳定性,经理论证明收敛速率最优,数值结果验证了方法的实际性能。
2026-09-29 cs.NA math.NA math.OC
Operator Splitting with Hamilton-Jacobi-based Proximals
Rice University(莱斯大学);University of Minnesota(明尼苏达大学);Colorado School of Mines(科罗拉多矿业学院)
提出基于Hamilton-Jacobi近端算子(HJ-Prox)的统一算子分裂框架,使不可近端函数也能使用算子分裂算法,并证明在温和假设下收敛性保持,数值实验显示其在统计学习任务中的有效性。
2026-05-22 math.OC
On proximal subgradient splitting method for minimizing the sum of two nonsmooth convex functions
当目标函数为两个不可微的凸函数之和时,本文提出了一种近似前后分裂迭代法,用于求解希尔伯特空间中的非光滑最优化问题.建议的迭代,这将被称为邻近次梯度分裂方法,扩展了经典的次梯度迭代的重要类别的问题,利用添加剂结构的目标函数。在适当的假设条件下,利用不同的步长证明了所生成序列的弱收敛性。此外,我们分析了迭代的复杂性。
2016-01-12 math.OC
A Monte Carlo Approach for Nonsmooth Convex Optimization via Proximal Splitting Algorithms
本文扩展了HJ-Prox这一零阶蒙特卡罗近端算子近似方法,证明其可无缝融入近端梯度下降等算子分裂算法中,并在温和条件下保持收敛性,从而扩大了非光滑凸优化方法的适用范围。
2025-09-15 math.OC
Fast Proximal Linearized Alternating Direction Method of Multiplier with Parallel Splitting
National University of Singapore(新加坡国立大学);Peking University(北京大学);Shanghai Jiaotong University(上海交通大学)
本文提出快速近端增广拉格朗日法和快速近端ADMM并行分裂法,改进了收敛速度并降低了计算复杂度,实验证明其在合成和真实数据上均优于传统PALM和ADMM。
2015-11-14 cs.LG cs.NA math.NA
An indefinite-proximal-based strictly contractive Peaceman-Rachford splitting method
对于具有可分离线性约束和目标函数的凸优化问题,提出了一种求解最小化问题的新方法。然而,如果没有额外的要求,它的收敛性就得不到保证。He { \it et al.} (SIAM J. Optim.二十四日:1011 - 1040,2014)通过采用适当的欠定松弛因子证明了严格压缩的R-R分裂方法的收敛性。本文利用两个不同的松弛因子,进一步推广了所谓的严格压缩的Scheman-Rachford分裂方法。此外,受ADMM型方法中不定邻近项的最新研究进展的启发,我们将不定邻近项引入严格压缩的Cracheman-Rachford分裂方法中。我们证明了所提出的不定近似严格压缩的Scheman-Rachford分裂方法是收敛的,并证明了$o(1/t)$在非遍历意义下的收敛速度.对$l_1$正则化最小二乘问题的数值试验表明了该方法的有效性。
2022-09-26 math.OC
Hierarchical Convex Optimization by the Hybrid Steepest Descent Method with Proximal Splitting Operators -- Enhancements of SVM and Lasso
现代邻近分裂方法的突破性思想使我们能够将多个非光滑凸函数叠加的所有极小元的集合表示为可计算非扩张算子的不动点集。在本文中,我们提出了实用的算法策略的分层凸优化问题,需要进一步的战略选择的最理想的向量从标准的凸优化的解决方案。所提出的算法是通过将混合最速下降法应用于通过邻近分裂艺术设计的特殊非扩张算子而建立的。我们还提出了应用所提出的策略,以某些未开发的层次增强的支持向量机和Lasso估计。
2022-06-30 math.OC
Inducing strong convergence into the asymptotic behaviour of proximal splitting algorithms in Hilbert spaces
University of Vienna, Faculty of Mathematics(维也纳大学数学学院)
本文提出改进的Krasnosel'ski\uı--Mann算法,证明迭代序列强收敛于问题的最小范数解,并推导了带有Tikhonov正则化项的向前-向后和Douglas-Rachford算法,用于求解单调包含问题。
2017-11-18 cs.NA math.NA math.OC
Inertial, corrected, primal-dual proximal splitting
我们研究惯性版本的原始对偶近端分裂,也被称为Chambolle-Pock方法。我们的出发点是该方法的预处理近点公式。通过添加相应的反对称部分的相关单调算子,使用FISTA风格的间隙展开参数的校正,我们能够得到间隙估计,而不仅仅是遍历间隙估计。此外,基于向该校正器添加对角分量,我们能够将基于强凸性的加速度与惯性加速度相结合。我们测试我们提出的方法对图像处理和反问题的问题,稀疏傅立叶逆和正电子发射断层扫描获得收敛性的改善。
2020-02-12 math.OC
Proximal Activation of Smooth Functions in Splitting Algorithms for Convex Image Recovery
结构化凸优化问题通常涉及光滑和非光滑函数的混合。通常的做法是通过梯度激活光滑函数,通过邻近算子激活非光滑函数。我们表明,虽然直观自然,这种方法不一定是最有效的数值,特别是,激活所有的功能近端可能是有利的。为了使这一观点可行的计算,我们推导出一些新的例子,邻近算子的光滑凸函数在应用中产生的。一个新的变分模型放松不一致凸可行性问题也研究在所提出的框架。几个数值图像恢复的应用程序,比较完全接近与混合近端/梯度实现几个分裂算法的行为。
2019-09-09 math.OC
On the Linear Convergence of the Approximate Proximal Splitting Method for Non-Smooth Convex Optimization
考虑最小化两个凸函数之和的问题,其中一个是光滑的,另一个是非光滑的。在本文中,我们介绍了一般类的近似邻近分裂(APS)方法来解决这样的极小化问题。APS类中的方法包括许多众所周知的算法,例如用于光滑凸优化的邻近分裂方法(PSM)、块坐标下降法(BCD)和近似梯度投影法。在局部误差有界的假设下,证明了APS方法的线性收敛.由于后者是已知的压缩感知和稀疏组LASSO问题,我们的分析意味着线性收敛的BCD方法对这些问题没有强凸性假设。
2014-04-21 math.OC
Local Convergence of Proximal Splitting Methods for Rank Constrained Problems
Lund University(隆德大学)
我们分析的局部收敛的邻近分裂算法解决最优化问题是凸除了秩约束。对于这一点,我们显示的条件下,涉及秩约束的函数的邻近算子是局部相同的凸包络的邻近算子,因此意味着局部收敛。条件意味着,非凸算法局部收敛到一个解决方案,只要一个凸松弛涉及凸包络可以预期解决非凸问题。
2017-10-11 cs.LG math.OC stat.ML
Dykstra splitting and an approximate proximal point algorithm for minimizing the sum of convex functions
我们表明,Dykstra的分裂投影到交集的凸集可以扩展到最小化的总和凸函数和正则二次。我们给出的条件,收敛到原始极小,使多个凸函数可以最小化的时间,凸函数不一定是在一个循环的方式进行采样,和SHQP策略的问题,涉及到一个以上的凸集的交集可以应用。当和不涉及正则化二次型时,我们讨论了一种近似邻近点方法结合Dykstra分裂来最小化这个和。
2017-09-27 math.OC
Gradient flows and proximal splitting methods: A unified view on accelerated and stochastic optimization
优化是机器学习、统计学和许多应用科学学科的核心。它在物理学中也有很长的历史,从最小作用量原理到寻找无序系统的基态,如自旋玻璃。近似算法形成了一类广泛适用的方法,特别适合于非光滑、约束、大规模和分布式最优化问题。基本上有五个最近的算法目前已知:向前向后分裂,曾分裂,道格拉斯-Rachford,交替方向法的乘数,和最近的戴维斯-尹。与基于梯度的方法相比,这些方法具有更高的抽象层次,在非线性泛函分析中具有深厚的根基。我们证明了所有这些方法实际上都是单个微分方程的不同离散化,即可以追溯到柯西(1847)的简单梯度流。许多机器学习成功案例背后的一个重要方面依赖于“加速”一阶方法的收敛。我们表明,类似的离散化方案适用于牛顿方程的额外耗散力,我们称之为加速梯度流,使我们能够获得加速的变种,所有这些邻近的算法-其中大多数是新的,虽然一些恢复已知的情况下,在文献中。此外,我们将这些方法扩展到随机设置,使我们能够与朗之万和福克-普朗克方程的连接。类似的想法适用于梯度下降,重球和Nesterov的方法,它们更简单。因此,我们的结果提供了一个统一的框架,从几个重要的最优化方法是什么,但模拟经典耗散系统。
2021-05-10 cs.NA math.NA math.OC
Proximal Splitting Algorithms for Convex Optimization: A Tour of Recent Advances, with New Twists
凸非光滑最优化问题的解存在于高维空间中,已成为普遍存在的问题。为了解决这些问题,被称为近似分裂算法的一类一阶算法是特别合适的:它们由简单的操作组成,分别处理目标函数中的项。在这篇综述中,我们揭秘了最近的近端分裂算法的选择:我们提出了一个统一的框架内,这包括在原始-对偶积空间的单调包含应用分裂方法,精心挑选的度量。一路上,我们很容易得到新的变种的算法,并重新审视现有的收敛结果,在几种情况下扩展的参数范围。特别地,我们强调,当目标函数中的平滑项是二次时,例如,对于最小二乘问题,利用比先前已知的更大的松弛因子值来保证收敛。在实践中,这样的较大值通常有利于收敛速度。
2023-02-24 math.OC
Projective splitting with backward, half-forward and proximal-Newton steps
本文提出一种投影分裂算法,用于求解具有四块内部结构的多项复合单调包含问题,结合后向、半前向和近端牛顿步,并证明了算法的弱收敛性。
2024-05-06 math.OC
On Quasi-Newton Forward--Backward Splitting: Proximal Calculus and Convergence
我们介绍了一个框架,拟牛顿向前-向后分裂算法(近拟牛顿法)与对角$\pm$秩- $r$对称正定矩阵引起的度量。这种特殊类型的度量允许对近端映射进行高效评估。这种效率的关键是在新的度量的一般邻近演算。通过使用对偶性,导出了将秩- $r$修改度量中的邻近映射与原始度量相关联的公式。我们还描述了一个大类的函数的邻近计算的有效实现,实现利用分段线性性质的对偶问题。然后,我们将这些结果加速复合凸最小化问题,从而导致优雅的拟牛顿法,我们证明收敛。该算法进行了测试的几个数值例子,并在文献中的替代品的全面列表进行比较。我们的拟牛顿分裂算法与规定的度量相比,优于国家的最先进的。该算法具有广泛的应用,包括信号处理,稀疏恢复,机器学习和分类,仅举几例。
2018-11-22 math.OC
Nonconvex proximal splitting: batch and incremental algorithms
在unmanagerable大类的非凸优化,我们认为丰富的子类的非光滑问题,有复合目标-这已经包括广泛研究的凸,复合目标问题作为一个特例。对于这个子类,我们引入了一个强大的,新的框架,允许渐近非零扰动。特别是,我们开发了基于扰动的批处理和增量(在线)非凸邻近分裂算法。据我们所知,这是第一次,这样的扰动为基础的非凸分裂算法被提出和分析。虽然本文的主要贡献是理论框架,我们补充我们的研究结果,提出了一些实证结果矩阵分解。
2012-09-17 math.OC stat.ML
Multidimensional extrapolated global proximal gradient and applications for image processing
针对含更一般张量正则项的非光滑优化问题,本文提出改进的迭代近端梯度法,并用新型张量外推加速收敛,在彩色图像去模糊实验中验证了效率。
2024-01-18 cs.NA math.NA math.OC
Splitting Proximal Point Algorithms for the Sum of Prox-Convex Functions
Great Bay University(大湾区大学);Great Bay Institute for Advanced Study(大湾区高等研究院);Instituto Federal do Piauí(皮奥伊联邦学院);Universidad de Tarapacá(塔拉帕卡大学);Electric Power University(电力大学)
本文提出两种分裂近端点算法用于求解近似凸函数和的最小化问题,并通过理论分析和实验验证了其收敛性与有效性。
2026-01-11 math.OC
Stochastic proximal splitting algorithm for composite minimization
Research Center for Logic, Optimization and Security (LOS)(逻辑、优化与安全研究中心(LOS));University of Bucharest(布加勒斯特大学)
在多个分支研究成果的支持下,一阶分裂算法成为结构非光滑最优化的核心。在大规模或噪声背景下,当只有目标函数的光滑部分的随机信息可用时,将邻近梯度格式扩展到随机预言机是基于非光滑部分的邻近可处理性,并且在文献中已经进行了深入的分析。然而,仍然存在差距所示的复合模型的非光滑项是不近端听话了。在这份说明中,我们解决复合最优化问题,其中只访问随机信息的光滑和非光滑组件的假设,使用随机邻近的一阶计划与随机邻近更新。我们提供了$\mathcal{O}\left( \frac{1}{k} \right)$的迭代复杂性(在期望的平方距离的最优集)的强凸性假设下的目标函数。经验行为的参数稀疏表示模型的数值试验说明。
2020-10-02 cs.LG math.OC
Epigraphical splitting for solving constrained convex formulations of inverse problems with proximal tools
Institut Mines-Télécom, Télécom ParisTech(国立高等电信学院);ENS Lyon(里昂高等师范学院);Université Paris-Est(巴黎东大学)
提出一种近端方法处理含非线性约束的凸变分问题,通过将下水平集分裂为多个上镜图并利用闭半空间约束,有效求解涉及距离函数或ℓ1,p范数线性变换的约束,在图像恢复和脉冲形状设计中验证了收敛速度的提升。
2014-03-20 cs.NA math.NA math.OC
A Nonconvex Proximal Splitting Algorithm under Moreau-Yosida Regularization
我们解决高度非凸,非光滑的复合最优化问题,其目标包括一个Moreau-Yosida正则化项。经典的非凸邻近分裂算法,如非凸ADMM,对这样的问题类缺乏收敛性。为了克服这一困难,在这项工作中,我们考虑一个提升的Moreau-Yosida正则化模型的变体,并提出了一种新的多块原始对偶法,本质上稳定的双块。我们提供了一个全收敛分析,我们的算法,并确定各自的最优资格下,原始模型的平稳收敛。在数值上,我们证明了Moreau-Yosida正则化模型的相关性以及我们的算法在鲁棒回归以及联合特征选择和半监督学习上的效率。
2018-02-26 math.OC
A Convexly Constrained LiGME Model and Its Proximal Splitting Algorithm
对于稀疏秩感知最小二乘估计,最近在[Abe,Yamagishi,Yamada,2020]中建立了LiGME(Linearly involved Generalized Moreau Enhanced)模型,以使用线性相关凸正则化的某些非凸增强,而不会失去其整体凸性。在本文中,LiGME模型的进一步发展,将多个先验知识作为硬凸约束,我们新提出了一个凸约束LiGME(cLiGME)模型。cLiGME模型可以利用多个凸约束,同时保留LiGME模型所实现的益处。我们还提出了一个近端分裂型算法所提出的cLiGME模型。数值实验表明,所提出的模型和所提出的优化算法在信号处理应用场景的有效性。
2021-05-14 eess.SP math.OC
A Benamou-Brenier Proximal Splitting Method for Constrained Unbalanced Optimal Transport
本文提出了一种用于带约束不平衡最优运输的Benamou-Brenier近端分裂方法,通过引入源项和动量约束,扩展了Wasserstein-Fisher-Rao设置,并展示了其在多种实际应用中的有效性。
2025-12-10 cs.NA math.NA math.OC
Primal-dual proximal splitting and generalized conjugation in non-smooth non-convex optimization
我们证明了困难的非凸非光滑最优化问题,如纳什均衡问题和各向异性以及各向同性Potts分割模型,可以写在广义共轭的凸泛函。这些,反过来,可以制定为鞍点问题,涉及凸非光滑泛函和一般光滑,但非双线性耦合项。然后,我们表明,通过详细的收敛性分析,概念上简单的扩展的原始-对偶邻近Chambolle和Pock分裂方法是适用于解决这些问题。在充分的局部强凸性假设的泛函-但仍然与非双线性耦合项-我们甚至证明了局部线性收敛的方法。我们说明这些理论结果数值上的上述示例问题。
2020-03-19 math.OC
Distributed Solutions for Loosely Coupled Feasibility Problems Using Proximal Splitting Methods
在本文中,我们考虑凸可行性问题的基础集是松散耦合的,我们提出了几个算法来解决这样的问题,在分布式方式。这些算法是通过将近似分裂方法应用于凸可行性问题的凸极小化重构而得到的。我们还提出了分布式收敛测试,使我们能够建立分布式的问题的可行性或不可行性,我们提供了收敛速度的结果。在问题可行且有界线性正则的假设下,这些收敛性结果以迭代到可行集的距离的形式给出,与经典投影方法的收敛性结果类似.在可行性问题是不可行的情况下,我们提供了收敛速度的结果,涉及某些误差界的收敛。
2013-06-28 math.OC
Stochastic Proximal Langevin Algorithm: Potential Splitting and Nonasymptotic Rates
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Moscow Institute of Physics and Technology(莫斯科物理技术学院)
提出了一种新的对数凹分布抽样算法--随机邻近朗之万算法(SPLA)。我们的方法是一个推广的Langevin算法的潜力表示为一个随机光滑项和多个随机非光滑项的总和。在每次迭代中,我们的分裂技术只需要访问一个随机梯度的光滑项和一个随机邻近算子的每个非光滑项。我们建立了光滑项的凸性和强凸性下的非渐近次线性和线性收敛速度,分别用库尔贝克-莱布勒散度和瓦瑟斯坦距离表示。我们说明了我们的抽样技术的效率,通过数值模拟贝叶斯学习任务。
2020-06-16 cs.LG math.OC math.ST
A splitting proximal point method for Nash-Cournot equilibrium models involving nonconvex cost functions
与凸情形不同,非凸Nash-Cournot寡头均衡问题的局部平衡点不一定是全局平衡点。找到这样一个局部的平衡点甚至是这个问题的一个稳定点并不是一件容易的事。本文讨论了具有非凸费用函数的Nash-Cournot均衡模型的一种数值方法。我们发展了一个局部方法来计算这类问题的一个稳定点。证明了算法的收敛性,并在一定的假设下估计了算法的复杂度。数值例子来说明所提出的算法的收敛行为。
2011-05-13 math.OC
A splitting proximal method in portfolio optimization with entropic value-at-risk
CERMICS, ENPC, Institut Polytechnique de Paris, CNRS(巴黎高等师范学院,巴黎理工学院,法国国家科学研究中心);Faculty of Mathematics, University of Duisburg-Essen(杜伊斯堡-埃森大学数学系);Department of Mathematics, Babeş-Bolyai University Cluj-Napoca(克卢日-纳波卡巴贝什-博约伊大学数学系);Faculty of Mathematics, Chemnitz University of Technology(开姆尼茨工业大学数学系)
本文针对基于熵值风险的投资组合优化问题,提出结合拉格朗日对偶性的分裂邻近点方法,开展数值实验验证,还给出相关投影公式、共轭函数及次微分的副产品结果。
2026-10-14 math.OC
Weak and strong convergence of a relaxed inertial proximal splitting algorithm for solving hierarchical equilibrium problems
本文提出 RIPSA 求解分层均衡问题,分别在无收缩因子、强单调性及引入 Browder-Halpern 收缩因子条件下证明其弱收敛与强收敛性,并扩展至凸极小化和单调变分不等式。
2025-09-28 math.OC
Convergence of Proximal Splitting Algorithms in CAT(k) Spaces and Beyond
在CAT(k)空间中,由prox映射(如:K-prox,Krasnoselsky-Mann松弛,非线性投影梯度)构造的公共不动点迭代在线性度量次正则性假设下局部线性收敛.对于线性收敛的不动点序列,线性度量次正则性在任何情况下都是必要的,因此结果是紧的。为了证明这一点,我们发展了一个不动点映射理论,它违反了p-一致凸空间中的非扩张性和固定非扩张性的通常假设。
2021-05-12 math.FA math.OC
Curvature Recycling Douglas-Rachford Splitting: Transported Quasi-Newton Models for Expensive Smooth Proximal Subproblems
Industrial Mathematics LLC(工业数学有限责任公司)
研究在\(f\)光滑但求值昂贵、\(g\)非光滑的\(\min_x f(x)+g(x)\)问题中,提出曲率循环DRS方法,通过传输残差、重用模型等操作,实现全局线性收敛与局部超线性减少,实验表明该方法能大幅减少昂贵梯度调用。
2026-07-28 math.OC
A proximal splitting algorithm for generalized DC programming with applications in signal recovery
本文针对一类广义差凸规划提出了一种近端分裂算法,利用近端求值和Douglas--Rachford分裂处理目标函数的不同部分,并在Kurdyka--Łojasiewicz性质下证明了全局收敛性及收敛速率,在信号恢复问题上表现出竞争力。
2025-05-28 math.OC
Local and Global Convergence of a General Inertial Proximal Splitting Scheme
Coordinated Science Laboratory, University of Illinois, Urbana, IL 61801, USA(协调科学实验室,伊利诺伊大学,厄巴纳,伊利诺伊州,61801,美国)
本文研究了希尔伯特空间中的凸复合最优化问题,提出了一种通用的惯性近端分裂算法(GIPSA),并证明了其迭代序列的平方增量和累积点的最优性,以及在最小值存在时的弱收敛性。进一步分析了ℓ1正则化优化问题,展示了GIPSA在特定参数选择下的局部收敛性和局部线性收敛性,以及其在FISTA变体中的应用。
2016-02-08 cs.LG cs.NA math.NA
Sparse Learning with Semi-Proximal-Based Strictly Contractive Peaceman-Rachford Splitting Method
在线性约束条件下,两个函数之和的最小化问题称为分裂问题。这种凸优化在机器学习问题中有着广泛的应用,如Lasso,Group Lasso和稀疏逻辑斯谛回归。Gu et al(2015)最近的一篇论文开发了一种基于半邻近的严格压缩的Scheman-Rachford分裂方法(SPB-SPRSM),它是He et al(2014)提出的严格压缩的Scheman-Rachford分裂方法(SPRSM)的扩展。SPB-SPRSM通过引入半邻近项和使用两种不同的松弛因子,与SPRSM和ADMM算法相比,尽管它们都有$O(1/t)$收敛速度,但SPB-SPRSM具有更灵活的适用性。在本文中,我们开发了一个随机版本的SPB-SPRSM算法,其中只有一个子集的样本(甚至一个样本)在每次迭代使用。由此产生的算法,随机SPB-SPRSM,是更灵活的比随机ADMM和其他ADMM为基础的算法在模拟和真实数据集。证明了$O(1/\sqrt{t})$算法在遍历意义下的收敛速度,这与随机ADMM算法在相同假设下的收敛速度是一致的。但如He等人(2014)所示,基于SPRSM的算法在应用中总是比ADMM收敛得更快,我们提出的算法也将保持这一优势。
2017-11-17 math.OC stat.CO
Superiorization vs. Accelerated Convex Optimization: The Superiorized/Regularized Least-Squares Case
研究了具有非负变量界的欠定线性方程的优化/正则化最小二乘解的重构问题,并比较了优化方法和优化方法.关于优越化,最先进的检查这类问题,并提出了一种新的方法,采用邻近映射,结构上类似于建立的前向-后向优化方法。在凸优化方面,提出了一种基于非精确邻近映射的加速前后向分裂算法,并将其应用于自然分裂最小二乘项/正则化子和反向分裂正则化子/最小二乘项。我们的数值研究结果表明,优越化可以接近的解决方案的最优化问题,并导致可比的结果显着降低成本,适当的参数调整后。另一方面,将加速的向前-向后优化应用于反向分裂稍微优于优越化,这表明凸优化也可以使用适当的问题分裂来接近优越化。
2020-04-01 cs.NA math.NA math.OC
A distributed proximal splitting method with linesearch for locally Lipschitz gradients
针对多智能体凸-凹 min-max 优化,提出带分布式回溯线搜索的原始-对偶邻近梯度一阶算法,无需全局 Lipschitz 常数即可自适应调整步长,并将分析放宽至局部 Lipschitz 梯度。
2025-05-13 math.OC
Proximal gradient flow and Douglas-Rachford splitting dynamics: global exponential stability via integral quadratic constraints
University of Southern California(南加州大学)
许多大规模分布式最优化问题可以转化为一种复合形式,其中目标函数由一个光滑项和一个非光滑正则化子之和给出。这样的问题可以通过近端梯度法及其变体来解决,从而将梯度下降推广到非光滑设置。在本文中,我们将近似算法视为动力系统,并利用控制理论的技术来研究它们的全局特性。特别地,对于强凸目标函数的问题,我们利用积分二次约束理论证明了控制近端梯度和Douglas-Rachford分裂流演化的微分方程的平衡点的全局指数稳定性.在我们的分析中,我们使用的事实,这些算法可以被解释为可变度量梯度法在合适的信封和利用结构特性的非线性项,所产生的梯度的光滑部分的目标函数和邻近的运营商与非光滑正则化。我们还证明,这些信封可以从增广拉格朗日与原来的非光滑问题,并建立全球指数收敛的条件,即使在没有强凸性。
2020-06-25 cs.LG cs.SY eess.SY
The Intrinsic Riemannian Proximal Gradient Method for Nonconvex Optimization
Norwegian University of Science and Technology(挪威科技大学);RWTH Aachen University(亚琛工业大学);Universität Potsdam(波茨坦大学)
研究非凸优化问题,提出黎曼流形上近端梯度法的内在变体,该方法基于前向后分裂,使用流形上近端映射,无需嵌入,研究了收敛性质并展示其在非凸或非嵌入问题上的数值性能。
2026-07-16 cs.NA math.DG math.NA
Degenerate Preconditioned Proximal Point algorithms
本文描述了一个系统的方法来分析退化预条件邻近点法的收敛性。我们建立弱收敛的结果,可以很容易地在单调包含和凸极小化问题的分裂方法的背景下,在温和的假设。此外,我们表明,退化的预条件允许减少迭代更新中所涉及的变量。我们展示了所提出的框架在分裂算法的背景下的强度,提供了新的简化的收敛性证明,并突出了现有计划之间的联系,如Chambolle-Pock,前向道格拉斯-拉赫福德和Eschereman-拉赫福德,我们从预处理近点的角度研究。建议的框架允许设计新的灵活的计划,并提供了新的方法来推广现有的分裂计划的情况下,许多条款的总和。作为一个例子,我们提出了一个新的顺序推广的前向道格拉斯-Rachford随着数值实验,证明了它的兴趣的上下文中的非光滑凸优化。
2021-09-23 math.OC
Interwoven SDP in Primal-Dual Proximal Splitting Methods for Adjustable Robust Convex Optimisation with SOS-Convex Polynomial Constraints
University of New South Wales(新南威尔士大学)
本文提出了一种基于SDP的对偶近端分裂方法,用于求解具有SOS-凸多项式约束的可调整鲁棒凸优化问题,展示了其在两阶段订货模型中的有效性。
2026-02-16 math.OC
Decentralized Sensor Network Localization using Matrix-Parametrized Proximal Splittings
针对去中心化传感器网络定位,本文提出矩阵参数化近端分裂方法,并用去中心化Sinkhorn-Knopp构造参数,在收敛、内存、热启动和估计精度上优于ADMM及节点SDP松弛。
2025-03-17 eess.SP math.OC
A class of Fejer convergent algorithms, approximate resolvents and the Hybrid Proximal-Extragradient method
提出了一种新的分析Fejer收敛算法的框架。使用这个框架,我们定义了一个非常一般的类Fejer收敛算法,并建立其收敛性。我们还介绍了一个新的定义的近似的预解式保留了一些有用的功能的确切的预解式,并使用这个概念,提出了一个统一的观点,向前向后分裂的方法,曾的修改向前向后分裂的方法和Korpelevich的方法。我们表明,家庭的近似解的基础上的方法属于上述类的Fejer收敛方法。我们证明了这样的近似预解式是混合近似-外梯度方法的迭代映射。
2012-04-18 math.OC
The operator splitting schemes revisited: primal-dual gap and degeneracy reduction by a unified analysis
我们重新审视了在最近的工作中提出的算子分裂方案[基于拉格朗日和原始对偶的算子分裂方案的一些扩展:统一的邻近点分析,冯雪,优化,2022,doi:10.1080/02331934.2022.2057309],并进一步在统一的邻近点框架下分析了这些算法的广义Bregman距离和原对偶间隙的收敛性。还原到一个简单的预解的可能性也讨论了利用结构和可能的退化的基本度量。
2023-02-19 math.OC
An Algorithmic Framework of Variable Metric Over-Relaxed Hybrid Proximal Extra-Gradient Method
Tencent AI Lab(腾讯人工智能实验室)
针对极大单调算子包含问题,提出了一种新的具有整体收敛保证的变尺度超松弛混合邻近超梯度(VMOR-HPE)算法框架.给出了算法的迭代复杂度和局部线性收敛速率,从理论上证明了较大的过松弛步长有助于加速算法的收敛速度.具体地说,我们发现一大类原始和原始-对偶算子分裂算法都是VMOR-HPE的特例。因此,建议的框架提供了一个新的见解,这些运营商分裂算法。此外,我们将VMOR-HPE应用于线性等式约束多块复合凸优化的Karush-Kuhn-Tucker(KKT)广义方程,得到了一种新的算法,即带有预条件外梯度步长的非对称近端交替方向法,其中预条件度量由分块Barzilai-Borwein线搜索技术生成(PADMM-EBB).我们还建立了PADMM-EBB的KKT残差方面的迭代复杂性。最后,我们应用PADMM-EBB处理非负对偶图的正则化低秩表示问题。在合成和真实数据集上的有希望的结果证实了PADMM-EBB的有效性。
2018-06-08 cs.LG cs.NA math.NA
Bregman three-operator splitting methods
本研究将广义Bregman距离引入凸优化的原始-对偶邻近分裂方法,扩展了Condat-Vu系列算法与PD3O算法,给出统一收敛分析框架及适用于等式约束问题的步长线搜索策略。
2022-10-03 math.OC
An inertial proximal splitting algorithm for hierarchical bilevel equilibria in Hilbert spaces
本文针对希尔伯特空间中的双水平均衡问题,提出一种惯性近端分裂算法,在适当条件下证明其弱与强收敛,并通过数值实验验证理论结果。
2025-02-28 math.OC
A general framework for inexact splitting algorithms with relative errors and applications to Chambolle-Pock and Davis-Yin methods
本文将退化预条件近端点算法框架扩展至求解极大单调包含问题的HPE方法及分裂方法,允许预解式不精确计算且误差受自适应准则控制,并在Chambolle-Pock和Davis-Yin方法中验证了其计算时间和精度优势。
2025-04-01 math.OC
Proximal minimization in CAT$(κ)$ spaces
在这篇笔记中,我们提供了在CAT $(κ)$空间的设置中的邻近点法及其分裂变体的收敛结果,其中$κ> 0$使用了Kimura和Kohlord的凸下半连续函数的预解式的最新定义(J.不动点理论应用18(2016),93-115)。
2016-12-02 math.OC
Proximal Splitting Meets Variance Reduction
尽管近年来增量方差缩减方法名声大噪,但它们在非光滑最优化中的应用仍然局限于少数简单情况。这是由于现有的方法需要评估非光滑项的邻近算子,这对于复杂的惩罚来说可能是昂贵的操作。在这项工作中,我们介绍了两个方差减少增量方法的基础上SAGA和SVRG,可以有效地考虑到复杂的罚款,可以表示为一个总和的近端条款。这包括惩罚,如全变差,重叠组套索和趋势过滤,仅举几例。此外,我们还开发了所提出的算法的稀疏变体,可以利用输入数据的稀疏性。与其他增量方法一样,它每次迭代只需要计算单个样本的梯度,因此非常适合大规模应用。我们提供了一个收敛速度分析所提出的方法,并表明,他们收敛于一个固定的步长,在某些情况下,实现相同的渐近速度作为其完整的梯度变量。3个不同数据集上的经验基准说明了所提出的方法的实际优势。
2019-01-24 math.OC
Warped Proximal Iterations for Monotone Inclusions
集值算子的预解式在数学的各个分支中起着核心作用,特别是在设计和分析求解单调包含的分裂算法中。我们提出了这个概念的推广,称为翘曲预解式,这是一个辅助算子的帮助下构建的。翘曲的预解式的性质进行了调查和连接与现有的概念。提出了基于翘曲预解式的弱收敛和强收敛原理,不仅提供了分裂算法的综合视图,而且还构成了一种有效的设备,以产生新的解决方法,具有挑战性的包含问题。
2020-06-22 math.OC