Linear Convergence of Resolvent Splitting with Minimal Lifting and its Application to a Primal-Dual Algorithm
本文证明最小提升预解分裂算法在有限个极大单调算子求零问题上的线性收敛,并推广至含下确界卷积的凸优化对偶原始算法,数值实验验证于图像去噪。
2024-12-17 math.OC
Asynchronous Block-Iterative Primal-Dual Decomposition Methods for Monotone Inclusions
提出了求解线性组合极大单调算子和的包含组的原-对偶分解算法。这些算法的主要创新之处在于,它们是块迭代的,在这个意义上,在每次迭代中,只有一个子集的单调算子需要处理,而不是在建立的方法中的所有算子。确定性策略用于选择在每次迭代时激活的操作符块。此外,我们允许操作员处理“滞后”,允许异步实现。我们的方法的每次迭代的分解阶段是在所选择的单调算子的图中生成点,以构造包含与系统相关联的Kuhn-Tucker集的半空间。每次迭代的协调阶段都涉及到这个半空间上的投影。我们提出了两个相关的方法:第一种方法提供弱收敛的原始和对偶序列在一般条件下,而第二种是一个变种,其中强收敛性是保证没有额外的假设。这两种算法都不需要有关线性算子的边界或线性算子的反演的先验知识。我们的算法框架统一和显着扩展的方法,在早期的工作原始对偶投影分裂方法。
2015-11-27 math.OC
A Primal-Dual Partial Inverse Splitting for Constrained Monotone Inclusions: Applications to stochastic Programming and Mean Field Games
在这项工作中,我们研究了约束单调包含涉及法锥到一个封闭的向量子空间和先验信息的原始解决方案。我们模型的解决方案属于不动点集的平均非扩张映射的信息。我们使用一个辅助包含,涉及部分逆算子的解决方案的特点。然后,我们提出了原始-对偶部分逆分裂,并证明了其弱收敛到包含解,推广了文献中的几种方法。两个约束条件具有向量子空间结构的非光滑凸优化问题的算例表明了该方法的有效性。最后,将该算法应用于求解运输网络中的随机弧容量扩展问题。
2021-10-29 math.OC
Derivation and Analysis of the Primal-Dual Method of Multipliers Based on Monotone Operator Theory
在本文中,我们提出了一个新的推导现有的基于节点的算法,分布式优化称为原始对偶方法的乘数(PDMM)。与其最初的推导相反,在这项工作中,单调算子理论被用来连接PDMM与其他一阶方法,如道格拉斯-Rachford分裂和交替方向法的乘法器,从而提供洞察该计划的操作。特别是,我们展示了PDMM如何结合提升的对偶形式与Escheman-Rachford分裂,以消除每次迭代节点之间的协作需要。在强凸性和函数光滑性的假设下,我们给出了一般函数类强原收敛的充分条件,并引入了原几何收敛界.最后,我们介绍了一个分布式的几何收敛的情况下,参数选择的方法,只需要有限的传输,无论网络拓扑结构来实现。
2017-11-06 math.OC
A primal-dual splitting algorithm for monotone inclusions with applications
School of Mathematics and Information Science, Guangzhou University(广州大学数学与信息科学学院)
提出一种新的原始-对偶分裂算法,用于求解实Hilbert空间中一类结构化的单调包含问题,该算法统一并推广了多种现有方法,并证明了弱收敛与强收敛性。
2026-09-01 math.OC
Inertial Quasi-Newton Methods for Monotone Inclusion: Efficient Resolvent Calculus and Primal-Dual Methods
本文提出惯性拟牛顿前向-后向分裂算法求解单调包含问题,开发高效预解算子演算,证明收敛性,并实例化原始-对偶混合梯度方法,在图像处理中验证优越性能。
2024-03-15 math.OC
A first-order stochastic primal-dual algorithm with correction step
研究了求解含余强制算子与复合单调算子和的结构单调包含的随机原对偶分裂算法的收敛性.所提出的方法是{ \em Y. Drori,S. Sabach和M. Teboulle,一类非光滑凸凹鞍点问题的简单算法,2015}和{ \em I. Loris和C. Verhoeven,关于非可分离惩罚情况下迭代软阈值算法的推广,2011}用于鞍点问题。它包括一个向前的步骤所确定的随机评价的cocoercive运营商,一个向后的步骤中的对偶变量涉及的预解的单调算子,和一个额外的向前的步骤,使用随机评价的cocoercive在第一步中介绍。我们证明了弱几乎必然收敛的迭代表明,由该方法产生的原始-对偶序列是随机拟Fejér-单调的考虑原始和对偶包含的零点集。对于鞍点模型的特殊情形,考虑了期望遍历收敛的附加结果。
2016-02-25 math.OC
Primal-dual splittings as fixed point iterations in the range of linear operators
本文研究实希尔伯特空间中带临界预条件的复合单调包含的松弛原始对偶法。我们的方法是基于新的结果上的渐近行为的Krasnosel'ski \u-Mann(KM)迭代定义的单调自伴线性算子的范围内。这些结果推广了以逼近不动点为目标的经典KM迭代的收敛性。我们证明了带有临界预条件子的松弛原始对偶法在具有非平凡核的特定单调自伴线性算子的值域内定义了KM迭代。然后,我们推导出我们的不动点的方法,原始-对偶迭代的范围内的线性算子的阴影弱收敛到这个向量子空间中的某个点,从我们得到的解决方案。这将(Condat 2013定理3.3)推广到包含临界预条件子的无限维松弛原始-对偶单调包含。道格拉斯-Rachford分裂(DRS)被解释为一个特殊的情况下,原始对偶法的步长是关键的,我们恢复经典的结果从这个新的角度来看。在全变差重建中,我们实现了带有临界预条件的松弛原始对偶法,并说明了它的灵活性和有效性。
2021-08-11 math.OC
Primal-dual splitting for structured composite monotone inclusions with or without cocoercivity
RMIT University(皇家墨尔本理工大学);University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);The University of Melbourne(墨尔本大学)
本文提出了一种对偶分裂算法,用于解决包含有限个多值算子、多值算子与有界线性算子的组合以及可能无co-coercivity的单值算子的广泛结构复合单调包含问题。该算法不仅统一了几种当前算法,还为通过图结构生成新算法提供了蓝图。
2026-05-13 math.OC
A Primal-Dual Method of Partial Inverses for Composite Inclusions
Spingarn的部分逆方法在非线性分析和优化中有许多应用。我们表明,它可以用来解决复合单调包含对偶,从而打开了一个新的应用范围的部分逆形式主义。所得到的原始-对偶分裂算法的多功能性说明通过应用程序结构单调包含和优化。
2013-10-04 math.OC
A note on the convergence of the monotone inclusion version of the primal-dual hybrid gradient algorithm
该研究将Chambolle和Pock的原始-对偶混合梯度(PDHG)算法收敛性证明直接拓展到单调包含场景,完善了该算法的理论适用范围。
2023-11-07 cs.NA math.NA math.OC
Resolvent Splitting for Sums of Monotone Operators with Minimal Lifting
在这项工作中,我们研究了不动点算法,寻找一个零的和$n\geq 2$最大单调算子通过使用其预解式。更确切地说,我们认为这样的算法,每个预解式每次迭代只评估一次。对于任何算法,从这个类,我们表明,基本的不动点算子必须定义在$d$ -倍笛卡儿积空间与$d\geq n-1$。此外,我们表明,这个界是不可改进的,通过提供一个家庭的例子,其中$d=n-1$达到。该系列包括Douglas-Rachford算法作为$n=2$的特殊情况。新的家庭的算法在分布式分散优化和多块扩展的交替方向乘法器(ADMM)的应用进行了讨论。
2022-07-21 math.OC
Primal Methods for Constrained Variational Inequalities: Optimal Rates, Feasibility Trade-offs, and Lower Bounds
Tiangong University(天津工业大学);University of Hertfordshire(赫特福德大学);Sefako Makgatho Health Sciences University(塞法科·马卡托健康科学大学);Zhejiang Normal University(浙江师范大学);China Medical University(中国医科大学);Academy of Romanian Scientists(罗马尼亚科学院)
本文提出约束变分不等式的原始方法理论,给出最优收敛速率、可行性权衡及下界,并设计OPCGM等算法达到最优复杂度。
2026-09-29 math.OC
An inertial forward-backward-forward primal-dual splitting algorithm for solving monotone inclusion problems
引入并研究了一个逼近极大单调算子与单值单调Lipschitz算子和的零点集的惯性向前向后向前分裂算法的收敛性质.利用积空间方法,我们将其推广到线性组合与平行和型单调算子的混合包含问题的求解。我们以这种方式获得一个惯性向前向后向前原始对偶分裂算法的主要特点的事实,即在迭代方案中,所有的运营商分别访问通过向前或向后评估。我们也提出了变分的情况下,当一个人有兴趣在解决一个原始-对偶对凸优化问题与复杂的目标函数。
2014-02-21 math.FA math.OC
A new splitting method for solving composite monotone inclusions involving parallel-sum operators
本文提出了一种新的原始-对偶分裂方法来求解包含Lipschitz算子和平行和型单调算子的复合包含问题。我们的方法扩展了\cite{Siopt4}中的框架,以一种非平凡的方式更一般的一类单调包含。其主要思想是用相关的Kuhn-Tucker集表示原始问题和对偶问题的解集,然后开发一种投影方法来连续逼近Kuhn-Tucker集的可行点。我们提出了一个分裂算法的基础上每个最大单调算子的预解式,以构建一个原始对偶序列,弱收敛到原问题的解决方案。该方法的主要特点是只分别使用每个单调算子的预解式,这与文献中已有的方法不同。作为一个副产品,我们的算法可以专门解决复合凸最小化问题,独立使用每个目标组件的近似算子,并配备了弱收敛保证。
2015-07-25 math.OC
Systems of Structured Monotone Inclusions: Duality, Algorithms, and Applications
在希尔伯特空间中引入了求解结构耦合单调包含组的一般原对偶分裂算法,并分析了其渐近性态。原始系统中的每个包含物都具有与线性算子、并行和和Lipschitzian算子的组合。该算法将结构化模型中涉及的所有运算符单独使用,大部分步骤可以并行执行。这提供了一个灵活的解决方法,适用于各种问题超出了国家的最先进的。几个应用程序进行了讨论,以说明这一点。
2013-02-13 math.OC
DWIFOB: A Dynamically Weighted Inertial Forward-Backward Algorithm for Monotone Inclusions
提出一种新的求解结构单调包含问题的动态加权惯性前后向算法(DWIFOB)。该方案利用了[26]中的全局收敛的带偏差的向前向后算法作为基础,并将其与Anderson加速中使用的外推技术相结合,以改善局部收敛。我们还提出了一个全球收敛的原始-对偶的DWIFOB变体,并数值比较其性能的原始-对偶方法的Chambolle-Pock和Tikhonov正则化版本的安德森加速应用到同一个问题。在我们所有的数值计算中,DWIFOB的原始-对偶变体优于Chambolle-Pock算法。此外,我们的数值实验表明,我们提出的方法是更强大的正则化安德森加速,它可能无法收敛,算法参数敏感。这些数值实验突出表明,我们的方法表现非常好,同时仍然是强大和可靠的。
2022-02-28 math.OC
A primal-dual splitting algorithm for finding zeros of sums of maximally monotone operators
Chemnitz University of Technology(开姆尼茨工业大学)
提出一种原始-对偶分裂算法,通过分别使用每个极大单调算子的预解式,在有限维空间中同时求解原始问题和对偶问题,并应用于图像处理和位置理论中的非光滑凸优化问题。
2012-06-26 cs.NA math.NA math.OC
Solving Coupled Composite Monotone Inclusions by Successive Fejér Approximations of Their Kuhn-Tucker Set
提出了一类新的求解复合单调包含组的原始-对偶Fejer单调算法。我们的建设是由Eckstein和Svaiter的基本问题,找到一个零的两个单调算子的总和框架的启发。在每次迭代中,使用模型中存在的单调算子的图中的点来构造包含与系统相关联的Kuhn-Tucker集的半空间。原始-对偶更新则通过将当前矩阵松弛投影到这个半空间上来获得。一个重要的特点,区别于现有的分裂算法是,他们不需要先验知识的界限上的线性算子或反转的线性算子。
2014-10-04 math.OC
Random Activations in Primal-Dual Splittings for Monotone Inclusions with a priori Information
本文提出了一种求解具有先验信息的复合原始-对偶单调包含问题的数值方法。基本的先验信息集是由有限数量的运营商的不动点集的交集,我们提出和算法,激活相应的一组以下的有限值随机变量在每次迭代。我们的配方是灵活的,包括,例如,确定性和伯努利激活循环计划,和Kaczmarz型随机激活。利用随机拟Fejér序列的性质,证明了算法的几乎必然收敛.我们还恢复了几个原始对偶法的单调包含的上下文中没有先验信息和经典算法求解凸可行性问题和线性系。在具有不等式约束的凸优化的上下文中,约束的任何选择定义了先验信息集,在这种情况下,所涉及的算子只是在半空间上的投影。通过将随机投影到选择的约束,经典的原始-对偶计划,我们得到更快的算法,我们说明了通过一个数值应用到一个随机弧容量扩展问题的运输网络。
2020-11-05 math.OC math.PR
Restarted Accelerated Primal-Dual Algorithms with Adaptive Stepsizes for Nonlinear Conic Constrained Convex Optimization
Penn State University(宾夕法尼亚州立大学);University of Chicago(芝加哥大学)
针对非线性锥约束凸优化问题(含二次约束二次规划),提出带回溯的自适应步长重启加速原始-对偶算法,利用一阶信息和矩阵-向量乘积,在KKT映射度量次正则性下证明全局线性收敛,数值实验显示非单调自适应步长和GPU加速效果显著。
2026-09-30 math.OC
A Douglas-Rachford type primal-dual method for solving inclusions with mixtures of composite and parallel-sum type monotone operators
Chemnitz University of Technology(德累斯顿工业大学)
本文提出两种原始-对偶分裂算法,基于不精确Douglas-Rachford分裂方法,分别在不同希尔伯特空间中求解涉及复合与并行和型单调算子混合的包含问题,允许在每次迭代中分别处理有界线性算子和集值算子,并通过数值实验验证其在定位和图像去模糊问题中的性能。
2012-12-03 cs.NA math.FA math.NA
Convergence analysis for a primal-dual monotone + skew splitting algorithm with applications to total variation minimization
Faculty of Mathematics, Chemnitz University of Technology(德累斯顿工业大学数学系)
本文分析了Combettes和Pesquet提出的原始-对偶分裂方法在求解复合、Lipschitz和并行和类型算子单调包含问题时的收敛行为,通过共轭对偶技术推导了凸最小化问题中目标函数值的收敛速率,并提出了两种加速原始和/或对偶迭代的新方案,最后应用于全变差正则化的图像恢复问题。
2012-11-07 cs.NA math.NA math.OC
Convergence analysis of the stochastic reflected forward-backward splitting algorithm
本文提出并分析了一种新的求解单调包含的随机算法的收敛性,该单调包含是一个极大单调算子和一个单调Lipschitzian算子之和。该算法只需要Lipschitzian算子的无偏估计。我们得到了强单调情形下的速度$\mathcal{O}(log(n)/n)$在期望中,以及一般情形下的几乎必然收敛.此外,在上下文中的应用凹凸鞍点问题,我们得到的原始-对偶间隙率。特别是,我们还获得了$\mathcal{O}(1/n)$率收敛的原始-对偶间隙中的确定性设置。
2021-02-17 math.OC
Split-Douglas-Rachford algorithm for composite monotone inclusions and Split-ADMM
在本文中,我们提供了一个推广的道格拉斯-Rachford分裂(DRS)和原始对偶法(Vu 2013,Condat 2013)解决单调包含在一个真正的希尔伯特空间涉及一般的线性算子。所提出的方法允许原始和对偶非标准度量和激活的线性算子分别从单调算子中出现的包含。在最简单的情况下,当线性算子具有全值域时,它可退化为经典DRS,并且保证了原始对偶序列弱收敛于Kuhn-Tucker点,推广了Svaiter(2011)的主要结果.受Gabay(1983)的启发,我们还将我们的方法应用于包含线性算子的凸优化问题的对偶问题,得到了一个新的分裂ADMM(SADMM),该问题可以表示为两个线性算子的合成。建议SADMM激活一个线性算子隐式和另一个显式,我们恢复ADMM时,后者被设置为身份。我们的理论结果与文献的连接和比较提供的主要算法和SADMM。通过对全变差图像恢复和稀疏最小化问题的数值模拟,说明了这两种方法的灵活性和有效性。
2021-09-21 math.OC
A primal-dual splitting algorithm with convex combination and larger step sizes for composite monotone inclusion problems
针对复合单调包含问题中改进型原始-对偶分裂算法适配性存疑的问题,提出同时含外插步和凸组合步的新算法,放宽步长条件并证明收敛性,多类数值实验验证其效率更优。
2025-10-01 math.OC
Forward-Backward-Half Forward Algorithm for Solving Monotone Inclusions
Tseng算法通过每次迭代两次评估单调连续算子来找到最大单调算子和单调连续算子之和的零点。在本文中,我们修改了Tseng的算法,寻找一个零的三个运营商的和,我们添加了一个余强制运营商的包含。由于余度算子和单调Lipschitz算子的和是单调Lipschitz的,我们可以使用Tseng的方法来解决这个问题,但每次迭代都要实现两次两个算子,而不考虑一个算子的余度性质。相反,在我们的方法中,虽然{连续单调}算子仍然必须被评估两次,但我们通过每次迭代仅评估一次来利用一个算子的余度。此外,当cocoercive或{连续单调}运营商是零,它减少到曾的或向前向后分裂,分别统一,以这种方式两种算法。此外,我们提供了一个{预处理}版本的方法,包括非自伴线性算子的计算预解式和单值算子。这种方法允许我们{也}扩展以前的变量度量版本的曾的和向前向后的方法,并简化其条件的基础指标。我们还利用非自伴线性算子在原对偶积空间中按块成三角形的情形来求解原对偶复合单调包含,得到了Gauss-Seidel型算法,推广了文献中已有的几种原对偶方法.最后,我们探讨{障碍问题,经验风险最小化,分布式优化和非线性规划的应用,我们通过一些数值模拟来说明该方法的性能。
2018-03-23 math.OC
On the convergence rate improvement of a primal-dual splitting algorithm for solving monotone inclusion problems
Chemnitz University of Technology(开姆尼茨工业大学);prudsys AG(prudsys股份公司)
提出两种改进的原始-对偶分裂算法,在强单调性假设下实现O(1/n)和O(ω^n)收敛速度,并应用于图像处理和支持向量机分类。
2013-03-12 cs.NA math.NA math.OC
A Perturbation Framework for Convex Minimization and Monotone Inclusion Problems with Nonlinear Compositions
本文提出基于Rockafellar扰动理论的框架,用于求解带非线性复合的凸最小化与单调包含问题,在Hilbert空间导出首个完全分裂的块迭代原始-对偶近端算法。
2023-06-22 math.OC
Convergence rate analysis of primal-dual splitting schemes
原始-对偶分裂格式是一类求解复杂单调包含和凸优化问题的强有力的算法。他们分解的问题,建立从总和,线性组合,和infimal卷积的简单功能,使每个简单的条款是单独处理通过邻近映射,梯度映射,乘法的线性映射。这导致易于实现和高度并行化或分布式算法,通常获得接近最先进的性能。在本文中,我们分析了一个单调包含问题,捕获一个大类的原始对偶分裂作为一个特殊情况。我们引入了一个统一的计划,并使用一些抽象的算法分析,证明收敛速度的邻近点法,向前向后分裂,Cumberman-Rachford分裂,向前向后向前分裂模型的问题。我们的遍历收敛速度推导下的可变度量,步长,和松弛。我们的非遍历收敛速度是第一次在文献中。最后,我们将我们的结果应用到一个大类的原始对偶法,我们的计划是一个特殊的情况下,推导出他们的收敛速度。
2015-07-30 math.OC
Variable Metric Forward-Backward Splitting with Applications to Monotone Inclusions in Duality
提出了一种变度量的前后向分裂算法,并证明了其在实希尔伯特空间中的收敛性。然后,我们使用这个框架来获得原始-对偶分裂算法求解各类单调包含对偶。其中一些算法是新的,即使专门用于固定度量的情况下。各种应用程序进行了讨论。
2012-06-28 math.OC
Tseng's Algorithm with Extrapolation from the Past Endowed with Variable Metrics and Error Terms
在本文中,我们提出了一个可变的度量版本的曾的算法(向前向后向前算法:FBF)结合外推从过去,其中包括错误的条款,寻找一个最大的单调算子和单调Lipschitz算子在希尔伯特空间的总和为零。这可以被看作是乐观梯度下降上升(OGDA)算法赋予可变的度量和误差项。原始对偶法也提出了单调包含问题涉及的复合线性算子。图像去模糊中的原始-对偶问题证明了我们的理论结果的应用。
2022-07-22 math.OC
Stochastic inertial primal-dual algorithms
提出并研究了一种新的求解复合最优化问题的随机惯性原-对偶方法。当使用惩罚正则化方案学习时,后面这些问题自然会出现。我们的分析提供了收敛的结果,在一般的设置,允许在一个统一的框架中分析各种特殊情况下的利益。在我们的分析的关键是考虑框架的分裂算法解决一个单调包含在合适的积空间和一个特定的选择的预处理算子。
2015-07-03 math.OC
Port-Hamiltonian structures in infinite-dimensional optimal control: Primal-Dual gradient method and control-by-interconnection
本研究探讨常微分方程数值最优控制中的端口-哈密顿结构,证明原始-对偶梯度法可视为无穷维非线性pH系统,提出基于保功率耦合的次优滚动时域控制器,证实闭环系统局部指数收敛。
2024-12-14 math.OC
A Fully Stochastic Primal-Dual Algorithm
提出了一种新的求解复合最优化问题的随机原始对偶法。假设进入最优化问题的所有函数/运算符都作为统计期望给出。这些期望是未知的,但通过i.i.d.随着时间的推移而揭示。实现。证明了该算法收敛于拉格朗日函数的一个鞍点。在单调算子理论的框架下,收敛性证明依赖于最近的结果随机向前向后算法涉及随机单调算子。考虑了随机线性约束下的凸优化问题。
2020-06-22 math.OC stat.ML
Mirror Polyak and a Primal-Dual Lifting
INRIA, École Normale Supérieure(法国国家信息与自动化研究所,巴黎高等师范学院);MILA, Université de Montréal(米拉人工智能研究中心,蒙特利尔大学);CMCC, Federal University of ABC(气候变化、海洋和陆地交叉研究中心,ABC联邦大学)
该研究提出镜像Polyak方法,将Polyak步长的自适应特性扩展到镜像下降法,还通过凸对偶的提升形式,使镜像Polyak在结构化优化问题中无需知晓最优值即可达到对应保证。
2026-08-19 math.OC
On the monotone and primal-dual active set schemes for $\ell^p$-type problems, $p \in (0,1]$
University of Graz(格拉茨大学);Johann Radon Institute for Computational and Applied Mathematics (RICAM), Austrian Academy of Sciences(奥地利科学院约翰·拉德纳计算与应用数学研究所)
本文研究了涉及线性映射$\ell^p$准范数($p\in(0,1]$)的非光滑非凸优化问题,提出了一种单调收敛的正则化方案,并给出了原问题的互补系统最优性条件,结合单调方案和对偶主动集策略设计了求解算法,通过数值实验验证了算法在最优控制、断裂力学和显微图像重建中的性能。
2017-09-19 cs.NA math.AP math.NA
A Class of Randomized Primal-Dual Algorithms for Distributed Optimization
基于[Combettes,Pesquet,2014]中最近提出的随机块坐标向前-向后算法的预处理版本,设计了块坐标原始对偶法的几个变体,以解决各种单调包含问题。这些方法依赖于扫描块的变量,这些变量在每次迭代时根据随机规则被激活,并且它们允许在所涉及的操作符的评估中出现随机误差。然后,利用该框架推导出求解复合凸变分问题的块坐标原-对偶近似算法。所得到的算法实现可以用于降低计算复杂性和存储器需求。此外,我们表明,所提出的方法可用于开发新的异步分布式原始对偶法在多代理的上下文中。
2014-10-25 math.OC
Solving Composite Monotone Inclusions in Reflexive Banach Spaces by Constructing Best Bregman Approximations from Their Kuhn-Tucker Set
介绍了希尔伯特空间外复合单调包含的第一算子分裂方法。该方法从复合单调包含的Kuhn-Tucker集出发,迭代地构造出对任意点的最佳Bregman逼近.强收敛建立在自反巴拿赫空间,而不需要额外的限制的单调算子或知识的规范的线性算子参与的模型。通过Bregman距离为基础的预解算子激活的单调算子。该方法是新颖的,即使在欧几里得空间,在那里它提供了一种替代通常的邻近方法的基础上的标准距离。
2015-09-09 math.OC
Inertial, corrected, primal-dual proximal splitting
我们研究惯性版本的原始对偶近端分裂,也被称为Chambolle-Pock方法。我们的出发点是该方法的预处理近点公式。通过添加相应的反对称部分的相关单调算子,使用FISTA风格的间隙展开参数的校正,我们能够得到间隙估计,而不仅仅是遍历间隙估计。此外,基于向该校正器添加对角分量,我们能够将基于强凸性的加速度与惯性加速度相结合。我们测试我们提出的方法对图像处理和反问题的问题,稀疏傅立叶逆和正电子发射断层扫描获得收敛性的改善。
2020-02-12 math.OC
Primal-dual extrapolation methods for monotone inclusions under local Lipschitz continuity
University of Minnesota(明尼苏达大学)
针对一个极大单调算子与一个局部Lipschitz连续算子之和的单调包含问题,提出带回溯线搜索的原始-对偶外推方法,将非强单调情形的运算复杂度从O(ε^{-2})提升至O(ε^{-1}log ε^{-1}),并推广至凸锥优化、鞍点与变分不等式问题。
2024-08-31 cs.LG cs.NA math.NA
A stochastic inertial forward-backward splitting algorithm for multivariate monotone inclusions
我们提出了一个惯性向前向后分裂算法来计算两个单调算子之和的零点,允许在算子的计算中存在随机误差。更准确地说,我们建立了几乎必然收敛在实希尔伯特空间的序列的迭代到一个最优解。在此基础上,我们引入了两类新的求解复合单调包含结构方程组的随机惯性原对偶分裂方法,并证明了它们的收敛性。我们的结果推广到随机和惯性环境下的各种类型的结构单调包含问题和相应的算法解决方案。最小化问题的应用进行了讨论。
2015-07-03 math.OC
Best Approximation from the Kuhn-Tucker Set of Composite Monotone Inclusions
Kuhn-Tucker点在单调包含问题的分析和数值解中起着重要作用,特别是提供原始解和对偶解。提出了一类强收敛算法,用于从一般的Hilbert复合单调包含问题的Kuhn-Tucker点集构造到参考点的最佳逼近.应用系统的耦合单调包含。我们的框架不强加额外的假设上的运营商目前在制定,它不需要知识的规范所涉及的线性算子的组合物或反转的线性算子。
2014-10-06 math.OC
Forward--partial inverse--forward splitting for solving monotone inclusions
本文给出了一种分裂方法,用于求实希尔伯特空间的闭向量子空间的极大单调算子、Lipschitz单调算子与法锥之和的零点.该问题的特点是一个简单的单调包含只涉及两个操作:部分逆的最大单调算子关于向量子空间和一个合适的Lipschitz单调算子。通过应用曾的方法在这方面,我们得到了一个分裂算法,利用整个结构的原问题,并推广部分逆和曾的方法。与其他方法在文献和应用程序中的夹杂物涉及$m$最大单调算子,原始对偶复合单调夹杂物,并提供零和对策的连接。
2014-06-24 math.OC
Forward Primal-Dual Half-Forward Algorithm for Splitting Four Operators
提出一种分裂四个极大单调算子的前向原始-对偶半前向算法,推广了 Condat-Vũ 和 FBHF 算法,恢复了弱收敛步长,并应用于多元单调包含、鞍点问题及图像去模糊。
2024-09-25 math.OC
A Monotone+Skew Splitting Model for Composite Monotone Inclusions in Duality
本文的基本原理是:同时求解一大类复合单调包含及其伴随问题可以归结为求极大单调算子与线性斜伴随算子之和的零点问题。一个算法框架,解决这个一般性的问题,在希尔伯特空间设置。在此基础上,对复合单调算子包含问题导出了新的原始-对偶分裂算法,并证明了算法的收敛性。这些算法的简单性和有效性来自于它们以完全分解的方式操作的事实,在这个意义上,所涉及的单调算子和线性变换在每次迭代时被单独激活。与现有的方法进行了比较,并证明了复合变分问题的应用。
2010-11-24 math.OC
ADMM for monotone operators: convergence analysis and rates
在本文中,我们提出了一个统一的计划,几个算法从文献中致力于解决单调包含问题,涉及组合与线性连续算子在无限维希尔伯特空间。我们表明,一些原始对偶法单调包含和经典的ADMM数值计划的凸优化问题,以及它的一些变种,可以嵌入到这个统一的计划。虽然在第一部分的文件收敛结果的迭代报告,第二部分是专门推导的收敛速度通过结合可变度量技术与战略的基础上适当选择的动态步长。
2017-05-05 math.OC
Acceleration and global convergence of a first-order primal--dual method for nonconvex problems
原始-对偶混合梯度法(PDHGM,也称为Chambolle-Pock方法)已被证明对于涉及图像处理和逆问题中出现的线性算子的凸优化问题非常成功。在本文中,我们分析了扩展到非凸问题,如果运营商是非线性的。基于检验的思想,我们在无限维希尔伯特空间中得到了新的步长参数收敛条件,并给出了适当(局部和/或部分)单调问题的加速规则.重要的是,我们证明了线性收敛速率以及在某些情况下的整体收敛。我们证明了这些步长规则的有效性PDE约束的最优化问题。
2018-08-08 math.OC
Asymmetric Forward-Backward-Adjoint Splitting for Solving Monotone Inclusions Involving Three Operators
本文提出了一种新的分裂技术,即非对称前向-后向-伴随分裂,用于求解包含三项的单调包含:极大单调、余强制和有界线性算子。经典的算子分裂方法,如Douglas-Rachford和Forward-Backward分裂是我们新算法的特殊情况。非对称前向-后向-伴随分裂统一、扩展并揭示了近年来提出的求解结构化凸优化问题的许多看似无关的原始对偶法之间的联系。更重要的是,它极大地扩展了分裂技术的范围和适用性,以更广泛的各种问题。一个重要的特殊情况导致道格拉斯-拉赫福德型计划,其中包括第三个cocoercive运营商。
2016-10-14 math.OC
Monotone inclusion methods for a class of second-order non-potential mean-field games
本文针对一类二阶非势能平均场博弈,提出单调分裂算法,通过有限差分格式将其转化为原始-对偶单调包含问题,并证明可用扩展的PDHG算法可证明地恢复其解。
2024-03-29 cs.NA math.NA math.OC
An Algorithm for Splitting Parallel Sums of Linearly Composed Monotone Operators, with Applications to Signal Recovery
对希尔伯特空间中的结构单调包含问题提出了一种新的原始-对偶分裂算法,并分析了其渐近性态.我们的框架,这是出于图像恢复应用的一个新颖之处,是考虑夹杂物,结合了各种单调性保持操作,如总和,线性组合,并行和,并行组合的新概念。最小化问题的特殊情况下进行了详细研究,并讨论了信号恢复的应用。数值模拟提供说明该算法的实现。
2013-05-24 math.OC
Fast Forward-Backward splitting for monotone inclusions with a convergence rate of the tangent residual of $o(1/k)$
该研究针对极大单调算子与余强制算子之和的零点求解问题,提出融合惯性/动量项与校正项的改进前向-后向分裂算法,实现切残量等$o(1/k)$阶非遍历收敛,在带线性约束非光滑凸优化的原始-对偶完全分裂算法中性能最优。
2023-12-19 math.OC
On the Geometry and Linear Convergence of Primal-Dual Dynamics
提出了一种基于变分不等式的原-对偶动力学模型,该模型具有全局指数稳定的鞍点解,可用于求解线性不等式约束最优化问题.提出了一个黎曼几何框架,其中我们开始框架中的纤维束设置赋予黎曼度量,捕捉几何的梯度(拉格朗日函数)的动态。在黎曼流形上利用自然梯度自适应得到了一个强单调梯度向量场。李雅普诺夫稳定性分析证明,这种适应导致一个全局指数稳定的鞍点解。此外,数值模拟,我们表明,缩放的黎曼度量的结果在加速收敛到鞍点解的关键参数。
2020-10-05 math.OC
A Fully Parallel Primal-Dual Algorithm for Centralized and Distributed Optimization
本文研究了一类集中式两块可分优化问题,基于单调算子分裂方法,给出了一种固定步长的完全并行原始-对偶离散算法。在该算法中,原始变量以交替的方式更新,类似于乘法器的交替方向法(ADMM)。然而,与诸如乘法器(MM)、ADMM、乘法器的双交替方向法(BiADMM)和原始-对偶不动点(PDFP)算法之类的现有离散时间算法(它们都遭受顺序更新)不同,所有原始和对偶变量在每次更新变量时并行更新,不需要其他变量的更新版本。该算法的一个优点是,它的直接推广到多块优化仍然是收敛的。然后将该方法应用于分布式优化问题,得到了一个完全并行的原-对偶分布式算法。最后,由于ADMM的直接扩展可能会发散多块优化,一个三块优化的数值例子给出了所提出的算法的直接扩展收敛到一个解决方案。
2020-09-29 math.OC