On the finite convergence of the Douglas-Rachford algorithm for solving (not necessarily convex) feasibility problems in Euclidean spaces
University of British Columbia(不列颠哥伦比亚大学);Hanoi National University of Education(河内国家教育大学)
本文研究了求解欧几里得空间中非凸可行性问题的Douglas-Rachford算法的有限收敛性,提出了多种新的充分收敛条件,并通过多个例子验证了结果。
2016-04-15 cs.NA math.FA math.NA
The Cyclic Douglas-Rachford Algorithm with r-sets-Douglas-Rachford Operators
道格拉斯-拉奇福德(DR)算法是一个迭代过程,它使用凸集上的顺序反射,并已成为流行的凸可行性问题。在本文中,我们提出了一个结构性的推广,允许使用$r$集DR运营商在循环的方式。我们证明了收敛性,并提出了数值说明的潜在优势,这样的运营商与$r>2$在经典的$2$集DR运营商的循环算法。
2018-07-17 math.OC
Weak convergence on Douglas-Rachford method
我们证明了由Douglas-Rachford方法生成的序列弱收敛于包含问题的解
2010-07-13 math.FA math.OC
A parameterized Douglas-Rachford Splitting algorithm for nonconvex optimization
本文研究了一类非凸最优化问题的参数化Douglas-Rachford分裂方法。构造了一个新的价值函数,证明了参数化Douglas-Rachford分裂方法产生的整个序列的收敛性。然后,我们将参数化道格拉斯-Rachford分裂方法应用于数据科学中出现的三个重要的非凸最优化问题:稀疏约束最小二乘问题,可行性问题和低秩矩阵完成。数值结果验证了参数化Douglas-Rachford分裂方法的有效性。
2020-06-16 math.OC
Circumcentering the Douglas--Rachford method
介绍并研究了Douglas-Rachford方法的一种几何修正,称为Circumcentered-Douglas-Rachford方法.该方法通过取反射步骤的平分线的交点来迭代求解某些类别的可行性问题。收敛性分析建立了最佳逼近问题涉及两个(仿射)子空间和我们的理论和数值结果相比,原Douglas-Rachford方法。在适当的条件下,证明了Circumcentered-Douglas-Rachford方法的线性收敛速率至少是(仿射)子空间间Friedrichs角的余弦,这就是Douglas-Rachford方法的收敛速度.我们还提出了一个初步的讨论Circumcentered-Douglas-Rachford方法适用于许多集的情况下,具有非仿射凸集的例子。
2017-08-16 math.OC
Douglas-Rachford Splitting: Complexity Estimates and Accelerated Variants
提出了一种新的方法来分析解凸组合最优化问题的Douglas-Rachford分裂方法的收敛性。该方法是基于一个连续的可微函数,道格拉斯-Rachford包络(DRE),其固定点对应的原始(可能是非光滑)的问题的解决方案。通过证明Douglas-Rachford分裂法与DRE中尺度梯度法的等价性,利用光滑无约束优化的结果分析了DRE的收敛性,并对DRE进行了优化,得到了DRE的加速形式.
2014-09-20 math.OC
The Douglas--Rachford Algorithm Converges Only Weakly
我们证明了寻找两个最大单调算子和的零点的Douglas-Rachford算法的弱收敛性不能改进为强收敛。同样,我们表明,强收敛可以失败的方法的部分逆。
2019-12-19 math.OC
Douglas-Rachford Feasibility Methods for Matrix Completion Problems
本文给出了Douglas-Rachford反射法成功应用于凸和非凸实矩阵完备化问题的一般性建议。这些准则通过各种说明性的例子加以证明。
2013-08-20 math.OC
Finding magic squares with the Douglas-Rachford algorithm
在这篇论文中,我们展示了如何使用道格拉斯-Rachford算法作为一个成功的启发式寻找幻方。Douglas-Rachford算法是求解可行性问题的迭代投影方法。虽然它的收敛性只保证在凸的设置,该算法已成功地应用于一些类似的非凸问题,如解决数独难题。我们提出了两个配方的非凸可行性问题,发现幻方,这是受数独,并测试道格拉斯-Rachford算法。
2019-02-22 math.OC
Algorithmic approaches to avoiding bad local minima in nonconvex inconsistent feasibility
Georg-August-Universität Göttingen(哥廷根大学)
该研究针对非凸不一致可行性问题,通过合成与实验室数据,验证了乘积空间上的松弛道格拉斯-拉奇福德算法可过滤不良局部极小值,提出先循环投影找不动点再用该算法脱离极小值的优化策略,与相位检索现有实践相反。
2026-08-21 cs.NA math.NA math.OC
A remark on the convergence of the Douglas-Rachford iteration in a non-convex setting
利用构造的李雅普诺夫函数,证明了$\mathbb R^d$中关于球面和直线的Douglas-Rachford迭代是鲁棒$\mathcal{KL}$稳定的.这意味着一个收敛是强于紧集上的一致收敛性。
2016-09-28 math.OC
Fixed Point Analysis of Douglas-Rachford Splitting for Ptychography and Phase Retrieval
提出了基于泊松和高斯对数似然函数的邻近点法的Douglas-Rachford分裂(DRS)方法,用于重叠关联和相位恢复。不动点分析表明,DRS迭代序列总是按步长显式有界的,且不动点吸引当且仅当不动点是正则解.这说明了经典Douglas-Rachford算法的两个主要缺点:当可行性问题是一致的时,收敛速度慢;当可行性问题是不一致的时,收敛速度慢。不动点分析也导致了一个简单的,明确的表达的最佳步长的频谱间隙的基础矩阵。当应用于盲重叠关联成像的挑战性问题时,其寻求同时恢复对象和探针,交替最小化与DRS内循环,即使具有远离最佳步长,也在唯一性理论中建立的接近最小值的条件下几何收敛。
2020-04-09 cs.NA math.NA math.OC
A Douglas-Rachford type primal-dual method for solving inclusions with mixtures of composite and parallel-sum type monotone operators
Chemnitz University of Technology(德累斯顿工业大学)
本文提出两种原始-对偶分裂算法,基于不精确Douglas-Rachford分裂方法,分别在不同希尔伯特空间中求解涉及复合与并行和型单调算子混合的包含问题,允许在每次迭代中分别处理有界线性算子和集值算子,并通过数值实验验证其在定位和图像去模糊问题中的性能。
2012-12-03 cs.NA math.FA math.NA
Recent Results on Douglas-Rachford Methods for Combinatorial Optimization Problems
我们讨论最近的积极经验,应用凸可行性算法的道格拉斯-Rachford型高度组合和远离凸问题。
2013-05-13 math.CO math.OC
The Douglas-Rachford Algorithm for Weakly Convex Penalties
Douglas-Rachford算法广泛用于稀疏信号处理中,用于最小化两个凸函数之和。在本文中,我们考虑的情况下,其中一个函数是弱凸的,但另一个是强凸的,使和是凸的。在强凸函数光滑的条件下,给出了相同的Douglas-Rachford迭代收敛的条件.我们还提出了一个修改的道格拉斯-Rachford算法,不施加光滑条件的凸函数。然后,我们提供了一个讨论的收敛速度的两种类型的算法,并证明了讨论的数值实验。
2015-11-12 math.OC
Alternating Projections and Douglas-Rachford for Sparse Affine Feasibility
Institut für Numerische und Angewandte Mathematik Universität Göttingen(哥廷根大学应用数值数学研究所)
本文提出基于投影的非凸松弛方法,解决稀疏可行性问题,证明交替投影和Douglas-Rachford算法在全局线性收敛性。
2014-03-14 cs.NA math.NA math.OC
Ergodic behaviour of a Douglas-Rachford operator away from the origin
证明了在远离原点的地方,希尔伯特空间中关于球面和凸集的Douglas-Rachford算子可以用另一个满足弱遍历定理的算子来逼近.对其他投影算子和反射算子也得到了类似的结果。
2017-08-30 math.OC
The Cyclic Douglas-Rachford Method for Inconsistent Feasibility Problems
我们分析的行为,新推出的循环道格拉斯-Rachford算法找到一个点的交集的有限数量的封闭凸集。这项工作考虑的情况下,目标交集可能是空的。
2014-07-02 math.OC
A Douglas-Rachford Splitting Method for Solving Equilibrium Problems
我们提出了一个分裂方法解决平衡问题,涉及两个双函数满足标准条件的总和。我们证明了这个问题等价于找到两个适当的极大单调算子的零点。我们的算法是道格拉斯-Rachford分裂适用于此辅助单调包含的后果。研究了单调包含与平衡问题之间的联系。
2012-06-27 math.OC
The Fun is Finite: Douglas-Rachford and Sudoku Puzzle -- Finite Termination and Local Linear Convergence
近年来,Douglas-Rachford分裂方法在求解许多非凸优化问题上被证明是有效的。本文给出了非凸可行性问题的局部收敛性分析,证明了有限终止性和局部线性收敛性。对于数独问题的推广,我们证明了Douglas-Rachford算法的局部线性收敛速率恰为$\frac{\sqrt{5}}{5}$且与问题大小无关.对于$s$ -queens问题,我们证明了Douglas-Rachford算法在有限次迭代后收敛.数值求解数独问题和$s$ -皇后问题的结果支持我们的理论研究结果。
2021-01-20 math.OC
On the range of the Douglas-Rachford operator
University of British Columbia(不列颠哥伦比亚大学)
本文研究Douglas-Rachford算子的范围,证明了对于3*单调算子存在一个公式,揭示其范围接近由基础算子的定义域和值域构成的简单集合,并讨论了其在子微分算子、极小位移向量和 firmly 非扩张映射中的应用。
2014-07-31 cs.NA math.FA math.NA
Linear convergence of the generalized Douglas-Rachford algorithm for feasibility problems
本文研究了广义Douglas-Rachford算法及其循环变体,其中包括经典Douglas-Rachford算法和交替投影算法等多种投影型算法。具体地,我们建立了几个局部线性收敛结果的算法在解决可行性问题的许多封闭的可能非凸集在不同的假设。我们的发现不仅放宽了一些正则性条件,而且提高了文献中的线性收敛速率。当存在凸性时,证明了算法的线性收敛是全局收敛的.
2018-04-16 math.OC
On the Douglas-Rachford and Peaceman-Rachford algorithms in the presence of uniform monotonicity and the absence of minimizers
本文证明了在一致单调且$3^*$单调(非次微分)条件下,Douglas-Rachford与Peaceman-Rachford算法的影子序列收敛性,并用数值实验验证。
2024-05-24 math.OC
Global convergence of a non-convex Douglas-Rachford iteration
我们建立了一个典型的非凸Douglas-Rachford迭代的收敛区域,该迭代在直线和圆的交点上找到一个点。以前关于非凸迭代的工作[2]只能建立局部收敛,并且由于不能给出显式的收敛区域而无效。
2014-11-27 math.OC
On the Douglas-Rachford algorithm
University of British Columbia(不列颠哥伦比亚大学);Mansoura University(曼苏拉大学)
本文研究了Douglas-Rachford算法在不一致情况下的收敛性,证明了在凸可行性设置下全弱收敛,并提出更一般的收敛条件。
2016-04-15 cs.NA math.FA math.NA
Local Linear Convergence of the ADMM/Douglas--Rachford Algorithms without Strong Convexity and Application to Statistical Imaging
Georg-August Universität Göttingen(哥廷根大学);Institut für Numerische und Angewandte Mathematik, Universität Göttingen(哥廷根大学数值与应用数学研究所);Institute for Mathematical Stochastics and Felix Bernstein Institute for Mathematical Statistics in the Biosciences, Georg-August Universität Göttingen(哥廷根大学数学随机学与生物科学费利克斯·伯恩斯坦数学统计研究所)
本文研究了在无强凸性条件下,ADMM和Douglas--Rachford算法在统计成像中的局部线性收敛性,通过duality和强度度量子正则性证明了算法的收敛性,并展示了其在图像去卷积和去噪中的应用。
2016-03-15 cs.NA math.NA math.OC
Understanding the Douglas-Rachford splitting method through the lenses of Moreau-type envelopes
本文通过Douglas-Rachford包络分析弱凸优化问题的Douglas-Rachford分裂方法,利用上图收敛技术证明其逼近目标函数,并在温和假设下建立全局收敛与局部线性收敛率,数值实验验证了其与凸情形相当的性能。
2024-12-27 math.OC
The Douglas-Rachford algorithm for two (not necessarily intersecting) affine subspaces
Douglas-Rachford算法是求解单调算子和的零点的一种经典的、非常成功的分裂方法。当底层算子是正规锥算子时,该算法解决了一个凸可行性问题。在本文中,我们提供了一个详细的研究道格拉斯-Rachford迭代和相应的{影子序列}时,集是仿射子空间,不一定相交。我们证明了强收敛的阴影到最近的广义解。我们的结果扩展了最近的工作,从一致的不一致的情况下。提供了各种示例来说明结果。
2015-04-14 math.OC
Iteration complexity of an inexact Douglas-Rachford method and of a Douglas-Rachford-Tseng's F-B four-operator splitting method for solving monotone inclusions
本文提出并研究了求解两算子单调包含和四算子单调包含的不精确Douglas-Rachford分裂(DRS)方法和Douglas-Rachford-Tseng前后向分裂(F-B)方法的迭代复杂性.前一种方法(虽然基于稍微不同的迭代机制)是由J. Eckstein和W. Yao的方法,其中不精确DRS方法是由Solodov和Svaiter的混合近似外梯度(HPE)方法的一个特例导出的,而后者是将所提出的不精确DRS方法(用作外迭代)与Tseng的F-B分裂型方法(用作内迭代)结合起来求解相应的子问题。我们证明了迭代复杂性边界的算法在逐点(非遍历),以及在遍历的意义上表明,他们承认两个不同的迭代:一个可以嵌入到HPE方法,其中的迭代复杂性是已知的,因为蒙泰罗和Svaiter的工作,另一个需要一个单独的分析。最后,我们对三算子和四算子单调包含问题进行了简单的数值实验,并与现有的算法进行了比较。
2017-11-30 math.OC
On the Minimal Displacement Vector of the Douglas-Rachford Operator
Douglas-Rachford算法可以表示为一个强非扩张算子的不动点迭代。当算子没有不动点时,算法的迭代步发散,但相邻迭代步之间的差收敛于所谓的最小位移向量,这可以用来证明一个最优化问题的不可行性.本文建立了最小位移向量的新性质,推广了已有的一些结果。
2021-02-12 math.OC
Cyclic Relaxed Douglas-Rachford Splitting for Inconsistent Nonconvex Feasibility
本文提出循环松弛 Douglas–Rachford 算法以处理非凸不相容可行性问题,刻画其不动点及影子与循环投影不动点的关系,并给出局部定量收敛条件。
2025-02-17 math.OC
A Cyclic Douglas-Rachford Iteration Scheme
本文提出了两个Douglas-Rachford启发的迭代格式,它们可以直接应用于希尔伯特空间中的N-集凸可行性问题。我们的主要结果是弱收敛的方法到一个点的最近点投影到每个N集重合。对于仿射子空间,收敛是依范数的。从数值实验的初步结果,比较我们的方法的经典(产品空间)道格拉斯-Rachford计划,是有前途的。
2013-04-10 math.FA math.OC
Finding the forward-Douglas-Rachford-forward method
考虑3个算子之和的单调包含问题,其中2个是单调的,1个是单调Lipschitz的。经典的Douglas-Rachford方法和Forward-backward-forward方法分别解决了两个单调算子和以及一个单调算子和一个单调Lipschitz算子的单调包含问题。我们首先提出了一种方法,自然结合道格拉斯-Rachford和前向后向前,并表明,它解决了3个运营商的问题下进一步的假设,但失败的一般。然后,我们提出了一种自然结合道格拉斯-拉赫福德和前向反射-后向的方法,这是Malitsky和Tam最近提出的前向-后向-前向的替代方法[arXiv:1808.04162,2018]。我们表明,这第二种方法解决了3运营商的问题一般,没有进一步的假设。
2019-10-16 math.OC
New Douglas-Rachford algorithmic structures and their convergence analyses
在本文中,我们研究新的算法结构与道格拉斯- Rachford(DR)运营商解决凸可行性问题。我们建议将基本的两集DR算法算子嵌入到串平均投影(SAP)和块迭代投影(BIP)算法结构中,从而创建新的DR算法方案,其中包括最近提出的循环Douglas-Rachford算法和平均DR算法作为特例。我们进一步提出并研究了一种新的多集DR算法算子。利用强拟非扩张算子和强非扩张算子的性质研究了所有算法的收敛性。
2015-12-01 math.OC
A Lyapunov-type approach to convergence of the Douglas-Rachford algorithm
Douglas-Rachford投影算法是一种迭代法,用于在封闭约束集的交集中找到一个点。该算法已被实验观察到解决各种非凸可行性问题,目前的理论不能充分解释。在本文中,我们证明了道格拉斯-Rachford算法的收敛性在一个潜在的非凸设置。我们的分析依赖于存在的一个Lyapunov型功能,其凸性的性质是不等于凸的原始约束集。此外,我们提供了各种非凸的例子中,我们的框架证明了算法的整体收敛。
2017-06-15 math.OC
Eventual linear convergence of the Douglas Rachford iteration for basis pursuit
Massachusetts Institute of Technology(麻省理工学院)
本文通过主角度量化了Douglas-Rachford分裂算法在ℓ1最小化问题中的渐近线性收敛率,并展示了在压缩感知中如何用受限等距常数界定该速率,同时分析了ℓ2正则化和过松弛等更一般的迭代方案。
2013-05-29 cs.IT cs.NA math.IT
An enhanced formulation for solving graph coloring problems with the Douglas-Rachford algorithm
研究了图的点着色问题的Douglas-Rachford算法的性质。给定一个图和一些颜色,目标是找到顶点的着色,使得所有相邻的顶点对都有不同的颜色。尽管这个问题的组合性质,道格拉斯-Rachford算法最近被证明是一个成功的启发式解决各种各样的图形着色的情况下,当这个问题被铸造成一个可行性问题的二进制指标变量。在这项工作中,我们考虑一个不同的配方,基于半定规划。道格拉斯-Rachford算法的性能大大改善,这种新的方法,通过各种数值实验证明。
2018-08-02 math.CO math.OC
Linear Convergence and Metric Selection for Douglas-Rachford Splitting and ADMM
最近,文献中给出了Douglas-Rachford分裂和乘子的交替方向法的收敛速度结果。本文在强凸性和光滑性假设下证明了Douglas-Rachford分裂和ADMM的全局线性收敛速率界。我们进一步表明,率界是紧的一类问题考虑所有可行的算法参数。对于满足假设的问题,我们展示了如何选择步长和度量的算法,优化推导的收敛速度界。对于不满足假设的相似结构的问题,我们提出了启发式的步长和度量选择方法。
2016-04-12 math.OC
Inertial parameterized Douglas-Rachford for generalized DC programming problems
University of Delhi(德里大学);Indian Institute of Technology Roorkee(罗尔基印度理工学院);University of Duisburg-Essen(杜伊斯堡-埃森大学)
该研究针对广义DC规划问题,提出两种惯性参数化Douglas-Rachford型算法,经实验验证其在稀疏恢复、鲁棒分类任务中性能优于现有同类算法。
2026-10-09 math.OC
Relative-error inertial-relaxed inexact versions of Douglas-Rachford and ADMM splitting algorithms
本文导出了求解极大单调算子的Douglas-Rachford分裂法和求解凸优化的乘子交替方向法的新的不精确变形。该分析是基于一个新的不精确版本的邻近点法,其中包括一个惯性步骤和超松弛。我们应用我们的新的不精确ADMM方法LASSO和逻辑斯谛回归问题,并获得更好的计算性能比以前的不精确ADMM方法。
2019-04-23 math.OC
The range of the Douglas-Rachford operator in infinite-dimensional Hilbert spaces
Douglas-Rachford算法是求解凸优化问题的一种重要的分裂算法。最近,该方法已经成功地找到了不一致情况下最优化问题的广义解(假设存在一个解),即,当一个解决方案不存在时。不一致情形的收敛性分析取决于与Douglas-Rachford分裂算子相关的位移算子的值域和相应的最小位移向量的研究。本文在对基本算子作适当假设的情况下,给出了(可能)无限维希尔伯特空间中Douglas-Rachford分裂算子的值域.我们的新结果补充了有限维希尔伯特空间中的已知结果。几个例子说明和加强我们的结论。
2022-06-14 math.FA math.OC
On the local convergence of the Douglas-Rachford algorithm
讨论了在$\mathbb{R}^d$中求解两个闭集$A,B$的可行性问题的Douglas-Rachford算法。当$A,B$是凸集的有限并时,我们证明了它的局部收敛到一个不动点。我们还表明,更一般的非凸集的计划可能无法收敛,并开始循环,甚至可能无法解决的可行性问题。
2014-01-23 math.FA math.OC
Douglas--Rachford is the best projection method
本文利用圆动力学证明,平面上两闭凸锥的Douglas–Rachford方法有限收敛当且仅当其算子不动点集非平凡,并指出其优于其他投影方法,统一并扩展了局部多面体情形下的有限收敛充分条件。
2023-10-26 math.OC
A weakly convergent fully inexact Douglas-Rachford method with relative error tolerance
Douglas-Rachford方法是求两个极大单调算子和的零点的分裂算法。它的每一次迭代都需要两个相邻子问题的顺序解。这项工作的目的是提出一个完全不精确的版本的道格拉斯-Rachford方法,其中两个近端子问题的解决约在相对误差的公差。我们还提出了一个半不精确的变种,其中第一个子问题是解决了完全和第二个不精确。我们证明了这两种方法产生的序列弱收敛到的解决方案的基本包含问题,如果有的话。
2018-09-07 math.FA math.OC
On Douglas-Rachford splitting that generally fails to be a proximal mapping: A degenerate proximal point analysis
基于退化的邻近点分析,我们表明,道格拉斯-Rachford分裂可以减少到一个定义良好的预解式,但一般未能成为一个邻近映射。这推广了[Bauschke,Schaad and Wang.数学课程,168(2018),pp. 55 - 61]到更一般的设置。文中还讨论了相关的概念和结果。特别是,关于最大和循环单调性的结果是有助于分析许多算子分裂算法。
2023-02-19 math.OC
On Convergence of Heuristics Based on Douglas-Rachford Splitting and ADMM to Minimize Convex Functions over Nonconvex Sets
近年来,基于Douglas-Rachford分裂算法和乘子的交替方向法(ADMM)的算法在非凸集上最小化凸函数方面取得了经验性的成功,但对它们的理论认识还没有得到很大的提高。在本文中,我们研究这些算法的收敛性。首先,我们刻画了非凸约束集上涉及凸费用函数的极小化问题的最优解。我们证明了这些最优解与非凸Douglas-Rachford算子的不动点集有关.其次,我们建立了Douglas-Rachford分裂启发式收敛于一个点或其聚点形成非空紧连通集的充分条件。在启发式收敛到一个点的情况下,我们建立了该点是最优解的充分条件。然后,我们讨论了如何ADMM启发式可以构造从道格拉斯-Rachford分裂算法。我们表明,不同于在凸的情况下,在我们的非凸设置的算法是不等价的,彼此之间有一个相当复杂的关系。最后,我们对ADMM启发式算法的收敛性进行了评论,并将其与Douglas-Rachford分裂启发式算法进行了比较。
2019-02-08 math.OC
On Slater's condition and finite convergence of the Douglas-Rachford algorithm
Douglas-Rachford算法是求解最优化问题和可行性问题的一种经典且非常成功的方法。在本文中,我们提供了新的条件,充分有限收敛的背景下凸可行性问题。我们的分析建立在Spingarn的开创性工作的基础上,并在很大程度上扩展了这一工作。具体来说,我们得到有限收敛的斯莱特条件的存在下,在仿射多面体和超平面epigraphical的情况下。各种例子说明了我们的结果。数值实验表明,与交替投影法和反射-投影法相比,Douglas-Rachford算法在求解带正性约束的线性方程时具有很强的竞争力.
2015-04-27 math.OC
Solving graph coloring problems with the Douglas-Rachford algorithm
我们提出的道格拉斯-Rachford算法作为一个成功的启发式解决图着色问题。给定一组颜色,这些类型的问题包括为图的每个节点分配颜色,以这种方式,每对相邻节点都被分配不同的颜色。我们制定的图着色问题作为一个适当的可行性问题,可以有效地解决道格拉斯-Rachford算法,尽管从组合性质的问题所产生的非凸性。图着色问题的不同修改和应用也被提出。各种计算实验表明,该方法具有良好的性能。
2016-12-15 math.CO math.OC
Douglas-Rachford splitting algorithm for projected solution of quasi variational inequality with non-self constraint map
本文提出一种Hilbert空间中的Douglas-Rachford分裂算法,在算子Lipschitz连续且强单调时,利用预解算子与反射预解算子的交互,求解拟变分不等式的投影解。
2024-07-18 math.FA math.OC
Non-stationary Douglas-Rachford and alternating direction method of multipliers: adaptive stepsizes and convergence
TU Braunschweig(布伦瑞克工业大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文重新审视经典Douglas-Rachford方法用于求解两个最大单调算子之和的零点问题,提出了一种自适应步长规则,通过分析线性情况并开发出无需调整步长的策略,证明了非平稳DR方案在可和增量步长序列下的收敛性,并由此推导出相关的非平稳交替方向乘数法(ADMM),并通过数值实验验证了所提方法的效率。
2018-09-27 cs.NA math.NA math.OC
Communication efficient quasi-Newton distributed optimization based on the Douglas-Rachford envelope
针对客户端–服务器分布式优化,本文利用 Douglas–Rachford 分裂构造免线搜索的 BFGS 方法,以每轮每客户端仅收发一个向量实现最少通信和超线性收敛,并通过实验验证其降本优势。
2024-10-29 math.OC
Shadow Douglas--Rachford Splitting for Monotone Inclusions
在这项工作中,我们提出了一个新的算法,找到一个零的和两个单调算子,其中一个被假定为单值和Lipschitz连续。该算法自然产生于与Douglas-Rachford分裂算法相关的连续动力系统的非标准离散化。更确切地说,它是通过对所涉及的一个算子执行显式而不是隐式离散化来获得的。所提出的算法的每次迭代需要评估一个向前和一个向后的操作。
2019-03-08 math.OC
Tight Linear Convergence Rate Bounds for Douglas-Rachford Splitting and ADMM
Douglas-Rachford分裂和乘子的交替方向法(ADMM)可用于求解由两个函数之和组成的凸优化问题。这些算法的收敛速度估计最近受到了广泛的关注。特别是,线性收敛速率已被几位作者在各种假设下证明。一组这样的假设是强凸性和光滑的函数之一,在最小化问题。作者最近为这类问题提供了一个线性收敛速率界。在本文中,我们表明,这个速率界是紧的许多算法参数的选择。
2015-03-03 math.OC
Stadium norm and Douglas-Rachford splitting: a new approach to road design optimization
道路设计的基本最优化问题是一个非常具有挑战性的目标函数,这是一个非光滑函数的总和和集合约束的存在。在本文中,我们模型和解决这个问题,采用道格拉斯-Rachford分裂算法。这需要仔细研究与最小化面积和体育场规范相关的新的邻近算子。我们比较我们的算法,一个国家的最先进的投影算法。我们的数值结果表明,该算法的潜力,以显着降低成本的道路设计。
2014-09-29 math.OC