Union Averaged Operators with Applications to Proximal Algorithms for Min-Convex Functions
本文引入并研究了一类结构集值算子,称之为并平均非扩张算子。在其定义域中的每一点上,这样的算子的值可以表示为单值平均非扩张算子的有限并。我们调查的各种结构性质的类,并显示,特别是,是封闭的工会,凸组合,和成分,他们的不动点迭代是局部收敛强不动点周围。然后,我们系统地应用我们的结果来分析近端算法的情况下,工会平均非扩张算子自然出现。特别地,我们考虑了两个函数之和的极小化问题,其中第一个函数是凸函数,第二个函数可以表示为多个凸函数的最小值。
2018-10-17 math.OC
Viscosity Iterative algorithm for solving Variational Inclusion and Fixed point problems involving Multivalued Quasi-Nonexpansive and Demicontractive Operators in real Hilbert Space
针对含多值拟非扩张与半压缩算子的变分包含及不动点问题,提出结合黏性逼近和额外迭代序列的改进通用迭代算法,并证明其强收敛性。
2025-01-11 math.OC
On the nonexpansive operators based on arbitrary metric: A degenerate analysis
本文研究了具有任意度量的非扩张算子,讨论了紧非扩张性、余度性和平均性之间的关系。相关的不动点迭代的收敛性进行了讨论,特别侧重于退化度量的情况下,因为退化是经常遇到的许多现有的一阶算子分裂算法作为一个度量预解式重新制定。这一工作为分析具有非平凡松弛步长和退化度量的广义邻近点法奠定了基础。
2022-10-08 math.OC
How averaged is the projection?
本文研究投影算子的平均化程度,通过发展平均算子理论给出精确下界,并分析了算子复合的平均化性质,从而强化了投影算子强非扩张的经典结论。
2025-07-22 cs.NA math.FA math.NA
Demiclosedness principles for generalized nonexpansive mappings
半闭性原理是研究迭代法收敛性的有力工具。例如,强非扩张映射的多算子半闭性原理在道格拉斯-拉赫福德算法产生的阴影序列的弱收敛性得到简单而透明的论证时很有用。我们提供的扩展这一原则是兼容的框架更一般的家庭的映射,如cocoercive和圆锥平均映射。作为应用,我们证明了自适应Douglas-Rachford算法产生的阴影序列的弱收敛性。
2020-08-24 math.OC
Comparing Averaged Relaxed Cutters and Projection Methods: Theory and Examples
我们专注于收敛分析的平均松弛刀具,特别是变量-取决于如何选择参数-类似\emph{alternating projections},\emph{Douglas--Rachford method},\emph{relaxed reflect-reflect},或\emph{Peaceman--Rachford}方法。这种方法经常被用来解决凸可行性问题。投影算法的标准收敛性分析是基于相关算子的\emph{firm nonexpansivity}性质。然而,如果约束集上的投影被切割器(分离超平面上的投影)所取代,则失去了牢固的非扩张性。我们提供了一个家庭的相关平均松弛刀具方法的收敛性证明在合理的假设下,依靠一个简单的几何参数。这使我们能够澄清与松弛因子的允许选择相关的细节,突出精确(坚定非扩张)和近似(强准非扩张)设置之间的区别。我们提供说明性的例子,并讨论该方法的实际实现。
2018-10-04 math.OC
$α$-Firmly Nonexpansive Operators on Metric Spaces
通过对线性空间中不动点迭代的分析,我们将$p$ -一致凸空间的工具推广到了其他的场合.本研究仅限于单值逐点$α$平均映射的适当推广。我们的主要贡献是在p-一致凸空间中为这些映射建立了一个演算,特别是显示了在组合和凸组合下该性质是如何保持的。这是至关重要的分裂算法,建立这样的凸组合和组合,并减少了收敛性分析,简单地验证$α$ -坚定的非扩张性的各个组件在不动点的分裂算法。我们的收敛性分析不同于可以在以前的文献中发现,只有$α$坚定的非扩张性相对于不动点是必需的。事实上,我们表明,如果不动点映射是逐点非扩张的所有集群点,那么这些集群点实际上是不动点,并收敛的序列如下。此外,我们提供了一个定量的收敛分析的概念上的规范度量次正则性,我们表明是必要的可量化的收敛估计。这使得人们第一次证明了在曲率从上到下有界的空间中各种分裂算法的收敛性。
2021-04-22 math.FA math.OC
Fixed Points of Averages of Resolvents: Geometry and Algorithms
在数学和自然科学中,如果一个给定的问题没有实际的解,那么给出它的广义解是一项重要的任务。它有丰富的历史可以追溯到19世纪初,当卡尔弗里德里希高斯开发的最小二乘法系统的线性方程组-其解决方案可以被视为不动点的平均投影到超平面。这个问题的一个强有力的推广是找到平均预解式的不动点(即,坚决非扩张映射)。本文研究了平均预解式的不动点集与预解式的某些复合不动点集之间的关系。它部分地推广了最近的工作,两个映射的问题C。伯恩分析表明,在一个积空间的重构。此外,提出了两种新的算法。一个全收敛的证明是基于平均映射的第一个算法。第二个算法,目前还没有收敛性证明,迭代映射,甚至不是非扩张的。数值实验表明,这些算法的潜力相比,迭代的平均解。
2011-02-08 math.FA math.OC
On compositions of special cases of Lipschitz continuous operators
许多迭代优化算法都涉及到Lipschitz连续算子的特殊情况的合成,即强非扩张算子、平均算子和非扩张算子。组合的结构和性质在证明这类算法的收敛性时是特别重要的。本文系统地研究了Lipschitz连续算子的进一步特殊情形的复合。我们的结果的应用包括缩放锥非扩张映射的合成,以及Douglas-Rachford和向前向后算子,当应用于解决某些结构单调包含和最优化问题时。几个例子说明和加强我们的结论。
2019-12-31 math.OC
Line Search for Averaged Operator Iteration
凸优化的许多一阶算法,如前向后分裂、Douglas-Rachford分裂和乘子的交替方向法(ADMM),都可以表示为非扩张映射的平均迭代。在本文中,我们提出了一个线搜索平均迭代,保持理论上的收敛保证,同时往往加快实际收敛。我们讨论了几个一般情况下,线搜索的额外计算成本是适度的节省相比。
2016-06-27 math.OC
Conical averagedness and convergence analysis of fixed point algorithms
研究了平均非扩张算子的锥扩张及其在不动点算法收敛性分析中的作用。系统地研究了锥平均算子的各种性质,特别是松弛、凸组合和复合下的稳定性。得到了广义单调算子的预解式的锥平均性质。然后利用这些属性,以分析的收敛性的邻近点法,向前向后算法,和自适应道格拉斯-Rachford算法。我们的研究统一,改进和投射新的光在这些主题的最近研究。
2020-11-30 math.OC
Lipschitz Certificates for Layered Network Structures Driven by Averaged Activation Operators
获得尖锐的Lipschitz常数的前馈神经网络是必不可少的,以评估其鲁棒性,面对其输入的扰动。我们推导出这样的常数的上下文中的一般分层网络模型,涉及非扩张平均运营商和仿射运营商的组合物。通过利用这种架构,我们的分析精细地捕捉层之间的相互作用,产生更紧密的Lipschitz常数比那些从产品的各个层组的界限。所提出的框架,特别是前馈神经网络中遇到的许多实际情况。我们的Lipschitz常数估计在采用标量非线性函数的结构的情况下得到进一步改进,其中包括标准卷积网络作为特殊情况。
2020-06-20 math.OC
Nonconvex notions of regularity and convergence of fundamental algorithms for feasibility problems
针对欧氏空间中的非凸可行性问题,基于集合的(ε,δ)-正则性引入松弛的局部固有不扩张性,结合交集正则性的强制性条件,证明了交替投影方法在非凸问题上的局部线性收敛性。
2013-06-24 cs.NA math.NA math.OC
New Douglas-Rachford algorithmic structures and their convergence analyses
在本文中,我们研究新的算法结构与道格拉斯- Rachford(DR)运营商解决凸可行性问题。我们建议将基本的两集DR算法算子嵌入到串平均投影(SAP)和块迭代投影(BIP)算法结构中,从而创建新的DR算法方案,其中包括最近提出的循环Douglas-Rachford算法和平均DR算法作为特例。我们进一步提出并研究了一种新的多集DR算法算子。利用强拟非扩张算子和强非扩张算子的性质研究了所有算法的收敛性。
2015-12-01 math.OC
Outer approximation method for constrained composite fixed point problems involving Lipschitz pseudo contractive operators
在希尔伯特空间中,给出了一种求解包含Lipschitz伪压缩算子和强非扩张算子复合的约束不动点问题的方法.该方法的每次迭代都使用这些运算符的单独评估以及由投影到包含约束集的封闭半空间上给出的外部近似。它的收敛性的建立和应用单调包含分裂和约束平衡问题的证明。
2011-01-07 math.OC
On the Stability of Krasnosel'ski\vı-Mann Iterations
首先,我们调用弱收敛(resp。强收敛)的平移基本方法涉及非扩张算子建立弱收敛(分别。强收敛)的相关方法与扰动和近似。然后,我们利用得到上述结果的技巧,将经典Krasnosel'ski \v迭代的收敛性结果推广到它们的松弛变式上,从而得到了相应的非扩张算子的公共不动点.最后,给出了广义邻近点法在求解单调包含问题中的应用。
2022-03-26 math.OC
On a result by Baillon, Bruck, and Reich
本文扩展了Baillon、Bruck和Reich关于平均非扩张映射在线性条件下强收敛的经典结果,允许使用灵活的松弛参数,并通过例子加以说明。
2024-04-05 math.FA math.OC
Evolution equations in discrete and continuous time for nonexpansive operators in Banach spaces
本文考虑Banach空间中的一些离散和连续动力学,其中包含一个非扩张算子$J$和一个相应的严格收缩算子族$Φ(λ,x):=λJ(\frac{1-λ}λx)$(对于$λ\in]0,1]$).我们的动机来自于对两人零和重复博弈的研究,其中$n$阶段博弈的价值(分别是)。$λ$ -折扣博弈的值)满足关系式$v_n=Φ(\frac{1}{n},v_{n-1})$(resp. $v_λ=Φ(λ,v_λ)$),其中$J$是博弈的Shapley算子。我们研究了发展方程$u'(t)=J(u(t))-u(t)$以及相关的欧拉格式,建立了一个新的指数公式和Kobayashi型不等式。我们证明了非自治发展方程$u'(t)=Φ(\bmλ(t),u(t))-u(t)$的解与序列$v_n$(分别为)具有相同的渐近性态(即使当它发散时).当$\bmλ(t)=1/t$(分别为当$\bmλ(t)$足够缓慢地收敛到0时)。
2009-04-15 math.CA math.OC
Relocated Fixed-Point Iterations with Applications to Variable Stepsize Resolvent Splitting
Centro de Modelamiento Matemático(数学建模中心);University of British Columbia(不列颠哥伦比亚大学);RMIT University(皇家墨尔本理工大学);The University of Melbourne(墨尔本大学)
提出一种收敛框架,允许迭代算法中的非扩张算子族无公共不动点,通过重定位步骤实现变步长预解分裂,并应用于Douglas-Rachford算法。
2026-06-11 math.OC
A Variational Inequality Model for the Construction of Signals from Inconsistent Nonlinear Equations
建立在经典的线性公式,我们认为,在信号合成和信号恢复的问题是一个广泛的类减少的基本任务,找到一个点在一个封闭的凸子集的希尔伯特空间,满足一些非线性方程,涉及坚定的非扩张算子。我们调查这种形式主义的情况下,由于不准确的建模或扰动,非线性方程是不一致的。原问题的一个放松的制定提出了一个变分不等式的形式。研究了松弛问题的性质,设计了一种快速收敛的块迭代算法,在给定的迭代过程中,只激活底层的非扩张算子的块,数值实验表明,该算法在多种信号和图像处理应用中具有鲁棒性.
2021-05-16 math.OC
Strong convergence, perturbation resilience and superiorization of Generalized Modular String-Averaging with infinitely many input operators
Department of Mathematics University of Haifa(海法大学数学系)
本文研究了基于通用模块字符串平均(GMSA)过程的迭代算法在一般容许控制下的强收敛性和扰动鲁棒性,探讨了其在实Hilbert空间中的可行性问题,包括公共不动点问题和凸可行性问题,并展示了其在优越化方法和动态字符串平均中的应用。
2026-03-15 cs.NA math.NA math.OC
Solving Composite Fixed Point Problems with Block Updates
通过在每次迭代中只激活一个算子块,可以用各种策略迭代地构造非扩张算子的公共不动点。在更具有挑战性的一类复合不动点问题,涉及运营商,不共享共同的不动点,目前的方法需要激活的所有运营商在每次迭代,并保持收敛,同时更新只有块的运营商的问题是开放的。我们提出了一种方法,实现这一目标,并分析其渐近行为。弱,强,和线性收敛的结果,建立利用与理论的集中阵列。应用到几个非线性和非光滑分析问题,从单调包含和不一致的可行性问题,最小化问题中出现的数据科学。
2021-02-07 math.FA math.OC
Inertial Douglas-Rachford splitting for monotone inclusion problems
University of Vienna(维也纳大学);Chemnitz University of Technology(开姆尼茨工业大学)
本文提出一种惯性 Douglas-Rachford 分解算法,用于求解 Hilbert 空间中两个极大单调算子之和的零点,并分析其收敛性。通过产品空间方法,将结果应用于求解涉及线性复合和并行和类型算子的单调包含问题,提供单独访问极大单调映射的迭代方案。
2014-03-28 cs.NA math.FA math.NA
Iteration-Complexity of a Generalized Forward Backward Splitting Algorithm
在本文中,我们分析了广义向前-向后(GFB)分裂算法,提出了\cite{gfb2011},最小化一个大类的复合目标$f + \sum_{i=1}^n h_i$在希尔伯特空间,其中$f$具有Lipschitz连续梯度和$h_i$的简单(\ie,它们的邻近算子是容易计算的)的迭代复杂性。我们推导出迭代复杂性边界(逐点遍历)的不精确版本的GFB获得一个近似解的基础上,一个容易验证的终止标准。一路上,我们证明了复杂性界的放松和不精确的不动点迭代构建的非扩张平均运营商的组合。这些结果适用于更普遍的GFB时,用来找到一个零的总和$n > 0$极大单调算子和一个co-coercive运营商的希尔伯特空间。的理论研究结果与视频处理的实验举例说明。
2014-02-10 math.OC
Stochastic Quasi-Fejér Block-Coordinate Fixed Point Iterations with Random Sweeping
本文提出了块坐标不动点算法及其在希尔伯特空间非线性分析和优化中的应用。渐近分析依赖于随机拟Fejér单调性的概念,这是彻底调查。所考虑的迭代法的特点是随机扫描规则,以任意选择在迭代过程中被激活的变量块,并且它们允许在算子的评估中出现随机误差。利用拟非扩张算子或平均非扩张算子的合成构造了算法,并对它们生成的序列建立了弱收敛和强收敛结果。作为一个副产品,新的块-坐标算子分裂方法得到解决结构单调包含和凸极小化问题。特别是,所提出的框架导致随机块坐标版本的道格拉斯-Rachford和向前向后算法和它们的一些变体。在$m=1$块的标准情况下,我们的结果仍然是新的,因为它们纳入随机扰动。
2015-04-17 math.OC
Algorithms based on operator-averaged operators
由某些半光滑牛顿和活动集方法组成的一类算法能够非常快速地解决涉及稀疏诱导正则化的凸最小化问题;这类方法的速度优势是它们通过解决比传统方法更小的内部问题而受益于相应解的稀疏性的能力的结果。这种常规方法的收敛特性(例如,前向-后向和近似牛顿算子)可以在标量平均算子的迭代框架下非常优雅地进行研究-这不是上述类别的情况。然而,在这项工作中,我们表明,而不是考虑运营商平均运营商,人们确实可以研究该类的方法,并推导出它以外的算法,可能比现有的更方便实现。此外,我们提出的实验结果表明,运营商平均运营商的基础上实现的方法比传统的更快的收敛。
2021-12-07 eess.SP math.OC
Inducing strong convergence into the asymptotic behaviour of proximal splitting algorithms in Hilbert spaces
University of Vienna, Faculty of Mathematics(维也纳大学数学学院)
本文提出改进的Krasnosel'ski\uı--Mann算法,证明迭代序列强收敛于问题的最小范数解,并推导了带有Tikhonov正则化项的向前-向后和Douglas-Rachford算法,用于求解单调包含问题。
2017-11-18 cs.NA math.NA math.OC
Global convergence and acceleration of projection methods for feasibility problems involving union convex sets
本文针对并凸集可行性问题建立经典投影算法的全局收敛理论,并据此推导稀疏仿射可行性与含 $P$-矩阵线性互补问题的收敛条件,同时提出有收敛保证且数值上更高效的加速算法。
2023-07-15 math.OC
A Two-step Krasnosel'skii-Mann Algorithm with Adaptive Momentum and Its Applications to Image Denoising and Matrix Completion
Jinan University(暨南大学);Beihang University(北京航空航天大学);Xiangtan University(湘潭大学)
提出一种带自适应动量的两步Krasnosel'skii-Mann算法,用于求解图像处理中的凸优化问题,并证明其弱收敛性和收敛速率,在图像去噪和矩阵补全任务中优于现有方法。
2026-07-15 cs.NA math.NA math.OC
Learning to accelerate Krasnosel'skii-Mann fixed-point iterations with guarantees
Division of Decision and Control Systems, KTH Royal Institute of Technology(决策与控制系统系,皇家理工学院);Digital Futures(数字未来)
本文提出L2O框架,通过引入可和扰动优化Krasnosel'skii-Mann迭代,提升平均性能并保持收敛性,用于加速结构单调包含问题的求解。
2026-10-12 cs.LG cs.SY eess.SY
Convergence of Time-Averaged Mean Field Gradient Descent Dynamics for Continuous Multi-Player Zero-Sum Games
School of Mathematics, University of Minnesota(数学系,明尼苏达大学);LJLL and LCT, Sorbonne Université(LJLL和LCT,索邦大学)
针对多人零和博弈的混合 Nash 均衡求解,论文提出带动量与指数折扣时间平均的平均场梯度下降动力学,证明固定熵正则化下的指数收敛,并给出退火收敛保证。
2025-05-12 cs.LG math.AP math.OC
Splitting the Forward-Backward Algorithm: A Full Characterization
针对含极大单调算子和余强制算子之和的单调包含问题,研究具最小提升的节俭拆分算法,完整刻画仅用单个预解算子评估等资源且收敛的方法,提出统一框架及设计启发式,数值实验显示性能优于现有方法。
2025-04-15 math.OC