Stochastic Inertial Krasnosel'skii-Mann Iteration Achieves Near-Optimal Sample Complexity
Carnegie Mellon University(卡内基梅隆大学);Meta FAIR;Yale University(耶鲁大学);Boston University(波士顿大学)
提出随机惯性Krasnosel'skii-Mann(iKM)方法,通过两次惯性外推实现非扩张算子不动点求解,达到近最优样本复杂度并改进经典KM的收敛速率。
2026-09-28 cs.LG math.OC stat.ML
Mini-Batch Stochastic Krasnosel'ski\uı-Mann Algorithm for Nonexpansive Fixed Point Problems
Meiji University(明治大学)
本文提出小批量随机Krasnosel'ski\uı-Mann算法,用于解决大规模非扩张映射固定点问题,通过定义可计算的小批量随机映射作为无偏估计,实现算法收敛性和收敛速率分析。
2026-04-08 math.OC
Inertial Krasnoselskii-Mann Iterations
该研究证明惯性Krasnoselskii-Mann迭代对拟非扩张算子族的弱收敛性并给出非渐近残差速率估计,在拟压缩下获强收敛与线性收敛,阐明与非惯性情形的连续过渡关系,数值验证两类惯性算法性能更优。
2023-08-21 math.OC
Convergence Rates with Inexact Non-expansive Operators
本文给出了由非扩张算子构造的非精确Krasnosel'skiii-Mann迭代的收敛速度分析。我们的结果包括两个主要部分:我们首先建立全局逐点遍历迭代复杂性界,然后,在度量次正则性假设下,我们建立局部线性收敛的距离的迭代的不动点。所得到的迭代复杂度结果可用于分析文献中各种单调算子分裂方法的收敛速度,包括Forward-Backward、广义Forward-Backward、Douglas-Rachford、乘子交替方向法和原始-对偶分裂方法.对于这些方法,我们还开发了易于验证的终止标准,找到一个近似解,这可以看作是一个推广的终止标准的经典梯度下降法。最后,我们开发了一个并行分析的非平稳Krasnosel'skiii-Mann迭代。通过将所得结果应用于一大类结构单调包含和凸优化问题,说明了所得结果的有效性。对信号与图像处理中的一些大规模反问题进行了实验研究。
2015-09-16 math.OC
A strongly convergent Krasnosel'ski\vı-Mann-type algorithm for finding a common fixed point of a countably infinite family of nonexpansive operators in Hilbert spaces
在这篇文章中,我们提出了一个Krasnosel'ski \v的K-Mann型算法,用于在希尔伯特空间中寻找一个可数无限族非扩张算子$(T_n)_{n \geq 0}$的公共不动点。我们制定了一个渐近性质,家庭$(T_n)_{n \geq 0}$必须履行,使该算法产生的序列强烈收敛到元素在$\bigcap_{n \geq 0} \operatorname{Fix} T_n$与最小范数。在此基础上,我们推导出一个向前向后算法,允许可变的步长,并产生一个序列的迭代强收敛到零的最小范数的最大单调算子和一个cocoercive之和。通过对无穷维希尔伯特空间中变分图像重建和分裂可行性问题的数值实验,证明了变步长前后向算法优于定步长算法.
2019-11-26 math.OC
Stochastic Krasnoselskii-Mann Iterations: Convergence without Uniformly Bounded Variance
University of Oxford(牛津大学);University of Groningen(格罗宁根大学)
本文研究了随机 Krasnoselskii-Mann 迭代在实希尔伯特空间中的期望非扩张固定点问题,证明在比文献中更弱的方差假设下收敛,仅需在单一固定点处有有限方差,从而获得几乎必然弱收敛性和残差收敛率。
2026-09-14 math.OC
Rates of (T-)asymptotic regularity of the generalized Krasnoselskii-Mann-type iteration
本文用证明挖掘方法计算广义Krasnoselskii-Mann型迭代的渐近正则性速率,并在特殊参数下得到二次速率。
2025-01-22 math.LO math.OC
Krasnoselskii-Mann Iterations: Inertia, Perturbations and Approximation
本文系统分析结合松弛与惯性原理的定点迭代族,统一其弱、强及线性收敛条件,并证明在弱假设下对多种扰动的鲁棒性,数值实验展示图像修复与电力市场中的应用趋势。
2025-06-23 math.OC
A stochastic coordinate descent primal-dual algorithm with dynamic stepsize for large-scale composite optimization
本文考虑了两个凸函数之和与另一个凸函数与一个连续线性算子的复合的极小化问题。利用坐标下降的思想,设计了一种具有动态步长的随机坐标下降原对偶分裂算法。基于随机化的修正Krasnosel'skiii-Mann迭代和邻近算子的强非扩张性,我们证明了算法的收敛性.此外,我们给出了我们的方法的两个应用。
2016-04-14 math.OC
A stochastic coordinate descent splitting primal-dual fixed point algorithm and applications to large-scale composite optimization
受Chen,Huang和Zhang最近的结果的启发,从基于邻近算子的不动点算法的角度考虑了求两个凸函数之和的极小值以及另一个凸函数与连续线性算子的复合的极小值问题.利用坐标下降的思想,设计了一种随机坐标下降分裂原始-对偶不动点算法.基于随机Krasnosel'skii mann迭代和邻近算子的强非扩张性质,我们证明了算法的收敛性。
2016-04-14 math.OC
Solving irreducible stochastic mean-payoff games and entropy games by relative Krasnoselskii-Mann iteration
本研究结合相对值迭代与Krasnoselskii-Mann阻尼提出求解不可约随机平均收益博弈的算法,证明其ε-近似迭代复杂度为O(|logε|),还将方法拓展至熵博弈并通过变分分析验证收缩性质。
2023-05-03 cs.GT math.OC
Convergence of a Multi-Inertial-Iteration Scheme in Cone b, p-Normed Banach Spaces
University of Elbasan “Aleksandër Xhuvani”(埃利巴桑亚历山大·朱瓦尼大学)
本文提出一种在锥b, p-范数Banach空间中用于加速收敛的多惯性迭代方案,并证明其收敛性及固定点存在性。
2025-10-31 math.OC
On the rate of convergence of Krasnoselski-Mann iterations and their connection with sums of Bernoullis
Universidad de Chile(智利大学)
本文建立了非扩张映射不动点计算的Krasnoselski-Mann迭代的收敛速率估计,解决了Baillon-Bruck猜想,并通过建立迭代与非齐次伯努利试验和之间的随机过程联系以及利用新的Hoeffding型不等式来证明。
2012-11-29 cs.NA math.FA math.NA
Rates of asymptotic regularity of the Tikhonov-Mann iteration for families of mappings
该研究将希尔伯特空间中非扩张映射族的Krasnoselskii-Mann型强收敛迭代推广至W-双曲空间,算出其有效渐近正则速率,同时把Tikhonov-Mann迭代的相关结果从单映射拓展到映射族。
2023-06-13 math.OC
Quantitative metastability of the Tikhonov-Mann iteration for countable families of mappings
本文研究了CAT(0)空间中可数映射族的Tikhonov-Mann迭代,获得了其亚稳态速率,并将其作为强收敛版Krasnoselskii-Mann迭代及单映射迭代的推广。
2024-06-05 math.OC
Convergence rate analysis for averaged fixed point iterations in the presence of Hölder regularity
本文在希尔伯特空间中建立了由平均算子生成的不动点迭代的次线性和线性收敛性。我们的结果是在有界Hölder正则性假设下实现的,该假设推广了著名的有界线性正则性概念。作为我们的结果的应用,我们提供了一个收敛速度分析Krasnoselskiii-Mann迭代,循环投影算法,道格拉斯-Rachford可行性算法以及一些变种。在重要的情况下,其中的基础集是凸多项式在有限维空间中所描述的凸集,我们表明,Hölder正则性自动满足,从次线性收敛如下。
2016-08-18 math.OC
Stochastic fixed-point iterations for nonexpansive maps: Convergence and error bounds
本文研究了非扩张映射Krasnoselskii-Mann迭代的随机扰动版本,推导了几乎必然收敛的条件与非渐近误差界,并应用于平均奖励马尔可夫决策过程的强化学习。
2023-03-31 math.OC
Optimal error bounds for nonexpansive fixed-point iterations in normed spaces
本文研究了计算非扩张映射不动点的一般Mann迭代法的最优误差界和收敛速度。我们寻找迭代,实现最小的不动点残差后,$n$步骤,最小化最坏情况下的约束$\|x^n-Tx^n\|\le R_n$来自一个嵌套的家庭的最佳运输问题。我们证明了这个界是紧的,使最小化$R_n$产生最优迭代。从数值结果的启发,我们确定迭代,达到率$R_n=O(1/n)$,我们也证明是最好的可能。特别是,我们证明了经典的Halpern迭代实现这一最佳速率的几个替代步长,我们确定解析的最佳步长,达到最小的最坏情况下的残差在每一步$n$,与紧界$R_n\approx\frac{4}{n+4}$。我们还确定了仿射非扩张映射的最佳Halpern步长,我们得到了确切的$R_n=\frac{1}{n+1}$。最后,我们表明,经典的Krasnosel'ski \u的最佳速率-曼迭代是$Ω(1/\sqrt{n})$,并提出了数值证据表明,即使扩展的变体不能达到更快的速度。
2022-05-12 math.OC
Distributed Seeking for Fixed Points of Biased Stochastic Operators: A Communication-Efficient Approach
Northeastern University(东北大学);KTH Royal Institute of Technology(瑞典皇家理工学院);Tongji University(同济大学);Southeast University(东南大学);University of Victoria(维多利亚大学)
本文研究了多智能体网络上可和性随机算子的分布式固定点寻找问题,提出了一种在放松增长偏置和方差条件下基于近似Krasnosel'ski\uı--Mann迭代的通信高效分布式算法,通过整合通信压缩和动态周期跳过技术,建立了分布式固定点迭代的收敛性保证,实现了与分布式非凸优化算法的理论统一。
2026-05-21 math.OC
Asymptotic regularity of a generalised stochastic Halpern scheme
本文提出了一种广义随机Halpern迭代方案,提供了其渐进行为速率的统一分析,并探讨了其在强化学习中的应用。
2025-12-18 cs.LG math.OC math.PR
Convergence acceleration for the BLUES function method
在BLUES函数法和变分迭代法的框架内,对Picard、Ishikawa、Mann和Picard-Krasnoselskii四种不同的迭代方法进行了详细的比较。所得到的修改后的方法随后施加到一个非线性反应扩散平流微分方程,以产生近似已知的精确解。通过对近似解的研究以及得到的近似解与精确解之间的误差,说明了BLUES函数法与变分迭代法的区别。
2022-07-18 cs.NA math.NA math.OC
Formalization of Two Fixed-Point Algorithms in Hilbert Spaces
Shanghai Jiao Tong University(上海交通大学);Jilin University(吉林大学)
本文在Lean4中形式化了两种固定点算法在Hilbert空间中的收敛性,提供了非扩张算子和Fejér单调序列的定义,并验证了两种迭代方案的收敛性。
2026-02-19 math.OC
On the convergence of discrete-time linear systems: A linear time-varying Mann iteration converges iff the operator is strictly pseudocontractive
TU Eindhoven(埃因霍温理工大学);University of Pisa(比萨大学);University of Udine(乌迪内大学);TU Delft(代尔夫特理工大学)
本文从算子理论角度研究线性固定点迭代和离散时间线性系统的收敛性,证明Mann迭代收敛等价于线性算子的严格伪压缩性,并应用收敛条件分析多智能体系统。
2018-03-28 cs.GT cs.SY eess.SY
On the Rate of Asymptotic Regularity of Iterative Methods for Nonexpansive Mappings in CAT(0) Spaces and Hyperbolic Optimization
本文将Banach和Hilbert空间中的渐近正则性证明技术扩展到完备CAT(0)空间,并引入双曲优化的Halpern型优化器作为欧几里得HalpernSGD的非线性对应。
2026-06-23 math.FA math.OC
Convergence guarantees for stochastic algorithms solving non-unique problems in metric spaces
University of Bath(巴斯大学)
本文研究了在度量空间中随机算法求解非唯一问题的收敛性,通过构造收敛速率并统一多种条件,为随机逼近方法提供了新的收敛保证。
2026-10-21 math.OC
Generalized fluctuation bounds for stochastic algorithms in the presence of compactness
University of Bath(巴斯大学)
本文提出了一种在存在紧性条件下,通过随机准费耶尔单调性条件和有限鞅理论,为随机算法提供准稳态点收敛速率的广义波动界方法。
2026-10-26 math.LO math.OC math.PR
Stochastic Halpern iteration in normed spaces and applications to reinforcement learning
Universidad Adolfo Ibáñez(阿道弗·伊巴涅斯大学);Facultad de Ingeniería y Ciencias(工程与科学学院);Escuela de Ingeniería Industrial(工业工程学院)
本文研究带小批量的随机 Halpern 迭代,证明其在非扩张与 γ-压缩算子中的预言机复杂度及下界,并据此提出适用于平均/折扣回报 MDP 的无模型强化学习算法。
2025-05-09 cs.LG math.OC stat.ML
Revisiting Inexact Fixed-Point Iterations for Min-Max Problems: Stochasticity and Structured Nonconvexity
University of British Columbia(不列颠哥伦比亚大学);Wisconsin Institute for Discovery, University of Wisconsin–Madison(威斯康星大学麦迪逊分校威斯康星发现研究所);KAIST(韩国科学技术院);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文通过锥非扩张性与精细化分析,将一阶方法在非凸-非凹极小极大问题中可容忍的$\ ho$值从$\ rac{1}{2L}$提升至$\ rac{1}{L}$,并改进随机凸-凹情形下的复杂度结果。
2026-09-29 cs.LG math.OC stat.ML