Fast Frame-Based Image Deconvolution Using Variable Splitting and Constrained Optimization
我们提出了一种新的快速算法来解决基于帧的图像反卷积的标准公式之一:无约束最优化问题,涉及一个$\ell_2$数据保真度项和一个非光滑正则化。我们的方法是基于使用变量分裂,以获得一个等价的约束优化配方,然后与增广拉格朗日方法。所得到的算法有效地使用了正则化版本的数据保真度项的海森,从而利用二阶信息。一组图像去模糊基准问题的实验表明,我们的算法是明显快于以前的国家的最先进的方法。
2009-04-30 math.OC
Local recovery bounds for prior support constrained Compressed Sensing
先验支持约束压缩感知由于其潜在的应用前景,最近变得流行起来。关于恢复保证的现有结果提供了全球恢复界限,因为它们涉及全面支持。然而,在某些应用中,人们可能会感兴趣的恢复保证限于给定的先验支持,这样的界限可以被称为局部恢复界限。本文提出了局部恢复保证,并分析了使恢复误差小的相关参数的条件。
2020-07-02 cs.IT math.IT math.OC
Nested iterative algorithms for convex constrained image recovery problems
本文的目的是发展的方法来解决图像恢复问题的约束条件的解决方案。更确切地说,我们感兴趣的问题,可以制定为两个凸函数f和g之和的闭凸约束集上的最小化,其中f可以是非光滑的,g是可微的Lipschitz连续梯度。为了达到这个目标,我们推导出两种类型的算法,结合向前向后和道格拉斯-Rachford迭代。证明了算法的弱收敛性。当g的梯度的Lipschitz连续性不满足的情况下,我们还表明,在某些假设下,它仍然可以应用这些方法考虑最优化问题通过利用二次扩展技术。两个基于小波的图像恢复问题,涉及信号依赖的高斯噪声和泊松噪声,分别证明了算法的有效性。
2012-12-11 math.OC
A Primal-Dual Partial Inverse Splitting for Constrained Monotone Inclusions: Applications to stochastic Programming and Mean Field Games
在这项工作中,我们研究了约束单调包含涉及法锥到一个封闭的向量子空间和先验信息的原始解决方案。我们模型的解决方案属于不动点集的平均非扩张映射的信息。我们使用一个辅助包含,涉及部分逆算子的解决方案的特点。然后,我们提出了原始-对偶部分逆分裂,并证明了其弱收敛到包含解,推广了文献中的几种方法。两个约束条件具有向量子空间结构的非光滑凸优化问题的算例表明了该方法的有效性。最后,将该算法应用于求解运输网络中的随机弧容量扩展问题。
2021-10-29 math.OC
Backward-Forward Reachable Set Splitting for State-Constrained Differential Games
本文给出了求解一类两人零和Stackelberg微分对策的集合计算方法。我们假设博弈模型是一组耦合的非线性微分方程,这可以影响的球员的控制输入。在这里,每个玩家都必须满足各自的状态和控制约束,否则就会输掉比赛。主要贡献是一个向后向前的可达集分裂计划,它可以用来获得数值上易于处理的保守近似这样的两个玩家游戏。详细地说,我们介绍了一类新的微分不等式,可以用来找到凸外近似这些向后和向前可达集。这种方法是详细的椭球集参数化。我们的数值例子不仅说明了该方法的有效性,而且标准的鲁棒最优控制问题和更一般的约束两个玩家零和Stackelberg微分对策之间的细微差别。
2019-09-09 math.OC
Almost-Surely Convergent Randomly Activated Monotone Operator Splitting Methods
提出随机激活单调算子预解块的分裂算法,无需正则性假设或算子范数知识,实现几乎必然收敛,并应用于图像恢复和机器学习。
2025-08-06 math.OC
An Incremental Path-Following Splitting Method for Linearly Constrained Nonconvex Nonsmooth Programs
问题2的不动点不是问题1的不动点。很抱歉,我们正在努力修复此错误。
2018-08-04 cs.LG math.OC
A distributed Douglas-Rachford splitting method for solving linear constrained multi-block weakly convex problems
本文将分布式 Douglas-Rachford 分裂方法(DDRSM)扩展至线性约束多块弱凸优化问题,通过引入弱凸性与误差界假设证明了其线性收敛速率,并在压缩感知和 RASL 实验中展现出优于增广拉格朗日算法的性能。
2024-11-18 math.OC
A projected primal-dual splitting for solving constrained monotone inclusions
本文给出了求解约束复合原始-对偶单调包含的一个算法,单调包含中原始-对偶解的先验信息通过闭凸集表示。所提出的算法将投影步骤合并到先验信息集上,并推广了[Vendor,B.C.:含余强制算子的对偶单调包含的分裂算法。高级计算38,667-681(2013)]。此外,在强单调性的存在下,我们得到了一个加速格式[Chambolle,A.; Pock,T.:凸问题的一阶原始对偶法及其在成像中的应用。J. Math. Imaging Vis. 40,120-145(2011)]应用于约束单调包含的更一般的上下文。在凸优化的特定情况下,我们的算法推广了[Condat,L.:含Lipschitz项、可逼近项和线性复合项的凸优化的原始-对偶分裂方法。J. Optim. Theory Appl.158,460 -479(2013)],并且我们提供了强凸性下的加速方案。我们的方法与先验信息的应用是约束凸优化问题,其中可用的原始-对偶方法通过拉格朗日乘子更新施加约束,通常导致不可行的原始迭代的缓慢算法。所提出的修改迫使原始迭代,以满足选择的约束,我们可以投影,获得一个更快的方法作为数值例子展示。所得结果推广和改进了文献中的几个结果.
2018-05-29 math.OC
A splitting algorithm for constrained optimization problems with parabolic equations
本文对具有抛物型方程约束的最优控制问题提出了一种有效的并行分裂方法。在空间方向上采用线性有限元近似状态变量和控制变量。在时间方向上采用Crank-Nicolson格式离散约束方程。为保证一致性,分别采用梯形法则和中点法则对目标函数的状态变量和控制变量在时间方向上的积分进行近似。基于耦合离散优化系统的可分离结构,采用带修正的全雅可比分解方法并行求解解耦的子系统,显著提高了计算效率。利用有限元法的离散化误差和修正的全雅可比分解法的迭代误差建立了整体收敛估计。最后通过数值模拟验证了该方法的有效性。
2023-02-18 math.OC
An Operator Splitting Method for Large-Scale CVaR-Constrained Quadratic Programs
Stanford University(斯坦福大学);Norwegian University of Science and Technology(挪威科技大学)
本文提出一种高效可扩展的方法,用于求解具有条件价值风险约束的二次规划问题,通过算子分裂与专用算法结合,显著提升了大规模问题的求解效率。
2026-04-13 math.OC
A parallel splitting method for weakly coupled monotone inclusions
提出了一种求解希尔伯特空间中耦合单调包含组的并行分裂方法。收敛性建立了广泛的一类耦合计划。与经典的交替算法,这是有限的两个变量和线性耦合,我们的并行方法可以处理任意数量的变量以及非线性耦合计划。通过在索伯列夫空间中的演化包含、动态博弈、信号恢复、图像分解、最佳逼近、网络流和变分问题等领域的应用说明了所提出的框架的广度和灵活性。
2009-02-25 math.OC
Adaptive machine learning based surrogate modeling to accelerate PDE-constrained optimization in enhanced oil recovery
在这方面的贡献,我们开发了一个有效的替代建模框架,基于模拟的优化提高采收率,我们特别关注聚合物驱。计算方法是基于一个自适应训练过程的神经网络,直接近似的输入输出映射的基本偏微分方程约束的最优化问题。因此,训练过程集中于仅与外部迭代优化循环的优化路径相关的准确代理模型的构造。目标函数的真实评估用于最终获得经认证的结果。通过一个异构五点基准问题的数值实验,验证了该方法的精度和效率。
2022-03-03 cs.NA math.NA math.OC
Nonlinear Splitting for Gradient-Based Unconstrained and Adjoint Optimization
本文提出非线性分裂方法,将梯度或约束分裂为多自变量形式,并与 Nesterov、Anderson 加速结合,在非凸函数、量子层析成像和 PDE 约束优化中显著提升精度与效率。
2025-08-27 math.OC
A Convexly Constrained LiGME Model and Its Proximal Splitting Algorithm
对于稀疏秩感知最小二乘估计,最近在[Abe,Yamagishi,Yamada,2020]中建立了LiGME(Linearly involved Generalized Moreau Enhanced)模型,以使用线性相关凸正则化的某些非凸增强,而不会失去其整体凸性。在本文中,LiGME模型的进一步发展,将多个先验知识作为硬凸约束,我们新提出了一个凸约束LiGME(cLiGME)模型。cLiGME模型可以利用多个凸约束,同时保留LiGME模型所实现的益处。我们还提出了一个近端分裂型算法所提出的cLiGME模型。数值实验表明,所提出的模型和所提出的优化算法在信号处理应用场景的有效性。
2021-05-14 eess.SP math.OC
Four Operator Splitting via a Forward-Backward-Half-Forward Algorithm with Line Search
在这篇文章中,我们提供了一个分裂方法来解决实希尔伯特空间中涉及四个算子的单调包含:极大单调,单调Lipschitz算子,余强制算子和单调连续算子。该方法充分利用了每个算子的内在性质,推广了前-后-半前向分裂和Tseng算法。在每次迭代中,我们的算法定义的步长使用线搜索,其中单调Lipschitzian和cocoercive运营商只需要一个激活。我们还得到了实希尔伯特空间中非线性约束复合凸优化问题的一种求解方法。最后,我们实现了我们的算法在一个非线性约束的最小二乘问题,我们比较其性能与文献中的方法。
2022-07-18 math.OC
Forward-partial inverse-half-forward splitting algorithm for solving monotone inclusions
本文给出了求解实希尔伯特空间中涉及向量子空间的法锥、极大单调算子、单调Lipschitz算子和余强制算子之和的耦合单调包含的分裂算法。该方法利用了每个算子的内在性质,推广了部分逆方法和前-后-半前向分裂等方法。在每次迭代中,我们的算法需要两次计算的Lipschitzian算子,而cocoercive运营商被激活只有一次。利用积空间技巧,给出了含线性算子的复合单调原对偶包含的一种求解方法,并将其应用于求解约束复合凸优化问题.最后,我们将我们的算法应用到一个约束全变差最小二乘问题,并将其性能与文献中的有效方法进行比较。
2022-02-07 math.OC
Solution Uniqueness of Convex Piecewise Affine Functions Based Optimization with Applications to Constrained $\ell_1$ Minimization
本文研究了一类带有凸分段仿射函数和一般多面体约束的凸优化问题的解的唯一性。这类问题包含了许多重要的多面体约束$\ell_1$恢复问题所产生的稀疏优化,如基追踪,LASSO,和基追踪去噪,以及多面体规范恢复。通过利用凸分段仿射函数和凸分析工具的最大公式,我们开发了对偶变量的必要和充分的唯一性条件,通过简单而统一的方法,这些条件适用于广泛的$\ell_1$最小化问题下可能的多面体约束。提出了一种有效的线性规划方法来验证解的唯一性条件。本文所得到的结果不仅恢复了文献中已知的解的唯一性条件,通过删除限制性假设,但也产生新的唯一性条件,更广泛的约束$\ell_1$ -极小化问题。
2017-11-16 math.OC
Local Convergence of Proximal Splitting Methods for Rank Constrained Problems
Lund University(隆德大学)
我们分析的局部收敛的邻近分裂算法解决最优化问题是凸除了秩约束。对于这一点,我们显示的条件下,涉及秩约束的函数的邻近算子是局部相同的凸包络的邻近算子,因此意味着局部收敛。条件意味着,非凸算法局部收敛到一个解决方案,只要一个凸松弛涉及凸包络可以预期解决非凸问题。
2017-10-11 cs.LG math.OC stat.ML
Variable Splitting Methods for Constrained State Estimation in Partially Observed Markov Processes
在本文中,我们提出了一类有效的,准确的,和一般的方法来解决状态估计问题的等式和不等式约束。该方法是基于变量分裂和部分观测马尔可夫过程的最新发展。我们首先提出了基于变量分裂的广义框架,然后开发有效的方法来解决框架中出现的状态估计子问题。这些子问题的解决方案可以通过利用模型的马尔可夫结构来有效地进行,这在所谓的贝叶斯过滤和平滑方法中是经典的。数值实验表明,我们的方法优于传统的最优化方法的计算成本以及估计性能。
2020-07-17 cs.IT math.IT math.OC
An Efficient ADMM Method for Ratio-Type Nonconvex and Nonsmooth Minimization in Sparse Recovery
本文针对非凸非光滑的比率型稀疏恢复问题,提出了一种高效的ADMM方法,在理论上证明了收敛性,并通过实验验证了其在稀疏恢复和神经网络稀疏化中的优越性能。
2025-09-26 math.OC
A parameterized Douglas-Rachford Splitting algorithm for nonconvex optimization
本文研究了一类非凸最优化问题的参数化Douglas-Rachford分裂方法。构造了一个新的价值函数,证明了参数化Douglas-Rachford分裂方法产生的整个序列的收敛性。然后,我们将参数化道格拉斯-Rachford分裂方法应用于数据科学中出现的三个重要的非凸最优化问题:稀疏约束最小二乘问题,可行性问题和低秩矩阵完成。数值结果验证了参数化Douglas-Rachford分裂方法的有效性。
2020-06-16 math.OC
A constrained-based optimization approach for seismic data recovery problems
随机噪声和结构化噪声都会影响地震资料,从而隐藏了携带有意义的地球物理解释的感兴趣的反射(一次波)。当结构噪声由多次反射波组成时,通过时变滤波实现自适应消除,补偿给定近似模板中的误差。欠定问题,然后可以制定为一个凸优化,提供滤波器和原色的估计。在这个框架内,要最小化的标准主要由两部分组成:一个数据保真度项和硬约束建模的先验信息。这种公式化可以避免,或至少方便,一些参数确定任务,通常难以执行的反问题。这里不仅考虑了经典的约束,如稀疏性,而且还考虑了通过超平面表示的约束,在超平面上的投影很容易计算。后一种约束通过进一步约束物理上合理的解决方案的空间而导致改进的性能。
2014-06-18 math.OC physics.geo-ph
Splitting forward-backward penalty scheme for constrained variational problems
本文研究了求解变分不等式\begin{equation*} A x +\nabla Φ(x)+ N_C (x) \ni 0 \end{equation*}的一种前后分裂算法,其中$H$是实Hilbert空间,$A: H\rightrightarrows H$是极大单调算子,$Φ: H\to\mathbb{R}$是光滑凸函数,$N_C$是闭凸集$C\subset H$的外法锥.约束集$C$表示为两个凸惩罚函数$Ψ_1:H\to\mathbb{R}$和$Ψ_2: H\to\mathbb{R}\cup \{+\infty\}$的最小值集的交集。函数$Ψ_1$是光滑的,函数$Ψ_2$是适当的和下连续的。给定趋于无穷大的惩罚参数序列$(β_n)$和正时间步长序列$(λ_n)$,算法$$ \left\{\begin{array}{rcl} x_1 & \in & H,\\ x_{n+1} & = & (I+λ_n A+λ_nβ_n\partialΨ_2)^{-1}(x_n-λ_n\nablaΦ(x_n)-λ_nβ_n\nablaΨ_1(x_n)),\ n\geq 1. \end{array}\right. $$在平滑部分上执行前向步骤,在其它部分上执行后向步骤。在适当的假设下,我们得到序列$(x_n)$弱遍历收敛到变分不等式的解。当$A$是强单调的或$Φ$是强凸的时,收敛是强的。当$A$是一个…
2014-08-05 math.OC
Sparse Recovery via $\ell_p^p/\ell_q^p$ Ratio Minimization: Theory and Algorithm
School of Mathematics, Sichuan University(四川大学数学学院)
本文针对 $0<p\le1$ 和 $q>1$ 的约束 $\ell_p^p/\ell_q^p$ 比值模型,建立了统一的理论框架,包括确定性精确恢复、稀疏与可压缩信号的稳定恢复以及分数算法的收敛性分析,并提出了 prox-linear Dinkelbach 算法。
2026-05-25 math.OC
Outer approximation method for constrained composite fixed point problems involving Lipschitz pseudo contractive operators
在希尔伯特空间中,给出了一种求解包含Lipschitz伪压缩算子和强非扩张算子复合的约束不动点问题的方法.该方法的每次迭代都使用这些运算符的单独评估以及由投影到包含约束集的封闭半空间上给出的外部近似。它的收敛性的建立和应用单调包含分裂和约束平衡问题的证明。
2011-01-07 math.OC
On the strong convergence of forward-backward splitting in reconstructing jointly sparse signals
我们考虑重建一个无限集的稀疏,有限维向量,共享一个共同的稀疏模式,从不完整的测量的问题。这与工作[17]形成对比,其中单个矢量信号可以是无限维的,并且[28]将上述工作扩展到有限数量的无限维矢量的联合稀疏恢复。在我们的例子中,考虑到联合稀疏性和促进耦合的非零组件,我们采用了凸松弛方法与混合范数惩罚$\ell_{2,1}$。本文讨论了用前后分裂算法计算具有这种松弛的线性反问题的解。然而,由于解矩阵具有无限多列,[17]的论点不再适用。因此,我们建立了新的强收敛的算法,特别是当一组联合稀疏向量是无限的。
2021-11-26 math.OC
The Geometry of Monotone Operator Splitting Methods
提出一种几何框架,通过将单调包含问题嵌入辅助空间并使用半空间投影求解替代问题,统一描述、分析并指导设计多种算子分裂方法。
2024-01-30 math.OC
Dualization of Signal Recovery Problems
在凸优化中,对偶理论有时可以得到比直接原始分析更简单的求解方法。在本文中,这一原则适用于一类复合变分问题,特别是在信号恢复。这些问题是不容易服从解决目前的方法,但他们的功能Fenchel-Moreau-Rockafellar对偶问题,可以解决的向前向后分裂。该算法同时产生一个弱收敛到对偶解的序列和一个强收敛到原解的序列。我们的框架是捕获和扩展现有的几个基于对偶的信号恢复方法,并适用于各种新的问题超出其范围。
2010-06-20 math.FA math.OC
Accelerated Convergence of a Second-Order Dynamical System and its Application to Splitting Algorithms for Comonotone Inclusions
School of Mathematics and Statistics, Chongqing Technology and Business University(重庆工商大学数学与统计学院)
本文提出一种新型二阶动力系统,经分析其具有加速收敛性,时间离散化后得到双惯性Halpern前向-后向分裂算法,数值实验验证了该算法在分裂可行性等问题上的有效性。
2026-09-03 math.OC
An iterative algorithm for sparse and constrained recovery with applications to divergence-free current reconstructions in magneto-encephalography
提出一种在额外线性约束下最小化ℓ1范数惩罚最小二乘泛函的完全显式迭代算法,并应用于脑磁图中无散电流密度的稀疏重建。
2012-02-15 cs.NA math.NA math.OC
An adaptive forward-backward-forward splitting algorithm for solving pseudo-monotone inclusions
本文提出一种自适应前向-后向-前向分裂算法,用于求解分解为三个算子之和的伪单调算子包含问题,并基于自适应步长策略推导出次线性和线性/次线性收敛速率,数值实验验证了其优越性能。
2025-03-03 math.OC
An inertial three-operator splitting algorithm with applications to image inpainting
三算子分裂算法是求解三个最大单调算子之和的零点的一种常用的算子分裂方法,其中一个最大单调算子是余度算子。本文提出了一类惯性三算子分裂算法。在实希尔伯特空间中,利用惯性Krasnoselskiii-Mann迭代法,对迭代参数在一定条件下,证明了算法的收敛性.作为应用,我们发展了一个惯性三算子分裂算法来求解三个凸函数之和的凸极小化问题,其中一个凸函数是Lipschitz连续梯度可微的.最后,我们进行了数值实验的约束图像修复问题的核范数正则化。数值结果证明了所提出的惯性三算子分裂算法的优越性。
2019-04-26 math.OC
Alternating Direction Method of Multipliers for nonlinear constrained convex problems and applications to distributed resource allocation and constrained machine learning
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出了一种非线性交替方向乘子法,用于解决非线性约束凸问题,适用于分布式资源分配和约束机器学习,通过保持经典分解结构并利用凸性,实现了更高的通信效率。
2026-02-26 math.OC
On Quasi-Newton Forward--Backward Splitting: Proximal Calculus and Convergence
我们介绍了一个框架,拟牛顿向前-向后分裂算法(近拟牛顿法)与对角$\pm$秩- $r$对称正定矩阵引起的度量。这种特殊类型的度量允许对近端映射进行高效评估。这种效率的关键是在新的度量的一般邻近演算。通过使用对偶性,导出了将秩- $r$修改度量中的邻近映射与原始度量相关联的公式。我们还描述了一个大类的函数的邻近计算的有效实现,实现利用分段线性性质的对偶问题。然后,我们将这些结果加速复合凸最小化问题,从而导致优雅的拟牛顿法,我们证明收敛。该算法进行了测试的几个数值例子,并在文献中的替代品的全面列表进行比较。我们的拟牛顿分裂算法与规定的度量相比,优于国家的最先进的。该算法具有广泛的应用,包括信号处理,稀疏恢复,机器学习和分类,仅举几例。
2018-11-22 math.OC
Optimal Sparse Output Feedback Control Design: a Rank Constrained Optimization Approach
研究了连续线性定常系统的最优稀疏输出反馈控制器综合问题,当反馈增益为静态且满足特定的结构约束时.通过在优化费用函数中引入一个惩罚反馈增益非零项个数的附加项,我们证明了这个非凸优化问题可以等价地转化为一个秩约束优化问题,因此,它是一个NP-难问题.我们进一步利用我们的秩约束的方法来定义一个结构化的输出反馈控制的可行性测试与整体收敛性,然后,获得最优成本的上/下界的稀疏输出反馈控制问题。此外,我们表明,我们的问题重新制定允许我们将额外的实施约束,如控制输入或系统输出的范数界,通过同化到秩约束。我们建议利用一个版本的交替方向法的乘法器(ADMM)作为一种有效的方法来次最优地解决等价秩约束问题。作为一种特殊情况,我们研究了稀疏稳定输出反馈控制器的设计问题,并证明了它实际上是一个结构化的矩阵恢复问题,其中感兴趣的矩阵同时是稀疏和低秩的。此外,我们表明,这个矩阵恢复问题可以等价地投在一个典型的和良好的研究秩最小化问题的形式。最后,我们用数值例子说明我们提出的方法的性能。
2015-06-22 math.OC
Rank-sparsity decomposition for planted quasi clique recovery
针对NP难的植入式最大准团簇问题,提出基于低秩加稀疏矩阵分裂的秩-稀疏分解方法,推导对偶矩阵范数新界证明满足条件时可精确恢复,经数值实验验证理论有效性。
2024-09-17 math.OC
Guaranteed Recovery of Planted Cliques and Dense Subgraphs by Convex Relaxation
本文研究了给定图中任意k结点子图的判定问题。我们把这个问题写为秩约束基数最小化的一个实例,然后使用核和11范数放松。虽然原来的组合问题是NP-困难的,我们证明了denominik-子图可以从我们的凸松弛的解决方案,某些程序的输入。特别是,我们建立准确的恢复的情况下,输入图包含一个单一的种植集团加噪声的形式损坏的邻接关系。我们考虑这种噪声的两种构造。在第一种情况下,噪声是由对手确定性地删除种植集团内的边缘,并放置转移边缘。在第二种情况下,随机执行这些边缘损坏。在二部图中,也建立了类似的恢复保证确定的denominant子图的固定大小,和随机生成的图的数值模拟的结果,包括证明我们的算法的有效性。
2015-05-17 math.OC
Inertial forward-backward algorithm with exterior penalization and Tikhonov regularization
Mannheim University(曼海姆大学);Rijksuniversiteit Groningen(格罗宁根大学)
本文开发数值分裂技术,提出多尺度惯性前向后向分裂算法,用于解决约束单调包含问题,能处理多种惩罚算子,建立了迭代弱收敛性,在特定条件下证明了向最小范数解的强收敛性。
2026-07-13 math.OC
Scalable Pontryagin-Guided Adjoint-to-Control Recovery for Constrained Dynamic Portfolio Choice
Graduate School of Data Science, Chonnam National University(全南大学数据科学研究生院);Department of Mathematics, Sungkyunkwan University(成均馆大学数学系);Department of Financial Engineering, Ajou University(亚洲大学金融工程系);Department of Fintech, SKK Business School, Sungkyunkwan University(成均馆大学SKK商学院金融科技系)
该研究针对带平滑逐点约束的连续时间投资组合选择,开发了庞特里亚金引导的可扩展伴随到控制框架,通过OL-BPTT等方法实现了高精度恢复,适用于含100个风险资产的投资组合。
2026-09-01 math.OC q-fin.MF q-fin.PM
Regularized Kaczmarz Algorithms for Tensor Recovery
近年来,张量恢复在交通运输、医学成像、遥感等领域得到了广泛的应用。在假设信号具有稀疏和/或低秩结构的情况下,已经开发了许多张量恢复方法来应用各种正则化技术以及算子分裂类型的算法。由于数据的前所未有的增长,越来越希望使用流线型算法来实现实时计算,例如最近出现的作为机器学习中的有效方法家族的随机最优化算法。在这项工作中,我们提出了一种新的算法框架的基础上的Kaczmarz算法的张量恢复。我们提供了彻底的收敛性分析及其应用,从向量的情况下,张量之一。各种张量恢复应用,包括稀疏信号恢复,低秩张量恢复,图像修复和反卷积的数值结果,说明了所提出的方法的巨大潜力。
2021-02-13 cs.NA math.NA math.OC
Performance Bounds For Co-/Sparse Box Constrained Signal Recovery
本文研究了在有限线性测量下恢复结构信号的性能界限,通过提供双证测试、统计维度近似和实验验证,解决了TV半范数下欠采样率的估计问题。
2018-12-23 cs.IT cs.NA eess.SP
Alternating Subspace Method for Sparse Recovery of Signals
Hunan Normal University(湖南师范大学)
本文提出交替子空间法用于信号稀疏恢复,结合贪婪和分裂方法,实现高效准确的稀疏信号恢复。
2026-03-10 cs.IT math.IT math.OC
Radius of Information for Two Intersected Centered Hyperellipsoids and Implications in Optimal Recovery from Inaccurate Data
本文研究两个同心超椭球交集模型下的线性量最优恢复,证明存在由约束正则化给出的线性最优方法,并通过半定规划计算参数及最小最坏情况误差。
2024-01-20 math.FA math.OC
Operator Splitting for Convex Constrained Markov Decision Processes
针对凸约束马尔可夫决策过程,提出基于 Douglas-Rachford splitting 的一阶算法,通过分解动态与约束实现高效求解,确保收敛性与稳定性,并在约束不可行时计算最小违约策略。
2024-12-18 cs.SY eess.SY math.OC
Accelerated Sparse Recovery via Gradient Descent with Nonlinear Conjugate Gradient Momentum
本文利用非线性共轭梯度自适应动量加速稀疏恢复优化,针对可微及非光滑加可微两类问题,采用固定步长和算子分裂,以凸ℓ1和非凸ℓ1-ℓ2为例验证效率。
2023-04-05 math.OC stat.CO
SWAGGER: Sparsity Within and Across Groups for General Estimation and Recovery
罚函数或正则化项可以促进最优化问题的结构化解决,在许多领域都有很大的兴趣。在这项工作中提出的是一个非凸结构的稀疏惩罚,促进一个向量中的任意重叠组内的稀疏性。这允许在最优化问题的解决方案中强制组件之间的互斥性。我们展示了多个示例用例(包括全变差变体),展示了它与其他正则化器之间的协同作用,并提出了一种算法来有效地解决被拟议惩罚正则化或约束的问题。
2020-06-18 eess.SP math.OC
On Asymptotic Linear Convergence of Projected Gradient Descent for Constrained Least Squares
Oregon State University(俄勒冈州立大学)
信号处理和机器学习中的许多最新问题,如压缩感知,图像恢复,矩阵/张量恢复和非负矩阵因子分解,都可以转换为约束优化。投影梯度下降法是求解此类约束最优化问题的一种简单而有效的方法。局部收敛分析进一步加深了我们对其在解附近的渐近行为的理解,与整体收敛分析相比,它提供了更清晰的收敛速度界限。然而,局部保证通常分散在机器学习和信号处理的特定问题领域。这份手稿提出了一个统一的框架内的局部收敛分析投影梯度下降的约束最小二乘的背景下。所提出的分析提供了深入了解关键的局部收敛特性,如线性收敛的条件,收敛区域,精确的渐近收敛速率,以及达到一定精度所需的迭代次数的限制。为了证明所提出的方法的适用性,我们提出了一个配方的收敛分析投影梯度下降,并证明它通过一个迭代到结束的应用程序的配方上的四个基本问题,即,线性等式约束的最小二乘,稀疏恢复,最小二乘与单位范数约束,和矩阵完成。
2022-06-20 cs.LG math.OC
Attouch-Théra duality revisited: paramonotonicity and operator splitting
寻找两个极大单调算子和的零点问题在最优化和变分分析中具有重要意义。本文系统地研究了这类问题的Attouch-Théra对偶。我们提供了新的结果有关的Passty的平行和,Eckstein和Svaiter的扩展的解决方案集,并Combettes的不动点描述的原始解决方案。此外,paramonotonicity是一个关键的属性,因为它允许恢复所有的原始解决方案,只要一个任意的对偶解。作为应用,我们推广了Bauschke,Combettes和Luke [J. Approx. Theory 141(2006),63-69]从正规锥算子到paramonotone算子。我们的结果是通过大量的例子说明。
2011-10-21 math.FA math.OC
A Benamou-Brenier Proximal Splitting Method for Constrained Unbalanced Optimal Transport
Department of Mathematics, Florida State University(佛罗里达州立大学数学系);Department of Mathematics, University of Houston(休斯顿大学数学系)
本文提出了一种用于带约束不平衡最优运输的Benamou-Brenier近端分裂方法,通过引入源项和动量约束,扩展了Wasserstein-Fisher-Rao设置,并展示了其在多种实际应用中的有效性。
2026-11-10 cs.NA math.NA math.OC
Multiplicative Noise Removal Using Variable Splitting and Constrained Optimization
通过对数变换、变量分裂和增广拉格朗日框架,提出MIDAL算法,有效去除乘性噪声并取得速度和去噪性能的领先结果。
2010-03-16 cs.NA math.NA math.OC
Ensemble Kalman Inversion for Constrained Nonlinear MPC: An ADMM-Splitting Approach
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Washington(华盛顿大学)
本文提出了一种基于ADMM的集合卡尔曼反演算法,用于解决带约束的非线性模型预测控制问题,通过引入非负松弛变量将阶段性非线性不等约束嵌入,并利用贝叶斯解释实现求解。
2026-03-24 cs.SY eess.SY math.OC
Epigraphical splitting for solving constrained convex formulations of inverse problems with proximal tools
Institut Mines-Télécom, Télécom ParisTech(国立高等电信学院);ENS Lyon(里昂高等师范学院);Université Paris-Est(巴黎东大学)
提出一种近端方法处理含非线性约束的凸变分问题,通过将下水平集分裂为多个上镜图并利用闭半空间约束,有效求解涉及距离函数或ℓ1,p范数线性变换的约束,在图像恢复和脉冲形状设计中验证了收敛速度的提升。
2014-03-20 cs.NA math.NA math.OC
A quasi-Newton proximal splitting method
LJLL, CNRS-UPMC(巴黎第六大学数学研究所);GREYC, CNRS-ENSICAEN-Université de Caen(卡昂大学)
本文推导了凸分析中关于特定缩放范数下邻近算子计算的新结果,并利用对偶问题的分段线性特性实现了高效邻近计算,进而提出一种优雅的拟牛顿加速方法,在信号处理、稀疏恢复和机器学习等领域优于现有技术。
2012-06-20 cs.NA math.NA math.OC