An iterative support shrinking algorithm for $\ell_{p}$-$\ell_{q}$ minimization
Nankai University(南开大学)
本文提出一种迭代支撑缩小算法,用于ℓ_𝑝-ℓ_𝑞最小化问题,保证信号支撑集的非膨胀性,并通过近似线性化实现高效实现。算法通过凸性及迭代中支撑集缩减快速求解子问题,并证明全局收敛到 stationary 点。
2018-01-30 cs.NA math.NA
A gradient enhanced $\ell_1$-minimization for sparse approximation of polynomial chaos expansions
Shanghai Normal University(上海师范大学);University of Utah(犹他大学)
本文提出一种增强梯度的$\ell_1$-最小化方法,用于构建稀疏多项式混沌展开,通过引入函数梯度测量提高系数识别效率,并展示了预处理矩阵设计的通用性及计算效率提升。
2018-02-24 cs.NA math.NA
Sparse data-driven quadrature rules via $\ell^p$-quasi-norm minimization
在本文中,我们使用的焦点欠定组求解器恢复稀疏的经验求积规则参数化积分从现有的数据,组成的值给定的参数函数采样的离散点集。这种算法,最初提出的图像和信号重建,依赖于一个近似的$\ell^p$ -拟范数最小化。$0<p<1$的选择符合正交规则所受约束的性质,因此与基于$\ell^1$范数最小化的公式相比,为稀疏正交恢复提供了更自然的公式。我们还扩展了先验误差估计可用于$\ell^1$规范制定考虑数据压缩所产生的错误。最后,我们提出了两个数值例子来说明一些实际应用。第一个例子涉及线性一维薛定谔方程的基本解,第二个例子涉及在约化基方法的框架下对非线性扩散过程建模的偏微分方程的超约化。对于这两个例子,我们比较我们的方法与一个基于$\ell^1$ -范数最小化和一个依赖于使用的非负最小二乘法。提供了与数值例子和所述算法相关的Matlab代码。
2021-06-22 cs.NA math.NA
Enhancing $\ell_1$-minimization estimates of polynomial chaos expansions using basis selection
Sandia National Laboratories(桑迪亚国家实验室)
本文提出一种基底选择方法,结合$\ell_1$-最小化自适应确定多项式混沌展开的大型系数。通过非均匀随机变量和梯度信息提升基底选择的精度和性能。
2014-07-30 cs.NA math.NA
A new parameter free partially penalized immersed finite element and the optimal convergence analysis
本文提出了一种新的无参数部分惩罚浸入有限元法,并分析了其收敛性。在界面边缘引入提升算子以保证方法的收敛性,而不需要一个自组织的稳定参数。通过一种新的方法证明了浸入有限元空间的最佳逼近能力,该方法比文献中的方法简单得多。在界面元上建立了一个新的迹不等式,它是证明浸入有限元法最优收敛性所必需的。最佳的误差估计推导严格与常数无关的接口相对于网格的位置。新的方法和分析也被扩展到变系数和三维问题。数值算例验证了理论分析和方法的有效性。
2022-02-22 cs.NA math.NA
Tensor Completion with BMD Factor Nuclear Norm Minimization
本文提出一种基于BMD分解和逐切片核范数惩罚的张量补全方法,并用ADMM高效求解,在恢复精度与HaLRTC相当的同时具有子问题更小、并行性更高的优势。
2024-02-20 cs.NA math.NA
A note on the minimization of a Tikhonov functional with $\ell^1$-penalty
在本文中,我们考虑的Tikhonov功能与$\ell_1$罚款的最小化求解线性反问题的稀疏约束。用于解决这个问题的许多方法之一使用Nemskii算子将Tikhonov泛函变换为具有$\ell_2$惩罚项但非线性算子的泛函。然后可以使用标准方法分析和最小化转换后的问题。然而,由于这种变换的性质,所得到的泛函只有一次连续可微,这就禁止了二阶方法的使用。因此,在本文中,我们提出了一个不同的变换,这导致了一个二次可微功能,现在可以使用有效的二阶方法,如牛顿法最小化。我们提供了一个收敛性分析,我们提出的计划,以及一些数值结果表明,我们所提出的方法的实用性。
2020-06-24 cs.NA math.NA
Soft Recovery Through $\ell_{1,2}$ Minimization with Applications in Recovery of Simultaneously Sparse and Low-Rank Matrice
Institut für Mathematik Technische Universität Berlin(柏林工业大学数学研究所)
本文提出了一种新的压缩感知技术分析方法,通过ℓ₁,₂范数最小化实现矩阵的软恢复,解决了同时稀疏和低秩矩阵的恢复问题。
2016-09-08 cs.NA math.NA
Variable metric extrapolation proximal iterative hard thresholding method for $\ell_0$ minimization problem
本文考虑目标函数为$\ell_0$ -范数与凸可微函数之和的$\ell_0$极小化问题。将PIHT方法与拟牛顿法的技巧相结合,提出了一种变尺度型方法--变尺度外推邻近迭代硬阈值法(VMEPIHT)。然后在适当的假设下分析了它的收敛性、线性收敛速度和超线性收敛速率。最后,我们对压缩感知问题和CT图像重建问题进行了数值实验,并与其他方法进行了比较,验证了VMPIHT方法的有效性。
2021-08-07 cs.NA math.NA math.OC
Subspace correction methods for total variation and $\ell_1-$minimization
本文提出通过交替在正交子空间上最小化能量泛函,并引入斜阈值迭代邻近映射算法,为全变分和ℓ1最小化问题提供了收敛性保证和高效数值方法。
2007-12-13 cs.NA math.AP math.NA
Coherence-Based Performance Guarantee of Regularized $\ell_{1}$-Norm Minimization and Beyond
Southwest University(西南大学)
本文研究了在存在ℓ₂范数有界噪声的情况下,通过正则化ℓ₁-范数最小化模型恢复信号的性能保证,并扩展了理论结果以保证在Dantzig选择(DS)类型噪声和结构块稀疏信号恢复中的鲁棒性。
2018-12-10 cs.NA math.NA
Learning Trees of $\ell_0$-Minimization Problems
University of Central Florida(中佛罗里达大学)
欠定线性系统极小稀疏解的计算问题一般是$NP$困难的。具有额外属性的子集可以允许有效的算法,最值得注意的是具有限制等距属性(RIP)的问题可以通过凸$\ell_1$最小化来解决。虽然这些课程非常成功,但它们忽略了许多实际应用。在本文中,我们考虑了适应性强的类,这些类在越来越困难的样本课程上训练后易于处理。该设置旨在作为人类数学家的候选模型,人类数学家可能无法立即解决任意证明,但在经过适当的课程培训后,可能在相对灵活的子类或专业领域取得成功。
2023-02-06 cs.LG cs.NA math.NA
A sufficient condition on monotonic increase of the number of nonzero entry in the optimizer of L1 norm penalized least-square problem
Tulane University(杜兰大学);Nancy University(南锡大学);Institut de Recherche en Communication et Cybernetique de Nantes(南特通信与控制研究所)
本文针对L1范数惩罚最小二乘问题(LASSO),提出了一个充分条件,在该条件下当超参数减小时优化器中非零条目数单调递增,并将结果推广到全变分情形。
2011-04-19 cs.LG cs.NA math.NA
A Primal-Dual Homotopy Algorithm for $\ell_{1}$-Minimization with $\ell_{\infty}$-Constraints
在本文中,我们提出了一个原始-对偶同伦方法的$\ell_1$ -最小化问题的无限范数约束的背景下,稀疏重建。自然同伦参数是约束的界的值,我们表明,存在一个分段线性的解决方案的路径,有许多断点的原始问题和一个相应的分段常数路径的对偶问题。我们表明,通过解决一个小的线性规划,可以跳到下一个原始断点,然后,解决另一个小的线性规划,一个新的最佳对偶解计算,使下一个这样的跳跃在随后的迭代。使用定理的替代,我们表明,该方法永远不会卡住,并确实计算出整个路径在有限数量的步骤。数值实验证明了算法的有效性。在许多情况下,我们的方法显着优于商业LP求解器;这是可能的,因为我们的方法采用了一系列相当简单的辅助线性规划,可以有效地解决与专门的活动集策略。
2016-10-31 cs.NA math.NA math.OC
Deep learning versus $\ell^1$-minimization for compressed sensing photoacoustic tomography
本文比较了光声层析成像中减少测量次数的联合 $\ell^1$-最小化算法与残差网络、近似零空间网络两种深度学习方法,发现深度学习在确定性采样下更准,而 $\ell^1$-最小化在随机伯努利测量下最佳,且零空间网络一致优于残差网络。
2019-01-19 cs.NA math.NA physics.med-ph
Infinite-dimensional $\ell^1$ minimization and function approximation from pointwise data
Simon Fraser University(西蒙菲莎大学)
本文研究通过ℓ¹最小化技术从有限点样本逼近光滑函数,提出无限维方法,具有无噪声插值、无需先验尾部界及权重正则化优势,并分析了该方法的最坏误差。
2016-12-15 cs.NA math.FA math.NA
Density matrix minimization with $\ell_1$ regularization
University of California, Irvine(加州大学尔湾分校);Duke University(杜克大学);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出了一种凸变分原理,用于寻找对称矩阵低能本征空间的稀疏表示,通过ℓ1正则化实现密度矩阵最小化,并证明了该算法收敛性。
2014-03-06 cs.NA math-ph math.MP
Randomization and reweighted $\ell_1$-minimization for A-optimal design of linear inverse problems
本文研究基于偏微分方程的无限维参数贝叶斯线性反问题的最优设计。我们专注于A-最优设计标准,定义为平均后验方差和量化的后验协方差算子的痕迹。我们建议使用结构利用随机方法来计算A-最优目标函数及其梯度,并提供了详细的误差分析所提出的估计。为了保证稀疏和二进制设计向量,我们开发了一种新的加权$\ell_1$最小化算法。我们还介绍了一个修改的A-最优准则,并提出了其有效的计算随机估计。我们提出的数值结果说明所提出的方法模型污染源识别问题,其中的逆问题旨在恢复污染羽的初态,使用离散测量的污染物在空间和时间。
2020-04-01 cs.NA math.NA stat.CO
Orbital minimization method with $\ell^1$ regularization
Duke University(杜克大学)
本文提出一种结合软阈值和梯度下降的算法,用于通过$\ell^1$正则化寻找自 adjoint 运算符低能本征空间的稀疏表示,并证明原 OMM 函数在无$\ell^1$项时的局部极小值也是全局极小值。
2016-05-03 cs.NA math.NA physics.comp-ph
On Polynomial Chaos Expansion via Gradient-enhanced $\ell_1$-minimization
University of Colorado, Boulder(科罗拉多大学博尔德分校)
本文研究了通过梯度增强的ℓ1最小化方法来加速多项式混沌展开系数的识别,通过理论分析和实验验证,证明导数信息能提高求解稳定性与收敛性,降低计算成本。
2015-06-01 cs.NA math.NA stat.CO
Block Alternating Bregman Majorization Minimization with Extrapolation
本文考虑了一类非光滑非凸最优化问题,其目标函数为块相对光滑函数与真下连续块可分函数之和.虽然针对块$L$ -光滑函数类的块邻近梯度(BPG)方法的分析已经成功地扩展到处理块相对光滑函数类的Bregman BPG方法,但是加速Bregman BPG方法是稀缺的并且设计具有挑战性。从Nesterov型加速和优化-最小化方案中得到启发,提出了一种带外推的块交替Bregman优化-最小化框架(BMME).在较弱的条件下证明了BMME的渐近收敛性,并在较强的条件下研究了其整体收敛性。我们证明了BMME在惩罚正交非负矩阵分解问题上的有效性。
2021-07-09 cs.NA eess.SP math.NA
Penalized Principal Component Analysis Using Smoothing
Harvard T.H. Chan School of Public Health(哈佛陈曾熙公共卫生学院)
本文提出平滑PEP方法,通过对L1惩罚应用平滑实现解析梯度计算以加速优化,支持高阶特征向量计算,并在基因组数据等实验中证明其能提升数值稳定性、预测准确性和聚类可辨识性。
2025-03-03 cs.LG cs.NA math.NA
A Weighted $\ell_1$-Minimization Approach For Wavelet Reconstruction of Signals and Images
在这项工作中,我们提出了一个凸优化方法的基础上加权$\ell_1$正则化重建对象的兴趣,如信号或图像,是稀疏或可压缩的小波基。我们通过解决我们提出的优化问题来恢复与感兴趣对象的函数表示相关联的小波系数。我们给出了一个具体的选择的权重和数值显示,所选择的权重承认有效的恢复感兴趣的对象从一组子样本或一个嘈杂的版本。我们的方法不仅利用稀疏性,但也有助于促进一种特殊的结构稀疏性往往表现出许多信号和图像。此外,我们通过使用正交小波和一个小波框架提供的数值例子来说明所提出的凸优化问题的有效性。我们还提供了一个自适应选择的权重,这是一个修改的迭代重新加权$\ell_1$ -最小化方法。
2019-09-16 cs.NA eess.IV eess.SP