arXiv 1203.45792012-03math.OCmath.FA

求线性方程欠定组稀疏解的范数和范数

Metrics and norms used for obtaining sparse solutions to underdetermined Systems of Linear Equations

Leoni Dalla, George K. Papageorgiou

摘要：

本文主要讨论定义一个测度，它适用于获得线性方程的欠定组的最优稀疏解。一般的思想是通过度量空间的笛卡儿积在n维空间中推广度量。* 以下工作完成，是在我的硕士论文完成题为“算法的计算稀疏解的未定义的方程组”在数学系，雅典大学这是分配给我与信息学和电信，雅典国立和Kapodistrian大学的部门。

英文摘要：

This paper focuses on defining a measure, appropriate for obtaining optimally sparse solutions to underdetermined systems of linear equations.* The general idea is the extension of metrics in n-dimensional spaces via the Cartesian product of metric spaces. *The following work done, was within the completion of my master thesis titled "Algorithms for the computation of sparse solutions of undefined systems of equations" at the department of Mathematics, University of Athens which was assigned to me in association with the department of Informatics and Telecommunications, National and Kapodistrian University of Athens.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

线性方程欠定组的最小方差解

Minimum Variance Solution of Underdetermined Systems of Linear Equations

当未知数比方程多时，称线性方程组是欠定的。这样的系统可能有无穷多个解。在这种情况下，重要的是要挑选出具有特殊功能的解决方案。一个众所周知的例子是最小范数（MN）解，它是具有最小欧几里得范数的解。在本文中，我们考虑另一个有用的解决方案，与MN的，我们称之为最小方差（MV）解决方案。我们讨论了它的一些性质，并推导出一个简单的，封闭的形式表达。

2019-06-21eess.SPmath.OC

有限时间分布式线性方程求解器用于最小 $l_1$ 范数解

Finite-Time Distributed Linear Equation Solver for Minimum $l_1$ Norm Solutions

School of Aeronautics and Astronautics, Purdue University（普渡大学航空航天学院）；Hangzhou Dianzi University（杭州电子科技大学）；The Australian National University（澳大利亚国立大学）；Data-61 CSIRO (formerly NICTA)（CSIRO数据六部（原NICTA））

本文提出有限时间分布式算法，用于求解线性方程$Ax=b$的最小$l_1$范数解，适用于欠定情况，通过无向固定网络实现智能体状态收敛。

2017-09-28cs.DCcs.SYeess.SY

基于非凸分式函数惩罚的稀疏非负信号恢复

Recovering Sparse Nonnegative Signals via Non-convex Fraction Function Penalty

现实世界中的许多实际问题都可以转化为具有非负约束的$\ell_{0}$ -极小化问题，它寻求欠定线性系的稀疏非负信号。它们在信号与图像处理、机器学习、模式识别和计算机视觉等领域有着广泛的应用。不幸的是，这个具有非负约束的$\ell_{0}$ -极小化问题是计算性的和NP-困难的，因为$\ell_{0}$ -范数的离散和不连续的性质。本文用一个非凸分式函数代替$\ell_{0}$ -范数，研究了这种非凸分式函数在从欠定线性系恢复稀疏非负信号中的极小化问题。首先讨论了$(P_{0}^{\geq})$与$(FP_{a}^{\geq})$的等价性，以及$(FP_{a}^{\geq})$与$(FP_{a,λ}^{\geq})$的等价性。证明了在满足一定条件的情况下，通过求解正则化问题$(FP_{a,λ}^{\geq})$可以近似地得到问题$(P_{0}^{\geq})$的最优解。其次，我们提出了一个非负的迭代阈值算法来解决正则化问题$(FP_{a,λ}^{\geq})$的所有$a>0$。最后，对稀疏非负信号恢复问题的数值实验表明，与线性规划相比，该方法能有效地发现稀疏非负信号。

2017-08-26math.OC

压缩感知矩阵用$\ell_q$拟范数逼近稀疏解的RIC界

On RIC bounds of Compressed Sensing Matrices for Approximating Sparse Solutions Using $\ell_q$ Quasi Norms

本文是继最近的讨论与准范数$\ell_q,~q\in(0,1)$的稀疏解恢复时的传感矩阵具有一个限制等距常数$δ_{2k}$（RIC）。我们的主要工具是对“广义Cauchy-Schwarz不等式的逆”的一个推广到拟范数下的改进。我们证明，如果$δ_{2k}\le 1/2$，任何极小的$l_q$极小化，至少对于那些$q\in(0,0.9181]$，是相应的欠定线性系统的稀疏解。此外，如果是$δ_{2k}\le0.4931$，则稀疏解可以通过任何$l_q, q\in(0,1)$最小化来恢复。值$0.9181$和$0.4931$改进了文献中先前报告的值。

2013-12-12cs.ITmath.ITmath.OC

关于部分稀疏恢复

On partial sparse recovery

我们考虑的问题，恢复欠定线性方程组的部分稀疏的解决方案，通过最小化的$\ell_1$ -范数的一部分，已知是稀疏的解决方案向量。这样的问题与压缩感知中的经典问题密切相关，其中整个解向量的$\ell_1$范数被最小化。我们引入类似物的限制等距和零空间属性的恢复部分稀疏向量，并表明，这些新的属性是隐含的原来的同行。我们还展示了如何在噪声测量下将恢复扩展到部分稀疏的情况。

2013-04-09cs.ITmath.ITmath.OC

PARNES: 一种用于精确恢复稀疏和近似稀疏信号的快速收敛算法

PARNES: A rapidly convergent algorithm for accurate recovery of sparse and approximately sparse signals

University of California at Berkeley（加州大学伯克利分校）；University of Chicago（芝加哥大学）

提出一种名为PARNES的算法，结合NESTA-LASSO和Pareto求根法，用于求解LASSO和BPDN问题，在RIP假设下具有局部线性收敛性，数值实验表明其性能与现有求解器相当。

2012-03-31cs.NAcs.SYeess.SY

更多相关论文收起更多论文

SPOQ $\ell_p$ -Over- $\ell_q$正则化方法在质谱稀疏信号恢复中的应用

SPOQ $\ell_p$-Over-$\ell_q$ Regularization for Sparse Signal Recovery applied to Mass Spectrometry

欠定或不适定的反问题需要额外的信息\ldd{d}声音解决方案与易处理的优化算法。稀疏性产生了对这一问题的后续分析，在信号恢复，图像恢复或机器学习中有许多应用。由于$\ell_0$计数度量几乎无法处理，因此许多统计或学习方法都投资于可计算代理，例如$\ell_1$范数。然而，后者并没有表现出理想的属性的稀疏数据的尺度不变性。扩展的SOOT欧几里德/Taxicab $\ell_1$上的$\ell_2$范数比最初引入盲反卷积，我们提出了SPOQ，一个家庭的平滑（近似）尺度不变的惩罚函数。它由$\ell_p$对$\ell_q$的准范数/范数比的Lipschitz可微替代物与$p\in\,]0,2[$和$q\ge 2$组成。该代理被嵌入到一种新的优化最小化信赖域方法中，推广了变尺度前向-后向算法。对于自然稀疏的质谱信号，我们表明，SPOQ显着优于$\ell_0$，$\ell_1$，柯西，Welsch，SCAD和Celo的处罚几个性能指标。还提供了SPOQ超参数调整的指导方针，建议简单的数据驱动的选择。

2020-09-22math.OC

线性系稀疏解与最小$\ell_1$ -范数非负解的等价性、强等价性及其应用

Equivalence and Strong Equivalence between Sparsest and Least $\ell_1$-Norm Nonnegative Solutions of Linear Systems and Their Application

许多实际问题都可以转化为具有非负约束的l0-极小化问题，它寻求欠定线性系的稀疏非负解。最近的研究表明，l1-极小化是有效的解决某些类型的l0-极小化问题。然而，从数学的角度来看，对l0-和l1-最小化之间关系的理解仍然不完整。在本文中，我们进一步讨论与这两个问题相关的几个理论问题。例如，如何完整地刻画线性系的最小l1范数非负解的唯一性，是否存在不同于现有矩阵性质的另一种矩阵性质，能够完整地刻画K-稀疏非负向量的一致恢复性？证明了线性规划的基本严格互补定理可以给出一个线性系存在唯一的最小l1-范数非负解的充要条件。这个条件自然地导致所谓的范围空间属性（RSP）和“满列秩”属性，它们共同提供了对l0-和l1-最小化之间关系的广泛理解。出于这些结果，我们引入的概念的“RSP的顺序K”，原来是一个完整的表征K-稀疏非负向量的均匀恢复。这一概念也使我们能够通过所谓的弱范围空间性质，为稀疏非负向量的非均匀恢复提供一定的条件。

2013-12-15math.OC

Vandermonde矩阵的精确稀疏重构

Exact sparse reconstruction form Vandermonde matrices

作为经典线性代数的一个结论，一个欠定线性方程组通常有无穷多个解。这些解决方案中最简单的一个在许多应用中是重要的。该问题可以建模为$l_0$ -极小化问题，但求解欠定线性方程组的稀疏解是NP-困难的。因此，求解下面的$l_p$ -极小化问题（$0<p\leq1$）的一个重要途径就是寻找一个$p$ -范数极小化解$(0<p\leq1)$而不是最稀疏解.为了研究$l_0$ -极小化和$l_p$ -极小化之间的等价关系，大多数相关工作采用了限制等距性质（RIP）和限制等距常数（RIC）。在RIP和RIC的前提下，它们只解决了$l_0$ -极小化的解$\breve{x}$满足$\|\breve{x}\|_0<k$的情况，其中$k$是已知的固定常数，且有$k<\frac{spark(A)}{2}$。本文的结果之一是给出了一个解析表达式$p^*$，使得对每个$\|\breve{x}\|_0<\frac{spark(A)}{2}$，$l_p$ -极小化等价于$l_0$ -极小化.在本文中，我们还考虑的情况下，矩阵$A$是范德蒙矩阵，我们提出了一个解析表达式$p^*$，使$l_p$ -最小化的解决方案也解决了$l_0$ -最小化。与基于RIP和RIC的类似结果相比，我们不需要唯一性假设，即，$l_0$-极小化的解$x^*$不必被假定为唯一解，这是我们结果的主要突破。我们的结果的另一个优点是它的可计算…

2020-05-03math.OC

正则化噪声线性反问题的简单误差界

Simple Error Bounds for Regularized Noisy Linear Inverse Problems

考虑通过求解套索算法的变型：$\hat{\mathbf{x}}=\arg\min_\mathbf{x}\{ \|\mathbf{y}-\mathbf{A}\mathbf{x}\|_2+λf(\mathbf{x})\}$，从线性、欠定和噪声测量$\mathbf{y}=\mathbf{A}\mathbf{x}_0+\mathbf{z}$估计结构化信号$\mathbf{x}_0$。这里，$f$是旨在提升$\mathbf{x}_0$的结构的凸函数，例如提升稀疏性的$\ell_1$ -范数或提升低秩性的核范数。我们假设$\mathbf{A}$的条目是独立的并且是正态分布的，并且对噪声向量$\mathbf{z}$不做任何假设，除了它独立于$\mathbf{A}$之外。在这种通用的设置下，我们推导出一个一般的，非渐近的和相当紧的估计误差$\|\hat{\mathbf{x}}-\mathbf{x}_0\|_2$的$\ell_2$ -范数上界。我们的界限本质上是几何的，并且遵循一个简单的公式; $λ$、$f$和$\mathbf{x}_0$的作用都由单个汇总参数$δ(λ\partial((f(\mathbf{x}_0)))$捕获，该参数称为到缩放次微分的高斯平方距离。我们将我们的结果连接到文献，并通过模拟验证其有效性。

2014-01-25cs.ITmath.ITmath.OC

关于球面上均匀分布向量范数的数学期望的上界和球面上均匀测度的集中现象

On the upper bound for the mathematical expectation of the norm of a vector uniformly distributed on the sphere and the phenomenon of concentration of uniform measure on the sphere

考虑了单位欧氏球面上均匀分布的向量的$q$范数（$2\leqslant q \leqslant \infty$）的数学期望的上界问题.最后，我们用数值实验来说明我们的结果。

2019-02-10math.OC

线性反问题的凸几何

The Convex Geometry of Linear Inverse Problems

在整个科学和工程应用中，人们经常面临着解决不适定反问题的挑战，其中可用测量的数量小于待估计模型的维数。然而，在许多感兴趣的实际情况下，模型在结构上受到约束，使得它们相对于其环境尺寸只有几个自由度。本文提供了一个通用的框架来转换概念的简单性到凸罚函数，导致凸优化解决方案的线性，欠定反问题。所考虑的简单模型类是由一些（可能是无限的）基本原子集合中的几个原子的和形成的;例子包括稀疏向量和低秩矩阵等研究得很好的情况，以及几个其他的情况，包括几个置换矩阵、低秩张量、正交矩阵和原子测度的和。凸规划公式基于最小化由原子集的凸包引起的范数;该范数被称为原子范数。原子范数球的面部结构具有许多有利的性质，这些性质对于恢复简单的模型是有用的，并且对底层凸几何形状的分析提供了对从部分信息中精确和鲁棒地恢复模型所需的通用测量的数量的精确估计。这些估计是基于计算高斯宽度的切线锥的原子规范球。当原子集具有代数结构时，所产生的最优化问题可以通过半定规划来求解或近似。这些近似值的质量影响恢复所需的测量次数。因此，这项工作扩展了目录的简单模型，可以恢复有限的线性信息，通过易处理的凸规划。

2012-03-29math.OCmath.STstat.TH

结构稀疏优化中基追踪的可计算失效

Tractable downfall of basis pursuit in structured sparse optimization

Technion – Israel Institute of Technology（以色列理工学院）

研究结构矩阵中基追踪失效的条件，提供稀疏解的确定性保证，并通过最优控制问题验证结果，连接压缩感知与几何建模。

2026-03-14math.OCstat.ML

基于提升和凸优化的保证盲稀疏脉冲反卷积

Guaranteed Blind Sparse Spikes Deconvolution via Lifting and Convex Optimization

神经记录、雷达和声纳的回波、天文学和单分子显微镜中的图像可以建模为有限带宽或有限衍射点扩散函数的少量缩放和延迟副本的线性叠加，其由性质决定或由用户设计;换句话说，我们观察点扩展函数和具有未知幅度和延迟的稀疏尖峰信号之间的卷积。虽然从尽可能少的样本中准确地解析尖峰信号是非常有趣的，但是，当点扩展函数先验未知时，这个问题是非常不适定的。本文提出了一种凸优化框架，同时估计点扩散函数以及尖峰信号，通过温和地约束点扩散函数位于一个已知的低维子空间。通过应用提升技巧，我们得到了一个欠定的线性系统的合奏信号与联合频谱稀疏，原子范数最小化。在低维子空间的温和随机性假设以及尖峰信号的分离条件下，我们证明了所提出的算法，称为AtomicLift，保证恢复尖峰信号的比例因子，只要样本数量足够大。扩展AtomicLift处理噪声测量也进行了讨论。数值算例验证了所提方法的有效性。

2016-03-15cs.ITmath.ITmath.OC