Improved Support Recovery Guarantees for the Group Lasso With Applications to Structural Health Monitoring
本文考虑了从带噪线性测量中估计未知高维信号的问题，{当}假设信号在{已知的，}固定字典中具有\emph{group-sparse}结构。我们考虑根据自然概率模型生成的信号，并建立新的条件下，一组指数的非零组的信号（称为组级支持）可以准确地估计通过组拉索。我们的研究结果加强了现有的基于一致性的分析，表现出众所周知的“平方根”瓶颈，允许可恢复的非零组的数量几乎是一样大的组的总数。我们还建立了一个充分的恢复条件有关的非零组的数量和信噪比（量化的非零组的平方欧几里德范数和随机加性{测量}噪声的方差的比率），并验证这一趋势的经验。最后，我们研究的影响，我们的研究结果的背景下，结构健康监测的应用程序，其中组拉索的方法有利于分层的传播声波场，通过扫描激光多普勒测振仪在材料表面上获得，成对立的组件，其中之一表示内部材料缺陷的位置。
2018-05-19 cs.IT math.IT stat.ML
Uniform Recovery of Structured Signals from Nonlinear Observations: Improved Error Rates
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；University of Maryland, College Park（马里兰大学帕克分校）；Columbia University（哥伦比亚大学）
本文提出RAIC条件统一解决非线性观测下结构信号的均匀恢复问题，通过PGD算法在多种链接函数下建立Gaussian单索引模型的统一恢复理论，并展示其在稀疏恢复中的有效性。
2026-09-28 cs.IT math.IT
The Generalized Lasso for Sub-gaussian Measurements with Dithered Quantization
在从高维线性观测值中恢复结构化信号的问题中，通常假设全精度测量是可用的。在这种假设下，流行的广义套索（G-Lasso）的恢复性能现在已经得到了很好的证实。在本文中，我们将这些类型的结果扩展到实际相关的设置与量化测量。我们研究了两个极端的量化方案，即均匀和一位量化;前者对量化位数没有限制，而第二只允许一位。在存在均匀抖动信号的情况下并且当测量向量是亚高斯时，我们表明相同的算法（即，G-Lasso）对于均匀和一比特量化方案都具有有利的恢复保证。我们的理论结果，阐明了抖动信号的值的范围的适当选择，并准确地捕获的问题参数的误差依赖。例如，我们的误差分析表明，与全精度测量相比，具有一位均匀抖动测量的G-Lasso仅导致对数速率损失。
2018-07-18 cs.IT eess.SP math.IT
Recovery of Structured Signals From Corrupted Non-Linear Measurements
本文研究了从相对少量的损坏的非线性测量中恢复结构化信号的问题。假设信号和腐败包含在一些结构提升的集合中，我们建议一个扩展的Lasso来解开信号和腐败。我们还提供了条件下，这种恢复过程可以成功地重建信号和腐败。
2019-01-24 cs.IT math.IT
Sparse Subspace Clustering via Two-Step Reweighted L1-Minimization: Algorithm and Provable Neighbor Recovery Rates
稀疏子空间聚类（SSC）依赖于稀疏回归来精确识别邻居。受压缩感知最新进展的启发，本文提出了一种新的基于两步重加权$\ell_1$ -最小化的SSC稀疏回归算法，该算法推广了E. J. Candès et al in [The Annals of Statistics，vol. 42，no. 2，pp. 669-699，2014]，而不会引起额外的算法复杂度。为了充分利用在第一步中计算的稀疏表示向量提供的先验信息，我们的方法对回归向量的每个分量放置权重，并在第二步中求解加权LASSO。我们提出了一个数据加权规则，适用于提高邻居识别精度。然后，在加权LASSO对偶问题的框架下，深入研究了该方案的理论邻居恢复率。具体而言，一个有趣的连接之间的位置的最优稀疏解加权LASSO和指数的对偶问题的主动约束。然后，在半随机模型下，推导了各种邻居恢复事件的解析概率上/下限。我们的分析结果证实，在数据加权的帮助下，如果先验邻居信息是足够准确的，所提出的方案具有更高的概率可以产生许多正确的邻居和一些不正确的邻居相比，没有数据加权的解决方案。计算机模拟提供了验证我们的分析研究和证据所提出的方法的有效性。
2019-07-17 cs.IT math.IT
Quantized Corrupted Sensing with Random Dithering
受损传感涉及从被未知结构化损坏和非结构化噪声污染的测量集合中恢复高维结构化信号的问题。在线性测量的情况下，不同凸规划过程（例如，广义Lasso及其变体）在文献中得到了很好的建立。然而，在数字信号处理的实际应用中，量化过程是不可避免的，这往往会导致非线性测量。本文主要研究量化测量下的污染感知问题。具体来说，我们证明，在均匀抖动的帮助下，约束和无约束的Lassos都能够恢复信号和腐败的量化样本时，测量矩阵是亚高斯。我们的理论结果揭示了量子化分辨率在Lassos恢复性能中的作用。数值实验证实了我们的理论结果。
2021-03-24 cs.IT math.IT
Sparse Recovery with Coherent Tight Frames via Analysis Dantzig Selector and Analysis LASSO
Zhejiang University（浙江大学）
本文提出分析Dantzig选择器和分析LASSO算法，在测量矩阵满足紧框架自适应限制等距性质的条件下，从欠采样含噪数据中稳定恢复在紧框架下近似稀疏的信号，并针对稀疏噪声提出了鲁棒方法。
2013-09-08 cs.IT cs.NA math.IT
Performance analysis of tail-minimization and the linear rate of convergence of a proximal algorithm for sparse signal recovery
本文分析尾最小化的恢复误差界，提出一种基于Hadamard积参数化的近端交替算法求解尾-lasso问题，在RIP条件下证明其线性收敛，数值实验显示恢复性能显著优于现有方法。
2025-01-25 cs.IT math.IT
Optimum GSSK Transmission in Massive MIMO Systems Using the Box-LASSO Decoder
在这项工作中，我们建议采用盒LASSO，流行的LASSO方法的变化，作为一个低复杂度的解码器在一个大规模的多输入多输出（MIMO）无线通信系统。Box-LASSO主要用于同时检测结构化信号，例如已知为稀疏和有界的信号。一种产生基本上稀疏且有界的星座点的调制技术是所谓的广义空移键控（GSSK）调制。在这个方向上，我们推导出高维尖锐的特性的各种性能指标的盒LASSO，如均方误差，支持恢复的概率，和元素出错率，独立同分布（i.i.d.）高斯信道并不是完全已知的。特别地，分析表征可以用于证明与广泛使用的标准LASSO相比Box-LASSO的性能改进。然后，我们可以使用这些措施来优化调整Box-LASSO的相关超参数，如正则化参数。此外，我们推导出最佳的功率分配和训练时间计划在一个基于训练的大规模MIMO系统。蒙特卡罗模拟被用来验证这些前提，并显示所得出的分析结果的清晰度。
2022-01-18 cs.IT math.IT
The Generalized Lasso with Nonlinear Observations and Generative Priors
National University of Singapore（新加坡国立大学）
在本文中，我们研究的问题，从噪声的非线性测量信号估值估计的未知$n$维信号的范围内的$L$ -Lipschitz连续生成模型与有界$k$维输入。我们假设的亚高斯测量，这是满足广泛的测量模型，如线性，逻辑，1位，和其他量化模型。此外，我们认为对抗腐败对这些测量的影响。我们的分析基于广义Lasso方法（Plan和Vershynin，2016）。我们首先提供了一个非统一的恢复保证，它指出，根据i.i.d.~高斯测量，大致$O\left(\frac{k}{ε^2}\log L\right)$样本足以恢复$ε$的$\ell_2$ -误差，并且该方案对对抗性噪声是鲁棒的。然后，我们将这一结果应用到神经网络生成模型中，并讨论了对其他模型和非独立同分布模型的各种扩展。测量.此外，我们表明，我们的结果可以扩展到均匀恢复保证下的一个所谓的本地嵌入属性的假设，这是由1位和删失Tobit模型所满足的。
2020-10-08 cs.IT cs.LG math.IT
Uniform Recovery Guarantees for Quantized Corrupted Sensing Using Structured or Generative Priors
本文针对量化损坏感知问题，利用抖动均匀量化器和亚高斯感知矩阵，为结构化先验和生成先验下的Lasso恢复建立了统一保证，并改进了量化乘积嵌入性质及误差衰减率。
2024-01-16 cs.IT eess.SP math.IT
Sharp Support Recovery from Noisy Random Measurements by L1 minimization
Université Bordeaux 1（波尔多大学）；Université Paris-Dauphine（巴黎第九大学）；Université Caen（卡昂大学）
本文研究在测量矩阵为高斯随机矩阵时，通过L1惩罚最小化（Lasso）从含噪测量中恢复信号支撑集的精确非渐近界，包括严格稀疏和近似稀疏情形，并给出显式锐利常数。
2011-09-12 cs.IT cs.NA math.IT
Beyond $\ell_1$-norm minimization for sparse signal recovery
University of British Columbia（不列颠哥伦比亚大学）
稀疏信号恢复一直占主导地位的基础上追求去噪（BPDN）的问题制定了十多年。在本文中，我们提出了一个算法，在寻找稀疏解欠定线性方程组在没有额外的计算成本优于BPDN。我们的算法，称为WSPGL 1，是一个修改的谱投影梯度$\ell_1$最小化（SPGL 1）算法，其中的序列的LASSO子问题被替换为一个序列的加权LASSO子问题与恒定的权重施加到支持估计。支持估计值从数据中导出，并在每次迭代时更新。该算法还在每次迭代时修改Pareto曲线，以反映正在解决的新的加权$\ell_1$最小化问题。我们通过大量的模拟表明，我们的算法的稀疏恢复性能优于$\ell_1$最小化和方法的恢复性能的迭代重新加权$\ell_1$（IRWL 1）最小化的Cand{è}s，Wakin，和博伊德，虽然它不匹配它在一般情况下。此外，我们的算法具有单个BPDN问题的计算成本。
2012-05-30 cs.IT cs.LG math.IT
A lava attack on the recovery of sums of dense and sparse signals
用于预测的常见的高维方法依赖于具有稀疏信号模型（其中大多数参数为零并且存在少量幅度大的非零参数的模型）或密集信号模型（其中没有大参数并且具有非常多的小的非零参数的模型）。我们考虑这两个基本模型的推广，这里称为“稀疏+密集”模型，其中信号由稀疏信号和密集信号的总和给出。这样的结构对传统的稀疏估计器（例如套索）和传统的密集估计方法（例如岭估计）提出了问题。我们提出了一种新的惩罚为基础的方法，称为熔岩，这是计算效率。通过适当选择惩罚参数，该方法严格控制套索和脊。在高斯序列模型中，我们推导出熔岩估计的有限样本风险函数的解析表达式。我们还提供了一个偏差界的预测风险的高斯回归模型与固定设计。在这两种情况下，我们都为熔岩的预测风险提供了Stein的无偏估计量。一个仿真示例比较了lava与lasso、ridge和弹性网在回归示例中使用可行的、依赖于数据的惩罚参数的性能，并说明了lava相对于这些基准的改进性能。
2015-03-25 cs.IT econ.EM math.IT
Sequential adaptive elastic net approach for single-snapshot source localization
Aalto University（阿尔托大学）
本文提出了一种基于压缩波束形成（CBF）的单次快拍信号源波达方向（DoA）精确恢复算法。在CBF中，传统的传感器阵列信号模型被转换为欠定复值线性回归模型，稀疏信号恢复方法用于解决DOA发现问题。我们开发了一个复值路径加权弹性网（c-PW-WEN）算法，该算法在EN调谐参数值的路径（或网格）上的惩罚参数值的节点处找到解决方案。在c-PW-WEN算法的基础上，我们提出了一种基于c-PW-WEN算法的自适应加权EN（SAEN）算法。大量的仿真研究表明，SAEN提高了真正的支持的精确恢复的概率相比，传统的稀疏信号恢复方法，如拉索，弹性网或正交匹配追求在几个具有挑战性的多目标场景。SAEN的有效性是更明显的存在高度相互一致性。
2018-05-19 cs.IT cs.LG math.CV
Exact Localization and Superresolution with Noisy Data and Random Illumination
研究了稀疏（点或扩展）目标在噪声数据下的精确定位问题。所提出的方法的关键包括随机照明。分析了几种恢复方法：Lasso，BPDN和一步固定（OST）。对于独立的随机探针，它表明，这两种恢复方法可以精确本地化$s=\cO(m)$，对数因子，对象，其中$m$是数据的数量。此外，当随机探针的数量很大时，具有随机照明的Lasso具有超分辨率的性能保证，击败了瑞利分辨率极限。数值证据证实了预测，并表明，Lasso的性能优于OST的建议设置与随机照明。
2011-02-26 cs.IT math.IT math.PR
Alternating Subspace Method for Sparse Recovery of Signals
Hunan Normal University（湖南师范大学）
本文提出交替子空间法用于信号稀疏恢复，结合贪婪和分裂方法，实现高效准确的稀疏信号恢复。
2026-03-10 cs.IT math.IT math.OC
Robust Sparse Analysis Regularization
本文研究了L1分析正则化在求解线性反问题时的理论保证。在文献中的大多数以前的工作主要集中在稀疏合成先验的稀疏性是衡量的L1范数的系数，从一个给定的字典合成的信号。相比之下，更一般的分析正则化最小化了信号和字典中原子之间的相关性的L1范数，其中这些相关性定义了分析支持度。相应的变分问题包括几个著名的正则化，如离散全变分和融合套索。我们的主要贡献包括在推导出的充分条件，保证准确或部分分析支持恢复的真实信号中存在的噪声。更准确地说，我们给出了一个充分条件，以确保信号是唯一的解决方案的L1分析正则化在无噪声的情况下。同样的条件也保证了精确的分析支持恢复和L2鲁棒性的L1分析最小相对于一个足够小的噪声测量。该条件对于分析支持的鲁棒性变得尖锐。为了证明部分支持恢复和对任意有界噪声的L2鲁棒性，我们引入了一个更强的充分条件。当专门的L1合成正则化，我们的结果恢复一些相应的恢复和鲁棒性保证以前已知的文献。从这个角度来看，我们的工作是这些结果的推广。最后，我们说明这些理论研究结果的几个例子来研究的1-D总变差和融合Lasso正则化的鲁棒性。
2012-10-02 cs.IT math.IT
Performance Analysis of Sparse Recovery Based on Constrained Minimal Singular Values
研究了稀疏信号重构的稳定性问题。我们设计了有效的算法来验证唯一的$\ell_1$稀疏恢复的充分条件。我们的算法之一产生可比的结果与国家的最先进的技术，并执行数量级更快。我们表明，$\ell_1$约束的最小奇异值（$\ell_1$ -CMSV）的测量矩阵确定，在一个非常简洁的方式，恢复性能的$\ell_1$为基础的算法，如基追踪，Dantzig选择器，和LASSO估计。与引入约束等距常数的性能分析相比，本文的论证简单得多，对稀疏信号恢复的稳定性提供了更直观的判断。我们还表明，以高概率，亚高斯系综产生测量矩阵与$\ell_1$ -CMSV有界远离零，只要测量的数量是相对较大的。为了计算$\ell_1$ -CMSV及其下界，我们设计了两种基于内点算法和半定松弛算法的算法。
2011-02-24 cs.IT math.IT
Ordinary Differential Equation-based Sparse Signal Recovery
本研究探讨使用连续时间动态系统的稀疏信号恢复。建议的动力系统是在一个非线性常微分方程（ODE）的形式来自梯度流的Lasso目标函数。稀疏信号的恢复过程中，这种基于常微分方程的方法是通过数值模拟使用欧拉方法。连续时间动力系统的状态最终收敛到目标函数最小值所对应的平衡点。为了深入了解系统的局部收敛性质，在平衡点附近应用线性近似，得到封闭形式的误差演化常微分方程。该分析显示了收敛到平衡点的行为。此外，提出了一个变分优化问题，以优化一个时间依赖的正则化参数，以提高收敛速度和解决方案的质量。引入深度展开变分优化方法作为求解该优化问题的一种手段，并通过数值实验验证了其有效性。
2023-03-29 cs.IT math.IT
Asymptotic Analysis of LASSOs Solution Path with Implications for Approximate Message Passing
本文关注的性能的LASSO（也称为基追踪去噪）恢复稀疏信号从欠采样，随机，噪声测量。我们考虑从$n$随机和噪声线性观测值$y= Ax_o + w$中恢复信号$x_o \in \mathbb{R}^N$，其中$A$是测量矩阵，$w$是噪声。LASSO估计由用$\hat{x}_λ = \arg \min_x \frac{1}{2} \|y-Ax\|_2^2 + λ\|x\|_1$求解优化问题$x_o$给出。尽管在理论分析的LASSO解决方案的重大进展，很少有人知道它的行为作为一个函数的正则化参数PDMATHAMT。在本文中，我们研究了两个问题的渐近设置（即，其中$N \rightarrow \infty$，$n \rightarrow \infty$，而比率$n/N$收敛到$(0,1)$中的固定数）：（i）活动集$\|\hat{x}_λ\|_0/N$的大小如何表现为$λ$的函数，以及（ii）均方误差$\|\hat{x}_λ - x_o\|_2^2/N$如何表现为$λ$的函数？然后，我们采用这些结果在一个新的，可靠的算法解决LASSO的基础上近似消息传递（AMP）。
2013-09-23 cs.IT math.IT math.ST
Approximate Sparse Recovery: Optimizing Time and Measurements
近似稀疏恢复系统由参数$k,N$、$m$ × $N$测量矩阵$Φ$和解码算法$\mathcal{D}$组成.给定矢量$x$，系统通过$\widehat x =\mathcal{D}(Φx)$近似$x$，$\widehat x =\mathcal{D}(Φx)$必须满足$\| \widehat x - x\|_2\le C \|x - x_k\|_2$，其中$x_k$表示$x$的最佳$k$项近似。对于每个矢量$x$，系统必须以至少3/4的概率成功。设计这种系统的目标之一是最小化测量的数量$m$和解码算法$\mathcal{D}$的运行时间。在本文中，我们给出了一个系统与$m=O(k \log(N/k))$测量-匹配的下限，直到一个恒定的因素-和解码时间$O(k\log^c N)$，匹配的下限到$\log(N)$因素。我们还考虑编码时间（即，将$Φ$乘以$x$的时间），更新测量的时间（即，将$Φ$乘以1-稀疏$x$的时间），以及算法的鲁棒性和稳定性（在测量之前和之后添加噪声）。我们的编码和更新时间是最佳的$\log(N)$因素。
2009-12-01 cs.DS cs.IT math.IT
Distributed soft thresholding for sparse signal recovery
在本文中，我们解决的问题，通过压缩测量传感器网络中获得的信号的分布式稀疏恢复。我们提出了一类新的分布式算法来解决Lasso回归问题，当与融合中心的通信是不可能的，例如，由于通信成本或隐私原因。更确切地说，我们介绍了一个分布式迭代软阈值算法（DISTA），由三个步骤组成：平均步骤，梯度步骤，和软阈值操作。我们证明了DISTA的收敛性，在网络中表示的规则图，我们比较它与现有的方法在性能，内存和复杂性。
2013-10-14 cs.DC cs.IT math.IT
Compressed sensing with l0-norm: statistical physics analysis and algorithms for signal recovery
本文用统计物理方法分析l0范数压缩感知的解结构，提出两种消息传递算法，在更高压缩率下高效恢复信号，优于LASSO。
2023-04-24 cond-mat.dis-nn cond-mat.stat-mech cs.IT
Enhanced block sparse signal recovery based on $q$-ratio block constrained minimal singular values
本文提出了块稀疏/压缩信号的压缩感知中测量矩阵的一种新的度量--$q$ -比块约束最小奇异值（BCMSV），并给出了计算这种新度量的算法。研究了基于$q$比BCMSV的块基追踪（BBP）、块Dantzig选择器（BDS）和群套索重建误差的混合$\ell_2/\ell_q$和混合$\ell_2/\ell_1$范数的稳定和鲁棒恢复。基于$q$ -比率块稀疏性建立了无噪声BBP精确恢复的充分条件，并提出了一个凸-凹过程来解决相应的非凸问题.此外，我们证明了次高斯随机矩阵，$q$比BCMSV是有界远离零的高概率时，测量的数量是合理的大。数值实验验证了理论结果。此外，我们证明了$q$比BCMSV为基础的误差界比块限制各向同性常数为基础的界限更紧。
2019-08-29 cs.IT eess.SP math.IT
Uncertainty quantification for sparse Fourier recovery
RWTH Aachen University（亚琛工业大学）；Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；AImotion Bavaria（巴伐利亚人工智能运动）；Technische Hochschule Ingolstadt（因戈尔施塔特应用技术大学）；GE Healthcare（通用电气医疗）；LMU, Munich（慕尼黑大学）
本文将基于去稀疏化 LASSO 的不确定性量化方法扩展至源自有界正交系统的设计矩阵，为子采样傅里叶测量下的稀疏 MR 图像构建了像素级置信区间。
2023-09-13 cs.IT math.IT math.ST
Support recovery without incoherence: A case for nonconvex regularization
我们证明了原始-对偶见证证明方法可以用来建立变量选择的一致性和$\ell_\infty$ -界稀疏回归问题，即使当损失函数和/或正则化是非凸的。使用这种方法，我们得到两个定理的支持恢复和$\ell_\infty$ -保证的回归估计在一般设置。我们的研究结果提供了严格的理论依据使用非凸正则化：对于某些非凸正则化与消失的衍生物远离原点，支持恢复一致性可以保证，而不需要典型的不相干条件存在于$\ell_1$为基础的方法。然后，我们推导出几个推论，说明我们的方法分析复合目标函数，涉及损失，如最小二乘，非凸修正最小二乘误差变量线性回归，负对数似然广义线性模型，和图形拉索的广泛适用性。最后，我们用实证研究来证实我们的理论预测。
2014-12-17 cs.IT math.IT math.ST
