Noisy 1-Bit Compressed Sensing Embeddings Enjoy a Restricted Isometry Property
我们研究了由高斯测量给出的1比特压缩感知的符号线性嵌入。人们可以给出简短的参数有关的限制等距性质的地图使用Vapnik-Chervonenkis维稀疏半球。这种方法对量化之前的加性白噪声的存在具有自然扩张。噪声一位映射示出，以满足RIP时的度量的领域是由噪声。
2016-04-12 cs.IT math.CA math.IT
HISTORY: An Efficient and Robust Algorithm for Noisy 1-bit Compressed Sensing
我们考虑从1位测量的稀疏信号恢复的问题。由于采集和传输过程中存在的噪声，一些量化的比特可能会翻转到它们的相反状态。这些符号翻转可能导致严重的性能下降。在这项研究中，提出了一种新的算法，称为历史。它包括汉明支撑检测和系数恢复。HISTORY算法具有较高的恢复精度，并且对强测量噪声具有鲁棒性。数值结果证明了该算法的有效性和优越性。
2016-08-12 cs.IT math.IT
Optimized Compressed Sensing Matrix Design for Noisy Communication Channels
我们研究了一个压缩感知框架中的功率受限感知矩阵设计问题。我们采用均方误差（MSE）的性能标准，在系统中的源到传感器的信道和传感器到解码器的通信信道是嘈杂的稀疏源重建。我们提出的传感矩阵设计过程依赖于最小化MSE的下限。在一定的条件下，我们得到封闭形式的解决方案的优化问题。通过数值实验，应用实际的稀疏重建算法，我们通过与其他相关方法的比较，显示了该方案的实力。我们讨论了我们的设计方法的计算复杂性，并开发了一个等效的随机优化方法的兴趣，可以近似地解决了一个显着减少计算负担的问题。我们说明了低复杂度的方法仍然优于流行的竞争方法。
2014-09-26 cs.IT math.IT
A weak Hellinger inequality for noisy Boolean channels
Chapman University（查普曼大学）；University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
针对二元对称信道，证明了 Hellinger 猜想的一个弱形式，即独裁者函数在所有布尔函数及一位输出统计量中最大化 Hellinger Φ-熵，通过显式不等式与计算机辅助验证完成证明。
2026-09-30 cs.IT math.CO math.IT
Distributed Quantization for Measurement of Correlated Sparse Sources over Noisy Channels
在本文中，我们设计和分析了分布式矢量量化（VQ）的压缩测量相关的稀疏源噪声信道。受压缩感知（CS）的框架，用于获取压缩测量的稀疏源的启发，我们开发优化的量化方案，使分布式编码和传输的CS测量噪声信道，然后在解码器的联合解码。的最优性是解决相对于最小化的总和之间的稀疏源和它们的重建向量在解码器的均方误差（MSE）失真。我们提出了一个矢量量化编码器-解码器的设计，通过迭代算法，并推导出一个下界的研究分布式系统的端到端的MSE。通过几个模拟研究，我们评估所提出的分布式方案的性能。
2015-07-27 cs.IT math.IT
On the SNR Variability in Noisy Compressed Sensing
压缩感知（CS）是一种采样范式，它允许同时测量和压缩信号，稀疏或可压缩的一些领域。执行测量的感测矩阵的选择对系统性能具有决定性影响，并且通常提倡随机绘制其元素。已经注意到，在存在输入（信号）噪声的情况下，由于噪声折叠效应，感测矩阵的应用导致SNR降级。事实上，它还可能导致压缩测量中的输出SNR在输入信号的支持上的变化，潜在地导致意外的非均匀系统性能。在这项工作中，我们研究的影响，从其中的传感矩阵的元素绘制的输出SNR的扩展的分布。我们推导出几种常见类型的传感矩阵的解析表达式，并表明SNR扩展的增长与测量的数量的减少。这使得它的负面影响特别明显的高压缩率，往往是感兴趣的CS。
2017-03-15 cs.IT math.IT
Asymptotic Error Free Partitioning over Noisy Boolean Multiaccess Channels
在本文中，我们考虑的问题，分区活动用户的方式，有利于多访问无冲突。该设置是一个嘈杂的、同步的、布尔的、多访问信道，$K$活动用户（在全部$N$用户中）试图访问该信道。分区问题的解决方案将每个$N$用户放置在一个$K$组（或块）中，使得没有两个活动节点在同一块中。我们考虑一个简单的，但不平凡的和说明性的情况下，$K=2$活跃的用户和研究的步骤$T$用于解决分区问题。通过随机编码和次优解码方案，我们表明，对于任何$T\geq (C_1 +ξ_1)\log N$，其中$C_1$和$ξ_1$是正常数（独立于$N$），和$ξ_1$可以是任意小的，分区问题可以解决错误概率$P_e^{(N)} \to 0$，对于大的$N$。在相同的方案下，我们还从另一个方向绑定$T$，建立对于任何$T \leq (C_2 - ξ_2) \log N$，大$N$的错误概率$P_e^{(N)} \to 1$;同样，$C_2$和$ξ_2$是常数，$ξ_2$可以任意小。这些步数的界限低于组测试的$T \geq (C_g +ξ)\log N $的严格可实现下限（其中所有活动用户都被标识，而不仅仅是分区）。因此，分区可能被证明是一个更有效的方法，多路访问比组测试。
2015-05-24 cs.IT math.IT
A Unified Lower Bound on the Noisy Query Complexity of Boolean Functions
针对噪声查询模型，基于布尔超立方体子图的度统计，提出了布尔函数噪声查询复杂度的通用下界，统一并改进了现有结果，并解决了Gu、Li和Xu提出的开放问题。
2026-06-11 cs.CC cs.DS cs.IT
On the Achievability of Cramér-Rao Bound In Noisy Compressed Sensing
Cornell University（康奈尔大学）；Sharif University of Technology（谢里夫理工大学）；University of Grenoble（格勒诺布尔大学）；Institut Universitaire de France（法国大学研究院）
最近Babadi等人证明了在噪声压缩感知中，一个联合的典型估计器可以渐近地达到问题的Cramer-Rao下界，为了证明这一结果，本文使用了Akcakaya等人提出的引理，该引理构成了证明的主要组成部分。该引理基于测量矩阵的高斯性假设及其在噪声域中的随机性。在这封信中，我们推广了Babadi等人通过放弃测量矩阵的高斯性假设而得到的结果。事实上，在我们的分析中，通过将测量矩阵视为确定性矩阵，我们发现了一个定理，该定理类似于Babadi等人的主要定理，适用于满足广义条件的随机生成（但在噪声域中是确定性的）测量矩阵。通过这一点，我们最后表明，在我们的广义假设下，估计的Cramer-Rao界是可实现的，通过使用典型的估计Babadi等人。
2013-08-25 cs.IT cs.LG math.IT
A performance analysis framework for SOCP algorithms in noisy compressed sensing
近年来，由于\cite{CRT,CanRomTao06,DonohoPol}的工作，求解欠定线性方程组的稀疏解吸引了大量的关注。在\cite{CRT,CanRomTao06,DonohoPol}中，它是第一次严格地表明，在统计和大维度的情况下，可以通过一个简单的多项式$\ell_1$ -优化算法从欠定系统中恢复线性稀疏性。\cite{CanRomTao06}甚至更进一步，并确定在\emph{noisy}系统中，对于任何线性欠确定性水平，都存在线性稀疏性，可以通过与$\ell_1$等效的SOCP（二阶锥规划）噪声恢复\emph{approximately}。此外，近似解（在$\ell_2$ -范数意义上）保证与稀疏未知向量的距离不超过噪声的常数倍。在本文中，我们还将考虑解决\emph{noisy}线性系统，并提出了一个替代的统计框架，可用于其分析。为了演示框架是如何工作的，我们将展示如何使用它来精确地描述一类广泛的SOCP算法的近似误差。我们还将表明，我们的理论预测是在一个坚实的agrement的结果，可以通过数值模拟得到。
2013-03-29 cs.IT math.IT math.OC
Channel-Optimized Vector Quantizer Design for Compressed Sensing Measurements
我们考虑矢量量化（VQ）传输的压缩感知（CS）测量噪声信道。采用均方误差（MSE）准则来度量稀疏向量与其重构向量之间的失真，推导出CS测量向量编码和稀疏源向量重构的信道优化量化原则。由此产生的必要的最佳条件是用来开发一种算法，通过考虑端到端的失真措施，用于训练信道优化的矢量量化（COVQ）的CS测量。
2014-04-30 cs.IT math.IT
Snapshot compressed sensing: performance bounds and algorithms
快照压缩感测（CS）是指其中多个帧被映射到单个测量帧中的压缩成像系统。所获取的帧中的每个像素是组合在一起的帧中的对应像素的噪声线性映射。虽然这个问题可以被转换为CS问题，但由于传感矩阵的非常特殊的结构，标准CS理论不能用来研究这样的系统。在本文中，一个基于压缩的框架是用于快照CS系统的理论分析。结果表明，这个框架导致两个新的，计算效率和理论分析的压缩为基础的恢复算法。所提出的方法是迭代的，并采用压缩码来定义和施加所需信号的结构。理论上的收敛保证，这两种算法。在模拟中，它示出，在无噪声和噪声测量的情况下，结合所提出的算法与定制的视频压缩代码，旨在利用视频帧的非局部结构，显着提高了最先进的性能。
2019-04-29 cs.IT math.IT
Deterministic Compressed Sensing Matrices from Additive Character Sequences
压缩感知是一种新的技术，它可以从欠采样测量中恢复稀疏信号。在这种对应关系中，一个$K \times N$测量矩阵的压缩感知确定性构造通过添加字符序列。Weil界，然后使用表明，矩阵具有渐近最佳的一致性$N=K^2$，并提出了一个充分条件的稀疏性水平的唯一稀疏恢复。此外，限制等距性质（RIP）的统计研究的确定性矩阵。利用小字母的加性字符序列，压缩感知矩阵可以通过线性反馈移位寄存器有效地实现。数值结果表明，确定性压缩感知矩阵保证可靠的匹配追踪恢复性能的无噪声和噪声的测量。
2010-09-30 cs.IT math.IT
Explicit RIP Matrices in Compressed Sensing from Algebraic Geometry
压缩感知是由E. J. Candés，J. Romberg，T. Tao和D. Donoho在2006年提出了稀疏信号的有效采样，在信号处理中有着广泛的应用。在实际应用中需要显式的限制等距性（RIP）测量矩阵。自2007年以来，R。DeVore，J. Bourgain et al和R. Calderbank等人从不同的数学对象给出了RIP矩阵的几种确定性构造。另一方面，Bajwa和Calderbank等人引入了测量矩阵的强相干性，用于噪声测量下的信号恢复。本文从代数几何的角度提出了一种新的压缩感知实值RIP测量矩阵的显式构造方法。我们的构造表明，使用更一般的代数几何对象，而不是曲线（AG码），RIP测量矩阵在压缩感知可以构建更小的相干性和更大的稀疏阶。代数几何中的RIP矩阵也有一个很好的渐近界，与Bourgain等人以前的构造和小偏差集的界相匹配。在否定的方面，我们证明了DeVore构造的RIP矩阵，它的直接代数几何推广和我们的一个新构造的RIP矩阵不满足强相干性质。然而，我们给出了一个修改后的版本的AG-RIP矩阵，它满足强相干性。因此，新的RIP矩阵在压缩感知从我们修改的代数几何结构可以用于恢复的信号从噪声测量。
2015-05-27 cs.IT math.IT
A problem dependent analysis of SOCP algorithms in noisy compressed sensing
由于\cite{CRT,CanRomTao06,DonohoPol}的结果，具有稀疏解的欠定线性方程组在过去的几年里一直是广泛研究的主题。本文考虑欠定线性系统的\emph{noisy}。在突破性的\cite{CanRomTao06}中，建立了在\emph{noisy}系统中，对于欠确定性的任何线性水平，存在线性稀疏性，其可以通过SOCP（二阶锥规划）优化算法恢复\emph{approximately}，使得近似解向量（在$\ell_2$ -范数意义上）保证与稀疏未知向量的距离不比噪声的常数倍更远。在我们最近的工作\cite{StojnicGenSocp10}，我们建立了一个替代框架，可用于统计性能分析的SOCP算法。为了演示该框架如何工作，我们在\cite{StojnicGenSocp10}中展示了如何使用它来精确表征SOCP的\emph{generic}（最差情况）性能。在本文中，我们提出了一套不同的结果，可以通过\cite{StojnicGenSocp10}的框架。其结果将与SOCP的\emph{problem dependent}性能分析有关。我们将考虑特定类型的未知稀疏向量，并描述SOCP用于恢复此类向量时的性能。我们还将表明，我们的理论预测是在一个坚实的协议，可以通过数值模拟得到的结果。
2013-03-29 cs.IT math.IT stat.ML
Deterministic Compressed Sensing Matrices from Multiplicative Character Sequences
压缩感知是一种新的技术，它可以从欠采样测量中恢复稀疏信号。本文利用乘性特征序列确定性地构造了压缩感知的$K \times N$测量矩阵。确切地说，通过调制单位的本原$M$次根，将$M$元幂剩余或Sidelnikov序列的循环移位的常数倍布置为矩阵的列向量。Weil界证明了矩阵对于大$K$和$M$具有渐近最优相干性，并给出了稀疏解唯一的稀疏水平充分条件.此外，限制等距性质（RIP）的统计研究的确定性矩阵。数值结果表明，确定性压缩感知矩阵保证可靠的匹配追踪恢复性能的无噪声和噪声的测量。
2010-11-11 cs.IT math.IT
Information Theoretic Limits for Standard and One-Bit Compressed Sensing with Graph-Structured Sparsity
在本文中，我们分析了信息论的下限恢复稀疏信号所需的样本数在不同的压缩感知设置。我们专注于加权图模型，这是Hegde等人（2015）提出的基于模型的框架，用于标准压缩感知以及1位压缩感知。我们研究了有噪声和无噪声两种情况。我们的分析是通用的，因为它适用于任何用于恢复信号的算法。我们仔细构造限制合奏不同的设置，然后应用法诺不等式建立必要的样本数量的下限。此外，我们表明，我们的界是紧的一位压缩感知，而对于标准的压缩感知，我们的界是紧的信号中的非零条目的数量的对数因子。
2018-11-16 cs.IT math.IT
Convex Feasibility Methods for Compressed Sensing
我们提出了一种计算效率高的方法，用于从一系列噪声观测中恢复稀疏信号，称为压缩感知（CS）问题。CS理论要求求解一个凸约束最小化问题。我们建议将这个优化问题转化为一个凸可行性问题（CFP），并使用次梯度投影方法，这是迭代的，快速的，鲁棒的和收敛的计划解决CFP解决它。相对于一些最近推出的CS算法，如贝叶斯CS和梯度投影稀疏重建，这成为低效的问题的维数和稀疏度的增加，新提出的方法表现出显着的鲁棒性，这些因素。这使得次梯度投影方法对于大规模可压缩场景是高度可行的。
2010-06-19 cs.IT math.IT
Analysis of Regularized LS Reconstruction and Random Matrix Ensembles in Compressed Sensing
在测量矩阵维数变大的极限下，分析了带噪压缩感知中正则化最小二乘估计的性能。传感矩阵被认为是从一类随机合奏，封闭作为特殊情况下的标准高斯，行正交，几何和所谓的T-正交结构。具有非均匀稀疏性的源向量被包括在系统模型中。在分析中重点讨论了基于l1范数的正则化方法，并给出了基于l1范数的正则化方法的LASSO估计，即基追踪去噪。l2-范数和“零范数”正则化的扩展也简要讨论。结合一些新的矩阵积分的结果，使用副本的方法进行分析。数值实验验证了分析结果的准确性。数值实验表明，对于有噪压缩感知，标准高斯系综是测量矩阵的次优选择。正交构造在所有考虑的场景中提供了优越的性能，并且在实际应用中更容易实现。研究还发现，对于非均匀稀疏模式，当噪声水平不太高时，T-正交矩阵可以进一步改善重建的均方误差行为。然而，由于加性噪声在系统中变得更加突出，简单的行正交测量矩阵似乎是所考虑的集合中的最佳选择。
2016-02-02 cs.IT math.IT
On the entropy of a noisy function
令$0 < ε< 1/2$为噪声参数，并令$T_ε$为作用于布尔立方体$\{0,1\}^n$上的函数的噪声算子。设$f$是$\{0,1\}^n$上的非负函数。我们上界的熵$T_ε f$的平均熵的条件期望的$f$，给定的集合大致$(1-2ε)^2 \cdot n$变量。在信息理论方面，我们证明了以下加强“格伯夫人引理”：让$X$是一个随机二进制向量的长度$n$，并让$Z$是一个噪声向量，对应于一个二进制对称信道的交叉概率$ε$。然后，设置$v = (1-2ε)^2 \cdot n$，我们有（到低阶项）：$$ H\Big(X \oplus Z\Big) \ge n \cdot H\left(ε~+~ (1-2ε) \cdot H^{-1}\left(\frac{{\mathbb E}_{|B| = v} H\Big(\{X_i\}_{i\in B}\Big)}{v}\right)\right) $$作为一个应用程序，我们表明，对于一个布尔函数$f$，这是接近的特征功能$g$的一个子立方体的尺寸$n-1$，熵的$T_ε f$是最多的$T_ε g$。结合Ordentlich、Shayevitz和Weinstein最近的结果，Courtade和Kumar的“最具信息量的布尔函数”猜想对于高噪声$ε\ge 1/2 - δ$和某些绝对常数$δ> 0$成立。也就是说，如果$X$均匀分布在$\{0,…
2016-06-22 cs.IT math.CO math.IT
Relations between $β$ and $δ$ for QP and LP in Compressed Sensing Computations
在许多压缩传感应用中，线性规划（LP）已被用于重建稀疏信号。当观测有噪声时，LP公式被扩展为允许不等式约束，并且解决方案依赖于与观测噪声水平相关的参数$δ$。最近，一些研究人员也考虑了二次规划（QP）的压缩感知信号重建和解决方案，在这种情况下是依赖于一个拉格朗日乘子$β$。本文研究了$δ$与$β$之间的关系，并利用$δ$给出了$β$的上下界.对于给定的$δ$，这些界限可用于近似$β$。由于$δ$是一个物理相关的量，易于确定的应用程序，而一般没有简单的方法来确定$β$，我们的结果可以用来设置$β$时，QP用于压缩感知。我们的研究结果和实验验证也提供了一些洞察压缩感知产生的解决方案。
2010-12-24 cs.IT math.IT
Exact Performance Analysis of the Oracle Receiver for Compressed Sensing Reconstruction
稀疏或可压缩的信号可以从一定数量的噪声随机投影中恢复，小于经典香农/奈奎斯特理论所规定的数量。在本文中，我们推导出的Oracle接收机的均方误差性能的封闭形式的表达式，知道信号的稀疏模式。相对于现有的界限，我们的结果是准确的，不依赖于一个特定的实现的传感矩阵。此外，无论影响测量的噪声是白噪声还是相关噪声，我们的结果都成立。数值结果表明，方程和模拟之间的完美匹配，证实了结果的有效性。
2014-03-07 cs.IT math.IT
Analysis of Compressed Sensing with Spatially-Coupled Orthogonal Matrices
压缩感知（CS）的最新发展表明，使用特殊设计的测量矩阵，即空间耦合矩阵，可以实现CS的信息理论极限。在本文中，我们考虑由空间耦合的\emph{orthogonal}矩阵组成的测量矩阵。这种矩阵的一个示例是随机选择的离散傅里叶变换（DFT）矩阵。这样的选择享有较低的存储器复杂度和较快的乘法过程。我们的贡献是副本计算找到的均方误差（MSE）的贝叶斯最优重建这样的设置。我们说明了空间耦合的正交和高斯集成下的重建阈值是非常不同的，特别是在噪声的情况下。特别地，空间耦合的正交矩阵实现更快的收敛速率、更低的测量速率和减小的MSE。
2014-02-13 cs.IT math.IT
Bayesian hypothesis testing for one bit compressed sensing with sensing matrix perturbation
这封信提出了一个低计算的贝叶斯算法噪声稀疏恢复的上下文中的一位压缩感知与感知矩阵扰动。所提出的算法被称为BHT-MLE包括一个稀疏支持检测器和一个幅度估计器。支持检测器使用贝叶斯假设检验，而幅度估计器使用通过求解凸优化问题获得的ML估计器。仿真结果表明，BHT-MLE算法以较低的计算代价提供了比ML估计（MLE）更高的重建精度。
2015-11-18 cs.IT math.IT stat.ML
Noise Resilient Recovery Algorithm for Compressed Sensing
在这篇文章中，我们讨论了一种新的贪心算法恢复压缩采样信号在噪声条件下。在文献中提出的大多数贪婪恢复算法需要已知信号的稀疏性，或者对于已知的表示基础，从测量的数量来估计稀疏性。这些算法恢复信号时，噪声水平显着低。我们提出了熵最小化匹配追踪（EMP），它有能力拒绝噪声，即使当噪声电平是可比的信号电平。该算法可以满足可压缩信号和信号的稀疏性是事先未知的。仿真结果表明，该算法与传统的贪婪恢复算法相比，对高斯白噪声具有更好的鲁棒性。
2014-12-17 cs.IT math.IT
Recovery Guarantees for Posterior Sampling of One-Bit Compressed Sensing
University of Electronic Science and Technology of China（电子科技大学）
该研究针对带先验的噪声1比特压缩感知，证明后验采样的恢复上界与下界几乎匹配，通过带扩散先验的即插即用算法实现后验采样，在FFHQ、ImageNet数据集上验证了方法有效性。
2026-10-14 cs.IT cs.LG math.IT
Robust one-bit compressed sensing with partial circulant matrices
我们提出了一个现实的情况下，一位压缩感知问题的最佳样本复杂度估计：该程序使用结构化矩阵（随机子采样循环矩阵），是强大的模拟预量化噪声以及对抗性的比特腐败的量化过程。我们的研究结果意味着，量化是不是一个统计上昂贵的过程中存在的非平凡的模拟噪声：恢复需要相同的样本大小，一个将需要有高斯测量矩阵和噪声模拟测量数据。
2018-12-17 cs.IT eess.SP math.IT
Signal Estimation with Additive Error Metrics in Compressed Sensing
压缩感知通常处理从其噪声破坏的线性测量中估计系统输入，其中测量的数量小于输入分量的数量。估计过程的性能通常通过一些标准误差度量来量化，例如平方误差或支持集误差。在这种对应关系中，我们考虑一个有噪声的压缩感知问题，任何任意的误差度量。我们提出了一个简单，快速，高度通用的算法，估计原始信号，通过最小化由用户定义的误差度量。我们验证了我们的算法是最佳的，由于解耦原则，我们描述了一个一般的方法来计算任何错误度量的基本信息理论的性能限制。我们提供了两个示例度量-最小平均绝对误差和最小平均支持误差-并给出了这两种情况下的理论性能限制。实验结果表明，我们的算法优于方法，如松弛的信念传播（松弛BP）和压缩采样匹配追踪（CoSaMP），并达到建议的理论极限，我们的两个例子度量。
2013-10-04 cs.IT math.IT
Shannon Theoretic Limits on Noisy Compressive Sampling
在本文中，我们研究了在存在噪声的情况下，从压缩样本中恢复具有$L$非零系数的${\mathbb C}^M$中的稀疏信号所需的测量次数。对于一些不同的恢复标准，我们证明了$O(L)$（一个渐进的线性多个$L$）测量是必要的和充分的，如果$L$线性增长的函数$M$。这改进了现有文献，其主要集中在基于凸规划的特定恢复算法的变体上，为此需要$O(L\log(M-L))$测量。我们还表明，$O(L\log(M-L))$测量需要在次线性政权（$L = o(M)$）。
2007-11-02 cs.IT math.IT
A probabilistic and RIPless theory of compressed sensing
本文介绍了一种简单而通用的压缩感知理论。在该理论中，感测机制简单地从概率分布F中随机独立地选择感测向量;它包括文献中讨论的所有模型-例如高斯，频率测量，但也为新的测量策略提供了框架。我们证明，如果概率分布F服从一个简单的不相干性和各向同性的属性，可以忠实地恢复近似稀疏的信号从最少数量的噪声测量。新颖之处在于，我们的恢复结果不需要限制等距属性（RIP）-它们使用一个弱得多的概念-或信号的随机模型。作为一个例子，该文件表明，一个信号与s非零项目可以忠实地恢复从约s log n傅立叶系数被噪声污染。
2010-11-19 cs.IT math.IT
Subspace Thresholding Pursuit: A Reconstruction Algorithm for Compressed Sensing
提出了一种新的迭代贪心算法，用于压缩感知中稀疏信号的重构。该算法称为\emph{subspace thresholding pursuit}（STP），本文中，是一个简单的子空间追求和迭代硬阈值的组合。首先，STP在约束等距性方面具有与$\ell_1$极小化相当的理论保证。其次，通过调整参数，一方面，在重构高斯信号时，该算法的性能大大优于其他现有的重构算法;另一方面，在重构具有随机符号的等幅信号时，该算法的性能优于其他现有的迭代贪心算法，在欠采样率不是很大的情况下，该算法的性能甚至优于$\ell_1$最小化算法。此外，我们提出了一个简单而有效的方法，以提高经验性能进一步，如果欠采样率是大的。最后，通过借鉴STP的思想，证明了其他迭代贪心算法可以提高其经验性能。
2014-05-21 cs.IT math.IT
Approximate Message Passing-based Compressed Sensing Reconstruction with Generalized Elastic Net Prior
本文研究了具有广义弹性网先验（GENP）的压缩感知重构问题，其中稀疏信号通过含噪欠定线性观测系统采样，并且在重构过程中可获得信号的附加初始估计（GENP）.我们首先将GENP纳入LASSO和近似消息传递（AMP）框架，分别表示为GENP-LASSO和GENP-AMP。然后，我们调查的参数选择，状态演变，和噪声敏感性分析的GENP-AMP。我们表明，由于GENP，在所提出的框架中没有相变边界，即，重构误差在整个平面内是有界的。误差也小于标准AMP和标量去噪的误差。一个实用的无参数版本的GENP-AMP也被开发出来，它不需要知道未知信号的稀疏性和GENP的方差。仿真结果验证了所提出方案的有效性。
2015-02-18 cs.IT math.IT
Variational Bayesian algorithm for quantized compressed sensing
压缩感知（Compressed Sensing，CS）是在稀疏先验下从高维信号的低维线性测量中恢复高维信号的算法，在实际应用中，测量数据的数字量化是不可避免的。在现有的文献中，量化误差通常被建模为加性噪声，并且使用不同的处理方法和程序分别处理多比特和1比特量化CS问题。本文提出了一种新的基于变分贝叶斯推理的压缩感知算法，它统一了多比特和1比特压缩感知处理，适用于无噪/有噪环境和量化器不饱和/饱和的各种情况。通过将量化误差与测量噪声解耦，量化误差被建模为随机变量并且与被恢复的信号联合估计。这种新的量化误差的表征结果在优越的性能的算法，这是证明了广泛的模拟与国家的最先进的方法相比，多位和1位CS问题。
2013-03-29 cs.IT math.IT
A note on reductions between compressed sensing guarantees
在压缩感测中，希望经由$m\ll n$噪声线性测量来获取近似稀疏的高维信号$x\in\mathbb{R}^n$，然后稍后仅在给定那些测量结果的情况下近似地恢复$x$。各种保证已被研究的概念近似恢复，一些孤立的民间传说的结果是已知的，说明某些形式的恢复比其他人更强，通过黑箱减少。在本说明中，我们提供了一个一般定理的强度等级的各种恢复保证。作为这个定理的推论，通过减少从压缩感知文献中的知名结果，我们得到了一个有效的$\ell_p/\ell_p$计划的任何$0<p<1$与最少数量的测量，目前已知的有效计划，提高最近的界限[SomaY16]。
2016-06-05 cs.DS cs.IT math.IT
The Sampling Rate-Distortion Tradeoff for Sparsity Pattern Recovery in Compressed Sensing
从有限数量的噪声线性测量中恢复未知稀疏向量的稀疏模式（或支持）是压缩感知中的一个重要问题。在高维设置中，它是已知的，如果测量速率和每个样本的信噪比（SNR）是有限的常数，独立于向量长度的误差的消失分数的恢复是不可能的。在本文中，它是一个任意小的，但恒定的错误分数的恢复是可能的，但是，在某些情况下，计算简单的估计是接近最优的。给出了几种不同的恢复算法的SNR和未知向量的各种关键参数方面的测量速率，以达到所需的误差分数的界限。的紧密性的界限，在缩放的意义上，作为SNR和错误的分数的函数，建立与现有的信息理论的必要界限的比较。近最优性示出了各种各样的实际动机的信号模型。
2012-06-25 cs.IT math.IT
An Estimation Theoretic Approach for Sparsity Pattern Recovery in the Noisy Setting
压缩感知处理稀疏信号的重建，使用少量的线性测量。压缩感知的主要挑战之一是找到稀疏信号的支持。在文献中，成功的支持恢复的测量的数量的缩放定律的几个界限已被导出，其中主要的焦点是随机高斯测量矩阵。在本文中，我们调查的噪声支持恢复问题，从估计理论的角度来看，没有具体的假设是对底层的测量矩阵。线性测量受到加性高斯白噪声的干扰。我们将支持度估计器的输出定义为一组按递增顺序排列的位置值。我们将真实支持度和估计支持度之间的误差设置为它们之差的$\ell_2$ -范数。一方面，这种选择允许我们使用$\ell_2$ -范数误差度量背后的机制，另一方面，将支持恢复转换为更直观的几何问题。首先，通过使用Hammersley-Chapman-Robbins（HCR）界，我们得到了一个基本的下界的性能的任何\emph{unbiased}估计的支持集。这个下限为我们提供了必要的条件，可靠的$\ell_2$范数支持恢复，我们专门评估均匀高斯测量矩阵的测量数量。然后，我们分析了最大似然估计和推导条件下，HCR界是可实现的。这导致我们的最佳解码器，这是足够的可靠的$\ell_2$范数支持恢复的测量的数量。使用这个框架，我们专门评估均匀高斯测量矩阵的充分条件。
2009-11-25 cs.IT math.IT
A Dimension-Keeping Semi-Tensor Product Framework for Compressed Sensing
Shandong University（山东大学）；Lakehead University（湖首大学）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）
本文提出一种保持维度的半张量乘积框架，通过利用组内相关性和保持组间不相干性，提升压缩感知的测量矩阵设计，从而在图像压缩与重建中实现更高的PSNR和鲁棒性。
2025-10-15 cs.IT math.IT
A Short Note on Compressed Sensing with Partially Known Signal Support
这篇短文研究了Vaswani等人最近引入的压缩感知范式的一种变体，即当信号支持部分已知时从一定数量的线性测量恢复稀疏信号。重建方法是基于一个凸最小化程序创造的“创新的基础追踪去噪”（或iBPDN）。在对可用测量进行的公共$\ell_2$保真度约束下，该优化在该已知部分的补充上促进候选信号的（$\ell_1$）稀疏性。特别是，本文将Vaswani等人的结果扩展到可压缩信号和噪声测量的情况。我们的证明依赖于Candes在2008年的结果的一个小的适应性，用于表征基追踪去噪（BPDN）程序的稳定性。我们还强调我们的方法和达文波特等人最近的工作之间的一个有趣的联系。$δ$稳定的嵌入和“取消，然后恢复”的战略适用于我们的问题。对于这两种方法，当感测矩阵对于相同的稀疏阶遵守受限等距属性时，重建确实是稳定的。最后，我们勾勒出一个简单的数值方法依赖于单调算子分裂和邻近的方法，迭代求解iBPDN。
2010-02-21 cs.IT math.IT
Fusion of Greedy Pursuits for Compressed Sensing Signal Reconstruction
贪婪追踪算法是压缩感知中稀疏信号恢复的一种常用算法。虽然许多贪婪的追求具有优雅的理论保证的性能，它是众所周知的，它们的性能取决于稀疏信号中的非零元素的统计分布。在实践中，稀疏信号的分布可能不是先验已知的。它还观察到，贪婪的追求的性能下降，可用的测量值的数量从一个阈值，这是方法相关的减少。为了提高在这些情况下的性能，我们引入了一个新的融合框架贪婪的追求，也提出了两个算法稀疏恢复。通过蒙特卡罗模拟，我们表明，所提出的计划，提高稀疏信号恢复干净，以及噪声测量的情况下。
2012-06-19 cs.IT math.IT stat.AP
Two algorithms for compressed sensing of sparse tensors
压缩感知（CS）利用信号的稀疏性，以集成采集和压缩。CS理论能够通过合适的非线性最小化过程从相对较少的线性测量精确重建稀疏信号。传统的CS理论依赖于矢量数据表示，这以增加的计算复杂性为代价产生良好的压缩比。在涉及彩色图像、视频序列和多传感器网络的应用中，数据本质上是高阶的，因此更适合用张量形式表示。CS对高阶数据的标准应用通常涉及将数据表示为长向量，这些长向量又使用大的采样矩阵来测量，因此施加了巨大的计算和存储负担。在本章中，我们介绍广义张量压缩感知（GTCS）-高阶张量的压缩感知的统一框架，它保留了张量数据的内在结构，降低了重建时的计算复杂性。我们证明，GTCS提供了一个有效的手段，通过提供同时采集和压缩所有张量模式的多维数据表示。此外，我们提出了两个重建程序，一个串行的方法（GTCS-S）和一个并行的方法（GTCS-P），都能够恢复张量的基础上无噪声和噪声的意见。然后，我们比较了所提出的方法与克罗内克压缩感知（KCS）和多路压缩感知（MWCS）的性能。我们的实验表明，GTCS优于KCS和MWCS的重建精度（在一定范围内的压缩比）和处理速度。我们的方法（以及MWCS）的主要缺点是，实现的压缩比可能比KCS提供的压缩比更差。
2014-09-03 cs.IT math.IT
Compressed Sensing Signal Recovery via Forward-Backward Pursuit
从压缩测量中恢复稀疏信号构成了l0范数最小化问题，这是不切实际的解决。一些稀疏恢复方法已经出现在文献中，包括l1最小化技术，贪婪追求算法，贝叶斯方法和非凸优化技术等。本文介绍了一种新颖的两阶段贪婪方法，称为向前向后追踪（FBP）。FBP是一种迭代方法，其中每次迭代由连续的向前和向后阶段组成。前向步骤首先通过前向步长扩展支持估计，而随后的后向步骤通过后向步长缩小支持估计。前向步长大于后向步长，因此在每次迭代结束时扩展初始空支持度估计。迭代向前和向后步骤，直到观察向量的残余功率下降到阈值以下。与子空间追踪或压缩采样匹配追踪算法相比，FBP的这种结构不需要先验地知道稀疏水平。FBP恢复性能证明通过模拟，包括恢复随机稀疏信号与不同的非零系数分布在噪声和无噪声的情况下，除了恢复稀疏图像。
2013-07-06 cs.IT math.IT
Compressed Sensing under Matrix Uncertainty: Optimum Thresholds and Robust Approximate Message Passing
在压缩感知中，通过线性变换直接以压缩形式测量稀疏信号，然后重构原始信号。然而，通常情况下，线性变换本身只是近似已知的，这种情况称为矩阵不确定性，并且测量过程是有噪声的。在这里，我们提出了两个贡献这个问题：第一，我们使用的副本方法来确定矩阵不确定性下的稀疏信号的贝叶斯最优重建的均方误差。其次，我们考虑了一个强大的变种的近似消息传递算法，并证明数值上，在大系统的限制，该算法匹配的最佳性能在一个大的参数区域。
2013-01-05 cond-mat.stat-mech cs.IT math.IT
Compressed Sensing using Generative Models
University of Texas at Austin（德克萨斯大学奥斯汀分校）
压缩感知的目标是通过利用相关域中向量结构的先验知识，从噪声线性测量的欠定系统中估计向量。对于几乎所有的结果，在这篇文献中，结构表示稀疏在一个精心选择的基础。我们展示了如何实现类似于标准压缩感知的保证，但根本不采用稀疏性。相反，我们假设向量位于生成模型$G: \mathbb{R}^k \to \mathbb{R}^n$的范围附近。我们的主要定理是，如果$G$是$L$，那么大致$O(k \log L)$随机高斯测量足以保证$\ell_2/\ell_2$恢复。我们使用来自已发表的变分自动编码器和生成对抗网络的生成模型来证明我们的结果。我们的方法可以使用$5$ - $10$ x少的测量比Lasso相同的精度。
2017-03-09 cs.IT cs.LG math.IT
On U-Statistics and Compressed Sensing I: Non-Asymptotic Average-Case Analysis
Hoeffding的U-统计模型组合型矩阵参数（出现在CS理论）以一种自然的方式。本文提出使用这些统计分析随机压缩感知矩阵，在非渐近制度（相关的实践）。其目的是解决某些悲观主义的“最坏情况下”限制等距分析，观察到的布兰查德和Dossal等。我们展示了如何U-统计可以获得“平均情况”的分析，有关统计限制等距属性（StRIP）类型的恢复保证。然而，与标准StRIP不同的是，不需要随机信号模型;这里的分析在几乎肯定（概率）的意义上成立。对于高斯/有界项矩阵，我们表明，l1-最小化和LASSO本质上需要的顺序为k \cdot [ \log（（n-k）/u）+ \sqrt{2(k/n) \log(n/k)} ]测量，分别恢复至少1- 5 u分数，和1-4u分数，信号。考虑噪声条件。经验证据表明，我们的分析比较以及Donoho和坦纳最近的大偏差界限为l0/l1-等价，在政权的块长度1000-3000高欠采样（50-150测量），类似的系统大小被发现在最近的CS实现。在这项工作中，它是假设在整个矩阵列独立采样。
2012-10-30 cs.IT math.IT
Compressed Sensing of Simultaneous Low-Rank and Joint-Sparse Matrices
在本文中，我们考虑从一组不完整且有噪声的线性测量中恢复高维数据矩阵的问题。我们引入了一个新的模型，可以有效地限制自由度的问题，是通用的，足以找到很多的应用，例如在多通道信号压缩传感（如传感器网络，高光谱成像）和压缩稀疏主成分分析（S-PCA）。我们假设数据矩阵同时具有低秩和联合稀疏结构，我们提出了一种新的方法，有效的压缩感知（CS）的数据。我们的CS恢复方法是基于一个凸最小化问题，结合了这种限制性的结构，共同正则化的解决方案，其核（迹）规范和L2/L1混合规范。我们的理论分析使用了一个新的概念，限制等距属性（RIP），并表明，采样方案满足RIP，我们的方法可以稳定地恢复所有低秩和联合稀疏矩阵。对于一类满足特定浓度界的随机抽样方案（例如，亚高斯系综），我们推导出CS测量的数量上的下限，表明我们的恢复方法的接近最优性以及与最先进的技术相比的显著增强。我们引入了一种基于邻近演算的迭代算法，以解决联合核和l2/l1范数极小化问题，最后通过一系列数值实验说明了这种方法的经验恢复相变。
2012-11-21 cs.IT math.IT
Sequential Compressed Sensing
压缩感知允许仅使用少量随机测量来完美地恢复稀疏信号（或在某种基础上稀疏的信号）。压缩感知文献中的现有结果集中于通过界定给定信号稀疏度水平所需的样本数量来表征可实现的性能。然而，使用这些界限来最小化样本的数量需要未知信号的稀疏性的先验知识，或者近稀疏信号的衰减结构。此外，有一些流行的恢复方法，没有这样的界限是已知的。在本文中，我们研究了另一种情况下，观测序列。对于任何恢复方法，这意味着现在存在候选重建的序列。我们提出了一种方法来估计重建误差直接从样本本身，在这个序列中的每个候选人。该估计是通用的，因为它仅基于测量集合，而不是基于恢复方法或未知信号的任何假设的稀疏水平。有了这些估计，现在只要有合理的确定性，可以立即停止观察，或者精确或足够准确的重建。它们还提供了一种方法来获得“运行时”的恢复方法，否则缺乏先验的性能界限的保证。我们调查连续（如高斯）和离散（如伯努利）随机测量合奏，无论是精确稀疏和一般近稀疏信号，噪声和无噪声测量。
2010-03-01 cs.IT math.IT
Neural Signal Multiplexing via Compressed Sensing
由于神经干扰和神经噪声，神经信号在大脑中的传输具有挑战性。有实验证据表明，感觉信息在神经元群体中多路复用，特别是在脊椎动物的视觉和嗅觉系统中。最近，已经发现在大脑的外侧顶内皮层中，决策信号与决策无关的视觉信号复用。此外，众所周知，一些皮层神经元表现出混乱的尖峰模式。混沌神经信号的复用以及它们在干扰和噪声中在神经元中的成功解复用是很难解释的。在这项工作中，提出了一种新的压缩感知模型的高效复用混沌神经信号构建的Hindmarsh-Rose尖峰模型。在存在$10^4$干扰噪声神经信号的情况下，将信号从突触前神经元复用到其相邻的突触后神经元，并使用压缩感测技术解复用。
2016-01-13 cs.IT math.IT nlin.CD
A Structured Construction of Optimal Measurement Matrix for Noiseless Compressed Sensing via Analog Polarization
在本文中，我们提出了一种结构化的无噪声压缩感知（CS）的最佳测量矩阵的构造方法，它实现了最小数量的测量，只需要像要恢复的信号本身的稀疏性一样大，以保证几乎无差错的恢复，对于足够大的尺寸。为了达到的结果，我们采用了无噪CS和模拟编码之间的对偶稀疏加性噪声信道（SANC）。将Renyi信息维推广到互信息维（MID），证明了MID的运算意义是在线性模拟编码约束下，SANC上模拟传输渐近无差错的基本极限。我们证明了MID极化后的模拟极变换，并遵守相同的递归关系BEC。我们进一步证明了模拟极化编码可以达到的基本限制，可实现的尺寸率与消失的Pe跨SANC。从对偶性出发，提出了一种线性测量矩阵的结构化构造方案，使无噪声CS的测量要求达到最小。
2014-12-29 cs.IT math.IT
Compressed Sensing with Deep Image Prior and Learned Regularization
University of Texas（得克萨斯大学）；University of Southern California（南加利福尼亚大学）
我们提出了一种使用未经训练的深度生成模型进行压缩感知恢复的新方法。我们的方法基于最近提出的深度图像先验（DIP），其中网络的卷积权重被优化以匹配观察到的测量。我们表明，这种方法可以应用于解决任何可微线性逆问题，优于以前的未学习的方法。与基于生成模型的各种学习方法不同，我们的方法不需要在大型数据集上进行预训练。我们进一步介绍了一种新的学习正则化技术，它结合了网络权重的先验信息。这减少了重建误差，特别是对于有噪声的测量。最后，我们证明，使用DIP优化方法，适度过参数化的单层网络可以完美地拟合任何信号，尽管非凸性的拟合问题。这一理论结果为早期停止提供了依据。
2020-10-29 cs.IT cs.LG math.IT
Noisy Signal Recovery via Iterative Reweighted L1-Minimization
University of California, Davis（加州大学戴维斯分校）
本文分析含噪情况下的迭代重加权L1最小化方法，并证明其误差界优于标准L1最小化方法。
2009-04-24 cs.IT cs.NA math.IT
Robust Compressed Sensing using Generative Models
UT Austin（德克萨斯大学奥斯汀分校）
压缩感知的目标是从欠定的噪声线性方程组中估计高维向量。类似于经典压缩感知，这里我们假设生成模型作为先验，即，我们假设向量由深度生成模型$G: \mathbb{R}^k \rightarrow \mathbb{R}^n$表示。经典的恢复方法，如经验风险最小化（ERM），保证成功时的测量矩阵是亚高斯。然而，当测量矩阵和测量是重尾的或具有离群值时，恢复可能会显著失败。在本文中，我们提出了一个算法的启发，中位数的平均值（MENS）。我们的算法保证恢复重尾数据，即使在存在离群值。理论上，我们的研究结果表明，我们的新的基于MOM的算法享有相同的样本复杂度保证下的次高斯假设的ERM。我们的实验验证了我们的主张的两个方面：其他算法确实是脆弱的，失败的重尾和/或损坏的数据，而我们的方法表现出预测的鲁棒性。
2021-06-23 cs.IT cs.LG math.IT
Robust 1-bit Compressed Sensing with Iterative Hard Thresholding
University of California San Diego（加州大学圣地亚哥分校）
本文研究1比特压缩感知中的噪声鲁棒性，证明BIHT算法在对抗性符号翻转下，以相同测量数实现$\tilde{O}(\epsilon+\tau)$误差，保持通用性，确立了迭代硬阈值的稳定性。
2023-10-12 cs.DS cs.IT cs.LG
Lower Bounds for Compressed Sensing with Generative Models
UT Austin（德克萨斯大学奥斯汀分校）
压缩感知的目标是从有限数量的噪声线性测量$y \approx Ax$中学习结构化信号$x$。在传统的压缩感知中，“结构”是用稀疏性来表示的。受深度学习在图像建模方面的成功启发，最近从~ \cite{BJPD17}开始的工作考虑了来自生成模型$G: \mathbb{R}^k \to \mathbb{R}^n$的结构。我们提出了两个结果，建立后一项任务的难度，现有的界限是紧的。首先，我们从$L$ -Lipschitz生成模型$G$中提供了一个与压缩感知的~ \cite{BJPD17}上界相匹配的下界。特别地，存在这样的函数，其需要大致$Ω(k \log L)$线性测量以使稀疏恢复成为可能。这甚至适用于\emph{nonuniform}恢复的更宽松的目标。其次，我们证明了生成模型将稀疏性概括为结构的表示。特别地，我们构建了一个基于ReLU的神经网络$G: \mathbb{R}^{2k} \to \mathbb{R}^n$，其中$O(1)$层和每层的$O(kn)$激活，使得$G$的范围包含所有$k$稀疏向量。
2019-12-06 cs.DS cs.IT cs.LG
Compressed Blind De-convolution
Boston University（波士顿大学）
假设信号x通过驱动k稀疏信号u通过任意未知的稳定离散线性时不变系统H来实现。这些类型的过程在反射地震学中自然出现。在本文中，我们感兴趣的几个问题：（a）盲反卷积：我们可以恢复过滤器$H$和稀疏信号$u$从噪声测量？(b)压缩感知：在传统意义上的压缩感知中，x是可压缩的吗？也就是说，x、u和H可以从稀疏的测量集合中重建。我们开发了新的L1最小化方法来解决这两种情况，并建立了充分条件的情况下，当未知系统H是自回归（即所有极点）的一个已知的顺序精确恢复。在压缩感测/采样设置中，证明了在u的支撑结构上在某些技术条件下可以从O（k log（n））测量值重建H和x。我们的主要思想是将x通过线性时不变系统G，并收集O（k log（n））的连续测量。适当地选择滤波器G，即其相关的Toeplitz矩阵满足RIP性质。我们开发了一种新的LP优化算法，并表明未知滤波器H和稀疏输入u都可以可靠地估计。
2010-01-25 cs.IT cs.LG math.IT
