Denoising guarantees for optimized sampling schemes in compressed sensing
University of British Columbia（英属哥伦比亚大学）；CNRS（法国国家科学研究中心）；PIMS International Research Laboratory（PIMS国际研究实验室）
本文针对压缩感知中的优化采样方案，首次证明了在高斯噪声下测量误差随测量数增加而消失的理论保证，并验证了其在生成式ReLU网络和稀疏向量集上的去噪表现。
2025-04-01 cs.IT cs.LG eess.SP
Uncertainty Quantification for Matrix Compressed Sensing and Quantum Tomography Problems
我们构造极小极大最优非渐近置信集的低秩矩阵恢复算法，如矩阵Lasso或Dantzig选择器。这些被用来设计自适应序贯抽样程序，保证恢复的真实矩阵Frobenius范数后，数据驱动的停时$\hat n$的测量，必须采取的数量。在很大的概率下，这个停时是极大极小最优的。我们详细的应用程序，量子层析成像的问题，测量产生的泡利观测。我们还给出了在核范数下具有最佳直径的量子态密度矩阵的置信集的理论构造。我们的信心集的非渐近性质进一步研究在模拟研究。
2015-12-21 math.ST quant-ph stat.TH
Unknown sparsity in compressed sensing: Denoising and inference
压缩感知（CS）理论认为，如果$x$足够稀疏，则可以利用$n\ll p$从欠定的$n$线性测量集合中准确地恢复未知信号$x\in\mathbb{R}^p$。然而，在实际应用中，$\|x\|_0$的稀疏程度通常是未知的，直接估计$\|x\|_0$的问题一直是理论和实践之间的长期差距。一个密切相关的问题是，$\|x\|_0$是一个高度理想化的稀疏性度量，对于条目不等于0的真实信号，值$\|x\|_0=p$不是可压缩性的有用描述。在我们之前的会议论文[Lop13]中，我们研究了这些问题，我们考虑了“软”稀疏性的替代度量$\|x\|_1^2/\|x\|_2^2$，并设计了一个不依赖于稀疏性假设的估计$\|x\|_1^2/\|x\|_2^2$的过程。本文提出了一种新的基于反卷积的未知稀疏度估计方法，具有更广泛的适用性和更强的理论保证。特别是，我们引入了一个家庭的基于熵的稀疏措施$s_q(x):=\big(\frac{\|x\|_q}{\|x\|_1}\big)^{\frac{q}{1-q}}$参数化的$q\in[0,\infty]$。由于$q$的范围大于$[0,2]$，因此该系列介于$\|x\|_0=s_0(x)$和$\|x\|_1^2/\|x\|_2^2=s_2(x)$之间。对于任何$q\in (0,2]\setminus\{1\}$，我们提出了一个估计$\hat{s}_q(x)$的相对误…
2017-08-31 cs.IT math.IT math.ST
Minimax Estimation of Linear Functions of Eigenvectors in the Face of Small Eigen-Gaps
University of Pennsylvania（宾夕法尼亚大学）；Princeton University（普林斯顿大学）
特征向量扰动分析在各种数据科学应用中起着至关重要的作用。然而，大量的现有工作集中于建立$\ell_{2}$特征向量扰动边界，这在解决依赖于特征向量的细粒度行为的任务时通常是非常不充分的。本文通过研究未知特征向量的线性函数的扰动，在这方面取得了进展。聚焦于两个基本问题-矩阵去噪和主成分分析-在高斯噪声的存在下，我们开发了一套统计理论，其特征在于一个未知的特征向量的任意线性函数的扰动。为了减轻自然"插件“估计器固有的不可忽略的偏差问题，我们开发了去偏估计器，该估计器（1）实现了一系列场景的最小最大下界（模一些对数因子），并且（2）可以以数据驱动的方式计算，而无需样本分裂。值得注意的是，所提出的估计是近极大极小最优的，即使当相关的特征间隙是{ \em大大小于}比所需的先验统计理论。
2022-07-05 cs.IT cs.LG math.IT
Signal-to-noise ratio aware minimax analysis of sparse linear regression
针对现有极小极大分析忽略信噪比影响及无法区分最优估计量性能的问题，本文提出SNR感知的极小极大框架，采用高阶渐近分析确定低、中、高三个SNR区间，揭示不同最优估计量的行为差异，为稀疏信号估计提供新见解。
2025-01-23 math.ST stat.TH
Gaussian Approximation of Quantization Error for Estimation from Compressed Data
我们考虑了高维信号$X$使用随机球码的有损压缩表示与加性高斯白噪声（AWGN）下$X$的观测之间的分布连接。我们发现，在一个AWGN信道的信号噪声比$2^{2R}-1$的$X$和它的观察的比特率- $R$压缩版本之间的Wasserstein距离是次线性的问题的维度。我们利用这一事实来连接基于$X$的AWGN损坏版本的估计器的风险，以获得相同的估计器时，其比特率- $R$量化的版本。我们证明了这种连接的有用性，推导出各种新的结果压缩约束下的推理问题，包括极大极小估计，稀疏回归，压缩感知，和线性估计在远程信源编码的普遍性。
2021-12-12 cs.IT math.IT stat.ML
A note on the minimax risk of sparse linear regression
Columbia University（哥伦比亚大学）；Michigan State University（密歇根州立大学）
本文推导了稀疏线性回归在各项同性高斯随机设计下极小风险的渐近精确表达式，即$2\sigma^2 k/n \log(p/k)$，并总结了现有结果和未解决问题。
2026-06-18 math.ST stat.TH
SUNLayer: Stable denoising with generative networks
SUNLayer通过基于球谐函数的理论框架，为生成网络提供了稳定去噪的条件和实验验证。
2026-02-20 cs.LG stat.ML
Wide spectrum denoising (WSD) for superresolution microscopy imaging using compressed sensing and a high-resolution camera
使用压缩感知和高分辨率相机的超分辨率显微成像的宽谱去噪（WSD）
2020-06-08 cs.IT eess.IV math.IT
Minimax estimation of Functional Principal Components from noisy discretized functional data
本文针对带噪离散化功能数据，提出双渐近框架，证明基于直方图投影的功能主成分估计达到极小极大最优收敛速率，并在模拟与基因组数据上验证。
2025-04-25 stat.ME
Universal Minimax Discrete Denoising under Channel Uncertainty
去噪算法的目标是从其噪声破坏的观测中恢复信号。完美的恢复很少是可能的，性能是在给定的单字母保真度标准下测量的。对于离散信号损坏的一个已知的离散无记忆通道，DUDE最近被证明执行这项任务渐近最优，而不知道的统计特性的来源。在目前的工作中，我们解决的情况下，除了缺乏知识的源统计，也有不确定性的信道特性。我们提出了一个家庭的离散去噪，并建立他们的渐近最优性下的极大极小性能标准，我们认为是适合这种设置。正如我们在其他地方所示，所提出的方案也可以有效地实现计算。
2005-08-17 cs.IT math.IT
Low-rank matrix completion and denoising under Poisson noise
Georgia Institute of Technology（佐治亚理工学院）
本文针对泊松噪声下的低秩矩阵去噪与补全问题，分析三种估计器并给出依赖秩、观测比例及行列和的上界误差，证明其极小极大最优性，并扩展到多项情形。
2020-04-30 cs.LG math.ST stat.ML
Estimating Unknown Sparsity in Compressed Sensing
在压缩感知（CS）理论中，||x||通常假定未知信号x \in \R^p的参数x_0是已知参数。然而，它在实践中通常是未知的。由于CS的许多方面取决于了解||x||_0时，以数据驱动的方式估计此参数非常重要。第二个实际问题是，||x||_0是x的高度不稳定函数。特别地，对于具有不完全等于0的条目的实信号，||x||_0=p不是有效坐标数的有用描述。在本文中，我们提出估计稀疏性s（x）的稳定度量：||x||_1^2/||x||_2^2，这是一个尖锐的下界，||x||_0。我们的估计过程只使用少量的线性测量，不依赖于任何稀疏性假设，并且需要很少的计算。提供了一个置信区间s（x），它的宽度被证明是没有依赖于信号的尺寸p。此外，这个结果自然延伸到矩阵恢复设置，其中软版本的矩阵秩可以估计类似的保证。最后，我们证明了随机测量的使用对于估计s（x）是必不可少的。这是通过证明当n<<p时，用确定性测量估计s（x）的极大极小风险很大来实现的。
2013-02-25 cs.IT math.IT math.ST
Dantzig Selector with an Approximately Optimal Denoising Matrix and its Application to Reinforcement Learning
Auburn University（奥本大学）；University of Wisconsin Madison（威斯康星大学麦迪逊分校）；University of Rochester（罗切斯特大学）
Dantzig小波（DS）被广泛应用于压缩感知和稀疏学习中的特征选择和稀疏信号恢复。由于DS公式本质上是一个线性规划优化，许多现有的线性规划求解器可以简单地应用于按比例放大。DS公式可以被解释为基追踪去噪问题，其中数据矩阵（或测量矩阵）被用作去噪矩阵以消除观测噪声。然而，我们注意到，数据矩阵可能不是最佳去噪矩阵，如一个简单的反例所示。这促使我们追求更好的去噪矩阵来定义一般的DS公式。我们首先通过极大极小优化定义最佳去噪矩阵，这是一个NPhard问题。为了使问题计算上易于处理，我们提出了一种新的算法，称为最佳去噪Dantzig矩阵（ODDS），近似估计的最佳去噪矩阵。实验结果验证了该方法的有效性。最后，将ODDS算法扩展到时域差分学习，提出了一种新的稀疏强化学习算法，实验结果表明，该算法的性能优于传统的vanilla DS-TD算法.
2018-11-02 cs.AI cs.LG stat.ML
The Noise-Sensitivity Phase Transition in Compressed Sensing
考虑线性方程的噪声欠定组：y= Ax 0 + z 0，其中n × N测量矩阵A，n < N，高斯白噪声z 0 ~ N（0，σ^2 I）。y和A都已知，x 0和z 0都未知，我们寻求x 0的近似值。当x 0有几个非零值时，通过l1-惩罚l2最小化获得有用的近似，其中重建\hxl求解min|| y轴||^2/2 + λ| |x||_1。通过均方误差（MSE = E）评估性能||\hxl - x0||_2^2/N）。考虑具有iid高斯元素和大系统极限的矩阵A，其中n，N \to \infty具有n/N \to δ和k/n \to ρ。将MSE/σ^2的比值称为噪声灵敏度。我们开发正式表达式的MSE的\hxl，并评估其最坏情况下的正式噪声灵敏度在所有类型的k-稀疏信号。曲线ρ= \rhoMSE（δ）将相空间0 < δ，ρ< 1分为两个区域。形式噪声灵敏度在整个区域ρ< \rhoMSE（δ）中是有界的，并且在整个区域ρ> \rhoMSE（δ）中是无界的。相位边界ρ= \rhoMSE（δ）与已知的k稀疏无噪声情况下l1 - l0最小化的等效相变曲线相同。因此，一个单一的相位边界描述了基本的相位过渡，无噪声和噪声的情况下。大量的计算实验验证了这种形式主义的预测，包括存在的博弈理论结构的基础it. Underlying我们的形式主义是AMP算法之前介绍的作者。作者的其他论文详细介绍了AMP的形式M…
2010-04-08 cs.IT math.IT math.ST
Nonconvex Latent Optimally Partitioned Block-Sparse Recovery via Log-Sum and Minimax Concave Penalties
Nagoya Institute of Technology（名古屋工业大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Keio University（庆应义塾大学）
本文提出非凸正则化方法LogLOP-l2/l1和AdaLOP-l2/l1，用于恢复具有未知块划分的块稀疏信号，通过新颖的变分公式提升恢复精度，实验显示优于现有方法。
2026-03-01 cs.LG stat.ML
Quantizing Heavy-tailed Data in Statistical Estimation: (Near) Minimax Rates, Covariate Quantization, and Uniform Recovery
本文提出截断与抖动预处理结合均匀量化的方案，证明在协方差估计、压缩感知和矩阵补全中可实现近极小极大误差速率，并针对协变量量化下的非凸恢复及重尾噪声建立近最优一致恢复保证。
2023-07-26 cs.IT math.IT math.ST
MRF denoising with compressed sensing and adaptive filtering
最近提出的磁共振指纹（MRF）技术可以同时估计多个参数，通过字典匹配。它具有广阔的应用前景。然而，MRF由于在数据采集过程期间的欠采样和字典分辨率的限制而引入误差。本文研究了磁流变液的误差来源，提出了利用压缩感知、决策树误差预测和自适应滤波技术来提高磁流变液质量的方法。实验结果支持我们的观察，并显示所提出的技术的显着改善。
2014-01-03 cs.IT math.IT
Compressed Sensing for Denoising in Adaptive System Identification
提出了一种基于压缩感知理论的稀疏系统自适应辨识新方法。我们操纵发送的导频（输入信号）和接收信号，使得自适应滤波器的权重接近稀疏系统的压缩版本，而不是原始系统。为此，我们在发射端使用随机滤波器结构，根据CS框架形成测量矩阵。原始稀疏系统可以通过传统的恢复算法重建。因此，CS的去噪特性可以部署在所提出的方法在恢复阶段。实验结果表明，该方法的性能显着改善相比，传统的LMS方法，直接识别稀疏系统。此外，在低水平的稀疏性，我们的方法优于一个专门的识别算法，促进稀疏性。
2012-04-03 cs.IT math.IT
The DFS Fused Lasso: Linear-Time Denoising over General Graphs
融合套索，也称为（各向异性）全变差去噪，被广泛用于相对于给定的无向图的分段常数信号估值。当底层图很大并且具有任意结构时，融合的套索估计计算起来是非常重要的。但对于一种特殊的图结构，即链图，融合套索--或简单地说，一维融合套索--可以在线性时间内计算。在本文中，我们建立了一个令人惊讶的连接之间的全变差的通用信号定义在任意图，和全变差的这个信号在链图引起的运行深度优先搜索（DFS）的节点的图形。具体地说，我们证明了，对于任何信号，其全变差的诱导链图是不超过两倍的全变差的原始图形。这种联系导致了一些有趣的理论和计算结论。分别用$m$和$n$表示所讨论的图的边和节点的数量，我们的结果意味着对于在图上具有全变差$t$的基础信号，融合套索实现均方误差率为\smash{$t^{2/3} n^{-2/3}$}。此外，通过在运行DFS的诱导链图上运行1d融合套索，可以实现完全相同的均方误差率。重要的是，后者估计是简单的，计算成本低，只需要$O(m)$操作用于构建DFS诱导链和$O(n)$操作用于计算该链上的一维融合套索解。此外，对于具有有界最大度的树，\smash{$t^{2/3} n^{-2/3}$}的错误率不能被改进，在这个意义上，它是在树上具有全变差$t$的信号的最小最大错误率。
2017-03-01 math.ST stat.TH
Denoising-based Turbo Compressed Sensing
Turbo压缩感知（Turbo-CS）是一种有效的迭代算法，用于部分正交感知矩阵的稀疏信号恢复。本文将Turbo-CS算法扩展到更一般的信号结构的压缩感知问题，包括压缩图像恢复和低秩矩阵恢复。这样的扩展的主要困难是，原始的Turbo-CS算法需要在实践中通常不可用的信号分布的先验知识。为了克服这个困难，我们建议重新设计的涡轮-CS算法，采用通用的降噪，不依赖于先验分布，因此名称基于降噪涡轮-CS（D-涡轮-CS）。然后，我们推导出一个通用的去噪器的外部信息，按照涡轮CS原则。在此基础上，我们优化参数化的外部去噪器，以最小化输出均方误差（MSE）。显式表达式推导出用于压缩图像去噪和奇异值阈值（SVT）去噪用于低秩矩阵去噪的外部SURE-LET去噪。我们发现，动态的D-Turbo-CS可以很好地描述了一个标量递归称为MSE的演变，类似的情况下涡轮-CS。数值结果表明，D-Turbo-CS算法在重建质量和运行时间上都明显优于同类算法。
2017-03-26 cs.IT math.IT
Full-Model Optimality for Tunable Linear Generative Priors in Compressed Sensing
Northeastern University（东北大学）；Khoury College of Computer Sciences（卡尔计算机科学学院）
本文针对压缩感知中可调线性生成先验建立理论，证明无噪高斯场景下全维线性先验达最小期望重建误差，该可调性优势源于神经网络先验的非线性。
2026-09-03 cs.LG stat.ML
Compressed Sensing via Universal Denoising and Approximate Message Passing
研究了在加性高斯白噪声下，通过矩阵乘法测量输入信号的压缩感知（CS）信号重构问题。我们的信号被假设为平稳和遍历的，但输入统计是未知的，我们的目标是提供重建算法，是通用的输入统计。我们提出了一种新的算法，结合：（i）近似消息传递（AMP）CS重建框架，它将矩阵通道恢复问题转化为标量通道去噪;（ii）一个通用的去噪方案，基于上下文量化，它将平稳遍历信号去噪分为独立同分布（i.i.d.）子序列去噪;以及（iii）密度估计方法，其近似i.i.d.序列通过拟合高斯混合（GM）模型。除了算法框架，我们提供了三个贡献：（一）数值结果表明，状态演化持有不可分离贝叶斯滑动窗口降噪;（二）一个通用的降噪，不需要输入信号有界;（三）我们修改GM学习算法，并将其扩展到一个独立同分布。去噪器。我们的通用CS恢复算法与现有的重建算法相比，在重建质量和运行时间，尽管不知道平稳遍历信号的输入统计。
2014-10-21 cs.IT math.IT
Bayesian Nonparametric Dictionary Learning for Compressed Sensing MRI
Xiamen University（厦门大学）；Columbia University（哥伦比亚大学）；Ryerson University（瑞尔森大学）
我们开发了一种贝叶斯非参数模型，用于从高度欠采样的k空间数据重建磁共振图像（MRI）。我们将字典学习作为图像重建过程的一部分。为此，我们使用beta过程作为非参数字典学习先验，用于将图像补丁表示为字典元素的稀疏组合。除了其他字典学习变量之外，还可以从数据中推断字典的大小和特定于补丁的稀疏模式。字典学习直接在压缩图像上执行，因此适合于所考虑的MRI。此外，我们研究了与字典学习模型相结合的总变差惩罚项，并展示了字典学习的去噪特性如何消除对噪声环境中正则化参数的依赖。我们推导出一个随机优化算法的基础上马尔可夫链蒙特卡罗（MCMC）的贝叶斯模型，并使用交替方向的乘数法（ADMM）有效地执行总变差最小化。我们提出了几个MRI上的经验结果，这表明所提出的正则化框架可以提高重建精度比其他方法。
2014-07-26 cs.CV physics.med-ph stat.AP
Exploiting Model Sparsity in Adaptive MPC: A Compressed Sensing Viewpoint
针对存在有界扰动的稳定线性定常系统，提出了一种自适应随机模型预测控制（MPC）策略。我们考虑多输入，多输出系统，可以表示为有限脉冲响应（FIR）模型。对应于每个输出的FIR模型的参数是未知的，但假设稀疏。我们使用递归最小二乘算法估计这些参数。然后使用通过解决基追踪去噪[1]问题获得的基于集合的边界来改进估计。我们的方法是能够处理硬输入约束和概率输出约束。使用分布鲁棒优化的工具，我们重新制定的概率输出约束为易处理的凸二阶锥约束，这使我们能够把我们的MPC设计任务作为一个凸优化问题。所开发的算法的有效性突出了一个彻底的数值例子，在那里我们证明了性能增益相对于[2]的算法，它不利用稀疏信息的系统脉冲响应参数在控制设计。
2019-12-09 cs.SY eess.SY stat.ML
D-OAMP: A Denoising-based Signal Recovery Algorithm for Compressed Sensing
近似消息传递（AMP）是压缩感知（CS）中一种有效的迭代信号恢复算法。对于具有独立同分布（i.i.d.）高斯项，AMP的行为可以渐近描述的标量递归称为状态演化。正交AMP（OAMP）是AMP的一种变体，它对去噪器施加了无发散约束。在本文中，我们将OAMP扩展到包含通用去噪器，因此命名为D-OAMP。我们的数值结果表明，状态演化预测的性能D-OAMP以及通用去噪时，i.i.d.涉及高斯或部分正交传感矩阵。我们比较了去噪-AMP（D-AMP）和D-OAMP从CS测量恢复自然图像的性能。仿真结果表明，D-OAMP算法在部分正交感知矩阵的收敛速度和恢复精度上都优于D-AMP算法。
2016-10-19 cs.IT math.IT
IFR-Net: Iterative Feature Refinement Network for Compressed Sensing MRI
Nanchang University（南昌大学）；Medical AI Research Center, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院医学人工智能研究中心）
为了改善压缩感知MRI（CS-MRI）方法在高加速因子下的精细结构损失，我们提出了一种迭代特征细化模型（IFR-CS），配备固定变换，以恢复有意义的结构和细节。然而，建议IFR-CS仍然有一些局限性，如超参数的选择，一个漫长的重建时间，和固定的稀疏化变换。为了缓解这些问题，我们展开迭代功能细化程序IFR-CS监督模型驱动的网络，称为IFR-Net。通过引入训练数据对，IFR-CS中的正则化参数和最大特征细化算子都变得可训练。此外，受卷积神经网络（CNN）强大的表示能力的启发，在稀疏促进去噪模块中探索了基于CNN的反转块，以推广稀疏实施算子。在模拟和活体MR数据集上的大量实验表明，该网络具有很强的捕获图像细节的能力，并能很好地保留结构信息，重建速度快。
2019-09-25 cs.LG eess.IV stat.ML
Optimal Estimation of Shared Singular Subspaces across Multiple Noisy Matrices
Duke University（杜克大学）；Harvard T.H. Chan School of Public Health（哈佛陈曾熙公共卫生学院）；Broad Institute of MIT and Harvard（麻省理工学院和哈佛布莱根妇女医院及麻省总医院博德研究所）
研究聚焦低秩矩阵去噪框架下多个矩阵共享奇异子空间的估计问题，指出 Stack-SVD 在奇异子空间相同时有最优性，部分共享时有限制，进而提出新估计器和算法，证明其在部分共享下达极小极大率最优，模拟和应用验证了优势。
2026-07-14 math.ST stat.ME stat.ML
The distribution of the Lasso: Uniform control over sparse balls and adaptive parameter tuning
Lasso是一种用于高维问题的流行回归方法，其中参数的数量$θ_1,\dots,θ_N$大于样本的数量$n$：$N>n$。一个有用的解析法将Lasso估计器的统计特性与简单的软阈值去噪器的统计特性相关联，在去噪问题中，在高斯噪声中观察到参数$(θ_i)_{i\le N}$，具有仔细调整的方差。早期的工作在极限$n,N\to\infty$、参数$θ$和正则化参数的值中逐点证实了这一点。在这里，我们考虑一个标准的随机设计模型，并证明其经验分布在高斯去噪模型提供的预测周围的指数集中。最重要的是，我们的结果是统一的$θ$属于$\ell_q$球，$q\in [0,1]$，并相对于正则化参数。这允许导出各种数据驱动程序的性能的尖锐结果，以调整正则化。我们的证明利用高斯比较不等式，特别是一个版本的戈登极小极大定理开发的Thrampoulidis，Oymak，和Hassibi，它控制的最佳值的拉索最优化问题。最重要的是，我们证明了Wasserstein距离的极小值的稳定性，这使得它可以表征极小值本身的性质。
2018-11-03 math.ST stat.TH
Complex Approximate Message Passing with Non-separable Denoising
Texas A&M University（德克萨斯农工大学）；University of Bologna（博洛尼亚大学）
本文提出一种统一的复杂AMP状态演化理论，通过构建扩展的实值系统和许多到一的变换，实现非可分离去噪的复值恢复，适用于联合结构约束问题，如同时组和元素稀疏性。
2026-04-22 eess.SP stat.AP
Compressed Image Generation with Denoising Diffusion Codebook Models
Faculty of Computer Science, Technion -- Israel Institute of Technology, Haifa, Israel（计算机科学系，技术离子理工学院——以色列理工学院，海法，以色列）；Faculty of Electrical and Computer Engineering, Technion -- Israel Institute of Technology, Haifa, Israel（电气与计算机工程系，技术离子理工学院——以色列理工学院，海法，以色列）
提出去噪扩散码本模型 DDCM，通过从预定义高斯噪声码本中选择反向扩散噪声，在保持生成质量的同时实现最先进感知图像压缩，并推广到条件图像生成任务。
2025-07-27 cs.AI cs.CV cs.IT
Compressed Sensing: A Discrete Optimization Approach
Sloan School of Management, Massachusetts Institute of Technology（麻省理工学院斯隆管理学院）；Operations Research Center, Massachusetts Institute of Technology（麻省理工学院运筹学中心）
本研究针对压缩感知问题，提出带$\boldsymbol{\bell_2}$正则化的离散优化框架，通过二阶锥松弛、半定强化及定制分支定界算法求解，在合成数据、ECG数据及多标签分类任务上均实现更优性能，但计算耗时更高。
2024-07-12 cs.LG eess.SP stat.ML
Global Convergence of Adaptive Sensing for Principal Eigenvector Estimation
School of Electrical and Computer Engineering, Georgia Institute of Technology, Atlanta, GA, USA（电子与计算机工程学院，佐治亚理工学院，亚特兰大，GA，USA）
本文分析Oja算法的一种压缩变体，利用每样本两个自适应测量估计协方差矩阵的主特征向量，证明了期望正弦平方误差的收敛速率并给出信息论下界，揭示了压缩带来的维度代价。
2026-05-30 cs.LG stat.ML
Statistical Estimation: From Denoising to Sparse Regression and Hidden Cliques
这些笔记回顾了Andrea Montanari教授关于线性模型统计估计主题的六次讲座。前两堂课涵盖了从极小极大风险的线性测量中恢复信号的原理。随后的讲座演示了这些原则的应用，在科学和工程的一些实际问题。具体而言，这些主题包括对错误信号的去噪，压缩感知信号的恢复，低秩矩阵的重构，以及大型网络中隐藏集团的发现。
2014-09-19 cs.IT math.IT stat.ML
Approximate Proximal Operators for Analog Compressed Sensing Using PN-junction Diode
Graduate School of Informatics, Kyoto University（京都大学大学院情报学研究科）
本文提出利用PN结二极管的正向V-I特性，通过模拟电路实现$\ell_1$和MCP正则化函数的近似近端算子，并在近端梯度法中验证了其在模拟压缩感知中的稀疏重建性能。
2025-10-14 cs.IT math.IT
Distributed Compressed Sensing for Sensor Networks with Packet Erasures
我们研究了两种分布式压缩感知的方法，在网络中的数据压缩和信号重建在无线传感器网络中的传感器被放置在一条直线上的汇。由于大量的设备，到信宿的通信被认为是带宽受限的。通过使用分布式压缩感知来压缩网络中的数据，可以以压缩所需的本地通信引起的延迟为代价来降低到信宿的通信成本（带宽使用）。我们调查成本和延迟之间的关系给出了一定的重建性能要求时，使用基追踪去噪重建。此外，我们分析和比较的性能下降，由于删除数据包发送到汇的两种方法。
2015-03-31 cs.IT math.IT
Graded Quantization: Democracy for Multiple Descriptions in Compressed Sensing
压缩感知范式允许通过其线性测量有效地表示稀疏信号。然而，这些测量传输到一个接收机的信道上可能容易发生数据包丢失的问题已经收到很少的关注。在本文中，我们提出了新的方法来产生多个描述压缩感知测量，以增加不可靠的信道的鲁棒性。特别是，我们利用压缩测量的民主属性，以一种简单的方式通过划分测量向量和适当分配比特率来生成描述，优于多描述标量量化器等经典方法。此外，我们提出了一个修改后的版本的基追踪去噪恢复过程，是专门针对所提出的方法。实验结果表明，相对于现有的方法显着的性能增益。
2013-10-04 cs.IT math.IT
Compressed sensing in the presence of speckle noise
研究了在散斑噪声存在的情况下，从结构信号的线性测量中恢复结构信号的问题。这个问题出现在许多成像系统，如合成孔径雷达和光学相干层析成像。当前的采集技术对信号进行过采样，并将问题转化为具有乘性噪声的去噪问题。然而，本文探讨的可能性，减少测量的数量低于环境尺寸的信号。在乘性噪声的研究中出现的一些问题阻碍了对这类问题的理论分析。本文的目的是提出第一个理论结果关于恢复信号的欠采样测量下的斑点噪声。它示出，如果信号类的结构，在这个意义上说，信号可以被有效地压缩，然后可以获得准确的估计，从更少的测量比周围的尺寸的信号。我们通过仿真结果证明了我们提出的方法的有效性。
2021-07-31 cs.IT math.IT
Generalized Approximate Message-Passing for Compressed Sensing with Sublinear Sparsity
针对亚线性稀疏度下的广义线性测量信号重建问题，提出基于状态演化的广义近似消息传递（GAMP）算法，推导其样本复杂度的重建阈值，数值模拟表明该算法在样本复杂度上优于现有算法。
2025-02-20 cs.IT math.IT
Approximate Message Passing-based Compressed Sensing Reconstruction with Generalized Elastic Net Prior
本文研究了具有广义弹性网先验（GENP）的压缩感知重构问题，其中稀疏信号通过含噪欠定线性观测系统采样，并且在重构过程中可获得信号的附加初始估计（GENP）.我们首先将GENP纳入LASSO和近似消息传递（AMP）框架，分别表示为GENP-LASSO和GENP-AMP。然后，我们调查的参数选择，状态演变，和噪声敏感性分析的GENP-AMP。我们表明，由于GENP，在所提出的框架中没有相变边界，即，重构误差在整个平面内是有界的。误差也小于标准AMP和标量去噪的误差。一个实用的无参数版本的GENP-AMP也被开发出来，它不需要知道未知信号的稀疏性和GENP的方差。仿真结果验证了所提出方案的有效性。
2015-02-18 cs.IT math.IT
Approximate Message Passing Algorithm with Universal Denoising and Gaussian Mixture Learning
研究了在加性高斯白噪声下，通过矩阵乘法测量输入信号的压缩感知（CS）信号重构问题。我们的信号被假设为平稳和遍历的，但输入统计是未知的，我们的目标是提供重建算法，是通用的输入统计。我们提出了一种新的算法框架，结合：（i）近似消息传递（AMP）CS重建框架，它解决了矩阵信道恢复问题的迭代标量信道去噪;（ii）一个通用的去噪方案的基础上的上下文量化，它分区的平稳遍历信号去噪独立同分布（i.i.d.）子序列去噪;以及（iii）密度估计方法，其近似i.i.d.序列通过拟合高斯混合（GM）模型。除了算法框架，我们提供了三个贡献：（i）数值结果表明，状态演化持有不可分离的贝叶斯滑动窗口去噪;（ii）一个独立同分布。基于修改的GM学习算法的去噪器;以及（iii）通用去噪器，其不需要关于输入取值的范围的信息或者不需要输入信号被限制。我们提供了我们的通用CS恢复算法的两种实现方式，一种更快，另一种更准确。这两种实现方式在重建质量和运行时间方面都优于现有的通用重建算法。
2016-07-31 cs.IT math.IT
Analysis of Regularized LS Reconstruction and Random Matrix Ensembles in Compressed Sensing
在测量矩阵维数变大的极限下，分析了带噪压缩感知中正则化最小二乘估计的性能。传感矩阵被认为是从一类随机合奏，封闭作为特殊情况下的标准高斯，行正交，几何和所谓的T-正交结构。具有非均匀稀疏性的源向量被包括在系统模型中。在分析中重点讨论了基于l1范数的正则化方法，并给出了基于l1范数的正则化方法的LASSO估计，即基追踪去噪。l2-范数和“零范数”正则化的扩展也简要讨论。结合一些新的矩阵积分的结果，使用副本的方法进行分析。数值实验验证了分析结果的准确性。数值实验表明，对于有噪压缩感知，标准高斯系综是测量矩阵的次优选择。正交构造在所有考虑的场景中提供了优越的性能，并且在实际应用中更容易实现。研究还发现，对于非均匀稀疏模式，当噪声水平不太高时，T-正交矩阵可以进一步改善重建的均方误差行为。然而，由于加性噪声在系统中变得更加突出，简单的行正交测量矩阵似乎是所考虑的集合中的最佳选择。
2016-02-02 cs.IT math.IT
Near optimal compressed sensing without priors: Parametric SURE Approximate Message Passing
理论分析和经验证据都证实，近似消息传递（AMP）算法可以被解释为递归地解决信号去噪问题：在每次AMP迭代时，观察到高斯噪声扰动的原始信号。恢复信号相当于连续的噪声消除，直到噪声方差降低到令人满意的水平。在本文中，我们将斯坦的无偏风险估计（SURE）为基础的参数去噪与AMP框架，提出了新的参数SURE-AMP算法。在每次参数SURE-AMP迭代中，通过使SURE最小化来在参数类内自适应地优化去噪器，这完全取决于噪声观测。通过这种方式，确保参数SURE-AMP具有同类最佳的恢复和收敛速度。如果参数族包含最小均方误差（MMSE）估计器族，则在不知道信号先验的情况下，我们能够实现贝叶斯最优AMP性能。在本文中，我们诉诸的线性参数化的SURE基于去噪，并提出了三个不同的核家庭作为基函数。对Bernoulli-Gaussian、$k$ -dense和Student's-t信号的数值仿真表明，参数SURE-AMP不仅实现了最先进的恢复，而且运行速度比EM-GM-GAMP算法快20倍以上。
2014-08-12 cs.IT math.IT
Compressive Wideband Spectrum Sensing for Fixed Frequency Spectrum Allocation
过高的采样率是认知无线电宽带频谱感知的瓶颈。研究表明，传感信号在频域上具有稀疏性，压缩感知（Compressed Sensing，CS）可以将采样负担转移到数字信号处理器上。模拟信息转换器（AIC）可以以亚奈奎斯特速率对接收信号进行随机采样，以获得随机测量。考虑到主无线电的静态频谱分配意味着不同主无线电之间的边界是预先已知的，这里我们将不同主用户之间的频谱边界信息作为先验信息来获得混合l2/l1范数去噪算子（MNDO）。在MNDO中，估计的功率谱密度（PSD）向量被划分为具有对应于不同分配的主无线电的边界的块部分。与以往标准的对整个PSD向量的l1范数约束不同，该算法通过最小化PSD向量每一段的l2范数之和来促进PSD向量的局部分组分布，而整体稀疏分布，同时放松约束来提高去噪性能。仿真结果表明，该方法在精度、去噪能力等方面均优于标准稀疏谱估计。
2010-05-11 cs.IT math.IT
Off-the-Grid Line Spectrum Denoising and Estimation with Multiple Measurement Vectors
The Ohio State University（俄亥俄州立大学）
本文研究了多测量向量下谱稀疏信号的去噪与估计问题，提出基于原子范数最小化和结构化协方差估计的两种方法，通过半正定规划高效求解，并通过数值实验验证了算法性能。
2015-07-22 cs.IT cs.NA math.IT
Asymptotics of Proximity Operator for Squared Loss and Performance Prediction of Nonconvex Sparse Signal Recovery
本文分析平方损失邻近算子在大系统极限下的渐近性质，并将其用于预测压缩感知中 Douglas-Rachford 算法在 $\ell_{1}$ 及非凸 SCAD、MCP 正则化下的 MSE 性能。
2025-03-24 cs.IT eess.SP math.IT
Alternating Subspace Method for Sparse Recovery of Signals
Hunan Normal University（湖南师范大学）
本文提出交替子空间法用于信号稀疏恢复，结合贪婪和分裂方法，实现高效准确的稀疏信号恢复。
2026-03-10 cs.IT math.IT math.OC
