Signal Recovery under Mutual Incoherence Property and Oracle Inequalities
本文考虑信号恢复通过一个无约束的最小化的框架内的相互不相干属性。给出了噪声情况下保证稳定恢复的充分条件。在期望和概率意义下,给出了重构信号与原信号差分的$\ell_2$范数的下界。在高斯噪声背景下,在互相关条件下,得到了稀疏信号和非稀疏信号的预言不等式。最后,我们研究了互不相干性与鲁棒零空间性质之间的关系,发现鲁棒零空间性质可以从互不相干性推导出来。
2018-06-28 cs.IT math.IT
Sparse approximation property and stable recovery of sparse signals from noisy measurements
在本文中,我们引入了一个测量矩阵${\bf A}$的$s$阶稀疏逼近性质:$$\|{\bf x}_s\|_2\le D \|{\bf A}{\bf x}\|_2+ β\frac{σ_s({\bf x})}{\sqrt{s}} \quad {\rm for\ all} \ {\bf x},$$其中${\bf x}_s$是$\ell^2$中的向量${\bf x}$的最佳$s$ -稀疏逼近,$σ_s({\bf x})$是$\ell^1$中的向量${\bf x}$的$s$ -稀疏逼近误差,并且$D$和$β$是正常数。测量矩阵的稀疏近似性质可以被认为是其限制等距性质的较弱版本和其零空间性质的较强版本。在本文中,我们证明了稀疏逼近属性是测量矩阵上的一个适当条件,可以考虑从其有噪测量中稳定恢复任何可压缩信号。特别是,我们表明,任何可压缩signalcan稳定地恢复从其噪声测量通过解决$\ell^1$ -最小化问题,如果测量矩阵具有稀疏逼近性质与$β\in (0,1)$,相反,测量矩阵具有稀疏逼近性质与$β\in (0,\infty)$,如果任何可压缩信号可以稳定地恢复从其噪声测量通过解决一个$\ell^1$ -最小化问题。
2011-07-26 cs.IT math.IT
Statistical Recovery of Simultaneously Sparse Time-Varying Signals from Multiple Measurement Vectors
在本文中,我们提出了一种新的稀疏信号恢复算法,称为稀疏卡尔曼树搜索(sKTS),提供了一个强大的重建的稀疏向量时,序列的相关观测向量。所提出的sKTS算法建立在期望最大化(EM)算法的基础上,并且由两个主要操作组成:1)卡尔曼平滑以获得源信号向量的后验统计量和2)贪婪树搜索以估计信号向量的支持度。通过数值实验,我们证明了所提出的sKTS算法是有效的,在恢复稀疏信号,并执行接近的Oracle(基因为基础的)卡尔曼估计。
2015-12-05 cs.IT math.IT
Improved Algorithms For Structured Sparse Recovery
已知的是,除了稀疏性的标准概念(称为结构化稀疏性)之外,信号的某些结构可以提高若干压缩感测应用中的样本复杂度。最近,Hegde等人提出了一个框架,称为近似容忍基于模型的压缩感知,用于恢复具有结构化稀疏性的信号。他们的框架需要两个神谕,头部和尾部近似投影神谕。这两个预言机应该返回模型中最接近查询信号的近似解。在本文中,我们考虑两个结构稀疏模型,并得到改进的投影算法。第一个是树稀疏模型,它捕捉分段光滑信号小波分解中的支持结构。我们提出了一种线性时间$(1-ε)$ -近似算法用于头近似投影和线性时间$(1+ε)$ -近似算法用于尾近似投影。以前最好的结果是一个$\tilde{O}(n\log n)$时间bicriminal近似算法(这意味着他们的算法可能会返回一个解决方案的稀疏性大于$k$)由Hegde等人。我们的结果提供了一个肯定的答案,在调查中提到的Hegde和Indyk的开放问题。作为一个推论,我们可以恢复一个恒定的近似$k$稀疏信号。另一种是约束地球移动器距离(CEMD)模型,其用于对信号的非零系数的位置不作为空间(或时间)位置的函数显著改变的情况进行建模。我们得到了首近似投影的第一个单准则常数因子近似算法。以前最著名的算法是双克里什近似。利用这一结果,我们可以得到一个更快的常数近似算法,用较少的测量CEMD模型的恢复问题。
2017-01-20 cs.DS cs.IT math.IT
Expectation Consistent Plug-and-Play for MRI
对于图像恢复问题,已经开发了即插即用(Plug-and-Play,PPENS)方法,其用对通常使用深度神经网络实现的专用去噪器的调用来替换优化算法中的邻近步骤。虽然这些方法是成功的,但它们可以改进。例如,去噪器通常使用高斯白噪声进行训练,而Pennsylvania的去噪器输入误差通常远离白色和高斯,并且很难从迭代到迭代预测统计数据。基于近似消息传递(AMP)的Pendant方法是一个例外,但只有当前向运算符表现得像一个大的随机矩阵时。在这项工作中,我们使用期望一致(EC)近似算法(AMP的推广)设计了一种Pestrian方法,该算法在每次迭代时提供可预测的误差统计,可以有效地训练深度网络去噪器。
2022-02-11 cs.IT math.IT
Sparse recovery in bounded Riesz systems with applications to numerical methods for PDEs
我们研究稀疏恢复与结构化的随机测量矩阵具有独立的,同分布的,一致有界的行和一个非平凡的协方差结构。这类矩阵来自有界Riesz系统的随机采样,并推广了随机部分傅立叶矩阵。我们的主要结果改进了现有的零空间和限制等距性质的随机矩阵的结果。我们的分析的主要新颖之处是一个新的上界的期望与限制等距常数的伯努利过程。我们应用我们的结果证明新的性能保证的CORSING方法,最近推出的数值逼近技术的偏微分方程(PDE)的基础上压缩感知。
2020-05-14 cs.IT cs.NA math.IT
Recovery of Low-Rank Matrices under Affine Constraints via a Smoothed Rank Function
研究了仿射约束下矩阵秩最小化问题。国家的最先进的算法可以恢复矩阵的秩远远小于什么是足够的唯一性的解决方案,这个优化问题。我们提出了一个算法的基础上的秩函数,这实际上提高了恢复限制的解决方案的秩的平滑近似。这种近似导致非凸规划;因此,为了避免陷入局部解,我们使用以下方案。最初,优化服从仿射约束的秩函数的粗略近似。随着算法的进行,优化秩的更精细的近似,并且用先前近似的解初始化求解器,直到达到期望的精度。在理论方面,利用球截面的性质,我们将证明逼近函数的解序列收敛到最小秩解。在实验方面,它将表明,该算法,称为SRF代表平滑秩函数,可以恢复矩阵的秩最小化问题的唯一解决方案,但不能恢复核范数最小化。此外,它将被证明,在完成部分观测矩阵,SRF的准确性是相当大的,一贯优于一些著名的算法时,显示的条目的数量接近的最小数量的参数,唯一地代表一个低秩矩阵。
2013-12-26 cs.IT math.IT
Signal Recovery under Cumulative Coherence
本文认为信号恢复的累积相干的框架。首先,我们证明了Lasso估计和Dantzig选择器在累积相干下表现出类似的行为。然后在累积相干条件下,通过计算预测损失差来估计Lasso和Dantzig选择器的近似等价性。并且证明了累积相干蕴含着限制本征值条件。最后,我们通过大量的数值实验,从稀疏信号的恢复性能方面说明了三类矩阵的累积相干条件的优点。
2018-06-28 cs.IT math.IT
Simultaneous Block-Sparse Signal Recovery Using Pattern-Coupled Sparse Bayesian Learning
University of Electronic Science and Technology of China(电子科技大学);China Academy of Engineering Physics(中国工程物理研究院)
在本文中,我们考虑块稀疏信号恢复问题的背景下,多个测量向量(MMV)与共同的行稀疏模式。我们开发了一种新的方法来恢复常见的行稀疏MMV信号,其中模式耦合的分层高斯先验模型被引入到共同的行稀疏MMV信号的系数的块稀疏性和相邻系数之间的统计依赖性的特征。与许多其他方法不同,该方法能够自动捕获未知信号的块稀疏结构。我们的方法是使用期望最大化(EM)的框架。仿真结果表明,该方法在恢复块稀疏共行稀疏模式MMV信号时具有较好的性能。
2017-11-06 cs.IT cs.LG eess.SP
Moment Constraints and Phase Recovery for Multireference Alignment
针对多参考对齐问题,提出结合矩量法与统计建模思路的新方法,将功率谱作为约束信号的流形,通过梯度优化最大化似然并迭代模板对齐与流形投影,兼顾速度与精度。
2025-10-09 cs.IT math.IT
K-Median Clustering, Model-Based Compressive Sensing, and Sparse Recovery for Earth Mover Distance
本文首先研究了地球移动距离(EMD)下的稀疏恢复问题。具体地说,我们设计了一个分布在mXn矩阵A上,使得对于任何x,给定Ax,我们可以在EMD距离下恢复x的k-稀疏近似。一种构造产生m = O(k log(n/k))和1 + 1的近似因子,其匹配其他误差度量(例如L_1范数)的最佳可实现的界。我们的算法是通过利用新的连接到其他问题和领域,如流算法的k-中值聚类和基于模型的压缩感知。我们还提供了新的算法和结果,后者的问题。
2012-10-11 cs.DS cs.IT math.IT
Simultaneous Sparse Approximation and Common Component Extraction using Fast Distributed Compressive Sensing
同时稀疏近似是标准稀疏近似的推广,用于使用公共稀疏模型同时表示一组信号。将压缩感测概念推广到同时稀疏近似产生分布式压缩感测(DCS)。DCS使用公共+新息信号模型找到多个相关信号的稀疏表示。然而,DCS对于大量信号的联合恢复不是有效的,因为它需要大量的存储器和计算时间。在本文中,我们提出了一个新的分层算法,实现联合稀疏恢复框架的DCS更有效。该算法应用于视频背景提取问题,其中背景对应于跨帧的常见稀疏活动。
2016-04-11 cs.IT math.IT
Polynomial Approximations of Conditional Expectations in Scalar Gaussian Channels
我们考虑一个信道$Y=X+N$,其中$X$是一个满足$\mathbb{E}[|X|]<\infty$的随机变量,$N$是一个独立的标准正态随机变量。我们表明,$X$的最小均方误差估计$Y,$的条件期望$\mathbb{E}[X \mid Y],$是一个多项式在$Y$当且仅当它是线性或常数,这两种情况下对应于$X$是高斯或常数,分别。我们还证明了$y \mapsto \mathbb{E}[X \mid Y=y]$的高阶导数可以表示为多元多项式的功能$y \mapsto \mathbb{E}\left[ \left( X - \mathbb{E}[X \mid Y] \right)^k \mid Y = y \right]$为$k\in \mathbb{N}.$这些表达式产生的$2$ -范数的衍生物的条件期望的界限。这些界限意味着,如果$X$具有在正半线上均匀且递减的紧支撑密度,则在用次数至多为$n$的$Y$中的多项式近似条件期望$\mathbb{E}[X \mid Y]$时的误差比$n.$中的任何多项式衰减得更快
2021-02-11 cs.IT math.IT math.PR
Approximation Algorithms for Model-Based Compressive Sensing
压缩感知(CS)规定可以从少量线性测量恢复稀疏信号,并且可以在多项式时间内有效地执行该恢复。基于模型的压缩感知(model-CS)的框架利用信号中的附加结构,并规定了新的恢复方案,可以进一步减少测量的数量。然而,模型CS需要一个算法来解决模型投影问题:给定一个查询信号,在模型中产生最接近查询信号的信号。通常,这种优化在计算上可能非常昂贵。此外,近似算法不足以用于该优化任务。因此,模型投影问题构成了一个根本的障碍,扩展模型CS许多有趣的模型。在本文中,我们介绍了一个新的框架,我们称之为近似宽容的基于模型的压缩感知。该框架包括一系列稀疏恢复算法,只需要模型投影问题的近似解。从本质上讲,我们的工作消除了上述基于模型的压缩感知的障碍,从而将模型CS的适用性扩展到更广泛的模型类别。我们实例化这个新的框架约束地球移动距离(CEMD)模型,这是特别有用的信号合奏的非零系数的位置不显着改变的空间(或时间)位置的函数。我们开发新的近似算法的最大化和最小化版本的模型投影问题,通过图形优化技术。利用这些算法到我们的框架中的CEMD模型的结果在一个几乎样本最佳的稀疏恢复计划。
2015-04-20 cs.DS cs.IT math.IT
Recovery guarantees for polynomial approximation from dependent data with outliers
Dalhousie University(达尔豪斯大学);University of Waterloo(滑铁卢大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
从噪声、有限和/或相关数据中学习非线性系统是包括统计学、工程学、计算机科学、数学等在内的各个科学领域的重要任务。一般来说,这个学习任务是不适定的;然而,关于数据结构或未知函数行为的额外信息可以使任务适定。在这项工作中,我们研究的问题,学习非线性函数从损坏和相关的数据。学习问题被改写为一个稀疏鲁棒线性回归问题,我们将未知系数和腐败的基础追求框架。我们的论文的主要贡献是提供了一个重建保证相关的$\ell_1$ -优化问题的采样矩阵是从依赖的数据。具体地说,我们证明了抽样矩阵满足零空间性质和稳定零空间性质,只要数据是紧凑的,并满足适当的浓度不等式。我们表明,我们的恢复结果是适用于各种类型的相关数据,如指数强$α$ -混合数据,几何$\mathcal{C}$ -混合数据,均匀遍历马尔可夫链。我们的理论结果通过几个数值模拟进行了验证。
2018-11-25 cs.IT cs.LG math.IT
Universal, sample-optimal algorithms for recovery of anisotropic functions from i.i.d. samples
Simon Fraser University(西蒙菲莎大学)
本文提出通用算法,用于从样本中恢复各向异性函数,通过将函数恢复转化为稀疏恢复问题,利用压缩感知实现最优收敛率,并证明了非线性算法在高维情况下的必要性。
2026-04-08 cs.IT cs.NA math.IT
Fast and Robust Phase Retrieval via Deep Expectation-Consistent Approximation
The Ohio State University(俄亥俄州立大学)
针对无相位测量图像恢复问题,提出结合期望一致近似与深度去噪网络的deepECpr方法,引入新型随机阻尼方案,在过采样傅里叶等测量上与现有方法相比,以更少去噪器调用次数实现PSNR和SSIM提升。
2024-11-26 cs.CV cs.IT math.IT
Sparse approximation of multivariate functions from small datasets via weighted orthogonal matching pursuit
Simon Fraser University(西蒙菲莎大学)
本文提出了一种加权正交匹配追踪算法,用于从小数据集近似多变量函数,通过改进的贪心策略在保持精度的同时提高了计算效率。
2019-05-02 cs.IT cs.NA math.IT
The devil in the (de)tails: an improved recovery guarantee for sparse approximation
Simon Fraser University(西蒙菲莎大学);Concordia University(康考迪亚大学)
针对稀疏逼近中截断误差过大的问题,利用样本点的独立同分布结构,提出基于连续L2范数衰减的离散L2截断误差上界,显著减小截断集大小并降低计算成本。
2026-06-26 cs.IT cs.NA math.IT
Signal Recovery on Graphs: Random versus Experimentally Designed Sampling
我们研究了基于两种采样策略的图上的信号恢复:随机采样和实验设计采样。我们提出了一类新的光滑图信号,称为近似带限,它推广了带限类,并类似于全局光滑类。然后,我们提出了两个恢复策略的基础上随机抽样和实验设计的抽样。基于实验设计的采样的建议的恢复策略类似于在矩阵近似中使用的杠杆分数。我们表明,虽然这两种策略是无偏估计的低频分量,实验设计的采样的收敛速度要快得多,比随机采样时,图是不规则的。我们在三个特定的图上验证了所提出的恢复策略:环形图,Erdens-Rényi图和星形图。仿真结果支持了理论分析。
2015-05-29 cs.IT math.IT stat.ML