Non-Parametric Field Estimation using Randomly Deployed, Noisy, Binary Sensors
研究了由随机分布在场域上的传感器的二进制量化噪声观测值重建确定性数据场的问题。该研究的重点是在传感器部署中缺乏确定性控制,缺乏噪声分布的知识,以及缺乏传感精度和可靠性的极端。这样的不利条件是由可能的现实世界的情况下,大量的低成本,粗糙制造的传感器的集合被大规模部署在一个环境中,几乎可以假设的环境噪声。一个简单的估计,重建整个数据字段从这些不可靠的,二进制量化,噪声观测。技术条件几乎肯定和综合均方误差(MSE)收敛的估计的数据字段,传感器的数量趋于无穷大,推导和讨论它们的影响。对于有限维,有界变差,Sobolev可微函数类,具体的综合MSE衰减率。对于第一和第三功能类,这些速率被发现是最小最大顺序最优的无限精度传感和已知的噪声分布。
2007-12-13 cs.IT math.IT
Phase Transition Analysis of Sparse Support Detection from Noisy Measurements
本文研究了稀疏支持检测问题,提出了一种基于置信传播的贝叶斯假设检验算法(BHT-BP)。我们的主要重点是比较BHT-BP的估计为基础的算法,称为CS-BP,并显示其在SSD问题的优越性。对于这项调查,我们执行的相位转换(PT)分析的平原上的噪声水平和信号幅度的信号支持。该PT分析明确规定了在特定噪声水平下进行检测所需的信号幅度。此外,我们提供了一个实验验证,以确保PT分析。我们的分析和实验结果表明,BHT-BP检测信号支持加性噪声比CS-BP更强大。
2013-04-08 cs.IT math.IT
Power-Constrained Sparse Gaussian Linear Dimensionality Reduction over Noisy Channels
在本文中,我们研究了稀疏高斯线性降维框架下的功率约束传感矩阵设计。我们的研究是在一个单一的终端设置,以及在一个多终端设置组成的正交或相干多址接入信道(MAC)。我们采用均方误差(MSE)的性能标准,在系统中的源到传感器的信道(S)和传感器到解码器的通信信道(S)是嘈杂的稀疏源重建。我们提出的传感矩阵设计过程依赖于最小化的MSE在单-和多-终端设置的下限。我们提出了一个三阶段的传感矩阵优化方案,结合半定松弛(SDR)规划,一个低秩近似问题和功率重新缩放。在一定条件下,我们推导出封闭形式的解决方案,建议的优化过程。通过数值实验,应用实际的稀疏重建算法,与其他相关方法进行比较,显示了该方案的优越性。这种性能改进是以更高的计算复杂性为代价实现的。因此,为了解决复杂性负担,我们提出了一个等效的随机优化方法,可以近似解决的问题,同时仍然提供了优于流行的方法的性能。
2015-07-27 cs.IT math.IT
Bayesian Hypothesis Test using Nonparametric Belief Propagation for Noisy Sparse Recovery
提出了一种低计算量的贝叶斯噪声稀疏恢复算法BHT-BP。在这个框架中,我们考虑了一个具有树结构性质的类LDPC测量矩阵和加性高斯白噪声。BHT-BP具有由稀疏支持检测器和非零估计器组成的联合检测和估计结构。支持检测器的设计下的最小检测错误概率的标准,使用非参数的信念传播(nBP)和复合二元假设检验。非零估计的意义上的线性MMSE,其中的支持检测结果被利用。BHT-BP算法在噪声鲁棒支持检测方面有其优势,有效地消除了基于均匀采样的nBP算法带来的量化误差。因此,在NSR问题中,BHT-BP在几个方面优于CS-BP,CS-BP是现有的nBP算法,与其他最近的CS求解器相当。此外,我们通过BHT-BP检查稀疏信号的最小非零值的影响,最近的文献的结果的基础上。我们的实验结果表明,x_min的变化反映在恢复性能的形式的SNR偏移。
2015-01-19 cs.IT math.IT
Regularized Modified BPDN for Noisy Sparse Reconstruction with Partial Erroneous Support and Signal Value Knowledge
我们研究的问题稀疏重建噪声欠采样测量时,以下两件事是可用的。(1)我们得到的是信号支持度的部分知识和部分错误知识,用$T$表示。(2)我们还给出了$T$上的信号值的错误估计,由$(\hatμ)_T$表示。在实践中,这两种方法都可以从现有的现有知识中获得。可替换地,在递归重建应用中,如实时动态MRI,可以使用来自先前时刻的支持估计和信号值估计作为$T$和$(\hatμ)_T$。在这项工作中,我们介绍了正则化的修改BPDN(reg-mod-BPDN),并获得其重建误差的可计算范围。Reg-mod-BPDN尝试找到集合$T$之外最稀疏的信号,同时与$T$上的$(\hatμ)_T$“足够接近”并满足数据约束。相应的结果修改后的BPDN和BPDN遵循的直接推论。第二个关键的贡献是一种方法来获得可计算的错误界,没有任何充分条件。这使得比较各种方法的界限变得容易。还提供了与许多现有方法的经验重建误差比较。
2012-03-27 cs.IT math.IT
On the uniqueness and stability of dictionaries for sparse representation of noisy signals
学习最佳字典稀疏编码暴露了许多自然信号的特征稀疏功能。然而,缺乏在存在噪声的情况下对这些特征的稳定性的普遍保证。在这里,我们提供了非常一般的条件,保证当字典产生的稀疏编码是唯一的和稳定的测量或建模误差。我们证明了一些或所有原始字典元素是可恢复的噪声数据,即使字典不满足火花条件,其大小被高估,或只有多项式数量的不同的稀疏支持出现在数据中。重要的是,我们得到这些保证,而不需要任何限制恢复字典超出其大小的自然上限。我们的研究结果也产生了一个有效的程序足以确认,如果一个建议的解决方案的字典学习问题是唯一的范围内相称的噪音。我们建议应用于数据分析,工程和神经科学,并结束了我们的工作留下的一些剩余的挑战。
2019-05-14 cs.IT math.IT stat.ML
Nuclear Atomic Norm for parametric estimation of sparse channels
本文提出用核原子范数进行毫米波稀疏信道的无网格参数估计,同时识别发射角和到达角,并给出参数恢复条件,与现有参数化方法相比具有优势。
2024-09-02 cs.IT eess.SP math.IT
Near-Oracle Performance of Greedy Block-Sparse Estimation Techniques from Noisy Measurements
本文研究了贪心算法从噪声测量中估计块稀疏参数向量的能力。特别是,块稀疏版本的正交匹配的追求和阈值化算法进行了分析下的对抗和高斯噪声模型。在对抗设置中,它表明,估计精度在噪声功率的恒定因子内。在高斯噪声下,Cramer-Rao界的推导,并表明,贪婪的技术来接近这个界在高信噪比。保证数值比较块和非块算法的实际性能,突出块稀疏技术的优势。
2010-09-05 cs.IT math.IT math.ST
Performance Bounds for Sparse Parametric Covariance Estimation in Gaussian Models
我们考虑估计的稀疏参数向量,确定高斯随机向量的协方差矩阵通过稀疏扩展到已知的“基矩阵”。利用再生核Hilbert空间的理论,我们得到了一个给定的均值函数的估计方差的下界。这包括作为特殊情况的无偏估计。我们还提出了一个数值比较我们的下限与两个标准估计(硬阈值估计和最大似然估计)的方差。
2011-01-20 cs.IT math.IT math.ST
Thresholded Basis Pursuit: An LP Algorithm for Achieving Optimal Support Recovery for Sparse and Approximately Sparse Signals from Noisy Random Measurements
Boston University(波士顿大学)
在本文中,我们提出了一个线性规划的解决方案,从噪声随机投影信号的稀疏信号的符号模式恢复。我们考虑两种类型的噪声模型,输入噪声,其中噪声在随机投影之前进入;和输出噪声,其中噪声在随机投影之后进入。符号模式恢复涉及到稀疏信号符号模式的估计。我们的想法是假装没有噪声存在,并解决无噪声的$\ell_1$问题,即$\min \|β\|_1 ~ s.t. ~ y=G β$和量化的结果的解决方案。我们表明,量化的解决方案完美地重建一个足够稀疏的信号的符号模式。具体来说,我们发现,一个任意的k-稀疏,n维信号$x$的符号模式可以恢复与$SNR=Ω(\log n)$和测量缩放为$m= Ω(k \log{n/k})$的所有稀疏水平$k$满足$0< k \leq αn$,其中$α$是一个足够小的正常数。令人惊讶的是,这个界限匹配的最佳\emph{Max-Likelihood}性能界限方面的$SNR$,所需的数量的测量,并允许稀疏水平,在有序的意义。与我们的研究结果相比,以前的结果的基础上LASSO和最大相关技术要么假设显着较大的$SNR$,次线性稀疏水平或限制性假设信号集。我们的证明技术是基于无噪声$\ell_1$问题的噪声扰动,在此,我们估计的最大容许噪声电平之前,符号模式恢复失败。
2010-05-08 cs.IT cs.LG math.IT
An Efficient Greedy Algorithm for Sparse Recovery in Noisy Environment
贪心算法因其效率高而被广泛应用于稀疏恢复。但目前流行的贪心算法(如CoSaMP)存在着对目标信号先验知识要求不合理、对随机噪声过于敏感等明显缺陷。本文提出了一种新的贪心算法--AMOP算法来克服这些障碍。与CoSaMP算法不同,AMOP算法能够自适应地从采样数据中提取目标信号所需的信息,并且无需先验知识就能正常工作。当存在随机噪声时,AMOP的恢复误差得到了很好的控制,并随着信噪比的增加而逐渐消失。此外,该算法对目标信号的细节设置具有较好的鲁棒性,对测量矩阵的结构依赖性较小。理论推导验证了该算法的有效性。通过大量的仿真实验,验证了AMOP算法在多方面优于CoSaMP算法.在压缩感知的各种应用中,自适应多目标优化算法是一种很好的实用贪心算法候选算法。
2009-08-18 cs.IT math.IT
Minimax Lower Bounds for Noisy Matrix Completion Under Sparse Factor Models
本文研究了一类矩阵完备问题的基本误差特性,其中感兴趣的矩阵是两个先验未知矩阵的乘积,其中一个是稀疏的,并且观测值是有噪声的。我们的主要贡献来在几个常见的噪声模型下,这个问题的预期每元素平方误差的最小最大下界的形式。具体地说,我们分析的情况下,腐败的特点是加性高斯噪声或加性尾(拉普拉斯)噪声,泊松分布的意见,和高度量化(例如,一位)观察,作为我们一般结果的实例。我们的结果建立了在(Soni et al.,2016)对于复杂性正则化的最大似然估计器,达到乘法常数和对数因子,在这些噪声场景中的每一个中的最小最大出错率,只要观测的标称数量足够大,并且稀疏因子(平均)每列至少有一个非零。
2017-10-26 cs.IT math.IT stat.ML
Sparse Recovery with Linear and Nonlinear Observations: Dependent and Noisy Data
我们制定稀疏支持恢复作为一个显着的集合识别问题,并使用信息理论分析,以表征恢复性能和样本的复杂性。我们考虑一个非常一般的模型,我们不限于线性模型或特定的分布。我们国家的非渐近界的恢复概率和一个紧密的互信息公式的样本复杂性。我们评估我们的应用范围,如稀疏线性回归和显式特征的相关性或噪声特征对恢复性能的影响。我们在以前的工作和识别恢复算法的性能和基本信息之间的差距的改进。
2014-03-12 cs.IT cs.LG math.IT
Bayesian Cramér-Rao Bound for Noisy Non-Blind and Blind Compressed Sensing
本文讨论了使用压缩感知框架重建稀疏信号(在已知的完整基础上)的理论局限性。我们还将CS分为非盲和盲情况。然后,当测量矩阵元素为独立的零均值随机变量时,我们计算了估计稀疏系数的Bayesian Cramer-Rao界。仿真结果表明,当测量次数较少时,该下界与实际算法的性能之间存在较大差距。
2010-05-24 cs.IT math.IT
Noisy Matrix Completion under Sparse Factor Models
本文研究了一类一般的噪声矩阵完成任务,其目标是从其条目的子集获得的观测估计矩阵,其中每个条目都受到随机噪声或腐败。我们的具体重点是设置的矩阵估计是很好的近似由两个(先验未知)矩阵,其中之一是稀疏的产品。这样的结构模型-这里称为“稀疏因子模型”-已经被广泛使用,例如,在子空间聚类应用中,以及在当代稀疏建模和字典学习任务中。我们的主要理论贡献是估计误差界稀疏正则化极大似然估计的问题,这种形式,这是适用于一些不同的观测噪声或腐败模型。研究了几个具体的含义,包括观测被加性高斯噪声或加性加尾(拉普拉斯)噪声破坏的情况,泊松分布观测,以及高度量化(例如,一位)观察。我们还提出了一个简单的算法方法的基础上交替方向的乘法器为这些任务,并提供实验证据来支持我们的错误分析。
2014-11-02 cs.IT math.IT stat.AP
Optimal Rates of Convergence for Noisy Sparse Phase Retrieval via Thresholded Wirtinger Flow
University of Pennsylvania(宾夕法尼亚大学)
本文研究噪声稀疏相位恢复问题,提出阈值梯度下降算法,在稀疏度范围内实现最优收敛率。
2015-06-10 cs.IT cs.NA math.IT
On the Fundamental Limits of Recovering Tree Sparse Vectors from Noisy Linear Measurements
最近在压缩感知(CS)的突破性成果已经建立,许多高维信号可以准确地恢复从相对少量的非自适应线性观测,只要信号具有稀疏表示在一些基础上。随后的努力表明,CS的性能可以通过在推断期间利用非零信号系数的位置中的附加结构,或者通过在感测过程期间利用某种形式的数据相关的自适应测量聚焦来改善。据我们所知,我们自己以前的工作是第一个建立融合自适应感知和结构化稀疏概念时可以实现的潜在好处-该工作研究了从噪声线性测量中恢复支持的任务,并确定了专门针对树稀疏信号的自适应感测策略可以显著优于自适应和非自适应感测策略。对底层结构不可知的自适应感测策略。在这项工作中,我们建立了基本的性能限制的任务,支持恢复树稀疏信号从嘈杂的测量,在设置中,测量可以获得非自适应(使用随机高斯测量策略的初始CS调查的动机)或任何自适应传感策略。我们的主要结果在这里意味着,在我们以前的工作中分析的自适应树传感过程是接近最优的,在这个意义上,没有其他的传感和估计策略可以从根本上更好地识别树稀疏信号的支持。
2013-10-16 cs.IT math.IT math.ST
Stability (over time) of Modified-CS and LS-CS for Recursive Causal Sparse Reconstruction
在这项工作中,我们获得了我们最近提出的算法,修改CS(噪声测量)和最小二乘CS-残差(LS-CS),设计用于递归重建稀疏信号序列从噪声测量的“稳定性”的充分条件。所谓“稳定性”,我们的意思是来自当前支持估计的未命中数量和其中的额外数量在任何时候都保持由时不变值限制。这个概念只有在边界与当前信号支持大小相比很小时才有意义。一个直接的推论是,重建误差也有界的时间不变和小的值。
2010-06-24 cs.IT math.IT stat.ME
Sample Complexity of Learning Mixtures of Sparse Linear Regressions
Microsoft Research(微软研究院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
在学习线性回归混合的问题中,目标是从一系列(可能有噪声)线性测量中学习信号向量的集合,其中每个测量都是在从这个集合中均匀提取的未知信号上进行评估的。这种设置是非常有表现力的,并已在实际应用方面进行了研究,并为建立理论保证。在本文中,我们考虑的情况下,信号向量是稀疏的,这概括了流行的压缩感知范式。我们对最先进的结果进行了如下改进:在有噪声的情况下,我们通过展示如何处理两个以上向量的集合来解决Yin等人(IEEE Transactions on信息论,2019)的一个公开问题,并提出了第一个鲁棒重建算法,即,如果信号不是完全稀疏的,我们仍然学习信号的良好稀疏近似。在无噪声的情况下,以及在嘈杂的情况下,我们展示了如何规避需要在以前的工作中所需的限制性假设。我们的技术是完全不同的,从那些在以前的工作:对于无噪声的情况下,我们依赖于稀疏多项式的属性和嘈杂的情况下,我们提供了新的连接学习高斯混合和使用的思想从理论的纠错码。
2019-10-30 cs.IT cs.LG math.IT
Sparse recovery via Orthogonal Least-Squares under presence of Noise
我们考虑的正交最小二乘(OLS)算法的恢复$m$维$k$稀疏信号从少量的噪声线性测量。在信号非零元素满足一定条件的情况下,建立了有界噪声环境下OLS的精确恢复条件。新的结果也改善了现有的保证正交匹配追踪(OMP)算法。此外,该框架还可以为系数矩阵是根据高斯分布或伯努利分布随机抽取的情况提供概率保证,其中我们利用了一些集中性质。结果表明,在一定条件下,OLS在$k$迭代中以很高的概率恢复真实支持度。这又证明了${\cal O}\left(k\log m\right)$测量足以通过OLS精确恢复稀疏信号。
2016-08-08 cs.IT math.IT stat.ML
Orthogonal Matching Pursuit with Noisy and Missing Data: Low and High Dimensional Results
许多稀疏回归模型通常假设协变量是完全已知的,并且没有噪声。特别是在高维应用中,情况往往并非如此。本文开发了高效的OMP类算法来处理正是这种设置。我们的算法是有效的OMP,并改善最知名的结果,在回归中的缺失和噪声数据,无论是在高维设置,我们试图从只有几个测量恢复稀疏向量,并在经典的低维设置,我们恢复一个非结构化的回归。在高维环境中,我们的支持恢复算法甚至不需要了解噪声的统计信息。一路上,我们还获得了改进的性能保证OMP的标准稀疏回归问题与高斯噪声。
2015-03-30 cs.IT math.IT math.ST