Robust Sparse Subspace Tracking from Corrupted Data Observations
本文提出基于 alpha 散度的稀疏子空间跟踪方法，在低计算复杂度和低存储条件下提升对非高斯噪声与数据损坏的鲁棒性，并在子空间跟踪和 DOA 估计中优于现有方法。
2025-09-20 cs.IT eess.SP math.IT
A Lower Bound on the Estimator Variance for the Sparse Linear Model
研究了基于线性变换和加性高斯白噪声的观测值的稀疏非随机向量估计的性能。利用再生核希尔伯特空间框架，对给定的可微偏置函数（包括无偏情况）和几乎任意的变换矩阵（包括压缩感知理论中考虑的欠定情况），给出了估计方差的一个新的下界.对于稀疏向量被高斯白噪声破坏的特殊情况，即，在没有线性变换和无偏估计的情况下，我们的下界改进了先前提出的界。
2010-09-17 cs.IT math.IT math.ST
Exact Tensor Completion from Sparsely Corrupted Observations via Convex Optimization
Hong Kong Baptist University（香港浸会大学）
本文对多维数组，特别是三阶张量的可证明估计进行了严格的分析，从其损坏项的随机子集。我们的研究很大程度上依赖于最近提出的张量代数框架，在该框架中，我们可以获得张量奇异值分解（t-SVD），这是类似于矩阵的SVD，并定义了一个新的概念张量秩称为管秩。我们证明，通过简单地解决一个凸规划，它最小化的加权组合的管核范数，凸代理管秩，和$\ell_1$ -范数，可以恢复一个不相干的张量完全压倒性的概率，只要它的管秩不是太大，腐败是合理的稀疏。有趣的是，我们的结果包括恢复保证的问题，张量完成（TC）和张量主成分分析（TRPCA）在相同的代数设置的特殊情况下。提出了一种交替方向乘子法（ADMM）算法来求解该优化问题。数值实验验证了我们的理论和实际应用证明了我们的算法的有效性。
2017-08-02 cs.CV cs.IT cs.LG
Data recovery from corrupted observations via l1 minimization
本文研究了通过求解l1最小化问题，从一组受损的线性测量中恢复信号矢量和受损的噪声矢量的问题，其中传感矩阵是一个部分傅立叶矩阵，其行是从一个全傅立叶矩阵的行中随机均匀地选择的。在适当地选择l1最小化中的参数后，我们证明了即使当恒定分数的测量值被任意损坏时，恢复也可以成功，而且，只要信号矢量足够稀疏，损坏的测量值的比例可以任意增长到接近1。本文所要求的信号矢量稀疏性的上界是渐近最优的，并且优于文献[1，2]中通过ln（n）因子得到的结果。此外，与现有文献[1-3]相比，我们对信号向量和噪声向量的假设是宽松的，这使得我们的恢复保证更适用。广泛的数值实验的基础上合成以及现实世界的数据，以验证所提出的定理的结论，并证明潜在的l1最小化框架。
2016-01-22 cs.IT math.IT
Exact recoverability from dense corrupted observations via $L_1$ minimization
本文证实了Wright \textit{et al.} \cite{WYGSM_Face_2009_J} \cite{WM_denseError_2010_J}在不同设置下首次观察到的令人惊讶的现象：给定$m$高度损坏的测量值$y = A_{Ω\bullet} x^{\star} + e^{\star}$，其中$A_{Ω\bullet}$是其行从正交矩阵$A$的行中均匀随机选择的子矩阵，并且$e^{\star}$是其非零项可以是无界的未知稀疏误差向量，我们表明，即使几乎100%的测量值被破坏，$\ell_1$最小化也可以以高概率仅从$m = C μ^2 k (\log n)^2$精确地恢复感兴趣的稀疏信号$x^{\star}$，其中$k$是$x^{\star}$和$μ= n \max_{ij} A_{ij}^2$的非零分量的数目。我们进一步保证，稳定的恢复是可能的，当测量被污染的总稀疏和小的密集错误：$y = A_{Ω\bullet} x^{\star} + e^{\star}+ ν$其中$ν$是小的密集噪声与有界能量。各种设置下的大量仿真结果也被提出来验证理论的有效性，以及说明所提出的框架的有前途的潜力。
2011-11-23 cs.IT math.IT math.ST
Unbiased Estimation of a Sparse Vector in White Gaussian Noise
本文研究了被加性高斯白噪声污染的稀疏非随机向量的无偏估计。我们表明，虽然有无限多的无偏估计这个问题，他们都没有一致的最小方差。因此，我们专注于局部最小方差无偏（LMVU）估计。我们得到简单的封闭形式的下限和上界的方差LMVU估计，或等价地，Barankin界（BB）。我们的界限允许分离低SNR和高SNR制度的阈值区域的估计，并且它们指示BB在高SNR下的渐近行为。我们还开发了数值下限和上界，这是严格的封闭形式的界限，从而更准确地描述BB。数值研究比较我们的特性的BB与建立有偏估计方案，并表明，而无偏估计在低信噪比表现不佳，他们可能会表现得更好，在高信噪比有偏估计。我们的分析的一个有趣的结论是，BB的高SNR行为仅取决于稀疏向量的最小非零分量的值，并且这种类型的依赖性也表现出某些实际估计的性能。
2010-05-31 cs.IT math.IT math.ST
Robust Lasso with missing and grossly corrupted observations
本文研究了从严重损坏的线性测量值$y = X β^{\star} + e^{\star} + w$中精确恢复稀疏向量$β^{\star}$的问题，其中$e^{\star}$是一个稀疏差错向量，其非零项可能是无界的，而$w$是一个有界噪声。我们提出了一个所谓的扩展Lasso优化，它考虑到稀疏先验信息的$β^{\star}$和$e^{\star}$。我们的第一个结果表明，扩展的Lasso可以忠实地恢复回归以及腐败向量。我们的分析依赖于设计矩阵$X$的扩展限制特征值的概念。我们的第二组结果适用于一般类的高斯设计矩阵$X$与i.i.d行$\oper N(0, Σ)$，我们可以建立一个令人惊讶的结果：扩展的Lasso可以恢复确切的有符号支持$β^{\star}$和$e^{\star}$仅从$Ω(k \log p \log n)$的意见，即使腐败的分数是任意接近一。我们的分析还表明，实现精确符号支持所需的观测量确实是最优的。
2011-12-06 cs.IT math.IT math.ST
Robust High Dimensional Sparse Regression and Matching Pursuit
我们认为高维稀疏回归，并制定战略，能够处理任意-可能的，严重的或协调-在协方差矩阵$X$的错误。这些可能来自损坏的数据，持续的实验错误，或恶意的受访者在调查/推荐系统等非随机误差变量的问题是出了名的难以处理，正如我们所证明的，这个问题是特别明显的高维设置的主要目标是{ \em支持恢复}的稀疏回归。我们开发的算法支持稀疏回归恢复，当一些数字$n_1$出$n+n_1$总协变量/响应对{ \it任意（可能恶意）损坏}。我们感兴趣的是了解我们可以容忍多少离群值$n_1$，同时确定正确的支持。据我们所知，无论是标准的离群值拒绝技术，也不是最近开发的强大的回归算法（只关注损坏的响应变量），也不是最近的算法处理随机噪声或擦除，可以提供支持恢复的保证。也许令人惊讶的是，我们还表明，自然蛮力算法，搜索所有子集的$n$协变量/响应对，所有子集的可能的支持坐标，以尽量减少回归误差，是非常差的，无法正确地识别支持，甚至$n_1 = O(n/k)$损坏点，其中$k$是稀疏。即使在我们考虑的基本设置中也是如此，其中所有真实的测量和噪声都是独立的和亚高斯的。在这种情况下，我们提供了一个简单的算法--计算量不比OMP大--它提供了更强的性能保证，可以恢复多达$n_1 = O(n/(\sqrt{k} \log p))$损坏点的支持，其中$p$是要恢复的信号的维度。
2013-01-12 cs.IT cs.LG math.IT
Corrupted Sensing: Novel Guarantees for Separating Structured Signals
我们研究的问题，损坏的感知，压缩感知的推广，其中一个目的是恢复一个信号从收集损坏或不可靠的测量。虽然在面对任意损坏时不能恢复任意信号，但是当信号和损坏都被适当地结构化时，易于处理的恢复是可能的。我们量化的信号恢复和两个几何措施的结构，高斯复杂性的切线锥和高斯距离的次微分之间的关系。我们采取凸规划的方法来解开信号和腐败，分析惩罚方案，权衡信号和腐败的复杂性，和约束方案，约束信号或腐败的复杂性时，先验信息是可用的。在每种情况下，我们提供的条件，从结构化腐败和稳定的信号恢复结构化腐败与非结构化噪声。我们的模拟表明，我们的理论恢复界限和在实践中观察到的尖锐的相变之间的密切协议。此外，我们提供了新的可解释的高斯复杂性的稀疏向量，块稀疏向量，低秩矩阵，这导致更清晰的保证恢复时，结合我们的结果和文献中的。
2014-02-04 cs.IT math.IT math.OC
Recovery of Block-Sparse Representations from Noisy Observations via Orthogonal Matching Pursuit
我们研究的问题，从噪声损坏的测量块稀疏信号的稀疏模式的恢复。一个简单，有效的恢复方法，即块版本的正交匹配追踪（OMP）的方法，被认为是本文和它的行为恢复块稀疏模式进行了分析。我们提供了充分的条件下，块版本的OMP可以成功地恢复块稀疏表示存在噪声。我们的分析表明，利用块稀疏性可以提高恢复能力，并导致保证恢复更高的稀疏水平。数值结果证实了我们的理论主张。
2011-09-26 cs.IT math.IT
Stable Restoration and Separation of Approximately Sparse Signals
本文发展了新的理论和算法来恢复在一些通用字典中近似稀疏的信号（即，基、帧或过/不完整矩阵），但是被在第二通用字典中具有稀疏表示的干扰和测量噪声的组合破坏。算法和分析恢复条件考虑不同程度的信号和干扰支持集知识。所提出的框架所涵盖的特定应用包括恢复受脉冲噪声、窄带干扰或饱和/限幅影响的信号，以及图像修补、超分辨率和信号分离。两个音频和图像复原的应用实例证明了该方法的有效性。
2013-09-05 cs.IT math.IT
Toeplitz Matrix Based Sparse Error Correction in System Identification: Outliers and Random Noises
本文研究稀疏野值和随机噪声下的鲁棒系统辨识问题。在我们的问题中，通过Toeplitz矩阵观察系统参数。所有的观测值都受到随机噪声的影响，少数观测值被离群值破坏。我们减少这个问题的系统辨识稀疏纠错问题使用Toeplitz结构的实数编码矩阵。证明了Toeplitz结构矩阵在稀疏纠错中的性能保证。还建立了Toeplitz结构矩阵的可纠正错误的百分比。当离群值和观测噪声都存在时，我们已经证明，只要观测噪声的概率密度函数在0附近不“消失”，估计误差就渐近地趋于0。
2012-12-04 cs.IT math.IT
Dense Error Correction via L1-Minimization
本文研究了从严重损坏的线性测量值$\y = A\x + \e \in \Re^m$中恢复非负稀疏信号$\x \in \Re^n$的问题，其中$\e$是一个未知的误差向量，其非零项可能是无界的。受计算机视觉中人脸识别的观察的启发，本文证明了对于高度相关的（并且可能是过完备的）字典$A$，任何非负的、足够稀疏的信号$\x$可以通过求解$\ell^1$最小化问题来恢复：$\min \|\x\|_1 + \|\e\|_1 \quad {subject to} \quad \y = A\x + \e.$更准确地说，如果误差的分数$ρ$有界远离1并且$\x$的支持在观测的维度$m$中次线性地增长，则当$m$变为无穷大时，对于所有信号$\x$和几乎所有$\e$的符号和支持模式，上述$\ell^1$最小化成功。这一结果表明，稀疏信号的准确恢复是可能的，即使在几乎100%的观测损坏的计算上是可行的。证明依赖于一个凸多面体的面的仔细表征跨越在一起的标准crosspolytope和一组iid高斯向量与非零均值和小方差，我们称之为“交叉和花束”模型。模拟和实验结果证实了这一发现，并建议扩展的结果。
2008-09-01 cs.IT math.IT
An Open Problem on Sparse Representations in Unions of Bases
我们认为稀疏表示的信号从冗余字典是工会的几个正交基。由Donoho和Elad引入的火花在稀疏表示中起着重要作用。然而，火花的数值计算通常是组合的。对于多个标准正交基的并，通过相互相干建立了火花的两个下界。我们建设性地证明了它们都是紧的。我们的主要结果给出了积极的答案Gribonval和Nielsen的公开问题稀疏表示工会的正交基。构造性的证明依赖于一个相互无偏基族，它首先出现在量子信息论中。
2021-09-16 cs.IT math.IT
Error Scaling Laws for Linear Optimal Estimation from Relative Measurements
我们研究的问题，估计向量值的变量从嘈杂的“相对”的测量。这个问题出现在几个传感器网络应用中。测量模型可以用图来表示，图的节点对应于变量，而边对应于两个变量之间的差的噪声测量。我们以一个任意变量作为参考，并考虑剩余变量的最优（最小方差）线性无偏估计。我们研究了节点变量的最优线性无偏估计的误差如何随着节点到参考节点的距离而增长。我们建立了一个图的分类，即，稠密或稀疏的Rd，1<= d <=3，决定了一个节点的线性无偏最优估计误差如何增长与它的距离从参考节点。特别地，如果图在1、2或3D中是稠密的，则节点变量的估计误差分别由与参考的距离的线性、对数或有界函数上界。如果图在1、2和3D中是稀疏的，则得到相应的下界。我们的研究结果还表明，天真的措施，如节点度图密度，是不充分的预测估计误差。对于最优线性无偏估计，这些缩放定律确定了在大型图中可实现的估计精度的算法独立限制。
2009-04-18 cs.IT math.IT
Sparse Recovery with Coherent Tight Frames via Analysis Dantzig Selector and Analysis LASSO
Zhejiang University（浙江大学）
本文提出分析Dantzig选择器和分析LASSO算法，在测量矩阵满足紧框架自适应限制等距性质的条件下，从欠采样含噪数据中稳定恢复在紧框架下近似稀疏的信号，并针对稀疏噪声提出了鲁棒方法。
2013-09-08 cs.IT cs.NA math.IT
On Deterministic Sampling Patterns for Robust Low-Rank Matrix Completion
Columbia University（哥伦比亚大学）；Purdue University（普渡大学）
在这封信中，我们研究了确定性采样模式的低秩矩阵的完成，当破坏与稀疏噪声，也被称为鲁棒矩阵完成。我们推广了最近的结果确定性抽样模式的基础上的几何分析的格拉斯曼流形上的噪音。一个特殊的情况下，每列有一定数量的噪声条目被认为是，我们的概率分析执行非常有效。此外，假设原始矩阵的秩没有给出，我们提供了一个分析，以确定是否一个有效的完成的秩确实是与稀疏噪声损坏的数据的实际秩通过验证一些条件。
2017-12-05 cs.CV cs.IT cs.LG
Analysis Based Blind Compressive Sensing
在这项工作中，我们解决的问题，盲目重建压缩感知信号，利用共稀疏分析模型。在分析模型中，假设信号乘以分析运算符会产生稀疏向量。我们提出了一种算法，学习的运营商自适应重建过程中。所产生的优化问题是通过几何共轭梯度法。通过简单地交换数据保真度项来处理不同类型的采样噪声。数值实验进行了破坏高斯以及脉冲噪声的测量，以显示我们的方法的有效性。
2013-03-26 cs.IT math.IT
Distributed Sparse Normal Means Estimation with Sublinear Communication
Weizmann Institute of Science（魏茨曼科学研究所）
本文研究了在通信受限的分布式环境下的稀疏正态均值估计问题。我们假设有$M$机器，每个机器都持有被加性高斯噪声破坏的$K$稀疏向量$μ$的$d$维观测。$M$机器以星形拓扑连接到融合中心，融合中心的目标是以低通信预算估计矢量$μ$。以前的工作已经表明，为了实现$\ell_2$风险的集中式极大极小化率，总的通信必须是高的-至少在维度$d$上是线性的。然而，这种现象发生在非常弱的信号下。我们表明，在信号噪声比（SNR）是足够高的-但不足以恢复任何单独的机器-支持$μ$可以正确地恢复与显着较少的通信。具体来说，我们提出了两个算法的稀疏均值向量的分布估计高斯或亚高斯噪声损坏。然后，我们证明，在一定的SNR阈值以上，以高概率，这些算法恢复正确的支持与总的通信是次线性的维度$d$。此外，通信作为信号强度的函数呈指数下降。如果除了$KM\ll \tfrac{d}{\log d}$，然后与一个额外的一轮次线性通信，我们的算法实现了集中率的$\ell_2$的风险。最后，我们提出了模拟，说明我们的算法在不同的参数制度的性能。
2022-02-14 cs.IT cs.LG math.IT
Recursive Sparse Recovery in Large but Structured Noise - Part 2
我们研究递归恢复稀疏向量的时间序列的问题，ST，从测量Mt：= ST + Lt的结构化噪声Lt，这是密集的，可以有很大的幅度损坏。我们需要的结构是，Lt应该位于一个低维子空间中，该子空间要么是固定的，要么变化“足够慢”;并且其协方差矩阵的特征值是“聚类的”。我们不假设稀疏向量序列上的任何模型。它们的支持集和它们的非零元素值可以是独立的，也可以是随时间相关的（通常在许多应用中它们是相关的）。唯一需要的是，有一些支持的变化，每隔一段时间。我们介绍了一种新的解决方案，称为递归投影压缩感知与聚类PCA（ReProCS-cPCA），解决了一些早期工作的局限性。在温和的假设下，我们表明，以高概率，ReProCS-cPCA可以在任何时候都准确地恢复St的支持集;并且St和Lt的重建误差都是由时不变的小值上界的。
2013-03-05 cs.IT math.IT
Outliers and Random Noises in System Identification: a Compressed Sensing Approach
本文研究稀疏野值和随机噪声下的鲁棒系统辨识问题。在这个问题中，通过Toeplitz矩阵观察系统参数。所有的观测值都受到随机噪声的影响，少数观测值被离群值破坏。我们减少这个问题的系统辨识稀疏纠错问题使用Toeplitz结构的实数编码矩阵。证明了Toeplitz结构矩阵在稀疏纠错中的性能保证。建立了Toeplitz结构矩阵的可纠正错误百分比的估计。当离群值和观测噪声都存在时，我们已经证明，只要观测噪声的概率密度函数在0附近不“消失”，估计误差就渐近地趋于0。未对离群值进行概率假设。
2013-05-27 cs.IT math.IT
On the Performance Bound of Sparse Estimation with Sensing Matrix Perturbation
本文主要研究了在感知矩阵和观测向量均被加性高斯噪声污染的情况下的稀疏估计问题。对稀疏估计的性能界进行了深入的分析和讨论。讨论了两类下界：约束Cramér-Rao界（CCRB）和Hammersley-Chapman-Robbins界（HCRB）.结果表明，与传感矩阵扰动的情况是更复杂的一个只有测量噪声。对于CCRB，推导出了其封闭形式的表达式。它证明了最大和非最大支持情况之间的差距。同时也揭示了CCRB与Oracle伪逆估计的均方误差之间存在差距，但当问题维数趋于无穷大时，CCRB渐近趋近于零。对于一个更严格的界，HCRB，尽管在获得一个简单的表达式，一般的传感矩阵的困难，在单位传感矩阵的情况下，一个封闭的形式的表达式推导的性能界的定性研究。结果表明，最大和非最大情况之间的差距被消除HCRB。数值模拟验证了本文的理论结果。
2013-06-06 cs.IT math.IT
On State Estimation with Bad Data Detection
本文考虑了通过可能受到坏数据和加性观测噪声破坏的观测进行状态估计的问题。采用混合的$\ell_1$和$\ell_2$凸规划方法从观测值中分离稀疏坏数据和加性噪声。利用线性子空间的几乎欧几里德性质，得到了稀疏坏数据和加性观测噪声下状态估计误差的一个新的性能界。我们的主要贡献是提供尖锐的界限几乎欧几里德性质的线性子空间，使用“逃逸通过一个网格”定理从几何泛函分析。我们还提出了一种迭代凸规划方法，并进行了数值评估，在非线性电力网络问题中进行不良数据检测。
2011-05-02 cs.IT math.IT
Uncertainty relations and sparse signal recovery
本章提供了一个原则性的介绍稀疏信号恢复的不确定性关系。我们从Donoho和Stark在1989年的开创性工作开始，该工作将不确定性关系定义为带限算子的算子范数的上界，然后是时间限制算子，将该理论推广到任意算子对，然后发展--从这个推广中--由于Elad和Bruckstein在2002年提出的基于相干性的不确定性关系，以及根据$1$ -范数或$2$ -范数的浓度的不确定性关系。该理论完成了最近发现的集理论的不确定性关系，导致最好的恢复阈值方面的一般措施的简约性，即闵可夫斯基维。我们还阐述了显着的不确定性关系和“大筛”，一个家庭的不平等发展的解析数论之间的联系。最后示出了如何不确定性关系允许建立实际的信号恢复问题，如修补，declipping，超分辨率和去噪的脉冲噪声或窄带干扰损坏的信号的基本限制。本章提供了详细的证明。
2020-03-26 cs.IT math.IT
Performance Bounds for Sparse Parametric Covariance Estimation in Gaussian Models
我们考虑估计的稀疏参数向量，确定高斯随机向量的协方差矩阵通过稀疏扩展到已知的“基矩阵”。利用再生核Hilbert空间的理论，我们得到了一个给定的均值函数的估计方差的下界。这包括作为特殊情况的无偏估计。我们还提出了一个数值比较我们的下限与两个标准估计（硬阈值估计和最大似然估计）的方差。
2011-01-20 cs.IT math.IT math.ST
Prevalence and recoverability of syntactic parameters in sparse distributed memories
California Institute of Technology（加州理工学院）
本文提出了一种基于稀疏分布记忆（Kanerva网络）的新方法，用于研究句法分析的原则和参数模型中不同句法参数之间的依赖关系。我们将世界语言的语法参数数据存储在Kanerva网络中，并检查网络中损坏的参数数据的可恢复性。我们发现不同的句法参数具有不同的可恢复性。我们确定了两种不同的影响：一个整体的潜在关系的流行参数之间的语言和他们的程度的可恢复性，和一个更好的效果，使一些参数更容易恢复超出他们的流行程度将表明。我们解释了一个更高的可恢复性的语法参数作为一个依赖关系的存在，通过该参数可以确定使用剩余的未损坏的数据的指示。
2015-10-21 cs.CL cs.IT math.IT
Event-Triggered State Observers for Sparse Sensor Noise/Attacks
UCLA Electrical Engineering Department（加州大学洛杉矶分校电气工程系）
本文提出两种算法用于稀疏噪声下的状态重构，通过事件触发技术提升计算效率，以应对物理系统中的恶意攻击。
2014-09-19 cs.CR cs.IT cs.SY
Structured Sampling for Robust Euclidean Distance Geometry
University of Central Florida（中佛罗里达大学）；Tufts University（塔夫茨大学）
针对稀疏离群值干扰下基于距离测量的点位置估计问题，提出一种结合Nyström方法和鲁棒主成分分析的新算法，无需目标节点间距离测量，仅处理局部距离矩阵子集，在传感器定位等场景中实现高效鲁棒的位置估计。
2025-02-18 cs.IT cs.LG math.IT
Efficient and Universal Corruption Resilient Fountain Codes
在本文中，我们提出了一个新的家庭喷泉码，克服对抗性错误。也就是说，我们考虑的可能性，到达的数据包的一个无比率纠删码的某一部分被损坏在一个不可检测的方式。在实践中，损坏的分组可以归因于由对手控制的通信路径的一部分或恶意的源的一部分。所提出的代码类似和扩展LT和Raptor码。然而，他们的好处超过现有的编码方案是多方面的。首先，为了克服损坏的数据包，我们的代码使用信息理论技术，而不是密码原语。因此，在中继器和接收器之间不需要秘密信道。第二，在建议的方案中的编码器是无视对手的实力，但执行，如果它的实力是事先知道的。第三，码的稀疏结构便于高效解码。最后，当源之间不允许通信时，代码很容易适合具有多个源的分散场景。我们提出了详尽的，以及有效的解码规则。除了作为无比率码的明显用途之外，我们的码在分布式计算中具有重要的应用。
2011-11-27 cs.CR cs.IT math.IT
Corruption Robust Phase Retrieval via Linear Programming
我们考虑从损坏的幅度观测相位恢复的问题。特别是，我们表明，一个固定的$x_0 \in \mathbb{R}^n$可以完全恢复损坏的幅度测量$|\langle a_i, x_0 \rangle | + η_i, \quad i =1,2\ldots m$与高概率$m = O(n)$，其中$a_i \in \mathbb{R}^n$是i.i.d标准高斯和$η\in \mathbb{R}^m$有固定的稀疏支持，否则是任意的，通过使用一个版本的PhaseMax算法增加松弛变量受到惩罚。这种线性规划公式，我们称之为RobustPhaseMax，在自然参数空间中运行，我们的证明依赖于使用浓度不等式的最优性条件的直接分析。
2016-12-12 cs.IT math.IT math.OC
0-1 phase transitions in sparse spiked matrix estimation
International Center for Theoretical Physics（国际理论物理中心）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
我们考虑估计的秩一矩阵（尖峰）被加性高斯噪声矩阵在稀疏极限损坏的统计模型。在这种限制下，潜在的隐藏向量（其构造秩一矩阵）具有多个非零分量，这些非零分量与向量的总维度成次线性比例，并且信号强度以适当的速度趋于无穷大。我们证明了显式的低维变分公式之间的渐近互信息的尖峰和所观察到的噪声矩阵在适当的稀疏限制。对于Bernoulli和Bernoulli-Rademacher分布向量，当稀疏度和信号强度满足适当的比例关系时，这些公式意味着渐近最小均方误差的0-1相变。最近在稀疏高维线性回归（压缩感知）的背景下分析了类似的相变。
2019-11-12 cond-mat.dis-nn cs.IT cs.LG
The Cramer-Rao Bound for Sparse Estimation
本文的目标是表征最好的可实现的性能的问题，估计一个未知的参数具有稀疏表示。具体而言，我们考虑设置中，稀疏表示的确定性参数向量是从高斯噪声损坏的测量估计，并推导出一个下界的均方误差（MSE），可实现在此设置。为此，在稀疏设置中的偏差的适当定义，并得到约束的克拉美-罗界（CRB）。这个界被证明是等于CRB的估计与知识的支撑集，几乎所有可行的参数值。因此，在无偏的情况下，我们的界与Oracle估计量的MSE相同。结合CRB是在高信噪比的最大似然技术实现的事实，我们的结果提供了一个新的解释的共同实践中使用的Oracle估计作为一个金标准，对实际的方法进行比较。
2009-09-29 cs.IT math.IT math.ST
Cramer-Rao Bound for Estimation After Model Selection and its Application to Sparse Vector Estimation
针对模型选择步骤会影响后续估计、oracle CRB不适用于非渐近区域模型选择后分析的问题，本文提出Lehmann意义下的选择性无偏概念，推导了相干估计器的选择性Cramér-Rao界，仿真验证其在稀疏向量估计等场景下优于现有界。
2021-02-14 cs.IT eess.SP math.IT
Efficient Unbiased Sparsification
Center for Communications Research（通信研究中心）
本文研究无偏稀疏化压缩向量的问题，提出并刻画了在排列不变或加性可分散度下最小化期望散度的高效无偏稀疏化方法，并发现排列不变散度的最优解对散度函数选择具有鲁棒性。
2024-07-24 cs.IT cs.LG math.IT
Noisy Matrix Completion under Sparse Factor Models
本文研究了一类一般的噪声矩阵完成任务，其目标是从其条目的子集获得的观测估计矩阵，其中每个条目都受到随机噪声或腐败。我们的具体重点是设置的矩阵估计是很好的近似由两个（先验未知）矩阵，其中之一是稀疏的产品。这样的结构模型-这里称为“稀疏因子模型”-已经被广泛使用，例如，在子空间聚类应用中，以及在当代稀疏建模和字典学习任务中。我们的主要理论贡献是估计误差界稀疏正则化极大似然估计的问题，这种形式，这是适用于一些不同的观测噪声或腐败模型。研究了几个具体的含义，包括观测被加性高斯噪声或加性加尾（拉普拉斯）噪声破坏的情况，泊松分布观测，以及高度量化（例如，一位）观察。我们还提出了一个简单的算法方法的基础上交替方向的乘法器为这些任务，并提供实验证据来支持我们的错误分析。
2014-11-02 cs.IT math.IT stat.AP
All-or-nothing statistical and computational phase transitions in sparse spiked matrix estimation
International Center for Theoretical Physics（国际理论物理中心）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Columbia University（哥伦比亚大学）
我们确定的统计和计算限制估计的秩一矩阵（尖峰）损坏的加性高斯噪声矩阵，在稀疏的限制，其中潜在的隐藏向量（构成秩一矩阵）有一些非零分量的规模与向量的总维度次线性，和信噪比趋于无穷大在适当的速度。我们证明了显式的低维变分公式的渐近互信息之间的尖峰和观察到的噪声矩阵和分析的近似消息传递算法在稀疏制度。对于Bernoulli和Bernoulli-Rademacher分布向量，当稀疏性和信号强度满足适当的比例关系时，我们发现渐近最小值和算法均方误差的全有或全无相变。这些跳从他们的最大可能值为零，在定义良好的信号噪声阈值的渐近值，我们确切地确定。在渐近制度的算法差距发散，稀疏恢复是很难近似消息传递。
2020-10-30 cond-mat.dis-nn cs.IT cs.LG
On the Global Minimizers of Real Robust Phase Retrieval with Sparse Noise
本文研究了一类在高斯编码矩阵下，当接收信号被噪声稀疏破坏时的实鲁棒相位恢复问题。我们的目标是建立条件的稀疏性下，输入向量可以准确地恢复。恢复问题被公式化为残差的$\ell_1$范数的最小化。主要贡献是一个强大的相位恢复对应的开创性论文坎迪斯和陶压缩传感（$\ell_1$回归）[解码线性规划。IEEE Transactions on信息论，51（12）：4203-4215，2005]。我们的分析依赖于编码矩阵上的一个关键的新属性，我们称之为绝对范围属性（ARP）。该属性类似于压缩感知中的空间属性（NSP）。当使用平方幅度计算残差，我们表明，ARP遵循标准的限制等距属性（RIP）。然而，当使用绝对幅度计算残差时，需要一种新的和非常不同的RIP或增长属性。我们的结论是，鲁棒的相位恢复目标相对于其最小值具有很高的可能性。
2019-05-24 cs.IT math.IT math.OC
