Two step recovery of jointly sparse and low-rank matrices: theoretical guarantees
我们介绍了一个两步算法的理论保证，以恢复一个联合稀疏和低秩矩阵的欠采样测量其列。该算法首先使用列的一组公共测量来估计矩阵的行子空间。在第二步中，使用简单的最小二乘算法解决矩阵的子空间感知恢复。在从欠采样测量中恢复CINE数据的背景下验证了结果;当采样条件满足时，我们获得了良好的恢复。
2015-06-02 cs.IT math.IT stat.ML
Tight oracle bounds for low-rank matrix recovery from a minimal number of random measurements
本文提出了几个新的理论结果，关于恢复一个低秩矩阵，从几个测量组成的矩阵元素的线性组合。我们表明，适当约束的核范数最小化稳定地恢复低秩矩阵，从一个恒定数量的噪声测量每个自由度，这似乎是第一个结果，这种性质。此外，来自噪声数据的恢复误差在三个目标的常数内：1）最小最大风险，2）如果矩阵的列空间已知则将可用的预言误差，以及3）更自适应的预言误差，其将在与矩阵的位于噪声之上的部分相对应的列空间的知识的情况下可用。最后，关于低秩矩阵的误差界进行了扩展，提供了一个误差界时，矩阵具有衰减奇异值满秩。本文的分析是基于[6]中对向量和[22]中对矩阵引入的限制等距性（RIP）。
2010-01-02 cs.IT math.IT
Multi-weight Nuclear Norm Minimization for Low-rank Matrix Recovery in Presence of Subspace Prior Information
加权核范数最小化最近被认为是一种技术，用于从压缩采样测量重构低秩矩阵时，矩阵的行列子空间的一些先验信息是可用的。在这项工作中，我们研究的恢复条件和相关的恢复保证加权核范数最小化时，允许多个权重。当可以访问与地面实况矩阵的列子空间和行子空间形成多个角度的先前子空间时，可以使用该设置。虽然在这一领域的现有作品使用一个单一的权重来惩罚所有的角度，我们提出了一个多权重的问题，旨在惩罚每个角度独立使用一个不同的权重。具体来说，我们证明了我们提出的多权重问题是稳定的和强大的条件下较弱的条件下的测量算子比类似的条件为单权重的情况下，标准的核范数最小化。此外，它提供了比现有技术方法更好的重建误差。我们用大量的数值实验来说明我们的结果，这些实验证明了在恢复过程中允许多个权重的优点。
2022-04-26 cs.IT math.IT
Guaranteed sparse signal recovery with highly coherent sensing matrices
Claremont McKenna College（克莱蒙特麦肯纳学院）；Alcatel-Lucent（阿尔卡特朗讯）
本文提出PartInv算法，解决高相干感知矩阵下的稀疏信号恢复问题，提供理论支持和实证比较。
2014-04-01 cs.IT cs.NA math.IT
On MDS Condition and Erased Lines Recovery of Generalized Expanded-Blaum-Roth Codes and Generalized Blaum-Roth Codes
广义扩展Blaum-Roth（GEBR）码[1]是为大规模分布式存储系统设计的，与局部可恢复码（LRC）相比，GEBR码对单符号故障、多列故障和多行故障具有更大的可恢复性。GEBR码将$α\times k$信息阵列编码成$pτ\times (k+r)$阵列，使得具有$0\leq i\leq r-1$的$i$的斜率线具有偶奇偶校验，并且每列包含$pτ-α$局部奇偶校验符号，其中$p$是奇素数和$k+r\leq pτ$。GEBR代码是$(n,k)$可恢复的充要条件（即，$n=k+r$列中的任何$k$可以检索所有信息符号）在[2]中针对$α=(p-1)τ$给出。然而，当$α<(p-1)τ$时，GEBR代码的$(n,k)$可恢复条件未知。本文给出了$α< (p-1)τ$的GEBR码的$(n,k)$可恢复条件。此外，我们提出了一个充分条件，使GEBR码恢复任何斜率$i$（$0\leq i\leq pτ-1$）的任何参数$r$时，$τ$是$p$的幂的一些擦除线。此外，我们提出了广义Blaum-Roth（GBR）码的编码到一个$α\times (k+r)$阵列的$α\times k$信息阵列的建设。我们证明了GBR码与GEBR码的$(n,k)$可恢复条件具有相同的MDS条件，并给出了GBR码恢复任意斜率$i$（$0\leq i\leq α-1$）的擦除线的一个充分条件.
2022-09-12 cs.IT math.IT
Greedy Subspace Pursuit for Joint Sparse Recovery
在本文中，我们解决稀疏多测量向量（MMV）的问题，其目标是恢复一组稀疏的非零行向量或指数的信号矩阵不完整的测量。理想情况下，不管信号矩阵中的列数如何，稀疏度（k）加一个测量值对于几乎所有信号的信号向量的均匀恢复是足够的，即，不包括勒贝格测度为零的集合。为了在信号矩阵秩小于k的情况下仍能以较高的计算效率逼近“k+1”下界，本文提出了一种称为两阶段正交子空间匹配追踪（TSMP）的贪心算法，其理论结果比正交子空间匹配追踪（OSMP）和子空间增强多信号分类（SA-MUSIC）算法在更少的限制条件下逼近下界.我们提供非渐近的OSMP和TSMP的性能保证，覆盖无噪声和噪声的情况下。约束等距属性和互相关的变体被用来提高性能保证。数值模拟表明，该方案具有较低的复杂度，并优于大多数现有的贪婪方法。这表明，随着信号矩阵列数的增加，TSMP成功的最小测量次数比现有方法更快地收敛到下界。
2016-01-26 cs.IT math.IT
Weighted Matrix Completion and Recovery with Prior Subspace Information
一个不相干的低秩矩阵可以有效地重建后，观察它的一些元素在随机，然后解决一个凸规划，最小化核范数。在许多应用中，除了这些条目之外，关于矩阵的列和行空间的潜在有价值的先验知识也可用于从业者。在本文中，我们将这种先验知识纳入矩阵完成--通过最小化加权核范数--并精确量化任何改进。特别是，我们发现，在理论上，可靠的先验知识减少了样本的复杂性矩阵完成的对数因子，和观察到的改善数值模拟是相当多的放大。我们也提出了类似的结果，从通用线性测量矩阵恢复密切相关的问题。
2018-03-12 cs.IT math.IT
Conditioning of Random Block Subdictionaries with Applications to Block-Sparse Recovery and Regression
线性模型是统计学和信号处理文献的主要内容，在线性模型中，一组观测值被假定为由矩阵的列的线性组合给出。在线性模型下进行推理的一个特殊挑战是理解字典上的条件，在这些条件下可靠的推理是可能的。近年来，由于许多现代推理问题涉及“欠定”设置，其中观察的数量比字典中的列数要小于得多，因此这一挑战重新引起了人们的关注。本文作出了几个贡献，这种设置时，一组的意见是由一个线性组合的一小部分列的字典，被称为“块稀疏”的情况下。首先，它指定字典上的条件，在该条件下，大多数块子字典是良态的。这个结果从根本上不同于先前关于块稀疏推理的工作，因为（i）它提供了可以在多项式时间内显式计算的条件，（ii）给定的条件转化为块子字典的列数的接近最优的缩放，作为大类字典的观察数的函数，以及（iii）它表明字典的谱范数和二次平均块相干性（而不是最坏情况的相干性）从根本上限制了条件良好的块子字典的维度的缩放。其次，本文研究了欠定背景下的块稀疏恢复和块稀疏回归问题。只要字典满足容易计算的条件，并且描述列组的线性组合的系数可以通过温和的统计先验来建模，则对于某些字典，接近最优的块稀疏恢复和回归是可能的。
2016-08-28 cs.IT math.IT math.ST
A Greedy Algorithm for Matrix Recovery with Subspace Prior Information
矩阵恢复是从一些线性测量中恢复低秩矩阵的问题。近年来，该问题得到了广泛的关注，因为它被用于许多应用，如Netflix奖问题，地震数据插值和协同过滤。在这些应用中，可以访问关于矩阵的列和行空间的附加先验信息。这些额外的信息可以潜在地增强基质恢复性能。在本文中，我们提出了一个有效的贪心算法，利用先验信息的恢复过程。所提出的算法的性能进行测量的秩限制等距属性（R-RIP）。与不使用先验信息的情况相比，我们所提出的算法在R-RIP上收敛的条件更温和。此外，我们的算法表现出更好的计算复杂性和成功率方面的核范数最小化。
2019-07-27 cs.IT math.IT
Optimal Weighted Low-rank Matrix Recovery with Subspace Prior Information
矩阵检测是从少量线性测量值重构低秩矩阵的问题。在协同滤波、著名的Netflix奖问题和地震数据插值等应用中，存在关于地面真实低秩矩阵的列和行空间的先验信息。在本文中，我们利用这种先验信息，提出了一个加权优化问题，其目标函数促进秩和先验子空间信息。利用圆锥积分几何中的最新结果，我们得到了唯一的最优权重，使所需的测量次数最小化。仿真结果证实，所提出的凸规划与最佳权重需要显着减少测量比常规核范数最小化。
2019-04-29 cs.IT math.IT
CodedSketch: A Coding Scheme for Distributed Computation of Approximated Matrix Multiplication
在本文中，我们提出了CodedSketch，作为一个分布式的抗离散计划来计算两个大规模矩阵的乘法近似。目标是降低恢复阈值，恢复阈值定义为我们需要等待才能恢复最终结果的工作节点的总数。为了利用仅需要近似结果的事实，在降低恢复阈值时，需要某些种类的预压缩。然而，压缩固有地涉及一些随机性，这将丢失矩阵的结构。另一方面，考虑矩阵的结构是降低恢复阈值的关键。在CodedSketch中，我们在第一个矩阵的行和第二个矩阵的列上使用count--sketch作为基于哈希的压缩方案，并在第一个矩阵的列和第二个矩阵的行上使用结构化多项式代码。这种安排使我们能够利用两者的增益来降低恢复阈值。为了提高计算精度，需要多个独立的计算草图。这种独立性使我们能够从理论上表征结果的准确性，并建立所提出的方案实现的恢复阈值。为了保证输出中的结果计数-草图的独立性，同时保持其恢复阈值上的成本最小，我们使用另一层结构化代码。
2021-02-12 cs.DC cs.IT math.IT
Joint Sparse Recovery Method for Compressed Sensing with Structured Dictionary Mismatches
在传统的压缩感知理论中，字典矩阵是先验给定的，而在实际应用中，这个矩阵会受到随机噪声和波动的影响。在本文中，我们考虑的信号模型中的字典矩阵中的每一列的结构性噪声的影响。该公式在雷达系统和阵列处理中遇到的离网目标的到达方向（DOA）估计中是常见的。我们建议使用联合稀疏信号恢复来解决结构化字典不匹配的压缩感知问题，并给出了这种联合稀疏恢复的分析性能界。我们表明，在温和的条件下，原始稀疏信号的重建误差是有界的稀疏性和噪声水平的测量模型。此外，我们实现了快速一阶算法，以加快计算过程。数值算例验证了所提算法的良好性能，同时也表明联合稀疏恢复方法比现有方法具有更好的重建效果。通过实现联合稀疏恢复方法，在被动和主动感知情况下，DOA估计的精度和效率都得到了提高。
2014-07-24 cs.IT math.IT
High-Girth Matrices and Polarization
矩阵的围长是指线性相关列的最小数量，而秩是指线性无关列的最大数量。本文研究了概率围长与其秩相近的{ \it high-girth}矩阵的构造问题。随机矩阵可以用来证明具有常数相对秩的高围长矩阵的存在性，但其构造是非显式的。本文利用类极结构给出了任意域和相对秩的高围长矩阵的确定性和有效的构造。编码和稀疏恢复的应用进行了讨论。
2015-02-05 cs.IT math.IT
Complete Dictionary Recovery over the Sphere I: Overview and the Geometric Picture
Columbia University（哥伦比亚大学）
我们考虑恢复完整的（即，平方和可逆的）矩阵$\mathbf A_0$，由$\mathbf Y \in \mathbb{R}^{n \times p}$和$\mathbf Y = \mathbf A_0 \mathbf X_0$构成，条件是$\mathbf X_0$足够稀疏。这个恢复问题是字典学习的理论理解的核心，字典学习寻求输入信号集合的稀疏表示，并在现代信号处理和机器学习中找到许多应用。我们给出了第一个有效的算法，可证明恢复$\mathbf A_0$时，$\mathbf X_0$有$O(n)$非零每列，在适当的概率模型$\mathbf X_0$。相比之下，基于有效算法的先前结果要么仅在$\mathbf X_0$每列具有$O(\sqrt{n})$零值时保证恢复，要么在$\mathbf X_0$每列具有$O(n^{1-δ})$非零值时（对于任何常数$δ\in (0, 1)$）需要多轮SDP松弛才能工作。我们的算法流水线围绕解决具有球形约束的特定非凸优化问题。在本文中，我们提供了一个几何表征的客观景观。特别是，我们表明，这个问题是高度结构化的：具有高概率，（1）没有“虚假”的局部极小;（2）在所有鞍点的目标有一个负的方向曲率。这种独特的结构使问题服从有效的优化算法。在一篇配套论文（arXiv：1511.04777）中，我们设计了一个二阶信赖域算法，该算法可以证明从任意初始化收敛到局部极…
2016-09-01 cs.CV cs.IT math.IT
PolarAir: A Compressed Sensing Scheme for Over-the-Air Federated Learning
Texas A&M University（德州农工大学）
我们探索了一种方案，该方案能够在加性高斯白噪声信道上以联邦学习配置训练深度神经网络。我们的目标是创建一个低复杂度，线性压缩策略，称为PolarAir，减少在用户端的梯度的大小，以降低传输它所需的信道使用的数量。建议的方法属于家庭的压缩传感技术，但它构造的传感矩阵和使用多址技术的恢复过程。仿真表明，与在不压缩的情况下传送梯度相比，它可以将信道使用的数量减少约30%。与文献中的其他方案相比，所提出的方案的主要优点是其低时间复杂度。我们还研究了梯度更新的行为和PolarAir在整个训练过程中的性能，以了解如何最好地构建基于压缩感知的压缩方案。
2023-01-24 cs.IT cs.LG eess.SP
An explicit sparse recovery scheme in the L1-norm
Indian Institute of Science（印度科学学院）
本文提出一种显式二进制矩阵，用于高效稀疏恢复，其列稀疏度最优且恢复算法高效，适用于近δn稀疏向量的恢复。
2014-11-10 cs.DS cs.IT cs.NA
A signal recovery algorithm for sparse matrix based compressed sensing
基于随机构造的稀疏测量矩阵，提出了一种低计算代价的压缩感知近似信号恢复算法。大数定律和中心极限定理表明，当矩阵密度与信号大小$N$一样大且测量次数$M$趋于无穷大时，该算法饱和了Donoho-Tanner弱阈值，并保持$α=M/N \sim O(1)$不变，这得到了大量数值实验的支持.即使当测量矩阵中每列/行的非零条目的数量被限制为$O(1)$时，数值实验表明，如果信号的非零条目的密度$ρ$低于特定临界值$ρ_{\rm th}(α)$（如$N,M \to \infty$），则该算法通常仍然可以以每次更新的$O(N)$计算成本完美地恢复原始信号。
2011-02-16 cond-mat.dis-nn cs.IT math.IT
Polynomial-Time Key Recovery Attack on the Lau-Tan Cryptosystem Based on Gabidulin Codes
本文介绍了对Lau和Tan在ACISP 2018上的一次演讲中提出的密码系统的密钥恢复攻击。Lau-Tan密码系统使用Gabidulin码作为底层可解码码。为了隐藏Gabidulin码的代数结构，作者选择了一个列秩矩阵$n$与秘密Gabidulin码的生成矩阵混合。然而，公钥的另一部分揭示了关于私钥的关键信息。我们的分析表明，恢复私钥的问题可以归结为解决一个多元线性系统的基础领域，而不是解决一个多元二次系统的作者所声称的。求解线性系统的任何非零解允许我们恢复私钥。显然，这种攻击花费了多项式时间，因此完全破坏了密码系统。
2022-01-06 cs.CR cs.IT math.IT
The Generalized Random Access Problem for Linear Codes
Technical University of Denmark（丹麦技术大学）；Università degli Studi della Campania “Luigi Vanvitelli”（坎帕尼亚路易吉范维泰利大学）
该研究针对线性码的广义随机接入问题，建立了多符号恢复的参数上下界，推导了系统MDS、单纯形编码器的相关公式，并在三维空间中对比了平衡拟弧与基准值。
2026-08-21 cs.IT math.CO math.IT
Streaming Codes for Channels with Burst and Isolated Erasures
我们研究了低延迟纠错码的流恢复一类包擦除信道，同时引入突发擦除和孤立擦除。我们提出了一个简单的，但有效的一类代码，其参数可以调整，以获得正确的突发和孤立的擦除的能力之间的权衡。我们的建设推广了以前提出的低延迟码，这是有效的，只对突发擦除。我们建立了一个信息论上界的任何代码的能力，同时纠正突发和孤立的擦除，并表明我们提出的建设满足上界在某些特殊情况下。我们讨论了列距和列跨度度量的运算意义，并建立了Martinian和Sundberg [IT Trans.\，2004]通过计算机搜索确实获得了最佳的列距和列跨折衷。Gilbert-Elliott信道模型和Fritchman信道模型的数值仿真结果表明，在一定的信道参数范围内，该方法比以前提出的低延迟码和随机线性码具有显著的性能增益。
2012-08-01 cs.IT cs.MM math.IT
