OMP Based Joint Sparsity Pattern Recovery Under Communication Constraints
研究了资源受限分布式网络中基于低维多测量向量的联合稀疏模式恢复问题。我们假设分布式节点观察稀疏信号共享相同的稀疏模式,每个节点通过一个低维线性算子获得测量。当在通信网络中的分布式节点处收集测量结果时,通常需要在诸如通信带宽和发送/处理功率之类的固有资源约束下执行联合稀疏恢复。我们提出了两种方法来考虑通信约束,同时执行常见的稀疏模式恢复。首先,我们探讨使用一个共享的多路访问信道(MAC)在转发观察居住在每个节点的融合中心。使用MAC,虽然带宽要求不取决于节点的数量,但融合中心只能访问观测值的线性组合。我们讨论的条件下,共同稀疏模式可以可靠地估计。其次,我们开发了两个基于正交匹配追踪(OMP)的协作算法,以低通信开销的分散方式联合估计公共稀疏模式。在所提出的算法中,每个节点利用相邻节点之间的合作,通过共享少量的信息融合在不同的阶段,估计在贪婪的方式的真实支持度的指数。所提出的算法的效率和有效性,证明通过模拟与最相关的现有算法考虑性能增益和通信开销之间的权衡比较。
2014-02-28 cs.IT math.IT
Blind Compressed Sensing
压缩感知的基本原理是,一个信号,这是稀疏下的一些基本表示,可以从少量的线性测量恢复。然而,先验知识的稀疏基础是必不可少的恢复过程。本文引入了盲压缩感知的概念,避免了在采样和恢复过程中需要知道稀疏基的问题。我们提出了三种可能的限制稀疏的基础上,可以添加到问题,以使其解决方案的唯一性。对于每个约束,我们证明条件的唯一性,并提出了一个简单的方法来检索的解决方案。在唯一性条件下,只要信号足够稀疏,我们通过仿真证明,在不知道稀疏性基础的情况下,我们的方法可以实现类似于标准压缩感知的结果,这依赖于稀疏性基础的先验知识。这提供了一个通用的采样和重建系统,适合所有稀疏信号,无论稀疏的基础上,在这项工作中提出的条件和约束。
2010-04-28 cs.IT math.IT
A Unified Framework for Identifiability Analysis in Bilinear Inverse Problems with Applications to Subspace and Sparsity Models
双线性反问题(BIPs),即两个向量在双线性映射下的图像的解决,在许多应用中出现。如果没有进一步的限制,BIP通常是不适定的。在实践中,利用自然信号的性质来求解BIPs。例如,施加子空间约束或稀疏约束以减小搜索空间。这些办法在实践中取得了一些成功。然而,目前关于BIPs的唯一性问题的研究还很少。对于大多数BIP,在什么条件下问题允许唯一解的基本问题尚未得到回答。例如,盲增益和相位校准(BGPC)是结构化的双线性逆问题,其出现在许多应用中,包括计算重新照明中的逆渲染(具有未知照明的光估计)、传感器阵列处理中的盲相位和增益校准以及多通道盲解卷积(MBD)。研究这类问题的独特性是很有趣的。在本文中,我们定义了可识别的BIP的一组变换。我们推导出这种可识别性的充分必要条件,即,的条件下,解决方案可以唯一确定的变换群。将这些结果应用于BGPC,我们得到了几种情况下,包括子空间,联合稀疏,稀疏模型的唯一恢复的充分条件。对于联合稀疏或稀疏约束的BGPC,我们开发了一个程序来计算相关的变换群。我们还给出了样本复杂度的紧下界形式的必要条件,并通过数值实验证明了这些界的紧性。BGPC的结果不仅证明了所提出的一般框架的可识别性分析的应用,但在自己的权利也感兴趣。
2015-01-25 cs.IT math.IT
Sparsity Aware Normalized Least Mean p-power Algorithms with Correntropy Induced Metric Penalty
针对非高斯脉冲噪声系统的辨识问题,提出了归一化LMP(NLMP)方法。然而,标准算法没有考虑未知系统固有的稀疏结构分布。为了充分利用稀疏性并抑制脉冲噪声,本文提出了一种稀疏NLMP算法,基于相关熵诱导度量(CIM)约束的NLMP(CIMNLMP)。在第一种算法的基础上,利用可变正则化参数(VRP)选择方法,进一步调整收敛速度和稳态误差,提出了一种改进的CIM约束可变正则化NLMP(CIMVRNLMP)算法。数值仿真验证了所提出的算法的有效性。
2015-03-03 cs.IT math.IT
Capacity-achieving Polar-based Codes with Sparsity Constraints on the Generator Matrices
在本文中,我们利用极化码和成熟的信道极化来设计容量实现码,对生成矩阵(GM)中所有列的权重具有一定的约束,同时具有低复杂度的解码算法。我们首先表明,给定一个二进制输入无记忆对称(BMS)信道$W$和一个常数$s \in (0, 1]$,存在一个极化核,使得相应的极化码是容量实现与\textit{rate of polarization} $s/2$,和GM列权重从上界由$N^s$。为了改善稀疏性与错误率的权衡,我们设计了一个列分裂算法和两个编码方案BEC,然后为一般BMS通道。由这两种方案生成的\textit{polar-based}码继承了具有原始$2 \times 2$内核的极化码的几个基本性质,包括错误概率的衰减、解码复杂度和容量实现性质。此外,它们还证明了一个额外的性质,即它们的GM列权重在$N$中从上到下是次线性有界的,而原始极化码在$N$中具有一些线性的列权重。特别地,对于任何BEC和$β<0.5$,示出了存在一系列容量实现的基于极性的码,其中所有GM列权重从上到下由$N^λ$与$λ\approx 0.585$界定,并且在具有复杂度$O(N\log N)$的解码器下具有由$O(2^{-N^β} )$界定的错误概率。对于任何BMS信道和具有$λ\approx 0.631$的$β<0.5$,示出了具有相同解码复杂度的类似容量实现的基于极性的码的存在。
2023-03-16 cs.IT eess.SP math.IT
Technical Report: Observability of a Linear System under Sparsity Constraints
考虑一个n维线性系统,其中已知在初始状态中存在至多k<n个非零分量。考虑了这类系统的可观测性问题,即初始状态的恢复问题。我们获得了充分条件的数量上的可用的观察,能够恢复的初始状态,正是这样的系统。确定性和随机设置被认为是系统动力学。在前一种设置中,系统矩阵是确定性已知的,而在后一种设置中,所有的矩阵都是从随机化的矩阵类中挑选的。主要的信息是,不需要获得完整的n个观测值就能够唯一地识别线性系统的初始状态,即使观测值是随机选取的,当初始条件已知是稀疏的。
2012-04-13 cs.IT math.IT math.OC
Feedback Acquisition and Reconstruction of Spectrum-Sparse Signals by Predictive Level Comparisons
在这封信中,我们提出了一个稀疏促进反馈采集和重建方案的感知,编码和随后的重建频谱稀疏信号。在所提出的方案中,频谱分量估计利用稀疏促进,滑动窗口算法在反馈回路。利用所估计的频谱分量,预测电平信号并且获取预测误差的符号测量。稀疏性提升算法然后可以从符号测量迭代地估计频谱分量。与许多基于批处理的压缩感知(CS)算法不同,我们提出的算法利用滑动窗口技术逐渐估计并跟踪稀疏分量的缓慢变化。我们还考虑的情况下,可能翻转错误的符号位传播沿迭代(由于反馈回路)在重建。我们提出了一个迭代纠错算法,以应付这种错误传播现象,考虑到二进制稀疏发生模型的错误序列。仿真结果表明,所提出的方案与文献相比,有效的性能。
2017-11-27 cs.IT math.IT
Identifiability and Stability in Blind Deconvolution under Minimal Assumptions
盲解卷积(BD)在许多应用中出现。如果没有对信号和滤波器的假设,BD不承认唯一的解决方案。在实践中,子空间或稀疏性假设已经显示出减少搜索空间并产生唯一解的能力。然而,现有的理论分析的唯一性在BD是相当有限的。在早期的论文中,我们提供了第一个代数样本复杂性的BD,几乎所有的基地或框架。我们证明了对于$\mathbb{C}^n$中一对向量的BD,分别具有维度$m_1$和$m_2$的子空间约束,$n\geq m_1m_2$的样本复杂度是足够的。这个结果是次优的,因为自由度的数量仅仅是$m_1+m_2-1$。我们提供了类似的结果,具有类似的次优性,BD稀疏或混合子空间和稀疏约束。在本文中,利用信息理论的限制,唯一的低秩矩阵恢复的最新进展,我们终于弥合这一差距,并得出一个最佳的样本复杂度结果BD与通用基地或框架。我们表明,对于BD的任意对(分别。所有对)的矢量,具有稀疏级别$\mathbb{C}^n$和$s_2$的稀疏约束,$n > s_1+s_2$的样本复杂度(分别为$n > 2(s_1+s_2)$)就足够了。我们也提出了类似的结果BD与子空间约束或混合约束,子空间维数取代稀疏水平。最后但并非最不重要的是,在所有上述场景中,如果基或帧遵循本文中指定的概率分布,则在相同的样本复杂度下,恢复不仅是唯一的,而且对于测量中的小扰动也是稳定的。
2015-12-23 cs.IT math.IT
Autocorrelation analysis for cryo-EM with sparsity constraints: Improved sample complexity and projection-based algorithms
针对冷冻电镜分子重构样本复杂度高的问题,引入稀疏先验,证明高斯和分子结构可由二阶自相关唯一确定(样本复杂度与噪声方差平方成正比,优于非稀疏的三次方),并构建结合稀疏表示与投影相位恢复技术的小波基稀疏分子重构框架。
2023-05-01 cs.IT cs.NA math.IT
Orthogonal Nonnegative Matrix Factorization with Sparsity Constraints
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出通过将稀疏约束正交非负矩阵分解(SCONMF)转化为容量受限设施选址问题,结合控制屏障函数与最大熵原理框架,在确保鲁棒分解的同时强制执行非负、正交与稀疏约束,并引入确定真实秩的定量方法,显著降低了重建误差。
2025-04-04 cs.DS cs.IT cs.LG
Volume Ratio, Sparsity, and Minimaxity under Unitarily Invariant Norms
本文提出了一种新的机器研究非渐近极小极大估计的高维矩阵,它产生紧极小极大率的大量收集的损失函数在各种问题。基于有限维巴拿赫空间的凸几何,本文首先给出了一种确定无约束正规平均矩阵在所有平方酉不变范数损失下的Minimax估计率的体积比方法.此外,我们建立了极大极小率估计平均矩阵与子矩阵稀疏,其中的稀疏约束引入了一个额外的长期的依赖于范数的速率完全不同的无约束问题的速率。此外,该方法适用于低秩约束下的矩阵完备化问题。新方法还扩展了正常均值模型。特别地,对于所有酉不变范数,它在协方差阵估计和泊松率矩阵估计问题中产生紧速率。
2013-06-15 cs.IT math.IT math.ST
Exploiting Two-Dimensional Group Sparsity in 1-Bit Compressive Sensing
Instituto de Telecomunicações(电信研究所);Instituto Superior Técnico(高等技术学院)
我们提出了一种新的方法,{ \it二维的【形】融合二进制压缩感知}(2DFBCS)恢复2D稀疏分段信号从1位的测量,利用2D组稀疏1位压缩感知恢复。所提出的方法是以前的{ \it二进制迭代硬阈值}(2DBIHT)算法的修改后的2D版本,其中的目标函数包括一个2D单侧$\ell_1$(或$\ell_2$)的惩罚函数,鼓励协议与观察到的数据,一个指示函数的$K$ -稀疏,和总变差(TV)或修改后的TV(MTV)的约束。可以有效地计算2D单侧$\ell_1$(或$\ell_2$)惩罚的次梯度和到$K$上的投影-稀疏性和TV或MTV约束,从而允许应用{ \it前向-后向分裂}(也称为{ \it迭代收缩阈值})族。对二维稀疏分段光滑信号的恢复实验表明,该方法能够充分利用原始信号的分段光滑性,实现比2DBIHT更精确的恢复。更具体地,具有MTV和$\ell_2$罚分的2DFBCS在所测试的算法中表现最好。
2014-02-21 cs.CV cs.IT math.IT
Diffusion L0-norm constraint improved proportionate LMS algorithm for sparse distributed estimation
为了利用所考虑的系统的稀疏性,扩散比例型最小均方(PtLMS)算法分配不同的增益到每个抽头在收敛阶段,而扩散稀疏约束LMS(ScLMS)算法拉零的组件在稳态阶段。在本文中,通过最小化一个可微的成本函数,利用更新和以前的权重向量之间的黎曼距离以及加权更新的权重向量的L0范数,我们提出了一种扩散L0范数约束改进的比例LMS(L0-IPLMS)算法,它结合了扩散PtLMS和扩散ScLMS算法的优点,并执行其中最好的性能。在系统辨识背景下的仿真证实了所提出的算法的改进。
2017-03-24 cs.IT math.IT
The Role of Interactivity in Structured Estimation
Cornell University(康奈尔大学);University of Sydney(悉尼大学);Google Research(谷歌研究院);Indian Institute of Science(印度科学学院)
我们研究了三种自然约束下的高维稀疏估计:通信约束,局部隐私约束和线性测量(压缩感知)。如果没有稀疏性假设,它已被确定,互动不能提高这些信息约束下的最小最大估计率。交互性是否有助于自然推理任务的问题一直是一个积极的研究课题。我们解决这个问题的高维稀疏均值估计和压缩感知的原型问题的肯定,通过展示交互式和非交互式协议之间的差距。我们进一步确定,当我们具有更结构化的稀疏性时,间隙会增加:对于块稀疏性,这个间隙可以在维度上与多项式一样大。因此,稀疏性越结构化,交互作用的优势就越大。证明下界需要仔细打破一个相关的随机变量的总和成独立的组成部分,使用Baranyai定理分解超图,这可能是独立的利益。
2022-03-14 cs.DM cs.DS cs.IT
Sparsity Constrained Nonlinear Optimization: Optimality Conditions and Algorithms
本文讨论了稀疏约束下一般连续可微函数的极小化问题。我们提出并分析了几种不同的最优性标准,这些标准是基于平稳性和坐标最优性的概念。这些条件,然后使用得到三个数值算法,旨在寻找点满足最优性标准:迭代硬阈值法和贪婪和部分稀疏单纯形方法。第一个算法本质上是一个梯度投影方法,而其余两个算法是坐标下降型。研究了这些方法的理论收敛性及其与最优性条件的关系。数值算例说明了算法和结果。
2012-03-20 cs.IT math.IT math.OC