Performance Guarantees for Schatten-$p$ Quasi-Norm Minimization in Recovery of Low-Rank Matrices
我们解决了一些理论保证$p$准范数最小化($p \in (0,1]$)在恢复低秩矩阵从压缩的线性测量。首先,利用测量算子的零空间性质,给出了低秩矩阵精确恢复的一个充分条件。这个条件保证了唯一的恢复矩阵的秩等于或大于核范数最小化所保证的。其次,这个充分条件导致了一个定理证明了所有基于限制等距性质(RIP)的$\ell_p$拟范数最小化的充分条件推广到Schatten- $p$拟范数最小化。基于这个定理,我们提供了一些基于RIP的恢复条件。
2014-10-26 cs.IT math.IT stat.ML
Enhancing Sparsity and Resolution via Reweighted Atomic Norm Minimization
Candès和Fernandes-Granda最近开发的超分辨率数学理论指出,在给定一组均匀的时空样本的情况下,可以通过(凸)原子范数技术以无限精度恢复连续的稀疏频谱。然后,该理论通过原子范数最小化(ANM)扩展到部分/压缩样本和/或多个测量向量的情况,称为离网/连续压缩感知(CCS)。然而,现有的原子范数方法的一个主要问题是,只有当频率被充分分离时才能被恢复,从而阻止了通常已知的高分辨率。在本文中,提出了一种新的(非凸)稀疏度量,促进稀疏性在更大程度上比原子规范。使用此度量的优化问题,制定和局部收敛的迭代算法。该算法迭代地进行ANM与健全的重新加权策略,提高稀疏性和分辨率,并被称为重新加权原子范数最小化(RAM)。大量的数值模拟进行了证明RAM的优越性能与应用的到达方向(DOA)估计。
2015-10-16 cs.IT math.IT
Graph Fourier Transform Based on $\ell_1$ Norm Variation Minimization
图形傅里叶变换的定义是图形信号处理中的一个基本问题。传统的图形傅立叶变换是通过图形拉普拉斯矩阵的特征向量来定义的,其最小化$\ell_2$范数信号变化。然而,当图很大时,拉普拉斯特征向量的计算是昂贵的。在本文中,我们提出了另一种定义的图形傅立叶变换的基础上$\ell_1$范数变化最小化。给出了$\ell_1$ Fourier基满足的一个必要条件,并给出了逼近$\ell_1$ Fourier基的快速贪心算法.数值实验表明了贪心算法的有效性。此外,贪婪基下的傅里叶变换表现出类似的衰减速率的拉普拉斯基的模拟或真实信号。
2019-08-19 cs.IT math.IT
Multi-weight Nuclear Norm Minimization for Low-rank Matrix Recovery in Presence of Subspace Prior Information
加权核范数最小化最近被认为是一种技术,用于从压缩采样测量重构低秩矩阵时,矩阵的行列子空间的一些先验信息是可用的。在这项工作中,我们研究的恢复条件和相关的恢复保证加权核范数最小化时,允许多个权重。当可以访问与地面实况矩阵的列子空间和行子空间形成多个角度的先前子空间时,可以使用该设置。虽然在这一领域的现有作品使用一个单一的权重来惩罚所有的角度,我们提出了一个多权重的问题,旨在惩罚每个角度独立使用一个不同的权重。具体来说,我们证明了我们提出的多权重问题是稳定的和强大的条件下较弱的条件下的测量算子比类似的条件为单权重的情况下,标准的核范数最小化。此外,它提供了比现有技术方法更好的重建误差。我们用大量的数值实验来说明我们的结果,这些实验证明了在恢复过程中允许多个权重的优点。
2022-04-26 cs.IT math.IT
Closed-Form Solutions to A Category of Nuclear Norm Minimization Problems
National University of Singapore(新加坡国立大学)
在机器学习和计算机视觉中,利用核范数逼近学习低秩矩阵是一种有效的学习策略。因此,对核范数极小化问题的研究近年来受到了广泛的关注。在本文中,我们将证明下面的低秩表示(LRR)\cite{icml_2010_lrr,lrr_extention}问题:{eqnarray*} \min_{Z} \norm{Z}_*,& {s.t.,} & X=AZ,{eqnarray*}有唯一的封闭形式的解,其中$X$和$A$是给定的矩阵。证明是基于证明一个引理,使我们能够得到封闭形式的解决方案,一类核范数最小化问题。
2010-11-23 cs.CV cs.IT math.IT
A Convex Demixing Approach for Hybrid-Field Channel Estimation of XL-MIMO Systems via Atomic Norm Minimization
Xi’an Jiaotong-Liverpool University(西交利物浦大学);Nanjing University of Science and Technology(南京理工大学)
本文针对XL-MIMO混合场信道估计问题,在原子范数最小化框架下提出凸解混方法,通过最小化远场与近场原子范数加权和并转化为半定规划求解,实验表明其性能优于现有方法。
2025-09-23 cs.IT math.IT
Super-Resolution mmWave Channel Estimation using Atomic Norm Minimization
我们提出了毫米波(mmWave)系统,采用混合模拟和数字波束成形和广义空间调制,分别超分辨率MIMO信道估计。利用毫米波信道的固有稀疏性,信道估计问题被公式化为原子范数最小化,其增强了连续的出发角和到达角中的稀疏性。导频辅助和数据辅助信道估计器的开发,前者制定为一个凸问题,后者作为一个非凸问题。为了解决这些制定的信道估计问题,我们开发了一个计算效率高的共轭梯度下降方法的基础上,非凸分解,限制了搜索空间低秩矩阵。仿真结果表明,与现有的基于压缩感知的估计器相比,所提出的算法对于两种类型的毫米波系统具有优异的信道估计性能,具有精细量化的角度网格。
2018-01-23 cs.IT math.IT
Wideband Massive MIMO Channel Estimation via Sequential Atomic Norm Minimization
最近推出的原子范数最小化(ANM)的参数估计框架是一个有前途的候选人对无线通信中的低开销信道估计。然而,以前的工作ANM为基础的信道估计评估性能的信道与人为强加的信道路径分离,这在实践中不能保证。此外,由于大的维度,直接应用ANM框架进行大规模MIMO信道估计在计算上是不可行的。本文提出了一种低复杂度的基于自适应神经网络的宽带大规模MIMO信道估计算法,包括两个连续的步骤,第一步是在空间维度上估计信道,第二步是在频率维度上估计信道。其均方误差性能的分析特点是在紧的下限。结果表明,该算法实现了优良的性能,接近最好的,可以通过任何无偏信道估计器在低到中等数量的信道路径的制度,没有任何限制,其可分性。
2018-09-03 cs.IT math.IT
Harnessing Sparsity over the Continuum: Atomic Norm Minimization for Super Resolution
凸优化最近出现作为一个引人注目的框架,执行超分辨率,获得了显着的关注,从多个社区跨越信号处理,应用数学和优化。这篇文章提供了一个友好的阐述原子范数最小化作为一个典型的凸方法来解决超分辨率问题。给出了该方法的数学基础和性能保证,并重点介绍了该方法在单分子荧光显微镜超分辨图像重建中的应用。
2019-12-23 cs.IT eess.SP math.IT
Efficient $\ell_q$ Minimization Algorithms for Compressive Sensing Based on Proximity Operator
研究了压缩感知中稀疏信号恢复的无约束$\ell_q$ -范数($0\leq q<1$)正则化最小二乘($\ell_q$ -LS)问题.通过将非凸$\ell_q$ -范数函数的邻近算子分别引入到快速迭代收缩/阈值法(FISTA)和交替方向乘子法(ADMM)框架中,我们提出了两种高效的一阶算法.此外,在求解非凸$\ell_q$ -LS问题时,新算法采用了序列极小化策略,以获得更好的全局收敛性能。与大多数现有的$\ell_q$ -最小化算法不同,新算法解决了$\ell_q$ -最小化问题而不平滑(近似)$\ell_q$ -范数。同时,新算法对于图像处理中经常遇到的大规模问题具有很好的扩展性。我们表明,所提出的算法是最快的方法在解决非凸$\ell_q$最小化问题,同时提供称职的性能,在恢复稀疏信号和可压缩图像相比,几个国家的最先进的算法。
2016-03-15 cs.IT math.IT
Precise Semidefinite Programming Formulation of Atomic Norm Minimization for Recovering d-Dimensional ($d\geq 2$) Off-the-Grid Frequencies
离网压缩感知(CS)的最新研究表明,在一定条件下,即使字典是连续的,也可以成功地从一些时域样本中恢复频谱稀疏的信号。特别地,在\cite{tang2012csotg}中提出了原子范数最小化算法,以恢复$1$维谱稀疏信号.然而,尽管现有的研究工作\cite{chi2013compressive},它仍然是一个悬而未决的问题,如何制定一个等效的半正定程序的原子范数最小化恢复信号与$d$维($d\geq 2$)离网频率。在本文中,我们解决了这个问题,提出了等价的半定规划公式的原子范数最小化恢复信号与$d$维($d\geq 2$)离网频率。
2013-12-02 cs.IT math.IT math.OC
MmWave Channel Estimation via Atomic Norm Minimization for Multi-User Hybrid Precoding
为了在毫米波蜂窝系统中进行多用户多输入多输出传输,需要对高维信道进行估计,以设计多用户预编码器。传统的基于网格的压缩感知(CS)方法在毫米波信道估计中存在基不匹配问题,影响了信道的准确重构,降低了预编码性能。本文将毫米波信道估计公式化为原子范数最小化(ANM)问题。与使用离散字典的基于网格的CS方法相比,ANM使用连续字典来表示毫米波信道。我们考虑一个连续的字典的基础上通过少量的射频链在天线域中的子采样。我们表明,毫米波信道估计使用ANM可以制定为一个半定规划(SDP)的问题,用户信道可以准确地估计通过现成的SDP求解器在多项式时间。仿真结果表明,ANM可以实现更好的估计精度相比,基于网格的CS,并显着提高了多用户预编码提供的频谱效率。
2018-02-14 cs.IT math.IT
Separation-Free Super-Resolution from Compressed Measurements is Possible: an Orthonormal Atomic Norm Minimization Approach
University of Iowa(爱荷华大学);Hong Kong University of Science and Technology(香港科技大学)
我们考虑的问题恢复叠加的$R$不同的复指数函数从压缩的非均匀时域样本。文献中提出了全变差(TV)最小化或原子范数最小化来恢复$R$频率或缺失数据。然而,已知的是,为了TV最小化和原子范数最小化以恢复丢失的数据或频率,即使当测量是无噪声的时,也需要将基础$R$频率很好地分离。本文表明,汉克尔矩阵恢复方法可以超分辨的$R$复指数和它们的频率从压缩的非均匀测量,无论他们的频率是多么接近彼此。提出了一种新的正交原子范数最小化(OANM)概念,并证明了在无分离超分辨中Hankel矩阵恢复的成功来自于Hankel矩阵的核范数是正交原子范数这一事实.更具体地说,我们表明,在传统的原子范数最小化,底层的参数值$\textbf{must}$被很好地分离,以实现成功的信号恢复,如果原子不断变化的连续值的参数。相反,对于OANM,即使原始原子可以任意接近,OANM也可能是成功的。作为研究的副产品,我们给出了一个核范数的矩阵不等式,并从压缩感知理论的角度给出了证明。
2017-11-04 cs.IT cs.LG math.IT
Truncated Sparse Approximation Property and Truncated $q$-Norm Minimization
本文研究了利用截断范数最小化$\min_{x}\|x_T\|_q$和$\min_{X}\|X_T\|_{S_q}$从噪声测量中近似恢复稀疏信号和低秩矩阵。我们首先介绍了截断稀疏逼近性质,一个更一般的鲁棒零空间性质,并建立了信号和矩阵的截断稀疏逼近性质下的稳定恢复。我们还探讨了限制等距性与截断稀疏逼近性之间的关系。证明了若度量矩阵$A$或线性映射$\mathcal{A}$满足$k$阶的截断稀疏逼近性质,则$k$阶和$2k$阶的限制等距性的第一不等式分别对不同的常数$δ_{k}$和$δ_{2k}$成立.最后,证明了若对某个$t\geq 4/3$有$δ_{t(k+|T^c|)}<\sqrt{(t-1)/t}$,则测量矩阵$A$和线性映射$\mathcal{A}$满足$k$阶的截断稀疏逼近性质.需要指出的是,当$T^c=\emptyset$时,我们的结论意味着$k$阶的稀疏逼近性质弱于$tk$阶的限制等距性质。
2018-06-28 cs.IT math.IT
Necessary and Sufficient Null Space Condition for Nuclear Norm Minimization in Low-Rank Matrix Recovery
University of Iowa(爱荷华大学)
低秩矩阵恢复在机器学习、信号处理、协同滤波、系统辨识和欧几里得嵌入等科学和工程领域有着广泛的应用。但低秩矩阵恢复问题是一个NP难问题,因此具有挑战性。一种常用的启发式方法是核范数最小化。在文献[12,14,15]中,作者建立了核范数极小化的充要零空间条件(强零空间条件),以恢复所有可能的秩不超过r的低秩矩阵。此外,在[12]中,Oymak等人利用核范数最小化建立了一个成功恢复给定低秩矩阵的零空间条件(弱零空间条件),并导出了核范数最小化的相变。本文证明了文[12]中的弱零空间条件只是利用核范数极小化成功恢复矩阵的一个充分条件,而不是文[12]中所声称的必要条件。本文进一步给出了低秩矩阵恢复的一个弱零空间条件,它是核范数极小化成功的充要条件。在我们的推导的核心是一个不等式的特征块矩阵的核范数,并在该不等式的等式成立的条件。
2018-02-14 cs.IT cs.LG eess.SP
$L_{\infty}$ norm minimization for nowhere-zero integer eigenvectors of the block graphs of Steiner triple systems and Johnson graphs
本文研究Steiner三元系块图和Johnson图的非零整数特征向量的L∞范数最小化问题,给出了若干Johnson图系列的最小值及一般上下界,并证明阶至少99的Assmuss-Mattson Steiner三元系的最小非零流上界为4。
2023-11-01 cs.IT math.CO math.IT
L1-norm minimization for quaternion signals
Southeast University(东南大学);Centre de Recherche en Information Biomédicale Sino-Français (CRIBs)(中法生物医学信息研究中心);INSERM U 1099(法国国家健康与医学研究院U1099);Laboratoire Traitement du Signal et de l’Image (LTSI)(信号图像处理实验室);Université de Rennes 1(雷恩第一大学)
针对四元数信号的L1范数最小化问题,提出通过转化为二阶锥规划求解的算法,并给出完美恢复的应用实例。
2012-02-24 cs.DS cs.IT cs.NA
Beyond $\ell_1$-norm minimization for sparse signal recovery
University of British Columbia(不列颠哥伦比亚大学)
稀疏信号恢复一直占主导地位的基础上追求去噪(BPDN)的问题制定了十多年。在本文中,我们提出了一个算法,在寻找稀疏解欠定线性方程组在没有额外的计算成本优于BPDN。我们的算法,称为WSPGL 1,是一个修改的谱投影梯度$\ell_1$最小化(SPGL 1)算法,其中的序列的LASSO子问题被替换为一个序列的加权LASSO子问题与恒定的权重施加到支持估计。支持估计值从数据中导出,并在每次迭代时更新。该算法还在每次迭代时修改Pareto曲线,以反映正在解决的新的加权$\ell_1$最小化问题。我们通过大量的模拟表明,我们的算法的稀疏恢复性能优于$\ell_1$最小化和方法的恢复性能的迭代重新加权$\ell_1$(IRWL 1)最小化的Cand{è}s,Wakin,和博伊德,虽然它不匹配它在一般情况下。此外,我们的算法具有单个BPDN问题的计算成本。
2012-05-30 cs.IT cs.LG math.IT
Fast Two-Dimensional Atomic Norm Minimization in Spectrum Estimation and Denoising
基于原子范数最小化(ANM)方法恢复二维谐波分量的研究成果,提出了一种基于ANM方法的二维波达方向(DOA)离网快速估计方法。通过引入矩阵原子范数,将二维DOA估计问题转化为矩阵原子范数最小化问题。由于2D-ANM无网格波达方向估计是将二维矢量化为一维估计并通过半定规划(SDP)求解的,当天线数量增加到较大尺寸时,2D处理的计算量很大。为了克服这一困难,本文给出了一种基于SDP方法的MANM问题的详细表述,MANM方法将原来的$MN+1$维数问题转化为$M+N$维数SDP问题,大大降低了计算复杂度。本文研究了从部分无噪观测值和全噪观测值中恢复二维线谱稀疏信号的问题,这两个问题都可以通过MANM方法有效地解决,并获得高精度的二维真实角度估计。我们给出了该方法的最优性条件的一个充分条件,并证明了去噪的期望错误率的上界。最后,通过数值仿真验证了该方法的有效性和性能,并与现有的几种稀疏方法进行了比较。
2018-07-23 cs.IT eess.SP math.IT
Efficient and Guaranteed Rank Minimization by Atomic Decomposition
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出一种基于原子分解的高效秩最小化算法,结合随机化快速低秩近似,具有性能保证且能处理大规模问题。
2009-05-01 cs.IT cs.NA math.IT
Convergence of fixed-point continuation algorithms for matrix rank minimization
矩阵秩最小化问题在系统辨识、最优控制、低维嵌入等领域有着广泛的应用。由于该问题一般是NP-困难的,因此其凸松弛问题--核范数最小化问题往往被求解。最近,Ma,Goldfarb和Chen提出了一种求解核范数最小化问题的不动点延拓算法.该算法通过引入一种近似的奇异值分解技术,通常可以得到矩阵秩最小化问题的解。本文研究了矩阵秩最小化问题的不动点延拓算法及其变形的收敛性和可恢复性。启发式确定矩阵的秩时,其真实的秩是未知的也提出了。这些算法中的一些与压缩感知中的贪婪算法密切相关。这些算法求解仿射约束矩阵秩最小化问题的数值结果的报告。
2010-12-29 cs.IT math.IT math.OC
$\ell^p\!-\!\ell^q$-Norm Minimization for Joint Precoding and Peak-to-Average-Power Ratio Reduction
依赖于正交频分复用(OFDM)的无线通信系统遭受高峰均(功率)比(PAR),这使得功率低效的射频(RF)链成为必要,以避免误差向量幅度(EVM)和带外(OOB)发射的增加。这种情况在需要数百个线性RF链的大规模多用户(MU)多输入多输出(MIMO)系统中进一步恶化。在本文中,我们提出了一种新的方法,联合预编码和PAR降低,建立在一个新的$\ell^p\!-\!\ell^q$规范制定,这是能够找到最小PAR的解决方案,同时抑制MU干扰。我们提供了一个理论基础,我们的方法,并提供了一个大规模的MU-MIMO-OFDM系统,表现出显着降低PAR在低复杂度的仿真结果,而不会导致EVM或OOB排放的增加。
2021-07-14 cs.IT eess.SP math.IT
Channel Estimation for RIS-Aided mmWave MIMO Systems via Atomic Norm Minimization
可重构智能表面(RIS)通过改变入射电磁波的方向来改变无线电传播环境,从而打破了一般的Snell反射定律。然而,RIS的最佳控制需要经由RIS将基站(BS)和移动站(MS)彼此链接的各个信道的完美的信道状态信息(CSI)。因此,需要在BS或MS处利用到RIS控制器的CSI反馈来有效地进行超分辨率信道(参数)估计。在本文中,我们采用了两阶段的信道估计方案的RI辅助毫米波(毫米波)MIMO系统没有直接的BS-MS信道,使用原子范数最小化顺序估计信道参数,即,角度参数、角度差和传播路径增益的乘积。我们评估参数估计的均方误差,RIS增益,平均有效频谱效率界,以及所设计的波束形成和组合向量与最佳向量之间的平均平方距离。结果表明,与现有的基准方案相比,该方案实现了超分辨率估计,从而为后续的数据传输阶段提供了良好的性能。
2021-01-14 cs.IT eess.SP math.IT
How robust is randomized blind deconvolution via nuclear norm minimization against adversarial noise?
Technical University of Munich(慕尼黑工业大学);Munich Center for Machine Learning(慕尼黑机器学习中心);Munich Data Science Institute(慕尼黑数据科学研究所);KU Eichstätt-Ingolstadt(艾希施泰特-英戈尔施塔特天主教大学)
本文研究了从两个未知信号的卷积中恢复两个未知信号的问题,即通常所说的盲反卷积。在过去的十年中,由于核范数最小化启发式的成功,盲反卷积作为一个低秩恢复问题的重新表述导致了多个理论恢复保证。特别是,在没有噪声的情况下,精确的恢复已经建立了足够的非相干信号包含在低维子空间。然而,如果卷积被加性有界噪声破坏,恢复问题的稳定性仍然不太清楚。特别是,现有的重建界涉及大的维度因子,因此无法解释核范数最小化的维度无关鲁棒性的经验证据。最近,理论上的证据已经出现了病态行为的低秩矩阵恢复足够小的噪声水平。在这项工作中,我们开发了改进的恢复保证盲反卷积与对抗性噪声表现出平方根缩放的噪声水平。因此,我们的研究结果与现有的反例是一致的,这些反例反对相关的低秩矩阵恢复问题所证明的噪声水平的线性缩放。
2023-03-17 cs.IT cs.LG eess.SP
A typical reconstruction limit of compressed sensing based on Lp-norm minimization
我们考虑的问题,重建$N$维连续向量$\bx$从$P$约束下产生的线性变换的假设下,$\bx$的非零元素的数量通常是有限的$ρN$($0\le ρ\le 1$)。这种类型的问题可以通过最小化成本函数的$L_p$ -范数$||\bx||_p=\lim_{ε\to +0}\sum_{i=1}^N |x_i|^{p+ε}$,在适当的条件下的约束。对于几个$p$,我们评估了典型情况极限$α_c(ρ)$,它代表$α=P/N$和$ρ$之间的关键关系,用于通过在极限$N,P \to \infty$中的典型情况下最小化并利用复制方法保持$α$有限来成功重建原始向量。对于$p=1$,$α_c(ρ)$比其最差情况对应物小得多,这是由现有的信息论文献严格推导出来的。
2009-12-05 cond-mat.dis-nn cs.IT math.IT
Penalty Decomposition Methods for $L0$-Norm Minimization
提出罚分解方法求解含L0-范数的优化问题,通过转化为秩最小化问题并利用向量化操作,在压缩感知等应用中优于现有方法。
2012-05-11 cs.CV cs.IT cs.LG
Recovery of Future Data via Convolution Nuclear Norm Minimization
Southeast University(东南大学);SenseTime Research(商汤科技研究院)
从压缩感知的角度研究时间序列预测问题。首先,我们将TSF转换为一个更具包容性的问题,称为任意采样张量完成(TCAS),即从以任意方式采样的条目子集中恢复张量。虽然众所周知,在塔克低秩的框架中,理论上不可能根据一些任意选择的条目来识别目标张量,但在这项工作中,我们将证明TCAS确实可以根据一个称为卷积低秩的新概念来处理,这是众所周知的傅立叶稀疏性的推广。然后,我们介绍了一个凸计划,称为卷积核范数最小化(CNNM),我们证明,CNNM成功地解决TCAS只要采样条件-这取决于目标张量的卷积秩-服从。这一理论为一个基本问题提供了有意义的答案,即在给定的预测次数下,需要的最小抽样规模是多少。在单变量时间序列、图像和视频上的实验显示了令人鼓舞的结果。
2022-08-03 cs.AI cs.CV cs.IT
Incoherent Tensor Norms and Their Applications in Higher Order Tensor Completion
本文研究了高阶张量完备化核范数极小化方法的样本量要求。我们通过允许不同水平的相干性来引入一类张量范数,这使我们能够利用张量的不相干性。特别是,我们表明,$k$阶张量的秩$r$和尺寸$d\times\cdots\times d$可以完美地恢复从尽可能少的$O((r^{(k-1)/2}d^{3/2}+r^{k-1}d)(\log(d))^2)$均匀采样条目通过适当的非相干核范数最小化。我们的研究结果证明了完成矩阵和高阶张量之间的一些关键差异:它们不仅指出了通常的核范数最小化的潜在改进空间,而且还强调了在处理高阶张量时明确考虑不相干性的重要性。
2016-06-10 cs.IT math.IT math.OC
On Tensor Completion via Nuclear Norm Minimization
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Rutgers University(罗格斯大学)
本文提出通过直接最小化张量核范数进行张量补全,证明该方法能提升采样需求,发展了张量核范数的子微分刻画和张量鞅集中不等式等技术。
2014-05-07 cs.IT cs.NA math.IT