On the Worst-Case Approximability of Sparse PCA
Chinese University of Hong Kong（香港中文大学）；Microsoft Research New England（微软新英格兰研究院）；UC Berkeley（加州大学伯克利分校）；Simons Institute for the Theory of Computing（西蒙斯计算理论研究所）
众所周知，稀疏主成分分析（稀疏主成分分析）是NP-难的，在最坏情况下精确求解。求解稀疏PCA的复杂度大约是多少？我们的贡献包括：1）实现$n^{-1/3}$ -近似的简单而有效的算法; 2）对于某个小常数$\varepsilon > 0$，在$(1-\varepsilon)$内近似的NP-困难性; 3）在任何常数因子内近似的SSE-困难性;以及4）标准半定程序的$\exp\exp\left(Ω\left(\sqrt{\log \log n}\right)\right)$（“拟拟多项式”）间隙。
2015-07-21 cs.CC cs.DS cs.LG
On the Computational Intractability of Exact and Approximate Dictionary Learning
TU Darmstadt（达姆施塔特工业大学）
在过去的十年中，通过线性观测的信号向量的有效稀疏编码和重构受到了极大的关注。在这种情况下，从用于稀疏表示的某些信号类别的训练数据集合中自动学习合适的基或过完备字典已经证明对于实际信号处理应用特别重要。大多数流行的字典学习算法在每次迭代中都涉及NP难稀疏恢复问题，这可能会给出一些关于字典学习复杂性的指示，但并不构成计算困难性的实际证明。在这篇技术笔记中，我们证明了学习一个字典，用它可以尽可能稀疏地表示一组给定的训练信号确实是NP困难的。此外，我们还建立了近似的解决方案的最佳稀疏水平的大因素内的硬度。此外，我们给出了NP-硬度和非近似性的结果，最近的字典学习变化称为传感器排列问题。在此过程中，我们还获得了一个新的非近似性结果的经典稀疏恢复问题的压缩感知。
2014-08-03 cs.IT cs.LG math.IT
Hardness of Independent Learning and Sparse Equilibrium Computation in Markov Games
Microsoft（微软）
我们考虑马尔可夫博弈中的分散式多智能体强化学习问题。一个基本的问题是，是否存在这样的算法，当所有的智能体都采用这种算法，并以分散的方式独立运行时，每个玩家都不会后悔，类似于标准形式游戏中著名的收敛结果。虽然最近的工作表明，这种算法存在的限制设置（特别是，当后悔的定义相对于偏差马尔可夫政策），独立的无遗憾学习是否可以实现在标准的马尔可夫博弈框架的问题是开放的。我们提供了一个决定性的消极解决这个问题，无论是从计算和统计的角度来看。我们证明：- 在普遍认为PPAD困难问题不能在多项式时间内解决的假设下，没有多项式时间算法可以在所有参与者独立执行时在一般和马尔可夫博弈中获得无遗憾，即使算法设计者知道博弈并且参与者的数量是一个小常数。- 当游戏是未知的，没有算法，不管计算效率如何，可以实现无遗憾，而不观察到的事件数量是指数的球员。也许令人惊讶的是，我们的下限甚至适用于看似更容易的设置，其中所有代理都由集中式算法控制。他们证明通过一个更简单的问题，我们称之为SparseCCE，其中的目标是计算一个粗略的相关均衡，稀疏的意义上说，它可以表示为一个混合物的一小部分产品政策的下限。我们的方法的关键是一个新的应用程序的聚合技术从在线学习，从而我们表明，任何算法的SparseCCE问题可以用来计算近似纳什均衡的非零和正规形式的游戏。
2023-03-22 cs.AI cs.GT cs.LG
Online Sparse Linear Regression
Amazon（亚马逊）；Yahoo Research（雅虎研究院）；Goldman Sachs（高盛）
我们考虑在线稀疏线性回归问题，这是顺序进行预测的问题，在每一轮中只观察有限数量的特征，以最大限度地减少对最佳稀疏线性回归的遗憾，其中预测精度由平方损失来衡量。我们给出了一个效率低下的算法，获得$T$预测轮后的$\tilde{O}(\sqrt{T})$有界的遗憾。我们补充这一结果表明，没有算法运行在多项式时间内，每次迭代可以实现遗憾的$O(T^{1-δ})$任何常数$δ> 0$，除非$\text{NP} \subseteq \text{BPP}$。这个计算硬度结果解决了COLT 2014（Kale，2014）中提出的一个开放问题，也是Zolghadr等人提出的。（2013）。即使算法被允许访问比最佳稀疏线性回归器更多的特征，直到维度中的对数因子，这个硬度结果也成立。
2016-03-07 cs.LG
Sparse Mixed Linear Regression with Guarantees: Taming an Intractable Problem with Invex Relaxation
Purdue University（普渡大学）
在本文中，我们研究了稀疏混合线性回归问题的未标记的数据集，从两个不同的回归参数向量的线性测量产生。由于数据是未标记的，因此我们的任务不仅是找出回归参数向量的良好近似，而且还要正确标记数据集。在其原始形式中，该问题是NP-难的。解决这个问题的最流行的算法（如期望最大化）有一种倾向，停留在局部最小值。我们提供了一个新的不变凸松弛这个棘手的问题，导致一个解决方案，可证明的理论保证。这种松弛使得能够准确地恢复数据标签。此外，我们恢复的回归参数向量的支持和符号匹配的真实参数向量的密切近似。我们的配方使用精心构造的原始对偶证人框架的不变凸问题。此外，我们表明，我们的方法的样本复杂度是对数的回归参数向量的维数。
2022-06-02 cs.LG stat.ML
Tight convex relaxations for sparse matrix factorization
Stanford University（斯坦福大学）；Université Paris-Est（巴黎东大学）；Ecole des Ponts - ParisTech（巴黎高科桥路学院）；Mines ParisTech（巴黎高科矿业学院）；PSL Research University（巴黎文理研究大学）；Institut Curie（居里研究所）；INSERM（法国国家健康与医学研究院）
基于一个新的原子范数，我们提出了一个新的稀疏矩阵分解问题的凸公式，其中因子的非零元素的数量是固定的和已知的。该公式计算多因素稀疏PCA，子空间聚类和低秩稀疏双线性回归作为潜在的应用。我们计算慢速率和上界的秩1矩阵的建议规范的统计维数，表明其统计维数是一个数量级小于通常的$\ell\_1$ -规范，跟踪规范和它们的组合。即使我们的凸公式是在理论上很难，并没有导致可证明的多项式时间算法方案，我们提出了一个有效的集算法利用凸问题的结构来解决它，并显示出有前途的数值结果。
2014-12-04 cs.LG math.ST stat.ML
Sparse Prediction with the $k$-Support Norm
我们推导出一个新的规范，对应于最紧密的凸松弛稀疏结合$\ell_2$处罚。我们发现，这个新的{ \em $k$支持规范}提供了一个更紧密的放松比弹性网，因此是一个很好的替代拉索或弹性网在稀疏预测问题。通过对$k$ -支撑范数的研究，我们还对弹性网的松弛性进行了限制，从而对它有了新的认识，为它的应用提供了依据。
2012-06-12 cs.LG stat.ML
Minimizing low-rank models of high-order tensors: Hardness, span, tight relaxation, and applications
University of Virginia（弗吉尼亚大学）；KU Leuven（鲁汶大学）
本研究针对高阶张量低秩模型的最小化问题，证明其NP难性并给出紧松弛，提出梯度优化算法，应用于解码等难题，实验性能领先。
2023-12-21 cs.DS cs.LG eess.SP
Naive Feature Selection: a Nearly Tight Convex Relaxation for Sparse Naive Bayes
UC Berkeley（加州大学伯克利分校）；CNRS（法国国家科学研究中心）；École Normale Supérieure（巴黎高等师范学院）
本文提出稀疏朴素贝叶斯特征选择方法，通过 Shapley-Folkman 定理给出近乎紧的凸松弛界，在保持统计效果的同时实现比 LASSO 等方法快数个数量级的特征选择。
2025-03-12 cs.LG stat.ML
On Quadratic Convergence of DC Proximal Newton Algorithm for Nonconvex Sparse Learning in High Dimensions
University of Minnesota（明尼苏达大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Princeton University（普林斯顿大学）；Georgia Institute of Technology（佐治亚理工学院）
提出了一种求解高维非凸正则化稀疏学习问题的DC近似牛顿算法。我们提出的算法集成了近似牛顿算法和基于凸规划差分的多阶段凸松弛算法，并且具有很强的计算和统计保证。具体地，通过利用稀疏建模结构/假设的复杂表征（即，局部约束强凸性和Hessian光滑性），证明了在凸松弛的每一阶段，算法均达到（局部）二次收敛，并最终在几次凸松弛后得到具有最优统计性质的稀疏近似局部最优解.数值实验支持我们的理论。
2018-02-15 cs.LG math.OC stat.ML
Fair Sparse Regression with Clustering: An Invex Relaxation for a Combinatorial Problem
Purdue University（普渡大学）
在本文中，我们研究了有偏数据集上的公平稀疏回归问题，其中偏置依赖于一个隐藏的二进制属性。隐藏属性的存在通过将稀疏回归和聚类与未知的二进制标签相结合，为问题增加了额外的复杂性。相应的优化问题是组合的，但我们提出了一个新的放松它作为一个\emph{invex}优化问题。据我们所知，这是一个组合问题的第一个不变凸松弛。我们表明，在我们的模型中包含的去偏置/公平约束的性能没有不利影响。相反，它支持恢复隐藏属性。我们恢复的回归参数向量的支持与真实的参数向量完全匹配。此外，我们同时解决聚类问题，恢复每个样本的隐藏属性的确切值。我们的方法使用精心构造的原始对偶证人提供理论保证的组合问题。为此，我们表明，我们的方法的样本复杂度是对数的回归参数向量的维数。
2021-06-14 cs.LG
Sparse Multiple Kernel Learning: Alternating Best Response and Semidefinite Relaxations
Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种稀疏多核学习方法，通过交替最佳响应算法和半正定松弛，实现高效且精确的核选择与优化。
2025-12-02 cs.LG stat.ML
A Randomized Algorithm for Sparse PCA based on the Basic SDP Relaxation
Department of Industrial and Systems Engineering & Wisconsin Institute for Discovery, University of Wisconsin-Madison（工业与系统工程系及威斯康星大学麦迪逊分校威斯康星发现研究所）
本文提出基于基本SDP松弛的稀疏PCA随机近似算法，通过构造确定性和随机性解并输出最优解，实现高概率下的稀疏性常数近似比，并在特定条件下保证近似比受对数约束。
2026-05-15 cs.LG math.OC stat.ML
Learning Sparse Distributions using Iterative Hard Thresholding
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California at Berkeley（加州大学伯克利分校）；Rice University（莱斯大学）
迭代硬阈值（IHT）是一种投影梯度下降算法，已知可实现广泛的结构化估计问题（如稀疏推理）的最新性能。在这项工作中，我们认为IHT作为学习稀疏离散分布的问题的解决方案。我们研究了在测度空间上使用IHT的困难性。作为一个实际的替代方案，我们提出了一个贪婪的近似投影，同时捕捉适当的概念分布稀疏，同时满足单纯形约束，并调查所产生的程序在各种设置的收敛行为。我们的研究结果表明，无论是在理论和实践中，IHT可以达到最先进的结果学习稀疏分布。
2020-01-31 cs.LG math.OC stat.ML
Sum-of-Squares Lower Bounds for Sparse PCA
Princeton University（普林斯顿大学）；Institute for Advanced Study（高等研究院）
本文建立了一个统计与计算的权衡解决一个基本的高维机器学习问题，通过一个基本的凸松弛方法。具体来说，我们考虑{ \em稀疏主成分分析}（稀疏PCA）的问题，和家庭的{ \em平方和}（SoS，又名Lasserre/Parillo）凸松弛。众所周知，在大维度$p$中，可以仅使用$n \approx k\log p$（高斯或伯努利）样本来{ \em原则上}检测种植的$k$ -稀疏单位向量，但是已知的所有{ \em有效}（多项式时间）算法需要$n \approx k^2$样本。还已知的是，该二次间隙不能通过最基本的{ \em半定}（SDP，aka谱）松弛来改进，其等效于2度SoS算法。在这里，我们证明，度-4 SoS算法也不能改善这种二次差距。这个平均情况下的下限增加了这个强大的凸松弛算法家族的机器学习中的小的困难结果集合。此外，我们的设计的时刻（或“伪期望”），这个下限是相当不同的，比以前的下限。建立更高程度的SoS算法的下界仍然是一个具有挑战性的问题。
2015-10-18 cs.CC cs.LG math.ST
Nonconvex Statistical Optimization: Minimax-Optimal Sparse PCA in Polynomial Time
Princeton University（普林斯顿大学）
稀疏主成分分析（PCA）涉及非凸优化问题，难以获得全局解。为了解决这个问题，一种流行的方法是凸松弛。然而，这种方法可能会产生次优估计，由于松弛效应。为了最优估计稀疏主子空间，我们提出了一个两阶段的计算框架，称为“收紧后放松”：在“放松”阶段，我们近似求解稀疏PCA的凸松弛，并提前停止，以获得所需的初始估计;对于“收紧”阶段，我们提出了一种新的算法称为稀疏正交迭代追踪（SOAP），其通过直接求解潜在的非凸问题来迭代地细化初始估计器。这个两阶段框架的一个关键概念是吸引力盆地。它代表一个局部区域，在该区域内，“收紧”阶段具有所需的计算和统计保证。我们证明，从“放松”阶段获得的初始估计落入这样的区域，因此SOAP几何收敛到一个主子空间估计，这是在一定的模型类的最小最优。与大多数现有的稀疏PCA估计器不同，我们的方法适用于非尖峰协方差模型，并适应非高斯性以及相关数据设置。此外，通过分析这两个阶段的计算复杂度，我们说明了一个有趣的现象，即较大的样本量可以降低总的迭代复杂度。我们的框架激发了解决许多复杂的统计问题，其中涉及非凸优化与可证明的保证一般范式。
2014-08-22 cs.LG stat.ML
Average-case Hardness of RIP Certification
University of Cambridge（剑桥大学）；University of British Columbia（不列颠哥伦比亚大学）
设计矩阵的限制等距属性（RIP）保证了稀疏线性模型的最佳恢复。它在压缩感知和统计学习中具有很高的兴趣。这个属性对于计算效率高的恢复方法特别重要。因此，尽管检验RIP是否成立通常是NP困难的，但人们已经做出了大量努力来寻找它的易处理代理。这些代理将允许构造RIP矩阵并在给定任意矩阵的情况下对RIP进行多项式时间验证。我们考虑框架的平均情况下的证明，从来没有错误地宣布矩阵是RIP，而往往是正确的随机实例。虽然有这样的功能，这是听话的次优参数制度，我们表明，这是一个计算困难的任务，在任何更好的制度。我们的结果是基于一个新的，较弱的假设检测稠密子图的问题。
2016-05-31 cs.CC cs.LG math.ST
Provable Low Rank Plus Sparse Matrix Separation Via Nonconvex Regularizers
University of Pittsburgh（匹兹堡大学）；UPMC Hillman Cancer Center（匹兹堡大学医学中心希尔曼癌症中心）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文考虑了一个大类的问题，我们试图恢复一个低秩矩阵和/或稀疏向量从一些测量。虽然基于凸松弛的方法遭受（可能很大）估计偏差，和其他非凸方法需要的秩或稀疏性是已知的先验，我们使用非凸正则化，以最大限度地减少秩和$l_0$规范没有估计偏差的凸松弛。我们提出了一种新的分析交替近端梯度下降算法应用到这样的问题，并绑定的迭代和地面真实稀疏和低秩矩阵之间的误差。该算法和误差界可以应用于稀疏优化，矩阵补充，和鲁棒主成分分析作为我们的结果的特殊情况。
2021-09-26 cs.LG math.OC stat.ML
Parametric Maxflows for Structured Sparse Learning with Convex Relaxations of Submodular Functions
The Institute of Scientific and Industrial Research, Osaka University（大阪大学科学与工业研究所）；The University of Tokyo（东京大学）
本文提出利用参数最大流优化解决结构稀疏学习中的凸松弛子模函数问题，展示现有结构惩罚满足条件，可快速求解正则化学习。
2015-09-14 cs.LG cs.NA math.NA
Rank-one Convexification for Sparse Regression
University of California, Berkeley（加州大学伯克利分校）；University of Pittsburgh（匹兹堡大学）
稀疏回归模型由于其易于解释性和出色的样本外性能而日益流行。然而，稀疏回归的精确模型与$\ell_0$约束限制的支持的估计是一个具有挑战性的（\NP硬）非凸优化问题。在本文中，我们得到了新的强凸松弛稀疏回归。这些松弛是基于理想的（凸包）配方秩一二次项与指标变量。新的松弛可以制定为半定优化问题在一个扩展的空间，更强大和更一般的比国家的最先进的配方，包括透视重构和配方与反向休伯罚款和极小极大凹罚函数。此外，建议的秩一加强可以被解释为一个\textit{non-separable, non-convex, unbiased}稀疏诱导正则化，它动态地调整其惩罚根据误差函数的形状，而不会引起偏见的稀疏解决方案。在我们的基准数据集的计算实验中，提出的二次曲线公式在几秒钟内解决，并导致非凸$\ell_0$ -问题的接近最优的解决方案（0.4\%的最优性差距）。此外，从统计的角度来看，所得到的估计也优于其他凸方法，实现了高预测精度和良好的可解释性。
2020-10-18 cs.LG math.OC stat.ME
Sparse and Smooth Signal Estimation: Convexification of L0 Formulations
Department of Industrial Engineering & Operations Research, University of California, Berkeley（加州大学伯克利分校工业工程与运筹学系）；Daniel J. Epstein Department of Industrial & Systems Engineering, University of Southern California（南加州大学丹尼尔·J·爱泼斯坦工业与系统工程系）
具有平滑性和稀疏性先验的信号估值问题可以自然地建模为具有$\ell_0$ -“范数”约束的二次优化。由于这类问题是非凸的且难以求解，因此标准方法是基于$\ell_1$ -范数松弛来处理它们的凸代理。在本文中，我们提出了一个新的迭代（凸）圆锥二次松弛，利用不仅$\ell_0$ -“规范”条款，但也适应度和光滑功能。迭代凸化方法基本上消除了$\ell_0$ -“范数”与其$\ell_1$代理之间的差距。这些较强的松弛导致显着更好的估计比$\ell_1$ -范数的方法，也允许利用仿射稀疏先验。此外，模型的参数和由此产生的估计量是容易解释的。实验结果表明，本文提出的迭代凸松弛方法\rev {的解与精确的$\ell_0$方法的解相差不到1%，并且可以在一分钟内处理多达10万个变量的问题.
2020-10-18 cs.LG eess.SP stat.ML
Certified Robustness via Sparse Second-Order Cone Relaxations
Toronto Metropolitan University（多伦多都会大学）；University of Minnesota Twin Cities（明尼苏达大学双城分校）；Johns Hopkins University（约翰斯·霍普金斯大学）；Augusta University（奥古斯塔大学）；Vector Institute（向量研究所）
该研究提出基于稀疏二阶锥规划（SOCP）的松弛方法，结合选择性二阶约束作为LP与SDP验证的中间方案，还引入CORE方法优化验证效率，在MNIST、CIFAR-10数据集上提升了可验证鲁棒性与验证速度。
2026-10-14 cs.LG
Computational-Statistical Gaps for Improper Learning in Sparse Linear Regression
ETH Zürich（苏黎世联邦理工学院）
研究稀疏线性回归中非适当学习的计算-统计间隙，通过将其归约为稀疏PCA问题并提供低度与统计查询下界，证明了高效算法至少需要约$Ω(k^2)$个样本。
2024-06-25 cs.CC cs.LG math.ST
Continuous LWE is as Hard as LWE & Applications to Learning Gaussian Mixtures
MIT（麻省理工学院）
我们展示了经典错误学习（LWE）问题与其连续模拟CLWE（Bruna，Regev，Song和Tang，STOC 2021）之间的直接和概念上简单的简化。这使我们能够将基于LWE的密码学的强大机制应用于CLWE的应用。例如，我们得到的硬度CLWE下的经典最坏情况下的硬度间隙最短向量问题。以前，这是已知的量子最坏情况下的硬度晶格问题。更广泛地说，随着我们在两个问题之间的减少，LWE的任何未来发展也将适用于CLWE及其下游应用。作为一个具体的应用，我们显示了改进的硬度结果的混合高斯密度估计。在这个计算问题中，给定样本访问高斯混合，目标是输出一个估计混合密度函数的函数。在经典LWE问题的指数硬度下（合理且被广泛认为），我们证明了在$\mathsf{poly}(n)$样本下具有大致$\log n$高斯分量的$\mathbb{R}^n$中的高斯混合密度估计在$n$中需要时间准多项式。在LWE的（保守）多项式硬度下，我们显示了对于任何常数$ε> 0$的$n^ε$高斯密度估计的硬度，这改进了Bruna，Regev，Song和Tang（STOC 2021），他们在多项式（量子）硬度假设下显示了至少$\sqrt{n}$高斯的硬度。我们的关键技术工具是从经典LWE减少到具有$k$的LWE-稀疏秘密，其中噪声的乘法增加仅为$O(\sqrt{k})$，独立于环境维度$n$。
2022-11-02 cs.CR cs.LG
Outlier-robust Estimation of a Sparse Linear Model Using Invexity
Purdue University（普渡大学）
本文针对含离群样本的稀疏回归问题，提出一种组合式鲁棒lasso方法，通过识别干净样本进行估计，并利用不变凸松弛提供理论保证，实验验证其优于标准lasso。
2023-06-22 cs.LG
Reducibility and Statistical-Computational Gaps from Secret Leakage
Massachusetts Institute of Technology（麻省理工学院）
在现代统计学、计算机科学和统计物理学中，具有约束的计算间隙的推理问题是普遍存在的。虽然已经成功地证明了这些差距的失败，限制类的算法，进展到一个更传统的减少为基础的方法，计算复杂性的统计推断已受到限制。现有的减少在很大程度上被限制到推理问题与类似的结构-主要是映射问题表示为一个稀疏的子矩阵信号加上噪声矩阵，这是类似的常见的硬度假设种植集团。在这项工作中的见解是，种植集团猜想的轻微概括-秘密泄漏种植集团-引起了各种新的平均情况下减少技术，产生一个网络的减少之间的问题非常不同的结构。使用特定形式的秘密泄漏种植集团的种植集团猜想的变体，我们推导出各种问题的紧密计算-计算权衡，包括鲁棒稀疏均值估计，稀疏线性回归的混合，鲁棒稀疏线性回归，张量PCA，稠密$k$ -块随机块模型的变体，负相关稀疏PCA，半随机种植稠密子图，隐藏分区模型中的检测和学习稀疏混合的普适性原则。特别是，一个$k$ -partite超图变体的种植集团猜想是足以建立我们所有的计算下界。我们的技术还揭示了新的连接到组合设计和随机矩阵理论。这项工作给出了第一个证据，一套扩大的硬度假设，如秘密泄漏种植集团，可能是一个关键的第一步，更完整的理论减少统计问题。
2020-06-28 cs.CC cs.LG math.PR
Functional Nonlinear Sparse Models
University of Pennsylvania（宾夕法尼亚大学）；Weizmann Institute of Science（魏茨曼科学研究所）
信号处理在本质上是连续的，通常是非线性的应用，如光谱估计，光学成像和超分辨率显微镜，其中稀疏性在获得最先进的结果中起着关键作用。处理这些问题的无穷维和非凸性通常涉及离散化和凸松弛，例如，使用原子规范。然而，网格失配和其他相干性问题通常导致稀疏信号的离散化版本不是稀疏的。即使它们是，使用凸松弛恢复稀疏解需要假设，可能很难满足在实践中。更重要的是，问题涉及非线性测量仍然是非凸的，即使放松稀疏性目标。我们解决这些问题，直接解决连续的，非线性问题铸造作为一个稀疏的功能优化程序。我们证明了当这些问题是非原子的，他们没有对偶间隙，因此可以有效地解决使用对偶和~（随机）凸优化方法。我们说明了这种方法的广泛应用，制定和解决问题的非线性谱估计和鲁棒分类。
2020-03-20 cs.LG eess.SP math.OC
Tensor Full Feature Measure and Its Nonconvex Relaxation Applications to Tensor Recovery
Northwest A&F University（西北农林科技大学）
张量稀疏建模作为一种很有前途的方法，在整个科学和工程领域都取得了巨大的成功。众所周知，实际应用中的各种数据往往是由多个因素产生的，因此使用张量来表示包含多个因素内部结构的数据应运而生。然而，与矩阵情形不同，构造合理的张量稀疏测度是一个相对困难而又非常重要的任务。因此，在本文中，我们提出了一种新的张量稀疏性度量称为张量全特征度量（FFM）。它可以同时描述张量的各个维的特征信息以及两维之间的相关特征，并将Tucker秩与张量管秩联系起来。这种度量方法可以更全面地描述张量的稀疏特征。在此基础上，建立了它的非凸松弛，并将其应用于低秩张量完备化（LRTC）和张量鲁棒主成分分析（TRPCA）。提出了基于FFM的LRTC和TRPCA模型，并给出了求解该模型的两种有效的交替方向乘子法（ADMM）算法。各种真实的数值实验证实了所提出的方法超越国家的最先进的优越性。
2022-07-11 cs.CV cs.LG
