Computing Lower Bounds on the Nonnegative Rank via Non-Convex Optimization Solvers
University of Mons（蒙斯大学）
本文提出非凸方法计算非负秩四个重要下界，其中SSB下界为首次提出，提升了部分矩阵的非负秩下界，并在基准测试中展示了非凸方法的竞争力。
2026-11-11 cs.DM math.OC
Sketching for low-rank nonnegative matrix approximation: Numerical study
本文提出基于随机草图的近似交替投影方法求解低秩非负矩阵近似问题，分析复杂度并经数值实验证明其比确定性方法更快且收敛性质相近。
2023-04-24 cs.NA math.NA math.OC
Strong NP-Hardness of Rank-2 Nonnegative Matrix Factorization
University of Mons（蒙斯大学）
该研究证明Frobenius范数下最优秩-2非负矩阵分解（NMF）的计算是强NP难的，通过从\textsc{Clique}问题的多项式时间归约完成证明，同时也确立了秩-2对称NMF的强NP难性。
2026-10-16 cs.CC math.OC
Symmetric Nonnegative Matrix Trifactorization
本文提出对称非负矩阵三因子分解的 SNT-秩概念，研究其基本性质、低秩情形及 SNT-秩等于秩的矩阵类，并探讨给定对角块下最小 SNT-秩的补全问题。
2022-05-12 math.OC math.SP
Adaptive Low-Nonnegative-Rank Approximation for State Aggregation of Markov Chains
在假设状态空间可映射为少量元状态的条件下，提出了一种低秩非负秩近似方法来确定有限状态马尔可夫链的状态聚集结构.亚状态的数量由马尔可夫转移阵的非负秩来表征。受核范数松弛在低秩极小化问题中的成功应用的启发，我们提出了一个原子正则化子作为非负秩的凸代理，并建立了一个凸优化问题.由于原子正则化本身是不计算上容易处理的，我们而是解决了一系列的问题，涉及一个非负分解的马尔可夫转移阵通过使用近端交替线性化最小化方法。两种方法调整因式分解的秩，使局部极小值逃脱。一种是在分解矩阵上附加一列，这可以解释为负次梯度步长的近似。另一种是通过线性组合来减少冗余维数。总体而言，所提出的算法很可能收敛到全局解。我们的方法的效率和统计特性说明合成数据。我们还将我们的状态聚合算法应用于曼哈顿交通数据集，并与现有的方法进行了广泛的比较。
2018-10-14 math.OC stat.ML
Nonnegative Low-rank Matrix Recovery Can Have Spurious Local Minima
Dept. of Electrical and Computer Engineering University of Illinois at Urbana-Champaign（电气与计算机工程系伊利诺伊大学厄巴纳-香槟分校）
研究发现非负低秩矩阵恢复在特定条件下存在虚假局部极小值，挑战了非凸方法的经验成功解释。
2026-01-21 cs.LG math.OC stat.ML
Efficient Algorithms for Regularized Nonnegative Scale-invariant Low-rank Approximation Models
INSA Lyon（里昂国立应用科学学院）；UCBL（里昂第一大学）；CNRS（法国国家科学研究中心）；Inserm（法国国家健康与医学研究院）；Innopolis University（因诺波利斯大学）
本文研究了齐次正则化尺度不变模型，证明了尺度不变性引发的隐式正则化效应，并提出了一种具有收敛保证的通用MM算法，用于处理非欧几里得损失下的非负低秩近似问题。
2025-01-30 cs.LG cs.NA math.NA
Worst-Case Results For Positive Semidefinite Rank
本文主要在多面体的背景下，给出了非负矩阵半正定秩的各种最坏情况结果。本文证明了具有v个顶点的一般n维多胞形的psd秩至少比以前的下界提高了（n）^（1/4）。对于顶点数为v的多边形，我们证明了psd秩不能超过4ceil（v/6），这反过来又证明了秩为3的p × q矩阵的psd秩至多为4ceil（min{p，q}/6）。一般来说，秩为（k+1选2）的非负矩阵的psd秩至少为k，我们提出了一个问题，即psd秩是否正好为k。使用几何和限制量词消除，我们表明，这一决定可以在多项式时间时，k是固定的。
2014-05-30 math.CO math.OC
Fixed points of the EM algorithm and nonnegative rank boundaries
两个离散随机变量的$r$独立分布的混合可以用非负秩矩阵$r$表示。这种联合分布的模型的似然推断导致真正的代数几何的问题，在这里解决的第一次。我们刻画了期望最大化算法的不动点集，并研究了非负秩至多为$3$的矩阵空间的边界.这两个集合都对应于具有许多不可约分量的代数簇。
2015-03-05 math.AG math.OC math.ST
Exploring the bounds on the positive semidefinite rank
非负和半正定（PSD-）秩与多面体的非负和半正定扩展复杂性密切相关，它们是表示该多面体的线性和SDP程序的最小维度。虽然最近已经证明了某些特殊多面体的松弛矩阵的非负秩和PSD秩的指数下界，但这些量仍然没有严格的界。我们探讨了PSD秩的一些现有的界限，并证明了它们不能给出扩展复杂度的指数下界。我们的方法包括在证明现有的界限是上界的多项式的正规秩的矩阵，这是等于维数的多面体（添加剂常数）。作为其中的一个含义，我们还检索上界的联合分布的任意矩阵的互信息，基于其正规秩。
2017-04-21 cs.CC math.CO math.OC
Tight Conic Relaxations for Rank-one Doubly Nonnegative Matrix Completion
Institute of Science Tokyo（东京科学大学）；Aoyama Gakuin University（青山学院大学）；Ewha W. University（梨花女子大学）
研究秩一非负双矩阵完备化的QCQP公式的紧锥松弛，证明特定稀疏模式下对偶公式等价，推导循环型稀疏模式下SDP和DNN松弛为紧的充分条件，表明添加边可放宽条件，为锥松弛恢复最优解提供证书。
2026-07-22 math.OC
Low-rank nonnegative tensor approximation via alternating projections and sketching
本文提出结合交替投影、STHOSVD/TTSVD 与随机草图的非负张量低秩逼近方法，在 Tucker 与 tensor train 格式下有效抑制负元素并保持接近初始误差。
2023-04-24 cs.NA math.NA math.OC
Error Bounds for Rank-one Double Nonnegative Reformulations of QAP and Exact Penalties
本文为二次分配问题的秩一双重非负重构建立误差界，证明相关罚问题为全局精确罚，并基于此提出优于Gurobi的松弛方法。
2025-10-07 math.OC
Heuristics for Exact Nonnegative Matrix Factorization
本文提出两种启发式方法用于精确非负矩阵分解，通过模拟退火和贪心随机自适应搜索启发式方法，展示了其在多种非负矩阵类别的应用优势，并探讨了非负秩的行为特性。
2014-11-26 cs.LG cs.NA math.NA
Sum-of-norms regularized Nonnegative Matrix Factorization
University of Southampton（南安普顿大学）；University of Waterloo（滑铁卢大学）
针对NMF中未知秩的问题，提出SON正则化方法在线估计非负秩，通过一阶BCD算法高效求解，能处理秩亏数据并适用于高光谱成像。
2025-09-22 cs.LG math.OC stat.ML
Hierarchical Clustering of Hyperspectral Images using Rank-Two Nonnegative Matrix Factorization
Université de Mons（蒙斯大学）；Georgia Institute of Technology（佐治亚理工学院）
本文设计了一种高分辨率高光谱图像的层次聚类算法。在算法的核心，一个新的秩2非负矩阵分解（NMF）算法被用来分裂的集群，这是由凸几何概念的动机。该方法从包含所有像素的单个聚类开始，并且在每个步骤中，（i）以使得下一步骤中的误差最小化的方式选择聚类，以及（ii）以使得聚类很好地平衡和稳定的方式使用秩二NMF将所选择的聚类分成两个不相交的聚类。所提出的方法也可以作为一个端元提取算法中存在的纯像素。这种方法的有效性说明了几个合成和现实世界的高光谱图像，并表现出优于标准的聚类技术，如k-均值，球形k-均值和标准NMF。
2014-08-19 cs.CV cs.IR math.OC
Conic-Optimization Based Algorithms for Nonnegative Matrix Factorization
本文提出两种基于指数锥和二阶锥的 NMF 迭代算法，证明其驻点收敛速率为 O(1/i)，并在秩一情形和数值实验中验证高效性与竞争力。
2023-01-23 math.CO math.OC
The polarization hierarchy for polynomial optimization over convex bodies, with applications to nonnegative matrix rank
本文将极化层次结构推广到有限维凸锥，构建凸体上受约束多项式优化的收敛外部逼近，并应用于非负矩阵分解的嵌套矩形问题，第三层数值结果逼近非常紧。
2024-06-13 math.OC quant-ph
Statistically Optimal K-means Clustering via Nonnegative Low-rank Semidefinite Programming
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Southern California（南加州大学）
针对K均值聚类中SDP松弛成本高、NMF缺乏理论保证的问题，提出基于Burer--Monteiro分解的类NMF非负低秩SDP算法，兼具可扩展性与统计最优性，误聚类误差显著更低。
2024-04-13 cs.LG math.OC stat.ML
Constrained Nonnegative Gram Feasibility is $\exists\mathbb{R}$-Complete
IIIT Delhi（德里信息与技术学院印度）
研究带约束的非负格拉姆可行性的计算复杂性，证明当秩$r=2$时该问题是$\exists\mathbb{R}$-完全的，并通过多项式时间归约证明其难度。
2026-03-20 cs.CC math.OC
A low-rank augmented Lagrangian method for doubly nonnegative relaxations of mixed-binary quadratic programs
本文提出全局收敛的黎曼低秩增广拉格朗日方法 RNNAL，通过等价简化 BM 分解约束并求解非凸代数簇投影，高效处理大规模混合二元二次规划的 DNN 松弛。
2025-02-19 math.OC
Using Underapproximations for Sparse Nonnegative Matrix Factorization
非负矩阵分解（Nonnegative Matrix Factorization）是将一个非负数据矩阵（nonnegative data matrix）近似分解为两个低秩非负矩阵的乘积。它已成功地应用于许多领域的数据分析技术，例如，文本挖掘，图像处理，微阵列数据分析，协同过滤等，我们介绍了一种新的方法来解决NMF问题，基于使用的欠近似技术，并显示其有效性，以获得稀疏的解决方案。这种方法，基于拉格朗日松弛，允许NMF问题的递归方式的决议。我们还证明了下近似问题是NP-困难的任何固定的分解秩，使用减少的最大边biclique问题的二部图。我们在几个标准图像数据集上测试了我们的欠近似方法的两个变体，并表明它们提供了具有低重建误差的稀疏部分表示。我们的结果是可比的，有时优于两个标准的稀疏非负矩阵分解技术。
2009-10-24 math.OC
Automatic Model-Order Selection for Nonnegative Matrix Factorization via Column $\ell_{2,0}$ Regularization
Nankai University（南开大学）
研究非负矩阵分解中最优秩选择问题，通过在因子矩阵引入列$\ell_{2,0}$-范数正则化，采用热启动$\lambda$路径及开发多种方法，经收敛分析和实验验证，该框架能有效估计秩，兼具精度与效率。
2026-08-11 math.OC
Exact and Heuristic Algorithms for Semi-Nonnegative Matrix Factorization
Université de Mons（蒙斯大学）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）
给定矩阵$M$（不一定是非负的）和分解秩$r$，半非负矩阵分解（semi-NMF）寻找具有$r$列的矩阵$U$和具有$r$行的非负矩阵$V$，使得$UV$是根据某个度量的$M$的最佳可能近似。在本文中，我们研究的性质，我们开发的精确和启发式算法的半NMF。我们的贡献是三方面的。首先，我们证明了秩为$r$的半NMF的误差必须小于秩为$r-1$的最佳无约束逼近。这导致我们一个新的初始化过程的基础上的奇异值分解（SVD）的质量保证的近似。其次，我们提出了一个精确的算法（即，一个算法，找到一个最优解），也是基于SVD，为某一类矩阵（包括非负不可约矩阵），我们从中获得一个初始化不属于该类矩阵。数值实验表明，这第二种方法表现非常好，并允许我们在许多情况下计算最佳的半NMF分解。最后，我们分析了半NMF证明其NP-硬度的计算复杂性，已经在秩1的情况下（即，对于$r = 1$），我们表明，半NMF有时不适定（即，最优解不存在）。
2015-05-08 cs.LG cs.NA math.NA
Solving the Maximum Clique Problem with Symmetric Rank-One Nonnegative Matrix Approximation
Università degli Studi di Bari Aldo Moro（巴里阿尔多·莫罗大学）；Université de Mons（蒙斯大学）
本文提出基于对称秩一非负矩阵逼近的连续刻画，建立极值点与图中团的对应关系，并提出高效算法在多个数据集上优于现有方法。
2016-08-04 cs.NA math.NA math.OC
Descent methods for Nonnegative Matrix Factorization
本文提出多种下降方法用于非负矩阵分解，并分析了一种新的快速块坐标方法——秩一残差迭代（RRI），证明其收敛性并扩展到非负张量分解，同时引入稀疏性、离散性和平滑性等可控约束。
2009-08-24 cs.IR cs.NA math.NA
Robust Near-Separable Nonnegative Matrix Factorization Using Linear Optimization
非负矩阵分解（NMF）在可分离性假设下是一种易于处理的方法，即输入数据矩阵的所有列都属于由其中少数列生成的凸锥。Bittorf、Recht、Ré和Tropp（“使用线性程序分解非负矩阵”，NIPS 2012）提出了一种线性规划（LP）模型，称为Hottopixx，该模型在输入矩阵的任何小扰动下都具有鲁棒性。然而，Hottopixx有两个重要的缺点：（i）输入矩阵必须被归一化，以及（ii）因子分解秩必须事先已知。为了解决这两个问题，本文对Hottopixx进行了推广，提出了一种新的LP模型，该模型不需要归一化，并且可以自动检测分解秩。此外，新的LP模型更灵活，对噪声的容忍度更高，并且可以很容易地适应于处理离群值和其他噪声模型。最后，我们在几个合成数据集上显示，它的性能优于Hottopixx，同时与两种最先进的方法竞争。
2013-10-21 math.OC stat.ML
Low-Rank Sum-of-Squares Representations on Varieties of Minimal Degree
希尔伯特的一个著名结果说，每一个实非负三元四次曲线都是三个平方的和。我们更一般地表明，每一个非负的二次型上的一个真正的射影簇$X$的最低程度是一个总和的$\dim(X)+1$平方的线性型。这加强了Blekherman，Smith和Velasco最近结果的一个方向。我们的上界是最好的可能的，它意味着存在的低秩分解的二元矩阵多项式和表示的biforms作为几个平方和。我们确定了一般二次型的平方和表示的最小程度的表面上的等价类的数量，概括了计数三元四次幂的权力，Reznick，Scheiderer，和Sottile。
2017-03-04 math.AG math.OC
Nonnegative tensor train for the multicomponent Smoluchowski equation
针对多组分Smoluchowski方程数值求解中低秩近似易出现负元素的问题，提出基于TT格式的秩一校正法保持解的非负性，可用于时间积分和稳态解后处理。
2024-04-18 cond-mat.soft cs.NA math.NA
The square root rank of the correlation polytope is exponential
非负矩阵$A$的平方根秩是矩阵$B$的最小秩，使得$A=B \circ B$，其中$\circ$表示条目积。我们证明了相关多面体松弛矩阵的平方根秩是指数的。我们的主要技术是利用数域中多项式根的性质来下界某些矩阵在任意符号变化下的秩。平方根秩是矩阵的半正定秩的一个上界，对应于分解中所有矩阵秩为1的特殊情况。
2014-11-25 cs.CC math.CO math.OC
Novel Algorithms based on Majorization Minimization for Nonnegative Matrix Factorization
矩阵分解是普遍存在的，并且在诸如语音处理、数据挖掘和图像处理等各种领域中具有应用。在矩阵分解下，非负矩阵分解用于将非负矩阵分解为两个非负矩阵的乘积，这给出了一些有意义的数据解释。因此，非负矩阵分解比其他分解技术更有优势。在本文中，我们提出了两个新的迭代算法的基础上的优化最小化（MM）-在其中，我们制定了一个新的上界，并尽量减少它得到一个封闭的形式的解决方案，在每一次迭代。由于算法是基于MM，它是确保所提出的方法将是单调的。所提出的算法的不同之处在于两个非负矩阵的更新方法。第一种算法-迭代非负矩阵分解（INOM）顺序更新两个非负矩阵，而第二种算法-并行迭代非负矩阵分解（PARINOM）并行更新两个非负矩阵。我们还证明了所提出的算法收敛到问题的平稳点。仿真结果表明，所提算法在计算速度和收敛性方面均优于现有算法。关键词：非负矩阵分解，优化最小化，大数据，并行，乘法更新
2019-05-11 eess.SP math.OC
Positive semidefinite rank
设M是一个p × q矩阵，其元素为非负。M的半正定秩（psd秩）是存在大小为$k \times k$的正半定矩阵$A_i, B_j$使得$M_{ij} = \text{trace}(A_i B_j)$的最小整数k。psd秩有许多吸引人的几何解释，包括多面体的半定表示和信息论应用。在本文中，我们发展和调查psd秩的主要数学性质，包括它的几何形状，与其他秩概念的关系，以及计算和算法方面。
2014-07-15 cs.DM math.CO math.OC
Introduction to Nonnegative Matrix Factorization
本文介绍非负矩阵因子分解的应用、解的几何性质与唯一性、复杂度及算法，并探讨其与多面体扩展形式的联系。
2017-03-02 cs.CV cs.LG cs.NA
Nonnegative Low-Rank Matrix Correction under an Orthogonality Constraint in Conservative Vlasov Simulations
Brown University（布朗大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）；University of Delaware（特拉华大学）；Purdue University（普渡大学）
针对保守Vlasov模拟中SVD型截断引入负值的问题，提出凸、非凸两种低秩矩阵校正算法，其中切空间加速交替投影成本效率最高，可作为正性限制器用于Vlasov求解器。
2026-07-30 cs.NA math.NA math.OC
Lower bounds on matrix factorization ranks via noncommutative polynomial optimization
我们使用的技术（跟踪非交换）多项式优化，制定层次的半定规划下界矩阵分解秩。特别地，我们考虑非负秩，半正定秩，以及它们的对称类似物：完全正秩和完全半正定秩。我们研究了层次结构的收敛性，将它们与已知的下界进行了广泛的比较，并提供了一些（数值）示例。
2018-11-05 math.OC
Computing approximate PSD factorizations
给出了一个计算非负矩阵PSD近似分解的算法。该算法的运行时间与输入矩阵的维数成多项式关系，与PSD秩和逼近误差成指数关系。当因子的行和列被限制在一般多面体中时，主要成分是精确因子分解算法。这严格地推广了非负矩阵分解，可以通过让这个多面体是非负正交来捕获。
2016-02-23 cs.DS math.OC
Rational and real positive semidefinite rank can be different
给定一个非负矩阵M的有理项，我们考虑两个量：通常的半正定（psd）秩，其中矩阵是通过实对称psd矩阵的锥分解，和有理限制psd秩，其中矩阵因子被要求是有理对称psd矩阵。很明显，有理数限制的psd秩总是通常psd秩的上界。我们表明，这个不等式可能是严格的展示矩阵psd秩4的合理限制psd秩严格大于4。
2014-04-18 math.OC
A Multilevel Approach For Nonnegative Matrix Factorization
非负矩阵分解（NMF）是用两个低秩非负矩阵的乘积近似非负矩阵的问题，并且已经被证明在许多应用中特别有用，例如，在本文中，我们解释了如何NMF算法可以嵌入到多层方法的框架，以加速其收敛。这种技术可以应用于数据在低维空间中通过保持非负性的线性变换得到良好近似表示的情况。一个简单的多层次的策略进行了描述，并通过实验证明，加快显着三个流行的NMF算法（交替非负最小二乘，乘法更新和层次交替最小二乘）在几个标准的图像数据集。
2011-10-04 cs.NA math.NA math.OC
Learning nonnegative matrix factorizations from compressed data
本文提出了一种从压缩数据中学习非负矩阵分解的框架，通过随机化抽样方法实现低秩非负分解，并验证了其在实际应用中的有效性。
2026-02-15 cs.LG cs.NA math.NA
Generalized Separable Nonnegative Matrix Factorization
Université de Mons（蒙斯大学）
非负矩阵分解（NMF）是一种用于非负数据的线性维数技术，其应用包括图像分析，文本挖掘，音频源分离和高光谱解混。给定数据矩阵$M$和因子分解秩$r$，NMF查找具有$r$列的非负矩阵$W$和具有$r$行的非负矩阵$H$，使得$M \approx WH$。NMF一般是NP难的。然而，它可以有效地计算下的可分性假设，要求的基础向量出现的数据点，即，存在一个索引集$\mathcal{K}$，使$W = M(:,\mathcal{K})$。在本文中，我们推广了可分性假设：我们只需要对每个秩一因子$W(:,k)H(k,:)$为$k=1,2,\dots,r$，或者$W(:,k) = M(:,j)$为一些$j$或$H(k,:) = M(i,:)$为一些$i$。我们把相应的问题称为广义可分NMF（GS-NMF）。我们讨论了GS-NMF的一些性质，并提出了一个凸优化模型，我们使用快速梯度法求解。我们还提出了启发式算法的启发式连续投影算法。为了验证我们的方法的有效性，我们将它们与几种最先进的可分离NMF算法在合成，文档和图像数据集上进行比较。
2019-10-15 cs.CV cs.LG math.OC
Equivalence and Strong Equivalence between Sparsest and Least $\ell_1$-Norm Nonnegative Solutions of Linear Systems and Their Application
许多实际问题都可以转化为具有非负约束的l0-极小化问题，它寻求欠定线性系的稀疏非负解。最近的研究表明，l1-极小化是有效的解决某些类型的l0-极小化问题。然而，从数学的角度来看，对l0-和l1-最小化之间关系的理解仍然不完整。在本文中，我们进一步讨论与这两个问题相关的几个理论问题。例如，如何完整地刻画线性系的最小l1范数非负解的唯一性，是否存在不同于现有矩阵性质的另一种矩阵性质，能够完整地刻画K-稀疏非负向量的一致恢复性？证明了线性规划的基本严格互补定理可以给出一个线性系存在唯一的最小l1-范数非负解的充要条件。这个条件自然地导致所谓的范围空间属性（RSP）和“满列秩”属性，它们共同提供了对l0-和l1-最小化之间关系的广泛理解。出于这些结果，我们引入的概念的“RSP的顺序K”，原来是一个完整的表征K-稀疏非负向量的均匀恢复。这一概念也使我们能够通过所谓的弱范围空间性质，为稀疏非负向量的非均匀恢复提供一定的条件。
2013-12-15 math.OC
The Why and How of Nonnegative Matrix Factorization
Université de Mons（蒙斯大学）
非负矩阵分解（Nonnegative matrix factorization，NMF）能够从一组非负数据向量中自动提取稀疏且有意义的特征，已成为高维数据分析中广泛使用的工具。我们首先在三个应用中说明NMF的这种性质，图像处理，文本挖掘和高光谱成像-这就是为什么。然后，我们解决的问题，解决NMF，这是NP-困难的一般。我们回顾了一些标准的NMF算法，并提出了一个最近的子类的NMF问题，称为近可分离的NMF，可以有效地解决（即，在多项式时间），即使在存在噪声-这是如何。最后，通过非负秩，简要描述了数学和计算机科学中与NMF密切相关的一些问题。
2014-03-07 cs.IR cs.LG math.OC
Finding the largest low-rank clusters with Ky Fan $2$-$k$-norm and $\ell_1$-norm
我们提出了一个凸优化公式与Ky Fan $2$ -norm和$\ell_1$ -norm找到$k$最大的近似秩1的子矩阵块的一个给定的非负矩阵，具有低秩块对角结构的噪声。我们分析了低秩和稀疏结构的最优解使用这两个矩阵范数的性质。我们表明，在一定的假设下，具有很高的概率，该方法可以恢复秩一子矩阵块，即使它们被随机噪声破坏，并插入到一个更大的矩阵与其他随机噪声块。
2015-11-30 math.OC
A Nonmonotone Gradient-Based Algorithm for Symmetric Nonnegative Matrix Factorization and Graph Clustering
Arizona State University（亚利桑那州立大学）
提出SNMPBB算法，首次将非单调投影Barzilai-Borwein方法应用于对称非负矩阵分解，并扩展至图聚类和大规模问题，证明全局收敛性，实验显示显著加速和精度提升。
2026-06-01 cs.LG cs.NA math.NA
Randomized Algorithms for Symmetric Nonnegative Matrix Factorization
School of Computational Science and Engineering, Georgia Institute of Technology（佐治亚理工学院计算科学与工程学院）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；Dept. of Computer Science, Wake Forest University（维克森林大学计算机科学系）
针对对称非负矩阵分解（SymNMF）的效率问题，提出两种随机算法：基于随机矩阵草图的初始近似算法和基于随机杠杆得分采样的约束最小二乘求解算法，理论证明其有效性并通过图聚类实验验证，实现解质量近似保持与显著加速。
2024-11-28 cs.LG cs.NA math.NA
Graph-based Neural Acceleration for Nonnegative Matrix Factorization
Uppsala University（乌普萨拉大学）；Research Institutes of Sweden (RISE)（瑞典研究机构（RISE））
我们描述了一种用于非负矩阵分解的基于图的神经加速技术，该技术建立在矩阵和二部图之间的联系之上，该联系在某些领域是众所周知的，例如，稀疏线性代数，但尚未被利用来设计用于矩阵计算的图神经网络。我们首先考虑低秩因子分解更广泛，并提出了一个适合于图神经网络的问题的图形表示。然后，我们专注于非负矩阵分解的任务，并提出了一个图神经网络，交错的二分自注意层与更新的基础上交替方向的方法乘子。我们对合成数据集和两个真实世界数据集的经验评估表明，即使我们只在较小的合成实例上以无监督的方式进行训练，我们也获得了显著的加速。
2022-02-01 cs.LG cs.NA math.NA
Quartic First-Order Methods for Low-Rank Minimization
研究了低秩极小化问题的一个推广的非凸Burer-Monteiro公式。我们使用最近的结果，非欧几里德一阶方法，提供高效和可扩展的算法。我们的方法使用的几何形状诱导的四次内核矩阵空间;对于无约束的情况下，我们引入了一个新的家庭的革兰氏内核，大大提高了数值性能。欧氏距离矩阵完成和对称非负矩阵分解的数值实验表明，我们的算法规模以及达到最先进的性能相比，专门的方法。
2021-02-17 math.OC
Finding approximately rank-one submatrices with the nuclear norm and l1 norm
我们提出了一个凸优化公式与核范数和$\ell_1$ -范数找到一个大的近似秩一的子矩阵的一个给定的非负矩阵。我们开发的最优性条件的制定和表征的最优解的性质。我们建立的条件下，凸公式的最优解具有特定的稀疏结构。最后，我们表明，在一定的假设下，具有很高的概率，该方法可以恢复秩一的子矩阵，即使它是损坏的随机噪声和插入到一个更大的随机噪声矩阵的子矩阵。
2010-11-08 math.OC
Kullback-Leibler Principal Component for Tensors is not NP-hard
研究了非负张量的非负秩一逼近问题，证明了可以有效地得到使广义Kullback-Leibler发散最小的全局最优解，即，它不是NP难。这个结果适用于具有任意数量模式的任意非负张量（包括两个，即，矩阵）。我们推导出一个封闭形式的表达式KL主成分，这是很容易计算，并具有直观的概率解释。对于广义KL近似与更高的排名，这个问题是第一次被证明是等价的多项式潜变量建模，并推导出一个迭代算法，类似于期望最大化算法。在Iris数据集上，我们展示了导出的结果如何帮助我们以\emph{unsupervised}的方式学习模型，并获得与监督方法惊人接近的性能。
2017-11-21 cs.IT eess.SP math.IT
Exact solutions in low-rank approximation with zeros
低秩零近似的目的是找到一个固定秩的矩阵，并具有固定的零模式，最小化到给定数据矩阵的欧氏距离。我们使用代数工具研究这个最优化问题的临界点。特别是，我们描述特殊的线性，仿射，和行列式的关系满足的临界点。我们还研究了非负矩阵分解问题的临界点的数目以及临界点的数目与问题复杂性的关系。
2022-01-29 math.AG math.OC
Sparse and Unique Nonnegative Matrix Factorization Through Data Preprocessing
University of Waterloo（滑铁卢大学）
本文提出一种基于数据预处理的非负矩阵分解方法，利用M-矩阵理论和几何解释，在可分离性假设下得到稀疏且唯一的最优解。
2012-04-11 cs.NA math.NA math.OC
Algorithms for Nonnegative Matrix Factorization with the Kullback-Leibler Divergence
Université de Mons（蒙斯大学）
非负矩阵分解（NMF）是一种标准的非负数据线性降维技术。Kullback-Leibler（KL）散度是NMF中最常用的目标函数之一，它用于度量输入数据与低秩近似之间的差异。它对应于最大似然估计，当观察到的数据样本的基本统计量遵循泊松分布，KL NMF是特别有意义的计数数据集，如文档或图像。在本文中，我们首先收集的KL目标函数的重要性质是必不可少的研究KL NMF算法的收敛性。其次，在回顾现有求解KL NMF的算法的基础上，提出了三种保证目标函数非增性的新算法。我们还提供了一个整体收敛保证我们提出的算法之一。最后，我们进行了广泛的数值实验，提供了一个全面的图片的KL NMF算法的性能。
2021-04-17 cs.LG eess.SP math.OC
Nonnegative Factorization and The Maximum Edge Biclique Problem
Université catholique de Louvain（天主教鲁汶大学）
本文研究非负因子分解（NF）的NP难性，通过归约到最大边双团问题证明其对于任意固定秩是NP难的，并分析了乘法更新与分层交替最小二乘算法的差异，提出了一种基于乘法更新的双团查找算法。
2008-10-23 cs.NA math.NA math.OC
