Low-rank generalized alternating direction implicit iteration method for solving matrix equations
针对大规模稀疏稳定 Lyapunov 与连续时间代数 Riccati 矩阵方程，提出结合低秩性质和 Cholesky 分解的 R-GADI 方法，并分析其收敛性、通过数值实验验证有效性。
2024-04-09 cs.NA math.NA
Local convergence of alternating low-rank optimization methods with overrelaxation
研究了低秩矩阵和张量问题的超松弛交替最优化方法的局部收敛性。分析是基于线性化的方法，它采取的形式SOR迭代的半正定海森，并可以在相应的商几何等价低秩表示进行研究。在矩阵情况下，加速局部收敛的最佳松弛因子可以由标准方法的收敛速度确定。这个结果依赖于半正定$2 \times 2$块系统的Young SOR定理的一个版本。
2022-06-28 cs.NA math.NA math.OC
Quasioptimal alternating projections and their use in low-rank approximation of matrices and tensors
该研究提出拟最优交替投影方法，证明其对横截相交的超正则集局部线性收敛，并基于该理论开发了快速算法，验证了其在两类低秩逼近问题中的有效性与正则化应用潜力。
2025-06-23 cs.NA math.NA math.OC
Asymptotic Log-Det Sum-of-Ranks Minimization via Tensor (Alternating) Iteratively Reweighted Least Squares
仿射秩和最小化（ASRM）将仿射秩最小化（ARM）问题从矩阵推广到张量。在这里，兴趣在于一个家庭$\mathcal{K}$的不同matricizations的行列。转移我们先前讨论的结果渐近log-det秩最小化，我们表明，迭代重加权最小二乘与重量强度$p = 0$仍然是一个，理论和实践中，特别可行的方法表示为$\mathrm{IRLS}$ - $0\mathcal{K}$。在矩阵的情况下，我们证明了整体收敛的渐近极小值的log-det秩和函数所需的解决方案。此外，我们显示局部收敛的$\mathrm{IRLS}$ - $0\mathcal{K}$依赖于其中出现的正则化参数$γ\searrow 0$的下降率。对于分层家庭$\mathcal{K}$，我们展示了如何交替版本（$\mathrm{AIRLS}$ - $0\mathcal{K}$，与以前的工作下的名称$\mathrm{SALSA}$）可以单独通过基于张量树网络的操作进行评估。因此，该方法可以通过避免指数计算复杂性而应用于高维。此外，否则至关重要的秩自适应过程变得基本上是多余的，即使完成问题。在数值实验中，我们表明，因此所需的子空间限制和放松的仿射约束只会导致一个边际损失的近似质量。另一方面，我们证明，$\mathrm{IRLS}$ - $0\mathcal{K}$允许观察理论相变也通用张量恢复在实践中。总之，我们将$\math…
2021-06-29 cs.NA math.NA
Asymptotic Convergence Rate of Alternating Minimization for Rank One Matrix Completion
Boston University（波士顿大学）
我们研究交替最小化矩阵完成在最简单的可能设置：完成一个秩一矩阵从一个显示的子集的条目。通过对一个可逆一致问题的特征值的变分刻画，给出了渐近收敛速度的界。这导致了一个多项式上界的渐近速率的节点数以及最大程度的图中透露的条目。
2020-08-11 cs.LG cs.NA math.NA
Multiplicative Noise Removal: Nonlocal Low-Rank Model and Its Proximal Alternating Reweighted Minimization Algorithm
本文的目标是发展一种新的数值方法，有效地消除乘性噪声。自然图像的非局部自相似性意味着它们的非局部相似块构成的矩阵是低秩的。通过利用这个低秩的应用程序与乘性噪声去除前，我们提出了一个非局部低秩模型，这项任务，并开发了一个近端交替重加权最小化（PARM）算法来解决该模型产生的最优化问题。具体地说，我们利用广义非凸替代的秩函数正则化的补丁矩阵，并开发了一个新的非局部低秩模型，这是一个非凸的非光滑最优化问题具有分片数据保真度和广义非局部低秩正则化项。为了解决这个最优化问题，我们提出了PARM算法，它有一个近似的交替计划，其子问题的重新加权近似。对所提出的PARM算法进行了理论分析，以保证其整体收敛到一个临界点。数值实验表明，该方法在去噪图像的视觉质量、峰值信噪比（PSNR）和结构相似性指数（SSIM）等指标上均优于SAR-BM 3D方法.
2020-02-18 cs.NA math.NA math.OC
Alternating linear scheme in a Bayesian framework for low-rank tensor approximation
TU Delft（代尔夫特理工大学）
多路数据通常自然地以张量格式出现，其可以近似地由低秩张量分解表示。这是有用的，因为复杂性可以大大降低，并可以促进大规模数据集的处理。在本文中，我们找到了一个低秩表示为一个给定的张量通过解决贝叶斯推理问题。这是通过将整个推理问题划分为子问题来实现的，在子问题中，我们一次顺序地推断一个张量分解分量的后验分布。这导致了著名的迭代算法交替线性计划（ALS）的概率解释。以这种方式，能够考虑测量噪声，以及结合特定于应用的先验知识和低秩张量估计的不确定性量化。为了从张量分解分量的后验分布计算低秩张量估计，我们提出了一种以张量训练格式执行无迹变换的算法。
2021-08-09 cs.LG cs.NA math.NA
Low-rank nonnegative tensor approximation via alternating projections and sketching
本文提出结合交替投影、STHOSVD/TTSVD 与随机草图的非负张量低秩逼近方法，在 Tucker 与 tensor train 格式下有效抑制负元素并保持接近初始误差。
2023-04-24 cs.NA math.NA math.OC
CP Decomposition for Tensors via Alternating Least Squares with QR Decomposition
CP张量分解用于机器学习和信号处理等应用中，以发现多维数据中潜在的低秩结构。通过交替最小二乘（ALS）方法计算CP分解将问题简化为几个线性最小二乘问题。解决这些线性最小二乘法子问题的标准方法是使用正规方程，它继承了特殊的张量结构，可以利用计算效率。然而，正规方程是敏感的数值病态，这可以妥协的分解结果。在本文中，我们开发的版本的CP-ALS算法使用QR分解和奇异值分解（SVD），这是更稳定的数值比正规方程，解决线性最小二乘问题。我们的算法有效地利用张量结构的CP-ALS子问题，具有相同的复杂性，标准的CP-ALS算法时，排名是小的，并通过例子，以产生更稳定的结果时，病态的存在。我们的MATLAB实现实现了与小秩标准算法相同的运行时间，并且我们表明，新方法可以获得更低的近似误差，并且可以更可靠地从具有已知地面真值的数据中恢复低秩信号。
2021-12-20 cs.NA math.NA
Accurate principal component analysis via a few iterations of alternating least squares
交替最小二乘的几次迭代与随机的起点证明足以产生几乎最佳的谱和Frobenius范数精度的低秩近似矩阵;迭代收敛是不必要的。因此，实现交替最小二乘的软件可以通过适当的参数设置来改造，以高效地计算接近最优精度的低秩近似，而不需要收敛。
2016-03-05 cs.NA math.NA stat.CO
Alternating Least Squares Tensor Completion in The TT-Format
RWTH Aachen（亚琛工业大学）
本文提出基于TT格式的交替最小二乘法进行张量补全，通过非线性Gauss-Seidel求解器实现低秩张量重构，实验表明该方法在高维和中等秩情况下具有鲁棒性和良好的重建能力。
2015-09-01 cs.NA math.NA
Efficient Alternating Least Squares Algorithms for Low Multilinear Rank Approximation of Tensors
Peking University（北京大学）；Chinese Academy of Sciences（中国科学院）
低多线性秩逼近，也称为截断塔克分解，已广泛应用于许多涉及高阶张量的应用中。目前流行的低秩多线性近似方法通常直接依赖于矩阵奇异值分解，因此经常遭受臭名昭著的中间数据爆炸问题，并且不容易并行化，特别是当输入张量很大时。在本文中，我们提出了一类新的截断HOSVD算法的交替最小二乘（ALS）的基础上有效地计算低多线性秩近似的张量。所提出的基于ALS的方法能够消除中间矩阵的奇异向量的冗余计算，因此没有数据爆炸。此外，新方法更灵活，收敛容差可调，在高性能计算机上本质上是可并行的。理论分析表明，所提算法中的ALS迭代是q-线性收敛的，具有较宽的收敛域。数值实验与大规模张量从合成和现实世界的应用表明，基于ALS的方法可以大大降低原来的总成本，是高度可扩展的并行计算。
2021-04-02 cs.LG cs.NA math.NA
Recover the lost Phasor Measurement Unit Data Using Alternating Direction Multipliers Method
GEIRI North America（GEIRI北美）；North Carolina State University（北卡罗来纳州立大学）；University of Wisconsin-Milwaukee（威斯康星大学密尔沃基分校）
本文提出一种新颖算法，利用PMU数据的低秩特性，基于最大边际矩阵分解提出基于ADMM的高效算法，无需估计秩并提升计算效率，通过IEEE 68节点系统验证了方法的有效性。
2017-11-08 cs.NA math.NA
The Epsilon-Alternating Least Squares for Orthogonal Low-Rank Tensor Approximation and Its Global Convergence
本文提出了一种新的交替最小二乘法（$ε$ -ALS），并分析了高阶张量的典型多元分解（近似），其中一个或多个因子矩阵被假定为列方向正交的。结果表明，该算法全局收敛到一个KKT点的所有张量没有任何假设。对于原ALS，通过进一步研究其极式分解的性质，在一个不强于文献的实际假设下，我们也证明了它的整体收敛。这些结果完全解决了[L. Wang，M. T. Chu和B. Yu，\emph{SIAM J. Matrix Anal. Appl.}，36（2015），pp. 1- 19]。此外，提出了一个初始化过程，它具有一个可证明的下界时，列正交因子的数量是1。数值实验表明，该算法在效率和有效性方面具有良好的性能。
2019-12-05 cs.NA math.NA math.OC
On best rank one approximation of tensors
Univ. of Illinois at Chicago（芝加哥伊利诺伊大学）；TU Berlin（柏林工业大学）；Univ. of Zürich（苏黎世大学）
提出交替奇异值分解算法用于计算张量的最佳秩一逼近，并引入改进确保交替迭代收敛到半极大点。
2013-01-17 cs.NA math.NA math.OC
Guaranteed Non-Orthogonal Tensor Decomposition via Alternating Rank-$1$ Updates
University of California, Irvine（加州大学欧文分校）；Microsoft Research, New England（微软新英格兰研究院）
本文提供了一种保证CP张量分解的局部和全局收敛性，通过交替秩-1更新方法，适用于非对称张量，证明了在特定秩条件下可恢复过完备分解。
2015-03-04 cs.LG cs.NA math.NA
A fast alternating projection method for complex frequency estimation
Lund University（隆德大学）；Universidad de Santiago de Chile（智利圣地亚哥大学）
本文提出一种基于固定秩矩阵与Hankel矩阵交替投影的复指数和逼近方法，证明了收敛性、收敛速率和误差估计，并开发了快速算法，与MUSIC和ESPRIT方法进行了数值比较。
2011-07-08 cs.NA math.NA
A Novel Block-Alternating Iterative Algorithm for Retrieving Top-$k$ Elements from Factorized Tensors
the School of Mathematics and Computational Science, Xiangtan University（湘潭大学数学与计算科学学院）；the Department of Broadband Communications, Pengcheng Laboratory（鹏城实验室宽带通信研究所）
针对低秩张量前k元素检索问题，将其建模为连续约束优化问题，提出块交替迭代算法分解为小规模子问题求解，数值实验证明该算法在准确性和稳定性上优于现有方法。
2025-11-11 cs.NA math.NA
Sketching for low-rank nonnegative matrix approximation: Numerical study
本文提出基于随机草图的近似交替投影方法求解低秩非负矩阵近似问题，分析复杂度并经数值实验证明其比确定性方法更快且收敛性质相近。
2023-04-24 cs.NA math.NA math.OC
On a Problem of Weighted Low-Rank Approximation of Matrices
University of Central Florida（中佛罗里达大学）
本文研究了受约束低秩近似问题启发的加权低秩近似方法，提出基于交替方向法的算法，并与现有方法进行比较。
2017-03-28 cs.NA math.NA math.OC
Asymptotic Log-Det Rank Minimization via (Alternating) Iteratively Reweighted Least Squares
仿射秩最小化（ARM）问题是众所周知的，因为它的应用和事实，它是NP-难的。最成功的方法之一是迭代加权最小二乘（IRLS），更具体地说是$\mathrm{IRLS}$ - $0$。尽管有全面的经验证据表明，它总体上优于核范数最小化和相关方法，但它仍然没有被理解到令人满意的程度。特别地，其中出现的表示为$γ$的正则化参数的缓慢减小的意义提出了有趣的问题。虽然通常等同于基质回收，但我们在此独立考虑ARM。我们研究了$\mathrm{IRLS}$ - $0$所基于的log-det目标函数的渐近最小化背后的特殊结构和整体收敛性。我们扩大了局部收敛定理，现在的重点是$γ$的下降，并提供了代表性的例子，以及反例，如发散$\mathrm{IRLS}$ - $0$序列，澄清理论限制。我们提出了一个数据稀疏，交替实现$\mathrm{AIRLS}$ - $p$（与以前的工作下的名称$\mathrm{SALSA}$），连同其余的这项工作，作为基础和介绍更一般的张量设置。总之，数值灵敏度实验进行，重新确认成功的$\mathrm{IRLS}$ - $0$，并表明，在令人惊讶的许多情况下，一个较慢的衰减$γ$还将导致解决的ARM问题，直到点，可以观察到的确切的理论相变通用可恢复性。同样地，这表明，非凸性对于log-det方法来说比它最初可能出现的要少。
2021-06-28 cs.NA math.NA math.OC
Computing low-rank approximations of large-scale matrices with the Tensor Network randomized SVD
我们提出了一种新的算法，用于计算矩阵乘积算子（MPO）格式（也称为张量训练矩阵格式）中矩阵的奇异值分解（SVD）低秩近似。我们的张量网络随机SVD（TNrSVD）算法是一个MPO实现的随机SVD算法，能够计算占主导地位的奇异值及其相应的奇异向量。与最先进的基于张量的交替最小二乘SVD（ALS-SVD）和改进的交替最小二乘SVD（MALS-SVD）矩阵近似方法相比，TNrSVD可以在达到相同精度的同时快17倍。此外，我们的TNrSVD算法也产生准确的近似在特定情况下，ALS-SVD和MALS-SVD都无法收敛。我们还提出了一种新的算法，用于将稀疏矩阵快速转换为相应的MPO形式，该算法比标准的张量训练SVD（TT-SVD）方法快509倍，同时实现机器精度。数值实验证明了这两种算法的有效性和准确性。
2017-07-25 cs.NA math.NA
Alternating least squares as moving subspace correction
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究所）；ETH Zurich（苏黎世联邦理工学院）；University of Bonn（波恩大学）；Max Planck Institute for Mathematics in the Sciences（马克斯·普朗克科学促进学会数理研究所）
本文重新审视了低秩矩阵和张量交替优化方法的局部收敛性，通过将抽象解释为移动子空间的序列优化，得出了关于经典乘法Schwarz方法的收缩性与低秩矩阵和张量流形曲率之间相互作用的洞察。通过数值实验验证了交替最小二乘法在计算矩形矩阵主导奇异子空间中的渐近收敛速率。
2019-01-11 cs.NA math.NA math.OC
Fast elementwise operations on tensor trains with alternating cross interpolation
Center for Computational Quantum Physics, Flatiron Institute（计算量子物理中心，平顿研究所）
本文提出交替交叉插值算法，实现张量列车元素级运算的O(χ³)复杂度，通过基准测试验证了其在实际应用中常见的张量秩上的显著加速效果。
2026-04-23 cs.NA math.NA physics.comp-ph
Stable ALS Approximation in the TT-Format for Rank-Adaptive Tensor Completion
RWTH Aachen University（亚琛工业大学）
本文研究了在TT-格式下通过稳定ALS近似实现的秩自适应张量补全问题，提出了一种基于奇异值的正则化方法，以提高交替最优化的稳定性，并推导出一种自然的半隐式秩自适应策略。
2019-04-09 cs.NA math.NA
A Note on Alternating Minimization Algorithm for the Matrix Completion Problem
MIT（麻省理工学院）；Los Alamos Research Laboratory（洛斯阿拉莫斯研究实验室）
本文分析了两种交替最小化算法变体在低秩矩阵补全问题中的性能，证明当矩阵秩为1且满足特定条件时，算法能在多项式时间内近似重建矩阵，并通过模拟结果表明第二种基于消息传递更新的算法表现更优。
2016-02-05 cs.LG cs.NA math.NA
Gauss-Southwell type descent methods for low-rank matrix optimization
本文研究低秩矩阵优化的梯度相关方法，作用于单个因子并结合交替与黎曼优化，比较两种Gauss-Southwell型搜索方向，发现基于黎曼梯度的版本鲁棒性更强，并得出交替最小二乘法的新收敛结果。
2025-05-05 cs.NA math.NA math.OC
Accelerated Alternating Projections for Robust Principal Component Analysis
Department of Mathematics, University of California, Los Angeles（加州大学洛杉矶分校数学系）；Department of Mathematics, Hong Kong University of Science and Technology（香港理工大学数学系）；School of Data Science, Fudan University（复旦大学数据科学学院）
本文提出了一种加速交替投影算法，用于鲁棒主成分分析，显著提高了现有交替投影方法在更新低秩因子时的计算效率，并证明了该算法的精确恢复保证和线性收敛性。
2019-02-11 cs.IT cs.LG cs.NA
Tensor Completion by Alternating Minimization under the Tensor Train (TT) Model
Purdue University（普渡大学）；Tufts University（塔夫茨大学）
本文提出一种基于张量列车分解的交替最小化张量补全算法，通过交替优化MPS表示中的矩阵（张量），在计算复杂度和数值性能上优于现有方法。
2016-09-19 cs.IT cs.LG cs.NA
A new Algorithm for Overcomplete Tensor Decomposition based on Sums-of-Squares Optimisation
Universität Konstanz（康斯坦茨大学）
本文提出了一种基于平方和优化的新算法，通过低次约简多项式将高次齐次多项式转化为接近秩1形式的二次形式，从而实现张量分解。
2018-12-13 cs.NA math.AG math.NA
The use of the multi-cumulant tensor analysis for the algorithmic optimisation of investment portfolios
Institute of Theoretical and Applied Informatics, Polish Academy of Sciences（波兰科学院理论与应用物理研究所）
本文提出基于累积量的算法，通过最小化多维随机变量的2-6阶累积量，用于确定低波动性投资组合的特征向量，并在华沙证券交易所危机期间验证了其有效性。
2016-08-25 cs.CE cs.NA math.NA
Coupled Tensor-Matrix Recovery via Proximal Alternating Linearized Minimization, with an Application to Workforce Skill and Small-Business Health Estimation
Pace University（佩斯大学）
研究从稀疏噪声观测中恢复共享一个模式的低秩张量和矩阵，通过近端交替线性化最小化方法，证明相关收敛性并给出样本复杂度结果，进行多实验验证，还应用于劳动力技能和小企业健康估计。
2026-07-14 cs.CY cs.NA math.NA
Kronecker Product Approximation of Operators in Spectral Norm via Alternating SDP
针对线性算子在谱范数下的 Kronecker 积逼近难题，提出基于半定规划的交替优化方法，以获得优于 Frobenius/SVD 解的高质量逼近。
2023-12-07 cs.NA math.AG math.NA
