Preconditioning a Fluid--Structure Interaction Problem Using Monolithic and Block Domain Decomposition Methods for the Fluid
University of Cologne（科隆大学）
本文提出了一种基于单体和块域分解方法的预条件技术，用于提高流体-结构相互作用问题的求解效率，通过对比单体和SIMPLE预条件器的性能，验证了单体预条件器在处理患者特异性动脉问题中的优越性。
2025-12-01 cs.NA math.NA
Multidirectionnal sweeping preconditioners with non-overlapping checkerboard domain decomposition for Helmholtz problems
本文研究了一类计算域为非重叠棋盘格划分的Helmholtz问题的广义扫描预条件子。区域分解过程依赖于高阶传输条件和交叉点处理，当子域的数量增加时，如果没有有效的预处理技术，则无法缩放。与所提出的方法，现有的扫描预条件，如对称高斯-赛德尔和并行双扫描预条件，可以应用到棋盘分区与不同的扫描方向（例如，水平和对角线）。由于GMRES的灵活版本，可以组合多个方向，从而允许在计算域的不同区域中快速传输信息，然后加速最终迭代求解过程的收敛。几个二维有限元结果提出了研究和比较扫描预条件，并说明性能的情况下，复杂性增加。
2021-12-28 cs.NA math.NA
Accelerating the iterative solution of convection-diffusion problems using singular value decomposition
SISSA — International School for Advanced Studies（国际高等研究院）
本文提出基于奇异值分解的回收策略，用于加速迭代求解对流-扩散问题，通过经典和新类型的增广与消去方法提升收敛速度。
2018-07-25 cs.NA math.NA
On calculation of canonical decomposition of Tensor via the grid of local discrepancies
本文提出一种基于局部差异网格的高阶张量规范分解近似计算方法，通过局部泛函驻点集确定全局泛函最小值，结合牛顿法与蒙特卡洛方法高效估计分解核，数值测试验证了其有效性。
2025-05-02 cs.NA math.NA
Domain Decomposition preconditioning for high-frequency Helmholtz problems with absorption
University of Bath（巴斯大学）；University of Tartu（塔尔图大学）
本文研究了高频亥姆霍兹问题的域分解预条件技术，提出新的理论分析，证明了吸收参数对预条件矩阵收敛率的影响，并通过数值实验验证了理论结果。
2016-03-25 cs.NA math.NA
Canonical Polyadic Decomposition via the generalized Schur decomposition
典型多进分解（CPD）是一种基本张量分解，它将张量表示为秩为1的张量之和。与矩阵情况形成鲜明对比的是，在轻假设下，低秩张量的CPD（本质上）是唯一的。CPD的本质独特性使得这种分解在许多应用中成为一种强大的工具，因为它允许从感兴趣的信号中提取分量信息。一种常用的CPD的代数计算算法是广义本征值分解（GEVD），其选择张量的矩阵子束，然后计算束的广义本征向量。在这篇文章中，我们提出了一个简化的GEVD，提高了算法的精度。令人惊讶的是，在GEVD中的广义特征向量计算实际上是不必要的，并且可以由QZ分解代替，QZ分解将一对矩阵分解为酉矩阵和上三角形矩阵的乘积。在计算广义特征向量时，计算QZ分解是标准的第一步，因此我们的算法可以被看作是GEVD的直接简化。
2022-02-23 cs.NA math.NA
A Fast Implementation for the Canonical Polyadic Decomposition
提出了一种新的典型多元分解（CPD）的实现方法。它的特点是比现有的最先进的实现方式更低的计算复杂性和内存使用。张量的CPD是一个具有挑战性的问题，已经以多种方式处理。交替最小二乘算法被使用了很长一段时间，但它们的收敛性能是有限的。非线性最小二乘（NLS）算法-更准确地说，阻尼高斯-牛顿（dGN）算法-在这个意义上要好得多，但它们需要反演大海森，因此只有少数实现使用这种方法。在本文中，我们提出了一个快速的dGN实现计算CPD。在本文中，我们总是压缩张量的情况下，并提出了一个快速阻尼高斯-牛顿实现计算规范的polyadic分解。
2019-12-05 cs.NA math.NA
An adaptive algebraic multigrid algorithm for low-rank canonical tensor decomposition
University of Waterloo（滑铁卢大学）
针对低秩R的规范张量分解，提出一种基于自适应代数多重网格和交替最小二乘的多重网格算法，在要求高精度时显著优于单独使用ALS。
2011-11-25 cs.NA math.NA
Analysis and Approximation of the Canonical Polyadic Tensor Decomposition
Industrial Mathematics Institute, Johannes Kepler Universitat Linz（工业数学研究所，约翰内斯·开普勒林茨大学）；Department of Mathematics, Clarkson University（应用数学系，克拉克森大学）
本文通过消除一个因子矩阵得到简化泛函，将其重新表述为投影框架和瑞利商，分析了最小二乘泛函，给出了极小值存在的新充分条件、秩一情形下临界点的存在性、“淹没”现象的解释以及可计算的界，并提出了质心投影算法用于计算次优解，作为迭代CP算法的初始猜测，显著加速了分解过程。
2011-09-18 cs.NA math.NA
A recursive eigenspace computation for the Canonical Polyadic decomposition
典型多进分解（CPD）是一种紧分解，它将张量表示为其秩为1的分量之和。计算CPD的一个常见步骤是计算张量的广义特征值分解（GEVD）。GEVD提供CPD的代数近似，然后可以用作优化例程中的初始化。虽然在无噪声设置中GEVD精确地恢复CPD，但最近已经表明，诸如GEVD的基于卷积的计算是不稳定的。在这篇文章中，我们提出了一个代数方法的CPD的近似，大大提高了GEVD的精度。我们的方法基本上仍然是基于粒子束的;然而，我们不是使用单个粒子束并计算其所有的广义本征向量，而是使用许多不同的粒子束，并在每个粒子束中计算对应于充分分离的广义本征值的广义本征空间。由此产生的"广义特征空间分解"是显着更强大的噪声比经典的GEVD。广义特征空间分解的准确性的经验和理论研究。特别是，我们提供了一个确定性的扰动理论界，这是预测的错误计算因式分解。
2021-12-15 cs.NA math.NA
Nonnegative Canonical Tensor Decomposition with Linear Constraints: nnCANDELINC
人们对大数据分析和机器学习中的张量因式分解应用产生了浓厚的兴趣。为了加速以多维数组（又名张量）组织的超大数据集的因式分解，使用易于计算的基于压缩的张量表示，例如Tucker和Tensor训练格式来近似初始大张量。此外，张量因子分解用于提取潜在特征，这些特征可以促进发现隐藏在数据中的新机制和签名，其中潜在特征的可解释性至关重要。非负张量因子分解提取自然稀疏的潜在特征和数据的一部分，这使得它们易于解释。然而，考虑到现有的领域知识和主题的专业知识，额外的约束往往需要施加，这导致我们的典型分解与线性约束（CANDELINC），一个典型的多元分解秩亏的因素。在CANDELINC中，Tucker压缩被用作预处理步骤，这导致更大的残差，但更可解释的潜在特征。在这里，我们提出了一个非负CANDELINC（nnCANDELINC）通过一个特定的非负塔克分解完成;我们称为最小或规范的非负塔克。我们得到了几个结果需要了解nnCANDELINC的特异性，专注于保持其塔克核心的非负秩的困难和比较的真实值的非负的情况下。最后，我们展示了nnCANDELINC在合成和真实世界的例子中的性能。
2022-03-21 cs.NA math.NA
A numerical method for computing the Jordan Canonical Form
矩阵的若尔当典范形对扰动高度敏感，其数值计算仍然是一个艰巨的挑战。本文提出了一个正则化理论，建立了一个适定的最小二乘问题，找到最近的楼梯分解的最高余维的矩阵束。提出了一种计算数值若尔当典范形的两阶段算法。在第一阶段，该方法计算矩阵的Jordan结构和多重特征值的初始近似。然后在第二阶段通过迭代算法构造阶梯分解。因此，即使底层矩阵受到扰动，也可以高精度地计算数值Jordan正则分解和多重特征值。
2021-03-02 cs.NA math.NA
Adaptive domain decomposition method for time-dependent problems with applications in fluid dynamics
Charles University, Faculty of Mathematics and Physics（查理大学数学物理学院）；Institute of Mathematics of the Czech Academy of Sciences（捷克科学院数学研究所）
本文提出了一种自适应域分解方法，通过优化子域数量和粗网格元素数量来最小化计算成本，用于解决时间依赖问题的高效数值解法。
2026-01-28 cs.NA math.NA
A rapidly converging domain decomposition method for the Helmholtz equation
University of Amsterdam（阿姆斯特丹大学）
针对异质二维和三维Helmholtz方程，提出一种基于完美匹配层传输条件的新区域分解方法，通过薄子域划分和GMRES外迭代实现与问题规模和子域数量无关的极小迭代次数，从而获得近线性计算成本。
2013-01-30 cs.NA math.NA physics.comp-ph
Tensor Networks for Latent Variable Analysis: Higher Order Canonical Polyadic Decomposition
Skolkovo Institute of Science and Technology (Skoltech)（斯科尔科沃科学技术学院）；Imperial College（帝国理工学院）
本文提出一种基于张量网络的高阶CPD方法，通过低复杂度迭代算法解决高阶张量分解的计算成本和排列问题。
2018-09-03 cs.NA math.NA
Synchronous and Asynchronous Parallelism Approaches for Generalized Canonical Polyadic Tensor Decomposition with GenTen
Sandia National Laboratories（桑迪亚国家实验室）
本文提出同步和异步并行方法用于广义规范张量分解，通过GenTen软件包利用共享和分布式内存并行性，结合Kokkos和MPI实现高效的并行GCP分解，同时提出异步分布式并行方法以提高大规模数据集的可扩展性。
2026-05-19 cs.NA math.NA
Optimization via Separated Representations and the Canonical Tensor Decomposition
University of Colorado at Boulder（科罗拉多大学博尔德分校）
本文提出一种二次收敛算法，用于在规范格式中寻找张量的最大绝对值元素，通过该算法可全局求解分离形式的非凸多变量函数最大值。
2016-05-19 cs.NA math.NA math.OC
A pure source transfer domain decomposition method for Helmholtz equations in unbounded domain
提出了一种求解亥姆霍兹散射问题的有界区域截断完美匹配层（PML）近似的纯源转移区域分解方法（PSTDDM）。该方法是对[Z.陈和X。Xiang，SIAM J. Numer.肛门，51（2013），pp. 2331- 2356]。STDDM将区域分解为$N$非重叠层后，由源传递和波展开两个步骤串联而成，依次求解相邻层上的$N-1$截断PML问题和$N-2$截断半空间PML问题。而PSTDDM仅由两个相反方向上的两个并行源传输步骤组成，并且在每个步骤中连续解决两个相邻层上的截断PML问题$N-1$。这样的修改的一个好处是，在两个相邻层上的截断PML问题可以通过PSTDDM沿着平行于层的方向进一步解决。因此，我们得到了一个分块PSTDDM上的分解组成的$N^2$平方，这减少了子域问题的大小，更适合于大规模的问题。在波数为常数的情况下，证明了逐层PSTDDM和逐块PSTDDM的收敛性。数值算例表明，PSTDDM对常波数的离散Helmholtz方程有很好的逼近，可以作为预处理GMRES方法中的一个有效的预处理子用于求解常波数和非均匀波数的离散Helmholtz方程.
2019-07-05 cs.NA math.NA
A Function-Space Framework for BDDC Preconditioning in Control- and State-Constrained Sparse Optimal Control
George Mason University（乔治梅森大学）；Louisiana State University（路易斯安那州立大学）
本文提出一种针对控制与状态约束稀疏最优控制的BDDC预条件子，在无限维层面构造，通过两级加性Schwarz实现，数值实验表明其迭代次数对网格细化近乎无关，且富化粗空间可提升收敛性。
2026-09-10 cs.NA math.NA math.OC
Overlapping Schwarz Preconditioners for Randomized Neural Networks with Domain Decomposition
本文将随机神经网络与重叠Schwarz区域分解结合，通过局部化基函数构造最小二乘问题并施加边界条件，利用PCA降维并构造加性及限制加性Schwarz预条件子，显著提升了多尺度和时间依赖问题的求解效率。
2024-12-26 cs.NA math.NA
Generalized Canonical Polyadic Tensor Decomposition
Sandia National Laboratories（桑迪亚国家实验室）；University of Michigan（密歇根大学）
本文提出了一种广义规范张量分解（GCP），能够使用除均方误差外的其他损失函数，如逻辑损失或KL散度，从而适用于二分类或计数数据，并展示了其在社交网络互动、小鼠神经活动和印度月降雨量等真实数据集上的灵活性。
2019-01-22 cs.LG cs.NA math.NA
Accelerating jackknife resampling for the Canonical Polyadic Decomposition
正则多矢（CP）张量分解经常被用作各种不同领域应用的模型。使用刀切响应估计参数的不确定性往往是可取的，但在已经很高的计算成本的增加的结果。经过观察，重采样张量，虽然不同，几乎是相同的，我们表明，它是可能的，以延长最近提出的并发ALS（CALS）技术的刀切rescue的情况。这种扩展提供了访问CALS的计算效率优势的价格在浮点运算的数量适度增加（通常是百分之几）。在合成数据集和真实数据集上的数值实验表明，基于CALS扩展的新工作流可以比单独处理折刀子模型的简单工作流快几倍。
2021-12-07 cs.MS cs.NA math.NA
Nonlinearly Preconditioned L-BFGS as an Acceleration Mechanism for Alternating Least Squares, with Application to Tensor Decomposition
School of Mathematical Sciences, Monash University（蒙纳士大学理学院）；Department of Applied Mathematics, University of Waterloo（滑铁卢大学应用数学系）
本文提出基于L-BFGS更新公式非线性加速方法，用于加速交替最小二乘法在张量分解中的应用，通过非线性预条件化提升优化效率与鲁棒性。
2018-06-27 cs.NA math.NA math.OC
Iterative frequency-domain seismic wave solvers based on multi-level domain-decomposition preconditioners
频域全波形反演（FWI）适用于长偏移距的固定记录采集，因为可靠的地下模型可以用几个频率重建，衰减很容易实现，而无需计算开销。在频域中，波浪建模是亥姆霍兹型边界值问题，其需要求解具有多个右侧（源）的每个频率的大型稀疏线性方程组。该系统可以用直接法或迭代法求解。虽然前者适用于覆盖中等大小空间域的3D密集OBC采集的FWI应用，但后者应是覆盖大域（超过5000万个未知数）的稀疏节点采集的首选方法。然而，由于亥姆霍兹算子的不确定性，亥姆霍兹问题的迭代求解器的快速收敛仍然具有挑战性，因此需要有效的预条件。在这项研究中，我们使用的Krylov子空间GMRES迭代求解器结合多级域分解预条件。离散化依赖于非结构化四面体网格上的连续有限元，以符合复杂的几何形状，并使元素的大小适应局部波长（$h$ -自适应性）。我们评估的收敛性和可扩展性，我们的方法与声学三维SEG/EAGE逆掩模型的频率高达20 Hz，并讨论其效率的多右手边处理。
2020-04-14 cs.NA math.NA physics.comp-ph
A scalable multilevel domain decomposition preconditioner with a subspace-based coarsening algorithm for the neutron transport calculations
多群中子输运方程已被广泛用于研究核反应堆中中子与本底物质的相互作用。使用现代超级计算机对多群中子输运方程进行高分辨率模拟需要发展可扩展的并行求解技术。本文研究了一种求解多群中子输运方程离散化所产生的代数系统的可缩放输运方法。建议的运输方法包括一个完全耦合的牛顿求解器的广义本征值问题和GMRES连同一个新的多级区域分解预处理的雅可比系统。多级预处理器已成功地用于许多问题，但某些问题，特别是非结构化网格问题的粗糙空间的构建是昂贵的，往往是不可扩展的。我们引入了一个新的基于子空间的粗化算法来解决这个问题，探索在中子输运问题的离散化版本的矩阵的结构。我们数值证明，所提出的传输方法是高度可扩展的，具有超过10，000个处理器内核的3D C5G7基准问题的非结构化网格与数十亿个未知数。与传统的多级区域分解方法相比，该方法采用了基于子空间的粗化算法，在粗空间的构造上速度更快。
2019-06-18 cs.DC cs.NA math.NA
Unitary canonical forms over Clifford algebras, and an observed unification of some real-matrix decompositions
我们表明，谱定理-我们理解为一个声明，每个自伴随矩阵承认某种类型的标准型下酉相似-承认类似物超过其他$*$ -代数不同的复数。如果这些$*$ -代数包含幂零，那么它表明，有一个一致的方式，其中许多经典的矩阵分解-如奇异值分解，高木分解，斜高木分解，和若尔当分解，等等-是这些的直接后果。如果产生自伴随矩阵的相关标准形是某个编程语言中的子例程，则相应的经典矩阵分解将是没有附加步骤的单行调用。我们还建议，通过在编程语言中使用运算符重载，计算一个复杂的自伴随矩阵的酉对角化的数值算法将立即推广到解决像SVD或Takagi这样的问题。虽然没有幂零元的代数（如四元数）允许类似的统一行为，但它们统一的经典矩阵分解从未如此容易获得。在这个过程中，我们发展了Clifford代数上的一些谱理论，形式为$\cl_{p,q,0}(\mathbb R)$和$\cl_{p,q,1}(\mathbb R)$，其中前者是公认的相当容易。我们提出了一个关于谱定理的广义猜想。
2023-01-24 cs.NA cs.SC math.NA
Streaming Generalized Canonical Polyadic Tensor Decompositions
Sandia National Laboratories（桑迪亚国家实验室）
在本文中，我们开发了一种方法，我们称之为OnlineGCP计算流数据的广义正则多矢（GCP）张量分解。GCP不同于传统的规范多元（CP）张量分解，因为它允许CP模型试图最小化的任意目标函数。当观测到的张量数据是强非高斯的时，这种方法可以提供更好的拟合和更可解释的模型。在流式传输的情况下，张量数据随着时间的推移逐渐被观察到，并且算法必须在有限访问先前数据的情况下递增地更新GCP因式分解。在这项工作中，我们通过导出要在观察新的张量数据时解决的GCP最优化问题来将GCP形式主义扩展到流上下文，制定可调历史项以平衡最近观察到的数据与过去观察到的数据的重建，开发基于使用随机梯度下降法的隔离求解的可扩展求解策略，描述了一种软件实现，该软件实现为当代CPU和GPU架构提供性能和可移植性，并与Matlab集成以增强可用性，并在几个合成和真实张量数据集上演示了该方法和软件的实用性和性能。
2021-10-27 cs.LG cs.MS cs.NA
Randomized Alternating Least Squares for Canonical Tensor Decompositions: Application to a PDE with Random Data
University of Colorado at Boulder（科罗拉多大学博尔德分校）
本文提出了一种随机化交替最小二乘法用于张量格式的秩缩减，以解决交替最小二乘法迭代中最小二乘矩阵可能的数值病态问题，通过随机张量投影降低条件数，并在三个例子中验证了算法性能。
2015-10-05 cs.NA math.NA math.PR
Backward Stability of the Schur Canonical Form
在本文中，我们证明了小扰动下的Schur分解的向后稳定性。
2021-10-28 cs.NA math.CA math.NA
Generalized Canonical Polyadic Tensor Decompositions with General Symmetry
Department of Electrical and Computer Engineering, University of Delaware（电气与计算机工程系，德雷克塞尔大学）
本文提出SymGCP分解，通过引入对称性约束提升张量分解在处理对称数据时的性能，适用于二值和计数数据以及异常值鲁棒性提升。
2026-01-08 cs.LG cs.NA math.NA
Concurrent Alternating Least Squares for multiple simultaneous Canonical Polyadic Decompositions
RWTH Aachen University（亚琛工业大学）；Umeå Universitet（于默奥大学）；University of Copenhagen（哥本哈根大学）
张量分解，如CANDECOMP/PARAFAC（CP），广泛用于各种应用，如化学计量学，信号处理和机器学习。用于计算这种分解的广泛使用的方法依赖于交替最小二乘（ALS）算法。当组件数量较少时，无论其实现如何，ALS都表现出较低的运算强度，这严重阻碍了其性能，并使GPU卸载无效。我们观察到，在实践中，专家经常需要计算同一张量的多个分解，每个分解都有少量的分量（通常少于20个），最终找到最适合手头应用的分解。在本文中，我们说明了如何在算法层面上将同一张量的多个分解融合在一起，以增加运算强度。因此，可以有效地利用GPU来进一步加速;同时，该技术与ALS中通常使用的许多增强功能兼容，例如线搜索，外推和非负约束。我们介绍了并发ALS算法和库，它提供了一个接口到Matlab，和一个机制，以有效地处理在不同的时间分解完成的问题。人工和真实数据集上的实验结果表明，由于增加了算法强度，完成的时间更短。
2021-09-08 cs.LG cs.MS cs.NA
