Unique sparse decomposition of low rank matrices
Rutgers University(罗格斯大学);University of Toronto(多伦多大学)
本文针对低秩矩阵的唯一稀疏分解问题,通过单位球约束的非凸优化方法证明了其可唯一识别,并经数值实验验证了理论结果。
2026-08-25 cs.LG cs.NA eess.SP
Finding tensor decompositions with sparse optimization
本文提出一种基于LASSO稀疏优化的新方法,用于寻找使用更少秩1张量的CP分解,并为4×4行列式张量找到了表示为12个秩1张量之和的新公式。
2023-05-23 cs.NA math.AC math.NA
Solving Stochastic Optimization by Newton-type methods with Dimension-Adaptive Sparse Grid Quadrature
随机最优化问题最小化随机费用函数的期望。我们采用先优化后离散的方法来解决随机优化问题。在我们的方法中,需要精确的求积方法来计算实际上是积分的目标、梯度或Hessian。当问题是高维的时候,我们应用维数自适应的稀疏网格求积来近似这些积分。自适应稀疏网格求积方法在计算光滑被积函数的积分时具有较高的精度和效率。它是经典稀疏网格方法的一种推广,根据其重要性细化不同的维度。我们表明,维数自适应稀疏网格求积有更好的性能,在优化后离散的方法比离散后优化的方法。
2022-02-21 cs.NA math.NA
Distributed-Memory Randomized Algorithms for Sparse Tensor CP Decomposition
本文提出了两种随机CP分解算法(CP-ARLS-LEV和STS-CP)的首个分布式内存实现,通过杠杆得分采样和定制通信调度,在十亿规模张量上实现了比SPLATT快11倍的加速。
2024-04-28 cs.NA math.NA
Fast and Accurate Interpolative Decompositions for General, Sparse, and Structured Tensors
本研究针对两类张量插值分解,提出带与张量规模无关误差界的自适应方法,结合随机草图实现高效精确计算,还为稀疏及CP格式张量设计专用算法,经理论与实验验证有效。
2025-03-24 cs.NA math.NA
Solving Decomposable Sparse Systems
Amendola等人提出了一种用于求解位于一个族中的多项式方程的系统的方法,该方法利用递归分解成更小的系统。一族系统允许这样的分解当且仅当相应的伽罗瓦群是非本原的。当伽罗瓦群是非本原群时,我们考虑计算一个显式分解的问题. Esterov对具有非本原伽罗瓦群的稀疏多项式系统的分类的一个结果是,这种分解是通过检查得到的。这导致了一个递归算法来解决可分解的稀疏系统,我们提出并证明其效率。
2020-11-27 cs.NA math.AG math.NA
Domain Decomposition Parabolic Monge-Ampère Approach for Fast Generation of Adaptive Moving Meshes
提出了一种利用区域分解抛物型Monge-Ampère方法快速生成多维自适应移动网格的方法。这里采用的区域分解过程是非迭代的,并且涉及将计算域分裂成重叠的子域。每个子域上的自适应网格,然后计算的图像的解决方案的$L^2$最佳的质量传递问题,使用抛物Monge-Ampère方法。区域分解方法允许直接实现自适应网格的并行计算,这有助于显着减少计算时间。结果表明,区域分解解的数值收敛性。数值实验证明了该方法的有效性。数值结果表明,在整个区域上,区域分解抛物型Monge-Ampère方法比标准的抛物型Monge-Ampère方法更有效,特别是在计算三维自适应网格时.
2020-06-25 cs.NA math.NA
A Decomposition Algorithm for the Sparse Generalized Eigenvalue Problem
Center for Quantum Computing, Peng Cheng Laboratory(鹏城实验室量子计算中心);Tencent AI Lab(腾讯AI实验室);School of Data and Computer Science, Sun Yat-sen University(中山大学数据与计算机科学学院)
本文提出了一种新的分解算法来解决稀疏广义本征值问题,该问题在统计学习模型中广泛存在,但因其NP难而难以解决。通过随机或交换策略寻找工作集,并在小变量子集上进行全局组合搜索,结合二分搜索和坐标下降方法解决二次分数规划子问题,从而在准确度上显著优于现有方法。
2019-03-02 cs.NA math.NA
Sparse Operator-Adapted Wavelet Decomposition Using Polygonal Elements for Multiscale FEM Problems
本文提出了一种基于多边形元素的稀疏算子适应小波分解方法,用于高效求解多尺度有限元问题。
2025-12-17 cs.NA math.NA physics.comp-ph
A Robust Algebraic Multilevel Domain Decomposition Preconditioner For Sparse Symmetric Positive Definite Matrices
区域分解(DD)方法被广泛用作预处理技术。它们的有效性依赖于局部构造的粗糙空间的选择。到目前为止,这种构造主要是使用来自离散偏微分方程(PDE)的非组装矩阵来实现的。因此,DD方法主要是成功地解决系统源于偏微分方程。本文提出了一种完全代数的多级DD方法,该方法可以在不需要除系数矩阵外的任何信息的情况下局部有效地构造粗空间。预处理矩阵的条件数可以由用户指定的数来限定。数值实验说明了预条件子对不同应用中出现的一系列问题的有效性。
2021-09-13 cs.NA math.NA
Recursive sparse LU decomposition based on nested dissection and low rank approximations
针对线性偏微分方程离散化产生的大型稀疏矩阵,提出基于嵌套剖分和低秩近似的递归稀疏LU分解方法,通过分层稀疏化稠密块并引入混合算法提取低秩结构,实现了复杂度为 $Ø(N)$ 的快速直接求解器。
2024-08-26 cs.NA math.NA
Enhancing adaptive sparse grid approximations and improving refinement strategies using adjoint-based a posteriori error estimates
Sandia National Laboratories(桑迪亚国家实验室)
本文提出一种算法,利用伴随法后验误差估计提升稀疏网格逼近精度,并改进稀疏网格的自适应策略,通过平衡物理离散误差与随机插值误差提高近似准确性。
2014-07-03 cs.NA math.NA
An adaptive high-order piecewise polynomial based sparse grid collocation method with applications
本文在任意阶分段多项式空间上构造了自适应稀疏网格配置法。稀疏网格法是求解高维问题的一种常用方法,相关的配置法在文献中也得到了很好的研究。这项工作的贡献是引入了一个系统的框架,配置到高阶分段多项式空间,允许是不连续的。我们考虑嵌套配置点上的Lagrange和Hermite插值方法。我们的构造包含了广泛的函数空间,包括那些在稀疏网格连续有限元法中使用的。给出了误差估计,并利用函数插值、积分和不确定度量化中的一些基准问题的数值结果对不同配置方案进行了比较。
2019-12-09 cs.NA math.NA
An adaptive finite element/finite difference domain decomposition method for applications in microwave imaging
提出了一种求解导电介质中麦克斯韦方程组的区域分解新方法。利用该方法,提出了利用时变散射电场数据确定介电常数函数的重建算法。所有的重建算法都是基于最优化的方法来找到拉格朗日的稳定点。自适应重建算法和空间网格细化指标。我们的计算测试表明,定性重建介电常数函数使用解剖学上逼真的乳房幻影。
2022-10-26 cs.NA math.NA
Adaptive-Sparse Polynomial Dimensional Decomposition Methods for High-Dimensional Stochastic Computing
College of Engineering, The University of Iowa(爱荷华大学工程学院)
本文提出两种自适应稀疏多项式维度分解方法,用于求解高维不确定性量化问题,通过全局敏感性分析保留重要PDD组件函数,并采用全网格或稀疏网格降维积分或拟蒙特卡洛模拟估计PDD展开系数,方法无需提前设定截断参数,具有更高的效率和精度。
2014-02-13 cs.NA math.NA
Hierarchical sparse-grid particle-in-cell method with locally adaptive mesh refinement
Université de Toulouse(图卢兹大学;法国国家科学研究中心数学研究所);UPS, INSA, UT1, UTM, Institut de Mathématiques de Toulouse, CNRS(法国国家信息与自动化研究所,空客CR&T、Cerfacs与Inria联合团队);Inria, Concace joint team between Airbus CR&T, Cerfacs and Inria
该研究针对分层稀疏网格粒子-in-单元方法提出带能量逼近空间与分层余量策略的局部自适应方案,可在减少网格节点和粒子数量的同时提升局部解逼近精度,为复杂结构等离子体高效模拟提供了可行思路。
2026-08-18 cs.NA math.NA
An adaptive sparse grid local discontinuous Galerkin method for Hamilton-Jacobi equations in high dimensions
我们感兴趣的是数值求解哈密顿-雅可比(HJ)方程,这出现在最优控制和许多其他应用。通常,这样的方程是在高维中提出的,这带来了巨大的数值挑战。提出了一类求解高维Hamilton-Jacobi方程的自适应稀疏网格(也称为自适应多分辨率)局部间断Galerkin(DG)方法。通过使用稀疏网格技术,我们可以处理适度高维的情况。自适应性被纳入捕捉扭结和其他局部结构的解决方案。多尺度小波的多分辨分析主要采用两类多尺度小波,即正交Alpert多尺度小波和插值多尺度小波。在四个维度的数值试验,以验证该方法的性能。
2020-05-29 cs.NA math.NA
Error Estimates for Adaptive Spectral Decompositions
与分段常数函数$u$相关联的自适应谱(AS)分解产生小子空间,其中包括$u$的特征函数被很好地近似。当结合牛顿类最优化方法的逆介质问题的解决方案,AS分解已被证明是非常有效的,在每个非线性迭代提供一个低维的搜索空间。在这里,我们推导出$L^2$ -误差估计的AS分解的$u$,截断后$K$条款,当$u$是分段常数,由$K$特征函数Lipschitz域和背景。我们的估计适用于连续和离散Galerkin有限元设置。数值例子说明了AS分解的媒体,无论是做,或不做,满足理论的假设的准确性。
2022-07-04 cs.NA math.AP math.NA
High Dimensional Uncertainty Quantification for an Electrothermal Field Problem using Stochastic Collocation on Sparse Grids and Tensor Train Decompositions
Technische Universität Darmstadt(达姆施塔特工业大学)
本文研究了集成电路键合线温度的不确定性量化问题,采用随机格子和张量分解方法提高计算效率。
2016-12-09 cs.CE cs.NA math.NA
Christoffel Adaptive Sampling for Sparse Random Feature Expansions
Simon Fraser University(西蒙菲莎大学)
本文提出基于克里斯托费利函数的自适应采样方法,用于提升稀疏随机特征展开在数据稀缺场景下的采样效率和精度。
2026-03-18 cs.NA math.NA
A Parallel Hierarchical Blocked Adaptive Cross Approximation Algorithm
本文提出了一种分层低秩分解算法,假设任何矩阵元素都可以在$O(1)$时间内计算。该算法采用分块自适应交叉近似(BACA)算法计算子矩阵的秩揭示分解,然后通过截断奇异值分解(H-BACA)进行分层合并操作。该算法显着提高了基线ACA算法的收敛性,并实现了降低计算复杂性相比,如秩揭示QR分解的充分分解。数值结果表明了该算法的有效性、准确性和并行效率。
2019-09-05 cs.NA math.NA
Beyond Low Rank + Sparse: Multi-scale Low Rank Matrix Decomposition
本文提出了一种多尺度低秩矩阵分解方法,通过凸优化解决数据矩阵的多尺度分解问题,并在多个应用中验证了其有效性。
2016-08-03 cs.IT cs.NA cs.SY
Robust Tensor CUR Decompositions: Rapid Low-Tucker-Rank Tensor Recovery with Sparse Corruption
University of Central Florida(中佛罗里达大学);University of California Los Angeles(加州大学洛杉矶分校);Michigan State University(密歇根州立大学)
针对张量鲁棒主成分分析问题,提出基于交替投影框架的快速鲁棒张量CUR分解算法,利用张量CUR分解降低计算复杂度,开发四种变体,在合成与真实数据集上验证了其有效性与计算优势。
2023-10-10 cs.LG cs.NA math.NA
Fast discrete convolution in $\mathbb{R}^2$ using Sparse Bessel Decomposition
本文提出一种在二维边界积分方程数值求解中高效计算矩阵向量积的算法,扩展了Alouges等人提出的稀疏正弦分解方法,并通过数值测试展示了其效率。
2017-11-21 cs.NA math.NA
Recovery of Sparse and Low Rank Components of Matrices Using Iterative Method with Adaptive Thresholding
Advanced Communication Research Institute (ACRI), Electrical Engineering Department, Sharif University of Technology(德黑兰理工大学先进通信研究院)
本文提出一种利用自适应阈值迭代方法恢复矩阵稀疏和低秩成分的算法,通过阈值操作获取低秩和稀疏成分,具有高效性和易实现性,并在非稀疏噪声应用中表现出良好的性能。
2017-04-12 cs.NA math.NA stat.ML
Mapping Sparse Triangular Solves to GPUs via Fine-grained Domain Decomposition
本研究通过细粒度域分解将稀疏三角求解映射至GPU,生成非重叠子域以提升并行性,在AMD MI210上实现三角求解10.7倍和BiCGSTAB求解器3.2倍加速。
2025-08-06 cs.NA cs.PF math.NA
A rank-adaptive higher-order orthogonal iteration algorithm for truncated Tucker decomposition
Peking University(北京大学)
提出了一种新的秩自适应高阶正交迭代(HOOI)算法,在给定的误差容限下计算高阶张量的截断Tucker分解,并证明了该算法是局部最优的和单调收敛的.一系列的数值实验进行了相关的合成和现实世界的张量,以表明所提出的秩自适应HOOI算法是在精度和效率方面的优势。对HOOI算法和经典的交替最小二乘法进行了进一步的分析,以进一步理解为什么可以将秩自适应引入HOOI算法以及它是如何工作的。
2021-10-25 cs.LG cs.NA math.NA
Local and Dimension Adaptive Sparse Grid Interpolation and Quadrature
本文提出了一种局部和维数自适应的稀疏网格方法,用于高维间断函数的插值和积分。该算法结合了广义稀疏网格算法和层次剩余引导局部自适应的优势。一个高度的基础是用来获得一个高阶的方法,给予足够的光滑度,执行显着优于分段线性基础。底层的广义稀疏网格算法greetly选择的维度和变量的相互作用,最有助于一个功能的可变性。稀疏网格内的分层盈余点被用作局部细化的误差标准,其目的是将计算工作集中在快速变化或不连续的区域内。这种方法限制了在高维域中投资于“不重要”维度和区域的点的数量。我们展示了所提出的方法的实用性与数百个变量的非光滑函数。
2011-09-30 cs.DS cs.NA math.NA
QRkit: Sparse, Composable QR Decompositions for Efficient and Stable Solutions to Problems in Computer Vision
USI Lugano(卢加诺大学);Microsoft HoloLens(微软全息眼镜)
QRkit通过高效计算稀疏矩阵的QR分解,解决计算机视觉中单精度下精度丢失问题,适用于块对角、水平垂直拼接和带状等常见稀疏结构。
2018-02-11 cs.MS cs.NA math.NA
Adaptive sparse grid discontinuous Galerkin method: review and software implementation
综述了求解高维偏微分方程的自适应稀疏网格间断Galerkin(aSG-DG)方法及其软件实现。名为AdaM-DG的C \texttt{++}软件包实现了aSG-DG方法,可在Github上的\url{https://github.com/JuntaoHuang/adaptive-multiresolution-DG}上获得。该软件包是能够处理一类大的高维线性和非线性偏微分方程。我们回顾了该算法的基本组成部分和软件的功能,包括所使用的多小波,组装的双线性算子,快速矩阵向量积的数据与层次结构。我们进一步证明了包的性能报告的数值误差和CPU成本的几个基准测试,包括线性输运方程,波动方程和Hamilton-Jacobi方程。
2022-11-03 cs.NA math.NA physics.comp-ph
Multilevel adaptive sparse Leja approximations for Bayesian inverse problems
确定性插值和求积方法往往不适合解决贝叶斯逆问题,这取决于计算昂贵的正演数学模型。虽然插值可以给出精确的后验近似,但确定性求积通常无法有效地调查信息量,从而集中可能性。这导致了大量的数学模型所需的昂贵的评估。为了克服这些挑战,我们制定和测试多级自适应稀疏Leja算法。在每一层,自适应稀疏网格插值和正交分别用于近似后验和执行所有的正交操作。具体来说,我们的算法使用粗糙的离散化的基本数学模型,调查的参数空间,并确定高后验概率的地区。然后使用自适应稀疏网格算法将点放置在这些区域中,并忽略后验概率小的其他区域。这些点是加权Leja点。由于模型离散化是粗略的,稀疏网格的构造是计算高效的。在这个稀疏的网格上,后验测度可以精确地近似,只需很少的昂贵的精细模型离散化。该算法的效率可以进一步提高,通过利用两个以上的离散化水平。我们提出的多级自适应稀疏Leja算法在数值实验中涉及椭圆反问题的二维和三维空间,在其中我们比较它与马尔可夫链蒙特卡罗采样和标准的多级近似。
2019-05-07 cs.NA math.NA stat.CO
Parameter Sensitivity Analysis of the SparTen High Performance Sparse Tensor Decomposition Software: Extended Analysis
张量分解模型在现代数据科学应用中发挥着越来越重要的作用。特别感兴趣的一个问题是拟合低秩正则多矢(CP)张量分解模型时,张量具有稀疏结构和张量元素是非负计数数据。Sparten是一个高性能的C++库,它使用不同的求解器计算低秩分解:一阶拟牛顿或二阶阻尼牛顿方法,以及适当的运行时参数选择。由于Sparten中的默认参数是根据先前发表的使用MATLAB实现这些方法的单个真实数据集的实验结果进行调整的,因此目前尚不清楚Sparten中的参数默认值是否适用于一般张量数据。此外,算法收敛对输入参数值的变化有多敏感是未知的。本报告通过对三个基准张量数据集进行大规模实验来解决这些未解决的问题。在几种不同的CPU架构上进行了实验,并复制了许多初态,以建立算法收敛行为的广义轮廓。
2020-12-02 cs.MS cs.NA cs.PF
High Dimensional Low Rank plus Sparse Matrix Decomposition
University of Central Florida(中佛罗里达大学)
本文提出一种可扩展的子空间追猎方法,将矩阵分解问题转化为子空间学习问题,通过小数据草稿实现分解,适应性采样算法提升了处理结构化数据的效率。
2017-03-16 cs.DS cs.LG cs.NA