On matrix balancing and eigenvector computation
Colorado College(科罗拉多学院);University of Colorado Denver(科罗拉多大学丹佛分校)
本文提出改进LAPACK平衡算法的停止准则,以提高矩阵平衡的准确性,从而提升特征值计算的精度和稳定性。
2014-01-22 cs.NA math.NA
In-memory eigenvector computation in time O(1)
利用交叉点电阻存储器阵列的存内计算在以数据为中心的应用的计算中加速矩阵向量乘法已经获得了极大的关注。通过组合交叉点阵列和反馈放大器,可以在一个步骤中计算矩阵特征向量,而无需算法迭代。在这项工作中,时间复杂度的特征向量计算的基础上,交叉点电路的反馈分析。结果表明,电路的计算时间取决于电路中实现的特征值的失配程度,从而控制输出电压的上升速度。对于随机矩阵的数据集,计算电路中的主特征向量的时间对于各种矩阵大小是恒定的,即时间复杂度是O(1)。O(1)的时间复杂度也得到了现实世界数据集PageRank模拟的支持。这项工作为在广泛的实际应用中进行特征向量计算的快速,节能的加速器铺平了道路。
2020-05-09 cs.CC cs.ET cs.NA
Efficient coordinate-wise leading eigenvector computation
University of Chicago(芝加哥大学)
本文提出并分析了高效的坐标-wise 方法来寻找主特征向量,每一步仅涉及向量-向量乘积。方法在全局收敛性和运行时间上不低于Lanczos方法,并在谱衰减较慢时表现更优。
2017-02-25 cs.LG cs.NA math.NA
Theoretical results for eigenvalues, singular values, and eigenvectors of (flipped) Toeplitz matrices and related computational proposals
在最近的一系列论文中,从谱分布的意义上研究了矩阵序列$\{Y_nT_n(f)\}$的谱行为,其中$Y_n$是主反对角矩阵(或翻转矩阵),$T_n(f)$是由函数$f$生成的Toeplitz矩阵,其中$f$是勒贝格可积的且具有实傅里叶系数。这种研究也是出于计算的目的,使用(预处理)MINRES算法的相关大型线性系的解决方案。在这里,我们补充了谱研究,得到了更多的结果,这些结果在渐近和固定维数$n$上都成立,并且关于$T_n(f), Y_nT_n(f)$的特征值、奇异值和特征向量以及它们之间的几种关系:除了快速线性解算器之外,另一个目标是设计用于经由无矩阵算法计算相关光谱的特别过程,成本在计算的本征值的数量上是线性的。我们强调,非单调生成函数的情况下的挑战被认为是在目前的工作中,以前的无矩阵算法失败。数值实验的报告和评论,以显示在一个可视化的方式的理论分析的目的。
2022-07-18 cs.NA math.NA
Fast Algorithms for Computing Eigenvectors of Matrices via Pseudo Annihilating Polynomials
Niigata University(新潟大学);Kanazawa University(金泽大学);University of Tsukuba(筑波大学)
本文提出了一种高效计算整数矩阵特征向量的算法,通过利用最小消 annihilating 多项式减少冗余计算,并通过伪消 annihilating 多项式生成候选特征向量并验证其正确性,实验结果表明该算法性能优于传统方法。
2019-02-17 cs.NA cs.SC math.NA
A new method for the computation of eigenvalues
本文用一种类似于Jacobi方法的新的数值方法求实对称矩阵的特征值和特征向量。我们的方法包括使用一个新的正交矩阵。在正交矩阵所用函数的意义下,与Jacobi方法相比,该方法计算特征值和特征向量更为简便。
2020-03-27 cs.NA math.NA
Fast and backward stable computation of the eigenvalues and eigenvectors of matrix polynomials
Instituto de Ciencias Matemáticas, Universidad Autónoma de Madrid(马德里自治大学数学科学研究所);Nazarbayev University(纳扎尔巴耶夫大学);ISTI, Area della ricerca CNR(意大利国家研究委员会ISTI研究所);KU Leuven(荷语鲁汶大学);Washington State University(华盛顿州立大学)
本文提出了一种新的方法,通过改进的QR算法计算伴随伴矩阵的分块Schur形式,实现特征值和特征向量的高效稳定计算。
2017-06-16 cs.NA math.NA
Parallel Robust Computation of Generalized Eigenvectors of Matrix Pencils
本文考虑实Schur型矩阵束的广义特征向量的计算问题。在精确算术中,这个问题可以通过代入来解决。在实践中,替换很容易发生浮点溢出。LAPACK中的鲁棒求解器xTGEVC通过动态缩放特征向量来防止溢出。这些子程序是顺序标量代码,逐个计算特征向量。在本文中,我们讨论如何获得强大的分块算法。新的StarNEig库包含一个强大的任务并行求解器Zazamoukh,它运行在StarPU之上。我们的数值实验表明,Zazamoukh实现了超线性加速比DTGEVC足够大的矩阵。
2020-03-10 cs.DC cs.MS cs.NA
A note on eigenvector error bounds for polynomial eigenvalue problems
University of Montana(蒙大拿大学)
本文基于线性化方法,提出多项式特征值问题特征向量的误差界,通过两种性质保证线性化后的特征向量可准确恢复,并通过数值例子验证理论。
2018-08-14 cs.NA math.NA
Forward Error-Oriented Iterative Refinement for Eigenvectors of a Real Symmetric Matrix
Waseda University(早稻田大学);Shibaura Institute of Technology(芝浦工业大学)
本文提出了一种实对称矩阵特征向量计算方法,通过前向误差导向的迭代细化和Ozaki方案实现高精度与低计算成本的平衡。
2026-02-22 cs.NA math.NA
Constructing an orthonormal set of eigenvectors for DFT matrix using Gramians and determinants
本文基于Matveev的方法,修正了其中的错误并提供更一致的符号,比较了其与传统Gram-Schmidt方法的计算复杂度,并给出了Mathematica模块的实现。
2017-12-12 cs.NA math.NA
Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector Problems
University of Washington(华盛顿大学)
在计算科学和工程中的许多问题都需要对高维系统的稀疏特征向量进行估计。在这里,我们提出了两个变种的截断正交迭代计算多个领先的特征向量的稀疏约束同时。我们建立了数值收敛的结果,所提出的算法使用扰动框架,并扩展我们的分析,以其他现有的替代稀疏特征向量估计。然后,我们应用我们的算法来解决广泛的测试数据集的稀疏主成分分析问题,从简单的模拟到真实世界的数据集,包括MNIST,海面温度和20个新闻组。在所有这些情况下,我们表明,新的方法得到最先进的结果,快速和最小的参数调整。
2021-03-24 cs.LG cs.NA math.NA
Phase Retrieval from Local Measurements: Improved Robustness via Eigenvector-Based Angular Synchronization
Michigan State University(密歇根州立大学);University of California San Diego(加利福尼亚大学圣迭戈分校)
本文改进了利用相关性测量的相位恢复方法,通过确定性测量构造和鲁棒快速恢复算法提升鲁棒性,理论误差保证和数值实验均优于现有方法。
2016-12-06 cs.NA math.NA
Exact Eigenvalues and Eigenvectors for Some n-Dimensional Matrices
本文为更广泛的$n$维非对称和非persymmetric矩阵推导了精确特征值与特征向量,扩展了解析方法,提升了物理与工程模拟的计算精度和效率。
2024-11-12 cs.NA math.NA math.SP
An iterative Jacobi-like algorithm to compute a few sparse approximate eigenvectors
本文提出一种扩展自Jacobi方法的迭代算法,用于计算对称矩阵的少数极值特征对及其稀疏近似,在稀疏性与精度间实现权衡,并证明了其线性收敛性及在图傅里叶变换和图像分类中的有效性。
2025-09-14 cs.NA eess.SP math.NA
Canonical Polyadic Decomposition via the generalized Schur decomposition
典型多进分解(CPD)是一种基本张量分解,它将张量表示为秩为1的张量之和。与矩阵情况形成鲜明对比的是,在轻假设下,低秩张量的CPD(本质上)是唯一的。CPD的本质独特性使得这种分解在许多应用中成为一种强大的工具,因为它允许从感兴趣的信号中提取分量信息。一种常用的CPD的代数计算算法是广义本征值分解(GEVD),其选择张量的矩阵子束,然后计算束的广义本征向量。在这篇文章中,我们提出了一个简化的GEVD,提高了算法的精度。令人惊讶的是,在GEVD中的广义特征向量计算实际上是不必要的,并且可以由QZ分解代替,QZ分解将一对矩阵分解为酉矩阵和上三角形矩阵的乘积。在计算广义特征向量时,计算QZ分解是标准的第一步,因此我们的算法可以被看作是GEVD的直接简化。
2022-02-23 cs.NA math.NA
An Iterative Method with Asymptotic Orthogonality for Simultaneous Eigenpair Computation
State Key Laboratory of Mathematical Sciences (SKLMS), Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院数学科学国家重点实验室);School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学科学学院)
本文提出一种无需显式正交化的准正交迭代法,用于解决大规模特征值问题,具有高精度正交性保持和强鲁棒性。
2026-09-04 cs.NA math.NA
Faster Eigenvector Computation via Shift-and-Invert Preconditioning
Toyota Technological Institute at Chicago(芝加哥丰田技术研究院);Princeton University(普林斯顿大学);UC Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学);MIT(麻省理工学院);Microsoft Research, New England(新英格兰微软研究院)
本文提出更快的算法和改进的样本复杂度,用于估计矩阵Σ的顶部特征向量,通过分离gap依赖性和非零元素数量,改进了经典幂方法和Lanczos方法,并在在线估计中利用方差降低样本复杂度。
2016-05-26 cs.DS cs.LG cs.NA
Robust Shift-and-Invert Preconditioning: Faster and More Sample Efficient Algorithms for Eigenvector Computation
UC Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学);MIT(麻省理工学院);Microsoft Research(微软研究院)
本文提出更快且更样本高效的算法,用于近似矩阵的顶部特征向量,通过改进经典幂方法和Lanczos方法,结合快速子空间嵌入和随机优化,提升了稳定秩和ε依赖性。
2016-05-30 cs.DS cs.LG cs.NA
EigenWave: An Optimal O(N) Method for Computing Eigenvalues and Eigenvectors by Time-Filtering the Wave Equation
本文提出 EigenWave,利用 WaveHoltz 时间滤波迭代与无矩阵 Arnoldi 结合求解椭圆算子特征对,并通过多重网格实现随网格点数线性扩展的最优 O(N) 计算。
2025-07-24 cs.NA math.NA
Accelerating Eigenvalue Computation for Nuclear Structure Calculations via Perturbative Corrections
针对核结构计算中无核壳模型的大规模本征值求解问题,提出带微扰修正的子空间投影(SPPC)方法,通过层级拆分哈密顿量结合微扰修正构造子空间,数值验证其比传统迭代法更高效且可避免收敛停滞。
2024-07-12 cs.NA math.NA nucl-th
Simple exponential acceleration of the power iteration algorithm
许多现实世界的问题依赖于寻找矩阵的特征值和特征向量。幂迭代算法是求一般矩阵最大特征值及其特征向量的一种简单方法。该算法依赖于这样的思想,即随机选择的向量x与矩阵A的重复相乘逐渐放大沿着A的最大特征值的特征向量的向量的分量,同时抑制所有其他分量。不幸的是,幂迭代算法可能表现出缓慢的收敛。在这份报告中,我们证明了指数加速收敛的幂迭代算法,只有一个多项式的计算增加利用矩阵乘法的交换性。
2021-09-22 cond-mat.dis-nn cs.NA math.NA
Sublinear Time Eigenvector Approximation via Column Sampling
Manning College of Information and Computer Sciences, University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校曼宁信息科学与工程学院);Databricks(达布里克公司)
该研究提出基于列采样的次线性时间特征向量近似算法,可高效近似大矩阵离群特征向量,成果可应用于量子启发算法框架,还给出基于截断Nyström方法的替代方案。
2026-08-14 cs.DS cs.NA math.NA
Entrywise convergence of iterative methods for eigenproblems
Cornell University(康奈尔大学)
机器学习、统计学和其他领域中的一些问题依赖于计算特征向量。对于大规模的问题,这些特征向量的计算通常是通过迭代方案,如子空间迭代或Krylov方法。虽然有经典和全面的分析子空间收敛保证方面的谱范数,在许多现代应用的子空间距离的其他概念是更合适的。最近的理论工作集中在扰动的子空间测量的$\ell_{2 \to \infty}$规范,但不考虑实际计算的特征向量。在这里,我们解决子空间迭代的收敛时,距离测量的$\ell_{2 \to \infty}$规范,并提供确定性的界限。我们补充我们的分析与一个实际的停止标准,并通过数值实验证明其适用性。我们的研究结果表明,人们可以得到下游任务的性能相当,而需要更少的迭代,从而节省大量的计算时间。
2020-10-31 cs.LG cs.NA cs.SI
Diffusion forecasting model with basis functions from QR decomposition
the Pennsylvania State University(宾夕法尼亚州立大学);National University of Singapore(新加坡国立大学)
本文提出基于QR分解的基函数用于扩散预测,通过高效计算基函数提升预测精度,验证了在确定性混沌和随机动力系统中的有效性。
2017-10-14 cs.NA math.NA nlin.CD
Accelerated Spectral Clustering Using Graph Filtering Of Random Signals
INRIA Rennes - Bretagne Atlantique(法国国家信息与自动化研究所雷恩-布列塔尼大西洋分所);Physics Laboratory, ENS Lyon, CNRS, University of Lyon(里昂高等师范学校物理实验室);Institute of Electrical Engineering, EPFL(洛桑联邦理工学院电气工程学院)
本文提出一种加速谱聚类算法,通过图滤波随机信号估计谱聚类距离矩阵,无需计算特征向量,从而在大规模数据集上实现更快的聚类性能。
2015-09-29 cs.NA cs.SI math.NA
Solving the k-sparse Eigenvalue Problem with Reinforcement Learning
我们研究的可能性,使用强化学习(RL)算法来解决大规模的特征值问题,其中所需的特征向量可以近似为一个稀疏的向量,最多$k$非零元素,其中$k$是相对较小的矩阵的维度进行部分对角化。这种类型的问题出现在应用程序中,所需的特征向量表现出本地化特性,并在大规模的特征值计算,其中的计算资源的量是有限的。当这些非零元素的位置可以确定时,我们可以通过计算从原始矩阵的$k$行和列中提取的$k\times k$子矩阵的特征值来获得原始问题的$k$ -稀疏近似。我们回顾了以前开发的贪婪算法,用于增量探测$k$稀疏近似特征向量中的非零元素的位置,并表明贪婪算法可以通过使用RL方法来改进原始矩阵的$k$行和列的选择。我们描述了如何表示状态,行动,奖励和政策的RL算法,旨在解决$k$稀疏特征值问题,并证明了有效性的RL算法的两个例子,源自量子多体物理。
2020-09-09 cs.NA math.NA physics.comp-ph
Optimized on-line computation of PageRank algorithm
Alcatel-Lucent Bell Labs(阿尔卡特-朗讯贝尔实验室)
提出通过矩阵-向量乘积分解为流体扩散模型并引入新代数方程来加速PageRank特征向量计算,实验证明能显著提升计算效率。
2012-02-28 cs.DM cs.IR cs.NA
Optimizing Geometric Multigrid Methods with Evolutionary Computation
对于许多由偏微分方程离散化引起的线性和非线性系统,构造有效的多重网格求解器是一项具有挑战性的任务。在这里,我们提出了一种新的方法,几何多重网格方法的优化是基于进化计算,一个通用的程序优化技术的灵感来自自然进化的原则。一个多重网格求解器表示为一棵树的数学表达式,我们生成的基础上定制的语法。使用自动局部傅里叶分析(LFA)和车顶线性能建模,分别在收敛性和计算性能方面评估每个求解器的质量。基于这些目标的多目标最优化是使用强类型的遗传规划与非支配排序为基础的选择。为了评估基于模型的预测并针对具体的应用程序,可以使用ExaStenetron框架自动生成演化求解器的可扩展实现。我们证明了我们的方法,通过构建多重网格求解器的稳态热方程的常数和变系数,一贯表现优于常见的V-和W-周期。
2019-10-08 cs.MS cs.NA cs.NE