Solving Boltzmann equation with neural sparse representation
本文研究了用神经稀疏表示方法求解Boltzmann方程的BGK模型和二次碰撞模型，提出了一种基于神经网络的算法，该算法能够高效地逼近分布函数。准确地说，全连接的神经网络在时间和空间的空间，以避免在空间和时间的离散化。BGK和二次碰撞模型的微观速度采用不同的低秩表示，导致自由度的显着减少。我们用正则多元分解近似BGK模型中的离散速度分布。对于二次碰撞模型，基于BGK解建立了数据驱动的基于SVD的线性基。这将大大提高网络求解Boltzmann方程的效率。此外，提出了自适应权值损失函数，并采用多尺度输入和Maxwell分裂等策略，进一步提高了逼近效率，加快了学习过程。数值实验，包括一维波和Sod问题和二维波问题，证明了这些神经稀疏表示方法的有效性。
2023-02-18 cs.NA math.NA
A Survey on Intelligent Iterative Methods for Solving Sparse Linear Algebraic Equations
本综述针对稀疏线性方程组求解中迭代法选型与参数调优的难题，梳理了基于深度学习的智能迭代法研究，从方法、组件、参数三方面展开并提出未来研究方向。
2023-10-10 cs.NA math.NA
Complexity of sparse polynomial solving 3: Infinity
本文提出在环面簇坐标卡上局部定义同伦算法，以求解稀疏多项式系统，避免虚假根，其复杂度由条件长度线性界定，并支持在环面无穷远附近稳定计算。
2025-06-20 cs.NA math.AG math.NA
Optimized sparse approximate inverse smoothers for solving Laplacian linear systems
本文提出并分析了一种新的高效稀疏近似逆（SPAI）平滑器，用于求解二维和三维Laplacian线性系的几何多重网格方法.局部傅里叶分析表明，我们提出的2D SPAI平滑器实现了比[Bolten，M.，Huckle，T.K.和克拉夫瓦里蒂斯，C.D.，2016.多重网格法的稀疏矩阵逼近。线性代数及其应用，502，第58 -76页。所提出的SPAI平滑器的3D情况下提供了更小的最佳平滑因子比加权雅可比平滑器。数值结果验证了我们的理论结论，并说明了我们提出的SPAI平滑的高效率和高效果。这种SPAI平滑器具有固有并行性的优点。用于实现我们提出的算法的MATLAB代码可在http://github.com/junliu2050/SPAI-MG-Laplacian在线公开获得。
2022-06-11 cs.DC cs.NA math.NA
Sparse Recovery with Oversampling Ratio Greater than One Half
本文探讨了高过采样比下的稀疏恢复问题，提出改进的HTP算法以实现理论上的可行性。
2017-06-25 cs.NA math.NA
Sparse Spectral Methods for Solving High-Dimensional and Multiscale Elliptic PDEs
在他的专著切比雪夫和傅立叶谱方法，约翰博伊德声称，关于傅立叶谱方法解决微分方程，“[t]他的优点快速傅里叶变换将继续改善无情的游行到越来越大的[带宽]继续”。本文试图进一步发挥快速傅里叶变换（FFT）的优点，因为不仅带宽被推到了极限，而且问题的维数也被推到了极限。然而，我们没有使用传统的FFT，而是进行了一个关键的替代：一个高维的，稀疏的傅里叶变换（SFT）与随机秩1格方法配对。由此产生的稀疏谱方法快速，自动地确定一组傅立叶基函数，其跨度是保证包含一个精确的近似的解决方案，一个给定的椭圆偏微分方程。然后，使用这个小得多、接近最佳的傅里叶基在运行时有效地求解给定的偏微分方程，这仅取决于偏微分方程的数据压缩性和椭圆度属性，同时打破维度灾难并缓解对原始问题中任何多尺度结构的线性依赖。本文建立了该方法的理论性能与Sobolev范数的收敛性分析的一般类的非常数扩散方程，以及指针的技术扩展的收敛性分析更一般的对流扩散反应方程。数值实验表明，良好的经验性能的多尺度和高维的例子问题，进一步展示了所提出的方法在实践中的承诺。
2023-02-01 cs.NA math.NA
A Novel Greedy Kaczmarz Method For Solving Consistent Linear Systems
通过一种完全不同的确定工作行的方法，我们提出了一种新的求解相容线性系的贪婪Kaczmarz方法。对新方法进行了收敛性分析。数值实验表明，在相同的精度下，本文方法优于贪婪随机Kaczmarz方法和最近由Bai和Wu [Z.Z. BAI和W.T.吴，关于求解大型稀疏线性系的贪婪随机Kaczmarz方法，SIAM J. Sci.计算：40（2018），pp. A592-A606; Z.Z. BAI和W.T.吴，解大型稀疏线性系的松弛贪婪随机Kaczmarz方法，应用数学快报，83（2018），pp. [21- 26]计算时间。
2020-04-05 cs.NA math.NA
Three-precision iterative refinement with parameter regularization and prediction for solving large sparse linear systems
本研究提出GADI框架下的GADI-IR混合精度迭代细化算法，结合FP16低精度计算、参数正则化与GPR参数预测，在保证精度与鲁棒收敛的同时加速大规模稀疏线性系统求解，为高性能计算提供高效方案。
2025-03-21 cs.NA math.NA
Sparse aNETT for Solving Inverse Problems with Deep Learning
University of Innsbruck（因斯布鲁克大学）；University of Idaho（爱达荷大学）
我们提出了一个稀疏重建框架（aNETT）求解反问题。相对于现有的稀疏重建技术，是基于线性稀疏化变换，我们训练一个自动编码器网络$D \circ E$与$E$作为一个非线性稀疏化变换和最小化Tikhonov功能与学习正则化形成的编码器系数的$\ell^q$ -范数和惩罚的距离数据流形。我们提出了一种基于底层图像类的样本集训练自动编码器的策略，使得自动编码器独立于前向算子，并且随后适应于特定的前向模型。稀疏视图CT的数值结果，这清楚地表明了可行性，鲁棒性和改进的泛化能力和稳定性的aNETT后处理网络。
2020-04-20 cs.LG cs.NA eess.IV
Solving Large-Scale Sparse Linear Complementarity Problems Using a Relaxed Shifted Matrix-Splitting Modulus-Based Iteration Method
Indian Institute of Information Technology Design and Manufacturing（印度信息技术设计与制造学院）；Indian Institute of Technology, Kanpur（坎普尔印度理工学院）
提出移位分裂多参数模迭代法求解大规模稀疏线性互补问题，通过引入额外参数并建立收敛条件，数值实验表明其在迭代次数、残差和CPU时间上优于现有方法。
2026-09-15 cs.NA math.NA math.OC
Sparse spectral and p-finite element methods for partial differential equations on disk slices and trapeziums
求解偏微分方程的稀疏谱方法是近年来利用区间、圆盘和三角形上的经典正交多项式的级数而得到的。在这项工作中，我们将这种方法扩展到一个层次的非经典正交多项式的磁盘片（如半盘）和pixziums。这建立在这样的观察上，即由于边界由代数曲线定义，稀疏性得到保证，并且偏微分算子的条目可以使用（非经典）单变量正交多项式的公式来确定。我们应用该框架求解泊松方程、变系数亥姆霍兹方程和双调和方程。
2020-01-16 cs.NA math.NA
Computing a Sparse Approximate Inverse on Quantum Annealing Machines
针对大型线性方程组求解中共轭梯度法需优质预处理器加速收敛的问题，本文探索通过求解二次无约束二元优化问题，在量子退火机上计算稀疏近似逆预处理器，并基于泊松问题的二维有限差分线性系统开展了数值实验。
2023-10-03 cs.ET cs.NA math.NA
An adaptive sparse grid local discontinuous Galerkin method for Hamilton-Jacobi equations in high dimensions
我们感兴趣的是数值求解哈密顿-雅可比（HJ）方程，这出现在最优控制和许多其他应用。通常，这样的方程是在高维中提出的，这带来了巨大的数值挑战。提出了一类求解高维Hamilton-Jacobi方程的自适应稀疏网格（也称为自适应多分辨率）局部间断Galerkin（DG）方法。通过使用稀疏网格技术，我们可以处理适度高维的情况。自适应性被纳入捕捉扭结和其他局部结构的解决方案。多尺度小波的多分辨分析主要采用两类多尺度小波，即正交Alpert多尺度小波和插值多尺度小波。在四个维度的数值试验，以验证该方法的性能。
2020-05-29 cs.NA math.NA
Sparse Gaussian processes for solving nonlinear PDEs
本文针对非线性偏微分方程求解中高斯过程计算代价过高的问题，提出基于稀疏高斯过程的方法，在RKHS的压缩子空间上重构优化问题，并证明其能以更少诱导点达到与GP方法相当的精度，显著降低计算成本。
2023-07-01 cs.NA math.NA
Solving the k-sparse Eigenvalue Problem with Reinforcement Learning
我们研究的可能性，使用强化学习（RL）算法来解决大规模的特征值问题，其中所需的特征向量可以近似为一个稀疏的向量，最多$k$非零元素，其中$k$是相对较小的矩阵的维度进行部分对角化。这种类型的问题出现在应用程序中，所需的特征向量表现出本地化特性，并在大规模的特征值计算，其中的计算资源的量是有限的。当这些非零元素的位置可以确定时，我们可以通过计算从原始矩阵的$k$行和列中提取的$k\times k$子矩阵的特征值来获得原始问题的$k$ -稀疏近似。我们回顾了以前开发的贪婪算法，用于增量探测$k$稀疏近似特征向量中的非零元素的位置，并表明贪婪算法可以通过使用RL方法来改进原始矩阵的$k$行和列的选择。我们描述了如何表示状态，行动，奖励和政策的RL算法，旨在解决$k$稀疏特征值问题，并证明了有效性的RL算法的两个例子，源自量子多体物理。
2020-09-09 cs.NA math.NA physics.comp-ph
Solving Sparse Linear Systems Faster than Matrix Multiplication
线性方程组能比矩阵乘法更快求解吗？虽然对于图结构线性系统的特殊情况已经有了显著的进展，但是在一般设置中，求解$n \times n$线性系统$Ax=b$的位复杂度是$\tilde{O}(n^ω)$，其中$ω< 2.372864$是矩阵乘法指数。即使对于具有多$(n)$条件数的稀疏线性系统，改进这一点也是一个开放的问题。在本文中，我们提出了一个算法，解决稀疏矩阵的线性系统渐近快于矩阵乘法的任何$ω> 2$。这种加速适用于具有$o(n^{ω-1}/\log(κ(A)))$非零的任何输入矩阵$A$，其中$κ(A)$是$A$的条件数。对于具有$\tilde{O}(n)$非零值的多$(n)$条件矩阵，以及$ω$的当前值，我们的算法在任何$1/\text{poly}(n)$误差内求解的位复杂度为$O(n^{2.331645})$。我们的算法可以被看作是一个有效的，随机执行块Krylov方法通过递归低位移秩分解。它的灵感来自于[Eberly et al. ISSAC `06 `07]的算法，用于有限域上的逆矩阵。在我们的数值稳定性分析中，我们发展了矩阵反集中技术来限制半随机矩阵的最小特征值和特征值中的最小间隙。
2021-01-07 cs.DS cs.NA math.NA
Solving Nonlinear PDEs with Sparse Radial Basis Function Networks
University of California, San Diego（加州大学圣迭戈分校）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出一种利用稀疏径向基函数网络求解非线性偏微分方程的新框架，通过稀疏正则化防止过参数化并减少冗余特征，结合传统RBF方法和物理信息神经网络的优劣，建立统一的理论基础和高效算法。
2026-04-24 cs.LG cs.NA math.NA
On the stability and performance of the solution of sparse linear systems by partitioned procedures
在本文中，我们提出，评估和分析的并行同步Jacobi算法的性能，通过不同的分区程序，包括带行分裂，带行稀疏模式分裂和子结构分裂，在解决稀疏大型线性系。通过对一组三维Laplace方程和一组希克苏鲁伯陨石坑重力场的数值实验，验证了分裂对求解稀疏大型线性系的并行同步迭代的影响.数值结果清楚地表明，子结构的方法相比，带行分裂策略的兴趣。
2021-12-04 cs.DC cs.NA math.NA
Parallel Sub-Structuring Methods for solving Sparse Linear Systems on a cluster of GPU
本文的主要目的是分析子结构方法并行求解由有限元、有限体积和有限差分等偏微分方程离散化所产生的矩阵稀疏线性系。结合通用图形处理器（GPGPU）上的成功应用，提出了一种多GPU和CPU混合的子结构算法。GPU计算与CUDA一起用于加速在每个处理器上执行的操作。数值实验已经进行了一组矩阵所产生的工程问题。我们比较了C+MPI在经典CPU集群上的实现和C+MPI+CUDA在GPU集群上的实现。性能比较表明，使用CUDA子结构方法的速度提高了19倍，在双精度。
2021-08-08 cs.DC cs.MS cs.NA
A Non-Krylov subspace Method for Solving Large and Sparse Linear System of Equations
Zhaoqing Univ.（肇庆学院）；Academy of Math. and System Sciences, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）
本文提出了一种非Krylov子空间方法，通过动态投影矩阵构建子空间以求解线性方程组，并引入APAP加速方法提升收敛性，数值实验显示其在处理病态系数矩阵时表现优异。
2015-11-25 cs.NA math.NA
Complexity of sparse polynomial solving: homotopy on toric varieties and the condition metric
Universidade Federal do Rio de Janeiro（里约热内卢联邦大学）
本文研究了通过同调持续法求解稀疏多项式方程组的成本。首先，通过n个单项基确定n元多项式方程组的空间。这些系统的根的自然定位是某种托里奇流形。该流形是依赖于单项基的$(\mathbb C\setminus\{0\})^n$的紧致化。在该托里奇流形上定义了托里奇牛顿算子。Smale的alpha理论被推广以提供二次收敛的标准。定义了两个条件数并在此设定中获得了高阶导数估计。牛顿算子和相关的条件数在与动量映射相关的群作用下保持不变。给出了一个同调算法，并证明其在提升的同调路径的条件长度上线性终止。这扩展了Shub（2009）的结果。
2017-11-02 cs.NA math.AG math.NA
QuantileRK: Solving Large-Scale Linear Systems with Corrupted, Noisy Data
在实际应用中产生的线性系测量数据经常遭受大的、稀疏的破坏和广泛的小尺度噪声。这可能会使许多流行的求解器无效，因为最小二乘解与所需的解相差甚远，并且底层的一致系统变得更难识别和求解。QuantileRK是Kaczmarz迭代投影方法家族的成员，已被证明对具有任意大稀疏破坏的系统呈指数收敛。在本文中，我们将分析扩展到不仅存在损坏，而且可能影响每个数据点的噪声的情况，并证明QuantileRK以相同的速率收敛到错误阈值。我们给出了理论和实验结果证明QuantileRK的强度。
2021-08-04 cs.NA math.NA
HYLU: Hybrid Parallel Sparse LU Factorization
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
HYLU是一种针对多核共享内存架构高效求解稀疏线性系统（Ax=b）的通用求解器，通过混合数值内核适应不同稀疏模式，数值分解阶段性能优于Intel MKL PARDISO。
2026-04-01 cs.AR cs.DC cs.MS
Hierarchical Orthogonal Factorization: Sparse Least Squares Problems
在这项工作中，我们开发了一个快速的层次求解器解决大型，稀疏最小二乘问题。我们建立在算法，spaQR（稀疏QR），这是由作者开发的解决大型稀疏线性系。我们的算法是建立在一个嵌套的解剖为基础的multifrontal QR方法。我们使用低秩近似的正面矩阵稀疏的顶点分离器在每一个级别的消除树。使用两步稀疏化方案，我们减少了列的数量，并保持在每个前面的行列的比例，而不引入任何额外的填充。有了这个即兴的计划，我们表明，该算法的运行时间尺度为$\mathcal{O}(M \log N)$，并使用$\mathcal{O}(M)$内存来存储的因式分解。这是在一个小的和可控的近似误差的代价。最终结果是矩阵的近似因式分解，存储为稀疏正交和上三角因子的序列，因此易于使用向量应用/求解。最后，我们比较了spaQR算法在求解稀疏最小二乘问题的性能直接多波前QR和CGLS迭代法与一个标准的对角预条件。
2021-03-04 cs.NA math.NA
Solving Sparse Finite Element Problems on Neuromorphic Hardware
Sandia National Laboratories（桑迪亚国家实验室）
本文提出在神经形态硬件上实现有限元方法，通过将稀疏交互映射到神经元群体，在Loihi 2上求解泊松方程，达到相当精度并支持扩展。
2025-01-17 cs.AI cs.LG cs.NA
A Weighted Randomized Sparse Kaczmarz Method for Solving Linear Systems
本研究提出一种加权随机稀疏Kaczmarz方法，通过基于残差的概率采样选择投影超平面，在随机与贪心Kaczmarz方法间建立关联，理论证明其期望线性收敛且效率不低于原有方法，数值实验验证了其优越性。
2023-06-12 cs.NA math.NA math.OC
Solving Degenerate Sparse Polynomial Systems Faster
考虑在任意特征的代数闭域上的n个多项式方程组F。本文给出了一种在F的零集Z的每一个不可约分支中寻找点的快速方法。我们的技术使我们能够充分考虑单项期限结构，提高和降低这个问题的先验复杂性界限。作为推论，我们还得到了F的孤立根的确切个数和Z的正维部分的交重数的新的显式公式。最后，我们提出了一个非退化多项式系统的组合结构，指定的单项项结构和最大许多孤立根，这可能是独立的利益。
1998-09-15 cs.CC cs.NA math.AG
Randomized Sparse Neural Galerkin Schemes for Solving Evolution Equations with Deep Networks
Courant Institute for Mathematical Sciences（库朗数学科学研究所）；New York University（纽约大学）
针对时间序列训练神经网络求解含时偏微分方程时误差易累积放大的问题，提出随机稀疏更新参数的神经伽辽金格式，兼具防过拟合与低计算成本优势，在精度和速度上均较稠密更新格式最高提升两个数量级。
2023-10-07 cs.LG cs.NA math.NA
Low-Rank SPIKE Framework for Solving Large Sparse Linear Systems with Applications
针对大型稀疏线性系统求解问题，提出基于低秩SVD近似非对角块的LR-SPIKE变体框架，可作为黑箱预条件子或近似直接求解器，在SuiteSparse矩阵（含3D有限元矩阵）上验证了有效性，与FEAST配对显著减少迭代次数。
2025-04-15 cs.MS cs.NA math.NA
Adaptive sparse interpolation for accelerating nonlinear stochastic reduced-order modeling with time-dependent bases
基于不定常基（TDBs）的随机降阶建模已被证明是从随机偏微分方程（SPDE）中提取和利用低维流形的成功方法。基于不定常基求解秩- $r$降阶模型（ROM）的名义计算成本，也称为TDB-ROM近似等于求解$r$随机样本的全阶模型。到目前为止，只有线性或二次SPDE才能实现这种标称性能，但代价是高度侵入性的过程。另一方面，对于具有非多项式非线性的问题，求解TDB发展方程的计算成本与求解全阶模型相同。在这项工作中，我们提出了一个自适应稀疏插值算法，使随机TDB-ROM实现标称计算成本的通用非线性SPDE。我们的算法使用离散经验插值方法（DEIM）构造了一个低秩近似的SPDE的右手边。该算法不需要任何离线计算，因此，低秩近似可以适应任何瞬态变化的动态飞行。我们还提出了一种秩自适应策略来控制稀疏插值的误差。我们的算法通过对状态空间和随机空间的自适应采样来实现计算加速。我们用两个例子说明了我们的方法的有效性：（1）一维随机Burgers方程，（2）受100维随机扰动的二维可压缩斯托克斯方程。在所有情况下，所提出的算法的结果在数量级减少的计算成本。
2022-11-24 cs.NA math.NA physics.flu-dyn
RCHOL: Randomized Cholesky Factorization for Solving SDD Linear Systems
我们引入一个随机算法，即RCHOL，来构造一个给定拉普拉斯矩阵（a.k.a.，图Laplacian）。从图的角度来看，精确的Cholesky分解在消除行/列之后在底层图中引入了一个团。通过随机化，RCHOL使用Spielman和Kyng开发的随机采样仅保留集团中边缘的稀疏子集。我们证明了RCHOL是无故障的，并将其应用于求解具有对称对角占优矩阵的大型稀疏线性系。此外，我们并行化RCHOL的基础上嵌套解剖排序共享内存的机器。我们报告的数值实验，证明RCHOL的鲁棒性和可扩展性。例如，我们的并行代码在单个节点上扩展到64个线程，用于求解3D泊松方程，该方程在$1024\times 1024 \times 1024$网格上使用7点模板离散化，该问题具有10亿个未知数。
2021-09-02 cs.MS cs.NA math.NA
A multilevel framework for sparse optimization with application to inverse covariance estimation and logistic regression
University of British Columbia（不列颠哥伦比亚大学）；Intel Labs（英特尔实验室）；Technion—Israel Institute of Technology（以色列理工学院）
本文提出一种多级框架高效解决l1正则化稀疏优化问题，应用于逆协方差估计和逻辑回归，通过分层问题加速优化过程，提升大规模数据处理效率。
2016-07-01 cs.NA math.NA math.OC
Decomposable sparse polynomial systems
Macaulay2包DecomposableSparseSystems实现了研究和数值求解可分解稀疏多项式系统的方法。我们描述了可分解的稀疏系统的结构，并解释了如何在这个包中的方法可以用来利用这种结构，与例子。
2020-06-04 cs.NA cs.SC math.AG
Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian Processes
针对基于高斯过程的非线性PDE求解中稠密核矩阵计算复杂度高的问题，提出一种近线性复杂度的稀疏Cholesky分解算法，结合Vecchia近似实现快速求解，并在多类非线性PDE上验证了其近线性时空复杂度。
2024-03-09 cs.NA math.NA math.OC
On Solving Groundwater Flow and Transport Models with Algebraic Multigrid Preconditioning
代数多重网格预处理的迭代求解器被设计为一种优化技术，以加快大型稀疏线性系统的响应。在这项工作中，这种技术是在双重划定方法的框架内实施的。这涉及到一个单一的地下水流解决方案和一个纯平流输运解决方案与不同的右手边。新的求解器进行了比较，传统的预处理迭代法和直接稀疏求解器上的几个二维和三维的基准问题，跨越均匀和非均匀地层。对于地下水流动问题，采用代数多重网格预处理方法可以使数值求解速度提高一到两个数量级。对于纯平流输运过程，如前向走时模拟，稀疏直接求解器是最有效的。因此，更一般的对流-弥散输运方程的最佳稀疏解算器可能依赖于佩克莱数。当配备最好的求解器时，通过双重描绘方法处理数百万个网格块是几秒钟的事情。这为敏感性分析等常规耗时任务铺平了道路。本文给出了实用的提示的策略和条件下，代数多重网格预处理类的非线性和/或瞬态问题将保持竞争力。
2020-01-20 cs.NA math.NA physics.comp-ph
