Randomized Block Kaczmarz Method with Projection for Solving Least Squares
Claremont McKenna College(克莱蒙特麦肯纳学院);Claremont Graduate Univ.(克莱蒙特研究生大学);IBM Research Lab, Zurich(IBM苏黎世研究实验室)
本文提出两种随机块Kaczmarz方法,通过矩阵分块加速对不一致系统的最小二乘解的收敛。
2015-06-23 cs.NA math.NA
A unified approach for projections onto the intersection of $\ell_1$ and $\ell_2$ balls or spheres
设计了一种统一的方法来计算一个$\ell_1$球/球体和一个$\ell_2$球/球体在其交点上的投影。我们发现,解决这些问题的主要计算工作都依赖于找到同一个分段二次函数的根,然后提出了一个统一的数值方法计算的根。特别地,我们设计了断点搜索法与二分法,割线法和牛顿法结合使用的排序/不排序,以找到包含根的区间,根在该区间上具有封闭形式。结果表明,我们提出的算法在不进行排序的情况下具有$O(n log n)$最坏情况复杂度和$O(n)$.数值实验证明了算法的有效性。
2019-11-10 cs.NA math.NA math.OC
Approximation properties of isogeometric function spaces on singularly parameterized domains
University of Pavia(帕维亚大学)
本文研究了奇异参数化域上同几何函数空间的逼近误差界,通过定义满足正则性条件的函数空间,证明了该类离散化方法的最优收敛性。
2015-07-29 cs.NA math.NA
Approximate Projections onto the Positive Semidefinite Cone Using Randomization
School of Electrical and Electronic Engineering, The University of Sheffield(谢菲尔德大学电气与电子工程学院);Department of Electrical Engineering, Columbia University(哥伦比亚大学电气工程系)
本文提出两种基于随机数值线性代数的算法,通过构造低秩矩阵近似将正半定锥投影的计算复杂度从O(n³)降至O(kn²),经大规模矩阵实验验证可有效近似该投影。
2026-08-19 cs.NA math.NA math.OC
Two-subspace Projection Method for Coherent Overdetermined Systems
提出一种基于两个随机行投影到解空间的双子空间Kaczmarz方法,实现期望指数收敛,在行相关系统中优于随机Kaczmarz方法。
2012-10-08 cs.NA math.NA math.PR
On the perturbation of an $L^2$-orthogonal projection
子空间上的$L^2$ -正交投影是一种重要的数学工具,在线性最小二乘问题、本征值问题、不适定问题、随机算法等领域有着广泛的应用。在一些数值应用中,矩阵的元素很少是精确已知的,因此有必要给出一些界来描述矩阵摄动引起的不确定性的影响。本文建立了矩阵列空间上的$L^2$ -正交投影的新的扰动界,包括上(下)界和组合上(下)界。新的边界包含一些现有边界的更尖锐的对应物。数值例子也说明了我们的理论结果。
2019-10-28 cs.NA math.NA
Randomized linear algebra for model reduction. Part II: minimal residual methods and dictionary-based approximation
[Balabanov and Nouy 2019,Part I]中介绍了在高维参数相关方程组的模型降阶背景下使用随机草图的方法。在这个框架下,我们在这里构建一个降阶模型从一个小的,有效的可计算的随机对象称为草图的降阶模型,使用最小残差方法。我们介绍了一个草图版本的最小残差投影以及一种新的非线性逼近方法,其中对于每个参数值,该解决方案是近似的最小残差投影到一个子空间上的几个向量挑选(在线)从候选基向量的字典。结果表明,随机绘制技术不仅可以提高计算效率,而且可以提高数值稳定性。严格分析了获得给定精度所需的随机草图上的条件。通过考虑草绘矩阵的足够大尺寸的不经意嵌入,可以以高概率先验地确保这些条件。此外,提供了一个简单可靠的程序,用于后验验证的质量的草图。该方法可用于近似性的证明以及随机草图矩阵大小的自适应选择。
2020-07-22 cs.NA math.NA
Finite element approximation of the Levi-Civita connection and its curvature in two dimensions
我们构造了Levi-Civita联络及其曲率在定向二维流形三角剖分上的有限元逼近。我们的构造依赖于Regge有限元,这是分段多项式对称的(0,2)张量场具有单值切线-切线分量沿元素界面。当用于离散的黎曼度量张量,这些分段多项式张量场不具有足够的规则性,以定义连接和曲率在经典意义上,但我们展示了如何使这些数量的意义上的分布意义。然后,我们证明了这些分布量在三角剖分的细化下以某些对偶索博列夫范数收敛于其光滑对应物。我们还讨论了分布曲率和分布联络在分段多项式有限元空间上的投影。我们证明了相关的投影算子与某些线性化的微分算子可交换,得到了微分复形的交换图表。
2022-07-13 cs.NA math.DG math.NA
Two-subspace Projection Method for Coherent Overdetermined Systems (Technical Report)
提出一种基于双子空间投影的POCS算法,通过迭代投影到两个随机行定义的解空间,在相干超定线性系统中实现指数收敛,显著优于随机Kaczmarz方法。
2012-04-01 cs.NA math.NA math.PR
Monte Carlo integration of $C^r$ functions with adaptive variance reduction: an asymptotic analysis
本文针对$C^r$函数的数值积分问题,提出结合分段多项式插值与随机逼近的自适应方差缩减方法,可在保持最优收敛速率的同时降低渐近因子,尤其适用于$r$阶导数快速变化的函数,且易于实现自动积分。
2023-04-16 cs.NA math.NA
Random Projections and Dimension Reduction
广义上讲,本文涵盖了随机性在两个主要领域的应用:低秩近似和核方法。低秩逼近在数值线性代数中非常重要。许多应用程序依赖于矩阵分解算法,提供准确的低秩表示的数据。然而,在现代问题中,各种因素使这很难实现。这些问题的一个解决方案是使用随机投影。我们不直接计算矩阵的分解,而是将矩阵随机投影到一个低维子空间上,然后计算分解。通常,我们能够做到这一点,而不会严重损失准确性。我们描述了如何随机化可以用来创建更有效的算法来执行低秩矩阵近似,以及引入一种新的随机化算法矩阵分解。与标准方法相比,随机算法通常更快、更鲁棒。有了这些随机算法,分析海量数据集变得容易了。核方法几乎与低秩近似完全相反。其思想是将低维数据投影到高维的“特征空间”中,使其在特征空间中是线性可分的。这使得模型能够学习数据的非线性分离。和以前一样,对于大数据矩阵,计算核矩阵可能是昂贵的,所以我们使用随机方法来近似矩阵。此外,我们提出了一个扩展的随机傅立叶特征内核,其中超参数值是从一个区间或博雷尔集随机采样。本文中讨论的实验可以在我们的网站https://rishi1999.github.io/random-projections上找到。
2020-08-11 cs.NA math.NA
A note on improvement by iteration for the approximate solutions of second kind Fredholm integral equations with Green's kernels
Institute of Chemical Technology(化工学院);Rajiv Gandhi Institute of Petroleum Technology(拉吉夫·甘地石油技术研究所)
本文通过改进的插值法,研究了Green函数类型核的Fredholm积分方程的迭代法收敛阶提升问题。
2024-08-16 cs.NA math.FA math.NA
Projection-Based Finite Elements for Nonlinear Function Spaces
Universität Wien(维也纳大学);Technische Universität Dresden(德累斯顿工业大学);ETH Zürich(苏黎世联邦理工学院)
本文提出一种新的逼近空间,用于值域为非线性流形的函数。通过欧几里得嵌入空间中的分段多项式插值并点投影到流形上,推导出最优的勒贝格和索伯列夫范数下的插值误差界,并通过非线性Céa引理证明了谐映射的最优L²和H¹离散误差界。
2018-03-17 cs.NA math.NA
Almost $L^\infty$-stability of the Ritz projection for the integral fractional Laplacian with $0<s\leq \tfrac12$
School of Mathematical Sciences, Peking University(北京大学数学科学学院)
该研究证明了0<s≤1/2时,满足一致外球条件的有界Lipschitz域上,分段线性有限元空间的\tilde{H}^s投影在最大范数下几乎稳定,且网格域无需与原域重合。
2026-10-16 cs.NA math.NA
Projection-based approximations for eigenvalue problems of Fredholm integral operators with Green's kernels
Rajiv Gandhi Institute of Petroleum Technology(拉吉夫·甘地石油技术研究所);Institute of Chemical Technology(化工学院)
本文提出基于投影的方法,用于求解Fredholm积分算子Green核的特征值问题,通过改进的投影方法实现更快的收敛速率。
2026-02-18 cs.NA math.FA math.NA
Smoothed projections over manifolds in finite element exterior calculus
本文在紧致黎曼流形上构造交换有限元投影,基于de Rham光滑化,用于Hodge--Laplace方程的稳定性与收敛分析,并推导Galerkin误差估计及几何误差界。
2026-10-02 cs.NA math.NA
A Wong--Zakai resonance-based integrator for nonlinear Schrödinger equation with white noise dispersion
针对白噪声色散非线性 Schrödinger 方程的低正则性数值求解,本文利用 Wong–Zakai 近似捕捉频率共振,构造首批可证明收敛且强收敛速率更优的格式,并通过实验验证其性能。
2025-05-13 cs.NA math.NA
hp-VPINNs: Variational Physics-Informed Neural Networks With Domain Decomposition
Brown University(布朗大学);Worcester Polytechnic Institute(伍斯特理工学院);Pacific Northwest National Laboratory(太平洋西北国家实验室)
我们制定了一个一般的框架,hp变分物理信息神经网络(hp-VPINNs)的基础上的非线性近似的浅层和深层神经网络和hp细化通过区域分解和投影到空间的高阶多项式。试验空间是神经网络的空间,它是在整个计算域上全局定义的,而测试空间包含分段多项式。具体来说,在这项研究中,惠普细化对应于一个全局近似与本地学习算法,可以有效地本地化网络参数优化。我们展示了hp-VPINNs的精度和训练成本的几个数值例子的函数逼近和求解微分方程的优势。
2020-03-11 cs.LG cs.NA cs.NE
Acceleration of convergence in approximate solutions of Urysohn integral equations with Green's kernels
本文针对具有Green核的Urysohn积分方程,提出基于偶次分段多项式插值投影的逼近方法,相比经典配置法显著提高近似解精度,并通过数值实验验证了理论结果。
2025-08-07 cs.NA math.FA math.NA
Discrete Modified Projection Methods for Urysohn Integral Equations with Green's Function Type Kernels
在本文中,我们考虑离散版本的修正投影方法求解Urysohn积分方程的核的类型的格林函数。对于$r \geq 0,$,选择关于均匀划分的次数为$\leq r $的分段多项式的空间作为近似空间。我们定义了一个离散的正交投影到这个空间,并取代Urysohn积分算子的Nyström近似。我们得到的离散版本的收敛顺序表明选择数值积分保持连续修正投影法的收敛顺序。最后给出了具体算例的数值结果。
2019-08-23 cs.NA math.FA math.NA
Notes on optimal approximations for importance sampling
NVIDIA(英伟达);Unity Technologies(Unity科技公司)
本文研究了在重要性抽样估计器中最小化方差的最优近似条件,探讨了在特定分段常数函数类中寻找最优投影g以最小化方差,以及通过近似比例的重要性抽样密度近似目标混合分布的问题。
2017-07-28 cs.GR cs.NA math.NA