Least-Squares versus Partial Least-Squares Finite Element Methods: Robust A Priori and A Posteriori Error Estimates of Augmented Mixed Finite Element Methods
本文针对广义达西问题，提出两种稳健的增广混合有限元方法（偏最小二乘方法），与标准LSFEM共享后验误差估计器，并首次证明基于L2的LSFEM的稳健性，数值实验验证了结果。
2023-12-27 cs.NA math.NA
Algebraic technique for mixed least squares and total least squares problem in the reduced biquaternion algebra
本文提出约化双四元数混合最小二乘与总体最小二乘方法，求解超定系统，给出解的存在唯一性条件及显式表达式，并涵盖两个特例及复数域最佳逼近，附数值示例验证。
2023-11-11 cs.NA math.NA
Quantum-inspired algorithm for truncated total least squares solution
总体最小二乘（TLS）方法在数据拟合中得到了广泛的应用。与最小二乘法相比，在TLS问题中，我们不仅考虑了观测误差，而且还考虑了测量矩阵中的误差。这在实际应用中更为现实。对于大规模离散不适定问题$Ax \approx b$，我们引入量子技术来近似截断总体最小二乘（TTLS）解。我们分析了量子截断总体最小二乘算法的精度，并进行了数值实验，以证明我们的方法的效率。
2022-05-01 cs.NA math.NA
Modified least squares method and a review of its applications in machine learning and fractional differential/integral equations
本文提出基于分数阶正交多项式的修正最小二乘法，通过数值实验证明其优于经典方法，并综述了该方法在分数阶微分/积分方程和机器学习中的应用。
2024-05-01 cs.NA math.NA
Approximation and quadrature by weighted least squares polynomials on the sphere
在一般的紧空间$\mathcal M$上，给出了$L_2$中的一系列Marcinkiewicz-Zygmund不等式，Gröchenig引入了加权最小二乘多项式和逐点样本最小二乘求积，得到了逼近定理和求积误差.本文得到了球面上的最优逼近定理和求积误差。给出了加权最小二乘算子范数的上界。
2021-01-11 cs.NA math.NA
Some Convergence Results on the Regularized Alternating Least-Squares Method for Tensor Decomposition
Clarkson University（克拉克森大学）；Johannes Kepler Universitat Linz（约翰内斯·开普勒林茨大学）
研究正则化交替最小二乘算法（RALS）在张量分解中的收敛性，证明其极限点为最小二乘代价泛函的临界点，并数值验证其收敛速度优于标准交替最小二乘方法。
2011-09-18 cs.NA math.NA
Numerical analysis of least squares and perceptron learning for classification problems
本文研究了感知器学习的正则化和非正则化版本以及分类问题的最小二乘法。导出了正则化最小二乘和感知器学习算法的Fr'echet导数。讨论了不同的Tikhonov正则化技术对正则化参数的选择。分析了通过非正则化算法对模拟数据集和实验数据集进行分类所获得的决策边界。
2020-09-22 cs.NA math.NA
Improved Convergence of Multilevel Moving Least-Squares Approximation
University of Bayreuth（拜罗伊特大学）
本文针对规则网格数据，证明低阶移动最小二乘与多级方案的组合可改进移动最小二乘近似的收敛性，解决高阶多项式带来的高计算成本与数值不稳定性问题。
2026-08-19 cs.NA math.NA
The Correct Classic Generalized Least-Squares Estimator of an Unknown Constant Mean of Randon Field
针对具有时间参数的负相关函数，推导了随机场未知常数均值的数值广义最小二乘估计量的渐近分离，即正确的经典广义最小二乘估计量。
2012-05-16 cs.NA math.NA
Least-Squares Finite Element Method for Sea-Ice Dynamics
本文提出了一种用于海冰动力学的首次-order系统最小二乘法，引入应力张量作为变量，并结合标准连续分段多项式和Raviart-Thomas元素进行计算验证。
2018-09-05 cs.NA math.NA
First-order system least-squares finite element method for singularly perturbed Darcy equations
我们定义并分析了一个最小二乘有限元法的一阶重新制定的缩放Brinkman模型的流体流动通过多孔介质。我们引入了一个伪应力变量，可以消除系统中的压力变量。它可以通过简单的后处理恢复。它表明，最小二乘功能是一致等价的，即，独立于奇异扰动参数，到参数依赖范数。这种范数等价性意味着在离散解中评估的最小二乘泛函提供了一个有效且可靠的后验误差估计。数值实验。
2022-11-16 cs.NA math.NA
Non-intrusive Least-Squares Functional A Posteriori Error Estimator: Linear and Nonlinear Problems with Plain Convergence
本文提出一种非侵入式最小二乘泛函后验误差估计器，适用于非最小二乘有限元求解的线性和非线性问题，并证明了自适应算法的普通收敛性。
2024-07-18 cs.NA math.NA
Least-squares driven stabilised finite element solution of advection-dominated flow problems
在这篇文章中，我们解决的解决方案的平流占主导地位的流动问题的稳定化的方法，通过最小二乘计算的稳定化系数。作为主要的方法学工具，我们引入了一个数据驱动的离线/在线策略来计算它们，具有较低的计算成本。我们比较的误差提供的最小二乘稳定系数的对流扩散和Navier-Stokes流的解决方案内提供的几个先前建立的稳定系数，结构化和非结构化网格，与拉格朗日有限元到第三度插值。在所有的测试流的最小二乘稳定系数提供准最优误差。我们的结论是，最小二乘程序是一个有益的程序，值得应用于一般流问题的一般稳定的解决方案。
2022-07-27 cs.NA math.NA
Accelerating Alternating Least Squares for Tensor Decomposition by Pairwise Perturbation
CP和Tucker分解的交替最小二乘算法在成本上由建立二次优化子问题所需的张量收缩所支配。我们引入了一个新的家庭的算法，使用微扰校正的子问题，而不是重新计算张量收缩。当因子矩阵在迭代中变化很小时，这种近似是准确的，这发生在交替最小二乘接近收敛时。我们提供了一个理论分析，以约束的近似误差。我们的数值实验表明，所提出的成对扰动算法是易于控制和收敛到最小值，是一样好的交替最小二乘。实验结果表明，对于各种模型张量问题和真实数据集，相对于最先进的交替最小二乘方法，改进高达3.1倍。
2021-04-14 cs.NA math.NA
The Convergence of Least-Squares Progressive Iterative Approximation with Singular Iterative Matrix
Zhejiang University（浙江大学）
本文研究了在迭代矩阵奇异时最小型递进迭代逼近法的收敛性，通过分析证明其在奇异情况下仍具收敛性。
2017-07-28 cs.NA math.NA
Linearized estimate of the backward error for the equality constrained indefinite least squares problem
Northeast Normal University（东北师范大学）
本文研究了等式约束不定二次最小二乘问题的回溯误差，采用线性化方法推导出精确回溯范数误差的紧估计，并通过数值实验验证其有效性。
2018-01-29 cs.NA math.NA
Quasi-Optimal Least Squares: Inhomogeneous boundary conditions, and application with machine learning
本文针对非齐次本质边界条件的偏微分方程，提出用对偶范数构造拟最优最小二乘形式，将求解转化为鞍点问题，并分别给出有限元稳定配对与对抗网络两种求解方案。
2025-05-09 cs.NA math.NA
First order least-squares formulations for eigenvalue problems
本文讨论椭圆型偏微分方程的最小二乘有限元逼近中算子的谱性质。借助适当的$L^2$误差估计，研究和分析了离散本征值和本征函数向相应的连续本征模的收敛性。先验和后验估计证明。
2020-02-19 cs.NA math.NA
Least-Squares Method for Inverse Medium Problems
本文提出了一种两阶段最小二乘方法来解决从噪声数据中同时重建多个未知系数的介质反问题。在第一阶段采用直接采样方法检测不均匀性的位置，而在第二阶段采用混合正则化的总体最小二乘法恢复介质剖面。总最小二乘法的目的是尽量减少残差的模型方程和数据拟合，以及适当的正则化，试图显着提高从第一阶段获得的近似的精度。我们还将提出一个分析的适定性和收敛性的算法。数值实验验证了这种新的两阶段最小二乘算法的精度和鲁棒性，具有很大的噪声容限。
2022-01-02 cs.NA math.NA
Stochastic gradient descent for linear least squares problems with partially observed data
提出了一种新的随机梯度下降法来求解部分观测数据下的线性最小二乘问题。我们的方法使用子矩阵索引随机选择的一对行和列的索引集更新在每一步的矩阵。在均方意义上的理论收敛保证。数值实验报告，以证明理论研究结果。
2020-07-09 cs.NA math.NA
The Finite Cell Method with Least Squares Stabilized Nitsche Boundary Conditions
我们最近开发的最小二乘稳定对称Nitsche方法的实施Dirichlet边界条件的有限单元法。最小二乘稳定化Nitsche方法与有限单元稳定化相结合，导致对称正定刚度矩阵，并且仅依赖于元素稳定化，这不会导致额外的填充。我们证明了先验误差估计和界的条件数。
2021-10-27 cs.NA math.NA
A new data fitting method for stretched Gaussian noise: stretched least square method
拉伸高斯分布是Hausdorff导数扩散方程的基本解，其对应的拉伸高斯噪声是科学和工程中广泛遇到的非高斯噪声。最小二乘法是拟合高斯噪声数据的标准回归方法，但对于非高斯噪声具有明显的限制。基于Hausdorff演算，以Hausdorff分形距离为横坐标，提出了一种拟合拉伸高斯噪声的拉伸最小二乘法。为了更好地与最小二乘法进行比较，将不同高水平的拉伸高斯噪声添加到实值。数值实验表明，拉伸最小二乘法比最小二乘法更适合于拟合拉伸高斯噪声。
2019-06-11 cs.NA math.NA physics.comp-ph
Least-squares for linear elasticity eigenvalue problem
本文研究线性弹性力学中最小二乘算子谱的逼近问题。我们考虑一个两个领域（应力/位移）和三个领域（应力/位移/涡）的配方;其他配方可以用类似的技术进行分析。我们证明了先验估计，我们证实了简单的二维数值实验的理论结果。
2020-10-29 cs.NA math.NA
Matrices Associated with Moving Least-Squares Approximation and Corresponding Inequalities
University of Chemical Technology and Metallurgy（索非亚化学技术与冶金大学）
本文研究了移动最小二乘逼近矩阵的性质，利用奇异值分解和奇异值不等式，推导了系数向量范数的不等式。
2015-10-27 cs.NA math.NA
A Sherman--Morrison--Woodbury approach to solving least squares problems with low-rank updates
本文提出利用低秩修正更新满秩长方形矩阵伪逆的公式，并据此加速求解修正后的最小二乘问题，实现类似Sherman–Morrison–Woodbury的显著提速。
2024-06-29 cs.NA math.NA
Generalized moving least squares and moving kriging least squares approximations for solving the transport equation on the sphere
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Leibniz University of Hannover（汉诺威莱布尼茨大学）
本文采用两种无网格方法求解定义在球面上的时变传输方程，其中一种是广义移动最小二乘法，另一种是球面上的移动克里格最小二乘插值法，通过不同分布点轻松实现，并利用二阶后向差分公式近似时间变量，采用双共轭梯度稳定算法结合零填充下上(ILU)预处理子解耦离散方案，通过固体质点旋转、涡旋卷曲和变形流三个经典测试问题验证方法有效性。
2019-04-11 cs.NA math.NA
A well-posed First Order System Least Squares formulation of the instationary Stokes equations
本文构造了带滑移边界条件的非定常不可压斯托克斯方程的一阶时空联立最小二乘方程。由于这种适定性，最小化的速度，压力和应力张量的有限元空间的任何协调三元组给出了一个准最佳逼近从该三元组。该配方是实用的意义上，所有的最小二乘功能的规范可以有效地评估。作为最小二乘类型，制定了一个有效的和可靠的后验误差估计。此外，推导出了先验误差估计，并给出了数值结果。
2022-01-26 cs.NA math.NA
On a progressive and iterative approximation method with memory for least square fitting
本文提出了一种带记忆的最小二乘逐步迭代逼近方法（MLSPIA）。该方法通过迭代调整控制点和权值，构造一系列具有三个权值的拟合曲线（曲面）。对于任意的归一化全正基，即使配置矩阵是亏列秩的，我们也得到了保证这些曲线（曲面）收敛于对给定数据点的最小二乘拟合曲线（曲面）的条件.本文证明了该方法的理论收敛速度比[邓春英，林惠伟]中最小二乘拟合的渐进迭代逼近法（LSPIA）的理论收敛速度快。最小二乘B样条曲线的渐进迭代逼近与曲面拟合。计算机辅助设计2014;47：32-44]在相同的假设下。实例验证了这一现象。
2019-08-21 cs.NA math.NA
Reconstructed Discontinuous Approximation to Stokes Equation in A Sequential Least Squares Formulation
本文提出了一种新的最小二乘有限元法，用两步连续法求解Stokes问题。近似空间由每个元素一个未知数的面片重构构造。第一步，我们重建一个由迹为零的分段无卷多项式组成的逼近空间。在这个空间中，我们极小化一个最小二乘泛函，得到了速度梯度和压力梯度的数值近似。在第二步中，我们最小化另一个最小二乘泛函，在重建的分段无发散空间中给出速度的解。在L2范数和能量范数下，我们得到了所有未知量的误差估计。二维和三维的数值结果验证了方法的收敛速度和极大的灵活性。
2020-03-04 cs.NA math.NA
A Least-Squares Finite Element Reduced Basis Method
在最小二乘有限元框架下，提出了一种求解参数化线性椭圆型偏微分方程的缩减基方法。一个严格的和可靠的误差估计的开发，并示出绑定的误差相对于PDE的精确解，在相反的估计，测量误差相对于一个有限维（高保真）近似。结果表明，最小二乘有限元的一阶公式是一个关键因素。该方法是使用数值例子证明。
2020-09-23 cs.NA math.NA
The Numerical Generalized Least-Squares Estimator of an Unknown Constant Mean of Random Field
针对随机场未知常数均值，通过计算机约束最佳线性无偏广义统计量，推导出数值广义最小二乘估计量，并证明经典广义最小二乘估计量仅是数值估计量的渐近分离形式。
2011-11-15 cs.NA math.NA
On the condition number theory of the equality constrained indefinite least squares problem
本文在条件数理论的统一框架下，给出了等式约束不定最小二乘问题的投影条件数的显式表达式。通过设置特定的范数和参数，一些广泛使用的条件数，如按范数、混合和按分量的条件数都是它的特例。从实际应用和计算的角度出发，给出了投影条件数的新的紧致形式或上界，以提高计算效率。新的紧凑形式是特别感兴趣的2-范数投影条件数的精确值的计算。当等式约束不定最小二乘问题退化为一些特殊的最小二乘问题时，我们的结果给出了这些特殊最小二乘问题的条件数理论的一些新发现.数值实验验证了我们的理论结果。
2020-07-23 cs.NA math.NA
A least squares radial basis function finite difference method with improved stability properties
基于径向基函数的局部配置法求解椭圆型问题在Neumann边界条件下表现出非鲁棒性。在本文中，我们克服了这个问题，制定的径向基函数生成的有限差分法，而不是在离散最小二乘设置。这使我们能够证明高阶收敛下的节点细化和数值验证，最小二乘制定是更准确和更强大的配置制定。修改后的算法的实施工作是可比的配置法。
2021-03-15 cs.NA math.NA
Upper Hölderian with Explicit Exponent of Solution Mapping with Applications to Ball Constrained Least Squares Problems
National University of Defense Technology（国防科技大学）
本文将Robinson广义方程隐函数定理扩展至上Hölder情形，确定了指数依赖关系，并证明球约束线性最小二乘解映射局部指数为1/3的上Hölder连续性，进而推广至参数情形，为相关问题提供了理论支撑。
2026-08-25 cs.NA math.NA math.OC
Geometric Weakly Admissible Meshes, Discrete Least Squares Approximations and Approximate Fekete Points
University of Calgary（卡尔加里大学）；Université Paul Sabatier（图卢兹第三大学）；Indiana University（印第安纳大学）；University of Padova（帕多瓦大学）
本文利用几何弱容许网格概念和基于经典QR分解的算法，计算用于离散多元最小二乘逼近和拉格朗日插值的有效点。
2009-02-02 cs.NA math.NA
Hierarchical Alternating Least Squares Methods for Quaternion Nonnegative Matrix Factorizations
本文提出一种用于四元数非负矩阵分解的分层交替最小二乘方法，在统一框架下处理RGB彩色与偏振图像，实验验证其优于现有方法。
2024-07-22 cs.NA math.NA
Analysis of moving least squares approximation revisited
University of Isfahan（伊斯法罕大学）
本文重新分析了移动最小二乘逼近在分数阶Sobolev空间中的误差估计，扩展了先前结果并解释了未被注意的数学细节，还提供了对偏微分方程Galerkin方法的应用。
2015-01-20 cs.NA math.NA
Structured inverse least-squares problem for structured matrices
Centre for System Science, IIT Jodhpur（印度学院焦特普尔分校系统科学中心）；Department of Mathematics, IIT Guwahati（印度学院古瓦哈提分校数学系）
本文研究结构矩阵的逆最小二乘问题，确定所有解及最小范数解，指出对于谱范数存在无限多最小范数解，而对于Frobenius范数唯一。
2015-01-10 cs.NA math.NA
A contribution to condition numbers of the multidimensional total least squares problem with linear equality constraint
研究了线性等式约束多维总体最小二乘问题（TLSE）的条件数。基于不变子空间的扰动理论，证明了TLSE问题在极限意义下等价于一个多维无约束加权总体最小二乘问题。利用极限技巧，给出了最小Frobenius范数TLSE解的范数、混合和分量条件数的Kronecker积公式.这些条件数的紧凑的上界提供，以减少存储和计算成本。所有这些条件数的表达式和上界统一的一维TLSE问题和多维总最小二乘问题。数值实验验证了我们的结果。
2020-12-17 cs.NA math.NA
A Gauss--Newton iteration for Total Least Squares problems
Università di Udine（乌迪内大学）；Gran Sasso Science Institute（格兰萨索科学研究所）
本文提出一种全局收敛的高斯-牛顿迭代法，用于求解总最小二乘问题，通过求解一个普通最小二乘问题来实现，其中矩阵A被一个秩一项扰动。
2017-07-28 cs.NA math.NA
Fast randomized least-squares solvers can be just as accurate and stable as classical direct solvers
针对现有随机最小二乘求解器无向后稳定性的问题，提出SPIR和FOSSILS两种可证明向后稳定的求解器，结合迭代精化与预条件迭代方法，收敛速度与现有算法相同，有望整合到软件库中替代经典求解器。
2025-08-20 cs.NA math.NA
An Optimal Least-Square Solver For Scaled Partial-Isometric Linear Systems
本文提出一种 O(mn) 直接最小二乘求解器，用于求解具有缩放部分等距结构的线性系统，并推广到块对角且各块缩放因子不同的情形，通过数值实验验证了方法有效性。
2025-07-02 cs.NA math.NA
Least squares spectral element formulation of eigenvalue problems with/without interface : the one dimensional example
提出最小二乘谱元法求解一维特征值问题，涵盖无界面与有界面情形，分析收敛性并展示不同跳跃条件的数值实验。
2025-03-30 cs.NA math.NA
A discontinuous least squares finite element method for time-harmonic Maxwell equations
提出并分析了求解不定时谐Maxwell方程组的间断最小二乘有限元法。该方案是基于$L^2$范数最小二乘功能的弱强加的连续性跨越内部的面孔。我们在分段多项式空间上极小化泛函来寻求数值解。该方法被证明是稳定的，没有任何限制的网格步长。我们证明了在能量范数和$L^2$范数下的收敛阶。二维和三维的数值结果验证了误差估计。
2020-07-14 cs.NA math.NA
Kronecker Product Least Squares
University of Cambridge（剑桥大学）
本文提出了一种基于克罗内克积矩阵-向量乘法的迭代方法，用于求解克罗内克积最小二乘问题，并通过数值结果对比了该方法与直接方法的效率和精度。
2017-05-21 cs.NA math.NA
Perturbation Analysis and Randomized Algorithms for Large-Scale Total Least Squares Problems
Fudan University（复旦大学）；Wuhan University（武汉大学）
本文提出总最小二乘问题的扰动分析与随机算法，通过数值实验验证扰动界的有效性，并开发高效的随机算法以解决大规模离散病态问题，显著降低计算时间并保持精度。
2014-11-11 cs.NA math.NA
Robust Least Squares for Quantized Data Matrices
在本文中，我们制定和解决一个稳健的最小二乘问题的线性方程组系统的量化误差的数据矩阵。普通最小二乘法无法考虑算子中的不确定性，对观测信号中的所有噪声进行建模。总体最小二乘考虑了数据矩阵中的不确定性，但与普通最小二乘相比，必然会增加运算符的条件数。Tikhonov正则化或岭回归经常被用来对抗病态，但需要参数调整，这带来了许多挑战，并对参数先验分布进行了强假设。所提出的方法还需要选择参数，但是可以以自然的方式选择参数，例如，四舍五入到第四位的矩阵使用0.5e-4的不确定性边界参数。我们在这里表明，我们的强大的方法在理论上是适当的，易于处理的，并表现良好，对普通和总最小二乘。
2020-06-23 cs.NA math.NA math.OC
Least Squares Finite Element Method for Hepatic Sinusoidal Blood Flow
复杂生物系统的模拟，例如器官中血流的描述，需要大量的计算能力以及对器官生理学的详细描述。我们提出了一种新的最小二乘离散化方法模拟的正弦血流在肝小叶使用多孔介质的方法为肝脏组织。不同最小二乘项的缩放导致鲁棒算法，并且固有误差估计器提供了有效的细化策略。
2020-08-04 cs.CE cs.NA math.NA
Accurate principal component analysis via a few iterations of alternating least squares
交替最小二乘的几次迭代与随机的起点证明足以产生几乎最佳的谱和Frobenius范数精度的低秩近似矩阵;迭代收敛是不必要的。因此，实现交替最小二乘的软件可以通过适当的参数设置来改造，以高效地计算接近最优精度的低秩近似，而不需要收敛。
2016-03-05 cs.NA math.NA stat.CO
A fully space-time least-squares method for the unsteady Navier-Stokes system
介绍并分析了一种适用于非定常Navier-Stokes方程的时空最小二乘方法。考虑了二维情形的弱解和三维情形的正则解。从任何初始的猜测，我们构造一个最小化序列的最小二乘功能，强收敛到一个解决方案的Navier-Stokes系统。在与粘性常数的值相关的有限次迭代之后，收敛是二次的。二维情况下的数值实验支持我们的分析。这种全局收敛的最小二乘方法与阻尼牛顿法有关，当用于通过变分公式求解Navier-Stokes系统时。
2019-09-11 cs.NA math.NA math.OC
Block row recursive least squares migration
University of Alberta（阿尔伯塔大学）
本文提出一种基于递归最小二乘的波方程最小二乘迁移方法，通过滑动窗口实现秩K的更新与降秩计算，适用于动态和稳态过程，理论证明在稳态情况下算法具有超线性收敛性。
2017-12-23 cs.NA math.NA physics.comp-ph
On Truncated-SVD-like Sparse Solutions to Least-Squares Problems of Arbitrary Dimensions
针对任意维数系数矩阵的最小二乘问题，提出两种算法计算稀疏解，并证明所得解向量接近截断SVD方法得到的解向量。
2014-11-04 cs.DS cs.NA math.NA
An Introduction to Total Least Squares
本文以统一视角介绍总体最小二乘（TLS）方法，通过列空间与行空间几何解释其与普通最小二乘的联系，推导简单及多元回归的TLS解，并讨论其存在性及推广。
1998-05-18 cs.NA math.NA math.RA
Deep least-squares methods: an unsupervised learning-based numerical method for solving elliptic PDEs
Purdue University（普渡大学）
研究了一种基于无监督深度学习的偏微分方程数值求解方法。该方法利用深度神经网络通过组合构造逼近偏微分方程的解，并采用最小二乘泛函作为损失函数来确定深度神经网络的参数。偏微分方程有各种各样的最小二乘泛函。本文研究了文献[3]中基于一阶标量二阶椭圆型偏微分方程组的一阶系统最小二乘泛函。给出了一维二阶椭圆型偏微分方程的数值结果。
2020-07-12 cs.LG cs.NA math.NA
