Inexact Newton regularization methods in Hilbert scales
Virginia Tech(弗吉尼亚理工大学);University of Applied Sciences Zittau/Görlitz(齐陶/格尔利茨应用科学大学)
针对Hilbert尺度中的非线性反问题,提出一类不精确牛顿正则化方法,并在一定条件下获得阶最优收敛率。
2010-09-20 cs.NA math.NA
A Riemannian Inexact Newton Dogleg Method for Constructing a Symmetric Nonnegative Matrix with Prescribed Spectrum
本文研究了由可实现谱构造对称非负矩阵的反问题。我们将反问题转化为黎曼乘积流形上的欠定非线性矩阵方程。为了解决这个问题,我们发展了一个黎曼欠定不精确Newton折线方法,用于求解定义在黎曼流形和欧几里得空间之间的一般欠定非线性方程。在适当的假设下,证明了该方法的全局收敛性和平方收敛性.然后将该方法应用于其等价的非线性矩阵方程求解反问题,并构造了扰动正规RiemannianNewton方程的预条件子.数值试验表明了该方法求解反问题的有效性。
2021-10-29 cs.NA math.NA
An inexact semismooth Newton-Krylov method for semilinear elliptic optimal control problem
School of Mathematics and Statistics, Guangdong University of Technology(广东工业大学数学与统计学院)
针对半线性椭圆最优控制问题,提出结合GMRES(Krylov子空间方法)与非单调线搜索的不精确半光滑Newton方法,经理论分析得超线性收敛性,数值实验验证其准确性与效率。
2025-11-13 cs.NA math.NA math.OC
An inexact framework of the Newton-based matrix splitting iterative method for the generalized absolute value equation
针对广义绝对值方程求解问题,本文提出基于Newton的矩阵分裂迭代法的非精确框架INMS,证明其全局线性收敛性,数值实验验证了该方法的优越性。
2022-02-14 cs.NA math.NA math.OC
On the order optimality of the regularization via inexact Newton iterations
Mathematical Sciences Institute, The Australian National University(澳大利亚国立大学数学科学学院)
本文研究非精确牛顿正则化方法求解非线性不适定反问题,通过结合Landweber迭代、隐式迭代、渐近正则化和Tikhonov正则化作为内层方案,在Hilbert尺度下获得了阶最优收敛速率,改进了Rieder的次优结果。
2011-11-08 cs.NA math.NA
Inexact Newton's method to nonlinear functions with values in a cone
IME/UFG(联邦戈亚斯大学数学与统计研究所);CCET/UFOB(巴雷拉斯联邦大学理学院)
本文研究Banach空间中非线性包含问题的解法,利用Robinson提出的凸优化技术,证明了近似牛顿法的鲁棒收敛定理,并推导出Kantorovich和Smale的α定理的仿射不变版本。
2016-04-21 cs.NA math.NA
A robust Kantorovich's theorem on inexact Newton method with relative residual error tolerance
IME/UFG(联邦大学戈亚斯州数学与统计研究所);IMPA(纯数学与应用数学研究所)
本文证明在相对残差容限固定的条件下,不精确牛顿法在局部假设下Q-线性收敛到非线性算子的零点,并推广到自和谐函数最小化和解析函数求根问题。
2011-10-15 cs.NA math.NA
An inexact Matrix-Newton method for solving NEPv
本文提出一种基于全局Krylov子空间的无矩阵非精确矩阵-牛顿方法,用于在矩阵层面求解NEPv,并通过数值实验证明其优于传统SCF算法。
2024-09-03 cs.NA math.NA
A Globally Convergent Inexact Newton-Like Cayley Transform Method for Inverse Eigenvalue Problems
Zhejiang University(浙江大学);Zhejiang Normal University(浙江师范大学)
本文提出一种基于近似牛顿方法的全局化算法,用于求解逆特征值问题,通过回溯技术保证全局收敛性,并在某些弱假设下证明了R阶收敛性。
2013-04-23 cs.NA math.NA
An inexact infeasible arc-search interior-point method for linear optimization problems
Institute of Science Tokyo(东京科学大学)
本文提出一种结合弧搜索策略和近似解牛顿系统的近似不可行内点法,通过更精确地逼近中央路径,提高了迭代次数和计算时间的效率。
2026-01-07 cs.NA math.NA math.OC
A Riemannian Inexact Newton-CG Method for Nonnegative Inverse Eigenvalue Problems: Nonsymmetric Case
Hangzhou Dianzi University(杭州电子科技大学);Xiamen University(厦门大学);University of Macau(澳门大学)
本文提出一种非负逆特征值问题的黎曼近似牛顿-共轭梯度方法,用于求解非对称情况下的非负矩阵,其谱为给定的自共轭复数集。
2017-06-12 cs.NA math.NA
Inexact Newton combined approximations in the topology optimization of geometrically nonlinear elastic structures and compliant mechanisms
本文将不精确牛顿法与迭代组合逼近法(ICA)相结合,在几何非线性假设下求解拓扑最优化问题。使用顺序分段线性规划(SPLP)算法解决基于密度的问题配方。已提出五种不同的策略来控制非线性平衡方程的雅可比矩阵因式分解的频率。为了在保持近似解精度的同时加快整个迭代方案的速度,其中三种策略还将ICA方案用于与灵敏度分析相关的伴随线性系。所提出的再分析策略的鲁棒性通过四个基准问题的数值实验得到证实-两个结构和两个符合机制。除了评估考虑固定迭代预算的策略的性能外,还分析了理论上支持的SPLP算法停止准则的影响。
2021-12-16 cs.NA math.NA math.OC
Inexact Newton Method for General Purpose Reservoir Simulation
不精确牛顿法被广泛用于求解非线性方程组。这些方法的收敛性由相对线性容差$η_ν$控制,该容差也称为强迫项。非常小的$η_ν$可能导致牛顿方程的过度求解。实际的油藏模拟使用具有固定强迫项的不精确牛顿法,通常为$10^{-3}$或$10^{-4}$。另外,对于一个给定的不精确牛顿步骤的变量强制项已被证明是相当成功的,在各种实际应用中,减少过度求解的程度。线性迭代的累积次数通常减少,但非线性迭代的次数通常增加。我们首先提出了现有的不精确牛顿方法与各种强迫项估计的审查,然后我们提出了改进的估计$η_ν$。这些改进的估计试图避免尽可能多的oversolving时,距离的解决方案,并试图强制平方收敛的解决方案的邻域。我们的估计减少了总的线性迭代,而只导致一些额外的牛顿迭代。我们展示了完全耦合的三相和多组分多相模型在等温和热蒸汽油藏模拟中的成功应用,以及使用参考CPR-AMG迭代线性求解器进行天然气回注的真实深海西非油田。
2019-12-13 cs.NA math.NA
An inexact Newton-Krylov method for stochastic eigenvalue problems
Max Planck Institute for Dynamics of Complex Technical Systems(马普大学复杂技术系统动力学研究所);Technische Universität Chemnitz(开姆尼茨工业大学)
本文提出了一种基于张量积结构的低秩近似牛顿方法,用于高效求解随机本征值问题,通过数值实验验证了该方法的有效性。
2017-10-25 cs.NA math.NA
Convergence of inexact descent methods for nonconvex optimization on Riemannian manifolds
Universidade Federal de Goiás(戈亚斯联邦大学);Universidade Federal do Piauí(皮奥伊联邦大学);Universidade Federal do Rio de Janeiro(里约热内卢联邦大学)
针对满足Kurdyka-Lojasiewicz不等式的函数,在黎曼流形上建立了非精确下降方法的抽象收敛分析,得到了邻近点法和最速下降法生成的有界序列的完全收敛性。
2011-03-24 cs.NA math.NA
Parallel inexact Newton-Krylov and quasi-Newton solvers for nonlinear elasticity
在这项工作中,我们解决不精确的牛顿-克雷洛夫和拟牛顿算法,更具体地说,BFGS方法,非线性弹性方程的解决方案的实施和性能,并比较它们的标准牛顿-克雷洛夫方法。这是通过一个系统的性能分析的求解器相对于问题的大小,数据的大小和处理器的数量几乎不可压缩和不可压缩的力学。我们考虑三个测试案例:Cook膜(静态,几乎不可压缩)、扭转试验(静态,不可压缩)和心脏模型(复杂材料,不定常,几乎不可压缩)。我们的结果表明,拟牛顿法应首选可压缩力学,而不精确的牛顿-克雷洛夫方法应首选不可压缩问题。我们表明,这些索赔也支持的方法的收敛性分析。在任何情况下,所有方法都具有足够的性能,并且比标准的Newton-Krylov方法提供了显着的加速,在最好的情况下,CPU时间减少超过50%。
2022-03-10 cs.MS cs.NA math.NA
Accelerating Aeroelastic UVLM Simulations by Inexact Newton Algorithms
针对柔性机械结构气动弹性仿真中非线性方程组的求解,提出利用结构导数近似全导数的非精确牛顿算法和拟牛顿算法,实验表明该近似大幅加速了牛顿算法,且拟牛顿算法表现优于非精确牛顿算法。
2024-03-22 cs.NA math.NA
Complexity Guarantees for Nonconvex Newton-MR Under Inexact Hessian Information
该研究扩展了非凸无约束优化的Newton-MR算法至非精确Hessian场景,分析了不同非凸条件下的复杂度与收敛性,并通过机器学习问题实验验证了算法的鲁棒性。
2024-09-13 cs.NA math.NA math.OC
Efficient Solution of Large-Scale Algebraic Riccati Equations Associated with Index-2 DAEs via the Inexact Low-Rank Newton-ADI Method
本文推广了Benner,Heinkenschloss,Saak和Weichelt的算法:大规模代数Riccati方程的不精确低秩Newton-ADI方法,应用数值数学卷~ 108(2016),第~页125- 142,doi:10.1016/j.apnum.2016.05.006,与Hessenberg指数-2微分代数方程(DAE)系统相关的Riccati方程。这样的DAE系统出现,例如,从半离散化、线性化(稳态附近)Navier-斯托克斯方程。相关的Riccati方程的解是重要的,例如,来计算稳定纳维-斯托克斯方程的反馈定律。Riccati方程的数值解面临的挑战来自于系统的大规模和DAE系统的代数约束。这些挑战是通过将不精确的低秩Newton-ADI方法仔细扩展到DAE系统的情况来应对的。在DAE的情况下扩展的一个主要成分是投影到由代数约束所描述的流形。在该算法中,方程从未被显式地投影,而是仅在需要时应用投影。数值经验表明,控制不精确性和线搜索的算法选择可以帮助避免子问题的矩阵,只有边缘稳定。该算法的性能示出了一个大规模的Riccati方程与稳定的Navier-Stokes绕圆柱流动。
2019-09-12 cs.NA math.NA
Subsampled Inexact Newton methods for minimizing large sums of convex functions
University of Florence(佛罗伦萨大学);University of Novi Sad(诺维萨德大学)
本文研究了使用子采样函数、梯度和Hessian近似值的不精确牛顿法来最小化大规模凸函数之和的问题,通过共轭梯度法计算不精确牛顿步,并利用非单调线搜索保证全局收敛。研究在强凸函数假设下,探讨了子采样精度提高时的R线性收敛性和最坏情况迭代复杂度,并提出了保证局部q线性/超线性收敛的规则。
2018-11-14 cs.NA math.NA
Efficiently preconditioned Inexact Newton methods for large symmetric eigenvalue problems
University of Padua(帕多瓦大学)
本文提出了一种高效预条件牛顿方法,用于计算大规模稀疏对称正定矩阵的最左特征对。基于BFGS更新公式设计了预条件器序列,用于求解线性化牛顿系统,验证预条件雅可比矩阵保持接近单位矩阵的理论依据,数值结果表明该算法效率高,与Jacobi-Davidson方法竞争性强。
2013-12-05 cs.NA math.NA
Riemannian Inexact Newton Method for Structured Inverse Eigenvalue and Singular Value Problems
National Formosa University(国立虎尾科技大学);National Cheng Kung University(国立成功大学);University of Macau(澳门大学)
本文提出了一种结合微分几何和不精确牛顿方法的Riemannian不精确牛顿方法,用于解决结构逆特征值和奇异值问题,并展示了该方法在全局和二次收敛性以及数值鲁棒性和精度方面的表现。
2018-10-16 cs.NA math.NA
A Globalized Inexact Semismooth Newton Method for Nonsmooth Fixed-point Equations involving Variational Inequalities
本文提出一种用于Banach空间中非光滑不动点方程的全局化非精确半光滑牛顿法,通过Banach不动点定理实现全局收敛和q-超线性收敛,并成功应用于热成型中的拟变分不等式问题。
2024-09-29 cs.NA math.AP math.NA
An inexact Newton-Krylov algorithm for constrained diffeomorphic image registration
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们提出了解决大变形几何图像配准问题的数值算法。我们将非刚性图像配准问题转化为一个最优控制问题。这导致了一个无限维偏微分方程(PDE)约束的最优化问题。PDE约束,在其最简单的形式,一个双曲传输方程的图像强度的演变。控制变量是速度场。控制上的Tikhonov正则化确保适定性。我们考虑基于$H^1$ -或$H^2$ -范数的标准平滑正则化。我们增加了这个正则化方案的速度场的发散性的约束,使变形不可压缩,从而确保变形梯度的行列式等于一,直到数值误差。我们使用傅立叶伪谱离散空间和切比雪夫伪谱离散时间。我们使用预处理,全球化,矩阵自由,不精确的牛顿-克雷洛夫方法进行数值优化。设计了一种参数延拓方法来估计最优正则化参数。通过控制变形场的几何特性来确保规则性。总的来说,我们得到了一个黑盒解决方案。我们研究了Hessian格式的谱性质、网格收敛性、数值精度、计算效率和变形规律。我们比较设计的牛顿-克雷洛夫方法与全球化的预条件梯度下降。我们研究了不同数量的未知量的影响。报告的结果表明,优良的数值精度,保证局部变形规律,和计算效率与局部质量守恒的可选控制。如果需要高精度的反演,Newton-Krylov方法明显优于Picard方法。
2015-05-07 cs.CV cs.NA math.NA
Varifold-based matching of curves via Sobolev-type Riemannian metrics
Florida State University(佛罗里达州立大学);Brunel University London(布鲁内尔伦敦大学);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出利用Sobolev二阶度量与变分不精确匹配方法,研究无参数曲线间测地线的计算,应用于蚊翅形状分析并与LDDMM框架进行比较。
2017-06-06 cs.NA math.DG math.NA
PDE-constrained LDDMM via geodesic shooting and inexact Gauss-Newton-Krylov optimization using the incremental adjoint Jacobi equations
Computer Sciences Department(计算机科学系);Aragon Institute on Engineering Research(阿拉贡工程研究院);University of Zaragoza(萨拉戈塔大学)
本文提出了一种基于偏微分方程约束的LDDMM方法,利用测地线射击和近似高斯-牛顿-克罗内克优化,通过增量伴随雅可比方程在初始速度场空间中进行参数化,从而避免了对初始速度场的复杂依赖,提供了高效的测地线路径。
2018-07-11 cs.CV cs.NA math.NA
A general convergence analysis on inexact Newton method for nonlinear inverse problems
Virginia Tech(弗吉尼亚理工大学)
针对非线性不适定反问题,提出使用不精确牛顿法并基于偏差原则终止迭代,在谱滤波函数类下证明收敛性并导出最优收敛速率。
2010-10-17 cs.NA math.NA
Riemannian Newton optimization methods for the symmetric tensor approximation problem
对称张量逼近问题(STA)由通过对称秩1张量或低对称秩线性形式的幂的线性组合来逼近对称张量或齐次多项式组成。本文提出了两种新的复系数对称张量低秩逼近的黎曼牛顿型方法.第一种方法利用权和单位向量对秩至多为$r$的张量集进行参数化.利用齐次多项式上非极性积的性质,结合复优化的有效工具,我们给出了一个显式的黎曼梯度和Hessian公式,导致具有局部平方收敛的牛顿迭代。我们证明了在初始点邻域内的非亏损张量上满足一定的正则性条件下,Newton迭代(用信赖域方法完成)收敛于局部极小值.第二种方法是Veronese流形上的笛卡儿积上的RiemannianGauss-Newton方法.描述了这种黎曼流形的切空间的一个显式正交基。我们推导出了黎曼梯度和黎曼Hessian的Gauss-Newton逼近。在Veronese流形上提出了一种新的收缩算子,并分析了这两种方法的数值行为,初始点由同时矩阵对角化(SMD)提供,数值实验表明这两种方法在不同情况下都具有良好的数值行为,并与现有的最先进的方法进行了比较.
2021-12-22 cs.NA math.NA math.OC
Global Convergence and Error Propagation in Neural Gradient Flows: A Riemannian Optimization Framework
University of Maryland, College Park(马里兰大学帕克分校);University of California-Riverside(加州大学河滨分校)
本文在最小化移动方案框架下,通过将神经网络的优化问题重新表述为希尔伯特空间中的增量集上的最小化,并利用黎曼几何理论,证明了在特定条件下连续和离散的黎曼梯度流线性收敛到子问题唯一极小点,且非精确迭代全局收敛到全局最优的邻域。
2026-05-26 cs.NA math.NA math.OC
An inexact subsampled proximal Newton-type method for large-scale machine learning
University of California(加利福尼亚大学);University of Southern California(南加利福尼亚大学);University of Michigan(密歇根大学)
本文提出一种快速近端牛顿型算法,通过子采样构造牛顿子问题,提升大规模优化效率,实验验证其在ℓ₁正则化逻辑回归中的优越性。
2017-08-28 cs.LG cs.NA math.NA
Riemannian Newton methods for energy minimization problems of Kohn-Sham type
本文针对计算物理和化学中的约束能量最小化问题,提出了无限维 Stiefel 和 Grassmann 流形上的黎曼牛顿方法,推导了适用于变分空间离散化的黎曼 Hessian 表达式,数值实验证明其优于自洽场迭代和梯度下降等成熟方案。
2024-06-27 cs.NA math.NA math.OC
A thorough study of Riemannian Newton's Method
本文针对Grassmann与Stiefel流形上的优化问题,系统比较RNM与欧几里得牛顿法,并通过125个分子的Hartree–Fock实验验证其收敛、迭代与初值鲁棒性优势。
2025-06-16 cs.NA math.NA math.OC
On the globalization of Riemannian Newton method
为了寻找定义在黎曼流形上的向量场的奇异性,本文提出了一种新的Newton方法的全局化策略,并证明了其具有超线性速率的整体收敛.特别是,这种全球化一般化的一般收回现有的阻尼牛顿法。所提出的整体收敛分析不需要对向量场的奇异性作任何假设。应用该方法求解了两个Stiefel流形乘积上的截断奇异值问题、对称正定矩阵锥上的双曲手抓取问题和球面上的Rayleigh商问题.解决了一些学术问题。数值实验表明,该算法具有更好的鲁棒性与上述方法相比。
2020-08-14 cs.NA math.NA math.OC
A Regularized Newton-Type Method for Manifold--Affine Intersection Problems under Intrinsic Transversality
University of Science and Technology of China(中国科学技术大学)
提出正则化牛顿-SLRA算法解决流形与仿射子空间交集问题,在弱横截条件下实现线性收敛,在横截条件下达到二次收敛,并验证了近似投影变体的鲁棒性。
2026-09-18 cs.NA math.NA math.OC
An inexact Douglas-Rachford splitting method for solving absolute value equations
近二十年来,人们对寻找$x\in\mathbb{R}^n$使得$Ax-|x|-b=0$的绝对值方程(AVE)越来越感兴趣,其中$A\in \mathbb{R}^{n\times n}$和$b\in \mathbb{R}^n$。在本文中,我们的注意力集中在设计有效的算法。为此,我们将AVE重新表示为广义线性互补性问题(GLCP),在等价形式中,它是最经济的,因为它不会增加变量的维度。为了求解广义线性规划问题,我们提出了一种具有相对误差容限的非精确Douglas-Rachford分裂方法。因此,在内部迭代过程中,我们可以使用LSQR方法([C.C.佩吉和文学硕士Saunders,ACM Trans. Math.软件(TOMS),8(1982),pp. 43- 71])来为每个子问题找到合格的近似解,这使得每次迭代的成本非常低。我们证明了算法的收敛性,并建立了它的全局线性收敛速率。将所得结果与目前流行的精确广义牛顿法[O.L.曼格萨里安,奥普蒂姆。信件:1(2007),pp. 3- 8]、不精确半光滑牛顿法[J.Y.B. Cruz,O.P. Ferreira和L.F.普鲁登特,计算机。Optim。应用程序、65(2016),pp. 93- 108]和精确的类SOR方法[Y. F. Ke和C.- F.妈,应用数学计算,311(2017),pp. 195--202]的结果表明,该算法具有很好…
2021-03-17 cs.NA math.NA math.OC
Convergence Analysis of Inexact Randomized Iterative Methods
University of Edinburgh(爱丁堡大学);King Abdullah University of Science and Technology (KAUST)(沙特国王 Abdullah 科技大学 (KAUST));MIPT(莫斯科物理技术学院)
本文给出了几种随机迭代法的不精确变式的收敛速度分析。其中研究的方法有:随机梯度下降,随机牛顿,随机邻近点和随机子空间上升。这些方法的一个共同特点是,在他们的更新规则的某一个子问题需要被精确地解决。我们放宽这一要求,允许子问题得到不精确的解决。特别是,我们提出并分析了不精确随机迭代法解决三个密切相关的问题:凸随机二次最优化问题,一个最佳逼近问题及其对偶,凹二次最大化问题。我们提供迭代复杂性的结果,在几个假设的不精确误差。许多流行的和一些更奇特的方法的不精确变体,包括随机块Kaczmarz,随机高斯Kaczmarz和随机块坐标下降,可以被视为特殊情况。数值实验证明了允许不精确的好处。
2019-03-19 cs.LG cs.NA math.NA
Newton Method on Riemannian Manifolds: Covariant Alpha-Theory
本文研究黎曼流形上牛顿法求映射和向量场零点的定量理论,提出协变Alpha理论。
2003-01-15 cs.NA math.NA
Convergence analysis of Riemannian Gauss-Newton methods and its connection with the geometric condition number
Max-Planck-Institute for Mathematics in the Sciences(马克斯·普朗克数学院);KU Leuven(荷语鲁汶大学)
本文分析了Riemannian Gauss-Newton方法在流形上求解最小二乘问题的局部收敛性,并将所得的乘法常数估计与几何条件数联系起来。
2017-10-16 cs.NA math.NA
Adaptive Finite Element Methods with Inexact Solvers for the Nonlinear Poisson-Boltzmann Equation
University of California San Diego(加利福尼亚大学圣地亚哥分校)
针对非线性Poisson-Boltzmann方程,提出并分析了一种结合非精确求解器的自适应有限元方法,通过仅在粗网格上完全求解、后续网格仅进行Newton更新,实现了线性时间复杂度和收缩性质。
2011-07-11 cs.NA math.NA
Two Newton methods on the manifold of fixed-rank matrices endowed with Riemannian quotient geometries
Université catholique de Louvain(天主教鲁汶大学);Université Paul Sabatier(保罗·萨巴蒂尔大学);University of Liège(列日大学)
本文考虑固定秩矩阵流形上的两种黎曼几何,通过黎曼淹没理论推导几何对象,并给出相应的黎曼牛顿方法,其收敛性分析优于欧几里得方法,计算开销小,适用于低秩矩阵补全等问题。
2012-09-01 cs.NA math.DG math.NA
Solving nonlinear ODEs with the ultraspherical spectral method
本文将超球面谱方法扩展至非线性 ODE 边值问题,提出基于结构化算子的 inexact Newton-GMRES 框架以实现高效预条件与快速 Jacobian-向量乘法,混合精度实现下展现出极高的速度与精度。
2023-06-30 cs.NA math.NA
Proximal Quasi-Newton Methods for Regularized Convex Optimization with Linear and Accelerated Sublinear Convergence Rates
Dept. of Industrial and Systems Engineering, Lehigh University, Bethlehem, PA, USA(工业与系统工程系,莱维大学,伯灵顿,宾夕法尼亚州,美国)
本文研究了正则化凸优化中近似拟牛顿方法的收敛性,分析了强凸情况下精确与不精确设置的收敛性质,并探讨了加速变体的实用性与性能。
2017-10-17 cs.LG cs.NA math.NA
Energy-adaptive Riemannian optimization on the Stiefel manifold
本文讨论计算物理和化学中出现的Gross-Pitaevskii方程和Kohn-Sham方程等非线性特征向量问题的数值解。这些问题描述了无限维Stiefel流形上能量最小化问题的临界点。为了有效地计算极小,我们提出了一种新的黎曼梯度下降法诱导的能量自适应度量。量化的收敛性的方法建立在适当的假设下的基本问题。非单调线搜索和黎曼梯度的不精确估计大大提高了该方法的整体效率。数值实验说明了该方法的性能,并证明了其与成熟的计划的竞争力。
2022-04-16 cs.NA math.NA
The Hessian Riemannian flow and Newton's method for Effective Hamiltonians and Mather measures
有效哈密顿量出现在几个问题中,包括均匀化的Hamilton-Jacobi方程,非线性控制系统,哈密顿动力学,和Aubry-Mather理论。在奥布里-马瑟理论中,相关的对象,马瑟措施,也非常重要。在这里,我们结合平均场游戏的想法与海森黎曼流计算有效的哈密顿量和马瑟措施同时进行。我们证明了Hessian黎曼流在连续情形下的收敛性。对于离散情形,我们给出了Hessian黎曼流的存在性和收敛性。此外,我们探讨了一个变种的牛顿法,大大提高了性能的海森黎曼流。在我们的数值实验中,我们看到,我们的算法保持了Mather措施的非负性,并且在接近奇异的问题中比{相关}方法更稳定。此外,我们的方法还提供了一种方法来近似平稳MFG。
2020-04-17 cs.NA math.NA
A Preconditioned Riemannian Gauss-Newton Method for Least Squares Inverse Eigenvalue Problems
Zhejiang University of Science and Technology(浙江科技大学);Xiamen University(厦门大学);University of Macau(澳门大学);Hangzhou Dianzi University(杭州电子科技大学)
本文提出了一种Riemannian近似广义牛顿法用于最小二乘反特征值问题,分析了其全局和局部收敛性,并提出预条件共轭梯度法求解Riemannian广义牛顿方程,通过数值实验验证了方法的有效性。
2018-06-17 cs.NA math.NA
A general alternating-direction implicit Newton method for solving complex continuous-time algebraic Riccati matrix equation
本文利用牛顿法将连续时间代数Riccati矩阵方程转化为李雅普诺夫方程。然后,我们介绍了一个有效的通用交替方向隐式(GADI)方法来解决李雅普诺夫方程。提出了非精确Newton-GADI方法,有效地节省了计算量。此外,我们还分析了Newton-GADI方法的收敛性。通过分析Newton-GADI法和Newton-ADI法的谱半径,比较了它们的收敛速度。此外,我们给出了一种方法来选择准最优参数。相应的数值试验表明,所提出的算法的有效性。
2022-03-04 cs.NA math.NA
Riemannian Newton-CG Methods for Constructing a Positive Doubly Stochastic Matrix From Spectral Data
本文研究了正双随机阵的特征值反问题,其目的是由给定的可实现谱数据构造一个正双随机阵。利用实Schur分解,将反问题转化为矩阵乘积流形上的非线性矩阵方程。提出了求解非线性矩阵方程的单调和非单调Riemann不精确Newton-CG方法。在一定的假设条件下,证明了算法的全局收敛性和平方收敛性.我们还提供了不变子空间的构造解决方案的反问题的基础上计算的实Schur分解。最后,我们报告了一些数值测试,包括在有向图中的应用,以说明所提出的方法的有效性。
2020-06-24 cs.NA math.NA
Riemannian stochastic quasi-Newton algorithm with variance reduction and its convergence analysis
The University of Electro-Communications(电气通信大学);Tokyo University of Science(东京理科大学)
随机方差缩减算法最近变得流行,用于最小化大的但有限数量的损失函数的平均值。提出了一种具有方差缩减的黎曼随机拟牛顿算法(R-SQN-VR)。平均,添加和减去多个梯度的关键挑战是解决与收缩和矢量传输的概念。在收缩算子和向量迁移算子下,我们给出了R-SQN-VR在非凸函数和收缩凸函数上的收敛性分析。在对称正定流形上的Karcher均值计算和Grassmann流形上的低秩矩阵完备化上对该算法进行了评价。在所有情况下,该算法优于最先进的黎曼批处理和随机梯度算法。
2017-09-16 cs.LG cs.NA math.NA
An augmented Lagrangian preconditioner for the control of the Navier--Stokes equations
针对定常不可压缩Navier--Stokes方程的分布控制问题,提出不精确牛顿线性化最优性条件的方法,结合增广拉格朗日块三角预条件子与灵活GMRES求解离散后的鞍点系统,数值实验验证其对粘度、网格尺寸等的鲁棒性。
2025-04-15 cs.NA math.NA
Design of Tight Minimum-Sidelobe Windows by Riemannian Newton's Method
短时傅里叶变换(STFT)或离散Gabor变换(DGT)在信号分析和处理中有着广泛的应用。它们的性质由窗函数表征。对于信号处理,设计一种称为紧窗的特殊窗是重要的,因为已知它使DGT域处理对误差具有鲁棒性。在本文中,我们提出了一种方法,设计紧密的窗口,最大限度地减少旁瓣能量。它被配制成一个受约束的光谱浓度问题,并推导出一个斜流形上的牛顿法,以有效地获得一个解决方案。我们的数值例子表明,该算法只需要几个迭代到达一个稳定点。
2021-12-05 cs.NA eess.AS eess.SP
Symplectic Stiefel manifold: tractable metrics, second-order geometry and Newton's methods
该研究针对辛约束优化问题,在辛Stiefel流形上构建易处理度量的黎曼优化几何要素,开发显式二阶几何与多种黎曼牛顿法,提出兼具全局与局部快速收敛性的混合算法,数值实验验证了方法有效性。
2024-06-20 cs.NA math.NA math.OC
Towards a Lagrange-Newton approach for PDE constrained shape optimization
University of Trier(特里尔大学)
本文提出基于黎曼向量丛的拉格朗日-牛顿方法,用于解决PDE约束下的形状优化问题,并通过数值例子验证了该方法的可行性。
2014-11-27 cs.NA math.NA
Proximal Newton-type methods for minimizing composite functions
Institute for Computational and Mathematical Engineering, Stanford University(斯坦福大学计算与数学工程研究所);Department of Management Science and Engineering, Stanford University(斯坦福大学管理科学与工程系)
针对光滑函数与非光滑凸函数之和的优化问题,提出近端牛顿型方法,并证明其在不精确搜索方向下仍保持牛顿型方法的收敛性,统一了生物信息学、信号处理和统计学习中的多种流行方法。
2014-03-17 cs.DS cs.LG cs.NA