The neural network models with delays for solving absolute value equations
Liaoning Technical University(辽宁工程技术大学);Fujian Normal University(福建师范大学);Beihang University(北京航空航天大学)
提出带混合时滞的无逆神经网络模型求解绝对值方程,利用Lyapunov-Krasovskii理论和LMI方法证明指数收敛,可处理$\|A^{-1}\|>1$情形,数值实验验证有效性。
2023-10-17 cs.LG math.DS math.OC
Generalized Bregman Projection Algorithms for Solving Nonlinear Split Feasibility Problems in Infinite-Dimensional Spaces
针对无限维希尔伯特空间的非线性分裂可行性问题,提出融合Bregman投影、近端梯度步和自适应惯性项的广义Bregman投影算法,证明强收敛性且实验验证其优于经典方法,推动相关优化技术发展。
2025-05-14 math.OC
Solving the time-optimal control problem for nonlinear non-autonomous linearizable systems
本文给出了非线性非自治线性化系统的时间最优控制问题可以用逐次逼近法求解的条件,在逐次逼近法的每一步都要求解一个幂马尔可夫矩最小问题。所提出的方法可以有效地实现通过使用符号和数值计算。
2022-03-16 math.OC
Iterative algorithm with structured diagonal Hessian approximation for solving nonlinear least squares problems
非线性最小二乘问题是一类特殊的无约束最优化问题,其梯度和Hessian具有特殊的结构。在本文中,我们利用这些结构,并提出了一个无矩阵算法与对角Hessian近似求解非线性最小二乘问题。我们设计了适当的保护策略,以确保黑塞矩阵是正定的整个迭代过程。该算法产生下降方向,是全局收敛的。初步的数值实验表明,该方法是具有竞争力的最近开发的类似方法。
2020-02-05 math.OC
Stochastic absolute value equations
提出了一类新的含变量绝对值的随机绝对值方程。利用与随机双线性规划的等价关系,我们研究了所提出的随机绝对值方程的期望值形式。我们还考虑了所提出的随机绝对值方程的期望残差最小化公式。在适当的假设下,给出了随机绝对值方程解的存在条件。随机绝对值方程的解可以通过求解离散极小化问题得到。并提出了一种光滑梯度法来解决离散极小化问题。最后给出了数值结果和一些讨论。
2022-07-13 math.OC
An inverse-free fixed-time stable dynamical system and its forward-Euler discretization for solving generalized absolute value equations
School of Mathematics and Computational Science, Xiangtan University(湘潭大学数学与计算科学学院);School of Mathematics and Statistics, Fujian Normal University(福建师范大学数学与统计学院);Institute for Optimization and Decision Analytics, Liaoning Technical University(辽宁工业大学优化与决策分析研究所);School of Mathematical Sciences, Beihang University(北京航空航天大学数学科学学院)
提出无逆固定时间稳定动力系统及前向欧拉离散化迭代方法求解GAVE,前者收敛时间有限且初始点一致有界,后者有限步内全局收敛到解的任意小邻域,数值结果验证有效性。
2025-11-19 cs.NA math.NA math.OC
Solving Coupled Nonlinear Forward-backward Stochastic Differential Equations: An Optimization Perspective with Backward Measurability Loss
本文从不动点迭代视角扩展BML方法以求解一般耦合非线性FBSDEs,证明优化BML等价于最小化连续试探解距离,为基于优化的求解方法提供理论基础,并通过四个数值实验验证其有效性。
2023-11-25 math.OC
Solving Boundary Value Problem for a Nonlinear Stationary Controllable System with Synthesizing Control
提出了一种构造控制函数的算法,该控制函数能使一类平稳非线性常微分方程系统在一定的控制约束下从初态过渡到最终状态。该算法的设计是为了便于数值实现。提出了一种期望转移可能性的构造性判据。以轨道间飞行问题为例进行了数值模拟。
2017-02-28 math.OC
A monotonic method for solving nonlinear optimal control problems
最初在量子控制框架中引入的所谓“单调算法”在处理双线性最优控制问题时表现出优异的数值性能。本文提出了一个统一的配方,可以应用到更多的非线性设置兼容的假设下面详细介绍。在这个框架下,我们证明了一般算法的适定性与一个非线性发展方程有关。我们证明了该方程解的存在性,并给出了最优控制泛函的重要性质。最后,我们将展示该算法如何从文献中选择的模型,并将其与梯度算法进行比较。
2010-11-10 math.OC
Iteration-complexity of a proximal augmented Lagrangian method for solving nonconvex composite optimization problems with nonlinear convex constraints
提出并分析了一种求解非线性$\cal K$ -凸约束光滑非凸复合最优化问题的近似增广拉格朗日(NL-IAPIAL)方法,约束相对于由闭合凸锥$\cal K$给出的阶是凸的。每个NL-IAPIAL迭代包括不精确地解决一个近端增广拉格朗日子问题的加速复合梯度(ACG)方法,然后由拉格朗日乘子更新。在一些温和的假设下,证明了NL-IAPIAL在${\cal O}(\log(1/ρ)/ρ^{3})$内迭代中生成约束问题的近似稳态解,其中$ρ>0$是给定的容差.数值实验也说明了所提出的方法的计算效率。
2022-07-05 math.OC
Piecewise Polynomial Interpolation Function Approach for Solving Nonlinear Programming Problems with Disjoint Feasible Regions: Mathematical Proofs
分段多项式插值(PPI)函数法是一种求解具有不相交可行域的非线性规划问题的方法。在这样的问题中,不相交性通常与禁止的操作区域相关联,其对应于不允许变量假设的值的带。这种禁止操作区的分析含义是使目标函数及其域不连续。PPI函数方法在于用等价的等式和不等式约束的集合替换与禁止操作区相关联的约束,从而允许应用任何有效的基于梯度的最优化方法来解决等价问题。本文给出了PPI函数的定义,并给出了其性质的数学证明。
2020-07-23 math.OC
Solving the continuous nonlinear resource allocation problem with an interior point method
资源分配问题通常利用其一般稀疏性和特定于问题的代数结构来解决。我们表明,稀疏结构单独产生一个封闭形式的牛顿搜索方向的通用原始-对偶内点方法。计算测试表明,内点方法始终优于最好的专门的方法时,没有额外的代数结构。
2013-09-26 math.OC
Absolute Stability of Nonlinear Negative Imaginary Systems with Application to Potential Energy Shaping
Australian Centre for Robotics, School of Aerospace, Mechanical and Mechatronic Engineering, The University of Sydney(悉尼大学航空航天、机械与机电工程学院澳大利亚机器人中心)
本文研究非线性负虚系统与静态非线性反馈的绝对稳定性条件,提出通过存储函数塑形实现稳定性的方法,并通过线性和非线性示例展示理论在势能塑形中的应用。
2026-05-07 cs.SY eess.SY math.OC
Multipoint secant and interpolation methods with nonmonotone line search for solving systems of nonlinear equations
多点割线法和插值方法是求解非线性方程组的有效工具。他们使用拟牛顿更新近似的雅可比矩阵。由于它们能够更完全地利用在先前迭代中收集的关于雅可比矩阵的信息,这些方法在昂贵函数的情况下特别有效。我们知道它们是局部的和超线性收敛的。我们将这些方法与Li和Fukushima(2000)提出的非单调线搜索相结合,研究了这种组合的全局收敛性和超线性收敛性。数值实验的结果。他们指出,多点割线和插值方法往往是更强大和更有效的比Broyden的方法,以同样的方式全球化。
2017-12-04 math.OC
Solving Chance-Constrained Problems via a Smooth Sample-Based Nonlinear Approximation
本文提出了一种求解具有机会约束的非线性连续最优化问题的新方法。我们的方法是基于重新制定的概率约束作为分位数函数。分位数函数通过可微样本平均近似来近似。我们提供了理论上的近似统计保证,并说明经验,可以直接使用标准的非线性最优化求解器的情况下,单机会约束的重新制定。此外,我们提出了一个S $\ell_1$ QP型信赖域方法来解决联合机会约束的情况下。我们证明了几个问题的方法的性能,并表明,它的规模以及与样本量和平滑可以用来抵消偏差的机会约束近似引起的样本近似。
2020-03-14 math.OC
Solving Heated Oil Pipeline Problems Via Mixed Integer Nonlinear Programming Approach
如何加热原油,节约原油输送的运行费用,是原油输送中的一个关键问题。本文将热油管道问题严格地表述为一个混合整数非线性规划模型。提出了模型的非凸和凸连续松弛,并在适当的条件下证明了它们的等价性。同时,我们提供了一个预处理过程,以保证这些条件。因此,我们可以设计一个分支定界算法来求解混合整数非线性规划模型的全局最优解。为了提高分枝定界算法的效率,提出了一种外逼近方法,并采用了热启动技术。对一个实际热油管道问题的数值实验表明,该算法获得了较好的方案,与实际方案相比,可以节省6.83%的运行费用。
2019-07-25 math.OC
Using Negative Curvature in Solving Nonlinear Programs
最小化方法是沿着由非上升的负曲率方向和最速下降方向组成的曲线路径进行搜索的,这种方法可以追溯到20世纪70年代末,它是寻找函数在其Hessian是半正定的驻点的有效方法。对于最近应用中的约束非线性规划,主要目标是找到一个满足二阶必要最优性条件的稳定点。基于此,我们将利用负曲率方向的方法从无约束优化推广到非线性优化。我们专注于等式约束问题,并证明我们提出的负曲率方法是保证收敛到一个稳定点满足二阶必要条件。本文还简要讨论了将我们提出的负曲率方法推广到一般非线性规划的可能途径。
2017-06-03 math.OC
An Improved Sequential Quadratic Programming Algorithm for Solving General Nonlinear Programming Problems
本文讨论了一类带有不等式和等式约束的一般非线性规划问题。首先,将原问题转化为一个仅含不等式约束的简单等价问题。然后,受序列二次规划(SQP)方法和线性方程组(SLE)方法思想的启发,提出了一种求解原问题的新型SQP算法。在每次迭代中,搜索方向由两个方向的组合产生,这两个方向分别通过求解总是可行的二次规划(QP)子问题和SLE获得。为了克服Maratos效应,通过求解另一个系统方程组得到高阶修正方向。这两个SLE具有相同的系数矩阵,并且我们只需要在有限次迭代之后求解其中一个。通过一种新的线搜索技术,在适当的假设条件下,该算法具有全局收敛性和超线性收敛性。最后,一些比较数值结果表明,该算法是有效的和有前途的。
2012-12-18 math.OC
A fixed-time stable dynamical model for solving EVLCPs
本文将 EVLCP 转化为新型广义绝对值方程,提出一种无需光滑化且固定时间稳定的动力系统,并给出唯一可解条件、新误差界及数值验证。
2025-07-28 cs.NA math.NA math.OC
The nonlinear HSS-like iteration method for absolute value equations
School of Mathematics and Statistics, Lanzhou University(兰州大学数学与统计学院);School of Mathematics and Statistics, Hexi University(河西学院数学与统计学院);School of Chemistry and Chemical Engineering, Hexi University(河西学院化学化工学院)
本文提出非线性HSS-like迭代法以改进Picard-HSS方法,通过单层迭代结构提升效率,数值实验验证其有效性。
2018-01-02 cs.NA math.NA math.OC
Solving nonlinear systems of equations via spectral residual methods: stepsize selection and applications
谱残量法是求解非线性系统方程组的一种无需导数且每次迭代费用低的方法。它们通常与非单调线性搜索策略相结合,并且对于大型非线性系统和非线性系统序列,它们与基于牛顿的方法相比很好。该算法以残差向量作为搜索方向,步长的选择对算法的性能有着至关重要的影响。在这项工作中,我们从理论上和实验上解决了步长的选择,并提供了一个实际的应用,如滚动接触问题的结果。
2021-09-17 cs.NA math.NA math.OC
Optimal parameter for the SOR-like iteration method for solving the system of absolute value equations
本文研究求解绝对值方程组的SOR类迭代方法,重新证明收敛条件并给出最优参数,数值实验表明其优于近似最优参数和广义牛顿法。
2021-03-12 cs.NA math.NA math.OC
Solving strategies for data-driven one-dimensional elasticity exhibiting nonlinear strains
University of Bergen(卑尔根大学);Eviny Fornybar AS
提出一种结合贪婪优化和交替方向法的数据驱动求解策略,用于非线性应变弹性结构,能更好逼近全局最优解,但计算成本更高。
2026-06-11 cs.CE math.OC
Using a New Nonlinear Gradient Method for Solving Large Scale Convex Optimization Problems with an Application on Arabic Medical Text
ITMO University(ITMO大学);Aleppo University(阿勒颇大学)
梯度法在信号处理、图像处理和动态系统等多个领域都有应用。本文提出了一种求解凸超二次函数的非线性梯度法,它是通过混合两个共轭系数HRM [2]和NHS [1]来发展搜索方向。数值算例表明,当目标函数为二次凸函数时,该方法能得到标准问题的精确解,证明了该方法的有效性。在这篇文章中,还提出了一个应用程序的问题命名的实体在阿拉伯医学语言,因为它证明了所提出的方法的稳定性和执行时间方面的效率。
2021-06-09 cs.CL math.OC
An inexact Douglas-Rachford splitting method for solving absolute value equations
近二十年来,人们对寻找$x\in\mathbb{R}^n$使得$Ax-|x|-b=0$的绝对值方程(AVE)越来越感兴趣,其中$A\in \mathbb{R}^{n\times n}$和$b\in \mathbb{R}^n$。在本文中,我们的注意力集中在设计有效的算法。为此,我们将AVE重新表示为广义线性互补性问题(GLCP),在等价形式中,它是最经济的,因为它不会增加变量的维度。为了求解广义线性规划问题,我们提出了一种具有相对误差容限的非精确Douglas-Rachford分裂方法。因此,在内部迭代过程中,我们可以使用LSQR方法([C.C.佩吉和文学硕士Saunders,ACM Trans. Math.软件(TOMS),8(1982),pp. 43- 71])来为每个子问题找到合格的近似解,这使得每次迭代的成本非常低。我们证明了算法的收敛性,并建立了它的全局线性收敛速率。将所得结果与目前流行的精确广义牛顿法[O.L.曼格萨里安,奥普蒂姆。信件:1(2007),pp. 3- 8]、不精确半光滑牛顿法[J.Y.B. Cruz,O.P. Ferreira和L.F.普鲁登特,计算机。Optim。应用程序、65(2016),pp. 93- 108]和精确的类SOR方法[Y. F. Ke和C.- F.妈,应用数学计算,311(2017),pp. 195--202]的结果表明,该算法具有很好…
2021-03-17 cs.NA math.NA math.OC
On the global convergence of the inexact semi-smooth Newton method for absolute value equation
IME/UFG(巴西戈亚斯联邦大学数学研究所)
本文研究了求解绝对值方程的不精确非光滑牛顿方法的全局收敛性,证明了在合适条件下具有全局Q-线性收敛性,并通过数值实验验证了该方法的实用性。
2015-11-12 cs.NA math.NA math.OC
Successive Projection for Solving Systems of Nonlinear Equations/Inequalities
求解大型非线性方程/不等式组是计算和优化中的一个基本问题。在本文中,我们提出了一个通用的连续投影(SP)框架,这个问题。SP顺序地将当前约束投影到与每个非线性(非)等式对应的约束集上。它扩展冯诺依曼的交替投影寻找一个点的交叉两个线性子空间,布雷格曼的方法寻找一个共同点的凸集和Kaczmarz方法求解系统的线性方程更一般的情况下,多个非线性和非凸集。现有的随机Kaczmarz收敛性分析仅适用于线性情形。对于求解非线性方程组,目前还没有SP的理论收敛性结果。本文首次证明了SP以线性速度局部收敛于非线性方程/不等式的解。我们的工作建立了多个非线性和非凸集的情况下的SP的收敛理论。除了循环和随机投影,我们设计了两个新的贪婪投影方法,显着加快收敛。并给出了算法收敛速度的理论界。我们揭示了收敛速度与非线性函数在解处的雅可比矩阵的Hoffman常数有关。讨论了用SP方法解决理论计算机科学中备受关注的图实现问题。
2020-12-14 cs.NA math.NA math.OC
An Algorithm for Solving Quadratic Optimization Problems with Nonlinear Equality Constraints
Eindhoven University of Technology(埃因霍温理工大学)
本文提出一种高效算法求解带非线性等式约束的二次优化问题,证明其局部收敛性,并通过椭圆拟合和电机状态参考生成应用验证其有效性。
2016-03-16 cs.NA math.NA math.OC
Efficient Parameter Selection for Scaled Trust-Region Newton Algorithm in Solving Bound-constrained Nonlinear Systems
研究了求解有界约束非线性方程组的尺度置信域牛顿(STRN)算法的参数选择问题。对大量的测试问题进行了数值实验,以找到最佳的参数值范围,给出最少的算法迭代次数和函数评价。我们的实验表明,在一般情况下,有没有最好的参数可供选择,每个特定的值显示了一些问题的有效性能和其他的弱性能。在这项研究中,我们报告的性能的STRN的各种选择的参数,然后建议最有效的。
2020-09-09 cs.NA math.NA math.OC
Sequential Convex Programming Methods for Solving Nonlinear Optimization Problems with DC constraints
Department of Electrical Engineering (ESAT-SCD) and Optimization in Engineering Center (OPTEC), K.U. Leuven(鲁汶大学电气工程系(ESAT-SCD)与工程优化中心(OPTEC))
本文研究序列凸规划(SCP)与DC规划之间的关系,提出一种求解DC约束非线性优化问题的SCP算法并证明其收敛性,结合松弛技术处理不一致线性化,并通过数值测试验证算法性能。
2011-07-28 cs.SY eess.SY math.OC
A generalization of the Newton-based matrix splitting iteration method for generalized absolute value equations
本文推广牛顿型矩阵分裂迭代法求解广义绝对值方程,在温和条件下保证收敛到唯一解,并给出更弱的收敛条件,数值实验验证了有效性。
2023-09-18 cs.NA math.NA math.OC
Algorithms for Solving High Dimensional PDEs: From Nonlinear Monte Carlo to Machine Learning
近年来,利用非线性(多级)蒙特卡罗或深度学习的思想,在求解高维偏微分方程(PDE)的数值算法方面取得了巨大进展。对于许多不同的应用,它们可能没有维数灾难,并且在一些非线性抛物型偏微分方程的非线性蒙特卡罗方法的情况下已经被证明是这样。在本文中,我们回顾这些数值和理论的进展。除了基于原始问题的随机重构的算法,如多层Picard迭代和Deep Bracket方法,我们还讨论了基于更传统的Ritz,Galerkin和最小二乘公式的算法。我们希望向读者证明,研究偏微分方程以及控制和变分问题在非常高的维度很可能是最有前途的新方向在数学和科学计算在不久的将来。
2020-09-11 cs.NA math.NA math.OC
Randomized Quasi-Gauss--Newton Methods for Solving General Nonlinear Equations
本文提出基于格拉姆矩阵近似的随机拟高斯-牛顿方法,可处理欠定与超定一般非线性方程,欠定情形下局部超线性收敛到最优解,超定情形下无依赖条件数收敛到驻点,优于现有拟牛顿方法。
2026-08-28 cs.NA math.NA math.OC