The long time behavior and the rate of convergence of symplectic convex algorithms obtained via splitting discretizations of inertial damping systems
在本文中，我们提出了新的数值算法在设置无约束最优化问题，我们研究的收敛速率在迭代的目标函数。此外，我们的算法是基于分裂和辛方法，它们保持了固有的连续动力系统，其中包含一个Hessian扰动的能量属性。同时，我们证明了Nesterov梯度法等价于应用于Hessian驱动阻尼系统的Lie-Trotter分裂。最后，为了验证理论结果，给出了一些数值实验。
2020-02-09 math.OC
Inertial Primal-Dual Dynamics Methods Featuring Implicit Hessian-Driven Damping for Convex Optimization Problems in Continuous and Discrete Time
Chongqing Technology and Business University（重庆工商大学）；Sichuan University（四川大学）；Sunway University（双威大学）
本文针对带线性等式约束的强凸优化问题，提出带隐式海森驱动阻尼的惯性原始-对偶动力学，推导对应的离散算法，证明其收敛速率与连续系统一致，还扩展到非光滑情形并通过数值实验验证。
2026-09-01 math.OC
Inertial primal-dual dynamics with Hessian-driven damping and Tikhonov regularization for convex-concave bilinear saddle point problems
本文提出一种结合Hessian驱动阻尼和Tikhonov正则化的惯性对偶动力学方法，用于高效求解凸-凹双线性鞍点问题，并证明了其在收敛速度和轨迹强收敛方面的双重优势。
2025-07-15 math.OC
Fast convex optimization via inertial dynamics with Hessian driven damping
首先研究了二阶发展方程$$\ddot{x}(t) + \fracα{t} \dot{x}(t) + β\nabla^2 Φ(x(t))\dot{x} (t) + \nabla Φ(x(t)) = 0,$$的轨道的快速极小化性质，其中$Φ:\mathcal H\to\mathbb R$是作用在实Hilbert空间$\mathcal H$上的光滑凸函数，$α$，$β$是正参数.该惯性系统结合了渐近消失的各向同性粘性阻尼和几何Hessian驱动阻尼，这使得它自然地与牛顿和Levenberg-Marquardt方法相关。对于$α\geq 3$、$β>0$，沿着任何轨迹，获得值$$Φ(x(t))- \min_{\mathcal H}Φ=\mathcal O\left(t^{-2}\right)$$的快速收敛，以及梯度$\nablaΦ(x(t))$到零的快速收敛。对于$α>3$，只要假设$Φ$有极小值，我们证明了任何轨迹都弱收敛到$Φ$和$ Φ(x(t))-\min_{\mathcal H}Φ= o(t^{-2})$的极小值。强收敛在各种实际情况下建立。对于强凸的情况下，收敛可以任意快，这取决于$α$的选择。更准确地说，我们有$Φ(x(t))- \min_{\mathcal H}Φ= \mathcal O(t^{-\frac{2}{3}α})$。我们将结果推广到一般的真下连续凸函数$Φ: \m…
2016-01-26 math.OC
Fast convergence rates and trajectory convergence of a Tikhonov regularized inertial primal\mbox{-}dual dynamical system with time scaling and vanishing damping
本文提出一种带有时间缩放和消失阻尼的Tikhonov正则化惯性原对偶动力系统求解Hilbert空间线性约束凸优化问题，证明了基于重缩放正则化参数衰减速度的快速收敛速率及轨迹强弱收敛性，并通过数值实验验证理论。
2024-04-23 math.OC
A Speed Restart Scheme for a Dynamical System with Hessian-Driven Damping and Three Constant Coefficients
该研究针对带Hessian驱动阻尼的惯性系统提出速度重启方案，在无目标函数强凸假设下证明函数值线性收敛率，实验验证其在连续动力学和惯性算法中均能提升收敛速度。
2024-12-09 math.OC
Inertial Methods with Viscous and Hessian driven Damping for Non-Convex Optimization
本文研究非凸优化中同时引入粘性阻尼与Hessian驱动阻尼的二阶惯性动力学，给出显式和隐式两种设置下的收敛条件、收敛速率及离散算法，并首次处理目标函数仅局部Lipschitz光滑时的回溯策略收敛保证。
2025-06-05 math.OC
Convergence Rates of Inertial Primal-Dual Dynamical Methods for Separable Convex Optimization Problems
本文针对一类线性等式约束的可分凸优化问题，提出了一个具有时间依赖正阻尼项的二阶连续原-对偶动力系统。利用李雅普诺夫函数方法，研究了该动力系统作为时间$t\to+\infty$的渐近性质.对于不同的阻尼系数的选择的收敛速度推导。我们还表明，所获得的结果是强大的外部扰动下。
2020-07-24 math.OC
Dry-Friction Inertial Dynamics with Implicit Hessian-Driven Damping: Finite-Time Stabilization, Shadowing, and Proximal Discretization
Laboratoire XLIM, Université de Limoges（利摩日大学 XLIM 实验室）
该研究在实希尔伯特空间中分析带粘性阻尼、干摩擦和隐式Hessian驱动阻尼的惯性微分包含，证明其轨迹的适定性、收敛性与有限时间镇定，提出半隐式离散算法并验证其收敛性质。
2026-08-25 math.OC
Fast convergence of inertial dynamics with Hessian-driven damping under geometry assumptions
一阶优化算法可以被认为是常微分方程（ODE）\cite{su2014differential}的离散化。从这个角度来看，研究相应的轨迹的属性可能会导致收敛的结果，可以转移到数值方案。本文分析了Attouch等人在\cite{attouch2016fast}中引入的下列常微分方程：\begin{equation*} \forall t\geqslant t_0,~\ddot{x}(t)+\fracα{t}\dot{x}(t)+βH_F(x(t))\dot{x}(t)+\nabla F(x(t))=0,\end{equation*}其中$α>0$，$β>0$和$H_F$表示$F$的Hessian。这个常微分方程可以用来建立不需要$F$如\cite{attouch2020first,attouch2021convergence}中所示是二次可微的数值格式。我们提供了强收敛性结果的错误$F(x(t))-F^*$和可积性的性质$\|\nabla F(x(t))\|$在$F$的一些几何假设，如二次增长周围的极小集。特别是，我们证明了一个强凸函数的误差衰减率是$O(t^{-α-\varepsilon})$的任何$\varepsilon>0$。这些结果在文章的最后简要说明。
2022-06-20 math.OC
Fast optimization via inertial dynamics with closed-loop damping
在希尔伯特空间$H$，为了开发快速优化方法，我们分析的渐近行为，作为时间$t$趋于无穷大，惯性连续动力学的阻尼作为一个闭环控制。要被最小化的函数$f: H \to R$（不一定是凸的）通过它进入动态梯度，假设它在$H$的有界子集上是Lipschitz连续的。这给出了具有非线性阻尼和非线性驱动力的自治动力系统。我们首先考虑阻尼项$\partial ϕ(\dot{x}(t))$作为速度闭环控制的情况。阻尼势$ϕ: H \to [0,+\infty)$是一个凸连续函数，它在原点处达到最小值。我们证明了相关的柯西问题的整体解的存在性和唯一性。然后，我们分析了所生成的轨迹的渐近收敛性。我们使用的技术，从优化，控制理论，和偏微分方程的：李雅普诺夫分析的基础上的减少属性的能量函数，准梯度和Kurdyka-Lojasiewicz理论，单调算子理论的波动方程。根据数据$f$和$ϕ$的几何性质获得收敛速度。当$f$是强凸时，给出了指数收敛速度的一般条件.然后，我们扩展的结果的情况下，一个额外的海森驱动的阻尼进入动态，这减少了振荡。最后，我们考虑一个惯性系统，涉及共同的速度$\dot{x}(t)$和梯度$\nabla f(x(t))$。除了它的原始结果，这项工作调查了近年来致力于连续阻尼惯性动力学和数值优化算法之间的相互作用，重点是自治系统，闭环自适应程序和收敛速度的众多作品。
2021-01-11 math.DS math.OC
Convergence analysis of a Tikhonov regularized inertial dynamical system and algorithm for convex optimization problems
Chongqing Technology and Business University（重庆工商大学）；Chongqing University（重庆大学）
本文研究了带时间缩放、渐消阻尼和Hessian驱动阻尼的Tikhonov正则化二阶惯性动力系统，分析其在求解凸优化问题中的收敛性，证明轨迹弱收敛到极小解，并展示通过参数调节可同时实现函数值快速收敛和轨迹强收敛到最小范数解。
2026-03-01 math.OC
Perturbed primal-dual dynamics with damping and time scaling coefficients for affine constrained convex optimization problems
在希尔伯特空间中，提出了一类仿射约束凸优化问题的原-对偶动力系统.几个阻尼系数，时间标度系数，和扰动项，因此被认为是。通过构造能量函数，我们研究了阻尼系数和时间尺度系数的不同选择下的收敛速度。我们的结果将无约束凸优化问题的惯性动力学方法推广到了仿射约束凸优化问题。
2021-06-25 math.OC
Convergence of iterates for first-order optimization algorithms with inertia and Hessian driven damping
在希尔伯特空间中，对于凸优化，证明了一类加速一阶算法的迭代收敛于最优解.它们可以被解释为离散的时间版本的惯性动态涉及粘性阻尼和海森驱动的阻尼。渐近消失的粘性阻尼与Nesterov的加速梯度法相联系，而Hessian驱动阻尼则可以显着衰减振荡。通过将Hessian驱动阻尼视为梯度项的时间导数，这给出了离散形式的一阶算法。这些结果补充了作者以前的工作，其中示出了值的快速收敛，以及梯度向零的快速收敛。
2021-07-13 math.OC
High-Resolution Inertial Dynamics with Time-Rescaled Gradients for Nonsmooth Convex Optimization
Unité de Mathématiques Appliquées, ENSTA, Institut Polytechnique de Paris（应用数学单元，ENSTA，巴黎理工学院）
本文提出一种高分辨率非光滑凸优化的连续时间动力学系统，通过时间变化的Moreau包络平滑和梯度时间重缩，结合Hessian驱动阻尼项，实现快速收敛和稳定性。
2026-03-26 math.OC
Nesterov's acceleration and Polyak's heavy ball method in continuous time: convergence rate analysis under geometric conditions and perturbations
本文研究了一类与惯性梯度下降有关的二阶常微分方程。这些常微分方程被广泛用于建立收敛到函数$F$的最小值$x^*$的轨迹，可能是凸的。这个族包括Nesterov惯性格式的连续版本和连续重球方法。几个阻尼参数，不一定为零，和扰动项$g$，因此被认为是。阻尼参数与相关惯性方案的惯性有关，扰动项$g$与可以在函数$F$的梯度上进行的误差有关。当$F$是凸的且满足局部几何性质（如Bracojasiewicz性质）且满足$g$上的可积性条件时，本文给出了$F(x(t))-F(x^*)$的新的渐近界，其中$x$是常微分方程的解.即使几何性质和扰动已经研究了这些家庭的大多数常微分方程，这是第一次，他们共同研究。所有这些结果给出了洞察这些惯性和扰动算法的行为，如果$F$满足一些特别是在随机算法的设置中的Jasojasiewicz属性。
2019-07-05 math.OC
Fast convergence of dynamical ADMM via time scaling of damped inertial dynamics
在本文中，我们提出了一个二阶时间连续动态系统的快速收敛保证，以解决仿射约束的结构凸极小化问题的希尔伯特设置。该系统是与增广拉格朗日制定的最小化问题。相应的动力学发挥作用的三个一般的时变参数，每个特定的属性，并分别与粘性阻尼，外推和时间缩放。通过适当地调整这些参数，我们开发了一个李雅普诺夫分析，它提供了快速收敛性能的值和可行性差距。这些结果自然会为开发相应的加速ADMM算法铺平道路，通过时间离散化获得。
2021-03-23 math.OC
Strong convergence of an inertial Tikhonov regularized dynamical system governed by a maximally comonotone operator
该研究在希尔伯特框架下分析了由极大共单调算子控制的惯性Tikhonov正则化动力系统，证明其轨迹强收敛于算子零点的最小范数元，建立了特定正则化参数下的收敛速率，并通过数值例子验证了系统有效性。
2024-11-29 math.OC
Stochastic Inertial Dynamics Via Time Scaling and Averaging
本文在随机环境下，通过随机惯性微分包含的视角研究随机凸最小化问题，基于时间缩放与平均化方法建立通用分析框架，推导了弱/强收敛性及多情形下的收敛率，为二阶随机优化动力学提供统一理论。
2025-02-20 math.OC
Convergence of inertial dynamics and proximal algorithms governed by maximally monotone operators
研究了一类二阶阻尼为零的微分方程的轨线的行为，该方程由一个具有时变指标的极大单调算子的Yosida正则化所控制，并给出了一个新的{ \em正则化惯性邻近算法}，该算法是通过一个方便的有限差分离散化方法得到的.这些系统是在最大单调算子的上下文中加速的向前向后算法的对应物。一个适当的调整的参数，使我们能够证明弱收敛的轨迹为零的运营商。此外，可以估计速度和加速度消失的速率。我们还研究了扰动或计算误差的影响，离开收敛性能不变。我们还分析了一个增长条件下，可以保证强收敛。一个简单的例子显示了Yosida近似参数的假设的临界性，并允许我们说明这些系统的行为与它们的一些近亲相比。
2017-11-09 math.OC
Accelerated gradient methods combining Tikhonov regularization with geometric damping driven by the Hessian
在希尔伯特设置，凸可微优化，我们考虑加速梯度动力学结合吉洪诺夫正则化与海森驱动阻尼。假设Tikhonov正则化参数随着时间趋于无穷大而趋于零，这保持了平衡。Tikhonov正则化项的存在诱导了一个强的凸性，渐近消失。为了利用指数收敛速度的重球方法在强凸的情况下，我们考虑惯性动力学的粘性阻尼系数取成正比的吉洪诺夫正则化参数的平方根，因此也收敛到零。此外，动态涉及由要最小化的函数的Hessian驱动的几何阻尼，这引起振荡的显著衰减。根据适当的调整的参数，基于李雅普诺夫分析，我们表明，在同一时间的轨迹有几个显着的属性：它们提供快速收敛的值，快速收敛的梯度向零，和强大的收敛到最小范数最小。这项研究扩展了作者以前的一篇论文，其中研究了类似的问题，但没有Hessian驱动阻尼的存在。
2022-03-31 math.OC
Fast Convergence of an Inertial Gradient-like System with Vanishing Viscosity
在实Hilbert空间$\mathcal H$中，研究了二阶发展方程$t \to + \infty$的轨道的快速收敛性质，其中$\nabla Φ$是凸连续可微函数$Φ: \mathcal H \rightarrow \mathbb R$的梯度，$α$是正参数.在该惯性系中，粘性阻尼系数$\fracα{t}$以适度的方式渐近消失。对于$α> 3$，我们表明，任何轨迹弱收敛到极小的$Φ$，只是假设的极小集是非空的。强收敛是在各种实际情况下建立的。这些结果补充了$\mathcal O(t^{-2})$收敛速度的值由苏，博伊德和坎迪斯。这个系统的时间离散化，以及它的一些变体，提供了新的快速收敛算法，扩展了Nesterov介绍的结构化凸最小化的快速方法领域，并由Beck和Teboulle进一步开发。这项研究也补充了Chambolle和Dossal的最新进展。
2015-07-16 math.OC
Penalty-Based Smoothing and Accelerated Inertial Dynamics for Convex Supremum Optimization
University of Limoges（利摩日大学）；Universidad de O’Higgins（奥希金斯大学）；Universidad de Chile（智利大学）
本文提出了一种基于惩罚的平滑方法，用于加速非光滑凸函数的优化，并通过惯性动力学实现加速收敛。
2026-10-30 math.OC
Fast Convergence of Multiobjective Inertial Gradient Systems with Time Scaling
National Center for Applied Mathematics in Chongqing, Chongqing Normal University（重庆应用数学中心，重庆师范大学）
本文提出多目标惯性梯度系统时间缩放方法，通过调节时间缩放函数参数实现亚线性收敛，验证了其在多目标优化中的有效性。
2026-01-07 math.OC
A unified continuous-discrete framework for Nesterov acceleration: transitions between convex and strongly convex regimes
Xihua University（西华大学）；Sichuan University（四川大学）
本研究提出统一连续-离散框架，解决Nesterov加速在强凸参数较小时早期收敛慢的问题，可实现凸与强凸状态过渡，恢复经典速率，生成多种过渡族，数值实验验证其有效性。
2026-08-27 math.OC
Tikhonov regularized inertial primal-dual dynamics for convex-concave bilinear saddle point problems
针对凸-凹双线性鞍点问题，提出含慢阻尼、外推和时间尺度参数的 Tikhonov 正则化二阶原始-对偶动力系统，并依据正则化参数消失速度建立收敛率与最小范数解强收敛性。
2024-09-09 math.OC
Fast convex optimization via closed-loop time scaling of gradient dynamics
本文在希尔伯特空间中提出一种基于闭环时间缩放的通用框架，用于设计自适应加速梯度方法，通过反馈控制阻尼实现快速收敛，并扩展到近端算法，数值实验验证了其效率。
2025-01-26 math.OC
Convex optimization via inertial algorithms with vanishing Tikhonov regularization: fast convergence to the minimum norm solution
在一个希尔伯特的框架中，对于一般凸可微函数$f$的最小化，我们引入了新的惯性动力学和算法，产生的轨迹和迭代收敛到最小的$f$与最小范数的最小值。我们的研究是基于非自治版本的Polyak重球方法，其中，在时间$t$，与强凸函数通过添加到$f$一个Tikhonov正则化项与消失系数$ε(t)$。在该动态中，阻尼系数与吉洪诺夫正则化参数$ε(t)$的平方根成比例。通过调整$ε(t)$向零收敛的速度，我们将获得向$f$的下极值的快速收敛，以及向$f$的极小元集的最小范数的轨迹的强收敛.特别是，我们得到了一个改进的版本的动态苏博伊德-坎迪斯的加速梯度法的Nesterov。这项研究自然会导致相应的一阶算法得到的时间离散化。在适当的下连续凸函数$f$的情况下，我们详细研究了近似算法，并证明了它们具有相似的性质。
2021-04-24 math.OC
Inertial dynamics with vanishing Tikhonov regularization for multiobjective optimization
本文提出一种带消失阻尼和Tikhonov正则化的二阶动力系统解决多目标优化问题，证明了解的存在性与快速收敛性，并扩展了单目标优化理论，为快速梯度及近端点方法奠定基础。
2025-06-27 math.OC
Combining fast inertial dynamics for convex optimization with Tikhonov regularization
在Hilbert空间中，研究了二阶微分方程\begin{equation*} \mbox{(AVD)}_{α, ε} \quad \quad \ddot{x}(t) + \fracα{t} \dot{x}(t) + \nabla Φ(x(t)) + ε(t) x(t) =0, \end{equation*}的轨线作为$t \to + \infty$的收敛性质，其中$\nablaΦ$是凸连续可微函数$Φ: \mathcal H \to \mathbb R$的梯度，$α$是正参数，$ε(t) x(t)$是Tikhonov正则项，带$\lim_{t \to \infty}ε(t) =0$ .在该阻尼惯性系统中，阻尼系数$\fracα{t}$渐近地消失，但不会太快，这是获得值的快速收敛的关键特性。在$ε(\cdot) \equiv 0$的例子中，苏、博伊德和坎迪斯最近强调了这种动态，认为它是涅斯捷罗夫加速方法的一个连续版本。根据$ε(t)$收敛到零的速度，我们分析了$\mbox{(AVD)}_{α, ε}$轨迹的收敛性质。我们得到的结果范围从$Φ(x(t))$的快速收敛$\min Φ$时$ε(t)$迅速减少到零，强遍历收敛的轨迹的元素的最小范数的最小的$Φ$的集合，当$ε(t)$慢慢趋于零。
2016-02-05 math.OC
Damped inertial dynamics with vanishing Tikhonov regularization: strong asymptotic convergence towards the minimum norm solution
在希尔伯特空间中，我们提供了一个快速的动态方法，包括在寻找凸极小化问题的最小范数解的分层极小化问题。为此，我们研究了阻尼惯性动力学与Tikhonov正则化产生的轨迹的收敛性质。当时间趋于无穷大时，Tikhonov正则化参数应该趋于零，而不是太快，这是使轨迹强烈地收敛到最小范数的$f$的最小值的关键性质。根据强凸函数重球方法的结构，粘性阻尼系数与Tikhonov正则化参数的平方根成正比。因此，它也收敛到零，这将确保值的快速收敛。准确地说，根据适当的调整这些参数，李雅普诺夫分析的基础上，我们表明，轨迹强烈收敛到最小范数的最小值，我们提供的收敛速度的值。我们展示了一个权衡之间的属性的快速收敛的值，和属性的强收敛到最小范数的解决方案。这项研究改进了以前的几个作品，这种类型的结果是在限制性假设下获得的。
2021-07-31 math.OC
Fast inertial dynamics and FISTA algorithms in convex optimization. Perturbation aspects
在Hilbert空间中，研究了二阶微分方程$\mathcal H$的轨迹的快速收敛性质，其中$t \to + \infty$是凸连续可微函数$Φ: \mathcal H \to \mathbb R$的梯度，$α$是正参数，$g: [t_0, + \infty[ \rightarrow \mathcal H$是“小”扰动项.在这种阻尼惯性系统中，粘性阻尼系数$\fracα{t}$渐近地消失，但不会太快。对于$α\geq 3$，和$\int_{t_0}^{+\infty} t \|g(t)\| dt < + \infty$，只要假设解集非空，我们证明了上述系统的任何轨迹都满足快速收敛性质$Φ(x(t))- \min_{\mathcal H}Φ\leq \frac{C}{t^2}$ .对于$α> 3$，我们证明了任何轨迹弱收敛到$Φ$的最小值，并且在各种实际情况下，我们显示了强收敛性。这补充了Su-Boyd- Candès和Attouch-Peypouquet-Redont在未扰动情况下$g=0$得到的结果。该系统的时间离散化版本的并行研究提供了新的见解的影响的错误，或扰动Nesterov的类型算法。我们获得快速收敛的值，和收敛的轨迹的扰动版本的FISTA最近考虑的Chambolle-Dossal，和苏博伊德-坎迪斯的变体。
2015-07-06 math.OC
A unified analysis on the speedup of accelerated gradient methods: An inertial dynamics approach
University of Groningen（格罗宁根大学）
本文通过惯性动力学框架统一分析加速梯度方法的因子2加速，提出基于Hessian阻尼的离散化变体，并在强凸、二次增长及Polyak-Łojasiewicz条件下证明加速收敛，拓展至非唯一最小化器情形。
2026-09-14 math.OC
Solving convex optimization problems via a second order dynamical system with implicit Hessian damping and Tikhonov regularization
本文研究带有 Tikhonov 正则化项和隐式 Hessian 阻尼的二阶动力系统，用于凸 Fréchet 可微函数的最小化问题，通过显式离散化获得梯度型惯性算法，并证明了轨迹对全局最小值及极小值点的弱或强收敛性。
2024-01-05 math.DS math.OC
Accelerated gradient methods with strong convergence to the minimum norm minimizer: a dynamic approach combining time scaling, averaging, and Tikhonov regularization
在Hilbert框架下，对于凸可微优化问题，我们考虑了通过结合时间尺度和平均技术与Tikhonov正则化得到的加速梯度法。我们从连续的最速下降动态与一个额外的Tikhonov正则化项，其系数渐近消失。我们提供了一个广泛的一阶发展方程的李雅普诺夫分析。然后，我们适用于这个动态的时间缩放和平均最近推出的Attouch，博特和阮的方法。因此，我们得到一个惯性动态，其中涉及粘性阻尼与Nesterov的方法，隐式海森阻尼和Tikhonov正则化。在一个适当的参数设置，只是使用詹森不等式，而不需要另一个李雅普诺夫分析，我们表明，轨迹在同一时间有几个显着的属性：它们提供了一个快速收敛的值，快速收敛的梯度为零，和强收敛到最小范数最小。这些结果完善和改进了作者以前的结果。
2022-11-18 math.OC
Fast primal-dual algorithm via dynamical system for a linearly constrained convex optimization problem
通过对具有阻尼$α/t$的二阶原-对偶动力系统进行时间离散，其中原变量只需要Nesterov意义下的惯性结构，提出了求解线性等式约束凸优化问题的一种快速原始对偶法.在适当的尺度条件下，我们证明了该算法对于目标残差和可行性违背具有快速的收敛速度，衰减速率最大可达$\mathcal{O}(1/k^{α-1})$.我们也研究了相应的原始-对偶动力系统的收敛性质，以更好地理解加速方案。最后，我们报告的数值实验，以证明所提出的算法的有效性。
2022-06-03 math.OC
Towards faster first order methods: A continuous-time model to interpolate between speed and function value restart
Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, University of Groningen（格罗宁根大学伯努利数学、计算机与人工智能研究所）
本文提出了一种新的重启方案，用于连续惯性动力学中的Hessian驱动阻尼，建立了函数值沿重启轨迹的线性收敛率。该方案无需知道强凸性参数，是现有速度重启方案的推广，通过在速度和函数值重启之间插值，显著延迟重启时间，同时保持收敛性和函数值下降。
2026-04-10 math.OC
"Second-Order Primal'' + "First-Order Dual'' Dynamical Systems with Time Scaling for Linear Equality Constrained Convex Optimization Problems
二阶动力系统是求解最优化问题的重要工具，现有的研究主要集中在无约束最优化问题上。针对线性等式约束凸优化问题，提出了一个具有常粘性阻尼和时间尺度的惯性原-对偶动力系统，它由原变量的二阶常微分方程和对偶变量的一阶常微分方程组成.当尺度变换满足一定条件时，在不假设强凸性的情况下，证明了它的收敛性。当缩放指数增长时，甚至收敛速度也可以变成指数。我们还证明了所得到的动力系统的收敛性在小扰动下是保持的。
2022-05-20 math.OC
Fast Augmented Lagrangian Method in the convex regime with convergence guarantees for the iterates
在线性等式约束下，研究了一类具有Lipschitz连续梯度的连续可微凸函数的极小化问题。所提出的惯性算法是由Bot和Nguyen在[Bot，Nguyen，JDE，2021]中提出的具有渐近消失阻尼项的二阶原始-对偶动力系统的离散化产生的，并且它是根据与最小化问题相关的增广拉格朗日公式来制定的。我们考虑的惯性参数的一般设置涵盖了Nesterov，Chambolle-Dossal和Attouch-Cabot在文献中用于制定快速梯度法的三个经典规则。对于这些规则，我们获得了在凸政权的原始-对偶间隙，可行性措施，和目标函数值的顺序${\cal O}(1/k^{2})$的收敛速度。此外，我们证明了所产生的原始-对偶迭代序列收敛到一个原始-对偶解的一般设置，涵盖了后两个规则。这是第一个结果，它提供了一个快速算法产生的线性约束凸优化问题的迭代序列的收敛性，没有额外的假设，如强凸性。我们还强调，本文的所有收敛性结果与[Bot，Nguyen，JDE，2021]在连续设置中得到的结果是相容的。
2022-08-01 math.OC
Ensemble Kalman Inversion as an Inertial Interacting Particle System
Institute for Geometry and Applied Mathematics, RWTH Aachen University（亚琛工业大学几何与应用数学研究所）；Department of Mathematics and Applied Mathematics, University of Pretoria（比勒陀利亚大学数学与应用数学系）；Department of Mathematics, Sapienza University of Rome（罗马第一大学数学系）
针对集合卡尔曼反演中协方差崩溃问题，提出一种结合阻尼、均值吸引和短程排斥的惯性二阶粒子系统，在线性反问题中分析其稳定性并导出指数衰减估计。
2026-09-15 cs.NA math.DS math.NA
Tikhonov-Regularized Second-Order Primal-Dual Dynamics for Convex-Concave Bilinear Saddle Point Problems
University of Electronic Science and Technology of China（电子科技大学）
本文提出一种通用的Tikhonov正则化二阶动力系统，用于解决凸-凹双曲正交问题，通过分析收敛性与数值实验验证了其有效性。
2026-08-28 math.DS math.OC
An extension of the second order dynamical system that models Nesterov's convex gradient method
本文研究了一类与具有Frèchet可微目标函数的凸极小化问题相联系的一般二阶连续动力系统。我们表明，惯性算法，如Nesterov的算法，可以通过我们的动力系统的自然显式离散化。我们的动力系统可以被看作是一个扰动版本的重球方法与消失阻尼，但扰动是在目标函数的梯度的论点。这种扰动似乎有一个平滑效果的能量误差，并消除了振荡的情况下，消失的阻尼的重球方法，为这个错误，一些数值实验表明。我们证明了生成轨迹中的目标函数的值以O（1/t^2）的顺序收敛到目标函数的全局极小值。此外，我们得到的轨迹所产生的动力系统收敛到一个极小点的目标函数。
2019-07-27 math.FA math.OC
Gradient-adjusted underdamped Langevin dynamics for sampling
本文提出 GAUL 随机微分方程，将优化中的原始-对偶与 Hessian 驱动阻尼同随机扰动结合，证明其目标平稳性，并在高斯与非高斯采样中展现更快收敛。
2024-10-26 cs.NA math.NA math.OC
A closed loop gradient descent algorithm applied to Rosenbrock's function
Australian National University（澳大利亚国立大学）
我们介绍了一种新的自适应阻尼技术的惯性梯度系统的应用程序作为梯度下降算法无约束优化。在一个例子中，使用非凸Rosenbrock的功能，我们表现出现有的动量为基础的梯度优化方法的改进。还使用李雅普诺夫稳定性分析，我们证明了该算法的连续时间版本的性能。使用数值模拟，我们认为它的离散时间对应的性能，通过使用辛欧拉法的离散化。
2021-11-19 cs.LG math.DS math.OC
