An improved input-constrained funnel controller for nonlinear systems
Martin-Luther-Universität Halle-Wittenberg(哈勒-维滕贝格马丁路德大学)
本文提出一种改进的函数管控制器,用于处理具有输入约束的非线性多输入多输出系统,通过减少控制器复杂度和设计参数提升性能。
2026-04-28 math.OC
Funnel control for a moving water tank
研究了一类由线性化圣维南方程组建模的非线性运动水箱系统的跟踪控制问题,其中输出由水箱的位置给定,控制输入为作用在水箱上的力,对于给定的参考信号,目标是跟踪误差在预先给定的性能漏斗内演化.利用最近的结果在漏斗控制,这可以通过显示,除其他外,系统的内部动态是有界输入,有界输出稳定。
2021-08-04 math.OC
String stability and guaranteed safety via funnel cruise control for vehicle platoons
Universität Paderborn(帕德博恩大学);University of Groningen(格罗宁根大学)
研究具有异构和非线性动力学的自动驾驶车辆编队的分散控制策略,基于漏斗控制思想提出新算法,能保证车距、交通流并实现串稳定性,通过模拟验证性能。
2026-07-07 math.OC
Funnel MPC for nonlinear systems with relative degree one
我们表明,漏斗MPC,一种新的模型预测控制(MPC)计划,允许跟踪平滑的参考信号与规定的性能的非线性多输入多输出系统的相对度1与稳定的内部动态。在漏斗MPC的每次迭代中解决的最优控制问题类似于优化中使用的惩罚方法的基本思想。为此,我们提出了一个新的阶段成本设计,模仿高增益的想法(自适应)漏斗控制。我们严格展示了Funnel MPC的初始和递归可行性,而没有强加终端条件或其他要求,例如足够长的预测范围。
2022-03-16 math.OC
Fault tolerant funnel control for uncertain linear systems
研究不确定线性系的自适应容错跟踪控制问题。基于漏斗控制和时变Byrnes-Isidori形式的最新结果,我们开发了一种低复杂度的无模型控制器,对于任何给定的足够平滑的参考信号,该控制器都可以实现规定的跟踪误差性能。在所考虑的系统类,我们允许更多的输入比输出,只要满足一定的冗余度的执行器。控制器权矩阵在控制器设计中起着重要的作用。这是一个矩形输入变换,选择这样的零动态,这是假定为一致指数稳定的,在所得到的系统是独立的新输入。我们说明了容错漏斗控制器的线性化模型的波音737飞机的横向运动的一个例子。
2019-12-04 math.OC
Funnel control in the presence of infinite-dimensional internal dynamics
研究一类不确定非线性系统的输出轨迹跟踪问题,该系统的内部动态可以用输入有界输出稳定的无穷维系统来描述。我们描述在哪些条件下,这些系统属于一个抽象的类,漏斗控制是已知的可行的。作为一个说明性的例子,我们表明,对于一个系统的内部动态模型的传输方程,这是不是指数稳定的,我们得到规定的性能的跟踪误差。
2019-12-05 math.OC
Funnel control of the Fokker-Planck equation for a multi-dimensional Ornstein-Uhlenbeck process
本文探讨了在无界空间域上对对应于多维Ornstein-Uhlenbeck过程的Fokker-Planck方程采用漏斗控制技术的可行性。首先,利用加权Lebesgue和索伯列夫空间,通过适当的半双线性型定义了一个辅助算子。然后将该算子转换为所需的Fokker-Planck算子。我们证明了受控福克-普朗克方程(它是一个概率密度)的任何温和的解决方案有一个协方差阵,指数收敛到一个常数矩阵。在讨论了一种简单的前馈控制方法后,我们利用半群理论证明了漏斗控制在干扰存在下的可行性。我们强调,闭环系统是一个非线性和时变偏微分方程。仿真结果表明了该方法的有效性。
2021-04-14 math.OC
Approximations of the Set of Trajectories and Integral Funnel of the Nonlinear Control Systems with Limited Control Resources
本文讨论了控制函数受积分约束的非线性常微分方程所描述的控制系统的轨迹集和积分漏斗的近似问题。容许控制函数的集合由有限个分段常数控制函数组成的集合代替。它示出了由有限数量的分段常数控制函数生成的轨迹集是轨迹集的内部近似。进一步,用适当的欧拉折线代替分段常数控制函数所产生的轨迹,证明了由有限条欧拉折线组成的轨迹集是给定控制系统轨迹集的近似.系统的积分漏斗的一组由有限数量的点的近似。
2022-02-21 math.OC
Funnel control -- a survey
本文综述了漏斗控制方法,介绍其仅依赖系统结构性质即可实现预设瞬态与渐近误差约束的核心原理,并涵盖多种系统类别、输入约束及应用。
2025-07-02 math.OC
Funnel MPC with feasibility constraints for nonlinear systems with arbitrary relative degree
利用最近引入的漏斗预测控制技术,研究了相对阶已知且内动态稳定的非线性系统的跟踪控制问题。我们的目标是实现规定的性能漏斗内的跟踪误差的演变。我们提出了一种新的阶段成本漏斗MPC,早期的设计扩展到任意相对程度的情况下,并表明,控制目标以及初始和递归的可行性总是实现-不需要任何终端条件或足够长的预测范围。我们只在最优控制问题中施加一个额外的可行性约束。
2022-05-25 math.OC
Funnel control with input filter for nonlinear systems of relative degree two
Universität Paderborn(帕德博恩大学)
本文提出一种无模型自适应控制器,通过输入滤波器实现非线性相对次数为二系统的输出参考跟踪控制。
2025-12-19 math.OC
A low-complexity funnel control approach for non-linear systems of higher-order
针对未知高阶非线性多输入多输出系统的输出跟踪问题,提出一种复杂度更低的无模型漏斗控制器,通过理论分析与仿真验证其有效性。
2025-05-23 math.OC
Robust Funnel Model Predictive Control for output tracking with prescribed performance
针对相对阶一且内部动态稳定的非线性MIMO系统,提出结合漏斗MPC与无模型自适应漏斗控制器的鲁棒方案,在未知扰动和模型失配下保证预定性能跟踪,并证明无需终端条件的初始与递归可行性。
2023-12-12 math.OC
On Model Predictive Funnel Control with Equilibrium Endpoint Constraints
提出模型预测漏斗控制,结合漏斗控制的误差保证与MPC的预测优势,通过滚动优化参数化误差边界,减少决策变量并提升鲁棒性,利用终端等式约束证明稳定性及可行性。
2025-05-26 math.OC
Funnel control of nonlinear systems
参考信号的跟踪是在一类由$r$阶泛函微分方程建模的非线性控制系统的背景下解决的,其中包括具有未知“控制方向”和死区输入效应的系统。一种控制结构的开发,确保每个成员的基本系统类和每个容许的参考信号,跟踪误差演变在一个规定的漏斗选择,以反映瞬态和渐近精度目标。两个基本属性支持系统类:有界输入有界输出稳定的内部动态,和高增益属性(其前提是在线性系的上下文中的符号确定的高频增益的概念)。
2021-01-15 math.OC
Vector relative degree and funnel control for differential-algebraic systems
研究多输入多输出微分代数系统的跟踪控制问题。首先,将向量相对度的概念推广到线性系,得到了“截断向量相对度”的新概念,并导出了一个新的规范形。之后,我们考虑一类非线性泛函微分-代数系统,它包括具有截断向量相对度的线性系。对于这个类,我们引入了一个反馈控制器,它实现了,对于一个给定的足够平滑的参考信号,跟踪误差在一个预先指定的性能漏斗。我们说明我们的结果的机器人机械手的一个例子。
2020-01-15 math.OC
Towards Funnel MPC for nonlinear systems with relative degree two
漏斗模型预测控制是一种新型的模型预测控制(MPC)方案,它能保证非线性多输入多输出系统的输出跟踪平滑参考信号,并具有给定的误差界。为此,阶段成本类似于漏斗控制的高增益思想。然而,严格的证明,初始和递归的可行性,而不纳入额外的输出约束的漏斗MPC计划,仅适用于系统的相对度1和稳定的内部动态。在本文中,我们将这些结果扩展到系统的相对度为2,也将一个长期的基础上的想法,一个衍生漏斗的阶段成本。
2022-02-25 math.OC
Funnel control with input filter for nonlinear systems with arbitrary relative degree
Martin-Luther-Universität Halle-Wittenberg(哈勒-维滕贝格马丁路德大学)
本文提出了一种基于滤波变量集合的无导数扩展 funnel 控制方法,用于未知非线性多输入多输出系统输出参考跟踪问题,通过保证跟踪误差在预设性能范围内,避免输出信号微分并保持简单的结构。
2026-09-23 math.OC
Funnel control for the monodomain equations with the FitzHugh-Nagumo model
我们考虑一个抛物型的非线性反应扩散方程组,称为单域方程组,它模拟了细胞中电流的相互作用。与FitzHugh-Nagumo非线性模型一起,它们代表了人类心脏的除颤过程。我们研究了一个相当一般的类型与位于同一地点的输入和输出描述边界和分布式控制和观察。控制目标是输出轨迹跟踪与指定的性能。为了实现这一点,我们采用漏斗控制器,这是无模型和低复杂性。该控制器在闭环系统中引入了一个非线性时变项,并证明了其解的存在唯一性。此外,利用问题的抛物线性质,我们获得了状态,输入和输出的Hölder连续性。我们说明了我们的结果,通过一个标准的测试例子终止再入波的模拟。
2021-01-26 math.OC
Continuous-time Constrained Funnel Synthesis for Incrementally Quadratic Nonlinear Systems
针对受有界扰动的增量二次非线性系统,提出基于凸优化的连续时间约束漏斗合成框架,通过DLMI确保漏斗不变性,重构为DME和LMI求解,在单轮车与四旋翼避障任务中验证有效性。
2025-11-12 math.OC
Event-Triggered Funnel Control for Output Reference Tracking of Unknown Nonlinear Systems
Martin-Luther-Universität Halle-Wittenberg(哈勒-维滕贝格马丁·路德大学)
针对未知非线性系统输出参考跟踪问题,提出事件触发零阶保持实现的漏斗控制器,通过辅助积分状态补偿误差,保证闭环性能并排除芝诺行为,经数值仿真验证有效。
2026-11-02 math.OC
Sampled-data funnel control and its use for safe continual learning
提出一种适用于任意相对阶非线性系统的采样数据输出反馈控制器,确保预设误差范围内的参考跟踪,可作为安全过滤器与强化学习等控制器结合,应用于安全关键场景。
2025-02-04 math.OC
Funnel MPC for nonlinear systems with arbitrary relative degree
针对现有Funnel MPC受系统相对阶限制或需额外可行性约束的问题,提出基于跟踪误差导数加权和的改进阶段代价函数,证明了其对任意相对阶非线性系统的初始与递推可行性,无需终端条件等额外要求。
2024-03-10 math.OC
Joint Observer-Based Output-Feedback Robust Guidance and Control Funnel Synthesis
William E. Boeing Department of Aeronautics and Astronautics, University of Washington(华盛顿大学航空航天系)
提出联合制导与鲁棒观测器输出反馈综合框架,协同设计参考轨迹、观测器及增益,用LMI和prox-SCP求解,仿真验证鲁棒跟踪与约束满足。
2026-09-22 math.OC
A model-free approach to control barrier functions using funnel control
针对基于 CBF 的安全控制依赖系统模型的问题,本文结合漏斗控制提出仅用测量输出的无模型 CBF 控制律,并建立其与归零 CBF 模块化综合的联系。
2025-06-16 math.OC
Output feedback control with prescribed performance via funnel pre-compensator
本文研究了仅通过输出反馈的高相对度系统的输出参考跟踪问题,即输出导数未知的情况下的跟踪问题。为此,我们证明了漏斗预补偿器与任意相对度的最小相位系统的结合产生了相同相对度的系统,该系统也是最小相位。原始系统的输出和预补偿器的输出之间的误差在规定的性能漏斗内演化;此外,漏斗预补偿器的输出的导数是明确已知的。因此,在不知道原始系统输出的导数的情况下,可以通过例如漏斗控制方案来实现具有跟踪误差的规定瞬态行为的输出参考跟踪。
2022-02-14 math.DS math.OC
BIBO stability for funnel control: semilinear internal dynamics with unbounded input and output operators
本文研究了考虑边界控制和边界观测的半线性无穷维动力系统的有界输入有界输出(BIBO)稳定性。基于插值空间的利普希茨条件,给出了BIBO稳定的充分条件.我们的研究结果可以应用于保证漏斗控制耦合ODE-PDE系统的可行性,通过一个例子,从化工。
2023-02-17 math.AP math.OC
Safe continual learning in model predictive control with prescribed bounds on the tracking error
针对未知连续时间非线性系统,提出在鲁棒漏斗 MPC 中加入在线机器学习组件的三组件安全持续学习方法,在保证跟踪误差规定界限的同时自适应模型。
2025-02-15 math.OC
Funnel control for boundary control systems
研究了一种应用于边界控制系统的非线性、非自治反馈控制器。我们的目标是跟踪一个给定的参考信号与规定的性能。利用非线性算子理论证明了闭环系统解的存在唯一性。我们将所得结果应用于双曲型和抛物型方程。
2020-06-08 math.AP math.OC
Analysis and funnel control for nonlinear drill strings
Martin-Luther-Universität Halle-Wittenberg(哈勒-维滕贝格马丁路德大学);Kongu Engineering College(孔古工程学院);Technische Universität Ilmenau(伊尔梅瑙工业大学)
研究非线性钻杆系统输出跟踪问题,通过抽象边界值问题分析模型可解性,提出 novel funnel 控制方法以确保钻头角速度跟踪动态参考轨迹,同时保持跟踪误差在预设性能 funnel 内。
2026-10-06 math.OC
Funnel control of linear systems with arbitrary relative degree under output measurement losses
针对存在输出测量丢失的任意相对阶线性最小相位系统,提出一种漏斗跟踪控制律,显式给出测量丢失最大时长与可用最小时长条件,并通过车上质量系统仿真验证。
2023-09-27 math.DS math.OC
Funnel-based Control for Reach-Avoid-Stay Specifications
本文针对控制仿射非线性系统提出一种基于漏斗控制的方法,通过引入规避函数和自适应漏斗框架构建闭式控制器,确保系统轨迹满足到达-避免-停留规范,并通过仿真验证了其有效性。
2023-08-30 cs.SY eess.SY math.OC
Exact output tracking in prescribed finite time via funnel control
针对未知非线性系统,提出一种新型高增益反馈控制器,实现预定有限时间内精确输出跟踪且瞬态误差保持在预设边界内,并严格证明其可行性。
2024-08-28 math.DS math.OC
Funnel control for passive infinite-dimensional systems
针对阻抗无源线性无穷维系统,采用系统节点方法分析漏斗控制的闭环非线性演化方程可解性,证明其适用性,并通过两种控制场景下的Euler-Bernoulli梁算例验证。
2025-10-01 math.AP math.FA math.OC
Tracking with prescribed performance for linear non-minimum phase systems
研究了相对阶已知的不确定线性系的跟踪控制问题,它们的零动态可能具有不稳定部分。对于一个给定的足够平滑的参考信号,我们设计了一个低复杂度的控制器,实现了跟踪误差在规定的性能漏斗内演变。我们提出了一种新的方法,其中构造了一个新的输出,相对于该系统具有更高的相对度,但零动态的不稳定部分被消除。使用最近的结果在漏斗控制,然后我们设计了一个控制器,相对于这个新的输出,它也采用了一个新的参考信号。我们证明了原始输出保持在原始参考轨迹周围的指定性能漏斗内,并且闭环系统中的所有信号都有界。仿真结果表明了该方法的有效性。
2020-02-04 math.OC
Maneuvering tracking algorithm for reentry vehicles with guaranteed prescribed performance
本文提出一种基于预设性能的再入飞行器机动跟踪控制策略,通过引入时间触发的非单调性能漏斗和无需系统参数知识的递归控制结构,确保在参考轨迹突变和扰动下跟踪误差维持在预设范围内,并通过仿真验证了其有效性。
2023-08-01 math.OC
Model Predictive Control for output tracking with prescribed performance
Universität Paderborn(帕德博恩大学)
本研究提出了一种基于预定性能的MPC框架,通过融合模型预测优化与自适应反馈补偿,实现非线性系统在预定误差范围内的输出跟踪,同时提升预测精度和鲁棒性。
2026-02-25 math.OC
Controlling the Rates of a Chain of Harmonic Oscillators with a Point Langevin Thermostat
针对原点带 Langevin 恒温器的无限谐振子链,本文比较脉冲控制与利用状态历史的线性记忆反馈控制,证明后者可渐近实现任意满足假设的速率三元组。
2025-01-17 math.OC
Real-time Funnel Generation for Restricted Motion Planning
University of California, Berkeley(加州大学伯克利分校)
在自主系统中,运动规划器生成由低级控制器跟踪的参考轨迹。为了安全操作,运动规划器在生成回避轨迹时应考虑不可避免的控制器跟踪误差。在这篇文章中,我们提出了一种方法来生成可证明安全的跟踪误差界,同时减少过度保守,存在于现有的方法。我们通过限制运动规划器的可能行为来实现这一目标。我们提供了一个代数方法的基础上的平方和规划的运动规划定义的限制,并找到小的范围内的跟踪误差。我们证明了我们的方法在两个案例研究,并展示了我们如何可以集成到已经开发的运动规划技术的方法。结果表明,我们的方法可以提供可接受的跟踪误差,其中以前的工作是不适用的。
2019-11-04 cs.RO math.OC
Prescribed-performance position tracking for infinite-dimensional passive systems
University of Namur(南纳穆尔大学);Technische Universität Ilmenau(伊尔梅瑙工业大学)
针对受控输出为无源输出积分的线性无限维无源系统,提出带动态增益监督器的非线性递归漏斗控制器,证明相关性能并以欧拉-伯努利梁验证,实现指定性能位置跟踪。
2026-08-19 math.FA math.OC
Adaptive output error feedback for a class of nonlinear infinite-dimensional systems
研究实希尔伯特空间上一类非线性无穷维系统的输出调节问题。在状态空间的分解和与Byrnes-Isidori形式有关的变量的某些变量变换之后,示出了(Berger等人,2020)在对非线性系统动力学的一些假设下,如适定性和有界输入状态有界输出(BISBO)稳定性,实现了控制目标。该理论被应用于调节的化学推流管式反应器中的温度,其反应动力学由阿克里乌斯非线性模型。此外,阻尼正弦戈登模型也符合所需的假设。通过数值模拟说明了理论结果。
2022-04-05 math.OC
Output tracking for a non-minimum phase robotic manipulator
针对非最小相位的非线性机械臂,利用最近发展起来的线性非最小相位系统的漏斗控制方法,设计了一种输出误差反馈控制器。我们说明了新的控制设计的数值案例研究,在那里我们模拟末端执行器输出跟踪的机器人机械手。
2021-03-30 math.OC
State-Dependent Temperature Control for Langevin Diffusions
The Chinese University of Hong Kong(香港中文大学);The Hong Kong Polytechnic University(香港理工大学);Columbia University(哥伦比亚大学)
研究了非凸优化下Langevin扩散的温度控制问题。经典的最优控制这样的问题是bang-bang型,这是过于敏感的错误。一种补救方法是允许扩散探索其他温度值,从而使砰砰控制平滑。我们通过随机放松控制公式来实现这一目标,该公式结合了温度控制的随机化和对其熵的规则化。我们推导出一个状态依赖的,截断指数分布,它可以用来采样温度在朗之万算法,在解决方案的HJB偏微分方程。我们进行了数值实验的一维基线的例子,其中HJB方程可以很容易地解决,比较的性能与其他三个可用的算法在搜索一个全局最优值的算法。
2021-12-17 cs.LG math.OC
Mean-field Langevin System, Optimal Control and Deep Neural Networks
Université Paris-Dauphine, PSL Research University(巴黎文理研究大学巴黎多芬纳大学)
本文研究了正则松弛最优控制问题,特别是当控制变量是大维数时,我们所关心的问题。我们引入了一个平均场Langevin方程组,在较弱的条件下证明了其不变测度是初始问题的最优控制。因此,这个过程系统可以看作是计算最优控制的连续时间数值算法。作为一个应用,这一结果支持了随机梯度下降算法对广泛的一类深度神经网络的可解性。
2019-10-03 cs.LG math.OC math.PR
Langevin algorithms for Markovian Neural Networks and Deep Stochastic control
Sorbonne Université(索邦大学)
随机梯度下降朗之万动力学(SGLD)算法,它添加噪声到经典的梯度下降,是已知的,以改善神经网络的训练,在某些情况下,神经网络是非常深的。在本文中,我们研究了训练加速的可能性,通过梯度下降的数值分辨率的随机控制问题,其中控制参数化的神经网络。如果在许多离散化时间应用控制,则解决随机控制问题减少到最小化非常深的神经网络的损失。我们数值计算表明,朗之万算法提高了训练的各种随机控制问题,如对冲和资源管理,并为不同的选择梯度下降方法。
2023-01-13 cs.LG math.OC q-fin.CP
Sharp propagation of chaos for mean field Langevin dynamics, control, and games
本文研究了均场 Langevin 动力学、控制与博弈中混沌传播的尖锐速率,结合 BBGKY 层次结构与弱混沌传播技术,推导了有限时间和均匀时间下的收敛速率结果。
2026-03-11 math.AP math.OC math.PR
Speeding Up Nonsmooth Bayesian MCMC Sampling via Inexact Proximal Unadjusted Langevin Algorithm
KU Leuven(荷语鲁汶大学);University of Antwerp(安特卫普大学)
本文研究了从具有非光滑复合势的后验分布中采样的问题,提出了一种不精确的近端无调整 Langevin 算法(iPULA),该算法通过可控的近似替代精确的近端步骤,利用Moreau包络体平滑势,并允许通过不精确的近端计算来近似梯度,从而在非光滑情况下实现非渐近收敛性保证,并在医学图像重建任务中验证了其有效性。
2026-05-17 math.OC
Simulating Fokker-Planck equations via mean field control of score-based normalizing flows
University of California, Los Angeles(加州大学洛杉矶分校);University of South Carolina(南卡罗来纳大学)
本研究将FP方程转化为连续性方程,设计MFC问题匹配速度场,用基于得分的归一化流高效计算得分函数,经多类系统数值实验及收敛分析验证了算法的有效性与可扩展性。
2026-07-31 math.OC
A quadratic Mean Field Games model for the Langevin equation
我们考虑一个平均场博弈模型,其中代理的动态是由一个受控的朗之万方程和成本是二次的。在[9]中引入的变量变量变换将平均场博弈系统转化为两个耦合动力学福克-普朗克方程的系统。我们证明了后者系统的存在性结果,从而得到平均场博弈系统的解的存在性。
2021-01-10 math.AP math.OC
A model-free approach to control barrier functions for higher-order systems
TU Ilmenau(伊尔梅瑙工业大学);Imperial College London(帝国理工学院);Universität Paderborn(帕德博恩大学);Martin-Luther-Universität Halle-Wittenberg(哈勒-维滕贝格马丁·路德大学)
针对任意相对度的非线性系统,提出一种无需动态模型或状态测量的无模型控制障碍函数设计方法,并利用漏斗控制技术保证安全性。
2026-06-03 cs.SY eess.SY math.OC
State-dependent temperature control in Langevin diffusions using numerical exploratory Hamiltonian-Jacobi-Bellman equations
Worcester Polytechnic Institute(伍斯特理工学院);Hong Kong Polytechnic University(香港理工大学)
本文提出了一种基于探索性霍尔米安-贝塞尔曼方程的数值方法,解决高维优化中噪声控制问题,通过引入原理性控制界限和物理启发式神经网络框架,实现了高维问题中状态依赖噪声的准确估计。
2026-03-18 cs.NA math.NA math.OC
Variational Principles for Mirror Descent and Mirror Langevin Dynamics
Columbia University(哥伦比亚大学);University of Illinois(伊利诺伊大学);INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL Research University(巴黎文理研究大学)
镜像下降法是由Nemirovski和Yudin在20世纪70年代提出的一种原始-对偶凸优化方法,它可以通过选择强凸势函数来适应当前最优化问题的几何形状。它在各种应用中作为基本的原语出现,包括大规模优化,机器学习和控制。本文提出了一种变分形式的镜像下降及其随机变量,镜像朗之万动力学。受Brezis和Ekeland关于梯度流的变分原理的经典工作的启发,本文的主要思想是证明镜像下降是作为某个最优控制问题的闭环解出现的,而Bellman值函数是由初始条件和目标函数的全局极小值之间的Bregman发散给出的。
2023-03-16 cs.LG math.OC
Stochastic gradient descent and fast relaxation to thermodynamic equilibrium: a stochastic control approach
研究了受线性反馈力控制的欠阻尼Langevin方程的平衡收敛性。具体而言,我们感兴趣的是采样可能的多峰不变概率分布的Langevin系统在小噪声(或低温),其中的动态可以很容易地被困在亚稳态子集的相空间。我们遵循[陈等人,J.Math.Phys.56,113302,2015],并考虑在高温下模拟的朗之万方程,其中控制起平衡附加噪声的摩擦的作用,以便在较低温度下恢复原始不变测度。我们讨论了不同的限制,温度比趋于无穷大,并证明收敛到一个极限动态。事实证明,取决于是否较低(“目标”)或较高(“模拟”)的温度是固定的,受控动态收敛到过阻尼朗之万方程或确定性梯度流。这意味着(a)遍历极限和大温度分离极限一般不交换,以及(b)不可能通过使温度分离越来越大来加速收敛到遍历极限的速度。我们讨论了这些观察的影响,从分子动力学的随机优化算法和增强的采样方案的角度。
2021-03-08 math.OC math.PR
Non-Convex Optimization via Non-Reversible Stochastic Gradient Langevin Dynamics
随机梯度朗之万动力学(SGLD)是一种用于优化非凸目标的强大算法,其中将受控且适当缩放的高斯噪声添加到随机梯度以将迭代转向全局极小值。SGLD基于过阻尼Langevin扩散,其在时间上是可逆的。通过在过阻尼Langevin扩散的漂移项上增加一个反对称矩阵,得到了一个不可逆扩散,该扩散以更快的收敛速度收敛到相同的平稳分布。本文研究了基于不可逆Langevin扩散离散化的不可逆随机梯度Langevin动力学(NSGLD)。对于求解随机非凸优化问题,我们给出了NSGLD的整体收敛的有限时间性能界。我们的研究结果导致人口和经验风险最小化问题的非渐近保证。贝叶斯独立成分分析和神经网络模型的数值实验表明,NSGLD可以优于SGLD适当选择的反对称矩阵。
2020-06-02 math.OC stat.ML