Continuous time limit of the stochastic ensemble Kalman inversion: Strong convergence analysis
EKI方法是一种在贝叶斯逆问题中估计未知参数的方法。该方法通过粒子的集合来近似基本测量,并迭代地应用集合卡尔曼更新以将先前的(近似)演化为后验测量。对于EKI的收敛性分析,通常的做法是导出一个连续的版本,用随机微分方程代替迭代。在本文中,我们验证了这种方法表明,随机EKI迭代收敛到路径的连续时间随机微分方程,同时考虑非线性和线性设置,我们证明了依概率收敛的前,和收敛的时刻为后者。所采用的方法也可应用于一般随机微分方程的更一般的数值格式的分析。
2021-07-30 cs.NA math.NA
Pathwise uniform convergence of a full discretization for a three-dimensional stochastic Allen-Cahn equation with multiplicative noise
本文分析带乘性噪声的三维随机Allen-Cahn方程的全离散化(Euler时间格式+有限元空间方法),推导一般空间L^q范数下的路径一致收敛速率并实验验证,贡献在于提出非线性随机抛物方程有限元全离散路径一致收敛的技术。
2024-11-26 cs.NA math.NA
Strong convergence of a Verlet integrator for the semi-linear stochastic wave equation
考虑了半线性随机波动方程的全离散化问题。在空间上采用间断Galerkin有限元法,在半群框架下进行分析,在时间上采用显式随机位置Verlet格式。在CFL条件下研究了该格式的稳定性,并证明了其最优强收敛速度。数值实验验证了我们的理论结果。此外,我们分析和绑定的预期能量和数值计算显示出良好的协议与能量的精确解。
2020-09-16 cs.NA math.NA
Stability of analytical solutions and convergence of numerical methods for non-linear stochastic pantograph differential equations
Harbin Institute of Technology(哈尔滨工业大学)
本文研究非线性随机引理微分方程分析解的多项式稳定性及半隐式欧拉方法的收敛性,推导了解在均方和几乎必然意义下多项式增长的充分条件,证明了该方法的一致性和收敛性,并给出了其一致性和收敛性的阶数。
2015-01-31 cs.NA math.NA
Design and convergence analysis of numerical methods for stochastic evolution equations with Leray-Lions operator
* 梯度离散化方法(GDM)是一个通用框架,涵盖了许多经典方法(有限元,有限差分,不连续伽辽金等),用于设计和分析扩散模型的数值方案。本文研究了基于Leray-Lions型算子的一般随机发展问题的GDM。该问题包含随机$p$ -Laplace方程作为一个特殊的情况。利用离散泛函分析技巧、Skorohod定理和Kolmogorov检验证明了梯度格式解的收敛性。特别是,我们提供了一个独立的证明弱鞅解的存在性问题。从而为GS逼近随机偏微分方程的收敛性的证明奠定了基础,提供了技巧。
2020-12-29 cs.NA math.NA
First order strong convergence and extinction of positivity preserving logarithmic truncated Euler-Maruyama method for the stochastic SIS epidemic model
流行病学中著名的随机SIS模型具有高度非线性的特点,在一个有界区域内存在唯一的正解,并具有一系列的动力学行为。然而,近似方法,以保持积极性和长期行为的随机SIS模型,虽然非常重要,也缺乏。基于对数变换,对一类系数违反全局单调性条件的随机SIS传染病模型提出了一种新的显式数值方法,该方法能保持原随机SIS模型的正性.证明了数值方法的强收敛性,并证明了其收敛速率为一阶。此外,再现了随机SIS模型的精确解的灭绝性.最后通过数值实验验证了算法的有效性。
2021-11-01 cs.NA math.NA
An adaptive stochastic Galerkin method based on multilevel expansions of random fields: Convergence and optimality
本文研究了二阶椭圆型偏微分方程的随机Galerkin方法。它结合了随机变量的算子压缩和空间变量的基于树的样条小波逼近。依赖于给定的随机扩散系数的多级扩展,该方法被证明可以实现最佳的计算复杂性的对数因子。与现有的结果相比,这尤其适用于当可实现的收敛速度受限于随机场的规则性,而不是受限于空间近似阶。数值实验证明了算法的收敛性和复杂性.
2022-06-01 cs.NA math.NA
Weak order one convergence of structure-preserving stochastic theta methods for stochastic differential algebraic equations with time-dependent singular matrices
Yunnan University(云南大学);Jiangxi University of Finance and Economics(江西财经大学)
本文针对一类带有时间相关奇异矩阵的指标-1随机微分代数方程,研究结构保持随机theta方法的弱收敛阶,证明了该方法在全局Lipschitz、线性增长和适当光滑性假设下具有弱一阶收敛性。
2026-06-04 cs.NA math.NA
Convergence of an operator splitting scheme for abstract stochastic evolution equations
本文研究 Hilbert 空间中随机半线性演化方程的 Lie-Trotter 算子分裂格式收敛性,证明其经典半阶强收敛性在所提设定中为最优,实际阶数取决于噪声正则性。
2019-01-18 cs.NA math.NA
Weak convergence rates for stochastic evolution equations and applications to nonlinear stochastic wave, HJMM, stochastic Schrödinger and linearized stochastic Korteweg-de Vries equations
本文研究了广泛随机演化方程噪声离散化的弱收敛速率,针对非正则化半群和加性或乘性噪声,提出了一种方法,该方法在非线性随机波、HJMM、随机薛定谔和线性化随机科赫登-德维里斯方程中得到应用,并在重要方程中提供了最优收敛速率。
2018-11-13 cs.NA math.NA math.PR
Convergence of Density Approximations for Stochastic Heat Equation
研究了随机热方程密度逼近在一致收敛性拓扑和全变差距离下的收敛性。一致收敛性拓扑中密度的收敛阶在非线性情形下恰好为$1/2$,在线性情形下近似为$1$.这个结果意味着近似的分布总是收敛到原点方程在全变差距离上的分布。据我们所知,这是关于随机偏微分方程密度逼近收敛性的第一个结果。
2020-08-03 cs.NA math.NA math.PR
Strong convergence rate of the truncated Euler-Maruyama method for stochastic differential delay equations with Poisson jumps
本文研究了一类带Poisson跳的超线性随机时滞微分方程(SDDEwPJs).在广义Khasminskii型条件下,研究了SDDEwPJ的截断Euler-Maruyama数值解的收敛性和收敛速度.
2020-09-07 cs.NA math.NA math.PR
A Sharp Convergence Rate for the Asynchronous Stochastic Gradient Descent
基于[An et al. Stochastic modified equations for the asynchronous gradient descent,arXiv:1805.08244]中引入的随机修正方程,当损失函数为扰动二次函数时,我们给出了异步随机梯度下降(ASGD)算法的一个急剧的收敛速度.我们证明了当本地工人的数量大于期望的陈旧,那么ASGD是更有效的比随机梯度下降。我们的理论结果还表明,较长的延迟导致较慢的收敛速度。此外,学习率不能小于与期望陈旧性成反比的阈值。
2020-01-24 cs.NA math.NA math.OC
Weak Convergence of Finite Element Approximations of Stochastic Linear Schrödinger equation driven by additive Wiener noise
该研究用标准有限元法空间离散加性 Wiener 噪声驱动的随机线性 Schrödinger 方程,并证明近似解的弱收敛速率为强收敛速率的两倍。
2025-03-17 cs.NA math.NA math.PR
Strong Rates of Convergence for Space-Time Discretization of the Backward Stochastic Heat Equation, and of a Linear-Quadratic Control Problem for the Stochastic Heat Equation
我们介绍了一个时间隐式,有限元为基础的空间-时间离散格式的向后随机热方程,并为向前向后随机热方程的随机最优控制,并证明了强收敛速度。然后在梯度下降算法中使用前向-后向随机热方程的完全离散版本来近似求解由加性噪声驱动的随机热方程的线性二次控制问题。
2020-12-18 cs.NA math.NA math.OC
Convergence rates for the numerical approximation of the 2D stochastic Navier-Stokes equations
研究二维随机Navier-斯托克斯方程在周期边界条件下的解.方程的扰动由一个非线性乘法随机强迫与线性增长(速度)驱动的圆柱维纳过程。我们建立收敛速度的有限元为基础的时空近似的概率依概率收敛(其中的错误是衡量的$L^\infty_tL^2_x\cap L^2_tW^{1,2}_x$ -范数)。我们的主要结果提供了空间上的线性收敛和时间上的(几乎)1/2阶收敛。这改进了[E. Carelli,A.随机不可压缩Navier-斯托克斯方程离散化的收敛速度。SIAM J. Numer. Anal. 50(5),2467-2496。(2012)],其中时间上的收敛速度仅为(几乎)1/4。我们的方法是基于仔细分析的压力函数,使用随机压力分解。
2019-07-09 cs.NA math.AP math.NA
Last-iterate convergence analysis of stochastic momentum methods for neural networks
Northeast Normal University(东北师范大学);Changchun Humanities and Sciences College(长春人文学院);Imperial College London(帝国理工学院)
随机动量法是人工神经网络中求解大规模随机最优化问题的一种常用加速技术。现有的随机动量方法在非凸随机背景下的收敛性结果大多是从随机输出和最小输出两个方面讨论收敛性的。为此,我们解决的最后一个收敛的最后一个输出(称为最后一个收敛)的随机动量方法的非凸随机最优化问题,与传统的优化理论共形。在统一的框架下,我们证明了随机动量方法的最后收敛性,包括随机重球动量和随机Nesterov加速梯度动量。动量因子可以固定为常数,而不是现有分析中的时变系数。最后,在MNIST和CIFAR-10数据集上验证了随机动量方法的收敛性。
2022-05-30 cs.LG cs.NA math.NA
Strong convergence for explicit space-time discrete numerical approximation for 2D stochastic Navier-Stokes equations
Universität Duisburg-Essen(杜伊斯堡-埃森大学)
本文研究了二维不可压缩随机Navier-Stokes方程在流形上由加性噪声驱动的显式时空离散近似方案的强收敛性,利用现有结果证明了该方法对非全局单调非线性随机偏微分方程的强收敛性。
2018-09-06 cs.NA math.NA math.PR
Strong convergence rates for an explicit numerical approximation method for stochastic evolution equations with non-globally Lipschitz continuous nonlinearities
ETH Zürich(苏黎世联邦理工学院)
本文提出了一种新的显式且易于实现的数值方法,用于近似一类具有非全局利普希茨连续非线性的半线性随机演化方程,并在具有全局单调系数的半线性随机演化方程的情况下建立了该近似方法的强收敛性速率,特别适用于一类随机反应扩散偏微分方程。
2015-04-14 cs.NA math.NA math.PR
Wong-Zakai approximations with convergence rate for stochastic partial differential equations
MUFG Bank, Ltd.(三菱UFJ银行);Albert Ludwig University of Freiburg(弗赖堡阿尔伯特·路德维希大学)
本文研究了Wong-Zakai近似在随机偏微分方程中的收敛速率,并通过实例验证了其有效性。
2019-07-14 cs.NA math.NA math.PR
Convergence of tamed Euler schemes for a class of stochastic evolution equations
本文研究了一类具有超线性增长算子的随机演变方程的稳定性与收敛性,采用tamed Euler方法结合Galerkin方案进行时空离散化。
2015-08-13 cs.NA math.NA math.PR
On the lifting of deterministic convergence rates for inverse problems with stochastic noise
TU Chemnitz(德累斯顿工业大学);Johann Radon Institute(约翰·拉顿研究所);JKU Linz(林茨大学)
本文通过将确定性理论提升至随机领域,研究了随机噪声下逆问题的收敛性和收敛速率,为随机问题提供确定性正则化方法。
2016-04-25 cs.NA math.NA math.PR
Convergence Analysis for A Stochastic Maximum Principle Based Data Driven Feedback Control Algorithm
本文对一种基于部分含噪观测数据生成在线控制的新型数据驱动反馈控制算法进行了收敛性分析,该算法结合了粒子滤波状态估计与随机最大原理求解器,并理论推导得出优化过程的弱收敛结果,最后通过数值实验验证了相关理论。
2024-05-30 cs.NA math.NA math.OC
Strong convergence rates for nonlinearity-truncated Euler-type approximations of stochastic Ginzburg-Landau equations
本文针对具有多项式非线性的随机偏微分方程(SPDEs)提出并分析了显式且易于实现的时间数值逼近方案,如随机吉辛堡-兰道方程。通过抽象随机演算方程在可分巴拿赫和希尔伯特空间上的分析,证明了所考虑逼近方案的强收敛性速率,并通过Matlab数值模拟展示了结果。
2016-01-21 cs.NA math.NA math.PR
Convergence rate for Galerkin approximation of the stochastic Allen-Cahn equations on 2D torus
本文讨论了时空白噪声驱动的随机Allen-Cahn方程的Galerkin逼近在$\T$上的收敛速度.首先证明了随机二维热方程的收敛速度在Besov空间$\C^{-α}$中是$α-δ$阶的,其中$α\in(0,1)$和$δ>0$是任意小的.然后,我们得到了随机Allen-Cahn方程在$\C^{-α}$中的Galerkin逼近的收敛速度,其中$α-δ$阶为$α\in(0,2/9)$和$δ>0$为任意小.
2019-08-25 cs.NA math.AP math.NA
L2 convergence of smooth approximations of Stochastic Differential Equations with unbounded coefficients
本文针对具有无界系数的随机微分方程,结合传统随机分析与粗糙路径技术证明了其分段线性Wong-Zakai逼近的L^2收敛性,弥补了现有结果仅覆盖几乎必然收敛的不足。
2020-11-25 cs.NA math.NA math.PR
Stochastic Amplitude Flow for phase retrieval, its convergence and doppelgängers
在本文中,我们专注于随机幅度流(SAF)的相位恢复,随机梯度下降的幅度为基础的平方损失。虽然(非随机)振幅流的临界点的收敛性是很好理解的,但SAF是一种研究较少的算法。我们通过基于振幅流的贡献和随机梯度下降的分析推导SAF的收敛保证来缩小这一差距。然后将这些结果应用于另外两个算法,它们可以被视为SAF的实例。第一种是Kaczmarz方法的相位恢复的扩展。第二个是重叠关联迭代引擎,这是一个流行的算法重叠关联,一个特殊的情况下,相位恢复与短时傅里叶变换。关键词:相位恢复,振幅流,随机梯度下降,重叠关联,重叠关联迭代引擎,Kaczmarz方法。
2022-12-09 cs.NA math.NA math.OC
Super-convergence analysis on exponential integrator for stochastic heat equation driven by additive fractional Brownian motion
本文研究了一类含Hurst参数$H\in(\frac12,1)$的可加分数阶布朗运动驱动的随机热方程指数积分的强收敛阶.在适当的假设条件下,通过证明指数积分的强阶精度,给出了具有Hurst参数$H\in(\frac12,1)$的无穷维分数布朗运动驱动的随机偏微分方程全离散在时间方向上的第一个超收敛结果.证明是Malliavin演算,Skorohod积分的$L^p(Ω)$ -估计和拉普拉斯算子的平滑效应的组合。
2020-07-05 cs.NA math.NA math.PR
Convergence Analysis for Training Stochastic Neural Networks via Stochastic Gradient Descent
Oak Ridge National Laboratory(橡树岭国家实验室);Florida State University(佛罗里达州立大学);Auburn University(奥本大学)
在本文中,我们进行数值分析,以证明收敛性的一种新的样本方式的反向传播方法训练一类随机神经网络(SNNs)。SNN的结构被配制为随机微分方程(SDN)的离散化。随机最优控制框架被引入到建模的训练过程中,和一个样本的近似计划的伴随向后迭代,以提高效率的随机最优控制求解器,这是相当于反向传播训练SNN。收敛性分析推导和不凸性假设的SNN参数的优化。特别是,我们的分析表明,SNN的训练步骤的数量应该是成正比的凸优化的情况下的层数的平方。数值实验进行了验证的分析结果,和性能的样本明智的反向传播方法训练SNNs的基准机器学习的例子进行了检查。
2022-12-17 cs.LG cs.NA math.NA
Convergence of the stochastic Euler scheme for locally Lipschitz coefficients
University of Munich (LMU)(慕尼黑大学);Princeton University(普林斯顿大学)
针对漂移函数至多多项式增长的一维随机微分方程,证明了蒙特卡洛欧拉方法的收敛性。
2011-11-17 cs.NA math.NA math.PR
The weak rate of convergence for the Euler-Maruyama approximation of one-dimensional stochastic differential equations involving the local times of the unknown process
University of Ibn Tofail(伊本·图费勒大学)
本文研究了一维随机微分方程中局部时间的欧拉-马尔可夫 approximation 的弱收敛率,通过变换去除局部时间,推导了无局部时间的近似方法,并给出了任意函数G在特定类中的弱收敛率。
2017-01-16 cs.NA math.NA math.PR
Strong convergence rates on the whole probability space for space-time discrete numerical approximation schemes for stochastic Burgers equations
本文的主要结果建立了一类随机发展方程(如带迹类噪声的随机Burgers方程)的显式时空离散数值逼近在整个概率空间上的强收敛速度.证明我们主要结果的关键思想是(i)从确定性分析中引入经典的Alekseev-Gröbner公式和(ii)对数值逼近采用一致指数矩估计。
2020-01-13 cs.NA math.NA math.PR
Convergence of a stochastic collocation finite volume method for the compressible Navier-Stokes system
提出了一种基于概率空间上分段常数插值的随机配置法,并结合有限体积法求解可压缩Navier-Stokes方程的节点问题.在数值解概率有界的条件下,证明了Navier-Stokes方程组的数值解收敛于统计解.分析使用随机紧性方法的基础上Skorokhod/Jakubowski表示定理和标准的依概率收敛由于Gyöngy和Krylov。
2021-11-14 cs.NA math.AP math.NA
Stochastic perturbation of sweeping process and a convergence result for an associated numerical scheme
CNRS - Université Lille 1(法国国家科学研究中心-里尔第一大学);Laboratoire de mathématiques Paul Painlevé(保罗·潘勒韦数学实验室);LAMAV Université de Valenciennes et du Hainaut-Cambrésis(瓦朗谢纳与康布雷-汉诺威大学拉马夫研究所)
结合确定性扫描过程理论和布朗运动反射方法,研究带随机扰动的一阶随机微分包含的适定性,并证明离散化欧拉格式的收敛性。
2010-01-18 cs.NA math.AP math.NA
Convergence rates for the stochastic gradient descent method for non-convex objective functions
University of Oxford(牛津大学);Max Planck Institute for Mathematics in the Sciences(马克斯·普朗克数学与自然科学研究所);Universität Bielefeld(比勒费尔德大学);ETH Zurich(苏黎世联邦理工学院)
在目标函数不一定是全局凸的或收缩的目标函数的情况下,证明了随机梯度下降法的局部收敛性,并对收敛速率进行了估计.特别是,结果适用于机器学习中出现的简单目标函数。
2019-07-26 cs.LG cs.NA math.NA
Fast Stochastic Algorithms for SVD and PCA: Convergence Properties and Convexity
Weizmann Institute of Science(魏茨曼科学研究所)
我们研究了\cite{shamir2015stochastic}引入的快速计算前导奇异向量的VR-PCA算法的收敛性。我们证明了几个新的结果,包括一个正式的分析块版本的算法,从随机初始化和收敛。我们还做了一些独立的利益,如如何预初始化,只有一个确切的权力迭代可以显着提高随机方法的运行时间,以及什么是凸性和非凸性的基本优化问题的性质。
2015-07-31 cs.LG cs.NA math.NA