Repulsion dynamics for uniform Pareto front approximation in multi-objective optimization problems
标量化允许通过求解许多由某些参数唯一确定的单目标子问题来求解多目标最优化问题。在这项工作中,我们提出了几个自适应策略来选择这样的参数,以获得一个一致逼近的帕累托前。这是通过引入一个启发式的动力学参数通过二进制排斥势相互作用。该方法的目的是最大限度地减少相关的能量潜力,这是用来量化的多样性计算的解决方案。一个随机组件也被添加到克服非最佳的能量配置。数值实验表明,所提出的方法的有效性的双和三目标问题与不同的Pareto前的几何形状。
2022-11-07 math.OC
MPFA: A Pareto Front Approximation Method for Riemannian Bi-objective Optimization
Southwest University(西南大学);ICTEAM Institute, UCLouvain(UCLouvain ICTEAM研究所)
提出一种基于Hermite插值的黎曼流形双目标优化帕累托前沿逼近方法,无需多初始点即可生成连续前沿,具有收敛性保证和高精度,并成功应用于稀疏主成分分析。
2026-09-10 math.OC
The stochastic multi-gradient algorithm for multi-objective optimization and its application to supervised machine learning
冲突函数的优化在决策制定中至关重要,现实世界的应用经常涉及不确定或未知的数据,导致随机型的多目标最优化(MOO)问题。我们研究了随机多梯度(SMG)方法,作为经典的单目标优化随机梯度法的扩展。在SMG方法的每一次迭代中,通过求解一个二次子问题来计算一个随机多梯度方向,并且证明了即使所有的梯度估计都是无偏的,这个方向也是有偏的。我们建立率计算一个点的帕累托前,类似于已知的随机梯度在凸和强凸的情况下。该分析处理了多梯度中的偏差和限制Pareto点的未知先验权重。SMG方法被构造成用于计算整个Pareto前沿的Pareto前沿型算法。帕累托前沿SMG算法能够鲁棒地确定帕累托前沿的合成测试问题的数量。人们可以将其应用于监督机器学习产生的任何随机MOO问题,我们报告了逻辑二进制分类的结果,其中多个目标对应于不同来源的数据组。
2021-02-05 cs.NA math.NA math.OC
Fast Convergence of Multiobjective Inertial Gradient Systems with Time Scaling
National Center for Applied Mathematics in Chongqing, Chongqing Normal University(重庆应用数学中心,重庆师范大学)
本文提出多目标惯性梯度系统时间缩放方法,通过调节时间缩放函数参数实现亚线性收敛,验证了其在多目标优化中的有效性。
2026-01-07 math.OC
Vector Optimization with Stochastic Bandit Feedback
Bilkent University(比尔肯特大学)
我们介绍了随机强盗反馈向量优化问题,其中设计之间的偏好编码的多面体排序锥$C$。我们的设置一般化的最佳手臂识别问题,向量值的奖励扩展的概念,帕累托集超越多目标优化。我们通过定义一个新的依赖于锥的复杂性概念,称为排序复杂性,来描述($ε,δ$)-PAC帕累托集识别的样本复杂性。特别是,我们提供了间隙依赖和最坏情况下的样本复杂性的下限,并表明,在最坏的情况下,样本的复杂性尺度与平方的排序复杂性。此外,我们研究了朴素消除算法的样本复杂度,并证明了它几乎匹配的最坏情况下的样本复杂度。最后,我们通过实验验证了我们的理论结果,并说明了$C$和采样预算如何影响Pareto集,返回的($ε,δ$)-PAC Pareto集,以及识别的成功。
2023-03-07 cs.LG math.OC stat.ML
Sample average approximation of multiobjective stochastic optimization problems with application in insurance
本文提出用样本均值近似将多目标随机优化转化为确定性多准则问题,在向量容差内求弱帕累托有效解,并证明收敛性,应用于保险业务优化。
2026-09-17 math.OC
Obtaining properly Pareto optimal solutions of multiobjective optimization problems via the branch and bound method
本文提出一种基于分支定界的算法,利用凸多面体锥诱导的支配关系进行剪枝,为决策者提供 ε-真 Pareto 最优解,并证明了算法的全局收敛性,在基准问题和实际优化问题中验证了其有效性。
2024-02-28 math.OC
A New Mechanism for Maintaining Diversity of Pareto Archive in Multiobjective Optimization
本文介绍了一种新的机制,选择个人的帕累托档案。将其与微遗传算法相结合,并在几个问题上进行了测试。这种方法的能力,以产生均匀分布的个人沿帕累托集没有负面影响的收敛表现在所提出的结果。这个新的概念与PISA包中的NSGA-II、SPEA 2和IBEA算法进行了比较。另一个研究的影响是人口规模与小人口的世代数。
2010-03-31 cs.NE math.OC
An Adaptive Projected-Gradient Algorithm for Sample-Average Approximations of Stochastic Multi-Objective Optimization
Department of Applied Mathematics, The Hong Kong Polytechnic University(香港理工大学应用数学系)
针对仅能获取样本梯度信息的随机多目标优化样本平均近似问题,提出无行搜索无函数值的自适应投影梯度算法,经多类实验验证了其实用性能。
2026-09-03 math.OC
Singular Continuation: Generating Piece-wise Linear Approximations to Pareto Sets via Global Analysis
我们提出了一个战略,近似帕累托最优集的基础上提出的全球分析框架Smale(动力系统,纽约,1973年,第100页)。531-544)。该方法突出和利用帕累托集的基本流形结构,通过单纯复形近似帕累托最优解。该方法区分了奇异集、Pareto临界集和稳定Pareto临界集之间的层次关系,并能处理一般非凸情形下局部Pareto前沿的叠加问题.此外,一个平方收敛结果在一个合适的集明智的意义证明和测试的数值例子。
2011-02-21 math.DG math.GT math.OC
Revisiting Norm Optimization for Multi-Objective Black-Box Problems: A Finite-Time Analysis
Pareto前沿的复杂性给多目标最优化方法的收敛性分析带来了很大的挑战。虽然大多数理论收敛性的研究已经解决了有限集和/或离散问题,其他人提供了概率保证,假设的解决方案的总顺序,或研究其渐近行为。在本文中,我们重新审视Tchebycheff加权方法在一个层次的土匪设置,并提供了一个有限的时间约束的帕累托兼容的添加剂$ε$指标。据我们所知,本文是为数不多的建立在有限时间内加权求和方法和质量指标之间的联系。
2018-05-15 math.OC
Budgeted Multi-Objective Optimization with a Focus on the Central Part of the Pareto Front -- Extended Version
Groupe PSA(标致雪铁龙集团);CNRS(法国国家科学研究中心);École Nationale Supérieure des Mines de Saint-Étienne(圣艾蒂安国立高等矿业学校)
优化非线性系统涉及昂贵的计算机实验方面的冲突的目标是一个共同的挑战。当实验的数量受到严格限制和/或当目标的数量增加时,发现整个帕累托最优解集是遥不可及的,即使是基于代理的方法:所提出的解决方案是次优的或不覆盖前端。由于不妥协的最优解通常在应用程序中没有什么意义,这项工作限制了搜索的解决方案,接近帕累托前中心。文章首先描述了这个中心,它是为任何类型的前线定义的。接下来,提出了一种贝叶斯多目标优化方法,用于指导搜索。针对帕累托前沿的一个子集,可以提高解决方案的最优性,并更好地覆盖这一区域,这是我们的主要关注点。描述了一种检测收敛到中心的准则。如果该标准被触发,则帕累托前沿的加宽的中心部分被作为目标,使得在剩余预算内预测到足够准确的收敛。数值实验表明,所得到的算法,C-EHI,更好地定位帕累托前的中心部分相比,国家的最先进的贝叶斯算法。
2019-07-15 cs.LG math.OC stat.ML
Multi-Objective Simultaneous Optimistic Optimization
乐观方法已成功地应用于单目标优化。在这里,我们试图弥合乐观方法和多目标最优化之间的差距。特别是,本文关注的是解决黑盒多目标问题给出了有限数量的功能评估,并提出了一种乐观的方法,我们称之为多目标同时乐观优化(MO-SOO)。MO-SOO算法是由多臂强盗算法推广而来的,它遵循不确定性乐观原则,在多目标问题的可行决策空间上,将多个多臂强盗算法按层次结构组合起来,识别Pareto最优解。在对目标函数光滑性和分层划分的三个假设条件下,分析了算法的有限时间和渐近收敛性。有限时间分析建立了一个上界的帕累托兼容的一元加性指标,其特征在于目标的光滑度以及帕累托前相对于其极值的结构。另一方面,渐近分析表明了MO-SOO的相容性。此外,我们验证了一组合成问题的算法的理论可证明的性能。最后,三百双目标的基准问题,从文献中证实的乐观方法的性能,并比较它与三个国家的最先进的随机算法,即MOEA/D,MO-CMA-ES,和SMS-EMOA在两个帕累托兼容的质量指标。除了良好的理论性能,MO-SOO表现出与顶级执行随机算法,即SMS-EMOA。
2016-12-26 math.OC
Convergence of stochastic nonlinear systems and implications for Stochastic Model Predictive Control
随机模型预测控制(MPC)在附加扰动下的稳定性通常通过构造类Lyapunov不等式来证明,该不等式确保了闭环性能界和状态的有界性,但通常不能确定状态的严格极限界和非保守性能界。在这项工作中,我们使用的输入到状态的稳定性找到的条件,这意味着收敛概率为1的扰动非线性系统的最小鲁棒正不变集。我们讨论了随机MPC配方的状态和控制律的收敛性的影响,我们证明了几个现有的线性和非线性系统的随机MPC配方的收敛结果。
2020-04-06 math.OC
Approximating Pareto Curves using Semidefinite Relaxations
CNRS(法国国家科学研究中心);LAAS(法国国家科学研究中心系统分析与架构实验室);Université de Toulouse(图卢兹大学);Czech Technical University in Prague(布拉格捷克理工大学)
我们考虑与多目标最优化问题$\min_{\mathbf{x} \in \mathbf{S}}\{ (f_1(\mathbf{x}), f_2(\mathbf{x})) \}$相关的Pareto曲线的近似构造问题,其中$f_1$和$f_2$是两个冲突的多项式准则,而$\mathbf{S} \subset \mathbb{R}^n$是一个紧的基本半代数集.我们提供了一个系统的数值方案来近似帕累托曲线。我们首先将初始问题简化为一个标量化多项式最优化问题(POP)。三种标量化方法导致考虑不同的参数POP,即(a)加权凸和近似,(b)加权切比雪夫近似,和(c)参数子水平集近似。对于每一种情况下,我们必须解决一个半定规划(SDP)层次参数化的时刻或等价的程度多项式平方和近似的帕累托曲线。当多项式逼近的次数趋于无穷大时,我们保证方法(a)和(b)收敛于$L^2$ -范数的Pareto曲线,方法(c)收敛于$L^1$ -范数的Pareto曲线。
2014-06-16 cs.RO math.OC
Pareto Navigation Gradient Descent: a First-Order Algorithm for Optimization in Pareto Set
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
许多现代机器学习应用,如多任务学习,需要找到最佳模型参数,以权衡可能相互冲突的多个目标函数。帕累托集的概念使我们能够专注于不能严格改进的模型(通常是无限数量的)的集合。但它没有提供一个可操作的程序来挑选一个或几个特殊的模型返回给实际用户。在本文中,我们考虑\emph{optimization in Pareto set (OPT-in-Pareto)},寻找帕累托模型,优化一个额外的参考标准功能的帕累托集内的问题。该函数可以编码来自用户的特定偏好,或者表示用于获得代表整个帕累托集合的多样化帕累托模型的集合的通用多样性度量。不幸的是,尽管OPT-in-Pareto是一个非常有用的框架,但在很大程度上缺乏有效的算法,特别是对于深度学习中的大规模,非凸和非线性目标。一种简单的方法是在Pareto集上应用黎曼流形梯度下降,由于需要计算黑塞矩阵的特征值,这会产生很高的计算成本。我们提出了一个一阶算法,近似解决OPT-in-Pareto仅使用梯度信息,既有很高的实际效率和理论上保证收敛性。经验上,我们证明了我们的方法有效地适用于各种具有挑战性的多任务相关的问题。
2022-09-02 cs.AI cs.LG math.OC
Optimization on Pareto sets: On a theory of multi-objective optimization
University of California, San Diego(加州大学圣迭戈分校)
研究Pareto约束优化问题,针对隐式、非凸非光滑的约束集定义最优性与稳定性概念,并提出在目标强凸且Lipschitz光滑时具有O(K^{-1/2})收敛率的算法。
2023-08-04 cs.LG math.OC
Convergence of Riemannian Stochastic Gradient Descents: Varying Batch Sizes And Nonstandard Batch Forming
The George Washington University(乔治华盛顿大学)
本文研究了黎曼随机梯度下降在迭代过程中概率空间变化时的收敛性,推导了变化批量大小和非标准批量形成方案的收敛结果。
2026-04-17 math.OC
Convergence of a Stochastic Subgradient Method with Averaging for Nonsmooth Nonconvex Constrained Optimization
对于具有广义可微性的非光滑、非凸目标函数的约束问题,证明了一个带次梯度平均的单时间尺度随机次梯度方法的收敛性.作为我们分析的工具,我们还证明了一个链式法则的道路上,这样的功能。
2019-12-16 math.OC
A Branch and Bound Algorithm for Multiobjective Optimization Problems Using General Ordering Cones
针对多目标优化分支定界算法计算成本高的问题,提出引入序锥偏好信息的新分支定界算法,设计多面与非多面锥的舍弃检验,证明全局收敛性并在测试算例和实际问题中验证有效性。
2024-05-17 math.OC
On the linear convergence of the stochastic gradient method with constant step-size
强增长条件(SGC)是使用恒定步长$γ$(SGM-CS)的随机梯度法线性收敛的充分条件。本文给出了SGM-CS的线性收敛的一个必要条件,该条件比SGC弱。此外,当这一必要的是违反了添加剂扰动$σ$,我们表明,无论是使用恒定步长的投影随机梯度法(PSGM-CS)和近端随机梯度法表现出线性收敛的噪声占主导地位的区域,其距离的最优解是成正比的$γσ$。
2018-06-17 math.OC
Linear Convergence of Stochastic Frank Wolfe Variants
本文证明了逐步随机Frank-Wolfe算法(ASFW)和成对随机Frank-Wolfe算法(PSFW)按期望线性收敛。我们还表明,如果一个算法的线性收敛的期望,那么它几乎肯定线性收敛。为了证明这些结果,我们开发了一种新的证明技术的基础上的经验过程和浓度不等式的概念。这样的技术很少被用来推导随机最优化算法的收敛速度。在大规模的数值实验中,ASFW和PSFW在实际CPU时间上表现得与它们的随机竞争对手一样好或更好。
2017-03-21 math.OC
Distributed Interval Optimization with Stochastic Zeroth-order Oracle
本文研究了一个分布式区间最优化问题,该问题是由一组凸区间值目标函数在全局凸约束下的最优化问题构成的,对应于时变网络上的智能体.首先通过标量化将分布区间最优化问题转化为分布约束最优化问题。然后,设计了一个随机零阶算法来求解重构后的分布问题,并证明了其最优解也是分布区间最优化问题的Pareto最优解.此外,我们构造了算法的显式收敛性和期望下的收敛速度。最后通过数值算例说明了该算法的有效性。
2019-04-30 math.OC
Exact Pareto Optimal Search for Multi-Task Learning and Multi-Criteria Decision-Making
National University of Singapore(新加坡国立大学)
本文提出EPO Search方法,解决切比雪夫标量化在多目标优化中的振荡与停滞问题,能够收敛到精确帕累托最优解,并基于此开发PESA-EPO和GP-EPO算法,在多个真实场景中验证了其有效性和可扩展性。
2023-09-17 cs.LG math.OC
Random Pareto front surfaces
Imperial College London(帝国理工学院);BASF SE(巴斯夫公司)
本研究提出用极坐标下的标量长度函数参数化Pareto前沿曲面,构建随机Pareto前沿的理论与统计量,支持实验设计中的不确定性量化与决策,可应用于多元极值理论并经真实数据验证。
2024-06-21 cs.LG math.OC stat.ME
Non-linear Multi-objective Optimization with Probabilistic Branch and Bound
Yuan Ze University(元培大学);University of Washington(华盛顿大学)
本文提出单观测多目标概率分支定界算法MOPBnB(so),通过邻近解估计目标函数以降低计算开销,并证明其有限时间概率界与渐近收敛性,数值实验显示其优于多次重复变体和NSGA-II。
2025-06-05 cs.LG math.OC
Efficient First-Order Optimization on the Pareto Set for Multi-Objective Learning under Preference Guidance
Rensselaer Polytechnic Institute(伦斯勒理工学院);Kyoto University(京都大学);Peking University(北京大学)
本研究将偏好引导的多目标学习建模为半向量双层优化问题,通过价值函数转化约束并采用基于惩罚的重构方法,提出了一种具有收敛性保证的高效一阶优化算法,有效求解偏好引导下的多目标最优解。
2025-03-26 cs.LG math.OC
Sequential Fair Allocation of Limited Resources under Stochastic Demands
我们考虑的问题,有限的资源之间划分一组代理顺序到达未知(随机)的效用。我们的目标是找到一个公平的分配--一个同时是帕累托有效和没有嫉妒的分配。当所有的效用都预先已知时,对于一大类效用函数来说,上述的必要条件是同时可实现的(并且是可有效计算的)。然而,在顺序设置中,没有政策可以同时保证所有可能的效用实现的这些必要条件。一个自然的在线公平分配的目标是最大限度地减少每个代理的最终分配从他们的公平分配在事后的偏差。这转化为同时保证帕累托效率和无嫉妒。然而,由此产生的动态程序的状态空间是指数的代理人的数量。我们提出了一个简单的政策,HopeOnline,而不是旨在“匹配”的事后公平分配向量使用当前可用的资源和“预测”的直方图未来的公用事业。我们证明了我们的政策的有效性相比,移动食品银行分配的启发数据集上的其他prostics。
2022-07-09 cs.GT cs.SY eess.SY
Accelerated Almost-Sure Convergence Rates for Nonconvex Stochastic Gradient Descent using Stochastic Learning Rates
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Nevada(内华达大学)
大规模的最优化问题要求算法既有效又高效。一个这样的流行和证明算法是随机梯度下降,它使用一阶梯度信息来解决这些问题。本文研究了随机梯度下降法的学习率由确定性变为随机时的几乎必然收敛率。特别是,它的学习率配备了乘法随机性,产生一个随机学习率计划。理论结果表明,加速几乎必然收敛率的随机梯度下降在一个非凸设置时,使用适当的随机学习率相比,确定性的学习率计划。理论结果得到了经验验证。
2021-11-09 cs.LG math.OC
Unified Convergence Analysis of Stochastic Momentum Methods for Convex and Non-convex Optimization
最近,{ \it随机动量}方法已被广泛用于训练深度神经网络。然而,他们的收敛性分析仍然是欠探索的时刻,特别是对非凸优化。本文通过对两种随机动量法,即随机重球法和Nesterov加速梯度法的随机变体的基本收敛性分析,填补了理论与实践之间的空白。我们希望本文所得到的基本收敛性结果能为随机动量方法的收敛性提供参考,也为今后随机动量方法的发展提供比较基准。本文提出的收敛性分析的新颖性是一个统一的框架,揭示了更多关于不同随机动量方法和随机梯度法之间的异同的见解。统一框架显示了从梯度法到Nesterov的加速梯度法以及最终由自由参数引起的重球法的连续变化,这可以帮助解释在深度学习的测试误差收敛行为中观察到的类似变化。此外,我们优化深度神经网络的经验结果表明,Nesterov加速梯度法的随机变体在三种随机方法中实现了良好的权衡(在训练误差的收敛速度和测试误差的收敛鲁棒性之间)。
2016-05-04 math.OC stat.ML
On Almost Sure Convergence Rates of Stochastic Gradient Methods
University of Waterloo(滑铁卢大学);Huazhong University of Science and Technology(华中科技大学)
文献中绝大多数随机梯度法的收敛速度分析都集中在期望收敛上,而随机几乎必然收敛对于确保随机算法的任何实例都以概率1收敛显然很重要。在这里,我们提供了一个统一的几乎必然收敛速度分析的随机梯度下降(SGD),随机重球(SHB),和随机Nesterov的加速梯度(SNAG)方法。我们表明,第一次,这些随机梯度方法在强凸函数上获得的几乎必然收敛速度,是任意接近其最佳收敛速度可能的。对于非凸目标函数,我们不仅证明了梯度范数平方的加权平均几乎必然收敛于零,而且证明了算法的最后一次迭代。我们进一步提供了弱凸光滑函数上随机梯度方法的last-most-sure收敛率分析,与文献中大多数现有结果相比,这些结果只提供了迭代加权平均的期望收敛性。
2022-07-10 cs.LG math.OC
A Unified Convergence Theorem for Stochastic Optimization Methods
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
在这项工作中,我们提供了一个基本的统一收敛定理,用于推导预期和几乎必然收敛的结果,一系列的随机最优化方法。我们的统一定理只需要验证几个代表性的条件,而不是针对任何特定的算法。作为一个直接的应用程序,我们恢复预期和几乎必然收敛的结果的随机梯度法(SGD)和随机重排(RR)在更一般的设置。此外,我们建立了新的期望和几乎必然收敛结果的随机邻近梯度法(S-SGD)和随机模型为基础的方法(SMM)的非光滑非凸最优化问题。这些应用表明,我们的统一定理提供了一个插件型的收敛性分析和强收敛保证的广泛的一类随机最优化方法。
2022-10-19 cs.LG math.OC
Multi-objective stochastic linear programming with recourse and flexible decision making
Free University of Bozen-Bolzano(博尔扎诺自由大学);Friedrich Schiller University Jena(耶拿弗里德里希·席勒大学)
本文针对带追索的多目标随机规划问题,引入第二阶段决策灵活性偏好,构建集值目标的凸集优化模型,给出解概念与确定性替代形式,提出兼顾灵活性与Pareto最优的决策准则并通过两类实例验证。
2025-11-17 math.OC math.PR
Distributed Stochastic Approximation: Weak Convergence and Network Design
研究了通信网络中基于广播流言的分布式随机逼近算法。证明了这些算法的弱收敛性,并将收敛点与局部目标函数和网络性质联系起来,建立了相应的常微分方程(ODE)。利用这些结果,提出了一种方法,网络设计,旨在实现所需的渐近行为的共识。同时分析了算法的收敛速度,并利用附加的随机微分方程进一步改进了算法。仿真结果验证了理论概念。
2016-09-02 math.OC stat.AP
A Sharp Convergence Rate for the Asynchronous Stochastic Gradient Descent
基于[An et al. Stochastic modified equations for the asynchronous gradient descent,arXiv:1805.08244]中引入的随机修正方程,当损失函数为扰动二次函数时,我们给出了异步随机梯度下降(ASGD)算法的一个急剧的收敛速度.我们证明了当本地工人的数量大于期望的陈旧,那么ASGD是更有效的比随机梯度下降。我们的理论结果还表明,较长的延迟导致较慢的收敛速度。此外,学习率不能小于与期望陈旧性成反比的阈值。
2020-01-24 cs.NA math.NA math.OC
Last-iterate convergence analysis of stochastic momentum methods for neural networks
Northeast Normal University(东北师范大学);Changchun Humanities and Sciences College(长春人文学院);Imperial College London(帝国理工学院)
随机动量法是人工神经网络中求解大规模随机最优化问题的一种常用加速技术。现有的随机动量方法在非凸随机背景下的收敛性结果大多是从随机输出和最小输出两个方面讨论收敛性的。为此,我们解决的最后一个收敛的最后一个输出(称为最后一个收敛)的随机动量方法的非凸随机最优化问题,与传统的优化理论共形。在统一的框架下,我们证明了随机动量方法的最后收敛性,包括随机重球动量和随机Nesterov加速梯度动量。动量因子可以固定为常数,而不是现有分析中的时变系数。最后,在MNIST和CIFAR-10数据集上验证了随机动量方法的收敛性。
2022-05-30 cs.LG cs.NA math.NA
Optimization and Convergence of Observation Channels in Stochastic Control
研究部分可观测随机控制问题中观测通道(随机核)的优化问题。特别是,存在性和连续性的研究主要(但不限于)集中在单阶段的情况下。在全变差、集态收敛和弱收敛条件下,讨论了信道最优费用的连续性。给出了一类信道在全变差下紧性和集态收敛的充分条件,并探讨了其在量子化中的应用。
2012-02-07 cs.IT math.IT math.OC
Strong Rates of Convergence for Space-Time Discretization of the Backward Stochastic Heat Equation, and of a Linear-Quadratic Control Problem for the Stochastic Heat Equation
我们介绍了一个时间隐式,有限元为基础的空间-时间离散格式的向后随机热方程,并为向前向后随机热方程的随机最优控制,并证明了强收敛速度。然后在梯度下降算法中使用前向-后向随机热方程的完全离散版本来近似求解由加性噪声驱动的随机热方程的线性二次控制问题。
2020-12-18 cs.NA math.NA math.OC
Traversing Pareto Optimal Policies: Provably Efficient Multi-Objective Reinforcement Learning
Hong Kong University of Science and Technology(香港科技大学);University of Chicago(芝加哥大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究多目标强化学习,提出基于Tchebycheff标量化的min-max-max重构算法,设计了单偏好UCB算法和无偏好探索框架,并扩展至平滑Tchebycheff标量化,实现了可证明高效的帕累托最优策略学习。
2024-07-24 cs.LG math.OC stat.ML
Convergence and Convergence Rate of Stochastic Gradient Search in the Case of Multiple and Non-Isolated Extrema
研究了随机梯度算法的渐近性态。借助微分几何的结果(Lojasiewicz梯度不等式),证明了算法迭代的单极限点收敛性,并给出了相对严格的收敛速度界.与现有的渐近结果形成鲜明对比,这里提出的新结果允许目标函数有多个和非孤立的最小值。新的结果也提供了新的见解的渐近性质的几类递归算法,经常用于工程,统计,机器学习和运筹学。
2013-09-17 math.OC math.ST stat.TH
Stochastic Gradient Descent Revisited
本文在相对温和的条件下对有偏非凸随机梯度下降进行了全面收敛性分析,涵盖弱收敛、函数值收敛和全局收敛,并给出了收敛速率与复杂度。
2025-03-07 math.OC math.PR stat.ML
A Rate Transfer Method: Convergence Rates in Stochastic Gradient Descent via Stochastic Calculus
Durham University(杜伦大学)
该研究提出速率转移方法,通过随机微积分将SDE的李雅普诺夫估计转化为随机梯度算法的收敛界,可复现经典方法速率并用于新优化算法的收敛速率分析。
2026-10-14 cs.AI cs.LG math.OC