Envelope theorems for static optimization and calculus of variations
我们建立了一个抽象的无限维设置的静态优化问题的值函数的可微性,我们将其应用到变分问题。我们减轻现有的结果的假设,特别是通过使用G{â}teaux和阿达玛微分。此外,我们使用最近建立的乘数规则。
2021-08-24 math.OC
Subdifferential calculus and ideal solutions for set optimization problems
本文探讨了为赋范向量空间间集值映射的次微分构造推导基本calculus规则,并利用这些结果为集优化问题的特殊解建立最优性条件。
2023-11-27 math.OC
Pre-Shape Calculus: Foundations and Application to Mesh Quality Optimization
优化过程中产生的网格变形往往会导致网格质量下降甚至破坏。我们提出了一个理论框架,使用预形状推广经典的形状优化和微积分。我们定义了预形导数,并推导出相应的结构和微积分定理。特别是,切向方向的特点,在预形衍生物,与经典的形状衍生物,只有正常的方向。从经典的形状优化和微积分技术进行到这个框架。提出了一种网格质量最优化问题类,该问题可利用预形导数求解。这类允许同时优化经典的形状目标和网格质量,而不恶化经典的形状优化解决方案。新技术的实施和数值测试的2D和3D。
2021-06-17 math.OC
Efficient nonlocal linear image denoising: Bilevel optimization with Nonequispaced Fast Fourier Transform and matrix-free preconditioning
本文提出基于非归一化扩展高斯 ANOVA 核的双层优化非局部图像去噪方法,结合 NFFT 无矩阵矩阵-向量乘积、基变换与对角预处理,实现低存储、快速求解大规模稠密线性系统及参数学习。
2025-05-13 cs.NA math.NA math.OC
Exact Null Controllability of Non-Autonomous Conformable Fractional Semi-Linear Systems with Nonlocal Conditions
本文研究Hilbert空间中非自治共形分数阶半线性系统的精确零能控性,建立了温和解存在性并给出充分条件,非局部项仅需连续,无需紧性或Lipschitz条件。
2025-04-20 math.OC
Second Order Shape Optimization for an Interface Identification Problem constrained by Nonlocal Models
本文将形状优化方法推广到受非局部 Dirichlet 问题约束的界面识别问题,推导约化泛函的二阶形状导数并研究相应的二阶优化算法。
2024-06-13 math.OC
Leitmann's direct method of optimization for absolute extrema of certain problems of the calculus of variations on time scales
时间尺度上变分法的基本问题涉及满足给定边界条件的所有轨迹上的δ积分的最小化。这包括离散时间、量子和连续/经典变分法作为特殊情况。本文采用Leitmann的直接法,给出了任意时间尺度上某些具体的最优控制问题的显式解。
2010-01-09 math.OC
Second-order subdifferential calculus with applications to tilt stability in optimization
本文讨论变分分析的二阶广义微分理论及其在有限维空间约束优化问题中的新应用。主要研究了广义实值函数的二阶次微分(全次微分和部分次微分),它们是由一阶次微分映射的余导数生成的对偶结构.我们开发了一个扩展的二阶次微分,并分析了基本的二阶资格条件,确保履行的主要二阶链式法则强,完全顺从的组成。以这种方式获得的微积分结果和计算分段线性二次函数及其主要规格的二阶次微分,然后应用于研究的倾斜稳定性的局部极小的重要类的问题,在约束优化,特别是包括,问题的非线性规划和某些类的扩展非线性规划描述的复合条款。
2011-10-20 math.OC
Simultaneous Shape and Mesh Quality Optimization using Pre-Shape Calculus
由形状优化程序产生的计算网格通常遭受网格质量的降低甚至网格的破坏。在这项工作中,我们提供了一种方法来规范一般的形状最优化问题,以提高形状和体积网格质量。为此,我们采用预形演算(cf. arXiv:2012.09124)。正则化解的存在性是有保证的。此外,修正的预成形梯度系统的一致性建立。我们提出了预形状梯度系统的修改,允许同时形状优化与网格质量的改善。原问题的最佳形状在正则化下是左不变的。我们的方法的计算负担是有限的,因为额外的解决方案可能更大的(非)线性系正则形状梯度是没有必要的。我们实现和比较预形状梯度正则化方法,难以解决的二维问题。由于我们的方法不依赖于选择的度量表示形状梯度,我们采用和比较几个不同的度量。
2021-03-28 math.OC
Quaternion Matrix Optimization and The Underlying Calculus
涉及四元数矩阵的最优化模型在彩色图像处理等工程领域有着广泛的应用。这些模型优化了四元数矩阵变量的实函数。特别地,四元数矩阵的$\ell_0$ -范数和秩函数是离散的。然而,微积分与衍生物,次微分和广义次微分的这种真正的功能是需要处理这样的模型。本文引入了一阶和二阶导数,并建立了这类实函数的一阶和二阶导数的计算规则。我们的方法是一致的四元数矩阵变量的范数的次梯度概念,最近在文献中介绍。本文提出了四元数矩阵真函数的广义次微分的概念,并利用它们分析了稀疏低秩彩色图像去噪模型的最优性条件。我们引入了两个四元数矩阵向量的R-乘积,作为我们微积分的一个关键工具。我们证明了低秩四元数矩阵的实表示集是封闭的和半代数的。我们还建立了四元数矩阵变量实函数约束最优化问题的一阶和二阶最优性条件。
2020-11-08 math.OC
A nonlocal approach to graded surface modeling in topology optimization
本研究提出一种非局部积分模型,通过引入Young's模量的表面梯度来捕捉增材制造结构中厚度对刚度的影响,并将其纳入拓扑优化,有效消除过薄特征,成功应用于二维悬臂梁和桥梁设计。
2024-03-25 math.OC
A Nonlocal Stochastic Optimal Control with Elliptic-Type Smoothing
“Octav Mayer” Institute of Mathematics of the Romanian Academy(罗马尼亚科学院“奥克塔夫·马耶尔”数学研究所);Apollonia University(阿波罗尼亚大学);University of Verona(维罗纳大学)
研究非局部随机最优控制,控制通过椭圆平滑算子作用,证明最优控制存在并导出庞特里亚金型最大值原理,应用于种群动态。
2026-10-08 math.OC
Algebraic Core and Convex Calculus without Topology
本文研究了无拓扑结构的一般向量空间中凸集的代数核的概念,并给出了它在凸分析和最优化问题中的应用。推导出哈恩-巴拿赫定理和向量空间中凸集分离定理的一个简单版本之间的等价性,使我们能够为凸集、集值映射和扩展的实值函数的广义微分学发展一种几何方法,其限定条件用代数核来表示。我们还得到了一个精确的计算公式的最优值函数的次微分与凸问题的参数优化向量空间。这类函数在凸优化及其应用的许多方面起着至关重要的作用。
2020-02-06 math.OC
A spectral shape optimization problem with a nonlocal competing term
我们研究了谱泛函的极小化问题,该谱泛函是Dirichlet Laplacian的第一特征值与Riesz型相互作用泛函的相对强度之和。我们证明了当Riesz排斥强度低于一个临界值时,极小值的存在性。然后,我们证明,通过一个扩展分析,球是一个刚性极小时,Riesz排斥足够小。最终,我们表明,某些制度的Riesz排斥,定期极小不存在。
2021-03-08 math.AP math.OC math.SP
Operator Calculus for Population-Based Optimization: Modular Convergence and Finite-Population Guarantees
Aalto University(阿尔托大学)
提出一种算子演算,将多种基于群体的优化方法统一为三个基本算子(变异、选择、重组)的复合,并建立模块化Lyapunov原理,证明在稳定性和正则性条件下指数收敛。
2026-10-08 cs.LG cs.NA cs.NE
A Novel Evolution Strategy with Directional Gaussian Smoothing for Blackbox Optimization
Oak Ridge National Laboratory(橡树岭国家实验室)
我们提出了一种改进的进化策略(ES)使用一种新的非局部梯度算子的高维黑箱优化。标准ES方法与$d$维高斯平滑遭受的灾难的维数由于高方差的Monte Carlo(MC)的梯度估计。为了控制方差,高斯平滑通常被限制在一个小区域内,因此现有的ES方法缺乏逃离局部极小所需的非局部探索能力。我们开发了一个非局部梯度算子与方向高斯平滑(DGS)来解决这一挑战。DGS在$\mathbb{R}^d$中沿$d$正交方向进行1D非局部探索,每个探索将非局部方向导数定义为1D积分。然后,我们使用高斯-厄米求积,而不是MC采样,来估计$d$ 1D积分,以确保高精度(即,小差异)。我们的方法使有效的非局部探索,以促进在高维优化的全局搜索。我们在三组示例中展示了我们的方法的卓越性能,包括全局优化的基准函数以及现实世界的科学和工程应用。
2020-06-11 cs.LG cs.NE math.OC
Euler-Lagrange equations for multiobjective calculus of variations problems via set optimization
考虑了具有给定端点的容许弧集上的向量值拉格朗日量的积分泛函的极小化问题。该问题是通过将其嵌入到一个集最优化问题,使图像空间成为一个完全格。这个过程允许定义极小化器和无穷化器的概念,作为两个完全不同的概念。对于线性标量化问题,证明了一个infimizer包含极小化器或至少包含极小化序列,其中标量化参数是序锥的对偶中的元素。用这种方法得到了集值Euler-Lagrange方程,并定义了这些方程的弱解。在经典结果的指导下,在适当的凸性和非凸性假设下,证明了一个无穷小化子的存在性结果。除了无约束问题,欧拉-拉格朗日方程提供的情况下,等周约束。最后,将研究结果应用于节能建筑体型的优化。
2021-06-25 math.OC
Malliavin Calculus with Weak Derivatives for Counterfactual Stochastic Optimization
School of Electrical and Computer Engineering, Cornell University(电气与计算机工程学院,康奈尔大学)
针对稀有事件场景下反事实随机优化中朴素蒙特卡洛效率低、核平滑收敛慢的问题,提出基于Malliavin微积分的两阶段无核方法,实现恒定方差的弱导数估计,构建高效的反事实条件随机梯度算法框架。
2025-09-30 cs.LG math.OC
The Gradient descent method from the perspective of fractional calculus
受最优化理论中梯度法的启发,我们给出了基于$ψ$--$α$阶分数导数的方法来求解无约束最优化问题。详细分析了这些方法的收敛性。本文还提出了一种估计含$ψ$ -分数阶导数方程解的Adams-Bashforth-Moulton(ABM)方法. ABM方法的数值算例表明,分数阶$α$和权值$ψ$是可调参数,有助于提高梯度下降法的性能.
2020-12-21 math.OC
Nonlocal Stochastic Optimal Control for Diffusion Processes: Existence, Maximum Principle and Financial Applications
本文研究扩散系数受非局部控制影响的抛物型方程最优控制问题,建立最优控制存在性与最大值原理,并应用于均值-方差投资组合优化,得到最优策略的积分表示。
2025-03-07 math.OC
Differential Calculus and Optimization in Persistence Module Categories
本文介绍了持久模理论,提出利用其稳定性与可逼近性两大基本性质,构建持久模范畴中带收敛性保证的微分学与优化框架,拓展持久模在多数学领域的应用。
2024-11-01 math.AT math.OC math.RT
Generalized fractional calculus with applications to the calculus of variations
我们研究的经典Riemann-Liouville分数次积分,和Riemann-Liouville和Caputo分数导数的推广运营商。证明了广义分数阶导数的一个有用公式,以及将给定算子的参数集变为其对偶的分数分部积分法的三个关系。这样的结果进行了探讨的背景下,动态最优化,考虑问题的变分法与一般的分数算子。研究了无约束和有约束问题的Euler-Lagrange型最优性最优性条件和自然边界条件。即使在广义算子化为Riemann-Liouville或Caputo意义下的标准分数阶导数的特殊情况下,也得到了有趣的结果。作为应用,我们提供了一类具有任意核的变分问题,给出了重要的相干嵌入问题的答案。说明性的最优化问题。
2012-01-27 math.CA math.OC
Piecewise smooth functions and conservative fields: calculus for nonsmooth nonconvex optimization beyond stratification
Toulouse School of Economics, Toulouse Capitole University(图卢兹经济学院,图卢兹卡皮托尔大学)
研究局部Lipschitz、分段光滑函数相关梯度与保守场的联系,证明相关集合沿Lipschitz曲线有链式法则性质,调和两个非光滑自动微分理论框架,给出随机次梯度方法在有界性假设下的收敛性。
2026-08-11 math.OC
Perspective Functions: Proximal Calculus and Applications in High-Dimensional Statistics
透视函数在应用数学和统计数据分析中以各种形式显式或隐式出现。到目前为止,没有系统的策略可用于解决相关的,典型的非光滑,最优化问题。在本文中,我们填补了这一空白,近端的方法提供了一个有效的框架来建模和解决问题,涉及透视功能。我们研究了建设的邻近算子的透视函数的一般假设下,并提出了重要的情况下,邻近算子可以计算明确或通过简单的数值运算。这些结果构成了近端优化算法设计的核心构件。我们展示了框架的多功能性,通过设计新的最先进的回归和变量选择方案在高维统计的近端算法。
2016-12-13 math.OC
AdaDGS: An adaptive black-box optimization method with a nonlocal directional Gaussian smoothing gradient
Oak Ridge National Laboratory(橡树岭国家实验室)
局部梯度指向无穷小邻域中最陡斜率的方向。当损失是多模态的时,由局部梯度引导的优化器经常陷入局部最优。最近在(Zhang et al.,2020),并用于定义一个真正的非局部梯度,称为DGS梯度,用于高维黑盒优化。有希望的结果表明,取代传统的局部梯度与DGS梯度可以显着提高基于梯度的方法在优化高度多模态损失函数的性能。然而,DGS梯度的最佳性能可能依赖于两个重要超参数的微调,即,平滑半径和学习率。在本文中,我们提出了一个简单的,但巧妙的和有效的自适应方法与DGS梯度优化,消除了超参数微调的需要。由于DGS梯度通常指向良好的搜索方向,因此我们沿着DGS方向执行线搜索以确定每次迭代的步长。学习的步长反过来会告诉我们周围区域中函数景观的规模,基于此,我们相应地调整平滑半径以进行下一次迭代。我们提出了高维基准函数,翼型设计问题和游戏内容生成问题的实验结果。AdaDGS方法已经显示出优于几种最先进的黑盒优化方法的性能。
2020-11-03 cs.LG math.OC
Learning nonlocal regularization operators
研究了从一类非局部算子中确定哪一个算子是反问题正则化的最优算子的学习方法。考虑类的非本地运营商的动机是使用平方分数阶Sobolev范数作为正则化运营商。首先将局部算子正则化理论的基本结果推广到非局部情形。然后开发了一个基于双层优化策略的框架,该框架允许从给定的类中选择非局部正则化算子,i)相对于训练集上的适当性能度量是最优的,ii)享有特别有利的性质。数值实验的结果也提供。
2020-01-24 math.OC
Dual variational formulations for a large class of non-convex models in the calculus of variations
本文发展了变分优化中一大类模型的对偶变分公式。结果是通过泛函分析、凸分析和对偶理论的基本工具建立的。主要的对偶原理是作为一个应用程序开发的金-朗道型系统在超导在没有磁场。在第一部分的最后一节中,我们开发了新的一般对偶凸变分公式,更具体地说,对偶公式具有一个大的凸区域周围的临界点,适用于非凸优化的一个大类模型在物理和工程。最后,在最后一节中,我们给出了应用于Ginzburg-Landau型方程的广义直线法的一些数值结果。
2022-10-02 math.OC
Optimal reinsurance and investment via stochastic projected gradient method based on Malliavin calculus
本文提出基于Malliavin微积分和随机投影梯度的方法,直接最小化破产概率以优化静态再保险与投资策略,并给出收敛性分析及数值验证。
2024-11-08 math.OC q-fin.CP q-fin.MF
Continuous-time Models for Stochastic Optimization Algorithms
ETH Zurich(苏黎世联邦理工学院)
我们提出了新的连续时间配方的一阶随机最优化算法,如小批量梯度下降和方差减少的方法。我们利用这些连续时间模型,连同简单的李雅普诺夫分析,以及从随机分析的工具,以获得各种类型的非凸函数的收敛范围。在这样的分析指导下,我们表明,相同的李雅普诺夫参数在离散时间,导致匹配率。此外,我们使用这些模型和伊藤演算来推断关于SGD动态的新见解,证明学习率的降低可以作为时间扭曲,或者等价地,作为景观拉伸。
2020-03-10 cs.LG math.OC
Bilevel parameter learning for nonlocal image denoising models
我们提出了一种双层优化方法的非局部图像去噪模型的参数估计。我们考虑的参数是保真度权重和非局部算子核内的权重。在这两种情况下,我们调查的可微性的解决方案运营商在函数空间,并得出一个一阶最优性系统,局部极小的特点。对于数值解的问题,我们使用二阶信赖域算法结合有限元离散化的非局部去噪模型,我们引入了一个计算策略的解决方案所产生的稠密线性系。几个实验说明了我们的方法的适用性和有效性。
2021-03-04 math.OC
A directional Gaussian smoothing optimization method for computational inverse design in nanophotonics
基于局部梯度的优化方法缺乏在非凸景观中逃离局部极小所需的非局部探索能力。作者最近提出了方向高斯平滑(DGS)方法(Zhang等人,2020),并用于定义一个真正的非局部梯度,称为DGS梯度,以实现高维黑盒优化中的非局部探索。有希望的结果表明,用非局部DGS梯度代替传统的局部梯度可以显着提高基于梯度的方法在优化高度多模态损失函数方面的性能。然而,目前的DGS方法是专为无界和无约束优化问题,使其不适用于现实世界的工程设计优化问题,调整参数往往是有界的,损失函数通常是由物理过程的约束。在这项工作中,我们建议扩展DGS方法的约束逆设计框架,以找到一个更好的设计。所提出的框架具有可移植性和灵活性的优势,自然地将参数化,物理模拟,目标制定在一起,建立一个有效的逆向设计工作流程。为提高算法的计算效率和鲁棒性,提出了一系列平滑半径和学习率更新的自适应策略。为了实现清晰的二值化设计,在参数化中对投影强度施加动态增长机制。我们的方法是证明了设计一个纳米级波长解复用器的例子,并显示出优越的性能相比,国家的最先进的方法。通过结合体积约束,优化设计实现了同等的高性能,但显着减少了材料的使用量。
2020-12-27 math.OC physics.app-ph
A Rate Transfer Method: Convergence Rates in Stochastic Gradient Descent via Stochastic Calculus
Durham University(杜伦大学)
该研究提出速率转移方法,通过随机微积分将SDE的李雅普诺夫估计转化为随机梯度算法的收敛界,可复现经典方法速率并用于新优化算法的收敛速率分析。
2026-10-14 cs.AI cs.LG math.OC
On Shape Calculus with Elliptic PDE Constraints in Classical Function Spaces
在这篇论文中,我们在经典的函数空间(Hölder空间)中发展了一个椭圆型偏微分方程(PDE)约束的形状优化的泛函分析框架。这种方法的动机是形状最优化问题,这是受到线性弹性约束,并涉及一类特殊的形状泛函计算故障率的机械加载设备w.r.t.组件的形状。这些目标是病态定义的$H^1$ -状态方程的解决方案和形状导数没有定义$H^1$ -材料的衍生物。因此,由此产生的最优可靠性问题不能解决现有的方法的形状演算。我们发展了一个一般概念的Banach和希尔伯特空间,这是基于参数依赖的变分方程,经典的PDE解决方案,Schauder估计和紧嵌入,并允许转移微分在较低的Banach空间拓扑结构,以更高的。我们应用这个框架的线性弹性方程及其变分制剂,根据速度方法变换的域。我们证明了Hölder空间中物质和局部形状导数的存在性,形状导数的存在性,并导出伴随方程。我们还给出了$L^2$形状梯度的一个分类。它的规则性和它的潜力,以维持域规则性沿下降流。
2020-01-16 math.OC
Optimization of piecewise smooth shapes under uncertainty using the example of Navier-Stokes flow
本文融合乘积形状流形微分几何与多形状微积分,构建分段光滑形状优化框架,并用于含不确定性的稳态不可压缩 Navier-Stokes 绕流障碍问题,通过随机增广 Lagrangian 数值实验分析参数选择。
2023-08-15 math.DG math.OC
Gradient flow structure for some nonlocal diffusion equations
本文研究一类非局部扩散方程,证明其解可视为相对熵关于非局部Wasserstein型度量的梯度流,并据此推导出解的存在唯一性、演化Γ-收敛稳定性、指数收敛条件及离散化方案一致性。
2025-10-31 math.AP math.DS math.OC