A note on approximate Karush-Kuhn-Tucker conditions in locally Lipschitz multiobjective optimization
在Giorgi,Jiménez和Novo最近的论文(J Optim Theory Appl 171:70- 89,2016)中,作者引入了光滑多目标最优化问题的所谓近似Karush-Kuhn-Tucker(AKKT)条件,并获得了此类问题弱有效解的一些AKKT型必要最优性条件和充分最优性条件。在本文中,我们利用Mordukhovich次微分将这些最优性条件推广到局部Lipschitz多目标最优化问题。进一步证明了在适当的附加条件下,AKKT条件也是KKT条件。
2018-04-13 math.OC
Approximate solutions for robust multiobjective optimization programming in Asplund spaces
本文研究了任意Asplund空间中带不确定约束的非光滑/非凸多目标最优化问题。首先给出了近似弱鲁棒有效解的模糊形式的最优性必要条件最优性条件,然后利用Frechet次微分的模糊最优性条件,在极限次微分意义下建立了近似弱鲁棒拟有效解的最优性必要定理.在广义伪凸函数的新概念下,得到了该问题近似(弱)鲁棒拟有效解的充分条件.最后,我们解决了一个近似的Mond-Weir型对偶鲁棒问题的参考问题,并探讨弱,强,逆对偶性质的假设下的伪凸性。
2022-11-14 math.OC
Nonlinear Separation Theorems for Co-Radiant Sets and Optimality Conditions for Approximate and Proper Approximate Solutions in Vector Optimization
University de Alicante(阿利坎特大学)
本文通过标量化方法,建立了非辐射集的非线性分离定理,并在不假设非辐射集或集合凸性的情况下,获得了向量优化中ε-有效和ε-恰当有效点的必要和充分条件。
2025-09-09 math.OC
On approximate quasi Pareto solutions in nonsmooth semi-infinite interval-valued vector optimization problems
本文研究了一类具有多个区间值目标函数的非光滑半无限规划的近似解。首先通过考虑上下区间序关系,给出了该问题的四类近似拟Pareto解,然后应用变分分析和广义微分等先进工具,建立了这些近似解的最优性必要条件.通过引入由局部Lipschitz函数的极限次微分定义的近似(严格)伪拟广义凸函数的概念,给出了这类问题存在近似拟Pareto解的充分条件.最后,建立了近似形式的Mond-Weir型对偶模型,并提出了弱、强和类逆对偶关系。
2022-01-22 math.OC
Separable Concave Optimization Approximately Equals Piecewise-Linear Optimization
研究了紧可行集上非负可分凹函数的极小化问题。我们近似这个问题的一个因素内的1+ 1/2的分段线性最小化问题在同一可行集。我们的主要结果是,当可行集是一个多面体,结果块的数量是多项式的输入大小的多面体和线性的1/1。对于许多实际的凹成本问题,所得到的分段线性成本问题可以被表述为一个研究充分的离散最优化问题。因此,各种多项式时间精确算法,近似算法,和多项式时间算法的离散最优化问题立即产生完全多项式时间近似计划,近似算法,和多项式时间算法的相应凹成本问题。我们在两个问题上说明我们的方法。针对凹成本多商品流问题,设计了一种新的启发式算法,并通过计算实验研究了其性能。我们能够近似解决比以前可能的更大的测试实例,并获得平均4.27%的最优解。对于凹费用设施点定位问题,我们得到了一个新的1.4991+ λ的近似算法.
2012-01-16 math.OC
An Approximate Newton Smoothing Method for Shape Optimization
一种新的方法来有效地近似Hessian的数值形状优化。该方法通过在基于局部傅里叶分析的半自动框架中包括身体拟合坐标和空间变化符号来增强算子符号近似。与经典的算子符号方法相反,所提出的策略将识别非平滑设计在物理上有意义的区域,并将自动关闭这些区域中的平滑。一个新的战略,也数值识别的解析符号的推导,扩展的过程中,各种各样的问题。通过在Stokes和Navier-Stokes流中使用阻力最小化证明了该方法的有效性。
2018-07-30 math.OC
Smooth Optimization with Approximate Gradient
我们表明,Nesterov的光滑的一阶优化算法的最佳复杂性被保存时,梯度只计算到一个小的,一致有界的错误。在半定规划的应用中,这意味着在某些情况下只计算当前矩阵的几个前导特征值,而不是一个完整的矩阵指数,这大大降低了方法的计算成本。这也允许稀疏的问题,以有效地解决使用稀疏的最大特征值包。
2008-05-16 math.OC
On the Linear Convergence of the Approximate Proximal Splitting Method for Non-Smooth Convex Optimization
考虑最小化两个凸函数之和的问题,其中一个是光滑的,另一个是非光滑的。在本文中,我们介绍了一般类的近似邻近分裂(APS)方法来解决这样的极小化问题。APS类中的方法包括许多众所周知的算法,例如用于光滑凸优化的邻近分裂方法(PSM)、块坐标下降法(BCD)和近似梯度投影法。在局部误差有界的假设下,证明了APS方法的线性收敛.由于后者是已知的压缩感知和稀疏组LASSO问题,我们的分析意味着线性收敛的BCD方法对这些问题没有强凸性假设。
2014-04-21 math.OC
An Approximate Method for the Optimization of Long-Horizon Tank Blending and Scheduling Operations
我们解决了一个具有挑战性的坦克混合和调度问题的操作化工厂。我们建模的问题作为一个非凸MIQCP,然后近似这个模型作为一个MILP使用基于离散化的方法。我们结合滚动时域的方法与离散化的个别化学性能规格,以处理长时间的调度范围,时变质量规格,和多个供应商的离散到达时间。这种方法已被评估使用行业代表性的数据集从特种化学工业。我们证明,所提出的方法支持快速规划周期。
2020-06-13 math.OC
Decentralized Approximate Newton Methods for Convex Optimization on Networked Systems
本文提出了一类求解网络系统上凸优化的分散近似牛顿(DEAN)方法,网络系统中的节点仅通过局部相互作用寻求使各自目标函数之和最小的一致性.所提出的DEAN算法允许每个节点重复执行局部近似牛顿更新,这利用跟踪全局牛顿方向和消散节点之间的差异。与大多数现有的二阶方法相比,在较少限制的问题假设下,DEAN算法使节点能够达成共识,可以任意接近最优。此外,对于一个特定的DEAN算法,节点线性收敛到一个显式的误差界的共同的次优解。最后,仿真结果表明DEAN在收敛速度,精度和效率方面具有竞争力的性能。
2020-11-28 math.OC
Appropriate Learning Rates of Adaptive Learning Rate Optimization Algorithms for Training Deep Neural Networks
本文研究了深度学习中的非凸随机最优化问题,并提供了适当的学习率,自适应学习率优化算法(如Adam和AMSGrad)可以近似问题的稳定点。特别地,提供恒定和递减的学习速率来近似问题的静止点。我们的结果也保证了自适应学习率优化算法可以逼近凸随机最优化问题的全局极小值。在文本和图像分类的数值实验中,自适应学习率优化算法进行了检查。实验结果表明,学习率恒定的算法比学习率递减的算法性能更好。
2020-11-22 math.OC
Approximate solution of system of equations arising in interior-point methods for bound-constrained optimization
针对界约束优化内点法的牛顿系统求解权衡问题,提出基于有效/无效约束启发式估计的部分与完全近似解,及两种含部分近似解中间步骤的类牛顿法,给出理论误差界与数值验证结果。
2020-11-15 math.OC
Approximately Gaussian Replicator Flows: Nonconvex Optimization as a Nash-Convergent Evolutionary Game
本文将无约束非凸优化提升为概率测度优化并对应到种群博弈纳什均衡,提出可用现成 ODE 求解器积分的近似高斯复制子流(AGRFs),并通过理论分析与基准实验验证其收敛与下降性质。
2024-09-10 math.OC
A Unifying Approximate Method of Multipliers for Distributed Composite Optimization
本文研究了无向网络上的凸复合优化问题,其中每个节点被赋予一个光滑分量函数和一个非光滑分量函数,要求使整个网络的所有分量函数之和最小.为了解决这个问题,一个通用的近似方法的乘数(AMM)的发展,它试图近似的乘数方法凭借代理函数具有众多的选项。然后,我们设计可能的不可分离的,随时间变化的代理函数以各种方式,导致不同的分布式实现AMM。我们证明,AMM概括了十多个国家的最先进的分布式优化算法,和某些特定的设计,其代理函数的结果在各种新的算法的文献。此外,我们表明,AMM是能够实现的$O(1/k)$收敛速率的最优性,和收敛速度成为线性时,局部限制强凸和光滑的问题。这样的收敛速度为许多现有方法提供了新的或更强的收敛结果,这些方法可以被视为AMM的专门化。
2021-08-12 math.OC
Necessary conditions for approximate solutions of vector and set optimization problems with variable domination structure
本文研究具有可变支配结构的向量与集合优化问题,利用 Ekeland 变分原理的推广和 Mordukhovich 广义微分,分别针对单值和集值目标映射推导近似非支配点的必要条件。
2025-03-09 math.OC
An approximate dual subgradient algorithm for multi-agent non-convex optimization
我们考虑一个多智能体最优化问题的代理受到当地的,间歇性的相互作用的目的是最小化的总和,当地的目标函数受到一个全球性的不等式约束和全球性的状态约束集。与以前的工作相比,我们不要求目标,约束函数和状态约束集是凸的。为了处理满足标准连通性假设的时变网络拓扑,我们采用一致性算法技术和拉格朗日对偶方法。我们稍微放松了对精确一致性的要求,并提出了一个分布式近似对偶次梯度法,使代理渐近收敛到一对原始-对偶解的近似问题。为了保证收敛性,我们假设Slater条件满足,并且对偶极限的最优解集是单点的。我们实现了我们的算法的源定位问题,并与现有的算法的性能进行比较。
2012-10-08 math.OC
A time continuation based fast approximate algorithm for compressed sensing related optimization
最近,压缩感知问题和与Hamilton-Jacobi方程的解相关的一类特定函数的优化之间的重要联系被发现。在本文中,我们引入了一个快速的近似算法来优化这类特殊的功能,并随后找到压缩感知问题的解决方案。虽然我们强调,我们的算法的方法找到了一个近似解,数值实验表明,我们的算法完美地恢复的解决方案时,解决方案是相对稀疏的测量数量。在这些情况下,与其他可用方法相比,恢复速度极快。数值实验还表明,该算法表现出尖锐的相变的成功率恢复的压缩感知问题的解决方案的稀疏性的变化。这里提出的算法是无参数的(除了一个公差参数,由于数字机器精度),非常容易实现。
2013-11-25 math.OC
Approximate stationarity in disjunctive optimization: concepts, qualification conditions, and application to MPCCs
本文研究析取约束优化问题的近似稳定性条件及严格约束规范,提出与强稳定性相关的扩展,建立基于近似稳定点推断稳定性的条件,并将其应用于互补约束优化问题。
2025-10-10 math.OC
On the directional asymptotic approach in optimization theory Part A: approximate, M-, and mixed-order stationarity
我们表明,对于一个固定的顺序$γ\geq 1$,一个相当一般的非光滑最优化问题在欧几里得空间中的每个局部极小是M-平稳的经典意义下(对应于平稳性的顺序$1$),满足平稳性条件的协导建设的顺序$γ$,或近似平稳的临界方向以及$γ$在一定意义上。通过排除后一种情况下的约束规格不强于方向度量次正则性,我们最终与新的必要的最优性条件,包括混合物的限制变分工具的顺序$1$和$γ$。这些抽象的发现是为广泛的几何约束类而雕刻出来的。作为一个副产品,我们获得了新的约束规格,确保局部极小的M-平稳。本文结束说明这些结果的背景下,标准的非线性,互补约束,非线性半定规划。
2023-02-09 math.OC
Extended reverse-convex programming: an approximate enumeration approach to global optimization
本文提出了一种新的求解一类可分解非线性规划(NLP)问题全局最优解的方法。与传统的分支定分支定界法中采用的划分决策变量空间的策略不同,该方法将NLP问题近似为一个逆凸规划(RCP)问题,并通过枚举搜索来求解。为了建立该方法的理论保证,引入了“RCP正则性”的概念,并证明了当RCP问题是正则的时,枚举保证产生全局最优值。一个扩展的RCP算法框架,然后提出了一个小的测试问题,其性能进行了检查。
2015-04-25 math.OC
On approximate Pareto solutions in nonsmooth interval-valued multiobjective optimization with data uncertainty in constraints
针对约束含数据不确定性的非光滑区间值多目标优化问题,定义多类近似Pareto解,推导其最优性条件与对偶关系,为含不确定约束的区间值多目标优化提供理论支撑。
2025-02-22 math.OC
Approximate Projection Methods for Decentralized Optimization with Functional Constraints
我们考虑分布式凸优化问题,涉及一个可分离的目标函数和非平凡的功能约束,如线性矩阵不等式(LMI)。我们提出了一个分散的和计算成本低廉的算法,这是基于近似投影的概念。我们的算法是基于共识的方法之一,在每次迭代中,每个代理执行其决策变量的共识更新,然后是其局部目标函数和局部约束的优化步骤。与其他方法不同,我们的方法的最后一步不是在可行集上的欧几里得投影,而是在最小化局部约束违反的方向上的次梯度步骤。我们提出了两种不同的平均方案,以减轻代理人的本地估计之间的分歧。我们表明,算法收敛几乎肯定,即,在假设目标函数和约束函数不可微且其子梯度有界的情况下,每个代理同意相同的最优解。我们提供了一个分散的最佳八卦平均问题,其中涉及SDP约束的模拟结果,以补充我们的理论结果。
2018-01-16 math.OC
Approximate Proper Efficiency in Vector Optimization via Benson's Approach
本文基于Benson方法提出两个检验向量优化近似真有效性的准则,首次给出详细证明,并引入$e$-真有效解概念,证明对任意线性向量优化问题,$e$-真有效解集要么为空,要么与$e$-有效解集重合。
2023-12-03 math.OC
Approximate solutions of convex semi-infinite optimization problems in finitely many iterations
本文提出了两种求解凸半无限优化问题的自适应离散化算法,该算法在任意精度的近似解上经过多次迭代后终止。特别地,它们终止于所考虑的最优化问题的可行点。与现有的半无限最优化问题的非线性可行算法相比,我们的算法的工作与相当小的离散化,因此计算上是有利的。此外,我们的算法终止于任意精度的近似解,而对于一般的半无限最优化问题,最好的近似解精度可以是任意差的。在我们的算法中,所有发生的有限优化子问题只需要近似求解,连续性是我们的目标函数和约束函数的唯一正则性假设。讨论了形状约束下参数和非参数回归问题的应用。
2022-01-13 cs.NA math.NA math.OC
Best Approximate Solution for Generalized Nash Games and Quasi-optimization Problems
在这篇文章中,我们考虑广义纳什博弈的相关约束映射不一定是自我。经典的纳什均衡可能不存在这样的游戏,因此,我们引入的概念,最佳近似解这样的游戏。我们研究了由无限多个局中人组成的广义Nash博弈的最佳近似解的出现,其中每个局中人调节位于拓扑向量空间中的策略变量。基于最大值定理和Kakutani可因子化映射的一个不动点结果,在局中人目标函数的拟连续性和弱连续性假设下,得到了最佳近似解的存在性.此外,我们证明了准最优化问题的最佳近似解的发生。
2022-04-02 math.FA math.OC
Approximate Topological Optimization using Multi-Mode Estimation for Robot Motion Planning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);KTH Royal Institute of Technology(瑞典皇家理工学院);Technical University of Berlin(柏林工业大学)
在这个扩展的摘要中,我们报告正在进行的工作,对一个近似的多峰优化算法的渐近保证。多模态优化是寻找路径优化问题的所有局部最优解(模态)的问题。这对于压缩路径数据库是很重要的,作为重新规划的应急措施和符号表示的来源。根据Morse理论的思想,我们将模式定义为代价泛函优化下的路径不变。我们开发了一个多模式估计算法,近似地找到一个给定的运动优化问题的所有模式和渐近收敛。这是通过将稀疏路线图与现有的单模优化算法相结合而实现的。初步评估结果表明,多模式估计算法作为一个有前途的方向,从拓扑的角度来研究路径空间。
2021-07-06 cs.RO math.OC
On the representativeness of approximate solutions of discrete optimization problems with interval objective function
本文考虑目标函数系数为区间不确定性的离散最优化问题。区间不确定性模型测量误差。可能的最优解是对于某些可能的系数值最优的解。可能解决方案的概率是获得解决方案为最优的系数的概率。同样,我们定义的概念,一个可能的近似解与给定的精度和概率的解决方案。可能的近似解是通过某种固定的近似算法(例如,通过贪婪算法)针对系数的某些可能值获得的近似解。这种解的概率是获得这种系数的概率,该系数使算法产生解作为其输出。如果最优解或近似可能解的概率小于某个边界值,则我们认为最优解或近似可能解是不敏感的。平均近似解是系数区间中点的可能近似解。该解可视为系数精确值的近似解。我们表明,个别离散最优化问题的实例与非代表性的平均值近似解的份额可能是足够宽的误差和边界值相当小的值。对于任何其他可能的近似解也是如此:它们都可能是不具有代表性的。
2022-06-18 cs.DM math.OC
Approximate Shifted Combinatorial Optimization
移位组合优化是一种新的非线性最优化框架,它是标准组合优化的广泛扩展,涉及一次选择多个可行解。它捕捉到了从充血到分区问题的各种各样的问题。特别是,每个标准的组合最优化问题都有其移位的对应问题,这通常要困难得多。在这里,我们开始研究这个广泛的优化框架的近似算法。
2017-06-07 cs.DM cs.DS math.CO
Intractability of approximate multi-dimensional nonlinear optimization on independence systems
我们考虑非线性目标函数的优化,平衡$d$线性标准的$n$元素独立系统的线性优化预言。对于$d=1$,我们以前已经表明,一个$r$最佳近似解可以在多项式时间内找到。在这里,使用一个扩展的Erdens-Ko-Rado定理的Frankl,我们表明,对于$d=2$,找到一个$ρn$ -最佳的解决方案需要指数时间。
2010-01-28 cs.CC cs.DM math.CO
Saddle Point Optimization with Approximate Minimization Oracle
鞍点优化$\min_x\max_y f(x, y)$的一种主要方法是基于梯度的方法,如生成对抗网络(GANs)所推广的。相比之下,我们分析了一种替代方法,只依赖于一个甲骨文,解决了一个最小化问题近似。我们的方法将近似解$x'$和$y'$定位到给定点$(x, y)$处的$\min_{x'}f(x', y)$和$\max_{y'}f(x, y')$,并以学习率$η$向这些近似解$(x', y')$更新$(x, y)$。在局部强凸-凹光滑函数上,我们得到了$η$线性收敛于局部鞍点的条件,这揭示了最近发展的鲁棒对抗强化学习算法的一个可能的缺点.我们开发了一个启发式的方法来适应$η$导数自由和实现零阶和一阶最小化算法。数值实验表明了理论结果的严密性以及$η$自适应机制的有效性。
2021-03-31 cs.NE math.OC
Approximate and Stochastic Greedy Optimization
QUT(昆士兰科技大学);ACEMS(澳大利亚数学与统计前沿卓越中心);UC Berkeley(加州大学伯克利分校)
本文考虑了在有界凸集中极小化凸函数的两种贪婪算法:Jones [1992]的算法和Frank-Wolfe(FW)算法。我们首先考虑这些算法的近似版本。对于光滑凸函数,我们给出了收敛的充分条件,对O(1/k)的收敛速度进行了统一的分析,并证明了该速度是用证明技巧得到的最佳收敛速度,同时给出了两种算法的等价性结果.我们还考虑近似随机贪婪算法最小化的期望。我们证明了,用一个单一的随机梯度取代全梯度,甚至可以失败光滑的凸函数。给出了光滑凸函数的一个收敛的近似随机Jones算法和一个收敛的近似随机FW算法。此外,我们还给出了非光滑凸函数的一个收敛的近似随机FW算法。给出并证明了这些算法的收敛速度。
2017-05-25 cs.LG math.OC
Quantum constraint learning for quantum approximate optimization algorithm
量子近似优化算法(QAOA)是一种混合量子-经典变分算法,具有处理组合优化问题的潜力。在这样的组合优化问题中引入约束,对QAOA的扩展提出了一个重大挑战,以支持相关的大规模问题。本文介绍了一种量子机器学习方法来学习硬约束搜索子空间所需的混合器哈密顿量。我们表明,这种方法可以用于编码任何一般形式的约束。人们可以直接插入学习酉到QAOA框架使用自适应的Analog。这个过程提供了灵活性,以控制电路的深度为代价的精度强制约束,从而在噪声中间尺度量子(NISQ)时代的直接应用。我们还开发了一个直观的度量,使用Wasserstein距离来评估一般近似优化算法的性能,有/没有约束。最后,使用此度量,我们评估所提出的算法的性能。
2021-12-14 math.OC physics.data-an quant-ph
Communication Efficient Distributed Optimization using an Approximate Newton-type Method
Toyota Technological Institute(丰田工业大学);Technion(以色列理工学院);Rutgers University(罗格斯大学);Baidu(百度)
我们提出了一种新的牛顿型方法的分布式优化,这是特别适合于随机优化和学习问题。对于二次型目标,该方法具有线性收敛速度,可证明\emph{improves}与数据大小,在合理的假设下,需要一个基本上恒定的迭代次数。我们提供了理论和经验证据的优势,我们的方法相比,其他方法,如单次参数平均和ADMM。
2014-05-13 cs.LG math.OC stat.ML
Saddle Point Optimization with Approximate Minimization Oracle and its Application to Robust Berthing Control
我们提出了一种方法,鞍点优化只依赖于预言机,解决近似最小化问题。我们分析了它在强凸-凹问题上的收敛性,并证明了它向全局极小-极大鞍点的线性收敛。基于收敛性分析,我们开发了一种启发式方法来适应学习率。所开发的方法,使用(1+1)-CMA-ES作为最小化的预言,即逆境-CMA-ES,实现优于现有的几种方法的测试问题。数值评估证实了理论收敛速度界的紧密性以及学习速率自适应机制的效率。作为一个实际问题的例子,建议的最优化方法应用于模型不确定性下的自动靠泊控制问题,显示其在获得解决方案的不确定性的实用性。
2022-01-04 cs.NE math.OC
Approximate method for cutting pattern optimization of frame-supported and pneumatic membrane structures
本文提出了一种计算效率高的框支充气膜结构裁剪方案近似优化方法。平面切割片是通过减小来自期望的弯曲形状的应力而获得的形状的误差最小化来生成的。通过求解总应变能最小化问题,得到了平衡形状。在分析气动薄膜时,还考虑了压力对薄膜所作的外功。本文还提出了一种分析ETFE薄膜的近似方法,其中弹塑性行为被建模为单调加载条件下的非线性弹性材料。通过框架支撑的聚氯乙烯(PVC)膜结构和气压方形ETFE膜的例子证明了所提出的方法的效率。
2017-12-13 cond-mat.soft math.OC
Zeroth-Order Regularized Optimization (ZORO): Approximately Sparse Gradients and Adaptive Sampling
University of California, Los Angeles(加州大学洛杉矶分校);Damo Academy, Alibaba US(阿里巴巴美国达摩院);Xmotors AI(Xmotors人工智能公司)
我们考虑最小化高维目标函数的问题,其中可能包括一个正则化项,使用(可能有噪声)的功能评估。这种优化也被称为无导数优化、零阶优化或黑盒优化。我们提出了一种新的$\textbf{Z}$ eroth- $\textbf{O}$ rder $\textbf{R}$正则化的$\textbf{O}$优化方法,称为ZORO。当底层梯度在一个梯度上近似稀疏时,ZORO需要非常少的目标函数评估来获得减小目标函数的新梯度。我们实现这一点与自适应,随机梯度估计,其次是一个不精确的近似梯度方案。在一个新的近似稀疏梯度假设和各种不同的凸设置,我们显示(理论和经验)的收敛速度的ZORO是唯一的数学依赖于问题的维数。数值实验表明,ZORO优于现有的方法类似的假设,在合成和真实数据集。
2021-12-01 cs.LG math.OC
A Noise-Aware Scalable Subspace Classical Optimizer for the Quantum Approximate Optimization Algorithm
Argonne National Laboratory(阿贡国家实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
ANASTAARS通过自适应随机子空间策略提升QAOA参数优化效率,有效应对噪声和大规模层问题,展示出在近期量子计算中的可扩展性。
2025-07-15 math.OC quant-ph
Greedy approximation in convex optimization
我们研究凸优化问题的稀疏近似解。众所周知,在许多工程应用中,研究人员感兴趣的是将优化问题的近似解作为来自给定元素系统的元素的线性组合。有越来越多的兴趣在建设这样的稀疏近似解决方案,使用不同的贪婪型算法。在非线性逼近理论中,由给定系统(字典)中元素的线性组合逼近Banach空间中给定元素的问题得到了很好的研究。乍一看,近似和优化问题的设置非常不同。在近似问题中,给定一个元素,我们的任务是找到它的稀疏近似;在优化理论中,给定一个能量函数,我们应该找到最小化问题的近似稀疏解。事实证明,同样的技术可以用来解决这两个问题。我们将展示如何在非线性逼近理论的技术,特别是贪婪的近似技术,可以调整找到一个稀疏的解决方案的优化问题。
2012-06-02 math.OC stat.ML
Statistics with Set-Valued Functions: Applications to Inverse Approximate Optimization
大部分统计学依赖于四个关键要素:大数定律、运算随机收敛的微积分、中心极限定理和构造局部近似的框架。这些元素对于向量空间中的对象是很好理解的(例如,点或函数);然而,许多统计理论并不直接转化为集合,因为它们不形成向量空间。基于随机集的概率论,本文利用变分分析开发了集值函数统计的运算工具。这些工具首先应用于非参数估计(集值函数的核回归)。第二个应用是逆近似优化问题,其中观察到最优化问题的近似解(被噪声破坏),然后用于估计解的次优性量和生成解的最优化问题的参数。我们发现,以前的方法来解决这个问题是统计不一致的数据被噪声破坏时,而我们的方法是一致的,在温和的条件下。
2018-01-08 math.OC math.ST stat.TH
Gradient-Normalized Smoothness for Optimization with Approximate Hessians
EPFL(洛桑联邦理工学院)
本研究提出梯度归一化平滑性新概念,构建结合近似二阶信息与梯度正则化的优化算法,为近似二阶算法提供通用全局收敛保证,适用于多类函数及逻辑回归、非凸优化等场景。
2025-06-16 cs.LG math.OC
Lower Bounds on Circuit Depth of the Quantum Approximate Optimization Algorithm
量子近似优化算法(QAOA)是一种近似求解组合优化问题的方法。虽然QAOA被开发来解决广泛的一类组合优化问题,但目前还不清楚哪类问题最适合它。证明量子优势的一个因素是问题实例与实现QAOA方法所需的电路深度之间的关系。由于NISQ器件中的误差随电路深度呈指数级增加,因此识别电路深度的下限可以提供对何时量子优势可行的见解。在这里,我们确定如何的问题实例的结构可以用来确定电路深度的下限QAOA的每次迭代,并检查问题结构和电路深度之间的关系,包括MaxCut和MaxIndSet的各种组合优化问题。具体来说,我们展示了如何推导出一个图,$G$,它描述了一个一般的组合优化问题,并显示电路的深度至少是色指数的$G$。通过查看电路深度的缩放,我们认为,MaxCut,MaxIndSet,顶点覆盖和布尔satisifiability问题的一些实例是适合QAOA方法,而背包和旅行销售人员的问题是不。
2020-08-12 cs.CC math.OC quant-ph
A comparison on constrain encoding methods for quantum approximate optimization algorithm
针对量子近似优化算法(QAOA)求解约束满足问题的需求,对比了三种线性约束编码策略,以背包问题为案例评估其效率与有效性,为不同场景的方法选型提供参考。
2024-10-05 math.OC quant-ph
Distributed Continuous-time Approximate Projection Protocols for Shortest Distance Optimization Problems
本文研究了多智能体网络中分布式最短距离优化问题,提出基于近似投影的连续时间动态协议以解决投影不确定性问题,并分别给出了非空交集和空交集情况下保证最优收敛的步长和近似角条件。
2016-02-03 cs.SY eess.SY math.OC
Learning Hard Optimization Problems: A Data Generation Perspective
Syracuse University(雪城大学);Georgia Institute of Technology(佐治亚理工学院)
最优化问题在我们的社会中无处不在,几乎存在于经济的每一个部分。这些最优化问题中的大多数是NP难的,并且计算量很大,对于大规模的实例,通常需要近似解。机器学习框架学习近似解这些困难的最优化问题是解决这些困难的潜在有前途的途径,特别是当许多密切相关的问题实例必须重复解决时。监督学习框架可以使用预先解决的实例的输出来训练模型。然而,当输出本身是近似值时,当最优化问题具有对称解时,和/或当求解器使用随机化时,紧密相关的实例的解可能表现出大的差异,并且学习任务可能固有地变得更加困难。本文展示了这一关键挑战,将训练数据的波动性与模型近似它的能力联系起来,并提出了一种方法,用于产生更适合监督学习任务的最优化问题的(精确或近似)解决方案。该方法的有效性进行了测试,硬非线性,非凸和离散组合问题。
2021-06-21 cs.LG math.OC
Weight Design of Distributed Approximate Newton Algorithms for Constrained Optimization
University of California, San Diego(加州大学圣迭戈分校)
本文提出一种分布式近似牛顿算法,用于解决约束优化问题,通过优化通信拓扑和权重提升收敛性能。
2017-03-22 cs.MA cs.NA math.NA