Privacy-preserving Decentralized Optimization via Decomposition
本文考虑分散优化中的隐私保护问题,其中$N$代理合作最小化一个全局目标函数,该全局目标函数是$N$局部目标函数之和.我们假设每个局部目标函数都是私有的,并且只为单个智能体所知。为了合作解决问题,大多数现有的分散优化方法需要参与的代理交换和披露估计相邻的代理。然而,这会导致关于本地目标函数的私有信息的泄漏,这在对手存在并试图从参与代理窃取信息时是不期望的。为了解决这个问题,我们提出了一个隐私保护分散优化方法的基础上,通过函数分解的近似雅可比ADMM。数值模拟证实了所提出的方法的有效性。
2018-09-18 math.OC
Application of a smoothing technique to decomposition in convex optimization
对偶分解是求解具有可分结构的凸优化问题的一种有效方法。虽然增广拉格朗日量在计算上比普通拉格朗日量更稳定,但增广项破坏了给定问题的可分性。在本文中,我们使用另一种方法来获得一个光滑的拉格朗日,根据Nesterov开发的平滑技术,它保留了问题的可分性。利用这种方法,我们得到了一个新的分解方法,称为邻近中心算法,从效率估计的角度来看,它提高了数量级的经典双梯度格式的迭代次数的界限。这可以通过新的分解算法来实现,因为所得到的对偶函数具有良好的光滑性,并且因为我们利用了给定问题的特定结构。
2013-02-13 math.OC
Mixed Spatial and Temporal Decompositions for Large Scale Multistage Stochastic Optimization Problems
我们考虑涉及多个单元的多阶段随机最优化问题。每个单元是一个(小)控制系统。静态约束在每个阶段耦合单元。我们提出了一个混合的空间和时间分解来解决这样的大规模问题。更准确地说,我们得到的理论界限和政策,通过两种方法,这取决于是否处理的耦合约束的价格或资源。我们研究集中和分散的信息结构。我们报告的城市微电网的管理数值实验的结果。看来,分解方法是更快,并给出更好的结果比标准的随机对偶动态规划方法,无论是在边界和政策性能。
2021-06-17 math.OC
Decomposition and Successive Decomposition Methods and Algorithms for Nonconvex Optimization
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文提出适用于更广泛分解结构的非凸优化方法,通过分解和连续分解方法实现并行和分布式计算,产生原问题的 stationary 点,并在收敛性能与计算时间间取得良好平衡。
2026-05-15 math.OC
Primal Recovery from Consensus-Based Dual Decomposition for Distributed Convex Optimization
对偶分解已成功地应用于各种分布式凸优化问题,这些问题由计算和通信节点组成的网络来解决。通常,当费用函数是可分离的,但约束是耦合的,对偶分解方案涉及本地并行次梯度计算和全局次梯度更新执行的主节点。在本文中,我们提出了一个基于共识的对偶分解,以消除需要这样的主节点,仍然使计算节点生成一个近似的对偶解的基础凸优化问题。此外,我们提供了一个原始的恢复机制,让节点有机会接近接近最优的原始解决方案。我们的计划是基于一个恒定的步长选择和对偶和原始目标的收敛实现了一个有界的错误地板依赖于步长和节点之间的共识步骤的数量。
2015-03-26 math.OC
Inexact Penalty Decomposition Methods for Optimization Problems with Geometric Constraints
本文从理论上和数值上研究了求解带几何约束的最优化问题的罚分解格式。特别是,我们考虑了一些情况下,部分的约束是非凸的和复杂的,如基数约束,析取程序,或矩阵问题,涉及秩约束。通过变量复制和分解策略,这里提出的方法显式地处理这些困难的约束,从而生成相对于它们是可行的迭代,而其余的(标准的和假设简单的)约束通过顺序惩罚来处理。不精确的优化步骤已被证明是足够的esulting算法的工作,使它是就业困难的目标函数。因此,目前的工作是一个显着的推广现有的论文处罚分解方法。另一方面,它涉及到一些最近的出版物,其中使用增广拉格朗日思想来解决具有几何约束的最优化问题。这些方法相比,分解的想法被证明是数值上优越的,因为它允许更多的自由度在选择的子问题求解器,并由于某些(可能是昂贵的)投影步骤的数量显着less.Extensive的数值结果在几个高度复杂的类的最优化问题在向量和矩阵的空间表明,目前的方法确实是非常有效地解决这些问题。
2022-10-11 math.OC
Time Blocks Decomposition of Multistage Stochastic Optimization Problems
针对多阶段随机优化的大规模复杂性,提出按时间块进行状态归约,证明归约动态规划方程,并说明其在双时间尺度问题中的应用潜力。
2023-04-28 math.OC
A robust optimization and an area decomposition approach to large-scale network planning under uncertainty
本文介绍了一种区域分解和鲁棒优化策略的规划,考虑可变可再生能源(VRE)和水力发电的不确定性的大规模输电网络。这一战略的说明与巴西的电网从2027年到2036年的扩展研究。该国的网络拥有超过10万辆公共汽车和14万条电路,覆盖面积相当于美国。采用基于总线边际成本的分簇方案将电网划分为7个区域。每个区域规划,然后解决了一个启发式和Benders分解方法,以产生一个强大的最低成本计划的3,000调度方案。
2020-04-02 math.OC
A Graph-based Decomposition Method for Convex Quadratic Optimization with Indicators
本文考虑了目标函数中定义二次项的矩阵$Q$稀疏时的带指示变量的凸二次最优化问题。我们使用图形表示的支持$Q$,并表明,如果这个图是一个路径,那么我们可以解决相关的问题在多项式时间。这使得我们能够构造一个紧凑的扩展配方的混合整数凸问题的上图的凸包的封闭。此外,我们提出了一种新的分解方法,一般(稀疏)$Q$,利用路径的情况下,有效的算法。我们的计算实验表明,所提出的方法相比,最先进的混合整数优化求解器的有效性。
2021-10-24 math.OC
A joint decomposition method for global optimization of multiscenario nonconvex mixed-integer nonlinear programs
提出了一种结合La-grangian分解和广义Benders分解的联合分解方法,有效地解决了多场景非凸混合整数非线性规划(MINLP)问题的全局最优性,而不需要显式的分支定界搜索.在这种方法中,我们认为耦合的情况下,因变量和那些导致非凸性的变量作为复杂的变量。我们在一个统一的框架下系统地求解了拉格朗日分解子问题和广义Benders分解子问题。该方法需要解决一个困难的放松主问题,但问题只在必要时才解决。对该方法进行了改进,以减少要求解的松弛主问题的数量,并简化每个松弛主问题的求解。我们考虑了两个基于神经网络的两阶段随机非凸MINLP问题,这些问题来自于过程网络的集成设计和操作,我们表明所提出的方法可以比最先进的全局优化求解器更快地解决这两个问题。
2018-02-20 math.OC
Logic-based Benders decomposition for large-scale optimization
基于逻辑的Benders分解(Logic-based Benders decomposition,LBBD)是经典Benders分解的一个实质性推广,原则上,它允许子问题是任何最优化问题,而不是特定的线性或非线性规划问题。当某些决策变量是固定的时,它适合于解耦或以其他方式简化的各种大规模问题。本章介绍了LBBD的基本理论,并解释了经典的Benders分解是一种特殊情况。它还描述了分支和检查,LBBD的一个变体,只解决了一次主问题。它详细说明了如何弯曲切割和子问题松弛可以开发一些规划和调度问题。然后,它描述了LBBD在三个大规模的案例研究中的作用。本章的结论是一个广泛的调查LBBD文献,组织的问题域,让读者探索如何弯曲机削减已开发出广泛的应用。
2019-10-25 math.OC
Path-Following Gradient-Based Decomposition Algorithms For Separable Convex Optimization
提出了一种新的分解优化算法--\textit{path-following gradient-based decomposition},用于求解可分凸优化问题.与文献中考虑的路径跟踪牛顿法不同,该算法不需要对目标函数作任何光滑性假设。这使我们能够处理更多的一般类的问题,在许多实际应用中比在路径跟踪牛顿方法。新算法是三种技术的组合,即平滑,拉格朗日分解和路径跟踪梯度框架。该算法将原问题分解成更小的子问题,通过使用对偶分解和平滑通过自洽障碍,更新的对偶变量使用路径跟踪梯度法,并允许一个并行解决的子问题。此外,算法参数自动更新,没有任何调整策略,在增广拉格朗日方法。证明了新算法的整体收敛性,并分析了其局部收敛速度。然后,我们利用Nesterov的加速方案对该算法进行了改进,得到了一个新的具有更好的局部收敛速度的算法。最后,我们提出了初步的数值试验,证实了理论的发展。
2012-09-20 math.OC
A Decomposition Framework for Nonlinear Nonconvex Two-Stage Optimization
Northwestern University(西北大学)
本文提出一种分解框架,用于解决非线性非凸两阶段优化问题,通过平滑技术使第二阶段问题可导,从而利用现成优化工具,并证明算法在障碍参数趋近于零时具有快速局部收敛性。
2026-02-26 math.OC
A Framework for Generalized Benders' Decomposition and Its Application to Multilevel Optimization
本文提出一种推广经典 Benders 分解的优化框架,并将其用于多层/多阶段混合整数线性优化,以深化对对偶性和价值函数的理解。
2021-04-13 math.OC
Optimization as a design strategy. Considerations based on building simulation-assisted experiments about problem decomposition
在这篇文章中,最基本的分解为基础的最优化方法-块坐标搜索的基础上,在子问题的顺序分解的问题-和建筑性能模拟程序被用来推理有关的建筑设计过程中,在微城市尺度和战略的定义,使搜索更有效。循环重叠块坐标搜索具有最优化方法和序贯设计过程的代理模型(和隐喻)的双重性质。启发式指标倾向于支持适合该方法的搜索结构的设计开发从建筑模拟辅助计算实验,旨在选择一个小建筑的形式和位置的阴谋。这些指标将子空间之间的结构共享(“共性”)与递归重组联系起来,以搜索唤醒的新鲜度和搜索动作的新颖性来衡量。这些指标的目的是衡量基于分解的设计移动的相对有效性,并创建高效的分批试验法。还强调了可能使用这些指标在遗传算法的影响。
2015-05-30 math.OC
A distributed augmented Lagrangian decomposition algorithm for constrained optimization
School of Intelligent Systems Science and Engineering, Jinan University(暨南大学智能系统科学与工程学院)
本文提出分布式增广拉格朗日分解算法 DALD 及其加速变体,证明收敛性,并用分层协调网络统一 AL 框架下的相关理论,数值实验验证了其有效性。
2025-10-04 math.OC
A Fast Differential Grouping Algorithm for Large Scale Black-Box Optimization
协同进化在大规模黑箱优化中显示出巨大的潜力,分解在协同进化中起着重要的作用。然而,目前流行的分解算法通常需要采样和评估大量的解决方案的相互依赖性检测,这是非常耗时的。为了解决这个问题,本研究提出了一种新的分解算法命名为快速差分分组(FDG)。FDG首先通过检测按一定规则选择的几对变量子集的相互依赖关系来识别实例的类型,从而可以快速完成完全可分或不可分实例的分解。对于已识别的部分可分实例,FDG通过将对应的变量子集作为树节点,将密钥分解过程转化为二叉树中的搜索过程。这使得它能够通过重新利用为相应的父节点和兄弟节点采样的解决方案来直接推断与子节点相关的相互依赖性。为支持上述操作,设计了一种面向变量子集的归一化相关性指标,该指标能够根据变量子集的分布自适应地生成分解阈值,从而提高分解精度。计算复杂性分析和实验结果验证了FDG优于流行的分解算法。进一步的测试表明,嵌入在一个合作的协同进化框架中的FDG可以实现高竞争力的优化结果相比,一些国家的最先进的大规模黑箱优化算法。
2019-05-29 math.OC
An Interior-Point Lagrangian Decomposition Method for Separable Convex Optimization
本文利用拉格朗日对偶分解和内点框架,提出了一种求解大规模可分凸问题的分布式算法。通过在普通拉格朗日量中加入自协调的障碍项,我们在较弱的假设下证明了相应的增广对偶函数族是自协调的。证明了新算法的全局收敛性和高度并行性,从而使牛顿法有效地用于中心路径的跟踪成为可能,并适用于求解大规模的可分凸问题。
2013-02-13 math.OC
Thinking Fast and Slow: Optimization Decomposition Across Timescales
许多现实世界的控制系统,例如智能电网和人类感觉运动控制系统,具有使用本地信息快速反应的分散式组件和使用更全局视图缓慢反应的集中式组件。本文旨在提供一个理论框架,如何设计的控制器,以这种方式在时间尺度上分解。该框架类似于网络效用最大化框架如何使用优化分解来将全局控制问题分布在独立的控制器上,每个控制器解决一个局部问题;除了我们的目标是在时间上分解全局问题,提取时间尺度分离。我们的研究结果强调,分解成一个快速的时间尺度,反应控制器和一个缓慢的时间尺度,预测控制器的多时标控制器可以在很强的意义上接近最优。特别是,我们展示了这样一个设计,名为多时标自反预测控制(MRPC),它保持了每一个时间步的成本在一个恒定的因素离线最佳的对抗设置。
2017-11-13 math.OC
A Bilevel Optimization Method for Tensor Recovery Under Metric Learning Constraints
张量完备化和张量分解是许多领域的重要问题。在这项工作中,我们利用这些问题之间的联系来学习一个距离度量,以提高分解和完成。我们表明,最佳的马哈拉诺比斯距离度量的完成任务是密切相关的Tucker分解的完成张量。然后,我们制定了一个双层最优化问题,以执行联合张量完成和分解,受到度量学习约束。度量学习约束还允许我们灵活地将相似性边信息和耦合矩阵(当可用时)纳入张量恢复过程。我们推导出一个求解双层最优化问题的算法,并证明了它的整体收敛。当对真实数据进行评估时,我们的方法与以前的方法相比表现得更好。
2022-09-01 math.OC
Decomposition Algorithm for Distributionally Robust Optimization using Wasserstein Metric
我们研究分布鲁棒优化(DRO)问题的模糊集定义使用Wasserstein度量。我们表明,这类DRO问题可以重新表述为半无限的程序。对于一般的非线性模型,我们给出了一个交换方法来解决重构问题;对于凸模型,我们给出了一个中心切割面方法,假设我们有一个分离预言。我们使用了一个分布鲁棒推广的逻辑斯谛回归模型来测试我们的算法。分布鲁棒逻辑斯谛回归模型的数值实验表明,oracle调用的数量通常为20?50,达到5位精度。通过模型找到的解决方案通常在预测能力方面更好,具有较小的标准误差。
2017-04-12 math.OC
A Projection-Based Reformulation and Decomposition Algorithm for Global Optimization of a Class of Mixed Integer Bilevel Linear Programs
我们提出了一个扩展的变型的重构和分解算法求解一类特殊的混合整数双层线性规划(MIBLPs),其中连续和整数变量都涉及在上层和下层的问题。特别是,我们认为MIBLP的上层约束,涉及较低级别的变量。我们假设诱导区域是非空的,所有的变量是有界的。通过使用的重组和分解方案,MIBLP首先转换成其等价的单级配方,然后计算基于列和约束生成的分解算法。该解决方案的过程中,增强了投影策略,不需要相对完整的响应属性。为了保证其性能,我们证明了我们的新方法收敛到全局最优解在有限的迭代次数。通过对随机实例和分层供应链计划实例的大规模计算研究,验证了算法的有效性。
2018-07-02 math.OC
Graph-Based Modeling and Decomposition of Hierarchical Optimization Problems
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);CMCC Foundation - Euro-Mediterranean Center on Climate Change(欧洲地中海气候变化中心基金会);RFF-CMCC European Institute on Economic and the Environment(经济与欧洲环境研究所);National Renewable Energy Laboratory(美国国家可再生能源实验室);Southern Methodist University(南方卫理公会大学);Princeton University(普林斯顿大学);Argonne National Laboratory(阿贡国家实验室)
本文提出了一种基于图的Benders分解框架,用于解决分层优化问题,通过图抽象实现复杂结构的分解与近似。
2026-01-16 math.OC
Accelerating Stochastic Energy System Optimization Models: Temporally Split Benders Decomposition
针对小时级分辨率随机容量扩展规划问题求解耗时的问题,提出时间分裂的Benders分解方法,通过重构储能约束实现时间并行优化,使计算时间最多减少80%以上。
2025-08-14 math.OC
Partial Lagrange Multiplier Expressions and Disjunctive Decompositions for Bilevel Optimization
University of California, San Diego(加州大学圣迭戈分校);University of Victoria(维多利亚大学);Shanghai Jiao Tong University(上海交通大学)
本文提出利用偏拉格朗日乘子表达式将双层优化问题转化为离散问题,并通过多项式优化技术高效求解,同时提供全局最优性和局部最优性的判定条件。
2026-02-26 math.OC
A Decomposition Method by Interaction Prediction for the Optimization of Maintenance Scheduling
优化检修计划是提高水电厂运行性能的重要问题。我们研究同一个家庭的几个物理组件的系统:无论是一套涡轮机,一套Transformers或一套发电机。这些组件共享一个共同的备件库存,并根据已知的故障分布经历随机故障。我们寻求一个确定性的预防性维护策略,最大限度地减少预期成本取决于维护和强制停机的系统。利用辅助问题原理将原大规模最优化问题分解为一系列独立的、维数较小的子问题,同时保证子问题之间的协调。每个子问题包括在优化维护一个单一的组成部分。分解协调技术是基于变分技术,但维修最优化问题是一个混合整数问题。因此,我们放松了系统的动力学和费用函数。所得到的算法迭代求解松弛系统上的子问题与黑箱方法和协调的组件。松弛因子对优化有重要影响,必须适当选择。一个可接受的维修策略,然后来自松弛问题的解决方案。我们将分解算法应用于一个有80个组件的系统。它优于直接应用于原始问题的参考黑盒方法。
2021-05-06 math.OC
Stochastic Decomposition Method for Two-Stage Distributionally Robust Optimization
针对两阶段分布鲁棒线性规划(2-DRLP)模型,提出了一种基于序贯抽样的算法。2-DRLP模型被定义在具有离散或连续概率分布的模糊度集合的一般类上。该算法是Higle和Sen(Math. of OR 16(3),650-669,1991)的用于两阶段随机线性规划的众所周知的随机分解算法的分布鲁棒版本。我们称之为分布式鲁棒随机分解(DRSD)方法的算法。该算法的主要特点包括:(1)它与模糊集的数据驱动近似一起工作,这些模糊集是使用大小不断增加的样本构建的;(2)在每次迭代中仅解决两个第二阶段子问题的最坏情况期望函数的近似的有效构建。我们确定的条件下,模糊度集近似收敛到真正的模糊度集,并表明DRSD方法渐近确定一个最优解,概率为1。我们还计算评估的DRSD方法的性能,用于解决分布鲁棒版本的实例考虑在随机规划文献。数值结果证实了DRSD方法的分析行为,并说明了计算优势,基于外部采样的分解方法(分布鲁棒L形方法)。
2020-11-17 math.OC
Distributed optimization decomposition for joint economic dispatch and frequency regulation
经济调度和频率调节通常被视为电力系统中根本不同的问题,因此通常被单独研究。在本文中,我们框架和研究的联合问题,共同优化慢时间尺度的经济调度资源和快时间尺度的频率调节资源。我们展示了如何将联合问题分解为慢和快的时间尺度子问题,而不损失最优性,这些子问题分别具有吸引人的解释,如经济调度和频率调节问题。我们使用分布式频率控制算法来解决快速时标子问题,该算法在瞬态过程中保持网络的稳定性。我们解决了慢时间尺度子问题,使用一个有效的市场机制,协调与快时间尺度子问题。我们研究的IEEE 24节点可靠性测试系统的分解的性能。
2016-05-25 math.OC
BROJA-2PID: A robust estimator for bivariate partial information decomposition
Makkeh、Theis和Vicente在[8]中发现,锥规划模型对于计算Bertschinger等人的部分信息分解(BROJA PID)度量[1]是最鲁棒的。我们开发了一个生产质量强大的软件,计算BROJA PID措施的基础上锥规划模型。本文证明了锥规划的强对偶性,并证明了锥规划与原凸问题的等价性。然后详细描述我们的软件以及如何使用它。\newline \indent
2018-02-07 math.OC
A Decomposition Based Approach for Solving a General Bilevel Linear Programming
双层优化在决策过程中有着广泛的应用。然而,仍然缺乏一个有效的算法来确定一个双层最优化问题的最优解,特别是对于一个大规模的问题。针对这一问题,提出了一种求解一般双层线性规划(GBLP)的分解算法。在大型测试系统上的仿真结果验证了该方法的正确性和有效性。
2016-05-17 math.OC
Multistage stochastic optimization of a mono-site hydrogen infrastructure by decomposition techniques
本文针对光伏、PPA和电网混合供电的单站点氢能基础设施,建立多阶段随机优化模型,并用拉格朗日对偶分解方法求解,数值实验验证了方法有效性。
2024-07-01 math.OC
A Decomposition Method for Distributionally-Robust Two-stage Stochastic Mixed-integer Cone Programs
给出了分布鲁棒两阶段随机混合整数凸锥规划的一个分解算法,并给出了分布鲁棒两阶段随机混合整数二阶锥规划的一个重要特例.这推广了Sen和Sherali~[数学规划106(2):203-223,2006]提出的算法。我们表明,所提出的算法是收敛的,如果第二阶段的问题解决到最优的现任第一阶段的解决方案,并解决一个最优化问题,以确定最坏情况下的概率分布是可用的。第二阶段的问题可以使用分支切割算法来解决。最后给出了分解算法的实例。对设施定位问题的随机规划推广的计算结果表明,所提出的方法显着的解决方案的时间改善。许多模型的解决方案是棘手的广泛形式制定成为可能。计算结果表明,解决方案的时间要求并没有显着增加时,考虑分布鲁棒对应的随机规划模型。
2019-11-20 math.OC
Distributed Robustness Analysis of Interconnected Uncertain Systems Using Chordal Decomposition
大规模关联不确定性系统通常具有较大的状态维数和不确定维数。除了解决集中式鲁棒稳定性分析技术的沉重计算成本外,网络中的隐私要求也会带来进一步的问题。在本文中,我们利用IQC分析分析大型互联不确定性系统,我们回避这些问题,通过描述一个分解方案,是基于系统的互连结构。该方案是基于所谓的弦分解,并没有增加任何保守性的分析方法。分解后的问题可以使用分布式计算算法来解决,而不需要一个集中的计算单元。我们进一步讨论了所提出的分析方法的优点,使用数值实验。
2014-02-10 math.OC
A Relax-and-Decomposition Algorithm for a p-Robust Hub Location Problem
本文将一个非线性p-鲁棒枢纽定位问题推广到风险环境中,其中采用了带有最小-最大遗憾形式的增广机会约束,将网络风险作为目标之一.该模型考虑了安全、空气污染和拥堵等风险因素,以设计鲁棒的枢纽网络。一个基于蒙特卡罗模拟的算法,即,一个样本平均近似方案被应用到选择一组有效的方案。然后,使用一种新的松弛和分解启发式的基础上耦合的加速Benders分解与拉格朗日松弛法的问题得到解决。为了改善分解机制,多帕累托切割版本中所提出的算法。在我们的数值试验中,修改了著名的CAB数据集,使用不同程度的参数不确定性。结果表明,所提出的模型设计一个强大的网络的能力。我们还验证了样本平均近似方法的准确性。最后,将该算法在不同情况下的求解结果与其他求解方法进行了比较,验证了该算法的有效性。
2017-01-31 math.OC
Residuals-Based Contextual Distributionally Robust Optimization with Decision-Dependent Uncertainty: Theoretical Guarantees and Decomposition Algorithm
The Ohio State University(俄亥俄州立大学)
本文提出了一种基于残差的分布鲁棒优化模型,考虑了不确定性依赖于协变量信息和决策的情况,通过参数和非参数回归模型学习决策依赖性,并利用经验残差构建名义分布,利用Wasserstein距离定义模糊集,提供满足渐近最优性、收敛速度和有限样本保证的条件,并开发了专用的Bender分解算法求解模型。
2026-05-19 math.OC
Adaptive directional decomposition methods for nonconvex constrained optimization
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
本文针对带等式和不等式约束的非凸优化问题,提出基于分解策略与自适应参数更新的一阶算法框架,并在确定性与随机情形下分别建立了达到或优于现有水平的迭代复杂度和oracle复杂度界。
2025-11-07 math.OC
An inexact perturbed path-following method for Lagrangian decomposition in large-scale separable convex optimization
本文在拉格朗日对偶分解的框架下,提出了一种求解大规模结构凸优化问题的不精确扰动路径跟踪算法。与文献中考虑的确切版本不同,我们允许一个解决原始问题不精确到一个给定的精度。不精确扰动算法允许使用近似黑塞矩阵和近似梯度向量来计算对偶问题的牛顿型方向。该算法分为两个阶段。第一阶段利用不精确扰动阻尼牛顿型迭代计算初始点,而第二阶段利用不精确扰动全步牛顿型迭代执行路径跟踪算法。我们分析了这两个阶段的收敛性,并估计了最坏情况下的复杂度。作为一种特殊情况,导出了拉格朗日松弛的精确路径跟踪算法,并估计了其最坏情况的复杂度。该变体与先前已知的方法相比具有一些差异。实施细节进行了讨论和数值结果报告。
2011-09-15 math.OC
Improved Dual Decomposition Based Optimization for DSL Dynamic Spectrum Management
动态频谱管理(DSM)已被公认为是显著提高数字用户线(DSL)宽带接入网性能的关键技术。DSM的基本概念是协调多条DSL线路上的传输,以减轻它们之间串扰干扰的影响。针对DSM中的非凸最优化问题,已经提出了许多算法,几乎所有算法都依赖于标准的基于次梯度的对偶分解方法。然而,在实践中,这种方法经常被发现导致极其缓慢的收敛或甚至根本不收敛,原因之一是步长参数的非常困难的调整。在本文中,我们提出了一种新的改进的对偶分解方法的启发,在数学规划的最新进展。它使用了一个平滑技术的拉格朗日结合最佳梯度为基础的计划更新拉格朗日乘子。此外,最佳地选择步长参数,从而消除了对调谐策略的需要。通过这种方法,我们展示了如何收敛的当前国家的最先进的DSM算法的基础上迭代凸逼近(SCALE,CA-DSB)可以提高一个数量级。此外,我们将改进的对偶分解方法应用于其他DSM算法(OSB,ISB,ASB,(MS)-DSB,MIW),并提出进一步的改进,以获得快速和鲁棒的DSM算法。最后,我们证明了一些现实的多用户DSL场景的改进的对偶分解方法的有效性。
2013-02-13 math.OC
A Lagrangian Decomposition Algorithm for Robust Green Transportation Location Problem
研究了需求参数不确定的绿色交通定位问题。鲁棒性的增加影响了运送货物和产品的卡车数量,从而使空气污染加剧。本文介绍了两种以需求为主要不确定性参数的绿色方法。这些方法旨在提供使用可用卡车和购买新的混合动力卡车之间的权衡,以评估除空气污染外的总成本。由于日益增长的复杂性,拉格朗日分解算法被应用到找到一个紧密的下界为每种方法。在该算法中,主模型被分解成主问题和子问题,以加快收敛与紧密的差距。最后,建议的算法进行了比较,商业求解器的总成本和计算时间。由于所提出的方法的计算结果,拉格朗日分解算法提供了一个接近的下界在更少的时间比商业求解器。
2019-01-05 math.OC
Dual decomposition for multi-agent distributed optimization with coupling constraints
我们研究分布式优化在一个合作的多代理设置,其中代理必须同意共享资源的使用,并可以通过一个随时间变化的网络,以达到这一目的。每个代理都有自己的决策变量,这些变量应该被设置为使其受局部约束的个体目标函数最小化。资源共享是通过耦合约束,涉及代理的个人功能,每个依赖于一个单一的代理的决策变量的总和的非正性建模。我们提出了一种新的分布式算法,以最小化受局部和耦合约束的代理的目标函数的总和,其中对偶分解和邻近最小化相结合的迭代方案。值得注意的是,信息的隐私得到保证,因为只有与耦合约束相关联的对偶优化变量由代理交换。在凸性假设下,结合适当的连通性的通信网络的属性,我们能够证明,代理达成共识的一些最优解的集中式对偶问题对应,而原始变量收敛到集中式原始问题的优化器集。所提出的方法的有效性证明了在一个插件的电动汽车充电问题。
2017-04-19 math.OC
Optimization Landscape of Tucker Decomposition
Duke University(杜克大学)
Tucker分解是许多数据分析和机器学习应用的流行技术。寻找Tucker分解是一个非凸优化问题。随着问题规模的增加,局部搜索算法如随机梯度下降在实际中变得流行。在本文中,我们描述了Tucker分解问题的优化景观。特别是,我们表明,如果张量有一个确切的Tucker分解,对于一个标准的非凸目标的Tucker分解,所有的局部极小值也是全局最优的。我们还给出了一个局部搜索算法,可以找到一个近似的局部(和全局)最优解在多项式时间。
2020-06-29 cs.DS cs.LG math.OC
Black-Box Approximation and Optimization with Hierarchical Tucker Decomposition
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Artificial Intelligence Research Institute (AIRI)(人工智能研究院(AIRI))
提出基于层级 Tucker 分解与 MaxVol 索引选择的黑盒逼近及无梯度优化方法 HTBB,在高达 1000 维的 14 个复杂问题上鲁棒且精度优于经典方法和张量列分解方法。
2024-02-05 cs.LG math.OC
From PDEs constrained optimization to controllability problems via time domain decomposition
Université de Pau et des Pays de l’Adour(波尔多大学);Lund University(隆德大学)
本文通过时域分解方法解决偏微分方程约束优化和可控性问题,证明两者在应用时域分解后具有相同的收敛行为,并通过数值实验验证了理论结果。
2026-05-21 cs.NA math.NA math.OC
Decomposition of Difficulties in Complex Optimization Problems Using a Bilevel Approach
本文提出一种基于双层优化的分解策略,将复杂优化问题中的不同困难分层处理,使进化算法与经典数学规划方法协同工作,并在多种测试问题上验证了其优势。
2024-07-03 cs.NE math.OC
A Generating Polynomial Based Two-Stage Optimization Method for Tensor Rank Decomposition
Louisiana State University(路易斯安那州立大学);Xiangtan University(湘潭大学)
本文提出一种基于生成多项式的两阶段优化算法,用于求解秩不超过最大维数的三阶非对称张量分解,即使分解不唯一也能高效鲁棒地得到结果,并在理论上证明了与CP分解的等价性。
2025-11-07 cs.NA math.NA math.OC
Integrating quantum and classical computing for multi-energy system optimization using Benders decomposition
提出混合Benders分解方法,量子计算机求解整数主问题,经典计算机求解连续子问题,用于多能源系统成本最优设计,概念验证可行但当前计算时间高于纯经典方法。
2024-07-02 math.OC quant-ph
Chordal and factor-width decompositions for scalable semidefinite and polynomial optimization
半定规划和多项式优化的弦和因子宽度分解方法最近已使大型线性系和中型非线性系统的分析和控制成为可能。弦分解利用了半定规划(SDP)中半定矩阵的稀疏性,从而可以更有效地求解具有较小半定约束的等价SDP。因子宽度分解,而不是放松或加强SDP与密集的半定矩阵到更容易处理的问题,交易的可行性或最优性较低的计算复杂性。本文综述了这两种分解方法在大规模半定和多项式优化方面的最新进展,突出了它们之间的联系和区别。我们还表明,弦和因子宽度分解允许显着的计算节省了一系列的经典问题,从控制理论,和最近的问题,从机器学习。最后,我们概述了未来研究的可能方向,有可能促进高效的优化为基础的研究日益复杂的大型动力系统。
2021-07-06 cs.SY eess.SY math.DS
Decomposition of flow data via gradient-based transport optimization
我们研究了与通过变换模式的线性组合逼近给定数据相关的最优化问题。在最简单的情况下,最优化问题简化为在适当正交分解的上下文中充分研究的最小化问题。在近似中允许变换模式使得这种方法对于压缩具有传输量的数据特别有用,这在许多流应用中是普遍的。我们证明了无限维最优化问题解的存在性。对于数值实现,我们计算的成本泛函的梯度,并得出一个合适的离散时间和空间。我们证明了三个具有挑战性的数值例子的理论研究结果。
2021-07-09 cs.NA math.NA math.OC
Taking the human out of decomposition-based optimization via artificial intelligence: Part I. Learning when to decompose
University of Minnesota(明尼苏达大学)
本文提出一种图分类方法,自动判断优化问题应采用整体式还是分解式求解,并用于选择凸混合整数非线性规划的分支定界或外逼近算法,且可集成至现有求解器。
2023-10-10 cs.LG math.OC
Robust signal decompositions on the circle
Boğaziçi University(博兹达奇大学);Coordinated Science Laboratory(协调科学实验室);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究圆上分段常数函数分解为未知数量圆盘指示函数之和的问题,提出鲁棒性与自由度概念以筛选更优分解,并给出鲁棒分解的表征、生成算法及数量界限,支持智能体的运动规划与避障。
2025-07-09 cs.RO math.OC
Learning to Optimize with Dynamic Mode Decomposition
Czech Technical University in Prague(布拉格捷克理工大学);GoodAI
设计更快的优化算法越来越受到人们的关注。近年来,学会学习的方法,学会如何优化展示了非常令人鼓舞的结果。目前的方法通常不有效地包括在训练过程中的优化过程的动态。他们要么完全忽略它,要么只隐含地假设一个孤立参数的动态。在本文中,我们展示了如何利用动态模式分解方法提取信息功能的优化动态。通过使用这些功能,我们表明,我们学习的优化器更好地概括了看不见的优化问题。改进的泛化在多个任务上进行了说明,其中在一个神经网络上训练优化器可以泛化到不同的架构和不同的数据集。
2022-11-29 cs.LG math.OC
Convergence Analysis of Dual Decomposition Algorithm in Distributed Optimization: Asynchrony and Inexactness
对偶分解广泛应用于多智能体系统的分布式优化中。在实际应用中,由于通信的不完善,如时延和丢包等,对偶分解算法需要允许异步实现。此外,计算误差也存在时,个别代理解决自己的子问题。本文分析了分布式优化中对偶分解算法在通信不精确和子问题求解不精确同时存在的情况下的收敛性。我们发现,不精确性和不精确性之间的相互作用减慢了从$\mathcal{O} ( 1 / k )$到$\mathcal{O} ( 1 / \sqrt{k} )$的收敛速度。具体地说,当步长为常数时,目标函数的值收敛到最优值的邻域,而解收敛到精确最优解的邻域。此外,在$\mathcal{O} ( 1 / \sqrt{k} )$中约束的违反减少。我们的结果推广和统一了现有的只考虑模糊性或不精确性的结果。最后通过数值模拟验证了理论分析的正确性。
2021-03-04 cs.SY eess.SY math.OC
Decomposition of arrow type positive semidefinite matrices with application to topology optimization
Kojima等人最近使用了弦稀疏图矩阵的大型矩阵不等式分解。\cite{kim2011exploiting}用于减小大规模半定优化(SDO)问题的问题大小,从而提高标准SDO软件的效率。这种分解的副产品是引入新的密集小尺寸矩阵变量。我们将证明,对于满足适当假设的箭型矩阵,附加的矩阵变量具有秩1,因此可以用相同维数的向量变量代替。这导致了标准SDO软件效率的显著提高。我们将把这种思想应用到拓扑优化问题中,将其表述为一个大规模线性半定最优化问题。数值算例表明,与原大规模问题相比,分解问题的求解速度有了很大的提高。在我们的数值例子中,分解的问题表现出线性增长的复杂性相比,超过立方增长的原始问题制定。我们还将给出一个连接我们的方法的标准理论的区域分解,并表明,额外的向量变量的结果,相应的离散Steklov-Poincaré运营商。
2019-11-21 cs.NA math.NA math.OC
Taking the human out of decomposition-based optimization via artificial intelligence: Part II. Learning to initialize
University of Minnesota(明尼苏达大学)
本文提出一种机器学习方法,通过学习代理模型优化广义Benders分解的初始化(如最优初始割数),显著减少混合整数模型预测控制问题的求解时间,并利用主动学习降低数据需求。
2023-10-10 cs.LG math.OC