Towards Time-Limited $\mathcal H_2$-Optimal Model Order Reduction
为了精确地数值求解偏微分方程,通常需要进行高阶空间离散。模型降阶(MOR)技术常用于空间离散系统的降阶,从而降低计算复杂性。一类特殊的MOR技术是$\mathcal H_2$ -最优方法,例如迭代有理Krylov子空间算法(IRKA)和相关方案。然而,这些方法用于在无限时间范围内获得良好的近似。因此,在这项工作中,我们的主要目标是讨论MOR计划的时间限制线性系。为此,我们提出了一个替代的时间有限的$\mathcal H_2$ -规范,并显示其与时间有限的Gramian。然后,我们提供了一阶最优性条件的最优降阶模型(ROM)的时间限制$\mathcal H_2$ -范数。基于这些最优性条件,我们提出了一个迭代格式,其收敛时,旨在满足这些条件近似。然后,我们分析了如何远离所获得的ROM由于所提出的算法是从满足最优性条件。我们使用各种数值例子测试所提出的迭代方案的效率,并说明新提出的迭代法可以导致更好的降阶相比,在有限的时间间隔的兴趣的无限制IRKA。
2017-12-01 math.OC
Learning-based Event-triggered MPC with Gaussian processes under terminal constraints
针对动力学未知的非线性系统,提出一种基于高斯过程与终端约束的学习型事件触发MPC方法,通过递归可行性导出事件触发条件,在保证稳定性的同时减少控制任务执行次数。
2024-01-01 math.OC
A New Sequential Optimality Condition of Cardinality-Constrained Optimization Problems and Application
本文考虑基数约束的最优化问题,并对最近流行的连续松弛变换提出了一个新的序列最优性条件。它比已有的结果更强,并且在没有任何附加假设的情况下仍然是基数约束问题的一阶必要条件。同时,我们提供了一个问题定制的弱约束规格,它可以保证新的序列条件是Mordukhovich型稳定点。另一方面,我们改进了增广拉格朗日算法的理论结果。在与现有结果相同的条件下,我们证明了该算法生成的迭代序列的任何可行聚点都满足新的序列最优性条件。此外,该算法可以收敛到Mordukhovich型(本质强)的稳定点,如果问题定制的约束规格得到满足。
2021-10-04 math.OC
Neural Event-Triggered Control with Optimal Scheduling
Research Institute of Intelligent Complex Systems, Fudan University(复旦大学智能复杂系统研究院);School of Mathematical Sciences, LMNS, and SCMS, Fudan University(复旦大学数学科学学院,LMNS和SCMS);State Key Laboratory of Medical Neurobiology and MOE Frontiers Center for Brain Science, Institutes of Brain Science, Fudan University(复旦大学脑科学研究院,医学神经生物学国家重点实验室和教育部前沿脑科学中心);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对神经控制器直接部署需消耗大量通信资源的问题,本文提出带最优调度的Neural ETC框架,含两种算法与投影操作保障稳定和最优,可在资源受限场景下减耗提效。
2025-07-19 math.OC
Smoothing Proximal Gradient Methods for Nonsmooth Sparsity Constrained Optimization: Optimality Conditions and Global Convergence
针对非光滑稀疏约束优化现有方法的局限,提出两种平滑近似梯度方法变体,证明其最优性与收敛速率理论界达到现有最优水平,且实验中SPGM-BCD性能优于现有IHT类方法。
2023-12-15 math.OC
Switching Event-Triggered Control of Nonlinear Parabolic PDE Systems via Galerkin/Neural-Network-Based Modeling Approach
本文研究受扰非线性抛物型PDE系统的切换事件触发控制,基于Galerkin和神经网络方法降维建模,提出避免Zeno行为的切换控制方案,通过将BMIs转化为LMIs求解次优控制器,仿真验证了其有效性。
2024-12-25 math.OC
Cardinality-Constrained Multi-Objective Optimization: Novel Optimality Conditions and Algorithms
针对带稀疏性约束的多目标优化问题,提出L-平稳性概念并分析其与现有最优性条件的关系,设计两种收敛性有理论保障的新算法,数值实验验证了方法有效性。
2023-04-05 math.OC
Sufficient Conditions for Feasibility and Optimality of Real-Time Optimization Schemes - II. Implementation Issues
近几十年来,基于收集的输出测量值的迭代过程优化(或“实时优化”(RTO))的想法变得越来越重要,许多RTO算法被提出、研究和开发。虽然这些方案的基本目标是在不违反任何安全关键或“硬”约束的情况下将过程驱动到其真正的最优条件,但没有用于保证这种行为的通用统一方法。在这篇由两部分组成的论文中,我们提出了一组可实现的条件,可以为任何RTO算法执行这些属性。这第二部分检查的可行性和最优性(SCFO)的充分条件的实际方面提出的第一个,并侧重于如何在实际应用中,他们可能会被强制执行的概念SCFO所需的知识是不可用的。还考虑了提高收敛速度的方法。
2013-08-13 math.OC
Data-Driven Co-Design of Event-Triggered and Sparse Control for Resource-Aware Networked Control Systems
The Hong Kong University of Science and Technology(香港科技大学);Beijing Institute of Technology(北京理工大学)
本文研究了具有未知线性动态的网络控制系统中事件触发控制(ETC)和稀疏控制(SC)的数据驱动协同设计问题,提出了一种统一的数据驱动框架,能够同时考虑有界状态和输入测量噪声以及过程噪声,并直接从数据中设计事件触发机制和稀疏控制器。
2026-05-18 math.OC
Sufficient Conditions for Feasibility and Optimality of Real-Time Optimization Schemes - I. Theoretical Foundations
基于收集的输出测量的迭代过程优化的思想,或“实时优化”(RTO),在最近几十年中已经获得了很大的突出,许多RTO算法被提出,研究和开发。虽然这些方案的基本目标是在不违反任何安全关键或“硬”约束的情况下将过程驱动到其真正的最优条件,但没有用于保证这种行为的通用统一方法。在这篇由两部分组成的论文中,我们提出了一组可实现的条件,可以为任何RTO算法执行这些属性。第一部分的工作是致力于理论背后的充分条件的可行性和最优性(SCFO),连同他们的基本实施策略。RTO算法执行的SCFO所示,如所需的几个数值例子-允许可行侧收敛到工厂的最佳算法不执行的条件会失败。
2013-08-28 math.OC
Set-valued regression and cautious suboptimization: From noisy data to optimality
针对有界噪声下的未知函数次优化问题,论文提出基于最坏情形估计的集值回归方法,给出闭式解与凸性结果及在线安全迭代算法,并证明其收敛到真实优化器。
2025-06-09 math.OC
Dual Quaternion Based Powered Descent Guidance with State-Triggered Constraints
本文提出了一种计算六自由度自由末次动力下降制导弹道的数值算法。使用单位对偶四元数表示的刚体动力学,和几个标准的路径约束的轨迹生成问题制定。我们的配方还包括一个特殊的视线约束,只在一个指定的带相对于着陆点,一个新的功能,特别是相关的地形和危险相对导航的倾斜范围内执行。我们使用新引入的状态触发的约束,制定这些范围的约束的方式,是服从实时实现。由此产生的非凸最优控制问题迭代求解为局部逼近非凸问题的凸二阶锥规划序列。每个二阶圆锥体程序使用可定制的内点方法求解器求解。还介绍了一个缩放方法和一个新的启发式技术,引导收敛过程走向动态的可行性。为了证明我们的算法的能力,两个数值案例研究。第一个研究的效果,包括倾斜范围触发视线约束的结果轨迹。第二项研究进行了蒙特卡罗分析,以评估算法的鲁棒性初始条件和实时性能。
2019-04-19 math.OC
Iterative observer-based state and parameter estimation for linear systems
针对后向输出可镇定的系统,提出了一种利用时间间隔[0,T]上的测量值进行状态和参数估计联合估计的迭代法。由于该时间间隔是固定的,因此初态中的误差可能对参数估计具有很大影响。我们建议使用来回轻推(BFN)方法估计系统的初态和BFN迭代之间的高斯-牛顿步骤估计系统参数。利用BFN方法的最优性的结果,我们表明,对于系统的斜伴随发电机,初态和参数估计最小化的输出误差成本功能是一个吸性不动点的方法。我们处理线性源估计和双线性参数估计问题。
2016-09-22 math.OC
The inverse problem of positive autoconvolution
研究用非负信号自卷积最优逼近给定非负信号的反问题,以I-散度为准则,提出基于提升技术的交替最小化迭代算法,并证明其极限点为Kuhn-Tucker点且收敛迅速。
2021-11-29 math.OC
An Iterative Problem-Driven Scenario Reduction Framework for Stochastic Optimization with Conditional Value-at-Risk
Tsinghua University(清华大学);Columbia University(哥伦比亚大学);University of Vermont(佛蒙特大学)
本文提出一种迭代问题驱动的场景缩减框架(IPDSR),将随机优化问题结构融入场景缩减过程,通过混合整数规划选择代表性场景以保留尾部风险,实验表明其最优性差距小于1%。
2025-10-17 cs.SY eess.SY math.OC
Sparsity Constrained Nonlinear Optimization: Optimality Conditions and Algorithms
本文讨论了稀疏约束下一般连续可微函数的极小化问题。我们提出并分析了几种不同的最优性标准,这些标准是基于平稳性和坐标最优性的概念。这些条件,然后使用得到三个数值算法,旨在寻找点满足最优性标准:迭代硬阈值法和贪婪和部分稀疏单纯形方法。第一个算法本质上是一个梯度投影方法,而其余两个算法是坐标下降型。研究了这些方法的理论收敛性及其与最优性条件的关系。数值算例说明了算法和结果。
2012-03-20 cs.IT math.IT math.OC
A Block-Alternating Iterative Approach for a Class of Non-Convex Optimization Problems
本文提出了一种块交替迭代方法,用于解决非凸优化问题,通过分解问题并迭代求解子问题,提高求解效率和稳定性。
2026-01-23 math.OC
Integer L-Shaped Method with Non-Supporting No-Good Optimality Cuts
University of Minnesota(明尼苏达大学)
本文提出一种改进的整数 L 形方法,通过提前终止混合整数子问题生成非支撑性 no-good 最优割,以降低割生成计算成本,并在工业案例中显著减少求解时间或最优性间隙。
2025-11-09 math.OC
Discounted semi-Markov games with incomplete information on one side
本文研究了两人零和半马尔可夫博弈问题,其中一方信息不完全,观测完全。在开始时,系统根据给定的概率分布选择游戏类型,并仅通知玩家1。在每个阶段之后,双方玩家在进入下一阶段之前都要观察所选择的动作。首先,我们证明了在期望折扣准则和最优性方程下价值函数的存在性。其次,通过价值函数的最优性方程,给出了参与人1的最优策略的存在性和迭代算法。此外,对于不知情的参与人2的最优策略,我们定义了辅助对偶对策,并构造了对偶对策中价值函数的一个新的最优性方程,这意味着参与人2在对偶对策中最优策略的存在性。最后,利用对偶对策的结果给出了原对策中参与人2的最优策略的存在性和迭代算法。
2021-07-15 math.OC math.PR
Asymptotic Optimality of the Greedy Patching Heuristic for Max TSP in Doubling Metrics
最大旅行商问题(Max~TSP)是在给定的完全赋权图中寻找一个边的总权最大的Hamilton圈。我们证明了,在边的权重是由一个度量空间的有界倍维的情况下,渐近最优解的问题可以找到简单的贪婪修补启发式。以最大权重循环覆盖为起点,该启发式算法迭代地将其循环对修补为一个,以最小化每一步的权重损失。
2022-01-11 cs.CG cs.DM cs.DS
Fixed-Endpoint Optimal Control of Bilinear Ensemble Systems
双线性系统的最优控制一直是数学控制领域的研究热点。然而,技术解决新兴的最优控制问题,涉及合奏的结构相同的双线性系统是欠发达的。在这项工作中,我们开发了一种迭代法,有效地和系统地解决这些具有挑战性的最优系综控制问题,其中的双线性系综系统表示为一个时变线性系综系统在每次迭代和最优系综控制律,然后获得由奇异值扩展的输入到状态的操作,描述的动态的线性系综系统。我们研究了迭代过程的收敛性,并给出了收敛解的最优性条件。我们还提供了实际的磁共振控制设计的例子来证明所开发的迭代法的适用性和鲁棒性。
2016-01-13 math.OC
Free-Endpoint Optimal Control of Inhomogeneous Bilinear Ensemble Systems
双线性系统的最优控制一直是数学和计算最优控制领域的研究热点。然而,有效的方法来解决新兴的最优控制问题,涉及合奏的确定性或随机双线性系统是欠发达。这些新兴的问题出现在从量子控制和分子成像到神经科学的各种应用中。在这项工作中,我们发展了一个迭代法来寻找具有自由端点条件的非齐次双线性系综系统的最优控制。其核心思想是在每次迭代时将双线性系综系统表示为时变线性系综系统,然后以迭代方式求解。我们分析了迭代过程的收敛性,并讨论了收敛解的最优性。该方法可直接用于求解一类由独立加性噪声过程驱动的随机双线性系综系统的最优控制问题。我们通过神经科学和量子控制中的实际控制设计证明了所开发的迭代法的鲁棒性和适用性。
2016-12-01 math.OC
On Finite-Step Convergence of the Non-Greedy Algorithm and Proximal Alternating Minimization Method with Extrapolation for $L_1$-Norm PCA
研究了$L_1$ -范数PCA的经典非贪婪算法(NGA)和最近提出的带外推的邻近交替最小化算法(PAMe)的有限步收敛性。它首先表明,NGA可以被解释为一个条件次梯度或交替最大化方法。通过将其视为条件次梯度,证明了在一定的满秩假设下,该算法产生的迭代点在多步迭代中是常数,当投影维数为1时,可以去掉这个假设.通过将算法视为一个交替的最大化,我们证明了目标值将是固定的后,最多$\left\lceil\frac{F^{\max}}{τ_0} \right\rceil$步骤,其中停止点满足一定的最优性条件。然后,NGA与改进的收敛性能进行了分析。结果表明,改进算法产生的迭代点在最多$\left\lceil\frac{2F^{\max}}τ \right\rceil$步后不会改变,而且如果邻近参数$τ$足够小,则停止点满足一定的最优性条件.对于PAMe,证明了当参数足够小且满足满秩假设时,符号变量经过多次迭代后仍保持不变,算法可以输出满足一定最优性条件的点.此外,如果投影矩阵相关子问题上不存在邻近项,则该改进算法产生的迭代点在最多$\left\lceil \frac{4F^{\max}}{τ(1-γ)} \right\rceil$步后不会改变,且停止点也满足一定的最优性条件,提供了与PAMe类似的假设.当投影维数为1时,可以去除满秩假设。
2023-03-22 math.OC stat.ML
Characterizing Robustness in Nonlinear Optimal Control: From Stability to Optimality
Peking University(北京大学);The Hong Kong University of Science and Technology(香港科技大学)
研究数据驱动非线性控制中模型不匹配对最优性的影响,通过理论分析表明标称最优值函数可保持闭环鲁棒稳定性,明确最优性偏差特征,给出统一计算形式和迭代算法,数值例子验证了理论及其实践可计算性。
2026-08-07 cs.SY eess.SY math.OC
Fast Iterative Solver for the Optimal Control of Time-Dependent PDEs with Crank-Nicolson Discretization in Time
在这篇文章中,我们得到了一个新的,快速的,和强大的预处理迭代求解策略的所有一次解决最优控制问题的不定常偏微分方程作为约束,包括热方程和非定常对流-扩散方程。在应用优化然后离散化的方法后,人们面临着由偏微分方程的耦合系统组成的连续的一阶最优性条件。相对于大多数工作中预处理的离散化系统,其中(一阶精度)向后欧拉法用于离散化的时间导数,我们采用(二阶精度)曲柄-尼科尔森方法的时间。我们应用一个精心定制的可逆变换对称化的矩阵,然后推导出一个最佳的预条件子的鞍点系统。这个预条件的关键组成部分是一个准确的质量矩阵近似,一个很好的近似Schur补,和一个适当的多重网格过程,以适用于后者的近似-这些都是使用我们的工作在变换矩阵系统。我们证明了最优的近似Schur补通过边界上的特征值,并测试我们的求解器对广泛使用的预条件的线性系所产生的向后欧拉离散。这些都证明了我们的求解器的有效性和鲁棒性的网格大小,正则化参数和扩散系数。
2020-07-16 cs.NA math.NA math.OC
Constrained Optimization Involving Nonconvex $\ell_p$ Norms: Optimality Conditions, Algorithm and Convergence
ShanghaiTech University(上海科技大学);University of Washington(华盛顿大学);Beihang University(北京航空航天大学)
本文研究了含有变量的$0<p<1$范数($\ell_p$ norm)的约束最优化问题的局部极小值的最优性条件,该范数既可以出现在目标中,也可以出现在约束中.由于$\ell_p$范数通常能促进稀疏解的产生,这类问题具有很强的适用性。然而,$\ell_p$范数的非光滑性和非Lipschtiz性往往导致这些问题难以分析和解决。我们提供了计算的次梯度的$\ell_p$规范和正规锥的$\ell_p$球。对于这两个问题,在各种约束规格下,我们导出了一阶必要条件。我们还推导了这两个问题的序列最优性条件,并研究了这些条件隐含的一阶必要条件的条件。我们指出,序列最优性条件可以很容易地满足迭代重加权算法,并表明,整体收敛可以很容易地推导出使用序列最优性条件。
2022-02-15 cs.IT cs.LG math.IT
Optimal Remote State Estimation for Self-Propelled Particle Models
研究了自推进粒子(SPP)远程状态估计系统的设计。我们的框架包括一个传感单元,访问完整的状态的SPP和一个估计,是远程定位的传感单元。当感测单元选择向估计器发送关于SPP的状态的信息时,感测单元必须支付成本;并且估计器基于接收到的信息计算SPP的状态的最佳估计。在本文中,我们提供的方法来设计传输策略和估计规则的传感单元和估计器,分别是最佳的一个给定的成本功能,结合状态估计失真和通信成本。我们考虑两个最优性的概念:联合最优性和个人最优性。我们的主要结果表明存在一个联合最优解,并描述了一个迭代过程,找到一个人的人的最优解。此外,我们解释了如何远程估计计划可以应用到跟踪动物运动的昂贵的通信链路。我们也提供了实验结果,以显示该计划的有效性。
2016-03-16 math.OC
A time adaptive optimal control approach for 4D-var data assimilation problems governed by parabolic PDEs
本文将抛物型PDE的4D-Var数据同化视为最优控制问题,通过仅含伴随状态的椭圆型PDE直接求解最优性条件,并基于后验误差估计构建时间自适应网格以选择测量时刻。
2024-07-30 math.OC
Iterative graph lifting for automatic design of path-complete stability certificates
UCLouvain(天主教鲁汶大学)
提出一种迭代图提升算法,通过图论分析优化条件并识别瓶颈节点,自动细化路径完备图以逼近切换线性系统的联合谱半径,实验证明优于现有方法。
2026-09-11 math.OC
The Complexity of Large-scale Convex Programming under a Linear Optimization Oracle
本文研究了一类求解大规模凸规划(CP)问题的迭代优化算法,称为基于线性优化的凸规划(LCP)方法。LCP方法,涵盖了经典的条件梯度(CG)方法(又名,Frank-Wolfe方法作为一种特殊情况,每次迭代只能求解一个线性最优化子问题。在本文中,我们首先建立了一系列的低复杂性界的LCP方法来解决不同类型的CP问题,包括光滑,非光滑和某些鞍点问题。然后,我们正式建立理论上的最优性或近似最优性,在大规模的情况下,CG方法及其变体来解决不同类别的CP问题。我们还介绍了几个新的最佳LCP方法,通过适当修改Nesterov的加速梯度法,并证明其可能的优势,经典CG解决某些类的大规模CP问题。
2014-06-27 math.OC
Asymptotic Optimality of Myopic Ranking and Selection Procedures
Nanyang Technological University(南洋理工大学);City University of Hong Kong(香港城市大学);University of Tennessee-Knoxville(田纳西大学诺克斯维尔分校)
排序和选择(R&S)是研究离散事件动态系统的一个流行模型。它的目的是从有限集合中选择最佳设计(具有最大平均性能的设计),其中每个设计的平均值是未知的,并且必须通过样本学习。大量的研究工作已经致力于这个问题在文献中开发的程序具有优越的经验性能,并显示其最优性。在这些努力中,近视手术很受欢迎。他们选择最好的设计使用一个“天真”的机制,迭代和近视改善的近似的客观措施。虽然他们是基于简单的数学和缺乏理论支持,他们被证明是非常有效的,往往取得了竞争力的经验表现相比,后来提出的程序,并被证明是渐近最优的。在本文中,我们从理论上分析了这些短视的程序,并证明了他们也满足R&S的最优性条件,就像其他流行的R&S方法。它解释了近视程序在各种数值测试中的良好性能,并提供了对高效R&S程序的结构和理论发展的深入了解。
2022-11-27 cs.LG math.OC stat.ML
Feedback maximum principle for ensemble control of local continuity equations. An application to supervised machine learning
考虑了概率测度空间上局部连续方程组的最优控制问题。这样的系统可以被看作是非相互作用粒子或同型个体的集合的宏观模型,代表几个不同的“种群”。对于所述的问题,我们提出了一个必要的最优性条件,其中包括反馈控制固有的极值结构,通过标准庞特里亚金的最大值原理条件设计。这个最优性条件允许实现为最优控制的迭代算法。作为一个激励案例,我们讨论了推导出的最优性条件和随之而来的数值方法在通过动态系统进行监督机器学习问题中的应用。
2021-05-10 math-ph math.MP math.OC
Stochastic Optimal Control for Jump Diffusion Models with Singular Drifts
University of Yaounde I(雅温得第一大学);University of Bamenda(班达大学);University of Liverpool(利物浦大学)
本文研究了具有分段Lipschitz连续漂移系数和阈值诱导不连续性的跳跃扩散系统的随机最优控制问题,提出了一种结合Sobolev型表示、光滑近似和Ekeland变分原理的方法,用于解决此类控制问题的最优条件,并应用于保险公司的最优保费调整和储备管理政策。
2026-11-05 math.OC
Distributed and Asynchronous Algorithms for N-block Convex Optimization with Coupling Constraints
本文首先提出了一种N块PCPM算法来求解同时具有线性和非线性约束的N块凸优化问题,并证明了算法的整体收敛性。数值实验表明,在强二阶最优性条件下,该方法具有线性收敛速率。其次,以线性约束N块凸优化问题为出发点,提出了一种异步N块PCPM算法。数值结果表明,在有界时滞假设下,该方法具有亚线性收敛速率,并且比同步迭代法具有更快的收敛速度,只需更多的短时迭代。
2021-03-25 math.OC
Optimal Control of Convection-Cooling and Numerical Implementation
本文研究了通过对稳态扩散-对流模型描述的不可压缩速度场进行主动控制来增强对流冷却的问题。这实质上导致了双线性最优控制问题。给出了最优控制存在性的严格证明,并利用变分不等式导出了求解该控制的一阶最优性条件。此外,还建立了刻画局部极小的二阶充分条件。最后,利用有限元方法与非线性迭代格式进行数值实验,以证明和验证我们的控制设计的有效性。
2021-03-23 math.OC
Nonconvex and Nonsmooth Sparse Optimization via Adaptively Iterative Reweighted Methods
ShanghaiTech University(上海科技大学);Shenzhen University(深圳大学);University of Chinese Academy of Sciences(中国科学院大学);Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences(中国科学院上海微系统与信息技术研究所)
我们提出了一个具有凸集约束的非凸和非光滑稀疏优化问题的一般形式,它可以考虑大多数现有类型的非凸稀疏诱导项,具有很强的适用性,以广泛的应用。我们设计了一个通用的算法框架,迭代重加权算法求解所提出的非凸和非光滑稀疏优化问题,解决了一系列加权凸正则化问题的自适应更新的权重。一阶最优性条件的推导和全局收敛性的结果提供宽松的假设下,使我们的理论结果分析家庭的各种加权算法的实用工具。我们提出的配方和算法的有效性和效率在各种稀疏优化问题的数值实验中得到了证明。
2021-08-20 cs.IT cs.LG math.IT
A modified MSA for stochastic control problems
经典的逐次逼近法(MSA)是求解随机控制问题的一种迭代法,它是由庞特里亚金最优性原理导出的。已知MSA可能无法收敛。本文通过对倒向随机微分方程(Besides)的精确估计,提出了一种改进的MSA算法。这种修改后的MSA收敛一般随机控制问题的漂移和扩散系数的控制。在一些附加的假设下,示出了收敛的收敛速率。与基于正倒向随机微分方程理论的迭代法相比,结果是有效的,不受控制问题的时间范围的限制。
2020-11-17 math.OC math.PR
Non-Iterative Solution for Coordinated Optimal Dispatch via Equivalent Projection-Part I: Theory
针对分层电力系统传统迭代协调方法收敛慢、易振荡发散且难以处理多级优化的问题,提出等价投影(EP)理论,使子系统模型外部等价,并构建非迭代协调框架,保证与联合优化同等最优性,同时避免迭代、保护隐私并兼容实际调度。
2023-02-26 cs.SY eess.SY math.OC
Constrained Stochastic Optimal Control with a Baseline Performance Guarantee
在本文中,我们展示了如何模拟马尔可夫决策过程(MDP)建立的所谓的\emph{baseline}政策,可以用来计算一个不同的政策,即\emph{simulated optimal}政策,该政策的性能保证是优于在真实环境中的基线政策。这项技术在新闻推荐系统、医疗诊断和数字在线营销等领域有着广泛的应用。我们所提出的算法迭代地解决了一个“好”的政策,在模拟的MDP在离线设置。此外,我们提供了所提出的算法产生的控制策略的次最优性能界。
2014-10-10 math.OC
An iterative exact algorithm for the weighted fair sequences problem
在这项工作中,我们提出了一个新的迭代精确解算法的加权公平序列问题,这是一个最近推出的NP-难排序问题,在不同的领域,如电视广告调度,定期机器维护和实时调度的应用。在这个问题中,我们给出了一个允许解序列长度的上界和一个符号列表。对于每个符号,有一个正的权重和一个数字,它给出了符号在可行解序列中必须出现的最小次数。目标是找到一个可行的序列,其最小化最大权重-距离乘积,该最大权重-距离乘积是针对序列中每个符号的每次连续出现计算的,包括序列中的最后一次和第一次出现,即,对于目标函数的计算,该序列被认为是循环的。我们提出的解决方案算法是基于一个新的混合整数规划模型的问题,为一个固定的序列长度。该模型增强了有效的不等式和变量固定。我们还开发了一个扩展的模型,它允许定义一个额外的一组有效的不等式,并提出额外的结果,可以让我们跳过一些序列长度的混合整数规划的解决方案。我们进行了计算研究的情况下,从文献中评估我们新提出的解决方案的方法的效率。我们的方法在给定的时间限制内成功地解决了440个实例中的404个,其中大多数在5分钟内。以前的最佳现有解决方案的方法只设法解决229这些情况下,其准确性取决于一个未经证实的猜想。此外,我们的方法比现有的最佳解决方案方法快两个数量级。
2021-08-06 math.OC
Robust finite element solvers for distributed hyperbolic optimal control problems
本文研究双曲型分布式跟踪最优控制的时空有限元离散,提出对 $L^2$ 与能量正则化均鲁棒的并行迭代求解器,并推广至自适应网格下的可变正则化参数。
2024-04-04 cs.NA math.NA math.OC
Self-Supervised Learning of Iterative Solvers for Constrained Optimization
Chair of Process Automation Systems, TU Dortmund University(过程自动化系统教授会,杜伊斯堡-艾森大学)
提出一种基于学习的迭代求解器,通过神经网络预测初始解并用学习型迭代器精炼,利用KKT条件设计损失函数实现自监督训练,在非凸问题上比IPOPT快一个数量级且精度更高。
2026-06-16 cs.LG math.OC
Global Optimality Characterizations and Algorithms for Minimizing Quartically-Regularized Third-Order Taylor Polynomials
University of Oxford(牛津大学)
研究最小化四次正则化三阶泰勒多项式问题,通过建立全局最优性条件,开发对角张量方法(DTM),证明其收敛性及复杂度,在特殊结构问题上性能优越,为优化问题提供了新算法和理论依据。
2026-07-23 cs.NA math.NA math.OC
Alignment of large language models with constrained learning
University of Pennsylvania(宾夕法尼亚大学);Amazon(亚马逊);University of Tennessee, Knoxville(田纳西大学诺克斯维尔分校)
本文提出了一种基于拉格朗日对偶性的迭代对偶对齐方法,用于在满足约束条件下优化大语言模型策略,通过实验验证了其在受限对齐问题中的有效性。
2025-11-26 cs.LG cs.SY eess.SY
On Adapting Nesterov's Scheme to Accelerate Iterative Methods for Linear Problems
Nesterov提出的加速凸优化问题梯度下降的著名方案被用于加速线性系的稳态迭代求解器。与经典的Krylov子空间加速方法相比,该方案需要更多的迭代,但它是微不足道的实现,并保持基本上相同的计算成本的非加速方法。在定常迭代矩阵只有实特征值的情况下,仅根据最小和最大特征值,导出了固定最优参数的显式公式。固定的参数,和相应的收敛因子,保持其最优性时,迭代矩阵也有复杂的特征值,包含在一个明确定义的磁盘中的复平面。与基于最小和最大实特征值的相同信息的切比雪夫加速(称为受限信息切比雪夫加速)的比较表明,Nesterov的方案在迭代矩阵确实具有一些复特征值时在更大的域上保持最优的意义上更鲁棒。数值试验验证了该格式的有效性。这一工作推广和推广了[1,引理3.1和3.2及定理3.3]的结果。
2021-08-08 cs.NA math.NA math.OC
Maximum-Likelihood Quantum State Tomography by Cover's Method with Non-Asymptotic Analysis
我们提出了一种计算量子态层析成像中极大似然估计的迭代算法。该算法的优化误差以$O ( ( 1 / k ) \log D )$速率收敛到零,其中$k$表示迭代次数,$D$表示量子态的维数。该算法的每次迭代计算复杂度为$O ( D ^ 3 + N D ^2 )$,其中$N$表示测量结果的数量。该算法可以看作是$R ρR$方法的无参数修正[A. I.利沃夫斯基量子零差层析成像中的迭代极大似然重建。\textit{J. Opt. B: Quantum Semiclass. Opt.} 2004] [G. Molina-Terriza等人,Triggered qutrits for quantum communication protocols。\textit{Phys. Rev. Lett.} 2004.]。
2021-10-02 cs.IT math.IT math.OC
Support Vector Machines with the Hard-Margin Loss: Optimal Training via Combinatorial Benders' Cuts
Pontifical Catholic University of Rio de Janeiro(里约热内卢天主教大学);Technical University of Munich(慕尼黑工业大学);Polytechnique Montréal(蒙特利尔理工学院)
传统的铰链损失支持向量机(SVMs)模型由于其损失函数的无界性而对离群观测值敏感。为了避免这个问题,最近的研究集中在非凸损失函数,如硬利润损失,它与任何错误分类或利润内样本的恒定惩罚。应用此损失函数为关键应用程序提供了急需的鲁棒性,但它也导致了NP-难模型,使训练变得困难,因为当前的精确优化算法显示出有限的可扩展性,而算法无法始终如一地找到高质量的解决方案。在此背景下,我们提出了新的整数规划策略,显着提高我们的能力,训练的硬利润SVM模型的全局最优。我们引入了一个迭代采样和分解的方法,其中较小的子问题被用来分离组合Benders的削减。这些切割在分支切割算法中使用,可以更快地收敛到全局最优值。通过对经典基准数据集进行广泛的数值分析,我们的解决方案算法首次解决了117个新的数据集的最优性,并实现了最难的基准数据集的平均最优性差距减少了50%。
2022-07-15 cs.LG math.OC
An Adaptive, Multivariate Partitioning Algorithm for Global Optimization of Nonconvex Programs
Clemson University(克莱姆森大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
本文提出了一种自适应多变量分区算法,用于求解具有多线性项的混合整数非线性规划问题的全局最优解,通过分段多面体松弛方法改进传统空间分支定界方法,并证明了算法的收敛性,同时通过基准问题验证了算法的有效性。
2019-02-01 cs.SY eess.SY math.OC
Learning ReLU Networks on Linearly Separable Data: Algorithm, Optimality, and Generalization
University of Minnesota(明尼苏达大学);Beijing Institute of Technology(北京理工大学);Tongji University(同济大学)
具有Rectified Linear Unit(ReLU)激活函数的神经网络(也称为ReLU网络)在各个领域取得了巨大的经验成功。尽管如此,现有的学习ReLU网络的结果要么假设底层数据分布是高斯分布,要么要求网络大小和/或训练大小足够大。在这种情况下,学习双层ReLU网络的问题是在二进制分类设置中进行的,其中数据是线性可分离的,并且采用铰链损失标准。利用随机噪声扰动的力量,本文提出了一种新的随机梯度下降(SGD)算法,该算法可以训练任何单隐藏层ReLU网络以达到全局最优,尽管存在无限多个坏的局部极小值,极大值和鞍点。这是同类结果中的第一个,不需要对数据分布,训练/网络大小或初始化进行假设。收敛到一个全局最小的迭代算法进行了分析,通过建立一个上限和一个下限的非零更新的数量进行。此外,为使用利用经典压缩边界的新型SGD训练的ReLU网络开发了泛化保证。这些保证突出了可靠学习ReLU网络和泄漏ReLU网络在样本复杂性方面的关键区别(至少在最坏的情况下)。仿真数据和实际图像的数值试验验证了算法的有效性和理论的实用价值。
2019-04-06 cs.IT cs.LG math.IT
Realization independent single time-delay dynamical model interpolation and $\mathcal{H}_2$-optimal approximation
ISAE, Onera - The French Aerospace Lab(法国航空航天实验室);Onera - The French Aerospace Lab(法国航空航天实验室)
本文重新审视了在插值模型可能具有时间延迟的情况下,无实现模型逼近问题。首先将Loewner框架扩展到单延迟情况,其次通过Lambert函数建立无限模型逼近的H₂最优条件,并提出数值有效的迭代方案dTF-IRKA以满足部分最优条件。
2015-04-24 cs.NA cs.SY eess.SY
Communication Optimality Trade-offs For Distributed Estimation
本文提出了一种适用于无中心主节点的网络化多工作机系统的$\mathbf{C}$计算高效的$\mathbf{RE}$草书$\mathbf{D}$初始估计$\mathbf{O}$ n算法$\mathcal{CREDO}$。$\mathcal{CREDO}$被设计用于工作者节点旨在使用各个工作者节点处的分布式在线时间序列数据来协作地估计感兴趣的矢量参数的场景。各个工作者节点通过吸收最新的本地感测信息和来自在(可能稀疏的)时变通信图上交换的相邻工作者节点的估计来迭代地更新它们的参数估计。底层的工作者间通信协议是自适应的,使得通信随着时间的推移而越来越(概率上)稀疏。在工人间信息交换网络和感知模型的最小条件下,工人节点处的估计序列几乎必然收敛于真实参数。进一步,本文从估计序列的渐近协方差的角度刻画了$\mathcal{CREDO}$的性能,并具体地建立了最优渐近协方差的可逼近性。分析揭示了一个有趣的算法的通信成本之间的相互作用~ $\mathcal{C}_{t}$(超过$t$时间步长)和渐近协方差。最值得注意的是,它表明,$\mathcal{CREDO}$可以被设计为实现$Θ\left(\mathcal{C}_{t}^{-2+ζ}\right)$衰减的均方误差~($ζ>0$,任意小)在每个工作节点,显着提高了现有的$ Θ\left(\mathcal{C}_{t}^{-1}\right)$率。…
2018-01-12 math.OC math.PR math.ST
A New Class of Path-Following Method for Time-Varying Optimization with Optimal Parametric Function
本文提出OP-TVO算法,通过参数函数重构时变优化问题并利用变分法优化参数函数,在最优性和计算复杂度上与PCM相当,为参数化动力学系统求解提供新范式。
2024-06-08 eess.SP math.OC
Learning to Solve Network Flow Problems via Neural Decoding
交通运输、电力系统、运筹学等工程应用中的许多决策问题都需要反复求解具有大量不同输入的大规模线性规划问题。例如,在具有高度不确定性的可再生资源的能源系统中,每隔几分钟就可能需要解决数万个场景。线性网络流问题的标准迭代算法虽然效率很高,但在这些应用中却成为一个瓶颈。在这项工作中,我们提出了一种新的学习方法来加速解决过程。通过利用LP对偶的丰富理论和经济解释,我们将神经网络的输出解释为噪声码字,其中码本由优化问题的KKT条件给出。我们提出了一个前馈解码策略,找到最佳的积极约束。这种设计是错误校正的,与当前最先进的迭代求解器相比,可以提供数量级的加速,同时与端到端学习方法相比,在可行性和最优性方面提供更好的解决方案。
2020-06-09 eess.SP math.OC
Asymptotic analysis of domain decomposition for optimal transport
大的最优输运问题可以通过区域分解来处理,即通过独立地和并行地迭代求解小的部分问题。在适当的假设下,在非正则化和熵正则化的情况下,证明了算法收敛于全局极小点,并通过实验证明了算法的计算效率.在几何设置的收敛速度的准确的理论理解仍然缺乏。在这篇文章中,我们对这样一个理解的工作,通过推导,通过$Γ$ -收敛,渐近描述的算法在无限精细分区细胞的限制。耦合的极限轨迹由积空间上的连续性方程描述,其中动量是纯水平的,并且由费用函数的梯度驱动。收敛取决于我们详细研究的规律性假设。极限轨迹的全局最优性仍然是一个有趣的开放问题,即使在有限尺度上建立全局最优性。我们的研究结果提供了见解的效率区域分解算法在有限的分辨率和结合粗到细的计划。
2021-06-15 cs.NA math.NA math.OC