A Cutting-plane Method for Semidefinite Programming with Potential Applications on Noisy Quantum Devices
本文提出基于随机割平面法的半定规划求解方法，利用特征求解器的量子加速优化凸优化问题，并在SDPLIB基准上验证其有效性与对噪声的鲁棒性。
2021-10-07 math.OC quant-ph
Successive Convexification: A Superlinearly Convergent Algorithm for Non-convex Optimal Control Problems
本文提出了一种求解非凸约束最优控制问题的连续凸化算法SCvx，该算法具有整体收敛和超线性收敛速率保证。该算法可以处理非线性动力学和非凸状态和控制约束。它通过连续线性化非凸动力学和前一次迭代解的约束来解决原问题的最优性。由此产生的凸子问题是数值上容易处理的，并且可以使用凸优化求解器快速可靠地计算，使得SCvx算法非常适合于实时应用。分析表明，该算法的全局收敛和超线性，保证i）局部最优恢复：如果收敛的解决方案是可行的，那么它也是一个局部最优; ii）强收敛：如果Kurdyka-Lojasiewicz（KL）不等式在收敛的解决方案，那么解决方案是唯一的。超线性收敛速率是通过利用最优控制问题的结构，展示了更快收敛速率，可以通过利用特定的问题属性相比，通用的非线性规划方法。针对非凸四旋翼运动规划问题进行了数值模拟，并将序列二次规划（SQP）和通用内点法（IPM）求解器的结果进行了比较。结果表明，SCvx算法的收敛速度确实是超线性的，而且SCvx算法比其他两种方法收敛次数少.
2019-02-27 math.OC
Optimistic Noise-Aware Sequential Quadratic Programming for Equality Constrained Optimization with Rank-Deficient Jacobians
本文提出一种乐观噪声感知序列二次规划算法，通过步长分解策略处理秩亏Jacobian等式约束下的含噪优化问题，并证明其收敛到稳定点邻域。
2025-03-09 math.OC
Primal-dual path-following methods and the trust-region updating strategy for linear programming with noisy data
School of Artificial Intelligence, Beijing University of Posts and Telecommunications（北京邮电大学人工智能学院）
本文研究了标准线性规划问题的原始-对偶路径跟踪方法和置信域更新策略。对于小噪声数据的秩亏问题，给出了基于列主元QR分解的预处理方法。在初始点严格原始-对偶可行的条件下，证明了新方法的整体收敛。最后，对于一些秩亏的问题，或没有小的噪声数据从NETLIB收集，我们比较它与其他两个流行的相邻点的方法，即子程序pathfollow.m和MATLAB环境中内置的子程序linprog.m。数值结果表明，对于小噪声数据的秩亏问题，新方法比其他两种方法具有更好的鲁棒性。
2021-02-22 cs.LG cs.NA math.DS
Fast Trajectory Optimization via Successive Convexification for Spacecraft Rendezvous with Integer Constraints
在本文中，我们提出了一种快速的方法，基于连续凸化生成燃料优化的航天器交会轨道的混合整数约束的存在。最近开发的状态触发约束的范例允许有效地嵌入到连续凸化的连续优化框架的离散决策约束的子集。因此，我们能够以交互式速度解决困难的轨迹最优化问题，而不是混合整数规划方法，需要更多的解决方案时间和计算能力。我们的方法被应用到实际问题的换位和对接的阿波罗指令和服务模块与登月舱。我们证明，在几秒钟内，我们能够获得比非优化的阿波罗时代设计目标高出90%的燃油效率（节省高达45公斤的燃料）的轨迹。我们的轨迹明确考虑了最小推力脉冲宽度和羽流冲击约束。这两个约束自然都是混合整数，但我们将它们作为状态触发的约束来处理。在目前的状态下，我们的算法将作为一个有用的离线设计工具，快速轨迹贸易研究。
2019-06-11 math.OC
Successive Convexification of Non-Convex Optimal Control Problems with State Constraints
本文提出了一种求解一类具有特定状态约束的非凸最优控制问题的逐次凸化（$ \texttt{SCvx} $）算法。非凸性的来源可以包括非线性动力学和非凸状态/控制约束。为了解决非凸性带来的挑战，我们首先利用精确罚函数来处理非线性动力学。然后，所提出的算法通过$ \textit{project-and-linearize} $过程连续地将问题转化。因此，有限维凸规划子问题的解决，在每一个连续的，这可以有效地完成快速内点方法（IPM）求解器。证明了整体收敛到局部最优值的某些凸性假设，这是满足广泛的最优控制问题。该算法特别适用于求解带避碰约束的轨迹规划问题。通过数值模拟，我们证明了该算法收敛可靠后，只有几个连续。因此，与强大的IPM为基础的自定义求解器，该算法可以实现板载实时自主控制应用。
2017-10-20 math.OC
A Global Solution Algorithm for AC Optimal Power Flow through Linear Constrained Quadratic Programming
本文将 ACOPF 建模为含多个负特征值的 LCQP，提出 FSLP 与 FBB 两种全局优化算法，并通过复杂度分析和 PG-lib 实验验证其大规模求解优势。
2024-06-15 math.OC
A Generalized Alternating Direction Method of Multipliers with Semi-Proximal Terms for Convex Composite Conic Programming
本文提出了一种带半邻近项的广义乘子交替方向法（ADMM），用于求解一类凸复合锥最优化问题，其中有些问题是高维的，具有中等精度.我们的主要动机是，这种方法，加上适当选择的半邻近项，如最近的对称高斯-赛德尔技术的进步所产生的，是适用于解决这些问题。此外，所提出的方法，放松原始和对偶变量在一个自然的方式与一个松弛因子的间隔$(0,2)$，有可能提高经典的ADMM的性能。对各种双非负半定规划问题，无论有无不等式约束，进行了广泛的数值实验。结果表明，所有这些多块问题都可以逐次求解，且松弛步长的优势是明显的。
2018-01-16 math.OC
A dynamic programming approach to solving constrained linear-quadratic optimal control problems
约束线性二次型调节器问题的解由其最优有效集的集合决定。我们提出了一个算法，构造这一组的活动集为所需的地平线N从地平线N-1。虽然如何将时域N-1的最优反馈律本身扩展到时域N并不明显，但存在两个连续时域长度的最优活动集之间的简单关系。具体地，如果约束是逐阶段排序的，则水平N的每个最优活动集是水平N-1的最优活动集的超集。的stagewise处理结果在一个有利的计算工作。此外，如果存在有限时域，该算法很容易检测出当前时域的解等于无限时域的解。
2019-10-24 math.OC
Successive Convexification with Feasibility Guarantee via Augmented Lagrangian for Non-Convex Optimal Control Problems
本文提出一种融合逐次凸化与增广拉格朗日法的新算法，通过对优化变量和拉格朗日乘子交替迭代，在保留SCvx优良特性的同时保证了对非凸最优控制问题可行局部解的全局收敛性。
2024-10-11 math.OC
Approximation Methods for Bilevel Programming
研究了一类内目标函数为强凸的双层规划问题。在内外目标函数的偏导数都满足一定的mile假设条件下，给出了求解这类问题的一个近似算法，并在不同的外目标函数凸性假设条件下给出了算法的有限时间收敛性分析.我们还提出了一个加速变形的这种方法，提高了收敛速率下凸性假设。此外，我们推广了我们的结果在随机设置下，只有噪音信息的两个目标函数。据我们所知，这是第一次，这样的（随机）近似算法建立迭代复杂性（样本复杂性）提供了双层规划。
2018-02-06 math.OC
Generalized Dual Dynamic Programming for Infinite Horizon Problems in Continuous State and Action Spaces
我们描述了一个非线性推广的对偶动态规划理论和它的应用价值函数估计确定性控制问题的连续状态和动作空间，在一个离散时间无限的地平线设置。我们证明，利用贝尔曼算子的单调性，一个阶段的政策评估的结果，可以用来产生非线性下界的最优值函数，是有效的整个状态空间的本德类型的参数。这些界限包含反映系统成本、动态和约束的函数形式的项。我们提供了一个迭代算法，产生连续更好的近似的最优值函数，并证明在一定的假设下，它实现了任意低的期望贝尔曼最优性公差在预先选定的点在状态空间，在有限数量的迭代。我们还描述了证明所生成的值函数的质量的方法。我们证明了系统的尺寸太大，传统的动态规划方法是实用的方法的有效性。
2018-10-04 math.OC
Penalty Methods with Stochastic Approximation for Stochastic Nonlinear Programming
本文提出了一类解随机非线性规划问题的具有随机逼近的罚方法。我们假设只有噪声梯度或目标函数的函数值是通过调用随机一阶或零阶预言。在所提出的方法的每次迭代中，我们最小化的精确罚函数，这是非光滑和非凸的，只有随机的一阶或零阶信息。随机逼近算法解决这个特殊的子问题。最坏情况下的复杂性的随机一阶（或零阶）预言的建议的惩罚方法获得一个$ε$ -随机临界点进行了分析。
2016-05-19 math.OC
Successive Convexification of Non-Convex Optimal Control Problems and Its Convergence Properties
本文提出了一种求解非凸最优控制问题的算法，其中非凸性可以由非线性动力学、非凸状态和控制约束引起。本文假设状态和控制约束已经是凸的或凸化的，所提出的算法通过线性化，以连续的方式凸化非线性动力学。因此，在每一个序列，一个凸最优控制子问题的解决。由于动力学是线性化的，其他约束是凸的，经过离散化，子问题可以表示为有限维凸规划子问题。由于凸优化问题可以非常有效地解决，特别是使用自定义求解器，因此可以在时间关键型应用中解决这个子问题，例如自动驾驶车辆的实时路径规划。算法中引入了虚拟控制和置信域等安全保护技术，增加了算法的鲁棒性。在连续时间条件下给出了收敛性分析.通过这样做，我们的收敛结果将是独立于任何用于离散化的数值方案。针对说明性轨迹优化示例执行数值模拟。
2017-05-04 math.OC
On Hybrid Quantum and Classical Computing Algorithms for Mixed-Integer Programming
量子计算正在成为一种新的计算资源，对于某些类别的最优化问题，它可能优于传统计算。然而，原则上，大多数现有的量子优化方法旨在解决无约束二进制规划问题，而混合整数线性规划在实践中最感兴趣。我们试图通过开发一种新的混合整数规划方法来弥合量子计算能力与现实世界应用之间的差距。该方法利用Benders分解将混合整数规划分解为二进制规划和线性规划两个子问题，分别用带噪声的中间规模量子处理器和常规处理器求解.该算法是可证明的，能够达到原来的混合整数规划问题的最优解。该算法在D-Wave 2000 Q量子处理单元上进行了测试，并被证明是有效的小规模测试用例。我们还测试了一个受电力系统应用启发的混合整数规划的算法。许多见解得出的数值结果的能力和所提出的算法的局限性。
2022-01-20 math.OC
Successive Convexification for Real-Time 6-DoF Powered Descent Guidance with State-Triggered Constraints
针对广义自由末时间6自由度动力下降制导问题，提出了一种实时连续凸化算法。我们建立在我们以前的工作，引入以下贡献：（一）自由点火时间的修改，允许算法来确定最佳的发动机点火时间，（二）一个易于处理的空气动力学制定模型的升力和阻力，和（iii）一个连续的状态触发的约束制定，模拟有条件地强制执行的约束。特别地，贡献（iii）有效地允许通过以父连续最优化问题的解变量为条件的if语句来启用或禁用约束。据我们所知，这代表了一种新的配方在最优控制文献，并使一些有趣的应用，包括速度触发攻角约束和范围触发视线约束。我们的算法将由此产生的广义动力下降制导问题从一个非凸的自由最终时间最优控制问题转化为一系列易处理的凸二阶锥规划子问题。借助于虚拟控制和置信域修正，这些子问题连续求解，直到收敛。使用第三方求解器的仿真表明所提出的算法的实时能力，在众多的问题特征组合的最大执行时间为小于0.7秒。
2018-11-27 math.OC
Successive Convexification for 6-DoF Mars Rocket Powered Landing with Free-Final-Time
在本文中，我们采用连续凸化解决最短时间的6自由度火箭动力着陆问题。本文的贡献是开发和演示的自由最后的时间问题制定，可以迭代解决使用连续凸化框架。本文是我们以前的工作的3自由度自由最终时间和6自由度固定最终时间最小燃料问题的扩展。在这里，车辆被建模为一个6自由度的刚体由一个单一的万向节火箭发动机控制。弹道受到各种凸的和非凸的状态和控制约束，气动力效应被假定为可以忽略不计。该问题的目标是确定最佳的推力命令，将最小化的飞行时间，同时满足上述约束。快速可靠地解决这个问题是具有挑战性的，因为（a）它是非线性和非凸的，（b）解决方案的有效性严重依赖于离散化方案的准确性，以及（c）可能难以选择合适的参考轨迹来初始化迭代求解过程。为了处理这些问题，我们的算法（a）使用连续凸化来消除非凸性，（b）计算离散线性时变系统矩阵，以确保收敛的解决方案完全满足原始的非线性动力学，和（c）可以初始化一个简单的，动态不一致的参考轨迹。使用所提出的凸公式和连续凸化框架，我们能够将原来的非凸问题转化为一系列凸二阶锥规划（SOCP）子问题。通过使用内点法（IPM）求解器，可以快速可靠地求解该序列，从而为火箭动力登陆火星提供更高保真的实时制导。
2018-02-11 math.OC
A Successive LP Approach with C-VaR Type Constraints for IMRT Optimization
放射治疗被认为是癌症的重要治疗方案之一。放射治疗使用几束电离辐射来杀死癌症肿瘤，但这种辐射也会对正常组织造成损伤。因此，治疗计划应满足剂量体积约束（DVC）。调强放射治疗（IMRT）能够控制射束强度，并为治疗计划提供更大的灵活性，以满足DVC。Romeijn等人（2003）用C-VaR（Conditional Value-at-Risk）型约束代替IMRT优化中的DVC，并提出了一种基于线性规划（LP）的数值方法。他们的方法降低了原始DVC的计算成本，但他们的LP问题的可行域比DVC窄得多，因此，他们的方法往往无法找到一个可行的计划，即使DVC不是那么紧。在本文中，我们提出了一个连续的LP方法与C-VaR型约束。我们从LP问题的解中检测出离群值，并将其从C-VaR型约束的域中移除。这降低了C-VaR类型约束对离群值的敏感性，我们可以从更广泛的区域搜索可行的计划。此外，我们可以给出一个数学证明，如果所提出的方法中的LP问题的最优值是非正的，相应的最优解满足所有的DVC。从测试数据集上的数值实验，我们观察到，我们的方法发现可行解比现有的LP方法更适当。此外，我们的方法需要较少的LP问题，这导致了较短的计算时间。
2016-12-05 math.OC
A feasible adaptive refinement algorithm for linear semi-infinite optimization
提出了一种求解线性半无限规划问题的数值方法，该方法所产生的迭代对原问题是可行的。这是通过构建一系列标准的线性规划问题的连续离散化的索引集，使近似区域包括在原来的可行域。证明了所得到的近似解收敛于原问题的解，并且所得到的近似问题的最优目标函数值是单调递减的，并收敛于LSIP的最优值.一个自适应的细化过程的设计离散的指标集和更新的近似问题的约束。数值实验验证了该算法的性能。
2021-01-25 math.OC
A Convex Optimization Approach for Finite-Thrust Time-Constrained Cooperative Rendezvous
本文提出了一种凸优化方法来解决合作交会问题，即两个相距较远的航天器同时运行以接近目标的问题。凸规划通过使用高效的数值算法，保证在有限的短时间内收敛到最优解。采用无损和连续凸化技术相结合来处理原问题的非凸性。具体地说，一个方便的变量变换和约束松弛进行，而一个连续的线性化的运动方程被用来处理的非线性动力学。为了提高算法的鲁棒性，提出了一种递归更新参考解的滤波技术。数值结果，并与间接方法提供的结果进行了比较。
2019-09-20 math.OC
Adaptive projected SOR algorithms for nonnegative quadratic programming
针对非负二次规划中 PSOR 松弛参数依赖问题的缺陷，提出基于 Wolfe 条件的自适应 PSOR 算法，在几乎不增加迭代代价的情况下达到近最优参数性能。
2024-09-09 cs.NA math.NA math.OC
Successive Convexification for Trajectory Optimization with Continuous-Time Constraint Satisfaction
提出一种仅需一阶信息的实时非凸轨迹优化框架连续凸化，结合外部惩罚、广义时间膨胀、多重打靶、$\ell_1$精确惩罚与prox-linear方法，实现连续时间约束满足并保证收敛至KKT点，在动态避障与火箭着陆中验证有效。
2024-04-25 math.OC
Convergence of Iterative Quadratic Programming for Robust Fixed-Endpoint Transfer of Bilinear Systems
提出一种基于多项式近似和零阶保持离散化的迭代二次规划计算方法，用于解决双线性系综系统的固定端点转移开环最小范数控制综合问题，并在量子控制脉冲综合中得到验证。
2024-10-11 math.OC quant-ph
Successive Convexification for Trajectory Optimization with Continuous-time Satisfaction of Signal Temporal Logic Specifications
University of Washington（华盛顿大学）
提出基于广义均值鲁棒性的逐次凸化框架，将连续时间信号时序逻辑约束转化为可微形式，结合时间缩放、控制参数化、多重打靶离散化和收敛保证的序贯凸规划求解非凸轨迹优化问题。
2026-06-05 math.OC
Noisy intermediate-scale quantum algorithm for semidefinite programming
Centre for Quantum Technologies, National University of Singapore（新加坡国立大学量子技术中心）；Imperial College London（帝国理工学院）；University of Oxford（牛津大学）；MajuLab, CNRS-UNS-NUS-NTU International Joint Research Unit（Maju实验室，法国国家科学研究中心-尼斯大学-新加坡国立大学-南洋理工大学国际联合研究单位）；National Institute of Education, Nanyang Technological University（南洋理工大学国立教育学院）
半定规划是一类凸优化问题，在控制理论、量子信息、组合优化和运筹学等领域有着广泛的应用。噪声中尺度量子（NISQ）算法旨在有效利用当前一代量子硬件。然而，优化变分量子算法是一个挑战，因为它是一个NP难题，通常需要指数时间来解决，并且可能包含许多远离最优的局部极小值。在这里，我们提出了一个目前的长期NISQ算法求解SDP。我们的NISQ求解器的经典优化程序是低维空间上的另一个SDP。我们利用基于SDP的哈密顿基态问题的公式来设计NISQ本征解算器。与变分量子本征求解器不同，本征解算器的经典优化程序是凸的，可以在多项式时间内求解，且每个局部最小值都是全局最小值。我们发现数值证据表明，NISQ SDP可以提高基态能量的估计在一个可扩展的方式。进一步，我们有效地解决了约束问题，计算了哈密顿量的激发态，找到了对称约束哈密顿量的最低能量，确定了量子态鉴别的最佳测量方法。我们证明了我们的方法的潜力，找到最大的本征值高达$2^{1000}$维矩阵和解决图形问题的量子上下文。我们还讨论了NISQ算法的秩约束的SDP。我们的工作将NISQ计算机的应用扩展到过去几十年中最成功的算法框架之一。
2023-01-28 cs.LG math.OC quant-ph
Energy efficiency optimization in MIMO interference channels: A successive pseudoconvex approximation approach
本文研究了下行链路多输入多输出多小区系统中所有用户都受到多用户干扰时的能量效率（全局和和）最优化问题。由于以下几个原因，这是一个具有挑战性的问题：1）这是一个非凸分式规划问题，2）传输速率函数由（复值）传输协方差阵表征，以及3）与处理相关的功耗可能取决于传输速率。我们解决这个问题的逐次伪凸逼近的方法，我们认为，伪凸优化在设计新的迭代算法中起着重要的作用，不仅因为每一个局部最优点的伪凸最优化问题也是全局最优的，而且还因为下降方向很容易从每一个最优点的伪凸最优化问题。所提出的算法具有以下优点：1）收敛速度快，因为在每次迭代求解的近似问题中尽可能多地保留了原最优化问题的结构; 2）易于实现，因为每个近似问题都适合并行计算，并且其解具有封闭形式的表达式; 3）保证收敛到一个稳定点或Karush-Kuhn-Tucker点。数值计算表明了该算法的优越性。
2018-02-19 eess.SP math.OC
SCvx-fast: A Superlinearly Convergent Algorithm for A Class of Non-Convex Optimal Control Problems
在本文中，我们扩展了我们以前的结果，并正式提出了SCVx快速算法，一个新的除了连续凸化算法框架。所述算法解决了具有特定类型的状态约束（即凸禁入区的并集）的非凸最优控制问题，并且比其前身SCvx收敛更快。为了保持更多的可行性，该算法采用了一种新的投影-凸化过程，将状态约束和系统动力学同时凸化，从而每次求解一个有限维的凸规划子问题.它还摆脱了对置信域的依赖，获得了采取更大步骤的能力，从而最终实现更快的收敛。延伸部分分为以下三个部分。i）我们现在可以从一个不可行的起点初始化算法，并在一个步骤中重新获得可行性; ii）我们摆脱了约束上的平滑条件，以便可以包括更广泛的“障碍”。相应地调整算法的重大变化; iii）我们得到了超线性收敛速率的证明，一个新的理论结果SCVx快速。SCvx-fast算法由于其特殊的问题设置和投影凸化过程，特别适合于求解带避碰约束的轨迹规划问题。进行了数值模拟，肯定了快速的收敛速度。通过强大的凸规划求解器，该算法可以在机载实时自主制导应用中实现。
2021-11-30 math.OC
Assessing the Performance of an Adaptive Multi-Fidelity Gaussian Process with Noisy Training Data: A Statistical Analysis
尽管增加了计算资源，但从计算的角度来看，基于仿真的设计优化（SBDO）过程可能非常昂贵，特别是如果需要高保真求解器。多保真度元模型已成功地应用于减少SBDO过程的计算成本。在这种情况下，本文提出了一个自适应多保真度元模型的基础上高斯过程回归（MF-GPR）的噪声数据的性能评估。MF-GPR被开发为：（i）管理任意数量的保真度水平，（ii）处理受噪声影响的目标函数评估，以及（iii）通过自适应采样来提高其拟合精度。多保真度是通过将低保真度元模型与连续保真度水平之间的误差的元模型桥接来实现的。MF-GPR通过回归处理数值噪声。自适应采样方法基于最大预测不确定性，并包括自动选择采样保真度的规则。MF-GPR的性能进行了评估的一组五个分析基准问题的影响，嘈杂的目标函数评价。由于噪声在目标函数的评估中引入了随机性，因此采用统计分析方法来评估MF-GPR的性能和鲁棒性。本文讨论了MF-GPR在全局逼近目标函数和识别全局极小值方面的效率和有效性。使用一个、两个和三个保真度水平。统计分析的结果表明，与使用一个或两个保真度相比，使用三个保真度水平实现了无噪声目标函数的更准确的全局表示。
2021-07-06 math.OC
Random-Subspace Sequential Quadratic Programming for Constrained Zeroth-Order Optimization
Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种结合两点方向估计与低维SQP更新的零阶随机子空间序列二次规划方法，用于解决仅能获取目标函数和约束函数评估的非线性约束优化问题，通过降低维度提升计算效率与约束满足精度。
2026-04-02 math.OC
Optimal control of continuous-time symmetric systems with unknown dynamics and noisy measurements
针对动力学未知且外部对称的连续时间线性二次型最优控制问题，提出一种全局收敛的迭代学习算法，在含噪测量下无偏且计算负担低，数值实验验证有效性。
2025-10-09 cs.SY eess.SY math.OC
On the convergence rate of the boosted Difference-of-Convex Algorithm (DCA)
Tilburg University（蒂尔堡大学）；INRIA（法国国家数字科学研究所）
本文研究了增强型差分凸算法在最坏情况下的收敛速度，证明其在特定DC分解下优于传统DCA，并通过半定规划方法提供了理论支持。
2026-02-19 math.OC
Optimal Control with Noisy Time
University of Cambridge（剑桥大学）；The Johns Hopkins University（约翰斯·霍普金斯大学）
本文研究了在状态完全已知但控制器时间度量为严格递增莱维过程导出的随机最优控制问题，通过动态规划方法解决具有噪声时间的线性二次调节器和随机交易活动率的portfolio优化问题，最优控制器为线性。
2013-12-31 cs.SY eess.SY math.OC
Linear Programming based Converses for Finite Blocklength Lossy Joint Source-Channel Coding
针对有限块长有损联合信源-信道编码问题，提出了一种基于线性规划的求解方法。该框架适用于任何损失标准，概括了某些以前已知的对话，并扩展到多终端设置。有限块长问题等价地作为一个非凸优化问题，并使用提升和投影的方法，一个封闭的，但听话的LP松弛这个问题。通过构造LP松弛对偶的可行点，得到了原问题的下界。这种方法的一个特殊应用导致新的逆，恢复和改进有限块长度有损联合信源-信道编码和有损信源编码的Kostina和Verdu的逆。对于有限块长度信道编码，LP松弛恢复了Polyanskiy，Poor和Verdu的逆，并导致了Wolfowitz逆的新改进，从而表明对于信道编码，无损信源编码和联合信源-信道编码，以过量失真概率作为损失准则，我们的LP松弛随着块长度的增加是渐近紧的。本文利用对偶理论，导出了一类信源信道对的有限块长联合信源信道编码的一个新逆。采用这种相反的，LP松弛也被证明是紧的所有块长度的预期平均符号的汉明失真的$q$ -ary均匀源的$q$-ary对称无记忆信道的任何$q \in N$的最小化。优化配方和升降机和项目的方法扩展到网络设置，并证明通过获得一个改进的周等人的逆。连续细化问题连续细化源失真测量三元组。
2017-05-03 cs.DM cs.IT math.IT
Continuation Method with the Trusty Time-stepping Scheme for Linearly Constrained Optimization with Noisy Data
带线性约束的非线性最优化问题在工程领域有着广泛的应用，如无人机保持水平飞行的视觉-惯性导航和定位等。为了有效地解决这一实际问题，本文针对线性等式约束最优化问题，在每个采样时刻构造了一种可信时间推进的延拓算法。在每次迭代中，新方法只求解一个线性方程组，而传统的最优化方法如序列二次规划（SQP）方法需要求解一个二次规划子问题。因此，新的方法可以节省更多的计算时间比SQP。数值计算结果表明，该方法能很好地解决这一问题，其计算时间约为SQP（MATLAB 2018 a环境的内置子程序fmincon.m）或传统动力学方法（MATLAB 2018 a环境的内置子程序ode 15 s. m）的五分之一.此外，我们还对新方法进行了整体收敛分析。
2020-10-31 cs.NA cs.SY eess.SY
Stability and Generalization of Bilevel Programming in Hyperparameter Optimization
Shandong University（山东大学）；Renmin University of China（中国人民大学）；Tsinghua University（清华大学）；Huawei（华为）
（基于梯度的）双层规划框架被广泛用于超参数优化，并取得了优异的性能经验。以往的理论工作主要集中在它的优化性能，而离开的分析，在很大程度上开放的推广。本文试图解决这个问题，提出了一个期望约束w.r.t.基于一致稳定性的验证集。我们的结果可以解释一些神秘的行为的双层规划在实践中，例如，过拟合的验证集。我们还提出了一个期望界的经典交叉验证算法。我们的研究结果表明，基于梯度的算法可以比交叉验证在一定条件下，在理论上的角度。此外，我们证明了在外部和内部水平的正则化项可以缓解基于梯度的算法中的过拟合问题。在对噪声标签的特征学习和数据重新加权的实验中，我们证实了我们的理论发现。
2021-10-23 cs.LG math.OC
GPU-Accelerated Continuous-Time Successive Convexification for Contact-Implicit Legged Locomotion
University of Washington（华盛顿大学）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）
本文提出了一种基于连续时间递进凸优化的接触隐式腿部运动方法，通过引入积分互补性约束消除接触事件丢失风险，提升求解效率，实现更灵活的接触模式切换。
2026-04-11 cs.RO math.OC
Rank-one Boolean tensor factorization and the multilinear polytope
本文研究秩一布尔张量分解这一NP难问题，利用多线性多面体的面结构提出新的线性规划松弛，并给出确定性及高概率恢复保证，证明特定面可显著提升恢复性能。
2024-05-02 cs.DM math.OC
A New Distributed DC-Programming Method and its Applications
我们提出了一种新的分解框架的分布式优化的差异凸（DC）型不可分的和效用函数的耦合凸约束。本文的一个主要贡献是第一次开发了一类（不精确）最佳响应类算法，可证明收敛，其中一个适当的convexified版本的原始DC程序迭代求解。建议的连续凸逼近方法的主要特点是其分解结构的用户，这自然导致分布式算法在原始和/或对偶域。建议的框架是适用于各种多用户DC问题在不同的领域，从信号处理，通信和网络。作为一个案例研究，在本文的第二部分中，我们集中在两个例子，即：i）一个新的资源分配问题的合作物理层安全的新兴领域; ii）和著名的MIMO认知无线电网络的和速率最大化。我们在这方面的贡献是设计一类易于实现的分布式算法，可证明收敛到固定的解决方案，这样的问题。数值结果表明，所提出的分布式计划达到性能接近（有时更好）的集中式方法。
2013-09-20 cs.IT math.IT math.OC
A performance analysis framework for SOCP algorithms in noisy compressed sensing
近年来，由于\cite{CRT,CanRomTao06,DonohoPol}的工作，求解欠定线性方程组的稀疏解吸引了大量的关注。在\cite{CRT,CanRomTao06,DonohoPol}中，它是第一次严格地表明，在统计和大维度的情况下，可以通过一个简单的多项式$\ell_1$ -优化算法从欠定系统中恢复线性稀疏性。\cite{CanRomTao06}甚至更进一步，并确定在\emph{noisy}系统中，对于任何线性欠确定性水平，都存在线性稀疏性，可以通过与$\ell_1$等效的SOCP（二阶锥规划）噪声恢复\emph{approximately}。此外，近似解（在$\ell_2$ -范数意义上）保证与稀疏未知向量的距离不超过噪声的常数倍。在本文中，我们还将考虑解决\emph{noisy}线性系统，并提出了一个替代的统计框架，可用于其分析。为了演示框架是如何工作的，我们将展示如何使用它来精确地描述一类广泛的SOCP算法的近似误差。我们还将表明，我们的理论预测是在一个坚实的agrement的结果，可以通过数值模拟得到。
2013-03-29 cs.IT math.IT math.OC
Sync-Rank: Robust Ranking, Constrained Ranking and Rank Aggregation via Eigenvector and Semidefinite Programming Synchronization
UCLA（加州大学洛杉矶分校）
我们认为经典的问题，建立一组n个项目的统计排名给定一组不一致和不完整的成对比较等项目。该问题的实例化出现在数据分析中的许多应用中（例如，在体育数据中对球队进行排名）、计算机视觉和机器学习。我们将上述不完全噪声信息下的排序问题表述为平面旋转群SO（2）上的群同步问题的一个实例，其有用性近年来已在许多应用中得到证明。它的最小二乘解可以近似的频谱或半定规划（SDP）松弛，然后通过舍入过程。我们进行了广泛的数值模拟合成和真实世界的数据集，表明我们提出的方法相比，毫不逊色，从最近的文献中的其他算法。现有的理论保证组同步问题意味着在排名数据中允许的最大噪声量的下限，同时仍然实现精确的恢复。我们提出了一个类似的基于同步的算法的排名聚合问题，它集成在一个全球一致的排名成对比较由不同的评级系统在同一组项目。我们还讨论了半监督排名的问题时，有可用的信息对地面真理排名的一个子集的球员，并提出了一个算法的基础上SDP恢复排名的其余球员。最后，同步为基础的排名，结合频谱技术的denominator子图的问题，允许一个提取本地一致的部分排名，换句话说，以确定排名的一个小子集的球员，其成对的比较是少噪音比其余的数据，其他方法是无法识别。
2015-04-05 cs.LG cs.SI math.OC
Solving an inverse elliptic coefficient problem by convex non-linear semidefinite programming
在医学成像和非破坏性材料测试中的一些应用导致椭圆系数反问题，其中椭圆PDE中的未知系数函数将从其解的部分知识确定。这通常是一个高度非线性的不适定反问题，对于这种问题，数值方法很难得到唯一的可重构结果、稳定性估计和整体收敛。本说明的目的是指出反系数问题和半定规划之间的新联系，这可能有助于解决这些挑战。我们证明了具有多个测量的椭圆Robin传输逆问题可以等价地改写为一个唯一可解的凸非线性半定最优化问题。这允许显式地估计实现所需分辨率所需的测量的数量，以导出噪声数据的误差估计，并克服通常出现在用于逆系数问题的基于优化的方法中的局部最小值的问题。
2021-05-24 cs.NA math.AP math.NA
Interpolation-Based Gradient-Error Bounds for Use in Derivative-Free Optimization of Noisy Functions
本文研究有界噪声下线性插值梯度估计的误差分解与上界，提出更贴近实际的近似梯度误差界，并将其作为约束引入基于序列规划的 DFO 方案。
2025-07-25 cs.NA math.NA math.OC
Noisy Matrix Completion: Understanding Statistical Guarantees for Convex Relaxation via Nonconvex Optimization
Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）
本文研究了噪声低秩矩阵的完备化问题：给定一个大型低秩矩阵的部分和噪声元素，目标是忠实而有效地估计底层矩阵。可以说，解决这个问题的最流行的范例之一是凸松弛，它在实践中取得了显着的效果。然而，这种方法的理论支持在噪声环境中仍然远远不是最佳的，无法解释其经验上的成功。我们取得了进展，对神秘的凸松弛与随机噪声的实际效果。当未知矩阵的秩和条件数是由一个常数的范围内，我们证明了凸规划方法实现了近最佳的估计误差--在欧氏损失，entrywise损失，和频谱范数损失-在很宽的范围内的噪声水平。所有这些都是通过将凸松弛与非凸Burer-Monteiro方法连接起来实现的，这是一种看似独特的算法范例，可证明对噪声具有鲁棒性。更具体地说，我们表明，一个近似的临界点的非凸制定作为一个非常紧密的近似凸的解决方案，从而使我们能够转移所需的统计保证的非凸的方法，其凸对应。
2019-10-07 cs.IT cs.LG math.IT
Blind Source Separation for Mixture of Sinusoids with Near-Linear Computational Complexity
我们提出了一个多音分解算法，可以找到的频率，幅度和相位的基本正弦信号在一个嘈杂的观察序列。在独立同分布的高斯噪声下，我们的方法利用最大似然方法从受污染的观测中估计相关的音调参数。在估计$M$数目的正弦源时，我们的算法连续地估计它们的频率，并联合优化它们的幅度和相位。我们的方法也可以实现为一个盲源分离器的信息的情况下，有关$M$。我们的算法的计算复杂度是近似线性的，即，$\tilde{O}(N)$。
2022-03-27 cs.LG eess.AS eess.SP
