Generalized Quadratic Gradient: A New Direction in Optimization via the Fusion of Positive-Definite Curvature Matrices and Gradients into A Unified Framework
本文提出广义二次梯度(GQG)这一统一框架,将二次梯度原理扩展至更广泛牛顿型优化算法,突破了现有二次梯度方法对特定海森近似的限制,为感知曲率的优化算法开发提供了更广泛基础。
2026-08-04 cs.LG math.OC
Approximating the Quadratic Transportation Metric in Near-Linear Time
计算两个点云之间的二次传输度量(也称为$2$ -Wasserstein距离或均方根距离),或者更一般地,两个离散分布,是机器学习,统计学,计算机图形学和理论计算机科学中的基本问题。由于Agarwal和Sharathkumar在2014年的一系列工作,一个复杂的几何算法达到了高潮,该算法在时间$\tilde{O}(n^{3/2})$中运行,其中$n$是点数。然而,获得更快的算法已被证明是困难的,因为已知$2$ -Wasserstein距离具有较差的草图和嵌入属性,这限制了几何方法的有效性。在本文中,我们给出了一个非常简单的确定性算法与$\tilde{O}(n)$运行时使用一个完全不同的方法的基础上熵正则化,近似Sinkhorn缩放,和高斯核矩阵的低秩近似。我们给我们的算法的维数和精度的近似明确的依赖。
2018-12-16 cs.DS math.OC
Expanding the Class of Quadratic Control-Lyapunov Functions for Low-Thrust Trajectory Optimization
本文提出用全正定加权矩阵扩展二次控制李雅普诺夫函数,并通过特征分解参数化和粒子群优化生成近最优低推力轨迹,在轨道要素变化大的机动中优于对角加权矩阵。
2024-08-30 math.OC
On exact linesearch quasi-Newton methods for minimizing a quadratic function
本文研究求解Hessian正定的二次函数极小值问题的精确线性搜索拟牛顿法。通过将共轭梯度法解释为一种特殊的精确线性搜索拟牛顿法,给出了精确线性搜索拟牛顿法产生与共轭梯度法平行的搜索方向的充要条件.我们还分析了更新矩阵,并给出了一个完整的描述秩一更新矩阵,使搜索方向平行的共轭梯度法。特别地,我们刻画了保持拟牛顿矩阵正定性的一类对称秩一更新矩阵。这与经典的秩一更新相反,在经典的秩一更新中,在选择矩阵时没有自由,并且不能保持正定性。分析扩展到搜索方向是平行的预处理共轭梯度法在一个简单的方式。
2017-08-22 math.OC
The factorization of matrices into products of positive definite factors
University of California, San Diego(加州大学圣地亚哥分校);University of California, Irvine(加州大学尔湾分校)
本文提出通过最优运输问题分析,将矩阵分解为正定因子乘积,以实现对谱效应的控制。
2026-01-08 cs.NA cs.SY eess.SY
A simple parallelizable method for the approximate solution of a quadratic transportation problem of large dimension with additional constraints
在不需要找到精确解的情况下,运筹学理论任务的复杂性通常可以降低。例如,预测二维分层时间序列将我们引向具有二次目标函数和附加约束的运输问题。在解决这个问题时,不需要高精度地最小化目标函数,但满足所有约束条件非常重要。在这篇文章中,我们提出了一个简单的迭代算法,它可以找到一个有效的运输流矩阵在有限的步骤,同时允许大规模并行计算。研究了该方法的收敛性,给出了收敛判据,并给出了解的精度估计方法。证明了该方法以等比数列的速度收敛,其收敛速度与问题维数的关系很弱。数值实验表明,该方法对求解特定的大规模运输问题是有效的。
2019-09-05 cs.IT cs.NA math.IT
Semi-definite programming and functional inequalities for Distributed Parameter Systems
研究有界域上含二次被积函数的一维积分不等式。这些不等式成立的条件,制定在积分域的功能矩阵不等式。对于多项式函数矩阵的情况,矩阵不等式为正的充分条件,从而积分不等式被转换为半定规划。利用这些不等式研究了线性偏微分方程的稳定性。
2014-03-26 math.OC
An interior point sequential quadratic programming-type method for log-determinant semi-infinite programs
本文研究了一类非线性半无限规划问题,它在正定矩阵约束和无穷多个凸不等式约束下极小化一个包含对数行列式(logdet)函数的函数,简称SIPLOG.本文的主要目的是开发一种算法计算的Karush-Kuhn-Tucker(KKT)点的SIPLOG有效。更具体地说,我们提出了一个内点序列二次规划型方法,不精确地解决了一系列的半无限二次规划近似的SIPLOG。此外,为了在与半定约束相关联的对偶矩阵空间中生成搜索方向,我们求解缩放牛顿方程{其产生} Monteiro-Zhang方向族。我们证明了所提出的方法弱 * 收敛到KKT点在一些温和的假设。最后,我们进行了一些数值实验,以证明所提出的方法的有效性。
2018-09-24 math.OC
Infinite Horizon Mean-Field Linear-Quadratic Optimal Control Problems with Switching and Indefinite-Weighted Costs
本文研究切换环境下带条件平均场项的不定权重无限时域随机LQ最优控制问题,构造了渐近最优控制的闭环表示,建立了开环与闭环可解性的等价关系,推广了正定权重的相关结果。
2025-03-22 math.OC
A conjugate gradient-based algorithm for large-scale quadratic programming problem with one quadratic constraint
本文研究了带有一个二次约束的非凸二次约束二次规划(QCQP).利用共轭梯度法,提出了一种求解QCQP的有效算法,该算法充分利用了QCQP中矩阵的稀疏性,在确定合适的广义本征值后,通过求解一系列正定线性方程组来求解QCQP.一些数值实验表明,该方法的有效性,并比较它与一些最近的算法在文献中。
2018-07-14 math.OC
Quadratically-Regularized Optimal Transport on Graphs
最优传输提供了一种将几何域上的点之间的距离提升为该域上的信号之间的距离的方法,该距离表示为概率分布。在图上,运输问题可以用来表达具有挑战性的任务,包括以最小的运输费用将供应与需求相匹配;在离散语言中,这些成为最小成本网络流问题。通常需要正则化来确保线性地面距离情况的唯一性并提高优化收敛性;最先进的技术在运输矩阵上采用熵正则化。在本文中,我们探讨了一个二次替代熵正则化的运输图。我们从理论上分析了二次正则化图传输的行为,描述了正则化如何影响小但非零正则化区域的流结构。我们进一步利用优雅的二阶结构在这个问题的对偶推导出一个易于实现的牛顿型优化算法。
2018-03-23 cs.NA math.NA math.OC
Provable Benefit of Random Permutations over Uniform Sampling in Stochastic Coordinate Descent
本文针对随机置换CD(RPCD)与随机CD(RCD)的理论性能差距,证明在一类置换不变二次函数中RPCD的收缩率上界严格小于RCD的下界,并推测该结论可推广至所有正定二次函数。
2025-05-29 math.OC
Economic Linear Quadratic MPC With Non-Unique Optimal Solutions
IMT School for Advanced Studies Lucca(卢卡高等研究学院)
研究经济线性二次型模型预测控制中半正定旋转成本情况,通过联系相关结果填补空白,还扩展了指数稳定性与终端成本选择的结果。
2026-07-29 cs.SY eess.SY math.OC
The five gradients inequality for non quadratic costs
本文给出了最优运输理论中关于一般费用的“五梯度不等式”的一个证明,其形式为$c(x,y)=h(x-y)$,其中$h$是一个$C^1$严格凸径向对称函数.
2022-10-13 math.AP math.OC
On Low-Rank Convex-Convex Quadratic Fractional Programming
提出了一种求解目标函数为低秩二次型与正定二次型之比的凸约束分式规划问题的有效算法。所提出的算法,这些凸-凸问题的基础上,申-余二次变换,发现凹凸比和问题的稳定点。我们进一步使用[arXiv:1802.10192]中提出的算法元素和经典的Dinkelbach方法来确保收敛。我们表明,我们的算法比以前的低秩问题的算法性能更好。
2023-01-26 math.OC
Optimal spatial pricing strategies with transportation costs
我们考虑在一个给定的区域$Q$中的最优化问题,其中代理人必须为每个$x\in Q$决定产品的价格$p(x)$。顾客知道定价模式$p$,并且可以在任何地方$y$购物,支付成本$p(y)$以及对于给定运输费用函数$c$的运输成本$c(x,y)$。我们将研究两个模型:第一种是代理在$Q$上的任何地方操作,第二种是代理仅在子区域中操作。对于这两个模型,我们讨论的数学框架,我们得到的定价策略,最大化的总利润的代理的存在性结果。我们还提出了一些特殊的情况下,可以进行更详细的计算,如凹成本的情况下,二次成本的情况下,和一维的情况下。最后,我们讨论可能的扩展和发展,例如纳什均衡的情况下,更多的代理商在同一个市场上运作。
2013-12-23 math.OC
QPDAS: Dual Active Set Solver for Mixed Constraint Quadratic Programming
利用对偶问题的有效集方法,给出了求解一般混合约束凸二次规划问题的一种方法。该方法类似于现有的有效集方法,但我们提出了一种新的方法来解决在算法中出现的线性系。有两个主要的贡献,我们提出了一种新的方式分解的线性系,并显示如何迭代细化可以用来实现良好的精度和解决这两种类型的子问题,所产生的半定问题。
2019-11-28 math.OC
An SDP Approach For Solving Quadratic Fractional Programming Problems
本文研究了一类分式规划问题(P),该问题在双边二次约束下使二次函数之比最小。众所周知,分数目标函数可以由二次函数的参数族代替,这使得(P)与受类似约束集约束的单个二次规划问题高度相关,但比其更困难。任务是找到最优参数$λ^*$,然后寻找最优解,如果达到$λ^*$。与经典的Dinkelbach方法,迭代参数,我们提出了一个合适的约束规格下,一个新的版本的S-引理的等式可以证明,以便计算$λ^*$直接通过一个精确的SDP松弛。当(P)的约束集退化为单边不等式时,同样的SDP方法可以应用于求解(P){ \it而不需要任何条件}.我们观察到双边问题和单边问题之间的区别在于具有等式的S-引理不具有自然的斯莱特点,这使得前者本质上比后者更困难。这项工作也没有假设二次项的正定线性组合(也称为对偶Slater条件,或正定矩阵束)的存在,因此我们的结果提供了一个新的扩展到所谓的“硬情况”的广义信赖域子问题服从二次函数的上下水平集.
2014-02-18 math.OC
OSQP: An Operator Splitting Solver for Quadratic Programs
我们提出了一个通用的凸二次规划求解器的基础上的乘子的交替方向法,采用一种新的算子分裂技术,需要解决一个准定线性系在几乎每次迭代具有相同的系数矩阵。我们的算法是非常强大的,把没有要求的问题数据,如正定性的目标函数或线性独立的约束函数。一旦执行初始矩阵分解,它可以被配置为无除法,使其适用于嵌入式系统中的实时应用。此外,我们的技术是第一个用于二次规划的算子分裂方法,能够从算法迭代中可靠地检测原始和对偶不可行问题。该方法还支持因子分解缓存和热启动,使其在解决金融,控制和机器学习中出现的参数化问题时特别有效。我们的开源C实现OSQP占用空间小,没有库,并且已经在各种应用领域的许多问题实例上进行了广泛的测试。它通常比竞争对手的边界点方法快十倍,当使用因子分解缓存或热启动时,有时会快得多。OSQP已经在学术界和大型企业中对成千上万的用户产生了巨大的影响。
2020-02-12 math.OC
A Linear-Quadratic Optimal Control Problem for Mean-Field Stochastic Differential Equations in Infinite Horizon
研究了无穷域上常系数平均场随机微分方程的线性二次型(简称LQ)最优控制问题。研究了控制系统的可镇定性,并讨论了LQ问题的适定性。最优控制可以表示为一个包含状态及其均值的线性状态反馈,通过求解两个代数Riccati方程。利用半定规划方法研究了这类Riccati方程的可解性。
2012-08-27 math.OC
Bilevel Optimization of the Kantorovich Problem and its Quadratic Regularization Part I: Existence Results
本文研究了由康托洛维奇最优运输问题控制的最优化问题。这就产生了一个两层的最优化问题,它可以被重新表述为一个数学问题的互补约束的空间中的定期Borel措施。由于互补关系引起的非光滑性,这类问题经常被正则化。在这里,我们应用Kantorovich问题的二次正则化。正如标题所示,这是一系列三篇论文的第一部分。它解决了双层Kantorovich问题及其二次正则化的最优解的存在性,而第二部分和第三部分是专门为消失正则化的收敛性分析。
2022-06-27 math.OC
Semi-definite representations for sets of cubics on the 2-sphere
单位球面$S^{n-1}$上模以1为界的$n$实变量齐次二次多项式的紧集是平凡半定可表示的。单位球面$S^2$上模以1为界的齐次三元四次数的紧集也是半定可表示的。这表明$S^2$上模以1为界的齐次三次体的紧集是半定可表示的。我们推导出一个明确的半定表示这个规范球。更一般地,我们提供了一个半定的描述锥的非齐次三元三次方程是非负的$S^2$。
2021-03-24 math.CA math.OC
Linear pencils and quadratic programming problems with a quadratic constraint
给定作用在希尔伯特空间$\mathcal{H}$上的有界自伴算子$A$和$B$,考虑线性束$P(λ)=A+λB$,$λ\in\mathbb{R}$。刻画了参数集$λ$使得$P(λ)$是正(半)定算子的特征.这些结果被应用到解决一个具有等式二次约束的二次规划问题(或QP 1EQC问题)。
2022-01-07 math.FA math.OC
Coupling policy iteration with semi-definite relaxation to compute accurate numerical invariants in static analysis
我们引入了一个新的域,通过抽象解释来寻找程序的精确数值不变量。该域由非线性函数的水平集组成,推广了Manna,Sankaranarayanan和Sipma引入的线性“模板”域。在二次模板的情况下,我们使用Shor的半定松弛推导出可计算的但精确的抽象的语义泛函,我们表明,抽象的不动点方程可以精确地解决耦合策略迭代和半定规划。我们证明了我们的方法的一系列例子(过滤器,集成计划),包括一个退化的(辛计划)的兴趣。
2012-01-18 cs.LO math.OC
Mass transportation with LQ cost functions
Université de Nice-Sophia Antipolis(尼斯-索菲亚安蒂波利斯大学);INRIA(法国国家信息与自动化研究所)
研究欧几里得空间中代价函数由线性二次最小化问题的值函数给出的最优传输问题,推广了Brenier定理,证明了最优传输映射的存在唯一性,并给出了可控和不可控情况下的正则性结果。
2011-05-20 cs.SY eess.SY math.OC
Semi-definite programs for online control of nonlinear systems with stability guarantees
Tsinghua University(清华大学)
本文提出基于半定规划的在线反馈控制方法,通过状态依赖表示解决非线性系统控制问题,结合Lyapunov证书保证稳定性并满足二次性能规范。
2026-04-18 cs.SY eess.SY math.OC
Cholesky factorisation, and intrinsically sparse linear quadratic regulation
Lund University(隆德大学)
本文通过Cholesky分解揭示了具有树结构运输问题中控制律的内在稀疏性,展示了最优控制的分布式应用方法。
2026-02-03 cs.SY eess.SY math.OC
Linear-quadratic stochastic Volterra controls II: Optimal strategies and Riccati--Volterra equations
本文研究了具有奇异和非卷积型系数的随机Volterra积分方程线性二次控制问题,从新视角构建因果反馈策略框架,并通过Riccati-Volterra方程刻画最优策略的存在唯一性。
2023-07-30 math.OC math.PR
A fast approach to optimal transport: The back-and-forth method
提出了一种迭代法来有效地解决一类严格凸费用的最优运输问题,其中包括二次和p-幂费用。给定两个概率测度,在n点离散网格上,我们计算最优映射,每次迭代使用O(n)存储空间和O(nlog(n))操作,具有近似指数的收敛速度.我们的方法使我们能够解决最佳的运输问题的空间网格大到4096 x4096和384 x384 x384在几分钟内。
2020-05-05 cs.NA math.NA math.OC
Finite-time boundary collision in planar linear quadratic regulator gradient flows
School of Future Technology, Xi’an Jiaotong University(西安交通大学未来技术学院)
本文研究平面线性二次调节器策略梯度流能否在有限时间内到达稳定边界,给出充要条件及三角族的显式参数区域,并证明碰撞时稳定裕度和最小特征值线性消失。
2026-10-02 cs.SY eess.SY math.DS