Solving the Maximum Clique Problem with Symmetric Rank-One Nonnegative Matrix Approximation
Università degli Studi di Bari Aldo Moro（巴里阿尔多·莫罗大学）；Université de Mons（蒙斯大学）
本文提出基于对称秩一非负矩阵逼近的连续刻画，建立极值点与图中团的对应关系，并提出高效算法在多个数据集上优于现有方法。
2016-08-04 cs.NA math.NA math.OC
An ideal-sparse generalized moment problem reformulation for completely positive tensor decomposition exploiting maximal cliques of multi-hypergraphs
针对完全正张量分解问题，提出基于多重超图极大团的理想稀疏广义矩重构方法，通过矩松弛求解，收敛性有保障，计算速度优于稠密公式，且利用的稀疏结构异于现有两类稀疏性。
2025-05-21 math.OC
General Optimization Framework for Robust and Regularized 3D Full Waveform Inversion
油气资源的稀缺性和高勘探风险促使开发高保真算法和计算上可行的勘探地球物理方法。而早期的方法认为最小二乘最小化，最近的发展强调了强大的配方，以及配方，允许纪律编码的先验信息到反问题的制定的重要性。更灵活的优化框架的代价是更大的计算复杂性，因为可以使用直接方法（例如，最速下降，高斯-牛顿，L-BFGS），而鲁棒（非平滑）惩罚的结合需要定制改变，这可能难以在一般地震反演工作流程的上下文中实现。在这项研究中，我们提出了一个通用的，灵活的优化框架，能够将广泛的噪声模型，前向模型，正则化和重新参数化变换。该框架涵盖了无缝鲁棒的噪声模型（如Huber和Student的$t$），以及稀疏正则化，投影约束和全变差正则化。拟议的框架也是可扩展的-我们解释了任何新的提法所需的调整。最后，我们得出结论，一些数值例子证明了制定的多功能性。
2015-04-18 math.OC
On Regularized Square-root Regression Problems: Distributionally Robust Interpretation and Fast Computations
本文统一证明范数加半范数惩罚的平方根回归等价于最小二乘的DRO形式，并提出邻近点对偶半光滑Newton算法高效求解两类非光滑问题。
2023-10-05 math.OC
On the Certainty-Equivalence Approach to Direct Data-Driven LQR Design
线性二次型调节器（LQR）问题是自动控制的基石，在数据驱动设定中得到了广泛的研究。各种数据驱动的方法可以被分类为间接的（即，基于所识别的模型）与直接的或鲁棒的（即，考虑到不确定性）与确定性等价。在这里，我们将展示如何桥接这些不同的配方，并提出一个新的，直接的，正规化的配方。我们从间接确定性等价LQR开始，即，状态空间矩阵的最小二乘识别，然后是基于标称模型的设计，形式化为一个双层程序。我们展示了如何将这个问题转化为一个单级，正则化，直接的数据驱动的控制配方，其中正则化占最小二乘数据拟合标准。对于这种新的配方，我们进行了鲁棒性和性能分析存在噪声数据。我们提出的直接和正则化的配方也适合进一步混合鲁棒稳定性促进正则化。在一个数值案例研究中，我们比较了正则化促进鲁棒性或确定性等价，我们证明了显着的性能时，他们两个混合。
2021-09-14 math.OC
Convex Formulation for Regularized Estimation of Structural Equation Models
通径分析是结构方程模型（SEM）的一类模型，它以多元线性回归的形式描述被测变量之间的因果关系。本文提出了两种估计公式，分别用于验证性和探索性SEM，其中估计的路径系数矩阵的零模式可以解释变量的因果关系结构。将模型参数的非线性等式约束放宽为不等式约束，将原问题转化为凸框架。然后，提出了一个正则化的估计公式的探索SEM使用的l1型惩罚的路径系数矩阵。在给定问题参数的条件下，我们得到的最优解是低秩的，并且为原问题提供了一个有用的解。近似算法应用于解决我们的凸规划在一个大规模的设置。这种方法的性能在模拟和真实的数据集，并与现有的方法进行比较。当应用于两个实际应用结果时（学习泰国气候变量之间的因果关系，并使用ABIDE数据集的fMRI时间序列检查自闭症患者的连接差异），研究结果可以解释环境变量之间的已知关系，并分别识别已知和新的大脑连接差异。
2019-05-02 math.OC q-bio.QM
A Note on Optimization Formulations of Markov Decision Processes
本文总结了马尔可夫决策过程研究中使用的优化公式。我们考虑标准和熵正则化设置下的贴现和未贴现过程。对于每一个设置，我们首先总结了原始，对偶，和原始对偶问题的线性规划制定。然后，我们详细介绍了这些问题和其他配方的马尔可夫决策过程，如贝尔曼方程和政策梯度法之间的联系。
2020-12-17 math.OC
Accelerating Primal-dual Methods for Regularized Markov Decision Processes
Stanford University（斯坦福大学）；Amazon Search（亚马逊搜索）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Google（谷歌）
针对熵正则化马尔可夫决策过程原对偶问题标准一阶法收敛慢的问题，提出二次凸化原对偶表述及新插值度量，实现指数收敛与显著加速，多设置实验验证了性能。
2023-06-12 cs.LG math.OC stat.ML
Fast cluster detection in networks by first-order optimization
聚类检测在数据分析中起着基础性的作用。在本文中，我们专注于使用s-亏损团模型基于网络的聚类检测，并提出了一个非线性最优化的方法，有效地处理这些模型在实践中。特别是，我们引入了一个等价的连续配方分析下的问题，我们分析了一些定制的变体的弗兰克-沃尔夫算法，使我们能够快速找到最大的s-缺陷集团。这些算法工具的良好的实用性，这是密切相关的支持识别性能，使他们在实际应用中非常有吸引力。所报告的数值结果清楚地表明所提出的方法的有效性。
2021-03-29 math.OC
SDP-based Joint Sensor and Controller Design for Information-regularized Optimal LQG Control
考虑线性高斯随机系统的传感器与控制器联合设计问题，其中二次控制代价与传感器获取的信息量的加权和最小.这个问题的制定动机的情况下，必须设计一个控制律的存在感测，通信和隐私的限制。我们表明，最佳的联合传感器控制器的设计是相对容易的传感器策略被限制为线性时。也就是说，一个显式形式的最佳线性传感器方程，卡尔曼滤波器，和确定性等价控制器，共同解决问题，可以有效地找到半定规划（SDP）。在我们的设计中，线性假设是否是限制性的，目前是一个悬而未决的问题。
2015-03-06 math.OC
Optimal transport problems regularized by generic convex functions: A geometric and algorithmic approach
为了规避数值求解离散最优输运问题（其中最小化线性目标函数$P\mapsto\langle C,P\rangle:=\sum_{i,j}C_{ij}P_{ij}$）的困难，Cuturi引入了该问题的一个变体，其中目标函数被凸函数改变为$Φ(P)=\langle C,P\rangle-λ\mathcal{H}(P)$，其中$\mathcal{H}$是香农熵，而$λ$是正常数。本文将其公式推广到形式为$Φ(P)=\langle C,P\rangle+λf(P)$的目标函数，其中$f$是一般的严格凸光滑函数。我们还提出了一种迭代方法，找到一个数值解，并澄清，所提出的方法是特别有效的时，$f(P)=\frac{1}{2}\|P\|^2$。
2020-11-27 math.OC
$L^0$-regularized Variational Methods for Sparse Phase Retrieval
我们研究了从干净或有噪声的无相位测量中恢复底层稀疏信号的问题。由于信号的稀疏先验，我们采用L 0正则化变分模型，以确保只有少量的非零元素被恢复的信号和两个不同的公式建立在模型的基础上的数据保真度的选择，即，L2和L1范数。我们还提出了有效的算法的基础上的交替方向法的乘法器（ADMM）的收敛保证和接近最佳的计算复杂性。由于所有子问题的封闭解的存在性，该算法是非常有效的，在每次迭代的计算成本低。大量的实验表明，我们提出的方法可以从无相位测量中恢复稀疏信号，与现有方法相比，具有更高的成功恢复率和更低的计算成本。
2016-12-08 math.OC
Convergence analysis of a regularized inexact interior-point method for linear programming problems
线性规划问题的内点法需要反复求解线性系方程。求解这些线性系是不平凡的，由于严重病态的矩阵收敛。这个问题可以通过在线性规划问题中引入适当的正则化项来缓解。正则化还允许我们有效地处理秩亏约束矩阵。我们给出了一个正则化不精确内点方法的收敛性分析。术语“不精确”指的是这样一个事实，即我们不需要计算线性系方程组的真解，只需要计算其近似值。该算法的制定是足够的一般性，使专门的线性代数例程在其他工作中开发的不精确内点方法也可以纳入我们的正则化框架。在这项工作中，我们利用的不精确性，使用混合精度求解器的线性系方程。更具体地说，我们在IEEE单精度进行Cholesky分解，并将其用作共轭梯度法的预条件。数值实验表明，这种方法的好处适用于线性规划问题的密集约束矩阵。
2021-05-04 math.OC
Solving the Real-Time Train Dispatching Problem by Column Generation
针对铁路中断导致的列车冲突问题，提出基于路径的二元线性模型，用团强化MIP公式，并采用列生成方法求解，在德国实例上验证了实时调度的可行性与解质量。
2024-01-22 math.OC
Regularized Stochastic Dual Dynamic Programming for convex nonlinear optimization problems
我们定义了一个正则化的变形的对偶动态规划算法称为REDDP（正则化对偶动态规划）来解决非线性动态规划方程。我们将该算法推广到求解非线性随机动态规划方程。相应的算法，称为SDDP-REG，可以被看作是一个扩展的正则化的随机对偶动态规划（SDDP）算法最近推出的线性问题，研究较少的一般性中心。我们展示了REDDP和SDDP-REG的收敛性。我们评估了REDDP和SDDP-REG在具有直接交易成本和市场影响成本的投资组合模型上的表现。特别地，我们提出了一个风险中性的投资组合选择模型，它可以被视为一个多阶段的随机二阶锥规划。该公式的动机是市场影响成本对大型投资组合再平衡操作的影响。数值模拟表明，REDDP是快得多DDP的所有问题的情况下考虑（高达184倍快于DDP），SDDP-REG是更快的情况下，投资组合选择问题的市场影响成本测试和更快的风险中性的多阶段随机线性规划的情况下实施（8.2倍快）。
2020-05-01 math.OC
Convex optimization for the planted k-disjoint-clique problem
University of Minnesota（明尼苏达大学）；University of Waterloo（滑铁卢大学）
针对NP难的k-不相交团问题，提出一种凸松弛方法，能在多项式时间内求解由k个大型种植团和噪声构成的特定输入实例。
2013-12-02 cs.DS cs.NA math.NA
The Lovász Theta Function for Recovering Planted Clique Covers and Graph Colorings
University of Southern California（南加州大学）；National University of Singapore（新加坡国立大学）；Singapore University of Technology and Design（新加坡科技设计大学）；Archimedes/Athena RC, Greece（希腊阿基米德/雅典研究中心）；Centre for Quantum Technologies, National University of Singapore（新加坡国立大学量子技术中心）
本文研究了洛瓦兹θ函数在随机图中恢复嵌入clique覆盖结构的能力，证明了其在特定模型下的有效性。
2026-02-04 cs.DS cs.IT math.CO
Density, Determinacy, Duality and a Regularized Moment-SOS Hierarchy
LAAS-CNRS, University of Toulouse, France（法国图卢兹大学 LAAS-CNRS）
本文提出了一种正则化的矩-SOS层次结构，能够处理无界集或违反阿基米德性质的有界集问题，通过泛函分析方法和密度结果实现了收敛性证明，并提供了一种单调非递减的下界序列。
2025-12-05 math.OC
Numerical approximation of regularized non-convex elliptic optimal control problems by the finite element method
研究了一类椭圆型最优控制问题的数值逼近，该问题涉及代价函数中$L^q$ -拟无约束惩罚（含$q\in(0,1)$）的非凸局部正则化.我们的方法是基于\emph{difference-of-convex}函数的制定，这导致一阶必要的最优性条件，它可以被视为一个非凸$L^1$惩罚最优控制问题的最优性系统。我们考虑分段常数有限元近似的控制，而状态方程近似使用分段线性基函数。然后，收敛性结果得到所提出的近似。在最优控制的支撑边界满足一定条件的情况下，我们导出了$h^\frac12$逼近收敛速度的阶，其中$h$是相应的离散化参数.我们用数值实验来说明我们的理论发现，这些实验表明了数值逼近的收敛性
2022-09-23 math.OC
On the Convergence and Robustness of Training GANs with Regularized Optimal Transport
University of Southern California（南加州大学）；University of Toronto（多伦多大学）
生成对抗网络（GANs）是学习数据分布的最实用的方法之一。流行的GAN公式是基于使用Wasserstein距离作为概率分布之间的度量。不幸的是，最小化数据分布和生成模型分布之间的Wasserstein距离是一个计算上具有挑战性的问题，因为其目标是非凸的，非光滑的，甚至难以计算。在这项工作中，我们表明，获得梯度信息的平滑Wasserstein GAN制定，这是基于正则化的最优运输（OT），是计算上毫不费力，因此可以应用一阶优化方法，以尽量减少这一目标。因此，我们建立了理论上的收敛保证平稳的一类建议的GAN优化算法。与原来的非光滑配方，我们的算法只需要解决的最优近似。我们应用我们的方法学习MNIST数字以及CIFAR-10图像。我们的实验表明，我们的方法是计算效率和生成图像的最先进的算法给出相同的架构和计算能力。
2018-05-22 cs.LG math.OC stat.ML
Learning to solve TV regularized problems with unrolled algorithms
全变差（TV）是一种流行的正则化策略，其通过约束估计信号的一阶导数的$\ell_1$范数来促进分段恒定信号。所得到的最优化问题通常使用迭代算法来解决，例如近似梯度下降、原始对偶法或ADMM。然而，这样的方法可能需要非常大量的迭代来收敛到合适的解。在本文中，我们加速这样的迭代算法展开近端梯度下降求解器，以学习他们的参数为1D电视正则化问题。虽然这可以使用合成配方，我们证明，这会导致较慢的性能。在分析公式中应用这种方法的主要困难在于提出一种通过邻近算子计算导数的方法。作为我们的主要贡献，我们开发和表征两种方法来做到这一点，描述他们的好处和局限性，并讨论他们实际上可以改善迭代程序的制度。我们验证了这些研究结果与合成和真实数据的实验。
2020-10-19 math.OC stat.ML
Entropy-Regularized Optimal Transport for Time-Varying Multi-Agent Coverage Control
Scuola Superiore Meridionale（南方高等学院）；University of Naples Federico II（那不勒斯费德里科二世大学）
本文提出熵正则化半离散最优传输方法，用于多智能体时变覆盖控制，通过反馈-前馈控制器跟踪演化目标密度，实现指数收敛，并在中等正则化下优于沃罗诺伊基线。
2026-09-21 cs.SY eess.SY math.OC
Entropy-Regularized Mean-Variance Portfolio Optimization with Jumps
本研究针对存在跳跃的连续时间熵正则化均值-方差投资组合问题，提出探索性SDE并证明最优控制为高斯分布，且最优财富过程满足线性SDE。
2025-02-25 math.OC math.PR
A General Distributed Dual Coordinate Optimization Framework for Regularized Loss Minimization
Tencent AI Lab（腾讯人工智能实验室）
在现代大规模机器学习应用中，训练数据通常被划分并存储在多台机器上。通常采用“数据并行“方法，其中在不跨机器移动数据的情况下最小化聚合的训练损失。在本文中，我们介绍了一种新的分布式对偶公式的正则化损失最小化问题，可以直接处理数据并行在分布式设置。这个公式使我们能够系统地推导出对偶坐标优化程序，我们称之为分布式交替对偶最大化（DADM）。该框架扩展了（Boyd等人，2011; Ma等人，2015 a; Jaggi等人，2014; Yang，2013），并进行了严格的理论分析。此外，在新公式的帮助下，我们通过将加速技术（Shalev-Shwartz和Zhang，2014）推广到分布式设置来开发DADM的加速版本（Acc-DADM）。我们还提供了所提出的加速版本的理论结果，新结果改进了以前的结果（Yang，2013; Ma等人，2015 a），其运行时间在条件数上线性增长。我们的实证研究验证了我们的理论，并表明，我们的加速方法显着改善了以前的国家的最先进的分布式双坐标优化算法。
2017-08-25 cs.DC cs.LG math.OC
A McKean-Pontrygin maximum principle for entropic-regularized optimal transport
Institut für Mathematik, Universität Potsdam（波茨坦大学）
本文提出基于麦克肯-庞特里亚金最大原理的均场方法，解决动态最优传输问题，避免随机路径采样，构建约束哈密顿方程，并统一处理确定性和随机性最优传输。
2026-03-31 cs.NA math.NA math.OC
An Enhanced Semidefinite Relaxation Model Combined with Clique Graph Merging Strategy for Efficient AC Optimal Power Flow Solution
本文提出一种增强半定松弛模型，整合λ二次凸松弛、有效不等式、边界收紧算法及团图合并策略，以更紧下界和更高效率求解交流最优潮流，并在大规模算例上验证了有效性。
2024-09-29 cs.SY eess.SY math.OC
Doubly Regularized Entropic Wasserstein Barycenters
Institut de Mathématiques, École polytechnique fédérale de Lausanne (EPFL)（洛桑联邦理工学院数学研究所）
本文提出双正则化 $(λ,τ)$-熵 Wasserstein 重心，证明其去偏逼近、光滑稳定、$n^{-1/2}$ 估计速率，并给出指数收敛的无网格噪声粒子梯度下降算法。
2025-07-25 cs.LG math.OC stat.ML
High-order regularized regression in Electrical Impedance Tomography
提出了一种基于正则化二次回归的电阻抗成像反问题新方法。我们的贡献介绍了一个新的配方的前向模型的形式的非线性积分变换，映射域的电特性的变化，其各自的变化在边界数据。利用扰动理论的变换近似产生一个高阶失配函数，然后用于导出一个正则化的反问题。特别是，我们认为非线性问题的二阶精度，因此我们的近似方法改进后的局部线性化的前向映射。反问题采用牛顿迭代算法，并从模拟实验结果。随着计算复杂度的适度增加，该方法产生优于正则化线性回归的结果相比，可以实现解决非线性反问题。
2012-05-28 math-ph math.MP math.OC
A Unified Framework for Sparse Relaxed Regularized Regression: SR3
University of Washington（华盛顿大学）
正则化回归问题普遍存在于统计建模、信号处理和机器学习中。稀疏回归在科学模型发现中尤其重要，包括压缩传感应用、变量选择和高维分析。我们提出了一个广泛的框架稀疏松弛正则化回归，称为SR 3。关键思想是解决正则化问题的松弛，这与最先进的方法相比有三个优点：（1）松弛问题的解在误差、假阳性和条件方面是优越的，（2）松弛允许用于凸和非凸公式的极快算法，以及（3）该方法适用于复合正则化子，例如全变差（TV）及其非凸变体。我们证明了SR3的优势（计算效率，更高的精度，更快的收敛速度，更大的灵活性）在一系列的正则化回归问题的合成和真实的数据，包括压缩感知，LASSO，矩阵完成，电视正则化，和组稀疏的应用。为了促进可重复的研究，我们还提供了一个配套的MATLAB软件包来实现这些示例。
2018-11-08 cs.LG math.OC stat.ML
Fast algorithm for sparse least trimmed squares via trimmed-regularized reformulation
针对最小截尾平方（LTS）计算成本高、加入ℓ₁范数稀疏惩罚的FAST-LTS速度慢的问题，提出基于近端梯度法与重构技术的低成本稀疏LTS算法，其收敛性更优，实验验证可高效得到较小目标值。
2024-10-06 math.OC stat.CO stat.ME
Accelerating Regularized Attention Kernel Regression for Spectrum Cartography
College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学）
本文提出LAKER算法，通过学习数据依赖的预处理器降低条件数瓶颈，加速频谱制图中的正则化注意力核回归，提升收敛速度和重建精度。
2026-04-28 cs.LG math.OC
Total Coloring and Total Matching: Polyhedra and Facets
图的全染色$G = (V, E)$是指给顶点和边分配颜色，使得两个相邻的顶点和两个关联的边都不具有相同的颜色，并且对于每条边，端点和边本身具有不同的颜色。任何有效的全染色都将$G$的元素划分为全匹配，全匹配被定义为可以采用相同颜色的顶点和边的子集。本文提出了全染色和全匹配问题的双线性规划模型，并研究了相应的线性规划松弛的强度。全染色问题的公式化的问题，找到最小数量的全匹配，覆盖所有的图元素。这个覆盖公式可以通过列生成算法来求解，其中定价子问题对应于加权总匹配问题。因此，我们研究全匹配多面体。我们引入了三类非平凡有效不等式：基于稳定集多面体的标准团不等式的顶点团不等式，基于由圈诱导的顶点集奇偶性的全等$2k3$圈不等式，以及由偶数阶完全子图诱导的偶数团不等式.证明了同余$2k3$循环不等式只有当$k = 4$满足时才是面定义的，而顶点团和偶团总是面定义的.最后，我们提出了一个列生成算法的全着色问题和全匹配问题的切割平面算法的初步计算结果。
2022-02-02 cs.DM math.CO math.OC
Exploratory Optimal Stopping: A Singular Control Formulation
本文提出了一种基于强化学习的探索性最优停止方法，通过正则化和动态规划原理解决退化奇点随机控制问题，并设计了可扩展的 actor-critic 类型无模型算法。
2026-03-11 cs.LG math.OC q-fin.MF
A Distributed Method for Fitting Laplacian Regularized Stratified Models
分层模型是以任意方式依赖于一组选定的分类特征，并线性依赖于其他特征的模型。在基本和传统的公式中，单独的模型仅使用具有特定分类值的数据来拟合分类特征的每个值。在这个公式中，我们添加了拉普拉斯正则化，它鼓励相邻分类值的模型参数相似。拉普拉斯正则化允许我们在分层特征值上指定一个或多个加权图。例如，在一周中的几天进行分层，我们可以指定星期日模型参数应该接近星期六和星期一模型参数。正则化提高了模型的性能，超过了传统的分层模型，因为模型的每个值的分类“借用强度”从它的邻居。特别是，它甚至为未出现在训练数据集中的分类值生成模型。基于交替方向乘子法（ADMM），提出了一种有效的分层模型分布式拟合方法。当拟合的损失函数是凸的，分层模型拟合问题是凸的，我们的方法计算的损失加正则化的全局最小值，在其他情况下，它计算一个局部最小值。该方法非常有效，并且自然地扩展到大数据集或分层特征值的数量。我们用各种例子说明我们的方法。
2019-11-10 cs.LG math.OC stat.ML
Structured Transforms Across Spaces with Cost-Regularized Optimal Transport
ENS（巴黎高等师范学院）；CNRS（法国国家科学研究中心）；ENSAE（巴黎高等经济商业统计学院）；Apple（苹果公司）
该研究提出利用成本正则化最优传输解决跨空间测度匹配问题，通过引入结构诱导正则化器和近端算法从不对齐数据中提取线性变换，并成功应用于单细胞组学匹配任务。
2023-11-23 cs.LG math.OC stat.ML
Nested Stochastic Algorithm for Generalized Sinkhorn distance-Regularized Distributionally Robust Optimization
本文针对广义Sinkhorn距离正则化的非凸分布鲁棒优化问题，推导出嵌套随机优化的对偶形式，提出嵌套SGD算法并证明其多项式复杂度，数值实验验证了算法的效率与鲁棒性。
2025-06-26 cs.LG math.OC stat.ML
Interpolating between Optimal Transport and KL regularized Optimal Transport using Rényi Divergences
Institute of Mathematics, Technical University Berlin（柏林工业大学数学研究所）
本文提出用α-Rényi散度正则化最优传输，通过参数α在未正则化与KL正则化OT间插值，并用嵌套镜像下降求解，实验表明其优于KL和Tsallis方法。
2025-10-25 cs.NA math.FA math.NA
