An inexact proximal point method for variational inequality on Hadamard manifolds
本文对Hadamard流形上的变分不等式问题提出了一种不精确邻近点方法，并研究了其收敛性。所提出的算法在两个意义上是不精确的。首先，每个邻近的子问题是近似使用的向量场的扩大考虑，然后下一个迭代是通过解决这个子问题，允许适当的误差容限。作为应用，我们得到了Hadamard流形上约束优化问题、平衡问题和非线性最优化问题的一个非精确邻近点方法。
2021-03-03 math.OC
An efficient adaptive accelerated inexact proximal point method for solving linearly constrained nonconvex composite problems
本文提出了一种有效的自适应二次惩罚加速不精确邻近点（QP-AIPP）的方法提出了较早的作者。QP-AIPP方法和它的变体都使用二次惩罚方法来解决线性集约束的非凸复合最优化问题，其中生成的惩罚子问题由底层AIPP方法的变体来解决。该变体，反过来，解决了一个给定的惩罚子问题，产生一系列的近端子问题，然后解决了加速复合梯度算法。AIPP和它的变体之间的主要区别是，在前者的近端子问题总是凸的，而在后者的不一定是凸的，由于事实上，他们的prox参数选择尽可能积极，以提高效率。AIPP变体产生的可能非凸邻近子问题也尝试解决了一种新的自适应加速复合梯度算法的有效性的基础上，一些关键的收敛不等式。其结果是，该变体生成一系列的近端子问题，其中的步长自适应地改变根据从调用到加速复合梯度算法的响应。最后，数值结果证明了所提出的AIPP和QP-AIPP变体的效率。
2019-12-05 math.OC
An Inexact First-order Method for Constrained Nonlinear Optimization
本文的主要重点是设计一个求解约束非线性最优化问题的不精确一阶算法。通过控制子问题解的不精确性，我们可以显著减少每次迭代所需的计算量。在子问题求解过程中引入罚参数更新策略，使算法能够自动检测不可行性。证明了算法在可行和不可行情况下的整体收敛。KKT残差的复杂性分析也来自温和的假设。数值实验表明，该算法能够以较低的计算代价快速找到不精确的最优解。
2019-11-18 math.OC
Inexact Successive Quadratic Approximation for Regularized Optimization
连续二次逼近或二阶邻近方法对于最小化平滑部分和促进正则化的凸（可能非平滑）部分之和的函数很有用。大多数迭代复杂性的分析集中在近似梯度法的特殊情况下，或其加速变体。只有少数研究的方法，使用二阶近似的光滑部分，部分原因是在每次迭代获得封闭形式的解决方案的子问题的困难。实际上，可能需要使用迭代算法来找到这些子问题的不精确解。在这项工作中，我们提出了全球分析的不精确逐次二次逼近方法的迭代复杂性，表明一个不精确的解决方案的子问题，是在一个固定的乘法精度的最优性足以保证相同的顺序的收敛速度的准确版本，与复杂性相关的不精确的措施，在一个直观的方式。我们的结果允许灵活选择的二阶项，包括牛顿和拟牛顿的选择，并不一定需要增加精度的子问题的解决方案在以后的迭代。对于具有强凸性的问题，算法以全局线性速度收敛。对于一般凸问题，早期收敛速度是线性的，而总体收敛速度是$O(1/k)$。对于非凸问题，一阶最优性准则以$O(1/\sqrt{k})$的速率收敛到零。
2019-01-24 math.OC
Inexact Proximal-Gradient Methods with Support Identification
我们考虑最小化一个目标函数的近似梯度法，该目标函数是一个光滑函数和一个非光滑凸函数的和。一个特点，区分我们的工作从大多数文献中是，我们假设相关的近端运营商不承认一个封闭形式的解决方案。为了应对这一挑战，我们研究了两个自适应和可实现的终止条件，决定如何准确地解决了近端梯度子问题。我们证明了所需的迭代次数为不精确的近端梯度法达到$τ> 0$近似一阶稳定点是$\mathcal{O}(τ^{-2})$，这匹配类似的结果，持有精确的子问题的解决方案时计算。此外，通过关注重叠组$\ell_1$正则化，我们提出了一个算法近似解决的近似梯度子问题，然后证明其迭代识别（渐近）的支持最优解。如果一个施加额外的控制，每个子问题的解决的准确性，我们给出了一个上界的最大迭代次数之前，得到一个最优解的支持。
2022-11-04 math.OC
A Partially Inexact Alternating Direction Method of Multipliers and its Iteration-Complexity Analysis
提出了一种计算线性约束凸优化问题近似解的乘子部分不精确交替方向法。该方法允许第一子问题采用相对近似准则进行非精确求解，而在第二子问题中加入邻近项以简化问题，并在拉格朗日乘子的更新规则中加入步长参数以提高计算性能.建立了该方法的点态和遍历迭代复杂性界。据我们所知，这是第一次，复杂性的结果与相对误差标准的不精确的ADMM进行了分析。一些初步的数值实验报告，以说明新方法的优点。
2018-05-18 math.OC
A weakly convergent fully inexact Douglas-Rachford method with relative error tolerance
Douglas-Rachford方法是求两个极大单调算子和的零点的分裂算法。它的每一次迭代都需要两个相邻子问题的顺序解。这项工作的目的是提出一个完全不精确的版本的道格拉斯-Rachford方法，其中两个近端子问题的解决约在相对误差的公差。我们还提出了一个半不精确的变种，其中第一个子问题是解决了完全和第二个不精确。我们证明了这两种方法产生的序列弱收敛到的解决方案的基本包含问题，如果有的话。
2018-09-07 math.FA math.OC
Inexact subgradient algorithm with a non-asymptotic convergence guarantee for copositive programming problems
Keio University（庆应义塾大学）；RIKEN（理化学研究所）；The University of Tokyo（东京大学）
本文提出一种近似子梯度算法，用于求解copositive规划问题，通过非渐近收敛保证在O(ε^{-2})次迭代内得到近似解，且讨论了标准二次规划问题的精确与近似解法，并通过实验验证了算法在检测完全非负矩阵不完全正性方面的有效性。
2026-04-29 math.OC
Inexact Bregman Sparse Newton Method for Efficient Optimal Transport
School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学深圳数据科学学院）
本文提出近似Bregman稀疏牛顿方法，通过半对偶子问题序列框架高效求解精确最优传输问题，结合稀疏牛顿求解器和Hessian稀疏化策略，提升计算效率与精度。
2026-11-03 math.OC
A New Inexact Manifold Proximal Linear Algorithm with Adaptive Stopping Criteria
University of Notre Dame（圣母大学）；The Pennsylvania State University（宾夕法尼亚州立大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出IManPL算法，通过自适应停止准则非精确求解凸子问题，用于嵌入子流形上的非光滑非凸复合优化，并证明其达到最优一阶oracle复杂度，在稀疏谱聚类和稀疏主成分分析上优于现有方法。
2026-10-06 math.OC
An Inexact Alternating Direction Method of Multipliers for Constrained Parabolic Optimal Distributed Control Problems
Jilin University（吉林大学）；Lanzhou University（兰州大学）；Beijing University of Post and Telecommunications（北京邮电大学）；Key Laboratory of Mathematics and Information Networks (Beijing University of Posts and Telecommunications), Ministry of Education（教育部数学与信息网络重点实验室（北京邮电大学））
本文提出了一种近似交替方向乘子法，用于求解带约束的抛物最优分布控制问题，通过解耦控制约束和非光滑目标函数，提高了计算效率和实用性。
2026-02-28 math.OC
An inexact augmented Lagrangian method for nonsmooth optimization on Riemannian manifold
考虑了黎曼流形上的一个非光滑最优化问题，其目标函数是一个可微分支与一个非光滑凸函数之和.我们提出了一个流形不精确增广拉格朗日方法（MIALM）所考虑的问题。这个问题被重新表述为一个可分离的形式。利用Moreau包络，我们得到了一个光滑的子问题在所提出的方法的每一个迭代。理论上，在适当的假设下，证明了该方法收敛于临界点。特别地，在迭代子问题的近似全局极小值可得的条件下，证明了原问题收敛于全局极小值。数值实验表明，MIALM是一个有竞争力的方法相比，一些现有的方法。
2019-11-29 math.OC
Randomized Branch Methods with Inexact Subproblems for Bouligand Stationarity in Linear and Quadratic Programs with Complementarity Constraints
Southern University of Science and Technology（南方科技大学）；Institute of Computational Mathematics and Scientific/Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院计算数学与科学工程计算研究所）；University of Chinese Academy of Sciences（中国科学院大学）；National Center for Applied Mathematics Shenzhen（深圳应用数学国家研究中心）
针对带互补约束的线性和二次规划，提出随机分支方法，利用线性规划子问题求解B-平稳点，实验验证了其在大规模系统上的有效性与竞争性性能。
2026-09-29 math.OC
An Inexact Bregman Proximal Difference-of-Convex Algorithm with Two Types of Relative Stopping Criteria
本文针对凸差优化问题提出非精确Bregman近邻凸差算法（iBPDCA），通过引入两类相对停止准则放宽子问题精确求解要求，在Kurdyka-Łojasiewicz性质下建立全局收敛性，数值实验验证了其优越性能。
2025-04-29 math.OC
Inexact Variable Metric Stochastic Block-Coordinate Descent for Regularized Optimization
块坐标下降法是求解具有块可分结构的大规模正则化最优化问题的一种常用框架。现有的方法有几个局限性。他们通常假设子问题可以在每次迭代中精确求解，这在实际中通常限制子问题中的二次项是对角的，从而失去了高阶导数信息的大部分好处。此外，与平滑情况相比，块的非均匀采样尚未被证明可以提高正则化问题的收敛速度界限。本文提出了一种基于正则化二次子问题的不精确随机BCD方法，其中二次项可以从迭代到迭代而变化：一个“可变度量”。我们提供了一个详细的收敛性分析凸和非凸问题。我们的分析推广到正则化的情况下Nesterov的建议，以提高收敛的BCD块的Lipschitz常数成比例的采样。我们通过削弱对初始目标值的依赖性来提高凸情形下的收敛速度。实证结果还表明，使用可变指标会产生显著的效益。
2019-11-01 math.OC
Inexact Proximal Cubic Regularized Newton Methods for Convex Optimization
在本文中，我们使用近似三次正则化牛顿方法（PCNM）优化光滑凸函数和非光滑凸函数的总和，其中我们使用不精确梯度和Hessian，以及三次正则化二阶子问题的不精确子求解器。我们分别提出了PCNM和加速PCNM的不精确变体，并证明了这两种变体可以达到与精确情况相同的收敛速度，前提是不精确梯度、Hessian和子求解器中的误差以适当的速率减小。同时，在数据源源不断的在线随机设置中，我们给出了所提出的算法的总体复杂度，并表明它们与随机梯度下降一样具有竞争力。此外，我们给出了所提出的算法在有限和设置的整体复杂性，并表明它是最先进的方差减少算法的竞争力。最后，我们提出了一个有效的算法的立方正则二阶子问题，它可以收敛到一个足够小的邻域的最优解在一个超线性的速度。
2019-02-26 math.OC
An Inexact Proximal Linearized DC Algorithm with Provably Terminating Inner Loop
针对现有不精确DC算法内循环无法保证有限终止的问题，本文利用ε-次微分提出了不精确近端线性化DC算法tPLDCA，在保证收敛性的同时实现了内循环有限次终止，并给出了可行实现与数值验证。
2025-09-16 math.OC
Inexact Sequential Quadratic Optimization with Penalty Parameter Updates Within the QP Solve: Extended Version
本文主要研究了求解大规模非线性最优化问题的序列二次优化方法的设计。这种方法的计算要求最高的方面是在每次迭代过程中的搜索方向的计算，为此，我们考虑使用无矩阵方法。特别是，我们开发了一种方法，需要一个不精确的解决一个单一的QP子问题，建立整体SQP方法的收敛性。众所周知，SQP方法可能受到整体收敛机制的不良行为的困扰。为了解决这个问题，我们建议使用一个精确罚函数与动态罚参数更新策略，以这样一种方式，所得到的搜索方向预测的可行性和最优性的进展内采用的子问题求解器。我们提出了我们的参数更新策略，并证明，在合理的假设下，该策略不修改的罚参数不必要的。我们还讨论了一个矩阵的自由子问题求解器中，我们的更新策略可以纳入。最后，我们讨论了数值实验的结果，说明了我们提出的技术的好处。
2020-02-26 math.OC
SI-ADMM: A Stochastic Inexact ADMM Framework for Stochastic Convex Programs
考虑了结构化随机凸规划问题，要求在约束$Ax + By = b$下最小化$\mathbb{E}[\tilde f(x,ξ)]+\mathbb{E}[\tilde g(y,ξ)]$.出于对分散方案和结构的需要，我们提出了一个随机不精确ADMM（SI-ADMM）框架，其中子问题通过随机逼近方案不精确地解决。基于这个框架，我们证明了：（i）在每次迭代所用样本的批量大小的适当假设下，SI-ADMM方案产生一个几乎必然收敛于唯一解的序列;（二）如果梯度级数（或等效地，采样梯度的数量）以几何速率增加，均方误差以规定的几何速率减小到零;（iii）在梯度步长（或等效样本）方面的总迭代复杂度被发现与$\mathcal{O}(1/ε)$的规范水平一致。LASSO和分布式回归的初步应用表明，该计划表现良好相比，它的竞争对手。
2019-12-15 math.OC
Regularized Adaptive Momentum Dual Averaging with an Efficient Inexact Subproblem Solver for Training Structured Neural Network
National Taiwan University（台湾大学）；Institute of Statistical Mathematics（统计数理研究所）
本文提出正则化自适应动量对偶平均算法 RAMDA，通过设计非精确子问题求解器和利用流形识别理论，在保证收敛的同时获得局部最优模型结构，并在大规模视觉、语言和语音任务中优于现有方法。
2024-12-26 cs.LG math.OC
An FE-dABCD algorithm for elliptic optimal control problems with constraints on the gradient of the state and control
本文考虑了状态梯度上具有积分约束和控制上具有盒约束的椭圆控制问题。证明了问题的最优性条件。为了用数值方法解决这个问题，我们使用“先离散，再优化”的方法。具体来说，我们离散的状态和控制的分段线性函数。为了有效地求解离散化问题，首先通过对偶将其转化为多块无约束凸优化问题，然后将不精确优化加速块坐标下降（imABCD）算法推广到求解该问题，整个算法框架称为基于有限元对偶的不精确优化加速块坐标下降（FE-dABCD）算法.由于FE-dABCD算法的不精确性，每个子问题都可以不精确地求解。对于光滑子问题，采用带预条件子的广义极小残量（GMRES）方法求解;对于非光滑子问题，通过引入适当的近似项，一个子问题得到了封闭解，另一个子问题结合半光滑牛顿（SSN）方法求解。基于这些有效的策略，我们证明了我们提出的FE-dABCD算法具有$O(\frac{1}{k^2})$迭代复杂度。数值实验结果表明了FE-dABCD算法的有效性。
2018-10-03 math.OC
On Inexact Accelerated Proximal Gradient Methods with Relative Error Rules
最流行和最重要的一阶迭代之一是“快速迭代收缩/保持算法”（FISTA），它提供了经典的近端梯度法（PGM）的最佳复杂度。本文研究了极小化两个凸函数和的两种不精确形式的FISTA。所提出的计划不精确地解决他们的子问题，使用相对误差标准，而不是外生和减少误差的规则。当近端操作者的评估是困难的，不精确版本的FISTA是必要的，这里提出的相对误差规则可能比以前的误差规则具有一定的优势。两种算法都具有相同的FISTA最优收敛速度。一些数值实验报告，以说明新方法的数值行为。
2020-05-07 math.OC
A Relative Inexact Proximal Gradient Method with an Explicit Linesearch
针对目标函数为全定义域可微凸函数与非可微凸函数之和的复合凸优化问题，提出带显式线搜索的相对不精确邻近梯度法，证明收敛性并建立迭代复杂度，数值实验验证其实际有效性。
2025-04-14 math.OC
A New Inexact Proximal Linear Algorithm with Adaptive Stopping Criteria for Robust Phase Retrieval
Penn State University（宾夕法尼亚州立大学）；Rice University（莱斯大学）
针对鲁棒相位恢复这一非光滑非凸优化问题，提出带两种自适应停止准则的非精确近端线性算法，实验证明其比现有方法更高效。
2024-02-08 cs.LG eess.SP math.OC
Inexact Coordinate Descent: Complexity and Preconditioning
School of Mathematics（数学学院）；University of Edinburgh（爱丁堡大学）
本文研究了用随机块坐标下降法求解凸函数极小化问题。算法每次迭代的关键步骤之一是确定变量块的更新。现有的算法假设，为了计算更新，一个特定的子问题是完全解决的。在他的工作中，我们放松了这一要求，并允许子问题得到不精确的解决，导致不精确的块坐标下降法。我们的方法采用了最知名的结果作为一个特殊的情况下，确切的更新。此外，这些理论上的保证是由实际考虑补充：使用迭代技术来确定更新以及使用预处理进一步加速。
2014-12-10 cs.AI math.OC stat.ML
Acceleration of SVRG and Katyusha X by Inexact Preconditioning
经验风险最小化是一类重要的最优化问题，在机器学习中有着广泛的应用，随机方差缩减方法是解决这类问题的常用方法。在这些方法中，SVRG和Katyusha X（Nesterov加速的SVRG）实现了快速收敛，而无需大量的内存需求。在本文中，我们提出了\textit{inexact preconditioning}加速这两个算法，所提出的方法使用\textit{fixed}预处理器，虽然在每个时期的子问题变得更加困难，它足以应用\textit{fixed}数量的简单的子程序来解决它不精确，而不会失去整体的收敛性。因此，这种不精确的预处理策略可以证明比SVRG和Katyusha X具有更好的迭代复杂度和梯度复杂度。我们还允许每个函数的有限和是非凸的，而总和是强凸的。在我们的数值实验中，我们观察到一个平均$8\times$加速迭代次数和$7\times$加速运行时。
2019-05-23 math.OC
Stopping Rules for Gradient Method for Saddle Point Problems with Twoside Polyak-Lojasievich Condition
本文针对满足双侧Polyak-Lojasievich条件的鞍点问题，基于不精确梯度方法提出一种以外部子问题不精确梯度范数微小性为依据的停止规则，并辅以数值实验验证了其确保求解质量的有效性。
2023-07-26 math.OC
An Adaptive Sampling Sequential Quadratic Programming Method for Equality Constrained Stochastic Optimization
本文提出了一种在序列二次规划（SQP）方法中使用变样本量求解等式约束随机最优化问题的方法。本文的第一部分涉及的微妙问题的动态样本选择的梯度结合不精确的解决方案的SQP子问题的评价。在合理假设的质量梯度近似和SQP子问题的解决方案的准确性，我们建立了整体收敛结果所提出的方法。基于这些结果，本文的第二部分描述了一个实用的自适应不精确随机序列二次规划（PAIS-SQP）方法。我们提出的标准控制的样本量和精度的SQP子问题的解决方案的基础上获得的随机梯度近似的方差估计的优化进展。最后，我们展示了一个子集的CUTE问题和约束分类任务的实际方法的性能。
2023-03-21 math.OC
On Some Versions of Subspace Optimization Methods with Inexact Gradient Information
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Research Center for Artificial Intelligence, Innopolis University（因诺波利斯大学人工智能研究中心）；National Research University Higher School of Economics（国立高等经济大学）；V. Vernadsky Crimean Federal University（V.维尔纳茨基克里米亚联邦大学）
针对带不精确梯度的凸优化问题，提出基于子空间优化的一阶方法改进，研究其在不同不精确条件下的收敛性及对拟凸函数的推广，拓展了加速梯度方法的适用场景。
2026-08-13 math.OC
On the Oracle Complexity of a Riemannian Inexact Augmented Lagrangian Method for Riemannian Nonsmooth Composite Problems
本文研究黎曼非光滑复合优化，证明带经典对偶更新的 RiAL 方法通过非精确内子问题求解仅需 O(ε^{-3}) 次一阶预言机调用即可找到 ε-稳定点，达到已知最优复杂度。
2024-10-02 math.OC
Optimal Aggregation of Blocks into Subproblems in Linear-Programs with Block-Diagonal-Structure
当可用并行处理单元的数目至少等于块的数目时，通过将线性规划分解为尽可能多的小尺寸子问题，每个块产生一个单独的子问题，最小化了具有块对角结构的线性规划的求解的挂钟时间.当并行处理能力受到限制时，情况就不一定如此了，这会导致多个子问题在同一个处理单元上串行求解。在这种情况下，最好将块聚合成更大的子问题。最佳的聚合策略取决于所使用的计算平台，并最大限度地减少平均情况下的运行时间的子问题。我们证明，当块大小不相等时，最优聚合是NP难的，而当块大小相等时，最优聚合可以在多项式时间内实现。
2015-08-10 cs.CC cs.DM math.OC
An Inexact Proximal Framework for Nonsmooth Riemannian Difference-of-Convex Optimization
本文提出不精确黎曼近端DC（iRPDC）框架，用于求解含非光滑DC项的非光滑黎曼优化问题，首次建立与$\ell_0$正则化的等价性，并实现匹配最优的$\mathcal{O}(\epsilon^{-3})$整体复杂度，在稀疏PCA上验证了有效性。
2025-09-10 math.OC
An Inexact Trust-Region Method for Structured Nonsmooth Optimization with Application to Risk-Averse Stochastic Programming
Sandia National Laboratories（桑迪亚国家实验室）
本文提出一种近似信任区域方法，用于解决包含光滑函数、非光滑凸函数及光滑函数与有限值支撑函数的组合的优化问题，并在风险厌恶随机规划中应用。方法允许使用不精确的函数值和导数信息，可解决由偏微分方程等约束的无限维问题，证明了方法的全局收敛性。
2026-10-22 math.OC
A Riemannian exponential augmented Lagrangian method for computing the projection robust Wasserstein distance
将距离测度投影到低维空间上是使用最优输运减轻经典Wasserstein距离中的维数灾难的有效方式。所获得的最大化的距离被称为投影鲁棒Wasserstein（PRW）距离。本文将PRW距离的计算等价地转化为Stiefel流形和欧几里得空间的笛卡儿积上的一个最优化问题，并附加了非线性不等式约束.我们提出了一种具有整体收敛保证的黎曼指数增广拉格朗日方法来解决这个问题。与现有的方法相比，ReALM可以潜在地避免太小的罚参数。此外，我们提出了一个框架的不精确黎曼梯度下降法，有效地解决了子问题的ReALM。特别地，利用子问题的特殊结构，我们给出了一个实用的算法，称为不精确RiemannianBarzilai-Borwein方法与Sinkhorn迭代（iRBBS）。iRBBS算法的显著特点在于，它通过灵活的Sinkhorn迭代次数来计算问题投影矩阵的不精确梯度，并采用基于不精确梯度信息的Barzilai-Borwein步长来提高算法性能.我们表明，iRBBS可以返回一个$ε$ -静止点的原始PRW距离问题内$\mathcal{O}(ε^{-3})$迭代。在合成和真实数据集上的大量数值结果表明，我们提出的ReALM和iRBBS在计算PRW距离方面优于最先进的求解器。
2022-11-24 math.OC
Accelerated Inexact Composite Gradient Methods for Nonconvex Spectral Optimization Problems
针对一类非凸谱复合最优化问题，提出了两种不精确复合梯度法，一种是内加速法，另一种是双加速法。更具体地说，这些问题的目标函数是$f_1 + f_2 + h$的形式，其中$f_1$和$f_2$是具有Lipschitz连续梯度的可微非凸矩阵函数，$h$是适当的闭凸矩阵函数，并且$f_2$和$h$都可以表示为对它们的输入的奇异值进行运算的函数。该方法基本上使用加速复合梯度法来解决一系列的近端子问题，涉及的线性逼近的$f_1$和奇异值函数的基础$f_2$和$h$。与其他基于复合梯度的方法不同，所提出的方法利用了目标函数的复合结构和谱结构，以有效地生成它们的解决方案。数值实验表明，这些方法的实用性，一组现实世界和随机生成的谱最优化问题。
2022-05-03 math.OC
Optimal inexactness schedules for Tunable Oracle based Methods
本文研究可调非精确 oracle 的一阶优化方法，提出最优非精确性调度策略，在收敛性与计算成本间取得最佳折中，并通过 Fast Gradient 算法的数值实验验证了其实际有效性。
2023-09-14 math.OC
Inexact Block Coordinate Descent Algorithms for Nonsmooth Nonconvex Optimization
Fraunhofer Institute for Industrial Mathematics（弗劳恩霍夫工业数学研究所）；Technische Universität Darmstadt（达姆施塔特工业大学）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of Luxembourg（卢森堡大学）
针对大规模非光滑非凸最优化问题，提出了一种不精确块坐标下降算法。在每次迭代中，通过相对于特定块变量不精确地求解原始最优化问题来选择和更新该块变量。更确切地说，原始最优化问题的局部近似被求解。该算法具有以下特点：（1）灵活性高，逼近函数只需是严格凸的，而不必是原函数的全局上界;（2）收敛速度快，逼近函数可以根据问题结构设计，步长由线搜索计算; iii）低复杂性，因为近似子问题更容易解决，并且线搜索方案在适当构造的可微函数上进行; iv）保证子序列收敛到稳定点，即使当目标函数不具有Lipschitz连续梯度时。有趣的是，当近似子问题由下降算法求解时，即使近似子问题在有限次迭代后通过终止下降算法而不精确地求解，子序列收敛到不动点仍然是有保证的。这些功能使得所提出的算法适合于大规模的问题，其中的尺寸超过了内存和/或现有硬件的处理能力。这些特征也通过信号处理和机器学习中的几个应用来说明，例如，网络异常检测和相位恢复。
2019-12-11 cs.DC cs.LG math.OC
Inexact Accelerated Proximal Gradient Method Revisit: An Economical Variant via Shadow Points
Singapore University of Technology and Design（新加坡科技设计大学）
本文提出SpinAPG方法，通过引入影点实现不精确APG方法的改进，保留加速收敛特性并减少计算开销。
2026-02-11 math.OC
First-Order Methods for Solving Convex (Strongly) Concave Minimax Problems with Functional Constraints
Rensselaer Polytechnic Institute（伦斯勒理工学院）
针对带函数约束的凸-(强)凹极小极大问题，利用强对偶性将约束融入目标，提出近端增广拉格朗日方法(PALM)，通过非精确加速近端梯度法求解子问题，在凸-强凹情形下达到~O(ε^{-1})的复杂度。
2026-06-18 math.OC
Inexact Bregman Proximal Gradient Method and its Inertial Variant with Absolute and Partial Relative Stopping Criteria
针对BPGM子问题精确求解不现实的问题，本文开发带绝对/部分相对停止准则的不精确版本iBPGM及惯性变体v-iBPGM，建立收敛速率并通过数值实验验证其在不同不精确性设置下的收敛行为。
2025-04-15 math.OC
Distributed optimization on directed graphs based on inexact ADMM with partial participation
针对有向图网络中的分布式成本函数求和最小化问题，提出基于非精确 ADMM 与部分参与机制的分布式优化算法，在标准假设下证明了线性收敛性，其收敛速率优于 Push-DIGing 且显著节省计算与通信开销。
2023-04-01 math.OC
An Inexact Augmented Lagrangian Method for $(L_0, L_1)$-Smooth Convex Optimization
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Innopolis University（因诺波利斯大学）；Adyghe State University（阿迪格国立大学）；V. I. Vernadsky Crimean Federal University（V.I.维尔纳茨基克里米亚联邦大学）
本文针对带$(L_0, L_1)$-光滑目标函数的线性约束凸优化问题，提出一种不精确增广拉格朗日方法，结合两阶段加速过程求解，突破了经典方法的梯度利普希茨连续性假设限制。
2026-09-02 math.OC
An inexact proximal augmented Lagrangian framework with arbitrary linearly convergent inner solver for composite convex optimization
针对复合凸优化问题，提出了一种具有显式内问题终止规则的非精确近似增广拉格朗日框架。我们考虑任意线性收敛的内部求解器，特别是随机算法，使所得到的框架更可扩展性，面对不断增加的问题维度。每个子问题都不精确地解决了一个明确的和自适应的停止标准，而不需要设置一个先验的目标精度。当原始域和对偶域有界时，我们的方法分别在强凸和非强凸情况下，实现了$O(1/\sqrtε)$和$O(1/ε)$复杂性界的内部求解器迭代次数。在没有有界性假设的情况下，只需要增加对数项，上述两个复杂性界分别增加到$\tilde O(1/\sqrtε)$和$\tilde O(1/ε)$，对于获得$ε$-最优解和$ε$-KKT解，这两个复杂性界都成立.在我们提出的一般框架内，我们还获得了在相对光滑假设下，关于目标函数的可微分量的$\tilde O(1/ε)$和$\tilde O(1/{ε^2})$复杂性界。我们通过理论分析和数值实验表明，使用随机内求解器的大规模问题可能实现的计算加速。
2019-09-20 math.OC
An augmented Lagrangian trust-region method with inexact gradient evaluations to accelerate constrained optimization problems using model hyperreduction
提出一种增广拉格朗日信赖域方法，结合即时构建的超降阶模型和不精确梯度评估，高效求解偏微分方程约束优化问题，在气动外形设计中实现12.7倍加速。
2024-05-23 cs.NA math.NA math.OC
Convergence rates for an inexact linearized ADMM for nonsmooth nonconvex optimization with nonlinear equality constraints
针对带非线性等式约束的非光滑非凸双块优化问题，提出一种非精确线性化ADMM算法，通过线性化与动态正则化构建易解子问题，利用Lyapunov论证证明其$\mathcal{O}(ε^{-2})$迭代复杂度及在KL条件下的全局收敛性。
2025-03-02 math.OC
An inexact proximal DC algorithm with sieving strategy for rank constrained least squares semidefinite programming
本文考虑了用于数据降维（DR）的有监督距离保持投影（SDPP）的最优化问题，该问题等价于秩约束最小二乘半定规划（RCLSSDP）。为了克服秩约束带来的困难，采用凸差分正则化策略，将RCLSSDP转化为一系列带DC正则化的最小二乘半定规划（DCLSSDP）.提出了一种带筛选策略的非精确邻近DC算法（s-iPDCA）求解DCLSSDP，其子问题采用加速块坐标下降法（ABCD）求解.收敛性分析表明，生成的s-iPDCA序列全局收敛于相应DC问题的平稳点.通过对COIL-20数据库的DR实验，将s-iPDCA算法与经典的邻近DC算法（PDCA）和PDCA外推算法（PDCAe）进行了比较，结果表明，s-iPDCA算法在求解效率上优于PDCA和PDCAe算法.在ORL数据库和YaleB数据库上进行的DR人脸识别实验表明，秩约束核SDPP（RCKSDPP）与核半定SDPP（KSSDPP）和核主成分分析（KPCA）的识别率相比，具有较好的识别效果。
2021-05-26 math.OC
A Parallel Dual Fast Gradient Method for MPC Applications
针对离散时间系统的线性模型预测控制问题，提出了一种基于不精确数值优化算法和算子分裂方法的并行自适应约束收紧方法.底层算法首先将原始问题分解为与预测范围长度一样多的独立子问题。然后，我们的算法计算这些子问题的解决方案并行利用辅助收紧子问题，以证明控制律的次优性和递归的可行性，以及闭环控制系统的稳定性。与基于约束收紧的先前方法相比，我们的算法计算每个子问题的收紧参数，以处理由原始问题的并行化引入的错误的传播。我们的模拟表明，与最近的非并行自适应收紧计划相比，并行化的计算效益与性能和数值调节的积极影响。
2015-03-21 math.OC
Convergence and Complexity Guarantee for Inexact First-order Riemannian Optimization Algorithms
本文提出切向块主元化-最小化框架tBMM，为非精确黎曼梯度下降等一阶算法在非凸约束情形下提供O(ε^{-2})收敛复杂度保证，并通过多类问题验证其性能优势。
2024-05-09 math.OC stat.ML
An Optimization Framework with Flexible Inexact Inner Iterations for Nonconvex and Nonsmooth Programming
Dalian University of Technology（大连理工大学）
近年来，许多视觉和学习任务已经（重新）制定为非凸和非光滑规划（NNPs）。虽然已经提出了一些算法，为特定的问题，设计快速和灵活的优化方案的理论保证是一个具有挑战性的任务一般NNPs。非精确内迭代算法的收敛性问题还不清楚，但它在某些特殊情况下是有用的。基于这些实践经验，本文设计了一种新的算法框架，命名为不精确邻近交替方向法（iPad）求解一般NNPs。我们证明，任何数值算法可以被纳入iPad解决子问题和由此产生的混合计划的收敛性可以始终保证由一系列简单的错误条件。除了理论上的保证之外，对合成数据和真实数据的数值实验进一步证明了我们的iPad框架在实际应用中的优越性和灵活性。
2017-06-30 cs.CV math.OC
An inexact regularized proximal Newton method for nonconvex and nonsmooth optimization
本文针对非凸非光滑优化问题，提出基于KKT残差幂次海森近似的非精确正则化近似牛顿法，证明了不同参数下的收敛性与收敛速率，并通过数值实验验证了方法的高效性。
2023-11-08 math.OC
A multi-level ADMM algorithm for elliptic PDE-constrained optimization problems
本文研究了控制上带盒约束的椭圆偏微分方程约束最优化问题。为了数值求解该问题，我们应用“优化-离散-优化”策略。首先在函数空间中采用乘子的交替方向法（ADMM）算法，然后在每次迭代中采用标准的分段线性有限元方法对子问题进行离散。最后，根据子问题的结构，采用有效的数值方法求解离散子问题。受多级策略思想的启发，我们提出了逐步细化网格的策略，而不是在计算过程之前固定网格步长。此外，在每次迭代的子问题求解不精确。基于上述策略，提出了一种高效的收敛多级ADMM（mADMM）算法。对求解偏微分方程约束最优化问题，给出了算法的收敛性分析和迭代复杂度结果o（1/k）.数值结果表明了mADMM算法的高效性。
2019-08-13 math.OC
An Inexact Variable Metric Proximal Gradient-subgradient Algorithm for a Class of Fractional Optimization Problems
Sun Yat-sen University（中山大学）；Guangzhou University（广州大学）；Shenzhen University（深圳大学）
研究一类分数优化问题，提出不精确变度量近端梯度 - 次梯度算法（iVPGSA），它能灵活近似求解子问题，适应性强且效率高。基于KL性质证明其全局收敛并刻画速率，数值实验显示该算法优于现有算法。
2026-10-22 math.OC
From Inexact Gradients to Byzantine Robustness: Acceleration and Optimization under Similarity
Centre de Mathématiques Appliquées, École polytechnique, Institut Polytechnique de Paris, Palaiseau France（应用数学中心、巴黎高等理工学院、巴黎理工研究所，Palaiseau法国）；Centre Inria de l'Univ. Grenoble Alpes, CNRS, LJK, Grenoble, France（格勒诺布尔阿尔卑斯大学Inria中心、法国国家科学研究中心、LJK，格勒诺布尔法国）
本文提出通过不精确梯度 oracle 将拜占庭鲁棒分布式优化问题转化为一般优化问题，并提出两种加速方案以提升收敛速度。
2026-02-03 cs.LG math.OC
An Inexact Proximal Path-Following Algorithm for Constrained Convex Minimization
许多科学和工程应用的特点非光滑凸极小化问题的凸集。在本文中，我们解决这个广泛的类，我们假设非光滑的目标是配备了一个听话的接近算子和凸约束集提供了一个自我和谐的障碍的一个重要实例。我们提供了一个新的联合治疗的近和自协调障碍的概念，并说明，这样的问题可以有效地解决，而不需要提升的问题的尺寸，在纪律凸优化的方法。我们提出了一个不精确的路径跟踪算法框架，并从理论上描述了该框架的最坏情况下的分析复杂性时，邻近的子问题得到不精确的解决。为了展示我们的框架的优点，我们将其实例应用于合成和现实世界的应用程序，在那里它显示出优于标准内点方法的优势。作为一个副产品，我们描述了我们的框架如何可以获得点的帕累托边界的正则化问题与自我和谐的目标在一个调整自由的方式。
2014-06-20 math.OC stat.ML
