An inexact golden ratio primal-dual algorithm with linesearch step for a saddle point problem
College of Science, Chongqing University of Posts and Telecommunications(重庆邮电大学理学院)
本文提出带线搜索的非精确黄金比例原始-对偶算法IP-GRPDAL,通过凸组合替代外推实现更大步长,证明了O(1/N)遍历收敛率,并在强凸条件下获得加速O(1/N²)及线性收敛速率。
2025-09-20 math.OC
A golden ratio primal-dual algorithm for structured convex optimization
设计、分析和测试了一种求解结构凸优化问题的黄金比例原始对偶法(GRPDA),其中目标函数是两个闭正常凸函数之和,其中一个函数包含一个线性变换的复合函数. GRPDA保留了经典原始对偶法(PDA)的所有有利特征,即,原始变量和对偶变量以Gauss-Seidel方式更新,并且每次迭代成本由两个分量函数和两个矩阵-向量乘法的邻近点映射的评估来支配。与传统的PDA相比,GRPDA的新颖之处在于它是基于基本上整个迭代轨迹的凸组合构造的。我们发现,GRPDA收敛在一个更广泛的参数范围内比经典的PDA,只要倒数的凸组合参数是有界的黄金分割比,这解释了算法的名称。基于原始-对偶间隙函数,建立了O(1/N)遍历收敛速度的结果,其中N表示迭代次数。当原问题或对偶问题为强凸问题时,构造了一个加速GRPDA,将遍历收敛速度从O(1/N)提高到O(1/N2).此外,我们证明了正则化最小二乘和线性等式约束问题的凸组合参数的倒数可以从黄金分割率扩展到2,同时可以采取松弛步骤。通过对LASSO、非负最小二乘和极大极小矩阵对策问题的数值计算,并与现有算法进行比较,验证了本文算法的有效性.
2020-08-29 math.OC
A Hybrid Algorithm for Monotone Variational Inequalities
Delft University of Technology(代尔夫特理工大学);University of Toronto(多伦多大学)
本文提出两种新方法解决单调变分不等式问题,通过调整动量参数提升收敛速度,并在多个机器学习和控制领域的问题中验证了算法性能。
2026-04-04 math.OC
A modified subgradient extragradient method for solving the variational inequality problem
Censor等人在\cite{CGR}中提出了求解变分不等式(VI)问题的次梯度外梯度方法,该方法将外梯度方法中VI问题在可行集上的第二次投影改为在可构造半空间上的次梯度投影.由于该方法已被引入,许多作者提出了扩展和修改与应用程序的各种问题。本文通过改进次梯度外梯度法第二步的步长,提出了一种改进的次梯度外梯度法。在标准和温和的条件下证明了算法的收敛性,并通过数值实验验证了该算法的性能和优越性。
2018-01-02 math.OC
Solving Problems with Inconsistent Constraints with a Modified Augmented Lagrangian Method
我们提出了一种数值方法,用于最小化约束最优化问题的目标是增加了大的二次处罚不一致的等式约束。这样的目标产生于二次积分罚函数法的直接转录的最优控制问题。增广拉格朗日方法(ALM)与二次罚函数法(QPM)相比具有许多优点。然而,如果等式约束不一致,则ALM可能不会收敛到使目标和惩罚项的偏差最小化的点。因此,我们提出了一个修改的ALM,适合我们的目的。我们证明了修改后的方法的收敛性,并将其局部收敛速度限制在未修改方法的收敛速度之内。数值实验表明,修改后的ALM可以最小化某些二次惩罚增广函数快于QPM,而未修改的ALM收敛到一个显着不同的问题的最小值。
2021-08-13 math.OC
Modified Legendre-Gauss-Radau Collocation Method for Solving Optimal Control Problems with Nonsmooth Solutions
提出了一种求解非光滑解的最优控制问题的新方法。本文提出的方法采用了Legendre-Gauss-Radau正交直接配置法的一种改进形式。这种改进的Legendre-Gauss-Radau方法与以前开发的标准Legendre-Gauss-Radau配置法相比,在网格间隔的末端增加了两个变量和两个约束。两个附加变量是两个网格间隔之间的界面处的时间和每个网格间隔结束时的控制。这两个额外的约束条件是配置条件的那些微分方程,取决于控制和不等式约束的控制在每个网格间隔的端点。附加的约束修改的搜索空间的非线性规划问题,这样一个精确的近似的位置的非光滑性。然后发展了修正Legendre-Gauss-Radau方法的变换伴随系统。利用这种变换后的伴随系统,提出了一种将非线性规划问题的Lagrange乘子变换为最优控制问题的协态的方法。进一步证明了协态估计满足Weierstrass-Erdmann最优性条件.最后,通过一个非光滑问题的算例验证了本文方法的有效性。
2020-11-08 math.OC
On inexact relative-error hybrid proximal extragradient, forward-backward and Tseng's modified forward-backward methods with inertial effects
本文提出并研究了求解单调包含问题的一种惯性欠松弛的相对误差混合邻近超梯度(HPE)方法的渐近收敛性和非渐近整体收敛速度(迭代复杂度).我们分析了所提出的方法下更灵活的假设比现有的外推和相对误差参数。作为应用,我们提出和/或研究了求解结构单调包含的惯性欠松弛前后向和Tseng的修正前后向方法。
2018-12-05 math.OC
Fixed-Time Stable Proximal Dynamical System for Solving MVIPs
本文提出了一种新的修正邻近动力系统来计算混合变分不等式问题(MVIP)在固定时间内的解,其中收敛时间是有限的,并且对所有初始条件是一致有界的.在强单调性和Lipschitz连续性的假设下,证明了修正的邻近动力系统解的存在性、唯一性和在一定时间内收敛到相应的MVIP的唯一解.此外,修正投影动力系统的固定时间稳定性继续保持,即使强单调性的假设放宽到强伪单调性。最后,它表明,使用前向欧拉离散化的建议修改近端动力系统得到的解决方案收敛到一个任意小的邻域内的解决方案的相关MVIP在一个固定的时间步长,独立的初始条件。
2022-10-19 math.OC
A structured modified Newton approach for solving systems of nonlinear equations arising in interior-point methods for quadratic programming
针对二次规划内点法中障碍子问题的非线性方程组,提出保留 Jacobian 非零结构的低秩修正牛顿法,并通过理论结果、数值实验及两种启发式策略验证其性能。
2023-05-03 math.OC
Asymptotic Properties of a Forward-Backward-Forward Differential Equation and Its Discrete Version for Solving Quasimonotone Variational Inequalities
本文研究拟单调变分不等式的FBF微分方程及其离散版本的渐近性质,扩展连续方法至拟单调算子,提出基于黄金分割的Bregman型离散算法,在弱条件下获收敛性,放宽Lipschitz要求,数值实验验证有效性。
2025-08-26 math.OC
Solving a Special Type of Optimal Transport Problem by a Modified Hungarian Algorithm
在基于Wasserstein距离的独立性检验中,计算经验Wasserstein距离是一个具有特殊结构的最优输运(OT)问题。这一观察启发我们研究一种特殊类型的OT问题,并提出一种改进的匈牙利算法来精确求解它。对于包含两个分别含有$m$和$n$原子的边元($m\geq n$)的OT问题,算法的计算复杂性为$O(m^2n)$ .在独立性测试中计算经验Wasserstein距离需要解决这种特殊类型的OT问题,其中$m=n^2$。所提出的算法的相关计算复杂性是$O(n^5)$,而应用经典匈牙利算法的顺序是$O(n^6)$。除了上述特殊类型的OT问题,它表明,修改后的匈牙利算法可以采用解决更广泛的OT问题。该算法的更广泛的应用进行了讨论-解决一对多分配问题和多对多分配问题。我们进行数值实验来验证我们的理论结果。实验结果表明,改进的匈牙利算法优于匈牙利算法,著名的Sinkhorn算法,网络单纯形算法。
2023-03-01 math.OC stat.ML
Viscosity Iterative algorithm for solving Variational Inclusion and Fixed point problems involving Multivalued Quasi-Nonexpansive and Demicontractive Operators in real Hilbert Space
针对含多值拟非扩张与半压缩算子的变分包含及不动点问题,提出结合黏性逼近和额外迭代序列的改进通用迭代算法,并证明其强收敛性。
2025-01-11 math.OC
A Distributed Continuous-time Modified Newton-Raphson Algorithm
提出了一个求解具有有界Hessian的无约束凸优化问题的连续时间二阶优化算法。我们表明,这种替代算法具有可比的收敛速度的连续时间的牛顿-拉夫逊方法,但在结构上,它是服从一个更有效的分布式实现。我们提出了一个分布式实现我们提出的优化算法,并通过李雅普诺夫分析证明其收敛性。一个数值例子证明了我们的结果。
2021-05-20 math.OC
Modified Legendre-Gauss Collocation Method for Solving Optimal Control Problems with Nonsmooth Solutions
本文提出修正 Legendre-Gauss 配点法,通过在网格区间端点引入切换时间变量、控制变量和配点条件,准确求解控制不连续的非光滑最优控制问题,并验证其满足离散最优性必要条件。
2024-06-10 math.DS math.OC
More on Modulus Based Iterative Method for Solving Implicit Complementarity Problem
提出了一类改进的新的基于模的迭代法来处理大型稀疏隐式互补性问题。利用两个正的对角矩阵,建立了一个与ICP等价的不动点方程,并在此不动点方程的基础上,给出了求解ICP的迭代法.当系统矩阵为$P$ -矩阵或$H_+$ -矩阵时,我们给出了所提方法的收敛条件.
2023-03-22 math.OC
An Oblivious Ellipsoid Algorithm for Solving a System of (In)Feasible Linear Inequalities
椭球算法是计算$n$变量$(P): A^{\top}x \le u$的$m$线性不等式组的解的基本算法,当其解集具有正体积时。然而,当$(P)$是不可行的,椭圆算法没有机制来证明$(P)$是不可行的。这与处理$(P)$的另外两种基本算法,即单纯形法和边界点法形成对比,其中的每一种都可以以产生$(P)$的解或通过产生替代系统$\mathrm{({\it Alt})}: Aλ= 0$、$u^{\top}λ< 0$、$λ\ge 0$的解来证明$(P)$不可行的方式容易地实现。本文提出了一种不经意椭球算法(OEA),它可以产生$(P)$的解,也可以产生$\mathrm{({\it Alt})}$的解。根据尺寸和其他自然条件的措施,基本OEA的计算复杂性可能比标准椭球算法更差,相同或更好。我们还提出了两个修改版本的OEA,其计算复杂度优于OEA时,$n \ll m$。这在第一修改版本中通过证明不可行性而实际上不产生$\mathrm{({\it Alt})}$的解来实现,并且在第二修改版本中通过使用更多的存储器来实现。
2020-12-28 math.OC
Solving a new application of asymmetric TSP by modified migrating birds optimization algorithm
在本研究中,我们首先介绍了一个新的应用的不对称流动推销员问题(ATSP),这是一个小餐馆,一个厨师和一个炉子。一旦一顿饭开始在炉子上烹饪,厨师就在桌子上准备下一顿饭,准备时间取决于上一顿饭。对于这个问题的解决方案,除了几个简单的构造算法和一个新版本的模拟退火算法,我们专注于最近推出的候鸟优化(MBO)算法的增强版本。原始MBO算法可能会遭受早期收敛。在这里,我们介绍几种不同的方法来处理这个问题。进行了广泛的数值实验表明,增强型MBO的优越性超过原来的MBO(约2.62%)和模拟退火算法(约1.05%)。
2023-01-12 math.CO math.OC
Modified FOX Optimizer for Solving optimization problems
针对FOX优化器易早熟收敛的问题,提出mFOX,通过反对学习、参数调整和新更新方程增强探索,在多个基准和工程问题上优于现有算法。
2025-02-27 cs.NE math.OC
A Modified Algorithm for Optimal Picker Routing in a Single Block Warehouse
本文提出一种改进算法,仅考虑通道间转移,减少动态规划阶段数,以更高效地求解单区块仓库的拣货员最优路径问题。
2024-09-20 math.OC
A numerical approach for solving fractional optimal control problems using modified hat functions
University of Mazandaran(马赞德兰大学);University of Aveiro(阿威罗大学);Universidade de Lisboa(里斯本大学)
本文提出一种基于改进帽函数的数值方法,用于求解一类分数最优控制问题。通过将控制变量和状态函数的分数导数表示为改进帽函数的线性组合,并利用Caputo意义下的分数导数和Riemann-Liouville积分算子来近似状态函数及其导数,将问题转化为非线性代数方程组的求解。同时证明了所提方法的误差界,并扩展到处理具有不等约束的分数最优控制问题,展示了该方法的简便性和准确性。
2019-05-16 cs.NA math.NA math.OC
Gradient descent procedure for solving linear programming relaxations of combinatorial optimization problems in parallel mode on extra large scale
线性规划(LP)松弛是求解组合优化(CO)难题的标准技术。在这里,我们提出了一个梯度下降算法,利用一些LP松弛CO问题引起的特殊结构。该算法可以并行运行,并以CUDA C/C++程序的形式在GPU上实现。通过求解一个分数2-匹配问题,验证了算法的有效性.我们的结果表明,分数2匹配问题与100,000节点的解决我们的算法在现代GPU上的规模为一秒,而单纯形方法解决问题将需要一个多小时。该算法可以修改,以解决更复杂的LP松弛来自CO问题。
2020-11-16 math.OC
Solving a multilevel linear programming problems through a new constructive approach
本文提出了一种求解多层单目标线性规划问题(ML(MO)LPP)的算法,其中嵌套了线性规划的构造性自适应算法。本程序是SB. Sinha和S. Sinha的线性规划方法。首先,我们建立一个地图,减少范围的决策变量是超过控制前一级的决策者,根据所选择的方法,称为范围减少地图。然后,我们用它来定义一个新的次优估计的自适应方法的问题正在考虑中。所有的建设阶段进行了仔细检查,并说明了一个数值例子。
2022-10-25 math.OC
A Note on the Convergence of ADMM for Linearly Constrained Convex Optimization Problems
本说明有两个目的。首先,我们构造了一个反例,证明了Boyd等人[Found. Trends Mach.学习. 3(1)1-122(2011)]可以是假的,如果没有先验条件的存在性的解决方案,所有涉及的子问题被假定为成立。其次,我们提出了相当温和的条件,以保证所有子问题的解决方案的存在性,并提供了严格的收敛性分析ADMM,在一个更一般和有用的半邻近ADMM(sPADMM)设置考虑Fazel等人[SIAM J.矩阵分析。34(3)946-977(2013)],具有计算上更有吸引力的大步长,其甚至可以超过实际上更优选的黄金比例$(1+\sqrt{5})/2$。
2016-02-22 math.OC
A Modified Adaptive Genetic Algorithm for Multi-product Multi-period Inventory Routing Problem
城市化和电子商务的最新发展推动企业部署高效的系统,以降低供应链成本。供应商管理库存(VMI)是有效管理多方供应链的最广泛使用的策略之一。VMI的实施要求解决库存路径问题(IRP)。本研究考虑多产品多周期存货路径问题,包含一供应商、一组顾客及一组异质车辆。由于IRP的复杂性,我们开发了一种改进的自适应遗传算法(MAGA),有效地解决了各种情况。作为基准,我们认为Cplex软件和一个有效的启发式从文献中获得的结果。通过对一组随机生成的实例进行大量的计算实验,并使用不同的度量,我们表明,我们的方法明显优于其他两种方法。
2021-04-24 math.OC
A Direct Method for Solving Integral Penalty Transcriptions of Optimal Control Problems
我们提出了一种数值方法,用于最小化的目标,增加了大的二次处罚的超定不一致的等式约束。这样的目标产生于等式约束最优控制问题的直接转录的二次积分惩罚方法。增广拉格朗日方法(ALM)在解决这类问题时比二次罚函数法(QPM)具有许多优点。然而,如果离散化的等式约束不一致,则ALM可能不会收敛到使目标和惩罚项的无约束偏差最小化的点。因此,在本文中,我们探讨了一个修改的ALM,符合我们的目的。数值实验表明,修改后的ALM可以最小化某些二次惩罚增广函数快于QPM,而未修改的ALM收敛到一个显着不同的问题的最小值。
2020-09-14 math.OC
Strong convergence of modified inertial Mann algorithms for nonexpansive mappings
本文介绍了求解不动点问题的两种新的修正惯性Mann Halpern算法和粘性算法。在适当的条件下,我们建立了强收敛定理。最后,我们的算法被应用到分裂可行性问题,凸可行性问题和选址理论。本文给出的算法和结果可以总结和改进这一领域的已有结果。
2020-01-21 math.FA math.OC
On the convergence rate improvement of a primal-dual splitting algorithm for solving monotone inclusion problems
Chemnitz University of Technology(开姆尼茨工业大学);prudsys AG(prudsys股份公司)
提出两种改进的原始-对偶分裂算法,在强单调性假设下实现O(1/n)和O(ω^n)收敛速度,并应用于图像处理和支持向量机分类。
2013-03-12 cs.NA math.NA math.OC
A modified MSA for stochastic control problems
经典的逐次逼近法(MSA)是求解随机控制问题的一种迭代法,它是由庞特里亚金最优性原理导出的。已知MSA可能无法收敛。本文通过对倒向随机微分方程(Besides)的精确估计,提出了一种改进的MSA算法。这种修改后的MSA收敛一般随机控制问题的漂移和扩散系数的控制。在一些附加的假设下,示出了收敛的收敛速率。与基于正倒向随机微分方程理论的迭代法相比,结果是有效的,不受控制问题的时间范围的限制。
2020-11-17 math.OC math.PR
A Scaled Gradient Modified Non-monotone Line Search Method for Constrained Optimization Problems
Center for General Education, China Medical University(中国医学院校通识教育中心);Department of Applied Mathematics, National Sun Yat-sen University(国立中山大学应用数学系)
本文提出一种缩放梯度修改非单调线搜索方法,用于求解约束最小化问题,并探讨其收敛性,针对强拟凸目标函数证明线性收敛性,通过大规模分数规划和二次规划数值实验验证方法性能。
2026-04-30 math.FA math.OC
The Minimum-Rank Gram Matrix Completion via Modified Fixed Point Continuation Method
Key Laboratory of Mathematics Mechanization(数学机械化重点实验室);Academy of Mathematics and System Sciences(数学与系统科学研究院);Academia Sinica(中国科学院)
针对最小秩Gram矩阵补全问题,提出基于修正不动点延拓的算法,结合BB技术和线性组合加速收敛,用于多项式有理平方和分解。
2011-01-27 cs.NA cs.SY eess.SY