Some Methods for Relatively Strongly Monotone Variational Inequalities
本文致力于发展求解具有较强单调算子的变分不等式的数值方法。考虑了两类与几年前出现的算子的利普希茨条件类似的变分不等式。其中一类与算子的相对有界性有关,另一类与类似的利普希茨条件(即相对光滑性)有关。对于具有相对有界和相对强单调算子的变分不等式,我们引入了一种改进的镜像下降法,它优化了收敛速度.我们还提出了自适应ProximalPirror算法及其重新启动的版本与线性收敛速率的问题相对光滑和相对较强的单调算子。
2022-05-24 math.OC
Enlargement of Monotone Vector Fields and an Inexact Proximal Point Method for Variational Inequalities in Hadamard Manifolds
本文对Hadamard流形上的变分不等式引入了一种不精确邻近点方法,并研究了它的收敛性。用于呈现的方法的主要工具是单调向量场的扩大的概念,其将单调算子的扩大的概念从线性设置推广到黎曼上下文。作为应用,得到了求解约束最优化问题的一个非精确邻近点方法。
2015-11-26 math.OC
On the solution of monotone nested variational inequalities
研究了套变分不等式,即可行集是另一个变分不等式的解集的变分不等式。我们提出了一个投影平均Tikhonov算法,需要在文献中最弱的条件,以保证收敛到嵌套变分不等式的解决方案。具体地说,我们只需要上下层变分不等式的单调性。此外,我们提供了第一个复杂性分析的嵌套变分不等式考虑最优性的上,下两个层次。
2021-12-17 math.OC
The Forward-Backward-Forward Method from continuous and discrete perspective for pseudo-monotone variational inequalities in Hilbert spaces
Tseng的forward-backward-forward算法在求解单调和Lipschitz连续算子控制的凸闭集上的变分不等式时,是Korpelevich的外梯度法的一个有价值的替代方法,因为它在每一步中只需要一次投影运算。然而,众所周知,Korpelevich的方法收敛,因此也可以用于解决由伪单调和Lipschitz连续算子控制的变分不等式。本文首先将一个伪单调变分不等式与一个向前-向后-向前动力系统联系起来,并对生成的轨迹进行了渐近分析。该系统的显式时间离散的结果成曾的前向后向前算法与松弛因子,我们证明收敛时,也适用于伪单调变分不等式。此外,我们证明了在强伪单调性下保证了线性收敛。对多面体集上的伪单调变分不等式和分式规划问题进行了数值实验。
2020-07-31 math.OC
Generalized variational inequalities for maximal monotone operators
本文给出了实自反巴拿赫空间中具有Fréchet可微范数的广义变分不等式解的存在性的一些新结果.此外,我们还给出了解集结构的一些定理。本文所得结果改进和推广了Fang和Peterson [1]的结果到无限维空间。
2017-08-03 math.OC
Adaptive Methods or Variational Inequalities with Relatively Smooth and Reletively Strongly Monotone Operators
本文研究了具有相对光滑和相对强单调算子的变分不等式的自适应方法,基于extragradient方法的近端变体提出自适应参数选择策略,证明了收敛速率,推广至广义光滑算子,并通过岭回归和box-simplex games的数值实验验证了有效性。
2023-08-01 math.OC
Stochastic mirror descent dynamics and their convergence in monotone variational inequalities
研究了一类随机镜像下降动力学的单调变分不等式(包括纳什均衡和鞍点问题)。所研究的动力学被表述为由(单值)单调算子驱动并受布朗运动扰动的随机微分方程。该系统的可控参数是两个可变的权重序列,分别前和后乘的驱动程序的过程。通过仔细调整这些参数,我们得到了遍历意义下的整体收敛,并估计了该过程的平均收敛速率。我们还建立了一个大偏差原则,表明个人的轨迹表现出指数浓度在这个平均值。
2018-05-04 math.OC
Optimal Analysis of Method with Batching for Monotone Stochastic Finite-Sum Variational Inequalities
本文针对单调随机有限和变分不等式问题,提出了一种支持分批处理且保持Oracle复杂度最优性的方法,并通过实验验证了其在小批量情况下的有效性。
2024-03-26 math.OC
Mirror frameworks for relatively Lipschitz and monotone-like variational inequalities
机器学习中的非凸非凹鞍点优化问题已经引起了人们对非单调变分不等式的大量研究。在这项工作中,我们介绍了两个镜像框架,称为镜像外梯度方法和镜像外推方法,近似的解决方案相对Lipschitz和单调的VI。前者包括著名的Nemirovski的镜像逼近法和Nesterov的对偶外推法,以及最近提出的Bregman外梯度法;所有这些方法都可以重新表述为与外梯度法的原始形式非常相似的方案。后者包括算子外推法和Bregman外推法作为其特例。建议的镜像框架,使我们能够提出一个统一的和改进的收敛性分析,所有这些现有的方法相对Lipschitzness和单调的条件下,可能是目前最弱的假设。
2022-12-30 math.OC
A Hybrid Algorithm for Monotone Variational Inequalities
Delft University of Technology(代尔夫特理工大学);University of Toronto(多伦多大学)
本文提出两种新方法解决单调变分不等式问题,通过调整动量参数提升收敛速度,并在多个机器学习和控制领域的问题中验证了算法性能。
2026-04-04 math.OC
On the Convergence Properties of Non-Euclidean Extragradient Methods for Variational Inequalities with Generalized Monotone Operators
本文研究了一类广义单调变分不等式(GMVI)问题,其算子不一定是单调的(例如,伪单调)。我们提出了计算这些问题的近似强解的非欧外梯度(N-EG)方法,并证明了它们的迭代复杂性如何依赖于其算子的全局Lipschitz或Hölder连续性以及N-EG算法中所用距离母函数的光滑性。我们还介绍了一个变种,该算法通过将一个简单的线搜索过程来处理更一般的连续算子的问题。数值研究表明,所开发的算法比现有的解决大规模GMVI问题的显着优势。
2013-11-12 math.OC
Convergence Analysis of Non-Strongly-Monotone Stochastic Quasi-Variational Inequalities
本文提出额外梯度和梯度方法解决单调随机准变分不等式,并建立收敛率分析,展示其在广义纳什均衡、双层优化和鞍点问题中的应用价值。
2025-11-23 math.OC
Convergence of the Frank-Wolfe Algorithm for Monotone Variational Inequalities
University of Waterloo(滑铁卢大学)
本文研究了在单调$C^1$算子作用下,变分不等式在紧凸集上使用Frank-Wolfe算法求解的收敛性,通过连续时间插值和动力系统理论分析,证明了算法收敛性和解集距离趋于零的性质。
2026-04-09 math.OC
Solving Variational Inequalities with Monotone Operators on Domains Given by Linear Minimization Oracles
求解大规模凸-凹鞍点问题的标准算法,或者更一般地说,求解单调算子变分不等式的标准算法,都是近似型算法,在每次迭代时都需要计算一个n-映射,即在问题的定义域$X$上最小化一个线性型和特定的凸距离生成函数之和。在实现近似算法时,作为标准要求的逆映射的相对计算简单性清楚地暗示了为$X$配备能够在$X$线性型上最小化的相对计算上便宜的线性最小化Oracle(LMO)的可能性。然而,有一个便宜的LMO确实是可用的,但在那里没有近端设置与易于计算的映射是已知的重要情况。这一事实激发了我们的目标,在本文中,这是发展技术,解决变分不等式与单调算子的区域上的线性极小化神谕。我们开发的技术可以被看作是在[5]中提出的非光滑凸最小化方法在LMO表示的域上的一个实质性的扩展。
2014-06-23 math.OC
A strongly convergent inertial inexact proximal-point algorithm for monotone inclusions with applications to variational inequalities
本文提出一种在更弱惯性参数假设下强收敛的惯性非精确邻近点算法,并给出迭代复杂度分析,将其应用于变分不等式,得到多种经典方法的强收敛惯性变体,数值实验验证了其有效性。
2025-09-23 math.OC
Decomposition Techniques for Bilinear Saddle Point Problems and Variational Inequalities with Affine Monotone Operators on Domains Given by Linear Minimization Oracles
求解大型凸凹鞍点问题和单调算子的变分不等式的一阶方法大多数都是近似算法,在每次迭代时都需要极小化问题区域X上的一个线性型与一个强凸函数之和。为了使这样的算法实用,X应该是近似友好的--允许一个强凸函数,容易使线性扰动最小化。作为一个副产品,X允许一个计算成本低的线性最小化Oracle(LMO),能够最小化X个线性型。然而,在一些重要的情况下,廉价的LMO确实是可用的,但是X不是邻近友好的,这促使搜索仅基于LMO的算法。对于光滑凸极小化问题,存在一种经典的基于线性最优的算法--条件梯度算法。与此相反,我们已知的其他问题的凸结构(非光滑凸最小化,凹凸鞍点问题,甚至作为简单的双线性,和变分不等式与单调算子,甚至作为简单的仿射)的基于LMO的技术是相当新的,并利用共同的方法基于Fenchel型表示的相关目标/向量场。本文的目标是开发一种替代的(似乎更简单)基于LMO的分解技术的双线性鞍点问题和变分不等式与仿射单调算子。
2015-10-02 math.OC
Grothendieck inequalities for semidefinite programs with rank constraint
Grothendieck不等式是数学和计算机科学中经常用到的基本不等式。它们可以被解释为两个最优化问题之间的完整性差距的上界:一个困难的半定规划秩-1约束和其容易的半定松弛的秩约束下降。例如,MAX CUT的Goemans-Williamson近似算法的完整性间隙可以被视为Grothendieck不等式。本文考虑秩大于1的Grothendieck不等式,并给出两个应用:统计力学中n-向量模型中基态的近似和量子信息论中异或博弈.
2012-05-04 cs.DS math.CO math.FA
A note on diffusive solutions of the Lyapunov and Riccati inequalities for quasi-monotone (QM) mappings on cones
Department of Mathematics & Statistics, Maynooth University(梅努斯大学数学与统计系)
本文研究了准单调映射在锥上的扩散解,扩展了Lyapunov和Riccati不等式的稳定性概念,并探讨了与对称锥相关的结果。
2026-02-19 math.OC
An Approximation-Based Regularized Extra-Gradient Method for Monotone Variational Inequalities
本文提出了一种求解单调变分不等式(VI)的广义超梯度格式,简称为基于逼近的正则超梯度法(ARE). ARE的第一步解决一个VI子问题的近似算子满足$p^{th}$阶Lipschitz界相对于原始映射,进一步耦合的梯度的$(p+1)^{th}$阶正则化。最佳的整体收敛是保证包括一个额外的额外的梯度步骤,而$p^{th}$阶超线性局部收敛,如果VI是强单调的。所提出的ARE是包容性和一般性的,在这个意义上,各种解决方案的方法可以制定在这个框架内作为不同的表现形式的近似,和他们的迭代复杂性将遵循通过在一个统一的方式。ARE框架与一阶方法有关,同时为开发专门用于结构化问题的高阶方法提供了可能性,这些方法保证了最佳迭代复杂性界限。
2022-10-10 math.OC
A Fast Optimistic Method for Monotone Variational Inequalities
针对约束凸优化等场景中的单调变分不等式问题,提出仅需单次梯度求值与投影的fOGDA-VI算法,实现最优$o(1/k)$收敛速率,经矩阵博弈验证且在生成对抗网络训练中展现应用潜力。
2023-07-21 math.OC
Extragradient Sliding for Composite Non-Monotone Variational Inequalities
本文针对由单调与非单调算子之和构成的复合变分不等式,提出一种超梯度滑动算法,将非单调算子的 oracle 复杂度从 $O((L_p+L_q)^2/\varepsilon^2)$ 降至 $O(L_p^2/\varepsilon^2)$,并通过数值实验验证了其优越性。
2024-03-22 math.OC
Some Adaptive First-order Methods for Variational Inequalities with Relatively Strongly Monotone Operators and Generalized Smoothness
本文介绍了几种求解具有相对强单调算子的变分不等式的自适应方法。首先,我们对最近提出的光滑情形下广义光滑(具有赫尔德条件)鞍点问题的自适应数值方法进行了改进,该方法具有与加速方法相似的收敛速度估计.我们提供了这样一种方法的动机,并获得所提出的方法的理论结果。我们的第二个重点是适应最近提出的广泛的方法解决变分不等式相对较强的单调算子。在我们的方法中的关键思想是拒绝众所周知的重新启动技术,这在某些情况下会导致在实施这些算法的应用问题的困难。尽管如此,我们的算法表现出相当的收敛速率相对于基于上述重新启动技术的算法。最后,我们给出了一些数值实验,证明了所提出的方法的有效性。[1]Jin,Y.,西德福德,A.,& Tian,K.(2022年)。通过原始-对偶超梯度方法的可分离极大极小和有限和优化的更快速度。arXiv预印本arXiv:2202.04640。
2022-10-28 math.OC
A Variable-Metric Non-monotone Line Search Method for Mixed Variational Inequalities and Equilibrium Problems
King Fahd University of Petroleum & Minerals (KFUPM)(法赫德国王石油矿产大学);Interdisciplinary Research Center (IRC) for Smart Mobility and Logistics, King Fahd University of Petroleum & Minerals (KFUPM)(法赫德国王石油矿产大学智能交通与物流交叉研究中心)
提出一种变度量非单调线搜索方法,通过缩放投影步和修改的Armijo线搜索驱动间隙函数至零,对强单调Lipschitz算子问题实现全局收敛和R-线性收敛速率。
2026-06-23 math.OC
Universal Tensor Methods for Monotone Variational Inequalities
Westlake University(西湖大学);The Chinese University of Hong Kong(香港中文大学);Fudan University(复旦大学)
本文提出通用张量extragradient方法,用于求解具有Hölder连续高阶导数的单调变分不等式,针对已知和未知Hölder参数分别给出不同复杂度的算法。
2026-06-28 math.OC
Generalized Mirror Prox for Monotone Variational Inequalities: Universality and Inexact Oracle
引入了一类带单调算子的变分不等式(VI)的不精确预言模型,提出了求解此类VI的一种数值方法,并分析了其收敛速度.作为一个特例,我们考虑了具有Hölder连续算子的VI,并证明了我们的算法是通用的。这意味着,在不知道Hölder参数$ν$和Hölder常数$L_ν$的情况下,它具有这类VI的最佳可能的复杂性,即我们的算法具有复杂性$O\left( \inf_{ν\in[0,1]}\left(\frac{L_ν}{\varepsilon} \right)^{\frac{2}{1+ν}}R^2 \right)$,其中$R$是可行集的大小,$\varepsilon$是解决方案的期望精度。我们还考虑了具有强单调算子的VI的情形,推广了我们对具有不精确预言的VI的方法和我们对这类问题的通用方法。最后,我们展示了如何将我们的方法应用于具有Hölder连续部分次梯度的凹凸鞍点问题。
2022-02-17 math.OC
A projection algorithm for non-monotone variational inequalities
引入并研究了点到集算子的变分不等式问题的投影型算法的收敛性。在我们的分析中没有使用单调性假设。定义问题的算子仅假设在点到集的意义上是连续的,即,内部和外部连续。此外,我们假设非空的所谓的对偶解集。证明了整个迭代序列收敛于该变分不等式的解。此外,我们提供了数值实验说明我们的迭代的行为。通过几个例子,我们提供了一个比较与最近的类似算法。
2017-11-28 math.OC
Regularized Projection Algorithms for Monotone Inverse Variational Inequalities
针对单调随机逆变分不等式,提出结合Tikhonov正则化与递增批量大小的算法,证明迭代有界及收敛,给出期望平方残差的非渐近率,还介绍了确定性变体及数值实验。
2026-07-21 math.OC
A Semidefinite Representation for some Minimum Cardinality Problems
利用[Lasserre 02]中的技巧,我们证明了某些服从线性不等式的最小基数问题可以表示为半定规划的有限序列.特别地,我们给出了正半定矩阵上最小秩问题的半定表示。我们也使用这种技术铸造的问题,找到凸下界的目标作为一个半定的计划。
2003-02-27 math.OC
Lagrange Multipliers, (Exact) Regularization and Error Bounds for Monotone Variational Inequalities
我们研究单调变分不等式的两个中心正则化策略,第一个是操作单调映射的直接正则化,第二个是通过相关的对偶间隙函数的正则化。这些不同的正则化问题的解集之间的关系的一个关键环节是精确正则化的思想,这反过来又从根本上与正则化变分不等式的拉格朗日乘子的存在性相关。如果正则化问题的解是非正则化问题的解,并且所有参数都超过某个值,则称正则化是精确的。另一方面,对应于变分不等式的特定正则化的拉格朗日乘子通过对偶间隙函数来定义。我们的分析提出了各种概念,迭代正则化的数值方案,我们提供误差界,因此停止标准,在额外的假设下,解决方案集的非正则化问题是我们所谓的弱尖锐的顺序大于一。
2015-11-02 math.OC
Projected Reflected Gradient Methods for Monotone Variational Inequalities
在希尔伯特空间中,研究了一类求解单调Lipschitz-连续映射的变分不等式问题的投影方法.首先,我们提出了一个恒定步长的投影反射梯度算法。它类似于投影梯度法,即,该方法只需要一个可行集上的投影,每次迭代只需要一个映射值。这使我们的方法区别于大多数其他投影型方法的变分不等式单调映射。在强单调性假设下,证明了它具有R-线性收敛速率。常步长算法的通常缺点是需要知道映射的Lipschitz常数。为了避免这种情况,我们修改了我们的第一个算法,使算法每次迭代最多需要两个投影。事实上,我们的计算经验表明,这种具有两个投影的情况非常罕见。这个计划,至少在理论上,似乎非常有效。证明了所有方法都是全局收敛于该变分不等式的解的。数值实验的初步结果是相当有希望的。
2015-02-17 math.OC
Fatal Degeneracy in the Semidefinite Programming Approach to the Decision of Polynomial Inequalities
本文揭示了将多项式不等式不可满足性判定问题转化为半定规划求解时,通常会导致数值方法难以处理的退化问题。
2009-01-30 cs.NA math.AG math.NA
The Popov's Algorithm with Optimal Bounded Stepsize for Generalized Monotone Variational Inequalities
Faculty of Applied Sciences, HCMC University of Technology and Engineering(胡志明市技术与工程学院应用科学学院);Faculty of Basic Sciences, Van Lang University(文郎大学基础科学学院);School of Mathematical Sciences, University of Southampton(南安普顿大学数学科学学院)
本文提出了一种改进的Popov算法,通过优化步长上界,解决了广义单调变分不等式问题,并证明了其收敛性。
2026-10-14 math.OC
A search-free $O(1/k^{3/2})$ homotopy inexact proximal-Newton extragradient algorithm for monotone variational inequalities
该研究提出一种基于同伦的无搜索不精确邻近牛顿外梯度算法,用于求解实希尔伯特空间中的光滑单调变分不等式,具备更优的迭代复杂度,且初步实验显示其性能优于部分已有邻近牛顿方案。
2024-04-14 math.OC
On semi-infinite systems of convex polynomial inequalities and polynomial
考虑半无限多项式不等式组\[ \mathbf{K}:=\{x\in\mathbb{R}^m\mid p(x,y)\ge 0,\ \ \forall y\in S\subseteq\mathbb{R}^n\}, \],其中$p(x,y)$是关于变量$x$和参数$y$的实多项式,指标集$S$是$\mathbb{R}^n$中的基本半代数集,对每个$y\in S$,$-p(x,y)$在$x$中是凸的.我们提出了一个程序来构造近似半定表示的$\mathbf{K}$。有两个指标来索引这些近似半定表示。随着两个指数的增加,这些半定表示集分别膨胀和收缩,并且在某些假设下可以尽可能接近$\mathbf{K}$。在某些特殊情况下,我们可以固定两个索引之一或两者。然后,我们考虑最小化$\mathbf{K}$上的凸多项式的最优化问题。我们提出了一个SDP松弛方法,这个最优化问题的类似的策略用于构建近似半定表示的$\mathbf{K}$。在一定的假设条件下,也可以从SDP松弛得到最优化问题的一些近似极小值。在某些特殊情况下,我们证明了最优化问题的SDP松弛是精确的,并且所有的极小值都可以被提取出来。
2019-08-03 math.OC
Numbers of the connected components of the solution sets of monotone affine vector variational inequalities
本文建立了单调仿射向量变分不等式解集连通分支的最大个数的几个上、下估计。我们的结果给出了[N. D. Yen和J. - C. Yao,\textit{Monotone affine vector variational inequalities},Optimization 60(2011),pp. 53--68],并指出其个数不仅依赖于判别准则的个数,而且依赖于所研究的向量变分不等式的变元个数.
2018-03-01 math.GN math.OC
A Frank-Wolfe Algorithm for Strongly Monotone Variational Inequalities
针对强单调变分不等式,本文提出以 Frank-Wolfe 方法为线性最小化预言机的加速算法,避免逐次投影,并在交通分配问题上验证其降低高投影成本的潜力。
2025-10-04 math.OC
Non-Monotone Variational Inequalities
本文基于逆映射理论推导非单调变分不等式解存在的充分条件,证明外梯度法在Minty解存在时的收敛性与效率,并将结果推广到博弈论,得到弱耦合下纯拟纳什均衡及纯纳什均衡的存在条件。
2024-09-14 math.OC
Anytime Solvers for Variational Inequalities: the (Recursive) Safe Monotone Flows
本文提出投影、安全及递归安全三种连续时间单调流以任意时间求解单调变分不等式,分析其稳定性、收缩性与安全性,并通过博弈示例验证性能。
2025-02-16 math.OC
Beyond Monotone Variational Inequalities: Solution Methods and Iteration Complexities
本文从投影型算法收敛性角度研究非单调变分不等式问题,提出了包括Minty条件在内的多种充分条件,并通过示例与收敛分析证明这些条件能刻画保证算法收敛的不同VI问题类别。
2023-04-09 math.OC
Last Iterate Convergence of Popov Method for Non-monotone Stochastic Variational Inequalities
本文针对非单调随机变分不等式,引入p-拟尖锐算子类,证明随机Popov方法在线性增长下几乎必然收敛并给出末次迭代速率,数值实验显示其优于随机投影方法。
2023-10-25 math.OC
Last-Iterate Convergence of Optimistic Gradient Method for Monotone Variational Inequalities
过去的超梯度(PEG)[Popov,1980]方法,也被称为乐观梯度法,随着机器学习的变分不等式公式的出现,最近在优化界引起了人们的兴趣。最近,在无约束的情况下,Golowich等人[2020]证明了对于具有Lipschitz Jacobian的Lipschitz和单调算子,可以实现关于算子平方范数的$O(1/N)$最后一次收敛速度。在这项工作中,通过引入一种新的分析,通过势函数,我们表明:(i)这$O(1/N)$最后一个收敛可以实现没有任何假设的雅可比算子,和(ii)它可以扩展到约束的情况下,这是没有得到之前,即使在Lipschitz雅可比。这个证明与Golowich等人[2020]的证明有很大不同,而且它的发现是计算机辅助的。这些结果解决了单调变分不等式的PEG的最后收敛性问题。
2022-10-31 math.OC
Proximal extrapolated gradient methods with prediction and correction for monotone variational inequalities
针对希尔伯特空间中单调变分不等式,设计了一种基于近似梯度的有效方法--近似外推梯度法.所提出的方法扩展了可接受的参数范围,以获得更大的步长。该方法利用算子的局部信息预测步长,并通过线性插值修正步长,使其满足一个很弱的条件,该条件比生成序列的有界性更弱,且当算子是凸函数的梯度时,该条件始终成立.在较大的参数范围内,我们从理论上证明了它的收敛性和遍历收敛速度。此外,我们采用所提出的方法与非单调步长,提高了数值效率,并获得了步长相关的参数的上界通过一个非常简单的例子。相关的数值实验说明了更大的步长对效率的改善。
2019-12-04 math.OC
A Unifying Framework of Accelerated First-Order Approach to Strongly Monotone Variational Inequalities
在本文中,我们提出了一个统一的框架,包括几个动量相关的搜索方向,解决强单调变分不等式。该框架中的搜索方向的特定组合是为了保证$\mathcal{O}\left(κ\ln(1/ε)\right)$的最优迭代复杂度界以达到$ε$ -解,其中$κ$是条件数。这个框架为算法设计者提供了灵活性,可以在不同的参数组合中训练最适合当前问题类结构的参数。所提出的框架包括以下迭代点和方向作为其组成部分:额外梯度,乐观梯度下降上升(OGDA)方向(又名“乐观”),“重球”方向和Nesterov的外推点。因此,上述方法都成为一般加分方案下的特例。我们还专门这种方法强凸最小化,并表明,一个类似的额外的点的方法实现了最佳的迭代复杂性界的$\mathcal{O}(\sqrtκ\ln(1/ε))$这一类问题。
2021-03-29 math.OC
Regularized neural network for general variational inequalities involving monotone couples of operators in Hilbert spaces
本文利用Tikhonov正则化与神经网络动力系统方法研究希尔伯特空间中单调广义变分不等式,建立强全局解的存在唯一性,并通过显式离散化得到强收敛的迭代正则化算法。
2025-03-09 math.OC
Beyond First-Order Methods for $\ell_p$-Structured Non-Monotone Variational Inequalities
Purdue University(普渡大学)
本文提出高阶算法解决ℓ_𝑝结构非单调变分不等式问题,针对弱 Minty 变分不等式参数ρ>0范围内的ℓ_𝑝-范数 stationary 点收敛,扩展了单调算子的高阶光滑性。
2026-03-13 math.OC
On Well-Structured Convex-Concave Saddle Point Problems and Variational Inequalities with Monotone Operators
LJK, Université Grenoble Alpes(洛朗施瓦茨数学与计算机科学实验室,格勒诺布尔阿尔卑斯大学);ISyE, Georgia Institute of Technology(工业与系统工程学院,佐治亚理工学院)
本文提出K-conic表示法,将凸-凹鞍点问题和变分不等式转化为锥问题,从而扩展了CVX的应用范围。
2026-06-23 math.OC
First-order Methods with Convergence Rates for Multi-agent Systems on Semidefinite Matrix Spaces
本文的目标是在半定矩阵空间上发展具有收敛速度的多智能体最优化问题的一阶方法。这些问题包括合作最优化问题和非合作纳什博弈。因此,首先,我们考虑一个多智能体系统的代理合作,最小化他们的局部凸目标的总和,第二,我们考虑笛卡尔随机变分不等式(CSVI)问题的单调映射解决随机纳什博弈半定矩阵空间。尽管最近在一阶方法解决向量空间上的问题方面取得了进展,但在半定矩阵空间上的最优化问题和平衡问题的一阶方法理论中似乎存在重大差距。特别地,据我们所知,在温和的假设下,不存在具有可证明的收敛速度的方法来解决这两类问题。大多数现有的方法要么依赖于强假设,要么需要一个两循环的框架,在每个迭代的半定最优化问题需要解决。基于这一空白,在本文的第一部分中,我们提出了一种镜像下降增量次梯度法来极小化有限和函数。我们证明了该算法产生的迭代渐近收敛到最优解,并推导出非渐近收敛速度。第二部分考虑半定CSVI问题。我们开发了一个随机镜像下降方法,只需要单调的映射。我们表明,该算法产生的迭代收敛到CSVI的解决方案几乎肯定。使用适当定义的间隙函数,我们推导出一个收敛速度声明。这项工作似乎是第一个为半定矩阵空间上的单调CSVI提供收敛速度保证的工作。
2019-02-14 math.OC
Strong Convergence of Forward-Backward-Forward Methods for Pseudo-monotone Variational Inequalities with Applications to Dynamic User Equilibrium in Traffic Networks
在无穷维希尔伯特空间中,构造了一类解由Lipschitz连续伪单映射定义的变分不等式的强收敛原-对偶格式.我们的新的数值方案是基于曾的向前向后向前的计划,这是已知的显示弱收敛,除非非常强的全局单调性假设所涉及的运营商。我们提供了一个简单的增强算法,这是计算成本低,仍然保证强收敛到一个最小的标准解决方案的基本问题。我们提供了一个自适应扩展的算法,让我们从需要的知识的全球Lipschitz常数。我们测试的算法在计算上具有挑战性的任务,找到动态用户平衡的交通网络中的性能,并验证我们的计划是至少有竞争力的国家的最先进的求解器,在某些情况下,甚至改善他们。
2019-08-25 math.OC
Disconnectedness and unboundedness of the solution sets of monotone vector variational inequalities
本文研究单调向量变分不等式解集的拓扑结构,证明弱Pareto解集和proper Pareto解集若不连通则每个连通分量必无界,并提出两个开放问题。
2023-12-02 math.GN math.OC
Semidefinite Implementations of the Proximal Point Algorithm and Consequences for Progressive Decoupling in Optimization
School of Data Science, Fudan University(复旦大学数据科学学院);Department of Mathematics, University of Washington(华盛顿大学数学系);Department of Applied Mathematics, The Hong Kong Polytechnic University(香港理工大学应用数学系)
本文提出近端点算法的半定扩展,通过投影单调映射与完成步骤保证更广领域的收敛,支持非精确最小化,并应用于凸下投影、增广拉格朗日及渐进解耦。
2026-09-22 math.OC
Solving Monotone Variational Inequalities with Best Response Dynamics
该研究利用最优响应动力学求解紧凸集上的单调变分不等式,验证了其在博弈论场景下收敛到纳什均衡的特性,推广了带凸约束的群体博弈,并分析了方法对时变扰动的鲁棒性。
2024-09-16 cs.SY eess.SY math.OC
Random projection of Linear and Semidefinite problem with linear inequalities
约翰逊-林登施特劳斯引理指出,存在线性映射,将向量空间的一组点投影到一个低得多的维度的空间中,使得这些点之间的欧几里得距离近似保持。这个引理以前已经被用来证明,我们可以随机聚合,使用一个随机矩阵,其条目是从零均值亚高斯分布,线性规划(LP)的等式约束,同时保持近似的问题的值。在本文中,我们将这些结果的不等式的情况下,通过引入一个随机矩阵的非负条目,允许随机聚合的LP的不等式约束,同时保持约值的问题。通过对偶性,我们提出的方法允许减少约束的数量和问题的维数,同时获得最优值的一些理论保证。我们还将展示我们的结果扩展到某些半定规划实例。
2023-01-17 math.OC math.PR
Mirror-prox sliding methods for solving a class of monotone variational inequalities
本文提出了求解紧可行集上一类结构单调变分不等式问题的新算法。通过识别存在于VI算子中的梯度分量,我们证明了可以不时地跳过梯度的计算,同时仍然保持解决这些VI问题的最佳迭代复杂性。具体地说,对于涉及光滑凸函数$\nabla G$和单调算子$H$的梯度之和的确定性VI问题,我们提出了一种新的算法,称为镜像-邻近滑动方法,该算法能够计算$\varepsilon$ -近似弱解,最多具有$\nabla G$的$O((L/\varepsilon)^{1/2})$评估和$H$的$O((L/\varepsilon)^{1/2}+M/\varepsilon)$评估,其中,$L$和$M$分别是$\nabla G$和$H$的Lipschitz常数。此外,当运营商$H$只能通过其随机估计访问的情况下,我们提出了一个随机镜像-prox滑动方法,可以计算一个随机$\varepsilon$ -近似弱解的$\nabla G$和$O((L/\varepsilon)^{1/2}+M/\varepsilon + σ^2/\varepsilon^2)$样本的$H$,其中$σ$是随机样本的方差$H$的$O((L/\varepsilon)^{1/2})$评价。
2021-11-01 math.OC
On the Burer-Monteiro method for general semidefinite programs
考虑一个涉及$n\times n$半正定矩阵$X$的半定规划(SDP). Burer-Monteiro方法使用替换$X=Y Y^T$来获得关于$n\times p$矩阵$Y$的非凸优化问题。Boumal等人证明,当$p \gtrsim \sqrt{2m}$,其中$m$是约束的数量时,这种非凸方法可证明地解决了具有通用成本矩阵的等式约束的SDP。在这篇文章中,我们将他们的结果推广到任意的SDP,可能涉及不等式或多个半定约束。我们得到类似的保证,一个固定的成本矩阵和通用的约束。我们举例说明应用矩阵传感和整数二次最小化。
2020-02-29 math.OC