Golden ratio algorithms for solving equilibrium problems in Hilbert spaces
本文对实希尔伯特空间中的伪单调平衡问题设计了一个新的迭代算法。该算法的优点是每次迭代只需要求解一个强凸规划问题。在适当的条件下，证明了算法的强收敛性和弱收敛性.所得结果推广和改进了文献中的一些结果.通过数值算例给出了该方法的性能以及与现有方法的比较。
2018-04-05 math.OC
A linesearch projection algorithm for solving equilibrium problems without monotonicity in Hilbert spaces
提出了一种求解希尔伯特空间中非单调非Lipschitz平衡问题的线性投影算法。在Minty平衡问题解集非空的假设下，证明了该算法产生的序列强收敛于平衡问题的解.与已有的方法相比，我们没有使用Fejér单调性的证明策略的收敛性。这来自于在每次迭代时将一个不动点而不是当前点投影到可行集的子集上。此外，采用Armijo线性搜索没有次梯度在CPU时间有很大的优势。数值实验证明了该算法的有效性和强度。
2021-03-03 math.OC
Unrestricted Douglas-Rachford algorithms for solving convex feasibility problems in Hilbert space
本文研究了希尔伯特空间中的凸可行性问题。近年来在该领域中获得了很多兴趣的一种特定方法是道格拉斯-拉奇福德（DR）算法。该算法最初于1956年引入，用于求解定常和非定常热方程。然后在1979年，Lions和Mercier调整和扩展了该算法，目的是解决CFPs和更一般的问题，例如找到两个最大单调算子之和的零点。在过去的十年中，已经出现了许多实现有关该算法的各种概念的发展。我们引入了一个不受限制的DR算法，它提供了一个一般的框架，这样的概念。使用有限个强非扩张算子的无限制乘积，我们应用这个框架来提供新的迭代法，其中，\textit{inter alia}，这样的算子可以在我们的\无限制\color DR算法的方案中使用的算子之间交错。
2022-11-05 math.OC
Second order semi-smooth Proximal Newton methods in Hilbert spaces
我们开发了一个全球化的近似牛顿方法的复合和可能的非凸极小化问题在希尔伯特空间。此外，我们对复合目标泛函的可微性和凸性的限制性假设比现有的理论少。至于可微的光滑部分的目标函数而言，我们引入了二阶半光滑的概念，并讨论为什么它构成了一个足够的框架，我们的近端牛顿法。然而，整体收敛以及局部加速仍然适用于我们的情况。最后，通过求解函数空间中的一个玩具模型问题，展示了算法的收敛性。
2021-10-31 cs.NA math.NA math.OC
Viscosity Iterative algorithm for solving Variational Inclusion and Fixed point problems involving Multivalued Quasi-Nonexpansive and Demicontractive Operators in real Hilbert Space
针对含多值拟非扩张与半压缩算子的变分包含及不动点问题，提出结合黏性逼近和额外迭代序列的改进通用迭代算法，并证明其强收敛性。
2025-01-11 math.OC
Outer Approximation Methods for Solving Variational Inequalities in Hilbert Space
本文研究实希尔伯特空间中闭凸集$C$上由强单调Lipschitz连续算子$F$控制的变分不等式.我们假定集合$C$可以外逼近为一类称为割集的拟非扩张算子序列的不动点集。我们提出了一种迭代法，其主要思想是在每一步投影到一个特定的半空间构造使用的输入数据。我们的方法是基于福岛在1986年提出的一种方法，最近已扩展了几个作者。本文建立了希尔伯特空间中的强收敛定理。我们强调，据我们所知，福岛的方法到目前为止只被认为是在欧几里得设置与不同的条件$F$。我们提供了几个例子的情况下，$C$是共同的不动点集的有限数量的刀具与我们的理论结果的数值说明。
2017-02-02 math.OC
Solving Chance Constrained Optimization under Non-Parametric Uncertainty Through Hilbert Space Embedding
本文给出了一类非参数不确定性条件下的机会约束优化问题的一个有效算法。我们的算法是建立在再生核希尔伯特空间（RKHS）中的函数表示任意分布的可能性。我们使用这个基础，制定机会约束优化作为一个最小化之间的距离所需的分布和分布的约束函数在RKHS。我们提供了一个系统的方法来构建所需的分布的基础上的概念的情况下近似。此外，我们使用的核心技巧表明，我们重新制定的优化问题的计算复杂性是解决一个确定性的机会约束优化的变体。我们验证了我们的配方上的两个重要的机器人/控制应用：（一）反应性碰撞避免移动机器人在不确定的动态环境和（ii）基于逆动力学的路径跟踪感知不确定性下的机械手。在这两种应用中，潜在的机会约束被定义为高度非线性和非凸函数的不确定参数，也可能是决策变量。我们还基准我们的配方与现有的方法在样本的复杂性和实现的最佳成本突出显着改善这两个指标。
2018-11-22 cs.RO math.OC
Stochastic control liaisons: Richard Sinkhorn meets Gaspard Monge on a Schroedinger bridge
在1931年至1932年，薛定谔研究了一个热气体Gedanken实验，这是经验分布大偏差的一个例子，也是所谓的最大熵推断方法的早期例子。这个所谓的Schroedinger桥问题（SBP）最近被认为是Monge-Kantorovich最优质量输运（OMT）的正则化，导致后者的有效计算。具体地说，OMT与二次成本可以被看作是一个零温度限制SBP，这相当于最小化的亥姆霍兹自由能超过概率分布约束，以拥有给定的边缘。这个问题的特点是在最小化内能和最大化熵之间有一个微妙的妥协，由温度参数调节。这些概念是核心的迅速扩大领域的现代科学处理所谓的{ \em Sinkhorn算法}出现作为一个特殊情况下的算法首先研究了法国分析师罗伯特Fortet在1938年至1940年专门为薛定谔桥。由于对端点分布的约束，动态规划不是解决这些问题的合适工具。相反，Fortet的迭代算法及其离散对应物Sinkhorn迭代允许通过迭代求解所谓的{ \em Schroedinger系统}来计算。在连续和离散的时间和空间设置，{ \em随机控制}提供了一个重新制定和动态版本的这些问题。这些控制问题背后的形式主义引起了人们的注意，因为它们导致了航天器制导，机器人或生物群控制，传感，主动冷却，网络路由以及计算机和数据科学中的各种新应用。这个多方面和多功能的框架，交织SBP和OMT，提供了基板的历史和技术概述本文所采取的领域。
2020-11-26 cs.SY eess.SY math-ph
A Stochastic forward-backward splitting method for solving monotone inclusions in Hilbert spaces
提出并分析了求解由极大单调算子与单值极大单调余算子之和构成的单调包含的一种新的随机前后分裂算法的收敛性.后者的框架有一些有趣的特殊情况下，包括变分不等式和凸最小化问题，而随机方法实际上是相关的数据扰动帐户。我们提出的算法是经典的确定性向前向后方法的随机扩展，并得到考虑的组合的极大单调算子的预解式与基于单值算子的随机估计的前一步。我们的研究提供了一个非渐近的误差分析的期望强单调的情况下，以及几乎必然收敛在较弱的假设。我们考虑的方法可以避免平均，一个功能的关键时，考虑基于稀疏性的方法，并为最小化问题，它允许获得匹配的收敛速度随机扩展所获得的所谓的加速方法。随机拟Fejer序列是证明几乎必然收敛的关键技术工具。
2015-02-20 math.OC
Polynomial-Time Solvers for the Discrete $\infty$-Optimal Transport Problems
CREST-ENSAE
针对离散有限情形下的 $\infty$-最优传输问题，本文首次给出同时求解 Monge 与 Kantorovich 两种表述的多项式时间高效数值算法。
2023-04-26 cs.LG math.OC
Error bounds for model reduction of feedback-controlled linear stochastic dynamics on Hilbert spaces
研究了基于平衡截断的Ornstein-Uhlenbeck过程和带乘性噪声的线性S（P）DE的保结构模型降阶方法。在这项研究中，我们第一次包括非零初始条件的分析。此外，我们允许反馈控制动态解决随机最优控制问题的降阶模型和证明新的误差界一类线性二次调节器问题。我们提供了数值证据的界限，并讨论了我们的方法，以增强非平衡统计力学的抽样方法的应用。
2022-03-17 cs.NA math.DS math.NA
Simultaneously Solving Infinitely Many LQ Mean Field Games In Hilbert Spaces: The Power of Neural Operators
Department of Statistical Sciences, University of Toronto（统计科学系，多伦多大学）；Department of Mathematics and Statistics, McMaster University（数学与统计学系，麦 master 大学）；The Vector Institute（向量研究所）
针对传统平均场博弈求解器逐个实例求解的局限，本文提出用神经算子学习从问题数据到均衡策略的映射，并给出统计保证，证明在无限维LQ MFG中少量采样训练即可可靠求解未见变体。
2025-10-22 cs.LG cs.NA math.NA
A two-step inertial method with a new step-size rule for variational inequalities in hilbert spaces
Chongqing Normal University（重庆师范大学）；Near East University（近东大学）
本文提出了一种新的两步惯性方法，用于求解Hilbert空间中的变分不等式，该方法结合自适应和Armijo型步长规则，无需Lipschitz条件，具有更广的应用范围。
2026-01-15 math.OC
Optimal approximation of discrete-time multirate systems on Hilbert spaces
我们研究离散时间$(m,n)$ -多速率系统可分离的希尔伯特空间，解决了这样一个系统的近似问题，其中有一个较短的多速率周期$(m/q,n/q)$，最佳的希尔伯特-施密特规范。我们的工作在状态空间设置，提供两个状态空间表示的最佳逼近表示的状态空间表示的原始系统。
2020-05-04 math.OC
Optimal transportation between unequal dimensions
我们建立，解决一个最佳的运输问题，其中的源和目标密度定义在不同的维度流形上，相当于解决一个新的非局部模拟的蒙日-安培方程，这里介绍的第一次。在适当的拓扑条件下，我们还建立了解是光滑的当且仅当同一方程的一个局部变量允许一个光滑的一致椭圆解。我们发现，这个局部方程是椭圆形的，因此，$C^{2,α}$解决方案可以自举，以获得更高的正则性结果，假设光滑的相应的微分算子，我们证明在简化的假设。对于一维的目标，我们的充分标准的正则性的解决方案所产生的常微分方程是相当少的限制比以前的作品所要求的。
2019-05-28 math.AP math.OC
From Knothe's transport to Brenier's map and a continuation method for optimal transport
在$\mathbb{R}^d$中映射两个概率测度的简单过程是所谓的\emph{Knothe-Rosenblatt rearrangement}，其包括单调地重新排列最后一个坐标的边缘分布，然后迭代地重新排列条件分布。证明了该映射是一类具有二次费用的Monge-Kantorovich质量运输问题解的极限，且各坐标的权重渐近地相互支配.这使我们能够设计一个连续的方法数值求解最优输运问题。
2008-10-22 math.OC
Tseng Splitting Method with Double Inertial Steps for Solving Monotone Inclusion Problems
基于双惯性外推步策略和松弛技术，提出了一种求解实希尔伯特空间中单调包含问题的双惯性外推步自适应Tseng分裂方法.最后，我们提供了一些数值实验来说明我们的算法的性能和理论结果。
2022-09-24 math.OC
A large deviation approach to optimal transport
介绍了在$R^d$上求解Monge-Kantorovich质量输运问题的一种概率方法。建立了一个独立粒子的经验测度系统，使它服从一个以最优输运成本为速率函数的双指数大偏差原理。因此，新的近似结果的最优费用函数和最优输运计划的推导。它们遵循一系列归一化相对熵向最优输运成本的伽马收敛。包括标准功率费用函数$|x-y|^p$在内的各种费用函数进入该框架。
2007-10-08 math.OC math.PR
Debiaser Beware: Pitfalls of Centering Regularized Transport Maps
估计最优输运（OT）地图（也称为Monge映射）是一个充满计算和统计挑战的问题。一个有前途的方法是使用双势函数时，解决样本$P_n$和$Q_n$之间的熵正则化OT问题，它可以用来恢复一个近似最优的地图。然而，该方案中的负熵惩罚引入了随着正则化强度而增长的估计偏差。一个众所周知的消除这种估计偏差的方法，在正则化优选论的实践者中得到了广泛的欢迎，就是通过减去涉及$P_n$和它本身以及$Q_n$和它本身的辅助问题来使它们居中。我们证明，在有利的条件下，$P$和$Q$，去偏可以产生更好的近似蒙赫地图。然而，也许令人惊讶的是，我们提出了一些情况下，去偏置是证明有害的统计意义上，特别是当正则化强度是大的或样本的样本个数是小的。这些主张在合成和真实数据集上得到了实验验证，并且应该重新开启关于使用熵最优输运时是否需要去偏的辩论。
2022-06-16 math.OC math.ST stat.TH
The Forward-Backward-Forward Method from continuous and discrete perspective for pseudo-monotone variational inequalities in Hilbert spaces
Tseng的forward-backward-forward算法在求解单调和Lipschitz连续算子控制的凸闭集上的变分不等式时，是Korpelevich的外梯度法的一个有价值的替代方法，因为它在每一步中只需要一次投影运算。然而，众所周知，Korpelevich的方法收敛，因此也可以用于解决由伪单调和Lipschitz连续算子控制的变分不等式。本文首先将一个伪单调变分不等式与一个向前-向后-向前动力系统联系起来，并对生成的轨迹进行了渐近分析。该系统的显式时间离散的结果成曾的前向后向前算法与松弛因子，我们证明收敛时，也适用于伪单调变分不等式。此外，我们证明了在强伪单调性下保证了线性收敛。对多面体集上的伪单调变分不等式和分式规划问题进行了数值实验。
2020-07-31 math.OC
A Relaxed-Projection Splitting Algorithm for Variational Inequalities in Hilbert Spaces
在希尔伯特空间中，给出了求解非光滑极大单调算子和的变分不等式的松弛投影分裂算法，其中可行集由非线性非光滑连续凸函数不等式定义.在我们的方案中，可行集上的正交投影被替换为分离超平面上的投影。此外，所提出的方法的每次迭代由简单的次梯度样步骤，这不需要一个非平凡的子问题的解决方案，只使用个别运营商，这利用了问题的结构。在算子单调性和解的存在性的假设下，证明了生成的序列弱收敛于解。
2015-12-29 math.OC
Generalized Bregman Projection Algorithms for Solving Nonlinear Split Feasibility Problems in Infinite-Dimensional Spaces
针对无限维希尔伯特空间的非线性分裂可行性问题，提出融合Bregman投影、近端梯度步和自适应惯性项的广义Bregman投影算法，证明强收敛性且实验验证其优于经典方法，推动相关优化技术发展。
2025-05-14 math.OC
A hybrid method without extrapolation step for solving variational inequality problems
本文在希尔伯特空间中引入了一种求解单调Lipschitz-连续映射的变分不等式问题的新方法。迭代过程是基于两个著名的投影方法和混合（或外近似）方法。然而，我们在投影方法中不使用外推步骤。在我们的方法中没有一个投影的原因是混合方法中集合的选择略有不同。我们证明了我们的方法产生的序列的强收敛性。
2015-01-28 math.OC
Analysis of Fully Preconditioned ADMM with Relaxation in Hilbert Spaces
乘子交替方向法（ADMM）是一种有效的一阶方法，在信号处理和成像中有着广泛的应用。然而，Eckstein和Bertsakas的\cite{EP}在无限维希尔伯特空间中研究的带松弛的ADMM的弱收敛性至今没有明确的结果.本文利用一种“部分”间隙分析，证明了无限维希尔伯特空间中一般的预条件松弛ADMM的弱收敛性，并在较弱的条件下对所有涉及的隐式方程进行了预处理.对于“部分”间隙函数，我们也给出了相应的遍历收敛速度。此外，根据\cite{DGBA}中Gabay的思想，还讨论了某些预处理和松弛ADMM与相应的Douglas-Rachford分裂方法之间的联系.数值试验也表明了所提出的预处理ADMM的超松弛变体的效率。
2017-11-20 math.OC
The range of the Douglas-Rachford operator in infinite-dimensional Hilbert spaces
Douglas-Rachford算法是求解凸优化问题的一种重要的分裂算法。最近，该方法已经成功地找到了不一致情况下最优化问题的广义解（假设存在一个解），即，当一个解决方案不存在时。不一致情形的收敛性分析取决于与Douglas-Rachford分裂算子相关的位移算子的值域和相应的最小位移向量的研究。本文在对基本算子作适当假设的情况下，给出了（可能）无限维希尔伯特空间中Douglas-Rachford分裂算子的值域.我们的新结果补充了有限维希尔伯特空间中的已知结果。几个例子说明和加强我们的结论。
2022-06-14 math.FA math.OC
Research: Analysis of Transport Model that Approximates Decision Taker's Preferences
University of Technology（技术大学）
本文给出了求解逆Monge-Kantorovich运输问题的一种方法。它允许决策者在可以以TP形式呈现的情况下积累积极的决策经验。逆TP的解决方案的初始数据是订单，库存和决策者采取的有效决策的信息。求解逆TP的结果包含对TP支付矩阵元素的评估。它可以在新的情况下使用，以选择与决策者的偏好相对应的解决方案。该方法允许获得决策者的经验，因此它可以被其他人使用。该方法允许在特定的应用领域中建立决策者偏好模型。该模型可以定期更新，以确保其与决策者偏好制度的相关性和适当性。该模型适应于决策者的当前偏好。
2015-09-06 cs.AI cs.LG math.OC
Weak and strong convergence of an inertial proximal method for solving bilevel monotone equilibrium problems
本文介绍一种求解希尔伯特空间中两个单调平衡双函数的两层问题的惯性逼近方法。在适当的条件下，在不对轨迹作任何限制性假设的情况下，证明了由迭代法产生的序列的弱收敛性和强收敛性。两个特殊的情况下，说明所提出的方法进行了讨论，相对于分层极小化问题和平衡问题下鞍点约束。最后，通过数值算例验证了算法的可实现性.该算法及其收敛性结果改进和发展了前人的结果。
2022-10-19 math.OC
Self adaptive inertial extragradient algorithms for solving variational inequality problems
本文研究实希尔伯特空间中求解单调Lipschitz连续算子的变分不等式问题的两个Mann型惯性外梯度算法的强收敛性，并设计了新的步长.我们的算法的强收敛性定理证明了没有先验知识的Lipschitz常数的操作。最后，我们提供了一些数值实验来说明所提出的算法的性能，并提供与相关的比较。
2020-06-07 math.FA math.OC
Learning solutions to some toy constrained optimization problems in infinite dimensional Hilbert spaces
International Centre for Theoretical Sciences - TIFR（塔塔基础研究所理论科学国际中心）；The University of Sydney（悉尼大学）
本文提出了罚函数法和增广Lagrangian法在无限维Hilbert空间中的深度学习实现，并在变分法与物理学的玩具问题上验证了其近似效果，同时利用Lagrange乘子更新规则实现了显著加速。
2024-01-08 cs.LG math.OC
Optimal oracle inequalities for solving projected fixed-point equations
University of California Berkeley（加州大学伯克利分校）；Simons Institute for the Theory of Computing（西蒙斯计算理论研究所）
希尔伯特空间中的线性不动点方程出现在各种设置中，包括强化学习以及用于求解微分和积分方程的计算方法。我们研究的方法，使用一组随机观测计算近似解搜索在一个已知的低维子空间的希尔伯特空间。首先，我们证明了一个依赖于实例的上界的均方误差的线性随机逼近方案，利用Polyak-Ruppert平均。这个界限由两个方面组成：一个近似误差项与实例相关的近似因子，和一个统计误差项，捕捉特定于实例的复杂性的噪声时，投影到低维子空间。使用信息论的方法，我们还建立了下界表明，这两个条款不能得到改善，再次在一个依赖于实例的意义。一个具体的结果，我们的特征是，在这个问题中的最佳逼近因子可以远远大于一个普遍常数。我们展示了我们的研究结果如何精确地描述了一类时间差分学习方法的线性函数近似的政策评估问题的错误，建立其最优性。
2020-12-09 cs.LG math.OC math.ST
