A New Iterative Projection Method for Approximating Fixed Point Problems and Variational Inequality Problems
在实希尔伯特空间中,引入并研究了一个新的外梯度迭代程序,用于寻找非扩张映象无限族的不动点集与逆强单调映象的变分不等式的解集的公共元.同时,在相当温和的条件下,证明了新的外梯度方法所定义的迭代序列强收敛于非扩张映象无限族的不动点问题和经典的变分不等式问题的解.此外,利用这一结果,我们提供了一些应用所考虑的问题,而不仅仅是给一个纯粹的扩展现有的数学问题。
2014-05-21 math.FA math.OC
Convergence analysis for pseudo-monotone variational inequality problem involving projections onto a moving ball
针对伪单调变分不等式问题传统投影法的局限,提出一种向可行集内显式表达的球投影、无需预知代价算子Lipschitz常数的迭代格式,并通过数值实验验证了其有效性。
2025-09-06 math.FA math.OC
Gradient Projection Iterative Sketch for Large-Scale Constrained Least-Squares
提出了一种随机一阶优化算法梯度投影迭代草图(GPIS)和一种加速算法,用于有效地求解大规模约束最小二乘(LS)。我们提供了理论上的收敛性分析所提出的算法和证明我们的方法的计算效率相比,经典的加速梯度法,和最先进的方差减少随机梯度法,通过在各种大型合成/真实数据集的数值实验。
2017-07-17 math.OC
A Bregman projection method for approximating fixed points of quasi-Bregman nonexpansive mappings
我们介绍了一个抽象的算法,旨在找到Bregman投影到一个封闭的凸集。作为应用,分析了求具有不动点闭性的拟Bregman非扩张映射的不动点的一个迭代法的渐近性态.我们还证明了我们的结果适用于Bregman次梯度投影。
2013-09-25 math.FA math.OC
Classical and Quantum Iterative Optimization Algorithms Based on Matrix Legendre-Bregman Projections
我们考虑Legendre-Bregman投影定义在厄米矩阵空间和设计迭代优化算法的基础上。建立了厄米矩阵上Bregman发散的一般对偶定理,它在证明迭代算法的收敛性中起着至关重要的作用.我们研究精确和近似Bregman投影算法。在Kullback-Leibler发散的特殊情况下,我们的近似迭代算法产生了用于最大熵推理的广义迭代缩放(GIS)算法和机器学习中的AdaBoost算法的非交换版本作为特殊情况。由于Legendre-Bregman投影是厄米矩阵上的简单矩阵函数,因此量子算法技术适用于在算法的每次迭代中实现潜在的加速。我们讨论了几个量子算法设计技术适用于我们的设置,包括光滑函数评估技术,两相量子最小值的发现,和NISQ吉布斯状态准备。
2022-09-28 math.OC quant-ph
A unified evaluation of iterative projection algorithms for phase retrieval
迭代投影算法被成功地用作透镜的替代品,以数字而不是光学方式重新组合被照明物体散射的光。通过计算获得的图像允许无像差的衍射限制成像和使用不存在透镜的辐射的可能性。这种成像技术的挑战从镜头转移到算法。我们评估了为相位恢复问题开发的这些新计算“工具”,并讨论了加速策略。
2006-12-22 math.OC physics.optics
Efficient Computation of the Non-convex Quasi-norm Ball Projection with Iterative Reweighted Approach
针对非凸非Lipschitz的 $\ell_p$ 拟范数球投影难题,提出基于局部近似构建凹替代函数的方法,通过构建更紧致子问题改进迭代加权算法,实现了全局收敛与卓越计算效率。
2024-12-27 math.OC
Projection-Based Iterative Mode Scheduling for Switched Systems
本文描述了一种调度切换系统的事件,以达到最佳性能的方法。该方法在收敛性和计算复杂性上比基于并行导数的迭代优化方法有保证,但在无穷维、整数约束的模式调度设置下。与依赖于混合整数规划的方法相比,所提出的方法不需要时间或状态的先验离散化。此外,与嵌入和松弛法相比,该算法的每次迭代返回动态可行解。一个大类的问题要求最优模式调度。本文研究了一个车辆跟踪问题和一个高维多机电网同步问题。对于电力网络的例子,单时域和滚动时域方法都可以防止网络的不稳定性,滚动时域方法在单个处理器上以接近实时的速度做到这一点。
2017-09-07 math.OC
Techniques in Iterative Proton CT Image Reconstruction
这是一篇关于质子计算机断层成像(pCT)图像重建中的一些物理、建模和迭代算法的综述论文。pCT图像重建中的主要挑战在于由成像对象内的多次库仑散射引起的空间分辨率降低。分析模型,如最可能的路径(MLP)已被提出来预测的散射轨迹,从测量单个质子的位置和方向之前和之后的对象。迭代算法提供了一个灵活的工具,将这些模型到图像重建。建模导致一个大的和稀疏的线性方程组,可以有效地解决基于投影方法的迭代算法。这样的算法执行迭代到由系统的线性方程表示的超通道上的投影。他们在可能的各种算法结构中执行这些投影,例如块迭代投影(BIP),串平均投影(SAP)。这些算法方案允许选择块、字符串和其他参数的灵活性。它们还适合并行实现,这易于进一步节省计算中的时钟时间。实验结果比较这些算法的选择。
2015-10-29 math.OC physics.med-ph
A Projection Approach to Equality Constrained Iterative Linear Quadratic Optimal Control
ETH Zürich(苏黎世联邦理工学院)
本文提出了一种状态和状态输入约束的离散时间迭代线性二次型调节器(iLQR)算法,具有线性时间复杂度的时间步数。该方法是基于线性化约束的零空间上的控制输入的投影。我们推导出一个完全符合约束的前馈-反馈控制更新规则,我们可以有效地解决与Riccati风格的差分方程。我们假设在离散时间系统模型中的所有约束的相对度等于一,这通常适用于采用刚体动力学模型的机器人问题。仿真实例,包括6自由度的机器人手臂,给出了验证和说明的方法的性能。
2018-05-23 cs.RO math.OC
Reusing Combinatorial Structure: Faster Iterative Projections over Submodular Base Polytopes
Georgia Institute of Technology(佐治亚理工学院)
诸如投影牛顿法、FISTA、镜像下降及其变体之类的优化算法享有接近最优的遗憾界限和收敛速率,但在潜在的每次迭代中遭受计算"投影“的计算瓶颈(例如,$O(T^{1/2})$遗憾的在线镜像下降)。另一方面,条件梯度变体在每次迭代中解决线性优化,但导致次优速率(例如,$O(T^{3/4})$遗憾的在线弗兰克-沃尔夫)。出于这种权衡运行时v/s收敛速度,我们考虑迭代投影的附近点广泛流行的子模块基础多面体$B(f)$。我们首先给出了两个近点投影到多面体的同一个面上的充要条件,然后证明了远离多面体的点以很高的概率投影到多面体的顶点上。接下来,我们使用这个理论,并开发了一个工具包,以加快子模多面体使用离散和连续的角度迭代投影的计算。随后,我们适应了离开步骤弗兰克-沃尔夫算法使用这些信息,并使提前终止。对于基数为基础的子模多面体的特殊情况下,我们提高了运行时间的计算某些Bregman投影的一个因素的$Ω(n/\log(n))$。我们的理论结果表明,在初步的计算实验的数量级减少运行时间。
2023-03-10 cs.LG math.OC
Non-Iterative Solution for Coordinated Optimal Dispatch via Equivalent Projection-Part II: Method and Applications
本文提出基于等价投影的非迭代协调最优调度方法,通过顶点凸包近似保证误差,实现高效多区域与输配协调,优于联合优化。
2023-02-26 cs.SY eess.SY math.OC
Non-Iterative Solution for Coordinated Optimal Dispatch via Equivalent Projection-Part I: Theory
针对分层电力系统传统迭代协调方法收敛慢、易振荡发散且难以处理多级优化的问题,提出等价投影(EP)理论,使子系统模型外部等价,并构建非迭代协调框架,保证与联合优化同等最优性,同时避免迭代、保护隐私并兼容实际调度。
2023-02-26 cs.SY eess.SY math.OC
Resolving Tangling in Multi-Conformer Refinement via Iterative Projections
针对多构象精修中的缠结问题,提出基于分治框架迭代投影的自动化精修方法,整合几何与实验密度约束,有效规避伪影,为解析构象异质性、捕捉原子分辨率蛋白质动力学奠定计算基础。
2025-09-05 math.OC physics.comp-ph q-bio.QM
Star subgradient projection for solving quasi-convex feasibility problems
在这项工作中,我们考虑一个迭代法解决拟凸可行性问题。我们首先引入了所谓的星次梯度投影算子,并给出了一些有用的性质。随后,我们得到了所考虑的方法的收敛性结果,通过使用引入的非线性算子的性质。
2020-01-27 math.OC
Sketching Meets Random Projection in the Dual: A Provable Recovery Algorithm for Big and High-dimensional Data
University of Chicago(芝加哥大学);University of Southern California(南加州大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
草图技术已经变得流行,用于通过减少大量数据集的样本大小或维度来扩展机器学习算法,同时仍然保持大数据的统计能力。本文从优化的角度研究了草图绘制问题:首先证明了迭代Hessian草图是一个带预处理的优化过程,并通过共轭方向的搜索提出了加速迭代Hessian草图;然后,我们建立了Hessian草图和对偶随机投影之间的原始-对偶联系,并将预条件共轭梯度法应用于对偶问题,这导致加速迭代对偶随机投影方法。最后,为了解决来自大样本量和高维的挑战,我们提出了原始-对偶草图,它迭代地绘制原始和对偶公式。我们表明,使用对数调用的小规模问题的求解器,原始对偶草图是能够恢复到任意精度的原始问题的最佳。所提出的算法进行了验证,通过大量的实验合成和真实的数据集,补充了我们的理论结果。
2016-10-10 cs.LG math.OC stat.ML
A Nonparallel Support Tensor Machine for Binary Classification based Large Margin Distribution and Iterative Optimization
本文提出基于大间隔分布的非平行支持张量机(LDM-NPSTM),利用张量样本保留高维结构信息并引入间隔分布,通过交替投影算法迭代求解,以提升二分类精度和性能。
2025-07-17 math.OC
Robust Sublinear Convergence Rates for Iterative Bregman Projections
CNRS and ENS, Université PSL(国家科学研究中心和巴黎高等师范学院,巴黎大学)
本文提出了一种证明O(1/k)对偶收敛速率的通用框架,该速率的常数仅与1/γ线性相关,通过统一的对偶界和商范数界,为图结构运输问题提供了新的流Sinkhorn算法,实现了Wasserstein-1距离的ε-加性精度。
2026-05-08 cs.LG math.OC
RESIRE: real space iterative reconstruction engine for Tomography
层析成像对不同领域产生了革命性的影响,从生物学、放射学、等离子体物理学中的宏观/介观尺度研究到材料科学中的3D原子结构表征。断层扫描的基本原理是从一组2D投影重建3D对象。为了解决层析成像问题,已经开发了许多算法。其中包括使用变换技术的方法,例如基于Radon变换的计算机断层扫描(CT)和基于傅里叶切片定理(FST)的广义傅里叶迭代重建(GENFIRE),以及使用梯度下降和代数技术的同步迭代重建技术(SIRT)和同步代数重建技术(SART)等直接法。本文将傅立叶切片定理和变分法相结合,提出了一种混合梯度下降算法来求解层析成像问题。通过使用模拟和实验数据,我们表明,国家的最先进的RESIRE可以产生更优越的结果比以前的方法,重建的对象具有更高的质量和更小的相对误差。更重要的是,RESIRE可以严格地处理部分遮挡投影,其中仅提供部分投影信息,而其他方法则失败。我们预计RESICE不仅将提高重建质量在所有现有的层析成像应用,但也扩大层析成像方法的功能薄膜的广泛类别。我们希望RESICE能在不同的学科中找到广泛的应用。
2020-04-25 eess.IV math.OC
On a generalization of the iterative soft-thresholding algorithm for the case of non-separable penalty
Université Libre de Bruxelles(布鲁塞尔自由大学)
针对非可分ℓ1项,提出一种显式迭代算法,每步仅需四次矩阵向量乘法和一次凸集投影(或阈值化),证明了收敛性并给出1/N收敛率,且能推广至其他非可分凸惩罚。
2011-08-04 cs.NA math.NA math.OC
Perturbation Resilience and Superiorization of Iterative Algorithms
University of Haifa(海法大学);City University of New York(纽约城市大学)
讨论了求解某些问题的迭代算法。对于某些问题,例如在有限数量的凸集的交集中找到公共点,通常存在对计算机资源要求很少的迭代算法。对于其他问题,例如在给定函数的值最优的交点上找到该点,算法往往需要更多的计算机内存和更长的执行时间。提出了一种方法,其目的是自动产生的第一类迭代算法的“优越的版本”,它保留了其计算效率,但仍然走了很长的路,解决了最优化问题。这是可能的,如果原来的算法是“扰动弹性”,这是各种投影算法解决一致的凸可行性问题的情况下。这种算法的优化版本使用扰动,该扰动在给定函数的优化器的方向上驱动该过程。在以精确的数学形式呈现这些直观的想法之后,它们被示出在从针对其值是图像的全变差的函数的两种不同的投影算法的投影的图像重建中。
2010-05-01 cs.CV math.OC physics.med-ph
Optimal Iterative Sketching with the Subsampled Randomized Hadamard Transform
Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学)
随机投影或草图广泛用于许多算法和学习环境中。在这里,我们研究的性能迭代海森素描最小二乘问题。通过利用和扩展最近的结果从随机矩阵理论的限制矩阵的谱随机投影与子采样随机Hadamard变换,截断Haar矩阵,我们可以研究和比较所得到的算法的精度水平,以前是不可能的。我们的技术贡献包括一个新的公式的逆投影矩阵的二阶矩。我们也找到了简单的渐近最优步长和收敛速度的封闭形式的表达式。这表明Haar矩阵和随机Hadamard矩阵的收敛速度是相同的,并渐近改善高斯随机投影。这些技术可以应用于采用随机化降维的其他算法。
2020-10-23 cs.LG math.OC
Family Constraining of Iterative Algorithms
在约束迭代过程中,迭代过程的算法算子在每个迭代步骤处被预乘以约束算子。这使得约束算法,除了解决原来的问题,也找到一个解决方案,结合了一些先验知识的解决方案。这种方法在图像恢复和其他图像处理的情况下,当使用一个单一的约束算子是有用的。在根据投影进行图像重构的领域中,可以使用关于原始图像的先验信息(诸如平滑度或其属于某个闭合凸集)来提高重构质量。我们在这里研究约束迭代过程的一个家庭的运营商,而不是由一个单一的运营商。
2013-07-06 math.OC
Rapid heuristic projection on simplicial cones
提出了单纯锥上投影的一种快速启发式迭代法。它包括在迭代的每一步求解两个线性系。大量的实验表明,该方法在99.7%以上的情况下获得了精确解。平均步数为5.67(我们没有发现任何需要超过13步的例子),并且相对于尺寸的步数显著减少。粗略地说,对于足够高的维度,步骤的绝对数量与维度无关。
2010-01-19 math.OC
Regular Sequences of Quasi-Nonexpansive Operators and Their Applications
本文系统地研究了希尔伯特空间中拟非扩张算子的正则序列。我们感兴趣的,特别是在弱,有界和线性正则序列的运营商。我们证明了正则性的类型在松弛、凸组合和算子的乘积下是保持的。此外,在这方面,我们表明,弱,有界和线性正则性导致弱,强和线性收敛,分别为各种迭代法。这特别适用于块迭代和串平均投影方法,其原则上基于应用于投影的上述代数运算。最后,我们展示了正则算子序列在变分不等式问题中的应用。
2018-02-10 math.OC
A generalized projection-based scheme for solving convex constrained optimization problems
针对一般凸约束最优化问题,提出了一种新的基于投影的算法实现。一般的思想是通过从上面迭代地约束目标函数,直到可行性问题不一致,将原始的最优化问题转换为一系列可行性问题。对于每一个可行性问题,人们可以应用任何现有的投影方法来解决它。特别是,该计划允许使用次梯度投影,而不需要精确的投影到现有的类似方法的约束集。我们还将新引入的优越化的概念,优化制定和比较其性能,我们的计划。我们提供了一些数值结果凸二次检验问题以及现实生活中的最优化问题来自医疗规划。
2018-03-15 math.OC
A semi-smooth Newton method for general projection equations applied to the nearest correlation matrix problem
本文研究了半光滑牛顿方法在有限维空间一般投影方程中的应用,建立了闭凸锥投影的Clarke广义雅可比性质和两个收敛定理,并将其应用于约束二次锥规划与最近相关矩阵问题,数值实验验证了方法的有效性。
2024-01-09 math.OC
A string averaging method based on strictly quasi-nonexpansive operators with generalized relaxation
研究了基于严格拟非扩张算子广义松弛的不动点迭代法。迭代法是由串的平均组成的,每个串由许多严格拟非扩张算子组成。为了评估这项研究,我们研究了广泛的一类迭代法求解线性系方程(不等式)和次梯度投影法求解非线性凸可行性问题。数学分析的补充,从投影和经典的例子,说明了使用广义松弛的性能在图像重建的一些实验。
2021-04-30 cs.NA math.NA math.OC
Distributed Estimation via Iterative Projections with Application to Power Network Monitoring
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);University of Padova(帕多瓦大学)
本文提出两种分布式方法,使多个控制中心通过迭代投影协作估计电力网络状态,并用于检测测量数据中的异常。
2011-07-12 cs.SY eess.SY math.OC
Non-smooth Variable Projection
变量投影通过完全最小化变量的子集同时迭代剩余变量来解决结构化最优化问题。在过去的30年里,该技术已被广泛使用,经验和理论结果表明,与竞争方法相比,该技术具有更高的有效性和更高的稳定性。经典的例子利用了封闭形式的投影和目标函数的平滑性。我们扩展的方法,包括非光滑项的问题,和投影子问题只能不精确地解决迭代法。本文提出了一种求解此类问题的非精确自适应算法,并分析了其计算复杂性。最后,我们展示了如何使用该理论来设计方法,在机器学习和逆问题中经常出现的问题。
2020-11-20 math.OC stat.CO stat.ML
A primal dual projection algorithm for efficient constraint preconditioning
我们考虑一个线性迭代求解器的大规模线性约束二次最小化问题,例如,在优化与偏微分方程。通过一个原始-对偶投影(PDP)迭代,它可以被解释和分析为一个商空间上的梯度法,给定的问题可以通过计算一系列约束代理问题的解,到可行子空间的投影和Lagrange乘子更新来解决。作为一个主要的应用,我们考虑一类最优化问题的偏微分方程,PDP可以应用在一起的投影CG方法使用块三角形约束预条件。数值实验表明,可靠的和有竞争力的性能的最优控制问题的弹性。
2020-12-04 cs.NA math.NA math.OC
A greedy randomized average block projection method for linear feasibility problems
随机投影(RP)方法是求解线性可行性问题的一种简单的迭代方法,由于其速度快和内存要求低,近年来得到了广泛的应用。利用贪婪概率准则和平均块方法,发展了标准RP方法的加速变体,得到了求解大型线性不等式组的贪婪随机平均块投影(GRABP)方法.我们证明了该方法在不同的外推步长选择下线性收敛于期望。随机生成和真实世界数据的数值实验表明,GRABP的优势,几个国家的最先进的解决方案,如随机投影(RP)方法,采样Kaczmarz Motzkin(SKM)方法,广义SKM(GSKM)方法,和Nesterov加速SKM方法。
2022-11-18 cs.NA math.NA math.OC
Discrete Optimization Methods for Group Model Selection in Compressed Sensing
本文研究群模型的信号恢复问题。更准确地说,对于给定的一组组,每个组包含一个小的索引子集,并且对于真实信号向量的给定线性草图(已知其支持包含在少量这些组的联合中)是组稀疏的,我们研究仅通过了解其线性草图就成功恢复真实信号的算法。我们推导出模型投影复杂性的结果和算法更一般的组模型比国家的最先进的。我们考虑两个版本的经典迭代硬存储算法(IHT)。经典版本迭代地计算向量到组模型上的精确投影,而近似版本(AM-IHT)迭代地使用头部和尾部近似。我们将这两种变体应用到组模型中,并分析了传感矩阵是高斯矩阵和模型扩展矩阵的两种情况。为了解决群模型上的精确投影问题,我们使用了基于动态规划和Benders分解的离散最优化方法。头部和尾部近似分别由经典的贪婪方法和LP舍入。
2020-02-27 cs.IT math.IT math.OC