Spectral Frank-Wolfe Algorithm: Strict Complementarity and Linear Convergence
我们开发了一个新的变种的经典的Frank-Wolfe算法，我们称之为谱Frank-Wolfe，凸优化的谱面体。谱Frank-Wolfe算法有一个新的成分：它计算梯度的一些特征向量，并在每次迭代中求解一个小规模的SDP。该方法克服了经典Frank-Wolfe算法因忽略特征值融合而导致的收敛速度慢的缺点。我们证明，严格互补的最优化问题是关键，证明线性收敛的各种算法，如频谱弗兰克-沃尔夫算法以及投影梯度法及其加速版本。
2020-08-17 math.OC
CCCP is Frank-Wolfe in disguise
本文揭示了一个简单但令人惊讶的联系：它表明，著名的凹凸过程（CCCP）及其推广到约束问题都是特殊情况下的弗兰克-沃尔夫（FW）方法。这种联系不仅提供了深刻的洞察力（在我们看来）的教学价值，但最近发现的收敛理论的非凸弗兰克-沃尔夫方法立即CCCP，关闭长期存在的差距，其非渐近收敛理论。我们希望本文所揭示的观点能促使FW的其他进展转移到CCCP及其推广。
2022-06-23 math.OC
Frank-Wolfe and friends: a journey into projection-free first-order optimization methods
大约65年前，Marguerite Straus-Frank和Philip Wolfe在一篇开创性的论文中发明了Frank-Wolfe方法，由于数据科学和其他相关应用领域对快速可靠的一阶最优化方法的需求，Frank-Wolfe方法最近获得了显着的复兴。这篇评论试图解释这种方法的成功，说明在广泛的背景下的通用性和适用性，结合帐户的最新进展的变体，这两个令人惊讶的简单的一阶优化的原则，提高了速度和效率。
2021-06-18 math.OC
An Affine Invariant Linear Convergence Analysis for Frank-Wolfe Algorithms
研究了几类强凸问题的Frank-Wolfe算法的变种的线性收敛，只使用仿射不变量.与Guelat & Marcotte（1986）一样，我们证明了当解在区域内部，但具有仿射不变常数时，标准Frank-Wolfe算法的线性收敛。我们还显示了线性收敛的远离步骤的变型的弗兰克-沃尔夫算法，但常数只依赖于几何的域，而不是任何属性的位置的最优解。运行这些算法不需要知道任何问题特定的参数。
2014-01-03 math.OC
Linear Convergence of Stochastic Frank Wolfe Variants
本文证明了逐步随机Frank-Wolfe算法（ASFW）和成对随机Frank-Wolfe算法（PSFW）按期望线性收敛。我们还表明，如果一个算法的线性收敛的期望，那么它几乎肯定线性收敛。为了证明这些结果，我们开发了一种新的证明技术的基础上的经验过程和浓度不等式的概念。这样的技术很少被用来推导随机最优化算法的收敛速度。在大规模的数值实验中，ASFW和PSFW在实际CPU时间上表现得与它们的随机竞争对手一样好或更好。
2017-03-21 math.OC
Frank-Wolfe Algorithms for (L0, L1)-smooth functions
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Innopolis University（伊诺波利斯大学）；Adyghe State University（阿迪亚耶州立大学）；V. I. Vernadsky Crimean Federal University（弗拉基米尔·伊万诺维奇·维尔纳茨基克里米亚联邦大学）
本文提出了一种新的Frank-Wolfe方法，称为(L0, L1)-Frank-Wolfe算法，用于解决具有(L0, L1)-光滑目标函数的优化问题。该算法在理论上实现了优于传统Frank-Wolfe方法的收敛速度，并引入了一种自适应过程，即自适应(L0, L1)-Frank-Wolfe算法，动态调整平滑参数以进一步提高性能和稳定性。全面的数值实验验证了理论结果，并展示了所提出算法在现有Frank-Wolfe变体中的明显实际优势。
2026-10-06 math.OC
Robustness of the Frank-Wolfe Method under Inexact Oracles and the Cost of Linear Minimization
School of Mathematics and Statistics, Xi’an Jiaotong University（西安交通大学数学与统计学院）
本文研究了在不精确oracle下Frank-Wolfe方法的鲁棒性，证明了线性最小化与投影的计算成本差异，并展示了非凸函数的收敛性保证。
2026-01-25 math.OC
On the Convergence Rate of the Duality Gap in the Generalized Frank-Wolfe Method Under the Weak Growth Condition
Tippie College of Business, University of Iowa（爱荷华大学蒂皮商学院）
本文研究Peña（2023）提出的弱增长条件下广义Frank-Wolfe方法的对偶间隙收敛速率，借助递推引理展开分析，相关引理或具独立研究价值。
2026-08-26 math.OC
Decomposition-Invariant Pairwise Frank-Wolfe Algorithm for Constrained Multiobjective Optimization
针对可行域为任意有界多面体的约束多目标优化问题，提出分解不变的成对 Frank-Wolfe 算法，并仅在强凸性下证明其整体序列线性收敛至 Pareto 最优解。
2024-09-07 math.OC
Avoiding bad steps in Frank Wolfe variants
Frank Wolfe（FW）变体的分析通常由于存在不同种类的“好”和“坏”步骤而变得复杂。在这篇文章中，我们的目标是通过消除步骤之间的这种区别来简化其中一些变量的收敛性分析，并通过确保每次迭代时目标的大幅降低来提高现有的速率。为了做到这一点，我们定义了短步链（SSC）的过程，跳过梯度计算在连续的短步骤，直到适当的停止条件得到满足。这种方法使我们能够给出一个统一的分析和收敛速度在一般光滑非凸设置，以及线性收敛速率下的Kurdyka-Lojasiewicz（KL）性质。虽然这种设置已被广泛研究的近端梯度类型的方法，据我们所知，它还没有被分析之前的弗兰克沃尔夫变种的研究。角条件，确保所选择的方向的方法具有最陡的斜率可能达到一个常数，是用来进行我们的分析。我们证明了这个条件是满足多面体的远离步骤Frank-Wolfe（AFW），两两Frank-Wolfe（PFW），和Frank-Wolfe方法与面对方向（FDFW）。
2022-11-20 math.OC
Stochastic Origin Frank-Wolfe for traffic assignment
针对交通分配中的平衡流分布求解问题，提出属于块坐标Frank-Wolfe算法特例的SOFW方法，通过减少最短路径计算提升效率，补充了批量版本收敛证明，实验验证其在大规模数据集上性能优于经典算法。
2025-10-01 math.OC
Generalized Stochastic Frank-Wolfe Algorithm with Stochastic "Substitute" Gradient for Structured Convex Optimization
随机Frank-Wolfe方法最近在统计和机器学习的优化背景下引起了广泛的兴趣，因为它能够与更一般的可行域一起工作。然而，有一个复杂的差距，在保证收敛速度的随机弗兰克-沃尔夫相比，其确定性对应。在这项工作中，我们提出了一种新的广义随机Frank-Wolfe方法，它弥补了统计和机器学习中遇到的结构化最优化问题的这一差距，其特征在于具有某种类型的"线性预测“性质（在本文中正式定义）的经验损失最小化，这是典型的损失最小化问题。我们的方法还引入了“替代梯度”的概念，这是梯度的不一定无偏样本。我们表明，我们的新方法是等价于一个特定的随机坐标镜像下降算法适用于对偶问题，这反过来又提供了一个新的解释随机对偶坐标下降在原始空间。此外，在强凸正则化的特殊情况下，我们的广义随机Frank-Wolfe方法（以及随机对偶坐标下降法）表现出线性收敛。此外，我们提出的计算实验表明，我们的方法优于其他随机Frank-Wolfe方法与本文开发的理论相一致。
2019-11-05 math.OC
Continuous Time Frank-Wolfe Does Not Zig-Zag, But Multistep Methods Do Not Accelerate
Frank-Wolfe算法在结构受限的机器学习应用中重新获得了很大的兴趣。然而，Frank-Wolfe算法的一个主要限制是由于锯齿行为而导致的缓慢的局部收敛特性。我们观察到，这种曲折的现象可以被视为一个工件的离散化，当该方法被视为一个连续的时间流的欧拉离散化，该流不曲折。出于这个原因，我们提出了多步Frank-Wolfe变量的基础上离散的相同的流的截断误差衰减为$O(Δ^p)$，其中$p$是该方法的顺序。这种策略“稳定”了方法，并允许像线搜索和动量这样的工具有更多的好处。然而，就收敛速度而言，我们的结果最终是负的，这表明没有Runge-Kutta型离散方案可以实现比香草Frank-Wolfe方法更好的收敛速度。我们相信，这种分析增加了不断增长的知识流分析的最优化方法，是一个警示故事的最终用途的多步法。
2022-02-01 math.OC
The Frank-Wolfe algorithm: a short introduction
本文简要介绍用于复杂约束下光滑凸优化的Frank-Wolfe算法，涵盖其关键概念、原始与对偶收敛结果，并提出新的自适应步长策略及应用。
2023-11-28 math.OC
Secant Line Search for Frank-Wolfe Algorithms
本文为 Frank-Wolfe 算法提出基于割线法的步长策略，能以更低计算成本实现完整线性搜索效果并适应局部光滑性，兼具理论保证与实验验证。
2025-06-10 math.OC
Modifications of the Frank-Wolfe algorithm in the problem of finding an equilibrium distribution of traffic flows
针对均衡交通分配问题，提出Frank-Wolfe算法的NFW、WFFW等多种改进方案，通过多组城市路网数据集实验验证，利用前序方向的改进算法收敛性能优于经典版本。
2024-03-07 math.OC
Auto-Conditioned Frank-Wolfe Algorithms
Cornell University（康奈尔大学）；The University of Sydney（悉尼大学）
本文提出一种自动条件化框架，通过局部 Lipschitz 估计替代全局光滑常数，实现无先验知识的 Frank-Wolfe 类方法，并证明其在非凸和凸设置下的收敛性。
2026-05-28 math.OC
Frank-Wolfe with Moreau Envelope Smoothing for Nonsmooth Nonconvex Problems
CentraleSupélec（中央苏佩莱克高等学院）；Università di Genova（热那亚大学）；James Madison University（詹姆斯麦迪逊大学）
提出 FRAMES 算法，通过 Moreau 包络迭代平滑后每步执行一次 Frank-Wolfe 步骤，解决非光滑非凸约束优化问题，证明收敛速率并改进先前分析。
2026-05-30 math.OC
Semi-Stochastic Frank-Wolfe Algorithms with Away-Steps for Block-Coordinate Structure Problems
我们提出了一个半随机Frank-Wolfe算法与远离步骤的正则化经验风险最小化，并将其扩展到块坐标结构的问题。我们的算法使用自适应的步长，我们表明，他们线性收敛的期望。所提出的算法可以应用于统计和机器学习中的许多重要问题，包括正则化广义线性模型，支持向量机和许多其他问题。在结构SVM和图引导融合LASSO的初步数值测试中，我们的算法在迭代成本和数据通过总数方面优于其他竞争算法。
2016-02-12 math.OC
Adaptive Variant of Frank-Wolfe Method for Relative Smooth Convex Optimization Problems
提出一种针对相对光滑凸函数的自适应Frank-Wolfe算法，利用Bregman散度替代欧几里得范数平方计算步长，证明具有三角缩放性质问题的收敛性，实验显示优于欧几里得版本和加速梯度方法。
2026-06-16 math.OC
Efficient Quadratic Corrections for Frank-Wolfe Algorithms
Zuse Institute Berlin（柏林齐泽研究所）；TU Berlin（柏林工业大学）；École nationale des ponts et chaussées（国立桥校）；IP Paris（巴黎理工学院）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；LIG（信息学实验室）；CNRS（法国国家科学研究中心）
本文提出一种带有修正步骤的Frank-Wolfe算法，扩展了之前的算法，包括混合条件梯度、混合成对条件梯度和完全修正Frank-Wolfe算法。通过证明紧致收敛保证和最优面识别性质，提出了两种高效的修正步骤，用于凸二次目标，展示了在合适条件下有限时间收敛。此外，重新审视了两个算法，即分裂条件梯度和二阶条件梯度滑动，利用二次修正加速其二次子问题。展示了对第一个算法的改进收敛率和第二个算法更广泛的应用性。最后，展示了在考虑的问题类别中，具有二次修正的Frank-Wolfe算法有显著的计算加速。
2026-05-20 math.OC
A Fully Adaptive Frank-Wolfe Algorithm for Relatively Smooth Problems and Its Application to Centralized Distributed Optimization
针对相对平滑约束优化问题，提出完全自适应Frank-Wolfe算法，无需先验函数参数、仅用局部信息保证收敛，在相对强凸性下实现线性收敛，并将其应用于集中式分布式优化以实现可证明加速。
2025-08-26 math.OC
Affine Invariant Analysis of Frank-Wolfe on Strongly Convex Sets
当约束集是强凸的时，仿射协变的Frank-Wolfe（FW）算法具有加速的收敛速度。然而，这些结果依赖于范数依赖的假设，通常会招致非仿射不变的界限，与FW的仿射协变性质相矛盾。在这项工作中，我们引入了新的结构假设的问题（如方向平滑），并推导出一个仿射不变，范数独立的分析弗兰克-沃尔夫。基于我们的分析，我们提出了一个仿射不变回溯线搜索。有趣的是，我们发现，典型的回溯线搜索使用平滑的目标函数令人惊讶地收敛到仿射不变的步长，尽管使用仿射依赖规范的步长的计算。这表明我们不一定需要事先知道集合的结构来享受仿射不变的加速率。
2020-11-06 math.OC
Analysis of the Frank-Wolfe Method for Convex Composite Optimization involving a Logarithmically-Homogeneous Barrier
提出并分析了求解复合优化问题$(P):{\min}_{x\in\mathbb{R}^n}\; f(\mathsf{A} x) + h(x)$的一种新的广义Frank-Wolfe方法，其中$f$是$θ$ -齐次自协调障碍，$\mathsf{A}$是线性算子，函数$h$有界但可能是非光滑的.我们发现，我们的广义Frank-Wolfe方法需要$O((δ_0 + θ+ R_h)\ln(δ_0) + (θ+ R_h)^2/\varepsilon)$迭代产生一个$\varepsilon$ -近似的解决方案，其中$δ_0$表示初始的最优性差距和$R_h$是$h$在其域上的变化。这一结果建立了$θ$ -热力学均匀势垒和Frank-Wolfe方法之间的某些内在联系。当专门的$D$ -最优设计问题，我们基本上恢复Khachiyan使用弗兰克-沃尔夫方法与精确线搜索获得的复杂性。我们还研究了$(P)$的（Fenchel）对偶问题，我们表明，我们的新方法是等价的自适应步长镜像下降法适用于对偶问题。这使我们能够提供迭代复杂性边界的镜像下降方法，尽管对偶目标函数是非Lipschitz的，并具有无界域。此外，我们提出了计算实验，指出我们的广义Frank-Wolfe方法在泊松图像去模糊问题与电视正则化的潜在有用性，并模拟PET问题的实例。
2021-12-06 math.OC
New Analysis and Results for the Frank-Wolfe Method
我们提出的Frank-Wolfe方法（也称为条件梯度法）的新结果。我们推导出任意步长序列的计算保证，然后将其应用于各种步长规则，包括简单的平均和恒定的步长。我们还开发了步长规则和计算保证，自然依赖于初始（和后续）迭代的热启动质量。我们的研究结果包括计算保证对偶/约束间隙和所谓的FW间隙。最后，我们提出的复杂性边界存在的近似计算的梯度和/或线性最优化子问题的解决方案。
2014-06-02 math.OC
Convergence of the Frank-Wolfe Algorithm for Monotone Variational Inequalities
University of Waterloo（滑铁卢大学）
本文研究了在单调$C^1$算子作用下，变分不等式在紧凸集上使用Frank-Wolfe算法求解的收敛性，通过连续时间插值和动力系统理论分析，证明了算法收敛性和解集距离趋于零的性质。
2026-04-09 math.OC
A Recursive Domain- and Objective-Adaptive Frank-Wolfe Algorithm
University of Konstanz（康斯坦茨大学）；University of St.Gallen（圣加仑大学）
针对域和目标函数均未知的数据驱动优化问题，提出一种递归Frank-Wolfe变体，通过集成估计器保持无投影特性，并证明优化误差随估计精度缩放。
2026-06-25 math.OC
Restarting Frank-Wolfe: Faster Rates Under Hölderian Error Bounds
条件梯度算法（又称Frank-Wolfe算法）由于其简单性、不需要投影步骤和具有竞争力的数值性能而形成了一组经典的约束光滑凸最小化方法。虽然香草Frank-Wolfe算法只能确保最坏情况下的速度为$\mathcal{O}(1/ε)$，但最近的各种结果表明，对于多面体上的强凸函数，该方法可以稍微修改以实现线性收敛。然而，这仍然在次线性$\mathcal{O}(1/ε)$收敛和线性$\mathcal{O}(\log 1/ε)$收敛之间留下了巨大的差距，以达到$ε$ -近似解。在这里，我们提出了一个新的变体的条件梯度算法，可以动态地适应函数的几何属性，使用重新启动和平滑插值之间的次线性和线性制度。当最优化问题满足一种新的误差界时，我们称之为\textit{strong Wolfe primal bounds}。它们将约束集上的几何信息与目标函数上的Hölderian误差界相结合。
2021-10-19 math.OC
Beyond Polytopes: Damped Newton Frank--Wolfe Methods over Compact Convex Sets
The University of Tokyo（东京大学）；RIKEN（理化学研究所）
针对紧凸集上带正定 Hessian 的凸优化，提出阻尼牛顿 Frank--Wolfe 方法，结合残差回溯与切换规则，实现全局线性及局部高阶收敛，实验验证其稳健性与最优性能。
2026-09-29 math.OC
Network Design for the Traffic Assignment Problem with Mixed-Integer Frank-Wolfe
本文研究集中式交通分配中的网络设计问题，将其建模为混合整数凸优化，并基于Boscia框架结合Frank-Wolfe算法提出确定性与随机两种求解方法，实验表明混合整数线性Frank-Wolfe子问题适合确定性情形，惩罚方法适合多场景随机情形。
2025-02-07 math.OC
Dual Prices for Frank--Wolfe Algorithms
在本文中，我们观察到，约束凸极小化问题$\min_{x \in P}f(x)$上的多面体$P$，对偶价格的线性规划$\min_{z \in P} \nabla f(x) z$从线性化获得的近似最优解$x$有一个类似的解释率的最优值，提供了一个凸形式的灵敏度分析。这是特别感兴趣的弗兰克-沃尔夫算法（也称为条件梯度），形成一个重要的一类一阶方法，其中一个基本的构建块是线性最小化梯度的$f$在$P$，在大多数实现已经计算的双重价格作为一个副产品。
2021-02-05 math.OC
On the Frank-Wolfe algorithm for non-compact constrained optimization problems
本文研究一类特殊的{ \it非紧}约束最优化问题的Frank-Wolfe算法。渐近锥面的概念是用来介绍这类问题，以及建立该算法是定义良好的。这类问题具有闭凸约束集，其特征在于目标函数的梯度满足两个条件。第一个建立的梯度的目标函数是Lipschitz连续的，这是很常见的，在分析这个算法。第二，这是新的，在这个问题上，建立梯度属于内部的对偶渐近锥面的约束集。经典的结果的渐近行为和迭代复杂性界限所产生的序列的弗兰克-沃尔夫算法扩展到这一类新的问题。文中还给出了满足上述条件的非紧约束和目标函数问题的例子。
2021-09-27 math.OC
A Frank-Wolfe-based primal heuristic for quadratic mixed-integer optimization
本文扩展 Boscia 框架，提出面向非凸二次混合整数问题的 Frank-Wolfe 原始启发式算法，结合预处理、舍入、梯度引导与大邻域搜索，在 QPLIB 和 2025 年竞赛中验证了性能。
2025-10-20 math.OC
A Frank-Wolfe Based Branch-and-Bound Algorithm for Mean-Risk Optimization
本文提出了一个预算约束下的均值-风险优化问题的精确算法，其中决策变量可以是连续的或整数的。风险由协方差阵度量，并由任意单调函数加权，这允许以非常个性化的方式对风险厌恶进行建模。我们通过设计一个分支定界算法来解决这类凸混合整数最小化问题，其中在每个节点处，连续松弛由具有远离步骤的非单调Frank-Wolfe型算法来解决。投资组合最优化问题的实验结果表明，我们的方法可以优于CPLEX 12.6的MISOCP求解器的情况下，被认为是一个线性的风险加权函数。
2017-05-05 math.OC
Active set complexity of the Away-step Frank-Wolfe Algorithm
在本文中，我们研究了在不同的设置远离步骤的Frank-Wolfe算法的有效集识别结果。我们首先证明了一个本地识别属性，我们申请，结合收敛假设，得到一个活动集识别结果。然后，我们证明，在非凸的情况下，一个新的$O(1/\sqrt{k})$收敛速度的结果和活动集识别不同的步长（在适当的假设下的一组固定点）。利用这些结果，我们也给出了明确的活动集的复杂性强凸和非凸目标的界限。虽然我们最初认为概率单纯形作为可行集，在附录中，我们展示了如何适应我们的一些结果一般多面体。
2019-12-24 math.OC
Frank-Wolfe algorithm for star-convex functions
本文研究紧凸集上星凸函数的 Frank-Wolfe 优化，证明在多种步长规则下目标值与对偶间隙均具有 O(1/k) 迭代复杂度。
2025-07-23 math.OC
Iteration Complexity of Frank-Wolfe and Its Variants for Bilevel Optimization
本文研究了双层优化中Frank-Wolfe方法及其变体的迭代复杂性，分析了非凸情况下基于梯度误差的收敛率，并通过实验验证了理论结果。
2026-02-26 math.OC
A Frank-Wolfe Algorithm for Oracle-based Robust Optimization
针对预言机模型中目标函数不确定性的鲁棒优化问题，提出基于平滑分段线性目标函数的Frank-Wolfe型迭代方法，衔接现有成果，实现最佳预言机复杂度且在高维、大不确定性集合问题上优于现有技术。
2024-12-05 math.OC
Distributed Momentum-based Frank-Wolfe Algorithm for Stochastic Optimization
本文考虑了分布式随机最优化问题，在该问题中，多个智能体通过局部计算和与网络上的邻居进行信息交换来协作优化全局目标函数。随机最优化问题通常是通过投影随机梯度下降的变体来解决的。然而，将一个点投影到一个可行集上通常是昂贵的。Frank-Wolfe（FW）方法在处理凸约束方面具有良好的优点，但现有的随机FW算法基本上是针对集中设置开发的。在这种情况下，目前的工作提出了一个分布式随机Frank-Wolfe求解器，明智地结合Nesterov的动量和梯度跟踪技术的随机凸和非凸优化网络。结果表明，该算法对凸优化问题的收敛速度为$\mathcal{O}(k^{-\frac{1}{2}})$，对非凸优化问题的收敛速度为$\mathcal{O}(1/\mathrm{log}_2(k))$.该算法的有效性证明了数值模拟对一些竞争的替代品。
2022-08-08 math.OC
The Pivoting Framework: Frank-Wolfe Algorithms with Active Set Size Control
本文提出枢轴元算法（PM），通过将活动集扩展转化为线性规划的单个枢轴步骤，将Frank-Wolfe类算法的活动集大小控制在Carathéodory定理规定的维度加1，并保持收敛速度，实验验证了其有效性。
2025-08-05 math.OC
Linearly Convergent Frank-Wolfe with Backtracking Line-Search
机器学习中的结构化约束最近使Frank-Wolfe（FW）算法家族重新成为人们关注的焦点。经典FW算法的局部收敛性能较差，而Away-steps和Pairwise FW算法作为改进的FW算法已经出现，具有更快的收敛速度。然而，这些改进的变体遭受两个实际的限制：他们需要在每次迭代，以解决一个1维最小化问题，以设置步长，也需要弗兰克-沃尔夫线性子问题，以解决准确。在本文中，我们提出了变体的离开步骤和成对FW，同时解除这两个限制。所提出的方法设置的步长的基础上充分减少的条件，并且不需要先验知识的目标。此外，他们继承了所有良好的收敛性能的精确线搜索版本，包括线性收敛的强凸函数多面体。不同机器学习问题的基准测试说明了所提出的变体的巨大性能增益。
2022-09-08 math.OC
Dynamic Regret of Distributed Online Frank-Wolfe Convex Optimization
本文研究了分布式在线凸约束优化问题，在该问题中，多智能体系统中的多个智能体通过与时变网络中的邻居进行通信来协作以最小化全局费用函数。当最优化问题的约束集是高维的、复杂的时，投影运算的计算量往往变得令人望而却步。为了解决这个问题，我们开发了一个分布式的在线Frank-Wolfe优化算法结合梯度跟踪技术。我们严格建立动态遗憾界的建议优化算法为$\mathcal{O}(\sqrt{T(1+H_T)}+D_T)$，这显式地依赖于迭代轮$T$，功能变化$H_T$，和梯度变化$D_T$。最后，在分布式在线岭回归问题的情况下，对理论结果进行了验证和比较。
2023-02-01 math.OC
An Inexact Frank-Wolfe Algorithm for Composite Convex Optimization Involving a Self-Concordant Function
本文提出一种带不精确预言机的Frank-Wolfe算法变体，用于求解涉及对数齐次自协和函数的复合凸优化问题，在放宽子问题精确求解假设的同时保持相似收敛保证，并应用于大规模半定规划。
2023-10-23 math.OC
Simplex Frank-Wolfe: Linear Convergence and Its Numerical Efficiency for Convex Optimization over Polytopes
本文提出 SLMO 及 Simplex Frank-Wolfe、rSFW 两种变体，在多面体强凸优化中实现线性收敛，并以近乎标准 LMO 的低迭代开销获得优异数值性能。
2025-09-29 math.OC
Flexible block-iterative analysis for the Frank-Wolfe algorithm
Zuse Institute Berlin（柏林齐泽研究所）；James Madison University（詹姆斯麦迪逊大学）
本文提出了一种灵活的块迭代分析方法，改进了Frank-Wolfe算法在非凸优化中的收敛性分析，实现了无需频繁调用LMO的并行更新策略，并展示了加速效果。
2025-12-16 math.OC
A New Convergence Analysis of Two Stochastic Frank-Wolfe Algorithms
本文研究了线性约束随机优化下原始与away-step Frank-Wolfe算法的收敛性，在放宽目标函数形式限制并引入方差界限或次高斯尾假设后，利用Lyapunov论证得出了复杂度界限。
2025-04-05 math.OC
A Frank-Wolfe Algorithm for Strongly Monotone Variational Inequalities
针对强单调变分不等式，本文提出以 Frank-Wolfe 方法为线性最小化预言机的加速算法，避免逐次投影，并在交通分配问题上验证其降低高投影成本的潜力。
2025-10-04 math.OC
Random-Subspace Frank--Wolfe over Strongly Convex Sets
Center for Advanced Intelligence Project（先进智能项目中心）；RIKEN（理化学研究所）；Zuse Institute Berlin（柏林祖斯研究所）；TU Berlin（柏林工业大学）；Graduate School of Information Science and Technology（信息理工学研究科）；The University of Tokyo（东京大学）
针对强凸可行集上的光滑凸优化，提出随机子空间Frank-Wolfe（RSFW）框架，通过随机低维仿射截面上的精确线性最小化预言机替代全空间预言机，保持原始空间可行性，并证明O(1/k)收敛率和线性收敛率。
2026-05-24 math.OC
Curvature-Dependent Lower Bounds for Frank-Wolfe
Zuse Institute Berlin（柏林齐泽研究所）；TU Berlin（柏林工业大学）
本文研究问题是在凸优化中Frank-Wolfe算法的收敛性；核心方法是通过分析Frank-Wolfe迭代的动力学来推导下界；主要贡献是建立了对于p≥3的匹配Ω(T^{-p/(p-1)})下界，并扩展到满足Holder误差界的目标准确。
2026-05-18 math.OC
The Iterates of the Frank-Wolfe Algorithm May Not Converge
Frank-Wolfe算法是求解紧致凸集$\mathcal{C}$上光滑凸函数$f$极小化问题的一种常用方法。虽然许多收敛性结果已经得出的功能值，几乎没有什么是已知的迭代序列的收敛行为$(x_t)_{t\in\mathbb{N}}$。在通常的假设下，我们设计了几个反例来证明$(x_t)_{t\in\mathbb{N}}$的收敛性，其中$f$是$d$ -时间连续可微的，$d\geq2$和$f(x_t)\to\min_\mathcal{C}f$。我们的反例涵盖了开环，闭环和线搜索步长策略的情况。我们不假设\emph{misspecification}的线性最小化的预言，因此，我们的结果保持无论它返回的点，证明了基本的病理学的收敛行为的$(x_t)_{t\in\mathbb{N}}$。
2022-02-17 math.OC
Frank-Wolfe Style Algorithms for Large Scale Optimization
我们介绍了几个变种适合大规模优化的弗兰克-沃尔夫风格的算法。我们将展示如何修改标准的Frank-Wolfe算法，使用随机梯度，近似子问题的解决方案，并勾勒决策变量，以规模庞大的问题，同时保持（常数）的最佳收敛速度$\mathcal{O}(\frac{1}{k})$。
2018-08-15 math.OC stat.ML
Generalized Self-Concordant Analysis of Frank-Wolfe algorithms
通过Frank-Wolfe（FW）方法的不同变体进行无投影优化已成为机器学习和计算统计大规模优化的基石之一。这些领域中的许多应用涉及具有自洽性质的函数的最小化。这样的广义自协调（GSC）函数不一定具有Lipschitz连续梯度，也不是强凸的。事实上，在许多应用中，例如逆协方差估计或支持向量机中的距离加权判别问题，损失由具有无界曲率的GSC函数给出，这意味着现有FW方法缺乏理论保证。本文关闭这一明显的差距，在文献中开发可证明收敛的FW算法与标准的O（1/k）收敛速度保证。如果问题的公式允许有效地构造一个局部线性最小化预言，我们开发了一个具有线性收敛速率的FW方法。
2021-07-30 math.OC
Beyond Short Steps in Frank-Wolfe Algorithms
Zuse Institute Berlin（柏林Zuse研究所）；Carlos III University（卡洛斯三世大学）；Technische Universität Berlin（柏林工业大学）
本文通过利用函数平滑性提出新技术以增强 Frank-Wolfe 算法，引入结合原始对偶保证的乐观框架与广义短步长策略，并证明其具有更紧的收敛速率和更优的实际性能。
2025-01-30 cs.LG math.OC
Global Convergence of Frank Wolfe on One Hidden Layer Networks
CNRS（法国国家科学研究中心）；École Normale Supérieure（巴黎高等师范学院）；Stanford University（斯坦福大学）
在训练一个隐层神经网络时，我们给出了Frank Wolfe算法的整体收敛界.当使用ReLU激活函数时，并且在样本数据集上的易于处理的预处理假设下，用于增量形成解决方案的线性最小化预言可以作为二阶锥程序显式求解。然后，经典的Frank Wolfe算法以速率$O(1/T)$收敛，其中$T$是神经元的数量和对oracle的调用的数量。
2020-02-06 cs.LG math.OC
