An optimal variant of Kelley's cutting-plane method
Yoel Drori, Marc Teboulle
本文提出了一种新的Kelley割平面法，用于求解欧几里得空间上非光滑凸Lipschitz-连续函数的极小化问题.我们通过一个建设性的方法，并证明它达到最佳的收敛速率这类问题的方法。
We propose a new variant of Kelley's cutting-plane method for minimizing a nonsmooth convex Lipschitz-continuous function over the Euclidean space. We derive the method through a constructive approach and prove that it attains the optimal rate of convergence for this class of problems.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
继续探索
On the Relation between the Extended Supporting Hyperplane Algorithm and Kelley's Cutting Plane Algorithm
最近，Kronqvist等人~ \cite{KronqvistLundellWesterlund2016}重新发现了Veinott~ \cite{Veinott1967}的支撑超平面算法，并证明了它在求解凸混合整数非线性规划中的计算优势。在本文中，我们推导出的算法从几何的角度来看。这使我们能够表明，支撑超平面算法是等价的凯利的切割平面算法~ \cite{J.E.Kelley1960}适用于一个特定的重新制定的问题。其结果是，我们扩展的适用性的支撑超平面算法的凸问题表示的一般，不一定凸，可微函数，满足一个温和的条件。
Limited Memory Kelley's Method Converges for Composite Convex and Submodular Objectives
原始单纯形法（OSM），经典的凯利的割平面法的一个变种，已被证明收敛到一个复合凸和次模目标的最小值，虽然没有收敛速率为这种方法是已知的。此外，OSM需要在每次迭代中解决子问题，其大小随迭代次数线性增长。我们提出了一个有限的内存版本的凯利的方法（L-KM）和OS OSM，需要有限的内存（最多n + 1个约束的n维问题）独立的迭代。我们证明了收敛的L-KM时的凸部分的目标（g）是强凸的，并显示它线性收敛时，g也是光滑的。我们的分析依赖于最小化的复合目标和最小化的凸函数在相应的子模基多面体之间的对偶。我们引入了一个有限的内存版本，L-FCFW，完全校正Frank-Wolfe（FCFW）方法与近似校正，解决对偶问题。我们表明，L-FCFW和L-KM是对偶算法，产生相同的迭代序列，因此都线性收敛（当g是光滑和强凸），并具有有限的内存。我们建议L-KM，以尽量减少复合凸和submodular的目标，但是，我们的结果L-FCFW一般多面体举行，可能是独立的利益。
Stochastic Dynamic Cutting Plane for multistage stochastic convex programs
本文介绍了随机动态割平面（Stochastic Dynamic Cutting Plane，StoDCuP）算法，它是随机对偶动态规划（SDDP）算法的一种扩展，用于求解多阶段随机凸优化问题。在每次迭代中，该算法不仅为成本函数（如SDDP所做的那样），而且还为一些或所有非线性成本和约束函数构建较低的仿射函数。证明了StoDCuP的几乎必然收敛.我们还介绍了一个不精确的变体StoDCuP的所有子问题的近似解决（有界误差），并显示此变体的消失误差的几乎必然收敛。
Subgame Perfect Methods in Nonsmooth Convex Optimization
本文针对带次梯度或近端算子预言机的非光滑凸优化问题，识别并提出满足子博弈完美性的算法，证明其性能不劣于极小极大最优且常更优。
Incremental cutting-plane method and its application
我们考虑正则化的割平面法，以最小化一个凸函数，这是大量的分量函数的总和。一个重要的例子是从拉格朗日松弛的可分解问题的对偶问题。在本文中，我们专注于一个增量的正则化割平面法，它只评估一个子集的分量函数在每次迭代。我们首先考虑一个有限的内存设置的方法删除削减有限数量的迭代后。在不同的正则化条件下，研究了有限记忆方法的收敛性。然后，我们提供了数值实验中的增量方法被应用到来自大规模的机组组合问题的对偶问题。在许多情况下，增量方法能够在比非增量方法更短的时间内找到高精度的解决方案。
A Cutting-plane Method for Semidefinite Programming with Potential Applications on Noisy Quantum Devices
本文提出基于随机割平面法的半定规划求解方法，利用特征求解器的量子加速优化凸优化问题，并在SDPLIB基准上验证其有效性与对噪声的鲁棒性。
Cutting Plane Approaches for the Robust Kidney Exchange Problem
有意愿但不相容的供体的肾脏患者可以决定参加肾脏交换计划（KEP）。KEP的目标是确定可以交换供体的这种不相容对的集合，从而为每个受体提供相容的移植。这一过程中存在很大的不确定性，因为计划中的移植可能会因各种原因而取消。因此，在规划交流时必须考虑到失败的情况。在本文中，我们考虑了这个问题的一个强大的变体，在文献中研究的追索权，考虑到顶点故障，即，退出捐赠者和/或接受者。这个问题属于防御者-攻击者-防御者（DAD）模型。我们提出了一个割平面法来解决的攻击者-防御者子问题的基础上，两个常用的混合整数规划公式的肾脏交换。我们的研究结果意味着一个数量级的运行时间的改善相比，国家的最先进的。此外，我们的割平面法可以解决大量的以前未解决的情况。此外，我们提出了一个新的实用的政策，在KEPs追索权，并表明该政策的鲁棒性最优化问题是易于处理的中小型KEPs在实践中。
A proximal bundle variant with optimal iteration-complexity for a large range of prox stepsizes
本文提出了一种求解凸非光滑组合最优化问题的邻近束变体，即松弛邻近束（RPB）方法。像其他近端束变体，RPB解决了一系列的近端束子问题，其目标函数是正则化的复合切割平面模型。此外，RPB使用一个新的条件来决定是否执行一个严重的或无效的迭代，不一定会产生一个函数值减少。RPB的最佳迭代复杂性的界限，建立了一个大范围的prox步长，无论是在凸和强凸设置。据我们所知，这是第一次，近端束的变体被证明是最佳的一个大范围的近端步长。最后，迭代复杂性结果RPB获得迭代满足实际终止准则，而不是附近的最优解，也来自。
Contextual Recommendations and Low-Regret Cutting-Plane Algorithms
我们考虑以下变体的上下文线性强盗的动机在导航引擎和推荐系统中的路由应用程序。我们希望学习一个隐藏的$d$ -维值$w^*$。每一轮，我们都有一个可能行动的子集$\mathcal{X}_t \subseteq \mathbb{R}^d$。如果我们选择（即向用户推荐）操作$x_t$，我们获得实用程序$\langle x_t, w^* \rangle$，但仅学习最佳操作$\arg\max_{x \in \mathcal{X}_t} \langle x, w^* \rangle$的标识。我们设计了这个问题的算法，实现遗憾$O(d\log T)$和$\exp(O(d \log d))$。为了实现这一点，我们设计了新的切割平面算法与低“遗憾”-之间的总距离真正的点$w^*$和超平面的分离预言返回。我们还考虑了允许我们提供若干建议清单的变式。在这个变体中，我们给出了一个具有$O(d^2 \log d)$后悔和列表大小$\mathrm{poly}(d)$的算法。最后，我们构建了一个较弱的变体，这个问题的学习者只学习的身份比建议的行动，几乎紧算法。我们的研究结果依赖于新的算法技术在凸几何（包括一个变体的斯坦纳公式的质心的凸集），这可能是独立的利益。
Learning Cuts via Enumeration Oracles
本文提出利用降维枚举预言机并嵌入 Frank-Wolfe 变体来学习多面体的面，从而生成强割平面，并在 MKP 案例中验证有效性。
Cutting Some Slack for SGD with Adaptive Polyak Stepsizes
本文针对随机梯度下降步长调节繁琐的问题，提出基于引入松弛变量的 SPS 自适应步长方法新变体，使其更适合非线性模型，并提供了收敛性理论与数值验证。
A Difference-of-Convex Cutting Plane Algorithm for Mixed-Binary Linear Program
本文提出了一种基于DC规划和DC割的全局求解混合二元线性规划的割平面算法。我们首先使用一个经典的DC规划公式，通过精确惩罚，制定MBLP作为DC规划，它可以通过DCA算法求解。然后，我们专注于DC割的构造，它既可以作为一个局部割（即类型I DC割）在可行的局部极小MBLP，或作为一个全局割（即类型II DC割）在不可行的局部极小MBLP，如果某些特定的假设得到验证。另外，DC割的可构造性还不清楚，我们建议使用经典的全局割（如提升和投影割）来代替。将DC割与经典的全局割相结合，建立了全局求解MBLP的割平面算法DCCUT。证明了DCCUT算法的收敛性定理。在DCCUT中重新启动DCA有助于快速更新上界解，并引入更多DC切割以改善下界。通过在每次迭代中引入更经典的全局割，提出了DCCUT的一个变体，并设计了DCCUT及其变体的并行版本，这些版本利用多处理器的能力来获得更好的性能。对DCCUT类算法与经典的基于提升投影割的割平面算法进行了数值模拟。对一些特定样本和MIPLIB 2017基准数据集的测试证明了DC切割的好处和DCCUT算法的良好性能。
Integrated Cutting and Packing Heterogeneous Precast Beams Multiperiod Production Planning Problem
我们介绍了切割生产计划问题的一种新变体，称为集成切割和包装异质预制梁多周期生产计划（ICP-HPBMPP）。我们提出了一个整数线性规划模型的ICP-HPBMPP，以及其最佳的目标函数值，这是经验表明，更接近最优解值比从线性松弛的模型得到的边界的下界。我们还提出了一种遗传算法的方法，作为替代解决方案的方法的ICP-HPBMPP。我们讨论了计算实验，并提出了一个参数化的遗传算法，使用D-最优试验设计。我们观察到良好的性能的确切的方法解决小规模的情况下，虽然有困难，在寻找最优解，中型和大型的问题，甚至在寻找可行解的大型实例。另一方面，遗传算法可以在较短的计算时间内找到高质量的解决方案，为大型的实例。
On Parallel and Batch-Cutting Strategies for Norm-Minimization-Based Convex Vector Optimization
针对凸向量优化的范数最小化外包逼近算法，提出并行化子问题评估和批量切割策略，在保持收敛率的同时减少迭代次数和墙钟时间。
Primal-dual proximal bundle and conditional gradient methods for convex problems
本文提出原始-对偶近端束方法求解凸非光滑复合优化与鞍点问题，建立迭代复杂度，发现与条件梯度的对偶性，并验证其优于次梯度方法。
Solving the Team Orienteering Problem with Cutting Planes
团队定向运动问题是车辆路径问题的一个很有吸引力的变种。其目的是选择客户，同时组织车队的访问，以最大限度地提高所收集的利润，并遵守每辆车的旅行时间限制。在本文中，我们探讨了有效地使用多项式变量的线性制定解决TOP。切割平面是我们求解算法的核心组成部分。它首先用于通过考虑较少的车辆来解决原始问题的较小和中间模型。然后检索有用的信息来解决更大的模型，并最终到达原始问题。相对新的和专门的方法，如识别不相关的弧和强制客户，集团和独立集切割的基础上的不兼容性，和利润/客户的车辆子集的限制，介绍了TOP。我们评估了我们的算法的TOP的标准基准。结果表明，该算法是有竞争力的，能够证明12个以前未解决的情况下的最优性。
Memory-Constrained Algorithms for Convex Optimization via Recursive Cutting-Planes
提出递归切割平面算法族，在内存受限下解决凸优化可行性问题，实现内存与预言机复杂度的正权衡，并在特定区间优于梯度下降。
A simple Newton method for local nonsmooth optimization
超线性收敛一直是黑箱非光滑最优化难以实现的目标。即使在凸的情况下，次梯度方法也是非常慢的，而一些切割平面算法，包括传统的束方法，在实践中是流行的，局部收敛仍然缓慢。更快的变体取决于问题的结构或分析，省略了序列的“空”步骤。出于半结构化的方法来优化和顺序二次规划哲学，我们描述了一个新的捆绑牛顿法，采用二阶的客观信息与通常的线性逼近甲骨文。一个代表性的问题类由几个光滑函数的最大值组成，单独访问的oracle。作为额外的输入只是基数的最佳活动集，我们证明了局部平方收敛。一个简单的实现显示了更一般的功能，凸和非凸的承诺，并建议一阶类似物。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈
发表机构由 AI 从论文文本抽取，如发现错误，欢迎反馈修正建议。