Distributed Submodular Minimization And Motion Coordination Over Discrete State Space
我们开发了一个分布式最小化次模函数的框架。次模函数是凸函数的一种离散模拟,广泛应用于大规模组合最优化问题中。虽然凸优化问题的分布式公式已经引起了很大的兴趣,但次模函数的分布式最小化却受到了相对较少的关注。我们的框架依赖于一个等价的凸重构的子模块最小化问题,这是有效的计算。然后,我们使用这种松弛来开发凸函数的分布式优化方法。所提出的框架是适用于次模集函数以及更广泛的一类次模函数定义在某些格。提出了一种基于次模函数极小化的离散状态空间分布式运动协调问题的求解方法。我们建立通过一个具有挑战性的设置捕获的旗帜游戏,子模块功能的格子可以用来设计人工势场离散状态空间中的代理人被吸引到他们的目标,并从障碍物和彼此避免碰撞。
2018-01-21 math.CO math.OC
Submodular Function Minimization and Polarity
University of California, Berkeley(加州大学伯克利分校);Indian Institute of Technology Bombay(印度理工学院孟买分校)
利用极性给出了集函数上图的外多面体逼近。对于一个次模函数,我们证明了相应的极松弛是精确的,因此,它等价于Lovász扩张。极坐标方法为次模函数上图的凸包描述提供了一种可供选择的证明。计算实验表明,外逼近不等式可以作为求解次模和非次模集函数极小化问题的有效割平面。
2020-12-08 cs.LG math.OC
On the Semidefinite Representability of Continuous Quadratic Submodular Minimization With Applications to Pricing and Moment Problems
University of Iowa(爱荷华大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文研究了带约束的连续二次子模最小化问题,提出了一种多项式规模的半定松弛方法,证明在维度n≤3时严格紧,更大维度时经验紧,并应用于分布鲁棒优化中的两个矩问题。
2026-09-01 math.OC
Convex Submodular Minimization with Indicator Variables
针对含指示变量的广义凸子模优化问题,提出经重构简化为二元子模极小化的强多项式求解方法,结合特定光滑条件下的参数化极端基计算,实现高效求解并获数值实验验证。
2025-07-08 math.OC
Discrete and Continuous Difference of Submodular Minimization
McGill(麦吉尔大学);Department of Mathematics and Statistics(数学与统计学系);McGill University(麦吉尔大学);Samsung(三星);Samsung AI Lab(三星人工智能实验室)
本文研究离散与连续域上次模(DS)函数之差的最小化,证明相关函数均为DS函数,提出DC算法新变体并应用于DC规划,在整数压缩感知和最小二乘实验中优于基线。
2025-11-04 cs.DS cs.LG math.OC
On Constrained Mixed-Integer DR-Submodular Minimization
本文研究带盒子及单调性约束的混合整数DR-次模最小化,提出有效线性不等式并给出完整凸包(多面体),设计多项式时间精确分离算法,首次证明该类问题多项式时间可解。
2023-09-05 math.OC
On the Convergence Rate of Decomposable Submodular Function Minimization
本文研究了可分解亚模函数最小化算法的收敛速度,通过几何和谱图理论分析,给出了收敛速率的上界和下界。
2014-11-05 cs.DM cs.DS cs.LG
Active-set Methods for Submodular Minimization Problems
本文研究了次模函数极小化(SFM)和由次模函数的Lov'asz扩张正则化的二次极小化问题。这些优化问题是密切相关的;例如,最小割问题和全变差去噪问题,其中割函数是次模的,其Lov'asz扩张由相关的全变差给出。当二次损失由割函数的全变差正则化时,它就变成了全变差去噪问题,我们在本文中对“一般”次模函数使用相同的术语。我们提出了一种新的有效集算法用于全变差去噪,并假设一个预言机可以解决相应的SFM问题。这可以看作是局部下降算法在有序分区与显式收敛保证。它比现有的算法更灵活,具有使用密切相关问题的解决方案进行热重启的能力。此外,我们还考虑的情况下,当一个次模函数可以分解成两个次模函数F1和F2的和,并假设SFM预言这两个functions.We提出了一个新的有效集算法的全变差去噪(因此SFM阈值为零的解决方案)。该算法还可以在有序划分上执行局部下降,并且其热启动能力大大提高了算法的性能。在实验中,我们比较了所提出的算法的性能与国家的最先进的算法,showingit减少了调用SFM预言机。
2018-02-06 math.OC
Convex Submodular Minimization with Indicator Variables
本文研究带指示变量的凸次模优化问题,证明其可归约为二元次模最小化从而强多项式可解,并提出基于极端基的参数化快速求解方法,通过数值实验验证了其效率。
2025-07-07 math.OC
Improved Lower Bounds for Submodular Function Minimization
我们提供了一个通用的技术,构建家庭的次模函数,以获得下界次模函数最小化(SFM)。应用这种技术,我们证明了任何确定性的SFM算法的地面集的$n$元素至少需要$Ω(n \log n)$查询一个评估预言。这是SFM的第一个超线性查询复杂度下限,并且改进了由[Graur等人,ITCS 2020]。使用我们的建设,我们还证明了任何(可能是随机的)并行SFM算法,它可以使每轮$\mathsf{poly}(n)$查询,至少需要$Ω(n / \log n)$轮,以尽量减少一个子模块功能。这改进了由于[Chakrabarty等人,FOCS 2021],并解决了查询高效的SFM的并行复杂性高达对数因子,这是由于[Jiang,SODA 2021]的最新进展。
2022-07-09 cs.CC cs.DC cs.DM
Robust Submodular Minimization with Applications to Cooperative Modeling
University of Texas at Dallas(得克萨斯大学达拉斯分校)
鲁棒优化在机器学习应用中变得越来越重要。研究了组合约束下的鲁棒次模极小化问题。约束子模块最小化出现在几个应用中,如合作切割图像分割,合作匹配图像对应等,许多这些模型定义的聚类数据点(例如图像中的像素),重要的是这些模型是强大的扰动和数据的不确定性。虽然现有的几篇论文研究了强大的次模最大化,我们的工作是第一次研究的最小化版本下广泛的组合约束,包括基数,背包,拟阵以及基于图形的约束,如削减,路径,匹配,和树。在每种情况下,我们提供了可扩展的近似算法,并研究硬度界限。最后,我们实证证明了我们的算法在合成和真实世界的数据集上的实用性。
2020-01-25 cs.LG math.OC stat.ML
Strong valid inequalities for a class of concave submodular minimization problems under cardinality constraints
研究了一类基数约束凹次模极小化问题中混合整数集的多面体凸包结构。这类问题具有$f(a^\top x)$形式的目标函数,其中$f$是单变量凹函数,$a$是非负向量,而$x$是适当维数的二元向量。这种最小化问题经常出现在涉及风险规避或规模经济的应用中。当$a$有两个不同值时,我们给出了这类凸包的三类强有效线性不等式,并给出了它们的刻面条件。我们展示了如何使用这些不等式,以获得有效的不等式一般$a$,包含多个值。当$a$包含两个不同的值且基数约束上界为2时,我们进一步给出了这个混合整数集的一个完整的线性凸包描述。我们在平均风险最优化问题上的计算实验证明了所提出的不等式在分支切割框架下的有效性。
2022-12-21 math.OC
Quantum and Classical Algorithms for Approximate Submodular Function Minimization
Université de Paris(巴黎大学);IRIF(法国信息与自动化研究所(IRIF));CNRS(法国国家科学研究中心);Centre for Quantum Technologies, National University of Singapore(新加坡国立大学量子技术中心);National University of Singapore(新加坡国立大学);MajuLab UMI 3654(MajuLab国际联合实验室(UMI 3654))
子模函数是将大小为$n$的某个基集的每个子集映射到实数并满足收益递减性质的集函数。次模极小化是离散优化理论中的一个重要领域,因为它与数学、计算机科学和经济学的各个分支都有联系。目前用于精确最小化的最快强多项式算法[LSW 15]在时间上运行$\widetilde{O}(n^3 \cdot \mathrm{EO} + n^4)$,其中$\mathrm{EO}$表示在任何集合上计算函数的成本。对于具有范围$[-1,1]$的函数,最佳$ε$ -加法近似算法[CLSW 17]在时间$\widetilde{O}(n^{5/3}/ε^{2} \cdot \mathrm{EO})$中运行。本文给出了近似次模极小化的经典算法和量子算法。我们的经典结果改进了[CLSW 17]的算法,并在时间$\widetilde{O}(n^{3/2}/ε^2 \cdot \mathrm{EO})$上运行.据我们所知,我们的量子算法是第一次尝试使用量子计算进行子模块优化。该算法在时间$\widetilde{O}(n^{5/4}/ε^{5/2} \cdot \log(1/ε) \cdot \mathrm{EO})$中运行。量子结果的主要成分是一种新的方法,用于从支持大小$n$在时间$O(\sqrt{Tn})$上的任何离散概率分布中以高概率$T$独立元素进行采样。以前的量子算法的复杂性为$O(T\sqrt{n})$。
2020-01-15 cs.DS cs.LG math.OC
Control of Generalized Discrete-time SIS Epidemics via Submodular Function Minimization
本文研究了一类广义SIS传染病过程的一种新的控制方法。特别是,我们使用预测控制来设计最佳的保护资源分配策略,该策略平衡了快速消除流行病的需要和限制保护资源使用率的需要。我们预期,这种控制器可能有助于减轻生物疾病的传播,这些疾病不会使以前感染过的人获得免疫力,性传播感染就是一个突出的例子。从技术上讲,本文提供了一个新的贡献,证明了用于设计资源分配的特定组合最优控制问题有一个目标函数,这是次模块化的,所以可以解决多项式时间,尽管其组合性质。我们测试所提出的控制器的性能与数值模拟,并提供一些意见,为今后的工作方向。
2018-08-15 math.OC
Efficient Determination of Gibbs Estimators with Submodular Energy Functions
给出了求取有限全序集值的多元函数极小化问题的组合算法。为此,使用通过布尔多项式的函数的分解。给出了求次模布尔多项式极小化的改进SFM算法。为了使图割技术的应用成为可能,导出了次模布尔多项式的某些子类的图表示。
2003-04-03 math.OC math.ST stat.TH
Distributed Submodular Minimization over Networks: a Greedy Column Generation Approach
Università del Salento(萨伦托大学);University of Bologna(博洛尼亚大学)
本文研究了在网络中分布式解决子模最小化问题的挑战,提出了一种基于线性规划的分布式算法,利用贪心列生成方法在有限时间内收敛到最优解。
2018-12-14 cs.DC cs.MA cs.SY
Learning with Submodular Functions: A Convex Optimization Perspective
INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院)
子模函数与机器学习相关至少有两个原因:(1)一些问题可以直接表示为子模函数的优化,以及(2)子模函数的lovasz扩展为监督学习和无监督学习提供了一组有用的正则化函数。在这本专著中,我们提出了理论的次模函数从凸分析的角度来看,提出了紧密的联系,某些多面体,组合优化和凸优化问题。特别是,我们展示了次模函数最小化是如何等价于解决各种各样的凸优化问题。这使得新的高效算法的近似和精确的子模函数最小化的理论保证和良好的实际性能的推导。通过列出许多子模块函数的例子,我们回顾了机器学习的各种应用,如聚类,实验设计,传感器放置,图形模型结构学习或子集选择,以及一个家庭的结构稀疏诱导规范,可以派生和使用的子模块函数。
2013-10-08 cs.LG math.OC
Sparse Submodular Function Minimization
针对保证存在 $k$-稀疏极小化子的子模函数最小化问题,提出基于一阶优化与稀疏对偶证书的并行和随机算法,显著降低并行深度与预言机查询复杂度。
2024-07-06 cs.DS math.OC
Distributed Submodular Minimization via Block-Wise Updates and Communications
Alma Mater Studiorum Università di Bologna(博洛尼亚大学)
在本文中,我们处理网络的计算代理与本地处理和相邻的通信能力,旨在解决(没有任何中央单元)的子模块最优化问题。费用函数是许多局部次模函数的和,并且网络中的每个代理仅可以访问和中的一个函数。在这种\emph{distributed}设置中,为了保护自己的隐私,代理与邻居通信,但不共享其本地费用函数。我们提出了一种分布式算法,在该算法中,代理诉诸Lovàsz扩展其本地次模函数和执行本地更新和通信的整个优化变量的单块。通过贪婪算法执行更新,该算法仅运行到计算出所选块为止,从而导致计算负担减少。所提出的算法收敛于期望值的最优成本的问题,和一个近似解的子模块化问题的阈值操作检索。作为一个应用程序,我们考虑分布式图像分割问题,其中每个代理只能访问整个图像的一部分。虽然代理不能分割整个图像本身,他们正确地完成任务,通过合作,通过提出的分布式算法。
2020-05-25 cs.LG math.CO math.OC
Robust Budget Allocation via Continuous Submodular Functions
Massachusetts Institute of Technology(麻省理工学院)
在过去的几年里,资源的最佳分配以最大限度地提高影响力、信息传播或覆盖范围,特别是在机器学习和数据采掘中,已经引起了人们的关注。但在实际应用中,问题的参数很少被精确地知道,使用错误的参数可能会导致不期望的结果。因此,我们从鲁棒优化的角度重新审视了Alon等人(2012)引入的预算分配或二分影响力最大化问题的连续版本。在这种情况下,对手可能会选择置信集内最不利的参数。由此产生的问题是一个非凹凸鞍点问题(或对策)。我们表明,这个非凸问题可以完全解决利用连接到连续的次模函数,并通过解决一个约束次模最小化问题。虽然有约束的子模最小化是很难在一般情况下,在这里,我们建立的条件下,这样的问题可以解决到任意精度$ε$。
2017-06-13 cs.AI cs.DS cs.LG
Difference of Submodular Minimization via DC Programming
Samsung - SAIT AI Lab, Montreal(三星SAIT人工智能实验室蒙特利尔分部);McGill University(麦吉尔大学)
本文针对两个次模函数之差的最小化问题,提出应用于对应 DC 规划的 DCA 与 CDCA 变体,完善收敛与局部极小性保证,并在语音语料库和特征选择任务中优于基线。
2024-04-04 cs.DM cs.DS cs.LG
Faster Parametric Submodular Function Minimization by Exploiting Duality
Massachusetts Institute of Technology(麻省理工学院);Princeton University(普林斯顿大学)
本文提出了一种利用对偶性加速参数子模函数最小化的算法,通过切割平面方法减少 oracle 调用次数,实现弱多项式时间复杂度。
2026-03-09 math.CO math.OC
Reflection methods for user-friendly submodular optimization
UC Berkeley(加州大学伯克利分校);INRIA - ENS(法国国家信息与自动化研究所 - 巴黎高等师范学院);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出一种高效的子模函数优化方法,通过连续最佳逼近问题的反射序列求解,实现连续和离散问题的双重解决,应用于图像分割任务。
2013-11-18 cs.LG cs.NA cs.RO
Stochastic Conditional Gradient Methods: From Convex Minimization to Submodular Maximization
Massachusetts Institute of Technology(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学)
本文考虑一类目标函数的随机最优化问题,其中包括凸的和连续的子模。随机近端梯度法已被广泛用于解决这类问题,然而,当问题维数很大,投影到一个凸集是昂贵的,他们的适用性仍然有限。相反,随机条件梯度法被提出作为一种替代解决方案,依赖于(i)通过简单的平均技术近似梯度,每次迭代需要一个单一的随机梯度评估;(ii)求解线性规划来计算下降/上升方向。平均技术降低了噪声的梯度近似随着时间的推移,并取代投影步骤在近似方法由一个线性规划降低了每次迭代的计算复杂性。我们表明,在凸性和光滑性的假设下,我们提出的方法收敛到最佳的目标函数值在一个次线性率$O(1/t^{1/3})$。此外,对于单调和连续的DR-子模函数和一般凸体约束,我们证明了我们提出的方法实现了$((1-1/e)OPT-\eps)$保证与$O(1/\eps^3)$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。此外,对于目标函数是连续的DR-次模但非单调的,且约束集是下闭的情形,我们利用$O(1/\eps^3)$随机梯度得到了$((1/e)OPT -\eps)$保证.通过使用随机连续优化作为一个接口,我们提供了第一个$(1-1/e)$紧逼近保证最大化的单调,但随机子模集函数的拟阵约束和$(1/e)$逼近保证的非单调的情况下。
2018-11-12 cs.LG math.OC stat.ML
On Unconstrained Quasi-Submodular Function Optimization
Shanghai Jiao Tong University(上海交通大学)
本文提出两种算法用于无约束拟子模函数的最小化和最大化,通过单次子交叉性质,在O(n)次迭代内返回缩减格,并保证目标函数值在每次迭代后严格单调变化。
2014-11-13 cs.DS cs.NA math.NA
Rescaling nonsmooth optimization using BFGS and Shor updates
BFGS拟牛顿法,流行的光滑最小化,也证明了令人惊讶的有效性,在非光滑最优化。通过各种简单的例子和计算实验,我们探讨了如何BFGS矩阵更新改善局部度量与凸函数,即使在没有平滑和不使用线搜索。我们比较的BFGS和Shor r算法更新的行为。
2018-02-18 math.OC
Time rescaling of a primal-dual dynamical system with asymptotically vanishing damping
本文利用阻尼项渐近为零的二阶动力系统,研究了线性等式约束下连续可微凸函数的极小化问题。所考虑的系统是以前在文献中发现的另一个系统的时间缩放版本。我们展示了快速收敛的原始-对偶间隙,可行性措施,和目标函数值沿所生成的轨迹。这些收敛速度现在取决于重新缩放参数,并且因此可以通过适当地选择所述参数来改进。当目标函数具有Lipschitz连续梯度时,我们证明了原对偶轨线渐近弱收敛到原对偶最小化问题的最优解.我们还表现出改进的速度收敛的梯度沿原始轨迹和相应的线性算子的伴随沿对偶轨迹。即使在无约束的情况下,一些轨迹收敛的结果似乎是新的。我们通过数值实验说明了理论结果。
2022-09-14 math.OC
Concave Aspects of Submodular Functions
University of Texas at Dallas(德克萨斯大学达拉斯分校);University of Washington(华盛顿大学)
次模函数是一类特殊的集合函数,它推广了信息论中的熵、互信息等量[1]。次模函数具有次梯度和次微分[2],并且允许多项式时间算法用于最小化,这两者都是凸函数的基本特征。子模函数也显示类似于的符号。次模函数极大化虽然是NP困难的,但它具有常数因子逼近保证,并且由模函数组成的凹函数是次模函数。在本文中,我们试图提供一个更完整的子模块性与子模块性之间的关系。我们刻画了与上界相关的超微分和多面体,并利用超微分给出了次模极大化的最优性条件。本文是我们较长的预印本[3]的简洁和较短的版本。
2020-06-27 cs.DM cs.IT cs.LG
Linear Optimization over a Polymatroid with Side Constraints -- Scheduling Queues and Minimizing Submodular Functions
多类调度系统的调度和最小化次模函数这两个看似不相关的问题,通过一方面以次模集函数为特征,另一方面又代表调度系统性能多胞形的多拟阵有着相当深的联系.我们首先开发了一个我们称之为{ \it grouping}的算法,它解决了边约束下的排序问题,计算工作量为$O(n^3LP(n))$,$n$是作业类的数量,LP(n)是求解不超过$n$变量和$n$约束的线性规划的计算工作量。该算法将作业类组织成组,并将最优策略确定为跨组的优先级规则和每个组内的随机规则(以强制执行侧约束)。然后,我们应用分组算法的次模函数最小化,后者映射到一个调度问题的侧约束。%每次应用该算法时,它识别一个子集;并且我们表明可以通过应用分组算法$n$次来识别最小化子集。因此,这导致一个算法,最小化一个次模函数的努力$O(n^4LP(n))$。
2008-05-09 math.OC
Convex Optimization for Parallel Energy Minimization
INRIA(法国国家信息与自动化研究所);Instituto de Ingeniería del Conocimiento(知识工程研究所);Universidad Autónoma de Madrid(马德里自治大学);Massachusetts Institute of Technology(麻省理工学院)
能量最小化一直是计算机视觉研究的核心问题。随着图像尺寸(2D和3D)的增长,现在非常期望并行地运行能量最小化算法。但现有的许多算法,特别是一些有效的组合算法,很难并行化。通过利用凸和次模理论的结果,我们重新制定的二次能量最小化问题作为一个总变分去噪的问题,这,当被视为几何,使使用基于投影和反射的凸方法。由此产生的min-cut算法(和代码)在概念上非常简单,并且解决了一系列TV去噪问题。我们进行了广泛的实证评估比较国家的最先进的组合算法和凸优化技术。在小问题上,迭代凸方法与组合最大流算法相匹配,而在较大的问题上,它们提供了其他灵活性和重要的收益:(a)它们的内存占用很小;(b)它们的直接并行性适合多核平台;(c)它们可以很容易地热启动;(d)它们可以快速达到近似好的解决方案,从而实现更快的“不精确”解决方案。我们的方法基于子模块性和凸性的一个关键后果是,它允许将任何任意的组合或凸方法作为子程序,这使得人们可以获得混合组合和凸优化算法,受益于两者的优势。
2015-03-05 cs.CV math.OC
Conductance Estimation in Digraphs: Submodular Transformation, Lovász Extension and Dinkelbach Iteration
针对有向图划分中对称化忽略方向依赖性的问题,提出基于子模变换与Lovász扩展的广义连续框架,设计DSI算法求解分数规划问题,可证明收敛至二元局部最优,显著优于现有方法。
2025-06-29 math.OC
A Submodular Approach for Electricity Distribution Network Reconfiguration
University of Texas at Austin(德克萨斯大学奥斯汀分校);Boston University(波士顿大学)
本文提出利用子模函数最小化方法解决电力分配网络重构中的损耗最小化问题,证明该问题为强NP难,并提出多项式时间局部搜索算法,理论分析其性能并验证与传统分支交换算法等效。
2017-11-09 cs.SY eess.SY math.OC
Supermodular Rank: Set Function Decomposition and Optimization
UCLA(加州大学洛杉矶分校);Harvard University(哈佛大学);MPI MiS(马克斯·普朗克数学研究所)
本文定义了格上函数的超模秩与子模秩,并提出一种利用子模分解将优化问题拆分为子模子问题的算法,从而在取决于子模秩的计算开销下,有效提升了单调集合函数最大化等问题的近似比保证。
2026-10-22 cs.CC cs.DM cs.LG
A Randomized Nonlinear Rescaling Method in Large-Scale Constrained Convex Optimization
我们提出了一个新的随机算法,用于解决具有大量约束(具有高概率)的凸优化问题。现有的方法,如边界点或牛顿型算法是很难适用于这样的问题,因为他们有昂贵的计算和存储要求的海森和矩阵求逆。我们的算法是基于非线性重标度(NLR),这是Griva和Polyak {[{Math. Program.,106(2):237-259,2006}]}。NLR通过约束函数的变换引入一个等价的问题,对于给定的对偶变量,最小化相应的增广拉格朗日量,然后使用这个最小化器来更新下一次迭代的对偶变量。每次迭代的原始更新是无约束有限和最小化问题的解,其中项由当前对偶变量加权。我们使用随机一阶算法来进行这些原始更新,它们特别适合。特别地,我们使用缩放的对偶变量作为每个原始更新的采样分布,并且我们证明了该分布是所有概率分布中的最优分布。最后,我们证明了我们的算法的良好的数值性能。
2020-03-24 math.OC
Tight Bounds for Approximate Carathéodory and Beyond
Google Research(谷歌研究院);MIT(麻省理工学院);UC Berkeley(加州大学伯克利分校)
本文给出了一个确定性的近似线性时间算法,用于用凸多面体顶点的稀疏凸组合逼近凸多面体内的任意点。我们的结果为近似Carathéodory问题提供了一个构造性的证明,该证明指出,半径为$D$的$\ell_p$球中包含的多面体内的任何点都可以通过$p \geq 2$的多面体的仅$O\left(D^2 p/ε^2\right)$顶点的凸组合在$\ell_p$范数下近似于$ε$内.我们还表明,这个界是紧的,使用参数的基础上反浓度的二项分布。沿着建立上界的方式,我们开发了一种技术,用于最小化具有复杂几何形状的凸集上的范数;这是通过运行镜像下降通过Sion定理获得的对偶凸函数来实现的。作为我们的方法的简单扩展,然后我们提供了新的算法子模函数最小化和SVM训练。对于次模函数最小化,我们得到一个简化和(可证明)的速度超过沃尔夫的算法,该方法通常被认为是最快的在实践中。对于SVM训练,我们获得了任意核的$O(1/ε^2)$收敛;每次迭代只需要涉及核矩阵的矩阵向量运算,因此我们克服了必须显式存储核或计算其Cholesky分解的障碍。
2015-12-29 cs.DS cs.LG math.OC
On a general framework for network representability in discrete optimization
In discrete optimization , representing an objective function as an $s$ - $t$ cut function of a network is a basic technique to design an efficient minimization algorithm. A network representable function can be minimized by computing a minimum $s$ - $t$ cut of a directed network, which is a very easy and fastly solved problem. Hence it is natural to ask what functions are network representable. In the case of pseudo Boolean functions (functions on $\{0,1\}^n$ ), it is known that any submodular function on $\{0,1\}^3$ is network representable. Živný--Cohen--Jeavons showed by using the theory o…
2017-05-28 math.OC
Strong Formulations for Quadratic Optimization with M-matrices and Indicator Variables
我们研究了具有指示变量和M-矩阵的二次优化,即,具有非正非对角项的PSD矩阵,其直接出现在具有交易成本的图像分割和投资组合优化中,以及一般二次最优化问题的子结构。我们证明,在温和的假设下,最小化问题是在多项式时间内可解的,通过显示其等价于一个子模块化的最小化问题。为了加强制定,我们分解成一个简单的二次函数,最多两个指标变量的总和,并提供这些集的凸包描述的二次函数。我们还描述了强锥二次有效不等式。初步的计算实验表明,所提出的不等式可以大大提高强度的连续松弛相对于标准的透视重构。
2018-04-14 math.OC
Convex Minimization with Integer Minima in $\widetilde O(n^4)$ Time
University of Washington(华盛顿大学);Adobe Research(Adobe研究院);Massachusetts Institute of Technology(麻省理工学院)
针对整数最小值的凸最小化问题,提出结合快速LLL算法与体积中心切割平面法的新算法,将运行时间从$\widetildeΩ(n^8)$降至$O(n^4\log n)$,并改进子模函数最小化的复杂度。
2026-11-11 cs.DM cs.DS math.OC