Optimal approximation for unconstrained non-submodular minimization
Massachusetts Institute of Technology（麻省理工学院）
子模函数极小化问题已经得到了很好的研究，现有的算法可以精确地解决它，或者可以达到任意的精度。然而，在许多应用中，例如结构化稀疏学习或批量贝叶斯优化，目标函数不是精确的子模，而是接近的。在这种情况下，不存在理论上的保证。事实上，次模最小化算法依赖于次模性和凸性之间的复杂联系。我们展示了如何将这些关系扩展到最小化非次模函数的近似保证，其特征在于函数是如何接近次模的。我们还将这一结果扩展到噪声函数的评价。我们的近似结果是第一次最小化非次模函数，是最佳的，我们的匹配下界建立。
2022-03-09 cs.DM cs.DS cs.LG
Provable Submodular Minimization using Wolfe's Algorithm
由于在大规模学习和视觉问题中的应用，快速次模函数极小化（SFM）已成为一个关键问题。理论上，无约束SFM可以在多项式时间内执行[IFF 2001，IO 2009]。然而，这些算法通常不实用。在1976年，Wolfe提出了一个算法来寻找多面体中的最小欧氏范数点，并且在1980年，Fujishige展示了如何将Wolfe的算法用于SFM。对于一般的次模函数，这种Fujishige-Wolfe最小范数算法似乎具有最好的经验性能。尽管Wolfe最小范数算法具有很好的实际性能，但在理论上却知之甚少。据我们所知，唯一的结果是由于沃尔夫本人的指数时间分析。本文给出了Wolfe算法的一个新的收敛性分析。证明了在$t$迭代中，Wolfe算法返回{ \em any}多面体上最小范数点的$O(1/t)$ -近似解.我们还证明了一个强大的版本Fujishige的定理表明，一个$O(1/n^2)$近似解的最小范数点的基础多面体意味着{ \em精确}次模最小化。作为推论，我们得到了无约束次模函数极小化的Fujishige-Wolfe最小范数算法的第一个伪多项式时间保证。
2014-11-01 cs.DS math.OC
Algorithms for Approximate Minimization of the Difference Between Submodular Functions, with Applications
University of Washington（华盛顿大学）
我们扩展了Narasimhan和Bilmes [30]的工作，用于最小化可表示为子模函数之间的差异的集函数。与[30]类似，我们的新算法保证在每一步都单调减少目标函数。我们的经验和理论表明，我们的算法的每次迭代成本远低于[30]，我们的算法可以用来有效地减少各种组合约束下的子模函数之间的差异，以前没有解决的问题。我们提供了计算界和硬度结果的乘法不可逼近的最小化子模函数之间的差异。然而，我们表明，它是可能的，以提供一个多项式时间计算下限的最小值的最坏情况下的添加剂的界限。最后，我们展示了如何将一些机器学习问题建模为最小化子模块函数之间的差异。我们的实验表明，我们的算法的有效性，通过测试他们的问题上的特征选择与子模块成本功能。
2013-08-24 cs.DS cs.LG
Approximate Decomposable Submodular Function Minimization for Cardinality-Based Components
Texas A&M University（德克萨斯A&M大学）；Cornell University（康奈尔大学）
最小化有限支集的简单次模函数之和是一般次模函数最小化的特殊情况，在机器学习中有许多应用。我们开发了快速技术，用于和中的组件是基于基数的实例，这意味着它们只依赖于输入集的大小。这一变式是实践中应用最广泛的变式之一，包括，例如，图像分割中常见的能量函数和最近的广义超图割函数。我们开发的第一个近似算法，这个问题，其中的近似可以通过减少到一个稀疏的图形切割问题，与所需的近似因子控制的图形稀疏快速计算。我们的方法依赖于一个新的连接稀疏图减少技术和分段线性近似凹函数。我们的稀疏减少技术导致显着改善理论运行时，以及大量的实际收益的问题，从基准图像分割任务超图聚类问题。
2021-10-28 cs.DS cs.LG
Decomposable Submodular Function Minimization via Maximum Flow
MIT（麻省理工学院）；University of Warsaw（华沙大学）；CNRS（法国国家科学研究中心）；IRIF（法国信息学研究所）；Université de Paris（巴黎大学）
本文桥梁离散和连续优化方法可分解的子模函数最小化，在标准和参数设置。我们为这个问题提供了改进的运行时间，通过减少它到一个最大流的Oracle的调用数量。当分解中的每个函数作用在基集$V$的$O(1)$元素上并且多项式有界时，我们的运行时间达到了多项式对数因子，等于在具有$O(\vert V \vert)$顶点和多项式积分容量的稀疏图中求解最大流的时间。我们实现这一点，通过提供一个简单的迭代法，它可以优化到高精度的任何凸函数定义的次模基多面体，只要我们可以有效地减少它的基础多面体对应于一定的图，我们构造的切割功能。我们解决这个最小化问题的参数切割问题，我们通过一个新的有效的组合减少最大流的解决方案。这种减少是独立的利益，并意味着一些以前未知的界限参数最小$s,t$切割问题在多个设置。
2021-03-05 cs.DS cs.LG
Parallel Submodular Function Minimization
研究次模函数最小化的并行复杂度，提出两种新的查询与深度权衡方法，并给出首个在超立方体上最小化 $\ell_\infty$-Lipschitz 函数的高并行度算法。
2023-09-08 cs.DS math.OC
On the Convergence Rate of Decomposable Submodular Function Minimization
本文研究了可分解亚模函数最小化算法的收敛速度，通过几何和谱图理论分析，给出了收敛速率的上界和下界。
2014-11-05 cs.DM cs.DS cs.LG
Optimal approximation for submodular and supermodular optimization with bounded curvature
我们设计了新的近似算法的优化问题的子模和超模函数受一个单一的拟阵约束。具体地说，我们考虑的情况下，我们希望最大化一个非减次模函数或最小化一个非增超模函数的设置有界的全曲率$c$。在次模最大化的情况下，曲率$c$，我们得到一个$(1-c/e)$ -近似-第一次改进的贪婪$(1-e^{-c})/c$ -近似Conforti和Cornuejols从1984年，它适用于基数约束，以及最近的方法，适用于任意拟阵约束。我们的方法是基于修改的连续贪心算法和非遗忘局部搜索，并允许我们近似最大化的总和的非负，非减次模函数和（可能是负的）线性函数。我们展示了如何减少子模最大化和超模最小化这个一般问题时，目标函数有界的总曲率。我们证明，我们得到的近似结果是最好的可能值预言机模型，即使在基数约束的情况下。我们定义了一个扩展的概念，曲率一般单调集函数，并显示$(1-c)$ -近似最大化和$1/(1-c)$ -近似最小化的情况下。最后，我们给出了我们的结果在最大熵抽样和列子集选择问题中的两个具体应用。
2014-12-12 cs.DS
Efficient Minimization of Higher Order Submodular Functions using Monotonic Boolean Functions
University of Utah（犹他大学）；Alan Turing Institute（艾伦图灵研究所）；University of Edinburgh（爱丁堡大学）；ETH Zurich（苏黎世联邦理工学院）；University of Oxford（牛津大学）
次模函数最小化是在机器学习、经济学、博弈论、计算机视觉和许多其他领域中的各种应用中的关键问题。通用求解器的复杂度为$O(n^3 \log^2 n . E +n^4 {\log}^{O(1)} n)$，其中$E$是计算函数所需的时间，$n$是变量数\cite{Lee2015}。另一方面，许多计算机视觉和机器学习问题是在子模函数的特殊子类上定义的，这些子模函数可以被写为在包含很少变量的团上定义的许多子模代价函数的总和。在这样的函数中，这些子类的伪布尔（或多项式）表示\cite{BorosH02}具有度（或阶数，或团大小）$k$，其中$k \ll n$。在这项工作中，我们开发了有效的算法最小化这个有用的子类的次模函数。为了做到这一点，我们定义了新的映射，转换子模函数的顺序$k$到二次。其基本思想是使用辅助变量来模拟高阶项，并且使用精心构造的线性规划来找到变换。特别是，我们建模的辅助变量作为单调布尔函数，使我们能够获得一个紧凑的变换使用尽可能少的辅助变量。
2017-01-23 cs.CV cs.DM cs.DS
Near-optimal Approximate Discrete and Continuous Submodular Function Minimization
在本文中，我们提供了改进的运行时间和甲骨文的复杂性近似最小化的子模函数。我们的主要结果是一个随机算法，它给出了定义在$n$ -元素上的任意子模函数，其值域为$[-1, 1]$，在$\tilde{O}(n/ε^2)$ oracle求值中以高概率计算出一个$ε$ -可加近似极小元.这改进了Chakrabarty \etal ~（STOC 2017）的$\tilde{O}(n^{5/3}/ε^2)$ oracle评估算法和Hamoudi \etal的$\tilde{O}(n^{3/2}/ε^2)$ oracle评估算法。此外，我们利用这一结果的推广，以获得有效的算法，最小化广泛的一类非凸函数。对于任何功能$f$域$[0, 1]^n$满足$\frac{\partial^2f}{\partial x_i \partial x_j} \le 0$的所有$i \neq j$和$L$ -Lipschitz关于$L^\infty$ -规范，我们给出了一个算法，计算一个$ε$ -加性近似极小值与$\tilde{O}(n \cdot \mathrm{poly}(L/ε))$功能评估与高概率。
2019-08-31 cs.DS math.OC
Discrete and Continuous Difference of Submodular Minimization
McGill（麦吉尔大学）；Department of Mathematics and Statistics（数学与统计学系）；McGill University（麦吉尔大学）；Samsung（三星）；Samsung AI Lab（三星人工智能实验室）
本文研究离散与连续域上次模（DS）函数之差的最小化，证明相关函数均为DS函数，提出DC算法新变体并应用于DC规划，在整数压缩感知和最小二乘实验中优于基线。
2025-11-04 cs.DS cs.LG math.OC
Curvature and Optimal Algorithms for Learning and Minimizing Submodular Functions
University of Washington（华盛顿大学）
我们研究了与机器学习相关的三个重要问题：处处近似子模函数，学习子模函数（在类似PAC的设置中[53]），以及子模函数的约束最小化。我们证明了这三个问题的复杂性取决于次模函数的“曲率”，并提供了改进和改进以前结果的上下界[3，16，18，52]。我们的证明技术相当通用。我们要么使用函数的黑盒变换（用于近似和学习），要么使用适当的代理函数（用于最小化）的算法变换。奇怪的是，已知曲率会影响子模最大化的近似[7，55]，但它对最小化，近似和学习的影响迄今为止是开放的。我们完成了这幅图，也支持我们的理论主张的实证结果。
2013-11-08 cs.DM cs.DS cs.LG
Improved Lower Bounds for Submodular Function Minimization
我们提供了一个通用的技术，构建家庭的次模函数，以获得下界次模函数最小化（SFM）。应用这种技术，我们证明了任何确定性的SFM算法的地面集的$n$元素至少需要$Ω(n \log n)$查询一个评估预言。这是SFM的第一个超线性查询复杂度下限，并且改进了由[Graur等人，ITCS 2020]。使用我们的建设，我们还证明了任何（可能是随机的）并行SFM算法，它可以使每轮$\mathsf{poly}(n)$查询，至少需要$Ω(n / \log n)$轮，以尽量减少一个子模块功能。这改进了由于[Chakrabarty等人，FOCS 2021]，并解决了查询高效的SFM的并行复杂性高达对数因子，这是由于[Jiang，SODA 2021]的最新进展。
2022-07-09 cs.CC cs.DC cs.DM
Minimizing a sum of submodular functions
我们考虑极小化一个表示为子模项之和的函数的问题。我们假设每一项允许{ \em交换容量}的有效计算。例如，这适用于依赖于少量变量的项，或某些基数依赖项。子模最小化算法的朴素应用不会利用针对单个项的专门交换容量子例程的存在。为了克服这一点，我们投的问题作为一个{ \em submodular流}（SF）的问题，在一个辅助图，并表明，应用大多数现有的SF算法将只依赖于这些子程序。然后，我们更详细地探讨岩田的子模块流的容量缩放方法（Math. Programming，76（2）：299- 308，1997）。特别是，我们展示了如何提高其复杂性的情况下，函数包含基数依赖项。
2012-06-11 cs.DS
Quadratic Decomposable Submodular Function Minimization: Theory and Practice (Computation and Analysis of PageRank over Hypergraphs)
Purdue University（普渡大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们引入了一个新的凸优化问题，称为二次可分解子模块函数最小化（QDSFM），它允许模拟一些学习任务的图形和超图。该问题与可分解次模函数最小化（DSFM）有着密切的联系，但解决起来更具挑战性。我们通过一个新的对偶策略来解决这个问题，并制定了一个目标，可以通过一些双环算法进行优化。外循环使用随机坐标下降（RCD）或替代投影（AP）方法，我们证明这两种方法的线性收敛速度。内循环通过修改的最小范数点或Frank-Wolfe算法计算子模函数的基多面体生成的锥上的投影。我们还描述了两个新的应用QDSFM：超图适应PageRank和半监督学习。所提出的基于超图的PageRank算法可用于局部超图划分，并具有可证明的性能保证。对于超图适应的半监督学习，我们提供了数值实验，证明了我们的QDSFM求解器的效率和预测精度的显着改善时，与国家的最先进的方法。
2020-10-26 cs.DS cs.LG cs.SI
A Polynomial Lower Bound on the Number of Rounds for Parallel Submodular Function Minimization and Matroid Intersection
次模函数极小化和拟阵求交是离散优化问题中的基本问题，在许多领域有着广泛的应用。众所周知，这两个问题都可以通过对相关的oracle（用于SFM的评估oracle和用于拟阵交集的秩oracle）进行$\mathrm{poly}(N)$查询来解决，其中$N$表示论域大小。然而，所有已知的多项式查询算法都是高度自适应的，需要至少$N$轮的查询oracle。一个自然的问题是这些问题是否可以以高度并行的方式有效地解决，即，使用仅使用多对数轮自适应性的$\mathrm{poly}(N)$查询。一个重要的一步，以了解所需的适应性，有效的并行SFM最近在工作中的Rehanski和辛格谁表明，任何SFM算法，使$\mathrm{poly}(N)$查询必然需要$Ω(\log N/\log \log N)$轮。这使得在多对数轮中有效的SFM算法的可能性成为可能。对于拟阵的交，即使是一个常数轮的可能性，$\mathrm{poly}(N)$查询算法迄今没有被排除。在这项工作中，我们证明了任何，可能是随机的，算法子模函数最小化或拟阵相交$\mathrm{poly}(N)$查询需要$\tildeΩ\left(N^{1/3}\right)$轮的自适应性。事实上，我们显示了一个多项式下界的适应轮数，即使是最多$2^{N^{1-δ}}$查询的算法，任何常数$δ> 0$。因此，即使SFM和拟阵交集是有效可解的，它们在Or…
2021-11-14 cs.DM cs.DS
FPT Approximation Schemes for Maximizing Submodular Functions
我们调查的存在性近似算法的子模函数的最大化，运行在固定参数易处理（FPT）的时间。给定非减子模集函数$v: 2^X \to \mathbb{R}$，目标是从$X$中选择$K$元素的子集$S$，使得$v(S)$最大化。我们确定三个属性的集函数，称为$p$ -可分性属性，我们认为，许多现实生活中的问题可以表示为最大化的子模块，$p$ -可分离的功能，与低的参数值$p$。我们提出FPT近似方案的最小化和最大化的问题的变体，几个参数，取决于优化的集函数，如$p$和$K$的特性。我们确认，我们的算法是适用于广泛的一类问题，特别是从计算社会选择的问题，如项目选择或获胜者确定在几个多赢家选举系统。
2021-04-20 cs.DS
Submodular approximation: sampling-based algorithms and lower bounds
我们介绍了几个推广的经典计算机科学的问题，通过取代较简单的目标函数与一般的次模函数。新的问题包括子模块负载均衡，它推广了负载均衡或最小完工时间调度，子模块稀疏割和子模块平衡割，它们推广了各自的图割问题，以及子模块函数最小化的基数下界。我们建立了一个多项式数量的查询函数值的预言这些问题的近似性的上限和下限。我们的算法的近似保证是sqrt（n/ln n）的顺序。我们表明，这是固有的困难的问题，通过证明匹配下界。对于单调次模函数的近似学习问题，我们给出了一个改进的下界。此外，我们还提出了一个近似学习具有特殊结构的次模函数的算法，其保证接近下界。虽然相当严格，这种结构的函数类包括我们和以前的工作中用于下界的函数。这表明，如果这个问题有明显更强的下界，它们依赖于更一般的子模函数。
2010-05-31 cs.DS
Quantum and Classical Algorithms for Approximate Submodular Function Minimization
Université de Paris（巴黎大学）；IRIF（法国信息与自动化研究所（IRIF））；CNRS（法国国家科学研究中心）；Centre for Quantum Technologies, National University of Singapore（新加坡国立大学量子技术中心）；National University of Singapore（新加坡国立大学）；MajuLab UMI 3654（MajuLab国际联合实验室（UMI 3654））
子模函数是将大小为$n$的某个基集的每个子集映射到实数并满足收益递减性质的集函数。次模极小化是离散优化理论中的一个重要领域，因为它与数学、计算机科学和经济学的各个分支都有联系。目前用于精确最小化的最快强多项式算法[LSW 15]在时间上运行$\widetilde{O}(n^3 \cdot \mathrm{EO} + n^4)$，其中$\mathrm{EO}$表示在任何集合上计算函数的成本。对于具有范围$[-1,1]$的函数，最佳$ε$ -加法近似算法[CLSW 17]在时间$\widetilde{O}(n^{5/3}/ε^{2} \cdot \mathrm{EO})$中运行。本文给出了近似次模极小化的经典算法和量子算法。我们的经典结果改进了[CLSW 17]的算法，并在时间$\widetilde{O}(n^{3/2}/ε^2 \cdot \mathrm{EO})$上运行.据我们所知，我们的量子算法是第一次尝试使用量子计算进行子模块优化。该算法在时间$\widetilde{O}(n^{5/4}/ε^{5/2} \cdot \log(1/ε) \cdot \mathrm{EO})$中运行。量子结果的主要成分是一种新的方法，用于从支持大小$n$在时间$O(\sqrt{Tn})$上的任何离散概率分布中以高概率$T$独立元素进行采样。以前的量子算法的复杂性为$O(T\sqrt{n})$。
2020-01-15 cs.DS cs.LG math.OC
Geometric Rescaling Algorithms for Submodular Function Minimization
提出了一类新的次模函数最小化的多项式时间算法，并给出了得到强多项式次模函数最小化算法的统一框架。我们的算法是基于简单的迭代方法的最小范数问题，如条件梯度和Fujishige-Wolfe算法。我们展示了两种技术，把简单的迭代方法到多项式时间算法。首先，我们适应的几何缩放技术，这是最近在线性规划中得到关注，SFM和得到一个弱多项式界$O(({n}^4\cdot \textrm{EO} + {n}^5)\log ({n} L))$。其次，我们展示了一个通用的组合黑箱方法，把$\varepsilon L$ -近似SFM神谕到强多项式精确SFM算法。这个框架可以应用到广泛的组合和连续算法，包括伪多项式的。特别地，我们可以通过重复应用条件梯度或Fujishige-Wolfe算法来获得强多项式算法。结合几何缩放技术，黑盒方法提供了一个$O(({n}^5\cdot \textrm{EO} +{n}^6)\log^2{n})$算法。最后，我们表明，我们在本文中开发的技术之一，也可以结合割平面法李，Sidford和黄\cite{LSW}，产生一个简化的变种，他们的$O(n^3 \log^2 n \cdot \textrm{EO} + n^4\log^{O(1)} n)$算法。
2020-02-13 cs.DS math.OC
Parameterized Complexity of Submodular Minimization under Uncertainty
本文研究Robust Submodular Minimizer问题，提供了关于参数k和d的完整计算复杂性图谱，揭示了紧致阈值并证明了其固定参数可解性。
2024-07-28 cs.DM cs.DS
Symmetric Submodular Minimization from Comparisons
EPFL（洛桑联邦理工学院）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
本文研究对称子模函数最小化的比较模型，提出确定性多项式时间算法，使用 O(n^3) 次比较找到非平凡最小化器，并解决加权最小割的开放问题，同时给出下界。
2026-10-08 cs.DS
Submodular Minimization Under Congruency Constraints
次模函数极小化问题是组合优化中一类基本而有效的可解问题，在各个领域有着广泛的应用。令人惊讶的是，只有很少知道的约束类型下，SFM仍然有效地解决。多项式SFM算法已知的最相关的非平凡约束类是奇偶约束，即，仅在奇数（或偶数）基数集上优化。奇偶约束捕获经典的组合优化问题，如奇割问题，他们是一个关键的工具，在最近的技术，有效地解决整数规划的约束矩阵，其子行列式是有界的绝对值为2。我们表明，有效的SFM是可能的，即使是一个显着更大的类比奇偶约束，通过引入一种新的方法，结合技术从组合优化，组合学和数论。特别地，我们可以证明有效的SFM在基数r mod m的所有集合（任何给定的格）上都是可能的，只要m是常数素数幂。这涵盖了奇切问题的推广与开放的复杂性状态，并在整数规划的上下文中与更高的子行列式的相关性。为了获得我们的结果，我们建立了一个连接之间的正确性的自然算法，和不存在的集合系统与特定的组合属性。我们引入了一个一般的技术来反驳这样的集合系统的存在，它允许我们的结果超出上述设置的扩展。这些扩展解决了Geelen和Kapadia [Combinatorica，2017]在计算某些类型的二元拟阵的围长和余围长的背景下提出的两个开放性问题。
2018-11-23 cs.DS math.CO
Augmented Sparsifiers for Generalized Hypergraph Cuts with Applications to Decomposable Submodular Function Minimization
近年来，许多图割问题的超图推广已经被引入和分析，作为一种更好地探索和理解以多向关系为特征的复杂系统和数据集的方法。最近的工作已经利用了一个广义超图切割功能，其中对于超图$\mathcal{H} = (V,E)$，可以通过将每个超边$e \in E$与分裂功能${\bf w}_e$相关联来定义，该分裂功能将惩罚分配给分离$e$的节点的每种方式。当每个${\bf w}_e$是一个基于基数的子模分裂函数时，这意味着${\bf w}_e(S) = g(|S|)$对于某个凹函数$g$，以前的工作表明，广义超图割问题可以归结为增广节点集上的有向图割问题。然而，现有的约简过程通常导致密集图，即使超图是稀疏的，这导致在约简图上运行的算法的运行时间缓慢。我们引入了一个新的超图到图的约简的稀疏化框架，其中由基于子模基数的分裂函数定义的超图切割是$(1+\varepsilon)$ -近似于有向图上的切割。我们的技术是基于近似凹函数使用分段线性曲线。对于$\varepsilon > 0$，我们最多需要$O(\varepsilon^{-1}|e| \log |e|)$边来减少任何超边$e$，这导致更快的运行时间来近似广义超图$s$ - $t$切割问题。对于团分裂函数的机器学习启发式，我们的方法只需要$O(|e| \varepsilon^{-1/2} \log \log \frac{1}{\varepsilo…
2021-07-02 cs.DM cs.DS
Maximizing Symmetric Submodular Functions
对称次模函数是一类重要的次模函数，它涵盖了图和超图的割函数等许多有趣的情形。这类函数的最大化受到各种约束很少受到关注，目前的研究，不像类似的最小化问题已被广泛研究。在这项工作中，我们确定了几个次模最大化问题，其中一个可以得到一个更好的近似对称目标比一般次模函数的最先进的近似。我们首先考虑最大化一个非负对称次模函数$f\colon 2^\mathcal{N} \to \mathbb{R}^+$服从下单调可解多面体$\mathcal{P} \subseteq [0, 1]^\mathcal{N}$的问题。对于这个问题，我们描述了一个算法产生的分数值至少$0.432 \cdot f(OPT)$，其中$OPT$是最佳的积分解决方案的解决方案。我们的第二个结果考虑了非负对称次模函数$f\colon 2^\mathcal{N} \to \mathbb{R}^+$的问题$\max \{f(S) : |S| = k\}$。对于这个问题，我们给出了一个近似比，它依赖于值$k / |\mathcal{N}|$，并且总是至少为$0.432$。我们的方法也可以适用于非负非对称次模函数，在这种情况下，它产生$1/e - o(1)$近似，改善了最好的已知结果为这个问题。对于无约束最大化的非负对称子模函数，我们描述了一个确定性的线性时间$1/2$近似算法。最后，我们给出了一个$[1 - (1 - 1/k)^{k…
2016-04-17 cs.DS
Submodular problems - approximations and algorithms
我们证明了任何定义在线性约束集上的子模最小化（SM）问题，每个不等式的约束最多有两个变量，在多项式时间是2-逼近的。如果约束是单调的（两个变量出现相反的符号系数），那么次模最小化或超模最大化问题是多项式时间可解的。关键思想是将这些问题与这里定义的子模s，t-cut问题联系起来。该框架包括SM-顶点覆盖、SM-2SAT、SM-最小可满足性、团的SM-边删除、双团的SM-节点删除等问题。我们还介绍了次模闭包问题，并证明了它在多项式时间内是可解的，且等价于次模割问题。所有的结果都可推广到多重集，其中一个集合的每个元素都可以以大于1的重数出现。对于所有这些NP-困难的问题2-近似是最好的可能的意义上说，一个更好的近似因子不能在多项式时间，除非NP= P。该机制创建一个轻松的“单调”问题，解决了作为一个子模块封闭问题，该解决方案被映射到一个半积分超最优解的原始问题。该半积分解具有持久性，这意味着整数值变量在最优解中保持其值。这允许删除整数值变量，并将最优解的搜索限制在剩余变量的较小集合。
2017-04-28 cs.DM cs.DS
A note on the Minimum Norm Point algorithm
我们提出了一个可证明的更有效的实现的最小范数点算法所设想的藤重比一个在\cite{FUJI06}。该算法解决了一类称为次模函数的最小化问题。许多重要的函数，如图的最小割，都具有所谓的次模性质\cite{FUJI82}。已知该问题也可以在强多项式时间\cite{IWAT01}中有效地求解，然而已知的理论界离实际还很远。我们提出了一种改进的算法，不幸的是，没有最坏情况下的界限是已知的，但在实践中表现得很好。与提出的修改，该算法执行的数量级更快的某些次模函数。
2014-10-01 cs.DS
Robust Budget Allocation via Continuous Submodular Functions
Massachusetts Institute of Technology（麻省理工学院）
在过去的几年里，资源的最佳分配以最大限度地提高影响力、信息传播或覆盖范围，特别是在机器学习和数据采掘中，已经引起了人们的关注。但在实际应用中，问题的参数很少被精确地知道，使用错误的参数可能会导致不期望的结果。因此，我们从鲁棒优化的角度重新审视了Alon等人（2012）引入的预算分配或二分影响力最大化问题的连续版本。在这种情况下，对手可能会选择置信集内最不利的参数。由此产生的问题是一个非凹凸鞍点问题（或对策）。我们表明，这个非凸问题可以完全解决利用连接到连续的次模函数，并通过解决一个约束次模最小化问题。虽然有约束的子模最小化是很难在一般情况下，在这里，我们建立的条件下，这样的问题可以解决到任意精度$ε$。
2017-06-13 cs.AI cs.DS cs.LG
Corporate Needs You to Find the Difference: Revisiting Submodular and Supermodular Ratio Optimization Problems
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Carleton University（卡尔顿大学）
研究子模/超模集合函数平均值的最优化问题，引入USSS与UDSS两种新表述，证明其与DSS、SFM等经典问题在强多项式时间归约下等价，并利用Fujishige-Wolfe算法和SuperGreedy++作为通用求解器，实验表明通用凸方法与流方法在多种问题上优于专用基线。
2025-05-23 cs.DS cs.LG
Difference of Submodular Minimization via DC Programming
Samsung - SAIT AI Lab, Montreal（三星SAIT人工智能实验室蒙特利尔分部）；McGill University（麦吉尔大学）
本文针对两个次模函数之差的最小化问题，提出应用于对应 DC 规划的 DCA 与 CDCA 变体，完善收敛与局部极小性保证，并在语音语料库和特征选择任务中优于基线。
2024-04-04 cs.DM cs.DS cs.LG
Chasing Submodular Objectives, and Submodular Maximization via Cutting Planes
本文提出子模目标追踪问题，设计基于割平面的approximate-or-separate元算法，在基数与划分拟阵约束下实现最优近似比与竞争回溯成本，拓展了割平面方法的应用场景。
2025-11-17 cs.DS
On Maximization of Weakly Modular Functions: Guarantees of Multi-stage Algorithms, Tractability, and Hardness
{ \it non-submodular}函数的最大化出现在各种场景中，许多以前的作品研究了它的基础上的一些措施，量化的接近是submodular。另一方面，许多实际的非子模函数实际上接近于{ \it模化}，这在很少的研究中被利用。本文研究了{ \it弱模}函数的基数约束最大化问题，其模接近度用{ \it子模度}和{ \it超模度比}来度量，并揭示了利用弱模度可以做什么和不能做什么.我们首先证明了多阶段算法的保证可以用弱模块性来证明，推广和改进了现有的一些结果，并通过实验证实了它们的有效性。然后，我们表明，弱模块化最大化是{ \it固定参数易处理}在一定条件下，作为副产品，我们提供了一个新的时间-精度权衡$\ell_0$约束最小化。我们最后证明，即使目标函数是弱模块化的，没有多项式时间算法可以提高现有的近似保证所取得的贪心算法。
2019-10-03 cs.DS
Sparse Submodular Function Minimization
针对保证存在 $k$-稀疏极小化子的子模函数最小化问题，提出基于一阶优化与稀疏对偶证书的并行和随机算法，显著降低并行深度与预言机查询复杂度。
2024-07-06 cs.DS math.OC
Submodular Hamming Metrics
University of Washington（华盛顿大学）
我们发现，有一个很大程度上未开发的功能类（正多拟阵），可以定义适当的离散度量对二进制向量，是相当听话的优化。通过利用子模块，我们能够给出硬度的结果和近似算法优化这些指标。此外，我们经验证明了这些指标和相关算法的有效性度量最小化任务（聚类的一种形式），也是一个度量最大化任务（生成不同的k-最佳列表）。
2015-11-06 cs.AI cs.DM cs.DS
Fast Semidifferential-based Submodular Function Optimization
University of Washington（华盛顿大学）；University of California, Berkeley（加州大学伯克利分校）
我们提出了一个实用的和强大的新框架，无约束和有约束的子模函数优化的基础上离散半微分（次和超微分）。由此产生的算法，重复计算，然后有效地优化次模半梯度，提供新的和推广许多旧的方法，次模优化。此外，我们的方法，采取措施，提供一个统一的范式，适用于子模块最小化和最大化，历史上已经处理的问题相当明显。我们的算法的实用性是很重要的，因为在子模块化的兴趣，由于其自然和广泛的适用性，最近在机器学习内的优势。我们分析了我们的算法的理论性质的最小化和最大化，并表明，许多国家的最先进的最大化算法的特殊情况。最后，我们补充我们的理论分析与支持实证实验。
2013-08-05 cs.DM cs.DS cs.LG
Faster Algorithms for Evacuation Problems in Networks with the Single Sink of Small Degree
在本文中，我们提出了新的算法定义在动态流网络上的疏散问题。动态流网络是有向图，其中源节点被给予供给（即，撤离者的数量）并且单个汇聚节点被给予需求（即，可接受的最大撤离人数）。疏散问题寻求一个动态流，将所有供应从源发送到汇，使得其需求在最小可行时间范围内得到满足。对于这个问题，目前最好的算法是由Schlöter（2018）和Kamiyama（2019）开发的，它们在强多项式时间中运行，但具有高阶多项式时间复杂度，因为它们使用子模函数最小化作为子例程。在本文中，我们提出了不显式执行子模函数最小化的新算法，并且我们证明了当输入网络受到限制时，它们比Schlöter（2018）和Kamiyama（2019）的算法更快，使得sink具有小的入度并且每条边具有相同的容量。
2023-02-28 cs.DS
Non-monotone submodular maximization under matroid and knapsack constraints
次模函数最大化是组合优化中的一个中心问题，它概括了许多重要的问题，包括有向/无向图和超图中的最大割、某些约束满足问题、最大熵抽样和最大设施位置问题。与次模最小化不同，次模最大化是NP-难的。对于最大化非单调次模函数的问题，Feige、Mirrokni和Vondrák最近开发了一个$2\over 5$ -近似算法\cite{FMV07}，然而，他们的算法不处理边约束。本文给出了求多个拟阵或背包约束下非负次模函数最大值的第一个常因子逼近算法。我们强调，我们的结果是对{ \em非单调}次模函数。特别是，对于任何常数$k$，我们提出了一个$({1\over k+2+{1\over k}+ε})$ -近似的子模极大化问题下的$k$拟阵约束，和$({1\over 5}-ε)$ -近似算法，这个问题受到$k$背包约束（$ε>0$是任何常数）。对于$k\ge 2$划分拟阵的约束，我们将算法的近似保证改进为${1\over k+1+{1\over k-1}+ε}$.这个想法也给出了一个$({1\over k+ε})$ -近似最大化的{ \em单调}子模函数的$k\ge 2$分区拟阵，这改善了以前最好的已知的保证$\frac{1}{k+1}$。
2009-02-02 cs.CC cs.DS
Polyhedral aspects of Submodularity, Convexity and Concavity
Edmonds和Lovasz的工作表明了子模性和凸性之间的强联系。次模函数具有紧模下界，并且次微分以类似于凸函数的方式存在。它们也承认多时间算法的最小化和满足Fenchel对偶定理和离散分离定理，这两个都是凸函数的基本特征。子模函数也显示类似于的符号。子模最大化，虽然NP困难，承认常数因子近似保证。由模函数构成的凹函数是次模函数，且满足收益递减性质。这份手稿提供了一个更完整的图片子模块与凸性之间的关系，通过扩展子模块与凸性的凹方面的子模块连接的许多结果。我们首先证明了超微分的存在性，并有效地计算紧模上界的次模函数。虽然我们表明，这是很难描述这个多面体，我们得到的内部和外部边界的超微分以及某些特定的和有用的超梯度。然后，我们调查形式的凹扩展的次模函数，并显示有趣的关系，次模最大化。接下来，我们将展示上微分上的最优性条件与次模最大化之间的联系，并展示近似最优性条件的形式如何转化为最大化的近似因子。最后，我们通过研究版本的离散分离定理和Fenchel对偶定理时，从凹的角度来看。在每一种情况下，我们将我们的结果与现有的结果从凸的角度来看，从而提高子模块性，凸性，和凸性之间的关系的分析。
2015-09-08 cs.DM cs.DS
On Unconstrained Quasi-Submodular Function Optimization
Shanghai Jiao Tong University（上海交通大学）
本文提出两种算法用于无约束拟子模函数的最小化和最大化，通过单次子交叉性质，在O(n)次迭代内返回缩减格，并保证目标函数值在每次迭代后严格单调变化。
2014-11-13 cs.DS cs.NA math.NA
A Memoization Framework for Scaling Submodular Optimization to Large Scale Problems
Microsoft Corporation（微软公司）；University of Washington（华盛顿大学）
我们的动机是大规模的次模块优化问题，其中标准算法，治疗的次模块功能的\emph{value oracle model}不规模。在本文中，我们提出了一个称为\emph{precomputational complexity model}的模型，以及一个统一的memoization为基础的框架，它着眼于特定形式的子模块功能。在这个框架中的一个关键成分是一个\emph{precomputed statistic}的概念，这是保持在算法的过程中。我们表明，我们可以很容易地集成到一个大类的子模块优化问题，包括约束和无约束的子模块最大化，最小化，子模块优化的差异，优化与子模块约束和其他几个相关的优化问题。此外，memoization可以集成在离散和连续松弛口味的算法，这些问题。我们证明了这一想法的几个常见的子模块化功能，并显示如何预计算模型提供了显着的加速比的值Oracle模型。最后，我们经验证明这是大规模的机器学习问题的数据子集的选择和总结。
2019-02-26 cs.AI cs.DS cs.LG
A Parameterized Family of Meta-Submodular Functions
Georgia Tech（佐治亚理工学院）；ETH Zurich（苏黎世联邦理工学院）；UBC（不列颠哥伦比亚大学）
Submodular function maximization has found a wealth of new applications in machine learning models during the past years. The related supermodular maximization models (submodular minimization) also offer an abundance of applications, but they appeared to be highly intractable even under simple cardinality constraints. Hence, while there are well-developed tools for maximizing a submodular function subject to a matroid constraint, there is much less work on the corresponding supermodular maximization problems. We give a broad parameterized family of monotone functions which includes submodular …
2020-06-23 cs.CG cs.DM cs.DS
Instance Specific Approximations for Submodular Maximization
Columbia University（哥伦比亚大学）；Harvard University（哈佛大学）
对于机器学习中的许多优化问题，找到最优解在计算上是困难的，我们寻求在实践中表现良好的算法。由于计算的棘手性往往导致病态的情况下，我们寻找的方法来基准的算法对现实世界中的实例的最佳解决方案的性能。主要的挑战是，对于棘手的问题，无法有效地计算出最优解，因此我们通常不知道解决方案离最优解有多远。因此，一个主要的问题是如何衡量一个算法的性能相比，我们在实践中遇到的情况下的最佳解决方案。在本文中，我们解决这个问题的上下文中的子模块优化问题。对于基数约束下的次模最大化的规范问题，很难计算出比最优解的$1-1/e \approx 0.63$分数更好的解。像著名的贪心算法这样的算法保证在任何实例上都能达到这个$1-1/e$界限，并在实践中使用。我们的主要贡献是不是一个新的算法submodular最大化，但分析方法，衡量如何接近submodular最大化算法是最优的一个给定的问题实例。我们使用这种方法表明，在各种各样的现实世界的数据集和目标，贪婪找到的解决方案的近似远远超过$1-1/e$，往往是至少0.95。我们开发这种方法使用一种新的技术，下界的目标的对偶最小化问题，以获得一个最优解的原始最大化问题的值的上限。
2021-02-23 cs.DS cs.LG
Mixed Robust/Average Submodular Partitioning: Fast Algorithms, Guarantees, and Applications to Parallel Machine Learning and Multi-Label Image Segmentation
University of Washington（华盛顿大学）
我们研究了两个混合的鲁棒/平均情况下的子模块划分问题，我们统称为子模块划分。这些问题概括了问题的纯鲁棒实例（即最大-最小子模块公平分配（SFA）和最小-最大子模块负载均衡（SLB）），并且还概括了平均情况实例（即子模块福利问题（SWP）和子模块多路划分（SMP））。虽然在理论界已经研究了强大的版本，现有的工作集中在紧近似保证，和由此产生的算法是不是，在一般情况下，可扩展到非常大的现实世界中的应用。这与大多数算法都是可扩展的平均情况相反。在本文中，我们弥合这一差距，提出了几个新的算法（包括基于贪婪，优化最小化，优化最大化，和松弛算法），不仅规模大，但也实现了理论近似保证接近国家的最先进的，并在某些情况下实现新的紧边界。我们还提供了新的可扩展算法，适用于添加剂组合的强大和平均情况下的极端目标。我们表明，这些问题在机器学习（ML）中有许多应用。这包括：1）并行机器上分布式机器算法的数据划分和负载均衡; 2）数据聚类;以及3）经由像素划分的具有（仅）布尔子模函数的多标记图像分割。我们经验性地证明了我们的算法在涉及标准机器学习目标（包括凸和深神经网络目标）的分布式优化的数据分区的现实问题上的功效，以及在纯无监督（即，无监督或半监督学习，以及无交互式分割）图像分割。
2016-08-16 cs.DM cs.DS cs.LG
A Unified Approach to Minimizing Symmetric Submodular Functions
The University of Tokyo（东京大学）；Hokkaido University（北海道大学）
本文提出α-排序统一了pendent-pair和flat-pair算法，通过一般不等式证明了在α∈[-1,1]范围内，合同对的存在性，从而在O(n³)次oracle调用中找到对称子模函数的非平凡极小值。
2026-05-02 cs.DM cs.DS
Differentially Private Online Submodular Optimization
Georgia Institute of Technology（佐治亚理工学院）
在本文中，我们开发了第一个算法在线子模最小化，保持差分隐私下的完全信息反馈和强盗反馈。$n$元素集合上的$T$子模块函数序列在线到达，并且在每个时间步，算法必须在看到函数之前选择$[n]$的子集。该算法产生的成本等于在所选集合上评估的函数，并试图选择一个序列的集合，实现低预期的遗憾。我们的第一个结果是在全信息设置中，算法可以在每个时间步做出决策后观察整个函数。我们给出了一个算法，在这种情况下，是$ε$ -差分隐私，并达到预期的遗憾$\tilde{O}\left(\frac{n^{3/2}\sqrt{T}}ε\right)$。该算法利用Lovasz扩张将次模函数松弛为凸函数，并模拟了一个差分私有在线凸优化算法。我们的第二个结果是在bandit设置中，算法只能看到其选择的集合所产生的成本，并且不能访问整个函数。该设置明显更具挑战性，因为算法没有接收到足够的信息来计算Lovasz扩展或其子梯度。相反，我们使用单点估计构建无偏估计，然后使用此估计模拟私人在线凸优化。我们的算法使用强盗反馈是$ε$ -差分私有的，并达到预期的遗憾$\tilde{O}\left(\frac{n^{3/2}T^{3/4}}ε\right)$。
2018-07-06 cs.DS cs.LG stat.ML
Cluster Vertex Deletion on Chordal Graphs
Hong Kong Polytechnic University（香港理工大学）；Hanjiang Normal University（汉江师范学院）
本文提出一种多项式时间算法，解决弦图上的团顶点删除问题，通过在 clique trees 上的动态规划，将最优子问题的计算转化为子模集函数的最小化。
2026-04-22 cs.DS
Understanding Alternating Minimization for Matrix Completion
IBM Research Almaden（IBM阿尔马登研究院）
本文针对矩阵补全的交替最小化方法，提出基于幂法收敛分析与QR分解平滑分析的新算法，大幅降低样本量需求，运行时间接近线性，样本边界优于多数次二次时间算法。
2026-08-11 cs.DS cs.LG stat.ML
Tolerant Junta Testing and the Connection to Submodular Optimization and Function Isomorphism
一个函数$f\colon \{-1,1\}^n \to \{-1,1\}$是一个$k$ -junta，如果它依赖于最多$k$的变量.我们考虑$k$ -junta的容错测试问题，其中测试算法必须接受任何$ε$ -接近一些$k$ -junta的函数，并拒绝任何$ε'$ -远离一些$ε'= O(ε)$和$k' = O(k)$的每个$k'$ -junta的函数.我们的第一个结果是一个算法，解决了这个问题的查询复杂性多项式在$k$和$1/ε$。这一结果是通过一个新的多项式时间近似算法子模函数最小化（SFM）下的大基数约束，即使只给出一个近似的预言访问的功能。我们的第二个结果考虑了$k'=k$ .我们将展示如何在此设置中获得公差和查询复杂性之间的平滑权衡。具体地说，我们设计了一个算法，给定$ρ\in(0,1/2)$接受任何函数，这是$\frac{ερ}{16}$ -接近一些$k$ -军，并拒绝任何函数，这是$ε$ -远离每一个$k$ -军。该算法的查询复杂度为$O\big( \frac{k\log k}{ερ(1-ρ)^k} \big)$。最后，我们展示了如何将第二个结果应用于两个未知布尔函数$f$和$g$之间的容忍同构测试问题。我们给出了一个算法，这个问题的查询复杂度只取决于（未知）最小的$k$，这样无论是$f$或$g$是接近是一个$k$ -军。
2016-11-03 cs.CC cs.DM cs.DS
Tight Bounds for Approximate Carathéodory and Beyond
Google Research（谷歌研究院）；MIT（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
本文给出了一个确定性的近似线性时间算法，用于用凸多面体顶点的稀疏凸组合逼近凸多面体内的任意点。我们的结果为近似Carathéodory问题提供了一个构造性的证明，该证明指出，半径为$D$的$\ell_p$球中包含的多面体内的任何点都可以通过$p \geq 2$的多面体的仅$O\left(D^2 p/ε^2\right)$顶点的凸组合在$\ell_p$范数下近似于$ε$内.我们还表明，这个界是紧的，使用参数的基础上反浓度的二项分布。沿着建立上界的方式，我们开发了一种技术，用于最小化具有复杂几何形状的凸集上的范数;这是通过运行镜像下降通过Sion定理获得的对偶凸函数来实现的。作为我们的方法的简单扩展，然后我们提供了新的算法子模函数最小化和SVM训练。对于次模函数最小化，我们得到一个简化和（可证明）的速度超过沃尔夫的算法，该方法通常被认为是最快的在实践中。对于SVM训练，我们获得了任意核的$O(1/ε^2)$收敛;每次迭代只需要涉及核矩阵的矩阵向量运算，因此我们克服了必须显式存储核或计算其Cholesky分解的障碍。
2015-12-29 cs.DS cs.LG math.OC
The Minimum Euclidean-Norm Point on a Convex Polytope: Wolfe's Combinatorial Algorithm is Exponential
自1974年Philip Wolfe提出方法以来，该方法求解凸多胞体上的最小欧氏范数点问题的复杂性一直是未知的。该方法是重要的，因为它是作为一个子程序的最实用的算法之一，次模函数最小化。我们提出的第一个例子，沃尔夫的方法需要指数时间。此外，我们改进了以前的结果表明，线性规划减少在强多项式时间的最小范数点问题的单纯形。
2017-11-03 cs.DS math.MG math.OC
Learning Spanning Forests Optimally using CUT Queries in Weighted Undirected Graphs
本文针对加权无向图最大生成森林学习问题，提出期望O(n)次CUT查询的最优随机算法，还提出无向无权图下查询复杂度为O(n log n / log log n)的确定性算法，小幅提升了现有最优水平。
2023-06-16 cs.DS
Posimodular Function Optimization
给定有限集$V$上的一个正定模函数$f: 2^V \to \mathbb{R}$，我们考虑寻找$V$的一个非空子集$X$使$f(X)$最小化的问题.正模函数经常出现在组合优化中，如无向割函数。在本文中，我们表明，任何算法的问题需要$Ω(2^{\frac{n}{7.54}})$ oracle调用$f$，其中$n=|V|$。它与割函数的另一种推广的次模函数极小化是多项式可解的事实形成对比。当一个给定的正模函数的范围被限制为$D=\{0,1,...,d\}$的一些非负整数$d$，我们表明，$Ω(2^{\frac{d}{15.08}})$ oracle调用是必要的，而我们提出了一个$O(n^dT_f+n^{2d+1})$的时间算法的问题。这里，$T_f$表示对于给定的$X \subseteq V$评估函数值$f(X)$所需的时间。我们还考虑了最大化一个给定的正模函数的问题。我们表明，$Ω(2^{n-1})$的Oracle调用是必要的解决问题，并且当$D=\{0,1,..., d\}$是$f$的范围为一些常数$d$时，该问题具有时间复杂度$Θ(n^{d-1}T_f) $。
2014-10-22 cs.DS
Convex Minimization with Integer Minima in $\widetilde O(n^4)$ Time
针对整数最小值的凸最小化问题，提出结合快速LLL算法与体积中心切割平面法的新算法，将运行时间从$\widetildeΩ(n^8)$降至$O(n^4\log n)$，并改进子模函数最小化的复杂度。
2023-11-14 cs.DM cs.DS math.OC
Unifying Formal Explanations: A Complexity-Theoretic Perspective
The Hebrew University of Jerusalem（海法大学）；Nanyang Technological University（南洋理工大学）
本文从复杂性理论视角提出统一框架，揭示解释计算的复杂性由单调性、次模性和超模性等属性决定，并在全局可解释性设置中证明多项式时间算法，而在局部设置中计算变得NP难。
2026-02-20 cs.CC cs.DS cs.LG
