On Unconstrained Quasi-Submodular Function Optimization
Shanghai Jiao Tong University(上海交通大学)
本文提出两种算法用于无约束拟子模函数的最小化和最大化,通过单次子交叉性质,在O(n)次迭代内返回缩减格,并保证目标函数值在每次迭代后严格单调变化。
2014-11-13 cs.DS cs.NA math.NA
Deterministic Algorithms for Submodular Maximization Problems
随机化是在计算机科学的许多理论和实践领域中使用的基本工具。我们在这里研究的作用,随机化在该地区的次模函数最大化。在这个领域中,大多数算法是随机的,并且在几乎所有情况下,由当前随机算法获得的近似比优于由已知的确定性算法获得的最佳结果。一般次模函数最大化算法的去随机化似乎很难,因为对函数的访问是通过值预言完成的。例如,这使得应用标准的去随机化技术(如条件期望)变得困难。因此,在这一领域的一个有趣的基本问题是随机化是否本质上是必要的,以获得良好的近似比。在这项工作中,我们给出的证据表明,随机化是没有必要获得良好的算法,提出了一种新的技术去随机化的子模函数最大化的算法。我们的高层次的想法是保持明确的(小)分布在算法的状态,并仔细更新它使用的边缘值从一个合适的线性公式的极值点解决方案。我们在无约束子模最大化和最大化受基数约束的子模函数的两个最新算法上展示了我们的技术。特别是,对于无约束的子模最大化,我们得到了一个最佳的确定性$1/2$ -近似随机化是不必要的,以获得最佳的结果,这种设置。
2015-08-10 cs.DS
A Threshold Greedy Algorithm for Noisy Submodular Maximization
针对噪声查询下的次模最大化,本文提出自适应阈值采样子程序,并据此设计基数、拟阵约束及无约束情形的样本高效算法,逼近值预言机近似保证且经实验验证。
2024-04-09 cs.DS
Provable Submodular Minimization using Wolfe's Algorithm
由于在大规模学习和视觉问题中的应用,快速次模函数极小化(SFM)已成为一个关键问题。理论上,无约束SFM可以在多项式时间内执行[IFF 2001,IO 2009]。然而,这些算法通常不实用。在1976年,Wolfe提出了一个算法来寻找多面体中的最小欧氏范数点,并且在1980年,Fujishige展示了如何将Wolfe的算法用于SFM。对于一般的次模函数,这种Fujishige-Wolfe最小范数算法似乎具有最好的经验性能。尽管Wolfe最小范数算法具有很好的实际性能,但在理论上却知之甚少。据我们所知,唯一的结果是由于沃尔夫本人的指数时间分析。本文给出了Wolfe算法的一个新的收敛性分析。证明了在$t$迭代中,Wolfe算法返回{ \em any}多面体上最小范数点的$O(1/t)$ -近似解.我们还证明了一个强大的版本Fujishige的定理表明,一个$O(1/n^2)$近似解的最小范数点的基础多面体意味着{ \em精确}次模最小化。作为推论,我们得到了无约束次模函数极小化的Fujishige-Wolfe最小范数算法的第一个伪多项式时间保证。
2014-11-01 cs.DS math.OC
Online Submodular Maximization with Preemption
近年来,在各种约束条件和模型下,子模函数极大化问题得到了广泛的研究。这个问题在各个学科中都起着重要的作用。我们研究了这个问题的一个自然的在线变体,其中元素一个接一个地到达,并且算法必须始终保持一个遵守某些约束的解决方案。当一个元素到达时,算法必须决定是否将该元素接受到其解中,并可能抢占先前选择的元素。目标是最大化解决方案中元素集合上的子模块函数。我们研究了这个一般问题的两种特殊情况,并推导出竞争比的上界和下界。具体来说,我们设计了一个$1/e$竞争算法的无约束的情况下,该算法可以保持任何子集的元素,和恒定的竞争比算法的情况下,该算法可以保持在最多$k$元素在其解决方案。
2015-01-23 cs.DS
Improved randomized algorithm for $k$-submodular function maximization
子模性是组合优化中最重要的性质之一,$k$ -子模性是子模性的推广。$k$ -次模函数的最大化需要指数数量的值Oracle查询,并且已经研究了近似算法。对于无约束$k$ -次模极大化,Iwata等人给出了单调函数的随机$k/(2k-1)$ -近似算法和非单调函数的随机$1/2$ -近似算法.本文给出了非单调函数的改进随机算法。我们的算法给出了$k\geq 3$的$\frac{k^2+1}{2k^2+1}$ -逼近。我们还给出了$k=3$的随机$\frac{\sqrt{17}-3}{2}$ -近似算法。我们使用岩田等人和Ward和Wavennovich中使用的相同框架,但概率不同。
2019-07-27 cs.DM cs.DS
Maximizing Symmetric Submodular Functions
对称次模函数是一类重要的次模函数,它涵盖了图和超图的割函数等许多有趣的情形。这类函数的最大化受到各种约束很少受到关注,目前的研究,不像类似的最小化问题已被广泛研究。在这项工作中,我们确定了几个次模最大化问题,其中一个可以得到一个更好的近似对称目标比一般次模函数的最先进的近似。我们首先考虑最大化一个非负对称次模函数$f\colon 2^\mathcal{N} \to \mathbb{R}^+$服从下单调可解多面体$\mathcal{P} \subseteq [0, 1]^\mathcal{N}$的问题。对于这个问题,我们描述了一个算法产生的分数值至少$0.432 \cdot f(OPT)$,其中$OPT$是最佳的积分解决方案的解决方案。我们的第二个结果考虑了非负对称次模函数$f\colon 2^\mathcal{N} \to \mathbb{R}^+$的问题$\max \{f(S) : |S| = k\}$。对于这个问题,我们给出了一个近似比,它依赖于值$k / |\mathcal{N}|$,并且总是至少为$0.432$。我们的方法也可以适用于非负非对称次模函数,在这种情况下,它产生$1/e - o(1)$近似,改善了最好的已知结果为这个问题。对于无约束最大化的非负对称子模函数,我们描述了一个确定性的线性时间$1/2$近似算法。最后,我们给出了一个$[1 - (1 - 1/k)^{k…
2016-04-17 cs.DS
Regularized Non-monotone Submodular Maximization
在本文中,我们提出了一个彻底的研究最大化正则非单调子模函数受到各种约束,即,$\max \{ g(A) - \ell(A) : A \in \mathcal{F} \}$,其中$g \colon 2^Ω\to \mathbb{R}_+$是非单调子模函数,$\ell \colon 2^Ω\to \mathbb{R}_+$是归一化模函数,并且$\mathcal{F}$是约束集。虽然目标函数$f := g - \ell$仍然是次模的,但$f$可能潜在地呈现负值的事实阻止了用于次模最大化的现有方法为正则化的次模最大化问题提供恒定的近似比。为了克服这个障碍,我们提出了几个算法,可以提供一个相对较弱的近似保证最大化正则非单调子模函数。更具体地说,我们提出了一个连续的贪婪算法放松最大化$g - \ell$的拟阵约束。然后,管道舍入过程可以产生积分解$S$,使得$\mathbb{E} [g(S) - \ell(S)] \geq e^{-1}g(OPT) - \ell(OPT) - O(ε)$。此外,我们提出了一种更快的算法,用于在基数约束下最大化$g - \ell$,该算法可以使用$O(\frac{n}{ε^2} \ln \frac 1ε)$值Oracle查询输出带有$\mathbb{E} [g(S) - \ell(S)] \geq (e^{-1} - ε) g(OPT) - \ell(OPT)$…
2021-03-18 cs.DS
Chasing Submodular Objectives, and Submodular Maximization via Cutting Planes
本文提出子模目标追踪问题,设计基于割平面的approximate-or-separate元算法,在基数与划分拟阵约束下实现最优近似比与竞争回溯成本,拓展了割平面方法的应用场景。
2025-11-17 cs.DS
Fast Semidifferential-based Submodular Function Optimization
University of Washington(华盛顿大学);University of California, Berkeley(加州大学伯克利分校)
我们提出了一个实用的和强大的新框架,无约束和有约束的子模函数优化的基础上离散半微分(次和超微分)。由此产生的算法,重复计算,然后有效地优化次模半梯度,提供新的和推广许多旧的方法,次模优化。此外,我们的方法,采取措施,提供一个统一的范式,适用于子模块最小化和最大化,历史上已经处理的问题相当明显。我们的算法的实用性是很重要的,因为在子模块化的兴趣,由于其自然和广泛的适用性,最近在机器学习内的优势。我们分析了我们的算法的理论性质的最小化和最大化,并表明,许多国家的最先进的最大化算法的特殊情况。最后,我们补充我们的理论分析与支持实证实验。
2013-08-05 cs.DM cs.DS cs.LG
A polynomial lower bound on adaptive complexity of submodular maximization
在大数据应用中,需要设计具有高度并行化的算法。在子模块优化的背景下,自适应复杂度已经成为算法“序列性”的广泛使用的度量。自适应模型中的算法在轮中进行,并且可以在每轮中向函数$f$发出多项式多个查询。每轮中的查询必须是独立的,由仅依赖于前一轮中获得的查询结果的计算产生。在这项工作中,我们研究了自适应复杂性模型中的子模块最大化的两个基本变体:基数约束单调最大化和无约束非单调最大化。我们的主要结果是,对于任何$r < n^c$(其中$c>0$是某个常数),用于基数约束单调最大化的$r$轮算法无法获得比$1 - 1/e - Ω(\min \{ \frac{1}{r}, \frac{\log^2 n}{r^3} \})$更好的逼近因子。这是第一个结果表明,轮数必须炸毁多项式大,因为我们接近最佳因子的$1-1/e$。对于无约束非单调最大化问题,我们给出了一个肯定的结果:对于每个实例和每个$δ>0$,我们要么在$1$轮中得到$(1/2-δ)$ -近似,要么在$O(1/δ^2)$轮中得到$(1/2+Ω(δ^2))$ -近似.特别是(与基数约束的情况相反),不可能有这样的情况:(i)无论轮数如何,都不可能实现比$1/2$更好的近似因子,以及(ii)需要$r$轮数来实现因子$1/2-O(1/r)$。
2020-04-20 cs.DC cs.DS
On maximizing a monotone k-submodular function subject to a matroid constraint
$k$ -次模函数是次模函数的扩展,因为其输入由$k$不相交子集而不是单个子集给出。对于无约束的非负$k$ -次模极大化问题,Ward和Yakiivnikov提出了一个常数因子近似算法,Iwata,Tanigawa和Yoshida最近提出了一个$1/2$ -近似算法。Iwata等人也给出了单调$k$ -次模最大化的一个$k/(2k-1)$ -近似算法,并证明了它的近似比是渐近紧的.最近,Ohnik和Yoshida提出了单调$k$的常数因子算法-具有几个大小约束的子模最大化。然而,虽然子模最大化与各种约束已被广泛研究,没有近似算法已开发的约束$k$ -子模最大化,除了大小约束的情况下。在本文中,我们证明了一个贪心算法输出的$1/2$ -近似解单调$k$ -子模极大化与拟阵约束。该算法在$O(M|E|(\text{MO} + k\text{EO}))$时间内运行,其中$M$是极大最优解的大小,$|E|$是基集的大小,$\text{MO}, \text{EO}$分别表示拟阵的成员预言和$k$ -子模函数的求值预言的时间.
2016-08-22 cs.DM cs.DS math.OC
A Memoization Framework for Scaling Submodular Optimization to Large Scale Problems
Microsoft Corporation(微软公司);University of Washington(华盛顿大学)
我们的动机是大规模的次模块优化问题,其中标准算法,治疗的次模块功能的\emph{value oracle model}不规模。在本文中,我们提出了一个称为\emph{precomputational complexity model}的模型,以及一个统一的memoization为基础的框架,它着眼于特定形式的子模块功能。在这个框架中的一个关键成分是一个\emph{precomputed statistic}的概念,这是保持在算法的过程中。我们表明,我们可以很容易地集成到一个大类的子模块优化问题,包括约束和无约束的子模块最大化,最小化,子模块优化的差异,优化与子模块约束和其他几个相关的优化问题。此外,memoization可以集成在离散和连续松弛口味的算法,这些问题。我们证明了这一想法的几个常见的子模块化功能,并显示如何预计算模型提供了显着的加速比的值Oracle模型。最后,我们经验证明这是大规模的机器学习问题的数据子集的选择和总结。
2019-02-26 cs.AI cs.DS cs.LG
Reconfiguration Problems on Submodular Functions
重构问题需要在特定问题的一对可行解之间找到一个逐步的转换。理论计算机科学的主要关注点是揭示经典问题的计算复杂性。本文对子模函数的重构问题进行了初步研究,该问题更具有数据挖掘的特点。我们的子模块重构问题要求找到一个解决方案序列连接两个输入的解决方案,使每个解决方案有一个目标值以上的子模块功能$f: 2^{[n]} \to \mathbb{R}_+$的阈值,并从前一个通过应用一个简单的转换规则。我们制定了三个重构问题:单调子模块重构(MSReco),适用于影响力最大化,和两个版本的无约束子模块重构(USReco),适用于决定点过程。本文的主要工作如下:1.我们证明MSReco和USReco都是$\mathsf{PSPACE}$ -完全的。2.我们为MSReco设计了一个$\frac{1}{2}$ -近似算法,为USReco设计了一个$\frac{1}{n}$ -近似算法。3.我们设计的inapproximability的结果,近似的最佳值MSReco内的$(1-\frac{1+ε}{n^2})$ -因素是$\mathsf{PSPACE}$ -硬,我们不能找到一个$(\frac{5}{6}+ε)$ -近似USReco。4.我们使用真实世界的社会网络和电影评级数据进行数值研究的重新配置版本的影响力最大化和决定点过程。
2021-11-28 cs.DM cs.DS
Submodular + Concave
Yale University(耶鲁大学);University of Haifa(海法大学)
一阶最优化方法可以收敛到凹函数的最大目标值,并为(非凸/非凹)连续次模函数提供常数因子逼近保证。在这项工作中,我们开始研究的形式$F(x) = G(x) +C(x)$在可解凸体$P$,其中$G$是一个光滑的DR-次模函数和$C$是一个光滑的凹函数的函数的最大化。这类函数是凹的和连续的DR-次模函数的严格扩展,对于这些次模函数没有理论保证。我们提供了一套Frank-Wolfe风格的算法,根据目标函数的性质(即,如果$G$和$C$是单调的或非单调的,以及非负的或非负的)以及集合$P$的性质(即,无论是否向下闭合),提供$1-1/e$、$1/e$或$1/2$近似保证。然后,我们使用我们的算法得到一个框架,从一个给定的地面集(对应于一个决定性的点过程的模式),并选择一组聚集的元素(对应于一个合适的凹函数的最大值)选择不同的元素之间平滑插值。此外,我们将我们的算法应用于上述类(DR-次模+凹)中的各种函数,在约束和无约束的设置,并表明我们的算法始终优于自然基线。
2021-06-09 cs.DS cs.LG math.OC
A Unified Approach to Submodular Maximization Under Noise
Google Mountain View, CA(谷歌山景城);Yale University(耶鲁大学);Harvard University(哈佛大学)
本文提出了一种统一方法,在噪声环境下实现子模函数最大化,通过 meta 算法将稳健算法转换为噪声环境下的算法,获得不同约束下的近似结果。
2025-12-31 cs.CC cs.DM cs.DS
Submodular Maximization Beyond Non-negativity: Guarantees, Fast Algorithms, and Applications
Yale University(耶鲁大学);Open University of Israel(以色列开放大学);Queen Mary University of London(伦敦玛丽女王大学)
一般认为,次模函数--以及更一般的$γ$类--弱次模函数--只能在非负性假设$f(S) \geq 0$下优化。在本文中,我们表明,一旦函数表示为差$f = g - c$,其中$g$是单调的,非负的,和$γ$-弱次模和$c$是非负模,那么强逼近保证可能会得到。我们提出了一个在$k$基数约束下最大化$g - c$的算法,该算法产生一个随机可行集$S$,使得运行时间为$O (\frac{n}ε \log^2 \frac{1}ε)$的$\mathbb{E} \left[ g(S) - c(S) \right] \geq (1 - e^{-γ} - ε) g(OPT) - c(OPT)$,即,独立于$k$。我们将这些结果扩展到无约束的设置,通过描述具有相同的近似保证和更快的$O(\frac{n}ε \log\frac{1}ε)$运行时的算法。我们的算法的主要技术是双重的:使用一个代理目标,不同的$g$和$c$之间的相对重要性在整个算法,和几何扫描可能的$γ$值。我们的算法保证补充了硬度的结果表明,没有多项式时间的算法访问$g$通过一个值Oracle可以做得更好。我们经验证明我们的算法的成功,将它们应用到波士顿住房数据集的实验设计和有向顶点覆盖的电子邮件欧盟数据集。
2019-04-19 cs.DS cs.LG math.OC
Quantum Submodular Maximization
MPI-INF(马克斯·普朗克 informatics 研究所);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);State Key Laboratory for Novel Software Technology, Nanjing University(南京大学软件新技术国家重点实验室);Hefei National Laboratory(合肥国家实验室);College of Computer and Data Science, Fuzhou University(福州大学计算机与数据科学学院);School of Mathematics and Statistics, Fuzhou University(福州大学数学与统计学院)
本研究探讨非负子模函数最大化的量子查询复杂度,提出无约束及基数约束下的量子算法,实现指数级或二次加速,并证明特定近似阈值下量子优势受限。
2026-10-06 cs.CC cs.DS quant-ph
Algorithmically Fair Maximization of Multiple Submodular Objective Functions and Implications to Constrained Fair Division
Athens University of Economics and Business(雅典经济与商业大学);Archimedes, Athena Research Center(阿尔基米德,阿瑞纳研究中心);University of Liverpool(利物浦大学);Sapienza University of Rome(罗马第一大学);University of Amsterdam(阿姆斯特丹大学)
本文研究多个智能体在共同基集上最大化各自子模目标函数的问题,提出并分析了一种简单的轮询协议,证明了贪婪策略在单调和非单调目标下具有近似最优性及公平性保证。
2026-06-02 cs.DS cs.GT math.OC
On the limitations of deterministic de-randomizations for online bipartite matching and max-sat
令人惊讶的结果卡普,Vazirani和Vazirani和(分别)Buchbinder等人的例子,相当简单的随机化提供可证明更好的近似比相应的确定性对应的在线二分匹配和(分别)无约束非单调子模最大化。我们表明,看似强大的扩展的确定性在线计算模型可以在最好的匹配天真的随机化的性能。更具体地说,对于二分匹配,我们表明,在优先级模型(允许非常一般的方式来订购的输入流),我们不能提高平凡的1/2近似实现的任何贪婪的最大匹配算法,同样不能提高这种近似的任何日志n/日志日志n数量的在线并行运行的算法。后一个结果产生了一个改进的log log n - log log log n所需的建议位数的下限。对于max-sat,我们适应最近的去随机化方法的Buchbinder和Feldman的Buchbinder等算法的max-sat,以获得一个确定性的3/4-近似算法使用宽度2n并行。为了改善这种近似,我们表明,指数宽度并行的在线算法是必要的(在一个模型,这是更一般的宽度2n算法所需要的)。
2016-08-10 cs.DS
Fast Distributed Approximation for Max-Cut
在许多计算环境中,寻找最大切割是一项基本任务。令人惊讶的是,在经典的分布式环境中,它没有得到充分的研究,其中顶点根据底层图(称为$\mathcal{LOCAL}$或$\mathcal{CONGEST}$模型)通过向其邻居同步发送消息进行通信。我们修正这一点,在这些模型中获得几乎最佳的算法,最大切割的广泛的一类图。特别是,对于任何$ε> 0$,我们开发的随机近似算法实现的比例$(1-ε)$的最大切割的二分图中的$\mathcal{CONGEST}$模型,并在一般的图形中的$\mathcal{LOCAL}$模型。我们进一步提出了有效的确定性算法,包括$1/3$ -近似的最大-Dicut在我们的模型,从而提高了最好的已知(随机)比$1/4$。我们的算法利用Buchbinder等人的贪婪方法(SIAM Journal on Computing,2015)来最大化无约束(非单调)子模函数,这可能是独立的兴趣。
2017-07-26 cs.DC cs.DS
Greedy MAXCUT Algorithms and their Information Content
MAXCUT定义了一个经典的NP-困难的图划分问题,它是对称非单调无约束次模极大化(USM)问题的一个典型例子。MAXCUT在机器学习、计算机视觉和统计物理学中有着广泛的应用。近似求解MAXCUT的贪心算法依赖于贪婪顶点标记或边收缩策略。这些算法已被研究,通过测量它们的近似比在最坏的情况下设置,但很少有人知道他们的鲁棒性的平均情况下的输入数据的噪声污染的特征。采用近似集编码的框架,提出了一种精确度量五种贪婪MAXCUT算法近似集基数的方法。它们的信息内容探索两种不同的噪声模型产生的图形实例:边缘反转模型和高斯边缘权重模型。研究结果为MAXCUT算法中不同贪婪算法和技术的鲁棒性提供了参考,可用于一般USM问题的算法设计。
2016-09-03 cs.DM cs.DS cs.IT