The Online Submodular Cover Problem
本文研究在线子模覆盖问题,提出多对数竞争比算法,并匹配在线集合覆盖的最优下界,通过在线求解指数规模线性规划松弛及其舍入实现。
2025-10-10 cs.DS
Streaming Algorithms for the $k$-Submodular Cover Problem
本文研究 $k$-子模覆盖问题,提出一种流式双准则算法,在成本不超过最优值 $O(1/ε)$ 倍的同时,保证效用达到 $(1-ε)τ/r$。
2023-12-06 cs.DS
Minimum Robust Multi-Submodular Cover for Fairness
本文研究了一个新的问题--最小鲁棒多子模覆盖公平性问题(MinRF):给定基集$V$ ; $m$单调子模函数$f_1,...,f_m$ ; $m$阈值$T_1,...,T_m$和一个非负整数$r$,MinRF要求最小集$S$使得对所有$i \in [m]$,$\min_{|X| \leq r} f_i(S \setminus X) \geq T_i$ .我们证明了MinRF在$(1-ε)\ln m$内是不可逼近的;并且没有任何算法,在$r$方面采用少于指数数量的查询,能够以高确定性输出可行集到MinRF。提出了三种具有性能保证的双准则近似算法:一种用于$r=0$,一种用于$r=1$,一种用于一般$r$ .我们进一步研究了我们的算法在MinRF的两个应用(多组信息传播和多用户电影推荐)中的性能。在大多数情况下,我们的算法在解决方案质量和查询数量方面都优于基线算法。
2020-12-14 cs.DS
Stochastic Submodular Cover with Limited Adaptivity
在次模覆盖问题中,我们给出了一个非负单调的次模函数$f$,其目标是选择一个最小子集$S \subseteq E$,使得$f(S) = Q$,其中$Q = f(E)$ .在问题的随机版本中,我们给出了$m$随机项,这些随机项是独立实现到$E$中某个项的不同随机变量,目标是找到一个最小的随机项集,其实现$R$满足$f(R) = Q$ .这个问题捕捉作为一个特殊情况下的随机集覆盖问题,更一般地说,随机覆盖整数规划。我们将$r$轮自适应算法定义为这样一种算法,该算法选择每轮$k \in [r]$中所有可用项的排列和阈值$τ_k$,并按照排列指定的顺序实现项,直到函数值至少为$τ_k$。每一轮$k$的置换是基于前一轮中的实现自适应地选择的,但是每一轮内的排序保持固定,而不管在该轮内看到的实现如何。我们的主要结果是,对于任何整数$r$,存在一个多时间$r$轮随机子模覆盖的自适应算法,其预期成本是$\tilde{O}(Q^{{1}/{r}})$倍的预期成本的完全自适应算法。在我们的工作之前,这样的结果是不知道的情况下,即使是$r=1$和当$f$是覆盖函数。另一方面,我们表明,对于任何$r$,存在的随机子模块覆盖问题的情况下,没有$r$轮自适应算法可以实现更好的$Ω(Q^{{1}/{r}})$近似的预期成本的完全自适应算法。我们的下界结果甚至适用于覆盖函数和具有无限计算能力的算法。
2018-10-31 cs.DS
Bicriteria Approximation Algorithms for the Submodular Cover Problem
针对一般、单调及正则化子模覆盖问题,本文提出可扩展且近似保证优良的新算法,并通过数据摘要与图割实验验证其有效性。
2023-09-25 cs.DS
Greedy D-Approximation Algorithm for Covering with Arbitrary Constraints and Submodular Cost
本文针对目标函数为次模非减的覆盖问题,提出了一种简单的D-近似算法,其可行域可表示为任意覆盖约束的交集,每个覆盖约束至多约束问题的D个变量。(一个简单的例子是顶点覆盖,D = 2。该算法推广了以前的基本覆盖问题和在线分页和缓存问题的近似算法。
2011-12-30 cs.DC cs.DS
Online submodular welfare maximization: Greedy is optimal
我们证明,没有在线算法(即使是随机的,对一个不经意的对手)是优于1/2-竞争的福利最大化覆盖估值,除非$NP = RP$。由于贪心算法是已知的1/2-竞争单调的子模赋值,其中覆盖率是一个特殊的情况下,这证明了贪婪提供了最佳的竞争比。另一方面,我们证明了贪婪的随机设置与i.i.d.项目和估值满足收益递减是$(1-1/e)$ -竞争,这是最佳的,即使覆盖估值,除非$NP=RP$。对于在线非线性加法分配,我们证明了没有算法可以是0.612-竞争相对于一个自然的LP已被用于此问题。
2013-01-30 cs.DS
Submodular Optimization with Submodular Cover and Submodular Knapsack Constraints
University of Washington(华盛顿大学)
我们研究了两个新的优化问题-最小化submodular函数的submodular下限约束(submodular覆盖)和最大化submodular函数的submodular上限约束(submodular背包)。我们的动机是在机器学习中的一些实际应用,包括传感器放置和数据子集选择,这需要最大化某个子模块功能(如覆盖或多样性),同时最小化另一个(如合作成本)。这些问题通常被提出来最小化子模函数之间的差异[14,35],这在最坏的情况下是不可近似的。然而,我们表明,通过措辞这些问题的约束优化,这是更自然的许多应用程序,我们实现了一些有界近似的保证。我们还表明,这两个问题是密切相关的,一个近似算法解决一个可以用来获得一个近似保证其他。我们提供了硬度的结果,从而表明我们的近似因子是紧对数因子的问题。最后,我们实证证明了我们的算法的性能和良好的可扩展性。
2013-11-08 cs.AI cs.DM cs.DS
Majorisation-minimisation algorithms for minimising the difference between lattice submodular functions
我们考虑的问题,最小化的功能表示为一个不同的格次模函数。我们提出类似的SupSub,SubSup和ModMod例程格次模函数。我们表明,我们的majorisation最小化算法产生的迭代单调减少,我们收敛到一个局部最小值。我们还扩展了加性硬度的结果,并表明,广泛的功能可以表示为子模函数的差异。
2019-05-31 cs.DS
Scalable Bicriteria Algorithms for Non-Monotone Submodular Cover
在本文中,我们考虑的优化问题\scpl(\scp),这是找到一个最小成本的基集$U$的子集,使一个子模函数$f$的值是高于阈值$τ$。与现有的大多数关于\scp的工作相反,没有假设$f$是单调的。给出了\scp的两个双准则近似算法,对于输入参数$0 < ε< 1$,给出了$O( 1 / ε^2 )$与最优代价的$O( 1 / ε^2 )$比,并保证函数$f$至少为$τ(1 - ε)/2$ .下界表明,在值查询模型下,没有多项式时间算法可以确保$f$大于$τ/2$。此外,所提出的算法可扩展到大数据集,处理流中的地面集。为\scp开发的类似算法也适用于\smpl(\smp)的相关优化问题。最后,在图切割和数据摘要功能的实验中,证明了算法的有效性。
2022-11-09 cs.DS
Scenario Submodular Cover
NYU Tandon School of Engineering(纽约大学坦登工程学院);Brooklyn College, City University of New York(纽约城市大学布鲁克林学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
机器学习中的许多问题都可以建模为子模块优化问题。最近的工作集中在这些问题的随机或自适应版本。我们考虑情景次模块覆盖问题,这是一个对应的Golovin和Krause研究的随机次模块覆盖问题。在Scenario Submodular Cover中,目标是生成具有最小期望成本的覆盖,其中期望是关于经验联合分布的,作为实现的加权样本的输入。相反,在Stochastic Submodular Cover中,假设输入分布的变量是独立的,并且每个变量的分布都作为输入。基于Cicalese等人和Golovin和Krause对相关问题的算法,我们给出了离散分布上Scenario Submodular Cover的两个近似算法.第一个实现了O(log Qm)的近似因子,其中m是样本的大小,Q是目标效用。第二种算法更简单,近似界为O(log QW),其中Q是目标效用,W是整数权重之和。(Both边界假设整数值效用函数。)我们的结果产生近似边界的其他问题,涉及非独立的分布,明确指定其支持。
2016-03-10 cs.DS cs.LG
Separating Coverage and Submodular: Maximization Subject to a Cardinality Constraint
本文研究基数约束下最大覆盖与单调子模最大化的近似比,证明子模问题可达 $1-(1-c)^{1/c}$,并发现 $c=1/2$ 时覆盖问题有 $0.7533$ 近似比,首次分离两问题。
2025-03-25 cs.DS
Approximation Algorithms for Stochastic Boolean Function Evaluation and Stochastic Submodular Set Cover
随机布尔函数求值问题是在未知输入x上确定给定布尔函数f的值的问题,此时x的每一位x_i只能通过支付相关的成本c_i来确定。假设x是从给定的产品分布中提取的,目标是最小化期望成本。这个问题已经在运筹学中被研究过,在那里它被称为布尔函数的“顺序测试”。在学习理论中,它也在有属性成本的学习背景下进行了研究。我们考虑随机布尔函数求值的近似算法的一般问题。给出了布尔线性阈值公式的3-近似算法。我们还提出了一个近似算法,用于评估CDNF公式(和决策树),实现了一个因子为O(log kd),其中k是在DNF公式中的条款的数量,和d是在CNF公式中的条款的数量。此外,我们提出了近似算法的线性阈值函数的同时评估,并为线性函数的排名。我们的函数评价算法是基于减少随机次模块集覆盖(SSSC)问题。这个问题是由Golovin和Krause提出的。他们提出了一个近似算法的问题,称为自适应贪婪。我们的主要技术贡献是一个新的近似算法的SSSC问题,我们称之为自适应对偶贪婪。它是Fujito提出的次模集合覆盖问题的对偶贪心算法的推广,而对偶贪婪算法是经典集合覆盖问题的Hochbaum算法的推广。我们还给出了一个新的边界的Golovin和Krause的自适应贪心算法的近似实现。
2013-08-09 cs.DS
Symmetric Submodular Function Minimization Under Hereditary Family Constraints
本文提出了一个有效的算法来求包含闭集上对称次模函数的非空极小值。这例如包括由基数约束、背包约束、拟阵独立性约束或这些约束的任何组合定义的族。我们的算法使$O(n^3)$ oracle调用的子模函数,其中$n$是基数的地面设置。相比之下,在基数约束下最小化一般子模函数的问题已知在$o(\sqrt{n/\log n})$中是不可近似的(Svitkina和Fleischer [2008])。该算法类似于Nagamochi和Ibaraki [1998]使用$O(n^3)$ oracle调用在一组基数$n$上找到对称次模函数的所有非平凡包含最小极小元的算法。他们的程序反过来是基于Queyranne的算法[1998],以最小化对称子模
2010-07-13 cs.DS
Fully-Dynamic Submodular Cover with Bounded Recourse
针对完全动态子模覆盖问题,提出基于Tsallis熵势函数和互覆盖概念的算法,实现最优竞争比和有界补偿,统一并推广了动态集合覆盖等结果。
2025-10-10 cs.DS
Minimizing a sum of submodular functions
我们考虑极小化一个表示为子模项之和的函数的问题。我们假设每一项允许{ \em交换容量}的有效计算。例如,这适用于依赖于少量变量的项,或某些基数依赖项。子模最小化算法的朴素应用不会利用针对单个项的专门交换容量子例程的存在。为了克服这一点,我们投的问题作为一个{ \em submodular流}(SF)的问题,在一个辅助图,并表明,应用大多数现有的SF算法将只依赖于这些子程序。然后,我们更详细地探讨岩田的子模块流的容量缩放方法(Math. Programming,76(2):299- 308,1997)。特别是,我们展示了如何提高其复杂性的情况下,函数包含基数依赖项。
2012-06-11 cs.DS
Randomized Bicriteria Approximation Algorithm for Minimum Submodular Cost Partial Multi-Cover Problem
本文研究了最小次模费用部分多重覆盖问题的一个变形--最小次模费用部分多重覆盖(SCPMC)的随机近似算法,其中每个元素$e$都有一个覆盖要求$r_e$和一个利润$p_e$,子集合上的费用函数是次模的,目标是找到一个最小费用子集合,它至少完全覆盖总利润的$q$ - %,其中当且仅当元素$e$属于$\mathcal S'$的至少$r_e$集合时,元素$e$被子集合$S'$完全覆盖。以前的工作表明,这样的组合大大增加了研究的难度,即使成本函数是线性的。本文在最大覆盖要求$r_{\max}=\max_e r_e$为常数,代价函数为非负、单调非减和次模的条件下,给出了SCPMC的第一个随机双准则算法,其输出至少完全覆盖所有元素的$(q-\varepsilon)$ - %,性能比为$O(b/\varepsilon)$,且具有很高的概率,其中,$b=\max_e\binom{f}{r_{e}}$和$f$是包含公共元素的集合的最大数量。该算法是基于一种新的非线性规划。此外,在覆盖要求$r\equiv 1$的情况下,即使单调性要求从代价函数中被丢弃,也可以实现双准则$O(f/\varepsilon)$近似。
2017-02-01 cs.DM cs.DS
Fast Stochastic Greedy Algorithm for $k$-Submodular Cover Problem
Graduate University of Science and Technology(科学技术研究生大学);Vietnam Academy of Science and Technology(越南科学技术学院);Faculty of Information Technology(信息科技学院);Hanoi Architecture University(河内建筑大学);ORLab(OR实验室);Phenikaa University(Phenikaa大学)
针对$k$-子模覆盖问题现有算法近似保证弱且查询复杂度高的问题,提出快速随机贪心算法,在实现强双标准近似的同时大幅降低查询复杂度与函数评估次数,适用于大规模AI应用。
2025-11-02 cs.AI cs.DS
Minimum Cost Adaptive Submodular Cover
University of Michigan(密歇根大学)
本文针对自适应子模函数的最小成本覆盖问题,提出了一种$4(1+\ln Q)$逼近算法,并推广到最小化覆盖成本$p$阶矩,对所有$p\ge 1$实现$(p+1)^{p+1}(\ln Q+1)^p$逼近,且比率最优,同时扩展到多函数覆盖并在假设识别中验证了性能。
2024-05-21 cs.DS cs.LG
A Dynamic Algorithm for Weighted Submodular Cover Problem
University of Maryland(马里兰大学);TU Eindhoven(埃因霍温理工大学)
该研究率先探索动态场景下的加权子模覆盖问题,提出一种随机算法,能以每次更新多对数级的查询复杂度,在期望意义下得到双准则近似解,填补了动态子模覆盖问题研究的空白。
2024-07-13 cs.DS cs.LG
Lower Bound on the Greedy Approximation Ratio for Adaptive Submodular Cover
University of Michigan(密歇根大学)
本文证明了自适应子模覆盖的贪心算法近似比下界为 1.3*(1+ln Q),并推翻了 Golovin-Krause 先前声称的 (1+ln Q)^2 近似比结果。
2024-05-23 cs.AI cs.DS cs.LG
Improved Parallel Algorithm for Minimum Cost Submodular Cover Problem
在最小代价次模覆盖问题(MinSMC)中,给定单调非减次模函数$f\colon 2^V \rightarrow \mathbb{Z}^+$,线性代价函数$c: V\rightarrow \mathbb R^{+}$和整数$k\leq f(V)$,目标是找到一个代价最小的子集$A\subseteq V$,使得$f(A)\geq k$ . MinSMC是许多机器学习和数据挖掘应用程序的核心。在本文中,我们设计了一个并行算法的MinSMC,采取最多$O(\frac{\log km\log k(\log m+\log\log mk)}{\varepsilon^4})$自适应轮,它实现了一个近似比$\frac{H(\min\{Δ,k\})}{1-5\varepsilon}$的概率至少$1-3\varepsilon$,其中$Δ=\max_{v\in V}f(v)$,$H(\cdot)$是调和数,$m=|V|$,$\varepsilon$是一个常数在$(0,\frac{1}{5})$。
2022-06-15 cs.DS math.CO
A Tight Approximation for Submodular Maximization with Mixed Packing and Covering Constraints
受机器学习中子集选择和数据汇总等应用的启发,我们考虑了混合填充和覆盖约束下的单调子模函数最大化问题。我们提出了一个紧密的近似算法,对于任何常数$ε>0$实现了$1-\frac{1}{\mathrm{e}}-ε$的保证,同时违反覆盖约束的乘法因子$1-ε$。我们的算法是基于一种新的枚举方法,它不同于以前已知的枚举技术,可以处理包装和覆盖约束。我们扩展了上述主要结果,另外处理拟阵的独立性约束,以及寻找(近似)帕累托集最优解时,多个子模块化的目标。最后,我们提出了一种新的和纯粹的组合动态规划方法,可以应用到几个特殊情况下的问题产生不仅{ \em确定性},但也相当快的算法。例如,对于仅填充约束的充分研究的特殊情况(Kulik { \em et. al.} [数学。Res. `13]和Chekuri { \em et. al.} [FOCS 10]),我们能够提出第一个确定性的非平凡的近似算法。我们相信我们的新组合方法可能是独立的利益。
2018-12-19 cs.DM cs.DS
Worst-Case Adaptive Submodular Cover
The University of North Texas(北德克萨斯大学);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文研究了最坏情况下的自适应次模覆盖问题。这个问题推广了许多以前研究过的问题,即基于池的主动学习和随机子模集覆盖。我们的问题的输入是一组项目(例如,医学测试)并且每个项目具有随机状态(例如,医学测试的结果),其实现最初是未知的。人们必须以固定成本选择一个项目,以观察其实现情况。有一个效用函数,它将一个子集的项目及其状态映射到一个非负实数。我们的目标是顺序选择一组项目,以实现“目标值”,同时最大限度地减少实现的最大成本(也称为最坏情况成本)。为了方便我们的研究,我们假设效用函数是\emph{worst-case submodular},这是一个在许多机器学习应用中常见的属性。有了这个假设,我们开发了一个紧密的$(\log (Q/η)+1)$近似策略,其中$Q$是"目标值“,$η$是$Q$和任何可实现的效用值$\hat{Q}<Q$之间的最小差值。我们还研究了最坏情况下的最大覆盖问题,最小成本覆盖问题的对偶问题,其目标是选择一组项目,以最大限度地提高其最坏情况下的效用受到预算约束。为了解决这个问题,我们开发了一个$(1-1/e)/2$ -近似的解决方案。
2023-02-11 cs.AI cs.DS
Ranking with Submodular Valuations
研究了次模赋值的排序问题。这个问题的一个实例由一个基集$[m]$和一个$n$单调子模集函数$f^1, \ldots, f^n$的集合组成,其中每个$f^i: 2^{[m]} \to R_+$。输入的附加成分是权重向量$w \in R_+^n$。我们的目标是找到一个线性排序的地面设置元素,最大限度地减少加权覆盖时间的功能。函数的覆盖时间是线性序的前缀中形成其对应函数值大于单位阈值的集合的元素的最小数目。我们的主要贡献是一个$O(\ln(1 / ε))$ -近似算法的问题,其中$ε$是最小的非零边缘值,任何功能可能会获得一些元素。我们的算法使用自适应残差更新计划,这可能是独立的利益的元素的顺序。我们还证明了问题是$Ω(\ln(1 / ε))$ -难以近似,除非P = NP。这意味着我们的算法的结果是最佳的常数因子。
2010-07-15 cs.DS
Min-max Submodular Ranking for Multiple Agents
在次模排序(SR)问题中,输入由一组定义在基元素集上的次模函数组成。目标是对所有函数的元素进行排序,使其平均值尽可能快地超过某个阈值,假设我们每次选择一个元素。这个问题足够灵活,可以捕获机器学习中的各种应用,包括决策树。本文考虑SR的最小-最大版本,其中多个实例共享基集。鉴于每个实例都与一个代理相关联,最小化最大化问题是为了使所有代理的最大目标最小化,从而为所有代理找到一个公平的解决方案。我们给这个问题的近似算法,并证明其有效性的应用程序中找到一个决策树多代理。
2023-03-27 cs.DS
Fair Submodular Cover
Texas A&M University(德克萨斯农工大学)
研究提出公平子模覆盖(FSC)问题,设计离散与连续近似算法,并在最大覆盖实例上验证其有效性。
2024-07-05 cs.CY cs.DS cs.LG
Submodular Functions: Extensions, Distributions, and Algorithms. A Survey
子模块性是组合优化中的一个基本现象。子模函数出现在各种组合设置,如覆盖问题,切割问题,福利最大化,等等。因此,大量的工作一直关注最大化或最小化的子模函数,往往受到组合约束。许多这些算法的结果表现出一个共同的结构。也就是说,函数被扩展为凸域上的连续的,通常是非线性的函数。然后,求解该松弛,并且将分数解四舍五入以产生积分解。通常,连续扩张在基集子集上的分布方面有一个自然的解释。这种解释往往对结果及其分析至关重要。本综述的目的是强调这种连接之间的扩展,分布,松弛和优化的上下文中的子模函数。我们还提出了第一常数因子近似算法的最小化对称次模函数的基数约束。
2011-11-06 cs.DS
Diverse Approximations for Monotone Submodular Maximization Problems with a Matroid Constraint
本文研究拟阵约束下单调子模最大化的多样化解问题,提出两种带权衡参数的贪心算法,并给出目标值与多样性的参数化近似保证。
2023-07-14 cs.DS
Minimum Entropy Submodular Optimization (and Fairness in Cooperative Games)
我们研究最小熵子模优化,最小熵集覆盖问题的一个常见推广,之前由Cardinal等人研究,和次模集合覆盖问题。我们给出了一个一般的界的近似性能的贪心算法使用的方法,可以解释在一个特定类型的偏置网络流。作为应用,我们重新推导已知的最小熵集覆盖和最小熵方向问题的结果,并获得一个新的问题称为最小熵生成树问题的非平凡界。这个问题可以应用于(部分是出于)凹合作博弈中公平性的最坏情况方法的定义,类似于非合作环境中无政府状态的无政府代价的概念。
2014-02-18 cs.DS cs.GT math.CO
Submodular approximation: sampling-based algorithms and lower bounds
我们介绍了几个推广的经典计算机科学的问题,通过取代较简单的目标函数与一般的次模函数。新的问题包括子模块负载均衡,它推广了负载均衡或最小完工时间调度,子模块稀疏割和子模块平衡割,它们推广了各自的图割问题,以及子模块函数最小化的基数下界。我们建立了一个多项式数量的查询函数值的预言这些问题的近似性的上限和下限。我们的算法的近似保证是sqrt(n/ln n)的顺序。我们表明,这是固有的困难的问题,通过证明匹配下界。对于单调次模函数的近似学习问题,我们给出了一个改进的下界。此外,我们还提出了一个近似学习具有特殊结构的次模函数的算法,其保证接近下界。虽然相当严格,这种结构的函数类包括我们和以前的工作中用于下界的函数。这表明,如果这个问题有明显更强的下界,它们依赖于更一般的子模函数。
2010-05-31 cs.DS
Fully Dynamic Algorithm for Constrained Submodular Optimization
研究完全动态设置下基数约束单调次模函数最大化问题,提出一种随机化算法,通过维护多对数摊销更新时间的数据结构,实现$(1/2-ε)$-近似解,并经实证验证其性能。
2023-05-24 cs.DS
Submodular Max-Min Allocation under Identical Valuations
DIENS, École normale supérieure, PSL University, Paris, France(法国巴黎高等师范学院,PSL大学);LIP, ENS Lyon, France(法国里昂高等师范学院)
本文研究了在相同估值下子模函数的最大-最小分配问题,提出了一种贪心算法,得到0.4的近似比,改进了之前的0.37结果,并给出了子模估值的整数规划间隙的上界。
2026-04-14 cs.DS
Non-Linear Paging
研究非线性分页模型,引入新参数ℓ推广缓存大小,提出紧的确定性ℓ-竞争算法及随机下界,并针对超模分页给出多对数界与离线近似算法。
2024-04-20 cs.DS
Efficient Branch-and-Bound for Submodular Function Maximization under Knapsack Constraint
针对子模背包问题需要精确解的需求,提出一种具有最坏情况紧度保证的新型上界和最小化重复计算的对偶分支方法的高效最优分支定界算法,实验证明其远比传统方法高效。
2025-07-15 cs.DS
A Primal-Dual Analysis of Monotone Submodular Maximization
本文提出一种新的原始-对偶算法,用于基数约束下的单调子模最大化,达到最优近似比(1-1/e),并提供对偶证书以证明更强的实例级保证。
2023-11-13 cs.DS
Optimal approximation for submodular and supermodular optimization with bounded curvature
我们设计了新的近似算法的优化问题的子模和超模函数受一个单一的拟阵约束。具体地说,我们考虑的情况下,我们希望最大化一个非减次模函数或最小化一个非增超模函数的设置有界的全曲率$c$。在次模最大化的情况下,曲率$c$,我们得到一个$(1-c/e)$ -近似-第一次改进的贪婪$(1-e^{-c})/c$ -近似Conforti和Cornuejols从1984年,它适用于基数约束,以及最近的方法,适用于任意拟阵约束。我们的方法是基于修改的连续贪心算法和非遗忘局部搜索,并允许我们近似最大化的总和的非负,非减次模函数和(可能是负的)线性函数。我们展示了如何减少子模最大化和超模最小化这个一般问题时,目标函数有界的总曲率。我们证明,我们得到的近似结果是最好的可能值预言机模型,即使在基数约束的情况下。我们定义了一个扩展的概念,曲率一般单调集函数,并显示$(1-c)$ -近似最大化和$1/(1-c)$ -近似最小化的情况下。最后,我们给出了我们的结果在最大熵抽样和列子集选择问题中的两个具体应用。
2014-12-12 cs.DS
Isolating Cuts, (Bi-)Submodularity, and Faster Algorithms for Global Connectivity Problems
Li和Panigrahi在最近的工作中,获得了第一个确定性算法的全局最小割的加权无向图,运行在时间$o(mn)$。他们引入了一种优雅而强大的技术,通过少量的$s$ - $t$最小割计算来找到图中终端集的隔离割。在本文中,我们推广他们的隔离切割方法的抽象设置的对称双子模函数(也捕获对称子模函数)。我们推广到双子模的动机是应用到元素连通性和顶点连通性。利用一般的框架和其他想法,我们获得了显着更快的随机算法计算全球(和子集)的连接在一些设置,包括超图,元素连接和顶点连接图,并为对称次模函数。
2021-03-24 cs.DS
Subquadratic Submodular Function Minimization
次模函数极小化(SFM)是一个基本的离散优化问题,它推广了许多已知的问题,在各个领域都有应用,并且可以在多项式时间内求解。由于在计算机视觉和机器学习中的应用,快速SFM算法是非常需要的。当前最快的算法[Lee,Sidford,Wong,FOCS 2015]分别在$O(n^{2}\log nM\cdot\textrm{EO} +n^{3}\log^{O(1)}nM)$时间和$O(n^{3}\log^{2}n\cdot \textrm{EO} +n^{4}\log^{O(1)}n$)时间内运行,其中$M$是函数的最大绝对值(假设范围是整数),$\textrm{EO}$是在任何集合上计算函数所花费的时间。虽然查询复杂度的最佳下限只有$Ω(n)$,但当前证明函数最优值的最短非确定性证明需要$Θ(n^{2})$函数求值。本文的主要贡献是次二次SFM算法。对于整数值次模函数,我们给出了一个SFM算法,它运行在$O(nM^{3}\log n\cdot\textrm{EO})$时间给出了第一个近线性时间算法在任何已知的制度。对于$[-1,1]$中值域为实数的次模函数,给出了在$\tilde{O}(n^{5/3}\cdot\textrm{EO}/\varepsilon^{2})$时间内返回$\varepsilon$-可加近似解的算法.在它的核心,我们的算法是投影随机次梯度下降方法的次模块化函数的Lo…
2016-10-31 cs.DS
Submodular Optimization Over Streams with Inhomogeneous Decays
基数约束下的子模函数最大化问题是数据采掘和机器学习应用中的一个关键问题,它的目标是选择一个最大值为$k$的子集来最大化单调子模效用函数.当数据作为流给出时,需要流传输子模块优化(SSO)技术。现有的SSO技术只能应用于其中每个元素具有无限寿命的仅插入流,以及其中每个元素具有相同寿命的滑动窗口流(即,窗口大小)。然而,一些数据流中的元素可能具有任意不同的寿命,这需要在具有连续衰减的流上解决SSO(SSO-ID)。这项工作制定的SSO-ID问题,并提出了三个算法:BasicStreaming是一个基本的流算法,实现了一个$(1/2-ε)$近似因子; HistApprox显着提高了效率,实现了一个$(1/3-ε)$近似因子; HistStreaming是HistApprox的流版本,并使用语法,以进一步提高效率。在真实数据上进行的实验表明,HistStreaming可以找到高质量的解决方案,并且比朴素的贪心算法快两个数量级。
2018-11-14 cs.DS
Nonmonontone submodular maximization under routing constraints
在机器学习和大数据中,基于集合覆盖、熵、多样性、影响力、特征选择等的优化目标通常被建模为子模函数。子模块(函数)最大化通常是NP-难的,即使在没有约束的情况下。最近,子模极大化已被成功地研究了目标函数是单调的或约束是计算易处理的设置。然而,最大化具有复杂约束的非单调子模函数还没有得到很好的理解。在本文中,我们考虑了非单调子模最大化的成本预算或可行性约束(特别是从路线规划),一般是NP-难评估。这样的问题在机器学习、大数据和机器人技术中很常见。这个问题是NP难的,最重要的是,它的约束评估也是NP难的,这增加了额外的复杂性。到目前为止,很少有研究致力于提出有效的解决方案,使这个问题目前还不清楚。在本文中,我们首先提出一个迭代的贪心算法,它产生一个近似解。然后,我们开发的证明机制,表明我们的算法是一个双标准的近似算法:它可以实现一个常数因子的最佳算法的近似,同时保持预算严格限制。我们还探讨了实现时间复杂度和超预算之间的权衡的实际考虑。最后,我们对两个具体的例子进行了数值实验,并显示了我们的设计在实际环境中的有效性。
2022-12-12 cs.DS
Algorithms for Approximate Minimization of the Difference Between Submodular Functions, with Applications
University of Washington(华盛顿大学)
我们扩展了Narasimhan和Bilmes [30]的工作,用于最小化可表示为子模函数之间的差异的集函数。与[30]类似,我们的新算法保证在每一步都单调减少目标函数。我们的经验和理论表明,我们的算法的每次迭代成本远低于[30],我们的算法可以用来有效地减少各种组合约束下的子模函数之间的差异,以前没有解决的问题。我们提供了计算界和硬度结果的乘法不可逼近的最小化子模函数之间的差异。然而,我们表明,它是可能的,以提供一个多项式时间计算下限的最小值的最坏情况下的添加剂的界限。最后,我们展示了如何将一些机器学习问题建模为最小化子模块函数之间的差异。我们的实验表明,我们的算法的有效性,通过测试他们的问题上的特征选择与子模块成本功能。
2013-08-24 cs.DS cs.LG
A Tight Bound for Stochastic Submodular Cover
NYU Tandon School of Engineering(纽约大学坦登工程学院);Brooklyn College, City University of New York(纽约城市大学布鲁克林学院);IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
我们证明了Golovin和Krause(2011)的自适应贪婪算法实现了随机子模块覆盖的近似界$(\ln (Q/η)+1)$:这里$Q$是“目标值”,$η$是项目可交付效用的最小非零边际增加。(For整数值效用函数,我们显示了一个界的$H(Q)$,其中$H(Q)$是$Q^{th}$调和数。)虽然Golovin和Krause在他们论文的原始版本中声称了这个界限,但后来Nan和Saligrama(2017)证明了这个证明是不正确的。Golovin和Krause(2017)的后续修正证明给出了$(\ln(Q/η) + 1)^2$的二次界。该问题的其他以前的界限是$56(\ln(Q/η) + 1)$,由Im等人(2016)在相关问题上的工作暗示,以及$k(\ln (Q/η)+1)$,由于Deshpande等人(2016)和Hellerstein和Kletenik(2018),其中$k$是状态数。我们的界推广了著名的$(\ln~m + 1)$近似界的贪婪算法的经典集覆盖问题,其中$m$是地面集的大小。
2021-08-02 cs.AI cs.DS
Decomposable Submodular Function Minimization: Discrete and Continuous
Boston University(波士顿大学);Northeastern University(东北大学);London School of Economics(伦敦政治经济学院)
本文研究了可分解次模函数极小化的离散方法和连续方法之间的联系。我们提供了改进的运行时间估计的最先进的连续算法的问题,使用组合参数。我们还提供了一个系统的实验比较的两种类型的方法,基于0级和1级算法之间的明确区分。
2017-03-06 cs.DS cs.LG
Submodular Combinatorial Information Measures with Applications in Machine Learning
University of Texas at Dallas(德克萨斯大学达拉斯分校);University of Washington(华盛顿大学);Tata Institute of Fundamental Research(塔塔基础研究院)
信息理论中的量,如熵和互信息,在机器学习中有许多用途。众所周知,这些熵量和次模性之间有很强的联系,因为一组随机变量上的熵是次模的。在本文中,我们研究了组合信息的措施,推广的独立性,(条件)熵,(条件)互信息,和总的相关性定义的(不一定是随机的)变量集。这些测度严格地推广了相应的熵测度,因为它们都是通过子模函数参数化的,子模函数本身严格地推广了熵。关键是,我们表明,不同于熵互信息一般,次模互信息实际上是次模的一个参数,持有其他固定的,为一大类次模函数的三阶偏导数满足非负性。这包括一些实际上有用的情况,如设施位置和集合覆盖函数。我们研究具体的子模块信息措施的实例,以及概率覆盖,图形切割,饱和覆盖函数,并看到他们都有数学直观和实用的表达式。关于应用程序,我们连接子模块(条件)互信息的最大化的问题,如基于互信息,基于查询,和隐私保护的总结-我们连接优化多组子模块互信息聚类和强大的分区。
2021-03-02 cs.DS cs.IT cs.LG
Adaptive Submodular Ranking and Routing
University of Michigan(密歇根大学);Bloomberg LP(彭博有限合伙公司)
我们研究了一个一般的随机排名问题,算法需要自适应地选择一个序列的元素,以“覆盖”一个随机的情况下(从一个已知的分布),以最小的预期成本。每个场景的覆盖率由单独的子模块函数捕获,其中当其函数值超过给定阈值时,该场景被称为被覆盖。我们得到一个对数因子近似算法,这是最好的可能(除非P=NP)的自适应排名问题。这个问题统一和推广了许多以前研究的问题,在搜索排名和主动学习的应用。我们的算法的近似比匹配或提高了在这些特殊情况下已知的最佳结果。此外,我们将我们的结果扩展到一个自适应车辆路径问题,其中成本是由一个基本的度量。这个路由问题是一个显着的推广以前研究的自适应旅行推销员和旅行修理工问题。我们的近似比几乎匹配这些特殊情况下已知的最佳界限。最后,我们提出了一些应用程序的自适应排名的实验结果。
2019-02-05 cs.DS cs.LG
Provable Submodular Minimization using Wolfe's Algorithm
由于在大规模学习和视觉问题中的应用,快速次模函数极小化(SFM)已成为一个关键问题。理论上,无约束SFM可以在多项式时间内执行[IFF 2001,IO 2009]。然而,这些算法通常不实用。在1976年,Wolfe提出了一个算法来寻找多面体中的最小欧氏范数点,并且在1980年,Fujishige展示了如何将Wolfe的算法用于SFM。对于一般的次模函数,这种Fujishige-Wolfe最小范数算法似乎具有最好的经验性能。尽管Wolfe最小范数算法具有很好的实际性能,但在理论上却知之甚少。据我们所知,唯一的结果是由于沃尔夫本人的指数时间分析。本文给出了Wolfe算法的一个新的收敛性分析。证明了在$t$迭代中,Wolfe算法返回{ \em any}多面体上最小范数点的$O(1/t)$ -近似解.我们还证明了一个强大的版本Fujishige的定理表明,一个$O(1/n^2)$近似解的最小范数点的基础多面体意味着{ \em精确}次模最小化。作为推论,我们得到了无约束次模函数极小化的Fujishige-Wolfe最小范数算法的第一个伪多项式时间保证。
2014-11-01 cs.DS math.OC
Optimal approximation for unconstrained non-submodular minimization
Massachusetts Institute of Technology(麻省理工学院)
子模函数极小化问题已经得到了很好的研究,现有的算法可以精确地解决它,或者可以达到任意的精度。然而,在许多应用中,例如结构化稀疏学习或批量贝叶斯优化,目标函数不是精确的子模,而是接近的。在这种情况下,不存在理论上的保证。事实上,次模最小化算法依赖于次模性和凸性之间的复杂联系。我们展示了如何将这些关系扩展到最小化非次模函数的近似保证,其特征在于函数是如何接近次模的。我们还将这一结果扩展到噪声函数的评价。我们的近似结果是第一次最小化非次模函数,是最佳的,我们的匹配下界建立。
2022-03-09 cs.DM cs.DS cs.LG
Curvature and Optimal Algorithms for Learning and Minimizing Submodular Functions
University of Washington(华盛顿大学)
我们研究了与机器学习相关的三个重要问题:处处近似子模函数,学习子模函数(在类似PAC的设置中[53]),以及子模函数的约束最小化。我们证明了这三个问题的复杂性取决于次模函数的“曲率”,并提供了改进和改进以前结果的上下界[3,16,18,52]。我们的证明技术相当通用。我们要么使用函数的黑盒变换(用于近似和学习),要么使用适当的代理函数(用于最小化)的算法变换。奇怪的是,已知曲率会影响子模最大化的近似[7,55],但它对最小化,近似和学习的影响迄今为止是开放的。我们完成了这幅图,也支持我们的理论主张的实证结果。
2013-11-08 cs.DM cs.DS cs.LG
On the Complexity of Submodular Function Minimisation on Diamonds
设$(L; \sqcap, \sqcup)$是有限格,$n$是正整数.如果对所有$\tup{a}, \tup{b} \in L^n$都有$f(\tup{a} \sqcap \tup{b}) + f(\tup{a} \sqcup \tup{b}) \leq f(\tup{a}) + f(\tup{b})$,则称函数$f : L^n \to \mathbb{R}$是次模的。本文研究$L$为菱形时的次模函数。给定Oracle对$f$的访问,我们感兴趣的是找到$\tup{x} \in L^n$,使得$f(\tup{x}) = \min_{\tup{y} \in L^n} f(\tup{y})$尽可能高效。我们建立了一个最小-最大定理,该定理指出子模函数的最小值等于定义在某个多面体上的某个函数的最大值;以及极小化问题的一个很好的特征,即,我们表明,给定用于计算子模$f : L^n \to \mathbb{Z}$和整数$m$使得$\min_{\tup{x} \in L^n} f(\tup{x}) = m$的预言,存在可以在$n$和$\max_{\tup{t} \in L^n} \log |f(\tup{t})|$中的时间多项式中验证的该事实的证明;以及用于最小化问题的伪多项式时间算法,即,给定用于计算子模$f : L^n \to \mathbb{Z}$的预言,可以在时间上找到由$n$和$\ma…
2009-04-21 cs.CC cs.DS
Randomized Composable Core-sets for Distributed Submodular Maximization
解决大规模数据集优化问题的一种有效方法是将数据划分为较小的块,在每个块上求解问题并从中计算代表解,最后在所有块的代表解的并集内获得解。这种技术可以通过{ \em可组合核心集}的概念来捕获,并且最近已经被应用于解决多样性最大化问题以及几个聚类问题。然而,对于覆盖和子模最大化问题,不可能性界限是已知的这种技术\cite{IMMM14}。在本文中,我们专注于有效的建设的一个随机变量的可组合的核心集,上述想法是适用于{ \em随机聚类}的数据。我们采用这种技术的覆盖,单调和非单调的子模最大化问题。我们的研究结果显着改善非随机化的核心集的硬度结果,并意味着改善的结果子模块最大化在分布式和流设置。总之,我们表明,一个简单的贪婪算法的结果在一个$1/3$近似随机组合的核心集的子模块最大化的基数约束下。这与(非随机化)可组合核心集的已知$O({\log k\over \sqrt{k}})$不可能性结果形成对比。我们的结果也扩展到非单调子模函数,并导致第一个2轮MapReduce为基础的常数因子近似算法与$O(n)$总通信复杂性的单调或非单调功能。最后,使用改进的分析技术和一个新的算法$\mathsf{PseudoGreedy}$,我们提出了一个改进的$0.545$ -近似算法的单调子模最大化,这又是第一个基于MapReduce的算法击败因子$1/2$在一个恒定的轮数。
2015-06-22 cs.DC cs.DS
An Approximation Algorithm for Monotone Submodular Cost Allocation
Tokyo University of Agriculture and Technology(东京农工大学)
本文提出了一种针对单调子模成本分配问题的近似算法,证明了其整数规划间隙为k/2,并给出了几乎匹配的下界。
2026-09-17 cs.DM cs.DS
On the Convergence Rate of Decomposable Submodular Function Minimization
本文研究了可分解亚模函数最小化算法的收敛速度,通过几何和谱图理论分析,给出了收敛速率的上界和下界。
2014-11-05 cs.DM cs.DS cs.LG
Near-optimal Approximate Discrete and Continuous Submodular Function Minimization
在本文中,我们提供了改进的运行时间和甲骨文的复杂性近似最小化的子模函数。我们的主要结果是一个随机算法,它给出了定义在$n$ -元素上的任意子模函数,其值域为$[-1, 1]$,在$\tilde{O}(n/ε^2)$ oracle求值中以高概率计算出一个$ε$ -可加近似极小元.这改进了Chakrabarty \etal ~(STOC 2017)的$\tilde{O}(n^{5/3}/ε^2)$ oracle评估算法和Hamoudi \etal的$\tilde{O}(n^{3/2}/ε^2)$ oracle评估算法。此外,我们利用这一结果的推广,以获得有效的算法,最小化广泛的一类非凸函数。对于任何功能$f$域$[0, 1]^n$满足$\frac{\partial^2f}{\partial x_i \partial x_j} \le 0$的所有$i \neq j$和$L$ -Lipschitz关于$L^\infty$ -规范,我们给出了一个算法,计算一个$ε$ -加性近似极小值与$\tilde{O}(n \cdot \mathrm{poly}(L/ε))$功能评估与高概率。
2019-08-31 cs.DS math.OC