Continuous DR-submodular Maximization: Structure and Algorithms
ETH Zurich(苏黎世联邦理工学院)
DR-子模连续函数是重要的目标,具有广泛的现实应用,包括决定点过程(DPP)中的MAP推理,以及概率子模模型的平均场推理等。DR-子模块性捕获非凸函数的子类,其使得能够在多项式时间内实现精确最小化和近似最大化。本文研究了一般下闭凸约束下非单调DR-次模连续函数的极大化问题。我们首先调查的几何性质,这些目标的基础,例如,证明了(近似)稳定点与全局最优解之间的强关系。这些属性,然后用来设计两个优化算法与可证明的保证。具体地说,我们首先设计了一个“两阶段”的算法与$1/4$近似保证。该算法允许使用现有的方法来寻找(近似)固定点作为一个子程序,因此,利用非凸优化的最新进展。然后给出了一个具有$1/e$逼近保证和次线性收敛速度的非单调Frank-Wolfe变式。最后,我们将我们的方法扩展到更广泛的一类广义DR-子模连续函数,它捕获了更广泛的应用。我们的理论研究结果验证合成和现实世界的问题实例。
2019-05-24 cs.AI cs.LG stat.ML
Stochastic Submodular Maximization: The Case of Coverage Functions
ETH Zurich(苏黎世联邦理工学院);University of Pennsylvania(宾夕法尼亚大学)
连续目标的随机优化是现代机器学习的核心。然而,许多重要的问题是离散的性质,往往涉及子模块的目标。我们试图释放随机连续优化的力量,即随机梯度下降及其变种,这样的离散问题。我们首先介绍了随机次模块优化问题,其中需要优化的次模块目标,这是作为一个期望。我们的模型捕捉了离散目标作为经验风险出现的情况(例如,在基于样本的聚类的情况下),或者作为显式随机模型给出(例如,在社交网络中影响力最大化的情况下)。通过利用公共扩张线性作用于子模函数类,我们在连续域中采用投影随机梯度上升及其变体,并进行舍入以获得离散解。我们专注于丰富和广泛使用的家庭加权覆盖函数。我们表明,我们的方法产生的解决方案,保证匹配的最佳近似保证,同时减少了几个数量级的计算成本,我们证明经验。
2017-11-05 cs.DM cs.LG stat.ML
Online Non-Monotone DR-submodular Maximization
IBISC;Univ. Evry(埃夫里大学);University Paris-Saclay(巴黎萨克雷大学)
在本文中,我们研究最大化DR-子模连续函数,在机器学习,经济学,运筹学和通信系统领域的实际应用的基本问题。它捕获了非凸优化的一个子类,提供了理论和实践保证。在这里,我们专注于最小化遗憾的在线到达非单调DR-次模函数在不同类型的凸集:超立方体,下闭和一般凸集。首先,我们提出了一个在线算法,实现了$1/e$ -近似比与遗憾的$O(T^{2/3})$最大化DR-子模函数在任何下闭凸集。请注意,$1/e$的近似比与问题的离线版本的最佳保证匹配。此外,当凸集是超立方体时,我们提出了一个紧1/2近似算法,其遗憾界为$O(\sqrt{T})$。接下来,我们给出了一个在线算法,实现了近似保证(取决于搜索空间)的问题,最大化非单调连续DR-次模函数的\emph{general}凸集(不一定下闭)。据我们所知,没有事先的算法与近似保证已知的非单调DR-子模极大化在线设置。最后,我们运行实验来验证我们的算法在机器学习领域与现实世界的数据集出现的问题的性能。
2020-06-23 cs.DS cs.LG stat.ML
Guaranteed Non-convex Optimization: Submodular Maximization over Continuous Domains
ETH Zurich(苏黎世联邦理工学院)
次模连续函数是一类(一般)非凸/非凹函数,具有广泛的应用。我们描述这些功能,并证明他们可以有效地近似保证最大化。具体地说,i)我们引入了弱DR性质,给出了所有集合、整数格和连续函数的次模性的统一刻画; ii)对于一般下闭凸约束下的单调DR-次模连续函数,我们提出了一个具有$(1-1/e)$逼近保证和次线性收敛速度的Frank-Wolfe变式;(3)对于一般非单调子模连续函数的最大化问题,我们提出了一个具有$1/3$逼近保证的DoubleGreedy算法.子模块连续函数自然地找到应用程序在各种现实世界中的设置,包括影响力和收入最大化与连续分配,传感器能源管理,多分辨率数据汇总,设施位置等实验结果表明,所提出的算法有效地产生优越的解决方案相比,基线算法。
2019-05-06 cs.DS cs.LG
Dynamic Non-monotone Submodular Maximization
University of Maryland(马里兰大学);TU Eindhoven(埃因霍温理工大学)
该研究通过将基数约束下非单调子模最大化归约为单调子模最大化,给出首个该问题的动态算法,实现(8+ε)近似,并在真实数据集验证了其在视频摘要等任务中的有效性。
2023-11-07 cs.DS cs.LG
Deletion-Robust Submodular Maximization at Scale
Yale University(耶鲁大学);Google Research(谷歌研究院)
我们能否有效地从用户生成的大型数据集中提取有用的信息,同时保护用户的隐私和/或确保表示的公平性?我们把这个问题作为一个删除鲁棒子模块最大化的实例,其中部分数据可能会被删除,由于隐私问题或公平标准。我们提出了第一个内存高效的集中式,流式和分布式方法,具有恒定因子近似保证,可以防止任何数量的对抗性删除。我们广泛地评估了我们的算法对现有技术在现实世界中的应用,包括(i)位置隐私约束的Uber拾取位置;(ii)收入预测和犯罪率预测的公平约束的特征选择;(iii)对人口普查数据的删除摘要具有鲁棒性,由2,458,285个特征向量组成。
2017-11-21 cs.DS cs.LG
Distributionally Robust Submodular Maximization
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);USC(南加利福尼亚大学)
子模块函数在整个机器学习中都有应用,但在许多设置中,我们无法直接存取底层函数$f$。我们专注于随机函数,给出了一个分布$P$的期望函数。在实践中,我们通常只有来自$P$的有限样本集$f_i$。标准方法通过最大化$f_i$的和来间接优化$f$。然而,这忽略了对真实(未知)分布的泛化。在本文中,我们通过直接优化偏差和方差的组合,在实际的底层函数$f$上实现了更好的性能。在数学上,我们完成了这一点,展示了如何进行分布式鲁棒优化(DRO)的次模函数,提供有效的算法支持的理论保证,利用几个新的贡献DRO的一般理论。我们还展示了令人信服的经验证据,DRO提高了推广到未知的随机次模函数。
2018-06-06 cs.LG math.OC stat.ML
Black Box Submodular Maximization: Discrete and Continuous Settings
Yale Institute for Network Science(耶鲁网络科学研究所);Yale University(耶鲁大学);University of Pennsylvania(宾夕法尼亚大学)
在本文中,我们考虑黑盒连续次模最大化问题,我们只能访问的功能值,没有信息的导数提供。对于单调和连续的DR-子模函数,并受到有界凸体约束,我们提出了黑盒连续贪婪,一个导数免费的算法,可证明实现了紧$[(1-1/e)OPT-ε]$近似保证与$O(d/ε^3)$功能评价。然后,我们将我们的结果扩展到随机设置的函数值受到随机零均值噪声。正是通过这种随机推广,我们重新审视离散次模最大化问题,并使用多线性扩展作为离散和连续设置之间的桥梁。最后,我们广泛评估我们的算法的性能,连续和离散submodular目标函数使用合成和真实数据。
2020-03-01 cs.DS cs.LG math.OC
Using Partial Monotonicity in Submodular Maximization
University of Haifa(海法大学)
在过去的二十年里,次模函数最大化一直是机器学习应用中许多离散优化问题的主力。传统上,子模函数的研究是基于二元函数的性质。然而,这样的属性有一个继承的弱点,即,如果一个算法假设函数具有特定的属性,那么它不会为违反此属性的函数提供保证,即使违反非常轻微。因此,最近的工作开始考虑连续版本的函数属性。其中最重要的(到目前为止)可能是子模比和曲率,它们被广泛地一起和单独研究。集函数的单调性在次模极大化中起着核心作用。然而,尽管有上述所有工作,迄今为止(据我们所知)还没有提出这个属性的连续版本。这是不幸的,因为几乎单调的子模函数经常出现在机器学习应用中。在这项工作中,我们填补了这一空白,定义的单调性比,这是一个连续版本的单调性属性。然后,我们表明,对于许多标准的子模最大化算法,可以证明新的近似保证,依赖于单调性比,从而提高近似比的电影推荐,二次规划和图像摘要的常见机器学习应用。
2022-05-17 cs.DS cs.LG math.OC
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing(西蒙斯理论计算研究所)
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹(也不是凸),并定义在一个期望,我们开发了一个变种的条件梯度法,称为\alg,它实现了\textit{tight}近似保证。更准确地说,对于单调和连续的DR-子模函数和受到\textit{general}凸体约束,我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证(在预期中)与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口,我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
2017-11-05 cs.LG math.OC
Randomized Greedy Learning for Non-monotone Stochastic Submodular Maximization Under Full-bandit Feedback
KAUST(阿卜杜拉国王科技大学);Purdue University(普渡大学);Iowa State University(爱荷华州立大学)
研究了具有完全反馈和随机报酬的无约束组合多臂次模最大化问题。以前的作品调查同样的问题,假设一个子模块和单调的奖励函数。在这项工作中,我们研究了一个更普遍的问题,即,当报酬函数不一定是单调的,并且子模块性仅在期望中被假设时。提出了随机贪婪学习算法(RGL),并从理论上证明了该算法对于水平$T$和臂数$n$都达到了$\frac{1}{2}$ -遗憾上界$\tilde{\mathcal{O}}(n T^{\frac{2}{3}})$.我们还表明,在实验中,RGL经验优于其他充分的强盗变种submodular和nonsubmodular设置。
2023-02-02 cs.AI cs.LG math.OC
Optimal Algorithms for Continuous Non-monotone Submodular and DR-Submodular Maximization
Stanford University(斯坦福大学)
在本文中,我们研究了极大化超立方体上的连续非单调子模函数的基本问题,包括有和没有坐标方向的限制。这类优化问题在机器学习、经济学和通信系统中有几个应用。我们的主要结果是第一个$\frac{1}{2}$ -近似算法连续次模函数最大化,这个近似因子的$\frac{1}{2}$是最好的算法,只查询目标函数在多项式多点。对于DR-次模最大化的特殊情况,即当次模函数沿所有坐标也是坐标方向凹时,我们提供了一个不同的$\frac{1}{2}$ -近似算法,它在准线性时间内运行。这两个结果都改进了先前的工作[Bian et al,2017,Soma and Yoshida,2017]。我们的第一个算法使用了新的想法,如减少保证近似问题,以分析每个坐标的零和游戏,并结合了这个零和游戏的几何形状,以固定在这个坐标的值。我们的第二个算法利用坐标明智的搜索,以确定一个单调的平衡条件足以得到所需的近似保证,并使用二进制搜索的平衡点狩猎。我们进一步运行实验来验证我们提出的算法在相关机器学习应用中的性能。
2018-05-24 cs.DS cs.GT cs.LG
Stochastic Submodular Maximization via Polynomial Estimators
Northeastern University(东北大学)
在本文中,我们研究随机次模最大化问题一般拟阵约束,自然出现在在线学习,团队形成,设施位置,影响力最大化,主动学习和传感目标函数。换句话说,我们专注于最大化子模函数,这些子模函数被定义为具有未知分布的一类子模函数的期望。我们表明,对于这种形式的单调函数,随机连续贪心算法达到的逼近比(在预期中)任意接近$(1-1/e) \approx 63\%$使用多项式估计的梯度。我们认为,使用这个多项式估计,而不是现有技术,使用采样消除了随机性的来源,并通过实验减少了执行时间。
2023-03-17 cs.AI cs.LG math.OC
Robust Adaptive Submodular Maximization
Naveen Jindal School of Management, The University of Texas at Dallas(德克萨斯大学达拉斯分校纳文·金达尔管理学院)
序贯决策问题的目标是设计一个交互式策略,自适应地选择一组项目,每次选择都是基于过去的反馈,以最大化所选项目的期望效用。它已被证明,许多现实世界中的应用程序的效用函数是自适应子模。然而,现有的自适应子模块优化算法的研究大多集中在平均情况下。不幸的是,具有良好平均情况性能的策略在最坏情况实现下可能具有非常差的性能。在这项研究中,我们建议研究两个变种的自适应子模块优化问题,即最坏情况下的自适应子模块最大化和鲁棒子模块最大化。第一个问题的目的是找到一个政策,最大化最坏情况下的效用和后者的目的是找到一个政策,如果有的话,同时实现近最优的平均情况下的效用和最坏情况下的效用。我们引入了一类新的随机函数,称为\emph{worst-case submodular function}。对于$p$系统约束下的最坏情况自适应次模块最大化问题,如果效用函数是最坏情况次模块化的,我们提出了一种自适应最坏情况贪婪策略,该策略可以实现对最优最坏情况效用的$\frac{1}{p+1}$逼近比.对于基数约束下的鲁棒自适应次模最大化问题(分别为分割拟阵约束),如果效用函数是最坏情况下的次模和自适应次模,我们开发了一种混合自适应策略,实现了接近$1-e^{-\frac{1}{2}}$(分别为)的近似。$1/3$)同时在最差情况和平均情况设置下。我们还描述了我们的理论结果的几个应用,包括池为基础的主动学习,随机子模块集覆…
2022-09-12 cs.DS cs.LG math.OC
An Exact Cutting Plane Method for $k$-submodular Function Maximization
子模块性的一个自然而重要的推广-- $k$ -子模块性--适用于具有$k$参数的集函数,并出现在广泛的应用中,如基础设施设计、机器学习和医疗保健。本文研究了具有$k$ -次模目标函数的极大化问题。对任意$k$-次模函数的Hypograph,我们提出了有效的线性不等式,即$k$-次模不等式.这类不等式是著名的次模不等式的一个新的推广。我们表明,最大化的$k$ -次模函数是等价于解决一个混合整数线性规划指数许多$k$ -次模不等式。使用这种表示在一个延迟约束生成框架,我们设计的第一个精确算法,这是不是一个完整的枚举方法,解决一般的$k$ -次模极大化问题。我们的计算实验上的多类型的传感器布局问题证明了我们的算法在约束非线性$k$ -次模最大化问题的效率,没有其他紧凑的混合整数线性配方。计算实验表明,我们的算法显着优于唯一可用的精确解方法--穷举搜索。使用我们的方法,需要13年以上才能解决的问题可以在10分钟内解决。
2021-06-28 math.OC
Distributed Maximization of Submodular and Approximately Submodular Functions
我们研究的问题最大化的次模函数,受到基数约束,与一组代理商在连通图进行通信。我们提出了一个分布式的贪婪算法,允许所有的代理收敛到一个接近最优解的全球最大化问题,只使用本地信息和通信与邻居的图形。近似最优解接近全局最大化问题的最优解的(1-1/e)近似,其附加因子取决于算法中的通信步骤的数量。然后,我们分析所提出的算法的收敛保证。该分析揭示了通信步骤的数量和算法的性能之间的权衡。最后,我们扩展我们的分析nonsubmodular设置,使用近似次模块化的概念。
2020-09-28 cs.MA math.OC
Stronger Approximation Guarantees for Non-Monotone γ-Weakly DR-Submodular Maximization
IIT Indore(印度伊蒂学院);Purdue University(普渡大学)
本文提出了一种基于Frank-Wolfe引导的连续贪心框架和γ意识的双贪心步骤的算法,实现了非单调γ-弱DR-子模函数最大化的更强近似保证。
2026-01-02 cs.AI cs.CC cs.LG
New performance guarantees for the greedy maximization of submodular set functions
我们提出了新的紧性能保证的贪婪最大化的非减子模块集函数。我们的主要结果首先提供了一个性能保证方面的重叠的最佳和贪婪的解决方案。因此,我们改进了Nemhauser,Wolsey和Fisher(1978)以及Conforti和Cornuéjols(1984)关于子集最大化的性能保证,这些子集至少是问题域大小的一半。作为进一步的应用,我们得到了一个新的紧性能保证的问题域的基数。
2015-06-01 math.OC
An Exact Method for Constrained Maximization of the Conditional Value-at-Risk of a Class of Stochastic Submodular Functions
考虑了一类风险厌恶次模最大化问题(RASM),其目标是给定风险水平下随机非减次模函数的条件风险价值(CVaR).我们提出了有效的不等式和精确的一般方法求解RASM的假设下,我们有一个有效的预言计算CVaR的随机函数。我们证明了所提出的方法上的随机集合覆盖问题,承认一个有效的CVaR预言的随机覆盖函数。
2020-04-16 math.OC
Mixed-Integer Programming for a Class of Robust Submodular Maximization Problems
该研究针对两类鲁棒子模最大化问题,利用子模性重构问题并开展多面体研究,提出嵌入子模不等式的延迟割生成框架精确求解,还给出第二类变体的可行解算法及间隙,经供水管网传感器布置真实数据集验证有效。
2023-06-09 math.OC
Randomized Algorithms for Monotone Submodular Function Maximization on the Integer Lattice
University of Padova(帕多瓦大学);Czech Technical University in Prague(布拉格捷克理工大学)
具有集合次模目标函数的优化问题有许多实际应用。在离散的情况下,同一个项目可以被选择一次以上,该域从一个2元集一般化到一个有界整数格。在这篇文章中,我们考虑了基数约束下有界整数格上单调子模函数的最大化问题。特别是,我们专注于最大化DR-子模函数,即,定义在整数格上的函数,这些函数表现出收益递减特性。对于任意的n> 0,我们给出了一个概率保证为O的随机算法(1 - 1/e -ε)近似,使用由Mirzasoleiman等人为集合次模函数开发的随机贪心算法启发的框架。然后,我们表明,在合成DR-次模函数上,将我们提出的算法应用于整数格上比替代方案更快,包括将目标问题简化到集合域,然后应用最快的已知集合子模最大化算法。
2021-11-19 cs.AI cs.DS cs.LG
Guarantees for Greedy Maximization of Non-submodular Functions with Applications
ETH Zurich(苏黎世联邦理工学院)
研究了非次模非减集函数基数约束最大化问题的标准贪心算法的性能。虽然有很强的理论保证贪婪的性能最大化次模函数,有几个保证非次模的。然而,Greedy对于许多重要的非次模函数具有很强的经验性能,例如,实验设计中贝叶斯A-最优性目标。我们证明了支持实证性能的理论保证。我们的保证的特征在于(广义)曲率$α$和子模块比$γ$的组合。特别是,我们证明了贪婪享有紧逼近保证$\frac{1}α(1- e^{-γα})$基数约束最大化。此外,我们绑定的子模块比和曲率的几个重要的现实世界的目标,包括贝叶斯A-最优目标,一个正方形子矩阵的行列式函数和某些线性规划的组合约束。我们的实验验证了我们的理论研究结果的合成和现实世界的应用。
2019-05-14 cs.AI cs.DM cs.DS
Submodular maximization and its generalization through an intersection cut lens
研究了子模极大化问题中的混合整数集$S:=\{(x,t) \in \{0,1\}^n \times \mathbb{R}: f(x) \ge t\}$,其中$f$是定义在$\{0,1\}^n$上的次模函数.我们使用相交切割来收紧$S$的多面体外近似。我们构造了$f$的连续扩张$F$,它是凸的,定义在整个空间$\mathbb{R}^n$上。证明了$F$的上图是一个$S$ -自由集,并刻画了包含该上图的极大$S$ -自由集.本文提出了一种混合离散牛顿算法来高效、准确地计算交线切割。我们的结果被推广到次模-超模函数的下图或上水平集,这是一个离散非凸的模型。这些结果的一个后果是相交切割布尔多线性约束。我们评估我们的技术最大切割,伪布尔最大化,贝叶斯D最优设计的MIP求解器内的问题。
2023-02-27 math.OC
The Power of Subsampling in Submodular Maximization
Yale University(耶鲁大学);Google(谷歌);University of Haifa(海法大学)
我们提出子采样作为一个统一的算法技术,子模块化的最大化在集中和在线设置。这个想法很简单:独立地从基集合中采样元素,并对这些采样元素使用简单的组合技术(例如贪婪或局部搜索)。我们表明,这种方法导致最佳/国家的最先进的结果,尽管比现有的方法简单得多。在通常的离线设置中,我们提出了SampleGreedy,它获得了一个$(p + 2 + o(1))$ -近似最大化的子模函数的$p$ -可扩展系统使用$O(n + nk/p)$评估和可行性查询,其中$k$是最大的可行集的大小。对于单调子模和线性目标,近似比分别提高到$p+1$和$p$。在流设置中,我们提出了SampleStreaming,它获得了一个$(4p +2 - o(1))$ -近似最大化的子模函数的$p$ -matchoid使用$O(k)$内存和$O(km/p)$评估和可行性查询每个元素,其中$m$是定义的$p$ -matchoid拟阵的数量。对于单调子模目标,近似比提高到$4p$。我们经验证明了我们的算法对视频摘要,位置摘要和电影推荐任务的有效性。
2021-04-06 cs.DS cs.LG math.OC
A Simple Bound for Resilient Submodular Maximization with Curvature
弹性次模最大化是指Nemhauser和Fisher研究的组合问题,并询问如何最大化给定数量的对抗性移除的目标。例如,该问题的一个应用是具有对抗性攻击的多机器人传感器规划。然而,子模最大化的更一般的应用也是相关的。Tzoumas等人通过利用称为曲率的性质来产生一种机制,该机制使得某些诱饵元素与通过典型贪婪手段产生的解决方案的其他元素可互换,从而获得该问题的接近最优的解决方案。该文献证明-至少在理论上-将用于选择诱饵元素的方法应用于整个溶液可以提高对溶液质量的保证。
2021-05-11 cs.SY eess.SY math.OC
Submodular Maximization under the Intersection of Matroid and Knapsack Constraints
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室)
针对现实中多约束下的子模最大化问题,本文提出融合部分枚举与同步贪心的SPROUT算法,获更优多项式近似保证,进一步优化得到的SPROUT++在电影推荐等任务中表现更优。
2023-07-18 cs.DS cs.LG math.OC
On maximizing a monotone k-submodular function subject to a matroid constraint
$k$ -次模函数是次模函数的扩展,因为其输入由$k$不相交子集而不是单个子集给出。对于无约束的非负$k$ -次模极大化问题,Ward和Yakiivnikov提出了一个常数因子近似算法,Iwata,Tanigawa和Yoshida最近提出了一个$1/2$ -近似算法。Iwata等人也给出了单调$k$ -次模最大化的一个$k/(2k-1)$ -近似算法,并证明了它的近似比是渐近紧的.最近,Ohnik和Yoshida提出了单调$k$的常数因子算法-具有几个大小约束的子模最大化。然而,虽然子模最大化与各种约束已被广泛研究,没有近似算法已开发的约束$k$ -子模最大化,除了大小约束的情况下。在本文中,我们证明了一个贪心算法输出的$1/2$ -近似解单调$k$ -子模极大化与拟阵约束。该算法在$O(M|E|(\text{MO} + k\text{EO}))$时间内运行,其中$M$是极大最优解的大小,$|E|$是基集的大小,$\text{MO}, \text{EO}$分别表示拟阵的成员预言和$k$ -子模函数的求值预言的时间.
2016-08-22 cs.DM cs.DS math.OC
Non-Smooth, Hölder-Smooth, and Robust Submodular Maximization
本文研究非光滑连续 DR-子模最大化,分别用连续贪心与 mirror-prox 给出 Hölder 光滑和非光滑情形的近似保证,并应用于鲁棒及 Wasserstein 分布鲁棒优化。
2023-09-28 cs.DS math.OC
Dec-BFTRL: Squre-Root Regret for Decentralized Online Upper-Linearizable Optimization under Separation Access with Application to Continuous Submodular Maximization
Purdue University(普渡大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)
本文提出Dec-BFTRL算法,用于分离访问下分散式在线上线性化优化,实现平方根遗憾,并应用于连续子模最大化。
2026-10-01 cs.AI cs.LG math.OC
Fairness in Submodular Maximization over a Matroid Constraint
Samsung - SAIT AI Lab(三星-三星先进技术研究院人工智能实验室);Microsoft Research(微软研究院);Google(谷歌);Stanford University(斯坦福大学)
本文针对拟阵约束下的子模最大化问题,提出多种算法和不可能性结果,在质量、公平性和通用性之间提供权衡,填补了非流式设置及非单调目标的空白。
2023-12-21 cs.CY cs.DM cs.DS
Multi-Agent Maximization of a Monotone Submodular Function via Maximum Consensus
约束子模集函数最大化问题经常出现在可行集离散的多智能体决策问题中。一个突出的例子是多代理移动传感器放置在一个离散域的问题。然而,子模集函数最优化问题是NP-难的。在本文中,我们考虑了一类次模最优化问题,其中包括最大化的单调和次模集函数的一致拟阵约束下的一组网络代理,通信连接的无向图。我们的目标是获得一个分布式的次优多项式时间算法,使每个代理,以获得其各自的政策,通过本地与邻近的代理。我们的解决方案是一个完全分布式的基于梯度的算法,使用多线性扩展的子模块集函数,并利用最大的共识计划。该算法的结果是,当团队目标函数在最坏情况下评估时,目标函数值在最优解的$1-1/e-O(1/T)$中。一个例子证明了我们的结果。
2020-11-30 cs.DC cs.SY eess.SY
The Power of Randomization: Efficient and Effective Algorithms for Constrained Submodular Maximization
子模块优化有许多应用,如众包和病毒式营销。本文研究了$k$ -系统约束下非负次模函数最大化的基本问题,该约束推广了次模优化中的基数约束、拟阵约束和$k$ -可扩系统约束.针对这个问题的现有方法基于确定性算法框架实现了$k+2\sqrt{k+2}+3$(对于一般子模块函数)的最佳近似比。我们提出了几个随机算法,提高了国家的最先进的算法的近似比和时间复杂度,无论是在非自适应设置和自适应设置。在数据采掘和社会计算的几个应用程序中,我们的算法的经验性能进行了广泛的评估,实验结果表明,我们的算法在实用性和效率方面的优势。
2021-06-15 cs.DS math.OC
Distributed Strategy Selection: A Submodular Set Function Maximization Approach
约束子模集函数最大化问题经常出现在可行集离散的多智能体决策问题中。一个突出的例子是多代理移动传感器放置在一个离散域的问题。然而,子模集函数最优化问题是NP难问题。研究了一类次模最优化问题,该问题是指在一个连通的无向图上通信的一组网络代理上,满足一致拟阵约束的单调次模集函数的最大化问题.我们在值预言模型中工作,其中代理对效用函数的唯一访问是通过返回效用函数值的黑盒。我们提出了一个分布式的次优多项式时间算法,使每个代理,以获得其各自的战略,通过与邻近的代理的本地交互。我们的解决方案是一个完全分布式的基于梯度的算法,使用子模块集函数的多线性扩展,然后是一个分布式的随机Pipage舍入过程。该算法得到的策略集是:当团队效用函数在最坏情况下被评估时,效用函数值在最优解的1/c(1-e^(-c)-O(1/T))内,c为次模函数的曲率。一个例子证明了我们的结果。
2021-07-29 cs.DC math.OC
Batch greedy maximization of non-submodular functions: Guarantees and applications to experimental design
Massachusetts Institute of Technology(麻省理工学院)
提出并分析了非子模非减集函数基数约束最大化问题的批量贪婪算法。我们考虑标准的贪婪范式,以及它的分布式贪婪和随机贪婪的变种。我们的理论保证的特点是子模块化和超模块化比率的组合。我们认为,这些参数如何定义紧模块化边界的增量增益的基础上,并提供了一种新的重新解释的经典贪婪算法使用minorize-maximum(MM)的原则。基于这种类比,我们提出了一类新的方法,利用任何合理的模块化界限。在线性贝叶斯逆问题的最优试验设计中,当目标函数是基于互信息时,我们定义了子模块度和超模块度的比值.我们还开发了新的模块化界限的互信息在这种情况下,并描述了某些连接到多面体组合。我们讨论如何使用这些模块化的界限算法与建立的统计概念,如杠杆分数和最近的努力,如体积采样。我们展示了我们的理论研究结果的合成问题和现实世界的气候监测的例子。
2021-08-10 cs.DM cs.DS cs.LG
Adaptive Maximization of Pointwise Submodular Functions With Budget Constraint
University of Cambridge(剑桥大学);Georgia Institute of Technology(佐治亚理工学院)
我们研究了预算约束下的最坏情况自适应优化问题,该问题可用于人工智能和机器学习中的各种实际应用建模。我们调查的近最优性的贪心算法这个问题的模块化和非模块化的成本函数。在这两种情况下,我们证明了两个简单的贪心算法不是近最优的,但他们之间的最好的是近最优的,如果效用函数满足逐点子模块和逐点成本敏感子模块分别。这意味着相对于使用一半预算的最优算法而言接近最优的组合算法。我们讨论我们的理论结果的应用,并报告实验比较贪心算法的主动学习问题。
2017-05-22 cs.AI cs.DM math.OC
Performance guarantees for greedy maximization of non-submodular controllability metrics
University of Texas at Dallas(德克萨斯大学达拉斯分校);ETH Zürich(苏黎世联邦理工学院)
本文研究了非子模可控性度量的贪心最大化问题,提出通过子模性比率和曲率来获得性能保证,以改进复杂网络的信息与控制拓扑设计。
2018-11-19 cs.SY eess.SY math.OC
ResQue Greedy: Rewiring Sequential Greedy for Improved Submodular Maximization
针对基数约束下的子模最大化问题,提出融合集合曲率度量的ResQue Greedy算法,通过曲率感知重构策略修正标准序列贪心的次优决策,在不显著提升复杂度的情况下获得更紧的近似最优界。
2025-05-19 cs.DM cs.DS math.OC
Decentralized Submodular Maximization: Bridging Discrete and Continuous Settings
在本文中,我们展示了网络结构设置中离散和连续优化之间的相互作用。我们提出了第一个完全分散的最优化方法的广泛的一类非凸目标函数,具有收益递减属性。更具体地说,给定一个任意连接的网络和一个全球连续的次模函数,形成了一个本地功能的总和,我们开发分散连续贪婪(DCG),消息传递算法,收敛到紧(1-1/e)的近似因子的最佳全球解决方案,只使用本地计算和通信。我们还提供了强大的收敛界作为一个函数的网络规模和频谱特征的基础拓扑结构。有趣的是,DCG很容易通过连续松弛的方式为分散的离散子模最大化提供了一个简单的方法。形式上,我们证明,通过提升局部离散函数的连续域和使用DCG作为接口,我们可以开发一个共识算法,也实现了紧(1-1/e)近似保证的全球离散解决方案,一旦适当的舍入方案。
2018-02-11 math.OC
A Spatial Branch-and-Bound Approach for Maximization of Non-Factorable Monotone Continuous Submodular Functions
与许多假设目标函数和约束条件是可分解的连续全局最优化方法不同,我们研究了如何找到不可分解问题的全局最大解,重点是一类特定的问题。具体来说,我们开发了一种方法,非减连续次模函数的约束。我们的特点,这些功能的hypograph和开发一个切割平面算法,发现近似解和边界使用的hypograph的凸包的近似。我们还测试了一个空间分支定界的方法,利用近似切割平面算法形成一个外近似,并获得子矩形的上界,并比较我们的方法与最先进的商业求解器。主要结果是,对于某些问题,子模性比可因式分解性更有用。
2022-08-29 math.OC
Distributed Online Submodular Maximization under Communication Delays: A Simultaneous Decision-Making Approach
University of Michigan(密歇根大学)
本文提出分布式在线贪心算法DOG,解决通信延迟下的子模优化问题,通过结合对抗性带宽学习与延迟反馈,在任意网络拓扑中实现同时决策,分析协调性能与收敛时间的权衡。
2026-08-14 cs.LG cs.MA cs.SY
Deterministic Algorithm for Non-monotone Submodular Maximization under Matroid and Knapsack Constraints
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出确定性算法,在Matroid和Knapsack约束下最大化非单调子模函数,分别达到0.385-ε和0.367-ε的近似比,优于现有结果。
2026-03-16 cs.CC cs.DS math.OC
Robust Monotone Submodular Function Maximization
我们考虑了Krause等人(2008)提出的经典基数约束单调次模函数最大化问题的鲁棒公式,并给出了第一常数因子逼近结果.考虑的稳健性为w.r.t.对抗性地从所选集合中移除最多$τ$元素。对于$τ=1$的基本情况,我们给出了一个确定性的$(1-1/e)-1/Θ(m)$近似算法,其中$m$是一个输入参数和查询的数量规模为$O(n^{m+1})$。在这个过程中,我们开发了一个确定性的$(1-1/e)-1/Θ(m)$近似贪婪算法的双目标最大化的(两个)单调子模函数。推广这些想法并使用Chekuri等人(2010)的结果,我们展示了常数$τ$和$ε\leq \frac{1}{\tildeΩ(τ)}$的随机$(1-1/e)-ε$近似,进行$O(n^{1/ε^3})$查询。进一步,对于$τ\ll \sqrt{k}$,我们给出了一个快速实用的0.387算法.最后,我们还给出了一个黑盒结果的更一般的设置鲁棒最大化的独立系统。
2017-11-15 cs.DM cs.DS math.OC
Submodular Maximization with Limited Function Access
我们考虑一类子模极大化问题,其中决策者对目标函数的访问是有限的。我们探讨的情况下,决策者只能观察成对的信息,即,可以在大小为2的集合上评估目标函数。我们从一个否定的结果开始,即没有一个算法只使用$k$明智的信息可以保证性能优于$k/n$。我们提出了两个算法,利用只成对的信息的功能和表征其性能相对于最佳的,这取决于曲率的次模函数。此外,如果子模函数具有称为条件超模块性的性质,那么我们可以提供一种方法来限制纯粹基于成对信息的性能。所提出的算法提供了显着的计算加速比传统的贪婪策略。我们研究的副产品是引入两个新的曲率概念,$k$ -边缘曲率和$k$ -基数曲率。最后,我们提出的实验突出我们提出的算法的性能方面的近似和时间复杂度。
2022-02-07 cs.DS cs.SY eess.SY
Unified greedy approximability beyond submodular maximization
We consider classes of objective functions of cardinality constrained maximization problems for which the greedy algorithm guarantees a constant approximation. We propose the new class of $γ$ - $α$ -augmentable functions and prove that it encompasses several important subclasses, such as functions of bounded submodularity ratio, $α$ -augmentable functions, and weighted rank functions of an independence system of bounded rank quotient - as well as additional objective functions for which the greedy algorithm yields an approximation. For this general class of functions, we show a tight bound of …
2022-10-04 cs.DM math.OC