Online Two-Stage Submodular Maximization
Boston University（波士顿大学）；EPFL（苏黎世联邦理工学院）；Northeastern University（东北大学）
针对在线两阶段子模最大化问题，提出算法在一般拟阵和均匀拟阵下分别达到亚线性遗憾界，并在真实数据上验证性能。
2025-10-22 cs.DS cs.LG
Differentiable Greedy Submodular Maximization: Guarantees, Gradient Estimators, and Applications
Graduate School of Information Sciences and Technology（信息科学与技术研究生院）；The University of Tokyo（东京大学）
例如，随着灵敏度分析和端到端学习的发展，对可微优化算法的需求显著增加。在本文中，我们建立了一个理论上有保证的通用框架，使单调子模函数最大化的贪心算法可微。我们通过随机化对贪心算法进行了光滑化，并证明了在基数和$κ$ -可扩展系统约束的情况下，它几乎可以在期望中恢复原始的近似保证。我们还展示了如何有效地计算任何预期的输出相关量的无偏梯度估计。我们证明了我们的框架的实用性，通过实例化它的各种应用程序。
2020-06-12 cs.DS cs.LG
Guaranteed Non-convex Optimization: Submodular Maximization over Continuous Domains
ETH Zurich（苏黎世联邦理工学院）
次模连续函数是一类（一般）非凸/非凹函数，具有广泛的应用。我们描述这些功能，并证明他们可以有效地近似保证最大化。具体地说，i）我们引入了弱DR性质，给出了所有集合、整数格和连续函数的次模性的统一刻画; ii）对于一般下闭凸约束下的单调DR-次模连续函数，我们提出了一个具有$(1-1/e)$逼近保证和次线性收敛速度的Frank-Wolfe变式;（3）对于一般非单调子模连续函数的最大化问题，我们提出了一个具有$1/3$逼近保证的DoubleGreedy算法.子模块连续函数自然地找到应用程序在各种现实世界中的设置，包括影响力和收入最大化与连续分配，传感器能源管理，多分辨率数据汇总，设施位置等实验结果表明，所提出的算法有效地产生优越的解决方案相比，基线算法。
2019-05-06 cs.DS cs.LG
A Parallel Double Greedy Algorithm for Submodular Maximization
Boston University（波士顿大学）；Northeastern University（东北大学）
研究了极大化非负次模函数问题的并行算法。我们的主要结果是一个算法，实现了接近最佳的$1/2 -ε$近似使用$O(\log(1/ε) / ε)$并行轮的功能评估。我们的算法是基于一个连续的双贪心算法的Buchbinder等人。实现最佳的$1/2$近似的顺序设置。我们的算法更普遍地适用于最大化连续递减收益（DR）函数的问题。
2018-12-04 cs.DS cs.LG
Fairness in Streaming Submodular Maximization: Algorithms and Hardness
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Google Zurich（谷歌苏黎世）；EPFL（洛桑联邦理工学院）；Microsoft Research（微软研究院）
子模块最大化已成为选择具有代表性和多样性的数据摘要的任务的选择方法。然而，如果数据点具有敏感的属性，如性别或年龄，这种机器学习算法，如果不加以检查，就会表现出偏见：特定群体的代表性不足或过度。这使得公平的机器学习算法的设计变得越来越重要。在这项工作中，我们解决了一个问题：是否有可能为大规模数据集创建公平的摘要？为此，我们开发的第一个流近似算法子模最大化公平性约束下，单调和非单调函数。我们在基于范例的聚类、电影推荐、基于DPP的摘要和社交网络中的最大覆盖率方面实证验证了我们的发现，表明公平性约束不会显着影响效用。
2020-10-18 cs.DS cs.LG
Practical Parallel Algorithms for Non-Monotone Submodular Maximization
School of Computer Science and Technology（计算机科学与技术学院）；Soochow University（苏州大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；Alibaba Group（阿里巴巴集团）；Qingdao University of Science and Technology（青岛科技大学）
针对背包与 k-系统约束下的非单调子模最大化，论文提出低自适应复杂度的并行组合算法，给出可证明近似保证并经实验验证有效。
2024-12-03 cs.DS cs.LG
Streaming Algorithms for News and Scientific Literature Recommendation: Submodular Maximization with a d-Knapsack Constraint
Texas A&M University（德克萨斯A&M大学）
次模极大化问题属于组合优化问题族，有着广泛的应用。在本文中，我们专注于最大化单调子模函数的问题受到$d$ -背包约束，为此，我们提出了一个流算法，实现了$\left(\frac{1}{1+2d}-ε\right)$ -近似的最优值，而它只需要一个单一的通过数据集，而不存储在内存中的所有数据。在我们的实验中，我们广泛评估我们提出的算法的有效性，通过两个应用程序：新闻推荐和科学文献推荐。据观察，所提出的流算法实现了执行加速和内存节省了几个数量级，与现有的方法相比。
2016-07-05 cs.DS cs.LG
Dynamic Non-monotone Submodular Maximization
University of Maryland（马里兰大学）；TU Eindhoven（埃因霍温理工大学）
该研究通过将基数约束下非单调子模最大化归约为单调子模最大化，给出首个该问题的动态算法，实现(8+ε)近似，并在真实数据集验证了其在视频摘要等任务中的有效性。
2023-11-07 cs.DS cs.LG
Balancing Utility and Fairness in Submodular Maximization (Technical Report)
East China Normal University（华东师范大学）；Singapore Management University（新加坡管理大学）；CENTAI Institute（CENTAI研究所）；Eurecat（Eurecat技术中心）
针对子模最大化中效用与公平性难以兼顾的问题，提出双准则子模最大化（BSM）问题，并设计两种实例相关近似算法，在最大覆盖、影响力最大化和设施选址中验证了有效性。
2023-06-19 cs.DS cs.LG
Fairness in Monotone $k$-submodular Maximization: Algorithms and Applications
Iowa State University（爱荷华州立大学）
本文首次将公平性引入单调 $k$-子模最大化，提出贪心与阈值算法，分别实现 $\frac{1}{3}$ 和 $(\frac{1}{3}-ε)$ 近似，并通过案例验证公平约束对解质量影响甚微。
2024-11-08 cs.DS cs.LG
Online and Streaming Algorithms for Constrained $k$-Submodular Maximization
Boston University（波士顿大学）；Northeastern University（东北大学）
本文针对基数约束和背包约束下的单调与非单调 k-子模最大化问题，提出了具有常数因子近似保证的单遍流式和在线组合算法，在近似比、空间和运行时间上均达到最优，并在广告分配等应用中验证了其高效性和可扩展性。
2023-05-25 cs.DS cs.LG
Deletion-Robust Submodular Maximization at Scale
Yale University（耶鲁大学）；Google Research（谷歌研究院）
我们能否有效地从用户生成的大型数据集中提取有用的信息，同时保护用户的隐私和/或确保表示的公平性？我们把这个问题作为一个删除鲁棒子模块最大化的实例，其中部分数据可能会被删除，由于隐私问题或公平标准。我们提出了第一个内存高效的集中式，流式和分布式方法，具有恒定因子近似保证，可以防止任何数量的对抗性删除。我们广泛地评估了我们的算法对现有技术在现实世界中的应用，包括（i）位置隐私约束的Uber拾取位置;（ii）收入预测和犯罪率预测的公平约束的特征选择;（iii）对人口普查数据的删除摘要具有鲁棒性，由2，458，285个特征向量组成。
2017-11-21 cs.DS cs.LG
Do Less, Get More: Streaming Submodular Maximization with Subsampling
Open University of Israel（以色列开放大学）；Yale University（耶鲁大学）
在本文中，我们开发了第一个单程流算法子模块最大化，不评估整个流，甚至一次。通过仔细地对数据流的每个元素进行子采样，我们的算法在各种设置中享有最严格的近似保证，同时具有最小的内存占用和最少的函数求值次数。更具体地说，对于单调子模函数和$p$ -拟阵约束，我们的随机算法实现了$4p$近似比（预期）与$O(k)$内存和每个元素的$O(km/p)$查询（$k$是最大可行解的大小和$m$是用于定义约束的拟阵的数量）。对于非单调的情况下，我们的近似比仅略微增加到$4p+2-o(1)$。据我们所知，我们的算法是第一个以一种新颖的方式结合流和子采样的优点，以便真正将子模块最大化扩展到大规模机器学习问题。为了展示其实用性，我们经验性地评估了我们的算法在视频摘要应用程序上的性能，并观察到它比最先进的算法性能高出50倍，同时保持几乎相同的实用性。
2018-02-20 cs.DS cs.LG
Differentially Private Decomposable Submodular Maximization
Khoury College of Computer Sciences, Northeastern University（东北大学胡里计算机科学学院）
研究了可分解子模函数的微分私有约束最大化问题。一个子模函数是可分解的，如果它采取子模函数之和的形式。在基数约束下最大化单调可分解子模函数的特殊情况被称为组合公共项目（CPP）问题[Papadimitriou等人，2008年]。Gupta等人的先前工作。[2010]给出了CPP问题的差分私有算法。我们扩展这项工作的设计差分私人算法的单调和非单调可分解的子模最大化一般拟阵的约束下，具有竞争力的效用保证。我们补充我们的理论界限与实验证明经验的性能，这提高了在一般情况下的子模块最大化的差分私有算法，并接近非私有算法的性能。
2020-05-29 cs.CR cs.DS cs.LG
Instance Specific Approximations for Submodular Maximization
Columbia University（哥伦比亚大学）；Harvard University（哈佛大学）
对于机器学习中的许多优化问题，找到最优解在计算上是困难的，我们寻求在实践中表现良好的算法。由于计算的棘手性往往导致病态的情况下，我们寻找的方法来基准的算法对现实世界中的实例的最佳解决方案的性能。主要的挑战是，对于棘手的问题，无法有效地计算出最优解，因此我们通常不知道解决方案离最优解有多远。因此，一个主要的问题是如何衡量一个算法的性能相比，我们在实践中遇到的情况下的最佳解决方案。在本文中，我们解决这个问题的上下文中的子模块优化问题。对于基数约束下的次模最大化的规范问题，很难计算出比最优解的$1-1/e \approx 0.63$分数更好的解。像著名的贪心算法这样的算法保证在任何实例上都能达到这个$1-1/e$界限，并在实践中使用。我们的主要贡献是不是一个新的算法submodular最大化，但分析方法，衡量如何接近submodular最大化算法是最优的一个给定的问题实例。我们使用这种方法表明，在各种各样的现实世界的数据集和目标，贪婪找到的解决方案的近似远远超过$1-1/e$，往往是至少0.95。我们开发这种方法使用一种新的技术，下界的目标的对偶最小化问题，以获得一个最优解的原始最大化问题的值的上限。
2021-02-23 cs.DS cs.LG
Group Fairness in Non-monotone Submodular Maximization
University of North Texas（北德克萨斯大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
最大化子模函数在机器学习和数据采掘中有着广泛的应用。一个这样的应用程序是数据汇总，其目标是从一个大的数据集中选择一小组有代表性的和不同的数据项。但是，数据项可能具有敏感属性，如种族或性别，在这种情况下，设计\emph{fairness-aware}算法以减轻可能导致特定组的过度或不足表示的潜在算法偏见非常重要。受此启发，我们提出并研究了经典的非单调子模最大化问题，新的组公平性约束。我们的目标是选择一组最大化非单调子模块函数的项目，同时确保从每个组中选择的项目的数量与其大小成比例，到决策者指定的程度。我们开发了第一个常数因子的近似算法为这个问题。我们还扩展了基本模型，将一个额外的全局大小约束的选定项目的总数。
2023-03-09 cs.DS cs.LG
Non-monotone Sequential Submodular Maximization
Naveen Jindal School of Management, The University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金德尔管理学院）；Department of Computer Science and Engineering, The University of North Texas（北得克萨斯大学计算机科学与工程系）
本文率先研究非单调子模函数下的序列子模最大化问题，针对不同长度约束及效用函数相同的特殊情况给出有效解法，经视频推荐场景验证有效，可为推荐系统等领域提供参考。
2023-12-12 cs.DS cs.LG
Fast algorithms for k-submodular maximization subject to a matroid constraint
Shandong Normal University（山东师范大学）
本文提出阈值递减算法，在拟阵约束下最大化k-子模函数，以较小近似比损失降低查询复杂度，分别给出单调与非单调情形的近似算法及复杂度分析，并推广到总规模约束。
2023-07-26 cs.DS cs.LG
Robust Adaptive Submodular Maximization
Naveen Jindal School of Management, The University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）
序贯决策问题的目标是设计一个交互式策略，自适应地选择一组项目，每次选择都是基于过去的反馈，以最大化所选项目的期望效用。它已被证明，许多现实世界中的应用程序的效用函数是自适应子模。然而，现有的自适应子模块优化算法的研究大多集中在平均情况下。不幸的是，具有良好平均情况性能的策略在最坏情况实现下可能具有非常差的性能。在这项研究中，我们建议研究两个变种的自适应子模块优化问题，即最坏情况下的自适应子模块最大化和鲁棒子模块最大化。第一个问题的目的是找到一个政策，最大化最坏情况下的效用和后者的目的是找到一个政策，如果有的话，同时实现近最优的平均情况下的效用和最坏情况下的效用。我们引入了一类新的随机函数，称为\emph{worst-case submodular function}。对于$p$系统约束下的最坏情况自适应次模块最大化问题，如果效用函数是最坏情况次模块化的，我们提出了一种自适应最坏情况贪婪策略，该策略可以实现对最优最坏情况效用的$\frac{1}{p+1}$逼近比.对于基数约束下的鲁棒自适应次模最大化问题（分别为分割拟阵约束），如果效用函数是最坏情况下的次模和自适应次模，我们开发了一种混合自适应策略，实现了接近$1-e^{-\frac{1}{2}}$（分别为）的近似。$1/3$）同时在最差情况和平均情况设置下。我们还描述了我们的理论结果的几个应用，包括池为基础的主动学习，随机子模块集覆…
2022-09-12 cs.DS cs.LG math.OC
Efficient algorithms for robust submodular maximization under matroid constraints
Georgia Institute of Technology（佐治亚理工学院）
在这项工作中，我们考虑鲁棒次模最大化与拟阵约束。我们给出了一个有效的双准则近似算法，输出一个小家庭的可行集，其工会有（近）最佳的目标值。该算法理论上执行的函数调用比以前的作品在成本上添加更多的元素到最终的解决方案。我们还提供了显着的实现改进，表明我们的算法优于现有文献中的算法。最后，我们评估我们的贡献在三个现实世界中的应用程序的性能。
2018-07-25 cs.DM cs.DS cs.LG
Continuous Submodular Function Maximization
Tencent AI Lab（腾讯人工智能实验室）；ETH Zurich（苏黎世联邦理工学院）
连续次模函数是一类具有广泛应用的非凸/非凹函数。这类函数的著名性质-连续子模性-使精确最小化和近似最大化在多。时间连续子模是将子模的概念从离散域推广到连续域而得到的。它直观地捕捉到定义的多元函数的不同维度之间的排斥效应。本文系统地研究了连续次模性和一类非凸优化问题：连续次模函数极大化问题。我们开始由连续次模函数类的一个彻底的特征，并表明，连续次模等价于一个弱版本的收益递减（DR）属性。因此，我们还得到了一个子类的连续次模函数，称为连续DR-次模函数，它享有充分的DR性质。然后，我们提出的操作，保持连续（DR-）子模块，从而产生一般规则组成新的子模块功能。我们建立有趣的属性约束DR-子模极大化问题，如局部-全局关系。我们确定了几个应用程序的连续子模块优化，从影响力最大化，MAP推理的DPP可证明的平均场推理。对于这些应用程序，连续子模块化形式化有价值的领域知识优化这一类的目标。我们提出了两个问题的设置：约束单调DR-子模最大化和约束非单调DR-子模最大化的不可逼近的结果和可证明的算法。最后，我们广泛评估所提出的算法的有效性。
2020-06-24 cs.LG stat.ML
Data Summarization beyond Monotonicity: Non-monotone Two-Stage Submodular Maximization
Naveen Jindal School of Management, The University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）
针对两阶段子模最大化中现有方法依赖单调性假设的局限，本文将其扩展到非单调子模函数，并提出首批常数因子近似算法。
2023-11-02 cs.AI cs.DS cs.LG
Fast and Private Submodular and $k$-Submodular Functions Maximization with Matroid Constraints
Simon Fraser University（西蒙菲莎大学）；National Institute of Informatics（信息科学研究所）
在过去的十年中，极大化非负单调次模函数的问题得到了广泛的研究，并提出了一系列有效的近似算法。许多机器学习问题，包括数据摘要和影响力最大化，可以很自然地建模为最大化单调子模函数的问题。然而，当此类应用程序涉及有关个人的敏感数据时，应解决其隐私问题。本文在差分隐私框架下研究了拟阵约束下的单调次模函数的最大化问题。我们提供了$(1-\frac{1}{\mathrm{e}})$ -近似算法，它改进了以前的结果在近似保证。在我们的算法中，这几乎是用立方数量的函数求值来完成的。此外，我们研究了$k$ -子模块性，子模块性的一个自然推广。我们给第一个$\frac{1}{2}$近似算法，保持差分隐私最大化单调$k$ -子模函数拟阵约束。近似比是渐近紧的，并获得了几乎线性数量的功能评估。
2020-06-28 cs.CR cs.DM cs.DS
Optimization of Chance-Constrained Submodular Functions
Association for the Advancement of Artificial Intelligence（美国人工智能协会）；École Polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）；Sorbonne Université（索邦大学）；The University of Adelaide（阿德莱德大学）；University of Minnesota Duluth（明尼苏达大学德卢斯分校）
子模优化在许多实际问题中起着关键作用。在许多现实世界的场景中，还需要处理不确定性，并且需要避免违反随机设置中的约束的潜在破坏性事件。本文研究了带机会约束的次模优化问题。我们提供了第一次分析的近似行为流行的贪心算法的机会约束的次模块化问题。我们的研究结果表明，这些算法是非常有效的，当使用代理函数，估计约束违反的基础上的bounds。此外，我们调查流行的社会网络问题的算法的行为，并表明，高质量的解决方案仍然可以获得，即使有很强的限制所施加的机会约束。
2019-11-26 cs.LG math.OC
Scalable Distributed Algorithms for Size-Constrained Submodular Maximization in the MapReduce and Adaptive Complexity Models
Texas A&M University（德克萨斯农工大学）；Florida State University（佛罗里达州立大学）
该研究针对规模约束单调子模最大化问题，证明多类亚自适应算法满足MapReduce模型的一致性要求，提出首个线性查询复杂度的分布式算法，并给出提升MR算法最大基数约束的方法。
2024-09-16 cs.DC cs.DS cs.LG
Black Box Submodular Maximization: Discrete and Continuous Settings
Yale Institute for Network Science（耶鲁网络科学研究所）；Yale University（耶鲁大学）；University of Pennsylvania（宾夕法尼亚大学）
在本文中，我们考虑黑盒连续次模最大化问题，我们只能访问的功能值，没有信息的导数提供。对于单调和连续的DR-子模函数，并受到有界凸体约束，我们提出了黑盒连续贪婪，一个导数免费的算法，可证明实现了紧$[(1-1/e)OPT-ε]$近似保证与$O(d/ε^3)$功能评价。然后，我们将我们的结果扩展到随机设置的函数值受到随机零均值噪声。正是通过这种随机推广，我们重新审视离散次模最大化问题，并使用多线性扩展作为离散和连续设置之间的桥梁。最后，我们广泛评估我们的算法的性能，连续和离散submodular目标函数使用合成和真实数据。
2020-03-01 cs.DS cs.LG math.OC
Randomized Algorithms for Monotone Submodular Function Maximization on the Integer Lattice
University of Padova（帕多瓦大学）；Czech Technical University in Prague（布拉格捷克理工大学）
具有集合次模目标函数的优化问题有许多实际应用。在离散的情况下，同一个项目可以被选择一次以上，该域从一个2元集一般化到一个有界整数格。在这篇文章中，我们考虑了基数约束下有界整数格上单调子模函数的最大化问题。特别是，我们专注于最大化DR-子模函数，即，定义在整数格上的函数，这些函数表现出收益递减特性。对于任意的n> 0，我们给出了一个概率保证为O的随机算法（1 - 1/e -ε）近似，使用由Mirzasoleiman等人为集合次模函数开发的随机贪心算法启发的框架。然后，我们表明，在合成DR-次模函数上，将我们提出的算法应用于整数格上比替代方案更快，包括将目标问题简化到集合域，然后应用最快的已知集合子模最大化算法。
2021-11-19 cs.AI cs.DS cs.LG
A New Framework for Distributed Submodular Maximization
University of Warwick（华威大学）；Boston University（波士顿大学）；Northeastern University（东北大学）；EPFL（洛桑联邦理工学院）
机器学习中的各种各样的问题，包括样本聚类、文档摘要和传感器放置，可以被转换为受约束的子模块最大化问题。很多最近的努力一直致力于开发分布式算法，这些问题。然而，这些结果遭受高轮数，次优近似比，或两者兼而有之。我们开发了一个框架，使现有的算法在顺序设置的分布式设置，实现接近最佳的近似比，许多设置在只有一个恒定数量的MapReduce轮。我们的技术也给出了一个快速的顺序算法的非单调最大化受拟阵约束。
2016-08-11 cs.AI cs.DC cs.DS
Using Partial Monotonicity in Submodular Maximization
University of Haifa（海法大学）
在过去的二十年里，次模函数最大化一直是机器学习应用中许多离散优化问题的主力。传统上，子模函数的研究是基于二元函数的性质。然而，这样的属性有一个继承的弱点，即，如果一个算法假设函数具有特定的属性，那么它不会为违反此属性的函数提供保证，即使违反非常轻微。因此，最近的工作开始考虑连续版本的函数属性。其中最重要的（到目前为止）可能是子模比和曲率，它们被广泛地一起和单独研究。集函数的单调性在次模极大化中起着核心作用。然而，尽管有上述所有工作，迄今为止（据我们所知）还没有提出这个属性的连续版本。这是不幸的，因为几乎单调的子模函数经常出现在机器学习应用中。在这项工作中，我们填补了这一空白，定义的单调性比，这是一个连续版本的单调性属性。然后，我们表明，对于许多标准的子模最大化算法，可以证明新的近似保证，依赖于单调性比，从而提高近似比的电影推荐，二次规划和图像摘要的常见机器学习应用。
2022-05-17 cs.DS cs.LG math.OC
Practical $0.385$-Approximation for Submodular Maximization Subject to a Cardinality Constraint
DataHeroes Israel（DataHeroes以色列公司）；University of Haifa（海法大学）
针对基数约束下的非单调子模最大化，提出一种结合$0.385$近似保证与$O(n+k^2)$低查询复杂度的实用算法，并在多个机器学习应用中验证其有效性。
2024-05-22 cs.DM cs.DS cs.LG
The Power of Subsampling in Submodular Maximization
Yale University（耶鲁大学）；Google（谷歌）；University of Haifa（海法大学）
我们提出子采样作为一个统一的算法技术，子模块化的最大化在集中和在线设置。这个想法很简单：独立地从基集合中采样元素，并对这些采样元素使用简单的组合技术（例如贪婪或局部搜索）。我们表明，这种方法导致最佳/国家的最先进的结果，尽管比现有的方法简单得多。在通常的离线设置中，我们提出了SampleGreedy，它获得了一个$(p + 2 + o(1))$ -近似最大化的子模函数的$p$ -可扩展系统使用$O(n + nk/p)$评估和可行性查询，其中$k$是最大的可行集的大小。对于单调子模和线性目标，近似比分别提高到$p+1$和$p$。在流设置中，我们提出了SampleStreaming，它获得了一个$(4p +2 - o(1))$ -近似最大化的子模函数的$p$ -matchoid使用$O(k)$内存和$O(km/p)$评估和可行性查询每个元素，其中$m$是定义的$p$ -matchoid拟阵的数量。对于单调子模目标，近似比提高到$4p$。我们经验证明了我们的算法对视频摘要，位置摘要和电影推荐任务的有效性。
2021-04-06 cs.DS cs.LG math.OC
Submodular Maximization via Taylor Series Approximation
Northeastern University（东北大学）
本文研究带拟阵约束的子模最大化问题，提出用泰勒级数近似替代采样，使连续贪心算法达到接近1-1/e的近似比，并大幅缩短执行时间。
2021-01-19 cs.LG
Fairness in Streaming Submodular Maximization over a Matroid Constraint
Samsung - SAIT AI Lab, Montreal（三星 - SAIT AI实验室，蒙特利尔）；Sapienza University of Rome（罗马萨皮恩扎大学）；Google Zurich（谷歌苏黎世）；Google Zurich EPFL（谷歌苏黎世EPFL）；Microsoft Research（微软研究院）
本文研究了在Matroid约束下流式子模最大化问题的公平性，提出流式算法和不可能结果，通过现实应用验证了效率、质量和公平性的权衡。
2025-11-22 cs.CY cs.DS cs.LG
Submodular Maximization under the Intersection of Matroid and Knapsack Constraints
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
针对现实中多约束下的子模最大化问题，本文提出融合部分枚举与同步贪心的SPROUT算法，获更优多项式近似保证，进一步优化得到的SPROUT++在电影推荐等任务中表现更优。
2023-07-18 cs.DS cs.LG math.OC
Online Continuous Submodular Maximization: From Full-Information to Bandit Feedback
Yale University（耶鲁大学）；University of Pennsylvania（宾夕法尼亚大学）
在本文中，我们提出了三个在线算法子模最大化。第一个是Mono-Frank-Wolfe，它将$T^{1/2}$ [Chen 2018 Online]和$T^{3/2}$ [chen 2018 projection]中每个函数的梯度评估数量减少到1，并实现了$O(T^{4/5})$的$(1-1/e)$ -遗憾界。第二个是Bandit-Frank-Wolfe算法，它是第一个求解连续DR-子模极大化的Bandit算法，其$(1-1/e)$ -遗憾界为$O(T^{8/9})$ .最后，我们扩展Bandit-Frank-Wolfe的离散次模最大化，响应弗兰克-Wolfe，它达到了一个$(1-1/e)$ -遗憾界的$O(T^{8/9})$在响应强盗设置的强盗算法。
2019-10-28 cs.LG stat.ML
Guarantees for Greedy Maximization of Non-submodular Functions with Applications
ETH Zurich（苏黎世联邦理工学院）
研究了非次模非减集函数基数约束最大化问题的标准贪心算法的性能。虽然有很强的理论保证贪婪的性能最大化次模函数，有几个保证非次模的。然而，Greedy对于许多重要的非次模函数具有很强的经验性能，例如，实验设计中贝叶斯A-最优性目标。我们证明了支持实证性能的理论保证。我们的保证的特征在于（广义）曲率$α$和子模块比$γ$的组合。特别是，我们证明了贪婪享有紧逼近保证$\frac{1}α(1- e^{-γα})$基数约束最大化。此外，我们绑定的子模块比和曲率的几个重要的现实世界的目标，包括贝叶斯A-最优目标，一个正方形子矩阵的行列式函数和某些线性规划的组合约束。我们的实验验证了我们的理论研究结果的合成和现实世界的应用。
2019-05-14 cs.AI cs.DM cs.DS
Fast Semidifferential-based Submodular Function Optimization
University of Washington（华盛顿大学）；University of California, Berkeley（加州大学伯克利分校）
我们提出了一个实用的和强大的新框架，无约束和有约束的子模函数优化的基础上离散半微分（次和超微分）。由此产生的算法，重复计算，然后有效地优化次模半梯度，提供新的和推广许多旧的方法，次模优化。此外，我们的方法，采取措施，提供一个统一的范式，适用于子模块最小化和最大化，历史上已经处理的问题相当明显。我们的算法的实用性是很重要的，因为在子模块化的兴趣，由于其自然和广泛的适用性，最近在机器学习内的优势。我们分析了我们的算法的理论性质的最小化和最大化，并表明，许多国家的最先进的最大化算法的特殊情况。最后，我们补充我们的理论分析与支持实证实验。
2013-08-05 cs.DM cs.DS cs.LG
A Unified Approach to Submodular Maximization Under Noise
Google Mountain View, CA（谷歌山景城）；Yale University（耶鲁大学）；Harvard University（哈佛大学）
本文提出了一种统一方法，在噪声环境下实现子模函数最大化，通过 meta 算法将稳健算法转换为噪声环境下的算法，获得不同约束下的近似结果。
2025-12-31 cs.CC cs.DM cs.DS
Optimal Algorithms for Continuous Non-monotone Submodular and DR-Submodular Maximization
Stanford University（斯坦福大学）
在本文中，我们研究了极大化超立方体上的连续非单调子模函数的基本问题，包括有和没有坐标方向的限制。这类优化问题在机器学习、经济学和通信系统中有几个应用。我们的主要结果是第一个$\frac{1}{2}$ -近似算法连续次模函数最大化，这个近似因子的$\frac{1}{2}$是最好的算法，只查询目标函数在多项式多点。对于DR-次模最大化的特殊情况，即当次模函数沿所有坐标也是坐标方向凹时，我们提供了一个不同的$\frac{1}{2}$ -近似算法，它在准线性时间内运行。这两个结果都改进了先前的工作[Bian et al，2017，Soma and Yoshida，2017]。我们的第一个算法使用了新的想法，如减少保证近似问题，以分析每个坐标的零和游戏，并结合了这个零和游戏的几何形状，以固定在这个坐标的值。我们的第二个算法利用坐标明智的搜索，以确定一个单调的平衡条件足以得到所需的近似保证，并使用二进制搜索的平衡点狩猎。我们进一步运行实验来验证我们提出的算法在相关机器学习应用中的性能。
2018-05-24 cs.DS cs.GT cs.LG
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing（西蒙斯理论计算研究所）
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹（也不是凸），并定义在一个期望，我们开发了一个变种的条件梯度法，称为\alg，它实现了\textit{tight}近似保证。更准确地说，对于单调和连续的DR-子模函数和受到\textit{general}凸体约束，我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证（在预期中）与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果，并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口，我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
2017-11-05 cs.LG math.OC
Linear-Time Algorithms for Adaptive Submodular Maximization
Naveen Jindal School of Management, The University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金德尔管理学院）
在本文中，我们开发了两个随机子模极大化问题的快速算法。我们从研究充分的自适应次模最大化问题的基数约束。我们开发了第一个线性时间算法，实现了$(1-1/e-ε)$近似比。值得注意的是，我们的算法的时间复杂度是$O(n\log\frac{1}ε)$（函数评估的数量），这是独立的基数约束，其中$n$是基集的大小。然后，我们引入了完全自适应子模的概念，并开发了一个线性时间算法，最大化一个完全自适应子模函数受分割拟阵约束。我们表明，我们的算法实现了$\frac{1-1/e-ε}{4-2/e-2ε}$的近似比，只使用$O(n\log\frac{1}ε)$数量的功能评估。
2020-07-08 cs.LG stat.ML
Weakly Submodular Maximization Beyond Cardinality Constraints: Does Randomization Help Greedy?
Yale University（耶鲁大学）；The Open University of Israel（以色列开放大学）
次模函数是集合函数的一个广泛的类别，它自然地出现在不同的领域。已经提出了许多算法来最大化这些函数。不幸的是，一旦函数偏离子模块性，已知的算法可能执行任意差。修正这一问题，通过获得集函数的近似结果推广次模函数，一直是最近的工作的焦点。其中一类，称为弱次模函数，受到了很多关注。Das和Kempe（2011）证明的一个关键结果表明，受基数约束的弱子模块最大化的贪心算法的近似比随着与子模块的距离而平滑地下降。然而，没有结果已获得最大化的约束超出基数。特别是，它是不知道的贪心算法是否达到任何非平凡的近似比这样的约束。在本文中，我们证明了贪心算法的随机版本（以前由Buchbinder等人使用。（2014）用于不同的问题）对于受一般拟阵约束的弱子模函数的最大化实现了$(1 + 1/γ)^{-2}$的近似比，其中$γ$是测量函数与子模性的距离的参数。此外，我们还实验比较了这个版本的贪心算法对自然基准的现实世界中的问题的性能，并表明，我们研究的算法在实践中也表现良好。据我们所知，这是第一个算法与非平凡的近似保证最大化弱次模函数的约束，而不是简单的基数约束。特别是，它是第一个算法，这样一个保证的重要和广泛的类拟阵约束。
2017-07-13 cs.AI cs.DM cs.DS
Horizontally Scalable Submodular Maximization
ETH Zurich（苏黎世联邦理工学院）；Google Research（谷歌研究院）
各种大规模的机器学习问题可以被转换为受约束的子模最大化的实例。现有的分布式子模块最大化方法有一个严重的缺点：容量（可以容纳在内存中的实例数量）必须随着数据集的大小而增长。在实践中，虽然可以提供多台机器，但每台机器的容量受到物理约束的限制。我们提出了一个真正可扩展的方法，分布式子模块最大化在固定的容量。所提出的框架适用于广泛的算法和约束，并提供理论保证的近似因子的任何可用的能力。我们经验评估所提出的算法对各种数据集，并证明它实现了性能竞争力的集中式贪婪的解决方案。
2016-05-31 cs.DC cs.DM cs.LG
Randomized Greedy Learning for Non-monotone Stochastic Submodular Maximization Under Full-bandit Feedback
KAUST（阿卜杜拉国王科技大学）；Purdue University（普渡大学）；Iowa State University（爱荷华州立大学）
研究了具有完全反馈和随机报酬的无约束组合多臂次模最大化问题。以前的作品调查同样的问题，假设一个子模块和单调的奖励函数。在这项工作中，我们研究了一个更普遍的问题，即，当报酬函数不一定是单调的，并且子模块性仅在期望中被假设时。提出了随机贪婪学习算法（RGL），并从理论上证明了该算法对于水平$T$和臂数$n$都达到了$\frac{1}{2}$ -遗憾上界$\tilde{\mathcal{O}}(n T^{\frac{2}{3}})$.我们还表明，在实验中，RGL经验优于其他充分的强盗变种submodular和nonsubmodular设置。
2023-02-02 cs.AI cs.LG math.OC
Stochastic Submodular Maximization via Polynomial Estimators
Northeastern University（东北大学）
在本文中，我们研究随机次模最大化问题一般拟阵约束，自然出现在在线学习，团队形成，设施位置，影响力最大化，主动学习和传感目标函数。换句话说，我们专注于最大化子模函数，这些子模函数被定义为具有未知分布的一类子模函数的期望。我们表明，对于这种形式的单调函数，随机连续贪心算法达到的逼近比（在预期中）任意接近$(1-1/e) \approx 63\%$使用多项式估计的梯度。我们认为，使用这个多项式估计，而不是现有技术，使用采样消除了随机性的来源，并通过实验减少了执行时间。
2023-03-17 cs.AI cs.LG math.OC
Streaming Submodular Maximization with Differential Privacy
Khoury College of Computer Sciences, Northeastern University（东北大学胡里计算机科学学院）
在这项工作中，我们研究的问题，私人最大化的子模函数在流设置。广泛的工作已经做了私人最大化的子模函数在一般情况下，当功能依赖于个人的私人数据。然而，当从目标函数的域中提取的数据流的大小很大或到达非常快时，必须在流设置的约束内私下优化目标。我们建立基本的差异私人基线这个问题，然后得到更好的权衡隐私和实用程序的特殊情况下，可分解的子模块功能。子模函数是可分解的，当它可以被写为子模函数的和;这种结构自然出现时，每个被加数函数模型的效用的个人和目标是研究总效用的整个人口在著名的组合公共项目问题。最后，我们补充我们的理论分析与实验证实。
2022-10-25 cs.CR cs.DS cs.LG
Robust Submodular Maximization: A Non-Uniform Partitioning Approach
EPFL（洛桑联邦理工学院）
我们研究的问题最大化的单调子模函数的基数约束$k$，增加的扭曲，一些项目$τ$从返回的集合可能会被删除。我们专注于（Orlin等人，2016），其中为$τ= o(\sqrt{k})$提供了恒定因子近似保证。在本文中，我们解决了其中提出的一个关键的开放问题，提出了一个新的分区鲁棒（PRo）子模块最大化算法，实现了更一般的$τ= o(k)$相同的保证。我们的算法构造分区组成的桶呈指数增长的大小，并应用标准的子模块优化子程序的桶，以构建强大的解决方案。我们用数值方法证明了PRo在数据汇总和影响最大化方面的性能，证明了贪婪算法和（Orlin et al.，2016）。
2017-06-15 cs.LG stat.ML
The Power of Randomization: Distributed Submodular Maximization on Massive Datasets
University of Warwick（华威大学）
机器学习中的各种各样的问题，包括样本聚类、文档摘要和传感器放置，可以被转换为受约束的子模块最大化问题。不幸的是，由此产生的子模块优化问题往往太大，无法在一台机器上解决。我们开发了一个简单的分布式算法，是并行的，它实现了可证明的，恒定的因素，最坏情况下的近似保证。在我们的实验中，我们证明了它的效率在大型问题与不同种类的约束，目标值总是接近什么是在集中式设置中可以实现的。
2015-04-22 cs.AI cs.DC cs.LG
Optimal DR-Submodular Maximization and Applications to Provable Mean Field Inference
ETH Zurich（苏黎世联邦理工学院）
概率模型中的平均场推断通常是一个高度非凸的问题。现有的优化方法，例如，坐标上升算法，只能产生局部最优解。在这项工作中，我们提出了可证明的平均场方法的概率对数次模模型和它的后验协议（PA）与强近似保证。主要的算法技术是一个新的双贪婪计划，称为DR-DoubleGreedy，连续DR-子模最大化盒约束。它是一个具有线性时间复杂度的一遍算法，达到最佳的1/2近似比，这可能是独立的利益。我们验证了我们的算法对合成和真实世界的数据集上的基线算法的优越性能。
2018-11-29 cs.LG stat.ML
Streaming Adaptive Submodular Maximization
Naveen Jindal School of Management, University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）；Department of Computer Science, University of North Texas（北德克萨斯大学计算机科学系）
许多序贯决策问题可以表述为一个自适应子模极大化问题。然而，大多数现有的研究在这一领域集中在基于池的设置，其中一个可以选择项目以任何顺序，并有一些研究的基于流的设置项目到达任意顺序，必须立即决定是否选择一个项目或不在其到来。在本文中，我们引入了一类新的效用函数，半策略次模函数。我们开发了一系列有效的算法，以最大化一个半策略的子模函数下基于流的设置。
2022-08-17 cs.AI cs.LG
Submodular Maximization Through Barrier Functions
Google（谷歌）；Yale University（耶鲁大学）；Stanford University（斯坦福大学）
在本文中，我们介绍了一种新的技术约束子模最大化，连续优化中的障碍函数的启发。这种连接不仅提高了运行时间的约束子模最大化，但也提供了最先进的保证。更确切地说，对于最大化的单调子模函数的组合的$k$ -matchoid和$\ell$ -背包约束（$\ell\leq k$），我们提出了一个潜在的功能，可以近似最小化。一旦我们最小化的潜在功能，直到$ε$错误，它是保证，我们已经找到了一个可行的设置与$2(k+1+ε)$ -近似因子，确实可以进一步改善$(k+1+ε)$的枚举技术。我们广泛评估我们提出的算法在几个现实世界的应用程序，包括电影推荐系统，YouTube视频，Twitter的饲料和Yelp的业务位置，总结任务和一组覆盖问题的性能。
2020-02-10 cs.LG stat.ML
Beyond Pointwise Submodularity: Non-Monotone Adaptive Submodular Maximization in Linear Time
Naveen Jindal School of Management, The University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）
本文研究了基数约束下的非单调自适应次模极大化问题。我们首先回顾了自适应随机贪心算法提出的\citep{gotovos2015non}，他们表明，该算法实现了$1/e$逼近比，如果目标函数是自适应次模和逐点次模。目前还不清楚在自适应子模块化（不诉诸逐点子模块化）下是否有相同的保证。我们的第一个贡献是表明，自适应随机贪心算法实现了$1/e$自适应子模块化下的近似比。自适应随机贪心算法的一个限制是它需要$O(n\times k)$值Oracle查询，其中$n$是基集的大小，$k$是基数约束。我们的第二个贡献是发展的第一个线性时间算法的非单调自适应次模最大化问题。我们的算法实现了一个$1/e-ε$近似比（这个界是改进的$1-1/e-ε$单调的情况下），只使用$O(nε^{-2}\log ε^{-1})$值的Oracle查询。值得注意的是，$O(nε^{-2}\log ε^{-1})$独立于基数约束。对于单调的情况下，我们提出了一个更快的算法，实现了$1-1/e-ε$近似比的期望与$O(n \log \frac{1}ε)$值Oracle查询。我们还推广了我们的研究，考虑分区拟阵约束，并开发了一个线性时间算法的单调和完全自适应次模函数。
2020-12-15 cs.LG stat.ML
Partial-Adaptive Submodular Maximization
Naveen Jindal School of Management, The University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）；Department of Computer Science, The University of Texas at Dallas（德克萨斯大学达拉斯分校计算机科学系）
一个典型的自适应序贯决策问题的目标是设计一个交互式的政策，选择一组项目顺序，根据一些部分的意见，以最大化的期望效用。许多实际应用的效用函数，包括基于池的主动学习和自适应影响力最大化，都满足自适应子模块性的性质。然而，大多数关于自适应子模最大化的现有研究都集中在完全自适应设置上，即，在进行下一个选择之前，必须等待来自\emph{all}过去选择的反馈。虽然这种方法可以充分利用来自过去的反馈来做出明智的决定，但与非自适应解决方案相比，它可能需要更长的时间来完成选择过程，在非自适应解决方案中，所有选择都是在进行任何观察之前提前进行的。在本文中，我们探讨了部分自适应次模最大化的问题，其中一个是允许在一批同时进行多个选择，并观察他们的实现在一起。我们的方法具有自适应性的优点，同时减少了等待过去选择的观察结果所花费的时间。据我们所知，没有结果是已知的部分自适应政策的非单调自适应次模最大化问题。我们在基数约束和背包约束下研究了这个问题，并为这两种情况开发了有效和高效的解决方案。我们还分析了批量查询的复杂性，即，一个策略完成选择过程所需的批次数，在一些额外的假设下，我们的策略。
2021-11-01 cs.LG
Robust Maximization of Non-Submodular Objectives
EPFL（洛桑联邦理工学院）
我们研究的问题，最大化的单调集函数的基数约束$k$的设置中删除一些元素$τ$从返回的集合。这项工作的重点是最坏情况下的对抗性设置。虽然当函数是子模块时存在常数因子保证，但对于非子模块目标没有保证。在这项工作中，我们提出了一个新的算法遗忘贪婪，并证明了第一个常数因子近似保证更广泛的非次模目标。所获得的理论界限是第一个常数因子界限，也保持在线性制度，即当删除$τ$的数量是线性的$k$。我们的界限依赖于已建立的参数，如子模比和一些新的，如逆曲率。我们约束这些参数的两个重要目标，包括支持选择和方差减少。最后，我们在各种数据集上证明了遗忘贪婪算法对这两个目标的鲁棒性能。
2020-05-02 cs.AI cs.DS cs.LG
