Concave Roofs and Downward Recovery for DR-Submodular Polynomial Maximization
Faculty of Management, University of New Brunswick(新不伦瑞克大学管理学院)
针对DR-次模多项式最大化问题,提出基于凹屋顶与向下恢复的确定性多项式时间近似算法,分别取得二次情形1/2、三次情形8/17的近似因子,并推广至更广函数类。
2026-10-06 math.OC
Non-monotone DR-submodular Maximization: Approximation and Regret Guarantees
Sorbonne Université(索邦大学);Univ Évry, Université Paris-Saclay(埃夫里大学,巴黎-萨克雷大学)
子模优化是一个重要的研究领域,在机器学习、经济学和通信系统中有着广泛的应用。它捕获了非凸优化的一个子类,提供了实践和理论上的保证。本文研究了下闭和一般凸集上非单调DR-次模函数的最大化问题。首先,我们表明,离线最大化非单调DR-次模函数在一般的凸集上,Frank-Wolfe算法实现的近似保证依赖于凸集。其次,我们证明了随机梯度上升算法实现了1/4的近似比与遗憾的$O(1/\sqrt{T})$的最大化问题的非单调DR-子模函数的下闭凸集。这些是相应设置中的第一近似保证。最后,我们基准这些算法在机器学习领域与现实世界的数据集出现的问题。
2019-05-23 cs.DS cs.LG math.OC
Guarantees for Greedy Maximization of Non-submodular Functions with Applications
ETH Zurich(苏黎世联邦理工学院)
研究了非次模非减集函数基数约束最大化问题的标准贪心算法的性能。虽然有很强的理论保证贪婪的性能最大化次模函数,有几个保证非次模的。然而,Greedy对于许多重要的非次模函数具有很强的经验性能,例如,实验设计中贝叶斯A-最优性目标。我们证明了支持实证性能的理论保证。我们的保证的特征在于(广义)曲率$α$和子模块比$γ$的组合。特别是,我们证明了贪婪享有紧逼近保证$\frac{1}α(1- e^{-γα})$基数约束最大化。此外,我们绑定的子模块比和曲率的几个重要的现实世界的目标,包括贝叶斯A-最优目标,一个正方形子矩阵的行列式函数和某些线性规划的组合约束。我们的实验验证了我们的理论研究结果的合成和现实世界的应用。
2019-05-14 cs.AI cs.DM cs.DS
Submodular Maximization Beyond Non-negativity: Guarantees, Fast Algorithms, and Applications
Yale University(耶鲁大学);Open University of Israel(以色列开放大学);Queen Mary University of London(伦敦玛丽女王大学)
一般认为,次模函数--以及更一般的$γ$类--弱次模函数--只能在非负性假设$f(S) \geq 0$下优化。在本文中,我们表明,一旦函数表示为差$f = g - c$,其中$g$是单调的,非负的,和$γ$-弱次模和$c$是非负模,那么强逼近保证可能会得到。我们提出了一个在$k$基数约束下最大化$g - c$的算法,该算法产生一个随机可行集$S$,使得运行时间为$O (\frac{n}ε \log^2 \frac{1}ε)$的$\mathbb{E} \left[ g(S) - c(S) \right] \geq (1 - e^{-γ} - ε) g(OPT) - c(OPT)$,即,独立于$k$。我们将这些结果扩展到无约束的设置,通过描述具有相同的近似保证和更快的$O(\frac{n}ε \log\frac{1}ε)$运行时的算法。我们的算法的主要技术是双重的:使用一个代理目标,不同的$g$和$c$之间的相对重要性在整个算法,和几何扫描可能的$γ$值。我们的算法保证补充了硬度的结果表明,没有多项式时间的算法访问$g$通过一个值Oracle可以做得更好。我们经验证明我们的算法的成功,将它们应用到波士顿住房数据集的实验设计和有向顶点覆盖的电子邮件欧盟数据集。
2019-04-19 cs.DS cs.LG math.OC
Efficient Minimization of Decomposable Submodular Functions
California Institute of Technology(加州理工学院)
在机器学习中出现的许多组合问题可以归结为最小化子模函数的问题。次模函数是凸函数的一种自然的离散模拟,可以在强多项式时间内极小化。不幸的是,国家的最先进的算法一般次模最小化是棘手的较大的问题。在本文中,我们引入了一个新的子类,我们称之为可分解的子模极小化问题。可分解的子模函数是那些可以表示为应用于模函数的凹函数的和的函数。我们开发了一个算法,SLG,可以有效地减少可分解的子模函数与数万个变量。我们的算法利用最近的结果平滑凸最小化。我们将SLG应用于合成基准和联合分类和分割任务,并表明它优于几个数量级的最先进的通用子模块最小化算法。
2010-10-26 cs.LG math.OC
Submodular Order Functions and Assortment Optimization
本文定义次模序函数这一新集合函数类,为多种约束下的最大化问题给出快速强近似算法及近紧查询复杂度上界,并用于品类优化和流式次模最大化。
2024-02-29 cs.DS math.OC
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing(西蒙斯理论计算研究所)
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹(也不是凸),并定义在一个期望,我们开发了一个变种的条件梯度法,称为\alg,它实现了\textit{tight}近似保证。更准确地说,对于单调和连续的DR-子模函数和受到\textit{general}凸体约束,我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证(在预期中)与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口,我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
2017-11-05 cs.LG math.OC
Batch greedy maximization of non-submodular functions: Guarantees and applications to experimental design
Massachusetts Institute of Technology(麻省理工学院)
提出并分析了非子模非减集函数基数约束最大化问题的批量贪婪算法。我们考虑标准的贪婪范式,以及它的分布式贪婪和随机贪婪的变种。我们的理论保证的特点是子模块化和超模块化比率的组合。我们认为,这些参数如何定义紧模块化边界的增量增益的基础上,并提供了一种新的重新解释的经典贪婪算法使用minorize-maximum(MM)的原则。基于这种类比,我们提出了一类新的方法,利用任何合理的模块化界限。在线性贝叶斯逆问题的最优试验设计中,当目标函数是基于互信息时,我们定义了子模块度和超模块度的比值.我们还开发了新的模块化界限的互信息在这种情况下,并描述了某些连接到多面体组合。我们讨论如何使用这些模块化的界限算法与建立的统计概念,如杠杆分数和最近的努力,如体积采样。我们展示了我们的理论研究结果的合成问题和现实世界的气候监测的例子。
2021-08-10 cs.DM cs.DS cs.LG
Competitive Algorithms for Online Budget-Constrained Continuous DR-Submodular Problems
University of Washington(华盛顿大学);Tetration Analytics, Cisco Systems, Inc.(思科系统公司Tetration Analytics部门)
在本文中,我们研究了一类在线最优化问题,其中的目标是最大化一个函数,不一定是凹的,并满足递减收益(DR)的预算约束下的性质。我们分析了一个原始对偶法,称为广义序列算法,我们得到的竞争比的第一界的在线单调DR-次模函数最大化的线性包装约束下匹配的特殊情况下的线性目标函数紧界。
2019-06-30 cs.LG math.OC stat.ML
Fast First-Order Methods for Monotone Strongly DR-Submodular Maximization
University of Washington(华盛顿大学)
连续DR-次模函数是一类满足收益递减(DR)性质的函数,这意味着它们沿非负方向是凹的。已有的工作研究单调连续DR-子模极大化的凸约束,并提出了有效的算法与近似保证。然而,在许多应用中,例如,计算图的稳定数和概率对数次模模型的平均场推断,DR次模函数具有沿非负方向是\emph{strongly}凹的附加性质,这可以用于获得更快的收敛速率。在本文中,我们首先引入和刻画了一类\emph{strongly DR-submodular}函数,并证明了这样一个性质意味着沿非负方向的强连续性。然后,我们研究了$L$ -光滑单调强DR-次模函数有界曲率,我们展示了如何利用这种额外的结构,以获得改进的近似保证和更快的收敛速度的最大化问题的算法。特别是,我们提出了SDRFW算法,匹配可证明的最佳$1-\frac{c}{e}$近似比后,只有$\lceil\frac{L}μ\rceil$迭代,其中$c\in[0,1]$和$μ\geq 0$的曲率和强DR-子模块化参数。此外,我们研究了投影梯度上升(PGA)方法,并提供了一个改进的$\frac{1}{1+c}$逼近比和线性收敛速度的算法的精细分析。考虑到这两种算法都需要光滑参数$L$的知识,我们提供了DR-子模函数的$L$的\emph{novel}特征,表明在许多情况下,计算$L$可以被公式化为凸问题,即,一个几何规划,可以有效地解决。
2022-05-27 cs.LG math.OC stat.ML
Decentralized Projection-free Online Upper-Linearizable Optimization with Applications to DR-Submodular Optimization
Purdue University(普渡大学);Mila - Quebec AI Institute/McGill University(魁北克AI研究所/麦吉尔大学)
本文提出了一种去中心化投影自由优化框架,用于解决DR-子模优化问题,并在不同反馈模型下实现了高效的算法性能。
2026-10-01 cs.CC cs.LG math.OC
New performance guarantees for the greedy maximization of submodular set functions
我们提出了新的紧性能保证的贪婪最大化的非减子模块集函数。我们的主要结果首先提供了一个性能保证方面的重叠的最佳和贪婪的解决方案。因此,我们改进了Nemhauser,Wolsey和Fisher(1978)以及Conforti和Cornuéjols(1984)关于子集最大化的性能保证,这些子集至少是问题域大小的一半。作为进一步的应用,我们得到了一个新的紧性能保证的问题域的基数。
2015-06-01 math.OC
Robust Budget Allocation via Continuous Submodular Functions
Massachusetts Institute of Technology(麻省理工学院)
在过去的几年里,资源的最佳分配以最大限度地提高影响力、信息传播或覆盖范围,特别是在机器学习和数据采掘中,已经引起了人们的关注。但在实际应用中,问题的参数很少被精确地知道,使用错误的参数可能会导致不期望的结果。因此,我们从鲁棒优化的角度重新审视了Alon等人(2012)引入的预算分配或二分影响力最大化问题的连续版本。在这种情况下,对手可能会选择置信集内最不利的参数。由此产生的问题是一个非凹凸鞍点问题(或对策)。我们表明,这个非凸问题可以完全解决利用连接到连续的次模函数,并通过解决一个约束次模最小化问题。虽然有约束的子模最小化是很难在一般情况下,在这里,我们建立的条件下,这样的问题可以解决到任意精度$ε$。
2017-06-13 cs.AI cs.DS cs.LG
Stronger Approximation Guarantees for Non-Monotone γ-Weakly DR-Submodular Maximization
IIT Indore(印度伊蒂学院);Purdue University(普渡大学)
本文提出了一种基于Frank-Wolfe引导的连续贪心框架和γ意识的双贪心步骤的算法,实现了非单调γ-弱DR-子模函数最大化的更强近似保证。
2026-01-02 cs.AI cs.CC cs.LG
Optimal approximation for unconstrained non-submodular minimization
Massachusetts Institute of Technology(麻省理工学院)
子模函数极小化问题已经得到了很好的研究,现有的算法可以精确地解决它,或者可以达到任意的精度。然而,在许多应用中,例如结构化稀疏学习或批量贝叶斯优化,目标函数不是精确的子模,而是接近的。在这种情况下,不存在理论上的保证。事实上,次模最小化算法依赖于次模性和凸性之间的复杂联系。我们展示了如何将这些关系扩展到最小化非次模函数的近似保证,其特征在于函数是如何接近次模的。我们还将这一结果扩展到噪声函数的评价。我们的近似结果是第一次最小化非次模函数,是最佳的,我们的匹配下界建立。
2022-03-09 cs.DM cs.DS cs.LG
Online Submodular Maximization via Online Convex Optimization
Northeastern University(东北大学);Boston University(波士顿大学)
研究一般拟阵约束下的单调次模最大化在线优化问题,通过证明加权阈值势函数可凹松弛,将其归约为在线凸优化(OCO),结合舍入方案实现次线性遗憾,并扩展至动态遗憾、老虎机和乐观学习设定。
2024-01-08 cs.AI cs.LG math.OC
On Constrained Mixed-Integer DR-Submodular Minimization
本文研究带盒子及单调性约束的混合整数DR-次模最小化,提出有效线性不等式并给出完整凸包(多面体),设计多项式时间精确分离算法,首次证明该类问题多项式时间可解。
2023-09-05 math.OC
Optimal Algorithms for Continuous Non-monotone Submodular and DR-Submodular Maximization
Stanford University(斯坦福大学)
在本文中,我们研究了极大化超立方体上的连续非单调子模函数的基本问题,包括有和没有坐标方向的限制。这类优化问题在机器学习、经济学和通信系统中有几个应用。我们的主要结果是第一个$\frac{1}{2}$ -近似算法连续次模函数最大化,这个近似因子的$\frac{1}{2}$是最好的算法,只查询目标函数在多项式多点。对于DR-次模最大化的特殊情况,即当次模函数沿所有坐标也是坐标方向凹时,我们提供了一个不同的$\frac{1}{2}$ -近似算法,它在准线性时间内运行。这两个结果都改进了先前的工作[Bian et al,2017,Soma and Yoshida,2017]。我们的第一个算法使用了新的想法,如减少保证近似问题,以分析每个坐标的零和游戏,并结合了这个零和游戏的几何形状,以固定在这个坐标的值。我们的第二个算法利用坐标明智的搜索,以确定一个单调的平衡条件足以得到所需的近似保证,并使用二进制搜索的平衡点狩猎。我们进一步运行实验来验证我们提出的算法在相关机器学习应用中的性能。
2018-05-24 cs.DS cs.GT cs.LG
Submodular Maximization under the Intersection of Matroid and Knapsack Constraints
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室)
针对现实中多约束下的子模最大化问题,本文提出融合部分枚举与同步贪心的SPROUT算法,获更优多项式近似保证,进一步优化得到的SPROUT++在电影推荐等任务中表现更优。
2023-07-18 cs.DS cs.LG math.OC
Performance guarantees for greedy maximization of non-submodular controllability metrics
University of Texas at Dallas(德克萨斯大学达拉斯分校);ETH Zürich(苏黎世联邦理工学院)
本文研究了非子模可控性度量的贪心最大化问题,提出通过子模性比率和曲率来获得性能保证,以改进复杂网络的信息与控制拓扑设计。
2018-11-19 cs.SY eess.SY math.OC
Provable Non-Convex Optimization and Algorithm Validation via Submodularity
ETH Zurich(苏黎世联邦理工学院);Shanghai Jiao Tong University(上海交通大学)
子模块性是组合优化以及机器学习和数据采掘的许多应用中研究最多的问题类的性质之一,对保证优化具有很强的意义。在这篇论文中,我们研究子模块性在可证非凸优化和算法验证中的作用。深刻理解哪类函数可以被可追踪地优化仍然是非凸优化的核心挑战。通过推进子模块化的概念,连续域(称为“连续子模块化”),我们刻画了一类一般非凸和非凹的功能-连续子模块化功能,并推导出算法近似最大化他们的强逼近保证。与此同时,连续子模块化捕获了广泛的应用,从一般营销策略的收入最大化,DPP的MAP推理到概率对数子模块模型的平均场推理,这使得它成为优化这类目标的有价值的领域知识。算法验证是一个信息理论框架,用于研究算法对输入/观测值波动的鲁棒性及其泛化能力。我们研究了一个典型的无约束子模最大化问题:MaxCut的各种算法。由于子模块的MaxCut目标,我们能够提出有效的方法来计算MaxCut算法的算法信息内容。这些结果为MaxCut的不同算法技术的鲁棒性提供了见解。
2019-12-18 cs.LG math.OC stat.ML
Using Partial Monotonicity in Submodular Maximization
University of Haifa(海法大学)
在过去的二十年里,次模函数最大化一直是机器学习应用中许多离散优化问题的主力。传统上,子模函数的研究是基于二元函数的性质。然而,这样的属性有一个继承的弱点,即,如果一个算法假设函数具有特定的属性,那么它不会为违反此属性的函数提供保证,即使违反非常轻微。因此,最近的工作开始考虑连续版本的函数属性。其中最重要的(到目前为止)可能是子模比和曲率,它们被广泛地一起和单独研究。集函数的单调性在次模极大化中起着核心作用。然而,尽管有上述所有工作,迄今为止(据我们所知)还没有提出这个属性的连续版本。这是不幸的,因为几乎单调的子模函数经常出现在机器学习应用中。在这项工作中,我们填补了这一空白,定义的单调性比,这是一个连续版本的单调性属性。然后,我们表明,对于许多标准的子模最大化算法,可以证明新的近似保证,依赖于单调性比,从而提高近似比的电影推荐,二次规划和图像摘要的常见机器学习应用。
2022-05-17 cs.DS cs.LG math.OC
Stochastic Conditional Gradient Methods: From Convex Minimization to Submodular Maximization
Massachusetts Institute of Technology(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学)
本文考虑一类目标函数的随机最优化问题,其中包括凸的和连续的子模。随机近端梯度法已被广泛用于解决这类问题,然而,当问题维数很大,投影到一个凸集是昂贵的,他们的适用性仍然有限。相反,随机条件梯度法被提出作为一种替代解决方案,依赖于(i)通过简单的平均技术近似梯度,每次迭代需要一个单一的随机梯度评估;(ii)求解线性规划来计算下降/上升方向。平均技术降低了噪声的梯度近似随着时间的推移,并取代投影步骤在近似方法由一个线性规划降低了每次迭代的计算复杂性。我们表明,在凸性和光滑性的假设下,我们提出的方法收敛到最佳的目标函数值在一个次线性率$O(1/t^{1/3})$。此外,对于单调和连续的DR-子模函数和一般凸体约束,我们证明了我们提出的方法实现了$((1-1/e)OPT-\eps)$保证与$O(1/\eps^3)$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。此外,对于目标函数是连续的DR-次模但非单调的,且约束集是下闭的情形,我们利用$O(1/\eps^3)$随机梯度得到了$((1/e)OPT -\eps)$保证.通过使用随机连续优化作为一个接口,我们提供了第一个$(1-1/e)$紧逼近保证最大化的单调,但随机子模集函数的拟阵约束和$(1/e)$逼近保证的非单调的情况下。
2018-11-12 cs.LG math.OC stat.ML
An Analytic 0.48-Approximation for Non-Monotone k-Submodular Maximization under a Matroid Constraint
University of Chinese Academy of Sciences(中国科学院大学)
本研究针对k≥2的拟阵约束下非单调k-子模最大化问题,提出结合前二标签规则等的随机多项式时间算法,在值预言模型中取得0.48的近似保证。
2026-10-21 cs.DS math.OC
Non-Smooth, Hölder-Smooth, and Robust Submodular Maximization
本文研究非光滑连续 DR-子模最大化,分别用连续贪心与 mirror-prox 给出 Hölder 光滑和非光滑情形的近似保证,并应用于鲁棒及 Wasserstein 分布鲁棒优化。
2023-09-28 cs.DS math.OC
Submodular Welfare under Routing Coupling: A Hierarchical Decomposition with Perturbation Guarantees
University of California, Irvine(加州大学尔湾分校);Texas A&M University(德克萨斯农工大学)
本文针对图上的子模福利最大化与路由耦合问题,证明固定路由下目标仍具子模性,提出WHIRL算法交替优化路由与分配,具有有限收敛保证和显式近似界,数值实验验证了其质量与成本的权衡。
2026-09-09 math.OC
Mixed-Integer Programming Approaches to Generalized Submodular Optimization and its Applications
本教程概述广义次模优化(GSO),针对其两类子问题提出多面体理论,并导出在真实数据集上验证有效的高效精确求解方法。
2023-04-04 math.OC
Learning with Submodular Functions: A Convex Optimization Perspective
INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院)
子模函数与机器学习相关至少有两个原因:(1)一些问题可以直接表示为子模函数的优化,以及(2)子模函数的lovasz扩展为监督学习和无监督学习提供了一组有用的正则化函数。在这本专著中,我们提出了理论的次模函数从凸分析的角度来看,提出了紧密的联系,某些多面体,组合优化和凸优化问题。特别是,我们展示了次模函数最小化是如何等价于解决各种各样的凸优化问题。这使得新的高效算法的近似和精确的子模函数最小化的理论保证和良好的实际性能的推导。通过列出许多子模块函数的例子,我们回顾了机器学习的各种应用,如聚类,实验设计,传感器放置,图形模型结构学习或子集选择,以及一个家庭的结构稀疏诱导规范,可以派生和使用的子模块函数。
2013-10-08 cs.LG math.OC
Randomized Algorithms for Monotone Submodular Function Maximization on the Integer Lattice
University of Padova(帕多瓦大学);Czech Technical University in Prague(布拉格捷克理工大学)
具有集合次模目标函数的优化问题有许多实际应用。在离散的情况下,同一个项目可以被选择一次以上,该域从一个2元集一般化到一个有界整数格。在这篇文章中,我们考虑了基数约束下有界整数格上单调子模函数的最大化问题。特别是,我们专注于最大化DR-子模函数,即,定义在整数格上的函数,这些函数表现出收益递减特性。对于任意的n> 0,我们给出了一个概率保证为O的随机算法(1 - 1/e -ε)近似,使用由Mirzasoleiman等人为集合次模函数开发的随机贪心算法启发的框架。然后,我们表明,在合成DR-次模函数上,将我们提出的算法应用于整数格上比替代方案更快,包括将目标问题简化到集合域,然后应用最快的已知集合子模最大化算法。
2021-11-19 cs.AI cs.DS cs.LG
From Linear to Linearizable Optimization: A Novel Framework with Applications to Stationary and Non-stationary DR-submodular Optimization
McGill University(麦吉尔大学);Mila(米拉);Purdue University(普渡大学)
本文提出上可线性化函数框架,将线性/二次最大化算法统一转换为优化此类函数,应用于DR-子模最大化,首次实现动态与自适应遗憾保证,并在更少假设下改进现有最优结果。
2026-09-15 cs.CC cs.LG math.OC
On Submodular Search and Machine Scheduling
假设一些对象隐藏在一个有限的隐藏位置集合$S$中,这些隐藏位置必须逐个检查。搜索$S$子集的代价由一个次模函数给出,所有对象包含在一个子集中的概率由一个超模函数给出。我们寻求一种$S$的排序,以最小的期望成本找到所有的对象。这个问题是NP-困难的,我们给出了一个有效的组合$2$ -近似算法,推广类似的结果在调度理论。我们还给出了一个新的调度应用程序$1|prec|\sum w_A h(C_A)$,其中一组工件必须排序的优先约束,以最小化一些凹函数$h$的完成时间的{ \em子集}的工件的加权和。我们继续给低{ \em总曲率}的次模函数更好的近似,我们给一个完整的解决方案时,我们称之为{ \em串并行可分解}的问题。接下来,我们考虑一个零和游戏之间的成本最大化隐藏和成本最小化搜索。我们证明了Hider的均衡混合策略在成本函数的基础多面体中,适当地缩放,并且我们在串并联可分解的情况下解决了游戏,在其他情况下给出了近似最优策略。
2018-06-11 math.OC
Sensor placement minimizing the state estimation mean square error: Performance guarantees of greedy solutions
本文研究了如何选择系统输出的一个子集,以使状态估计均方误差(MSE)最小。这导致在可能的传感器选择上定义的集合函数的最大化问题受到基数约束。我们考虑用贪婪搜索近似求解。由于MSE函数既不是次模函数,也不是上模函数,因此贪婪解的众所周知的性能保证在本例中不成立。因此,我们使用子模比和曲率来评估目标函数的子模性和超模性程度。通过使用MSE函数的性质,我们近似计算这些量,并得出贪婪的解决方案的性能保证。结果表明,该保证比现有的结果更不保守。
2020-09-26 cs.SY eess.SY math.OC
Upper-Linearizability of Online Non-Monotone DR-Submodular Maximization over Down-Closed Convex Sets
Purdue University(普渡大学);IIT Indore(印度理工学院Indore);Mila - Quebec AI Institute/McGill University(魁北克AI研究所/麦吉尔大学)
本文提出了一种将非单调DR-子模最大化问题转化为在线线性优化的方法,实现了O(T^{1/2})的静态后悔和改进的动态后悔保证。
2026-07-13 cs.LG math.OC stat.ML
$γ$-weakly $θ$-up-concavity: A Unified Framework for Non-Convex Optimization Beyond DR-Submodular and OSS Functions
Mila - Quebec AI Institute/McGill University(蒙特利尔人工智能研究所/麦吉尔大学);Purdue University(普渡大学)
本文提出$γ$-弱$θ$-上凹性条件,为非凸优化提供统一框架,涵盖DR子模和OSS函数,并通过线性化方法获得广泛问题的近似保证。
2026-05-07 cs.AI cs.LG math.OC
Utility Design for Distributed Resource Allocation -- Part II: Applications to Submodular, Covering, and Supermodular Problems
分布式控制的博弈论方法的一个基本组成部分是局部效用函数的设计。相对于在资源上可加性的资源分配问题,第一部分展示了如何设计局部效用,以便最大化相关的性能保证[Paccagnan等人,TAC 2019],我们用无政府状态的无政府代价来衡量。本手稿的目的是专门这些结果的情况下,submodular,覆盖和supermodular问题。在所有这些情况下,我们得到严格的表达式的无政府代价,往往匹配或改善相关的保证国家的最先进的近似算法。两个应用程序和相应的数值:车辆目标分配问题和无线数据缓存中出现的覆盖问题。
2021-01-12 cs.GT math.OC
Distributionally Robust Submodular Maximization
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);USC(南加利福尼亚大学)
子模块函数在整个机器学习中都有应用,但在许多设置中,我们无法直接存取底层函数$f$。我们专注于随机函数,给出了一个分布$P$的期望函数。在实践中,我们通常只有来自$P$的有限样本集$f_i$。标准方法通过最大化$f_i$的和来间接优化$f$。然而,这忽略了对真实(未知)分布的泛化。在本文中,我们通过直接优化偏差和方差的组合,在实际的底层函数$f$上实现了更好的性能。在数学上,我们完成了这一点,展示了如何进行分布式鲁棒优化(DRO)的次模函数,提供有效的算法支持的理论保证,利用几个新的贡献DRO的一般理论。我们还展示了令人信服的经验证据,DRO提高了推广到未知的随机次模函数。
2018-06-06 cs.LG math.OC stat.ML
Distributed Maximization of Submodular and Approximately Submodular Functions
我们研究的问题最大化的次模函数,受到基数约束,与一组代理商在连通图进行通信。我们提出了一个分布式的贪婪算法,允许所有的代理收敛到一个接近最优解的全球最大化问题,只使用本地信息和通信与邻居的图形。近似最优解接近全局最大化问题的最优解的(1-1/e)近似,其附加因子取决于算法中的通信步骤的数量。然后,我们分析所提出的算法的收敛保证。该分析揭示了通信步骤的数量和算法的性能之间的权衡。最后,我们扩展我们的分析nonsubmodular设置,使用近似次模块化的概念。
2020-09-28 cs.MA math.OC
On Unconstrained Quasi-Submodular Function Optimization
Shanghai Jiao Tong University(上海交通大学)
本文提出两种算法用于无约束拟子模函数的最小化和最大化,通过单次子交叉性质,在O(n)次迭代内返回缩减格,并保证目标函数值在每次迭代后严格单调变化。
2014-11-13 cs.DS cs.NA math.NA
Performance-Guaranteed Solutions for Multi-Agent Optimal Coverage Problems using Submodularity, Curvature, and Greedy Algorithms
针对非凸多智能体最优覆盖问题,本文利用覆盖目标的次模性提供性能界限保证,并通过引入和估计多种曲率度量,建立了超越标准(1-1/e)界限的改进贪心算法性能保证。
2024-03-23 cs.SY eess.SY math.CO
An optimization problem for continuous submodular functions
实连续次模函数作为离散函数概念在连续域上的推广,近年来得到了广泛的关注。熵函数的类似概念需要额外的性质:定义在$\mathbb R^n$的非负正交上的实函数是类熵(EL)的,如果它是次模的,在零处取零,非减,并且具有递减返回属性。受多方秘密共享的Shannon复杂性问题的启发,考虑了以下一般最优化问题的一个特例:求满足一定约束条件的EL函数的最小代价.在我们的特殊情况下,EL函数的成本是$n$偏导数在零处的最大值。另一种可能性是函数值域的上确界。约束条件由光滑有界曲面$S$截断向下的闭子集指定。如果在$S$的内部点处,函数的左和右偏导数至少相差1,则EL函数是可行的。最小代价的一般下界是根据曲面$S$的法线给出的。当$S$是线性的时,该界限是紧的。在二维情况下,对于凸或凹$S$,相同的界限是紧的。它表明,最佳EL函数不一定是唯一的。本文最后提出了几个开放的问题。
2021-02-11 cs.CR math.OC
Submodular Optimization with Applications to Decision and Control
University of Waterloo(滑铁卢大学);Queen’s University(女王大学)
本文综述子模集函数的理论、算法及其在决策与控制中的应用,重点介绍基于贪心算法的近似保证和曲率、子模比等结构性质,并涵盖传感器调度、多智能体协调等应用场景。
2026-06-08 cs.SY eess.SY math.OC
A Hybrid Submodular Optimization Approach to Controlled Islanding with Post-Disturbance Stability Guarantees
本文针对电力系统扰动后可控孤岛问题,提出混合次模优化与混合拟阵框架,并设计1/2最优性保证的局部搜索算法,在大规模系统中优于混合整数线性规划基线。
2023-08-09 cs.SY eess.SP eess.SY
Risk-Aware Submodular Optimization for Multi-Robot Coordination
Virginia Tech(弗吉尼亚理工大学);University of Pennsylvania(宾夕法尼亚大学);University of Maryland(马里兰大学)
研究了在不确定性条件下进行组合决策时引入风险的问题。我们制定了一个离散的子模块最大化问题,选择一组使用条件风险价值(CVaR),金融分析中常用的风险度量。虽然CVaR最近已被用于机器人的线性成本函数的优化,我们采取的第一步扩展到离散子模块优化,并提供了一些积极的结果。具体来说,我们提出了顺序贪心算法,提供了一个近似保证找到最大值的CVaR成本函数下的拟阵约束。近似保证表明,我们的算法所产生的解决方案是在一个恒定的因素的最佳和一个附加项,取决于最佳。我们的分析使用了次模集函数的曲率,并证明了该算法在多项式时间内运行。这公式化了许多出现在机器人学中的组合优化问题。我们使用两个这样的问题,车辆分配的不确定性下的机动性按需和传感器的选择与失败的环境监测,作为案例研究,以证明我们的配方的功效。特别是,对于按需移动性的研究,我们提出了一个在线触发分配算法,触发一个新的分配只可能导致减少在需求位置的等待时间。通过仿真验证了序贯贪心算法和在线触发分配算法的性能。
2022-03-18 cs.RO math.OC
Randomized Greedy Methods for Weak Submodular Sensor Selection with Robustness Considerations
Elmore Family School of Electrical and Computer Engineering, Purdue University(普渡大学埃尔莫尔电气与计算机工程学院);Department of Aerospace Engineering and Engineering Mechanics, University of Texas at Austin(德克萨斯大学奥斯汀分校航空航天工程与应用力学系)
本文提出改进的随机贪心算法和双随机贪心算法,用于解决受预算和性能限制的弱子模最大化问题,并在鲁棒优化中展示其有效性。
2026-03-05 cs.SY eess.SP eess.SY
Leveraging Untrustworthy Commands for Multi-Robot Coordination in Unpredictable Environments: A Bandit Submodular Maximization Approach
University of Michigan(密歇根大学);Boston University(波士顿大学)
针对不可预测环境中不可信指令下的多机器人协调问题,提出MetaBSG算法,通过元学习在指令与BSG算法间选择,实现渐近最优性能并鲁棒化指令,在多目标跟踪模拟中验证。
2023-09-28 cs.AI cs.MA cs.RO