SAGA: A Submodular Greedy Algorithm For Group Recommendation
QCRI, HBKU(哈马德·本·哈利法大学卡塔尔计算研究所);Apptopia Inc.(Apptopia公司)
在本文中,我们提出了一个统一的框架和算法的群体推荐问题,其中一个固定数量的项目或替代品可以推荐给一组用户。群体推荐问题在现实生活中经常出现,与经济学中的预算社会选择问题密切相关。我们框架的组推荐问题,选择一个子图与最大的组共识得分在一个完全连接的图定义的项目亲和力矩阵。我们提出了一个快速的贪心算法具有较强的理论保证,并表明,该算法相比,最先进的组推荐算法,根据常用的相关性和覆盖率性能指标的基准数据集。
2017-12-25 cs.IR cs.LG stat.ML
SubZeroCore: A Submodular Approach with Zero Training for Coreset Selection
German Research Center for Artificial Intelligence (DFKI), Germany(德国人工智能研究中心(DFKI));RPTU Kaiserslautern-Landau, Germany(凯撒斯劳滕-兰道大学)
SubZeroCore提出一种零训练的核心集选择方法,通过子模覆盖与密度的统一目标及闭式解采样,无需训练即可匹配甚至超越基于训练的基线,并显著降低计算开销、增强对标签噪声的鲁棒性。
2025-09-26 cs.AI cs.LG
Robust Budget Allocation via Continuous Submodular Functions
Massachusetts Institute of Technology(麻省理工学院)
在过去的几年里,资源的最佳分配以最大限度地提高影响力、信息传播或覆盖范围,特别是在机器学习和数据采掘中,已经引起了人们的关注。但在实际应用中,问题的参数很少被精确地知道,使用错误的参数可能会导致不期望的结果。因此,我们从鲁棒优化的角度重新审视了Alon等人(2012)引入的预算分配或二分影响力最大化问题的连续版本。在这种情况下,对手可能会选择置信集内最不利的参数。由此产生的问题是一个非凹凸鞍点问题(或对策)。我们表明,这个非凸问题可以完全解决利用连接到连续的次模函数,并通过解决一个约束次模最小化问题。虽然有约束的子模最小化是很难在一般情况下,在这里,我们建立的条件下,这样的问题可以解决到任意精度$ε$。
2017-06-13 cs.AI cs.DS cs.LG
Submodlib: A Submodular Optimization Library
Indian Institute of Technology Bombay(印度理工学院孟买分校);University of Texas at Dallas(德克萨斯大学达拉斯分校)
次模函数是一类特殊的集合函数,它自然地模拟了代表性,多样性,覆盖等概念,并且已经被证明在计算上非常有效。过去的许多工作都应用子模块优化来寻找各种情况下的最优子集。一些示例包括用于高效人工消耗的数据汇总,找到有效的较小的训练数据子集以减少模型开发时间(训练,超参数调整),找到未标记数据的有效子集以降低标记成本,最近的一项工作也利用子模函数提出了子模信息测度,这些测度在解决引导子集问题中非常有用选择和引导总结。在这项工作中,我们提出了Submodlib,这是一个开源的,易于使用的,高效的和可扩展的Python库,用于子模块优化与C++优化引擎。Submodlib在总结、数据子集选择、超参数调整、高效训练等方面都有应用。通过丰富的API,它在使用方式上提供了很大的灵活性。Submodlib的源代码可以在https://github.com/decile-team/submodlib上找到。
2022-02-23 cs.IR cs.LG
Optimal Algorithms for Submodular Maximization with Distributed Constraints
University of Pennsylvania(宾夕法尼亚大学)
本文研究了一类以最大化子模目标函数为目标函数的分布式分割拟阵约束的离散最优化问题。更确切地说,我们认为一个网络的情况下,多个代理选择行动,从本地的战略集的目标是最大限度地提高一个子模块的目标函数定义的所有可能的行动。鉴于这种分布式设置,我们开发的约束分布式连续贪婪(CDCG),消息传递算法,收敛到紧$(1-1/e)$近似因子的最佳全局解,只使用本地计算和通信。众所周知,在分布式环境中,对于这类问题,顺序贪婪算法只能实现$1/2$乘法近似的最优解。我们的框架依赖于解除离散问题的连续域和发展的共识算法,实现了紧密的$(1-1/e)$近似保证的全球离散解决方案,一旦适当的舍入方案。我们还提供了一个多智能体区域覆盖问题的实证结果表明,该方法显着优于最先进的顺序贪婪方法。
2020-11-18 cs.DS cs.LG math.OC
Maximizing submodular functions using probabilistic graphical models
INRIA(法国国家信息与自动化研究所)
我们考虑最大化次模函数的问题,虽然这个问题是已知的NP-困难,几个数值有效的局部搜索技术与近似保证。本文基于次模函数、熵和概率图模型之间的关系,提出了一种新的凸松弛算法。在图形模型中,联合分布的熵分解为变量子集的边际熵之和;此外,对于任何分布,图形模型中分解的最接近分布的熵提供了熵的界限。对于有向图模型,这最后一个属性原来是熵函数的子模块化的直接后果,并允许推广的图形模型为基础的上界到任何子模块化的功能。这些上限,然后可以联合最大化相对于一组,而最小化相对于图形,导致凸变分推理方案最大化子模函数,基于外部近似的边缘多面体和最大似然有界树宽结构。通过考虑增加树宽的图,我们可以探索计算复杂性和松弛的紧密度之间的权衡。我们还提出了扩展约束问题和最大化的子模函数,其中包括所有可能的集函数的差异。
2013-09-10 cs.LG math.OC
Adaptive Submodularity: Theory and Applications in Active Learning and Stochastic Optimization
California Institute of Technology(加州理工学院);ETH Zurich(苏黎世联邦理工学院)
在部分可观测性下求解随机优化问题,其中需要自适应地做出具有不确定结果的决策,这是一个基本但众所周知的困难挑战。在本文中,我们引入了自适应子模块的概念,推广子模块集函数的自适应政策。我们证明了,如果一个问题满足这一性质,一个简单的自适应贪心算法是保证竞争的最优策略。除了为随机最大化和覆盖提供性能保证之外,还可以利用自适应子模块化通过使用惰性评估来大幅加速贪心算法。我们说明了有用的概念,给出了几个例子,自适应子模块化的目标在不同的应用,包括传感器的位置,病毒式营销和主动学习。证明这些问题的自适应子模块性,使我们能够恢复现有的结果在这些应用中的特殊情况下,提高近似保证和处理自然的推广。
2017-12-06 cs.AI cs.DS cs.LG
Scalable Submodular Policy Optimization via Pruned Submodularity Graph
Indian Institute of Technology Jammu(印度理工学院贾姆鲁学院)
本文针对奖励函数为子模函数的强化学习问题,提出基于剪枝子模图的可扩展策略优化方法,在保证近似性能的同时降低计算开销,实验表明其获得的奖励优于基线方法。
2025-07-18 cs.AI cs.LG cs.MA
Adaptive Submodular Ranking and Routing
University of Michigan(密歇根大学);Bloomberg LP(彭博有限合伙公司)
我们研究了一个一般的随机排名问题,算法需要自适应地选择一个序列的元素,以“覆盖”一个随机的情况下(从一个已知的分布),以最小的预期成本。每个场景的覆盖率由单独的子模块函数捕获,其中当其函数值超过给定阈值时,该场景被称为被覆盖。我们得到一个对数因子近似算法,这是最好的可能(除非P=NP)的自适应排名问题。这个问题统一和推广了许多以前研究的问题,在搜索排名和主动学习的应用。我们的算法的近似比匹配或提高了在这些特殊情况下已知的最佳结果。此外,我们将我们的结果扩展到一个自适应车辆路径问题,其中成本是由一个基本的度量。这个路由问题是一个显着的推广以前研究的自适应旅行推销员和旅行修理工问题。我们的近似比几乎匹配这些特殊情况下已知的最佳界限。最后,我们提出了一些应用程序的自适应排名的实验结果。
2019-02-05 cs.DS cs.LG
Decomposable Submodular Maximization in Federated Setting
Halıcıoğlu Data Science Institute, University of California, San Diego(加州大学圣地亚哥分校哈利西奥格鲁数据科学学院)
针对数百万组件函数的可分解次模优化计算成本高且组件函数存在隐私限制的问题,提出一种联邦优化设置,通过并行局部步长和间歇性子采样聚合实现连续贪心算法,在显著降低通信成本的同时保证良好近似解,并应用于最大覆盖和设施选址等基本问题。
2024-06-03 cs.AI cs.DC cs.DS
PostDoc: Generating Poster from a Long Multimodal Document Using Deep Submodular Optimization
International Institute of Information Technology, Bangalore(班加罗尔国际信息技术学院);Adobe Research(奥多比研究院);IIT Bombay(印度理工学院孟买分校)
本文提出PostDoc框架,利用深度子模函数从长文档提取多模态内容并确保覆盖、多样性与对齐,结合基于LLM的改写器生成设计模板,实现长文档到海报的自动转换。
2024-05-30 cs.AI cs.CL cs.LG
Balancing Utility and Fairness in Submodular Maximization (Technical Report)
East China Normal University(华东师范大学);Singapore Management University(新加坡管理大学);CENTAI Institute(CENTAI研究所);Eurecat(Eurecat技术中心)
针对子模最大化中效用与公平性难以兼顾的问题,提出双准则子模最大化(BSM)问题,并设计两种实例相关近似算法,在最大覆盖、影响力最大化和设施选址中验证了有效性。
2023-06-19 cs.DS cs.LG
Maximum n-times Coverage for Vaccine Design
Massachusetts Institute of Technology(麻省理工学院)
我们引入了最大$n$次覆盖问题,选择$k$覆盖,以最大限度地提高加权元素的总覆盖率,其中每个元素必须覆盖至少$n$次。我们还定义了最小成本的$n$倍覆盖问题,其目标是选择覆盖的最小集合,使得覆盖至少$n$倍的元素的权重之和至少为$τ$。最大$n$次覆盖问题是多集多覆盖问题的推广,是NP完全的,并且不是子模的。针对$n$ -次覆盖问题,提出了基于整数线性规划和序列贪婪优化的两种新的实用解决方案。我们表明,最大$n$倍覆盖率是构建肽疫苗设计的自然方式,并发现它产生的泛毒株COVID-19疫苗设计在预测的群体覆盖率和每个个体HLA分子显示的预期肽数方面优于其他29种已发表的设计。
2022-05-04 cs.LG q-bio.QM
Scalable Variational Inference in Log-supermodular Models
ETH Zurich(苏黎世联邦理工学院)
研究了对数超模模型中的近似贝叶斯推断问题。这些模型包含具有二进制变量的常规成对MRF,但允许捕获高阶相互作用,这对于现有的近似推理技术(如置信传播、平均场和变体)是难以处理的。我们表明,最近提出的变分方法,在对数超模块化模型-L-FIELD-推断减少到广泛研究的最小范数问题的次模块化。这种洞察力允许利用强大的现有工具,从而比以前更有效地解决变分问题的数量级。然后,我们提供了另一个自然的解释L-FIELD,证明它正好最小化一个特定类型的Rényi散度测度。这种见解揭示了L-场产生的变分近似的性质。此外,我们展示了如何执行并行推理作为消息传递在一个合适的因子图的线性收敛速度,而不必总结了所有配置的因素。最后,我们将我们的方法应用于一个具有挑战性的图像分割任务。我们的实验证实了我们的方法的可扩展性,高质量的边缘,并将高阶电位的好处。
2015-02-24 cs.LG stat.ML
Near-Optimal Multi-Agent Learning for Safe Coverage Control
ETH Zurich(苏黎世联邦理工学院)
在多智能体覆盖控制问题中,智能体在其环境中导航以到达最大化某些密度的覆盖的位置。在实践中,密度是很少知道的$\textit{a priori}$,进一步复杂化原来的NP难问题。此外,在许多应用中,由于$\textit{a priori}$未知的安全约束,代理不能访问任意位置。在本文中,我们的目标是有效地学习密度近似解决覆盖问题,同时保持代理的安全性。我们首先提出了一个条件线性子模覆盖函数,便于理论分析。利用这种结构,我们开发了MacOpt,一种新的算法,有效地权衡了由于部分可观测性的探索-开发困境,并表明它实现了次线性遗憾。接下来,我们将单代理安全探索的结果扩展到我们的多代理设置,并提出SafeMac的安全覆盖和探索。我们分析了SafeMac,并给出了第一个同类结果:在有限时间内接近最佳覆盖率,同时可证明保证安全性。我们广泛评估我们的算法在合成和实际问题,包括生物多样性监测任务的安全约束下,SafeMac优于竞争的方法。
2022-10-12 cs.AI cs.LG cs.MA
Variational Inference with Coverage Guarantees in Simulation-Based Inference
University of Michigan(密歇根大学)
提出CANVI程序,通过共形化方法为摊销变分推断提供边际覆盖保证,在模拟推断任务中实现准确校准与高预测效率。
2024-07-25 cs.LG stat.ME
Select Smarter, Not More: Prompt-Aware Evaluation Scheduling with Submodular Guarantees
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Xi’an Jiaotong University(西安交通大学);Taobao and Tmall Group(淘宝天猫集团)
本文提出POES方法,通过整合信息论评分、设施覆盖和切换成本,实现子模保证的评估调度,提升提示优化效率与准确性。
2026-04-13 cs.AI cs.LG
Annealed Stein Variational Gradient Descent
ETH Zürich(苏黎世联邦理工学院)
基于粒子的优化算法最近已经被开发为迭代地更新一组粒子以近似目标分布的采样方法。特别是Stein变分梯度下降已经获得了近似推理文学的灵活性和准确性的关注。我们经验性地探索了这种方法从多模态分布中采样的能力,并专注于两个重要问题:(i)粒子无法从局部模式中逃脱;(ii)在再现不同区域的密度时的无效性。我们提出了一个退火时间表来解决这些问题,并显示,通过各种实验,这个简单的解决方案如何导致模式覆盖率的显着改善,而不会使原算法的任何理论属性无效。
2021-03-18 cs.LG
Fair and Representative Subset Selection from Data Streams
University of Helsinki(赫尔辛基大学);Pompeu Fabra University(庞培法布拉大学);Eurecat(Eurecat技术中心)
我们研究的问题,从一个大的数据流中提取一个小的代表性项目的子集。在许多数据挖掘和机器学习应用中,例如社会网络分析和推荐系统,这个问题可以被公式化为最大化服从基数约束的单调子模函数$k$。在这项工作中,我们考虑设置在流中的数据项属于几个不相交的组之一,并调查的优化问题与一个额外的\emph{fairness}约束,限制选择到一个给定数量的项目从每个组。然后,我们提出了有效的算法的公平性感知的流子模块最大化问题的变体。特别是,我们首先给出了一个$ (\frac{1}{2}-\varepsilon) $近似算法,需要$ O(\frac{1}{\varepsilon} \log \frac{k}{\varepsilon}) $通过流的任何常数$ \varepsilon>0 $。此外,我们给出了一个单通流算法,具有相同的近似比的$(\frac{1}{2}-\varepsilon)$时,无限的缓冲区大小和后处理时间是允许的,并讨论如何适应更实际的设置,缓冲区大小是有界的。最后,我们证明了我们提出的算法的效率和有效性在两个现实世界的应用程序,即\emph{maximum coverage on large graphs}和\emph{personalized recommendation}。
2021-02-12 cs.DS cs.LG