Randomized Greedy Learning for Non-monotone Stochastic Submodular Maximization Under Full-bandit Feedback
KAUST（阿卜杜拉国王科技大学）；Purdue University（普渡大学）；Iowa State University（爱荷华州立大学）
研究了具有完全反馈和随机报酬的无约束组合多臂次模最大化问题。以前的作品调查同样的问题，假设一个子模块和单调的奖励函数。在这项工作中，我们研究了一个更普遍的问题，即，当报酬函数不一定是单调的，并且子模块性仅在期望中被假设时。提出了随机贪婪学习算法（RGL），并从理论上证明了该算法对于水平$T$和臂数$n$都达到了$\frac{1}{2}$ -遗憾上界$\tilde{\mathcal{O}}(n T^{\frac{2}{3}})$.我们还表明，在实验中，RGL经验优于其他充分的强盗变种submodular和nonsubmodular设置。
2023-02-02 cs.AI cs.LG math.OC
Multi-Agent Combinatorial-Multi-Armed-Bandit framework for the Submodular Welfare Problem under Bandit Feedback
Indian Institute of Technology Ropar, Rupnagar, India（印度理工学院罗帕尔分校）；Purdue University, West Lafayette, USA（普渡大学）
本文提出多代理组合老虎机框架，用于在带反馈下解决亚模性福利问题，通过探索后承诺策略实现O(T^{2/3})的遗憾界。
2026-02-18 cs.GT cs.LG stat.ML
Stochastic $k$-Submodular Bandits with Full Bandit Feedback
Iowa State University（爱荷华州立大学）；Purdue University（普渡大学）
本文针对全赌博机反馈下的在线 $k$-子模优化，提出首个次线性 $\alpha$-遗憾界，覆盖多种约束场景，通过离线到在线框架转化算法，并分析离线算法的鲁棒性。
2024-12-14 cs.DS cs.LG stat.ML
Submodular Bandit Problem Under Multiple Constraints
Fuji Xerox Co., Ltd.（富士施乐公司）
提出了一种线性次模强盗问题，以同时解决推荐系统中的多样化检索和在线学习问题。如果不存在不确定性，则该问题等价于基数约束下的子模最大化问题。然而，在某些情况下，推荐列表应该满足额外的约束，例如预算约束，而不是基数约束。因此，出于多样化的检索考虑预算约束，我们引入了一个子模块的强盗问题下的交集$l$背包和$k$系统的约束。这里，$k$-系统约束形成非常一般的一类约束，包括基数约束和$k$拟阵约束的交集。为了解决这个问题，我们提出了一个非贪心算法，自适应地集中在一个标准的或修改后的置信上限。我们提供了一个高概率的近似遗憾的上限，其中的近似比匹配的快速离线算法。此外，我们使用合成和两个真实世界的数据集进行各种组合的约束下的实验，并证明我们提出的方法优于现有的基线。
2021-03-29 cs.LG stat.ML
Linear Submodular Maximization with Bandit Feedback
Texas A&M University（德克萨斯农工大学）
本文研究系数未知且仅能通过带噪声查询访问的线性次模函数最大化问题，提出受线性赌博机最佳臂识别启发的自适应分配算法，并在移动推荐实例上验证其显著提升样本效率。
2024-07-02 cs.DS cs.LG
Bandit Guided Submodular Curriculum for Adaptive Subset Selection
Indian Institute of Technology Bombay（印度理工学院孟买分校）
本文提出ONLINESUBMOD方法，通过多臂老虎机框架和亚模函数优化，实现自适应子集选择，提升课程学习的准确性与效率。
2025-11-28 cs.AI cs.LG
Online Learning for Non-monotone Submodular Maximization: From Full Information to Bandit Feedback
City University of Hong Kong（香港城市大学）；Cainiao Network（菜鸟网络）；National University of Singapore（新加坡国立大学）
在本文中，我们重新审视在线非单调连续DR-次模最大化问题的下闭凸集，发现广泛的现实世界中的应用领域的机器学习，经济学和运筹学。首先，我们提出了Meta-MFW算法，以每轮$T^{3/2}$随机梯度评估为代价，实现了$O(\sqrt{T})$的$1/e$ -遗憾。Meta-MFW是第一个针对下闭凸集上的在线非单调连续DR-次模极大化问题获得$O(\sqrt{T})$的$1/e$ -后悔的算法。此外，与ODC算法\citep{thang2021online}形成鲜明对比，Meta-MFW依赖于简单的在线线性预言，没有离散化，提升或舍入操作。考虑到实际应用的限制，我们提出了Mono-MFW算法，该算法将$T^{3/2}$的每个函数的随机梯度估计减少到1，并达到了$O(T^{4/5})$的$1/e$ -遗憾界。其次，我们将Mono-MFW扩展到Bandit环境，提出了Bandit-MFW算法，该算法达到了$O(T^{8/9})$的$1/e$ -遗憾界。据我们所知，Mono-MFW和Bandit-MFW是第一个次线性后悔算法，分别探索下闭凸集上的在线非单调连续DR-次模极大化问题的一次性和强盗设置。最后，我们在合成和真实世界的数据集上进行了数值实验，以验证我们的方法的有效性。
2022-08-16 cs.LG math.OC
Stochastic Submodular Bandits with Delayed Composite Anonymous Bandit Feedback
McGill University（麦吉尔大学）；Mila - Quebec Artificial Intelligence Institute（米拉-魁北克人工智能研究所）；Purdue University（普渡大学）
本文研究具有随机子模奖励和延迟复合匿名反馈的组合多臂赌博机问题，提出三种延迟模型下的遗憾界，并证明算法优于其他全臂方法。
2025-01-22 cs.AI cs.DS cs.LG
Global Reinforcement Learning: Beyond Linear and Convex Rewards via Submodular Semi-gradient Methods
ETHZ（苏黎世联邦理工学院）
针对经典强化学习加性目标无法建模状态间相互作用的局限，提出奖励在轨迹上全局定义的全局强化学习，结合子模优化设计可转化为经典RL序列问题的算法，提供近似保证与难度结果并验证有效性。
2024-07-13 cs.LG
Recurrent Submodular Welfare and Matroid Blocking Bandits
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
最近的一系列研究集中在随机多武装土匪问题（MAB）的研究上，在这种情况下，玩家的行动和武器的奖励分布之间施加了特定结构的时间相关性（Kleinberg和Immorlica [FOCS 18]，Basu等人[NeurIPS 19]）。与标准MAB设置相反，在事后的最佳解决方案可以被平凡地表征，这些相关性导致（次）最佳解决方案，表现出有趣的动态模式-一种从算法和学习角度都产生新挑战的现象。在这项工作中，我们将上述方向扩展到一个组合的强盗设置和研究随机MAB的一个变体，其中武器受到拟阵约束，每个手臂变得不可用（阻止）为固定数量的回合后，每次播放。一个自然的共同推广的国家的最先进的阻塞土匪，和拟阵土匪，产生一个$(1-\frac{1}{e})$ -近似的分割拟阵，但它只保证一个$\frac{1}{2}$ -近似的一般拟阵。在本文中，我们开发了新的算法思想，使我们能够获得多项式时间的$(1 - \frac{1}{e})$ -近似算法（渐近和期望）的任何拟阵，从而控制$(1-\frac{1}{e})$ -近似遗憾。一个关键的组成部分是相关（交错）调度技术。一路上，我们发现了一个有趣的连接子模块化福利最大化的一个变种，我们提供（渐近）匹配的上下近似界。
2021-02-28 cs.DS cs.LG
Logarithmic Regret for Unconstrained Submodular Maximization Stochastic Bandit
Criteo AI Lab（Criteo人工智能实验室）；Univ. Grenoble Alpes（格勒诺布尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；LJK（让·昆廷诺实验室）
针对随机老虎机反馈下的在线无约束子模极大化问题，提出适配双贪心方法的DG-ETC算法，其1/2近似伪遗憾同时满足问题依赖的O(d log(dT))和无问题依赖的O(dT²/³ log(dT)¹/³)上界，性能优于现有方法，并刻画了上界区间过渡的难度概念。
2025-02-12 cs.LG math.CO math.OC
Diversified Multinomial Logit Contextual Bandits
Seoul National University（首尔国立大学）
研究针对现有上下文多项式逻辑回归博弈忽略品类内多样性、次模/组合博弈缺乏结构化选择概率的问题，提出多样化多项式逻辑回归（DMNL）上下文博弈及白盒UCB算法OFU-DMNL，给出遗憾界，实验证明其有收益且运行高效。
2026-09-29 cs.LG stat.ML
Nearly Minimax Optimal Submodular Maximization with Bandit Feedback
University of Washington（华盛顿大学）
该研究针对随机老虎机反馈下带基数约束的未知单调子模函数最大化问题，建立了首个极小极大遗憾下界及受限算法类的更强下界，并提出Sub-UCB算法，其遗憾上界在对数因子内匹配受限类的下界。
2024-12-12 cs.LG stat.ML
Adversarial Resilience of Poisson-Process Submodular Maximization over Matroids, and Full-Bandit Learning
Purdue University（普渡大学）
该研究针对拟阵约束的子模最大化问题，证明了SGS-Poisson算法的对抗鲁棒性，并将其归约得到具有特定近似-遗憾因子的全臂赌博机CMAB算法。
2026-09-09 cs.AI cs.CC cs.LG
Supermodular Rank: Set Function Decomposition and Optimization
UCLA（加州大学洛杉矶分校）；Harvard University（哈佛大学）；MPI MiS（马克斯·普朗克数学研究所）
本文定义了格上函数的超模秩与子模秩，并提出一种利用子模分解将优化问题拆分为子模子问题的算法，从而在取决于子模秩的计算开销下，有效提升了单调集合函数最大化等问题的近似比保证。
2026-10-22 cs.CC cs.DM cs.LG
Submodular Reinforcement Learning
ETH Zurich（苏黎世联邦理工学院）
针对奖励递减回报问题，提出子模强化学习（SubRL）范式及基于策略梯度的SubPO算法，通过贪婪最大化边际增益处理非可加奖励，在多种应用中实现样本高效和高维可扩展性。
2024-05-24 cs.LG
Upper-Linearizability of Online Non-Monotone DR-Submodular Maximization over Down-Closed Convex Sets
Purdue University（普渡大学）；IIT Indore（印度理工学院Indore）；Mila - Quebec AI Institute/McGill University（魁北克AI研究所/麦吉尔大学）
本文提出了一种将非单调DR-子模最大化问题转化为在线线性优化的方法，实现了O(T^{1/2})的静态后悔和改进的动态后悔保证。
2026-07-13 cs.LG math.OC stat.ML
Corporate Needs You to Find the Difference: Revisiting Submodular and Supermodular Ratio Optimization Problems
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Carleton University（卡尔顿大学）
研究子模/超模集合函数平均值的最优化问题，引入USSS与UDSS两种新表述，证明其与DSS、SFM等经典问题在强多项式时间归约下等价，并利用Fujishige-Wolfe算法和SuperGreedy++作为通用求解器，实验表明通用凸方法与流方法在多种问题上优于专用基线。
2025-05-23 cs.DS cs.LG
A Framework for Adapting Offline Algorithms to Solve Combinatorial Multi-Armed Bandit Problems with Bandit Feedback
提出通用框架，将离线近似算法适配为组合多臂老虎机问题的次线性α-遗憾方法，仅需老虎机反馈，并应用于子模最大化，实验优于对抗性全老虎机方法。
2023-10-11 cs.AI cs.DS cs.LG
Decentralized Projection-free Online Upper-Linearizable Optimization with Applications to DR-Submodular Optimization
Purdue University（普渡大学）；Mila - Quebec AI Institute/McGill University（魁北克AI研究所/麦吉尔大学）
本文提出了一种去中心化投影自由优化框架，用于解决DR-子模优化问题，并在不同反馈模型下实现了高效的算法性能。
2026-10-01 cs.CC cs.LG math.OC
Online Nonsubmodular Optimization with Delayed Feedback in the Bandit Setting
针对老虎机场景下带延迟反馈的在线非子模优化问题，提出两种算法分别解决已有悔界依赖最大延迟、延迟与反馈效应耦合的局限，并通过结构化稀疏学习实验验证了方法优越性。
2025-08-01 cs.LG
Exploiting Structure of Uncertainty for Efficient Matroid Semi-Bandits
INRIA Lille - Nord Europe（法国国家信息与自动化研究所里尔-北欧洲分所）；ENS Paris-Saclay（巴黎萨克雷高等师范学院）；Criteo AI Lab（Criteo人工智能实验室）；DeepMind（深度思维）
我们提高了随机\emph{combinatorial semi-bandits}算法的效率。在大多数有趣的问题中，最先进的算法利用奖励的结构属性，例如\emph{independence}。然而，虽然是最佳的渐近遗憾，这些算法是低效的。在我们的论文中，我们首先减少他们的实现到一个特定的\emph{submodular maximization}。然后，在\emph{matroid}约束的情况下，我们设计了适应的近似例程，从而提供了第一个有效的算法，依赖于奖励结构，以提高遗憾界。特别是，我们提高了国家的最先进的有效的无间隙的遗憾约束的一个因素$\sqrt{m}/\log m$，其中$m$是最大的动作大小。最后，我们将展示我们的改进如何转化为更一般的\emph{budgeted combinatorial semi-bandits}。
2019-06-21 cs.LG stat.ML
A Resilience Framework for Bi-Criteria Combinatorial Optimization with Bandit Feedback
Purdue University（普渡大学）；IIT Ropar（罗帕尔理工学院）；Iowa State University（爱荷华州立大学）
本文提出双目标组合优化的鲁棒框架，通过带反馈机制将离线算法转化为在线算法，实现子线性遗憾和约束违反的渐近最优。
2026-05-08 cs.AI cs.GT cs.LG
A submodular-supermodular procedure with applications to discriminative structure learning
University of Washington（华盛顿大学）
在本文中，我们提出了一个算法，用于最小化两个子模函数之间的差异，使用变分框架，这是基于凹凸过程（的扩展）[17]。由于机器学习中的几个常用度量，如互信息和条件互信息，是子模块化的，因此在许多机器学习应用中自然会出现最小化两个子模块化问题的差异的问题。两个这样的应用是学习有区别的结构化图形模型和计算复杂性约束下的特征选择。用于测量辨别能力的常用度量是两个条件互信息项之间的差的互信息度量。考虑复杂性的特征选择也属于这个框架，因为一组特征提供的信息以及计算和使用特征的成本都可以建模为子模块函数。这个问题是NP-难的，我们给了一个多项式时间启发式算法。我们还提出了对合成数据的结果表明，基于判别图模型的分类器使用该算法可以显着优于基于生成图模型的分类器。
2012-07-04 cs.DS cs.LG stat.ML
Projection-Free Bandit Optimization with Privacy Guarantees
Boston University（波士顿大学）；Northeastern University（东北大学）；CNRS（法国国家科学研究中心）；Université de Paris（巴黎大学）
针对无投影条件下的强盗凸优化问题，设计了差分隐私算法。当决策集具有复杂的几何形状时，这个设置是很重要的，并且只有通过线性优化预言才能有效地访问它，因此欧几里得投影不可用（例如拟阵多面体，子模基多面体）。这是第一个用于无投影强盗优化的差分私有算法，事实上，我们的$\widetilde{O}(T^{3/4})$的界与最知名的非私有无投影算法（Garber-Kretzu，AISTATS `20）和最知名的私有算法相匹配，即使是在投影可用时的较弱设置（Smith-Thakurta，NeurIPS `13）。
2020-12-22 cs.CR cs.DS cs.LG
Fair Algorithms with Probing for Multi-Agent Multi-Armed Bandits
本文提出了一种多智能体多臂老虎机框架，通过引入探针机制在保证公平性的同时提升系统性能。
2026-01-27 cs.AI cs.LG
A Parameterized Family of Meta-Submodular Functions
Georgia Tech（佐治亚理工学院）；ETH Zurich（苏黎世联邦理工学院）；UBC（不列颠哥伦比亚大学）
Submodular function maximization has found a wealth of new applications in machine learning models during the past years. The related supermodular maximization models (submodular minimization) also offer an abundance of applications, but they appeared to be highly intractable even under simple cardinality constraints. Hence, while there are well-developed tools for maximizing a submodular function subject to a matroid constraint, there is much less work on the corresponding supermodular maximization problems. We give a broad parameterized family of monotone functions which includes submodular …
2020-06-23 cs.CG cs.DM cs.DS
LOFA: Online Influence Maximization under Full-Bandit Feedback using Lazy Forward Selection
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
LOFA通过利用次模性质和懒惰前向选择，在全伯德反馈下实现更低的实证后悔，优于现有算法。
2026-01-02 cs.AI cs.LG cs.SI
Distributed Online Submodular Maximization under Communication Delays: A Simultaneous Decision-Making Approach
University of Michigan（密歇根大学）
本文提出分布式在线贪心算法DOG，解决通信延迟下的子模优化问题，通过结合对抗性带宽学习与延迟反馈，在任意网络拓扑中实现同时决策，分析协调性能与收敛时间的权衡。
2026-08-14 cs.LG cs.MA cs.SY
Parameter Learning for Log-supermodular Distributions
INRIA（法国国家信息与自动化研究所）；Département d’Informatique de l’École Normale Supérieure, Paris（巴黎高等师范学校计算机科学系）；CNRS - ENS - INRIA（法国国家科学研究中心 - 巴黎高等师范学校 - 法国国家信息与自动化研究所）
我们考虑二进制变量的对数超模模型，这是概率模型的负对数密度是次模。这些模型提供了常见的组合优化任务，如图像分割的概率解释。在本文中，我们主要集中在参数估计的模型，从已知的上界的棘手的对数分割函数。我们表明，可分离优化的基础上的子模函数的多面体的基础上的界总是劣于一个界的基础上的“扰动和MAP”的想法。然后，为了学习参数，考虑到我们对对数配分函数的近似是一个期望（在我们自己的随机化之上），我们使用随机次梯度技术来最大化对数似然的下限。这也可以扩展到条件极大似然。我们在一组二值图像去噪实验中说明了我们的新结果，其中我们强调了概率模型在缺失数据学习中的灵活性。
2016-08-18 cs.LG stat.ML
Networked Restless Multi-Arm Bandits with Reinforcement Learning
Carnegie Mellon University（卡内基梅隆大学）；Georgia Institute of Technology（佐治亚理工学院）
本文提出网络化RMAB框架，结合RMAB与独立级联模型以捕捉网络环境中的臂间相互作用，并通过Q学习算法验证了网络效应的重要性。
2025-12-06 cs.AI cs.LG
Multi-Point Bandit Algorithms for Nonstationary Online Nonconvex Optimization
University of California, Davis（加州大学戴维斯分校）；Princeton University（普林斯顿大学）
Bandit算法主要是在凸环境下分析的，其性能指标是基于函数值的固定后悔。在本文中，在线强化学习问题的动机，我们提出并分析了一般和结构化的非凸问题与非平稳（或动态）遗憾的性能指标，在随机和非随机设置的强盗算法。首先，对于一般的非凸函数，我们考虑非平稳版本的一阶和二阶固定的解决方案作为一个遗憾的措施，出于类似的性能措施离线非凸优化。在二阶固定解决方案的遗憾的情况下，我们提出并分析在线和土匪版本的立方正则化牛顿的方法。强盗版本是基于估计的海森矩阵的强盗设置，基于二阶高斯斯坦的身份。我们的非平稳遗憾界的二阶固定的解决方案有有趣的后果，避免鞍点的强盗设置。其次，对于弱拟凸函数和单调弱次模函数，我们考虑用函数值表示的非平稳后悔测度;这样的非凸函数的结构类使得人们可以考虑用函数值定义的后悔测度，类似于凸函数。对于这种情况下的功能值，和一阶固定的解决方案为基础的遗憾措施，我们提供遗憾的界限，在低维和高维的设置，在某些情况下。
2019-09-11 cs.DS cs.LG math.OC
Meritocratic Fairness via $K$-Shapley Values in Budgeted Combinatorial Bandits with Full-Bandit Feedback
Indian Institute of Technology Ropar（印度理工学院罗帕尔）
本文提出一种新的预算化组合多臂老虎机框架，通过扩展Shapley值到K-Shapley值，解决了全反馈环境下个体臂贡献的计算问题，并提出了K-SVFair-FBF算法，实现了公平性与效率的平衡。
2026-08-04 cs.AI cs.LG cs.MA
A Convex Surrogate Operator for General Non-Modular Loss Functions
Inria（法国国家信息与自动化研究所）；CentraleSupélec, Université Paris-Saclay（巴黎萨克雷大学中央理工-高等电力学院）；KU Leuven（鲁汶大学）
经验风险最小化经常采用凸替代底层离散损失函数，以实现优化过程中的计算易处理性。然而，经典的凸代理只能紧绑定模损失函数，子模函数或超模函数分别保持多项式时间的计算。在这项工作中，一种新的通用凸代理一般非模块化的损失函数，这是第一次提供了一个易于处理的解决方案，既不是超模块化，也不是次模块化的损失函数。这种凸代理是基于一个子模-超模分解，本文证明了其存在性和唯一性。它取两个凸代理的和，这两个凸代理分别使用松弛重缩放和Lov{á}sz铰链来分别绑定超模分量和子模分量。它进一步证明了这个代理是凸的，分段线性的，损失函数的扩展，次梯度计算是多项式时间。实验结果报告的非次模损失的基础上的S{}rensen-Dice差异函数，和一个真实世界的人脸跟踪数据集与数万帧，证明了改进的性能，效率和可扩展性的新的凸代理。
2016-04-12 cs.LG stat.ML
Top-$k$ Pareto Bandits: Hypervolume Regret for Multi-Objective Slate Selection
针对多目标老虎机中多臂候选集的帕累托前沿近似问题，提出基于超体积贡献乐观估计的THV-UCB算法，定义近似超体积遗憾，给出无间隙和间隙相关的遗憾界，为小集合近似帕累托前沿提供理论支撑。
2026-07-30 cs.AI cs.LG stat.ML
Online Non-Monotone DR-Submodular Maximization Matching the Offline $0.401$ Factor
Purdue University（普渡大学）
该研究针对d维单位立方体紧凸下闭子集上的非负非单调DR-子模函数在线最大化问题，提出算法实现与离线相当的0.401近似因子，同时具有次线性近似遗憾，还通过批处理等优化调整神谕调用与遗憾的权衡。
2026-09-03 cs.AI cs.CC cs.LG
Batch greedy maximization of non-submodular functions: Guarantees and applications to experimental design
Massachusetts Institute of Technology（麻省理工学院）
提出并分析了非子模非减集函数基数约束最大化问题的批量贪婪算法。我们考虑标准的贪婪范式，以及它的分布式贪婪和随机贪婪的变种。我们的理论保证的特点是子模块化和超模块化比率的组合。我们认为，这些参数如何定义紧模块化边界的增量增益的基础上，并提供了一种新的重新解释的经典贪婪算法使用minorize-maximum（MM）的原则。基于这种类比，我们提出了一类新的方法，利用任何合理的模块化界限。在线性贝叶斯逆问题的最优试验设计中，当目标函数是基于互信息时，我们定义了子模块度和超模块度的比值.我们还开发了新的模块化界限的互信息在这种情况下，并描述了某些连接到多面体组合。我们讨论如何使用这些模块化的界限算法与建立的统计概念，如杠杆分数和最近的努力，如体积采样。我们展示了我们的理论研究结果的合成问题和现实世界的气候监测的例子。
2021-08-10 cs.DM cs.DS cs.LG
Combinatorial Stochastic-Greedy Bandit
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Iowa State University（爱荷华州立大学）；Purdue University（普渡大学）
针对组合多臂老虎机仅能观测联合奖励、基础臂规模大的问题，提出SGB算法，通过采样优化比例未选臂的方式提升效率，证明了更优的遗憾界，且在社交影响力最大化任务中性能随k增大优势更显著。
2023-12-13 cs.AI cs.LG math.CO
Federated Combinatorial Multi-Agent Multi-Armed Bandits
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；Purdue University（普渡大学）
论文提出面向老虎机反馈在线组合优化的联邦多智能体框架，可将离线 $(α-ε)$-近似算法转化为低遗憾、通信高效且随智能体数线性加速的在线算法。
2024-05-09 cs.AI cs.DM cs.LG
From Linear to Linearizable Optimization: A Novel Framework with Applications to Stationary and Non-stationary DR-submodular Optimization
McGill University（麦吉尔大学）；Mila（米拉）；Purdue University（普渡大学）
本文提出上可线性化函数框架，将线性/二次最大化算法统一转换为优化此类函数，应用于DR-子模最大化，首次实现动态与自适应遗憾保证，并在更少假设下改进现有最优结果。
2026-09-15 cs.CC cs.LG math.OC
Differentially Private Online Submodular Optimization
Georgia Institute of Technology（佐治亚理工学院）
在本文中，我们开发了第一个算法在线子模最小化，保持差分隐私下的完全信息反馈和强盗反馈。$n$元素集合上的$T$子模块函数序列在线到达，并且在每个时间步，算法必须在看到函数之前选择$[n]$的子集。该算法产生的成本等于在所选集合上评估的函数，并试图选择一个序列的集合，实现低预期的遗憾。我们的第一个结果是在全信息设置中，算法可以在每个时间步做出决策后观察整个函数。我们给出了一个算法，在这种情况下，是$ε$ -差分隐私，并达到预期的遗憾$\tilde{O}\left(\frac{n^{3/2}\sqrt{T}}ε\right)$。该算法利用Lovasz扩张将次模函数松弛为凸函数，并模拟了一个差分私有在线凸优化算法。我们的第二个结果是在bandit设置中，算法只能看到其选择的集合所产生的成本，并且不能访问整个函数。该设置明显更具挑战性，因为算法没有接收到足够的信息来计算Lovasz扩展或其子梯度。相反，我们使用单点估计构建无偏估计，然后使用此估计模拟私人在线凸优化。我们的算法使用强盗反馈是$ε$ -差分私有的，并达到预期的遗憾$\tilde{O}\left(\frac{n^{3/2}T^{3/4}}ε\right)$。
2018-07-06 cs.DS cs.LG stat.ML
Unified Projection-Free Algorithms for Adversarial DR-Submodular Optimization
Purdue University（普渡大学）；Iowa State University（爱荷华州立大学）
本文提出统一的Frank-Wolfe型无投影算法用于对抗性连续DR-次模优化，覆盖全信息与（半）赌博机反馈、单调与非单调函数及多种约束，在非单调设置中首次获得次线性α-遗憾界，在单调设置8个案例中7个达到最优水平。
2024-04-26 cs.AI cs.CC cs.LG
Online Nonsubmodular Minimization with Delayed Costs: From Full Information to Bandit Feedback
University of California, Berkeley（加州大学伯克利分校）；Microsoft Research（微软研究院）
受稀疏估计和贝叶斯优化中在线学习应用的启发，我们考虑了在完全信息和强盗反馈两种情况下，具有延迟代价的在线无约束非次模极小化问题.与以往的在线无约束次模极小化工作相比，我们专注于一类具有特殊结构的非次模函数，并证明了在静态和延迟情况下在线和近似在线强盗梯度下降算法的几个变体的遗憾保证。我们推导出的代理人的遗憾在充分的信息和强盗反馈设置，即使选择一个决定和接收所产生的成本之间的延迟是无界的。我们的方法的关键是$(α, β)$ -遗憾的概念和扩展的通用凸松弛模型从~ \citet{El-2020-Optimal}，其中的分析是独立的兴趣。我们进行并展示了几个模拟研究，以证明我们的算法的有效性。
2022-06-01 cs.LG
Online Submodular Maximization via Online Convex Optimization
Northeastern University（东北大学）；Boston University（波士顿大学）
研究一般拟阵约束下的单调次模最大化在线优化问题，通过证明加权阈值势函数可凹松弛，将其归约为在线凸优化（OCO），结合舍入方案实现次线性遗憾，并扩展至动态遗憾、老虎机和乐观学习设定。
2024-01-08 cs.AI cs.LG math.OC
One Gradient Frank-Wolfe for Decentralized Online Convex and Submodular Optimization
Inria（法国国家信息与自动化研究所）；University Grenoble-Alpes（格勒诺布尔-阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）
近年来，分散学习在联邦学习中的广泛应用引起了人们的广泛关注。以往的研究大多集中在离线设置的目标函数是静态的。然而，在众多见证海量数据变化的机器学习应用程序中，离线设置变得不切实际。在本文中，我们提出了\emph{decentralized online}算法的凸和连续DR-次模优化，两类功能，存在于各种机器学习问题。我们的算法实现的性能保证相媲美的集中式离线设置。此外，平均而言，每个参与者在每个时间步仅执行\emph{single}梯度计算。随后，我们将我们的算法扩展到强盗设置。最后，我们说明了我们的算法在现实世界的实验中的竞争力的表现。
2022-10-30 cs.DS cs.LG math.OC
A Unified Approach for Maximizing Continuous DR-submodular Functions
Purdue University（普渡大学）；Iowa State University（爱荷华州立大学）
本文提出一种统一的Frank-Wolfe型方法最大化连续DR-次模函数，覆盖单调/非单调、梯度/函数值、确定性/随机预言机等设置，在16种情况中9种取得新或改进结果，并首次给出随机函数值预言机下的赌博机反馈遗憾界。
2024-01-12 cs.AI cs.CC cs.LG
Model-Independent Online Learning for Influence Maximization
University of British Columbia（英属哥伦比亚大学）；Adobe Research（奥多比研究院）；DeepMind（深度思维）
我们考虑在社交网络中的影响力最大化（IM），这是通过选择一组“种子”用户来暴露产品的最大化用户数量的问题。虽然以前的工作假设一个已知的信息扩散模型，我们提出了一种新的参数化，不仅使我们的框架不可知的底层扩散模型，但也统计有效地从数据中学习。我们给出了相应的单调，次模代理函数，并表明它是一个很好的逼近原来的IM目标。我们还考虑了一个新的营销人员希望利用现有的社交网络的情况下，同时学习的信息传播的因素。为此，我们提出了一个成对影响的半强盗反馈模型，并开发了一个基于LinUCB的强盗算法。我们的模型独立的分析表明，我们的遗憾界有一个更好的（与以前的工作相比）依赖于网络的大小。实验评估表明，我们的框架是强大的基础扩散模型，可以有效地学习一个接近最优的解决方案。
2018-05-24 cs.LG
Differentially Private Online Submodular Maximization
Georgia Institute of Technology（佐治亚理工学院）
在这项工作中，我们考虑的问题下的基数约束差分隐私（DP）的在线次模最大化。公共有限基集$U$上的$T$子模函数流在线到达，并且在每个时间步，决策者在观察函数之前必须选择$U$的至多$k$元素。决策者获得的回报等于在所选集合上评估的函数，并旨在学习一系列实现低预期后悔的集合。在完全信息条件下，我们提出了一个$(\varepsilon,δ)$ -DP算法，其期望的$(1-1/e)$ -后悔界为$\mathcal{O}\left( \frac{k^2\log |U|\sqrt{T \log k/δ}}{\varepsilon} \right)$ .该算法包含$k$有序的专家，学习最好的边际增量为每个项目在整个时间范围内，同时保持隐私的功能。在强盗设置中，我们提供了具有预期$(1-1/e)$-$\mathcal{O}\left( \frac{\sqrt{\log k/δ}}{\varepsilon} (k (|U| \log |U|)^{1/3})^2 T^{2/3} \right)$遗憾界限的$(\varepsilon,δ+ O(e^{-T^{1/3}}))$-DP算法。我们的算法包含$k$有序的专家，学习最好的边缘项目选择给定的项目选择她的前任，同时保持隐私的功能。在这种情况下，隐私面临的一个挑战是，专家$i$的回报和反馈取决于她的$i-1$前任所采取的行动。这种特殊类型的信息泄漏不包…
2020-10-24 cs.CR cs.DS cs.LG
Online Learning for Approximately-Convex Functions with Long-term Adversarial Constraints
IIT Kharagpur, India（印度德里技术学院）；IIT (ISM) Dhanbad, India（印度丹巴德IIT（ISM））；TIFR Mumbai, India（印度孟买理论物理研究所）
针对对抗性环境下带长期预算约束的在线学习问题，提出一阶在线算法，在全信息和bandit反馈下保证O(√T)α-遗憾，资源消耗可控，适用于DR-子模极大化等非凸问题，结果紧且有下界匹配。
2025-08-23 cs.LG math.OC
Near-Optimal Regret Bounds for Monotone Stochastic Optimization under Semi-Bandit Feedback
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对半-bandit反馈下单调随机优化的开放问题，提出一种适用于强单调情形的通用在线到离线归约方法，实现了近最优的后悔界，且可应用于先知不等式、Pandora盒等多个问题。
2026-10-14 cs.DS cs.LG stat.ML
