Improved Approximate Regret for Decentralized Online Continuous Submodular Maximization via Reductions
School of Software Technology, Zhejiang University, Ningbo, China(浙江大学宁波校区软件学院);State Key Laboratory of Blockchain and Data Security, Zhejiang University, Hangzhou, China(浙江大学区块链与数据安全国家重点实验室);School of Artificial Intelligence, Nanjing University, Nanjing, China(南京大学人工智能学院);Department of Computer Science, City University of Hong Kong, Hong Kong, China(香港城市大学计算机科学系)
本文通过将去中心化在线连续亚模函数最大化问题转化为去中心化在线凸优化问题,改进了去中心化在线连续亚模函数最大化问题的近似懊悔界。
2026-02-10 cs.LG
Practical Bayesian Optimization with Threshold-Guided Marginal Likelihood Maximization
Pohang University of Science and Technology(浦项科技大学);BARO AI
我们提出了一个实用的贝叶斯优化方法,使用高斯过程回归,其边际似然最大化的模型选择步骤的数量是由一个预先定义的阈值。由于贝叶斯优化在寻找高斯过程回归的最佳自由参数时消耗了很大一部分执行时间,我们简单而直接的方法能够减轻时间复杂度并加快整个贝叶斯优化过程。实验结果表明,该方法在大多数情况下都能有效地减少执行时间,且优化质量损失较小。
2020-10-16 cs.LG stat.ML
Online Non-Monotone DR-submodular Maximization
IBISC;Univ. Evry(埃夫里大学);University Paris-Saclay(巴黎萨克雷大学)
在本文中,我们研究最大化DR-子模连续函数,在机器学习,经济学,运筹学和通信系统领域的实际应用的基本问题。它捕获了非凸优化的一个子类,提供了理论和实践保证。在这里,我们专注于最小化遗憾的在线到达非单调DR-次模函数在不同类型的凸集:超立方体,下闭和一般凸集。首先,我们提出了一个在线算法,实现了$1/e$ -近似比与遗憾的$O(T^{2/3})$最大化DR-子模函数在任何下闭凸集。请注意,$1/e$的近似比与问题的离线版本的最佳保证匹配。此外,当凸集是超立方体时,我们提出了一个紧1/2近似算法,其遗憾界为$O(\sqrt{T})$。接下来,我们给出了一个在线算法,实现了近似保证(取决于搜索空间)的问题,最大化非单调连续DR-次模函数的\emph{general}凸集(不一定下闭)。据我们所知,没有事先的算法与近似保证已知的非单调DR-子模极大化在线设置。最后,我们运行实验来验证我们的算法在机器学习领域与现实世界的数据集出现的问题的性能。
2020-06-23 cs.DS cs.LG stat.ML
Online Continuous Submodular Maximization
Yale Institute for Network Science(耶鲁大学网络科学研究所);Department of Electrical Engineering, Yale University(耶鲁大学电气工程系);Department of Electrical and Systems Engineering, University of Pennsylvania(宾夕法尼亚大学电气与系统工程系)
在本文中,我们考虑一个在线优化过程,其中的目标函数不是凸(也不是凹),而是属于一个广泛的连续子模函数类。首先,我们提出了一个变体的弗兰克-沃尔夫算法,可以访问的目标函数的全梯度。我们表明,它实现了遗憾界的$O(\sqrt{T})$($T$是地平线的在线优化问题)对$(1-1/e)$ -近似的最佳可行的解决方案在事后。然而,在许多情况下,只有梯度的无偏估计可用。对于这样的设置,然后,我们提出了一个在线的随机梯度上升算法,也实现了遗憾界的$O(\sqrt{T})$遗憾,虽然对一个较弱的$1/2$ -近似的最佳可行的解决方案在事后。我们还将所得结果推广到$γ$ -弱次模函数,并证明了相同的次线性后悔界。最后,我们证明了我们的算法的效率在一些问题的情况下,包括非凸/非凹二次规划,子模集函数的多线性扩展,和D-最优设计。
2018-02-16 cs.AI cs.DS cs.LG
Online Continuous DR-Submodular Maximization with Long-Term Budget Constraints
University of Washington(华盛顿大学)
在本文中,我们研究了一类具有长期预算约束的在线优化问题,其中目标函数不一定是凹的(也不一定是凸的),但它们满足递减收益(DR)性质。具体地,单调DR-子模块目标函数$\{f_t(x)\}_{t=1}^T$和单调线性预算函数$\{\langle p_t,x \rangle \}_{t=1}^T$的序列随时间到达,并且假设总目标预算$B_T$,目标是在每个时间$t\in\{1,\dots,T\}$选择点$x_t$,而不知道该步骤上的$f_t$和$p_t$,以实现次线性遗憾界限,同时总预算违反$\sum_{t=1}^T \langle p_t,x_t \rangle -B_T$也是次线性的。先前的工作表明,实现次线性后悔是不可能的,如果预算功能选择相反。因此,我们修改的概念,遗憾的代理人对$(1-\frac{1}{e})$ -近似的最佳固定的决定,在事后,满足预算约束成比例的任何窗口长度$W$。我们提出了在线鞍点混合梯度(OSPHG)算法来解决这类在线问题。对于$W=T$,我们恢复了上述不可能结果。然而,当$W=o(T)$,我们表明,它是可能的,以获得次线性界限为$(1-\frac{1}{e})$ -遗憾和总预算违反。
2019-06-30 cs.LG math.OC stat.ML
Dual Iterative Hard Thresholding: From Non-convex Sparse Minimization to Non-smooth Concave Maximization
Rutgers University(罗格斯大学);Nanjing University of Information Science & Technology(南京信息工程大学)
迭代硬约束保持(IHT)是一类用于优化稀疏约束最小化模型的投影梯度下降方法,具有最好的效率和可扩展性。据我们所知,现有的IHT风格的方法被设计为原始形式的稀疏最小化。它仍然开放,探索对偶理论和算法在这样一个非凸和NP-难的问题设置。在本文中,我们建立了一个对偶理论的稀疏约束最小化与$\ell_2$正则化损失函数,并提出了一个IHT风格的算法对偶最大化。我们的稀疏对偶理论提供了一组充分和必要的条件下,原来的NP-难/非凸问题可以等价地解决在一个对偶制定。提出的对偶IHT算法是一种最大化非光滑对偶目标的超梯度算法。一个有趣的发现是,双IHT的稀疏恢复性能是不变的限制等距属性(RIP),这是所需的几乎所有现有的原始IHT算法没有稀疏松弛。此外,提出了一种随机变形的对偶IHT的大规模随机优化。数值结果表明,双重IHT算法的优越性,最先进的原始IHT风格的算法在模型估计精度和计算效率。
2017-06-21 cs.LG stat.ML
Improved Projection-free Online Continuous Submodular Maximization
Zhejiang University(浙江大学)
本文针对单调连续DR-子模奖励的在线学习问题,提出改进的无投影算法POBGA,在保持与Mono-FW相同计算复杂度下将遗憾界从O(T^{4/5})降至O(T^{3/4}),并在去中心化场景中同时降低遗憾界和通信复杂度。
2023-05-29 cs.LG math.OC
Improved Regret Bounds for Online Submodular Maximization
University of Washington(华盛顿大学)
在本文中,我们考虑一个在线优化问题$T$轮在每一步$t\in[T]$,该算法选择一个行动$x_t$从固定的凸和紧凑的域集$\mathcal{K}$。然后,揭示效用函数$f_t(\cdot)$,并且算法接收回报$f_t(x_t)$。这个问题已被研究的假设下,公用事业是对立选择单调DR-次模函数和$\mathcal{O}(\sqrt{T})$遗憾界已被导出。我们首先刻画了一类强DR-次模函数,然后,我们得出遗憾的界限,为以下新的在线设置:$(1)$ $\{f_t\}_{t=1}^T$是单调的强DR-次模,并选择adversarially,$(2)$ $\{f_t\}_{t=1}^T$是单调次模(而平均$\frac{1}{T}\sum_{t=1}^T f_t$是强DR-次模),并选择了一个对手,但他们在一个统一的随机顺序到达,$(3)$ $\{f_t\}_{t=1}^T$被绘制i.i.d.从一些未知的分布$f_t\sim \mathcal{D}$,其中期望的函数$f(\cdot)=\mathbb{E}_{f_t\sim\mathcal{D}}[f_t(\cdot)]$是单调DR-子模的。对于$(1)$,我们得到了第一个对数遗憾界。在第二个框架,我们表明,它是可能的,以高概率获得类似的对数界限。最后,对于i.i.d.模型,我们提供了算法与$\tilde{\mathcal{O}}(\sqrt…
2021-06-15 cs.LG math.OC stat.ML
Bridging the Gap Between General and Down-Closed Convex Sets in Submodular Maximization
University of Haifa(海法大学);DataHeroes
本文针对一般凸集约束下非单调DR-子模函数最大化问题,提出基于将凸体分解为下闭凸体与一般凸体的新型离线与在线算法,实现了下闭与非下闭约束之间的可证明平滑插值,并在多个应用中验证了其优越性。
2024-01-17 cs.LG math.OC
Factorization Bandits for Online Influence Maximization
University of Virginia(弗吉尼亚大学);Shanghai Jiao Tong University(上海交通大学);Microsoft Research(微软研究院)
研究了社交网络中的在线影响力最大化问题。在这个问题中,学习者的目标是通过与网络交互来识别网络中的“最佳影响者”集合,即,重复选择种子节点并观察网络中的激活反馈。我们利用了影响力最大化问题的一个重要性质--网络可伸缩性,这一性质在现有的在线影响力最大化研究中被忽略.为了实现网络的敏感性,我们将边上的激活概率分解为相应节点上的潜在因子,包括给定节点上的影响因子和接收节点上的敏感因子。我们提出了一个基于置信上限的在线学习解决方案来估计潜在因素,从而估计激活概率。基于因子分解的在线影响力最大化算法实现了相当大的遗憾减少。在两个真实网络上进行的广泛的实证评估表明了我们提出的解决方案的有效性。
2019-07-16 cs.LG cs.SI stat.ML
Online Influence Maximization: Concept and Algorithm
Advanced Institute of Natural Sciences, Beijing Normal University(北京师范大学自然科学高等研究院)
本综述概述在线影响力最大化问题,先明确离线IM问题及算法,再基于CMAB-T框架定义在线IM问题、分析反馈类型与算法,涵盖现有算法并总结挑战与方向。
2023-11-30 cs.LG cs.SI
Online Learning with Cumulative Oversampling: Application to Budgeted Influence Maximization
Columbia University(哥伦比亚大学);Fudan University(复旦大学)
提出了一种用于在线学习的累积过采样方法。我们的主要思想是在每一轮中从更新的信念空间中对参数估计进行一次采样(类似于Thompson采样),并利用当前轮的累积样本来构建乐观的参数估计,这些参数估计渐近地集中在真实参数周围,与标准UCB方法构建的参数估计相比,置信上限更紧。我们将CO应用到一个新的预算变体的影响力最大化(IM)半土匪与线性推广的边缘权重,其离线问题是NP-难的。结合CO和我们为离线问题设计的预言机,我们的在线学习算法同时处理预算分配、参数学习和奖励最大化。我们表明,对于IM半土匪,我们的CO为基础的算法实现了规模的遗憾相比,基于UCB的算法在理论上,并在数值实验中表现与汤普森采样。
2020-09-16 cs.LG cs.SI stat.ML
Provably Efficient Reinforcement Learning for Online Adaptive Influence Maximization
Princeton University(普林斯顿大学);LinkedIn(领英);Penn State University(宾夕法尼亚州立大学)
在线影响力最大化是指在网络模型未知的情况下,通过选择少量种子节点,最大化内容在社交网络中的影响力传播。最近的研究遵循非自适应设置,其中在扩散过程开始之前选择种子节点,并且在扩散停止时更新网络参数。我们考虑一个自适应版本的内容相关的在线影响力最大化问题的种子节点被顺序激活的基础上实时反馈。在本文中,我们将该问题表示为线性扩散过程下的无限时域折扣MDP,并提出了一种基于基于模型的强化学习解决方案。我们的算法保持一个网络模型的估计,并自适应地选择种子用户,探索社会网络,同时提高最优策略的乐观。我们建立了算法的$\widetilde O(\sqrt{T})$后悔界。在合成网络上的实验结果验证了算法的有效性。
2022-06-29 cs.LG cs.SI stat.ML
Online Competitive Influence Maximization
Carnegie Mellon University(卡内基梅隆大学);The Chinese University of Hong Kong(香港中文大学);Microsoft Research(微软研究院)
在线影响力最大化作为一种在学习未知网络参数值的同时最大化通过社交网络传播的影响力的方式已经引起了很多关注。大多数以前的作品集中在单个项目的扩散。在本文中,我们引入了一个新的在线竞争影响力最大化(OCIM)问题,其中两个竞争项目(例如,产品、新闻故事)在同一网络中传播,并且边缘上的影响概率是未知的。我们采用了组合多臂强盗(CMAB)框架OCIM,但与非竞争性设置,重要的单调性属性(影响扩散增加时,边缘上的影响概率增加)不再持有由于竞争性质的传播,这带来了一个重大的新挑战的问题。我们提供了一个非平凡的证明,CMAB的触发概率调制(TPM)条件仍然保持在OCIM,这是我们提出的算法OCIM-TS和OCIM-OFU实现次线性贝叶斯和频率后悔,分别是有用的。我们还设计了一个OCIM-ETC算法,需要更少的反馈和更容易的离线计算,在一个更坏的频率论遗憾界的代价。实验结果证明了算法的有效性。
2022-03-02 cs.LG cs.SI stat.ML
LOFA: Online Influence Maximization under Full-Bandit Feedback using Lazy Forward Selection
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
LOFA通过利用次模性质和懒惰前向选择,在全伯德反馈下实现更低的实证后悔,优于现有算法。
2026-01-02 cs.AI cs.LG cs.SI
Online Continuous Submodular Maximization: From Full-Information to Bandit Feedback
Yale University(耶鲁大学);University of Pennsylvania(宾夕法尼亚大学)
在本文中,我们提出了三个在线算法子模最大化。第一个是Mono-Frank-Wolfe,它将$T^{1/2}$ [Chen 2018 Online]和$T^{3/2}$ [chen 2018 projection]中每个函数的梯度评估数量减少到1,并实现了$O(T^{4/5})$的$(1-1/e)$ -遗憾界。第二个是Bandit-Frank-Wolfe算法,它是第一个求解连续DR-子模极大化的Bandit算法,其$(1-1/e)$ -遗憾界为$O(T^{8/9})$ .最后,我们扩展Bandit-Frank-Wolfe的离散次模最大化,响应弗兰克-Wolfe,它达到了一个$(1-1/e)$ -遗憾界的$O(T^{8/9})$在响应强盗设置的强盗算法。
2019-10-28 cs.LG stat.ML
Online and Streaming Algorithms for Constrained $k$-Submodular Maximization
Boston University(波士顿大学);Northeastern University(东北大学)
本文针对基数约束和背包约束下的单调与非单调 k-子模最大化问题,提出了具有常数因子近似保证的单遍流式和在线组合算法,在近似比、空间和运行时间上均达到最优,并在广告分配等应用中验证了其高效性和可扩展性。
2023-05-25 cs.DS cs.LG
Budgeted Online Influence Maximization
Adobe Research(Adobe研究院);Inria Lille(Inria里尔分校);DeepMind(深度Mind)
本文提出一种新的预算化框架,考虑广告活动的总成本而非传统选择影响者集合的基数约束。通过独立级联扩散模型和边级半带反馈,提出算法并提供理论和实验结果,改进了基数约束下的后悔界。
2026-04-21 cs.LG stat.ML
Online Two-Stage Submodular Maximization
Boston University(波士顿大学);EPFL(苏黎世联邦理工学院);Northeastern University(东北大学)
针对在线两阶段子模最大化问题,提出算法在一般拟阵和均匀拟阵下分别达到亚线性遗憾界,并在真实数据上验证性能。
2025-10-22 cs.DS cs.LG
Resolving the Approximability of Offline and Online Non-monotone DR-Submodular Maximization over General Convex Sets
University of Haifa(海法大学)
近年来,DR-子模连续函数极大化问题成为一个重要的研究领域,在机器学习、通信系统、运筹学和经济学等领域有着广泛的应用。由于Vondrák(2013)的不可逼近性结果,该领域的大多数工作都研究了下闭凸集约束下的最大化。然而,Durr等人(2021)表明,可以通过证明近似比是$m$的函数来绕过这种不可近似性,$m$是任何可行向量的最小$\ell_{\infty}$范数。鉴于这一观察,它是可能的,以最大化DR-子模函数的一般凸集约束,这导致了多个工作在这个问题上的结果。其中最新的是Du(2022)提出的多项式时间$\tfrac{1}{4}(1 - m)$近似离线算法。然而,只有一个亚指数时间$\tfrac{1}{3\sqrt{3}}(1 - m)$ -近似算法是已知的相应的在线问题。在这项工作中,我们提出了一个多项式时间的在线算法匹配的$\tfrac{1}{4}(1 - m)$近似的国家的最先进的离线算法。我们还提出了一个不可逼近的结果,表明我们的在线算法和杜(2022)的离线算法都是在很强的意义上最优的。最后,我们研究了我们的算法和算法的经验表现杜(这只是理论上研究以前),并表明,他们一贯优于以前建议的算法收入最大化,位置汇总和二次规划应用。
2022-10-12 cs.DS cs.LG
Online Learning for Non-monotone Submodular Maximization: From Full Information to Bandit Feedback
City University of Hong Kong(香港城市大学);Cainiao Network(菜鸟网络);National University of Singapore(新加坡国立大学)
在本文中,我们重新审视在线非单调连续DR-次模最大化问题的下闭凸集,发现广泛的现实世界中的应用领域的机器学习,经济学和运筹学。首先,我们提出了Meta-MFW算法,以每轮$T^{3/2}$随机梯度评估为代价,实现了$O(\sqrt{T})$的$1/e$ -遗憾。Meta-MFW是第一个针对下闭凸集上的在线非单调连续DR-次模极大化问题获得$O(\sqrt{T})$的$1/e$ -后悔的算法。此外,与ODC算法\citep{thang2021online}形成鲜明对比,Meta-MFW依赖于简单的在线线性预言,没有离散化,提升或舍入操作。考虑到实际应用的限制,我们提出了Mono-MFW算法,该算法将$T^{3/2}$的每个函数的随机梯度估计减少到1,并达到了$O(T^{4/5})$的$1/e$ -遗憾界。其次,我们将Mono-MFW扩展到Bandit环境,提出了Bandit-MFW算法,该算法达到了$O(T^{8/9})$的$1/e$ -遗憾界。据我们所知,Mono-MFW和Bandit-MFW是第一个次线性后悔算法,分别探索下闭凸集上的在线非单调连续DR-次模极大化问题的一次性和强盗设置。最后,我们在合成和真实世界的数据集上进行了数值实验,以验证我们的方法的有效性。
2022-08-16 cs.LG math.OC
Dec-BFTRL: Squre-Root Regret for Decentralized Online Upper-Linearizable Optimization under Separation Access with Application to Continuous Submodular Maximization
Purdue University(普渡大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)
本文提出Dec-BFTRL算法,用于分离访问下分散式在线上线性化优化,实现平方根遗憾,并应用于连续子模最大化。
2026-10-01 cs.AI cs.LG math.OC
ROI Maximization in Stochastic Online Decision-Making
Università degli Studi di Milano(米兰大学);DSRC;Toulouse School of Economics(图卢兹经济学院);Artificial and Natural Intelligence Toulouse Institute(图卢兹人工与自然智能研究所);Tel Aviv University(特拉维夫大学);Google research(谷歌研究院);CREST, ENSAE(国立统计与经济行政学院附属经济与统计研究中心);Criteo AI Lab(Criteo人工智能实验室)
我们介绍了一种新的理论框架,投资回报率(ROI)最大化的重复决策。我们的设置是由经常收到技术创新建议并希望快速决定是否值得实施的公司的用例驱动的。我们设计了一个算法,学习投资回报率最大化的决策政策的创新建议序列。我们的算法可证明收敛到类$Π$中的最优策略的顺序$\min\big\{1/(NΔ^2),N^{-1/3}\}$,其中$N$是创新的数量和$Δ$是次优差距$Π$的速度。我们制定的一个重要障碍,将其与其他在线学习问题(如土匪)放在一边,是运行一个策略并不能提供对其性能的无偏估计。
2021-12-22 cs.LG stat.ML
Online Learning and Profit Maximization from Revealed Preferences
University of Pennsylvania(宾夕法尼亚大学);California Institute of Technology(加州理工学院)
我们考虑的问题,从显示的偏好在网上设置的学习。在我们的框架中,每个时期的消费者购买最佳捆绑的商品从商家根据她的(线性)效用函数和当前的价格,受预算约束。商人只观察购买的商品,并寻求调整价格以优化其利润。我们给出了一个有效的算法,商家的问题,包括一个学习阶段,消费者的效用函数(也许部分)推断,其次是价格优化步骤。我们还考虑了一种替代的在线学习算法,用于设置价格是外生设置的,但商家仍然希望预测消费者出于库存或供应链管理的目的将购买的捆绑包。与大多数先前的工作显示的偏好问题相比,我们表明,通过更强的假设效用函数的形式,有效的算法学习和利润最大化是可能的,即使在自适应,在线设置。
2014-11-28 cs.DS cs.GT cs.LG
Upper-Linearizability of Online Non-Monotone DR-Submodular Maximization over Down-Closed Convex Sets
Purdue University(普渡大学);IIT Indore(印度理工学院Indore);Mila - Quebec AI Institute/McGill University(魁北克AI研究所/麦吉尔大学)
本文提出了一种将非单调DR-子模最大化问题转化为在线线性优化的方法,实现了O(T^{1/2})的静态后悔和改进的动态后悔保证。
2026-07-13 cs.LG math.OC stat.ML
Cheshire: An Online Algorithm for Activity Maximization in Social Networks
Sharif University(谢里夫大学);IIT Kharagpur(印度理工学院克勒格布尔分校);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
用户在社交网络中的参与度主要取决于用户在网络中采取的在线行动的数量。我们能否设计一种算法,找到何时激励用户采取行动,以最大限度地提高社交网络中的整体活动?在本文中,我们建模的在线行动的数量随着时间的推移,使用多维霍克斯过程,推导出这些过程的替代表示的基础上随机微分方程(SDES)的跳跃,并利用这种替代表示,解决上述问题的角度随机最优控制的SDES跳跃。我们发现,激励行动的最佳水平线性依赖于当前的整体行动水平。此外,该线性关系的系数可以通过求解矩阵Riccati微分方程和一阶微分方程来求出,矩阵Riccati微分方程可以被有效地求解,一阶微分方程具有封闭形式的解。因此,我们能够设计一个有效的在线算法,柴郡,抽样的最佳时间的用户的激励行动。从Twitter收集的合成和真实数据的实验表明,我们的算法能够始终最大限度地提高在线行动的数量比最先进的。
2017-03-06 cs.DS cs.LG cs.SI
Distributed Online Bandit Submodular Maximization with Bounded Sampling Violations
College of Automation Engineering, Nanjing University of Aeronautics and Astronautics(南京航空航天大学自动化学院);School of Artificial Intelligence and Automation at the Huazhong University of Science and Technology(华中科技大学人工智能与自动化学院);School of Aeronautics and Astronautics, Purdue University(普渡大学航空航天学院)
针对划分拟阵约束下的分布式在线子模最大化问题,提出统一算法框架,在全信息和赌博机反馈下实现次线性(1-1/e)-遗憾,并通过有界随机管道舍入方案使采样违规概率渐近消失。
2026-07-02 cs.LG
Online Influence Maximization with Local Observations
Universitat Pompeu Fabra(庞培法布拉大学);ICREA(加泰罗尼亚高等研究院)
我们考虑一个在线的影响力最大化问题,决策者在大量的可能性中选择一个节点,并在该节点放置一条信息。该节点将信息传输给随机图中同一连通分支中的其他节点。决策者的目标是到达尽可能多的节点,增加的复杂性是,反馈仅关于所选节点的程度。我们的主要结果表明,这样的本地观测可以充分的最大化的全球影响力在两个广泛研究的随机图模型:随机块模型和Chung-Lu模型。有了这个洞察力,我们提出了一个强盗算法,旨在最大限度地提高本地(从而全球)的影响,并提供其理论分析,在亚临界和超临界两个考虑模型的制度。值得注意的是,我们的性能保证没有显式依赖于网络中的节点总数,使我们的方法非常适合大规模应用。
2018-05-28 cs.LG stat.ML
Online Influence Maximization under Independent Cascade Model with Semi-Bandit Feedback
Adobe Research(Adobe研究院);INRIA Lille - Nord Europe(法国里尔-北欧信息与自动化研究所);University of British Columbia(不列颠哥伦比亚大学)
研究了独立级联模型下社交网络中的在线影响力最大化问题。具体来说,我们的目标是学习的“最佳影响者”在社交网络在线,同时反复与它互动。我们解决的挑战(i)组合动作空间,因为可行的影响者集的数量呈指数增长的影响者的最大数量,和(ii)有限的反馈,因为只有网络的影响部分被观察到。在随机半强盗反馈下,我们提出并分析了IMLinUCB,一种计算效率高的基于UCB的算法。我们的边界上的累积遗憾是多项式在所有数量的利益,实现接近最优的依赖于相互作用的数量,并反映了网络的拓扑结构和激活概率的边缘,从而提供了洞察问题的复杂性。据我们所知,这是第一个这样的结果。我们的实验表明,在几个有代表性的图形拓扑结构,IMLinUCB规模的遗憾,建议我们的上限。IMLinUCB允许线性推广,因此在统计和计算上都适用于大规模问题。我们的实验还表明,在现实世界的在线影响力最大化中,具有线性泛化的IMLinUCB可以导致低遗憾。
2018-06-19 cs.AI cs.LG cs.SI
Distributed Online Submodular Maximization under Communication Delays: A Simultaneous Decision-Making Approach
University of Michigan(密歇根大学)
本文提出分布式在线贪心算法DOG,解决通信延迟下的子模优化问题,通过结合对抗性带宽学习与延迟反馈,在任意网络拓扑中实现同时决策,分析协调性能与收敛时间的权衡。
2026-08-14 cs.LG cs.MA cs.SY
Cascade Submodular Maximization: Question Selection and Sequencing in Online Personality Quiz
Naveen Jindal School of Management, University of Texas at Dallas(德克萨斯大学达拉斯分校纳文·金达尔管理学院);Department of Computer Science, University of Texas at Dallas(德克萨斯大学达拉斯分校计算机科学系)
个性测验是一个强大的工具,通过主动向客户提出问题来进行客户细分,营销人员正在使用它作为产生潜在客户和增加电子商务销售的有效方法。本文研究了如何对一组测试题进行选择和排序,从而优化客户细分质量的问题。我们假设客户将按顺序浏览问题列表。在阅读一个问题后,客户会做出两个可能相关的随机决定:1)她首先决定是否回答这个问题,然后2)决定是否继续阅读下一个问题。我们进一步假设已经回答的问题的效用可以被单调和子模函数捕获。在一般情况下,我们的问题属于非自适应主动学习为基础的客户分析的类别。请注意,在我们的模型下,问题被回答的概率取决于该问题的位置,以及放置在该问题之前的其他问题的集合,这使得我们的问题与现有的子模块优化研究根本不同。我们开发了一系列的问题选择和排序策略与可证明的性能界。虽然我们在本文中侧重于问答设计的应用,我们的结果适用于广泛的应用,包括搭配优化与位置偏差效应。
2020-12-26 cs.LG cs.SI
Model-Independent Online Learning for Influence Maximization
University of British Columbia(英属哥伦比亚大学);Adobe Research(奥多比研究院);DeepMind(深度思维)
我们考虑在社交网络中的影响力最大化(IM),这是通过选择一组“种子”用户来暴露产品的最大化用户数量的问题。虽然以前的工作假设一个已知的信息扩散模型,我们提出了一种新的参数化,不仅使我们的框架不可知的底层扩散模型,但也统计有效地从数据中学习。我们给出了相应的单调,次模代理函数,并表明它是一个很好的逼近原来的IM目标。我们还考虑了一个新的营销人员希望利用现有的社交网络的情况下,同时学习的信息传播的因素。为此,我们提出了一个成对影响的半强盗反馈模型,并开发了一个基于LinUCB的强盗算法。我们的模型独立的分析表明,我们的遗憾界有一个更好的(与以前的工作相比)依赖于网络的大小。实验评估表明,我们的框架是强大的基础扩散模型,可以有效地学习一个接近最优的解决方案。
2018-05-24 cs.LG
An Optimal Algorithm for Online Unconstrained Submodular Maximization
Stanford University(斯坦福大学)
我们考虑两个基本领域的接口处的基本问题:子模块优化和在线学习。在在线无约束次模极大化(USM)问题中,存在论域$[n]=\{1,2,...,n\}$和一系列随时间到达的$T$非负(不一定单调)次模函数.我们的目标是设计一个计算效率高的在线算法,它选择一个子集的$[n]$在每个时间步作为一个函数,只有过去,这样所选择的子集的累计值是尽可能接近的最大总值的一个固定的子集在事后。我们的主要结果是一个多项式时间无$1/2$遗憾算法这个问题,这意味着对于每个序列的非负子模函数,该算法的预期总值是至少$1/2$倍,事后最好的子集,直到误差项次线性$T$。当子模函数表示为值预言机时,任何多项式时间在线算法都不能提高$1/2$的因子。以前的工作离线问题意味着,挑选一个子集均匀随机在每个时间步实现零$1/4$ -遗憾。我们的技术的一个副产品是一个明确的子程序为两个专家的问题,有一个异常强大的遗憾保证:其选择的总价值是两倍的总价值的专家轮它没有选择该专家。这个子程序可能是独立的兴趣。
2018-06-08 cs.LG stat.ML
Online Influence Maximization under the Independent Cascade Model with Node-Level Feedback
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Microsoft Research Asia(微软亚洲研究院)
我们研究了社交网络中的在线影响力最大化(OIM)问题,学习者反复选择种子节点生成级联,观察级联反馈,并逐渐学习在多轮中生成最大级联的最佳种子。在现实世界的需求,我们的工作与节点级反馈,而不是常见的边级反馈在文献中。边级反馈揭示了级联传递信息的所有边,而节点级反馈仅揭示了具有时间戳的激活节点。节点级反馈可以说是更现实的,因为在实践中,观察谁受到影响相对容易,但很难观察影响来自哪个关系(边缘)。在线性阈值扩散模型下,已有一种近似最优的$\tilde{O}(\sqrt{T})$ -后悔算法求解OIM问题。对于独立级联(IC)扩散模型,是否存在相同的算法仍然未知。在本文中,我们解决了这个开放的问题,提出了一个$\tilde{O}(\sqrt{T})$ -后悔算法的OIM问题下的IC模型与节点级反馈。
2022-08-25 cs.DS cs.LG cs.SI
Online Influence Maximization in Non-Stationary Social Networks
The University of Hong Kong(香港大学);Tsinghua University(清华大学)
社交网络已经成为信息传播的流行平台。一个重要的用例是病毒式营销:在给定推广预算的情况下,广告主可以选择一些有影响力的用户作为种子集,并向他们提供免费或折扣的样品产品;这样,广告主希望通过口碑效应增加产品在用户朋友圈中的知名度,从而最大化产品信息所能到达的用户数量。有大量文献研究了影响力最大化问题。然而,现有的研究大多是一次性的基础上调查的问题,假设固定的已知的影响力概率之间的用户,或确切的社会网络拓扑结构的知识。在实践中,社交网络拓扑和影响概率通常对于广告商是未知的,其可以随时间变化,即,在新建立、加强或削弱社会联系的情况下。在本文中,我们专注于一个动态的非平稳的社会网络和设计的随机算法,RSB,基于多臂强盗优化,最大限度地提高影响力传播随着时间的推移。该算法产生一系列在线决策,并利用先前决策的结果来校准其探索-利用策略。它被严格证明可以达到一个上界的遗憾在奖励和适用于大规模的社交网络。使用合成和真实世界的数据集,这表明我们的算法优于以前的平稳方法在非平稳条件下的实际有效性进行评估。
2016-04-26 cs.DS cs.LG cs.SI
Online Submodular Maximization under a Matroid Constraint with Application to Learning Assignments
California Institute of Technology(加州理工学院);Carnegie Mellon University(卡内基梅隆大学);Google, Inc.(谷歌公司);ETH Zurich(苏黎世联邦理工学院);Duolingo(多邻国)
我们应该在赞助搜索中显示哪些广告,以最大限度地提高我们的收入?我们应该如何对信息源进行动态排名,以最大化排名的价值?这些应用程序表现出强烈的收益递减:Reddit降低了每个广告或信息源的边际效用。我们表明,这些和其他问题可以被形式化为反复选择分配的项目的位置,以最大限度地提高一个序列的单调子模块功能,逐一到达。我们提出了一个有效的算法,这个一般性的问题,并分析它在无遗憾模型。我们的算法具有很强的理论保证,如性能比收敛到最佳常数1 - 1/e。我们经验评估我们的算法在网络上的两个现实世界中的在线优化问题:广告分配与子模块化的实用程序,动态排名博客检测信息级联。最后,我们提出了第二个算法,处理更一般的情况下,可行集由拟阵约束,同时仍然保持1 - 1/e渐近性能比。
2014-07-03 cs.LG
Context-Aware Hierarchical Online Learning for Performance Maximization in Mobile Crowdsourcing
TU Darmstadt(达姆施塔特工业大学);Bilkent University(比尔肯特大学);University of California Los Angeles(加利福尼亚大学洛杉矶分校);University of Oxford(牛津大学)
在移动众包(MCS)中,移动用户完成外包的人工智能任务。MCS需要适当的任务分配策略,因为不同的工人可能在接受率和质量方面有不同的表现。任务分配是具有挑战性的,因为工人的表现(i)可能会波动,这取决于工人当前的个人背景和任务背景,(ii)不是先验已知的,而是必须随着时间的推移而学习。此外,学习上下文特定的工作者性能需要访问上下文信息,由于通信开销或隐私问题,上下文信息可能在中央实体处不可用。此外,评估工人的表现可能需要昂贵的质量评估。在本文中,我们提出了一个上下文感知的分层在线学习算法解决MCS的性能最大化的问题。在我们的算法中,本地控制器(LC)在移动终端的工人定期观察工人的上下文,她/他的决定接受或拒绝任务和完成任务的质量。基于这些观察,LC定期估计工人的特定于上下文的性能。然后,移动众包平台(MCSP)基于从LC接收的绩效估计来选择工作者。这种分层方法使LC能够学习特定于上下文的工作器性能,并且它使MCSP能够选择合适的工作器。此外,我们的算法在本地保留了工人上下文,并保持所需的质量评估的数量较低。我们证明了我们的算法收敛到最优的任务分配策略。此外,该算法优于简单的任务分配策略在实验中的基础上合成和真实的数据。
2018-11-08 cs.HC cs.LG cs.SI
Real-time Topic-aware Influence Maximization Using Preprocessing
Microsoft Research(微软研究院);Tsinghua University(清华大学)
影响力最大化是在社交网络中找到一组种子节点的任务,使得这些种子节点基于特定影响力扩散模型的影响力传播最大化。话题感知的影响扩散模型最近被提出来解决这样的问题,即一对用户之间的影响通常是话题依赖的,并且在网络中传播的信息、想法、创新等(本文中统称为项目)通常是话题的混合。在本文中,我们专注于主题感知的影响力最大化任务。特别是,我们研究这些主题的预处理方法,以避免从头开始为每个项目重做影响力最大化。我们探讨了两种预处理算法的理论依据。我们的实证结果表明,在现有的研究中获得的数据表明,我们的算法之一脱颖而出,作为一个强有力的候选人提供微秒级的在线响应时间和竞争力的影响力传播,合理的预处理工作。
2014-11-21 cs.LG cs.SI
Online Non-Monotone DR-Submodular Maximization Matching the Offline $0.401$ Factor
Purdue University(普渡大学)
该研究针对d维单位立方体紧凸下闭子集上的非负非单调DR-子模函数在线最大化问题,提出算法实现与离线相当的0.401近似因子,同时具有次线性近似遗憾,还通过批处理等优化调整神谕调用与遗憾的权衡。
2026-09-03 cs.AI cs.CC cs.LG
Online SuBmodular + SuPermodular (BP) Maximization with Bandit Feedback
University of Washington(华盛顿大学)
本文研究在线组合目标的 BP 与弱子模最大化,提出分项反馈框架并结合 Nystrom sketching 降本,证明次线性遗憾且在推荐和子集选择中有效。
2024-05-12 cs.LG
Multi-Sample Online Learning for Spiking Neural Networks based on Generalized Expectation Maximization
Dongguk University(东国大学);King’s College London(伦敦国王学院)
脉冲神经网络(SNN)提供了一种新的计算范例,其通过二进制神经动态激活处理来捕获生物大脑的一些效率。概率SNN模型通常通过使用对数似然梯度的无偏估计来训练以最大化期望输出的似然。虽然先前的工作使用从网络的单次运行中获得的单样本估计器,但本文提出利用多个隔室,这些隔室在共享突触权重的同时对独立的尖峰信号进行采样。关键思想是使用这些信号来获得对数似然训练准则及其梯度的更准确的统计估计。该方法是基于广义期望最大化(GEM),优化使用重要性采样的对数似然更紧密的近似。派生的在线学习算法实现了一个三因素的规则与全球每隔室学习信号。神经形态MNIST-DVS数据集上的分类任务的实验结果表明,当增加用于训练和推断的隔间数量时,在对数似然、准确性和校准方面都有显着改善。
2021-02-05 cs.LG cs.NE eess.SP
Differentially Private Online Submodular Maximization
Georgia Institute of Technology(佐治亚理工学院)
在这项工作中,我们考虑的问题下的基数约束差分隐私(DP)的在线次模最大化。公共有限基集$U$上的$T$子模函数流在线到达,并且在每个时间步,决策者在观察函数之前必须选择$U$的至多$k$元素。决策者获得的回报等于在所选集合上评估的函数,并旨在学习一系列实现低预期后悔的集合。在完全信息条件下,我们提出了一个$(\varepsilon,δ)$ -DP算法,其期望的$(1-1/e)$ -后悔界为$\mathcal{O}\left( \frac{k^2\log |U|\sqrt{T \log k/δ}}{\varepsilon} \right)$ .该算法包含$k$有序的专家,学习最好的边际增量为每个项目在整个时间范围内,同时保持隐私的功能。在强盗设置中,我们提供了具有预期$(1-1/e)$-$\mathcal{O}\left( \frac{\sqrt{\log k/δ}}{\varepsilon} (k (|U| \log |U|)^{1/3})^2 T^{2/3} \right)$遗憾界限的$(\varepsilon,δ+ O(e^{-T^{1/3}}))$-DP算法。我们的算法包含$k$有序的专家,学习最好的边缘项目选择给定的项目选择她的前任,同时保持隐私的功能。在这种情况下,隐私面临的一个挑战是,专家$i$的回报和反馈取决于她的$i-1$前任所采取的行动。这种特殊类型的信息泄漏不包…
2020-10-24 cs.CR cs.DS cs.LG
Online Generalized-Mean Welfare Maximization: Achieving Near-Optimal Regret from Samples
Columbia University(哥伦比亚大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种在线广义均值福利最大化算法,在无需分布知识的情况下实现近最优的遗憾率,通过重新求解范式应对非平稳性和分布偏移。
2026-10-02 cs.GT cs.LG math.OC
Adversarial Influence Maximization
University of Pennsylvania(宾夕法尼亚大学);University of Wisconsin(威斯康星大学)
研究了在对抗环境下固定网络中传染模型的影响力最大化问题。我们的目标是选择一组最佳的节点来播种影响过程,这样在活动结束时受影响的节点的数量就尽可能大。我们制定的问题作为一个重复的玩家和对手之间的游戏,对手指定的边缘沿其传染病可能会蔓延,和玩家选择的节点集,以影响在一个在线的方式。我们建立了无向和有向网络中极大极小伪后悔的上界和下界。
2019-01-19 cs.LG cs.SI stat.ML
Stream Clipper: Scalable Submodular Maximization on Stream
University of Washington, Seattle(华盛顿大学西雅图分校)
我们提出了一个流的子模块最大化算法“流裁剪器”,执行以及离线贪婪算法在文档/视频摘要在实践中。它基于两个自适应阈值将来自流的元素添加到解集$S$或添加到额外的缓冲器$B$,并且通过从$B$添加元素的$S$开始的最终贪婪步骤来改进$S$。在此过程中,如果将元素从$S$中交换出来会带来改进,则可以这样做。阈值基于当前存储器利用率是否超过预算来适配,例如,它增加下阈值,并从缓冲器$B$中去除低于新的下阈值的元素。我们表明,虽然我们的近似因子在最坏的情况下是$1/2$(如在以前的工作,并对应于紧界),我们表明,有数据依赖的条件下,我们的范围内的范围$[1/2, 1-1/e]$。在新闻和视频摘要实验中,该算法始终优于其他流媒体方法,并且在使用显著更少的计算和内存的同时,执行类似于离线贪婪算法。
2018-02-13 cs.LG math.CO stat.ML
Product Ranking for Revenue Maximization with Multiple Purchases
Tsinghua University(清华大学);Meituan Inc.(美团公司)
产品排名是在线零售商实现收入最大化的核心问题。为了设计合适的产品排序算法,提出了各种消费者选择模型来描述消费者在产品列表中的行为。然而,现有的工作假设每个消费者最多购买一个产品或购买产品后将继续查看产品列表,这与现实场景中的常见做法不一致。在本文中,我们假设每个消费者可以购买多种产品的意愿。为了模拟消费者的观看和购买意愿,我们设置了一个随机的注意广度和购买预算,这决定了他/她观看和购买的产品的最大数量,分别。在这种情况下,我们首先设计一个最优的排名策略时,在线零售商可以精确地模拟消费者的行为。在此基础上,我们进一步发展了基于$Õ(\sqrt{T})$的在线环境下多次购买预算UCB(MPB-UCB)算法,该算法能够同时估计消费者的行为和最大化收益。在人工和半人工数据集上的实验证明了算法的有效性。
2023-01-02 cs.LG
Stochastic Continuous Submodular Maximization: Boosting via Non-oblivious Function
City University of Hong Kong(香港城市大学);Cainiao Network(菜鸟网络)
在本文中,我们重新审视随机连续次模最大化在离线和在线设置,这将有利于机器学习和运筹学领域的广泛应用。我们提出了一个提升框架,包括梯度上升和在线梯度上升。我们的方法的基本成分是一个新的非遗忘功能$F$来自一个因素揭示的优化问题,其任何固定点提供了一个$(1-e^{-γ})$ -近似的全局最大值的$γ$ -弱DR-次模块目标函数$f\in C^{1,1}_L(\mathcal{X})$。在离线情况下,提出了一种在$O(1/ε^2)$迭代后实现$(1-e^{-γ}-ε^{2})$ -逼近的Boosting梯度上升算法,提高了经典梯度上升算法的$(\frac{γ^2}{1+γ^2})$逼近比.在在线环境下,我们首次考虑了随机梯度反馈的对抗延迟,在此基础上,我们提出了一种具有相同非遗忘函数$F$的Boosting在线梯度算法。同时,我们验证了这种提升在线算法实现了$O(\sqrt{D})$的遗憾对$(1-e^{-γ})$ -近似的最佳可行的解决方案,在事后看来,其中$D$是梯度反馈的延迟之和。据我们所知,这是第一个结果,以获得$O(\sqrt{T})$遗憾对$(1-e^{-γ})$ -近似与$O(1)$梯度查询在每个时间步,当没有延迟存在,即,$D=T$。最后,数值实验证明了我们的助推方法的有效性。
2022-06-10 cs.LG math.OC
Online Primal-Dual Algorithms with Predictions for Packing Problems
University Paris-Saclay(巴黎萨克雷大学);Sorbonne University(巴黎索邦大学);IBISC(IBISC(需注意:IBISC是巴黎萨克雷大学下属研究机构,此处按原文提取));CNRS(法国国家科学研究中心);LIP6(LIP6(巴黎索邦大学下属实验室,此处按原文提取))
具有预测的在线算法的领域已经被广泛地研究用于不同的应用,例如调度、缓存(分页)、集群、滑雪板租赁等。以统一的方法为目标,为线性覆盖问题提供了一个原始-对偶框架。他们通过合并预测来扩展在线原始-对偶方法,以实现超出最坏情况分析的性能。在本文中,我们认为这条研究路线,并提出了一个框架,设计算法的预测非线性包装问题。我们说明了我们的框架在子模块化最大化,特别是广告拍卖最大化的最佳界限,并提供支持实验的适用性。
2021-10-01 cs.DS cs.LG
Geometry-Dependent Online and Offline Approximation for Non-Monotone DR-Submodular Maximization
Purdue University(普渡大学)
针对非单调DR次模函数的在线最大化,提出几何相关界,改进遗憾系数至4/9,并给出匹配下界与多项式情形下的精确系数。
2026-10-27 cs.LG
Logarithmic Regret for Unconstrained Submodular Maximization Stochastic Bandit
Criteo AI Lab(Criteo人工智能实验室);Univ. Grenoble Alpes(格勒诺布尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LJK(让·昆廷诺实验室)
针对随机老虎机反馈下的在线无约束子模极大化问题,提出适配双贪心方法的DG-ETC算法,其1/2近似伪遗憾同时满足问题依赖的O(d log(dT))和无问题依赖的O(dT²/³ log(dT)¹/³)上界,性能优于现有方法,并刻画了上界区间过渡的难度概念。
2025-02-12 cs.LG math.CO math.OC
Automatic Ensemble Learning for Online Influence Maximization
The Chinese University of Hong Kong(香港中文大学)
我们考虑的问题,选择一个种子集,以最大限度地提高社会网络中的受影响的节点的预期数量,被称为\textit{influence maximization}(IM)的问题。我们假设社会网络的拓扑结构是规定的,而边缘之间的影响概率是未知的。为了学习影响概率并同时最大化影响传播,我们考虑了利用影响概率的当前估计以确保一定的影响传播和探索更多节点以更好地了解影响概率之间的权衡。开发-探索权衡是多臂强盗(MAB)问题的核心问题。如果将影响力扩散视为奖励,则IM问题可以归结为组合多臂强盗问题。在每一轮中,学习器在社交网络中选择有限数量的种子节点,然后根据真实的影响概率在网络中传播影响。当且仅当边的起始节点受到影响时,学习器才能观察到边的激活状态,这被称为边级半强盗反馈。两个经典的强盗算法,包括汤普森采样和EpperimentalGreedy被用来解决这个组合问题。为了保证这两种算法的鲁棒性,我们使用了一种自动集成学习策略,它结合了探索策略和开发策略。集成算法是自适应的,因为每个算法的概率可以根据算法的历史性能进行调整。实验结果表明,自动调整的探索算法和开发算法的混合的有效性。
2019-11-25 cs.LG stat.ML
Revenue Maximization and Learning in Products Ranking
本文研究在线零售商在消费者注意力跨度随机且未知条件下的产品排序收益最大化问题,提出具有嵌套结构的最优排序近似算法,并设计在线学习算法实现次线性遗憾。
2025-11-09 cs.LG
Reinforcement Learning Based Algorithm for the Maximization of EV Charging Station Revenue
Sofia University(索菲亚大学);Telecom Bretagne(布列塔尼电信学院)
本文提出了一种基于在线强化学习的应用程序,它增加了一个特定的电动汽车(EV)站的收入,连接到可再生能源。此外,所提出的应用程序适应车站的平均客户数量及其类型的趋势的变化。模型中的大部分参数都是随机模拟的,所采用的算法是Q-学习算法。通过计算机模拟验证了该模型的有效性。
2014-09-17 cs.CE cs.LG math.OC
Bandit Multi-linear DR-Submodular Maximization and Its Applications on Adversarial Submodular Bandits
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Microsoft Research(微软研究院);Fuzhou University(福州大学)
本文研究了单调多线性DR-次模函数的在线Bandit学习,提出算法$\mathtt{BanditMLSM}$,并首次为带划分拟阵约束的次模Bandit问题给出次线性regret算法,改进了相关问题的现有regret界。
2023-05-21 cs.AI cs.LG