We study the polyhedral convex hull structure of a mixed-integer set which arises in a class of cardinality-constrained concave submodular minimization problems. This class of problems has an objective function in the form of $f(a^\top x)$, where $f$ is a univariate concave function, $a$ is a non-negative vector, and $x$ is a binary vector of appropriate dimension. Such minimization problems frequently appear in applications that involve risk-aversion or economies of scale. We propose three classes of strong valid linear inequalities for this convex hull and specify their facet conditions when $a$ has two distinct values. We show how to use these inequalities to obtain valid inequalities for general $a$ that contains multiple values. We further provide a complete linear convex hull description for this mixed-integer set when $a$ contains two distinct values and the cardinality constraint upper bound is two. Our computational experiments on the mean-risk optimization problem demonstrate the effectiveness of the proposed inequalities in a branch-and-cut framework.
Multi-Objective Maximization of Monotone Submodular Functions with Cardinality Constraint
考虑基数约束下单调次模函数的多目标最大化问题,通常表示为$\max_{|A|=k}\min_{i\in\{1,\dots,m\}}f_i(A)$。虽然众所周知,贪婪方法对单个目标很有效,但对于多个目标,问题变得更加困难。事实上,Krause et al.(2008)表明,当目标$m$的数量随着基数$k$的增长时,即,$m=Ω(k)$,则问题不可近似(除非是$P=NP$)。另一方面,当$m$是常数时,Chekuri et al.(2010)展示了一个随机的$(1-1/e)-ε$近似与运行时(查询函数oracle的次数)$n^{m/ε^3}$。%事实上,Chekuri et al.(2010)是针对更一般的拟阵常数的情况。我们专注于找到一个快速和实用的算法,具有(渐近)近似保证,即使当$m$是超级常数。我们首先修改Chekuri等人的算法。(2010)以实现$m=o(\frac{k}{\log^3 k})$的$(1-1/e)$近似。这证明了在$m=Ω(k)$附近从常数因子可近似性到不可近似性的急剧转变。然后使用多重权重更新(MWU),我们找到了一个更快的$\tilde{O}(n/δ^3)$时间渐近$(1-1/e)^2-δ$近似。虽然上述结果都是随机的,我们也给出了一个简单的确定性$(1-1/e)-ε$近似与运行时$kn^{m/ε^4}$。最后,我们使用Kronecker图进行合成实验,…
Solving the Offline and Online Min-Max Problem of Non-smooth Submodular-Concave Functions: A Zeroth-Order Approach
School of Engineering, Australian National University, Canberra, Australia(澳大利亚国立大学工程学院,澳大利亚堪培拉);Department of Electrical and Electronic Engineering, University of Melbourne, Melbourne, Australia(墨尔本大学电气与电子工程系,澳大利亚墨尔本);Department of Mechanical Engineering, University of Texas at Dallas, Texas, USA(德克萨斯大学达拉斯分校机械工程系,美国德克萨斯)
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing(西蒙斯理论计算研究所)
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹(也不是凸),并定义在一个期望,我们开发了一个变种的条件梯度法,称为\alg,它实现了\textit{tight}近似保证。更准确地说,对于单调和连续的DR-子模函数和受到\textit{general}凸体约束,我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证(在预期中)与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口,我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
Optimal Algorithms for Continuous Non-monotone Submodular and DR-Submodular Maximization
Stanford University(斯坦福大学)
在本文中,我们研究了极大化超立方体上的连续非单调子模函数的基本问题,包括有和没有坐标方向的限制。这类优化问题在机器学习、经济学和通信系统中有几个应用。我们的主要结果是第一个$\frac{1}{2}$ -近似算法连续次模函数最大化,这个近似因子的$\frac{1}{2}$是最好的算法,只查询目标函数在多项式多点。对于DR-次模最大化的特殊情况,即当次模函数沿所有坐标也是坐标方向凹时,我们提供了一个不同的$\frac{1}{2}$ -近似算法,它在准线性时间内运行。这两个结果都改进了先前的工作[Bian et al,2017,Soma and Yoshida,2017]。我们的第一个算法使用了新的想法,如减少保证近似问题,以分析每个坐标的零和游戏,并结合了这个零和游戏的几何形状,以固定在这个坐标的值。我们的第二个算法利用坐标明智的搜索,以确定一个单调的平衡条件足以得到所需的近似保证,并使用二进制搜索的平衡点狩猎。我们进一步运行实验来验证我们提出的算法在相关机器学习应用中的性能。
Dec-BFTRL: Squre-Root Regret for Decentralized Online Upper-Linearizable Optimization under Separation Access with Application to Continuous Submodular Maximization
Purdue University(普渡大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)