Strongly Convex Maximization via the Frank-Wolfe Algorithm with the Kurdyka-Łojasiewicz Inequality
本文研究了紧集上凸最大化问题中单位步长贪婪 Frank-Wolfe 算法的收敛性,结合平滑性、强凸性和 KL 性质推导出全局渐近收敛及几何收敛速率,并应用于稀疏主成分分析、压缩感知和 Max-Cut 问题。
2025-04-30 math.OC
Surprise Maximization: A Dynamic Programming Approach
Borwein等人(2000)通过应用凸分析和数学规划的结果解决了一个意外最大化问题。虽然,他们的证明是优雅的,它需要先进的知识,从这两个领域来理解它。在这里,我们提供了另一种方法来获得一个最优解的问题,利用动态规划。
2020-12-29 math.OC
On the maximization of a class of functionals on convex regions, and the characterization of the farthest convex set
我们考虑一类泛函$J$在平面凸集$K$上被极大化,对于这些凸集,周长和Steiner点是固定的。假设$J$是一个二次表达式在支撑函数$h$的积分,我们证明了最大化总是一个三角形或一个线段(可以被认为是一个折叠的三角形)。在主要定理的具体后果是这样一个事实,即任何凸体$K_1$的有限周长,集类中,我们认为是最远的意义上的$L^2$距离始终是一个线段。我们还证明了Hausdorff距离的相同性质。
2009-05-10 math.FA math.OC
Convex Integer Maximization via Graver Bases
我们提出了一种新的代数算法方案来解决以下形式的{ \em凸整数最大化}问题,其中$c$是$R^d$上的凸函数,$w_1x,...,w_dx$是$R^n$、$$\max \{c(w_1 x,...,w_d x): Ax=b, x\in N^n\} .$$上的线性形式该方法适用于任意输入数据$A,b,d,w_1,...,w_d,c$。此外,对于固定的$d$和{ \em变维}中的几类重要程序,我们证明了我们的算法在{ \em多项式时间}内运行.因此,我们得到了各种类型的多路运输问题,包装问题,和分区问题的变维的多项式时间算法。
2008-02-19 math.CO math.OC
Probability Maximization via Minkowski Functionals: Convex Representations and Tractable Resolution
在本文中,我们考虑的最大化概率$\mathbb{P}\{ ζ\mid ζ\in \mathbf{K}(\mathbf x)\}$在一个封闭的凸集$\mathcal X$,一个特殊的情况下的机会约束优化问题。我们将$\mathbf{K}(\mathbf x)$定义为$\mathbf{K}(\mathbf x) \triangleq \{ ζ\in \mathcal{K} \mid c(\mathbf{x},ζ) \geq 0 \}$,其中$ζ$均匀分布在凸紧集$\mathcal{K}$上,并且$c(\mathbf{x},ζ)$定义为{ $c(\mathbf{x},ζ) \triangleq 1-|ζ^T\mathbf{x}|^m$,$m\geq 0$ }(设置A)或$c(\mathbf{x},ζ) \triangleq T\mathbf{x} -ζ$(设置B)。我们表明,在任何一种设置,$\mathbb{P}\{ ζ\mid ζ\in \mathbf{K(x)}\}$可以表示为一个适当定义的函数$F(\mathbf{x},ξ)$相对于一个适当定义的高斯密度(或其变体),即$\mathbb{E}_{\tilde p} [F(\mathbf x,ξ)]$的期望。然后,我们开发了一个凸表示的原始问题,需要最小化的${g(\mathbb{E}[F(\mathbf{x},ξ)])}$在$\ma…
2022-03-10 math.OC
Projected Subgradient Ascent for Convex Maximization
Brown University(布朗大学)
本文提出了一种投影子梯度上升方法用于解决凸最大化问题,证明其在特定条件下收敛于一阶 stationary 点。
2026-02-20 cs.NA math.NA math.OC
Bridging the Gap Between General and Down-Closed Convex Sets in Submodular Maximization
University of Haifa(海法大学);DataHeroes
本文针对一般凸集约束下非单调DR-子模函数最大化问题,提出基于将凸体分解为下闭凸体与一般凸体的新型离线与在线算法,实现了下闭与非下闭约束之间的可证明平滑插值,并在多个应用中验证了其优越性。
2024-01-17 cs.LG math.OC
Non-Concave Network Utility Maximization in Connectionless Networks: A Fully Distributed Traffic Allocation Algorithm
研究了无连接网络中多个端点间基于优化的流量分配问题。网络效用函数被建模为非凹函数,因为它是对具有非弹性应用(诸如视频和音频流)的用户感知的服务质量的最佳描述。然而,由此产生的非凸优化问题,是具有挑战性的,需要新的分析和解决方案的技术。为了克服这些挑战,我们首先提出了一个层次的问题,其最优值收敛到非凸优化问题的最优值的时刻趋于无穷大。从这一层次的问题,我们得到了一个凸松弛的原始非凸优化问题,考虑截断矩序列。为了解决凸松弛,我们提出了一个完全分布式的迭代算法,它使每个节点调整其数据分配/速率自适应之间的任何给定的一组下一跳仅仅基于来自相邻节点的信息。此外,所提出的流量分配算法收敛到凸松弛的最优值在$O(1/K)$率,其中$K$是迭代计数器,具有有界最优性。在本文的最后,我们进行了数值模拟,以证明该算法的合理性。
2017-02-27 math.OC
Decentralized Submodular Maximization: Bridging Discrete and Continuous Settings
在本文中,我们展示了网络结构设置中离散和连续优化之间的相互作用。我们提出了第一个完全分散的最优化方法的广泛的一类非凸目标函数,具有收益递减属性。更具体地说,给定一个任意连接的网络和一个全球连续的次模函数,形成了一个本地功能的总和,我们开发分散连续贪婪(DCG),消息传递算法,收敛到紧(1-1/e)的近似因子的最佳全球解决方案,只使用本地计算和通信。我们还提供了强大的收敛界作为一个函数的网络规模和频谱特征的基础拓扑结构。有趣的是,DCG很容易通过连续松弛的方式为分散的离散子模最大化提供了一个简单的方法。形式上,我们证明,通过提升局部离散函数的连续域和使用DCG作为接口,我们可以开发一个共识算法,也实现了紧(1-1/e)近似保证的全球离散解决方案,一旦适当的舍入方案。
2018-02-11 math.OC
Online Submodular Maximization via Online Convex Optimization
Northeastern University(东北大学);Boston University(波士顿大学)
研究一般拟阵约束下的单调次模最大化在线优化问题,通过证明加权阈值势函数可凹松弛,将其归约为在线凸优化(OCO),结合舍入方案实现次线性遗憾,并扩展至动态遗憾、老虎机和乐观学习设定。
2024-01-08 cs.AI cs.LG math.OC
The Multi-path Utility Maximization and Multi-path TCP Design
多径网络效用最大化问题是一个非严格凸、不可分的问题。利用Jensen不等式,我们将NUM近似为一个严格凸且可分离的问题,该问题可以用对偶分解方法有效地求解。经过一系列的逼近,逼近问题的结果收敛到原问题的全局最优解。此外,由于所提出的算法的可分离性和基于双重的性质,我们利用目前的TCP的逆向工程框架,开发出一系列的多路径TCP,这是完全兼容当前的TCP。多路径用户使用我们的协议可以同时运行与单路径用户使用现有的TCP。在ns-2上对多径Reno算法进行了仿真,仿真结果表明了多径和单径用户之间的兼容性和公平性。
2013-01-04 math.OC
A Spatial Branch-and-Bound Approach for Maximization of Non-Factorable Monotone Continuous Submodular Functions
与许多假设目标函数和约束条件是可分解的连续全局最优化方法不同,我们研究了如何找到不可分解问题的全局最大解,重点是一类特定的问题。具体来说,我们开发了一种方法,非减连续次模函数的约束。我们的特点,这些功能的hypograph和开发一个切割平面算法,发现近似解和边界使用的hypograph的凸包的近似。我们还测试了一个空间分支定界的方法,利用近似切割平面算法形成一个外近似,并获得子矩形的上界,并比较我们的方法与最先进的商业求解器。主要结果是,对于某些问题,子模性比可因式分解性更有用。
2022-08-29 math.OC
On utility maximization under convex portfolio constraints
本文考虑了一般半鞅金融模型中的效用最大化问题,该模型中每个风险资产的持股数都受到约束。这些约束由可预测的凸集值过程建模,其值不一定包含原点;也就是说,投资者可能不允许持有任何风险投资。这样的设置包含了经典的约束效用最大化问题,以及非流动资产或随机禀赋存在的问题。我们的主要结果建立了最佳交易策略在这样的模型的效用函数的光滑性要求下的存在性。结果还表明,达到,对偶优化问题可以构成一组可数可加概率测度,从而避免了通常的有限可加扩大的需要。
2013-02-22 math.OC math.PR q-fin.PM
Projected Primal-Dual Gradient Flow of Augmented Lagrangian with Application to Distributed Maximization of the Algebraic Connectivity of a Network
本文提出了一种求解不一定是严格凸的凸优化问题的增广拉格朗日投影原始-对偶梯度流。优化变量由一个在其切锥上具有可计算投影运算的凸集以及等式约束约束。作为\cite{niederlander2016distributed}中分析的补充,我们证明了投影的动力系统收敛于鞍点之一,从而找到了一个最优解。此外,考虑了通过优化每个节点(基站)的端口增益来分布式地最大化无向网络的代数连通度的问题。将原来的半定规划(SDP)问题松弛为一个非线性规划(NP)问题,并通过上述投影动力系统求解。数值例子表明,上述算法收敛到最优解之一。松弛的效果说明经验与数值例子。提出了一种方法,使达到平衡所需的迭代次数被抑制。用数值例子说明了算法的每次迭代的复杂性。
2018-10-30 math.OC
Non-concave utility maximization problem with transaction costs and a given consistent price system
针对含交易成本和固定一致价格系统的连续时间市场,研究正半轴上的非凹终端效用最大化,利用凸共轭条件与极大化序列证明最优解存在,并揭示效用包络值函数与值函数凹包络的重合关系。
2024-09-06 math.OC
Power Utility Maximization in Constrained Exponential Lévy Models
研究了投资组合约束下指数Lévy模型的幂效用最大化问题,其中效用由消费和/或终端财富获得.对于凸约束,通过求解Bellman方程,在最小假设下构造了一个关于Lévy三元组的显式解。我们使用了一种新颖的模型转换,以避免技术条件。讨论了q-最优鞅测度的结果以及对非凸约束的扩展。
2010-09-07 math.OC q-fin.PM q-fin.PR
Fixed Parameter Complexity and Approximability of Norm Maximization
在$\R^d$中的半空间表示多面体上极大化$p$范数的$p$次幂问题是一个凸极大化问题,它在计算凸性中起着重要作用. 1986年已经证明,如果周围空间的维数$d$是输入的一部分,则这个问题对于所有值$p \in \mathbb{N}$都是$\NP$ -hard。本文利用参数化复杂性理论分析了范数最大化的难度对参数$d$的依赖程度。更准确地说,我们表明,$p=1$的问题是固定参数易处理的,但所有$p \in \mathbb{N} \setminus \{1\}$范数最大化是W[1]-硬。关于范数最大化的近似算法,我们表明,对于固定的精度,有一个简单的近似算法的范数最大化FPT运行时间,但没有FPT近似算法,其运行时间多项式依赖于精度。与范数最大化的$\NP$ -硬度一样,W[1]-硬度立即延续到计算凸性中的各种半径计算任务。
2013-07-24 cs.CC cs.CG math.MG
Robust utility maximization with nonlinear continuous semimartingales
本文研究连续时间模型不确定性下的稳健效用最大化问题,其不确定性由具有不确定局部特征的连续半鞅控制,证明了该问题与共轭问题的对偶性,并研究了对数、指数和幂效用下最优投资组合的存在性。
2023-08-03 math.OC math.PR q-fin.MF
Maximization of the efficiency of the first Dirichlet eigenfunction and improved eigenvalue inequalities
Università degli studi di Napoli Federico II(那不勒斯费德里科二世大学)
本文研究了有界凸域上第一狄利克雷特征函数效率,通过改进的对数凹性估计,建立了第一特征值的新下界和效率的上界,改进了Payne, Stakgold和Hersch的经典不等式,并探讨了平面凸域效率的渐进行为。
2026-04-24 math.AP math.OC
On the Stability of Utility Maximization Problems
本文推广了文[4]的稳定性结果。我们的效用最大化问题被定义为一个本质上确界的条件期望的终端值的财富过程,条件过滤在停时$τ$。为了建立我们的结果,我们推广了经典的凸分析结果,从$L^0$到$L^0$的映射。文[7]中引入的凸紧性概念在我们的分析中起着重要的作用。
2011-03-25 math.OC math.PR q-fin.PM
Upper-Linearizability of Online Non-Monotone DR-Submodular Maximization over Down-Closed Convex Sets
Purdue University(普渡大学);IIT Indore(印度理工学院Indore);Mila - Quebec AI Institute/McGill University(魁北克AI研究所/麦吉尔大学)
本文提出了一种将非单调DR-子模最大化问题转化为在线线性优化的方法,实现了O(T^{1/2})的静态后悔和改进的动态后悔保证。
2026-07-13 cs.LG math.OC stat.ML
Duality in Robust Utility Maximization with Unbounded Claim via a Robust Extension of Rockafellar's Theorem
研究了随机禀赋条件下鲁棒效用最大化的凸对偶方法。当标的价格过程是局部有界半鞅时,我们证明了基本对偶关系对整条实数线上的广泛一类效用函数和无界随机禀赋都成立。为了获得这种对偶性,我们证明了一个强大的版本的Rockafellar定理的凸积分泛函和应用Fenchel的一般对偶定理。
2011-01-15 math.OC math.PR q-fin.CP
Exponential Utility Maximization with Delay in a Continuous Time Gaussian Framework
针对价格信息延迟下的连续时间指数效用最大化非马尔可夫随机控制问题,采用基于Shepp和Hitsuda高斯测度Radon-Nikodym导数理论的纯概率方法,得到高斯过程风险资产场景下的最优控制与值函数解。
2025-10-02 math.OC q-fin.MF
An Approach for Non-Convex Uniformly Concave Structured Saddle Point Problem
近年来,鞍点问题由于其强大的建模能力而受到广泛关注。这些问题的应用出现在许多应用领域,如鲁棒优化,分布式优化,对策论,以及机器学习中的许多应用,如经验风险最小化和生成对抗网络训练。因此,许多研究人员积极致力于发展数值方法来解决许多不同环境下的鞍点问题。本文致力于发展一种求解非凸一致凹背景下鞍点问题的数值方法。研究了一类具有复合结构和高阶Hölder连续导数的鞍点问题.为了解决所考虑的问题,我们提出了一种方法,在该方法中,我们减少了两个辅助最优化问题分别为每组变量,外部最小化问题w.r.t.原始变量和关于对偶变量的内极大化问题。对于解决外部最小化问题,我们使用的\textit{Adaptive Gradient Method},这是适用于非凸问题,也与一个不精确的预言,是通过近似解决内部问题。为了解决内部最大化问题,我们使用\textit{Restarted Unified Acceleration Framework},这是一个框架,统一的高阶加速方法,最小化一个凸函数,具有Hölder连续高阶导数。单独的复杂性界限提供了外部最小化问题和内部最大化问题的高阶预言机的一阶预言机的调用次数。此外,整个所提出的方法的复杂性,然后估计。
2022-02-13 math.OC
Maximization of the Steklov eigenvalues with a diameter constraint
在本文中,我们解决的问题最大化的Steklov特征值的直径约束。我们提供了一个估计的Steklov特征值的凸区域在其直径和体积方面,我们显示存在一个最佳的凸区域。我们建立的球从来没有最大化,即使是第一个非平凡的特征值,与体积或周长约束的情况下。在一个额外的正则性假设下,我们能够证明Steklov特征值是最优域的倍数。我们说明我们的理论结果,在平面上给出一些最佳域由于数值算法。
2020-04-29 math.OC math.SP
Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap
Simons Institute for the Theory of Computing(西蒙斯理论计算研究所)
本文研究了\textit{constrained}和\textit{stochastic}连续子模极大化问题。即使目标函数是不是凹(也不是凸),并定义在一个期望,我们开发了一个变种的条件梯度法,称为\alg,它实现了\textit{tight}近似保证。更准确地说,对于单调和连续的DR-子模函数和受到\textit{general}凸体约束,我们证明了\alg实现了$[(1-1/e)\text{OPT} -\eps]$保证(在预期中)与$\mathcal{O}{(1/\eps^3)}$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。通过使用随机连续优化作为一个接口,我们还提供了第一$(1-1/e)$紧逼近保证最大化的\textit{monotone but stochastic}子模块\textit{set}功能的一般拟阵约束。
2017-11-05 cs.LG math.OC
Continuous Non-monotone DR-submodular Maximization with Down-closed Convex Constraint
研究了受向下闭合凸约束的连续非单调DR-次模最大化问题,通过构建实例揭示驻点近似比差的缺陷,并将两种离散算法扩展至连续域以获得更优的近似比。
2024-03-26 cs.DS math.OC
Non-monotone DR-submodular Maximization: Approximation and Regret Guarantees
Sorbonne Université(索邦大学);Univ Évry, Université Paris-Saclay(埃夫里大学,巴黎-萨克雷大学)
子模优化是一个重要的研究领域,在机器学习、经济学和通信系统中有着广泛的应用。它捕获了非凸优化的一个子类,提供了实践和理论上的保证。本文研究了下闭和一般凸集上非单调DR-次模函数的最大化问题。首先,我们表明,离线最大化非单调DR-次模函数在一般的凸集上,Frank-Wolfe算法实现的近似保证依赖于凸集。其次,我们证明了随机梯度上升算法实现了1/4的近似比与遗憾的$O(1/\sqrt{T})$的最大化问题的非单调DR-子模函数的下闭凸集。这些是相应设置中的第一近似保证。最后,我们基准这些算法在机器学习领域与现实世界的数据集出现的问题。
2019-05-23 cs.DS cs.LG math.OC
Submodular maximization and its generalization through an intersection cut lens
研究了子模极大化问题中的混合整数集$S:=\{(x,t) \in \{0,1\}^n \times \mathbb{R}: f(x) \ge t\}$,其中$f$是定义在$\{0,1\}^n$上的次模函数.我们使用相交切割来收紧$S$的多面体外近似。我们构造了$f$的连续扩张$F$,它是凸的,定义在整个空间$\mathbb{R}^n$上。证明了$F$的上图是一个$S$ -自由集,并刻画了包含该上图的极大$S$ -自由集.本文提出了一种混合离散牛顿算法来高效、准确地计算交线切割。我们的结果被推广到次模-超模函数的下图或上水平集,这是一个离散非凸的模型。这些结果的一个后果是相交切割布尔多线性约束。我们评估我们的技术最大切割,伪布尔最大化,贝叶斯D最优设计的MIP求解器内的问题。
2023-02-27 math.OC
Communication-Efficient Decentralized Online Continuous DR-Submodular Maximization
City University of Hong Kong(香港城市大学);Cainiao Network(菜鸟网络)
最大化单调子模函数是机器学习、经济学和统计学中的一项基本任务。在本文中,我们提出了两个通信有效的分散在线算法的单调连续DR-子模最大化问题,这两个减少每功能梯度评估的数量和每轮通信复杂性从$T^{3/2}$到$1$。第一个是单次分散元Frank-Wolfe(Mono-DMFW),实现了$O(T^{4/5})$的$(1-1/e)$ -遗憾界。据我们所知,这是第一个用于单调连续DR子模最大化的一次性无投影分散在线算法。其次,受非遗忘提升函数\citep{zhang2022boosting}的启发,提出了分散在线提升梯度上升(DOBGA)算法,该算法实现了$O(\sqrt{T})$的$(1-1/e)$ -遗憾。据我们所知,这是第一个结果,以获得最佳的$O(\sqrt{T})$对$(1-1/e)$ -近似,只有一个梯度查询每个局部目标函数的每一步。最后,各种实验结果证实了所提出的方法的有效性。
2022-08-18 cs.LG math.OC
Stochastic Conditional Gradient Methods: From Convex Minimization to Submodular Maximization
Massachusetts Institute of Technology(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学)
本文考虑一类目标函数的随机最优化问题,其中包括凸的和连续的子模。随机近端梯度法已被广泛用于解决这类问题,然而,当问题维数很大,投影到一个凸集是昂贵的,他们的适用性仍然有限。相反,随机条件梯度法被提出作为一种替代解决方案,依赖于(i)通过简单的平均技术近似梯度,每次迭代需要一个单一的随机梯度评估;(ii)求解线性规划来计算下降/上升方向。平均技术降低了噪声的梯度近似随着时间的推移,并取代投影步骤在近似方法由一个线性规划降低了每次迭代的计算复杂性。我们表明,在凸性和光滑性的假设下,我们提出的方法收敛到最佳的目标函数值在一个次线性率$O(1/t^{1/3})$。此外,对于单调和连续的DR-子模函数和一般凸体约束,我们证明了我们提出的方法实现了$((1-1/e)OPT-\eps)$保证与$O(1/\eps^3)$随机梯度计算。这种保证匹配已知的硬度结果,并关闭确定性和随机连续子模最大化之间的差距。此外,对于目标函数是连续的DR-次模但非单调的,且约束集是下闭的情形,我们利用$O(1/\eps^3)$随机梯度得到了$((1/e)OPT -\eps)$保证.通过使用随机连续优化作为一个接口,我们提供了第一个$(1-1/e)$紧逼近保证最大化的单调,但随机子模集函数的拟阵约束和$(1/e)$逼近保证的非单调的情况下。
2018-11-12 cs.LG math.OC stat.ML
Black Box Submodular Maximization: Discrete and Continuous Settings
Yale Institute for Network Science(耶鲁网络科学研究所);Yale University(耶鲁大学);University of Pennsylvania(宾夕法尼亚大学)
在本文中,我们考虑黑盒连续次模最大化问题,我们只能访问的功能值,没有信息的导数提供。对于单调和连续的DR-子模函数,并受到有界凸体约束,我们提出了黑盒连续贪婪,一个导数免费的算法,可证明实现了紧$[(1-1/e)OPT-ε]$近似保证与$O(d/ε^3)$功能评价。然后,我们将我们的结果扩展到随机设置的函数值受到随机零均值噪声。正是通过这种随机推广,我们重新审视离散次模最大化问题,并使用多线性扩展作为离散和连续设置之间的桥梁。最后,我们广泛评估我们的算法的性能,连续和离散submodular目标函数使用合成和真实数据。
2020-03-01 cs.DS cs.LG math.OC
Hybrid Block Successive Approximation for One-Sided Non-Convex Min-Max Problems: Algorithms and Applications
最小-最大问题,也称为鞍点问题,是一类同时最小化和最大化两个变量子集的最优化问题。这类问题可用于制定广泛的信号处理和通信(SPCOM)问题。尽管它的流行,大多数现有的理论,这类主要是发展了一些特殊的凹凸结构的问题。因此,它不能用来指导算法设计的许多有趣的问题,在SPCOM中,各种各样的非凸性出现。在这项工作中,我们考虑了一个块明智的单侧非凸极小极大问题,其中的最小化问题由多个块,是非凸的,而最大化问题是(强)凹。我们提出了一类简单的算法混合块逐次逼近(HiBSA),交替执行梯度下降型步骤的最小化块和梯度上升型步骤的最大化问题。该算法的一个关键因素是使用一定的正则化和惩罚序列,稳定算法,并确保收敛。我们表明,HiBSA收敛到一些适当定义的一阶固定的解决方案,可量化的全球利率。为了验证所提出的算法的效率,我们进行了一些问题的数值测试,包括鲁棒学习问题,非凸最小效用最大化问题,并在干扰信道中出现的某些无线干扰问题。
2021-03-16 math.OC stat.ML
Robust Utility Maximization with Drift and Volatility Uncertainty
在完全市场中,在连续时间$[0,T]$中,给出了具有连续不确定性的终端财富问题$u(X_T)$的效用最大化的显式解.我们假设标的股票的漂移和波动都存在不确定性,从而导致连续路径$Ø$的规范空间上的非等价测度。我们假设不确定集存在于时间依赖的紧集中。在这个框架中,我们解决了对数,幂和指数效用函数的鲁棒优化问题,明确。
2019-09-11 math.OC q-fin.MF
Facelifting in Utility Maximization
我们建立了不完全半鞅驱动的金融市场中效用最大化的原始和对偶整容(价值函数在终端时间的不连续性)的存在性和特征。与上下对冲问题不同的是,尽管目标函数是严格凸的,但效用最大化问题的面貌却有所改变,这有点出乎意料。除了讨论我们的结果在其自然的,马尔可夫环境中,我们还使用它们来表明,双优化器不能在一组可数添加剂(鞅)措施在各种情况下。
2014-04-08 math.OC q-fin.PM
Matrix Pontryagin principle approach to controllability metrics maximization under sparsity constraints
稀疏约束下的能控性最大化问题是一个节点选择问题,该问题选择对控制有效的输入,以最小化能量来控制期望状态。本文讨论了稀疏约束能控性度量极大化问题与其凸松弛问题的等价性。证明是基于矩阵值庞特里亚金最大值原理适用于可控性李雅普诺夫微分方程。
2022-03-24 cs.SY eess.SY math.OC
Solving Inverse Problems by Joint Posterior Maximization with a VAE Prior
Universidad de la República(共和国大学);CNRS & Université de Paris(法国国家科学研究中心与巴黎大学);Sorbonne Université(索邦大学)
在本文中,我们解决成像中的不适定逆问题的解决问题,其中先验是一个神经生成模型。具体来说,我们考虑解耦的情况下,先验知识被训练一次,可以重复使用许多不同的对数凹退化模型,而无需重新训练。而以前的MAP为基础的方法,这个问题导致高度非凸优化算法,我们的方法计算的联合(空间潜伏)MAP,自然会导致交替的优化算法和使用的随机编码器,以加速计算。由此产生的技术被称为JPMAP,因为它使用自动编码先验执行联合后验最大化。我们展示了理论和实验证据,建议的目标函数是非常接近双凸。事实上,它满足一个弱双凸性质,这足以保证我们的优化方案收敛到一个稳定点。实验结果还表明,我们的JPMAP方法相对于其他非凸MAP方法,更经常陷入虚假的局部最优值得到更高质量的解决方案。
2019-11-14 cs.CV cs.LG eess.IV
Convergence Rate of Block-Coordinate Maximization Burer-Monteiro Method for Solving Large SDPs
University of Toronto(多伦多大学);Massachusetts Institute of Technology(麻省理工学院)
带对角约束的半定规划问题在最大割、社团检测、群同步等最优化问题中得到了广泛的应用。虽然SDPs可以在多项式时间内求解到任意精度,但通用凸解算器不能很好地与问题的维度相匹配。为了解决这个问题,Burer和Monteiro提出通过低秩分解来降低问题的维数,并解决随后的非凸问题。在本文中,我们提出了基于坐标上升的方法来解决这个非凸问题,可证明的收敛保证。更具体地说,我们证明了适用于非凸Burer-Monteiro方法的块坐标最大化算法全局收敛到一个一阶稳定点,具有次线性速率,而无需对问题进行任何假设。我们进一步表明,该算法的收敛线性局部极大值的目标函数呈现二次衰减。我们建立了这个条件一般成立时,因式分解的秩是足够大的。此外,将Lanczos方法的块坐标最大化,我们提出了一种算法,保证返回一个解决方案,提供$1-O(1/r)$近似的原始SDP没有任何假设,其中$r$是排名的因式分解。这个近似比在唯一博弈猜想下是最优的(直到常数),我们可以明确量化迭代次数以获得这样的解。
2019-11-26 cs.LG math.OC stat.ML
Online Learning for Non-monotone Submodular Maximization: From Full Information to Bandit Feedback
City University of Hong Kong(香港城市大学);Cainiao Network(菜鸟网络);National University of Singapore(新加坡国立大学)
在本文中,我们重新审视在线非单调连续DR-次模最大化问题的下闭凸集,发现广泛的现实世界中的应用领域的机器学习,经济学和运筹学。首先,我们提出了Meta-MFW算法,以每轮$T^{3/2}$随机梯度评估为代价,实现了$O(\sqrt{T})$的$1/e$ -遗憾。Meta-MFW是第一个针对下闭凸集上的在线非单调连续DR-次模极大化问题获得$O(\sqrt{T})$的$1/e$ -后悔的算法。此外,与ODC算法\citep{thang2021online}形成鲜明对比,Meta-MFW依赖于简单的在线线性预言,没有离散化,提升或舍入操作。考虑到实际应用的限制,我们提出了Mono-MFW算法,该算法将$T^{3/2}$的每个函数的随机梯度估计减少到1,并达到了$O(T^{4/5})$的$1/e$ -遗憾界。其次,我们将Mono-MFW扩展到Bandit环境,提出了Bandit-MFW算法,该算法达到了$O(T^{8/9})$的$1/e$ -遗憾界。据我们所知,Mono-MFW和Bandit-MFW是第一个次线性后悔算法,分别探索下闭凸集上的在线非单调连续DR-次模极大化问题的一次性和强盗设置。最后,我们在合成和真实世界的数据集上进行了数值实验,以验证我们的方法的有效性。
2022-08-16 cs.LG math.OC
Non-Smooth, Hölder-Smooth, and Robust Submodular Maximization
本文研究非光滑连续 DR-子模最大化,分别用连续贪心与 mirror-prox 给出 Hölder 光滑和非光滑情形的近似保证,并应用于鲁棒及 Wasserstein 分布鲁棒优化。
2023-09-28 cs.DS math.OC
Profit Maximization for Online Advertising Demand-Side Platforms
我们开发了一个最优化模型和相应的算法的需求方平台(DSP)的管理,从而DSP的目标是最大限度地提高自己的利润,同时获得有价值的印象,为广告客户。我们制定的利润最大化的DSP与广告交易所在实时招标环境中的每次点击成本/每次行动成本定价模型的问题。我们提出的公式导致一个非凸的最优化问题,由于联合优化的印象分配和投标价格的决定。我们使用拉格朗日松弛开发一个易于处理的凸对偶问题,其中,由于第二价格拍卖的属性,可以有效地解决次梯度方法。我们提出了一个两阶段的解决方案的过程中,在第一阶段,我们解决了凸对偶问题,使用次梯度法,并在第二阶段,我们使用以前计算的对偶解,以设置投标价格,然后解决一个线性最优化问题,以获得分配概率变量。在几个合成的例子中,我们证明了我们提出的解决方案的方法,导致优越的性能在实践中使用的基线方法。
2017-06-06 cs.GT math.OC
Dec-BFTRL: Squre-Root Regret for Decentralized Online Upper-Linearizable Optimization under Separation Access with Application to Continuous Submodular Maximization
Purdue University(普渡大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)
本文提出Dec-BFTRL算法,用于分离访问下分散式在线上线性化优化,实现平方根遗憾,并应用于连续子模最大化。
2026-10-01 cs.AI cs.LG math.OC
High Probability Bounds for Stochastic Continuous Submodular Maximization
University of California Los Angeles (UCLA)(加利福尼亚大学洛杉矶分校)
研究了随机单调连续次模函数(CSF)的最大化问题。现有的算法只保证性能\textit{in expectation},并没有约束的概率得到一个坏的解决方案。这意味着对于算法的特定运行,解决方案可能比预期中提供的保证差得多。在本文中,我们首先从经验上验证了这一点。然后,我们提供了第一个\textit{high-probability}分析现有的方法随机CSF最大化,即PGA,提升PGA,SCG,SCG++。最后,我们提供了一个改进的SCG的高概率界,在稍强的假设下,具有更好的收敛速度比预期的解决方案。通过对非凹二次规划(NQP)和最优预算分配的大量实验,我们证实了我们的边界的有效性,并表明即使在最坏的情况下,PGA收敛到$OPT/2$,而提升的PGA,SCG,SCG++收敛到$(1 - 1/e)OPT$,但速度比预期的解慢.
2023-03-20 cs.DS cs.LG math.OC
Utility maximization with addictive consumption habit formation in incomplete semimartingale markets
研究了不完全半鞅市场中具有成瘾习惯形成的连续时间效用最大化问题。通过引入辅助状态过程集和修正的对偶空间,将原问题转化为乘积空间$\mathbb{L}_+^0(Ω\times [0,T],\mathcal{O},\overline{\mathbb{P}})$上的带影子随机禀赋的时间可分效用最大化问题.最优解的存在性和唯一性建立了凸对偶方法,其中的原始值函数被定义在两个变量,即初始财富和初始生活水平。我们还提供了充分条件的随机贴现过程和效用函数的适定性的原始优化问题。在同样的假设条件下,当辅助对偶过程不一定可积时,凸对偶分析方法中的经典证明可以得到修正。
2015-05-28 math.OC math.PR q-fin.PM
Max-Min Fairness Design for MIMO Interference Channels: a Minorization-Maximization Approach
研究了多输入多输出干扰信道(MIMO-IC)中的线性预编码器(波束形成器)设计问题。其目的是设计发送协方差矩阵,以实现最大最小效用公平的所有用户。相应的优化问题是非凸的,一般是NP-困难的。我们设计了一个有效的算法的基础上的最小化最大化(MM)技术,以获得质量的解决方案,这个问题。所提出的方法解决了一个二阶锥凸规划(SOCP)在每次迭代。我们证明了所设计的方法收敛到问题的稳定点。我们也将我们的算法扩展到噪声协方差矩阵或信道状态信息(CSI)中存在不确定性的情况。仿真结果表明,该方法的有效性与其主要竞争对手相比。
2019-08-02 cs.SI cs.SY eess.SP
Robust Utility Maximization in Discrete-Time Markets with Friction
研究了离散时间拟确定环境下的鲁棒随机优化问题。我们表明,在线性型条件下的问题承认一个最大化。这个条件隐含在金融市场模型中的无套利条件中。作为推论,我们得到了在无摩擦市场模型中效用最大化的存在性,市场具有成比例的交易成本和更一般的凸成本,如在市场冲击的情况下。
2018-05-10 math.OC math.PR q-fin.MF
Stability of utility-maximization in incomplete markets
投资组合管理的效用最大化技术的有效性依赖于我们正确估计基础金融资产动态参数的能力。在完整或不完整的金融市场的设置,我们调查是否小扰动的市场系数过程导致小的变化,代理人的最佳行为来自相关的效用最大化问题的解决方案。具体地说,我们确定的拓扑结构的参数过程空间和解空间下,效用最大化是一个连续的操作,我们提供了一个反例表明,我们的结果是最好的可能,在一定意义上。作为中心定理证明的一个分支,建立了一个关于连续半鞅模型下的效用最大化问题解的结构的新结果。
2007-06-04 math.OC math.PR q-fin.PM
When AUC meets DRO: Optimizing Partial AUC for Deep Learning with Non-Convex Convergence Guarantee
University of Iowa(爱荷华大学)
本文针对深度学习中的单向和双向偏AUC最大化问题,提出基于CVaR和KL散度正则化DRO的两种代理目标形式及相应优化算法,并给出非凸收敛保证,实验验证了其有效性。
2023-09-18 cs.LG math.OC stat.ML
Energy-Efficient Resource Allocation for Wireless Powered Communication Networks
本文考虑了无线供电通信网络(WPCN),其中多个用户从一个专用的发电站收集能量,然后与信息接收站进行通信。我们的目标是通过联合时间分配和功率控制,同时考虑到每个用户的初始电池能量,调查网络的最大可实现的能源效率(EE)。我们首先研究了在没有任何系统吞吐量要求的WPCN中的EE最大化问题。我们表明,EE最大化问题的WPCN可以转换为EE最大化问题的两个简化的网络,通过利用其特殊的结构。对于每个问题,我们推导出最优解,并提供相应的物理解释,尽管非凸的问题。随后,我们研究了最小系统吞吐量约束下的EE最大化问题。利用分式规划理论,我们将所得的非凸问题转化为一个标准的凸优化问题。这使我们能够表征联合时间分配和功率控制的最优解结构,并推导出一个有效的迭代算法获得最优解。仿真结果验证了我们的理论研究结果,并证明了所提出的联合时间和功率优化的有效性。
2015-11-17 cs.IT math.IT math.OC
Multi-block Min-max Bilevel Optimization with Applications in Multi-task Deep AUC Maximization
Texas A&M University(得克萨斯农工大学);University of Iowa(爱荷华大学)
研究了多块min-max双层最优化问题,其中上层为非凸强凹minimax目标,下层为强凸目标,且存在多块对偶变量和下层问题.由于交织的多块最小-最大双层结构,每次迭代的计算成本可能非常高,特别是在大量块的情况下。为了解决这一挑战,我们提出了一个单循环随机算法,它只需要在每次迭代中更新一个恒定数量的块。在一些温和的假设下,我们建立了它的样本复杂性$O(1/ε^4)$寻找一个$ε$ -平稳点。这与一般无偏随机预言模型下求解随机非凸优化的最优复杂性相匹配。此外,我们提供了所提出的方法在多任务深度AUC(ROC曲线下面积)最大化和多任务深度部分AUC最大化的两个应用。实验结果验证了我们的理论,并证明了我们的方法在数百个任务的问题的有效性。
2022-11-17 cs.AI cs.LG math.OC
Gradient Method for Continuous Influence Maximization with Budget-Saving Considerations
连续影响最大化(CIM)通过引入一般营销策略来推广原始的影响最大化:营销策略组合是一个向量$\boldsymbol x = (x_1,\dots,x_d)$,对于社交网络中的每个节点$v$,$v$可以被激活为具有概率$h_v(\boldsymbol x)$的扩散种子,其中$h_v$是满足DR-子模块性的策略激活函数。CIM是选择具有约束$\sum_i x_i \le k$的策略混合$\boldsymbol x$的任务,其中$k$是预算约束,使得在扩散过程(称为影响扩散并表示为$g(\boldsymbol x)$)之后激活的节点的总数最大化。在本文中,我们扩展CIM考虑预算节省,即每个策略组合$\boldsymbol x$有一个成本$c(\boldsymbol x)$,其中$c$是一个凸成本函数,我们希望最大化的平衡和$g(\boldsymbol x) + λ(k - c(\boldsymbol x))$,其中$λ$是一个平衡参数,受约束的$c(\boldsymbol x) \le k$。我们把这个问题称为CIM-BS。由于CIM-BS的目标函数既不是单调的,也不是DR-次模的或凹的,因此贪婪算法和梯度法的标准结果都不能直接应用。我们的主要创新是结合梯度法与反向影响抽样设计算法,解决CIM-BS:对于一般情况下,我们给出了一个算法,实现$\left(\frac{1}{2}-\vare…
2019-11-21 cs.SI math.OC
Optimal Algorithms for Continuous Non-monotone Submodular and DR-Submodular Maximization
Stanford University(斯坦福大学)
在本文中,我们研究了极大化超立方体上的连续非单调子模函数的基本问题,包括有和没有坐标方向的限制。这类优化问题在机器学习、经济学和通信系统中有几个应用。我们的主要结果是第一个$\frac{1}{2}$ -近似算法连续次模函数最大化,这个近似因子的$\frac{1}{2}$是最好的算法,只查询目标函数在多项式多点。对于DR-次模最大化的特殊情况,即当次模函数沿所有坐标也是坐标方向凹时,我们提供了一个不同的$\frac{1}{2}$ -近似算法,它在准线性时间内运行。这两个结果都改进了先前的工作[Bian et al,2017,Soma and Yoshida,2017]。我们的第一个算法使用了新的想法,如减少保证近似问题,以分析每个坐标的零和游戏,并结合了这个零和游戏的几何形状,以固定在这个坐标的值。我们的第二个算法利用坐标明智的搜索,以确定一个单调的平衡条件足以得到所需的近似保证,并使用二进制搜索的平衡点狩猎。我们进一步运行实验来验证我们提出的算法在相关机器学习应用中的性能。
2018-05-24 cs.DS cs.GT cs.LG
Scintillation Minimization versus Intensity Maximization in Optimal Beams
本文针对自由空间光通信中光束闪烁最小化问题,提出凸优化框架,发现最小闪烁光束为非相干光但强度低,进而设计平衡闪烁与强度的新代价函数,在降低闪烁同时保持接收端较高强度。
2023-04-28 math.OC math.SG physics.comp-ph
Lyapunov function approach for approximation algorithm design and analysis: with applications in submodular maximization
University of New Brunswick(新不伦瑞克大学)
我们提出了一个两阶段的系统框架近似算法的设计和分析,通过李雅普诺夫函数。第一阶段包括使用李雅普诺夫函数作为输入和输出的连续时间近似算法与可证明的近似比。第二阶段,然后将这个连续时间算法转换为离散时间算法,具有几乎相同的近似比以及可证明的时间复杂度。我们的框架的一个显着特点是,我们只需要知道的参数形式的李雅普诺夫函数,其完整的规格将不会决定,直到第一阶段结束时,通过最大化的连续时间算法的近似比。李雅普诺夫函数方法的一些直接好处包括:(i)统一许多现有的算法;(ii)提供设计和分析新算法的指导方针;以及(iii)提供新的视角来潜在地改进现有算法。我们使用各种子模块最大化问题作为运行的例子来说明我们的框架。
2022-09-07 cs.AI cs.DS cs.LG