Bounding Duality Gap for Separable Problems with Linear Constraints
考虑了紧区域上的非凸函数之和的极小化问题,该问题受线性不等式和等式约束。近似解可以通过求解问题的凸化版本来找到,其中目标中的每个函数都被其凸包络所取代。我们提出了一个随机算法来解决的convexified问题,发现一个$ε$ -次优解的原始问题。在概率为1的情况下,$ε$由与问题中的最大积极约束数目成比例的项来约束。这个界不依赖于问题中变量的数量或目标中的项数。与以前的相关工作相比,我们的证明是建设性的,独立的,并给出了一个紧的界限。
2016-01-09 math.OC
Peak Estimation of Hybrid Systems with Convex Optimization
混合系统的峰值估计是针对沿轨迹的状态函数的上界极值,其中该状态函数在每个子系统中可能是不同的。这个有限维但非凸的问题可以提升到一个无限维的线性规划(LP)的占领措施下,一个平等的目标下温和的有限性/紧性和光滑性假设。该LP又可以通过使用平方和矩层次从线性矩阵不等式(LMI)的解获得的上界的收敛序列来近似。将峰值估计问题扩展到具有不确定性和安全设置的问题,例如测量沿混合系统轨迹和不安全集的点之间的最近接近距离。
2023-03-20 cs.SY eess.SY math.OC
Convex function approximations for Markov decision processes
研究了有限时域离散时间马氏决策过程在一定凸性假设下的函数逼近问题。在驱动随机变量的几种抽样方案下,证明了这些近似在紧集上的一致收敛性。在某些条件下,这些近似形成一个单调序列的下界或上界函数。涉及分段线性函数的数值实验表明,非常紧的边界功能的公平价格的一个Rupdan看跌期权可以获得极好的速度(分数的CPU秒)。本文的结果可以很容易地适用于涉及凹Bellman函数的极小化问题。
2018-02-20 math.OC
A Method for Quickly Bounding the Optimal Objective Value of an OPF Problem using a Semidefinite Relaxation and a Local Solution
最优潮流是电力系统运行中的一个重要问题。由于最优潮流问题的非凸性,可能存在多个局部最优解。证明获得整体解对于OPF问题的某些应用是重要的。许多全局优化技术计算最优性间隙,该最优性间隙将对应于来自局部解算法的可行点的可实现目标值与来自凸松弛技术的目标值界限进行比较。而不是传统的做法,完全分离的局部解和凸松弛计算,本文提出了一种方法,利用局部解的信息,使用半定规划(SDP)松弛的目标值界的计算速度。计算易处理性的改善伴随着所得客观值界的紧密性降低的权衡。数值实验说明了这种权衡,与所提出的方法是更快,但比SDP松弛和更慢,但更紧比二阶锥规划(SOCP)和二次凸(QC)松弛许多大型测试用例。
2019-06-14 math.OC
Successive Quadratic Upper-Bounding for Discrete Mean-Risk Minimization and Network Interdiction
圆锥优化的进步导致其在建模数据不确定性方面的利用率增加。特别是,圆锥平均风险优化在概率和鲁棒优化中获得了突出地位。而相应的圆锥模型是有效地解决了凸集,他们的离散同行是棘手的。本文给出了离散均值风险最小化问题的一个高效的逐次二次上界方法。该程序是基于重新制定的平均风险问题,通过其凸二次项的角度。随机容量的网络阻断问题进行的计算实验表明,所提出的方法产生的解决方案在1-2%的最优精确搜索算法所需的时间的一小部分。我们证明了所提出的方法的价值,为不同的置信水平的风险流与阻断成本构建有效的边界。
2018-08-25 math.OC
Bounding extreme events in nonlinear dynamics using convex optimization
我们研究了一个凸优化框架,用于约束由普通或偏微分方程(ODEs或PDE)控制的非线性动力系统中的极端事件。这个框架从上面的最大值的可观察到的轨迹,从一个选定的集合开始,并在有限或无限的时间间隔演变。该方法不需要明确的轨迹。相反,它需要构造适当约束的辅助函数,这些辅助函数依赖于状态变量,并且可能依赖于时间。最小化辅助函数的边界是一个凸问题对偶的非凸最大化的可观察沿轨迹。这种对偶性是强的,这意味着辅助函数给出任意尖锐的界限,充分正则常微分方程在有限时间内发展的紧域。当这些条件失败时,强二元性可能成立,也可能不成立;两种情况都有例子说明。我们还表明,近最佳的辅助功能,可以用来构建时空集,本地化的轨迹,导致极端事件。最后,在多项式常微分方程和观测量的情况下,我们描述了如何多项式辅助函数的固定次数可以使用多项式优化数值优化。当强对偶性和弱紧性假设成立时,相应的界随着多项式次数的增加而变得尖锐。分析和计算ODE的例子说明了建设的界限和极端轨迹的识别,以及一些限制。作为一个分析偏微分方程的例子,我们绑定的最大分数阶拟能的分数阶扩散的Burgers方程的解决方案。
2020-05-06 math.DS math.OC nlin.CD
Comparing perspective reformulations for piecewise-convex optimization
我们的研究动机是通过序列凸MINLP技术解决具有可分离非凸函数的混合凸非线性规划(MINLP)问题,序列凸MINLP技术是一种迭代法,其主要特点是求解,分段凸MINLP松弛通过确定每个单变量函数是凸或凹的区间,然后用分段凸松弛凹部分而获得。线性弛豫的精度不断提高。这个过程需要引入新的二进制变量来激活定义函数的间隔。在本文中,我们比较了三种不同的标准配方的下界子问题,我们表明,无论是理论上和计算上,-不像在分段线性的情况下-他们是不等价的,当应用的角度重新制定,以加强制定在原来的功能是凸的部分。
2022-11-28 math.OC
Accelerating Min-Max Optimization with Application to Minimal Bounding Sphere
我们研究的最小-最大优化问题,其中每个函数的最大操作是强凸和光滑的有界梯度的搜索域。通过平滑最大算子,我们展示了在$\tilde{O}(1/\sqrtδ)$计算复杂度(对数因子)中实现$δ$的任意小的正最优性间隙的能力,而不是$O(1/δ)$的最先进的强凸性计算要求。我们将这一重要结果应用于著名的最小包围球问题,并证明了我们可以实现最小包围球的$(1+\varepsilon)$ -近似,即确定一个超球,该超球包含$d$维无界空间$\mathbb{R}^d$中的全部$n$给定点,其半径至多为实际最小包围球半径的$(1+\varepsilon)$倍,对于任意小的正$\varepsilon$,与需要$O(n d /\varepsilon)$计算时间的核心组方法的现有技术方法相反,在$\tilde{O}(n d /\sqrt{\varepsilon})$计算时间中。
2019-05-29 math.OC stat.ML
Bounding the Minimal Current Harmonic Distortion in Optimal Modulation of Single-Phase Power Converters
University of Stuttgart(斯图加特大学);Tampere University(坦佩雷大学);ABB System Drives(ABB系统驱动)
本文提出了一种将最优脉冲模式设计转化为混合系统周期性模式选择最优控制问题的方法,通过凸松弛技术生成半正定规划层次结构,有效界定了单相电力转换器最优调制中最小电流谐波失真。
2025-12-09 cs.SY eess.SY math.OC
Safety for Time-Varying Parameterized Sets Using Control Barrier Function Methods
针对非单例时变参数化凸集合需远离不安全集合的问题,本文提出仅用光滑 CBF 与 log-sum-exp 过近似构造可微平方距离,并通过凸优化生成安全控制。
2025-03-15 math.OC
Optimal Subgradient Methods for Lipschitz Convex Optimization with Error Bounds
Purdue University(普渡大学)
本文提出了一种适用于具有误差界条件的Lipschitz凸优化问题的最优次梯度方法,通过新的下界论证实现了对最优解的最小最大收敛保证。
2025-12-15 math.OC
A Convex Optimization Approach to Learning Koopman Operators
Koopman算子提供了学习非线性动力学的线性近似的易处理的手段。已经提出了许多方法来找到这些运营商,通常基于近似使用先验固定类的模型。然而,选择合适的模型和边界的近似误差是远远不够的。出于这些困难,在本文中,我们提出了一种基于优化的方法来学习Koopman算子的数据。我们的结果表明,Koopman算子,相关的Hilbert空间的观测量和一个合适的字典可以通过解决两个秩约束半定规划(SDP)。虽然原则上这些问题是NP难的,但使用秩的标准松弛会导致凸SDP。此外,这些SDP表现出弦稀疏性,导致算法与数据点的数量线性缩放。
2021-02-07 cs.SY eess.SY math.DS
Moment-Sum-Of-Squares Approach For Fast Risk Estimation In Uncertain Environments
MIT(麻省理工学院);Computer Science and Artificial Intelligence Laboratory(计算机科学与人工智能实验室)
本文提出了一种基于矩-平方和的方法,用于在存在有界不确定性的环境中快速估计机器人安全约束违反的概率。该方法利用多项式水平集描述不安全集,通过求解平方和优化问题获得单变量切比雪夫多项式的系数,从而在实时条件下利用有限的矩估计风险。
2018-10-03 cs.RO cs.SY eess.SY
Multi-stage Stochastic Alternating Current Optimal Power Flow with Storage: Bounding the Relaxation Gap
针对可再生能源发电量的随机性和储能系统的动态约束,提出了一种适用于辐射状配电网的交流最优潮流(AC OPF)问题的多级随机模型。我们考虑单相径向网络。径向三相平衡网络(中压配电网通常具有这种结构)简化为前一种情况。这导致了大规模的最优化问题,考虑到AC OPF的非凸性质,该问题通常难以求解到全局最优。我们推导出一个先验条件,保证了一个消失的松弛间隙的多级交流最优潮流问题,从而可以解决使用凸优化算法。我们还给出了弛豫间隙的后验上界。特别是,我们表明,一个零或低松弛间隙可能是预期的应用程序与光反向功率流或如果有足够的存储容量,低成本。然后,我们讨论了我们的结果的有效性时,将电压调节设备。最后,我们说明了我们的结果规划的一个现实的配电馈线与分布式太阳能发电和存储系统的问题。情景树的太阳能生产构造从一个随机模型,基于分位数的算法。
2021-11-18 math.OC
Compensated Convex Transforms and Geometric Singularity Extraction from Semiconvex Functions
We apply upper and lower compensated convex transforms, which are `tight' one-sided approximations of a given function, to the extraction of fine geometric singularities from semiconvex/semiconcave functions and DC-functions in $\mathbb{R}^n$ (difference of convex functions ). Well-known examples of (locally) semiconcave functions include the Euclidean distance and squared distance functions. For a locally semiconvex function $f$ with general modulus, we show that `locally' a point is a singular (non-differentiable) point if and only if it is a scale $1$ -valley point, and if $x$ is a singular…
2016-10-03 math.OC
Sequential Convex Restriction and its Applications in Robust Optimization
本文给出了参数变化下非线性方程组解的一个凸充分条件,并提出了一种求解非线性等式约束鲁棒最优化问题的序贯凸优化方法。通过将非线性项与凹包络线相结合,利用Brouwer不动点定理,将充分条件表示为封闭形式的凸不等式约束。我们推广了这个结果,在有界不确定性下,为可行性提供了一个凸的充分条件。使用这些条件,非凸优化问题可以作为一系列凸最优化问题来求解,具有可行性和鲁棒性保证。我们提出了一个详细的分析所提出的条件的性能和复杂性。最后给出了多项式优化和非线性网络的算例。
2019-09-04 math.OC
Towards Fully Parameter-Free Stochastic Optimization: Grid Search with Self-Bounding Analysis
National Key Laboratory for Novel Software Technology, Nanjing University, China(新型软件技术国家级重点实验室,南京大学,中国);School of Artificial Intelligence, Nanjing University, China(人工智能学院,南京大学,中国);Tel Aviv University(特拉维夫大学)
本文提出Grasp框架,通过自界分析实现完全无参数的随机优化,在非凸和凸情况下均取得优异收敛率和性能。
2026-04-18 cs.LG math.OC
Bounding the separable rank via polynomial optimization
我们调查的问题有关的集$\mathcal{SEP}_d$组成的线性映射$ρ$作用于$\mathbb{C}^d\otimes \mathbb{C}^d$,可以被写为一个凸组合的秩一矩阵的形式$xx^*\otimes yy^*$。这种映射在量子信息论中被称为可分离的二分态,而不可分离的状态被称为纠缠态。特别是,我们介绍了可分离的秩$\mathrm{rank_{sep}}(ρ)$的界限,定义为最小数量的秩一状态$xx^*\otimes yy^*$进入分解的可分离状态$ρ$。我们的方法依赖于矩量法,并产生一个层次的半定为基础的下界,收敛到一个参数$τ_{\mathrm{sep}}(ρ)$,一个自然的凸化的组合参数$\mathrm{rank_{sep}}(ρ)$。一个显着的特点是利用正性约束$ρ-xx^*\otimes yy^* \succeq 0$施加多项式矩阵局部化映射的正性,平方和多项式矩阵的概念的对偶概念。我们的方法自然延伸到多部设置和真正的可分离的排名,它允许加强一些已知的界限完全正的排名。此外,我们指出如何时刻的方法也适用于定义的半定松弛的集合$\mathcal{SEP}_d$的层次,并允许给出新的证明,只使用工具,从矩理论,收敛结果的DPS层次(A.C.多赫蒂,P.A. Parrilo和F.M.斯佩达列里区分可分离态和纠缠态。物理修订版信函88(18):187904,2002)…
2021-09-29 math.OC
Linear Optimization of Polynomials and Rational Functions over Boxes
本文研究了盒上多元多项式的紧线性下界函数的求法问题。这些函数是由多项式展开成伯恩斯坦形式,并使用线性最小二乘函数。证明了给定多项式在提高次数、盒宽和细分时收敛到其下界的性质。随后,我们提供了一个新的方法来构建一个仿射下界函数的多元有理函数的基础上的伯恩斯坦控制点,凸包的非正多项式$s$和度提升。最后给出了与著名的Bernstein常数下界函数的数值比较。
2019-12-16 math.OC
Integrating Structure, Information Architecture and Control Design: Application to Tensegrity Systems
提出了一种新的结构设计参数、作动器和传感器精度以及控制器参数联合优化的统一方法。联合优化问题是作为一个协方差控制问题,其中的可行性是通过约束的输出以及控制信号的协方差。将该方法应用于张拉整体系统的优化设计,对初始预应力参数、传感器和执行器精度以及控制律进行了联合优化。张拉整体系统动力学模型线性化的平衡点用于系统设计,其中最小值是由约束投影确保。假设反馈回路具有一个全阶动态补偿器,其特征矩阵被选为优化变量。这个非凸系统设计问题的次优解是通过使用凸化势函数迭代近似凸问题,使收敛到一个稳定点。结果表明,对于线性动力系统,近似的联合优化问题,可以制定使用线性矩阵不等式(LMI)。
2020-12-19 cs.SY eess.SY math.OC
PoBO: A Polynomial Bounding Method for Chance-Constrained Yield-Aware Optimization of Photonic ICs
传统的成品率优化算法试图在工艺变化下最大化电路的成功率。这些方法通常获得高成品率,但达到的设计性能远离最优值。本文研究了另一种光子集成电路的成品率感知优化:我们将优化电路设计性能,同时确保高成品率要求。该问题最近被表述为一个机会约束优化问题,并利用统计矩将机会约束转化为更强的约束。这种转换减少了可行集,有时会导致过度保守的设计。为了解决这一根本性的挑战,本文提出了一个精心设计的多项式函数,称为最佳多项式亲属关系函数,以更准确地界定机会约束。我们通过放松独立性和凸性要求来修改现有的亲属关系函数,这适合于我们更一般的不确定性模型,并收紧了边界函数。所提出的方法,使一个全局最优值搜索的设计变量,通过多项式优化。我们用一个合成函数和两个光子集成电路设计基准验证了这种方法,表明我们的方法可以获得更好的设计性能,同时满足预定的成品率要求。许多其他先进的问题,产量感知优化和更一般的安全关键设计/控制可以解决基于这项工作在未来。
2021-12-18 math.OC
A non-iterative method for optimizing linear functions in convex linearly constrained spaces
本文介绍了一种解决线性最优化问题的策略。该策略是基于边界条件,每个约束产生的问题的每一个维度。线性最优化问题的解位于定义极端顶点的约束的交点处。通过确定限制目标函数值增长的约束条件,我们建立了导致优化问题解的线性方程系统,该算法最复杂的操作是对问题维数大小的矩阵求逆。因此,该算法的复杂度与经典单纯形法和最近发展的线性规划算法相当。然而,该算法提供了非迭代的优点。
2018-09-20 math.OC
Wasserstein Contraction Bounds on Closed Convex Domains with Applications to Stochastic Adaptive Control
本文的动机是定量地限制随机系统的适应控制方法的收敛到一个平稳分布的问题。这样的边界对于分析轨迹的统计数据和确定用于模拟的适当的步长是有用的。为此,我们从(无约束)随机微分方程(SDES),它提供了一个特别选择的Wasserstein距离收缩的方法。该理论侧重于对漂移项具有相当限制性假设的无约束随机微分方程。典型的适应控制方案对学习的参数施加约束,并且它们的更新规则违反漂移条件。为此,我们将收缩理论推广到由反射随机微分方程表示的约束系统的情况,并推广了允许的漂移。我们展示了如何一般的理论可以用来推导出非线性随机自适应调节问题的定量收缩界。
2021-10-15 math.OC
Efficiently Escaping Saddle Points under Generalized Smoothness via Self-Bounding Regularity
Cornell University(康奈尔大学)
本文研究了非凸函数(不一定光滑)的一阶优化方法,提出了一种新的框架,系统分析了在广义平滑性下一阶优化算法的收敛性,首次建立了在广义平滑性下一阶方法达到二阶 stationary 点的收敛保证。
2026-06-04 cs.LG math.OC
Existence of Viscosity Solutions to Abstract Cauchy Problems via Nonlinear Semigroups
Bielefeld University(比勒费尔德大学);University of Waterloo(滑铁卢大学)
本研究给出局部凸向量格上非线性单调半群生成广义粘性解的$K$-凸性等条件,证明相关半群可生成抽象柯西问题的粘性解,并应用于两类无穷维过程的控制问题。
2025-02-25 math.AP math.OC
Duality of convex relaxations for constrained variational problems
我们证明了弱对偶最近两个凸松弛法之间的约束变分问题,其中的目标是一个积分泛函的最优值的边界。第一种方法,由Valmorbida等人提出(IEEE自动化学报)。Control 61(6):1649--1654,2016),用在充分光滑函数上的凸程序代替变分问题,服从逐点非负约束。第二种方法由Korda等人讨论(arXiv:1804.07565v1 [math.OC]),将变分问题松弛为缩放概率测度上的凸规划。我们还证明了这些无穷维凸规划之间的对偶性是强的,这意味着它们的最优值重合,当变分问题中的容许函数的范围和梯度被约束到有界集。对于多项式数据的变分问题,每个凸松弛的最优值可以通过求解有限维半定规划的弱对偶族来逼近。这些都是强对偶标准约束规格条件下,无论是否强对偶持有无限维水平。因此,这两种松弛方法对于计算的目的是等效的。
2019-06-28 math.AP math.OC
A Different Perspective On The Stochastic Convex Feasibility Problem
我们分析了一个简单的随机次梯度近似解的凸泛函约束的随机系统的方法,唯一的输入算法的大小是minibatches。通过引入一个新的概念是什么意思的一个点近似解决的约束,确定预期的迭代次数的界限减少到确定一个复合伯努利过程,基本概率的首中时。除了对期望迭代次数的边界非常一般,我们很容易建立关于迭代次数的集中不等式,更有趣的是,我们建立了改进的边界,当一个类似于Hölderian增长的概念被满足时,对于所有的增长度,不仅仅是分段线性凸函数的线性增长或强凸函数的二次增长。最后,我们建立了类似的结果下,稍微修改的算法,导致在用户知道与高置信度的一个近似解决系统的一个工具在手。也许令人惊讶的是,这里的迭代边界是确定性的--所有的概率都包含在置信水平中(尽管以潜在的大的小批量为代价)。
2021-08-26 math.OC
Decentralized Online Convex Optimization in Networked Systems
我们研究了网络在线凸优化问题,其中每个代理单独决定在每个时间步的行动和代理合作寻求最小化总的全球成本在有限的地平线。全局成本由三种类型的局部成本组成:凸节点成本、时间交互成本和空间交互成本。在决定他们的个人行动,在每一个时间,代理有机会预测本地费用函数的下一个$k$时间步长在$r$跳附近。我们的工作提出了一种新的在线算法,局部预测控制(LPC),它将预测控制推广到多智能体系统。我们发现,LPC实现了竞争比$1 + \tilde{O}(ρ_T^k) + \tilde{O}(ρ_S^r)$在对抗设置,其中$ρ_T$和$ρ_S$是常数在$(0, 1)$的时间和空间的相互作用成本的相对强度增加,分别。这是网络化在线凸优化分散预测控制的第一个竞争比界。此外,我们表明,依赖于$k$和$r$在我们的结果是接近最优的下界的竞争比任何分散的在线算法。
2022-07-13 math.OC
Algorithms to solve unbounded convex vector optimization problems
研究一般凸向量最优化问题的求解算法。到目前为止,用于求解CVOP的解概念和近似算法仅存在于有界问题[Ararat et al. 2022,Doerfler et al. 2021,Loehne et al. 2014]。它们提供了上像的多面体内部和外部近似,其Hausdorff距离至多为$\varepsilon$。然而,众所周知(参见[Ulus,2018]),对于某些无界问题,这种多面体近似不存在。在本文中,我们将提出一个广义解的概念,称为$(\varepsilon,δ)$ -解决方案,也可以考虑无界CVOP。它是基于以有意义的方式附加地界定上部图像的内部和外部多面体近似的回收锥。提出了一种算法,计算这种$δ$ -外部和$δ$ -内部近似的回收锥的上部图像。结合[Loehne et al. 2014]的结果,这提供了一个原始和对偶算法,允许计算$(\varepsilon,δ)$ -(潜在无界)CVOP的解。数值例子。
2023-01-23 math.OC
Bounding the Optimal Number of Policies for Robust K-Adaptability
本研究针对两阶段鲁棒优化的k-适应性方法,推导了保证含整数决策的一般非线性问题最优性的k的界,给出近似保证,还证明有限不确定集下求最小等价k为NP难并提出贪心近似方法。
2025-09-03 math.OC
Computing rational points in convex semi-algebraic sets and SOS decompositions
设${\cal P}=\{h_1, ..., h_s\}\subset \Z[Y_1, ..., Y_k]$、$D\geq °(h_i)$为$1\leq i \leq s$、$σ$为$h_i$的系数的位长度的边界,以及$Φ$为定义凸半代数集的无量词${\cal P}$公式。我们设计了一个算法,当且仅当${\cal S}\cap \Q\neq\emptyset$返回一个合理的点在${\cal S}$。它需要$σ^{\bigO(1)}D^{\bigO(k^3)}$位操作。如果输出有理点,则其坐标具有由$σD^{\bigO(k^3)}$支配的位长度。利用这一结果,我们得到一个程序,决定如果一个多项式$f\in \Z[X_1, >..., X_n]$是一个平方和的多项式在$\Q[X_1, ..., X_n]$。用$d$表示$f$的程度,$τ$表示$f$、$D={{n+d}\choose{n}}$和$k\leq D(D+1)-{{n+2d}\choose{n}}$中的系数的最大比特长度。该过程需要$τ^{\bigO(1)}D^{\bigO(k^3)}$位操作,并且输出的多项式的系数具有由$τD^{\bigO(k^3)}$支配的位长度。
2009-10-15 cs.DS cs.SC math.OC
Last Iterate Convergence of AdaGrad-Norm for Convex Non-Smooth Optimization
Yaroslavl Demidov State University(雅罗斯拉夫尔·杰米多夫国立大学);Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文研究AdaGrad方法最后迭代的收敛性,推导出最终点的次优界,并证明在最优步长下,最后迭代收敛速率为O(1/N^{1/4}),并通过下界构造证明该速率是紧的。
2026-04-12 math.OC
R-SPIDER: A Fast Riemannian Stochastic Optimization Algorithm with Curvature Independent Rate
Massachusetts Institute of Technology(麻省理工学院)
研究了黎曼流形上的光滑随机最优化问题。通过将最近提出的SPIDER算法\citep{fang2018spider}(一种方差缩减的随机方法)应用于黎曼流形,我们可以在有限和和随机环境下获得比已知算法更快的速度。与以前的工作不同,通过\emph{not}诉诸边界的距离,我们的分析产生曲率无关的收敛速度的非凸和强凸的情况下。
2018-12-14 cs.LG math.OC
Efficient Proximal Mapping Computation for Unitarily Invariant Low-Rank Inducing Norms
低秩诱导酉不变范数被引入到低秩稀疏约束的凸化问题中。它们是酉不变范数的凸包络和上界秩约束的指示函数。这个家庭中最著名的成员是所谓的核规范。为了用邻近分裂方法解决涉及这类范数的最优化问题,需要有效的方法来计算低秩诱导范数的邻近映射。这是已知的核规范,但不是为大多数其他成员的低级别诱导家庭。这项工作提供了一个框架,减少了近端映射评估到嵌套的二进制搜索,其中每次迭代需要一个更简单的问题的解决方案。这个更简单的问题往往可以解决分析,因为它是证明了所谓的低秩诱导弗罗贝纽斯和谱范数。此外,该框架允许计算这些规范与增加凸函数和投影到他们的epigraphs的组合物的近端映射。这有额外的优点,我们也可以处理的复合物的增加凸函数和低秩诱导模的邻近分裂方法。
2018-10-17 math.OC stat.ML
On Design of Polyhedral Estimates in Linear Inverse Problems
多面体估计是一种通用的可计算的非线性观测方法,用于从信号的线性图像的噪声观测中恢复属于给定凸紧集的未知信号。多面体估计的风险分析和最优设计可以通过最优化问题的最优值的有效边界来解决。这样的问题通常很难;然而,Juditsky,Nemirovski 2019中表明,当信号集是椭圆形时,可以有效地构建近似最小最大最优(“高达对数因子”)估计-特殊几何的凸和紧凑集的广泛家族的成员(参见,例如,Juditsky,Nemirovski 2018)。本文的主题是一个新的风险分析的情况下,信号集是一个椭圆形和任意多面体的交集,允许在这种情况下改进的多面体估计设计的多面体估计。
2022-12-23 math.OC math.ST stat.TH
Lower Bounds on the Oracle Complexity of Nonsmooth Convex Optimization via Information Theory
本文利用信息论方法,以字符串猜测为统一困难来源,为非光滑黑箱凸优化建立了与最坏情况上界匹配的分布谕示复杂度下界,并推广到高概率和有界误差情形。
2023-07-07 cs.CC cs.IT math.IT
Set-Membership Localization via Range Measurements
Politecnico di Torino(都灵理工大学)
本文提出了一种基于集合成员方法的定位算法,通过凸优化计算定位集的紧外界集,以保证位置估计的准确性。
2026-03-05 cs.CE cs.IT math.IT
Learning-Augmented Algorithms for Online Concave Packing and Convex Covering Problems
Purdue University(普渡大学);University of Melbourne(墨尔本大学)
本文针对在线凹包装与凸覆盖问题提出学习增强算法框架,通过在建议与经典算法间切换及扩展原始对偶方法,在建议准确时打破不可能性结果,建议错误时仍保持可比性能。
2024-11-13 cs.DS cs.LG math.OC
Hierarchical Verification for Adversarial Robustness
Uber Advanced Technologies Group(优步先进技术集团);Department of Computer Science, University of Toronto(多伦多大学计算机科学系)
我们为精确逐点$\ell_p$鲁棒性验证问题引入了一个新的框架,该框架利用了具有整流线性激活的深度前馈网络(ReLU网络)的逐层几何结构。网络的激活区域划分输入空间,并且可以通过检查期望半径内的所有激活区域来验证点周围的$\ell_p$鲁棒性。GeoCert算法(Jordan等人,NeurIPS 2019)将此分区视为通用多面体复合体,以便检测接下来要检查的区域。相比之下,我们的LayerCert框架考虑了由ReLU网络的层引起的\emph{nested hyperplane arrangement}结构,并以分层的方式探索区域。我们表明,在一定条件下的算法参数,LayerCert可证明减少了凸程序的数量和大小,需要解决的GeoCert相比。此外,我们的LayerCert框架允许结合基于凸松弛的下界例程,以进一步提高性能。实验结果表明,LayerCert可以显着减少凸程序的数量解决和运行时间的最先进的。
2020-07-23 cs.LG math.OC stat.ML