Riemannian preconditioned algorithms for tensor completion via tensor ring decomposition
本文提出基于张量环分解的黎曼预处理梯度下降与共轭梯度算法,通过新度量近似Hessian对角块并利用张量结构降低计算成本,实验证明其在张量补全中更高效且重建能力更优。
2023-11-14 cs.NA math.NA math.OC
Low-Rank and Sparse Enhanced Tucker Decomposition for Tensor Completion
Hangzhou Dianzi University(杭州电子科技大学);Ningbo University(宁波大学);The Hong Kong Polytechnic University(香港理工大学);Huawei Tech. Investment Co., Ltd(华为技术投资有限公司)
张量补全是指从不完整的测量或观察中估计缺失数据的任务,这是大数据分析、计算机视觉和网络工程领域经常出现的核心问题。由于高阶张量的多维性质,矩阵方法,例如,矩阵分解和张量的直接矩阵化,对于张量的完成和恢复来说往往不是理想的。本文提出了一种统一的低秩稀疏增强Tucker分解张量完备模型。我们的模型具有稀疏的正则化项,以促进稀疏的核心张量的Tucker分解,这是有益的张量数据压缩。此外,我们对Tucker分解的因子矩阵施加低秩正则化项,以廉价的计算成本诱导张量的低秩性。在数值上,我们提出了一个定制的ADMM足够容易的子问题来解决底层模型。值得注意的是,我们的模型能够处理不同类型的现实世界的数据集,因为它利用了潜在的周期性和内在的相关性出现在张量。一系列的计算实验对现实世界的数据集,包括互联网流量数据集,彩色图像,人脸识别,表明我们的模型比许多现有的最先进的矩阵化和张量化方法在实现更高的恢复精度方面表现得更好。
2021-05-20 cs.LG math.OC stat.ML
BROJA-2PID: A robust estimator for bivariate partial information decomposition
Makkeh、Theis和Vicente在[8]中发现,锥规划模型对于计算Bertschinger等人的部分信息分解(BROJA PID)度量[1]是最鲁棒的。我们开发了一个生产质量强大的软件,计算BROJA PID措施的基础上锥规划模型。本文证明了锥规划的强对偶性,并证明了锥规划与原凸问题的等价性。然后详细描述我们的软件以及如何使用它。\newline \indent
2018-02-07 math.OC
A Bilevel Optimization Method for Tensor Recovery Under Metric Learning Constraints
张量完备化和张量分解是许多领域的重要问题。在这项工作中,我们利用这些问题之间的联系来学习一个距离度量,以提高分解和完成。我们表明,最佳的马哈拉诺比斯距离度量的完成任务是密切相关的Tucker分解的完成张量。然后,我们制定了一个双层最优化问题,以执行联合张量完成和分解,受到度量学习约束。度量学习约束还允许我们灵活地将相似性边信息和耦合矩阵(当可用时)纳入张量恢复过程。我们推导出一个求解双层最优化问题的算法,并证明了它的整体收敛。当对真实数据进行评估时,我们的方法与以前的方法相比表现得更好。
2022-09-01 math.OC
Decomposition in conic optimization with partially separable structure
线性规划的分解技术很难推广到具有一般非多面体凸锥的锥最优化问题,因为锥不等式在变量之间引入了额外的非线性耦合。然而,在许多应用中,凸锥具有部分可分离的结构,这允许它们以更简单的低维锥来表征。最重要的例子是弦稀疏模式的稀疏半定规划。在这里,部分可分性来自于团分解定理,该定理描述了具有弦稀疏模式的半正定和半正定可完备矩阵。本文描述了一种利用部分分离性的二次曲线线性最优化的分解方法。该方法基于Spingarn的等式约束凸优化方法,结合一种快速的邻近点方法来计算邻近算子。
2013-06-01 math.OC
On Polyhedral and Second-Order Cone Decompositions of Semidefinite Optimization Problems
Sloan School of Management and Operations Research Center, Massachusetts Institute of Technology(麻省理工学院斯隆管理学院与运筹学中心);Operations Research Center, Massachusetts Institute of Technology(麻省理工学院运筹学中心)
研究了半定最优化问题的一种割平面法,并在有界性假设下证明了该方法的收敛性。通过将该方法的收敛速率与初始外近似的直径相关联,我们认为该方法在初始化时具有二阶锥近似,而不是线性逼近。我们调用的方法,以提供0.5-6.5%的约束间隙的稀疏PCA问题与$1000$ s的协变量,并解决核范数问题超过500 × 500矩阵。
2019-12-02 cs.LG math.OC stat.ML
Multivariate Gaussians, Semidefinite Matrix Completion, and Convex Algebraic Geometry
我们研究了由协方差阵的逆矩阵上的线性约束描述的多元正态模型。这种模型的极大似然估计导致的问题,最大化的决定性功能在一个spectrahedron,并在任意线性投影下的正定锥的图像的特征的问题。这些问题的统计和优化的接口在这里检查凸代数几何的角度来看。
2009-06-18 math.AG math.OC math.ST
$L_{2,1}$-Norm Regularized Quaternion Matrix Completion Using Sparse Representation and Quaternion QR Decomposition
University of Macau(澳门大学);Yunnan University(云南大学);Sun Yat-sen University Cancer Center(中山大学肿瘤防治中心)
本文提出基于四元数QR分解和$L_{2,1}$范数的QLNM-QQR彩色图像补全方法,并改进出IRQLNM-QQR和QLNM-QQR-SR,有效降低计算复杂度且优于现有方法。
2023-09-07 cs.CV math.OC
Logarithmic barriers for sparse matrix cones
University of California, Los Angeles(加州大学洛杉矶分校);MOSEK ApS(MOSEK公司)
针对稀疏正半定矩阵锥及其对偶锥,提出基于多波前稀疏Cholesky分解的高效算法,用于计算对数障碍函数的梯度和海森矩阵,以支持稀疏半定规划的非对称锥内点法。
2012-03-13 cs.NA math.NA math.OC
Rank Restricted Semidefinite Matrices and Image Closedness
研究秩限制正半定矩阵的(非凸)锥在其元素子集上投影的闭包。这定义了可行集的半定完成问题的限制的行列。应用程序包括使用核范数启发式低秩完成的条件。
2016-10-31 math.OC
A Decomposition Approach to Solve The Quay Crane Scheduling Problem
在这项工作中,我们提出了一个分解的方法来解决码头起重机调度问题。这是集装箱码头所面临的一个重要的海上运输问题,在集装箱码头中,码头起重机用于处理货物。目标是确定每个起重机的装卸作业顺序,以最大限度地缩短完工时间。我们解决了一个混合整数规划制定的码头起重机调度问题,分解成车辆路径问题和相应的调度问题。在不考虑起重机干扰的情况下,通过最小化最长起重机完工时间来解决路由子问题。该解决方案为整个问题的最大完工时间提供了一个下界,并将其发送到调度子问题,在调度子问题中确定每个任务的完成时间和最大完工时间。该方案类似于Benders的分解,特别是组合Benders切割的方案。我们评估所提出的方法通过解决文献中的实例,并与其他可用的方法的结果进行比较。
2016-04-02 cs.DS math.OC
Rank Estimation for Third-Order Tensor Completion in the Tensor-Train Format
本文针对tensor-train格式三阶张量补全,基于切锥参数化提出秩上界估计方法,并通过理论证明与合成数据实验验证其有效性和抗噪稳健性。
2023-09-26 math.OC
MAXENT3D_PID: An Estimator for the Maximum-entropy Trivariate Partial Information Decomposition
Chicharro(2017)介绍了一种在最大熵框架内确定多变量部分信息测度的方法,分离出信息的独特、冗余和协同成分。Makkeh,Theis和Vicente(2018)将后一个三变量部分信息测度公式化为锥规划。在本文中,我们提出了MAXENT3D_PID,一个生产质量软件,计算三变量部分信息测度的基础上锥规划模型。我们详细描述了我们的软件,解释如何使用它,并进行了一些实验,反映其精度估计的三变量部分信息分解。
2019-01-10 math.OC stat.CO
Interiors of completely positive cones
一个对称矩阵$A$是完全正的(CP),如果存在一个逐项非负矩阵$B$使得$A = BB^T$ .我们刻画了CP锥的内部。提出了一种CP锥内部判定的半定算法,并研究了其性质。如果一个矩阵是CP锥的内部,则可以得到一个Dickinson形式的矩阵的CP-分解。并给出了一些计算实验。
2014-01-07 math.OC
A semi-smooth Newton method for the nonlinear conic problem with generalized simplicial cones
State University of Campinas(坎皮纳斯州立大学);Northern Illinois University(北伊利诺伊大学);University of São Paulo(圣保罗大学)
本文提出一种非光滑牛顿法解决非线性锥优化问题,针对广义单纯锥建立锥投影方程,证明其二次收敛性,并在低秩矩阵补全问题中进行数值实验。
2026-04-20 math.OC
An Approximate Projection onto the Tangent Cone to the Variety of Third-Order Tensors of Bounded Tensor-Train Rank
本研究提出一种有界张量列秩三阶张量簇切锥的近似投影方法,证明其角度条件更优,可支撑张量补全等场景的优化算法,实验验证其实际表现优于现有方法及理论界。
2023-06-23 cs.NA math.NA math.OC
Projection onto simplicial cones by Picard's method
利用Moreau的投影到锥上的分解定理,将投影到单纯锥上的问题归结为求非光滑方程组的唯一解。它表明,皮卡德的方法适用于方程组的问题,投影到一个单纯锥产生一个序列,线性收敛到系统的解决方案。数值实验比较了Picard法和半光滑牛顿法求解点投影到单纯锥上的非光滑方程组的结果。
2015-03-10 math.OC
Dual certificates and efficient rational sum-of-squares decompositions for polynomial optimization over compact sets
研究了紧半代数集上正多项式的加权平方和证书的计算问题。建立在凸优化的边界点方法的理论基础上,我们引入了对偶锥证书的概念,这使得我们能够将来自平方和锥的对偶的向量解释为WSOS多项式的严格非负性证书。传统的WSOS证书是它们所认证的多项式的替代表示,而双重证书与所认证的多项式不同;此外,每个双重证书认证WSOS多项式的全维凸锥。因此,理性的WSOS证书可以构造从数字计算的双重证书在很少的额外成本,没有任何舍入或投影步骤应用到数字证书。作为一个额外的算法应用程序,我们提出了一个几乎完全数值的混合算法,用于计算一个给定的多项式的最佳WSOS下界以及一个合理的双重证书,每次迭代的多项式时间的计算成本和线性收敛速率。
2022-05-06 math.AG math.OC
Exploiting Aggregate Sparsity in Second Order Cone Relaxations for Quadratic Constrained Quadratic Programming Problems
在众多提高二次约束二次规划(QCQP)半定规划(SDP)松弛算法计算效率的方法中,Fukuda等人(2001)利用SDP中数据矩阵的聚集稀疏性和二阶锥规划(SOCP)松弛算法是比较流行的方法。在本文中,我们利用聚集稀疏的SOCP松弛的QCQP。具体来说,我们证明了利用聚合稀疏性减少了SOCP松弛中二阶锥的数量,并且我们可以简化Fukuda等人的矩阵完成过程。在SOCP松弛问题的原始和对偶中,而不会失去最大行列式性质。对于数值实验,QCQP从格子图和池化问题进行了测试,因为它们的SOCP松弛提供了相同的最优值的SDP松弛。我们表明,利用聚合稀疏性提高了计算效率的SOCP松弛的SDP松弛相同的目标值,因此更大的问题可以处理建议的SOCP松弛比SDP松弛。
2019-11-06 math.OC
DC Semidefinite Programming and Cone Constrained DC Optimization: Theory and Local Search Methods
本文扩展DC优化理论至锥约束问题,提出DC分解与精确罚DCA方法,并分析其收敛性,应用于压缩模态和球堆积问题。
2023-05-17 math.OC