On semidefinite programming characterizations of the numerical radius and its dual norm for quaternionic matrices
本文给出了四元数矩阵数值半径及其对偶范数的半定规划刻画，并证明了利用短步长原始内点法可在多项式时间内完成给定精度下的计算。
2024-02-19 math.OC
On Quasi-Newton Forward--Backward Splitting: Proximal Calculus and Convergence
我们介绍了一个框架，拟牛顿向前-向后分裂算法（近拟牛顿法）与对角$\pm$秩- $r$对称正定矩阵引起的度量。这种特殊类型的度量允许对近端映射进行高效评估。这种效率的关键是在新的度量的一般邻近演算。通过使用对偶性，导出了将秩- $r$修改度量中的邻近映射与原始度量相关联的公式。我们还描述了一个大类的函数的邻近计算的有效实现，实现利用分段线性性质的对偶问题。然后，我们将这些结果加速复合凸最小化问题，从而导致优雅的拟牛顿法，我们证明收敛。该算法进行了测试的几个数值例子，并在文献中的替代品的全面列表进行比较。我们的拟牛顿分裂算法与规定的度量相比，优于国家的最先进的。该算法具有广泛的应用，包括信号处理，稀疏恢复，机器学习和分类，仅举几例。
2018-11-22 math.OC
Group zero-norm regularized robust loss minimization: proximal MM method and statistical error bound
本文研究组零范数正则化鲁棒损失最小化问题，提出近端MM算法求解等价DC代理优化问题，证明其在KL性质下的全局收敛性并推导统计误差界，数值实验验证了其优于pADMM的计算效率。
2025-05-29 math.OC
A convergent hierarchy of non-linear eigenproblems to compute the joint spectral radius of nonnegative matrices
证明了有限个非负矩阵集合的联合谱半径可以由非线性算子的特征值定界。该特征值与风险敏感控制问题或熵博弈的遍历常数相一致，其中状态空间由给定长度的所有切换序列组成。我们表明，通过增加这个长度，我们到达一个收敛的近似方案来计算联合谱半径。这种方法的复杂性是指数的开关序列的长度，但它是相当不敏感的矩阵的大小，使我们能够解决非常大的规模的情况下（几个矩阵的尺寸为1000在一分钟内）。这种方法的一个思想是用一个非线性特征值问题的层次来代替Ahmadi、Jungers、Parrilo和Roosevahani提出的一个最优化问题的层次。为了解决后者的特征值问题，我们引入了一个投影版本的Krasnoselskiii-Mann迭代。这种方法是独立的兴趣，因为它适用于更普遍的非线性特征值问题的单调正齐次映射。在这里，这种方法允许通过避免求助于线性或半定编程技术的可扩展性。
2018-05-08 math.OC
In-Network Linear Regression with Arbitrarily Split Data Matrices
在本文中，我们解决的问题是如何网络的代理可以协作适合线性模型时，每个代理只有一个任意的和的回归数据。这个问题概括了以前研究的数据矩阵分裂的情况下，允许一些代理有更多的测量某些功能比其他的，甚至有其他代理的测量。我们提出了一个以变量为中心的框架，在网络中的分布式优化，并使用这个框架来开发一个邻近的算法，道格拉斯-Rachford方法的基础上，解决了这个问题。
2014-08-05 math.OC
On the real angular stability radius for sectorial matrices
National Sun Yat-sen University（国立中山大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Chalmers University of Technology and University of Gothenburg（查尔姆斯理工大学和哥德堡大学）
本文针对扇区矩阵，推导了使$I+M\boldsymbol{\triangle}$失秩的实角稳定半径公式，证明其通常与复角稳定半径不同，并可通过二维子空间压缩将高阶矩阵结果简化为二阶矩阵结果。
2026-09-01 math.OC
Efficient Method for Computing Lower Bounds on the $p$-radius of Switched Linear Systems
本文提出了矩阵有限集的$L^p$ -范数联合谱半径，简称$p$ -半径的下界.尽管其广泛的应用，例如，切换线性系的稳定性分析和切换线性经济模型的平衡分析，用于计算的$p$ -半径的算法仅在非常有限的特定情况下可用。所提出的下界是通过克罗内克积加权的给定矩阵的平均值的谱半径，并且对矩阵的集合没有任何要求。我们表明，建议的下界理论上扩展，也可以实际上改善现有的下界。提出了一个马尔可夫扩展的下界。
2016-06-16 math.OC
A Penalty Method for Rank Minimization Problems in Symmetric Matrices
最小化对称正半定矩阵的秩问题可以等价地转化为带互补约束的半定规划问题。该公式要求两个正半定矩阵互补。这是一个连续的和非凸的重新制定的秩最小化问题。我们研究了SDCMPCC方程的局部最优解的镇定性，从而证明了任何局部最优解都是KKT点。我们开发了一个惩罚制定的问题。我们提出了冷静的结果，局部最优解的处罚制定。我们还开发了一个近端交替线性化最小化（PALM）计划的惩罚制定，并调查纳入一个动量项的算法。计算结果。
2018-02-01 math.OC
A limit formula for joint spectral radius with $p$-radius of probability distributions
在本文中，我们展示了一组矩阵的联合谱半径的$p$ -半径的相关概率分布时，$p$趋于$\infty$的限制的一个特征。在允许集合有无穷多个矩阵的情况下，所得公式推广了文献中的结果。基于该公式，我们提出了一个新的特征切换线性系的稳定性的任意切换信号通过存在的随机李雅普诺夫函数的任何更高的程度。数值例子来说明结果。
2014-06-09 math.OC
Joint spectral radius and forbidden products
本文证明了在实数2×2矩阵对中，乘积AABABABB及其循环移位和镜像不会达到联合谱半径的严格最大值，并给出了复数情形下的数值证据，同时指出相关二元词为双旋转族中最短禁止模式。
2024-06-25 math.OC
Randomized Block Proximal Methods for Distributed Stochastic Big-Data Optimization
本文提出了一类新的求解有向图上随机大数据凸优化问题的分布式算法。在所述的设置中，决策变量的维数可以非常高，并且目标函数可以是非光滑的。一般算法包括两个主要步骤：共识步骤和对优化变量的单个块的更新，然后将其广播给邻居。三个特殊的情况下，所提出的方法，涉及特定的问题结构，然后提出。在一般情况下，证明了随机行随机阵上动态一致性算法的收敛性。然后，证明了该算法在期望值内收敛到最优费用。当使用递减（局部）步长时实现精确收敛，而当使用恒定步长时实现近似收敛。的收敛速度被证明是次线性的，并提供了一个明确的速度的情况下，恒定的步长。最后，该算法进行了测试的分布式分类问题，首先在合成数据，然后，在一个真正的，高维的，文本数据集。
2020-10-04 math.OC
Convergence analysis of a proximal Gauss-Newton method
提出一种扩展的高斯-牛顿算法，在广义Lipschitz假设下求解惩罚非线性最小二乘问题的局部极小值，获得局部收敛结果及收敛球半径估计，并应用于约束非线性方程组求解。
2011-03-02 cs.NA cs.SY eess.SY
Approximation of the joint spectral radius using sum of squares
我们提供了一个渐近紧，计算效率高的近似联合谱半径的一组矩阵使用平方和（SOS）编程。该方法是基于搜索SOS多项式，证明同时收缩的矩阵的有限集。我们提供了一个统一的几个较早的结果，是独立的矩阵的数量的近似的质量上的界限。此外，我们提出了我们的近似方案和早期的技术，包括使用常见的二次李雅普诺夫函数和基于矩阵提升的方法之间的比较。理论结果和数值研究表明，我们的方法产生更紧密的近似。
2007-12-18 math.OC
Stabilizability and lower spectral radius for linear switched systems with singular matrices
研究含奇异矩阵的线性离散时间切换系统的可镇定性问题，提出适用于任意矩阵集的可镇定半径新下界，并建立其与联合谱子半径的关系，特别分析了一类由奇异矩阵和旋转矩阵组成的二维切换系统的可镇定半径及参数集的Hausdorff维数。
2026-06-29 math.DS math.OC
Computationally efficient approximations of the joint spectral radius
一组矩阵的联合谱半径是一个最大渐近增长率的度量，它可以通过形成从该组中取出的矩阵的长积来获得。这个量出现在许多应用环境中，但众所周知难以计算和近似。本文介绍了一种以任意高精度逼近有限集矩阵的联合谱半径的方法。我们的近似过程是多项式的矩阵的大小，一旦矩阵的数量和所需的精度是固定的。
2004-07-28 math.DS math.OC
The Intrinsic Riemannian Proximal Gradient Method for Convex Optimization
Norwegian University of Science and Technology（挪威科技大学）；RWTH Aachen University（亚琛工业大学）；Universität Potsdam（波茨坦大学）
研究哈达玛流形上的凸优化问题，提出内在凸黎曼近端梯度法，该方法在非光滑步骤使用流形近端映射，无需在嵌入或切空间操作，建立了收敛速率并推导不等式，数值实验显示其相对于现有方法有计算优势。
2026-07-28 cs.NA math.DG math.NA
Approximating the Real Structured Stability Radius with Frobenius Norm Bounded Perturbations
提出了一种快速逼近具有输出反馈的线性动力系统的实稳定半径的方法，其中扰动被限制为实值且关于Frobenius范数有界.我们的工作建立在一些可扩展的算法，近年来已经提出，从方法，近似复杂或真正的伪谱横坐标和半径的大型稀疏矩阵（和概括这些方法的伪谱值集）的算法近似复杂的稳定半径（$H_\infty$规范的倒数）。虽然我们的算法保证只找到真正的稳定半径的上界，它似乎在实践中是相当有效的。据我们所知，这是第一个解决这个问题的Frobenius范数版本的算法。由于该算法的代价主要是计算矩阵序列的连续时间系统的最大实部特征值（或离散时间系统的模），因此只要系统矩阵稀疏，该算法对大规模系统仍然非常有效。
2017-02-08 math.OC
Majorization-minimization Bregman proximal gradient algorithms for NMF with the Kullback--Leibler divergence
Graduate School of Information Science and Technology, The University of Tokyo（东京大学大学院信息理工学系研究科）；Department of Statistical Inference and Mathematics, The Institute of Statistical Mathematics（统计数学研究所统计推断与数学系）；The Graduate University for Advanced Studies（日本高级研究院）
本文提出基于KL散度的非负矩阵分解算法，通过同时更新所有变量实现高效收敛，改进了传统交替更新方法。
2025-08-22 math.OC
Linearly Involved Generalized Moreau Enhanced Models and Their Proximal Splitting Algorithm under Overall Convexity Condition
由于向量的稀疏性或矩阵的低秩性，直接离散测度的凸包络已被广泛用作实际惩罚，以计算相应正则化最小二乘模型的全局最优解。主要受[Zhang'10，Selesnick'17，Yin，Parekh，Selesnick'19]中利用正则化最小二乘模型中的非凸罚而不损失其整体凸性的思想的启发，本文提出了线性涉及的广义Moreau增强（LiGME）模型作为非凸罚的这种利用的统一扩展。该模型可以在不损失整体凸性的情况下允许多个非凸惩罚，因此适用于稀疏秩感知信号处理中更广泛的场景。在LiGME模型的一般全局凸性条件下，我们还提出了一种新的保证收敛到全局最优解的邻近分裂型算法。在稀疏秩感知信号处理的典型例子中的数值实验证明了LiGME模型和所提出的邻近分裂算法的有效性。
2021-02-19 cs.NA math.NA math.OC
Partial smoothness of the numerical radius at matrices whose fields of values are disks
本文研究了涉及数值半径的优化问题中解矩阵的特殊性质，证明了“圆盘矩阵”集合在特定条件下构成流形且数值半径具有部分平滑性，并应用于 Jordan 块、Crabb 矩阵及任意复 3×3 矩阵。
2018-12-31 cs.NA math.NA math.OC
$L_p$-norm regularization algorithms for optimization over permutation matrices
置换矩阵的最优化问题广泛地出现在设施布局，芯片设计，调度，模式识别，计算机视觉，图匹配等。由于这个问题是NP-困难的，由于组合性质的置换矩阵，我们放松变量是更容易处理的双随机阵和添加$L_p$ -范数（$0 < p < 1$）正则项的目标函数。当正则化参数足够大时，$L_p$正则化问题的最优解与原问题的最优解相同。进一步建立了稳定点非零元的下界估计以及局部极小元与置换矩阵之间的联系。然后我们提出了一个局部加细的$L_p$正则化算法。该算法采用投影梯度法，采用Barzilai-Borwein步长的非单调线性搜索近似求解一系列$L_p$正则化子问题.如果与某些局部搜索方法、割平面技术以及一种新的负邻近点方法相结合，其性能将得到进一步的提高。QAPLIB和带宽最小化问题的大量数值结果表明，我们提出的算法往往可以找到合理的高质量的解决方案在一个有竞争力的时间量。
2016-08-31 math.OC
A metric function for dual quaternion matrices and related least-squares problems
本文针对对偶四元数超定方程，引入新度量函数，将其转化为最小二乘及双层优化问题，提出两种近端点算法，并在合成与彩色图像数据上验证了有效性。
2024-11-08 math.OC math.RA
Amortized Proximal Optimization
University of Toronto（多伦多大学）；Vector Institute for Artificial Intelligence（向量人工智能研究所）；Stanford University（斯坦福大学）
我们提出了一个在线元优化的参数，管理优化，称为摊销邻近优化（APO）的框架。我们首先解释各种现有的神经网络优化近似随机邻近点的方法，在函数空间和权重空间的邻近项的当前批次的损失。APO背后的想法是通过元学习更新规则的参数来摊销近点目标的最小化。我们展示了如何APO可以用来适应学习率或结构化的预处理矩阵。在适当的假设下，APO可以恢复现有的优化器，如自然梯度下降和KFAC。它具有较低的计算开销，避免了一些二阶优化器所需的昂贵和数值敏感的操作，如矩阵求逆。我们经验性地测试了APO的在线适应学习率和结构化预处理矩阵，用于回归，图像重建，图像分类和自然语言翻译任务。经验上，由APO发现的学习率调度通常优于最佳固定学习率，并且与手动调整的衰减时间表具有竞争力。使用APO来调整结构化预处理矩阵通常会产生与二阶方法相竞争的优化性能。此外，矩阵求逆的不存在提供了数值稳定性，使其对于低精度训练有效。
2022-02-28 cs.LG math.OC stat.ML
A Trust Region Proximal Gradient Method for Nonlinear Multi-objective Optimization Problems
针对光滑与非光滑函数之和构成的复合多目标优化问题，提出一种无需预设参数和目标排序的全局收敛信赖域近端梯度法，并通过实验验证其有效性。
2024-10-25 cs.NA math.NA math.OC
The finite-step realizability of the joint spectral radius of a pair of $d\times d$ matrices one of which being rank-one
Nanjing University（南京大学）；Zhongshan (Sun Yat-Sen) University（中山大学）；Southern Illinois University（南伊利诺伊大学）
研究一对实$d\times d$矩阵（其中一个秩为1）的联合/广义谱半径的有限步可实现性，证明存在有限长度字使得谱有限性成立，从而稳定性算法可判定。
2011-06-05 cs.SY eess.SY math.DS
Towards time-varying proximal dynamics in Multi-Agent Network Games
University of Groningen（格罗宁根大学）；TU Delft（代尔夫特理工大学）
本文研究了多智能体网络博弈中时间变化的近端动力学，通过算子理论分析了固定通信网络下的收敛性，并考虑了具有驻留时间的时变邻接矩阵情况，通过分布式机器人探索示例进行了验证。
2018-11-11 cs.GT cs.SY eess.SY
Barabanov norms, Lipschitz continuity and monotonicity for the max algebraic joint spectral radius
我们提出了几个结果描述的最大代数联合谱半径（JSR）紧凑的矩阵集和适当定义的矩阵范数之间的相互作用。特别地，我们扩展了传统代数的经典结果，表明JSR可以用集合中矩阵的诱导范数来描述。我们还证明了对于生成不可约半群（在锥理论意义下）的集合，单调Barabanov范数总是存在的。这一事实，然后用来表明，最大代数JSR是局部Lipschitz连续的空间上的紧不可约集的矩阵的Hausdorff距离。然后，我们证明了JSR是Hoelder连续的空间上的紧集的非负矩阵。最后，我们证明了一个严格的单调性属性的最大代数JSR，呼应了经典的JSR的事实。
2017-05-04 math.CO math.OC
Faster Projection-Free Augmented Lagrangian Methods via Weak Proximal Oracle
Technion - Israel Institute of Technology（以色列理工学院）
本文研究了一类带仿射约束的凸复合最优化问题，它包括在（简单）凸集的交集上极小化光滑凸目标函数或用多个（简单）函数正则化的问题。出于高维应用程序中，精确的投影/近端计算是不听话的，我们提出了一个\textit{projection-free}增广拉格朗日为基础的方法，其中原始更新进行使用\textit{weak proximal oracle}（WPO）。在早期的工作中，WPO被证明比基于条件梯度的方法（又名Frank-Wolfe方法）的标准\textit{linear minimization oracle}（LMO）更强大。此外，WPO是计算上易于处理的许多高维问题的兴趣，包括那些动机的恢复低秩矩阵和张量，并优化多面体，承认有效的LMO。本文的主要结果表明，在一定的曲率假设下（这是弱于强凸性），我们的基于WPO的算法实现了遍历速度$O(1/T)$的目标残差和可行性差距。据我们所知，这一结果，提高了$O(1/\sqrt{T})$率为现有的LMO为基础的无投影方法，这类问题。低秩和稀疏协方差阵估计任务和最大割半定松弛的实验表明，我们的方法可以优于最先进的基于LMO的拉格朗日方法。
2023-02-21 cs.LG math.OC
Accelerated Quasi-Newton Proximal Extragradient: Faster Rate for Smooth Convex Optimization
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
提出 A-QPNE 方法，仅用梯度即在无约束光滑凸优化中取得随维度和迭代数变化的加速收敛速率，并首次从理论上证明拟牛顿型方法优于 NAG。
2023-06-03 cs.LG math.OC stat.ML
Decentralized Sensor Network Localization using Matrix-Parametrized Proximal Splittings
针对去中心化传感器网络定位，本文提出矩阵参数化近端分裂方法，并用去中心化Sinkhorn-Knopp构造参数，在收敛、内存、热启动和估计精度上优于ADMM及节点SDP松弛。
2025-03-17 eess.SP math.OC
Scalable Robust Matrix Recovery: Frank-Wolfe Meets Proximal Methods
Department of Industrial Engineering and Operations Research, Columbia University（哥伦比亚大学工业工程与运筹学系）；Department of Electrical Engineering, Columbia University（哥伦比亚大学电气工程系）
本文提出了一种可扩展且高效的鲁棒矩阵恢复方法，结合Frank-Wolfe和近端方法，以线性复杂度解决压缩主成分追寻问题，通过秩一SVD更新低秩部分并处理稀疏项，验证了方法在视觉数据中的可扩展性。
2017-05-29 cs.CV cs.NA math.NA
Robust Low-rank Matrix Completion via an Alternating Manifold Proximal Gradient Continuation Method
University of California, Davis（加州大学戴维斯分校）
鲁棒低秩矩阵完备（RMC），或部分观测数据的鲁棒主成分分析，在计算机视觉、信号处理和机器学习应用中得到了广泛的研究。该问题的目的是将部分观测矩阵分解为低秩矩阵和稀疏矩阵的叠加，其中稀疏矩阵捕获矩阵的严重损坏的条目。一种广泛使用的解决RMC的方法是考虑凸公式，它最小化低秩矩阵的核范数（以促进低秩）和稀疏矩阵的l1范数（以促进稀疏性）。本文在低秩矩阵完备化和黎曼优化的基础上，将该问题转化为Grassmann流形上的非光滑黎曼优化问题。这种新的公式是可扩展的，因为低秩矩阵被分解为两个小得多的矩阵的乘法。然后，我们提出了一个交替流形近端梯度延拓（AManPGC）方法来解决所提出的新配方。该算法的收敛速度进行了严格的分析。对监控视频背景提取的合成数据和真实数据的数值结果表明，所提出的新公式和算法优于现有的几种流行方法。
2020-08-18 cs.LG math.OC stat.ML
PINS: Proximal Iterations with Sparse Newton and Sinkhorn for Optimal Transport
Department of Mathematics（数学系）；University of Maryland（马里兰大学）；University of Tennessee（田纳西大学）；Department of Computer Science（计算机科学系）
PINS通过近端迭代结合稀疏牛顿和Sinkhorn算法，克服了最优传输中熵偏置 plateau 的限制，实现了更高的精度和效率。
2026-05-11 cs.LG math.OC
On asymptotic properties of matrix semigroups with an invariant cone
最近，一些研究工作表明，当这些矩阵共享一个不变锥时，矩阵集合的联合谱特征的分析大大简化。在这篇短文中，我们证明了这方面的两个新结果。我们证明了联合谱子半径是连续的邻域内的矩阵集，离开一个嵌入对锥不变。证明了当矩阵共享不变锥且其中一个矩阵是本原矩阵时，长度为t的乘积的（平均）最大谱半径和最大迹都向联合谱半径收敛.
2012-01-16 math.DS math.OC
An Efficient Alternating Algorithm for ReLU-based Symmetric Matrix Decomposition
School of Mathematics and Computational Science, Xiangtan University（数学与计算机科学学院，湘潭大学）
针对非负稀疏对称矩阵的低秩分解问题，提出基于ReLU的非线性对称矩阵分解模型及加速交替部分Bregman求解算法，利用Bregman近端梯度框架克服全局光滑常数估计难题，并在合成与真实数据上验证了有效性。
2025-04-27 cs.LG math.OC
Minimax joint spectral radius and stabilizability of discrete-time linear switching control systems
为了估计具有来自某组矩阵$\mathcal{A}$的因子的矩阵乘积$A_{n}\cdots A_{1}$的增长率，传统上使用诸如联合谱半径$ρ(\mathcal{A})$和较低谱半径$\checkρ(\mathcal{A})$的数值量。这些量中的第一个表征相应产品的范数的最大增长率，而第二个表征最小增长率。在离散时间线性切换系统理论中，不等式$ρ(\mathcal{A})<1$用作系统稳定性的判据，而不等式$\checkρ(\mathcal{A})<1 $用作可镇定性的判据。对于具有因子$A_{i}\in\mathcal{A}$和$B_{i}\in\mathcal{B}$的矩阵乘积$A_{n}B_{n}\cdots A_{1}B_{1}$，其中$\mathcal{A}$和$\mathcal{B}$是一些矩阵集合，我们引入量$μ(\mathcal{A},\mathcal{B})$和$η(\mathcal{A},\mathcal{B})$，分别称为对$\{\mathcal{A},\mathcal{B}\}$的下极大极小联合谱半径和上极大极小联合谱半径，其特征在于矩阵乘积$A_{n}B_{n}\cdots A_{1}B_{1}$在所有矩阵集合$A_{i}\in\mathcal{A}$上的最大增长率和在所有矩阵集合上的最小增长率$B_{i}\in\mathcal{B}$。在这个意义上，极大…
2017-12-21 math.OC math.RA
Rank-one Characterization of Joint Spectral Radius of Finite Matrix Family
Southern Illinois University（南伊利诺伊大学）
本文通过奇异值分解的秩一逼近，研究了有限矩阵族的联合/广义谱半径，证明了至多一个矩阵秩大于1的有限集满足有限性性质，并推导了计算公式，进而通过构造秩一逼近得到了新的刻画。
2016-12-29 cs.NA math.DS math.NA
Riccati Stability Without Auxiliary Matrices
Missouri University of Science and Technology（密苏里科技大学）
本文通过预解族的标量不变量，给出了无需辅助矩阵的Riccati稳定性刻画，该不变量基于协方差平衡，结合严格有界实引理得到仅含Hurwitz条件和单个标量不等式的充要条件。
2026-10-14 cs.SY eess.SY math.FA
