A Data-Driven Sparse-Learning Approach to Model Reduction in Chemical Reaction Networks
University of Michigan(密歇根大学)
在本文中,我们提出了一种基于优化的稀疏学习方法来识别化学反应网络中最有影响力的反应集。然后使用这组简化的反应来构建简化的化学反应机制,这与化学相互作用网络建模有关。首先将影响反应的识别问题转化为一个混合整数二次规划问题,然后利用松弛法降低了算法的计算复杂性.稀疏编码方法的定性和定量验证表明,该模型捕捉到重要的网络结构特性与适度的计算负荷。
2017-12-12 cs.LG math.DS math.OC
Adaptive sieving: A dimension reduction technique for sparse optimization problems
本文提出自适应筛选策略,利用解的内在稀疏性将大规模稀疏优化问题化为一系列小规模子问题,并生成解路径,理论保证有限终止,实验验证其高效灵活。
2025-04-25 math.OC
Optimization-based parametric model order reduction via $\mathcal{H}_2\otimes\mathcal{L}_2$ first-order necessary conditions
在本文中,我们推广现有的框架$\mathcal{H}_2\otimes\mathcal{L}_2$ -最优模型降阶的参数线性定常系统的广泛的一类。为此,我们推导了一类结构化降阶模型的一阶必要最优性条件,并在此基础上提出了一种基于保稳定优化的局部$\mathcal{H}_2\otimes\mathcal{L}_2$最优降阶模型的计算方法.我们还对文献中现有的方法进行了理论比较,并在数值实验中展示了我们的新方法如何通过合理的计算工作量产生稳定的优化降阶模型,并具有显着较低的近似误差。
2022-03-31 cs.NA cs.SY eess.SY
Branching with a pre-specified finite list of $k$-sparse split sets for binary MILPs
本文研究二元混合整数线性规划分支中k-稀疏分裂集的有限列表支配性质,证明稀疏度为2时存在有限支配列表而更高稀疏度时不存在,并引入覆盖数概念,给出其下界和特定系数族的上界。
2024-08-10 math.CO math.OC
A Dimension Reduction Technique for Large-scale Structured Sparse Optimization Problems with Application to Convex Clustering
本文提出了一种新的自适应筛选(AS)技术和一种增强的自适应筛选(EAS)技术,它们与求解器无关,可以加速求解具有内在结构稀疏性的大规模凸优化问题的优化算法。我们建立了有限收敛性的AS技术和EAS技术与不精确解的减少的子问题。作为一个重要的应用,我们将AS技术和EAS技术应用到凸聚类模型上,这可以将最先进的算法SSNAL加速7倍以上,将算法ADMM加速14倍以上。
2021-08-17 math.OC
Model Reduction of Linear Multi-Agent Systems by Clustering and Associated $\mathcal{H}_2$- and $\mathcal{H}_\infty$-Error Bounds
在本文中,我们研究了一种模型降阶技术的领导-跟随网络多智能体系统定义在加权,无向图与任意线性多变量智能体动态。在该网络的网络图中,节点表示代理,边表示代理之间的通信链路。只有网络中的领导者接收外部输入,追随者只与邻居交换信息。通过将节点集划分为不相交的集合(称为簇)并将每个簇与简化网络图中的单个新节点相关联来获得简化网络。由此产生的简化网络具有加权、对称、有向网络图,并继承了原始网络的一些结构。对于图的划分几乎是公平的特殊情况,我们建立了$\mathcal{H}_2$和$\mathcal{H}_\infty$模型约简误差的先验上界。这些上界取决于原始网络和简化网络的拉普拉斯特征值、与代理动态相关联的辅助系统以及属于与网络中的领导者相同的集群的节点的数量。最后,我们考虑的问题,获得先验的上界,如果我们集群使用任意的,可能是非几乎公平的,分区。
2016-10-07 cs.MA math.OC
Nonconvex Sparse Learning via Stochastic Optimization with Progressive Variance Reduction
University of Minnesota Twin Cities(明尼苏达大学双城分校);Johns Hopkins University(约翰斯·霍普金斯大学);Northwestern University(西北大学)
针对基数约束下的稀疏学习问题,提出了一种随机方差缩减优化算法。充分条件下,该算法具有很强的线性收敛保证和最佳的估计精度在高维。我们进一步扩展所提出的算法的异步并行变种与近线性加速比。数值实验表明,我们的算法在参数估计和计算性能方面的效率。
2017-12-23 cs.LG math.OC stat.ML
Sparse SVM for Sufficient Data Reduction
支持向量机(SVM)的基于核的方法在各种应用中表现出非常有利的性能。然而,对于大规模的样本数据集,它们可能会产生令人望而却步的计算成本。因此,数据精简(减少支持向量的数量)似乎是必要的,这引起了稀疏SVM的话题。针对这一问题,本文提出了一种稀疏约束核支持向量机优化方法,以控制支持向量的个数。基于所建立的与定常方程相关的最优性条件,发展了一种处理稀疏约束优化问题的牛顿型方法。该方法被发现享受一步收敛性能,如果选择的起始点是接近一个局部区域的一个稳定点,从而导致超高的计算速度。与几个强大的求解器的数值比较表明,所提出的方法表现非常好,特别是对于大规模的数据集,在一个更低的支持向量和更短的计算时间。
2021-04-21 math.OC
Towards Time-Limited $\mathcal H_2$-Optimal Model Order Reduction
为了精确地数值求解偏微分方程,通常需要进行高阶空间离散。模型降阶(MOR)技术常用于空间离散系统的降阶,从而降低计算复杂性。一类特殊的MOR技术是$\mathcal H_2$ -最优方法,例如迭代有理Krylov子空间算法(IRKA)和相关方案。然而,这些方法用于在无限时间范围内获得良好的近似。因此,在这项工作中,我们的主要目标是讨论MOR计划的时间限制线性系。为此,我们提出了一个替代的时间有限的$\mathcal H_2$ -规范,并显示其与时间有限的Gramian。然后,我们提供了一阶最优性条件的最优降阶模型(ROM)的时间限制$\mathcal H_2$ -范数。基于这些最优性条件,我们提出了一个迭代格式,其收敛时,旨在满足这些条件近似。然后,我们分析了如何远离所获得的ROM由于所提出的算法是从满足最优性条件。我们使用各种数值例子测试所提出的迭代方案的效率,并说明新提出的迭代法可以导致更好的降阶相比,在有限的时间间隔的兴趣的无限制IRKA。
2017-12-01 math.OC
Two-Timescale Optimization Framework for Sparse-Feedback Linear-Quadratic Optimal Control
College of Artificial Intelligence, Nankai University(南开大学人工智能学院)
针对带通信稀疏约束的分布式 LQ 控制,提出双时间尺度优化框架,分别用 $\ell_1$ 松弛、分段二次松弛和 BSUM 直接处理 $\ell_0$ 问题并保证稳定性。
2024-12-10 cs.LG math.OC
Bilinear Systems with Quadratic Outputs: $\mathcal{H}_2$ Analysis, Optimality Conditions for Model Reduction, and Algorithmic Solutions
TU Braunschweig(布伦瑞克工业大学);Virginia Tech(弗吉尼亚理工大学)
研究具有二次输出的双线性系统,通过建立 $\mathcal{H}_2$ 内积、范数等构建 $\mathcal{H}_2$ 框架,推导输出界与最优性条件,提出算法计算满足条件的约简系统,推广现有最优方法并经数值例子验证有效性。
2026-07-23 cs.NA math.NA math.OC
First and Second Order Optimal $\mathcal{H}_2$ Model Reduction for Linear Continuous-Time Systems
针对单输入单输出连续时间线性时不变系统的最优$\mathcal{H}_2$模型降阶问题,提出半定松弛方法确定全局最优插值点,通过凸优化求解,验证了一、二阶降阶模型的精确性,并能验证局部收敛方法的全局最优性。
2025-08-24 cs.SY eess.SY math.OC
From Interpolation to $\mathcal{H}_2$ Optimality: Model Reduction for Infinite-Dimensional Linear Control Systems
Virginia Tech(弗吉尼亚理工大学);Technische Universität Berlin(柏林工业大学)
本文提出一种基于插值的H₂最优模型降阶框架,针对无限维线性控制系统,通过Petrov-Galerkin投影实现降阶,并推导出H₂最优条件,证明插值特性在无限维情况下依然成立。
2026-04-14 cs.SY eess.SY math.OC
Accelerating the Sinkhorn algorithm for sparse multi-marginal optimal transport by fast Fourier transforms
利用Sinkhorn算法研究了离散多边际最优输运问题的数值解。在一般情况下,Sinkhorn算法遭受的边缘数的维数灾难。如果MOT费用函数按照树或圆进行迭代,则其复杂度与边际测度的数量成线性关系。在这种情况下,我们通过非均匀快速傅立叶方法加快了Sinkhorn算法中所需的径向核的卷积。所提出的具有树结构费用函数的加速Sinkhorn算法的每个步骤具有$\mathcal O(K N)$的复杂度,而不是用于直接矩阵向量运算的经典$\mathcal O(K N^2)$,其中$K$是边缘的数量,并且每个边缘测量在最多$N$点上被支持。在圆形结构费用函数的情况下,复杂度从$\mathcal O(K N^3)$提高到$\mathcal O(K N^2)$。数值实验证实了这一点。
2023-02-21 cs.NA math.NA math.OC
$\mathcal{H}_2$-optimal model reduction of linear quadratic-output systems by multivariate rational interpolation
Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所);Max Planck Institute for Dynamics of Complex Technical Systems(马克斯·普朗克复杂技术系统动力学研究所);Virginia Tech(弗吉尼亚理工大学)
本文针对线性二次输出系统,推导了$\mathcal{H}_2$最优模型降阶的插值最优性条件,提出了基于Petrov-Galerkin投影的迭代有理Krylov算法(LQO-IRKA),并验证了其在大规模问题中的有效性。
2026-06-02 cs.NA cs.SY eess.SY
A Subspace Framework for ${\mathcal L}_\infty$ Model Reduction
针对高阶描述符系统的 ${\mathcal L}_\infty$ 模型降阶问题,提出基于光滑优化的子空间框架,通过虚轴插值构建小阶次系统并迭代优化,在光滑与非退化假设下实现二次收敛,快速求得局部最优解。
2023-09-14 cs.NA math.NA math.OC
Bilinear systems -- A new link to $\mathcal H_2$-norms, relations to stochastic systems and further properties
在本文中,我们证明了几个新的结果,给新的见解双线性系统。我们讨论的条件渐近稳定性使用概率参数。此外,我们提供了一个全球性的双线性系统的可达性的基础上一定的Gramian。到目前为止,使用相同的Gramian的可达性能量估计仅是局部的。本文的主要结果,然而,是一个新的联系之间的输出误差和两个双线性系统的$\mathcal H_2$误差。这一结果在模型降阶领域有几个后果。它解释了为什么$\mathcal H_2$ -最优模型降阶导致良好的近似的输出误差。此外,输出误差的基础上的$\mathcal H_2$范数现在可以证明平衡相关的模型降阶计划在本文中。所有这些新结果都是基于这里建立的矩阵微分方程的Gronwall引理。
2021-04-01 cs.NA math.NA math.OC
Finding a sparse vector in a subspace: Linear sparsity using alternating directions
Columbia University(哥伦比亚大学)
用$\mathrm{dim}(\mathcal{S})= n < p$在通用子空间$\mathcal{S} \subseteq \mathbb{R}^p$中找到稀疏向量(方向)是否可能?这个问题可以被认为是稀疏恢复问题的同质变体,并发现与稀疏字典学习,稀疏PCA以及信号处理和机器学习中的许多其他问题的联系。在本文中,我们专注于一个 ** 种植稀疏模型 ** 的子空间:目标稀疏向量嵌入在一个随机的子空间。当目标稀疏向量中的非零条目的分数大大超过$O(1/\sqrt{n})$时,用于该种植恢复问题的简单凸算法可证明地失效。相比之下,我们展示了一个相对简单的非凸方法的基础上交替的方向,证明成功,即使当非零条目的分数是$Ω(1)$。据我们所知,这是第一个在种植稀疏模型下实现线性缩放的实用算法。从经验上讲,我们提出的算法在更具有挑战性的数据模型中也取得了成功,例如,稀疏字典学习
2016-07-20 cs.CV cs.IT cs.LG