Follow The Approximate Sparse Leader for No-Regret Online Sparse Linear Approximation
IIT (ISM) Dhanbad（印度理工学院（达姆达德印度矿业学院））
针对在线稀疏线性逼近问题，提出 Follow-The-Approximate-Sparse-Leader 元策略，并证明其静态遗憾具有从对数到平方根范围的依赖数据次线性界，仿真验证了有效性。
2025-01-07 cs.LG math.OC
Metrics and norms used for obtaining sparse solutions to underdetermined Systems of Linear Equations
本文主要讨论定义一个测度，它适用于获得线性方程的欠定组的最优稀疏解。一般的思想是通过度量空间的笛卡儿积在n维空间中推广度量。* 以下工作完成，是在我的硕士论文完成题为“算法的计算稀疏解的未定义的方程组”在数学系，雅典大学这是分配给我与信息学和电信，雅典国立和Kapodistrian大学的部门。
2012-04-21 math.FA math.OC
Sparse Sampling Kaczmarz-Motzkin Method with Linear Convergence
随机稀疏Kaczmarz方法是最近提出的恢复线性系稀疏解的方法。在这项工作中，我们引入了一个贪婪的变体的随机稀疏Kaczmarz方法，采用采样Kaczmarz-Motzkin方法，并证明其线性收敛的预期在无噪声和噪声情况下的Bregman距离。该贪婪算法是抽样Kaczmarz-Motzkin方法和随机稀疏Kaczmarz方法的统一，继承了这两种方法的优点。数值上，我们报告了一对夫妇的实验结果，以证明其优越性
2021-01-14 cs.NA math.NA math.OC
Optimal multiplexing of sparse controllers for linear systems
Indian Institute of Technology Bombay（印度理工学院孟买分校）
本文研究了稀疏和最优多路复用有限个线性控制系统的问题，提出了一种在每个时间点只控制一个系统而其他系统在开环下运行的算法，并通过数值实验验证了所提出方法的有效性。
2018-11-03 cs.SY eess.SY math.OC
Sparse linear regression from perturbed data
稀疏线性回归问题与从大数据集识别线性系的背景相关。当从真实世界的实验中收集数据时，测量总是受到扰动或低精度表示的影响。然而，稀疏线性回归从完全扰动数据的问题很少在文献中研究，由于其数学复杂性。在本文中，我们表明，通过假设有界扰动，这个问题可以解决低复杂的l2和l1最小化问题。文中给出了理论保证和数值结果。
2020-03-31 cs.SY eess.SY math.OC
Linear convergence of the Randomized Sparse Kaczmarz Method
已知解线性系的随机化Kaczmarz方法在期望中线性收敛。在这项工作中，我们扩展了这一结果，并表明，最近提出的随机稀疏Kaczmarz方法恢复稀疏的解决方案，以及许多变种，也线性收敛的预期。这一结果是在分裂可行性问题及其解决方案的框架内通过随机Bregman投影关于强凸函数。为了获得预期的收敛速度，我们证明了投影的误差界的扩展。收敛结果表明，持有在更一般的设置，包括光滑凸函数，分段线性二次函数，也正则化核范数，这是用于该地区的低秩矩阵问题。数值实验表明，随机稀疏Kaczmarz方法在求解欠定和过定线性系问题时，优于非随机和非稀疏Kaczmarz方法.
2016-10-10 cs.NA math.NA math.OC
Recovery of binary sparse signals from compressed linear measurements via polynomial optimization
从少量的线性测量中恢复具有有限值分量的信号是一个具有广泛应用和有趣的数学特性的问题。在压缩感知框架中，最近已经提出了定制的方法来处理有限值稀疏信号的情况。在这项工作中，我们专注于二进制稀疏信号，我们提出了一种新的配方，基于多项式优化。这种方法进行了分析和比较，最先进的二进制压缩传感方法。
2019-05-30 cs.LG eess.SP math.OC
Sparse Linear Ensemble Systems and Structural Averaged Controllability: Single-input Case
针对单输入线性时不变连续集成控制系统，提出结构平均能控性的概念，并推导了稀疏模式满足该能控性的充要条件。
2023-12-14 cs.SY eess.SY math.OC
On Distributed Exact Sparse Linear Regression over Networks
在这项工作中，我们提出了一种算法，用于解决精确稀疏线性回归问题在网络上的分布式方式。特别地，我们考虑数据存储在不同计算机或代理之间的问题，这些计算机或代理试图协作地找到具有指定稀疏性k的公共回归量，即，L0范数小于或等于k。与现有文献使用L1正则化来近似稀疏性相反，我们用精确的稀疏性k来解决问题。在我们的建议中的主要新颖之处在于显示零对偶差距的问题制定，我们采用了一种双重的方法来解决这个问题，在一个分散的方式。这为研究具有显式稀疏约束的分布式优化问题奠定了基础。我们从理论上和经验表明，在适当的假设下，每个代理解决较小的和本地的整数规划问题，所有代理最终将达成共识，在同一稀疏最优回归。
2022-04-01 cs.DC math.OC
Sparse linear regression with compressed and low-precision data via concave quadratic programming
我们考虑的问题，从压缩的线性测量数据时，被破坏的量化噪声的k-稀疏向量的恢复。当测量的数目不是足够大时，不同的$k$稀疏解可能存在于可行集中，并且经典的l1方法可能是不成功的。为此，我们提出了一种非凸二次规划方法，利用先验信息的大小的非零参数。这导致更有效的支持恢复。我们提供了成功恢复的充分条件和数值模拟，以说明所提出的方法的实际可行性。
2019-09-09 cs.LG math.OC stat.ML
Sparse Structure Design for Stochastic Linear Systems via a Linear Matrix Inequality Approach
本文针对带乘性噪声的随机线性系，提出了一种稀疏提升反馈控制器的设计方法。我们的目标是确定一个稀疏的控制架构，优化闭环性能，同时稳定系统的均方意义上。所提出的方法近似的非凸组合最优化问题通过最小化各种矩阵范数的线性矩阵不等式（LMI）稳定性条件。我们提出了两个设计问题，以减少通过静态状态反馈和低维输出的致动器的数量。提出了带乘性噪声的正则化线性二次型调节器（LQRm）最优控制问题及其凸松弛，以证明闭环系统次优性能与控制结构稀疏度之间的折衷.广域电网频率控制的案例研究表明，所提出的稀疏促进控制可以大大减少执行器的数量，而不会显着损失系统性能。稀疏控制架构是强大的大量系统级干扰，同时实现均方稳定。
2022-08-19 cs.SY eess.SY math.OC
The Geometry and Well-Posedness of Sparse Regularized Linear Regression
本文通过多面体几何框架研究凸分段线性稀疏正则化线性回归的适定性，给出解存在、唯一且连续依赖数据的几何条件，并与光滑正则化对比，同时揭示验证这些条件的计算困难性。
2024-09-05 math.OC math.ST stat.TH
A sparse Kaczmarz solver and a linearized Bregman method for online compressed sensing
本文提出了一种计算稀疏或最小TV解的线性系统算法框架，包含Kaczmarz方法和线性化Bregman方法作为特例，并引入了稀疏Kaczmarz求解器等新方法，适用于测量缓慢且昂贵的在线压缩感知、TV断层成像和射电干涉测量等问题。
2014-03-28 cs.CV cs.IT cs.NA
Homotopy Parametric Simplex Method for Sparse Learning
Princeton University（普林斯顿大学）；Tencent AI Lab（腾讯人工智能实验室）；Northwestern University（西北大学）；Georgia Tech（佐治亚理工学院）
高维稀疏学习给大规模数据分析带来了巨大的计算挑战。在本文中，我们感兴趣的稀疏学习方法制定为线性规划参数化的{ \em正则化因子}，并解决他们的参数单纯形法（PSM）。我们的参数单纯形方法提供了显着的优势比其他竞争的方法：（1）PSM自然地获得完整的解决方案路径的所有值的正则化参数;（2）PSM提供了一个高精度的双证书停止标准;（3）PSM通过很少的迭代产生稀疏的解决方案，解决方案的稀疏性显着降低每次迭代的计算成本。特别是，我们证明了PSM优于各种稀疏学习方法，包括稀疏线性回归的Dantzig选择器，稀疏鲁棒线性回归的LAD-Lasso，稀疏精度矩阵估计的CLIME，稀疏差分网络估计和稀疏线性规划判别（LPD）分析。然后，我们提供了充分的条件下，PSM总是输出稀疏的解决方案，使其计算性能可以显着提高。通过数值实验验证了PSM方法的优越性。
2017-11-27 cs.LG math.OC stat.ML
Sparse solutions of linear Diophantine equations
我们提出的解决方案的丢番图系统$A{\boldsymbol y} = {\boldsymbol b}$，${\boldsymbol y} \in \mathbb Z^t_{\ge 0}$与最小数量的非零条目的结构结果。我们的工具是代数和数论的性质，包括西格尔引理，生成函数，和交换代数。这些结果在离散最优化中有一些有趣的结果。
2017-01-06 math.AC math.CO math.OC
Cholesky factorisation, and intrinsically sparse linear quadratic regulation
Lund University（隆德大学）
本文通过Cholesky分解揭示了具有树结构运输问题中控制律的内在稀疏性，展示了最优控制的分布式应用方法。
2026-02-03 cs.SY eess.SY math.OC
Extended Randomized Kaczmarz Method for Sparse Least Squares and Impulsive Noise Problems
扩展的随机Kaczmarz方法是一个著名的迭代格式，它可以找到一个可能不相容的线性系的Moore-Penrose逆解，并且与标准的随机Kaczmarz方法相比，在每次迭代中只需要增加系统矩阵的一列。此外，稀疏随机Kaczmarz方法已被证明是线性收敛到一个一致的线性系的稀疏解决方案。在这里，我们结合这两个想法，并提出了一个扩展的稀疏随机Kaczmarz方法。我们表明线性预期收敛到稀疏最小二乘解的意义上说，一个扩展的变量的正则基追踪问题得到解决。此外，我们推广了该方法中的附加步骤，并证明了收敛到一个更抽象的最优化问题。我们数值证明，我们的方法可以找到稀疏的最小二乘解的真实和复杂的系统，如果噪声集中在补的范围内的系统矩阵，我们的推广可以处理脉冲噪声。
2022-07-20 cs.NA math.NA math.OC
Pointwise-Sparse Actuator Scheduling for Linear Systems with Controllability Guarantee
针对线性时不变系统在每个时刻可用输入数量硬约束下的控制输入最优调度问题，本文刻画了使稀疏可控系统可控的稀疏执行器调度，设计了保证可控性且降低控制代价的贪心算法，并提出基于马尔可夫链蒙特卡罗的随机优化增强方法。
2025-02-11 cs.SY eess.SY math.OC
Sparse matrix factorizations for fast linear solvers with application to Laplacian systems
Université catholique de Louvain（天主教鲁汶大学）；Université de Namur（纳穆尔大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种在稀疏搜索方向和非稀疏搜索方向之间进行插值的方法，通过新的稀疏分解技术实现高效的线性系统求解，并应用于拉普拉斯系统的近线性时间求解。
2016-12-02 cs.NA math.NA math.OC
Finding a sparse vector in a subspace: Linear sparsity using alternating directions
Columbia University（哥伦比亚大学）
用$\mathrm{dim}(\mathcal{S})= n < p$在通用子空间$\mathcal{S} \subseteq \mathbb{R}^p$中找到稀疏向量（方向）是否可能？这个问题可以被认为是稀疏恢复问题的同质变体，并发现与稀疏字典学习，稀疏PCA以及信号处理和机器学习中的许多其他问题的联系。在本文中，我们专注于一个 ** 种植稀疏模型 ** 的子空间：目标稀疏向量嵌入在一个随机的子空间。当目标稀疏向量中的非零条目的分数大大超过$O(1/\sqrt{n})$时，用于该种植恢复问题的简单凸算法可证明地失效。相比之下，我们展示了一个相对简单的非凸方法的基础上交替的方向，证明成功，即使当非零条目的分数是$Ω(1)$。据我们所知，这是第一个在种植稀疏模型下实现线性缩放的实用算法。从经验上讲，我们提出的算法在更具有挑战性的数据模型中也取得了成功，例如，稀疏字典学习
2016-07-20 cs.CV cs.IT cs.LG
Near-Optimal Estimation of Simultaneously Sparse and Low-Rank Matrices from Nested Linear Measurements
本文考虑了由嵌套线性测量同时估计低秩和行稀疏矩阵的问题，其中线性算子由线性算子$\mathcal{W}$和矩阵$\mathbf{\varPsi}$的乘积组成.利用测量算子的嵌套结构，我们提出了一个计算效率高的两阶段算法，用于估计同时结构化的目标矩阵。假设$\mathcal{W}$是低秩矩阵的限制等距和$\mathbf{\varPsi}$是行式稀疏矩阵的限制等距，我们建立了一个精度保证，保持一致的所有足够低秩和行式稀疏矩阵具有高概率。此外，使用标准的工具，从信息论，我们建立了一个极小极大下界估计同时低秩和行式稀疏矩阵的线性测量，不需要嵌套。建立的算法，也作为一个极大上界的准确性界限，从派生的极大极小下界不同，只是由一个多对数因子的尺寸。因此，该算法几乎是极小极大最优的。我们还讨论了所提出的观测模型的一些应用，并通过数值模拟评估我们的算法。
2016-03-21 cs.IT math.IT math.OC
Convex block-sparse linear regression with expanders -- provably
稀疏矩阵是机器学习和优化的研究对象。当使用这样的矩阵时，代替密集矩阵，优化中的总体复杂性要求在实践中可以在空间和运行时间方面显著降低。基于这一观察，我们研究了一个凸优化方案，用于从线性测量中恢复块稀疏。为了获得线性草图，我们使用扩展矩阵，即，稀疏矩阵，每列仅包含少数非零值。然而，据我们所知，这种算法的解决方案只从非凸的角度进行了研究。我们的目的是在理论上描述这种设置下的凸方法的性能。我们的主要新颖之处是恢复错误的表达在基于模型的规范，同时确保解决方案的生活在模型中。为了实现这一点，我们证明了基于模型的稀疏矩阵满足零空间属性的群版本。我们在合成和实际应用中的实验结果支持我们在凸设置中更快恢复的主张-而不是使用密集的传感矩阵，同时显示出有竞争力的恢复性能。
2016-04-03 cs.IT math.IT math.OC
Necessary and Sufficient Conditions for Simultaneous State and Input Recovery of Linear Systems with Sparse Inputs by $\ell_1$-Minimization
本文首次给出线性动力系统中稀疏输入存在唯一性及通过线性规划同时恢复未知初始状态和稀疏输入的充要条件，并提供基于系统参数的可解释恢复条件。
2023-04-11 cs.IT cs.SY eess.SY
