时间相关源矢量稀疏信号恢复的重加权迭代算法

线性对角网络重加权最小二乘算法的精确渐近性

Precise asymptotics of reweighted least-squares algorithms for linear diagonal networks

本文对包含 IRLS、lin-RFM 和线性对角网络交替最小化的算法族提供了统一渐近分析，证明在独立同分布高斯协变量设置下，适当重加权策略仅需少数迭代即可实现良好性能，且组稀疏结构可进一步改善测试误差。

Sparse Identification of Nonlinear Dynamical Systems via Reweighted $\ell_1$-regularized Least Squares

This work proposes an iterative sparse-regularized regression method to recover governing equations of nonlinear dynamical systems from noisy state measurements. The method is inspired by the Sparse Identification of Nonlinear Dynamics (SINDy) approach of {\it [Brunton et al., PNAS, 113 (15) (2016) 3932-3937]}, which relies on two main assumptions: the state variables are known {\it a priori} and the governing equations lend themselves to sparse, linear expansions in a (nonlinear) basis of the state variables. The aim of this work is to improve the accuracy and robustness of SINDy in the prese…

基于GAMP的低复杂度稀疏贝叶斯学习算法

A GAMP Based Low Complexity Sparse Bayesian Learning Algorithm

在本文中，我们提出了一种算法的稀疏信号恢复问题，将阻尼高斯广义近似消息传递（GGAMP）的期望最大化（EM）为基础的稀疏贝叶斯学习（SBL）。特别是，GGAMP用于在SBL中实现E步，代替矩阵求逆，利用GGAMP保证以适当的阻尼收敛的事实。GGAMP-SBL算法比标准阻尼GAMP算法对任意测量矩阵$\boldsymbol{A}$具有更强的鲁棒性，同时比标准SBL算法具有更低的复杂度。然后，我们扩展的方法从单测量矢量（SMV）的情况下，时间相关的多个测量矢量（MMV）的情况下，导致GGAMP-TSBL算法。我们通过数值实验验证了所提出的算法的鲁棒性和计算优势。

时空MEG/EEG源重构的迭代加权混合范数估计

The iterative reweighted Mixed-Norm Estimate for spatio-temporal MEG/EEG source reconstruction

基于脑磁图（MEG）和脑电图（EEG）的源成像允许以高的时间和良好的空间分辨率对大脑活动进行非侵入性分析。由于生物电磁场逆问题是不适定的，因此需要约束条件。对于诱发脑活动的分析，神经元激活的空间稀疏性是一个常见的假设。它通常是考虑使用凸约束的基础上l1-范数。然而，由于前向模型中的高相关性，所得到的源估计在幅度上有偏差，并且在源选择方面常常是次优的。在这项工作中，我们证明了一个逆求解器的基础上块可分离的罚款与Frobenius规范每块和l0.5-quasinstruments块解决了这两个问题。为了解决由此产生的非凸优化问题，我们提出了迭代重加权混合范数估计（irMxNE），优化方案的基础上迭代重加权凸代理优化问题，有效地解决了使用块坐标下降计划和活动集策略。我们比较建议的稀疏成像方法的dSPM和RAP-MUSIC方法的基础上两个脑磁图数据集。我们提供了经验证据的基础上，模拟和分析的MEG数据，所提出的方法提高了标准的混合范数估计（MxNE）的振幅偏差，支持恢复，和稳定性。

Sparse recovery based on the generalized error function

In this paper, we propose a novel sparse recovery method based on the generalized error function. The penalty function introduced involves both the shape and the scale parameters, making it very flexible. The theoretical analysis results in terms of the null space property, the spherical section property and the restricted invertibility factor are established for both constrained and unconstrained models. The practical algorithms via both the iteratively reweighted $\ell_1$ and the difference of convex functions algorithms are presented. Numerical experiments are conducted to illustrate the im…

稀疏信号恢复问题中的相关性利用：多测量向量、块稀疏性和时变稀疏性

Exploiting Correlation in Sparse Signal Recovery Problems: Multiple Measurement Vectors, Block Sparsity, and Time-Varying Sparsity

压缩感知（CS）的一个趋势是利用结构来提高重建性能。在基本CS模型中，利用解向量中非零元素之间的聚类结构引起了人们的广泛关注，并提出了许多算法。然而，很少有算法明确考虑集群内的相关性。同时，在多测量向量（MMV）模型中，多个解向量之间的相关性在很大程度上被忽略。虽然最近开发的几种算法考虑利用的相关性，这些算法需要知道先验的相关性结构，从而限制了它们在实际问题中的有效性。最近，我们开发了一种稀疏贝叶斯学习（SBL）算法，即T-SBL，及其变体，自适应学习的相关结构，并利用这些相关信息，以显着提高重建性能。在这里，我们建立他们的连接到其他流行的算法，如组拉索，迭代加权$\ell_1$和$\ell_2$算法，和算法随时间变化的稀疏性。我们还提供了策略，以改善这些现有的算法。

Learning Cluster Structured Sparsity by Reweighting

Recently, the paradigm of unfolding iterative algorithms into finite-length feed-forward neural networks has achieved a great success in the area of sparse recovery. Benefit from available training data, the learned networks have achieved state-of-the-art performance in respect of both speed and accuracy. However, the structure behind sparsity, imposing constraint on the support of sparse signals, is often an essential prior knowledge but seldom considered in the existing networks. In this paper, we aim at bridging this gap. Specifically, exploiting the iterative reweighted $\ell_1$ minimizati…

普遍提升压缩感知的相变性能：非等距矩阵不一定是坏矩阵

Universally Elevating the Phase Transition Performance of Compressed Sensing: Non-Isometric Matrices are Not Necessarily Bad Matrices

在压缩感知问题中，$\ell_1$最小化或基追踪被认为是多项式时间算法中具有最好的可恢复稀疏性的可证明相变性能。寻找性能优于$\ell_1$最小化的替代多项式时间算法具有重要的理论和实际意义。\cite{Icassp reweighted l_1}、\cite{Isit reweighted l_1}、\cite{XuScaingLaw}和\cite{iterativereweightedjournal}已经表明，两级重新加权的$\ell_1$最小化算法可以提高其非零元素遵循幅度概率密度函数（pdf）$f(\cdot)$的信号的相变性能，该幅度概率密度函数（pdf）$f(\cdot)$的$t$是某个整数$t \geq 0$的三阶导数$f^{t}(0) \neq 0$。然而，对于其非零元素在分布中严格地从零悬挂的信号（例如，常数模，对于某些非零实数$d$仅取值“$+d$”或“$-d$”），没有已知的多项式时间信号恢复算法提供比简单的$\ell_1$最小化更好的相变性能，特别是对于密集感测矩阵。在本文中，我们表明，一个多项式时间算法可以普遍提高压缩感知的相变性能相比，$\ell_1$最小化，即使是恒模非零元素的信号。相反，传统的智慧，压缩感知矩阵是等距的，我们表明，非等距矩阵不一定是坏的传感矩阵。在本文中，我们还提供了一个框架，用于恢复稀疏信号时，传感矩阵是不等距的。

Learning Transition Operators From Sparse Space-Time Samples

We consider the nonlinear inverse problem of learning a transition operator $\mathbf{A}$ from partial observations at different times, in particular from sparse observations of entries of its powers $\mathbf{A},\mathbf{A}^2,\cdots,\mathbf{A}^{T}$. This Spatio-Temporal Transition Operator Recovery problem is motivated by the recent interest in learning time-varying graph signals that are driven by graph operators depending on the underlying graph topology. We address the nonlinearity of the problem by embedding it into a higher-dimensional space of suitable block-Hankel matrices, where it becom…

重加权L1-Norm最小化的快速精确算法

Fast and Accurate Algorithms for Re-Weighted L1-Norm Minimization

为了从欠定系统中恢复出稀疏信号，我们经常要解决一个约束L1范数最小化问题。在许多情况下，信号稀疏性和恢复性能可以通过用“加权”L1范数代替L1范数来进一步改善。在没有关于信号的非零元素的任何先验信息的情况下，用于选择权重的过程本质上是迭代的。常见的方法在每次迭代时使用来自前一次迭代的加权L1问题的解来更新权重。在本文中，我们提出了两个同伦为基础的算法，有效地解决加权L1问题。首先，我们提出了一个算法，快速更新的解决方案的加权L1问题的权重变化。由于解决方案的变化只有轻微的权重的变化，我们开发了一个同伦算法，取代旧的权重与新的在少量的计算成本低廉的步骤。其次，我们提出了一种算法，解决了加权L1问题，自适应选择的权重，同时估计信号。该算法通过根据解及其支持度的变化来改变权值，将重加权集成到同伦路径上的每一步，使我们能够通过求解单个同伦问题来实现高质量的信号重构。我们比较了这两种算法的性能，在重建精度和计算复杂度方面，对国家的最先进的求解器，并表明我们的方法具有较小的计算成本。此外，我们将表明，自适应选择同伦内的权重往往会产生更高质量的重建。