Adaptive Combination of l0 LMS Adaptive Filters for Sparse System Identification in Fluctuating Noise Power
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
最近,l0-最小均方(l0-LMS)算法已被提出来识别稀疏线性系统,通过采用稀疏促进连续函数作为l0最小均方惩罚的近似。然而,该算法的性能是敏感的一些参数负责零吸引强度的适当选择。该参数的最佳选择取决于系统中占主导地位的信噪比(SNR)。因此,很难确定该参数的合适值,特别是在SNR随时间波动的情况下。在这项工作中,我们提出了几种自适应组合不同参数的l0-LMS得到一个整体令人满意的性能独立的SNR,并讨论了一些问题,这些组合结构。我们还展示了一个有效的部分更新计划,不仅减少了每次迭代的计算次数,但也实现了一些有趣的性能增益相比,完整的更新情况。然后,我们提出了一个新的递归最小二乘(RLS)型规则更新的组合参数更有效。最后,我们将两个滤波器的组合扩展到M个自适应滤波器的组合,这表明当M > 2时,进一步改进。
2016-05-10 cs.IT cs.LG math.IT
Regularization Parameter Selection Method for Sign LMS with Reweighted L1-Norm Constriant Algorithm
宽带频率选择性衰落信道通常具有固有的稀疏性。通过利用稀疏性,自适应稀疏信道估计(ASCE)算法,例如,在加性高斯白噪声(AWGN)假设下,最小均方加权L1范数约束(LMS-RL 1)算法可以带来可观的性能增益。然而,在无线系统的实际场景中,信道估计性能经常会因意外的非高斯混合噪声(包括AWGN和脉冲噪声)而恶化。为了设计稳定的通信系统,提出了一种符号LMS-RL 1(SLMS-RL 1)算法,该算法能够在去除脉冲噪声的同时利用信道稀疏性。众所周知,SLMS-RL 1的正则化参数(REPA)选择是一个非常具有挑战性的问题。在最坏的情况下,不适当的REPA甚至可能导致SLMS-RL 1算法意外的不稳定收敛。本文提出了一种基于Monte Carlo的选择方法来选择合适的REPA,使SLMS-RL 1能够实现两个目标:稳定收敛以及使用稀疏信息。仿真结果证实了我们的研究。
2015-04-28 cs.IT math.IT
Transient performance analysis of zero-attracting LMS
零吸引最小均方(ZA-LMS)算法已广泛应用于在线稀疏系统辨识。它结合了LMS框架和$\ell_1$范数正则化来提高稀疏性,并依赖于次梯度迭代。尽管ZA-LMS引起了人们极大的兴趣,但很少有文章分析其瞬态行为。主要困难在于更新规则的非线性。在这项工作中,在平均值和均方意义上进行了详细的分析,以检查该算法的行为。仿真结果说明了该模型的准确性,并通过与现有模型的比较突出其性能。
2016-08-25 cs.IT cs.PF math.IT
Sparse LMS via Online Linearized Bregman Iteration
Howard Hughes Medical Institute, Janelia Farm Research Campus(霍华德·休斯医学研究所,贾尼利亚农场研究园区)
提出了一种用于稀疏系统辨识的最小均方(LMS)算法。我们的算法称为在线线性化Bregman迭代(OLBI)是来自最小化的累积预测误差平方以及l1-l2范数正则化。通过系统地处理不可微正则化子,我们得到了一个简单的两步迭代。我们证明了OLBI是无偏的,并将其操作与现有的稀疏LMS算法进行比较,通过在在线凸优化框架中重新推导它们。我们进行白输入信号的OLBI的收敛性分析,并推导出稳态和瞬时均方偏差(MSD)的理论表达式。我们证明数值OLBI提高了性能的LMS型算法产生的信号稀疏抽头权重。
2012-10-01 cs.IT cs.LG math.IT
Performance Analysis of l_0 Norm Constraint Least Mean Square Algorithm
$l_0$范数约束最小均方($l_0$ -LMS)算法是近年来提出的一种稀疏系统辨识算法,它通过对抽头权值稀疏性的惩罚来修正传统方法的代价函数。与其各种前体相比,$l_0$ -LMS的性能相当吸引人。然而,还没有对其性能进行详细研究。本文在合理假设的基础上,对$l_0$ -LMS算法在白高斯输入数据下的性能进行了全面、深入的理论分析。稳态均方差(MSD)的表达式推导和讨论相对于算法参数和系统稀疏性。为达到最佳性能,建立了参数选择规则。用泰勒级数逼近,导出了系统的瞬时特性.此外,还建立了$l_0$ -LMS算法与已有算法的关系以及$l_0$ -LMS算法加速收敛的充分条件。最后,所有的理论结果与仿真结果进行了比较,并在很大的参数设置范围内吻合良好。
2013-03-09 cs.IT cs.PF math.IT
Performance Analysis of the Gradient Comparator LMS Algorithm
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
稀疏感知零吸引子最小均方(ZA-LMS)算法表现出更低的失调,在强稀疏环境比其稀疏不可知的对应,最小均方(LMS),但表现出比LMS更差时,稀疏的脉冲响应降低。ZA-LMS的重新加权的变体,即RZA-LMS,显示了对稀疏性的这种变化的鲁棒性,但代价是增加了计算复杂性。其他变体,例如10-LMS和改进的比例归一化LMS(IPNLMS),尽管性能令人满意,但也是计算密集型的。梯度比较器LMS(GC-LMS)是一个实用的解决方案,这种权衡时,硬件的限制是要考虑的。本文详细分析了GC-LMS算法的均值和均方收敛性能。分析结果与仿真结果吻合较好。
2016-05-10 cs.IT cs.LG math.IT
Least Mean Square/Fourth Algorithm with Application to Sparse Channel Estimation
频率选择性衰落信道中的宽带信号传输往往需要接收端准确的信道状态信息。最小均方(LMS)算法是自适应信道估计中最引人注目的算法之一。然而,基于LMS的方法往往是退化的输入训练信号的随机缩放。为了提高估计性能,本文将标准的最小均方/四分之一(LMS/F)算法应用于自适应信道估计(ACE)。由于宽带信道通常用稀疏信道模型来描述,这种稀疏性可以作为先验信息来利用。首先,我们提出了一种基于零吸引LMS/F(ZA-LMS/F)算法的自适应稀疏信道估计方法。为了有效地利用信道的稀疏性,本文还提出了一种改进的信道估计方法,即采用重加权零吸引LMS/F(RZA-LMS/F)算法。本文从几何解释的角度解释了使用l_1范数稀疏约束函数的稀疏LMS/F算法能够提高估计性能的原因。此外,对于不同的信道稀疏性,我们提出了一种蒙特卡罗方法来选择一个正则化参数的RA-LMS/F和RZA-LMS/F,以达到近似最优的估计性能。仿真结果表明,所提出的ASCE方法比传统方法具有更好的估计性能。
2013-04-14 cs.IT math.IT
A stochastic gradient approach on compressive sensing signal reconstruction based on adaptive filtering framework
基于稀疏信号重构与系统辨识在方法上的相似性,提出了一种新的压缩感知(CS)稀疏信号重构方法。该方法采用了基于随机梯度的自适应滤波框架,这是通常用于系统辨识,以解决稀疏信号的重建问题。为此,介绍了两种典型的算法:$l_0$ -最小均方($l_0$ -LMS)算法和$l_0$ -指数遗忘窗LMS($l_0$ -EFWLMS)算法。这两种算法都利用零吸引方法,该方法通过最小化所研究信号的$l_0$范数的连续近似来实现。为了提高这些算法的性能,还采用了一种$l_0$ -零吸引投影($l_0$ -ZAP)算法,有效地加快了算法的收敛速度,使其比现有的其他算法快得多。所提出的方法的优点,例如其对噪声的鲁棒性等,通过数值实验证明。
2013-03-09 cs.IT math.IT
Compressed Sensing for Denoising in Adaptive System Identification
提出了一种基于压缩感知理论的稀疏系统自适应辨识新方法。我们操纵发送的导频(输入信号)和接收信号,使得自适应滤波器的权重接近稀疏系统的压缩版本,而不是原始系统。为此,我们在发射端使用随机滤波器结构,根据CS框架形成测量矩阵。原始稀疏系统可以通过传统的恢复算法重建。因此,CS的去噪特性可以部署在所提出的方法在恢复阶段。实验结果表明,该方法的性能显着改善相比,传统的LMS方法,直接识别稀疏系统。此外,在低水平的稀疏性,我们的方法优于一个专门的识别算法,促进稀疏性。
2012-04-03 cs.IT math.IT
Adaptive Sparse Channel Estimation for Time-Variant MISO Communication Systems
信道估计问题是时变多输入单输出(MSIO)通信系统的关键技术之一。为了估计MISO信道,将最小均方(LMS)算法应用于自适应信道估计(ACE)。由于MISO信道通常由稀疏信道模型描述,因此可以利用这种稀疏性,然后可以通过使用稀疏LMS算法的自适应稀疏信道估计(ASCE)方法来改善估计性能。然而,传统的ASCE方法有两个主要缺点:1)对训练信号的随机尺度敏感和2)在低信噪比(SNR)区域不稳定。为了克服这两个有害因素,本文提出了一种新的使用归一化最小均方误差(NLMS)算法的ASCE方法(ASCE-NLMS)。此外,我们还提出了一种改进的ASCE方法使用归一化最小均值四分之一(NLMF)算法(ASCE-NLMF)。提出的两种方法可以有效地利用信道的稀疏性。此外,所提出的方法的稳定性进行了数学推导。计算机模拟结果表明,所提出的稀疏信道估计方法比传统方法具有更好的估计性能。
2013-02-06 cs.IT math.IT
Hard Threshold Least Mean Squares Algorithm
本文提出一种改进的LMS算法,用于识别已知稀疏性的信号,通过每迭代使用硬阈值操作。分析了算法性质,与传统LMS及其他稀疏感知变体进行比较,并探讨其在认知无线电频谱估计中的应用。
2016-08-03 cs.IT cs.SY eess.SY
Online Sparse System Identification and Signal Reconstruction using Projections onto Weighted $\ell_1$ Balls
本文提出了一种新的基于投影的自适应算法,用于稀疏信号和系统辨识。序列观测数据被用来生成一个等价的闭凸集序列,即hyperslabs。每个hyperslab都是成本标准的几何等价物,它量化了“数据不匹配”。通过引入适当设计的加权$\ell_1$球来施加稀疏性。该算法围绕投影到生成的hyperlabs序列以及加权的$\ell_1$球上而开发。所得到的方案表现出线性依赖性,相对于未知系统的顺序,乘法/加法的数量和$\mathcal{O}(L\log_2L)$依赖于排序操作,其中$L$是要估计的系统/信号的长度。数值结果也给出了验证所提出的方法对LASSO算法和两个最近开发的自适应稀疏LMS和LS型自适应算法,这被认为是属于同一算法家族的性能。
2010-04-18 cs.IT math.IT
Linear System Identification via Atomic Norm Regularization
本文提出了一种从噪声测量中辨识线性系的新算法。所提出的算法平衡的数据保真度项与一组单极滤波器引起的范数。我们提出了一个凸优化问题,近似地解决了原子范数最小化问题,并确定未知系统的噪声线性测量。这个问题可以通过标准的免费软件有效解决。我们提供严格的统计保证,明确约束的估计误差(在H_2范数)的稳定半径,汉克尔奇异值的真实系统和测量的数量。这些结果反过来又产生复杂性界和渐近一致性。我们提供了数值实验证明我们的方法估计线性系从各种线性测量的有效性。
2012-04-03 cs.IT math.IT math.OC
Proportionate Adaptive Filtering for Block Sparse System Identification
本文提出了一种新的比例归一化最小均方(PNLMS)自适应算法,提高了识别块稀疏系统的性能。主要提出的算法,称为块稀疏PNLMS(BS-PNLMS),是基于混合l2,1范数的自适应滤波器系数的优化。证明了NLMS和传统PNLMS都是BS-PNLMS的特例。同时,块稀疏的改进PNLMS(BS-IPNLMS)也推导出稀疏和色散的冲激响应。仿真结果表明,所提出的BS-PNLMS和BS-IPNLMS算法在计算复杂性仅略有增加的情况下,性能优于NLMS、PNLMS和IPNLMS算法。
2015-11-29 cs.IT math.IT
EM-Based p-norm-like Constraint RLS Algorithm with Adaptive Regularization for Sparse System Identification
University of California, Los Angeles(加州大学洛杉矶分校);National University of Defense Technology(国防科技大学)
本文提出一种基于EM算法的p-范数类约束RLS算法,通过误差驱动的双时间尺度自适应正则化,实现低复杂度稀疏系统辨识,并在模拟中优于现有稀疏RLS算法。
2026-10-01 cs.IT eess.SP math.IT
Performance Analysis of $l_0$ Norm Constrained Recursive Least Squares Algorithm
对$l_0$范数约束递归最小二乘(RLS)算法进行了性能分析.虽然性能相当吸引人相比,其各种替代品,没有进行深入的理论分析研究。与流行的$l_0$最小均方(LMS)算法类似,在$l_0$ RLS中,添加$l_0$范数惩罚以在瞬时滤波器抽头上提供零抽头吸引。本文采用白高斯输入数据,在适用于许多实际场景的假设下,对该算法进行了深入的理论性能分析。稳态MSD的表达式推导和分析不同的预定义变量的变化。还进行了基于泰勒级数展开的瞬时MSD的近似线性演化。最后,进行了数值模拟,以证实理论分析,并显示出匹配良好的参数范围很广。
2016-02-10 cs.IT math.IT nlin.AO