Theoretical Linear Convergence of Unfolded ISTA and its Practical Weights and Thresholds
Texas A&M University（德克萨斯农工大学）；University of California, Los Angeles（加州大学洛杉矶分校）
近年来，展开迭代算法作为神经网络已经成为解决稀疏恢复问题的经验成功。但是，对它的理论认识还不成熟，这就阻碍了我们充分利用神经网络的力量。在这项工作中，我们研究了展开的ISTA（迭代收缩保持算法）的稀疏信号恢复。我们引入了一个权重结构，这是必要的渐近收敛到真正的稀疏信号。在这种结构下，展开ISTA可以获得线性收敛，这比一般情况下ISTA/FISTA的次线性收敛更好。此外，我们建议在网络中加入阈值来执行支持选择，这很容易实现，并且能够在理论和经验上提高收敛速度。广泛的模拟，包括稀疏向量恢复和压缩感知实验的真实图像数据，证实了我们的理论结果，并证明其实际用途。我们已将我们的代码公开发布：https://github.com/xchen-tamu/linear-lista-cpss。
2018-11-04 cs.LG stat.ML
Natural Thresholding Algorithms for Signal Recovery with Sparsity
基于最优$k$ -阈值技术的信号恢复算法是近年来提出的，它与传统的硬阈值方法有很大的不同。然而，基于OT的算法的计算成本在其发展的当前阶段仍然很高。这刺激了所谓的自然阈值（NT）算法及其变体在本文中的发展。NT算法族是通过所谓的正则化最优$k$阈值模型的一阶近似来开发的，因此该算法族的计算成本显著低于基于OT的算法。在正则化最优$k$ -阈值模型的目标函数的约束等距性和非线性下，给出了从噪声测量中恢复信号的NT-型算法的保证性能.实验结果表明，NT型算法是强大的，非常可比的几个主流算法的稀疏信号恢复。
2022-07-20 cs.IT math.IT
Fast thresholding algorithms with feedbacks for sparse signal recovery
我们提供了另一个框架的迭代算法的基础上阈值，反馈和零空间调整稀疏表示和压缩感知中产生的稀疏信号恢复。几个阈值算法与各种反馈的推导，这是非常有效和快速。收敛结果也提供。核心算法收敛于有限的许多步骤下（预处理）限制等距条件。该算法被认为是特别有效的大规模问题。数值研究的有效性和速度的算法也被提出。
2012-11-11 cs.IT math.IT
Distributed soft thresholding for sparse signal recovery
在本文中，我们解决的问题，通过压缩测量传感器网络中获得的信号的分布式稀疏恢复。我们提出了一类新的分布式算法来解决Lasso回归问题，当与融合中心的通信是不可能的，例如，由于通信成本或隐私原因。更确切地说，我们介绍了一个分布式迭代软阈值算法（DISTA），由三个步骤组成：平均步骤，梯度步骤，和软阈值操作。我们证明了DISTA的收敛性，在网络中表示的规则图，我们比较它与现有的方法在性能，内存和复杂性。
2013-10-14 cs.DC cs.IT math.IT
Newton-Direction-Based ReLU-Thresholding Methods for Nonnegative Sparse Signal Recovery
School of Mathematics and Statistics, Shandong University of Technology（山东理工大学数学与统计学院）；Shenzhen International Center for Industrial and Applied Mathematics, SRIBD, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）理工学院深圳市工业与应用数学中心）；Department of Mathematical Sciences, University of Nottingham Ningbo China（宁波诺丁汉大学数学系）
本文提出基于牛顿方向的ReLU阈值化方法，用于非负稀疏信号恢复，通过理论分析和实验验证其在不同噪声条件下的有效性。
2026-02-04 cs.IT eess.SP math.IT
An Efficient Algorithm for Thresholding Monte Carlo Tree Search
Hokkaido University（北海道大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；RIKEN AIP（理化学研究所AIP中心）
本文提出了一种基于Track-and-Stop策略的δ-正确序列采样算法，用于解决阈值蒙特卡罗树搜索问题，实现了渐近最优的样本复杂度并降低了计算成本。
2026-01-30 cs.LG stat.ML
Heavy-Ball-Based Hard Thresholding Algorithms for Sparse Signal Recovery
硬阈值技术在稀疏信号恢复算法的发展中起着至关重要的作用。将该方法与传统梯度下降方法的多步扩展重球加速方法相结合，提出了基于重球的硬阈值追踪（HBHT）和基于重球的硬阈值追踪（HBHTP）算法。结果表明，当测量矩阵的约束等距常数分别满足$δ_{3k}<0.618 $和$δ_{3k}<0.577,$时，HBHT和HBHTP可以成功地恢复$k$稀疏信号. HBHT和HBHTP的保证成功也分别在条件$δ_{2k}<0.356$和$δ_{2k}<0.377,$下显示。此外，本文还证明了这两个算法的有限收敛性和稳定性.随机问题的情况下进行模拟，比较所提出的算法和几个现有的性能。实验结果表明，HBHTP的性能非常接近于现有的几种算法，它需要更少的平均时间来实现信号恢复比这些现有的方法。
2022-04-20 cs.IT math.IT
Dual Iterative Hard Thresholding: From Non-convex Sparse Minimization to Non-smooth Concave Maximization
Rutgers University（罗格斯大学）；Nanjing University of Information Science & Technology（南京信息工程大学）
迭代硬约束保持（IHT）是一类用于优化稀疏约束最小化模型的投影梯度下降方法，具有最好的效率和可扩展性。据我们所知，现有的IHT风格的方法被设计为原始形式的稀疏最小化。它仍然开放，探索对偶理论和算法在这样一个非凸和NP-难的问题设置。在本文中，我们建立了一个对偶理论的稀疏约束最小化与$\ell_2$正则化损失函数，并提出了一个IHT风格的算法对偶最大化。我们的稀疏对偶理论提供了一组充分和必要的条件下，原来的NP-难/非凸问题可以等价地解决在一个对偶制定。提出的对偶IHT算法是一种最大化非光滑对偶目标的超梯度算法。一个有趣的发现是，双IHT的稀疏恢复性能是不变的限制等距属性（RIP），这是所需的几乎所有现有的原始IHT算法没有稀疏松弛。此外，提出了一种随机变形的对偶IHT的大规模随机优化。数值结果表明，双重IHT算法的优越性，最先进的原始IHT风格的算法在模型估计精度和计算效率。
2017-06-21 cs.LG stat.ML
Iterative Thresholding Pursuit with Continuation for $\ell_{1-2}$-Regularized Sparse Recovery
Tongji University（同济大学）；Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University（同济大学上海智能无人系统研究院）
提出一种结合延续策略的迭代阈值追踪方法（ITP-C），通过 $\ell_{1-2}$ 近端步的主动集识别和受限最小二乘追踪步的二阶更新，实现稀疏信号的高效恢复，并保证收敛性和局部 oracle 性质。
2026-06-04 cs.IT cs.NA math.IT
Multiple Choice Hard Thresholding Pursuit (MCHTP) for Simultaneous Sparse Recovery and Sparsity Order Estimation
我们解决的问题，稀疏恢复使用贪婪压缩感知恢复算法，没有明确的知识的稀疏性。估计稀疏度阶数在许多实际场景中是一个至关重要的问题，例如，无线通信，其中未知信道的稀疏阶的精确值可能先验不可用。在本文中，我们提出了一种新的贪心算法，称为多选择硬阈值追踪（MCHTP），它修改了流行的硬阈值追踪（HTP）适当迭代恢复未知稀疏向量以及未知向量的稀疏顺序。我们提供了可证明的性能保证，确保MCHTP可以估计稀疏顺序准确，以及恢复未知的稀疏向量准确无噪声测量。仿真结果证实了理论研究结果，表明，即使没有确切的稀疏性知识，只有一个松散的上界的稀疏性的知识，MCHTP表现出突出的恢复性能，这是几乎相同的传统HTP与精确的稀疏性知识。此外，仿真结果表明，低得多的计算复杂性的MCHTP相比，其他国家的最先进的技术，如MSP。
2022-10-25 cs.IT math.IT
Sparsity Domain Smoothing Based Thresholding Recovery Method for OFDM Sparse Channel Estimation
针对超5G网络下OFDM系统需降低导频开销提升数据速率的需求，提出基于稀疏域平滑的三步稀疏信道估计算法SDS-IMAT，结合导频位置优化，在均方误差和误码率上优于现有方法，性能接近最优。
2023-05-04 cs.IT eess.SP math.IT
Data-Time Tradeoffs for Optimal k-Thresholding Algorithms in Compressed Sensing
最优$k$ -阈值算法是一类$k$ -稀疏信号恢复算法，它克服了传统硬阈值算法由于残差函数振荡而导致的缺陷。本文对最优$k$ -阈值算法进行了新的收敛性分析，揭示了这些算法的数据-时间权衡。分析和数值结果都表明，当测量数较小时，算法不能收敛;当测量数较大时，成功恢复所需的迭代次数与测量数成负相关，算法可以实现线性收敛.此外，主要的定理表明，成功恢复所需的测量的数量级为$k \log({n}/{k})$，其中$n$是目标信号的维数。
2022-06-19 cs.IT math.IT
Orthogonal subspace based fast iterative thresholding algorithms for joint sparsity recovery
从具有联合稀疏特性的多测量向量中恢复稀疏信号在信号、图像和视频处理中有着广泛的应用。当信号矩阵的快照在时间上相关时，问题变得更加复杂。考虑到信号的时间相关性，我们提供了一个基于阈值，功能反馈和零空间调整的迭代MMV算法的框架。建立了精确恢复的收敛性分析。与大多数在测量/解空间中选择索引的迭代贪心算法不同，我们基于迭代序列所跨越的正交子空间来确定索引。此外，一个功能性的反馈，控制量的能源搬迁的“尾巴”的实施和分析。结果表明，函数反馈原理可以减少迭代次数，加快算法的收敛速度。数值实验表明，该算法具有明显的优势，平衡的效率，自适应性和准确性相比，其他国家的最先进的算法。
2021-01-22 cs.IT math.IT
Iterative Null-space Projection Method with Adaptive Thresholding in Sparse Signal Recovery and Matrix Completion
自适应阈值方法已被证明产生高信噪比和快速收敛在寻找压缩感知（CS）问题的解决方案。最近，据观察，一类迭代稀疏恢复算法，如迭代方法与自适应采样保持（IMAT）的鲁棒性已优于著名的LASSO算法的重建质量，收敛速度，和对噪声的敏感性。在本文中，我们介绍了一种新的方法来解决CS问题。该方法的逻辑基于阈值化信号到感测矩阵的零空间上的迭代投影。通过在阈值化子空间上投影来恢复期望信号的支持，从而进行阈值化。仿真结果表明，该方法具有产生显着的输出SNR值的能力与约两倍的稀疏数一样多的样本，而其他方法无法恢复信号时，接近所需的样本数的代数界。正如模拟中观察到的那样，我们方法的计算复杂性也与其他方法相当。我们还扩展了我们的算法矩阵完成（MC）的情况下，并比较其效率，其他知名的方法MC在文献中。
2016-11-04 cs.IT math.IT stat.ME
Knowledge-Aided Normalized Iterative Hard Thresholding Algorithms and Applications to Sparse Reconstruction
本文讨论了利用先验知识的压缩感知应用中经常发现的稀疏恢复问题。特别是，我们提出了一个知识辅助归一化迭代硬阈值（KA-NIHT）算法，利用非零条目的概率信息。我们还开发了一种策略，使用递归KA-NIHT（RKA-NIHT）算法，从而提高恢复更新的概率。仿真结果表明，并比较所提出的算法和现有的性能。
2018-09-25 cs.IT math.IT
Low rank tensor recovery via iterative hard thresholding
RWTH Aachen University（亚琛工业大学）；Technische Universität Berlin（柏林工业大学）；University of Bonn（波恩大学）
本文研究了压缩感知和低秩矩阵恢复在高阶低秩张量恢复中的扩展，提出迭代硬阈值法在HOSVD、TT和HT分解中的应用，并证明了其收敛性及测量算子的张量受限等距性质。
2016-02-16 cs.IT cs.NA math.IT
Signal Recovery From 1-Bit Quantized Noisy Samples via Adaptive Thresholding
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文提出了一种高效的信号恢复方法，能够在白噪声或彩色噪声污染的1位测量中准确估计目标信号，通过自适应量化阈值法提供统一框架处理任意协方差矩阵的噪声，包括彩色噪声。
2018-12-10 cs.IT cs.SY eess.SP
Consecutive Support Matching Induced Parameter Tuning Accelerates Momentum Iterative Hard Thresholding
IIT (ISM) Dhanbad（印度矿业大学）；Techno Bengal Institute of Technology（泰格博加尔理工学院）
提出CosMIHT算法，通过自适应规则在支持发现阶段使用保守参数，在支持锁定后利用轻量级幂法估计特征值并切换最优重球参数，实现快速收敛，理论证明了两阶段收敛性，实验验证了其优越性。
2026-06-08 cs.IT math.IT math.OC
The convergence guarantee of the iterative thresholding algorithm with suboptimal feedbacks for large systems
基于保偏的迭代算法在有效性和最优性之间进行权衡。有些是有效的，但涉及子矩阵求逆的每一步迭代。对于大尺寸的系统，这样的算法在计算上可能是昂贵的和/或禁止的。基于硬阈值和反馈的零空间调整算法（NST+HT+FB）通过使用次优反馈来加速其过程，其中子矩阵求逆被基于特征值的近似所取代。由此产生的次优反馈方案变得非常有效的大系统恢复问题。一个自适应算法的基础上阈值，次优反馈和零空间调整（AdptNST+HT+subOptFB）没有先验知识的稀疏水平也提出和分析。收敛性分析是本文的重点。数值模拟也进行了证明卓越的效率的算法相比，最先进的迭代阈值算法在相同水平的恢复精度，特别是对于大型系统。
2017-11-07 cs.IT math.IT
Robust Sparse Signal Recovery with Outliers: A Hard Thresholding Pursuit Approach Based on LAD
School of Mathematics and Statistics, Lanzhou University（兰州大学数学与统计学学院）；School of Mathematics and Statistics, Hubei Normal University（湖北师范大学数学与统计学学院）
本文提出了一种无需稀疏性先验的鲁棒稀疏信号恢复方法，通过LAD最小化和分级快速硬阈值追求算法，在异常值存在的情况下实现高效准确的信号恢复。
2026-03-06 cs.CV cs.IT math.IT
A new and improved quantitative recovery analysis for iterative hard thresholding algorithms in compressed sensing
Mathematical Institute, University of Oxford（牛津大学数学研究所）；Department of Mathematics, Duke University（杜克大学数学系）
本文提出了一种新的IHT算法恢复分析，通过研究固定点条件，推导了收敛性和固定点存在的充分必要条件，并在确定性无噪和高斯测量矩阵有噪情况下，量化了稀疏信号恢复的稀疏性/欠采样权衡。
2014-11-07 cs.IT cs.NA math.IT
Average Case Analysis of Multichannel Sparse Recovery Using Convex Relaxation
在本文中，我们考虑联合稀疏多通道信号从不完整的测量恢复。已经开发了几种方法来从给定的观测值中恢复未知的稀疏向量，包括阈值，同时正交匹配追踪（SOMP）和基于混合矩阵范数的凸松弛。通常，执行最坏情况分析，以便分析算法能够恢复任何联合稀疏向量集的条件。然而，这样的方法是不能够提供的见解，为什么联合稀疏恢复是优于应用标准的稀疏重建方法，每个通道单独。以往的工作认为，通过对测量信号施加概率模型的阈值和SOMP的平均情况分析。在本文中，我们的主要重点是凸松弛技术的分析。特别是，我们专注于混合l_2，1方法多通道恢复。我们表明，在一个非常温和的条件下的稀疏性和字典特性，例如测量的一致性，恢复失败的概率呈指数衰减的通道数。这表明，大多数时候，多通道稀疏恢复确实优于单通道方法。我们的概率界是有效的，即使是少量的信号是有意义的。使用我们开发的工具来分析凸松弛方法，我们还收紧了阈值和SOMP的以前的界限。
2009-04-03 cs.IT math.IT
Deterministic and Randomized Diffusion based Iterative Generalized Hard Thresholding (DiFIGHT) for Distributed Sparse Signal Recovery
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
本文提出了一种基于扩散机制的分布式迭代硬阈值算法DiFIGHT，并提出了一种复杂度较低的修改算法MoDiFIGHT。通过四种不同的策略随机选择节点以减少通信次数，同时提供了理论估计和算法分析，证明了其在稀疏信号恢复中的优越性能。
2020-08-14 cs.DC cs.IT cs.NA
Compressed Sensing Recovery via Nonconvex Shrinkage Penalties
压缩感知的$\ell^0$最小化通常被放松为$\ell^1$，这使用称为软阈值的收缩映射产生容易的计算，并且可以在某些假设下恢复原始解。最近的工作已经得出了一个一般类的收缩和相关的非凸惩罚，更好地近似原来的$\ell^0$惩罚和经验，可以从更少的测量恢复原来的解决方案。我们专门研究p收缩和公司阈值。在这项工作中，我们证明了，给定的数据和测量矩阵从一个广泛的一类矩阵，可以选择这些类的收缩参数，以保证精确恢复的稀疏的解决方案。我们进一步证明了算法迭代p收缩（IPS）解决这样一个放松的问题的收敛性。
2015-04-11 cs.IT math.IT
Analysis of Hard-Thresholding for Distributed Compressed Sensing with One-Bit Measurements
一个简单的硬阈值操作被证明能够恢复$L$信号$\mathbf{x}_1,...,\mathbf{x}_L \in \mathbb{R}^n$，共享一个共同的支持的大小$s$从$m = \mathcal{O}(s)$一位测量每个信号，如果$L \ge \log(en/s)$。该结果改进了具有$m = \mathcal{O}(s\log(en/s))$测量的单个信号恢复界限，在这个意义上，每个非零条目需要渐近更少的测量。数值证据支持理论上的考虑。
2018-09-17 cs.IT math.IT
Modified Hard Thresholding Pursuit with Regularization Assisted Support Identification
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
硬阈值追踪（HTP）是最近提出的一种迭代稀疏恢复算法，它是将迭代硬阈值（IHT）的支持度选择步骤和正交匹配追踪（OMP）的估计步骤相结合的结果。HTP已被视为享有改善的恢复保证以及增强的收敛速度。HTP的成功很大程度上归功于其改进的支持选择能力，这是由于IHT的支持选择步骤。在本文中，我们提出了一种广义HTP算法，称为正则化HTP（RHTP），HTP的支持选择步骤被替换为IHT型支持选择，其中成本函数被替换为正则化成本函数，而估计步骤继续使用最小二乘函数。与可分解的正则化，满足一定的规律性条件下，RHTP算法产生一个序列动态等价于一个序列不断发展，根据HTTP样的演变，其中的识别阶段有一个梯度premultiplied与时变对角矩阵。RHTP也被证明，无论是在理论上，和数值上，享受更快的收敛速度与无噪声和噪声测量矢量的HTP。
2020-06-02 cs.IT cs.LG cs.NA
Modified Papoulis-Gerchberg algorithm for sparse signal recovery
受著名的Papoulis-Gerchberg算法的启发，提出了一种从少量观测值中恢复稀疏信号的迭代阈值算法。迭代的序列与阈值Landweber迭代的序列相似，尽管不相同。该算法的性能进行了实验评估，并与其他国家的最先进的方法相比。
2009-02-12 cs.IT math.IT
Transformed Schatten-1 Iterative Thresholding Algorithms for Low Rank Matrix Completion
研究了一种非凸的低秩提升罚函数--变换的Schatten-1（TS 1）及其在矩阵完备化中的应用。TS 1罚函数作为定义在奇异值上的矩阵拟范数，通过非负参数α对秩和核范数进行插值。我们考虑无约束的TS 1正则化低秩矩阵恢复问题，并发展了一个不动点表示的全局极小。TS 1阈值函数对于所有参数值都是封闭的解析形式。TS 1阈值在次临界（超临界）参数范围内不同，其中TS 1阈值函数是连续的（不连续的）。我们提出了TS 1迭代阈值算法，并将其与矩阵完备测试问题的一些最先进的算法进行了比较。对于已知秩的问题，完全自适应的TS 1迭代阈值算法在不同的条件下始终表现最好，地面真值矩阵是多元高斯在不同的协方差。对于秩未知的问题，TS 1算法与一个额外的秩估计过程接近IRucL-q的水平，IRucL-q是一个迭代重加权算法，非凸的性质和最佳的性能。
2016-10-18 cs.IT math.IT math.OC
Compensation of Amplifier Distortion for OFDM signals based on Iterative Hard Thresholding
正交频分复用（OFDM）系统中功率放大器（PA）引起的非线性失真的缓解是实现能量有效操作的重要问题。在这项工作中，我们提出了一种新的算法，在OFDM系统中，基于接收机的削波估计相结合的迭代硬采样保持（IHT）方法与相应的加权削波的估计概率。因此，更一般的放大器输入-输出特性被认为是在接收器侧被假定为是未知的。此外，我们避免使用专用的子载波，并制定的恢复问题，完全可靠地检测到的子载波。通过模拟，我们表明，所提出的技术实现了更好的复杂性和性能的权衡相比，现有的方法。
2015-07-01 cs.IT math.IT
Minimization of Transformed $L_1$ Penalty: Closed Form Representation and Iterative Thresholding Algorithms
变换后的$l_1$罚函数（TL 1）是由绝对值函数价值函数构成的单参数双线性变换族。当作用于向量时，TL 1惩罚类似于$l_p$范数（$p \in (0,1)$）来内插$l_0$和$l_1$。在我们的配套文件中，我们表明，TL 1是一个强大的稀疏促进惩罚压缩感知（CS）问题的广泛的非相干和相干传感矩阵。在这里，我们开发了一个显式的不动点表示的TL 1正则化最小化问题。TL 1阈值函数对于所有参数值都是封闭形式。相比之下，$l_p$阈值函数（$p \in [0,1]$）仅对于$p=0,1,1/2,2/3$为封闭形式，分别称为硬阈值、软阈值、半阈值和2/3阈值。TL 1阈值在亚临界（超临界）参数范围内不同，其中TL 1阈值函数是连续的（不连续的），类似于软阈值（半阈值）函数。我们提出了TL 1迭代阈值算法，并将其与硬阈值和半阈值算法在CS测试问题中进行了比较。对于非相干和相干传感矩阵，建议的TL 1迭代阈值算法与自适应亚临界和超临界阈值一致执行最好的稀疏信号恢复测量噪声和没有。
2016-10-18 cs.IT math.IT
Binary Iterative Hard Thresholding Converges with Optimal Number of Measurements for 1-Bit Compressed Sensing
本文证明二进制迭代硬阈值算法在1位压缩感知中以最优测量数收敛，为非凸问题提供了有效解法。
2026-01-08 cs.DS cs.IT eess.SP
Sequential Testing for Sparse Recovery
本文研究了高维稀疏信号恢复的序贯方法。当与固定样本大小的程序相比时，在稀疏设置中，顺序方法可以导致可靠的信号支持恢复所需的样本数量的大幅减少。从一个下限开始，我们证明了任何坐标顺序抽样程序在高维极限下都失败，只要每维的平均测量数小于log s/D（P_0||其中s是稀疏性水平，D（P_0|| P_1）基本分布之间的Kullback-Leibler散度。一系列的序贯概率比检验（SPRT），需要完整的知识的基础分布，以实现这一界限。出于现实世界的实验和最近的工作，在自适应传感，我们介绍了一个简单的程序，称为序贯采样，可以实现时，基本的测试问题满足单调似然比假设。如果每个维度的平均测量数增长速度快于log s/ D（P_0），则顺序保持可保证精确的支持恢复||P_1），达到下界。为了比较，我们证明了任何非顺序过程都失败，只要测量次数以小于log n/D（P_1）的速率增长||P_0），其中n是问题的总维数。
2014-10-04 cs.IT math.IT
Thresholding-based reconstruction of compressed correlated signals
我们考虑恢复一组相关信号的问题（例如，来自不同视点的图像）从每个信号的几个线性测量。我们假设网络中的每个传感器以线性测量的形式获取压缩信号，并将其发送到联合解码器进行重建。我们提出了一种新的联合重建算法，利用相关的潜在信号。我们的相关模型考虑了不同信号的支持之间的几何变换。建议的联合解码器估计的相关性和重建信号使用一个简单的阈值算法。我们给出了理论和实验证据表明，我们的方法在支持恢复和重建质量方面大大优于独立解码。
2012-04-02 cs.IT cs.NI math.IT
A new inexact iterative hard thresholding algorithm for compressed sensing
压缩感知（CS）表明，可以使用低于奈奎斯特速率的低速率采集过程来采集稀疏或可压缩信号，该过程将信号投影到与稀疏基不相干的一小组向量上。在本文中，我们提出了一个新的框架，压缩感知恢复问题使用迭代逼近方法通过L0最小化。而不是直接解决无约束的L0范数优化问题，我们使用线性化和邻近点技术来近似罚函数在每次迭代。该算法简单、有效，并证明了算法的收敛性.数值仿真验证了我们的结论，并表明该算法可以提高重建质量。
2014-02-24 cs.IT math.IT
Sequential Analysis in High Dimensional Multiple Testing and Sparse Recovery
本文从序贯分析的角度研究了高维多重检验和稀疏恢复问题。在这种情况下，错误的概率是问题维度的函数。提出了一种简单的序贯测试方法。我们推导出在非序贯设置的可靠恢复的必要条件，并将它们与可靠恢复的充分条件使用建议的序贯测试程序。几个常见的模型的主要结果的应用程序表明，序贯测试可以指数更敏感的零和替代分布之间的差异（在尺寸的依赖），这意味着微妙的情况下，可以更可靠地确定使用序贯方法。
2011-06-03 cs.IT math.IT math.ST
Orthogonal Matching Pursuit with Replacement
在本文中，我们考虑的问题，压缩感知的目标是恢复几乎所有的稀疏向量使用少量的固定线性测量。对于这个问题，我们提出了一种新的部分硬阈值算子，导致一个一般家庭的迭代算法。虽然该家族的一个极端产生了众所周知的硬阈值算法，如ITI（迭代求逆）和HTP（硬阈值追踪），但频谱的另一端导致了一种新的算法，我们称之为正交匹配追踪替换（OMPR）。与经典的贪心算法OMP一样，OMPR基于与当前残差的相关性，在每次迭代时向支持添加一个坐标。但是，与OMP不同，OMPR还从支持中删除一个坐标。这个简单的变化使我们能够证明OMPR在受限等距属性（测量矩阵上的条件）方面具有稀疏恢复的最佳保证。相比之下，OMP在RIP下的性能保证非常弱。鉴于其简单的结构，我们能够使用局部敏感哈希扩展OMPR，得到OMPR-Hash，这是第一个可证明的次线性（在维度上）稀疏恢复算法。我们的证明技术是新颖和灵活的，也允许最严格的已知分析流行的迭代算法，如CoSaMP和子空间追踪。我们提供的实验结果，提供恢复高达百万维的向量大小的大型问题。我们证明，对于大规模的问题，我们提出的方法比现有的方法更强大，更快。
2011-06-14 cs.IT math.IT stat.ML
Computationally Efficient Sparse Signal Recovery via Linear Sketching and Deep Unfolding
Nagoya Institute of Technology（名古屋工业大学）
本文提出DU-PSISTA算法，通过线性草图和深度展开在计算效率与准确性之间取得平衡，通过数据驱动训练优化参数，提升收敛速度和性能。
2026-04-22 cs.IT eess.SP math.IT
Lorentzian Iterative Hard Thresholding: Robust Compressed Sensing with Prior Information
压缩感知（CS）中常用的重构算法使用$L_2$范数作为残差的度量。然而，众所周知，基于最小二乘（LS）的估计器对测量向量中存在的离群值高度敏感，从而导致当噪声不再遵循高斯假设而是更好地由比高斯分布更好地表征时性能较差。本文提出了一种在脉冲噪声背景下重构稀疏信号的鲁棒迭代硬采样保持（IHT）算法。为了解决这个问题，我们使用一个洛伦兹成本函数，而不是$L_2$成本函数采用传统的IHT算法。我们还修改了算法，将先验信号信息的恢复过程。具体来说，我们研究的情况下，CS与部分已知的支持。该算法是一种快速的方法，计算量与基于LS的IHT相当，同时具有对重尾脉冲噪声鲁棒性的优点。稳定性的充分条件进行了研究，重建误差界的推导。我们还得到了稳定的稀疏信号恢复与部分已知的支持的充分条件。理论分析表明，包括先验支持信息放宽了成功重建的条件。仿真结果表明，基于Lorentzian的IHT算法在脉冲环境中的性能明显优于常用的稀疏重建技术，同时在要求较低的光尾环境中提供相当的性能。数值结果还表明，部分已知的支持包含提高了所提出的算法的性能，从而需要更少的样本产生一个近似的重建。
2013-07-17 cs.IT math.IT
A Rate-Optimal Construction of Codes with Sequential Recovery with Low Block Length
如果对于任何$s \leq t$被擦除的代码符号，存在$s$ -步骤恢复过程，其中在每个步骤中，我们通过接触至多$r$其它代码符号来精确地恢复一个被擦除的代码符号，则擦除代码被称为具有参数$r$和$t$的顺序恢复的代码。在同一作者在ISIT 2017上发表的早期工作中，我们给出了一种从$t$擦除中顺序恢复的二进制码的构造，具有局部参数$r$，对于给定的$r,t$，这在码率方面是最佳的，但是对于某些常数$c >1$，块长度很大，大约为$r^{c^t}$。在本文中，我们提出了一种替代的构造率最优码的任何值的$t$和任何$r\geq3$，其中的块长度是显着更小的顺序为$r^{\frac{5t}{4}+\frac{7}{4}}$（在某些情况下，顺序为$r^{\frac{3t}{2}+2}$）。我们的构造是基于围长为$t+1$的树型图的构造。我们递归地构造这些图和代码。
2018-01-21 cs.IT math.IT
Provable Inductive Robust PCA via Iterative Hard Thresholding
Microsoft Corporation（微软公司）；Conduent Labs India（Conduent印度实验室）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of California Irvine（加利福尼亚大学尔湾分校）；Xerox Research Centre India（施乐印度研究中心）
鲁棒PCA问题是机器学习中的一个研究得很好的问题，其中，给定的输入数据矩阵是低秩矩阵和稀疏矩阵的叠加，我们的目标是分离出低秩和稀疏分量。一个自然出现的问题是，就像在归纳设置中一样，如果特征也作为输入提供，我们还能希望做得更好吗？在肯定这一点的同时，本文的主要目标是研究鲁棒PCA问题，同时将特征信息。在以前的作品中，恢复保证是基于凸松弛的问题，我们提出了一个简单的迭代算法的基础上硬阈值适当的残差。在较弱的假设条件下，证明了迭代过程的全局收敛性，并且具有更快的收敛速度和更小的每次迭代的计算复杂性.在实践中，通过系统的合成和真实数据模拟，我们证实了我们的理论研究结果，通过使用特征信息获得的改进。
2017-07-04 cs.IT cs.LG math.IT
Fast and Provable Algorithms for Spectrally Sparse Signal Reconstruction via Low-Rank Hankel Matrix Completion
$r$阶的频谱稀疏信号是$r$阻尼或无阻尼复正弦曲线的混合。本文研究了从$n$规则时域样本的随机子集重构谱稀疏信号的问题，该问题可以转化为一个低秩Hankel矩阵完备化问题。我们介绍了一种迭代硬阈值（IHT）算法和一种快速迭代硬阈值（FIHT）算法，通过低秩Hankel矩阵完成频谱稀疏信号的有效重建。已经建立了FIHT的理论回收率保证，表明$O(r^2\log^2(n))$样品数量足以实现高概率的精确回收。经验性能比较建立显着的计算优势IHT和FIHT。特别是，在$3$ D阵列上的数值模拟证明了FIHT处理大规模和高维真实数据的能力。
2016-06-05 cs.IT math.IT
Distributed Sparse Signal Recovery For Sensor Networks
提出了一种基于迭代硬采样保持（IHT）的传感器网络稀疏信号恢复分布式算法。每个代理都有一组信号x的测量值，目标是代理以最小的通信成本和低的计算复杂性从它们的集体测量值中恢复x。IHT的简单分布式实现需要在每次迭代中对每个代理的完整状态进行全局通信。我们发现，我们可以大大降低这种通信成本，利用解决方案的分布式top-K问题的数据库文献。评估表明，我们的算法需要高达三个数量级的总带宽比最有名的分布式基追踪方法。
2013-02-21 cs.IT math.IT
Efficient iterative thresholding algorithms with functional feedbacks and convergence analysis
对一类加速的自适应迭代阈值算法进行了分析和实验研究。它们基于零空间调谐技术（NST+HT+FB）的反馈机制。这篇文章的主要贡献是加速收敛分析和证明与一个可变/自适应指数选择和不同的反馈原则，在每次迭代。这些收敛分析不再需要信号的先验稀疏信息$s$。本文的核心思想是，为了加快收敛速度，在每次迭代中应考虑所选择的指数的数目。它示出，从给定的线性测量的所有$s$稀疏信号的均匀恢复可以在合理的（预处理）限制等距条件下实现。通过选择适当的指数支撑，得到了加速收敛速度和改进的收敛条件。大量的数值实验充分证明和证实了理论研究结果。它也被观察到，所提出的算法有一个明显有利的平衡效率，自适应性和准确性相比，所有其他国家的最先进的贪婪迭代算法。
2020-05-14 cs.IT math.IT
ECME Thresholding Methods for Sparse Signal Reconstruction
我们提出了一个概率框架解释和发展硬阈值稀疏信号重建方法，并提出了几个新的算法基于这个框架。测量遵循欠定线性模型，其中回归系数向量是未知确定性稀疏信号分量和具有未知方差的零均值白高斯分量的和。我们首先推导出一个期望条件最大化（ECME）迭代，保证收敛到一个局部最大值的未知参数的似然函数为一个给定的信号稀疏水平。为了分析重建精度，我们引入了最小稀疏子空间商（SSQ），这是一种比公认的限制等距属性（RIP）更灵活的采样算子度量。我们证明，如果最小SSQ是足够大的，ECME实现完美的或接近最佳的恢复稀疏或近似稀疏的信号，分别。我们还提出了一个双超松弛（DORE）阈值方案，用于加速ECME迭代。如果信号的稀疏性水平是未知的，我们引入了一个无约束稀疏性选择（USS）标准，其选择和显示，在一定条件下，应用此标准是相当于找到稀疏的解决方案的基本欠定线性系统。最后，我们提出了我们的自动双超松弛（ADORE）阈值的方法，利用USS标准来选择信号的稀疏水平。我们应用所提出的计划重建稀疏和近似稀疏的信号从层析投影和压缩样本。
2010-11-05 cs.IT math.IT
Iterative Hard Thresholding for Compressed Sensing
压缩感知是一种对低于奈奎斯特速率的可压缩信号进行采样的技术，同时仍然允许对信号进行接近最佳的重构。在本文中，我们提出了一个理论分析的迭代硬阈值算法时，适用于压缩感知恢复问题。我们表明，该算法具有以下性质（在本文的正文中更精确）-它提供了接近最优的误差保证。- 它对观测噪声具有鲁棒性。- 它以最小数量的观测值成功。- 它可以与任何采样算子一起使用，可以计算该算子及其伴随算子。- 内存需求与问题大小成线性关系。- 其每次迭代的计算复杂性与测量算子或其伴随算子的应用具有相同的数量级。- 它需要固定的迭代次数，仅取决于信号的信噪比的对数形式。- 它的性能保证是一致的，因为它们只依赖于采样算子和信号稀疏性的属性。
2008-05-05 cs.IT cs.NA math.IT
A Tight Rate Bound and Matching Construction for Locally Recoverable Codes with Sequential Recovery From Any Number of Multiple Erasures
在本文中，局部可恢复码（LRC）是指一种线性码，其中给定的码符号可以通过取至多$r$个其它码符号与$r << k$的线性组合来恢复。一种自然的扩展是局部恢复一组$t$擦除符号。已经提出了几种用于处理多个擦除的方法。这里考虑的方法是顺序恢复的方法之一，这意味着$t$擦除的符号被连续地恢复，每次最多接触$r$其它符号以帮助恢复。在每个被擦除的符号通过最多接触$r$其它代码符号可恢复的约束下，这种方法是最通用的，因此提供了最大可能的码率。我们的特点的最大可能率的LRC与顺序恢复任何$r \geq 3$和$t$。我们这样做，首先推导出一个上限的码率，然后继续构建一个{ \em二进制}代码，达到这个最佳的速率。这里得出的上限证明了一个猜想有关的结构（但不是确切的形式）的速率界限。我们的方法还允许我们推导出一个速率最优的LRC与顺序恢复的奇偶校验矩阵的结构。奇偶校验矩阵又导致代码的图形描述。具有达到这里导出的上界的速率的二进制码的构造利用该描述。有趣的是，事实证明，速率和块长度都是最优的二进制码的子类对应于称为摩尔图的图，摩尔图是对于给定围长具有最小顶点数的正则图。文中还与Tornado码进行了联系。
2018-12-06 cs.IT math.IT
Sparsity Promoting Reconstruction of Delta Modulated Voice Samples by Sequential Adaptive Thresholds
在本文中，我们提出了家庭的迭代法与自适应采样保持（IMAT）稀疏促进重建的增量调制（DM）的语音信号。我们提出了一种新的缺失采样方法，增量调制，有利于稀疏促进重建的原始信号从一个子集的DM样本具有较少的量化噪声。利用我们提出的缺失采样方法的增量调制，我们提供了一个分析讨论的DM编码技术的IMAT的收敛性。本文还对基本的IMAT算法进行了改进，提出了自适应保持迭代法迭代法（IMATDM）算法，以提高DM编码信号的重构性能。实验结果表明，在重建信噪比方面，该方法优于传统的基于低通滤波的DM重建技术。据观察，从传统的低通重建技术迁移到稀疏促进重建技术的IMATDM，重建性能提高了平均7.6分贝。这是由于所提出的IMATDM同时利用稀疏信号假设和通过平滑的量化噪声抑制效果。所提出的IMATDM算法也优于其他一些稀疏促进重建方法。
2020-02-08 cs.IT math.IT
A Tight Rate Bound and a Matching Construction for Locally Recoverable Codes with Sequential Recovery From Any Number of Multiple Erasures
如果$\mathcal{C}$的每个$n$代码符号可以通过访问至多$r$其它代码符号来恢复，则在存在单个擦除并且具有局部参数$r$的情况下，$[n,k]$代码$\mathcal{C}$被称为是局部可恢复的。如果对于任何一组$s \leq t$擦除，存在$s$步骤顺序恢复过程，其中在每一步，通过访问至多$r$其它代码符号来恢复单个擦除符号，则$[n,k]$代码被称为具有从$t$擦除的顺序恢复的本地可恢复代码。这等同于对于任何一组$s \leq t$擦除，双码包含一个码字，该码字的支持包含恰好一个$s$擦除符号的坐标。本文对任意的擦除次数$t$和任意的局部性参数$r \geq 3$，导出了这种码的速率的一个严格上界。这一界限证明了宋、蔡和袁的一个早期猜想。尽管该界限是有效的，而与在其上定义代码的字段无关，但是也提供了速率最优的{ \em binary}代码的匹配构造，同样对于任何$t$值和任何$r\geq3$值。
2017-02-17 cs.IT math.IT
On the Role of Normalization in Binary Iterative Hard Thresholding for 1-bit Compressed Sensing
UC San Diego（加州大学圣迭戈分校）
研究1比特压缩感知中二进制迭代硬阈值处理（BIHT）算法，证明无噪声时原始BIHT算法有通用样本最优收敛定理，符号损坏时未归一化的BIHT能达鲁棒误差下限但不稳定，刻画了每次迭代归一化在算法上的必要性。
2026-10-30 cs.DS cs.IT math.IT
New Construction of Locally q-ary Sequential Recoverable Codes: Parity-check Matrix Approach
本文提出一种基于校验矩阵的q元序列局部可恢复码（SLRCs）新构造，通过建立并行与序列恢复的新联系，实现了具有信息$(r, t_i, δ)$-序列局部性的线性码，可对最多$t$个擦除进行序列恢复。
2025-03-03 cs.IT math.IT
Smoothing and Decomposition for Analysis Sparse Recovery
我们考虑算法和恢复保证的分析稀疏模型中，信号是稀疏的相对于一个高度相干的帧。我们考虑使用单调版本的快速迭代收缩阈值算法（MFISTA）来解决分析稀疏恢复问题。由于MFISTA中的近端算子没有分析模型的闭合解，因此不能直接应用。相反，我们研究了两种替代方案的基础上平滑和分解变换，放松原来的稀疏恢复问题，然后实施MFISTA的放松制定。我们将这两种方法称为基于平滑和基于分解的MFISTA。我们分析了这两种算法的收敛性，并建立了平滑的MFISTA收敛更快时，适用于一般的非光滑最优化问题。然后，我们推导出使用这些技术的重建误差的性能界限。该界证明了当测量矩阵满足适当适应的约束等距性时，我们的方法可以在冗余紧框架中恢复信号稀疏。数值例子证明了我们的方法的性能，并表明，平滑为基础的MFISTA收敛速度比基于分解的替代在实际应用中，如MRI图像重建。
2014-01-14 cs.IT math.IT math.OC
Nonparametric Simultaneous Sparse Recovery: an Application to Source Localization
我们考虑多通道稀疏恢复问题，其目标是找到良好的恢复联合稀疏未知信号向量从给定的多个测量向量是相同的已知基本向量的不同线性组合。许多流行的贪婪或凸算法在非高斯重尾噪声条件下或面对离群值时表现不佳。在本文中，我们提出了使用混合$\ell_{p,q}$规范的数据保真度（残留矩阵）的条款和传统的$\ell_{0,2}$规范约束的信号矩阵，以促进行稀疏。提出了一种基于同步归一化迭代硬阈值（SNIHT）算法的贪婪追踪算法。仿真研究突出了所提出的方法的有效性，以应付不同的噪声环境（i.i.d.，行I.I.D等）和异常值。在传感器阵列声源定位的应用中说明了该方法的有效性。
2015-06-10 cs.IT math.IT
Sequential adaptive elastic net approach for single-snapshot source localization
Aalto University（阿尔托大学）
本文提出了一种基于压缩波束形成（CBF）的单次快拍信号源波达方向（DoA）精确恢复算法。在CBF中，传统的传感器阵列信号模型被转换为欠定复值线性回归模型，稀疏信号恢复方法用于解决DOA发现问题。我们开发了一个复值路径加权弹性网（c-PW-WEN）算法，该算法在EN调谐参数值的路径（或网格）上的惩罚参数值的节点处找到解决方案。在c-PW-WEN算法的基础上，我们提出了一种基于c-PW-WEN算法的自适应加权EN（SAEN）算法。大量的仿真研究表明，SAEN提高了真正的支持的精确恢复的概率相比，传统的稀疏信号恢复方法，如拉索，弹性网或正交匹配追求在几个具有挑战性的多目标场景。SAEN的有效性是更明显的存在高度相互一致性。
2018-05-19 cs.IT cs.LG math.CV
Physics-Aware Sparse Signal Recovery Through PDE-Governed Measurement Systems
本文提出PA-ISTA框架，将PDE物理模型融入稀疏信号恢复，利用自动微分和深度展开优化参数，在光纤信道中显著优于传统方法。
2025-10-08 cs.IT math.IT
