Compressive Signal Processing with Circulant Sensing Matrices
压缩感知在稀疏性约束下，通过感知矩阵获取少量的随机测量值，实现信号的有效降维。在信号处理系统中，出现了直接处理随机投影而不首先重构信号的问题。在本文中，我们表明，循环传感矩阵允许执行各种经典的信号处理任务，如滤波，插值，配准，变换，等等，直接在压缩域中，并在一个确切的方式，\emph{i.e.}，而不依赖于现有文献中提出的估计。本文提出的技术的优点是，使直接测量到测量的转换，而不需要昂贵的恢复程序。
2014-03-12 cs.IT math.IT
Quantized Iterative Hard Thresholding: Bridging 1-bit and High-Resolution Quantized Compressed Sensing
在这项工作中，我们表明，从量化的压缩测量重建稀疏信号可以在统一的形式主义中实现，无论（标量）量化分辨率如何，即，从1位到高分辨率的假设。这是通过推广迭代硬阈值（IHT）算法和它的二进制变量（BIHT）在以前的作品中引入的，以执行重建的信号相对于量化模型的一致性。该算法的性能，简称为量化IHT（QIHT），与其他方法（例如，IHT，基追踪去噪）。
2013-05-08 cs.IT math.IT
Robust 1-bit Compressive Sensing with Partial Gaussian Circulant Matrices and Generative Priors
National University of Singapore（新加坡国立大学）；Tencent（腾讯）
在1比特压缩感知中，每个测量被量化为单个比特，即未知向量的线性函数的符号，目标是准确地恢复向量。虽然最流行的是假设标准高斯感测矩阵用于1比特压缩感测，但是使用结构化感测矩阵（诸如部分高斯循环矩阵）由于其更快的矩阵运算而具有显著的实际重要性。在本文中，我们提供了一个基于相关性的鲁棒1位压缩感知的优化算法与随机签署的部分高斯循环矩阵和生成模型的恢复保证。在适当的假设下，我们匹配了以前只知道对i.i.d.~高斯矩阵，需要更多的计算。我们利用一个实用的迭代算法，并进行了数值实验上的图像数据集，以证实我们的理论结果。
2021-08-08 cs.IT cs.LG math.IT
Hamming Compressed Sensing
压缩感知（CS）和1比特CS不能直接恢复量化信号，并且需要耗时的恢复。在本文中，我们介绍了\textit{Hamming compressed sensing}（HCS），直接恢复一个k比特量化的信号的尺寸$n$从其1比特的测量，通过调用$n$倍的Kullback-Leibler散度为基础的最近邻搜索。与CS和1位CS相比，HCS允许信号是密集的，需要相当少的（线性）恢复时间，并且需要显著更少的测量（$\mathcal O(\log n)$）。此外，HCS恢复可以加速随后的1比特CS解量化器。研究了HCS在一般信号下的量化恢复误差界和稀疏信号下的“HCS+反量化器”恢复误差界。大量的数值模拟验证了吸引人的精度，鲁棒性，效率和一致性的HCS。
2011-10-10 cs.IT math.IT
Symmetric Toeplitz-Structured Compressed Sensing Matrices
如何构造一个合适的测量矩阵是压缩感知中的一个悬而未决的问题。最近的工作的一个重要部分是，测量矩阵的条目不是完全随机的，但表现出相当大的结构。本文证明了对称Toeplitz矩阵及其变换可以以很高的概率作为测量矩阵和恢复信号。与随机矩阵（如Gaussian矩阵和Bernullio矩阵）和一些结构矩阵（如Toeplitz矩阵和循环矩阵）相比，我们需要产生更少的独立元素来获得测量矩阵，而恢复的有效性不会变差。此外，该算法可以更有效地恢复信号。
2013-08-09 cs.IT math.IT
New Algorithms and Improved Guarantees for One-Bit Compressed Sensing on Manifolds
我们研究的问题近似恢复信号的流形上从一位线性测量得出的高斯系综，部分循环系综，或有界正交系综和量化使用西格玛-德尔塔或分布式噪声整形方案。我们假设我们给出了一个几何多分辨率分析，它近似的流形，我们提出了一个凸优化算法的信号恢复。我们证明了一个上限的恢复误差优于以前的作品，使用无记忆标量量化，需要一个更简单的分析，并扩展类的测量超出高斯。最后，我们用数值实验来说明我们的结果。
2019-04-24 cs.IT math.IT
Variational Bayesian algorithm for quantized compressed sensing
压缩感知（Compressed Sensing，CS）是在稀疏先验下从高维信号的低维线性测量中恢复高维信号的算法，在实际应用中，测量数据的数字量化是不可避免的。在现有的文献中，量化误差通常被建模为加性噪声，并且使用不同的处理方法和程序分别处理多比特和1比特量化CS问题。本文提出了一种新的基于变分贝叶斯推理的压缩感知算法，它统一了多比特和1比特压缩感知处理，适用于无噪/有噪环境和量化器不饱和/饱和的各种情况。通过将量化误差与测量噪声解耦，量化误差被建模为随机变量并且与被恢复的信号联合估计。这种新的量化误差的表征结果在优越的性能的算法，这是证明了广泛的模拟与国家的最先进的方法相比，多位和1位CS问题。
2013-03-29 cs.IT math.IT
Compressed and quantized correlation estimators
在使用传感器网络的被动监测中，低能量供应极大地限制了传感器的计算和通信能力。在这种情况下，考虑到这些约束条件的传感器级设计处理算法是一个重要的问题。在这里，我们研究的传感器之间的相关函数的估计，使用压缩采集和一位量化。该估计直接使用压缩样本来实现，而不考虑信号的任何重构。我们表明，如果感兴趣的信号是远离白噪声，使用$M$压缩样本的相关性估计出的$N\geq M$可以更有利的相关性估计使用$M$连续样本。分析包括研究在一个固定的压缩率的估计的渐近性能。我们提供的分析时，压缩是由一个随机的投影矩阵组成的独立和同分布的条目。该框架包括广泛使用的随机投影矩阵，如高斯和伯努利矩阵，它还包括非常稀疏的矩阵。但是，它不包括不替换的二次抽样，对此提供了单独的分析。当也考虑一比特量化时，理论分析不容易处理。然而，经验证据允许的结论是，在实际情况下，压缩和量化的估计量的行为足够正确，是有用的，例如，时间延迟估计和模型估计。
2015-11-20 cs.IT math.IT stat.AP
Fast binary embeddings, and quantized compressed sensing with structured matrices
本文研究了压缩感知中的距离保持二值嵌入和量化两个相关问题。首先，我们提出了快速的方法来取代点的子集$\mathcal{X} \subset \mathbb{R}^n$，与欧几里德度量，与点的立方体$\{\pm 1\}^m$，我们将立方体与一个伪度量，近似欧几里德之间的距离在$\mathcal{X}$。我们的方法依赖于量化快速约翰逊-林登施特劳斯嵌入的基础上有界正交系统和部分循环系综，这两个承认快速变换。我们的量化方法利用噪声整形，包括Σ-Δ方案和分布式噪声整形方案。在$m$中，所产生的近似误差以多项式和指数形式快速衰减，具体取决于嵌入方法。这大大优于当前与二进制嵌入和汉明距离相关的衰减率。此外，这是第一个这样的二进制嵌入的结果，适用于快速约翰逊-林登施特劳斯映射，同时保持$\ell_2$规范。其次，我们再次考虑噪声整形方案，尽管这一次是为了消除由有界正交系综和部分循环矩阵产生的压缩感知测量。我们表明，这些方法产生的重建误差，再次衰减的测量（和位）的数量，当使用凸优化重建。具体来说，对于Sigma-Delta方案，误差随测量次数呈多项式衰减，而对于基于Beta编码的分布式噪声整形方案，误差呈指数衰减。这些结果是近最优的，第一次处理有界正交系统。
2018-07-18 cs.IT eess.SP math.IT
On one-stage recovery for $ΣΔ$-quantized compressed sensing
压缩感知（CS）是一种信号采集范式，同时获取和降低信号的稀疏表示的维数。当根据CS的原理获取这样的信号时，测量仍然采用连续统中的值。在当今的“数字”世界中，随后的量化步骤至关重要，其中这些测量值被有限集合中的元素取代。我们专注于产生有效的量化器CS的方法之一：$ΣΔ$量化，其次是一个阶段的易处理的重建方法，这是由Saab等人开发的。在亚高斯矩阵的情况下，理论误差保证。我们提出了两种替代方法，扩展这一结果更广泛的一类测量矩阵，包括（某些酉变换）部分有界正交系统和确定性结构的基础上啁啾传感矩阵。
2019-11-18 cs.IT math.IT math.ST
Sigma-Delta quantization of sub-Gaussian frame expansions and its application to compressed sensing
研究通过Sigma-Delta方案对子高斯框架展开进行量化，实现信号在高采样率下高效恢复，扩展了确定性框架和高斯压缩感知的结果。
2013-06-19 cs.IT cs.NA math.IT
Bayesian De-quantization and Data Compression for Low-Energy Physiological Signal Telemonitoring
我们解决的问题，应用量化压缩感知（CS）的低能耗远程监护。到目前为止，很少有工作研究这个问题的应用中，信号只是近似稀疏。我们提出了一个两阶段的数据压缩器的基础上量化CS，其中信号压缩压缩感知，然后压缩测量量化与每个测量只有2位。这种压缩器可以大大减少传输比特预算。为了从欠定的量化测量中恢复信号，我们开发了贝叶斯去量化算法。该方法可以利用量化误差模型和生理信号的相关结构来提高恢复质量。建议的数据压缩器和恢复算法进行了验证，在快速运行的12个主题的数据集上记录。实验结果表明，采用压缩比为50%的压缩感知和2位量化器相结合的方法，平均估计误差为2.596次/分钟（BPM）。结果表明，我们可以有效地传输n比特，而不是n个样本，这是一个实质性的改进，为低能耗的无线远程监护。
2015-06-06 cs.IT math.IT
Recovery guarantees for multifrequency chirp waveforms in compressed radar sensing
雷达成像系统发射调制的宽带波形以实现高距离分辨率，从而在接收机处产生与发射波形的带宽成比例的高采样率。模拟处理技术可以用于接收，以将测量的数量减少到N，即潜在延迟仓的数量。如果由雷达询问的场景被假设为稀疏的K点目标组成，从压缩感知的结果表明，测量的数量可以进一步减少到与K logN的规模，用于从具有加性噪声的测量中稳定地恢复稀疏场景。虽然非结构化的随机投影仪保证稀疏约束下的成功恢复，他们不能在雷达硬件中实现的实践。最近，结构化的随机Toeplitz和循环矩阵，从使用随机波形的时间延迟估计设置已被证明产生恢复保证类似于非结构化的传感矩阵。然而，相应的发射机和接收机结构具有高复杂度和大存储要求。在本文中，我们提出了一种替代的低复杂度压缩宽带雷达传感器，它结合了多频调信号啁啾波形的发射与接收器，利用模拟混频器其次是一个统一的子奈奎斯特采样阶段。我们得到的结构化测量矩阵和音调的数量的充分条件的恢复保证。我们设计的唯一随机组件是稀疏音调频谱，可有效地在硬件中实现。我们的分析和实验结果表明，我们的计划的性能与非结构化的随机传感矩阵和结构化的Toeplitz和循环矩阵的随机元素。
2015-10-07 cs.IT math.IT
Consistent Basis Pursuit for Signal and Matrix Estimates in Quantized Compressed Sensing
研究了低复杂度信号在$M$均匀量化压缩观测下的估计问题。在这些信号中，我们考虑1-D稀疏向量，低秩矩阵，或可压缩信号，以及这两个模型之一近似。在这种情况下，我们证明了估计效率的一个变种的基础上追求去噪，称为一致的基础上追求（CoBP），执行的意见和重新观察估计之间的一致性，同时促进其低复杂性的性质。我们表明，CoBP的重建误差衰减像$M^{-1/4}$当所有参数，但$M$是固定的。我们的证明是连接到最近的边界上的向量或矩阵的接近度时，（i）这些属于一组小的内在的“尺寸”，作为测量的高斯平均宽度，（ii）他们共享相同的量化（抖动）随机投影。通过用近似算法求解CoBP，我们提供了一些广泛的数值观测，证实了随着$M$的增加，误差衰减比预测的更快。在1位CS的特殊但重要的情况下也观察到相同的现象。
2015-10-09 cs.IT math.IT
Convolutional Compressed Sensing Using Deterministic Sequences
本文提出了一种新的循环矩阵，从确定性序列构建基于卷积的压缩感知（CS）。与随机卷积相反，底层滤波器的系数由具有良好自相关性的确定性序列的离散傅立叶变换给出。基于所提出的感知矩阵的相干参数，研究了稀疏信号的均匀恢复和非均匀恢复。序列的许多例子进行了研究，特别是Frank-Zadoff-Chu（FZC）序列，\textit{m}序列和Golay序列。所提出的传感矩阵的一个显着特点是，它们不仅可以处理在时域中的稀疏信号，但也可以在频率和/或离散余弦变换（DCT）域。
2012-10-28 cs.IT cs.MM math.IT
Stabilizing Nonuniformly Quantized Compressed Sensing with Scalar Companders
本文研究了从压缩感知测量数据中重构稀疏或可压缩信号的问题。基于高斯模型（有界l2范数）的量化失真的量化压缩感知（QCS）问题的先前方法产生的结果，虽然通常是可接受的，但可能不是完全一致的：重建信号的重新测量和量化不一定匹配的初始观察。量化失真反而更接近于异方差均匀噪声，方差取决于观察到的量化仓。推广我们以前的工作均匀量化，我们表明，非均匀量化器所描述的“压扩器”的形式主义，量化失真可能会更好地表征为有界加权Lp-范数（p >= 2），对于一个特定的权重。我们开发了一种新的重建方法，称为广义基追踪去噪（GBPDN），它最大限度地减少了这个加权Lp范数保真度约束下的重建信号的稀疏性。我们证明，对于B位每次测量和下过采样QCS的情况下（当测量的数量是大的信号稀疏相比），如果传感矩阵满足一个建议的广义限制等距属性，然后，GBPDN提供了稀疏信号的重建误差减少像O（2^{-B}/ \sqrt{p+1}）：减少了一个因子\sqrt{p+1}相对于使用l2-范数产生的。除了QCS的情况下，我们还表明，GBPDN直接适用于异方差广义高斯噪声与可证明的重建误差减少损坏的CS测量的相关情况。最后，我们描述了一个有效的数值计算过程，通过原始-对偶凸优化方案计算GBPDN，并通过模拟证明其有效性。
2013-05-16 cs.IT math.IT
Quantized Compressed Sensing with Score-based Generative Models
The University of Tokyo（东京大学）；Institute for Physics of Intelligence（智能物理研究所）
我们考虑的一般问题，从嘈杂的量化测量恢复高维信号。量化，特别是粗量化，如1位符号测量，导致严重的信息丢失，因此，未知信号的良好的先验知识有助于准确的恢复。基于分数的生成模型（SGM，也称为扩散模型）在捕获自然信号的丰富结构方面的能力，超越了简单的稀疏性，我们提出了一种无监督的数据驱动方法，称为带SGM的量化压缩感知（QCS-SGM），其中先验分布由预先训练的SGM建模。为了进行后验抽样，退火的伪似然得分称为噪声扰动伪似然得分，并结合SGM的先验得分。所提出的QCS-SGM适用于任意数量的量化比特。在多种基线数据集上的实验表明，所提出的QCS-SGM显着优于现有的国家的最先进的算法，由一个大的利润率为分布和分布外的样本。此外，作为一种后验抽样方法，QCS-SGM可以很容易地用于获得重建结果的置信区间或不确定性估计。该代码可在https://github.com/mengxiangming/QCS-SGM上获得。
2023-02-20 cs.IT cs.LG eess.SP
FedVQCS: Federated Learning via Vector Quantized Compressed Sensing
本文提出一种基于矢量量化压缩感知的通信高效联邦学习框架，通过降维与矢量量化压缩本地更新并重构全局模型，在无线链路约束下最小化重构误差，显著提升了低通信开销下的分类准确率。
2023-07-01 cs.DC cs.IT eess.SP
Quantized Compressed Sensing by Rectified Linear Units
本文研究了从少量的量化测量中恢复属于低复杂度凸集的高维信号$\mathbf{x} \in \mathbb{R}^n$的问题。我们建议通过一个凸规划的基础上整流线性单元（ReLU）的两种不同的量化方案，即一位和均匀多位量化的信号估计。假设线性测量过程可以通过具有i.i.d.亚高斯行，我们获得两个方案的近最佳的均匀重建保证，通过添加精心设计的噪声的线性测量之前的量化步骤。在一位的情况下，我们表明，该计划是强大的对抗位腐败以及线性测量的加性噪声。此外，我们的分析精确地量化了程序的率失真关系如何变化，这取决于我们是否寻求高于或低于本底噪声的重建精度。证明依赖于最近的结果Dirksen和Mendelson的非高斯超平面镶嵌。最后，我们补充我们的理论分析与数值实验比较，我们的方法与其他国家的最先进的方法。
2021-03-26 cs.IT math.IT math.PR
Quantized Spectral Compressed Sensing: Cramer-Rao Bounds and Recovery Algorithms
宽带频谱的有效估计对于认知无线电等应用具有重要意义。最近，已经提出了基于压缩感知的亚奈奎斯特采样方案，以大大降低采样率。然而，量化的重要问题尚未得到充分解决，特别是对于高分辨率的频谱和参数估计。在本文中，我们的目标是恢复频谱稀疏信号和相应的参数，如频率和幅度，从沉重的量化的噪声复值随机线性测量，例如只有象限信息。我们首先描述了高斯噪声下的Cramer-Rao界，它突出了在固定比特预算的情况下，不同信噪比下样本复杂度和比特深度之间的权衡。接下来，我们提出了一种新的算法的基础上原子范数软阈值信号恢复，这是相当于适当设计的替代信号的原子范数，激励频谱稀疏的近端映射。该算法既适用于单测量矢量的情况，也适用于多测量矢量的情况。结果表明，在高斯测量模型下，当量化测量数超过K log n阶时，谱信号可以以高概率精确重构，其中K为谱稀疏度，$n$为信号维数.最后，数值模拟提供了验证所提出的方法。
2018-04-06 cs.IT eess.SP math.IT
Optimal Quantized Compressed Sensing via Projected Gradient Descent
Columbia University（哥伦比亚大学）
本文研究从一般量化测量中恢复星形集合中结构化信号的问题，提出投影梯度下降（PGD）算法，并证明其在多种模型下达到信息论最优误差率。
2026-07-01 cs.IT math.IT
An RIP-based approach to $ΣΔ$ quantization for compressed sensing
在本文中，我们提供了一种新的方法来估计误差的重建$ΣΔ$量化压缩感知测量。我们的方法是基于测量矩阵的某个投影的限制等距属性（RIP）。我们的结果产生简单的证明和最知名的高斯和亚高斯测量矩阵的重建误差界的轻微推广。
2014-05-01 cs.IT math.IT
QCM-SGM+: Improved Quantized Compressed Sensing With Score-Based Generative Models
Zhejiang University（浙江大学）；The University of Tokyo（东京大学）
针对量化压缩感知中QCS-SGM算法仅适用于行正交感知矩阵的局限，提出QCS-SGM+变体，通过贝叶斯推断和期望传播计算似然分数，有效处理一般感知矩阵并显著提升恢复性能。
2024-01-08 cs.IT cs.LG eess.SP
One-Bit Quantization Design and Adaptive Methods for Compressed Sensing
已经有许多关于从一位量化测量恢复稀疏信号的研究。然而，很少有人注意到量化阈值的选择及其对信号恢复性能的影响。本文探讨了一位量化器的稀疏信号恢复设计的问题。我们的分析表明，以往困扰传统的一位压缩感知方法的幅度模糊性可以得到解决，并且可以通过设置量化阈值足够接近原始数据样本而无需量化来实现任意小的重建误差。注意，未量化的数据样本实际上是不可访问的。为了克服这个困难，我们提出了一种自适应量化方法，自适应地调整量化阈值的方式，使阈值收敛到最佳阈值。数值实验结果表明了本文的理论结果和算法的有效性.
2013-05-18 cs.IT math.IT
Analysis-by-Synthesis Quantization for Compressed Sensing Measurements
我们考虑一个资源有限的情况下，使用压缩感知（CS）的传感器收集了少量的测量，以观察稀疏信号，测量随后以低比特率进行量化，然后进行传输或存储。针对这种情况，我们设计了新的信源编码算法，其目标是实现稀疏信号的良好重构性能。我们的方法是基于在编码器上的合成分析原理，包括两个主要步骤：（1）合成步骤使用稀疏信号重建技术来测量CS测量的量化对最终稀疏信号重建质量的直接影响，以及（2）分析步骤决定适当的量化值以最大化最终稀疏信号重建质量。通过仿真，我们比较了所提出的量化算法与现有的量化方案的性能。
2014-04-30 cs.IT math.IT
Channel-Optimized Vector Quantizer Design for Compressed Sensing Measurements
我们考虑矢量量化（VQ）传输的压缩感知（CS）测量噪声信道。采用均方误差（MSE）准则来度量稀疏向量与其重构向量之间的失真，推导出CS测量向量编码和稀疏源向量重构的信道优化量化原则。由此产生的必要的最佳条件是用来开发一种算法，通过考虑端到端的失真措施，用于训练信道优化的矢量量化（COVQ）的CS测量。
2014-04-30 cs.IT math.IT
Analysis-by-Synthesis-based Quantization of Compressed Sensing Measurements
我们考虑一个资源受限的情况下，压缩感知（CS）为基础的传感器具有低数量的测量，以低速率量化，然后传输或存储。应用这种情况下，我们开发了一种新的量化器的设计，其目的是获得高质量的重建性能的稀疏源信号的基础上分析合成框架。通过仿真，我们比较了所提出的量化算法与现有的量化方法的性能。
2014-04-30 cs.IT math.IT
HISTORY: An Efficient and Robust Algorithm for Noisy 1-bit Compressed Sensing
我们考虑从1位测量的稀疏信号恢复的问题。由于采集和传输过程中存在的噪声，一些量化的比特可能会翻转到它们的相反状态。这些符号翻转可能导致严重的性能下降。在这项研究中，提出了一种新的算法，称为历史。它包括汉明支撑检测和系数恢复。HISTORY算法具有较高的恢复精度，并且对强测量噪声具有鲁棒性。数值结果证明了该算法的有效性和优越性。
2016-08-12 cs.IT math.IT
Structured random measurements in signal processing
压缩感知及其扩展最近引发了人们对随机信号采集的兴趣。一个关键的发现是，随机测量提供稀疏信号重建保证高效和稳定的算法与最小数量的样本。虽然这是第一次显示（非结构化）高斯随机测量矩阵，应用程序需要一定的结构的测量，导致结构化的随机测量矩阵。在过去几年中，在各种情况下，已经为这种结构化测量制定了接近最佳的恢复保证。本文综述了三种情况下的理论：压缩感知（稀疏恢复），低秩矩阵恢复和无相位估计。要考虑的随机测量矩阵包括随机部分傅立叶矩阵、部分随机循环矩阵（二次采样卷积）、矩阵完备化和根据傅立叶型测量的幅度的相位估计。文章最后简要讨论了这种结构化的随机测量分析的数学技术。
2014-07-06 cs.IT math.IT
Granger Causality for Compressively Sensed Sparse Signals
压缩感知是一种允许使用比通过采用奈奎斯特采样定理的常规手段所完成的测量少得多的测量来获取、传输和存储稀疏信号的方案。由于许多自然发生的信号是稀疏的（在某些域中），因此压缩感知在许多应用物理和工程应用中迅速流行，特别是在设计信号和图像采集策略中，例如，磁共振成像、量子态层析成像、扫描隧道显微镜、模数转换技术。与此同时，因果推理已成为分析和理解过程及其相互作用的重要工具，在许多科学学科中，特别是那些处理复杂系统的学科。需要对压缩感测数据进行直接因果分析，以避免重构压缩数据的任务。此外，对于一些稀疏信号，诸如对于稀疏时间数据，可能难以使用可用的数据驱动/无模型因果关系估计技术来直接发现因果关系。在这项工作中，我们提供了一个数学证明，结构化的压缩感知矩阵，特别是循环和Toeplitz，保持因果关系的压缩信号域，格兰杰因果关系。然后，我们验证了这个定理的一些二元和多元耦合稀疏信号模拟压缩使用这些矩阵。我们还展示了一个现实世界中的应用网络因果连接估计稀疏神经尖峰训练记录从大鼠前额叶皮层。
2022-09-23 cs.IT eess.SP math.IT
Dequantizing Compressed Sensing: When Oversampling and Non-Gaussian Constraints Combine
在本文中，我们研究的问题，恢复稀疏或可压缩的信号从均匀量化的测量。我们提出了一类新的凸优化程序，或解码器，创造了基追踪去量化器的时刻$p$（BPDQ $_p$），模型的量化失真更忠实于常用的基追踪去噪（BPDN）程序。我们的解码器通过最小化要重建的信号的稀疏性来进行，所述信号受到在$2\leq p\leq \infty$的残差的$\ell_p$范数中表示的数据保真度约束。我们从理论上表明，（i）这些新的解码器的重建误差是有界的，如果感测矩阵满足扩展的限制等距属性涉及的$\ell_p$规范，和（ii），高斯随机矩阵和均匀量化的测量，BPDQ $_p$性能超过BPDN的重建误差除以由于量化由$\sqrt{p+1}$。当测量的数量超过随着$p$增长的值时，即在与BPDN = BPDQ $_2$通常所需的情况相比过采样的情况下，最后一种效果以高概率发生。为了证明BPDQ $_p$的理论力量，我们报告信号和图像重建问题的数值模拟。
2010-06-22 cs.IT math.IT math.OC
Quantizing Heavy-tailed Data in Statistical Estimation: (Near) Minimax Rates, Covariate Quantization, and Uniform Recovery
本文提出截断与抖动预处理结合均匀量化的方案，证明在协方差估计、压缩感知和矩阵补全中可实现近极小极大误差速率，并针对协变量量化下的非凸恢复及重尾噪声建立近最优一致恢复保证。
2023-07-26 cs.IT math.IT math.ST
Gaussian Approximation of Quantization Error for Estimation from Compressed Data
我们考虑了高维信号$X$使用随机球码的有损压缩表示与加性高斯白噪声（AWGN）下$X$的观测之间的分布连接。我们发现，在一个AWGN信道的信号噪声比$2^{2R}-1$的$X$和它的观察的比特率- $R$压缩版本之间的Wasserstein距离是次线性的问题的维度。我们利用这一事实来连接基于$X$的AWGN损坏版本的估计器的风险，以获得相同的估计器时，其比特率- $R$量化的版本。我们证明了这种连接的有用性，推导出各种新的结果压缩约束下的推理问题，包括极大极小估计，稀疏回归，压缩感知，和线性估计在远程信源编码的普遍性。
2021-12-12 cs.IT math.IT stat.ML
Restricted Isometry Property in Quantized Network Coding of Sparse Messages
本文从压缩感知的角度研究了节点间相关信息的联合网络编码和分布式信源编码。具体而言，鲁棒的$\ell_1$ -min恢复的一组线性网络编码的稀疏消息的理论保证进行了研究。我们讨论了量化网络编码消息的$\ell_1$ -min解码的保证，使用\cite{naba}中建议的本地网络编码系数，基于所得到的测量矩阵的受限等距属性（RIP）。此外，我们还导出了$\ell_2$ -范数的尾概率与RIP的满足度之间的关系，并将我们设计的测量矩阵与i.i.d.高斯测量矩阵最后，我们提出了我们的数值评估，这表明，所提出的网络编码系数的设计结果与RIP行为的测量矩阵，类似于i.i.d.高斯矩阵
2012-03-14 cs.IT math.IT
Uniform Recovery Bounds for Structured Random Matrices in Corrupted Compressed Sensing
我们研究的问题，恢复$s$稀疏信号$\mathbf{x}^{\star}\in\mathbb{C}^n$从损坏的测量$\mathbf{y} = \mathbf{A}\mathbf{x}^{\star}+\mathbf{z}^{\star}+\mathbf{w}$，其中$\mathbf{z}^{\star}\in\mathbb{C}^m$是一个$k$稀疏腐败向量，其非零项可以是任意大的和$\mathbf{w}\in\mathbb{C}^m$是一个密集的噪声有界能量。其目标是通过易于处理的优化程序来精确稳定地恢复稀疏信号。在本文中，我们证明了该问题的一致恢复保证两类结构传感矩阵。第一类可以表示为单位范数紧框架（UTF）、随机对角矩阵和有界列正交矩阵（例如，部分随机循环矩阵）。当UTF是有界的（即$μ(\mathbf{U})\sim1/\sqrt{m}$），我们证明，以高概率，可以恢复$s$ -稀疏信号精确和稳定的$l_1$最小化程序，即使测量被损坏的稀疏向量，提供$m = \mathcal{O}(s \log^2 s \log^2 n)$和腐败的稀疏水平$k$是一个恒定的分数的测量总数。第二类考虑随机子采样正交矩阵（例如，随机傅立叶矩阵）。我们证明了统一的恢复保证腐败是稀疏的某些稀疏域。大量的仿真结果也被提出来验证和补充的理论结果。
2018-02-07 cs.IT math.IT
Deterministic Construction of Binary Measurement Matrices with Various Sizes
我们介绍了一个一般的框架，确定性地构建二进制测量矩阵的压缩感知。所提出的矩阵由（循环）置换子矩阵块和零子矩阵块组成，从而使它们的硬件实现变得方便和容易。首先，利用二元等重码的著名的Johnson界，得到了具有均匀列权的二元矩阵相干性的一个新的下界。然后，给出了一类具有相干性的二元基矩阵渐近达到这个新的界。最后，通过选择合适的行和列，我们构造了不同大小的测量矩阵，它们的性能与相应的高斯矩阵相当
2014-09-25 cs.IT math.IT
Binary Iterative Hard Thresholding Converges with Optimal Number of Measurements for 1-Bit Compressed Sensing
University of California San Diego（加州大学圣地亚哥分校）
本文证明二进制迭代硬阈值算法在1位压缩感知中以最优测量数收敛，为非凸问题提供了有效解法。
2026-01-08 cs.DS cs.IT eess.SP
Support Recovery in Universal One-bit Compressed Sensing
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
一位压缩感知（1bCS）是一种极值量化信号捕获方法，在过去的十年中已经间歇性地研究。在1bCS中，高维信号的线性样本被量化为每个样本仅一位（测量的符号）。极端量化使其成为更一般的单指标或广义线性模型的一个有趣的案例研究。同时，它也可以被认为是学习二进制线性分类器或半空间学习的“设计”版本。假设原始信号向量是稀疏的，1bCS中的现有结果旨在找到向量的支持，或者近似$ε$球内的信号。本文的重点是支持恢复，这往往也有利于计算近似信号恢复。用于1bCS的\emph{universal}测量矩阵是指对\emph{for all}稀疏信号起作用的一组测量。在通用性方面，已知$\tildeΘ(k^2)$ 1bCS测量对于支持恢复是必要且充分的（其中$k$表示稀疏性）。在这项工作中，我们表明，它是可以普遍恢复的支持与少量的假阳性与$\tilde{O}(k^{3/2})$测量。如果信号矢量的动态范围是已知的，则利用不同的技术，可以将该结果改进为仅$\tilde{O}(k)$测量。本文还提供了其他结果的普遍，但近似的支持恢复。我们所有的主要恢复算法都是简单的多项式时间。
2021-09-13 cs.DM cs.IT cs.LG
Theoretical links between universal and Bayesian compressed sensing algorithms
量化最大后验概率（Q-MAP）是最近提出的贝叶斯压缩感知算法，给定源分布，从其线性测量$Y^m=AX^n$恢复$X^n$，其中$A\in R^{m\times n}$表示已知的测量矩阵。另一方面，拉格朗日最小熵追踪（L-MEP）是一种通用的压缩感知算法，其目的是从其线性测量值$Y^m=AX^n$中恢复$X^n$，而无需访问源分布。Q-MAP和L-MEP都可证明达到所需的最小采样率，在无噪声的情况下，这样的基本限制是已知的。L-MEP基于最小化成本函数，该成本函数由潜在重建向量的条件经验熵及其相应测量误差的线性组合组成。本文利用条件经验熵函数的一阶线性近似，将L-MEP与Q-MAP联系起来。L-MEP和Q-MAP之间建立的联系导致Q-MAP的变体，其在所需的采样率方面具有与Q-MAP相同的渐近性能。此外，这些变体表明Q-MAP在估计源分布时对小误差是鲁棒的。理论上证明了这种鲁棒性，并描述了非零估计误差对所需采样率的影响。
2018-01-03 cs.IT math.IT
Unified Theory for Recovery of Sparse Signals in a General Transform Domain
压缩感知为稀疏信号提供了数据采集范例。值得注意的是，已经表明，实用算法提供了从以接近最佳采样率获得的噪声线性测量的鲁棒恢复。在许多实际应用中，感兴趣的信号通常不是在正则基中而是在某个变换域（例如小波或有限差分）中是稀疏的。压缩感知的理论被扩展到分析稀疏模型，但已知的扩展仅限于传感矩阵和稀疏化变换的特定选择。本文利用凸规划方法给出了一般变换域上稀疏信号鲁棒恢复的统一理论。特别是，我们的研究结果适用于一般的收购和稀疏模型，并显示如何恢复的测量数量取决于测量和稀疏化变换的属性。此外，我们还提供了我们的结果的情况下，在变换中的原子具有不同的不相干参数和未知的信号表现出结构化的稀疏模式的扩展。特别是，部分傅立叶恢复稀疏信号的循环变换，我们的主要结果表明，均匀随机采样。数值结果表明，变密度随机抽样我们的主要结果提供了优越的恢复性能比已知的采样策略。
2017-08-02 cs.IT math.IT
Error Decay of (almost) Consistent Signal Estimations from Quantized Gaussian Random Projections
本文提供了新的误差界的“一致”的重建方法从量化随机投影观察到的信号。这些信号估计技术保证了可用的量化数据与相同感测模型下的估计信号的新观测之间的完美匹配。针对分辨率$δ>0$的抖动均匀标量量化问题，首先证明了在给定具有$M$矢量的$\mathbb R^N$的高斯随机标架下，对于单位球$\mathbb B^N \subset \mathbb R^N$的所有信号，一致信号重构的最坏情况$\ell_2$误差以高概率均匀衰减为$O(\frac{N}{M}\log\frac{M}{\sqrt N})$.直至对数因子，这与$Ω(N/M)$中的已知下限和$O(N/M)$中的先前经验验证相匹配。等价地，如果$M$超过像$O(\frac{N}{ε_0}\log \frac{\sqrt N}{ε_0})$那样增长的帧系数的最小数目，则具有$M$相同量化投影的$\mathbb B^N$中的任何向量以高概率至多隔开$ε_0$。其次，在具有$M$高斯随机测量的量化压缩感知的上下文中并且在相同标量量化方案下，$\mathbb R^N$的$K$稀疏信号的一致重建具有最坏情况误差，该最坏情况误差对于所有这样的信号以高概率均匀地减小为$O(\tfrac{K}{M}\log\tfrac{MN}{\sqrt K^3})$。最后，我们证明了其量化的随机投影仅近似一致的向量的邻近仍然可以以高概率有界。因此，在量化过程中允许…
2016-04-20 cs.IT math.IT
Improved Support Recovery in Universal One-bit Compressed Sensing
University of California San Diego（加州大学圣迭戈分校）；Google Research, India（谷歌印度研究院）
一比特压缩感知（1bCS）是一种非常量化的信号采集方法，在过去的十年中被提出并得到了严格的研究。在1bCS中，高维信号的线性样本被量化为每个样本仅一位（测量的符号）。假设原始信号向量是稀疏的，现有的结果在1bCS要么旨在找到支持的向量，或近似的信号允许一个小的误差。本文的重点是支持恢复，这往往也有利于计算近似信号恢复。1bCS的{ \em universal}测量矩阵是指对所有稀疏信号都有效的一组测量。在通用性方面，已知$\tildeΘ(k^2)$ 1bCS测量对于支持恢复是必要的且足够的（其中$k$表示稀疏性）。为了提高从二次到线性稀疏的依赖，在这项工作中，我们提出了近似支持恢复（允许$ε>0$比例的错误），和超集恢复（允许$ε$比例的误报）。我们表明，第一种类型的恢复是可能的$\tilde{O}(k/ε)$测量，而后一种类型的恢复，更具挑战性，是可能的$\tilde{O}(\max\{k/ε,k^{3/2}\})$测量。我们还表明，在这两种情况下，$Ω(k/ε)$测量将是必要的普遍恢复。改进的结果是可能的，如果我们考虑在有限的一类信号，如有理信号，或有界动态范围的信号的通用恢复。在这两种情况下，超集恢复都可以仅通过$\tilde{O}(k/ε)$测量来实现。本文还提供了其他结果的普遍，但近似的支持恢复。我们所有的主要恢复算法都是简单的多项式时间。
2022-10-29 cs.DM cs.IT cs.LG
Non-Gaussian Hyperplane Tessellations and Robust One-Bit Compressed Sensing
我们表明，由少量的随机仿射超平面生成的镶嵌可以用来近似任意有界集$T$中任意两点之间的欧氏距离，其中随机超平面由亚高斯或重尾法向量和均匀分布的移位生成。我们推导出定量界的超平面的数量需要构建这样的镶嵌在自然度量复杂性措施的$T$和所需的近似误差。我们的工作在这个方向上显着扩展以前的结果，这是有限的高斯超平面镶嵌的子集的欧几里德单位球。作为应用，我们在非高斯测量矩阵的无记忆一位压缩感知中获得了新的重构结果。我们表明，通过在均匀分布的阈值量化，它是可以准确地重建低复杂度的信号，从少量的一位量化测量，即使测量矢量是从一个重尾分布。我们的重建结果是统一的性质和鲁棒性的存在下的预量化噪声的模拟测量，以及对抗性的比特损坏的量化过程中。此外，我们表明，如果测量矩阵是亚高斯，那么准确的恢复可以通过一个凸规划实现。
2018-08-13 cs.IT math.IT math.PR
Sub-linear Time Support Recovery for Compressed Sensing using Sparse-Graph Codes
我们研究压缩感知的支持恢复问题，其目标是从有噪声和无噪声的低维线性测量中重建高维$K$ -稀疏信号$\mathbf{x}\in\mathbb{R}^N$。我们的主要贡献是一个新的压缩感知框架，通过一个新的家庭精心设计的稀疏测量矩阵与最小的测量成本和低复杂度的恢复算法。在我们的框架中的测量矩阵的设计基于精心制作的稀疏化通过容量接近稀疏图码，其中稀疏系数可以有效地恢复在几个迭代通过执行简单的错误解码的意见。我们正式连接这个一般的恢复问题与稀疏图解码在分组通信系统中，并分析我们的框架的测量成本，时间复杂度和恢复性能。在无噪声环境下，我们的框架可以在$O(K)$时间内使用$2K$测量以高概率渐近地恢复任意$K$稀疏信号.在噪声环境中，当稀疏系数在有限和量化的字母表中取值时，我们的框架可以使用从具有元素$\{-1,0,1\}$的测量矩阵获得的$O(K\log(N/K))$测量在时间上实现相同的目标$O(K\log(N/K))$。当稀疏$K$是次线性的信号维度$K=O(N^δ)$的一些$0<δ<1$，我们的结果是顺序最优的测量成本和运行时间，这两者都是次线性的信号维度$N$。次线性测量成本和运行时间也可以通过连续值稀疏系数来实现，其中对数因子略有增加。这为我们的框架提供了所需的可扩展性，可以为具有稀疏性的海量数据集提供实时或近实时处理。
2018-02-26 cs.IT math.IT
Quantization for Low-Rank Matrix Recovery
我们研究Σ-Δ量化方法加上适当的重建算法，用于数字化随机采样的低秩矩阵。我们表明，与我们的方法相关的重建误差随过采样因子多项式衰减，我们利用我们的结果通过优化量化方案的选择来获得根指数精度。此外，我们表明，一个随机编码方案，适用于量化测量，产生一个接近最佳的指数比特率。作为一个额外的好处，我们的计划是强大的噪音和低秩假设的偏差。简而言之，我们提供了一个完整的推广类似的结果，在经典的设置中获得的带限函数采集，最近，在有限的框架和压缩感知设置的情况下，低秩矩阵采样与次高斯线性算子。最后，我们相信我们的技术，从压缩感知设置的结果推广到类似的低秩矩阵设置是适用于其他量化方案。
2018-04-17 cs.IT math.IT
Optimizing quantization for Lasso recovery
这封信的重点是量化压缩感知，假设Lasso用于信号估计。利用最近的工作，我们提供了一个框架来优化的量化函数，并表明，恢复的信号收敛到实际的信号在一个二次速率的量化水平的函数。我们发现，当观察的数量是高的，这种方法的量化给出了一个显着更好的恢复率比标准的最大的量化。我们支持我们的理论分析与数值模拟。
2016-06-09 cs.IT math.IT
Distributed Quantization for Sparse Time Sequences
在数字硬件中处理的模拟信号被量化为离散位约束表示。量化通常使用以串行标量方式操作的模数转换器（ADC）来执行。在某些应用中，一组模拟信号被单独采集并联合处理。这种设置被称为分布式量化。在这项工作中，我们提出了一个分布式量化方案，用于表示一组稀疏的时间序列，使用传统的标量ADC。我们的方法利用安全组测试理论的工具来利用所获取的模拟信号的稀疏性，在以分布式方式操作的同时获得紧凑和准确的表示。然后，我们展示了如何可以实现我们的技术时，量化的信号通过多跳通信网络传输，提供一个低复杂度的网络策略的路由和信号恢复。我们的数值评估表明，该方案显着优于传统的方法的基础上结合量化和压缩感知工具。
2019-10-21 cs.IT math.IT
Sigma-Delta and Distributed Noise-Shaping Quantization Methods for Random Fourier Features
University of California San Diego（加州大学圣地亚哥分校）
我们建议使用低位深Σ-Δ和分布式噪声整形方法来量化与移位不变内核相关的随机傅立叶特征（RFFs）。我们证明，我们的量化RFFs -即使在$1$位量化的情况下-允许一个高精度的近似的底层内核，和近似误差衰减至少多项式快的RFFs的尺寸增加。我们还表明，量化的RFFs可以进一步压缩，产生一个很好的权衡内存使用和精度之间。也就是说，近似误差现在作为所使用的比特的函数呈指数衰减。此外，我们经验表明，通过测试我们的方法在几个机器学习任务上的性能，我们的方法相比，在这种情况下，其他国家的最先进的量化方法。
2022-04-13 cs.IT cs.LG math.IT
Federated Learning With Quantized Global Model Updates
Princeton University（普林斯顿大学）；Imperial College London（伦敦帝国理工学院）
我们研究联邦学习（FL），它使移动设备能够利用其本地数据集协同训练一个全球模型的帮助下，中央服务器，同时保持数据本地化。在每次迭代时，服务器将当前全局模型广播到设备以进行本地训练，并聚合来自设备的本地模型更新以更新全局模型。FL的通信效率的以前的工作主要集中在从设备的模型更新的聚合，假设完美的广播的全球模型。在本文中，我们考虑广播全局模型的压缩版本。这是为了进一步降低FL的通信成本，当要通过无线介质发送全局模型时，FL的通信成本可能特别受限。我们介绍了一种有损FL（LFL）算法，其中全局模型和局部模型更新在传输之前都被量化。我们分析了建议的LFL算法的收敛行为，假设在服务器上的准确的本地模型更新的可用性。数值实验表明，所提出的LFL方案，量化的全局模型更新（相对于在设备的全局模型估计），而不是全局模型本身，显着优于其他现有的方案研究量化的全局模型在PS到设备的方向。此外，与完全无损的方法相比，所提出的方案的性能损失是微不足道的，其中PS和设备完全在没有任何量化的情况下发送它们的消息。
2020-10-07 cs.DC cs.IT cs.LG
HEMP: High-order Entropy Minimization for neural network comPression
University of Torino（都灵大学）；Télécom Paris（巴黎电信学院）
我们将量化的人工神经网络的熵表示为可微函数，该可微函数可以作为正则化项插入到通过梯度下降最小化的成本函数中。我们的公式有效地扩展到一阶以上，是不可知的量化方案。然后可以训练网络以最小化量化参数的熵，使得它们可以通过熵编码进行最佳压缩。我们在多个数据集上量化和压缩众所周知的网络架构时使用熵公式进行实验。我们的方法与类似的方法相比，享有更高阶熵估计的好处，显示出对非均匀量化的灵活性（我们使用最大熵量化），对任何熵阶的可伸缩性要最小化和压缩方面的效率。我们表明，HEMP是能够协同工作，旨在修剪或量化模型本身的其他方法，提供显着的好处，在存储大小的压缩性，而不会损害模型的性能。
2021-07-12 cs.AI cs.IT cs.LG
Support Recovery in One-bit Compressed Sensing with Near-Optimal Measurements and Sublinear Time
Halıcıoğlu Data Science Institute, University of California, San Diego（加州大学圣地亚哥分校哈利奥格鲁数据科学研究所）
本文提出了一种一比特压缩感知方案，实现亚线性解码复杂度的同时保持近最优测量性能，解决了支持恢复问题中的精确与近似恢复挑战。
2026-08-28 cs.DM cs.DS cs.IT
Robust 1-bit Compressed Sensing with Iterative Hard Thresholding
University of California San Diego（加州大学圣地亚哥分校）
本文研究1比特压缩感知中的噪声鲁棒性，证明BIHT算法在对抗性符号翻转下，以相同测量数实现$\tilde{O}(\epsilon+\tau)$误差，保持通用性，确立了迭代硬阈值的稳定性。
2023-10-12 cs.DS cs.IT cs.LG
A Unitary Transform Based Generalized Approximate Message Passing
Zhejiang University（浙江大学）；Ocean College, Zhejiang University（浙江大学海洋学院）；The University of Tokyo（东京大学）；Institute for Physics of Intelligence, The University of Tokyo（东京大学智能物理研究所）；University of Wollongong（伍伦贡大学）
我们考虑从通过广义线性模型（GLM）获得的一般非线性测量恢复未知信号${\mathbf x}\in {\mathbb R}^n$的问题，即，${\mathbf y}= f\left({\mathbf A}{\mathbf x}+{\mathbf w}\right)$，其中$f(\cdot)$是分量非线性函数。针对一般测量矩阵$\bf{A}$，特别是高相关矩阵，基于酉变换近似消息传递（UAMP）和期望传播，提出了一种基于酉变换的广义近似消息传递（GUAMP）算法.量化压缩感知的实验结果表明，在相关矩阵$\bf{A}$下，该算法的性能明显优于GAMP和GVAMP.
2022-10-17 cs.IT cs.LG math.IT
A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing
University of Hong Kong（香港大学）；National University of Singapore（新加坡国立大学）；Hong Kong Baptist University（香港浸会大学）；UESTC（电子科技大学）
针对非线性生成压缩感知现有恢复结果多为非均匀的问题，提出统一框架推导均匀恢复保证，引入Lipschitz近似处理不连续观测，提出更紧的集中不等式，实验验证了理论有效性。
2023-10-09 cs.IT cs.LG eess.SP
