Is "Compressed Sensing" compressive? Can it beat the Nyquist Sampling Approach?
数值计算了“压缩感知(采样)”在信号离散化中的数据压缩能力,发现其远未达到信号稀疏性定义的理论上界。它示出的情况下,当普通的采样与随后的数据压缩是禁止的,至少有一个更有效的,在数据压缩能力方面,更简单和直观的替代压缩感知:随机稀疏采样和恢复的图像带限近似的能量压缩能力的基础上的变换。它还表明,断言“压缩感知”可以击败奈奎斯特采样方法是植根于误解的采样理论。
2015-02-09 cs.IT math.IT physics.optics
Local Decoding in Distributed Compression
最近表明,无损压缩的一个单一的源$X^n$是可实现的强局部性的概念,任何$X_i$可以从一个恒定数量的压缩位解码,在$n$的错误概率为零。相比之下,我们表明,对于两个单独编码的源$(X^n,Y^n)$,无损压缩和强局部性一般是不可能的。具体而言,我们表明,对于类的“混淆”的来源,强本地性不能实现时,其中一个源被压缩到其熵以下。与$n$无关,对于某个索引$i$,解码$(X_i,Y_i)$的错误概率由$2^{-O(d)}$下界,其中$d$表示由本地解码器访问的压缩比特的数量。相反,如果源是不可混淆的,即使其中一个源被压缩到低于其熵,强局域性也是可能的。结果扩展到任意数量的源。
2022-09-27 cs.IT math.IT
Efficient Integer Retrieving from Unordered Compressed Sequences
变长反向多重定界符(RMD)码是用来表示无界和无序整数序列的码。当应用于数据压缩时,它们结合了良好的压缩比和快速解码。本文研究了RMD码的另一个性质--直接存取码字的能力。我们提出的方法,使我们能够提取和解码的码字从RMD-比特流在几乎恒定的时间与微小的空间开销,并进行实验,其应用于自然语言文本压缩。
2023-02-12 cs.IT math.IT
Distributed Compressed Sensing for Sensor Networks with Packet Erasures
我们研究了两种分布式压缩感知的方法,在网络中的数据压缩和信号重建在无线传感器网络中的传感器被放置在一条直线上的汇。由于大量的设备,到信宿的通信被认为是带宽受限的。通过使用分布式压缩感知来压缩网络中的数据,可以以压缩所需的本地通信引起的延迟为代价来降低到信宿的通信成本(带宽使用)。我们调查成本和延迟之间的关系给出了一定的重建性能要求时,使用基追踪去噪重建。此外,我们分析和比较的性能下降,由于删除数据包发送到汇的两种方法。
2015-03-31 cs.IT math.IT
Zuckerli: A New Compressed Representation for Graphs
Zuckerli是一个可扩展的压缩系统,适用于大型真实世界的图形。众所周知,图是一种具有挑战性的结构,由于它们的链接性质,很难将它们分成更小,更紧凑的组件。因此,在处理可能具有数十亿个节点和边的大型图时,有效的压缩至关重要。此外,一个好的压缩系统应该给用户快速和合理灵活的访问压缩数据的部分,而不需要完全解压缩,这可能是不可行的,在他们的系统。Zuckerli通过使用先进的压缩技术和新颖的启发式图算法,改进了WebGraph的多个方面,WebGraph是当前压缩真实世界图的最先进技术。它可以产生一个压缩表示存储和一个允许快速直接存取的压缩图的邻接表,而不解压整个图。我们验证了Zuckerli在具有多达10亿个节点和900亿条边的真实世界图形上的有效性,对压缩密度和解压缩性能进行了广泛的实验评估。我们发现,Zuckerli压缩的图小10%至29%,在大多数情况下,超过20%,用于解压缩的资源使用量与WebGraph相当。
2020-09-02 cs.DS cs.IT math.IT
Bayesian De-quantization and Data Compression for Low-Energy Physiological Signal Telemonitoring
我们解决的问题,应用量化压缩感知(CS)的低能耗远程监护。到目前为止,很少有工作研究这个问题的应用中,信号只是近似稀疏。我们提出了一个两阶段的数据压缩器的基础上量化CS,其中信号压缩压缩感知,然后压缩测量量化与每个测量只有2位。这种压缩器可以大大减少传输比特预算。为了从欠定的量化测量中恢复信号,我们开发了贝叶斯去量化算法。该方法可以利用量化误差模型和生理信号的相关结构来提高恢复质量。建议的数据压缩器和恢复算法进行了验证,在快速运行的12个主题的数据集上记录。实验结果表明,采用压缩比为50%的压缩感知和2位量化器相结合的方法,平均估计误差为2.596次/分钟(BPM)。结果表明,我们可以有效地传输n比特,而不是n个样本,这是一个实质性的改进,为低能耗的无线远程监护。
2015-06-06 cs.IT math.IT
Compression for Quadratic Similarity Queries
考虑了压缩数据的相似性查询问题。我们专注于二次相似性度量,并研究压缩率,序列长度和压缩数据上执行的查询的可靠性之间的基本权衡。对于高斯源,我们表明,查询可以可靠地回答,当且仅当压缩率超过一个给定的阈值-识别率-我们明确的特征。此外,当以大于识别速率的速率执行压缩时,可以使对压缩数据的查询的响应指数地可靠。我们给出了一个完整的表征这个指数,这是类似的信道和信源编码中的错误和过度失真指数,分别。对于一个一般的源,我们证明,与经典的压缩,高斯源需要最大的压缩率源与给定的方差。此外,一个强大的计划,达到任何源分布的最大速率。
2013-07-24 cs.IT math.IT
Two algorithms for compressed sensing of sparse tensors
压缩感知(CS)利用信号的稀疏性,以集成采集和压缩。CS理论能够通过合适的非线性最小化过程从相对较少的线性测量精确重建稀疏信号。传统的CS理论依赖于矢量数据表示,这以增加的计算复杂性为代价产生良好的压缩比。在涉及彩色图像、视频序列和多传感器网络的应用中,数据本质上是高阶的,因此更适合用张量形式表示。CS对高阶数据的标准应用通常涉及将数据表示为长向量,这些长向量又使用大的采样矩阵来测量,因此施加了巨大的计算和存储负担。在本章中,我们介绍广义张量压缩感知(GTCS)-高阶张量的压缩感知的统一框架,它保留了张量数据的内在结构,降低了重建时的计算复杂性。我们证明,GTCS提供了一个有效的手段,通过提供同时采集和压缩所有张量模式的多维数据表示。此外,我们提出了两个重建程序,一个串行的方法(GTCS-S)和一个并行的方法(GTCS-P),都能够恢复张量的基础上无噪声和噪声的意见。然后,我们比较了所提出的方法与克罗内克压缩感知(KCS)和多路压缩感知(MWCS)的性能。我们的实验表明,GTCS优于KCS和MWCS的重建精度(在一定范围内的压缩比)和处理速度。我们的方法(以及MWCS)的主要缺点是,实现的压缩比可能比KCS提供的压缩比更差。
2014-09-03 cs.IT math.IT
Snapshot compressed sensing: performance bounds and algorithms
快照压缩感测(CS)是指其中多个帧被映射到单个测量帧中的压缩成像系统。所获取的帧中的每个像素是组合在一起的帧中的对应像素的噪声线性映射。虽然这个问题可以被转换为CS问题,但由于传感矩阵的非常特殊的结构,标准CS理论不能用来研究这样的系统。在本文中,一个基于压缩的框架是用于快照CS系统的理论分析。结果表明,这个框架导致两个新的,计算效率和理论分析的压缩为基础的恢复算法。所提出的方法是迭代的,并采用压缩码来定义和施加所需信号的结构。理论上的收敛保证,这两种算法。在模拟中,它示出,在无噪声和噪声测量的情况下,结合所提出的算法与定制的视频压缩代码,旨在利用视频帧的非局部结构,显着提高了最先进的性能。
2019-04-29 cs.IT math.IT
Text Compression and Superfast Searching
本文提出了一种新的文本压缩方案。同样的,它可以有效地提供高压缩比,并在压缩文本中实现超快速搜索。典型的压缩比为70-80%,搜索时间减少80-85%是本文的特点。到目前为止,已经看到压缩文本中的高比率和可搜索性之间的权衡。在本文中,我们表明,更大的压缩,更快的搜索。这在数据作为自然语言文本存在的许多地方都是适用的。
2005-05-23 cs.IR cs.IT math.IT
Malleable Coding: Compressed Palimpsests
可延展编码方案不仅考虑压缩效率,还考虑修改的容易性,从而鼓励在形成新的压缩版本时以某种形式回收旧的压缩版本。延展性成本是同步压缩版本的困难,并且当表示信息和修改表示都是昂贵的时,延展性代码特别感兴趣。我们研究压缩效率和延展性成本之间的权衡下的延展性度量相对于字符串编辑距离定义。这个问题将度量拓扑引入到压缩域。我们将可达速率和延展性刻画为子图同构问题的解。这可以用来论证,允许编辑后的消息的条件熵在给定原始消息的情况下随着块长度线性增长,会导致代码长度呈指数增长。
2008-06-28 cs.IT math.IT
Optimal Compression for Minimizing Classification Error Probability: an Information-Theoretic Approach
我们制定的约束下,压缩数据可以用于机器学习中的准确分类进行最佳数据压缩的问题。我们表明,这转化为一个问题,最小化数据和压缩版本之间的互信息的约束下的分类错误概率是小的,当使用压缩数据进行机器学习。然后,我们提供了分析和计算方法来表征数据压缩和分类错误概率之间的最佳权衡。首先,我们提供了一个分析表征的最佳压缩策略的数据与二进制标签。其次,对于具有多个标签的数据,我们制定了一组凸优化问题来表征最佳权衡,通过数值求解制定的优化问题,可以获得分类错误和压缩效率之间的最佳权衡。我们进一步展示了我们的配方在分类性能的信息瓶颈方法的改进。
2022-11-03 cs.IT eess.SP math.IT
Optimal Rate Adaption in Federated Learning with Compressed Communications
College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);School of Computing, Faculty of Science and Engineering, Macquarie University(麦考瑞大学科学与工程学院计算机学院);Peng Cheng Laboratory(鹏城实验室);School of Computing Science, Simon Fraser University(西蒙弗雷泽大学计算科学学院)
联邦学习(FL)会产生很高的通信开销,这可以通过模型更新压缩来大大缓解。然而,在网络环境中的压缩和模型精度之间的权衡仍然不清楚,为了简单起见,大多数实现仅采用固定的压缩率。在本文中,我们第一次系统地研究这种权衡,确定压缩误差对最终模型精度的影响相对于学习率。具体来说,我们的因素的压缩误差的每个全球迭代到收敛速度分析下的强凸和非凸损失函数。然后,我们提出了一个自适应框架,以最大限度地提高最终模型的准确性,通过战略性地调整压缩率在每次迭代。我们已经讨论了我们的框架在实际网络中具有代表性的压缩算法的关键实现问题。在流行的MNIST和CIFAR-10数据集上的实验证实,我们的解决方案有效地减少了网络流量,同时保持了FL中的高模型精度。
2021-12-13 cs.IT cs.LG math.IT
Anomaly Detection based on Compressed Data: an Information Theoretic Characterization
本文利用信息论量刻画有损压缩对传感器异常检测的影响,并在 Gaussian 与渐近设定下推导结论,结合玩具案例评估不同压缩/检测器配置。
2022-04-30 cs.IT eess.SP math.IT
Over-the-Air Federated Learning with Compressed Sensing: Is Sparsification Necessary?
Linköping University(林雪平大学)
该研究针对空中联邦学习场景,对比了结合压缩感知的线性压缩是否需要前置稀疏化的多种通信设计,发现压缩前稀疏化并非必要,且仅稀疏化的方案性能优于两者结合的常用设置。
2023-10-05 cs.IT cs.LG eess.SP
Reference Sequence Construction for Relative Compression of Genomes
相对压缩,其中一组相似的字符串相对于参考字符串被压缩,是压缩包含多个相似序列的DNA数据集的非常有效的方法。相对压缩执行速度快,还支持对底层数据的快速随机访问。相对压缩的主要困难在于选择适当的参考序列。在本文中,我们探索使用的字典的重复产生的同志,重新配对和DNA-x算法作为参考序列的相对压缩。我们表明,这种技术可以更好地压缩,并支持随机访问。该技术还允许使用相对压缩来压缩更一般的重复数据集。
2011-06-20 cs.CE cs.IT math.IT
PolarAir: A Compressed Sensing Scheme for Over-the-Air Federated Learning
Texas A&M University(德州农工大学)
我们探索了一种方案,该方案能够在加性高斯白噪声信道上以联邦学习配置训练深度神经网络。我们的目标是创建一个低复杂度,线性压缩策略,称为PolarAir,减少在用户端的梯度的大小,以降低传输它所需的信道使用的数量。建议的方法属于家庭的压缩传感技术,但它构造的传感矩阵和使用多址技术的恢复过程。仿真表明,与在不压缩的情况下传送梯度相比,它可以将信道使用的数量减少约30%。与文献中的其他方案相比,所提出的方案的主要优点是其低时间复杂度。我们还研究了梯度更新的行为和PolarAir在整个训练过程中的性能,以了解如何最好地构建基于压缩感知的压缩方案。
2023-01-24 cs.IT cs.LG eess.SP
Nonlocal linear compression of two-photon time interval distribution
我们提出了一种光子对时间间隔分布的线性压缩技术。利用具有适当平均时间宽度的部分频率纠缠双光子(TP)态,可以使压缩后的TP时间间隔宽度保持在相位调制所设定的最小限度内,且与其初始宽度无关。由于这种效应,超窄的TP时间间隔分布可以用相对慢的相位调制器来压缩,以减少由相位调制过程引起的相位不稳定性的损害。
2013-10-09 cs.IT math.IT quant-ph
Sub-Nyquist Radar Systems: Temporal, Spectral and Spatial Compression
常规雷达向感兴趣的目标发射电磁波。在输出脉冲之间,雷达测量从目标反射的信号,以确定它们的存在,范围,速度和其他特征。雷达系统面临着多重挑战,产生了许多权衡,如带宽与距离分辨率和停留时间与多普勒分辨率。在MIMO雷达中,高分辨率需要大口径和大量天线,增加了硬件和处理要求。最近,在采样理论和雷达信号处理中提出了新的方法,以允许从低于奈奎斯特速率获得的样本中进行目标检测和参数恢复。这些技术利用目标场景的稀疏性,以减少所需的样本、脉冲和天线的数量,一方面打破带宽、驻留时间和天线数量与距离、多普勒和方位分辨率之间的联系。本文介绍了这种所谓的亚奈奎斯特雷达范例,并描述了相应的采样和恢复算法,利用压缩感知技术来执行时间和空间压缩。我们专注于非雷达成像应用和调查许多最近的压缩雷达系统。我们的目标是审查的主要影响压缩雷达参数分辨率以及数字和模拟的复杂性。调查包括快速和慢速时间压缩方案以及空间压缩方法。我们表明,除了大幅降低速率,压缩也可以使通信和雷达频谱共享。在整个文件中,我们认为压缩雷达的理论和实践方面,目前的硬件原型实现,演示实时目标参数恢复从低速率的脉冲多普勒和MIMO雷达的样本。
2018-07-30 cs.IT eess.SP math.IT
Compressed Sensing of EEG for Wireless Telemonitoring with Low Energy Consumption and Inexpensive Hardware
通过无线体域网实现远程脑电监护是个性化医疗的发展方向。在设计这种系统的各种约束中,三个重要的约束是能耗、数据压缩和设备成本。传统的数据压缩方法虽然在数据压缩方面是有效的,但是消耗大量的能量并且不能降低设备成本。压缩感知(CS),作为一种新兴的数据压缩方法,是有前途的,在迎合这些限制。然而,EEG在时域中是非稀疏的,并且在变换域(诸如小波域)中也是非稀疏的。因此,现有的CS算法很难恢复出质量满足临床诊断和工程应用要求的脑电信号。最近,块稀疏贝叶斯学习(BSBL)被提出作为一种新的方法,CS问题。本研究将该技术应用于远程脑电监测。实验结果表明,该算法的恢复质量优于现有的CS算法,满足实际应用的需要。这些结果表明,BSBL是非常有前途的EEG和其他非稀疏生理信号的远程监护。
2014-11-02 cs.IT math.IT stat.AP
Discrete Wigner Function Reconstruction and Compressed Sensing
提出了一种新的基于压缩感知的量子层析Wigner函数重构方法。通过与计算机断层成像类比,利用这种基于压缩感测的方法,可以用较少的测量来重建某些量子态的Wigner函数。
2011-09-03 cond-mat.other cs.IT math.IT