FactorizeNet: Progressive Depth Factorization for Efficient Network Architecture Exploration Under Quantization Constraints
University of Waterloo(滑铁卢大学)
深度因子分解和量化已经成为设计高效深度卷积神经网络(CNN)架构的两个主要策略,该架构专为边缘上的低功耗推理而定制。然而,对于不同的深度因子分解选择如何影响CNN中每层的最终训练分布,特别是在量化权重和激活的情况下,仍然缺乏详细的了解。在这项研究中,我们引入了一个渐进的深度分解策略,在量化约束下有效的CNN架构探索。通过以渐进的方式在算法上增加深度因子分解的粒度,所提出的策略能够对逐层分布进行细粒度的低级分析。因此,在固定精度量化下,能够获得对效率-准确性权衡的深入、层级见解。这种渐进式深度因子分解策略还使得能够基于期望的效率-准确性要求来有效地识别最佳深度因子分解的宏架构设计(我们在这里将其称为FactorizeNet)。
2020-11-30 cs.CV cs.LG
Implicit Feature Decoupling with Depthwise Quantization
University of Southern California(南加州大学)
量化已经应用于深度神经网络(DNN)中的多个域。我们提出了依赖量化(DQ),其中$\textit{quantization}$被应用于沿着弱统计依赖的$\textit{feature axis}$的分解的子张量。特征分解导致$\textit{representation capacity}$的指数增加,而存储器和参数成本线性增加。此外,DQ可以直接应用于现有的编码器-解码器框架,而无需修改DNN架构。我们在分层自动编码器的上下文中使用DQ,并在图像特征表示上进行端到端的训练。我们提供了一个空间和通道功能之间的互相关分析,我们提出了一个分解的图像特征表示沿通道轴。dependency操作符的性能提高是由于隐式特征解耦增加了表示能力。我们在似然估计任务上评估了DQ,它在CIFAR-10,ImageNet-32和ImageNet-64上的表现优于以前的最先进技术。我们逐步训练增加图像大小的一个单一的层次模型,使用69%的参数,并具有更快的收敛速度比以前的作品。
2022-03-29 cs.AI cs.CV
Approximate DCT and Quantization Techniques for Energy-Constrained Image Sensors
针对能量受限图像传感器的JPEG压缩能耗问题,提出结合近似除法、循环穿孔与精度缩放的近似计算优化方案,搭配梯度下降启发式调参,在极小画质损失下实现显著能耗与面积降低,适用于低功耗带宽场景。
2024-06-24 eess.IV
Adaptive Binary-Ternary Quantization
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
神经网络模型需要大量的资源。很难在资源有限的设备上部署这种深度网络,如智能可穿戴设备,手机,无人机和自动驾驶汽车。诸如二进制和三进制量化之类的低位量化是减轻这种资源需求的常用方法。三进制量化提供了一个更灵活的模型,并在精度方面优于二进制量化,但内存占用加倍,并增加了计算成本。与这些方法相反,混合量化模型允许在精度和内存占用之间进行权衡。在这样的模型中,量化深度通常是手动选择的,或者使用单独的优化例程进行调整。后者需要多次训练量化的网络。在这里,我们提出了一种二进制和三进制量化的自适应组合,即智能量化(SQ),其中量化深度直接通过正则化函数进行修改,因此模型只训练一次。我们的实验结果表明,所提出的方法成功地适应量化深度,同时保持模型精度高MNIST和CIFAR 10基准测试。
2021-09-13 cs.CV cs.LG stat.ML
Intelligent Incident Hypertension Prediction in Obstructive Sleep Apnea
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本研究提出一种结合离散余弦变换和迁移学习的深度学习方法,利用多导睡眠图信号预测阻塞性睡眠呼吸暂停患者五年内的高血压风险,实现了72.88%的AUC。
2025-05-27 cs.CV cs.LG
A Machine Learning Approach to Optimal Inverse Discrete Cosine Transform (IDCT) Design
本文提出了一种最优的逆离散余弦变换(IDCT)来补偿量化误差,以实现有效的有损图像压缩。在当前的图像/视频编码标准中,前向DCT和逆DCT是成对设计的,没有考虑量化效应。然而,量化DCT系数的分布偏离原始DCT系数的分布。这在JPEG压缩图像的质量因子较小时尤其明显。为了解决这个问题,我们首先使用一组训练图像来学习级联的前向DCT、量化和解量化的复合效果。然后,学习新的IDCT内核来逆转这种流水线的效果。实验结果表明,在较宽的质量因子范围内,该方法比标准JPEG有0.11-0.30dB的增益。
2021-01-31 cs.MM eess.IV
Amortized-Precision Quantization for Early-Exit Vision Transformers
National Taiwan University(台湾国立大学)
本文提出MAQEE框架,通过联合优化退出阈值和位宽,在控制风险的前提下提升推理稳定性,实现精度-效率的帕累托前沿,减少BOPs达95%,并在分类、检测和分割任务中优于基线模型20%。
2026-11-10 cs.AI cs.CV
CTMQ: Cyclic Training of Convolutional Neural Networks with Multiple Quantization Steps
Dankook University(檀国大学);Complutense University of Madrid(马德里康普顿斯大学)
本文提出了一种具有多个循环训练的训练方法,以实现低比特量化卷积神经网络(CNN)的增强性能。量化是一种用于获得轻量级CNN的流行方法,其中使用预训练模型的初始化被广泛用于克服低分辨率量化中的性能下降。然而,实际值和它们的低比特量化值之间的大量化误差导致难以实现复杂网络和大数据集的可接受的性能。所提出的训练方法在多个量化步骤中将预训练模型的知识柔和地传递到低比特量化模型。在每个量化步骤中,模型的训练权重用于初始化下一个模型的权重,其中量化比特深度减少1。通过量化位深的微小变化,可以弥合性能差距,从而提供更好的权重初始化。在循环训练中,在训练低比特量化模型之后,其训练的权重用于其待训练的精确模型的初始化。通过以迭代方式使用精确模型的更好的训练能力,所提出的方法可以在每个周期中为低比特量化模型产生增强的训练权重。值得注意的是,该训练方法可以将ImageNet数据集上二值化ResNet-18的Top-1和Top-5精度分别提高5.80%和6.85%。
2022-06-26 cs.AI cs.CV
Q-matrix Unaware Double JPEG Detection using DCT-Domain Deep BiLSTM Network
Indian Institute of Technology Gandhinagar(印度理工学院甘地讷格尔分校)
双JPEG压缩检测近年来受到了广泛的关注,由于其适用性作为最广泛使用的JPEG文件格式的取证工具。现有的基于CNN的方法要么使用所有频率的直方图,要么依赖于统计学来选择特定低频的直方图来对单压缩和双压缩图像进行分类。然而,即使在双压缩图像/补丁的较低频率中,所有频率的直方图也不具有可区分的特征以将它们与单压缩图像分开。该方法直接从JPEG图像中提取量化后的DCT系数,而不需要在像素域进行解压缩,得到所有AC频率的直方图,使用基于$1\times 1$深度卷积的模块学习每个直方图与相应的q因子之间的内在关系,并利用定制的BiLSTM网络对这些特征向量序列进行选择性编码。该系统优于几个基线方法上的一个相对较大的和不同的公开可用的数据集的单,双压缩补丁。任何单JPEG压缩检测系统与双JPEG压缩检测系统的另一个基本方面是处理测试块使用与训练时使用的量化矩阵(Q矩阵)完全不同的量化矩阵(Q矩阵)进行压缩的场景;不同的相机制造商和图像处理软件通常使用其定制的量化矩阵。一组广泛的实验表明,在单个数据集上训练的所提出的系统在使用完全不可见的量化矩阵压缩的其他数据集上具有很好的泛化能力,并且在可见和不可见的量化矩阵场景中都优于最先进的方法。
2021-04-10 cs.LG cs.MM eess.IV
Subtensor Quantization for Mobilenets
Latent AI
深度神经网络(DNN)的量化使开发人员能够部署具有更少内存和更高效低功耗推理的模型。然而,并非所有DNN设计都对量化友好。例如,流行的Mobilenet架构已被调整为通过可分离的深度卷积来减少参数大小和计算延迟,但并非所有量化算法都能很好地工作,并且精度可能会受到浮点版本的影响。在本文中,我们分析了量化损失的几个根本原因,并提出了不依赖于每通道或训练感知方法的替代方案。我们在ImageNet数据集上评估了图像分类任务,并且我们的训练后量化8位推理的top-1精度在浮点版本的0.7%以内。
2020-11-04 cs.CV cs.LG
Bees Local Phase Quantization Feature Selection for RGB-D Facial Expressions Recognition
Islamic Azad University-Rasht(伊斯兰阿扎德大学拉什特分校)
本文提出了一种基于Bees Algorithm的局部相位量化特征选择方法,用于RGB-D面部表情识别,在IKFDB数据集上实现了99%的准确率。
2023-08-03 cs.AI cs.CV
Seeing through bag-of-visual-word glasses: towards understanding quantization effects in feature extraction methods
Friedrich Schiller University Jena(耶拿弗里德里希·席勒大学)
矢量量化的局部特征,经常使用的视觉词袋的方法是流行的视觉识别系统的骨干,由于其简单性和性能。尽管它们取得了成功,但词袋直方图基本上包含低级图像统计(例如,不同取向的边缘的数量)。问题仍然是有多少视觉信息是“量化损失”时,映射视觉特征的代码字?为了回答这个问题,我们提出了一个深入的分析,局部特征量化对人类识别性能的影响。我们的分析是基于恢复的视觉信息,通过反转量化的本地功能,并提出这些可视化与不同的码本大小的人类观察者。虽然特征反转技术已经存在了很长一段时间,但据我们所知,我们的技术是第一个可视化的技术,特别是特征量化的效果。因此,我们现在能够将常见图像分类流水线中的单步的与人类对应物进行比较。
2014-08-20 cs.CV
Transform Quantization for CNN (Convolutional Neural Network) Compression
Stanford University(斯坦福大学);University of New South Wales(新南威尔士大学)
在本文中,我们压缩卷积神经网络(CNN)的权重后训练通过变换量化。先前的CNN量化技术倾向于忽略权重和激活的联合统计,从而在给定的量化比特率下产生次优的CNN性能,或者仅在训练期间考虑它们的联合统计,并且不促进已经训练的CNN模型的有效压缩。我们使用率失真框架对训练后的权重进行最佳变换(解相关)和重构,以在任何给定的量化比特率下提高压缩。变换量化将量化和降维(去相关)技术统一在一个框架中,以促进CNN的低比特率压缩和变换域中的有效推理。我们首先介绍了CNN量化的率失真理论,并将最佳量化作为率失真优化问题。然后,我们表明,这个问题可以解决使用最佳的位深度分配后,解相关的最佳端到端学习变换(ELT),我们在本文中推导出。实验表明,变换量化在再训练和非再训练量化场景中都推进了CNN压缩的最新技术水平。特别地,我们发现具有再训练的变换量化能够将CNN模型(例如AlexNet、ResNet和DenseNet)压缩到非常低的比特率(1-2比特)。
2021-11-07 cs.CV cs.IT cs.LG
Automatic Network Adaptation for Ultra-Low Uniform-Precision Quantization
Hanyang University(汉阳大学);NAVER CLOVA;Nota AI;SAPEON Korea Inc.(SAPEON韩国公司)
均匀精度神经网络量化由于其简化了密集封装的算术单元以获得高计算能力而得到普及。然而,它忽略了跨层量化误差的影响的异质敏感性,导致次优的推理精度。这项工作提出了一种新的神经结构搜索称为神经通道扩展,调整网络结构,以减轻从超低均匀精度量化的精度下降。所提出的方法选择性地扩展用于量化敏感层的通道,同时满足硬件约束(例如,FLOPs,PARAMs)。基于深入的分析和实验,我们证明了所提出的方法可以适应几种流行的网络通道,在CIFAR 10和ImageNet上实现卓越的2位量化精度。特别是,我们以较小的FLOP和参数大小为2位ResNet 50实现了迄今为止最好的Top-1/Top-5精度。
2023-03-29 cs.AI cs.CV
Zero-shot Quantization: A Comprehensive Survey
Department of Computer Science and Engineering, Seoul National University(首尔国立大学计算机科学与工程系);Interdisciplinary Program in Artificial Intelligence, Seoul National University(首尔国立大学人工智能跨学科项目)
本文综述无需真实训练数据的零样本量化方法,按数据生成策略分类并分析其思想、挑战与未来方向。
2025-05-14 cs.CV
Starting Positions Matter: A Study on Better Weight Initialization for Neural Network Quantization
Vision and Image Processing Research Group, University of Waterloo(图像与视觉处理研究组,滑铁卢大学)
该研究首次深入探究量化感知的DNN权重初始化,发现初始化器选择显著影响量化鲁棒性,提出GHN-QAT方法通过微调图超网络预测量化参数,有效提升低比特量化准确率。
2025-06-12 cs.AI cs.CV eess.IV
OL-DN: Online learning based dual-domain network for HEVC intra frame quality enhancement
University of Electronic Science and Technology of China(电子科技大学);SZ DJI Technology Co., Ltd.(深圳市大疆创新科技有限公司)
基于卷积神经网络(CNN)的方法为提高压缩图像和视频的质量提供了有效的解决方案。然而,这些方法忽略了使用原始数据来提高质量。在本文中,我们采用的原始数据的质量增强的HEVC帧内编码图像,提出了一种在线学习为基础的方法。当需要提高图像质量时,我们在编码端在线训练我们提出的模型,然后使用这些参数来更新解码端的模型。该方法不仅提高了模型的性能,而且使一个模型适用于多种编码场景。此外,离散余弦变换(DCT)系数中的量化误差是各种HEVC压缩伪影的根本原因。因此,我们结合频域先验来辅助图像重建。我们设计了一个基于DCT的卷积层,以产生适合CNN学习的DCT系数。实验结果表明,我们提出的基于在线学习的双域网络(OL-DN)取得了优越的性能,与国家的最先进的方法相比。
2022-08-09 cs.CV eess.IV
Post-Training Quantization for Energy Efficient Realization of Deep Neural Networks
RWTH Aachen University(亚琛工业大学)
深度神经网络(DNN)部署在边缘设备上生成的数据附近的最大挑战是它们的大小,即,存储器占用和计算复杂性。两者都随着量化而显着减少。随着所产生的较低的字长,DNN的能量效率成比例地增加。然而,较低的字长通常会导致精度下降。为了抵消这种影响,量化的DNN被重新训练。不幸的是,训练比量化DNN的推理多花费5000倍的能量。为了解决这个问题,我们提出了一个后训练量化流程,而不需要再培训。为此,我们研究了不同的量化选项。此外,我们的分析系统地评估了减少词长度的权重和激活的影响,揭示了词长度选择的明显趋势。这两个方面迄今尚未得到系统的研究。我们的结果与DNN的深度无关,并适用于均匀量化,允许对给定的预训练DNN进行快速量化。我们在ImageNet的6位和2.2%的Top-1准确率方面表现出色。在没有重新训练的情况下,我们量化到8位的精度超过了浮点精度。
2022-10-14 cs.AI cs.CV cs.LG
QKD: Quantization-aware Knowledge Distillation
Seoul National University(首尔国立大学);Qualcomm AI Research(高通人工智能研究院);Qualcomm Technologies, Inc.(高通技术公司)
量化和知识蒸馏(KD)方法被广泛用于减少深度神经网络(DNN)的存储器和功耗,特别是对于资源受限的边缘设备。虽然它们的组合很有希望满足这些要求,但它可能不会如所期望的那样工作。这主要是因为KD的正则化效应进一步减少了量化模型已经降低的表示能力。为了解决这个问题,我们提出了量化感知的知识蒸馏(QKD),其中量化和KD在三个阶段中仔细协调。首先,自学习(SS)阶段微调一个量化的低精度学生网络,没有KD,以获得一个良好的初始化。第二,合作学习(CS)阶段试图对教师进行训练,使其比固定教师更量化、更强大。最后,辅导(TU)阶段将知识从受过培训的教师转移到学生。我们在ImageNet和CIFAR-10/100数据集上对我们的方法进行了广泛的评估,并对具有标准卷积和深度可分离卷积的网络进行了消融研究。所提出的QKD优于现有的最先进的方法(例如,在使用W 4A 4的ResNet-18上提高1.3%,在使用W 4A 4的MobileNetV 2上提高2.6%)。此外,QKD可以在ResNet上的W3 A3量化和MobilenetV 2上的W 6A 6量化下恢复全精度精度。
2019-11-28 cs.CV cs.LG
Seeing Delta Parameters as JPEG Images: Data-Free Delta Compression with Discrete Cosine Transform
Fudan University(复旦大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);The Chinese University of Hong Kong(香港中文大学);Harbin Institute of Technology(哈尔滨工业大学)
本文提出Delta-DCT,一种受JPEG压缩启发的无数据delta压缩方法,通过分块重要性评估、差异化位宽分配和离散余弦变换量化,在无需训练或数据校准的情况下,于多种语言、视觉及多模态模型上以1比特等效压缩比达到与原始微调模型相当或更优的性能。
2025-03-09 cs.CV cs.LG eess.IV
Hierarchical Frequency-based Upsampling and Refining for Compressed Video Quality Enhancement
Hangzhou Dianzi University(杭州电子科技大学);State Key Laboratory of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室);Xinhua Zhiyun Technology Co., Ltd.(新华智云科技有限公司)
针对压缩视频伪影问题,提出分层频率上采样与细化网络HFUR,利用DCT先验重建损失并跨尺度细化,在公共基准上实现最先进性能。
2024-03-18 cs.CV eess.IV
Rib Suppression in Digital Chest Tomosynthesis
Tsinghua University(清华大学);Z 2 Sky Technologies Inc.(Z2天空科技公司);Affiliated Hospital of Guizhou Medical University(贵州医科大学附属医院);Naval Medical University(海军军医大学);Changzheng Hospital(长征医院);University of Science and Technology of China(中国科学技术大学)
数字胸部断层合成(DCT)是一种用于产生用于肺部疾病筛查的人类胸部的截面3D图像的技术,其中在极其有限的角度范围内拍摄2D X射线投影。然而,在有限角度的情况下,DCT包含由肋骨的存在引起的强伪影,干扰肺部区域的成像质量。最近,在单个X射线图像中肋骨抑制已经取得了很大进展,以揭示更清晰的肺部纹理。我们首先在软件层面上将肋抑制问题扩展到3D情况。我们提出了一个$\textbf{T}$ omosynthesis $\textbf{RI}$ b Su $\textbf{P}$ pression and $\textbf{L}$ ung $\textbf{E}$ enhancement $\textbf{Net}$ work(TRIPLE-Net)来建模3D肋骨组件,并提供一个无肋骨的DCT。TRIPLE-Net结合了2D和3D域的优点,分别用精确的FBP过程和3D深度信息对DCT中的肋骨进行建模。在模拟数据集和临床数据上的实验表明,TRIPLE-Net能够有效地保留肺部细节,提高肺部疾病的成像质量。最后,一项专家用户研究证实了我们的发现。
2022-03-05 cs.CV eess.IV
AUSN: Approximately Uniform Quantization by Adaptively Superimposing Non-uniform Distribution for Deep Neural Networks
Shanghai Jiao Tong University(上海交通大学);SJTU-UM Joint Institute(上海交通大学-密歇根大学联合学院);Northeastern University(东北大学);DeepBlue Technology (Shanghai) Co., Ltd.(深兰科技(上海)有限公司);AI Institute(人工智能研究院)
量化对于简化边缘应用中的DNN推理至关重要。然而,现有的均匀和非均匀量化方法表现出表示范围和表示分辨率之间的固有冲突,从而导致未充分利用的位宽或显著的精度下降。此外,这些方法遇到三个缺点:i)缺乏量化误差源的深入分析的定量度量; ii)对基于CNN的图像分类任务的关注有限; iii)不了解实际硬件和通过降低位宽减少的能耗。在本文中,我们首先定义了两个定量指标,即,限幅误差和舍入误差,分析量化误差分布。我们观察到,边界误差和舍入误差在不同的层、模型和任务之间有很大的差异。因此,我们提出了一种新的量化方法来确定权重和激活。其核心思想是通过自适应叠加多个非均匀量化值来近似均匀量化,即AUSN。AUSN由一个无解码器的编码方案组成,该方案有效地利用了位宽,一个叠加量化算法,可以使编码方案适应不同的DNN层,模型和任务,而无需额外的硬件设计工作,以及一个舍入方案,可以消除众所周知的位宽溢出和重新量化问题。理论分析(见附录A)和对不同任务的DNN模型的精度评估表明了AUSN的有效性和通用性。在FPGA上的综合结果(见附录B)表明,$2\times$降低了能量消耗,$2\times$到$4\times$减少了硬件资源。
2020-07-08 cs.CV eess.SP
Learnable Burst Quantization for Expressive and Efficient Spiking Neural Networks
QB-LIF通过可学习尺度量化膜电位实现突发放电,提升SNNs效率,实验表明在低延迟下优于二进制和固定突发SNNs。
2026-09-17 cs.CV
PIM-QAT: Neural Network Quantization for Processing-In-Memory (PIM) Systems
Northeastern University(东北大学);Rice Univeristy(莱斯大学);Snap Inc.(Snap公司)
内存处理(PIM)是一种越来越多地被研究的神经形态硬件,它承诺为深度学习推理提供能量和吞吐量方面的改进。利用存储器内部的大规模并行和高效模拟计算,PIM绕过了传统数字硬件中数据移动的瓶颈。然而,需要额外的量化步骤(即,PIM量化)来将模拟计算结果转换到数字域,由于硬件约束,额外的量化步骤通常具有有限的分辨率。同时,由于模/数接口的不完善,PIM量化中普遍存在非理想效应,进一步影响了推理精度。在本文中,我们提出了一种方法来训练量化网络,将PIM量化,这是无处不在的所有PIM系统。具体来说,我们提出了一个PIM量化感知训练(PIM-QAT)算法,并通过分析训练动态,以促进训练收敛在向后和向前传播过程中引入重新缩放技术。我们还提出了两种技术,即批量归一化(BN)校准和调整精度训练,以抑制非理想的线性和随机热噪声在真正的PIM芯片的不利影响。我们的方法进行了验证,在三个主流的PIM分解方案,并在一个原型芯片上的物理。与直接在PIM系统上部署常规训练的量化模型相比,该方法没有考虑到这种额外的量化步骤,因此失败,我们的方法提供了显着的改进。它还在PIM系统上实现了与数字硬件上的传统量化模型相当的推理精度,跨CIFAR 10和CIFAR 100数据集,使用各种网络深度用于最流行的网络拓扑。
2022-09-18 cs.AI cs.AR cs.CV
Nearest is Not Dearest: Towards Practical Defense against Quantization-conditioned Backdoor Attacks
The State Key Laboratory of Blockchain and Data Security, Zhejiang University(浙江大学区块链与数据安全国家重点实验室);School of Cyber Science and Engineering, Wuhan University(武汉大学网络安全学院);School of Computer Science and Engineering, Central South University(中南大学计算机科学与工程学院);X Digital Dynamics(X数字动力公司);Tencent Data Platform(腾讯数据平台)
针对量化条件后门在标准量化后激活的问题,本文揭示其源于最近舍入及神经元截断误差范数,并提出EFRAP通过非最近舍入与激活保持防御攻击。
2024-05-21 cs.CR cs.CV
Deep Attentive Generative Adversarial Network for Photo-Realistic Image De-Quantization
Southeast University(东南大学);University of Technology Sydney(悉尼科技大学)
目前大多数显示设备具有八位或更高的位深。然而,大多数多媒体工具的质量不能达到这个位深度标准的生成图像。解量化可以改善低位深图像在高位深屏幕上显示的视觉质量。本文提出了DAGAN算法对与空间分辨率正交的图像强度分辨率进行超分辨率处理,通过端到端的学习模式实现真实感去量化。到目前为止,这是第一次尝试将生成对抗网络(GAN)框架应用于图像去量化。具体来说,我们提出了密集的残余自我注意(DenseResAtt)模块,这是由密集的残余块武装的自我注意机制,更加关注高频信息。此外,顺序的DenseResAtt模块的串联连接形成了深度关注网络,在图像去量化中具有卓越的判别学习能力,对代表性特征图进行建模,以恢复尽可能多的有用信息。此外,由于对抗性学习框架可以可靠地生成高质量的自然图像,因此指定的内容损失以及对抗性损失被反向传播以优化模型的训练。最重要的是,DAGAN能够生成照片级真实感的高比特深度图像,而没有条带伪影。在多个公共基准测试上的实验结果表明,DAGAN算法具有良好的视觉效果和令人满意的量化性能。
2020-04-07 cs.CV eess.IV
Block-level Double JPEG Compression Detection for Image Forgery Localization
由于图像处理工具的易用性,伪造图像在当今世界无处不在。在这封信中,我们提出了一种基于深度学习的新方法,该方法利用DCT系数直方图和相应的量化步长之间的内在关系,基于对单压缩块和双压缩块的检测来区分JPEG图像中的原始区域和伪造区域,而无需完全解压缩JPEG图像。我们考虑在最近的一项研究中收集的1,120个量化矩阵的不同集合,与标准的100个量化矩阵进行训练,测试和创建逼真的模型。特别是,我们仔细设计了DenseNet的输入,其中包含量化步长和JPEG块的相应直方图的特定组合。使用该输入来学习压缩伪像产生用于检测大小为$256 \times 256$的单压缩块和双压缩块的最新结果,并且对于大小为$128 \times 128$和$64 \times 64$的较小块给出更好的结果。因此,改进的伪造定位性能获得逼真的伪造图像。此外,在与训练中使用的矩阵相比使用完全不同的量化矩阵压缩的测试块的情况下,所提出的方法优于当前的现有技术。
2020-03-20 eess.IV
Quantization-aware Matrix Factorization for Low Bit Rate Image Compression
KU Leuven(鲁汶大学);Stanford University(斯坦福大学)
提出量化感知矩阵分解(QMF)用于低比特率图像压缩,将量化集成到低秩近似中,在低于0.25 bpp时优于JPEG,并提升分类准确率超5%。
2025-03-27 cs.CV eess.IV math.OC
Graph-Based Depth Denoising & Dequantization for Point Cloud Enhancement
Shandong University of Science and Technology(山东科技大学);York University(约克大学);InterDigital Communications Inc.(InterDigital通信公司);Purdue University(普渡大学)
3D点云通常由传感器在一个或多个视点处获取的深度测量来构造。测量遭受量化和噪声破坏。为了提高质量,以前的作品去噪点云\textit{a posteriori}投影到三维空间的不完美的深度数据。相反,我们在合成3D点云之前,直接在感测图像\textit{a priori}上增强深度测量。通过增强近物理感测过程,我们在随后的处理步骤之前将我们的优化调整到我们的深度地层模型,从而掩盖测量误差。具体来说,我们模型的深度形成信号相关的噪声添加和非均匀的基于对数的量化的组合过程。使用从代表性深度传感器收集的经验数据来验证所设计的模型(具有拟合的参数)。为了增强深度图像中的每个像素行,我们首先通过特征图学习将可用行像素之间的视图内相似性编码为边缘权重。接下来,我们通过视点映射和稀疏线性插值来建立与另一个校正深度图像的视图间相似性。这导致最大后验概率(MAP)图过滤目标是凸的和可微的。我们有效地使用加速梯度下降(AGD),其中最佳步长近似通过Gershgorin圆定理(GCT)的目标最小化。实验表明,我们的方法显着优于最近的点云去噪方案和国家的最先进的图像去噪方案在两个既定的点云质量指标。
2022-10-06 cs.CV eess.IV
HPGN: Hybrid Priors-Guided Network for Compressed Low-Light Image Enhancement
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Pengcheng Laboratory(鹏城实验室);University of Electronic Science and Technology of China(电子科技大学)
本文提出HPGN网络,通过整合压缩和照明先验信息,有效提升压缩低光照图像质量,采用JPEG质量因子和DCT量化矩阵设计高效模块,并通过随机QF生成策略实现多压缩级别增强。
2026-05-11 cs.CV eess.IV
Learning to Improve Image Compression without Changing the Standard Decoder
ETH Zurich(苏黎世联邦理工学院)
近年来,我们已经目睹了应用深度神经网络(DNN)来改善图像压缩中的率失真性能的兴趣越来越大。然而,现有的方法要么在解码器侧训练后处理DNN,要么提出以端到端的方式学习图像压缩。这样,在解码器中需要训练的DNN,导致与标准图像解码器(例如,JPEG)在个人电脑和手机中。因此,我们提出学习,以提高编码性能的标准解码器。本文以JPEG为例进行了研究。提出了一种频域预编辑方法,优化DCT系数的分布,以利于JPEG压缩。此外,我们建议与预编辑网络一起学习JPEG量化表。最重要的是,我们不修改JPEG解码器,因此我们的方法适用于使用广泛使用的标准JPEG解码器查看图像。实验结果表明,该方法在PSNR、MS-SSIM和LPIPS等质量指标上都能有效地提高JPEG的率失真性能。在视觉上,这转化为更好的整体颜色保持,特别是在应用强压缩时。这些代码可在https://github.com/YannickStruempler/LearnedJPEG上获得。
2020-10-23 cs.CV eess.IV
Neural JPEG: End-to-End Image Compression Leveraging a Standard JPEG Encoder-Decoder
The Pennsylvania State University(宾夕法尼亚州立大学);Rochester Institute of Technology(罗切斯特理工学院)
深度学习的最新进展已经在各种应用程序中实现了超人的性能。最近,这些方法已成功地用于改善图像压缩任务中的率失真性能。然而,当前的方法要么在解码器端使用附加的后处理块来改善压缩,要么提出基于并行计算的端到端压缩方案。对于其中的大多数,经过训练的深度神经网络(DNN)与标准编码器不兼容,并且很难在个人电脑和手机上使用。有鉴于此,我们提出了一个系统,通过增强编码器和解码器端的内部神经表示来学习提高编码性能,我们称之为神经JPEG。我们提出了频域预编辑和后编辑的方法来优化DCT系数在编码器和解码器端的分布,以改善标准压缩(JPEG)的方法。此外,我们设计并整合了一个计划,共同学习量化表在这个混合神经压缩framework.Experiments表明,我们的方法成功地提高了率失真性能超过JPEG在各种质量指标,如PSNR和MS-SSIM,并产生视觉上有吸引力的图像具有更好的色彩保持质量。
2022-01-31 cs.CV eess.IV
A Little Bit More: Bitplane-Wise Bit-Depth Recovery
Samsung AI Center(三星人工智能中心)
成像传感器以10- 12位的动态范围(即,1024- 4096色调值)。然后在相机上处理传感器图像并最终量化为仅8位(即,256个音调值)以符合流行的编码标准。有许多重要的应用,如高位深显示和照片编辑,其中恢复丢失的位深是有益的。深度神经网络在这种位深度重建任务中是有效的。给定量化的低位深度图像作为输入,现有的深度学习方法采用单次方法,该方法尝试(1)直接估计高位深度图像,或者(2)直接估计高位深度图像和低位深度图像之间的残差。相比之下,我们提出了一个训练和推理策略,恢复残差图像逐位平面。我们的位平面学习框架具有允许在训练期间进行多级监督的优势,并且能够使用简单的网络架构获得最先进的结果。我们测试了我们提出的方法广泛的几个图像数据集,并证明了从0.5dB到2.3dB的PSNR比以前的方法取决于量化水平的改善。
2021-12-22 cs.CV eess.IV
Wavelet Feature Maps Compression for Image-to-Image CNNs
Ben-Gurion University(本-古里安大学)
众所周知,卷积神经网络(CNN)需要大量的计算资源,量化是压缩它们的最好和最常用的方法之一。虽然积极的量化(即,小于4比特)对于分类表现良好,但它可能在诸如语义分割和深度估计的图像到图像任务中导致严重的性能降级。在本文中,我们提出了小波压缩卷积(WCC)-一种新的方法,用于高分辨率激活映射压缩集成逐点卷积,这是现代架构的主要计算成本。为此,我们使用一个高效的和硬件友好的Haar小波变换,其有效性在图像压缩,并定义压缩激活映射的卷积。我们尝试了从高分辨率输入中受益的各种任务。通过将WCC与轻量化相结合,我们实现了相当于1- 4位激活量化的压缩率,同时性能下降相对较小且更加优雅。我们的代码可在https://github.com/BGUCompSci/WaveletCompressedConvolution上获得。
2022-10-16 cs.CV cs.LG eess.IV
An Underwater Dehazing Network with Implicit Transmission Estimation
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
本文提出UDehaze-iT网络,通过隐式估计场景深度和Beer-Lambert定律学习衰减系数,结合L1损失等复合损失函数提升水下图像质量。
2026-05-13 eess.IV