ACQ: Improving Generative Data-free Quantization Via Attention Correction
Institute of Semiconductors, Chinese Academy of Sciences(中国科学院半导体研究所);University of Chinese Academy of Sciences(中国科学院大学);Materials and Optoelectronics Research Center, University of Chinese Academy of Sciences(中国科学院大学材料与光电研究中心);College of Microelectronics, University of Chinese Academy of Sciences(中国科学院大学微电子学院)
本文提出ACQ方法,通过注意力中心位置条件生成器和一致性惩罚修复合成样本的注意力同质化与模式差异问题,在多种设置下实现最佳无数据量化性能。
2023-07-29 cs.AI cs.CV
Compressive Ptychography using Deep Image and Generative Priors
Northwestern University(西北大学);Argonne National Laboratory(阿贡国家实验室)
重叠关联成像是一种成熟的相干衍射成像技术,能够在纳米尺度上对样品进行非侵入性成像。它已广泛应用于国防工业或材料科学等各个领域。重叠关联成像的一个主要限制是由于样品的机械扫描而导致的长数据采集时间;因此,高度期望减少扫描点的方法。然而,重建与扫描点的数量较少,导致成像伪影和显着的失真,阻碍了定量评价的结果。为了解决这个瓶颈,我们提出了一种结合深度图像先验和深度生成先验的生成模型。自训练方法优化深度生成神经网络以创建给定数据集的解决方案。我们补充我们的方法,从先前训练的神经网络中获得的先验信息,以避免测量中的噪声可能导致的与期望输出的偏差。我们还建议使用总变化作为补充之前,由于测量噪声的战斗文物。我们分析我们的方法与数值实验,通过不同的探针重叠百分比和不同的噪声水平。我们还展示了改进的重建精度相比,国家的最先进的方法,并讨论了我们的方法的优点和缺点。
2022-05-23 cs.CV cs.LG eess.IV
MambaVideo for Discrete Video Tokenization with Channel-Split Quantization
NVIDIA;KAIST(韩国科学技术院)
针对离散视频token化需求,提出基于Mamba的编解码器架构与通道分割量化方案,所构建的MambaVideo tokenizer在多数据集上超越因果3D卷积及Transformer方法,刷新SOTA并验证其作为自回归视频生成tokenizer的鲁棒性。
2025-07-06 cs.CV
Geometric Priors for Scientific Generative Models in Inertial Confinement Fusion
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
在本文中,我们开发了一个Wasserstein自动编码器(WAE)与超球先验多模数据在惯性约束聚变的应用。与典型的超球面生成模型不同,它需要从von Mis Fisher等分布中进行计算效率低下的采样,我们从正态分布中采样,然后在生成器之前进行投影层。最后,为了确定生成的样本的有效性,我们利用数据集中模态之间的已知关系作为科学约束,并研究所提出的模型的不同属性。
2021-11-24 cs.CV cs.LG
Generative Model for Material Experiments Based on Prior Knowledge and Attention Mechanism
China Institute of Atomic Energy(中国原子能科学研究院)
材料辐照实验是一项危险而复杂的实验,需要大量的高级专业知识来人工处理图像和数据。本文提出了一种基于先验知识和注意力机制的生成式对抗模型(data-to-image模型)来实现辐照材料图像的生成,以及相应的工业性能预测模型(image-to-数据模型)。利用该模型,研究人员可以跳过危险、复杂的辐照实验,只需输入一些实验参数,就可以直接获得辐照图像和工业性能参数。我们还介绍了一个新的数据集ISMD,其中包含22000辐照图像与22,143套相应的参数。通过与几个基准模型的比较,我们的模型取得了高质量的结果。最后,对该系统进行了评价和详细分析。
2018-11-16 cs.AI cs.CV
Deep Attentive Generative Adversarial Network for Photo-Realistic Image De-Quantization
Southeast University(东南大学);University of Technology Sydney(悉尼科技大学)
目前大多数显示设备具有八位或更高的位深。然而,大多数多媒体工具的质量不能达到这个位深度标准的生成图像。解量化可以改善低位深图像在高位深屏幕上显示的视觉质量。本文提出了DAGAN算法对与空间分辨率正交的图像强度分辨率进行超分辨率处理,通过端到端的学习模式实现真实感去量化。到目前为止,这是第一次尝试将生成对抗网络(GAN)框架应用于图像去量化。具体来说,我们提出了密集的残余自我注意(DenseResAtt)模块,这是由密集的残余块武装的自我注意机制,更加关注高频信息。此外,顺序的DenseResAtt模块的串联连接形成了深度关注网络,在图像去量化中具有卓越的判别学习能力,对代表性特征图进行建模,以恢复尽可能多的有用信息。此外,由于对抗性学习框架可以可靠地生成高质量的自然图像,因此指定的内容损失以及对抗性损失被反向传播以优化模型的训练。最重要的是,DAGAN能够生成照片级真实感的高比特深度图像,而没有条带伪影。在多个公共基准测试上的实验结果表明,DAGAN算法具有良好的视觉效果和令人满意的量化性能。
2020-04-07 cs.CV eess.IV
Generative Low-bitwidth Data Free Quantization
South China University of Technology(华南理工大学);PengCheng Laboratory(鹏城实验室);Monash University(蒙纳士大学)
神经网络量化是压缩深度模型并改善其执行延迟和能量效率的有效方法,使其可以部署在移动或嵌入式设备上。现有的量化方法需要原始数据进行校准或微调,以获得更好的性能。然而,在许多现实世界的场景中,由于机密或隐私问题,数据可能不可用,从而使现有的量化方法不适用。此外,由于缺乏原始数据,最近开发的生成对抗网络(GANs)无法用于生成数据。虽然全精度模型可能包含丰富的数据信息,但仅凭这些信息很难恢复原始数据或生成新的有意义的数据。在本文中,我们研究了一种简单而有效的方法,称为生成低位宽数据自由量化(GDFQ),以消除数据依赖的负担。具体来说,我们提出了一个知识匹配生成器,通过利用预训练模型中的分类边界知识和分布信息来生成有意义的假数据。在生成的数据的帮助下,我们可以通过从预训练模型中学习知识来训练模型。在三个数据集上的实验证明了该方法的有效性。更重要的是,我们的方法实现了更高的精度4位量化比现有的数据自由量化方法。代码可在https://github.com/xushoukai/GDFQ上获得。
2020-08-10 cs.CV
Generative Zero-shot Network Quantization
NLPR(国家模式识别实验室);CASIA(中国科学院自动化研究所)
卷积神经网络能够从大量的训练样本中学习真实感图像的先验知识,用于低层图像的生成和恢复。我们表明,对于高层次的图像识别任务,我们可以进一步重建“现实”的图像,利用内在的批量归一化(BN)的统计数据,没有任何训练数据的每一个类别。受流行的VAE/GAN方法的启发,我们将合成图像的zero-shot优化过程视为生成式建模,以匹配BN统计量的分布。生成的图像用作以下zero-shot网络量化的校准集。我们的方法满足了基于敏感信息的量化模型的需求,\textit{e.g.,}由于隐私问题,没有数据可用。在基准数据集上的大量实验表明,在生成数据的帮助下,我们的方法始终优于现有的无数据量化方法。
2021-01-21 cs.AI cs.CV
Texture Vector-Quantization and Reconstruction Aware Prediction for Generative Super-Resolution
University of Electronic Science and Technology of China(电子科技大学)
本文提出纹理向量量化与重建感知预测策略,解决VQ模型中量化误差大和预测器训练不优的问题,实现低计算成本的高质量超分辨率生成。
2026-03-22 cs.CV
Zero-Shot Learning of a Conditional Generative Adversarial Network for Data-Free Network Quantization
Samsung Semiconductor Inc.(三星半导体公司)
本文提出了一种新的不使用训练数据训练条件生成对抗网络(CGAN)的方法,称为CGAN的零样本学习(Z-CGAN)。条件生成器的零样本学习只需要预先训练的判别(分类)模型,而不需要任何训练数据。具体地,条件生成器被训练以通过使用存储在预训练模型的批量归一化层中的统计数据来产生其特性模仿原始训练数据的标记的合成样本。我们展示了EST-CGAN在深度神经网络的无数据量化中的有用性。我们实现了在ImageNet数据集上训练的ResNet和MobileNet分类模型的最先进的无数据网络量化。无数据的量化使用EST-CGAN显示出最小的损失相比,通过传统的数据相关的量化获得的精度。
2022-10-26 cs.CV cs.LG cs.NE
Modulated Diffusion: Accelerating Generative Modeling with Modulated Quantization
Department of Computer Science, North Carolina State University(北卡罗来纳州立大学计算机科学系);National Center for Computational Science, Oak Ridge National Lab(橡树岭国家实验室计算科学中心);Department of Mechanical Engineering, Keio University(庆应大学机械工程系)
针对扩散模型迭代采样计算成本高的问题,提出调制扩散(MoDiff)框架,通过调制量化和误差补偿加速生成建模,在CIFAR-10和LSUN上实现激活量化从8位降至3位且性能无损,继承现有方法优势并具通用性。
2025-06-18 cs.CV cs.LG
Low-Bit, High-Fidelity: Optimal Transport Quantization for Flow Matching
针对流匹配生成模型部署受高精度参数需求制约的问题,提出基于最优传输的训练后量化方法,可在2-3比特下保留生成质量,适用于边缘AI场景的模型压缩。
2025-11-14 cs.CV cs.LG
Dissecting Bit-Level Scaling Laws in Quantizing Vision Generative Models
Microsoft Research(微软研究院);Beijing Zhongke Research Institue(北京中科研究院)
本研究发现语言式视觉生成模型的量化比特级缩放定律优于扩散式模型,提出TopKLD蒸馏方法平衡隐式与显式知识,提升了两类量化设置下的缩放表现。
2025-01-06 cs.CV
ProGIC: Progressive and Lightweight Generative Image Compression with Residual Vector Quantization
Tsinghua University(清华大学);State Key Laboratory of Space Network and Communications(空间网络与通信国家重点实验室)
提出一种基于残差向量量化的轻量级渐进式生成图像压缩方法ProGIC,通过逐级量化残差实现粗到细重建和渐进比特流,在保持感知质量的同时显著提升编码解码速度。
2026-05-22 cs.CV
Softmax Bias Correction for Quantized Generative Models
Qualcomm AI Research(高通人工智能研究院)
针对量化生成模型中softmax对量化敏感导致精度下降的问题,提出离线偏差校正技术,在不增加推理计算开销下提升8位量化softmax精度,在稳定扩散v1.5和OPT语言模型上验证有效。
2023-09-04 cs.AI cs.CV cs.LG
Mobile Image Restoration via Prior Quantization
Zhejiang University(浙江大学);Zhejiang Laboratory(之江实验室)
提出先验量化模型,通过编码和量化多种先验信息,融合图像恢复分支,实现针对性的光学像差校正,并支持软硬件联合设计。
2023-05-10 cs.CV cs.MM eess.IV
Homotopic Gradients of Generative Density Priors for MR Image Reconstruction
Nanchang University(南昌大学)
最近,深度学习,特别是生成模型,已经证明了在减少测量的情况下显著加速图像重建的巨大潜力。不同于现有的生成模型通常对密度先验进行优化,本文利用去噪分数匹配,提出了一种基于同伦梯度的生成密度先验(HGGDP)模型,用于磁共振成像(MRI)重建。更准确地说,为了解决生成密度先验中的低维流形和低数据密度区域问题,我们在高维空间中估计目标梯度。我们训练一个更强大的噪声条件得分网络,形成高维张量作为网络的输入在训练阶段。更多的人工噪声也被注入嵌入空间。在重建阶段,同伦方法被用来追求密度先验,如提高重建性能。实验结果表明,HGGDP在高重建精度方面表现出色,仅10%的k空间数据仍然可以像标准MRI重建一样有效地生成高质量的图像。
2021-02-01 cs.CV eess.IV
Quantization with Unified Adaptive Distillation to enable multi-LoRA based one-for-all Generative Vision Models on edge
Samsung Research Institute Bangalore, India(三星研究所班加罗尔,印度)
本文提出统一框架,通过单共享模型在边缘设备上实现多任务生成式AI推理,采用动态任务切换和QUAD量化策略,减少内存占用和延迟,保持高质量生成效果。
2026-03-31 cs.AI cs.CV
Generative Priors for MRI Reconstruction Trained from Magnitude-Only Images Using Phase Augmentation
1 Institute for Diagnostic;Interventional Radiology, University Medical Center G\"ottingen, Germany 2 Institute of Biomedical Imaging, Graz University of Technology, Graz, Austria 3 Clinic for Neurology, University Medical Center Göttingen, Germany 4 German Centre for Cardiovascular Research (DZHK), partner site Lower Saxony, Germany 5 Martinos Center for Biomedical Imaging, Massachusetts General Hospital, Harvard Medical School
本研究提出相位增强的工作流程,从仅幅值MR图像训练复数图像生成先验用于MRI重建正则化,实验证实该先验性能优于仅幅值训练先验与L1-小波正则化,且大数据集训练鲁棒性更高。
2024-11-16 cs.CV eess.IV
Iterative Reconstruction for Low-Dose CT using Deep Gradient Priors of Generative Model
Nanchang University(南昌大学);Sichuan University(四川大学)
降低计算机断层扫描(CT)的剂量对于降低临床应用中的辐射风险至关重要。迭代重建是补偿由于光子通量减少而增加的噪声的最有前途的方法之一。而不是大多数现有的先验驱动的算法,受益于手动设计的先验函数或监督学习计划,在这项工作中,我们集成的数据一致性作为一个条件项到低剂量CT的迭代生成模型。在先验学习阶段,直接从正常剂量CT图像中学习数据密度梯度作为先验。然后在迭代重建阶段,随机梯度下降被用来更新退火和条件方案的训练前。重建图像和流形之间的距离与重建期间的数据保真度一起被最小化。实验结果表明,该方法具有较好的降噪和细节保持能力。
2021-03-23 cs.CV eess.IV
One-shot Generative Prior in Hankel-k-space for Parallel Imaging Reconstruction
Nanchang University(南昌大学)
磁共振成像是临床诊断的重要工具。然而,它的收购时间很长。深度学习的利用,特别是深度生成模型,在磁共振成像中提供了积极的加速和更好的重建。然而,学习的数据分布作为先验知识和重建图像从有限的数据仍然具有挑战性。在这项工作中,我们提出了一种新的Hankel-k-space生成模型(HKGM),它可以从一个k-space数据的训练集生成样本。在先验学习阶段,我们首先从k空间数据中构造一个大的Hankel矩阵,然后从大的Hankel矩阵中提取多个结构化的k空间块,以捕获不同块之间的内部分布。从Hankel矩阵中提取补丁使生成模型能够从冗余和低秩数据空间中学习。在迭代重建阶段,观察到所需的解决方案服从学习的先验知识。通过将中间重建解作为生成模型的输入来更新中间重建解。然后对更新后的结果进行Hankel矩阵低秩惩罚和测量数据一致性约束的交替操作。实验结果证实,单个k空间数据中的补丁的内部统计信息携带了足够的信息来学习强大的生成模型,并提供最先进的重建。
2022-12-08 cs.CV eess.IV
Super-High-Fidelity Image Compression via Hierarchical-ROI and Adaptive Quantization
Sensetime Research(商汤科技研究院);Tsinghua University(清华大学)
提出结合MSE与生成模型优势的分层ROI(H-ROI)和通道内非线性映射自适应量化,在低码率下改善小尺寸人脸和文本的重建质量,比特率仅为HiFiC的0.7倍和BPG的0.5倍。
2024-05-21 cs.CV eess.IV
PriorGAN: Real Data Prior for Generative Adversarial Nets
University of Science and Technology of China(中国科学技术大学);Microsoft Research(微软研究院)
生成对抗网络(GANs)在学习丰富的数据分布方面取得了快速进展。然而,我们争论现有技术中的两个主要问题。首先,低质量问题,其中学习的分布具有大量低质量样本。第二,缺失模式问题,其中学习的分布错过了真实数据分布的某些区域。为了解决这两个问题,我们提出了一种新的先验,它可以捕获GANs的整个真实数据分布,称为先验GANs。具体来说,我们采用了一个简单而优雅的高斯混合模型(GMM)建立一个显式的概率分布的特征水平上的整个真实数据。通过最大化生成数据的概率,我们可以将低质量的样本推向高质量。同时,在先验知识的基础上,我们可以估计学习分布中的缺失模式,并设计一个采样策略来解决这个问题。所提出的真实数据先验可以推广到GANs的各种训练设置,例如LSGAN,WGAN-GP,SNGAN,甚至StyleGAN。我们的实验表明,PriorGAN在CIFAR-10、FFHQ、LSUN-cat和LSUN-bird数据集上的表现远远优于最先进的技术。
2020-06-30 cs.CV eess.IV
Generative Iris Prior Embedded Transformer for Iris Restoration
School of Integrated Circuits, Beijing University of Posts and Telecommunications(北京邮电大学集成电路学院);School of Artificial Intelligence, Beijing University of Posts and Telecommunications(北京邮电大学人工智能学院)
针对复杂退化虹膜图像恢复难题,提出嵌入生成式虹膜先验的 Transformer 模型(Gformer),通过分层编解码网络结合 GAN 先验与长距离依赖建模,显著提升了虹膜恢复与识别性能。
2024-09-20 cs.CV eess.IV
HarmoQ: Harmonized Post-Training Quantization for High-Fidelity Image
针对超分辨率模型后训练量化中权重与激活量化独立处理的问题,提出HarmoQ统一框架,通过结构残差校准、协调尺度优化和自适应边界精化协调二者,在激进压缩下提升性能,首次系统分析了权重-激活耦合。
2025-11-11 cs.CV eess.IV
Exploiting Deep Generative Prior for Versatile Image Restoration and Manipulation
The Chinese University of Hong Kong(香港中文大学);Nanyang Technological University(南洋理工大学);The University of Hong Kong(香港大学)
学习良好的图像先验是图像恢复和处理的长期目标。虽然像深度图像先验(DIP)这样的现有方法捕获低级图像统计数据,但对于捕获丰富图像语义(包括颜色,空间相干性,纹理和高级概念)的图像先验仍然存在差距。这项工作提出了一种有效的方法来利用图像之前捕获的生成对抗网络(GAN)上训练的大规模自然图像。如图1所示,深度生成先验(DGP)提供了令人信服的结果来恢复缺失的语义,例如,各种退化图像的颜色、补丁、分辨率。它还支持各种图像操作,包括随机抖动,图像变形和类别转移。这种高度灵活的恢复和操纵是通过放松现有GAN反演方法的假设而实现的,这些方法倾向于固定发电机。值得注意的是,我们允许生成器在运行中以渐进的方式进行微调,通过GAN中的搜索获得的特征距离进行正则化。我们表明,这些易于实现和实际的变化有助于保持重建留在自然图像的流形,从而导致更精确和忠实的重建真实图像。代码可在https://github.com/XingangPan/deep-generative-prior上获得。
2020-07-20 cs.CV eess.IV
TMPQ-DM: Joint Timestep Reduction and Quantization Precision Selection for Efficient Diffusion Models
Tsinghua University(清华大学);Shenzhen Technology University(深圳技术大学);The Chinese University of Hong Kong(香港中文大学)
针对扩散模型部署计算开销大的问题,提出TMPQ-DM框架,联合优化时间步非均匀缩减与逐层细粒度量化,借助超网络和无梯度进化搜索实现高效的性能-效率权衡。
2024-04-15 cs.CV cs.LG
Structural Prior Guided Generative Adversarial Transformers for Low-Light Image Enhancement
The Hong Kong Polytechnic University(香港理工大学);Nanjing University of Science and Technology(南京理工大学)
提出了一种有效的结构先验引导的生成对抗Transformer(SPGAT)算法来解决弱光图像增强问题。我们的SPGAT主要包含一个生成器与两个鉴别器和一个结构先验估计(SPE)。该发生器是基于一个U形的Transformer,这是用来探索非局部信息,以更好地恢复清晰的图像复原。SPE用于从图像中探索有用的结构,以指导生成器进行更好的结构细节估计。为了生成更逼真的图像,我们开发了一种新的结构先验引导对抗学习方法,通过在生成器和鉴别器之间建立跳过连接,使鉴别器可以更好地区分真实和虚假特征。最后,我们提出了一个并行的基于窗口的Swin Transformer块聚合不同级别的层次特征,高质量的图像复原。实验结果表明,所提出的SPGAT表现良好,对最近的国家的最先进的方法在合成和真实世界的数据集。
2022-07-19 cs.CV eess.IV
Adaptive Fused Prior Transfer for Controllable Generative Image Compression
Department of Computer Science and Engineering, Santa Clara University(计算机科学与工程系,圣克拉拉大学)
本文提出了一种可控生成图像压缩方法AFP-GIC,通过自适应融合先验传输实现解码端的高质量重建,减少了延迟并降低了参数数量,同时在低比特率下提升了视觉质量。
2026-10-06 cs.CV eess.IV
Differentiable Vector Quantization for Rate-Distortion Optimization of Generative Image Compression
University of Electronic Science and Technology of China(电子科技大学);The University of Newcastle, Australia(澳大利亚纽卡斯尔大学)
本文提出RDVQ框架,通过可微松弛代码本分布实现端到端率-失真优化,结合自回归熵模型实现准确的熵建模和测试时率控制,在极低比特率下取得优异性能。
2026-04-12 cs.CV
ZeroGVC: Zero-Shot Generative Video Compression with Autoregressive Diffusion Priors
University of Science and Technology of China(中国科学技术大学);Huawei Inc(华为公司)
提出ZeroGVC,一种零样本生成式视频压缩框架,利用预训练自回归扩散先验,通过码本引导的自回归潜压缩和双向参考模式,在超低码率下实现高质量感知重建,无需额外训练。
2026-06-24 cs.CV eess.IV
Regularized Vector Quantization for Tokenized Image Synthesis
Nanyang Technological University(南洋理工大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
本文提出正则化向量量化框架,通过先验分布正则化和随机掩码正则化解决码本崩溃、利用率低及推理不对齐问题,并引入概率对比损失,在自回归和扩散模型中持续优于现有方法。
2023-10-14 cs.CV
Sinogram Enhancement with Generative Adversarial Networks using Shape Priors
University of Southampton(南安普顿大学)
通过从计算模型中推断测量值来补偿稀缺的测量值是解决不适定逆问题的一种方法。我们通过使用生成模型和有关扫描对象的先验知识完成一组采集来解决有限角度断层扫描。使用生成对抗网络作为模型,计算机辅助设计数据作为形状先验,我们证明了我们的技术比其他最先进的方法具有定量和定性的优势。推断大量的连续缺失测量,我们提供了一种替代其他图像修复技术,未能提供一个令人满意的答案,我们的研究问题:可以减少X射线曝光使用生成模型来推断缺乏测量?
2022-02-01 cs.CV cs.LG eess.IV
CADC: Content Adaptive Diffusion-Based Generative Image Compression
City University of Hong Kong(香港城市大学);University of Science and Technology of China(中国科学技术大学);Central Media Technology Institute, Huawei(华为中央媒体技术研究院)
本文提出CADC,通过三种创新方法解决现有图像压缩在内容自适应中的不足,实现动态对齐图像语义与结构特征。
2026-03-25 cs.CV
3D Gaussian Splatting Data Compression with Mixture of Priors
The University of Hong Kong(香港大学);The University of Newcastle(新castle大学)
针对3DGS数据压缩中熵模型不足与量化策略次优的问题,提出混合先验策略,通过门控机制融合轻量级MLP生成的特征以改进条件熵建模,并利用先验引导的由粗到细量化策略增强有损压缩,在多个基准上达到SOTA。
2025-08-11 cs.CV
Blind Image Deconvolution using Deep Generative Priors
Information Technology University(信息技术大学)
本文提出了一种新的方法来正则化\textit{ill-posed}和\textit{non-linear}盲图像反卷积(盲去模糊)使用深度生成网络作为先验。我们采用了两个独立的生成模型-一个被训练来生成清晰的图像,而另一个被训练来从低维参数生成模糊核。为了去模糊,我们提出了一个交替的梯度下降方案,该方案在每个预训练生成模型的潜在低维空间中运行。我们的实验表明,即使在大的模糊和严重的噪声图像上的去模糊效果很好。为了解决生成模型的缺点,如模式坍塌,我们增加了我们的生成先验与经典的图像先验和复杂的图像数据集上的性能提高报告。去模糊性能取决于生成器的范围如何跨越图像类。有趣的是,我们的实验表明,即使是未经训练的结构化(卷积)生成网络也可以在图像去模糊上下文中充当图像先验,从而使我们能够将结果扩展到更多样化的自然图像数据集。
2019-02-26 cs.CV
Diffusion Model Quantization: A Review
Zhejiang University(浙江大学)
本文系统综述了扩散模型量化的挑战、技术分类及代表性方案,并通过定量基准与定性分析评估量化误差影响,为生成模型在边缘设备上的高效部署提供了未来研究方向。
2025-05-08 cs.CV
BigColor: Colorization using a Generative Color Prior for Natural Images
POSTECH(浦项科技大学);Samsung Electronics(三星电子)
对于逼真和生动的着色,最近已经利用了生成先验。然而,这种生成先验往往失败的野生复杂的图像,由于其有限的表示空间。在本文中,我们提出了BigColor,一种新的彩色化方法,提供生动的彩色化的各种在野外的图像具有复杂的结构。虽然以前的生成先验被训练来合成图像结构和颜色,但我们在专注于给定图像的空间结构的颜色合成之前学习生成颜色。通过这种方式,我们减少了从生成先验合成图像结构的负担,并扩展了其表示空间以覆盖不同的图像。为此,我们提出了一个BigGAN启发的编码器生成器网络,该网络使用空间特征映射而不是空间扁平化的BigGAN潜在代码,从而扩大了表示空间。我们的方法可以在单个前向通道中对不同的输入进行鲁棒的着色,支持任意的输入分辨率,并提供多模态着色结果。我们证明,BigColor显着优于现有的方法,特别是在野生图像具有复杂的结构。
2022-07-20 cs.CV
Alternating Phase Projected Gradient Descent with Generative Priors for Solving Compressive Phase Retrieval
University of California, Riverside(加州大学河滨分校);Iowa State University(爱荷华州立大学)
相位恢复的经典问题出现在各种信号采集系统中。由于问题的不适定性质,解决方案需要对信号的结构进行假设。在过去的几年中,稀疏性和支持度为基础的先验已经成功地解决了这个问题。在这项工作中,我们提出了替代稀疏/支持先验与生成先验,并提出了两种算法来解决相位恢复问题。我们提出的算法结合了AltMin方法的思想,用于非凸稀疏相位恢复和投影梯度下降方法用于使用生成先验求解线性逆问题。我们的经验表明,我们的方法与投影梯度下降的性能优于现有的方法,用于解决相位检索下生成先验。我们支持我们的方法与高斯测量样本的复杂性分析。
2019-03-07 cs.CV
Dense-Prior-Guided Generative Video Compression
本文提出可控生成视频压缩方法,通过多视觉条件引导生成细节,兼顾信号保真度与感知质量。
2026-09-22 cs.CV
Blind Image Deconvolution using Pretrained Generative Priors
Information Technology University(信息技术大学)
本文提出了一种新的方法来正则化病态盲图像反卷积(盲图像去模糊)问题使用深度生成网络。我们采用两个独立的深度生成模型-一个经过训练以生成清晰图像,而另一个经过训练以从低维参数生成模糊内核。为了去模糊,我们提出了一个交替的梯度下降方案,该方案在每个预训练生成模型的潜在低维空间中运行。我们的实验表明,即使在大的模糊和重噪声下,也有很好的去模糊效果。为了提高生成网络没有很好地学习的丰富图像数据集的性能,我们提出了一个修改方案,该方案在生成和经典先验下控制去模糊过程。
2019-08-20 cs.CV
Beyond Stationarity: Rethinking Codebook Collapse in Vector Quantization
Wake Forest University School of Medicine(威斯康星大学福林斯医学院)
本文提出NSVQ和TransVQ方法,通过非平稳性机制解决向量量化中的代码书坍缩问题,提升生成模型的代码书利用率和重建质量。
2026-02-21 cs.CV
Towards Real-World Blind Face Restoration with Generative Facial Prior
Applied Research Center (ARC), Tencent PCG(腾讯平台与内容事业群应用研究中心)
盲人脸恢复通常依赖于人脸先验信息,如人脸几何先验信息或参考先验信息,以恢复真实可靠的细节。然而,非常低质量的输入不能提供准确的几何先验,而高质量的参考是不可访问的,限制了在现实世界中的应用场景。在这项工作中,我们提出了GFP-GAN GAN,它利用封装在预训练的人脸GAN中的丰富多样的先验知识进行盲人脸恢复。该生成面部先验(GFP)通过新颖的通道分割空间特征变换层被纳入面部恢复过程,这使得我们的方法能够实现真实性和保真度的良好平衡。得益于强大的生成面部先验和精细设计,我们的GFP-GAN只需一次向前传递就可以联合恢复面部细节并增强颜色,而GAN反演方法需要在推理时进行昂贵的图像特定优化。大量的实验表明,我们的方法在合成和真实世界的数据集上都取得了优于现有技术的性能。
2021-06-11 cs.CV
Temporal Dynamic Quantization for Diffusion Models
POSTECH(浦项科技大学);SqueezeBits. Inc(SqueezeBits公司)
针对扩散模型激活随时间变化导致8位量化性能下降的问题,提出基于时间步动态调整量化区间的方法,无推理开销且兼容PTQ与QAT,显著提升多数据集上的生成质量。
2023-12-11 cs.CV
Generative ScatterNet Hybrid Deep Learning (G-SHDL) Network with Structural Priors for Semantic Image Segmentation
University of Cambridge(剑桥大学)
本文提出了一种用于语义图像分割的生成式ScatterNet混合深度学习(G-SHDL)网络。所提出的生成架构是能够训练迅速从相对较小的标记数据集使用引入的结构先验。此外,在架构的每一层中的过滤器的数量被优化,从而产生计算上高效的架构。G-SHDL网络在两个图像数据集上对无监督和半监督学习产生最先进的分类性能。G-SHDL网络的监督方法的优势,证明了与训练数据集的大小减少进行实验。
2018-02-13 cs.CV
ExtraGS: Geometric-Aware Trajectory Extrapolation with Uncertainty-Guided Generative Priors
UIUC(伊利诺伊大学香槟分校);Xiaomi EV Project(小米电动车项目)
针对驾驶场景轨迹外推中几何一致性差和渲染过度平滑的问题,提出整合几何与生成先验的ExtraGS框架,通过新型高斯表示及不确定性引导先验整合,显著提升外推视图的真实感与几何一致性。
2025-08-23 cs.CV
Prior Image-Constrained Reconstruction using Style-Based Generative Models
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
从高度不完整的成像测量中获得对物体的有用估计仍然是成像科学的圣杯。深度学习方法在学习对象先验或约束以改善不适定成像逆问题的条件方面显示出了希望。在这项研究中,提出了一个框架,用于估计一个感兴趣的对象是语义相关的一个已知的先验图像。在基于风格的生成模型的解开的潜在空间中制定优化问题,并使用先前图像的解开的潜在表示施加语义上有意义的约束。从理论上分析了利用先验图像从不完整测量中稳定恢复的方法。数值实验表明,我们的方法相比,相关方法的优越性能。
2021-06-14 cs.CV cs.LG eess.IV
Super Resolution Using Segmentation-Prior Self-Attention Generative Adversarial Network
Zhejiang University(浙江大学);Central Media Technology Institute, Huawei Technologies Co., Ltd(华为技术有限公司中央媒体技术研究院)
卷积神经网络(CNN)由于其优越的性能而被广泛应用于解决超分辨率(SR)任务。但由于CNN缺乏先验知识和小的感受野,超分辨率问题仍然具有挑战性。我们提出了分段-Piror自注意生成对抗网络(SPSAGAN),将分段先验和特征注意力结合到一个统一的框架中。这种组合是由精心设计的加权加法来平衡特征和分割注意力的影响,因此网络可以强调同一分割类别中的纹理,同时专注于长距离特征关系。我们还提出了一个轻量级的跳过连接架构称为残差中残差稀疏块(RRSB),以进一步提高超分辨率性能和节省计算。大量的实验表明,SPSAGAN可以生成更真实和视觉上令人愉快的纹理相比,最先进的SFTGAN和ESRGAN在许多SR数据集。
2020-03-07 cs.CV cs.LG eess.IV
An Energy-Based Prior for Generative Saliency
the Australian National University(澳大利亚国立大学);Akool Research(Akool研究院);LinkedIn Ads(领英广告)
提出一种基于能量先验的生成式显著性预测框架,通过Langevin动力学联合训练生成器与能量先验,在RGB和RGB-D任务中实现了准确预测与可靠不确定性估计。
2023-06-27 cs.CV
Learning Generative Structure Prior for Blind Text Image Super-resolution
Nanyang Technological University(南洋理工大学);Harbin Institute of Technology(哈尔滨工业大学)
盲文本图像超分辨率(SR)是具有挑战性的,因为人们需要应付不同的字体风格和未知的退化。为了解决这个问题,现有的方法并行执行字符识别,通过损失约束或中间特征条件来正则化SR任务。但是,高级prior在遇到严重退化时仍然可能失败。考虑到复杂结构的特性,例如,将多个象形或表意符号组合成一个字符的汉字。在这项工作中,我们提出了一个新的先验,更侧重于字符结构。特别是,我们学习在StyleGAN中封装丰富多样的结构,并利用这种生成结构先验进行恢复。为了限制StyleGAN的生成空间,使其遵循字符的结构,同时保持处理不同字体风格的灵活性,我们将每个字符的离散特征存储在码本中。该代码随后驱动StyleGAN生成高分辨率的结构细节,以帮助文本SR。与基于字符识别的先验相比,所提出的结构先验具有更强的字符特定指导,以恢复指定字符的忠实和精确的笔画。在合成数据集和真实数据集上的大量实验表明,所提出的生成结构在促进鲁棒文本SR方面具有令人信服的性能。
2023-03-26 cs.CV
Generative Patch Priors for Practical Compressive Image Recovery
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);Misubishi Electric Research Laboratories(三菱电机研究实验室);Arizona State University(亚利桑那州立大学)
在本文中,我们提出了生成补丁先验(GPP),它基于补丁流形模型定义了压缩图像恢复的生成先验。与限制在预训练生成器的范围空间内的学习图像级先验不同,GPP可以使用预训练的补丁生成器恢复各种自然图像。此外,GPP保留了生成先验的优点,如在极低的感测速率下的高重建质量,同时也更普遍地适用。我们表明,GPP优于几个无监督和监督技术在三个不同的传感模型-线性压缩感知与已知的,未知的校准设置,和非线性相位恢复问题。最后,我们提出了一种交替优化策略,使用GPP进行联合校准和重建,该策略在现实世界的未校准压缩感知数据集上对多个基线表现良好。
2020-10-05 cs.CV cs.LG
ELITE: Efficient Gaussian Head Avatar from a Monocular Video via Learned Initialization and TEst-time Generative Adaptation
Dept. of Electrical Engineering, POSTECH(POSTECH电子工程系);School of Computing, KAIST(韩国科学技术院计算机学院);UNIST(全南大学);University of Tübingen(图宾根大学);Tübingen AI Center(图宾根人工智能中心);Max Planck Institute for Informatics(马克斯·普朗克信息研究所)
ELITE通过学习初始化和测试时生成适应,高效生成高斯头人偶,实现高保真和强野外泛化,合成速度比2D方法快60倍。
2026-01-15 cs.CV
GENA3D: Generative Amodal 3D Modeling by Bridging 2D Priors and 3D Coherence
Dartmouth College(达特茅斯学院)
提出GENA3D框架,结合2D生成先验与3D几何推理,在部分遮挡下生成完整且几何一致的3D物体,优于现有方法。
2026-06-24 cs.CV
Generative Neural Video Compression via Video Diffusion Prior
School of Information and Communication Engineering, Communication University of China(信息与通信工程学院,通信大学);School of Computer Science, Peking University(计算机学院,北京大学)
GNVC-VD通过结合视频扩散先验和序列级去噪,实现了高效的生成神经视频压缩,显著减少了闪烁伪影并提升了感知质量。
2026-02-23 cs.CV