Class-specific Poisson denoising by patch-based importance sampling
Instituto de Telecomunicacoes（电信研究所）；Instituto Superior Tecnico（高等技术学院）；Universidade de Lisboa（里斯本大学）
在本文中，我们解决的问题，恢复图像退化的泊松噪声，其中的图像是已知属于一个特定的类。在所提出的方法中，一个数据集的干净补丁从感兴趣的类的图像聚类使用多元高斯分布。为了恢复噪声图像，每个噪声补丁被分配到这些分布之一，并获得相应的最小均方误差（MMSE）估计。我们建议使用自归一化的重要性采样方法，这是一种Monte-Carlo族的方法，用于确定最可能的分布和近似的干净补丁的MMSE估计。实验结果表明，我们提出的方法优于其他方法的泊松去噪在低信噪比制度。
2017-06-09 cs.CV
SharedSAE: a unified sparse dictionary across u-net blocks and denoising time for diffusion models
Hunan University（湖南大学）
SharedSAE是扩散模型中跨U-Net模块和去噪时间的统一稀疏字典，通过特定适配器和时间条件模块实现，可用于概念分析与擦除，能将I2P检测器阳性子集的NudeNet阳性生成从139降至1。
2026-10-14 cs.AI cs.CV cs.LG
MMSE Estimation for Poisson Noise Removal in Images
University Medical Center Mannheim, Heidelberg University（海德堡大学曼海姆医学中心）
泊松噪声抑制在医学成像、显微镜和天文成像等应用中是一个重要的预处理步骤。在这项工作中，我们提出了一种新的补丁明智的泊松噪声去除策略，其中的MMSE估计是利用，以产生每个图像补丁的去噪结果。MMSE估计器的快速和准确的计算进行使用k-d树搜索，然后在K-最近邻图中搜索。实验结果表明，该方法是低信噪比的较好选择。
2015-12-02 cs.CV cs.DS
Stochastic Image Denoising by Sampling from the Posterior Distribution
The Technion - Israel Institute of Technology（以色列理工学院）
图像去噪是一个众所周知且研究得很好的问题，通常以结果和原始图像之间的均方误差（MSE）最小化为目标。不幸的是，特别是对于严重的噪声水平，这种最小MSE（MMSE）解决方案可能导致模糊的输出图像。在这项工作中，我们提出了一种新的随机去噪方法，产生可行的和高感知质量的结果，同时保持一个小的MSE。我们的方法采用朗之万动力学依赖于任何给定的MMSE去噪器的重复应用，通过有效地从后验分布采样来获得重建图像。由于其随机性，所提出的算法可以产生各种高质量的输出为一个给定的噪声输入，所有被证明是合法的去噪结果。此外，我们提出了一个扩展我们的算法来处理修复问题，恢复丢失的像素，同时从部分给定的数据中去除噪声。
2021-08-31 cs.CV eess.IV
Multimodal Image Denoising based on Coupled Dictionary Learning
University College London（伦敦大学学院）
在本文中，我们提出了一种新的多模态图像去噪方法，在一个给定的图像模态下的指导图像模态的援助下，衰减高斯白加性噪声。耦合图像去噪方法包括两个阶段：耦合稀疏编码和重构。第一阶段执行联合稀疏变换的多模态图像相对于一组学习耦合字典，其次是收缩操作的稀疏表示。然后，在第二阶段中，收缩表示，连同耦合字典，有助于通过逆变换的去噪图像的重建。所提出的去噪方案展示了捕获不同数据模态的共同和独特特征的能力。这种能力使我们的方法更强大的指导和目标图像之间的不一致，从而克服了缺点，如纹理复制文物。在真实多模态图像上的实验表明，该方法能够更好地利用指导信息，在图像去噪任务中带来显着的好处，相对于最先进的。
2018-06-26 cs.CV
DP-TTA: Test-time Adaptation for Transient Electromagnetic Signal Denoising via Dictionary-driven Prior Regularization
College of Mechanical and Electrical Engineering, Chengdu University of Technology（成都理工大学机械与电子工程学院）；City University of Hong Kong, Department of Electrical Engineering（香港城市大学电子工程系）；Sichuan Provincial Natural Resources Survey and Design Group Co., Ltd.（四川省自然资源调查设计集团有限公司）；Massey University, School of Mathematical and Computational Sciences（马斯利大学数学与计算科学学院）
针对跨区域瞬变电磁信号去噪性能下降问题，提出DP-TTA方法，利用字典驱动先验正则化引导测试时自适应，显著提升新场景去噪效果。
2025-10-15 cs.CV
Optimization of Clustering for Clustering-based Image Denoising
研究了加性高斯白噪声（AWGN）污染图像的去噪问题。这一问题在信号处理领域已经持续了50多年。本文提出了一种基于图像构造块全局聚类的方法。注意到聚类类型在基于聚类的去噪方法中起着重要作用，我们解决了两个关于聚类的问题。首先，应该考虑哪些数据部分进行聚类？第二，什么样的数据聚类方法适合去噪？利用聚类来学习过完备字典。通过获得稀疏分解的噪声图像块的字典原子，实现去噪版本。实验结果表明，我们的字典学习框架优于传统的字典学习方法，如K-SVD。
2013-10-28 cs.CV
CDLNet: Noise-Adaptive Convolutional Dictionary Learning Network for Blind Denoising and Demosaicing
New York University Tandon School of Engineering（纽约大学坦登工程学院）
针对现有底层图像处理深度学习模型可解释性差的问题，提出可解释展开式卷积字典学习网络CDLNet，实现参数量可比下更优的去噪、联合去噪去马赛克性能，及强噪声自适应盲去噪泛化能力。
2022-04-26 cs.CV eess.IV
Bayesian imaging using Plug & Play priors: when Langevin meets Tweedie
University of Oxford（牛津大学）；Institut Universitaire de France（法国大学研究院）；Heriot-Watt University（赫瑞瓦特大学）；Maxwell Institute for Mathematical Sciences（麦克斯韦数学科学研究所）
本文针对贝叶斯成像中 Plug & Play (PnP) 先验方法缺乏收敛证明的问题，提出了两种可证明收敛的算法 PnP-ULA 和 PnP-SGD，并建立了详细的收敛保证，适用于图像去模糊、修复和去噪等任务。
2022-01-12 cs.CV eess.IV math.ST
Direct Unsupervised Denoising
University of Birmingham（伯明翰大学）
本文提出在VAE旁训练确定性网络直接预测后验中心趋势，以极低计算成本实现超越无监督去噪方法的性能。
2023-12-04 cs.CV eess.IV
Gabor is Enough: Interpretable Deep Denoising with a Gabor Synthesis Dictionary Prior
New York University, Tandon School of Engineering（纽约大学坦登工程学院）
本研究将去噪CNN的滤波器约束为可学习二维实Gabor滤波器，提出GDLNet，以极少参数取得接近SOTA的去噪性能，保留噪声泛化性，验证了低层视觉CNN表征可如Gabor滤波器组般简单可解释。
2022-04-23 cs.CV eess.IV eess.SP
A deep dictionary network-based foundation model for ultra-low-dose CT denoising
Yanshan University（燕山大学）；Capital Medical University（首都医科大学）；Beijing Friendship Hospital（北京友谊医院）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局）
针对超低剂量CT去噪中器官特异性方法泛化差的问题，提出基于深度字典网络的可解释基础模型，通过级联稀疏编码与动态字典实现统一多器官去噪，性能超越现有方法。
2026-09-16 cs.CV cs.LG eess.IV
Correlation Preserving Sparse Coding Over Multi-level Dictionaries for Image Denoising
National Engineering Laboratory for Video Technology, Peking University（北京大学视频技术国家工程实验室）
本文提出了一种基于相关保持稀疏编码的图像去噪方法。由于基集之间的不稳定和不可靠的相关性会限制字典驱动去噪方法的性能，因此在编码过程中采用了两种有效的正则化策略。具体地说，基于图的正则化器是建立在保持全局相似性相关，它可以自适应地捕获的几何结构和区别性特征的纹理补丁。特别地，图中的边权重通过寻求非负低秩构造来获得。此外，鲁棒的局部约束编码不仅可以自动保持空间邻域信息，而且可以在学习过完备字典时保持噪声块中存在的内部一致性。实验结果表明，我们提出的方法达到了最先进的去噪性能的PSNR和主观视觉质量。
2016-12-23 cs.CV
MMSE Approximation For Sparse Coding Algorithms Using Stochastic Resonance
Technion（以色列理工学院）；Johns Hopkins University（约翰斯·霍普金斯大学）；Stanford University（斯坦福大学）；Harvard University（哈佛大学）
稀疏编码是指在典型的过完备字典中追求信号的稀疏表示。从贝叶斯的角度来看，稀疏编码在稀疏先验下提供未知向量的最大后验概率（MAP）估计。在这项工作中，我们建议提高稀疏编码算法的性能，故意和控制污染的输入与随机噪声，一种被称为随机共振的现象。该方法将受控噪声添加到输入，并从扰动信号中估计稀疏表示。然后，通过将原始输入信号投影到恢复的支持集上来获得一组这样的解。我们提出了所描述的方法的两个变体，它们在最后一步中有所不同。第一个是一个可证明的收敛近似的最小均方误差（MMSE）估计，依赖于生成模型和应用加权平均恢复的解决方案。第二个是前者的一个宽松的变体，它只是应用经验平均值。我们表明，这两种方法提供了一个计算效率的近似MMSE估计，这是典型的难以计算。我们实证证明我们的研究结果，并提供了我们的方法在几种不同的情况下的理论分析。
2019-04-11 cs.CV eess.SP
Cloud K-SVD for Image Denoising
Aarhus University（奥胡斯大学）
云K-SVD是一种字典学习算法，它可以在多个节点上进行训练，从而产生一个共同的字典来表示图像数据中的低维几何结构。我们提出了一种新的应用程序的算法，因为我们用它来恢复无噪和嘈杂的图像重叠补丁。我们使用Docker容器在Kubernetes中实现了一个节点网络，以促进Cloud K-SVD。实验结果表明，云K-SVD算法可以近似地恢复图像，并在不牺牲恢复精度的前提下，从基准灰度图像中去除可量化的噪声;我们实现了0.88，0.91和0.95之间的干净和恢复图像的噪声水平的SSIM指数（$μ$ = 0，$σ^{2}$ = 0.01，0.005，0.001），这与现场的SOTA类似。Cloud K-SVD显然能够学习跨多个节点的互字典，并从图像中去除AWGN。互字典可用于在网络中的任何节点处恢复特定图像。
2023-03-01 cs.AI cs.CV cs.DC
Cloud Dictionary: Sparse Coding and Modeling for Point Clouds
Tel-Aviv University（特拉维夫大学）
随着LIDAR和飞行时间相机等距离传感器的发展，3D点云扫描在计算机视觉应用中变得无处不在，其中最突出的是手势识别和自动驾驶。基于简约的算法在图像和视频上取得了巨大的成功，其中数据点在规则的笛卡尔网格上采样。我们提出了一个适应这些技术不规则采样信号，通过使用连续字典。我们以点云去噪的形式给出了一个示例应用。
2017-03-20 cs.CV cs.GR
Coupled Analysis Dictionary Learning to inductively learn inversion: Application to real-time reconstruction of Biomedical signals
TCS Research and Innovation（TCS研究与创新部）
这项工作解决了从低维投影重建生物医学信号的问题。传统上，基于压缩感知（CS）的技术已经被用于该任务。这些都是换能反演过程，这些方法的问题是反演是耗时的，因此不适合于实时的【形】应用。随着最近深度学习的出现，堆叠稀疏去噪自动编码器（SSDAE）已用于在归纳设置中学习反演。归纳学习的训练周期很长，但在应用过程中非常快-能够实现实时的【形】速度。本文提出了一种新的反演过程的归纳学习方法。它基于耦合分析字典学习。生物医学信号重建的结果表明，我们提出的方法是非常快的，产生的结果远远优于CS和SSDAE。
2018-12-24 cs.CV
Sparse Dictionary Learning for Image Recovery by Iterative Shrinkage
Institute for Mathematics, Brandenburg Technical University（勃兰登堡工业大学数学研究所）
本文研究图像恢复中的稀疏字典学习问题，比较多种基于收缩操作的稀疏优化方法，发现优化方法的选择在训练数据可用性和计算效率方面具有重要实际意义。
2025-04-02 cs.CV
Sparse Representation and Non-Negative Matrix Factorization for image denoise
Zagazig University（宰加济格大学）
近年来，图像盲分离问题得到了广泛的研究，尤其是医学图像去噪，它是医学诊断的重要环节。去除噪声而不影响图像的相关特征是主要目标。冗余字典上的稀疏分解成为解决这一问题的常用方法。NMF代码自然倾向于稀疏的、基于部分的表示。在稀疏表示中，信号表示为冗余字典原子的线性组合。本文提出了一种基于冗余字典上稀疏表示和非负矩阵分解（N-NMF）的算法。该算法首先对含噪图像构造训练样本进行字典运算，然后利用近似匹配追踪算法（AMP）寻找最佳的信源表示。建议的N-NMF给出了一个更好的重建图像去噪之一。我们比较了我们的数值结果与不同的图像去噪技术，我们发现所提出的技术的性能是有前途的。关键词：图像去噪，稀疏表示，字典学习，匹配追踪，非负矩阵分解。
2018-07-05 cs.CV
Rethinking the CSC Model for Natural Images
Technion（以色列理工学院）
当正则化信号和图像处理中的逆问题时，经常使用相对于过完备字典的稀疏表示。近年来，卷积稀疏编码（CSC）模型，其中的字典由移位不变的过滤器，得到了新的兴趣。虽然该模型已成功地应用于一些图像处理问题，但在去噪等简单任务上仍落后于传统的基于块的方法。在这项工作中，我们提供了新的见解CSC模型和它的能力，以代表自然图像，并建议贝叶斯连接这个模型和它的补丁为基础的祖先。有了这些观察，我们提出了一种新的前馈网络，遵循MMSE近似过程的CSC模型，使用跨步卷积。这种监督架构的性能被证明是与最先进的方法，同时使用少得多的参数。
2019-09-12 cs.CV eess.IV
Learning a collaborative multiscale dictionary based on robust empirical mode decomposition
Peking University（北京大学）
字典学习在图像处理的许多领域都是一个具有挑战性的课题。基本目标是从过完备基集中学习稀疏表示。由于结合了通用多尺度表示和基于学习的自适应性的优点，多尺度字典表示方法具有捕获自然图像结构特征的能力。然而，现有的多尺度学习方法仍然遭受三个主要的弱点：不适应不同尺度的图像数据，对噪声和离群值的敏感性，难以确定最佳的字典结构。在本文中，我们提出了一种新的多尺度字典学习模式的稀疏图像表示的基础上改进的经验模式分解。这个强大的数据驱动的多维信号分析工具可以根据数据本身的固有模式，完全自适应地将图像分解为多尺度振荡分量。这种处理可以获得一个强大的和有效的稀疏表示，同时产生一个原始的基字典在多个几何尺度和空间频带。该字典是通过基于频率聚类选择最佳振荡原子来改进的。为了进一步增强稀疏性和泛化能力，使用一致性正则化模型学习容差字典。一个快速的邻近计划，以优化这个模型。多尺度字典被认为是振荡字典和容差字典的产物。实验结果表明，所提出的学习方法具有优越的性能在稀疏图像表示相比，几个竞争的方法。我们也展示了有前途的结果在图像去噪应用。
2017-04-04 cs.CV cs.LG
Discriminative Dictionary Learning based on Statistical Methods
School of Computer and Information Sciences, University of Hyderabad（海得拉巴大学计算机与信息科学学院）
本文探讨了利用统计方法改进字典学习以提升分类性能，提出混合方法结合稀疏系数与多层感知机，实现判别字典学习。
2021-11-17 cs.CV
Supervised Dictionary Learning and Sparse Representation-A Review
University of Toronto（多伦多大学）；Sunnybrook Health Sciences Center（桑尼布鲁克健康科学中心）；University of Waterloo（滑铁卢大学）
字典学习和稀疏表示（DLSR）是最近成功的用于数据表示的数学模型，其在诸如模式识别、机器学习、计算机视觉和医学成像的各种领域中实现最先进的性能。DLSR的原始公式是基于原始信号和其在学习字典空间中的稀疏表示之间的重建误差最小化。虽然这种公式对于解决去噪、修复和编码等问题是最佳的，但它可能不会导致分类任务中的最佳解决方案，其中最终目标是使学习的字典和相应的稀疏表示尽可能具有区分性。这促使了一类新技术的出现，这类技术被恰当地称为监督字典学习和稀疏表示（S-DLSR），从而在分类任务中实现了更优化的字典和稀疏表示。尽管许多研究工作的S-DLSR，文献缺乏一个全面的看法，这些技术，它们的连接，优点和缺点。在本文中，我们解决这个差距，并提供了一个审查最近提出的算法S-DLSR。我们首先提出了一个分类法，这些算法分为六个类别的基础上采取的方法，包括标签信息到字典和/或稀疏表示的学习。对于每一个类别，我们绘制了这一类别中的算法之间的连接，并为它们提供了一个统一的框架。然后，我们为应用研究人员提供了如何根据手头的问题表示和学习S-DLSR解决方案的构建块的指导方针。本文综述了S-DLSR的最新方法，并对这一新兴研究领域的研究和开发进行了深入的探讨。
2015-02-20 cs.CV
Closed-Form Nonlocal Shrinkage for Multiplicative Image Denoising and SAR Despeckling
School of Electronic Engineering, Xidian University（西安电子科技大学电子工程学院）；Kunshan Innovation Institute of Xidian University（西安电子科技大学昆山创新研究院）；University of Montenegro（黑山大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Macquarie University（麦考瑞大学）
本文提出一种几何校准闭式收缩的非局部稀疏估计器，无需训练，在SAR去噪的PSNR/SSIM及比值图像偏差指标上优于多数现有方法。
2026-09-09 cs.CV
3D seismic data denoising using two-dimensional sparse coding scheme
PetroChina Research Institute of Petroleum Exploration and Development (RIPED)-Northwest（中国石油勘探开发研究院（西北））；University of Electronic Science and Technology of China（电子科技大学）；Columbia University（哥伦比亚大学）
地震数据去噪是地球物理应用中的一个重要问题，基于变换的函数法是应用最广泛的方法之一。然而，由于地震数据的复杂性，设计合适的稀疏表示来表示基于变换的函数组是具有挑战性的。本文提出了一种基于学习型超完备字典的地震数据去噪方法，该方法采用二维的【形】稀疏编码（2DSC）。首先，我们将输入地震数据和字典建模为三阶张量，并引入张量线性组合进行数据近似。其次，我们应用学习型超完备字典，即，通过学习和训练实现最佳稀疏数据表示。第三，我们利用交替极小化算法来解决地震去噪的优化问题。最后，我们评估其去噪性能的合成地震数据和土地数据调查。实验结果表明，二维的【形】稀疏编码方案降低了计算量，提高了信噪比。
2017-04-08 cs.CE cs.CV
Global hard thresholding algorithms for joint sparse image representation and denoising
传统上，图像的稀疏编码是通过将它们切割成小块并在给定用于每个块的预定数量的非零系数的情况下在某个字典上单独表示每个块来完成的。在缺乏一种方法来有效地分布在所有补丁的非零系数的总数（或全球预算），目前的稀疏恢复算法分布的全球预算，平等地跨越所有补丁，尽管它们之间的结构复杂性的广泛的差异。在这项工作中，我们提出了一个新的框架联合稀疏表示和恢复的所有图像补丁同时进行。我们还提出了两种新的全局硬阈值算法，基于变量分裂的概念，解决联合稀疏模型。使用合成和真实数据的实验表明，该框架的有效性稀疏图像表示和去噪任务。此外，对所提出算法的时间复杂度分析表明，这两种算法具有很高的可扩展性，有利于在大百万像素图像上使用。
2017-05-27 cs.CV cs.LG
Revisit Dictionary Learning for Video Compressive Sensing under the Plug-and-Play Framework
East China Normal University（华东师范大学）；The University of Hong Kong（香港大学）
快拍压缩成像（snapshot compressive imaging，SCI）是针对高维数据的数据采集和分析，利用光学成像系统获得高维数据的二维压缩测量值，并利用压缩感知算法进行数据重构。虽然Plug-and-Play（PIPE）框架为SCI重建提供了一种新兴的解决方案，但其固有的去噪过程仍然是一个具有挑战性的问题。不幸的是，现有的去噪器在PADER框架要么遭受有限的性能或需要大量的训练数据。在本文中，我们提出了一种高效和有效的基于浅层学习的视频SCI重建算法。重新审视字典学习方法，我们为Pandem框架提供了一种新的去噪器，即核奇异值分解（KSVD）。得益于KSVD的出现，我们的算法在质量、速度和训练难度之间保持了良好的平衡。在各种数据集上，我们的模拟结果的定量和定性评价证明了我们所提出的方法的有效性。与使用总变分的典型基线相比，我们的方法在PSNR和SSIM中实现了约$2$ dB的改进。我们希望我们提出的PnP-KSVD算法可以作为一个新的基线视频SCI重建。
2022-03-10 cs.CV eess.IV
Sparse Coding on Cascaded Residuals
Australian National University（澳大利亚国立大学）；Data61/CSIRO（Data61/联邦科学与工业研究组织）
本文试图结合字典学习和分层图像表示的原则。为了使字典原子从扩展的感受野中捕获额外的信息，并获得更好的描述能力，我们提出了一个用于字典学习和稀疏编码的两遍多分辨率级联框架。级联允许使用相同维度的字典原子以不同分辨率进行协作重建。我们共同学习的字典包括适应粗层可用信息的原子，其中原子的支持达到其最大范围，以及补充细节逐渐细化重建目标的残留图像。通过先前层的聚合重建与该层的下采样原始图像之间的差异来计算层处的残差。我们的方法使用更少的系数生成更灵活和准确的表示。它的计算效率源于编码的粗分辨率，这是微不足道的，和编码的残差，这是相对稀疏。我们在多个数据集上进行的大量实验表明，这种新方法在图像编码、去噪、修复和伪影去除任务中的功能强大，优于最先进的技术。
2019-11-07 cs.CV cs.LG eess.IV
Multiscale Adaptive Representation of Signals: I. The Basic Framework
Princeton University（普林斯顿大学）；Peking University（北京大学）
我们介绍了一个框架，用于设计多尺度，自适应，平移不变的框架和双帧表示信号。新框架称为AdaFrame，在推理时的计算效率方面优于基于字典学习的技术。该算法在编码效率上改进了小波框架等经典多尺度基。它提供了一个有吸引力的替代字典学习为基础的技术，低级别的信号处理任务，如压缩和去噪，以及高级别的任务，如特征提取的对象识别。还讨论了与深度卷积网络的连接。特别是，所提出的框架揭示了用于可视化卷积网络中中间层激活的常用方法的缺点，并提出了一种自然的替代方案。
2015-07-17 cs.CV
Masked Image Modeling with Denoising Contrast
ARC Lab（ARC实验室）；Peking University（北京大学）；Huazhong University of Science and Technology（华中科技大学）；Foundation Technology Center（基础技术中心）；Tsinghua University（清华大学）；Tencent PCG（腾讯平台与内容事业群）
自监督视觉表示学习从对比学习发展到掩码图像建模（MIM），本质上并没有显著的区别，即如何设计合适的托词任务进行视觉字典查找。MIM最近在视觉Transformer（ViTs）上以最先进的性能主导了这一研究领域，其核心是通过去噪自动编码机制增强网络的块级视觉上下文捕获。而不是像以前的作品中那样用额外的训练阶段来定制图像标记器，我们释放了对比学习在去噪自动编码上的巨大潜力，并引入了一种纯MIM方法，ConMIM，以产生简单的图像内补丁间对比约束作为掩蔽补丁预测的唯一学习目标。我们进一步加强了非对称设计的去噪机制，包括图像扰动和模型进度，以改善网络的预训练。具有各种尺度的ConMIM预训练模型在下游图像分类、语义分割、目标检测和实例分割任务上实现了有竞争力的结果，例如，在ImageNet-1 K分类上，我们使用ViT-Small实现了83.9%的top-1准确率，使用ViT-Base实现了85.3%的准确率，而无需额外的数据进行预训练。
2023-01-29 cs.CV
An analytic theory of convolutional neural network inverse problems solvers
IRIT \& CBI, CNRS \& Université Toulouse, France；Toulouse School of Economics, Université Toulouse Capitole, France
通过最小均方误差估计器引入平移等变性和有限感受野的归纳偏置，推导出局部等变MMSE的解析公式，并在多种逆问题、数据集和架构上验证其与神经网络输出高度一致。
2026-05-26 cs.CV cs.LG
Robust Kronecker-Decomposable Component Analysis for Low-Rank Modeling
Imperial College London（帝国理工学院）；Middlesex University（密德萨斯大学）；University of Oulu（奥卢大学）
字典学习和分量分析是研究最充分和最活跃的研究领域之一的一部分，处于信号和图像处理、计算机视觉和统计机器学习的交叉点。在字典学习中，当前选择的方法可以说是K-SVD及其变体，它们学习字典（即，分解）以用于经由奇异值分解的稀疏编码。在鲁棒分量分析中，主要的方法来自主分量追踪（PCP），它从未知幅度和支持的稀疏损坏中恢复低秩矩阵。然而，K-SVD对训练集中噪声和离群值的存在很敏感。此外，PCP不提供尊重数据结构的字典（例如，图像），并且当通过凸松弛求解时需要昂贵的SVD计算。在本文中，我们介绍了一种新的鲁棒分解的图像结合稀疏字典学习和PCP的想法。我们提出了一种新的克罗内克可分解成分分析，它对严重腐败具有鲁棒性，可用于低秩建模，并利用可分性来解决显着较小的问题。我们设计了一个有效的学习算法，通过绘制与张量分解的限制形式的链接。所提出的方法的有效性证明了在现实世界中的应用，即背景减除和图像去噪，通过执行一个彻底的比较与当前的最先进的。
2017-07-26 cs.CV stat.ML
Efficient Dictionary Learning with Sparseness-Enforcing Projections
Ulm University（乌尔姆大学）
学习字典适合稀疏编码，而不是使用工程基地已被证明是有效的各种图像处理任务。本文研究了优化字典的图像数据的表示是强制显式稀疏相对于一个光滑的，归一化的稀疏性措施。这涉及到计算欧几里德投影到稀疏度量的水平集上。而以前的算法，这个优化问题至少有准线性的时间复杂度，在这里提出的第一个算法具有线性时间复杂度和恒定的空间复杂度。其关键是基于软收缩函数的投影结果的表征的数学上严格的推导。这一理论被应用于一种名为Easy Dictionary Learning（EZDL）的原始算法中，该算法使用简单且快速计算的Hebbian-like学习规则来学习词典。新算法是有效的，表达和特别简单的实现。它表明，尽管它的简单性，所提出的学习算法是能够产生各种各样的字典，特别是拓扑组织的原子或可分离的原子。此外，字典的表现力作为基准学习算法在整个图像的再现质量方面，并导致等效的去噪性能。EZDL的学习速度比已经非常高效的在线词典学习算法快大约30%，因此有资格进行快速数据集分析和处理大量学习样本的问题。
2016-04-16 cs.CV cs.LG cs.NE
Robust Kronecker Component Analysis
Imperial College London（帝国理工学院）；Middlesex University London（伦敦米德尔塞克斯大学）；University of Oulu（奥卢大学）
字典学习和组件分析模型是学习与给定任务（特征提取，降维，去噪等）相关的紧凑表示的基础。模型的复杂性通过特定的结构进行编码，例如稀疏性，低秩性或非负性。不幸的是，像K-SVD这样的方法-通过奇异值分解（SVD）学习字典进行稀疏编码-很难扩展到大容量和高维的视觉数据，并且在存在离群值的情况下很脆弱。相反，诸如鲁棒主成分分析（RPCA）的鲁棒成分分析方法能够恢复低复杂度（例如，低秩）表示，但不提供尊重数据结构的字典（例如，图像），并且还涉及昂贵的计算。在本文中，我们提出了一种新的Kronecker可分解的组件分析模型，被称为鲁棒Kronecker组件分析（RKCA），它结合了稀疏字典学习和鲁棒组件分析的思想。RKCA有几个吸引人的属性，包括对严重腐败的鲁棒性;它可以用于低秩建模，并利用可分性来解决更小的问题。我们设计了一个有效的学习算法，通过使用张量分解的限制形式绘制链接，并分析其最优性和低秩性质。所提出的方法的有效性证明了在现实世界中的应用，即背景减除和图像去噪和完成，通过执行一个彻底的比较与当前的最先进的。
2018-11-10 cs.CV cs.LG stat.ML
Poisson2Sparse: Self-Supervised Poisson Denoising From a Single Image
University of California, Riverside（加州大学河滨分校）；Vimaan AI（Vimaan人工智能公司）
针对生物医学成像中的泊松噪声问题，提出基于稀疏字典学习的自监督单图像去噪方法Poisson2Sparse，通过循环神经网络强制稀疏性实现隐式正则化，无需干净真值数据，在PSNR和SSIM指标及细节恢复上优于现有方法。
2022-06-27 cs.CV eess.IV
FRIST - Flipping and Rotation Invariant Sparsifying Transform Learning and Applications
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Michigan（密歇根大学）
基于稀疏表示的特征，特别是基于综合字典模型的特征，在信号处理和计算机视觉中得到了广泛的应用。然而，合成字典学习通常涉及NP难稀疏编码和昂贵的学习步骤。近年来，稀疏化变换学习因其计算量小和在交替算法中的最优更新而受到人们的关注。在这项工作中，我们开发了一种方法来学习翻转和旋转不变稀疏变换，称为FRIST，以更好地表示包含各种几何方向的纹理的自然图像。所提出的交替FRIST学习算法涉及有效的最优更新。我们提供了一个收敛保证，并证明了所提出的FRIST学习方法的经验收敛行为。初步实验表明，FRIST学习的稀疏图像表示，分割，去噪，鲁棒的修复，和基于压缩感知的磁共振图像重建的有前途的性能。
2017-10-16 cs.CV cs.LG
Sparse Factorization Layers for Neural Networks with Limited Supervision
University of Michigan（密歇根大学）
虽然CNN在许多视觉问题上已经取得了巨大的进步，但它们依赖于大量的标记训练数据。另一方面，字典学习并不能扩展到CNN可以处理的问题的大小，尽管它在去噪和修复等低级视觉任务中非常有效。最近，人们越来越关注将字典学习方法用于监督任务，如分类和逆问题。我们提出了两个基于字典学习的新网络层：稀疏因子分解层和卷积稀疏因子分解层，分别类似于全连接层和卷积层。使用我们的推导，这些层可以被放入现有的CNN中，以端到端的方式与反向传播一起训练，并以经典CNN无法实现的方式利用半监督。我们通过实验将具有这两个新层的网络与基线CNN进行比较。我们的研究结果表明，当监督数据很少时，具有稀疏分解层的网络能够优于经典CNN。与没有稀疏因子分解层的CNN相比，它们在某些任务中的性能也有所提高。
2016-12-14 cs.AI cs.CV stat.ML
Fast Sublinear Sparse Representation using Shallow Tree Matching Pursuit
Rice University（莱斯大学）
使用高度过完备字典的稀疏近似是许多成像应用的最先进工具，包括去噪、超分辨率、压缩传感、光场分析和对象识别。不幸的是，这种方法的适用性是严重阻碍了稀疏近似的计算负担：这些算法是线性或超线性的数据维数和字典的大小。我们提出了一个框架，学习的层次结构的过完备字典，使稀疏表示的快速计算。我们的方法建立在基于树的最近邻匹配策略，并提出了特定领域的增强，是非常有效的图像补丁的分析。与大多数构建空间数据结构的流行方法相反，我们的方法依赖于层相对较少的浅平衡树。我们在几个应用程序上进行了大量的实验，例如图像去噪/超分辨率，压缩视频/光场传感，我们实际上实现了100- 1000倍的加速（准确度损失小于1dB）。
2014-12-01 cs.CV
Sparse Coding with Multi-Layer Decoders using Variance Regularization
Center for Data Science（数据科学中心）；New York University（纽约大学）；Courant Institute（库朗研究所）；Meta AI - FAIR（Meta人工智能实验室——基础人工智能研究团队）
图像的稀疏表示在许多计算机视觉应用中是有用的。具有$l_1$惩罚和学习的线性字典的稀疏编码需要字典的正则化以防止代码的$l_1$范数的崩溃。通常，这种正则化需要约束字典元素的欧几里德范数。在这项工作中，我们提出了一种新的稀疏编码协议，它可以防止崩溃的代码，而不需要正则化的解码器。我们的方法直接正则化的代码，使每个潜在的代码组件的方差大于一个固定的阈值在一组稀疏表示为一组给定的输入。此外，我们探索的方法，有效地训练稀疏编码系统与多层解码器，因为他们可以模拟更复杂的关系比线性字典。在我们的实验与MNIST和自然图像补丁，我们表明，解码器学习与我们的方法在线性和多层的情况下具有可解释的功能。此外，我们表明，与具有线性字典的自编码器相比，使用我们的方差正则化方法训练的具有多层解码器的稀疏自编码器可以产生具有更稀疏表示的更高质量的重建。此外，用我们的方差正则化方法获得的稀疏表示在低数据状态下的去噪和分类的下游任务中是有用的。
2022-09-07 cs.CV cs.LG
Sparse Image Representation with Epitomes
École Normale Supérieure（巴黎高等师范学院）；INRIA（法国国家信息与自动化研究所）
稀疏编码是仅使用几个基本元素对矢量进行分解，广泛用于机器学习和图像处理。基集，也称为字典，被学习以适应特定的数据。这种方法在许多图像处理任务中被证明是非常有效的。传统上，字典是一个非结构化的“平面”原子集。在本文中，我们研究的结构化词典，这是从一个摘要，或一组摘要。缩影本身就是一个小图像，原子是这个图像中选定大小的所有补丁。这大大减少了要学习的参数的数量，并提供了具有shiftinvariance属性的稀疏图像分解。我们提出了一种新的配方和学习与摘要相关的结构化字典的算法，并说明其在图像去噪任务中的使用。
2011-10-13 cs.CV cs.LG stat.ML
Moment Transform-Based Compressive Sensing in Image Processing
International Hellenic University（国际希腊大学）
在过去的几十年里，图像已经成为许多领域的重要信息来源，因此，它们的高质量已经成为获取更好信息的必要条件。出现的重要问题之一是图像去噪，这意味着从不准确和/或部分测量的样本中恢复信号。这种解释与压缩感知理论高度相关，压缩感知理论是一种革命性的技术，并且意味着如果信号是稀疏的，则可以从几个测量值获得原始信号，这些测量值比其他使用的理论（如香农的采样理论）所建议的测量值少得多。在压缩感知（CS）理论中，基字典的选择是实现稀疏解和噪声去除的一个重要因素。本文基于压缩感知和稀疏逼近理论，比较了离散余弦变换（DCT）和矩变换（Tchebichef，Krawtchouk）对高斯加性白噪声图像的图像去噪。实验结果表明，矩变换构造的基字典性能优于传统的DCT。后一种变换显示出与Tchebichef变换相同的30.82 dB的更高PSNR和0.91 SSIM值。此外，从稀疏性的角度来看，Krawtchouk矩比DCT提供大约20-30%的稀疏结果。
2021-11-14 cs.CV eess.IV
