Super-resolution using Sparse Representations over Learned Dictionaries: Reconstruction of Brain Structure using Electron Microscopy
Janelia Farm Research Campus, Howard Hughes Medical Institute（霍华德·休斯医学研究所珍妮利亚研究园区）
神经科学的一个中心问题是在突触水平上重建神经元回路。由于脑结构的尺度范围很广，这种重建需要高分辨率和高通量的成像。现有的电子显微镜（EM）技术在横向平面中具有所需的分辨率，并且具有高通量或高深度分辨率，但不能同时具有两者。在这里，我们利用无监督学习和信号处理的最新进展，在不牺牲吞吐量的情况下获得高深度分辨率的EM图像计算。首先，我们证明了脑组织可以表示为使用高分辨率数据集学习的局部基函数的稀疏线性组合。然后，我们开发了压缩感知启发的技术，可以从每个部分的很少（通常为5）断层扫描视图重建脑组织。这使得能够跟踪神经元过程，并因此在单个突触的水平上高通量地重建神经回路。
2012-10-01 cs.CV q-bio.NC stat.ML
Correlation Preserving Sparse Coding Over Multi-level Dictionaries for Image Denoising
National Engineering Laboratory for Video Technology, Peking University（北京大学视频技术国家工程实验室）
本文提出了一种基于相关保持稀疏编码的图像去噪方法。由于基集之间的不稳定和不可靠的相关性会限制字典驱动去噪方法的性能，因此在编码过程中采用了两种有效的正则化策略。具体地说，基于图的正则化器是建立在保持全局相似性相关，它可以自适应地捕获的几何结构和区别性特征的纹理补丁。特别地，图中的边权重通过寻求非负低秩构造来获得。此外，鲁棒的局部约束编码不仅可以自动保持空间邻域信息，而且可以在学习过完备字典时保持噪声块中存在的内部一致性。实验结果表明，我们提出的方法达到了最先进的去噪性能的PSNR和主观视觉质量。
2016-12-23 cs.CV
Efficient Adaptive Compressive Sensing Using Sparse Hierarchical Learned Dictionaries
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
压缩感知（CS）中的最近突破性结果已经确立，许多高维对象可以从相对少量的非自适应线性投影观测中准确地恢复，只要对象在某种基础上具有稀疏表示。随后的努力表明，CS的性能可以通过利用非零信号系数的位置中的结构（结构化稀疏性）或在感测过程中使用某种形式的在线测量聚焦（自适应性）来改善。在本文中，我们研究了这两种技术的强大的混合体。首先，我们描述了一个简单的自适应传感过程，并表明它是一个可证明的有效方法，用于获取稀疏信号，表现出结构稀疏性特征的基于树的系数依赖关系。接下来，采用稀疏层次字典学习的技术，我们表明，表现出适当形式的结构化稀疏的表示可以从训练数据的集合中学习。这些技术的组合导致有效且高效的自适应压缩采集过程。
2011-11-29 cs.CV cs.IT math.IT
Joint Dictionaries for Zero-Shot Learning
HRL Laboratories, LLC（HRL实验室有限责任公司）；University of Pennsylvania（宾夕法尼亚大学）
零样本学习（zero-shot learning，缩写为ZNL）的一种经典方法是将输入域映射到一组语义上有意义的属性，这些属性可以在以后用于对看不见的数据类（例如视觉数据）进行分类。在本文中，我们建议学习一个具有语义意义的原子的视觉特征字典。这种字典是通过视觉域和属性域的联合字典学习来学习的，同时对两个字典实施相同的稀疏编码。我们的新的属性感知配方提供了一个算法解决方案的域转移/hubness问题的CNOL。在学习联合字典时，可以通过仅使用视觉数据找到属性感知联合稀疏表示来将来自未见过类的图像映射到属性空间中。我们证明，我们的方法提供了优越的或可比的性能，最先进的基准数据集。
2017-09-12 cs.CV
Blind Image Inpainting with Sparse Directional Filter Dictionaries for Lightweight CNNs
University of Stuttgart（斯图加特大学）；University of Houston（休斯顿大学）
近年来，基于深度学习架构的盲修复算法表现出了显着的性能，通常在图像质量和运行时间方面都优于基于模型的方法。然而，神经网络策略通常缺乏理论解释，这与基于模型的方法的基础理论形成对比。在这项工作中，我们充分利用这两种方法的优点，将理论上建立的概念，从变换域方法和稀疏近似到基于CNN的方法，用于盲图像修补。为此，我们提出了一种学习卷积核的新策略，该策略应用了一个专门设计的滤波器字典，其元素与可训练权重线性组合。数值实验证明了这种方法的竞争力。我们的研究结果表明，与传统的CNN相比，修复质量不仅有所提高，而且在轻量级网络设计中的网络收敛速度也明显加快。
2022-05-13 cs.CV math.RT
Joint Spatial-Angular Sparse Coding for dMRI with Separable Dictionaries
Center for Imaging Science, Johns Hopkins University（约翰霍普金斯大学成像科学中心）
扩散MRI（dMRI）通过测量沿q空间中的角梯度方向的水扩散来提供重建脑中的神经元纤维$\textit{in vivo}$的能力。高角分辨率弥散成像（HARDI）可以比常用的弥散张量成像更好地估计纤维取向，但估计弥散度所需的大量样本需要更长的患者扫描时间。为了加速dMRI，已经通过利用通过稀疏编码发现的数据的稀疏字典表示来利用压缩感知（CS）。表示越稀疏，重建具有有限信息损失的高分辨率信号所需的样本就越少，因此一个重要的研究领域集中在寻找dMRI的稀疏可能表示。然而，当前的重建方法依赖于具有添加的空间正则化的角度表示$\textit{per voxel}$，并且因此，对于非零信号，要求每个体素具有至少一个非零系数。这意味着全局稀疏度必须大于体素的数量。相比之下，我们提出了dMRI的联合空间-角度表示，这将使我们能够实现低于体素数量的全局稀疏性水平。然而，一个主要的挑战是在大规模dMRI上解决全局稀疏编码问题的计算复杂性。在这项工作中，我们提出了新的适应流行的稀疏编码算法，变得更适合于解决大规模的问题，利用空间-角度的可分性。我们的实验表明，我们的方法实现了显着稀疏表示的HARDI比可能的最先进的。
2018-05-29 cs.CV q-bio.QM stat.ML
Compositional Dictionaries for Domain Adaptive Face Recognition
Duke University（杜克大学）；University of Maryland（马里兰大学）
我们提出了一种字典学习方法来补偿由于视点，光照，分辨率等变化而引起的人脸变换。我们方法的关键思想是强制域不变稀疏编码，即，在不同的域中设计同一张脸的一致稀疏表示。以这种方式，在例如由正面人脸组成的源域中的稀疏代码上训练的分类器可以应用于目标域（由不同姿势、照明条件等的人脸组成），而不会损失太多的识别精度。该方法是首先学习域基字典，然后使用基字典上的稀疏表示来描述每个域移位（身份、姿态、照明）。适应于每个域的字典被表示为基字典的稀疏线性组合。在人脸识别的背景下，与建议的组合字典的方法，人脸图像可以分解成稀疏表示为一个给定的主题，姿势和照明分别。这种方法有三个优点：第一，提取的稀疏表示的主题是一致的跨域，使姿势和照明不敏感的人脸识别。其次，姿态和照明的稀疏表示可以随后用于估计面部图像的姿态和照明条件。最后，通过组成主题和不同领域的稀疏表示，我们还可以执行姿势对齐和照明归一化。使用两个公开的人脸数据集进行了大量的实验，以证明我们的方法的有效性人脸识别。
2015-09-12 cs.CV
Collaborative Sources Identification in Mixed Signals via Hierarchical Sparse Modeling
University of Minnesota（明尼苏达大学）；Universidad de la Republica, Uruguay（乌拉圭共和国大学）
本文提出了一种混合信号中不同信源检测的协同框架。该方法是基于C-HiLasso，凸协作层次稀疏模型，并进行如下。首先，我们通过连接一组子字典来构建混合信号的结构化字典，其中每个子字典都学会了对一组可能的类中的一个进行稀疏建模。然后，混合信号的编码是通过有效地解决一个凸优化问题，结合标准稀疏与组和协作稀疏。通过查看在编码中自动选择的子字典来识别当前源。C-HiLasso中的协同过滤利用了混合信号中的时间/空间冗余，让样本集合在识别类时进行协作，同时允许单个样本具有不同的内部稀疏表示。这种合作对于进一步稳定信号的稀疏表示，特别是类/子字典选择至关重要。子字典内部的内部稀疏性，自然地被C-HiLasso的分层方面所结合，对于使模型与已经被训练用于每个单独类的稀疏表示的子字典的本质一致是至关重要的。我们目前的应用程序从扬声器和仪器识别和纹理分离。在音频信号的情况下，我们使用稀疏建模来描述谐波声音的短期功率谱包络。所提出的音高无关方法自动检测录音上的源的数量。
2010-10-23 cs.CV
Rain Removal via Shrinkage-Based Sparse Coding and Learned Rain Dictionary
Ryerson University（瑞尔森大学）
本文提出了一种新的基于稀疏编码收缩的单幅图像去雨模型。最近，字典学习和稀疏编码已被广泛用于图像复原问题。这些方法也可以应用于雨去除，通过学习两种类型的雨和非雨字典，并迫使雨字典的稀疏码为零向量。然而，这种方法会在非雨区域中产生不需要的边缘伪影和细节损失。基于此，本文提出了一种新的压缩稀疏码的方法。为了有效地收缩稀疏码在雨和非雨区域，输入雨图像和重建雨图像之间的误差映射生成通过使用学习的雨字典。在此误差映射的基础上，结合雨字典和非雨字典的稀疏编码来表示目标的图像结构，避免非雨区域的边缘伪影。在雨区域，雨和非雨字典之间的相关矩阵的计算。然后，稀疏码对应的高度相关的信号原子在雨和非雨字典的联合收缩，以提高雨结构的去除。实验结果表明，基于收缩的稀疏编码在非雨区能较好地保留图像结构，避免边缘伪影，在雨区能较好地去除雨结构。视觉质量评价证实，该方法优于传统的纹理和雨水去除方法。
2016-10-03 cs.CV
Automatic 3D Liver Segmentation Using Sparse Representation of Global and Local Image Information via Level Set Formulation
Leibniz University Hannover（汉诺威莱布尼茨大学）；TU Dresden（德累斯顿工业大学）
在本文中，提出了一种新的框架自动肝脏分割通过水平集制定。一个稀疏表示的全球（区域为基础的）和本地（体素明智的）图像信息嵌入在水平集制定创新的新的成本函数。建立了两个字典：基于区域的特征字典和体素字典。这些字典是使用K-SVD方法从肝脏分割挑战的公共数据库（MICCAI-SLiver07）中学习的。学习的字典提供先验知识的水平集制定。在定量评价方面，利用MICCAI-Sliver07数据库的测试数据对所提出的方法进行了评价。使用由挑战组织者计算的不同度量分数来评估结果。实验结果表明，所提出的框架的优越性，实现最高的分割精度（79.6%）相比，国家的最先进的方法。
2015-10-04 cs.CV
Exploring the Effect of Sparse Recovery on the Quality of Image Superresolution
Fresno City College（弗雷斯诺城市学院）
本文研究稀疏恢复算法选择对基于耦合字典的图像超分辨率重建质量的影响，并通过实验寻找最佳稀疏恢复算法。
2023-08-04 cs.CV cs.LG eess.IV
Efficient Dictionary Learning with Sparseness-Enforcing Projections
Ulm University（乌尔姆大学）
学习字典适合稀疏编码，而不是使用工程基地已被证明是有效的各种图像处理任务。本文研究了优化字典的图像数据的表示是强制显式稀疏相对于一个光滑的，归一化的稀疏性措施。这涉及到计算欧几里德投影到稀疏度量的水平集上。而以前的算法，这个优化问题至少有准线性的时间复杂度，在这里提出的第一个算法具有线性时间复杂度和恒定的空间复杂度。其关键是基于软收缩函数的投影结果的表征的数学上严格的推导。这一理论被应用于一种名为Easy Dictionary Learning（EZDL）的原始算法中，该算法使用简单且快速计算的Hebbian-like学习规则来学习词典。新算法是有效的，表达和特别简单的实现。它表明，尽管它的简单性，所提出的学习算法是能够产生各种各样的字典，特别是拓扑组织的原子或可分离的原子。此外，字典的表现力作为基准学习算法在整个图像的再现质量方面，并导致等效的去噪性能。EZDL的学习速度比已经非常高效的在线词典学习算法快大约30%，因此有资格进行快速数据集分析和处理大量学习样本的问题。
2016-04-16 cs.CV cs.LG cs.NE
Supervised Deep Sparse Coding Networks
The Johns Hopkins University（约翰霍普金斯大学）；West Virginia University（西弗吉尼亚大学）
在本文中，我们描述了深度稀疏编码网络（SCN），这是一种新型的深度网络，它使用非负稀疏编码对中间表示进行编码。SCN建立在多个级联瓶颈模块上，其中每个模块由两个稀疏编码层组成，所述两个稀疏编码层具有相对宽和窄的字典，所述字典分别专门用于产生用于聚类的高维判别特征和低维表示。在训练过程中，使用基于多级优化的端到端监督学习算法优化字典和正则化参数。在几个流行的基准测试数据集上验证了具有七个瓶颈模块的SCN的有效性。值得注意的是，我们的SCN在CIFAR-10和CIFAR-100上分别达到了5.81%和19.93%的分类出错率。
2017-05-23 cs.CV
A Bayesian Framework for Sparse Representation-Based 3D Human Pose Estimation
Sharif University of Technology（谢里夫理工大学）
提出了一种基于稀疏表示的单目图像三维人体姿态估计的贝叶斯框架。我们的概率方法旨在同时学习两个过完备字典（一个用于视觉输入空间，另一个用于姿势空间），并具有共享的稀疏表示。现有的基于SR的姿态估计方法仅提供字典和稀疏码的点估计。因此，当训练样本的数量较少时，它们可能不可靠。我们的贝叶斯框架估计后验分布的稀疏代码和字典标记的训练数据。因此，它对小尺寸训练数据的过拟合是鲁棒的。对各种人体活动的实验结果表明，该方法优于最先进的姿态估计算法。
2014-11-29 cs.CV
Spontaneous Facial Expression Recognition using Sparse Representation
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；GIPSA-Lab（GIPSA实验室）；CNRS（法国国家科学研究中心）
面部表情是人类表达情感最自然的方式。大多数面部表情分析研究都考虑了表演表情的情况。自发的面部表情识别明显更具挑战性，因为每个人都有不同的方式来对给定的情绪做出反应。我们考虑通过学习稀疏表示的判别字典来识别自发面部表情的问题。通过正交匹配追踪算法将人脸图像表示为原型原子的稀疏线性组合。然后使用稀疏码来训练专用于识别任务的SVM分类器。稀疏化面部图像的字典（具有相同类别标签的特征点应该具有相似的稀疏代码）对于鲁棒分类至关重要。学习稀疏化字典在很大程度上依赖于字典的初始化过程。为了提高字典的性能，一个随机的人脸特征描述符的基础上随机投影的概念。在自发人脸表情DynEmo数据库上进行了实验，验证了该方法的有效性。它还估计著名的表演面部表情JAFFE数据库的目的与国家的最先进的方法进行比较。
2018-09-30 cs.CV
Sparse Image Representation with Epitomes
École Normale Supérieure（巴黎高等师范学院）；INRIA（法国国家信息与自动化研究所）
稀疏编码是仅使用几个基本元素对矢量进行分解，广泛用于机器学习和图像处理。基集，也称为字典，被学习以适应特定的数据。这种方法在许多图像处理任务中被证明是非常有效的。传统上，字典是一个非结构化的“平面”原子集。在本文中，我们研究的结构化词典，这是从一个摘要，或一组摘要。缩影本身就是一个小图像，原子是这个图像中选定大小的所有补丁。这大大减少了要学习的参数的数量，并提供了具有shiftinvariance属性的稀疏图像分解。我们提出了一种新的配方和学习与摘要相关的结构化字典的算法，并说明其在图像去噪任务中的使用。
2011-10-13 cs.CV cs.LG stat.ML
Efficient Two-Dimensional Sparse Coding Using Tensor-Linear Combination
Shanghai Jiao Tong University（上海交通大学）；Columbia University（哥伦比亚大学）
稀疏编码（SC）是一种自动特征提取和选择技术，广泛应用于无监督学习。然而，传统的SC矢量化的输入图像，这打破了局部邻近的像素和破坏的基本对象结构的图像。在本文中，我们提出了一种新的二维的【形】稀疏编码（2DSC）计划，表示输入图像的张量线性组合下的一种新的代数框架。2DSC学习更简洁的字典，因为它使用循环卷积算子，因为传统SC学习的原子的移位版本被视为相同的版本。我们应用2DSC自然图像，并证明2DSC返回有意义的字典大补丁。此外，对于多光谱图像去噪，所提出的2DSC降低了计算成本，与最先进的算法相比，具有竞争力的性能。
2017-03-28 cs.CV
Multilevel Stochastic Plug-and-Play for Sparse-View CT Reconstruction
提出多级随机即插即用方法，通过多分辨率分析近似空间加速稀疏视图CT重建，避免昂贵先验梯度估计，在保持重建质量的同时显著减少运行时间。
2026-10-26 cs.CV physics.med-ph
Reconstructive Sparse Code Transfer for Contour Detection and Semantic Labeling
California Institute of Technology（加州理工学院）；TTI Chicago（丰田工业大学芝加哥分校）；University of California at Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
我们将预测语义标记的任务定义为稀疏重建过程，该过程将特定于目标的学习传递函数应用于图像的通用深度稀疏代码表示。这种策略将训练分为两个不同的阶段。首先，在一个无监督的方式，我们学习一组通用的字典优化稀疏编码的图像补丁。我们训练一个多层表示通过递归稀疏字典学习池代码输出较早的层。其次，我们使用通用字典对所有训练图像进行编码，并学习传递函数，该传递函数优化了从注释的地面实况中提取的补丁的重建，给出了相应图像补丁的稀疏代码。在测试时，我们编码一个新的图像使用的通用字典，然后重建使用的传递函数。输出重建是测试图像的语义标记。将此策略应用于轮廓检测任务，我们展示了与最先进的系统竞争的性能。与几乎所有先前的工作不同，我们的方法避免了对任何形式的手工设计的功能或过滤器的需要。为了说明一般的适用性，我们还显示了初步的结果，人脸的语义部分标记。我们的方法的有效性为深度稀疏表示的研究开辟了新的途径。我们的分类器以一种新颖的方式利用这种表示。它们不是作用于最深层的节点，而是沿着网络的多个层的切片连接到节点，以便对局部补丁进行预测。我们灵活地结合了生成学习的稀疏表示与区分训练的转移分类器，扩展了稀疏重建的概念，以涵盖任意的语义标记任务。
2014-10-16 cs.CV
Fast Sublinear Sparse Representation using Shallow Tree Matching Pursuit
Rice University（莱斯大学）
使用高度过完备字典的稀疏近似是许多成像应用的最先进工具，包括去噪、超分辨率、压缩传感、光场分析和对象识别。不幸的是，这种方法的适用性是严重阻碍了稀疏近似的计算负担：这些算法是线性或超线性的数据维数和字典的大小。我们提出了一个框架，学习的层次结构的过完备字典，使稀疏表示的快速计算。我们的方法建立在基于树的最近邻匹配策略，并提出了特定领域的增强，是非常有效的图像补丁的分析。与大多数构建空间数据结构的流行方法相反，我们的方法依赖于层相对较少的浅平衡树。我们在几个应用程序上进行了大量的实验，例如图像去噪/超分辨率，压缩视频/光场传感，我们实际上实现了100- 1000倍的加速（准确度损失小于1dB）。
2014-12-01 cs.CV
Fast Multi-class Dictionaries Learning with Geometrical Directions in MRI Reconstruction
Xiamen University（厦门大学）；University of Iowa（爱荷华大学）；Xiamen University of Technology（厦门理工学院）
目的：当通过对k空间数据欠采样来加速磁共振成像时，通过快速和多类字典学习来改善重建图像。研究方法：将一种快速正交字典学习方法引入到磁共振图像重建中，以提供图像的自适应稀疏表示。为了增强稀疏性，图像被划分为分类补丁根据相同的几何方向和字典内的每一个类的训练。提出了一种新的基于多类字典的稀疏重建模型，并采用快速交替方向乘子法求解。结果：对加速因子高达10和各种欠采样模式的体模和脑成像数据进行了实验。所提出的方法相比，国家的最先进的磁共振图像重建方法。结论：该方法能更好地抑制伪影，更好地保持图像边缘。此外，该方法的计算速度远远快于典型的K-SVD字典学习方法在磁共振图像重建。重要性：所提出的方法可用于欠采样的磁共振成像，以减少数据采集时间和重建图像具有更好的图像质量。
2015-11-20 cs.CV math.OC physics.med-ph
Faster Learning of Temporal Action Proposal via Sparse Multilevel Boundary Generator
Beijing University of Posts and Telecommunications（北京邮电大学）
视频中的时间动作定位在计算机视觉领域提出了重大挑战。虽然边界敏感方法已被广泛采用，但其局限性包括中间和全局信息的不完整使用，以及效率低下的建议特征生成器。为了解决这些挑战，我们提出了一种新的框架，稀疏多级边界生成器（SMBG），它增强了边界敏感的方法与边界分类和动作完整性回归。SMBG具有多级边界模块，通过收集不同长度的边界信息来加快处理速度。此外，我们引入了一个稀疏提取置信头，区分信息内部和外部的行动，进一步优化的建议功能生成器。为了提高多个分支之间的协同性和平衡正负样本，我们提出了一个全局指导损失。我们的方法在两个流行的基准测试ActivityNet-1.3和THUMOS 14上进行了评估，并显示出达到最先进的性能，具有更好的推理速度（2.47xBSN++，2.12xDBG）。这些结果表明，SMBG提供了一个更有效和简单的解决方案，产生时间的行动建议。我们提出的框架有可能推进计算机视觉领域，提高视频分析中时间动作定位的准确性和速度。代码和模型可在\url{https://github.com/zhouyang-001/SMBG-for-temporal-action-proposal}上获得。
2023-03-06 cs.AI cs.CV
Deep learning based dictionary learning and tomographic image reconstruction
KTH Royal Institute of Technology（瑞典皇家理工学院）；Philips Research（飞利浦研究院）
本文提出一种结合稀疏信号处理与深度学习的临床低剂量层析图像重建方法，将字典学习解释为分布对齐过程并证明其类似变分自编码器，在CT重建中取得与先进方法相当的竞争力。
2021-08-26 cs.CV cs.LG cs.NE
Hyperspectral and Multispectral Image Fusion based on a Sparse Representation
University of Toulouse（图卢兹大学）；Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico, Universidade de Lisboa（里斯本大学高等技术学院）
本研究提出一种基于变分法与稀疏表示的高光谱-多光谱图像融合方法，通过字典学习与交替优化求解逆问题，仿真验证其性能优于现有主流融合方法。
2014-09-19 cs.CV
Sparse Deep Stacking Network for Image Classification
Nanjing University of Science and Technology（南京理工大学）
稀疏编码可以学习对噪声具有良好鲁棒性的表示，并为图像分类建模更高阶的表示。然而，即使在稀疏编码技术中使用监督信号来学习紧凑和有区别的字典，推理算法也是计算昂贵的。幸运的是，一个简化的神经网络模块（SNNM）已被提出来直接学习的判别字典，以避免昂贵的推理。但是SNNM模块忽略了稀疏表示。因此，我们提出了一个稀疏SNNM模块，通过添加混合范数正则化（l1/l2范数）。稀疏SNNM模块进一步堆叠以构建稀疏深度堆叠网络（S-DSN）。在实验中，我们评估S-DSN与四个数据库，包括扩展YaleB，AR，15场景和Caltech 101。实验结果表明，我们的模型优于相关的分类方法，只有一个线性分类器。值得注意的是，我们达到了98.8%的识别准确率在15个场景。
2015-01-05 cs.CV cs.LG cs.NE
Ensemble Sparse Models for Image Analysis
Arizona State University（亚利桑那州立大学）
稀疏表示与学习字典已经成功地在几个图像分析应用。在本文中，我们提出并分析了集成稀疏模型的框架，并证明了它们在图像复原和无监督聚类中的实用性。建议的集成模型近似的数据作为一个线性组合的近似多个\textit{weak}稀疏模型。理论分析表明，即使在最坏的情况下，集成模型可以表现得更好，比任何其组成的个人模型。使用随机示例选择或提升方法获得对应于各个稀疏模型的字典。提升方法每轮学习一个字典，使得在特定轮中学习的字典针对在前一轮中具有高重构误差的训练样本而被优化。压缩恢复的结果表明，集成表示导致更好的性能相比，使用一个单一的字典与传统的交替最小化方法。建议的集成模型也用于单图像超分辨率，我们表明，他们执行最近的方法。在无监督聚类中，实验表明，该模型在几个标准数据集上的性能优于基线方法。
2013-02-27 cs.CV
Dictionary Learning with Accumulator Neurons
Pacific Northwest National Laboratory（太平洋西北国家实验室）；Drexel University（德雷塞尔大学）；National Research Council of Canada（加拿大国家研究委员会）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
局部竞争算法（LCA）使用非尖峰泄漏积分神经元之间的局部竞争来推断稀疏表示，允许在大规模并行神经形态架构（如英特尔的Loihi处理器）上进行潜在的实时执行。在这里，我们专注于从流媒体视频使用字典的时空特征优化稀疏重建的无监督的方式来推断稀疏表示的问题。非尖峰LCA先前已用于实现时空字典的无监督学习，所述时空字典由来自原始未标记视频的卷积核组成。我们演示了如何使用累加器神经元有效地实现具有尖峰LCA的无监督字典学习（\hbox{S-LCA}），该累加器神经元将传统的泄漏积分激发（\hbox{LIF}）尖峰生成器与用于最小化积分输入和尖峰输出之间的差异的附加状态变量相结合。我们展示了字典学习在广泛的动态制度，从分级到间歇性尖峰，从CIFAR数据库中绘制的静态图像以及从DVS相机捕获的视频帧的稀疏表示进行推断。在一个分类任务，需要识别的套件从一副牌被迅速翻阅通过DVS摄像头，我们发现基本上没有退化的性能作为LCA模型用于推断稀疏时空表示迁移从分级到尖峰。我们的结论是，累加器神经元很可能提供一个强大的使能组件的未来神经形态硬件实现在线无监督学习的时空字典优化稀疏重建流视频从基于事件的DVS摄像机。
2022-05-30 cs.CV
Learning Deep Analysis Dictionaries for Image Super-Resolution
Imperial College London（帝国理工学院）
受深度神经网络最近的成功以及最近开发多层字典模型的努力的启发，我们提出了一种深度分析字典模型（DeepAM），该模型经过优化，可解决称为单图像超分辨率的特定回归任务。与其他多层字典模型相反，我们的架构包含L层分析字典和软阈值算子，以逐步提取高级特征，以及一层合成字典，旨在优化手头的回归任务。在我们的方法中，每个分析字典被划分成两个子字典：信息保持分析字典（iPad）和聚类分析字典（CAD）。iPad与相应的软阈值一起被设计为将关键信息从前一层传递到下一层，而CAD与相应的软阈值算子一起被设计为产生其输入数据的稀疏特征表示，以便于区分关键特征。DeepAM使用监督和无监督设置。仿真结果表明，与具有相同结构并在训练数据集较小时使用反向传播进行优化的深度神经网络相比，所提出的深度分析字典模型实现了更好的性能。
2020-11-10 cs.CV cs.LG stat.ML
Sparse Representation of Astronomical Images
Aston University（阿斯顿大学）
讨论了天文图像的稀疏表示问题。结果表明，当特定的混合字典用于近似这些类型的图像与贪婪的选择策略时，实现了显着的稀疏增益。进行实验以确认：i）产生稀疏表示的有效性。ii）在处理大图像所需的时间方面具有竞争力。后者是所提出的字典在小块分区中近似图像的适用性的结果。这个功能使得可以应用有效的贪婪选择技术正交匹配追踪，直到一些块大小。对于超过该大小的块，考虑原始匹配追踪方法的改进。由此产生的方法被称为自投影匹配追踪，因为被证明是有效的实施，通过匹配追踪本身，在该方法中的可选的反投影中间步骤。
2012-09-12 cs.CV math-ph math.MP
Multimodal Task-Driven Dictionary Learning for Image Classification
Pennsylvania State University（宾夕法尼亚州立大学）；Army Research Laboratory（美国陆军研究实验室）；Bosch Research and Technology Center（博世研究与技术中心）；West Virginia University（西弗吉尼亚大学）
字典学习算法已经成功地用于重建和判别任务，其中输入信号用字典原子的稀疏线性组合表示。虽然这些方法大多是针对单模态场景开发的，但最近的研究已经证明了基于多模态输入的联合稀疏表示的特征级融合的优势。在本文中，我们提出了一个多模态任务驱动的字典学习算法下的联合稀疏约束（先验），以加强多个同质/异构信息源之间的合作。在这个任务驱动的公式，多模态字典学习的同时，其相应的分类。由此产生的多模态字典可以从针对给定任务（例如二进制或多类分类）优化的数据中生成有区别的潜在特征（稀疏代码）。此外，我们提出了一个扩展的建议制定使用混合的联合和独立的稀疏先验，有利于更灵活的融合的方式在特征级。所提出的多模态分类算法的功效说明了四个不同的应用程序-多模态人脸识别，多视图人脸识别，多视图动作识别，和多模态生物识别。它还表明，与对应的基于重构的字典学习算法相比，任务驱动的配方在这个意义上，它们可以配备更紧凑的字典，仍然实现卓越的性能是更有效的计算。
2015-10-27 cs.CV cs.LG stat.ML
A Study on Unsupervised Dictionary Learning and Feature Encoding for Action Classification
Southwest Jiaotong University（西南交通大学）；Shenzhen Institutes of Advanced Technology（深圳先进技术研究院）；Chinese Academy of Sciences（中国科学院）
人们一直致力于开发图像域中传统矢量量化的替代方法，如稀疏编码和软分配。这些方法可以分为字典学习阶段和特征编码阶段，这两个阶段通常紧密相连。在本文中，我们调查这些阶段的效果，将它们分离为基于视频的动作分类。我们通过在KTH和HMDB51数据集上的大量实验，比较了几种字典学习方法和特征编码方案。实验结果表明，稀疏编码在大型复杂数据集（即，HMDB51），并且对不同的字典具有鲁棒性。对于小的简单数据集（即，KTH）具有较少的变化，然而，所有编码策略都具有竞争力。此外，我们注意到，复杂的编码方法的强度不是来自其相应的字典，但编码机制，我们可以使用随机选择的样本作为字典的视频为基础的动作分类。
2013-09-02 cs.CV
3D seismic data denoising using two-dimensional sparse coding scheme
PetroChina Research Institute of Petroleum Exploration and Development (RIPED)-Northwest（中国石油勘探开发研究院（西北））；University of Electronic Science and Technology of China（电子科技大学）；Columbia University（哥伦比亚大学）
地震数据去噪是地球物理应用中的一个重要问题，基于变换的函数法是应用最广泛的方法之一。然而，由于地震数据的复杂性，设计合适的稀疏表示来表示基于变换的函数组是具有挑战性的。本文提出了一种基于学习型超完备字典的地震数据去噪方法，该方法采用二维的【形】稀疏编码（2DSC）。首先，我们将输入地震数据和字典建模为三阶张量，并引入张量线性组合进行数据近似。其次，我们应用学习型超完备字典，即，通过学习和训练实现最佳稀疏数据表示。第三，我们利用交替极小化算法来解决地震去噪的优化问题。最后，我们评估其去噪性能的合成地震数据和土地数据调查。实验结果表明，二维的【形】稀疏编码方案降低了计算量，提高了信噪比。
2017-04-08 cs.CE cs.CV
Astronomical Image Denoising Using Dictionary Learning
天文图像经常存在多种缺陷，这些缺陷是采集设备的固有特性和大气条件的结果。天文成像中最常见的缺陷之一是存在加性噪声，这使得在处理数据之前必须进行去噪步骤。在过去的十年中，一个特定的建模方案，基于稀疏表示，引起了越来越多的研究人员的关注。稀疏表示为许多图像和信号处理任务提供了一个有前途的框架，特别是去噪和恢复应用。首先，谐波，小波，相似基和过完备表示已被视为候选域寻求稀疏表示。基于数据驱动字典的新一代算法发展迅速，现在与现成的固定字典竞争。虽然预先设计字典依赖于对最合适的代表性基本形式和函数的猜测，但字典学习框架提供了基于数据本身构建字典，这为我们提供了更灵活的稀疏建模设置，并允许构建更复杂的字典。本文介绍了中心字典学习（CDL）方法，并研究了它在天文图像去噪中的性能。我们展示了CDL如何在天文图像上优于小波或经典字典学习去噪技术，并且我们比较了这些不同算法对去噪图像的测光效果。
2013-04-12 astro-ph.IM cs.CV
Sparse Coding with Multi-Layer Decoders using Variance Regularization
Center for Data Science（数据科学中心）；New York University（纽约大学）；Courant Institute（库朗研究所）；Meta AI - FAIR（Meta人工智能实验室——基础人工智能研究团队）
图像的稀疏表示在许多计算机视觉应用中是有用的。具有$l_1$惩罚和学习的线性字典的稀疏编码需要字典的正则化以防止代码的$l_1$范数的崩溃。通常，这种正则化需要约束字典元素的欧几里德范数。在这项工作中，我们提出了一种新的稀疏编码协议，它可以防止崩溃的代码，而不需要正则化的解码器。我们的方法直接正则化的代码，使每个潜在的代码组件的方差大于一个固定的阈值在一组稀疏表示为一组给定的输入。此外，我们探索的方法，有效地训练稀疏编码系统与多层解码器，因为他们可以模拟更复杂的关系比线性字典。在我们的实验与MNIST和自然图像补丁，我们表明，解码器学习与我们的方法在线性和多层的情况下具有可解释的功能。此外，我们表明，与具有线性字典的自编码器相比，使用我们的方差正则化方法训练的具有多层解码器的稀疏自编码器可以产生具有更稀疏表示的更高质量的重建。此外，用我们的方差正则化方法获得的稀疏表示在低数据状态下的去噪和分类的下游任务中是有用的。
2022-09-07 cs.CV cs.LG
Discriminative Dictionary Learning based on Statistical Methods
School of Computer and Information Sciences, University of Hyderabad（海得拉巴大学计算机与信息科学学院）
本文探讨了利用统计方法改进字典学习以提升分类性能，提出混合方法结合稀疏系数与多层感知机，实现判别字典学习。
2021-11-17 cs.CV
Jointly Learning Non-negative Projection and Dictionary with Discriminative Graph Constraints for Classification
Shenzhen University（深圳大学）；Peking University（北京大学）；Carnegie Mellon University（卡内基梅隆大学）；Emory University（埃默里大学）
具有字典学习（DL）的稀疏编码已经显示出优异的分类性能。尽管有相当数量的现有作品，如何获得功能的字典可以更好地学习仍然是一个开放的和有趣的问题。许多当前流行的DL方法直接采用性能良好的精心制作的功能。虽然这种策略可能在经验上工作得很好，但它忽略了字典和特征之间的某些内在关系。我们提出了一个框架，其中的功能和字典共同学习和优化。该框架，名为联合非负投影和字典学习（JNPDL），使输入功能和字典之间的互动。非负投影导致基于部件的对象特征具有区分性，而DL寻求更合适的表示。判别图的约束，同时最大化类内的紧凑性和类间的可分性。在图像和图像集分类上的实验表明，JNPDL的性能优于几种最先进的方法。
2016-08-05 cs.CV
Non-convex Super-resolution of OCT images via sparse representation
UNIBO（博洛尼亚大学）
我们提出了一个非凸变分模型的超分辨率的光学相干断层扫描（OCT）图像的小鼠眼睛，通过执行稀疏相对于合适的字典从高分辨率OCT数据。OCT图像的统计特性促使将α稳定分布用于学习字典，通过考虑非高斯情况，α=1。稀疏促进代价函数依赖于非凸惩罚-基于柯西或极小极大凹惩罚（MCP）-这使得问题特别具有挑战性。我们提出了一个有效的算法，以最小化的功能的基础上，向前向后分裂策略，保证在每一次迭代的存在性和唯一性的邻近点。与标准凸L1重建的比较表明，非凸模型的性能更好，特别是在进一步的OCT图像分析方面
2020-10-22 cs.CV cs.NA eess.IV
Deep Dictionary Learning: A PARametric NETwork Approach
North Carolina State University（北卡罗来纳州立大学）；Army Research Office（陆军研究办公室）
深度字典学习在不同的图像尺度上寻找多个字典，以捕捉互补的连贯特征。我们提出了一种方法，学习层次的合成字典与图像分类的目标。通过分类目标训练字典和分类参数，并通过减少每层中的重建损失来提取稀疏特征。重建目标在某种意义上规范了分类问题，并在提取的特征中注入源信号信息。所提出的分层方法的性能通过增加更多的层来提高，从而使该模型更容易调整和适应。此外，该算法在对抗性扰动的存在下显示出显着较低的欺骗率。所提出的方法的验证是基于其分类性能，使用四个基准数据集，并比较类似大小的CNN。
2018-03-11 cs.CV
Supervised Convolutional Sparse Coding
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学（KAUST））
卷积稀疏编码（CSC）是一种成熟的图像表示模型，特别适用于图像复原任务。在这项工作中，我们通过提出一种有监督的卷积稀疏编码方法来扩展该模型的适用性，该方法旨在学习判别字典而不是纯粹的重建字典。我们将监督正则化项纳入传统的无监督CSC目标，以鼓励最终的字典元素是有区别的。实验结果表明，使用监督卷积学习有两个关键优势。首先，我们在字典中学习更多语义相关的过滤器，其次，我们在看不见的数据上实现了改进的图像重建。
2018-04-08 cs.CV
Multi-Focus Image Fusion Using Sparse Representation and Coupled Dictionary Learning
Aalto University（阿尔托大学）
我们解决了多焦点图像融合问题，在不同的焦点设置捕获的多个图像被融合成一个更高质量的全聚焦图像。这个问题的算法必须承认源图像的特点以及聚焦和模糊的功能。然而，大多数基于稀疏性的方法使用聚焦特征空间中的单个字典来描述多聚焦图像，而忽略了模糊特征空间中的表示。提出了一种基于耦合字典稀疏表示的多聚焦图像融合方法。它利用的意见，从一个给定的训练集的补丁可以稀疏表示的一对夫妇的过完备的字典相关的集中和模糊类别的图像和稀疏近似基于这样的耦合字典导致一个更灵活的，因此更好的融合策略比一个基于只选择稀疏表示在原始图像估计。此外，为了提高融合性能，我们采用了一种耦合字典学习方法，该方法强制学习的字典原子之间的成对相关性，以表示集中和模糊的特征空间。我们还讨论了基于耦合字典学习的融合方法的优点，并提出了有效的算法，基于耦合字典学习的融合。与现有多聚焦图像融合算法的实验比较验证了该方法的有效性。
2019-05-03 cs.CV cs.LG
Geometric Sparse Coding in Wasserstein Space
Tufts University（塔夫茨大学）
Wasserstein字典学习是一种无监督的方法，用于学习概率分布的集合，这些概率分布生成观察到的分布作为Wasserstein重心组合。用于Wasserstein字典学习的现有方法优化了一个目标，该目标通过重心插值来寻找具有足够表示能力的字典以近似观察到的训练数据，但不对与字典相关联的系数施加额外的结构属性。这导致字典密集地表示观察到的数据，这使得系数的解释具有挑战性，并且当在下游任务中使用学习的系数时，也可能导致经验性能差。相反，在欧氏空间中的稀疏字典学习的动机，我们提出了一个几何稀疏正则化的Wasserstein空间，促进表示的数据点只使用附近的字典元素。我们表明，这种方法导致稀疏表示在Wasserstein空间和地址的重心表示的非唯一性的问题。此外，当数据被生成为固定分布的Wasserstein重心时，该正则化器有助于在非正则化Wasserstein字典学习不适定的情况下恢复生成分布。通过对合成数据和真实数据的实验，我们证明了我们的几何正则化方法在Wasserstein空间中产生了更稀疏和更可解释的字典，在下游应用中表现更好。
2022-10-21 cs.CV cs.LG eess.SP
