Deploying Self-Supervised Learning for Real Seismic Data Denoising
COPPE Federal University of Rio de Janeiro(里约热内卢联邦大学Coppe分校);CENPES, Petrobras(石油公司CENPES)
本文评估了NaC方法在真实地震数据去噪中的性能,发现合成白高斯噪声不足,需考虑实际噪声特性,自监督微调提升SSL性能。
2026-05-11 cs.AI cs.CV cs.LG
Self-supervised Deep Unrolled Reconstruction Using Regularization by Denoising
State University of New York at Buffalo(纽约州立大学布法罗分校);Cleveland Clinic(克利夫兰诊所);Paul C. Lauterbur Research Center for Biomedical Imaging, SIAT, CAS(中国科学院深圳先进技术研究院保罗·C·劳特伯生物医学成像研究中心)
针对MRI重建需大量标注数据的问题,提出结合自监督去噪网络与即插即用方法的DURED-Net,借助RED实现去噪网络的应用,在更少训练数据下达到优于现有Noise2Noise类方法的重建效果。
2023-10-05 cs.CV cs.LG eess.IV
Denoising Diffusion Autoencoders are Unified Self-supervised Learners
Beihang University(北京航空航天大学)
该研究发现去噪扩散自编码器(DDAE)是统一自监督学习器,经无条件图像生成预训练可获强线性可分表征,在多数据集上性能比肩对比学习和掩码自编码器,具备扩展为统一基础模型的潜力。
2023-08-19 cs.CV cs.LG
Scheduled denoising autoencoders
University of Edinburgh(爱丁堡大学)
我们提出了一个表示学习方法,学习功能在多个不同级别的规模。在去噪自动编码器的无监督框架内工作,我们观察到,当输入在训练过程中严重损坏时,网络倾向于学习粗粒度特征,而当输入仅轻微损坏时,网络倾向于学习细粒度特征。这激发了预定的去噪自动编码器,它以高水平的噪声开始,随着训练的进行而降低。我们发现,与原始输入或在单个噪声水平下训练的标准去噪自动编码器相比,所得到的表示在后期监督任务上产生了显着的提升。经过监督微调,我们的最佳模型实现了有史以来最低的错误的CIFAR-10数据集之间的置换不变的方法。
2015-04-10 cs.LG stat.ML
ISCL: Interdependent Self-Cooperative Learning for Unpaired Image Denoising
UNIST(蔚山国立科学技术院);Korea University(高丽大学)
随着自监督学习的进步,在基于深度学习的图像去噪中不再需要成对的干净噪声数据。然而,现有的盲去噪方法仍然需要关于噪声特性的假设,例如零均值噪声分布和逐像素噪声信号独立性;这阻碍了该方法在医学领域的广泛适应。另一方面,非配对学习可以克服与噪声特性假设相关的限制,这使得在真实世界场景中收集训练数据更加可行。在本文中,我们提出了一种新的图像去噪方案,相互依赖的自协作学习(ISCL),利用非配对学习结合循环对抗学习和自监督残差学习。与现有的依赖于不同领域中匹配数据分布的不成对图像去噪方法不同,ISCL中的两种架构针对不同的任务而设计,相互补充并促进学习过程。为了评估所提出的方法的性能,我们进行了广泛的实验,在各种生物医学图像退化的情况下,如电子显微镜(EM)设备(电影和充电噪声)的物理特性所造成的噪声,和低剂量计算机断层扫描(CT)中发现的结构噪声。我们证明了我们方法的图像质量优于传统和当前最先进的基于深度学习的图像去噪方法,包括监督学习。
2021-09-09 cs.CV cs.LG eess.IV
Self-Supervised Noise2Noise-Enhanced Denoising for Continuous-Scan Air-Plasma THz Spectroscopy
Institute of Digital Communication Systems, Ruhr University Bochum(鲁尔大学波鸿分校数字通信系统研究所);Photonics and Ultrafast Laser Science, Ruhr University Bochum(鲁尔大学波鸿分校光子学与超快激光科学研究所)
该研究针对空气等离子太赫兹时域光谱的噪声问题,提出自监督Noise2Noise增强去噪方法,结合一维残差U-Net,可将测量时间缩减约5.4倍,无需硬件修改即可提升光谱测量速度。
2026-08-18 cs.LG eess.SP
Self-Conditioned Denoising for Atomistic Representation Learning
Department of Chemistry, Massachusetts Institute of Technology, 77 Massachusetts Avenue, Cambridge, 02139, MA, USA(麻省理工学院化学系);Department of Materials Science and Engineering, Massachusetts Institute of Technology, 77 Massachusetts Avenue, Cambridge, 02139, MA, USA(麻省理工学院材料科学与工程系)
本文提出自条件去噪方法,用于改进原子数据的预训练模型,通过自嵌入实现跨领域去噪,提升下游任务性能,优于传统自监督学习方法。
2026-03-17 cs.LG
Noise2Same: Optimizing A Self-Supervised Bound for Image Denoising
Texas A&M University(得克萨斯农工大学)
仅使用单个噪声图像学习去噪模型的自监督框架在各种图像去噪任务中表现出强大的能力和有前途的性能。现有的自监督去噪框架大多建立在相同的理论基础上,其中去噪模型需要是J不变的。然而,我们的分析表明,目前的理论和J-不变性可能导致降噪模型的性能降低。在这项工作中,我们介绍了Noise 2Same,一种新的自监督去噪框架。在Noise 2Same中,通过推导典型监督损失的自监督上界,提出了一种新的自监督损失。特别是,Noise 2Same既不需要J不变性,也不需要有关噪声模型的额外信息,可以用于更广泛的去噪应用中。我们从理论和实验上分析了我们提出的Noise 2 Same。实验结果表明,我们的Noise 2Same在去噪性能和训练效率方面明显优于以前的自监督去噪方法。我们的代码可在https://github.com/divelab/Noise2Same上获得。
2020-10-22 cs.CV cs.LG
Supervised Neural Discrete Universal Denoiser for Adaptive Denoising
Seoul National University(首尔大学)
我们改进了最近开发的神经DUDE,一个基于神经网络的自适应离散去噪器,将其与监督学习框架相结合。也就是说,我们使神经DUDE的监督预训练与基于给定的噪声数据进行去噪的参数自适应微调兼容。因此,与香草神经DUDE相比,我们实现了显着的去噪性能提升,后者仅使用随机初始化的参数执行自适应微调步骤。此外,我们表明自适应微调使算法的鲁棒性,使噪声失配或盲目训练的监督模型仍然可以实现匹配模型的性能。此外,我们做了一些算法改进,使神经DUDE更具可扩展性,并处理多维数据或具有更大字母表大小的数据。我们系统地展示了我们对两个非常不同的数据集,二进制图像和DNA序列的改进。
2021-11-24 cs.LG
Online Semi-Supervised Learning with Deep Hybrid Boltzmann Machines and Denoising Autoencoders
College of Information Science & Technology(信息科学与技术学院);The Pennsylvania State University(宾夕法尼亚州立大学)
提出了两种新的深度混合结构,深度混合玻尔兹曼机和深度混合去噪自动编码器,用于处理半监督学习问题。这些模型结合了在不同抽象层次上对相关分布进行建模的专家,以提高区分性任务的整体预测性能。每个联合学习的理论动机和算法。我们将新的模型应用到数据流领域,致力于终身学习。所提出的架构表现出改善的性能相比,伪标记,辍学整流器网络。
2016-01-18 cs.LG
Lateral Connections in Denoising Autoencoders Support Supervised Learning
Aalto University(阿尔托大学);ZenRobotics Ltd.(ZenRobotics有限公司)
我们展示了如何使用具有横向连接的深度去噪自动编码器作为辅助无监督学习任务来支持监督学习。该模型通过反向传播训练,同时最小化监督和无监督成本函数的总和,避免了分层预训练的需要。它在置换不变MNIST分类任务中显着提高了最先进的水平。
2015-04-30 cs.LG cs.NE stat.ML
QS-ADN: Quasi-Supervised Artifact Disentanglement Network for Low-Dose CT Image Denoising by Local Similarity Among Unpaired Data
Northeastern University(东北大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);Stevens Institute of Technology(史蒂文斯理工学院)
深度学习已成功应用于低剂量CT(LDCT)图像去噪,以降低潜在的辐射风险。然而,广泛报道的监督LDCT去噪网络需要成对图像的训练集,这是昂贵的获得,不能完美地模拟。无监督学习利用不成对的数据,并且非常适合LDCT去噪。例如,伪影消除网络(ADN)依赖于未配对的图像,避免了监督的需要,但伪影减少的结果不如通过监督学习的效果好。一个重要的观察是,可以利用的未配对数据之间通常存在隐藏的相似性。本文提出了一种新的学习模式--准监督学习,对每幅LDCT图像,首先从非配对的正常剂量CT(NDCT)数据集中找到最佳匹配图像,然后利用该模型对LDCT图像进行去噪。然后,利用匹配对和匹配度作为先验信息,构造并训练ADN型网络进行LDCT去噪,该方法不同于(但兼容)监督和半监督学习模式,可以通过修改现有网络实现。实验结果表明,该方法是竞争与国家的最先进的方法在噪声抑制和上下文保真度。代码和工作数据集可在https://github.com/ruanyuhui/ADN-QSDL.git上公开获得。
2023-02-08 cs.LG
Self-supervised denoising of raw tomography detector data for improved image reconstruction
Department of Information Services and Computing(信息服务与计算系);Helmholtz-Zentrum Dresden-Rossendorf(德累斯顿-罗斯托克研究所);Institute of Fluid Dynamics(流体动力学研究所)
本文提出两种自监督深度学习方法用于原始断层扫描探测器数据去噪,以提升图像重建质量,实验表明其优于非学习方法。
2025-11-21 cs.LG
Self-supervised Denoising via Diffeomorphic Template Estimation: Application to Optical Coherence Tomography
New York University(纽约大学)
光学相干断层扫描(OCT)在眼科的研究和临床实践中都很普遍。然而,OCT图像被噪声严重破坏,限制了它们的解释。当前的OCT去噪器利用对噪声分布的假设,或者通过对重复采集进行平均来生成用于训练深度监督去噪器的目标。然而,最近的自监督进步允许只使用重复采集而不使用干净目标作为基础事实来训练深度去噪网络,从而减少了监督学习的负担。尽管自监督方法具有明显的优势,但由于OCT由于无意识的眼球运动而显示出强烈的结构变形,即使在同一受试者的连续扫描之间也是如此。此外,重复序列的直接非线性对齐引起图像之间噪声的相关性。在本文中,我们提出了一个联合的双态模板估计和去噪框架,使运动变形的重复采集使用自监督去噪,而无需凭经验登记其噪声实现。在去噪OCT图像方面实现了强有力的定性和定量改进,在任何适合多次曝光的成像模式中具有通用实用性。
2020-08-18 cs.CV cs.LG eess.IV
Self2Seg: Single-Image Self-Supervised Joint Segmentation and Denoising
University of Innsbruck(因斯布鲁克大学);VASCage-Research Centre on Vascular Ageing and Stroke(VASCage血管衰老与中风研究中心);MRC Laboratory of Molecular Biology(医学研究委员会分子生物学实验室);Institut Pascal(帕斯卡尔研究所);Université Clermont Auvergne(克莱蒙奥弗涅大学);Institut de Mathématiques de Bordeaux(波尔多数学研究所)
本文提出自监督方法Self2Seg,通过引入耦合去噪与分割的自监督能量泛函和统一优化策略,无需训练数据即可实现单图像联合分割与去噪,且在含噪显微图像上优于顺序方法及单一任务方法。
2024-04-29 cs.CV cs.LG math.OC
Multi-Object Self-Supervised Depth Denoising
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
提出一种自监督多物体深度去噪流程,利用高质量传感器深度图作为监督信号,对齐帧对并生成多物体掩码,以训练去噪网络,提升低质量深度相机的重建精度。
2023-05-09 cs.LG cs.RO
Self-Supervised Poisson-Gaussian Denoising
California Polytechnic State University(加州州立理工大学);University of Georgia(佐治亚大学);Providence College(普罗维登斯学院);University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
我们扩展了自监督去噪的盲点模型来处理泊松-高斯噪声,并引入了一种改进的训练方案,该方案避免了超参数,并使去噪器适应测试数据。用于去噪的自监督模型学习仅从噪声数据中去噪,并且不需要相应的干净图像,这在某些感兴趣的应用领域(如微光显微镜)中很难或不可能获得。我们引入了一种新的训练策略来处理泊松-高斯噪声,这是显微镜图像的标准噪声模型。我们的新策略从损失函数中消除了超参数,这在自我监督机制中很重要,在这种机制中,没有地面真实数据可用于指导超参数调整。我们展示了我们的去噪器如何适应测试数据,以提高性能。我们的评价显微镜图像去噪基准验证了我们的方法。
2020-11-19 cs.CV cs.LG eess.IV
Noise Distribution Adaptive Self-Supervised Image Denoising using Tweedie Distribution and Score Matching
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
特威迪分布是指数离差模型的一个特例,在经典统计学中常用作广义线性模型的分布。在这里,我们揭示了Tweedie分布在现代深度学习时代也起着关键作用,导致了一个不依赖于分布的自监督图像去噪公式,而无需干净的参考图像。具体而言,通过结合最近的Noise2Score自监督图像去噪方法和Tweedie分布的鞍点近似,我们可以提供一个通用的封闭形式的去噪公式,该公式可以用于大类噪声分布,而无需知道潜在的噪声分布。类似于原来的Noise2Score,新的方法是由两个连续的步骤:分数匹配使用扰动噪声图像,其次是一个封闭的形式图像去噪公式通过分布无关的Tweedie的公式。这也提出了一个系统的算法来估计一个给定的噪声图像数据集的噪声模型和噪声参数。通过大量的实验,我们证明了该方法可以准确地估计噪声模型和参数,并在基准数据集和真实数据集上提供最先进的自监督图像去噪性能。
2021-12-05 cs.CV cs.LG eess.IV
Joint self-supervised blind denoising and noise estimation
SABILab(SABI实验室);École Polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎理工学院);Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Laboratoire de mathématiques d’Orsay(奥赛数学实验室);Laboratoire J. A. Dieudonné(J·A·迪厄多内实验室);Université Côte d’Azur(蔚蓝海岸大学);Télécom SudParis(南巴黎电信学院)
提出了一种新的自监督图像盲去噪方法,其中两个神经网络联合预测干净的信号并推断噪声分布。假设噪声观测值与信号有条件地独立,则可以在没有干净的训练数据的情况下联合训练网络。因此,我们的方法是特别相关的生物医学图像去噪的噪声是难以精确建模和干净的训练数据通常是不可用的。我们的方法显着优于目前最先进的自监督盲去噪算法,在六个公开的生物医学图像数据集。我们还显示经验与合成噪声数据,我们的模型有效地捕捉噪声分布。最后,所描述的框架是简单的,轻量级的和计算效率,使其在实际情况中有用。
2021-02-16 cs.LG eess.IV stat.ML
On normalization-equivariance properties of supervised and unsupervised denoising methods: a survey
Centre Inria de l’Université de Rennes(雷恩大学法国国家信息与自动化研究所中心)
本文综述了图像去噪中监督与无监督学习方法的主要原理和最新进展,并重点分析了大多数监督方法未能保证的归一化等变性特性及其重要性。
2024-02-23 cs.CV cs.LG
SS-BSN: Attentive Blind-Spot Network for Self-Supervised Denoising with Nonlocal Self-Similarity
University of Seoul(首尔大学);Vieworks(Vieworks公司)
本文提出轻量级自相似性注意力模块(SS-Attention)以捕获非局部自相似性,并将其集成至盲点网络构建SS-BSN,在SIDD和DND基准上实现了更优的自监督图像去噪性能。
2023-05-17 cs.CV cs.LG
Self Supervised Low Dose Computed Tomography Image Denoising Using Invertible Network Exploiting Inter Slice Congruence
Indian Institute of Technology Kharagpur(印度理工学院卡拉格布尔分校)
深度神经网络的复兴通过学习低剂量CT(LDCT)和正常剂量CT(NDCT)图像对之间的非线性变换函数,为低剂量计算机断层扫描去噪创造了另一种途径。然而,这些配对的LDCT和NDCT图像在临床环境中很少可用,使得深度神经网络部署不可行。提出了一种新的自监督低剂量CT去噪方法,以减轻对LDCT和NDCT图像的要求。具体来说,我们已经训练了一个可逆神经网络,以最小化噪声切片与其两个紧邻噪声切片的平均值之间的基于像素的均方距离。我们已经证明了上述类似于训练神经网络以最小化干净NDCT和噪声LDCT图像对之间的距离。同样,在可逆网络的反向映射期间,输出图像被映射到原始输入图像,类似于循环一致性损失。最后,将训练好的可逆网络的前向映射用于LDCT图像的去噪。在两个公开数据集上的大量实验表明,我们的方法与其他现有的无监督方法相比表现良好。
2022-11-03 cs.LG eess.IV
Transfer learning for self-supervised, blind-spot seismic denoising
KAUST(阿卜杜拉国王科技大学)
地震资料中的噪声来自许多源并且不断地演变。使用有监督的深度学习程序对地震数据集进行去噪通常会导致性能不佳:这是由于缺乏无噪声的现场数据作为训练目标,以及合成数据集和现场数据集之间的特征差异很大。自我监督的盲点网络通常通过直接在原始的噪声数据上进行训练来克服这些限制。然而,这种网络通常依赖于随机噪声假设,即使存在最小相关噪声,其去噪能力也会迅速下降。从盲点扩展到盲罩可以有效地抑制特定方向上的相干噪声,但不能适应噪声不断变化的特性。为了抢占网络预测信号的能力,并减少其学习噪声属性的机会,我们提出了一个初始的,监督训练的网络在一个简单生成的合成数据集之前,微调在一个自我监督的方式对感兴趣的领域数据集。考虑到峰值信噪比的变化,以及减少的噪声量和观察到的信号泄漏,我们说明了使用监督基础训练的权重初始化自监督网络的明显好处。这进一步得到了现场数据集测试的支持,其中微调网络在信号保留和降噪之间取得了最佳平衡。最后,使用不切实际的、简单生成的合成数据集进行监督基础训练包括许多好处:仅举几例:需要最少的先验地质知识,大大降低了数据集生成的计算成本,以及如果记录条件发生变化,则降低了重新训练网络的要求。
2022-09-25 cs.LG physics.geo-ph
No-reference denoising of low-dose CT projections
Philips(飞利浦)
低剂量计算机断层扫描(LDCT)成为放射学的一个明显趋势,其目的是避免向患者提供过多的X射线辐射。辐射剂量的降低降低了患者的风险,但提高了噪声水平,影响了图像的质量及其最终的诊断价值。一种缓解选项是考虑成对的低剂量和高剂量CT投影,以使用深度学习算法训练去噪模型;然而,这种对在实践中很少可用。在本文中,我们提出了一种新的自监督CT去噪方法。与现有的自监督方法不同,该方法只需要噪声CT投影,并利用相邻图像之间的连接。在LDCT数据集上进行的实验表明,我们的方法几乎与监督方法一样准确,同时也优于所考虑的自监督去噪方法。
2021-02-03 cs.AI cs.CV cs.LG
Neural Affine Grayscale Image Denoising
Sungkyunkwan University(成均馆大学)
我们提出了一种新的灰度图像去噪,称为神经仿射图像去噪(神经AIDE),它利用神经网络在一个新的方式。与其他基于神经网络的图像去噪方法不同,这些方法通常应用简单的监督学习来学习从噪声补丁到干净补丁的映射,我们制定训练神经网络来学习\emph{affine}映射,该映射基于其上下文应用于噪声像素。我们的公式可以从标记的训练数据集对网络进行监督训练,并使用给定的噪声图像进行去噪,对网络参数进行自适应微调。设计Neural AIDE的关键工具是仅基于噪声数据设计仿射映射的MSE的估计损失函数。因此,我们的算法在标准基准数据集上的性能优于大多数最新的最先进的方法。此外,我们的微调方法可以很好地克服图像去噪中的块级监督学习方法的缺点之一;即,只要我们在微调步骤中具有匹配的噪声方差,就可以大部分校正具有不匹配的噪声方差的监督训练模型。
2017-09-17 cs.CV cs.LG
Noise2Inverse: Self-supervised deep convolutional denoising for tomography
Centrum Wiskunde & Informatica(荷兰国家数学与计算机科学研究中心);Leiden Institute of Advanced Computer Science, Leiden Universiteit(莱顿大学高级计算机科学研究所)
从有噪声的间接测量中恢复高质量的图像是许多应用中的重要问题。对于这样的逆问题,基于监督深度卷积神经网络(CNN)的去噪方法已经显示出了很好的结果,但这些监督方法的成功关键取决于类似测量的高质量训练数据集的可用性。对于图像去噪,通过假设两个不同像素中的噪声是不相关的,使得能够在没有单独的训练数据集的情况下进行训练的方法是可用的。然而,这个假设不适用于逆问题,导致现有方法产生的去噪图像中的伪影。在这里,我们提出了Noise2Inverse,这是一种基于CNN的深度去噪方法,用于线性图像重建算法,不需要任何额外的干净或嘈杂数据。训练基于CNN的去噪器是通过利用噪声模型来计算多个统计独立的重建来实现的。我们开发了一个理论框架,表明这种训练确实获得了去噪的CNN,假设测量的噪声是元素独立的和零均值的。在模拟CT数据集上,与最先进的图像去噪方法和传统重建方法(如总变差最小化)相比,Noise2Inverse在峰值信噪比和结构相似性指数方面有所改善。我们还证明了该方法能够显着降低具有挑战性的现实世界的实验数据集的噪声。
2020-09-15 cs.CV cs.LG eess.IV
Leveraging Self-supervised Denoising for Image Segmentation
Center for Systems Biology Dresden (CSBD)(德累斯顿系统生物学中心);Max-Planck Institute of Molecular Cell Biology and Genetics(马克斯·普朗克分子细胞生物学与遗传学研究所)
深度学习(DL)可以说是显微图像中生物结构检测和分割的首选方法。然而,深度学习通常需要大量的带注释的训练数据,而这些数据对于生物医学项目来说通常是不可用的,而且生成起来过于昂贵。此外,在存在噪声的情况下,任务变得更加困难,需要更多高质量的训练数据。因此,我们建议使用去噪网络来提高其他基于DL的图像分割方法的性能。更具体地说,我们提出了关于最先进的自监督CARE网络如何改善显微镜数据中的细胞/细胞核分割的想法。使用两种最先进的基线方法,U-Net和StarDist,我们证明了我们的想法始终提高了分割的质量,特别是当只有有限的噪声显微照片的训练数据可用时。
2020-03-19 cs.CV cs.LG eess.IV
Self-supervised Dynamic CT Perfusion Image Denoising with Deep Neural Networks
Center for Advanced Medical Computing and Analysis(高级医学计算与分析中心);Gordon Center for Medical Imaging(戈登医学成像中心);Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院)
动态计算机断层成像灌注(CTP)成像是一种有前途的方法,急性缺血性卒中的诊断和评价。脑实质的血流动力学参数图是根据碘化造影剂第一次通过大脑的重复CT扫描计算的。由于重复扫描的高辐射暴露,有必要减少常规应用的CTP剂量,其中图像降噪是实现可靠诊断所必需的。在本文中,我们提出了一种用于CTP去噪的自监督深度学习方法,该方法不需要任何高剂量参考图像进行训练。通过将CTP的每个帧映射到来自其相邻帧的估计来训练网络。由于噪声在源和目标中是相互独立的,该方法可以有效地去除噪声。由于没有高剂量的训练图像,因此该方法更容易适应不同的扫描协议。该方法在模拟和公共真实数据集上进行了验证。与传统的去噪方法相比,该方法提高了图像质量。在实际数据上,与基于仿真数据训练的监督学习相比,该方法还提高了空间分辨率和对比度噪声比
2020-05-19 cs.CV cs.LG eess.IV
A Self-Supervised Algorithm for Denoising Photoplethysmography Signals for Heart Rate Estimation from Wearables
Duke University(杜克大学);Georgia Institute of Technology(佐治亚理工学院);Emory University(埃默里大学)
本文提出一种基于自监督去噪自编码器的PPG信号去噪算法,在保留干净信号形态的同时重建受损部分,显著提升可穿戴设备的心率与心率变异性估计性能。
2023-07-07 cs.LG eess.SP
Type Information-Assisted Self-Supervised Knowledge Graph Denoising
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
针对知识图谱自动构建产生的噪声,本文提出利用实体与关系类型一致性,通过编码—解码重建差异实现自监督去噪,并在真实数据上验证有效。
2025-03-13 cs.LG
Supervised Raw Video Denoising with a Benchmark Dataset on Dynamic Scenes
Tianjin University(天津大学)
近年来,用于实际含噪图像去噪的监督学习策略不断涌现,并取得了可喜的成果。相比之下,由于缺乏动态场景的噪声-清洁对,很少研究原始噪声视频的真实噪声去除。动态场景的清晰视频帧不能像静态图像那样使用长曝光快门或平均多张照片来捕获。在本文中,我们解决了这个问题,通过创建运动的可控对象,如玩具,并捕捉每个静态时刻多次生成干净的视频帧。通过这种方式,我们构建了一个包含55组ISO值范围从1600到25600的噪声干净视频的数据集。据我们所知,这是第一个具有噪声-干净对的动态视频数据集。相应地,我们提出了一个原始视频去噪网络(RViDeNet),通过探索视频帧的时间,空间和通道相关性。由于原始视频具有拜耳模式,我们将其打包成四个子序列,即RGBG序列,分别由建议的RViDeNet去噪,最后融合成一个干净的视频。此外,我们的网络不仅输出原始去噪结果,还通过图像信号处理(ISP)模块输出sRGB结果,这使用户能够使用他们最喜欢的ISP生成sRGB结果。实验结果表明,我们的方法优于国家的最先进的视频和原始图像去噪算法在室内和室外视频。
2020-03-31 cs.CV cs.LG eess.IV
Self-Supervised Pre-Training for Deep Image Prior-Based Robust PET Image Denoising
提出一种自监督预训练模型,通过从无标签PET图像中学习可泛化的视觉表示来提升基于深度图像先验(DIP)的PET图像去噪性能,在临床数据上实现了鲁棒且最先进的去噪效果,有助于减少扫描时间或示踪剂剂量。
2023-02-27 cs.CV cs.LG physics.med-ph
Noise2Score: Tweedie's Approach to Self-Supervised Image Denoising without Clean Images
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);Kim Jaechul Graduate School of AI(金在哲人工智能研究生院)
最近,人们对训练深度网络以在没有干净参考的情况下对图像进行降噪有着广泛的研究兴趣。然而,代表性的方法,如Noise2Noise,Noise2Void,Stein的无偏风险估计(SURE)等,似乎彼此不同,很难找到连贯的数学结构。为了解决这个问题,我们提出了一种新的方法,称为Noise2Score,它揭示了一个缺失的环节,以统一这些看似不同的方法。具体而言,我们表明,图像去噪问题,没有干净的图像可以通过找到后验分布的模式,并通过得分函数(即梯度对数似然)的Tweedie的公式提供了一个明确的解决方案。然后,我们的方法使用最近的发现,即可以使用摊销残差去噪自动编码器从噪声图像中稳定地估计得分函数,该方法与Noise2Noise或Nose2Void密切相关。我们的Noise2Score方法是如此的通用,以至于相同的网络训练可以用于从被任何指数族分布和噪声参数破坏的图像中去除噪声。通过对高斯、泊松和伽马噪声的大量实验,我们证明了Noise2Score在基准数据集(如(C)BSD 68、Set12和Kodak等)中的性能明显优于最先进的自监督去噪方法。
2021-10-27 cs.CV cs.LG eess.IV
High-Quality Self-Supervised Deep Image Denoising
NVIDIA(英伟达);Aalto University(阿尔托大学)
我们描述了一种新的方法,用于训练高质量的图像去噪模型的基础上无组织的收集损坏的图像。该训练不需要访问干净的参考图像或显式的损坏图像对,因此可以应用于这样的数据是不可接受的昂贵或不可能获得的情况。我们建立在最近的一项技术基础上,该技术通过采用在感受野中具有“盲点”的网络来消除对参考数据的需求,并显着提高了两个关键方面:图像质量和训练效率。我们的结果质量与最先进的神经网络去噪器在i.i.d.的情况下相当。加性高斯噪声,以及紧随其后的泊松和脉冲噪声。我们还成功地处理了噪声模型的参数在训练和评估数据中是可变的和/或未知的情况。
2019-10-28 cs.CV cs.LG cs.NE
Noise2SR: Learning to Denoise from Super-Resolved Single Noisy Fluorescence Image
ShanghaiTech University(上海科技大学);Shanghai Jiao Tong University(上海交通大学)
荧光显微镜是促进生物医学研究发现的关键驱动力。然而,由于显微镜硬件和所观察样品的特性的限制,荧光显微图像容易受到噪声的影响。最近,已经提出了一些自监督深度学习(DL)去噪方法。然而,现有方法的训练效率和去噪性能相对较低的真实场景中的噪声去除。针对这一问题,提出了自监督图像去噪方法Noise2SR(N2SR),训练了一种简单有效的基于单噪声观测的图像去噪模型。我们的Noise2SR去噪模型旨在使用不同维度的成对噪声图像进行训练。得益于这种训练策略,Noise2SR可以更有效地进行自我监督,并能够从单个噪声观察中恢复更多的图像细节。模拟噪声和真实显微镜噪声去除的实验结果表明,Noise2SR优于两种基于盲点的自监督深度学习图像去噪方法。我们设想Noise2SR有潜力改善更多其他类型的科学成像质量。
2022-09-14 cs.CV cs.LG eess.IV
Blind Biological Sequence Denoising with Self-Supervised Set Learning
University of Toronto(多伦多大学);Vector Institute(向量研究所);MIT(麻省理工学院);Prescient Design;Genentech(基因泰克);New York University(纽约大学);CIFAR(加拿大高等研究院)
提出自监督集合学习(SSSL)方法,通过嵌入空间中子读段的中点估计实现盲序列去噪,在模拟和真实数据上分别降低错误率17%和8%,显著优于基线。
2023-09-04 cs.LG q-bio.GN
SDnDTI: Self-supervised deep learning-based denoising for diffusion tensor MRI
Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital(马萨诸塞州总医院阿蒂努拉·A·马蒂诺斯生物医学成像中心);Department of Radiology, Harvard Medical School(哈佛医学院放射学系);Department of Biomedical Engineering, Tsinghua University(清华大学生物医学工程系);Harvard-MIT Division of Health Sciences and Technology, Massachusetts Institute of Technology(麻省理工学院哈佛-麻省理工健康科学与技术部)
弥散加权图像(DWI)中的噪声降低了弥散张量磁共振成像(DTI)获得的微结构参数的准确性和精度,并导致为提高信噪比(SNR)而延长的采集时间。使用卷积神经网络(CNN)的基于深度学习的图像去噪具有优越的性能,但通常需要额外的高SNR数据来监督CNN的训练,这降低了实际可行性。我们开发了一种名为“SDnDTI”的基于自监督深度学习的方法,用于对DTI数据进行去噪,该方法不需要额外的高SNR数据进行训练。具体而言,SDnDTI将多方向DTI数据划分为许多子集,每个子集由沿着最佳选择的扩散编码方向的六个DWI体积组成,这些方向对张量拟合的噪声具有鲁棒性,然后使用每个数据子集作为CNN的输入数据从拟合的扩散张量合成沿着所有采集方向的DWI体积。另一方面,SDnDTI从使用所有采集的数据作为训练目标拟合的扩散张量合成沿着采集的具有更高SNR的扩散编码方向的DWI体积。SDnDTI使用深层3维CNN从合成DWI体积的每个子集中去除噪声,以匹配更清晰的目标DWI体积的质量,并通过对所有降噪数据子集进行平均来实现更高的SNR。SDnDTI的去噪效果在人类连接组项目(HCP)和寿命HCP老化提供的两个数据集上得到了证明。SDnDTI结果保留了图像清晰度和纹理细节,并在原始数据的基础上大幅改善。SDnDTI的结果与基于监督学习的去噪结果相当,并且优于BM 4D、AONLM和MPPCA等最先进的传统去噪…
2021-11-14 cs.LG eess.IV physics.med-ph
Robust multi-coil MRI reconstruction via self-supervised denoising
Stanford University(斯坦福大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Intel Corporation(英特尔公司);MD Anderson Cancer Center(MD安德森癌症中心);Dell Medical School Department of Diagnostic Medicine(德克萨斯大学戴维斯医学中心诊断医学系);Oden Institute for Computational Engineering and Sciences(奥登计算工程与科学研究院)
本研究提出将自监督去噪作为预处理步骤,提升基于深度学习的多线圈MRI重建性能,实验表明该方法在不同噪声水平下均能改善重建质量,并可能免除对无噪声参考数据的需求。
2025-05-24 cs.AI cs.CV cs.LG
Suppression of Correlated Noise with Similarity-based Unsupervised Deep Learning
Rensselaer Polytechnic Institute(伦斯勒理工学院)
图像去噪是许多领域下游任务的先决条件。低剂量和光子计数计算机断层扫描(CT)去噪可以在最小辐射剂量下优化诊断性能。有监督的深度去噪方法很受欢迎,但需要成对的干净或有噪声的样本,而这些样本在实践中通常是不可用的。受噪声独立性假设的限制,现有的无监督去噪方法无法处理CT图像中的相关噪声。在这里,我们提出了第一种基于相似性的无监督深度去噪方法,称为Noise2Sim,它以非局部和非线性的方式工作,不仅可以抑制独立噪声,还可以抑制相关噪声。从理论上讲,Noise2Sim在温和的条件下与监督学习方法是渐近等价的。在实验中,Nosie2Sim从噪声低剂量CT和光子计数CT图像中恢复固有特征,在视觉上,定量地和统计上与实际数据集上的监督学习方法一样有效,甚至更好。Noise2Sim是一种通用的无监督去噪方法,在各种应用中具有巨大的潜力。
2022-01-05 cs.CV cs.LG eess.IV
Coherence and Diversity through Noise: Self-Supervised Paraphrase Generation via Structure-Aware Denoising
IIIT-Delhi(德里英迪拉·甘地信息技术学院)
在本文中,我们提出了扫描,一个无监督的框架,通过控制噪声注入释义。我们专注于解释代数单词问题的新任务,这些问题在在线教学中具有实际应用,以减少剽窃,并确保学生的理解,而不是死记硬背。这个任务比释义一般领域语料库更复杂,因为很难保留关键信息以解决释义单词问题的一致性,管理文本的增加长度并确保生成的释义的多样性。现有的方法未能在这些方面中的至少一个方面(如果不是全部的话)表现出足够的性能,因此需要更全面的解决方案。为此,我们建模的噪声搜索空间作为一个组成的上下文和语法方面和样本噪声功能组成的一个或两个方面。这允许学习在两个方面上操作的去噪函数,并通过接地噪声注入产生语义上等效和语法上多样化的输出。去噪函数用作学习改述函数的基础,该改述函数仅在输入-改述空间中操作,而不携带对噪声的任何直接依赖性。我们证明了SCANING通过跨4个数据集进行广泛的自动化和手动评估,在语义保留和产生不同释义方面大大提高了性能。
2023-02-06 cs.CL cs.LG
Noise2Inpaint: Learning Referenceless Denoising by Inpainting Unrolling
University of Minnesota(明尼苏达大学)
基于深度学习的图像去噪方法由于其改进的性能而最近很流行。传统上,这些方法是以监督的方式训练的,需要一组有噪声的输入和干净的目标图像对。最近,已经提出了自监督方法来学习仅从噪声图像中去噪。这些方法假设像素间的噪声在统计上是独立的,并且底层图像像素在邻域间显示出空间相关性。这些方法依赖于掩蔽方法,该方法将图像像素划分为两个不相交的集合,其中一个用作网络的输入,而另一个用于定义损失。然而,这些以前的自监督方法依赖于纯粹的数据驱动的正则化神经网络,而没有明确考虑掩蔽模型。在这项工作中,基于这些自监督方法,我们引入了Noise2Inpaint(N2I),这是一种训练方法,可以将去噪问题重新转换为正则化图像修复框架。这允许我们使用目标函数,该目标函数可以根据需要包含噪声的不同统计特性。我们使用展开算法展开一个迭代优化来求解这个目标函数,并对展开的网络进行端到端的训练。训练范例遵循以前作品中的掩蔽方法,将像素分成两个不相交的集合。重要的是,其中一个现在用于在展开的网络中施加数据保真度,而另一个仍然定义丢失。我们证明了N2I在真实世界的数据集上进行了成功的去噪,同时与纯粹数据驱动的Noise2Self相比,它更好地保留了细节。
2020-11-19 cs.CV cs.LG eess.IV
DiffEEG: A Self-Supervised Denoising Diffusion Model for Learning EEG seizure-related Representations
Lebanese American University(黎巴嫩美国大学);Institute of Applied Artificial Intelligence, TÉLUQ University(应用人工智能研究所,泰鲁克大学)
研究针对基于脑电的癫痫检测面临的注释稀缺和类别不平衡问题,提出DiffEEG自监督基础模型,通过去噪扩散预训练和强化学习微调学习通用神经表示,在癫痫检测中取得较好效果,证明该方法能以最少标记数据实现临床可部署监测。
2026-10-21 cs.AI cs.CV cs.LG
Prototype-Rectified Iterative Self-supervised Manifold Denoising under Severe Acoustic Shift
Indian Institute of Science Education and Research(印度科学教育与研究学院);Vellore Institute of Technology(韦洛尔理工大学)
针对严重声学噪声下音频-文本基础模型的失效问题,提出无训练无数据源的TTA框架PRISM,在UrbanSound8K数据集上取得显著性能提升,还解决了复音陷阱问题。
2026-08-18 cs.LG cs.SD
Self-supervised denoising of visual field data improves detection of glaucoma progression
Pepperdine University(佩珀代因大学);University of California Los Angeles(加利福尼亚大学洛杉矶分校);Stein Eye Institute(斯坦眼科研究所);David Geffen School of Medicine(戴维·格芬医学院);Columbia University(哥伦比亚大学);University of California Riverside(加利福尼亚大学河滨分校)
本研究利用自监督深度学习对4000余例患者视野数据去噪,比较掩码自编码器与变分自编码器,并加入位置p值,使青光眼进展检出率提高4.7%、进展预测提前2.3个月,实现更早更准的进展检测。
2024-11-19 cs.CV cs.LG eess.IV