Parameter estimation of the homodyned K distribution based on neural networks and trainable fractional-order moments
Institute of Fundamental Technological Research, Polish Academy of Sciences(波兰科学院基础技术研究所)
在超声成像、光学等研究领域中,均速K(HK)分布被广泛用于描述散射现象。在这项工作中,我们提出了一个基于机器学习的方法来估计的HK分布参数。我们开发的神经网络,可以估计HK分布参数的基础上的信噪比,偏度和峰度计算分数阶矩。与以前的方法相比,我们将矩的阶数视为可训练变量,可以使用反向传播算法与网络权重一起优化。网络基于从HK分布生成的样本进行训练。结果表明,该方法可以准确地估计HK分布参数。
2022-12-16 cs.LG physics.data-an physics.med-ph
Train Feedfoward Neural Network with Layer-wise Adaptive Rate via Approximating Back-matching Propagation
Micorosoft Research Asia(微软亚洲研究院)
随机梯度下降(SGD)在训练深度神经网络方面取得了巨大成功,其中梯度是通过反向传播计算的。然而,不同层的反向传播值差异很大。这种跨不同层的梯度幅度的不一致性使得具有单一学习率的深度神经网络的优化成问题。我们引入了反向匹配传播,它通过匹配层输出上的反向值来计算层参数和输入上的反向值。这导致解决一堆最小二乘问题,这需要很高的计算成本。然后,我们减少了近似的后匹配传播,并提出了一种算法,变成了定期SGD与逐层自适应学习率策略。这使得我们的算法在当前的机器学习框架配备了自动微分容易实现。我们将我们的算法应用于训练现代深度神经网络,并取得了优于SGD的结果。
2018-02-27 cs.LG stat.ML
Revisiting Initialization of Neural Networks
权值的正确初始化对于深度神经网络(DNN)的有效训练和快速收敛至关重要。该领域的先前工作主要集中在平衡每层权重之间的方差,以分别保持(i)通过网络向前传播的输入数据和(ii)向后传播的损失梯度的稳定性。然而,这种流行的启发式算法对各个层的梯度之间的依赖性是不可知的,并且只捕获一阶效应。在本文中,我们提出并讨论了一个初始化原则,这是基于一个严格的估计的全局曲率的权重跨层逼近和控制其海森矩阵的范数。所提出的方法更加系统化,并恢复了DNN激活的先前结果,例如平滑函数,辍学和ReLU。我们在Word 2 Vec和MNIST/CIFAR图像分类任务上的实验证实,跟踪Hessian规范是一种有用的诊断工具,有助于更严格地初始化权重
2020-06-04 cs.LG math.OC stat.ML
Characterizing and Mitigating the Difficulty in Training Physics-informed Artificial Neural Networks under Pointwise Constraints
University of Pittsburgh(匹兹堡大学)
神经网络可用于学习任意域上的偏微分方程(PDE)的解,而不需要计算网格。常见的方法是使用结构化的损失函数在训练神经网络时集成微分算子。神经网络最常见的训练算法是反向传播,它依赖于损失函数相对于网络参数的梯度。在这项工作中,我们通过研究微分算子在破坏反向传播梯度中的影响来描述物理训练神经网络的困难。特别是,我们表明,扰动存在于一个神经网络模型的输出在训练的早期阶段导致更高水平的噪声在一个结构化的损失函数,这是由高阶微分算子。因此,这些扰动破坏了反向传播的梯度,并阻碍收敛。我们通过引入辅助通量参数来获得一阶微分方程来缓解这个问题。我们制定了一个非线性无约束优化问题,使用增广拉格朗日方法,适当地约束边界条件,并自适应地专注于区域的梯度较高,难以学习。我们应用我们的方法来学习各种基准PDE问题的解决方案,并展示了现有方法的数量级改进。
2022-07-06 cs.LG physics.flu-dyn
Between Amnesia and Chaos: A Memory Stability Expressivity Trilemma for Trainable Dissipative Oscillator Networks
Independent Researcher(独立研究者)
本文研究可训练非线性振荡器网络,发现记忆范围、梯度稳定性和动态表现力三者受阻尼控制,存在无法同时最大化的三难困境,并通过实验验证了理论边界。
2026-06-07 cs.AI cs.LG
T-SKM-Net: Trainable Neural Network Framework for Linear Constraint Satisfaction via Sampling Kaczmarz-Motzkin Method
本文提出T-SKM-Net框架,通过将混合约束问题转化为纯不等式问题,并结合采样Kaczmarz-Motzkin方法进行迭代求解,实现神经网络在约束满足中的高效处理,同时保证了端到端的可训练性。
2025-12-11 cs.AI cs.LG math.OC
Weightless Neural Networks for Continuously Trainable Personalized Recommendation Systems
nimo Omnis Labs
本文提出使用无权神经网络构建逐用户的小型个性化推荐模型,实现持续学习并提升透明度,在MovieLens子集上取得与经典加权系统和协同过滤相当的准确率。
2025-09-15 cs.AI cs.IR cs.LG
Semi-Implicit Back Propagation
神经网络长期以来受到人们的广泛关注,许多研究者致力于提高神经网络训练算法的有效性。虽然随机梯度下降(SGD)等显式梯度算法被广泛采用,但SGD算法仍存在梯度消失、小步长等问题,导致SGD算法收敛速度慢、不稳定。受误差反向传播(BP)和近似方法的启发,我们提出了一种半隐式的BP神经网络训练方法。类似于BP,神经元上的差异以向后的方式传播,并且参数用邻近映射更新。隐式更新隐藏的神经元和参数允许在训练算法中选择大的步长。最后,我们还证明了该算法产生的收敛序列的任何不动点都是目标损失函数的一个驻点。在MNIST和CIFAR-10上的实验表明,与SGD和类似的ProxBP算法相比,所提出的半隐式BP算法在损失减少和训练/验证精度方面都有更好的性能。
2020-02-10 cs.LG math.OC stat.ML
QuCNN : A Quantum Convolutional Neural Network with Entanglement Based Backpropagation
Pacific Northwest National Laboratory(太平洋西北国家实验室);Fordham University(福特汉姆大学)
量子机器学习仍然是量子计算中一个高度活跃的领域。这些方法中的许多方法已经将经典方法适应于量子设置,例如QuantumFlow等。我们推动了这一趋势,并展示了经典卷积神经网络对量子系统的适应-即QuCNN。QuCNN是一个基于参数化多量子态的神经网络层,计算每个量子滤波器状态和每个量子数据状态之间的相似性。使用QuCNN,可以通过单个辅助量子比特量子例程实现反向传播。通过在MNIST图像的一个小子集上应用具有数据状态和滤波器状态的卷积层,比较反向传播的梯度,并针对理想目标状态训练滤波器状态,来验证QuCNN。
2022-10-11 cs.LG quant-ph
Fully Trainable Deep Differentiable Logic Gate Networks and Lookup Table Networks
imec
该研究提出新方法优化深度可微逻辑门网络和查找表网络连接,利用概率分布选最优连接,并行学习门类型等。在多个基准测试中表现优于固定连接网络,减少门数量,确保多层训练稳定,还提出LUT神经元描述,提升模型性能。
2026-07-13 cs.AI cs.LG
Theory of Minimal Weight Perturbations in Deep Networks and its Applications for Low-Rank Activated Backdoor Attacks
Department of Mathematics, University of Oxford, Oxford, UK(牛津大学数学系)
本文推导了深度网络实现指定输出变化所需的最小范数权重扰动,并讨论了其大小决定因素,同时将其应用于精度修改激活的后门攻击,确定了攻击成功的压缩阈值,并展示了低秩压缩可以在保持全精度准确性的同时可靠激活潜在后门。
2026-05-18 cs.IT cs.LG math.IT
QuasiNet: a neural network with trainable product layers
Faculty of Mathematics, Physics and Informatics Comenius University in Bratislava(布拉迪斯拉发夸美纽斯大学数学、物理与信息学院)
本文提出QuasiNet,通过引入可训练的乘积神经元层改进经典反向传播,有效解决异或、奇偶校验和双螺旋等困难问题,实验表明其成功率显著优于经典多层感知器。
2024-02-26 cs.AI cs.LG cs.NE
Direct Feedback Alignment Provides Learning in Deep Neural Networks
人工神经网络最常用反向传播算法训练,其中用于学习的梯度通过将误差从输出层逐层反向传播到隐藏层来提供。最近发现的一种称为反馈对齐的方法表明,用于向后传播错误的权重不必与用于向前传播激活的权重对称。事实上,随机反馈权重的效果也很好,因为网络学习如何使反馈有用。在这项工作中,反馈对齐原则用于训练隐藏层,更独立于网络的其余部分,并从零初始条件。误差通过固定的随机反馈连接直接从输出层传播到每个隐藏层。这种简单的方法即使在卷积网络和非常深度的网络中也能够实现零训练错误,完全没有错误反向传播。该方法是迈向生物学上合理的机器学习的一步,因为误差信号几乎是局部的,并且不需要对称或倒数权重。实验表明,MNIST和CIFAR的测试性能几乎与全连接网络的反向传播一样好。如果结合dropout,该方法在排列不变MNIST任务上实现了1.45%的错误。
2016-12-21 cs.LG stat.ML
Genetic Algorithm based hyper-parameters optimization for transfer Convolutional Neural Network
State Key Laboratory of High-end Server & Storage Technology(高端服务器与存储技术国家重点实验室);Inspur Group Co., Ltd(浪潮集团有限公司);Shandong Hailiang Information Technology Institutes(山东海量信息技术研究院);Inspur Electronic Information Industry Co., Ltd(浪潮电子信息产业股份有限公司);Guangdong Inspur Intelligent Computing Technology Co., Ltd(广东浪潮智慧计算技术有限公司)
超参数优化是开发深度神经网络中的一个具有挑战性的问题。转移层和可训练层的选择是转移卷积神经网络(CNN)设计的一个主要任务。传统的转移CNN模型通常是基于直觉手动设计的。在本文中,遗传算法被用来选择可训练层的传输模型。过滤准则由精度和可训练层的计数来构造。结果表明,该方法是胜任这一任务。该系统在猫和狗数据集的分类中将以97%的精度收敛,不超过15代。此外,根据遗传算法的结果进行反向推理,结果表明,该方法能够捕捉到网络层的梯度特征,这对理解迁移的AI模型起到了一定的作用。
2021-02-26 cs.LG cs.NE
Finite-Agent Stochastic Differential Games on Large Graphs: II. Graph-Based Architectures
Department of Mathematics, and Department of Statistics and Applied Probability, University of California, Santa Barbara(数学系和应用概率统计系,加州大学圣芭芭拉分校);Institute for Advanced Algorithms Research(高级算法研究所);University of California, Santa Barbara(加州大学圣芭芭拉分校)
研究图上随机微分博弈中纳什均衡计算问题,提出NTM架构,对前馈神经网络施加图引导稀疏化以减少可训练参数。将其纳入两种博弈求解器得到稀疏变体,实验表明该方法性能与全可训练方法相当且计算效率更高。
2026-07-22 cs.GT cs.LG math.OC
Differentially Private Deep Learning with Direct Feedback Alignment
University of Georgia(佐治亚大学);The Pennsylvania State University(宾夕法尼亚州立大学)
用于深度神经网络的差分私有训练的标准方法用对梯度的有偏和有噪声的近似来代替反向传播的小批量梯度。这些对训练的修改通常会导致隐私保护模型的准确性明显低于非私有模型。我们假设,替代的训练算法可能更适合差分隐私。具体来说,我们研究的直接反馈对齐(DFA)的适用性。我们提出了第一种使用DFA训练深度神经网络的差分私有方法,并表明与各种架构(全连接,卷积)和数据集上的基于反向传播的差分私有训练相比,它在准确性方面取得了显着的进步(通常为10-20%)。
2020-10-08 cs.AI cs.LG
Training Neural Networks with Local Error Signals
Kongsberg Seatex(康斯伯格Seatex公司)
用于分类的神经网络的监督训练通常用全局损失函数来执行。损失函数为输出层提供梯度,并且该梯度被反向传播到隐藏层以指示权重的更新方向。另一种方法是用逐层损失函数训练网络。在本文中,我们首次证明了分层训练可以在各种图像数据集上接近最先进的水平。我们使用单层子网络和两个不同的监督损失函数来生成隐藏层的局部错误信号,并且我们表明这些损失的组合有助于在局部学习的背景下进行优化。使用局部错误可能是迈向生物学上更合理的深度学习的一步,因为全局错误不必被传输回隐藏层。一个完全反向传播自由的变体优于以前报道的结果,旨在更高的生物相容性的方法。代码可从https://github.com/anokland/local-loss获得
2019-05-07 cs.CV cs.LG stat.ML
Formal derivation of Mesh Neural Networks with their Forward-Only gradient Propagation
University of Pisa(比萨大学)
本文提出了网状神经网络(MNN),一种新的架构,允许神经元连接在任何拓扑结构,以有效地路由信息。在MNN中,信息通过状态转换函数在神经元之间传播。状态和误差梯度,然后直接计算状态更新,而无需向后计算。的MNN架构和错误传播模式的形式化和张量代数推导。所提出的计算模型可以完全提供一个梯度下降过程,并可能适用于非常大规模的稀疏神经网络,由于其表达能力和训练效率,相对于基于反向传播和计算图的神经网络。
2021-09-30 cs.AI cs.LG cs.NE
Forward-Forward Training of an Optical Neural Network
EPFL(洛桑联邦理工学院);Google Research(谷歌研究院)
本文实验验证了利用光纤中多模非线性波传播实现前向-前向算法训练光学神经网络的可行性,证明在多层架构中引入光学变换可在可训练权重较少时提升性能。
2023-08-10 cs.LG physics.optics
Multi-Timescale Conductance Spiking Networks: A Sparse, Gradient-Trainable Framework with Rich Firing Dynamics for Enhanced Temporal Processing
Department of Neurobiology, University of California Los Angeles (UCLA)(加州大学洛杉矶分校神经生物学系);Instituto de Física Corpuscular (IFIC, CSIC–UV)(Corpuscular物理研究所(IFIC,CSIC–UV))
本文提出多时间尺度传导突触网络,通过调节快、慢和超慢电导来控制神经动力学,实现高效训练和稀疏活动,提升时间处理能力。
2026-05-12 cs.AI cs.LG cs.NE
Towards the Training of Deeper Predictive Coding Neural Networks
Institute of Logic and Computation, Vienna University of Technology(逻辑与计算研究所,维也纳技术大学);University of Oxford(牛津大学);VERSES AI Research Lab(VERSES AI研究实验室)
本文针对预测编码网络在深层架构中的性能退化问题,提出精度加权优化、权重更新机制和辅助神经元三种方法,使深度模型性能与反向传播相当。
2025-10-10 cs.LG
Practical recommendations for gradient-based training of deep architectures
与人工神经网络相关的学习算法,特别是用于深度学习的学习算法,似乎涉及许多花里胡哨的东西,称为超参数。本章是一个实用指南,对一些最常用的超参数提出了建议,特别是在基于反向传播梯度和基于梯度的优化的学习算法的背景下。它还讨论了如何处理这样一个事实,即当允许调整多个超参数时,可以获得更有趣的结果。总的来说,它描述了用于成功有效地训练和调试大规模且通常是深度多层神经网络的实践要素。最后,它提出了一些关于在更深层次的架构中观察到的训练困难的开放性问题。
2012-09-16 cs.LG
LoRA-XS: Low-Rank Adaptation with Extremely Small Number of Parameters
Jagiellonian University(雅盖隆大学);EPFL(苏黎世联邦理工学院)
针对LoRA部署多模块时的存储与计算挑战,提出LoRA-XS,通过在预训练权重SVD冻结低秩矩阵间引入小型可训练矩阵,大幅减少参数并适配约束,在多基准上精度优于或匹配LoRA/VeRA,提升参数效率。
2025-08-19 cs.AI cs.CL cs.LG
Multi-Slice Net: A novel light weight framework for COVID-19 Diagnosis
Queensland University of Technology(昆士兰科技大学)
本文提出了一种使用CT扫描的新型轻量级COVID-19诊断框架。我们的系统利用一种新的两阶段方法来生成跨异构患者级输入的强大而有效的诊断。我们使用一个功能强大的主干网作为特征提取器,以捕获区分切片级功能。这些特征通过轻量级网络聚合以获得患者级诊断。聚合网络经过精心设计,具有少量的可训练参数,同时还具有足够的能力来概括不同CT体积内的各种变化,并适应数据采集期间引入的噪声。在SPGC COVID-19放射组学数据集上进行基准测试时,我们实现了与基线相比的显著性能提升,尽管只有250万个可训练参数,并且使用Nvidia-GeForce RTX 2080 GPU处理单个患者的CT体积平均仅需0.623秒。
2021-08-09 cs.CV cs.LG eess.IV
Learning Neural Network Architectures using Backpropagation
Indian Institute of Science(印度科学理工学院)
具有数百万参数的深度神经网络是当今许多最先进的机器学习模型的核心。然而,最近的研究表明,参数数量少得多的模型也可以表现得一样好。在这项工作中,我们介绍了结构学习的问题,即学习的神经网络的结构与权重。我们引入了一个新的可训练参数,称为三态ReLU,它有助于消除不必要的神经元。我们还提出了一个光滑的正则化,鼓励消除后的神经元的总数是小的。由此产生的目标是可微的和简单的优化。我们在小型和大型网络上实验验证了我们的方法,并表明它可以学习具有相当少量参数的模型,而不会影响预测精度。
2016-08-02 cs.CV cs.LG cs.NE
Difference Target Propagation
Université de Montréal(蒙特利尔大学)
反向传播一直是深度学习最近成功的主力,但它依赖于无穷小效应(偏导数)来执行信用分配。这可能成为一个严重的问题,因为人们考虑更深入和更非线性的功能,例如,考虑非线性的极端情况,其中参数和成本之间的关系实际上是离散的。受到反向传播的生物学不可信性的启发,过去已经提出了一些可以发挥类似信用分配作用的方法。本着这种精神,我们探索了一种在深度网络中进行信用分配的新方法,我们称之为目标传播。主要思想是在每一层计算目标而不是梯度。像梯度一样,它们向后传播。以与先前提出的依赖于具有对称权重的后向网络的反向传播代理相关但不同的方式,目标传播依赖于每层的自动编码器。与反向传播不同,即使单元交换随机比特而不是实数,它也可以应用。我们表明,对自动编码器的线性校正(称为差分目标传播)对于使目标传播实际工作非常有效,从而导致与具有离散和连续单元的深度网络和去噪自动编码器的反向传播相当的结果,并实现随机网络的最新技术水平。
2015-11-25 cs.LG cs.NE
MKIS-Net: A Light-Weight Multi-Kernel Network for Medical Image Segmentation
UNSW(新南威尔士大学);Dongguk University(东国大学);Defence Science and Technology Group(国防科学技术集团)
图像分割是医学成像中的一项重要任务。它构成了各种临床诊断方法,治疗和计算机辅助手术的支柱。在本文中,我们提出了一个多核图像分割网络(MKIS-Net),它使用多个内核来创建一个有效的感受野,提高分割性能。由于其多核设计,MKIS-Net是一种具有少量可训练参数的轻量级架构。此外,这些多核感受野也有助于更好的分割结果。我们证明了MKIS-Net在几个任务上的有效性,包括视网膜血管分割,皮肤病变分割和胸部X射线分割。与最先进的方法相比,所提出的网络的性能具有相当的竞争力,并且通常是优越的。此外,在某些情况下,MKIS-Net的可训练参数比现有的医学图像分割替代方案少一个数量级以上,并且比其他轻量级架构小至少四倍。
2022-10-15 cs.CV cs.LG eess.IV
WLD-Reg: A Data-dependent Within-layer Diversity Regularizer
Tampere University(坦佩雷大学);Aarhus University(奥胡斯大学)
神经网络由以分层结构排列的多个层组成,所述分层结构利用基于梯度的优化联合训练,其中错误从最后一层反向传播回到第一层。在每个优化步骤中,给定层的神经元从属于层次结构的更高层的神经元接收反馈。在本文中,我们建议补充这种传统的“层间”的反馈与额外的“层内”的反馈,以鼓励同一层内的激活的多样性。为此,我们测量神经元输出之间的成对相似性,并使用它来建模层的整体多样性。我们提出了一个广泛的实证研究证实,所提出的方法提高了性能的几个国家的最先进的神经网络模型在多个任务。该代码可在\url{https://github.com/firasl/AAAI-23-WLD-Reg}上下载
2023-01-03 cs.CV cs.LG
Spike-based causal inference for weight alignment
University of Toronto Scarborough(多伦多大学士嘉堡校区);University of Toronto(多伦多大学);University of Pennsylvania(宾夕法尼亚大学);Mila(米拉研究所);McGill University(麦吉尔大学);Canadian Institute for Advanced Research(加拿大高级研究所)
在用梯度下降训练的人工神经网络中,用于处理刺激的权重也在反向传递期间用于计算梯度。对于真实的大脑来近似梯度,梯度信息必须单独传播,使得一组突触权重用于处理,另一组用于向后传递。这就产生了所谓的生物学习模型的“权重传输问题”,其中用于计算梯度的后向权重需要反映用于处理刺激的前向权重。这个权重传输问题被认为是如此困难,以至于生物学习的流行建议假设向后权重是简单随机的,就像反馈对齐算法一样。然而,这种随机权重似乎并不适用于大型网络。在这里,我们将展示如何在尖峰系统中引入的不连续性可以导致这个问题的解决方案。由此产生的算法是一个特殊的情况下,估计用于因果推理计量经济学,回归不连续设计。我们的经验表明,该算法迅速使向后的权重近似的向前的权重。随着后向权重变得正确,这提高了Fashion-MNIST,SVHN,CIFAR-10和VOC等任务的反馈对齐的学习性能。我们的研究结果表明,一个简单的学习规则在尖峰网络可以让神经元产生正确的向后连接,从而解决了重量运输问题。
2020-02-02 cs.LG q-bio.NC
Adaptive Bidirectional Backpropagation: Towards Biologically Plausible Error Signal Transmission in Neural Networks
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);National University of Singapore(新加坡国立大学)
反向传播(BP)算法被认为是训练深度神经网络的事实上的方法。它使用前馈权重的转置以精确的方式将误差从输出层反向传播到隐藏层。然而,有人认为这在生物学上是不合理的,因为在生物神经系统中,具有确切传入权重的反向传播误差信号被认为是不可能的。在这项工作中,我们提出了一个生物学上合理的神经架构的基础上,在神经科学和非对称BP类方法的相关文献范式。具体来说,我们提出了两个双向学习算法与可训练的前馈和反馈权重。前馈权重用于将激活从输入中继到目标输出。反馈权重将误差信号从输出层传递到隐藏层。与其他非对称BP类方法不同的是,反馈权重在我们的框架中也是可塑的,并且经过训练以近似正向激活。初步结果表明,我们的模型优于其他非对称BP类方法的MNIST和CIFAR-10数据集。
2018-04-29 cs.LG cs.NE
DoReFa-Net: Training Low Bitwidth Convolutional Neural Networks with Low Bitwidth Gradients
Megvii Inc.(旷视科技有限公司)
我们提出了DoReFa-Net,这是一种使用低位宽参数梯度来训练具有低位宽权重和激活的卷积神经网络的方法。特别地,在反向传递期间,参数梯度在被传播到卷积层之前被随机量化为低位宽数。由于前向/后向过程中的卷积现在可以分别对低位宽权重和激活/梯度进行操作,DoReFa-Net可以使用位卷积内核来加速训练和推理。此外,由于位卷积可以在CPU,FPGA,ASIC和GPU上有效地实现,DoReFa-Net为在这些硬件上加速低位宽神经网络的训练开辟了道路。我们在SVHN和ImageNet数据集上的实验证明,DoReFa-Net可以达到与32位同行相当的预测精度。例如,从AlexNet派生的DoReFa-Net具有1位权重,2位激活,可以使用6位梯度从头开始训练,以在ImageNet验证集上获得46.1\%的top-1准确度。DoReFa-Net AlexNet模型公开发布。
2018-02-02 cs.LG cs.NE
Skip2-LoRA: A Lightweight On-device DNN Fine-tuning Method for Low-cost Edge Devices
Keio University(庆应义塾大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究提出 Skip2-LoRA,通过隔层插入 LoRA 适配器并缓存前向中间结果,在低成本边缘设备上实现保持准确率且平均减少 90.0% 微调时间。
2024-10-28 cs.AI cs.LG
Active Image Indexing
Meta AI, FAIR(Meta人工智能,基础人工智能研究院);Univ. Rennes(雷恩大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);IRISA(雷恩信息与随机系统研究所)
从大型数据库中进行图像复制检测和检索利用了两个组件。首先,神经网络将图像映射到矢量表示,该矢量表示对于图像的各种变换相对鲁棒。第二,一个有效的,但近似的相似性搜索算法交易的可扩展性(大小和速度)对搜索的质量,从而引入了错误的来源。本文通过主动索引提高了图像复制检测的鲁棒性,优化了这两个部分的相互作用。我们通过在图像发布之前对图像进行细微的更改来减少给定图像表示的量化损失。在感知约束下,损失通过深度神经网络反向传播回到图像。这些修改使图像更容易检索。实验结果表明,该算法在激活图像的检索和复制检测方面有了显著的提高。例如,激活通过$+40\%$改进了各种图像变换上的Recall1@1,以及基于乘积量化和局部敏感性散列的几种流行索引结构。
2022-10-05 cs.AI cs.CV cs.IR