Appearance Matching Adapter for Exemplar-based Semantic Image Synthesis in-the-Wild
KAIST(韩国科学技术院);Korea University(高丽大学);Hyundai Mobis(现代摩比斯)
本文提出AM-Adapter,通过语义增强的跨图像匹配与分阶段训练,实现单张场景级示例向复杂多对象场景的外观迁移,并取得SOTA效果。
2025-03-18 cs.CV
TeleStyle V2: Beyond Content-Preserving Style Transfer with Self-Distillation and Distribution-Matching-Distillation
TeleAI
提出TeleStyle V2,通过自蒸馏数据合成和分布匹配蒸馏,支持四种内容-风格参考组合,解决内容一致性退化问题,性能与Qwen-Image-Edit和Gemini 3 Pro相当。
2026-06-23 cs.CV
In the light of feature distributions: moment matching for Neural Style Transfer
ETH Zürich(苏黎世联邦理工学院)
风格转换旨在以另一个图像的图形/艺术风格呈现给定图像的内容。NeuralStyle Transfer(NST)的基本概念是将风格解释为卷积神经网络的特征空间中的分布,使得可以通过匹配其特征分布来实现期望的风格。我们表明,该概念的大多数当前实现具有重要的理论和实践局限性,因为它们仅部分对齐特征分布。我们提出了一种新的方法,更精确地匹配的分布,从而更忠实地再现所需的风格,同时仍然是计算效率。具体来说,我们适应的双重形式的中心矩离散(CMD),最近提出的领域自适应,以尽量减少目标风格和输出图像的特征分布之间的差异。该度量的双重解释明确匹配所有高阶集中矩,因此是仅考虑一阶和二阶矩的现有NST方法的自然扩展。我们的实验证实,强大的理论属性也转化为视觉上更好的风格转移,更好地从语义图像内容的风格。
2021-03-12 cs.CV cs.LG
RTE-FM-Dehazer: Radiative Transfer Equation Inspired Flow Matching for Real-World Image Dehazing
Mashang Consumer Finance Co. Ltd(马上消费金融股份有限公司);Tsinghua University(清华大学);Hunan University(湖南大学);University of Liverpool(利物浦大学);The Hong Kong Polytechnic University(香港理工大学)
提出基于辐射传输方程(RTE)的流匹配去雾方法RTE-FM-Dehazer,通过扩散-吸收正则化引导去雾轨迹,并构建包含5万对真实雾/清晰图像的P-HAZE数据集,在五个真实基准上取得领先结果。
2026-07-03 cs.CV
Non-Parametric Style Transfer
Yeungnam University(岭南大学)
最近的任意图像风格传输的前馈神经方法主要利用编码特征映射直到其二阶统计量,即,线性变换内容图像的编码特征图以具有与目标样式特征图相同的均值和方差(或协方差)。在这项工作中,我们将二阶统计特征匹配扩展到一个一般的分布匹配的基础上的理解,即风格的图像是由感受野的响应分布。对于这种推广,首先,我们提出了一个新的特征转换层,它完全匹配的内容图像的特征地图分布到目标风格图像。其次,我们分析了最近的风格损失与我们的新的特征变换层,训练解码器网络,从变换后的特征图生成一个风格转移的图像。基于我们的实验结果,证明了我们的方法获得的风格化图像与目标风格图像更相似,在所有现有的风格措施,而不会失去内容清晰度。
2022-06-26 cs.CV
Playing Lottery Tickets in Style Transfer Models
Nanjing University(南京大学);Cardiff University(卡迪夫大学)
风格迁移以其灵活的应用场景获得了巨大的成功,引起了学术界和产业界的广泛关注。然而,依赖于一个相当大的基于VGG的自动编码器导致现有的风格传输模型具有较高的参数复杂度,这限制了它们在资源受限的设备上的应用。与许多其他任务相比,风格迁移模型的压缩研究较少。最近,彩票假设(LTH)在寻找极其稀疏的匹配子网络方面表现出了巨大的潜力,这些子网络在孤立训练时可以达到与原始全网络相当甚至更好的性能。在这项工作中,我们第一次进行了实证研究,以验证这种可训练的匹配子网络是否也存在于风格转移模型。具体来说,我们采用两种最流行的风格转换模型,即,AdaIN和SANet作为主要的测试平台,分别代表了基于全局和局部转换的风格转换方法。我们进行了大量的实验和综合分析,并得出以下结论。(1)与固定VGG编码器相比,风格传递模型可以从整个网络一起训练中受益更多。(2)使用迭代幅度修剪,我们发现匹配的子网络在AdaIN中的稀疏度为89.2%,在SANet中的稀疏度为73.7%,这表明风格转移模型也可以玩彩票。(3)特征变换模块也应该被修剪,以获得更稀疏的模型,而不影响匹配子网络的存在和质量。(4)除AdaIN和SANet外,LST、MANET、AdaAttN和MCCNet等模型也可以玩彩票,这表明LTH可以推广到各种风格的传输模型。
2022-04-10 cs.CV eess.IV
Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models
Peking University(北京大学);Tencent Hunyuan(腾讯文言)
针对流匹配模型强化学习后训练中的随机采样问题,提出Precise采样器,通过平衡探索与稳定性的SDE调度和冻结干净潜变量后验均值的近似方法,实现SDE一致性,显著提升奖励优化速度和稳定性。
2026-05-22 cs.AI cs.CV cs.LG
Line Art Correlation Matching Feature Transfer Network for Automatic Animation Colorization
iQIYI Inc(爱奇艺公司)
动画线条艺术的自动着色是一个具有挑战性的计算机视觉问题,因为线条艺术的信息是高度稀疏和抽象的,并且对帧之间的颜色和风格的一致性有严格的要求。近年来,出现了许多基于生成对抗网络(GAN)的单线艺术彩色化图像到图像的转换方法。它们可以生成以线条艺术图像为条件的感知上吸引人的结果。然而,这些方法不能用于动画彩色化的目的,因为缺乏考虑帧之间的一致性。现有的方法简单地输入前一个着色帧作为参考来着色下一个线条艺术,这将由于前一个着色帧和下一个线条艺术的空间不对准而误导着色,特别是在发生明显变化的位置处。为了解决这些挑战,我们设计了一种相关匹配特征传递模型(称为CMFT),以可学习的方式对齐彩色参考特征,并以粗到细的方式将该模型集成到基于U-Net的生成器中。这使得生成器能够将逐层同步的特征从深层语义代码渐进地转移到内容。可拓评价表明,CMFT模型能有效地提高彩色帧间的一致性,特别是在运动剧烈和多样的情况下,能有效地提高彩色帧的质量。
2020-11-10 cs.CV cs.GR eess.IV
Learning Implicit Generative Models by Matching Perceptual Features
IBM Research(IBM研究院)
感知特征(PF)已经在诸如迁移学习、风格迁移和超分辨率等任务中获得了巨大的成功。然而,PF作为学习生成模型的关键信息源的功效还没有得到很好的研究。我们在这里调查使用PF的背景下,通过矩匹配(MM)学习内隐生成模型。更具体地说,我们提出了一种新的有效的MM方法,通过对从预训练的ConvNets中提取的特征进行均值和协方差匹配来学习隐式生成模型。我们提出的方法通过以下方式改进了现有的MM方法:(1)摆脱对抗学习的有问题的最小/最大游戏;(2)避免核函数的在线学习;以及(3)在使用的时刻和所需的minibatch大小方面都是有效的。我们的实验结果表明,由于来自预训练的深度ConvNets的PF的表现力,我们的方法在具有挑战性的基准测试中获得了最先进的结果。
2019-04-04 cs.CV cs.LG
Unsupervised Domain Adaptation for Enhanced Radiometer Image Precipitation Estimation using Conditional Flow Matching
LATMOS/IPSL, UVSQ Université Paris-Saclay, Sorbonne Université, CNRS(LATMOS/IPSL,UVSQ巴黎-萨克雷大学,索邦大学,法国国家科学研究中心);Inria Paris(法国国家信息与自动化研究所巴黎中心)
本文提出一种基于条件流匹配的无监督域自适应方法,利用流匹配模型中的确定性常微分方程实现卫星辐射计图像的域对齐,并在GPM-Core星座上验证了其提升降水估计的效果。
2026-10-02 cs.AI cs.CV
EFANet: Exchangeable Feature Alignment Network for Arbitrary Style Transfer
Shenzhen University(深圳大学);University of Guelph(圭尔夫大学)
风格转换一直是计算机视觉和图形学中的一个重要课题。由于Gatys等人的开创性工作首次通过在深层特征空间中进行优化来展示风格化的力量,因此有相当多的方法已经通过简单的统计匹配技术实现了实时任意风格转换。在这项工作中,我们的关键观察是,仅考虑输入风格图像中的特征用于全局深度特征统计匹配或局部补丁交换可能并不总是确保令人满意的风格转移;例如,图1.相反,我们提出了一种新的传输框架,EFANet,旨在共同分析和更好地对齐从内容和风格图像对中提取的可交换特征。以这种方式,来自样式图像的样式特征寻求与内容图像中的内容信息的最佳兼容性,从而导致更结构化的风格化结果。此外,一个新的白化损失的纯化计算的内容特征和更好地融合在特征空间中的风格。定性和定量实验证明了我们的方法的优势。
2019-12-21 cs.CV cs.GR
FDWST: Fingerphoto Deblurring using Wavelet Style Transfer
West Virginia University(西弗吉尼亚大学)
提出基于小波风格迁移的指纹照片去模糊架构FDWST,结合离散小波变换在多频带进行风格迁移,大幅提升去模糊图像质量并实现0.9907的匹配准确率。
2024-07-22 cs.CV eess.IV
CoARF: Controllable 3D Artistic Style Transfer for Radiance Fields
ETH Zürich(苏黎世联邦理工学院)
本文提出 CoARF 算法,通过分割掩码与标签相关损失函数实现指定对象、组合式及语义感知的可控 3D 场景风格迁移,并引入语义感知最近邻匹配算法提升迁移质量。
2024-04-23 cs.AI cs.CV cs.GR
Precise Aerial Image Matching based on Deep Homography Estimation
Korea University(高丽大学)
空间图像配准或匹配是将在不同环境中捕获的两幅空间图像对齐的几何过程。估计精确的变换参数受到诸如时间、天气和视点的各种环境的阻碍。由于建筑物和道路的影响,航空影像的特征主要是由一条直线组成。因此,当直接在两个图像之间估计单应性参数时,直线失真。在本文中,我们提出了一个深度单应性对齐网络,通过逐步估计各种变换参数来精确匹配两个航拍图像。该网络通过逐步分析变换参数,可以训练自由度更高的匹配网络。通过应用单应性变换,提高了精确匹配性能。此外,我们介绍了一种方法,可以有效地学习难以学习的单应性估计网络。由于没有公开的用于航空图像配准的学习数据,本文使用在一定范围内对其应用随机单应性变换的一对图像进行学习。因此,我们可以确认,与传统的工作相比,深度单应性对齐网络显示出高精度的匹配性能。
2021-07-19 cs.CV
Precise Location Matching Improves Dense Contrastive Learning in Digital Pathology
Stony Brook University(石溪大学);Snap Inc.(Snap公司);CentraleSupélec(中央理工-高等电力学院);University of Paris-Saclay(巴黎萨克雷大学)
诸如病理实体的分割和检测等密集预测任务在计算病理学工作流程中具有至关重要的临床价值。然而,在大型队列上获得密集注释通常是繁琐且昂贵的。因此,对比学习(CL)通常用于利用大量未标记的数据来预训练骨干网络。为了提高密集预测的CL,一些研究提出了预训练中密集匹配目标的变化。然而,我们的分析表明,采用现有的密集匹配策略的组织病理学图像之间的不正确的密集功能对强制执行不变性,因此,是不精确的。为了解决这个问题,我们提出了一个精确的基于位置的匹配机制,利用几何变换之间的重叠信息,以精确地匹配两个增强区域。在两个预训练数据集(TCGA-BRCA,NCT-CRC-HE)和三个下游数据集(GlaS,CRAG,BCSS)上的大量实验突出了我们的方法在语义和实例分割任务中的优越性。我们的方法优于以前的密集匹配方法高达7.2%的平均精度检测和实例分割任务的平均精度为5.6%。此外,通过在三个流行的对比学习框架MoCo-v2,VICRegL和ConCL中使用我们的匹配机制,检测的平均精度提高了0.7%到5.2%,分割的平均精度提高了0.7%到4.0%,具有推广性。我们的代码可在https://github.com/cvlab-stonybrook/PLM_SSL上获得。
2023-03-23 cs.CV
All-in-One: Transferring Vision Foundation Models into Stereo Matching
Fudan University(复旦大学);Xiaomi Inc.(小米公司);Shanghai AI Laboratory(上海人工智能实验室);The Chinese University of Hong Kong(香港中文大学)
针对立体匹配模型特征提取能力不足的问题,提出AIO-Stereo框架,通过双层特征利用机制与选择性知识迁移模块整合多个异构视觉基础模型知识,在多个基准上取得SOTA性能。
2024-12-13 cs.CV
A Matching Algorithm based on Image Attribute Transfer and Local Features for Underwater Acoustic and Optical Images
Harbin Institute of Technology(哈尔滨工业大学)
在水下视觉研究领域,声纳传感器与光学相机之间的图像匹配一直是一个具有挑战性的问题。由于声学图像和光学图像在成像机理上的差异,其灰度值、纹理、对比度等在局部位置也存在差异,使得传统的基于光学图像的匹配方法失效。再加上水下数据采集的困难和高昂的成本,进一步影响了声光数据融合技术的研究进程。为了最大限度地利用水下传感器数据,促进多传感器信息融合(MSIF)的发展,应用基于深度学习的图像属性传递方法解决声光图像匹配问题,其核心是尽可能消除两者之间的成像差异。同时,引入了改进的局部特征描述子来解决声光匹配这一难题。实验结果表明,该方法能有效地对声光图像进行预处理,获得准确的匹配结果。另外,该方法基于图像深度语义层的结合,能够间接地显示原始图像对之间的局部特征匹配关系,为水下多传感器图像匹配问题提供了一种新的解决方案。
2021-08-27 cs.CV
Knowledge Transfer with Jacobian Matching
经典的蒸馏方法通过匹配它们的输出激活来将表示从“教师”神经网络转移到“学生”网络。最近的方法还匹配雅可比矩阵,或输出激活与输入的梯度。然而,这涉及到做出一些临时决策,特别是损失函数的选择。本文首先建立了雅可比匹配与带输入噪声的蒸馏之间的等价关系,并由此导出了雅可比匹配的合适的损失函数。然后,我们依靠这种分析,通过建立最近的迁移学习过程与蒸馏的等价性,将雅可比匹配应用于迁移学习。然后,我们在标准图像数据集上通过实验表明,基于雅可比的惩罚改进了蒸馏,对噪声输入的鲁棒性和迁移学习。
2018-03-01 cs.CV cs.LG
Lipstick ain't enough: Beyond Color Matching for In-the-Wild Makeup Transfer
VinAI Research(VinAI研究院);VinUniversity;Stony Brook University(石溪大学)
化妆转移是将来自参考图像的化妆风格应用于源面部的任务。现实生活中的化妆是多样和野生的,不仅包括颜色变化,而且还包括图案,如贴纸,腮红和珠宝。然而,现有的作品忽略了后者的组成部分,并局限于化妆转移到颜色的操作,只集中在轻化妆风格。在这项工作中,我们提出了一个整体化妆转移框架,可以处理所有提到的化妆组件。它包括一个改进的颜色转移分支和一个新的图案转移分支,以学习所有的化妆属性,包括颜色,形状,纹理和位置。为了训练和评估这样的系统,我们还引入了新的化妆数据集,用于真实和合成的极端化妆。实验结果表明,我们的框架实现了最先进的表现在轻和极端的化妆风格。代码可在https://github.com/VinAIResearch/CPM上获得。
2021-04-05 cs.CV
Multiple Queries with Multiple Keys: A Precise Prompt Matching Paradigm for Prompt-based Continual Learning
National Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学);School of Electronic Science and Engineering, Nanjing University(电子科学与工程学院,南京大学)
针对基于提示的持续学习中提示选择准确率低的问题,提出多查询多键(MQMK)精确匹配范式,通过任务特定广度搜索与细粒度深度搜索提升匹配率,在三个基准上取得最优性能。
2025-10-02 cs.CV
SceneGTMM: A Conformal Mapping-based Scene-Aware Transferable GNN-Transformer Dual-Graph Interaction Framework for Map Matching
本文提出SceneGTMM框架,通过保角映射场景策略、双图交互架构与CRF增强预测,提升地图匹配的噪声鲁棒性、跨区域迁移性与可解释性,在多源及跨城轨迹匹配中表现优于基线方法。
2026-08-21 cs.CV
Pixel-Level Equalized Matching for Video Object Segmentation
Yonsei University(延世大学);Korea Institute of Science and Technology (KIST)(韩国科学技术研究院)
特征相似性匹配是半监督视频对象分割中的一个关键环节,它将参考帧的信息传递给查询帧。如果采用满射匹配,背景干扰很容易出现,降低性能。双射匹配机制试图通过限制传输到查询帧的信息量来防止这种情况,但有两个限制:1)满射匹配不能完全利用,因为它在测试时被转换为双射匹配;以及2)需要测试时手动调整以搜索最佳超参数。为了克服这些限制,同时确保可靠的信息传输,我们引入了均衡匹配机制。为了防止参考帧信息被过度引用,对查询帧的潜在贡献通过简单地应用softmax操作以及查询来均衡。在公共基准数据集上,我们提出的方法实现了与最先进方法相当的性能。
2023-02-01 cs.CV
PSM: Dataset Distillation Based on Precise Statistical Matching by Difficulty
Zhejiang University(浙江大学);Hokkaido University(北海道大学);The University of Queensland(昆士兰大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);National University of Singapore(新加坡国立大学);Dalian University of Technology(大连理工大学)
针对现有统计匹配蒸馏忽略样本难度差异的问题,提出基于难度的精确统计匹配(PSM),通过GPS划分难度组、SUA更新统计量及ISS初始化样本,在多个数据集和架构上提升下游性能。
2026-09-29 cs.CV
Human MotionFormer: Transferring Human Motions with Vision Transformers
Hong Kong University of Science and Technology(香港科技大学);Huya Inc(虎牙公司);Tencent(腾讯);Fudan University(复旦大学);Carnegie Mellon University(卡内基梅隆大学)
人体运动转移的目的是将目标动态人的运动转移到源静态人的运动合成。在大的和微小的运动变化中,源人物和目标运动之间的准确匹配对于提高传输的运动质量至关重要。在本文中,我们提出了人类MotionFormer,一个层次化的ViT框架,利用全球和本地的看法,分别捕捉大型和微妙的运动匹配。它由两个ViT编码器组成,用于提取输入特征(即,目标运动图像和源人类图像)和具有用于特征匹配和运动传递的若干级联块的ViT解码器。在每个块中,我们将目标运动特征设置为Query,将源人物设置为Key和Value,计算交叉注意图进行全局特征匹配。此外,我们还引入了一个卷积层来改善全局交叉注意计算后的局部感知。该匹配过程在变形和生成分支中实现,以引导运动转移。在训练过程中,我们提出了一个相互学习的损失,以实现扭曲和生成分支之间的共同监督,以获得更好的运动表示。实验表明,我们的Human MotionFormer在定性和定量方面都具有新的最先进的性能。项目页面:\url{https://github.com/KumapowerLIU/Human-MotionFormer}
2023-02-25 cs.CV
Match4Annotate: Cross-Video Annotation Transfer in Ultrasound via Implicit Feature Flow-Guided Matching
Department of Mechanical Engineering, Massachusetts Institute of Technology, Cambridge, USA(麻省理工学院机械工程系);Institute for Medical Engineering and Science, Massachusetts Institute of Technology, Cambridge, USA(麻省理工学院医学工程与科学研究所);MIT.nano Immersion Lab, Massachusetts Institute of Technology, Cambridge, USA(麻省理工学院MIT.nano沉浸实验室)
本文提出Match4Annotate框架,实现点和掩码标注的跨视频和内视频传播。通过SIREN隐式神经表示和连续时空特征场,提升跨视频标注效果,优于现有方法。
2026-09-25 cs.CV
Graph Correspondence Transfer for Person Re-identification
Shanghai Jiao Tong University(上海交通大学);South China University of Technology(华南理工大学);Temple University(天普大学);Tsinghua University(清华大学);Tencent(腾讯)
在本文中,我们提出了一个图形对应转移(GCT)的方法,人的重新识别。与现有的方法不同,GCT模型将人的重新识别归结为离线的图匹配和在线的对应关系转换问题。具体而言,在训练期间,GCT模型旨在通过逐块图匹配从具有各种姿态对配置的正训练对离线学习一组对应模板。在测试过程中,对于每一对测试样本,我们选择了几个训练对与最相似的姿势对配置作为参考,并将这些参考的对应关系转移到测试对进行特征距离计算。通过聚合来自不同参考的距离来导出匹配分数。对于每个探测图像,具有最高匹配分数的图库图像是重新识别结果。与现有的算法相比,我们的GCT可以处理空间错位所造成的视角和人体姿态的大变化,由于补丁明智的图匹配的好处。在VIPeR、Road、PRID450S、3DPES和CUHK01等5个基准上的实验结果表明,GCT模型的性能优于其他方法。
2018-04-01 cs.CV
Mono2Stereo: Monocular Knowledge Transfer for Enhanced Stereo Matching
Beijing Institute of Technology(北京理工大学)
本文提出Mono2Stereo方法,通过两阶段训练(合成数据预训练和真实数据微调)将单目深度知识迁移至立体匹配,设计了数据生成流水线与S2DKD策略,显著提升了模型的零样本泛化能力和领域内性能。
2024-11-14 cs.CV
Transferring Pre-trained Multimodal Representations with Cross-modal Similarity Matching
LG AI Research(LG人工智能研究院);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
尽管在zero-shot传输上有令人惊讶的性能,但预训练大规模多模态模型通常是禁止的,因为它需要大量的数据和计算资源。在本文中,我们提出了一种方法(BeamCLIP),可以有效地将大型预训练多模态模型(CLIP-ViT)的表示转换为小型目标模型(例如,ResNet-18)。对于无监督传输,我们引入了跨模态相似性匹配(CSM),使学生模型能够通过匹配跨文本提示嵌入的相对相似性分布来学习教师模型的表示。为了更好地编码文本提示,我们设计了基于上下文的提示增强(CPA),可以减轻输入文本提示的词汇歧义。我们的实验表明,预训练的视觉语言模型的无监督表示转移使小型ResNet-18能够实现比仅视觉自监督学习(SSL)方法(例如,Simplified:51.8%,SwAV:63.7%),而监督学习(69.8%)则缩小了差距。
2023-01-07 cs.CV cs.LG
Fast Video Object Segmentation via Mask Transfer Network
National University of Singapore(新加坡国立大学);Shandong AI Institute(山东人工智能研究院)
准确性和处理速度是影响视频对象分割(VOS)在实际应用中使用的两个重要因素。随着深度神经网络等先进技术的发展,精度有了显著提高,但由于网络设计复杂,如第一帧微调步骤的要求,速度仍远低于实时性的要求。为了克服这个限制,我们提出了一种新的掩模传输网络(MTN),它可以大大提高VOS的处理速度,也达到了合理的精度。MTN的基本思想是通过有效的全局像素匹配策略将参考模板转移到目标帧。参考帧和目标帧之间的全局像素匹配是为了确保良好的匹配结果。为了提高匹配速度,我们在原始帧大小的1/32的下采样特征图上执行匹配。同时,为了在如此小的特征图中保留详细的掩码信息,掩码网络被设计为用512个通道对注释的掩码信息进行编码。最后,使用一种有效的特征扭曲方法将编码后的参考掩码转移到目标帧。基于这种设计,我们的方法避免了第一帧上的微调步骤,并且不依赖于时间线索和特定对象类别。因此,它运行速度非常快,可以方便地只使用图像进行训练,并且对看不见的对象具有鲁棒性。在DAVIS数据集上的实验表明,MTN可以达到37 fps的速度,并且与最先进的方法相比,也显示出具有竞争力的准确性。
2019-08-28 cs.CV
Robust Synthetic-to-Real Transfer for Stereo Matching
Beihang University(北京航空航天大学);Macquarie University(麦考瑞大学);RIKEN AIP(理化学研究所人工智能项目);The University of Tokyo(东京大学)
针对立体匹配模型在真实场景微调后域泛化能力下降的问题,提出基于冻结教师、EMA教师和学生网络的微调框架,利用GT与PL的差异正则化网络,有效保留微调后的域泛化鲁棒性。
2024-03-12 cs.CV
Robust and Efficient Graph Correspondence Transfer for Person Re-identification
Shanghai Jiao Tong University(上海交通大学);Temple University(天普大学);Tsinghua University(清华大学);YouTu Lab, Tencent(腾讯优图实验室)
由姿态和视点变化引起的空间错位是阻碍现有的人重新识别(Re-ID)算法性能提高的最关键问题之一。为了解决这个问题,在本文中,我们提出了一个强大的和有效的图对应转移(REGCT)方法显式空间对齐Re-ID。具体来说,我们建议通过图匹配建立正训练对的分片对应。在图匹配中,通过利用人类外观的空间和视觉上下文,可以获得有意义的语义对应。为了避免在测试阶段繁琐的\emph{on-line}图匹配,我们建议将\emph{off-line}学习到的分片对应从正训练对转移到测试对。具体地,对于每个测试对,具有相似姿势对配置的训练对被选择作为参考。匹配模式(即,然后利用所选参考的对应关系来计算该测试对的分块特征距离。为了提高对应关系传递的鲁棒性,设计了一种新的姿态上下文描述子来精确地描述人体的姿态,并提出了一种度量姿态上下文描述子之间相似性的方法。同时,为了提高测试效率,我们提出了一种使用投票机制的对应模板集成方法,该方法显著减少了距离计算中涉及的分片匹配的数量。通过上述策略,REGCT模型可以有效地处理Re-ID中的空间错位问题。在VIPeR,Road,PRID 450 S,3DPES和CUHK 01等五个具有挑战性的基准测试上进行的大量实验证明了REGCT的优越性能。
2018-05-15 cs.CV
Progressive Color Transfer with Dense Semantic Correspondences
Hong Kong UST(香港科技大学);City University of Hong Kong(香港城市大学);Microsoft Research(微软研究院);University of Science and Technology of China(中国科学技术大学);Microsoft AI Perception and Mixed Reality(微软人工智能感知与混合现实部门)
我们提出了一种新的算法,具有感知相似的语义结构的图像之间的颜色转移。我们的目标是实现一个更准确的颜色转移,利用图像之间的语义有意义的密集对应。为了实现这一点,我们的算法使用神经表示进行匹配。此外,颜色转移应该是空间变化的和全局相干的。因此,我们的算法优化了一个局部线性模型的颜色转移,同时满足局部和全局约束。我们提出的方法联合优化匹配和颜色转移,采用了一种由粗到细的策略。所提出的方法可以成功地从一对一扩展到一对多的颜色传递。后者进一步解决了输入图像的元素不匹配的问题。我们验证我们提出的方法,通过测试它对各种各样的图像内容。
2018-12-12 cs.CV
Knowledge Distillation By Sparse Representation Matching
Tampere University(坦佩雷大学);Aarhus University(奥胡斯大学)
知识蒸馏是指将知识从教师网络转移到学生网络的一类方法。在本文中,我们提出了稀疏表示匹配(SRM),一种通过利用稀疏表示学习将从一个卷积神经网络(CNN)获得的中间知识转移到另一个的方法。SRM首先提取教师CNN的隐藏特征的稀疏表示,然后将其用于生成像素级和图像级标签,用于训练学生网络的中间特征图。我们将SRM制定为神经处理块,可以使用随机梯度下降进行有效优化,并以即插即用的方式集成到任何CNN中。我们的实验表明,SRM对教师和学生网络之间的架构差异具有鲁棒性,并且在多个数据集上优于其他KD技术。
2021-03-31 cs.CV
Unsupervised vs. transfer learning for multimodal one-shot matching of speech and images
Stellenbosch University(斯泰伦博斯大学)
我们考虑多模式一次性语音图像匹配的任务。代理人被展示一张图片以及描述图片中对象的口语单词,例如饼干,花椰菜和冰淇淋。在观察每个类的一个配对的语音图像的例子,它被显示了一组新的看不见的图片,并要求选择“冰淇淋”。以前的工作试图使用迁移学习来解决这个问题:监督模型在不包含任何一次性类的标记背景数据上进行训练。在这里,我们将迁移学习与在未标记的域内数据上训练的无监督模型进行了比较。在一个成对的孤立的口语和视觉数字的数据集上,我们专门比较了无监督的自动编码器模型与监督分类器和暹罗神经网络。在单峰和多峰Few-Shot匹配实验中,我们发现迁移学习优于无监督训练。我们还提出了将这两种方法相结合的实验,但发现迁移学习仍然表现最好(尽管理想化的实验显示了无监督学习的好处)。
2020-08-14 cs.CL cs.CV cs.SD
Superpixel-based Color Transfer
Univ. Bordeaux, LaBRI, CNRS, UMR 5800, F-33400 Talence, France(波尔多大学、LaBRI、CNRS、UMR 5800);Univ. Bordeaux, IMB, CNRS, UMR 5251, F-33400 Talence, France(波尔多大学、IMB、CNRS、UMR 5251);Bordeaux INP, LaBRI, UMR 5800, F-33405 Talence, France(波尔多INP、LaBRI、UMR 5800)
提出基于超像素的快速颜色迁移方法SCT,利用近似最近邻匹配算法和融合框架提升匹配多样性与颜色迁移效果,视觉表现与最先进方法相当。
2025-09-17 cs.CV
Adversarial Training for Adverse Conditions: Robust Metric Localisation using Appearance Transfer
Oxford Robotics Institute, University of Oxford(牛津大学牛津机器人研究所)
我们提出了一种方法,提高视觉位置识别和度量定位下非常强烈的外观变化。我们学习了一个可逆的生成器,可以trans-form图像的条件,例如,从白天到晚上,夏天到冬天等。这个图像变换过滤器是明确设计的,以帮助和教唆特征匹配使用一个新的损失的基础上SURF检测器和密集的描述符地图。一个网络被训练成输出针对仅给定输入RGB图像的特征匹配而优化的合成图像,并且这些生成的图像被用于使用传统的稀疏匹配方法针对先前构建的地图来定位机器人。我们使用牛津RobotCar数据集在一年多的时间内进行多次遍历,使用一次遍历作为地图,另一次进行本地化,从而对结果进行基准测试。我们表明,这种方法显着提高了位置识别和定位在不断变化的和不利的条件下,同时减少了成功实现可靠的定位所需的映射运行的数量。
2018-03-09 cs.CV
Matching neural paths: transfer from recognition to correspondence search
ETH Zurich(苏黎世联邦理工学院);Microsoft(微软)
许多机器学习任务需要找到对象之间的每部分对应关系。在这项工作中,我们专注于低级别的对应关系-一个高度模糊的匹配问题。我们建议使用层次语义表示的对象,来自一个卷积神经网络,以解决这种歧义。在某些难以获得地面真实对应关系的领域,直接训练它进行低级对应预测可能不是一种选择。我们展示了如何从识别转移可以用来避免这样的培训。我们的想法是,如果部件的特征在卷积特征层次结构(神经路径)的所有级别上都彼此接近,则将部件标记为“匹配”。虽然这样的路径的总数是指数的层数,我们提出了一个多项式算法聚合所有这些在一个单一的向后通过。在立体对应的任务上进行了实证验证,表明我们在不使用标记目标域数据的方法中取得了有竞争力的结果。
2017-11-05 cs.CV cs.LG cs.NE
Geometrically Consistent Partial Shape Matching
TU Munich(慕尼黑工业大学);Munich Center for Machine Learning(慕尼黑机器学习中心);University of Bonn(波恩大学)
本文提出一种基于整数线性规划的部分形状匹配方法,通过整合深度形状特征并采用由粗到细的优化方案,实现了低分辨率形状上的全局最优匹配,显著提升了部分形状匹配的可靠性与平滑度。
2023-09-10 cs.CV
Supervision-by-Hallucination-and-Transfer: A Weakly-Supervised Approach for Robust and Precise Facial Landmark Detection
School of Information Engineering, Zhongnan University of Economics(经济法律大学信息工程学院);College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机科学与软件工程学院);School of Information Science and Engineering, Yunnan University(云南大学信息科学与工程学院)
本文提出通过幻觉与迁移的弱监督方法,提升面部地标检测的鲁棒性和精度。
2026-01-19 cs.CV
Towards Open-World Generation of Stereo Images and Unsupervised Matching
Washington University in St. Louis(华盛顿大学圣路易斯分校)
提出基于扩散模型的 GenStereo 方法,通过视差感知坐标嵌入和自适应融合机制,在立体图像生成与无监督匹配任务上均达到 SOTA 性能。
2025-07-12 cs.CV
EMatch: A Unified Framework for Event-based Optical Flow and Stereo Matching
Beijing Institute of Technology(北京理工大学);Beijing Normal University(北京师范大学)
本文提出统一框架EMatch,将事件相机光流估计与立体匹配重构为稠密对应匹配问题,通过时间递归网络和空间上下文注意力实现跨任务知识迁移,在单一模型中同时解决两个任务并取得最先进性能。
2024-11-22 cs.CV
Field Matching: an Electrostatic Paradigm to Generate and Transfer Data
Artificial Intelligence Research Institute, Moscow, Russia(人工智能研究 institute, 莫斯科, 俄罗斯);Skolkovo Institute of Science and Technology, Moscow, Russia(斯克沃尔尼诺科学与技术研究所, 莫斯科, 俄罗斯);Lomonosov Moscow State University, Faculty of Physics, Moscow, Russia(罗蒙诺索夫莫斯科国立大学物理系, 莫斯科, 俄罗斯)
本文提出静电场匹配(EFM)方法,受电容器物理原理启发,通过学习静电场实现源与目标分布间的映射,理论证明其可保证分布迁移,在玩具数据和图像数据实验中验证了性能。
2025-08-25 cs.AI cs.CV cs.LG
Facial Attribute Transformers for Precise and Robust Makeup Transfer
University of Rochester(罗切斯特大学);Megvii(旷视科技);Beihang University(北京航空航天大学)
在本文中,我们解决化妆转移的问题,其目的是从参考脸化妆移植到源脸,同时保持源的身份。现有的化妆转移方法在生成逼真的化妆人脸方面取得了显着的进展,但在色彩逼真度和空间变换方面表现不佳。为了解决这些问题,我们提出了一种新的面部属性Transformer(FAT)及其变体空间FAT高质量的化妆转移。受自然语言处理中的Transformer的启发,FAT能够对源人脸和参考人脸之间的语义对应和交互进行建模,进而精确估计和传递人脸属性。为了进一步促进面部部位的形状变形和变换,我们还将薄板样条(TPS)集成到FAT中,从而创建了空间FAT,这是第一种除了颜色和纹理之外还可以传递几何属性的方法。大量的定性和定量实验表明,我们提出的FAT在以下方面的有效性和优越性:(1)确保高保真的颜色转移;(2)允许面部部分的几何变换;(3)处理面部变化(如姿态和阴影)和(4)支持高分辨率的人脸生成。
2021-04-07 cs.AI cs.CV
Neural Error Covariance Estimation for Precise LiDAR Localization
Amirkabir University of Technology(阿米尔卡比尔理工大学);The University of Tokyo(东京大学)
针对 LiDAR 地图匹配因数据退化导致误差协方差难以可靠估计的问题,提出基于神经网络的协方差预测框架及专用数据集生成方法,并在 Kalman 滤波器融合中实现 2 cm 定位精度提升。
2025-01-05 cs.CV cs.RO
The Devil is in the Spectrum Bias: Spectrum-Balanced Feature Matching for Robust Representation Distillation
OMRON SINIC X Corporation(欧姆龙SINIC X公司)
针对特征匹配蒸馏偏向主导频谱方向的问题,提出频谱平衡特征匹配(SpecMatch),自适应强调欠优化方向,在视觉和蛋白质任务中显著提升下游性能。
2026-09-29 cs.AI cs.CV
Matching the Clinical Reality: Accurate OCT-Based Diagnosis From Few Labels
Fraunhofer Institute for Integrated Circuits IIS(弗劳恩霍夫集成电路研究所);Ludwig Maximilian University of Munich(慕尼黑大学)
在临床中,未标记的数据通常很丰富,这使得基于半监督学习的机器学习方法非常适合这种情况。尽管如此,它们目前在医学图像分析文献中受到的关注相对较少。相反,大多数从业者和研究人员专注于监督或迁移学习方法。最近提出的MixMatch和FixMatch算法在提取有用的表示,同时需要很少的标签已经证明了有前途的结果。受这些最近成功的启发,我们将MixMatch和FixMatch应用于眼科诊断环境,并研究它们如何对抗标准迁移学习。我们发现,这两种算法优于迁移学习基线的所有分数的标记数据。此外,我们的实验表明,模型参数的指数移动平均(EMA),这是两种算法的一个组成部分,是不需要我们的分类问题,因为禁用它离开的结果不变。我们的代码可在线获取:https://github.com/Valentyn1997/oct-diagn-semi-supervised
2020-10-23 cs.CV cs.LG eess.IV
Self-Attentive Spatio-Temporal Calibration for Precise Intermediate Layer Matching in ANN-to-SNN Distillation
The College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Nanhu Brain-computer Interface Institute(南湖脑机接口研究所);The State Key Laboratory of Brain-Machine Intelligence, Zhejiang University(浙江大学脑机智能国家重点实验室)
针对ANN到SNN蒸馏中中间层特征时空语义不匹配的问题,提出自注意力时空校准方法,通过自注意力识别语义对齐层对实现信息自主迁移,在多个数据集上取得SOTA精度,首次让SNN在CIFAR-10、CIFAR-100上超越ANN。
2025-01-14 cs.AI cs.CV cs.LG
Stereovision Image Processing for Planetary Navigation Maps with Semi-Global Matching and Superpixel Segmentation
Cranfield University(克兰菲尔德大学);University of Oxford(牛津大学)
本文提出结合半全局匹配与超像素细化的立体视觉方法,生成更精确一致的火星地形导航地图,减少块效应和空洞,提升自主导航安全性。
2025-09-06 astro-ph.EP astro-ph.IM cs.CV