Removing Non-Stationary Knowledge From Pre-Trained Language Models for Entity-Level Sentiment Classification in Finance
Underwood International College, Yonsei University(延世大学安德伍德国际学院);NCSOFT;KB Kookmin Bank(KB国民银行);College of Business & Economics, Chung-Ang University(中央大学工商经济学院)
从新闻文本、股票留言板和商业报告中提取情绪信号,用于股票走势预测,已经成为金融界感兴趣的新兴领域。基于过去的文献,最近的作品试图通过引入方面级情感分类(ASC)来更好地从具有复杂句法结构的句子中捕获情感。然而,尽管兴趣日益增长,细粒度的情感分析尚未在非英语文献中充分探讨,由于缺乏注释的金融特定数据。因此,非英语语言有必要利用不同领域、语言和任务的数据集和预训练语言模型(PLM)来优化其性能。为了促进韩语中特定于金融的ASC研究,我们构建了KorFinASC,这是一个由12,613个人类注释样本组成的韩国金融方面级情感分类数据集,并探索了中间迁移学习的方法。我们的实验表明,过去的研究一直忽视在训练阶段编码的金融实体的潜在错误知识,这高估了PLM的预测能力。在我们的工作中,我们使用术语“非平稳知识”来指代以前正确但可能改变的信息,并提出“TGT-Masking”,一种新的掩蔽模式,以限制PLM推测这种知识。最后,通过一系列应用TGT-Masking的迁移学习,与KorFinASC上的独立模型相比,我们提高了22.63%的分类准确率。
2023-01-25 cs.CL cs.LG q-fin.GN
Efficient Domain Generalization via Common-Specific Low-Rank Decomposition
MSR India(微软研究院印度);IIT Bombay(印度理工学院孟买分校)
领域泛化是指训练模型的任务,该模型泛化到在训练期间未看到的新领域。我们提出了CSD(公共特定分解),对于这种设置,它联合学习一个公共组件(推广到新的领域)和一个特定于领域的组件(过度拟合训练域)。在训练之后丢弃域特定分量,并且仅保留公共分量。该算法是非常简单的,只涉及修改任何给定的神经网络架构的最终线性分类层。我们提出了一个原则性的分析,了解现有的方法,提供可识别的结果CSD,并研究低秩的领域泛化的影响。我们表明,CSD匹配或击败最先进的方法,领域泛化的基础上域擦除,域扰动数据增强,和元学习。进一步诊断旋转MNIST,域是可解释的,证实了这一假设,CSD成功地解开共同和域特定的组件,从而导致更好的领域泛化。
2020-04-07 cs.LG stat.ML
Learning to Optimize Domain Specific Normalization for Domain Generalization
Seoul National University(首尔大学);NEC Laboratories America(NEC美国实验室);LG Electronics(LG电子)
我们提出了一种简单但有效的多源领域泛化技术,该技术基于深度神经网络,通过结合特定于各个领域的优化归一化层。我们的方法采用多种归一化方法,同时学习每个域的独立仿射参数。对于每个域,通过多个归一化统计的加权平均来归一化激活。如果需要的话,将分别跟踪每种规格化类型的规格化统计信息。具体来说,我们在实现中使用批处理和实例规范化来确定每个域中这两种规范化方法的最佳组合。优化的归一化层有效地增强了学习模型的泛化能力。我们证明了我们的算法在标准的领域泛化基准测试中的最先进的准确性,以及在标签噪声存在下的多源领域自适应和领域泛化等进一步任务的可行性。
2020-07-21 cs.LG stat.ML
Guided Integrated Gradients: An Adaptive Path Method for Removing Noise
Google Research(谷歌研究院)
集成属性(IG)是深度神经网络常用的特征归属方法。虽然IG具有许多理想的属性,但该方法在应用于视觉模型时,通常会在与预测类不相关的区域中产生虚假/噪声像素属性。虽然之前已经注意到了这一点,但大多数现有的解决方案旨在通过显式地减少所产生的归因中的噪声来解决症状。在这项工作中,我们发现问题的原因之一是沿着IG路径的噪声积累。为了最大限度地减少这种噪声源的影响,我们建议调整属性路径本身--不仅根据图像而且根据所解释的模型来调整路径。我们引入自适应路径方法(APM)作为路径方法的推广,引导IG作为APM的一个具体实例。从经验上讲,Guided IG创建的显着图与模型的预测和正在解释的输入图像更好地对齐。我们通过定性和定量实验表明,引导IG优于其他相关方法,几乎在每一个实验。
2021-06-17 cs.CV cs.LG
Alleviating the Sample Selection Bias in Few-shot Learning by Removing Projection to the Centroid
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));University of Electronic Science and Technology of China(电子科技大学);Pengcheng Laboratory(鹏城实验室);Zhejiang Lab(之江实验室)
少样本学习(FSL)的目标是在没有足够注释的情况下将视觉模型推广到看不见的任务。尽管出现了许多少样本学习方法,但样本选择偏差问题,即,对有限数量的支持数据的敏感性尚未得到很好的理解。在本文中,我们发现,这个问题通常发生在支持样本的位置是在附近的任务质心-在任务中的所有类质心的平均值。这促使我们提出一个非常简单的特征变换来缓解这个问题,称为任务质心投影去除(TCPR)。TCPR直接应用于给定任务中的所有图像特征,旨在去除沿任务质心方向的特征的维度。虽然精确的任务质心不能从有限的数据中准确地获得,但我们使用每个都与支持特征之一相似的基本特征来估计它。我们的方法有效地防止功能过于接近任务质心。在不同领域的10个数据集上进行的大量实验表明,TCPR可以可靠地提高各种特征提取器,训练算法和数据集的分类精度。该守则已在https://github.com/KikimorMay/FSL-TCBR上公布。
2022-10-30 cs.CV
REPAIR: Removing Representation Bias by Dataset Resampling
UC San Diego(加州大学圣迭戈分校)
现代机器学习数据集可能对某些表示有偏见,这些表示被算法利用来实现高性能,而无需学习解决底层任务。这个问题被称为“代表性偏见”。研究了如何减少数据集的表示偏差的问题,提出了一种新的数据集表示偏差去除(REPAIR)方法。这将偏差最小化公式化为一个优化问题,寻求一个权重分布,该权重分布容易惩罚基于给定特征表示的分类器的示例。然后,偏差减少等同于最大化重新加权数据集上的分类损失与地面实况类标签的不确定性之间的比率。这是一个极小极大问题,REPAIR通过使用随机梯度下降交替更新分类器参数和数据集恢复权重来解决。还介绍了一个实验装置,以测量任何数据集的偏见为一个给定的表示,这种偏见的识别模型的性能的影响。合成和动作识别数据的实验表明,数据集REPAIR可以显着降低表示偏差,并导致在REPAIRed数据集上训练的模型的泛化能力得到改善。用于表征代表性偏差的工具和拟议的数据集REPAIR算法可在https://github.com/JerryYLi/Dataset-REPAIR/上获得。
2019-04-16 cs.CV
Removing out-of-focus blur from a single image
NUS(新加坡国立大学)
从具有散焦区域的图像再现全聚焦图像在许多应用中具有实用价值,例如,数字摄影和机器人。现有方法利用现有散焦图估计器的输出,首先将散焦图像分割成多个区域,每个区域用不同方差的高斯核函数进行模糊处理,然后用相应的高斯核函数对每个区域进行去模糊处理。在本文中,我们提出了一种专门设计用于从图像中去除散焦模糊的盲去卷积方法,通过提供有效的解决方案,以两个关键问题:1)抑制由分割误差引起的伪影通过引入一个额外的变量由加权$\ell_0$ -范数正则化;和2)更准确的散焦核估计使用非参数对称性和基于低秩的约束的内核。在真实数据集上的实验表明,该方法较现有方法具有更大的优越性,这要归功于对反卷积过程中上述两个重要问题的有效处理。
2018-08-28 cs.CV
Deep Stable Learning for Out-Of-Distribution Generalization
Tsinghua University(清华大学)
基于深度神经网络的方法在测试数据和训练数据共享相似分布时取得了惊人的性能,但否则可能会严重失败。因此,消除训练和测试数据之间的分布偏移的影响对于构建性能有希望的深度模型至关重要。传统方法假设训练数据(例如域标签)的已知异质性或不同域的近似相等容量。在本文中,我们考虑一个更具挑战性的情况下,上述假设都不成立。我们建议通过学习训练样本的权重来消除特征之间的依赖关系来解决这个问题,这有助于深度模型摆脱虚假的相关性,从而更专注于区分性特征和标签之间的真正联系。大量的实验清楚地证明了我们的方法的有效性多分布泛化基准相比,国家的最先进的同行。通过在PACS、VLCS、MNIST-M和NICO等分布泛化基准上的大量实验,我们证明了该方法与现有方法相比的有效性。
2021-04-16 cs.AI cs.CV cs.LG
Gradient Information Guided Deraining with A Novel Network and Adversarial Training
The University of Adelaide(阿德莱德大学);Northwestern Polytechnical University(西北工业大学);University of Electronic Science and Technology of China(电子科技大学)
近年来,基于深度学习的方法在除雨方面取得了重大进展。然而,现有的方法通常不具有良好的泛化能力,这导致了几乎所有的现有方法都具有良好的性能去除特定类型的雨条纹,但可能有相对较差的性能对其他类型的雨条纹。针对单幅图像中多种雨纹的去除问题,提出了一种新的去噪框架(GRASPP-GAN),该框架具有更好的泛化能力。具体来说,一个修改后的ResNet-18,它提取了下雨图像的深层特征和一个修改后的ASPP结构,它适应于各种形状和大小的雨条纹组成在一起,形成我们的deraining网络的骨干。考虑到雨纹在梯度域中的特征更为突出,引入梯度损失来监督去噪训练过程,并构建Sobel卷积层灵活提取梯度信息。为了进一步提高性能,对抗学习计划首次采用训练建议的网络。在真实世界和合成数据集上的大量实验表明,我们的方法在定量和定性上都优于最先进的deraining方法。此外,在没有任何修改的情况下,我们提出的框架在去雾方面也取得了良好的视觉性能。
2019-10-09 cs.CV eess.IV
Removing Camera Shake via Weighted Fourier Burst Accumulation
Duke University(杜克大学)
许多最近的方法试图通过显式地解决逆和固有不适定的反卷积问题来去除由于相机抖动而导致的图像模糊,无论是使用一个或多个输入图像。如果摄影师拍摄了一系列图像,这是几乎所有现代数码相机都可以使用的一种方式,我们证明了将它们结合起来以获得清晰的清晰版本是可能的。这是在没有明确解决任何模糊估计和随后的逆问题的情况下完成的。所提出的算法非常简单:它在傅立叶域中执行加权平均,权重取决于傅立叶频谱幅度。该方法可以被看作是一个概括的对齐和平均过程,加权平均,由握手生理学的动机和理论支持,发生在傅立叶域。该方法的基本原理是相机抖动具有随机性质,因此突发中的每个图像通常被不同地模糊。真实相机数据的实验和广泛的比较表明,所提出的傅立叶突发累积(FBA)算法实现了最先进的结果,速度快了一个数量级,在相机手机上实现简单。最后,我们还提出了在真正的高动态范围(HDR)场景中的实验,展示了该方法如何可以直接扩展到HDR摄影。
2015-12-04 cs.CV
Removing Image Artifacts From Scratched Lens Protectors
Nanyang Technological University(南洋理工大学);Hong Kong Baptist University(香港浸会大学);Pengcheng National Lab(鹏城国家实验室);Hong Kong Polytechnic University(香港理工大学)
移动设备的相机镜头前放置了一个保护器,以避免损坏,而保护器本身很容易被意外划伤,尤其是塑料的。这些文物以各种各样的模式出现,很难清楚地看到它们。由于偶尔出现的光斑伪影和混合伪影中的共同出现的干扰,从有划痕的镜头保护器中去除图像伪影具有固有的挑战性。虽然针对某些特定的失真提出了不同的方法,但它们很少考虑这些固有的挑战。在我们的工作中,我们认为在一个统一的框架与两个合作模块,这有利于彼此的性能提升的固有挑战。我们还从现实世界中收集了一个新的数据集,以促进培训和评估目的。实验结果表明,我们的方法优于基线定性和定量。代码和数据集将在验收后发布。
2023-02-14 cs.CV eess.IV
BiaSwap: Removing dataset bias with bias-tailored swapping augmentation
KAIST(韩国科学技术院)
深度神经网络通常基于数据集固有的虚假相关性做出决策,无法在无偏数据分布中进行泛化。尽管以前的方法预先定义了数据集偏差的类型,以防止网络学习它,但在真实数据集中识别偏差类型通常是禁止的。本文提出了一种新的偏置量身定制的基于增强的方法,BiaSwap,学习去偏置表示,而不需要监督的偏见类型。假设偏置对应于易于学习的属性,我们根据偏置分类器可以利用它们作为捷径的程度对训练图像进行排序,并以无监督的方式将它们分为偏置引导样本和偏置相反样本。之后,我们将图像翻译模型的风格转换模块与这种有偏分类器的类激活图相结合,这使得能够主要传输分类器学习的偏置属性。因此,在给定一对偏置引导和偏置相反的情况下,BiaSwap生成包含来自偏置相反图像的偏置属性的偏置交换图像,同时保留偏置引导图像中的偏置无关属性。鉴于这种增强图像,BiaSwap证明了在合成和真实世界数据集上对现有基线进行去偏置的优越性。即使没有对偏差进行仔细的监督,BiaSwap在无偏样本和偏差引导样本上都取得了显着的性能,这意味着模型的泛化能力得到了提高。
2021-08-23 cs.AI cs.CV
RMNet: Equivalently Removing Residual Connection from Networks
Tencent Youtu Lab(腾讯优图实验室);University of California, Santa Cruz(加州大学圣克鲁兹分校)
虽然剩余连接能够训练非常深的神经网络,但由于其多分支拓扑结构,它对于在线推理并不友好。这鼓励了许多研究人员致力于设计在推理时没有剩余连接的DNN。例如,RepVGG在部署时将多分支拓扑重新参数化为类似VGG的(单分支)模型,在网络相对较浅时显示出出色的性能。然而,RepVGG不能将ResNet等效地转换为VGG,因为重新参数化方法只能应用于线性块,并且非线性层(ReLU)必须放在剩余连接之外,这导致表示能力有限,特别是对于更深的网络。在本文中,我们的目标是解决这个问题,并提出通过ResBlock上的保留和合并(RM)操作来等效地删除vanilla ResNet中的剩余连接。具体地说,RM操作允许输入特征图通过块,同时保留它们的信息,并在每个块的末尾合并所有信息,这可以在不改变原始输出的情况下去除残留连接。RM操作作为一种插件式的方法,基本上有三个优点:1)它的实现使得它对高比率网络修剪自然友好。2)它有助于打破RepVGG的深度限制。3)与ResNet和RepVGG相比,它导致了更好的精度-速度权衡网络(RMNet)。我们相信RM运营的理念可以在未来为社区提供许多模型设计方面的启发。代码可从以下网址获得:https://github.com/fxmeng/RMNet。
2021-11-01 cs.CV cs.LG
FaceEraser: Removing Facial Parts for Augmented Reality
Bytedance Inc.(字节跳动公司)
我们的任务是去除所有面部部位(例如,眉毛、眼睛、嘴和鼻子),然后将视觉元素施加到“空白”的脸上,用于增强现实。传统的对象去除方法依赖于图像修补技术(例如,EdgeConnect,HiFill),这些图像以自监督的方式使用随机操纵的图像对进行训练。具体而言,给定一组自然图像,随机掩蔽的图像被用作输入,原始图像被视为地面真值。然而,这种技术不能满足面部部分去除的要求,因为它很难获得具有真实“空白”面部的“地面真实”图像。为了解决这个问题,我们提出了一种新的数据生成技术,产生成对的训练数据,以及模仿"空白“的脸。同时,我们提出了一种新的网络架构,以提高我们的任务修复质量。最后,我们展示了各种面向面部的增强现实应用程序的顶部,我们的面部部分去除模型。源代码发布在github上的\href{https://github.com/duxingren14/FaceEraser}{duxingren14/FaceEraser}上,用于研究目的。
2021-10-22 cs.CV
AdvMask: A Sparse Adversarial Attack Based Data Augmentation Method for Image Classification
Nanjing University(南京大学)
数据增强是一种广泛用于增强图像分类任务中卷积神经网络(CNN)泛化能力的技术。遮挡是影响图像分类模型泛化能力的重要因素。为了生成新的样本,现有的基于信息删除的数据增强方法通过随机删除图像中的某些区域来模拟被遮挡的样本。然而,这些方法不能根据图像的结构特征来删除图像的区域。为了解决这些问题,我们提出了一种新的数据增强方法,AdvMask,用于图像分类任务。AdvMask不是随机删除图像中的区域,而是通过端到端稀疏对抗攻击模块获得对分类结果影响最大的关键点。因此,我们可以找到分类结果的最敏感点,而无需考虑感兴趣对象的各种图像外观和形状的多样性。此外,采用数据增强模块来基于关键点生成结构化掩码,从而迫使CNN分类模型在最具鉴别力的内容被隐藏时寻找其他相关内容。AdvMask可以有效地提高分类模型在测试过程中的性能。在各种数据集和CNN模型上的实验结果表明,该方法在图像分类任务中的性能优于其他数据增强方法。
2022-11-29 cs.AI cs.CV
Domain-adversarial neural networks to address the appearance variability of histopathology images
Eindhoven University of Technology(埃因霍温理工大学)
制备和扫描组织病理学载玻片包括几个步骤,每个步骤都有许多参数。这些参数在病理学实验室之间以及在同一实验室内可能随时间而变化,从而导致组织外观的显著变化,这阻碍了自动图像分析方法的推广。通常情况下,这是解决与ad-hoc方法,如染色标准化,旨在减少外观的变化。在本文中,我们提出了一个系统的解决方案的基础上领域对抗神经网络。我们假设从模型表示中删除域信息会导致更好的泛化。我们测试了我们的假设,在乳腺癌组织病理学图像中的有丝分裂检测的问题,并与其他两种方法进行了比较分析。我们表明,将颜色增强与领域对抗训练相结合是比标准方法更好的选择,可以提高深度学习方法的泛化能力。
2017-07-19 cs.CV
Decompose, Adjust, Compose: Effective Normalization by Playing with Frequency for Domain Generalization
Yonsei University(延世大学)
领域泛化(DG)是评价计算机视觉模型鲁棒性的一项重要任务。许多以前的研究已经使用正常化DG。在规范化中,统计和规范化特征分别被视为风格和内容。然而,它有一个内容变化的问题时,删除样式,因为内容和样式之间的界限是不明确的。本研究从频域的角度来解决这个问题,其中幅度和相位被认为是风格和内容,分别。首先,我们通过傅里叶变换公式的数学推导,验证了归一化的定量相位变化。然后,在此基础上,我们提出了一种新的规范化方法,PCNorm,它消除了风格只作为保留内容,通过谱分解。此外,我们提出了先进的PCNorm变体,CCNorm和SCNorm,分别调整内容和风格的变化程度。因此,它们可以学习DG的域不可知表示。通过归一化方法,我们提出了ResNet变体模型DAC-P和DAC-SC,它们对域间隙具有鲁棒性。所提出的模型优于其他最近的DG方法。DAC-SC在五个数据集上实现了65.6%的平均最先进性能:PACS、VLCS、Office-Home、DomainNet和TerraIncognita。
2023-03-15 cs.CV
Removing Multiple Hybrid Adverse Weather in Video via a Unified Model
China University of Petroleum (East China)(中国石油大学(华东));Xi’an Jiaotong University(西安交通大学);IRay Technology Co., Ltd.(IRay科技有限公司)
UniWRV通过统一模型有效去除视频中多种混合恶劣天气,提升多种退化场景下的适应能力。
2025-03-08 cs.CV
Optimising Chest X-Rays for Image Analysis by Identifying and Removing Confounding Factors
University College London(伦敦大学学院);King’s College London(伦敦国王学院);Royal Free London NHS Foundation Trust(伦敦皇家自由NHS基金会信托)
在COVID-19大流行期间,在紧急情况下为COVID-19诊断进行的大量成像导致临床CXR采集的差异很大。这种变化见于所使用的CXR投影、添加的图像注释以及临床图像的吸气努力和旋转程度。图像分析界试图通过开发自动化的COVID-19诊断算法来减轻大流行期间过度紧张的放射科的负担,其输入是CXR成像。大型公开可用的CXR数据集已被用于改进COVID-19诊断的深度学习算法。然而,公开数据集中临床获得的CXR的可变质量可能对算法性能产生深远影响。COVID-19诊断可以通过算法从图像上的非解剖特征(例如图像标签)推断。这些成像快捷方式可能是特定于机器人的,并限制了AI系统的通用性。因此,理解和纠正CXR图像中的关键潜在偏差是CXR图像分析之前必不可少的第一步。在这项研究中,我们提出了一种简单有效的分步方法来预处理COVID-19胸部X射线数据集,以消除不希望的偏差。我们进行消融研究,以显示每个步骤的影响。结果表明,使用我们提出的管道可以将基线COVID-19检测算法的准确性提高高达13%。
2022-08-22 cs.CV cs.LG eess.IV
Removing the Background by Adding the Background: Towards Background Robust Self-supervised Video Representation Learning
Sun Yat-sen University(中山大学);Tencent Youtu Lab(腾讯优图实验室);Xia Men University(厦门大学)
自监督学习通过从数据本身获得监督,在提高深度神经网络的视频表示能力方面显示出巨大的潜力。然而,当前的一些方法倾向于从背景欺骗,即,预测高度依赖于视频背景而不是运动,使得模型易受背景变化的影响。为了减轻模型对背景的依赖,我们建议通过添加背景来消除背景影响。也就是说,给定一个视频,我们随机选择一个静态帧,并将其添加到每隔一个帧中,以构建一个分散注意力的视频样本。然后,我们强制模型将分散注意力的视频的特征和原始视频的特征拉得更近,这样模型就被明确地限制来抵抗背景的影响,更多地关注运动变化。我们称我们的方法为\emph{Background Erasing}(BE)。值得注意的是,我们的方法的实现是如此简单和整洁,可以添加到大多数SOTA方法没有太多的努力。具体来说,BE在严重偏倚的数据集UCF 101和HMDB 51上使用MoCo带来了16.4%和19.1%的改善,在偏倚较小的数据集Diving48上带来了14.5%的改善。
2021-04-22 cs.CV
Restorer: Removing Multi-Degradation with All-Axis Attention and Prompt Guidance
Hangzhou Dianzi University(杭州电子科技大学);UC Santa Cruz(加州大学圣克鲁兹分校)
本文提出基于Transformer的全能图像复原模型Restorer,通过全轴注意力同时建模空间与通道长程依赖,并利用文本提示注入任务先验,以单组参数在无额外训练的情况下有效处理真实场景中的复合退化,取得领先性能。
2024-09-03 cs.CV
Empirical Study of Easy and Hard Examples in CNN Training
The University of Tokyo(东京大学)
深度神经网络(DNN)具有很好的泛化能力,尽管它们具有庞大的规模和记忆所有示例的能力。有一种假设是DNN从简单模式开始学习,并且该假设是基于在早期训练阶段(即,简单的例子)和错误分类的例子(即,硬例子)。简单的例子是DNN从特定模式开始学习的证据,并且有一个一致的学习过程。重要的是要知道DNN如何学习模式并获得泛化能力,然而,简单和困难示例的属性没有得到彻底的研究(例如,对泛化和视觉外观的贡献)。在这项工作中,我们分别研究了不同卷积神经网络(CNN)架构的简单和困难示例的相似性,评估这些示例如何有助于泛化。我们的研究结果表明,简单的例子在视觉上彼此相似,而困难的例子在视觉上是多样的,这两个例子在很大程度上在不同的CNN架构中共享。此外,虽然困难的例子往往比简单的例子更有助于泛化,但删除大量简单的例子会导致泛化能力差。通过分析这些结果,我们假设数据集中的偏差和随机梯度下降(SGD)是CNN具有一致的简单和困难示例的原因。此外,我们表明,大规模的分类数据集可以有效地压缩,使用本工作中提出的简易。
2019-11-25 cs.CV
Domain-Specific Bias Filtering for Single Labeled Domain Generalization
Zhejiang University(浙江大学)
传统领域泛化(CDG)利用多个标记的源数据集来训练一个不可见目标领域的可泛化模型。然而,由于昂贵的标注成本,标注所有源数据的要求很难满足在现实世界中的应用。在本文中,我们研究了一个单一的标记领域泛化(SLDG)任务,只有一个源域被标记,这是更实际和更具挑战性的CDG任务。SLDG任务中的一个主要障碍是区分度-泛化偏差:标记源数据集中的区分信息可能包含特定领域的偏差,从而限制了训练模型的泛化。为了解决这个具有挑战性的任务,我们提出了一个新的框架称为特定领域的偏见过滤(DSBF),它与标记的源数据的歧视性模型,然后过滤掉其特定领域的偏见与未标记的源数据的泛化改进。我们将过滤过程分为(1)通过基于k-means聚类的语义特征重新提取的特征提取器去偏置和(2)通过注意力引导的语义特征投影的分类器校正。DSBF统一了对标记和未标记源数据的探索,以增强训练模型的可区分性和泛化性,从而产生高度泛化的模型。我们进一步提供理论分析,以验证所提出的特定领域的偏置滤波过程。在多个数据集上进行的大量实验表明,DSBF在处理具有挑战性的SLDG任务和CDG任务方面表现出色。
2022-11-22 cs.CV
Improving Generalization of Batch Whitening by Convolutional Unit Optimization
KAIST(韩国科学技术院)
批量白化是一种通过将输入特征转换为零均值(居中)和单位方差(缩放)以及通过消除通道之间的线性相关性(解相关)来加速和稳定训练的技术。在使用批量归一化进行经验优化的常用结构中,归一化层出现在卷积和激活函数之间。以下批处理白化研究采用了相同的结构,而没有进一步的分析;甚至批处理白化是在线性层的输入被白化的前提下分析的。为了弥补这一缺陷,我们提出了一种新的卷积单元,它与理论相一致,我们的方法总体上提高了批量白化的性能。此外,我们通过研究特征的秩和相关性来证明原始卷积单元的无效性。由于我们的方法是现成的白化模块,我们使用迭代归一化(IterNorm),最先进的白化模块,并在五个图像分类数据集上获得显着提高的性能:CIFAR-10,CIFAR-100,CUB-200-2011,Stanford Dogs和ImageNet。值得注意的是,我们验证了我们的方法在使用大学习率、组大小和迭代次数时提高了白化的稳定性和性能。
2021-11-02 cs.AI cs.CV stat.ML
EnD: Entangling and Disentangling deep representations for bias correction
University of Turin(都灵大学)
人工神经网络在越来越多的任务中执行最先进的技术,现在它们被用来解决各种各样的任务。存在一些问题,如训练数据中存在偏差,这对这些模型的泛化能力提出了质疑。在这项工作中,我们提出了EnD,这是一种正则化策略,其目的是防止深度模型学习不必要的偏差。特别是,我们在深层神经网络的某个点插入一个“信息瓶颈”,在那里我们解开了关于偏差的信息,仍然让训练任务的有用信息在模型的其余部分向前传播。EnD的一大优势是我们不需要额外的训练复杂性(如解码器或模型中的额外层),因为它是直接应用于训练模型的正则化器。我们的实验表明,EnD有效地提高了无偏测试集的泛化能力,并且可以有效地应用于真实场景,例如从射线图像中去除COVID-19检测中的隐藏偏差。
2021-03-02 cs.AI cs.CV cs.LG
Domain Generalization with Domain-Specific Aggregation Modules
Sapienza University of Rome(罗马第一大学);Italian Institute of Technology(意大利技术研究院)
视觉识别系统是为了在现实世界中工作。要做到这一点,它们必须在任何视觉领域都能稳健地工作,而不仅仅是在训练过程中使用的数据上。在这种情况下,一个非常现实的场景涉及领域泛化,即能够建立视觉识别算法,能够在几个视觉域中鲁棒地工作,而无需访问有关目标数据统计的任何信息。本文有助于这一研究思路,提出了一个深层次的架构,保持分离的可用源域数据的信息,而在同一时间利用一般的感知信息。我们通过引入特定领域的聚合模块,通过聚合层策略能够以有效的方式合并通用和特定的信息来实现这一点。两个不同的基准数据库上的实验表明,我们的方法的权力,达到新的艺术状态的领域泛化。
2018-09-28 cs.CV
Unsupervised Domain Generalization for Person Re-identification: A Domain-specific Adaptive Framework
Southeast University(东南大学);University of Wollongong(伍伦贡大学);Nanjing University(南京大学)
领域泛化(DG)是近年来在人员再识别(ReID)中备受关注的一个问题。它旨在使在多个源域上训练的模型推广到一个看不见的目标域。虽然取得了可喜的进展,现有的方法通常需要源域进行标记,这可能是一个重大的负担,实际的ReID任务。在本文中,我们转而研究ReID的无监督领域泛化,假设没有标签可用于任何源域。为了解决这个具有挑战性的设置,我们提出了一个简单而有效的特定于域的自适应框架,并实现它的自适应规范化模块设计的批处理和实例规范化技术。在这样做的过程中,我们成功地产生了可靠的伪标签来实现训练,并根据需要增强了模型的领域泛化能力。此外,我们表明,我们的框架甚至可以应用于提高人的ReID下的设置监督领域泛化和无监督领域自适应,表现出竞争力的性能与相关的方法。在基准数据集上进行了广泛的实验研究,以验证所提出的框架。我们的工作的一个意义在于,它显示了潜在的无监督领域泛化的人ReID,并设置了一个强有力的基线,为进一步研究这一主题。
2023-03-23 cs.CV
Data Dropout: Optimizing Training Data for Convolutional Neural Networks
Austin Peay State University(奥斯汀佩伊州立大学);Baidu Research(百度研究院);University of Southern Mississippi(南密西西比大学)
深度学习模型学习以适应训练数据,同时高度期望它们能够很好地推广到测试数据。大多数作品旨在通过创造性地设计架构和微调参数来找到这样的模型。为了适应特定的任务,手工制作的信息(如图像先验)也被纳入端到端学习。然而,在研究单个训练样本如何影响模型的泛化能力方面取得的进展很少。换句话说,为了实现高泛化精度,我们真的需要训练数据集中的所有样本吗?在本文中,我们证明了深度学习模型(如卷积神经网络)可能不会支持所有训练样本,并且可以通过丢弃这些不利样本来进一步提高泛化精度。具体来说,去除训练样本的影响是可以量化的,我们提出了一种两轮训练方法,旨在实现更高的泛化精度。我们在第一轮训练后定位不利的样本,然后在第二轮中使用减少的训练数据集从头开始重新训练模型。由于我们的方法本质上不同于微调或进一步训练,因此计算成本不应该成为问题。我们广泛的实验结果表明,在相同的设置下,所提出的方法可以提高知名网络在高级计算机视觉问题(如图像分类)和低级视觉问题(如图像去噪)上的性能。
2018-09-07 cs.CV
Federated Domain Generalization with Domain-specific Soft Prompts Generation
Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司)
针对联邦域泛化中提示多样性有限且忽略未知域信息的问题,提出FedDSPG方法,通过生成域特定软提示来增强模型泛化能力,在多个数据集上取得最优结果。
2025-09-25 cs.CV
Towards Domain-Specific Features Disentanglement for Domain Generalization
Zhejiang University(浙江大学)
针对域泛化中无关域特征被忽视的问题,本文提出基于对比学习的CDDG特征解耦方法,在潜在空间分离互斥的域特定与类别特征,并在多个基准上验证其性能优势。
2023-10-04 cs.CV
Fine-Grained Generalization via Structuralizing Concept and Feature Space into Commonality, Specificity and Confounding
CFSG通过结构化分解概念和特征空间为共同性、特异性和混淆性,提升细粒度领域泛化性能,实验表明其在多个基准数据集上显著优于现有方法。
2026-01-06 cs.CV
Removing Human Bottlenecks in Bird Classification Using Camera Trap Images and Deep Learning
Liverpool John Moores University(利物浦约翰摩尔大学);Durham University(杜伦大学);University of St Andrews(圣安德鲁斯大学);Chester Zoo(切斯特动物园);Utrecht University(乌得勒支大学)
针对相机陷阱鸟类监测存在数据处理难、假阳性率高的人力瓶颈问题,提出基于Faster-RCNN的深度学习方法,实现鸟类实时分类与假阳性自动剔除,经实验验证准确率达96.71%,可替代人工观测助力保护监测。
2023-05-03 cs.AI cs.CV
Gradual Network for Single Image De-raining
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Sun Yat-sen University(中山大学);SenseTime Research(商汤科技研究院)
单幅图像去雨的最大进展遇到了一个关键的挑战,即去除不同尺度和形状的雨条纹,同时保持图像的细节。现有的单图像去雨方法将雨纹去除直接视为逐像素回归的过程。然而,他们缺乏挖掘过度去雨(例如,在无雨区域去除纹理细节)和欠去雨(例如,留下雨条纹)之间的平衡。在本文中,我们首先提出了一个由粗到细的网络称为渐进网络(GraNet),由粗阶段和细阶段,用于研究不同粒度的单张图像去雨。具体来说,为了揭示粗粒度的雨纹特征(例如长而厚的雨纹/雨滴),我们提出了一个粗糙的阶段,通过利用局部-全局空间依赖性通过局部-全局子网络组成的区域感知块。取残差结果(粗糙的去雨结果)之间的雨图像样本(即输入数据)和粗调级的输出(即,学习的雨掩模)作为输入,细雨阶段通过去除细粒雨条纹来继续除雨(例如,小雨条纹和水雾),以通过统一的上下文合并子系统获得无雨和良好重建的输出图像。网络中有密集块和合并块。对合成数据和真实数据进行的扎实而全面的实验表明,我们的GraNet可以通过去除各种密度,尺度和形状的雨条纹,同时保持无雨区域的图像细节,从而显着优于最先进的方法。
2019-09-20 cs.AI cs.CV cs.MM
RCT: A Robot-Collected Touch-Vision-Language Dataset for Tactile Generalization
ScaDS.AI, TU Dresden(德累斯顿工业大学ScaDS.AI);LASR Lab, TU Dresden(德累斯顿工业大学LASR实验室)
提出RCT数据集,包含机器人按压122种工业材料采集的触觉数据,通过接触序列划分暴露了材料泛化难题,为触觉感知提供基准。
2026-07-01 cs.AI cs.CL cs.CV