Supervised Contrastive Machine Unlearning of Background Bias in Sonar Image Classification with Fine-Grained Explainable AI
Department of Computational Intelligence, Faculty of Engineering;Technology, SRM Institute of Science
本文提出结合目标对比遗忘和解释框架的水声图像分类方法,通过减少背景偏见提升模型泛化能力与可解释性。
2025-12-01 cs.CV
Skin Deep Unlearning: Artefact and Instrument Debiasing in the Context of Melanoma Classification
Newcastle University(纽卡斯尔大学);Durham University(杜伦大学)
针对黑色素瘤分类中手术标记、标尺及成像器械造成的数据偏差,本文比较两种主流偏差去学习方法,证明其可显著降低虚假变异影响并提升泛化。
2023-04-27 cs.CV
Preserving Privacy Without Compromising Accuracy: Machine Unlearning for Handwritten Text Recognition
Computer Vision Center, Universitat Autònoma de Barcelona(计算机视觉中心,巴塞罗那自治大学)
针对手写文本识别中的隐私风险,提出基于神经剪枝与书写者分类头机器遗忘的两阶段框架,并引入WIC方法,在IAM和CVL数据集上实现隐私保护与识别准确性的最佳权衡。
2025-10-14 cs.CV
Designing to Forget: Deep Semi-parametric Models for Unlearning
Department of Computer Science, Purdue University(普渡大学计算机科学系)
本文提出深度半参数模型,通过融合模块实现测试时删除训练样本,无需改变模型参数,在图像分类和生成任务中表现优异,且去学习效率显著提升。
2026-03-24 cs.CV
Beyond Visual Evidence: Revealing and Mitigating Relational Privacy Leakage in Document MLLMs
Faculty of Engineering, Shenzhen MSU-BIT University(深圳北理莫斯科大学工程学院);Faculty of CMC, Shenzhen MSU-BIT University(深圳北理莫斯科大学计算机、数学与力学学院);Department of CDS, Indian Institute of Science(印度科学学院计算机与数据科学系)
本文针对文档理解MLLMs的KIE任务,揭示其在视觉证据不足时会通过记忆的字段关系泄露隐私,提出DRUF框架与DocPrivacyBench基准,实验显示DRUF可提升泄露抑制效果并维持KIE性能。
2026-08-14 cs.CR cs.CV cs.MM
Forget Vectors at Play: Universal Input Perturbations Driving Machine Unlearning in Image Classification
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Illinois Institute of Technology(伊利诺伊理工学院);Michigan State University(密歇根州立大学);Cisco Research(思科研究)
本文提出与输入无关的forget vector,在不修改模型权重的情况下实现图像分类机器遗忘,并通过向量算术组合生成面向新任务的扰动,性能媲美先进的基于模型方法。
2025-03-17 cs.CV cs.LG
Automatic Construction of Pattern Classifiers Capable of Continuous Incremental Learning and Unlearning Tasks Based on Compact-Sized Probabilistic Neural Network
Department of Computer Engineering, College of Science & Technology(计算机工程系,科学与技术学院)
本文提出一种基于紧凑型概率神经网络的模式分类方法,通过简单的一次性网络生长算法自动确定结构和参数,实现连续增量学习与遗忘任务,实验表明其在分类性能和连续学习任务中表现优异。
2026-03-21 cs.CV cs.LG
Unlearning Spurious Correlations in Chest X-ray Classification
University College Dublin(都柏林大学)
本研究针对医学图像分类中多数据源引发的虚假相关性问题,提出利用XBL方法结合低要求的特征标注反馈机制,有效消除Covid-19胸部X射线数据集中的虚假相关性,构建鲁棒模型。
2023-08-03 cs.CV cs.LG eess.IV
Projected Gradient Unlearning for Text-to-Image Diffusion Models: Defending Against Concept Revival Attacks
Mohamed bin Zayed University of Artificial Intelligence(莫德尔·本·扎耶德人工智能大学);University of Waterloo(滑铁卢大学)
本文提出投影梯度遗忘方法,用于消除扩散模型中 undesirable 的概念,通过构建核心梯度空间并投影梯度更新,有效防止后续微调恢复已删除的概念。
2026-04-22 cs.CV
Selective, Controlled and Domain-Agnostic Unlearning in Pretrained CLIP: A Training- and Data-Free Approach
Hewlett Packard Labs(惠普实验室)
本文提出了一种无需训练和数据的CLIP去学习方法,能够实现选择性、可控性和领域无关的模型遗忘,提升模型在不同任务上的适应性与效率。
2025-12-16 cs.CV
Boundary Unlearning
Huazhong University of Science and Technology(华中科技大学)
“被遗忘权”和有毒数据删除的实际需求需要高效的\textit{machine unlearning}技术,该技术使机器学习模型能够忘记学习,或者忘记一小部分训练数据及其谱系。最近关于深度神经网络(DNN)的机器遗忘的研究试图通过擦洗模型参数来破坏遗忘数据的影响。然而,它是昂贵的,由于大尺寸的参数空间。在本文中,我们将注意力从参数空间重新集中到DNN模型的决策空间,并提出了边界Unlearning,这是一种快速而有效的方法,可以从经过训练的DNN模型中删除整个类。其关键思想是移动原始DNN模型的决策边界,以模仿从头开始重新训练的模型的决策行为。我们提出了两种新的边界移动方法,即边界收缩和边界扩展,这两种方法都可以快速实现实用性和隐私性的保证。我们在CIFAR-10和Vggface 2数据集上对边界Unlearning进行了广泛的评估,结果表明,与从头开始重新训练相比,边界Unlearning可以有效地忘记图像分类和人脸识别任务中的遗忘类,预期速度分别为$17\times$和$19\times$。
2023-03-21 cs.CV
Machine Unlearning for Image-to-Image Generative Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Global Technology Applied Research, JPMorgan Chase(摩根大通全球技术应用研究部)
针对现有机器遗忘方法多聚焦分类模型、生成模型领域研究不足的问题,本文提出面向图像到图像生成模型的统一遗忘框架及高效算法,经理论分析与多数据集实验验证,其性能损失小、无需保留样本,是该领域首个系统性研究。
2024-02-02 cs.CV cs.LG
Efficient Unlearning through Maximizing Relearning Convergence Delay
CSE Department, Sungkyunkwan University(成均馆大学计算机科学与工程系);Secure Machines Lab(安全机器实验室)
本文提出重新学习收敛延迟指标,用于评估模型对遗忘数据集的理解,提出影响消除遗忘框架,通过降性能和权重衰减提高遗忘数据的鲁棒性,实验表明方法优于现有指标。
2026-04-10 cs.CV cs.LG
Suppression or Deletion: A Restoration-Based Representation-Level Analysis of Machine Unlearning
Department of Artificial Intelligence Sungkyunkwan University Suwon Republic of Korea(人工智能系首尔大学水原韩国);Sungkyunkwan University(首尔大学)
本文提出了一种基于恢复的分析框架,揭示了现有去学习方法在表示层面保留信息的风险,强调了对新评估标准的需求。
2026-02-18 cs.CV
Erase to Enhance: Data-Efficient Machine Unlearning in MRI Reconstruction
School of Engineering, The University of Edinburgh(爱丁堡大学工程学院)
该研究针对医学MRI重建场景,提出无需全量重训的数据高效机器遗忘方法,可消除多器官数据混训带来的伪影,仅用部分保留数据就能维持高性能,还构建了量化遗忘效果的协议并开源代码。
2024-06-18 cs.CV cs.LG eess.IV
Detecting Melanoma Fairly: Skin Tone Detection and Debiasing for Skin Lesion Classification
Newcastle University(纽卡斯尔大学);Durham University(杜伦大学)
卷积神经网络在黑色素瘤和其他皮肤病变的分类方面已经表现出了人类水平的性能,但在广泛部署之前,应该解决不同肤色之间的明显性能差异。在这项工作中,我们提出了一个高效而有效的算法自动标记病变图像的肤色,并使用它来注释基准ISIC数据集。随后,我们使用这些自动化标签作为两个领先的偏见学习技术的目标,以减轻肤色偏见。我们的实验结果提供的证据表明,我们的肤色检测算法优于现有的解决方案,忘记肤色可以提高泛化能力,并可以减少黑色素瘤检测在较浅和较深的肤色之间的性能差距。
2022-07-29 cs.CV eess.IV
Analise de Desaprendizado de Maquina em Modelos de Classificacao de Imagens Medicas
Visual Computing Lab, Departamento de Computação, Universidade Federal Rural de Pernambuco (UFRPE), Brasil(视觉计算实验室,计算机系,帕尔米科州立大学(UFRPE),巴西)
本研究探索机器学习遗忘技术在医学图像分类中的应用,通过在三个医学图像数据集上评估SalUn遗忘模型并分析数据增强的影响,发现SalUn性能接近完全重训练,为医学领域提供高效遗忘方案。
2025-08-25 cs.AI cs.CV eess.IV
UnLearning from Experience to Avoid Spurious Correlations
Queen’s University Belfast(贝尔法斯特女王大学);School of EEECS(EEECS学院)
本文提出从经验中反学习(ULE)方法,通过并行训练学生和教师模型,让教师利用学生输出的梯度反学习学生学到的虚假相关性,从而提升模型鲁棒性,并在多个数据集上验证有效。
2024-09-04 cs.CV cs.LG
Enhancing User-Centric Privacy Protection: An Interactive Framework through Diffusion Models and Machine Unlearning
Data61
本文提出一种交互式图像隐私保护框架,结合扩散模型在属性层修改图像并利用机器遗忘算法更新模型参数,在数据共享与模型发布阶段同时保护隐私,并在面部数据集上验证了其优于现有方法的效果。
2024-09-05 cs.CV
Partially Blinded Unlearning: Class Unlearning for Deep Networks a Bayesian Perspective
Indian Institute of Science(印度科学学院);Indian Institutes of Science Education and Research(印度科学教育与研究学院)
本文提出一种基于贝叶斯视角的深度网络类遗忘方法PBU,通过最小化对数似然并结合Fisher Information矩阵的Mahalanobis距离与参数$l_2$距离的稳定性正则化,在仅需未学习数据点的情况下实现高效类遗忘并保持其他类性能。
2024-03-24 cs.CV cs.LG
Bias Redistribution in Visual Machine Unlearning: Does Forgetting One Group Harm Another?
NewraLab;Beihang University(北京航空航天大学);GoerTek Alpha Lab(歌尔Alpha实验室);Skyline University Nigeria(尼日利亚天际线大学);UESTC(电子科技大学);Imperial College London(帝国理工学院)
研究通过CLIP模型在CelebA数据集上探讨机器遗忘对偏见的再分配影响,发现遗忘某一性别群体会将偏见转移至相关群体,揭示嵌入空间中的性别主导结构。
2026-04-09 cs.CV cs.LG
Invisible Watermarks, Visible Gains: Steering Machine Unlearning with Bi-Level Watermarking Design
University of Science and Technology of China(中国科学技术大学);Institute of Artificial Intelligence(人工智能研究院);Hefei Comprehensive National Science Center(合肥综合国家科学中心);Michigan State University(密歇根州立大学);Cisco Research(思科研究)
针对机器遗忘多依赖权重调整而忽视数据级修改的问题,提出双层水印框架Water4MU,通过优化水印网络最小化遗忘难度,在保持模型效用的同时实现精确数据移除,在图像分类与生成任务中表现优异。
2025-08-13 cs.CR cs.CV
Lethe: How Hard Is It to Forget? A Benchmark for Federated Unlearning in Medical Imaging
University of Technology Sydney(悉尼科技大学);Shenzhen University(深圳大学)
该研究针对医学影像联邦遗忘问题,构建了Lethe基准测试,评估十二种方法在多任务、多遗忘粒度下的表现,发现遗忘请求难度而非方法本身是区分性能的关键,且医疗任务中移除客户端几乎不影响性能,需消除残留成员信息。
2026-08-04 cs.CV
Federated Unlearning via Class-Discriminative Pruning
Hong Kong Polytechnic University(香港理工大学);Dalian University of Technology(大连理工大学)
我们探讨了在联邦学习(FL)中从训练好的CNN分类模型中选择性遗忘类别的问题。鉴于用于训练的数据无法在FL中全局访问,我们的见解深入探讨了每个通道的内部影响。通过对不同通道激活的特征图的可视化,我们观察到不同通道对图像分类中不同类别的贡献不同。受此启发,我们提出了一种方法,用于擦洗模型中有关特定类别的信息。该方法不需要从头开始重新训练,也不需要对用于训练的数据进行全局访问。相反,我们引入了术语频率逆文档频率(TF-IDF)的概念来描述信道的类别区分。具有高TF-IDF分数的通道对目标类别有更多的区分,因此需要修剪以忘记。通道修剪之后是微调过程,以恢复修剪后模型的性能。在CIFAR 10数据集上进行评估,与从头开始重新训练相比,我们的方法将ResNet模型的遗忘速度提高了8.9倍,VGG模型的遗忘速度提高了7.9倍,而准确性没有下降。对于CIFAR 100数据集,加速比分别为9.9倍和8.4倍。我们设想这项工作作为FL遵守法律和道德标准的补充块。
2022-01-29 cs.CR cs.CV cs.DC
Modular Multimodal Architecture for Document Classification
页面分类是任何文档分析系统的关键组件,它允许为给定文档的不同组件提供复杂的分支控制流。利用一个页面的视觉和文本内容,所提出的方法超过了目前最先进的性能在RVL-CDIP基准在93.03%的测试准确率。
2019-12-09 cs.CV
Exploring Multi-Tasking Learning in Document Attribute Classification
Thapar University(塔帕尔大学);L3i, University of La-Rochelle(拉罗谢尔大学L3i实验室)
在这项工作中,我们坚持探索基于多任务学习(MTL)的网络来执行文档属性分类,例如文档图像的字体类型,字体大小,字体强调和扫描分辨率分类。为了完成这些任务,我们在分割的单词级别或随机裁剪出的文档上操作统一大小的补丁。在此基础上,提出了一种混合卷积神经网络(CNN)结构“MTL+MI”,该结构基于MTL与文本和词的多实例(MI)相结合,实现了对同一文档属性的联合学习。本文的贡献有三个方面:第一,基于分割的文字图像和补丁,我们提出了一个基于MTL的网络分类的完整的文档图像。其次,我们提出了一个MTL和MI(使用分割的单词和补丁)为基础的组合CNN架构(“MTL+MI”)的分类相同的文档属性。第三,基于词和/或块的多任务分类,我们提出了一个智能投票系统,它是基于每个词和/或块的后验概率来执行完整的文档图像的文档属性的分类。
2021-08-30 cs.CV
MUNBa: Machine Unlearning via Nash Bargaining
Department of Data Science & AI(数据科学与人工智能系);Department of Electrical and Computer Systems Engineering(电气与计算机系统工程系)
针对机器遗忘中遗忘与保留目标的梯度冲突和主导问题,提出基于纳什议价的双人合作博弈方法MUNBa,推导闭式解引导模型达帕累托驻点,在多类视觉任务上实现更优的遗忘-保留权衡及鲁棒性提升。
2025-09-04 cs.CV
Efficient Document Image Classification Using Region-Based Graph Neural Network
American Family Insurance(美国家庭保险)
文档图像分类仍然是一个热门的研究领域,因为它可以在不同行业的许多企业应用中商业化。大型预训练计算机视觉和语言模型以及图神经网络的最新进展为文档图像分类提供了许多工具。然而,使用大型的预训练模型通常需要大量的计算资源,这可能会使自动文档图像分类的成本节约优势失效。在本文中,我们提出了一个有效的文件图像分类框架,使用图卷积神经网络,并结合文本,视觉和布局信息的文件。我们已经严格基准我们提出的算法对几个国家的最先进的视觉和语言模型在公开的数据集和现实生活中的保险文件分类数据集。对公开数据和真实数据的实证结果表明,我们的方法实现了接近SOTA的性能,但需要更少的计算资源和时间进行模型训练和推理。这导致解决方案比提供更好的成本优势,特别是在企业应用程序的可扩展部署中。实验结果表明,该算法的分类性能接近SOTA。我们还提供了我们提出的方法和基准之间的计算资源,模型大小,训练和推理时间的全面比较。此外,我们使用我们的方法和其他基线描绘了每幅图像的成本。
2021-06-25 cs.CV
Analysis of Convolutional Neural Networks for Document Image Classification
Brigham Young University(杨百翰大学)
卷积神经网络(CNN)是用于文档图像分类任务的最先进的模型。然而,这些方法中的许多依赖于设计用于对自然图像进行分类的参数和架构,其不同于文档图像。我们质疑这是否合适,并进行了一项大型实证研究,以找出CNN的哪些方面最影响文档图像的性能。在其他结果中,我们通过使用剪切变换数据增强和为更大的输入图像设计的架构,超过了RVL-CDIP数据集上的最新技术。此外,我们分析了学习的特征,并发现在RVL-CDIP上训练的CNN学习区域特定的布局特征的证据。
2017-08-10 cs.CV
Multimodal deep networks for text and image-based document classification
Quicksign(Quicksign公司)
文件图像分类是旧手稿归档、在线订阅和行政程序的关键步骤。计算机视觉和深度学习已被建议作为基于文档的视觉外观对其进行分类的第一解决方案。然而,实现细粒度的分类,这是在现实世界中所需要的设置不能单独通过视觉分析来实现。通常,相关信息在文档的实际文本内容中。我们设计了一个多模态神经网络,能够从词嵌入中学习,通过OCR提取的文本计算,并从图像。我们表明,这种方法在Tobacco 3482和RVL-CDIP上提高了3%的纯图像准确性,并通过我们新的QS-OCR文本数据集(https://github.com/Quicksign/ocrized-text-dataset)进行了增强,即使没有干净的文本信息。
2019-07-15 cs.CV
DocXplain: A Novel Model-Agnostic Explainability Method for Document Image Classification
Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI)(德国人工智能研究中心);RPTU Kaiserslautern-Landau(凯撒斯劳滕-兰道莱茵-普法尔茨理工大学);DeepReader GmbH(DeepReader有限公司)
本文提出DocXplain,一种针对文档图像分类的模型无关可解释性方法,通过分割并消融文档前景与背景元素来生成特征归因图,在多个基准和模型上验证了其优于现有归因方法的忠实性与可解释性。
2024-07-04 cs.CV
Multimodal Side-Tuning for Document Classification
在本文中,我们提出了利用侧调框架多模态文档分类。侧调谐是最近引入的用于网络自适应的方法,以解决与先前方法相关的一些问题。由于这种技术,实际上可以通过微调来克服迁移学习的模型刚性和灾难性遗忘。所提出的解决方案使用现成的深度学习架构,利用侧调优框架将基本模型与两侧网络的串联相结合。我们表明,侧调也可以成功地采用时,考虑不同的数据源,例如,文本和图像在文档分类。实验结果表明,这种方法进一步推动了文档分类精度的限制相对于最先进的。
2023-01-23 cs.CV cs.LG
Evaluation of Neural Network Classification Systems on Document Stream
La Rochelle Université(拉罗谢尔大学);Yooz
用于文档分类目的的现有技术的基于神经网络(NN)的方法的一个主要缺点是获得有效分类所需的大量训练样本。每门课最少需要大约一千个带注释的文档。在许多情况下,如果不是不可能的话,在实际的工业过程中收集这个数量的样品是非常困难的。在本文中,我们分析了基于神经网络的文档分类系统的效率在一个次优的训练情况下,基于公司的文档流的情况。我们评估了三种不同的方法,一种基于图像内容,两种基于文本内容。评估分为四个部分:一个参考案例,以评估系统在实验室中的性能;两个案例,每个案例模拟与文档流处理相关的特定困难;以及一个结合所有这些困难的现实案例。现实的情况下,突出了这样一个事实,即有一个显着的下降,在基于神经网络的文档分类系统的效率。虽然它们对于表示良好的类仍然有效(系统对这些类的过度拟合),但它们不可能适当地处理表示不太好的类。基于神经网络的文档分类系统需要进行调整,以解决这两个问题,然后才能考虑在公司的文档流中使用。
2020-07-15 cs.CV cs.LG
Genetic Programming for Document Segmentation and Region Classification Using Discipulus
PSGR Krishnammal College for Women(PSGR克里希南马尔女子学院);GR Govindarajulu School Of Applied Computer Technology(GR Govindarajulu应用计算机技术学院)
文档分割是一种将文档分割成不同区域的方法。文档是信息的分类,是向他人传达信息的标准模式。从文档中获取数据涉及大量的人力,时间密集,可能会严重禁止使用数据系统。因此,从文档中自动提取信息成为一个重要的课题。它被证明,文档分割将有助于击败这样的问题。本文提出了一种新的方法来分割和分类的文本,图像,图纸和表格的文件区域。利用游程拖影规则对文档图像进行分块,并从每个分块中提取特征。利用遗传算法构造了基于遗传编程的分类器模型,分类准确率达到97.5%。
2013-03-03 cs.CV cs.NE
HDLTex: Hierarchical Deep Learning for Text Classification
Department of Computer Science, University of Virginia(弗吉尼亚大学计算机科学系);Department of System and Information Engineering, University of Virginia(弗吉尼亚大学系统与信息工程系);Data Science Institute, University of Virginia(弗吉尼亚大学数据科学研究所)
每年产生的文件数量不断增加,这就需要不断改进搜索、检索和组织文本的信息处理方法。这些信息处理方法的核心是文档分类,它已经成为监督学习的一个重要应用。最近,这些传统的分类器的性能已经退化的文件数量的增加。这是因为随着文件数量的增长,类别的数量也在增加。本文探讨这个问题不同于目前的文档分类方法,认为这个问题作为多类分类。相反,我们使用一种我们称之为分层深度学习文本分类(HDLTex)的方法来执行分层分类。HDLTex采用深度学习架构堆栈,在文档层次结构的每个级别提供专业的理解。
2017-10-06 cs.AI cs.CL cs.CV
Beyond Document Page Classification: Design, Datasets, and Challenges
KU Leuven(鲁汶大学);Computer Vision Center, Universitat Autònoma de Barcelona(巴塞罗那自治大学计算机视觉中心)
本文指出当前文档分类基准脱离实际,形式化多页面文档分类任务并提出新数据集,实验证明现有基准需更新,并呼吁更成熟的评估方法。
2023-10-31 cs.CL cs.CV cs.LG
Deep Learning for Technical Document Classification
Massachusetts Institute of Technology(麻省理工学院);Shanghai Jiao Tong University(上海交通大学)
本文提出多模态深度学习架构 TechDoc,融合文本、图像及文档间关联,通过卷积、循环和图神经网络联合训练,在专利分类任务上优于单模态及现有基准方法,可扩展至海量技术文档管理。
2022-02-19 cs.CV cs.IR cs.LG
Validity-Gated Evaluation of Multimodal Machine Unlearning
Murdoch University(墨尔本大学)
本文系统分析了多模态去学习中度量可靠性问题,提出统一质量评分(UQS)以解决不同度量标准间的冲突,通过实验验证了UQS在稳定排序方面的有效性。
2026-11-03 cs.CV cs.LG
Evaluation of Deep Convolutional Nets for Document Image Classification and Retrieval
Ryerson University(瑞尔森大学)
本文提出了一种新的最先进的文档图像分类和检索,使用深卷积神经网络(CNN)学习的特征。在对象和景物分析中,深度神经网络能够学习从像素输入到简洁和描述性表示的分层抽象链。目前的工作探讨了这种能力在文档分析领域,并证实,这种表示策略优于各种流行的手工制作的替代品。实验还表明,(i)从CNN中提取的特征对压缩具有鲁棒性,(ii)在非文档图像上训练的CNN可以很好地转移到文档分析任务中,以及(iii)如果有足够的训练数据,则不需要强制执行特定于区域的特征学习。这项工作还提供了IIT-CDIP集合的一个新的标记子集,包含16个类别的40万个文档图像,可用于训练新的CNN进行文档分析。
2015-02-25 cs.CV cs.IR cs.LG