Whitening Improves Robustness to Spurious Correlations in Linear Probes
University of Amsterdam(阿姆斯特丹大学);Tinbergen Institute(丁伯根研究所)
本研究提出白化预处理,通过均衡协方差矩阵特征值,减少线性探针对虚假相关性的依赖,从而提升模型鲁棒性,并在合成数据及标准基准上验证了其有效性。
2026-10-01 cs.LG
Large Learning Rates Simultaneously Achieve Robustness to Spurious Correlations and Compressibility
Imperial College London(伦敦帝国学院)
本文发现大学习率能同时提升模型对虚假相关性的鲁棒性和网络可压缩性,并产生不变特征利用等理想表示属性,其机制在于对偏见冲突样本的自信错误预测。
2025-08-05 cs.AI cs.CV cs.LG
Quantifying and Improving the Robustness of Retrieval-Augmented Language Models Against Spurious Features in Grounding Data
Simon Fraser University(西蒙弗雷泽大学);Microsoft(微软);Atlassian;Tongji University(同济大学);The University of Hong Kong(香港大学);Canada-CIFAR AI Chair, Amii(加拿大-CIFAR人工智能主席,Amii)
本文研究检索增强语言模型对基础数据中虚假特征的鲁棒性问题,提出SURE框架用于量化和提升鲁棒性,分析虚假特征在RAG领域的广泛性与挑战性。
2026-04-25 cs.AI cs.CL cs.LG
Shortcut Mitigation via Spurious-Positive Samples
University of Marburg(马尔堡大学);Goethe University Frankfurt(法兰克福歌德大学)
本文提出通过目标模型分析识别依赖伪属性的小样本集,定位中间层关键神经元并进行正则化,提升模型鲁棒性,无需额外平衡数据或标注。
2026-11-16 cs.LG
NeuronTune: Towards Self-Guided Spurious Bias Mitigation
University of Virginia(弗吉尼亚大学)
本文提出NeuronTune方法,通过探测并调节模型潜在嵌入空间中导致虚假预测的神经元,无需外部虚假相关性标注即可自引导地显著缓解模型虚假偏差并提升鲁棒性。
2025-05-29 cs.LG
Improving Group Robustness on Spurious Correlation Requires Preciser Group Inference
The University of Hong Kong(香港大学)
针对ERM模型因虚假相关性导致最差群体准确率低的问题,提出GIC方法,利用虚假相关性的高相关性与可变性精确推断群体标签,结合下游不变学习显著提升群体鲁棒性,并发现语义一致性现象以缓解虚假相关性。
2024-06-04 cs.LG
Learning Robust Classifiers with Self-Guided Spurious Correlation Mitigation
University of Virginia(弗吉尼亚大学)
本文提出自引导虚假相关性缓解框架,无需标注即可自动构建细粒度标签,通过虚假性嵌入空间区分分类器预测行为,从而提升鲁棒性并在多个数据集上超越现有方法。
2024-05-06 cs.CV cs.LG
Simple and Fast Group Robustness by Automatic Feature Reweighting
New York University(纽约大学)
针对分布外泛化中虚假特征依赖问题,提出自动特征重加权(AFR)方法,通过加权损失重训练ERM模型最后一层,无需组标签即可提升多个视觉和语言基准的鲁棒性,且计算开销极小。
2023-06-19 cs.LG stat.ML
Your Attention Matters: to Improve Model Robustness to Noise and Spurious Correlations
Brown University(布朗大学)
本研究评估多种自注意力机制在视觉Transformer中对噪声和虚假相关性的鲁棒性,发现Doubly Stochastic注意力最鲁棒,在CIFAR和Imagenette数据集上性能领先。
2025-09-06 cs.LG
Improving Group Robustness on Spurious Correlation via Evidential Alignment
University of Virginia(弗吉尼亚大学)
本文提出 Evidential Alignment 框架,利用不确定性量化和证据校准,在无需群体标注的情况下识别并抑制模型中的虚假相关,从而提升群体鲁棒性。
2025-07-20 cs.LG
An Empirical Study on Robustness to Spurious Correlations using Pre-trained Language Models
Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);Amazon AI(亚马逊人工智能);New York University(纽约大学)
最近的工作表明,预先训练的语言模型(如BERT)提高了对数据集中虚假相关性的鲁棒性。被这些结果所吸引,我们发现他们成功的关键是从少量的反例中推广,其中虚假的相关性不成立。当这样的少数例子很少时,预先训练的模型表现得和从头开始训练的模型一样差。在极端少数的情况下,我们建议使用多任务学习(MTL)来提高泛化能力。我们对自然语言推理和释义识别的实验表明,MTL与正确的辅助任务显着提高了具有挑战性的例子的性能,而不会损害分布性能。此外,我们表明,从MTL的增益主要来自于改进的推广少数的例子。我们的研究结果突出了数据多样性的重要性,克服虚假的相关性。
2020-08-11 cs.CL cs.LG
Invariance Pair Guidance: Robustness to Spurious Correlations via Corrective Gradients
Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
提出不变性对引导(IPG)方法,利用稀疏的反事实对和双更新机制动态校正优化轨迹,减少模型对虚假相关性的依赖,在多个数据集上验证了有效性。
2026-07-29 cs.LG
Explicit Tradeoffs between Adversarial and Natural Distributional Robustness
University of Maryland(马里兰大学)
现有的一些工作分别研究深度神经网络的对抗性或自然分布鲁棒性。然而,在实践中,模型需要同时具有这两种类型的鲁棒性,以确保可靠性。在这项工作中,我们弥合了这一差距,并表明,事实上,对抗性和自然分布鲁棒性之间存在明确的权衡。我们首先考虑一个简单的线性回归设置高斯数据与不相交的核心和虚假的功能。在这种情况下,通过理论和实证分析,我们表明:(i)$\ell_1$和$\ell_2$规范的对抗训练增加了模型对虚假特征的依赖;(ii)对于$\ell_\infty$对抗训练,虚假依赖只发生在虚假特征的规模大于核心特征的规模时;(iii)对抗性训练可能会在降低分布鲁棒性方面产生意想不到的后果,特别是当伪相关性在新的测试域中发生变化时。接下来,我们提出了广泛的经验证据,使用在五个基准数据集(ObjectNet,RIVAL 10,Salient ImageNet-1 M,ImageNet-9,Waterbirds)上评估的20个对抗训练模型的测试套件,对抗训练的分类器比标准训练的分类器更依赖于背景,验证了我们的理论结果。我们还表明,虚假的相关性在训练数据(当保存在测试域)可以提高对抗的鲁棒性,揭示了以前的说法,对抗的脆弱性是植根于虚假的相关性是不完整的。
2022-09-15 cs.CV cs.LG
ShortcutProbe: Probing Prediction Shortcuts for Learning Robust Models
University of Virginia(弗吉尼亚大学)
本文提出ShortcutProbe框架,无需组标签,通过识别模型潜在空间中的预测捷径并重新训练使其不变,以缓解虚假偏差,提高模型鲁棒性。
2025-06-17 cs.LG
Elastic Representation: Mitigating Spurious Correlations for Group Robustness
Dartmouth College(达特茅斯学院);New York University(纽约大学);Michigan State University(密歇根州立大学);Broad(布罗德研究所)
针对深度学习模型因依赖虚假相关性导致少数群体预测精度低的问题,提出弹性表示(ElRep)方法,通过核范数和弗罗贝尼乌斯范数惩罚学习特征,在保留特征多样性的同时缓解虚假相关性,提升群体鲁棒性且对分布内预测影响小。
2025-02-14 cs.LG
Increasing Robustness to Spurious Correlations using Forgettable Examples
Microsoft Turing(微软图灵);Microsoft Research(微软研究院)
神经NLP模型往往依赖于标签和输入特征之间的虚假相关性来执行其任务。少数民族的例子,即,与存在于大多数数据点中的虚假相关性相矛盾的示例已经被证明增加了预先训练的语言模型的分布外泛化。在本文中,我们首先提出使用例子遗忘来找到少数的例子,而不需要事先知道数据集中存在的虚假相关性。遗忘的例子是在训练中学习然后忘记的例子,或者从来没有学习过的例子。我们经验性地展示了这些例子是如何与我们训练集中的少数民族相关的。然后,我们引入了一种新的方法,通过两次微调我们的模型来增强模型的鲁棒性,第一次是在完整的训练数据上,第二次是在少数数据上。当我们将我们的方法应用于MNLI,QQP和FEVER数据集时,我们在分布外泛化方面获得了实质性的改进。
2021-02-02 cs.CL cs.LG
Constructing Concept-based Models to Mitigate Spurious Correlations with Minimal Human Effort
Purdue University(普渡大学)
本研究针对概念瓶颈模型标注人力成本高、预训练版本存偏差易受虚假相关性影响的问题,提出多基础模型协同的零人力构建框架,可评估偏差、标注并优化概念,在多数据集上验证了其减虚假依赖、保可解释性的效果。
2024-07-12 cs.CV cs.LG
Correct-N-Contrast: A Contrastive Approach for Improving Robustness to Spurious Correlations
Stanford University(斯坦福大学);Northeastern University(东北大学)
针对虚假相关性导致机器学习模型最差组性能差、且无虚假属性标签时难优化的问题,提出对比学习方法CNC,借助ERM模型识别同类异虚假特征样本并做对比学习,大幅降低对齐损失,刷新无属性标签下最差组准确率最优水平。
2024-12-11 cs.LG
Are Vision Transformers Robust to Spurious Correlations?
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
深度神经网络可能容易学习到虚假的相关性,这些相关性在平均水平上成立,但在非典型测试样本中则不成立。随着最近出现的视觉Transformer(ViT)模型,它仍然是未充分探讨如何虚假的相关性表现在这样的架构。在本文中,我们系统地研究了视觉Transformer对三个具有挑战性的基准数据集上的伪相关性的鲁棒性,并将其性能与流行的CNN进行了比较。我们的研究表明,当在足够大的数据集上进行预训练时,ViT模型比CNN对虚假相关性更鲁棒。他们成功的关键是能够从虚假相关不成立的例子中更好地概括。此外,我们进行了广泛的消融和实验,以了解自我注意力机制在虚假相关环境下提供鲁棒性的作用。我们希望我们的工作将激发未来的研究,进一步了解ViT模型的鲁棒性。
2022-03-17 cs.AI cs.CV cs.LG
Spurious Correlation-Aware Embedding Regularization for Worst-Group Robustness
Yonsei University(延世大学);LG CNS;Korea Development Bank(韩国发展银行)
SCER通过正则化特征表示,减少模型对虚假线索的依赖,提升最差群体的鲁棒性。
2026-03-02 cs.AI cs.LG
GRIT: Out-of-Distribution Robustness from Finite and Noisy Invariant Pairs
Purdue University(普渡大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出噪声反事实匹配(NCM)方法,利用少量含噪反事实数据对替代不变表示学习,并证明其测试域误差上界,从而提升模型对虚假相关性的鲁棒性。
2026-10-19 cs.LG
The Impact of Coreset Selection on Spurious Correlations and Group Robustness
Princeton University(普林斯顿大学);FAIR at Meta(Meta 的 FAIR 实验室)
该研究首次全面分析核心集选择对虚假偏差及下游模型鲁棒性的影响,通过多基准、多指标、多策略的实验揭示相关作用规律,指出优先选困难样本的方法虽能降偏差但无法可靠保证下游鲁棒性。
2025-10-20 cs.CV cs.LG
Unsupervised Concept Discovery Mitigates Spurious Correlations
Mila-Quebec AI Institute, Canada(魁北克AI研究所);Samsung - SAIT AI Lab, Montreal, Canada(三星SAIT人工智能实验室);University of Montreal, Canada(蒙特利尔大学);Institute of Science and Technology Austria(奥地利科学与技术研究所);National University of Singapore(新加坡国立大学)
本文提出CoBalT概念平衡技术,通过无监督对象中心学习发现共享概念来缓解虚假相关性,无需群体标注,在亚群体偏移基准上表现优越。
2024-07-16 cs.CV cs.LG
Robustness to Subpopulation Shift with Domain Label Noise via Regularized Annotation of Domains
Google(谷歌公司)
针对域标签噪声下子群体漂移的鲁棒性,提出域的正则化标注(RAD)方法,无需显式域标注即可训练鲁棒最后一层分类器,在5%噪声下优于依赖标注的最先进方法。
2024-06-26 cs.LG stat.ML
Investigating the Robustness of Subtask Distillation under Spurious Correlation
1Machine Learning Group, Technische Universit\" a t Berlin (TU Berlin), 10587 Berlin, Germany 2Konrad Zuse School of Excellence in Learning;Intelligent Systems (ELIZA), 64289 Darmstadt, Germany 3BIFOLD\,--\,Berlin Institute for the Foundations of Learning;Data, 10587 Berlin, Germany 4Department of Artificial Intelligence, Korea University, Seoul 136-713, Korea 5Max Planck Institute for Informatics, 66123 Saarbr \"u cken, Germany 6Institute for AI in Medicine, Charit\'e\,--\,Universit\"atsmedizin Berlin, 10115 Berlin, Germany
本文研究了在存在虚假相关性的数据下,子任务蒸馏方法的鲁棒性,发现先进方法如SubDistill仍保持稳健,而基础方法性能显著下降。
2026-01-31 cs.LG
Latent Causal Invariant Model
Microsoft Research Asia(微软亚洲研究院);Peking University(北京大学)
当前的监督学习可以在数据拟合过程中学习虚假的相关性,从而带来关于可解释性、分布外(OOD)泛化和鲁棒性的问题。为了避免虚假的相关性,我们提出了一个潜在的因果不变性模型(LaCIM),追求因果预测。具体来说,我们引入的潜在变量分为(a)输出的原因因素和(b)其他虚假相关的输出通过混杂因素,建模的潜在因果因素。我们进一步假设从潜在空间到观测数据的生成机制是因果不变的。我们给出了这种不变性的可识别的主张,特别是从其他人的输出因果因素的解纠缠,作为精确推理和避免虚假相关的理论保证。我们提出了一种基于变分贝叶斯的估计方法,并优化了潜在的预测空间。我们的方法的实用性得到了验证,提高了可解释性,预测能力的各种OOD方案(包括医疗保健)和安全的鲁棒性。
2021-04-27 cs.LG stat.ML
Is Last Layer Re-Training Truly Sufficient for Robustness to Spurious Correlations?
University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Marburg(马尔堡大学);University of Mannheim(曼海姆大学)
本文研究了DFR方法在医学领域现实数据中对虚假相关性的适用性,发现尽管重训练最后一层能提升最差组准确率,但仍易受虚假相关性影响。
2024-01-09 cs.CV cs.LG
Automated Background Swapping for Robustness against Spurious Backgrounds
Johannes Kepler University Linz(林茨约翰·开普勒大学);Cognizant AI Lab(Cognizant AI实验室)
提出自动背景交换(AutoBackSwap)方法,通过辅助网络分离前景和背景并合成完整背景,增强训练数据,减少分类器对虚假背景的依赖,在多个任务上优于先前方法。
2026-07-01 cs.CV cs.LG
ExMap: Leveraging Explainability Heatmaps for Unsupervised Group Robustness to Spurious Correlations
UiT The Arctic University of Norway(挪威北极大学)
针对深度学习模型因伪相关产生偏差的问题,提出无监督两阶段机制ExMap,利用可解释性热力图聚类生成伪标签替代真实标签进行训练,有效提升群体鲁棒性并缓解多重捷径问题。
2024-03-20 cs.CV cs.LG
When Does Group Invariant Learning Survive Spurious Correlations?
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学);Baidu Inc.(百度公司);Institute for AI Industry Research, Tsinghua University(清华大学智能产业研究院);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
通过推断潜在的组中的训练数据,最近的作品引入不变学习的情况下,环境注释是不可用的。通常,经验表明,在多数/少数分裂下的学习组不变性在许多数据集上有效地改善了分布外泛化。然而,这些方法的学习不变机制缺乏理论保证。在本文中,我们揭示了现有的组不变学习方法在防止分类器依赖于训练集中的虚假相关性的不足。具体而言,我们提出了两个标准来判断这种充分性。理论和经验,我们表明,现有的方法可以违反这两个标准,从而无法概括到虚假的相关位移。基于此,本文设计了一种新的组不变学习方法,该方法通过统计独立性检验构造组,并根据组标签比例对样本进行重新加权以满足标准。在合成数据和真实数据上的实验表明,新方法在推广伪相关移位方面明显优于现有的组不变学习方法。
2022-10-18 cs.LG stat.ML
UNMASK: Discovering and Causally Verifying Spurious Shortcuts in Text Classifiers
University of North Carolina, Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出UNMASK自动化流程,可发现并因果验证文本分类器的虚假相关性,在MNLI、CivilComments-WILDS等数据集上提升模型性能,还可推广至奖励模型偏好数据。
2026-08-11 cs.CL cs.LG
Enhancing Model Robustness and Fairness with Causality: A Regularization Approach
University of Chicago(芝加哥大学);Illinois Institute of Technology(伊利诺伊理工学院);Tulane University(杜兰大学)
最近的工作引起了人们对统计机器学习模型中虚假相关性和意外偏差风险的担忧,这些风险威胁到模型的鲁棒性和公平性。在本文中,我们提出了一种简单直观的正则化方法,在模型训练过程中整合因果知识,并通过强调因果特征和不强调虚假特征来构建一个强大而公平的模型。具体来说,我们首先手动识别因果和虚假的功能与因果推理的反事实框架启发的原则。然后,我们提出了一种正则化方法来分别惩罚因果和虚假特征。通过调整每种类型特征的惩罚强度,我们建立了一个预测模型,该模型更多地依赖于因果特征,而较少依赖于非因果特征。我们进行实验,以评估模型的鲁棒性和公平性的三个数据集与多个指标。实验结果表明,新的模型建立与因果意识显着提高模型的鲁棒性方面的反事实文本和模型的公平性方面的敏感属性。
2021-10-03 cs.AI cs.LG
Detecting Spurious Correlations via Robust Visual Concepts in Real and AI-Generated Image Classification
University of Washington(华盛顿大学)
提出一种通用方法,通过鲁棒视觉概念高效检测真实与AI生成图像分类中的虚假相关性,减少人工干预并提供直观解释,适用于生成模型下游应用。
2023-11-16 cs.CV cs.LG
Salient ImageNet: How to discover spurious features in Deep Learning?
University of Maryland, College Park(马里兰大学帕克分校)
深度神经网络在现实世界中可能是不可靠的,特别是当它们大量使用{ \it spurious}特征进行预测时。聚焦于图像分类,我们将{ \it核心特征}定义为始终是对象定义的一部分的视觉特征的集合,而{ \it虚假特征}是可能与对象{ \it共同出现}但不是其一部分的特征(例如,属性“fingers”用于类“band aid”)。发现虚假特征的传统方法要么需要大量的人工注释(因此不可扩展),要么在特定模型上有用。在这项工作中,我们引入了一个{ \it一般}框架,发现一个子集的虚假和核心的视觉特征中使用的一般模型的推论和本地化他们大量的图像与最小的人类监督。我们的方法基于这个关键思想:为了识别模型预测中使用的虚假或核心\textit{neural features},我们通过有限的人类监督(例如,每个特征使用前5个激活图像)。然后,我们表明,这些神经功能注释{ \it推广}非常好,以更多的图像{ \it没有}任何人的监督。我们使用这些神经特征的激活图作为软掩模来突出虚假或核心视觉特征。使用这种方法,我们介绍了{ \it显着Imagenet}数据集包含核心和虚假掩模的一个大的样本集Imagenet。使用这个数据集,我们发现几个流行的Imagenet模型在预测中严重依赖于各种虚假特征,这表明仅凭标准精度不足以全面评估模型性能。用于再现论文中所有实验的代码和数据集可在\url{https://…
2022-03-28 cs.CV cs.LG
Perturbation Sensitivity at Convergence: A Simple Signal for Identifying Spuriously Correlated Samples
本文提出收敛时的扰动敏感性信号,无需群体标注与早停轮次即可识别虚假相关样本,用其重新平衡训练可将Waterbirds数据集最差群体准确率从57.3%提至80.8%。
2026-08-07 cs.AI cs.LG
Seeing is not Believing: Robust Reinforcement Learning against Spurious Correlation
Carnegie Mellon University(卡内基梅隆大学);California Institute of Technology(加州理工学院)
本文提出鲁棒状态混杂马尔可夫决策过程(RSC-MDPs),从理论和算法层面解决强化学习中由未观测混杂因素导致的虚假相关性问题,并在自动驾驶与操作任务中验证其优于现有鲁棒方法。
2023-10-25 cs.LG
The Group Robustness is in the Details: Revisiting Finetuning under Spurious Correlations
Georgia Institute of Technology(佐治亚理工学院);Google DeepMind(谷歌DeepMind)
本文通过视觉与语言四个基准研究虚假相关性下的微调,揭示类别平衡、模型规模与特征谱不平衡对最差群体准确率的复杂影响,并提出更优混合方法。
2024-10-28 cs.LG
Understanding Domain Generalization: A Noise Robustness Perspective
National University of Singapore(新加坡国立大学)
本文从标签噪声视角探究域泛化算法优于经验风险最小化的原因,发现DG算法具有隐式噪声鲁棒性,但真实基准上其性能优势并不明显。
2024-03-18 cs.CV cs.LG
When Are Learning Biases Equivalent? A Unifying Framework for Fairness, Robustness, and Distribution Shift
针对机器学习中公平性、鲁棒性等失效模式被单独研究的问题,提出统一理论框架,通过信息论度量将偏差形式化为条件独立性违反,证明多种偏差的等价条件,实证验证等价性并支持去偏方法跨域迁移。
2025-11-09 cs.AI cs.LG stat.ML
On Feature Learning in the Presence of Spurious Correlations
New York University(纽约大学)
已知深度分类器依赖于虚假特征$\unicode{x2013}$模式,这些模式与训练数据上的目标相关,但与学习问题不固有相关,例如在对前景进行分类时的图像背景。在本文中,我们评估的信息量的核心(非虚假)功能,可以从标准的经验风险最小化(ERM)和专业组鲁棒性训练学习的表示解码。在最近关于深度特征重加权(DFR)的工作之后,我们通过在虚假相关被打破的保持集上重新训练模型的最后一层来评估特征表示。在多视觉和NLP问题上,我们证明了通过简单的ERM学习的特征与通过专门的组鲁棒性方法学习的特征具有很强的竞争力,这些方法旨在减少虚假相关性的影响。此外,我们发现学习的特征表示的质量受到训练方法之外的设计决策的极大影响,例如模型架构和预训练策略。另一方面,我们发现强正则化对于学习高质量的特征表示是不必要的。最后,利用我们分析的见解,我们显着改善了流行的水鸟,CelebA发色预测和WILDS-FMOW问题的文献中报道的最佳结果,分别达到97%,92%和50%的最差组准确率。
2022-10-20 cs.CV cs.LG stat.ML
Cumulative Meta-Learning from Active Learning Queries for Robustness to Spurious Correlations
Department of Computer Science(计算机科学系);National University of Singapore(新加坡国立大学)
本文提出了一种累积主动元学习(CAML)框架,通过主动学习查询样本来元学习先验知识,以提高模型对虚假相关性的鲁棒性,实验结果显示在多个基准测试中性能显著提升。
2026-05-20 cs.LG
Calibrating Multi-modal Representations: A Pursuit of Group Robustness without Annotations
Yale University(耶鲁大学)
针对预训练视觉-语言模型微调存在的计算成本高、依赖伪特征等问题,本文提出无需群体标注的轻量级表征校准方法,通过生成校准集并对比学习校准表征,有效提升CLIP的群体鲁棒性与泛化能力。
2024-11-01 cs.CV cs.LG
Concept-Guided Fine-Tuning: Steering ViTs away from Spurious Correlations to Improve Robustness
本文提出一种引导模型推理至概念层面语义的微调框架,通过优化内部相关性映射对齐空间 grounded 的概念掩码,提升模型在分布偏移下的鲁棒性。
2026-09-29 cs.AI cs.CV cs.LG
Fighting Spurious Correlations in Text Classification via a Causal Learning Perspective
George Mason University(乔治梅森大学)
针对文本分类中模型依赖虚假相关性导致鲁棒性差的问题,提出因果校准鲁棒分类器CCR,结合反事实推理的因果特征选择与无偏逆倾向加权损失,有效降低对虚假特征的依赖,在无组标签方法中达到SOTA性能。
2025-02-01 cs.CL cs.LG
Robustness to Spurious Correlations in Text Classification via Automatically Generated Counterfactuals
Illinois Institute of Technology(伊利诺伊理工学院);Tulane University(杜兰大学)
虚假相关性威胁着统计分类器的有效性。虽然当测试数据来自与训练数据相同的分布时,模型精度可能看起来很高,但是当测试分布改变时,模型精度可能迅速降低。例如,已经表明,当人类进行微小的修改以改变示例的标签时,分类器的性能很差。提高模型可靠性和可推广性的一个解决方案是识别特征和类之间的因果关联。在本文中,我们提出了训练一个强大的文本分类器,通过增加的训练数据与自动生成的反事实数据。我们首先使用统计匹配方法确定可能的因果特征。接下来,我们生成反事实样本的原始训练数据的替代因果特征与他们的反义词,然后分配相反的标签反事实样本。最后,我们结合原始数据和反事实数据来训练一个鲁棒的分类器。对两个分类任务的实验表明,在原始数据上训练的传统分类器在人类生成的反事实样本(例如,准确度下降10%-37%)。然而,在组合数据上训练的分类器更鲁棒,并且在原始测试数据和反事实测试数据(例如,与传统分类器相比,准确率提高了12%-25%)。详细的分析表明,强大的分类器,使有意义的和值得信赖的预测,强调因果关系的功能和不强调非因果关系的功能。
2020-12-18 cs.LG
Robustar: Interactive Toolbox Supporting Precise Data Annotation for Robust Vision Learning
Carnegie Mellon University(卡内基梅隆大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Nottingham Ningbo China(宁波诺丁汉大学);University of Nottingham(诺丁汉大学);University of California, Irvine(加州大学欧文分校);University of Michigan(密歇根大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
我们介绍了我们的软件Robustar的初始版本,该软件旨在通过数据驱动的视角提高视觉分类机器学习模型的鲁棒性。基于最近的理解,即缺乏机器学习模型的鲁棒性是模型学习虚假特征的趋势,我们的目标是通过在训练之前从数据中去除虚假特征,从数据的角度从根本上解决这个问题。特别是,我们介绍了一个软件,它可以帮助用户更好地准备训练图像分类模型的数据,允许用户在图像的像素级注释的虚假功能。为了促进这一过程,我们的软件还利用最新的进展来帮助识别值得关注的潜在图像和像素,并继续使用新注释的数据进行训练。我们的软件托管在GitHub Repository https://github.com/HaohanWang/Robustar上。
2022-07-18 cs.CV cs.LG
Mitigating Spurious Correlation via Distributionally Robust Learning with Hierarchical Ambiguity Sets
Pohang University of Science and Technology(釜山科学技术大学)
本文提出一种分层扩展的Group DRO方法,通过扩大模糊集以提高对组间和组内分布偏移的鲁棒性,并在少数群体分布偏移模拟中取得优异表现。
2026-02-12 cs.LG
Robustness to Spurious Correlations Improves Semantic Out-of-Distribution Detection
Center for Data Science, New York University(纽约大学数据科学中心);Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所)
利用预测模型的输出或特征表示的方法已经成为图像输入的分布外(OOD)检测的有前途的方法。然而,这些方法难以检测与分布中输入共享滋扰值(例如,背景)的OOD输入。在现实世界的应用中,对共享的干扰分布外(SN-00 D)输入的检测是特别相关的,因为异常和分布内输入往往在部署期间在相同的设置中被捕获。在这项工作中,我们提供了一个可能的解释SN-OOD检测失败,并提出滋扰感知OOD检测来解决这些问题。滋扰感知OOD检测替代了通过经验风险最小化和交叉熵损失训练的分类器,1。是在一个分布下训练的,其中滋扰标签关系被打破,2。产生独立于该分布下的干扰的表示,无论是边缘的还是以标签为条件的。我们可以训练一个分类器来实现这些目标,使用滋扰随机蒸馏(NuRD),一个算法开发的OOD泛化虚假相关。基于输出和特征的滋扰感知OOD检测的性能明显优于其原始对应物,即使在基于领域泛化算法的检测未能提高性能时也能成功。
2023-02-08 cs.AI cs.LG
Improving Adversarial Robustness in Android Malware Detection by Reducing the Impact of Spurious Correlations
Radboud University(拉德堡德大学);Xi’an Jiaotong University(西安交通大学);Ruhr University Bochum(波鸿鲁尔大学)
本文提出一种领域自适应技术,通过构建鲁棒特征空间对齐恶意软件样本与对抗样本分布,减少虚假相关性影响,在DREBIN上相较Sec-SVM将对抗鲁棒性提升最高55%。
2024-08-27 cs.CR cs.LG cs.SE
Improving Robustness to Multiple Spurious Correlations by Multi-Objective Optimization
POSTECH(浦项科技大学);Department of Computer Science and Engineering, POSTECH(浦项科技大学计算机科学与工程学院);Graduate School of Artificial Intelligence, POSTECH(浦项科技大学人工智能研究生院)
本文针对多重偏差导致的多个虚假相关性问题,提出一种基于多目标优化理论的动态分组加权训练方法,并构建MultiCelebA基准,在多个数据集上验证了其优越的去偏性能。
2024-09-05 cs.CV cs.LG
Interpreting Robustness Proofs of Deep Neural Networks
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);VMware Research(威睿研究院)
近年来,已经开发了许多方法来正式验证深度神经网络(DNN)的鲁棒性。虽然所提出的技术在提供DNN行为的数学保证方面是有效的,但尚不清楚这些方法生成的证明是否是人类可解释的。在本文中,我们通过开发新的概念,算法和表示来弥合这一差距,以生成人类可理解的解释证明。利用所提出的方法,我们表明,标准DNN的鲁棒性证明依赖于虚假的输入特征,而训练为可证明鲁棒的DNN的证明甚至过滤掉了语义上有意义的特征。结合对抗性和可证明鲁棒性训练的DNN的证明在选择性过滤虚假特征以及依赖人类可理解的输入特征方面是最有效的。
2023-01-31 cs.LG
Ensuring Medical AI Safety: Interpretability-Driven Detection and Mitigation of Spurious Model Behavior and Associated Data
Fraunhofer Heinrich Hertz Institut(弗劳恩霍夫 Heinrich Hertz 研究所);Technische Universität Berlin(柏林技术大学);Berlin Institute for the Foundations of Learning and Data (BIFOLD)(柏林学习与数据基础研究所(BIFOLD))
针对医疗AI中深度神经网络因虚假相关性产生捷径学习的安全问题,本研究增强Reveal2Revise框架,加入半自动可解释性偏差标注功能,在多模态医疗数据集上验证了其对多种CV模型偏差的识别与缓解效果,提升了模型鲁棒性。
2025-07-29 cs.AI cs.CV cs.LG
Superclass-Guided Representation Disentanglement for Spurious Correlation Mitigation
New York University(纽约大学);NYU Grossman School of Medicine(纽约大学 Grossman 医学院);Zhejiang University(浙江大学)
本文提出利用超类引导解耦表示以缓解虚假相关性,通过预训练视觉-语言模型的梯度注意力对齐和理论支持的最小最大最优特征使用策略,提升模型对复杂组结构和虚假相关性的鲁棒性。
2026-03-19 cs.AI cs.CV cs.LG
Spurious Correlations in Concept Drift: Can Explanatory Interaction Help?
University of Trento(特伦托大学);CIMeC, University of Trento(特伦托大学认知科学与技术跨学科研究中心);DISI, University of Trento(特伦托大学信息工程与计算机科学系)
针对概念漂移中虚假相关性破坏检测统计量的问题,提出新型检测器 ebc-exstream,利用模型解释和人类反馈纠正虚假相关性,并采用基于熵的启发式方法降低标注成本,初步实验证明其能有效减少虚假相关性对检测的影响。
2024-07-23 cs.LG