When Are Learning Biases Equivalent? A Unifying Framework for Fairness, Robustness, and Distribution Shift
针对机器学习中公平性、鲁棒性等失效模式被单独研究的问题，提出统一理论框架，通过信息论度量将偏差形式化为条件独立性违反，证明多种偏差的等价条件，实证验证等价性并支持去偏方法跨域迁移。
2025-11-09 cs.AI cs.LG stat.ML
Spurious Correlation Learning in Preference Optimization: Mechanisms, Consequences, and Mitigation via Tie Training
Department of Mathematics, Purdue University, West Lafayette IN, USA（普渡大学数学系）；School of Mechanical Engineering, Purdue University, West Lafayette IN, USA（普渡大学机械工程学院）；Massachusetts Institute of Technology, Cambridge MA, USA（麻省理工学院）
本文通过统一理论分析揭示了偏好优化（如DPO）中虚假相关学习的机制（均值虚假偏差和因果-虚假相关泄漏），证明其导致分布偏移下的不可逆脆弱性，并提出平局训练数据增强策略以选择性减少虚假学习。
2026-05-29 cs.AI cs.LG
Improved robustness to adversarial examples using Lipschitz regularization of the loss
我们使用最坏情况对抗训练（WCAT）增强对抗训练（AT），在CIFAR-10上的$\ell_2$规范中，它将对抗鲁棒性提高了11%。我们得到可验证的平均情况下和最坏情况下的鲁棒性保证，基于期望和最大值的范数的梯度的损失。我们将对抗训练解释为总变差正则化，这是数学图像处理中的基本工具，而WCAT则是Lipschitz正则化。
2019-09-13 cs.CR cs.CV cs.LG
Improving group robustness under noisy labels using predictive uncertainty
Deargen Inc.（Deargen公司）；Deargen USA Inc.（Deargen美国公司）
标准的经验风险最小化（ERM）在某些少数群体（即，由于输入与其标签之间的虚假相关性，陆地上的水鸟或水中的陆地鸟类）。一些研究通过关注高损失样本来提高最差组的准确性。这背后的假设是这样的高损耗样本是\textit{spurious-cue-free}（SCF）样本。然而，这些方法可能是有问题的，因为高损失样本也可能是现实世界场景中具有噪声标签的样本。为了解决这个问题，我们利用模型的预测不确定性来提高噪声标签下的最差组准确度。为了激励这一点，我们从理论上表明，高不确定性的样本是SCF样本的二进制分类问题。这一理论结果意味着，预测的不确定性是一个足够的指标，以确定SCF样品在嘈杂的标签设置。基于此，我们提出了一种新的基于熵的去偏（END）框架，该框架可以防止模型学习虚假线索，同时对噪声标签具有鲁棒性。在END框架中，我们首先训练\textit{identification model}以使用其预测不确定性从训练集中获得SCF样本。然后，在用过采样SCF集扩充的数据集上训练另一个模型。实验结果表明，我们的END框架优于其他强基线的几个现实世界的基准，同时考虑嘈杂的标签和虚假线索。
2022-12-14 cs.CV cs.LG
Improving Robustness against Real-World and Worst-Case Distribution Shifts through Decision Region Quantification
University of Erlangen-Nürnberg（埃尔朗根-纽伦堡大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Hausdorff Center for Mathematics, University of Bonn（波恩大学豪斯多夫数学中心）；McGill University（麦吉尔大学）；Google Deepmind（谷歌DeepMind）
神经网络的可靠性对于它们在安全关键应用中的使用是至关重要的。现有方法通常旨在提高神经网络对真实世界分布偏移（例如，常见的破坏和扰动、空间变换和自然对抗示例）或最坏情况的分布偏移（例如，优化的对抗性示例）。在这项工作中，我们提出了决策区域量化（DRQ）算法，以提高任何可微的预训练模型对真实世界和最坏情况下的数据分布偏移的鲁棒性。DRQ分析给定数据点附近的局部决策区域的鲁棒性，以做出更可靠的预测。我们从理论上激励DRQ算法，它有效地平滑虚假的决策表面的局部极值。此外，我们提出了一个实现使用有针对性和无针对性的对抗攻击。一项广泛的实证评估表明，DRQ提高了对抗性和非对抗性训练模型对几个计算机视觉基准数据集上真实世界和最坏情况分布偏移的鲁棒性。
2022-05-19 cs.LG
Spread Spurious Attribute: Improving Worst-group Accuracy with Spurious Attribute Estimation
KAIST（韩国科学技术院）；POSTECH（浦项科技大学）
最坏组损失最小化的范例已经显示出其在避免学习虚假相关性方面的前景，但是需要对虚假属性进行昂贵的额外监督。为了解决这个问题，最近的工作集中在开发较弱的监督形式-例如，使用少量具有虚假属性注释的验证样本发现的超参数-但没有一种方法保持与使用虚假属性的完全监督的方法相当的性能。在本文中，而不是寻找较弱的监督，我们问：给定访问一个固定数量的样本与虚假的属性注释，什么是最好的实现最坏的组损失，如果我们“充分利用”他们？为此，我们提出了一个伪属性为基础的算法，创造传播虚假属性（SSA），以提高最坏的组的准确性。特别地，我们利用具有和不具有虚假属性注释的样本来训练模型以预测虚假属性，然后使用由训练的模型预测的伪属性作为对虚假属性的监督来训练具有最小最坏群损失的新的鲁棒模型。我们在各种基准数据集上的实验表明，我们的算法在使用相同数量的具有虚假属性注释的验证样本的情况下始终优于基线方法。我们还证明，建议的SSA可以实现可比的性能的方法，使用完整的（100%）虚假属性监督，通过使用更少数量的注释样本-从0.6%到1.5%，这取决于数据集。
2022-04-05 cs.CV cs.LG
Pruning Spurious Subgraphs for Graph Out-of-Distribution Generalization
Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）；The University of Sydney（悉尼大学）
本文提出PrunE，首个基于剪枝的图OOD方法，通过图大小约束和ε-概率对齐剪除虚假边，更全面保留不变子图，显著提升分布外泛化性能。
2025-09-06 cs.LG
Generative Classifiers Avoid Shortcut Solutions
Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）
生成分类器通过建模所有特征避免捷径解法，提升在分布偏移下的性能。
2025-12-31 cs.AI cs.CV cs.LG
TAPS: Connecting Certified and Adversarial Training
ETH Zurich（苏黎世联邦理工学院）
提出TAPS方法，结合IBP和PGD训练以提供精确的最坏情况损失近似，缓解过度正则化，在多种设置下提升了神经网络的认证准确率和标准准确率。
2023-10-25 cs.LG
Concept-Guided Fine-Tuning: Steering ViTs away from Spurious Correlations to Improve Robustness
本文提出一种引导模型推理至概念层面语义的微调框架，通过优化内部相关性映射对齐空间 grounded 的概念掩码，提升模型在分布偏移下的鲁棒性。
2026-09-29 cs.AI cs.CV cs.LG
UNMASK: Discovering and Causally Verifying Spurious Shortcuts in Text Classifiers
University of North Carolina, Chapel Hill（北卡罗来纳大学教堂山分校）
本文提出UNMASK自动化流程，可发现并因果验证文本分类器的虚假相关性，在MNLI、CivilComments-WILDS等数据集上提升模型性能，还可推广至奖励模型偏好数据。
2026-08-11 cs.CL cs.LG
Class-Conditional Distribution Balancing for Group Robust Classification
Dalian University of Technology（大连理工大学）
本文提出了一种基于类别条件分布平衡的鲁棒分类方法，通过样本重新加权策略消除对偏见注释的依赖，有效消除虚假相关性，提升模型在现实世界中的泛化能力。
2025-12-01 cs.CV cs.LG
Correct-N-Contrast: A Contrastive Approach for Improving Robustness to Spurious Correlations
Stanford University（斯坦福大学）；Northeastern University（东北大学）
针对虚假相关性导致机器学习模型最差组性能差、且无虚假属性标签时难优化的问题，提出对比学习方法CNC，借助ERM模型识别同类异虚假特征样本并做对比学习，大幅降低对齐损失，刷新无属性标签下最差组准确率最优水平。
2024-12-11 cs.LG
Decompose-and-Compose: A Compositional Approach to Mitigating Spurious Correlation
Sharif University of Technology（谢里夫理工大学）
针对图像分类中虚假相关导致的分布偏移问题，提出分解与组合（DaC）方法，通过识别因果组件并组合图像生成反事实数据进行训练，无需组标签即可提升最差组准确率。
2024-07-21 cs.CV cs.LG
Enhancing Model Robustness and Fairness with Causality: A Regularization Approach
University of Chicago（芝加哥大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Tulane University（杜兰大学）
最近的工作引起了人们对统计机器学习模型中虚假相关性和意外偏差风险的担忧，这些风险威胁到模型的鲁棒性和公平性。在本文中，我们提出了一种简单直观的正则化方法，在模型训练过程中整合因果知识，并通过强调因果特征和不强调虚假特征来构建一个强大而公平的模型。具体来说，我们首先手动识别因果和虚假的功能与因果推理的反事实框架启发的原则。然后，我们提出了一种正则化方法来分别惩罚因果和虚假特征。通过调整每种类型特征的惩罚强度，我们建立了一个预测模型，该模型更多地依赖于因果特征，而较少依赖于非因果特征。我们进行实验，以评估模型的鲁棒性和公平性的三个数据集与多个指标。实验结果表明，新的模型建立与因果意识显着提高模型的鲁棒性方面的反事实文本和模型的公平性方面的敏感属性。
2021-10-03 cs.AI cs.LG
Challenges and Opportunities in Improving Worst-Group Generalization in Presence of Spurious Features
University of YYY（YYY大学）；School of ZZZ（ZZZ学院）；Institute of WWW（WWW研究院）
本研究针对虚假特征导致的最差组泛化问题，在三类挑战性场景中提出缓解方法，引入新数据集并系统测试8种SOTA方法，揭示现有方法局限并提出更优模型选择策略，为该领域提供新方向。
2025-04-16 cs.LG
Consistency Regularization for Certified Robustness of Smoothed Classifiers
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
最近的随机平滑技术已经表明，最坏情况（对抗性）$\ell_2$鲁棒性可以通过“平滑”分类器而被转换为平均情况高斯鲁棒性，即，通过考虑高斯噪声上的平均预测。在这种范式中，人们应该重新思考对抗鲁棒性的概念，即分类器在噪声观测下的泛化能力。我们发现，平滑分类器的准确性和认证的鲁棒性之间的权衡，可以大大控制通过简单地正则化的预测一致性噪声。这种关系使我们能够设计一个鲁棒的训练目标，而无需近似不存在的平滑分类器，例如，通过软平滑。我们在各种深度神经网络架构和数据集下的实验表明，“认证”的$\ell_2$ -鲁棒性可以通过所提出的正则化得到显着提高，甚至可以实现更好或与最先进的方法相当的结果，并且训练成本和超参数显着减少。
2021-01-08 cs.LG stat.ML
Improving Group Robustness on Spurious Correlation Requires Preciser Group Inference
The University of Hong Kong（香港大学）
针对ERM模型因虚假相关性导致最差群体准确率低的问题，提出GIC方法，利用虚假相关性的高相关性与可变性精确推断群体标签，结合下游不变学习显著提升群体鲁棒性，并发现语义一致性现象以缓解虚假相关性。
2024-06-04 cs.LG
Can Subnetwork Structure be the Key to Out-of-Distribution Generalization?
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Massachusetts Institute of Technology（麻省理工学院）；Peking University（北京大学）
具有特定结构的模型能否避免在分布外（OOD）推广中偏向伪相关？Peters等人（2016）为线性情况提供了肯定的答案。在本文中，我们使用功能模块探测方法来分析深层模型结构下的OOD设置。我们证明，即使在有偏模型（专注于虚假的相关性）仍然存在无偏功能子网络。此外，我们阐明并证明了功能彩票假设：全网络包含一个子网络，可以实现更好的OOD性能。然后，我们提出了模块化风险最小化来解决子网络的选择问题。我们的算法从给定的数据集中学习子网络结构，并且可以与任何其他OOD正则化方法相结合。各种OOD推广任务的实验证实了我们的方法的有效性。
2021-06-05 cs.LG stat.ML
Causal Effect Regularization: Automated Detection and Removal of Spurious Attributes
Microsoft Research（微软研究院）
针对未知虚假属性导致分类器依赖伪相关的问题，提出通过估计属性对标签的因果效应自动识别虚假属性并加以正则化，在多类数据集上降低$Δ$Prob且保持准确率，并证明效应排序正确即可保证选择。
2023-12-08 cs.LG
Out of Spuriousity: Improving Robustness to Spurious Correlations without Group Annotations
Marburg University（马堡大学）；University of Mannheim（曼海姆大学）
本文提出了一种方法，通过提取子网络来提高机器学习模型对虚假相关性的鲁棒性，利用监督对比损失迫使模型去除虚假关联，从而提升最差组的性能。
2026-04-27 cs.AI cs.LG
Not Only the Last-Layer Features for Spurious Correlations: All Layer Deep Feature Reweighting
Concordia University（康考迪亚大学）；Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）
针对虚假相关性问题，提出在源自神经网络所有层的特征上重新训练分类器并利用特征选择策略筛选无偏特征，显著提升了多个标准基准上的最差组准确率。
2024-09-23 cs.AI cs.LG
Robust Multi-Agent Reinforcement Learning by Mutual Information Regularization
针对多智能体强化学习中现有鲁棒方法计算量大、鲁棒性不足的问题，提出无需对手的互信息正则化方法MIR3，通过最大化鲁棒性下界提升鲁棒性，在星际争霸II、机器人群控制及真实部署中均优于基线。
2024-05-21 cs.AI cs.LG
Distributionally Robust Neural Networks for Group Shifts: On the Importance of Regularization for Worst-Case Generalization
Stanford University（斯坦福大学）；Microsoft（微软）
过度参数化的神经网络在i.i.d.上的平均精度可以很高。测试集在非典型数据组上始终失败（例如，通过学习平均保持但在这样的组中不保持的伪相关性）。分布式鲁棒优化（DRO）允许我们学习模型，而不是在一组预定义的组上最小化最坏情况下的训练损失。然而，我们发现，天真地将组DRO应用于过参数化神经网络是失败的：这些模型可以完美地拟合训练数据，并且任何具有消失的平均训练损失的模型也已经具有消失的最坏情况训练损失。相反，较差的最坏情况性能来自于某些组的较差泛化。通过将组DRO模型与增加的正则化（比典型的L2惩罚或早期停止更强）相结合，我们实现了更高的最差组准确率，在自然语言推理任务和两个图像任务上提高了10-40个百分点，同时保持了较高的平均准确率。我们的研究结果表明，正则化是很重要的最坏的群推广的过参数化制度，即使它是不需要的平均推广。最后，我们引入了一个随机优化算法，收敛保证，有效地训练组DRO模型。
2020-04-02 cs.LG stat.ML
Spurious Correlations in High Dimensional Regression: The Roles of Regularization, Simplicity Bias and Over-Parameterization
Institute of Science and Technology Austria (ISTA)（奥地利科学与技术研究所）
本文研究了高维回归中模型依赖虚假特征的问题，量化了线性回归学到的虚假相关性，揭示了其与分布内测试损失间的权衡，并证明了随机特征模型等价于正则化线性回归。
2025-05-27 cs.LG stat.ML
Identifying Spurious Biases Early in Training through the Lens of Simplicity Bias
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Google Deepmind（谷歌DeepMind）
该研究从简单性偏差角度理论分析神经网络学习虚假相关性的机制，提出可在训练早期识别并通过重要性采样缓解虚假偏差的SPARE方法，在准确率和速度上均优于现有方法。
2024-03-07 cs.CV cs.LG
The Group Robustness is in the Details: Revisiting Finetuning under Spurious Correlations
Georgia Institute of Technology（佐治亚理工学院）；Google DeepMind（谷歌DeepMind）
本文通过视觉与语言四个基准研究虚假相关性下的微调，揭示类别平衡、模型规模与特征谱不平衡对最差群体准确率的复杂影响，并提出更优混合方法。
2024-10-28 cs.LG
Is Last Layer Re-Training Truly Sufficient for Robustness to Spurious Correlations?
University of Duisburg-Essen（杜伊斯堡-埃森大学）；University of Marburg（马尔堡大学）；University of Mannheim（曼海姆大学）
本文研究了DFR方法在医学领域现实数据中对虚假相关性的适用性，发现尽管重训练最后一层能提升最差组准确率，但仍易受虚假相关性影响。
2024-01-09 cs.CV cs.LG
Mitigating Spurious Correlations in Multi-modal Models during Fine-tuning
University of California, Los Angeles（加州大学洛杉矶分校）；Microsoft Research（微软研究院）
本文提出在微调阶段利用多模态对比损失函数检测并分离虚假属性，在CLIP上显著提升最差组准确率且不损失平均准确率。
2023-05-30 cs.AI cs.LG
Perturbation Sensitivity at Convergence: A Simple Signal for Identifying Spuriously Correlated Samples
本文提出收敛时的扰动敏感性信号，无需群体标注与早停轮次即可识别虚假相关样本，用其重新平衡训练可将Waterbirds数据集最差群体准确率从57.3%提至80.8%。
2026-08-07 cs.AI cs.LG
Do regularization methods for shortcut mitigation work as intended?
Imperial College London（帝国理工学院）
该研究针对正则化缓解捷径学习时可能过正则化、压制因果特征的问题，分析其理论机制与有效边界，明确成功消除捷径且不损因果特征的条件，经实验为构建鲁棒模型提供参考。
2025-03-21 cs.LG stat.ML
Improving Multi-Task Generalization via Regularizing Spurious Correlation
University of California, Los Angeles（加州大学洛杉矶分校）；Google Research（谷歌研究院）
多任务学习（MTL）是一种通过知识共享来提高泛化性能的强大学习范式。然而，现有的研究发现，MTL有时会损害概括，特别是当两个任务相关性较低时。损害泛化的一个可能原因是虚假相关，即，有些知识是虚假的，与任务标签没有因果关系，但模型可能错误地利用它们，因此当这种相关性发生变化时，模型就会失败。在MTL设置中，存在伪相关的几个独特挑战。首先，具有非因果知识的风险更高，因为共享的MTL模型需要对来自不同任务的所有知识进行编码，并且一个任务的因果知识可能对另一个任务是虚假的。第二，任务标签之间的混淆给MTL带来了不同类型的虚假相关。我们从理论上证明了MTL比单任务学习更倾向于从其他任务中获取非因果知识，从而概括性更差。针对这一问题，本文提出了多任务因果表示学习框架，旨在通过分解神经模块来表示多任务知识，并通过特定于MTL的不变正则化来学习哪个模块与每个任务有因果关系。实验结果表明，通过缓解虚假相关问题，MTL模型的性能比Multi-MNIST，MovieLens，Taskonomy，CityScape和NYUv 2平均提高了5.5%。
2022-11-24 cs.AI cs.LG
Just Train Twice: Improving Group Robustness without Training Group Information
Stanford University（斯坦福大学）
通过经验风险最小化（ERM）的标准训练可以产生平均准确度高但对某些群体准确度低的模型，特别是在输入和标签之间存在虚假相关性的情况下。实现高最差组准确度的先前方法，如组分布鲁棒优化（组DRO），需要针对每个训练点的昂贵的组注释，而不使用这种组注释的方法通常实现不令人满意的最差组准确度。在本文中，我们提出了一个简单的两阶段的方法，JTT，第一次训练一个标准的ERM模型几个时期，然后训练第二个模型，增加权重的训练样本，第一个模型错误分类。直观地说，这增加了标准ERM模型表现不佳的组的示例，从而改善了最差组的表现。平均超过四个图像分类和自然语言处理任务与虚假的相关性，JTT关闭75%的差距，在最坏的组之间的准确性标准ERM和组DRO，而只需要组注释的一个小的验证集，以调整超参数。
2021-09-27 cs.AI cs.CY cs.LG
Identifying and Disentangling Spurious Features in Pretrained Image Representations
YerevaNN（YerevaNN研究所）；Yerevan State University（埃里温国立大学）；University of Southern California（南加州大学）；Meta AI Research（Meta人工智能研究院）
本研究针对预训练表示中虚假特征纠缠导致分类性能下降的问题，提出线性自编码器分离核心、虚假及其他特征，并设计两种去除方法，显著提升最差组准确率。
2023-06-22 cs.CV cs.LG
You Only Need a Good Embeddings Extractor to Fix Spurious Correlations
Meta AI
训练数据中的虚假相关性通常会导致鲁棒性问题，因为模型会将其用作捷径。例如，当预测一个对象是否是一头牛时，模型可能会学习依赖于它的绿色背景，所以它在沙质背景上的牛上表现不佳。用于衡量缓解此问题的方法的最新技术水平的标准数据集是水鸟。最好的方法（Group Distributionally Robust Optimization - GroupDRO）目前达到了89%的最差组准确率，而原始图像上从头开始的标准训练只能达到72%。GroupDRO要求以端到端的方式使用子组标签训练模型。在本文中，我们证明了我们可以在不使用训练集中任何子组信息的情况下，通过简单地使用来自大型预训练视觉模型提取器的嵌入并在其上训练线性分类器来实现高达90%的准确率。通过在广泛的预训练模型和预训练数据集上的实验，我们证明了预训练模型的容量和预训练数据集的大小很重要。我们的实验表明，与高容量卷积神经网络相比，高容量视觉Transformer的性能更好，并且更大的预训练数据集导致虚假相关数据集上更好的最差组准确度。
2022-12-12 cs.CV cs.LG
Optimal Transport Reweighting for Robust Learning under Spurious Correlations and Label Noise
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
针对虚假相关与标签噪声下的子群体偏移问题，提出基于最优传输的POTER重加权框架，通过传输几何度量样本重要性，仅需单阶段ERM训练，在标准基准上实现最先进的组内最差精度。
2026-10-02 cs.AI cs.LG
Avoiding spurious sharpness minimization broadens applicability of SAM
Google DeepMind（谷歌DeepMind）；ETH Zürich（苏黎世联邦理工学院）
本文发现SAM在NLP中因logit统计量正则化导致性能下降，提出Functional-SAM及预条件扰动方法避免虚假锐度最小化，在多种训练设置和模型规模上优于AdamW和SAM基线。
2025-02-04 cs.CL cs.LG stat.ML
On how to avoid exacerbating spurious correlations when models are overparameterized
University of British Columbia（不列颠哥伦比亚大学）
过度参数化的模型无法推广以及在数据不平衡的存在下，即使与传统的技术来减轻不平衡。本文关注的是不平衡的分类数据集，其中一小部分人口（少数）可能包含与类标签虚假相关的特征。对于交叉熵损失修正的参数族和代表性的高斯混合模型，我们推导出最坏组误差的非渐近推广界，从而揭示了不同超参数的作用。具体来说，我们证明了，当适当调整时，最近提出的VS-损失学习模型，即使在虚假特征很强的情况下，也对少数群体公平。另一方面，替代的算法，如加权CE和LA损失，可能会严重失败。与以前的作品相比，我们的界限适用于更一般的模型，它们是非渐近的，甚至在极端不平衡的情况下也适用。
2022-06-25 cs.LG
Identifying Spurious Correlations for Robust Text Classification
Illinois Institute of Technology（伊利诺伊理工学院）；Tulane University（杜兰大学）
文本分类器的预测通常是由虚假的相关性驱动的，例如，术语“斯皮尔伯格”与正面评论的电影相关，即使该术语本身在语义上并不传达正面的情感。在本文中，我们提出了一种方法来区分虚假和真正的相关性在文本分类。我们将其视为一个监督分类问题，使用来自治疗效果估计的特征来区分虚假的相关性与“真正的”相关性。由于这些功能的通用性和它们的小维度，我们发现，即使有限的训练样本的方法工作得很好，它是可能的运输词分类到新的领域。在四个数据集（情感分类和毒性检测）上的实验表明，使用这种方法来通知特征选择也会导致更鲁棒的分类，这是通过改善受虚假相关影响的样本的最坏情况准确性来衡量的。
2020-10-06 cs.CL cs.IR cs.LG
Understanding Rare Spurious Correlations in Neural Networks
DeepMind（深度思维）；University of California San Diego（加州大学圣地亚哥分校）；Harvard University（哈佛大学）
已知神经网络使用诸如背景信息的伪相关性来进行分类。虽然之前的工作已经研究了训练数据中广泛存在的虚假相关性，但在这项工作中，我们研究了神经网络对罕见的虚假相关性的敏感程度，这可能更难检测和纠正，并可能导致隐私泄露。我们将与固定类相关的虚假模式引入到一些训练样本中，发现网络只需要少数这样的样本就可以学习相关性。此外，这些罕见的虚假相关性也会影响准确性和隐私。我们从经验和理论上分析了罕见的虚假相关性所涉及的不同因素，并提出了相应的缓解方法。具体来说，我们观察到，$\ell_2$正则化和添加高斯噪声的输入可以减少不良影响。代码可在https://github.com/yangarbiter/rare-spurious-correlation获得。
2022-10-05 cs.LG stat.ML
CLEAR: Unlearning Spurious Style-Content Associations with Contrastive LEarning with Anti-contrastive Regularization
Duke University（杜克大学）
提出CLEAR框架，通过Pair-Switching反对比正则化在VAE潜空间中解耦内容与风格，减少虚假关联并提升分布变化下的分类与风格操控能力。
2025-07-24 cs.LG
Information-Theoretic Bias Reduction via Causal View of Spurious Correlation
Seoul National University（首尔大学）；Adobe Research（Adobe研究院）
我们提出了一种信息论偏差测量技术，通过虚假相关的因果解释，这是有效的识别特征级算法偏见，利用条件互信息。虽然已经提出并广泛研究了几种偏差测量方法，以在各种任务（如人脸识别）中实现算法公平性，但其基于准确度或logit的度量容易导致微不足道的预测分数调整，而不是基本的偏差减少。因此，我们设计了一个新的去偏置框架对算法偏见，其中包括一个偏差正则化损失所提出的信息理论偏差测量方法。此外，我们提出了一个简单而有效的无监督去偏置技术的基础上随机标签噪声，它不需要明确的监督偏置信息。提出的偏差测量和去偏的方法进行了验证，在不同的现实情况下，通过广泛的实验，多个标准的基准。
2022-01-10 cs.AI cs.CY cs.LG
Regularization via Mass Transportation
EPFL（洛桑联邦理工学院）；TU Delft（代尔夫特理工大学）
监督学习中的回归和分类方法的目标是最小化经验风险，即在经验分布下量化预测误差的某些损失函数的期望。当面对稀缺的训练数据时，通常通过向目标添加正则化项来减轻过度拟合，从而惩罚假设复杂性。在本文中，我们介绍了新的正则化技术的思想，从分布鲁棒优化，我们给新的概率解释现有的技术。具体来说，我们建议最小化最坏情况下的预期损失，其中最坏的情况是采取了球的所有（连续或离散）分布，有一个有界的运输距离（离散）的经验分布。通过明智地选择这个球的半径，我们可以保证最坏情况下的预期损失提供了测试数据损失的置信上限，从而提供了新的泛化界限。我们证明了由此产生的正则化学习问题是易处理的，可以对许多流行的损失函数进行可处理的核化。我们通过模拟和实证实验验证了我们的理论样本外保证。
2019-07-12 cs.LG math.OC stat.ML
Causally Inspired Regularization Enables Domain General Representations
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）
针对经验风险最小化无法识别领域泛化表示的因果图，提出无需虚假特征先验知识的正则化框架，在合成与真实数据上均优于现有方法。
2024-04-25 cs.LG stat.ML
An Investigation of Why Overparameterization Exacerbates Spurious Correlations
Stanford University（斯坦福大学）
我们研究了为什么过度参数化-增加模型大小远远超过零训练误差点-可以伤害少数群体的测试误差，尽管提高了平均测试误差时，有虚假的相关性的数据。通过对两个图像数据集的模拟和实验，我们确定了驱动这种行为的训练数据的两个关键属性：多数与少数群体的比例，以及虚假相关性的信噪比。然后，我们分析了一个线性设置，并从理论上展示了如何对“记忆”更少的例子模型的归纳偏见可能会导致overparameterization伤害。我们的分析导致了一种违反直觉的方法，即对多数群体进行二次抽样，这种方法在过度参数化的制度中根据经验实现了较低的少数群体误差，即使增加少数群体权重的标准方法失败了。总的来说，我们的研究结果表明，使用过参数化模型与使用所有训练数据以实现低最差组误差之间存在紧张关系。
2020-08-26 cs.CV cs.LG stat.ML
Quantifying Structure in CLIP Embeddings: A Statistical Framework for Concept Interpretation
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对现有基于概念的CLIP嵌入解释方法缺乏统计严谨性的问题，提出量化嵌入空间旋转敏感结构的假设检验框架与事后概念分解方法，兼具理论保证与更优重构效果，可缓解数据虚假线索，提升最差组准确率。
2025-06-16 cs.AI cs.LG
Worst-Group Equalized Odds Regularization for Multi-Attribute Fair Medical Image Classification
Australian Institute for Machine Learning, Adelaide University（澳大利亚机器学习研究所，阿德莱德大学）；GlaxoSmithKline (GSK)（葛兰素史克（GSK））
本文提出了一种最差组等化几率正则化方法，用于在多个人口属性上同时评估和缓解医疗图像分类中的系统性差异，通过在推理时优化子组层面的真阳性率和假阳性率偏差，减少等化几率和等化机会的不平等，同时对AUC影响最小。
2026-05-19 cs.CV cs.LG
Enhancing Robust Fairness via Confusional Spectral Regularization
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Exeter（埃克塞特大学）；University of Liverpool（利物浦大学）
针对深度神经网络中鲁棒公平性问题，提出一种基于PAC-Bayesian框架的混淆谱正则化方法，通过约束鲁棒混淆矩阵谱范数提升最差类别鲁棒准确率，实验验证其有效性。
2025-01-22 cs.LG
Large Learning Rates Simultaneously Achieve Robustness to Spurious Correlations and Compressibility
Imperial College London（伦敦帝国学院）
本文发现大学习率能同时提升模型对虚假相关性的鲁棒性和网络可压缩性，并产生不变特征利用等理想表示属性，其机制在于对偏见冲突样本的自信错误预测。
2025-08-05 cs.AI cs.CV cs.LG
Quantifying Overfitting along the Regularization Path for Two-Part-Code MDL in Supervised Classification
The University of Chicago（芝加哥大学）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
本文针对二元分类中改进的双部分码MDL规则，给出了最坏情况极限误差随正则化参数λ和噪声水平变化的精确刻画，显著加强并推广了Grunwald和Langford关于λ=1时正则化不足的既有分析。
2025-03-10 cs.LG stat.ML
SAGE: Subpopulation-Aware Generative Enhancement for Mitigating Spurious Correlations
Harbin Institute of Technology（哈尔滨工业大学）；State Key Laboratory of Smart Farm Technologies and Systems（智慧农场技术与系统国家重点实验室）
SAGE是两阶段生成增强框架，通过生成合成数据缓解虚假关联，在Waterbirds等三个数据集上的最差群体准确率优于无群体标签基线，提升最多7.7个百分点。
2026-09-02 cs.CV cs.LG
Counterfactual Invariance to Spurious Correlations: Why and How to Pass Stress Tests
Google Research（谷歌研究院）；University of Chicago（芝加哥大学）
非正式地说，“虚假相关性”是指模型对分析师认为不重要的输入数据的某些方面的依赖。在机器学习中，这些具有“当你看到它时就知道”的特性;例如，改变句子主语的性别会改变情感预测器的输出。为了检查虚假的相关性，我们可以通过扰动输入数据的不相关部分来“压力测试”模型，看看模型预测是否会改变。在本文中，我们使用因果推理的工具来研究压力测试。我们引入反事实不变性作为要求的形式化，即改变输入的不相关部分不应该改变模型预测。我们连接反事实的不变性的领域模型的性能，并提供实用的方案学习（近似）反事实不变的预测（不访问反事实的例子）。事实证明，反事实不变性的手段和含义从根本上取决于数据的真正潜在因果结构-特别是，是标签导致特征还是特征导致标签。不同的因果结构需要不同的正则化方案来诱导反事实不变性。同样，反事实不变性意味着不同的域转移保证取决于潜在的因果结构。这一理论得到了文本分类的实证结果的支持。
2021-11-02 cs.AI cs.LG stat.ML
Mitigating Spurious Correlations in Patch-wise Tumor Classification on High-Resolution Multimodal Images
Computer Vision Group（计算机视觉组）；Friedrich Schiller University（弗里德里希·席勒大学）
针对高分辨率多模态图像基于补丁的肿瘤二分类中补丁组成与标签间的虚假相关性问题，本研究量化偏差后应用GERNE去偏方法，使最差组准确率较ERM提升约7%，改善关键少数案例性能。
2025-11-17 cs.LG
Robustness to Spurious Correlations via Human Annotations
Stanford University（斯坦福大学）
机器学习系统的可靠性严格假设特征和标签之间的关联在训练和测试分布之间保持相似。然而，不可测量的变量，如混杂因素，打破了这一假设--在训练时特征和标签之间有用的相关性在测试时可能变得无用甚至有害。例如，高度肥胖通常预示着心脏病，但这种关系可能不适用于吸烟者，他们通常肥胖率较低，心脏病发病率较高。我们提出了一个框架，使模型鲁棒虚假的相关性，利用人类的常识知识的因果关系。具体来说，我们使用人类注释来增强每个训练样本与一个潜在的不可测量的变量（即体重不足的心脏病患者可能是一个吸烟者），减少了问题的协变量偏移问题。然后，我们引入了一个新的分布鲁棒优化目标不可测变量（UV-DRO），以控制最坏情况下的损失超过可能的测试时间的变化。从经验上讲，我们表现出5-10%的数字识别任务混淆旋转，和1.5-5%的任务分析纽约警察局警察站混淆的位置。
2020-08-13 cs.LG stat.ML
