Automatically Identifying Words That Can Serve as Labels for Few-Shot Text Classification
Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心（LMU Munich））；LMU Munich（慕尼黑大学）
最近的一种用于Few-Shot文本分类的方法是将文本输入转换为包含某种形式的任务描述的完形填空题，用预先训练的语言模型处理它们，并将预测的单词映射到标签。手动定义单词和标签之间的映射需要领域专业知识和对语言模型能力的理解。为了缓解这个问题，我们设计了一种方法，自动找到这样的映射给少量的训练数据。对于许多任务，我们的方法找到的映射执行几乎手工制作的标签到单词的映射。
2020-10-26 cs.AI cs.CL cs.LG
Identifying and Disentangling Spurious Features in Pretrained Image Representations
YerevaNN（YerevaNN研究所）；Yerevan State University（埃里温国立大学）；University of Southern California（南加州大学）；Meta AI Research（Meta人工智能研究院）
本研究针对预训练表示中虚假特征纠缠导致分类性能下降的问题，提出线性自编码器分离核心、虚假及其他特征，并设计两种去除方法，显著提升最差组准确率。
2023-06-22 cs.CV cs.LG
Unpacking the Resilience of SNLI Contradiction Examples to Attacks
University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究通过通用对抗攻击揭示SNLI模型中矛盾类对攻击的鲁棒性，并利用对抗样本微调恢复性能，为识别虚假相关和提升鲁棒性提供方法。
2024-12-15 cs.CL
Identifying Semantically Difficult Samples to Improve Text Classification
IBM Research（IBM研究院）；DA-IICT（达达赛信息技术学院）
在本文中，我们研究了从给定的文本数据集中处理困难样本对下游文本分类任务的影响。我们通过在语义嵌入空间中分析困难样本，将其定义为文本分类的非明显情况;具体而言-（i）属于不同类别的语义相似样本和（ii）属于同一类别的语义不相似样本。我们提出了一个惩罚函数来衡量数据集中每个样本的整体难度得分。我们在13个标准数据集上进行了详尽的实验，以显示高达9%的一致改进，并讨论了定性结果，以显示我们的方法在识别文本分类模型的困难样本方面的有效性。
2023-02-13 cs.AI cs.CL
Identifying Spurious Correlations using Counterfactual Alignment
Stanford University（斯坦福大学）
该研究提出反事实对齐方法，用于检测量化黑盒分类器的虚假相关性，经多场景验证有效，还可用于评估鲁棒优化方法的效果。
2025-01-15 cs.AI cs.CV cs.LG
Identifying Adversarial Attacks on Text Classifiers
University of California, Irvine（加利福尼亚大学尔湾分校）；University of Oregon, Eugene（俄勒冈大学尤金分校）
针对文本分类器的对抗攻击的规模持续增长，每年都有新的攻击出现，其中许多攻击可以在标准工具包中找到，例如TextAttack和OpenAttack。作为回应，有越来越多的关于鲁棒学习的工作，这减少了对这些攻击的脆弱性，尽管有时在计算时间或准确性方面付出了很高的代价。在本文中，我们采取了另一种方法-我们试图通过分析敌对文本来了解攻击者，以确定使用了哪些方法来创建它。我们的第一个贡献是一个广泛的攻击检测和标记数据集：150万攻击实例，由12个对抗攻击生成，目标是在六个源数据集上训练的三个分类器，用于英语的情感分析和滥用检测。作为我们的第二个贡献，我们使用这个数据集来开发和基准测试一些用于攻击识别的分类器--确定给定的文本是否被恶意操纵以及被哪种攻击操纵。作为第三个贡献，我们证明了这些任务的三个类别的功能的有效性：文本属性，捕获内容和文本的呈现;语言模型属性，确定哪些令牌是更多或更少的可能性在整个输入;和目标模型属性，表示文本分类器是如何受到攻击的影响，包括内部节点激活。总的来说，这代表了对文本分类器进行对抗攻击取证的第一步。
2022-01-21 cs.CL cs.CR cs.LG
Identifying Reference Spans: Topic Modeling and Word Embeddings help IR
University of Houston（休斯顿大学）
CL-SciSumm 2016的共享任务引入了一个有趣的问题：给定一个文档D和一段引用D的文本，我们如何识别这段文本引用的D的文本跨度？共享任务提供了研究该问题的第一个带注释的数据集。我们提出了一个分析，我们继续努力，提高我们的系统的性能，这项任务。我们演示了如何主题模型和词嵌入可以用来超越以前最好的表现系统。
2017-08-09 cs.CL
DISCO: DISCovering Overfittings as Causal Rules for Text Classification Models
DISCO通过因果规则发现文本分类模型的过拟合，以100%检测率识别训练数据中的捷径，并导致模型性能下降18.8%，优于现有方法。
2024-11-07 cs.AI cs.CL cs.LG
Finding and Fixing Spurious Patterns with Explanations
CMU（卡内基梅隆大学）；Microsoft Research（微软研究院）
图像分类器经常使用虚假模式，例如“依赖于人的存在来检测网球拍”，这并不普遍。在这项工作中，我们提出了一个端到端的管道，用于识别和减轻这种模型的虚假模式，假设我们可以访问像素的对象注释。我们从识别模式开始，例如“如果我们隐藏人，模型对网球拍的预测有63%的时间会发生变化。“然后，如果一个模式是虚假的，我们通过一种新形式的数据增强来减轻它。我们证明，我们的方法确定了一组不同的虚假模式，它减轻了他们通过产生一个模型，这是更准确的分布的虚假模式是没有帮助的，更强大的分布偏移。
2022-08-17 cs.LG
Perturbation Sensitivity at Convergence: A Simple Signal for Identifying Spuriously Correlated Samples
本文提出收敛时的扰动敏感性信号，无需群体标注与早停轮次即可识别虚假相关样本，用其重新平衡训练可将Waterbirds数据集最差群体准确率从57.3%提至80.8%。
2026-08-07 cs.AI cs.LG
VISPUR: Visual Aids for Identifying and Interpreting Spurious Associations in Data-Driven Decisions
University of Pittsburgh（匹兹堡大学）
提出视觉分析系统VISPUR，通过因果分析框架和去悖论工作流，帮助用户识别、理解数据驱动决策中的虚假关联并做出负责任的因果决策。
2023-07-26 cs.AI cs.HC cs.LG
Controlling Learned Effects to Reduce Spurious Correlations in Text Classifiers
Microsoft Research（微软研究院）
本文提出一种基于因果推断的正则化算法，控制文本分类器中特征的学习效应以匹配其因果效应，从而减少虚假相关性，在毒性评论和IMDB数据集上提升少数群体及总体准确率。
2023-06-21 cs.CL cs.LG
Informativeness and Invariance: Two Perspectives on Spurious Correlations in Natural Language
Google Research（谷歌研究院）
伪相关性是对自然语言处理系统可信度的威胁，促使人们研究识别和消除伪相关性的方法。然而，解决虚假相关的问题需要更清楚地了解它们是什么以及它们如何在语言数据中出现。Gardner et al（2021）认为，语言的组成性质意味着标签和个体“输入特征”之间的\emph{all}相关性是虚假的。本文分析了这一建议的背景下，一个玩具的例子，展示了三个不同的条件，可以引起一个简单的PCFG的特征标签的相关性。将玩具示例链接到结构化因果模型表明：（1）即使标签对特征上的干预是不变的，特征-标签相关性也会出现;（2）即使标签对特征上的干预敏感，特征-标签相关性也可能不存在。由于输入特征将单独与标签相关，但在非常罕见的情况下，必须应用领域知识来识别虚假的相关性，构成真正的鲁棒性威胁。
2022-05-03 cs.CL cs.LG
UNMASK: Discovering and Causally Verifying Spurious Shortcuts in Text Classifiers
University of North Carolina, Chapel Hill（北卡罗来纳大学教堂山分校）
本文提出UNMASK自动化流程，可发现并因果验证文本分类器的虚假相关性，在MNLI、CivilComments-WILDS等数据集上提升模型性能，还可推广至奖励模型偏好数据。
2026-08-11 cs.CL cs.LG
High-Level Multi-Robot Trajectory Planning And Spurious Behavior Detection
Spanish project PID2024-159284NB-I00 funded by MCIN/AEI/10.13039/501100011033（西班牙项目PID2024-159284NB-I00，由MCIN/AEI/10.13039/501100011033资助）；ERDF A way of making Europe and by the European Union NextGenerationEU/PRTR（ERDF推动欧洲发展，以及欧洲联盟NextGenerationEU/PRTR）；DGA T45-23R and T64-23R（DGA T45-23R和T64-23R）
本文提出基于Nets-within-Nets框架的多机器人轨迹规划方法，结合Transformer模型检测异常行为，实验表明在识别执行效率低下、核心任务违规和约束适应性异常方面具有高准确率。
2026-04-22 cs.LG cs.RO
Data Curation Matters: Model Collapse and Spurious Shift Performance Prediction from Training on Uncurated Text Embeddings
本研究揭示在未整理文本嵌入上训练模型会导致模型崩溃，提出崩溃度量指标，并发现崩溃会引发虚假的准确率-线性相关性，强调嵌入表示需更细致的整理与评估。
2025-06-22 cs.LG
Causal Effect Regularization: Automated Detection and Removal of Spurious Attributes
Microsoft Research（微软研究院）
针对未知虚假属性导致分类器依赖伪相关的问题，提出通过估计属性对标签的因果效应自动识别虚假属性并加以正则化，在多类数据集上降低$Δ$Prob且保持准确率，并证明效应排序正确即可保证选择。
2023-12-08 cs.LG
Robustness to Spurious Correlations in Text Classification via Automatically Generated Counterfactuals
Illinois Institute of Technology（伊利诺伊理工学院）；Tulane University（杜兰大学）
虚假相关性威胁着统计分类器的有效性。虽然当测试数据来自与训练数据相同的分布时，模型精度可能看起来很高，但是当测试分布改变时，模型精度可能迅速降低。例如，已经表明，当人类进行微小的修改以改变示例的标签时，分类器的性能很差。提高模型可靠性和可推广性的一个解决方案是识别特征和类之间的因果关联。在本文中，我们提出了训练一个强大的文本分类器，通过增加的训练数据与自动生成的反事实数据。我们首先使用统计匹配方法确定可能的因果特征。接下来，我们生成反事实样本的原始训练数据的替代因果特征与他们的反义词，然后分配相反的标签反事实样本。最后，我们结合原始数据和反事实数据来训练一个鲁棒的分类器。对两个分类任务的实验表明，在原始数据上训练的传统分类器在人类生成的反事实样本（例如，准确度下降10%-37%）。然而，在组合数据上训练的分类器更鲁棒，并且在原始测试数据和反事实测试数据（例如，与传统分类器相比，准确率提高了12%-25%）。详细的分析表明，强大的分类器，使有意义的和值得信赖的预测，强调因果关系的功能和不强调非因果关系的功能。
2020-12-18 cs.LG
Mitigating Spurious Correlations in LLMs via Causality-Aware Post-Training
Texas A&M University（德克萨斯A&M大学）
本文提出因果感知后训练 CAPT，通过事件估计与事件干预两步分解有偏预测，在仅用100个ID样本微调3B模型时提升ID与OOD表现。
2025-06-11 cs.LG
Spurious Feature Eraser: Stabilizing Test-Time Adaptation for Vision-Language Foundation Model
Tencent（腾讯）
针对CLIP等视觉语言基础模型因决策捷径导致下游任务泛化差的问题，提出SEraser方法，通过测试时可学习提示调优擦除伪特征、利用不变因果特征，显著提升了模型下游任务表现。
2025-01-14 cs.AI cs.CV cs.LG
Salient ImageNet: How to discover spurious features in Deep Learning?
University of Maryland, College Park（马里兰大学帕克分校）
深度神经网络在现实世界中可能是不可靠的，特别是当它们大量使用{ \it spurious}特征进行预测时。聚焦于图像分类，我们将{ \it核心特征}定义为始终是对象定义的一部分的视觉特征的集合，而{ \it虚假特征}是可能与对象{ \it共同出现}但不是其一部分的特征（例如，属性“fingers”用于类“band aid”）。发现虚假特征的传统方法要么需要大量的人工注释（因此不可扩展），要么在特定模型上有用。在这项工作中，我们引入了一个{ \it一般}框架，发现一个子集的虚假和核心的视觉特征中使用的一般模型的推论和本地化他们大量的图像与最小的人类监督。我们的方法基于这个关键思想：为了识别模型预测中使用的虚假或核心\textit{neural features}，我们通过有限的人类监督（例如，每个特征使用前5个激活图像）。然后，我们表明，这些神经功能注释{ \it推广}非常好，以更多的图像{ \it没有}任何人的监督。我们使用这些神经特征的激活图作为软掩模来突出虚假或核心视觉特征。使用这种方法，我们介绍了{ \it显着Imagenet}数据集包含核心和虚假掩模的一个大的样本集Imagenet。使用这个数据集，我们发现几个流行的Imagenet模型在预测中严重依赖于各种虚假特征，这表明仅凭标准精度不足以全面评估模型性能。用于再现论文中所有实验的代码和数据集可在\url{https://…
2022-03-28 cs.CV cs.LG
ACE and Diverse Generalization via Selective Disagreement
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；AlignedAI（对齐人工智能）；CentraleSupélec（中央超导学院）；University of Oxford（牛津大学）
针对深度学习中完整虚假相关性导致的欠定泛化问题，本文提出ACE方法，通过自训练鼓励概念间自信且选择性分歧，在多个基准上优于现有方法，并支持先验编码与无监督模型选择。
2025-09-09 cs.AI cs.LG
Safety Mirage: How Spurious Correlations Undermine VLM Safety Fine-Tuning and Can Be Mitigated by Machine Unlearning
Michigan State University（密歇根州立大学）；National University of Singapore（新加坡国立大学）；Cisco Research（思科研究）
本文发现视觉语言模型（VLM）的安全微调存在“安全幻象”，即虚假相关性导致脆弱性，并提出机器遗忘作为替代方案，显著降低攻击成功率和不必要拒绝。
2026-05-30 cs.AI cs.LG
Data Augmentations for Improved (Large) Language Model Generalization
Google Research（谷歌研究院）；Columbia University（哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对文本分类器因虚假相关性导致泛化差的问题，提出基于因果结构的反事实数据增强方法，通过模拟干预和LLM表示文本条件概率，有效提升了分布外准确率。
2024-01-09 cs.CL cs.LG
Explanation-based Finetuning Makes Models More Robust to Spurious Cues
University of Pennsylvania（宾夕法尼亚大学）
本文提出让模型在预测答案外生成自由文本解释的微调方法，显著提升 GPT-3 等 LLM 对虚假线索的分布外鲁棒性，并验证其跨模型规模及自生成解释场景的有效性。
2023-06-06 cs.CL cs.LG
Exploring and Addressing Reward Confusion in Offline Preference Learning
ETH Zurich（苏黎世联邦理工学院）；UC Berkeley（加州大学伯克利分校）；University of Toronto（多伦多大学）
本文研究了离线偏好学习中虚假相关性导致的奖励混淆问题，创建了相关基准，并提出利用偏好传递性与主动学习构建全局偏好链的方法来显著减少该问题。
2024-10-15 cs.AI cs.LG
Last Layer Re-Training is Sufficient for Robustness to Spurious Correlations
New York University（纽约大学）
针对神经网络依赖虚假特征的问题，本文证明仅对模型最后一层进行重训练即可匹敌或超越现有方法，大幅降低复杂度与计算开销，并显著提升对协变量偏移的鲁棒性。
2023-06-30 cs.CV cs.LG stat.ML
An Investigation of the (In)effectiveness of Counterfactually Augmented Data
New York University（纽约大学）
虽然预训练的语言模型在自然语言理解基准测试中取得了优异的性能，但它们往往依赖于虚假的相关性，并且对分布外（OOD）数据的泛化能力很差。最近的工作探索了使用反事实增强数据（CAD）-由最小扰动示例生成的数据翻转地面真实标签-来识别在分布偏移下不变的鲁棒特征。然而，使用CAD的OOD推广的经验结果是混合的。为了解释这种差异，我们从线性高斯模型中得出见解，并展示了CAD的陷阱。具体来说，我们表明：（a）虽然CAD在识别鲁棒特征方面是有效的，但它可能会阻止模型学习未受干扰的鲁棒特征;（b）CAD可能会加剧数据中现有的虚假相关性。在两个众包的CAD数据集上，我们的研究结果表明，扰动多样性的缺乏限制了它们在OOD推广上的有效性，这就要求创新的众包程序来引出不同的扰动示例。
2022-03-16 cs.CL cs.LG
Invariant Rationalization
MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究）；CSAIL MIT（麻省理工学院计算机科学与人工智能实验室）
选择性合理化通过识别最能解释或支持预测的输入特征的一个小子集（基本原理）来提高神经网络的可解释性。一个典型的合理化标准，即最大互信息（MMI），找到的理由，最大化的预测性能的基础上，只有。然而，MMI可能是有问题的，因为它拾取输入特征和输出之间的虚假相关。相反，我们引入了一个博弈论不变的合理化标准，其中的理由受到限制，使相同的预测是最佳的不同的环境。我们从理论上和经验上表明，所提出的理论基础可以排除虚假的相关性，更好地推广到不同的测试场景，并更好地与人类的判断。我们的数据和代码是可用的。
2020-03-22 cs.AI cs.CL cs.LG
Are Domain Generalization Benchmarks with Accuracy on the Line Misspecified?
Massachusetts Institute of Technology（麻省理工学院）；Stanford University（斯坦福大学）
本文指出流行OOD基准因未包含损害泛化的虚假相关性偏移而被错误设定，导致ERM表现优异且“准确性在线性关系上”现象出现；作者推导了揭示虚假依赖的条件，审查数据集并提出设计原则。
2025-08-02 cs.AI cs.LG stat.ML
Is the MMI Criterion Necessary for Interpretability? Degenerating Non-causal Features to Plain Noise for Self-Rationalization
iWudao Tech（悟道科技）
本文提出最大化剩余差异（MRD）准则，将非因果虚假特征视为纯噪声，以替代传统 MMI 准则进行理性提取，在六个数据集上相比近期 MMI 变体将理性质量提升最高 10.4%。
2024-10-22 cs.LG
Identifying Supporting Facts for Multi-hop Question Answering with Document Graph Networks
University of Manchester（曼彻斯特大学）
阅读理解方面的最新进展已经产生了一些模型，当答案包含在一段连续的文本中时，这些模型的表现超过了人类的表现。然而，复杂的问答（QA）通常需要多跳推理-即，整合来自不同来源的支持事实，以推断正确答案。本文提出了文档图网络（DGN），一个消息传递体系结构，用于识别支持事实的图形结构表示的文本。对HotpotQA的评估表明，与在原始文本上操作的阅读理解基线相比，DGN获得了具有竞争力的结果，证实了结构化表示支持多跳推理的相关性。
2019-10-01 cs.AI cs.CL cs.IR
SAGE: Subpopulation-Aware Generative Enhancement for Mitigating Spurious Correlations
Harbin Institute of Technology（哈尔滨工业大学）；State Key Laboratory of Smart Farm Technologies and Systems（智慧农场技术与系统国家重点实验室）
SAGE是两阶段生成增强框架，通过生成合成数据缓解虚假关联，在Waterbirds等三个数据集上的最差群体准确率优于无群体标签基线，提升最多7.7个百分点。
2026-09-02 cs.CV cs.LG
MaskMedPaint: Masked Medical Image Inpainting with Diffusion Models for Mitigation of Spurious Correlations
Massachusetts Institute of Technology（麻省理工学院）
针对医疗图像分类中因伪特征导致泛化差的问题，提出MaskMedPaint方法，利用文本到图像扩散模型修复关键区域外背景以匹配目标域，有效提升了模型在有限未标记目标图像下的跨域泛化能力。
2024-11-16 cs.CV cs.LG
PRISM: Reducing Spurious Implicit Biases in Vision-Language Models with LLM-Guided Embedding Projection
Queen’s University（皇后大学）
提出 PRISM，一种无数据且与任务无关的去偏框架，通过 LLM 生成场景描述并利用对比式去偏损失学习嵌入投影，有效减少 CLIP 等 VLM 的虚假偏差，在 Waterbirds 和 CelebA 上优于现有方法。
2025-07-11 cs.CV cs.LG
Learning Debiased Classifier with Biased Committee
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
针对神经网络易受训练数据虚假相关性影响而泛化能力差的问题，提出无需虚假属性标签的去偏分类器训练方法，通过有偏分类器委员会识别加权偏置冲突数据并结合主分类器知识迁移，在五个数据集上性能优于同类无标签方法，部分超过有偏置标签的方法。
2023-05-01 cs.CV cs.LG
TexTrolls: Identifying Russian Trolls on Twitter from a Textual Perspective
Universitat Politècnica de València（瓦伦西亚理工大学）；CNRS（法国国家科学研究中心）；Université Paris 13（巴黎第十三大学）
在线新出现的可疑用户，通常被称为巨魔，是仇恨，虚假和欺骗性在线信息的主要来源之一。一些议程正在利用这些有害的用户来传播煽动性的推文，结果，观众被欺骗了。检测此类账户的挑战在于，它们隐藏了自己的身份，这使得它们在社交媒体中伪装起来，增加了仅使用其社交网络信息识别它们的难度。因此，在本文中，我们提出了一种基于文本的方法来检测在线巨魔，例如在美国2016年总统选举期间发现的巨魔。我们的方法主要是基于文本特征，利用主题信息，和分析功能，以确定帐户从他们的写作推文的方式。我们推导出的主题信息，在一个无监督的方式，我们表明，将它们与文本特征，增强了所提出的模型的性能。此外，我们发现，建议的剖析功能执行最好的比较文本功能。
2019-10-03 cs.CL cs.LG cs.SI
Simple Text Detoxification by Identifying a Linear Toxic Subspace in Language Model Embeddings
University of Virginia（弗吉尼亚大学）
大型预训练语言模型通常是在大量互联网数据上训练的，其中一些可能包含有毒或辱骂性语言。因此，语言模型编码有毒信息，这使得这些语言模型的实际使用受到限制。目前的方法旨在防止有毒特征出现生成的文本。我们假设在预训练的语言模型的潜在空间中存在低维有毒子空间，其存在表明有毒特征遵循某种潜在模式，因此是可移除的。为了构造这个有毒子空间，我们提出了一种方法来推广潜在空间中的有毒方向。我们还提供了一种方法，用于构建并行数据集，使用基于上下文的词屏蔽系统。通过我们的实验，我们表明，当有毒子空间被删除的一组句子表示，几乎没有有毒的表示仍然在结果中。我们的经验表明，使用我们的方法发现的子空间推广到多个毒性语料库，表明存在一个低维的有毒子空间。
2021-12-15 cs.CL cs.LG
Spawrious: A Benchmark for Fine Control of Spurious Correlation Biases
University College London（伦敦大学学院）
针对现有虚假相关基准数据集的不足，研究构建了含一对一、多对多虚假相关及不同难度分割的Spawrious图像分类基准，经实验验证其对现有组鲁棒性方法构成重大挑战。
2023-06-12 cs.CV cs.LG
A Discriminative Model for Identifying Readers and Assessing Text Comprehension from Eye Movements
University of Potsdam（波茨坦大学）；Weizenbaum Institute for the Networked Society（魏岑鲍姆网络化社会研究所）；Leibniz Institute for Agricultural Engineering and Bioeconomy（莱布尼茨农业工程与生物经济研究所）
我们研究了通过观察阅读者的眼动来推断阅读者的身份和估计他们的文本理解水平的问题。我们开发了一个生成模型的个人凝视模式（扫描路径），利用词汇功能的固定的话。使用这个生成模型，我们推导出一个费舍尔分数表示的眼动序列。我们研究了一个Fisher核的Fisher-SVM和几种参考方法是否能够识别读者，并根据眼动数据估计他们的文本理解水平。虽然没有一种方法能够准确地估计文本理解，但我们发现，具有Fisher核的SVM在识别读者方面表现出色。
2018-09-21 cs.LG stat.ML
Counterfactual Invariance to Spurious Correlations: Why and How to Pass Stress Tests
Google Research（谷歌研究院）；University of Chicago（芝加哥大学）
非正式地说，“虚假相关性”是指模型对分析师认为不重要的输入数据的某些方面的依赖。在机器学习中，这些具有“当你看到它时就知道”的特性;例如，改变句子主语的性别会改变情感预测器的输出。为了检查虚假的相关性，我们可以通过扰动输入数据的不相关部分来“压力测试”模型，看看模型预测是否会改变。在本文中，我们使用因果推理的工具来研究压力测试。我们引入反事实不变性作为要求的形式化，即改变输入的不相关部分不应该改变模型预测。我们连接反事实的不变性的领域模型的性能，并提供实用的方案学习（近似）反事实不变的预测（不访问反事实的例子）。事实证明，反事实不变性的手段和含义从根本上取决于数据的真正潜在因果结构-特别是，是标签导致特征还是特征导致标签。不同的因果结构需要不同的正则化方案来诱导反事实不变性。同样，反事实不变性意味着不同的域转移保证取决于潜在的因果结构。这一理论得到了文本分类的实证结果的支持。
2021-11-02 cs.AI cs.LG stat.ML
Debiasing Reward Models by Representation Learning with Guarantees
Carnegie Mellon University（卡内基梅隆大学）；Amazon（亚马逊）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德智能大学）
针对奖励模型易利用虚假相关性产生偏差的问题，提出基于表示学习的有理论保证的去偏框架，通过变分推断识别非虚假潜在变量训练奖励模型，实验验证其能有效去偏并提升鲁棒性。
2025-10-27 cs.AI cs.LG stat.ML
The Clever Hans Mirage: A Comprehensive Survey on Spurious Correlations in Machine Learning
University of Virginia（弗吉尼亚大学）；Purdue University（普渡大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Pennsylvania State University（宾夕法尼亚州立大学）；Amazon（亚马逊）；New York University（纽约大学）
该综述聚焦机器学习模型易受输入非必要特征与标签间伪相关影响、泛化鲁棒性受损的问题，梳理了前沿解决方法的细粒度分类，总结相关数据集、基准与指标，并探讨生成式AI时代的影响、进展与挑战。
2025-10-01 cs.LG
Enhancing Model Robustness and Fairness with Causality: A Regularization Approach
University of Chicago（芝加哥大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Tulane University（杜兰大学）
最近的工作引起了人们对统计机器学习模型中虚假相关性和意外偏差风险的担忧，这些风险威胁到模型的鲁棒性和公平性。在本文中，我们提出了一种简单直观的正则化方法，在模型训练过程中整合因果知识，并通过强调因果特征和不强调虚假特征来构建一个强大而公平的模型。具体来说，我们首先手动识别因果和虚假的功能与因果推理的反事实框架启发的原则。然后，我们提出了一种正则化方法来分别惩罚因果和虚假特征。通过调整每种类型特征的惩罚强度，我们建立了一个预测模型，该模型更多地依赖于因果特征，而较少依赖于非因果特征。我们进行实验，以评估模型的鲁棒性和公平性的三个数据集与多个指标。实验结果表明，新的模型建立与因果意识显着提高模型的鲁棒性方面的反事实文本和模型的公平性方面的敏感属性。
2021-10-03 cs.AI cs.LG
Density-Aware Translation of Spurious Correlations in Zero-Shot VLMs
School of Computing and Information Systems, The University of Melbourne, Victoria, Australia（计算与信息系统学院，墨尔本大学，维多利亚，澳大利亚）
提出密度感知转换（DAT）方法，利用局部几何密度项修正图像-文本相似度，以缓解CLIP等视觉语言模型在零样本分类中因虚假相关性导致的性能下降。
2026-06-01 cs.CV cs.LG
Generative Classifiers Avoid Shortcut Solutions
Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）
生成分类器通过建模所有特征避免捷径解法，提升在分布偏移下的性能。
2025-12-31 cs.AI cs.CV cs.LG
Learning to increase matching efficiency in identifying additional b-jets in the $\text{t}\bar{\text{t}}\text{b}\bar{\text{b}}$ process
A.I. Institute, Hanyang University（汉阳大学人工智能研究院）；Department of Computer Science, Hanyang University（汉阳大学计算机科学系）；Department of Physics, Hanyang University（汉阳大学物理系）
$\text{t}\bar{\text{t}}\text{H}(\text{b}\bar{\text{b}})$过程是揭示Higgs性质的一个重要途径，但它有一个来自$\text{t}\bar{\text{t}}\text{b}\bar{\text{b}}$过程的不可约背景，该过程产生一个顶夸克对和一个b夸克对。因此，理解$\text{t}\bar{\text{t}}\text{b}\bar{\text{b}}$过程对于提高搜索$\text{t}\bar{\text{t}}\text{H}(\text{b}\bar{\text{b}})$过程的灵敏度至关重要。为此，在测量$\text{t}\bar{\text{t}}\text{b}\bar{\text{b}}$过程的微分截面时，我们需要区分来自顶夸克衰变的b喷注和来自胶子分裂的附加b喷注。由于没有简单的识别规则，我们采用深度学习方法从数据中学习，以识别来自$\text{t}\bar{\text{t}}\text{b}\bar{\text{b}}$事件的额外b-jet。具体地说，通过利用$\text{t}\bar{\text{t}}\text{b}\bar{\text{b}}$事件数据的特殊结构，我们提出了几个损失函数，可以最小化，以直接增加匹配效率，识别额外的b-jet的准确性。我们使用合成数据讨论了我们的方法与另一种基于二进制分…
2021-03-16 cs.LG hep-ex
Causally Inspired Regularization Enables Domain General Representations
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）
针对经验风险最小化无法识别领域泛化表示的因果图，提出无需虚假特征先验知识的正则化框架，在合成与真实数据上均优于现有方法。
2024-04-25 cs.LG stat.ML
DeepTextMark: A Deep Learning-Driven Text Watermarking Approach for Identifying Large Language Model Generated Text
University of Nebraska Omaha（内布拉斯加大学奥马哈分校）
针对现有LLM生成文本检测分类器可靠性不足的问题，本文提出深度学习驱动的文本水印方法DeepTextMark，通过Word2Vec和句子编码插水印、transformer分类器检测，兼具多重优良属性且可作为现有生成框架的附加方案。
2024-03-11 cs.LG cs.MM
Diagnosing and Mitigating Modality Interference in Multimodal Large Language Models
Department of Computer Science, University of California-Davis, Davis, CA, United States（计算机科学系，加州大学戴维斯分校）
本文提出了一种统一的微调框架，通过结合启发式和对抗性扰动的数据增强与输出一致性正则化，有效缓解多模态大语言模型中的模态干扰问题，提升模型的鲁棒性和泛化能力。
2026-01-29 cs.AI cs.CV cs.LG
FairerCLIP: Debiasing CLIP's Zero-Shot Predictions using Functions in RKHSs
Michigan State University（密歇根州立大学）
针对CLIP等预训练视觉语言模型存在的社会偏见传播与依赖虚假特征问题，提出在RKHS中联合去偏的FairerCLIP方法，兼具灵活性、易优化、样本效率高的优势，在相关基准上实现准确率提升。
2024-05-16 cs.CV cs.LG
Identifying Models Behind Text-to-Image Leaderboards
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Northeastern University（东北大学）
研究揭示了文本到图像排行榜中通过图像嵌入空间聚类实现模型匿名性的突破，发现模型特定特征及提示对可区分性的影响，揭示了排行榜中的安全漏洞。
2026-01-14 cs.CR cs.CV cs.LG
