Contrastive Unsupervised Learning of World Model with Invariant Causal Features
Cambridge Research Laboratory（剑桥研究实验室）；Toshiba Europe Limited（东芝欧洲有限公司）；University of Cambridge（剑桥大学）
在本文中，我们提出了一个世界模型，学习因果关系的特点，使用不变性原则。特别是，我们使用对比无监督学习来学习不变的因果特征，这使得不相关部分或观察风格的增强具有不变性。基于世界模型的强化学习方法独立地优化表示学习和策略。因此，由于缺乏对表示学习模块的监督信号，天真的对比损失实现崩溃。我们提出了一个干预不变的辅助任务，以减轻这个问题。具体来说，我们利用深度预测来明确地执行不变性，并使用数据增强作为对RGB观察空间的样式干预。我们的设计利用无监督表示学习来学习具有不变因果特征的世界模型。我们提出的方法在iGibson数据集上的分布点导航任务上显着优于当前最先进的基于模型和无模型强化学习方法。此外，我们提出的模型擅长于我们的感知学习模块的仿真到现实迁移。最后，我们在DeepMind控制套件上评估了我们的方法，并且由于深度不可用，因此只能隐式地执行不变性。尽管如此，我们提出的模型与最先进的对应模型表现相当。
2022-09-29 cs.AI cs.CV cs.LG
Explaining Image Classifiers Using Contrastive Counterfactuals in Generative Latent Spaces
UC San Diego（加州大学圣地亚哥分校）；Stanford University（斯坦福大学）
尽管现代复杂图像分类器具有很高的准确性，但由于其未知的决策过程和潜在的偏见，它们不能被信任用于敏感任务。反事实解释在为这些黑箱算法提供透明度方面非常有效。然而，生成可以对分类器输出产生一致影响但又暴露可解释的特征变化的反事实是一项非常具有挑战性的任务。我们介绍了一种新的方法，使用预训练的生成模型为图像分类器生成因果关系和可解释的反事实解释，而无需任何重新训练或调节。这种技术中的生成模型不一定要在与目标分类器相同的数据上进行训练。我们使用这个框架来获得对比和因果的充分性和必要性分数作为黑盒分类器的全球性解释。在人脸属性分类的任务中，我们展示了不同的属性如何通过提供因果和对比特征属性以及相应的反事实图像来影响分类器的输出。
2022-06-10 cs.AI cs.CV
Single Domain Generalization for Alzheimer's Detection from 3D MRIs with Pseudo-Morphological Augmentations and Contrastive Learning
VPALab, Faculty of Engineering and Natural Sciences, Sabanci University（VPALab，工程与自然科学学院，萨班奇大学）
针对MRI阿尔茨海默病检测中数据多样性有限导致的泛化难题，提出利用可学习的伪形态学模块生成形状感知增强，并结合有监督对比学习提取鲁棒特征，有效提升了模型在未见域、类别不平衡及协议差异下的泛化性能。
2025-05-29 cs.CV
Resilient Contrastive Pre-training under Non-Stationary Drift
Australian Artificial Intelligence Institute (AAII)（澳大利亚人工智能研究所）；Faulty of Engineering and Information Technology（工程与信息技术学院）；University of Technology Sydney（悉尼技术大学）
本文提出RCP方法，通过因果干预缓解非平稳数据中概念漂移带来的偏倚，提升预训练的鲁棒性和泛化能力。
2025-11-22 cs.CV cs.LG
Feature Stylization and Domain-aware Contrastive Learning for Domain Generalization
Yonsei University（延世大学）
领域泛化的目的是在不访问目标域的情况下增强模型对域移位的鲁棒性。由于可用于训练的源域有限，最近的方法集中于生成新域的样本。然而，它们要么在合成丰富域时与优化问题作斗争，要么导致类语义的扭曲。为此，我们提出了一个新的领域泛化框架，利用特征统计将原始特征风格化为具有新领域属性的特征。为了在风格化过程中保留类信息，我们首先将特征分解为高频和低频分量。之后，我们用从操纵统计量中采样的新域风格对低频分量进行风格化，同时保留高频分量中的形状线索。作为最后一步，我们重新合并两个组件，合成新的域功能。为了增强域鲁棒性，我们利用风格化的特征来保持模型在特征和输出方面的一致性。我们实现了与建议的域感知监督对比损失的特征一致性，这确保了域不变性，同时增加了类的可辨别性。实验结果表明，所提出的特征风格化和领域感知的对比度损失的有效性。通过定量比较，我们验证了我们的方法在两个基准，PACS和家庭的领先地位，现有的国家的最先进的方法。
2021-08-19 cs.CV
Counterfactual contrastive learning: robust representations via causal image synthesis
Imperial College London（帝国理工学院伦敦分校）；Kheiron Medical Technologies（Kheiron医疗技术）
针对对比预训练对增强流水线敏感的问题，提出利用反事实图像生成的CF-SimCLR方法，通过近似反事实推理构建正样本对，在医学影像数据集上提升了模型对采集偏移的鲁棒性与下游任务性能。
2025-06-16 cs.AI cs.CV
Causally Guided Gaussian Perturbations for Out-Of-Distribution Generalization in Medical Imaging
Beihang University（北洋大学）
针对医学影像等领域分布外泛化难题，提出轻量框架因果引导高斯扰动（CGP），借助视觉Transformer的软因果掩码注入空间变化噪声，引导模型关注因果特征，在WILDS基准Camelyon17上优于现有最优基线。
2025-09-30 cs.CV
Achieving Domain Generalization in Underwater Object Detection by Domain Mixup and Contrastive Learning
Peking University（北京大学）；Chongqing University of Technology（重庆理工大学）；Peng Cheng Laboratory（鹏城实验室）
现有的水下目标检测方法在面对复杂的水下环境引起的区域漂移时，检测性能严重下降。由于数据集中领域数量的限制，深度检测器很容易记住少数几个已知的领域，导致泛化能力较低。提高领域泛化性能有两种常见的思路。首先，可以推断在尽可能多的域上训练的检测器是域不变的。第二，对于不同领域中语义内容相同的图像，其隐藏特征应该是等价的。本文进一步挖掘这两个想法，并提出了一个领域泛化框架（命名为DMC），学习如何从域混淆和对比学习跨领域的推广。首先，基于水下图像的形成，一幅图像在一个水下环境中是另一个水下环境的线性变换。因此，风格转移模型，它输出一个线性变换矩阵，而不是整个图像，提出了从一个源域到另一个域的图像转换，丰富的领域多样性的训练数据。其次，混合操作插值不同的域上的特征水平，采样新的域上的域流形。第三，对比损失被选择性地应用于来自不同领域的特征，以迫使模型学习领域不变特征，但保留区分能力。使用我们的方法，检测器将对域偏移具有鲁棒性。此外，一个领域泛化基准测试S-UODAC 2020的检测，以衡量我们的方法的性能。在S-UODAC 2020和两个目标识别基准（PACS和VLCS）上的综合实验表明，该方法能够学习领域不变表示，并且优于其他领域泛化方法.
2023-01-18 cs.CV
On the Generalization of Multi-modal Contrastive Learning
Peking University（北京大学）
本文建立 MMCL 与非对称矩阵分解的联系，给出其下游泛化保证，并从文本诱导正样本对角度统一解释 MMCL 与 SSCL，进而提出 CLIP 引导重采样方法提升 SSCL 的 ImageNet 性能。
2023-06-07 cs.CV
Practical Assessment of Generalization Performance Robustness for Deep Networks via Contrastive Examples
University of Pennsylvania（宾夕法尼亚大学）；Baidu Research, Baidu Inc.（百度公司百度研究院）；Tsinghua University（清华大学）；Nanyang Technological University（南洋理工大学）
具有数据变换的训练图像已被建议作为对比示例，以补充用于深度神经网络（DNN）的泛化性能评估的测试集。在这项工作中，我们提出了一个实用的框架ContRE（“contre”一词在法语中的意思是“反对”或“反对”）。使用对比示例进行DNN泛化性能估计。具体来说，ContRE遵循对比学习中的假设，即具有良好泛化性能的鲁棒DNN模型能够在不同的数据变换下从同一图像中提取一致的特征集并进行一致的预测。ContRE使用一组随机化策略对训练集进行精心设计的数据转换，在生成的对比示例上采用分类错误和Fisher比率来评估和分析深度模型的泛化性能，并与测试集进行补充。为了证明ContRE的有效性和效率，已经在三个开源基准数据集上使用各种DNN模型进行了广泛的实验，并进行了彻底的消融研究和适用性分析。我们的实验结果证实：（1）对比示例上的深度模型行为与测试集上的行为密切相关;（2）ContRE是一种鲁棒的泛化性能度量，可以在各种设置下补充测试集。
2021-06-20 cs.CV cs.LG
Generalized Semantic Segmentation by Self-Supervised Source Domain Projection and Multi-Level Contrastive Learning
Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔））；Peng Cheng Laboratory（鹏城实验室）
在源域上训练的深度网络在对不可见的目标域数据进行测试时表现出降级的性能。为了提高模型的泛化能力，现有的领域泛化方法大多通过抑制领域敏感特征来学习领域不变特征。与之不同的是，本文提出了一种基于域投影和对比学习的广义语义分割方法，该方法包括两个模块：自监督源域投影（SSDP）和多级对比学习（MLCL）。SSDP的目的是通过将数据投影到源域来减少域间隙，而MLCL是一种学习方案，用于学习投影数据上的区分性和可概括性特征。在测试过程中，我们首先通过SSDP对目标数据进行投影以减轻域偏移，然后通过基于MLCL的学习分割网络生成分割结果。在测试时，我们可以通过最小化我们提出的像素到像素的对比度损失来更新投影数据，以获得更好的结果。大量的语义分割实验表明，我们的方法在基准数据集上具有良好的泛化能力。
2023-03-03 cs.CV
GCISG: Guided Causal Invariant Learning for Improved Syn-to-real Generalization
Agency for Defense Development (ADD)（国防发展局）；Korea Advanced Institute of Science and Technology (KAIST)（韩国高等科学技术研究院）
当训练数据稀缺时，使用人工生成的数据训练深度学习模型可以是一种替代方案，但由于较大的域差距，它的泛化性能较差。在本文中，我们使用因果框架的数据生成的域差距的特点。我们假设真实数据和合成数据具有共同的内容变量，但具有不同的风格变量。因此，在合成数据集上训练的模型可能具有较差的泛化能力，因为模型学习了滋扰样式变量。为此，我们提出了因果不变性学习，鼓励模型学习一种风格不变的表示，以增强从同步到真实的泛化。此外，我们提出了一个简单而有效的特征提取方法，防止灾难性遗忘的语义知识的真正领域。总之，我们将我们的方法称为引导因果不变的Syn-to-real泛化，它有效地提高了syn-to-real泛化的性能。我们实证验证了所提出的方法的有效性，特别是，我们的方法实现了国家的最先进的视觉同步到真正的领域泛化任务，如图像分类和语义分割。
2023-02-18 cs.CV
Multi-Scale and Multi-Layer Contrastive Learning for Domain Generalization
Harokopio University of Athens（雅典哈罗科皮奥大学）
针对图像分类在未知视觉域中泛化不足的问题，提出融合多尺度多层特征并结合对比目标的域泛化框架，在四个基准上达到先进性能。
2024-05-10 cs.CV
Causality-inspired Latent Feature Augmentation for Single Domain Generalization
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；The University of British Columbia（不列颠哥伦比亚大学）
本文针对单域泛化提出因果启发的潜在特征增强方法，通过学习特征级变换元知识生成多样化隐式变换，从而捕获稳定域不变因果特征，并在多个基准上超越现有单域和多源域泛化方法。
2024-06-10 cs.CV
DomCLP: Domain-wise Contrastive Learning with Prototype Mixup for Unsupervised Domain Generalization
Sungkyunkwan University（成均馆大学）
针对现有自监督域泛化方法难提取域无关特征、特征对齐假设强的问题，提出结合逐域对比学习和原型混合学习的DomCLP方法，在多数据集不同标签比例下性能优于SOTA。
2024-12-12 cs.CV
Contrastive Domain Disentanglement for Generalizable Medical Image Segmentation
University of Electronic Science and Technology of China（电子科技大学）；Shanghai AI Lab（上海人工智能实验室）；ShanghaiTech University（上海科技大学）；Shanghai Jiao Tong University（上海交通大学）
有效地利用判别特征是卷积神经网络在医学图像分割中实现卓越性能的关键，也是跨多个领域模型泛化的重要因素，其中让模型识别多站点数据集之间的领域特定和领域不变信息是领域泛化的合理策略。不幸的是，大多数最近的解缠网络不能直接适应未知领域的数据集，因为提供的数据分布的限制。为了解决这个问题，我们提出了对比域解纠缠（CDD）网络的广义医学图像分割。我们首先引入一个解缠网络分解成一个解剖表示因子和一个模态表示因子的医学图像。然后，风格对比损失的建议，鼓励来自同一领域的情态表征分布尽可能接近，而不同的领域是彼此疏远。最后，我们提出了一个领域增强策略，可以随机生成新的领域模型泛化训练。在多位点眼底图像视杯和视盘分割数据集上的实验结果表明，CDD具有良好的模型泛化能力。我们提出的CDD优于几个国家的最先进的方法在域概括分割。
2022-05-13 cs.CV
ConDiSR: Contrastive Disentanglement and Style Regularization for Single Domain Generalization
MBZUAI（穆罕默德·本·扎耶德人工智能大学）
针对医学图像分类中数据分布偏移且分类标签缺乏密集结构信息的单域泛化难题，提出结合通道对比解耦与重建式风格正则化的ConDiSR方法，在多中心组织病理分类任务上以1%准确率优势超越现有最优水平且性能更稳定。
2024-10-31 cs.CV
Meta-Causal Feature Learning for Out-of-Distribution Generalization
Shandong University（山东大学）
因果推理已经成为处理分布外泛化问题的有力工具，其目的是提取不变特征。然而，传统的方法应用因果学习器从多个数据分裂，这可能会导致偏见的表示学习从不平衡的数据分布和困难的不变特征学习从异构源。为了解决这些问题，本文提出了一种平衡元因果学习器（BMCL），它包括一个平衡任务生成模块（BTG）和一个元因果特征学习模块（MCFL）。具体来说，BTG模块学习生成平衡的子集，通过一个自学的分区算法的样本类和上下文的比例的约束。MCFL模块训练适应不同分布的元学习者。在NICO++数据集上进行的实验验证了BMCL可以有效地识别用于分类的类不变视觉区域，并且可以作为一个通用框架来提高最先进方法的性能。
2022-08-22 cs.CV
Interventional Contrastive Learning with Meta Semantic Regularizer
Institute of Software Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Southern Marine Science and Engineering Guangdong Laboratory (Guangzhou)（南方海洋科学与工程广东省实验室（广州））；Renmin University of China（中国人民大学）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）
基于对比学习（CL）的自监督学习模型以成对的方式学习视觉表示。虽然目前流行的CL模型已经取得了很大的进步，但本文揭示了一个一直被忽视的现象：当CL模型用全图像训练时，全图像测试的性能要好于前景区域;当CL模型用前景区域训练时，全图像测试的性能要差于前景区域。这一观察结果表明，图像中的背景可能会干扰模型学习语义信息，并且它们的影响尚未完全消除。为了解决这个问题，我们建立了一个结构因果模型（SCM）的背景建模作为一个混杂因素。我们提出了一个后门调整为基础的正则化方法，即干预对比学习与Meta语义正则化（ICL-MSR），对建议的SCM进行因果干预。ICL-MSR可以被合并到任何现有的CL方法中，以减轻来自表示学习的背景干扰。理论上，我们证明了ICL-MSR实现了更严格的误差界。经验上，我们在多个基准数据集上的实验表明，ICL-MSR能够提高不同的最先进的CL方法的性能。
2022-06-29 cs.CV
SCL: Towards Domain Generalization via Single-Temporal Multimodal Contrastive Learning for Remote Sensing Change Detection
Fudan University（复旦大学）；Tencent YouTu Lab（腾讯YouTu实验室）
提出基于视觉-语言预训练模型的单时相多模态对比学习（SCL）基础模型，结合动态文本-视觉上下文优化（DTCO）和可控生成与单时相训练策略（SAIN），无需目标数据集训练即可实现遥感变化检测的跨数据集泛化。
2026-06-01 cs.CV
SelfReg: Self-supervised Contrastive Regularization for Domain Generalization
Kookmin University（国民大学）；NAVER Corp.（NAVER公司）；Korea University（高丽大学）
一般来说，深度学习的实验环境假设训练和测试数据集是从相同的分布中采样的。然而，在现实世界的情况下，两个数据集之间的分布差异，域转移，可能会发生，这成为阻碍模型泛化性能的主要因素。解决这一问题的研究领域称为领域泛化，它通过显式或隐式地提取领域不变特征来解决领域迁移问题。在最近的研究中，基于对比学习的领域泛化方法已经被提出并取得了很高的性能.这些方法需要对负数据对进行采样。然而，对比学习的性能从根本上取决于否定数据对的质量和数量。为了解决这个问题，我们提出了一种新的正则化方法领域泛化的基础上对比学习，自监督对比正则化（SelfReg）。该方法只使用正数据对，从而解决了负数据对抽样带来的各种问题。此外，我们提出了一个类特定的域扰动层（CDPL），这使得它可以有效地应用混合增强，即使只有正数据对使用。实验结果表明，SelfReg所采用的技术以兼容的方式对性能做出了贡献。在最近的基准测试中，DomainBed，所提出的方法显示出与传统的最先进的替代品相当的性能。代码可在https://github.com/dnap512/SelfReg上获得。
2021-04-20 cs.AI cs.CV
Causal Representation-Based Domain Generalization on Gaze Estimation
Gachon University（嘉泉大学）；VisualCamp（视觉营地）；Sungkyunkwan University（成均馆大学）
本文提出CauGE框架，通过对抗训练与惩罚项提取领域不变特征，并利用注意力层提升特征充分性，从而消除虚假相关影响，在视线估计领域泛化基准上达到最先进性能。
2024-08-30 cs.CV
CROCODILE: Causality aids RObustness via COntrastive DIsentangled LEarning
National Research Council（国家研究委员会）；University of Pisa（比萨大学）；The University of Edinburgh（爱丁堡大学）
提出 CROCODILE 框架，利用因果、特征解耦、对比学习和先验知识缓解 CXR 多标签肺病分类中的虚假相关，在四个数据集逾75万张图像上提升 OOD 泛化与公平性。
2024-08-09 cs.AI cs.CV cs.LG
Devil is in Channels: Contrastive Single Domain Generalization for Medical Image Segmentation
Northwestern Polytechnical University（西北工业大学）；Ningbo Institute of Northwestern Polytechnical University（西北工业大学宁波研究院）；Research and Development Institute of Northwestern Polytechnical University in Shenzhen（西北工业大学深圳研究院）
针对医学图像分割模型在新医疗中心部署时性能下降的问题，提出通道级对比单域泛化模型C²SDG，通过对比训练解耦风格与结构表示并仅基于结构进行分割，在多域视杯视盘分割基准上以较大优势优于六种竞争方法。
2023-06-24 cs.CV
Implicit Non-Causal Factors are Out via Dataset Splitting for Domain Generalization Object Detection
Chongqing University（重庆大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）；Chongqing Normal University（重庆师范大学）；Lingnan University（岭南大学）
本文提出GB-DAL方法，通过数据集分割和模拟非因果因素模块提升领域泛化目标检测的性能。
2026-01-27 cs.CV
Dual Contrastive Learning for General Face Forgery Detection
Xiamen University（厦门大学）；Tencent（腾讯）
随着各种人脸操作技术的出现，基于安全考虑的人脸伪造检测技术受到了越来越多的关注。以往的人脸伪造检测都是基于交叉熵损失的分类问题，它强调的是类别级的差异，而不是真实人脸和虚假人脸之间的本质差异，限制了模型在未知领域的推广。为了解决这个问题，我们提出了一种新的人脸伪造检测框架，命名为双对比学习（DCL），专门构造正负配对数据，并执行设计的对比学习在不同的粒度学习广义特征表示。具体而言，结合硬样本选择策略，提出了实例间对比学习（Inter-ICL）方法，通过构造实例对来促进任务相关判别特征的学习。此外，为了进一步探索本质上的差异，引入了实例内对比学习（Intra-ICL），通过在实例内构建局部区域对来关注伪造人脸中普遍存在的局部内容不一致性。在几个数据集上进行的大量实验和可视化显示了我们的方法对最先进的竞争对手的泛化能力。
2021-12-27 cs.CV
Calibration-based Dual Prototypical Contrastive Learning Approach for Domain Generalization Semantic Segmentation
Shenzhen University（深圳大学）
针对PCL中原型跨域不一致及类间原型相似导致的特征对齐难题，本文提出CDPCL，通过UPCL不确定性校准与HPCL硬加权校准双模块学习域不变特征，在域泛化语义分割上取得领先性能。
2023-09-25 cs.CV
Generalization properties of contrastive world models
Baylor College of Medicine（贝勒医学院）；Shirley Ryan AbilityLab（雪莉·瑞安能力实验室）；Northwestern University（西北大学）
本文系统测试对比式世界模型在多种OOD场景下的泛化性质，发现其因对象属性变化破坏表征分解而泛化失败，表明当前模型学习以对象为中心表征的能力有限。
2023-12-29 cs.CV cs.LG
Generalized Few-Shot Continual Learning with Contrastive Mixture of Adapters
University of Oulu（奥卢大学）；Nanyang Technological University（南洋理工大学）；ByteDance（字节跳动）；National University of Defense Technology（国防科技大学）
Few-Shot持续学习（FSCL）的目标是在有限的标记样本下增量学习新的任务，同时保持原有的能力，而目前的FSCL方法都是为了类增量的目的。而且，对FSCL解决方案的评价只是所有遇到的任务的累积性能，而没有探索领域泛化能力的工作。领域泛化是一个具有挑战性但又实用的任务，其目标是在训练领域之外进行泛化。在本文中，我们建立了一个广义的FSCL（GFSCL）协议，涉及类和领域的增量情况下，连同领域泛化评估。首先，新安排了两个基准数据集和协议，并为这种未探索的配置提供了详细的基线。我们发现，常见的持续学习方法在未知领域的泛化能力差，不能更好地应对交叉增量任务中的灾难性遗忘问题。通过这种方式，我们进一步提出了一个基于视觉Transformer（ViT）的无排练框架，称为适配器的对比混合（CMoA）。由于类增量和领域增量的优化目标不同，CMoA包含两个部分：（1）针对类增量问题，在ViT中引入了混合适配器（MoA）模块，并设计了余弦相似度正则化和动态权重，使每个适配器学习特定的知识，集中于特定的类。(2)对于领域相关问题和领域不变的表示学习，我们通过原型校准的对比学习来减轻类内变异。代码和协议可在https://github.com/yawencui/CMoA上获得。
2023-02-12 cs.CV
Generalization Bounds for Robust Contrastive Learning: From Theory to Practice
Qualcomm AI Research（英伟达人工智能研究）
本文为对抗对比学习建立严格泛化理论，揭示良性对比损失与全局散度可提升鲁棒监督损失，并通过实验验证。
2025-10-27 cs.CV cs.LG
Continual Learning: Less Forgetting, More OOD Generalization via Adaptive Contrastive Replay
University of Cambridge（剑桥大学）；Okinawa Institute of Science and Technology（冲绳科学技术大学院大学）
针对基于排练的持续学习方法存在的OOD泛化差、遗忘率高的问题，提出自适应对比重放方法ACR，通过双重优化、自适应填充错分类样本均衡表征，实现稳定性与可塑性平衡，在多个数据集上OOD泛化性能显著提升。
2024-10-09 cs.CV cs.LG
A Causal Inspired Early-Branching Structure for Domain Generalization
The University of Adelaide（阿德莱德大学）；Tencent AI Lab（腾讯AI实验室）；Alibaba DAMO Academy（阿里巴巴达摩院）
针对域泛化中语义与域特定特征纠缠问题，提出因果启发的早分支结构及随机域采样策略，增强因果特征识别，提升模型在未知域上的泛化性能。
2024-03-13 cs.CV
Towards the Generalization of Contrastive Self-Supervised Learning
Qing Yuan Research Institute, Shanghai Jiao Tong University（上海交通大学清源研究院）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；School of Mathematical Sciences, Peking University（北京大学数学科学学院）
最近，自监督学习引起了极大的关注，因为它只需要未标记的数据进行模型训练。对比学习是自监督学习的一种流行方法，并且已经取得了很好的实验效果。然而，对其泛化能力的理论认识仍然有限。为此，我们定义了一种$(σ,δ)$ -措施数学量化的数据增强，然后提供了一个上限的下游分类出错率的基础上的措施。结果表明，对比自监督学习的泛化能力与正样本的对齐、类中心的发散和扩充数据的集中度等三个关键因素有关。前两个因素是学习表示的属性，而第三个因素由预定义的数据增强确定。我们进一步研究了两个典型的对比损失，InfoNCE和互相关，以展示它们如何可证明地实现前两个因素。此外，我们进行实验来研究第三个因素，并观察到下游性能和增强数据的浓度之间的强相关性。
2023-03-02 cs.AI cs.CV cs.LG
FixCLR: Negative-Class Contrastive Learning for Semi-Supervised Domain Generalization
University of California, Davis（加州大学戴维斯分校）
针对半监督领域泛化中标签稀缺导致泛化性能不佳的问题，提出FixCLR方法，通过利用伪标签类别信息和仅使用排斥项改进对比学习，显式正则化学习领域不变表示，可叠加于现有方法实现互补提升。
2025-06-25 cs.AI cs.CV
GS-EMA: Integrating Gradient Surgery Exponential Moving Average with Boundary-Aware Contrastive Learning for Enhanced Domain Generalization in Aneurysm Segmentation
University of Leeds（利兹大学）；University of Manchester（曼彻斯特大学）
本文提出GS-EMA优化结合边界感知对比学习，通过学习领域不变特征提升3DRA脑动脉瘤分割在跨机构领域偏移下的鲁棒性与准确性。
2024-02-23 cs.CV cs.LG
Causality Inspired Representation Learning for Domain Generalization
Beijing Institute of Technology（北京理工大学）；Alibaba Group（阿里巴巴集团）
领域泛化本质上是一个分布外问题，旨在将从多个源领域学习到的知识泛化到一个未知的目标领域。主流是利用统计模型来建模数据和标签之间的依赖关系，旨在学习独立于领域的表示。然而，统计模型是对现实的肤浅描述，因为它们只需要对依赖性而不是内在的因果机制进行建模。当相关性随目标分布而变化时，统计模型可能无法推广。在这方面，我们引入了一个一般的结构因果模型来形式化DG问题。具体来说，我们假设每个输入都是由因果因素（其与标签的关系在各个领域都是不变的）和非因果因素（与类别无关）的混合构成的，并且只有前者导致分类判断。我们的目标是从输入中提取因果因素，然后重建不变的因果机制。然而，理论上的想法是远离实际的DG，因为所需的因果/非因果因素是不可观察的。我们强调，理想的因果因素应满足三个基本属性：分离的非因果的，共同独立的，因果关系足以分类。在此基础上，我们提出了一个因果启发表示学习（CIRL）算法，强制表示满足上述性质，然后使用它们来模拟因果因素，从而提高泛化能力。在几个广泛使用的数据集上的实验结果验证了该方法的有效性。
2022-03-27 cs.CV cs.LG
A Shift in Perspective on Causality in Domain Generalization
CHAI Hub（CHAI中心）；The University of Edinburgh（爱丁堡大学）；University of Manchester（曼彻斯特大学）；Archimedes, Athena Research Center（阿奇米德与雅典研究所）；King's College London（伦敦国王学院）；University College London（伦敦大学学院）；National and Kapodistrian University of Athens（雅典国家与卡波迪斯蒂亚纳大学）
本文重新审视因果建模在域泛化中的泛化承诺，通过调和现有文献中的矛盾，提出更细致的因果作用理论，并提供交互式演示。
2025-08-18 cs.AI cs.CV cs.LG
Domain Generalization for Mammography Detection via Multi-style and Multi-view Contrastive Learning
Shanghai United Imaging Intelligence Co., Ltd.（上海联影智能医疗科技有限公司）；Shanghai Jiao Tong University（上海交通大学）；The University of Hong Kong（香港大学）；Yale University（耶鲁大学）；ShanghaiTech University（上海科技大学）
病灶检测是乳腺X线摄影计算机辅助诊断中的一个基本问题。深度学习技术的进步已经为这项任务取得了显着的进展，前提是训练数据很大，并且在图像风格和质量方面足够多样化。特别是，图像风格的多样性可能主要归因于供应商因素。然而，尽可能多地从供应商那里收集乳房X线照片是非常昂贵的，有时对于实验室规模的研究来说是不切实际的。因此，为了进一步增强深度学习模型对资源有限的各种供应商的泛化能力，开发了一种新的对比学习方案。具体地说，主干网首先训练与多风格和多视图的无监督自学习方案的不变特征嵌入到各种供应商的风格。之后，主干网然后被重新校准到具有特定监督学习的病变检测的下游任务。所提出的方法进行了评估与乳房X线照片从四个供应商和一个看不见的公共数据集。实验结果表明，我们的方法可以有效地提高检测性能的可见和不可见的领域，并优于许多国家的最先进的（SOTA）推广方法。
2021-11-21 cs.CV eess.IV
Contrastive Weighted Learning for Near-Infrared Gaze Estimation
通过使用深度学习，基于外观的注视估计已经非常成功。许多后续工作改进了用于注视估计的领域泛化。然而，尽管在用于凝视估计的领域泛化方面已经取得了很大进展，但最近的大多数工作都集中在跨数据集性能上-考虑照明，头部姿势和照明的不同分布。虽然改进RGB图像的不同分布中的注视估计是重要的，但是基于近红外图像的注视估计对于黑暗环境中的注视估计也是至关重要的。此外，对于回归任务，仅依赖于监督学习也存在固有的局限性。本文致力于解决这些问题，并提出了GazeCWL，一种新的框架与近红外图像使用对比学习的视线估计。这利用了用于数据增强的对抗攻击技术和专门用于回归任务的新型对比损失函数，该回归任务有效地聚类了潜在空间中不同样本的特征。在基于红外图像的视线估计中，我们的模型优于以前的领域泛化模型，比基线模型的性能提高了45.6%，同时比最先进的模型提高了8.6%，证明了我们的方法的有效性.
2022-12-08 cs.CV cs.LG
Tubelet-Contrastive Self-Supervision for Video-Efficient Generalization
University of Amsterdam（阿姆斯特丹大学）
提出 Tubelet 对比自监督方法，通过合成运动轨迹学习外观不同但局部运动一致的视频表示，在仅用 25% 预训练视频时保持性能并展现跨域泛化能力。
2023-09-28 cs.AI cs.CV
Domain Generalization for Mammographic Image Analysis with Contrastive Learning
Shanghai United Imaging Intelligence Co., Ltd.（上海联影智能医疗科技有限公司）；Shanghai Jiao Tong University（上海交通大学）；ShanghaiTech University（上海科技大学）；Southern Medical University（南方医科大学）；Guangdong Provincial People’s Hospital（广东省人民医院）
针对乳腺X线图像分析中因不同厂商扫描仪导致的数据风格多样性和收集困难问题，提出一种新颖的对比学习方法，通过多风格多视图无监督自学习预训练提升模型风格泛化能力，并在肿块检测等四项下游任务中显著超越SOTA方法。
2023-09-07 cs.CV cs.LG
Improving Generalization in MRI-Based Deep Learning Models for Total Knee Replacement Prediction
University of Tehran（德黑兰大学）
针对MRI深度学习模型在不同来源数据上泛化性差的问题，提出用实例归一化替代批归一化、数据增强和对比损失的方法，在OAI数据集上显著提升分类性能。
2025-11-04 cs.CV eess.IV
Mixstyle-Entropy: Domain Generalization with Causal Intervention and Perturbation
Xiamen University（厦门大学）；The University of Hong Kong（香港大学）
提出基于因果的框架InPer，通过训练时基于熵的因果干预优化因果变量选择，测试时利用因果扰动计算稳态分数构建原型分类器，有效提升了模型在跨域任务中的泛化能力。
2024-08-22 cs.CV cs.LG stat.ME
Supervised Momentum Contrastive Learning for Few-Shot Classification
Amazon Web Services（亚马逊云科技）；UMass Amherst（马萨诸塞大学阿默斯特分校）；UCLA（加州大学洛杉矶分校）
少样本学习的目的是从一个任务中转移信息，以使新的任务的泛化给出了一些例子。这些信息在域和类标签中都有。在这项工作中，我们调查的互补作用，这两个来源的信息相结合的实例判别对比学习和监督学习在一个单一的框架称为监督动量对比学习（SUPMOCO）。我们的方法避免了在监督学习中观察到的一个问题，即图像中与任务无关的信息被丢弃，这阻碍了它们对新任务的推广。我们表明，（自监督）对比学习和监督学习是互惠互利的，导致一个新的国家的最先进的元数据集-最近推出的基准少样本学习。我们的方法是基于一个简单的修改MOCO和规模比以前的工作相结合的监督和自监督学习。这使我们能够轻松地组合来自多个领域的数据，从而进一步改进。
2021-06-21 cs.CV cs.LG
A Generalization Theory of Cross-Modality Distillation with Contrastive Learning
The Hong Kong University of Science and Technology（香港科技大学）；Fudan University（复旦大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出跨模态对比蒸馏（CMCD）框架，结合正负对应进行对比学习，并通过收敛性分析揭示模态间距离对下游任务测试误差的影响，实验证明其在多种模态和任务上优于现有算法2-3%。
2024-05-28 cs.CV cs.LG
Towards better understanding and better generalization of few-shot classification in histology images with contrastive learning
Tencent AI Lab（腾讯人工智能实验室）；UC Los Angeles（加州大学洛杉矶分校）；Tsinghua University（清华大学）；Xiamen University（厦门大学）
在自然图像中，Few-Shot学习是一个已经建立了多年的研究课题，但很少有人关注组织学图像，这是一个具有很高临床价值的领域，因为良好标记的数据集和罕见的异常样本的收集是昂贵的。为了实现标签有效的学习和更好的泛化能力，我们建议将对比学习（CL）与潜在增强（LA）结合起来，构建一个Few-Shot系统。CL学习有用的表示而无需手动标签，而LA以无监督的方式传输基础数据集的语义变化。这两个组件充分利用了未标记的训练数据，并可以优雅地扩展到其他标签饥饿的问题。在实验中，我们发现i）CL学习的模型比监督学习更好地推广了看不见的类中的组织学图像，ii）LA带来了超过基线的一致收益。以前的自监督学习研究主要集中在类似ImageNet的图像上，这些图像只在中心呈现一个主要对象。近年来，多目标多纹理图像的研究得到了广泛的关注。组织学图像是这种研究的自然选择。我们展示了CL在这些数据的泛化方面优于监督学习，并为这一观察提供了我们的经验理解。这项工作中的发现可能有助于理解模型如何在表征学习和组织学图像分析的背景下推广。代码可用。
2022-02-18 cs.CV eess.IV
Contrastive Counterfactual Visual Explanations With Overdetermination
City Data Science Institute - City, University of London（伦敦城市大学城市数据科学研究所）
本文介绍了一种新的可解释的人工智能方法--CLEAR Image。CLEAR Image基于这样一种观点，即一个令人满意的解释应该是对比的、反事实的和可衡量的。CLEAR Image通过将图像与通过对抗学习自动生成的相应图像进行对比来解释图像的分类概率。这使得显着的分割和扰动，忠实地确定每个段的重要性。CLEAR Image已成功应用于医学成像案例研究，使用一种新的指向游戏度量，它的平均性能优于Grad-CAM和LIME等方法27%。CLEAR Image擅长识别“因果超定”的情况，即图像中有多个补丁，其中任何一个本身都足以使分类概率接近1。
2022-06-09 cs.AI cs.CV
Robust image representations with counterfactual contrastive learning
Imperial College London（伦敦帝国理工学院）；Kheiron Medical Technologies（Kheiron医疗技术公司）
针对传统对比学习的图像增强无法模拟医学成像真实域偏移的问题，提出反事实对比学习框架，利用因果图像合成生成正样本对，在多数据集上提升了采集偏移鲁棒性与下游性能，还能缩小性别子群体差异。
2025-04-10 cs.AI cs.CV
Preserving Silent Features for Domain Generalization
Tsinghua University（清华大学）
针对自监督预训练模型在领域泛化中因沉默特征被抑制而泛化不佳的问题，提出STEP方法在监督微调时保留沉默特征，显著提升了模型在分布偏移基准上的性能。
2024-01-06 cs.CV cs.LG
Encouraging Intra-Class Diversity Through a Reverse Contrastive Loss for Better Single-Source Domain Generalization
LIRIS（里昂图像与信息系统实验室）；École Centrale de Lyon（里昂中央理工学院）；Thales LAS France（法国泰雷兹激光系统公司）
传统的深度学习算法在训练数据的域之外进行测试时通常无法推广。这个问题可以通过在训练时使用来自目标域的未标记数据来缓解，但是由于一旦部署了学习模型，数据分布就会在现实应用中动态变化，因此创建对未知和不可预见的域变化具有鲁棒性的网络至关重要。在本文中，我们将重点讨论神经网络无法做到这一点的原因之一：深度网络只关注最明显的、可能是虚假的线索来进行预测，而对有用但效率略低或更复杂的模式视而不见。这种行为已经被发现，有几种方法部分解决了这个问题。为了研究它们的有效性和局限性，我们首先设计了一个公开的基于MNIST的基准测试，以精确地测量算法找到“隐藏”模式的能力。然后，我们通过我们的基准测试评估最先进的算法，并表明这个问题在很大程度上是未解决的。最后，我们提出了一个部分反向的对比损失，以鼓励类内的多样性，并找到不太强的相关模式，其效率是由我们的实验证明。
2023-02-02 cs.AI cs.CV cs.LG
Joint semi-supervised and contrastive learning enables domain generalization and multi-domain segmentation
F Hoffmann-La Roche AG（F. 霍夫曼-拉罗什公司）；Genentech Inc（基因泰克公司）；Uppsala University（乌普萨拉大学）
针对不同域图像分割的挑战，提出SegCLR框架，联合半监督与对比学习，在3个3D视网膜OCT数据集上验证其优越性能，实现域泛化与多域分割，推动相关应用边界。
2025-04-14 cs.AI cs.CV eess.IV
Causal Balancing for Domain Generalization
University of California, Santa Barbara（加州大学圣巴巴拉分校）；University of Waterloo（滑铁卢大学）；Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
虽然机器学习模型在各种现实世界的任务中迅速推进了最先进的技术，但考虑到这些模型对虚假相关性的脆弱性，域外（OOD）泛化仍然是一个具有挑战性的问题。我们提出了一个平衡的小批量抽样策略，将有偏的数据分布转换为无杂散的平衡分布，基于数据生成过程的基本因果机制的不变性。我们认为，贝叶斯最优分类器在这样的平衡分布上训练的是在足够多样化的环境空间中的最小最大最优。我们还提供了一个可识别性保证的潜在变量模型的数据生成过程中，利用足够的训练环境。在DomainBed上进行了实验，经验证明我们的方法在基准测试报告的20个基线上获得了最佳性能。
2023-02-19 cs.AI cs.CV cs.LG
