Molecular Graph Contrastive Learning with Line Graph
School of Statistics and Mathematics, Central University of Finance and Economics（中央财经大学统计与数学学院）；School of Journalism, Communication University of China（中国传媒大学新闻学院）
针对分子性质预测中标签稀缺及现有图对比学习视图生成方法的缺陷，提出结合线图的LEMON方法，通过图与线图对比、边属性融合补丁及局部对比损失提升分子性质预测性能。
2025-01-15 cs.LG
Multi-intent Aware Contrastive Learning for Sequential Recommendation
Shenzhen University（深圳大学）；Shenzhen Technology University（深圳技术大学）
针对现有对比学习序列推荐模型依赖单意图表示、过度简化真实场景的问题，提出多意图感知的对比学习思路，指出融入多意图信息的序列推荐模型能更准确反映真实推荐场景。
2024-09-13 cs.LG
Reproducibility Report: Contrastive Learning of Socially-aware Motion Representations
以下论文是ICCV 2021上发表的“Social NCE：对比学习of Socially-aware Motion Representations”{ \cite{liu2020snce} }的再现性报告，作为ML再现性挑战2021的一部分。原始代码由作者\footnote{\href{https://github.com/vita-epfl/social-nce}{https://github.com/vita-epfl/social-nce}}提供。我们试图验证作者声称的结果，并在PyTorch Lightning中重新实现了他们的代码。
2022-08-18 cs.CV cs.LG
InfoGCL: Information-Aware Graph Contrastive Learning
The Pennsylvania State University（宾夕法尼亚州立大学）；NEC Labs America（美国NEC实验室）
近年来，各种图对比学习模型被提出来改善图数据集上的学习任务的性能。这些模式虽然有效且普遍，但通常都经过精心定制。特别是，虽然所有最近的研究创建两个对比的观点，他们在视图增强，架构和目标有很大的不同。如何为特定的图学习任务和数据集从头开始构建图对比学习模型仍然是一个悬而未决的问题。在这项工作中，我们的目标是填补这一空白，通过研究如何图信息的转换和传输过程中的对比学习，并提出了一个信息感知图对比学习框架称为InfoGCL。该框架的关键是遵循信息瓶颈原则，在保持任务相关信息完整的同时，减少对比部分之间的互信息，从而最大限度地减少图表示学习过程中的信息损失。我们第一次表明，所有最近的图对比学习方法可以统一我们的框架。我们在节点和图分类基准数据集上实证验证了我们的理论分析，并证明我们的算法显着优于最先进的算法。
2021-10-28 cs.LG
Triangular Contrastive Learning on Molecular Graphs
Seoul National University（首尔国立大学）；AIGENDRUG Co. Ltd（AIGENDRUG有限公司）；MOGAM Institute for Biomedical Research（慕岩生物医学研究所）
最近的对比学习方法已被证明在各种任务中是有效的，学习对数据增强不变的可推广表示，从而导致最先进的性能。关于在自监督学习中使用的大型未标记数据的多面性，而大多数真实字下游任务使用单一格式的数据，可以训练单一模态以从其他模态学习不同视角的多模态框架是一个重要的挑战。在本文中，我们提出了TriCL（三角对比学习），三模态对比学习的通用框架。TriCL利用了三角区域损失，这是一种新型的模态间对比损失，通过同时对比正三元组和负三元组的面积来学习嵌入空间的角度几何。在对齐和均匀性方面对嵌入空间的系统观察表明，三角区域损失可以通过按角度区分模态来解决线塌陷问题。我们的实验结果也证明了TriCL在分子性质预测的下游任务上的优异性能，这意味着嵌入空间的优势确实有利于下游任务的性能。
2022-05-26 cs.LG
Extracting Molecular Properties from Natural Language with Multimodal Contrastive Learning
Stanford University（斯坦福大学）
本研究通过多模态对比学习对齐分子图与文本描述，实现性质信息迁移，并引入化学有效的图增强策略，在MoleculeNet任务上较图预训练模型AUROC提升4.26%。
2023-07-22 cs.AI cs.CL cs.IR
GraphCL-DTA: a graph contrastive learning with molecular semantics for drug-target binding affinity prediction
Ningbo Artificial Intelligence Institute, Shanghai Jiao Tong University（上海交通大学宁波人工智能研究院）；Shanghai Jiao Tong University（上海交通大学）
针对现有药物-靶点结合亲和力预测模型依赖监督数据、忽略表征均匀性的问题，提出GraphCL-DTA方法，通过带分子语义的图对比学习和新损失函数优化表征质量，在KIBA、Davis数据集上性能超越现有最优模型。
2023-07-18 cs.IR cs.LG q-bio.QM
GeomGCL: Geometric Graph Contrastive Learning for Molecular Property Prediction
Baidu Research（百度研究院）
近年来，图神经网络（GNNs）在分子性质预测中的应用成为计算药物和材料发现的一项基础性工作。标记数据的缺乏是阻碍GNN成功预测分子性质的主要障碍之一。虽然图对比学习（GCL）方法在标记数据不足的情况下取得了非凡的性能，但大多数方法都集中在为一般图设计数据增强方案。然而，一个分子的基本性质可以改变与分子图上的增广方法（如随机扰动）。然而，在目前的GNN和GCL结构下，分子的关键几何信息仍然很少被探索。为此，我们提出了一种新的图对比学习方法，利用分子的几何形状在2D和3D视图，这是命名为GeomGCL。具体来说，我们首先设计了一个双视图几何消息传递网络（GeomMPNN），以自适应地利用分子的2D和3D图形的丰富信息。在不同层次上引入几何性质可以极大地促进分子表示学习。然后设计了一种新的几何图对比方案，使两个几何视图协同监督，以提高GeomMPNN的泛化能力。我们通过微调过程评估GeomGCL在各种下游属性预测任务上的表现。七个现实生活中的分子数据集上的实验结果表明，我们提出的GeomGCL对国家的最先进的基线的有效性。
2021-09-24 cs.LG
Structure-guided molecular design with contrastive 3D protein-ligand learning
Acellera Labs（Acellera实验室）
本文提出结合对比学习3D结构编码与自回归分子生成的统一框架，用于解决结构导向分子设计中的挑战，生成具有优良结合性质的候选分子。
2026-04-21 cs.LG
Knowledge-aware contrastive heterogeneous molecular graph learning
School of Computer Science, Wuhan University（武汉大学计算机学院）；School of Computing, Macquarie University（麦考瑞大学计算学院）；School of Information and Communication Technology, Griffith University（格里菲斯大学信息与通信技术学院）；Faculty of Engineering and Information Technology, University of Technology Sydney（悉尼科技大学工程与信息技术学院）
针对传统同构图分子表示学习的局限，提出知识感知对比异质分子图学习框架KCHML，通过多视角异质图与双消息传递结合对比学习融入外部知识，在分子性质预测等任务上性能优于现有最优模型。
2025-03-21 cs.AI cs.LG
Molecular Contrastive Learning of Representations via Graph Neural Networks
Carnegie Mellon University（卡内基梅隆大学）
分子机器学习（ML）为高效的分子性质预测和药物发现带来了希望。然而，标记的分子数据可能是昂贵的和耗时的获取。由于有限的标记数据，监督学习ML模型推广到巨大的化学空间是一个巨大的挑战。在这项工作中，我们提出了Molten：通过图神经网络（GNNs）进行表征的分子对比学习，这是一个利用大型未标记数据（约10M独特分子）的自监督学习框架。在molecular预训练中，我们构建分子图并开发GNN编码器来学习可微表示。提出了三种分子图增强方法：原子掩蔽、键删除和子图删除。一个对比估计最大限度地提高同一分子的协议，同时最大限度地减少不同分子的协议。实验表明，我们的对比学习框架显着提高了GNN在各种分子特性基准测试（包括分类和回归任务）上的性能。得益于在大型未标记数据库上进行的预训练，Moltron甚至在微调后在几个具有挑战性的基准测试中达到了最先进的水平。此外，进一步的研究表明，Molly学会将分子嵌入到可以区分化学上合理的分子相似性的表示中。
2022-01-17 cs.LG physics.chem-ph
RaDAR: Relation-aware Diffusion-Asymmetric Graph Contrastive Learning for Recommendation
University of Electronic Science and Technology of China（电子科技大学）；National University of Defense Technology（国防科技大学）；Tsinghua University（清华大学）
RaDAR通过结合图生成模型和关系感知去噪模型，解决图对比学习中边扰动和数据稀疏的问题，提升推荐系统在噪声和稀疏条件下的性能。
2026-03-17 cs.LG
An Augmentation-Aware Theory for Self-Supervised Contrastive Learning
Peking University（北京大学）；University of Twente（特文特大学）
首次提出自监督对比学习的增强感知误差界，揭示数据增强引发的权衡对监督风险的影响，并通过像素级和表示级实验验证了理论结果。
2025-05-28 cs.LG
Multilingual Molecular Representation Learning via Contrastive Pre-training
Microsoft Corporation（微软公司）
分子表示学习在化学信息学中起着重要的作用。最近，基于语言模型的方法作为传统的专家设计的特征来编码分子的替代方案已经得到普及。然而，这些方法仅利用单个分子语言进行表示学习。一个给定的分子可以使用不同的语言，如简化的分子线输入系统（SMILES），国际纯粹与应用化学联合会（IUPAC），和国际化学标识符（InChI）的动机，我们提出了一种多语言的分子嵌入生成方法，称为MM-Deacon（通过对比学习的多语言分子结构域嵌入分析）。MM-Deacon使用SMILES和IUPAC作为大规模分子的两种不同语言进行预训练。我们评估了我们的方法对MoleculeNet基准的七个分子性质预测任务，zero-shot跨语言检索和药物相互作用预测任务的鲁棒性。
2022-04-18 cs.CL cs.LG physics.chem-ph
Object-aware Contrastive Learning for Debiased Scene Representation
KAIST（韩国科学技术院）；Google Cloud AI（谷歌云人工智能）
对比自监督学习通过对不同的数据增强实施不变性，在从未标记图像中学习视觉表示方面表现出令人印象深刻的结果。然而，学习的表示往往在上下文上偏向于不同对象或对象与背景的虚假场景相关性，这可能会损害其在下游任务上的泛化。为了解决这个问题，我们开发了一种新的对象感知的对比学习框架，首先（a）以自我监督的方式定位对象，然后（b）通过考虑推断的对象位置的适当的数据增强来消除场景相关性。对于（a），我们提出了对比类激活图（ContraCAM），它找到了最具区别性的区域（例如，对象）与其他图像进行比较。我们进一步提高了ContraCAM检测多个对象和整个形状通过迭代细化过程。对于（b），我们引入了两种基于ContraCAM的数据增强，对象感知随机裁剪和背景混合，它们分别减少了对比自监督学习期间的上下文和背景偏差。我们的实验证明了我们的表示学习框架的有效性，特别是在多对象图像下训练或在背景（和分布）移动图像下评估时。
2021-10-26 cs.CV cs.LG
MoCL: Data-driven Molecular Fingerprint via Knowledge-aware Contrastive Learning from Molecular Graph
Michigan State University（密歇根州立大学）；Agios Pharmaceuticals（阿吉奥斯制药公司）
近年来，在生物医学领域利用图神经网络（GNN）来解决药物相关问题的增长迅速。然而，像任何其他深度架构一样，GNN是数据饥渴的。虽然在现实世界中需要标签通常是昂贵的，但以无监督的方式预训练GNN已被积极探索。其中，图对比学习，通过最大化成对图增强之间的互信息，已被证明是有效的各种下游任务。然而，目前的图对比学习框架有两个局限性。首先，增广是为一般图设计的，因此可能不适合或不够强大的某些领域。其次，对比方案只学习对局部扰动不变的表示，因此不考虑数据集的全局结构，这对下游任务也可能有用。因此，在本文中，我们研究图对比学习的背景下，生物医学领域，分子图。我们提出了一个新的框架称为MoCL，它利用领域知识在本地和全球层面，以协助表示学习。本地级别的领域知识指导增强过程，使得在不改变图语义的情况下引入变化。全局级知识编码整个数据集中图之间的相似性信息，并有助于学习具有更丰富语义的表示。整个模型是通过双对比物镜学习的。我们在线性和半监督设置下对各种分子数据集进行了MoCL评估，结果表明MoCL达到了最先进的性能。
2022-05-02 cs.LG physics.bio-ph
Contextual Discrepancy-Aware Contrastive Learning for Robust Medical Time Series Diagnosis in Small-Sample Scenarios
SANNO University（SANNO大学）
CoDAC通过上下文差异估计器和动态多视图对比框架，提升小样本场景下医学时间序列诊断的准确性和泛化能力。
2026-01-12 cs.LG
Local-Global Multimodal Contrastive Learning for Molecular Property Prediction
School of Mathematical Sciences（数学科学学院）；University of Electronic Science and Technology of China（电子科技大学）；Department of Computer Science and Engineer（计算机科学与工程系）；Oakland University（奥克兰大学）；Department of Electrical and Computer Engineering（电气与计算机工程系）；College of Management Science（管理科学学院）；Chengdu University of Technology（成都理工大学）
LGM-CL通过局部-全局多模态对比学习框架，整合分子结构和化学语义信息，提升分子性质预测的准确性与性能。
2026-01-30 cs.AI cs.LG
A Novel Graph Fraud Detector via Grouped Attribute Completion and Confidence-Aware Contrastive Learning
College of Computer and Information Science（计算机与信息科学学院）；Southwest University（西南大学）
针对图欺诈检测中现有GNN检测器受节点属性不完整和类不平衡限制的问题，提出GFD-GC框架，通过模仿邻域结构进行组内聚合补全节点特征，引入置信度感知对比学习增强欺诈表示，实验验证该框架优于现有基线。
2026-07-14 cs.LG
3D Graph Contrastive Learning for Molecular Property Prediction
自监督学习（SSL）是一种通过利用数据中固有的监督来学习数据表示的方法。这种学习方法在药物领域备受关注，由于耗时和昂贵的实验而缺乏注释数据。使用大量未标记数据的SSL在分子性质预测方面表现出优异的性能，但存在一些问题。(1)现有的SSL模型是大规模的;在计算资源不足的情况下，实现SSL存在限制。(2)在大多数情况下，他们不利用3D结构信息进行分子表征学习。药物的活性与药物分子的结构密切相关。然而，目前大多数模型不使用3D信息或部分使用它。(3)以前将对比学习应用于分子的模型使用置换原子和键的增强。因此，具有不同特征的分子可以在相同的阳性样品中。本文提出了一种新的用于分子性质预测的对比学习框架--小规模3D图对比学习（3DGCL）。3DGCL通过预训练过程反映分子的结构来学习分子表示，该过程不会改变药物的语义。仅使用1，128个样本进行预训练数据和100万个模型参数，我们在四个回归基准数据集中实现了最先进或相当的性能。大量的实验表明，基于化学知识的3D结构信息对于性质预测的分子表示学习是必不可少的。
2022-08-18 cs.LG q-bio.BM
Bi-level Contrastive Learning for Knowledge-Enhanced Molecule Representations
University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；GE HealthCare（GE医疗）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
针对GNN难以捕捉分子表示全部复杂性的问题，提出GODE方法，通过双级对比学习融合分子内在图结构与知识图谱多域生化数据，在11个化学性质任务上显著优于现有基准，分类和回归性能均超越当前领先模型。
2025-02-16 cs.AI cs.LG q-bio.QM
Fuzzy Cluster-Aware Contrastive Clustering for Time Series
Jiangsu Normal University（江苏师范大学）
针对未标记时间序列聚类，提出模糊簇感知对比聚类框架FCACC，联合优化表示学习与聚类，在三视图增强和簇感知硬负样本机制下，在40个数据集上优于八种基线方法。
2025-03-28 cs.LG
Time Series Contrastive Learning with Information-Aware Augmentations
Florida International University（佛罗里达国际大学）；NEC Labs America（NEC美国实验室）；North Carolina State University（北卡罗来纳州立大学）；The Pennsylvania State University（宾夕法尼亚州立大学）
近年来，各种对比学习方法被提出并取得了显著的实证成功。虽然有效和普遍，对比学习已较少探索时间序列数据。对比学习的一个关键组成部分是选择适当的增强施加一些先验来构造可行的正样本，使得编码器可以被训练为学习鲁棒的和有区别的表示。与图像和语言领域不同，在这些领域中，“期望的”增强样本可以用预制的人类先验知识指导的经验法则来生成，时间序列增强的特设手动选择受到其多样性和人类无法识别的时间结构的阻碍。如何找到对给定的对比学习任务和数据集有意义的时间序列数据的期望增强仍然是一个悬而未决的问题。在这项工作中，我们解决这个问题，鼓励高\textit{fidelity}和\textit{variety}基于信息论。理论分析导致选择可行的数据增强的标准。最重要的是，我们提出了一个新的对比学习方法与信息感知增强，InfoTS，自适应地选择最佳的增强时间序列表示学习。在不同数据集上的实验表明，该算法具有很强的竞争力，在预测任务上的MSE降低了12.0%，在分类任务上的准确率相对提高了3.7%.
2023-03-21 cs.LG
Improving Molecular Contrastive Learning via Faulty Negative Mitigation and Decomposed Fragment Contrast
Carnegie Mellon University（卡内基梅隆大学）
深度学习已经在计算化学中流行，并广泛应用于分子性质预测。近年来，自监督学习（SSL），特别是对比学习（CL），因其具有学习推广到巨大化学空间的分子表征的潜力而受到越来越多的关注。与监督学习不同，SSL可以直接利用大量未标记的数据，这大大减少了通过昂贵且耗时的模拟或实验来获取分子属性标签的工作。然而，大多数分子SSL方法借用了来自机器学习社区的见解，但忽视了独特的化学信息学（例如，分子指纹）和多级图形结构（例如，官能团）的分子。在这项工作中，我们提出了iMoltron：改进的分子对比学习的表示与图神经网络（GNNs）在两个方面，（1）减少错误的负面对比情况下，通过考虑分子对之间的化学信息学相似性;（2）片段水平之间的对比分子内和分子间的子结构分解。实验表明，所提出的策略显着提高GNN模型的性能，对各种具有挑战性的分子性质的预测。与之前的CL框架相比，iMoltron在7个分类基准上的ROC-AUC平均提高了1.3%，在5个回归基准上的误差平均降低了4.8%。在大多数基准测试中，由iMoltron预训练的通用GNN可以与具有复杂架构设计和工程特性的监督学习模型相媲美，甚至超过后者。进一步的研究表明，通过iMolybdenum学习的表征本质上嵌入了可以推理分子相似性的支架和官能团。
2022-02-18 cs.LG physics.chem-ph
Single-View Graph Contrastive Learning with Soft Neighborhood Awareness
Great Bay University（大湾区大学）；Shenzhen University（深圳大学）；Central South University（中南大学）
针对现有图对比学习依赖跨视图对比的诸多问题，提出带软邻域感知的单视图框架SIGNA，通过概率邻域对比和归一化Jensen-Shannon散度估计器提升性能，可采用MLP作编码器大幅加速推理。
2024-12-12 cs.LG
HiTeC: Hierarchical Contrastive Learning on Text-Attributed Hypergraph with Semantic-Aware Augmentation
The University of New South Wales（新南威尔士大学）；University of Wollongong（沃拉彭大学）
提出HiTeC框架，通过两阶段层次对比学习，结合结构感知文本编码预训练和语义感知增强，解决文本属性超图中文本与拓扑关联不足、随机增强噪声及长程依赖捕获问题。
2026-05-25 cs.AI cs.LG
Causality-Aware Contrastive Learning for Robust Multivariate Time-Series Anomaly Detection
Seoul National University（首尔大学）；Hyundai Motor Company（现代汽车公司）
本文提出因果感知对比学习方法CAROTS，通过因果保持与扰动样本构建正负对训练编码器，并引入相似性过滤的单类对比损失，在多个数据集上验证了因果关系融入可提升多元时间序列异常检测的鲁棒性。
2025-06-04 cs.AI cs.LG
Improving Molecular-Morphology Contrastive Pretraining using Deep-Learning-based Morphology Profiles
GSK（葛兰素史克）
本研究通过引入深度学习形态特征提取，改进MoCoP对比预训练方法，增强分子嵌入对细胞形态扰动的编码，提升QSAR、毒性等预测性能。
2026-09-28 cs.LG q-bio.BM
Dual Contrastive Learning: Text Classification via Label-Aware Data Augmentation
SKLSDE, School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机学院软件开发环境国家重点实验室）；Beijing Advanced Institution on Big Data and Brain Computing, Beihang University（北京航空航天大学大数据与脑机智能高精尖创新中心）；School of Electrical Engineering and Computer Science, University of Ottawa（渥太华大学电气工程与计算机科学学院）
对比学习在无监督环境下通过自我监督的表示学习中取得了显著的成功。然而，有效地使对比学习适应监督学习任务在实践中仍然是一个挑战。在这项工作中，我们引入了一个双重对比学习（DualCL）框架，同时学习输入样本的特征和分类器的参数在同一个空间。DualCL将分类器的参数看作是与不同标签相关联的增强样本，然后利用输入样本和增强样本之间的对比学习。对五个基准文本分类数据集及其低资源版本的实证研究表明，分类精度有所提高，并证实了DualCL学习判别表示的能力。
2022-01-21 cs.AI cs.CL cs.LG
TACo: Token-aware Cascade Contrastive Learning for Video-Text Alignment
Microsoft Research（微软研究院）；Carnegie Mellon University（卡内基梅隆大学）
对比学习已被广泛用于训练基于变换的视觉语言模型，用于视频-文本对齐和多模态表示学习。本文提出了一种新的算法称为令牌感知级联对比学习（TACo），提高了对比学习使用两种新的技术。第一种是标记感知的对比损失，它是通过考虑单词的句法类别来计算的。这是由以下观察所激发的：对于视频-文本对，文本中的内容词（诸如名词和动词）比功能词更可能与视频中的视觉内容对齐。其次，级联采样方法被施加到生成一个小的硬负的例子，多模态融合层的有效损失估计。为了验证TACo的有效性，在我们的实验中，我们对一组下游任务的预训练模型进行了微调，包括文本视频检索（YouCook 2，MSR-VTT和ActivityNet），视频动作步骤定位（CrossTask），视频动作分割（COIN）。结果表明，我们的模型在不同的实验设置中比以前的方法获得了一致的改进，在YouCook 2，MSR-VTT和ActivityNet三个公共文本视频检索基准上设置了新的最先进水平。
2021-08-23 cs.AI cs.CV cs.LG
Towards Adaptive Federated Graph Clustering: A Global Community-aware Contrastive Learning-based Approach
Sun Yat-sen University（中山大学）
针对联邦图聚类中预定义聚类基数不现实和社区间分离不完整的问题，提出基于全局社区感知对比学习的自适应框架AdaFGC，在八个基准数据集上优于现有基线。
2026-09-23 cs.LG
Pathology-Aware Multi-View Contrastive Learning for Patient-Independent ECG Reconstruction
Department of Computer Science and Engineering, Indian Institute of Technology Roorkee（计算机科学与工程系，印度理工学院Roorkee）；Department of Biosciences and Bioengineering, Indian Institute of Technology Roorkee（生物科学与生物工程系，印度理工学院Roorkee）
本文提出考虑病理的多视图对比学习框架，通过病理 manifold 正则化潜在空间，结合高保真时间域波形与病理感知嵌入，减少解剖噪声，实现患者无关的ECG重建。
2026-03-18 cs.AI cs.LG
CL-MFAP: A Contrastive Learning-Based Multimodal Foundation Model for Molecular Property Prediction and Antibiotic Screening
Western University（西安大略大学）；University of Toronto（多伦多大学）
本文提出 CL-MFAP，一种利用 SMILES、分子图和 Morgan 指纹三模态进行无监督对比预训练的分子基础模型，在抗生素性质预测与筛选任务上优于基线。
2025-02-16 cs.AI cs.LG q-bio.BM
RAC-DMVC: Reliability-Aware Contrastive Deep Multi-View Clustering under Multi-Source Noise
针对多源噪声（缺失噪声、观测噪声）下的多视图聚类任务，提出RAC-DMVC框架，通过可靠性图、跨视图重构、可靠性感知对比学习、双注意力补全及簇蒸馏模块提升鲁棒性，实验表明其优于SOTA方法且噪声适应性强。
2025-11-17 cs.LG
Toward a Well-Calibrated Discrimination via Survival Outcome-Aware Contrastive Learning
Chung-Ang University（中央大学）；Korea University（高丽大学）
本文提出一种生存结局感知的加权对比学习方法，在不牺牲校准性能的前提下提升生存分析模型的判别能力，并在多个临床数据集上验证了其优于现有深度生存模型的表现。
2024-11-21 cs.LG
Subject-Aware Contrastive Learning for Biosignals
Apple（苹果公司）
生物信号的数据集，如脑电图（EEG）和心电图（ECG），通常具有噪声标签，并且受试者数量有限（<100）。为了应对这些挑战，我们提出了一种基于对比学习的自监督方法，以减少对标记数据的依赖，并减少受试者。在这种标签和受试者有限的制度下，受试者间的变异性对模型性能产生负面影响。因此，我们通过（1）特定于主题的对比损失和（2）对抗性训练来引入主题感知学习，以促进自监督学习期间的主题不变性。我们还开发了一些时间序列数据增强技术，用于生物信号的对比损失。我们的方法进行了评估，公开的两个不同的生物信号与不同的任务：EEG解码和ECG异常检测的数据集。与完全监督的方法相比，使用自我监督学习的嵌入产生了有竞争力的分类结果。我们发现，主题不变性提高了这些任务的表示质量，并观察到特定于主题的损失提高了性能时，与监督标签进行微调。
2020-06-30 cs.LG eess.SP stat.ML
LocalGCL: Local-aware Contrastive Learning for Graphs
Shanghai Jiao Tong University（上海交通大学）
针对图对比学习忽视局部结构的问题，本文提出LocalGCL框架，通过掩码建模补充捕获局部图信息，实验证明其优于现有方法，可作为全面的图表示学习器。
2024-02-27 cs.AI cs.LG
Let Invariant Rationale Discovery Inspire Graph Contrastive Learning
University of Science and Technology of China（中国科学技术大学）；National University of Singapore（新加坡国立大学）
引导图对比学习（GCL）方法以两种方式执行图扩充：（1）随机破坏锚图，这可能导致语义信息的丢失，或者（2）使用领域知识来维护显著特征，这破坏了对其他领域的泛化。以不变性看GCL，我们认为，高性能的增强应该保持锚图的实例歧视的显着语义。为此，我们将GCL与不变基本原理发现相联系，提出了一个新的框架，即具有语义感知的图对比学习（RGCL）。具体地说，没有监督信号，RGCL使用的理由发生器，以揭示显着特征的图形实例歧视的理由，然后创建理性感知的意见对比学习。这种理性感知的预训练方案赋予骨干模型强大的表示能力，进一步促进下游任务的微调。在MNIST-Superpixel和MUTAG数据集上，对所发现的基本原理进行的目视检查表明，基本原理生成器成功地捕获了显著特征（即区分图形中的语义节点）。在生物化学分子和社会网络基准数据集上，RGCL的最新性能证明了对比学习的理性感知视图的有效性。我们的代码可在https://github.com/lsh0520/RGCL上获得。
2022-06-16 cs.LG
Spatial-Functional awareness Transformer-based graph archetype contrastive learning for Decoding Visual Neural Representations from EEG
Hybrid Intelligence Lab（混合智能实验室）；Durham University（杜伦大学）
提出SFTG框架，结合EEG图Transformer与图原型对比学习，在Things-EEG数据集上显著提升视觉解码性能，优于现有最先进方法。
2025-10-09 cs.AI cs.LG
Cross-Modal Contrastive Learning for the Retrieval of Immunotherapy-Associated Molecular Signatures from Histopathology
Universitat Politècnica de Catalunya - BarcelonaTech (UPC)（加泰罗尼亚理工大学）；IRB Lleida（莱里达生物医学研究所）
提出CCMIL框架，通过跨模态对比学习从H&E切片直接检索免疫治疗相关分子特征，无需基因组测序，实现可解释的检索与分类预筛选。
2026-10-06 cs.AI cs.IR cs.LG
Geometry-Aware Contrastive Learning for Few-Shot Automatic Modulation Recognition
Beijing University of Posts and Telecommunications（北京邮电大学）
提出动态一致性对比学习框架，通过虚拟对抗增强和语义一致性损失解决自监督学习中的各向同性增强、频谱不稳定和语义漂移问题，在少样本设置下提升自动调制识别准确率。
2026-05-26 cs.AI cs.LG
Hybrid-Collaborative Augmentation and Contrastive Sample Adaptive-Differential Awareness for Robust Attributed Graph Clustering
College of Information Science and Technology, Beijing University of Chemical Technology（北京化工大学信息科学与技术学院）；Beijing University of Technology（北京工业大学）；The University of Sydney Business School, The University of Sydney（悉尼大学商学院）
针对现有对比属性图聚类忽略边级增强及样本对差异的问题，提出融合混合协同增强与对比样本自适应差分感知的鲁棒聚类方法，在六个基准数据集上性能优于现有最优方法。
2025-10-03 cs.LG
Fairness-Aware Node Representation Learning
University of California, Irvine（加州大学欧文分校）
节点表示学习已经证明了它在图的各种应用中的有效性。特别是，对比学习的最新发展已经导致了一些任务的无监督节点表示学习的有希望的结果。尽管图对比学习取得了成功，随之而来的兴趣也在不断增长，但公平性在该领域的探索还很不够。为此，本研究通过自适应特征掩蔽和边缘删除，解决了图对比学习中的公平性问题，并采用公平性感知图增强设计。在这项研究中，不同的公平性概念的图，作为建议的图增强的指导方针。此外，理论分析提供了定量证明所提出的特征掩蔽方法可以减少本征偏差。真实社交网络上的实验结果表明，所提出的增强可以提高公平性的统计奇偶性和平等的机会，同时提供可比的分类精度，以国家的最先进的对比方法节点分类。
2021-06-09 cs.LG
Contrastive Learning for Diversity-Aware Product Recommendations in Retail
University of Amsterdam（阿姆斯特丹大学）；IKEA Retail (Ingka Group)（宜家零售（英格卡集团））
本文提出基于对比学习的方法，通过引入精心挑选的负样本，提升零售场景中产品推荐的多样性和覆盖范围，同时保持推荐质量。
2026-02-09 cs.IR cs.LG
Instances and Labels: Hierarchy-aware Joint Supervised Contrastive Learning for Hierarchical Multi-Label Text Classification
University of Edinburgh（爱丁堡大学）；Cardiff University（卡迪夫大学）
针对现有层次多标签文本分类（HMTC）对比学习方法易引入噪声、监督对比学习因标签结构复杂在该领域探索不足的问题，提出融合实例级与标签级对比学习的层次感知联合监督对比学习方法HJCL，在四个数据集上取得了良好效果。
2024-06-19 cs.AI cs.CL cs.LG
Structure-Aware Group Discrimination with Adaptive-View Graph Encoder: A Fast Graph Contrastive Learning Framework
Zhejiang University（浙江大学）；Rutgers University（罗格斯大学）
尽管最近取得了重大进展，但大规模图表示学习对于训练和部署来说仍然昂贵，主要原因有两个：（i）图神经网络（GNN）中多跳消息传递和非线性的重复计算;（ii）复杂的成对对比学习损失的计算成本。针对这一双重挑战，本文做出了两个主要贡献：首先，我们提出了一个自适应视图图神经编码器（AVGE），具有有限数量的消息传递来加速前向传递计算，然后，我们提出了一个结构感知的组判别（SAGD）损失在我们的框架中，避免了最常见的GCL中效率低下的成对损失计算，提高了简单组判别的性能。通过所提出的框架，我们能够在不损失下游任务性能的情况下，大幅降低各种大规模数据集的训练和推理成本（推理时间快250倍）。
2023-03-09 cs.AI cs.LG
Patient-Aware Contrastive Learning Preserves Per-Patient Structure in RR-Interval Representations
Department of Computer Science, University of Moratuwa, Sri Lanka（斯里兰卡莫拉图瓦大学计算机科学系）
提出患者感知对比学习目标，通过同患者同类样本形成正对，保留个体基线变异，在阵发性房颤检测中实现跨患者鲁棒泛化，AUROC达0.989±0.003。
2026-06-23 cs.LG
SPARC: SuperPixel-Aware Region Contrastive Learning for Self-Supervised Dense Prediction
University of Waterloo（滑铁卢大学）
SPARC提出一种基于超像素的区域级对比学习框架，通过区域对比分支与全局目标联合优化，在语义分割和检测上显著超越现有方法，提升密集预测性能。
2026-09-23 cs.CV cs.LG
UniCorn: A Unified Contrastive Learning Approach for Multi-view Molecular Representation Learning
Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）；Beijing Institute of Genomics, Chinese Academy of Sciences（中国科学院北京基因组研究所）；Peking University（北京大学）
本文从对比学习视角统一理解2D图掩码、2D-3D对比学习与3D去噪，并提出融合三类分子视图的UniCorn预训练框架，在多类任务上取得SOTA性能。
2024-05-15 cs.AI cs.LG q-bio.BM
Manifold-Aware Diffusion-Augmented Contrastive Learning for Noise-Robust Biosignal Representation
Computer Science \& Engineering Department Egypt-Japan University of Science \& Technology (E-JUST) New Borg El Arab, Alexandria, Egypt Email
本文提出面向流形的扩散增强对比学习框架，用于提升生物信号在噪声下的鲁棒性表示，实验显示其在心房颤动检测任务中达到0.9741的AUROC值。
2025-11-27 cs.AI cs.LG eess.SP
3D-Mol: A Novel Contrastive Learning Framework for Molecular Property Prediction with 3D Information
Peng Cheng Laboratory（鹏城实验室）；South China University of Technology（华南理工大学）
3D-Mol通过三层图分解和基于2000万无标签数据的对比学习预训练，更准确地利用三维空间信息进行分子性质预测，在7个基准上优于现有方法。
2024-06-28 cs.LG q-bio.BM
Breaking the Prototype Bias Loop: Confidence-Aware Federated Contrastive Learning for Highly Imbalanced Clients
Key Laboratory of Water Big Data Technology of Ministry of Water Resources, College of Computer Science and Software Engineering, Hohai University, Nanjing, China（水利部水大数据技术重点实验室，计算机科学与软件工程学院，河海大学，南京，中国）；Department of Computer Science, City University of Hong Kong, Hong Kong, China（计算机科学系，香港城市大学，香港，中国）；State Key Laboratory for Novel Software Technology, Nanjing University, Nanjing, China（新型软件技术国家重点实验室，南京大学，南京，中国）；School of Artificial Intelligence and Information Technology, Nanjing University of Chinese Medicine, Nanjing, China（人工智能与信息技术学院，南京中医药大学，南京，中国）
本研究提出CAFedCL框架，通过置信度感知聚合和生成增强等方法，解决联邦学习中因数据不平衡和异质性导致的原型偏见问题，提升模型准确性和客户端公平性。
2026-03-03 cs.DC cs.LG
QoS-Aware Graph Contrastive Learning for Web Service Recommendation
Yonsei University（延世大学）；Jeonbuk National University（全北国立大学）
针对Web服务推荐中的数据稀疏和冷启动问题，提出QAGCL模型，利用图对比学习构建包含地理位置信息的增强图以学习嵌入，有效提升了QoS感知推荐的准确性。
2024-01-06 cs.IR cs.LG cs.SE
Quantum Rationale-Aware Graph Contrastive Learning for Jet Discrimination
University of Southern California（南加州大学）；Jahangirnagar University（贾哈吉尔纳加尔大学）；American International University-Bangladesh（孟加拉国美国国际大学）；Techno International New Town（技术国际新镇）；Khalifa University（卡利法大学）
本文提出量子理性感知图对比学习框架，通过量子理性生成器提升喷注鉴别性能，在参数受限环境下实现77.5%的AUC分数。
2026-01-25 cs.LG hep-ph
