Contrastive Learning of Coarse-Grained Force Fields
Massachusetts Institute of Technology(麻省理工学院)
粗粒度模型已被证明有助于在长时间尺度上模拟复杂系统,以提供对各种过程的分子见解。系统参数化的基本能量函数,或力场,描述系统的不同组成部分之间的相互作用的方法是非常感兴趣的,以确保模拟的准确性。我们提出了一种新的方法,潜在的对比,使有效的学习力场,可以准确地再现与全原子模拟产生的构象分布。势对比法推广了伞形采样的噪声对比估计方法,以更好地了解分子系统的复杂能量景观。当应用于色氨酸笼蛋白质,我们发现,该技术产生的力场,彻底捕获的折叠过程的热力学,尽管在粗粒度模型中只使用$α$ -碳。我们进一步表明,潜在的对比可以应用于大型数据集,这些数据集结合了许多蛋白质的构象集合,以确保粗粒度力场的可转移性。我们预计潜在的对比是一个强大的工具,用于建设通用的粗粒度力场。
2022-05-22 cond-mat.stat-mech cs.AI physics.bio-ph
Model Attribution in LLM-Generated Disinformation: A Domain Generalization Approach with Supervised Contrastive Learning
School of Computing;AI Arizona State University Tempe, AZ;Department of Computer Science Illinois Institute of Technology Chicago, IL;Department of Computer Science Emory University Atlanta, GA
针对大语言模型生成虚假信息的归因难题,本文将其转化为领域泛化问题,提出基于监督对比学习的方法以增强对提示变化的鲁棒性,经多提示方法、多模型实验验证,在未见数据集上取得了当前最优的归因性能。
2024-08-14 cs.CL
Contrastive Learning for Knowledge-Based Question Generation in Large Language Models
George Washington University(乔治华盛顿大学);Stony Brook University(石溪大学);New York University(纽约大学);Singapore University of Technology and Design(新加坡科技设计大学);Trine University(特莱恩大学)
本文针对大语言模型在知识型问题生成中的幻觉与知识缺口问题,提出融合对比学习与思维链提示的增强方法,通过多模型联合挖掘领域知识,显著提升了生成问题的质量和准确性。
2024-09-26 cs.AI cs.CL
Contrasting Deepfakes Diffusion via Contrastive Learning and Global-Local Similarities
University of Pisa(比萨大学);University of Modena and Reggio Emilia(摩德纳-雷焦艾米利亚大学);Leonardo S.p.A.(莱昂纳多公司)
本文提出专为深度伪造检测设计的新型嵌入空间CoDE,通过对比学习与全局-局部相似性进行训练,并构建含920万张扩散模型生成图像的数据集,实现了最先进的检测准确率与卓越的泛化能力。
2024-07-29 cs.AI cs.CV cs.MM
On the Properties of Feature Attribution for Supervised Contrastive Learning
University of Trieste(特里埃斯特大学);University of Groningen(格罗宁根大学);University of Amsterdam(阿姆斯特丹大学);IFAB Foundation(IFAB基金会);Delft University of Technology(代尔夫特理工大学)
本文研究了监督对比学习在图像分类中产生更高质量特征归因解释的优势,强调其在忠实性、复杂性和连续性方面的提升。
2026-04-24 cs.AI cs.LG
Whodunit? Learning to Contrast for Authorship Attribution
National University of Singapore(新加坡国立大学);AWS AI Research & Education(亚马逊云科技人工智能研究与教育部门)
作者归属是识别给定文本的作者的任务。关键是找到可以区分作者的表示。现有的方法通常使用手动设计的功能来捕获数据集的内容和样式,但这些方法依赖于数据集,并且在语料库中产生不一致的性能。在这项工作中,我们提出了\textit{learning}作者特定的表示微调预训练的通用语言表示与对比的目标(对比-X)。我们表明,反X学习表示,形成高度可分离的集群不同的作者。它在多个人类和机器作者归属基准上推进了最先进的技术,使交叉熵微调的改进高达6.8%。然而,我们发现,对某些作者来说,Contra-X以牺牲性能为代价提高了整体准确性。化解这一紧张关系将是今后工作的重要方向。据我们所知,我们是第一个将对比学习与预训练的语言模型微调结合起来的作者归属。
2022-10-10 cs.AI cs.CL cs.LG
Supervised Contrastive Learning for Few-Shot AI-Generated Image Detection and Attribution
Universidad Politécnica de Madrid (UPM)(西班牙马德里理工大学)
本文提出基于监督对比学习的两阶段框架,实现少样本AI生成图像检测与归因,准确率提升5.2个百分点,显著提高系统适应性。
2025-11-21 cs.AI cs.CV
Contrastive Attention Networks for Attribution of Early Modern Print
University of California, San Diego(加利福尼亚大学圣迭戈分校);Toyota Technological Institute at Chicago(芝加哥丰田技术学院);Carnegie Mellon University(卡内基梅隆大学)
针对近代早期英文印刷品未知印刷商识别依赖人工的问题,提出对比注意力度量学习方法结合合成数据,改进受损活字印痕匹配效果,助力历史研究拓展。
2023-06-12 cs.AI cs.CV
Contrastive Graph Representation Learning with Adversarial Cross-view Reconstruction and Information Bottleneck
School of Computer Science and Technology, Xi’an Jiaotong University(西安交通大学计算机科学与技术学院);Ministry of Education Key Laboratory for Intelligent Networks and Network Security, Xi’an Jiaotong University(西安交通大学智能网络与网络安全教育部重点实验室);School of Artificial Intelligence, Xi'an Jiaotong University(西安交通大学人工智能学院)
本文提出CGRL方法,通过自适应掩码图结构、引入信息瓶颈去除对比视图中的冗余信息,并利用对抗视图重构增强鲁棒性,从而在节点分类任务中显著超越现有最先进算法。
2024-08-01 cs.AI cs.LG
Safety Alignment of Large Language Models via Contrasting Safe and Harmful Distributions
本文提出ACD方法,通过生成安全与对抗性提示,实现大语言模型的安全对齐,提升安全性的同时保持生成能力。
2025-12-13 cs.CL
Multilingual Contrastive Decoding via Language-Agnostic Layers Skipping
Nanjing University(南京大学);EPFL(洛桑联邦理工学院)
针对DoLa在非英语任务中表现不佳的问题,提出通过跳过底层语言无关层获取有效业余logits的多语言对比解码算法,在11种语言的推理基准上优于基线,显著提升LLM思维链推理准确率。
2024-07-15 cs.CL
Adversarial Contrastive Estimation
Borealis AI;University of Toronto(多伦多大学)
正负样本对比学习是许多方法普遍采用的策略。用于词嵌入的噪声对比估计(NCE)和用于知识图谱的翻译嵌入是采用这种方法的NLP中的示例。在这项工作中,我们将对比学习视为所有此类方法的抽象,并将负采样器增加到包含逆向学习采样器的混合分布中。由此产生的自适应采样器会找到更难的负样本,这迫使主模型学习更好的数据表示。我们评估了我们关于学习词嵌入,顺序嵌入和知识图谱嵌入的建议,并观察到更快的收敛速度和多个指标的改进结果。
2018-08-02 cs.AI cs.CL cs.LG
What Triggers my Model? Contrastive Explanations Inform Gender Choices by Translation Models
Language and Translation Technology Team, Ghent University(根特大学语言与翻译技术团队)
研究通过对比翻译分析,揭示了翻译模型中性别选择的触发因素,并展示如何通过理解模型决策来减轻性别偏见。
2026-03-04 cs.CL
Better by Comparison: Retrieval-Augmented Contrastive Reasoning for Automatic Prompt Optimization
University of Science and Technology of China(中国科学技术大学)
本文提出CRPO框架,通过对比推理提升提示优化效果,利用HelpSteer2数据集中的高质量示例进行对比分析,改进提示生成的鲁棒性和可解释性。
2025-10-03 cs.AI cs.CL cs.IR
Is my model perplexed for the right reason? Contrasting LLMs' Benchmark Behavior with Token-Level Perplexity
College of Informatics, University of Amsterdam(阿姆斯特丹大学信息学学院);Department of Medical Informatics, Amsterdam University Medical Center(阿姆斯特丹大学医学中心医学信息学系);ILLC, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)
本文提出基于词级困惑度的解释框架,通过对比最小句子对的困惑度分布,揭示模型在语言相关线索上的行为机制,发现重要词不完全解释困惑度变化,表明模型依赖其他启发式方法。
2026-09-15 cs.CL
Learning Text Styles: A Study on Transfer, Attribution, and Verification
SUTD(新加坡科技设计大学);ISTD(科技设计学院)
本文围绕文本风格迁移、作者归属与作者验证三大任务,提出基于大语言模型参数高效适配、对比解耦和指令微调的方法,以提升风格操控与作者识别的效果和可解释性。
2025-07-22 cs.CL
Seeing Objects in dark with Continual Contrastive Learning
Myntra(Myntra公司)
目标检测是计算机视觉的一个基本问题,在智能相机系统中具有极其重要的意义。然而,一个真正可靠的相机系统可以实现,当且仅当底层的目标检测组件是足够强大的,在不同的成像条件(或域),例如,不同的时间,一天中,恶劣的天气条件等,在努力实现一个可靠的相机系统,在本文中,我们试图训练这样一个强大的检测器。不幸的是,为了在不同的成像条件下构建性能良好的检测器,需要从大量的角落案例中标记训练图像(通常是大量的)。由于手动获得如此大的标记数据集可能是不可行的,我们建议使用合成图像来模拟不同的训练图像域。我们提出了一种新的,对比学习方法来对齐一对真实图像和合成图像的潜在表示,使检测器对不同的域具有鲁棒性。然而,我们发现,仅仅对比嵌入可能会导致灾难性遗忘的目标检测的基本信息。因此,我们采用基于持续学习的惩罚,以减轻遗忘的问题,同时对比表示。我们展示了我们提出的方法优于广泛的替代方案,以解决极具挑战性,但研究不足的情况下,目标检测在夜间。
2022-08-20 cs.AI cs.CV cs.LG
Unsupervised Synthetic Image Attribution: Alignment and Disentanglement
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Carnegie Mellon University(卡内基梅隆大学);The University of Sydney(悉尼大学)
本文提出无监督合成图像属性识别方法,通过对比自监督学习和信息最大化损失实现概念对齐与解耦,优于监督方法。
2026-01-30 cs.AI cs.CV
OCEAN: Open-World Contrastive Authorship Identification
Institute for IT Security(信息技术安全研究所)
针对软件供应链安全中的二进制代码作者归属问题,提出基于对比学习的 OCEAN 框架,并构建 CONAN 与 SNOOPY 数据集,在开放世界高优化场景下取得 0.86 AUROC,且可检测未知作者的代码注入。
2024-12-06 cs.AI cs.CR
Attribution analysis of legal language as used by LLM
本文使用集成梯度归因技术对比分析法律LLM与通用BERT模型在法律数据集上的性能差异,发现分词器的差异化行为是导致模型表现不同的主要原因。
2025-01-28 cs.CL cs.LG
Contrasting with Symile: Simple Model-Agnostic Representation Learning for Unlimited Modalities
New York University(纽约大学)
针对成对CLIP无法捕捉多模态联合信息的问题,提出模型无关的对比学习方法Symile,通过推导总相关下界捕捉任意模态高阶信息,在多类跨模态任务上表现更优且支持模态缺失场景。
2024-11-01 cs.AI cs.CL cs.CV
Symmetric Graph Contrastive Learning against Noisy Views for Recommendation
Software College, Northeastern University(东北大学软件学院);School of Computer Science and Engineering, Northeastern University(东北大学计算机科学与工程学院)
针对图对比推荐中数据增强产生噪声视图而损害性能的问题,本文提出具有理论保证、模型无关的SGCL对称对比框架,并在三个数据集上验证其最高12.25%的相对提升。
2024-08-03 cs.AI cs.IR cs.LG
Attention-Guided Layer Selection for Contrastive Decoding in Large Language Models
Japan Advanced Institute of Science and Technology(日本先进科学技术学院)
研究大语言模型中对比解码的层选择问题,提出Attention-JSD等三种基于注意力引导的策略,实验表明这些策略在TruthfulQA上优于原始DoLa,在多答案指标上有显著提升,凸显注意力分布在解决事实性知识上的优势。
2026-07-28 cs.AI cs.CL
One-shot Style Transfer LLM log-probabilities for Authorship Attribution and Verification
Department of Computer Systems(计算机系统系);Technical University of Madrid(马德里技术大学)
本文提出利用LLM的单次风格迁移能力,通过无监督方法提升作者身份识别与验证的性能,同时优化计算成本与任务表现的平衡。
2026-09-02 cs.AI cs.CL
RoSA: A Robust Self-Aligned Framework for Node-Node Graph Contrastive Learning
Zhejiang University(浙江大学)
图对比学习近年来取得了重大进展。然而,现有的工作很少探讨非对齐节点节点对比。在本文中,我们提出了一种新的图对比学习方法命名为RoSA,重点是利用非对齐的增强视图的节点级表示学习。首先,我们利用推土机的距离来模拟将一个视图的分布转换为另一个视图的最小努力,作为我们的对比目标,这不需要视图之间的对齐。然后,我们引入对抗训练作为辅助方法,以增加采样多样性并增强模型的鲁棒性。实验结果表明,在同构图、非同构图和动态图上,RoSA的性能优于一系列图对比学习框架,验证了本文工作的有效性.据我们所知,RoSA是第一个专注于非对齐节点-节点图对比学习问题的工作。我们的代码可从以下网址获得:\href{https://github.com/ZhuYun97/RoSA}{\texttt{https://github.com/ZhuYun97/RoSA}}
2022-04-29 cs.AI cs.LG
How does Contrastive Learning Organize Images?
Zhejiang University of Technology(浙江工业大学)
研究对比学习与监督学习在聚类特性上的差异,提出RLD指标度量局部稠密性,并利用GCN分类器缓解线性分类精度下降问题,提升准确率并减少参数需求。
2023-11-17 cs.AI cs.CV cs.LG
COCO-LM: Correcting and Contrasting Text Sequences for Language Model Pretraining
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft(微软)
我们提出了一个自监督学习框架COCO-LM,它通过校正和对比损坏的文本序列来预训练语言模型。COCO-LM遵循ELECTRA风格的预训练,使用辅助语言模型来破坏文本序列,并在此基础上构造两个新的任务来预训练主模型。第一个标记级任务,纠正语言建模,是检测和纠正被辅助模型替换的标记,以便更好地捕获标记级语义。第二个序列级任务,序列对比学习,是对齐来自相同源输入的文本序列,同时确保表示空间中的一致性。在GLUE和SQuAD上的实验表明,COCO-LM不仅在精度上优于最新的预训练模型,而且还提高了预训练效率。它实现了ELECTRA的MNLI精度,其预训练GPU小时数为50%。通过与标准基础/大尺寸模型相同的预训练步骤,COCO-LM的表现比之前的最佳模型高出1+ GLUE平均分。
2021-10-27 cs.CL cs.LG
Learning Fair Representation via Distributional Contrastive Disentanglement
University of Seoul(首尔大学);Korea University(高丽大学);POSTECH(浦项科技大学)
学习公平表示对于实现公平或消除敏感信息的偏见至关重要。大多数现有的作品依赖于对抗性表示学习来向表示注入一些不变性。然而,对抗性学习方法的训练相对不稳定,这可能会损害公平性和预测性之间的平衡。我们提出了一种新的方法,通过分布式对比变分自编码器(FarconVAE)学习FAIR表示,它导致潜在空间被解开成敏感和非敏感部分。我们首先构造具有不同敏感属性但具有相同标签的观测对。然后,FarconVAE强制每个非敏感潜伏期更接近,而敏感潜伏期彼此远离,并且通过对比它们的分布远离非敏感潜伏期。通过理论分析,提出了一种基于高斯核和Student-t核的分布式对比学习的对比损失模型。此外,我们采用了一种新的交换重构损失,以进一步促进解纠缠。FarconVAE在公平性、预训练模型去偏和领域泛化任务方面表现出优异的性能,这些任务来自各种模态,包括表格、图像和文本。
2022-06-17 cs.AI cs.CY cs.LG
Active Layer-Contrastive Decoding Reduces Hallucination in Large Language Model Generation
Purdue University(普渡大学);University of California, Davis(加州大学戴维斯分校)
提出主动层对比解码(ActLCD),通过强化学习策略在生成过程中动态决定何时应用对比层,在五个基准上超越现有方法,有效缓解大语言模型的长上下文幻觉问题。
2025-09-15 cs.AI cs.CL cs.LG
Sub-Sentence Encoder: Contrastive Learning of Propositional Semantic Representations
University of Pennsylvania(宾夕法尼亚大学);University of Washington(华盛顿大学);Tencent AI Lab(腾讯AI实验室)
该研究提出子句编码器这一对比学习的上下文嵌入模型,可生成对应原子命题的细粒度语义嵌入,在支撑事实检索等任务中有效,且推理成本与空间复杂度和句子编码器相当。
2023-11-07 cs.AI cs.CL
ReCast: Attribution-Oriented Step Representation Learning for LLM-Based Agent Systems
Peking University(北京大学);Joy Future Academy(京东探索研究院);Tsinghua University(清华大学)
针对基于LLM的智能体系统故障难以追溯至早期根源步骤的问题,提出ReCast方法,通过选择相关层、构建互补特征及训练编码器学习归因导向步骤表示,在四个基准测试中取得最优Hit@1指标。
2026-10-09 cs.AI
OSCAR-Net: Object-centric Scene Graph Attention for Image Attribution
Adobe Research(Adobe研究院);University of Surrey(萨里大学)
图像讲述了强大的故事,但并不总是可信的。将图像匹配回可信来源(归因)使用户能够对他们在网上遇到的图像做出更明智的判断。我们提出了一个强大的图像哈希算法来执行这样的匹配。我们的哈希对微妙的、突出的视觉细节的操纵很敏感,这些细节可以大大改变图像所讲述的故事。然而,散列对于良性转换(质量,编解码器,大小,形状等的变化)是不变的。在网上重新发布的图片所经历的。我们的主要贡献是OSCAR-Net(Object-centric Scene Graph Attention for Image Attribution Network);这是一个强大的图像哈希模型,灵感来自于最近Transformers在视觉领域的成功。OSCAR-Net构建了一个场景图表示,它关注每个对象的视觉外观及其空间关系的细粒度变化。该网络通过原始图像和操作图像的数据集上的对比学习进行训练,从而产生用于内容指纹识别的最新图像散列,该图像散列可扩展到数百万个图像。
2021-10-20 cs.AI cs.CV cs.LG
T5-CSBoost: Adversarial Perturbation Resistant LLM Fingerprinting
研究针对AIGT检测器在多种干扰下准确性下降的问题,提出T5-CSBoost,通过引入辅助损失鼓励学习抗扰动风格表示,在多基准测试中达先进水平,对高强度对抗扰动鲁棒性增强,证明对比学习规范风格嵌入可构建更强大指纹识别系统。
2026-07-17 cs.AI cs.CL
Soft Contrastive Learning for Time Series
Yonsei University(延世大学)
SoftCLT通过引入实例级和时间级对比损失,提升时间序列表示学习的质量,适用于多种下游任务。
2026-01-14 cs.AI cs.LG stat.ML
Token-Level Diagnosis of Sycophancy in LLMs with Attribution-Guided Steering
本研究针对大语言模型的谄媚行为,提出基于集成梯度的权威份额指数进行令牌级归因诊断,构建调控向量实现推理时无重训的谄媚缓解,使最极端案例的谄媚率从96%降至25%。
2026-08-03 cs.CL
The Anatomy of an Edit: Mechanism-Guided Activation Steering for Knowledge Editing
Technical University of Munich(慕尼黑技术大学);LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
本文提出MEGA方法,通过机制引导激活控制实现知识编辑,发现注意力和FFN模块合作抑制原始事实,中后期注意力促进新目标,提升编辑性能。
2026-03-21 cs.CL
HTG-GCL: Leveraging Hierarchical Topological Granularity from Cellular Complexes for Graph Contrastive Learning
HTG-GCL通过生成多尺度拓扑视图,提升图对比学习中对不同粒度拓扑结构的适应能力,有效捕捉有意义的图表示。
2025-11-30 cs.AI cs.LG
Preventing Collapse in Contrastive Learning with Orthonormal Prototypes (CLOP)
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Wisconsin Institute of Discovery(威斯康星发现研究院)
针对对比学习中的神经坍缩问题,该研究分析大学习率对余弦对比损失的影响并推导缓解界,提出聚焦子空间分离的半监督损失CLOP,实验证明其可提升性能与稳定性。
2024-10-07 cs.AI cs.LG
CrossCLR: Cross-modal Contrastive Learning For Multi-modal Video Representations
Amazon(亚马逊);University of Freiburg(弗莱堡大学)
对比学习允许我们通过对比负样本集合中的正对来灵活地定义强大的损失。最近,该原理也被用于学习视频和文本的跨模态嵌入,但没有充分利用其潜力。特别是,之前的丢失没有考虑模态内的相似性,这会导致嵌入效率低下,因为相同的内容被映射到嵌入空间中的多个点。通过Crosslink,我们提出了一个解决这个问题的对比损失。此外,我们根据输入嵌入定义了高度相关的样本集,并将其从阴性样本中排除,以避免假阴性问题。我们表明,这些原则始终提高学习嵌入的质量。使用Crosslink学习的联合嵌入扩展了Youcook 2和LSMDC数据集上的视频-文本检索以及Youcook 2数据集上的视频描述的最新技术水平。我们还通过学习其他模态对的改进联合嵌入来证明概念的一般性。
2021-09-30 cs.AI cs.CV cs.LG
Relative Preference Optimization: Enhancing LLM Alignment through Contrasting Responses across Identical and Diverse Prompts
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Azure AI(微软Azure人工智能);Google(谷歌)
针对直接偏好优化未充分利用相似提示对比信息的问题,提出相对偏好优化,通过对比加权机制利用成对和未成对偏好数据,提升大语言模型与用户偏好对齐及适应性。
2024-05-27 cs.AI cs.CL cs.LG
Contrast-CAT: Contrasting Activations for Enhanced Interpretability in Transformer-based Text Classifiers
School of Cybersecurity, Korea University, Seoul, South Korea(网络安全学院,韩国大学,首尔,韩国)
针对Transformer文本分类器现有激活归因方法易受无关特征干扰的问题,提出Contrast-CAT方法,通过对比输入与参考激活滤除无关特征,在多数据集上显著优于现有最优方法,有效提升模型可解释性。
2025-07-27 cs.AI cs.CL cs.LG
Supervised Contrastive Learning for Pre-trained Language Model Fine-tuning
Stanford University(斯坦福大学);Facebook AI
最先进的自然语言理解分类模型遵循两个阶段:在辅助任务上预训练大语言模型,然后使用交叉熵损失在特定于任务的标记数据集上微调模型。然而,交叉熵损失有几个缺点,可能导致次优泛化和不稳定性。直觉的驱动下,良好的泛化需要捕捉一个类中的例子之间的相似性,并将它们与其他类中的例子进行对比,我们提出了一个监督对比学习(SCL)的微调阶段的目标。结合交叉熵,我们提出的SCL损失在少样本学习设置中在GLUE基准的多个数据集上获得了比强大的RoberTa-Large基线显著的改进,而不需要专门的架构,数据增强,存储体或额外的无监督数据。我们提出的微调目标导致模型对微调训练数据中不同级别的噪声更鲁棒,并且可以更好地推广到具有有限标记数据的相关任务。
2021-04-02 cs.CL cs.LG
Steer Model beyond Assistant: Controlling System Prompt Strength via Contrastive Decoding
University of Cambridge(剑桥大学)
通过对比解码控制系统提示强度,提升模型在复杂指令下的引导能力和准确性。
2026-01-10 cs.CL
Understanding Perturbed Parameter Ensemble Sensitivities Using A Contrastive Learning Approach
NSF National Center for Atmospheric Research(NSF国家大气研究中心);Columbia University(哥伦比亚大学);NASA Goddard Institute for Space Studies(NASA戈达德空间研究所)
本文提出可解释对比学习模型,分析CAM6扰动参数集合,以高准确率区分不同微物理方案,并归因模型与观测差异至特定变量、区域、季节和参数。
2026-09-28 cs.AI physics.ao-ph
EAGLE: Contrastive Learning for Efficient Graph Anomaly Detection
Institute of Innovation, Science and Sustainability, Federation University Australia(创新、科学与可持续性研究所,联邦大学澳大利亚);School of Software, Dalian University of Technology(软件学院,大连理工大学);Computing Center, Anshan Normal University(计算机中心,鞍山师范学院)
针对嵌入式设备上图异常检测方法效率不足的问题,本文提出基于对比学习的EAGLE模型,通过元路径实例采样、图自编码器和判别器实现高效异常评分,并在三个异质网络数据集上超过现有最优方法。
2025-05-12 cs.AI cs.LG
Code Fingerprints: Disentangled Attribution of LLM-Generated Code
School of Cyber Science and Engineering, Sichuan University, Chengdu, China(四川大学计算机科学与工程学院)
本文提出DCAN网络,通过解耦语义与风格信息,实现对LLM生成代码的多模型归因。
2026-03-04 cs.CL cs.SE
Delta2Gamma: Band-Wise Adaptive Contrastive Learning of EEG for Alzheimer's Disease Detection
Korea University(高丽大学)
Delta2Gamma是一种自监督EEG表征学习框架,通过分解EEG为5个神经节律并自适应平衡各频带,在ADFTD队列上以92.4%的准确率实现阿尔茨海默病检测,性能优于相关方法。
2026-08-19 cs.AI cs.LG
Self-supervised Contrastive Attributed Graph Clustering
Xidian University(西安电子科技大学);Westfield State University(韦斯特菲尔德州立大学);Chongqing University of Posts and Telecommunications(重庆邮电大学)
提出自监督对比属性图聚类网络SCAGC,利用不精确聚类标签设计自监督对比损失学习节点表示,并直接输出聚类标签,解决样本外问题,在四个基准数据集上优于11种方法。
2021-10-15 cs.AI cs.LG
Efficient Hierarchical Contrastive Self-supervising Learning for Time Series Classification via Importance-aware Resolution Selection
University of Texas Rio Grande Valley(德克萨斯大学里奥格兰德河谷分校)
针对长序列下分层对比自监督学习计算开销高的问题,提出重要性感知分辨率选择训练框架,在保持时间序列分类性能的同时显著缩短训练时间。
2025-02-14 cs.AI cs.LG
Blaming Across the Aisle: Political Contrasting and Blame Attribution in the Danish Parliament
Aarhus University(奥胡斯大学);Center for Humanities Computing(人文计算中心)
本研究利用BlameBERT分类器与多水平模型分析丹麦议会1997-2026年责任归因,发现其呈香蕉形轨迹,近年上升且右翼意识形态极端化加剧指责,揭示政治话语的意识形态不对称硬化。
2026-09-23 cs.CL
Multimodal Contrastive Learning and Tabular Attention for Automated Alzheimer's Disease Prediction
针对现有计算机视觉方法难以利用AD表格数据的问题,提出多模态对比学习与表格注意力框架,在ADNI的882个MR切片上实现83.8%以上准确率,较先前最优提升近10%。
2023-08-29 cs.AI cs.CV
Uncovering Capabilities of Model Pruning in Graph Contrastive Learning
State Key Laboratory of Complex & Critical Software Environment, Beihang University(北京航空航天大学复杂与关键软件环境国家重点实验室);School of Statistics and Mathematics, Central University of Finance and Economics(中央财经大学统计与数学学院)
针对图对比学习中数据增强易改变语义、领域特定增强泛化性弱的问题,提出用模型剪枝生成不同版本编码器做对比的方法,还设计局部对比损失解决难负样本问题,在图分类基准上性能超越SOTA。
2024-12-11 cs.AI cs.LG
Multi-Level Graph Contrastive Learning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);CAS Center for Excellence in Brain Science and Intelligence Technology(中国科学院脑科学与智能技术卓越创新中心)
图表示学习是近年来研究的热点,其目标是学习图中每个节点的判别式嵌入。这些表示方法大多集中在监督学习上,严重依赖于标签信息。然而,注释图在现实世界中是昂贵的,特别是在专业领域(即生物学),因为它需要注释者具有领域知识来标记图。为了解决这个问题,自监督学习为图表示学习提供了一个可行的解决方案。在本文中,我们提出了一个多层次图对比学习(MLGCL)的框架学习鲁棒表示的图形数据的对比空间视图。具体来说,我们介绍了一种新的对比视图-拓扑和特征空间视图。原始图是一阶近似结构,包含不确定性或误差,而编码特征生成的$k$ NN图保持了高阶近似性。因此,$k$ NN图编码的功能,不仅提供了一个互补的观点,但更适合GNN编码器提取鉴别表示。此外,我们开发了一个多层次的对比模式,以保持局部相似性和语义相似性的图结构数据的同时。大量的实验表明,MLGCL取得了可喜的结果相比,现有的国家的最先进的图表示学习方法在7个数据集。
2021-07-06 cs.AI cs.LG
Explaining GAND: A Resource on Gender-Ambiguous Natural Data & Contrastive Attribution
Ghent University(根特大学)
研究机器翻译中性别偏见问题,提出GAND基准资源,通过将其部分内容翻译成两种语言并扩展对比翻译,经特征归因分析揭示影响目标翻译中模糊实体性别翻译的源词。
2026-07-28 cs.CL