FOAL: Fine-grained Contrastive Learning for Cross-domain Aspect Sentiment Triplet Extraction
National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);ByteDance(字节跳动)
本文提出FOAL方法,通过细粒度对比学习减少跨领域差异,在六个迁移对上实现6%性能提升,缓解目标领域标注数据依赖问题。
2023-11-17 cs.CL
Towards Spoken Language Understanding via Multi-level Multi-grained Contrastive Learning
School of ECE Peking University(北京大学电子学院)
针对口语理解中意图与槽位缺乏相互指导的问题,提出多级多粒度对比学习框架MMCL,在话语、槽位和词级别应用对比学习并结合自蒸馏,在两个公开多意图数据集上取得最优结果。
2024-05-31 cs.CL
CMV-BERT: Contrastive multi-vocab pretraining of BERT
在这项工作中,我们代表CMV-BERT,它通过两个成分改进了语言模型的预训练:(a)对比学习,这在计算机视觉领域得到了很好的研究;(b)多个词汇,其中一个是细粒度的,另一个是粗粒度的。这两种方法都提供了一个原始句子的不同的观点,都被证明是有益的。下游任务表明,我们提出的CMV-BERT是有效的,在改善预训练的语言模型。
2021-05-30 cs.CL
SoftMCL: Soft Momentum Contrastive Learning for Fine-grained Sentiment-aware Pre-training
School of Information Science and Engineering, Yunnan University(云南大学信息科学与工程学院);Yuan Ze University(元智大学)
本文提出SoftMCL方法,通过效价评分软标签和动量队列扩展负样本,在词级和句级进行细粒度情感感知预训练,解决了硬标签导致潜在空间坍缩及GPU显存限制负样本数量的问题,并在多个情感任务上验证了有效性。
2024-05-03 cs.CL
Fine-grained Category Discovery under Coarse-grained supervision with Hierarchical Weighted Self-contrastive Learning
Xi’an Jiaotong University(西安交通大学);University of Massachusetts Boston(马萨诸塞大学波士顿分校);Zhejiang University(浙江大学);Lenovo Research(联想研究院)
新类别发现的目的是使在已知类别上训练的模型适应新类别。以前的工作只关注已知和新颖类别具有相同粒度的情况。在本文中,我们研究了一个新的实际场景称为细粒度的类别发现下粗粒度的监督(FCDC)。FCDC的目标是发现细粒度的类别,只有粗粒度的标记数据,它可以适应模型的类别不同的粒度从已知的,并减少显着的标签成本。这也是一项具有挑战性的任务,因为粗粒度类别的监督训练往往专注于类间距离(粗粒度类别之间的距离),但忽略了类内距离(细粒度子类之间的距离),这对于分离细粒度类别至关重要。针对目前大多数方法不能将知识从粗粒度层传递到细粒度层的问题,提出了一种分层加权自对比网络,通过构造一种新的加权自对比模块,并将其与监督学习分层结合.在公共数据集上的大量实验表明,我们的模型比比较方法的有效性和效率。代码和数据可在https://github.com/Lackel/Hierarchical_Weighted_SCL上获得。
2022-10-14 cs.AI cs.CL cs.LG
FALCON: Fine-grained Activation Manipulation by Contrastive Orthogonal Unalignment for Large Language Model
School of Computer Science and Informatics, University of Liverpool, UK(计算机科学与信息学学院,利物浦大学)
针对大语言模型敏感知识遗忘中移除效果与模型效用难以平衡的问题,提出FALCON,通过信息论参数选择、对比表示分离和正交梯度投影实现细粒度激活操纵,实验证明其遗忘更有效、效用保持良好且抗知识恢复。
2025-10-21 cs.AI cs.CL
FAID: Fine-Grained AI-Generated Text Detection Using Multi-Task Auxiliary and Multi-Level Contrastive Learning
BKAI Research Center, Hanoi University of Science and Technology(河内科学技术大学BKAI研究中心);MBZUAI;INSAIT, Sofia University "St. Kliment Ohridski"(索菲亚大学"圣克莱门特·奥赫里德斯"INSAIT)
FAID通过多任务辅助和多级对比学习,实现对AI生成文本的细粒度分类与识别,提升AI辅助写作的透明度和可问责性。
2026-02-08 cs.CL
Semantic-aware Contrastive Learning for More Accurate Semantic Parsing
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
由于语义表示是表达细粒度序列级语义的详细而准确的注释,因此通常难以通过自回归方式的最大似然估计(MLE)来训练区分性语义解析器。在本文中,我们提出了一个语义感知的对比学习算法,它可以学习区分细粒度的意义表示,并考虑到整体的序列级语义。具体而言,提出了一种多层次在线抽样算法,以采样混淆和多样化的实例。设计了三个语义感知相似度函数,以准确地测量整体意义表示之间的距离。并提出了一种排序对比损失,将语义相同的实例的表示拉到一起,将否定的实例推到一边。在两个标准数据集上的实验表明,我们的方法在MLE基线上取得了显着的改进,并通过简单地将语义感知的对比学习应用于vanilla Seq2Seq模型,获得了最先进的性能。
2023-01-19 cs.CL
Learning from Fine-Grained Visual Discrepancies: Mitigating Multimodal Hallucinations via In-Context Visual Contrastive Optimization
The Hong Kong University of Science(香港科学与技术大学);OPPO AI Center(OPPO AI中心)
提出上下文视觉对比优化(IC-VCO)方法,通过共享多图像上下文中的对比图像确保数学严谨的目标,并引入视觉对比蒸馏(VCDist)和对比样本编辑策略,有效缓解多模态幻觉。
2026-05-29 cs.CL cs.CV
LegalDuet: Learning Fine-grained Representations for Legal Judgment Prediction via a Dual-View Contrastive Learning
Northeastern University, Shenyang, Liaoning, China(东北大学);Tsinghua University, Beijing, China(清华大学);Microsoft Research Asia, Beijing, China(微软亚洲研究院);Beijing Language and Culture University, Beijing, China(北京语言大学)
本文提出LegalDuet,一种通过法律案件聚类和法律决策匹配双视图对比学习机制持续预训练语言模型的方法,有效提升了法律判决预测中区分易混淆刑事指控的能力。
2025-05-01 cs.CL
Automatic Biomedical Term Clustering by Learning Fine-grained Term Representations
Tsinghua University(清华大学)
术语聚类在生物医学知识图谱构建中具有重要意义。使用术语之间的相似性嵌入有助于术语聚类。最先进的术语嵌入利用预训练的语言模型对术语进行编码,并使用知识图谱中的同义词和关系知识来指导对比学习。这些嵌入为属于同一概念的术语提供了紧密的嵌入。然而,从我们的探测实验,这些嵌入是不敏感的微小的文本差异,导致失败的生物医学术语聚类。为了缓解这个问题,我们调整预训练项嵌入的采样策略,在对比学习过程中提供动态硬阳性和阴性样本,以学习细粒度表示,从而获得更好的生物医学项聚类。我们命名我们提出的方法为CODER++,它已被应用于聚类生物医学概念在新发布的生物医学知识图谱命名为BIOS。
2022-04-01 cs.CL
Contrastive Bootstrapping for Label Refinement
Peking University(北京大学);University of Southern California(南加州大学)
针对仅有粗粒度标签和粗到细映射的细粒度文本分类问题,提出一种轻量级对比聚类自举方法,从全局与局部视角迭代精炼段落标签,并在 NYT 和 20News 上显著超越现有方法。
2023-06-07 cs.AI cs.CL
MMGeoLM: Hard Negative Contrastive Learning for Fine-Grained Geometric Understanding in Large Multimodal Models
Tsinghua University(清华大学)
针对大多模态模型在几何场景下细粒度视觉理解能力不足的问题,提出融合图像与文本难负例的对比学习框架,训练出的MMGeoLM模型在几何推理任务上性能优异,可媲美闭源模型。
2025-10-01 cs.AI cs.CL cs.CV
Fine-Grained Emotion Prediction by Modeling Emotion Definitions
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
在本文中,我们提出了一个新的框架,细粒度的情感预测的文本,通过情感定义建模。我们的方法涉及一个多任务学习框架,该框架将情绪定义作为辅助任务进行建模,同时在情绪预测的主要任务上进行训练。我们使用掩码语言建模和类定义预测任务对定义进行建模。我们的模型优于现有的最先进的细粒度情感数据集GoEmotions。我们进一步表明,这种训练的模型可以用于在其他基准数据集上进行迁移学习,以不同的情感标签集,域和大小进行情感预测。所提出的模型优于基线的迁移学习实验证明了模型的泛化能力。
2021-07-26 cs.AI cs.CL
CLOWER: A Pre-trained Language Model with Contrastive Learning over Word and Character Representations
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Meituan(美团);Meta AI;Peng Cheng Laboratory(鹏城实验室)
预训练语言模型(PLM)在自然语言理解的众多下游任务中取得了显着的性能提升。为了更好地学习汉语语言表示,各种各样的汉语PLM相继被提出。然而,目前大多数模型使用汉字作为输入,并且不能编码包含在汉语单词中的语义信息。虽然最近的预训练模型同时包含单词和字符,但它们通常缺乏语义交互,无法捕捉单词和字符之间的语义关系。为了解决上述问题,我们提出了一个简单而有效的PLM CLOWER,它采用了对比学习在Word和字符表示。特别地,CLOWER隐式地编码粗粒度信息(即,字)转换为细粒度表示(即,字符)通过对多粒度信息的对比学习。CLOWER在现实场景中具有很大的价值,因为它可以轻松地集成到任何现有的基于细粒度的PLM中,而无需修改生产管道。对一系列下游任务进行的大量实验表明,CLOWER的性能优于几个最先进的基线。
2022-09-15 cs.AI cs.CL
FCKT: Fine-Grained Cross-Task Knowledge Transfer with Semantic Contrastive Learning for Targeted Sentiment Analysis
School of Artificial Intelligence, Beihang University, China(北京航空航天大学人工智能学院);School of Computer Science and Engineering, Beihang University, China(北京航空航天大学计算机科学与工程学院);Xidian University, China(西安电子科技大学);Zhongguancun Laboratory, China(中关村实验室)
针对目标情感分析中粗粒度知识转移易致负迁移的问题,提出FCKT框架,通过显式融入方面级信息实现细粒度跨任务知识转移,有效提升情感预测性能。
2025-05-28 cs.AI cs.CL
Enhancing Conceptual Understanding in Multimodal Contrastive Learning through Hard Negative Samples
Bundeswehr University Munich(慕尼黑联邦国防军大学);Faculty of Mathematics and Physics, Charles University(查理大学数学与物理学院)
针对多模态对比学习因随机负样本缺乏细粒度区分的问题,提出合成难负文本预训练方法,并构建 InpaintCOCO 基准,显著提升视觉-语言概念对齐能力。
2024-08-05 cs.CL cs.CV cs.IR
Small Changes Make Big Differences: Improving Multi-turn Response Selection in Dialogue Systems via Fine-Grained Contrastive Learning
Microsoft(微软)
基于检索的对话响应选择旨在从给定多轮上下文的候选集合中找到合适的响应。基于预训练的语言模型(PLM)的方法在这一任务上取得了显著的改进。序列表征在对话语境与应答匹配度的学习中起着关键作用。然而,我们观察到,不同的上下文响应对共享相同的上下文总是有更大的相似性,在序列表示计算的PLM,这使得它很难区分积极的反应,从消极的。基于此,我们提出了一种新的\textbf{F}线性学习方法-- \textbf{G}雨\textbf{C}对比学习(FGC)方法,用于基于PLM的响应选择任务.这种FGC学习策略有助于PLM在细粒度上生成每个对话的更可区分的匹配表示,并进一步对选择积极响应做出更好的预测。两个基准数据集的实证研究表明,所提出的FGC学习方法可以普遍和显着提高现有的基于PLM的匹配模型的模型性能。
2021-11-25 cs.CL cs.IR
Improving Speech Translation by Cross-Modal Multi-Grained Contrastive Learning
Information Engineering University(信息工程大学);Tsinghua University(清华大学)
本文提出 FCCL 跨模态多粒度对比学习方法,通过句子级与帧级对比及白化策略增强 E2E-ST 的语义表示,在 MuST-C 八个语言对上显著超越现有基线。
2023-04-20 cs.CL cs.CV
Identical and Fraternal Twins: Fine-Grained Semantic Contrastive Learning of Sentence Representations
South China Normal University(华南师范大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
针对对比学习忽略正例间语义间隔导致模型语义理解不敏感的问题,提出IFTCL框架,通过孪生损失保留语义间隔并利用海马体队列机制复用负例,在九个英中语义文本相似度任务上超越现有最优方法。
2023-09-14 cs.AI cs.CL
C2-CRS: Coarse-to-Fine Contrastive Learning for Conversational Recommender System
Renmin University of China(中国人民大学);Kuaishou Inc.(快手公司)
本文提出C2-CRS框架,通过由粗到细的对比学习融合多类型外部数据,以在有限对话上下文中更准确地建模用户偏好,并在两个公开CRS数据集上验证了其在推荐和对话任务中的有效性。
2023-05-30 cs.AI cs.CL cs.IR
SelF-Eval: Self-supervised Fine-grained Dialogue Evaluation
Harbin Institute of Technology(哈尔滨工业大学)
本文介绍了一种新的自监督细粒度对话评估框架(SelF-Eval)。其核心思想是建立话轮质量和整个对话质量之间的相关性模型。我们首先提出了一种新的自动数据构造方法,可以自动分配细粒度的分数任意对话数据。然后,我们训练\textbf{SelF-Eval}与多层次的对比学习模式,这有助于区分不同的分数水平。多个基准测试的实验结果表明,SelF-Eval与人类评估高度一致,优于最先进的模型。本文对实验结果进行了详细的分析。我们的代码可以在GitHub上找到。
2022-09-16 cs.CL
Are Emotions Arranged in a Circle? Geometric Analysis of Emotion Representations via Hyperspherical Contrastive Learning
The University of Tokyo(东京大学);National Institute of Informatics(信息处理研究所)
本文通过超球体对比学习在语言模型中诱导圆形情感表示,揭示了环形模型在可解释性和鲁棒性与高维设置下的性能权衡。
2026-01-13 cs.CL
Self-Adaptive Reconstruction with Contrastive Learning for Unsupervised Sentence Embeddings
South China University of Technology(华南理工大学);School of Computer Science and Engineering(计算机科学与工程学院)
针对预训练语言模型词元偏置导致无监督句嵌入细粒度语义丢失的问题,提出SARCSE框架,通过自编码器重构全部词元并引入自适应重构损失,在7个STS任务上显著优于SimCSE。
2024-02-23 cs.CL cs.LG
Sub-Sentence Encoder: Contrastive Learning of Propositional Semantic Representations
University of Pennsylvania(宾夕法尼亚大学);University of Washington(华盛顿大学);Tencent AI Lab(腾讯AI实验室)
该研究提出子句编码器这一对比学习的上下文嵌入模型,可生成对应原子命题的细粒度语义嵌入,在支撑事实检索等任务中有效,且推理成本与空间复杂度和句子编码器相当。
2023-11-07 cs.AI cs.CL
Fine-Grained Alignment in Vision-and-Language Navigation through Bayesian Optimization
University of Liverpool(利物浦大学);South China University of Technology(华南理工大学);National Tsing Hua University(国立清华大学)
针对视觉-语言导航(VLN)任务中现有方法处理细粒度视觉负样本的不足,本文提出基于贝叶斯优化的对抗优化框架生成细粒度对比视觉样本,提升跨模态嵌入效果,在R2R和REVERIE基准上验证了其导航性能提升。
2024-11-30 cs.CL cs.CV cs.LG
Contrastive Instruction-Trajectory Learning for Vision-Language Navigation
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);Monash University(莫纳什大学);Alibaba group(阿里巴巴集团)
视觉语言导航(VLN)任务要求智能体在自然语言指令的引导下到达目标。以前的作品学习导航一步一步的指示。然而,这些工作可能无法区分的相似性和差异跨越轨迹对,忽略了时间的连续性的子指令。这些问题阻碍了智能体学习独特的视觉和语言表示,损害了导航策略的鲁棒性和通用性。在本文中,我们提出了一个对比教学轨迹学习(CITL)框架,探讨了不同数据样本之间的不变性和不同数据样本之间的方差,以学习不同的表示方法来实现强大的导航。具体而言,我们建议:(1)粗粒度的对比学习目标,用于通过分别对比全轨迹观察和指令的语义来增强视觉和语言表示;(2)细粒度的对比学习目标,用于通过利用子指令的时间信息来感知指令;(3)用于对比学习的成对样本重新加权机制,挖掘硬样本,从而减轻对比学习中数据采样偏差的影响。我们的CITL可以很容易地与VLN骨干集成,形成一个新的学习范式,并在看不见的环境中实现更好的泛化能力。大量的实验表明,CITL模型优于R2 R,R4 R和RxR上以前的最先进的方法。
2021-12-09 cs.CL cs.CV cs.LG
Improving RAG for Personalization with Author Features and Contrastive Examples
Amsterdam University of Applied Sciences(阿姆斯特丹应用科学大学);Leiden University(莱顿大学)
针对RAG个性化难以捕捉作者细粒度特征的问题,提出补充作者特定特征(如情感极性、常用词)及对比示例(其他作者文档)的方法,实验实现15%相对改进,为RAG个性化研究提供新方向并开源代码。
2025-03-24 cs.AI cs.CL cs.IR
AFMRL: Attribute-Enhanced Fine-Grained Multi-Modal Representation Learning in E-commerce
Taobao & Tmall Group of Alibaba(阿里巴巴淘宝与天猫集团)
本文提出AFMRL,通过属性生成任务提升电商细粒度多模态表示学习,结合属性引导对比学习和检索感知属性强化,实现更精准的相似商品检索。
2026-04-22 cs.CL cs.IR
Learning Speech Representation From Contrastive Token-Acoustic Pretraining
Tianjin University(天津大学);Kuaishou Technology Co., Ltd(快手科技有限公司);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
针对细粒度语音任务中中间表示冗余且现有对比学习不适用的问题,提出 CTAP,在帧级对齐音素与语音,并基于 21 万对数据实现最小监督 TTS、VC 和 ASR。
2023-12-18 cs.AI cs.CL cs.SD
Few-Shot Intent Detection via Contrastive Pre-Training and Fine-Tuning
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Adobe Research(Adobe 研究院)
在这项工作中,我们专注于一个更具挑战性的Few-Shot意图检测的情况下,许多意图是细粒度和语义相似。我们提出了一个简单而有效的Few-Shot意图检测模式,通过对比预训练和微调。具体来说,我们首先对收集到的意图数据集进行自我监督的对比预训练,隐式学习在不使用任何标签的情况下区分语义相似的话语。然后,我们将Few-Shot意图检测与监督式对比学习一起执行,这明确地将来自相同意图的话语拉得更近,并将不同意图的话语推得更远。实验结果表明,我们提出的方法实现了国家的最先进的性能在三个具有挑战性的意图检测数据集下的5杆和10杆的设置。
2021-09-13 cs.CL cs.LG
Towards Generative Class Prompt Learning for Fine-grained Visual Recognition
Computer Vision Center(计算机视觉中心);Universitat Autònoma de Barcelona(巴塞罗那自治大学);University of Florence(佛罗伦萨大学)
针对基础视觉-语言模型细粒度识别与跨域泛化不足的问题,提出GCPL与CoMPLe,借助扩散模型和类别间对比优化生成类别提示,显著提升少样本识别性能。
2024-09-07 cs.CL cs.CV
Prompt Compression and Contrastive Conditioning for Controllability and Toxicity Reduction in Language Models
Brigham Young University(杨百翰大学);Nvidia, Inc.(英伟达公司);University of Washington(华盛顿大学)
我们探讨了压缩的提示用于条件语言模型的想法,并表明,压缩提示可以保留大量的信息,原始提示。对于严重压缩的提示,虽然细粒度的信息丢失,但抽象信息和一般情感可以用令人惊讶的很少的参数保留,这在用于可控性和毒性降低的解码时间算法的上下文中可以是有用的。我们探讨了对比条件反射,引导语言模型的生成朝着理想的文本,远离不需要的文本,并发现,一些复杂的提示可以有效地压缩成一个单一的令牌,以指导生成。我们还表明,压缩提示主要是合成的,可以构造,使它们可以用来控制生成的文本的独立方面。
2022-10-06 cs.AI cs.CL cs.LG
Self-supervised Contrastive Cross-Modality Representation Learning for Spoken Question Answering
Yale University(耶鲁大学);Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
口语问答(SQA)需要对口语文档和问题进行细粒度的理解,以获得最佳答案预测。在本文中,我们提出了新的训练计划,口语问答与自我监督的训练阶段和对比表示学习阶段。在自监督阶段,我们提出了三个辅助的自监督任务,包括话语恢复,话语插入,和问题的歧视,并共同训练模型,以捕捉语音文档之间的一致性和连贯性,而无需任何额外的数据或注释。然后,我们建议通过采用多种增强策略,包括跨度删除和跨度替换,在对比目标中学习噪声不变的话语表示。此外,我们设计了一个时间对齐注意,语义对齐的语音文本线索在学习的共同空间和效益的SQA任务。通过这种方式,训练方案可以更有效地指导生成模型预测更合适的答案。实验结果表明,我们的模型在三个SQA基准测试中取得了最先进的结果。
2021-09-08 cs.AI cs.CL cs.LG