Finetuning Strategies for Querying Sounds by Vocal Imitation
School of Electronic Engineering and Computer Science, Queen Mary University of London(伦敦玛丽女王大学电子工程与计算机科学学院)
针对AES AIMLA 2025挑战赛的音效语音查询任务,研究人员提出两种微调策略,即基于CED编码器的对比学习和基于MobileNetV3编码器的联合对比-三元组学习,其方案为挑战赛获胜方案。
2026-08-20 cs.AI cs.IR cs.SD
Enhancing GANs with Contrastive Learning-Based Multistage Progressive Finetuning SNN and RL-Based External Optimization
Bahria University(巴里亚大学)
针对GAN在高分辨率组织病理学图像合成中训练不稳定、模式崩溃等问题,提出融合对比学习多阶段渐进微调SNN与强化学习外部优化器的框架,多项指标优于SOTA模型。
2024-10-26 cs.AI cs.CV cs.LG
TRACER: Persistent Regularization for Robust Multimodal Finetuning
School of Computing and Information Systems (CIS), Faculty of Engineering and IT (FEIT), University of Melbourne, Australia(墨尔本大学计算机科学与信息系统学院(CIS)、工程与信息技术学院(FEIT))
提出TRACER方法,通过加权移动平均教师实现持久正则化,解决多模态对比微调中的灾难性遗忘和EMA坍缩问题,提升分布外鲁棒性。
2026-05-28 cs.AI cs.CV cs.LG
Adaptive Two-Phase Finetuning LLMs for Japanese Legal Text Retrieval
VJ Technologies(VJ科技公司);AJ Technologies(AJ科技公司);University of Information Technology(信息科技大学);Vietnam National University(越南国家大学)
针对日本法律文本检索研究有限的问题,提出自适应两阶段微调LLMs流程并构建新数据集,实验证明其在日语及英语MS MARCO数据集上均超越基线。
2024-12-03 cs.CL cs.IR cs.LG
Zero-Shot Cross-Lingual Transfer in Legal Domain Using Transformer Models
ITMO University(圣彼得堡国立信息技术机械与光学大学)
Zero-shot跨语言迁移是现代NLP模型和架构中支持低资源语言的重要特征。本文研究了多标签文本分类中英语到法语和德语的zero-shot跨语言迁移问题,使用英语训练集训练分类器,使用法语和德语测试集进行测试。我们扩展了EURLEX 57 K数据集,英语数据集的主题分类的法律文件,法语和德语的官方翻译。我们研究了使用一些训练技术,即逐步解冻和语言模型微调,对zero-shot跨语言迁移质量的影响。我们发现,多语言预训练模型(M-DistilBERT,M-BERT)的语言模型微调分别导致法语和德语测试集的32.0- 34.94%,76.15-87.54%的相对改善。此外,在训练过程中,预训练模型的层的逐渐解冻导致法语的38-45%和德语的58-70%的相对提高。与使用英语、法语和德语训练集在联合训练方案中训练模型相比,基于zero-shot BERT的分类模型达到了联合训练的BERT分类模型的86%。
2021-12-11 cs.AI cs.CL
CleanCLIP: Mitigating Data Poisoning Attacks in Multimodal Contrastive Learning
UCLA(加州大学洛杉矶分校);University of Tübingen(图宾根大学)
本文提出 CleanCLIP 微调框架,通过多模态对比与单模态自监督目标及有监督微调独立重对齐模态表示,在保持良性性能的同时消除 CLIP 中的多种后门投毒影响。
2023-07-17 cs.AI cs.CR cs.CV
UCTopic: Unsupervised Contrastive Learning for Phrase Representations and Topic Mining
University of California, San Diego(加州大学圣地亚哥分校)
高质量的短语表示对于在文档中查找主题和相关术语至关重要(也称为主题挖掘)。现有的短语表示学习方法要么简单地以上下文无关的方式组合单字表示,要么依赖于广泛的注释来学习上下文感知知识。在本文中,我们提出了UCTopic,一个新的无监督对比学习框架上下文感知短语表示和主题挖掘。UCTopic被大规模地预训练以区分两个短语提及的上下文是否具有相同的语义。预训练的关键是从我们面向短语的假设中构建正对。然而,我们发现传统的批量否定在对具有小主题数的数据集进行微调时会导致性能下降。因此,我们提出了集群辅助的对比学习(CCL),大大减少了噪音的负面影响,从集群中选择负面的,并进一步提高相应的主题短语表示。UCTopic在四个实体聚类任务上的平均NMI比最先进的短语表示模型高38.2%。综合评价表明,UCTopic能够提取出连贯性和多样性的主题短语。
2022-02-27 cs.AI cs.CL
Skim-Aware Contrastive Learning for Efficient Document Representation
CDEP - UR 2471, Univ Artois, France(阿托斯大学);CRIL - CNRS, Univ Artois, France(阿托斯大学)
本文提出一种基于 skim-aware 策略的对比学习框架,通过随机遮蔽文档部分并利用 NLI 对比目标,提升长文档表示的准确性和效率。
2025-12-30 cs.AI cs.CL
Contrastive Feature Masking Open-Vocabulary Vision Transformer
Google DeepMind(谷歌DeepMind)
提出CFM-ViT,通过联合图像-文本嵌入空间重建和位置嵌入丢弃,在开放词汇检测中达到最先进性能,同时保持强大的图像级表示。
2023-09-02 cs.AI cs.CV cs.LG
CP2: Copy-Paste Contrastive Pretraining for Semantic Segmentation
Tsinghua University(清华大学);Johns Hopkins University(约翰斯·霍普金斯大学);Shanghai Jiao Tong University(上海交通大学)
自监督对比学习的最新进展产生了良好的图像级表示,这有利于分类任务,但通常忽略了像素级的详细信息,导致向密集预测任务(如语义分割)的传输性能不令人满意。在这项工作中,我们提出了一种称为CP 2(复制粘贴对比预训练)的像素级对比学习方法,它有助于图像和像素级表示学习,因此更适合下游密集预测任务。详细地说,我们从图像中复制粘贴随机裁剪CP 2将前景像素(前景像素)映射到不同的背景图像上,并预训练一个语义分割模型,目标是1)区分前景像素和背景像素,2)识别共享同一前景的合成图像。实验表明,CP 2在下游语义分割中具有很强的性能:通过在PASCAL VOC 2012上微调CP 2预训练模型,我们使用ResNet-50获得了78.6%的mIoU,使用ViT-S获得了79.5%的mIoU。
2022-08-09 cs.AI cs.CV
Toward Interpretable Semantic Textual Similarity via Optimal Transport-based Contrastive Sentence Learning
Scatterlab(Scatterlab公司);POSTECH(浦项科技大学);University of Illinois at Urbana-Champaign (UIUC)(伊利诺伊大学厄巴纳-香槟分校(UIUC))
最近,微调预训练的语言模型来捕获句子嵌入之间的相似性已经显示了语义文本相似性(STS)任务的最新性能。然而,缺乏一个解释方法的句子相似性,使得它很难解释模型输出。在这项工作中,我们明确地描述句子距离的加权和的上下文中的令牌距离的基础上的运输问题,然后提出了最佳的基于运输的距离测量,命名为RCMD;它识别和利用语义对齐的令牌对。最后,我们提出了一个对比学习框架CLRCMD,它优化了句子对的RCMD,从而提高了句子相似度和句子解释的质量。大量的实验表明,我们的学习框架在STS和可解释的STS基准测试中的表现优于其他基线,这表明它计算了有效的句子相似性,并提供了与人类判断一致的解释。代码和检查点可在https://github.com/sh0416/clrcmd上公开获取。
2022-04-14 cs.AI
CCPL: Cross-modal Contrastive Protein Learning
Zhejiang University(浙江大学);AI Lab, Westlake University(西湖大学人工智能实验室)
本文提出无监督跨模态对比蛋白质学习方法CCPL,利用蛋白质语言模型和对比对齐增强结构表示学习,并通过自监督结构约束保持结构信息,在多个基准上取得优越性能。
2024-09-04 cs.AI cs.LG q-bio.BM
CleanerCLIP: Fine-grained Counterfactual Semantic Augmentation for Backdoor Defense in Contrastive Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学);Sun Yat-sen University-Shenzhen(中山大学(深圳))
针对CLIP模型易受后门攻击且现有微调防御策略在无监督领域存在局限的问题,提出细粒度文本对齐清理器(TA-Cleaner)切断后门触发器特征连接,在六种攻击算法上实现最先进防御性能。
2024-11-15 cs.AI cs.CV
LegalDuet: Learning Fine-grained Representations for Legal Judgment Prediction via a Dual-View Contrastive Learning
Northeastern University, Shenyang, Liaoning, China(东北大学);Tsinghua University, Beijing, China(清华大学);Microsoft Research Asia, Beijing, China(微软亚洲研究院);Beijing Language and Culture University, Beijing, China(北京语言大学)
本文提出LegalDuet,一种通过法律案件聚类和法律决策匹配双视图对比学习机制持续预训练语言模型的方法,有效提升了法律判决预测中区分易混淆刑事指控的能力。
2025-05-01 cs.CL
Learning Label Hierarchy with Supervised Contrastive Learning
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对监督对比学习忽略标签层次结构的问题,提出标签感知SCL方法,通过类别相似度和实例-中心对比构建判别性特征空间,在文本分类任务上优于基线方法。
2024-01-31 cs.AI cs.LG
SELF-GUIDE: Better Task-Specific Instruction Following via Self-Synthetic Finetuning
Carnegie Mellon University(卡内基梅隆大学);Tsinghua University(清华大学)
本文提出 SELF-GUIDE 多阶段自合成微调方法,让学生 LLM 自行生成任务输入-输出对并用于自身微调,在 Natural Instructions V2 上显著提升分类与生成任务表现。
2024-08-12 cs.AI cs.CL
CAFe: Unifying Representation and Generation with Contrastive-Autoregressive Finetuning
Meta;Boston University(波士顿大学)
CAFe提出对比自回归微调框架,统一表示与生成,在多模态检索和生成基准上取得最先进结果,并缓解对象幻觉。
2025-03-25 cs.AI cs.CL cs.CV
Similarity-aware Positive Instance Sampling for Graph Contrastive Pre-training
Tsinghua University(清华大学);Tencent AI Lab(腾讯人工智能实验室)
图实例对比学习已被证明是图神经网络(GNN)预训练的有效任务。然而,一个关键的问题可能会严重阻碍现有的作品的代表性的权力:目前的方法创建的积极的实例往往错过关键信息的图,甚至产生非法的实例(如非化学意识的分子生成图)。为了解决这个问题,我们建议直接从训练集中的现有图中选择正图实例,最终保持与目标图的合法性和相似性。我们的选择是基于某些特定领域的成对相似性测量,以及从一个分层图编码图之间的相似性关系的采样。此外,我们开发了一个自适应的节点级预训练方法,动态屏蔽节点,使它们均匀分布在图中。我们进行了广泛的实验$13$图分类和节点分类基准数据集从各个领域。结果表明,通过我们的策略预训练的GNN模型可以优于那些从头开始训练的模型以及通过现有方法获得的变体。
2022-06-23 cs.AI cs.LG
Adversarial Contrastive Learning via Asymmetric InfoNCE
Tsinghua University(清华大学);Institute for AI Industry Research, Tsinghua University(清华大学智能产业研究院);Harbin Institute of Technology(哈尔滨工业大学);School of Computer Science and Technology, Harbin Institute of Technology(哈尔滨工业大学计算机科学与技术学院)
对比学习(CL)最近被应用于对抗性学习任务。这种做法将对抗样本视为实例的额外积极观点,并通过最大化它们之间的一致性,产生更好的对抗鲁棒性。然而,这种机制可能存在潜在的缺陷,因为对抗性扰动可能会导致实例级身份混淆,这可能会通过将具有单独身份的不同实例拉在一起来阻碍CL性能。为了解决这个问题,我们建议在对比时不平等地对待对抗样本,使用非对称InfoNCE目标($A-InfoNCE$),允许对对抗样本进行区分考虑。具体而言,对手被视为诱导较弱学习信号的劣质阳性,或与其他阴性样本相比表现出更高对比度的硬阴性。在不对称的方式,CL和对抗性学习之间的目标冲突的不利影响,可以有效地减轻。实验表明,我们的方法在不同的微调方案中始终优于现有的对抗CL方法,而无需额外的计算成本。建议的A-InfoNCE也是一个通用的形式,可以很容易地扩展到其他CL方法。代码可在https://github.com/yqy2001/A-InfoNCE上获得。
2022-07-18 cs.AI cs.CV cs.LG
Strumming to the Beat: Audio-Conditioned Contrastive Video Textures
University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
我们介绍了一种非参数的方法,无限的视频纹理合成使用的表示通过对比学习。我们从Video Textures中获得灵感,它表明可以通过将其帧以新颖但一致的顺序拼接在一起来从单个视频中生成看似合理的新视频。然而,这一经典作品受到手动设计距离度量的限制,仅限于简单重复的视频。我们利用自监督学习的最新技术来学习这种距离度量,使我们能够以一种更具有挑战性的动态方式来比较帧,并以其他数据(如音频)为条件。我们通过拟合使用对比学习训练的视频特定模型来学习视频帧和帧到帧的转换概率的表示。为了合成纹理,我们随机采样具有高转换概率的帧,以生成具有新颖序列和转换的不同时间平滑视频。该模型自然地扩展到音频调节设置,而不需要任何微调。我们的模型在人类感知分数上优于基线,可以处理各种各样的输入视频,并且可以结合语义和视听线索,以合成与音频信号同步的视频。
2021-04-06 cs.AI cs.CV cs.MM
Unified Contrastive Learning in Image-Text-Label Space
Microsoft Research at Redmond(微软雷德蒙德研究院);Microsoft Cloud + AI(微软云计算与人工智能部门)
视觉识别最近通过对人类注释的图像标签数据的监督学习或使用网络爬行的图像-文本对的语言-图像对比学习来学习。虽然监督学习可能会导致更具区分性的表示,但语言图像预训练显示出前所未有的zero-shot识别能力,这主要是由于数据源和学习目标的不同属性。在这项工作中,我们引入了一个新的配方结合到一个共同的图像-文本-标签空间的两个数据源。在这个空间中,我们提出了一种新的学习范式,称为统一对比学习(UniCL),具有单一的学习目标,无缝地促进两种数据类型的协同作用。大量的实验表明,我们的UniCL是一种有效的方式学习语义丰富,但歧视性的表示,普遍适用于图像识别中的zero-shot,线性探测,完全微调和迁移学习的情况。特别是,它达到了高达9.2%和14.5%的平均增益zero-shot识别基准上的语言图像对比学习和监督学习方法,分别。在线性探头设置中,它也比两种方法分别提高了7.3%和3.4%。我们的研究还表明,UniCL独立是纯图像标签数据的良好学习者,可与三种图像分类数据集和两种类型的视觉骨干ResNet和Swin Transformer的监督学习方法相媲美。代码可在https://github.com/microsoft/UniCL上获得。
2022-04-07 cs.AI cs.CV cs.LG
TermGPT: Multi-Level Contrastive Fine-Tuning for Terminology Adaptation in Legal and Financial Domain
TermGPT通过多级对比微调提升法律和金融领域术语区分能力,构建首个金融术语数据集并优于现有基线。
2025-12-21 cs.CL
Scaling Self-Supervised Representation Learning for Symbolic Piano Performance
本文将 SimCLR 框架适配于符号音乐,基于约 6 万小时数据预训练生成式自回归 Transformer 模型,生成对比 MIDI 嵌入,在钢琴续写与 MIR 分类基准上达到 SOTA 且具强泛化能力。
2025-06-30 cs.AI cs.LG cs.SD
Data-Efficient Finetuning Using Cross-Task Nearest Neighbors
Allen Institute for AI(艾伦人工智能研究所);Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院)
本文提出利用少量未标注目标样本从多任务提示数据池中检索跨任务最近邻进行微调,以极低数据量实现高效任务适配并优于强基线。
2023-05-24 cs.CL
ReLeVAnT: Relevance Lexical Vectors for Accurate Legal Text Classification
Perssonify
本文提出ReLeVAnT框架,通过n-gram处理、对比分数匹配和浅层神经网络实现法律文档二分类,准确率达99.3%。
2026-04-24 cs.AI cs.CL
ContextLift: Breaking the Spurious Correlation Behind Conditional Emergent Misalignment
Bonn-Aachen International Center for Information Technology(波恩-亚琛国际信息技术中心);University of Bonn(波恩大学);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究院)
该研究针对微调语言模型的条件性对齐不良问题,提出ContextLift反事实增强方法,在相同预算下大幅降低对齐不良率,同时保留相关任务性能。
2026-10-16 cs.CL cs.LG
MiniConGTS: A Near Ultimate Minimalist Contrastive Grid Tagging Scheme for Aspect Sentiment Triplet Extraction
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Academy of Engineering and Technology, Fudan University(复旦大学工程与技术学院);Shanghai Jiao Tong University(上海交通大学);School of Information Science and Technology, Fudan University(复旦大学信息科学与技术学院)
本文提出MiniConGTS,通过极简标注方案与令牌级对比学习改进预训练表示,以更低计算开销实现与最先进方法相当或更优的方面情感三元组抽取性能,并首次评估GPT-4在该任务上的表现。
2024-09-30 cs.AI cs.CL
WavFT: Acoustic model finetuning with labelled and unlabelled data
Microsoft Corporation(微软公司)
无监督和自监督学习方法利用未标记的数据来改进预训练模型。然而,这些方法需要大量的未标记数据,并且具有如此大量数据的训练模型的计算成本可能非常高。我们通过在微调过程中使用未标记的数据而不是预训练来解决这个问题。我们提出了声学模型微调(FT)使用标记和未标记的数据。该模型被联合训练以学习表示来分类senone,以及学习上下文声学表示。我们的训练目标是交叉熵损失(适用于分类任务)和对比损失(适用于学习声学表示)的组合。所提出的方法优于传统的微调与11.2%和9.19%的字出错率相对(WERR)减少古吉拉特语和孟加拉语。
2022-04-01 cs.CL cs.SD eess.AS
Domain-Adaptation through Synthetic Data: Fine-Tuning Large Language Models for German Law
Fraunhofer IAIS(弗劳恩霍夫人工智能研究所);Georg-August-University Göttingen(哥廷根乔治-亚历山大大学);Lamarr Institute(拉马尔研究所);University of Bonn(波恩大学);JetBrains Research(JetBrains研究)
本文通过合成数据生成方法微调大型语言模型,提升其在德国法律问答任务中的性能,展示合成数据在替代人工标注方面的有效性。
2026-01-20 cs.AI cs.CL
From Style to Facts: Mapping the Boundaries of Knowledge Injection with Finetuning
Google Research(谷歌研究院);University of California, Berkeley(加利福尼亚大学伯克利分校)
本文通过大规模实验研究Gemini v1.5微调,揭示数据格式、信息类型和推理需求等因素决定了知识注入的难度,并论证任务定制与知识注入并无本质区别。
2025-03-07 cs.CL cs.LG
Attribution analysis of legal language as used by LLM
本文使用集成梯度归因技术对比分析法律LLM与通用BERT模型在法律数据集上的性能差异,发现分词器的差异化行为是导致模型表现不同的主要原因。
2025-01-28 cs.CL cs.LG
Hybrid Multi-stage Decoding for Few-shot NER with Entity-aware Contrastive Learning
University of Chinese Academy of Sciences(中国科学院大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
提出MsFNER,将少样本NER分为跨度检测与分类两阶段,结合对比学习和KNN,在FewNERD上取得先进性能。
2025-10-14 cs.CL
SCM-based Fairness and Faithful Explainability for Legal Document Classification
University of Amsterdam(阿姆斯特丹大学)
本研究在ECtHR语料库上比较LegalBERT基线与其公平性正则化变体,发现干预不改变公平性但持续降低解释充分性,证明公平性与解释忠实性可解离,需直接评估公平性。
2026-10-02 cs.CL
Through the Lens of Contrast: Self-Improving Visual Reasoning in VLMs
Huazhong University of Science and Technology(华中科技大学);Alibaba Cloud(阿里云)
通过视觉对比提升VLMs的推理能力,提出VC-STaR框架,有效减少推理幻觉并提升多种VLMs的视觉推理性能。
2026-03-03 cs.AI cs.CL cs.CV
Retrieval-Based Multi-Label Legal Annotation: Extensible, Data-Efficient and Hallucination-Free
University of Pittsburgh(匹兹堡大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种基于检索的多标签法律标注方法,该方法通过嵌入文档和标签描述,利用冻结的检索模型进行k近邻搜索,实现了高效的数据标注,同时避免了生成模型的幻觉问题,展示了在高基数和快速变化的法律标签空间中的实用性。
2026-05-16 cs.CL
RAIN: Your Language Models Can Align Themselves without Finetuning
Peking University(北京大学);Microsoft Research Asia(微软亚洲研究院);The University of Sydney(悉尼大学);University of Waterloo(滑铁卢大学)
针对大语言模型与人类偏好不一致的问题,提出无需微调、无需对齐数据的可回退自归回推理方法RAIN,通过自我评估与回退机制实现模型自我对齐,显著提升模型无害性与真实性。
2023-10-09 cs.CL
The Data Provenance Initiative: A Large Scale Audit of Dataset Licensing & Attribution in AI
Harvard Law School(哈佛法学院);MIT Center for Constructive Communication(麻省理工学院建设性传播中心);MIT(麻省理工学院);UC Irvine(加州大学尔湾分校);Inria, Univ. Lille Center(法国国家信息与自动化研究所,里尔大学中心);Contextual AI;ML Commons;Olin College(奥林学院);Carnegie Mellon University(卡内基梅隆大学);Tidelift;Cohere For AI
该研究发起数据来源倡议,跨学科审计1800余个文本数据集,揭示了商业开放与封闭数据集的差异、数据集托管平台的许可乱象,并发布审计结果与交互式探索工具以提升数据透明度。
2023-11-04 cs.AI cs.CL cs.LG
An interpretability framework for Similar case matching
Guangdong University of Technology(广东工业大学);KTH Royal Institute of Technology(KTH皇家理工学院);Guangdong University of Foreign Studies(广东外语外贸大学);Lingnan Normal University(岭南师范学院)
针对相似案例匹配缺乏可解释性的问题,提出包含特征句识别、案例匹配、句子对齐与冲突解决的流水线框架,并通过实验验证其有效性。
2023-08-16 cs.CL
AugCSE: Contrastive Sentence Embedding with Diverse Augmentations
Boston University(波士顿大学)
数据增强技术已被证明在自然语言处理领域的许多应用中是有用的。大多数增强都是针对特定任务的,不能用作通用工具。在我们的工作中,我们提出了AugCSE,一个统一的框架,利用不同的数据增强集,以实现更好的,通用的,句子嵌入模型。基于最新的句子嵌入模型,我们的方法使用了一个简单的对抗性的增强类型进行区分。借用领域自适应的微调目标,我们表明,不同的增强,这往往会导致冲突的对比信号,可以驯服产生一个更好的和更强大的句子表示。我们的方法在下游传输任务上实现了最先进的结果,并且仅使用无监督数据在语义文本相似性任务上具有竞争力。
2022-10-20 cs.CL
Cross-Platform and Cross-Domain Abusive Language Detection with Supervised Contrastive Learning
The University of British Columbia(不列颠哥伦比亚大学)
在不同的在线平台上滥用语言的流行一直是一个主要的问题,提出了自动跨平台滥用语言检测的需要。然而,以前的工作集中在连接来自多个平台的数据,固有地采用经验风险最小化(ERM)方法。在这项工作中,我们从领域泛化目标的角度来解决这一挑战。我们设计了SCL-Fish,这是一种有监督的对比学习集成Meta学习算法,可以在看不见的平台上检测滥用语言。我们的实验分析表明,SCL-Fish实现了更好的性能比ERM和现有的国家的最先进的模型。我们还表明,SCL-Fish是数据高效的,并且在对滥用语言检测任务进行微调时,与大规模预训练模型的性能相当。
2022-11-11 cs.CL cs.LG
Empirical analysis of binding precedent efficiency in Brazilian Supreme Court via case classification
EMAp, Fundação Getulio Vargas(Fundação Getulio Vargas 经济学院);IST Austria(IST 奥地利研究院);INRIA Université Côte d’Azur(INRIA 里昂大学);Direito Rio, Fundação Getulio Vargas(Fundação Getulio Vargas 里约法学院);ICMC, University of São Paulo(圣保罗大学计算机科学学院)
本文通过案件分类方法实证评估巴西最高法院五项约束性先例的法律影响,比较了TF-IDF、LSTM、Longformer和regex等NLP方法,发现深度学习模型能捕捉TF-IDF遗漏的法律事件,并指出先例失效原因具有异质性。
2025-05-27 cs.AI cs.CL cs.IR
Fixing Model Bugs with Natural Language Patches
Stanford University(斯坦福大学);Microsoft Research(微软研究院)
目前修复NLP模型中系统性问题的方法(例如正则表达式补丁,对更多数据进行微调)要么脆弱,要么劳动密集型,并且容易走捷径。相比之下,人类经常通过自然语言来相互提供更正。从这一点得到灵感,我们探索自然语言补丁-声明性语句,允许开发人员在正确的抽象级别提供纠正反馈,要么覆盖模型("如果评论给2星,情绪是负面的“),要么提供模型可能缺乏的额外信息("如果某个东西被描述为炸弹,那么它是好的”)。我们对确定补丁是否适用的任务与集成补丁信息的任务进行了建模,并表明使用少量的合成数据,我们可以教模型有效地使用真实数据上的真实补丁- 1到7个补丁在情感分析数据集的不同切片上将精度提高1-4个精度点,在关系抽取数据集上将F1提高7个点。最后,我们表明,微调多达100个标记的例子可能需要匹配的性能的一小部分语言补丁。
2022-11-20 cs.CL
Image Difference Captioning with Pre-training and Contrastive Learning
Renmin University of China(中国人民大学)
图像差异字幕(IDC)任务旨在用自然语言描述两幅相似图像之间的视觉差异。这项任务的主要挑战在于两个方面:1)细粒度的视觉差异,需要学习更强的视觉和语言关联; 2)人工注释的高成本,导致监督数据有限。为了应对这些挑战,我们提出了一个新的建模框架,遵循预训练微调范式。具体来说,我们设计了三个自我监督的任务和对比学习策略,以调整视觉差异和文本描述在细粒度的水平。此外,我们提出了一个数据扩展策略,利用额外的跨任务的监督信息,如数据的细粒度图像分类,以减轻可用的监督IDC数据的限制。在两个IDC基准数据集CLEVR-Change和Birds-to-Words上的大量实验证明了所提出的建模框架的有效性。代码和模型将在https://github.com/yaolinli/IDC上发布。
2022-02-09 cs.CL cs.CV cs.MM