首页/论文/1910.09702

arXiv 1910.097022019-10-22cs.CL

用于句子和片段级别宣传检测的微调神经模型

Fine-Tuned Neural Models for Propaganda Detection at the Sentence and Fragment levels

Columbia University（哥伦比亚大学）

Tariq Alhindi, Jonas Pfeiffer, Smaranda Muresan

备注：: Accepted to the 2nd Workshop on NLP for Internet Freedom (NLP4IF): Censorship, Disinformation, and Propaganda
DOI：: 10.18653/v1/D19-5013

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

本文介绍了NLP 4IF 2019细粒度宣传检测共享任务的CUNLP提交。根据我们在盲测集上的得分，我们的系统在26个团队中完成了第5个片段级分类任务，在11个团队中完成了第5个片段级分类任务。我们提出了我们的模型，讨论我们的消融研究和实验，并分析我们的表现对所有18个宣传技术存在于语料库的共享任务。

英文摘要：

This paper presents the CUNLP submission for the NLP4IF 2019 shared-task on FineGrained Propaganda Detection. Our system finished 5th out of 26 teams on the sentence-level classification task and 5th out of 11 teams on the fragment-level classification task based on our scores on the blind test set. We present our models, a discussion of our ablation studies and experiments, and an analysis of our performance on all eighteen propaganda techniques present in the corpus of the shared task.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

了解BERT在宣传分析中的表现

Understanding BERT performance in propaganda analysis

Cornell Tech（康奈尔科技学院）

在本文中，我们描述了我们的系统中使用的共享任务细粒度的宣传分析在句子级别。尽管任务具有挑战性，但我们的预训练BERT模型（YMJA团队）在共享任务提供的训练数据集上进行了微调，在测试集上获得了0.62 F1，在参加比赛的25个团队中排名第三。我们提出了一组说明性的实验，以更好地了解我们的BERT模型在这个共享任务的性能。此外，我们还在给定的数据集之外探索可能由我们的系统产生的假阳性案例。我们发现，尽管给定的测试集上的高性能，我们的系统可能有分类的意见件作为宣传的倾向，并不能区分宣传讲话的报价从实际使用的宣传技术。

2019-11-11cs.CL

NLP4IF-2019共享任务对细粒度宣传检测的发现

Findings of the NLP4IF-2019 Shared Task on Fine-Grained Propaganda Detection

Qatar Computing Research Institute, HBKU（哈马德·本·哈利法大学卡塔尔计算研究所）；Università di Bologna（博洛尼亚大学）

我们提出了关于细粒度宣传检测的共享任务，该任务是作为EMNLP-IJCNLP 2019年NLP 4 IF研讨会的一部分组织的。有两个子任务。FLC是一个片段级任务，要求识别新闻文章中的宣传文本片段，并预测每个片段中使用的特定宣传技术（18路分类任务）。SLC是一个文本级的二元分类任务，要求检测包含宣传的句子。共有12个小组提交了FLC任务的系统，25个小组提交了SLC任务的系统，14个小组最终提交了系统描述文件。对于这两个子任务，大多数系统都设法以相当大的幅度超过了基线。排行榜和比赛数据可在http://propaganda.qcri.org/nlp4if-shared-task/上查阅。

2019-10-20cs.CLcs.SI

新闻文章中宣传性的细粒度分析

Fine-Grained Analysis of Propaganda in News Articles

Qatar Computing Research Institute, HBKU（哈马德·本·哈利法大学卡塔尔计算研究所）；MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）；Università di Bologna（博洛尼亚大学）；A Data Pro

宣传的目的是影响人们的心态，以推进具体议程。以前的工作已经解决了在文件级别的宣传检测，通常标记为宣传性新闻媒体的所有文章作为宣传。这种嘈杂的黄金标签不可避免地会影响任何在其上训练的学习系统的质量。大多数现有系统的另一个问题是缺乏可解释性。为了克服这些限制，我们提出了一个新的任务：通过检测包含宣传技术的所有片段及其类型来执行文本的细粒度分析。特别是，我们创建了一个语料库的新闻文章手动注释的片段水平与18宣传技术，我们提出了一个合适的评价措施。我们进一步设计了一个新的多粒度神经网络，我们表明，它优于几个强大的基于BERT的基线。

2019-10-06cs.AIcs.CLcs.IR

语篇结构引导的细粒度宣传识别

Discourse Structures Guided Fine-grained Propaganda Identification

Texas A&M University（德克萨斯A&M大学）

本文提出利用局部和全局语篇结构辅助细粒度宣传识别，通过两个教师模型分别建模句子间语篇关系和句子语篇角色，并以特征融合或知识蒸馏方式融入，在基准数据集上显著提升了宣传内容识别的精确率和召回率。

2023-10-28cs.CL

注释和创建子句子摘要亮点

Towards Annotating and Creating Sub-Sentence Summary Highlights

University of Central Florida（中佛罗里达大学）；Amazon（亚马逊）

突出显示是一个强有力的工具，可以挑出重要的内容并加以强调。在子句级别创建摘要亮点是特别可取的，因为子句比整句更简洁。它们也比单个单词和短语更适合，这些单词和短语可能会导致不流畅，支离破碎的摘要。在本文中，我们试图通过注释值得总结的子句和教学分类器来生成摘要亮点。我们的任务是共同选择重要的句子，并从每个句子中识别出一个信息量最大的文本单元。这个公式大大降低了句子压缩中涉及的任务复杂性。我们的研究提供了新的基准和基线，在子句水平上产生的亮点。

2019-10-17cs.CL

SocCogCom在SemEval-2020的任务11：使用句子级情绪显著性特征表征和检测宣传

SocCogCom at SemEval-2020 Task 11: Characterizing and Detecting Propaganda using Sentence-Level Emotional Salience Features

Institute of High Performance Computing (IHPC)（高性能计算研究所）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局）

本文介绍了一个系统开发的检测宣传技巧，从新闻文章。我们专注于研究如何从新闻片段中提取的情感显着性特征可以帮助描述和预测宣传技术的存在。相关性分析显示出有趣的模式，例如，“加载语言”和“口号”技术与效价和快乐强度呈负相关，但与愤怒，恐惧和悲伤强度呈正相关。相比之下，“挥舞旗帜”和“诉诸恐惧偏见”的模式正好相反。通过预测实验，结果进一步表明，而BERT的功能获得F1分数为0.548，情绪强度功能和BERT混合功能能够获得F1分数为0.570，当一个简单的前馈网络被用作在两种设置中的分类器。在黄金测试数据上，我们的系统在14种宣传技术的总体检测效率上获得了0.558的微平均F1分数。它在检测“装语言”（F1 = 0.772）、“名称呼叫和标记”（F1 = 0.673）、“怀疑”（F1 = 0.604）和“挥舞旗帜”（F1 = 0.543）方面表现相对较好。

2020-08-29cs.CLcs.CY

更多相关论文收起更多论文

媒体偏见要素表：媒体偏见类型和宣传技巧的句子级分类

The Table of Media Bias Elements: A sentence-level taxonomy of media bias types and propaganda techniques

Center for Responsible Artificial Intelligence (CRAI), Coburg University of Applied Sciences and Arts（负责任人工智能中心（CRAI）、科堡应用科学与艺术大学）；Center for Responsible Artificial Intelligence (CRAI), and University of Sheffield, Department of Computer Science（负责任人工智能中心（CRAI）、谢菲尔德大学计算机科学系）

本文提出一个句子级的媒体偏见分类体系，通过分析26,464个句子，揭示偏见表达的细粒度类型及传播技巧，并提供识别指导。

2026-01-08cs.CLcs.CY

COVID-19疫情期间句子层面的宣传检测

Detecting Propaganda on the Sentence Level during the COVID-19 Pandemic

Tunghai University（东海大学）

随着COVID-19大流行，社交媒体上的虚假信息、阴谋、可疑内容和外国对手操纵的信息传播激增。这种恶意的网络行为可能会导致社会两极分化、健康危机和财产损失。在本文中，我们使用在Reddit上训练的微调上下文嵌入，解决了2020年3月COVID-19疫情被确认为大流行期间此类用户账户及其在Twitter上的目标问题的宣传检测。我们的研究结果显示，亲中国的群体似乎比中立群体多发了35到115倍。与此同时，中立群体在推特上发布了更多积极态度的内容，并对COVID-19疫情发出警报。这个亲中国的团体也在政治问题上使用了更多呼吁采取行动的措辞，而这些问题不一定与中国有关。

2021-07-31cs.CLcs.CYcs.LG

InfoCSE：信息聚合的句子嵌入对比学习

InfoCSE: Information-aggregated Contrastive Learning of Sentence Embeddings

Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Kuaishou Technology（快手科技）

对比学习在句子嵌入学习中得到了广泛的研究，它假设同一个句子的不同观点的嵌入更接近。这个假设带来的约束是弱的，一个好的句子表示还应该能够重构原始的句子片段。因此，本文提出了一个信息聚合的对比学习框架学习无监督句子嵌入，称为InfoCSE。InfoCSE通过引入额外的Masked语言模型任务和精心设计的网络，强制[CLS]位置的表示聚合更密集的句子信息。我们在几个基准数据集上评估了所提出的InfoCSE的语义文本相似性（STS）任务。实验结果表明，InfoCSE在BERT-base和BERT-large上的平均Spearman相关性分别为2.60%和1.77%，优于SimCSE，在无监督语句表示学习方法中取得了最好的效果.我们的代码可从https://github.com/caskcsg/sentemb/tree/main/InfoCSE获得。

2022-10-14cs.CL

SemEval-2020上的ApplicaAI任务11：在RoBERTa-CRF上，跨越CLS以及自我训练是否对他们有帮助

ApplicaAI at SemEval-2020 Task 11: On RoBERTa-CRF, Span CLS and Whether Self-Training Helps Them

本文介绍了宣传技术分类（TC）任务的优胜制和宣传跨度识别（SI）任务的亚军制。TC任务的目的是确定一个实用的宣传技术给定的宣传文本片段。SI任务的目标是找到包含至少一种宣传技巧的特定文本片段。这两种解决方案都使用了自我训练的半监督学习技术。有趣的是，尽管CRF很少用于基于transformer的语言模型，但SI任务是用Roberta-CRF架构来处理的。提出了一个基于RoberTa的模型集成TC任务，其中一个使用我们在本文中介绍的跨度CLS层。除了描述提交的系统之外，还研究了架构决策和训练方案的影响，以及关于具有较低计算预算的相同或更好质量的训练模型的评论。最后给出了误差分析结果。

2020-09-05cs.CL

MultiSubs：一个大规模多模态多语言数据集

MultiSubs: A Large-scale Multimodal and Multilingual Dataset

Imperial College London（帝国理工学院）；Federal University of Mato Grosso（马托格罗索联邦大学）

本文介绍了一个大规模的多模态和多语种数据集，旨在促进研究接地的话，以图像在其语境中使用的语言。该数据集由选定的图像组成，以明确地说明电影字幕中句子表达的概念。该数据集是一个有价值的资源，因为（i）图像与文本片段而不是整个句子对齐;（ii）文本片段和句子可能有多个图像;（iii）句子是自由形式和真实世界;（iv）平行文本是多语言的。我们为人类设置了一个填空游戏来评估我们数据集的自动图像选择过程的质量。我们展示了数据集在两个自动任务上的实用性：（i）填空;（ii）词汇翻译。人工评估和自动模型的结果表明，图像可以是一个有用的补充，文本上下文。该数据集将有利于研究单词的视觉基础，特别是在自由形式句子的背景下，并且可以在知识共享许可下从https://doi.org/10.5281/zenodo.5034604获得。

2022-06-16cs.CL

SemEval-2020上的LTIatCMU任务11：为多粒度宣传跨度识别描述多级别特征

LTIatCMU at SemEval-2020 Task 11: Incorporating Multi-Level Features for Multi-Granular Propaganda Span Identification

Language Technology Institute（语言技术研究所）；Carnegie Mellon University（卡内基梅隆大学）

在本文中，我们描述了我们提交的任务，宣传跨度识别新闻文章。我们引入了一个基于BERT-BiLSTM的跨度级宣传分类模型，该模型可以识别句子中哪些标记跨度表示宣传。“多粒度”模型在文本粒度的各个级别上整合了语言知识，包括单词、句子和文档级别的句法、语义和语用影响特征，与其语言不可知变体相比，这些特征显著提高了模型性能。为了促进更好的表示学习，我们还收集了1万篇新闻文章的语料库，并使用它来微调模型。最后的模型是一个多数投票集成，学习不同的宣传类边界，利用不同的子集纳入知识，并达到$4^{th}$的位置上的测试排行榜。我们的最终模型和代码发布在https://github.com/sopu/PropagandaSemEval2020上。

2020-08-20cs.CLcs.IRcs.LG

深度学习用于文章评分支持中的句子聚类

Deep learning for sentence clustering in essay grading support

University of Turku（图尔库大学）

作文作为一种评估形式，比简答题和多项选择题更深层次地测试学生的知识。然而，手工评估论文是费时费力的。自动聚类的论文，或其片段，人工评估之前，提出了一个可能的解决方案，以减少在评估过程中所需的工作。由于自然语言的可变性和模糊性，这种聚类提出了许多挑战。在本文中，我们介绍了两个数据集的本科学生的文章在芬兰，手动注释的句子层次上的突出参数。使用这些数据集，我们评估了几种深度学习嵌入方法对句子聚类的适用性，以支持文章评分。我们发现，最合适的方法的选择取决于考试问题和答案的性质，深度学习方法能够，但不能保证比基于词汇重叠的简单方法更好的性能。

2021-04-23cs.CL

BPGC at SemEval-2020 Task 11：Propaganda Detection in News Articles with Multi-Granularity Knowledge Sharing and Linguistic Features based Enseminar Learning（英语：BPGC）

BPGC at SemEval-2020 Task 11: Propaganda Detection in News Articles with Multi-Granularity Knowledge Sharing and Linguistic Features based Ensemble Learning

BITS Pilani K. K. Birla Goa Campus（印度博拉理工学院果阿分校）

宣传传播志同道合的人的意识形态和信仰，洗脑他们的观众，有时导致暴力。SemEval 2020 Task-11旨在设计用于新闻宣传检测的自动化系统。任务-11由两个子任务组成，即，跨度识别-给定任何新闻文章，系统标记那些包含至少一种宣传技巧的特定片段;和技术分类-在14种宣传技巧中正确分类给定的宣传者声明。对于子任务1，我们使用从预训练的Transformer模型中提取的上下文嵌入来表示不同粒度的文本数据，并提出了一种多粒度知识共享方法。对于子任务2，我们使用具有语言特征的BERT和逻辑回归分类器的集成。我们的研究结果表明，语言特征是在高度不平衡的数据集中覆盖少数类的强有力的指标。

2020-08-24cs.CL

基于多模态卷积神经网络的图像与句子匹配

Multimodal Convolutional Neural Networks for Matching Image and Sentence

Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）

在本文中，我们提出了多模态卷积神经网络（m-CNN）的图像和句子匹配。我们的m-CNN提供了一个具有卷积架构的端到端框架，以利用图像表示，单词组成以及两种模式之间的匹配关系。更具体地说，它由一个图像CNN编码图像内容，和一个匹配CNN学习图像和句子的联合表示。匹配的CNN将词组合成不同的语义片段，并学习图像与不同层次的语义片段之间的模态间关系，从而充分利用图像与句子之间的匹配关系。在双向图像和句子检索的基准数据库上的实验结果表明，所提出的m-CNN可以有效地捕获图像和句子匹配所需的信息。具体来说，我们提出的m-CNN在Flickr 30 K和Microsoft COCO数据库上进行双向图像和句子检索，达到了最先进的性能。

2015-08-29cs.CLcs.CVcs.NE

用于细粒度新闻宣传检测的神经架构

Neural Architectures for Fine-Grained Propaganda Detection in News

Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））

本文介绍了我们的系统（MIC-CIS）的细节和参与细粒度宣传检测共享任务2019的结果。为了解决句子（SLC）和片段级（FLC）宣传检测的任务，我们探索了不同的神经架构（例如，CNN、LSTM-CRF和BERT）并提取语言（例如，词性、命名实体、可读性、情感、情绪等），布局和专题功能。具体来说，我们设计了多粒度和多任务神经架构，以联合执行句子和片段级别的宣传检测。此外，我们研究了不同的集成方案，如多数表决，松弛表决等，以提高整体系统的性能。与其他参与系统相比，我们的提交在FLC和SLC任务中分别排名第三和第四。

2019-09-13cs.CLcs.IRcs.LG

SemEval-2020任务11：检测新闻文章中的宣传技巧

SemEval-2020 Task 11: Detection of Propaganda Techniques in News Articles

Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）；Università di Bologna（博洛尼亚大学）；Paderborn University（帕德博恩大学）；A Data Pro（A Data Pro 公司）

我们介绍了SemEval-2020任务11关于新闻文章中宣传技巧检测的结果和主要发现。该任务包含两个子任务。子任务SI是关于跨度识别：给定一个纯文本文档，找出包含宣传的特定文本片段。子任务TC是关于技术分类的：给定一个特定的文本片段，在一个完整的文件的上下文中，确定它使用的宣传技术，从14种可能的宣传技术中选择。这项任务吸引了大量的参与者：250个团队报名参加，44个团队提交了测试集。在本文中，我们提出的任务，分析结果，并讨论了系统的提交和他们使用的方法。对于这两个子任务，最好的系统使用预先训练的Transformers和集成。

2020-09-06cs.CLcs.CY

代价敏感的BERT在不平衡数据下的泛化句子分类

Cost-Sensitive BERT for Generalisable Sentence Classification with Imbalanced Data

University of Birmingham（伯明翰大学）；University of Warwick（华威大学）；Alan Turing Institute（阿兰·图灵研究所）

近年来，由于新闻产生和消费方式的技术和社会变化，宣传的自动识别变得越来越重要。使用BERT可以有效地解决这个任务，这是一个强大的新架构，可以针对文本分类任务进行微调，这并不奇怪。然而，与处理新闻文档和其他形式的非情境化社交通信（例如，情感分析）的其他任务一样，宣传检测固有地处理其类别同时不平衡和不相似的数据。我们表明，BERT，而能够处理不平衡的类，没有额外的数据增强，不概括以及当训练和测试数据是足够不相似的（通常是新闻来源的情况下，其主题随着时间的推移而演变）。我们展示了如何通过提供数据集之间的相似性的统计度量和当训练集和测试集不相似时将成本加权纳入BERT的方法来解决这个问题。我们测试这些方法上的宣传技术语料库（PTC），并实现了第二高的分数对宣传级别的分类。

2020-03-16cs.CLcs.LGstat.ML

ProBel：结合技术、 spans 与解释的宣传检测

ProBel: Propaganda Detection with Techniques, Spans, and Explanations

Qatar Computing Research Institute（卡塔尔计算研究所）；University of Padova（帕多瓦大学）

ProBel 是含阿拉伯语和英语的宣传检测资源，支持多任务，双语多任务模型性能最优，联合训练效果更稳定，将发布相关数据与代码。

2026-08-25cs.AIcs.CLcs.LG

利用文本中的陈述性知识和一阶逻辑进行细粒度宣传检测

Leveraging Declarative Knowledge in Text and First-Order Logic for Fine-Grained Propaganda Detection

Fudan University（复旦大学）；Microsoft Corporation（微软公司）；Sun Yat-Sen University（中山大学）

我们研究了新闻文章中宣传性文本片段的检测。而不是仅仅从训练数据中的输入输出数据点学习，我们引入了一种方法来注入细粒度宣传技术的声明性知识。具体来说，我们利用一阶逻辑和自然语言表达的声明性知识。前者指的是粗粒度和细粒度预测之间的逻辑一致性，用于通过命题布尔表达式来正则化训练过程。后者是指每个宣传技术的字面定义，用于获得正则化模型参数的类表示。我们进行实验的宣传技术语料库，一个大的手动注释数据集细粒度的宣传检测。实验表明，我们的方法实现了卓越的性能，证明利用声明性知识可以帮助模型做出更准确的预测。

2020-10-05cs.AIcs.CLcs.IR

双向图像句子映射的深度片段嵌入

Deep Fragment Embeddings for Bidirectional Image Sentence Mapping

Stanford University（斯坦福大学）

我们引入了一个模型，通过视觉和自然语言数据的多模态嵌入的图像和句子的双向检索。与以前直接将图像或句子映射到公共嵌入空间的模型不同，我们的模型在更精细的层次上工作，并将图像片段（对象）和句子片段（类型依赖树关系）嵌入到公共空间中。除了在以前的工作中看到的排名目标之外，这允许我们添加一个新的片段对齐目标，该目标可以学习直接将这些片段跨模态关联起来。广泛的实验评估表明，在图像和句子的全局水平和各自的片段的更精细的水平上的推理显着提高图像-句子检索任务的性能。此外，我们的模型提供了可解释的预测，因为推断的模态间片段对齐是明确的。

2014-06-22cs.CLcs.CVcs.LG

GPT辅助标注新闻文本中用于可解释宣传技巧检测的修辞与语言特征

GPT Assisted Annotation of Rhetorical and Linguistic Features for Interpretable Propaganda Technique Detection in News Text

Technological University Dublin（都柏林理工大学）；SFI Centre for Research Training in Machine Learning（SFI机器学习研究培训中心）；School of Computer Science（计算机学院）；Artificial Intelligence and Cognitive Load Research Lab（人工智能与认知负荷研究实验室）

本研究将22种修辞语言特征编码并借助RhetAnn工具人工标注，结合GPT-3.5微调实现低成本可解释宣传技巧检测，效果媲美GPT-4且成本降低十倍。

2024-07-16cs.AIcs.CL

句子的交互作用重要吗？利用句子级表示进行假新闻分类

Do Sentence Interactions Matter? Leveraging Sentence Level Representations for Fake News Classification

Carnegie Mellon University（卡内基梅隆大学）

通过在线媒体渠道传播的虚假新闻和误导性信息的不断增长需要一种自动检测此类新闻文章的方法。在区分可信与其他类型的新闻文章（讽刺，宣传，恶作剧）的少数有限作品中，没有一个在文档中建模句子交互。我们观察到一个有趣的模式，在不同类型的新闻文章的句子相互作用的方式。为了捕捉长新闻文章的这类信息，我们提出了一种基于图神经网络的模型，该模型不需要特征工程来进行细粒度的假新闻分类。通过实验，我们证明了我们提出的方法击败了强大的神经基线，并在现有数据集上达到了最先进的精度。此外，我们建立了我们的模型，通过评估其性能在域外的情况下的泛化能力。代码可在https://github.com/MysteryVaibhav/fake_news_semantics上获得

2019-10-27cs.CLcs.LGstat.ML

CoheSentia：生成文本连贯性增量评估与整体评估的新基准

CoheSentia: A Novel Benchmark of Incremental versus Holistic Assessment of Coherence in Generated Texts

Bar Ilan University（巴伊兰大学）

本文提出CoheSentia基准，通过全局和增量两种标注方法评估生成文本连贯性，发现增量模式标注一致性更高，且现有微调模型在连贯性检测上表现不佳，凸显改进需求。

2023-10-25cs.AIcs.CLcs.DB

一种改进的面向数据的词汇功能分析语法分析器

An improved parser for data-oriented lexical-functional analysis

我们提出了一个LFG-DOP解析器，它使用片段从LFG注释的句子来解析新的句子。在Verbmobil和Homecentre语料库上的实验表明：（1）Viterbi n best搜索比MonteCarlo搜索快100倍，而两者都达到了相同的精度;（2）对于LFG-DOP，DOP假设的分析精度随着片段大小的增加而增加;（3）LFG-DOP的相对频率估计比折扣频率估计性能差;（4）LFG-DOP的性能明显优于Tree-DOP，仅在树结构上进行评价。

2000-09-27cs.CL

自适应双语对齐使用多语言句子嵌入

Adaptative Bilingual Aligning Using Multilingual Sentence Embedding

Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）

本文提出自适应双语对齐系统AIlign，利用句子嵌入提取锚点，以准线性复杂度实现与最先进技术相当的结果，并能处理局部平行和非单调文本。

2024-03-18cs.CL

神经机器翻译的语码转换预训练

Code-switching pre-training for neural machine translation

Tencent Minority-Mandarin Translation（腾讯民汉翻译）

提出了一种新的神经机器翻译（NMT）预训练方法--语码转换预训练（CSP）。与传统的预训练方法随机屏蔽输入句子中的一些片段不同，本文提出的CSP随机地用目标语言中的翻译词替换源句子中的一些词。具体来说，首先在源语言和目标语言之间进行无监督的词嵌入映射进行词典归纳，然后根据提取的翻译词典随机替换输入句子中的某些词。CSP采用编码器-解码器框架：其编码器将代码混合的句子作为输入，其解码器预测输入句子的替换片段。通过这种方式，CSP能够通过显式地充分利用从源和目标单语语料库中提取的跨语言对齐信息来预训练NMT模型。此外，我们还消除了由[mask]等人工符号引起的pretrain-finetune差异。为了验证所提出的方法的有效性，我们进行了大量的实验，无监督和监督的NMT。实验结果表明，CSP实现了显着的改善基线没有预训练或与其他预训练方法。

2020-09-17cs.CL

基于翻译片段的语法错误生成

Grammatical Error Generation Based on Translated Fragments

University of Helsinki（赫尔辛基大学）

我们对句子片段进行神经机器翻译，以便为英语语法错误纠正创建大量的训练数据。我们的方法旨在模拟第二语言学习者所犯的错误，并产生更广泛的非母语风格的语言相比，国家的最先进的合成数据创建方法。除了纯粹的语法错误外，我们的方法还会产生其他类型的错误，例如词汇错误。我们使用神经序列到序列模型进行语法纠错实验，并进行定量和定性评价。在使用我们提出的方法创建的数据上训练的模型在测试数据上的表现优于基线模型，具有高比例的错误。

2021-04-20cs.CL

如果我们简单地交换两个文本片段呢？一种简单有效的测试自然语言推理中混杂信号鲁棒性的方法

What If We Simply Swap the Two Text Fragments? A Straightforward yet Effective Way to Test the Robustness of Methods to Confounding Signals in Nature Language Inference Tasks

Carnegie Mellon University（卡内基梅隆大学）；Southeast University（东南大学）

自然语言推理任务是确定一对自然语言句子之间推理关系的预测任务。随着NLI的日益普及，许多最先进的预测模型已经提出了令人印象深刻的性能。然而，一些作品已经注意到，在收集的NLI数据集，可能会导致这些模型的性能高估的统计违规行为，并提出了补救措施。在本文中，我们进一步调查的统计不规则性，我们称之为混杂因素，NLI数据集。由于相信一些NLI标签应该在交换操作下保留，我们提出了一种简单而有效的方法（交换两个文本片段）来评估自然缓解观察到的问题的NLI预测模型。此外，我们继续训练的预测模型与我们的交换方式，并提出使用不同的百分比的训练文本片段被交换的模型的评估性能的偏差来描述的预测模型的鲁棒性。我们的评估指标导致一些有趣的理解最近公布的NLI方法。最后，我们还将交换操作应用于NLI模型，以了解这种简单方法在为其他NLP传输任务训练通用句子嵌入时减轻混淆因素问题的有效性。

2018-11-12cs.AIcs.CL

面向大规模检索的精确法律句子边界检测：NUPunkt 与 CharBoundary

Precise Legal Sentence Boundary Detection for Retrieval at Scale: NUPunkt and CharBoundary

ALEA Institute（ALEA研究所）；Stanford CodeX（斯坦福CodeX项目）；Illinois Tech - Chicago Kent Law（伊利诺伊理工大学芝加哥肯特法学院）；Bucerius Law School（布塞留斯法学院）

本文提出 NUPunkt 和 CharBoundary 两个法律文本句子边界检测库，在 25,000 余份法律文档上实现 91.1% 精确率及每秒千万字符处理速度，较通用工具精确率提升 29-32%，有效改善检索增强生成系统的上下文完整性。

2025-04-05cs.CL

DiscoSG：通过迭代图细化实现篇章级文本场景图解析

DiscoSG: Towards Discourse-Level Text Scene Graph Parsing through Iterative Graph Refinement

Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University（武汉大学网络空间安全学院，教育部空天信息安全与可信计算重点实验室）；Faculty of Information Technology, Monash University（莫纳什大学信息技术学院）；School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院）

针对篇章级文本场景图解析，提出DiscoSG任务及数据集，并开发轻量级解析器DiscoSG-Refiner，通过迭代图细化提升性能，速度远超GPT-4o。

2025-10-24cs.CL

阿拉伯之夜上的自动动机索引

Automated Motif Indexing on the Arabian Nights

College of Computer Science and Information Systems（计算机科学与信息系统学院）；Najran University（纳杰兰大学）；Knight Foundation School of Computing and Information Sciences（骑士基金会计算与信息科学学院）

本文提出首个自动动机索引方法，利用《阿拉伯之夜》文本和El-Shamy的动机索引，通过五种方法检测动机表达，最佳系统在F1分数上达到0.85。

2026-03-06cs.CL

基于树约束的图神经网络的参数挖掘

Tree-Constrained Graph Neural Networks For Argument Mining

University of Bologna（博洛尼亚大学）；University of Modena and Reggio Emilia（摩德纳-雷焦艾米利亚大学）

我们提出了一种新的图神经网络的架构，它的灵感来自树核背后的想法，即通过考虑它们的共同子结构（称为片段）来测量树之间的相似性。通过对学习问题施加一系列正则化约束，我们利用了一种池化机制，该机制在产生嵌入的节点软分配函数中引入了片段的概念。我们提出了一个广泛的实验评估收集的句子分类任务进行了几个参数挖掘语料库，表明所提出的方法表现良好，相对于国家的最先进的技术。

2021-09-02cs.AIcs.CLcs.LG