Commonsense Knowledge with Negation: A Resource to Enhance Negation Understanding
University of Arizona(亚利桑那大学);University of North Carolina Asheville(北卡罗来纳州阿什维尔大学)
本文提出通过自动扩展常识知识库以包含否定,生成包含200万条if-then关系的新型语料库,并展示预训练LLM可提升否定理解能力。
2026-04-21 cs.CL
BERT Goes to Law School: Quantifying the Competitive Advantage of Access to Large Legal Corpora in Contract Understanding
Lexion
在特定领域的语料库上微调语言模型,如BERT,已被证明在科学论文和生物医学文本等领域有价值。在本文中,我们表明,微调BERT的法律文件同样提供了宝贵的改善自然语言处理任务的法律领域。证明这一结果对于分析商业协议具有重要意义,因为由于其机密性,获得大型法律语料库具有挑战性。因此,我们表明,能够访问大型法律语料库是商业应用和分析合同的学术研究的竞争优势。
2019-11-01 cs.AI cs.CL cs.LG
OmniPhys: A Unified Multimodal Benchmark for Physics Understanding and Generation from Chinese Educational Corpora
East China Normal University(华东师范大学)
研究人员推出OmniPhys这一覆盖中文教育语料库中中学至大学物理问题的大规模多模态基准,含15246个问题与19850张图像,可评估MLLMs的物理理解、推理及结构化图表生成能力,发现当前模型存在复杂推理与视觉生成差距,将推进物理领域多模态智能发展。
2026-08-27 cs.CL
Semiparametric Latent Topic Modeling on Consumer-Generated Corpora
本文提出一种结合非负矩阵分解和半参数回归的两步半参数主题模型,解决了传统方法过拟合和难以重构稀疏主题结构的问题,在小规模且词汇有限的语料库中表现更优,并能提供可解释的主题定义。
2021-07-13 cs.CL cs.LG
Reducing Sentiment Bias in Language Models via Counterfactual Evaluation
DeepMind(深度思维);University of California, Los Angeles(加州大学洛杉矶分校);University College London(伦敦大学学院)
语言建模架构的进步和大型文本语料库的可用性推动了自动文本生成的进展。虽然这导致模型能够生成连贯的文本,但它也促使模型内化训练语料库中存在的社会偏见。本文旨在量化和减少语言模型表现出的一种特殊类型的偏见:生成文本的情感偏见。给定条件情境(例如,书写提示)和语言模型,我们分析所生成的文本的情感是否(以及如何)受到敏感属性的值的变化的影响(例如,国家名称、职业、性别),在条件语境中使用一种反事实评价的形式。我们通过采用公平的机器学习文献中的个人和群体公平性指标来量化情感偏见,并证明在两个不同的语料库(新闻文章和维基百科)上训练的大规模模型表现出相当大的偏见水平。然后,我们提出嵌入和情感预测派生正则化的语言模型的潜在表示。正则化改进了公平性度量,同时保留了可比的困惑度和语义相似度。
2020-10-08 cs.CL cs.CY cs.LG
A Tool for Collecting Domain Dependent Sortal Constraints From Corpora
在本文中,我们描述了一个工具,旨在半自动地生成特定于一个域的排序约束,用于自然语言(NL)理解系统。该工具使用ATIS域中的SRI Gemini NL理解系统进行评估。
1995-01-31 cmp-lg cs.CL
CompText: Visualizing, Comparing & Understanding Text Corpus
UC Davis(加州大学戴维斯分校)
自然语言处理(NLP)中的一种常见做法是在不通读整个文献的情况下可视化文本语料库,仍然抓住所描述的中心思想和关键点。长期以来,研究者们致力于从文本中提取主题,并根据主题在语料库中的相对重要性将其可视化。然而,最近,研究人员开始提出更复杂的系统,不仅暴露了语料库的主题,还暴露了与主题密切相关的词,为用户提供了一个整体视图。这些详细的可视化催生了基于可视化的文本语料库比较研究。主题经常被比较以理想化语料库之间的差异。然而,为了从不同的语料库中获取更大的语义,研究人员已经开始根据与文本相关的主题的情感来比较文本。通过比较权重最大的词,可以了解语料库的重要主题。有多种现有的文本比较方法,目前比较的主题,而不是情绪,但我们认为,专注于情感携带的话会更好地比较两个语料库。因为只有情感才能解释文本的真实感受,而不仅仅是主题,没有情感的主题只是名词。我们的目标是区分语料库,重点是情感,而不是比较所有的话出现在两个语料库。这背后的基本原理是,这两个语料库没有多少相同的词进行并排比较,所以比较情感词给我们一个想法,语料库是如何吸引读者的情感。我们可以认为,熵或主题的意外性和分歧也应该是重要的,并帮助我们确定关键的支点和语料库中某些主题的重要性以及相对情绪。
2022-07-27 cs.CL
Treebanking User-Generated Content: a UD Based Overview of Guidelines, Corpora and Unified Recommendations
Università degli Studi di Cagliari(卡利亚里大学);Università degli Studi di Torino(都灵大学);Dublin City University(都柏林城市大学);University of Stuttgart(斯图加特大学);Universitat Politècnica de València(瓦伦西亚理工大学);University of Mannheim(曼海姆大学);Leibniz-Institut für Deutsche Sprache Mannheim(曼海姆莱布尼茨德语研究所);INRIA Paris(法国国家信息与自动化研究所巴黎中心);Georgetown University(乔治城大学)
本文讨论了导致网络和社交媒体上用户生成文本分析困难的主要语言现象,并提出了一套在通用句法分析框架内对其进行处理的注释准则。一方面,越来越多的树库以用户生成的内容为特色,另一方面,这些资源的处理方式有些不一致,本文的目的是双重的:(1)根据现有的文献,对这些树库提供一个简明而全面的概述,并介绍其主要特点和对其注释标准的比较分析,(2)提出一套基于唯一性原则的注释准则,以促进对这类文本中特殊现象的一致处理。本文的总体目标是为有兴趣在UD中开发类似资源的研究人员提供一个通用框架,从而促进跨语言的一致性,这是UD精神的核心原则。
2020-11-03 cs.CL
SWEAT: Scoring Polarization of Topics across Different Corpora
Bocconi University(博科尼大学);University of Milano-Bicocca(米兰比可卡大学)
理解语料库中的观点差异是计算社会科学的一项基本任务。在本文中,我们提出了切片词嵌入关联测试(SWEAT),这是一种新颖的统计指标,用于计算主题词集在两种分布表示中的相对极化。为此,SWEAT使用了两个额外的词集,被认为具有相反的效价,代表两个不同的极点。我们验证了我们的方法,并说明了一个案例研究,以显示所引入的措施的实用性。
2021-09-15 cs.CL
Compass-aligned Distributional Embeddings for Studying Semantic Differences across Corpora
Bocconi University(博科尼大学);BUP Solution(BUP解决方案公司);University of Milan-Bicocca(米兰比可卡大学)
Word2vec是最常用的生成词嵌入的算法之一,因为它很好地结合了效率、生成的表示的质量和认知基础。然而,词义不是静态的,它取决于词语使用的上下文。词义的差异取决于时间、地点、主题和其他因素,可以通过分析从代表这些因素的集合中的不同语料库生成的嵌入来研究。例如,语言进化可以通过收集不同时期发表的新闻文章来研究。在本文中,我们提出了一个通用的框架,以支持跨语料库语言研究与词嵌入,从不同的语料库中生成的嵌入可以进行比较,以找到跨语料库的意义的对应关系和差异。CADE是我们框架的核心组件,解决了对齐不同语料库生成的嵌入的关键问题。特别是,我们专注于提供坚实的证据,CADE的有效性,通用性和鲁棒性。为此,我们在不同的领域进行定量和定性实验,从时间词嵌入到语言本地化和主题分析。我们的实验结果表明,CADE实现国家的最先进的或优越的性能的任务,其中几个竞争的方法是可用的,但提供了一个通用的方法,可用于各种领域。最后,我们的实验揭示了对齐是可靠的条件下,这在很大程度上取决于跨语料库词汇重叠的程度。
2020-04-13 cs.AI cs.CL
ERNIE 2.0: A Continual Pre-training Framework for Language Understanding
Baidu Inc.(百度公司)
近年来,预训练模型在各种语言理解任务中取得了令人瞩目的成绩,这表明大规模语料库的预训练在自然语言处理中具有重要作用。目前的预训练程序通常集中在训练模型几个简单的任务,以掌握单词或句子的共现。然而,训练语料中除了共现信息外,还存在着其他有价值的词汇、句法和语义信息,如命名实体、语义接近度和语篇关系等。为了最大限度地提取训练语料中的词汇、句法和语义信息,我们提出了一个持续的预训练框架ERNIE 2.0,它通过不断的多任务学习,逐步建立和学习预训练任务。实验结果表明,ERNIE 2.0在16个任务上的性能优于BERT和XLNet,其中包括GLUE基准上的英语任务和几个常见的中文任务。源代码和预训练模型已在https://github.com/PaddlePaddle/ERNIE上发布。
2019-11-21 cs.CL
Contrastive Domain Adaptation for Question Answering using Limited Text Corpora
Technical University of Munich(慕尼黑工业大学);ETH AI Center(苏黎世联邦理工学院人工智能中心);ETH Zurich(苏黎世联邦理工学院)
问题生成最近在定制问答(QA)系统的新领域中显示出令人印象深刻的结果。这些方法避免了对来自新领域的手动注释的训练数据的需要,而是生成用于训练的合成问题-答案对。然而,现有的问题生成方法依赖于大量的综合生成的数据集和昂贵的计算资源,这使得这些技术在文本语料库大小有限时无法广泛使用。这是有问题的,因为许多利基领域依赖于小文本语料库,这自然限制了可以生成的合成数据的量。在本文中,我们提出了一个新的框架领域自适应称为对比领域自适应QA(CAQA)。具体来说,CAQA结合了问题生成和领域不变学习的技术,以回答有限文本语料库设置中的域外问题。在这里,我们训练QA系统的源数据和生成的数据从目标域与对比适应损失,被纳入训练目标。通过结合问题生成和领域不变学习的技术,我们的模型与最先进的基线相比取得了相当大的改进。
2021-08-31 cs.AI cs.CL
Introducing corpora Hlava Cor and Hlava AD: Human Label Variation in Coreference and Discourse Relations
Charles University, Faculty of Mathematics and Physics, Institute of Formal and Applied Linguistics(查理大学数学物理学院形式与应用语言学研究所)
为探究文本连贯性理解中的个体差异,构建了两个多标注捷克语语料库,分别针对共指识别和话语关系标注,并收集标注者的解释,发现标注一致性约60-65%,且自动模型分歧处人类标注更困难。
2026-06-25 cs.CL
SYNTHEMPATHY: A Scalable Empathy Corpus Generated Using LLMs Without Any Crowdsourcing
Columbia University(哥伦比亚大学)
针对共情对话语料稀缺且众包成本高的问题,提出利用LLM生成10.5万条共情回应的SYNTHEMPATHY语料库,微调Mistral 7B后平均共情得分提升。
2025-02-25 cs.CL
Automatic Creation of Text Corpora for Low-Resource Languages from the Internet: The Case of Swiss German
iCoSys Institute, University of Applied Sciences and Arts Western Switzerland(瑞士西部应用科学与艺术大学iCoSys研究所);University of Fribourg(弗里堡大学);Swisscom AG(瑞士电信公司)
本文介绍了SwissCrawl,最大的瑞士德语文本语料库。它由50多万个句子组成,是使用定制的网络抓取工具生成的,该工具也可以应用于其他低资源语言。该方法演示了如何免费提供的网页可以用来构建全面的文本语料库,这是自然语言处理的根本重要性。在实验评估中,我们表明,使用新的语料库导致语言建模任务的显着改善。为了捕获新内容,我们的方法将持续运行,以随着时间的推移不断增加语料库。
2020-06-16 cs.CL
Will This Idea Spread Beyond Academia? Understanding Knowledge Transfer of Scientific Concepts across Text Corpora
Stanford University(斯坦福大学);Harvard Business School(哈佛商学院);Carnegie Mellon University(卡内基梅隆大学);University of Southern California(南加利福尼亚大学)
什么样的基础研究理念更容易在实践中得到应用?关于知识转移模式的研究由来已久,但通常侧重于将文件作为分析单位,并将其转移到特定科学领域的实践中。在这里,我们研究翻译研究的科学概念的水平,为所有科学领域。我们使用三个语料库通过文本挖掘和预测建模来做到这一点:3860万篇论文摘要,400万篇专利文件和28万篇临床试验。我们提取科学概念(即,短语)作为“研究想法”的实例,创建由文献激发的概念级特征,然后跟踪超过450,000个新概念(从1995年到2014年出现)的轨迹,以确定导致这些想法中只有一小部分用于发明和药物试验的因素。我们的分析结果表明,有几种机制可以区分哪些科学概念将在实践中被采用,哪些不会。我们还证明,我们的衍生功能可以用来解释和预测知识转移的高精度。我们的工作为有兴趣鼓励转化研究的研究人员,从业人员和政府机构提供了更好的知识转移理解。
2020-10-13 cs.CL cs.CY cs.DL
AnchiBERT: A Pre-Trained Model for Ancient ChineseLanguage Understanding and Generation
Sichuan University(四川大学)
古代汉语是中华文化的精华。古汉语领域的自然语言处理任务主要有古今汉语翻译、诗歌生成、对联生成等。以往的研究通常使用监督模型,严重依赖于并行数据。然而,要获得大规模的古代汉语平行数据是困难的。为了充分利用更容易获得的单语古汉语语料库,我们发布了Anchi BERT,这是一个基于BERT体系结构的预训练语言模型,它是在大规模古汉语语料库上训练的。我们在语言理解和生成任务上对AnchiBERT进行了评估,包括诗歌分类、古今汉语翻译、诗歌生成和对联生成。实验结果表明,Anchi BERT优于BERT以及非预训练模型,并在所有情况下都达到了最先进的结果。
2021-04-21 cs.CL
The Growing Gains and Pains of Iterative Web Corpora Crawling: Insights from South Slavic CLASSLA-web 2.0 Corpora
Jožef Stefan Institute(乔泽夫·斯塔芬研究所);Faculty of Computer and Information Science, University of Ljubljana(卢布尔雅纳大学计算机与信息科学学院);Institute of Contemporary History(当代历史研究所);Natural Language Processing Centre, Masaryk University(马萨里克大学自然语言处理中心)
本文通过南斯拉夫语言的迭代网络爬取,生成了包含170亿单词的CLASSLA-web 2.0语料库,同时发现爬取后网络内容质量下降的问题。
2026-02-27 cs.CL
Data interference: emojis, homoglyphs, and issues of data fidelity in corpora and their results
Università degli Studi di Modena e Reggio Emilia(摩德纳和雷焦艾米利亚大学)
本文研究分词过程中表情符号和同形异义字符对语料库数据保真度的干扰,提出预处理方法以确保数字文本的准确表征,从而提升定量与定性语料分析的可靠性和可重复性。
2025-07-02 cs.CL
A Framework for Generating Annotated Social Media Corpora with Demographics, Stance, Civility, and Topicality
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);W.E. Upjohn Institute(W.E.厄普约翰研究所)
在本文中,我们介绍了一个框架,用于注释各种类别的社交媒体文本语料库。由于社交媒体数据是通过个人生成的,因此重要的是要注释个人人口统计属性的文本,以实现对语料库的社会技术分析。此外,在分析大型数据集时,我们通常可以注释一小部分数据样本,然后使用该样本训练预测模型来注释相关类别的完整数据。我们使用一个案例研究的Facebook评论语料库的学生贷款的讨论,这是注释性别,军事隶属关系,年龄组,政治倾向,种族,立场,topicalilty,新自由主义的意见和文明的评论。我们发布了三个Facebook评论数据集,以供进一步研究:https://github.com/socialmediaie/StudentDebtFbComments
2020-12-10 cs.CL cs.CY
Principled Paraphrase Generation with Parallel Corpora
HiTZ Center, University of the Basque Country (UPV/EHU)(巴斯克大学HiTZ中心);Meta AI
本文针对往返机器翻译复述生成易受歧义翻译影响的问题,提出基于信息瓶颈的对抗方法,通过匹配翻译分布学习表示,无需枢轴翻译即可生成复述,实现可控的保真度-多样性权衡且效果更优。
2023-05-23 cs.CL
Egyptian Dialect Stopword List Generation from Social Network Data
Canadian International College(加拿大国际学院);Ain Shams University(艾因夏姆斯大学)
本文提出了一种从在线社交网络(OSN)语料库中生成埃及方言(ED)停用词列表的方法。本研究旨在探讨去除ED停用词对情感分析任务的影响。之前生成的停用词列表是基于现代标准阿拉伯语(MSA)的,这不是OSN中使用的通用语言。我们已经生成了一个埃及方言的停用词列表,用于OSN语料库。我们比较文本分类的效率时,使用生成的列表与以前生成的MSA列表,并结合埃及方言列表与MSA列表。文本分类使用朴素贝叶斯和决策树分类器和两种特征选择方法,unigram和bigram。实验表明,去除ED停用词比仅使用MSA停用词列表提供更好的性能。
2015-04-13 cs.CL
Clustering Prominent People and Organizations in Topic-Specific Text Corpora
Claremont Graduate University(克莱蒙特研究生大学);Prince Sattam Bin Abdulaziz University(萨塔姆·本·阿卜杜勒阿齐兹王子大学)
文本文档中的命名实体是存在于现实世界中的文档中的人、组织、位置或其他类型的对象的名称。一个持续的研究挑战是使用计算技术来识别文本文档中的此类实体。一旦识别出来,就可以利用几种文本挖掘工具和算法来利用这些发现的命名实体并改进NLP应用程序。提出了一种基于语义相似度的人名和组织名聚类方法。该方法依赖于常见的命名实体识别技术和最近的词嵌入模型。使用用于命名实体的词嵌入模型生成的语义相似性分数用于聚类人和组织类型的相似实体。两名人类评委在一个由4,821篇关于特定主题的文章组成的语料库上运行后,评估了该方法的十种变体。该方法的性能进行了测量,使用三个定量措施。这三个指标的结果表明,该方法是有效的语义相似的命名实体聚类。
2019-07-07 cs.CL
Automatic Alignment of Discourse Relations of Different Discourse Annotation Frameworks
School of Computer Science, University of St Andrews(圣安德鲁斯大学计算机学院)
针对不同语篇标注框架关系清单难以关联的问题,本文扩展标签锚定对比学习以获得标签嵌入,并据此自动映射跨框架语篇关系,在 RST-DT 与 PDTB 3.0 上验证。
2024-04-06 cs.CL
The TreeBanker: a Tool for Supervised Training of Parsed Corpora
我描述的TreeBanker,一个图形化的工具,用于监督培训领域定制的语音或语言理解系统的消歧组件。TreeBanker为用户提供了一系列属性,这些属性可以区分对话语的竞争分析,并且相对容易判断。这使得在语料库上的训练可以在更短的时间内完成,并且与直接检查分析相比,所需的专业知识也少得多:对于ATIS语料库中大约20,000个句子的复杂性的语料库,可以由具有语言意识的非专家在大约三周的工作中进行判断。
1997-07-02 cmp-lg cs.CL
Toward Low-Cost End-to-End Spoken Language Understanding
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立理工学院)
口语语言理解的最新进展得益于在大型语音语料库上训练的自监督模型。对于法语,LeBenchmark项目已经提供了这样的模型,并在包括口语语言理解在内的几项任务上取得了令人印象深刻的进展。这些进步在计算时间和能源消耗方面具有不可忽视的成本。在本文中,我们比较了几种学习策略,试图减少这种成本,同时保持竞争力的表现。与此同时,我们提出了一个广泛的分析,我们衡量我们的模型在训练时间和电能消耗方面的成本,希望促进全面的评估程序。在FSC和MEDIA语料库上进行的实验表明,在保持最先进性能的同时,使用SSL模型可以降低学习成本。
2022-07-01 cs.CL cs.SD eess.AS
Context Matters: Recovering Human Semantic Structure from Machine Learning Analysis of Large-Scale Text Corpora
Princeton University(普林斯顿大学);Yale University(耶鲁大学);Intel Labs(英特尔实验室)
将机器学习算法应用于大规模的基于文本的语料库(嵌入)提供了一个独特的机会,可以大规模研究人类语义知识是如何组织的,以及人们如何使用它来判断基本关系,例如概念之间的相似性。然而,迄今为止的努力表明,算法预测和经验判断之间存在很大差异。在这里,我们介绍了一种新的方法来生成嵌入的心理学理论,语义上下文在人类的判断中起着至关重要的作用。具体来说,我们训练国家的最先进的机器学习算法使用上下文约束的文本语料库,并表明,这大大提高了相似性判断和特征评级的预测。通过改进使用由机器学习方法生成的嵌入和人类判断的经验测量得出的表示之间的对应关系,我们描述的方法有助于推进使用大规模文本语料库来理解人类语义表示的结构。
2020-07-15 cs.CL cs.IR cs.LG
Can Large Language Models (LLMs) Describe Pictures Like Children? A Comparative Corpus Study
Self-Learning Systems Lab, Faculty of Human Sciences, Department of Special Education and Rehabilitation(自主学习系统实验室,人文科学学院,特殊教育与康复系)
本研究通过对比LLM生成文本与德国儿童图片描述语料库,发现LLM虽经少样本提示仍难以复现儿童语言的词汇与语义特征,揭示了LLM在儿童教育工具中的适用性局限。
2025-08-19 cs.CL
Acronym-Meaning Extraction from Corpora Using Multi-Tape Weighted Finite-State Machines
从语料库中自动提取缩略词及其含义是文本挖掘的一个重要子任务。它可以被视为字符串对齐的特殊情况,其中文本块与首字母缩略词对齐。替代比对具有不同的成本,并且理想地,成本最低的比对应该给出首字母缩略词的正确含义。我们展示了这种方法如何可以通过一个3-磁带加权有限状态机(3-WFSM)来实现,该机器读取磁带1上的文本块和磁带2上的首字母缩略词,并在磁带3上生成所有替代对齐。3-WFSM可以从一个简单的正则表达式自动生成。在任何阶段都不需要额外的算法。我们的3-WFSM具有27个状态和64个转换的大小,并在几毫秒内找到对首字母缩略词的最佳分析。
2006-12-06 cs.CL cs.DS cs.SC
Statistical keyword detection in literary corpora
理解人类语言的复杂性需要对文本中单词的统计分布进行适当的分析。我们考虑通过涉及词的“空间”使用的统计信息来检测文本的相关词并对其进行排名的信息检索问题。香农信息熵被用作自动关键词提取的工具。通过使用查尔斯·达尔文的《物种起源》作为代表性文本样本,我们展示了我们的检测器的性能,并将其与文献中的其他建议进行了比较。随机混洗文本作为校准排名指数的工具受到特别关注。
2008-05-30 cs.CL cs.IR physics.soc-ph
Measuring GEO Visibility: Prompt Corpora Define the Answer Market
本文批判性审视GEO可见性评分,提出框架明确提示语料库、权重等选择如何定义答案市场,并区分部分识别与规范性敏感性,强调引用不等于贡献。
2026-09-09 cs.CL cs.IR
Two Huge Title and Keyword Generation Corpora of Research Articles
Institute of Formal and Applied Linguistics, Charles University(查理大学形式与应用语言学研究所)
最近的发展,序列到序列学习与神经网络已大大提高了自动生成的文本摘要和文档关键字的质量,规定需要更大的训练语料库。研究文章的元数据通常很容易在网上找到,并可用于执行各种任务的研究。在本文中,我们介绍了两个用于文本摘要(OAGSX)和关键字生成(OAGKX)研究的巨大数据集,分别包含3400万和2300万条记录。这些数据来自开放学术图谱,这是一个研究概况和出版物的网络。我们仔细处理了每一个记录,并尝试了两个任务的几种提取和抽象方法,为其他研究人员创建性能基线。我们进一步说明了这些方法预览其输出的性能。在不久的将来,我们希望在这两个集合上应用主题建模,以从更具体的学科中获得研究文章的子集。
2020-02-11 cs.CL cs.IR
Cross Script Hindi English NER Corpus from Wikipedia
Jamia Millia Islamia(贾米亚·米利亚·伊斯兰大学)
社交媒体平台上生成的文本基本上是混合语言文本。任何形式的语言混合都会给语言处理系统带来相当大的困难。此外,语言处理研究的进展取决于标准语料库的可用性。混合语言印度命名实体识别(NER)系统的发展面临的障碍,由于缺乏标准的评估语料库。这样的语料库可能是混合语言的性质,其中文本是使用多种语言编写的,主要是使用一个单一的脚本。我们的工作的动机是强调自动生成这样的语料库,以鼓励混合语言的印度语净率。本文介绍了一个跨脚本印地语-英语语料库的准备从维基百科的类别页面。语料库成功地使用标准的CoNLL-2003的PER,ORG,MISC的类别进行注释。对多种机器学习算法进行了评价,取得了良好的效果。
2018-10-08 cs.CL cs.IR cs.LG
SaudiBERT: A Large Language Model Pretrained on Saudi Dialect Corpora
Taibah University(泰巴大学);College of Computer Science and Engineering(计算机科学与工程学院)
提出完全基于沙特方言文本预训练的 SaudiBERT,并构建两个大规模沙特方言语料库;在11个情感分析与文本分类数据集上显著超过六种多方言阿拉伯语模型。
2024-05-10 cs.AI cs.CL
Machines Do See Color: A Guideline to Classify Different Forms of Racist Discourse in Large Corpora
Lake Forest College(拉克森林学院);Purdue University(普渡大学);Western University(西方大学)
本文提出一套可推广的流程,结合种族主义概念化、语境分析与 XLM-R 监督分类,识别大型语料库中的多种种族主义话语,并在厄瓜多尔原住民相关推文上验证其优于现有方法。
2025-09-29 cs.CL cs.LG
LEXpander: applying colexification networks to automated lexicon expansion
Medical University of Vienna(维也纳医科大学);Graz University of Technology(格拉茨工业大学);Complexity Science Hub Vienna(维也纳复杂性科学中心)
最近的社交媒体和其他语料库文本分析方法依赖于单词列表来检测主题,测量含义或选择相关文档。这些列表通常是通过将计算词典扩展方法应用于小的、手动策划的词根集合来生成的。尽管这种方法被广泛使用,我们仍然缺乏一个详尽的比较分析的词汇扩展方法的性能,以及如何可以改善额外的语言数据。在这项工作中,我们提出了LEXpander,词汇扩展的方法,利用新的数据colexification,即语义网络连接的基础上共享的概念和翻译到其他语言的单词。我们评估LEXpander在一个基准测试,包括广泛使用的方法的基础上,各种词嵌入模型和同义词网络的词典扩展。我们发现,LEXpander优于现有的方法在精度和精度和召回生成的单词列表在各种测试之间的权衡。我们的基准测试包括英语和德语的几个语言类别和情感变量。我们还表明,扩展的单词列表构成了一个高性能的文本分析方法,在各种语料库的应用案例。通过这种方式,LEXpander提出了一种系统的自动化解决方案,将简短的单词列表扩展为详尽而准确的单词列表,这些单词列表可以非常接近心理学和语言学专家生成的单词列表。
2022-05-31 cs.CL
Adapting AlignScore Mertic for Factual Consistency Evaluation of Text in Russian: A Student Abstract
本文提出AlignRuScore,通过微调RuBERT模型实现俄语事实一致性评估,为多语言评估奠定基础。
2025-12-06 cs.CL
Documenting Large Webtext Corpora: A Case Study on the Colossal Clean Crawled Corpus
University of Washington(华盛顿大学);Hugging Face(抱抱脸);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Queer in AI(人工智能酷儿组织)
大语言模型已经在许多NLP任务上取得了显着的进展,研究人员正在转向越来越大的文本语料库来训练它们。一些最大的语料库是通过抓取互联网的重要部分而制作的,并且经常只使用最少的文档。在这项工作中,我们为Colossal Clean Crawled Corpus(C4; Raffel等人,2020),通过将一组过滤器应用于Common Crawl的单个快照创建的数据集。我们首先调查数据的来源,并从专利和美国军事网站等意想不到的来源找到大量文本。然后我们探索文本本身的内容,并找到机器生成的文本(例如,来自机器翻译系统)和来自其他基准NLP数据集的评估示例。为了了解应用于创建此数据集的过滤器的影响,我们评估了被删除的文本,并显示阻止列表过滤不成比例地删除了来自少数群体的文本和关于少数群体的文本。最后,我们总结了一些关于如何从互联网上创建和记录网络规模数据集的建议。
2021-09-30 cs.AI cs.CL
Understanding Model Robustness to User-generated Noisy Texts
深度神经模型对输入噪声的敏感性是一个具有挑战性的问题。在NLP中,模型性能通常会随着自然发生的噪声而恶化,例如拼写错误。为了缓解这个问题,模型可以利用人为噪声数据。然而,到目前为止,所产生的噪声的量和类型是任意确定的。因此,我们建议从语法纠错语料库中统计建模的错误。我们提出了一个彻底的评估几个国家的最先进的NLP系统的鲁棒性在多种语言中,任务包括形态句法分析,命名实体识别,神经机器翻译,一个子集的GLUE基准和阅读理解。我们还比较了两种解决性能下降的方法:a)用我们的框架生成的噪声数据训练NLP模型; b)用外部系统减少输入噪声,进行自然语言校正。代码发布于https://github.com/ufal/kazitext。
2021-11-17 cs.CL
Guilt Detection in Text: A Step Towards Understanding Complex Emotions
Instituto Politécnico Nacional (IPN)(国立理工学院);Catholic University of Mozambique(莫桑比克天主教大学)
我们介绍了一种新的自然语言处理(NLP)任务,称为内疚检测,其重点是检测文本中的内疚。我们认为内疚是一种复杂而重要的情绪,以前没有在NLP中研究过,我们的目标是提供更细粒度的分析。为了解决缺乏公开可用的内疚检测语料库的问题,我们创建了VIC,一个包含4622个文本的数据集,来自三个现有的情绪检测数据集,我们将其二进制化为内疚和无内疚类。我们用传统的机器学习方法进行了实验,使用词袋和词频逆文档频率特征,最高性能的模型获得了72%的f1分数。我们的研究为理解文本中的内疚迈出了第一步,并为这一领域的未来研究打开了大门。
2023-03-06 cs.CL
CITE: A Corpus of Image-Text Discourse Relations
Rutgers University(罗格斯大学)
本文提出了一种新的众包资源的多模态话语:我们的资源特征的推理在图像-文本背景下的烹饪食谱的连贯关系的形式。像以前的语料库注释文本参数之间的话语结构,如宾州话语树库,我们的新语料库有助于建立一个更好的理解自然的沟通和常识推理,而我们的研究结果有广泛的应用,如理解和生成多模态文档的影响。
2019-04-16 cs.CL
AraELECTRA: Pre-Training Text Discriminators for Arabic Language Understanding
American University of Beirut(贝鲁特美国大学)
英语语言表示的进步通过有效学习准确分类令牌替换的编码器(ELECTRA)实现了更有效的样本预训练任务。它不是训练一个模型来恢复被屏蔽的令牌,而是训练一个递归模型来区分真正的输入令牌和被生成器网络替换的损坏令牌。另一方面,目前的阿拉伯语表示方法仅依赖于通过掩码语言建模进行预训练。在本文中,我们开发了一个阿拉伯语表示模型,我们命名为AraELECTRA。我们的模型使用大型阿拉伯语文本语料库上的替换标记检测目标进行预训练。我们在多个阿拉伯语NLP任务上评估了我们的模型,包括阅读理解,情感分析和命名实体识别,我们表明,AraELECTRA优于当前最先进的阿拉伯语表示模型,给定相同的预训练数据和更小的模型大小。
2021-03-07 cs.CL
NLP for Knowledge Discovery and Information Extraction from Energetics Corpora
Naval Surface Warfare Center(海军水面作战中心)
本研究展示了NLP在含能材料研究中的实用性,通过应用LDA、Word2Vec和Transformer模型实现知识发现与信息提取,并构建了准确率达59-76%的文档分类流水线,有望加速该领域研究。
2024-02-10 cond-mat.mtrl-sci cs.CL
Speech collage: code-switched audio generation by collaging monolingual corpora
Johns Hopkins University(约翰斯·霍普金斯大学);Northeastern University(东北大学);University of Edinburgh(爱丁堡大学);Carnegie Mellon University(卡内基梅隆大学);Qatar Computing Research Institute(卡塔尔计算研究所)
本文提出Speech Collage,通过拼接单语音频片段并采用重叠相加技术合成语码转换数据,在领域内与零样本ASR场景中分别显著降低混合错误率和词错误率。
2023-09-27 cs.CL cs.LG cs.SD
What's In My Big Data?
Allen Institute for AI(艾伦人工智能研究所);Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);University of California, Berkeley(加州大学伯克利分校);University of California, Irvine(加州大学欧文分校)
本研究提出WIMBD平台及16项分析工具,可在标准节点分析35TB以上语料,对10个主流训练语料库检测出高比例重复、低质内容及基准污染等问题,并开源工具推动语料透明度提升。
2024-03-05 cs.CL cs.LG
Novels generated by language models show compressed formal variation
University of Maryland(马里兰大学);University of West Bohemia(西波希米亚大学);Charles University(查理大学)
该研究对比不同模型生成及人类撰写的小说语料库,发现AI生成小说的形式多样性被压缩,句子结构等指标的变异性远低于人类小说,且存在方差与相关性过度封闭现象。
2026-08-14 cs.AI cs.CL
The Test Oracle Problem in Synthetic LLM-as-Judge Corpora: Disappearance, Distortion and a Validation Protocol
Mehmet Akif Ersoy University(梅赫梅特·阿基夫·埃尔索伊大学)
研究语言模型作为评判系统中合成语料库的测试预言机问题,指出其负面示例由语言模型生成时存在完整性验证漏洞,通过多语言语料库案例揭示答案截断、偏差扭曲等问题,并提出验证协议供无预言机模式分析师使用。
2026-07-16 cs.CL cs.SE
Individual Text Corpora Predict Openness, Interests, Knowledge and Level of Education
University of Wuppertal(伍珀塔尔大学);IU International University(IU国际大学);Free University Berlin(柏林自由大学)
本文利用214名参与者的谷歌搜索历史构建个人文本语料库,通过word2vec相似度特征训练神经模型,预测经验开放性等心理特质,测试样本解释35%方差,并提出个人文本语料库可补充或替代问卷式心理诊断。
2024-03-29 cs.CL cs.LG
Unsupervised Key Event Detection from Massive Text Corpora
UIUC(伊利诺伊大学厄巴纳-香槟分校);Westlake University(西湖大学);Google Research(谷歌研究院)
从新闻语料库中自动检测事件是挖掘快速发展的结构化知识的关键任务。由于现实世界中的事件具有不同的粒度,从顶级主题到关键事件,再到与具体行动相对应的事件提及,通常有两条研究路线:(1)主题检测从新闻语料库中识别主要主题(例如,“2019年香港抗议”对“2020年美国总统选举”);以及(2)动作提取从一个文档中提取提及级动作(例如,“警察击中了抗议者的左臂”),这些内容过于细致,无法理解该事件。在本文中,我们提出了一个新的任务,关键事件检测在中间水平,旨在检测从新闻语料库的关键事件(例如,“8月12日至14日香港机场抗议活动”),每一个都发生在特定的时间/地点,关注同一个话题。这项任务可以连接事件理解和结构化,并且由于关键事件的主题和时间接近性以及由于新闻文章的快速发展性质而导致的标记数据的稀缺性而具有内在的挑战性。为了解决这些挑战,我们开发了一个无监督的关键事件检测框架EvMine,该框架(1)使用新的ttf-itf分数提取时间上频繁的峰值短语,(2)通过从我们设计的峰值短语图中检测社区来将峰值短语合并到事件指示特征集中,该峰值短语图捕获文档共现,语义相似性和时间接近度信号,以及(3)通过用来自事件指示特征集的自动生成的伪标签训练分类器并使用检索到的文档来精炼检测到的键事件,来迭代地检索与每个键事件相关的文档。大量的实验和案例研究表明,EvMine优于所有的基线方法和它的消融在两个现实…
2022-07-03 cs.CL cs.IR
A Survey of Available Corpora for Building Data-Driven Dialogue Systems
Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学)
在过去的十年中,语音和语言理解的几个领域见证了数据驱动模型的使用带来的重大突破。在对话系统领域,这种趋势不太明显,大多数实用系统仍然是通过重要的工程和专家知识构建的。然而,最近的一些结果表明,数据驱动的方法是可行的,而且很有前途。为了促进这一领域的研究,我们对适用于对话系统的数据驱动学习的公开数据集进行了广泛的调查。我们讨论了这些数据集的重要特征,如何使用它们来学习不同的对话策略,以及它们的其他潜在用途。我们还研究了数据集之间的迁移学习方法和外部知识的使用。最后,我们讨论了适当的学习目标的评价指标的选择。
2017-03-21 cs.AI cs.CL cs.HC
Mix and Match: An Empirical Study on Training Corpus Composition for Polyglot Text-To-Speech (TTS)
Alexa AI, Amazon(亚马逊Alexa人工智能部门)
使用单语语料库训练多语言神经文本转语音(NTTS)模型已经成为构建基于语音克隆的多语言NTTS系统的流行方式。为了训练这些模型,了解训练语料库的组成如何影响多语言语音合成的质量是至关重要的。在这种情况下,经常会听到这样的问题:“考虑到两种语言的接近性,包括更多的西班牙语数据是否有助于我的意大利语合成?".不幸的是,我们发现关于这一主题的现有文献在这方面缺乏完整性。在目前的工作中,我们进行了广泛的消融研究,旨在了解各种因素的培训语料库,如语言的家庭关系,性别组成,和扬声器的数量,有助于多语言合成的质量。我们的研究结果包括观察到,女性说话者数据在大多数情况下是首选的,它并不总是有益的,有更多的发言者从目标语言变体的训练语料库。本文的研究结果对语料的获取和语料库的建立有一定的参考价值。
2022-07-04 cs.CL cs.LG eess.AS
Closing the Gap Between Text and Speech Understanding in LLMs
Université de Toulon, Aix Marseille Université, CNRS, LIS(法国图卢兹大学、马赛大学、CNRS、LIS)
SALAD通过主动选择和跨模态蒸馏提高语音与文本对齐,以更高效的方式弥合LLMs在语音理解上的性能差距。
2026-02-23 cs.AI cs.CL eess.AS
Interpretable Privacy Preservation of Text Representations Using Vector Steganography
Purdue University(普渡大学)
由语言模型(LM)生成的上下文单词表示学习训练语料库中存在的虚假关联。最近的研究结果表明,对手可以利用这些协会逆向工程的私人属性中提到的语料库。这些发现促使人们努力将语言模型的隐私风险降到最低。然而,现有的方法缺乏可解释性,妥协的数据效用,并未能提供隐私保障。因此,我博士研究的目标是开发可解释的方法来保护文本表示的隐私,在保证隐私的同时保留数据实用性。为此,我的目标是研究和开发方法,将隐写修改的矢量几何混淆潜在的虚假关联,并保留在训练过程中学到的分布语义属性。
2021-12-07 cs.AI cs.CL
Concise comparative summaries (CCS) of large text corpora with a human experiment
Peking University(北京大学);Harvard University(哈佛大学);University of California, Berkeley(加州大学伯克利分校);San Francisco State University(旧金山州立大学)
在本文中,我们提出了一个通用的框架,主题特定的摘要的大型文本语料库,并说明它可以用于分析的新闻数据库。我们的框架,简明比较摘要(CCS),是建立在稀疏分类方法。CCS是一个轻量级和灵活的工具,提供了一个简单的词频为基础的方法,目前广泛使用的更重量级的,模型密集型的方法,如潜在的狄利克雷分配(LDA)之间的妥协。我们认为,稀疏的方法有很多提供文本分析,并希望CCS打开大门,在这个重要领域的一个新的研究分支。对于感兴趣的特定主题(例如,中国或能源),CSS会自动将文档标记为主题或主题外(通常通过关键字搜索),然后使用稀疏分类方法来预测这些标签与文档中所有其他单词和短语的高维计数。然后,将所得到的一小组被发现具有预测性的短语作为摘要收集。为了验证我们的工具,我们使用《纽约时报》国际版的新闻文章,设计并进行了一项人类调查,以比较不同的摘要器与人类的理解。我们通过两个案例研究来展示我们的方法,一个是对《纽约时报》在整个阿拉伯之春中对“埃及”的框架的媒体分析,另一个是对《纽约时报》和《华尔街日报》对“能源”的报道的非正式比较。“总的来说,我们发现,Lasso与$L^2$规范化可以有效地和有用地用于总结大型语料库,无论文档大小。
2014-04-29 cs.CL stat.AP