Event Causality Identification with Causal News Corpus -- Shared Task 3, CASE 2022
University of Groningen(格罗宁根大学);Mersin University(梅尔辛大学);University of East Anglia(东英吉利大学);Radboud University(拉德堡德大学)
CASE 2022的事件因果关系识别共享任务涉及两个子任务,它们在因果新闻语料库上工作。子任务1要求参与者预测一个句子是否包含因果关系。这是一个有监督的二元分类任务。子任务2要求参与者识别每个因果句的原因、结果和信号跨度。这可以被看作是一个有监督的序列标记任务。对于这两个子任务,参与者上传了他们对一个测试集的预测,并分别根据子任务1和2的二进制F1和宏F1分数进行排名。本文总结了17个团队的工作,提交了他们的结果,我们的竞争和12个系统描述文件,收到。子任务1和2的最佳F1得分分别为86.19%和54.15%。所有表现最好的方法都涉及预先训练的语言模型,这些模型针对目标任务进行了微调。我们在本文中进一步讨论了这些方法,并分析了参与者系统中的错误。
2022-11-22 cs.CL
IDIAPers @ Causal News Corpus 2022: Efficient Causal Relation Identification Through a Prompt-based Few-shot Approach
Idiap Research Institute(Idiap研究所);Universidad Nacional de San Luis (UNSL)(圣路易斯国立大学);Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Universidad Autónoma Metropolitana Unidad Cuajimalpa(墨西哥都会自治大学夸伊马尔帕分校);Brno University of Technology(布尔诺理工大学)
本研究针对因果关系识别任务,提出将其转化为掩码语言建模问题的基于提示的少样本微调方法,仅用15.7%的训练数据就取得了接近全量数据集成模型的优异性能。
2022-10-14 cs.AI cs.CL cs.LG
1Cademy @ Causal News Corpus 2022: Enhance Causal Span Detection via Beam-Search-based Position Selector
University of Michigan(密歇根大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);Carleton College(卡尔顿学院)
在本文中,我们提出了我们的方法和经验观察因果信号跨度检测-子任务2的共享任务3~ \cite{tan-etal-2022-event}在案例2022。共享任务旨在从给定的因果句中提取原因、结果和信号跨度。我们将任务建模为阅读理解(RC)问题,并将基于标记水平RC的广度预测范式应用于任务作为基线。我们探索不同的训练目标来微调模型,以及基于语言模型(LM)的数据增强(DA)技巧来提高性能。此外,我们提出了一个有效的束搜索后处理策略,由于跨度检测的缺点,以获得进一步的性能增益。我们的方法实现了平均$F_1$得分为54.15和排名\textbf{$1^{st}$}在CASE竞争。我们的代码可在\url{https://github.com/Gzhang-umich/1CademyTeamOfCASE}上找到。
2022-10-31 cs.CL
CAMS: An Annotated Corpus for Causal Analysis of Mental Health Issues in Social Media Posts
Thapar Institute of Engineering & Technology(塔帕尔工程技术学院);The Chinese University of Hong Kong(香港中文大学);University of Petroleum And Energy Studies(石油与能源研究大学);Indian Institute of Technology, Patna(印度理工学院巴特那分校);Amity University Rajasthan(拉贾斯坦阿米蒂大学);Lakehead University(湖首大学);University of Florida(佛罗里达大学)
研究界从社交媒体的分析中发现了大量的心理健康问题及其相关原因。我们引入了一个新的数据集,用于社交媒体帖子中心理健康问题的因果分析(CAMS)。我们对因果分析的贡献是双重的:因果解释和因果分类。我们引入了一个注释模式的因果分析任务。我们在两个不同的数据集上证明了我们的模式的有效性:(i)抓取和注释3155个Reddit帖子,(ii)重新注释1896个实例的公开SDCNL数据集,以进行可解释的因果分析。我们进一步将这些组合到CAMS数据集中,并将此资源与相关源代码一起公开提供:https://github.com/drmuskangarg/CAMS。我们展示了从CAMS数据集学习的模型的实验结果,并证明经典的Logistic回归模型比次优模型(CNN-LSTM)的准确率高出4.9%。
2022-07-11 cs.CL
1Cademy @ Causal News Corpus 2022: Leveraging Self-Training in Causality Classification of Socio-Political Event Data
University of Michigan(密歇根大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);Cademy Community(1Cademy社区);Carleton College(卡尔顿学院)
本文详细介绍了我们参与的挑战和应用自动提取社会政治事件从文本(CASE)研讨会@EMNLP 2022,在那里我们参加了子任务1共享任务3。我们提出了一个自我训练管道,遵循师生分类器方法的事件因果关系检测的给定任务。更具体地说,我们首先在真实的原始任务数据上训练教师模型,并使用该教师模型自标记数据,以用于训练单独的学生模型,以进行最终的任务预测。我们测试了在自训练过程中限制正面或负面自标记示例的数量如何影响分类性能。我们的最终结果表明,使用自训练在事件因果关系序列分类任务中测试的所有模型和自标记训练集上都产生了全面的性能改善。最重要的是,我们发现,自我训练的表现并没有减少,即使在训练中使用的积极/消极的例子限制。我们的代码可在www.example.com上公开获取。
2022-11-04 cs.CL
CORGI-PM: A Chinese Corpus For Gender Bias Probing and Mitigation
Beijing Academy of Artificial Intelligence(北京人工智能研究院);The University of Sheffield(谢菲尔德大学);University of Michigan(密歇根大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Sichuan University(四川大学);McGill University(麦吉尔大学)
针对性别偏见的自然语言处理(NLP)是一个重要的跨学科研究课题,目前流行的大规模语言模型等数据驱动技术存在着数据不足和语料偏差的问题,特别是对于汉语这样资源不足的语言。为此,我们提出了一个中国cOrpus forR性别bIas探测和缓解CORGI-PM,其中包含32.9k的句子与高质量的标签来自以下的注释计划专门开发的性别偏见在中国的情况下。此外,我们解决了自动文本性别偏见缓解的三个挑战,这需要模型来检测,分类和缓解文本性别偏见。我们还使用最先进的语言模型进行实验,以提供基线。据我们所知,CORGI-PM是第一个用于性别偏见研究和缓解的高级汉语语料库。
2023-01-01 cs.AI cs.CL cs.CY
EmotionLines: An Emotion Corpus of Multi-Party Conversations
Academia Sinica(中央研究院);Carnegie Mellon University(卡内基梅隆大学)
感受情感是区分人与机器的关键特征。在所有用于情感检测的多模态资源中,文本数据集是除了语义之外包含最少附加信息的数据集,因此被广泛用于测试所开发的系统。然而,大多数文本情感数据集仅由单个单词,句子或文档的情感标签组成,这使得讨论情感的上下文流具有挑战性。在本文中,我们介绍了第一个仅基于文本内容对每个对话中的所有话语进行情感标签的数据集-对话在QuestionLines是从朋友电视脚本和私人Facebook信使对话收集。然后,由5个亚马逊MTurker在每个话语上标记七种情绪中的一种,六种Ekman的基本情绪加上中性情绪。来自2,000个对话的总共29,245个话语被标记在提示行中。在本文中,我们还为情感检测模型提供了几个强大的基线。
2018-05-30 cs.CL
Interroger un corpus par le sens
在文本知识管理中,统计方法占主导地位。然而,这些方法无法克服某些困难。我提出了一个符号的方法,使用一个完整的文本分析,以确定分析水平可以提高系统提供的答案。该方法确定词义和词之间的关系,并产生尽可能多的改写。使用同义词和派生词,该系统提供了新的话语,而不改变句子的原始含义。这样,无论问题或答案的措辞如何,都可以检索到信息。
2008-05-31 cs.CL cs.IR
Raisonnement stratifié à base de normes pour inférer les causes dans un corpus textuel
为了理解用自然语言(LN)编写的文本,我们使用关于域的规范的知识。规范允许从文本中推断出更多的隐含信息。一般来说,这类信息是可以废除的,但只要案文没有明确与之相抵触,它仍然是有用和可以接受的。在本文中,我们描述了一个非单调推理系统的基础上的规范的汽车碰撞域。该系统从文本描述中推断事故原因。事故的原因被视为被违反的最具体的规范。系统的谓词和规则是分层的:组织在层上,以获得有效的推理。
2006-10-04 cs.AI cs.CL
PropSegmEnt: A Large-Scale Corpus for Proposition-Level Segmentation and Entailment Recognition
Google Research(谷歌研究院);University of Pennsylvania(宾夕法尼亚大学)
本文提出PropSegmEnt语料库,将NLI从句子级细化到命题级,包含45K以上人工标注命题,支持命题分割与蕴含关系分类,并通过案例研究证明其对理解NLI组合性的价值。
2023-05-24 cs.CL
Saar-Voice: A Multi-Speaker Saarbrücken Dialect Speech Corpus
本文提出Saar-Voice语料库,用于研究低资源环境下方言-aware的文本到语音系统,通过收集萨尔布吕肯方言文本和语音数据,探讨正字法和说话人变异等方法学挑战。
2026-04-13 cs.CL
Can questions summarize a corpus? Using question generation for characterizing COVID-19 research
School of Electrical and Computing Engineering, UNICAMP(坎皮纳斯州立大学电气与计算机工程学院);NeuralMind Inteligência Artificial(NeuralMind 人工智能(公司));David R. Cheriton School of Computer Science, University of Waterloo(滑铁卢大学大卫·R·谢里顿计算机科学学院)
一些文本数据的潜在问题是什么?在这项工作中,我们研究使用问题生成模型来探索一系列文件。我们的方法被称为corpus 2 question,包括在语料库上应用预先训练的问题生成模型,并按频率和时间聚合生成的问题。这种技术是主题建模和词云等方法的替代方法,用于汇总大量文本数据。结果显示,将corpus 2 question应用于与COVID-19相关的科学文章语料库,可以生成与该主题相关的问题。最常见的问题是“什么是新冠肺炎”和“新冠肺炎的治疗方法是什么”。最常见的1000个问题包括“群体免疫的阈值是多少”和“ace 2在病毒进入中的作用是什么”。我们表明,所提出的方法产生了类似的问题,从CovidQA问答数据集的27个专家提出的问题中的13个。复制我们实验的代码和生成的问题可以在以下网站获得:https://github.com/unicamp-dl/corpus2question
2020-09-19 cs.CL cs.IR cs.LG
Learning Contextual Causality from Time-consecutive Images
HKUST(香港科技大学);CUHK(香港中文大学);UPenn(宾夕法尼亚大学)
因果关系知识对于许多人工智能系统是至关重要的。传统的基于文本的因果关系知识获取方法通常需要费力且昂贵的人工注释。因此,其规模往往有限。此外,由于在注释期间没有提供上下文,因此所得到的因果关系知识记录(例如,ConceptNet)通常不考虑上下文。为了探索一种更具可扩展性的因果关系知识获取方法,本文跳出文本领域,研究了从视觉信号中学习上下文因果关系的可能性。与纯文本方法相比,从视觉信号中学习因果关系具有以下优点:(1)因果关系知识属于常识性知识,很少在文本中表达,而在视频中却非常丰富;(2)视频中的事件大多具有自然的时序性,这为我们挖掘因果关系知识提供了丰富的资源;(3)视频中的所有对象都可以作为语境来研究因果关系的语境性。详细地说,我们首先提出了一个高质量的数据集Vis-Causal,然后进行实验来证明,通过良好的语言和视觉表示模型以及足够的训练信号,可以从视频中自动发现有意义的因果知识。进一步的分析还表明,因果关系的上下文属性确实存在,如果我们想在实际应用中使用因果关系知识,考虑到这一点可能是至关重要的,视觉信号可以作为一个很好的资源,学习这种上下文因果关系。
2020-12-13 cs.AI cs.CL cs.CV
Phonetically rich corpus construction for a low-resourced language
Alana AI Research(Alana AI研究院)
本文提出一种为巴西葡萄牙语构建语音丰富语料库的新方法,包括文本收集、基于三音子分布的句子选择及新音位分类,显著提高了不同三音子的覆盖率。
2024-02-08 cs.AI cs.CL
CorpusQA: A 10 Million Token Benchmark for Corpus-Level Analysis and Reasoning
Tongyi Lab, Alibaba Group(通义实验室,阿里巴巴集团)
CorpusQA提出一个1000万词的基准,解决大规模语料库推理问题,通过合成数据框架生成复杂查询,验证长文本推理能力,发现先进架构对全局信息整合的重要性。
2026-04-25 cs.AI cs.CL
Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue Response Generation Models by Causal Discovery
Faculty of Information Technology(信息技术学院);Monash University(莫纳什大学)
在本文中,我们进行了第一次研究虚假相关的开放域响应生成模型的基础上,语料库CGDIALOG策划在我们的工作。目前的模型确实存在虚假的相关性,并且有产生不相关和通用响应的趋势。受因果发现算法的启发,我们提出了一种新的模型不可知的方法,使用条件独立分类器的响应生成模型的训练和推理。该分类器是由一个约束的自我训练方法,创造约束,以克服数据稀缺。基于人工和自动评估的实验结果表明,我们的方法显着优于竞争基线的相关性,信息量和流畅性。
2023-03-02 cs.AI cs.CL
Forgetting Private Textual Sequences in Language Models via Leave-One-Out Ensemble
Meta AI
针对语言模型记忆私人文本序列且重训练成本高的问题,提出基于师生框架的留一法集成反学习方法,并在两个数据集上取得更优隐私—效用权衡。
2023-09-28 cs.AI cs.CL
esCorpius: A Massive Spanish Crawling Corpus
LHF Labs(LHF实验室);Universidad Autónoma de Madrid(马德里自治大学);University of Edinburgh(爱丁堡大学);Universidad de Granada(格拉纳达大学)
近年来,基于转换器的模型在自然语言处理的语言建模方面取得了重大进展。然而,它们需要大量的数据进行(预)训练,并且缺乏英语以外的语言语料库。最近,一些倡议提出了从自动网络爬行获得的多语言数据集。然而,西班牙语的结果存在重要的缺点,因为它们与其他语言相比太小,或者由于次优的清理和重复数据删除而呈现出低质量。在本文中,我们介绍esCorpius,西班牙爬行语料库获得近1铅的常见爬行数据。它是西班牙语中最广泛的语料库,在提取,纯化和重复删除Web文本内容方面具有这种质量水平。我们的数据整理过程涉及一种新型的高度并行的清理管道,并包含一系列重复数据删除机制,共同确保文档和段落边界的完整性。此外,我们维护源网页URL和WARC碎片源URL,以便根据欧盟法规进行投诉。esCorpius已在CC BY-NC-ND 4.0许可下发布,并可在HuggingFace上使用。
2022-07-01 cs.AI cs.CL
Vulgaris: Analysis of a Corpus for Middle-Age Varieties of Italian Language
DINFO, University of Florence(佛罗伦萨大学DINFO学院);DIISM, University of Siena(锡耶纳大学DIISM学院)
意大利语是一种罗曼语,起源于通俗拉丁语。现代意大利语的诞生始于14世纪左右的托斯卡纳,主要归功于但丁·阿利吉耶里、弗朗切斯科·彼得拉卡和乔瓦尼·薄伽丘的作品,他们是托斯卡纳中世纪最受欢迎的作家之一。然而,意大利的特点是各种各样的方言,由于过去的领土分裂,这些方言往往彼此之间关系松散。意大利语吸收了许多这些方言的影响,也由于其他国家(如西班牙和法国)统治该国部分地区而受到其他语言的影响。在这项工作中,我们提出了Vulgaris,一个项目,旨在研究语料库的意大利语文本资源,从不同地区的作者,在1200和1600之间的时间段。每个作品都与其作者相关联,作者也被分组在家庭中,即共享相似的风格/时间特征。因此,该数据集不仅是研究意大利语历时演变及其方言之间差异的宝贵资源,而且对于研究单个作者之间的风格方面也很有用。我们提供了一个详细的数据统计分析,并在方言和历时品种语料库驱动的研究。
2020-10-12 cs.AI cs.CL
Interactive Tools and Tasks for the Hebrew Bible
Fjellhaug International University College Denmark(丹麦菲耶尔豪格国际大学学院)
这一贡献的一个特殊问题“计算机辅助处理的互文性”在古代文本将说明如何使用数字化工具与希伯来圣经互动提供了新的前景可视化的文本和执行任务的教育和研究。这篇文章探讨了如何创建和维护的希伯来圣经语料库的Eep Talstra中心圣经和计算机可以支持新的方法,为现代知识工作者在数字人文和神学领域应用于古代文本,以及如何这可以被设想为一个新的数字互文性领域。本文首先介绍了如何使用语料库开发圣经在线学习者作为一种有说服力的技术,以加强语言学习,在和周围的数据库,作为引擎驱动的互动任务的学习者。本文中的互文性是一个积极探索和不断实践的问题。此外,交互式语料库技术对作为一个越来越依赖于数字资源可用性的专门研究领域的文本批评的任务有着重要的影响。Logos和Accordance等软件公司开发的商业解决方案提供了一种基于市场的互文性,这种互文性的定义是为学者和学生制作先进的数字资源,作为通常无法访问和昂贵的印刷版本的有用替代品。我们有理由期待,在未来,交互式语料库技术将允许学者在文本批评和解释方面进行创新的学术任务。我们已经看到了文本分类、翻译转换分析和口译的有前途的工具的出现。从广义上讲,语言学习、文本批评和圣经研究这三个领域的互动工具和任务说明了数字人文学科中出现的一种新的互文性。
2017-10-24 cs.CL
Global Textual Relation Embedding for Relational Understanding
University of California, Santa Barbara(加州大学圣巴巴拉分校);The Ohio State University(俄亥俄州立大学)
预先训练的嵌入,如词嵌入和句子嵌入,是促进广泛的下游NLP任务的基本工具。在这项工作中,我们研究如何学习一个通用的嵌入文本关系,定义为实体之间的最短依赖路径。文本关系嵌入提供了词/短语级别和句子级别之间的知识水平,我们表明,它可以促进下游的任务,需要对文本的关系理解。为了学习这样的嵌入,我们通过将整个英语语料库连接到Freebase来创建最大的远程监督数据集。我们使用文本和知识库关系之间的全局共现统计作为监督信号来训练嵌入。两个关系理解任务的评价表明,学习的文本关系嵌入的有用性。数据和代码可以在https://github.com/czyssrs/GloREPlus上找到
2019-06-03 cs.CL
A German Corpus for Text Similarity Detection Tasks
Université d’Avignon et des Pays de Vaucluse(阿维尼翁大学);École Polytechnique de Montréal(蒙特利尔理工学院);Universidad Nacional Autónoma de México(墨西哥国立自治大学);University of Applied Sciences Fulda(富尔达应用技术大学)
文本相似性检测的目的是度量一对文本之间的相似程度。文本相似性检测语料库的设计是为了评估文本之间的释义水平的算法。在本文中,我们提出了一个文本德语语料库的相似性检测。该语料库的目的是自动评估一对文本之间的相似性,并评估不同的相似性度量,无论是整个文档还是单个句子。因此,我们已经计算了几个简单的措施,我们的语料库的基础上的相似性函数库。
2017-03-11 cs.CL cs.IR
ClusterChat: Multi-Feature Search for Corpus Exploration
Heidelberg University(海德堡大学)
针对大规模文本语料探索难的问题,提出开源系统ClusterChat,整合聚类组织、多类型搜索、时间线探索及问答功能,经PubMed数据集验证可在保障扩展性与响应性的同时提升语料探索效果。
2025-06-17 cs.CL
Ring That Bell: A Corpus and Method for Multimodal Metaphor Detection in Videos
University of Helsinki(赫尔辛基大学);Bose Corporation(博士公司)
我们提出了第一个公开可用的多模态隐喻注释语料库。该语料库由视频组成,包括音频和字幕,这些视频已经由专家注释。此外,我们提出了一种方法来检测隐喻在新的数据集的基础上的文本内容的视频。该方法实现了较高的F1分数(62%)的隐喻标签。我们还尝试了其他模态和多模态方法;然而,这些方法并没有超过基于文本的模型。在我们的错误分析中,我们确实发现了视频可以帮助消除隐喻歧义的情况,但是,视觉线索对于我们的模型来说太微妙了。数据可在Zenodo上获得。
2022-12-15 cs.CL cs.CV cs.MM
GoodNewsEveryone: A Corpus of News Headlines Annotated with Emotions, Semantic Roles, and Reader Perception
大多数从文本中进行情感分析的研究都集中在情感分类或情感强度回归上。较少的作品将情绪作为一种需要通过结构化学习来解决的现象,这可以通过缺乏相关数据集来解释。我们填补了这一空白,通过发布一个数据集的5000个英语新闻标题注释通过众包与他们相关的情感,相应的情感体验者和文本线索,相关的情感原因和目标,以及读者的感知标题的情感。考虑到要识别的类和角色的数量很大,这个注释任务是非常具有挑战性的。因此,我们提出了一个多阶段的注释过程中,我们首先找到相关的实例与情感内容,然后注释更细粒度的方面。最后,我们开发了一个自动预测语义角色结构的任务的基线,并讨论了结果。我们发布的语料库可以进一步研究情绪分类,情绪强度预测,情绪原因检测,并支持进一步的定性研究。
2020-03-03 cs.AI cs.CL cs.IR
Modal-specific Pseudo Query Generation for Video Corpus Moment Retrieval
Seoul National University(首尔国立大学);NAVER AI Lab(NAVER人工智能实验室);AI Institute of Seoul National University(首尔国立大学人工智能研究院)
视频语料矩检索(VCMR)是利用自然语言查询从大型视频语料库中检索最相关的视频矩的任务。对于叙事视频,例如,无论是戏剧还是电影,对时间动态和多模态推理的整体理解都至关重要。以前的工作已经显示出有希望的结果;然而,它们依赖于VCMR的昂贵查询注释,即,相应的时间间隔。为了克服这个问题,我们提出了一个自监督学习框架:特定模态的伪查询生成网络(MPGN)。首先,MPGN通过基于字幕的矩采样来选择候选时间矩。然后,它产生伪查询利用视觉和文本信息从选定的时间时刻。通过在伪查询的多模态信息,我们表明,MPGN成功地学习本地化的视频语料矩没有任何显式的注释。我们在TVR数据集上验证了MPGN的有效性,与监督模型和无监督设置模型相比,显示出具有竞争力的结果。
2022-10-23 cs.CL
RyanSpeech: A Corpus for Conversational Text-to-Speech Synthesis
University of Denver(丹佛大学);DreamFace Technologies, LLC(DreamFace科技有限公司)
本文介绍了RyanSpeech,一个新的语音语料库的研究自动文本到语音(TTS)系统。公开可用的TTS语料库通常是嘈杂的,记录多个扬声器,或缺乏高质量的男性语音数据。为了满足语音识别领域对高质量、公开可用的男性语音语料库的需求,我们设计并创建了RyanSpeech,其中包含来自真实世界会话设置的文本材料。这些材料包含超过10个小时的专业男声演员的讲话记录在44.1千赫。该语料库的设计和流水线使RyanSpeech成为在现实世界应用中开发TTS系统的理想选择。为了为未来的研究、协议和基准测试提供基线,我们在RyanSpeech上训练了4个最先进的语音模型和一个声码器。结果显示,在我们最好的模型中,平均意见得分(MOS)为3.36。我们已经制作了语料库和训练模型供公众使用。
2021-06-15 cs.CL cs.SD eess.AS
WikiCausal: Corpus and Evaluation Framework for Causal Knowledge Graph Construction
IBM Research(IBM研究院)
本文提出WikiCausal语料库与评估框架,用于从维基百科文章中抽取事件因果关系,并结合Wikidata已有关系和大型语言模型进行自动评估,以有效选择各任务的最佳模型。
2024-08-31 cs.AI cs.CL
Leveraging Human Reading Behavior for Keyphrase Extraction: A Webcam-based Eye-tracking Corpus
本研究构建了含FFD、FN、TFD特征的CLIS-ET语料库,将眼动特征融入KPE模型,发现FN与TFD组合在Att-BiLSTM+CRF模型上提升了中文学术摘要的关键词抽取性能。
2026-08-12 cs.CL cs.DL cs.HC
Performance Impact Caused by Hidden Bias of Training Data for Recognizing Textual Entailment
Toyohashi University of Technology(丰桥技术科学大学)
训练数据的质量是采用以学习为中心的方法时的关键问题之一。本文提出了一种新的方法来调查一个大型语料库的质量设计识别文本蕴涵(RTE)的任务。所提出的方法,这是一个统计假设检验的启发,由两个阶段组成:第一阶段是引入文本蕴涵标签的可预测性作为一个零假设,这是非常不可接受的,如果目标语料库没有隐藏的偏见,第二阶段是使用朴素贝叶斯模型来测试零假设。斯坦福自然语言推理(SNLI)语料库的实验结果不拒绝零假设。因此,它表明,SNLI语料库有一个隐藏的偏见,允许预测的文本蕴涵标签的假设句,即使没有上下文信息是由前提句。本文还介绍了这种隐藏的偏见造成的RTE的NN模型的性能影响。
2018-04-22 cs.AI cs.CL
From FreEM to D'AlemBERT: a Large Corpus and a Language Model for Early Modern French
Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心)
语言历史状态的语言模型变得越来越重要,以便对旧文本源进行最佳数字化和分析。由于这些历史状态同时处理起来更复杂,并且在可用的语料库中更稀缺,因此需要专门的努力来训练适应数据的自然语言处理(NLP)工具。在本文中,我们提出了我们的努力,以开发自然语言处理工具的早期现代法语(历史法语从16 $^\text{th}$到18 $^\text{th}$世纪)。我们介绍了早期现代法语的$\text{FreEM}_{\text{max}}$语料库和D'AlemBERT,一个在$\text{FreEM}_{\text{max}}$上训练的基于Roberta的语言模型。我们评估的有用性的D'AlemBERT微调它的词性标注任务,优于以前的工作测试集。重要的是,我们找到了语言模型迁移学习能力的证据,因为它在资源较少的时间段的表现似乎得到了资源较多的时间段的提升。我们发布了D'AlemBERT和$\text{FreEM}_{\text{max}}$语料库的开源子部分。
2022-02-18 cs.CL
Weakly-Supervised Hierarchical Models for Predicting Persuasive Strategies in Good-faith Textual Requests
建模说服性语言有可能更好地促进我们的决策过程。尽管其重要性,说服的计算建模仍处于起步阶段,主要是由于缺乏基准数据集,可以提供说服策略的定量标签,以加快这一研究路线。为此,我们引入了一个大规模的多领域的文本语料库建模的说服策略在善意的文本请求。此外,我们设计了一个层次化的弱监督潜变量模型,可以利用部分标记的数据来预测每个句子的相关说服策略,其中监督来自整体文档级标签和非常有限的文档级标签。实验结果表明,我们提出的方法优于现有的半监督基线显着。我们已在https://github.com/GT-SALT/Persuasion_Strategy_WVAE上公开发布了我们的代码。
2021-01-16 cs.CL cs.CY
Detecting Historical Turning Points in Italian Media: A Complex Systems Approach to a Diachronic News Corpus
Department of Physics and Chemistry, University of Palermo(帕尔米洛大学物理与化学系);Institute for Cross-Disciplinary Physics and Complex Systems (IFISC), UIB-CSIC(跨学科物理与复杂系统研究所(IFISC), UIB-CSIC)
通过NLP和复杂系统方法分析意大利《共和报》1985-2000年的60万篇文章,无监督检测出意大利第一共和国向第二共和国过渡、海湾战争等关键历史转折点。
2026-11-03 cond-mat.stat-mech cs.CL physics.soc-ph
Gender in Danger? Evaluating Speech Translation Technology on the MuST-SHE Corpus
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Trento(特伦托大学)
从没有生产性语法性别的语言(如英语)翻译成性别标记的语言是机器的一个众所周知的困难。这种困难也是由于这样一个事实,即建立模型的训练数据通常反映了自然语言的不对称性,包括性别偏见。机器翻译只提供文本数据,因此在本质上受到输入句子并不总是包含有关所指人类实体性别身份的线索的事实的限制。但是,如果输入是音频信号,语音翻译会发生什么?音频能否提供更多信息以减少性别偏见?我们提出了第一次彻底调查的性别偏见在语音翻译,有助于:i)发布一个基准有用的未来的研究,和ii)不同的技术(级联和端到端)的比较两种语言方向(英语-意大利语/法语)。
2020-06-10 cs.AI cs.CL cs.SD
naab: A ready-to-use plug-and-play corpus for Farsi
Sharif University of Technology(谢里夫理工大学)
针对波斯语等低资源语言在大型语言模型中表现不佳的问题,作者构建了最大规模、即插即用的波斯语清洗语料库naab,并提供未处理版本与预处理工具包,助力提升模型性能并弥合语言资源差距。
2024-12-23 cs.CL
Etiqueter un corpus oral par apprentissage automatique à l'aide de connaissances linguistiques
由于Eslo1(“Enquête sociolinguistique d'Orléans”,即“奥尔良社会语言学调查”)活动,大量的口语语料库已经收集并以文本格式转录。这里提出的工作的目的是关联一个形态句法标签,这个语料库的每个单元。为此,我们首先研究了必要标签的特异性,以及它们的各种可能的描述水平。这项研究导致了一个新的原始层次结构的标签。然后,考虑到我们的新标签集与每个可用软件中使用的标签集不同,并且这些软件通常不适合口头数据,我们通过机器学习方法构建了一个新的标签工具,使用Cordial标记的数据并手动校正。我们应用了线性CRF(条件随机场),试图最大限度地利用用于定义标签集的语言知识。我们获得的准确度在85%和90%之间,这取决于所使用的参数。
2010-03-30 cs.CL cs.LG
StoryTTS: A Highly Expressive Text-to-Speech Dataset with Rich Textual Expressiveness Annotations
Shanghai Jiao Tong University(上海交通大学)
本文提出高表现力文本转语音数据集StoryTTS,包含61小时语音及丰富的文本表现力标注,通过大语言模型批量标注五个维度的文本表现力,实验证明结合该标签能提升TTS模型生成语音的表现力。
2024-04-23 cs.CL cs.SD eess.AS
When Hearst Is not Enough: Improving Hypernymy Detection from Corpus with Distributional Models
Tencent AI Lab(腾讯人工智能实验室);HKUST(香港科技大学);Amazon(亚马逊);University of Southern California(南加州大学)
我们解决上位性检测,即,在大型文本语料库的帮助下,单词(x,y)之间是否存在is-a关系。大多数传统的方法来完成这项任务已被归类为基于模式或分布式。最近的研究表明,基于模式的是优越的,如果大规模的赫斯特对提取和喂养,与稀疏的看不见的(x,y)对缓解。然而,它们在某些特定的稀疏情况下变得无效,其中x或y不涉及任何模式。本文第一次量化了这些具体案例的不可忽视的存在。我们还证明了分布式方法是理想的,以弥补基于模式的在这种情况下。我们设计了一个互补的框架,在这个框架下,一个基于模式的模型和一个分布式模型在他们各自喜欢的情况下无缝地合作。在几个基准数据集上,我们的框架取得了有竞争力的改进和案例研究表明其更好的解释性。
2020-10-10 cs.CL
Temporally Phenotyping GLP-1RA Case Reports with Large Language Models: A Textual Time Series Corpus and Risk Modeling
National Library of Medicine(美国国家医学图书馆)
本文利用大语言模型处理GLP-1RA病例报告的时间线,构建了包含136个病例的文本时间序列语料库,并通过时间序列分析评估了模型在提取临床事件及其时间点上的性能,发现GPT5在事件覆盖和时间顺序上表现优异,并展示了糖尿病患者使用GLP-1RA降低呼吸并发症风险的证据。
2026-03-12 cs.AI cs.CL
PESTS: Persian_English Cross Lingual Corpus for Semantic Textual Similarity
Iran University of Science and Technology(伊朗科技大学)
本文首次构建波斯语-英语语义文本相似度语料库 PESTS(含5375个句子对),并微调多种 transformer 模型,使 XLM ROBERTa 的 Pearson 相关系数从 85.87% 提升至 95.62%。
2024-09-05 cs.AI cs.CL
Oral to Web: Digitizing 'Zero Resource'Languages of Bangladesh
Bangladesh Computer Council(孟加拉国计算机委员会);Jahangirnagar University(贾hangirnagar大学)
本文介绍了多语言云语料库,旨在为孟加拉国的濒危语言提供数字化资源,涵盖42种语言,通过系统田野工作和多模态数据收集,支持低资源NLP和语言保护。
2026-03-06 cs.CL cs.HC
Du corpus au dictionnaire
LIMSI CNRS UPR 3251(法国国家科学研究中心LIMSI实验室(UPR 3251));UCB Lyon 1(里昂第一大学克洛德·贝尔纳大学);L2C2 CNRS UMR 5230(法国国家科学研究中心L2C2实验室(UMR 5230))
在这篇文章中,我们提出了一个自动化的过程来建立多语言的词汇语义资源。这些资源的目标是浏览包含在不同语言文本中的语义文本信息。这种方法使用一种称为Atlas sémantiques的数学模型来表示每个单词的不同含义。它使用单词之间的语言关系来创建投影到语义空间中的图形。这些投影构成语义图,表示每个给定单词的意义趋势。这个模型是由从语料库中提取的词之间的句法关系。因此,产生的词汇语义资源描述了语料库中观察到的所有单词及其所有含义。语义倾向是由句法语境表达的,对于给定的意义是典型的。每个意义趋势和用于建立意义趋势的话语之间的联系也存储在索引中。因此,一个词在特定意义上的所有实例都被链接起来,可以很容易地浏览。利用多个不同语言的语料库,建立了多个语言对应的资源库。由于句法上下文翻译(即使其中一些是部分的),它可以通过语言浏览信息。
2009-01-26 cs.CL cs.IR
Estimating Causal Effects of Text Interventions Leveraging LLMs
本文提出CausalDANN方法,通过大语言模型处理复杂文本数据,解决传统因果推断方法在高维文本数据中的不足,实现对文本干预效果的稳健估计。
2026-03-14 cs.AI cs.CL
Causal-Anticausal Decomposition of Speech using Complex Cepstrum for Glottal Source Estimation
University of Mons(蒙斯大学);Izmir Institute of Technology(伊兹密尔理工学院)
复倒谱在文献中已知用于线性分离因果分量和反因果分量。依靠ZZT技术的零值,我们在这里研究了在大规模数据库上使用复倒谱进行声门流量估计的可能性。通过系统的研究窗口对反卷积质量的影响,我们表明,复倒谱cascarianticausal分解可以有效地用于声门流量估计时,满足特定的窗口标准。它还表明,这种复杂的倒谱分解得到类似的声门估计与ZZT方法。然而,由于复倒谱使用FFT运算而不需要高次多项式的因式分解,因此该方法受益于更高的速度。最后,在我们的一个大语料库的真实表达语音的测试,我们表明,该方法具有潜在的语音质量分析。
2019-12-30 cs.CL cs.SD eess.AS
Corpus-level and Concept-based Explanations for Interpretable Document Classification
Virginia Tech(弗吉尼亚理工大学)
使用注意力权重来识别对模型决策重要的信息是解释基于注意力的神经网络的一种流行方法。在实践中,这通常通过基于注意力权重为每个文档生成热图来实现。但这种解释方法是脆弱的,并且容易发现矛盾的例子。在本文中,我们提出了一个语料库级的解释方法,其目的是捕捉关键字和模型预测之间的因果关系,通过学习关键字的重要性,预测标签在训练语料库的基础上的注意力权重。基于这一思想,我们进一步提出了一种基于概念的解释方法,可以自动学习更高级别的概念及其重要性,以建模预测任务。我们的基于概念的解释方法建立在一个新的抽象聚合网络,它可以在端到端的训练过程中自动聚类重要的关键字。我们将这些方法应用于文档分类任务,并表明它们在提取语义上有意义的关键字和概念方面是强大的。我们基于基于注意力的朴素贝叶斯分类器的一致性分析结果也证明了这些关键词和概念对模型预测的重要性。
2021-05-31 cs.CL cs.IR cs.LG
Automatic Depression Detection: An Emotional Audio-Textual Corpus and a GRU/BiLSTM-based Model
Tongji University(同济大学)
抑郁症是一个全球性的心理健康问题,最严重的情况可能导致自杀。自动抑郁症检测系统在促进抑郁症自我评估和提高诊断准确性方面提供了很大的帮助。在这项工作中,我们提出了一种新的抑郁症检测方法,利用语音特征和语言内容,从参与者的采访。此外,我们还建立了一个情绪化的音频-文本抑郁语料库(EATD-Corpus),它包含了抑郁和非抑郁志愿者的音频和提取的反应记录。据我们所知,EATD-Corpus是第一个也是唯一一个包含中文音频和文本数据的公开抑郁症数据集。在两个抑郁症数据集上的测试结果表明,该方法具有较好的性能。实验结果证明了该方法的有效性和推广能力。源代码和EATD-Corpus可在https://github.com/speechandlanguageprocessing/ICASSP2022-Depression上获得。
2022-02-15 cs.AI cs.SD eess.AS
e-SNLI-VE: Corrected Visual-Textual Entailment with Natural Language Explanations
University of Oxford(牛津大学);Alan Turing Institute(艾伦·图灵研究所);University of Tuebingen(图宾根大学)
最近提出的SNLI-VE语料库识别视觉文本蕴涵是一个大的,真实世界的数据集细粒度的多模态推理。然而,SNLI-VE已经组装的自动方式(通过组合两个相关数据集的部分)在该语料库的标签中产生了大量的错误。在本文中,我们首先提出了一个数据汇集的努力,以纠正类的最高出错率在SNLI-VE。其次,我们重新评估现有的模型,我们称之为SNLI-VE-2.0的校正语料库,并提供了一个定量的比较,其性能的非校正语料库。第三,我们引入了e-SNLI-VE,它在SNLI-VE-2.0中增加了人类书写的自然语言解释。最后,我们在训练时训练从这些解释中学习的模型,并在测试时输出这些解释。
2021-08-19 cs.AI cs.CL cs.CV
Reconstructing Sepsis Trajectories from Clinical Case Reports using LLMs: the Textual Time Series Corpus for Sepsis
Machine Learning Department and Heinz College Carnegie Mellon University(卡内基梅隆大学机器学习系和海恩兹学院);National Library of Medicine National Institutes of Health(美国国家医学图书馆)
本文提出利用大语言模型构建脓毒症文本时间序列语料库,通过提取病例报告中的时间局部发现,验证了LLM在时间局部化方面的有效性,并指出多模态整合的改进方向。
2026-05-12 cs.AI cs.CL cs.LG
Counterfactual Reasoning for Out-of-distribution Multimodal Sentiment Analysis
Shandong University(山东大学);National University of Singapore(新加坡国立大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
现有的多模态情感分析研究严重依赖于文本模态,并且不可避免地导致文本词和情感标签之间的虚假相关。这极大地阻碍了模型的泛化能力。为了解决这个问题,我们定义的任务外的分布(OOD)多模态情感分析。本任务旨在评估和减轻语篇情态对强面向对象归纳的不利影响。为此,我们拥抱因果推理,通过因果图检查因果关系。从图中,我们发现虚假的相关性归因于文本模态对模型预测的直接影响,而通过考虑多模态语义,间接的相关性更可靠。受此启发,我们设计了一个模型不可知的反事实框架多模态情感分析,它捕捉文本模态通过额外的文本模型的直接影响和估计的间接一个多模态模型。在推理过程中,我们首先通过反事实推理估计直接效应,然后从所有模态的总效应中减去它,以获得可靠预测的间接效应。大量的实验表明,我们提出的框架的优越的有效性和泛化能力。
2022-07-24 cs.AI cs.CL
Predicting Directionality in Causal Relations in Text
The George Washington University(乔治·华盛顿大学)
在这项工作中,我们测试了两个双向转换为基础的语言模型,BERT和斯潘BERT,预测文本内容中的因果对的方向性的性能。我们的初步研究结果表明,预测句子间的方向和隐含的因果关系是更具挑战性的。并且,Span BERT在跨度长度较长的因果样本上的性能优于BERT。我们还介绍了CREST,这是一个框架,用于统一收集分散的因果关系数据集。
2021-03-25 cs.AI cs.CL
Inducing Causal Structure for Abstractive Text Summarization
CAS Key Lab of Network Data Science and Technology, ICT, CAS , University of Chinese Academy of Sciences(中国科学院计算技术研究所网络数据科学与技术重点实验室,中国科学院大学);University of Amsterdam(阿姆斯特丹大学)
针对生成式摘要模型易受虚假关联影响的问题,提出基于结构因果模型的CI-Seq2Seq方法,通过重构VAE学习因果表征生成摘要,在两个常用数据集上验证了有效性。
2023-08-24 cs.AI cs.CL
Eliciting Causal Abilities in Large Language Models for Reasoning Tasks
BNU-HKBU United International College(北师港浸大);Hong Kong Baptist University(香港浸会大学);Beijing Normal University at Zhuhai(北京师范大学珠海校区);The Chinese University of Hong Kong(香港中文大学)
本文提出SCIE方法,通过从提示指令到答案中激发LLMs的因果推断能力来增强推理性能,结合OR原则实现低成本可重用性,实验证明其有效提升推理性能并降低训练成本。
2024-12-19 cs.AI cs.CL
Does Yoga Make You Happy? Analyzing Twitter User Happiness using Textual and Temporal Information
Purdue University(普渡大学)
尽管瑜伽是一种磨练身心的多成分练习,并被认为可以减少焦虑和抑郁,但在社交媒体上对人们与瑜伽相关的情绪状态的理解仍然存在差距。在这项研究中,我们调查练习瑜伽和快乐之间的因果关系,结合使用者的文本和时间信息,使用格兰杰因果关系。为了从文本中找出因果特征,我们测量了两个变量(i)基于内容分析的瑜伽活动水平和(ii)基于情绪状态的幸福水平。为了理解用户的瑜伽活动,我们提出了一个联合嵌入模型的基础上融合的神经网络与注意力机制,利用用户的社会和文本信息。为了测量瑜伽使用者的情绪状态(目标域),我们提出了一种迁移学习方法,从源域上训练的基于注意力的神经网络模型中转移知识。我们在Twitter数据集上的实验表明,有1447名用户“瑜伽格兰杰带来快乐”。
2020-12-05 cs.AI cs.CL cs.CY
BiPrompt: Bilateral Prompt Optimization for Visual and Textual Debiasing in Vision-Language Models
BiPrompt通过双重视觉语言模型双向提示优化,同时减轻视觉和文本中的非因果特征依赖,提升模型在分布偏移下的鲁棒性和因果推理能力。
2026-01-05 cs.AI cs.CV cs.LG