The Moral Foundations Weibo Corpus
Wenzhou Kean University(温州肯恩大学);Nanchang Hangkong University(南昌航空大学)
为填补中文领域道德情感数据集空白,研究构建了包含25,671条微博评论的Moral Foundation Weibo Corpus,基于十大道德类别进行人工标注,并利用大语言模型进行对比实验提供分类基线。
2024-11-14 cs.CL cs.LG
TWeddit : A Dataset of Triggering Stories Predominantly Shared by Women on Reddit
TWeddit是一个专门收集女性在Reddit上分享的触发性故事数据集,用于研究触发体验相关的语言和道德基础。
2026-01-16 cs.CL
The Moral Foundations Reddit Corpus
University of Southern California(南加州大学)
该研究提出一个包含16123条Reddit评论的语料库,用于标注道德情感,通过评估不同模型表现,强调了人工标注数据在AI对齐评估中的重要性。
2026-03-17 cs.CL cs.CY cs.LG
A Corpus and Evaluation Framework for Deeper Understanding of Commonsense Stories
University of Rochester(罗切斯特大学);United States Naval Academy(美国海军学院);Microsoft Research(微软研究院);Virginia Tech(弗吉尼亚理工大学);The Institute for Human & Machine Cognition(人类与机器认知研究所)
常识知识的表示和学习是实现深度语言理解的基础问题之一。这个问题对于理解事件之间的因果关系和相关关系尤其具有挑战性。虽然这个主题在NLP社区中引起了很大的兴趣,但由于缺乏适当的评估框架,研究受到了阻碍。本文试图用一个新的评价故事理解和剧本学习的框架来解决这个问题:故事完形填空。这个测试需要一个系统来为一个四句话的故事选择正确的结尾。我们创建了一个新的语料库~ 50 k五句话的常识故事,ROCStories,使这种评估。这个语料库在两个方面是独一无二的:(1)它捕捉了日常事件之间丰富的因果和时间常识关系,(2)它是一个高质量的日常生活故事集,也可以用于故事生成。实验评估表明,许多基于浅语言理解的基线和最先进的模型很难在故事完形填空测试中获得高分。我们讨论了这些对剧本和故事学习的影响,并为更深层次的语言理解提供了建议。
2016-04-06 cs.AI cs.CL
StoryDB: Broad Multi-language Narrative Dataset
Yandex(扬德克斯);ICT RAS(俄罗斯科学院信息传输问题研究所);LEYA Laboratory(LEYA实验室);Higher School of Economincs(高等经济大学)
本文介绍了StoryDB -一个广泛的多语言叙事数据集。StoryDB是一个文本语料库,包含42种不同语言的故事。每种语言包含500+故事。其中一些语言包括超过20000个故事。每个故事都被编入不同语言的索引,并标有诸如体裁或主题之类的标签。该语料库显示了丰富的主题和语言变化,可以作为一个资源的研究在自然语言处理的各种语言,包括低资源的叙事的作用。我们还演示了如何使用该数据集对三种现代多语言模型进行基准测试,即mDistillBERT,mBERT和XLM-RoBERTa。
2021-09-29 cs.CL
Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life Anecdotes
Allen Institute for AI(艾伦人工智能研究所);Paul G. Allen School of Computer Science & Engineering(保罗·G·艾伦计算机科学与工程学院)
随着人工智能系统成为人们日常生活中越来越重要的一部分,它们理解人们的道德规范变得越来越重要。出于描述性伦理学的动机,一个专注于人们的描述性判断而不是道德理论处方的研究领域,我们研究了一种新颖的,数据驱动的机器伦理学方法。我们介绍Scruples,这是第一个大规模的数据集,包含625,000个道德判断和32,000个真实生活中的轶事。每一个轶事都叙述了一个复杂的伦理状况,经常提出道德困境,并与社区成员贡献的判断分布相结合。我们的数据集对最先进的神经语言模型提出了重大挑战,留下了巨大的改进空间。然而,当呈现简化的道德情境时,结果更有希望,这表明神经模型可以有效地学习更简单的道德构建模块。我们的实证分析的一个关键结论是,规范并不总是明确的;许多情况下是自然分裂的。我们提出了一种新的方法来估计这些任务的最佳性能与固有的不同标签分布,并探讨似然函数,从模型的不确定性分离的内在。
2021-03-24 cs.CL
BabyStories: Can Reinforcement Learning Teach Baby Language Models to Write Better Stories?
The University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本研究在BabyLM任务下探索RLHF对有限语料预训练语言模型的影响,发现较大GPT-2变体经微调后在讲故事任务中表现更优,提升了叙事连贯性与指令遵循能力。
2023-10-25 cs.CL
Modeling Empathic Similarity in Personal Narratives
Massachusetts Institute of Technology(麻省理工学院);Carnegie Mellon University(卡内基梅隆大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
本文提出基于共情共鸣的个人故事相似性任务,构建 EmpathicStories 数据集并微调模型,实验证明其在相关性、检索及用户共情上优于语义相似性方法。
2023-12-06 cs.CL
Anubhuti -- An annotated dataset for emotional analysis of Bengali short stories
Birla Institute of Technology, Mesra(比拉理工学院梅斯拉分校)
今天,世界各地有成千上万的短篇小说和文章用许多不同的语言写成。孟加拉语,或孟加拉语,是印度仅次于印地语的第二大语言,也是孟加拉国的国家语言。这部作品详细报道了Anubhuti的创作-第一个也是最大的文本语料库,用于分析孟加拉短篇小说作家所表达的情感。我们解释了数据汇集方法、手动注释过程以及由于注释者的语言专业知识和遵循的明确的标签方法而导致的数据集的注释者间高度一致。我们还解决了在收集原始数据和注释过程中面临的一些挑战,像孟加拉语这样的低资源语言。我们已经用基线机器学习和深度学习模型验证了我们的数据集的性能,并发现这些标准模型在Anubhuti上具有很高的准确性和相关的特征选择。此外,我们还解释了语言学家和数据分析师如何对该数据集感兴趣,以研究孟加拉文学作家所表达的情感流动。
2020-10-06 cs.CL
Moral Stories: Situated Reasoning about Norms, Intents, Actions, and their Consequences
University of Edinburgh(爱丁堡大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Washington(华盛顿大学)
在社会环境中,人类的许多行为都受到潜规则的约束。要使人工系统完全融入社会环境,遵守这些规范是一个核心先决条件。我们研究当代NLG模型是否可以作为部署在社会环境中的系统的行为先验,通过产生行动假设,实现预定义的目标下的道德约束。此外,我们还研究了模型是否可以预测(非)道德行为的可能后果,或者通过生成相关规范来解释为什么某些行为是优选的。为此,我们引入了“道德故事”,这是一个结构化、分支化叙事的众包数据集,用于研究接地的、以目标为导向的社会推理。最后,我们提出了解码策略,有效地结合了多个专家模型,以显着提高质量生成的行动,后果和规范相比,强基线,例如,通过溯因推理。
2020-12-31 cs.AI cs.CL
That is Unacceptable: the Moral Foundations of Canceling
Università degli Studi di Torino(托里诺大学);aequa-tech;Universidad Politécnica de Madrid(马德里理工大学);University of Tartu(塔尔图大学);Plaksha University(普拉克斯哈大学)
本文提出CADE数据集,研究社交媒体中取消行为的道德驱动因素及标注者道德观念对分歧的影响。
2025-09-04 cs.CL cs.CY
Generating Representative Headlines for News Stories
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Google Research(谷歌研究院);Google Inc.(谷歌公司)
每天都有数百万篇新闻文章在网上发布,读者可能会不知所措。将报道同一事件的文章转换成新闻故事是帮助读者进行新闻消费的常见方式。然而,它仍然是一个具有挑战性的研究问题,高效和有效地产生一个代表性的标题为每个故事。文档集的自动摘要已经研究了几十年,而很少有研究集中在生成一组文章的代表性标题。与旨在以最少冗余捕获大多数信息的摘要不同,标题旨在捕获由短长度的故事文章共同共享的信息,并排除对每个单独文章过于具体的信息。在这项工作中,我们研究的问题,产生代表性的标题新闻故事。我们开发了一种远程监督方法来训练大规模的生成模型,而无需任何人工注释。这种方法集中在两个技术组成部分。首先,我们提出了一个多层次的预训练框架,它包含了大量的未标记的语料库与不同的质量。各级数量平衡。我们表明,在这个框架内训练的模型优于那些用纯人类策展语料库训练的模型。其次,我们提出了一种新的基于自投票的文章注意力层来提取多篇文章共享的显著信息。我们表明,包含这一层的模型对新闻报道中的潜在噪音具有鲁棒性,并且在有或没有噪音的情况下优于现有的基线。我们可以通过引入人类标签来进一步增强我们的模型,我们表明我们的远程监督方法显着降低了对标记数据的需求。
2020-04-13 cs.AI cs.CL cs.IR
InScript: Narrative texts annotated with script information
本文介绍了InScript语料库(Narrative Texts Instantiating Script structure)。InScript是一个包含1,000个故事的语料库,围绕着10个不同的场景。动词和名词短语分别用事件和参与者类型进行注释。此外,正文还附有共指信息的注释。该语料库显示了丰富的词汇变异,将成为研究脚本知识在自然语言处理中作用的独特资源。
2017-03-15 cs.AI cs.CL
Social Chemistry 101: Learning to Reason about Social and Moral Norms
University of Washington(华盛顿大学);Allen Institute for AI(艾伦人工智能研究所)
社会规范--关于可接受的社会行为的不言而喻的常识规则--对于理解人们在叙事中行动的潜在原因和意图至关重要。例如,在“想叫警察来抓我的邻居”这样的行为背后,是指导我们行为的社会规范,比如“你应该报告犯罪。“我们提出社会化学,一个新的概念形式主义,研究人们的日常社会规范和道德判断的丰富频谱的现实生活中的情况下描述的自然语言。我们介绍社会化学-101,一个大规模的语料库,编目292 k经验法则,如“这是粗鲁的运行搅拌机在5点”作为基本的概念单位。每个经验法则进一步细分为人们判断的12个不同维度,包括对好与坏的社会判断、道德基础、预期的文化压力和假定的合法性,这些维度加起来超过450万个分类标签和自由文本描述的注释。基于最先进的神经模型的综合实证结果表明,社会规范的计算建模是一个很有前途的研究方向。我们的模型框架Neural Norm Transformer学习并概括了Social-Chem-101,以成功地对以前看不见的情况进行推理,生成相关的(并且可能是新颖的)属性感知的社会经验法则。
2021-08-16 cs.AI cs.CL
The Moral Integrity Corpus: A Benchmark for Ethical Dialogue Systems
Georgia Institute of Technology(佐治亚理工学院);Meta AI Research(Meta人工智能研究院)
在开放域对话环境中,对话代理越来越接近人类的能力;然而,这样的模型可能反映出不敏感、有害或完全不连贯的观点,从而侵蚀用户对系统道德完整性的信任。道德偏差很难减轻,因为道德判断不是普遍的,可能有多个竞争性的判断同时适用于一种情况。在这项工作中,我们引入了一个新的资源,而不是权威解决道德歧义,而是促进系统的理解的直觉,价值观和道德判断反映在对话系统的话语。道德诚信语料库MIC就是这样一个资源,它使用99 k个不同的经验法则(RoTs)捕获了38 k个拒绝-回复对的道德假设。每个RoT都反映了一种特定的道德信念,可以解释为什么聊天机器人的回复看起来可以接受或有问题。我们进一步组织RoTs与一组9道德和社会属性和基准性能属性分类。最重要的是,我们表明,目前的神经语言模型可以自动生成新的RoT,合理地描述以前看不见的相互作用,但他们仍然与某些情况下的斗争。我们的研究结果表明,MIC将是一个有用的资源,理解和语言模型的隐含的道德假设和灵活基准的完整性会话代理。要下载数据,请访问https://github.com/GT-SALT/mic
2022-04-06 cs.CL
The Natural Stories Corpus
现在,通过预测参与者对由丰富的自然主义语言材料组成的语料库的反应(如阅读时间)来比较人类语言处理模型是一种常见的做法。然而,在这些研究中使用的语料库是基于自然主义的文本,因此不包含许多低频句法结构,往往需要区分处理理论。在这里,我们描述了一个新的语料库,由英语文本编辑包含许多低频句法结构,同时仍然听起来流利的母语。语料库注释与手纠正解析树,包括自定进度的阅读时间数据。在这里,我们对语料库的内容进行概述并发布数据。
2017-08-18 cs.CL
Some Issues in Predictive Ethics Modeling: An Annotated Contrast Set of "Moral Stories"
Haverford College(哈弗福德学院)
该研究针对伦理建模中仅以准确率为整体指标的问题,通过构建Moral Stories对比集,量化了不同数据失实形式对分类器准确率的损害,并提出了三项改进建议。
2024-07-07 cs.AI cs.CL
Quote Erat Demonstrandum: A Web Interface for Exploring the Quotebank Corpus
EPFL(洛桑联邦理工学院);University of Konstanz(康斯坦茨大学)
引用是新闻中最直接、过滤最少的信息传播途径。因此,引语在新闻故事的构思、接受和分析中起着核心作用。由于引语比常规报道更能直接了解演讲者的思想,因此它们对记者和研究人员来说都是一种宝贵的资源。虽然大量的研究工作一直致力于从新闻中自动提取报价及其归因于扬声器的方法,但很少有来自当代来源的归因报价的综合语料库可供公众使用。在这里,我们提供了一个自适应的Web界面,用于搜索Quotebank,这是一个来自新闻的大量引用集合,我们可以在https://quotebank.dlab.tools上获得。
2022-07-07 cs.CL cs.DB cs.IR
MOSI: Multimodal Corpus of Sentiment Intensity and Subjectivity Analysis in Online Opinion Videos
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学)
人们每天都在通过在线视频分享网站分享他们的观点、故事和评论。研究这些意见视频中的情感和主观性正在受到学术界和工业界越来越多的关注。虽然情感分析在文本方面已经取得了成功,但对于视频和多媒体内容来说,这是一个研究不足的研究问题。这方面研究的最大挫折是缺乏适当的数据集、方法、基线和统计分析,以了解不同模态来源的信息如何相互关联。本文向科学界介绍了第一个在线视频中情感和主观性分析的意见级注释语料库,称为多模态意见级情感强度数据集(MOSI)。该数据集被严格地标注了主观性、情感强度、每帧和每观点标注的视觉特征以及每毫秒标注的音频特征。此外,我们提出了在这个方向上的未来研究的基线,以及一个新的多模态融合的方法,共同建模口语和视觉手势。
2016-08-12 cs.CL cs.MM
Computational analyses of the topics, sentiments, literariness, creativity and beauty of texts in a large Corpus of English Literature
Freie Universität Berlin(柏林自由大学)
古腾堡文学英语语料库(GLEC,雅各布斯,2018a)为数字人文学,计算语言学或神经认知诗学的研究提供了丰富的文本数据来源。在这项研究中,我们解决了GLEC中不同文献类别之间的差异,以及作者之间的差异。我们报告了三项研究的结果,这些研究提供了i)GLEC六个文本类别的主题和情感分析(即,儿童和青少年、散文、小说、戏剧、诗歌、故事)及其>100位作者,ii)语义复杂性的新颖衡量标准,作为GLEC中作品的文学性、创造性和书籍之美的指标(例如,简奥斯汀的六部小说),和iii)两个实验的文本分类和作者识别使用的语义复杂性的小说特征。关于两种新的测量方法的数据估计了文本的文学性,文本内方差和逐步距离(van Cranenburgh等人,2019)显示,戏剧是GLEC中最具文学性的文本,其次是诗歌和小说。计算文本创造力的新指数(Gray等人,2016)揭示了诗歌和戏剧是最具创造力的类别,最具创造力的作者都是诗人(弥尔顿,教皇,济慈,拜伦或华兹华斯)。我们还计算了GLEC中作品的语言艺术感知美的小说指数(Kintsch,2012),并预测《爱玛》是奥斯汀小说中理论上最美的。最后,我们证明了这些新的语义复杂性的措施是文本分类和作者识别的重要功能,整体预测精度在0.75至0.97的范围内。我们的数据为未来的文学计算和实证研究或阅读心理学实验铺平了道路,并为分析和验证其他书籍语料库提供了多个基线和基准…
2022-01-12 cs.CL
Biased Tales: Cultural and Topic Bias in Generating Children's Stories
Bocconi University(博科尼大学);ETH Zurich(苏黎世联邦理工学院)
针对LLM生成儿童故事中的文化及性别偏见,构建Biased Tales数据集,发现女孩主角外貌属性增加55.26%,非西方儿童故事更强调文化传统,旨在促进创意AI的公平多样性。
2025-09-09 cs.CL
A Comparison of LSTM and BERT for Small Corpus
SAS Inst.(SAS研究所)
NLP领域的最新进展表明,迁移学习通过调整预训练模型而不是从头开始,有助于为新任务实现最先进的结果。Transformers在为许多NLP任务(包括但不限于文本分类、文本生成和序列标记)创建新的最先进结果方面取得了重大改进。这些成功案例大多基于大型数据集。在本文中,我们关注学术界和工业界的科学家经常面临的现实场景:给定一个小数据集,我们是否可以使用像BERT这样的大型预训练模型并获得比简单模型更好的结果?为了回答这个问题,我们使用一个小数据集进行意图分类,并将简单的双向LSTM模型与预训练的BERT模型的性能进行比较。我们的实验结果表明,对于小数据集,双向LSTM模型可以获得比BERT模型更高的结果,并且这些简单的模型比调整预训练的模型所需的时间要少得多。我们的结论是,模型的性能取决于任务和数据,因此在选择模型之前,应该考虑这些因素,而不是直接选择最流行的模型。
2020-09-11 cs.CL cs.LG
The Illinois Social Attitudes Aggregate Corpus (ISAAC): An Open Tool and Reproducible Pipeline for Analyzing Social Group Discourse at Scale
AI Innovation Institute, Stony Brook University(石溪大学人工智能创新研究院);University of Chicago(芝加哥大学);University of Illinois Urbana–Champaign(伊利诺伊大学厄巴纳-香槟分校);Social & Behavioral Science Institute, University of Illinois Urbana–Champaign(伊利诺伊大学厄巴纳-香槟分校社会与行为科学研究院)
ISAAC是一个包含5.27亿条Reddit帖子的开放语料库,通过多步人工审核流程过滤,并标注语义标签,支持大规模分析社会群体话语的长期趋势与空间差异。
2026-09-24 cs.CL cs.SI
MEG-MASC: a high-quality magneto-encephalography dataset for evaluating natural speech processing
University of California, San Francisco(加州大学旧金山分校);New York University(纽约大学);NYU Abu Dhabi Institute(纽约大学阿布扎比研究所);Ernst Struengmann Institute for Neuroscience(恩斯特·施特伦曼神经科学研究所);PSL University(巴黎文理研究大学)
“MEG-MASC”数据集提供了一组精心策划的原始脑磁图(MEG)记录,记录了27名讲英语的人,他们听了两个小时的自然故事。每个参与者进行了两个相同的会议,包括听四个虚构的故事,从手动注释子语料库(MASC)混合随机单词列表和理解问题。我们在记录的元数据中标记每个单词和音素的起始和偏移时间,并根据“脑成像数据结构”(BIDS)组织数据集。该数据集为对语音的时间分辨大脑反应进行大规模编码和解码分析提供了合适的基准。我们提供了Python代码来复制MEG诱发相关领域的几个验证分析,例如语音特征和词频的时间解码。所有代码和MEG,音频和文本数据都是公开的,以保持透明和可复制研究的最佳实践。
2022-07-26 cs.CL eess.AS q-bio.QM
Exploring aspects of similarity between spoken personal narratives by disentangling them into narrative clause types
MIT Media Lab(麻省理工学院媒体实验室)
分享个人故事是人类社会行为的一个基本方面,因为它有助于分享我们的生活经历。我们可以讲故事,并依靠我们的背景来理解他们的背景,相似之处和差异。在开发讲故事机器或推断人物特征方面已经做出了大量努力。然而,我们通常不会找到比较叙述的模型。这项任务对机器来说是非常具有挑战性的,因为它们和我们有时一样,缺乏对相似性含义的理解。为了应对这一挑战,我们首先介绍了一个语料库的真实世界的口语个人叙述,包括10,296个叙事条款,从594个视频成绩单。其次,我们请非叙事专家根据Labov的个人叙事社会语言学模型(即,动作、定向和评估条款类型),并训练分类器,该分类器对于最高同意条款达到84.7%F分数。最后,我们匹配的故事,并探讨人们是否隐含地依赖于Labov的框架来比较叙述。我们表明,行动其次是叙述者的评价,这些方面的非专家认为最。我们的方法旨在帮助为旨在研究或表示个人叙述的机器学习方法提供信息。
2020-05-27 cs.CL cs.CY
Can LLMs Tell Stories Out of Order? A Corpus and Benchmark for Nonlinear Narrative Generation
Islamic University of Technology(伊斯兰科技大学);University of Utah(犹他大学);University of Southern California(南加州大学)
本文构建含83部作品的非线性叙事生成基准,测试19个LLMs,发现其默认更倾向时间顺序故事,遵循无序创作指令的表现仍不及人类。
2026-10-16 cs.AI cs.CL
Digital hybridity and relics in cultural heritage: using corpus linguistics to inform design in emerging technologies from AI to VR
School of English, University of Nottingham(诺丁汉大学英语学院);School of Computer Science, University of Nottingham(诺丁汉大学计算机科学学院);Department of Modern Languages, Aberystwyth University(阿伯里斯特威斯大学现代语言系)
本文通过语料库语言学分析历史与当代文本中'遗产'的表述,探讨数字技术如何影响遗产的感知与评价,并提出AI等技术在提升可及性的同时挑战传统真实性观念。
2026-04-01 cs.AI cs.CL cs.CY
Modeling Empathy and Distress in Reaction to News Stories
University of Pennsylvania(宾夕法尼亚大学);Friedrich-Schiller-Universität Jena(耶拿弗里德里希·席勒大学)
移情的计算检测和理解是推进人机交互的重要因素。然而,到目前为止,基于文本的共情预测有以下主要局限性:它低估了现象的心理复杂性,坚持一个薄弱的概念,地面真理的共情状态归因于第三方,并缺乏一个共享的语料库。相比之下,这项贡献提出了第一个公开可用的共情预测金标准。它是使用一种新的注释方法,可靠地捕捉移情评估的作家的声明,使用多项规模。这也是第一个区分多种形式的移情、移情关怀和个人痛苦的计算工作,正如整个心理学所认识的那样。最后,我们给出了三种不同预测模型的实验结果,其中CNN表现最好。
2018-08-30 cs.CL
AITA Generating Moral Judgements of the Crowd with Reasoning
本文利用 Reddit 的 AITA 子版块数据,研究如何用 seq2seq 文本生成模型为道德困境故事自动生成带道德推理的评论,以模拟大众道德判断并为发帖者提供明确立场与建议。
2023-10-21 cs.CL cs.LG
Extracting Impact Model Narratives from Social Services' Text
University of Toronto(多伦多大学)
命名实体识别(NER)是叙述抽取中的一项重要任务。叙事作为一个故事系统,提供了对故事中的事件和人物如何随着时间的推移而发展的见解。本文提出了一种基于社会目的组织语料库的命名实体架构。这是第一项专门针对社会服务实体的净入学率任务。我们展示了如何使用这种方法来排序的服务和受影响的客户端从非结构化文本中提取的信息。该方法概述了提取实体的本体表示,如需求和满足,并生成假设,以回答查询的社会目的组织定义的影响模型的步骤。我们评估模型的语料库的社会服务的描述与经验计算的分数。
2022-04-04 cs.AI cs.CL cs.IR
Topic Detection and Tracking with Time-Aware Document Embeddings
Massachusetts Institute of Technology(麻省理工学院);Stanford University(斯坦福大学)
本文提出一种融合时间与文本信息的神经方法生成时间感知文档嵌入,通过 triplet loss 架构微调并集成至 TDT 系统,在回顾与在线流设置下均显著提升事件检测性能。
2024-03-26 cs.CL
A New Sentence Ordering Method Using BERT Pretrained Model
University of Tehran(德黑兰大学);University of Rochester(罗切斯特大学)
构建具有自然语言理解(NLU)能力的系统一直是人工智能最古老的领域之一。NLU的一个重要组成部分是检测文本中包含的事件的逻辑顺序。提出了句子排序的任务来学习事件的连续性,并将其应用于人工智能任务中。以往的工作采用统计方法的性能是穷人,而神经网络为基础的方法是在严重需要大型语料库的模型学习。在本文中,我们提出了一种句子排序的方法,它不需要一个训练阶段,因此,一个大的语料库学习。为此,我们使用BERT预训练模型生成句子嵌入,并使用余弦相似度得分来测量句子相似度。我们建议这个分数作为连续事件的连贯性水平的指标。最后,我们通过蛮力搜索对句子进行排序,以最大限度地提高排序后的句子的整体相似性。我们提出的方法在ROCStories上的表现优于其他基线,ROCStories是一个5句人造故事的语料库。特别是当没有庞大的语料库时,该方法比基于神经网络的方法更有效。这种方法的优点之一是它的可解释性和不需要语言知识。
2021-08-26 cs.AI cs.CL