CHQ-Summ: A Dataset for Consumer Healthcare Question Summarization
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Lister Hill National Center for Biomedical Communications(利斯特·希尔国家生物医学通信中心);National Library of Medicine, National Institutes of Health(美国国立卫生研究院国家医学图书馆)
寻求健康信息的需求已经淹没了消费者的健康相关问题的网络。一般来说,消费者使用过度描述性和外围信息来表达他们的医疗状况或其他医疗保健需求,从而导致自然语言理解的挑战。解决这一挑战的一种方法是总结问题并提取原始问题的关键信息。为了解决这个问题,我们引入了一个新的数据集,CHQ-Summ,其中包含1507个领域专家注释的消费者健康问题和相应的摘要。该数据集来自社区问答论坛,因此为了解社交媒体上消费者健康相关帖子提供了宝贵的资源。我们在多个最先进的摘要模型上对数据集进行基准测试,以显示数据集的有效性。
2022-06-15 cs.CL
CAVES: A Dataset to facilitate Explainable Classification and Summarization of Concerns towards COVID Vaccines
Indian Institute of Technology(印度理工学院);Leibniz University of Hannover(汉诺威莱布尼茨大学)
说服人们接种COVID-19疫苗是当今社会的一项关键挑战。作为实现这一目标的第一步,许多先前的工作依赖于社交媒体分析来了解人们对这些疫苗的具体关注,例如潜在的副作用,无效性,政治因素等。尽管有数据集将社交媒体帖子大致分为Anti-Vax和Pro-Vax标签,(据我们所知)没有数据集根据帖子中提到的具体反疫苗问题来标记社交媒体帖子。在本文中,我们策划了CAVES,这是第一个大规模数据集,包含约10 k条COVID-19反疫苗推文,在多标签环境中标记为各种特定的反疫苗问题。这也是第一个为每个标签提供解释的多标签分类数据集。此外,该数据集还提供了所有推文的类汇总。我们还对数据集进行了初步实验,并表明这对于多标签可解释分类和推文摘要来说是一个非常具有挑战性的数据集,正如一些最先进的模型所获得的中等分数所证明的那样。我们的数据集和代码可在https://github.com/sohampoddar26/caves-data上获得
2022-11-11 cs.CL cs.CY cs.IR
Newsroom: A Dataset of 1.3 Million Summaries with Diverse Extractive Strategies
Cornell University(康奈尔大学);Cornell Tech(康奈尔理工学院)
我们介绍了NEWSROOM,这是一个由38家主要新闻出版物的编辑室的作者和编辑撰写的130万篇文章和摘要的摘要数据集。从1998年至2017年的搜索和社交媒体元数据中提取,这些高质量的摘要展示了摘要风格的高度多样性。特别是,摘要结合了抽象和提取策略,以不同的速度从文章中借用单词和短语。我们分析了NEWSROOM摘要中使用的提取策略,以量化新数据的多样性和难度,并对数据进行训练,以评估其实用性和挑战性。
2020-05-17 cs.CL
On (Commercial) Benefits of Automatic Text Summarization Systems in the News Domain: A Case of Media Monitoring and Media Response Analysis
pressrelations GmbH(pressrelations有限公司);Heinrich Heine University of Düsseldorf(海因里希·海涅杜塞尔多夫大学)
在这项工作中,我们提出了一个系统的研究结果,以调查(商业)的好处,自动文本摘要系统在现实世界中的情况。更具体地说,我们在媒体监控和媒体响应分析的背景下定义了一个用例,并声称即使使用简单的基于查询的提取方法也可以大大节省员工的处理时间,而不会显着降低他们的工作质量。
2017-01-03 cs.CL
Why Do You Feel This Way? Summarizing Triggers of Emotions in Social Media Posts
The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
COVID-19大流行等危机持续威胁着我们的世界,并以不同的方式在情感上影响着全球数十亿人。了解导致人们情绪的触发因素至关重要。社交媒体帖子可以成为此类分析的一个很好的来源,但这些文本往往充满了多种情绪,触发因素分散在多个句子中。本文从一个新的角度,即情感检测和触发摘要,旨在检测文本中的感知情感,并总结事件和他们的评价,触发每种情感。为了支持这一目标,我们引入了CovidET(Covid-19期间的情绪及其触发器),这是一个包含约1,900个与COVID-19相关的英语Reddit帖子的数据集,其中包含帖子中描述的感知情绪的手动注释和触发器的抽象摘要。我们开发强大的基线来共同检测情绪并总结情绪触发因素。我们的分析表明,CovidET在特定于情感的摘要以及长社交媒体帖子中的多情感检测方面提出了新的挑战。
2022-10-22 cs.CL cs.SI
What is this Article about? Extreme Summarization with Topic-aware Convolutional Neural Networks
Google Research(谷歌研究院);University of Edinburgh(爱丁堡大学)
我们引入了“极端摘要”,一个新的单文档摘要任务,旨在创建一个简短的,一句话的新闻摘要回答问题“这篇文章是关于什么的?''.我们认为,极端的总结,本质上,是不适合提取策略,需要一个抽象的建模方法。为了进一步推动这项任务的研究:(a)我们通过从英国广播公司(BBC)收集在线文章来收集真实世界的大规模数据集;(b)提出一种新的抽象模型,该模型以文章的主题为条件,完全基于卷积神经网络。我们通过实验证明,该架构可以捕获文档中的长期依赖关系并识别相关内容,在自动评估和由人类在极端摘要数据集上评估时,其性能优于Oracle提取系统和最先进的抽象方法。
2019-07-19 cs.CL
Improving Semantic Relevance for Sequence-to-Sequence Learning of Chinese Social Media Text Summarization
Peking University(北京大学);The Hong Kong Polytechnic University(香港理工大学)
目前的中文社交媒体文本摘要模型是基于编码器-解码器框架的。虽然其生成的摘要在字面上与源文本相似,但它们的语义相关性较低。在这项工作中,我们的目标是提高中文社交媒体摘要的源文本和摘要之间的语义相关性。我们引入了一个基于语义相关性的神经模型,以鼓励文本和摘要之间的高语义相似性。在我们的模型中,源文本由门控注意编码器表示,而摘要表示由解码器产生。此外,表示之间的相似性得分在训练期间被最大化。我们的实验表明,该模型优于基线系统上的社交媒体语料库。
2017-06-08 cs.CL
TGSum: Build Tweet Guided Multi-Document Summarization Dataset
The Hong Kong Polytechnic University(香港理工大学);Peking University(北京大学);Microsoft Research(微软研究院)
摘要研究的发展一直受到昂贵的参考摘要获取的严重阻碍。本文提出了一种有效的方法来自动收集大规模的新闻相关的多文档摘要参考社会媒体的反应。我们在推文中使用两种类型的社交标签,即,标签和超链接主题标签用于将文档聚类到不同的主题集中。此外,带有超链接的推文通常会突出显示相应文档的某些关键点。我们合成一个链接的文档簇,形成一个参考摘要,可以涵盖大多数关键点。为此,我们采用了ROUGE度量来衡量覆盖率,并开发了一个线性规划的解决方案来发现达到ROUGE上界的句子集。由于我们允许从文档和高质量的推文中选择摘要句子,因此生成的参考摘要可以是抽象的。所收集的摘要的信息量和可读性均通过人工判断进行验证。此外,我们训练支持向量回归摘要DUC通用多文档摘要基准。将收集到的数据作为额外的训练资源,使摘要器在所有测试集上的性能都有了很大的提高。我们发布此数据集以供进一步研究。
2015-11-26 cs.CL cs.IR
X-SCITLDR: Cross-Lingual Extreme Summarization of Scholarly Documents
University of Mannheim(曼海姆大学);Hochschule der Medien(斯图加特传媒学院)
如今科学出版物的数量迅速增加,导致研究人员的信息过载,使学者很难跟上当前的趋势和工作路线。因此,最近的工作应用文本挖掘技术的学术出版物研究了应用自动文本摘要技术,包括极端摘要,在这一领域。然而,以前的工作只集中在单语设置,主要是在英语。在本文中,我们填补了这一研究空白,并提出了一个抽象的跨语言摘要数据集为四种不同的语言在学术领域,这使我们能够训练和评估模型,处理英语论文,并生成摘要在德国,意大利,中国和日本。我们提出了用于多语言摘要的新X-SCITLDR数据集,并基于最先进的多语言预训练模型对不同模型进行了彻底的基准测试,包括两阶段的“摘要和翻译”方法和直接跨语言模型。我们还探索了使用英语单语摘要和机器翻译作为中间任务的中间阶段训练的好处,并分析了零镜头和Few-Shot场景下的性能。
2022-05-30 cs.CL
Autoencoder as Assistant Supervisor: Improving Text Representation for Chinese Social Media Text Summarization
Peking University(北京大学);Beijing Institute of Big Data Research(北京大数据研究院)
目前的摘要模型大多是基于序列到序列模型(Seq2Seq)的。社交媒体的源内容很长且有噪声,因此Seq2Seq很难学习准确的语义表示。与源内容相比,注释摘要简短且写得很好。此外,它与源内容具有相同的含义。在这项工作中,我们监督学习的表示源内容的摘要。在实现上,我们将摘要自动编码器作为Seq2Seq的辅助管理器。在之前的工作之后,我们在一个流行的中国社交媒体数据集上评估了我们的模型。实验结果表明,我们的模型在基准数据集上达到了最先进的性能。
2018-05-13 cs.CL
Improving Social Media Text Summarization by Learning Sentence Weight Distribution
MOE Key Laboratory of Computational Linguistics, Peking University(北京大学计算语言学教育部重点实验室);School of Electronics Engineering and Computer Science, Peking University(北京大学电子工程与计算机科学学院)
最近,编码器-解码器模型被广泛用于社交媒体文本摘要。然而,这些模型有时会错误地选择不相关句子中的噪声词作为摘要的一部分,从而降低了性能。为了抑制不相关的句子,集中在关键信息,我们提出了一种有效的方法,通过学习句子的权重分布。在我们的模型中,我们构建了一个多层感知器来预测句子权重。在训练过程中,我们使用ROUGE得分作为估计的句子权重的替代方案,并尝试最小化估计权重和预测权重之间的差距。通过这种方式,我们鼓励我们的模型专注于与摘要具有高度相关性的关键句子。实验结果表明,我们的方法优于基线上的大规模社交媒体语料库。
2017-10-31 cs.CL
Don't Give Me the Details, Just the Summary! Topic-Aware Convolutional Neural Networks for Extreme Summarization
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们介绍极端的摘要,一个新的单文档摘要任务,不赞成提取策略,并要求一个抽象的建模方法。这个想法是创建一个简短的,一句话的新闻摘要回答这个问题:“这篇文章是关于什么的?”".我们收集了一个真实世界的,大规模的数据集为这项任务收获的在线文章从英国广播公司(BBC)。我们提出了一种新的抽象模型,这是有条件的文章的主题和完全基于卷积神经网络。我们通过实验证明,这种架构捕获文档中的长距离依赖关系,并识别相关内容,在自动和人工评估时优于Oracle提取系统和最先进的抽象方法。
2018-08-27 cs.CL
Impossible Distillation: from Low-Quality Model to High-Quality Dataset & Model for Summarization and Paraphrasing
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
提出“不可能蒸馏”框架,从低质量教师模型(如GPT2)中提取高质量数据集和模型,用于释义和摘要,7.7亿参数模型性能超越ChatGPT蒸馏模型。
2024-08-19 cs.AI cs.CL cs.LG
CiteSum: Citation Text-guided Scientific Extreme Summarization and Domain Adaptation with Limited Supervision
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
科学极端摘要(TLDR)旨在形成科学论文的超短摘要。由于需要大量的人工注释和领域专业知识,以前管理科学TLDR数据集的努力未能扩大规模。在本文中,我们提出了一个简单而有效的方法来自动提取TLDR摘要的科学论文从他们的引文文本。基于所提出的方法,我们创建了一个没有人类注释的新基准CiteSum,它比以前的人类策划数据集SciTLDR大30倍左右。我们对CiteSum进行全面分析,检查其数据特征并建立强大的基线。我们通过使在CiteSum(名为CITES)上预训练的模型适应监督有限的新任务和领域,进一步证明了CiteSum的有用性。对于科学的极端总结,CITES在SciTLDR上的表现优于大多数完全监督的方法,无需任何微调,并且仅用128个例子就获得了最先进的结果。对于新闻极端摘要,CITES在XSum上实现了其基础模型(未在CiteSum上预训练)的显著增益,例如,+7.2 ROUGE-1 zero-shot性能和最先进的Few-Shot性能。对于新闻标题生成,CITES在Gigaword上的无监督和zero-shot方法中表现最好。我们的数据集和代码可以在https://github.com/morningmoni/CiteSum上找到。
2022-10-19 cs.CL
ADSumm: Annotated Ground-truth Summary Datasets for Disaster Tweet Summarization
Indian Institute of Technology Patna(印度理工学院巴特那分校);University of Tartu(塔尔图大学)
针对灾害推文监督摘要缺乏训练与评估数据的问题,本文构建 ADSumm,为八国来源中的八类自然灾害和人为灾害事件提供带标注真实摘要、类别/相关性标签及关键短语,并使 ROUGE-N F1 提升 8%–28%。
2024-05-10 cs.CL cs.SI
The Role of CNL and AMR in Scalable Abstractive Summarization for Multilingual Media Monitoring
University of Latvia, IMCS(拉脱维亚大学数学与计算机科学研究所);LETA(拉脱维亚通讯社)
在大数据和深度学习时代,人们普遍认为机器学习方法是应对鲁棒和可扩展的信息抽取和摘要的唯一方法。最近有人提出,CNL方法可以扩大规模,建立在嵌入式CNL的概念上,从而允许从例如规范或医学文本中基于CNL的信息抽取,这些文本相当受自然控制,但仍然侵犯CNL的边界。虽然可以利用CNL来实现对媒体监控等用例的强大的广泛覆盖语义解析,但它的潜力在相反的方向上变得更加明显:从总结的AMR图中生成故事亮点,这是本立场文件的重点。
2016-06-20 cs.CL
ManiTweet: A New Benchmark for Identifying Manipulation of News on Social Media
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学);Salesforce AI Research(Salesforce人工智能研究)
针对社交媒体帖子对新闻文章的信息操纵识别这一未解决挑战,本文提出新任务、构建含3.6K推文-文章对的ManiTweet数据集,开发基础模型并探索分析,为该领域提供基准与初步解决方案。
2024-12-01 cs.CL
Multi-document Summarization through Multi-document Event Relation Graph Reasoning in LLMs: a case study in Framing Bias Mitigation
Department of Computer Science and Engineering(计算机科学与工程系)
针对媒体偏差问题,提出基于多文档事件关系图的大语言模型中立摘要方法,通过硬文本提示和软图嵌入两种策略融合图信息,有效缓解两类媒体偏差并提升内容保留度。
2025-06-15 cs.CL
Regularizing Output Distribution of Abstractive Chinese Social Media Text Summarization for Improved Semantic Consistency
Peking University(北京大学);Northwestern Polytechnical University(西北工业大学)
摘要文本摘要是一个非常困难的问题,序列到序列模型已经成功地提高了任务的性能。然而,生成的摘要往往在语义上与源内容不一致。在这种情况下,当生成摘要时,模型选择与源内容语义无关的单词作为最可能的输出。这个问题可以归因于抽象地构造的训练数据,其中摘要可以与源内容无关,因此包含语义上不相关的单词和虚假的单词对应。在本文中,我们提出了一种正则化方法的序列到序列模型,并利用模型已经学会了正则化的学习目标,以减轻问题的影响。此外,针对现有自动评估方法无法正确评估与源内容的语义一致性的问题,我们提出了一种实用的人工评估方法。实验结果表明,该方法的有效性,它优于几乎所有现有的模型。特别是在人工评价方面,该方法将语义一致性提高了4%.
2018-05-10 cs.CL
EquiSumm : A Gender Bias-Aware Framework for Inclusive Tweet Summarization
ABV IIITM Gwalior(ABV IIITM 格瓦利尔)
提出EquiSumm框架,通过考虑性别维度生成推文摘要,实验表明其在两个数据集上有效减少性别偏见并保持摘要质量。
2026-05-22 cs.CL
Automatic Keyword Extraction for Text Summarization: A Survey
National Institute of Technology, Rourkela(鲁尔克拉国立技术学院)
近年来,数据在新闻、社交媒体、银行、教育等各个领域迅速增长,由于数据的过剩,需要自动摘要器,它能够在原始文档中总结数据,特别是文本数据,而不会丢失任何关键目的。摘要是近年来出现的一个重要的研究领域。在这方面,回顾文本摘要过程的现有工作对于开展进一步的研究是有用的。由于文本摘要过程高度依赖于关键词提取,本文介绍了自动关键词提取和文本摘要的最新文献。这篇文献包括讨论不同的方法用于关键字提取和文本摘要。它还讨论了在几个领域中用于文本摘要的不同数据库以及评估矩阵。最后,简要讨论了研究者面临的问题和研究挑战以及未来的发展方向。
2017-04-11 cs.CL
BOE-XSUM: Extreme Summarization in Clear Language of Spanish Legal Decrees and Notifications
Universidad Nacional de Educación a Distancia(西班牙国家远程教育大学);The National Library of Norway(挪威国家图书馆)
本文构建了包含3648条西班牙BOE法律文档简明摘要的BOE-XSUM数据集,并通过微调中型LLM验证其显著优于零样本通用模型。
2025-09-29 cs.CL
A more abstractive summarization model
指针生成网络是一种非常流行的文本摘要方法。最近在这个领域的工作仍然建立在基线指针生成器的基础上,通过增加内容选择阶段,或通过将解码器分解为上下文网络和语言模型。然而,基于指针生成器基础架构的所有这些模型都不能在摘要中生成新的单词,并且大多数都是从源文本中复制单词。在我们的工作中,我们首先彻底调查了为什么指针生成器网络无法生成新单词,然后通过添加词汇表外(OOV)惩罚来解决这个问题。这使我们能够显著提高新颖性/抽象性的数量。我们使用规范化的n-gram的新颖性分数作为度量,用于确定抽象的水平。此外,我们还报告了我们的模型的胭脂分数,因为大多数摘要模型的评估与R-1,R-2,R-L分数。
2020-02-25 cs.CL
Cross-Lingual Query-Based Summarization of Crisis-Related Social Media: An Abstractive Approach Using Transformers
Universitat Pompeu Fabra(庞培法布拉大学);ICREA(加泰罗尼亚研究与高级研究院)
在危机期间从社交媒体收集的相关和及时的信息可以成为应急管理的宝贵资源。然而,提取这些信息仍然是一项具有挑战性的任务,特别是在处理多种语言的社交媒体帖子时。这项工作提出了一种跨语言的方法,检索和总结危机相关的信息,从社交媒体帖子。我们描述了一个统一的方式来表达各种信息需求,通过结构化查询和创建摘要回答这些信息需求的方式。该方法基于多语言Transformers嵌入。句子是用嵌入支持的语言之一编写的,提取的句子可以是支持的任何其他语言。Transformers创建抽象摘要。这项评估由众包评估人员和应急管理专家完成,并在五次大规模灾难期间从Twitter上提取了10种语言的集合,显示了我们方法的灵活性。生成的摘要被认为比现有的最先进的方法更有重点,更有结构,更连贯,专家们将其与现有的最先进的方法创建的摘要进行了比较。
2022-04-21 cs.CL cs.CY cs.IR
A Convolutional Attention Network for Extreme Summarization of Source Code
University of Edinburgh(爱丁堡大学);Peking University(北京大学)
神经网络中的注意力机制已被证明对于输入和输出不具有固定维数的问题是有用的。通常存在局部平移不变的特征,并且对于引导模型的注意力是有价值的,但是以前的注意力架构并不是专门为了学习这些特征而构建的。我们引入了一个注意力神经网络,它采用卷积的输入令牌检测本地时不变和长距离的主题注意力特征的上下文相关的方式。我们将这种架构应用于将源代码片段极端总结成简短的、描述性的函数名称之类的摘要的问题。使用这些功能,该模型通过边缘化两个注意力机制来顺序生成摘要:一个基于输入标记的注意力权重预测下一个摘要标记,另一个能够将代码标记直接复制到摘要中。我们在10个流行的Java项目上展示了我们的卷积注意力神经网络的性能,表明与以前的注意力机制相比,它实现了更好的性能。
2016-05-25 cs.CL cs.LG cs.SE
DepressionNet: A Novel Summarization Boosted Deep Framework for Depression Detection on Social Media
University of Technology Sydney(悉尼科技大学);Deakin University(迪肯大学);University of Essex(埃塞克斯大学)
Twitter目前是一个流行的在线社交媒体平台,允许用户分享他们的用户生成的内容。这种公开生成的用户数据对医疗保健技术也至关重要,因为发现的模式将在几个方面使他们受益匪浅。其中一个应用是自动发现心理健康问题,例如,萧条以前的研究,以自动检测一个抑郁的用户在网上社交媒体在很大程度上依赖于用户的行为和他们的语言模式,包括用户的社交互动。缺点是这些模型是在几个不相关的内容上训练的,这些内容对于检测抑郁的用户可能并不重要。此外,这些内容对模型的整体效率和有效性产生了负面影响。为了克服现有的自动抑郁症检测方法的缺点,我们提出了一种新的自动抑郁症检测的计算框架,最初选择相关的内容,通过一个混合提取和抽象的总结策略的序列上的所有用户推文,导致更细粒度和相关的内容。然后,内容转到我们新颖的深度学习框架,该框架由卷积神经网络(CNN)组成的统一学习机制与注意力增强的门控递归单元(GRU)模型相结合,从而获得比现有强基线更好的经验性能。
2021-05-23 cs.CL cs.LG cs.SI
Fusing Multimodal Signals on Hyper-complex Space for Extreme Abstractive Text Summarization (TL;DR) of Scientific Contents
IIIT Delhi(德里英迪拉·甘地信息技术学院);IIT Delhi(德里印度理工学院)
提出首个科学多模态极简摘要数据集mTLDR,并构建基于双重融合超复数Transformer与Wasserstein Riemannian编码器的mTLDRgen模型,在多项指标上超越20个基线。
2023-06-24 cs.AI cs.CL
Curriculum-Guided Abstractive Summarization
Georgetown University(乔治城大学);Adobe Research(奥多比研究院)
最近的基于transformer的摘要模型提供了一个很有前途的方法抽象摘要。他们超越句子选择和提取策略,以处理更复杂的任务,如新词生成和句子释义。然而,这些模型有两个缺点:(1)它们在内容选择方面表现不佳,(2)它们的训练策略不是很有效,这限制了模型的性能。在本文中,我们探索了两种正交的方法来弥补这些缺陷。首先,我们在解码器中增加了一个句子交叉注意模块来增强Transformer网络,鼓励对突出内容进行更多的抽象。其次,我们包括一个课程学习的方法来重新加权的训练样本,带来了一个有效的学习过程。与第一种方法相比,我们的第二种方法增强了Transformers网络的训练策略。我们将我们的模型应用于Reddit TIFU帖子的极端摘要数据集。我们进一步研究了三个跨域摘要数据集(Webis-TLDR-17,CNN/DM和XSum),测量了应用于摘要时课程学习的有效性。此外,人类的评价进行显示所提出的方法在定性标准,即流畅性,信息量和整体质量方面的功效。
2023-02-08 cs.CL
Sentiment-Aware Extractive and Abstractive Summarization for Unstructured Text Mining
Department of Information Systems and Analytics(信息系统与分析系);National University of Singapore(新加坡国立大学)
本文提出一种结合情感意识的摘要方法,通过整合情感信号提升非结构化文本摘要的质量,以增强动态在线环境中的决策能力。
2025-12-23 cs.CL
psytechlab at CLPsych 2026: Utilising Natural Language Processing methods and Large Language Models for Social Media Text Analysis
psytechlab(心理技术实验室)
在 CLPsych 2026 共享任务中,利用自然语言处理方法和大语言模型对社交媒体文本进行自我状态和幸福感分析与总结,为改进心理健康支持系统做贡献。
2026-07-07 cs.CL
Echoes from Alexandria: A Large Resource for Multilingual Book Summarization
Sapienza University of Rome(罗马第一大学);Babelscape(Babelscape公司);Free University of Bozen(博尔扎诺自由大学)
本文构建涵盖5种语言、25个语言对的多语言图书摘要资源Echoes及三个数据集,并提出先抽取后抽象基线,证明其更适合整本书摘要。
2023-06-07 cs.CL
Harnessing Abstractive Summarization for Fact-Checked Claim Detection
IIT Bombay(印度理工学院孟买分校);Surrey Institute for People-Centred AI(萨里以人为本人工智能研究所);University of Surrey(萨里大学)
社交媒体平台已成为反社会分子的新战场,错误信息成为首选武器。事实核查组织试图揭穿尽可能多的说法,同时保持真实的新闻过程,但无法应对其快速传播。我们认为,解决方案在于事实检查生存周期的部分自动化,节省人类的时间,需要高认知的任务。我们提出了一个新的工作流程,有效地检测以前的事实检查索赔,使用抽象的总结,以生成清晰的查询。然后,这些查询可以在与先前经过事实检查的索赔集合相关联的通用检索系统上执行。我们策划了一个抽象的文本摘要数据集,包括来自Twitter的嘈杂的索赔和他们的黄金摘要。结果表明,检索性能提高2倍,通过使用流行的开箱即用的摘要模型和3倍,通过微调他们对附带的数据集相比,逐字查询。我们的方法实现了Recall@5和MRR分别为35%和0.3,而基线值分别为10%和0.1。我们的数据集、代码和模型都是公开的:https://github.com/varadhbhatnagar/FC-Claim-Det/
2022-09-14 cs.CL
Novel Chapter Abstractive Summarization using Spinal Tree Aware Sub-Sentential Content Selection
McGill University(麦吉尔大学);AWS AI Labs(AWS人工智能实验室);Columbia University(哥伦比亚大学);University of Michigan(密歇根大学)
摘要小说章节是一项艰巨的任务,由于输入的长度和事实,出现在所需的摘要从多个地方的内容在整个章节。我们提出了一个流水线提取抽象的方法,提取步骤过滤的内容被传递到抽象组件。非常长的输入也会导致数据集高度偏向于提取摘要的负面实例;因此,我们采用边际排名损失进行提取,以鼓励正面和负面示例之间的分离。我们的提取组件在成分级别上操作;我们对这个问题的处理方法丰富了文本的脊椎树信息,该信息提供了句法上下文(以成分的形式)的提取模型。我们显示了3.71胭脂-1点的最佳结果,在现有的新章节数据集上的先前工作中报告的改进。
2022-11-09 cs.CL
EUR-Lex-Sum: A Multi- and Cross-lingual Dataset for Long-form Summarization in the Legal Domain
Heidelberg University(海德堡大学);SRH Hochschule Heidelberg(海德堡SRH应用技术大学)
现有的摘要数据集有两个主要缺点:(1)它们倾向于关注过度暴露的领域,例如新闻文章或类似维基的文本,(2)主要是单语数据集,很少有多语言数据集。在这项工作中,我们提出了一个新的数据集,称为EUR-Lex-Sum,基于欧盟法律平台(EUR-Lex)的法律行为的手动策划的文件摘要。文档及其各自的摘要以24种欧洲官方语言中的几种语言的跨语言段落对齐数据的形式存在,从而可以访问各种跨语言和低资源摘要设置。我们每种语言获得多达1,500个文档/摘要对,包括375个跨语言对齐的法律行为的子集,文本以所有24种语言提供。在这项工作中,数据采集的过程是详细的,资源的主要特征进行比较,现有的摘要资源。特别是,我们说明了具有挑战性的子问题和开放的问题的数据集,可以帮助促进未来的研究领域特定的跨语言摘要的方向。受限于样本的极端长度和语言多样性,我们进一步使用合适的提取单语和跨语言基线进行实验,以供未来工作使用。提取代码以及访问我们的数据和基线的代码可在https://github.com/achouhan93/eur-lex-sum上在线获取。
2022-10-24 cs.CL
Fair Abstractive Summarization of Diverse Perspectives
Penn State University(宾夕法尼亚州立大学);Yale University(耶鲁大学);Salesforce Research(Salesforce研究院);Texas A&M University(德克萨斯农工大学);University of Southern California(南加利福尼亚大学);Columbia University(哥伦比亚大学)
本文针对用户生成数据中的公平抽象摘要问题,定义公平性并提出四个无参考自动指标,评估九个LLMs在六个数据集上的表现,分析不公平因素并提出三种缓解方法。
2024-03-30 cs.CL
AlignSum: Data Pyramid Hierarchical Fine-tuning for Aligning with Human Summarization Preference
Shanghai Jiao Tong University(上海交通大学);Suzhou Laboratory(苏州实验室)
本文提出AlignSum框架,通过构建数据金字塔、高斯重采样和两阶段分层微调,使BART-Large等预训练语言模型在自动与人类评估中超越175B GPT-3,显著提升摘要生成与人类偏好的对齐。
2024-10-01 cs.CL
Dialect Diversity in Text Summarization on Twitter
Yale University(耶鲁大学)
Twitter上的讨论涉及来自不同方言的不同社区的参与,通常需要将大量帖子汇总为具有代表性的样本以提供概要。然而,任何这样的代表性样本都应该充分描绘潜在的方言多样性,以呈现代表方言的不同参与社区的声音。提取摘要算法执行构建子集的任务,这些子集简洁地捕获任何给定帖子集合的主题。然而,我们观察到,有方言偏见的摘要产生的共同摘要方法,即,他们通常返回的摘要不足以代表某些方言。绝大多数现有的“公平”摘要方法需要社会显著属性标签(在这种情况下,方言),以确保所生成的摘要相对于社会显著属性是公平的。然而,在许多应用中,这些标签并不存在。此外,由于社交媒体中方言的不断发展,标记或准确推断每个社交媒体帖子的方言是不合理的。为了纠正方言偏见,我们采用了一个框架,将现有的文本摘要算法作为一个黑盒,并使用一小部分方言多样化的句子,返回一个相对更方言多样化的摘要。至关重要的是,这种方法不需要被总结的帖子具有方言标签,确保多样化过程独立于方言分类/识别模型。我们展示了我们的方法在Twitter数据集上的有效性,这些数据集包含由种族或性别定义的不同社会群体使用方言撰写的帖子;在所有情况下,与标准文本摘要方法相比,我们的方法都能提高方言多样性。
2021-04-04 cs.CL cs.CY
Training Dynamics for Text Summarization Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
预训练的语言模型(例如BART)在大型摘要数据集上进行微调时显示出令人印象深刻的结果。然而,人们对这个微调过程知之甚少,包括从预训练时间中保留了哪些知识,或者如何在迭代过程中学习内容选择和生成策略。在这项工作中,我们分析了生成模型的训练动态,重点是总结。在不同的数据集(CNN/DM,XSum,MediaSum)和摘要属性(如抽象性和幻觉)中,我们研究了模型在微调过程的不同阶段学习到的内容。我们发现,在所有研究的数据集上,复制输入的倾向在训练过程的早期就被学习到了。另一方面,事实错误,如对不支持的事实的幻觉,是在后期阶段学习的,尽管这种行为在不同的领域中变化更大。基于这些观察结果,我们探索了修改训练的补充方法:首先,忽略具有学习挑战性的高损失令牌,其次,忽略在训练过程的后期阶段学习非常快的低损失令牌。我们表明,这些简单的训练修改允许我们配置模型以实现不同的目标,例如提高真实性或提高抽象性。
2022-03-15 cs.CL
ASPECTNEWS: Aspect-Oriented Summarization of News Documents
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Walmart NexTech(沃尔玛NexTech)
通用摘要试图覆盖整个文档,基于查询的摘要试图回答特定于文档的问题。但实际用户的需求通常介于这两个极端之间,并与方面相对应,即在类似类型的文档中讨论的高级主题。在本文中,我们收集了一个现实的面向方面的摘要数据集,AASPNEWS,它涵盖了新闻子域中文章的不同子主题。我们在两个领域的文章,地震和欺诈调查,其中每篇文章都有两个不同的摘要,侧重于每个领域的不同方面的注释数据。一个编制单一通用摘要的系统不可能简明扼要地满足这两个方面。我们在评估中的重点是如何以及现有的技术可以推广到这些领域,而看不到域内的训练数据,所以我们转向技术,以构建合成训练数据,已用于查询为中心的总结工作。我们比较了几种不同的训练方案,这些方案在关键字的使用强度以及如何提取Oracle摘要方面有所不同。我们的评估表明,我们的最终方法产生(a)集中的摘要,优于那些从通用的摘要系统或从关键字匹配;(b)系统敏感的关键字的选择。
2022-03-15 cs.CL
Scientific Opinion Summarization: Paper Meta-review Generation Dataset, Methods, and Evaluation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);DAMO Academy, Alibaba Group(阿里巴巴达摩院);University of Michigan(密歇根大学)
针对学术评审存在分歧而现有观点摘要数据集忽视争议的问题,本文提出科学观点摘要任务,构建 ORSUM 数据集,并采用清单引导的迭代内省方法生成元评审。
2024-06-16 cs.CL
Neural Abstractive Unsupervised Summarization of Online News Discussions
Universidad Técnica Federico Santa María(费德里科圣玛丽亚技术大学);Dalhousie University(达尔豪斯大学)
摘要通常依赖于黄金标准摘要来训练提取或抽象模型。社交媒体给摘要技术带来了障碍,因为它需要解决多文档多作者的方法。我们通过引入一种新的方法来解决这个具有挑战性的任务,该方法生成在线新闻讨论的摘要。我们的方法扩展了基于BERT的架构,包括在训练阶段提供评论喜欢的注意编码。为了训练我们的模型,我们定义了一个任务,该任务包括基于流行度(喜欢)重建高影响力的评论。因此,我们的模型学会根据最相关的评论总结在线讨论。我们的新方法提供了一个摘要,代表了用户评论的新闻项目的最相关的方面,将社会背景作为信息源,以总结在线社交网络中的文本。我们的模型使用生成的摘要和线程上的每个评论之间的ROUGE分数进行评估。我们的模型,包括社会注意编码,显着优于基于这种评价的提取和抽象摘要方法。
2021-06-19 cs.CL cs.LG
Understanding Position Bias Effects on Fairness in Social Multi-Document Summarization
Portland State University(波特兰州立大学)
本文研究社会多文档摘要中群体排序导致的位置偏差对公平性的影响,发现输入顺序虽不影响文本质量,但会显著改变不同方言群体的代表性公平程度。
2024-05-03 cs.AI cs.CL
Curriculum-guided Abstractive Summarization for Mental Health Online Posts
Georgetown University(乔治城大学);Adobe Research(奥多比研究院)
从用户的在线心理健康帖子中自动生成简短的摘要可以节省咨询师的阅读时间,减少他们的疲劳,以便他们能够及时回应那些寻求帮助以改善心理状态的人。最近的基于transformers的摘要模型为抽象摘要提供了一种很有前途的方法。他们超越句子选择和提取策略,以处理更复杂的任务,如新词生成和句子释义。然而,这些模型有一个突出的缺点,它们的训练策略不是很有效,这限制了模型的性能。在本文中,我们包括一个课程学习的方法来重新衡量训练样本,带来了一个有效的学习过程。我们将我们的模型应用于MentSum帖子的极端摘要数据集-来自Reddit社交媒体的心理健康相关帖子的数据集。与最先进的模型相比,我们提出的方法在Rouge和Bertscore评估指标方面取得了实质性的进步,分别获得了3.5%(Rouge-1),10.4%(Rouge-2)和4.7%(Rouge-L),1.5%(Bertscore)的相对改进。
2023-02-02 cs.AI cs.CL
Tackling Fake News in Bengali: Unraveling the Impact of Summarization vs. Augmentation on Pre-trained Language Models
Ahsanullah University of Science and Technology(阿沙努拉科学与技术大学)
本文提出四种方法,结合摘要与增强技术及五个预训练模型,有效提升孟加拉语假新闻检测准确率,最高达97%。
2025-09-13 cs.CL
Low-Resource Language Processing: An OCR-Driven Summarization and Translation Pipeline
Department of Computer Engineering and Technology(计算机工程与技术系);MIT World Peace University(MIT世界和平大学)
本研究提出一套OCR驱动的低资源语言处理流水线,结合Tesseract、Gemini API及多类分析模块,实现图像文档的多语言提取、翻译与摘要等功能,以弥合语言鸿沟、提升跨语言信息可及性。
2025-05-16 cs.AI cs.CL
Improving Primary Healthcare Workflow Using Extreme Summarization of Scientific Literature Based on Generative AI
IBM Thomas J. Watson Research(IBM托马斯·J·沃森研究院);Amazon Science(亚马逊科学研究院)
该研究利用基于大规模语言模型的生成式AI对科学文献摘要进行极限摘要,发现该方法能显著减少初级保健人员文献阅读时间,但在无完整摘要时知识提取准确性会降低。
2023-07-24 cs.AI cs.CL
Gold Standard Online Debates Summaries and First Experiments Towards Automatic Summarization of Online Debate Data
The University of Sheffield(谢菲尔德大学)
在线文本媒体的使用正在稳步增长。每天,越来越多的新闻故事,博客文章和科学文章被添加到在线卷。这些都是免费访问,并已被广泛应用于多个研究领域,例如自动文本摘要,信息检索,信息抽取等,同时,在线辩论论坛最近变得流行,但在很大程度上还未开发。由于这个原因,没有足够的资源注释的辩论数据可用于进行研究,在这一体裁。在本文中,我们收集和注释的自动摘要任务的辩论数据。与提取黄金标准摘要生成类似,我们的数据包含值得包含到摘要中的句子。五个人类注释者执行了这项任务。基于语义相似性的注释者间一致性,Cohen的kappa为36%,Krippendorff的alpha为48%。此外,我们还实现了一个在线辩论的提取摘要系统,并讨论了自动总结在线辩论数据的任务的突出特点。
2017-08-15 cs.AI cs.CL cs.IR
Not too long do read: Evaluating LLM-generated extreme scientific summaries
Department of Data Science(数据科学系);City University of Hong Kong(香港城市大学)
本文提出BiomedTLDR数据集,评估LLM生成科学摘要的性能,发现LLM更倾向于提取而非抽象,且在词汇和修辞结构上更接近原文。
2025-12-29 cs.AI cs.CL
Applying Automatic Text Summarization for Fake News Detection
University of Regensburg(雷根斯堡大学)
假新闻的传播不是一个新问题,而是一个迅速增长的问题。通过社交媒体消费新闻的转变是误导性和故意错误信息传播的驱动因素之一,因为除了易于使用之外,很少有任何真实性监测。由于这些假新闻对社会的有害影响,对这些假新闻的检测变得越来越重要。我们提出了一种方法的问题,结合了基于transformer的语言模型的力量,同时解决其固有的问题之一。我们的框架CMTR-BERT结合了多种文本表示,其目标是规避底层Transformer架构通常遭受的顺序限制和相关信息丢失。此外,它还可以合并上下文信息。在两个非常不同的公开数据集上进行的大量实验表明,我们的方法能够设置新的最先进的性能基准。除了使用自动文本摘要技术的好处,我们还发现,纳入上下文信息有助于性能增益。
2022-04-04 cs.AI cs.CL
Bridging the Data Gap: Creating a Hindi Text Summarization Dataset from the English XSUM
本研究通过利用英语XSUM数据集,开发了低成本自动化框架,生成印地语文本摘要数据集,以弥补低资源语言在高质量数据集方面的不足。
2026-01-04 cs.AI cs.CL
Improving Multilingual Social Media Insights: Aspect-based Comment Analysis
Institute for Infocomm Research, A*STAR, Singapore(信息与通信研究所)
针对社交媒体文本多样性带来的下游NLP任务挑战,提出基于方面术语生成(CAT-G)的多语言大模型微调方法,并贡献首个涵盖四种语言的多语言CAT-G测试集以评估跨语言性能。
2025-05-29 cs.CL
Probabilistic Model of Narratives Over Topical Trends in Social Media: A Discrete Time Model
University of Central Florida(中佛罗里达大学)
在线社交媒体平台正在成为有关全球事件的新闻和叙述的主要来源。然而,缺乏一个系统的总结为基础的叙述提取,可以促进沟通的主要基础事件。为了解决这个问题,我们提出了一个新的基于事件的叙述性摘要提取框架。我们提出的框架被设计为一个概率主题模型,分类时间分布,然后提取文本摘要。我们的主题模型识别主题的复发随着时间的推移,具有不同的时间分辨率。该框架不仅从数据中捕获主题分布,而且还近似了用户活动随时间的波动。此外,我们定义的重要性分散性权衡(SDT)作为一个比较措施,以确定具有最高的终身吸引力的主题在时间戳语料库。我们在大量Twitter数据上评估了我们的模型,其中包括针对叙利亚白盔组织进行的虚假宣传活动领域的100多万条推文。我们的研究结果表明,所提出的框架是有效的,在确定主题的趋势,以及提取叙述性摘要的文本语料库与时间戳数据。
2020-04-14 cs.CL cs.IR cs.SI
MultiBanAbs: A Comprehensive Multi-Domain Bangla Abstractive Text Summarization Dataset
Leading University(领先大学)
MultiBanAbs数据集旨在通过多领域孟加拉语文章摘要提升摘要系统的适应性和实用性,为低资源语言NLP研究提供基准支持。
2025-11-24 cs.AI cs.CL
ClidSum: A Benchmark Dataset for Cross-Lingual Dialogue Summarization
Tencent Inc(腾讯公司);Soochow University(苏州大学);Beijing University of Posts and Telecommunications(北京邮电大学);Fudan University(复旦大学)
我们提出了ClidSum,一个基准数据集,用于在对话文档上构建跨语言摘要系统。它由来自两个子集的67 k+对话文档组成(即,SAMSum和MediaSum)和112 k+注释摘要(不同目标语言)。基于建议的ClidSum,我们分别介绍了监督和半监督场景的两个基准设置。然后,我们以不同的范式(管道和端到端)构建各种基线系统,并在ClidSum上进行广泛的实验,以提供更深入的分析。此外,我们提出了mDialBART,它通过进一步的预训练扩展了mBART-50(多语言BART)。在进一步的预训练阶段中使用的多个目标帮助预训练模型捕获对话中的结构特征以及重要内容以及从源语言到目标语言的转换。实验结果表明,mDialBART作为一种端到端模型,在ClidSum上的性能优于强流水线模型。最后,我们讨论了目前的方法面临的具体挑战,这一任务,并为未来的研究提供了多个有前途的方向。我们已经在https://github.com/krystalan/ClidSum上发布了数据集和代码。
2022-10-16 cs.AI cs.CL