Evaluation of Automatic Text Summarization using Synthetic Facts
California Polytechnic State University(加州州立理工大学)
尽管最近取得了一些进展,但自动文本摘要仍然不可靠,难以捉摸,并且在应用中的实际用途有限。当前摘要方法的两个主要问题是众所周知的:评估和事实一致性。为了解决这些问题,我们提出了一个新的自动无参考文本摘要评估系统,可以衡量任何文本摘要模型的质量与一组基于事实的一致性,全面性和压缩率的生成事实。据我们所知,我们的评估系统是第一个基于真实性,信息覆盖率和压缩率来衡量文本摘要模型总体质量的系统。
2022-04-11 cs.CL
Discrete Diffusion Language Model for Efficient Text Summarization
VinUniversity(维恩大学);Nanyang Technological University(南洋理工大学)
本文针对离散扩散模型在长文本摘要任务中的不足,提出语义感知加噪过程和CrossMamba架构,在三个摘要基准上取得最优ROUGE成绩并实现快速推理。
2025-03-10 cs.CL cs.LG
Re-evaluating Evaluation in Text Summarization
Carnegie Mellon University(卡内基梅隆大学)
自动评估指标作为手动评估的替代,是文本生成任务(如文本摘要)开发的重要组成部分。然而,虽然该领域已经取得了进展,但我们的标准指标却没有-近20年来,ROUGE一直是大多数摘要论文的标准评估。在本文中,我们试图重新评估文本摘要的评估方法:使用最高评分的系统输出,抽象和提取,最近流行的系统级和摘要级评估设置的数据集,评估自动度量的可靠性。我们发现,关于旧数据集的评估指标的结论不一定适用于现代数据集和系统。
2020-10-14 cs.CL cs.IR cs.LG
A Survey on Neural Abstractive Summarization Methods and Factual Consistency of Summarization
McGill University(麦吉尔大学)
自动摘要是通过计算缩短一组文本数据的过程,以创建表示原始文本中最重要信息的子集(摘要)。现有的文摘方法大致可以分为两类:抽取式和抽象式。提取摘要器显式地选择文本片段(单词、短语、句子等)。从源文档,而抽象的摘要生成器生成新颖的文本片段,以传达源中流行的最突出的概念。
2022-04-20 cs.CL
Automatic Keyword Extraction for Text Summarization: A Survey
National Institute of Technology, Rourkela(鲁尔克拉国立技术学院)
近年来,数据在新闻、社交媒体、银行、教育等各个领域迅速增长,由于数据的过剩,需要自动摘要器,它能够在原始文档中总结数据,特别是文本数据,而不会丢失任何关键目的。摘要是近年来出现的一个重要的研究领域。在这方面,回顾文本摘要过程的现有工作对于开展进一步的研究是有用的。由于文本摘要过程高度依赖于关键词提取,本文介绍了自动关键词提取和文本摘要的最新文献。这篇文献包括讨论不同的方法用于关键字提取和文本摘要。它还讨论了在几个领域中用于文本摘要的不同数据库以及评估矩阵。最后,简要讨论了研究者面临的问题和研究挑战以及未来的发展方向。
2017-04-11 cs.CL
HETFORMER: Heterogeneous Transformer with Sparse Attention for Long-Text Extractive Summarization
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Huazhong University of Science and Technology(华中科技大学);Lehigh University(理海大学)
为了从原始文本中捕获语义图结构,大多数现有的摘要方法都是基于具有预训练模型的GNN构建的。然而,这些方法遭受繁琐的程序和低效率的计算长文本文档。为了缓解这些问题,本文提出了HETFORMER,这是一种基于Transformer的预训练模型,具有多粒度稀疏注意力,用于长文本提取摘要。具体来说,我们将原始文本中不同类型的语义节点建模为潜在的异构图,并通过Transformer直接学习节点之间的异构关系(边)。在单文档和多文档摘要任务上的大量实验表明,HETFORMER在Rouge F1中实现了最先进的性能,同时使用更少的内存和更少的参数。
2021-10-19 cs.AI cs.CL cs.LG
Deep Transfer Reinforcement Learning for Text Summarization
Discovery Analytics Center(探索分析中心);Virginia Tech(弗吉尼亚理工大学)
深度神经网络是数据饥渴模型,因此在尝试对小文本数据集进行训练时面临困难。迁移学习是一种潜在的解决方案,但它们在文本领域的有效性并不像在图像分析等领域那样被探索。在本文中,我们研究了文本摘要的迁移学习问题,并讨论了为什么现有的最先进的模型不能很好地推广到其他(看不见的)数据集。我们提出了一个基于自我批评策略梯度方法的强化学习框架,该框架在各种数据集上都取得了良好的泛化和最先进的结果。通过一组广泛的实验,我们还展示了我们提出的框架的能力,微调的文本摘要模型只使用几个训练样本。据我们所知,这是第一个研究文本摘要中的迁移学习的工作,并提供了一个通用的解决方案,可以很好地处理看不见的数据。
2019-01-24 cs.CL cs.LG stat.ML
A Semantic Relevance Based Neural Network for Text Summarization and Text Simplification
Peking University(北京大学)
文本摘要和文本简化是为包括儿童、非母语者和功能性文盲在内的贫困读者简化文本的两种主要方法。文本摘要是对文本的主要内容进行简要概括,而文本简化则是降低文本的语言复杂度,保留原文的意思。目前,大多数的文本摘要和文本简化方法都是基于序列到序列模型,它在许多文本生成任务中取得了很大的成功。然而,尽管生成的简化文本在字面上与源文本相似,但它们的语义相关性较低。在这项工作中,我们的目标是提高源文本和简化文本的文本摘要和文本简化之间的语义相关性。我们引入了一个基于语义相关性的神经模型,以鼓励文本和摘要之间的高语义相似性。在我们的模型中,源文本由门控注意编码器表示,而摘要表示由解码器产生。此外,表示之间的相似性得分在训练期间被最大化。我们的实验表明,该模型优于国家的最先进的系统在两个基准语料库。
2017-10-06 cs.CL
Extractive Text Summarization using Neural Networks
Indian Institute of Technology Delhi(德里印度理工学院)
文本摘要是一个被广泛研究的问题。传统的文本摘要方法严重依赖于特征工程。与此相反,我们提出了一个完全数据驱动的方法,使用前馈神经网络的单文档摘要。我们训练和评估的标准DUC 2002数据集的模型,显示的结果与最先进的模型。该模型是可扩展的,并能够产生任意大小的文件的摘要,打破了原始文件成固定大小的部分,然后将其递归地馈送到网络。
2018-02-27 cs.CL
Document Summarization with Text Segmentation
Microsoft AI(微软人工智能)
在本文中,我们利用固有的文档段结构,以改善提取摘要任务。我们建立了两个文本分割模型,并找到了最佳的策略,以介绍他们的输出预测在提取摘要模型。在科技文章语料库上的实验结果表明,提取式摘要得益于使用高精度的分割方法。特别是,大部分的改进是在文档中,最相关的信息不是在开始,因此,我们得出结论,分割有助于减少铅偏见的问题。
2023-01-20 cs.CL
Belief Propagation for Maximum Coverage on Weighted Bipartite Graph and Application to Text Summarization
Ibaraki University(茨城大学)
本文从最大覆盖问题的角度研究文本摘要。在图论中,文本摘要的任务被看作是二分图上的最大覆盖问题。近年来,利用统计力学的思想,提出了基于置信传播的无权图最大覆盖算法。我们将其推广到加权图的文本摘要。最后,我们将我们的算法应用于加权双正则随机图的最大覆盖性能验证。我们还将其应用于表示开放文本数据集上真实文档的二分图,并检验了文本摘要的性能。实验结果表明,该算法在某些文本摘要环境下具有比贪婪型算法更好的性能。
2020-03-26 cs.CL cs.IR cs.LG
Text Summarization Techniques: A Brief Survey
University of Georgia(佐治亚大学);Institute of Bioinformatics(生物信息学研究所)
近年来,来自各种来源的文本数据量呈爆炸式增长。这一卷文本是一个宝贵的信息和知识来源,需要有效地总结才能有用。本文综述了文本自动摘要的主要方法。我们回顾了不同的总结过程,并描述了不同方法的有效性和缺点。
2017-07-28 cs.CL
Text Summarization in the Biomedical Domain
Isfahan University of Technology(伊斯法罕理工大学);Medical University of Vienna(维也纳医科大学)
本章概述了生物医学文本摘要领域的最新进展。介绍了不同类型的挑战,并讨论了有关它们所解决的挑战类型的方法。生物医学文献摘要是该领域的主要趋势,并指出了一些未来的工作路线。基本的方法,最近的摘要系统进行了简要的解释,并提到最重要的评价结果。这一章的主要目的是回顾最重要的研究工作,在本十年的生物医学文本摘要的新方法。作为本章的主要部分,讨论了当前的趋势和新的挑战。
2019-08-06 cs.CL
Bengali text summarization by sentence extraction
Jadavpur University(贾达普大学)
文本摘要是从一个或多个文本中选取重要部分的信息生成摘要或摘要的过程。在自动文本摘要过程中,将文本提供给计算机,计算机返回原始文本的较短的较少冗余的摘录或摘要。已经开发了许多技术来总结英语文本。但是,很少有人尝试孟加拉语文本摘要。本文提出了一种孟加拉语文本摘要的方法,它从孟加拉语文档中提取重要的句子来生成摘要。
2012-01-11 cs.CL cs.IR
LCSTS: A Large Scale Chinese Short Text Summarization Dataset
Intelligent Computing Research Center(智能计算研究中心);Harbin Institute of Technology, Shenzhen Graduate School(哈尔滨工业大学深圳研究生院)
自动文本摘要被广泛认为是一个高难度的问题,部分原因是缺乏大型文本摘要数据集。由于构建大规模的全文摘要具有很大的挑战性,本文介绍了一个基于新浪微博的中文短文本摘要语料库,该语料库已公开发布{http://icrc.hitsz.edu.cn/Article/show/139.html}。该语料库由200多万篇真实的中文短文组成,每一篇短文都有作者的简短摘要。我们还手动标记了10,666个简短摘要与其相应短文本的相关性。在此基础上,引入递归神经网络进行摘要生成,取得了良好的效果。这不仅表明了该语料库在短文本摘要研究中的实用性,也为该领域的进一步研究提供了基础。
2016-02-19 cs.CL cs.IR cs.LG
Pre-training for Abstractive Document Summarization by Reinstating Source Text
StatNLP Research Group, Singapore University of Technology and Design(新加坡科技设计大学StatNLP研究组);Microsoft Research Asia, Beijing, China(微软亚洲研究院,北京)
摘要文档摘要通常被建模为序列到序列(Seq 2Seq)学习问题。不幸的是,在有限的监督摘要数据上训练基于Seq 2Seq的大型摘要模型是具有挑战性的。本文提出了三个预训练目标,使我们能够在未标记文本上预训练基于Seq 2Seq的抽象摘要模型。其主要思想是,给定从文档人工构建的输入文本,预先训练模型以恢复原始文档。这些目标包括句子重排、下一句生成和屏蔽文档生成,这些目标与摘要文档摘要任务有着密切的关系。在两个基准摘要数据集上的实验(即,CNN/DailyMail和纽约时报)表明,所有这三个目标都可以提高基线的性能。与在大规模数据(超过160 GB)上预训练的模型相比,我们的方法仅用19 GB的文本进行预训练,就取得了相当的结果,这证明了它的有效性。
2020-10-11 cs.CL
Neural Abstractive Text Summarization with Sequence-to-Sequence Models
Virginia Tech(弗吉尼亚理工大学)
在过去的几年里,使用序列到序列(seq 2seq)模型的神经抽象文本摘要已经非常流行。已经提出了许多有趣的技术来改进seq 2seq模型,使它们能够处理不同的挑战,例如显着性,流畅性和人类可读性,并生成高质量的摘要。一般来说,这些技术中的大多数在这三类中的一个方面有所不同:网络结构,参数推断和解码/生成。还有其他问题,例如训练模型的效率和并行性。在本文中,我们提供了一个全面的文献调查不同seq 2seq模型的抽象文本摘要的网络结构,训练策略和摘要生成算法的观点。最初提出的几种模型用于语言建模和生成任务,如机器翻译,后来应用于抽象文本摘要。因此,我们也对这些模型进行了简要的回顾。作为这项调查的一部分,我们还开发了一个开源库,即神经抽象文本摘要(NATS)工具包,用于抽象文本摘要。在广泛使用的CNN/Daily Mail数据集上进行了一组广泛的实验,以检查几个不同的神经网络组件的有效性。最后,我们在最近发布的两个数据集上对NATS中实现的两个模型进行了基准测试,即Newsroom和Bytecup。
2020-09-18 cs.CL cs.LG stat.ML
Ontology-based and User-focused Automatic Text Summarization (OATS): Using COVID-19 Risk Factors as an Example
Battelle Memorial Institute(巴特尔纪念研究所)
本文提出了一种新的基于本体和以用户为中心的自动文本摘要(OATS)系统,在设置的目标是自动生成文本摘要从非结构化文本提取句子包含的信息,对准用户的焦点。OATS由两个模块组成:基于本体的主题识别和以用户为中心的文本摘要;它首先利用基于本体的方法来识别用户感兴趣的相关文档,然后利用从使用用户指定的问题的问答模型中提取的答案来生成文本摘要。为支持抗击COVID-19疫情,我们以COVID-19风险因素为例,展示建议的OATS系统,旨在帮助医学界准确识别相关科学文献,并有效审阅应对COVID-19相关风险因素的信息。
2020-11-18 cs.CL
Exploring Domain Shift in Extractive Text Summarization
Fudan University(复旦大学);Mila(米拉人工智能研究所);Polytechnique Montreal(蒙特利尔综合理工学院)
虽然领域移位在许多自然语言处理应用中已经得到了很好的研究,但在文本摘要领域仍然没有得到足够的关注。结果,由于忽略了训练集分布的差异,该模型没有充分利用训练数据的性质,并且在未知域上表现出较差的泛化能力。考虑到上述局限性,在本文中,我们首先扩展了传统的定义领域的类别到数据源的文本摘要任务。然后,我们重新设计了一个多域摘要数据集,并验证了不同域之间的差距如何影响神经摘要模型的性能。此外,我们调查了四种学习策略,并考察了它们处理领域转移问题的能力。在三种不同设置下的实验结果显示了它们在我们的新测试平台上的不同特性。我们的源代码,包括\textit{BERT-based},用于多域摘要学习的\textit{meta-learning}方法和重新使用的数据集\textsc{Multi-SUM},将在我们的项目:\url{http://pfliu.com/TransferSum/}中提供。
2019-08-30 cs.CL
Hierarchical3D Adapters for Long Video-to-text Summarization
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
在本文中,我们专注于视频到文本摘要,并研究如何最好地利用多模态信息来摘要长输入(例如,一小时长的电视节目)转换成长输出(例如,多句总结)。我们扩展了SummScreen(Chen等人,2021),由具有参考摘要的电视剧集的转录组成的对话摘要数据集,并通过收集相应的全长视频来创建多模态变体。我们将多模态信息有效地使用适配器模块增强了层次结构,同时调整只有3.8%的模型参数的预训练的文本摘要。我们的实验表明,多模态信息提供了更高的性能超过内存繁重和完全微调的文本摘要方法。
2022-10-10 cs.CL
CTRLsum: Towards Generic Controllable Text Summarization
Carnegie Mellon University(卡内基梅隆大学);Salesforce Research(赛富时研究院)
当前的摘要系统产生与用户的偏好和期望断开的通用摘要。为了解决这个问题,我们提出了CTRLsum,一个新的框架可控总结。我们的方法使用户能够控制多个方面生成的摘要通过与摘要系统通过文本输入的形式,一组关键字或描述性提示。使用单一的统一模型,CTRLsum能够在推理时实现广泛的汇总操作,而无需额外的人工注释或在训练期间预先定义一组控制方面。我们定量地证明了我们的方法在三个领域的摘要数据集和五个控制方面的有效性:1)以实体为中心和2)长度可控的摘要,3)科学论文的贡献摘要,4)专利申请的发明目的摘要,和5)在阅读理解设置中的新闻文章的问题引导摘要。此外,当在标准、不受控制的摘要设置中使用时,CTRLsum在CNN/DailyMail数据集上获得了最先进的结果。代码和模型检查点可在https://github.com/salesforce/ctrl-sum上获得
2020-12-08 cs.CL
Unsupervised Abstractive Summarization of Bengali Text Documents
Ahsanullah Univ of Science & Tech(阿赫桑乌拉科技大学)
抽象摘要系统通常依赖于大量的文档-摘要对集合。然而,抽象系统的性能仍然是一个挑战,因为像孟加拉语这样的低资源语言无法获得并行数据。为了克服这个问题,我们提出了一个基于图的无监督摘要系统在单文档设置孟加拉语文本文件,它只需要一个部分的语音(POS)标记和一个预先训练的语言模型孟加拉语文本训练。我们还提供了一个带有文档摘要对的人类注释数据集,以评估我们的抽象模型,并支持孟加拉语未来抽象摘要系统的比较。我们在这个数据集上进行实验,并将我们的系统与几个成熟的无监督提取摘要系统进行比较。我们的无监督抽象摘要模型在不暴露于任何人工注释的参考摘要的情况下优于基线。
2021-02-19 cs.CL
Salience Estimation with Multi-Attention Learning for Abstractive Text Summarization
The Chinese University of Hong Kong(香港中文大学);Alibaba DAMO Academy(阿里巴巴达摩院);Tencent AI Lab(腾讯人工智能实验室);Fudan University(复旦大学)
注意力机制在序列生成模型中起着主导作用,并被用于提高机器翻译和摘要的性能。与神经机器翻译不同,在文本摘要任务中,单词、短语或句子的显著性估计是一个关键组成部分,因为输出摘要是输入文本的精华。虽然典型的注意力机制可以根据解码器的状态从输入文本中进行文本片段的选择,但要进行直接有效的显著性检测仍然存在差距。为了用神经网络恢复摘要的直接显著性估计,我们提出了一个多注意力学习框架,该框架包含两个新的显著性估计注意力学习组件:监督注意力学习和无监督注意力学习。我们将注意力权重作为显著性信息,这意味着注意力值大的语义单元将更重要。基于估计的显著性获得的上下文信息与解码器中的典型注意力机制结合以进行摘要生成。在不同语言的基准数据集上进行的大量实验证明了该框架对抽象摘要任务的有效性。
2020-04-07 cs.CL cs.IR cs.LG
Survey of Query-based Text Summarization
针对基于查询的文本摘要领域现有研究缺乏系统梳理的问题,本综述总结了该领域及相关通用文本摘要的代表性研究,并提出分类体系与相关分析。
2024-10-06 cs.CL cs.IR
Clustering of Deep Contextualized Representations for Summarization of Biomedical Texts
近年来,将领域知识融入文本摘要过程的摘要器已经优于一般方法,特别是对于生物医学文本的摘要。然而,领域知识库的建设和维护是资源密集型的任务,需要大量的人工注释。在本文中,我们证明了从预训练的深度语言模型BERT中提取的上下文表示可以有效地用于测量句子之间的相似性并量化信息内容。实验结果表明,我们的基于BERT的摘要器可以提高生物医学摘要的性能。虽然摘要器不使用任何领域知识的来源,它可以捕捉句子的上下文比比较方法更准确。源代码和数据可在https://github.com/BioTextSumm/BERT-based-Summ上获得。
2019-08-22 cs.CL
Automated News Summarization Using Transformers
Delhi Technological University(德里理工大学)
在线可用的文本数据量正在以非常快的速度增加,因此文本摘要变得至关重要。大多数现代推荐和文本分类系统都需要处理大量的数据。手动生成冗长文章的精确和流畅的摘要是一项非常烦人和耗时的任务。因此,为数据生成自动摘要并使用它来训练机器学习模型将使这些模型具有空间和时间效率。摘要的生成有两种不同的方法:抽取式摘要和抽象式摘要。提取技术从原始文档中识别出相关句子,并仅从文本中提取那些句子。而在摘要技术中,摘要是在解释原文之后生成的,因此使其更加复杂。在本文中,我们将全面比较几个基于Transformer架构的文本摘要预训练模型。为了进行分析和比较,我们使用了BBC新闻数据集,该数据集包含可用于摘要的文本数据和人类生成的摘要,用于评估和比较机器学习模型生成的摘要。
2021-04-23 cs.CL
Latent Prompt Tuning for Text Summarization
The Hong Kong Polytechnic University(香港理工大学);Microsoft(微软);Microsoft Research Asia(微软亚洲研究院)
具有不同控制信号的开关(例如,长度、关键字等)可用于控制文本摘要。当控制信号可用时,它们可以控制生成的摘要的属性,并潜在地提高摘要质量(因为给出了更多信息)。不幸的是,控制信号在推断时间期间还不可用。在本文中,我们提出了莲花(简写为潜在的提示微调的总结),这是一个单一的模型,可以应用于控制和非控制(无控制信号)模式。在训练过程中,Lotus使用对比学习目标从具有黄金控制信号的提示中学习潜在的提示表示。实验表明,Lotus在不受控制的模式下在四个不同的摘要数据集上一致地改进了强(不可控)摘要模型。我们还演示了生成的摘要可以使用用户指定的控制令牌的提示进行控制。
2022-12-19 cs.CL
Summary Explorer: Visualizing the State of the Art in Text Summarization
Leipzig University(莱比锡大学);University of Southern Denmark(南丹麦大学)
本文介绍了摘要资源管理器,一个新的工具,以支持手动检查的文本摘要系统,通过编译的输出55个最先进的单文档摘要方法在三个基准数据集,并在定性评估过程中可视化地探索他们。该工具的基本设计考虑了三个众所周知的摘要质量标准(覆盖率,忠诚度和位置偏差),封装在基于定制可视化的指导评估中。该工具补充了现有的本地调试摘要模型的方法,并对其进行了改进。该工具可在https://tldr.webis.de/上获得
2021-09-24 cs.CL
Advancements in Natural Language Processing for Automatic Text Summarization
School of Computing(计算机学院);Informatics Institute of Technology(信息技术学院)
本文综述了自动文本摘要技术,分类探讨抽取式与抽象式方法及混合技术,比较其优缺点,并展望语言生成模型在摘要评估中的应用。
2025-02-27 cs.CL
Indian Legal Text Summarization: A Text Normalisation-based Approach
Adamas University(阿达玛斯大学)
在印度法院系统,未决案件长期以来一直是一个问题。有超过4亿美元的案件悬而未决。对于法律利益相关者来说,手动汇总数百份文件是一项耗时且繁琐的任务。随着机器学习的发展,出现了许多最先进的文本摘要模型。独立于领域的模型在法律文本中表现不佳,由于缺乏公开可用的数据集,为印度法律体系微调这些模型是有问题的。为了提高域独立模型的性能,作者提出了一种在印度环境下规范法律文本的方法。作者实验了两个最先进的领域独立的法律文本摘要模型,即BART和PEGASUS。BART和PEGASUS在提取和抽象摘要方面进行了测试,以了解文本规范化方法的有效性。摘要文本由领域专家根据多个参数并使用ROUGE指标进行评估。实验结果表明,本文提出的文本规范化方法在具有领域独立模型的法律文本中是有效的。
2022-09-13 cs.CL
Towards Supervised Extractive Text Summarization via RNN-based Sequence Classification
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);University of Bonn(波恩大学)
本文简要介绍了我们提交的DocEng'19比赛的方法。我们实现了一个基于递归神经网络的模型,该模型学习分类文章的句子是否属于相应的提取摘要。我们绕过了缺乏大型注释新闻语料库提取摘要从抽象的,这是可从CNN语料库生成摘要。
2019-11-13 cs.CL
A Survey on Neural Network-Based Summarization Methods
摘要自动摘要是在保留文本主要内容的同时缩短文本的自动化过程,是自然语言处理的一个重要研究领域。这篇文献综述的目的是调查最近的工作,基于神经模型的自动文本摘要。我们详细研究了十个最先进的基于神经的摘要器:五个抽象模型和五个提取模型。此外,我们讨论了相关的技术,可以应用到摘要任务,并提出了有前途的路径,为未来的研究在基于神经的摘要。
2018-03-19 cs.CL
Keyphrase Generation: A Text Summarization Struggle
Institute of Formal and Applied Linguistics, Charles University(查尔斯大学形式与应用语言学研究所)
分配给科学文章的作者关键词对于识别内容和主题方面至关重要。大多数提出的监督和无监督的关键词生成方法都无法生成有价值但不出现在文本中的术语。在本文中,我们探讨的可能性,考虑关键短语串作为一个抽象的摘要的标题和摘要。首先,我们收集、处理和发布一个包含220万条记录的大型科学论文元数据数据集。然后,我们使用流行的文本摘要神经架构进行实验。尽管使用了先进的深度学习模型,大量的数据和许多天的计算,我们对四个测试数据集的系统评估表明,所探索的文本摘要方法无法产生比简单的无监督方法或现有的监督方法更好的关键词。
2019-04-03 cs.CL cs.IR cs.LG
The Rule of Three: Abstractive Text Summarization in Three Bullet Points
Graduate School of System Design(系统设计研究生院);Tokyo Metropolitan University(东京都立大学)
基于神经网络的方法已经广泛用于抽象文本摘要。虽然以前提出的模型抽象的文本摘要解决了重复的问题,相同的内容在摘要中,他们没有明确考虑其信息结构。这些先前的模型未能解释生成的摘要中的信息结构的原因之一是,标准数据集包括可变长度的摘要,导致分析信息流时出现问题,具体地说,第一个句子与下面的句子相关的方式。因此,我们使用一个数据集包含的摘要只有三个要点,并提出了一个基于神经网络的抽象摘要模型,认为所生成的摘要的信息结构。我们的实验结果表明,摘要的信息结构可以控制,从而提高整体摘要的性能。
2018-09-28 cs.CL
Liputan6: A Large-scale Indonesian Dataset for Text Summarization
School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学)
在本文中,我们介绍了一个大规模的印尼摘要数据集。我们从在线新闻门户网站Liputan6.com获取文章,并获得215,827个文档摘要对。我们利用预先训练的语言模型,通过多语言和单语言基于BERT的模型,在数据集上开发基准提取和抽象摘要方法。我们包括一个彻底的错误分析,通过检查机器生成的摘要,具有低ROUGE分数,并暴露这两个问题与ROUGE本身,以及与提取和抽象的摘要模型。
2020-11-02 cs.CL
Improving Abstractive Text Summarization with History Aggregation
School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
最近的神经序列到序列模型为抽象摘要提供了可行的解决方案。然而,这样的模型仍然很难解决长文本依赖的摘要任务。一个高质量的摘要系统通常依赖于强大的编码器,它可以从长输入文本中提炼重要信息,以便解码器可以从编码器的内存中生成显著的摘要。在本文中,我们提出了一个聚合机制的基础上的Transformer模型,以解决长文本表示的挑战。我们的模型可以回顾历史信息,使编码器持有更多的内存容量。从经验上讲,我们将我们的聚合机制应用于Transformer模型,并在CNN/DailyMail数据集上进行实验,以实现比ROUGE指标上的几个强基线模型更高质量的摘要。
2019-12-24 cs.CL
Improving Semantic Relevance for Sequence-to-Sequence Learning of Chinese Social Media Text Summarization
Peking University(北京大学);The Hong Kong Polytechnic University(香港理工大学)
目前的中文社交媒体文本摘要模型是基于编码器-解码器框架的。虽然其生成的摘要在字面上与源文本相似,但它们的语义相关性较低。在这项工作中,我们的目标是提高中文社交媒体摘要的源文本和摘要之间的语义相关性。我们引入了一个基于语义相关性的神经模型,以鼓励文本和摘要之间的高语义相似性。在我们的模型中,源文本由门控注意编码器表示,而摘要表示由解码器产生。此外,表示之间的相似性得分在训练期间被最大化。我们的实验表明,该模型优于基线系统上的社交媒体语料库。
2017-06-08 cs.CL
Clinical Text Summarization with Syntax-Based Negation and Semantic Concept Identification
在临床信息爆炸的时代,一个好的临床文本摘要策略有助于改善临床工作流程。理想的摘要策略可以在信息量大但组织性差、结构不良的临床叙述性文本中保留重要信息。我们利用计算语言学的知识和人类专家策划的生物医学知识库,而不是使用难以解释和解释的纯统计学习方法,来实现可解释和有意义的临床文本摘要。我们的研究目标是使用具有语义信息的生物医学本体,并利用语言的层次结构,即组成树,来识别正确的临床概念和相应的否定信息,这对于从叙述性文本中总结临床概念至关重要。我们取得了临床上可接受的性能,无论是否定检测和概念识别,并与常见的否定模式的临床概念可以识别和否定所提出的方法。
2020-02-29 cs.CL
SummerTime: Text Summarization Toolkit for Non-experts
Penn State University(宾夕法尼亚州立大学);Yale University(耶鲁大学);Microsoft Research(微软研究院)
摘要的最新进展提供了可以生成更高质量摘要的模型。这样的模型现在存在于许多摘要任务中,包括基于查询的摘要、对话摘要和多文档摘要。虽然这些模型和任务在研究领域中迅速增长,但非专家也很难跟踪它们。为了让更广泛的受众更容易使用摘要方法,我们通过从NLP非专家的角度重新思考摘要任务来开发SummerTime。SummerTime是一个完整的文本摘要工具包,包括各种模型,数据集和评估指标,用于全面的摘要相关任务。SummerTime与为NLP研究人员设计的库集成,并为用户提供易于使用的API。使用SummerTime,用户可以找到管道解决方案,并使用自己的数据搜索最佳模型,并可视化差异,所有这些都只需几行代码。我们还提供了模型和评估指标的解释,以帮助用户理解模型行为并选择最适合他们需求的模型。我们的库以及一个笔记本演示可以在https://github.com/Yale-LILY/SummerTime上找到。
2021-09-10 cs.CL
Applying Transformer-based Text Summarization for Keyphrase Generation
University of Tyumen(秋明大学);Novosibirsk State University(新西伯利亚国立大学)
本文在四个关键短语提取基准数据集上评估基于Transformer的生成式摘要模型,发现其在F1和BERTScore上表现有效但在ROUGE-1上较差,并证明目标关键短语的排序策略会影响生成性能。
2022-10-06 cs.AI cs.CL cs.LG
MaskEval: Weighted MLM-Based Evaluation for Text Summarization and Simplification
MILA(蒙特利尔学习算法研究所);McGill University(麦吉尔大学);Inria(法国国家信息与自动化研究所);META AI;Sorbonne Université(索邦大学)
在文本摘要和简化中,系统输出必须沿着多个维度进行评估,例如相关性,事实一致性,流畅性和语法性,并且广泛的可能输出可能是高质量的。这些特性使得开发一个适应性强、无参考的评价指标既必要又具有挑战性。我们引入MaskEval,文本摘要和简化的无参考度量,通过对候选文本和源文本的串联执行掩码语言建模(MLM)来操作。它具有类似注意力的加权机制,以调节每个MLM步骤的相对重要性,这至关重要,使其能够适应评估不同的质量维度。我们证明了其有效性的英语摘要和简化与人类判断的相关性,并探讨了这两个任务之间的迁移情况。
2022-10-13 cs.CL
Sequence Level Contrastive Learning for Text Summarization
IIIS, Tsinghua University(清华大学交叉信息研究院);Microsoft Research Asia(微软亚洲研究院);Shanghai Qi Zhi Institute(上海期智研究院)
对比学习模型在无监督视觉表示学习中取得了巨大的成功,它最大化同一图像不同视图的特征表示之间的相似性,同时最小化不同图像视图的特征表示之间的相似性。在文本摘要中,输出摘要是输入文档的较短形式,它们具有相似的含义。在本文中,我们提出了一个对比学习模型的监督抽象文本摘要,我们认为一个文档,它的黄金摘要和它的模型生成的摘要作为不同的视图相同的平均表示,并在训练过程中最大限度地提高它们之间的相似性。我们改进了强序列到序列文本生成模型(即,BART)在三个不同的摘要数据集上。人类的评价也表明,我们的模型实现了更好的忠诚度评级相比,它的对手没有对比的目标。
2022-01-12 cs.CL
Text Summarization using Abstract Meaning Representation
CSE Department, IIT Kanpur(印度理工学院坎普尔分校计算机科学与工程系);Microsoft Research, Bangalore(微软研究院班加罗尔)
随着互联网上文本的不断增长,摘要的自动生成仍然是自然语言理解的一个重要问题。在这项工作中,我们探索了一种新颖的完整的管道,用于文本摘要,中间步骤是抽象意义表示(AMR)。我们提出的流水线首先生成输入故事的AMR图,通过AMR图提取摘要图,最后从摘要图生成摘要句子。我们提出的方法实现了国家的最先进的结果相比,其他文本摘要例程的基础上AMR。同时指出了现有评价方法中存在的一些问题,这些问题使它们不适合于对摘要质量的评价。
2017-07-17 cs.CL
Extractive Summarization of Call Transcripts
Verizon Communications(威瑞森通信公司)
文本摘要是从文本中提取最重要的信息,并以较少的句子简洁地呈现的过程。通话记录是涉及客户(呼叫者)和代理(客户代表)之间电话对话的文本描述的文本。本文提出了一种本土开发的方法,结合主题建模和句子选择与标点符号恢复在浓缩不佳标点或unpunctuated通话记录,以产生更可读的摘要。广泛的测试,评估和比较已经证明了这个汇总器的呼叫成绩单摘要的有效性。
2021-04-15 cs.CL
Efficiency Metrics for Data-Driven Models: A Text Summarization Case Study
Institute of Formal and Applied Linguistics, Charles University(查理大学形式与应用语言学研究所)
使用数据驱动模型来解决文本摘要或类似的任务在过去几年中已经变得非常普遍。然而,大多数研究只报告了基本的准确性分数,并且对所提出的模型在更多数据上训练时的能力一无所知。在本文中,我们定义并提出了三个数据效率指标:数据得分效率,数据时间不足和整体数据效率。我们还提出了一个简单的方案,使用这些指标,并将其应用于文本摘要和标题生成任务的流行方法的更全面的评估。对于后一项任务,我们处理并发布了来自科学文章的3500万个摘要标题对的巨大集合。我们的研究结果表明,在测试模型中,Transformer在这两项任务上都是最有效的。
2019-09-14 cs.CL cs.LG cs.PF
Enhancing Biomedical Text Summarization and Question-Answering: On the Utility of Domain-Specific Pre-Training
University of Technology Sydney(悉尼科技大学)
本文研究生物医学摘要任务中的预训练策略,发现通用领域预训练加任务微调优于领域内预训练,并提出仅需千例样本的三步微调方法,证明无领域预训练的大语言模型在特定生物医学文本生成中更具优势。
2023-07-10 cs.CL
Surveying the Landscape of Text Summarization with Deep Learning: A Comprehensive Review
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文全面综述深度学习在文本摘要中的应用,涵盖抽取式、生成式、多文档等任务,总结模型、数据集及挑战,旨在指导技术选择并推动领域发展。
2023-10-13 cs.AI cs.CL cs.LG
AdvSumm: Adversarial Training for Bias Mitigation in Text Summarization
Columbia University(哥伦比亚大学)
本文提出领域无关的对抗训练框架AdvSumm,通过在序列到序列模型嵌入层施加梯度引导扰动来缓解文本摘要中的姓名-国籍偏差和政治框架偏差,并在不损害摘要质量的前提下优于标准transformers和回译等数据增强方法。
2025-09-20 cs.CL
Noisy Self-Knowledge Distillation for Text Summarization
Microsoft Cognitive Services Research(微软认知服务研究院);University of California, Berkeley(加州大学伯克利分校);University of Edinburgh(爱丁堡大学)
在本文中,我们将自知识蒸馏应用到文本摘要中,我们认为这可以缓解在单一参考和噪声数据集上进行最大似然训练的问题。我们的学生摘要模型不是依赖于一个热门的注释标签,而是在老师的指导下进行训练,老师会生成平滑的标签来帮助规范训练。此外,为了在训练过程中改善模型的不确定性,我们为教师和学生模型引入了多个噪声信号。我们在三个基准测试上通过实验证明,我们的框架可以提高预训练和非预训练摘要器的性能,从而获得最先进的结果。
2021-07-27 cs.CL
Automatic Text Summarization Methods: A Comprehensive Review
由于互联网的迅速发展而出现的最紧迫的问题之一被称为信息过载。以摘要的形式简化相关信息将有助于许多人,因为互联网上任何主题的材料都很丰富。手动总结大量文本对人类来说是相当具有挑战性的。因此,它增加了对更复杂和更强大的摘要器的需求。自20世纪50年代以来,研究人员一直试图改进创建摘要的方法,以便机器生成的摘要与人类创建的摘要相匹配。这项研究提供了一个详细的最先进的分析文本摘要的概念,如摘要方法,使用的技术,标准数据集,评估指标和未来的研究范围。最普遍接受的方法是提取和抽象的,在这项工作中详细研究。评估总结并增加可重用资源和基础设施的开发有助于比较和复制结果,增加竞争以改善结果。本研究也讨论了不同的摘要评价方法。最后,在本研究的最后,几个挑战和研究机会相关的文本摘要研究提到,可能是有用的潜在的研究人员在这一领域的工作。
2022-03-03 cs.CL cs.IR cs.LG
Summary Workbench: Unifying Application and Evaluation of Text Summarization Models
Leipzig University(莱比锡大学)
本文介绍了一个新的工具,用于开发和评估文本摘要模型的摘要。新的模型和评估措施可以很容易地集成为基于Docker的插件,允许根据任何输入检查其摘要的质量,并使用各种评估措施对其进行评估。结合多种测量的视觉分析可以深入了解模型的优势和劣势。该工具托管在\url{https://tldr.demo.webis.de}上,还支持私有资源的本地部署。
2022-10-18 cs.CL
One Arrow, Many Targets: Probing LLMs for Multi-Attribute Controllable Text Summarization
IIIT Hyderabad(印度信息技术学院海得拉巴分校)
本研究通过大语言模型和低秩适配器探索多属性可控摘要任务,提出并评估了一种分层适配器融合技术,以有效整合多个可控属性的学习成果。
2024-11-02 cs.CL
Towards automatic extractive text summarization of A-133 Single Audit reports with machine learning
Harvard Medical School(哈佛医学院);Elder Research, Inc.(埃尔德研究公司);Clarkson University(克拉克森大学)
文本数据的快速增长推动了基于机器学习的自动文本摘要策略的发展,这些策略可以简洁地捕捉更大文本中的基本思想。本研究的目的是设计一个提取汇总方法的A-133单一审计,评估联邦补助金的接受者是否符合使用联邦资金的计划要求。目前,这些大量的审计必须由官员手动分析,以进行监督、风险管理和优先排序。自动总结有可能简化这些流程。分析集中在2016-2018年约20,000项单一审计的“发现”部分。在文本预处理和GloVe嵌入之后,执行了分级k均值聚类以按主题划分句子并确定每个句子的重要性。对于每次审计,通过与聚类中心的接近度提取关键摘要句子。通过非专家人工评价对总结进行判断,并使用ROUGE指标与人工生成的总结进行比较。虽然目标是完全自动化A-133审计摘要,但由于审计写作风格、内容和上下文的差异很大,因此在各个阶段都需要人工输入。人工输入的示例包括聚类的数量、基于其内容相关性保留或丢弃某些聚类的选择以及顶句的定义。总体而言,这一方法在自动提取A-133审计摘要方面取得了进展,未来的工作重点是全面自动化和提高摘要的一致性。这项工作突出了在现实世界中的应用程序的自动摘要的固有困难和主观性。
2019-11-08 cs.CL cs.LG stat.ML
Multiplex Graph Neural Network for Extractive Text Summarization
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Tencent America(腾讯美国)
摘要抽取式文本摘要的目的是从给定的文档中抽取最具代表性的句子作为摘要。为了从一个长文本文档中提取出一个好的摘要,句子嵌入起着重要的作用。最近的研究已经利用图神经网络来捕获内部关系(例如,话语图)来学习上下文句子嵌入。然而,这些方法既不考虑多种类型的内部关系(例如,语义相似性和自然连接),也不建模内部关系(例如,词之间的语义和句法关系)。为了解决这些问题,我们提出了一种新的多重图卷积网络(多GCN),共同建模不同类型的句子和单词之间的关系。基于Multi-GCN,我们提出了一种用于抽取式文本摘要的Multi-GRAS模型。最后,我们在CNN/DailyMail基准数据集上评估了所提出的模型,以证明我们的方法的有效性。
2021-09-09 cs.CL