Extractive is not Faithful: An Investigation of Broad Unfaithfulness Problems in Extractive Summarization
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文通过定义五类不忠实问题并人工标注1600篇抽取式摘要,发现30%的摘要存在问题,进而提出新指标ExtEval以更准确地自动检测抽取式摘要中的不忠实现象。
2023-05-30 cs.AI cs.CL
Extractive Summarization of Legal Decisions using Multi-task Learning and Maximal Marginal Relevance
Technical University of Munich(慕尼黑工业大学)
总结法律判决需要法律从业人员的专门知识,这既需要时间,也需要成本。本文提出了在低资源环境中使用有限的专家注释数据提取法律决策摘要的技术。我们测试了一组模型,这些模型使用顺序模型定位相关内容,并通过利用最大边际相关性来撰写摘要来解决冗余问题。我们还展示了一个隐式的方法来帮助训练我们提出的模型生成更多的信息摘要。我们的多任务学习模型变体利用修辞角色识别作为辅助任务来进一步改进摘要器。我们对包含美国退伍军人上诉委员会法律决定的数据集进行了广泛的实验,并对我们的模型进行了定量和专家排名评估。我们的研究结果表明,所提出的方法可以实现ROUGE分数相对于专家提取的摘要,匹配那些通过注释器间比较。
2022-10-22 cs.CL
Abstractive Summarization Improved by WordNet-based Extractive Sentences
Peking University(北京大学);Chinese Academy of Medical Sciences(中国医学科学院)
最近,seq 2seq抽象摘要模型在CNN/Daily Mail数据集上取得了良好的效果。然而,如何用抽取方法改进抽取方法是一个很好的研究方向,因为抽取方法具有利用各种有效特征提取文本中重要句子的潜力。为了提高摘要的语义相关性,本文采用基于WordNet的句子排序算法,抽取与文本语义相关性最高的句子。然后,我们设计了一个双注意seq 2seq框架,以生成摘要考虑提取的信息。同时,结合指针生成器和覆盖机制,解决了抽象模型中存在的词汇表外词和重复词问题。在CNN/Daily Mail数据集上的实验表明,我们的模型具有最先进的ROUGE分数,具有竞争力的性能。人类的评价也表明,我们的模型生成的摘要具有较高的语义相关性的原始文本。
2018-08-04 cs.CL
Unsupervised Extractive Opinion Summarization Using Sparse Coding
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
意见摘要是自动生成摘要的任务,这些摘要封装了来自多个用户评论的信息。我们提出了语义自动编码器(SemAE),以无监督的方式执行提取意见摘要。SemAE使用字典学习来隐式地从评论中捕获语义信息,并在语义单元上学习每个句子的潜在表示。语义单位应该捕捉抽象的语义概念。我们的提取摘要算法利用这些表示来识别数百条评论中的代表性意见。SemAE还能够执行可控摘要,以生成特定于方面的摘要。我们在SPACE和AMAZON数据集上报告了强大的性能,并进行了实验来研究我们模型的功能。我们的代码可在https://github.com/brcsomnath/SemAE上公开获取。
2022-05-19 cs.CL
On Extractive and Abstractive Neural Document Summarization with Transformer Language Models
Element AI;Montréal Institute for Learning Algorithms(蒙特利尔学习算法研究所);Université de Montréal(蒙特利尔大学);École Polytechnique de Montréal(蒙特利尔高等理工学院)
我们提出了一种方法,通过神经抽象摘要产生超过几千字的长文档的摘要。在生成摘要之前,我们执行一个简单的提取步骤,然后在生成摘要之前,使用该摘要来根据相关信息调节Transformer语言模型。我们表明,这一提取步骤显着提高摘要结果。我们还表明,这种方法产生更抽象的摘要相比,以前的工作,采用复制机制,同时仍然实现更高的胭脂分数。注意:上面的摘要不是作者写的,它是由本文中提出的一个模型生成的。
2020-04-28 cs.CL
Specificity-Based Sentence Ordering for Multi-Document Extractive Risk Summarization
Thomson Reuters Special Services, LLC(汤森路透特别服务有限责任公司)
风险挖掘技术寻求找到捕获实体风险关系的相关文本提取。然而,当处理大量数据集时,可以返回大量相关提取,将焦点转移到如何最好地呈现结果。我们提供的风险挖掘多文档提取摘要系统,产生高质量的输出建模的特殊性,形成良好的话语的特点的变化的细节。特别是,我们提出了一种新的选择算法,交替提取基于人类策划或扩展的自动编码的关键词,表现出更大的特异性或一般性,因为它涉及到一个实体的风险关系。通过这种提取排序,并且不需要更复杂的话语感知NLP,我们在交替摘要中诱导了特异性的适当转变,这些交替摘要在自动ROUGE和BLEU评分以及手动可理解性和偏好评估方面优于非交替摘要-与人类撰写的摘要相比,没有统计学上的显著差异。
2019-09-23 cs.CL
Contextualized Rewriting for Text Summarization
Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
摘要存在着不相关、冗余和不连贯等问题。已有的工作表明,摘要的抽象重写可以提高摘要的简洁性和可读性。这些重写系统将提取的摘要视为唯一的输入,这是相对集中的,但可能丢失重要的背景知识。在本文中,我们研究语境重写,它摄取整个原始文档。我们将上下文重写形式化为具有组对齐的seq2seq问题,引入组标签作为对对齐进行建模的解决方案,通过基于内容的寻址来识别提取的摘要。结果表明,我们的方法显着优于非上下文重写系统,而不需要强化学习,实现了多个提取摘要的ROUGE分数的大幅改善。
2021-04-26 cs.CL
Towards Enhancing Coherence in Extractive Summarization: Dataset and Experiments with LLMs
Adobe Research(奥多比研究院);Arizona State University(亚利桑那州立大学)
本文针对大语言模型抽取式摘要不连贯问题,提出融合用户意图的人工标注数据集,并通过监督微调与人类反馈对齐LLM,使Falcon-40B和Llama-2-13B的Rouge-L提升约10%。
2024-07-05 cs.AI cs.CL
Comparing Methods for Extractive Summarization of Call Centre Dialogue
Connex One(Connex One公司)
本文提供了一些文本摘要技术的评估结果的目的,生产呼叫摘要的联络中心解决方案。我们特别关注提取汇总方法,因为它们不需要任何标记的数据,并且在生产中非常快速和容易实现。我们实验比较几个这样的方法,使用它们来产生呼叫的摘要,并客观地(使用ROUGE-L)和主观地(通过聚合几个注释者的判断)评估这些摘要。我们发现TopicSum和Lead-N优于其他总结方法,而BERTSum在主观和客观评价中的得分相对较低。结果表明,即使是像Lead-N这样简单的基于统计学的方法,也能产生有意义和有用的呼叫中心对话摘要。
2022-09-06 cs.AI cs.CL
Towards Supervised Extractive Text Summarization via RNN-based Sequence Classification
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);University of Bonn(波恩大学)
本文简要介绍了我们提交的DocEng'19比赛的方法。我们实现了一个基于递归神经网络的模型,该模型学习分类文章的句子是否属于相应的提取摘要。我们绕过了缺乏大型注释新闻语料库提取摘要从抽象的,这是可从CNN语料库生成摘要。
2019-11-13 cs.CL
OrderSum: Semantic Sentence Ordering for Extractive Summarization
OrderSum提出了一种新颖的抽取式摘要模型,通过将句子顺序融入摘要嵌入并训练模型识别语义空间中更好的顺序,同时提升了句子包含与排序性能,在CNN/DailyMail上以ROUGE-L 30.52超越先前最优模型2.54。
2025-02-22 cs.CL
What comes next? Extractive summarization by next-sentence prediction
McGill University(麦吉尔大学);University of Edinburgh(爱丁堡大学)
现有的自动摘要方法假设摘要的长度限制是给定的,并将内容选择视为优化问题,以在此预算内最大化信息量并最小化冗余。这个框架忽略了这样一个事实,即人类编写的摘要具有丰富的内部结构,可以利用这些结构来训练摘要系统。我们提出了NEXTSUM,一种新的方法来总结的基础上的模型,预测下一个句子,包括在摘要不仅使用源文章,但也产生了迄今为止的摘要。我们表明,这样的模型成功地捕捉到摘要特定的话语动作,并导致更好的内容选择性能,除了自动预测多长时间的目标摘要应该。我们进行实验的纽约时报注释语料库的摘要,其中NEXTSUM优于铅和内容模型摘要基线的显着利润率。我们还表明,我们的系统产生的摘要的长度与人类书面黄金标准的长度相关。
2019-01-12 cs.CL
Extractive Summarization as Text Matching
Fudan University(复旦大学)
本文在构建神经提取摘要系统的方式方面创造了一个范式转变。而不是以下常用的框架单独提取句子和句子之间的关系建模,我们制定的提取摘要任务作为一个语义文本匹配问题,其中源文件和候选摘要将(从原始文本中提取)匹配的语义空间。值得注意的是,这种向语义匹配框架的范式转变是基于我们对基于数据集属性的摘要级和摘要级提取器之间固有差距的全面分析。此外,即使用简单形式的匹配模型实例化框架,我们也将CNN/DailyMail上最先进的提取结果提升到了一个新的水平(ROUGE-1中为44.41)。在其他五个数据集上的实验也表明了该匹配框架的有效性。我们相信这种基于匹配的摘要框架的功能还没有得到充分利用。为了鼓励未来更多的实例化,我们已经在https://github.com/maszhongming/MatchSum上发布了我们的代码,处理的数据集以及生成的摘要。
2020-04-19 cs.CL
A Multilingual Study of Compressive Cross-Language Text Summarization
Université d’Avignon et des Pays de Vaucluse(阿维尼翁与沃克吕兹地区大学);École Polytechnique de Montréal(蒙特利尔综合理工学院);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
跨语言文本摘要(CLTS)生成的摘要语言与源文档的语言不同。最近的方法使用来自两种语言的信息来生成具有最多信息的句子的摘要。然而,这些方法的性能可能因语言而异,这可能会降低摘要的质量。在本文中,我们提出了一个压缩框架来生成跨语言摘要。为了分析性能,特别是稳定性,我们在四种语言(英语,法语,葡萄牙语和西班牙语)的数据集上测试了我们的系统和提取基线,以生成英语和法语摘要。自动评估表明,我们的方法优于提取最先进的CLTS方法,对所有语言都有更好,更稳定的ROUGE分数。
2018-10-24 cs.CL
SummaRuNNer: A Recurrent Neural Network based Sequence Model for Extractive Summarization of Documents
IBM(国际商业机器公司)
我们提出了SummaRuNNer,一个循环神经网络(RNN)为基础的序列模型的提取摘要的文件,并表明它实现了性能优于或相当于国家的最先进的。我们的模型具有额外的优势是非常可解释的,因为它允许可视化的预测打破了抽象的功能,如信息内容,显着性和新颖性。我们工作的另一个新贡献是我们的提取模型的抽象训练,它可以单独在人类生成的参考摘要上进行训练,从而消除了对重复级别提取标签的需要。
2016-11-14 cs.CL
Conditional Neural Generation using Sub-Aspect Functions for Extractive News Summarization
Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
在使用大规模训练语料库的神经架构的推动下,文本摘要已经取得了很大的进展。然而,在新闻领域,由于倒金字塔写作风格的流行,神经模型很容易通过利用与位置相关的特征而过拟合。此外,为不同用户生成各种摘要的需求尚未得到满足。在本文中,我们提出了一个神经框架,可以通过引入一组子方面功能(即重要性,多样性,位置)灵活地控制摘要生成。这些子方面功能由一组控制代码调节,以决定在摘要生成期间关注哪个子方面。我们证明,提取的摘要与最小的位置偏差是可比的标准模型,利用位置偏好。我们还表明,以多样性为重点生成的新闻摘要可以更受人类评分员的青睐。这些结果表明,提供更多控制选项的更灵活的神经摘要框架在定制不同的用户偏好时可能是可取的,这是有用的,因为先验地阐明不同应用的这些偏好通常是不切实际的。
2020-10-06 cs.CL
SumHiS: Extractive Summarization Exploiting Hidden Structure
ITMO University(伊提莫大学);MIPT(莫斯科物理技术学院);Kazan Federal University(喀山联邦大学)
本文提出 SumHiS,利用文本的隐藏聚类结构进行抽取式摘要,在 CNN/DailyMail 上以 ROUGE-2 超越既有方法 10%,并将隐藏结构解释为方面。
2024-06-12 cs.CL
Neural Latent Extractive Document Summarization
Microsoft Research Asia(微软亚洲研究院);University of Edinburgh(爱丁堡大学)
提取式摘要模型需要摘要级标签,其通常是按顺序创建的(例如,使用基于规则的方法),假定大多数摘要数据集仅具有文档-摘要对。由于这些标签可能是次优的,我们提出了一个潜变量提取模型,其中句子被视为潜变量和句子与激活变量被用来推断黄金摘要。在训练期间,损失来自黄金摘要的\emph{directly}。在CNN/Dailymail数据集上的实验表明,我们的模型比在近似标签上训练的强提取基线有所改进,并且与最近的几个模型相比也具有竞争力。
2018-08-28 cs.AI cs.CL cs.LG
Extractive Summarization of Call Transcripts
Verizon Communications(威瑞森通信公司)
文本摘要是从文本中提取最重要的信息,并以较少的句子简洁地呈现的过程。通话记录是涉及客户(呼叫者)和代理(客户代表)之间电话对话的文本描述的文本。本文提出了一种本土开发的方法,结合主题建模和句子选择与标点符号恢复在浓缩不佳标点或unpunctuated通话记录,以产生更可读的摘要。广泛的测试,评估和比较已经证明了这个汇总器的呼叫成绩单摘要的有效性。
2021-04-15 cs.CL
Legal Extractive Summarization of U.S. Court Opinions
ETH Zurich(苏黎世联邦理工学院)
本研究使用43万份美国法院意见书数据集,提出基于强化学习的MemSum模型,在自动和人工评估中均优于Transformer模型,并开源以促进法律民主化。
2023-05-15 cs.CL
Fact-level Extractive Summarization with Hierarchical Graph Mask on BERT
The Hong Kong Polytechnic University(香港理工大学);Xidian University(西安电子科技大学)
目前大多数抽取式摘要模型都是通过选择显著句子来生成摘要的。然而,文本级抽取摘要的一个问题是,在人类书写的黄金摘要和甲骨文句子标签之间存在差距。在本文中,我们提出了提取事实级的语义单位,更好地提取摘要。我们还引入了一个层次结构,它结合了多层次的粒度的文本信息的模型。此外,我们将我们的模型与BERT使用层次图掩码。这使我们能够结合BERT在自然语言理解和结构信息方面的能力,而不增加模型的规模。在CNN/DaliyMail数据集上的实验表明,我们的模型达到了最先进的结果。
2020-11-19 cs.CL
Redundancy Aware Multi-Reference Based Gainwise Evaluation of Extractive Summarization
Technical University Dortmund(多特蒙德工业大学);Big Data Intelligence (BDI) Lab(大数据智能实验室);Auburn University(奥本大学)
针对ROUGE指标缺乏语义和排序感知且不支持多参考评估的问题,本文提出冗余感知的Sem-nCG指标,在单参考和多参考场景下均与人类判断表现出更强的相关性。
2024-07-27 cs.CL
Exploring Content Selection in Summarization of Novel Chapters
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学);Amazon AI(亚马逊人工智能实验室)
我们提出了一个新的摘要任务,使用摘要/章节对在线学习指南生成小说章节的摘要。这是一个比新闻摘要任务更难的任务,考虑到章节的长度以及摘要中的极端释义和概括。我们专注于提取摘要,这需要创建一组黄金标准的提取摘要。我们提出了一个新的指标,用于将参考摘要句子与章节句子对齐,以创建黄金提取物,并尝试不同的对齐方法。我们的实验表明,通过自动度量和众包金字塔分析,我们的任务比以前的对齐方法有显着的改进。我们在https://github.com/manestay/novel-chapter-dataset上提供我们的数据汇集脚本。
2021-03-30 cs.CL
Exploring Optimal Granularity for Extractive Summarization of Unstructured Health Records: Analysis of the Largest Multi-Institutional Archive of Health Records in Japan
Tokyo Metropolitan University(东京都立大学);RIKEN(理化学研究所);National Hospital Organization(国立医院机构);Kitami Institute of Technology(北见工业大学)
临床文本的自动摘要可以减轻医疗专业人员的负担。“出院小结”是小结的一个很有前途的应用,因为它们可以从每日住院记录中生成。我们的初步实验表明,出院小结中有20-31%的描述与住院病历的内容重叠。然而,如何从非结构化来源生成摘要仍不清楚。为了分解医生的摘要过程,本研究旨在确定摘要的最佳粒度。我们首先定义了三种不同粒度的摘要单元来比较出院摘要生成的性能:整句、临床片段和子句。我们在这项研究中定义了临床部分,旨在表达最小的医学意义的概念。为了获得临床片段,有必要在管道的第一阶段自动分割文本。因此,我们比较了基于规则的方法和机器学习方法,后者在拆分任务中的F1得分为0.846,优于前者。接下来,我们实验测量的准确性提取摘要使用三种类型的单位,基于ROUGE-1度量,在日本的多机构的国家档案的健康记录。使用整句、临床片段和子句的提取摘要的测量准确率分别为31.91、36.15和25.18。我们发现,临床部分产生了更高的准确性比句子和子句。这一结果表明,总结住院记录需要更细的粒度比面向病历的处理。虽然我们只使用了日本的健康记录,但可以解释如下:医生从患者记录中提取“具有医学意义的概念”,并将它们重新组合。
2022-12-20 cs.CL
Automated News Summarization Using Transformers
Delhi Technological University(德里理工大学)
在线可用的文本数据量正在以非常快的速度增加,因此文本摘要变得至关重要。大多数现代推荐和文本分类系统都需要处理大量的数据。手动生成冗长文章的精确和流畅的摘要是一项非常烦人和耗时的任务。因此,为数据生成自动摘要并使用它来训练机器学习模型将使这些模型具有空间和时间效率。摘要的生成有两种不同的方法:抽取式摘要和抽象式摘要。提取技术从原始文档中识别出相关句子,并仅从文本中提取那些句子。而在摘要技术中,摘要是在解释原文之后生成的,因此使其更加复杂。在本文中,我们将全面比较几个基于Transformer架构的文本摘要预训练模型。为了进行分析和比较,我们使用了BBC新闻数据集,该数据集包含可用于摘要的文本数据和人类生成的摘要,用于评估和比较机器学习模型生成的摘要。
2021-04-23 cs.CL
Fair Summarization: Bridging Quality and Diversity in Extractive Summaries
Portland State University(波特兰州立大学)
针对多文档摘要中社会群体代表性不公的问题,提出 FairExtract 与 FairGPT,并结合质量和公平性复合指标验证其能在保持摘要质量的同时提升公平性。
2025-03-18 cs.AI cs.CL
Toward Extractive Summarization of Online Forum Discussions via Hierarchical Attention Networks
University of Central Florida(中佛罗里达大学)
论坛的帖子很长,内容丰富。简洁的主题摘要将有利于寻求信息的新人和参与讨论的人。然而,很少有研究探讨了论坛主题摘要的任务。在这项工作中,我们第一次尝试适应线程摘要的层次注意力网络。该模型利用神经注意力机制的最新发展来构建句子和线索表示并将其用于摘要。我们的研究结果表明,所提出的方法可以优于一系列的竞争基线。此外,冗余去除步骤对于实现出色的结果至关重要。
2018-12-26 cs.CL
Learning to Extract Coherent Summary via Deep Reinforcement Learning
Hong Kong University of Science and Technology(香港科技大学);University of Massachusetts Medical School(马萨诸塞大学医学院)
连贯性在从文件中生成高质量摘要方面发挥着关键作用。近年来,神经抽取摘要越来越受到人们的关注。然而,他们大多数人在提取句子时忽略了摘要的连贯性。作为对提取连贯摘要的努力,我们提出了一个神经连贯模型来捕捉跨句子的语义和句法连贯模式。所提出的神经一致性模型消除了对特征工程的需要,并且可以使用未标记的数据以端到端的方式进行训练。实验结果表明,所提出的神经连贯模型可以有效地捕捉跨句连贯模式。利用神经元相干模型和ROUGE包的组合输出作为奖励,我们设计了一种强化学习方法来训练一个神经元提取摘要器,称为强化神经提取摘要(RNES)模型。RNES模型学习同时优化摘要的连贯性和信息重要性。在CNN/Daily Mail数据集上的实验结果表明,该算法的ROUGE性能优于现有的基线算法,达到了最先进的水平.质量评价表明,国家评价网络编写的摘要更加连贯和可读。
2018-04-19 cs.CL
Topic Modeling Based Extractive Text Summarization
SRM Institute of Science and Technology(SRM科学技术研究所)
文本摘要是一种识别文本文档中重要信息的方法。这种计算技术的目的是通过只包括源文本中存在的相关和突出信息来生成源文本的较短版本。在本文中,我们提出了一种新的方法来总结一个文本文件,其内容聚类的基础上产生的潜在主题,使用主题建模技术,并通过生成提取摘要,每个确定的文本聚类。所有提取的子摘要稍后被组合以生成任何给定源文档的摘要。我们在文本摘要方法中利用较少使用且具有挑战性的WikiHow数据集。此数据集与可用于文本摘要的常用新闻数据集不同。众所周知的新闻数据集在其源文本的前几行中呈现了其最重要的信息,这使得与总结WikiHow数据集相比,它们的总结任务具有较小的挑战性。与这些新闻数据集相反,WikiHow数据集中的文档是使用通用方法编写的,具有较低的抽象性和较高的压缩比,因此对生成摘要提出了更大的挑战。许多当前最先进的文本摘要技术倾向于消除源文档中存在的重要信息,以利于简洁。我们提出的技术旨在捕获源文档中存在的所有不同信息。虽然数据集被证明具有挑战性,但在我们的实验设置中进行了广泛的测试后,我们发现,与其他已发布的提取和抽象文本摘要模型相比,我们的模型产生了令人鼓舞的ROUGE结果和摘要。
2021-06-29 cs.CL cs.IR
Generating Abstractive Summaries from Meeting Transcripts
The Pennsylvania State University(宾夕法尼亚州立大学);Qatar Computing Research Institute(卡塔尔计算研究所);Hamad Bin Khalifa University(哈马德·本·哈利法大学);National University of Singapore(新加坡国立大学)
会议摘要非常重要,因为它们以简洁的形式传达了讨论的基本内容。一般来说,阅读和理解整个文件是很耗时的。因此,摘要起着重要的作用,因为读者只对讨论的重要背景感兴趣。在这项工作中,我们解决了会议文件摘要的任务。迄今为止开发的会议对话自动摘要系统主要是提取的,导致难以阅读的不可接受的摘要。所提取的话语包含影响提取摘要的质量的不流利。为了使摘要更具可读性,我们提出了一种方法来生成抽象的摘要融合重要内容从几个话语。我们首先将会议记录分成不同的主题片段,然后使用监督学习方法识别每个片段中的重要话语。然后将重要的话语组合在一起以生成一句话的摘要。在文本生成步骤中,每个片段中的话语的依赖性解析被组合在一起以创建有向图。通过整数线性规划(ILP)获得的信息量最大且结构良好的子图被选择用于为每个主题段生成一句话的摘要。ILP公式化通过利用在非会话风格的文本中更突出的语法关系来减少不流利,并且因此生成与人类书写的抽象摘要相当的摘要。实验结果表明,我们的方法可以产生更多的信息摘要比基线。此外,由人类法官的可读性评估以及从依赖解析器获得的对数似然估计表明,我们生成的摘要是显着可读和良好的形式。
2016-09-22 cs.CL
Incremental Extractive Opinion Summarization Using Cover Trees
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Google DeepMind(谷歌DeepMind);Google Research(谷歌研究院)
针对增量场景下传统中心性抽取观点摘要方法效率低的问题,提出基于覆盖树的CoverSumm算法,通过索引评论表示与维护候选句池实现高效增量CentroidRank摘要生成,速度最高提升36倍且摘要质量优异。
2024-04-12 cs.CL cs.LG
Jointly Extracting and Compressing Documents with Summary State Representations
University of Edinburgh(爱丁堡大学);Priberam Labs(Priberam实验室);Instituto Superior Técnico(高等技术学院);Instituto de Sistemas e Robótica(系统与机器人研究所);Instituto de Telecomunicações(电信研究所);Unbabel Lda(Unbabel公司)
我们提出了一种新的文本摘要神经模型,首先从文档中提取句子,然后压缩它们。所提出的模型提供了一种平衡,回避了抽象方法的困难,同时产生比提取方法更简洁的摘要。此外,我们的模型根据它在训练期间观察到的黄金摘要动态确定输出摘要的长度,并且不需要提取摘要的典型长度限制。该模型在CNN/DailyMail和Newsroom数据集上实现了最先进的结果,改进了当前的提取和抽象方法。人类的评价表明,我们的模型生成简洁和翔实的摘要。我们还提供了一个新的数据集的oracle压缩摘要自动派生的CNN/DailyMail参考摘要。
2019-04-05 cs.CL cs.IR cs.LG
Generating Multiple-Length Summaries via Reinforcement Learning for Unsupervised Sentence Summarization
Pohang University of Science and Technology(浦项科技大学);Microsoft Research Asia(微软亚洲研究院);Korea Advanced Institute of Science and Technology(韩国科学技术院)
句子摘要缩短了给定的文本,同时保持了文本的核心内容。已经研究了无监督的方法来总结没有人类书面摘要的文本。然而,最近的无监督模型是提取的,它从文本中删除单词,因此它们不如抽象摘要灵活。在这项工作中,我们设计了一个抽象模型的基础上强化学习没有地面实况摘要。我们制定的无监督摘要的马尔可夫决策过程的基础上,代表摘要质量的奖励。为了进一步提高摘要质量,我们开发了一种多摘要学习机制,该机制可以为给定的文本生成多个不同长度的摘要,同时使摘要相互增强。实验结果表明,该模型大大优于抽象和提取模型,但经常产生新的单词不包含在输入文本。
2022-12-21 cs.AI cs.CL
Neural Extractive Text Summarization with Syntactic Compression
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
最近的神经网络摘要方法主要是基于选择的提取或基于生成的抽象。在这项工作中,我们提出了一个基于联合提取和句法压缩的单文档摘要的神经模型。我们的模型从文档中选择句子,根据选区分析识别可能的压缩,并使用神经模型对这些压缩进行评分,以生成最终摘要。对于学习,我们构建了Oracle提取压缩摘要,然后通过这种监督来学习我们的两个组件。在CNN/Daily Mail和New York Times数据集上的实验结果表明,根据ROUGE的评估,我们的模型实现了强大的性能(与最先进的系统相当)。此外,我们的方法优于现成的压缩模块,人工和手动评估表明,我们的模型的输出通常保持语法。
2019-09-09 cs.CL
LaMSUM: Amplifying Voices Against Harassment through LLM Guided Extractive Summarization of User Incident Reports
Indian Institute of Technology Delhi, India(印度理工学院德里分校);Delhi Technological University, India(德里技术大学);Indian Institute of Technology Kharagpur, India(印度理工学院哈里科特分校);Collaborative Dynamics, Texas, USA(协同动力公司);Indian Institute of Science Education and Research Kolkata, India(印度科学教育与研究学院科希拉分校)
本文提出LaMSUM框架,结合多级投票方法利用LLM生成用户事件报告的提取式摘要,有效应对多语言数据处理挑战,优于现有方法。
2026-04-17 cs.CL cs.LG
GoSum: Extractive Summarization of Long Documents by Reinforcement Learning and Graph Organized discourse state
Charles Sturt University(查尔斯特大学);Atypon Systems, LLC(Atypon系统有限责任公司);Fudan University(复旦大学)
从长文档中提取摘要可以看作是利用文档的结构信息进行句子分类。如何使用这样的结构化信息来概括文档是具有挑战性的。在本文中,我们提出了GoSum,一种新的图和强化学习为基础的提取模型的长论文摘要。特别是,GoSum通过为不同话语级别的每个输入文档构建异构图,在强化学习中对句子状态进行编码。图中的边反映了文档的语篇层次结构,用于抑制跨节边界的语义漂移。我们在两个科学文章摘要数据集上评估了GoSum:PubMed和arXiv。实验结果表明,与提取和抽象模型的强基线相比,GoSum实现了最先进的结果。消融研究进一步验证了我们的GoSum的性能受益于话语信息的使用。
2023-01-20 cs.CL
Unsupervised Extractive Summarization by Pre-training Hierarchical Transformers
Microsoft Research Asia(微软亚洲研究院);Shanghai Qi Zhi institute(上海期智研究院)
无监督提取文档摘要旨在从文档中选择重要句子,而无需在训练期间使用标记摘要。现有的方法大多是基于图的句子作为节点和句子的相似性衡量的边的权重。在这项工作中,我们发现,Transformer注意力可以用来排名句子的无监督提取摘要。具体来说,我们首先只使用未标记的文档来预训练分层Transformer模型。然后,我们提出了一种方法来排名的句子,使用双水平的自我注意力和预训练目标。在CNN/DailyMail和New York Times数据集上的实验表明,该模型在无监督摘要方面具有最先进的性能。我们还发现,在实验中,我们的模型是依赖于句子位置。当使用我们的模型和最近的无监督模型显式建模句子位置的线性组合时,我们获得了更好的结果。
2020-10-16 cs.CL
MemSum: Extractive Summarization of Long Documents Using Multi-Step Episodic Markov Decision Processes
Institute of Neuroinformatics(神经信息学研究所);University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院)
我们介绍MemSum(多步情节马尔可夫决策过程提取SUMmarizer),一个基于学习的提取总结器,在每一步都用当前提取历史的信息来丰富。当MemSum迭代地选择句子到摘要中时,它会考虑一个广泛的信息集,这些信息集也会被人类在这个任务中直观地使用:1)句子的文本内容,2)文档其余部分的全局文本上下文,以及3)由已经提取的句子集组成的提取历史。通过轻量级架构,MemSum在总结来自PubMed,arXiv和GovReport的长文档方面获得了最先进的测试集性能(ROUGE)。消融研究证明了局部、全局和历史信息的重要性。人工评估证实了所生成摘要的高质量和低冗余,这源于MemSum对提取历史的了解。
2022-03-16 cs.CL
Discourse-Aware Neural Extractive Text Summarization
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Dynamics 365 AI Research(微软 Dynamics 365 AI 研究院)
最近,BERT已被用于最先进的文本摘要模型中的文档编码。然而,基于摘要的提取模型往往会导致提取的摘要中出现冗余或无信息的短语。此外,BERT无法很好地捕捉整个文档中的长距离依赖关系,因为它是在句子对而不是文档上进行预训练的。为了解决这些问题,我们提出了一个话语感知的神经摘要模型- DiscoBert。DiscoBert在更细的粒度上提取子空间话语单元(而不是句子)作为提取选择的候选者。为了捕捉语篇单位之间的长程依赖关系,本文基于语义树和共指提及构建了结构化语篇图,并用图卷积网络进行编码。实验表明,该模型优于国家的最先进的方法,由一个显着的利润率流行的摘要基准相比,其他BERT的基础模型。
2020-04-25 cs.CL
Sparse Optimization for Unsupervised Extractive Summarization of Long Documents with the Frank-Wolfe Algorithm
University of California, Berkeley(加州大学伯克利分校)
我们解决了无监督的提取文档摘要的问题,特别是对于长文档。我们将无监督问题建模为稀疏自回归问题,并通过一个凸的范数约束问题近似得到的组合问题。我们使用专门的Frank-Wolfe算法来解决它。为了生成具有$k$语句的摘要,该算法仅需要执行$\approx k$迭代,使得其非常高效。我们解释了如何避免显式计算的完整梯度,以及如何包括句子嵌入信息。我们评估我们的方法对其他两个无监督的方法使用词汇(标准)ROUGE分数,以及语义(基于嵌入)的。我们的方法在两个数据集上都取得了更好的结果,并且在与高度释义的摘要的嵌入相结合时效果尤其好。
2022-08-19 cs.CL
Enhancing Coherence of Extractive Summarization with Multitask Learning
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
本研究提出多任务学习架构,通过连贯性判别器与两种可微分训练策略提升抽取式摘要的连贯性,在保留传统指标表现的同时,经自动和人工评估验证了连贯性与一致性的提升。
2023-07-21 cs.AI cs.CL
Effective extractive summarization using frequency-filtered entity relationship graphs
Pune Institute of Computer Technology(浦那计算机技术学院);University of Pune(浦那大学);Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
基于词频的提取摘要方法易于实现,并在不同语言中产生合理的结果。然而,它们有很大的局限性-它们忽略了上下文的作用,它们在文档中提供了不均匀的主题覆盖,有时是脱节的,难以阅读。我们使用语言类型学的一个简单前提-英语句子是实体之间潜在相互作用的完整描述符,通常以主语-动词-宾语的顺序-来解决这些困难的一个子集。我们已经开发出一种混合模型的提取摘要,结合词频的关键字识别与信息自动生成的实体关系图,以选择句子摘要。与词频和主题词为基础的方法的比较评价表明,所提出的方法是传统的ROUGE标准的竞争力,并产生适度的信息摘要平均,由一个大的面板(N=94)的人类评分。
2018-10-24 cs.AI cs.CL cs.IR
SciBERTSUM: Extractive Summarization for Scientific Documents
Pennsylvania State University(宾夕法尼亚州立大学)
摘要类文献主要研究新闻文章的摘要。CNN-DailyMail中的新闻文章是相对较短的文档,平均每个文档约30个句子。我们介绍了SciBERTSUM,这是我们的摘要框架,专为超过500句的科学论文等长文档的摘要而设计。SciBERTSUM通过以下方式将BERTSUM扩展到长文档:1)添加一个节嵌入层,以将节信息包含在句子向量中; 2)应用稀疏注意力机制,其中每个句子将本地关注附近的句子,并且只有少数句子全局关注所有其他句子。我们使用科学论文作者生成的幻灯片作为参考摘要,因为它们包含论文的技术细节。结果表明,我们的模型在ROUGE分数方面的优越性。
2022-01-21 cs.CL
A General Contextualized Rewriting Framework for Text Summarization
Westlake University(西湖大学);Westlake Institute of Advanced Study(西湖高等研究院)
摘要重写方法结合了抽取和抽象方法,使用抽象模型提高了抽取摘要的简洁性和可读性。现有的改写系统将抽取出的句子作为唯一的输入,相对集中,但会丢失必要的背景知识和语篇语境。在本文中,我们研究上下文重写,它消耗整个文档,并认为摘要上下文。我们将上下文重写形式化为具有组标签对齐的seq2seq,引入组标签作为对对齐进行建模的解决方案,通过基于内容的寻址来识别提取的句子。结果表明,我们的方法显着优于非上下文重写系统,而不需要强化学习,实现了多个提取器上的ROUGE分数的大幅改善。
2022-07-13 cs.CL
Sentiment-Aware Extractive and Abstractive Summarization for Unstructured Text Mining
Department of Information Systems and Analytics(信息系统与分析系);National University of Singapore(新加坡国立大学)
本文提出一种结合情感意识的摘要方法,通过整合情感信号提升非结构化文本摘要的质量,以增强动态在线环境中的决策能力。
2025-12-23 cs.CL
Neural Network-Based Abstract Generation for Opinions and Arguments
Google DeepMind(谷歌DeepMind)
我们研究的问题,产生的抽象摘要固执己见的文本。我们提出了一个基于注意力的神经网络模型,能够从多个文本单元中吸收信息,构建信息丰富,简洁,流畅的摘要。设计了一种基于重要性的采样方法,允许编码器从输入的重要子集中整合信息。自动评估表明,我们的系统优于国家的最先进的抽象和提取摘要系统上两个新收集的数据集的电影评论和论点。我们的系统摘要在人类评估中也被评为信息量更大,语法更合理。
2016-06-09 cs.CL
Controlling the Amount of Verbatim Copying in Abstractive Summarization
University of Central Florida(中佛罗里达大学);Robert Bosch LLC(罗伯特·博世有限责任公司)
摘要不得改变原文的意思。实现这一点的一个最有效的方法是增加复制量,同时仍然允许文本抽象。人类编辑通常可以对复制进行控制,从而使摘要更抽象,反之亦然。然而,现代神经抽象概括器是否能提供同样的灵活性,即,从单个参考摘要中学习以生成具有不同程度的复制的多个摘要假设。在本文中,我们提出了一个神经摘要模型,通过从单个人类摘要中学习,可以产生从纯粹提取到高度生成的广泛摘要。我们框架的任务摘要语言建模和利用替代机制生成摘要假设。我们的方法允许在神经摘要模型的训练和解码阶段控制复制。通过大量的实验,我们说明了我们提出的方法的意义上控制逐字复制的量,并取得了竞争力的结果强基线。我们的分析进一步揭示了有趣而不明显的事实。
2019-11-23 cs.CL
Unsupervised Extractive Dialogue Summarization in Hyperdimensional Space
ActionPower
本研究提出基于超维空间的无监督抽取式摘要框架HyperSum,利用高维向量伪正交性构建高效句子嵌入,经聚类提取中心点生成摘要,性能优于现有最优模型且速度快10-100倍,已开源作为强基线。
2024-05-16 cs.AI cs.CL
SEAL: Segment-wise Extractive-Abstractive Long-form Text Summarization
Google Research(谷歌研究院)
由于常见RNN和Transformer架构的计算约束,序列到序列范式中的大多数先前工作都集中在具有数百个令牌的输入序列长度的数据集上。在本文中,我们研究了长格式的抽象文本摘要,序列到序列设置输入序列长度高达100,000令牌和输出序列长度高达768令牌。我们提出了SEAL,一个基于transformer的模型,具有一个新的编码器-解码器的注意力,动态提取/选择输入片段稀疏出席每个输出段。仅使用原始文档和摘要,我们推导出代理标签,该代理标签为提取层提供弱监督,同时从抽象摘要提供常规监督。SEAL模型在现有的长格式摘要任务上实现了最先进的结果,并且在我们引入的新数据集/任务Search 2 Wiki上的性能优于强基线模型,输入文本更长。由于内容选择在SEAL模型中是显式的,因此一个理想的副作用是可以检查选择以增强可解释性。
2020-06-18 cs.CL cs.IR cs.LG
PORTRAIT: a hybrid aPproach tO cReate extractive ground-TRuth summAry for dIsaster evenT
University of Tartu(塔尔图大学);Indian Institute of Technology Patna(印度理工学院巴特那分校)
针对灾害事件抽取式真实摘要生成依赖人工且方差大的问题,提出半自动化混合方法PORTRAIT,在减少人力时间的同时保证摘要质量,并发布5起灾害事件的真实摘要及基准评估。
2023-05-19 cs.CL cs.SI
Extractive Summarization for Arabic Documents Using SAraBERT with a Semantic Siamese Similarity Evaluation Metric
American University of Beirut(贝鲁特美国大学)
该研究提出增强版AraBERT(SAraBERT)及语义连体相似度评估指标,通过BLEU、ROUGE等验证,证明SAraBERT在阿拉伯语文档抽取式摘要任务中有效。
2026-08-24 cs.AI cs.CL
Towards automatic extractive text summarization of A-133 Single Audit reports with machine learning
Harvard Medical School(哈佛医学院);Elder Research, Inc.(埃尔德研究公司);Clarkson University(克拉克森大学)
文本数据的快速增长推动了基于机器学习的自动文本摘要策略的发展,这些策略可以简洁地捕捉更大文本中的基本思想。本研究的目的是设计一个提取汇总方法的A-133单一审计,评估联邦补助金的接受者是否符合使用联邦资金的计划要求。目前,这些大量的审计必须由官员手动分析,以进行监督、风险管理和优先排序。自动总结有可能简化这些流程。分析集中在2016-2018年约20,000项单一审计的“发现”部分。在文本预处理和GloVe嵌入之后,执行了分级k均值聚类以按主题划分句子并确定每个句子的重要性。对于每次审计,通过与聚类中心的接近度提取关键摘要句子。通过非专家人工评价对总结进行判断,并使用ROUGE指标与人工生成的总结进行比较。虽然目标是完全自动化A-133审计摘要,但由于审计写作风格、内容和上下文的差异很大,因此在各个阶段都需要人工输入。人工输入的示例包括聚类的数量、基于其内容相关性保留或丢弃某些聚类的选择以及顶句的定义。总体而言,这一方法在自动提取A-133审计摘要方面取得了进展,未来的工作重点是全面自动化和提高摘要的一致性。这项工作突出了在现实世界中的应用程序的自动摘要的固有困难和主观性。
2019-11-08 cs.CL cs.LG stat.ML
Liputan6: A Large-scale Indonesian Dataset for Text Summarization
School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学)
在本文中,我们介绍了一个大规模的印尼摘要数据集。我们从在线新闻门户网站Liputan6.com获取文章,并获得215,827个文档摘要对。我们利用预先训练的语言模型,通过多语言和单语言基于BERT的模型,在数据集上开发基准提取和抽象摘要方法。我们包括一个彻底的错误分析,通过检查机器生成的摘要,具有低ROUGE分数,并暴露这两个问题与ROUGE本身,以及与提取和抽象的摘要模型。
2020-11-02 cs.CL
Controlling Decoding for More Abstractive Summaries with Copy-Based Networks
Stony Brook University(石溪大学);New York University(纽约大学)
基于注意力的神经抽象摘要系统配备了复制机制,显示出可喜的成果。尽管取得了这一成功,但已经注意到,这样的系统通过大部分(如果不是全部的话)从输入段落复制短语、句子以及有时多个连续的句子来生成摘要,从而有效地执行提取摘要。在本文中,我们使用最新的神经抽象摘要系统-指针生成器网络来验证这种行为。我们提出了一个简单的基线方法,使我们能够控制复制量,而无需重新训练。实验表明,该方法为抽象系统提供了一个强大的基线,希望获得高ROUGE分数,同时最大限度地减少与源文章的重叠,大大减少了与原始文章的n-gram重叠,同时保持在2点内的原始模型的ROUGE分数。
2018-03-20 cs.CL