Bengali Abstractive News Summarization(BANS): A Neural Attention Approach
Shahjalal University of Science and Technology(沙贾拉勒科技大学)
摘要是在保持文本上下文的基础上,根据从原始文本中提取的信息生成新颖句子的过程。由于摘要的复杂性,过去的研究工作主要集中在抽取式摘要方法上。然而,随着序列到序列(seq 2seq)模型的成功,抽象摘要变得更加可行。虽然在英语语言中已经做了大量的基于摘要的研究,但只有几项工作是关于孟加拉语摘要新闻摘要(BANS)的。在这篇文章中,我们提出了一个基于seq 2seq的长短期记忆(LSTM)网络模型,在编码器-解码器处具有注意力。我们提出的系统部署了一个基于本地注意力的模型,该模型可以生成一个长序列的单词,这些单词具有清晰和类似人类的句子,其中包含原始文档的重要信息。我们还准备了一个数据集,其中包含从bangla.bdnews24.com1收集的超过19,000篇文章和相应的人类书面摘要,这是迄今为止最广泛的孟加拉语新闻文档摘要数据集,并在Kaggle 2中公开发布。我们定性和定量地评估了我们的模型,并将其与其他已发表的结果进行了比较。它显示出显着的改善方面的人类评价分数与国家的最先进的方法为BANS。
2020-12-03 cs.AI cs.CL
CLTS+: A New Chinese Long Text Summarization Dataset with Abstractive Summaries
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
摘要方法缺乏创新性是自动文摘中的一个突出问题。由模型生成的摘要大多是从源文章中提取的。造成这一问题的主要原因之一是缺乏具有抽象性的数据集,尤其是中文数据集。为了解决这一问题,我们对中文长文本摘要数据集CLTS中的参考摘要进行了释义,纠正了事实不一致的错误,并提出了第一个具有高抽象水平的中文长文本摘要数据集CLTS+,它包含超过18万个文章摘要对,并且可以在线获得。此外,我们引入了一个基于共现词的内在度量来评估我们构建的数据集。我们分析了CLTS+摘要中使用的提取策略,以量化我们新数据的抽象性和难度,并在CLTS+上训练了几个基线,以验证它对提高模型创新能力的实用性。
2022-06-09 cs.AI cs.CL
Factual Error Correction for Abstractive Summarization Models
McGill University(麦吉尔大学);MILA(MILA研究所)
神经抽象摘要系统已经取得了可喜的进展,这要归功于大规模数据集和使用自监督方法预训练的模型的可用性。然而,确保抽象摘要系统生成的摘要的事实一致性是一个挑战。我们提出了一个后编辑校正模块,以解决这个问题,通过识别和纠正生成的摘要中的事实错误。神经校正器模型在人工示例上进行预训练,这些人工示例是通过对参考摘要应用一系列启发式变换而创建的。这些转换的灵感来自于对最先进的摘要模型输出的错误分析。实验结果表明,该模型能够纠正由其他神经摘要模型生成的摘要中的事实错误,并且在CNN/DailyMail数据集上的事实一致性评价上优于以前的模型。我们还发现,从人工纠错转移到下游设置仍然是非常具有挑战性的。
2021-04-01 cs.AI cs.CL
Generative Adversarial Network for Abstractive Text Summarization
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);MOE Key Laboratory of Machine Perception, Peking University(北京大学机器感知与智能教育部重点实验室);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究院);School of Computer Science, South China Normal University(华南师范大学计算机学院)
在本文中,我们提出了一个对抗性的过程中,抽象的文本摘要,我们同时训练生成模型G和判别模型D。特别地,我们构建生成器G作为强化学习的代理,其将原始文本作为输入并预测抽象摘要。我们还建立了一个网络,试图区分所生成的摘要从地面实况摘要。大量的实验表明,我们的模型实现了竞争力的ROUGE分数与国家的最先进的方法在CNN/每日邮报数据集。定性,我们表明,我们的模型是能够产生更抽象,可读性和多样性的摘要。
2017-11-26 cs.AI cs.CL
Improving Factuality of Abstractive Summarization via Contrastive Reward Learning
Carnegie Mellon University(卡内基梅隆大学);Shanghai Jiao Tong University(上海交通大学)
本文提出一种结合奖励学习与事实性指标的对比学习框架,使抽象式摘要模型从事实性反馈中学习,从而生成更符合事实的摘要。
2023-07-10 cs.AI cs.CL
Abstractive summarization of hospitalisation histories with transformer networks
Sber AI Lab(Sber人工智能实验室)
在本文中,我们提出了一种新的方法来抽象总结病人的住院史。我们应用了一个编码器-解码器框架,Longformer神经网络作为编码器,BERT作为解码器。我们的实验表明,与指针生成器网络相比,某些摘要任务的质量有所提高。我们还与经验丰富的医生进行了一项研究,将我们的模型结果与PGN基线和人类生成的摘要进行了比较,这表明了我们模型的有效性。
2022-04-05 cs.AI cs.CL cs.LG
Salience Allocation as Guidance for Abstractive Summarization
University of Southern California(南加州大学)
抽象摘要模型通常学习从零开始隐式地捕获显著信息。最近的文献增加了提取摘要作为抽象摘要模型的指导,以提供显着内容的提示,并取得更好的性能。然而,提取摘要作为指导可能过于严格,导致信息丢失或噪声信号。此外,它不能很容易地适应各种抽象的文件。由于显著性内容片段的数量和分配不同,因此很难找到决定哪些内容应该包括在指南中的固定阈值。在本文中,我们提出了一种新的摘要方法,灵活和可靠的显着性指导,即SEASON(显着性分配作为指导抽象摘要)。SEASON利用显著性期望值的分配来指导文摘,对不同抽象程度的文章有较好的适应性。在两个基准数据集上的自动和人工评估表明,该方法是有效和可靠的。对超过一百万篇新闻文章的实证结果表明,新闻文章句子的显着性自然分裂为1550,为撰写新闻文章提供了有用的见解。
2022-10-22 cs.AI cs.CL cs.LG
ACM -- Attribute Conditioning for Abstractive Multi Document Summarization
UC Berkeley(加州大学伯克利分校);Stanford(斯坦福大学)
抽象的多文档摘要作为一项任务已经从基本的序列到序列方法发展到基于Transformer和图形的技术。这些方法中的每一种主要集中在多文档信息合成和基于注意力的方法来提取突出信息的问题上。在单文档摘要中并不普遍的多文档摘要中出现的挑战是需要有效地摘要可能具有关于给定主题的冲突极性、情感或主观信息的多个文档。在本文中,我们提出了ACM,属性条件多文档摘要,一个模型,它结合了属性条件模块,以解耦冲突的信息,在输出摘要中的某个属性的条件。这种方法在ROUGE分数上比基线多文档摘要方法有了很大的提高,并且在流畅性、信息量和重复性方面都有了提高,如通过人类注释分析研究所示。
2022-05-09 cs.AI cs.CL
Analyzing Multi-Task Learning for Abstractive Text Summarization
Georg-August-Universität Göttingen(哥廷根大学);Mercedes-Benz Group AG(梅赛德斯-奔驰集团股份公司)
本文分析了多任务学习策略中任务族对英文抽象式文本摘要的影响,发现任务族的选择与组合对下游性能的影响大于训练方案,支持在摘要任务中使用任务族。
2022-11-10 cs.AI cs.CL
Towards Abstractive Grounded Summarization of Podcast Transcripts
Tencent AI Lab(腾讯人工智能实验室);University of Central Florida(中佛罗里达大学)
播客最近显示出受欢迎程度的迅速上升。摘要的播客成绩单是实际利益的内容提供方和消费者。它帮助消费者快速决定是否要收听播客,并减少内容提供方撰写摘要的认知负荷。然而,播客摘要面临着重大的挑战,包括输入的事实不一致。这个问题是加剧了言语不流利和识别错误的口头语言的成绩单。在本文中,我们探索了一种新的抽象摘要方法,以减轻这些挑战。具体来说,我们的方法学习产生抽象的摘要,同时将摘要片段固定在转录本的特定部分,以允许对摘要细节进行全面检查。我们在一个大型播客数据集上对所提出的方法进行了一系列分析,并表明该方法可以取得令人满意的结果。固定摘要在定位包含不一致信息的摘要和转录片段方面带来了明显的好处,因此在自动和人工评估指标中显着提高了摘要质量。
2022-03-22 cs.AI cs.CL
Challenges in Domain-Specific Abstractive Summarization and How to Overcome them
Technical University of Munich(慕尼黑工业大学);University of Twente(特温特大学)
本文指出了大型语言模型在特定领域抽象式文本摘要中的三大局限性(二次复杂度、模型幻觉和领域偏移),并评估了现有最先进技术以解决这些研究空白。
2023-07-03 cs.AI cs.CL
Contrastive Attention Mechanism for Abstractive Sentence Summarization
Institute of Artificial Intelligence, Soochow University(苏州大学人工智能研究院);School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院);Alibaba DAMO Academy(阿里巴巴达摩院);School of Engineering, Westlake University(西湖大学工学院)
我们提出了一个对比注意力机制,以扩展序列到序列的抽象句子摘要任务,其目的是生成一个简短的摘要给定的源句子的框架。对比注意力机制包含两类注意:一类是注意源句相关部分的常规注意,另一类是注意源句不相关或不太相关部分的对手注意。两种注意力都以相反的方式进行训练,从而通过新的softmax和softmin功能鼓励传统注意力的贡献,并阻止对手注意力的贡献。在基准数据集上的实验表明,与传统的注意力机制相比,本文提出的对比注意力机制更能集中于摘要的相关部分,大大提高了摘要的性能。我们在https://github.com/travel-go/Abstractive-Text-Summarization上发布代码
2019-10-30 cs.AI cs.CL
Revisiting Zero-Shot Abstractive Summarization in the Era of Large Language Models from the Perspective of Position Bias
University of California, Davis(加州大学戴维斯分校)
本文提出位置偏差概念以刻画大语言模型在零样本抽象摘要中的不公平信息偏好,通过多模型多数据集实验揭示其影响,为理解模型性能提供新视角。
2024-03-18 cs.AI cs.CL
EmailSum: Abstractive Email Thread Summarization
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Facebook AI Research(脸书人工智能研究院);Microsoft Research(微软研究院)
近年来,人们对总结会话线程(会议,在线讨论等)的挑战性任务产生了兴趣。这样的摘要有助于分析长文本,以快速赶上所做的决定,从而提高我们的工作或沟通效率。为了促进线程摘要的研究,我们开发了一个抽象的电子邮件线程摘要(EmailSum)数据集,其中包含2549个电子邮件线程(每个线程包含3到10封电子邮件)的人工注释的短(<30字)和长(<100字)摘要,涉及各种主题。我们进行了一项全面的实证研究,以探索不同的摘要技术(包括提取和抽象方法,单文档和层次模型,以及迁移和半监督学习),并对短期和长期摘要生成任务进行人工评估。我们的研究结果揭示了当前抽象摘要模型在这项任务中面临的主要挑战,例如理解发送者的意图和识别发送者和接收者的角色。此外,我们发现,广泛使用的自动评估指标(ROUGE,BERTScore)弱相关性与人类的判断,这个电子邮件线程摘要任务。因此,我们强调人类评估和社区开发更好指标的重要性。我们的代码和摘要数据已在以下网站提供:https://github.com/ZhangShiyue/EmailSum
2021-07-30 cs.AI cs.CL
Improving Factual Consistency of Abstractive Summarization via Question Answering
Amazon Web Services(亚马逊云服务);Columbia University(哥伦比亚大学)
最先进的抽象摘要模型的一个常见问题是生成的摘要可能与输入文档事实上不一致。事实上,自动摘要可能会产生听起来不可信但不准确的摘要是一个主要的问题,限制了它的广泛应用。在本文中,我们提出了一种方法来解决事实的一致性摘要。我们首先提出了一个有效的自动评估指标来衡量事实的一致性,接下来,我们提出了一种新的学习算法,最大限度地提高模型训练过程中提出的度量。通过大量的实验,我们证实,我们的方法是有效的,在提高事实的一致性,甚至整体质量的摘要,判断自动指标和人类的评价。
2021-05-10 cs.AI cs.CL
Cutting-off Redundant Repeating Generations for Neural Abstractive Summarization
NTT Communication Science Laboratories, NTT Corporation(NTT通信科学实验室,NTT公司)
本文解决了在基于RNN的编码器-解码器模型中经常观察到的冗余重复生成的减少。我们的基本思想是在编码器中联合估计每个目标词汇的上界频率,并在解码器中根据估计控制输出单词。我们的方法在基于RNN的编码器-解码器基线上显示出显着的改进,并在抽象摘要基准上取得了最佳结果。
2017-02-13 cs.AI cs.CL stat.ML
Abstractive Text Summarization for Contemporary Sanskrit Prose: Issues and Challenges
Jawaharlal Nehru University(贾瓦哈拉尔·尼赫鲁大学);School of Sanskrit and Indic Studies(梵文与印度研究学院)
本文针对低资源屈折语言梵语,系统研究其抽象式文本摘要的开发挑战,并构建了从数据准备到模型训练推理的完整流程。
2025-01-03 cs.AI cs.CL
Abstractive Tabular Dataset Summarization via Knowledge Base Semantic Embeddings
New Knowledge(新知识公司)
提出了一种基于知识库语义嵌入的表格数据摘要生成方法。假设数据集在标题、列和/或一些扩充元数据中包含描述性文本,则系统采用嵌入来为每个文本片段推荐主题/类型。通过利用预先指定的本体中的类型层次结构,将推荐聚合到被认为是数据集的描述性的超类型的小集合中。使用2015年2月的Wikipedia作为知识库,并使用相应的DBpedia本体作为类型,我们展示了来自多个来源的开放数据的实验结果-OpenML,CKAN和data.world-以说明该方法的有效性。
2018-04-05 cs.AI cs.CL
Domain Aligned Prefix Averaging for Domain Generalization in Abstractive Summarization
Indian Institute of Technology (BHU)(印度理工学院(巴纳拉斯印度教大学));Indian Institute of Technology, Patna(印度理工学院巴特那分校)
本文提出轻量级域对齐前缀平均方法DAPA,通过为各源领域训练前缀并基于目标文档相似度加权平均,实现抽象摘要的领域泛化,在四个领域上取得与基线相当或更优的性能。
2023-05-29 cs.AI cs.CL
HeSum: a Novel Dataset for Abstractive Text Summarization in Hebrew
Bar-Ilan University(巴伊兰大学)
本文提出HeSum,一个包含10,000个文章-摘要对的现代希伯来语生成式文本摘要新基准,揭示了当前最先进大语言模型在处理该高形态丰富度语言生成任务时面临的显著困难。
2025-07-11 cs.AI cs.CL
Entity-level Factual Consistency of Abstractive Text Summarization
Amazon Web Services(亚马逊网络服务);Columbia University(哥伦比亚大学)
摘要摘要的一个关键挑战是确保生成的摘要与原始文档的事实一致性。例如,在现有数据集上训练的最先进的模型表现出实体幻觉,生成源文档中不存在的实体名称。我们提出了一组新的指标来量化生成的摘要的实体级事实的一致性,我们表明,实体幻觉问题可以通过简单地过滤训练数据来缓解。此外,我们提出了一个值得总结的实体分类任务的训练过程,以及一个联合实体和摘要生成方法,从而进一步提高实体级指标。
2021-02-18 cs.AI cs.CL
Analysis of Multidomain Abstractive Summarization Using Salience Allocation
Jadavpur University(贾达普大学);Tata Consultancy Services(塔塔咨询服务公司);Techno India University(泰克诺印度大学)
本文探讨了SEASON技术在多领域生成式文本摘要中的应用,通过在CNN/Dailymail、SAMSum和EDT等数据集上与BART等模型对比,利用ROUGE等指标验证了其效能并揭示了显著性分配技术的复杂性。
2024-02-19 cs.AI cs.CL
A BART-based approach with hierarchical strategy for Vietnamese abstractive multi-document summarization
Aimesoft JSC(Aimesoft股份公司)
提出一种新颖简单的基于黄金摘要缩短文档的分层策略,结合BART模型实现越南语多文档抽象式摘要,在VLSP 2022测试集上达到ROUGE2-F1 0.2468,并利用外部数据增强训练。
2026-06-19 cs.AI cs.CL
Global Encoding for Abstractive Summarization
Peking University(北京大学)
在神经抽象摘要中,传统的序列到序列(seq2seq)模型经常遭受重复和语义无关性。为了解决这个问题,我们提出了一个全局编码框架,它控制的信息流从编码器到解码器的源上下文的全局信息的基础上。它由一个卷积门控单元组成,用于执行全局编码以改进源端信息的表示。在LCSTS和英语Gigaword上的测试结果表明,该模型的性能优于基线模型,分析表明,该模型能够减少重复。
2018-06-10 cs.AI cs.CL cs.LG
Topic-Guided Abstractive Multi-Document Summarization
Harbin Institute of Technology(哈尔滨工业大学)
多文档文摘的一个关键点是了解文档之间的关系。在本文中,我们提出了一种新的抽象MDS模型,在该模型中,我们表示多个文档作为一个异构的图,考虑到不同粒度的语义节点,然后应用图序列框架生成摘要。此外,我们采用神经主题模型来联合发现潜在的主题,这些主题可以作为跨文档的语义单元来桥接不同的文档,并提供全局信息来指导摘要生成。由于主题提取可以被视为一种特殊类型的摘要,它将文本“概括”为更抽象的格式,即,在主题分发方面,我们采用多任务学习策略,对主题和摘要模块进行联合训练,使其相互促进。在Multi-News数据集上的实验结果表明,我们的模型在Rouge指标和人工评价方面都优于以前最先进的MDS模型,同时学习高质量的主题。
2021-10-21 cs.AI cs.CL
Summarization Programs: Interpretable Abstractive Summarization with Neural Modular Trees
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
当前的抽象摘要模型要么缺乏清晰的可解释性,要么只突出显示源文档的一部分,从而提供不完整的基本原理。为此,我们提出了总结程序(SP),一个可解释的模块化框架,包括一个(有序)的二叉树列表,每个编码的一步一步的生成过程中的一个抽象的摘要句子从源文件。摘要程序包含每个摘要句子的一个根结点,并且不同的树将每个摘要句子(根结点)连接到从其导出的文档句子(叶节点),其中连接节点包含中间生成的句子。边表示在摘要中涉及的不同模块化操作,例如句子融合、压缩和释义。我们首先提出了一个有效的最佳优先搜索方法,在神经模块,SP-Search,识别SP的人类摘要直接优化ROUGE分数。接下来,使用这些程序作为自动监督,我们提出了seq 2seq模型,生成摘要程序,然后执行这些程序以获得最终摘要。我们证明,SP-Search有效地代表了人类总结背后的生成过程,使用通常忠实于其预期行为的模块。我们还进行了模拟研究,以表明摘要程序提高了摘要模型的可解释性,允许人类更好地模拟模型推理。摘要程序是迈向可解释和模块化抽象摘要的有希望的一步,这是一项复杂的任务,以前主要通过黑盒端到端神经系统来解决。支持代码可在https://github.com/swarnaHub/SummarizationPrograms上获得
2023-02-02 cs.AI cs.CL cs.LG
Abstractive Text Summarization by Incorporating Reader Comments
Peking University(北京大学);Tencent AI Lab(腾讯人工智能实验室);Alibaba DAMO Academy(阿里巴巴达摩院)
在神经抽象文摘领域,传统的基于序列到序列的模型经常遭受关于主要方面总结文档的错误方面。为了解决这个问题,我们提出了读者感知的摘要生成任务,它利用读者的评论,以帮助模型产生更好的摘要的主要方面。与传统的抽象摘要任务不同,读者感知摘要面临两个主要挑战:(1)评论是非正式的,而且带有噪声;(2)对新闻文档和读者评论进行联合建模具有挑战性。为了解决上述问题,我们设计了一个名为读者感知摘要生成器(RASG)的对抗性学习模型,该模型由四个部分组成:(1)基于序列到序列的摘要生成器;(2)捕获读者关注方面的读者关注模块;(3)对生成的摘要和读者关注方面之间的语义鸿沟进行建模的监督模块;(4)目标跟踪器,其为每个生成步骤产生目标。监督者和目标跟踪者用于以对抗的方式指导我们的框架的训练。在我们的大规模真实文本摘要数据集上进行了大量的实验,结果表明,RASG在自动度量和人工评估方面都达到了最先进的性能。实验结果也证明了我们的框架中的每个模块的有效性。我们发布了我们的大规模数据集以供进一步研究。
2018-12-13 cs.AI cs.CL
Parallel Hierarchical Transformer with Attention Alignment for Abstractive Multi-Document Summarization
与单文档摘要相比,抽象的多文档摘要(MDS)在表示和覆盖其冗长和链接的源方面带来了挑战。本研究开发了一种用于MDS的注意对齐的并行分层Transformer(PHT)。通过结合单词级和段落级的多头注意力,PHT的分层架构允许在标记和文档级更好地处理依赖关系。为了引导解码更好地覆盖源文档,然后引入注意力对齐机制来用预测的最佳注意力分布校准束搜索。基于WikiSum数据,进行了全面的评估,以测试所提出的架构对MDS的改进。通过更好地处理内部和跨文档信息,ROUGE和人工评估的结果表明,我们的分层模型以相对较低的计算成本生成了相对于其他基于Transformer的基线质量更高的摘要。
2022-08-16 cs.AI cs.CL
MovieSum: An Abstractive Summarization Dataset for Movie Screenplays
Institute for Language, Cognition and Computation(语言、认知与计算研究所)
针对电影剧本摘要研究不足的问题,本文提出包含2200部格式化剧本及对应维基百科摘要的MovieSum数据集,其规模为现有同类数据集两倍,还附IMDb元数据,并给出了大语言模型的基准测试结果。
2024-08-12 cs.AI cs.CL
KATSum: Knowledge-aware Abstractive Text Summarization
Auckland University of Technology(奥克兰理工大学);Jilin University of Finance and Economics(吉林财经大学)
文本摘要是自然语言处理的下游任务之一,近年来得到了广泛的研究。它可以帮助人们从互联网上快速感知信息,包括新闻文章,社交帖子,视频等。大多数现有的研究工作试图开发摘要模型,以产生更好的输出。然而,大多数现有的模型出现的局限性,包括不忠实和事实错误。在本文中,我们提出了一种新的模型,命名为知识感知的抽象文本摘要,它利用知识图谱提供的优势,以增强标准的Seq2Seq模型。最重要的是,从源文本中提取知识图谱三元组,并用于提供关键字与相关信息,产生连贯和真实无误的摘要。我们使用真实世界的数据集进行了广泛的实验。实验结果表明,该框架能有效利用知识图谱中的信息,显著减少摘要中的事实错误。
2022-12-06 cs.AI cs.CL
An Entity-Driven Framework for Abstractive Summarization
Northeastern University(东北大学);Boston University(波士顿大学)
摘要摘要系统的目标是产生更连贯和简洁的摘要比他们的提取同行。流行的神经模型在单文档摘要方面取得了令人印象深刻的结果,但它们的输出往往不连贯,并且对输入不忠实。在本文中,我们介绍了SENECA,一个新的系统,利用实体信息生成信息丰富和连贯的摘要的实体驱动的连贯抽象摘要框架。我们的框架采用两步方法:(1)实体感知内容选择模块首先从输入中识别出突出的句子,然后(2)摘要生成模块进行跨句子信息压缩和抽象,以生成最终摘要,并通过奖励进行训练,以促进连贯性,简洁性和清晰度。使用强化学习进一步连接这两个组件。自动评估表明,我们的模型显着优于以前的国家的最先进的ROUGE和我们提出的一致性措施对纽约时报和CNN/每日邮报数据集。人类法官进一步评价我们的系统摘要比流行的摘要模型更丰富和连贯。
2019-09-04 cs.AI cs.CL cs.LG
Faithfulness-Aware Decoding Strategies for Abstractive Summarization
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Amazon Alexa AI(亚马逊Alexa人工智能部门);AWS AI Labs(亚马逊云服务人工智能实验室)
尽管在理解和提高摘要忠实性方面取得了重大进展,但解码策略如何影响摘要忠实性的问题研究较少。我们提出了一个系统的研究,如束搜索和核心抽样的生成技术的影响,在摘要的忠实性。我们发现了一个一致的趋势,其中具有大波束尺寸的束搜索产生最忠实的摘要,而核采样产生最不忠实的摘要。我们提出了两种忠实性感知的生成方法,以进一步提高忠实性比当前的生成技术:(1)排名的候选人产生的束搜索使用自动忠实性指标和(2)纳入前瞻性分析,产生一个忠实性分数的未来摘要。我们表明,这两种生成方法显着提高了两个数据集的忠实性,由四个自动忠实性指标和人类评价。为了减少计算成本,我们展示了一个简单的蒸馏方法,允许模型生成忠实的摘要,只需贪心解码。我们的代码可在https://github.com/amazon-science/faithful-summarization-generation上公开获取
2023-03-06 cs.AI cs.CL cs.LG
Improving abstractive summarization with energy-based re-ranking
Priberam(Priberam公司);Universidade do Porto(波尔图大学);Instituto de Telecomunicações(电信研究所);Instituto Superior Técnico(高等技术学院);Unbabel(Unbabel公司)
当前的抽象摘要系统存在重要的弱点,这阻碍了它们在现实世界应用中的部署,例如遗漏相关信息和产生事实不一致(也称为幻觉)。与此同时,最近已经提出了自动评估指标,如CTC分数,表现出更高的相关性与人类的判断比传统的词汇重叠指标,如ROUGE。在这项工作中,我们打算利用最近的进展,总结指标,以创建质量感知的抽象摘要关闭循环。也就是说,我们提出了一个基于能量的模型,学习根据这些指标中的一个或组合重新排名摘要。我们实验使用几个指标来训练我们的基于能量的重排序器,并表明它始终提高了预测摘要所获得的分数。尽管如此,人工评估结果表明,重新排序的方法应谨慎使用高度抽象的摘要,因为可用的指标还不够可靠,为此目的。
2022-11-07 cs.AI cs.CL cs.LG
Progressive Code Integration for Abstractive Bug Report Summarization
Islamic University of Technology(伊斯兰技术大学)
本文提出渐进式代码集成框架,通过整合长代码片段和文本内容,提升基于LLM的bug报告摘要效果,优于现有方法。
2025-11-29 cs.AI cs.CL cs.SE
GupShup: An Annotated Corpus for Abstractive Summarization of Open-Domain Code-Switched Conversations
Bloomberg(彭博);IIIT-Delhi(德里印度理工学院);University of Washington(华盛顿大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
语码转换是一种交际现象,说话人在会话过程中在不同语言之间转换。随着会话代理和聊天平台的广泛采用,语码转换已成为全球许多多语言社区书面会话的一个组成部分。这使得开发总结和理解这些对话的技术变得至关重要。为了实现这一目标,我们引入了印地语-英语代码转换会话的抽象摘要,并开发了第一个代码转换会话摘要数据集- GupShup,其中包含超过6,831个印地语-英语会话及其相应的英语和印地语-英语人类注释摘要。我们提出了一个详细的说明,整个数据汇集和注释过程。我们使用各种代码转换统计数据来分析数据集。我们训练最先进的抽象摘要模型,并使用自动化指标和人工评估报告其性能。我们的结果表明,多语言mBART和多视图seq 2seq模型在新数据集上获得了最佳性能
2021-04-17 cs.AI cs.CL cs.CY
Domain Adaptation with Pre-trained Transformers for Query Focused Abstractive Text Summarization
Dialpad Canada Inc.(Dialpad加拿大公司);Information Retrieval & Knowledge Management Research Lab, York University(约克大学信息检索与知识管理研究实验室);School of Information Technology, York University(约克大学信息技术学院)
以查询为中心的文本摘要(QFTS)任务旨在构建基于给定查询生成文本文档摘要的系统。解决此任务的一个关键挑战是缺乏用于训练摘要模型的大型标记数据。在本文中,我们通过探索一系列领域自适应技术来应对这一挑战。鉴于最近成功的预训练的Transformer模型在广泛的自然语言处理任务,我们利用这样的模型生成抽象摘要的QFTS任务的单文档和多文档的情况。对于领域自适应,我们使用预先训练的基于transformer的摘要模型应用各种技术,包括迁移学习,弱监督学习和远程监督。在六个数据集上进行的大量实验表明,我们提出的方法在为QFTS任务生成抽象摘要方面非常有效,同时在一组自动和人工评估指标的多个数据集中设置了一个新的最先进的结果。
2021-12-22 cs.AI cs.CL cs.LG
Fast Abstractive Summarization with Reinforce-Selected Sentence Rewriting
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
受人类如何总结长文档的启发,我们提出了一个准确快速的摘要模型,首先选择突出的句子,然后抽象地重写它们(即,压缩和释义)以生成简明的总体概要。我们使用了一种新的策略级策略梯度方法,以分层的方式在这两个神经网络之间架起不可微计算的桥梁,同时保持语言的流畅性。从经验上讲,我们在CNN/Daily Mail数据集上的所有指标(包括人工评估)上都达到了最新水平,而且抽象度得分也显著提高。此外,通过首先在段落级操作,然后在单词级操作,我们实现了神经生成模型的并行解码,这使得推理速度比以前的长段落编码器-解码器模型快得多(10- 20倍),训练收敛速度也快4倍。我们还展示了我们的模型在仅测试DUC-2002数据集上的泛化,在那里我们获得了比最先进的模型更高的分数。
2018-05-28 cs.AI cs.CL cs.LG