FactGraph: Evaluating Factuality in Summarization with Semantic Graph Representations
Technical University of Darmstadt(达姆施塔特工业大学);Amazon Alexa AI(亚马逊Alexa AI);UNC Chapel Hill(北卡罗来纳大学教堂山分校)
尽管最近在抽象摘要方面有所改进,但大多数当前方法生成的摘要与源文档实际上并不一致,严重限制了它们在现实世界应用中的信任和使用。最近的工作已经显示出有前途的改进,在使用文本或依赖弧蕴涵的真实性错误识别,但是,他们不考虑整个语义图同时。为此,我们提出了FactGraph,一种将文档和摘要分解为结构化含义表示(MR)的方法,该方法更适合于真实性评估。MR描述核心语义概念及其关系,以规范形式聚合文档和摘要中的主要内容,并降低数据稀疏性。FactGraph使用增强了结构感知适配器的图形编码器来编码这些图形,以基于图形连接性捕获概念之间的交互,以及使用基于适配器的文本编码器的文本表示。在不同的基准测试上进行的实验表明,FactGraph比以前的方法性能高出15%。此外,FactGraph提高了识别内容可验证性错误的性能,并更好地捕获了主题级别的事实不一致。
2022-07-19 cs.AI cs.CL cs.LG
Salience Estimation with Multi-Attention Learning for Abstractive Text Summarization
The Chinese University of Hong Kong(香港中文大学);Alibaba DAMO Academy(阿里巴巴达摩院);Tencent AI Lab(腾讯人工智能实验室);Fudan University(复旦大学)
注意力机制在序列生成模型中起着主导作用,并被用于提高机器翻译和摘要的性能。与神经机器翻译不同,在文本摘要任务中,单词、短语或句子的显著性估计是一个关键组成部分,因为输出摘要是输入文本的精华。虽然典型的注意力机制可以根据解码器的状态从输入文本中进行文本片段的选择,但要进行直接有效的显著性检测仍然存在差距。为了用神经网络恢复摘要的直接显著性估计,我们提出了一个多注意力学习框架,该框架包含两个新的显著性估计注意力学习组件:监督注意力学习和无监督注意力学习。我们将注意力权重作为显著性信息,这意味着注意力值大的语义单元将更重要。基于估计的显著性获得的上下文信息与解码器中的典型注意力机制结合以进行摘要生成。在不同语言的基准数据集上进行的大量实验证明了该框架对抽象摘要任务的有效性。
2020-04-07 cs.CL cs.IR cs.LG
Survey of Query-based Text Summarization
针对基于查询的文本摘要领域现有研究缺乏系统梳理的问题,本综述总结了该领域及相关通用文本摘要的代表性研究,并提出分类体系与相关分析。
2024-10-06 cs.CL cs.IR
Keyphrase Generation: A Text Summarization Struggle
Institute of Formal and Applied Linguistics, Charles University(查尔斯大学形式与应用语言学研究所)
分配给科学文章的作者关键词对于识别内容和主题方面至关重要。大多数提出的监督和无监督的关键词生成方法都无法生成有价值但不出现在文本中的术语。在本文中,我们探讨的可能性,考虑关键短语串作为一个抽象的摘要的标题和摘要。首先,我们收集、处理和发布一个包含220万条记录的大型科学论文元数据数据集。然后,我们使用流行的文本摘要神经架构进行实验。尽管使用了先进的深度学习模型,大量的数据和许多天的计算,我们对四个测试数据集的系统评估表明,所探索的文本摘要方法无法产生比简单的无监督方法或现有的监督方法更好的关键词。
2019-04-03 cs.CL cs.IR cs.LG
Belief Propagation for Maximum Coverage on Weighted Bipartite Graph and Application to Text Summarization
Ibaraki University(茨城大学)
本文从最大覆盖问题的角度研究文本摘要。在图论中,文本摘要的任务被看作是二分图上的最大覆盖问题。近年来,利用统计力学的思想,提出了基于置信传播的无权图最大覆盖算法。我们将其推广到加权图的文本摘要。最后,我们将我们的算法应用于加权双正则随机图的最大覆盖性能验证。我们还将其应用于表示开放文本数据集上真实文档的二分图,并检验了文本摘要的性能。实验结果表明,该算法在某些文本摘要环境下具有比贪婪型算法更好的性能。
2020-03-26 cs.CL cs.IR cs.LG
Evaluating and Improving Factuality in Multimodal Abstractive Summarization
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
目前用于评估抽象文档摘要的真实性的度量已经与人类判断实现了高度相关性,但是它们不考虑视觉模态,因此不足以用于视觉和语言摘要。我们提出了CLIPBERTScore,CLIPScore和BERTScore的简单加权组合,分别利用图像摘要和文档摘要之间的鲁棒性和强真实性检测性能。接下来,由于缺乏元评估基准来评估多模态真实性指标的质量,我们收集了人类对文档和图像真实性的判断。我们表明,这种简单的组合中的两个指标的zero-shot设置实现了更高的相关性比现有的真实性指标的文档摘要,优于现有的多模态摘要指标,并执行竞争力强的多模态真实性指标专门微调的任务。我们的全面分析表明,CLIPBERTScore及其组件在四个真实性度量评估基准上具有鲁棒性和高度相关性。最后,我们展示了我们的CLIPBERTScore度量的两个实际下游应用:用于选择在训练过程中关注的重要图像,以及作为强化学习的奖励,以提高多模态摘要生成的真实性。我们的数据和代码可在https://github.com/meetdavidwan/faithful-multimodal-summ上公开获取
2022-11-04 cs.AI cs.CL cs.CV
Evaluating the Tradeoff Between Abstractiveness and Factuality in Abstractive Summarization
Amazon(亚马逊公司);SliceX AI(SliceX人工智能公司)
针对抽象式摘要中抽象性提升常损害事实性的问题,本文通过人类评估分析二者权衡,发布两个判断数据集并提出抽象性调整的事实性指标与基线。
2023-04-24 cs.CL
Extractive Text Summarization Using Generalized Additive Models with Interactions for Sentence Selection
São Paulo State University - UNESP(圣保罗州立大学(UNESP))
自动文本摘要(ATS)正变得与文本数据的增长相关;然而,随着公共大规模数据集的普及,最近的一些机器学习方法已经专注于密集的模型和架构,尽管产生了显着的结果,但通常在模型中难以解释。考虑到基于可解释学习的文本摘要背后的挑战及其对ATS领域发展现状的重要性,这项工作研究了两个现代广义加性模型的应用,即可解释的提升机和GAMI-Net,基于语言特征和二进制分类的提取摘要问题。
2022-12-21 cs.CL cs.LG
LIA-RAG: a system based on graphs and divergence of probabilities applied to Speech-To-Text Summarization
LIA / UAPV(阿维尼翁大学计算机实验室/阿维尼翁大学)
本文提出了一种基于概率和图形统计差异的语音文本自动摘要算法。输入是带有噪声的语音对话的文本,输出是紧凑的文本摘要。我们在CCCS Multiling 2015法语语料库的试点任务上的结果非常令人鼓舞
2016-01-26 cs.CL cs.IR
BERT Fine-tuning For Arabic Text Summarization
Department of Electrical and Electronics Engineering(电气与电子工程系)
微调预训练的BERT模型是提取/抽象文本摘要的最先进方法,在本文中,我们展示了如何将这种微调方法应用于阿拉伯语,以构建第一个用于抽象阿拉伯语文本摘要的文档化模型,并展示其在阿拉伯语提取摘要中的性能。我们的模型适用于多语言BERT(因为阿拉伯语没有自己的预训练BERT)。我们首先在英语语料库中展示了它的性能,然后将其应用于阿拉伯语语料库中的提取和抽象任务。
2020-03-29 cs.CL cs.LG
Text Summarization with Latent Queries
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
大规模数据集的可用性推动了神经模型的发展,这些模型可以从单个文档中创建摘要,用于通用目的。当使用摘要系统时,用户通常具有具有各种语言实现的特定意图,根据信息需求,其范围可以从单个关键字到由多个问题组成的长叙述。然而,现有的摘要系统,往往不能支持或行动鲁棒地对这个查询集中的摘要任务。我们介绍LaQSum,第一个统一的文本摘要系统,学习潜在的抽象摘要与任何现有的查询形式的文件。在深度生成框架下,我们的系统联合优化了潜在查询模型和条件语言模型,允许用户在测试时即插即用任何类型的查询。尽管只从通用摘要数据中学习,并且不需要进一步优化下游摘要任务,但我们的系统在具有不同查询类型、文档设置和目标域的摘要基准测试中的性能都强于强大的比较系统。
2021-05-31 cs.CL cs.LG
Evaluating the Factual Consistency of Abstractive Text Summarization
Salesforce Research(赛富时研究院)
目前用于评估摘要算法的指标并不考虑摘要是否与源文档事实上一致。我们提出了一个弱监督,基于模型的方法来验证事实的一致性和识别源文件和生成的摘要之间的冲突。训练数据是通过对源文档的句子应用一系列基于规则的转换来生成的。事实一致性模型然后被联合训练用于三个任务:1)识别句子在变换后是否保持事实一致,2)在源文档中提取跨度以支持一致性预测,3)在摘要句子中提取不一致的跨度(如果存在的话)。将此模型转换为由几个最先进的模型生成的摘要表明,这种高度可扩展的方法大大优于以前的模型,包括使用标准数据集进行自然语言推理和事实检查的强监督训练的模型。此外,人类的评价表明,辅助跨度提取任务提供了有用的帮助,在验证事实的一致性的过程中。
2019-10-28 cs.CL
Automatic Text Summarization of Legal Cases: A Hybrid Approach
Pandit Deendayal Petroleum University(潘迪特·迪恩达亚尔石油大学)
大量文本的手动摘要需要大量的人力和时间,特别是在法律领域。律师们花了很多时间准备客户案卷的法律摘要。自动文本摘要是自然语言处理(NLP)的一个不断发展的领域,自然语言处理是人工智能领域的一个分支。本文提出了一种结合k-means聚类技术和tf-idf(词频-逆文档频率)词向量化的法律案例自动文摘方法。所提出的方法生成的摘要进行比较,使用ROGUE评估参数与案件摘要,准备由律师在法庭上上诉。此外,还提出了改进所提出的方法的建议。
2019-08-24 cs.CL cs.IR
Tone Biased MMR Text Summarization
BITS-Pilani, K. K. Birla Goa Campus(博拉理工学院(BITS-Pilani)K. K. 比拉拉果阿校区)
文本摘要是一个有趣的领域,研究人员开发新的技术,提供人类一样的摘要,大量的信息。摘要技术往往侧重于提供内容的准确表示,而内容的基调往往被忽略。内容的基调为读者如何感知内容设置了基线。因此,能够生成具有适合读者的语气的摘要是重要的。在我们的工作中,我们实现了基于最大边缘相关性[MMR]的多文档文本摘要,并提出了一个朴素的模型,通过设置一个偏见,以特定的一组单词和限制其他单词的摘要输出来改变摘要的语气。这种偏向于特定的一组单词的倾向会产生一个摘要,其语气与特定单词的语气相同。
2018-02-27 cs.CL cs.IR
Dimensionality on Summarization
Chinese Academy of Sciences(中国科学院);Aston University(阿斯顿大学)
摘要是人类智能的关键特征之一。它在理解和表达中起着重要的作用。随着网络空间中文本、图片和视频的不断膨胀,自动文摘的需求越来越迫切。文本摘要的研究已经有半个多世纪了,但是自动生成一个令人满意的摘要仍然是一个难题。传统的语言分析方法对语篇进行经验性分析,忽视了语言使用和理解的基本特征和原则。本文在多维分类空间中对已有的文本摘要方法进行了总结,介绍了一种多维的研究和开发方法,揭示了语言使用和理解的基本特征和原则,探讨了摘要的基本机制,研究了表征的维度和形式,提出了一种多维的评价机制。研究扩展到将图片纳入摘要,视频,图形和图片的摘要,然后得到一个通用的摘要框架。
2015-07-01 cs.CL cs.IR
Automatic Text Document Summarization using Semantic-based Analysis
Jawaharlal Nehru University(贾瓦哈拉尔·尼赫鲁大学)
自从网络出现以来,关于文的数据量已经增加了数百万倍。近年来产生的Web数据超过了存储多年的数据。一种重要的数据格式是文本。为了回答用户在互联网上的查询,并克服信息过载的问题,一个可能的解决方案是文本文档摘要。这不仅减少了查询访问时间,而且还根据特定用户的要求优化了文档结果。文本摘要可分为摘要式和抽取式两类。大部分工作都是在提取摘要的方向上完成的。摘要提取结果是原始文档的子集,其目标是更多的内容覆盖和减少冗余。我们的工作基于提取方法。在第一种方法中,我们使用一些统计特征和基于语义的特征。将情感作为一个特征是从情感扮演重要角色的观点中缓存的想法。它有效地传递了一个信息。因此,它可以发挥重要作用,在文本文档摘要。
2018-11-15 cs.CL cs.IR
Evaluating LLMs and Pre-trained Models for Text Summarization Across Diverse Datasets
Jadavpur University(贾达沃普尔大学);Indian Association for the Cultivation of Science(印度科学促进协会);Techno India University(泰克诺印度大学)
本文在五个多样化数据集上使用 ROUGE、BERTScore 和 METEOR 等指标,系统评估 BART、FLAN-T5、LLaMA-3-8B 与 Gemma-7B 的文本摘要能力及优劣。
2025-03-13 cs.CL
Topic Modeling Based Extractive Text Summarization
SRM Institute of Science and Technology(SRM科学技术研究所)
文本摘要是一种识别文本文档中重要信息的方法。这种计算技术的目的是通过只包括源文本中存在的相关和突出信息来生成源文本的较短版本。在本文中,我们提出了一种新的方法来总结一个文本文件,其内容聚类的基础上产生的潜在主题,使用主题建模技术,并通过生成提取摘要,每个确定的文本聚类。所有提取的子摘要稍后被组合以生成任何给定源文档的摘要。我们在文本摘要方法中利用较少使用且具有挑战性的WikiHow数据集。此数据集与可用于文本摘要的常用新闻数据集不同。众所周知的新闻数据集在其源文本的前几行中呈现了其最重要的信息,这使得与总结WikiHow数据集相比,它们的总结任务具有较小的挑战性。与这些新闻数据集相反,WikiHow数据集中的文档是使用通用方法编写的,具有较低的抽象性和较高的压缩比,因此对生成摘要提出了更大的挑战。许多当前最先进的文本摘要技术倾向于消除源文档中存在的重要信息,以利于简洁。我们提出的技术旨在捕获源文档中存在的所有不同信息。虽然数据集被证明具有挑战性,但在我们的实验设置中进行了广泛的测试后,我们发现,与其他已发布的提取和抽象文本摘要模型相比,我们的模型产生了令人鼓舞的ROUGE结果和摘要。
2021-06-29 cs.CL cs.IR
Abstractiveness Metrics for Evaluating Text Summarization: A Refined Formulation with Empirical Validation
International Institute of Information Technology, Bhubaneswar(布巴内斯瓦尔国际信息技术学院);Salesforce India Pvt Ltd(Salesforce印度私人有限公司)
研究旨在量化文本摘要抽象性,引入RA、SA和AR度量,利用文档长度调和平均及非重叠因子公式,在四个模型上评估100个XSUM文档,成功区分提取式与抽象式模型,抽象率可识别需人工评估的摘要。
2026-07-14 cs.AI cs.CL
Abstractive summarization of hospitalisation histories with transformer networks
Sber AI Lab(Sber人工智能实验室)
在本文中,我们提出了一种新的方法来抽象总结病人的住院史。我们应用了一个编码器-解码器框架,Longformer神经网络作为编码器,BERT作为解码器。我们的实验表明,与指针生成器网络相比,某些摘要任务的质量有所提高。我们还与经验丰富的医生进行了一项研究,将我们的模型结果与PGN基线和人类生成的摘要进行了比较,这表明了我们模型的有效性。
2022-04-05 cs.AI cs.CL cs.LG
Evaluation of Automatic Text Summarization using Synthetic Facts
California Polytechnic State University(加州州立理工大学)
尽管最近取得了一些进展,但自动文本摘要仍然不可靠,难以捉摸,并且在应用中的实际用途有限。当前摘要方法的两个主要问题是众所周知的:评估和事实一致性。为了解决这些问题,我们提出了一个新的自动无参考文本摘要评估系统,可以衡量任何文本摘要模型的质量与一组基于事实的一致性,全面性和压缩率的生成事实。据我们所知,我们的评估系统是第一个基于真实性,信息覆盖率和压缩率来衡量文本摘要模型总体质量的系统。
2022-04-11 cs.CL
Different approaches for identifying important concepts in probabilistic biomedical text summarization
Isfahan University of Technology(伊斯法罕理工大学)
自动文本摘要工具帮助生物医学领域的用户更有效地从各种文本资源中获取他们想要的信息。一些生物医学文本摘要系统将其句子选择方法的基础放在从输入文本中提取的概念的频率上。然而,似乎探索其他措施,而不是频率识别输入文档的有价值的内容,并考虑概念之间存在的相关性可能是更有用的这种类型的摘要。在本文中,我们描述了一个贝叶斯摘要生物医学文本文件。贝叶斯摘要器首先将输入文本映射到统一医学语言系统(UMLS)的概念,然后选择重要的概念作为分类特征。我们引入不同的特征选择方法来识别文本中最重要的概念,并根据这些概念的分布来选择最具信息量的内容。我们表明,使用适当的特征选择方法,贝叶斯生物医学摘要可以提高摘要的性能。我们在生物医学领域的科学论文语料库进行了广泛的评价。结果表明,贝叶斯摘要优于生物医学摘要,依赖于频率的概念,域独立和基线方法的基础上,面向回忆的替代Gisting评估(ROUGE)指标。此外,研究结果表明,使用的有意义的措施,并考虑相关的概念在特征选择步骤导致一个显着的提高摘要的性能。
2017-05-30 cs.CL cs.IR
Graph Neural Network and NER-Based Text Summarization
本文提出结合图神经网络与命名实体识别的文本摘要方法,利用GNN捕获文本关系结构、NER突出关键实体,以提高摘要效率与相关性,应对海量文本数据。
2024-02-05 cs.CL cs.LG
From Standard Summarization to New Tasks and Beyond: Summarization with Manifold Information
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);School of Computer Science and Technology, Shandong University(山东大学计算机科学与技术学院);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
文本摘要是一个研究领域,旨在创建一个简短的和浓缩的版本的原始文件,它传达了文件的主要思想在几个字。这一研究课题已开始引起广大研究者的关注,并被认为是当今最有前途的研究领域之一。一般来说,文本摘要算法的目标是使用纯文本文档作为输入,然后输出摘要。然而,在实际应用中,大多数数据不是纯文本格式。相反,有许多多方面的信息要被概括,诸如基于搜索引擎中的查询的网页的概要、超长文档(例如,本文主要介绍了这些新的摘要任务和方法在实际应用中的应用。
2020-05-10 cs.CL cs.IR
A Lemma Based Evaluator for Semitic Language Text Summarization Systems
Benha University(本哈大学);Electronics Research Institute(电子研究所)
通过简单的词干提取策略来匹配高度屈折的语言(如阿拉伯语)中的文本不太可能表现良好。本文以阿拉伯语为例,提出了一种面向屈折语言的文本自动匹配策略。该系统是ROUGE测试的扩展,其中文本在标记的引理级别上匹配。实验结果表明,具有相同的语义,但写在不同的词汇形式的不同句子之间的相似性检测的增强。
2014-03-22 cs.CL cs.IR
A Comparative Study of Quality Evaluation Methods for Text Summarization
University of North Texas(北得克萨斯大学)
本文针对文本摘要评估中自动指标与人工评估脱节的问题,提出基于大语言模型的评估方法,并在专利文档数据集上通过比较实验验证其与人工评估高度一致,进而构建LLM驱动的自动评估与改进框架。
2024-06-30 cs.AI cs.CL
A Survey on Neural Abstractive Summarization Methods and Factual Consistency of Summarization
McGill University(麦吉尔大学)
自动摘要是通过计算缩短一组文本数据的过程,以创建表示原始文本中最重要信息的子集(摘要)。现有的文摘方法大致可以分为两类:抽取式和抽象式。提取摘要器显式地选择文本片段(单词、短语、句子等)。从源文档,而抽象的摘要生成器生成新颖的文本片段,以传达源中流行的最突出的概念。
2022-04-20 cs.CL
Automatic Keyword Extraction for Text Summarization: A Survey
National Institute of Technology, Rourkela(鲁尔克拉国立技术学院)
近年来,数据在新闻、社交媒体、银行、教育等各个领域迅速增长,由于数据的过剩,需要自动摘要器,它能够在原始文档中总结数据,特别是文本数据,而不会丢失任何关键目的。摘要是近年来出现的一个重要的研究领域。在这方面,回顾文本摘要过程的现有工作对于开展进一步的研究是有用的。由于文本摘要过程高度依赖于关键词提取,本文介绍了自动关键词提取和文本摘要的最新文献。这篇文献包括讨论不同的方法用于关键字提取和文本摘要。它还讨论了在几个领域中用于文本摘要的不同数据库以及评估矩阵。最后,简要讨论了研究者面临的问题和研究挑战以及未来的发展方向。
2017-04-11 cs.CL
Automated Text Summarization Base on Lexicales Chain and graph Using of WordNet and Wikipedia Knowledge Base
Tarbiat Modares University(塔比亚特·莫达雷斯大学)
文档自动摘要技术的发展日趋成熟,为解决信息过载问题提供了一条新的途径。摘要在信息检索中起着重要的作用。对于大量文档,向用户呈现每个文档的摘要极大地促进了查找所需文档的任务。文档摘要是自动生成文档的压缩版本,为用户提供有用信息的过程,而多文档摘要是从一组文档中生成摘要,提供关于显式或隐式主题的大部分信息内容。文本的词汇衔接结构可以用来确定句子/短语的重要性。词汇链是分析篇章中词汇衔接结构的有效工具,本文考虑了词汇衔接特征在自动文摘中的作用,并提出了一种基于知识库的自动文摘算法。该算法首先找出词的正确词义,然后构造词汇链,去除得分较低的词汇链,从词汇链中粗略地检测出主题,并根据主题对文本进行分割,选出最重要的句子。在DUC 01和DUC 02的开放基准数据集上的实验结果表明,与最先进的摘要方法相比,我们提出的方法可以提高性能。
2012-03-15 cs.CL cs.IR
Small-world networks for summarization of biomedical articles
Medical University of Vienna(维也纳医科大学)
近年来,已经开发了许多方法来识别文本文档的重要部分。摘要工具可以利用这些方法从大量的文本信息中提取摘要。然而,识别文本文档中代表中心思想的概念,并提取最能传达这些概念的信息量最大的句子仍然是摘要方法中的两个关键任务。在本文中,我们介绍了一种基于图的方法来解决这两个挑战的背景下,生物医学文本摘要。我们表明,如何总结可以发现有意义的概念,在生物医学文本文档中使用亥姆霍兹原理。摘要器将有意义的概念视为主要主题,并基于句子共享的主题构建图。摘要器可以通过提取具有较高程度值的句子来生成信息丰富的摘要。我们评估的性能,我们的方法总结的生物医学文章使用召回为导向的替代Gisting评价(ROUGE)工具包。结果表明,程度可以是一个有用的中心性措施,以确定重要的句子,在这种类型的基于图的建模。我们的方法可以提高生物医学文本摘要的性能相比,一些国家的最先进的和公开可用的摘要。结合基于概念的建模策略和基于图形的句子提取方法,我们的摘要器可以产生比较方法中信息量最高的摘要。这项研究工作可以被看作是一个起点,小世界网络的研究在生物医学文本摘要。
2019-03-07 cs.CL cs.IR
Text Summarization with Oracle Expectation
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
提取式摘要通过识别和连接文档中最重要的句子来生成摘要。由于大多数摘要数据集都没有黄金标签来指示文档句子是否值得摘要,因此已经提出了不同的标记算法来外推Oracle提取用于模型训练。在这项工作中,我们发现了两个缺陷,广泛使用的贪婪标签的方法:它提供次优和确定性的预言。为了缓解这两个问题,我们提出了一个简单而有效的标签算法,创建软,基于期望的句子标签。我们定义了一个新的学习目标提取摘要,它结合了学习信号从多个甲骨文摘要,并证明它是等价于估计的甲骨文期望为每个文档句子。在没有任何架构修改的情况下,所提出的标记方案在监督和zero-shot设置下在跨域和语言的各种摘要基准上实现了优异的性能。
2022-09-26 cs.CL cs.LG
Reinforced Generative Adversarial Network for Abstractive Text Summarization
序列到序列模型为生成式摘要提供了一种可行的新方法,允许模型不再局限于简单地从原始文本中选择和重组句子。然而,这些模型有三个缺点:它们对原始文本细节的把握往往不准确,并且这种模型生成的文本往往存在重复,同时难以处理超出单词列表的单词。在本文中,我们提出了一种新的架构,结合了强化学习和对抗生成网络,以增强序列到序列的注意力模型。首先,我们使用混合指针生成器网络,直接从源文本复制单词,有助于准确再现信息,而不会牺牲生成器生成新词的能力。其次,我们使用时间内和解码器内的注意力来惩罚总结的内容,从而阻止重复。我们将我们的模型应用于我们自己提出的COVID-19论文标题摘要任务,并在ROUEG上实现了与当前模型的接近,同时带来了更好的可读性。
2021-08-18 cs.CL cs.LG
HETFORMER: Heterogeneous Transformer with Sparse Attention for Long-Text Extractive Summarization
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Huazhong University of Science and Technology(华中科技大学);Lehigh University(理海大学)
为了从原始文本中捕获语义图结构,大多数现有的摘要方法都是基于具有预训练模型的GNN构建的。然而,这些方法遭受繁琐的程序和低效率的计算长文本文档。为了缓解这些问题,本文提出了HETFORMER,这是一种基于Transformer的预训练模型,具有多粒度稀疏注意力,用于长文本提取摘要。具体来说,我们将原始文本中不同类型的语义节点建模为潜在的异构图,并通过Transformer直接学习节点之间的异构关系(边)。在单文档和多文档摘要任务上的大量实验表明,HETFORMER在Rouge F1中实现了最先进的性能,同时使用更少的内存和更少的参数。
2021-10-19 cs.AI cs.CL cs.LG
Deep Transfer Reinforcement Learning for Text Summarization
Discovery Analytics Center(探索分析中心);Virginia Tech(弗吉尼亚理工大学)
深度神经网络是数据饥渴模型,因此在尝试对小文本数据集进行训练时面临困难。迁移学习是一种潜在的解决方案,但它们在文本领域的有效性并不像在图像分析等领域那样被探索。在本文中,我们研究了文本摘要的迁移学习问题,并讨论了为什么现有的最先进的模型不能很好地推广到其他(看不见的)数据集。我们提出了一个基于自我批评策略梯度方法的强化学习框架,该框架在各种数据集上都取得了良好的泛化和最先进的结果。通过一组广泛的实验,我们还展示了我们提出的框架的能力,微调的文本摘要模型只使用几个训练样本。据我们所知,这是第一个研究文本摘要中的迁移学习的工作,并提供了一个通用的解决方案,可以很好地处理看不见的数据。
2019-01-24 cs.CL cs.LG stat.ML
A Semantic Relevance Based Neural Network for Text Summarization and Text Simplification
Peking University(北京大学)
文本摘要和文本简化是为包括儿童、非母语者和功能性文盲在内的贫困读者简化文本的两种主要方法。文本摘要是对文本的主要内容进行简要概括,而文本简化则是降低文本的语言复杂度,保留原文的意思。目前,大多数的文本摘要和文本简化方法都是基于序列到序列模型,它在许多文本生成任务中取得了很大的成功。然而,尽管生成的简化文本在字面上与源文本相似,但它们的语义相关性较低。在这项工作中,我们的目标是提高源文本和简化文本的文本摘要和文本简化之间的语义相关性。我们引入了一个基于语义相关性的神经模型,以鼓励文本和摘要之间的高语义相似性。在我们的模型中,源文本由门控注意编码器表示,而摘要表示由解码器产生。此外,表示之间的相似性得分在训练期间被最大化。我们的实验表明,该模型优于国家的最先进的系统在两个基准语料库。
2017-10-06 cs.CL
Extractive Text Summarization using Neural Networks
Indian Institute of Technology Delhi(德里印度理工学院)
文本摘要是一个被广泛研究的问题。传统的文本摘要方法严重依赖于特征工程。与此相反,我们提出了一个完全数据驱动的方法,使用前馈神经网络的单文档摘要。我们训练和评估的标准DUC 2002数据集的模型,显示的结果与最先进的模型。该模型是可扩展的,并能够产生任意大小的文件的摘要,打破了原始文件成固定大小的部分,然后将其递归地馈送到网络。
2018-02-27 cs.CL
Document Summarization with Text Segmentation
Microsoft AI(微软人工智能)
在本文中,我们利用固有的文档段结构,以改善提取摘要任务。我们建立了两个文本分割模型,并找到了最佳的策略,以介绍他们的输出预测在提取摘要模型。在科技文章语料库上的实验结果表明,提取式摘要得益于使用高精度的分割方法。特别是,大部分的改进是在文档中,最相关的信息不是在开始,因此,我们得出结论,分割有助于减少铅偏见的问题。
2023-01-20 cs.CL
Text Summarization Techniques: A Brief Survey
University of Georgia(佐治亚大学);Institute of Bioinformatics(生物信息学研究所)
近年来,来自各种来源的文本数据量呈爆炸式增长。这一卷文本是一个宝贵的信息和知识来源,需要有效地总结才能有用。本文综述了文本自动摘要的主要方法。我们回顾了不同的总结过程,并描述了不同方法的有效性和缺点。
2017-07-28 cs.CL
Text Summarization in the Biomedical Domain
Isfahan University of Technology(伊斯法罕理工大学);Medical University of Vienna(维也纳医科大学)
本章概述了生物医学文本摘要领域的最新进展。介绍了不同类型的挑战,并讨论了有关它们所解决的挑战类型的方法。生物医学文献摘要是该领域的主要趋势,并指出了一些未来的工作路线。基本的方法,最近的摘要系统进行了简要的解释,并提到最重要的评价结果。这一章的主要目的是回顾最重要的研究工作,在本十年的生物医学文本摘要的新方法。作为本章的主要部分,讨论了当前的趋势和新的挑战。
2019-08-06 cs.CL
Pre-training for Abstractive Document Summarization by Reinstating Source Text
StatNLP Research Group, Singapore University of Technology and Design(新加坡科技设计大学StatNLP研究组);Microsoft Research Asia, Beijing, China(微软亚洲研究院,北京)
摘要文档摘要通常被建模为序列到序列(Seq 2Seq)学习问题。不幸的是,在有限的监督摘要数据上训练基于Seq 2Seq的大型摘要模型是具有挑战性的。本文提出了三个预训练目标,使我们能够在未标记文本上预训练基于Seq 2Seq的抽象摘要模型。其主要思想是,给定从文档人工构建的输入文本,预先训练模型以恢复原始文档。这些目标包括句子重排、下一句生成和屏蔽文档生成,这些目标与摘要文档摘要任务有着密切的关系。在两个基准摘要数据集上的实验(即,CNN/DailyMail和纽约时报)表明,所有这三个目标都可以提高基线的性能。与在大规模数据(超过160 GB)上预训练的模型相比,我们的方法仅用19 GB的文本进行预训练,就取得了相当的结果,这证明了它的有效性。
2020-10-11 cs.CL
Neural Abstractive Text Summarization with Sequence-to-Sequence Models
Virginia Tech(弗吉尼亚理工大学)
在过去的几年里,使用序列到序列(seq 2seq)模型的神经抽象文本摘要已经非常流行。已经提出了许多有趣的技术来改进seq 2seq模型,使它们能够处理不同的挑战,例如显着性,流畅性和人类可读性,并生成高质量的摘要。一般来说,这些技术中的大多数在这三类中的一个方面有所不同:网络结构,参数推断和解码/生成。还有其他问题,例如训练模型的效率和并行性。在本文中,我们提供了一个全面的文献调查不同seq 2seq模型的抽象文本摘要的网络结构,训练策略和摘要生成算法的观点。最初提出的几种模型用于语言建模和生成任务,如机器翻译,后来应用于抽象文本摘要。因此,我们也对这些模型进行了简要的回顾。作为这项调查的一部分,我们还开发了一个开源库,即神经抽象文本摘要(NATS)工具包,用于抽象文本摘要。在广泛使用的CNN/Daily Mail数据集上进行了一组广泛的实验,以检查几个不同的神经网络组件的有效性。最后,我们在最近发布的两个数据集上对NATS中实现的两个模型进行了基准测试,即Newsroom和Bytecup。
2020-09-18 cs.CL cs.LG stat.ML
Ontology-based and User-focused Automatic Text Summarization (OATS): Using COVID-19 Risk Factors as an Example
Battelle Memorial Institute(巴特尔纪念研究所)
本文提出了一种新的基于本体和以用户为中心的自动文本摘要(OATS)系统,在设置的目标是自动生成文本摘要从非结构化文本提取句子包含的信息,对准用户的焦点。OATS由两个模块组成:基于本体的主题识别和以用户为中心的文本摘要;它首先利用基于本体的方法来识别用户感兴趣的相关文档,然后利用从使用用户指定的问题的问答模型中提取的答案来生成文本摘要。为支持抗击COVID-19疫情,我们以COVID-19风险因素为例,展示建议的OATS系统,旨在帮助医学界准确识别相关科学文献,并有效审阅应对COVID-19相关风险因素的信息。
2020-11-18 cs.CL
Exploring Domain Shift in Extractive Text Summarization
Fudan University(复旦大学);Mila(米拉人工智能研究所);Polytechnique Montreal(蒙特利尔综合理工学院)
虽然领域移位在许多自然语言处理应用中已经得到了很好的研究,但在文本摘要领域仍然没有得到足够的关注。结果,由于忽略了训练集分布的差异,该模型没有充分利用训练数据的性质,并且在未知域上表现出较差的泛化能力。考虑到上述局限性,在本文中,我们首先扩展了传统的定义领域的类别到数据源的文本摘要任务。然后,我们重新设计了一个多域摘要数据集,并验证了不同域之间的差距如何影响神经摘要模型的性能。此外,我们调查了四种学习策略,并考察了它们处理领域转移问题的能力。在三种不同设置下的实验结果显示了它们在我们的新测试平台上的不同特性。我们的源代码,包括\textit{BERT-based},用于多域摘要学习的\textit{meta-learning}方法和重新使用的数据集\textsc{Multi-SUM},将在我们的项目:\url{http://pfliu.com/TransferSum/}中提供。
2019-08-30 cs.CL
Hierarchical3D Adapters for Long Video-to-text Summarization
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
在本文中,我们专注于视频到文本摘要,并研究如何最好地利用多模态信息来摘要长输入(例如,一小时长的电视节目)转换成长输出(例如,多句总结)。我们扩展了SummScreen(Chen等人,2021),由具有参考摘要的电视剧集的转录组成的对话摘要数据集,并通过收集相应的全长视频来创建多模态变体。我们将多模态信息有效地使用适配器模块增强了层次结构,同时调整只有3.8%的模型参数的预训练的文本摘要。我们的实验表明,多模态信息提供了更高的性能超过内存繁重和完全微调的文本摘要方法。
2022-10-10 cs.CL
CTRLsum: Towards Generic Controllable Text Summarization
Carnegie Mellon University(卡内基梅隆大学);Salesforce Research(赛富时研究院)
当前的摘要系统产生与用户的偏好和期望断开的通用摘要。为了解决这个问题,我们提出了CTRLsum,一个新的框架可控总结。我们的方法使用户能够控制多个方面生成的摘要通过与摘要系统通过文本输入的形式,一组关键字或描述性提示。使用单一的统一模型,CTRLsum能够在推理时实现广泛的汇总操作,而无需额外的人工注释或在训练期间预先定义一组控制方面。我们定量地证明了我们的方法在三个领域的摘要数据集和五个控制方面的有效性:1)以实体为中心和2)长度可控的摘要,3)科学论文的贡献摘要,4)专利申请的发明目的摘要,和5)在阅读理解设置中的新闻文章的问题引导摘要。此外,当在标准、不受控制的摘要设置中使用时,CTRLsum在CNN/DailyMail数据集上获得了最先进的结果。代码和模型检查点可在https://github.com/salesforce/ctrl-sum上获得
2020-12-08 cs.CL
Unsupervised Abstractive Summarization of Bengali Text Documents
Ahsanullah Univ of Science & Tech(阿赫桑乌拉科技大学)
抽象摘要系统通常依赖于大量的文档-摘要对集合。然而,抽象系统的性能仍然是一个挑战,因为像孟加拉语这样的低资源语言无法获得并行数据。为了克服这个问题,我们提出了一个基于图的无监督摘要系统在单文档设置孟加拉语文本文件,它只需要一个部分的语音(POS)标记和一个预先训练的语言模型孟加拉语文本训练。我们还提供了一个带有文档摘要对的人类注释数据集,以评估我们的抽象模型,并支持孟加拉语未来抽象摘要系统的比较。我们在这个数据集上进行实验,并将我们的系统与几个成熟的无监督提取摘要系统进行比较。我们的无监督抽象摘要模型在不暴露于任何人工注释的参考摘要的情况下优于基线。
2021-02-19 cs.CL
Clustering of Deep Contextualized Representations for Summarization of Biomedical Texts
近年来,将领域知识融入文本摘要过程的摘要器已经优于一般方法,特别是对于生物医学文本的摘要。然而,领域知识库的建设和维护是资源密集型的任务,需要大量的人工注释。在本文中,我们证明了从预训练的深度语言模型BERT中提取的上下文表示可以有效地用于测量句子之间的相似性并量化信息内容。实验结果表明,我们的基于BERT的摘要器可以提高生物医学摘要的性能。虽然摘要器不使用任何领域知识的来源,它可以捕捉句子的上下文比比较方法更准确。源代码和数据可在https://github.com/BioTextSumm/BERT-based-Summ上获得。
2019-08-22 cs.CL
Automated News Summarization Using Transformers
Delhi Technological University(德里理工大学)
在线可用的文本数据量正在以非常快的速度增加,因此文本摘要变得至关重要。大多数现代推荐和文本分类系统都需要处理大量的数据。手动生成冗长文章的精确和流畅的摘要是一项非常烦人和耗时的任务。因此,为数据生成自动摘要并使用它来训练机器学习模型将使这些模型具有空间和时间效率。摘要的生成有两种不同的方法:抽取式摘要和抽象式摘要。提取技术从原始文档中识别出相关句子,并仅从文本中提取那些句子。而在摘要技术中,摘要是在解释原文之后生成的,因此使其更加复杂。在本文中,我们将全面比较几个基于Transformer架构的文本摘要预训练模型。为了进行分析和比较,我们使用了BBC新闻数据集,该数据集包含可用于摘要的文本数据和人类生成的摘要,用于评估和比较机器学习模型生成的摘要。
2021-04-23 cs.CL
Latent Prompt Tuning for Text Summarization
The Hong Kong Polytechnic University(香港理工大学);Microsoft(微软);Microsoft Research Asia(微软亚洲研究院)
具有不同控制信号的开关(例如,长度、关键字等)可用于控制文本摘要。当控制信号可用时,它们可以控制生成的摘要的属性,并潜在地提高摘要质量(因为给出了更多信息)。不幸的是,控制信号在推断时间期间还不可用。在本文中,我们提出了莲花(简写为潜在的提示微调的总结),这是一个单一的模型,可以应用于控制和非控制(无控制信号)模式。在训练过程中,Lotus使用对比学习目标从具有黄金控制信号的提示中学习潜在的提示表示。实验表明,Lotus在不受控制的模式下在四个不同的摘要数据集上一致地改进了强(不可控)摘要模型。我们还演示了生成的摘要可以使用用户指定的控制令牌的提示进行控制。
2022-12-19 cs.CL
An Exploration of Post-Editing Effectiveness in Text Summarization
University of Colorado Boulder(科罗拉多大学博尔德分校);Dataminr Inc.(Dataminr公司);University of Washington(华盛顿大学)
自动摘要方法是有效的,但可能遭受低质量。相比之下,手动摘要成本较高,但质量更高。人类和AI可以合作提高摘要性能吗?在类似的文本生成任务中(例如,机器翻译),以“后期编辑”AI生成文本的形式进行人-AI协作,减少了人类的工作量,提高了AI输出的质量。因此,我们探讨了后编辑是否在文本摘要中提供了优势。具体来说,我们对72名参与者进行了一项实验,比较了后期编辑提供的摘要与手动摘要的摘要质量,人力效率以及正式(XSum新闻)和非正式(Reddit帖子)文本的用户体验。这项研究为后期编辑何时对文本摘要有用提供了有价值的见解:它在某些情况下有帮助(例如,当参与者缺乏领域知识时)而不是在其他情况下(例如,当提供的摘要包含不准确的信息时)。参与者不同的编辑策略和对帮助的需求为未来的人工智能摘要系统提供了启示。
2022-06-13 cs.AI cs.CL cs.HC
Summary Explorer: Visualizing the State of the Art in Text Summarization
Leipzig University(莱比锡大学);University of Southern Denmark(南丹麦大学)
本文介绍了摘要资源管理器,一个新的工具,以支持手动检查的文本摘要系统,通过编译的输出55个最先进的单文档摘要方法在三个基准数据集,并在定性评估过程中可视化地探索他们。该工具的基本设计考虑了三个众所周知的摘要质量标准(覆盖率,忠诚度和位置偏差),封装在基于定制可视化的指导评估中。该工具补充了现有的本地调试摘要模型的方法,并对其进行了改进。该工具可在https://tldr.webis.de/上获得
2021-09-24 cs.CL
Advancements in Natural Language Processing for Automatic Text Summarization
School of Computing(计算机学院);Informatics Institute of Technology(信息技术学院)
本文综述了自动文本摘要技术,分类探讨抽取式与抽象式方法及混合技术,比较其优缺点,并展望语言生成模型在摘要评估中的应用。
2025-02-27 cs.CL
Indian Legal Text Summarization: A Text Normalisation-based Approach
Adamas University(阿达玛斯大学)
在印度法院系统,未决案件长期以来一直是一个问题。有超过4亿美元的案件悬而未决。对于法律利益相关者来说,手动汇总数百份文件是一项耗时且繁琐的任务。随着机器学习的发展,出现了许多最先进的文本摘要模型。独立于领域的模型在法律文本中表现不佳,由于缺乏公开可用的数据集,为印度法律体系微调这些模型是有问题的。为了提高域独立模型的性能,作者提出了一种在印度环境下规范法律文本的方法。作者实验了两个最先进的领域独立的法律文本摘要模型,即BART和PEGASUS。BART和PEGASUS在提取和抽象摘要方面进行了测试,以了解文本规范化方法的有效性。摘要文本由领域专家根据多个参数并使用ROUGE指标进行评估。实验结果表明,本文提出的文本规范化方法在具有领域独立模型的法律文本中是有效的。
2022-09-13 cs.CL
Towards Supervised Extractive Text Summarization via RNN-based Sequence Classification
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);University of Bonn(波恩大学)
本文简要介绍了我们提交的DocEng'19比赛的方法。我们实现了一个基于递归神经网络的模型,该模型学习分类文章的句子是否属于相应的提取摘要。我们绕过了缺乏大型注释新闻语料库提取摘要从抽象的,这是可从CNN语料库生成摘要。
2019-11-13 cs.CL