NeuS: Neutral Multi-News Summarization for Mitigating Framing Bias
The Hong Kong University of Science and Technology（香港科技大学）；Hong Kong University of Science and Technology（香港科技大学）
媒体新闻框架偏见会加剧政治两极分化，破坏公民社会。因此，对自动缓解方法的需求正在增长。我们提出了一个新的任务，一个中立的摘要生成从多个新闻文章的不同政治倾向，以促进平衡和公正的新闻阅读。在本文中，我们首先收集了一个新的数据集，通过案例研究说明框架偏见的见解，并提出了一个新的有效的指标和模型（NeuS-TITLE）的任务。基于我们的发现，标题提供了一个很好的信号，框架偏见，我们提出NeuS-TITLE，学会中和新闻内容的层次顺序从标题到文章。我们的分层多任务学习是通过使用标识符标记（“TITLE=>"，“ARTICLE=>”）顺序格式化我们的分层数据对（标题，文章）并使用标准的负对数似然目标微调自回归解码器来实现的。然后我们分析并指出剩余的挑战和未来的方向。最有趣的观察之一是，神经NLG模型不仅可以产生事实上不准确或无法验证的内容，而且还可以产生政治偏见的内容。
2022-05-03 cs.CL
Neural Extractive Summarization with Side Information
Institute for Language, Cognition and Computation, School of Informatics, University of Edinburgh（爱丁堡大学信息学院语言、认知与计算研究所）
大多数抽取式摘要方法关注于需要从中抽取句子的文档的主体。然而，文档的主旨可能在于辅助信息，例如新闻专线文章中经常提供的标题和图像说明。我们建议在单文档提取摘要的背景下探索边信息。我们开发了一个单文档摘要的框架，由一个分层的文档编码器和一个基于注意力的提取器组成，注意力超过边信息。我们在一个大规模的新闻数据集上评估了我们的模型。我们发现，提取摘要与边信息始终优于其对应的，不使用任何边信息，在信息量和流畅性。
2017-09-10 cs.CL
SciBERTSUM: Extractive Summarization for Scientific Documents
Pennsylvania State University（宾夕法尼亚州立大学）
摘要类文献主要研究新闻文章的摘要。CNN-DailyMail中的新闻文章是相对较短的文档，平均每个文档约30个句子。我们介绍了SciBERTSUM，这是我们的摘要框架，专为超过500句的科学论文等长文档的摘要而设计。SciBERTSUM通过以下方式将BERTSUM扩展到长文档：1）添加一个节嵌入层，以将节信息包含在句子向量中; 2）应用稀疏注意力机制，其中每个句子将本地关注附近的句子，并且只有少数句子全局关注所有其他句子。我们使用科学论文作者生成的幻灯片作为参考摘要，因为它们包含论文的技术细节。结果表明，我们的模型在ROUGE分数方面的优越性。
2022-01-21 cs.CL
HunSum-1: an Abstractive Summarization Dataset for Hungarian
Institute for Computer Science and Control（计算机科学与控制研究所）；Budapest University of Technology and Economics（布达佩斯技术与经济大学）；Eötvös Loránd Research Network（厄特沃什·罗兰研究网络）
我们介绍HunSum-1：一个用于匈牙利语摘要的数据集，由114万篇新闻文章组成。该数据集是通过CommonCrawl从匈牙利9个主要新闻网站收集，清理和删除重复数据而建立的。使用这个数据集，我们构建了基于huBERT和mT5的抽象摘要器模型。我们通过对模型结果进行定量和定性分析来证明所创建数据集的价值。HunSum-1数据集，我们实验中使用的所有模型和我们的代码都是开源的。
2023-02-01 cs.CL
Neural Abstractive Unsupervised Summarization of Online News Discussions
Universidad Técnica Federico Santa María（费德里科圣玛丽亚技术大学）；Dalhousie University（达尔豪斯大学）
摘要通常依赖于黄金标准摘要来训练提取或抽象模型。社交媒体给摘要技术带来了障碍，因为它需要解决多文档多作者的方法。我们通过引入一种新的方法来解决这个具有挑战性的任务，该方法生成在线新闻讨论的摘要。我们的方法扩展了基于BERT的架构，包括在训练阶段提供评论喜欢的注意编码。为了训练我们的模型，我们定义了一个任务，该任务包括基于流行度（喜欢）重建高影响力的评论。因此，我们的模型学会根据最相关的评论总结在线讨论。我们的新方法提供了一个摘要，代表了用户评论的新闻项目的最相关的方面，将社会背景作为信息源，以总结在线社交网络中的文本。我们的模型使用生成的摘要和线程上的每个评论之间的ROUGE分数进行评估。我们的模型，包括社会注意编码，显着优于基于这种评价的提取和抽象摘要方法。
2021-06-19 cs.CL cs.LG
Bengali Abstractive News Summarization(BANS): A Neural Attention Approach
Shahjalal University of Science and Technology（沙贾拉勒科技大学）
摘要是在保持文本上下文的基础上，根据从原始文本中提取的信息生成新颖句子的过程。由于摘要的复杂性，过去的研究工作主要集中在抽取式摘要方法上。然而，随着序列到序列（seq 2seq）模型的成功，抽象摘要变得更加可行。虽然在英语语言中已经做了大量的基于摘要的研究，但只有几项工作是关于孟加拉语摘要新闻摘要（BANS）的。在这篇文章中，我们提出了一个基于seq 2seq的长短期记忆（LSTM）网络模型，在编码器-解码器处具有注意力。我们提出的系统部署了一个基于本地注意力的模型，该模型可以生成一个长序列的单词，这些单词具有清晰和类似人类的句子，其中包含原始文档的重要信息。我们还准备了一个数据集，其中包含从bangla.bdnews24.com1收集的超过19，000篇文章和相应的人类书面摘要，这是迄今为止最广泛的孟加拉语新闻文档摘要数据集，并在Kaggle 2中公开发布。我们定性和定量地评估了我们的模型，并将其与其他已发表的结果进行了比较。它显示出显着的改善方面的人类评价分数与国家的最先进的方法为BANS。
2020-12-03 cs.AI cs.CL
ED-FAITH: Evaluating Dialogue Summarization on Faithfulness
Meta AI
摘要摘要模型通常会生成不忠实于输入的内容，因此突出了评估所生成摘要的忠实性的重要性。大部分忠实度指标只在新闻领域进行评估，它们是否可以转移到其他摘要任务中？在这项工作中，我们首先提出了一个系统的研究的忠实度指标的对话摘要。我们在对话数据集上评估了常见的忠诚度指标，并观察到大多数指标与人类判断的相关性很差，尽管在新闻数据集上表现良好。鉴于这些发现，为了提高现有指标在对话摘要上的性能，我们首先对域内数据集进行微调，然后对负样本进行不似然训练，并表明它们可以成功地提高对话数据的指标性能。受T0语言模型强大的zero-shot性能的启发，我们进一步提出了T0-Score --一种新的忠实性评估指标，它在多个领域的基线指标上显示出一致的改进。
2022-11-15 cs.CL
A Baseline Analysis for Podcast Abstractive Summarization
University of Delaware（特拉华大学）；University of Maryland（马里兰大学）；Tongji University（同济大学）
摘要是影响用户收听决策的一个重要因素，也是播客推荐系统以及许多下游应用的关键特征。现有的抽象摘要方法主要是建立在专业编辑的文本，如CNN和DailyMail新闻的微调模型。与新闻不同，播客通常更长，更口语化和对话化，并且广告和赞助内容更嘈杂，这使得自动播客摘要极具挑战性。本文使用TREC 2020提供的Spotify播客数据集对播客摘要进行了基线分析。它旨在帮助研究人员了解当前最先进的预训练模型，从而为创建更好的模型奠定基础。
2020-08-26 cs.CL
LeafNATS: An Open-Source Toolkit and Live Demo System for Neural Abstractive Text Summarization
Virginia Tech（弗吉尼亚理工大学）
神经摘要文本摘要（NATS）在过去的几年里受到了工业界和学术界的广泛关注。在本文中，我们介绍了一个开源的工具包，即LeafNATS，用于训练和评估不同的序列到序列的NATS任务为基础的模型，并部署到现实世界的应用程序的预训练模型。该工具包是模块化的，可扩展的，除了保持竞争力的NATS任务的性能。还实现了一个实时新闻博客系统，以展示这些模型如何通过为博客/新闻编辑提供标题和文章摘要的建议来帮助他们。
2019-05-28 cs.CL
Abstractive Text Summarization for Bangla Language Using NLP and Machine Learning Approaches
Maharishi International University（玛赫西国际大学）；Utah State University（犹他州立大学）；William & Mary（威廉玛丽学院）；Mymensingh Engineering College（迈门辛工程学院）
本文提出一种基于神经网络的模型，旨在将孟加拉语文本高效、稳定地摘要为简洁段落，以减少阅读冗余信息的时间。
2025-01-25 cs.CL
Summarization of Films and Documentaries Based on Subtitles and Scripts
INESC ID Lisboa（里斯本高等工程学院信息与决策系统研究所）；Instituto Universitário de Lisboa (ISCTE-IUL)（里斯本大学学院（ISCTE-IUL））；Instituto Superior Técnico, Universidade de Lisboa（里斯本大学高等技术学院）
我们评估的通用文本摘要算法应用于电影和纪录片的性能，使用众所周知的行为摘要的新闻文章作为参考。我们使用三个数据集：（i）新闻文章，（ii）电影剧本和字幕，以及（iii）纪录片字幕。标准ROUGE指标用于将生成的摘要与新闻摘要、情节摘要和概要进行比较。我们发现，最好的性能算法是LSA，新闻文章和纪录片，和LexRank和支持集，电影。尽管电影和纪录片的性质不同，但它们的相对行为与新闻文章的行为是一致的。
2016-03-09 cs.AI cs.CL cs.IR
Text Summarization of Czech News Articles Using Named Entities
Czech Technical University in Prague（布拉格捷克理工大学）
Straka et al.（2018）的工作为捷克语中的摘要研究奠定了基础。他们发布了SumeCzech，一个大型的捷克新闻摘要数据集，并提出了几种基线方法。然而，从所取得的成果来看，显然还有很大的改进空间。在我们的工作中，我们专注于命名实体的捷克新闻文章的摘要的影响。首先，我们用命名实体注释SumeCzech。我们提出了一个新的度量ROUGE_NE，衡量重叠的命名实体之间的真实和生成的摘要，我们表明，它仍然是具有挑战性的摘要系统，以达到一个高的分数在it.We提出了一个提取的摘要方法命名实体密度，选择一个句子之间的最高比率的实体数量和句子的长度作为摘要的文章。实验结果表明，该方法在新闻文章选择第一句话的领域达到了接近坚实的基线的结果。此外，我们证明，所选的句子反映了简洁地确定谁，何时，何地，发生了什么事的报告的风格。我们建议，这样的摘要与呈现新闻文章的语音应用中的文章的第一句结合是有益的。提出了两种基于Seq2Seq结构的摘要方法。第一种方法使用文章的标记。第二种方法可以访问命名实体注释。实验表明，这两种方法都超过了Straka等人（2018）之前报道的最先进的结果，后者在SumeCzech的域外测试集上取得了略好的结果。
2021-04-21 cs.AI cs.CL cs.LG
Features in Extractive Supervised Single-document Summarization: Case of Persian News
Isfahan University of Technology（伊斯法罕理工大学）；Liverpool John Moores University（利物浦约翰摩尔斯大学）；University of Salford（索尔福德大学）
文本摘要一直是自然语言处理中最具挑战性的研究领域之一。已经做出了很多努力来克服这一挑战，通过使用抽象或提取的方法。与更精细的抽象方法相比，提取方法更受欢迎，因为它们简单。在提取方法中，系统不会生成句子。相反，它学习如何通过使用一些文本特征来对文本中的句子进行评分，然后选择排名最高的句子。因此，核心目标是排名，并且高度依赖于文档。许多最先进的解决方案都没有注意到这种依赖性。在这项工作中，文档的特征被集成到每个句子的向量中。通过这种方式，系统可以了解上下文，提高学习模型的精度，从而产生全面而简短的摘要。
2019-09-09 cs.CL cs.IR
Query-Based Abstractive Summarization Using Neural Networks
Chalmers University of Technology（查尔姆斯理工大学）
在本文中，我们提出了一个模型，生成摘要的文本文档的查询。这称为基于查询的摘要。我们针对该任务调整现有的新闻文章摘要数据集，并使用该数据集训练指针生成器模型。通过测量与参考摘要的相似性来评价生成的摘要。我们的研究结果表明，一个神经网络摘要模型，类似于现有的神经网络模型的抽象摘要，可以构建利用查询，以产生有针对性的摘要。
2017-12-17 cs.CL
Towards Supervised Extractive Text Summarization via RNN-based Sequence Classification
Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；Fraunhofer Center for Machine Learning（弗劳恩霍夫机器学习中心）；University of Bonn（波恩大学）
本文简要介绍了我们提交的DocEng'19比赛的方法。我们实现了一个基于递归神经网络的模型，该模型学习分类文章的句子是否属于相应的提取摘要。我们绕过了缺乏大型注释新闻语料库提取摘要从抽象的，这是可从CNN语料库生成摘要。
2019-11-13 cs.CL
Topic-Centric Unsupervised Multi-Document Summarization of Scientific and News Articles
Wright State University（莱特州立大学）
自然语言处理的最新进展已经实现了广泛任务的自动化，包括机器翻译、命名实体识别和情感分析。然而，文档或文档组的自动摘要仍然难以实现，许多努力仅限于提取关键字、关键短语或关键句子。由于问题的固有困难和训练数据的有限可用性，尚未实现准确的抽象概括。在本文中，我们提出了一个以主题为中心的无监督多文档摘要框架，用于为Microsoft Academic Graph（MAG）中的20个研究领域（FoS）的科学文章和DUC-2004任务2的新闻文章生成提取和抽象摘要。该算法通过开发显著语言单元选择和文本生成技术来生成抽象摘要。我们的方法在自动提取评估指标上进行评估时与最先进的方法相匹配，并且在五个人类评估指标（蕴涵，连贯性，简洁性，可读性和语法）上的抽象摘要中表现得更好。我们在两位共同作者的语言学家之间获得了0.68的Kappa评分，他们评估了我们的结果。我们计划公开分享MAG-20，这是一个人类验证的主题聚类研究文章及其摘要的黄金标准数据集，以促进抽象摘要的研究。
2020-11-03 cs.CL cs.IR cs.LG
Prompt-tuning for Clickbait Detection via Text Summarization
School of Information Engineering, Yangzhou University（扬州大学信息工程学院）；School of Electronics and Information Engineering, Anhui Jianzhu University（安徽建筑大学电子与信息工程学院）
针对标题与内容长度、语义差异大导致直接计算相似度难以检测点击诱饵的问题，提出结合文本摘要的提示调优方法，通过两阶段摘要模型生成摘要并融入外部知识，在基准数据集上取得最优性能。
2024-04-17 cs.CL
Efficient Extractive Summarization with MAMBA-Transformer Hybrids for Low-Resource Scenarios
University of Memphis（密苏里大学）
本文提出了一种结合Transformer和Mamba的状态空间模型，用于高效提取式摘要，尤其在低资源环境下表现出色，提升了摘要质量并加快了推理速度。
2026-03-01 cs.CL
Abstractive Summarization of Low resourced Nepali language using Multilingual Transformers
Tribhuvan University（特里布万大学）；Institute of Engineering, Pulchowk Campus（工程学院普尔乔克校区）
本研究针对低资源尼泊尔语抽象式摘要任务，构建新闻摘要数据集并微调mBART和mT5多语言Transformer模型，实验表明4位量化mBART结合LoRA在ROUGE和人工评估中表现最优。
2024-09-29 cs.AI cs.CL
Can summarization approximate simplification? A gold standard comparison
Institute of Computer Science University of Tartu（计算机科学研究所塔尔图大学）
本研究比较两种BRIO摘要方法与金标准简化，在Newsela语料库上取得ROUGE-L 0.654，揭示摘要与简化的重叠与差异。
2025-01-27 cs.CL
Liputan6: A Large-scale Indonesian Dataset for Text Summarization
School of Computing and Information Systems（计算与信息系统学院）；The University of Melbourne（墨尔本大学）
在本文中，我们介绍了一个大规模的印尼摘要数据集。我们从在线新闻门户网站Liputan6.com获取文章，并获得215，827个文档摘要对。我们利用预先训练的语言模型，通过多语言和单语言基于BERT的模型，在数据集上开发基准提取和抽象摘要方法。我们包括一个彻底的错误分析，通过检查机器生成的摘要，具有低ROUGE分数，并暴露这两个问题与ROUGE本身，以及与提取和抽象的摘要模型。
2020-11-02 cs.CL
Automatic News Summerization
本研究对新闻文本摘要的抽取式与生成式方法进行了基于ROUGE分数的比较评估，使用CNN-Daily Mail数据集，并将最佳模型集成至web应用以验证实际能力。
2023-10-17 cs.CL cs.LG
Experiments in Extractive Summarization: Integer Linear Programming, Term/Sentence Scoring, and Title-driven Models
University of Houston（休斯顿大学）
在本文中，我们重新审视了具有挑战性的问题，无监督的单文档摘要和研究以下几个方面：基于线性规划（ILP）的算法，参数化规范化的术语和句子的分数，和标题驱动的方法摘要。我们描述了一个新的框架，NewsSumm，其中包括许多现有的和新的方法，包括ILP和标题驱动的方法总结。NewsSumm的灵活性允许无缝结合不同的算法和句子评分方案。我们的结果结合句子评分与ILP和规范化是在对比以前的工作在这个主题上，显示了更广泛的搜索最佳参数的重要性。我们还表明，新的标题驱动的减少的想法导致性能的改善，无论是无监督和监督的方法考虑。
2020-08-01 cs.CL cs.IR
Evaluating LLMs and Pre-trained Models for Text Summarization Across Diverse Datasets
Jadavpur University（贾达沃普尔大学）；Indian Association for the Cultivation of Science（印度科学促进协会）；Techno India University（泰克诺印度大学）
本文在五个多样化数据集上使用 ROUGE、BERTScore 和 METEOR 等指标，系统评估 BART、FLAN-T5、LLaMA-3-8B 与 Gemma-7B 的文本摘要能力及优劣。
2025-03-13 cs.CL
OpineSum: Entailment-based self-training for abstractive opinion summarization
Google Research（谷歌研究院）
一个典型的产品或地方往往有数百个评论，这些文本的摘要是一个重要的和具有挑战性的问题。最近在新闻等领域的抽象摘要方面的进展是由监督系统驱动的，这些系统在数十万篇新闻文章中进行了训练，并与人类撰写的摘要相结合。然而，对于意见文本，这种大规模的数据集很少可用。无监督方法、自我训练和少样本学习方法弥补了这一差距。在这项工作中，我们提出了一种新的自我训练方法，OpineSum，抽象的意见摘要。这种方法中的摘要是使用文本蕴涵的新应用程序构建的，并捕获了对一个项目的各种评论的一致意见。该方法可用于大规模获得银标准摘要，并可用于无监督和Few-Shot抽象摘要系统的训练。OpineSum在这两种设置下都实现了最先进的性能。
2022-12-21 cs.AI cs.CL
A Pilot Study of Domain Adaptation Effect for Neural Abstractive Summarization
研究了神经网络文摘的领域自适应问题。我们在调查哪些信息可以转移到一个新的域的初步努力。对新闻故事和评论文章的实验结果表明，神经摘要模型受益于基于提取摘要的预训练。我们还发现，在域内和域外设置的组合产生更好的摘要时，域内数据不足。进一步的分析表明，该模型即使在域外数据上训练也能够选择突出内容，但需要域内数据来捕获目标域的风格。
2017-07-21 cs.CL
Abstractive Dialogue Summarization with Sentence-Gated Modeling Optimized by Dialogue Acts
National Taiwan University（国立台湾大学）
神经摘要的研究越来越多，以前的工作主要集中在总结单说话人的文件（新闻，科学出版物等）。在对话中，说话者之间存在着各种各样的互动，这些互动通常被定义为对话行为。交互式信号可以提供信息提示以更好地概括对话。本文提出在神经摘要模型中显式地利用对话行为，其中设计了一个会话门控机制来建模对话行为和摘要之间的关系。实验表明，我们提出的模型显着提高抽象摘要性能相比，国家的最先进的基线AMI会议语料库，展示了有用的对话行为提供的交互信号。
2018-09-29 cs.CL
Salience Allocation as Guidance for Abstractive Summarization
University of Southern California（南加州大学）
抽象摘要模型通常学习从零开始隐式地捕获显著信息。最近的文献增加了提取摘要作为抽象摘要模型的指导，以提供显着内容的提示，并取得更好的性能。然而，提取摘要作为指导可能过于严格，导致信息丢失或噪声信号。此外，它不能很容易地适应各种抽象的文件。由于显著性内容片段的数量和分配不同，因此很难找到决定哪些内容应该包括在指南中的固定阈值。在本文中，我们提出了一种新的摘要方法，灵活和可靠的显着性指导，即SEASON（显着性分配作为指导抽象摘要）。SEASON利用显著性期望值的分配来指导文摘，对不同抽象程度的文章有较好的适应性。在两个基准数据集上的自动和人工评估表明，该方法是有效和可靠的。对超过一百万篇新闻文章的实证结果表明，新闻文章句子的显着性自然分裂为1550，为撰写新闻文章提供了有用的见解。
2022-10-22 cs.AI cs.CL cs.LG
Analysis of Multidomain Abstractive Summarization Using Salience Allocation
Jadavpur University（贾达普大学）；Tata Consultancy Services（塔塔咨询服务公司）；Techno India University（泰克诺印度大学）
本文探讨了SEASON技术在多领域生成式文本摘要中的应用，通过在CNN/Dailymail、SAMSum和EDT等数据集上与BART等模型对比，利用ROUGE等指标验证了其效能并揭示了显著性分配技术的复杂性。
2024-02-19 cs.AI cs.CL
Automatic Keyword Extraction for Text Summarization: A Survey
National Institute of Technology, Rourkela（鲁尔克拉国立技术学院）
近年来，数据在新闻、社交媒体、银行、教育等各个领域迅速增长，由于数据的过剩，需要自动摘要器，它能够在原始文档中总结数据，特别是文本数据，而不会丢失任何关键目的。摘要是近年来出现的一个重要的研究领域。在这方面，回顾文本摘要过程的现有工作对于开展进一步的研究是有用的。由于文本摘要过程高度依赖于关键词提取，本文介绍了自动关键词提取和文本摘要的最新文献。这篇文献包括讨论不同的方法用于关键字提取和文本摘要。它还讨论了在几个领域中用于文本摘要的不同数据库以及评估矩阵。最后，简要讨论了研究者面临的问题和研究挑战以及未来的发展方向。
2017-04-11 cs.CL
Exploring Content Selection in Summarization of Novel Chapters
Columbia University（哥伦比亚大学）；University of Pennsylvania（宾夕法尼亚大学）；Amazon AI（亚马逊人工智能实验室）
我们提出了一个新的摘要任务，使用摘要/章节对在线学习指南生成小说章节的摘要。这是一个比新闻摘要任务更难的任务，考虑到章节的长度以及摘要中的极端释义和概括。我们专注于提取摘要，这需要创建一组黄金标准的提取摘要。我们提出了一个新的指标，用于将参考摘要句子与章节句子对齐，以创建黄金提取物，并尝试不同的对齐方法。我们的实验表明，通过自动度量和众包金字塔分析，我们的任务比以前的对齐方法有显着的改进。我们在https://github.com/manestay/novel-chapter-dataset上提供我们的数据汇集脚本。
2021-03-30 cs.CL
VT-SSum: A Benchmark Dataset for Video Transcript Segmentation and Summarization
Peking University（北京大学）；Microsoft Research Asia（微软亚洲研究院）；Microsoft（微软）
视频文本摘要是视频理解的一项基本任务。传统的文本摘要方法通常建立在书面语言（如新闻文章）的摘要数据上，而领域差异可能会降低口语文本的模型性能。在本文中，我们介绍了VT-Ssum，这是一个用于视频转录分割和摘要的口语基准数据集，其中包括来自9，616个视频的125 K转录摘要对。VT-SSum利用VideoLectures.NET中的视频，利用幻灯片内容作为弱监督来生成视频记录的提取摘要。使用最先进的深度学习方法进行的实验表明，使用VT-Ssum训练的模型在AMI口语文本摘要基准测试中有显着改进。VT-SSum可在https://github.com/Dod-o/VT-SSum上公开获取，以支持未来的视频文本分割和摘要任务研究。
2021-07-15 cs.CL
CTRLsum: Towards Generic Controllable Text Summarization
Carnegie Mellon University（卡内基梅隆大学）；Salesforce Research（赛富时研究院）
当前的摘要系统产生与用户的偏好和期望断开的通用摘要。为了解决这个问题，我们提出了CTRLsum，一个新的框架可控总结。我们的方法使用户能够控制多个方面生成的摘要通过与摘要系统通过文本输入的形式，一组关键字或描述性提示。使用单一的统一模型，CTRLsum能够在推理时实现广泛的汇总操作，而无需额外的人工注释或在训练期间预先定义一组控制方面。我们定量地证明了我们的方法在三个领域的摘要数据集和五个控制方面的有效性：1）以实体为中心和2）长度可控的摘要，3）科学论文的贡献摘要，4）专利申请的发明目的摘要，和5）在阅读理解设置中的新闻文章的问题引导摘要。此外，当在标准、不受控制的摘要设置中使用时，CTRLsum在CNN/DailyMail数据集上获得了最先进的结果。代码和模型检查点可在https://github.com/salesforce/ctrl-sum上获得
2020-12-08 cs.CL
Data-driven Summarization of Scientific Articles
Institute of Neuroinformatics, University of Z \"u rich
数据驱动的方法序列到序列建模已成功地应用于新闻文章的短文本摘要。这样的模型通常在仅由单个或几个句子组成的输入-摘要对上训练，部分地由于多句子训练数据的有限可用性。在这里，我们建议使用科学文章作为文本摘要的一个新里程碑：大规模的训练数据几乎是免费的，有两种不同级别的高质量摘要-标题和摘要。我们从科学文章中生成两个新的多句摘要数据集，并测试了现有的各种基于提取和抽象神经网络的摘要方法的适用性。我们的分析表明，科学论文适合数据驱动的文本摘要。我们的研究结果可以作为有价值的基准扩展序列到序列模型非常长的序列。
2018-04-24 cs.CL
Fact-Enhanced Synthetic News Generation
Worcester Polytechnic Institute（伍斯特理工学院）；Arizona State University（亚利桑那州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）
先进的文本生成方法在文本摘要、语言翻译和综合新闻生成方面取得了巨大的成功。然而，这些技术可能会被滥用，产生虚假信息和假新闻。为了更好地了解合成新闻的潜在威胁，我们开发了新一代方法FactGen来生成高质量的新闻内容。现有的文本生成方法要么提供有限的补充信息，要么失去了输入和输出之间的一致性，这使得合成新闻不太可信。为了解决这些问题，FactGen检索外部事实以丰富输出，并从生成的内容中重建输入声明，以提高输入和输出之间的一致性。在真实世界数据集上的实验结果表明，FactGen生成的新闻内容一致，包含丰富的事实。我们还讨论了可能的防御方法，以识别这些合成新闻片，如果FactGen被用来生成合成新闻。
2020-12-13 cs.CL
Measuring the Effect of Discourse Relations on Blog Summarization
Concordia University（康考迪亚大学）
本文提出的工作试图评估和量化的话语关系的使用情况下，博客摘要和比较他们的使用更传统和事实的文本。具体来说，我们测量了6个话语关系的有用性-即比较，权变，插图，归因，主题意见，并从博客的文本摘要的任务归因。我们使用TAC 2008意见摘要数据集评估了每个关系的效果，并将其与DUC 2007数据集的结果进行了比较。结果表明，在这两种文本体裁，权变，比较，和插图关系提供了一个显着的改善摘要内容，而归属，主题意见，和归因关系不提供一个一致的和显着的改善。这些结果表明，至少对于摘要来说，话语关系对于非正式和情感文本和传统的新闻文章一样有用。
2017-08-19 cs.CL
SupMMD: A Sentence Importance Model for Extractive Summarization using Maximum Mean Discrepancy
Australian National University（澳大利亚国立大学）；Google Research（谷歌研究院）
多文档摘要的大部分工作都集中在每个单独的文档集中存在的信息的通用摘要。然而，更新摘要的未充分开发的设置（其中目标是识别每个集合中存在的新信息）具有相同的实际兴趣（例如，向读者呈现关于演进的新闻主题的更新）。在这项工作中，我们提出了SupMMD，一种新的技术，通用和更新摘要的基础上最大的平均差异，从内核两个样本测试。SupMMD结合了针对显著性的监督学习和针对覆盖率和多样性的无监督学习。此外，我们调整多核学习以利用多个信息源之间的相似性（例如，文本特征和基于知识的概念）。我们通过在DUC-2004和TAC-2009数据集上达到或超过当前最先进水平，展示了SupMMD在通用和更新摘要任务中的功效。
2020-10-06 cs.CL
Topic Modeling Based Extractive Text Summarization
SRM Institute of Science and Technology（SRM科学技术研究所）
文本摘要是一种识别文本文档中重要信息的方法。这种计算技术的目的是通过只包括源文本中存在的相关和突出信息来生成源文本的较短版本。在本文中，我们提出了一种新的方法来总结一个文本文件，其内容聚类的基础上产生的潜在主题，使用主题建模技术，并通过生成提取摘要，每个确定的文本聚类。所有提取的子摘要稍后被组合以生成任何给定源文档的摘要。我们在文本摘要方法中利用较少使用且具有挑战性的WikiHow数据集。此数据集与可用于文本摘要的常用新闻数据集不同。众所周知的新闻数据集在其源文本的前几行中呈现了其最重要的信息，这使得与总结WikiHow数据集相比，它们的总结任务具有较小的挑战性。与这些新闻数据集相反，WikiHow数据集中的文档是使用通用方法编写的，具有较低的抽象性和较高的压缩比，因此对生成摘要提出了更大的挑战。许多当前最先进的文本摘要技术倾向于消除源文档中存在的重要信息，以利于简洁。我们提出的技术旨在捕获源文档中存在的所有不同信息。虽然数据集被证明具有挑战性，但在我们的实验设置中进行了广泛的测试后，我们发现，与其他已发布的提取和抽象文本摘要模型相比，我们的模型产生了令人鼓舞的ROUGE结果和摘要。
2021-06-29 cs.CL cs.IR
Revisiting Summarization Evaluation for Scientific Articles
Georgetown University（乔治城大学）
文本摘要方法的评估主要基于度量系统生成的摘要与一组人类书面黄金标准摘要的相似性的指标。摘要评估中最广泛使用的度量是ROUGE家族。ROUGE仅依赖于句子中术语和短语之间的词汇重叠;因此，在术语变化和释义的情况下，ROUGE并不有效。科学文章摘要就是这样一种情况，它不同于一般的领域摘要（例如新闻专线数据）。我们提供了一个广泛的分析ROUGE的有效性作为科学总结的评价指标，我们表明，相反的共同信念，ROUGE是不太可靠的科学总结评估。我们还展示了ROUGE的不同变体如何导致与手动金字塔分数的非常不同的相关性。最后，我们提出了一种替代指标的摘要评估，这是基于系统生成的摘要和相应的人类书面摘要之间的内容相关性。我们称之为SERA（通过相关性分析进行总结评估）。与ROUGE不同的是，SERA与人工评分的相关性一直很高，这表明它在评价科技论文摘要方面是有效的。
2016-04-01 cs.CL
MultiBanAbs: A Comprehensive Multi-Domain Bangla Abstractive Text Summarization Dataset
Leading University（领先大学）
MultiBanAbs数据集旨在通过多领域孟加拉语文章摘要提升摘要系统的适应性和实用性，为低资源语言NLP研究提供基准支持。
2025-11-24 cs.AI cs.CL
Understanding Position Bias Effects on Fairness in Social Multi-Document Summarization
Portland State University（波特兰州立大学）
本文研究社会多文档摘要中群体排序导致的位置偏差对公平性的影响，发现输入顺序虽不影响文本质量，但会显著改变不同方言群体的代表性公平程度。
2024-05-03 cs.AI cs.CL
Abstractive Summarization for Low Resource Data using Domain Transfer and Data Synthesis
University of Pittsburgh（匹兹堡大学）
训练抽象摘要模型通常需要大量数据，这可能是许多领域的限制。在本文中，我们探索使用域转移和数据合成来提高最近的抽象摘要方法在应用于学生反思的小型语料库时的性能。首先，我们探讨了调整在报纸数据上训练的最先进模型是否可以提高学生反思数据的性能。评估表明，与仅使用学生反思数据或仅使用报纸数据训练的模型相比，调整后的模型产生的摘要获得了更高的ROUGE分数。与提取摘要基线相比，调整后的模型还获得了更高的分数，并且在人类评估中被判定为产生更连贯和可读的摘要。其次，我们探讨了综合学生数据摘要是否可以进一步提高成绩。我们提出了一种基于模板的模型来合成新数据，当将其纳入训练时，进一步增加了ROUGE分数。最后，我们表明，与仅使用两种方法之一相比，将数据合成与域转移相结合可以获得更高的ROUGE分数。
2020-02-09 cs.CL cs.LG
Exploring the Limits of ChatGPT for Query or Aspect-based Text Summarization
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Microsoft（微软）；NEC Laboratories America（NEC美国实验室）
文本摘要是自然语言处理中的一个重要问题。它旨在将冗长的文件压缩成较短的版本，同时保留最关键的信息。已经提出了各种文本摘要方法，包括抽取式和抽象式摘要。大语言模型（LLM）的出现，如GPT3和ChatGPT，最近产生了使用这些模型进行文本摘要任务的极大兴趣。最近的研究\cite{goyal2022news, zhang2023benchmarking}表明，LLMs生成的新闻摘要已经与人类不相上下。然而，LLM对于更实际的应用程序（如方面或基于查询的摘要）的性能还没有得到充分的研究。为了填补这一空白，我们在四个广泛使用的基准数据集上对ChatGPT的性能进行了评估，其中包括Reddit帖子，新闻文章，对话会议和故事的各种摘要。我们的实验表明，ChatGPT的性能与传统的微调方法在胭脂分数方面相当。此外，我们强调了ChatGPT生成的摘要和人类引用之间的一些独特差异，为ChatGPT在各种文本摘要任务中的强大功能提供了有价值的见解。我们的研究结果呼吁在这一领域的新方向，我们计划进行进一步的研究，通过广泛的人类评估系统地检查ChatGPT生成的摘要的特征。
2023-02-16 cs.AI cs.CL
Improving Sequence-to-Sequence Models for Abstractive Text Summarization Using Meta Heuristic Approaches
Bharati Vidyapeeth College of Engineering（巴拉蒂·维迪亚皮特工程学院）
本文旨在通过微调超参数和尝试特定编码器-解码器组合来增强抽象式文本摘要的seq2seq模型架构，并在CNN/DailyMail数据集上验证了多种模型的有效性。
2024-03-24 cs.CL cs.LG cs.NE
L3Cube-MahaSum: A Comprehensive Dataset and BART Models for Abstractive Text Summarization in Marathi
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Labs（L3Cube实验室）；Indian Institute of Technology Madras（印度马德拉斯理工学院）
本文提出了马拉地语抽象摘要数据集MahaSUM，包含25k个经人工验证的样本，并基于此训练了IndicBART模型，有效提升了马拉地语摘要生成质量，推动了印度语系NLP研究。
2024-10-11 cs.CL cs.LG
Towards End-to-end Speech-to-text Summarization
Instituto Superior Técnico, Universidade de Lisboa（里斯本大学高等技术学院）；Universidade do Porto, Faculdade de Engenharia（波尔图大学工程学院）；Priberam
该研究针对法语广播新闻语料库，提出借助预训练T2T摘要器迁移学习的端到端S2T抽象式摘要模型，实验显示其优于抽取式基线但仍落后于级联系统，并分析了差距与未来方向。
2023-06-06 cs.AI cs.CL cs.LG
Abstractive Text Summarization using Attentive GRU based Encoder-Decoder
Jadavpur University（贾达普大学）；Indian Association for the Cultivation of Science（印度科学培育协会）；TCG Crest
在当今时代，大量的信息无处不在。因此，至关重要的是，要对这些信息进行评估，从中提取有用的信息，而且往往是摘要信息，以便用于相关目的。这种提取可以通过人工智能的关键技术，即机器学习来实现。事实上，自动文本摘要已经成为机器学习在文本处理中的一个重要应用。本文采用基于GRU的编解码器实现了一个英文文本摘要器。加入了Bahdanau注意力机制，以克服处理输入文本中长序列的问题。新闻摘要数据集已被用来训练模型。观察到的输出优于文献中的竞争模型。生成的摘要可以用作报纸标题。
2023-02-25 cs.AI cs.CL cs.LG
Read Top News First: A Document Reordering Approach for Multi-Document News Summarization
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Columbia University（哥伦比亚大学）
提取多文档新闻摘要的常用方法是将所有文档连接为单个元文档，将其重新表示为单文档摘要问题。然而，这种方法忽略了文档的相对重要性。我们提出了一个简单的方法来重新排序的文件，根据它们的相对重要性，然后再连接和总结它们。重新排序使得显著内容更容易通过摘要模型学习。实验表明，我们的方法优于以前的国家的最先进的方法与更复杂的架构。
2022-03-19 cs.CL
Automated Text Summarization Base on Lexicales Chain and graph Using of WordNet and Wikipedia Knowledge Base
Tarbiat Modares University（塔比亚特·莫达雷斯大学）
文档自动摘要技术的发展日趋成熟，为解决信息过载问题提供了一条新的途径。摘要在信息检索中起着重要的作用。对于大量文档，向用户呈现每个文档的摘要极大地促进了查找所需文档的任务。文档摘要是自动生成文档的压缩版本，为用户提供有用信息的过程，而多文档摘要是从一组文档中生成摘要，提供关于显式或隐式主题的大部分信息内容。文本的词汇衔接结构可以用来确定句子/短语的重要性。词汇链是分析篇章中词汇衔接结构的有效工具，本文考虑了词汇衔接特征在自动文摘中的作用，并提出了一种基于知识库的自动文摘算法。该算法首先找出词的正确词义，然后构造词汇链，去除得分较低的词汇链，从词汇链中粗略地检测出主题，并根据主题对文本进行分割，选出最重要的句子。在DUC 01和DUC 02的开放基准数据集上的实验结果表明，与最先进的摘要方法相比，我们提出的方法可以提高性能。
2012-03-15 cs.CL cs.IR
Multi-News: a Large-Scale Multi-Document Summarization Dataset and Abstractive Hierarchical Model
Yale University（耶鲁大学）
随着在线出版物数量的迅速增长，从多篇新闻文章自动生成摘要是一个有价值的工具。由于大数据集的可用性，单文档摘要（SDS）系统受益于神经编码器-解码器模型的进步。然而，新闻文章的多文档摘要（MDS）仅限于几百个例子的数据集。在本文中，我们介绍了多新闻，第一个大规模的MDS新闻数据集。此外，我们提出了一个端到端的模型，该模型将传统的提取摘要模型与标准SDS模型相结合，并在MDS数据集上取得了有竞争力的结果。我们在Multi-News上对几种方法进行了基准测试，并发布了我们的数据和代码，希望这项工作能够促进多文档环境中摘要的进步。
2019-06-19 cs.CL
Dataset for Automatic Summarization of Russian News
Moscow Institute of Physics and Technology（莫斯科物理技术学院）
自动文本摘要已经在各种领域和语言中被研究。但这并不适用于俄语。为了克服这个问题，我们提出了Gazeta，第一个俄罗斯新闻摘要数据集。我们描述了这个数据集的属性和基准几个提取和抽象模型。我们证明，该数据集是一个有效的任务，为俄罗斯文本摘要的方法。此外，我们证明了预训练的mBART模型是有用的俄语文本摘要。
2021-10-05 cs.CL
Unsupervised Extractive Summarization using Pointwise Mutual Information
New York University（纽约大学）
提取摘要的无监督方法通常依赖于由句子和文档之间的语义相似性定义的句子重要性的概念。我们提出了新的度量相关性和冗余使用逐点互信息（PMI）之间的句子，这可以很容易地计算出一个预先训练的语言模型。直觉上，一个相关的句子允许读者推断文档内容（高PMI的文档），而一个冗余的句子可以从摘要中推断出来（高PMI的摘要）。然后，我们开发了一个贪婪的句子选择算法，以最大限度地提高相关性和最小化冗余提取的句子。我们表明，我们的方法优于基于相似性的方法在一系列领域的数据集，包括新闻，医学期刊文章和个人轶事。
2021-03-22 cs.CL cs.LG
A Mixed-Language Multi-Document News Summarization Dataset and a Graphs-Based Extract-Generate Model
Faculty of Information Engineering and Automation, Kunming University of Science and Technology（昆明理工大学信息工程与自动化学院）；Yunnan Key Laboratory of Artificial Intelligence, Kunming University of Science and Technology（昆明理工大学云南省人工智能重点实验室）
针对混合语言多文档新闻摘要研究缺乏数据集的问题，本文构建了包含四种语言和10,992个文档摘要对的MLMD-news数据集，并提出基于图的抽取-生成模型进行基准测试，以推动该领域研究。
2024-10-13 cs.CL
Leveraging Digitized Newspapers to Collect Summarization Data in Low-Resource Languages
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
针对低资源语言高质量摘要数据稀缺的问题，提出利用数字化报纸头版导语收集天然摘要的新方法，开发适配不同资源水平的自动化采集流程，构建了首个希伯来语多文档摘要数据集HEBTEASESUM。
2025-11-18 cs.CL
