Fast Abstractive Summarization with Reinforce-Selected Sentence Rewriting
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
受人类如何总结长文档的启发，我们提出了一个准确快速的摘要模型，首先选择突出的句子，然后抽象地重写它们（即，压缩和释义）以生成简明的总体概要。我们使用了一种新的策略级策略梯度方法，以分层的方式在这两个神经网络之间架起不可微计算的桥梁，同时保持语言的流畅性。从经验上讲，我们在CNN/Daily Mail数据集上的所有指标（包括人工评估）上都达到了最新水平，而且抽象度得分也显著提高。此外，通过首先在段落级操作，然后在单词级操作，我们实现了神经生成模型的并行解码，这使得推理速度比以前的长段落编码器-解码器模型快得多（10- 20倍），训练收敛速度也快4倍。我们还展示了我们的模型在仅测试DUC-2002数据集上的泛化，在那里我们获得了比最先进的模型更高的分数。
2018-05-28 cs.AI cs.CL cs.LG
MoverScore: Text Generation Evaluating with Contextualized Embeddings and Earth Mover Distance
Technische Universität Darmstadt（达姆施塔特工业大学）；University of Central Florida（中佛罗里达大学）
一个健壮的评价指标对文本生成系统的发展有着深远的影响。一个理想的度量比较系统输出和参考的基础上，他们的语义，而不是表面形式。在本文中，我们研究的策略，编码系统和参考文本设计一个度量，显示了高度相关性与人类判断的文本质量。我们验证了我们的新指标，即MoverScore，在一些文本生成任务，包括摘要，机器翻译，图像描述，和数据到文本的生成，其中的输出是由各种神经和非神经系统。我们的研究结果表明，结合上下文表示与距离测量的指标表现最好。这样的度量还展示了跨任务的强大泛化能力。为了便于使用，我们将指标作为Web服务提供。
2019-09-26 cs.CL
Summary Refinement through Denoising
Institute of Neuroinformatics, University of Zürich and ETH Zürich（苏黎世大学与苏黎世联邦理工学院神经信息学研究所）
我们提出了一个简单的方法后处理的文本摘要系统的输出，以改善其整体质量。我们的方法是训练文本到文本重写模型，以纠正信息冗余的错误，可能会出现在摘要。我们对合成生成的噪声摘要进行训练，测试三种不同类型的噪声，这些噪声在每个摘要中引入了上下文外的信息。当应用于提取和抽象摘要基线时，我们的摘要去噪模型在减少冗余的同时提高了指标。
2019-07-25 cs.CL
Enriching and Controlling Global Semantics for Text Summarization
VinAI Research（VinAI研究院）；Nanyang Technological University（南洋理工大学）；Ho Chi Minh City University of Technology（胡志明市技术大学）；National University Ho Chi Minh City（胡志明市国家大学）
本文提出通过引入带有归一化流的神经主题模型来捕捉文档全局语义，以解决摘要模型中短程依赖问题，从而提升摘要质量。
2026-05-12 cs.CL
Automatic Summarization of Open-Domain Podcast Episodes
University of Central Florida（中佛罗里达大学）；Tencent AI Lab（腾讯人工智能实验室）
我们介绍了我们的抽象摘要器的实现细节，这些摘要器在TREC 2020的播客摘要任务中取得了有竞争力的结果。捕捉重要信息的简洁文本摘要对于用户决定是否收听播客至关重要。以前的工作主要集中在学习上下文表示。相反，我们研究了神经抽象概括的几个较少研究的方面，包括（i）从成绩单中选择重要片段作为摘要器输入的重要性;（ii）在训练实例的数量和质量之间取得平衡;（iii）适当的摘要长度和开始/结束点。我们强调我们的系统背后的设计考虑，并提供关键的见解神经抽象系统的优点和缺点。我们的研究结果表明，确定重要的部分，从成绩单作为输入到一个抽象的总结是有利的总结长文件。我们最好的系统达到了1.559的质量评级，由NIST评估员判断-比创建者描述的绝对值增加了0.268（+21%）。
2020-11-12 cs.CL
Automatic Text Evaluation through the Lens of Wasserstein Barycenters
LTCI, Telecom Paris, Institut Polytechnique de Paris（巴黎综合理工学院电信巴黎分校LTCI）；IBM GBS France（IBM全球企业咨询服务部法国）；CentraleSupelec-CNRS, Universite Paris-Saclay（巴黎萨克雷大学中央理工-高等电力学院-法国国家科学研究中心）
一种新的度量\texttt{BaryScore}，用于评估基于深度上下文化嵌入的文本生成，BERT，Roberta，ELMo）。这一指标的动机是一个新的框架，依赖于最佳的运输工具，即，Wasserstein距离和重心。通过将深度情境化嵌入的层输出建模为概率分布而不是向量嵌入;该框架提供了一种通过Wasserstein空间拓扑聚合不同输出的自然方法。此外，它为我们的度量提供了理论依据，并提供了可用解决方案的替代方案，例如，MoverScore和BertScore）。数值评估是在四个不同的任务：机器翻译，摘要，数据2 text生成和图像描述。我们的研究结果表明，\texttt{BaryScore}优于其他BERT为基础的指标，并表现出更一致的行为，特别是对文本摘要。
2021-09-09 cs.AI cs.CL
Towards Clinical Encounter Summarization: Learning to Compose Discharge Summaries from Prior Notes
University of Maryland（马里兰大学）；Amazon Web Service AI（亚马逊云服务人工智能）
临床遭遇的记录可能是广泛和复杂的，因此需要能够提取和总结相关信息的工具。本文介绍的任务，产生出院摘要的临床遭遇。在这种情况下，摘要需要忠实、可追溯，并可扩展到多个长文档，这促使使用提取然后抽象的摘要级联。我们引入了两个新的措施，忠实度和幻觉率在这项任务中的评估，补充现有的流畅性和信息量的措施。七个医学部分和五个模型的结果表明，支持可追溯性的摘要架构产生了有希望的结果，并且在不同范围的生成部分上，重复重写方法在用于忠诚度的测量（忠诚度调整的$F_3$）上表现一致。
2021-04-27 cs.CL cs.LG
Citance-Contextualized Summarization of Scientific Papers
Leipzig University（莱比锡大学）；University of Groningen（格罗宁根大学）
提出一种基于引文上下文的科学论文摘要方法，利用引文检索相关段落并生成针对性摘要，在包含54万篇论文和460万条引文的新数据集上评估。
2023-11-13 cs.CL
Multi-Reward Reinforced Summarization with Saliency and Entailment
UNC Chapel Hill（北卡罗来纳大学教堂山分校(UNC Chapel Hill)）
摘要文本摘要是将长文档压缩并重写为简短摘要的任务，同时保持显著性，定向逻辑蕴涵和非冗余。在这项工作中，我们通过强化学习方法解决了这三个重要方面的一个很好的总结与两个新的奖励函数：ROUGESal和Entail，在基于覆盖率的基线之上。ROUGESal奖励通过对经由关键短语分类器检测到的显著短语/单词进行上加权来修改ROUGE度量。蕴涵奖励使用蕴涵分类器为逻辑蕴涵摘要提供高（长度归一化）分数。此外，当这些奖励与传统的基于度量（ROUGE）的奖励相结合时，我们表现出卓越的性能改善，通过我们新颖有效的多奖励方法，在交替的小批量中同时优化多个奖励。我们的方法在CNN/Daily Mail数据集上实现了新的最先进的结果（包括人类评估），并在DUC-2002上的测试传输设置中取得了很大的改进。
2018-05-29 cs.AI cs.CL cs.LG
ScholarSum: Student-Teacher Abstractive Summarization via Knowledge Graph Reasoning and Reflective Refinement
State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）
提出ScholarSum框架，通过构建层次知识图谱引导学生生成初稿，并利用教师式审阅者迭代检查与修正，实现科学文献摘要的流畅性与事实一致性。
2026-06-18 cs.CL cs.IR
Joint Copying and Restricted Generation for Paraphrase
The Hong Kong Polytechnic University（香港理工大学）；Hong Kong Polytechnic University Shenzhen Research Institute（香港理工大学深圳研究院）；Wuhan University（武汉大学）；Peking University（北京大学）
许多自然语言生成任务，如摘要摘要和文本简化，都是面向释义的。在这些任务中，复制和重写是两种主要的写作模式。大多数以前的序列到序列（Seq2Seq）模型使用单个解码器，忽略了这一事实。在本文中，我们开发了一种新的Seq2Seq模型融合复制解码器和限制生成解码器。复制解码器基于典型的注意力模型找到要复制的位置。生成解码器产生在特定于源的词汇表中受限的词。为了结合两个解码器并确定最终输出，我们开发了一个预测器来预测复制或重写的模式。该预测器可以由训练数据中的实际写入模式来指导。我们在两个不同的释义数据集上进行了广泛的实验。结果表明，我们的模型优于国家的最先进的方法在信息量和语言质量。
2016-11-28 cs.CL cs.IR
Toward Human-Like Evaluation for Natural Language Generation with Error Analysis
Southeast University（东南大学）；JD Explore Academy（京东探索研究院）；University of Macau（澳门大学）
最先进的基于语言模型的自动度量，例如BARTScore，受益于大规模的上下文化预训练，已经成功地用于广泛的自然语言生成（NLG）任务，包括机器翻译、文本摘要和数据到文本。最近的研究表明，同时考虑主要错误（例如误译的标记）和次要错误（例如流畅性的缺陷）可以产生高质量的人类判断。这启发我们通过自动错误分析来接近评估指标的最终目标（类人评估）。为此，我们增加了BARTScore，结合类似人类的错误分析策略，即BARTScore ++，其中最终得分包括主要错误和次要错误的评估。实验结果表明，BARTScore ++可以持续提高vanilla BARTScore的性能，并在25个测试设置中的20个测试设置中优于现有的最高评分指标。我们希望我们的技术也可以扩展到其他预先训练的基于模型的指标。我们将发布我们的代码和脚本，以方便社区。
2022-12-20 cs.CL
Enhancing Semantic Understanding with Self-supervised Methods for Abstractive Dialogue Summarization
Samsung SDS（三星数据系统）
语境化的词嵌入可以在自然语言理解中产生最先进的性能。最近，预训练的深度上下文文本编码器（如BERT）在改进包括抽象摘要在内的自然语言任务方面显示出了潜力。现有的对话摘要方法集中于将大语言模型结合到由新闻文章而不是多个说话人的对话组成的大规模语料库上训练的摘要任务中。在本文中，我们引入自监督的方法来弥补不足，训练的对话摘要模型。我们的原则是检测不连贯的信息流使用借口对话文本，以提高BERT的能力，语境化的对话文本表示。我们使用增强的BERT在共享的编码器-解码器架构上构建并微调抽象对话摘要模型。我们经验评估我们的抽象对话摘要与SAMSum语料库，最近推出的数据集与抽象对话摘要。我们所有的方法都有助于改善ROUGE评分的抽象总结。通过广泛的消融研究，我们还提出了一个敏感性分析的关键模型超参数，切换话语和掩蔽对话者的概率。
2022-09-01 cs.AI cs.CL
Compression, Transduction, and Creation: A Unified Framework for Evaluating Natural Language Generation
Carnegie Mellon University（卡内基梅隆大学）；Petuum Inc.（Petuum 公司）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；UC San Diego（加利福尼亚大学圣迭戈分校）
自然语言生成（NLG）涉及广泛的任务，每个任务都服务于特定的目标，并且期望生成的文本具有不同的属性。这种复杂性使得NLG的自动评估特别具有挑战性。以前的工作通常集中在一个单一的任务，并根据具体的直觉开发个人的评估指标。在本文中，我们提出了一个统一的角度来看，有利于设计的指标范围广泛的语言生成任务和质量方面。基于从输入到输出的信息变化的性质，我们将NLG任务分类为压缩（例如，概括），转导（例如，文本重写），以及创建（例如，对话框）。输入、上下文和输出文本之间的信息对齐或重叠在表征生成过程中起着共同的核心作用。使用信息对齐的统一概念，我们开发了一个家庭的各种NLG任务和方面的可解释的指标，往往不需要黄金参考数据。为了使这些指标可操作化，我们训练自监督模型来近似信息对齐作为预测任务。实验表明，统一设计的指标实现了更强的或可比的相关性与人类的判断相比，国家的最先进的指标，在每个不同的任务，包括文本摘要，风格转移，和知识为基础的对话。以信息对齐作为中间表示，我们提供了一个可组合的库，便于NLG评估和未来的度量设计。
2022-01-21 cs.CL cs.LG
SUPERT: Towards New Frontiers in Unsupervised Evaluation Metrics for Multi-Document Summarization
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）；Technische Universität Darmstadt（达姆施塔特工业大学）
我们研究了无监督的多文档摘要评估指标，它既不需要人类编写的参考摘要，也不需要人类注释（例如偏好，评级等）。我们提出了SUPERT，通过测量其与伪参考摘要的语义相似性来评价摘要的质量，即从源文件中选择突出的句子，使用上下文嵌入和软标记对齐技术。与最先进的无监督评估指标相比，SUPERT与人类评分的相关性更高，达到18- 39%。此外，我们使用SUPERT作为奖励来指导基于神经的强化学习摘要器，与最先进的无监督摘要器相比，具有良好的性能。所有源代码都可以在https://github.com/yg211/acl20-ref-free-eval上找到。
2020-05-07 cs.CL cs.IR
Forging LLM Authorship Fingerprints with Targeted Rewriting
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；George Mason University（乔治梅森大学）；Indiana University（印第安纳大学）
针对模型归属分类器，提出ForgePrint框架，通过搜索-蒸馏方式改写文本以定向迁移模型指纹，在摘要任务上实现高目标成功率，揭示指纹检测不等于来源真实性。
2026-10-01 cs.CL
Event-Keyed Summarization
University of Rochester（罗切斯特大学）
提出事件键控摘要（EKS）任务，结合传统摘要与文档级事件抽取，构建MUCSUM数据集并提供基线模型，验证任务独特性与基准稳健性。
2024-02-10 cs.AI cs.CL cs.LG
The Slop Paradox: How Synthetic Standardization Erodes Clinical Uncertainty and Cross-Modal Alignment in AI-Rewritten Radiology Reports
School of Computing and Engineering Sciences, University of Chester（切斯特大学计算与工程科学学院）
本研究通过控制实验测量AI重写放射学报告导致的信息退化，发现电子健康记录摘要虽破坏内容但保留图像-文本对齐，而标准化重写和教学病例准备则相反，造成更大对齐损失，称为slop悖论。
2026-06-17 cs.CL cs.CV
Leveraging Pretrained Models for Automatic Summarization of Doctor-Patient Conversations
M Health Information Systems（3M健康信息系统公司）；Carnegie Mellon University（卡内基梅隆大学）
微调预训练模型自动总结医患对话成绩单提出了许多挑战：有限的训练数据，显着的域转移，长和嘈杂的成绩单，和高目标摘要的变化。在本文中，我们探讨了使用预训练的Transformer模型自动总结医患对话直接从成绩单的可行性。我们表明，流畅和充分的总结，可以产生有限的训练数据微调BART一个专门构造的数据集。由此产生的模型大大超过了平均人类注释者的性能和先前发布的任务工作的质量。我们评估了处理长对话的多种方法，将它们与截断对话以适应预训练模型长度限制的明显基线进行比较。我们引入了一个多阶段的方法，通过学习两个微调模型来处理任务：一个用于将会话块总结为部分摘要，然后将部分摘要的集合重写为完整的摘要。使用精心选择的微调数据集，这种方法被证明在处理较长的对话，提高生成的摘要的质量是有效的。我们进行自动评估（通过ROUGE和两个基于概念的指标，专注于医学发现）和人工评估（通过文献中的定性示例，评估幻觉，概括，流畅性和生成摘要的一般质量）。
2021-09-24 cs.CL cs.LG
Left, Right, or Center? Evaluating LLM Framing in News Classification and Generation
Ludwig-Maximilians-Universität München（慕尼黑大学）
研究评估了LLM在新闻分类和生成中的框架倾向，发现存在系统性的中间框架倾向，Grok 4表现最意识形态，Claude Sonnet 4.5和Llama 3.1在商业和开放权重模型中表现最佳。
2026-01-09 cs.CL
