Improving Factuality of Abstractive Summarization without Sacrificing Summary Quality
Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；University of Southern California（南加州大学）
提出EFACTSUM候选摘要生成与排序技术，结合对比学习框架与排序策略，在不牺牲摘要质量的前提下显著提升生成式摘要的事实性。
2023-05-24 cs.AI cs.CL cs.LG
BRIO: Bringing Order to Abstractive Summarization
Yale University（耶鲁大学）；Carnegie Mellon University（卡内基梅隆大学）
抽象摘要模型通常使用最大似然估计进行训练，该估计假设确定性（一点）目标分布，其中理想模型将所有概率质量分配给参考摘要。这种假设可能会导致推理过程中的性能下降，其中模型需要比较几个系统生成的（候选）摘要，这些摘要偏离了参考摘要。为了解决这个问题，我们提出了一种新的训练范式，它假设一个非确定性分布，使不同的候选摘要分配概率质量根据其质量。我们的方法在CNN/DailyMail（47.78 ROUGE-1）和XSum（49.07 ROUGE-1）数据集上实现了新的最先进的结果。进一步的分析还表明，我们的模型可以估计候选摘要的概率与其质量水平更相关。
2022-03-31 cs.CL
OrderSum: Semantic Sentence Ordering for Extractive Summarization
OrderSum提出了一种新颖的抽取式摘要模型，通过将句子顺序融入摘要嵌入并训练模型识别语义空间中更好的顺序，同时提升了句子包含与排序性能，在CNN/DailyMail上以ROUGE-L 30.52超越先前最优模型2.54。
2025-02-22 cs.CL
On the Role of Summary Content Units in Text Summarization Evaluation
TU Darmstadt（达姆施塔特工业大学）；University of Zurich（苏黎世大学）；Amazon AGI（亚马逊AGI）；New York University（纽约大学）；Google Research（谷歌研究院）；ADAPT Centre, DCU（都柏林城市大学ADAPT中心）；Yale University（耶鲁大学）；Bloomberg（彭博公司）；trivago N.V.（trivago公司）；University of Edinburgh（爱丁堡大学）；Allen Institute for AI（艾伦人工智能研究所）；IBM Research Europe, Ireland（IBM欧洲研究院爱尔兰分部）
本文研究 SCU 及其自动近似在 Pyramid 摘要评估中的作用，提出基于 AMR 和 LLM 的 SMU、SGU，并发现 SGU 近似质量最佳且 SCU 更适用于短摘要排序。
2024-04-02 cs.CL
SPEC: Summary Preference Decomposition for Low-Resource Abstractive Summarization
National Yang Ming Chiao Tung University（国立阳明交通大学）
神经摘要自动文摘已经得到了广泛的研究，并在大规模语料库中取得了巨大的成功。然而，注释数据的成本相当高，因此需要在资源匮乏的环境下制定学习策略。在本文中，我们研究的问题，只有很少的例子学习摘要，并提出相应的改进方法。首先，典型的迁移学习方法容易受到数据属性和学习目标的影响。因此，基于预训练的语言模型，我们进一步提出了一个Meta学习框架，将少样本学习过程从源语料库转移到目标语料库。其次，以前的方法从训练样本中学习，而没有分解内容和偏好。因此，生成的摘要可能会受到训练集中偏好偏差的限制，特别是在资源不足的情况下。因此，我们建议通过参数调制在学习过程中分解内容和偏好，从而在推理过程中控制偏好。第三，给定目标应用程序，指定所需的偏好可能是不平凡的，因为偏好可能难以通过观察得出。因此，我们提出了一种新的解码方法来自动估计合适的偏好，并从少量的训练样本中生成相应的摘要候选。大量的实验表明，我们的方法实现了国家的最先进的性能在六个不同的语料库与30.11%/33.95%/27.51%和26.74%/31.14%/24.48%的平均改善ROUGE-1/2/L在10和100个例子的设置。
2023-03-24 cs.AI cs.CL
Learning to Fuse Sentences with Transformers for Summarization
University of Central Florida（中佛罗里达大学）；Adobe Research（奥多比研究院）
摘要系统具有很强的句子融合能力，因为这是生成简洁摘要的必要步骤。然而，到目前为止，总结器可能无法融合句子。他们倾向于通过融合产生很少的摘要句或产生不正确的融合，导致摘要无法保留原始意义。在本文中，我们探讨了Transformers融合句子的能力，并提出了新的算法，以提高他们的能力，通过利用句子之间的对应点的知识来执行句子融合。通过大量的实验，我们研究了不同的设计选择对Transformer性能的影响。我们的研究结果突出了建模点之间的对应有效的句子融合的重要性。
2020-10-08 cs.CL
Multi-Document Summarization via Discriminative Summary Reranking
Peking University（北京大学）；Microsoft Research Asia（微软亚洲研究院）
现有的多文档摘要系统通常依赖于特定的摘要模型（即，具有特定参数设置的摘要方法）来提取具有不同主题的不同文档集的摘要。然而，根据我们的定量分析，没有一个现有的摘要模型可以总是产生高质量的摘要，为不同的文档集，即使是一个摘要模型具有良好的整体性能可能会产生低质量的摘要为某些文档集。相反，基线摘要模型可以为某些文档集生成高质量的摘要。基于上述观察结果，我们把不同摘要模型产生的摘要作为候选摘要，然后探索区分性重排序技术，以从不同文档集的候选摘要中识别出高质量的摘要。我们建议提取一组候选摘要为每个文档集的基础上的ILP框架，然后利用排名SVM摘要重新排名。各种有用的功能已经开发的重排序过程中，包括词级功能，摘要级功能和摘要级功能。在DUC数据集上的测试结果验证了该方法的有效性和鲁棒性。
2015-07-08 cs.CL
Exploiting local and global performance of candidate systems for aggregation of summarization techniques
DA-IICT（达达布海·安巴尼信息技术与通信研究所）
随着越来越多的提取摘要技术被提出，每个系统与其他系统相比有多好就不那么清楚了。几项研究强调了这些系统的性能随着数据集甚至同一语料库中的文档的变化而变化。一个有效的方法来抵消这种差异，使系统更强大，可以使用来自多个系统的输入时，生成一个摘要。在目前的工作中，我们定义了一种新的方式来创建这样的合奏利用候选摘要的内容之间的相似性，以估计其可靠性。我们定义了GlobalRank，它可以捕获候选系统在整个语料库上的性能，LocalRank可以估计其在给定文档集群上的性能。然后，我们使用这两个分数为每个系统分配权重，然后使用该权重生成新的聚合排名。DUC 2003和DUC 2004数据集上的实验表明，在ROUGE评分方面，现有的最先进的技术有显着的改善。
2018-09-07 cs.AI cs.CL cs.IR
Generating EDU Extracts for Plan-Guided Summary Re-Ranking
Salesforce Research（赛富时研究院）；Columbia University（哥伦比亚大学）
本文提出利用BART生成EDU内容计划并引导抽象式候选生成，以改进计划引导的摘要重排序，在多个新闻数据集上显著提升ROUGE分数。
2023-05-28 cs.CL
Attention-based Multi-hypothesis Fusion for Speech Summarization
NTT Corporation（日本电报电话公司）；Carnegie Mellon University（卡内基梅隆大学）
将自动语音识别（ASR）和文本摘要（TS）相结合可以实现从语音生成文本摘要的语音摘要。通过这种级联方法，我们可以为两个子任务利用最先进的模型和大型训练数据集，即，用于ASR的Transformer和用于TS的来自Transformers（BERT）的双向编码器表示。然而，在级联方法中，ASR错误直接影响输出摘要的质量。我们提出了一个级联的语音摘要模型，是强大的ASR错误，并利用多个假设产生的ASR衰减的影响ASR错误的摘要。我们研究了几种方案，结合ASR假设。首先，我们建议使用由ASR系统提供的后验值加权的子词嵌入向量的总和作为基于BERT的TS系统的输入。然后，我们介绍了一个更一般的方案，使用基于注意力的融合模块添加到一个预先训练的BERT模块对齐和组合几个ASR假设。最后，我们在How2数据集和一个新组装的基于TED的数据集上进行了语音摘要实验，我们将在本文中发布。这些实验表明，再训练的BERT为基础的TS系统与这些计划，可以提高摘要的性能和注意力为基础的融合模块是特别有效的。
2021-11-16 cs.CL eess.AS
SCURank: Ranking Multiple Candidate Summaries with Summary Content Units for Enhanced Summarization
Department of Computer Science and Information Engineering, National Cheng Kung University（国立成功大学计算机科学与资讯工程系）；Artificial Intelligence Research Center, Chang Gung University（长庚大学人工智能研究中心）；Department of Artificial Intelligence, Chang Gung University（长庚大学人工智能系）；Department of Computer Science, National Tsing Hua University（国立清华大学计算机科学系）
SCURank通过摘要内容单元提升摘要生成，优于传统指标和LLM排序方法，验证了信息导向排序在多LLM蒸馏中的优势。
2026-04-21 cs.AI cs.CL
Centrality Meets Centroid: A Graph-based Approach for Unsupervised Document Summarization
近年来，无监督文档摘要由于其简单性和数据独立性而重新获得了大量关注。在本文中，我们提出了一个基于图的无监督方法提取文档摘要。而不是排名的句子的显着性和提取句子一个接一个，我们的方法工作在一个总结的水平，利用图中心和质心。我们首先从句子图中提取基于中心性的摘要候选作为子图，然后通过匹配到质心来从摘要候选中选择。我们在两个基准摘要数据集上进行了广泛的实验，结果表明，与最先进的基线相比，我们的模型是有效的。
2021-04-22 cs.CL
Non-Parametric Memory Guidance for Multi-Document Summarization
LIRIS（里尔信息与信号处理实验室）；Visiativ（维西阿蒂夫公司）
针对多文档摘要中源文档信息不足的问题，提出结合非参数记忆的检索器引导模型，利用ANN检索候选并融合复制机制生成摘要，在MultiXScience数据集上验证有效性。
2023-11-14 cs.CL
Abstractive Meeting Summarization UsingDependency Graph Fusion
The Pennsylvania State University（宾夕法尼亚州立大学）；Qatar Computing Research Institute（卡塔尔计算研究所）；National University of Singapore（新加坡国立大学）
迄今为止开发的会议会话自动摘要技术主要是提取的，导致摘要不佳。为了改善这一点，我们提出了一种方法来生成抽象的摘要融合重要内容从几个话语。任何会议通常都由几个讨论主题部分组成。对于会议会话中的每个主题段，我们的目标是使用基于整数线性规划的句子融合方法从最重要的话语中生成一个句子摘要。实验结果表明，我们的方法可以产生更多的信息摘要比基线。
2016-09-22 cs.CL
FactReranker: Fact-guided Reranker for Faithful Radiology Report Summarization
Weill Cornell Medicine, Cornell University（康奈尔大学威尔康奈尔医学院）；Michigan State University（密歇根州立大学）
自动放射学报告摘要是一项重要的临床任务，其关键挑战是保持所产生的摘要与真实放射学结果之间的事实准确性。现有的研究采用强化学习来直接优化事实一致性度量，如CheXBert或RadGraph得分。然而，他们使用贪婪搜索或束搜索的解码方法在挑选最佳候选时不考虑事实一致性，导致有限的事实一致性改进。为了解决这个问题，我们提出了一种新的第二阶段总结方法FactReranker，第一次尝试学习根据估计的事实一致性得分从所有候选人中选择最佳摘要。我们建议提取医学事实的输入医疗报告，其黄金摘要，和候选人的RadGraph模式的基础上的摘要和设计的事实指导reranker有效地将提取的医疗事实，选择最佳的摘要。我们将事实引导的重排序器分解为事实知识图谱生成和事实评分器，使得重排序器能够对输入文本的医学事实与其黄金摘要之间的映射进行建模，从而在推理过程中即使无法观察到黄金摘要也能选择最优摘要。我们还提出了一个基于事实的排名度量（RadMRR），用于测量的reranker选择事实一致的候选人的能力。在两个基准数据集上的实验结果表明，与现有方法相比，该方法在生成具有更高事实一致性分数的摘要方面具有优越性。
2023-03-16 cs.AI cs.CL
Extending Multi-Text Sentence Fusion Resources via Pyramid Annotations
Computer Science Department, Bar-Ilan University（巴伊兰大学计算机科学系）
比较或整合多个文档中信息的NLP模型在识别文本中大量信息冗余的挑战时往往会遇到困难。例如，在多文档摘要中，识别跨文本的显著信息，然后生成非冗余摘要是至关重要的，同时面对重复的且通常措辞不同的显著内容。为了便于研究这些挑战，提出了\textit{sentence fusion}的任务级别，但以前用于该任务的数据集在大小和范围上非常有限。在本文中，我们重新审视并大大扩展了以前的数据集创建工作。通过仔细修改，重新标记和采用补充数据源，我们能够将早期数据集的大小增加两倍。此外，我们还证明了我们的扩展版本在多文档任务中使用了更具代表性的文本，并提供了更大、更多样化的训练集，这大大改善了模型训练。
2021-10-09 cs.CL
Dynamic Fusion Networks for Machine Reading Comprehension
Carnegie Mellon University（卡内基梅隆大学）；Microsoft AI&R（微软人工智能与研究事业部）
提出了一种新的用于机器阅读理解（MRC）的神经网络模型--动态融合网络（DFN）。DFN与大多数最先进的模型不同之处在于它们使用动态多策略注意过程，其中段落，问题和答案候选者共同融合为注意向量，以及用于生成答案的动态多步推理模块。通过使用强化学习，对于由问题、段落和候选答案列表组成的每个输入样本，可以通过确定要应用什么注意力策略以及要采取多少推理步骤来动态地构建具有样本特定网络架构的DFN实例。实验表明，DFN实现了RACE上报告的最佳结果，RACE是一个具有挑战性的MRC数据集，包含各种类型的真实人类阅读问题。一个详细的实证分析还表明，DFNs可以产生的注意向量，总结信息的问题，段落和答案的候选人比其他流行的MRC模型更有效。
2018-02-26 cs.CL
Candidate Fusion: Integrating Language Modelling into a Sequence-to-Sequence Handwritten Word Recognition Architecture
Computer Vision Center（计算机视觉中心）；omni:us
序列到序列模型最近在解决手写单词识别问题方面变得非常流行。然而，如何有效地将外部语言模型集成到这样的识别器中仍然是一个具有挑战性的问题。训练语言模型时面临的主要挑战是处理语言模型语料库，该语料库通常不同于用于训练手写单词识别系统的语料库。因此，这两个词语料库之间的偏见导致不正确的transmittance，提供类似的，甚至更差的性能上的识别任务。在这项工作中，我们介绍了候选融合，一种新的方式来集成外部语言模型的序列到序列的架构。此外，它提供了来自外部语言知识的建议，作为序列到序列识别器的新输入。因此，候选融合提供了两个改进。一方面，序列到序列识别器具有灵活性，不仅可以将来自自身的信息与来自语言模型的信息相结合，而且可以选择由语言模型提供的信息的重要性。另一方面，外部语言模型具有自适应训练语料库的能力，甚至能够学习识别器产生的最常见的错误。最后，通过进行综合实验，候选融合证明优于国家的最先进的语言模型的手写体字识别任务。
2019-12-21 cs.CL cs.CV
SgSum: Transforming Multi-document Summarization into Sub-graph Selection
Baidu Inc.（百度公司）
现有的抽取式多文档摘要（MDS）方法大多对每个句子单独打分，然后逐个抽取显著句子组成摘要，其主要缺点是：（1）忽略了句子之间的文档内和跨文档关系;（2）忽略了整个摘要的连贯性和简洁性。在本文中，我们提出了一种新的MDS框架（SgSum），将MDS任务表示为子图选择问题，其中源文档被视为句子的关系图（例如，相似性图或论述图），并且候选概要是其子图。SgSum不是选择突出的句子，而是从关系图中选择一个突出的子图作为摘要。与传统方法相比，该方法具有两个主要优点：（1）通过对整个文档集的图结构和候选子图进行建模来捕捉句子之间的关系;（2）直接以子图的形式输出完整的摘要，信息量更大，连贯性更强。在MultiNews和DUC数据集上的大量实验表明，我们提出的方法在几个强基线上带来了实质性的改进。人类的评估结果也表明，我们的模型可以产生显着更连贯的和信息丰富的摘要相比，传统的MDS方法。此外，所提出的架构具有很强的转换能力，从单一到多文档输入，这可以减少MDS任务的资源瓶颈。我们的代码和结果可在：\url{https://github.com/PaddlePaddle/Research/tree/master/NLP/EMNLP2021-SgSum}。
2021-10-25 cs.CL
Faithful Chart Summarization with ChaTS-Pi
Google DeepMind（谷歌DeepMind）
本研究提出无需参考的图表摘要忠实度评分指标CHATS-CRITIC及利用其修复和排序候选摘要的流水线CHATS-PI，在两个数据集上取得最优结果。
2024-05-29 cs.AI cs.CL
Enhancing Factuality through Consensus and Consistency in Summarization Using Minimum Bayes Risk Decoding
Nara Institute of Science and Technology（奈良科学技术研究所）；Chungnam National University（全南国立大学）；Institute of Science Tokyo（东京科学研究所）
提出ConSUM方法，利用最小贝叶斯风险解码建立候选摘要间的共识，并结合与源文档的一致性指标进行重排序，以提升摘要的事实性。
2026-05-28 cs.CL
Segment-level Tree Search for Long Meeting Document Summarization
GSAI, POSTECH（浦项科技大学人工智能研究院）；CSE, POSTECH（浦项科技大学计算机科学与工程系）；ETH Zurich（苏黎世联邦理工学院）；ETH AI Center（苏黎世联邦理工学院人工智能中心）；Agentic AI Lab, KT（KT公司智能体人工智能实验室）；LILT（LILT公司）
提出基于蒙特卡洛树搜索的段级摘要框架S3，无需训练即可组合段级候选摘要，使用7B模型达到72B模型性能。
2026-06-07 cs.AI cs.CL
A New Approach to Overgenerating and Scoring Abstractive Summaries
University of Central Florida（中佛罗里达大学）；Robert Bosch LLC（罗伯特·博世有限责任公司）
提出了一种新的方法，生成内容多样、长度可变的目标摘要的多个变体，然后根据用户的需求进行评分并选择可接受的变体。在单个参考摘要上训练的抽象摘要器可能难以产生实现多个期望属性的输出，即，抓住最重要的信息，忠实于原文，语法和流利。在本文中，我们提出了一个两阶段的策略，产生一个多样化的候选摘要集的源文本在第一阶段，然后评分，并选择在第二阶段的认可。重要的是，我们的生成器可以精确控制摘要的长度，特别适合空间有限的情况。我们的选择器旨在预测最佳摘要长度，并特别强调对原文的忠实性。这两个阶段都可以有效地训练，优化和评估。我们在基准摘要数据集上的实验表明，这种范式可以实现最先进的性能。
2021-04-05 cs.CL
Don't Rank, Combine! Combining Machine Translation Hypotheses Using Quality Estimation
HEIG-VD / HES-SO（沃州高等工程学院 / 瑞士应用科学大学联盟）
本文提出QE-fusion方法，利用质量估计指标组合多个候选翻译片段，在多个大语言模型和多语言翻译模型上相比束搜索和重排序方法持续提升翻译质量，并验证其随候选数量线性扩展。
2024-06-06 cs.CL cs.LG
Content based Weighted Consensus Summarization
Dhirubhai Ambani Institute of Information and Communication Technology（迪鲁拜·安巴尼信息与通信技术学院）
多文档摘要在过去的几十年里受到了广泛的关注。已经提出了几种方法，其中许多方法表现同样好，并且越来越难以选择一种特定的系统而不是另一种。能够利用每个单独系统的优势的此类系统的集合可以构建更好和更鲁棒的摘要。尽管如此，在这方面的尝试很少。在本文中，我们描述了一类集成系统，使用候选系统之间的共识，以建立一个更好的元摘要。我们强调这样的系统的两个主要缺点：无法考虑到个别系统的相对性能和忽视的内容，有利于句子排名的候选摘要。我们提出了一种替代方法，基于内容的加权共识摘要，解决这些问题。我们使用伪相关摘要来估计单个候选系统的性能，然后使用这些信息来生成更好的综合排名。DUC 2003和DUC 2004数据集上的实验表明，该系统优于现有的共识为基础的技术的大幅度。
2018-02-03 cs.CL cs.IR
Faster Machine Translation Ensembling with Reinforcement Learning and Competitive Correction
Media Analysis Group, Sony Research India, Bangalore（索尼印度研究所在班加罗尔的媒体分析组）
本文提出SmartGen，一种基于强化学习的机器翻译集成策略，通过选择少量候选并利用融合模块反馈训练，结合竞争修正模块，在英印翻译中实现更快且更优的集成性能。
2025-01-25 cs.CL
Learning Effective Representations for Person-Job Fit by Feature Fusion
Ping An HR-X Laboratory（平安HR-X实验室）；National University of Singapore（新加坡国立大学）
人岗匹配是利用机器学习算法，将在线招聘平台上的候选人和职位进行匹配。匹配算法的有效性在很大程度上取决于候选人和职位的学习表示。在本文中，我们建议通过特征融合来学习候选人和职位的全面有效的表示。首先，除了应用深度学习模型来处理简历和职位中的自由文本之外，我们还从整个简历（和职位）中提取语义实体，然后为它们学习特征。通过融合来自自由文本和实体的特征，我们得到了简历和职位信息的全面表示。第二，然而，候选人或工作的一些信息可能不会在简历或工作职位中明确捕获。尽管如此，包括接受和拒绝案例在内的历史申请可以揭示候选人或招聘人员的一些隐含意图。因此，我们建议通过使用LSTM处理历史应用程序来学习隐式意图的表示。最后，通过对外显和内隐意图表征的融合，得到了一个更全面、更有效的人-职匹配表征。通过对10个月的实际数据进行实验，结果表明，该方法的性能明显优于现有方法。消融研究证实了融合表示的每个组件的贡献。提取的语义实体有助于解释匹配结果在案例研究。
2020-06-12 cs.CL cs.IR cs.LG
Entity Disambiguation via Fusion Entity Decoding
Cornell University（康奈尔大学）；Apple Inc（苹果公司）；University of Waterloo（滑铁卢大学）；Adobe（奥多比公司）
针对生成式实体消歧忽视实体描述、预训练成本高且生成低效的问题，提出融合候选实体表示的编码器-解码器模型，在 ZELDA 和 GERBIL 上均较现有方法提升 1.5%。
2024-05-08 cs.CL cs.IR
LLM-Blender: Ensembling Large Language Models with Pairwise Ranking and Generative Fusion
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Southern California（南加利福尼亚大学）；Zhejiang University（浙江大学）
本文提出LLM-Blender集成框架，通过PairRanker成对排序和GenFuser生成式融合模块，利用多个开源LLMs的多样化优势，在MixInstruct基准上显著优于单个LLMs和基线方法。
2023-06-30 cs.AI cs.CL cs.LG
