Enhancing Abstractive Summarization of Scientific Papers Using Structure Information
Nanjing University of Science and Technology（南京理工大学）
针对现有科技论文生成式摘要方法难以捕捉结构信息、跨学科鲁棒性弱的问题，提出两阶段框架，通过结构功能自动识别与Longformer建模跨章节上下文，在领域数据集上优于先进基线。
2025-05-20 cs.AI cs.CL cs.IR
VERIRAG: A Post-Retrieval Auditing of Scientific Study Summaries
Cornell University（康奈尔大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；University of Illinois Urbana‑Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Los Angeles（加州大学洛杉矶分校）
VERIRAG通过后检索审计框架检测科学摘要的方法学漏洞，提升宏F1值19个百分点，提供结构化审计轨迹支持负责任的科学实践。
2025-12-05 cs.AI cs.IR
Self-Supervised Learning for Visual Summary Identification in Scientific Publications
Waseda University（早稻田大学）；University of Mannheim（曼海姆大学）；Waseda Research Institute for Science and Engineering（早稻田大学科学与工程研究院）
提供科学出版物的视觉摘要可以增加读者的信息访问，从而有助于应对科学出版物数量的指数增长。尽管如此，提供视觉出版物摘要的努力很少，而且相距甚远，主要集中在生物医学领域。这主要是因为有限的注释黄金标准，这阻碍了强大的和高性能的监督学习技术的应用。为了解决这些问题，我们创建了一个新的基准数据集，用于选择数字作为基于摘要的出版物的视觉摘要，涵盖计算机科学的几个领域。此外，我们开发了一种自监督学习方法，基于启发式匹配的内联引用的图与图标题。在生物医学和计算机科学领域的实验表明，我们的模型是能够超越最先进的，尽管是自我监督，因此不依赖于任何注释的训练数据。
2021-01-14 cs.CL cs.IR
Automated Lay Language Summarization of Biomedical Scientific Reviews
University of Washington（华盛顿大学）
卫生知识已成为作出适当卫生决定和确保治疗结果的一个关键因素。然而，医学术语和该领域专业语言的复杂结构使得健康信息特别难以解释。因此，迫切需要自动化方法来提高普通人群对生物医学文献的可访问性。这个问题可以被定义为医疗保健专业人员的语言和普通公众的语言之间的翻译问题。在本文中，我们介绍了自动生成生物医学科学评论的通俗语言摘要的新任务，并构建了一个数据集，以支持自动化方法的开发和评估，通过该方法来提高生物医学文献的可访问性。我们分析了解决这一任务的各种挑战，不仅包括关键点的总结，还包括背景知识的解释和专业语言的简化。我们实验了最先进的摘要模型以及几种数据增强技术，并使用自动化指标和人工评估来评估它们的性能。结果表明，与专家为普通公众开发的参考摘要相比，使用当代神经架构自动生成的摘要可以实现有希望的质量和可读性（最佳ROUGE-L为50.24，Flesch-Kincaid可读性得分为13.30）。我们还讨论了当前尝试的局限性，为未来的工作提供了见解和方向。
2022-01-08 cs.CL cs.LG
PLSUM: Generating PT-BR Wikipedia by Summarizing Multiple Websites
维基百科是一个重要的免费知识来源。尽管如此，巴西葡萄牙语维基百科仍然缺乏对许多主题的描述。为了扩大巴西维基百科，我们贡献了PLSum，一个从多个描述性网站生成类似维基的摘要的框架。该框架有一个提取阶段，随后是一个抽象阶段。特别是，对于抽象阶段，我们微调和比较了Transformer神经网络的两个最新版本PTT5和Longformer。为了微调和评估模型，我们创建了一个包含数千个示例的数据集，将参考网站链接到维基百科。我们的研究结果表明，它是可能的巴西葡萄牙语的网页内容生成有意义的摘要。
2021-12-02 cs.CL cs.LG
Report Cards: Qualitative Evaluation of Language Models Using Natural Language Summaries
University of Toronto（多伦多大学）；Vector Institute（矢量研究所）
本文提出用自然语言“成绩单”定性评估大语言模型，并设计了基于特异性、忠实性和可解释性的评估框架及无监督迭代生成算法，实验表明其能提供超越传统基准的见解。
2024-09-01 cs.AI cs.CL cs.LG
SurveySum: A Dataset for Summarizing Multiple Scientific Articles into a Survey Section
Instituto de Pesquisa para Economia Digital（数字经济研究所）；UNICAMP（坎皮纳斯州立大学）；Maritaca AI（Maritaca AI公司）；Universidade Federal do Cariri（卡里里联邦大学）
本文提出SurveySum数据集，支持将多篇科学论文汇总为综述章节，并构建两条流水线、采用多指标评估，揭示检索质量与配置对摘要效果的影响。
2024-08-29 cs.CL
PosterSum: A Multimodal Benchmark for Scientific Poster Summarization
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）；Institute for Language, Cognition and Computation（语言、认知与计算研究所）
PosterSum基准包含16,305对科学海报与摘要，用于评估多模态模型；提出的Segment & Summarize层次化方法在ROUGE-L上提升3.14%，优于现有MLLMs。
2025-02-24 cs.AI cs.CL cs.CV
LDKP: A Dataset for Identifying Keyphrases from Long Scientific Documents
Moody’s Analytics（穆迪分析）；IIIT-Delhi（德里英迪拉·甘地信息技术学院）；IIT-Dhanbad（印度理工学院丹巴德分校）；NYU（纽约大学）；Adobe Media Data Science Research（奥多比媒体数据科学研究院）；UT Austin（德克萨斯大学奥斯汀分校）
从文本中识别关键词是自然语言处理和信息检索中的一项基本任务。绝大多数用于此任务的基准数据集来自仅包含文档标题和摘要信息的科学领域。这限制了关键短语提取（KPE）和关键短语生成（KPG）算法从通常非常短（大约8句）的人类书面摘要中识别关键短语。这对现实世界的应用程序提出了三个挑战：大多数文档都无法使用人类编写的摘要，文档几乎总是很长，并且很高比例的KP可以在标题和摘要的有限上下文之外直接找到。因此，我们发布了两个广泛的语料库，映射了约130万和约10万科学文章的KP，以及它们的完整提取文本和额外的元数据，包括出版地点、年份、作者、研究领域和引文，以促进对这个现实世界问题的研究。
2022-04-01 cs.CL
Comparative Opinion Summarization via Collaborative Decoding
Megagon Labs（美乐岗实验室）；University of Edinburgh（爱丁堡大学）
意见摘要侧重于生成摘要，反映多个在线评论中表达的流行主观信息。虽然生成的摘要提供关于特定酒店或产品的一般和简明的信息，但是该信息可能不足以帮助用户比较多个不同的选择。因此，用户可能仍然在"我应该选择哪一个？"在本文中，我们提出了比较意见摘要任务，其目的是从两个不同的候选评论集生成两个对比摘要和一个共同摘要。我们开发了一个比较摘要框架CoCoSum，它由两个基本的摘要模型，共同生成对比和共同的摘要。在新创建的基准CoCoTrip上的实验结果表明，CoCoSum可以产生比最先进的意见摘要模型更高质量的对比和常见摘要。数据集和代码可在www.example.com上获得
2022-04-15 cs.CL
MASSW: A New Dataset and Benchmark Tasks for AI-Assisted Scientific Workflows
University of Michigan（密歇根大学）；Purdue University（普渡大学）；LG AI Research（LG人工智能研究院）
本文提出MASSW数据集，从152,000余篇计算机科学论文中利用大语言模型自动提取科研工作流五方面结构化摘要，并构建多个基准任务以支持AI辅助科研创新。
2024-06-10 cs.AI cs.CL
Generating SOAP Notes from Doctor-Patient Conversations Using Modular Summarization Techniques
Carnegie Mellon University（卡内基梅隆大学）
每次患者就诊后，医生都会起草一份长长的半结构化临床总结，称为SOAP笔记。虽然对临床医生和研究人员来说是非常宝贵的，但创建数字SOAP笔记是繁重的，会导致医生精疲力竭。在本文中，我们介绍了第一个完整的管道，利用深度摘要模型根据医生和患者之间的对话记录生成这些笔记。在探索了一系列方法之后，我们提出了一种算法，（i）提取与每个摘要部分相关的重要话语;（ii）将相关话语聚类在一起;然后（iii）每个聚类生成一个摘要句子。Quanter 2Sent比它的纯抽象对手高出8个ROUGE-1点，并且根据专家评估人员的评估，产生了更多的事实和连贯的句子。对于再现性，我们在公开可用的AMI数据集上展示了类似的益处。我们的研究结果说明了在构建摘要语料库时，将摘要结构化为章节并注释支持证据的好处。
2021-06-02 cs.AI cs.CL cs.LG
Generating a Structured Summary of Numerous Academic Papers: Dataset and Method
The Hong Kong Polytechnic University（香港理工大学）
撰写关于一个研究主题的调查论文通常需要涵盖众多相关论文的突出内容，这可以建模为多文档摘要（MDS）任务。现有的MDS数据集通常侧重于生成覆盖少数输入文档的无结构摘要。同时，以前的结构化摘要生成工作集中于将单个文档摘要成多节摘要。这些现有的数据集和方法不能满足将大量学术论文摘要成结构化摘要的要求。为了应对可用数据的稀缺性，我们提出了BigSurvey，这是第一个大规模的数据集，用于生成关于每个主题的众多学术论文的综合摘要。我们从七千多篇调查论文中收集了目标摘要，并利用它们的43万篇参考文献摘要作为输入文档。为了有效地组织输入文档中的内容，保证长文本序列的处理效率，提出了一种基于类别对齐和稀疏Transformer（CAST）的自动摘要方法。实验结果表明，我们的CAST方法优于各种先进的摘要方法。
2023-02-09 cs.AI cs.CL
Rethinking Scientific Summarization Evaluation: Grounding Explainable Metrics on Facet-aware Benchmark
King Abdullah University of Science and Technology（国王阿卜杜勒·阿齐兹科技大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；National Institutes of Health（美国国家卫生研究院）；University of Notre Dame（诺特难大学）；Shandong University（山东大学）
本文提出Facet-aware Metric（FM）评估方法，通过分解任务和语义匹配提升科学摘要评估的可解释性，并构建Facet-based数据集（FD），发现微调小模型可媲美LLMs，同时指出LLMs在科学领域上下文学习的局限。
2025-05-02 cs.CL
Generating Query-Focused Summarization Datasets from Query-Free Summarization Datasets
University of Lethbridge（利思布莱德大学）；Alberta, Canada（阿尔伯塔省，加拿大）
本文提出基于证据的模型，从无查询摘要数据集中生成查询，通过内在和外在评估验证了其在查询聚焦摘要任务中的有效性。
2026-05-06 cs.AI cs.CL
PeerSum: A Peer Review Dataset for Abstractive Multi-document Summarization
我们提出了PeerSum，一个新的MDS数据集，使用科学出版物的同行评审。我们的数据集与现有MDS数据集的不同之处在于，我们的摘要（即，元评论）是高度抽象的并且它们是源文档的真实摘要（即，评论），它还具有源文件之间的分歧。我们发现，目前最先进的MDS模型很难为PeerSum生成高质量的摘要，这提供了新的研究机会。
2022-09-29 cs.CL cs.IR
TR-EduVSum: A Turkish-Focused Dataset and Consensus Framework for Educational Video Summarization
Izmir Katip Celebi University（伊兹密尔卡蒂普切莱比大学）；Izmir Institute of Technology（伊兹密尔理工学院）
本文提出TR-EduVSum数据集和AutoMUP框架，通过多人类摘要生成高质量摘要，验证了共识权重和聚类对摘要质量的关键作用，适用于其他突厥语种。
2026-04-08 cs.AI cs.CL
Making Science Simple: Corpora for the Lay Summarisation of Scientific Literature
University of Sheffield（谢菲尔德大学）；Beihang University（北京航空航天大学）
本文构建PLOS与eLife两个含专家通俗摘要的生物医学文献数据集，刻画其可读性与抽象性差异，并通过主流模型基准测试和专家人工评估验证效用。
2023-12-12 cs.CL
Beyond One-Size-Fits-All Summarization: Customizing Summaries for Diverse Users
Faculty of Engineering and Natural Sciences, Bahcesehir University（巴赫切谢希尔大学工程与自然科学学院）；Bahcesehir University（巴赫切谢希尔大学）
针对摘要难以按读者可读性水平调整的问题，本文构建土耳其语定制数据集并提出自定义架构模型，在保持准确性与连贯性的同时优于监督微调基线。
2025-03-10 cs.AI cs.CL
SciCap: Generating Captions for Scientific Figures
Pennsylvania State University（宾夕法尼亚州立大学）
研究人员在科学论文中使用数字来传达丰富、复杂的信息。这些数字的标题对于传达有效信息至关重要。然而，低质量的图形标题通常出现在科学文章中，可能会降低理解。在本文中，我们提出了一个端到端的神经框架来自动生成信息丰富的高质量科学人物字幕。为此，我们引入了SCICAP，这是一个基于2010年至2020年期间发表的计算机科学arXiv论文的大规模图形标题数据集。经过预处理-包括图形类型分类，子图形识别，文本规范化和标题文本选择- SCICAP包含从超过290，000篇论文中提取的超过200万个图形。然后，我们建立了基线模型，标题图情节，占主导地位（19.2%）的数字类型。实验结果表明，既有机会和陡峭的挑战，生成字幕的科学数字。
2021-10-25 cs.AI cs.CL cs.CV
ACCoRD: A Multi-Document Approach to Generating Diverse Descriptions of Scientific Concepts
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
能够自动定义不熟悉术语的系统有望提高科学文本的可访问性，特别是对于可能缺乏先决条件背景知识的读者。然而，目前的系统假设每个概念有一个单一的“最佳”描述，这不能说明一个概念可以被描述的许多潜在有用的方式。我们提出了ACCoRD，一个端到端的系统，解决了生成科学概念描述集的新任务。我们的系统利用了科学文献中提到的概念的无数方式，根据不同的参考概念对目标科学概念进行不同的、多样化的描述。为了支持这项任务的研究，我们发布了一个专家注释的资源，ACCoRD语料库，其中包括1,275个标记的上下文和1,787个手工编写的概念描述。我们进行了一项用户研究，表明（1）用户更喜欢我们的端到端系统产生的描述，（2）用户更喜欢多个描述，一个单一的“最好的”描述。
2022-05-14 cs.AI cs.CL cs.HC
AutoFigure: Generating and Refining Publication-Ready Scientific Illustrations
Engineering School, Westlake University（西湖大学工学院）
AutoFigure通过代理框架自动生成高质量科学插图，基于长篇科学文本并优于基线方法，实现结构和视觉的双重完善。
2026-02-12 cs.AI cs.CL cs.CV
AQuaMuSe: Automatically Generating Datasets for Query-Based Multi-Document Summarization
Google Research（谷歌研究院）
摘要是将源文档压缩成连贯和简洁的段落的任务。这是一个有价值的工具，可以向用户提供与其查询相关的排名靠前的文档的简洁而准确的草图。基于查询的多文档摘要（Query-based multi-document summarization，qMDS）解决了这一普遍需求，但由于缺乏训练和评估数据集，现有的单文档和多文档摘要数据集在形式和规模上都存在不足，研究受到严重限制。我们提出了一个可扩展的方法，称为ANOMMuSe自动挖掘qMDS的例子，从问答数据集和大型文档语料库。我们的方法是独特的，因为它可以一般的双数据集-提取和抽象的摘要。我们公开发布了一个特定的ANOMMuSe数据集实例，其中包含5，519个基于查询的摘要，每个摘要与从Common Crawl的3.55亿个文档索引中选择的平均6个输入文档相关联。提供了对数据集的广泛评估以及基线摘要模型实验。
2020-10-23 cs.CL
A Study of Human Summaries of Scientific Articles
IBM Research AI（IBM研究人工智能部门）
研究人员和学生面临着可能与他们的工作相关的新发表论文的爆炸。这导致了分享科学论文的人类摘要的趋势。我们分析了这些平台之一Shortscience.org共享的摘要。我们的目标是描述科学论文的人类摘要，并使用所获得的一些见解来改进和适应现有的自动摘要系统，以适应科学论文的领域。
2020-02-10 cs.CL
CSDS: A Fine-Grained Chinese Dataset for Customer Service Dialogue Summarization
National Laboratory of Pattern Recognition, Institute of Automation, CAS（中国科学院自动化研究所模式识别国家重点实验室）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Fanyu AI Laboratory, Zhongke Fanyu Technology Co., Ltd（中科凡语科技有限公司凡语AI实验室）
对话摘要是近年来备受关注的话题。特别是在客户服务领域，代理人可以使用对话摘要，以帮助提高他们的工作，通过快速了解客户的问题和服务的进展。这些应用程序要求摘要包含单个发言者的观点，并具有清晰的主题流结构，而现有数据集中都没有。因此，在本文中，我们介绍了一个新的中国数据集的客户服务对话摘要（CSDS）。CSDS在两个方面对摘要进行了改进：（1）除了对整个对话进行全面总结外，还提供了面向角色的摘要，以获取不同发言者的观点。(2)所有的摘要都分别总结了每个主题，从而包含了对话的主题层次结构。我们将CSDS中的任务定义为生成给定对话的总体摘要和不同的面向角色的摘要。其次，我们比较了CSDS上的各种摘要方法，实验结果表明，现有的方法容易产生冗余和不连贯的摘要。此外，当分析面向角色的摘要和主题结构的性能时，性能变得更差。希望本研究能为汉语对话摘要的进一步研究提供参考。
2021-09-06 cs.CL
A Supervised Approach to Extractive Summarisation of Scientific Papers
University College London (UCL)（伦敦大学学院 (UCL)）
自动摘要是一种流行的方法来减少一个文件的主要论点。该领域最近的研究集中在总结的神经方法上，这可能非常需要数据。然而，很少有大型数据集存在，没有传统流行的科学出版物领域，这开辟了具有挑战性的研究途径，集中在编码大型，复杂的文件。在本文中，我们介绍了一个新的数据集，总结计算机科学出版物，利用大量的资源，作者提供的摘要，并显示直接的方式进一步扩展。我们在数据集上开发模型，利用神经句子编码和传统上使用的摘要功能，并表明编码句子及其局部和全局上下文的模型表现最好，显著优于成熟的基线方法。
2017-06-13 cs.AI cs.CL cs.NE
What Is That Talk About? A Video-to-Text Summarization Dataset for Scientific Presentations
Saarland University（萨尔兰大学）；Max Planck Institute for Informatics（马克斯·普朗克信息研究所）；University of Cambridge（剑桥大学）；University of Edinburgh（爱丁堡大学）
本文提出VISTA数据集，含18,599个AI会议演示及其摘要，并采用基于计划的框架提升摘要质量，但模型与人类表现仍有差距。
2025-05-24 cs.AI cs.CL cs.CV
CUSTOM: Aspect-Oriented Product Summarization for E-Commerce
JD AI Research（京东人工智能研究院）
产品摘要旨在自动生成产品描述，具有很大的商业潜力。考虑到客户对不同产品方面的偏好，生成面向方面的定制摘要将受益匪浅。然而，常规系统通常集中于提供一般产品概要，这可能错过将产品与客户兴趣相匹配的机会。为了解决这个问题，我们提出了自定义的，面向方面的产品摘要电子商业，它产生不同的和可控的摘要对不同的产品方面。为了支持CUSTOM的研究并进一步推进这一研究，我们构建了两个中文数据集，即，智能手机和计算机，分别包括12，118/11，497个真实世界商业产品的76，279/49，280个简短摘要。此外，我们介绍了EXT，一个提取增强生成框架的定制，其中两个著名的序列到序列模型在本文中实现。我们在两个CUSTOM数据集上进行了大量的实验，并展示了两个著名的基线模型和EXT的结果，这表明EXT可以生成多样化，高质量和一致的摘要。
2021-08-18 cs.CL
TLDR: Extreme Summarization of Scientific Documents
Allen Institute for AI（艾伦人工智能研究所）；Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）
我们介绍了TLDR生成，一种新的形式的极端摘要，科技论文。TLDR生成涉及高度的源压缩，并且需要专业的背景知识和对复杂的领域特定语言的理解。为了促进这项任务的研究，我们引入了SciTLDR，这是一个新的多目标数据集，包含5.4K TLDR和3.2K论文。SciTLDR包含作者撰写的和专家衍生的TLDR，后者是使用一种新的注释协议收集的，该协议可以产生高质量的摘要，同时最大限度地减少注释负担。我们提出了CATTS，一个简单而有效的学习策略，用于生成TLD，利用标题作为辅助训练信号。CATTS在自动化指标和人工评估的基础上进行了改进。数据和代码可在https://github.com/allenai/scitldr上公开获取。
2020-10-08 cs.CL
Not too long do read: Evaluating LLM-generated extreme scientific summaries
Department of Data Science（数据科学系）；City University of Hong Kong（香港城市大学）
本文提出BiomedTLDR数据集，评估LLM生成科学摘要的性能，发现LLM更倾向于提取而非抽象，且在词汇和修辞结构上更接近原文。
2025-12-29 cs.AI cs.CL
SemCSE: Semantic Contrastive Sentence Embeddings Using LLM-Generated Summaries For Scientific Abstracts
Bielefeld University, Germany（比勒菲尔德大学）
SemCSE 利用大语言模型生成的摘要进行无监督对比学习，以增强科学文本语义嵌入，并在 SciRepEval 基准上取得同等规模模型中的最优性能。
2025-07-17 cs.CL cs.IR cs.LG
A Human-in-the-Loop Corpus for LLM-Based Simplification of Scientific Summaries
ScaDS.AI, Technische Universität Dresden（ScaDS.AI，德累斯顿工业大学）
研究基于大语言模型的科学文本简化，提出人工参与工作流程，先以GPT-4o-mini生成基线简化，再经不同阶段读者与专家反馈编辑，发布语料库及评估结果，支持跨学科科学交流简化系统相关工作。
2026-07-29 cs.AI cs.CL cs.HC
Generating Extractive Summaries of Scientific Paradigms
University of Michigan（密歇根大学）；National Research Council Canada（加拿大国家研究委员会）；University of Maryland（马里兰大学）
研究人员和科学家越来越多地发现自己处于必须快速理解大量技术材料的境地。我们的目标是通过使用文献计量学文本挖掘和摘要技术来生成科学文献摘要，从而有效地满足这一需求。我们展示了如何使用引文来生成自动生成的、易于消费的技术摘要。我们首先提出了C-LexRank，一个基于引用的科学论文摘要模型，它采用社区发现并提取显著的信息丰富的句子。接下来，我们进一步扩展我们的实验，以总结一组论文，其中涵盖了相同的科学主题。我们生成提取摘要的一组问答（QA）和依存句法分析（DP）的论文，他们的摘要，他们的引文句子，并表明，引文有独特的信息适合创建一个摘要。
2014-02-04 cs.CL cs.IR
From Complexity to Clarity: How AI Enhances Perceptions of Scientists and the Public's Understanding of Science
Michigan State University（密歇根州立大学）
本研究评估了生成式AI在简化科学传播中的作用，发现GPT-4生成的通俗摘要不仅语言更简洁，还能提升公众对科学家的信任感和对科学内容的理解，倡导将AI整合进科学传播。
2024-08-28 cs.AI cs.CL cs.CY
Generating Multiple-Length Summaries via Reinforcement Learning for Unsupervised Sentence Summarization
Pohang University of Science and Technology（浦项科技大学）；Microsoft Research Asia（微软亚洲研究院）；Korea Advanced Institute of Science and Technology（韩国科学技术院）
句子摘要缩短了给定的文本，同时保持了文本的核心内容。已经研究了无监督的方法来总结没有人类书面摘要的文本。然而，最近的无监督模型是提取的，它从文本中删除单词，因此它们不如抽象摘要灵活。在这项工作中，我们设计了一个抽象模型的基础上强化学习没有地面实况摘要。我们制定的无监督摘要的马尔可夫决策过程的基础上，代表摘要质量的奖励。为了进一步提高摘要质量，我们开发了一种多摘要学习机制，该机制可以为给定的文本生成多个不同长度的摘要，同时使摘要相互增强。实验结果表明，该模型大大优于抽象和提取模型，但经常产生新的单词不包含在输入文本。
2022-12-21 cs.AI cs.CL
Generating Summaries with Controllable Readability Levels
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Amazon（亚马逊）
本研究提出三种技术（指令控制、强化学习、前瞻解码）实现摘要可读性的细粒度控制，在CNN/DM数据集上显著提升可读性控制效果，建立强基线。
2023-10-16 cs.AI cs.CL cs.LG
Can Large Language Model Summarizers Adapt to Diverse Scientific Communication Goals?
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
本研究探讨了LLMs在科学摘要任务中的可控性，发现未经微调的模型在审稿生成上优于人类，且基于关键词的无分类器引导能提升可控性，但模型在生成长摘要和高度抽象的通俗摘要方面仍存在局限，无需微调的精细内容控制仍是开放问题。
2024-06-27 cs.AI cs.CL
Generating medically-accurate summaries of patient-provider dialogue: A multi-stage approach using large language models
Curai Health（Curai健康公司）
本文提出一种多阶段方法，利用GPT-3将医学对话摘要分解为实体识别等子任务，生成临床准确摘要，优于零样本基线。
2023-05-10 cs.AI cs.CL cs.LG
Generating Summaries with Topic Templates and Structured Convolutional Decoders
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
现有的神经生成方法将多句文本创建为单个序列。在本文中，我们提出了一个结构化的卷积解码器，是由目标摘要的内容结构指导。我们比较我们的模型与现有的顺序解码器上的三个数据集代表不同的域。自动和人工评估表明，我们的摘要具有更好的内容覆盖率。
2019-06-11 cs.CL
Generating Query Focused Summaries from Query-Free Resources
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
大规模数据集的可用性推动了神经模型的发展，这些模型可以从单个或多个文档中创建通用摘要。在这项工作中，我们考虑查询集中的摘要（QFS），一个任务，其中训练数据的形式查询，文档和摘要是不容易获得的。我们建议将QFS分解为（1）查询建模（即，在一组文档内为查询寻找支持证据）和（2）条件语言建模（即，摘要生成）。我们介绍了MaRGE，一个用于证据估计和排名的Masked ROUGE回归框架，它依赖于摘要和查询的统一表示，因此可以将通用数据中的摘要转换为代理查询以学习查询模型。跨QFS基准测试和查询类型的实验表明，尽管从弱监督中学习，我们的模型仍达到了最先进的性能。
2021-05-31 cs.CL cs.IR cs.LG
Generating abstractive summaries of Lithuanian news articles using a transformer model
Faculty of Informatics, Kaunas University of Technology（考纳斯理工大学信息学学院）
在这项工作中，我们训练第一单语立陶宛Transformer模型上的立陶宛新闻文章的一个相对较大的语料库，并比较各种输出解码算法的抽象新闻摘要。我们实现了平均ROUGE-2得分0.163，生成的摘要是连贯的，乍一看令人印象深刻。然而，其中一些包含不容易发现的误导性信息。我们描述了所有的技术细节，并在一个在线开源存储库中分享了我们的训练模型和附带的代码，以及生成的摘要的一些特征样本。
2021-06-22 cs.CL cs.IR cs.LG
Revisiting Summarization Evaluation for Scientific Articles
Georgetown University（乔治城大学）
文本摘要方法的评估主要基于度量系统生成的摘要与一组人类书面黄金标准摘要的相似性的指标。摘要评估中最广泛使用的度量是ROUGE家族。ROUGE仅依赖于句子中术语和短语之间的词汇重叠;因此，在术语变化和释义的情况下，ROUGE并不有效。科学文章摘要就是这样一种情况，它不同于一般的领域摘要（例如新闻专线数据）。我们提供了一个广泛的分析ROUGE的有效性作为科学总结的评价指标，我们表明，相反的共同信念，ROUGE是不太可靠的科学总结评估。我们还展示了ROUGE的不同变体如何导致与手动金字塔分数的非常不同的相关性。最后，我们提出了一种替代指标的摘要评估，这是基于系统生成的摘要和相应的人类书面摘要之间的内容相关性。我们称之为SERA（通过相关性分析进行总结评估）。与ROUGE不同的是，SERA与人工评分的相关性一直很高，这表明它在评价科技论文摘要方面是有效的。
2016-04-01 cs.CL
Counterfactual Debiasing for Generating Factually Consistent Text Summaries
Sun Yat-sen University（中山大学）；Alibaba Group（阿里巴巴集团）
本文针对抽象式文本摘要中的事实不一致问题，构建因果图识别语言偏差和无关性偏差，并提出反事实去偏框架CoFactSum，通过显式反事实掩码、隐式反事实训练及去偏程度调整机制，有效提升了生成摘要的事实一致性。
2023-05-18 cs.AI cs.CL
Consistency Evaluation of News Article Summaries Generated by Large (and Small) Language Models
Royal Bank of Canada（加拿大皇家银行）；Chief Data Office（首席数据办公室）
本文评估多种LLM摘要模型在XL-Sum数据集上生成摘要的一致性，引入元评估分数衡量LLM评估系统性能，发现所有模型生成的摘要一致性均超过参考摘要。
2025-02-28 cs.AI cs.CL cs.LG
Generating summaries tailored to target characteristics
Adobe Research（Adobe研究院）；Indian Institute of Technology, Roorkee（印度理工学院鲁尔基分校）；Indian Institute of Technology, Bombay（印度理工学院孟买分校）；Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校）
最近，研究工作已经加快步伐，以满足不同的用户偏好，同时生成文本摘要。虽然有人试图将一些精心挑选的特征，如长度或实体，围绕这些偏好的整体观点是缺失的，为什么某些特征应该以特定的方式被纳入的关键见解是缺乏的。有了这个目标，我们提供了一个分类围绕这些特征相关的文本摘要的任务：一，重点是什么内容需要生成，第二，重点是输出摘要的风格方面。我们使用我们的见解，提供适当的方法，将各种类别的特点，序列到序列摘要框架的指导方针。我们的实验与纳入主题，可读性和简单性表明所提出的处方的可行性
2019-12-18 cs.CL
QFMTS: Generating Query-Focused Summaries over Multi-Table Inputs
University of Amsterdam（阿姆斯特丹大学）
本文提出QFMTS方法，通过表格序列化模块、摘要控制器和LLM生成聚焦查询的多表摘要，并构建了含4909个查询-摘要对的数据集，实验证明其优于基线方法。
2024-08-25 cs.AI cs.CL
Generating Abstractive Summaries from Meeting Transcripts
The Pennsylvania State University（宾夕法尼亚州立大学）；Qatar Computing Research Institute（卡塔尔计算研究所）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）；National University of Singapore（新加坡国立大学）
会议摘要非常重要，因为它们以简洁的形式传达了讨论的基本内容。一般来说，阅读和理解整个文件是很耗时的。因此，摘要起着重要的作用，因为读者只对讨论的重要背景感兴趣。在这项工作中，我们解决了会议文件摘要的任务。迄今为止开发的会议对话自动摘要系统主要是提取的，导致难以阅读的不可接受的摘要。所提取的话语包含影响提取摘要的质量的不流利。为了使摘要更具可读性，我们提出了一种方法来生成抽象的摘要融合重要内容从几个话语。我们首先将会议记录分成不同的主题片段，然后使用监督学习方法识别每个片段中的重要话语。然后将重要的话语组合在一起以生成一句话的摘要。在文本生成步骤中，每个片段中的话语的依赖性解析被组合在一起以创建有向图。通过整数线性规划（ILP）获得的信息量最大且结构良好的子图被选择用于为每个主题段生成一句话的摘要。ILP公式化通过利用在非会话风格的文本中更突出的语法关系来减少不流利，并且因此生成与人类书写的抽象摘要相当的摘要。实验结果表明，我们的方法可以产生更多的信息摘要比基线。此外，由人类法官的可读性评估以及从依赖解析器获得的对数似然估计表明，我们生成的摘要是显着可读和良好的形式。
2016-09-22 cs.CL
Background Knowledge Grounding for Readable, Relevant, and Factual Biomedical Lay Summaries
Dalhousie University（达尔豪斯大学）
针对生物医学通俗摘要生成存在事实错误、锚定知识的使用方式不明的问题，提出锚定来源选择与整合方法，经BioLaySum数据集验证，该方法可提升摘要可读性与相关性但无法改善事实性。
2023-05-03 cs.CL
TSTR: Too Short to Represent, Summarize with Details! Intro-Guided Extended Summary Generation
Georgetown University（乔治城大学）
许多科学论文，如arXiv和PubMed数据汇集中的论文，其摘要长度在50-1000个单词之间，平均长度约为200个单词，较长的摘要通常传达更多关于源论文的信息。到目前为止，科学摘要研究通常集中在生成简短的，抽象的摘要后，现有的数据集用于科学摘要。在源文本相对较长的领域中，例如在科学文献中，这样的摘要不能超越一般和粗略的概述，并提供来自源文档的突出信息。最近对解决这个问题的兴趣激发了科学数据集arXiv-Long和PubMed-Long的管理，其中包含400-600字的人类书面摘要，因此，为生成长/扩展摘要的研究提供了场所。扩展摘要有助于更快的阅读，同时提供超出粗略信息的详细信息。在本文中，我们提出了TSTR，一个提取摘要，利用文件的介绍性信息作为指针，其显着的信息。对两个现有的大规模扩展摘要数据集的评估表明，与强大的基线和最先进的技术相比，Rouge和平均Rouge（F1）得分（除了一种情况）在统计上有显着的改善。全面的人类评估有利于我们生成的扩展摘要的内聚性和完整性。
2022-06-02 cs.CL
Ontology-Constrained Generation of Domain-Specific Clinical Summaries
Polytechnique Montreal（蒙特利尔理工学院）；LAMA-WeST
本文提出利用本体引导的约束解码方法生成领域特定的临床摘要，在MIMIC-III数据集上验证了该方法能减少幻觉并提升电子健康记录摘要的领域相关性。
2024-11-23 cs.AI cs.CL
On Generating Extended Summaries of Long Documents
Georgetown University（乔治城大学）
以前的工作，在文件摘要主要集中在生成简短的摘要文件。虽然这种类型的摘要有助于获得给定文档的高级视图，但在某些情况下，需要了解有关其突出点的更详细信息，这些信息无法放入简短的摘要中。对于较长的文档，如研究论文、法律文档或书籍，通常是这种情况。在本文中，我们提出了一种新的方法来生成扩展摘要的长文件。我们的方法利用文档的层次结构，并通过多任务学习方法将其纳入提取摘要模型。然后，我们在三个长摘要数据集arXiv-Long，PubMed-Long和Longsumm上展示了我们的结果。我们的方法优于或匹配强基线的性能。此外，我们对生成的结果进行了全面的分析，为长格式摘要生成任务的未来研究提供了见解。我们的分析表明，我们的多任务处理方法可以调整提取概率分布，以支持跨不同部分的摘要值得的句子。我们的数据集和代码可在https://github.com/Georgetown-IR-Lab/ExtendedSumm上公开获取
2020-12-28 cs.CL
Generating (Factual?) Narrative Summaries of RCTs: Experiments with Neural Multi-Document Summarization
Northeastern University（东北大学）；King’s College London（伦敦国王学院）
我们考虑的问题，自动生成一个叙述性的生物医学证据摘要，从多个试验报告。我们评估了现代神经模型对Cochrane协作成员先前进行的系统综述中的相关文章摘要进行抽象总结，使用综述摘要的作者结论部分作为我们的目标。我们招募医学专业人士来评估生成的摘要，我们发现，现代摘要系统产生一贯流畅和相关的概要，但它们并不总是事实。我们提出了新的方法，利用特定领域的模型来通知摘要，例如，通过明确划分传达关键发现的输入片段，并强调大型和高质量试验的报告。我们发现，这些策略适度地提高了所生成的摘要的事实准确性。最后，我们提出了一种新的方法，自动评估的真实性生成的叙事证据合成模型，推断报告的结果的方向性。
2020-12-22 cs.CL
Neural Wikipedian: Generating Textual Summaries from Knowledge Base Triples
University of Southampton（南安普顿大学）；Université de Lyon（里昂大学）；CNRS（法国国家科学研究中心）；UJM-Saint-Étienne（圣艾蒂安大学）；Laboratoire Hubert Curien（于贝尔·屈里安实验室）
本文研究利用神经网络从DBpedia和Wikidata三元组自动生成自然语言摘要，通过将三元组编码为固定向量并条件生成文本，在维基百科对齐语料上验证了方法的有效性。
2017-11-01 cs.CL
Synthesizing Scientific Summaries: An Extractive and Abstractive Approach
本文提出一种结合抽取式与生成式的混合方法用于科学论文摘要，利用无监督模型提取关键发现并与引言配对，结合transformer语言模型生成摘要，发现特定超参数组合可使系统摘要抽象度超越人类。
2024-07-29 cs.CL
