Not too long do read: Evaluating LLM-generated extreme scientific summaries
Department of Data Science（数据科学系）；City University of Hong Kong（香港城市大学）
本文提出BiomedTLDR数据集，评估LLM生成科学摘要的性能，发现LLM更倾向于提取而非抽象，且在词汇和修辞结构上更接近原文。
2025-12-29 cs.AI cs.CL
TSTR: Too Short to Represent, Summarize with Details! Intro-Guided Extended Summary Generation
Georgetown University（乔治城大学）
许多科学论文，如arXiv和PubMed数据汇集中的论文，其摘要长度在50-1000个单词之间，平均长度约为200个单词，较长的摘要通常传达更多关于源论文的信息。到目前为止，科学摘要研究通常集中在生成简短的，抽象的摘要后，现有的数据集用于科学摘要。在源文本相对较长的领域中，例如在科学文献中，这样的摘要不能超越一般和粗略的概述，并提供来自源文档的突出信息。最近对解决这个问题的兴趣激发了科学数据集arXiv-Long和PubMed-Long的管理，其中包含400-600字的人类书面摘要，因此，为生成长/扩展摘要的研究提供了场所。扩展摘要有助于更快的阅读，同时提供超出粗略信息的详细信息。在本文中，我们提出了TSTR，一个提取摘要，利用文件的介绍性信息作为指针，其显着的信息。对两个现有的大规模扩展摘要数据集的评估表明，与强大的基线和最先进的技术相比，Rouge和平均Rouge（F1）得分（除了一种情况）在统计上有显着的改善。全面的人类评估有利于我们生成的扩展摘要的内聚性和完整性。
2022-06-02 cs.CL
Event-based evaluation of abstractive news summarization
University of Oslo（奥斯陆大学）；University of Bergen（卑尔根大学）
本文提出一种基于事件重叠的抽象式新闻摘要评估方法，通过在挪威语数据集上计算生成摘要、参考摘要与原文之间的事件重叠来评估摘要质量，为摘要中的事件信息提供更深入的分析。
2025-07-01 cs.CL
SemCSE: Semantic Contrastive Sentence Embeddings Using LLM-Generated Summaries For Scientific Abstracts
Bielefeld University, Germany（比勒菲尔德大学）
SemCSE 利用大语言模型生成的摘要进行无监督对比学习，以增强科学文本语义嵌入，并在 SciRepEval 基准上取得同等规模模型中的最优性能。
2025-07-17 cs.CL cs.IR cs.LG
Newsroom: A Dataset of 1.3 Million Summaries with Diverse Extractive Strategies
Cornell University（康奈尔大学）；Cornell Tech（康奈尔理工学院）
我们介绍了NEWSROOM，这是一个由38家主要新闻出版物的编辑室的作者和编辑撰写的130万篇文章和摘要的摘要数据集。从1998年至2017年的搜索和社交媒体元数据中提取，这些高质量的摘要展示了摘要风格的高度多样性。特别是，摘要结合了抽象和提取策略，以不同的速度从文章中借用单词和短语。我们分析了NEWSROOM摘要中使用的提取策略，以量化新数据的多样性和难度，并对数据进行训练，以评估其实用性和挑战性。
2020-05-17 cs.CL
A Human-in-the-Loop Corpus for LLM-Based Simplification of Scientific Summaries
ScaDS.AI, Technische Universität Dresden（ScaDS.AI，德累斯顿工业大学）
研究基于大语言模型的科学文本简化，提出人工参与工作流程，先以GPT-4o-mini生成基线简化，再经不同阶段读者与专家反馈编辑，发布语料库及评估结果，支持跨学科科学交流简化系统相关工作。
2026-07-29 cs.AI cs.CL cs.HC
Synthesizing Scientific Summaries: An Extractive and Abstractive Approach
本文提出一种结合抽取式与生成式的混合方法用于科学论文摘要，利用无监督模型提取关键发现并与引言配对，结合transformer语言模型生成摘要，发现特定超参数组合可使系统摘要抽象度超越人类。
2024-07-29 cs.CL
A Summarization System for Scientific Documents
IBM Research（IBM研究）；IBM Cloud（IBM云）
我们提出了一个新的系统提供摘要的计算机科学出版物。通过定性的用户研究，我们确定了发现，探索和理解科学文献的最有价值的场景。基于这些发现，我们建立了一个系统，可以检索和总结给定信息需求的科学文档，无论是以自由文本查询的形式，还是通过选择分类值，如科学任务，数据集等。我们的系统摄取了270，000篇论文，其摘要模块旨在生成简洁而详细的摘要。我们用人类专家验证了我们的方法。
2019-08-29 cs.CL
Summaries as Captions: Generating Figure Captions for Scientific Documents with Automated Text Summarization
Adobe Research（奥多比研究院）；Pennsylvania State University（宾夕法尼亚州立大学）
本文将科学文档图注生成重构为文本摘要任务，通过微调 PEGASUS 从引用图表的段落生成图注，并在大规模 arXiv 数据上验证其优于视觉方法。
2023-08-12 cs.CL
From Complexity to Clarity: How AI Enhances Perceptions of Scientists and the Public's Understanding of Science
Michigan State University（密歇根州立大学）
本研究评估了生成式AI在简化科学传播中的作用，发现GPT-4生成的通俗摘要不仅语言更简洁，还能提升公众对科学家的信任感和对科学内容的理解，倡导将AI整合进科学传播。
2024-08-28 cs.AI cs.CL cs.CY
Can Large Language Model Summarizers Adapt to Diverse Scientific Communication Goals?
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
本研究探讨了LLMs在科学摘要任务中的可控性，发现未经微调的模型在审稿生成上优于人类，且基于关键词的无分类器引导能提升可控性，但模型在生成长摘要和高度抽象的通俗摘要方面仍存在局限，无需微调的精细内容控制仍是开放问题。
2024-06-27 cs.AI cs.CL
Generating Summaries for Scientific Paper Review
University of Bucharest（布加勒斯特大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
审查过程对于确保出版物的质量至关重要。最近，在机器学习和NLP领域，提交给顶级场所的论文数量增加，这给审稿人带来了过重的负担，并且经常引起人们的担忧，即这不仅会使审稿人负担过重，还会影响审稿质量。一个协助审查过程的自动系统可能是改善这一问题的一个解决办法。在本文中，我们探讨自动生成的科技论文综述摘要。我们认为，神经语言模型有潜力成为这项任务的有价值的候选人。为了验证这一假设，我们发布了一个新的科学论文及其评论数据集，这些数据集收集自2013年至2020年在NeurIPS会议上发表的论文。我们评估了最先进的神经摘要模型，目前的初步结果的自动审查摘要生成的可行性，并提出了未来的方向。
2021-09-28 cs.AI cs.CL cs.LG
SurveySum: A Dataset for Summarizing Multiple Scientific Articles into a Survey Section
Instituto de Pesquisa para Economia Digital（数字经济研究所）；UNICAMP（坎皮纳斯州立大学）；Maritaca AI（Maritaca AI公司）；Universidade Federal do Cariri（卡里里联邦大学）
本文提出SurveySum数据集，支持将多篇科学论文汇总为综述章节，并构建两条流水线、采用多指标评估，揭示检索质量与配置对摘要效果的影响。
2024-08-29 cs.CL
ASPECTNEWS: Aspect-Oriented Summarization of News Documents
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Walmart NexTech（沃尔玛NexTech）
通用摘要试图覆盖整个文档，基于查询的摘要试图回答特定于文档的问题。但实际用户的需求通常介于这两个极端之间，并与方面相对应，即在类似类型的文档中讨论的高级主题。在本文中，我们收集了一个现实的面向方面的摘要数据集，AASPNEWS，它涵盖了新闻子域中文章的不同子主题。我们在两个领域的文章，地震和欺诈调查，其中每篇文章都有两个不同的摘要，侧重于每个领域的不同方面的注释数据。一个编制单一通用摘要的系统不可能简明扼要地满足这两个方面。我们在评估中的重点是如何以及现有的技术可以推广到这些领域，而看不到域内的训练数据，所以我们转向技术，以构建合成训练数据，已用于查询为中心的总结工作。我们比较了几种不同的训练方案，这些方案在关键字的使用强度以及如何提取Oracle摘要方面有所不同。我们的评估表明，我们的最终方法产生（a）集中的摘要，优于那些从通用的摘要系统或从关键字匹配;（b）系统敏感的关键字的选择。
2022-03-15 cs.CL
ScisummNet: A Large Annotated Corpus and Content-Impact Models for Scientific Paper Summarization with Citation Networks
Yale University（耶鲁大学）
科学文章摘要具有挑战性：大型注释语料库不可用，摘要应该包括文章对研究社区的影响。本文为这两个挑战提供了新的解决方案。我们1）开发并发布了第一个大规模的人工注释语料库，用于科学论文（关于计算语言学），实现更快的注释，2）提出了整合作者原始亮点（摘要）和文章对社区的实际影响（引用）的摘要方法，以创建全面的混合摘要。我们进行实验，以证明我们的语料库的有效性，在训练数据驱动的模型，科学论文摘要和我们的混合摘要的优势，摘要和传统的基于引用的摘要。我们的大型标注语料库和混合方法为科学论文摘要研究提供了一个新的框架。
2019-09-16 cs.CL cs.IR cs.LG
Citance-Contextualized Summarization of Scientific Papers
Leipzig University（莱比锡大学）；University of Groningen（格罗宁根大学）
提出一种基于引文上下文的科学论文摘要方法，利用引文检索相关段落并生成针对性摘要，在包含54万篇论文和460万条引文的新数据集上评估。
2023-11-13 cs.CL
Generating abstractive summaries of Lithuanian news articles using a transformer model
Faculty of Informatics, Kaunas University of Technology（考纳斯理工大学信息学学院）
在这项工作中，我们训练第一单语立陶宛Transformer模型上的立陶宛新闻文章的一个相对较大的语料库，并比较各种输出解码算法的抽象新闻摘要。我们实现了平均ROUGE-2得分0.163，生成的摘要是连贯的，乍一看令人印象深刻。然而，其中一些包含不容易发现的误导性信息。我们描述了所有的技术细节，并在一个在线开源存储库中分享了我们的训练模型和附带的代码，以及生成的摘要的一些特征样本。
2021-06-22 cs.CL cs.IR cs.LG
Self-Supervised Learning for Visual Summary Identification in Scientific Publications
Waseda University（早稻田大学）；University of Mannheim（曼海姆大学）；Waseda Research Institute for Science and Engineering（早稻田大学科学与工程研究院）
提供科学出版物的视觉摘要可以增加读者的信息访问，从而有助于应对科学出版物数量的指数增长。尽管如此，提供视觉出版物摘要的努力很少，而且相距甚远，主要集中在生物医学领域。这主要是因为有限的注释黄金标准，这阻碍了强大的和高性能的监督学习技术的应用。为了解决这些问题，我们创建了一个新的基准数据集，用于选择数字作为基于摘要的出版物的视觉摘要，涵盖计算机科学的几个领域。此外，我们开发了一种自监督学习方法，基于启发式匹配的内联引用的图与图标题。在生物医学和计算机科学领域的实验表明，我们的模型是能够超越最先进的，尽管是自我监督，因此不依赖于任何注释的训练数据。
2021-01-14 cs.CL cs.IR
Scientific Article Summarization Using Citation-Context and Article's Discourse Structure
Georgetown University（乔治城大学）
本文提出了一种基于引文语境和文献语篇模型的科技论文摘要方法。虽然引文以前曾用于生成科学摘要，但它们缺乏引用文章的相关背景，因此不能准确反映文章的内容。我们的方法克服了引文摘要和文章的内容之间的不一致的问题，通过为每个引用提供上下文。我们还利用固有的科学文章的话语来制作更好的摘要。我们表明，我们提出的方法有效地提高了现有的总结方法（超过30%的最佳性能基线的改善）方面的\textsc{Rouge}评分TAC 2014科学总结数据集。虽然我们用于评估的数据集是在生物医学领域，但我们的大多数方法都是通用的，因此适用于其他领域。
2017-04-21 cs.CL cs.IR
Summarizing, Simplifying, and Synthesizing Medical Evidence Using GPT-3 (with Varying Success)
Northeastern University（东北大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；King’s College London（伦敦国王学院）
本文评估GPT-3在生物医学领域零样本生成摘要的能力，发现其能忠实总结单篇文献，但综合多文档证据时准确性不足。
2023-05-11 cs.CL
LLM or Human? Perceptions of Trust and Information Quality in Research Summaries
Microsoft（微软）；Amazon AWS AI（亚马逊AWS人工智能）
研究探讨了读者对LLM生成摘要的信任与质量感知，发现尽管难以识别LLM内容，但读者的信念显著影响评估，且LLM编辑的摘要更受好评。
2026-01-22 cs.CL cs.CY
CiteSum: Citation Text-guided Scientific Extreme Summarization and Domain Adaptation with Limited Supervision
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
科学极端摘要（TLDR）旨在形成科学论文的超短摘要。由于需要大量的人工注释和领域专业知识，以前管理科学TLDR数据集的努力未能扩大规模。在本文中，我们提出了一个简单而有效的方法来自动提取TLDR摘要的科学论文从他们的引文文本。基于所提出的方法，我们创建了一个没有人类注释的新基准CiteSum，它比以前的人类策划数据集SciTLDR大30倍左右。我们对CiteSum进行全面分析，检查其数据特征并建立强大的基线。我们通过使在CiteSum（名为CITES）上预训练的模型适应监督有限的新任务和领域，进一步证明了CiteSum的有用性。对于科学的极端总结，CITES在SciTLDR上的表现优于大多数完全监督的方法，无需任何微调，并且仅用128个例子就获得了最先进的结果。对于新闻极端摘要，CITES在XSum上实现了其基础模型（未在CiteSum上预训练）的显著增益，例如，+7.2 ROUGE-1 zero-shot性能和最先进的Few-Shot性能。对于新闻标题生成，CITES在Gigaword上的无监督和zero-shot方法中表现最好。我们的数据集和代码可以在https://github.com/morningmoni/CiteSum上找到。
2022-10-19 cs.CL
Fusing Multimodal Signals on Hyper-complex Space for Extreme Abstractive Text Summarization (TL;DR) of Scientific Contents
IIIT Delhi（德里英迪拉·甘地信息技术学院）；IIT Delhi（德里印度理工学院）
提出首个科学多模态极简摘要数据集mTLDR，并构建基于双重融合超复数Transformer与Wasserstein Riemannian编码器的mTLDRgen模型，在多项指标上超越20个基线。
2023-06-24 cs.AI cs.CL
Rethinking Scientific Summarization Evaluation: Grounding Explainable Metrics on Facet-aware Benchmark
King Abdullah University of Science and Technology（国王阿卜杜勒·阿齐兹科技大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；National Institutes of Health（美国国家卫生研究院）；University of Notre Dame（诺特难大学）；Shandong University（山东大学）
本文提出Facet-aware Metric（FM）评估方法，通过分解任务和语义匹配提升科学摘要评估的可解释性，并构建Facet-based数据集（FD），发现微调小模型可媲美LLMs，同时指出LLMs在科学领域上下文学习的局限。
2025-05-02 cs.CL
Socially-Informed Timeline Generation for Complex Events
Cornell University（康奈尔大学）
现有的复杂事件时间轴生成系统只考虑来自传统媒体的信息，忽略了用户生成的内容所提供的丰富的社会背景，这些内容揭示了代表性的公共利益或有见地的观点。相反，我们的目标是生成包含新闻文章摘要和选定用户评论的社会信息时间表。我们提出了一个优化框架，旨在平衡文章和评论摘要之间的主题凝聚力，以及它们的信息量和事件的覆盖面。对涵盖四个复杂事件的真实世界数据集的自动评估表明，我们的系统比最先进的系统产生了更多信息的时间线。在人工评估中，相关联的评论摘要比编辑的选择和用户高度排名的评论更有见地。
2016-06-17 cs.CL
Dimsum @LaySumm 20: BART-based Approach for Scientific Document Summarization
Center for Artificial Intelligence Research (CAiRE)The Hong Kong University of Science and Technology（香港科技大学人工智能研究中心（CAiRE））；EMOS Technologies Inc.（EMOS科技公司）
摘要的目的是自动生成科技论文的摘要。这是一项重要的任务，可以增加科学对全社会的相关性。在本文中，我们建立了一个基于BART模型的层摘要生成系统。我们利用句子标签作为额外的监督信号，以提高分层摘要的性能。在CL-LaySumm 2020共享任务中，我们的模型获得了46.00\% Rouge 1-F1得分。
2020-10-19 cs.CL
Making Science Simple: Corpora for the Lay Summarisation of Scientific Literature
University of Sheffield（谢菲尔德大学）；Beihang University（北京航空航天大学）
本文构建PLOS与eLife两个含专家通俗摘要的生物医学文献数据集，刻画其可读性与抽象性差异，并通过主流模型基准测试和专家人工评估验证效用。
2023-12-12 cs.CL
Combination of abstractive and extractive approaches for summarization of long scientific texts
ITMO University（圣彼得堡国立信息技术机械与光学大学）；JetBrains（捷并思）
在这项研究工作中，我们提出了一种方法来生成长的科学文献的摘要，同时使用提取和抽象的方法的优点。在以抽象的方式生成摘要之前，我们执行提取步骤，然后将其用于调节抽象器模块。我们使用预训练的基于transformer的语言模型，用于提取器和抽象器。我们的实验表明，使用提取和抽象模型联合显着提高摘要结果和ROUGE分数。
2020-06-12 cs.CL
NewsStories: Illustrating articles with visual summaries
Boston University（波士顿大学）；Google Research（谷歌研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
最近的自监督方法使用大规模图像-文本数据集来学习强大的表示，这些表示可以在不进行微调的情况下转移到许多任务中。这些方法通常假设其图像与其（短）标题之间存在一一对应关系。然而，许多任务需要对多个图像和长文本叙述进行推理，例如用视觉摘要描述新闻文章。因此，我们探索了一种新的设置，其目标是学习一种自我监督的视觉语言表示，该表示对不同的文本长度和图像数量具有鲁棒性。此外，不像以前的工作，假设字幕有一个文字的图像，我们假设图像只包含松散的说明性对应的文本。为了探索这个问题，我们引入了一个大规模的多模态数据集，包含超过3100万篇文章，2200万张图像和100万个视频。我们发现，国家的最先进的图文对齐方法是不稳健的多个图像的较长的叙述。最后，我们引入了一个直观的基线，在GoodNews数据集上，它在zero-shot图像集检索上的性能优于这些方法10%。
2022-08-14 cs.AI cs.CL cs.CV
BIGPATENT: A Large-Scale Dataset for Abstractive and Coherent Summarization
Khoury College of Computer Sciences, Northeastern University（东北大学Khoury计算机科学学院）；Tencent AI Lab（腾讯AI实验室）
大多数现有的文本摘要数据集是从新闻领域编译的，其中摘要具有扁平化的话语结构。在这样的数据集中，有摘要价值的内容通常出现在输入文章的开头。此外，输入文章中的大部分内容在各自的摘要中逐字呈现。这些问题阻碍了系统的学习和评估，可以理解文章的全球内容结构，以及产生高压缩比的抽象摘要。在这项工作中，我们提出了一个新的数据集，BIGPATENT，由130万条美国专利文件记录以及人类书面摘要组成。与现有的摘要数据集相比，BIGPATENT具有以下特性：i）摘要包含更丰富的话语结构，具有更多的重复实体，ii）显著内容均匀分布在输入中，以及iii）摘要中存在更少和更短的提取片段。最后，我们在BIGPATENT上对基线和流行的学习模型进行训练和评估，以揭示新的挑战并激励总结研究的未来方向。
2019-06-10 cs.CL cs.LG
Consistency Evaluation of News Article Summaries Generated by Large (and Small) Language Models
Royal Bank of Canada（加拿大皇家银行）；Chief Data Office（首席数据办公室）
本文评估多种LLM摘要模型在XL-Sum数据集上生成摘要的一致性，引入元评估分数衡量LLM评估系统性能，发现所有模型生成的摘要一致性均超过参考摘要。
2025-02-28 cs.AI cs.CL cs.LG
Enhancing Abstractive Summarization of Scientific Papers Using Structure Information
Nanjing University of Science and Technology（南京理工大学）
针对现有科技论文生成式摘要方法难以捕捉结构信息、跨学科鲁棒性弱的问题，提出两阶段框架，通过结构功能自动识别与Longformer建模跨章节上下文，在领域数据集上优于先进基线。
2025-05-20 cs.AI cs.CL cs.IR
Encoding and Understanding Astrophysical Information in Large Language Model-Generated Summaries
Department of Computer Science（计算机科学系）；Johns Hopkins University（约翰霍普金斯大学）；AstroAI Center for Astrophysics（天体物理中心）
本研究以天体物理学为测试场景，借助稀疏自编码器探究LLM嵌入对科学测量所得物理摘要统计量的编码规律，分析提示词的作用及编码物理信息的关键语言维度。
2025-11-18 astro-ph.IM cs.CL
Community-Driven Comprehensive Scientific Paper Summarization: Insight from cvpaper.challenge
Waseda University（早稻田大学）；National Institute of Advanced Industrial Science and Technology (AIST)（产业技术综合研究所）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；Waseda Research Institute for Science and Engineering（早稻田大学理工学综合研究所）
本文介绍了一个由志愿者参与的撰写会议纪要的小组活动。科学论文的快速增长对研究人员来说是一个沉重的负担，特别是非母语人士，他们需要调查科学文献。为了缓解这个问题，我们组织了一组非英语母语的人来撰写在计算机视觉会议上提交的论文摘要，以分享该组阅读的论文的知识。我们总结了2019年和2020年在计算机视觉顶级会议--计算机视觉与模式识别会议上发表的共计2，000篇论文。我们定量分析了参与者在众多可用论文中阅读哪些论文的选择。实验结果表明，我们可以总结广泛的论文，而不要求参与者阅读与他们的兴趣无关的论文。
2022-03-17 cs.CL cs.CV
CLIFF: Contrastive Learning for Improving Faithfulness and Factuality in Abstractive Summarization
University of Michigan（密歇根大学）
我们研究生成的摘要是忠实的，事实上与给定的文章一致。提出了一种新的对比学习公式，该公式利用参考摘要作为正训练数据和自动生成的错误摘要作为负训练数据来训练更好地区分它们的摘要系统。我们进一步设计了四种类型的策略来创建阴性样本，以类似于我们在总结错误的新人类注释中发现的两种最先进的模型BART和PEGASUS通常所犯的错误。在XSum和CNN/Daily Mail上的实验表明，我们的对比学习框架在数据集和模型上都是鲁棒的。根据基于QA的真实性评估，它始终产生更多的事实摘要，而不是与事后纠错，基于蕴涵的重新排序和不可能训练的强比较。人类法官回应了观察结果，发现我们的模型总结纠正了更多的错误。
2021-09-19 cs.CL
Abstractive Document Summarization without Parallel Data
Institute of Neuroinformatics, University of Z \"u rich
摘要通常依赖于大量成对文章和摘要的集合。然而，在许多情况下，并行数据是稀缺的和昂贵的获得。我们开发了一个抽象的摘要系统，只依赖于大量的例子摘要和非匹配的文章。我们的方法包括一个无监督的句子提取器，它选择突出的句子，包括在最终的摘要，以及一个句子抽象器，它是训练的伪平行和合成数据，解释每个提取的句子。我们对我们的方法进行了广泛的评估：在CNN/DailyMail基准上，我们将我们的方法与完全监督的基线进行了比较，以及从科学期刊文章自动生成新闻稿的新任务，这非常适合我们的系统。我们在这两项任务上都表现出了良好的性能，而不依赖于任何文章摘要对。
2020-03-03 cs.CL
SciBERTSUM: Extractive Summarization for Scientific Documents
Pennsylvania State University（宾夕法尼亚州立大学）
摘要类文献主要研究新闻文章的摘要。CNN-DailyMail中的新闻文章是相对较短的文档，平均每个文档约30个句子。我们介绍了SciBERTSUM，这是我们的摘要框架，专为超过500句的科学论文等长文档的摘要而设计。SciBERTSUM通过以下方式将BERTSUM扩展到长文档：1）添加一个节嵌入层，以将节信息包含在句子向量中; 2）应用稀疏注意力机制，其中每个句子将本地关注附近的句子，并且只有少数句子全局关注所有其他句子。我们使用科学论文作者生成的幻灯片作为参考摘要，因为它们包含论文的技术细节。结果表明，我们的模型在ROUGE分数方面的优越性。
2022-01-21 cs.CL
When Neutral Summaries are not that Neutral: Quantifying Political Neutrality in LLM-Generated News Summaries
Carnegie Mellon University（卡内基梅隆大学）；Rochester Institute of Technology（罗切斯特理工学院）
本研究通过极化新闻摘要视角量化LLM政治中立性，分析2万余篇文章发现知名LLM普遍存在倾向民主党的偏见，尤其在枪支管制和医疗保健上极化最明显，且输出词汇高度趋同。
2024-10-13 cs.CL cs.CY
Mind The Facts: Knowledge-Boosted Coherent Abstractive Text Summarization
Stanford University（斯坦福大学）；Microsoft（微软）
神经模型已经成功地产生了人类可读和流畅的抽象摘要。然而，这些模型有两个关键的缺点：它们通常不尊重源文章中包含的事实或人类已知的常识知识，并且当源文章很长时，它们不会产生连贯的摘要。在这项工作中，我们提出了一种新的架构，扩展了Transformer的编码器-解码器架构，以改善这些缺点。首先，我们将来自Wikidata知识图谱的实体级知识整合到编码器-解码器架构中。从维基数据中注入结构化世界知识有助于我们的抽象摘要模型更加了解事实。其次，我们利用的思想，在transformer-XL语言模型在我们提出的编码器-解码器架构。这有助于我们的模型生成连贯的摘要，即使源文章很长。我们在CNN/Daily Mail摘要数据集上测试了我们的模型，并显示了ROUGE分数比基线Transformer模型的改进。我们还包括模型预测，我们的模型准确地传达了事实，而基线Transformer模型没有。
2020-06-27 cs.CL
WikiSTAR: A System for Shedding Light on the Hidden History of Scientific Wikipedia Articles
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Allen Institute for AI (Ai2)（艾伦人工智能研究所）
WikiSTAR系统利用大语言模型分类器标记编辑类型，通过交互式视图追溯科学维基百科文章修订历史，揭示知识发展，经用户研究验证其能发现新模式、问题并实现新分析，还发布了系统、代码和基准。
2026-09-01 cs.CL
Journal Name Extraction from Japanese Scientific News Articles
Toyohashi University of Technology（丰桥技术科学大学）
在日本的科学新闻文章中，虽然对研究结果进行了明确的描述，但文章的来源往往是不被引用的。这使得读者很难了解研究的细节。在本文中，我们解决的任务，从日本的科学新闻文章中提取期刊名称。我们假设，一个期刊名称很可能出现在一个特定的上下文中。为了支持这一假设，我们构建了一个基于字符的方法，并使用该方法提取期刊名称。此方法仅使用日志名称的左右上下文特征。期刊名称提取的结果表明，分布假设在识别期刊名称中起着重要的作用。
2019-06-11 cs.CL
Automated Lay Language Summarization of Biomedical Scientific Reviews
University of Washington（华盛顿大学）
卫生知识已成为作出适当卫生决定和确保治疗结果的一个关键因素。然而，医学术语和该领域专业语言的复杂结构使得健康信息特别难以解释。因此，迫切需要自动化方法来提高普通人群对生物医学文献的可访问性。这个问题可以被定义为医疗保健专业人员的语言和普通公众的语言之间的翻译问题。在本文中，我们介绍了自动生成生物医学科学评论的通俗语言摘要的新任务，并构建了一个数据集，以支持自动化方法的开发和评估，通过该方法来提高生物医学文献的可访问性。我们分析了解决这一任务的各种挑战，不仅包括关键点的总结，还包括背景知识的解释和专业语言的简化。我们实验了最先进的摘要模型以及几种数据增强技术，并使用自动化指标和人工评估来评估它们的性能。结果表明，与专家为普通公众开发的参考摘要相比，使用当代神经架构自动生成的摘要可以实现有希望的质量和可读性（最佳ROUGE-L为50.24，Flesch-Kincaid可读性得分为13.30）。我们还讨论了当前尝试的局限性，为未来的工作提供了见解和方向。
2022-01-08 cs.CL cs.LG
Data-driven Summarization of Scientific Articles
Institute of Neuroinformatics, University of Z \"u rich
数据驱动的方法序列到序列建模已成功地应用于新闻文章的短文本摘要。这样的模型通常在仅由单个或几个句子组成的输入-摘要对上训练，部分地由于多句子训练数据的有限可用性。在这里，我们建议使用科学文章作为文本摘要的一个新里程碑：大规模的训练数据几乎是免费的，有两种不同级别的高质量摘要-标题和摘要。我们从科学文章中生成两个新的多句摘要数据集，并测试了现有的各种基于提取和抽象神经网络的摘要方法的适用性。我们的分析表明，科学论文适合数据驱动的文本摘要。我们的研究结果可以作为有价值的基准扩展序列到序列模型非常长的序列。
2018-04-24 cs.CL
A Large Parallel Corpus of Full-Text Scientific Articles
Institute of Informatics, Universidade Federal do Rio Grande do Sul（南里奥格兰德联邦大学信息学院）
Scielo数据库是拉丁美洲科学信息的重要来源，包含来自多个研究领域的文章。Scielo的一个显著特点是它的许多全文内容以多种语言呈现，因此是平行语料库的潜在来源。在这篇文章中，我们提出了一个平行的语料库的发展从Scielo在三种语言：英语，葡萄牙语和西班牙语。使用Hunalign算法对所有语言对以及三语文章的子集自动对齐句子。我们通过为每个语言对训练统计机器翻译系统（Moses）来展示我们语料库的能力，该系统在科学文章中的表现优于相关工作。句子对齐也进行了手动评估，在所有语言中平均有98.8%的句子正确对齐。我们的平行语料库以TMX格式免费提供，并提供关于文章元数据的补充信息。
2019-05-06 cs.CL
ChatGPT Application In Summarizing An Evolution Of Deep Learning Techniques In Imaging: A Qualitative Study
University of Calgary（卡尔加里大学）
本文通过让ChatGPT总结七篇成像深度学习综述文章并由六位共同作者评估，发现其能保留核心信息但技术深度略减，适用于报道式知识提炼。
2023-11-26 cs.AI cs.CL cs.LG
Classification and Clustering of Sentence-Level Embeddings of Scientific Articles Generated by Contrastive Learning
Faculdade de Tecnologia, Universidade Estadual de Campinas (UNICAMP)（坎皮纳斯州立大学技术学院）；Federal Institute of São Paulo（圣保罗联邦学院）
本文通过对比学习微调句子Transformer生成科学论文句级嵌入，并引入全文句子数据集PMC-Sents-FULL，在分类与聚类任务上显著优于基线模型。
2024-03-30 cs.CL
Evaluating the Factuality of Zero-shot Summarizers Across Varied Domains
Northeastern University（东北大学）；Carnegie Mellon University（卡内基梅隆大学）
本研究评估零样本摘要器在生物医学和法律等专业领域的事实性，通过专家标注错误并分析预训练语料领域普遍性的影响，发布标注数据集以促进事实准确摘要研究。
2024-02-05 cs.AI cs.CL cs.LG
Large Language Models as Evaluators for Scientific Synthesis
TIB - Leibniz Information Centre for Science and Technology（莱布尼茨科学与技术信息中心）
本文研究GPT-4和Mistral等大型语言模型评估科学综合质量的能力，发现其解释虽具逻辑性但与人类评分相关性较弱，揭示了LLMs在该任务中的潜力与局限。
2024-07-03 cs.AI cs.CL cs.IT
Overview of the BioLaySumm 2023 Shared Task on Lay Summarization of Biomedical Research Articles
University of Sheffield（谢菲尔德大学）；University of Manchester（曼彻斯特大学）；Manchester Metropolitan University（曼彻斯特城市大学）
本文概述了ACL 2023 BioLaySumm共享任务，旨在开发可控与非可控的生成式摘要模型，为生物医学文章生成面向非技术读者的通俗摘要，并报告了两个子任务的设置与结果。
2023-10-25 cs.CL
CASIMIR: A Corpus of Scientific Articles enhanced with Multiple Author-Integrated Revisions
Nantes Université（南特大学）；École Centrale Nantes（南特中央理工学院）；CNRS（法国国家科学研究中心）；LS2N（南特数字科学实验室）；Japanese French Laboratory for Informatics（日法信息学实验室）；NII（日本国立信息学研究所）
本文构建 CASIMIR 语料库，收录 OpenReview 上 15,646 篇论文的多轮修订与评审，提供句级对齐、编辑及意图标注，并据此评估现有文本修订方法与指标。
2024-03-19 cs.CL
Analyzing the Impact of Sentiments of Scientific Articles on COVID-19 Vaccination Rates
St. Luke's Medical Center - College of Medicine（圣卢克医疗中心医学院）
在COVID-19大流行高峰期，全球多个国家试图动员疫苗接种运动，以遏制病毒的传播和造成的死亡人数。传播有关COVID疫苗接种信息的一个途径是科学文章，这提供了一定程度的可信度。因此，如果文章传达关于疫苗接种的积极信息，这增加了查看这些文章的人接种疫苗的概率，反之，如果文章传达负面信息，则降低了接种疫苗的概率。话虽如此，这项研究旨在调查文章情绪与美国疫苗接种相应增加或减少之间的相关性。为此，基于词典的情感分析分两步执行：首先，通过名为BeautifulSoup的Python库抓取文章内容，其次，使用VADER基于抓取的文本内容获得每篇文章的情感分析分数。结果表明，文章的平均情绪得分与美国COVID疫苗接种率的相应增加或减少之间的相关性相对较弱。
2022-08-29 cs.CL
Does AI-Generated Scientific Text Follow Human Argumentation Patterns? A CARS-Based Comparison of Research Article Introductions
Università della Svizzera italiana (USI)（瑞士意大利语大学）
本研究通过CARS模型比较人类与AI生成的研究文章引言，发现人类写作更灵活，AI生成更统一，且提供CARS定义会加剧僵化。
2026-10-02 cs.CL
A Large-Scale Multi-Document Summarization Dataset from the Wikipedia Current Events Portal
Aylien Ltd.（Aylien有限公司）；Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学学院）
多文档摘要（MDS）旨在将大型文档集合中的内容压缩成简短的摘要，并在新闻提要的故事聚类、搜索结果的呈现和时间轴生成中具有重要的应用。然而，缺乏能够以足够大的规模实际解决此类用例的数据集，以训练用于此任务的监督模型。这项工作提出了一个新的数据集MDS是大的文档集群的总数和单个集群的大小。我们通过利用维基百科时事门户（WCEP）来构建这个数据集，该门户提供了简洁和中立的新闻事件摘要，并提供了外部来源文章的链接。我们还通过在Common Crawl归档中查找相关文章来自动扩展这些源文章。我们提供了几个国家的最先进的MDS技术的数据集和实证结果的定量分析。
2020-05-20 cs.CL
PosterSum: A Multimodal Benchmark for Scientific Poster Summarization
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）；Institute for Language, Cognition and Computation（语言、认知与计算研究所）
PosterSum基准包含16,305对科学海报与摘要，用于评估多模态模型；提出的Segment & Summarize层次化方法在ROUGE-L上提升3.14%，优于现有MLLMs。
2025-02-24 cs.AI cs.CL cs.CV
