Adding Connectionist Temporal Summarization into Conformer to Improve Its Decoder Efficiency For Speech Recognition
Ping An Technology（平安科技）
Conformer模型是一种优秀的语音识别建模体系结构，它有效地利用了连接主义时间分类（CTC）的混合损失和对训练模型参数的关注。为了提高解码效率的构象，我们提出了一种新的连接主义的时间摘要（CTS）的方法，减少了所需的帧的数量的注意解码器从由编码器产生的声学序列，从而减少操作。然而，为了实现这种解码改进，我们必须微调模型参数，因为交叉注意观察会发生变化，因此需要相应的改进。我们的最终实验表明，在波束宽度为4的情况下，LibriSpeech的解码预算可以减少多达20%，对于FluentSpeech数据，可以减少11%，而不会损失ASR的准确性。LibriSpeech“test-other”集的准确性甚至有所提高。字出错率（WER）在波束宽度为1时相对降低6%，在波束宽度为4时相对降低3%。
2022-04-08 cs.CL cs.SD eess.AS
Speech vs. Transcript: Does It Matter for Human Annotators in Speech Summarization?
Carnegie Mellon University（卡内基梅隆大学）；ASAPP Inc（ASAPP公司）；Mohammed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
本研究对比语音和文本转录两种模态下人类标注的语音摘要差异，通过多维度评估发现语音摘要事实一致性与信息筛选性更优，转录摘要受识别错误影响，专家摘要更可靠，并公开数据代码推动领域研究。
2024-08-12 cs.CL cs.HC cs.SD
Real-time Speech Summarization for Medical Conversations
University of Toronto（多伦多大学）；University Health Network（大学健康网络）；College of William and Mary（威廉玛丽学院）；University of Cincinnati（辛辛那提大学）；Indiana State University（印第安纳州立大学）；FPT Software AI Center（FPT软件人工智能中心）
本研究提出了首个可部署的实时医疗对话语音摘要系统，并发布了首个医疗对话语音摘要数据集VietMed-Sum，同时利用LLM与人工协同创建摘要并提供了基线结果。
2025-04-04 cs.AI cs.CL cs.LG
Speech-to-SOAP: End-to-End Summarization of Medical Dialogues: KIT@BeTraC 2026
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Carnegie Mellon University（卡内基梅隆大学）
本研究针对医学对话摘要任务，提出KIT团队参加BeTraC挑战赛轻量级赛道的方案，构建可扩展数据增强流水线，适配语音基础模型实现端到端语音转SOAP生成，减轻医护记录负担。
2026-09-22 cs.CL eess.AS
Multi-Task Instruction Tuning via Data Scheduling for Low-Resource Arabic SpeechLLMs
Qatar Computing Research Institute（卡塔尔计算研究院）
本文研究了在资源受限环境下，通过数据调度优化多任务指令微调方法，提出AraMega-SSum用于训练和评估阿拉伯语中心的音频LLM，并比较了四种训练策略，发现两阶段TPC→ADS策略在任务平衡上表现最佳。
2026-07-08 cs.AI cs.CL cs.SD
XNOR-FORMER: Learning Accurate Approximations in Long Speech Transformers
Carnegie Mellon University（卡内基梅隆大学）
Transformers是语音、视觉和自然语言处理等领域中许多任务的最新技术。自注意力是这种性能的关键贡献者，具有二次计算复杂性，这使得在更长的输入序列上训练具有挑战性。先前的工作已经产生了具有线性注意力的最先进的Transformer变体，然而，当前的模型牺牲性能以实现高效的实现。在这项工作中，我们开发了一种新的线性Transformer通过检查的自我关注内的关键查询产品的属性。我们的模型在语音识别和语音摘要方面优于最先进的方法，导致Librispeech-100语音识别基准和新的INTERVIEW语音识别基准的绝对WER提高了1%，并且对于使用How2的摘要，ROUGE提高了5分。
2022-12-19 cs.AI cs.CL cs.SD
Robust Summarization of Doctor-Patient Conversations: TalTech Systems for the Beyond Transcription Challenge
TalTech（塔林理工大学）
塔尔图大学针对超越转录挑战，筛选鲁棒语音语言模型，用LoRA微调及DAPO强化学习调整Voxtral模型。其系统在两轨道夺冠，幻觉率最低，还表明微调文本转录本能提升语音输入鲁棒性。
2026-07-21 cs.CL eess.AS
AugSumm: towards generalizable speech summarization using synthetic labels from large language model
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
本文提出 AugSumm，用 ChatGPT 生成高质量合成语音摘要并用于训练与评估，在 How2 上通过预训练加微调使两类测试集 ROUGE-L 均提升 1 点。
2024-01-10 cs.AI cs.CL
Zero-shot Conversational Summarization Evaluations with small Large Language Models
Intel labs（英特尔实验室）；Intel（英特尔）
本文评估了约100亿参数的大语言模型在零样本对话摘要任务中的表现，发现提示指令会显著影响摘要质量和ROUGE分数，并通过人工评估揭示了模型的局限性。
2023-11-29 cs.CL
Scaling Up Summarization: Leveraging Large Language Models for Long Text Extractive Summarization
Sanofi（赛诺菲）
提出EYEGLAXS框架，利用LLAMA2-7B和ChatGLM2-6B结合Flash Attention与PEFT技术进行长文本抽取式摘要，在PubMed和ArXiv数据集上创下新基准，确保事实完整性并解决资源挑战。
2024-08-28 cs.CL
QFS-Composer: Query-focused summarization pipeline for less resourced languages
本文提出QFS-Composer框架，通过查询分解、问题生成、问题回答和抽象摘要提升摘要与用户意图的一致性，针对资源匮乏语言进行查询聚焦摘要研究。
2026-04-12 cs.CL
GAE-ISumm: Unsupervised Graph-Based Summarization of Indian Languages
IIIT Hyderabad（海得拉巴国际信息技术研究所）；Inria Bordeaux（法国国家信息与自动化研究所波尔多中心）
文档摘要旨在为文本文档创建精确和连贯的摘要。许多深度学习摘要模型主要是针对英语开发的，通常需要大量的训练语料库和高效的预训练语言模型和工具。然而，低资源的印度语言的英语摘要模型往往受到丰富的形态变化，句法和语义差异的限制。在本文中，我们提出了GAE-ISumm，一个无监督的Indic摘要模型，从文本文档中提取摘要。特别是，我们提出的模型GAE-ISumm使用图形自动编码器（GAE）来学习文本表示和文档摘要。我们还提供了一个手动注释的泰卢固语摘要数据集TELSUM，以实验我们的模型GAE-ISumm。此外，我们用最公开的印度语言摘要数据集进行实验，以研究GAE-ISumm对其他印度语言的有效性。我们在七种语言中对GAE-ISumm进行的实验得出了以下观察结果：（i）它在所有数据集上都具有竞争力或优于最先进的结果，（ii）它在TELSUM上报告了基准结果，以及（iii）在所提出的模型中包含位置和聚类信息提高了摘要的性能。
2022-12-25 cs.CL cs.LG
MEDSAGE: Enhancing Robustness of Medical Dialogue Summarization to ASR Errors with LLM-generated Synthetic Dialogues
AICS
本文提出 MEDSAGE，利用 LLM 的上下文学习生成模拟 ASR 错误的合成医学对话，以低资源数据增强提升临床对话摘要系统的鲁棒性与准确性。
2025-01-08 cs.AI cs.CL
A Systematic Survey of Text Summarization: From Statistical Methods to Large Language Models
University of Hawaii, Manoa（夏威夷大学马诺阿分校）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；University of California, Davis（加州大学戴维斯分校）
本文系统综述文本摘要从统计方法、深度学习、PLM 微调到 LLM 时代的演进，梳理数据集、指标、方法、基准与评估，并指出开放挑战和未来方向。
2024-06-17 cs.CL
Natural Language Translation of Formal Proofs through Informalization of Proof Steps and Recursive Summarization along Proof Structure
Tokyo University of Science（东京科学大学）
本文提出一种利用LLM对形式证明步骤进行非形式化和递归摘要的方法，以生成高可读性且准确的自然语言证明，并在Lean证明助手的库及本科教材数据上验证了其有效性。
2025-09-10 cs.CL
AdaptEval: Evaluating Large Language Models on Domain Adaptation for Text Summarization
Technical University of Munich（慕尼黑工业大学）；ETH Zürich（苏黎世联邦理工学院）
本文评估了多种大型语言模型在微调和上下文学习设置下跨领域文本摘要的自适应能力，并提出首个领域自适应评估套件AdaptEval，发现LLM在上下文学习中的表现与参数规模无关。
2024-10-11 cs.CL
Factual Dialogue Summarization via Learning from Large Language Models
School of Computing and Information Systems（计算与信息系统学院）；The University of Melbourne（墨尔本大学）
针对小型预训练模型对话摘要事实一致性不足及大语言模型部署受限的问题，提出基于符号知识蒸馏的方法，通过零样本学习从大语言模型提取正负例摘要，结合对比学习增强小型模型，在多个模型上超越强基线，兼顾事实一致性与文本质量并开放资源。
2024-06-20 cs.CL
On Context Utilization in Summarization with Large Language Models
Nanyang Technological University（南洋理工大学）；Institute of Infocomm Research (IR), A * STAR（新加坡科技研究局信息通信研究所）；Centre for Frontier AI Research (CFAR), A*STAR（新加坡科技研究局前沿人工智能研究中心）；Salesforce Research（Salesforce 研究部）
本文首次全面研究大语言模型摘要任务中的上下文利用与位置偏差问题，涵盖6个模型、10个数据集和5个评估指标，并引入MiddleSum基准测试分层摘要和增量摘要两种缓解方法。
2024-11-14 cs.CL
Evaluation of Large Language Models for Summarization Tasks in the Medical Domain: A Narrative Review
University of Wisconsin（威斯康星大学）；University of Colorado（科罗拉多大学）；Epic Systems（Epic系统公司）；UW Health（威斯康星大学健康中心）
本文综述了大型语言模型在临床摘要任务中的评估现状，并针对专家人工评估存在的资源限制问题提出了未来研究方向。
2024-09-26 cs.AI cs.CL
Large Language Models for the Summarization of Czech Documents: From History to the Present
Department of Computer Science and Engineering（计算机科学与工程系）；NTIS - New Technologies for the Information Society（信息社会新技术）；LaBRI
本文利用大型语言模型和翻译方法，展示了在捷克语历史文档摘要中的新成果，并引入了新的数据集。
2025-11-24 cs.CL
TriSum: Learning Summarization Ability from Large Language Models with Structured Rationale
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；GE HealthCare（GE医疗）
TriSum通过蒸馏大型语言模型的摘要能力到紧凑本地模型，利用方面三元组理由和课程学习，在多个基准上显著提升性能并增强可解释性。
2024-03-15 cs.CL
Evaluating Small Language Models for News Summarization: Implications and Factors Influencing Performance
Shandong University（山东大学）；National University of Singapore（新加坡国立大学）；HKUST(GZ)（香港科技大学（广州））；HKUST（香港科技大学）
针对资源受限环境下LLMs应用受限的问题，本文评估19个SLMs在2000条新闻样本上的摘要表现，发现部分SLMs性能接近70B LLMs且摘要更简洁，揭示提示词复杂度和指令微调对其性能的影响，为高效摘要方案提供参考。
2025-02-11 cs.AI cs.CL
Large Language Models for Summarizing Czech Historical Documents and Beyond
Department of Computer Science and Engineering, University of West Bohemia in Pilsen（计算机科学与工程系，西波西米亚大学）
本研究应用Mistral和mT5等大语言模型处理捷克语文本摘要，在SumeCzech数据集上取得新最优结果，并引入历史捷克语文档摘要新数据集Posel od Čerchova及基线结果。
2025-08-14 cs.CL
Automatic Text Extractive Summarization Based on Graph and Pre-trained Language Model Attention
Peking University（北京大学）
将文本表示为图以获得自动文本摘要已经研究了十多年。随着自然语言处理（NLP）中注意力或注意力转换器（Transformer）的发展，在文本的图形和注意力结构之间建立联系成为可能。本文采用文本句子间的注意力矩阵作为文本全连通图的加权邻接矩阵，通过预训练的语言模型生成。GCN进一步应用于文本图模型，对每个节点进行分类，并从文本中找出显著句子。在两个典型数据集上的实验结果表明，与现有的模型相比，该模型可以获得具有竞争力的结果。
2022-07-26 cs.CL
Controllable Multi-document Summarization: Coverage & Coherence Intuitive Policy with Large Language Model Based Rewards
Institute for Infocomm Research, A*STAR（A*STAR资讯通信研究院）
针对长输入多文档摘要任务的可控性问题，提出结合覆盖度与连贯性直觉策略的可控内容提取方案，搭配被动训练LLM的奖励机制，在ROUGE指标上取得有竞争力结果，人工评估连贯性优于基线。
2023-10-05 cs.CL
STRUDEL: Structured Dialogue Summarization for Dialogue Comprehension
Yale University（耶鲁大学）；Meta AI
摘要对话摘要长期以来一直被视为自然语言处理中的一个重要的独立任务，但以前的工作还没有探讨是否抽象的对话摘要也可以被用来作为一种手段，以提高NLP系统的其他重要的对话理解任务的性能的可能性。在本文中，我们提出了一种新型的对话摘要任务--训练的DiaLoguE摘要--它可以帮助预先训练的语言模型更好地理解对话，并提高它们在重要对话理解任务中的表现。我们进一步收集人类注释的CFDEL摘要超过400个对话，并介绍了一个新的CFDEL对话理解建模框架，集成CFDEL到一个基于图神经网络的对话推理模块的Transformer编码器语言模型，以提高他们的对话理解能力。在我们的两个重要的下游对话理解任务-对话问答和对话响应预测-的实证实验中，我们表明，我们的EMDEL对话理解模型可以显着提高Transformer编码器语言模型的对话理解性能。
2022-12-24 cs.CL
Markov-Enhanced Clustering for Long Document Summarization: Tackling the 'Lost in the Middle' Challenge with Large Language Models
National Institute of Applied Science and Technology (INSAT), University of Carthage, Tunis, Tunisia（应用科学与技术国家研究所（INSAT），卡塔赫纳大学，突尼斯）
针对大语言模型在长文档摘要中的“中间迷失”问题，提出结合抽取与生成的混合方法，通过文本分块、向量聚类及马尔可夫链排序生成最终摘要。
2025-06-22 cs.CL
DACP: Domain-Adaptive Continual Pre-Training of Large Language Models for Phone Conversation Summarization
Dialpad Inc.（Dialpad公司）
本文提出域自适应持续预训练方法，利用大规模无标注商业对话数据增强大型语言模型的电话对话摘要能力，在域内外基准上均获显著提升。
2025-10-09 cs.AI cs.CL cs.LG
QA-prompting: Improving Summarization with Large Language Models using Question-Answering
Georgia Institute of Technology（佐治亚理工学院）
本文提出QA-prompting方法，在摘要生成前引入问答中间步骤以缓解长上下文位置偏差，无需微调或流水线，在多个数据集和十个预训练模型上ROUGE分数最高提升29%。
2025-09-21 cs.CL
Towards Multi-dimensional Evaluation of LLM Summarization across Domains and Languages
Korea Advanced Institute of Science and Technology（韩国先进科学研究院）；AWS AI Labs（AWS人工智能实验室）
针对现有摘要评估基准缺领域标准、偏英语、标注难的问题，研究提出多领域多语言的MSumBench评估基准，采用多智能体辩论优化标注，评估8个模型后发现跨领域语言的性能差异，并揭示大模型自评摘要的系统性偏差。
2025-05-31 cs.AI cs.CL
Large Language Models and Book Summarization: Reading or Remembering, Which Is Better?
本研究比较了大语言模型在使用内部知识和完整文本生成书籍摘要的效果，发现完整文本通常能生成更详细的摘要，但某些情况下内部知识摘要表现更优。
2026-02-09 cs.CL
Benchmarking Large Language Models for News Summarization
大语言模型（LLM）已经显示出自动摘要的前景，但其成功背后的原因却知之甚少。通过对不同预训练方法、提示和模型尺度的10个LLM进行人工评估，我们得出了两个重要的观察结果。首先，我们发现指令微调，而不是模型大小，是LLM的zero-shot总结能力的关键。其次，现有的研究受到低质量参考文献的限制，导致低估了人类的表现，以及较低的Few-Shot和微调性能。为了更好地评估LLM，我们对我们从自由撰稿人那里收集的高质量摘要进行了人工评估。尽管主要的文体差异，如释义量，我们发现，LMM摘要被判断为与人类的书面摘要。
2023-01-31 cs.AI cs.CL cs.LG
Revisiting Zero-Shot Abstractive Summarization in the Era of Large Language Models from the Perspective of Position Bias
University of California, Davis（加州大学戴维斯分校）
本文提出位置偏差概念以刻画大语言模型在零样本抽象摘要中的不公平信息偏好，通过多模型多数据集实验揭示其影响，为理解模型性能提供新视角。
2024-03-18 cs.AI cs.CL
Post-Training Dialogue Summarization using Pseudo-Paraphrasing
Shanghai Jiao Tong University（上海交通大学）；China Merchants Bank Credit Card Center（招商银行信用卡中心）
以前的对话摘要技术通过将对话特定的特征注入到模型中来适应在叙事文本上预训练的大语言模型。这些特征要么需要额外的知识来识别，要么使生成的模型更难调整。为了弥合对话摘要任务中对话和叙述性摘要之间的格式差距，我们提出后训练预训练的语言模型（PLM）从对话到叙述的重组。在此之后，该模型像往常一样进行了对话摘要的微调。综合实验表明，我们的方法显着提高香草PLM的对话摘要，并优于其他SOTA模型的摘要质量和实施成本。
2022-04-28 cs.CL
P^3SUM: Preserving Author's Perspective in News Summarization with Diffusion Language Models
University of Washington（华盛顿大学）；Carnegie Mellon University（卡内基梅隆大学）；Allen Institute for AI（艾伦人工智能研究所）；Xi’an Jiaotong University（西安交通大学）
针对新闻摘要常改变作者政治立场的问题，提出由政治视角分类器控制的扩散模型P^3SUM，在推理时逐步纠偏，立场保留成功率最高提升13.7%。
2024-04-04 cs.CL cs.LG
Large Language Models with Temporal Reasoning for Longitudinal Clinical Summarization and Prediction
University of Colorado Anschutz Medical Campus（科罗拉多大学安舒茨医学校园）；University of Colorado Boulder（科罗拉多大学波德分校）；Northeastern University（东北大学）
该研究针对大语言模型处理长时序多模态临床病程轨迹能力不足的问题，系统评估了开源LLM、RAG变体及CoT提示在长上下文临床总结与预测任务的表现，发现长上下文窗口、RAG均无法完全解决时序推理与罕见病预测难题，填补了相关研究空白。
2025-09-04 cs.CL
HERA: Improving Long Document Summarization using Large Language Models with Context Packaging and Reordering
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Ant Group（蚂蚁集团）
针对大语言模型在长文档摘要中因信息分散和叙述顺序混乱导致表现不佳的问题，提出HERA框架，通过语义分段、检索与重排序构建输入上下文，无需额外微调即显著优于基础模型。
2025-02-01 cs.CL
TrueBrief: Faithful Summarization through Small Language Models
TrueBrief通过偏好优化范式提升小语言模型在文本摘要任务中的忠实性，通过受控幻觉注入生成合成数据以增强模型性能。
2025-12-12 cs.AI cs.CL
Improving Expert Radiology Report Summarization by Prompting Large Language Models with a Layperson Summary
The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本研究提出一种先生成外行总结的新颖提示策略，结合少样本上下文学习增强放射报告总结效果，在多数据集上与主流开源大语言模型对比验证，提升了总结准确性与易懂性，域外测试部分指标提升达5%。
2024-06-20 cs.CL
Applicability of Large Language Models and Generative Models for Legal Case Judgement Summarization
IIT Kharagpur（印度理工学院卡哈拉格普尔分校）；IISER Kolkata（印度科学教育与研究学院加尔各答分校）
本文评估了抽象式摘要模型、大型语言模型及抽取式方法在法律判决摘要中的表现，发现生成模型虽指标更优但存在幻觉，需人机协作提升可靠性。
2024-07-20 cs.AI cs.CL
REFLEX: Reference-Free Evaluation of Log Summarization via Large Language Model Judgment
Portland State University（波特兰州立大学）
REFLEX通过大语言模型评估日志摘要质量，无需参考摘要或人工标注，提供稳定且细粒度的评估结果，优于传统指标。
2026-04-20 cs.AI cs.CL cs.LG
Evaluating Large Language Models for Multilingual Abstractive Summarization: A Comprehensive Study of English and Bengali
Islamic University of Technology（伊斯兰科技大学）
本文通过对8种LLM在英语和孟加拉语XL-Sum测试集的零样本基准测试，发现多语言摘要生成存在跨语言差异，单一评估指标不可靠，需为低资源语言构建综合评估框架。
2026-10-15 cs.AI cs.CL
Rehearse With User: Personalized Opinion Summarization via Role-Playing based on Large Language Models
The Alan Turing Institute（阿兰·图灵研究所）
针对大语言模型在长文本个性化摘要任务中的困难，提出基于角色扮演的Rehearsal框架，通过让模型扮演用户、引入监督器与练习过程及虚拟用户建议干预，有效提升了摘要的个性化水平。
2025-03-01 cs.AI cs.CL
Don't Believe Everything You Read: Enhancing Summarization Interpretability through Automatic Identification of Hallucinations in Large Language Models
University of California Santa Cruz（加州大学圣克鲁兹分校）
本文针对LLMs在对话摘要中的幻觉问题，提出令牌级幻觉识别方法，并据此构建增强数据集和新训练范式，以提升模型的可解释性与忠实性。
2024-04-03 cs.AI cs.CL
DomainSum: A Hierarchical Benchmark for Fine-Grained Domain Shift in Abstractive Text Summarization
University of Hawaii at Manoa（夏威夷大学马诺阿分校）
本文提出分层基准DomainSum，从体裁、风格和主题三个层级刻画抽象摘要中的细粒度领域偏移，并系统评估PLMs和LLMs的领域泛化能力。
2024-10-21 cs.CL
End-to-End Chart Summarization via Visual Chain-of-Thought in Vision-Language Models
Federal University of Rio de Janeiro（里约热内卢联邦大学）
本文提出端到端视觉思维链（V-CoT）方法，通过指令微调训练大型视觉语言模型直接生成图表摘要，在Chart-Sum-QA数据集上显著优于现有基线。
2025-02-24 cs.CL
Long Document Summarization in a Low Resource Setting using Pretrained Language Models
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Goldman Sachs（高盛）
摘要是将长文档压缩成连贯的短文档，同时保留显著信息的任务。现代抽象摘要方法基于深度神经网络，其通常需要大的训练数据集。由于收集摘要数据集是一项昂贵且耗时的任务，因此实际的工业环境通常资源较少。在本文中，我们研究了一个具有挑战性的低资源设置，总结长的法律摘要，平均源文件长度为4268字，只有120个可用（文件，摘要）对。为了解释数据稀缺性，我们使用了一个现代的预先训练的抽象摘要器BART（Lewis等人，2020年），它只达到17.9 ROUGE-L，因为它与长文档作斗争。因此，我们尝试通过使用基于GPT-2的新颖算法（Radford等人，2019）语言模型困惑分数，其在低资源范围内操作。在将压缩文档馈送到BART时，我们观察到6.0 ROUGE-L的改进。我们的方法还击败了几个竞争性的显着性检测基线。此外，所识别的突出句子往往同意由领域专家的独立的人类标记。
2021-03-01 cs.CL
Low Resource Summarization using Pre-trained Language Models
MCS（军事学院（注：MCS常见对应Military College of Signals，即信号军事学院，此处按原文缩写保留，直译军事学院））
该研究将 mBERT、mT5 等预训练模型适配于乌尔都语低资源摘要，构建 76.5k 新闻文章-摘要数据集，并提出体积更小、性能可比英语 SOTA 模型的 urT5。
2023-10-04 cs.CL
BLooP: Zero-Shot Abstractive Summarization using Large Language Models with Bigram Lookahead Promotion
BLooP通过双元前瞻促进技术，在无需训练的情况下提升大语言模型生成摘要的准确性和忠实度。
2026-03-12 cs.CL
Low-Resource Cross-Lingual Summarization through Few-Shot Learning with Large Language Models
Chung-Ang University（中央大学）
本文研究大语言模型在低资源跨语言摘要中的少样本学习性能，发现少样本学习显著提升GPT-3.5和GPT-4的表现，而Mistral-7B-Instruct-v0.2适应能力有限，并指出需进一步研究专用架构与预训练目标。
2024-06-07 cs.CL
Benchmarking Generation and Evaluation Capabilities of Large Language Models for Instruction Controllable Summarization
Yale University（耶鲁大学）；Salesforce AI（Salesforce人工智能）；Shanghai Jiao Tong University（上海交通大学）；Allen Institute for AI（艾伦人工智能研究所）
该研究针对大语言模型在指令可控文本摘要任务上的能力展开基准测试，构建了评估数据集InstruSum，测试发现该任务对LLM仍具挑战，相关基准已公开以助力后续研究。
2024-07-12 cs.CL cs.LG
Analyzing the Performance of Large Language Models on Code Summarization
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
该研究分析大语言模型在代码摘要任务的性能，发现其表现与代码和参考描述的词元重叠度相关，重叠主要集中在函数名，且BLEU、BERTScore等评估指标高度相关，难提供额外评估价值。
2024-04-10 cs.AI cs.CL cs.SE
Assessing Privacy Risks in Language Models: A Case Study on Summarization Tasks
Rice University（莱斯大学）；Microsoft（微软）；Microsoft Research（微软研究院）
本研究以摘要任务为例，调查了针对语言模型的成员推理攻击，发现模型存在暴露训练数据成员关系的隐私风险，并提出了相应的保护措施及隐私与实用性的权衡。
2023-10-20 cs.AI cs.CL cs.LG
Trustworthy Summarization via Uncertainty Quantification and Risk Awareness in Large Language Models
Carnegie Mellon University（卡内基梅隆大学）；University of Southern California（南加州大学）
针对高风险场景自动摘要可靠性问题，提出融合不确定性量化与风险感知的大语言模型摘要框架，通过贝叶斯推理建模不确定性、联合优化熵正则化与风险损失及风险评分调控，显著提升高风险场景下摘要的鲁棒性与可信度。
2025-09-23 cs.AI cs.CL stat.ML
