Low-Resource Court Judgment Summarization for Common Law Systems
The Hong Kong Polytechnic University(香港理工大学);University of Technology Sydney(悉尼科技大学)
针对普通法系跨多司法管辖区判决摘要生成标注数据稀缺的问题,本研究提出首个多司法管辖区普通法判决摘要数据集CLSum,首次将大语言模型应用于该任务的数据增强、生成与评估,验证了相关方法的有效性。
2024-03-07 cs.AI cs.CL
Evaluating Small Language Models for News Summarization: Implications and Factors Influencing Performance
Shandong University(山东大学);National University of Singapore(新加坡国立大学);HKUST(GZ)(香港科技大学(广州));HKUST(香港科技大学)
针对资源受限环境下LLMs应用受限的问题,本文评估19个SLMs在2000条新闻样本上的摘要表现,发现部分SLMs性能接近70B LLMs且摘要更简洁,揭示提示词复杂度和指令微调对其性能的影响,为高效摘要方案提供参考。
2025-02-11 cs.AI cs.CL
Scaling Up Summarization: Leveraging Large Language Models for Long Text Extractive Summarization
Sanofi(赛诺菲)
提出EYEGLAXS框架,利用LLAMA2-7B和ChatGLM2-6B结合Flash Attention与PEFT技术进行长文本抽取式摘要,在PubMed和ArXiv数据集上创下新基准,确保事实完整性并解决资源挑战。
2024-08-28 cs.CL
SciZoom: A Large-scale Benchmark for Hierarchical Scientific Summarization across the LLM Era
Seoul National University(首尔国立大学);Seoul National University Hospital(首尔国立大学医院);Seoul National University College of Medicine(首尔国立大学医学院)
针对LLM时代科学摘要的多粒度需求,构建了包含2020-2025年四大ML顶会44946篇论文的基准,提供摘要、贡献和TL;DR三层摘要,压缩比达600:1,并揭示LLM辅助写作导致短语模式剧变和修辞风格同质化。
2026-06-24 cs.CL
Performance Evaluation of Large Language Models in Bangla Consumer Health Query Summarization
Islamic University of Technology(伊斯兰科技大学)
本研究评估了九种大型语言模型在孟加拉语消费者健康查询摘要任务中的零样本性能,发现零样本LLMs能匹敌微调模型,为低资源语言的医疗查询摘要提供了可扩展解决方案。
2025-05-08 cs.CL
Factual Dialogue Summarization via Learning from Large Language Models
School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学)
针对小型预训练模型对话摘要事实一致性不足及大语言模型部署受限的问题,提出基于符号知识蒸馏的方法,通过零样本学习从大语言模型提取正负例摘要,结合对比学习增强小型模型,在多个模型上超越强基线,兼顾事实一致性与文本质量并开放资源。
2024-06-20 cs.CL
mFACE: Multilingual Summarization with Factual Consistency Evaluation
Google Research(谷歌研究院);Google DeepMind(谷歌DeepMind)
本文提出利用事实一致性评估模型改进多语言摘要生成,通过数据过滤和受控生成缓解幻觉,在XLSum数据集45种语言上的自动与人工评估均优于基线。
2024-01-05 cs.CL
TriSum: Learning Summarization Ability from Large Language Models with Structured Rationale
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);GE HealthCare(GE医疗)
TriSum通过蒸馏大型语言模型的摘要能力到紧凑本地模型,利用方面三元组理由和课程学习,在多个基准上显著提升性能并增强可解释性。
2024-03-15 cs.CL
Markov-Enhanced Clustering for Long Document Summarization: Tackling the 'Lost in the Middle' Challenge with Large Language Models
National Institute of Applied Science and Technology (INSAT), University of Carthage, Tunis, Tunisia(应用科学与技术国家研究所(INSAT),卡塔赫纳大学,突尼斯)
针对大语言模型在长文档摘要中的“中间迷失”问题,提出结合抽取与生成的混合方法,通过文本分块、向量聚类及马尔可夫链排序生成最终摘要。
2025-06-22 cs.CL
HERA: Improving Long Document Summarization using Large Language Models with Context Packaging and Reordering
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Ant Group(蚂蚁集团)
针对大语言模型在长文档摘要中因信息分散和叙述顺序混乱导致表现不佳的问题,提出HERA框架,通过语义分段、检索与重排序构建输入上下文,无需额外微调即显著优于基础模型。
2025-02-01 cs.CL
Evaluating Large Language Models for Multilingual Abstractive Summarization: A Comprehensive Study of English and Bengali
Islamic University of Technology(伊斯兰科技大学)
本文通过对8种LLM在英语和孟加拉语XL-Sum测试集的零样本基准测试,发现多语言摘要生成存在跨语言差异,单一评估指标不可靠,需为低资源语言构建综合评估框架。
2026-10-15 cs.AI cs.CL
A Survey for Biomedical Text Summarization: From Pre-trained to Large Language Models
University of Manchester(曼彻斯特大学);The Chinese University of Hong Kong(香港中文大学)
本文综述生物医学文本摘要从PLMs到LLMs的发展,系统梳理数据集、方法、评估指标、挑战与未来方向,并开放配套资源。
2023-07-13 cs.CL
Large Language Models for Summarizing Czech Historical Documents and Beyond
Department of Computer Science and Engineering, University of West Bohemia in Pilsen(计算机科学与工程系,西波西米亚大学)
本研究应用Mistral和mT5等大语言模型处理捷克语文本摘要,在SumeCzech数据集上取得新最优结果,并引入历史捷克语文档摘要新数据集Posel od Čerchova及基线结果。
2025-08-14 cs.CL
Evaluation of Large Language Models for Summarization Tasks in the Medical Domain: A Narrative Review
University of Wisconsin(威斯康星大学);University of Colorado(科罗拉多大学);Epic Systems(Epic系统公司);UW Health(威斯康星大学健康中心)
本文综述了大型语言模型在临床摘要任务中的评估现状,并针对专家人工评估存在的资源限制问题提出了未来研究方向。
2024-09-26 cs.AI cs.CL
Abstracts or full text? Evaluating input scope and computational efficiency in biomedical lay summarization
Özyeğin University(厄齐耶金大学);Galatasaray University(加拉塔萨雷大学)
本研究对比生物医学通俗摘要中基于摘要与全文的生成效果,发现基于摘要的方法整体表现更优,且运行速度是全文方法的4.70至5.31倍,可在保证质量的同时降低计算成本。
2026-10-16 cs.CL
Theme-Explanation Structure for Table Summarization using Large Language Models: A Case Study on Korean Tabular Data
Sungkyunkwan University(成均馆大学);Pohang University of Science and Technology(釜山科学技术大学)
本文提出Tabular-TX流水线,通过多步推理与记者角色提示生成主题-解释结构的表格摘要,无需微调即可高效处理韩语行政表格,提升可读性并适用于低资源场景。
2025-07-09 cs.AI cs.CL
AaKOS: Aspect-adaptive Knowledge-based Opinion Summarization
Auckland University of Technology(奥克兰理工大学);University of Tasmania(塔斯马尼亚大学)
针对现有观点摘要方法缺乏方面自适应性、大语言模型难以离线部署的问题,提出面向产品评论的AaKOS模型,可生成聚焦用户感兴趣方面的个性化摘要,性能优于现有最优方法。
2023-05-26 cs.CL
GAE-ISumm: Unsupervised Graph-Based Summarization of Indian Languages
IIIT Hyderabad(海得拉巴国际信息技术研究所);Inria Bordeaux(法国国家信息与自动化研究所波尔多中心)
文档摘要旨在为文本文档创建精确和连贯的摘要。许多深度学习摘要模型主要是针对英语开发的,通常需要大量的训练语料库和高效的预训练语言模型和工具。然而,低资源的印度语言的英语摘要模型往往受到丰富的形态变化,句法和语义差异的限制。在本文中,我们提出了GAE-ISumm,一个无监督的Indic摘要模型,从文本文档中提取摘要。特别是,我们提出的模型GAE-ISumm使用图形自动编码器(GAE)来学习文本表示和文档摘要。我们还提供了一个手动注释的泰卢固语摘要数据集TELSUM,以实验我们的模型GAE-ISumm。此外,我们用最公开的印度语言摘要数据集进行实验,以研究GAE-ISumm对其他印度语言的有效性。我们在七种语言中对GAE-ISumm进行的实验得出了以下观察结果:(i)它在所有数据集上都具有竞争力或优于最先进的结果,(ii)它在TELSUM上报告了基准结果,以及(iii)在所提出的模型中包含位置和聚类信息提高了摘要的性能。
2022-12-25 cs.CL cs.LG
OpenDebateEvidence: A Massive-Scale Argument Mining and Summarization Dataset
Howard Community College(霍华德社区学院);UC Berkeley(加州大学伯克利分校);University of New South Wales(新南威尔士大学);Stanford University(斯坦福大学);Oracle Corporation(甲骨文公司);University of Texas(德克萨斯大学);New York University(纽约大学)
该研究推出源自美国竞技辩论界的大规模OpenDebateEvidence数据集,经实验验证微调大语言模型可实现论证性抽象摘要,旨在推进计算论证并公开数据集供研究使用。
2026-08-04 cs.AI cs.CL cs.LG
Logit Reweighting for Topic-Focused Summarization
本文提出通过对主题相关词元的对数几率进行直接重加权来提升摘要的主题聚焦性,并在NEWTS数据集上验证了三种技术,其中阈值选择方法能在不牺牲摘要质量的前提下改善主题相关性。
2025-07-07 cs.CL cs.LG
PrExMe! Large Scale Prompt Exploration of Open Source LLMs for Machine Translation and Summarization Evaluation
University of Mannheim(曼海姆大学);University of Technology Nuremberg (UTN)(纽伦堡工业大学(UTN))
本文提出PrExMe,通过超720个提示模板和660万次评估,全面探索开源LLM在机器翻译与摘要评估中的表现,揭示了提示策略的稳定性与局限性。
2024-11-17 cs.CL
Tell me what I need to know: Exploring LLM-based (Personalized) Abstractive Multi-Source Meeting Summarization
University of Göttingen(哥廷根大学);Mercedes-Benz AG(梅赛德斯-奔驰公司)
提出三阶段 LLM 多源会议摘要框架,融合补充材料并按参与者特征个性化,显著提升摘要相关性与信息量,同时评估多模型性能—成本权衡。
2024-10-18 cs.AI cs.CL
Multi-Task Instruction Tuning via Data Scheduling for Low-Resource Arabic SpeechLLMs
Qatar Computing Research Institute(卡塔尔计算研究院)
本文研究了在资源受限环境下,通过数据调度优化多任务指令微调方法,提出AraMega-SSum用于训练和评估阿拉伯语中心的音频LLM,并比较了四种训练策略,发现两阶段TPC→ADS策略在任务平衡上表现最佳。
2026-07-08 cs.AI cs.CL cs.SD
Aspect-Based Summarization with Self-Aspect Retrieval Enhanced Generation
College of Computing and Data Science(计算与数据科学学院);Nanyang Technological University(南洋理工大学);School of Humanities(人文学院);School of Computer Science and Technology(计算机科学与技术学院);East China Normal University(华东师范大学)
针对方面感知摘要中大型语言模型依赖提示工程、面临令牌限制和幻觉的问题,提出自方面检索增强生成框架,通过嵌入驱动检索提取相关文本片段优化令牌使用,实验表明其性能更优且缓解了令牌限制问题。
2025-04-17 cs.AI cs.CL
Code Summarization Beyond Function Level
Innopolis University(因诺波利斯大学);AIRI;Research Center of the Artificial Intelligence Institute(人工智能研究所研究中心)
本研究探索超越函数级别的代码摘要,利用类和仓库上下文,通过微调CodeT5+及结合少样本学习和RAG的LLM,显著提升了摘要质量,并发布了相关基准和资源。
2025-02-23 cs.AI cs.CL
Leveraging Digitized Newspapers to Collect Summarization Data in Low-Resource Languages
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
针对低资源语言高质量摘要数据稀缺的问题,提出利用数字化报纸头版导语收集天然摘要的新方法,开发适配不同资源水平的自动化采集流程,构建了首个希伯来语多文档摘要数据集HEBTEASESUM。
2025-11-18 cs.CL
Echoes from Alexandria: A Large Resource for Multilingual Book Summarization
Sapienza University of Rome(罗马第一大学);Babelscape(Babelscape公司);Free University of Bozen(博尔扎诺自由大学)
本文构建涵盖5种语言、25个语言对的多语言图书摘要资源Echoes及三个数据集,并提出先抽取后抽象基线,证明其更适合整本书摘要。
2023-06-07 cs.CL
MEDSAGE: Enhancing Robustness of Medical Dialogue Summarization to ASR Errors with LLM-generated Synthetic Dialogues
AICS
本文提出 MEDSAGE,利用 LLM 的上下文学习生成模拟 ASR 错误的合成医学对话,以低资源数据增强提升临床对话摘要系统的鲁棒性与准确性。
2025-01-08 cs.AI cs.CL
Cross-Lingual Abstractive Summarization with Limited Parallel Resources
Beijing Institute of Technology(北京理工大学);Southeast Academy of Information Technology(东南信息研究院)
并行跨语言摘要数据是稀缺的,需要模型更好地利用有限的可用跨语言资源。现有的方法通常采用具有多任务框架的序列到序列网络。这种方法应用多个解码器,每个解码器用于特定任务。然而,这些独立的解码器没有共享参数,因此无法捕获不同语言的摘要的离散短语之间的关系,从而断开连接,以便将高资源语言的知识转移到低资源语言。为了弥合这些连接,我们提出了一种新的跨语言抽象摘要(MCLAS)在低资源设置的多任务框架。采用一个统一的解码器来生成单语和跨语言摘要的顺序连接,MCLAS使单语摘要任务成为跨语言摘要(CLS)任务的先决条件。通过这种方式,共享解码器学习涉及跨语言的对齐和摘要模式的交互,这鼓励实现知识转移。在两个CLS数据集上的实验表明,我们的模型在低资源和全数据集的情况下都显着优于三个基线模型。此外,对生成的摘要和注意力头的深入分析验证了使用MCLAS很好地学习交互,这有利于在有限的并行资源下的CLS任务。
2021-06-13 cs.CL
Efficient Extractive Summarization with MAMBA-Transformer Hybrids for Low-Resource Scenarios
University of Memphis(密苏里大学)
本文提出了一种结合Transformer和Mamba的状态空间模型,用于高效提取式摘要,尤其在低资源环境下表现出色,提升了摘要质量并加快了推理速度。
2026-03-01 cs.CL
Panacea: A foundation model for clinical trial search, summarization, design, and recruitment
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Washington(华盛顿大学)
提出临床试验基础模型Panacea,通过大规模预训练和指令微调,在八项任务中七项领先,显著提升患者匹配和试验搜索效率。
2024-06-25 cs.AI cs.CL
Realizing Video Summarization from the Path of Language-based Semantic Understanding
National Yang Ming Chiao Tung University(国立阳明交通大学)
本研究受MoE范式启发,提出无需微调的推理时多VideoLLM整合视频摘要框架,融合音视频内容生成语义更丰富的摘要,提升下游任务性能与方法适应性。
2024-10-06 cs.CL cs.CV
Mitigating Semantic Drift: Evaluating LLMs' Efficacy in Psychotherapy through MI Dialogue Summarization
Research Institute CODE University of the Bundeswehr(CODE研究机构 陆军大学);Department of Psychology Barkatullah University(心理学系 Barkatullah大学)
本文通过MI对话摘要评估LLMs在心理治疗中的有效性,揭示其在复杂心理构念理解中的能力及缓解语义漂移的最佳实践。
2025-11-28 cs.CL cs.LG
Low-Resource Dialogue Summarization with Domain-Agnostic Multi-Source Pretraining
Fudan University(复旦大学)
随着日常生活中对话数据量的迅速增加,对对话摘要的需求也越来越大。不幸的是,由于带有注释摘要的对话数据的不足,训练大型摘要模型通常是不可行的。大多数现有的低资源对话摘要工作直接预训练其他领域的模型,例如,新闻领域,但他们往往忽视了对话和常规文章之间的巨大差异。为了弥合域外预训练和域内微调之间的差距,在这项工作中,我们提出了一个多源预训练范式,以更好地利用外部汇总数据。具体来说,我们利用大规模的域内非摘要数据分别预训练对话编码器和摘要解码器。然后,使用对抗性评论器在域外摘要数据上对组合的编码器-解码器模型进行预训练,旨在促进领域不可知的摘要。在两个公开数据集上的实验结果表明,该方法在训练数据有限的情况下,具有较好的性能,并且在不同的对话场景中具有较好的泛化能力.
2021-09-11 cs.CL
LR-Sum: Summarization for Less-Resourced Languages
Mitchom School of Computer Science(米彻姆计算机科学学院);Brandeis University(布兰迪斯大学)
本文介绍LR-Sum数据集,覆盖40种资源较少语言的人工摘要,基于公共领域新闻语料构建并以CC BY 4.0开放许可发布,旨在促进低资源语言自动摘要研究。
2023-10-26 cs.CL
TLDR9+: A Large Scale Resource for Extreme Summarization of Social Media Posts
Adobe Research(奥多比研究院);Georgetown University(乔治敦大学)
摘要系统开发中的最新模型由数百万个参数组成,并且模型性能高度依赖于训练数据的丰富程度。虽然大多数现有的摘要语料库包含数千到一百万的数量级的数据,但数百万数量级的大规模摘要数据集的生成还有待探索。实际上,更多的数据更好地将训练模式推广到看不见的数据。在本文中,我们介绍了TLDR 9 + -一个大规模的摘要数据集-包含从Reddit论坛(https://github.com/sajastu/reddit_collector)提取的超过900万个训练实例。该数据集被专门收集以执行极端总结(即,以高压缩和抽象生成一句话摘要),并且比先前提出的数据集大两倍以上。我们更进一步,在人工注释的帮助下,我们通过从TLDR 9+中采样高质量实例来提取更细粒度的数据集,并将其称为TLDRHQ数据集。我们进一步确定了我们提出的数据集上不同的最先进的摘要模型。
2021-10-05 cs.CL
AdaptSum: Towards Low-Resource Domain Adaptation for Abstractive Summarization
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心(CAiRE));Department of Electronic and Computer Engineering(电子及计算机工程学系);The Hong Kong University of Science and Technology(香港科技大学)
现有的抽象摘要模型通常依赖于大量的标记数据,这降低了它们在这些数据不可用的领域的泛化能力。在本文中,我们提出了一个研究的领域自适应的抽象摘要任务在六个不同的目标领域在低资源设置。具体来说,我们在三种不同的设置下研究了大规模生成模型的第二阶段预训练:1)源域预训练; 2)域自适应预训练; 3)任务自适应预训练。实验表明,预训练的有效性与预训练数据与目标域任务的相似度有关。此外,我们发现持续的预训练可能会导致预训练模型的灾难性遗忘,而遗忘较少的学习方法可以缓解这个问题。此外,结果表明,低资源和高资源设置之间仍然存在巨大的差距,这突出了需要更先进的领域自适应方法的抽象摘要任务。
2021-04-22 cs.CL
Exploring Multitask Learning for Low-Resource AbstractiveSummarization
University of Pittsburgh(匹兹堡大学)
本文在小型训练语料库上探讨了多任务学习对摘要写作的影响。特别是,我们将四个不同的任务(提取摘要,语言建模,概念检测和释义检测)单独和组合,通过多任务学习增强抽象摘要的目标任务的目标。我们发现,对于许多任务组合,在多任务设置中训练的模型优于仅为抽象摘要训练的模型,没有引入额外的摘要数据。此外,我们做了一个全面的搜索,发现某些任务(例如释义检测)始终有利于抽象总结,不仅当与其他任务相结合,而且当使用不同的架构和训练语料库。
2021-09-17 cs.CL
MiRANews: Dataset and Benchmarks for Multi-Resource-Assisted News Summarization
Heriot-Watt University(赫瑞-瓦特大学);Charles University(查理大学);Google Research(谷歌研究院)
当前单文档新闻摘要的最具挑战性的方面之一是摘要经常包含“外在幻觉”,即,源文档中不存在的事实,这些事实通常是通过世界知识推导出来的。这使得摘要系统更像是开放式的语言模型,倾向于产生错误的事实。在本文中,我们减轻了这个问题的帮助下,多个补充资源文件协助任务。我们提出了一个新的数据集MiRANews和基准现有的摘要模型。与多文档摘要不同的是,它处理来自多个源文档的多个事件,我们的目标仍然是为单个文档生成摘要。我们通过数据分析表明,这不仅仅是模型的问题:MiRANews的黄金摘要中提到的事实中,超过27%的事实比主要来源文章更好地基于辅助文件。对MiRANews上微调的预训练模型生成的摘要进行的错误分析显示,这对模型的影响更大:与仅在主文章上训练的单文档摘要模型相比,辅助摘要减少了55%的幻觉。我们的代码和数据可在https://github.com/XinnuoXu/MiRANews上获得。
2021-09-22 cs.CL
Enhancing BiGRU with a KAN Block for Legal Document Classification and Summarization
Dept. of ECE North South University(电子工程系北南大学)
提出一种基于KAN的BiGRU模型,用于低资源多语言法律文档的分类与摘要,通过KAN模块提升分类准确率至67.96%。
2026-05-27 cs.AI cs.CL cs.LG
GASCADE: Grouped Summarization of Adverse Drug Event for Enhanced Cancer Pharmacovigilance
Department of Computer Science & Engineering, Indian Institute of Technology Patna(印度理工学院帕纳布分校计算机科学与工程系);Indira Gandhi Institute of Medical Sciences, Patna(英伽丁医学科学学院)
本文提出GASCADE框架,结合大语言模型信息抽取与T5摘要能力,并首次将Direct Preference Optimization等对齐技术用于编码器-解码器摘要模型,同时构建MCADRS数据集,以提升癌症药物警戒中药品不良事件分组摘要的性能。
2025-05-07 cs.AI cs.CL
Text Summarization Using Large Language Models: A Comparative Study of MPT-7b-instruct, Falcon-7b-instruct, and OpenAI Chat-GPT Models
本研究比较了MPT-7b-instruct、falcon-7b-instruct和OpenAI ChatGPT text-davinci-003三种大型语言模型在文本摘要任务上的性能,通过BLEU、ROUGE和BERT指标评估,发现text-davinci-003表现最优。
2023-10-17 cs.AI cs.CL cs.LG
Improving Faithfulness of Large Language Models in Summarization via Sliding Generation and Self-Consistency
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);College of Computer Science(计算机学院)
针对大语言模型在长文档摘要中的幻觉问题,本文提出 SliSum 策略,通过滑动窗口生成局部摘要并结合聚类与多数投票聚合,在不微调的情况下显著提升 LLaMA-2、Claude-2 和 GPT-3.5 等模型的摘要忠实度。
2024-07-31 cs.AI cs.CL
DIAMOND: An LLM-Driven Agent for Context-Aware Baseball Highlight Summarization
Seoul National University(首尔国立大学);CJ Corporation(CJ公司)
本文提出DIAMOND智能体,将棒球统计特征与大语言模型叙事推理相结合进行精彩片段摘要,在韩国棒球联赛中F1分数从42.9%提升至84.8%,优于商业和统计基线。
2025-06-03 cs.AI cs.CL cs.CV
Resources for Evaluation of Summarization Techniques
我们报告两个语料库中使用的组件系统的任务(1)线性分割的文本和(2)摘要导向的句子提取的评估。我们提出的语料库的特点,在收集用户的判断,并概述了语料库的应用程序来评估组件系统的方法。最后,我们讨论了广泛应用于语言技术评估资源建设的测试集建设中的问题和问题。
1998-10-13 cs.CL
Using LLM for Real-Time Transcription and Summarization of Doctor-Patient Interactions into ePuskesmas in Indonesia: A Proof-of-Concept Study
Institut Teknologi Sepuluh Nopember(印度尼西亚十月份十号技术大学);UIN Syarif Hidayatullah(伊斯兰教大学 Syarif Hidayatullah);Stanford University(斯坦福大学)
本文提出一个概念验证框架,结合Whisper和GPT-3.5自动转录并摘要印度尼西亚语医患对话,以浏览器扩展自动填充ePuskesmas表单,验证了在资源受限医疗环境中实现AI辅助临床记录的可行性。
2025-08-23 cs.AI cs.CL cs.SD
Fine-Tuning LLMs for Report Summarization: Analysis on Supervised and Unsupervised Data
Software Engineering Institute, Carnegie Mellon University(软件工程研究院,卡内基梅隆大学)
研究LLM微调在报告摘要任务中的有效性,探讨在资源有限和本地计算环境下微调的可行性及摘要质量评估指标。
2026-04-13 cs.AI cs.CL cs.LG
XL-Sum: Large-Scale Multilingual Abstractive Summarization for 44 Languages
Bangladesh University of Engineering Technology (BUET)(孟加拉国工程技术大学(BUET));University of Rochester(罗切斯特大学);Monash University(莫纳什大学);Swinburne University of Technology(斯威本科技大学)
摘要文本摘要的当代工作主要集中在高资源语言,如英语,主要是由于低/中资源的数据集的可用性有限。在这项工作中,我们提出了XL-Sum,一个全面而多样化的数据集,包括来自BBC的100万个专业注释的文章摘要对,使用一组精心设计的语法提取。该数据集涵盖了从低资源到高资源的44种语言,其中许多语言目前没有公共数据集。XL-Sum是高度抽象的,简洁的,高质量的,正如人类和内在的评价所表明的那样。我们使用XL-Sum对mT5进行了微调,这是一种最先进的预训练多语言模型,并在多语言和低资源摘要任务上进行了实验。与使用类似的单语数据集获得的结果相比,XL-Sum诱导了竞争性结果:我们在10种语言上显示出高于11个ROUGE-2分数,其中一些超过了15,如通过多语言训练获得的。此外,单独进行低资源语言的培训也可以提供竞争力。据我们所知,XL-Sum是从单一来源收集的样本数量和覆盖的语言数量方面最大的抽象摘要数据集。我们正在发布我们的数据集和模型,以鼓励未来对多语言摘要的研究。这些资源可在\url{https://github.com/csebuetnlp/xl-sum}上找到。
2021-06-25 cs.CL
XWikiGen: Cross-lingual Summarization for Encyclopedic Text Generation in Low Resource Languages
IIIT Hyderabad(印度海得拉巴国际信息技术学院)
针对低资源语言百科文本生成中参考文献稀缺的问题,提出跨语言多文档摘要任务 XWikiGen 及基准数据集 XWikiRef,构建基于无监督抽取式与生成式模型的两阶段系统,并验证多领域训练优于多语言设置。
2023-04-18 cs.CL
CQSumDP: A ChatGPT-Annotated Resource for Query-Focused Abstractive Summarization Based on Debatepedia
Dialpad Canada Inc.(Dialpad加拿大公司);York University(约克大学);Royal Bank of Canada(加拿大皇家银行)
本文提出利用ChatGPT重新生成查询以清理Debatepedia数据集,使其适用于查询聚焦抽象式摘要,实验证明新标注版本在查询相关性和摘要质量上优于原始数据集。
2023-03-31 cs.CL
Comparing Approaches to Automatic Summarization in Less-Resourced Languages
本文比较了不同方法在资源较少语言中自动摘要的效果,发现多语言微调的mT5基线表现最佳,而LLM作为评判者在资源较少语言上可靠性较低。
2025-12-30 cs.AI cs.CL
MentSum: A Resource for Exploring Summarization of Mental Health Online Posts
Georgetown University(乔治城大学)
精神卫生仍然是全世界公共卫生的一个重大挑战。随着在线平台的日益普及,许多人使用这些平台分享他们的心理健康状况,表达他们的感受,并寻求社区和咨询师的帮助。其中一些平台,如Reachout,是用户注册寻求帮助的专用论坛。其他人,如Reddit,提供子Reddit,用户公开但匿名发布他们的心理健康困扰。虽然帖子的长度各不相同,但提供一个简短但信息丰富的摘要是有益的,以便辅导员快速处理。为了促进对心理健康在线帖子总结的研究,我们引入了心理健康总结数据集MentSum,其中包含来自Reddit的超过24,000个精心挑选的用户帖子,以及来自43个心理健康子Reddit的简短用户书面摘要(称为TLDR)。这个特定领域的数据集不仅可以在Reddit上生成简短的摘要,还可以在专门的心理健康论坛(如Reachout)上生成帖子摘要。我们根据Rouge评分进一步评估了提取和抽象的最先进摘要基线,最后对用户编写和系统生成的摘要进行了深入的人类评估研究,突出了本研究中的挑战。
2022-06-02 cs.CL
DIONYSUS: A Pre-trained Model for Low-Resource Dialogue Summarization
Columbia University(哥伦比亚大学);Microsoft Research(微软研究院)
本文提出预训练对话摘要模型DIONYSUS,通过动态选择伪摘要进行自监督预训练,在零样本和少样本设置下于六个数据集上超越现有方法。
2023-05-26 cs.CL
Meta-Transfer Learning for Low-Resource Abstractive Summarization
National Chiao Tung University(台湾交通大学)
神经抽象摘要已在许多文献中得到研究,并在大型语料库的帮助下取得了巨大成功。然而,当遇到新的任务,一个可能并不总是受益于迁移学习由于域转移问题,过拟合可能会发生没有足够的标记的例子。此外,抽象摘要的注释是昂贵的,这通常需要领域知识来确保地面真实质量。因此,越来越多的人呼吁低资源抽象摘要,其目的是利用过去的经验,以提高目标语料库的有限标记的例子的性能。在本文中,我们建议利用两个知识丰富的资源来解决这个问题,即大型预训练模型和各种现有语料库。前者可以提供处理摘要任务的基本能力,后者可以帮助发现共同的句法或语义信息,以提高概括能力。我们在不同写作风格和形式的摘要语料库上进行了大量的实验。结果表明,我们的方法实现了国家的最先进的6个语料库在低资源的情况下,只有0.7%的可训练参数相比,以前的工作。
2021-05-31 cs.CL cs.LG