No perspective, no perception!! Perspective-aware Healthcare Answer Summarization
IIIT Delhi(德里印度信息技术学院);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本文提出医疗 CQA 的视角特定答案摘要任务,构建 PUMA 数据集,并提出提示驱动、能量控制损失与前缀调谐的 PLASMA 模型,较五个基线提升 1.5%–21%。
2024-06-13 cs.CL
Grow-and-Clip: Informative-yet-Concise Evidence Distillation for Answer Explanation
Shanghai Key Laboratory of Data Science, School of Computer Science, Fudan University(复旦大学计算机科学技术学院上海市数据科学重点实验室);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-爱数认知智能联合研究中心);RALI & Mila, Université de Montréal(蒙特利尔大学 RALI 与 Mila);Canada CIFAR AI Chair(加拿大 CIFAR 人工智能讲席教授)
解释现有的问答(QA)模型的预测对于许多现实世界的智能应用程序至关重要,例如医疗保健,教育和金融的QA系统。然而,现有的QA模型缺乏可解释性,并且没有为最终用户提供反馈或解释,以帮助他们理解为什么特定的预测是问题的答案。在这项研究中,我们认为,答案的证据是至关重要的,以提高问答模型的可解释性。不同于以往的研究,简单地提取几个句子(S)在上下文中作为证据,我们是第一个明确定义的证据的概念,在上下文中的支持事实是信息丰富,简洁,可读性。此外,我们提供了有效的策略来定量衡量证据的信息性,简洁性和可读性。此外,我们提出了增长和剪辑证据蒸馏(GCED)算法,从上下文中提取证据的折衷的信息性,简洁性和可读性。我们在SQuAD和TriviaQA数据集上进行了大量的实验,并使用了几个基线模型来评估GCED对解释问题答案的影响。还进行了人工评估,以检查提取证据的质量。实验结果表明,自动提取的证据具有类人的信息量、简洁性和可读性,可以提高问题答案的可解释性。
2022-01-14 cs.CL
FEQA: A Question Answering Evaluation Framework for Faithfulness Assessment in Abstractive Summarization
Cornell University(康奈尔大学);New York University(纽约大学);The George Washington University(乔治华盛顿大学);Amazon Web Services AI(亚马逊网络服务人工智能)
神经抽象摘要模型容易产生与源文档不一致的内容,即不忠实。现有的自动度量不能有效地捕获此类错误。我们解决的问题,评估的忠实性生成的摘要,其源文件。我们首先收集了两个数据集上众多模型输出的忠实度的人类注释。我们发现,目前的模型表现出抽象性和忠实性之间的权衡:与源文档的字重叠较少的输出更有可能是不忠实的。接下来,我们提出了一个自动的问答(QA)为基础的忠实度,FEQA,它利用了最近的进展,阅读理解。给定从摘要生成的问题-答案对,QA模型从文档中提取答案;不匹配的答案表示摘要中的不忠实信息。在基于词重叠、嵌入相似性和学习语言理解模型的度量中,我们基于QA的度量与人类忠实度分数具有显著更高的相关性,特别是在高度抽象的摘要上。
2020-05-07 cs.CL
MQAG: Multiple-choice Question Answering and Generation for Assessing Information Consistency in Summarization
ALTA Institute(ALTA研究所);University of Cambridge(剑桥大学)
本文提出MQAG框架,通过多项选择题的回答与生成来计算源文本与摘要答案分布间的预期统计距离,从而评估摘要的信息一致性,并在四个数据集上验证其优于现有方法。
2023-09-07 cs.CL
QQSUM: A Novel Task and Model of Quantitative Query-Focused Summarization for Review-based Product Question Answering
RMIT University(拉筹伯大学)
本文提出QQSUM任务与QQSUM-RAG模型,通过少样本学习联合训练KP检索器和摘要生成器,从评论中提取并量化多样化关键点,以提升产品问答的答案质量与意见覆盖度。
2025-06-04 cs.CL
Aspect-oriented Consumer Health Answer Summarization
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对健康社区问答中单一高票答案遗漏多元信息的问题,本文构建方面级人工摘要数据集,并提出检索、方面分类与抽象式摘要相结合的多阶段流水线。
2024-05-10 cs.AI cs.CL
Question Answering as an Automatic Evaluation Metric for News Article Summarization
IBM Research(IBM研究院);Microsoft(微软);Ben Gurion University(本·古里安大学)
最近在自动摘要和标题生成领域的工作集中在最大化各种新闻数据集的ROUGE分数。我们提出了一个替代的,外在的,评价指标,这项任务,总结评估的性能。APES利用阅读理解领域的最新进展来量化摘要回答一组手动创建的关于源文章中中心实体的问题的能力。我们首先通过将其与已知的手动评估指标进行比较来分析此指标的强度。然后,我们提出了一个端到端的神经抽象模型,最大限度地提高APES,同时增加ROUGE分数的竞争结果。
2019-06-02 cs.CL cs.IR
Few-shot Query-Focused Summarization with Prefix-Merging
The Hong Kong Polytechnic University(香港理工大学);Xidian University(西安电子科技大学);Soochow University(苏州大学)
面向查询的摘要被认为是文本摘要的一个重要扩展。它的目的是为给定的查询生成一个简洁的突出显示。与文本摘要不同,面向查询的摘要一直受到缺乏高质量大规模数据集的困扰。本文探讨了在面向查询的摘要中,能否将文本摘要和问答知识整合和迁移,以辅助少样本学习。在这里,我们提出了前缀合并,一个基于前缀的预训练策略,用于以查询为中心的摘要中的少样本学习。受前缀调整的启发,我们可以将文本摘要和问答中的任务知识整合到一个适当设计的前缀中,并将合并后的前缀应用于以查询为中心的摘要。只有少量的可训练参数,前缀合并优于以查询为中心的摘要的微调。我们进一步讨论了不同的前缀设计的影响,并提出了一个可视化的解释前缀合并的工作原理。
2022-11-29 cs.AI cs.CL
PSK at WMT 2026 MIST: Task-Specialized QLoRA Adapters for Multilingual Summarization and Question Answering
该研究针对WMT 2026多语言指令共享任务,基于Tiny Aya Global模型构建三个QLoRA适配器,分别适配摘要、段落问答、独立问答任务,对比验证了不同适配器的性能并提交含不同开放问答适配器的系统。
2026-08-24 cs.AI cs.CL cs.LG
Improving Factual Consistency of Abstractive Summarization via Question Answering
Amazon Web Services(亚马逊云服务);Columbia University(哥伦比亚大学)
最先进的抽象摘要模型的一个常见问题是生成的摘要可能与输入文档事实上不一致。事实上,自动摘要可能会产生听起来不可信但不准确的摘要是一个主要的问题,限制了它的广泛应用。在本文中,我们提出了一种方法来解决事实的一致性摘要。我们首先提出了一个有效的自动评估指标来衡量事实的一致性,接下来,我们提出了一种新的学习算法,最大限度地提高模型训练过程中提出的度量。通过大量的实验,我们证实,我们的方法是有效的,在提高事实的一致性,甚至整体质量的摘要,判断自动指标和人类的评价。
2021-05-10 cs.AI cs.CL
LongSumEval: Question-Answering Based Evaluation and Feedback-Driven Refinement for Long Document Summarization
dept. of Information Science University of North Texas Denton, Texas, USA(信息科学系 俄克拉荷马州立大学 德顿, 德克萨斯州, 美国);dept. of Data Science University of North Texas Denton, Texas, USA(数据科学系 俄克拉荷马州立大学 德顿, 德克萨斯州, 美国)
本文提出LongSumEval框架,通过结构化问题-答案反馈连接评估与生成,提供可解释评分和可操作反馈,提升长文档摘要质量,无需重新训练即可实现自我精炼。
2026-06-23 cs.CL
Question-Answering Based Summarization of Electronic Health Records using Retrieval Augmented Generation
Northeastern University(东北大学)
本文提出一种结合语义搜索、检索增强生成(RAG)和问答的方法,利用最新LLMs对电子健康记录进行摘要,以解决标注数据不足和注意力机制二次复杂度导致的性能问题,同时避免幻觉并确保内容多样性。
2024-01-03 cs.AI cs.CL
Background Summarization of Event Timelines
Carnegie Mellon University(卡内基梅隆大学);Amazon(亚马逊)
本文提出背景新闻摘要任务,通过合并时间线数据集构建新数据集,使用Flan-T5和GPT-3.5等模型生成背景摘要,并引入基于问答的评估指标BUS来衡量摘要质量。
2023-10-24 cs.CL
Question-aware Transformer Models for Consumer Health Question Summarization
U.S. National Library of Medicine(美国国家医学图书馆)
越来越多的消费者每天都在网上搜索健康信息,这使得对高效可靠的问答系统的需求更加迫切。这些系统成功率的一个重要因素是它们能够充分理解消费者的问题。然而,这些问题往往比所需的要长,而且提到的外围信息对找到相关答案没有帮助。问题摘要是在试图找到答案之前简化冗长复杂的消费者问题的潜在解决方案之一。在本文中,我们研究了现实世界的消费者健康问题的抽象概括的任务。我们开发了一个抽象的问题摘要模型,该模型通过识别医疗实体来利用问题的语义解释,从而生成信息丰富的摘要。为此,我们提出了多个完形填空任务(即在给定的上下文中填写缺失单词的任务),以确定执行模型的关键医学实体,以更好地覆盖问题焦点识别。此外,我们将问题类型信息注入解码器输入,以生成问题类型驱动的摘要。在MeQSum基准语料库上进行评估时,我们的框架比最先进的方法高出10.2个ROUGE-L点。我们还进行了手动评估,以评估生成的摘要的正确性。
2021-06-01 cs.CL
Automatic Summarization System coupled with a Question-Answering System (QAAS)
Laboratoire Informatique d’Avignon(阿维尼翁计算机实验室);École Polytechnique de Montréal(蒙特利尔综合理工学院)
为了选择文档中最相关的句子,它使用了一种结合了几个度量的最佳决策算法。该指标通过统计和信息算法处理、加权和提取相关性句子。该技术可以改进问答系统,其功能是用自然语言对问题提供准确的答案。在本文中,我们提出了通过耦合的皮质摘要与问答系统(QAAS)所获得的结果。两种配置进行了评价。在第一种方法中,选择低压缩级别,并且摘要系统仅用作噪声滤波器。在第二种配置中,该系统实际上用作摘要器,具有非常高的压缩级别。我们在法语语料库上的实验结果表明,自动文摘系统与问答系统的结合是很有前途的。然后,该系统已调整为根据具体问题生成定制摘要。在一个法语多文档语料库上进行了测试,个性化QAAS系统获得了最佳的性能。
2009-05-18 cs.CL cs.IR
MATINF: A Jointly Labeled Large-Scale Dataset for Classification, Question Answering and Summarization
Wuhan University(武汉大学);University of Michigan(密歇根大学)
近年来,大规模数据集极大地促进了自然语言处理几乎所有领域的发展。然而,目前NLP中没有跨任务数据集,这阻碍了多任务学习的发展。我们提出了MATINF,第一个联合标记的大规模数据集的分类,问答和摘要。MATINF包含107万个问题-答案对,带有人工标记的类别和用户生成的问题描述。基于如此丰富的信息,MATINF适用于三个主要的NLP任务,包括分类,问答和摘要。我们基准现有的方法和一个新的多任务基线在MATINF激励进一步的研究。我们在MATINF和其他数据集上的综合比较和实验证明了MATINF的优点。
2020-05-23 cs.CL cs.IR cs.LG
Summarization as Indirect Supervision for Relation Extraction
University of Southern California(南加州大学);University of California, Los Angeles(加州大学洛杉矶分校)
关系抽取(RE)模型由于依赖于带有昂贵注释的训练数据而受到挑战。考虑到摘要任务的目的是从较长的上下文中获取概括信息的简洁表达,这些任务自然符合RE的目标,即,提取一种描述实体提及关系的概要信息。我们提出了SuRE,它将RE转换成一个总结公式。SuRE基于摘要任务的间接监督,导致更精确和资源有效的RE。为了实现这一目标,我们开发的句子和关系转换技术,基本上桥接制定总结和RE任务。我们还将约束解码技术与Trie评分,以进一步增强基于摘要的RE与鲁棒的推理。在三个RE数据集上的实验证明了SuRE在全数据集和低资源环境下的有效性,表明摘要是一个有前途的间接监督来源,以改善RE模型。
2022-10-21 cs.CL cs.LG
Reinforcement Learning for Abstractive Question Summarization with Question-aware Semantic Rewards
U.S. National Library of Medicine(美国国家医学图书馆)
在线消费者健康问题的增长导致了对可靠且准确的问答系统的需求。最近的一项研究表明,消费者健康问题的手动摘要在检索相关答案方面带来了显着的改善。然而,由于训练数据的缺乏以及相关子任务(如问题焦点和类型识别)的复杂性,长问题的自动摘要是一项具有挑战性的任务。在本文中,我们介绍了一个基于强化学习的抽象问题摘要框架。我们提出了两个新的奖励获得的下游任务(i)问题类型识别和(ii)问题焦点识别正规化的问题生成模型。这些奖励确保生成语义有效的问题,并鼓励在问题摘要中包含关键医学实体/焦点。我们在两个基准数据集上评估了我们提出的方法,并在最先进的模型上实现了更高的性能。对摘要的人工评估表明,与基线摘要相比,生成的问题更加多样化,事实不一致的情况更少
2021-07-01 cs.CL
Do LLMs Work on Charts? Designing Few-Shot Prompts for Chart Question Answering and Summarization
National University of Singapore(新加坡国立大学);York University(约克大学);Nanyang Technological University(南洋理工大学);Salesforce Research(Salesforce研究院)
针对现有图表任务微调方案成本高、泛化性差的问题,提出多模态少样本提示框架PromptChart,配套任务提示指南与视觉信息注入策略,在三项图表任务基准上实现SOTA。
2023-12-17 cs.CL
Improving Unsupervised Question Answering via Summarization-Informed Question Generation
Dublin City University(都柏林城市大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Trinity College Dublin(都柏林大学三一学院)
问题生成(QG)是为给定的<passage,answer>对生成合理问题的任务。基于模板的QG使用基于语言的语法将陈述句转换为疑问句,而有监督的QG使用现有的问答(QA)数据集来训练系统以生成给定段落和答案的问题。启发式方法的缺点是生成的问题与其声明性对应物紧密相关。监督方法的缺点是它们严重依赖于用作训练数据的QA数据集的域/语言。为了克服这些缺点,我们提出了一个无监督的QG方法,它使用的问题,从摘要作为一个QG系统的训练数据的来源,启发式地产生。我们利用免费提供的新闻摘要数据,转换成适当的问题,使用依存句法分析,命名实体识别和语义角色标注告知的语法学的陈述性摘要句子。然后,将产生的问题与原始新闻文章相结合,以训练端到端的神经QG模型。我们使用无监督QA来评估我们的方法:我们的QG模型用于生成合成QA对以训练QA模型。实验结果表明,仅用20 k个基于英语维基百科的合成QA对训练,QA模型在三个域内数据集(SQuAD 1.1,Natural Questions,TriviaQA)和三个域外数据集(NewsQA,BioASQ,DuoRC)上的性能大大优于以前的无监督模型,证明了该方法的可移植性。
2021-09-16 cs.CL
Answers Unite! Unsupervised Metrics for Reinforced Summarization Models
CNRS(法国国家科学研究中心);Sorbonne Université(索邦大学);reciTAL
最近提出了基于强化学习(RL)的抽象摘要方法,以克服经典的似然最大化。RL能够考虑复杂的,可能是不可区分的指标,这些指标在全球范围内评估生成的输出的质量和相关性。ROUGE,最常用的摘要度量,是已知的遭受偏向词汇相似性,以及从次优会计的流畅性和可读性的生成的摘要。因此,我们探索并提出了替代的评估措施:报告的人的评价分析表明,所提出的指标,问答的基础上,有利地比较ROUGE -与额外的属性,不需要参考摘要。在这些指标上训练一个基于RL的模型,可以改进(在人工或自动化指标方面)当前使用ROUGE作为奖励的方法。
2019-09-04 cs.AI cs.CL cs.IR
CAiRE-COVID: A Question Answering and Query-focused Multi-Document Summarization System for COVID-19 Scholarly Information Management
EMOS Technologies Inc.(EMOS科技公司)
我们介绍CAiRE-COVID,一个实时问答(QA)和多文档摘要系统,它赢得了Kaggle COVID-19开放研究数据集挑战赛的10个任务之一,由医学专家评判。我们的系统旨在通过回答社区的高优先级问题并总结与问题相关的重要信息,来应对最近挖掘大量关于COVID-19的科学文章的挑战。它将信息抽取与最先进的QA和以查询为中心的多文档摘要技术相结合,从现有文献中选择并突出显示证据片段。我们还提出了以查询为中心的抽象和提取的多文档摘要方法,以提供更多的相关信息的问题。我们进一步进行定量实验,显示每个模块的各种指标的一致改进。我们已经推出了我们的网站CAiRE-COVID,供医学界更广泛地使用,并开放了我们系统的代码,以引导其他研究人员进行进一步的研究。
2020-12-08 cs.CL cs.IR cs.LG
Biomedical Question Answering via Multi-Level Summarization on a Local Knowledge Graph
University of Michigan(密歇根大学)
本文提出一种利用命题主张从检索文档构建局部知识图谱,并通过逐层摘要上下文化小型语言模型以执行生物医学问答的新方法,在多个基准上性能优于RAG基线。
2025-04-02 cs.AI cs.CL cs.IR
Privacy Policy Question Answering Assistant: A Query-Guided Extractive Summarization Approach
The Ohio State University(俄亥俄州立大学)
现有的使隐私政策可访问的工作已经探索了新的呈现形式,例如基于风险因素或摘要的颜色编码,以帮助用户有意识地同意。为了促进更个性化的互动政策,在这项工作中,我们提出了一个自动化的隐私政策问答助理,提取摘要,响应输入的用户查询。这是一项具有挑战性的任务,因为用户用与政策的法律语言截然不同的语言表达他们的隐私相关问题,使系统难以理解他们的查询。此外,该领域现有的注释数据有限。我们通过解释来解决这些问题,使用户问题的风格和语言更接近隐私政策的语言。我们的内容评分模块使用现有的域内数据在策略中查找相关信息,并将其合并到摘要中。我们的管道能够为privacyQA数据集中89%的用户查询找到答案。
2021-09-29 cs.CL cs.CY cs.IR
Summarizing Community-based Question-Answer Pairs
Pennsylvania State University(宾夕法尼亚州立大学);Grammarly(Grammarly公司);Meta AI
基于社区的问答(CQA)允许用户获取他们想要的信息,已经越来越多地成为电子商务、旅游和餐饮等各个领域的在线服务的重要组成部分。然而,大量的CQA对使得没有特定意图的用户难以找到散布在CQA对上的有用信息。为了帮助用户快速消化关键信息,我们提出了新的CQA摘要任务,旨在从CQA对创建一个简洁的摘要。为此,我们首先设计了一个多阶段的数据注释过程,并基于Amazon QA语料库创建了一个基准数据集CoQASUM。然后,我们比较了一系列提取和抽象摘要方法,并为CQA摘要任务建立了一个强大的基线方法DedupLED。我们的实验进一步证实了CQA摘要任务面临的两个关键挑战,即重复类型传输和重复删除。我们的数据和代码是公开的。
2022-11-17 cs.AI cs.CL
Evidence-Focused Fact Summarization for Knowledge-Augmented Zero-Shot Question Answering
Yonsei University(延世大学)
针对知识图谱文本化存在的证据密度低、清晰度差的问题,提出EFSum证据聚焦型事实摘要框架,经蒸馏和偏好对齐优化开源大模型为摘要器,可提升大模型零样本问答性能,同时保证摘要有用性与忠实性。
2024-10-09 cs.AI cs.CL cs.LG
TTQA-RS- A break-down prompting approach for Multi-hop Table-Text Question Answering with Reasoning and Summarization
University of Florida(佛罗里达大学)
本文提出TTQA-RS模型,通过分解提示、检索增强生成和表格-文本摘要,结合推理与子问题答案,在多跳表格-文本问答任务上以开源LLM取得最优性能。
2024-09-30 cs.CL cs.IR
Word Embedding-based Text Processing for Comprehensive Summarization and Distinct Information Extraction
School of Systems and Enterprises, Stevens Institute of Technology(史蒂文斯理工学院系统与企业学院)
在本文中,我们提出了两个自动化的文本处理框架,专门设计用于分析在线评论。第一个框架的目标是通过提取基本句子来总结评论数据集。这是通过将句子转换为数字向量并使用基于其相似性水平的社区发现算法对其进行聚类来执行的。然后,测量每个句子的相关性得分,以确定其在每个聚类中的重要性级别,并将其分配为该社区的标签。第二个框架是基于一个问答神经网络模型训练,以提取多个不同的问题的答案。收集的答案被有效地聚类,以找到客户可能提出的单个问题的多个不同答案。拟议的框架比现有的审查处理解决方案更全面。
2020-04-21 cs.CL cs.LG
Query Focused Multi-Document Summarization with Distant Supervision
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们认为,更好地建模查询集群的相互作用,以促进查询为重点的多文档摘要(QFS)的问题。由于缺乏训练数据,现有的工作在很大程度上依赖于检索式的方法来估计查询和文本段之间的相关性。在这项工作中,我们利用远程监督从问答,其中各种资源可以更明确地捕捉查询和文档之间的关系。我们提出了一个由粗到细的建模框架,它引入了单独的模块,用于估计片段是否与查询相关,可能包含答案和中心。在此框架下,经过训练的证据估计器进一步辨别哪些检索到的片段可能回答摘要中的最终选择的查询。我们证明,我们的框架优于强比较系统的标准QFS基准。
2020-04-06 cs.CL cs.IR cs.LG
Towards Unsupervised Question Answering System with Multi-level Summarization for Legal Text
National Institute of Technology Karnataka (NITK)(卡纳塔克邦国家理工学院(NITK))
针对 SemEval-2024 法律论证推理二分类任务,提出基于相似度与距离的无监督标注方法,并结合 Legal-Bert 多层融合及 T5 分段摘要,显著提升 F1。
2024-07-02 cs.CL cs.CY cs.LG
CO-Search: COVID-19 Information Retrieval with Semantic Search, Question Answering, and Abstractive Summarization
Salesforce Research(赛富时研究院)
2019冠状病毒病全球大流行促使国际社会努力了解、跟踪和减轻这种疾病,产生了跨科学学科的2019冠状病毒病和SARS-CoV-2相关出版物的重要语料库。截至2020年5月,已通过COVID-19开放研究数据集挑战收集了128,000篇与冠状病毒相关的出版物。在这里,我们介绍了CO-Search,这是一个检索器-排名器语义搜索引擎,旨在处理对COVID-19文献的复杂查询,可能有助于负担过重的卫生工作者在危机时期找到科学答案。检索器是建立从Siamese-BERT编码器,是线性组成的TF-IDF矢量化,和倒数秩融合的BM 25矢量化。该排名器是由一个多跳问答模块,连同多段摘要摘要调整检索分数。为了解决特定领域和相对有限的数据集,我们生成了文档段落和引用的二分图,创建了130万个(引用标题,段落)元组用于训练编码器。我们根据TREC-COVID信息检索挑战的数据评估了我们的系统。CO-Search在第一轮和第二轮的数据集上获得了最佳性能,包括几个关键指标:归一化折扣累积增益、精度、平均精度和二进制偏好。
2020-06-17 cs.AI cs.CL cs.IR
Arg-LLaDA: Argument Summarization via Large Language Diffusion Models and Sufficiency-Aware Refinement
The University of Manchester, UK(曼彻斯特大学)
Arg-LLaDA通过大语言扩散模型和充分性感知细化方法,提升论点摘要的准确性与连贯性。
2025-11-20 cs.CL
Using Multimodal and Language-Agnostic Sentence Embeddings for Abstractive Summarization
本文提出SBARThez框架,利用多模态和多语言句子嵌入提升抽象摘要的准确性与跨语言能力。
2026-03-09 cs.CL
A LongFormer-Based Framework for Accurate and Efficient Medical Text Summarization
Washington University in St. Louis(圣路易斯华盛顿大学);Cornell University(康奈尔大学);Stevens Institute of Technology(史蒂文斯理工学院);Northeastern University(东北大学);The Chinese University of Hong Kong(香港中文大学);Santa Clara University(圣克拉拉大学)
本文提出基于LongFormer的医学文本摘要方法,利用长程自注意力捕捉长文本依赖,在ROUGE和专家评估中优于RNN、T5和BERT,但在简洁性上仍有改进空间。
2025-03-10 cs.CL
AnswerSumm: A Manually-Curated Dataset and Pipeline for Answer Summarization
Salesforce AI Research(Salesforce人工智能研究院);Yale University(耶鲁大学);Facebook AI(Facebook人工智能)
社区问答(CQA)论坛,如堆栈溢出和雅虎!答案包含了一个丰富的资源的答案,以广泛的社区为基础的问题。每个问题线程可以接收大量具有不同视角的答案。答案总结的一个目标是生成反映答案观点范围的摘要。这项任务的一个主要障碍是缺乏一个数据集来监督编制这种摘要。最近的工作提出了创建这样的数据,但这些往往是嘈杂的,并没有涵盖所有的答案的观点。这项工作介绍了一个由4,631个CQA线程组成的新数据集,用于由专业语言学家策划的答案摘要。我们的管道为答案总结的所有子任务收集注释,包括相关的答案句子选择,基于视角对这些句子进行分组,总结每个视角,并生成整体总结。我们对这些子任务的最新模型进行了分析和基准测试,并引入了一种用于多视角数据增强的新的无监督方法,该方法根据自动评估来提高摘要性能。最后,我们提出了强化学习奖励,以提高事实的一致性和答案的覆盖率,并分析改进的领域。
2022-04-29 cs.CL
Toward Extractive Summarization of Online Forum Discussions via Hierarchical Attention Networks
University of Central Florida(中佛罗里达大学)
论坛的帖子很长,内容丰富。简洁的主题摘要将有利于寻求信息的新人和参与讨论的人。然而,很少有研究探讨了论坛主题摘要的任务。在这项工作中,我们第一次尝试适应线程摘要的层次注意力网络。该模型利用神经注意力机制的最新发展来构建句子和线索表示并将其用于摘要。我们的研究结果表明,所提出的方法可以优于一系列的竞争基线。此外,冗余去除步骤对于实现出色的结果至关重要。
2018-12-26 cs.CL
Improve Query Focused Abstractive Summarization by Incorporating Answer Relevance
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心);The Hong Kong University of Science and Technology(香港科技大学)
以查询为中心的摘要(QFS)模型的目的是从源文档生成摘要,可以回答给定的查询。大多数以前的工作QFS只考虑查询的相关性标准时,产生的摘要。然而,研究答案相关性在摘要生成过程中的作用也是重要的。在本文中,我们提出了QFS-BART,一个模型,该模型通过一个问答模型,结合了明确的答案相关的源文件的查询,生成连贯的和答案相关的摘要。此外,我们的模型可以利用大型预训练模型,显着提高摘要性能。在Debatepedia数据集上的实验结果表明,该模型达到了新的最先进的性能。
2021-05-31 cs.CL
Multi-Perspective Abstractive Answer Summarization
Yale University(耶鲁大学);Facebook AI(脸书人工智能研究院)
社区问答(CQA)论坛,如堆栈溢出和雅虎!答案包含了一个广泛的问题的答案丰富的资源。每个问题线程可以接收大量具有不同视角的答案。多视角答案摘要的目标是生成一个包含答案所有视角的摘要。多视角、抽象的答案摘要的主要障碍是缺乏数据集来为生成这样的摘要提供监督。这项工作介绍了一种新的数据集创建方法,从现有的CQA论坛自动创建多角度,子弹点摘要。该数据集提供的监督训练模型,以内在地生成多视角摘要。此外,为了训练模型在保持多个视角的同时输出更多样化、更忠实的答案摘要,我们提出了一种多奖励优化技术,并结合了一种基于相关性的多任务损失预测。我们的方法表明,与强大的基线相比,通过自动和人工评估来衡量,视角和忠诚度的覆盖率有所提高。
2021-04-17 cs.CL
Shaping Political Discourse using multi-source News Summarization
Stanford University(斯坦福大学)
本文提出一种无偏的多文档新闻摘要机器学习模型,通过等量采样主题各维度,生成公正摘要,用于塑造政治话语。
2023-12-18 cs.CL cs.CY cs.IR
Reinforced Extractive Summarization with Question-Focused Rewards
University of Central Florida(中佛罗里达大学)
我们研究了一种新的提取摘要的训练模式。传统上,人类摘要被用来获得提取单元的黄金标准标签。然而,标签通常是不准确的,因为人类摘要和源文档不能在单词级别轻松对齐。在本文中,我们将人类摘要转换为一组完形填空式的理解问题。鼓励系统摘要保留对回答问题有用的突出源内容,并与摘要共享常用词。我们使用强化学习来探索可能的提取摘要的空间,并引入以问题为中心的奖励函数来促进简洁,流畅和信息丰富的摘要。实验结果表明,该方法是有效的.它在标准摘要数据集上超越了最先进的系统。
2018-06-21 cs.CL
Towards Argument-Aware Abstractive Summarization of Long Legal Opinions with Summary Reranking
University of Pittsburgh(匹兹堡大学)
本文提出一种论证感知的长法律意见书生成式摘要方法,通过论证角色信息生成候选摘要并依据论证结构对齐重排序,在长法律意见书数据集上优于多个强基线。
2023-06-01 cs.CL
What's in a Summary? Laying the Groundwork for Advances in Hospital-Course Summarization
Columbia University(哥伦比亚大学)
摘要临床叙述是一个长期的研究问题。在这里,我们介绍了医院课程总结的任务。给定患者住院期间撰写的文档,生成一个段落,讲述患者入院的故事。我们构建了一个包含109,000例住院(2 M源记录)及其相应摘要代理的英文文本到文本数据集:临床医生撰写的“简短医院课程”段落,作为出院记录的一部分。探索性分析表明,BHC段落是高度抽象的一些长提取片段,是简洁而全面的,不同的风格和内容组织的源说明,表现出最小的词汇衔接,并代表银标准的参考。我们的分析确定了建模这个复杂的,多文档摘要任务的多重影响。
2021-04-12 cs.CL
Comparative Opinion Summarization via Collaborative Decoding
Megagon Labs(美乐岗实验室);University of Edinburgh(爱丁堡大学)
意见摘要侧重于生成摘要,反映多个在线评论中表达的流行主观信息。虽然生成的摘要提供关于特定酒店或产品的一般和简明的信息,但是该信息可能不足以帮助用户比较多个不同的选择。因此,用户可能仍然在"我应该选择哪一个?"在本文中,我们提出了比较意见摘要任务,其目的是从两个不同的候选评论集生成两个对比摘要和一个共同摘要。我们开发了一个比较摘要框架CoCoSum,它由两个基本的摘要模型,共同生成对比和共同的摘要。在新创建的基准CoCoTrip上的实验结果表明,CoCoSum可以产生比最先进的意见摘要模型更高质量的对比和常见摘要。数据集和代码可在www.example.com上获得
2022-04-15 cs.CL
Enhancing Biomedical Text Summarization and Question-Answering: On the Utility of Domain-Specific Pre-Training
University of Technology Sydney(悉尼科技大学)
本文研究生物医学摘要任务中的预训练策略,发现通用领域预训练加任务微调优于领域内预训练,并提出仅需千例样本的三步微调方法,证明无领域预训练的大语言模型在特定生物医学文本生成中更具优势。
2023-07-10 cs.CL
Key Point Analysis via Contrastive Learning and Extractive Argument Summarization
Paderborn University(帕德博恩大学);Leipzig University(莱比锡大学);Bielefeld University(比勒费尔德大学)
关键点分析的任务是从一组给定的论点中提取一组简洁和高层次的陈述,代表这些论点的主旨。本文介绍了我们提出的关键点分析共享任务的方法,并与第八届研讨会上的论点挖掘。这一办法包括两个相辅相成的组成部分。一个组件通过siamese神经网络采用对比学习,用于将参数与关键点匹配;另一个组件是基于图形的提取摘要模型,用于生成关键点。在自动和手动评估中,我们的方法在所有提交的共享任务中排名最好。
2021-10-22 cs.CL
Multi-hop Inference for Question-driven Summarization
The Chinese University of Hong Kong(香港中文大学)
摘要驱动的摘要最近被研究作为一种有效的方法来总结源文档,以产生简洁,但非事实问题的信息量的答案。在这项工作中,我们提出了一种新的问题驱动的抽象摘要方法,多跳选择性生成器(MSG),将多跳推理到问题驱动的摘要,同时,为生成的摘要提供理由。具体来说,我们通过一个类似人类的多跳推理模块,捕捉重要的句子,以证明总结的答案,联合模型的相关性的问题和不同的句子之间的相互关系。设计了一个具有多视角覆盖机制的门控选择性指针生成器网络,用于整合来自不同视角的各种信息。实验结果表明,该方法始终优于国家的最先进的方法在两个非factoid QA数据集,即WikiHow和PubMedQA。
2020-10-08 cs.CL
Summarize-then-Answer: Generating Concise Explanations for Multi-hop Reading Comprehension
Stony Brook University(石溪大学);RIKEN(理化学研究所);Tohoku University(东北大学)
我们如何为多跳阅读理解(RC)生成简洁的解释?目前的支持句识别策略可以看作是对输入文本的一种抽取式的以问题为中心的摘要。然而,这些抽象的解释不一定是简洁的,即不足以回答一个问题。相反,我们提倡一种抽象的方法,我们建议生成一个以问题为中心的,抽象的输入段落摘要,然后将其馈送到RC系统。给定有限数量的人类注释的抽象解释,我们以半监督的方式训练抽象解释器,其中我们从监督模型开始,然后训练它进一步通过试错最大化简洁性促进的奖励函数。我们的实验表明,建议的抽象解释器可以产生更紧凑的解释比一个提取的解释器有限的监督(只有2k个实例),同时保持足够的。
2021-09-14 cs.CL
A Deep Learning-Based System for Automatic Case Summarization
Vietnam National University - Hanoi(河内越南国家大学);National Institute of Informatics(国立信息学研究所)
本研究提出一种基于深度学习的自动法律案件摘要系统,结合有监督与无监督NLP方法生成子部分及整体摘要,配套友好交互界面,可减轻法律从业者工作负担,后续将优化技术并拓展应用场景。
2023-12-13 cs.CL
Incorporating Commonsense Knowledge into Abstractive Dialogue Summarization via Heterogeneous Graph Networks
Harbin Institute of Technology(哈尔滨工业大学)
摘要对话摘要的任务是捕捉对话的亮点,并将其改写成简洁的版本。在本文中,我们提出了一种新的多扬声器对话摘要演示如何大规模的常识知识,可以促进对话的理解和摘要生成。具体来说,我们将话语和常识知识视为两种不同类型的数据,并设计了一个对话异构图网络(D-HGN)来建模这两种信息。同时,我们还添加扬声器作为异构节点,以促进信息流。SAMSum数据集上的实验结果表明,我们的模型可以优于各种方法。我们还在议论文摘要语料库上进行了zero-shot设置实验,结果表明我们的模型可以更好地推广到新的领域。
2020-10-20 cs.CL
iFacetSum: Coreference-based Interactive Faceted Summarization for Multi-Document Exploration
Bar-Ilan University(巴伊兰大学);Intel Labs(英特尔实验室);UNC Chapel Hill(北卡罗来纳大学教堂山分校);Peres Academic Center(佩雷斯学术中心)
我们介绍iFacetSum,探索主题文档集的Web应用程序。iFacetSum通过提供一种新颖的分面导航方案,为用户的选择生成抽象摘要,将交互式摘要与分面搜索集成在一起。这种方法既提供了一个全面的概述,也提供了关于所选子主题的简明细节。细粒度的方面是基于跨文档共指管道自动生成的,呈现源文本中出现的通用概念、实体和语句。我们通过小规模的用户研究,这表明我们的方法的实用性,我们的应用程序的有效性进行分析。
2021-09-23 cs.CL
QA-prompting: Improving Summarization with Large Language Models using Question-Answering
Georgia Institute of Technology(佐治亚理工学院)
本文提出QA-prompting方法,在摘要生成前引入问答中间步骤以缓解长上下文位置偏差,无需微调或流水线,在多个数据集和十个预训练模型上ROUGE分数最高提升29%。
2025-09-21 cs.CL
The Current State of Summarization
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
本文概述了抽象文本摘要的当前技术发展水平,包括向预训练编码器-解码器模型和大型自回归语言模型转变的范式,并探讨了评估挑战、指令微调模型在零样本摘要中的潜力及商业应用集成现状。
2023-08-01 cs.AI cs.CL
An Empirical Survey on Long Document Summarization: Datasets, Models and Metrics
Monash University(莫纳什大学);Deakin University(迪肯大学);Griffith University(格里菲斯大学)
学术文章和商业报告等长文档一直是详细说明需要额外关注的重要问题和复杂主题的标准格式。一个自动摘要系统,可以有效地压缩长文档成简短的文本,封装最重要的信息,因此将是重要的,在帮助读者的理解。最近,随着神经架构的出现,已经做出了重大的研究努力,以推进自动文本摘要系统,并出现了许多研究的挑战,这些系统扩展到长文档域。在这项调查中,我们提供了一个全面的概述长文档摘要的研究和系统的评估,其研究设置的三个主要组成部分:基准数据集,摘要模型和评估指标。对于每一个组成部分,我们组织的文献范围内的长文件摘要,并进行实证分析,以拓宽目前的研究进展的角度。实证分析包括对基准数据集内在特征的研究、对文摘模型的多维分析和对文摘评价指标的回顾。根据总体调查结果,我们最后提出了这个快速发展领域未来探索的可能方向。
2022-07-03 cs.CL
PSentScore: Evaluating Sentiment Polarity in Dialogue Summarization
Univ. Grenoble Alpes(格勒诺布尔大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Grenoble INP(格勒诺布尔理工学院);LIG(信息与信号处理实验室)
本文提出PSentScore度量指标,用于评估对话摘要中情感内容的保留程度,发现现有先进摘要模型情感保留不足,并证明通过精心选择训练集可在轻微牺牲内容指标的情况下改善情感保留。
2024-05-03 cs.CL