TTQA-RS- A break-down prompting approach for Multi-hop Table-Text Question Answering with Reasoning and Summarization
University of Florida(佛罗里达大学)
本文提出TTQA-RS模型,通过分解提示、检索增强生成和表格-文本摘要,结合推理与子问题答案,在多跳表格-文本问答任务上以开源LLM取得最优性能。
2024-09-30 cs.CL cs.IR
Benchmarking Answer Verification Methods for Question Answering-Based Summarization Evaluation Metrics
University of Pennsylvania(宾夕法尼亚大学)
基于问答的摘要评估指标必须自动确定QA模型的预测是否正确,这一任务称为答案验证。在这项工作中,我们基准测试的词汇答案验证方法已被用于当前基于QA的指标,以及两个更复杂的文本比较方法,BERTScore和LERC。我们发现,LERC优于其他方法在某些设置,而在其他统计上无法区分词汇重叠。然而,我们的实验表明,改进的验证性能并不一定转化为基于QA的整体度量质量:在某些情况下,使用更差的验证方法-或者根本不使用-与使用最佳验证方法具有相当的性能,我们将其归因于数据集的属性。
2022-04-21 cs.CL
Incorporating Question Answering-Based Signals into Abstractive Summarization via Salient Span Selection
Google(谷歌);University of Pennsylvania(宾夕法尼亚大学)
在这项工作中,我们提出了一种方法,将问答(QA)信号的摘要模型。我们的方法通过自动生成由NP回答的wh-问题并自动确定这些问题是否在黄金摘要中得到回答来识别输入文档中的突出名词短语(NP)。这个基于QA的信号被纳入一个两阶段的摘要模型,首先使用分类模型标记输入文档中的突出NP,然后有条件地生成摘要。我们的实验表明,使用基于QA的监督训练的模型生成的摘要质量高于在基准摘要数据集上识别突出跨度的基线方法。此外,我们表明,所生成的摘要的内容可以控制的基础上,在输入文档中标记的NP。最后,我们提出了一种增强训练数据的方法,使黄金摘要与训练期间使用的标记输入跨度更加一致,并展示了这如何导致模型学习更好地排除未标记的文档内容。
2023-02-25 cs.CL
Privacy Policy Question Answering Assistant: A Query-Guided Extractive Summarization Approach
The Ohio State University(俄亥俄州立大学)
现有的使隐私政策可访问的工作已经探索了新的呈现形式,例如基于风险因素或摘要的颜色编码,以帮助用户有意识地同意。为了促进更个性化的互动政策,在这项工作中,我们提出了一个自动化的隐私政策问答助理,提取摘要,响应输入的用户查询。这是一项具有挑战性的任务,因为用户用与政策的法律语言截然不同的语言表达他们的隐私相关问题,使系统难以理解他们的查询。此外,该领域现有的注释数据有限。我们通过解释来解决这些问题,使用户问题的风格和语言更接近隐私政策的语言。我们的内容评分模块使用现有的域内数据在策略中查找相关信息,并将其合并到摘要中。我们的管道能够为privacyQA数据集中89%的用户查询找到答案。
2021-09-29 cs.CL cs.CY cs.IR
PSK at WMT 2026 MIST: Task-Specialized QLoRA Adapters for Multilingual Summarization and Question Answering
该研究针对WMT 2026多语言指令共享任务,基于Tiny Aya Global模型构建三个QLoRA适配器,分别适配摘要、段落问答、独立问答任务,对比验证了不同适配器的性能并提交含不同开放问答适配器的系统。
2026-08-24 cs.AI cs.CL cs.LG
CQASUMM: Building References for Community Question Answering Summarization Corpora
Myntra Designs(Myntra设计公司);IIIT-Delhi(德里英迪拉·甘地信息技术学院)
Quora、Stackoverflow等社区问答论坛是丰富的知识资源,经常迎合被主要搜索引擎忽视的主题信息。提交给这些论坛的答案往往是精心制作的,包含垃圾邮件,被诽谤和商业促销所破坏。读者很难通过大量这样的答案来衡量社区的意见。因此,总结成为CQA论坛的优先任务。虽然已经做出了一些努力来总结类事实CQA,但在总结非类事实CQA方面的工作很少。我们认为这是由于缺乏一个相当大的,注释的数据集CQA总结。我们通过过滤440万Yahoo!回答L 6数据集。我们抽样的线程,其中最好的答案可以加倍作为一个参考摘要,并建立从他们百字摘要。我们将其他答案作为候选文档进行总结。我们提供了一个脚本来生成数据集,并介绍了社区问答摘要的新任务。多文档摘要已被广泛研究的新闻文章数据集,特别是在DUC和TAC挑战使用新闻语料库。然而,CQA中的文档具有更高的方差、矛盾的观点和更少的重叠量。我们比较流行的多文档摘要技术,并评估其性能在我们的CQA语料库。我们研究了最先进的技术,并了解了现有的多文档摘要器(MDS)失败的情况。我们发现,大多数MDS工作流程是建立在完全事实的新闻语料库,而我们的语料库有一个公平的份额的意见为基础的实例。因此,我们引入了OpinioSumm,一种新的MDS,其在ROUGE-1评分方面优于最佳基线4.6%。
2018-11-12 cs.CL
Improving Factual Consistency of Abstractive Summarization via Question Answering
Amazon Web Services(亚马逊云服务);Columbia University(哥伦比亚大学)
最先进的抽象摘要模型的一个常见问题是生成的摘要可能与输入文档事实上不一致。事实上,自动摘要可能会产生听起来不可信但不准确的摘要是一个主要的问题,限制了它的广泛应用。在本文中,我们提出了一种方法来解决事实的一致性摘要。我们首先提出了一个有效的自动评估指标来衡量事实的一致性,接下来,我们提出了一种新的学习算法,最大限度地提高模型训练过程中提出的度量。通过大量的实验,我们证实,我们的方法是有效的,在提高事实的一致性,甚至整体质量的摘要,判断自动指标和人类的评价。
2021-05-10 cs.AI cs.CL
FEQA: A Question Answering Evaluation Framework for Faithfulness Assessment in Abstractive Summarization
Cornell University(康奈尔大学);New York University(纽约大学);The George Washington University(乔治华盛顿大学);Amazon Web Services AI(亚马逊网络服务人工智能)
神经抽象摘要模型容易产生与源文档不一致的内容,即不忠实。现有的自动度量不能有效地捕获此类错误。我们解决的问题,评估的忠实性生成的摘要,其源文件。我们首先收集了两个数据集上众多模型输出的忠实度的人类注释。我们发现,目前的模型表现出抽象性和忠实性之间的权衡:与源文档的字重叠较少的输出更有可能是不忠实的。接下来,我们提出了一个自动的问答(QA)为基础的忠实度,FEQA,它利用了最近的进展,阅读理解。给定从摘要生成的问题-答案对,QA模型从文档中提取答案;不匹配的答案表示摘要中的不忠实信息。在基于词重叠、嵌入相似性和学习语言理解模型的度量中,我们基于QA的度量与人类忠实度分数具有显著更高的相关性,特别是在高度抽象的摘要上。
2020-05-07 cs.CL
Question-Answering Based Summarization of Electronic Health Records using Retrieval Augmented Generation
Northeastern University(东北大学)
本文提出一种结合语义搜索、检索增强生成(RAG)和问答的方法,利用最新LLMs对电子健康记录进行摘要,以解决标注数据不足和注意力机制二次复杂度导致的性能问题,同时避免幻觉并确保内容多样性。
2024-01-03 cs.AI cs.CL
MQAG: Multiple-choice Question Answering and Generation for Assessing Information Consistency in Summarization
ALTA Institute(ALTA研究所);University of Cambridge(剑桥大学)
本文提出MQAG框架,通过多项选择题的回答与生成来计算源文本与摘要答案分布间的预期统计距离,从而评估摘要的信息一致性,并在四个数据集上验证其优于现有方法。
2023-09-07 cs.CL
Evidence-Focused Fact Summarization for Knowledge-Augmented Zero-Shot Question Answering
Yonsei University(延世大学)
针对知识图谱文本化存在的证据密度低、清晰度差的问题,提出EFSum证据聚焦型事实摘要框架,经蒸馏和偏好对齐优化开源大模型为摘要器,可提升大模型零样本问答性能,同时保证摘要有用性与忠实性。
2024-10-09 cs.AI cs.CL cs.LG
CO-Search: COVID-19 Information Retrieval with Semantic Search, Question Answering, and Abstractive Summarization
Salesforce Research(赛富时研究院)
2019冠状病毒病全球大流行促使国际社会努力了解、跟踪和减轻这种疾病,产生了跨科学学科的2019冠状病毒病和SARS-CoV-2相关出版物的重要语料库。截至2020年5月,已通过COVID-19开放研究数据集挑战收集了128,000篇与冠状病毒相关的出版物。在这里,我们介绍了CO-Search,这是一个检索器-排名器语义搜索引擎,旨在处理对COVID-19文献的复杂查询,可能有助于负担过重的卫生工作者在危机时期找到科学答案。检索器是建立从Siamese-BERT编码器,是线性组成的TF-IDF矢量化,和倒数秩融合的BM 25矢量化。该排名器是由一个多跳问答模块,连同多段摘要摘要调整检索分数。为了解决特定领域和相对有限的数据集,我们生成了文档段落和引用的二分图,创建了130万个(引用标题,段落)元组用于训练编码器。我们根据TREC-COVID信息检索挑战的数据评估了我们的系统。CO-Search在第一轮和第二轮的数据集上获得了最佳性能,包括几个关键指标:归一化折扣累积增益、精度、平均精度和二进制偏好。
2020-06-17 cs.AI cs.CL cs.IR
QQSUM: A Novel Task and Model of Quantitative Query-Focused Summarization for Review-based Product Question Answering
RMIT University(拉筹伯大学)
本文提出QQSUM任务与QQSUM-RAG模型,通过少样本学习联合训练KP检索器和摘要生成器,从评论中提取并量化多样化关键点,以提升产品问答的答案质量与意见覆盖度。
2025-06-04 cs.CL
Multi-modal Summarization for Video-containing Documents
College of Computer Science, Nankai University(南开大学计算机学院);Ludong University(鲁东大学)
摘要的多媒体数据变得越来越重要,因为它是许多现实世界的应用,如问答,Web搜索等的基础。然而,大多数现有的多模态摘要作品都使用从图像而不是视频中提取的视觉互补特征,从而丢失了丰富的信息。因此,我们提出了一种新的多模态摘要任务,从文档及其相关的视频进行总结。在这项工作中,我们还建立了一个基线一般模型与有效的战略,即,双跳注意和改进的后期融合机制,以弥合不同模态之间的差距,以及双流摘要策略,同时采用文本和视频摘要。综合实验表明,该模型有利于多模态摘要,优于现有方法。此外,我们收集了一个新的数据集,它提供了一个新的资源,为未来的研究,从文件和视频的结果。
2020-09-17 cs.CL cs.IR
Few-shot Query-Focused Summarization with Prefix-Merging
The Hong Kong Polytechnic University(香港理工大学);Xidian University(西安电子科技大学);Soochow University(苏州大学)
面向查询的摘要被认为是文本摘要的一个重要扩展。它的目的是为给定的查询生成一个简洁的突出显示。与文本摘要不同,面向查询的摘要一直受到缺乏高质量大规模数据集的困扰。本文探讨了在面向查询的摘要中,能否将文本摘要和问答知识整合和迁移,以辅助少样本学习。在这里,我们提出了前缀合并,一个基于前缀的预训练策略,用于以查询为中心的摘要中的少样本学习。受前缀调整的启发,我们可以将文本摘要和问答中的任务知识整合到一个适当设计的前缀中,并将合并后的前缀应用于以查询为中心的摘要。只有少量的可训练参数,前缀合并优于以查询为中心的摘要的微调。我们进一步讨论了不同的前缀设计的影响,并提出了一个可视化的解释前缀合并的工作原理。
2022-11-29 cs.AI cs.CL
Question-Driven Summarization of Answers to Consumer Health Questions
Lister Hill National Center for Biomedical Communications, U.S. National Library of Medicine, National Institutes of Health(美国国立卫生研究院美国国家医学图书馆利斯特希尔生物医学通信中心)
自然语言的自动摘要是计算机科学中广泛研究的领域,其广泛适用于任何例行需要理解大量信息的人。例如,在医疗领域,自动摘要的深度学习方法的最新发展有可能使患者和消费者更容易获得健康信息。然而,为了评估自动生成的健康信息摘要的质量,需要黄金标准的人工生成的摘要。使用美国国家医学图书馆的消费者健康问答系统提供的答案,我们提出了MEDIQA答案摘要数据集,第一个总结收集包含问题驱动的消费者健康问题的答案摘要。该数据集可用于评估使用提取或抽象方法的算法生成的单个或多个文档摘要。为了对数据集进行基准测试,我们包括基线和最先进的深度学习摘要模型的结果,证明该数据集可用于有效评估问题驱动的机器生成摘要,并促进医学问答中的进一步机器学习研究。
2020-05-20 cs.CL
Do LLMs Work on Charts? Designing Few-Shot Prompts for Chart Question Answering and Summarization
National University of Singapore(新加坡国立大学);York University(约克大学);Nanyang Technological University(南洋理工大学);Salesforce Research(Salesforce研究院)
针对现有图表任务微调方案成本高、泛化性差的问题,提出多模态少样本提示框架PromptChart,配套任务提示指南与视觉信息注入策略,在三项图表任务基准上实现SOTA。
2023-12-17 cs.CL
LongSumEval: Question-Answering Based Evaluation and Feedback-Driven Refinement for Long Document Summarization
dept. of Information Science University of North Texas Denton, Texas, USA(信息科学系 俄克拉荷马州立大学 德顿, 德克萨斯州, 美国);dept. of Data Science University of North Texas Denton, Texas, USA(数据科学系 俄克拉荷马州立大学 德顿, 德克萨斯州, 美国)
本文提出LongSumEval框架,通过结构化问题-答案反馈连接评估与生成,提供可解释评分和可操作反馈,提升长文档摘要质量,无需重新训练即可实现自我精炼。
2026-06-23 cs.CL
Towards Unsupervised Question Answering System with Multi-level Summarization for Legal Text
National Institute of Technology Karnataka (NITK)(卡纳塔克邦国家理工学院(NITK))
针对 SemEval-2024 法律论证推理二分类任务,提出基于相似度与距离的无监督标注方法,并结合 Legal-Bert 多层融合及 T5 分段摘要,显著提升 F1。
2024-07-02 cs.CL cs.CY cs.LG
Improving Unsupervised Question Answering via Summarization-Informed Question Generation
Dublin City University(都柏林城市大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Trinity College Dublin(都柏林大学三一学院)
问题生成(QG)是为给定的<passage,answer>对生成合理问题的任务。基于模板的QG使用基于语言的语法将陈述句转换为疑问句,而有监督的QG使用现有的问答(QA)数据集来训练系统以生成给定段落和答案的问题。启发式方法的缺点是生成的问题与其声明性对应物紧密相关。监督方法的缺点是它们严重依赖于用作训练数据的QA数据集的域/语言。为了克服这些缺点,我们提出了一个无监督的QG方法,它使用的问题,从摘要作为一个QG系统的训练数据的来源,启发式地产生。我们利用免费提供的新闻摘要数据,转换成适当的问题,使用依存句法分析,命名实体识别和语义角色标注告知的语法学的陈述性摘要句子。然后,将产生的问题与原始新闻文章相结合,以训练端到端的神经QG模型。我们使用无监督QA来评估我们的方法:我们的QG模型用于生成合成QA对以训练QA模型。实验结果表明,仅用20 k个基于英语维基百科的合成QA对训练,QA模型在三个域内数据集(SQuAD 1.1,Natural Questions,TriviaQA)和三个域外数据集(NewsQA,BioASQ,DuoRC)上的性能大大优于以前的无监督模型,证明了该方法的可移植性。
2021-09-16 cs.CL
MORTY: Structured Summarization for Targeted Information Extraction from Scholarly Articles
L3S Research Center, Leibniz University Hannover(莱布尼茨汉诺威大学L3S研究中心);Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心)
由于学术论文的篇幅很长,文本、图表和引文中隐藏着大量的隐含信息,因此从学术论文中提取信息抽取是一项具有挑战性的任务。学术信息抽取在数字图书馆和知识管理系统的探索、存档和策展服务中有各种应用。我们提出MORTY,一个信息抽取技术,创建结构化摘要的文本从学术文章。我们的方法将文章的全文压缩为一个分段的文本片段,称为结构化摘要。我们还提出了一个相当大的学术数据集,结合了从学术知识图谱和相应的公开可用的科学文章中检索到的结构化摘要,我们公开发表这些文章作为研究社区的资源。我们的研究结果表明,结构化摘要是一个合适的方法,有针对性的信息抽取,补充其他常用的方法,如问答和命名实体识别。
2022-12-11 cs.CL cs.IR
Answers Unite! Unsupervised Metrics for Reinforced Summarization Models
CNRS(法国国家科学研究中心);Sorbonne Université(索邦大学);reciTAL
最近提出了基于强化学习(RL)的抽象摘要方法,以克服经典的似然最大化。RL能够考虑复杂的,可能是不可区分的指标,这些指标在全球范围内评估生成的输出的质量和相关性。ROUGE,最常用的摘要度量,是已知的遭受偏向词汇相似性,以及从次优会计的流畅性和可读性的生成的摘要。因此,我们探索并提出了替代的评估措施:报告的人的评价分析表明,所提出的指标,问答的基础上,有利地比较ROUGE -与额外的属性,不需要参考摘要。在这些指标上训练一个基于RL的模型,可以改进(在人工或自动化指标方面)当前使用ROUGE作为奖励的方法。
2019-09-04 cs.AI cs.CL cs.IR
Query Focused Multi-Document Summarization with Distant Supervision
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们认为,更好地建模查询集群的相互作用,以促进查询为重点的多文档摘要(QFS)的问题。由于缺乏训练数据,现有的工作在很大程度上依赖于检索式的方法来估计查询和文本段之间的相关性。在这项工作中,我们利用远程监督从问答,其中各种资源可以更明确地捕捉查询和文档之间的关系。我们提出了一个由粗到细的建模框架,它引入了单独的模块,用于估计片段是否与查询相关,可能包含答案和中心。在此框架下,经过训练的证据估计器进一步辨别哪些检索到的片段可能回答摘要中的最终选择的查询。我们证明,我们的框架优于强比较系统的标准QFS基准。
2020-04-06 cs.CL cs.IR cs.LG
ISQA: Informative Factuality Feedback for Scientific Summarization
National University of Singapore(新加坡国立大学);Sea AI Lab(Sea AI实验室)
提出ISQA方法,利用包含正负面信息的模型生成反馈对摘要进行迭代优化,要求智能体强化已验证陈述并修正错误陈述,显著提升了多种开源LLM在科学摘要任务上的事实性。
2024-04-20 cs.CL
Science Checker: Extractive-Boolean Question Answering For Scientific Fact Checking
Opscidia(Opscidia公司)
随着科学出版物的爆炸式增长,使科学知识的综合和事实核查成为一项日益复杂的任务。在本文中,我们提出了一个多任务的方法来验证科学问题的基础上,联合推理的事实和证据的研究文章。我们提出了一个智能的组合(1)一个自动的信息摘要和(2)一个布尔问答,它允许生成一个答案的科学问题,从总结后获得的提取。因此,在给定的主题上,我们提出的方法基于论文摘要进行结构化内容建模,以回答科学问题,同时突出显示讨论该主题的论文中的文本。我们的最终系统基于端到端的提取问答(EQA),结合三个输出分类模型,对问题进行深入的语义理解,以说明多个响应的聚合。通过我们提出的轻巧快速的架构,我们实现了4%的平均出错率和95.6%的F1分数。我们的研究结果支持通过实验与两个QA模型(BERT,RoBERTa)超过300万开放获取(OA)的文章在医疗和健康领域的欧洲PMC。
2022-04-29 cs.AI cs.CL cs.IR
Combining Deep Neural Reranking and Unsupervised Extraction for Multi-Query Focused Summarization
Technische Hochschule Nürnberg Georg Simon Ohm(纽伦堡乔治·西蒙·欧姆应用科学大学)
CrisisFACTS Track旨在应对事件跟踪领域的多流实况调查等挑战;参与者的系统从若干灾害相关事件中提取重要事实,同时纳入时间顺序。我们提出了一个组合的检索,重新排序,以及著名的线性规划(ILP)和最大边际相关性(MMR)框架。在前两个模块中,我们探索了各种方法,包括基于实体的基线,预训练和微调的问答系统和ColBERT。然后,我们使用后一个模块作为一个提取的总结组件,考虑多样性和新颖性标准。自动评分运行显示了整个评估设置的强大结果,但也揭示了缺点和挑战。
2023-02-02 cs.CL
Peek Across: Improving Multi-Document Modeling via Cross-Document Question-Answering
Bar-Ilan University(巴伊兰大学);Allen Institute for AI(艾伦人工智能研究所);Yale University(耶鲁大学)
本文提出跨文档问答预训练目标并构建 QAmden 模型,通过让模型在主题相关文档间“窥视”来回答问题并恢复原句,从而提升多文档问答、摘要等任务性能,最高提升 7%,并优于零样本 GPT-3.5 和 GPT-4。
2023-05-24 cs.AI cs.CL
No perspective, no perception!! Perspective-aware Healthcare Answer Summarization
IIIT Delhi(德里印度信息技术学院);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本文提出医疗 CQA 的视角特定答案摘要任务,构建 PUMA 数据集,并提出提示驱动、能量控制损失与前缀调谐的 PLASMA 模型,较五个基线提升 1.5%–21%。
2024-06-13 cs.CL
Evaluation of Transfer Learning for Polish with a Text-to-Text Model
我们引入了一个新的基准来评估波兰语文本到文本模型的质量。该基准测试由不同的任务和数据集组成:KLEJ基准测试适用于文本到文本,en-pl翻译,摘要和问答。特别是,由于摘要和问答缺乏波兰语的基准数据集,我们描述了他们的建设,使他们公开。此外,我们提出了plT 5-波兰语的通用文本到文本模型,可以在各种自然语言处理(NLP)任务中进行微调,具有单一的训练目标。无监督去噪预训练通过使用多语言T5(mT5)对应物初始化模型权重来有效地执行。我们评估了plT 5、mT5、波兰BART(plBART)和波兰GPT-2(papuGaPT 2)的性能。plT 5在所有这些任务中得分最高,除了总结,其中plBART最好。一般来说(汇总除外),模型越大,结果越好。编码器-解码器架构被证明优于仅解码器的等效架构。
2022-05-18 cs.CL cs.LG
MRAG: A Modular Retrieval Framework for Time-Sensitive Question Answering
Nanyang Technological University(南洋理工大学);Alibaba-NTU JRI(阿里巴巴-南洋理工大学联合研究院);NYU Shanghai(上海纽约大学);Zhejiang University(浙江大学);Center for Data Science, New York University(纽约大学数据科学中心)
针对大语言模型问答系统在时间敏感问题上的推理短板,该研究提出无需训练的模块化检索框架MRAG,构建TempRAGEval基准,实验证明其检索性能和答案准确率均优于基线方法。
2025-05-21 cs.CL
QuestEval: Summarization Asks for Fact-based Evaluation
CNRS(法国国家科学研究中心);Sorbonne Université(索邦大学);reciTAL;New York University(纽约大学)
摘要评价仍然是一个开放的研究问题:目前的指标,如ROUGE是有限的,并与人类的判断相关性差。为了缓解这个问题,最近的工作提出了评估指标,依赖于问答模型来评估摘要是否包含其源文档中的所有相关信息。虽然很有前途,但到目前为止,所提出的方法未能比ROUGE更好地与人类判断相关联。在本文中,我们扩展了以前的方法,并提出了一个统一的框架,名为QuestEval。与ROUGE或BERTScore等已建立的指标相比,QuestEval不需要任何地面实况参考。尽管如此,QuestEval在四个评估维度(一致性,连贯性,流畅性和相关性)上大大提高了与人类判断的相关性,正如我们报告的大量实验所示。
2021-04-09 cs.CL
Reinforcement Learning for Abstractive Question Summarization with Question-aware Semantic Rewards
U.S. National Library of Medicine(美国国家医学图书馆)
在线消费者健康问题的增长导致了对可靠且准确的问答系统的需求。最近的一项研究表明,消费者健康问题的手动摘要在检索相关答案方面带来了显着的改善。然而,由于训练数据的缺乏以及相关子任务(如问题焦点和类型识别)的复杂性,长问题的自动摘要是一项具有挑战性的任务。在本文中,我们介绍了一个基于强化学习的抽象问题摘要框架。我们提出了两个新的奖励获得的下游任务(i)问题类型识别和(ii)问题焦点识别正规化的问题生成模型。这些奖励确保生成语义有效的问题,并鼓励在问题摘要中包含关键医学实体/焦点。我们在两个基准数据集上评估了我们提出的方法,并在最先进的模型上实现了更高的性能。对摘要的人工评估表明,与基线摘要相比,生成的问题更加多样化,事实不一致的情况更少
2021-07-01 cs.CL
Joint Learning of Answer Selection and Answer Summary Generation in Community Question Answering
The Chinese University of Hong Kong(香港中文大学);Peking University Shenzhen Graduate School(北京大学深圳研究生院);Alibaba Group(阿里巴巴集团);Chinese Academy of Sciences(中国科学院);South China University of Technology(华南理工大学)
社区问答(CQA)近年来在学术界和工业界都得到了广泛的应用。然而,众包答案的冗余和冗长问题限制了答案选择的性能,并导致社区用户的阅读困难和误解。为了解决这些问题,我们解决了CQA的答案选择和答案摘要生成的任务与一种新的联合学习模型。具体来说,我们设计了一个问题驱动的指针生成器网络,它利用问答对之间的相关信息,以帮助参加的基本信息时,生成答案摘要。同时,我们利用答案摘要,以减轻噪音在原始冗长的答案时,排名的问题-答案对的相关度。此外,我们构建了一个新的大规模CQA语料库,WikiHowQA,其中包含答案选择以及答案摘要参考摘要。实验结果表明,联合学习方法能够有效解决CQA中的答案冗余问题,在答案选择和文本摘要任务上均取得了较好的效果。实验结果表明,该模型具有较强的迁移能力,适用于资源贫乏、缺乏参考答案摘要的CQA任务。
2019-11-22 cs.CL
QAFactEval: Improved QA-Based Factual Consistency Evaluation for Summarization
Salesforce AI Research(Salesforce人工智能研究院)
事实一致性是文本摘要模型在实际应用中的一个重要特性。现有的工作在评估这方面可以大致分为两条线的研究,蕴涵为基础的和问答(QA)为基础的指标,不同的实验设置往往会导致对比的结论,哪种范式表现最好。在这项工作中,我们进行了广泛的比较蕴涵和QA为基础的指标,表明仔细选择的组件的QA为基础的指标,特别是问题的生成和可回答性分类,是至关重要的性能。基于这些见解,我们提出了一个优化的指标,我们称之为QAFactEval,它比SummaC事实一致性基准上以前基于QA的指标平均提高了14%,并且优于性能最好的基于蕴涵的指标。此外,我们发现,基于QA和基于蕴涵的指标可以提供互补的信号,并结合成一个单一的指标,以进一步提高性能。
2022-04-29 cs.CL
DTCRS: Dynamic Tree Construction for Recursive Summarization
School of Informatics, Xiamen University(厦门大学信息学院)
DTCRS通过动态生成摘要树减少冗余,提升摘要与问题的相关性,从而加快构建时间并改进三个问答任务的性能。
2026-04-08 cs.CL
Overview of BioASQ 2026: The fourteenth BioASQ Challenge on Large-Scale Biomedical Semantic Indexing and Question Answering
National Center for Scientific Research “Demokritos”(德谟克利特国家科学研究中心);Barcelona Supercomputing Center(巴塞罗那超级计算中心);Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学);Artificial Intelligence Research Institute(人工智能研究院);HSE University(高等经济大学);Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
本文概述了第十四届 BioASQ 挑战赛(2026 年),涵盖六个共享任务,87 个团队提交了超过 1000 次运行,展示了生物医学语言处理任务中最新方法的持续进展。
2026-10-01 cs.AI cs.CL cs.IR
Background Summarization of Event Timelines
Carnegie Mellon University(卡内基梅隆大学);Amazon(亚马逊)
本文提出背景新闻摘要任务,通过合并时间线数据集构建新数据集,使用Flan-T5和GPT-3.5等模型生成背景摘要,并引入基于问答的评估指标BUS来衡量摘要质量。
2023-10-24 cs.CL
Towards Adaptive Context Management for Intelligent Conversational Question Answering
School of Computing, Macquarie University, Sydney, NSW 2109, Australia(计算机学院,麦考瑞大学,悉尼,新南威尔士州2109,澳大利亚)
本文提出自适应上下文管理(ACM)框架,通过上下文管理器、摘要和实体抽取三个模块动态优化对话历史,在token限制内提升对话式问答系统的准确性与可扩展性。
2025-09-22 cs.CL
LightPAL: Lightweight Passage Retrieval for Open Domain Multi-Document Summarization
NEC Data Science Research Laboratories(NEC数据科学研究实验室);NEC Laboratories Europe(NEC欧洲实验室)
本文提出LightPAL,通过LLM预构建段落关系图并结合随机游走进行轻量级段落检索,在提升ODMDS检索与摘要效果的同时避免了迭代LLM推理的高延迟。
2024-10-17 cs.CL
Improving Long Text Understanding with Knowledge Distilled from Summarization Model
The Chinese University of Hong Kong(香港中文大学);Hong Kong University(香港大学);Peking University(北京大学)
提出 Gist Detector,从摘要模型蒸馏主旨检测知识并生成主旨感知表示,以增强下游模型,在三类长文本任务上显著提升基线性能。
2024-05-08 cs.AI cs.CL
Conversational Answer Generation and Factuality for Reading Comprehension Question-Answering
问答(QA)是语音助理的重要用例。一种流行的问答方法是提取阅读理解(RC),它在文本段落中找到答案跨度。然而,提取的答案在会话上下文中通常是不自然的,这导致次优的用户体验。在这项工作中,我们调查问答会话的答案生成。我们提出了一个端到端的生成RC模型,它将多个段落的答案生成与段落排名和可回答性相结合。此外,在应用生成RC的一个障碍是幻觉的答案是事实上与文本不一致。我们利用最近的工作总结,以评估真实性。实验结果表明,与MS MARCO 2.1 NLGEN和NarrativeQA之前发表的最佳结果相比,EscherBART显着提高了2.5 ROUGE-L和9.4 ROUGE-L。
2021-03-11 cs.CL
Question-aware Transformer Models for Consumer Health Question Summarization
U.S. National Library of Medicine(美国国家医学图书馆)
越来越多的消费者每天都在网上搜索健康信息,这使得对高效可靠的问答系统的需求更加迫切。这些系统成功率的一个重要因素是它们能够充分理解消费者的问题。然而,这些问题往往比所需的要长,而且提到的外围信息对找到相关答案没有帮助。问题摘要是在试图找到答案之前简化冗长复杂的消费者问题的潜在解决方案之一。在本文中,我们研究了现实世界的消费者健康问题的抽象概括的任务。我们开发了一个抽象的问题摘要模型,该模型通过识别医疗实体来利用问题的语义解释,从而生成信息丰富的摘要。为此,我们提出了多个完形填空任务(即在给定的上下文中填写缺失单词的任务),以确定执行模型的关键医学实体,以更好地覆盖问题焦点识别。此外,我们将问题类型信息注入解码器输入,以生成问题类型驱动的摘要。在MeQSum基准语料库上进行评估时,我们的框架比最先进的方法高出10.2个ROUGE-L点。我们还进行了手动评估,以评估生成的摘要的正确性。
2021-06-01 cs.CL
Is Summary Useful or Not? An Extrinsic Human Evaluation of Text Summaries on Downstream Tasks
Peking University(北京大学)
本文研究通过问答、文本分类和文本相似度评估三种下游任务外在评估文本摘要的有用性,发现微调模型生成的摘要有用性一致性更高,并揭示了仅依赖内在自动指标的局限性。
2023-05-24 cs.CL
MemSum-DQA: Adapting An Efficient Long Document Extractive Summarizer for Document Question Answering
University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院)
MemSum-DQA利用MemSum抽取式摘要器,通过前缀问题与类型实现文档问答,精确匹配提升9%,擅长子关系理解。
2023-10-10 cs.CL
Text Simplification for Comprehension-based Question-Answering
IIIT Hyderabad(印度国际信息技术研究所海得拉巴分校);NSIT Delhi(德里国立信息技术学院);IBM(国际商业机器公司);IIIT, Guwahati(印度国际信息技术研究所古瓦哈提分校);Accenture Tech Labs(埃森哲技术实验室);IBM Research India(印度IBM研究院)
文本简化是将一个句子拆分和重新措辞为一系列句子的过程,使其更容易阅读和理解,同时保留内容并近似原始含义。文本简化已在机器翻译、摘要、语义角色标注和信息抽取等自然语言处理应用中得到利用,为基于理解的问答下游任务的开发开辟了广阔的途径。在这项工作中,我们研究了文本简化在使用理解上下文的问答任务中的效果。我们发布了Simple-SQuAD,这是广泛使用的SQuAD数据集的简化版本。首先,我们概述了数据集创建管道中的每个步骤,包括风格转换,显示正确转换的句子的阈值处理,以及每个答案的偏移量查找。其次,我们通过涉及自动和人工评估的各种方法来验证转移句子的质量。第三,我们对新创建的语料库进行了基准测试,并进行了消融研究,以检验简化过程在基于SQuAD的问答任务中的效果。我们的实验表明,简化导致精确匹配和F1分别增加了2.04%和1.74%。最后,我们总结了传输过程的分析,研究了模型所做的编辑类型,以及句子长度对传输模型的影响。
2021-09-28 cs.CL cs.IR
DialogLM: Pre-trained Model for Long Dialogue Understanding and Summarization
Microsoft(微软)
对话是人类交流与合作的重要组成部分。现有的研究主要集中在一对一的短对话场景。然而,现实世界中的多人互动,如会议或面试,往往超过几千字。仍然缺乏相应的研究和强有力的工具来理解和处理这种漫长的对话。因此,在这项工作中,我们提出了一个长对话理解和总结的预训练框架。考虑到长对话的性质,我们提出了一种基于窗口的去噪方法用于生成式预训练。对于对话,它会用对话启发的噪音破坏文本窗口,并引导模型根据剩余对话的内容重建该窗口。此外,为了处理更长的输入,我们增加了稀疏注意力的模型,这是与传统的注意力以混合的方式相结合。我们在五个长对话数据集上进行了广泛的实验,包括对话摘要、抽象问答和主题分割。在实验中,我们证明了我们的预训练模型DialogLM在数据集和任务上明显优于最先进的模型。源代码和所有预训练的模型都可以在我们的GitHub存储库(https://github.com/microsoft/DialogLM)上找到。
2022-01-06 cs.CL
Medifact at PerAnsSumm 2025: Leveraging Lightweight Models for Perspective-Specific Summarization of Clinical Q&A Forums
National University of Computer and Emerging Sciences (NUCES-FAST)(国家计算机与新兴科学大学(NUCES-FAST))
本研究针对PerAnsSumm 2025医疗视角感知答案摘要任务,提出Snorkel-BART-SVM小样本学习框架,通过弱监督SVM分类视角相关句子再用BART-CNN生成摘要,在百支队伍中排第12,兼顾效率与准确性,助力医疗CQA与临床决策支持研究。
2025-03-15 cs.AI cs.CL
Concise Answers to Complex Questions: Summarization of Long-form Answers
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文首次研究长文本问答答案的摘要生成,提出抽取式与去语境化方法,并通过用户研究和1K条答案的数据集验证其有效性,推动多粒度问答智能体的发展。
2023-05-30 cs.CL
Question-Answering Approach to Evaluating Legal Summaries
University of Pittsburgh(匹兹堡大学)
针对传统法律摘要评估指标忽略论证结构的问题,提出基于GPT-4的问答式评估框架,经检验其评分与人工评分相关,可有效衡量法律摘要质量。
2023-12-18 cs.CL
$Q^{2}$: Evaluating Factual Consistency in Knowledge-Grounded Dialogues via Question Generation and Question Answering
The Hebrew University of Jerusalem(耶路撒冷希伯来大学);Google Research(谷歌研究院)
以神经知识为基础的对话生成模型通常会产生与其所依赖的知识实际上不一致的内容,使其不可靠并限制其适用性。受最近在评估摘要中事实一致性方面的工作的启发,我们提出了一种基于知识的对话中使用自动问题生成和问答的事实一致性自动评估度量。我们的度量,表示为$Q^2$,比较答案跨度使用自然语言推理(NLI),而不是基于令牌的匹配,在以前的工作。为了促进正确的评估,我们为维基百科的向导数据集策划了一个新的对话系统输出数据集,并手动注释了事实的一致性。我们使用该数据集和其他两个数据集对$Q^2$与其他指标进行了全面的元评估,其中它始终显示出与人类判断的较高相关性。
2021-09-09 cs.CL
KERAG: Knowledge-Enhanced Retrieval-Augmented Generation for Advanced Question Answering
HKUST(香港科技大学);Meta Reality Labs(Meta 现实实验室);HKUST(GZ)(香港科技大学(广州))
针对传统知识图谱问答覆盖率低的问题,提出基于知识图谱的KERAG流水线,采用检索-过滤-摘要方法结合微调大模型的子图思维链推理,显著提升问答质量,性能优于现有最优方案及GPT-4o(Tool)。
2025-09-05 cs.AI cs.CL cs.IR
A Matryoshka Hierarchical RAG for Efficient Multi-Hop Question Answering
Polytechnic University of Marche(马尔凯理工大学);University of Modena and Reggio Emilia(摩德纳和雷焦艾米利亚大学)
MatRAG提出结合俄罗斯套娃表示学习的层次化检索框架,通过有向无环图组织文档簇并利用维度感知相似性,在降低索引和查询成本的同时提升多跳问答检索质量。
2026-10-02 cs.CL cs.IR
Summarizing Community-based Question-Answer Pairs
Pennsylvania State University(宾夕法尼亚州立大学);Grammarly(Grammarly公司);Meta AI
基于社区的问答(CQA)允许用户获取他们想要的信息,已经越来越多地成为电子商务、旅游和餐饮等各个领域的在线服务的重要组成部分。然而,大量的CQA对使得没有特定意图的用户难以找到散布在CQA对上的有用信息。为了帮助用户快速消化关键信息,我们提出了新的CQA摘要任务,旨在从CQA对创建一个简洁的摘要。为此,我们首先设计了一个多阶段的数据注释过程,并基于Amazon QA语料库创建了一个基准数据集CoQASUM。然后,我们比较了一系列提取和抽象摘要方法,并为CQA摘要任务建立了一个强大的基线方法DedupLED。我们的实验进一步证实了CQA摘要任务面临的两个关键挑战,即重复类型传输和重复删除。我们的数据和代码是公开的。
2022-11-17 cs.AI cs.CL
A Comprehensive Comparative Study of Word and Sentence Similarity Measures
句子相似度是信息检索、问答和文本摘要等自然语言处理任务的基础。对比文本片段之间的语义是基于词语的语义特征及其相互关系。本文回顾了一组单词和句子相似性度量,并在基准数据集上进行了比较。在所研究的数据集上,结果表明,混合语义度量的性能优于基于知识和语料库的度量。
2016-02-17 cs.CL cs.IR