Embrace Divergence for Richer Insights: A Multi-document Summarization Benchmark and a Case Study on Summarizing Diverse Information from News Articles
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Salesforce AI Research(Salesforce人工智能研究部门)
本文提出多文档新闻多样化信息摘要新任务,构建DiverseSumm数据集,分析LLM评估指标偏差并确立最佳实践,发现GPT-4在覆盖多样化信息方面仍面临挑战。
2024-03-22 cs.CL
Summarizing Text on Any Aspects: A Knowledge-Informed Weakly-Supervised Approach
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学);Petuum Inc.(Petuum公司);UC San Diego(加州大学圣地亚哥分校)
给定文档和目标方面(例如,感兴趣的主题),基于方面的抽象概括尝试生成关于方面的概括。以往的研究通常假设一个小的预先定义的方面,并在其他不同的主题总结不足。在这项工作中,我们研究了与文档相关的任意方面的总结,这大大扩展了任务在实践中的应用。由于缺乏监督数据,我们开发了一种新的弱监督构造方法和方面建模方案,这两个方面都集成了丰富的外部知识源,如ConceptNet和Wikipedia。实验表明,我们的方法实现了性能提升总结真实和合成的文件给定预定义或任意方面。
2020-10-18 cs.CL cs.LG
Summarizing Reports on Evolving Events; Part I: Linear Evolution
我们提出了一种方法,从多个文件的报告,随着时间的推移,考虑到不同的文件来源的事件进行总结。我们将事件的演化分为线性和非线性。根据我们的方法,每个文件是由一个集合的消息,然后使用,以实例化的跨文档的关系,确定摘要内容。本文介绍了摘要系统,实现了这种方法,通过线性演化的案例研究。
2005-08-22 cs.CL cs.IR
Hybrid Long Document Summarization using C2F-FAR and ChatGPT: A Practical Study
Institute of Communication and Marketing(传播与营销研究所);Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学);getAbstract AG(getAbstract股份公司)
本文结合 ChatGPT 与 C2F-FAR 构建长文档混合摘要流水线,并通过 getAbstract 实践评估发现自动指标表现接近人工,但连贯性、忠实度和风格仍不成熟。
2023-06-01 cs.CL
RegExtract: A Benchmark for PFAS Regulatory Information Extraction with LLMs
Duke University(杜克大学);IBM Research(IBM研究院)
本研究推出RegExtract基准,针对PFAS监管文档构建含976个条目的标注数据集,定义多字段模式与来源感知评估指标,实验发现特定字段少样本示例可提升抽取效果,为相关AI工具奠定基础。
2026-10-14 cs.CL
Using Synchronic and Diachronic Relations for Summarizing Multiple Documents Describing Evolving Events
在本文中,我们提出了一个新的观点,从多个来源总结不断变化的事件的问题。在讨论了演化事件的性质之后,我们介绍了线性演化事件和非线性演化事件的区别。然后,我们提出了一个通用的方法,自动创建摘要不断变化的事件。其核心是共时和历时跨文献关系(SDR)的概念,其目的是从共时和历时的角度识别源之间的相似性和差异性。特别提款权并不连接文件或其中的文本元素,而是人们可以称之为信息的结构。应用这种方法将产生一组消息和关系,SDR,将它们连接起来,这就是我们称之为网格的图。我们将展示如何将这样的网格视为自然语言生成系统的起点。在两个案例研究,一个线性演变的事件(足球比赛的描述)和另一个非线性演变的事件(涉及人质的恐怖事件)的方法进行评估。在这两种情况下,我们评估我们的计算系统产生的结果。
2007-10-18 cs.CL cs.IR
Open4Business(O4B): An Open Access Dataset for Summarizing Business Documents
Stony Brook University(石溪大学)
微调自动摘要的深度学习模型的一个主要挑战是需要大型领域特定数据集。从在线出版物等资源中管理此类数据的障碍之一是浏览适用于其重复使用的许可证法规,特别是用于商业目的。因此,尽管有几个商业期刊的可用性,但没有大规模的数据集来总结商业文档。在这项工作中,我们介绍了Open4Business(O4B),一个包含17,458篇开放获取商业文章及其参考摘要的数据集。该数据集为业务领域的摘要提出了新的挑战,与其他现有数据集相比,需要高度抽象和更简洁的摘要。此外,我们评估了现有的模型,结果表明,在O4 B和7倍大的非开放获取数据集上训练的模型在摘要方面实现了相当的性能。我们发布了数据集,以及可以用来类似地收集多个域数据的代码。
2020-11-29 cs.AI cs.CL cs.IR
Summarizing Multiple Documents with Conversational Structure for Meta-Review Generation
The University of Melbourne(墨尔本大学);Carnegie Mellon University(卡内基梅隆大学)
提出PeerSum数据集用于生成科学论文元评审,并引入基于会话结构稀疏注意力和多任务训练的Rammer模型,实验显示其优于基线但处理冲突信息仍具挑战性。
2023-10-23 cs.AI cs.CL
DART: A Structured Dataset of Regulatory Drug Documents in Italian for Clinical NLP
University of Naples Federico II, Department of Electrical Engineering(那不勒斯费德里科二世大学电气工程系);Consorzio Interuniversitario Nazionale per l'Informatica (CINI) - ITEM National Lab, Complesso Universitario Monte S.Angelo, Naples, Italy(国家信息计算联合研究所(CINI)- ITEM国家实验室,那不勒斯意大利大学综合体);Northwestern University, Department of Computer Science, McCormick School of Engineering(西北大学计算机科学系,麦科姆工程学院)
针对生物医学NLP领域非英文监管药品语料资源匮乏的问题,研究团队构建了首个意大利语监管药品文档结构化数据集DART,并验证了其在药物相互作用推断任务中的效用,相关代码已开源。
2025-10-21 cs.CL
AgenticIE: An Adaptive Agent for Information Extraction from Complex Regulatory Documents
Zurich University of Applied Sciences(苏黎世应用科学大学);NEC Laboratories Europe(NEC欧洲实验室)
本文提出AgenticIE系统,用于从复杂监管文件中提取信息和回答问题,通过高密度标注数据集验证其在KIE和QA任务中的优越性能。
2026-01-14 cs.CL
Massive Multi-Document Summarization of Product Reviews with Weak Supervision
Bar-Ilan University(巴伊兰大学);Amazon(亚马逊)
产品评论摘要是一种多文档摘要(MDS)任务,其中摘要的文档集通常远大于传统MDS(多达数万条评论)。我们强调了这一差异,并创造了术语“大规模多文档摘要”(MMDS)来表示涉及数百个文档或更多文档的MDS任务。以前的产品评论总结工作考虑的是小样本的评论,主要是由于处理大量文档集的困难。我们发现,总结小样本可能会导致重要信息的丢失,并提供误导性的评估结果。我们提出了一个模式,总结了一个标准的总结算法之上的大量评论。由于编写高级神经网络模型所需的大量参考摘要是不切实际的,因此我们的解决方案依赖于弱监督。最后,我们提出了一个评估方案,是基于多个众包的参考摘要,旨在捕捉大量的审查收集。我们表明,我们的模式的初始实施显着提高了几个基线的ROUGE分数,并表现出很强的一致性,在手动语言质量评估。
2020-07-22 cs.CL
PreSumm: Predicting Summarization Performance Without Summarizing
Mila – Quebec Artificial Intelligence Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)
本文提出 PreSumm 任务,仅基于源文档预测摘要性能,验证了文档摘要质量跨系统的一致性,并展示了其在优化混合摘要流程和提升数据集质量中的应用价值。
2025-04-07 cs.AI cs.CL
Demystifying Legalese: An Automated Approach for Summarizing and Analyzing Overlaps in Privacy Policies and Terms of Service
The Pennsylvania State University(宾夕法尼亚州立大学)
本文旨在解决法律术语复杂导致用户不知情数据共享的问题,通过开发语言模型自动生成摘要和评分,发现RoBERTa表现最佳,并利用其识别GDPR文件重叠以揭示冗余和违规,强调合规必要性。
2024-04-17 cs.CL cs.LG
Advantages of Domain Knowledge Injection for Legal Document Summarization: A Case Study on Summarizing Indian Court Judgments in English and Hindi
Department of Mathematics(数学系);Indian Institute of Technology Kharagpur(印度理工学院Khargpur分校);Department of Computer Science and Engineering(计算机科学与工程系)
本研究通过注入领域知识提升印度法律文件摘要能力,生成英文和印地语摘要,验证方法有效性。
2026-02-07 cs.AI cs.CL
ARCCS: An Automated Regulatory Compliance Checking System
Instituto de Telecomunicações(电信研究所);National Technical University of Athens(雅典国立技术大学);Universidade de Lisboa(里斯本大学);INESC-ID(INESC-ID研究所)
ARCCS是首个全开源端到端监管合规检查系统,通过将法规分解为原子要求并结合证据与置信度进行评估,在GDPR评估中达96.67%一致性,在欧盟采购基准中达98.8%违规检测准确率。
2026-10-02 cs.CL
Extracting Summary Knowledge Graphs from Long Documents
University of Washington(华盛顿大学)
知识图谱从长文档中捕获实体和关系,并且可以促进许多下游应用中的推理。提取仅包含显著实体和关系的紧凑知识图谱对于理解和总结长文档来说是重要的,但具有挑战性。我们介绍了一个新的文本到图形的任务,预测总结知识图谱从长文档。我们使用自动和人工注释开发了一个包含20万文档/图形对的数据集。我们还基于图形学习和文本摘要为这项任务开发了强大的基线,并对其效果进行了定量和定性研究。
2021-06-14 cs.CL
Read Top News First: A Document Reordering Approach for Multi-Document News Summarization
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Columbia University(哥伦比亚大学)
提取多文档新闻摘要的常用方法是将所有文档连接为单个元文档,将其重新表示为单文档摘要问题。然而,这种方法忽略了文档的相对重要性。我们提出了一个简单的方法来重新排序的文件,根据它们的相对重要性,然后再连接和总结它们。重新排序使得显著内容更容易通过摘要模型学习。实验表明,我们的方法优于以前的国家的最先进的方法与更复杂的架构。
2022-03-19 cs.CL
Monolingual versus Multilingual BERTology for Vietnamese Extractive Multi-Document Summarization
University of Information Technology(信息科技大学);Vietnam National University(越南国立大学)
最近的研究表明,BERT在广泛的自然语言处理任务中显示出潜力。它被许多先进的自动汇总系统采用作为编码器,实现了优异的性能。然而,到目前为止,为越南人做的工作并不多。在本文中,我们展示了如何BERT可以实现提取文本摘要越南语多文档。我们介绍了不同的多语言和单语言BERT模型之间的一种新的比较。实验结果表明,与其他多语种模型和以往的越南语文本摘要模型相比,单语模型产生了令人满意的结果。
2021-10-16 cs.AI cs.CL
A Discourse-Aware Attention Model for Abstractive Summarization of Long Documents
Georgetown University(乔治城大学);Adobe Research(奥多比研究院)
神经抽象摘要模型在总结相对较短的文档方面取得了可喜的成果。我们提出了第一个模型,用于对单个较长形式的文档(例如,研究论文)。我们的方法包括一个新的分层编码器,模型的话语结构的文档,和一个细心的话语感知解码器生成的摘要。在两个大规模的科学论文数据集上的实证结果表明,我们的模型显着优于最先进的模型。
2018-05-22 cs.CL
Long Text and Multi-Table Summarization: Dataset and Method
The Hong Kong Polytechnic University(香港理工大学)
自动文档摘要的目的是生成一个简洁的摘要,涵盖输入文档的显着信息。在报告文档中,显著信息可以分散在文本和非文本内容中。然而,现有的文档摘要数据集和方法通常集中在文本和过滤掉非文本内容。缺少表格数据可能会限制生成的摘要的信息量,特别是当摘要需要在表格中涵盖关键指标的定量描述时。现有的数据集和方法无法满足在每个报告中汇总长文本和多个表格的要求。为了应对可用数据的稀缺性,我们提出了FINDSum,这是第一个用于长文本和多表摘要的大规模数据集。它建立在3,794家公司的21,125份年度报告基础上,有两个子集用于总结每家公司的经营业绩和流动性。为了总结每份报告中的长文本和数十个表格,我们提出了三种类型的摘要方法。此外,我们提出了一套评估指标,以评估数字信息的使用情况,在生产的摘要。数据集分析和实验结果表明,在汇总报告文档时,联合考虑输入文本和表格数据的重要性。
2023-02-08 cs.AI cs.CL
CREATIVESUMM: Shared Task on Automatic Summarization for Creative Writing
Salesforce Research(赛富时研究院);Columbia University(哥伦比亚大学);Yale University(耶鲁大学);Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学);Duke University(杜克大学)
本文介绍了几个创作领域,即文学文本,电影剧本和电视剧本的共同任务,总结文件。总结这些创造性的文件需要作出复杂的文学解释,以及理解非平凡的时间依赖性的文本包含不同风格的情节发展和叙事结构。这对文本摘要系统提出了独特的挑战,并且尚未得到充分的探索。在这个共享任务中,我们介绍了四个子任务及其相应的数据集,重点是总结书籍,电影剧本,黄金时段的电视剧本和白天的肥皂剧剧本。我们详细介绍了为任务策划这些数据集的过程,以及用于评估提交的指标。作为COLING 2022的CREATIVESUMM研讨会的一部分,共享任务共吸引了18份提交。我们在本文中讨论了每个子任务的提交和基线,以及促进该领域未来工作的方向。
2022-12-06 cs.CL
Topic-aware Pointer-Generator Networks for Summarizing Spoken Conversations
Institute for Infocomm Research (I2R)(资讯通信研究所);Changi General Hospital(樟宜综合医院)
由于缺乏公开可用的资源,会话摘要受到的关注远远低于文本摘要。由于对话的目的是在至少两个对话者之间交换信息,因此关于某个主题的关键信息通常分散并跨越来自不同说话者的多个话语和回合。这一现象在口语对话中更为明显,在口语对话中,诸如反向引导和错误开始之类的言语特征可能会打断主题流。此外,话题扩散和(话语内)话题漂移也更常见于人与人之间的对话。对话主题的这种语言特征使得口语文档中使用的会话级提取摘要方法不适合用于摘要会话。指针生成器网络通过文本摘要中的神经建模有效地展示了其在集成提取和抽象能力方面的实力。据我们所知,迄今为止还没有人采用它来总结对话。在这项工作中,我们提出了一个主题感知架构,利用固有的层次结构的对话,以进一步适应指针生成器模型。我们的方法显著优于竞争基准,实现更有效的学习成果,并获得更强大的性能。
2019-10-03 cs.CL
Windowing Models for Abstractive Summarization of Long Texts
University of Mannheim(曼海姆大学);inovex GmbH(inovex有限公司)
神经摘要模型受到固定大小输入限制的影响:如果文本长度超过模型的最大输入标记数,则某些文档内容(可能与摘要相关)会被截断。我们提出了(任意)长文本的神经抽象摘要的窗口模型。我们扩展了序列到序列模型,增加了指针生成器网络,(1)允许编码器在输入文档的不同窗口上滑动,(2)共享解码器并在不同的输入窗口上保留其状态。我们探索两种窗口化变体:静态窗口化预先计算解码器应该从每个窗口生成的令牌数量(基于训练语料统计);在动态窗口化中,解码器学会发出一个令牌,该令牌指示编码器向下一个输入窗口的移位。实证结果使我们的模型在其预期的用例中有效:总结长文本,相关内容不限于文档开头。
2020-04-07 cs.CL
Regulatory Compliance through Doc2Doc Information Retrieval: A case study in EU/UK legislation where text similarity has limitations
EY AI Centre of Excellence in Document Intelligence(安永文档智能卓越人工智能中心);Athens University of Economics and Business(雅典经济与商业大学);Panteion University(潘泰翁大学)
企业历史上的重大丑闻促使人们迫切需要遵守法规,组织需要确保其控制(流程)符合相关法律、法规和政策。然而,跟踪不断变化的立法是困难的,因此组织越来越多地采用监管技术(RegTech)来促进这一过程。为此,我们引入监管信息检索(REG-IR),文档到文档信息检索(DOC 2DOC IR)的应用程序,其中查询是一个完整的文件,使任务更具挑战性比传统的IR的查询是短的。此外,我们根据欧盟指令和英国立法之间的关系编制并发布了两个数据集。我们使用典型的两步管道方法对这些数据集进行实验,该方法包括预取器和神经重排序器。通过在几个BERT模型的表示上使用从BM 25到k个最近邻的各种预取器进行实验,我们表明,在域内分类任务上微调BERT模型可以产生IR的最佳表示。我们还表明,由于监督矛盾,神经重排序器表现不佳,即,具有相反标签的类似查询-文档对。因此,它们偏向于预取器的分数。有趣的是,应用日期过滤器进一步提高了性能,显示了时间维度的重要性。
2021-01-26 cs.CL cs.IR
Improving the Similarity Measure of Determinantal Point Processes for Extractive Multi-Document Summarization
University of Central Florida(中佛罗里达大学)
多文档摘要面临的最重要的障碍包括源描述中的过度冗余和训练数据的迫在眉睫的短缺。这些障碍阻碍了编码器-解码器模型的直接使用,但基于优化的方法,如确定性点过程(DPP),可以很好地处理它们。在本文中,我们试图加强基于DPP的方法提取多文档摘要,提出了一种新的相似性度量胶囊网络的启发。该方法基于句子的表面形式和语义信息来度量句子之间的冗余。我们表明,我们的DPP系统具有改进的相似性度量表现出竞争力,在基准数据集上表现优于强大的汇总基线。我们的研究结果是特别有意义的总结多个作者创建的文档包含冗余但词汇多样的表达。
2019-05-31 cs.CL
Identification of Regulatory Requirements Relevant to Business Processes: A Comparative Study on Generative AI, Embedding-based Ranking, Crowd and Expert-driven Methods
Technical University of Munich(慕尼黑工业大学);University of Queensland(昆士兰大学)
本研究针对识别业务流程相关监管要求的人工成本高的问题,比较了基于嵌入的NLP排序、GPT-4生成式AI、众包与专家纯手动四种方法在两个真实案例中的表现,为不同场景下选择最优方法组合提供了指导原则。
2024-01-02 cs.AI cs.CL
Leveraging Graph to Improve Abstractive Multi-Document Summarization
Baidu Inc.(百度公司);Beijing University of Posts and Telecommunications(北京邮电大学)
捕获文本单元之间关系的图形对于从多个文档中检测显着信息并生成整体连贯的摘要有很大的好处。在本文中,我们开发了一个神经抽象多文档摘要(MDS)模型,它可以利用众所周知的图形表示的文件,如相似性图和话语图,更有效地处理多个输入文档,并产生抽象摘要。我们的模型利用图来编码文档,以捕获跨文档关系,这对于总结长文档至关重要。我们的模型还可以利用图来指导摘要生成过程,这有利于生成连贯和简洁的摘要。此外,预训练的语言模型可以很容易地与我们的模型相结合,这进一步提高了摘要的性能显着。WikiSum和MultiNews数据集上的实证结果表明,所提出的架构在几个强大的基线上带来了实质性的改进。
2020-05-20 cs.CL
Parser, Chunking, and Embedding Interactions in Retrieval-Augmented Generation over Indian Government Regulatory Documents
本研究通过因子实验联合评估解析器、分块和嵌入模型在印度政府监管文档RAG中的交互作用,发现无单一检索器占优且证据保留近饱和,检索差异主要由排序质量决定。
2026-09-29 cs.AI cs.CL cs.IR
HIBRIDS: Attention with Hierarchical Biases for Structure-aware Long Document Summarization
University of Michigan(密歇根大学)
文档结构对于有效的信息消费至关重要。然而,将其有效地编码到现代Transformer架构中是具有挑战性的。在这项工作中,我们提出了HIBRIDS,它注入了层次偏见的文件结构的注意力分数的计算。我们进一步提出了一个新的任务,分层问题摘要生成,用于将源文档中的突出内容总结为问题和摘要的层次结构,其中每个后续问题询问其父问题摘要对的内容。我们还对一个新的数据集进行了注释,该数据集包含6,153个问题摘要层次结构,这些层次结构标记在长的政府报告上。实验结果表明,我们的模型产生更好的问题摘要层次结构比层次结构质量和内容覆盖率的比较,这一发现也呼应了人类法官。此外,我们的模型提高了从冗长的政府报告和维基百科文章中生成长格式摘要的能力,这是由ROUGE分数来衡量的。
2022-03-21 cs.CL
From Single to Multi: How LLMs Hallucinate in Multi-Document Summarization
University of California Irvine(加州大学伊文斯分校);Megagon Labs(Megagon实验室)
本研究探讨了LLMs在多文档摘要(MDS)任务中的幻觉表现,创建了两个新基准,发现生成摘要平均75%内容为幻觉,且事后基线方法仅能中等程度缓解幻觉。
2025-04-26 cs.CL
RIRAG: Regulatory Information Retrieval and Answer Generation
Mohamed Bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学(MBZUAI));Technical University of Darmstadt(达姆施塔特工业大学);Hessian Center for AI (hessian.AI)(黑森人工智能中心(hessian.AI))
本文提出问题—监管段落对生成任务,构建含27,869个问题的 ObliQA 数据集,设计基线 RIRAG 系统,并用新型指标 RePASs 评估答案的义务覆盖与矛盾情况。
2024-12-02 cs.AI cs.CE cs.CL
InformGen: An AI Copilot for Accurate and Compliant Clinical Research Consent Document Generation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Edinburgh(爱丁堡大学);Carle Illinois College of Medicine(卡尔伊利诺伊医学院);Seoul National University Bundang Hospital(首尔大学盆唐医院)
本文提出InformGen,一个结合人机协同的LLM驱动Copilot,通过优化知识解析与内容生成,解决了高风险知情同意书生成的合规性与准确性问题,在自建基准上近100%合规且事实准确率超90%,并提供内联引用确保可追溯。
2025-04-01 cs.CL
LexNLP: Natural language processing and information extraction for legal and regulatory texts
LexPredict, LLC(莱克斯预测有限责任公司)
LexNLP是一个开源Python包,专注于法律和法规文本的自然语言处理和机器学习。该软件包包括以下功能:(i)分割文档,(ii)识别关键文本,如标题和章节标题,(iii)提取超过18种类型的结构化信息,如距离和日期,(iv)提取命名实体,如公司和地缘政治实体,(v)将文本转换为模型训练的特征,以及(vi)构建无监督和监督模型,如词嵌入或标记模型。LexNLP包括基于数千个单元测试的预训练模型,这些测试来自SEC EDGAR数据库中的真实文档以及各种司法和监管程序。LexNLP被设计用于学术研究和工业应用,并在https://github.com/LexPredict/lexpredict-lexnlp上发布。
2018-06-10 cs.CL cs.IR stat.ML
PublicHearingBR: A Brazilian Portuguese Dataset of Public Hearing Transcripts for Summarization of Long Documents
Câmara dos Deputados(国会);Universidade Estadual de Campinas (Unicamp)(campinas州立大学);Universidade Federal do Cariri (UFCA)(Cariri联邦大学)
本文提出巴西葡萄牙语长文档摘要数据集PublicHearingBR,包含听证会记录、新闻和结构化摘要,并提供混合摘要基线系统及对LLM摘要幻觉和评估指标的讨论。
2025-08-22 cs.CL
Toward Unifying Text Segmentation and Long Document Summarization
Tencent AI Lab(腾讯人工智能实验室);Emory University(埃默里大学)
文本分割对于表示文档的结构很重要。如果不将一个长文档分割成主题连贯的部分,读者就很难理解文本,更不用说找到重要信息了。由于录音/录像记录的文字记录没有分段,这一问题更加严重。在本文中,我们探讨的作用,部分分割书面和口头文件的提取摘要。我们的方法通过同时执行摘要和分割来学习鲁棒的句子表示,并通过基于优化的正则化器进一步增强,以促进对不同摘要句子的选择。我们在从科学文章到口语成绩单的多个数据集上进行实验,以评估模型的性能。我们的研究结果表明,该模型不仅可以实现国家的最先进的性能公开可用的基准,但表现出更好的跨体裁的可移植性时,配备了文本分割。我们进行了一系列的分析,以量化的影响,总结书面和口头文件的长度和复杂性的部分分割。
2022-10-28 cs.CL
Keyphrase Generation with Cross-Document Attention
关键词生成的目的是生成一组短语,总结给定文档的要点。传统方法通常应用编码器-解码器架构来生成输入文档的输出关键词,其中它们被设计为关注每个当前文档,因此它们不可避免地忽略了由其他类似文档携带的关键语料库级信息,即,跨文档依赖和潜在主题。本文提出了一个基于transformer的关键词生成器CDKGen,它将Transformer扩展到全局注意力,利用跨文档注意力网络将可用文档作为参考,从而在主题信息的指导下生成更好的关键词。在提出的Transformer +跨文档注意力架构的基础上,我们还采用了一种复制机制来增强我们的模型,通过从文档中选择合适的单词来处理关键短语中的词汇表外的单词。在5个基准数据集上的实验结果表明了该模型的有效性和实用性,在所有数据集上均达到了最佳性能。进一步的分析证实,该模型能够生成与参考文献一致的关键词,同时保持足够的多样性。CDKGen的代码可在https://github.com/SVAIGBA/CDKGen上获得。
2022-12-22 cs.CL
Summarization-based Data Augmentation for Document Classification
The University of Tokyo(东京大学);Institute of Industrial Science(产业技术研究所)
本文提出基于摘要的数据增强方法 SUMMaug,通过生成易学习的伪示例并结合课程学习,提升文档分类的鲁棒性和准确性。
2023-12-01 cs.CL
Discovering material information using hierarchical Reformer model on financial regulatory filings
Autorité des Marchés Financiers(金融市场管理局);Mila(米拉)
机器学习在金融领域的大多数应用都与投资决策的预测任务有关。相反,我们的目标是通过机器学习技术促进对金融市场的更好理解。利用深度学习模型在自然语言处理方面的巨大进步,我们构建了一个分层的Reformer([15])模型,能够处理来自加拿大金融监管文件的大型文档级数据集SEDAR。使用这个模型,我们表明,它是可能的,以预测贸易量的变化,使用监管备案。我们调整了HiBERT([36])的预训练任务,以使用大型未标记文档数据集获得良好的句子级表示。对模型进行微调以成功预测交易量变化表明,该模型捕捉了金融市场的观点,处理监管备案是有益的。分析我们的模型的注意力模式表明,它能够检测到一些迹象的重大信息,没有明确的培训,这是高度相关的投资者,也为市场监管机构的监管任务。
2022-03-28 cs.CL cs.LG q-fin.ST
MemSum: Extractive Summarization of Long Documents Using Multi-Step Episodic Markov Decision Processes
Institute of Neuroinformatics(神经信息学研究所);University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院)
我们介绍MemSum(多步情节马尔可夫决策过程提取SUMmarizer),一个基于学习的提取总结器,在每一步都用当前提取历史的信息来丰富。当MemSum迭代地选择句子到摘要中时,它会考虑一个广泛的信息集,这些信息集也会被人类在这个任务中直观地使用:1)句子的文本内容,2)文档其余部分的全局文本上下文,以及3)由已经提取的句子集组成的提取历史。通过轻量级架构,MemSum在总结来自PubMed,arXiv和GovReport的长文档方面获得了最先进的测试集性能(ROUGE)。消融研究证明了局部、全局和历史信息的重要性。人工评估证实了所生成摘要的高质量和低冗余,这源于MemSum对提取历史的了解。
2022-03-16 cs.CL
Multi-document Summarization by Graph Search and Matching
我们描述了一种新的方法,用于总结相似性和差异,在一对相关的文件,使用图形表示的文本。文档中由单词、短语和专有名称表示的概念在位置上表示为图中的节点以及对应于项之间的语义关系的边。给定一个角度而言,这对文件进行总结,该算法首先使用扩散激活技术发现,在每个文档中,节点语义相关的主题。然后匹配每个文档的激活图以产生对应于该对之间的相似性和差异的图,该图以自然语言呈现。对这些技术进行了评价。
1997-12-10 cmp-lg cs.CL
A Mixed-Language Multi-Document News Summarization Dataset and a Graphs-Based Extract-Generate Model
Faculty of Information Engineering and Automation, Kunming University of Science and Technology(昆明理工大学信息工程与自动化学院);Yunnan Key Laboratory of Artificial Intelligence, Kunming University of Science and Technology(昆明理工大学云南省人工智能重点实验室)
针对混合语言多文档新闻摘要研究缺乏数据集的问题,本文构建了包含四种语言和10,992个文档摘要对的MLMD-news数据集,并提出基于图的抽取-生成模型进行基准测试,以推动该领域研究。
2024-10-13 cs.CL
Long Document Summarization in a Low Resource Setting using Pretrained Language Models
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Goldman Sachs(高盛)
摘要是将长文档压缩成连贯的短文档,同时保留显著信息的任务。现代抽象摘要方法基于深度神经网络,其通常需要大的训练数据集。由于收集摘要数据集是一项昂贵且耗时的任务,因此实际的工业环境通常资源较少。在本文中,我们研究了一个具有挑战性的低资源设置,总结长的法律摘要,平均源文件长度为4268字,只有120个可用(文件,摘要)对。为了解释数据稀缺性,我们使用了一个现代的预先训练的抽象摘要器BART(Lewis等人,2020年),它只达到17.9 ROUGE-L,因为它与长文档作斗争。因此,我们尝试通过使用基于GPT-2的新颖算法(Radford等人,2019)语言模型困惑分数,其在低资源范围内操作。在将压缩文档馈送到BART时,我们观察到6.0 ROUGE-L的改进。我们的方法还击败了几个竞争性的显着性检测基线。此外,所识别的突出句子往往同意由领域专家的独立的人类标记。
2021-03-01 cs.CL
Multi-Target Cross-Lingual Summarization: a novel task and a language-neutral approach
Priberam Labs(Priberam实验室)
针对跨语言摘要中多语言输出语义一致性被忽视的问题,本文定义多目标跨语言摘要任务,并提出语言无关的重排序方法与多准则评估协议。
2024-10-01 cs.AI cs.CL cs.LG
ARC: Argument Representation and Coverage Analysis for Zero-Shot Long Document Summarization with Instruction Following LLMs
University of Pittsburgh(匹兹堡大学)
ARC通过评估摘要对关键论点的保留情况,揭示了LLM在长文档摘要中的覆盖不足问题,并为改进摘要策略提供指导。
2026-01-30 cs.CL
De Jure: Iterative LLM Self-Refinement for Structured Extraction of Regulatory Rules
The Vanguard Group, Inc.(先锋集团)
De Jure通过四个阶段自动提取结构化监管规则,无需人工标注或领域知识,提升监管文本处理的效率和可追溯性。
2026-04-02 cs.AI cs.CL cs.LG
Some Reflections on the Task of Content Determination in the Context of Multi-Document Summarization of Evolving Events
Laboratoire d’Informatique Fondamentale de Marseille(马赛基础信息学实验室);Université de la Méditerranée(地中海大学);Faculté des Sciences de Luminy(吕米尼理学院)
尽管它的重要性,总结不断变化的事件的任务已经得到了研究人员在多文档摘要领域的小关注。在以前的论文(Afantenos等。2007)中,我们已经提出了一种方法,用于自动摘要的文件,由多个源发出,其中描述了一个事件的演变。这一方法论的核心在于从共时和历时两个方面来确定各种文献之间的异同。这是通过引入共时和历时关系的概念来实现的。这些关系将文档中的消息连接起来,从而形成一个我们称之为网格的图。虽然网格的创建完成了典型NLG架构的文档规划阶段,但网格中包含的消息数量可能非常大,从而超过了所需的压缩率。在本文中,我们提供了一些初步的想法,可以应用在内容确定阶段的概率模型,并试图减轻这个问题。
2007-10-29 cs.CL
Cem Mil Podcasts: A Spoken Portuguese Document Corpus For Multi-modal, Multi-lingual and Multi-Dialect Information Access Research
Spotify(声田);Silo AI(希洛人工智能公司)
本研究发布了葡萄牙语播客数据集Cem Mil Podcasts,介绍其采样、统计及方言分布情况,验证了多语言摘要和文本元数据分类的有效性,为多模态多语言多方言播客信息获取研究提供支持。
2023-12-13 cs.CL
Klexikon: A German Dataset for Joint Summarization and Simplification
Institute of Computer Science, Heidelberg University(海德堡大学计算机科学研究所)
传统上,文本简化被视为单语翻译任务,其中源文本和其简化对应物之间的句子被对齐以进行训练。然而,特别是对于较长的输入文档,摘要文本(或完全删除不相关的内容)在简化过程中起着重要作用,这在现有的数据集中目前没有反映出来。与此同时,非英语语言的资源普遍稀缺,无法培训新的解决方案。为了解决这个问题,我们提出了一个系统,可以共同总结和简化长源文件的核心要求。我们进一步描述了创建一个新的数据集的联合文本简化和总结的基础上,德国的维基百科和德国儿童的词典“Klexikon”,包括近2900个文件。我们发布了一个文档对齐的版本,特别强调了摘要方面,并提供了统计证据,表明此资源也非常适合简化。代码和数据可以在Github上找到:https://github.com/dennlinger/klexikon
2022-07-28 cs.CL
From Naive RAG to Deep Agentic Retrieval: An Evolving Context Engineering Pipeline for Regulatory Compliance
Ontario Power Generation(安大略发电公司);Dalhousie University(达尔豪斯大学)
研究针对RAG朴素实现的局限,追溯安大略发电公司检索管道演变,历经多阶段形成PEA-CAE架构,表明上下文工程对监管语料库更具优势,深度智能检索进展反映经典思想,迭代证据获取等渐成企业问答基础。
2026-07-29 cs.AI cs.CL cs.IR
A Hybrid Architecture with Efficient Fine Tuning for Abstractive Patent Document Summarization
Informatics Institute of Technology(信息技术学院)
针对专利文档结构复杂、篇幅长导致摘要生成困难的问题,提出结合LexRank抽取算法与LoRA微调BART模型的混合摘要系统,并通过元学习实现跨专利领域的域泛化。
2025-06-14 cs.CL
Automatically Summarizing Evidence from Clinical Trials: A Prototype Highlighting Current Challenges
Northeastern University(东北大学);King’s College London(伦敦国王学院)
我们提出了TrialsSummarizer,一个系统,旨在自动总结随机对照试验中最相关的给定查询的证据。在先前工作的基础上,系统检索与指定条件、干预和结局组合的查询匹配的试验出版物,并根据样本量和估计的研究质量对这些进行排名。前k个这样的研究通过神经多文档摘要系统,产生这些试验的概要。我们考虑两种架构:基于BART和多头架构的标准序列到序列模型,旨在为最终用户提供更大的透明度。这两种模式产生流畅的和相关的摘要检索查询的证据,但他们的倾向,引入不支持的声明,使他们不适合在这个领域使用目前。所提出的架构可以帮助用户验证输出,允许用户将生成的令牌追溯到输入。
2023-03-07 cs.CL cs.IR cs.LG
Context-Aware Hierarchical Merging for Long Document Summarization
University of Edinburgh(爱丁堡大学)
本文提出通过引入源文档上下文来增强分层合并方法,以缓解长文档摘要中LLM的幻觉问题,实验证明上下文增强策略在法律和叙事数据集上优于基线方法。
2025-08-08 cs.CL
SPaR.txt, a cheap Shallow Parsing approach for Regulatory texts
Heriot-Watt University(赫瑞-瓦特大学);Northumbria University(诺森比亚大学)
自动合规性检查(ACC)系统旨在将建筑法规语义解析为一组规则。然而,已知语义解析是困难的并且需要大量的训练数据。创建这样的训练数据的复杂性导致研究集中在小的子任务上,例如浅解析或规则的有限子集的提取。这项研究介绍了一个浅解析任务,训练数据是相对便宜的创建,学习ACC. We的词典的目的。我们注释一个小的特定领域的数据集200句,SPaR.txt,并训练序列标签,达到79,93 F1-分数的测试集。然后,我们通过手动评估表明,该模型识别了一组建筑法规文档中的大多数(89,84%)定义术语,并且以合理的准确度(70,3%)发现了连续和不连续的多词表达式(MWE)。
2021-10-04 cs.CL
Scaling Multi-Document Event Summarization: Evaluating Compression vs. Full-Text Approaches
Carnegie Mellon University(卡内基梅隆大学)
本研究对比大规模多文档摘要的压缩与全文两类方法,在含约百篇文档/摘要的三个数据集上评估多模型与方法,发现全文及检索方法多数场景最优,压缩方法中间阶段潜力大但有信息损失,强调需开发混合方案提升性能。
2025-02-10 cs.CL