Argument Summarization and its Evaluation in the Era of Large Language Models
Bielefeld University(比勒费尔德大学);Natural Language Learning & Generation (NLLG)(自然语言学习与生成实验室);summetix GmbH(summetix 有限公司);University of Technology Nuremberg(纽伦堡工业大学)
本文研究将大语言模型集成到论点摘要系统,提出基于提示的评估方案,开发两个新系统,证明LLMs显著提升生成与评估性能,其中Qwen-3-32B表现最佳。
2025-10-08 cs.CL
FG-RAG: Enhancing Query-Focused Summarization with Context-Aware Fine-Grained Graph RAG
Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出FG-RAG框架,通过上下文感知实体扩展和查询级细粒度摘要,解决现有GraphRAG在查询聚焦摘要任务中缺乏查询感知和上下文信息的问题,并在多个指标上优于其他RAG系统。
2025-03-13 cs.AI cs.CL cs.IR
Indicative Summarization of Long Discussions
Leipzig University(莱比锡大学);University of Groningen(格罗宁根大学)
本文提出无监督LLM方法,通过论点聚类、标签生成与论证框架分类构建两级目录式摘要,并经19个LLM评估和Discussion Explorer用户研究验证其导航价值。
2023-11-03 cs.CL
Semantic uncertainty in advanced decoding methods for LLM generation
EPFL, Lausanne Switzerland(日内瓦联邦理工学院)
本研究探究推测采样与思维链解码等高级解码方法对大型语言模型输出语义不确定性的影响,通过问答、摘要和代码生成实验发现,结构化解码可在保持或提升质量的同时增加语义多样性,如代码生成Pass@2提升48.8%,摘要生成ROUGE分数更优,挑战了多样性-准确性权衡的传统假设。
2025-06-17 cs.AI cs.CL
Question-Answering Based Summarization of Electronic Health Records using Retrieval Augmented Generation
Northeastern University(东北大学)
本文提出一种结合语义搜索、检索增强生成(RAG)和问答的方法,利用最新LLMs对电子健康记录进行摘要,以解决标注数据不足和注意力机制二次复杂度导致的性能问题,同时避免幻觉并确保内容多样性。
2024-01-03 cs.AI cs.CL
Leveraging Long-Context Large Language Models for Multi-Document Understanding and Summarization in Enterprise Applications
TCS(塔塔咨询服务公司);SAGE University(SAGE大学)
本文探讨长上下文大型语言模型在多文档摘要生成中的应用,通过法律、医疗等案例验证其效率与准确性的提升,并分析技术障碍与伦理考量,提出未来研究方向。
2024-09-27 cs.AI cs.CL
FaithBench: A Diverse Hallucination Benchmark for Summarization by Modern LLMs
Vectara, Inc.(Vectara公司);Iowa State University(爱荷华州立大学);University of Southern California(南加利福尼亚大学);Entropy Technologies(熵技术公司);University of Waterloo(滑铁卢大学);University of Wisconsin, Madison(威斯康星大学麦迪逊分校)
本文提出FaithBench基准,汇集10个现代LLM的挑战性摘要幻觉并由专家标注,发现GPT-4o和GPT-3.5-Turbo幻觉最少,但现有检测模型准确率仅约50%,揭示改进空间。
2024-10-17 cs.AI cs.CL
Prompting and Fine-Tuning of Small LLMs for Length-Controllable Telephone Call Summarization
AppTek GmbH;RWTH Aachen University(亚琛工业大学)
本文提出利用前沿模型生成长度可控、多样化的合成通话数据并微调 Llama-2-7B,使其摘要质量在多项指标上媲美 GPT-4。
2024-10-24 cs.AI cs.CL cs.LG
Large Language Models for Token-Efficient and Semantic-Preserving Opinion Summarization
University of Calabria(卡拉布里亚大学)
研究如何在大语言模型进行观点摘要时保留语义并减少令牌使用,结合多维分类与分层抽样策略选择观点子集,定制提示生成摘要,实验证明该方法能降本增效,优于传统和标准大语言模型摘要基线。
2026-07-14 cs.AI cs.CL cs.LG
MIDAS: Multi-LLM Iterative Data-Adaptive Summarization
Volkswagen Group Innovation(大众集团创新公司)
针对现有自动提示词优化方法无法适配多样摘要需求的问题,提出多大语言模型迭代数据自适应摘要生成框架MIDAS,在企业客户工单摘要任务中优于CriSPO等方法,还具备跨模型与跨领域泛化能力。
2026-08-06 cs.AI cs.CL cs.MA
LMGQS: A Large-scale Dataset for Query-focused Summarization
Microsoft(微软)
本文提出利用预训练语言模型恢复通用摘要中的隐藏查询,构建了包含超百万样本的大规模QFS数据集LMGQS,并在多个基准上取得SOTA性能。
2023-05-22 cs.CL
Iterative Augmentation with Summarization Refinement (IASR) Evaluation for Unstructured Survey data Modeling and Analysis
University of Toledo(托莱多大学);George Mason University(乔治梅森大学)
本文提出用于LLM文本增强的原则性评估框架,包含可扩展性分析和迭代增强与摘要精炼(IASR),在真实主题建模任务中使主题粒度增加400%并消除重叠,验证了其有效性。
2025-07-16 cs.CL cs.LG
Measuring Diversity in Synthetic Datasets
School of Computer Science(计算机科学学院);Engineering, Sun Yat-sen University(工程,中山大学);School of Software Engineering(软件工程学院);Sun Yat-sen University(中山大学);Zhuhai Key Laboratory of Trusted Large Language Models(珠海可信大语言模型实验室);Tencent AI Lab(腾讯AI实验室);National University of Singapore(新加坡国立大学);Shenzhen University(深圳大学);Shanghai Jiao Tong University(上海交通大学)
本文提出DCScore,一种从分类视角衡量合成数据集多样性的新方法,通过样本分类任务利用样本间关系,并经理论验证满足多样性公理,实验表明其与多样性伪真值相关性更强且计算成本更低。
2025-08-14 cs.AI cs.CL
Post-training Large Language Models for Diverse High-Quality Responses
Boston University(波士顿大学);University of Maryland, College Park(马里兰大学学院公园分校);University College London(伦敦大学学院);Boston University Broad Institute of MIT and Harvard(MIT和哈佛大学波士顿大学Broad研究所)
本文提出DQO方法,通过确定性点过程优化大型语言模型的质量和语义多样性,提升输出多样性而不影响性能。
2026-03-02 cs.AI cs.CL
Cross-Document Event-Keyed Summarization
Johns Hopkins University(约翰斯·霍普金斯大学);University of Rochester(罗切斯特大学)
本研究将事件关键摘要扩展到跨文档场景,构建了SEAMUS数据集并评估多种基线,证明其作为新任务基准的价值。
2024-12-15 cs.CL
SPECTRUM: Speaker-Enhanced Pre-Training for Long Dialogue Summarization
Tencent AI Lab, Seattle(腾讯人工智能实验室(西雅图));UNC Chapel Hill(北卡罗来纳大学教堂山分校)
针对传统语言模型忽略多轮对话特征的问题,提出SPECTRUM说话人增强预训练方法,结合自建多样化数据集与双预训练任务,在长对话摘要下游基准上取得SOTA性能。
2024-01-31 cs.CL
Discourse-Aware Policy Analysis with Argumentation: A Hybrid LLM-Symbolic Framework for Disaster Governance
New Mexico State University(新墨西哥州立大学);Sun Yat-Sen University(中山大学)
研究灾害治理中政策文件推理隐含问题,提出混合大语言模型-符号框架Apaf,通过分类论点、生成框架介导关系子类型进行关键话语分析,发布新数据集,论证图准确、可解释且跨辖区稳定。
2026-07-16 cs.AI cs.CL
Prompted Aspect Key Point Analysis for Quantitative Review Summarization
RMIT University(RMIT大学);Nanyang Technological University(南洋理工大学)
本文提出PAKPA框架,利用方面情感分析和LLM提示式上下文学习,生成忠实且量化准确的关键点,用于定量评论摘要,在Yelp和SPACE数据集上达到最先进性能。
2024-07-19 cs.CL
Optimizing Keyphrase Ranking for Relevance and Diversity Using Submodular Function Optimization (SFO)
Kyung Hee University(庆熙大学)
针对关键短语排序中相关性与多样性难以兼顾的问题,提出基于子模函数优化(SFO)的子模最大化方法,在基准数据集上同时提升两类指标并取得最优执行时间。
2024-10-26 cs.AI cs.IR
An Empirical Study on Preference Tuning Generalization and Diversity Under Domain Shift
School of Computer Science University of Sheffield, UK(计算机科学学院 谢菲尔德大学)
本研究通过比较不同对齐目标和适应策略,探讨领域转移下偏好微调的泛化性和多样性,发现伪标签法能有效缓解领域转移带来的性能下降。
2026-08-25 cs.AI cs.CL cs.LG
Fair Summarization: Bridging Quality and Diversity in Extractive Summaries
Portland State University(波特兰州立大学)
针对多文档摘要中社会群体代表性不公的问题,提出 FairExtract 与 FairGPT,并结合质量和公平性复合指标验证其能在保持摘要质量的同时提升公平性。
2025-03-18 cs.AI cs.CL
Considering Length Diversity in Retrieval-Augmented Summarization
Chungnam National University(忠南大学);Nara Institute of Science and Technology (NAIST)(奈良先端科学技术大学院大学);Institute of Science Tokyo(东京科学大学)
本文提出DL-MMR算法,在检索增强摘要中引入示例长度多样性以控制摘要长度,在保持信息量的同时大幅降低计算和内存开销。
2025-03-12 cs.AI cs.CL
ArgLegalSumm: Improving Abstractive Summarization of Legal Documents with Argument Mining
University of Pittsburgh(匹兹堡大学)
在生成法律文件摘要时,一项具有挑战性的任务是处理其争论性质的能力。我们引入了一个简单的技术来捕捉的论证结构的法律文件,通过整合的参数角色标签的摘要过程。使用预训练的语言模型进行的实验表明,我们提出的方法在强基线上提高了性能
2022-09-20 cs.CL
daVinci-kernel: Co-Evolving Skill Selection, Summarization, and Utilization via RL for GPU Kernel Optimization
University of Science and Technology of China(中国科学技术大学)
提出daVinci-kernel框架,通过强化学习联合训练技能选择、策略生成和技能总结三个智能体,共享LLM骨干,实现GPU内核优化,在KernelBench上超越先前最优模型。
2026-07-28 cs.AI cs.CL cs.LG
Curiosity-Driven Reinforcement Learning from Human Feedback
Baidu Inc.(百度公司)
本文提出好奇心驱动的RLHF框架CD-RLHF,通过引入新颖状态的内在奖励与稀疏外在奖励相结合,在文本摘要和指令跟随任务中显著提升输出多样性,同时保持与标准RLHF相当的人类偏好对齐质量。
2025-05-31 cs.CL
From Local to Global: A Graph RAG Approach to Query-Focused Summarization
Microsoft Research(微软研究院);Microsoft Strategic Missions and Technologies(微软战略任务与技术部);Microsoft Office of the CTO(微软首席技术官办公室)
针对RAG处理全局问题失效、现有QFS方法扩展性不足的问题,提出GraphRAG方法,通过LLM构建实体知识图并预生成社区摘要,在100万token数据集的全局问题上,生成答案的全面性和多样性显著优于传统RAG。
2025-02-19 cs.AI cs.CL cs.IR
ARQUSUMM: Argument-aware Quantitative Summarization of Online Conversations
An Quang Tang(独立研究者);Xiuzhen Zhang(独立研究者);Minh Ngoc Dinh(独立研究者);Zhuang Li(独立研究者)
ARQUSUMM通过基于论证理论的LLM少样本学习和论证结构意识聚类算法,实现对在线对话中论点主张-理由结构的定量摘要,提升摘要的文本质量和量化准确性。
2025-11-21 cs.CL
DUAL: Diversity and Uncertainty Active Learning for Text Summarization
Aristotle University of Thessaloniki(亚里士多德塞萨洛尼基大学);School of Informatics(信息学院)
提出结合不确定性与多样性的主动学习算法DUAL,通过迭代选择兼具代表性和挑战性的样本,有效解决了文本摘要任务中传统主动学习方法表现不佳的问题。
2025-03-02 cs.CL
Using Summarization to Discover Argument Facets in Online Ideological Dialog
UC Santa Cruz(加州大学圣克鲁兹分校)
网络上越来越多的信息是对话式的,其中很大一部分发生在关于当前社会和政治话题的在线论坛对话中。我们的目标是开发工具来总结这些对话的内容。什么是与一个问题的不同立场相关的中心命题?什么是在讨论中的抽象对象,这些对象是演讲者论点的中心?我们怎么能认识到两个中心命题实现了论证的同一个方面呢?我们假设中心命题正是人们认为最突出的论点,并使用人类总结作为发现它们的探针。我们描述了我们的语料库的人类总结的固执己见的对话,然后展示了我们如何可以识别类似的重复的论点,并将它们分组到FACETS在许多讨论的一个主题。我们定义了一个新的任务,ARGUMENT FACET SIMILARITY(AFS),并表明,我们可以预测AFS与.54的相关性得分,与ngram系统基线的.39和语义文本相似性系统基线的.45。
2017-09-03 cs.AI cs.CL
Mining both Commonality and Specificity from Multiple Documents for Multi-Document Summarization
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
多文档摘要任务要求设计的摘要器生成涵盖原始文档重要信息并满足内容多样性的简短文本。提出了一种基于文档层次聚类的多文档文摘方法。该方法利用构建的文档类树,提取反映文档共性的句子和反映文档子类特殊性的句子生成摘要,以满足多文档摘要的覆盖性和多样性要求。在DUC'2002-2004数据集上进行了不同方法的对比实验,证明了挖掘文档的共性和特异性的多文档摘要的有效性。在DUC'2004和Multi-News数据集上的实验表明,与现有的无监督和有监督方法相比,该方法具有很好的性能。
2023-03-05 cs.AI cs.CL
Enhancing Annotated Bibliography Generation with LLM Ensembles
Universitat Politècnica de Catalunya (UPC)(加泰罗尼亚理工大学)
本文提出利用多角色LLM集成方法,通过可控生成、评估、摘要及冗余去除提升注释书目质量,实验显示注释质量提升38%、冗余减少51%。
2024-12-30 cs.AI cs.CL cs.LG
Diversity driven Attention Model for Query-based Abstractive Summarization
Indian Institute of Technology Madras(印度理工学院马德拉斯分校);IBM Research India(IBM印度研究院)
摘要的目的是生成一个简短的版本的文件,涵盖了所有的显着点,在一个紧凑和连贯的方式。另一方面,基于查询的摘要突出显示了与给定查询上下文相关的那些点。编码-参与-解码范式在机器翻译、摘要提取、对话系统等方面取得了显著的成功,但它存在产生重复短语的缺点。在这项工作中,我们提出了一个基于查询的摘要任务的编码-参加-解码范式的基础上,有两个关键的补充(i)查询注意力模型(除了文档注意力模型之外),它学习在不同的时间步长关注查询的不同部分(而不是使用查询的静态表示)和(ii)一种新的基于多样性的注意力模型,旨在减轻摘要中重复短语的问题。为了能够测试这个模型,我们引入了一个新的基于查询的摘要数据集建立在debatepedia。我们的实验表明,有了这两个补充,所提出的模型明显优于香草编码参加解码模型的增益为28%(绝对)的ROUGE-L分数。
2018-07-13 cs.CL
Towards Argument-Aware Abstractive Summarization of Long Legal Opinions with Summary Reranking
University of Pittsburgh(匹兹堡大学)
本文提出一种论证感知的长法律意见书生成式摘要方法,通过论证角色信息生成候选摘要并依据论证结构对齐重排序,在长法律意见书数据集上优于多个强基线。
2023-06-01 cs.CL
RELexED: Retrieval-Enhanced Legal Summarization with Exemplar Diversity
School of Computation, Information, and Technology(计算、信息与技术学院;慕尼黑工业大学);Technical University of Munich
本文提出检索增强框架RELexED,利用示例摘要引导法律文本摘要生成,通过行列式点过程平衡示例相似性与多样性,实验证明其显著优于基线模型。
2025-01-23 cs.CL
Variational Prefix Tuning for Diverse and Accurate Code Summarization Using Pre-trained Language Models
提出变分前缀调优(VPT),结合条件变分自编码器与预训练模型,参数高效地生成多样且准确的代码摘要集,并通过双准则重排序优化选项,提升用户选择灵活性。
2025-05-14 cs.AI cs.LG cs.SE
Key Point Analysis via Contrastive Learning and Extractive Argument Summarization
Paderborn University(帕德博恩大学);Leipzig University(莱比锡大学);Bielefeld University(比勒费尔德大学)
关键点分析的任务是从一组给定的论点中提取一组简洁和高层次的陈述,代表这些论点的主旨。本文介绍了我们提出的关键点分析共享任务的方法,并与第八届研讨会上的论点挖掘。这一办法包括两个相辅相成的组成部分。一个组件通过siamese神经网络采用对比学习,用于将参数与关键点匹配;另一个组件是基于图形的提取摘要模型,用于生成关键点。在自动和手动评估中,我们的方法在所有提交的共享任务中排名最好。
2021-10-22 cs.CL
ConvoSumm: Conversation Summarization Benchmark and Improved Abstractive Summarization with Argument Mining
Yale University(耶鲁大学);Facebook AI(脸书人工智能研究院)
虽然在线对话可以以许多不同的格式覆盖大量的信息,但抽象文本摘要主要集中在仅对新闻文章进行建模。这种研究差距部分是由于缺乏标准化的数据集来总结在线讨论。为了解决这一差距,我们设计了一个问题-观点-断言框架的注释协议,以众包新闻评论,论坛,社区问答论坛和电子邮件线程的各种在线对话形式的四个新的数据集。我们在数据集上对最先进的模型进行基准测试,并分析与数据相关的特征。为了创建一个全面的基准,我们还在广泛使用的会话摘要数据集上评估了这些模型,以在该领域建立强大的基线。此外,我们通过图形构建将参数挖掘直接建模的问题,观点和断言存在于对话和过滤嘈杂的输入,显示比较或改进的结果,根据自动和人工评估。
2021-06-01 cs.CL
Measuring What Matters Beyond Text: Evaluating Multimodal Summaries by Quality, Alignment, and Diversity
School of Computing, Macquarie University(麦考瑞大学计算学院)
本文提出MM-Eval框架,整合文本质量、跨模态对齐和视觉多样性评估,通过学习聚合模型优化多模态摘要的综合评价,揭示事实一致性对整体质量的关键作用。
2026-05-12 cs.AI
From Arguments to Key Points: Towards Automatic Argument Summarization
IBM Research(IBM研究院)
从给定主题的大量论点中生成简明摘要是一个有趣但尚未充分研究的问题。我们建议将这些摘要表示为一小部分谈话要点,称为“关键点”,每个要点根据其突出性进行评分。我们通过分析一个大型的群众贡献的参数数据集,每个主题的少量关键点通常足以覆盖绝大多数的参数。此外,我们发现领域专家通常可以提前预测这些关键点。我们研究了参数到关键点映射的任务,并为此任务引入了一个新的大规模数据集。我们报告了一组广泛的实验与此数据集的实证结果,表现出良好的性能。
2020-06-09 cs.CL
Enhancing Argument Summarization: Prioritizing Exhaustiveness in Key Point Generation and Introducing an Automatic Coverage Evaluation Metric
Lakehead University(湖首大学);Université de Sherbrooke(谢布鲁克大学)
本文提出一种基于抽取式聚类的关键点生成方法,提高覆盖率并减少冗余,同时引入一种新的覆盖率评估指标,以解决现有指标无法区分关键点质量的问题。
2024-04-17 cs.CL
EventSum: A Large-Scale Event-Centric Summarization Dataset for Chinese Multi-News Documents
National University of Defense Technology(国防科技大学);Tsinghua University(清华大学)
本文提出事件中心多文档摘要任务,构建首个大规模中文多新闻摘要数据集 EventSum(含 5,100 个事件、57,984 篇文档),并设计多种召回率指标,实验表明该任务对现有长上下文大语言模型仍具挑战性。
2025-01-03 cs.CL
From Single to Multi: How LLMs Hallucinate in Multi-Document Summarization
University of California Irvine(加州大学伊文斯分校);Megagon Labs(Megagon实验室)
本研究探讨了LLMs在多文档摘要(MDS)任务中的幻觉表现,创建了两个新基准,发现生成摘要平均75%内容为幻觉,且事后基线方法仅能中等程度缓解幻觉。
2025-04-26 cs.CL
Focus Attention: Promoting Faithfulness and Diversity in Summarization
University of Copenhagen(哥本哈根大学);Google Research(谷歌研究院);ASAPP
专业摘要是根据文档级别的信息编写的,例如文档的主题。这与大多数seq2seq解码器形成对比,大多数seq2seq解码器在每个解码步骤中同时学习关注突出内容,同时决定生成什么。为了缩小这一差距,我们引入了焦点注意力机制,这是一种简单而有效的方法,可以鼓励解码器主动生成与输入文档相似或主题的令牌。此外,我们提出了一个焦点采样方法,使不同的摘要,目前在总结研究的一个领域的生成。当在BBC极端摘要任务上进行评估时,两个最先进的模型与Focus Attention增强后生成的摘要更接近目标,更忠实于其输入文档,在\rouge和多个忠实度指标上优于其普通模型。我们还实证表明,焦点采样是更有效地产生多样化和忠实的摘要比顶部$k$或核采样为基础的解码方法。
2021-05-25 cs.CL
DebateSum: A large-scale argument mining and summarization dataset
University of Oregon(俄勒冈大学);Texas A&M University(德克萨斯农工大学)
先前在论证挖掘方面的工作经常提到它在自动辩论系统中的潜在应用。尽管如此,几乎没有数据集或模型存在的应用自然语言处理技术的竞争性正式辩论中发现的问题。为了解决这个问题,我们提出了DebateSum数据集。DebateSum包含187,386个独特的证据,以及相应的论点和摘要。DebateSum是使用国家演讲和辩论协会(National Speech and Debate Association)的竞争对手在7年内收集的数据制作的。我们训练了几个Transformer摘要模型,以在DebateSum上测试摘要性能。我们还介绍了一组在DebateSum上训练的快速文本词向量,称为debate2vec。最后,我们提出了一个搜索引擎,这是广泛使用的全国演讲和辩论协会的成员今天这个数据集。DebateSum搜索引擎可在以下网站向公众开放:http://www.debate.cards
2020-11-14 cs.CL
Quantitative Argument Summarization and Beyond: Cross-Domain Key Point Analysis
IBM Research(IBM研究(IBM Research))
在总结关于某个主题的观点、论点或意见时,往往不仅需要提取最突出的观点,而且还需要量化其普遍性。传统上,多文档摘要的工作主要集中在创建文本摘要上,缺乏这种定量方面。最近的研究提出了通过将参数映射到专家生成的一小组关键点来总结参数,其中每个关键点的显着性对应于其匹配参数的数量。目前的工作在两个重要方面推进关键点分析:首先,我们开发了一种自动提取关键点的方法,该方法可以实现全自动分析,并显示出与人类专家相当的性能。其次,我们证明了关键点分析的适用性远远超出了论证数据。使用在公开的论证数据集上训练的模型,我们在另外两个领域取得了令人鼓舞的结果:市政调查和用户评论。另一个贡献是深入评估参数到关键点匹配模型,我们大大优于以前的结果。
2020-10-11 cs.CL
Dialect Diversity in Text Summarization on Twitter
Yale University(耶鲁大学)
Twitter上的讨论涉及来自不同方言的不同社区的参与,通常需要将大量帖子汇总为具有代表性的样本以提供概要。然而,任何这样的代表性样本都应该充分描绘潜在的方言多样性,以呈现代表方言的不同参与社区的声音。提取摘要算法执行构建子集的任务,这些子集简洁地捕获任何给定帖子集合的主题。然而,我们观察到,有方言偏见的摘要产生的共同摘要方法,即,他们通常返回的摘要不足以代表某些方言。绝大多数现有的“公平”摘要方法需要社会显著属性标签(在这种情况下,方言),以确保所生成的摘要相对于社会显著属性是公平的。然而,在许多应用中,这些标签并不存在。此外,由于社交媒体中方言的不断发展,标记或准确推断每个社交媒体帖子的方言是不合理的。为了纠正方言偏见,我们采用了一个框架,将现有的文本摘要算法作为一个黑盒,并使用一小部分方言多样化的句子,返回一个相对更方言多样化的摘要。至关重要的是,这种方法不需要被总结的帖子具有方言标签,确保多样化过程独立于方言分类/识别模型。我们展示了我们的方法在Twitter数据集上的有效性,这些数据集包含由种族或性别定义的不同社会群体使用方言撰写的帖子;在所有情况下,与标准文本摘要方法相比,我们的方法都能提高方言多样性。
2021-04-04 cs.CL cs.CY
Unsupervised Multi-document Summarization with Holistic Inference
University of California, Davis(加州大学戴维斯分校);Tencent AI Lab(腾讯人工智能实验室)
本文提出一种用于无监督多文档抽取式摘要的整体框架,结合整体束搜索推断与子集代表性指数(SRI)平衡句子重要性和多样性,在多数据集上显著超越强基线并验证了多样性的关键作用。
2023-09-08 cs.CL
Arg-LLaDA: Argument Summarization via Large Language Diffusion Models and Sufficiency-Aware Refinement
The University of Manchester, UK(曼彻斯特大学)
Arg-LLaDA通过大语言扩散模型和充分性感知细化方法,提升论点摘要的准确性与连贯性。
2025-11-20 cs.CL
Team Hitachi @ AutoMin 2021: Reference-free Automatic Minuting Pipeline with Argument Structure Construction over Topic-based Summarization
Hitachi(日立)
本文介绍了日立团队为第一个自动记录共享任务(AutoMin-2021)提出的自动记录系统。我们使用无参考方法(即,不使用训练分钟)进行自动记录(任务A),其首先基于主题将文字记录分成块,随后使用在聊天对话的摘要语料库上微调的预训练BART模型来总结这些块。此外,我们将一种参数挖掘技术应用于生成的会议记录,以结构良好和连贯的方式重新组织它们。我们利用多个相关性分数来确定一分钟是否来自同一次会议时,无论是文字记录或另一分钟(任务B和C)。在这些分数之上,我们训练一个传统的机器学习模型来绑定它们并做出最终决策。因此,我们对任务A的方法在所有提交的材料中获得了最好的充分性分数,并且在语法正确性和流畅性方面接近最好的系统。对于任务B和C,所提出的模型成功地优于多数票基线。
2021-12-06 cs.AI cs.CL cs.IR
Unity in Diversity: Learning Distributed Heterogeneous Sentence Representation for Extractive Summarization
IIIT Hyderabad(印度海得拉巴国际信息技术学院);Microsoft(微软)
多文档自动摘要是自然语言理解领域的一个研究热点。这样的提取机制以某种形式计算要被包括到摘要中的句子的价值。虽然传统的方法依赖于人工制作的文档独立的功能来生成摘要,我们开发了一个数据驱动的新的摘要系统称为HNet,它利用各种语义和成分方面潜在的一句话来捕捉文档独立的功能。该网络以一种方式学习句子表示,即显著句子在向量空间中比非显著句子更接近。然后将此语义和组成特征向量与文档相关特征连接起来,以进行句子排名。在DUC基准数据集(DUC-2001,DUC-2002和DUC-2004)上的实验表明,与最先进的基线相比,我们的模型在ROUGE得分方面显示出约1.5-2点的显着性能增益。
2019-12-25 cs.CL cs.IR cs.LG
Diversity Enhances an LLM's Performance in RAG and Long-context Task
Salesforce(赛富时)
本文针对大语言模型上下文窗口限制导致的RAG和长上下文任务性能问题,借鉴MMR和FPS原理将多样性引入内容选择,证明其能显著提升相关句子或块的召回率,从而改善问答和摘要效果。
2025-04-07 cs.CL cs.LG
Linguistic and Argument Diversity in Synthetic Data for Function-Calling Agents
Technion(技术学院);TII(技术研究所)
本文提出了一种生成合成数据集的方法,通过优化通用多样性度量标准,提高功能调用代理训练数据的语言和论证多样性,从而提升模型在分布外任务中的性能。
2026-01-25 cs.AI cs.CL
Implicit Diversity in Image Summarization
Yale University(耶鲁大学)
研究表明,在图像搜索结果中描绘的人往往是相对于社会显著属性的多数群体。这种倾斜超出了世界上已经存在的倾斜--例如,Kay等人的研究表明,尽管美国28%的CEO是女性,但在谷歌图片搜索中,前100名CEO中只有10%是女性。大多数现有的方法来纠正这种偏见假设的人的图像包括社会显着的属性标签。然而,这些标签往往是未知的。此外,使用自动化技术来推断这些标签在可接受的准确度范围内通常是不可能的,并且由于该过程可能引起的附加偏差而可能是不期望的。我们开发了一种新的方法,作为输入的一个明显不同的控制集的图像,并使用此集合来选择一组图像的人在响应查询。我们的目标是得到一个结果集,该结果集以模仿控制集中描述的多样性的方式更加明显地多样化。重要的是,这种方法不需要在任何点标记图像;有效地,它提供了一种隐式地使所选图像集多样化的方法。我们提供了我们的方法的两个变体:第一个是修改的MMR算法,将多样性得分,第二个是一个更有效的变体,不考虑内列表冗余。我们在两个数据集上对这些方法进行了经验评估:1)一个新的数据集,包含96个职业的顶级Google图像结果,我们评估了职业的性别和肤色多样性; 2)CelebA数据集,我们评估了面部特征的性别多样性。我们的方法产生的图像集,显着提高了可见的多样性的结果相比,目前的谷歌搜索和其他不同的图像摘要算法,以最小的成本准确性。
2020-08-14 cs.CL cs.CV cs.LG
Counterfactual Data Augmentation improves Factuality of Abstractive Summarization
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
基于预训练的语言模型的抽象摘要系统通常生成连贯但事实上不一致的句子。在本文中,我们提出了一个反事实的数据增强方法,我们增加数据与扰动的摘要,增加训练数据的多样性。具体来说,我们提出了三种增强方法的基础上替换(i)实体从其他和相同的类别和(ii)名词与其相应的WordNet上位词。我们表明,增加训练数据与我们的方法提高了事实的正确性摘要,而不显着影响ROUGE分数。我们表明,在两个常用的摘要数据集(CNN/Dailymail和XSum)中,我们平均提高了约2.5个点的事实正确性
2022-05-25 cs.CL