Large Language Models for Token-Efficient and Semantic-Preserving Opinion Summarization
University of Calabria(卡拉布里亚大学)
研究如何在大语言模型进行观点摘要时保留语义并减少令牌使用,结合多维分类与分层抽样策略选择观点子集,定制提示生成摘要,实验证明该方法能降本增效,优于传统和标准大语言模型摘要基线。
2026-07-14 cs.AI cs.CL cs.LG
Distilling Opinions at Scale: Incremental Opinion Summarization using XL-OPSUMM
IIT Bombay(印度理工学院孟买分校);Flipkart(Flipkart公司)
针对LLM难以处理海量短评论的问题,本文提出增量摘要框架 Xl-OpSumm,并构建 Xl-Flipkart 测试集,验证其在大规模电商观点摘要上的性能提升。
2024-06-16 cs.CL cs.LG
Large, Small or Both: A Novel Data Augmentation Framework Based on Language Models for Debiasing Opinion Summarization
Southeast University(东南大学);The Alan Turing Institute(艾伦·图灵研究所)
针对观点摘要数据集的情感偏差及大模型数据增强成本高、有毒性风险的问题,提出结合大小语言模型的数据增强框架,通过少量大模型生成数据训练解耦重构模型以低成本生成大量合成数据,有效缓解偏差。
2024-03-19 cs.AI cs.CL
Facts are Harder Than Opinions -- A Multilingual, Comparative Analysis of LLM-Based Fact-Checking Reliability
GESIS – Leibniz Institute for the Social Sciences(GESIS社会科学院研究所);RWTH Aachen University(亚琛RWTH大学);University of Graz(格拉茨大学);Complexity Science Hub(复杂性科学中心)
本文构建含61,514项多语言多主题声明的可扩展数据集,评估五个主流LLM,发现语言与主题性能差距及事实型声明更易误判等可靠性问题。
2025-10-21 cs.CL cs.CY
What Are They Talking About? A Benchmark of Knowledge-Grounded Discussion Summarization
State Key Laboratory of Complex & Critical Software Environment(复杂与关键软件环境国家重点实验室);Beihang University(北京航空航天大学);State Key Laboratory of Multimodal Artificial Intelligence Systems(多模态人工智能系统国家重点实验室);Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);ByteDance Inc.(字节跳动公司)
本文提出知识基础的讨论摘要任务及首个基准,通过背景摘要和澄清引用的观点摘要解决讨论中隐式引用问题,并评估12个大语言模型,发现该任务仍具挑战性。
2025-11-06 cs.CL
Multi-document Summarization through Multi-document Event Relation Graph Reasoning in LLMs: a case study in Framing Bias Mitigation
Department of Computer Science and Engineering(计算机科学与工程系)
针对媒体偏差问题,提出基于多文档事件关系图的大语言模型中立摘要方法,通过硬文本提示和软图嵌入两种策略融合图信息,有效缓解两类媒体偏差并提升内容保留度。
2025-06-15 cs.CL
Leveraging Domain Knowledge for Efficient Reward Modelling in RLHF: A Case-Study in E-Commerce Opinion Summarization
IIT Bombay(印度理工学院孟买分校);Flipkart(Flipkart公司)
提出将领域知识注入RLHF奖励模型的新方法,减少21倍偏好标注需求,在电商意见摘要任务中以940样本超越SOTA,并发布两个新数据集。
2024-04-18 cs.CL cs.LG
PublicHearingBR: A Brazilian Portuguese Dataset of Public Hearing Transcripts for Summarization of Long Documents
Câmara dos Deputados(国会);Universidade Estadual de Campinas (Unicamp)(campinas州立大学);Universidade Federal do Cariri (UFCA)(Cariri联邦大学)
本文提出巴西葡萄牙语长文档摘要数据集PublicHearingBR,包含听证会记录、新闻和结构化摘要,并提供混合摘要基线系统及对LLM摘要幻觉和评估指标的讨论。
2025-08-22 cs.CL
Can AI Truly Represent Your Voice in Deliberations? A Comprehensive Study of Large-Scale Opinion Aggregation with LLMs
Stanford University(斯坦福大学);University of Toronto(多伦多大学);KAUST(卡塔尔大学);MIT(麻省理工学院)
本文通过DeliberationBank数据集评估LLM在大规模辩论总结中的表现,发现其存在代表性不足和偏见问题,提出DeliberationJudge模型提升评估准确性。
2026-03-20 cs.CL
Efficiency and Effectiveness of LLM-Based Summarization of Evidence in Crowdsourced Fact-Checking
Department of Computer Science, University of Udine(乌迪大学计算机科学系);Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系)
本研究通过A/B测试对比了完整网页与LLM生成的摘要作为证据在众包事实核查中的表现,发现摘要证据在保持相当准确率的同时显著提升了效率、降低了成本并提高了内部一致性。
2025-05-01 cs.CL cs.HC cs.IR
RadTimeline: Timeline Summarization for Longitudinal Radiological Lung Findings
本文提出RadTimeline时间线摘要任务,通过生成时间线来总结纵向放射学报告,提升疾病进展识别效率。实验表明,分组名称生成对发现分组至关重要,最佳配置在召回率和分组性能上接近人工标注。
2026-03-24 cs.CL
ARC: Argument Representation and Coverage Analysis for Zero-Shot Long Document Summarization with Instruction Following LLMs
University of Pittsburgh(匹兹堡大学)
ARC通过评估摘要对关键论点的保留情况,揭示了LLM在长文档摘要中的覆盖不足问题,并为改进摘要策略提供指导。
2026-01-30 cs.CL
One Prompt To Rule Them All: LLMs for Opinion Summary Evaluation
Flipkart(Flipkart公司)
本文首次在观点摘要评估领域研究大语言模型作为无参考评估器,发布SUMMEVAL-OP数据集,并提出Op-I-Prompt提示方法,实现与人类判断0.70的平均Spearman相关性,优于所有先前方法。
2024-06-09 cs.CL
OpinionDigest: A Simple Framework for Opinion Summarization
University of Edinburgh(爱丁堡大学);Megagon Labs(Megagon实验室)
我们提出了OpinionDigest,一个抽象的意见摘要框架,它不依赖于黄金标准的摘要进行训练。该框架使用一个基于April的情感分析模型从评论中提取意见短语,并训练一个Transformer模型从这些提取中重建原始评论。在总结时,我们合并多个评论中的摘录,并选择最受欢迎的评论。所选择的意见被用作经训练的Transformer模型的输入,该模型将它们口头表达为意见摘要。OpinionDigest还可以通过根据其方面和/或情绪过滤所选意见来生成定制的摘要,以满足特定的用户需求。对Yelp数据的自动评估表明,我们的框架优于竞争对手的基线。对两个语料库的人类研究验证了OpinionDigest产生信息丰富的摘要,并显示出有前途的定制功能。
2020-05-05 cs.CL
ThreadSumm: Summarization of Nested Discourse Threads Using Tree of Thoughts
PortNLP Lab, Portland State University(波特兰州立大学PortNLP实验室);Department of Computer Science, Portland State University(波特兰州立大学计算机科学系)
ThreadSumm通过多阶段LLM框架处理嵌套讨论线中的交错回复和引用,生成逻辑结构更清晰的摘要,同时提升观点覆盖和方面保留。
2026-04-19 cs.CL
"This Suits You the Best": Query Focused Comparative Explainable Summarization
Computer Science and Engineering, IIT Bombay, India(计算机科学与工程系,印度班加罗尔理工学院);Flipkart, India(Flipkart,印度)
本文提出面向查询的比较式可解释摘要生成任务QF-CES,引入MS-Q2P数据集,并利用多源观点摘要作为中间步骤结合大语言模型生成表格化比较摘要,在降低推理延迟的同时实现了与人类判断高度相关的评估效果。
2025-07-07 cs.CL cs.IR
Prompted Aspect Key Point Analysis for Quantitative Review Summarization
RMIT University(RMIT大学);Nanyang Technological University(南洋理工大学)
本文提出PAKPA框架,利用方面情感分析和LLM提示式上下文学习,生成忠实且量化准确的关键点,用于定量评论摘要,在Yelp和SPACE数据集上达到最先进性能。
2024-07-19 cs.CL
Unsupervised Extractive Opinion Summarization Using Sparse Coding
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
意见摘要是自动生成摘要的任务,这些摘要封装了来自多个用户评论的信息。我们提出了语义自动编码器(SemAE),以无监督的方式执行提取意见摘要。SemAE使用字典学习来隐式地从评论中捕获语义信息,并在语义单元上学习每个句子的潜在表示。语义单位应该捕捉抽象的语义概念。我们的提取摘要算法利用这些表示来识别数百条评论中的代表性意见。SemAE还能够执行可控摘要,以生成特定于方面的摘要。我们在SPACE和AMAZON数据集上报告了强大的性能,并进行了实验来研究我们模型的功能。我们的代码可在https://github.com/brcsomnath/SemAE上公开获取。
2022-05-19 cs.CL
Extractive Opinion Summarization in Quantized Transformer Spaces
University of Edinburgh(爱丁堡大学);Megagon Labs(Megagon实验室)
我们提出了量化的Transformer(QT),一个无监督的系统提取意见摘要。QT受到矢量量化变分自编码器的启发,我们将其重新用于流行驱动的摘要。它使用量化空间的聚类解释和一种新的提取算法来发现数百篇评论中的流行观点,这是走向实用范围的观点摘要的重要一步。此外,QT通过利用量化空间的属性来提取特定于方面的摘要,从而在没有进一步训练的情况下实现可控摘要。我们还公开了SPACE,这是一个针对意见总结者的大规模评估基准,包括50家酒店的一般和特定方面的总结。实验证明了我们的方法的承诺,这是通过人类研究验证,其中法官显示出明显的偏好,我们的方法比竞争基线。
2020-12-08 cs.CL
Comparative Opinion Summarization via Collaborative Decoding
Megagon Labs(美乐岗实验室);University of Edinburgh(爱丁堡大学)
意见摘要侧重于生成摘要,反映多个在线评论中表达的流行主观信息。虽然生成的摘要提供关于特定酒店或产品的一般和简明的信息,但是该信息可能不足以帮助用户比较多个不同的选择。因此,用户可能仍然在"我应该选择哪一个?"在本文中,我们提出了比较意见摘要任务,其目的是从两个不同的候选评论集生成两个对比摘要和一个共同摘要。我们开发了一个比较摘要框架CoCoSum,它由两个基本的摘要模型,共同生成对比和共同的摘要。在新创建的基准CoCoTrip上的实验结果表明,CoCoSum可以产生比最先进的意见摘要模型更高质量的对比和常见摘要。数据集和代码可在www.example.com上获得
2022-04-15 cs.CL
Polarity Calibration for Opinion Summarization
Tencent AI Lab(腾讯AI实验室);Texas A&M University(德克萨斯农工大学)
针对观点摘要中模型偏向多数意见、忽视少数意见的极性偏差问题,提出极性校准概念及强化训练方法PoCa,通过极性距离奖励使输出摘要与输入文本极性对齐,并在产品评论和政治观点摘要任务上验证了其有效性与内容质量保持能力。
2024-04-02 cs.CL
Towards Argument-Aware Abstractive Summarization of Long Legal Opinions with Summary Reranking
University of Pittsburgh(匹兹堡大学)
本文提出一种论证感知的长法律意见书生成式摘要方法,通过论证角色信息生成候选摘要并依据论证结构对齐重排序,在长法律意见书数据集上优于多个强基线。
2023-06-01 cs.CL
Weakly-Supervised Opinion Summarization by Leveraging External Information
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
在线产品评论的意见摘要是一项具有挑战性的任务,它涉及到识别与被评论产品的各个方面相关的意见。虽然以前的工作需要额外的人力来识别相关方面,但我们应用外部来源的领域知识来自动实现相同的目标。这项工作提出了AspMem,生成方法,包含一个阵列的存储单元存储方面相关的知识。这种外显记忆有助于获得更好的观点表征,更准确地推断方面信息。我们评估这种方法方面的识别和意见摘要任务。我们的实验表明,AspMem优于最先进的方法,即使与基线不同,它不依赖于人为的监督,这是精心手工制作的给定任务。
2019-11-22 cs.CL
Legal Extractive Summarization of U.S. Court Opinions
ETH Zurich(苏黎世联邦理工学院)
本研究使用43万份美国法院意见书数据集,提出基于强化学习的MemSum模型,在自动和人工评估中均优于Transformer模型,并开源以促进法律民主化。
2023-05-15 cs.CL
Unsupervised Opinion Summarization Using Approximate Geodesics
Google Research(谷歌研究院);UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出无监督抽取式意见摘要系统GeoSumm,通过基于编码器-解码器的字典学习生成文本潜在语义分布,并利用近似测地线距离评分机制识别热门意见生成摘要,在三个数据集上达到最优性能。
2023-11-20 cs.CL
Simple Yet Effective Synthetic Dataset Construction for Unsupervised Opinion Summarization
Arizona State University(亚利桑那州立大学);AWS AI Labs(亚马逊云服务人工智能实验室)
意见摘要是对大量评论中表达的意见进行总结的重要解决方案。然而,由于缺乏注释数据,生成特定方面和一般摘要是具有挑战性的。在这项工作中,我们提出了两种简单而有效的无监督方法,通过在与方面相关的评论内容构建的合成数据集上进行训练来生成特定方面和一般性的意见摘要。我们的第一种方法,基于种子词的留一法(SW-LOO),识别方面相关的部分,简单地通过精确匹配方面种子词,并优于现有的方法由3.4 ROUGE-L点的空间和0.5 ROUGE-1点的OPOSUM+方面特定的意见摘要。我们的第二种方法,自然语言推理为基础的留一法(NLI-LOO)确定方面相关的句子,利用NLI模型在一个更一般的设置,而不使用种子词,并优于现有的方法由1.2 ROUGE-L点的空间特定方面的意见摘要,并保持竞争力的其他指标。
2023-03-21 cs.CL
Rationale-based Opinion Summarization
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出基于理据的观点摘要范式及无监督抽取系统RATION,通过吉布斯采样提取兼具相关性、具体性、流行性和多样性的理据,使摘要比传统方法更具实用性。
2024-03-30 cs.CL
Noisy Pairing and Partial Supervision for Stylized Opinion Summarization
Megagon Labs(美嘉岗实验室);Meta Platforms, Inc.(元平台公司);NVIDIA(英伟达公司)
本文提出风格化观点摘要任务,并设计非平行训练框架 NAPA,利用客户评论与专业评论构建 ProSum 基准,在 ProSum 和 FewSum 上验证其可生成专业风格摘要。
2024-08-09 cs.CL
Automatically Evaluating Opinion Prevalence in Opinion Summarization
NEC Laboratories America(NEC美国实验室)
针对产品评论摘要中观点代表性不足的问题,提出自动评估观点普遍性的指标,并证明现有方法不如人类,而简化预处理可提升至人类水平。
2023-07-26 cs.CL
Cross-Lingual Learning vs. Low-Resource Fine-Tuning: A Case Study with Fact-Checking in Turkish
Middle East Technical University(中东技术大学);University of Tübingen(蒂宾根大学)
针对土耳其语事实核查数据集稀缺问题,研究构建了包含3238条声明的FCTR数据集,并评估了跨语言迁移学习及大模型上下文学习在低资源土耳其语事实核查中的有效性。
2024-03-22 cs.CL
Fine-Grained Opinion Summarization with Minimal Supervision
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
意见摘要旨在通过从多个文档中提取意见来分析目标。大多数现有的工作方法的任务,在半监督的方式,由于难以获得高质量的注释从成千上万的文件。其中,一些使用方面和情感分析作为识别意见的代理。在这项工作中,我们提出了一个新的框架,FineSum,它在三个方面推进了这一前沿:(1)最小的监督,只有方面的名称和一些方面/情感关键字是可用的;(2)细粒度的意见分析,其中情感分析钻到子方面的水平;和(3)基于短语的总结,其中意见是总结在短语的形式。FineSum自动从原始语料库中识别意见短语,将其分类为不同的方面和情感,并在每个方面/情感下构建多个细粒度的意见聚类。每个聚类由语义连贯的短语组成,表达对某些子方面或特征的统一意见(例如,在“食物”方面对“汉堡”有积极的感觉。一个面向观点的球形词嵌入空间被训练来为短语分类器提供弱监督,并且使用从短语分类器生成的方面感知的上下文化嵌入来执行短语聚类。基准测试的自动评估和定量的人工评估都验证了该方法的有效性。
2021-10-17 cs.CL
Query-Focused Opinion Summarization for User-Generated Content
Cornell University(康奈尔大学);LinkedIn(领英);IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
我们提出了一个基于子模块功能的框架,以查询为中心的意见摘要。在我们的框架内,相关排序产生的统计排名,信息覆盖率的主题分布和不同的观点都编码为子模块功能。色散函数用于最小化冗余。我们是第一个评估不同的文本相似性指标的子模块为基础的摘要方法。通过对社区QA和博客摘要的实验,我们表明我们的系统在自动评估和人工评估方面都优于最先进的方法。在Amazon Mechanical Turk上进行了规模化的人类评估任务,并表明我们的系统能够生成高质量和信息多样性的摘要。
2016-06-17 cs.CL
A Large-Scale Multi-Dimensional Empirical Study of LLMs for Conversation Summarization
CCSE, Beihang University(北京航空航天大学CCSE);MAIS, CASIA(中国科学院自动化研究所MAIS);Fanyu AI Laboratory(帆禹AI实验室)
提出OmniCSEval基准,包含1800个跨六场景的对话,评估28个LLM在对话摘要中的完整性、简洁性和忠实性,揭示推理能力与模型规模的影响。
2026-08-04 cs.CL
Large-Scale and Multi-Perspective Opinion Summarization with Diverse Review Subsets
Tongji University(同济大学)
提出有监督框架SUBSUMM,通过结合情感与对比信息的评论采样策略集和两阶段训练方案,实现大规模多视角意见摘要生成。
2023-10-20 cs.CL
Aspect-Based Opinion Summarization with Argumentation Schemes
School of Informatics, University of Edinburgh(信息学院,爱丁堡大学)
针对网购评论海量难梳理、现有方法难生成有依据的方面级观点摘要的问题,本文提出无需预定义方面的ASESUM框架,通过提取方面级论证并衡量其显著性与有效性生成摘要,实验证明其在捕捉评论多元视角上更优。
2025-06-12 cs.CL
An Empirical Analysis of Diversity in Argument Summarization
Leiden University(莱顿大学);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);TU Delft(代尔夫特理工大学)
本文通过引入观点、标注者和来源三方面多样性,实证分析了 Key Point Analysis 论辩摘要任务,发现现有模型在少数论点、多源数据和主观性对齐上存在困难,但通用 LLM 与专用 KPA 模型互补,且数据多样化可改善泛化。
2024-02-14 cs.AI cs.CL
Scientific Opinion Summarization: Paper Meta-review Generation Dataset, Methods, and Evaluation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);DAMO Academy, Alibaba Group(阿里巴巴达摩院);University of Michigan(密歇根大学)
针对学术评审存在分歧而现有观点摘要数据集忽视争议的问题,本文提出科学观点摘要任务,构建 ORSUM 数据集,并采用清单引导的迭代内省方法生成元评审。
2024-06-16 cs.CL
Aspect-Controllable Opinion Summarization
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
最近的意见摘要工作基于一组输入评论和其中表达的意见的流行程度来生成一般摘要。在本文中,我们提出了一种方法,允许基于方面查询(例如,描述酒店的位置和房间)。使用审查语料库,我们创建一个合成的训练数据集(审查,总结)对丰富的方面控制器,这是由一个多实例学习模型,预测在不同级别的粒度文档的方面。我们使用我们的合成数据集微调预训练模型,并通过修改方面控制器来生成特定于方面的摘要。在两个基准测试上的实验表明,我们的模型优于以前的最先进的技术,并通过控制其中讨论的方面的数量来生成个性化的摘要。
2021-09-07 cs.CL
FIZZ: Factual Inconsistency Detection by Zoom-in Summary and Zoom-out Document
Chung-Ang University(中央大学);Adobe Research(奥多比研究院)
本文提出基于细粒度原子事实分解与自适应粒度扩展对齐的 FIZZ 指标,以提升抽象式摘要事实不一致检测的效果与可解释性,实验显示其显著优于现有系统。
2024-10-02 cs.CL
Unsupervised Opinion Summarization with Content Planning
最近深度学习技术在抽象摘要方面的成功是基于大规模数据集的可用性。当总结评论时(例如,对于产品或电影),这样的训练数据既不可用,也不能容易地获得,从而促使开发依赖于用于监督训练的合成数据集的方法。我们表明,将内容规划明确纳入摘要模型不仅可以产生更高质量的输出,而且还可以创建更自然的合成数据集,类似于真实世界的文档摘要对。我们的内容计划采用方面和情感分布的形式,我们从数据中推导出来,而无需访问昂贵的注释。合成数据集是通过从我们的内容规划器参数化的Dirichlet分布中采样伪评论来创建的,而我们的模型则根据输入评论和诱导内容计划生成摘要。三个领域的实验结果表明,我们的方法优于竞争模型在生成信息丰富,连贯,流畅的摘要,捕捉意见的共识。
2020-12-14 cs.CL
P^3SUM: Preserving Author's Perspective in News Summarization with Diffusion Language Models
University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学);Allen Institute for AI(艾伦人工智能研究所);Xi’an Jiaotong University(西安交通大学)
针对新闻摘要常改变作者政治立场的问题,提出由政治视角分类器控制的扩散模型P^3SUM,在推理时逐步纠偏,立场保留成功率最高提升13.7%。
2024-04-04 cs.CL cs.LG
LFOSum: Summarizing Long-form Opinions with Large Language Models
University of Alberta(阿尔伯塔大学)
本文提出LFOSum框架,通过构建超千条评论的长篇数据集、两种免训练LLM总结方法及无参考评估指标,系统评估LLM在长篇意见总结中的忠实度与情感格式平衡能力。
2024-10-16 cs.AI cs.CL cs.ET
Mitigating hallucinations in healthcare LLMs with granular fact-checking and domain-specific adaptation
Applied Artificial Intelligence and Intelligent Systems (AAIINS) Laboratory(应用人工智能与智能系统实验室);Department of Computer Science and Engineering(计算机科学与工程系);Department of Data Science and Artificial Intelligence(数据科学与人工智能系);Department of Software Engineering(软件工程系);Faculty of Science and Information Technology(科学与信息技术学院);Faculty of Science and Technology(科学与技术学院)
提出一个独立于任何LLM的事实核查模块和领域特定的摘要模型,通过数值测试和细粒度逻辑检查减少幻觉,在MIMIC III数据集上微调并评估,取得了高精度和召回率。
2026-06-09 cs.CL
Attributable and Scalable Opinion Summarization
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
提出一种无监督意见摘要方法,通过分层离散潜在空间编码评论句子并基于频率识别共同意见,支持可归因的抽象与抽取式摘要及特定方面控制,在多数据集上表现优于先前工作。
2023-05-19 cs.CL
Convex Aggregation for Opinion Summarization
Megagon Labs(Megagon实验室);University of Edinburgh(爱丁堡大学);Facebook AI
文本自动编码器的最新进展显着提高了潜在空间的质量,使模型能够从聚合的潜在向量生成语法和一致的文本。作为这一特性的成功应用,无监督意见摘要模型通过对输入的聚合特征向量进行解码来生成摘要。更具体地说,它们通过简单平均来执行聚合。然而,很少有人知道矢量聚合步骤如何影响生成质量。在这项研究中,我们通过检查潜在空间和生成摘要来重新审视常用的简单平均方法。我们发现,文本自动编码器倾向于从简单平均的潜在向量生成过度通用的摘要,这是由于聚合潜在向量中的意外$L_2$范数收缩,我们称之为摘要向量退化。为了克服这个问题,我们开发了一个框架Coop,它使用输入输出字重叠搜索输入组合的潜在向量聚合。实验结果表明,Coop成功地解决了摘要向量退化问题,并在两个意见摘要基准上建立了新的最先进的性能。代码可在\url{https://github.com/megagonlabs/coop}上获得。
2021-11-16 cs.CL
Informative and Controllable Opinion Summarization
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
意见摘要是为关于特定目标的一组评论自动生成摘要的任务(例如,电影或产品)。由于每个目标的评论数量可能非常大,因此基于神经网络的方法遵循两阶段方法,其中提取步骤首先预先选择突出意见的子集,并且抽象步骤在以提取的子集为条件的同时创建摘要。然而,提取模型导致信息的丢失,这可能是有用的,这取决于用户的需求。在本文中,我们提出了一个摘要框架,消除了只依赖于预先选择的内容和浪费可能有用的信息,特别是在定制摘要。该框架使所有输入审查的使用,首先将它们压缩成多个密集的向量,作为一个抽象模型的输入。我们展示了一个有效的实例,我们的框架,产生更多的信息摘要,也允许考虑到用户的喜好,使用我们的zero-shot定制技术。实验结果表明,我们的模型提高了烂番茄数据集的最新技术水平,并有效地生成自定义摘要。
2021-01-22 cs.CL
ClaimCheck: Real-Time Fact-Checking with Small Language Models
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
本研究推出ClaimCheck小语言模型事实核查系统,通过复刻人类流程的模块化透明流水线,用Qwen3-4B模型在AVeriTeC数据集上达76.4%的SOTA准确率,优于更大的模型,还提供公开演示。
2025-09-22 cs.AI cs.CL
Unsupervised Opinion Summarization with Noising and Denoising
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
在包含数十万文档摘要对的大型数据集上对高容量模型进行监督训练,对于最近深度学习技术在抽象摘要方面的成功至关重要。不幸的是,在大多数领域(除了新闻),这样的训练数据是不可用的,不能容易地来源。在本文中,我们使监督学习的使用设置只有文件可用(例如,~产品或业务评论)而没有基本事实摘要。我们从用户评论的语料库中创建一个合成数据集,通过对评论进行采样,假装它是一个摘要,并生成我们视为伪评论输入的噪声版本。我们引入了几个语言动机的噪声生成函数和一个摘要模型,它学习对输入进行去噪并生成原始评论。在测试时,该模型接受真实的评论,并生成一个包含突出意见的摘要,将那些没有达成共识的评论视为噪音。广泛的自动和人工评估表明,我们的模型在抽象和提取基线上都有了实质性的改进。
2020-04-21 cs.CL
OpineSum: Entailment-based self-training for abstractive opinion summarization
Google Research(谷歌研究院)
一个典型的产品或地方往往有数百个评论,这些文本的摘要是一个重要的和具有挑战性的问题。最近在新闻等领域的抽象摘要方面的进展是由监督系统驱动的,这些系统在数十万篇新闻文章中进行了训练,并与人类撰写的摘要相结合。然而,对于意见文本,这种大规模的数据集很少可用。无监督方法、自我训练和少样本学习方法弥补了这一差距。在这项工作中,我们提出了一种新的自我训练方法,OpineSum,抽象的意见摘要。这种方法中的摘要是使用文本蕴涵的新应用程序构建的,并捕获了对一个项目的各种评论的一致意见。该方法可用于大规模获得银标准摘要,并可用于无监督和Few-Shot抽象摘要系统的训练。OpineSum在这两种设置下都实现了最先进的性能。
2022-12-21 cs.AI cs.CL
Measuring the Effect of Discourse Relations on Blog Summarization
Concordia University(康考迪亚大学)
本文提出的工作试图评估和量化的话语关系的使用情况下,博客摘要和比较他们的使用更传统和事实的文本。具体来说,我们测量了6个话语关系的有用性-即比较,权变,插图,归因,主题意见,并从博客的文本摘要的任务归因。我们使用TAC 2008意见摘要数据集评估了每个关系的效果,并将其与DUC 2007数据集的结果进行了比较。结果表明,在这两种文本体裁,权变,比较,和插图关系提供了一个显着的改善摘要内容,而归属,主题意见,和归因关系不提供一个一致的和显着的改善。这些结果表明,至少对于摘要来说,话语关系对于非正式和情感文本和传统的新闻文章一样有用。
2017-08-19 cs.CL
OpinSummEval: Revisiting Automated Evaluation for Opinion Summarization
Carnegie Mellon University(卡内基梅隆大学);Peking University(北京大学)
本文提出OpinSummEval数据集,评估24种自动指标与人类评分在意见摘要四个维度上的相关性,发现神经网络指标更优但仍有局限,需改进评估方法。
2023-11-11 cs.AI cs.CL
Masked Summarization to Generate Factually Inconsistent Summaries for Improved Factual Consistency Checking
NAVER AI Lab(NAVER人工智能实验室);University of Richmond(里士满大学);Seoul National University(首尔国立大学)
尽管近年来摘要系统取得了很大的进步,但仍然很难确定生成的摘要是否与源文本的事实一致。为此,最新的方法是训练一个事实一致性分类器的事实一致性和不一致的摘要。幸运的是,前者可以在现有的摘要数据集中作为参考摘要。然而,生成后者仍然是一个挑战,因为它们需要在事实上不一致,但与源文本密切相关才能有效。在本文中,我们提出了使用源文本和参考摘要与关键信息掩盖生成事实上不一致的摘要。在七个基准数据集上的实验表明,在使用我们的方法生成的摘要上训练的事实一致性分类器通常优于现有模型,并与人类判断具有竞争力。我们还分析了使用我们的方法生成的摘要的特点。我们将在https://github.com/hwanheelee1993/MFMA上发布预训练模型和代码。
2022-05-04 cs.CL
MiniCheck: Efficient Fact-Checking of LLMs on Grounding Documents
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Salesforce AI Research(Salesforce AI研究院)
本文提出MiniCheck,通过GPT-4合成含结构化事实错误的训练数据来构建小型事实核查模型,以400倍更低成本达到GPT-4级准确率,并发布统一基准LLM-AggreFact。
2024-10-01 cs.AI cs.CL
Improving Multilingual Social Media Insights: Aspect-based Comment Analysis
Institute for Infocomm Research, A*STAR, Singapore(信息与通信研究所)
针对社交媒体文本多样性带来的下游NLP任务挑战,提出基于方面术语生成(CAT-G)的多语言大模型微调方法,并贡献首个涵盖四种语言的多语言CAT-G测试集以评估跨语言性能。
2025-05-29 cs.CL