Data-to-Text Generation with Content Selection and Planning
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
数据到文本生成的最新进展已经导致使用大规模数据集和神经网络模型,这些模型是端到端训练的,而没有明确地建模要说什么和以什么顺序。在这项工作中,我们提出了一个神经网络架构,它结合了内容选择和规划,而不牺牲端到端的训练。我们将生成任务分解为两个阶段。给定一个数据记录语料库(与描述性文档配对),我们首先生成一个内容计划,突出显示哪些信息应该被提及以及以何种顺序,然后在考虑内容计划的同时生成文档。自动和基于人类的评估实验表明,我们的模型优于强基线,提高了最近发布的RotoWire数据集的最新水平。
2019-04-12 cs.CL
Attend to Medical Ontologies: Content Selection for Clinical Abstractive Summarization
Georgetown University(乔治城大学);MedStar Georgetown University Hospital(梅德星乔治城大学医院)
序列到序列(seq 2seq)网络是一种成熟的文本摘要模型。它可以学习生成可读的内容;但是,它在有效识别源代码的关键区域方面存在不足。在本文中,我们探讨临床摘要摘要的内容选择问题,通过增加显着的本体论术语到摘要器。我们对两个公开的临床数据集(MIMIC-CXR的107,372份报告和OpenI的3,366份报告)进行的实验表明,我们的模型在统计学上显著提高了Rouge指标方面的最新结果(改进:2.9% RG-1,2.5% RG-2,1.9% RG-L),在医疗保健领域,任何范围的改进都会影响患者的福利。
2020-05-01 cs.CL
Knowledge Acquisition for Content Selection
构建自然语言生成(NLG)系统的一个重要部分是知识获取,即确定NLG系统中应使用的特定模式、计划、语法规则等。我们讨论了一些实验,我们已经进行了KA的内容选择规则,在建立一个NLG系统的背景下,产生健康相关的材料。这些实验表明,它是有用的补充语料库分析与KA技术开发的专家系统,如结构化的小组讨论和有声思维协议。他们还提出了一个观点,即KA问题可能会影响建筑设计问题,特别是关于是否使用规划方法进行内容选择的决定。我们怀疑,在某些情况下,KA可能会更容易,如果其他建设性的专家系统技术(如生产规则,或基于案例的推理)被用来确定生成的文本的内容。
1997-02-24 cmp-lg cs.CL
CoSMo: A constructor specification language for Abstract Wikipedia's content selection process
Universidad Nacional del Sur(南方国立大学);University of Cape Town(开普敦大学)
针对抽象维基百科中多语言、声明性内容与函数、类与实例的内容选择需求,本文提出并规范了一种新型内容选择建模语言 CoSMo,并通过严格设计过程和初步评估验证其适用性。
2023-08-01 cs.CL
Novel Chapter Abstractive Summarization using Spinal Tree Aware Sub-Sentential Content Selection
McGill University(麦吉尔大学);AWS AI Labs(AWS人工智能实验室);Columbia University(哥伦比亚大学);University of Michigan(密歇根大学)
摘要小说章节是一项艰巨的任务,由于输入的长度和事实,出现在所需的摘要从多个地方的内容在整个章节。我们提出了一个流水线提取抽象的方法,提取步骤过滤的内容被传递到抽象组件。非常长的输入也会导致数据集高度偏向于提取摘要的负面实例;因此,我们采用边际排名损失进行提取,以鼓励正面和负面示例之间的分离。我们的提取组件在成分级别上操作;我们对这个问题的处理方法丰富了文本的脊椎树信息,该信息提供了句法上下文(以成分的形式)的提取模型。我们显示了3.71胭脂-1点的最佳结果,在现有的新章节数据集上的先前工作中报告的改进。
2022-11-09 cs.CL
Long-Span Summarization via Local Attention and Content Selection
University of Cambridge(剑桥大学)
基于transformer的模型已经在包括文档摘要在内的广泛的自然语言处理(NLP)任务中取得了最先进的结果。通常,这些系统是通过将大型预训练模型微调到目标任务来训练的。这些基于transformer的模型的一个问题是,随着输入长度的增长,它们在内存和计算需求方面不能很好地扩展。因此,对于较长的文档摘要,训练或微调这些模型可能具有挑战性。在这项工作中,我们利用大型的预训练的基于transformer的模型,并使用两种方法解决抽象摘要中的长跨度依赖关系:局部自注意和显式内容选择。这些方法进行了比较,在一系列的网络配置。实验在标准的长跨度摘要任务上进行,包括Spotify Podcast,arXiv和PubMed数据集。我们证明,通过结合这些方法,我们可以在ROUGE分数中的所有三个任务上实现最先进的结果。此外,在没有大规模GPU卡的情况下,我们的方法可以实现与现有方法相当或更好的结果。
2021-05-29 cs.CL
Mixture Content Selection for Diverse Sequence Generation
Allen Institute for AI(艾伦人工智能研究所);Clova AI;NAVER;University of Washington(华盛顿大学)
生成不同的序列在许多NLP应用中非常重要,例如问题生成或摘要,这些应用在源序列和目标序列之间表现出语义上的一对多关系。我们提出了一种方法,明确分离多样化的生成使用一个通用的即插即用模块(称为选择器),包装和指导现有的编码器-解码器模型。多样化阶段使用专家的混合专家模型来对源序列上的不同二进制掩码进行采样以用于多样化内容选择。生成阶段使用标准的编码器-解码器模型,给定来自源序列的每个所选内容。由于离散采样的不可微性和二进制掩码缺乏地面真实标签,我们利用地面真实掩码的代理,并采用随机硬EM进行训练。在问题生成(SQuAD)和抽象摘要(CNN-DM)中,我们的方法在准确性,多样性和训练效率方面都有显着提高,包括两个数据集中最先进的top-1准确性,top-5准确性提高6%,并且训练速度比最先进的模型快3.7倍。我们的代码可在https://github.com/clovaai/FocusSeq2Seq上公开获取。
2019-09-04 cs.CL
Exploring Content Selection in Summarization of Novel Chapters
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学);Amazon AI(亚马逊人工智能实验室)
我们提出了一个新的摘要任务,使用摘要/章节对在线学习指南生成小说章节的摘要。这是一个比新闻摘要任务更难的任务,考虑到章节的长度以及摘要中的极端释义和概括。我们专注于提取摘要,这需要创建一组黄金标准的提取摘要。我们提出了一个新的指标,用于将参考摘要句子与章节句子对齐,以创建黄金提取物,并尝试不同的对齐方法。我们的实验表明,通过自动度量和众包金字塔分析,我们的任务比以前的对齐方法有显着的改进。我们在https://github.com/manestay/novel-chapter-dataset上提供我们的数据汇集脚本。
2021-03-30 cs.CL
Content Reduction, Surprisal and Information Density Estimation for Long Documents
University of Helsinki(赫尔辛基大学);KU Leuven(鲁汶大学);Aalto University(阿尔托大学)
本文研究长文档的信息分布及内容缩减对信息密度的影响,提出四种信息密度估计标准,并设计基于注意力的词元选择方法,在自动医疗编码等任务中验证了其有效性。
2023-09-12 cs.CL
Generation of Multimedia Artifacts: An Extractive Summarization-based Approach
INESC ID(葡萄牙系统与计算机工程研究所(里斯本));Instituto Superior Técnico, Universidade de Lisboa(里斯本大学高等技术学院);Instituto Universitário de Lisboa (ISCTE-IUL)(里斯本大学学院(ISCTE-IUL))
我们探索内容选择的方法,并解决多媒体工件生成背景下的一致性问题。我们使用音频和视频来呈现两个案例研究:电影致敬的生成和讲座驱动的科学讲座。对于内容选择,我们使用基于中心性和基于多样性的摘要以及主题分析。为了建立连贯性,我们使用音乐的情感内容,为电影致敬,并确保讲座和纪录片之间的主题相似性,为科学讲座。用于生产多媒体工件的合成技术作为组织内容的一种手段,以提高一致性。我们讨论我们的结果考虑到上述方面。
2015-08-13 cs.AI cs.CL cs.MM
Factorizing Content and Budget Decisions in Abstractive Summarization of Long Documents
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们认为,从用于覆盖突出内容的预算中分离出内容选择可以提高抽象摘要的性能和适用性。我们的方法FactorSum通过能量函数将摘要分解为两个步骤来实现这种分解:(1)生成抽象摘要视图;(2)根据预算和内容指导将这些视图组合成最终摘要。这个指导可能来自不同的来源,包括来自顾问模型,如BART或BigBird,或者在Oracle模式下-来自参考。这种因子分解在长文档摘要的多个基准上实现了显着更高的ROUGE分数,即PubMed,arXiv和GovReport。最值得注意的是,我们的模型是有效的领域自适应。当仅在PubMed样本上训练时,它在arXiv上获得了46.29 ROUGE-1评分,这表明由于更灵活的预算调整和内容选择较少依赖于特定领域的文本结构,因此性能强劲。
2022-10-26 cs.CL
SummHelper: Collaborative Human-Computer Summarization
Bar-Ilan University(巴伊兰大学);Amazon(亚马逊)
针对自动摘要缺乏人工干预的问题,提出两阶段人机协同摘要助手SummHelper,通过内容选择与整合及视觉映射实现人机协作,用户研究验证其有效性。
2023-10-16 cs.CL
Bottom-Up Abstractive Summarization
School of Engineering and Applied Sciences(工程与应用科学学院);Harvard University(哈佛大学)
用于抽象摘要的基于神经网络的方法产生比其他技术更流畅的输出,但是其在内容选择方面可能较差。这项工作提出了一个简单的技术来解决这个问题:使用一个数据高效的内容选择器来过度确定源文档中的短语,这些短语应该是摘要的一部分。我们使用这个选择器作为自自底向上的【形】的注意步骤,将模型约束到可能的短语。我们表明,这种方法提高了压缩文本的能力,同时仍然生成流畅的摘要。这个两步过程比其他端到端内容选择模型更简单,性能更高,从而显著改善了CNN-DM和NYT语料库的ROUGE。此外,内容选择器可以用1,000个句子进行训练,从而可以轻松地将经过训练的摘要器转移到新的领域。
2018-10-09 cs.AI cs.CL cs.LG
PLANET: Dynamic Content Planning in Autoregressive Transformers for Long-form Text Generation
Baidu Inc(百度公司);Faculty of Science and Technology, University of Macau(澳门大学科技学院);Virginia Tech(弗吉尼亚理工学院暨州立大学)
尽管预训练的语言模型在生成流畅文本方面取得了最新进展,但现有方法在需要适当的内容控制和规划以形成连贯的高级逻辑流的长格式文本生成任务中仍然存在不连贯问题。在这项工作中,我们提出了PLANET,一个新的生成框架,利用自回归自我注意力机制进行内容规划和表面实现动态。为了指导输出句子的生成,我们的框架使用潜在表示来丰富Transformer解码器,以维护基于词袋的句子级语义计划。此外,我们引入了一个新的基于连贯性的对比学习目标,以进一步提高输出的连贯性。在两个具有挑战性的长文本生成任务上进行了大量的实验,包括反驳生成和评论文章生成。自动和人工评估都表明,我们的方法显著优于强基线,并生成内容更丰富的连贯文本。
2022-03-17 cs.CL
Unsupervised Opinion Summarization with Content Planning
最近深度学习技术在抽象摘要方面的成功是基于大规模数据集的可用性。当总结评论时(例如,对于产品或电影),这样的训练数据既不可用,也不能容易地获得,从而促使开发依赖于用于监督训练的合成数据集的方法。我们表明,将内容规划明确纳入摘要模型不仅可以产生更高质量的输出,而且还可以创建更自然的合成数据集,类似于真实世界的文档摘要对。我们的内容计划采用方面和情感分布的形式,我们从数据中推导出来,而无需访问昂贵的注释。合成数据集是通过从我们的内容规划器参数化的Dirichlet分布中采样伪评论来创建的,而我们的模型则根据输入评论和诱导内容计划生成摘要。三个领域的实验结果表明,我们的方法优于竞争模型在生成信息丰富,连贯,流畅的摘要,捕捉意见的共识。
2020-12-14 cs.CL
DYPLOC: Dynamic Planning of Content Using Mixed Language Models for Text Generation
Northeastern University(东北大学);University of Michigan(密歇根大学)
我们研究的任务,长形式的意见文本生成,它面临着至少两个不同的挑战。首先,现有的神经生成模型缺乏一致性,因此需要有效的内容规划。其次,需要不同类型的信息来指导生成器涵盖主观和客观内容。为此,我们提出了DYPLOC,一个生成框架,进行动态规划的内容,同时产生的输出的基础上一个新的设计混合语言模型。为了丰富具有多样化内容的生成,我们进一步建议使用大型预训练模型来预测相关概念并生成声明。我们在新收集的数据集上进行了两项具有挑战性的任务:(1)使用Reddit ChangeMyView生成参数,以及(2)使用纽约时报的意见部分撰写文章。自动评估表明,我们的模型显着优于竞争力的比较。人类法官进一步证实,我们这几代人更有连贯性,内容更丰富。
2021-06-01 cs.CL
Automatic Logical Forms improve fidelity in Table-to-Text generation
HiTZ Basque Center for Language Technology(HiTZ巴斯克语言技术中心);University of the Basque Country UPV/EHU(巴斯克大学(UPV/EHU))
本文提出 TlT 框架,通过自动生成逻辑形式再生成文本,证明自动 LF 可将表格到文本生成的保真度提升 30 分,并指出内容选择是首要挑战。
2024-01-09 cs.CL
Sentence-Level Content Planning and Style Specification for Neural Text Generation
Northeastern University(东北大学)
构建有效的文本生成系统需要三个关键组成部分:内容选择,文本规划和表面实现,传统上它们是作为单独的问题来处理的。最近的一体式神经生成模型取得了令人印象深刻的进展,但它们经常产生不连贯且不忠实于输入的输出。为了解决这些问题,我们提出了一个端到端的训练两步生成模型,其中一个文档级内容规划器首先决定要覆盖的关键短语以及所需的语言风格,然后是一个生成相关和连贯文本的表面实现解码器。对于实验,我们考虑了三个任务,从不同的主题和不同的语言风格的域:有说服力的论点建设从Reddit,段落生成的正常和简单版本的维基百科,和摘要生成的科学文章。自动评估表明,我们的系统可以显着优于竞争力的比较。与不考虑语言风格的变体相比,人类法官进一步将我们的系统生成的文本评为更流畅和正确。
2019-09-02 cs.CL
An Ensemble method for Content Selection for Data-to-text Systems
Heriot-Watt University(赫瑞-瓦特大学)
我们提出了一种新的方法,从时间序列数据自动生成报告,在学生反馈生成的背景下。我们提出的方法将内容选择视为多标签分类(MLC)问题,该问题将时间序列数据(学生的学习数据)作为输入,并输出这些数据的摘要(反馈)。与以前的工作不同,该方法使用分类器的集合同时考虑所有数据,因此,与有意义的基线相比,它实现了更高的准确性和F分数。
2015-06-09 cs.AI cs.CL
A Unifying Scheme for Extractive Content Selection Tasks
Bar-Ilan University(巴伊兰大学);Google Research(谷歌研究);OriginAI
本文提出指令引导内容选择框架IGCS,构建统一基准igcsbench与大型通用合成数据集,证明迁移学习可提升多任务性能。
2025-07-22 cs.CL
Content Selection Network for Document-grounded Retrieval-based Chatbots
Université de Montréal(蒙特利尔大学);Renmin University of China(中国人民大学)
在文档中建立人机对话是提高基于检索的聊天机器人性能的有效方法。然而,只有部分文档内容可能与帮助在一轮中选择适当的响应相关。因此,选择与当前会话上下文相关的文档内容部分至关重要。在本文中,我们提出了一个文档内容选择网络(CSN)执行显式选择相关的文档内容,并过滤掉不相关的部分。我们在两个公共文档为基础的会话数据集上的实验表明,CSN可以有效地帮助选择相关的文档内容的会话上下文,它产生更好的结果比国家的最先进的方法。我们的代码和数据集可以在https://github.com/DaoD/CSN上找到。
2021-01-21 cs.CL
Content Selection in Deep Learning Models of Summarization
University of Maryland, College Park(马里兰大学帕克分校);Columbia University(哥伦比亚大学);Microsoft Research(微软研究院)
我们使用深度学习模型对新闻、个人故事、会议和医学文章等领域的摘要进行了实验,以了解内容选择是如何进行的。我们发现,许多先进的提取摘要的国家复杂的功能并没有提高性能比简单的模型。这些结果表明,为新领域创建摘要器比以前的工作更容易,并对深度学习模型用于具有大量数据集的领域的摘要的好处提出了质疑(即,news)。与此同时,他们提出了重要的问题,为新的研究摘要;即,新的形式的句子表示或外部知识来源,需要更好地适应总结任务。
2019-02-18 cs.CL
Learning Content Selection Rules for Generating Object Descriptions in Dialogue
任何面向任务的对话系统的基本要求是能够生成引用任务域中的对象的对象描述。面向任务的对话中对象描述的内容选择子问题一直是前人工作的重点,并提出了大量的模型。在本文中,我们使用COCONUT语料库的面向任务的设计对话,开发基于Dale和Reiters(1995年)的增量模型,Brennan和Clarks(1996年)的概念契约模型,和乔丹斯(2000年b)的有意影响模型的特征集,并使用这些特征集在机器学习实验中自动学习对象描述的内容选择模型。由于Dale和Reiters模型需要一个语篇结构的表征,因此本文利用语料库注释推导出了一个基于Grosz和Sidners(1986)语篇意向结构理论的表征,以及两个基于近因的简单的语篇结构表征。然后,我们应用规则归纳程序RIPPER训练和测试的对象描述生成器的内容选择组件上的一组393个对象的描述从语料库。据我们所知,这是第一次报告的实验,一个可训练的内容选择组件的对象描述生成对话。基于三种理论模型的三种独立的内容选择模型,在看不见的测试数据上都独立地实现了显著高于多数类基线(17%)的准确性,其中故意影响模型(42.4%)的表现显著优于增量模型(30.4%)或概念契约模型(28.9%)。但性能最好的模型结合了所有特征集,准确率接近60%。令人惊讶的是,一个简单的基于最近的话语结构的表征和一个基于意图结构的表征一样好。据我们所知,这也是Grosz和…
2011-09-09 cs.CL
Personalized Emphasis Framing for Persuasive Message Generation
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
在本文中,我们提出了一个个性化的强调框架,它可以用来调整信息的内容,以提高其吸引力不同的个人的研究。有了这个框架,我们直接基于一组心理动机的独立于领域的个人特质(包括个性)(例如,外向性和外向性)和基本的人类价值观(例如,自我超越和享乐主义)。我们还演示了如何分析结果可以用于自动化的个性化内容选择的有说服力的消息生成。
2016-07-29 cs.AI cs.CL
Improving Zero-shot Sentence Decontextualisation with Content Selection and Planning
Department of Computer Science and Technology, University of Cambridge(计算机科学与技术系,剑桥大学)
针对句子提取后缺乏上下文的问题,提出内容选择与规划框架,通过分割、识别歧义单元并基于话语关系提取相关单元来重写句子,实现零样本去上下文化,提升语义完整性和连贯性。
2025-10-15 cs.CL
I Do Not Understand What I Cannot Define: Automatic Question Generation With Pedagogically-Driven Content Selection
Multimedia Communications Lab, Technical University of Darmstadt(达姆施塔特工业大学多媒体通信实验室)
大多数学习者在被动阅读课本时不能发展深层的文本理解。对学习者所读的内容提出问题是一种行之有效的培养学生阅读能力的方法。然而,许多教科书缺乏自我评估问题,因为编写它们既耗时又昂贵。自动问题生成器可以通过生成合理的教学问题来缓解这种短缺。然而,自动生成问题带来了语言和教学上的挑战。我们应该问什么?那么,我们如何自动表达这个问题呢?我们解决这些挑战与自动问题生成器接地学习理论。本文介绍了一种新的教学意义的内容选择机制,发现有问题的句子和答案中的任意教科书内容。我们与教育专家进行了一项实证评估研究,在六个不同的领域注释150个生成的问题。结果表明,生成的问题的语言质量高。此外,评估结果意味着,大多数生成的问题询问与给定的文本相关的中心信息,并可能促进在特定的学习场景中的文本理解。
2021-10-08 cs.CL
FABLES: Evaluating faithfulness and content selection in book-length summarization
UMass Amherst(马萨诸塞大学阿默斯特分校);Adobe(奥多比公司);Allen Institute for AI(艾伦人工智能研究所);Princeton(普林斯顿大学)
本文通过构建FABLES数据集首次对书籍长度摘要进行大规模人工评估,发现Claude-3-Opus忠实性最优,并揭示现有LLM评分器无法有效检测不忠实声明及内容选择中的系统性偏差。
2024-09-30 cs.AI cs.CL
Principled Content Selection to Generate Diverse and Personalized Multi-Document Summaries
New York University(纽约大学);Adobe Research(Adobe研究院)
本研究针对LLMs在多文档摘要中因“中间丢失”现象导致的源覆盖不足问题,提出一种三步原则性内容选择方法,通过提取关键点、利用DPP选择多样化内容并重写,显著提升了DiverseSumm基准上的源覆盖率,并支持基于用户意图的个性化摘要生成。
2025-05-28 cs.CL
"Whose Side Are You On?" Estimating Ideology of Political and News Content Using Large Language Models and Few-shot Demonstration Selection
University of California, Davis(加州大学戴维斯分校);University of South Florida(佛罗里达州立大学)
针对现有意识形态分类方法需大量人力、难以适应语境变化的问题,本文提出基于大型语言模型(LLMs)和上下文学习(ICL)的方法,通过标签平衡示例选择在三个数据集上显著优于零样本和传统方法,并分析了元数据的影响。
2025-11-11 cs.CL cs.CY cs.SI
Content Planning for Neural Story Generation with Aristotelian Rescoring
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);University of Edinburgh(爱丁堡大学);Columbia University(哥伦比亚大学);University of California Los Angeles(加州大学洛杉矶分校)
从大语言模型生成的长篇叙事文本管理着对人类写作的流畅模仿,但仅在局部句子水平上,并且缺乏结构或全局内聚。我们认为,故事生成的许多问题可以通过高质量的内容规划来解决,并提出了一个系统,专注于如何学习良好的情节结构,以指导故事生成。我们利用一个情节生成语言模型以及一系列重新评分模型,每个模型都实现了亚里士多德诗学中详细描述的好故事写作的一个方面。我们发现,用我们更有原则的情节结构写出来的故事,比那些不满足计划的基线,或者以一种无原则的方式计划的故事,都更适合给定的提示和更高的质量。
2020-10-09 cs.AI cs.CL
Content associations with answer selection and engagement in supply chain community question answering
本研究以雅知惠物流相关社区问答语料为对象,探究名词及语义名词簇与最优答案选择、问题参与度的关联,发现两类名词分别对应不同结果,构建了该领域的相关描述性图谱。
2026-10-16 cs.CL cs.SI
Denoising Large-Scale Image Captioning from Alt-text Data using Content Selection Models
Google Research(谷歌研究院);Meta AI;Uber(优步)
训练大规模图像描述(IC)模型需要访问丰富多样的训练样本集,这些样本通常来自于嘈杂的替代文本数据。然而,在这种情况下,最近的IC建模方法往往在性能方面有所不足,因为它们假设一个干净的注释数据集(而不是噪音较大的基于替代文本的注释),并采用端到端的生成方法,这往往缺乏可控性和可解释性。我们通过将任务分解为两个更简单,更可控的任务来解决这些问题-骨架预测和基于字幕的字幕生成。具体来说,我们表明,选择内容词作为骨架有助于在利用丰富但嘈杂的基于替代文本的未策展数据集时生成改进和去噪的字幕。我们还表明,预测的英语骨架可以进一步跨语言利用生成非英语字幕,目前的实验结果涵盖字幕生成法语,意大利语,德语,西班牙语和印地语。我们还表明,基于文本的预测可以更好地控制某些字幕属性,如长度,内容和性别表达,提供了一个句柄来执行人在回路半自动校正。
2022-10-30 cs.CL cs.CV
Form Over Content In Gradient-Based Data Attribution Methods
KAIST(韩国科学技术院)
该研究通过独立变化任务与答案格式,证明基于梯度的数据归因方法主要追踪格式相似性而非任务语义,并提出应在两者独立变化的数据上测试此类方法以增强可靠性。
2026-11-17 cs.AI cs.CL
Style over Story: Measuring LLM Narrative Preferences via Structured Selection
School of Digital Humanities and Computational Social Sciences, KAIST(数字人文与计算社会科学学院,韩国科学技术院)
通过结构化选择实验测量大语言模型的叙事偏好,发现模型在风格优先于叙事内容方面表现一致,且风格偏好稳定,而内容元素则存在模型间差异和指令敏感性。
2026-04-20 cs.CL
CoPERLex: Content Planning with Event-based Representations for Legal Case Summarization
School of Computation, Information, and Technology(计算、信息与技术学院;慕尼黑工业大学);Technical University of Munich
针对法律判决冗长问题,提出CoPERLex框架,通过事件中心表示(主语-动词-宾语三元组)进行内容选择与规划,在四个法律摘要数据集上验证了其优于实体中心方法。
2025-01-23 cs.CL
Plug-and-Play Recipe Generation with Content Planning
University of Cambridge(剑桥大学);Monash University(莫纳什大学)
最近的预训练语言模型在生成流畅和逼真的自然语言文本方面表现出了很好的能力。然而,生成多句子的文本与全球内容规划一直是一个长期存在的研究问题。当前的控制文本生成方法很难解决这个问题,因为它们通常以单个已知的控件属性为条件。在这项研究中,我们提出了一个低成本但有效的框架,明确建模的全球内容计划生成的文本。具体而言,它以即插即用的方式优化了自然语言序列和全局内容计划的联合分发。我们在成熟的Recipe1M+基准上进行了广泛的实验。自动和人工评估都验证了我们的模型在配方生成任务上达到了最先进的性能
2022-12-09 cs.CL
$μ$PLAN: Summarizing using a Content Plan as Cross-Lingual Bridge
Google DeepMind(谷歌DeepMind)
针对跨语言摘要数据集稀缺、摘要与翻译难度叠加的问题,提出$μ$PLAN方法,以多语言实体对齐的内容规划为跨语言桥梁,在XWikis数据集4个语言对上达到信息性与忠实性的SOTA,且零样本迁移能力更优。
2024-01-31 cs.CL
Strengthened Symbol Binding Makes Large Language Models Reliable Multiple-Choice Selectors
Tencent(腾讯)
本文针对大语言模型在监督微调阶段仍存在的多项选择符号绑定能力不足问题,提出逐点智能反馈算法PIF,通过构造负样本和逐点损失增强符号与选项内容的关联,从而显著降低选择偏差并提升多项选择题准确率。
2024-06-06 cs.CL
Investigating Content Planning for Navigating Trade-offs in Knowledge-Grounded Dialogue
University of Southern California(南加州大学);Google DeepMind(谷歌DeepMind)
本研究提出PLEDGE框架,探究内容规划能否平衡知识grounded对话中的特异性和归因性,发现度量感知规划在自动评估中更优但人工判断较差,提示需校准自动度量。
2024-02-03 cs.CL
Beyond the Granularity: Multi-Perspective Dialogue Collaborative Selection for Dialogue State Tracking
Beijing University of Posts and Telecommunications(北京邮电大学);The University of Tokyo(东京大学)
在对话状态跟踪中,对话历史是一个重要的材料,它的使用在不同的模型之间存在差异。然而,无论如何使用对话历史,在整个状态跟踪过程中,每个现有模型都使用自己一致的对话历史,而不管哪个槽被更新。显然,它需要不同的对话历史,以更新不同的插槽在不同的回合。因此,使用一致的对话内容可能会导致不同时隙的信息不足或冗余,这会影响整体性能。为了解决这个问题,我们设计的DiCoS-DST动态选择相应的对话内容对应于每个插槽的状态更新。具体而言,它首先检索对话历史的话轮话语,并从三个角度的组合来评估它们与槽的相关性:(1)它与槽名称的显式连接;(2)它与当前话轮对话的相关性;(3)隐式提及导向推理。然后,这些观点被组合以产生决策,并且只有所选择的对话内容被馈送到状态生成器中,状态生成器显式地最小化传递到下游状态预测的分散注意力的信息。实验结果表明,我们的方法在MultiWOZ 2.1和MultiWOZ 2.2上实现了新的最先进的性能,并在多个主流基准数据集(包括Sim-M,Sim-R和DSTC 2)上实现了卓越的性能。
2022-05-20 cs.CL
Plan ahead: Self-Supervised Text Planning for Paragraph Completion Task
UC Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学)
尽管上下文化语言模型最近在各种NLP任务上取得了成功,但语言模型本身无法捕获长的多句子文档的文本连贯性(例如,a段)。人类在说话之前,经常会做出关于说什么和如何说的结构性决定。用这种高层决策指导表面实现并以连贯的方式构造文本,本质上称为规划过程。模型在哪里可以学习这种高层次的一致性?文章提出了一个新的段落补全任务PARCOM,即预测段落中的隐藏句。然而,任务遭受预测和选择适当的主题内容相对于给定的上下文。为了解决这个问题,我们提出了一个自我监督的文本规划器SSPlanner,它首先预测要说什么(内容预测),然后使用预测的内容指导预训练的语言模型(表面实现)。SSPlanner在自动和人工评估中的段落完成任务上优于基线生成模型。我们还发现,名词和动词类型的关键字的组合是最有效的内容选择。随着提供更多数量的内容关键字,总体生成质量也提高。
2020-10-11 cs.CL
Plot Writing From Pre-Trained Language Models
Chulalongkorn University(朱拉隆功大学);Knorex
预训练的语言模型(PLM)无法生成长格式的叙述性文本,因为它们没有考虑全局结构。因此,生成的文本往往是无凝聚力的,重复的,或缺乏内容。最近在故事生成方面的工作重新引入了以提示、关键字或语义框架形式的明确内容规划。在大型并行语料库上训练后,这些模型可以生成更符合逻辑的事件序列,从而生成更有内容的故事。然而,这些中间表示通常不是自然语言,并且在没有微调的情况下不能被PLM利用。我们建议使用现成的PLM生成故事情节,同时保持内容规划的好处,以生成有凝聚力和内容丰富的故事。我们提出的方法,SockchPlot,首先提示PLM组成的内容计划。然后,我们根据内容计划生成故事的主体和结局。此外,我们采取了生成和排名的方法,通过使用额外的PLM排名生成的(故事,结局)对。我们用各种基线对我们的方法进行基准测试,并在人工和自动评估中取得了优异的结果。
2022-06-07 cs.CL