Data-to-Text Generation with Content Selection and Planning
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
数据到文本生成的最新进展已经导致使用大规模数据集和神经网络模型，这些模型是端到端训练的，而没有明确地建模要说什么和以什么顺序。在这项工作中，我们提出了一个神经网络架构，它结合了内容选择和规划，而不牺牲端到端的训练。我们将生成任务分解为两个阶段。给定一个数据记录语料库（与描述性文档配对），我们首先生成一个内容计划，突出显示哪些信息应该被提及以及以何种顺序，然后在考虑内容计划的同时生成文档。自动和基于人类的评估实验表明，我们的模型优于强基线，提高了最近发布的RotoWire数据集的最新水平。
2019-04-12 cs.CL
Knowledge-based Review Generation by Coherence Enhanced Text Planning
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Beijing Key Laboratory of Big Data Management and Analysis Methods（大数据管理与分析方法北京市重点实验室）；Huawei Cloud（华为云）
作为一项自然语言生成任务，生成信息丰富、连贯的评论文本是一项具有挑战性的任务。为了增强所生成的文本的信息性，现有的解决方案通常学习从知识图谱（KG）复制实体或三元组。但是，他们在选择和安排知识时缺乏整体考虑，容易造成语篇的不连贯。为了解决上述问题，我们专注于提高实体为中心的一致性，通过利用知识库的语义结构生成的评论。本文提出了一种基于知识图谱（KGs）的一致性增强文本规划模型（CETP），以提高评论生成的全局和局部一致性。所提出的模型学习一个两级的文本计划来生成文档：（1）文档计划被建模为一个顺序的句子计划序列，（2）句子计划被建模为KG中基于实体的子图。KG子图通过实体之间的句内关联自然地增强了局部连贯性。对于全局一致性，我们设计了一个分层的自关注架构，子图和节点级的注意力，以增强子图之间的相关性。据我们所知，我们是第一个利用基于KG的文本规划模型来增强文本连贯性的审查生成。在三个数据集上进行的大量实验证实了我们的模型在提高生成文本的内容一致性方面的有效性。
2021-05-09 cs.CL
Neural Data-to-Text Generation with Dynamic Content Planning
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Beijing Baidu Netcom Science Technology Co., Ltd.（北京百度网讯科技有限公司）；University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
近年来，神经数据到文本生成模型取得了重大进展。然而，这些模型有两个缺点：生成的文本往往会遗漏一些重要的信息，并且它们经常生成与结构化输入数据不一致的描述。为了缓解这些问题，我们提出了一个神经数据到文本生成模型与动态内容规划，简称NDP。NDP可以利用先前生成的文本来从给定的结构化数据中动态地选择适当的条目。我们进一步设计了一个重建机制，一个新的目标函数，可以重建整个条目的使用数据顺序从隐藏状态的解码器，这有助于生成的文本的准确性。实证结果表明，NDP实现了优越的性能，在国家的最先进的ROTOWIRE数据集，在关系生成（RG），内容选择（CS），内容排序（CO）和BLEU指标。人工评价结果表明，在大多数情况下，NDP生成的文本优于NCP生成的文本。使用所提出的重建机制，生成的文本的保真度可以进一步显着提高。
2020-04-20 cs.CL
Plan-then-Generate: Controlled Data-to-Text Generation via Planning
University of Cambridge（剑桥大学）；Apple（苹果公司）
神经网络的最新发展导致了数据到文本生成的进步。然而，神经模型缺乏控制生成的输出结构的能力，这在某些现实世界的应用中可能是有限的。在这项研究中，我们提出了一种新的计划然后生成（PlanGen）框架，以提高神经数据到文本模型的可控性。在两个基准数据集ToTTo和WebNLG上进行了大量的实验和分析。结果表明，我们的模型能够控制生成的输出的句内和句间结构。此外，与以前的国家的最先进的方法的实证比较表明，我们的模型提高了生成质量以及输出多样性判断的人类和自动评估。
2021-08-31 cs.CL
Event Transition Planning for Open-ended Text Generation
The University of Hong Kong（香港大学）；Tencent AI Lab（腾讯人工智能实验室）；Shandong University（山东大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
开放式文本生成任务，如对话生成和故事完成，需要模型在有限的先前上下文下生成连贯的延续。这些任务的开放性给当今的神经自回归文本生成器带来了新的挑战。尽管这些神经模型擅长产生类似人类的文本，但它们很难安排给定事实和可能的后续事件之间的因果关系和关系。为了弥合这一差距，我们提出了一种新的两阶段的方法，明确安排随后的事件在开放式文本生成。我们的方法可以被理解为一个专门训练的粗到细的算法，其中一个事件过渡规划器提供了一个“粗糙”的情节骨架和文本生成器在第二阶段细化骨架。在两个开放式文本生成任务上的实验表明，该方法有效地提高了生成文本的质量，特别是在一致性和多样性方面。代码可在以下网址获得：\url{https://github.com/qtli/EventPlanforTextGen}。
2022-04-20 cs.CL
Long and Diverse Text Generation with Planning-based Hierarchical Variational Model
Institute for Artificial Intelligence（人工智能研究院）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Tsinghua University（清华大学）；Baozun（宝尊）
现有的用于数据到文本生成的神经方法仍然难以生成长而多样的文本：它们不足以在生成过程中动态地建模输入数据，捕获句子间的连贯性，或生成多样化的表达。为了解决这些问题，我们提出了一个基于规划的层次变分模型（PHVM）。我们的模型首先计划一系列的组（每组是一个子集的输入项目被覆盖的句子），然后实现每个句子的规划结果和先前生成的上下文条件，从而分解成依赖句子生成子任务的长文本生成。为了捕捉表达的多样性，我们设计了一个分层的潜在结构，其中一个全球规划的潜在变量模型的多样性合理的规划和一系列的本地潜在变量控制句子的实现。实验表明，我们的模型优于国家的最先进的基线在长和多样化的文本生成。
2019-08-25 cs.CL cs.LG
Step-by-Step: Separating Planning from Realization in Neural Data-to-Text Generation
Bar Ilan University（巴伊兰大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
数据到文本的生成在概念上可以分为两个部分：信息的排序和结构化（规划），以及生成描述信息的流畅语言（实现）。现代神经生成系统将这两个步骤合并为一个端到端的可微分系统。我们建议将生成过程分为一个忠实于输入的符号文本规划阶段，然后是一个只关注实现的神经生成阶段。为了训练计划到文本生成器，我们提出了一种将参考文本与其相应的文本计划进行匹配的方法。对于推理时间，我们描述了一种为新输入选择高质量文本计划的方法。我们在WebNLG基准上实施和评估我们的方法。我们的研究结果表明，从神经实现解耦文本规划确实提高了系统的可靠性和充分性，同时保持流畅的输出。我们观察到BLEU评分和手动评估都有所改善。我们的方法的另一个好处是能够输出相同输入的不同实现，为显式控制生成的文本结构铺平了道路。
2019-05-01 cs.AI cs.CL
LoopWeaver: Weaving Feedback Loops into Hierarchical Generation under Constraints
HiFlow通过分层反馈驱动优化框架，解决长文本生成中受约束的优化问题，提升生成质量与约束满足能力。
2026-11-10 cs.CL
Order-Planning Neural Text Generation From Structured Data
University of Waterloo（滑铁卢大学）
从结构化数据生成文本（例如，表）对于诸如问答和对话系统的各种自然语言处理任务是重要的。在最近的研究中，研究人员使用神经语言模型和编码器-解码器框架来生成表到文本。然而，这些基于神经网络的方法在文本生成期间不对内容的顺序进行建模。当一个人根据给定的表格写摘要时，他或她可能会在措辞之前考虑内容顺序。例如，在传记中，一个人的国籍通常在传记中的职业之前提到。在本文中，我们提出了一个订单规划文本生成模型，捕捉不同领域之间的关系，并利用这种关系，使生成的文本更加流畅和光滑。我们在WikiBio数据集上进行了实验，并在BLEU，ROUGE和NIST分数方面实现了比以前方法更高的性能。
2017-09-01 cs.AI cs.CL cs.IR
Integrating Planning into Single-Turn Long-Form Text Generation
Google DeepMind（谷歌DeepMind）；Emory University（埃默里大学）
针对大语言模型长文本生成质量不足的问题，提出单辅助任务规划方法，通过合成中间写作数据微调LLM，在多数据集上实现了生成质量的显著提升。
2024-10-08 cs.AI cs.CL
RAPID: Efficient Retrieval-Augmented Long Text Generation with Writing Planning and Information Discovery
University of Science and Technology of China（中国科学技术大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
针对大型语言模型生成知识密集型长文本时存在的幻觉、主题不连贯和高延迟问题，提出高效检索增强生成框架RAPID，通过检索增强大纲生成、属性约束搜索和规划引导生成三模块，在FreshWiki-2024基准上显著优于现有方法。
2025-03-02 cs.AI cs.CL
Few-Shot Table-to-Text Generation with Prompt Planning and Knowledge Memorization
针对少样本表格到文本生成中知识不足与表文拓扑差异问题，提出 PromptMize，通过提示规划和无标注领域知识记忆提升文本忠实度与生成质量。
2023-08-17 cs.AI cs.CL
Exploring EFL Secondary Students' AI-generated Text Editing While Composition Writing
Precious Blood Secondary School（宝血女子中学）；Shanghai Jiao Tong University（上海交通大学）；The University of Hong Kong（香港大学）
本研究通过屏幕录制和内容分析，探索香港中学生在说明文写作中编辑AI生成文本的15种类型和四种行为模式，揭示其复杂认知过程，挑战被动使用AI的假设，并为教学提供启示。
2025-05-13 cs.CL cs.CY cs.HC
Does Structure Matter? Leveraging Data-to-Text Generation for Answering Complex Information Needs
在这项工作中，我们的目标是提供一个结构化的答案，在自然语言的复杂的信息需求。特别是，我们设想从数据到文本生成的角度使用生成模型。我们建议使用内容选择和规划管道，其目的是通过生成中间计划来构建答案。使用TREC复杂答案检索（CAR）数据集进行实验评估。我们评估生成的答案及其相应的结构，并显示基于规划的模型相比，文本到文本模型的有效性。
2021-12-08 cs.CL cs.IR cs.LG
Monte Carlo Planning with Large Language Model for Text-Based Game Agents
AAII, University of Technology Sydney（AAII，悉尼技术大学）；University of Liverpool（利物浦大学）
本文提出MC-DML算法，结合大语言模型与蒙特卡洛树搜索，利用动态记忆增强规划，在文本游戏中显著提升初始规划性能，超越需多次迭代的现有方法。
2025-04-23 cs.CL
PROC2PDDL: Open-Domain Planning Representations from Texts
University of Pennsylvania（宾夕法尼亚大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
本文提出首个开放域过程性文本到专家标注 PDDL 表示的 Proc2PDDL 数据集，并评测主流 LLM，发现其动作前提与效果建模表现很差，揭示了程序生成和事件推理缺陷。
2024-07-02 cs.CL
LLM-Guided Planning and Summary-Based Scientific Text Simplification: DS@GT at CLEF 2025 SimpleText
Georgia Institute of Technology（佐治亚理工学院）
本文提出一种基于大语言模型的两阶段科学文本简化框架，先通过LLM生成结构化规划或文档摘要，再据此引导句子级和文档级简化，以提升简化结果的连贯性与上下文忠实度。
2025-08-15 cs.CL
Planning Argumentative Texts
本文提出了一个用于议论文的文本规划器\proverb \。\proverb的主要特点是它以一种互补的方式结合了全局层次规划和关于局部派生关系的无计划文本组织。前者将呈现特定证明的任务分解为呈现子证明的子任务。后者模拟了如何在局部焦点的指导下选择下一个要呈现的中间结论。
1994-10-28 cmp-lg cs.CL
Plug-and-Play Recipe Generation with Content Planning
University of Cambridge（剑桥大学）；Monash University（莫纳什大学）
最近的预训练语言模型在生成流畅和逼真的自然语言文本方面表现出了很好的能力。然而，生成多句子的文本与全球内容规划一直是一个长期存在的研究问题。当前的控制文本生成方法很难解决这个问题，因为它们通常以单个已知的控件属性为条件。在这项研究中，我们提出了一个低成本但有效的框架，明确建模的全球内容计划生成的文本。具体而言，它以即插即用的方式优化了自然语言序列和全局内容计划的联合分发。我们在成熟的Recipe1M+基准上进行了广泛的实验。自动和人工评估都验证了我们的模型在配方生成任务上达到了最先进的性能
2022-12-09 cs.CL
Data Quality Issues in Multilingual Speech Datasets: The Need for Sociolinguistic Awareness and Proactive Language Planning
Google（谷歌）
本文审计了三个多语言语音数据集的质量问题，将其分为微观和宏观两类，发现宏观问题在资源不足语言中更普遍，通过台湾闽南语案例强调主动语言规划与质量控制的重要性，并提出改进建议。
2025-06-27 cs.AI cs.CL
Conversational Planning for Personal Plans
Google DeepMind（谷歌DeepMind）；Google（谷歌）
本文提出一种以LLM为元控制器、工具增强选项策略执行宏动作的对话式规划架构，用于长期个人计划的适应性规划，并应用于辅导和健康教练场景。
2025-02-26 cs.AI cs.CL cs.HC
Plan ahead: Self-Supervised Text Planning for Paragraph Completion Task
UC Berkeley（加州大学伯克利分校）；Carnegie Mellon University（卡内基梅隆大学）
尽管上下文化语言模型最近在各种NLP任务上取得了成功，但语言模型本身无法捕获长的多句子文档的文本连贯性（例如，a段）。人类在说话之前，经常会做出关于说什么和如何说的结构性决定。用这种高层决策指导表面实现并以连贯的方式构造文本，本质上称为规划过程。模型在哪里可以学习这种高层次的一致性？文章提出了一个新的段落补全任务PARCOM，即预测段落中的隐藏句。然而，任务遭受预测和选择适当的主题内容相对于给定的上下文。为了解决这个问题，我们提出了一个自我监督的文本规划器SSPlanner，它首先预测要说什么（内容预测），然后使用预测的内容指导预训练的语言模型（表面实现）。SSPlanner在自动和人工评估中的段落完成任务上优于基线生成模型。我们还发现，名词和动词类型的关键字的组合是最有效的内容选择。随着提供更多数量的内容关键字，总体生成质量也提高。
2020-10-11 cs.CL
TextLap: Customizing Language Models for Text-to-Layout Planning
University at Buffalo（布法罗大学）；Adobe Research（奥多比研究院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文提出 TextLap 方法，利用基于指令的布局规划数据集 InsLap 定制大型语言模型，使其能根据文本指令自动生成图形布局，并在图像生成与图形设计基准上优于包括 GPT-4 在内的基线方法。
2024-10-09 cs.CL cs.LG
Multimodal Procedural Planning via Dual Text-Image Prompting
University of California, Santa Barbara（加州大学圣巴巴拉分校）；University of California, Los Angeles（加州大学洛杉矶分校）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
该研究提出多模态程序规划任务，设计双模态提示方法TIP结合大语言模型与扩散模型能力，构建两个测试基准，验证了方法在规划信息性、时序一致性和准确性上的优势。
2023-05-02 cs.CL
Nullpointer at CheckThat! 2024: Identifying Subjectivity from Multilingual Text Sequence
Hamad Bin Khalifa University（哈马德·本·哈利法大学）；Carnegie Mellon University in Qatar（卡塔尔卡内基梅隆大学）；Northwestern University in Qatar（卡塔尔西北大学）
本研究针对多语言文本主客观二分类任务，通过词性标注等预处理、微调情感Transformer模型、自定义加权分类器及数据翻译等方法，在CheckThat! 2024的多语言及单语言评测中取得了优异排名。
2024-07-14 cs.CL
So What's the Plan? Mining Strategic Planning Documents
National Research University Higher School of Economics（俄罗斯国家研究型高等经济大学）；Novosibirsk State University（新西伯利亚国立大学）；A.P. Ershov Institute of Informatics Systems SB RAS（俄罗斯科学院西伯利亚分院A.P.埃尔肖夫信息系统研究所）；Kazan Federal University（喀山联邦大学）；ABBYY（ABBYY公司）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Innopolis University（因诺波利斯大学）
在本文中，我们提出了一个语料库的俄罗斯战略规划文件，RuREBus。该项目从语言技术和电子政务的角度出发。不仅新的语言资源和工具正在开发中，而且它们在电子政务研究中的应用也在不断发展。我们展示了从头开始创建文本语料库的管道。首先，设计了标注模式。接下来的文本使用人在回路策略进行标记，以便从机器学习模型中导出初步注释并手动校正。注释文本的数量足够大，可以展示从RuREBus中可以获得哪些见解。
2020-07-07 cs.CL
Learning Micro-Planning Rules for Preventative Expressions
手工构建文本规划资源既耗时又困难。当然，已经实现了许多规划架构及其附带的规划库，但是虽然架构本身可以在新的领域中重用，但规划库通常不能。解决这个问题的一种方法是使用机器学习技术来自动化新领域的规划资源的推导。在本文中，我们应用这种技术来建立微规划规则的预防性表达的教学文本。
1996-07-12 cmp-lg cs.CL
Planning Beyond Text: Graph-based Reasoning for Complex Narrative Generation
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Tencent Turing Lab（腾讯人工智能实验室）
本文提出PLOTTER框架，通过结构图进行叙事规划，提升LLM在复杂叙事生成中的长上下文推理能力。
2026-04-23 cs.AI cs.CL
Planetarium: A Rigorous Benchmark for Translating Text to Structured Planning Languages
Brown University（布朗大学）
针对现有文本转结构化规划语言评估方法的不足，本文提出Planetarium基准，通过新颖PDDL等价算法和大规模数据集评估语言模型生成PDDL的能力，揭示任务复杂性并凸显严格基准的必要性。
2025-02-10 cs.AI cs.CL cs.LG
SCOPE: Language Models as One-Time Teacher for Hierarchical Planning in Text Environments
Skyfall
SCOPE通过一次性利用LLM生成的子目标预训练轻量级模型，实现高效文本环境分层规划，比ADaPT方法在成功率和推理效率上更优。
2025-12-10 cs.AI cs.CL
Text-Based Action-Model Acquisition for Planning
Sun Yat-sen University（中山大学）
虽然已经有能够从计划跟踪学习动作模型的方法，但是还没有从文本观察学习动作模型的工作，与计划跟踪相比，文本观察是普遍的并且更容易从现实世界的应用程序中收集。在本文中，我们提出了一种新的方法来学习自然语言文本的动作模型，结合约束满足和自然语言处理技术。具体来说，我们首先建立一个新的语言模型，从文本中提取计划的痕迹，然后建立一组约束条件，以产生基于提取的计划痕迹的行动模型。然后，我们迭代地改进语言模型和约束，直到我们实现收敛的语言模型和动作模型。我们的经验表明，我们的方法是有效的和高效的。
2022-02-18 cs.AI cs.CL cs.LG
Automated Action Model Acquisition from Narrative Texts
Australian National University（澳大利亚国立大学）；Tencent AI lab（腾讯人工智能实验室）
针对叙事规划中动作模型自动获取的瓶颈问题，提出无监督系统NaRuto，从叙事文本提取结构化事件并结合常识关系等生成规划式动作模型，质量优于全自动化方法、媲美半自动化方法。
2023-07-17 cs.CL cs.IR cs.LG
Beyond Speech Captions: Speech-Rewarded Style Planning for Conversational Text-to-Speech
Institute of Science Tokyo（东京科学大学）
该研究针对对话式TTS提出SRSP方法，以冻结TTS模型为基础，用GRPO优化风格规划器，在ISCSLP 2026 CoT-TTS语料库子集上，其语音风格、情感相似度及语境表现均优于基线。
2026-10-09 cs.CL cs.SD eess.AS
LangSuitE: Planning, Controlling and Interacting with Large Language Models in Embodied Text Environments
National Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室（BIGAI））；Peking University（北京大学）；Tsinghua University（清华大学）
针对LLM作为具身智能体在动态交互环境中表现不明的问题，研究推出无需仿真的测试平台LangSuitE，并提出新型CoT架构EmMem总结具身状态，为构建语言模型下的具身通用智能体提供支撑。
2024-06-24 cs.AI cs.CL
Retrieval as Generation: A Unified Framework with Self-Triggered Information Planning
National Engineering Research Center for Software Engineering, Peking University（软件工程国家工程研究中心，北京大学）；School of Computer Science, Peking University（北京大学计算机学院）；School of Health Sciences and Biomedical Engineering, Hebei University of Technology（河北工业大学健康科学与生物医学工程学院）
GRIP框架通过生成引导检索与信息规划，实现检索与推理的紧密耦合，支持动态多步推理，实验表明其在问答基准上优于RAG基线并接近GPT-4o。
2026-04-19 cs.AI cs.CL
Character-Centric Story Visualization via Visual Planning and Token Alignment
The University of Tokyo（东京大学）；University of California Los Angeles（加州大学洛杉矶分校）；AWS AI Labs（AWS人工智能实验室）
故事可视化通过支持基于完整故事的多个图像生成来推进传统的文本到图像生成。这个任务要求机器1）理解长文本输入，2）产生一个全局一致的图像序列来说明故事的内容。一致的故事可视化的一个关键挑战是保留故事中必不可少的角色。为了应对这一挑战，我们建议适应最近的工作，增强矢量量化变分自编码器（VQ-VAE）的文本到视觉令牌（Transformer）架构。具体来说，我们修改了文本到视觉令牌模块的两个阶段的框架：1）字符令牌规划模型，预测的视觉令牌的字符; 2）视觉令牌完成模型，生成剩余的视觉令牌序列，这是发送到VQ-VAE完成图像生成。为了鼓励字符出现在图像中，我们进一步训练两阶段的框架与字符令牌对齐的目标。大量的实验和评估表明，该方法在保持字符，可以产生更高质量的图像序列相比，强基线。代码可以在https://github.com/sairin1202/VP-CSV中找到
2022-10-22 cs.CL cs.CV
Large Language Models are Learnable Planners for Long-Term Recommendation
University of Science and Technology of China（中国科学技术大学）；Meta AI
针对推荐中RL模型因数据稀缺导致次优的问题，提出双层可学习LLM规划器框架，通过宏观和微观学习分别学习指导与个性化策略，提升了长期推荐的规划能力。
2024-04-26 cs.AI cs.CL cs.IR
