Enriching and Controlling Global Semantics for Text Summarization
VinAI Research（VinAI研究院）；Nanyang Technological University（南洋理工大学）；Ho Chi Minh City University of Technology（胡志明市技术大学）；National University Ho Chi Minh City（胡志明市国家大学）
本文提出通过引入带有归一化流的神经主题模型来捕捉文档全局语义，以解决摘要模型中短程依赖问题，从而提升摘要质量。
2026-05-12 cs.CL
Personalized Text Generation with Fine-Grained Linguistic Control
New York University Abu Dhabi（纽约大学阿布扎比分校）；Grammarly（Grammarly公司）
本文针对大语言模型可控文本生成中细粒度语言属性（如词汇和句法）控制不足的问题，提出新基准以训练和评估模型，并系统分析多种大模型性能，公开代码、数据和预训练模型。
2024-02-07 cs.CL
Generating Math Word Problems from Equations with Topic Controlling and Commonsense Enforcement
Peking University（北京大学）；Sogou Technology Inc.（搜狗科技有限公司）
近年来，在神经语言模型的帮助下，文本生成任务取得了重大进展。然而，数学问题文本的生成是一个具有挑战性的课题，迄今为止，这方面的研究进展甚微。在本文中，我们提出了一种新的方程到问题的文本生成模型。在该模型中，1）提出了一种灵活的数学方程编码方案，并通过可变自动编码器（VAE）对方程编码器进行了增强; 2）给定一个数学方程，进行主题选择，然后引入动态主题记忆机制来限制生成器的主题分布; 3）避免了传统生成模型中的常识违反，我们用背景知识图（KG）预训练词嵌入，并且我们将解码的词链接到KG中的相关词，旨在将背景知识注入我们的模型中。我们通过自动度量和人工评估来评估我们的模型，实验表明，我们的模型在生成问题文本的准确性和丰富性方面优于基线和以前的模型。
2021-07-25 cs.CL
Controlling Topic-Focus Articulation in Meaning-to-Text Generation using Graph Neural Networks
University of Groningen（格罗宁根大学）
针对意义到文本生成中的主题-焦点表述控制问题，提出基于深度优先搜索的图神经网络节点聚合编码策略，在主被动转换任务上显著优于传统方法，通用生成性能达当前最优水平。
2023-10-03 cs.CL
Controlling Summarization Length Through EOS Token Weighting
本文提出一种通过加权EOS令牌损失来控制摘要长度的方法，无需修改模型架构，与解码算法无关，并在编码器-解码器和GPT风格大语言模型上验证了其有效性且不影响摘要质量。
2025-06-05 cs.CL cs.LG
GEMINI: Controlling the Sentence-level Writing Style for Abstractive Text Summarization
Zhejiang University（浙江大学）；Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）
提出自适应摘要模型 GEMINI，通过改写器与生成器动态选择句子改写或抽象生成，在三个基准上优于基线，并表明人类摘要风格可由上下文预测。
2023-12-09 cs.CL
Towards Content Transfer through Grounded Text Generation
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
最近的神经生成研究在控制文本的形式方面引起了极大的兴趣，如风格，人物角色和礼貌。然而，在控制内容的神经文本生成方面的工作较少。本文介绍了内容传输的概念，长格式的文本生成，其中的任务是生成一个文档中的下一个句子，既适合其上下文，并在一个内容丰富的外部文本源，如新闻故事接地。我们对维基百科数据的实验显示，与竞争基线相比，我们的数据有了显著的改善。作为本文的另一个贡献，我们发布了一个640k维基百科引用句子的基准数据集，与源文章配对，以鼓励探索这个新任务。
2019-05-13 cs.CL
Plug and Play with Prompts: A Prompt Tuning Approach for Controlling Text Generation
University of Toronto（多伦多大学）；Vector Institute for Artificial Intelligence（向量人工智能研究院）；Stevens Institute of Technology（史蒂文斯理工学院）；Dalhousie University（达尔豪斯大学）
本文提出利用 Prompt Tuning 训练提示嵌入，并以小型语言模型作为判别器，实现数据与参数高效的文本生成控制，在四类数据集上验证了情感、正式度和毒性控制效果。
2024-04-08 cs.AI cs.CL cs.LG
CoP: Factual Inconsistency Detection by Controlling the Preference
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术全国重点实验室）
提出无监督框架CoP，通过引入提示控制生成模型偏好并利用概率差异分离事实一致性偏好，在三个事实不一致检测任务上取得SOTA结果。
2023-03-31 cs.CL
Controlling the Amount of Verbatim Copying in Abstractive Summarization
University of Central Florida（中佛罗里达大学）；Robert Bosch LLC（罗伯特·博世有限责任公司）
摘要不得改变原文的意思。实现这一点的一个最有效的方法是增加复制量，同时仍然允许文本抽象。人类编辑通常可以对复制进行控制，从而使摘要更抽象，反之亦然。然而，现代神经抽象概括器是否能提供同样的灵活性，即，从单个参考摘要中学习以生成具有不同程度的复制的多个摘要假设。在本文中，我们提出了一个神经摘要模型，通过从单个人类摘要中学习，可以产生从纯粹提取到高度生成的广泛摘要。我们框架的任务摘要语言建模和利用替代机制生成摘要假设。我们的方法允许在神经摘要模型的训练和解码阶段控制复制。通过大量的实验，我们说明了我们提出的方法的意义上控制逐字复制的量，并取得了竞争力的结果强基线。我们的分析进一步揭示了有趣而不明显的事实。
2019-11-23 cs.CL
Controlling Output Length in Neural Encoder-Decoders
Tokyo Institute of Technology（东京工业大学）；Carnegie Mellon University（卡内基梅隆大学）
神经编码器-解码器模型在许多序列生成任务中表现出巨大的成功。然而，以前的工作没有调查的情况下，我们想控制编码器-解码器输出的长度。这种能力对于文本摘要等应用程序至关重要，在这些应用程序中，我们必须生成具有所需长度的简明摘要。在本文中，我们提出了控制神经编码器-解码器模型的输出序列长度的方法：两种基于解码的方法和两种基于学习的方法。结果表明，我们基于学习的方法有能力控制长度，而不会降低摘要质量的摘要任务。
2016-09-30 cs.CL
CIE: Controlling Language Model Text Generations Using Continuous Signals
University of Maryland, College Park（马里兰大学 College Park分校）；Carnegie Mellon University（卡内基梅隆大学）
本文提出CIE方法，通过在“低”和“高”token嵌入之间插值构造连续控制向量并微调语言模型，实现对生成文本响应长度等属性的更可靠控制，优于基于离散信号或上下文学习的方法。
2025-09-19 cs.AI cs.CL
Factuality on Demand: Controlling the Factuality-Informativeness Trade-off in Text Generation
Columbia University（哥伦比亚大学）；New York University（纽约大学）；NYU Shanghai（上海纽约大学）
本文提出Factuality-Controlled Generation框架，通过合成数据训练提升模型在信息性与事实性之间的平衡能力。
2026-01-31 cs.AI cs.CL
Controlling Hallucinations at Word Level in Data-to-Text Generation
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；BNP Paribas（法国巴黎银行）；University of Turin（都灵大学）；Criteo AI Lab（Criteo人工智能实验室）
数据文本生成（DTG）是自然语言生成的一个分支，旨在将结构化数据转换为自然语言描述。该领域最近通过使用基于神经元的生成器而得到了推动，这些生成器一方面表现出很好的语法技能，而不需要手工制作的管道;另一方面，生成的文本的质量反映了训练数据的质量，在现实环境中只提供不完全对齐的结构文本对。因此，最先进的神经模型在其输出中包含误导性陈述-通常称为幻觉。这种现象的控制是当今DTG的一个主要挑战，也是本文要解决的问题。以前的工作是在实例级别处理这个问题的：为每个表引用对使用对齐得分。相比之下，我们提出了一种更细粒度的方法，认为幻觉应该在单词水平上进行治疗。具体来说，我们提出了一个多分支解码器，它能够利用单词级标签来学习每个训练实例的相关部分。这些标签是根据一个简单而有效的评分过程的基础上共现分析和依存句法分析。广泛的评估，通过自动化的指标和人类的判断标准WikiBio基准，显示我们的对齐标签的准确性和建议的多分支解码器的有效性。我们的模型能够减少和控制幻觉，同时保持生成文本的流畅性和连贯性。对降级版本的ToTTo的进一步实验表明，我们的模型可以成功地用于非常嘈杂的设置。
2021-07-09 cs.AI cs.CL cs.LG
Diffusion-LM Improves Controllable Text Generation
Stanford University（斯坦福大学）
在不重新训练的情况下控制语言模型（LM）的行为是自然语言生成中的一个主要开放问题。虽然最近的工作已经证明了控制简单句子属性的成功（例如，情绪），在复杂的细粒度控制（例如，句法结构）。为了解决这个问题，我们开发了一个新的非自回归语言模型的基础上连续扩散，我们称之为扩散LM。基于最近连续域中扩散模型的成功，Diffusion-LM迭代地将高斯向量序列去噪为词向量，产生中间潜变量序列。这些中间变量的连续性和层次性使得简单的基于梯度的算法能够执行复杂的可控生成任务。我们展示了成功的控制扩散LM六个具有挑战性的细粒度控制任务，显着优于以前的工作。
2022-05-27 cs.AI cs.CL cs.LG
An Extensible Plug-and-Play Method for Multi-Aspect Controllable Text Generation
Meituan（美团）；Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本文针对多方面可控文本生成中多前缀相互干扰的问题，提出基于可训练门控归一化前缀干预的即插即用方法，实现训练时未见方面组合的低成本扩展，并统一处理类别型与自由形式约束，在约束准确率、文本质量和可扩展性上优于基线。
2023-05-28 cs.AI cs.CL
Attribute Alignment: Controlling Text Generation from Pre-trained Language Models
University of California, Davis（加州大学戴维斯分校）；Columbia University（哥伦比亚大学）
大语言模型受益于大量未标记文本的训练，这使它们具有越来越流畅和多样化的生成能力。然而，使用这些模型来生成考虑目标属性（如情感极性或特定主题）的文本仍然是一个挑战。我们提出了一个简单而灵活的方法来控制文本生成对齐解开属性表示。与最近训练一个正则表达式来扰动属性的标记级别分布的努力相反，我们使用相同的数据来学习对齐函数，以引导预训练的、非控制的语言模型生成具有目标属性的文本，而不改变原始语言模型参数。我们评估了我们的方法的情绪和主题控制的生成，并显示出比以前的方法大的性能增益，同时保持流畅性和多样性。
2021-09-14 cs.CL
Controlling Text Complexity in Neural Machine Translation
University of Maryland（马里兰大学）
这项工作介绍了一个机器翻译任务，输出是针对不同水平的目标语言熟练程度的观众。我们收集了一个高质量的数据集的英语和西班牙语的新闻文章，写不同的年级水平，并提出了一种方法来调整段在可比的双语文章。由此产生的数据集使得训练多任务序列到序列模型成为可能，这些模型将西班牙语翻译成英语，目标是比原始西班牙语更容易阅读的等级水平。我们表明，这些多任务模型优于独立翻译和简化文本的管道方法。
2019-11-03 cs.CL
Improving Faithfulness of Abstractive Summarization by Controlling Confounding Effect of Irrelevant Sentences
Meta AI
该研究将输入中的无关句子视为导致摘要事实不一致的混杂因素，提出基于因果效应度量并利用人工标注相关句子的多任务模型，在 AnswerSumm 上显著提升忠实度及标准指标。
2024-01-18 cs.AI cs.CL cs.LG
Controlling Pre-trained Language Models for Grade-Specific Text Simplification
University of Maryland（马里兰大学）
本文研究如何控制预训练语言模型实现面向特定年级的文本简化，提出逐实例预测编辑操作的方法，相比语料库层面搜索启发式方法显著提升了简化输出的质量。
2023-11-30 cs.CL
Controlling Extra-Textual Attributes about Dialogue Participants -- A Case Study of English-to-Polish Neural Machine Translation
University of Sheffield（谢菲尔德大学）
与英语不同，形态丰富的语言可以通过代词、词的形态结尾和句法来揭示说话者或其对话伙伴的特征，如性别和数量。当从英语翻译到这些语言时，机器翻译模型需要选择对文本上下文的某种解释，如果文本外信息不可用，则可能导致严重的翻译错误。我们在英语到波兰语方向调查这一挑战。我们专注于利用外部元数据在电视对话的自动翻译的研究不足的问题，提出了一个案例研究，在一个多属性的情况下，广泛的方法来控制翻译中的属性。最好的模型实现了+5.81 chrF++/+6.03 BLEU的改进，其他模型实现了具有竞争力的性能。我们还贡献了一个新的属性注释数据集的波兰电视对话和形态分析脚本用于评估模型中的属性控制。
2022-05-30 cs.AI cs.CL
Extroversion or Introversion? Controlling The Personality of Your Large Language Models
Nanjing University（南京大学）；National Key Laboratory for Novel Software Technology（现代软件工程国家重点实验室）；School of Artificial Intelligence（人工智能学院）
本文系统研究了大语言模型性格控制方法，发现提示、SFT、RLHF和持续预训练的有效性依次递减，并提出结合SFT与提示的PISF策略，实现高效且稳健的性格控制。
2024-06-07 cs.CL
Controlling Text Edition by Changing Answers of Specific Questions
University of Oxford（牛津大学）
在本文中，我们介绍了可控文本编辑的新任务，其中，我们作为输入的长文本，一个问题，和一个目标答案，输出是一个最小的修改文本，使其适合目标答案。这一任务在很多情况下都是非常重要的，比如改变法律文件中的某些条件、后果或属性，或者改变新闻文本中某个事件的某些关键信息。这是非常具有挑战性的，因为很难获得用于训练的平行语料库，我们需要首先找到所有应该改变的文本位置，然后决定如何改变它们。我们基于现有的数据集WikiBio（最初为表到文本生成而创建）构建了新的数据集WikiBioCTE。我们使用WikiBioCTE进行训练，并手动标记测试集进行测试。我们还提出了新的评价指标和解决新任务的新方法。测试集上的实验结果表明，我们提出的方法是一个很好的适合这种新的NLP任务。
2021-05-23 cs.AI cs.CL cs.LG
Controlling Translation Formality Using Pre-trained Multilingual Language Models
University of Maryland（马里兰大学）
本文介绍了马里兰大学提交给\iwslt的口语翻译形式控制特别任务，该任务评估了从英语到6种语言的翻译，这些语言具有不同的语法形式标记。我们调查在何种程度上可以解决这个问题的\textit{single multilingual model}，同时控制其输出的目标语言和正式。实验结果表明，该策略可以达到专用翻译模型所能达到的翻译质量和形式控制的效果。然而，底层预训练语言模型和微调样本的性质极大地影响结果。
2022-05-13 cs.CL
Controlling Emotion in Text-to-Speech with Natural Language Prompts
University of Stuttgart（斯图加特大学）
本文提出一种基于自然语言情感提示的 TTS 条件化系统，通过在 transformer 架构中融合说话人与提示嵌入并动态更换训练提示，实现准确情感迁移且保持音色、音质与可懂度。
2024-06-11 cs.CL cs.SD eess.AS
Controlling Learned Effects to Reduce Spurious Correlations in Text Classifiers
Microsoft Research（微软研究院）
本文提出一种基于因果推断的正则化算法，控制文本分类器中特征的学习效应以匹配其因果效应，从而减少虚假相关性，在毒性评论和IMDB数据集上提升少数群体及总体准确率。
2023-06-21 cs.CL cs.LG
LangSuitE: Planning, Controlling and Interacting with Large Language Models in Embodied Text Environments
National Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室（BIGAI））；Peking University（北京大学）；Tsinghua University（清华大学）
针对LLM作为具身智能体在动态交互环境中表现不明的问题，研究推出无需仿真的测试平台LangSuitE，并提出新型CoT架构EmMem总结具身状态，为构建语言模型下的具身通用智能体提供支撑。
2024-06-24 cs.AI cs.CL
When Can We Work in Embedding Space? What Text Embeddings Preserve
Federal Reserve Bank of Philadelphia（费城联邦储备银行）
该研究探讨文本嵌入用于实证分析的假设，在文档为潜在主题混合的生成模型下明确该假设，通过对363个美国大都市区的应用，发现基于LLM生成经济描述的嵌入聚类效果优于其他聚类方式。
2026-09-01 cs.CL econ.EM stat.ML
Controlling Out-of-Domain Gaps in LLMs for Genre Classification and Generated Text Detection
University of Strathclyde（思克莱德大学）；University of Leeds（利兹大学）
本文针对大语言模型在体裁分类和生成文本检测中的域外性能下降问题，提出一种在分类时排除主题特征、聚焦风格属性的方法，在少样本设置下将OOD差距缩小最多20个百分点，优于思维链基线。
2024-12-29 cs.AI cs.CL
Controlling Multimodal Conversational Agents with Coverage-Enhanced Latent Actions
School of Computer Science, Wuhan University（武汉大学计算机学院）；Tongyi Lab（通义实验室）；Zhongguancun Academy（中关村学院）
本文提出通过增强覆盖的潜在动作空间改进多模态对话代理的强化学习微调，利用跨模态投影器提升鲁棒性，在两个对话任务中优于基线方法。
2026-04-13 cs.AI cs.CL cs.LG
Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework
ICT, CAS（中国科学院信息技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对RAG预测不确定性导致的风险失控问题，本文提出反事实提示框架，通过改变检索质量与利用方式评估模型置信度，并构建带弃权选项的基准和风险指标验证其有效性。
2024-12-04 cs.CL
Controlling Language Difficulty in Dialogues with Linguistic Features
Alibaba Group（阿里巴巴集团）
本文提出通过语言特征控制对话中语言难度的框架，利用可读性、句法和词汇特征提升语言生成的可控性和质量。
2026-01-26 cs.CL
Evaluating Prompt Engineering Strategies for Sentiment Control in AI-Generated Texts
German Aerospace Center (DLR), Institute of Software Technology, Cologne, Germany（德国航空航天中心（DLR），软件技术研究所，科隆，德国）
本文通过提示工程策略有效控制AI生成文本情感，相较于微调方法更具成本效益和实用性，尤其在数据受限环境下表现突出。
2026-02-06 cs.CL
PromptTTS++: Controlling Speaker Identity in Prompt-Based Text-to-Speech Using Natural Language Descriptions
Tohoku University（东北大学）；LINE Corp.（LINE公司）
本文提出PromptTTS++，一种基于提示的TTS系统，通过引入说话人提示和扩散声学模型，利用自然语言描述有效控制说话人身份，优于无提示方法。
2023-12-27 cs.CL cs.LG cs.SD
A Methodology for Controlling the Emotional Expressiveness in Synthetic Speech -- a Deep Learning approach
Numediart Institute University of Mons（蒙斯大学Numediart研究所）
在这个项目中，我们的目标是建立一个文本到语音系统能够产生语音与可控的情感表达。我们提出了一种方法来解决这个问题的三个主要步骤。一是情感语音数据的采集。我们讨论了现有数据集的各种格式及其在语音生成中的可用性。第二步是开发一个系统，自动注释数据的情感/表现力的功能。我们比较了几种使用迁移学习的技术，通过其他任务提取这样的表示，并提出了一种方法来可视化和解释声乐和情感特征之间的相关性。第三步是开发一个基于深度学习的系统，以文本和情感/表现力为输入，并产生语音作为输出。我们研究的影响微调从一个中性的TTS对情绪的TTS的可理解性和感知的情绪。
2019-07-05 cs.CL cs.LG cs.SD
Controlling Output Rankings in LLM-Based Search via Generative Engine Optimization
School of Information Sciences, University of Illinois at Urbana-Champaign, IL, USA（伊利诺伊大学厄巴纳-香槟分校信息科学学院）；Independent Researcher, Starc Institute（Starc研究所独立研究者）；Research Scientist, Intel Labs, Santa Clara, CA, USA（英特尔实验室研究科学家）
CORE通过优化内容生成，提升基于LLM的搜索中小企业产品的可见性，实现高推广成功率。
2026-10-22 cs.AI cs.CL cs.IR
Controlling Implicit Shortcut Reliance in L2 Spoken English Auto-markers
研究语言能力评估中自动评分器过度依赖输入特定方面的问题，提出新颖训练标准减少分类器对捷径的依赖，通过在两种评估系统上的实验，降低了与不当行为相关特征的相关性。
2026-07-20 cs.CL eess.AS
Hallucination Basins: A Dynamic Framework for Understanding and Controlling LLM Hallucinations
Illinois Mathematics and Science Academy（伊利诺伊数学与科学学院）；AI Innovation Institute, Stony Brook University（石溪大学人工智能创新研究所）
本文提出几何动态系统框架，通过分析潜在空间中的盆地结构来理解LLM幻觉现象，发现任务依赖性显著影响分离性，并通过任务复杂度和多盆地定理展示几何感知引导可降低幻觉概率。
2026-04-06 cs.AI cs.CL cs.SY
BERT, can HE predict contrastive focus? Predicting and controlling prominence in neural TTS using a language model
Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；GIPSA-lab（GIPSA实验室）；LIG（格勒诺布尔信息学实验室）；UGA（格勒诺布尔阿尔卑斯大学）；G-INP（格勒诺布尔国立理工学院）；INRIA（法国国家信息与自动化研究所）；NAVER LABS Europe（NAVER欧洲实验室）
最近的几项研究已经测试了使用Transformer语言模型表示来推断文本到语音合成（TTS）的韵律特征。虽然这些研究已经探讨了韵律一般，在这项工作中，我们特别是在预测对比焦点的人称代词。这是一项特别具有挑战性的任务，因为它通常需要语义、推理和/或实用知识来正确预测。我们收集语料库的话语包含对比焦点，我们评估的准确性的BERT模型，微调预测量化的声学突出功能，对这些样本。我们还研究了过去的话语如何为这种预测提供相关信息。此外，我们评估的可控性代词突出的TTS模型条件下的声学突出功能。
2022-07-04 cs.CL eess.AS
From Tarzan to Tolkien: Controlling the Language Proficiency Level of LLMs for Content Generation
Stanford University（斯坦福大学）；Duolingo（多邻国公司）
针对面向非熟练用户的文本难度控制问题，提出结合微调与强化学习对齐的开源模型方案CALM，以极低成本超越GPT-4等提示策略的性能。
2024-06-05 cs.CL cs.LG
Visualization and Interpretation of Latent Spaces for Controlling Expressive Speech Synthesis through Audio Analysis
Numediart Institute, University of Mons（蒙斯大学Numediart研究所）；Acapela Group（Acapela集团）
文本到语音转换领域在过去几年中经历了巨大的进步，受益于深度学习技术。现在，制作逼真的演讲成为可能。因此，对表达性的控制，允许生成不同风格或方式的演讲，最近引起了越来越多的关注。能够控制风格的系统已经开发出来，并显示出令人印象深刻的结果。然而，控制参数往往包括潜变量，并保持复杂的解释。在本文中，我们分析和比较不同的潜在空间，并获得他们对表达性言语的影响的解释。这将使得能够构建具有可理解行为的可控语音合成系统。
2019-03-27 cs.AI cs.CL cs.LG
A Systematic Survey of Text Worlds as Embodied Natural Language Environments
University of Arizona（亚利桑那大学）
文本世界是一种虚拟环境，与2D或3D环境不同，它是专门使用文本描述呈现的。这些环境提供了一种替代高保真度的3D环境，因为它们的进入门槛低，提供了研究语义，组合推理和其他高级任务的能力，具有丰富的高级动作空间，同时控制感知输入。本系统的调查概述了工具，环境和代理建模的文本世界的最新发展，同时检查最近的趋势，知识图谱，常识推理，迁移学习文本世界的性能，以更高的保真度的环境，以及近期的发展目标，一旦实现，使文本世界自然语言处理有吸引力的一般研究范式。
2021-07-08 cs.AI cs.CL
