Controllable Natural Language Generation with Contrastive Prefixes
University of California, Santa Barbara(加州大学圣巴巴拉分校);Microsoft Corporation(微软公司)
为了指导大型预训练语言模型(LM)的生成,以前的工作集中在直接微调语言模型或利用属性映射。在这项工作中,我们提出了一种新的轻量级框架可控GPT 2生成,它利用一组小的属性特定的向量,称为前缀,引导自然语言的生成。不同于前缀调整,其中每个前缀是独立训练,我们考虑到前缀之间的关系,训练多个前缀同时进行。我们提出了一种新的监督方法和一种非监督方法来训练用于单方面控制的前缀,而这两种方法的组合可以实现多方面控制。单方面和多方面控制的实验结果表明,我们的方法可以引导生成所需的属性,同时保持高的语言质量。
2022-02-27 cs.CL
PCAE: A Framework of Plug-in Conditional Auto-Encoder for Controllable Text Generation
Tsinghua University(清华大学)
可控制的文本生成技术已经向前迈出了巨大的一步。然而,现有的方法要么限制在一个一次性的模式或没有足够的效率,在每个生成阶段接收多个条件。我们提出了一个模型无关的框架插件条件自动编码器的可控文本生成(PCAE)的灵活和半监督的文本生成。我们的框架是“即插即用”的,部分参数在预训练模型中进行微调(不到一半)。PCAE成功的关键是建议的广播标签融合网络,用于将全球潜在代码导航到指定的本地和受限空间。局部潜在先验井的可视化证实了所提出的模型在隐藏空间中的主要贡献。此外,在基于RNN和基于预训练的BART [26]的自动编码器上进行的五个相关生成任务(从2个条件到10个条件)的广泛实验揭示了PCAE的高能力,这使得生成具有高度可操作性,语法多样性和节省时间的最小标记样本。我们将在https://github.com/ImKeTT/pcae上发布我们的代码。
2022-10-07 cs.CL
Controllable Stylistic Text Generation with Train-Time Attribute-Regularized Diffusion
KU Leuven(卢森堡大学)
提出RegDiff,一种训练时注入属性信息的正则化扩散框架,无需采样分类器即可高效生成风格化文本,在五个数据集上优于强基线。
2025-10-07 cs.CL
Reproducing the Metric-Based Evaluation of a Set of Controllable Text Generation Techniques
ADAPT Centre, Dublin City University(都柏林城市大学ADAPT中心)
本研究通过复现一组单属性与多属性可控文本生成(CTG)技术的基于指标的评估,发现即使原作者提供代码与模型检查点,复现结果也未必与原始结果一致,且可暴露原始工作报告中的错误。
2024-05-13 cs.CL
Focused Prefix Tuning for Controllable Text Generation
Tokyo Institute of Technology(东京工业大学);rinna Co. Ltd.(Rinna株式会社)
针对可控文本生成数据集中未标注属性带来的干扰问题,提出聚焦前缀调优方法,在单属性控制任务上准确率和流畅度优于基线,多属性控制任务上性能接近最优且无需重训即可适配新属性。
2023-06-10 cs.CL
Improved Paraphrase Generation via Controllable Latent Diffusion
National Key Laboratory for Novel Software Technology(计算机软件新技术国家重点实验室);Collaborative Innovation Center of Novel Software Technology and Industrialization(软件新技术与产业化协同创新中心);Nanjing University(南京大学)
针对文本扩散模型的截断问题,本研究提出潜在扩散释义器LDP,在潜在空间建模可控扩散过程,在提升效率的同时更好平衡释义生成的质量与多样性,且可推广至其他文本生成与领域适配任务。
2025-01-17 cs.CL
Select and Attend: Towards Controllable Content Selection in Text Generation
Saarland University(萨尔兰大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Tohoku University(东北大学);RIKEN AIP(理化学研究所AIP);Tencent Inc(腾讯公司)
许多文本生成任务自然包含两个步骤:内容选择和表面实现。目前的神经编码器-解码器模型将这两个步骤合并到一个黑盒架构中。因此,文本中要描述的内容无法明确控制。本文通过将内容选择与解码器解耦来解决这个问题。解耦的内容选择是人类可解释的,其值可以手动操作以控制生成的文本的内容。该模型可以通过最大化边际似然的下限来进行端到端的训练,而无需人工注释。我们进一步提出了一种有效的方法来权衡性能和可控性与一个单一的可调超参数。在数据到文本和标题生成任务中,我们的模型都取得了令人满意的结果,为文本生成中的可控内容选择铺平了道路。
2019-09-10 cs.CL
An Overview on Controllable Text Generation via Variational Auto-Encoders
University of Chinese Academy of Sciences(中国科学院大学);Noah’s Ark Lab, Huawei(华为诺亚方舟实验室);Huawei Technologies Ltd.(华为技术有限公司)
基于神经元的生成建模的最新进展重新点燃了人们对拥有能够与人类对话并能够理解自然语言的计算机系统的希望。深度神经架构的使用已经在许多上下文和任务中进行了大量探索,以满足各种用户需求。一方面,生成满足特定要求的文本内容是模型与不同人群无缝对话的优先事项。另一方面,潜变量模型(LVM),如变分自动编码器(VAE)作为最流行的生成模型的流派之一,旨在表征文本数据的分布模式。因此,他们天生就有能力学习值得探索的可控追求的整体文本特征。\noindent这篇综述介绍了现有的生成方案,与文本变分自动编码器相关的问题,并回顾了几个关于可控生成的应用程序,这些应用程序是这些通用配方的实例,\footnote{A detailed paper list is available at \url{https://github.com/ImKeTT/CTG-latentAEs}}以及相关的数据集,度量和讨论未来的研究。希望这篇综述能对变分自动编码器下可控语言生成的问题、流行方法和原始思想提供一个概述。
2022-11-15 cs.CL
Controllable Text Generation with Focused Variation
Uber AI(优步AI);Department of Computer Science, University of Illinois at Chicago(伊利诺伊大学芝加哥分校计算机科学系);Stanford University(斯坦福大学);ML Collective
本文介绍了一种新的控制语言生成的模型-聚焦变异网络(FVN)。以往的受控语言生成模型存在的主要问题是难以根据给定的属性生成文本,生成的文本缺乏多样性。FVN通过学习码本内每个属性的不相交离散潜在空间来解决这些问题,这允许可控性和多样性,同时生成流畅的文本。我们在两个文本生成数据集上评估了FVN,这些数据集具有注释的内容和样式,并通过自动和人工评估显示了最先进的性能。
2020-09-25 cs.CL
XFBoost: Improving Text Generation with Controllable Decoders
Georgia Institute of Technology(佐治亚理工学院);Salesforce Einstein(Salesforce爱因斯坦)
基于transformer的自然语言模型中的多模态条件性在产品描述生成任务中表现出了最先进的性能。最近的方法使语言模型以一个或多个图像和其他文本元数据为条件,以实现用于描述来自电子商务商店的产品的接近人类的性能。然而,生成的描述可能会表现出一定程度的不准确性,甚至相对于给定产品的输入相互矛盾的声明。在本文中,我们提出了一个可控的语言生成框架,称为提取Finetune Boost(XFBoost),它解决了不准确的低质量推理的问题。通过在生成过程的解码阶段使用视觉语义属性作为约束条件,并使用策略梯度技术微调语言模型,发现XFBoost框架可以生成具有更高图像相关性的描述性文本,优于基线,并降低事实上不准确描述的频率。我们进一步展示了XFBoost在在线学习中的应用,其中人在回路中的批评者通过主动反馈改进语言模型。
2022-02-16 cs.CL
PG-CE: A Progressive Generation Dataset with Constraint Enhancement for Controllable Text Generation
Minzu University of China. National Language Resource Monitoring \& Research Center Minority Languages Branch \& Institute of National Security, Minzu University of China Beijing, China zhuangyan\;Minzu University of China. National Language Resource Monitoring Research Center Minority Languages Branch \& Institute of National Security, Minzu University of China Beijing, China
本文提出PG-CE方法,将可控文本生成分解为类型预测、约束构建和引导生成三步,通过动态构建语气、风格和主题等多维约束提升生成质量,并构建了9万对约束-文本数据集。
2025-09-22 cs.CL
Syntax-driven Iterative Expansion Language Models for Controllable Text Generation
Lucy Software(露西软件公司);United Language Group(联合语言集团);TALP Research Center, Universitat Politècnica de Catalunya(加泰罗尼亚理工大学TALP研究中心)
占主导地位的语言建模范式将文本处理为离散标记的序列。虽然该方法可以捕获文本的潜在结构,但它本质上受限于文本生成的顺序动态。我们提出了一个新的范例,引入一个句法归纳偏见神经文本生成,依赖解析树被用来驱动Transformer模型迭代生成句子。我们的实验表明,这种范式是有效的文本生成,与LSTM和Transformers之间的质量,和可比的多样性,需要不到一半的解码步骤,其生成过程允许直接控制生成的文本的句法结构,使诱导的风格变化。
2020-10-30 cs.CL
DuNST: Dual Noisy Self Training for Semi-Supervised Controllable Text Generation
The University of British Columbia(不列颠哥伦比亚大学);Microsoft Research Asia(微软亚洲研究院)
本文提出 DuNST,通过共享变分自编码器联合生成与分类,并引入双重噪声扰动伪文本,在半监督可控文本生成中提升控制准确率且保持流畅性与多样性。
2023-06-06 cs.CL
CTRL: A Conditional Transformer Language Model for Controllable Generation
Salesforce Research(Salesforce研究院)
大规模的语言模型显示出有前途的文本生成能力,但用户不能容易地控制生成的文本的特定方面。我们发布了CTRL,这是一个有16.3亿个参数的条件Transformer语言模型,它被训练成控制样式、内容和特定于任务的行为的控制代码。控制代码来源于与原始文本自然共存的结构,保留了无监督学习的优点,同时对文本生成提供更明确的控制。这些代码还允许CTRL预测训练数据的哪些部分最有可能被赋予序列。这为通过基于模型的源属性分析大量数据提供了一种潜在的方法。我们已经在https://github.com/salesforce/ctrl上发布了多个全尺寸的、预训练的CTRL版本。
2019-09-20 cs.CL
MReD: A Meta-Review Dataset for Structure-Controllable Text Generation
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学);Nanyang Technological University(南洋理工大学)
当直接使用现有的文本生成数据集进行可控生成时,我们面临着没有领域知识的问题,因此可以控制的方面是有限的。一个典型的例子是,当使用CNN/Daily Mail数据集进行可控文本摘要时,没有关于摘要句子强调的指导信息。一个更有用的文本生成器应该利用输入文本和控制信号来指导生成,这只能通过对领域知识的深刻理解来构建。基于这一愿景,本文介绍了一个新的文本生成数据集,名为MReD。我们的新数据集由7,089个元评论组成,所有45 k元评论句子都是用9个精心定义的类别之一手动注释的,包括摘要,强度,决策等。我们提出了最先进的摘要模型的实验结果,并提出了使用我们的注释数据进行提取和抽象模型的结构控制生成方法。通过探索各种设置并分析模型相对于控制信号的行为,我们展示了我们提出的任务的挑战和我们的数据集MReD的价值。同时,MReD也让我们更好地理解元评论领域。
2022-07-05 cs.CL
Collocation2Text: Controllable Text Generation from Guide Phrases in Russian
Vyatka State University(维亚特卡国立大学)
大型预训练的语言模型能够生成各种流畅的文本。从提示开始,这些模型产生了一种可以不可预测地发展的叙事。现有的可控文本生成方法,即引导文本中的叙事在用户指定的方向,需要创建一个训练语料库和一个额外的耗时的训练过程。本文提出并研究了Collocation 2 Text,即插即用的自动可控文本生成方法在俄罗斯,它不需要微调。该方法是基于两个相互作用的模型:自回归语言ruGPT-3模型和自动编码语言ruRoBERTa模型。该方法的思想是根据自编码模型的输出分布来移动自回归模型的输出分布,以确保文本中的叙述向引导短语的连贯过渡,引导短语可以包含单个单词或搭配。自动编码模型能够考虑令牌的左上下文和右上下文,“告诉”自回归模型哪些令牌在当前生成步骤中是最合乎逻辑的和最不合乎逻辑的,从而增加或减少相应令牌的概率。使用该方法生成新闻文章的实验表明,它的有效性自动生成流畅的文本,其中包含用户指定的短语之间的连贯过渡。
2022-06-18 cs.CL
A Distributional Lens for Multi-Aspect Controllable Text Generation
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室)
多方面可控文本生成是一个比单方面控制更具挑战性和实用性的任务。现有方法通过融合从单方面学习的多个控制器来实现复杂的多方面控制,但这些控制器之间的相互干扰会导致属性退化。为了解决这个问题,我们提供了从分布的角度来看,属性融合的意见,并建议直接搜索多个属性分布的交叉区域作为其组合生成。我们的方法首先估计的属性空间与自动编码器结构。之后,我们迭代地接近交叉点,共同最小化代表不同属性的点的距离。最后,我们映射到属性相关的句子与前缀调谐为基础的解码器。在情感、主题和解毒三个方面的控制任务上的实验表明,该方法在属性相关性和文本质量方面优于几个强基线,并达到了SOTA。进一步的分析也为我们的方法的有效性提供了一些解释性的支持。
2022-10-19 cs.CL
KEST: Kernel Distance Based Efficient Self-Training for Improving Controllable Text Generation
The University of British Columbia(不列颠哥伦比亚大学);Microsoft Research Asia(微软亚洲研究院)
提出KEST自训练框架,采用基于核的损失和非自回归生成器,高效利用多样化伪文本,提升可控文本生成的控制精度并保持流畅性与多样性。
2023-06-17 cs.CL
Controllable Text Generation with Residual Memory Transformer
School of Computer Science & Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院);Department of Electronic Engineering, Tsinghua University(清华大学电子工程系)
本文提出残差记忆Transformer(RMT)作为非侵入式轻量级控制插件,通过残差学习与因果语言模型协作,实现灵活、通用且高效的可控文本生成,实验证明其优于多种最先进方法。
2023-09-28 cs.CL
Changing the Mind of Transformers for Topically-Controllable Language Generation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
基于transformer的大型语言模型可以通过建议迄今为止所写文本的合理延续来帮助人类作者。然而,当前的交互式写作助手不允许作者在期望的主题方向上引导文本生成。为了解决这个问题,我们设计了一个框架,显示多个候选即将到来的主题,其中用户可以选择一个子集来指导生成。我们的框架由两部分组成:(1)一种方法,通过预测可能的延续中的词簇中心来产生一组候选主题,以及(2)一个文本生成模型,其输出符合所选主题。这两个组件的训练都是自我监督的,只使用未标记的文本。我们的实验表明,我们的主题选项比标准的聚类方法更好,我们的框架经常生成与所选主题相关的流畅句子,由自动化指标和众包工人判断。
2021-03-29 cs.CL
SentBS: Sentence-level Beam Search for Controllable Summarization
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学)
在可控文本生成中,已经探索了广泛的控制视角。结构控制摘要是近年来提出的一个有用且有趣的研究方向。然而,目前的结构控制方法在执行所需的结构方面的有效性有限。为了解决这一问题,我们提出了一个句子级的束搜索生成方法(SentBS),在整个生成过程中进行评估,以选择合适的句子为后续世代。我们实验了SentBS用作子组件的解码方法的不同组合,并在结构控制数据集MReD上评估结果。实验表明,SentBS的所有探索组合都可以提高生成的文本与所需结构之间的一致性,最佳方法显着减少了现有模型所遭受的结构差异,约68%。
2023-02-24 cs.CL
Classifiers are Better Experts for Controllable Text Generation
Tinkoff(Tinkoff公司)
本文提出了一种简单的方法,基于加权logits与自由形式的分类器,即CAIF抽样可控的文本生成。使用任意文本分类器,我们调整语言模型的logits的一小部分,并引导文本生成朝向或远离分类器预测。我们进行了毒性避免和情绪控制任务的实验,结果表明,所提出的方法显着优于最近的PPLM,GeDi,和DExperts的PPL和任务准确性指标的基础上生成的文本的外部分类。此外,与其他方法相比,它更容易实现和调优,并且限制和要求显著减少。
2022-11-11 cs.CL cs.LG
A Causal Lens for Controllable Text Generation
UC San Diego(加州大学圣迭戈分校);AWS AI, Amazon(亚马逊云科技人工智能)
可控文本生成涉及广泛应用的两个基本任务,即生成给定属性的文本(即,属性条件生成),以及最低限度地编辑现有文本以拥有期望的属性(即,文本属性转移)。大量的先前工作在很大程度上分别研究了这两个问题,并开发了不同的条件模型,然而,这些模型容易产生有偏见的文本(例如,各种性别陈规定型观念)。本文提出了制定可控的文本生成从原则的因果关系的角度来看,模型的两个任务与一个统一的框架。因果公式的一个直接优势是使用丰富的因果关系工具来减轻世代偏差并改善控制。我们把这两个任务的干预和反事实的因果推理的基础上的结构因果模型,分别。然后,我们将该框架应用到具有挑战性的实际环境中,其中混淆因素(引起虚假相关性)仅在一小部分数据上可观察到。实验表明,因果关系的方法比以前的条件模型,提高控制精度和减少偏见显着的优越性。
2022-01-22 cs.AI cs.CL cs.LG
Controllable Text Generation for Open-Domain Creativity and Fairness
University of California, Los Angeles(加州大学洛杉矶分校)
大型预训练语言模型的最新进展在生成自然语言方面表现出了强大的效果,并显着提高了许多自然语言生成(NLG)应用程序(如机器翻译和文本摘要)的性能。然而,当生成任务更加开放并且内容不够具体时,现有技术很难生成长期连贯和创造性的内容。此外,这些模型表现出甚至放大了从训练语料库中学习到的社会偏见。这是因为生成模型被训练为捕获表面模式(即单词序列),而不是捕获底层语义和话语结构,以及包括社会规范在内的背景知识。在本文中,我介绍了我们最近的可控文本生成工作,以提高语言生成模型的创造性和公平性。我们探讨分层生成和约束解码,与创造性的语言生成,包括故事,诗歌和比喻的语言,和偏见减轻生成模型的应用。
2022-09-24 cs.AI cs.CL
Controllable Dialogue Generation with Disentangled Multi-grained Style Specification and Attribute Consistency Reward
University of Macau(澳门大学);Baidu Inc(百度公司);Xiamen University(厦门大学)
可控文本生成是一个吸引人但具有挑战性的任务,它允许用户指定生成的输出的特定属性。在本文中,我们提出了一个可控的对话生成模型,引导响应生成多属性约束下。具体来说,我们定义和分类的常用控制属性为全球和本地的,具有不同的粒度响应生成的影响。然后,我们显着扩展了传统的seq2seq框架,引入了一种新的两阶段解码器,首先使用多粒度的风格规范层施加的风格约束,并确定字级控制状态的响应的基础上的属性,然后采用响应生成层生成最终的响应保持语义相关的上下文和保真度的属性。此外,我们训练我们的模型与属性一致性奖励,以促进响应控制与明确的监督信号。在两个数据集上的大量实验和深入分析表明,我们的模型在响应质量、内容多样性和可控性方面可以显著优于竞争基线。
2022-10-21 cs.AI cs.CL
Mix and Match: Learning-free Controllable Text Generation using Energy Language Models
University of California San Diego(加州大学圣迭戈分校);Toyota Technological Institute at Chicago (TTIC)(芝加哥丰田技术研究院(TTIC))
控制文本生成的最新工作要么需要基于属性的微调的基础语言模型(LM),或限制了参数化的属性映射,以兼容的基础自回归LM。在这项工作中,我们提出了Mix and Match LM,这是一种基于全局分数的可控文本生成方法,它结合了任意预训练的黑盒模型,用于在生成的文本中实现所需的属性,而不涉及任何关于黑盒模型的微调或结构假设。我们将可控生成的任务解释为从基于能量的模型中抽取样本,该模型的能量值是来自黑盒模型的分数的线性组合,黑盒模型分别负责流畅性、控制属性和对任何条件上下文的忠诚度。我们使用Metropolis-Hastings抽样方案从这个基于能量的模型中使用双向上下文和全局属性特征进行抽样。我们验证了我们的方法在各种控制生成和基于风格的文本修订任务的有效性,优于最近提出的方法,涉及额外的训练,微调,或限制性的假设模型的形式。
2022-04-04 cs.CL cs.LG
RSA-Control: A Pragmatics-Grounded Lightweight Controllable Text Generation Framework
Saarland University(萨尔大学);Saarland Informatics Campus(萨尔信息学园区)
针对语言模型属性控制难题,本文提出无需训练、基于语用学的 RSA-Control 框架,通过说话者—倾听者递归推理和自适应理性参数实现强属性控制,并保持流畅性与一致性。
2024-10-24 cs.AI cs.CL
Toward Unified Controllable Text Generation via Regular Expression Instruction
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文提出正则表达式指令(REI),通过指令机制统一建模词汇、位置、长度等可控文本生成约束及其组合,仅需微调中等模型或对大模型少样本学习,实验显示其成功率高且优于多数基线。
2023-09-20 cs.AI cs.CL
Plug-and-Blend: A Framework for Controllable Story Generation with Blended Control Codes
Georgia Institute of Technology(佐治亚理工学院)
大型预训练神经语言模型(LM)具有非常强大的文本生成能力。然而,在实践中,他们很难控制创造性的目的。我们描述了一个即插即用可控的语言生成框架,即插即用混合,它允许人类用户输入多个控制代码(主题)。在自动故事生成的上下文中,这允许人类用户对将出现在生成的故事中的主题和它们之间的过渡进行松散或细粒度的控制,并且甚至可以允许重叠、混合的主题。自动化评估显示,我们的框架,与不同的生成LM,控制对给定的连续加权控制代码的生成,同时保持生成的句子流畅,表现出强大的混合能力。人类参与者的评估表明,生成的故事在两个主题之间明显过渡。
2021-07-28 cs.AI cs.CL cs.HC
Multi-Aspect Controllable Text Generation with Disentangled Counterfactual Augmentation
Nanjing University(南京大学);National Institute of Healthcare Data Science, Nanjing University(南京大学国家医疗数据科学研究院)
针对多方面可控文本生成中因属性相关性不平衡导致的刻板印象问题,提出MAGIC方法,通过解耦反事实增强缓解训练阶段的不平衡并在推理阶段强化属性相关性,在多种场景下优于基线。
2024-05-30 cs.AI cs.CL
Diffusion-LM Improves Controllable Text Generation
Stanford University(斯坦福大学)
在不重新训练的情况下控制语言模型(LM)的行为是自然语言生成中的一个主要开放问题。虽然最近的工作已经证明了控制简单句子属性的成功(例如,情绪),在复杂的细粒度控制(例如,句法结构)。为了解决这个问题,我们开发了一个新的非自回归语言模型的基础上连续扩散,我们称之为扩散LM。基于最近连续域中扩散模型的成功,Diffusion-LM迭代地将高斯向量序列去噪为词向量,产生中间潜变量序列。这些中间变量的连续性和层次性使得简单的基于梯度的算法能够执行复杂的可控生成任务。我们展示了成功的控制扩散LM六个具有挑战性的细粒度控制任务,显着优于以前的工作。
2022-05-27 cs.AI cs.CL cs.LG
JAM: Controllable and Responsible Text Generation via Causal Reasoning and Latent Vector Manipulation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出JAM框架,通过因果推理和潜在向量操作实现可控文本生成,较现有CTG方法提升达22%,并具有更高计算效率。
2025-02-28 cs.AI cs.CL cs.LG
Reinforcement Learning with Token-level Feedback for Controllable Text Generation
Ping An Property & Casualty Insurance company of China(中国平安财产保险股份有限公司);The Chinese University of Hong Kong(香港中文大学);Huazhong University of Science and Technology(华中科技大学);Joint Laboratory of HUST and Pingan Property & Casualty Research (HPL)(华中科技大学与平安财产保险研究联合实验室)
提出TOLE算法,利用词元级奖励和“先量化后噪声”范式,解决可控文本生成中粗粒度反馈导致的次优问题,在单/多属性控制任务上表现优越。
2024-03-18 cs.AI cs.CL
PowerTransformer: Unsupervised Controllable Revision for Biased Language Correction
University of Washington(华盛顿大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
无意识的偏见在现代文本和媒体中仍然普遍存在,这就需要算法来帮助作者纠正偏见。例如,一个故事中的女性角色往往被描绘成被动和无能为力的(“她梦想成为一名医生”),而一个男人则被描绘成更主动和强大的(“他追求他的梦想成为一名医生”)。我们制定 * 可控的去偏见 *,一个新的修订任务,旨在重写给定的文本,以纠正隐含的和潜在的不良偏见的人物刻画。然后,我们介绍PowerTransformer作为一种方法,通过内涵框架的镜头来消除文本的偏见(Sap等人,2017年),编码语用知识的隐含权力动态相对于动词谓词。我们的任务的一个关键挑战是缺乏平行语料库。为了应对这一挑战,我们采用了一种无监督的方法,使用辅助监督与相关任务,如基于重建损失的释义和自我监督,建立在预训练的语言模型上。通过基于自动和人工评估的综合实验,我们证明了我们的方法优于消融和相关任务的现有方法。此外,我们展示了使用PowerTransformer作为减轻电影剧本中角色刻画中有据可查的性别偏见的一步。
2020-10-26 cs.AI cs.CL
Seen to Unseen: Exploring Compositional Generalization of Multi-Attribute Controllable Dialogue Generation
Meituan(美团);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出DCG模型,通过属性提示向量和解耦损失实现多属性可控对话生成的组合泛化,并设计统一无参考评估框架,在两个基准上验证了有效性。
2023-06-17 cs.CL
COMPILING: A Benchmark Dataset for Chinese Complexity Controllable Definition Generation
School of Information Science, Beijing Language and Culture University(北京语言大学信息科学学院)
定义生成任务旨在自动生成特定上下文中单词的定义。然而,由于缺乏不同复杂性的数据集,模型产生的定义往往保持相同的复杂性水平。本文提出了一种新的任务,生成一个词的定义与可控的复杂程度。相应地,我们介绍了COMPILING,一个数据集,给出了关于中文定义的详细信息,每个定义都标有其复杂度。COMPILING数据集包括74,303个单词和106,882个定义。据我们所知,它是中文定义生成任务中最大的数据集。我们选择了各种有代表性的生成方法作为这项任务的基线,并进行了评估,这表明我们的数据集在帮助模型生成不同复杂程度的定义方面发挥了突出的作用。我们相信,COMPILING数据集将有利于复杂性可控定义生成的进一步研究。
2022-09-29 cs.CL
Unveiling the Potential of Diffusion Large Language Model in Controllable Generation
University of Southern California(南加州大学);University of Queensland(昆士兰大学);University of California, San Diego(加州大学圣地亚哥分校);University of California, Merced(加州大学默塞德分校)
针对自回归大模型在结构化输出上的不可靠性,提出基于扩散大模型的自适应模式脚手架框架,利用全局信息共享与反向推理能力,显著提升可控生成的稳定性与保真度。
2025-09-26 cs.CL
Difficulty-Controllable Multiple-Choice Question Generation Using Large Language Models and Direct Preference Optimization
Graduate School of Informatics and Engineering, University of Electro-Communications(信息与工程研究生学校,电通大学)
本文提出一种基于大语言模型和直接偏好优化的多选题生成方法,解决传统方法无法生成多选题和优化难度控制的问题。
2026-03-23 cs.CL
Towards Lightweight, Adaptive and Attribute-Aware Multi-Aspect Controllable Text Generation with Large Language Models
Alibaba International Digital Commerce(阿里巴巴国际数字商业);Southern University of Science and Technology(南方科技大学)
针对LoRA控制不足、FFT成本高且易过拟合以及单方面数据分布差异等问题,提出轻量级自适应属性感知框架,动态调整参数实现多方面可控文本生成并取得SOTA效果。
2025-02-19 cs.CL
Fine-grained Controllable Text Generation through In-context Learning with Feedback
Saarland Informatics Campus(萨尔兰信息学园区);Saarland University(萨尔兰大学)
本文提出利用带反馈的上下文学习进行细粒度句子改写,无需微调即可控制依存深度等语言特征,并在指定学龄年级水平改写任务上达到SOTA。
2024-06-17 cs.CL
Don't Change Me! User-Controllable Selective Paraphrase Generation
University of Toronto(多伦多大学);University of Waterloo(滑铁卢大学)
在释义生成任务中,源句子通常包含不应该被改变的短语。然而,哪些短语可以是上下文相关的,并且可以根据应用而变化。我们的解决方案是为用户提供明确的标签,可以放置在任何文本段的周围,表示“不要改变我!当生成一个释义时,模型学习将这些短语明确地复制到输出中。这项工作的贡献是一种使用远程监督的新型数据生成技术,该技术允许我们从预训练的序列到序列模型开始,并微调表现出这种行为的释义生成器,从而允许用户可控的释义生成。此外,我们在微调过程中修改了损失,以明确鼓励模型输出的多样性。我们的技术是语言不可知的,我们报告的实验在英语和中文。
2021-01-25 cs.CL
A Controllable Model of Grounded Response Generation
University of Washington(华盛顿大学);Microsoft Research(微软研究院);Allen Institute for AI(艾伦人工智能研究所)
当前的端到端神经会话模型本质上缺乏在响应生成过程中施加语义控制的灵活性,通常导致无趣的响应。仅仅提高信息量的尝试是以牺牲事实的准确性为代价的,预先训练的语言模型倾向于“幻觉”事实就是证明。虽然可以通过获取背景知识来缓解这一问题,但无法保证生成的答复具有相关性和信息量。我们提出了一个框架,我们称之为可控接地响应生成(CGRG),其中词汇控制短语由用户提供或自动提取的控制短语预测器从对话上下文和接地知识。定量和定性结果表明,使用该框架,基于Transformer的模型具有新的归纳注意力机制,在类似对话的Reddit数据集上训练,优于强大的生成基线。
2021-06-14 cs.CL
Semantic Space Grounded Weighted Decoding for Multi-Attribute Controllable Dialogue Generation
Shanghai Jiao Tong University(上海交通大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
针对多属性可控对话生成研究不足的问题,提出DASC框架,采用加权解码结合属性语义空间锚定,通过属性嵌入插值实现多属性控制并缩减模型规模,实验验证其在3属性控制及分布外场景下的高准确率与生成质量。
2023-11-05 cs.CL
VScript: Controllable Script Generation with Visual Presentation
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心(CAiRE));Hong Kong University of Science and Technology(香港科技大学)
为了提供一个定制的脚本工具,并激励专业的编剧,我们提出了VScript。它是一个可控的管道,可以生成完整的脚本,包括对话和场景描述,并使用视频检索以视觉方式呈现。通过交互式界面,我们的系统允许用户选择类型并输入控制生成的脚本的主题和发展的起始词。我们采用分层结构,首先生成情节,然后是脚本及其视觉呈现。一种新的方法也被引入到情节引导的对话生成,将其视为一个反向的对话摘要。实验结果表明,我们的方法优于基线的自动和人工评估,特别是在体裁控制。
2022-10-13 cs.CL
Style Locality for Controllable Generation with kNN Language Models
University of Marburg(马尔堡大学);University of Bonn(波恩大学)
本文提出在kNN语言模型中引入风格局部性层级,用于可控文本生成,并在礼貌性、正式性、支持性和毒性数据上验证其在流畅性与风格控制之间取得更好平衡。
2023-11-01 cs.CL
ECO Decoding: Entropy-Based Control for Controllability and Fluency in Controllable Dialogue Generation
SungKyunKwan University(顺 Kyun 島大学)
针对可控对话生成中固定偏置难以兼顾可控性与流畅性的问题,提出ECO decoding,通过模型熵动态调整控制强度,在保持流畅性的同时提升可控性,并在单属性与多属性场景中均表现优异。
2025-11-03 cs.CL
Difficulty-Controllable Cloze Question Distractor Generation
Graduate School of Artificial Intelligence, POSTECH, South Korea(韩国立科学技术院人工智能研究生院);Department of Computer Science and Engineering, POSTECH, South Korea(韩国立科学技术院计算机科学与工程系);Mila Quebec AI Institute, Canada(魁北克AI研究院);McGill University, Canada(麦吉尔大学)
本文提出了一种可调节难度的填空题干扰项生成框架,通过数据增强和多任务学习策略,生成高质量且标注难度的干扰项,优于GPT-4o在匹配干扰项难度与人类感知方面。
2026-05-19 cs.CL
Nearest Neighbor Language Models for Stylistic Controllable Generation
University of Marburg(马尔堡大学);The Hessian Center for Artificial Intelligence (Hessian.AI)(黑森人工智能中心(Hessian.AI))
最近的语言建模性能已大大提高了使用外部存储器。该存储器对上下文进行编码,以便在解码期间可以调用类似的上下文。这种相似性取决于模型如何学习编码上下文,可以更改上下文以包含其他属性,例如样式。我们为此目的构建和评估一个架构,使用语料库注释礼貌,正式和毒性。通过大量的实验和人工评估,我们证明了我们的方法在控制风格的同时生成文本的潜力。我们发现,特定于风格的数据存储提高了生成性能,尽管不同风格的结果差异很大,预训练数据和特定风格的影响应该在未来的工作中进行探索。
2022-10-27 cs.CL
Simple or Complex? Complexity-Controllable Question Generation with Soft Templates and Deep Mixture of Experts Model
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);Faculty of Information Technology, Monash University(莫纳什大学信息技术学院);Baidu Inc.(百度公司)
生成具有受控复杂度水平的自然语言问题的能力是非常可取的,因为它进一步扩展了问题生成的适用性。在本文中,我们提出了一个端到端的神经复杂度可控的问题生成模型,它采用了混合专家模型(MoE)作为软模板的选择器,以提高复杂度控制的准确性和生成的问题的质量。软模板捕获问题的相似性,同时避免了昂贵的实际模板的建设。我们的方法引入了一种新的跨域复杂性估计器来评估问题的复杂性,同时考虑到段落,问题,答案及其相互作用。在两个基准QA数据集上的实验结果表明,我们的QG模型在自动和手动评估方面都优于最先进的方法。此外,我们的复杂度估计器在域内和域外设置中都比基线更准确。
2021-10-13 cs.CL
Commonsense-Aware Prompting for Controllable Empathetic Dialogue Generation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提高预训练的语言模型的情感意识是对话生成任务的一个新兴的重要问题。虽然先前的研究已经介绍了提高移情对话生成的方法,但很少有人讨论如何将常识知识结合到预先训练的语言模型中以用于可控对话生成。在这项研究中,我们提出了一个新的框架,提高移情对话生成使用预先训练的语言模型1)通过即时言语化结合常识知识,和2)控制对话生成使用策略驱动的未来会话。我们进行了实验,揭示了社会常识知识的纳入和执法控制的生成有助于提高生成性能。最后,我们讨论了我们的研究对未来研究的影响。
2023-02-02 cs.CL cs.LG
Controllable Text Generation in the Instruction-Tuning Era
Carnegie Mellon University(卡内基梅隆大学);School of Computer Science(计算机科学学院)
本文发布ConGenBench测试平台,发现提示方法在指令微调语言模型上优于传统可控生成方法,并提出自动生成约束数据集的算法以扩展可控性研究范围。
2024-05-02 cs.AI cs.CL
STRONG -- Structure Controllable Legal Opinion Summary Generation
University of Pittsburgh(匹兹堡大学)
针对长篇法律意见摘要,本文提出利用预测论证角色引导模型遵循指定结构生成摘要的方法,并在法律意见数据集上于ROUGE、BERTScore和结构相似度上超越多个强基线。
2023-09-29 cs.AI cs.CL
Bridging the Gap Between Training and Inference of Bayesian Controllable Language Models
Tsinghua University(清华大学);Tencent Inc.(腾讯公司)
大规模预训练的语言模型在自然语言生成任务上取得了巨大的成功。然而,它是很难控制的预训练的语言模型,以产生所需的属性,如主题和情感等句子,最近,贝叶斯可控语言模型(BCLMs)已被证明是有效的可控语言生成。BCLM不是微调预训练的语言模型的参数,而是使用外部判别器来指导预训练的语言模型的生成。然而,BCLM的训练和推理之间的不匹配限制了模型的性能。为了解决这个问题,在这项工作中,我们提出了一个“双子判别器”的可控语言生成,它以很小的计算成本来解决不匹配的问题。我们在两个可控的语言生成任务上测试了我们的方法:情感控制和主题控制。在这两项任务中,我们的方法在自动和人工评估中取得了新的最先进的结果。
2022-06-11 cs.AI cs.CL
Psychology-guided Controllable Story Generation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
可控故事生成是自然语言处理领域的一个具有挑战性的课题,近年来引起了越来越多的研究兴趣。然而,现有的作品大都是以特定的关键词或情感为条件来生成一个完整的故事,而忽略了主人公的心理变化。受心理学理论的启发,我们引入了全局心理状态链,其中包括主角的需求和情感,以帮助故事生成系统创建更可控和精心策划的故事。在本文中,我们提出了一个心理引导的可控故事生成系统(PICS),以生成故事,坚持给定的主导背景和期望的心理状态链的主角。具体来说,心理状态跟踪器被用来记忆主人公的局部心理状态,以捕捉他们的内部时间关系。此外,还采用心理状态规划器来获得主人公的整体心理状态,以进行故事规划。最后,心理控制器的设计,以整合本地和全球的心理状态到故事的背景表示组成心理指导的故事。自动和手动评估表明,PICS优于基线,PICS的每一部分都显示出撰写具有更一致心理变化的故事的有效性。
2022-10-14 cs.AI cs.CL