Expert-Guided Extinction of Toxic Tokens for Debiased Generation
The Hong Kong Polytechnic University(香港理工大学);University of Technology Sydney(悉尼科技大学);The Education University of Hong Kong(香港教育大学)
本文提出EXPOSED方法,通过构建去偏专家暴露并抑制有毒词元,在无需大量无偏语料或多轮指令的情况下,显著降低大型语言模型的社会偏见并平衡公平性与生成性能。
2024-05-29 cs.CL
PPL-MCTS: Constrained Textual Generation Through Discriminator-Guided MCTS Decoding
CNRS(法国国家科学研究中心);IRISA(法国信息与随机系统研究所);Univ. Rennes 1(雷恩第一大学);IMATAG
基于Transformers的大语言模型(LM)允许生成合理的长文本。在本文中,我们将探讨如何在解码时进一步控制这一代,以满足某些限制(例如无毒,传达某些情感,使用特定的写作风格等)。不需要微调LM。准确地说,我们正式约束生成树的探索过程中指导下的一个约束,表明如何以及相关的序列尊重的约束。除了比微调LM更容易和更便宜地进行训练之外,该方法还允许更精细和动态地应用约束。我们提出了几种原始的方法来搜索这棵生成树,特别是蒙特卡罗树搜索(MCTS),它提供了理论上的保证的搜索效率,但也更简单的方法的基础上重新排序的不同序列的池使用的candidscores。这些方法进行评估,自动和基于人类的指标,两种类型的约束和语言:审查极性和情绪控制在法语和英语。我们发现,歧视引导的MCTS解码达到国家的最先进的结果,而不必调整的语言模型,在任务和语言。我们还表明,其他建议的解码方法的基础上重新排名可以真正有效的时候,鼓励所产生的命题之间的多样性。
2022-05-04 cs.CL
PassGPT: Password Modeling and (Guided) Generation with Large Language Models
ETH Zürich(苏黎世联邦理工学院);Swiss Data Science Center(瑞士数据科学中心);SRI International(SRI国际)
该研究提出基于密码泄露数据训练的大语言模型PassGPT,其密码猜测能力是现有GAN方法的两倍,还支持引导式生成符合任意约束的密码,并可用于增强密码强度估计。
2023-06-14 cs.AI cs.CL cs.CR
KgPLM: Knowledge-guided Language Model Pre-training via Generative and Discriminative Learning
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
最近对预训练语言模型的研究表明,它们能够捕获知识感知下游任务中的事实知识和应用。在这项工作中,我们提出了一个语言模型的预训练框架指导下的事实知识的完成和验证,并使用生成和判别的方法合作学习模型。特别地,我们研究了两种学习方案,即双塔方案和管道方案,用于训练具有共享参数的生成器和可编程逻辑器件。在一组zero-shot完形填空式问答任务LAMA上的实验结果表明,与传统的预训练语言模型相比,该模型包含了更丰富的事实知识。此外,当对由多个机器阅读理解数据集组成的MRQA共享任务进行微调和评估时,我们的模型达到了最先进的性能,并在NewsQA(+1.26 F1)和TriviaQA(+1.56 F1)上比RoBERTa有很大的改进。
2020-12-07 cs.AI cs.CL
How Large Language Models (LLMs) Extrapolate: From Guided Missiles to Guided Prompts
Chinese University of Hong Kong(香港中文大学)
本文提出将LLM视为外推机器,追溯外推概念从1941年维纳导弹科学到科尔莫戈罗夫压缩逻辑的历史,揭示其与当代LLM性能及幻觉争议的关联。
2024-12-05 cs.CL cs.CY
Discourse Graph Guided Document Translation with Large Language Models
Department of Data Science & AI, Monash University(数据科学与人工智能系,莫纳什大学)
针对大语言模型整篇文档翻译中长距离依赖与话语连贯性问题,提出话语图引导框架 TransGraph,通过结构化图建模块间关系并选择性利用相关邻域,在三个多语言文档级基准上以更低 token 开销取得更优翻译质量和术语一致性。
2025-11-10 cs.AI cs.CL
Revisiting Topic-Guided Language Models
Columbia University(哥伦比亚大学)
本文在标准化设置下评估四种主题引导语言模型与两个基线,发现它们均未优于标准 LSTM,且基线隐藏状态已包含主题信息。
2023-12-04 cs.CL cs.LG
Injecting Entity Types into Entity-Guided Text Generation
University of Notre Dame(圣母大学);Microsoft Cognitive Services Research(微软认知服务研究院)
最近在深度生成建模方面的成功导致了自然语言生成(NLG)的重大进展。通过帮助推断摘要主题和生成连贯的内容,将实体转换为神经生成模型已经证明了很大的改进。为了增强实体在自然语言生成中的作用,本文提出在解码阶段对实体类型进行建模,以准确生成上下文词语。我们开发了一种新的NLG模型,根据给定的实体列表产生靶序列。我们的模型有一个多步骤的解码器,将实体类型注入到实体提及生成的过程中。在两个公共新闻数据集上的实验表明,类型注入的性能优于现有的类型嵌入串联基线。
2021-09-07 cs.CL cs.LG
Diffusion Guided Language Modeling
Cornell University(康奈尔大学)
本文提出用引导扩散模型生成潜在提议来引导自回归语言模型,在保持流畅性的同时实现即插即用的属性控制,并在多个基准数据集上优于以往方法。
2024-08-08 cs.CL cs.LG
Contrastive Representation Learning for Exemplar-Guided Paraphrase Generation
The Chinese University of Hong Kong(香港中文大学);Tencent AI Lab(腾讯AI实验室)
范例引导的释义生成(Exemplar-Guided Paraphrase Generation,EGPG)旨在生成一个符合给定范例风格的目标句子,同时封装源句子的内容信息。在本文中,我们提出了一种新的方法,其目标是学习更好地表示风格和内容。这种方法的主要动机是最近成功的对比学习,它已经证明了它的权力,在无监督的特征提取任务。我们的想法是设计两个对比损失方面的内容和风格,考虑到两个问题的特点,在培训。第一个特点是目标句与源句共享相同的内容,第二个特点是目标句与范例共享相同的风格。这两个对比损失被纳入一般的编码器-解码器范例。在QQP-Pos和ParaNMT两个数据集上的实验证明了我们提出的补偿损失的有效性。
2021-09-03 cs.CL cs.LG
Target-Guided Dialogue Response Generation Using Commonsense and Data Augmentation
Carnegie Mellon University(卡内基梅隆大学)
目标引导的响应生成使得对话系统能够将对话从对话上下文平滑地过渡到目标句子。这种控制对于设计将对话引导到特定目标的对话系统是有用的,例如创建非侵扰性推荐或在对话中引入新主题。在本文中,我们介绍了一种新的技术,目标引导的响应生成,首先找到一个桥接路径的常识性知识概念之间的源和目标,然后使用确定的桥接路径生成过渡响应。此外,我们提出的技术,重新利用现有的对话数据集为目标引导的生成。实验表明,所提出的技术优于各种基线上这项任务。最后,我们观察到,现有的自动化指标,这项任务的相关性很差,与人类的判断评级。我们提出了一种新的评价指标,我们证明是更可靠的目标导向的响应评估。我们的工作通常使对话系统设计者能够对他们的系统产生的对话进行更多的控制。
2022-05-19 cs.CL
BadGraph: A Backdoor Attack Against Latent Diffusion Model for Text-Guided Graph Generation
School of Computer Engineering and Science, Shanghai University(上海大学计算机工程与科学学院)
本文提出BadGraph,一种针对文本引导图生成的潜在扩散模型的后门攻击方法,通过文本触发器污染训练数据,在推理时触发指定子图,同时保持对清洁输入的正常性能。
2026-04-11 cs.CL cs.LG q-bio.BM
InFillmore: Frame-Guided Language Generation with Bidirectional Context
Johns Hopkins University(约翰斯·霍普金斯大学)
我们提出了一个结构化的扩展双向上下文条件语言生成,或“填充”,框架语义理论(Fillmore,1976)的启发。通过两种方法提供指导:(1)模型微调,直接对观察到的符号框架进行调节,以及(2)利用框架语义词汇单元的析取词汇约束解码的新扩展。自动和人工评估证实,框架引导的生成允许显式操纵预期的填充语义,与人类生成的文本的可扩展性损失最小。我们的方法灵活地适用于各种使用场景,我们提供了一个代码库和互动演示,可从https://nlp.jhu.edu/demos/infillmore获得。
2022-03-22 cs.CL
Thinking Clearly, Talking Fast: Concept-Guided Non-Autoregressive Generation for Open-Domain Dialogue Systems
Fudan University(复旦大学)
人类的对话包含不断发展的概念,说话者自然会将多个概念联系起来组成一个响应。然而,目前的seq 2seq框架的对话模型缺乏有效管理概念转换的能力,并且很难以顺序解码的方式将多个概念引入响应。为了促进可控和连贯的对话,在这项工作中,我们设计了一个概念引导的非自回归模型(CG-nAR)的开放域对话生成。所提出的模型包括一个多概念规划模块,学习识别多个相关联的概念,从概念图和定制的插入Transformer,执行概念引导的非自回归生成,以完成响应。在两个公共数据集上的实验结果表明,CG-nAR可以产生多样化和连贯的响应,在自动和人工评估中均优于最先进的基线,推理速度更快。
2021-09-09 cs.CL
Style Control for Schema-Guided Natural Language Generation
Amazon Alexa AI(亚马逊Alexa AI);University of California, Berkeley(加利福尼亚大学伯克利分校)
面向任务的对话系统的自然语言生成(NLG)侧重于准确、流畅和连贯地传达特定内容。虽然这些属性对于成功的对话至关重要,但同时实现特定的文体目标也是可取的,例如响应长度,观点,连贯性,情感,正式性和同理心。在这项工作中,我们专注于风格控制和评估模式引导的NLG,实现语义和风格控制的联合目标。我们详细实验了各种用于大型预训练语言模型的控制生成方法:具体来说,条件训练,指导微调和指导解码。我们讨论了它们的优点和局限性,并使用广泛的自动和人工评估指标对其进行评估。我们的研究结果表明,虽然高的风格准确性和语义正确性更容易实现更多的词汇定义的风格与条件训练,风格控制也可以实现更语义复杂的风格,使用基于鉴别器的指导解码方法。研究结果还表明,更具可扩展性(超参数调整较少)以及解开内容生成和风格变化的方法在实现语义正确性和风格准确性方面更有效。
2021-09-24 cs.CL
Schema-Guided Semantic Accuracy: Faithfulness in Task-Oriented Dialogue Response Generation
University of Cambridge(剑桥大学)
确保生成的话语忠实于对话行为是面向任务的对话响应生成的关键。时隙出错率(SER)仅部分地测量生成质量,因为它仅评估从期望精确再现其值的非分类时隙生成的话语。从类别槽,这是更多变的,产生的话语,不评估SER。我们提出了模式引导的语义准确性(SGSAcc),以评估产生的话语从类别和非类别槽识别文本蕴涵。我们表明,SGSAcc可以应用于评估从广泛的对话行动中产生的话语的模式引导对话(SGD)数据集与人类的判断很好的协议。我们还确定了一个以前被忽视的弱点,在生成忠实的话语从分类插槽看不见的域。我们表明,前缀调整适用于T5代可以解决这个问题。我们进一步构建了一个前缀调整和微调模型的集合,该模型在SGD数据集上实现了最低的SER报告和高SGSAcc。
2023-01-29 cs.CL
Hierarchical Aspect-guided Explanation Generation for Explainable Recommendation
Nanyang Technological University(南洋理工大学);Joint NTU-UBC Research Centre of Excellence in Active Living for the Elderly (LILY)(南洋理工大学-不列颠哥伦比亚大学活跃老龄生活卓越联合研究中心);Victoria University(维多利亚大学)
可解释推荐系统为推荐结果提供解释,以提高推荐结果的透明度和说服力。现有的可解释推荐方法生成文本解释,而没有明确考虑用户对项目的不同方面的偏好。在本文中,我们提出了一种新的解释生成框架,命名为层次化的Aesthetic-guided解释生成(HAG),可解释的推荐。具体地说,HAG采用了一个基于审查的语法图来提供用户/项目细节的统一视图。提出了一种方面引导的图池操作符,从基于评论的语法图中提取方面相关信息,以在方面级别上对用户对项目的偏好进行建模。然后,开发了一个层次解释解码器,根据注意力机制生成方面和方面相关解释。在三个真实数据集上的实验结果表明,HAG在单方面和多方面解释生成任务中的性能优于最先进的解释生成方法,并且也实现了与强基线方法相当甚至更好的偏好预测准确性。
2021-10-23 cs.CL
Interactive and Explainable Region-guided Radiology Report Generation
Technical University of Munich(慕尼黑工业大学);Helmholtz Zentrum Munich(慕尼黑亥姆霍兹中心);Imperial College London(伦敦帝国理工学院)
提出区域引导的放射学报告生成模型,通过检测并描述解剖区域,实现交互式且可解释的报告生成,优于现有最先进方法。
2023-04-17 cs.CL cs.CV cs.LG
Guided Feature Transformation (GFT): A Neural Language Grounding Module for Embodied Agents
Baidu Research(百度研究院);Horizon Robotics(地平线机器人)
最近,人们越来越关注通过深度强化学习来训练体现在虚拟环境中的智能体以执行语言指导的任务。在本文中,我们提出了一个简单但有效的神经语言基础模块,用于具身智能体,可以从头开始进行端到端的训练,以原始像素,非结构化语言命令和稀疏奖励作为输入。我们将语言的基础过程建模为语言引导的视觉特征的转换,其中潜在的句子嵌入被用作转换矩阵。在几个语言导向的导航任务,具有挑战性的部分可观察性,需要简单的推理,我们的模块显着优于最先进的状态。我们还发布XWorld3D,一个易于定制的3D环境,可以潜在地进行修改,以评估各种具身智能体。
2018-09-04 cs.AI cs.CL cs.LG
Query and Conquer: Execution-Guided SQL Generation
Snowflake AI Research(Snowflake AI研究部)
提出一种利用执行结果从多候选查询中选择语义最一致者的新方法,使小模型在text-to-SQL任务中超越o1等大模型,并将推理成本降低30倍,提供实用可扩展的SOTA方案。
2025-03-31 cs.CL
LEMON: Language-Based Environment Manipulation via Execution-Guided Pre-training
Harbin Institute of Technology(哈尔滨工业大学);Beihang University(北京航空航天大学);Microsoft Research Asia(微软亚洲研究院)
基于语义的环境操纵要求智能体按照自然语言指令操纵环境,由于环境空间巨大,这是一个挑战。为了应对这一挑战,最近的工作中提出了各种方法。尽管这些方法在预期的环境中工作良好,但它们很难跨环境进行推广。在这项工作中,我们提出了LEMON,基于语言的环境操作任务的一般框架。具体来说,我们首先指定一个任务不可知的方法,基于语言的环境操作任务,它可以处理各种环境使用相同的生成语言模型。然后,我们提出了一个执行引导的预训练策略注入先验知识的环境的语言模型与一个纯粹的合成预训练语料库。在Alchemy、Scene、Tangrams、ProPara和Recipes等任务上的实验结果证明了LEMON的有效性:它在其中四个任务上取得了新的最先进的结果,并且执行引导的预训练策略在所有实验任务上都带来了显着的改进。
2022-10-24 cs.CL
Embodied BERT: A Transformer Model for Embodied, Language-guided Visual Task Completion
Heriot-Watt University(赫瑞-瓦特大学);Amazon Alexa AI(亚马逊 Alexa AI);University of Southern California(南加州大学)
执行家庭和办公室任务的机器人必须在世界中导航并与世界互动。将语言教学与视觉观察和在环境中采取的行动相结合是一个开放的挑战。我们提出了一种基于转换器的模型BERT,该模型可以处理高维、多模态的输入,用于完成语言条件任务。此外,我们通过引入EmBERT训练的对象导航目标,弥合了用于非交互式代理的成功的以对象为中心的导航模型与语言引导的视觉任务完成基准ALFRED之间的差距。我们在ALFRED基准测试中实现了具有竞争力的性能,EmBERT标志着第一个基于transformer的模型成功地处理了ALFRED的长视野,密集,多模态历史,以及第一个利用以对象为中心的导航目标的ALFRED模型。
2021-11-04 cs.AI cs.CL cs.CV
Diagnostic Benchmark and Iterative Inpainting for Layout-Guided Image Generation
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Microsoft Research(微软研究院)
针对布局引导图像生成在任意未见布局上泛化不足的问题,提出诊断基准LayoutBench和迭代修复基线IterInpaint,后者在OOD布局上显著优于现有模型,并在真实物体基准上全面超越SOTA。
2024-07-21 cs.AI cs.CL cs.CV
SurGen: Text-Guided Diffusion Model for Surgical Video Generation
Stanford Medicine(斯坦福医学院);Johns Hopkins University(约翰斯·霍普金斯大学);Penn Medicine(宾夕法尼亚医学院)
本研究提出专为手术视频合成定制的文本引导扩散模型SurGen,其生成的视频在现有同类模型中分辨率最高、时长最长,实验证明该模型可作为外科实习生的有价值教育工具。
2024-09-24 cs.AI cs.CL cs.CV
Discourse Coherence and Response-Guided Context Rewriting for Multi-Party Dialogue Generation
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院)
本文提出DRCR框架,通过对话上下文重写提升多方对话生成效果,利用对话连贯性和响应质量构建偏好数据,并采用动态自进化学习方法增强重写与响应能力。
2026-04-13 cs.CL
Guided Decoding and Its Critical Role in Retrieval-Augmented Generation
Newmind AI Istanbul, Türkiye(新 mind AI 伊斯坦布尔,土耳其)
本研究比较了三种引导解码方法在RAG系统中的性能,发现多轮交互影响显著,为结构化输出生成提供了理论见解和实践指导。
2025-09-08 cs.CL
Topic-Guided Variational Autoencoders for Text Generation
Duke University(杜克大学);Microsoft Dynamics 365 AI Research(微软Dynamics 365人工智能研究院);Infinia ML, Inc(英菲尼亚机器学习公司);University at Buffalo(布法罗大学)
本文提出了一种基于主题的变分自编码器(TGVAE)文本生成模型。不同于现有的变分自编码器(VAE)为基础的方法,假设一个简单的高斯先验的潜在代码,我们的模型指定的高斯混合模型(GMM)参数化的神经主题模块的先验。每个混合成分对应于一个潜在主题,该主题为生成主题下的句子提供指导。我们模型中的神经主题模块和基于VAE的神经序列模块是联合学习的。特别是,可逆Householder变换的序列被应用于赋予近似后验的潜在代码具有高度的灵活性,在模型推理。实验结果表明,我们的TGVAE优于其他方法在无条件和有条件的文本生成,它可以生成语义有意义的句子与各种主题。
2019-03-17 cs.CL
Diversifying Neural Text Generation with Part-of-Speech Guided Softmax and Sampling
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Center for Data Science, Peking University(北京大学数据科学中心);The MOE Key Laboratory of Computational Linguistics, Peking University(北京大学计算语言学教育部重点实验室)
神经文本生成模型可能会受到低多样性问题的困扰。各种解码策略和基于训练的方法已经被提出,以促进多样性,只有利用上下文特征,但很少考虑到结合句法结构线索。在这项工作中,我们建议使用语言注释,即,词性(POS),用于指导文本生成。详细地说,我们引入了POS Guided Softmax来显式地对两个后验概率进行建模:(i)下一个POS,以及(ii)来自目标POS词汇表的下一个令牌。进一步提出了一种POS引导抽样策略,通过丰富POS的多样性来解决低多样性问题。大量的实验和人工评估表明,与现有的最先进的方法相比,我们的POS引导Softmax和采样(POSG)可以生成更多样化的文本,同时保持相当的质量。
2022-09-10 cs.AI cs.CL
Stylistic Dialogue Generation via Information-Guided Reinforcement Learning Strategy
University of Cambridge(剑桥大学);The Chinese University of Hong Kong(香港中文大学);Tencent AI Lab(腾讯人工智能实验室)
文体响应生成对于构建用于工业用途的吸引人的对话系统至关重要。虽然它吸引了很多研究兴趣,现有的方法往往产生文体的反应,在内容质量(相关性和流畅性)的成本。为了在内容质量和风格之间实现更好的平衡,我们引入了一种新的训练策略,称为信息引导强化学习(IG-RL)。在IG-RL中,鼓励训练模型探索风格表达,同时限制其内容质量。这是通过采用强化学习策略与统计风格的信息指导质量保持的探索。在两个数据集上的实验表明,该方法在整体响应性能方面优于几个强基线。
2020-04-05 cs.CL
Dictionary-Guided Editing Networks for Paraphrase Generation
Microsoft Research(微软研究院);Beihang University(北京航空航天大学)
一个人写释义句子的直观方法是用相应的同义词替换原句子中的单词或短语,并进行必要的修改,以确保新句子流畅且语法正确。我们提出了一种新的方法来建模的过程与字典引导的编辑网络,有效地进行重写的源句子生成释义句子。它共同学习选择合适的单词级和短语级释义对的上下文中的原始句子从现成的字典,以及流畅的自然语言句子的生成。具体地说,该系统检索一组词级和短语级araphrased对派生的释义数据库(PPDB)的原始句子,这是用来指导的决定,哪些词可能会被删除或插入与软注意力机制下的序列到序列的框架。我们进行实验的两个基准数据集的释义生成,即MSCOCO和Quora数据集。评估结果表明,我们的字典引导的编辑网络优于基线方法。
2018-06-21 cs.CL
Text-Guided Molecule Generation with Diffusion Language Model
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出TGM-DLM,利用两阶段扩散语言模型更新SMILES token嵌入,在文本引导下生成有效分子,无需额外数据即超越MolT5-Base,推动药物发现。
2024-02-20 cs.AI cs.CE cs.CL
Social Commonsense-Guided Search Query Generation for Open-Domain Knowledge-Powered Conversations
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对被动用户对话中难以确定检索信息的问题,提出社交常识引导的搜索查询生成方法,整合主题跟踪、常识响应生成和指令驱动查询生成,生成更相关具体的查询以提升对话吸引力。
2023-10-22 cs.CL
DemoSG: Demonstration-enhanced Schema-guided Generation for Low-resource Event Extraction
Beijing University of Posts and Telecommunications(北京邮电大学)
提出DemoSG模型,通过演示学习和模式引导生成,在低资源事件抽取中显著提升性能。
2023-10-16 cs.AI cs.CL cs.IR
Template Guided Text Generation for Task-Oriented Dialogue
Google(谷歌);Google Research(谷歌研究院)
Google Assistant、Amazon Alexa和Apple Siri等虚拟助手使用户能够使用自然语言与Web上的大量服务和API进行交互。在这项工作中,我们研究了两种方法自然语言生成(NLG)使用一个单一的领域独立的模型在大量的API。首先,我们提出了一个模式引导的方法,条件上的模式描述的API在自然语言的生成。我们的第二种方法研究了使用少量的模板,在插槽数量上线性增长,以传达API的语义。为了生成任意时隙组合的话语,首先连接几个简单的模板以给出语义正确但可能不连贯且不合语法的话语。一个预先训练的语言模型随后被用来将其重写成连贯的、自然的文本。通过自动度量和人工评估,我们表明我们的方法在强基线上有所改进,对域外输入具有鲁棒性,并显示出改进的样本效率。
2020-11-13 cs.CL
Title-Guided Encoding for Keyphrase Generation
The Chinese University of Hong Kong(香港中文大学);Shenzhen Research Institute, The Chinese University of Hong Kong(香港中文大学深圳研究院);Department of Computer Science and EngineeringThe Chinese University of Hong Kong(香港中文大学计算机科学与工程学系)
关键词生成是在给定文档的情况下生成一组关键词的过程,是自然语言处理中的一项基本任务。大多数以前的方法以提取的方式解决这个问题,而最近,在生成环境下使用深度神经网络进行了几次尝试。然而,现有的生成方法简单地将文档标题和文档主体等同对待,忽视了标题对整个文档的主导作用。为了解决这个问题,我们引入了一个新的模型,称为标题引导网络(TG-Net),用于基于编码器-解码器架构的自动关键词生成任务,具有两个新功能:(i)标题额外用作查询式输入,以及(ii)标题引导编码器收集文档中每个单词的标题相关信息。在一系列KG数据集上的实验表明,我们的模型优于最先进的模型,具有较大的保证金,特别是对于标题长度比率非常低或非常高的文档。
2019-01-16 cs.CL
Syntax-guided Controlled Generation of Paraphrases
Indian Institute of Science(印度科学学院);Google(谷歌);Microsoft Research(微软研究院)
给出一个句子(例如,"我喜欢芒果")和约束(例如,情感翻转),受控文本生成的目标是产生使输入句子适应以满足约束要求的句子(例如,"我讨厌芒果")。超越这些简单的限制,最近的作品已经开始探索将复杂的句法指导作为约束条件纳入受控释义生成的任务中。在这些方法中,句法指导来源于一个单独的例句。然而,这些先前的工作只利用有限的句法信息,可在分析树的例句。本文针对这一局限性,提出了一种端到端的句法释义生成框架-引导式控制释义器(SGCP)。我们发现,SGCP可以生成符合语法的句子,而不损害相关性。我们对多个真实世界的英语语言数据集进行了广泛的自动化和人工评估,以证明SGCP在最先进的基线上的有效性。为了推动未来的研究,我们提供了SGCP的源代码
2020-05-18 cs.CL
Project Aletheia: Verifier-Guided Distillation of Backtracking for Small Language Models
Wake Technical Community College(韦克技术社区学院);Cornell University(康奈尔大学);Algoverse
项目Aletheia通过指导验证的蒸馏方法,使小型语言模型能够通过回溯和冲突检测提升其在约束满足问题上的表现。
2026-01-14 cs.CL
Survival-Guided Length Control for Efficient Diffusion Language Models
该研究针对扩散语言模型解码时存在不必要去噪步骤的问题,提出生存引导式长度预测器,可将推理速度最高提升7倍且保持任务准确率,同时发现模型性能对所选预测长度敏感。
2026-08-28 cs.CL
Think&Cite: Improving Attributed Text Generation with Self-Guided Tree Search and Progress Reward Modeling
Department of Computer Science, National University of Singapore(计算机科学系,新加坡国立大学)
本文提出Think&Cite框架,将归因文本生成视为多步推理问题,通过自引导蒙特卡洛树搜索和进度奖励建模,在三个数据集上显著优于基线方法。
2025-06-20 cs.CL
Multimodal Event Transformer for Image-guided Story Ending Generation
Australian AI Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学)
图像引导故事结局生成是根据给定的故事情节和结局图像生成故事结局。现有的方法侧重于跨模态特征融合,而忽略了推理和挖掘故事情节和结局图像中的隐含信息。为了解决这个问题,我们提出了一个多模态事件Transformer,一个基于事件的推理框架IgSEG。具体来说,我们从故事情节和结局图像构建视觉和语义事件图,并利用基于事件的推理推理和挖掘隐含的信息在一个单一的模态。接下来,我们连接视觉和语义事件图,并利用跨模态融合来集成不同的模态特征。此外,我们提出了一个多模态注入器,自适应地传递必要的信息到解码器。此外,我们提出了一个不连贯的检测,以提高理解的故事情节的背景和图建模的鲁棒性,我们的模型。实验结果表明,我们的方法实现了国家的最先进的性能图像引导的故事结局生成。
2023-01-26 cs.CL cs.CV
Guided Generation of Cause and Effect
我们提出了一个有条件的文本生成框架,假定可能的原因和影响的原始表达式。这个框架取决于两个新的资源,我们在这项工作的过程中开发:一个非常大规模的收集英语句子表达因果模式CauseBank;和一个完善以前的工作,构建大型词汇因果知识图谱因果图。此外,我们扩展以前的工作在词汇约束的解码,以支持析取正约束。人工评估证实,我们的方法提供了高质量和多样化的输出。最后,我们使用CauseBank对支持最近最先进的因果推理模型的编码器进行持续训练,从而在模型架构没有变化的情况下,对COPA挑战集进行了3点改进。
2021-07-21 cs.CL
Dependency-Guided Code Generation: Structured Matrix Decomposition and Consistency-Guided Refinement
University of the Chinese Academy of Sciences(中国科学院大学);ByteDance Inc.(字节跳动公司);Zhejiang University(浙江大学);National Taiwan University(台湾国立大学);Peking University(北京大学);Alibaba Group(阿里巴巴集团);Tsinghua University(清华大学);Liaoning Technical University(辽宁技术大学)
针对现有代码生成方法无法充分捕捉代码实体依赖关系的问题,提出依赖感知代码生成框架,通过结构化矩阵分解和一致性引导细化生成代码,经实验验证该方法能生成语义对齐和结构保真度更高的代码。
2026-07-28 cs.CL cs.SE
Style Example-Guided Text Generation using Generative Adversarial Transformers
NVIDIA(英伟达);cs.washington.edu(华盛顿大学计算机科学与工程系)
我们介绍了一种语言生成模型框架,用于基于上下文句子和样式参考示例生成样式化段落。该框架包括一个风格编码器和一个文本解码器。样式编码器从参考示例中提取样式代码,并且文本解码器基于样式代码和上下文生成文本。我们提出了一个新的目标函数来训练我们的框架。我们还研究了不同的网络设计选择。我们进行了广泛的实验验证与强大的基线比较,以验证所提出的框架的有效性,使用新收集的数据集与不同的文本样式。代码和数据集都将在发布时发布。
2020-03-02 cs.CL
Guided by the Plan: Enhancing Faithful Autoregressive Text-to-Audio Generation with Guided Decoding
The Hong Kong Polytechnic University(香港理工大学);IROOTECH TECHNOLOGY(IROOTECH技术公司);Wolf 1069 b Lab, Sany Group(三一集团沃尔夫1069实验室);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Zhejiang University(浙江大学)
本研究提出Plan-Critic模型,通过引导解码提升自回归文本到音频生成的忠实度,实现CLAP分数提升10分,达到新状态。
2026-01-18 cs.CL cs.SD eess.AS
Stylized Story Generation with Style-Guided Planning
Tsinghua University(清华大学)
目前的故事讲述系统更多地关注生成情节连贯的故事,而较少关注叙事风格,这对于可控的文本生成是非常重要的。因此,我们提出了一个新的任务--风格化故事生成,即在给定的主导语境下生成具有特定风格的故事。为了解决这个问题,我们提出了一种新的生成模型,首先规划风格化的关键词,然后在关键词的指导下生成整个故事。此外,我们还提出了两个自动度量标准来评估生成的故事与指定风格之间的一致性。实验证明,我们的模型可以基于ROCStories数据集可控地生成情感驱动或事件驱动的故事(Mostafazadeh等人,2016)。我们的研究为进一步的研究提供了启发。
2021-08-19 cs.AI cs.CL
DiSCoL: Toward Engaging Dialogue Systems through Conversational Line Guided Response Generation
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Columbia University(哥伦比亚大学);University of California Los Angeles(加州大学洛杉矶分校)
与用户进行有吸引力和信息量的对话是开放域对话系统的最终目标。基于transformer的语言模型及其在对话系统中的应用的最新进展已经成功地产生了流畅的和类似人类的响应。然而,他们仍然缺乏对生成过程的控制,以生成内容丰富的响应并实现引人入胜的对话。为了实现这一目标,我们提出了\textbf{DiSCoL}(\textbf{Di}通过\textbf{Co}功能性\textbf{L}行引导反应生成的\textbf{S}系统)。DiSCoL是一个开放领域的对话系统,利用会话线(简称\textbf{convlines})作为可控和信息内容规划元素,以指导生成模型产生引人入胜和信息丰富的响应。DiSCoL管道中的两个主要模块是条件生成器,用于1)预测对话上下文的相关和信息性convlines,以及2)根据预测的convlines生成高质量的响应。用户还可以将返回的convlines更改为\textit{control},使对话的方向朝向他们更感兴趣的主题。通过自动和人工评估,我们证明了convlines在产生引人入胜的对话中的效率。
2021-02-03 cs.CL
Visual Information Guided Zero-Shot Paraphrase Generation
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Center for Data Science, Peking University(北京大学数据科学中心);The MOE Key Laboratory of Computational Linguistics, Peking University(北京大学计算语言学教育部重点实验室)
由于大规模高质量的释义语料库的有限性,Zero-shot释义生成受到了广泛的关注。反向翻译,也称为基于翻译的方法,是这方面的典型方法。一些作品利用不同的信息作为“支点”,如语言,语义表征等。本文探讨了使用视觉信息,如图像作为“支点”的回译。与流水线回译方法不同,本文提出了一种基于图像-字幕数据的视觉信息引导的zero-shot释义生成方法。它联合训练图像描述模型和释义模型,并利用图像描述模型指导释义模型的训练。自动评测和人工评测结果表明,该模型能够生成相关性、流畅性和多样性较好的释义,图像是实现zero-shot释义生成的一种有效手段。
2022-09-22 cs.AI cs.CL
Grounded Conversation Generation as Guided Traverses in Commonsense Knowledge Graphs
Brown University(布朗大学);Microsoft Research AI(微软人工智能研究院);Tsinghua University(清华大学)
人类的对话自然会围绕相关的概念发展,并分散到多跳概念。本文提出了一种新的会话生成模型ConceptFlow,它利用常识知识图谱来显式地对会话流进行建模。通过将会话接地到概念空间,ConceptFlow将潜在的会话流表示为沿着常识关系在概念空间中遍历。遍历由概念图中的图注意力引导,朝着概念空间中更有意义的方向移动,以生成更多语义和信息的响应。在Reddit会话上的实验证明了ConceptFlow的有效性,超过了以前的知识感知会话模型和基于GPT-2的模型,同时使用的参数减少了70%,证实了显式建模会话结构的优势。本工作的所有源代码都可以在https://github.com/thunlp/ConceptFlow上获得。
2020-05-05 cs.AI cs.CL
Operations Guided Neural Networks for High Fidelity Data-To-Text Generation
Sun Yat-Sen University(中山大学);Microsoft Research Asia(微软亚洲研究院)
最近用于数据到文本生成的神经模型主要基于编码器-解码器网络上的数据驱动的端到端训练。尽管生成的文本大多是流畅的和信息丰富的,但它们通常会生成与输入结构化数据不一致的描述。这是一个关键问题,特别是在需要对原始数据进行推理或计算的领域。在本文中,我们试图通过利用预先执行的符号操作来提高神经数据到文本生成的保真度。我们提出了一个框架称为操作引导的基于注意力的序列到序列网络(OpAtt),具有专门设计的门控机制以及操作结果的量化模块,以利用来自预执行操作的信息。在两个体育数据集上的实验表明,该方法明显提高了生成文本对输入结构化数据的保真度。
2018-09-08 cs.AI cs.CL
Language guided machine action
Alibaba-Group(阿里巴巴集团);University of Oxford(牛津大学)
本文构建了一个层次化的模块化网络,称为语言引导机器动作(LGMA),其模块模仿人类大脑皮层网络处理信息流,可以完成语言引导动作、意图分解和动作执行前的心理模拟等多个一般任务。LGMA包含3个主要系统:(1)初级感觉系统,包含视觉、语言和感觉运动的多模态感觉信息。(2)联想系统涉及到认知语言的理解和合成、感觉运动和语言之间的转换、语言和视觉之间的转换、以及将注意的视觉对象和手臂状态整合到未来空间动作的认知地图中的上顶叶。前辅助运动区(pre-SMA)可以将高级意图转化为顺序的原子动作,而SMA可以将这些原子动作、当前手臂和被关注对象状态整合为感觉运动向量,通过手臂的前运动和主运动对手臂施加相应的力矩,实现意图。高级执行系统包括前额叶皮层(PFC),前额叶皮层负责外显推理,引导基于语言的自主行为;
2020-11-23 cs.AI cs.CL q-bio.NC
Lesion Guided Explainable Few Weak-shot Medical Report Generation
Xiamen University(厦门大学);Tencent Healthcare (Shenzhen) Co., LTD(腾讯医疗健康(深圳)有限公司)
医学图像在临床实践中被广泛用于诊断。自动生成可解释的医疗报告可以减轻放射科医生的负担并促进及时护理。然而,大多数现有的自动报告生成方法需要足够的标记数据进行训练。此外,学习的模型只能为训练类生成报告,缺乏适应以前未见过的新疾病的能力。为此,我们提出了一个病变引导的可解释的几个弱镜头的医疗报告生成框架,通过视觉和语义特征对齐学习看到的和新的类之间的相关性,旨在为训练中未观察到的疾病生成医疗报告。它集成了以病变为中心的特征提取器和基于Transformer的报告生成模块。具体地说,病变为中心的特征提取器检测异常区域,并学习多视图(视觉和词汇)嵌入看到的和新的类之间的相关性。然后,检测到的区域和相应的嵌入的特征被连接为多视图输入到报告生成模块,用于可解释的报告生成,包括文本描述和在图像中检测到的相应异常区域。我们对FFA-IR进行了实验,这是一个提供可解释注释的数据集,表明我们的框架在新疾病的报告生成方面优于其他框架。
2022-11-17 cs.CL cs.CV
GraghVQA: Language-Guided Graph Neural Networks for Graph-based Visual Question Answering
Stanford University(斯坦福大学)
图像不仅仅是对象或属性的集合--它们代表了相互连接的对象之间的关系网。场景图作为一种新的图像结构化图形表示形式出现。场景图将对象编码为通过成对关系连接的节点作为边。为了支持场景图上的问答,我们提出了GraphVQA,一个语言引导的图神经网络框架,它将自然语言问题翻译和执行为图节点之间消息传递的多次迭代。我们探索了GraphVQA框架的设计空间,并讨论了不同设计选择的权衡。我们在GQA数据集上的实验表明,GraphVQA的性能大大优于最先进的模型(88.43% vs. 94.78%)。
2021-06-02 cs.CL cs.CV
Psychology-guided Controllable Story Generation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
可控故事生成是自然语言处理领域的一个具有挑战性的课题,近年来引起了越来越多的研究兴趣。然而,现有的作品大都是以特定的关键词或情感为条件来生成一个完整的故事,而忽略了主人公的心理变化。受心理学理论的启发,我们引入了全局心理状态链,其中包括主角的需求和情感,以帮助故事生成系统创建更可控和精心策划的故事。在本文中,我们提出了一个心理引导的可控故事生成系统(PICS),以生成故事,坚持给定的主导背景和期望的心理状态链的主角。具体来说,心理状态跟踪器被用来记忆主人公的局部心理状态,以捕捉他们的内部时间关系。此外,还采用心理状态规划器来获得主人公的整体心理状态,以进行故事规划。最后,心理控制器的设计,以整合本地和全球的心理状态到故事的背景表示组成心理指导的故事。自动和手动评估表明,PICS优于基线,PICS的每一部分都显示出撰写具有更一致心理变化的故事的有效性。
2022-10-14 cs.AI cs.CL
Overcoming Vocabulary Mismatch: Vocabulary-agnostic Teacher Guided Language Modeling
Microsoft Research(微软研究院)
提出词汇无关的教师引导语言建模(VocAgnoLM),通过词元级词汇对齐和教师引导损失,解决师生模型词汇不匹配问题,在1B学生模型上实现46%性能提升。
2025-03-24 cs.AI cs.CL