Structured Prompt Optimization for Few-Shot Text Classification via Semantic Alignment in Latent Space
Northwestern University(西北大学);Syracuse University(雪城大学);University of Toronto(多伦多大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Purdue University(普渡大学)
本文提出通过潜在空间语义对齐的结构化提示优化方法,解决少样本文本分类中的语义冲突和标签模糊问题,提升分类性能和跨任务适用性。
2026-02-27 cs.CL
PTR: Prompt Tuning with Rules for Text Classification
Tsinghua University(清华大学)
微调的预训练语言模型(PLM)在几乎所有NLP任务上都取得了令人敬畏的性能。通过使用额外的提示来微调PLM,我们可以进一步激发分布在PLM中的丰富知识,以更好地服务于下游任务。提示微调在情感分类和自然语言推理等少类分类任务上取得了可喜的成果。然而,手工设计大量的语言提示是繁琐和容易出错的。对于那些自动生成的提示,在非少数拍摄场景中验证其有效性也是昂贵且耗时的。因此,它仍然是具有挑战性的提示微调,以解决多类分类任务。为此,我们提出了提示微调与规则(PTR)的多类文本分类,并应用逻辑规则来构建提示与几个子提示。以这种方式,PTR能够将每个类的先验知识编码为提示微调。我们进行实验的关系分类,一个典型的和复杂的多类分类任务,结果表明,PTR可以显着和一贯优于现有的最先进的基线。这表明,PTR是一种很有前途的方法,利用人类的先验知识和PLM的复杂的分类任务。
2021-09-15 cs.CL
Divide and Prompt: Chain of Thought Prompting for Text-to-SQL
Jiangxi University of Finance and Economics(江西财经大学)
针对 Text-to-SQL 中 LLM 推理能力利用不足的问题,提出 Divide-and-Prompt 范式,通过任务分解与 CoT 提示提升 SQL 生成的执行准确率。
2023-04-23 cs.AI cs.CL
Promptor: A Conversational and Autonomous Prompt Generation Agent for Intelligent Text Entry Techniques
University of Cambridge(剑桥大学)
本文提出Promptor,一个对话式自主提示生成智能体,通过自动生成复杂提示,使大型语言模型无需微调即可胜任智能文本输入任务,实验显示其提示在相似性和连贯性上分别提升35%和22%。
2023-10-15 cs.AI cs.CL
How Reliable Are AI-Generated-Text Detectors? An Assessment Framework Using Evasive Soft Prompts
Arizona State University(亚利桑那州立大学)
本研究针对AI生成文本检测器的可靠性问题,提出基于通用规避型软提示的评估方法,通过提示调优与软提示迁移实现对主流检测器的规避,并用多模型多写作任务实验验证其效果。
2023-10-08 cs.AI cs.CL
CardiffNLP at CLEARS-2025: Prompting Large Language Models for Plain Language and Easy-to-Read Text Rewriting
Cardiff University(卡迪夫大学)
本文介绍CardiffNLP团队在CLEARS-2025西班牙语文本适配任务中,采用LLM提示方法,使用Gemma-3模型,在子任务1和2中分别获得第三和第二名。
2025-08-05 cs.AI cs.CL
APIO: Automatic Prompt Induction and Optimization for Grammatical Error Correction and Text Simplification
Grammarly
本文提出APIO方法,无需人工种子提示即可自动归纳和优化提示,在语法错误纠正与文本简化任务上实现了纯LLM提示方法的最新最优性能。
2025-08-12 cs.AI cs.CL
SPELL: Semantic Prompt Evolution based on a LLM
School of Artificial Intelligence, Xidian University(西安电子科技大学人工智能学院);Institute of Freedom and Happiness(自由幸福研究院)
针对现有文本提示词优化方法易破坏流畅性或无法全局调整的问题,提出基于大语言模型的黑盒进化算法SPELL,实验验证其可快速优化提示词,并探讨了局限与未来方向。
2023-10-02 cs.AI cs.CL
SimpCue: Cue-Based Prompting for Multilingual Text Simplification
Universitat Pompeu Fabra (UPF)(庞培法布拉大学)
本研究针对加泰罗尼亚语、西班牙语、意大利语的多语言易读性文本简化任务,以Qwen3-8B为模型,对比不同提示方式的效果,发现预测线索提示表现最优但提升有限。
2026-08-31 cs.AI cs.CL
Prompt Chaining or Stepwise Prompt? Refinement in Text Summarization
The Hong Kong Polytechnic University(香港理工大学);Generative AI Research Lab (GAIR)(生成式人工智能研究实验室(GAIR));Soochow University(苏州大学);Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文比较了文本摘要中Prompt Chaining与Stepwise Prompt两种迭代精炼策略,发现Prompt Chaining因能避免模拟精炼而产生更优结果,其结论可外推至其他LLM应用。
2024-06-01 cs.AI cs.CL
TextReg: Mitigating Prompt Distributional Overfitting via Regularized Text-Space Optimization
Georgia Institute of Technology(佐治亚理工学院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究了提示分布过拟合问题,提出TextReg框架通过正则化的文本梯度实现软惩罚目标,结合双证据梯度净化、语义编辑正则化和正则化引导的提示更新,提升模型在分布外(OOD)任务上的泛化能力。
2026-10-06 cs.AI cs.CL cs.LG
Prompting Complexity: Shortest Prompts for Texts and Behaviors in LLMs
Dalle Molle Institute for Artificial Intelligence (IDSIA)(达勒·莫利人工智能研究所)
研究提示复杂性,定义其为固定语言模型产生目标文本的最短合理提示量,类似资源受限柯尔莫哥洛夫复杂性。介绍计算方法、扩展定义到软提示复杂性,定义提示距离等,据此制定研究议程以探究短提示可实现的文本和行为。
2026-07-08 cs.CL
Time-aware Prompting for Text Generation
University of Michigan(密歇根大学)
在本文中,我们研究了将时间戳,如文件创建日期,到生成系统的影响。研究了两种类型的时间感知提示:(1)在自然语言句子中编码文档时间戳的文本提示;以及(2)将时间戳转换为连续向量的线性提示。为了探索对未来数据点的外推,我们进一步引入了一个新的数据到文本生成数据集TempWikiBio,它包含了来自英文维基百科的超过400万个按时间顺序排列的传记文章修订版,每个修订版都与结构化的个人资料配对。通过TempWikiBio上的数据到文本生成,内容传输数据集上的文本到文本生成以及XSum上的摘要,我们表明编码器上的线性提示和文本提示提高了所有数据集的生成质量。根据人类评估和敏感性分析,尽管在测试从较晚时间提取的数据时性能下降较少,但线性提示更多地关注非时间信息,并且对给定的时间戳不太敏感。同时,文本提示建立了给定时间戳和输出日期之间的关联,从而在输出中产生更多的实际时间信息。
2022-11-03 cs.CL
Plug and Play with Prompts: A Prompt Tuning Approach for Controlling Text Generation
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究院);Stevens Institute of Technology(史蒂文斯理工学院);Dalhousie University(达尔豪斯大学)
本文提出利用 Prompt Tuning 训练提示嵌入,并以小型语言模型作为判别器,实现数据与参数高效的文本生成控制,在四类数据集上验证了情感、正式度和毒性控制效果。
2024-04-08 cs.AI cs.CL cs.LG
Finding a Wolf in Sheep's Clothing: Combating Adversarial Text-To-Image Prompts with Text Summarization
University of Arizona(亚利桑那大学)
针对文本到图像模型易受分而治之攻击(DACA)的问题,提出先摘要后分类的两层防御方法,在ATTIP数据集上使F1分数提升31%,最高达98%,验证了摘要预处理能有效抵御提示混淆。
2024-12-15 cs.AI cs.CL cs.CR
Prompt Selection Matters: Enhancing Text Annotations for Social Sciences with Large Language Models
Université Paris 1 Panthéon-Sorbonne(巴黎第一大学先贤祠-索邦大学);Université Paris-Saclay(巴黎萨克雷大学);Institut Jean Nicod(让·尼科德研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL-EHESS-CNRS(巴黎文理研究大学-法国高等社会科学研究院-法国国家科学研究中心)
本文研究提示选择对大型语言模型社会科学文本标注准确性的影响,发现不同提示性能差异显著,并提出自动提示优化方法以系统构建高质量提示,同时提供浏览器实现工具。
2025-03-10 cs.AI cs.CL cs.CY
Multimodal Prompt Optimization: Why Not Leverage Multiple Modalities for MLLMs
KAIST(韩国科学技术院)
本文提出多模态提示优化问题,提出MPO框架,通过联合优化和贝叶斯策略提升多模态提示效果,验证其在图像、视频等多模态任务中的优越性。
2026-02-19 cs.AI cs.CL cs.LG
Learning to Transfer Prompts for Text Generation
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Université de Montréal(蒙特利尔大学);School of Information, Renmin University of China(中国人民大学信息学院)
预训练的语言模型(PLM)通过微调在文本生成任务中取得了显着进展。然而,在数据稀缺的情况下对PLM进行微调是具有挑战性的。因此,它是不平凡的开发一个通用的和轻量级的模型,可以适应各种文本生成任务的基础上PLM。为了实现这一目标,最近的基于学习的学习提供了一个潜在的解决方案。在本文中,我们改进了这种技术,并提出了一种新的基于文本生成的方法(PTG)在一个可转移的设置。首先,PTG为各种源生成任务学习一组源提示,然后将这些提示转换为目标提示以执行目标生成任务。同时考虑任务和实例级信息,我们设计了一个自适应的注意力机制来获得目标提示。对于每个数据实例,PTG通过关注高度相关的源提示来学习特定的目标提示。在广泛的实验中,PTG产生了比微调方法更好的结果。我们将源代码提示作为开放资源发布,用户可以添加或重用它们来改进新的文本生成任务,以供未来研究。代码和数据可以在https://github.com/RUCAIBox/Transfer-Prompts-for-Text-Generation上获得。
2022-05-15 cs.CL
Investigating the Influence of Prompt-Specific Shortcuts in AI Generated Text Detection
Seoul National University(首尔大学);Hanyang University(汉阳大学);Ewha Womans University(梨花女子大学);NAVER Search US(NAVER美国搜索部门);NAVER AI LAB(NAVER AI实验室);NAVER Cloud(NAVER云)
该研究针对AI生成文本检测中因提示多样性不足产生的提示特定捷径问题,提出FAILOpt攻击方法验证其影响,并通过该方法增强数据集以提升检测器的跨模型、跨任务和抗攻击鲁棒性。
2024-06-24 cs.CL
VoP: Text-Video Co-operative Prompt Tuning for Cross-Modal Retrieval
Westlake University(西湖大学);Alibaba Group(阿里巴巴集团);Zhejiang University(浙江大学)
最近的许多研究通过使用额外的重型模块来调整主干,利用预训练的CLIP进行文本-视频跨模态检索,这不仅带来了参数较多的巨大计算负担,而且还导致上游模型的知识遗忘。在这项工作中,我们提出了VoP:文本-视频合作提示微调的文本-视频检索任务的有效调整。建议的VoP是一个端到端的框架,同时引入视频和文本提示,这可以被视为一个强大的基线,只有0.1%的可训练参数。此外,基于视频的时空特性,我们开发了三种新的视频提示机制,以提高性能与不同规模的可训练参数。VoP增强的基本思想是分别用特定的可训练提示对帧位置、帧上下文和层函数进行建模。大量的实验表明,与完全微调相比,增强的VoP在五个文本视频检索基准测试中实现了1.4%的平均R@1增益,参数开销减少了6倍。该代码将在https://github.com/bighuang624/VoP上提供。
2023-03-22 cs.AI cs.CL cs.CV
Prompt-Based Editing for Text Style Transfer
Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所(Amii));University of Alberta(阿尔伯塔大学)
本文提出一种基于提示的编辑方法,将文本风格迁移的生成问题转化为分类问题,通过词级编辑搜索最大化风格得分,在三个基准上大幅超越参数多20倍的现有系统。
2023-12-22 cs.AI cs.CL cs.LG
Prompt-based mental health screening from social media text
本研究针对大规模含噪社交媒体文本的心理健康筛查问题,提出结合GPT 3.5提示筛选相关内容与词袋分类器预测标签的方法,性能媲美BERT混合专家模型且训练成本大幅降低。
2024-05-11 cs.CL
Why Only Text: Empowering Vision-and-Language Navigation with Multi-modal Prompts
The University of Queensland(昆士兰大学);CSIRO Data61(联邦科学与工业研究组织Data61);The University of Adelaide(阿德莱德大学)
提出多模态提示的视觉语言导航任务VLN-MP,通过在指令中结合自然语言和图像解决文本歧义,并构建新基准和模块,实验证明其显著提升了导航性能且兼容纯文本。
2024-06-04 cs.AI cs.CL cs.CV
ViPCap: Retrieval Text-Based Visual Prompts for Lightweight Image Captioning
Hanyang University(汉阳大学)
ViPCap提出基于检索文本的视觉提示方法,通过将文本映射到CLIP空间并采样高斯分布增强视觉特征,在COCO等数据集上显著提升轻量级图像描述生成的效率与效果。
2025-01-24 cs.AI cs.CL cs.CV
Hard Prompts Made Easy: Gradient-Based Discrete Optimization for Prompt Tuning and Discovery
University of YYY(YYY大学);Institute of WWW(WWW研究所)
本文提出一种基于梯度的离散优化方法,可自动为文本到图像扩散模型和文本到文本分类 LM 发现可解释、可复用的硬提示词。
2023-06-01 cs.CL cs.LG
DPIC: Decoupling Prompt and Intrinsic Characteristics for LLM Generated Text Detection
University of Science and Technology of China(中国科学技术大学);Hefei High-dimensional Data Technology(合肥高维数据科技)
本文提出 DPIC 黑盒 LLM 文本检测方法,通过辅助模型重构提示词并重新生成文本,以相似度提取生成模型内在特征,在 GPT4 与 Claude3 上分别平均提升 6.76% 和 2.91%。
2024-06-12 cs.AI cs.CL cs.LG
How to Prompt LLMs for Text-to-SQL: A Study in Zero-shot, Single-domain, and Cross-domain Settings
The Ohio State University(俄亥俄州立大学)
本文针对 text-to-SQL 任务中提示构建缺乏可比性的问题,全面调查了在 Zero-shot、Single-domain 和 Cross-domain 等多种设置下提示构建的影响,为未来研究提供了有效提示构建的见解。
2023-11-27 cs.CL
PromptTTS 2: Describing and Generating Voices with Text Prompt
Microsoft Research(微软研究院)
PromptTTS 2通过变化网络和基于大语言模型的提示生成流程,解决文本提示TTS的一对多问题和数据稀缺问题,在44K小时数据集上生成更符合提示且多样化的语音。
2023-10-12 cs.CL cs.LG cs.SD
Emotion-Conditioned Text Generation through Automatic Prompt Optimization
Institut für Maschinelle Sprachverarbeitung, University of Stuttgart(斯图加特大学机器语言处理研究所)
本文提出首个面向情感条件文本生成的自动提示优化方法,通过迭代增删替换词元优化提示,仅需文本分类器作为目标函数,在事件报告任务上将宏平均F1从0.22提升至0.75。
2023-08-09 cs.CL
A Better LLM Evaluator for Text Generation: The Impact of Prompt Output Sequencing and Optimization
The University of Tokyo(东京大学)
本文研究提示设计中输出顺序对LLM文本评估的影响,发现理由与分数的呈现顺序会显著改变评分,并指出数据充足时可通过优化提升评分对齐,为改进LLM评估的准确性与一致性提供关键见解。
2024-06-14 cs.CL
PromptTTS: Controllable Text-to-Speech with Text Descriptions
Microsoft(微软)
使用文本描述作为提示来指导文本或图像的生成(例如,GPT-3或DALLE-2)最近引起了广泛的关注。除了文本和图像生成,在这项工作中,我们探讨了利用文本描述来指导语音合成的可能性。因此,我们开发了一个文本转语音(TTS)系统(简称为TTS),需要一个提示与风格和内容的描述作为输入,合成相应的语音。具体地说,语音合成TTS包括一个风格编码器和一个内容编码器,用于从提示中提取相应的表示,以及一个语音解码器,用于根据提取的风格和内容表示合成语音。与要求用户具有声学知识以理解诸如韵律和音高之类的风格因素的可控TTS中的先前工作相比,可控TTS更用户友好,因为文本描述是表达语音风格的更自然的方式(例如,“一位女士慢慢地对她的朋友耳语”)。鉴于没有带有提示的TTS数据集,为了对TTS任务进行基准测试,我们构建并发布了一个包含样式和内容信息以及相应语音的提示的数据集。实验结果表明,该方法能够生成风格控制精确、语音质量高的语音.音频样本和我们的数据集是公开的。
2022-11-22 cs.CL cs.LG cs.SD
Learning to Rewrite Prompts for Personalized Text Generation
Google Research(谷歌研究院);University of Michigan(密歇根大学)
针对冻结且仅通过API访问的大语言模型,提出一种结合监督学习和强化学习的提示重写方法,自动优化个性化文本生成提示,在三个领域数据集上优于原始及单一学习优化的提示。
2024-02-08 cs.CL
Latent Prompt Tuning for Text Summarization
The Hong Kong Polytechnic University(香港理工大学);Microsoft(微软);Microsoft Research Asia(微软亚洲研究院)
具有不同控制信号的开关(例如,长度、关键字等)可用于控制文本摘要。当控制信号可用时,它们可以控制生成的摘要的属性,并潜在地提高摘要质量(因为给出了更多信息)。不幸的是,控制信号在推断时间期间还不可用。在本文中,我们提出了莲花(简写为潜在的提示微调的总结),这是一个单一的模型,可以应用于控制和非控制(无控制信号)模式。在训练过程中,Lotus使用对比学习目标从具有黄金控制信号的提示中学习潜在的提示表示。实验表明,Lotus在不受控制的模式下在四个不同的摘要数据集上一致地改进了强(不可控)摘要模型。我们还演示了生成的摘要可以使用用户指定的控制令牌的提示进行控制。
2022-12-19 cs.CL
Prompt Stability Scoring for Text Annotation with Large Language Models
Department of Sociology, New York University(纽约大学社会学系);Independent Researcher(独立研究者);Institute for Logic, Language, and Computation, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)
本文提出一种通用框架,通过传统方法改进内在和跨编码器可靠性评分,提出提示稳定性评分(PSS)及Python包promptstability,用于诊断低稳定性提示并展示功能。
2026-05-15 cs.CL
Tailor: A Prompt-Based Approach to Attribute-Based Controlled Text Generation
National University of Singapore(新加坡国立大学);Alibaba Group(阿里巴巴集团)
基于属性的受控文本生成(CTG)是指生成满足期望属性(例如,情感和主题)。现有的作品往往利用微调或诉诸额外的属性分类器,但遭受存储和推理时间的增加。为了解决这些问题,我们探索基于属性的CTG在一个基于属性的方式。简而言之,所提出的Tailor将每个属性表示为预先训练的连续向量(即,单属性提示),并引导生成固定的PLM开关到预先指定的属性。我们的实验发现,这些提示可以简单地连接作为一个整体,多属性CTG没有任何重新训练,但提出的问题,流畅性下降和位置敏感性。为此,Tailor提供了一个多属性提示掩码和一个重新索引的位置ID序列,以弥合训练(每个任务一个提示)和测试阶段(连接多个提示)之间的差距。为了进一步增强这种单属性提示组合,Tailor还引入了一个可训练的提示连接器,它可以与任何两个单属性提示连接到多属性文本生成。在GPT-2的训练参数为0.08%的情况下,对11个属性特定生成任务的实验表明,Tailor在单属性和多属性CTG上都有很好的性能.
2022-04-28 cs.CL
DisCup: Discriminator Cooperative Unlikelihood Prompt-tuning for Controllable Text Generation
Beijing Institute of Technology(北京理工大学);The Open University(开放大学)
在属性可控的文本生成中,使用超大型的临时语言模型(CLMs)进行快速学习是一种很有前途的方法。然而,香草提示微调往往模仿训练语料库的控制属性以外的特征,导致泛化能力差。此外,它不太能够捕捉不同属性之间的关系,进一步限制了控制性能。在本文中,我们提出了一种新的CTG方法,即DisCup,它结合了属性知识的搜索引擎优化的控制提示,引导冻结CLM产生特定属性的文本。具体地说,冻结CLM模型,能够产生大量的文本,首先被用来产生下一个令牌候选人的基础上的上下文,以确保令牌的多样性进行预测。然后,我们利用属性搜索器从这些候选者中选择期望/不期望的令牌,提供属性间知识。最后,我们通过提示微调的非似然目标来桥接上述两个特性。大量的实验结果表明,DisCup可以实现一个新的国家的最先进的控制性能,同时保持一个高效和高质量的文本生成,只依赖于大约10个虚拟令牌。
2022-10-18 cs.CL
HRoT: Hybrid prompt strategy and Retrieval of Thought for Table-Text Hybrid Question Answering
Institute of Automation, CAS(中国科学院自动化研究所);University of Science and Technology Beijing(北京科技大学);University of Chinese Academy of Sciences(中国科学院大学)
本文提出HRoT提示策略,通过上下文学习赋予模型在表格-文本混合数据上的检索思维能力,并在MultiHiertt数据集少样本设置下超越全监督SOTA。
2023-09-22 cs.CL
Short-Path Prompting in LLMs: Analyzing Reasoning Instability and Solutions for Robust Performance
Wuhan University(武汉大学);Ant Group(蚂蚁集团)
本文针对用户短路径提示与LLMs的CoT推理需求冲突导致推理性能下降且不稳定的问题,提出指令引导和微调两种方法,有效提升了推理精度,为指令遵循与推理准确性的权衡提供了见解。
2025-04-13 cs.CL
PromptTA: Prompt-driven Text Adapter for Source-free Domain Generalization
Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University(西安交通大学人工智能与机器人学院)
本文提出PromptTA方法,通过提示驱动文本适配器更好地捕捉风格特征分布并采用重采样确保域知识全面覆盖,在无源域泛化任务中实现了最先进的性能。
2024-09-21 cs.CL cs.CV cs.LG
Interpreting Style Representations via Style-Eliciting Prompts
University of Michigan(密歇根大学)
提出一种通过风格诱导提示解释风格表示的新框架,利用大型语言模型生成自然语言描述,并在风格描述和模仿任务中优于直接提示的基线方法。
2026-06-04 cs.CL
BeautifulPrompt: Towards Automatic Prompt Engineering for Text-to-Image Synthesis
South China University of Technology(华南理工大学);Alibaba Group(阿里巴巴集团)
本文提出BeautifulPrompt,一种基于视觉AI反馈的强化学习深度生成模型,可从简单描述自动生成高质量提示,显著提升扩散模型生成图像的美观度,并集成至云原生平台。
2023-11-12 cs.CL
MTTN: Multi-Pair Text to Text Narratives for Prompt Generation
对扩散模型的兴趣增加为生成式文本建模的进步开辟了机会。这些模型在给出精心制作的提示时可以产生令人印象深刻的图像,但创建一个强大或有意义的提示可能是命中或错过的。为了解决这个问题,我们创建了一个大规模的数据集,它是从真实的提示中派生和合成的,并与流行的图像-文本数据集(如MS-COCO和Flickr)建立了索引。我们还实现了逐步减少上下文并增加复杂性的阶段,由于创建了复杂的注释,这将进一步增强输出。这个名为MTTN的数据集包括超过240万个句子,分为5个阶段,总共有超过1200万对句子,以及超过30万个独特单词的词汇表,提供了丰富的变化。最初的240万对数据集旨在反映全球互联网上使用语言的方式,使数据集对于在其上训练的任何模型都更加强大。
2023-01-29 cs.CL cs.LG
Example-Guided Prompting for Document-Level Text Simplification
SCE(SCE(以色列SCE学院));ScaDS.AI, TUD Dresden(ScaDS.AI,德累斯顿工业大学)
该研究针对文档级文本简化中提示指导不足的问题,提出示例引导提示方法,经OneStopEnglish语料库实验,可提升大语言模型的简化质量,性能优于或媲美相关基准系统。
2026-08-07 cs.CL
Controlled Text Generation using T5 based Encoder-Decoder Soft Prompt Tuning and Analysis of the Utility of Generated Text in AI
Queen Mary University of London(伦敦玛丽女王大学)
受控文本生成是自然语言处理领域的一个重要课题,具有广阔的应用前景。为了实现这一任务,我们主要介绍了新的软提示微调的方法,使用软提示在编码器和解码器的水平在T5模型和研究的性能作为一个额外的软提示的行为相关的T5模型的解码器在受控文本生成仍然是未知的。然后,我们还研究了在解码器级别引导这种扩展的软提示T5模型的输出的可行性,最后分析了生成的文本在AI相关任务中的实用性,例如通过对用合成文本训练的分类器进行可解释性分析来训练AI模型,因为缺乏对生成正确标记的数据的方法的适当分析,这些数据将用于AI任务。通过对该生成模型以及人工生成的数据进行深入的内在和外在评估,我们发现,与在编码器级别具有单个软提示的T5模型相比,该模型产生了更好的结果,并且使用该人工生成的数据训练的情感分类器可以产生与使用真实标记数据训练的分类器的结果相当的分类结果,并且分类器该决定相对于输入文本内容是可解释的。
2022-12-06 cs.CL cs.LG
Text Prompt Injection of Vision Language Models
Ruizhe Zhu(独立研究者)
本文研究针对大型视觉语言模型的文本提示注入攻击方法,开发了一种低计算资源需求且对大型模型尤为有效的攻击算法,并通过实验验证了其高效性。
2025-10-10 cs.CL cs.CV
TextTIGER: Text-based Intelligent Generation with Entity Prompt Refinement for Text-to-Image Generation
Nara Institute of Science and Technology(奈良科学技術研究所);The University of Tokyo(东京大学);Chungnam National University(Chungnam国立大学);Institute of Science Tokyo(东京科学研究所)
TextTIGER通过增强外部信息和大语言模型总结,优化实体描述以提升文本到图像生成性能,实验表明其在多种评估指标上优于仅使用描述的提示方法。
2026-04-18 cs.CL cs.CV
A Taxonomy of Prompt Modifiers for Text-To-Image Generation
University of Jyväskylä(于韦斯屈莱大学)
本文基于3个月的民族志研究,提出了文本到图像生成中六种提示词修饰符的分类体系,探讨了其在提示词工程中的应用,并从人机交互和人机交互视角讨论了未来研究机会与广泛影响。
2023-06-14 cs.CL cs.HC cs.MM
TextInVision: Text and Prompt Complexity Driven Visual Text Generation Benchmark
Arizona State University(亚利桑那州立大学);Adobe Research(奥多比研究院)
本文提出大规模基准 TextInVision,从文本与提示复杂度、VAE 字符表示等维度评估扩散模型的图像内文本生成能力,并揭示拼写与上下文等共性缺陷。
2025-03-17 cs.CL cs.CV
Prompt-to-Prompt Image Editing with Cross Attention Control
Google Research(谷歌研究院);Tel Aviv University(特拉维夫大学)
最近的大规模文本驱动的合成模型吸引了很多关注,由于其显着的能力,生成高度多样化的图像,按照给定的文本提示。这种基于文本的合成方法特别吸引那些习惯于口头描述其意图的人。因此,将文本驱动的图像合成扩展到文本驱动的图像编辑是很自然的。编辑对于这些生成模型来说是一个挑战,因为编辑技术的固有属性是保留大部分原始图像,而在基于文本的模型中,即使是对文本提示的微小修改也会导致完全不同的结果。现有技术的方法通过要求用户提供空间掩模来本地化编辑,从而忽略掩模区域内的原始结构和内容来减轻这一点。在本文中,我们追求一个直观的提示到提示的编辑框架,其中的编辑仅由文本控制。为此,我们深入分析了文本条件模型,并观察到交叉注意层是控制图像空间布局与提示中每个单词之间关系的关键。有了这个观察,我们提出了几个应用程序,通过编辑文本提示只监视图像合成。这包括通过替换单词进行本地化编辑,通过添加规范进行全局编辑,甚至微妙地控制单词在图像中的反映程度。我们在不同的图像和提示上展示了我们的结果,展示了高质量的合成和对编辑提示的保真度。
2022-08-02 cs.CL cs.CV cs.GR
Visual-Language Prompt Tuning with Knowledge-guided Context Optimization
Institute of Automation, CAS(中国科学院自动化研究所);Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(CAS)(中国科学院大学)
提示微调是一种使用任务相关文本标记使预训练的视觉语言模型(VLM)适应下游任务的有效方法。代表性的合作为基础的工作相结合的学习文本令牌类令牌,以获得特定的文本知识。然而,具体的文本知识是最差的泛化看不见的类,因为它忘记了本质的一般文本知识具有很强的泛化能力。为了解决这个问题,我们引入了一种新的知识引导的上下文优化(KgCoOp),以增强不可见类的可学习提示的泛化能力。KgCoOp的关键见解是,通过减少可学习提示和手工制作提示之间的差异,可以减轻对基本知识的遗忘。特别是,KgCoOp最大限度地减少了由学习提示和手工制作的提示生成的文本嵌入之间的差异。最后,在对比损失上添加KgCoOp可以对可见和不可见任务进行区分性提示。多个基准测试结果表明,该方法是一种有效的提示微调方法,\emph{i.e.,}以更少的训练时间获得了更好的性能。
2023-03-23 cs.CL cs.CV
Optimizing Prompts for Text-to-Image Generation
Microsoft Research(微软研究院)
提出提示词自适应框架,自动将用户输入调整为模型偏好提示词,结合监督微调和强化学习,在Stable Diffusion上优于人工设计。
2023-12-29 cs.CL cs.CV
Navigating the Prompt Space: Improving LLM Classification of Social Science Texts Through Prompt Engineering
本文通过系统变化提示工程的三个方面,探讨如何通过增加提示上下文提高LLM对社会科学文本的分类准确性,发现最小的上下文增加能显著提升性能,但过度增加反而可能降低准确性。
2026-03-26 cs.CL cs.CY
Fast Prompt Alignment for Text-to-Image Generation
TikTok(抖音)
针对文生图中复杂提示与图像对齐难、现有迭代方法效率低的问题,提出单遍处理的快速提示对齐框架FPA,经多数据集和人工评估验证,其在保证对齐效果的同时大幅提升效率,适用于实时高需求场景。
2024-12-11 cs.CL cs.CV
Match-Prompt: Improving Multi-task Generalization Ability for Neural Text Matching via Prompt Learning
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
文本匹配是信息检索和自然语言处理中的一项基本技术。文本匹配任务共享确定两个给定文本之间的关系的相同范例。这些关系因任务而异,例如~文本检索中的相关性、释义识别中的语义对齐和问答中的可答性判断。然而,文本匹配的基本信号仍然在有限的范围内,即~精确匹配、语义匹配和推理匹配。理想情况下,一个好的文本匹配模型可以学习捕获和聚合这些信号,用于不同的匹配任务,以实现有竞争力的性能,而最近最先进的文本匹配模型,例如~预训练的语言模型(PLM)很难泛化。这是因为在特定任务数据集上进行端到端的监督学习使得模型过分强调数据样本偏差和特定任务信号,而不是必要的匹配信号。为了克服这个问题,我们采用了专门化-泛化训练策略,并将其称为匹配提示。在专门化阶段,不同的匹配任务的描述映射到几个提示符。在泛化阶段,匹配模型通过对不同的匹配任务进行训练来探索基本的匹配信号。高多样性匹配任务避免了模型对特定任务的数据拟合偏差,使模型可以专注于学习基本的匹配信号。同时,在第一步中获得的提示令牌帮助模型区分不同的任务特定的匹配信号。在公开数据集上的实验结果表明,Match-Prompt可以提高PLM在文本匹配中的多任务泛化能力,并且在域内多任务、域外多任务和新任务适应性能上优于先前微调范式训练的多任务和特定任务模型。
2022-08-20 cs.CL cs.IR