Residual Prompt Tuning: Improving Prompt Tuning with Residual Reparameterization
University of Toronto(多伦多大学);Vector Institute(向量研究所);Meta AI
针对提示调优性能不佳且对超参数敏感的问题,提出残差提示调优方法,通过带残差连接的浅层网络重参数化软提示嵌入,在SuperGLUE上显著提升性能并增强稳定性。
2023-05-06 cs.AI cs.CL
ChatGPT Prompt Patterns for Improving Code Quality, Refactoring, Requirements Elicitation, and Software Design
Vanderbilt University(范德堡大学)
本文以模式的形式提出了软件工程的快速设计技术,以解决使用大语言模型(LLM)时的常见问题,例如ChatGPT自动化常见的软件工程活动,例如确保代码与第三方库解耦,并在实现之前模拟Web应用程序API。本文对软件工程中应用LLM的研究提供了两点贡献。首先,它为软件工程提供了一个模式目录,该目录根据模式解决的问题类型对模式进行分类。其次,它探讨了几个提示模式,已被应用于改善需求获取,快速原型,代码质量,重构和系统设计。
2023-03-11 cs.AI cs.SE
DynaContext: Self-Improving Dynamic Contextualization of Optimized Prompts for Heterogeneous Parameter Extraction
DynaContext框架结合离线优化提取核心与推理时上下文适配及验证门控自改进,在异构参数提取任务中,较静态提示管道显著提升了准确率与F1值。
2026-08-25 cs.AI
Structured Information for Improving Spatial Relationships in Text-to-Image Generation
本文提出利用微调语言模型自动生成基于元组的结构化信息来增强提示,从而在保持图像质量的同时显著提升文本到图像生成中的空间关系准确性。
2025-09-19 cs.AI
Mind the Prompt: Prompting Strategies in Audio Generations for Improving Sound Classification
Politecnico di Milano(米兰理工大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
本文研究了Text-To-Audio模型生成数据集的提示策略,发现任务特定提示优于基础方法,且合并不同模型生成的数据集比单纯增加数据量更能有效提升声音分类性能。
2025-04-04 cs.AI cs.SD eess.AS
FPT: Improving Prompt Tuning Efficiency via Progressive Training
Tsinghua University(清华大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Jiangsu Collaborative Innovation Center for Language Ability(江苏语言能力协同创新中心)
最近,提示微调(PT)作为一种参数高效的预训练语言模型(PLM)调优方法得到了越来越多的关注。尽管PT大大减少了可调参数的数量,并取得了令人满意的性能,但由于其收敛速度慢,训练效率低下。为了提高PT的培训效率,我们首先对“部分PLM”的即时可转移性进行了一些新的观察,“部分PLM”是通过在深度或宽度上压缩PLM来定义的。我们观察到,软提示学习不同的部分PLM的各种大小是相似的参数空间,这意味着这些软提示可能会被转移部分PLM之间。受这些观察结果的启发,我们提出了快速提示微调(FPT),它首先使用小规模的部分PLM进行PT,然后逐步扩展其深度和宽度,直到完整的模型尺寸。在每次扩展之后,我们回收先前学习的软提示作为放大的部分PLM的初始化,然后继续PT。我们在5个任务上证明了FPT的可行性,并表明FPT可以节省超过30%的训练计算,同时实现相当的性能。
2022-11-13 cs.AI cs.CL
SIDiffAgent: Self-Improving Diffusion Agent
Indian Institute of Technology, Roorkee(印度理工学院罗尔基分校)
SIDiffAgent通过自改进的扩散代理框架,利用Qwen系列模型提升文本到图像生成的可靠性与可控性,实现更高质量的图像输出。
2026-02-02 cs.AI
EEVEE: Towards Test-time Prompt Learning in the Real World for Self-Improving Agents
Shanghai Jiao Tong University(上海交通大学);Princeton University(普林斯顿大学)
提出首个多数据集测试时提示学习框架EEVEE,通过路由器与提示协同进化策略解决跨数据集干扰,在异构数据流下提升鲁棒性。
2026-06-09 cs.AI cs.LG
Improving Ontology Requirements Engineering with OntoChat and Participatory Prompting
针对用户难以有效使用OntoChat进行本体需求工程的问题,提出参与式提示方法,通过研究者中介交互和预定义模板帮助用户创建细化用户故事并转换为能力问题。
2024-09-18 cs.AI cs.HC
From Subtle to Significant: Prompt-Driven Self-Improving Optimization in Test-Time Graph OOD Detection
提出SIGOOD方法,通过自我改进的提示优化提升测试时图OoD检测的性能。
2026-02-19 cs.AI cs.LG
Improving Zero-shot Generalization of Learned Prompts via Unsupervised Knowledge Distillation
University of Florence(佛罗伦萨大学);University of Pisa(比萨大学)
本文提出基于无监督知识蒸馏的提示学习方法KDPL,无需标注样本即可集成至现有技术,在十多个基准上有效提升了VLMs的零样本泛化能力并实现知识迁移。
2024-07-30 cs.AI cs.CV cs.LG
Improving Language Model Prompting in Support of Semi-autonomous Task Learning
IQM Research Institute(IQM研究院)
语言模型(LLM)为需要在性能环境中获得新任务能力的代理提供了潜在的知识来源。我们描述了一种新的代理能力,可以构建线索(或“提示”),导致有用的LLM响应代理学习新任务的努力。重要的是,响应不仅必须是“合理的”(通常用于从LLM中提取知识的研究的措施),而且还特定于代理的任务上下文,并以代理可以解释其母语能力的形式。我们总结了一系列的实证研究的提示策略和评估的目标,有针对性的和可操作的任务学习的反应。我们的研究结果表明,可操作的任务知识,可以从LLM支持在线代理任务学习。
2022-11-19 cs.AI cs.CL cs.LG
Semantic Feature Analysis: Improving Agents Without Searching Over Rollouts
IBM Software Innovation Lab(IBM软件创新实验室)
本文提出通过语义轨迹分析框架提升代理性能,通过系统提示的监控和逐步调整,系统性地注入纠正指令以改进代理知识,实验显示在规范模糊性主导的场景中效果显著。
2026-09-18 cs.AI
Prompt-Activation Duality: Improving Activation Steering via Attention-Level Interventions
Southern University of Science and Technology(南方科技大学);University of Notre Dame(Notre Dame 大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出GCAD方法,通过提取系统提示对自注意力的影响并应用token级门控,提升长周期连贯性与特质表达。
2026-05-14 cs.AI cs.CL
PromptDresser: Improving the Quality and Controllability of Virtual Try-On via Generative Textual Prompt and Prompt-aware Mask
KAIST(韩国科学技术院)
提出PromptDresser,利用大型多模态模型生成文本提示并自适应调整掩码,解决文本可编辑虚拟试穿中的描述生成、信息冲突和编辑区域问题,显著提升生成质量与可控性。
2025-08-07 cs.AI cs.CV
Active Instruction Tuning: Improving Cross-Task Generalization by Training on Prompt Sensitive Tasks
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出基于提示不确定性的主动指令微调框架,通过模型在扰动提示上的输出分歧识别信息量大的任务进行选择性训练,在NIV2和Self-Instruct数据集上以更少训练任务实现了更好的分布外泛化,并揭示了模糊任务有助于泛化而困难任务无益的规律。
2023-11-01 cs.AI cs.CL
Improving Generalization Robustness of Multimodal RLVR
National University of Singapore(新加坡国立大学);DAMO Academy Alibaba Group(阿里巴巴达摩院);Hupan Lab(湖畔实验室);Zhejiang University(浙江大学);University of California Berkeley(加州大学伯克利分校);Rochester Institute of Technology(罗切斯特理工学院);Georgia Institute of Technology(佐治亚理工学院);Renmin University of China(中国人民大学);Hong Kong University of Science and Technology(香港科技大学)
针对多模态RLVR泛化鲁棒性不足的问题,提出含动态三元奖励与一致性正则化器的PIRL方法,压力测试与动态评估中其性能下降幅度均小于GRPO。
2026-11-09 cs.AI
SPRIG: Improving Large Language Model Performance by System Prompt Optimization
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Michigan(密歇根大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);LG AI Research(LG AI 研究院)
本文提出SPRIG,一种基于编辑的遗传算法,通过优化通用提示提升大语言模型性能,发现系统提示与任务提示结合可进一步提升效果。
2026-04-04 cs.AI cs.CL cs.HC
Knowledge Graph Structure as Prompt: Improving Small Language Models Capabilities for Knowledge-based Causal Discovery
Fujitsu Ltd.(富士通公司);ScaDS.AI & TU Dresden(德累斯顿工业大学与ScaDS.AI)
本文提出KG Structure as Prompt方法,将知识图谱结构信息集成到提示学习中,增强小语言模型在基于知识的因果发现任务中的能力,实验证明其在少样本设置下超越多数基线及传统微调方法。
2024-07-30 cs.AI cs.CL
Improving Complex Reasoning with Dynamic Prompt Corruption: A soft prompt Optimization Approach
Zhejiang University(浙江大学);Hangzhou YunQi Academy of Engineering(杭州云栖工程学院);College of Computer Science and Technology, Zhejiang University of Technology(浙江工业大学计算机科学与技术学院);Alibaba Cloud Computing(阿里巴巴云计算)
针对提示调优在复杂推理任务中提升有限甚至性能下降的问题,提出动态提示损坏方法,通过动态调整软提示影响减轻干扰,在多个推理任务上使准确率提升4%-8%。
2025-04-13 cs.AI cs.CL
Improving Visual Prompt Tuning for Self-supervised Vision Transformers
Seoul National University(首尔国立大学)
针对视觉提示调优在自监督视觉Transformer上表现不佳的问题,提出为每个ViT块学习门控以选择性干预提示令牌的方法,在多项图像分类和语义分割任务上优于现有VPT变体。
2023-06-08 cs.AI cs.CV cs.LG
CodeGuard: Improving LLM Guardrails in CS Education
George Mason University(乔治·马歇尔大学);University of Oklahoma(俄克拉荷马大学);University of Notre Dame(圣约翰斯大学)
CodeGuard通过引入新的分类法、数据集和PromptShield模型,有效提升教育AI系统对不安全提示的检测能力,减少有害代码生成,同时保持教育任务性能。
2026-01-22 cs.AI cs.CY
Maestro: Self-Improving Text-to-Image Generation via Agent Orchestration
Google(谷歌)
本文提出自我进化图像生成系统Maestro,通过引入专门的多模态LLM智能体进行自我批评与自我进化,实现仅凭初始提示词即可自主迭代改进T2I模型生成图像的质量,显著优于现有自动化方法。
2025-09-12 cs.AI cs.CV
Combee: Scaling Prompt Learning for Self-Improving Language Model Agents
UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);Tensormesh;Gradient Network
Combee通过并行扫描和增强洗牌机制,提升提示学习效率,实现多代理并行训练,同时保持学习质量。
2026-09-28 cs.AI cs.CL cs.LG
Improving Visual Object Tracking through Visual Prompting
Department of Computer Science, National Yang Ming Chiao Tung University(国立阳明交通大学计算机科学系);Research Center for Information Technology Innovation, Academia Sinica, Taiwan(学术院资讯科技创新研究中心);Microsoft, Seattle, Washington, United States(微软公司)
PiVOT通过视觉提示机制提升目标跟踪性能,利用预训练模型生成和优化视觉提示以抑制干扰项。
2026-03-09 cs.AI cs.CV cs.MM
Improving Child Speech Recognition and Reading Mistake Detection by Using Prompts
Centre for Language Studies, Radboud University(拉德堡德大学语言研究中心)
本文提出结合音频与文本知识、通过提示增强 Whisper 和指令微调 LLM 的多模态方法,显著提升荷兰语儿童朗读语音识别及错误检测性能。
2025-06-04 cs.AI cs.CL cs.SD
Improving Zero-shot Visual Question Answering via Large Language Models with Reasoning Question Prompts
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团);Hefei University of Technology(合肥工业大学)
提出推理问题提示方法,通过生成自包含问题激活大语言模型在零样本视觉问答中的潜力,在多个数据集上显著提升性能。
2023-11-15 cs.AI cs.CV
Arena-T2I Hard: Benchmarking and Improving Faithfulness with Dependency-Aware Checklist
Arena Intelligence Inc;UCLA(加州大学洛杉矶分校)
针对现有忠实性基准在复杂指令上的不足,提出310条压力测试提示集Arena-T2I Hard,并设计依赖感知清单奖励结合美学奖励,显著提升文本到图像模型的忠实性-美学权衡。
2026-10-20 cs.AI
Learning to Prompt: Improving Student Engagement with Adaptive LLM-based High-School Tutoring
Leiden University(莱顿大学);FutureWhiz
提出一种基于14个教学特征的主题感知提示路由模型,通过模拟训练和在线A/B测试,在高中辅导中实现自适应策略切换,提高教学效率并减少交互轮次。
2026-08-27 cs.AI cs.CL cs.HC
TextBO: Bayesian Optimization in Language Space for Eval-Efficient Self-Improving AI
University of Washington(华盛顿大学)
TextBO是一种在语言空间中基于贝叶斯优化的评估高效自改进AI算法,通过结合文本梯度与最佳N选择策略,实现高效自改进。
2026-01-06 cs.AI
Improving LLM Classification of Logical Errors by Integrating Error Relationship into Prompts
Dongguk University(东国大学)
本研究定义了通用编程中的逻辑错误类型,提出利用Chain-of-Thought和Tree-of-Thought提示中错误类型间的关系来提升LLM对逻辑错误的检测与分类性能,平均提升约21%,并生成了新的逻辑错误基准数据集以辅助新手程序员。
2024-11-17 cs.AI cs.PL
We'll Fix it in Post: Improving Text-to-Video Generation with Neuro-Symbolic Feedback
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出NeuS-E框架,通过神经符号反馈提升文本到视频生成的语义和时间一致性,实验显示其在多种提示下提升了40%的对齐度。
2026-04-03 cs.AI cs.CV
Expressive Prompting: Improving Emotion Intensity and Speaker Consistency in Zero-Shot TTS
Tianjin Key Laboratory of Cognitive Computing and Application, College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部认知计算与应用天津市重点实验室);Kuaishou Technology Co., Ltd(快手科技有限公司);Institute of Artificial Intelligence, China Telecom(中国电信人工智能研究院);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Huiyan Technology (Tianjin) Co., Ltd(慧眼科技(天津)有限公司)
本文提出一种两阶段提示选择策略,通过评估提示的音调特征、感知音频质量和文本情感一致性,提升零样本语音合成的情感表达和说话人一致性。
2026-04-03 cs.AI cs.CL cs.SD
Improving Chain-of-Thought Efficiency for Autoregressive Image Generation
Meta Superintelligence Labs(Meta超智能实验室);Meta FAIR;Cornell University(康奈尔大学);Stony Brook University(石溪大学)
针对自回归图像生成中思维链的冗余问题,提出ShortCoTI轻量优化框架,通过自适应奖励强化学习将提示推理长度减少54%,同时保持或提升图像质量。
2025-10-07 cs.AI cs.CL cs.CV
Improving Physical Object State Representation in Text-to-Image Generative Systems
Boston University(波士顿大学);Runway
本文针对文本到图像模型难以准确表示对象物理状态的问题,提出自动合成数据生成流程并微调多个开源模型,在GenAI-Bench和自建数据集上分别取得平均8%以上和24%以上的显著改进。
2025-05-04 cs.AI cs.CV
Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·扎耶德人工智能大学)
本文提出自适应置信区间预测方法,用于提升大语言模型生成内容的事实性,通过改进置信度校准以提高条件覆盖性能。
2026-04-15 cs.AI cs.CL cs.LG
Instructional Segment Embedding: Improving LLM Safety with Instruction Hierarchy
Princeton University(普林斯顿大学);Zoom Video Communications(Zoom视频通讯)
针对LLM缺乏指令层次结构导致易受恶意提示攻击的问题,提出指令片段嵌入(ISE)技术,在架构层面将指令优先级直接嵌入模型,显著提升了模型的安全性与指令遵循能力。
2025-03-01 cs.AI cs.CL cs.CR
Improving Diversity of Demographic Representation in Large Language Models via Collective-Critiques and Self-Voting
Google Research(谷歌研究院);Google DeepMind(谷歌DeepMind)
本文形式化了生成式LLM中的表征多样性,提出评估数据集与指标,并基于模型对多样性的理解能力,提出集体批判与自投票(CCSV)提示技术,无需手工示例或提示调优即可大幅提升响应的人群与文化多样性。
2023-10-25 cs.AI cs.CL
Fairness-guided Few-shot Prompting for Large Language Models
Tencent(腾讯);Tianjin University(天津大学);Institute of High Performance Computing, A*STAR(A*STAR高性能计算研究所)
针对大型语言模型上下文学习因提示变化而不稳定的问题,提出基于预测偏差的公平性引导贪婪搜索策略以寻找近最优提示,有效且可解释地提升了GPT-3等模型在下游任务中的性能。
2023-03-31 cs.AI cs.CL
Layout-and-Retouch: A Dual-stage Framework for Improving Diversity in Personalized Image Generation
KAIST AI(韩国科学技术院人工智能学院);Letsur Inc.(莱瑟公司);Yonsei University(延世大学)
针对个性化文本到图像生成中提示保真度与身份保留的平衡难题,提出Layout-and-Retouch双阶段框架,通过步骤混合推理和多源注意力交换,在保留主体身份的同时提升生成多样性与适用性。
2024-07-13 cs.AI cs.CV
Bandit-Based Prompt Design Strategy Selection Improves Prompt Optimizers
Yokohama National University(横滨国立大学)
本文提出OPTS方法,通过显式选择提示设计策略提升EvoPrompt性能,采用Thompson采样机制在BIG-Bench Hard上验证效果,实现最优结果。
2025-07-11 cs.AI cs.CL cs.HC
Improving Quantized Model Performance in Qualitative Analysis with Multi-Pass Prompt Verification
University of Turku, Turku, Finland(图尔库大学,芬兰图尔库);Brilloconnetz Partners avoin yhtiö, Turku, Finland(Brilloconnetz Partners 有限公司,芬兰图尔库)
本文研究了不同位数量化级别和类型对LLaMA-3.1(8B)在定性分析中的性能影响,提出了一种量化感知的多轮提示验证方法以提高模型的稳定性和准确性,结果显示8位模型最接近黄金标准,4位模型在应用方法后变得稳定,3位和2位模型在提示设计和验证后性能有所提升。
2026-04-04 cs.AI cs.CL cs.LG
Embedding Geometry Shapes LLM Routing: Tracing Failure Modes and Improving Generalization
Massachusetts Institute of Technology(麻省理工学院);Texas A&M University(德克萨斯农工大学)
本研究针对LLM路由的泛化失效问题,提出用Qwen2.5-7B-Instruct的深层最后token隐藏状态替代语义嵌入,相关方法在RouterBench上优于基线及最优路由器。
2026-10-15 cs.AI cs.LG stat.ML
Is It Time To Treat Prompts As Code? A Multi-Use Case Study For Prompt Optimization Using DSPy
ALGORITMI Research Centre/LASI, University of Minho, Braga, 4710-057, Portugal(ALGORITMI研究中心/LASI,明霍大学,布拉加,4710-057,葡萄牙)
本文通过五个用例研究 DSPy 框架的程序化提示优化效果,发现其在提示评估等任务中显著提升性能,但效果因任务而异,提示需结合具体用例评估。
2025-07-04 cs.AI cs.CL cs.LG
Improving Radiology Summarization with Radiograph and Anatomy Prompts
Shenzhen Research Institute of Big Data, The Chinese University of Hong Kong(深圳市大数据研究院,香港中文大学(深圳));Pazhou Lab(琶洲实验室)
本研究提出一种解剖增强的多模态模型,利用X光片和解剖提示改进放射学印象自动生成,在基准数据集上达到最先进性能。
2023-12-27 cs.AI cs.CL cs.CV
Understanding and supporting how developers prompt for LLM-powered code editing in practice
University of California Irvine(加州大学尔布雷分校);Google(谷歌);Meta
本文研究开发者在使用LLM赋能代码编辑工具时的提示行为,发现频繁重新提示表明使用困难,并提出AutoPrompter工具通过推断缺失信息提升编辑正确性27%。
2025-12-19 cs.AI cs.HC cs.SE
Improving Cooperation in Collaborative Embodied AI
School of Mathematical and Computer Sciences(数学与计算机科学学院);Heriot-Watt University(赫里奥特-沃森大学)
本文改进CoELA框架,系统评估LLM与提示工程组合对多智能体协作决策的影响,并集成语音交互,最佳方案使Gemma3系统效率提升22%。
2025-10-03 cs.AI cs.MA cs.RO
CompAlign: Improving Compositional Text-to-Image Generation with a Complex Benchmark and Fine-Grained Feedback
Department of Computer Science University of California, Los Angeles(计算机科学系,加州大学洛杉矶分校)
本研究提出侧重3D空间关系评估的组合式T2I基准CompAlign、细粒度评估框架CompQuest及基于其反馈的对齐框架,验证了模型在复杂空间任务的不足与对齐方法的有效性。
2025-05-16 cs.AI cs.CL cs.CV
Improving Assessment of Tutoring Practices using Retrieval-Augmented Generation
Carnegie Mellon University(卡内基梅隆大学)
本文研究如何自动评估辅导教师的社会情感辅导策略能力,比较GPT-3.5/GPT-4的四种提示方法,发现基于RAG的提示在准确性、幻觉控制和成本上表现最佳。
2024-02-04 cs.AI cs.CL cs.CY
SIPDO: Closed-Loop Prompt Optimization via Synthetic Data Feedback
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Hong Kong University of Science and Technology(香港科学与技术大学);University of South Florida(佛罗里达州立大学)
SIPDO通过合成数据反馈闭环优化提示,提升提示性能并优于传统提示微调方法。
2026-01-27 cs.AI cs.CL cs.LG
Davidsonian Scene Graph: Improving Reliability in Fine-grained Evaluation for Text-to-Image Generation
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Washington(华盛顿大学);Google Research(谷歌研究院)
针对文本到图像评估中QG/A的不可靠问题,提出Davidsonian Scene Graph框架,生成原子且唯一的问题并组织为依赖图,确保语义覆盖并避免不一致答案,经实验验证有效,并发布含1,060个提示词的DSG-1k基准。
2024-03-13 cs.AI cs.CL cs.CV
GenAI-Bench: Evaluating and Improving Compositional Text-to-Visual Generation
Carnegie Mellon University(卡内基梅隆大学);Meta
该研究基于GenAI-Bench评估文本到视觉模型的组合生成能力,发现VQAScore指标优于现有方法,可通过黑盒排序提升生成效果,并发布含超8万条人类评分的基准以推动相关研究。
2024-11-03 cs.AI cs.CL cs.CV
DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines
Stanford University(斯坦福大学);UC Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学);IIT Bombay(印度理工学院孟买分校);Calera Capital(卡莱拉资本);Microsoft(微软);Two Sigma Investments(双西格玛投资公司);Amazon Alexa AI(亚马逊Alexa人工智能);Dashworks Technologies, Inc.(达什沃克斯技术公司)
针对现有LM管道依赖硬编码提示模板的问题,研究提出DSPy编程模型及编译器,可参数化优化LM管道,实验证明其在多任务上显著优于少样本提示及专家演示管道,小模型版本也能对标GPT-3.5的专家提示链方案。
2023-10-05 cs.AI cs.CL cs.IR