Multilingual Prompt Engineering in Large Language Models: A Survey Across NLP Tasks
New York University, CIMS（纽约大学）；Cleveland State University（克利夫兰州立大学）
本文综述多语言提示工程，按任务分类39种提示技术，分析覆盖约250种语言的36篇论文及30项NLP任务，并总结LLM、SoTA方法与跨语系资源差异。
2025-05-16 cs.AI cs.CL cs.LG
NLPBench: Evaluating Large Language Models on Solving NLP Problems
Waseda University（早稻田大学）；University of Tokyo（东京大学）；University of Washington（华盛顿大学）；Zhejiang Lab（之江实验室）；University of Science and Technology of China（中国科学技术大学）；University of Maryland（马里兰大学）
本文提出NLPBench基准数据集，包含378道大学水平NLP问题，评估GPT-3.5/4等LLMs结合CoT、ToT提示策略的表现，发现高级提示策略效果不稳定，且LLMs在逻辑分解和推理方面存在缺陷。
2023-10-19 cs.CL
An Empirical Evaluation of Prompting Strategies for Large Language Models in Zero-Shot Clinical Natural Language Processing
University of Pittsburgh（匹兹堡大学）
本文对GPT-3.5、BARD和LLAMA2在五个零样本临床NLP任务上的提示工程进行了系统评估，提出了启发式和集成提示，并对比零样本与少样本提示，为临床NLP的提示设计提供了新见解。
2023-09-14 cs.AI cs.CL
FLEX: Unifying Evaluation for Few-Shot NLP
Allen Institute for AI（艾伦人工智能研究院）
Few-Shot NLP研究非常活跃，但在不相交的研究线程中进行，评估套件缺乏挑战性但现实的测试设置，并且未能采用仔细的实验设计。因此，社区不知道哪些技术表现最好，甚至不知道它们是否优于简单的基线。作为回应，我们制定了FLEX原则，这是一套统一、严格、有效和成本敏感的Few-Shot NLP评估的要求和最佳实践。这些原则包括样本量设计，这是一种新的基准设计方法，可以优化统计准确性和精度，同时保持评估成本可控。遵循这些原则，我们发布了FLEX基准测试，其中包括四个Few-Shot传输设置，zero-shot评估和一个涵盖各种NLP任务的公共排行榜。此外，我们提出了UniFew，一个基于机器学习的少样本学习模型，它统一了预训练和微调提示格式，避免了最近基于机器学习的方法在适应下游任务格式到语言模型预训练目标方面的复杂机制。我们证明，尽管简单，UniFew取得的结果与流行的元学习和基于机器学习的方法相竞争。
2021-11-08 cs.CL cs.LG
Context-faithful Prompting for Large Language Models
University of Southern California（南加州大学）；Microsoft Research（微软研究院）
本文研究如何通过基于观点的提示和反事实演示两种无需额外训练的提示策略，提升大型语言模型在知识冲突和带弃权预测场景下的上下文忠实度，并在机器阅读理解和关系抽取任务上验证了其有效性。
2023-10-23 cs.CL
Thinking Outside of the Differential Privacy Box: A Case Study in Text Privatization with Language Model Prompting
Technical University of Munich（慕尼黑工业大学）；School of Computation, Information and Technology（计算、信息与技术学院）
本文以DP-Prompt为案例，通过多场景重写实验和效用与隐私评估，批判性审视差分隐私在NLP中的限制，呼吁重新讨论其可用性与相对优势。
2024-10-01 cs.CL
PromptFix: Few-shot Backdoor Removal via Adversarial Prompt Tuning
School of Information Science & Technology, Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）；Department of Computer Science, Stony Brook University（石溪大学计算机科学系）
本文提出PromptFix，一种少样本场景下通过对抗性提示调优移除NLP模型后门的方法，保持模型参数不变，仅用两组软令牌近似并抵消触发词，在多种攻击和领域偏移下验证了有效性。
2024-06-06 cs.CL cs.LG
Generative Large Language Models Are All-purpose Text Analytics Engines: Text-to-text Learning Is All Your Need
University of Florida（佛罗里达大学）；University of Florida Health Cancer Center（佛罗里达大学健康癌症中心）；NVIDIA（英伟达公司）
该研究将7项临床NLP任务统一为文本到文本学习，利用200亿参数GatorTronGPT和软提示调优，在5项任务上达到最先进水平。
2023-12-11 cs.CL
Exploring Universal Intrinsic Task Subspace via Prompt Tuning
Tsinghua University（清华大学）；Tencent Inc.（腾讯公司）
为什么预训练的语言模型（PLM）可以学习通用表示，并有效地适应表面上差异很大的广泛NLP任务？在这项工作中，我们经验性地发现证据表明，PLM对各种Few-Shot任务的适应性可以重新参数化为在统一的低维内在任务子空间中优化少数自由参数，这可能有助于我们理解为什么PLM可以轻松地适应各种小规模数据的NLP任务。为了找到这样一个子空间，并检查其普适性，我们提出了一个分析管道称为内在提示微调（IPT）。具体来说，我们诉诸最近成功的提示微调和多个NLP任务的软提示分解到相同的低维非线性子空间，然后我们学习适应PLM看不见的数据或任务，只有调整参数在这个子空间。在实验中，我们研究了不同的Few-Shot NLP任务，并惊讶地发现，在一个250维的子空间中，100个任务，通过调整250个自由参数，我们可以恢复97%和83%的完整提示微调性能（使用不同的训练数据）和20个看不见的任务，分别显示了所发现的内在任务子空间的强大泛化能力。IPT除了作为一种分析工具外，还可以进一步帮助我们提高提示微调的稳定性。
2022-11-25 cs.AI cs.CL
Promptly Predicting Structures: The Return of Inference
Kahlert School of Computing, University of Utah（犹他大学卡勒特计算学院）；University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）
本文提出利用结构约束和组合推理过滤大语言模型预测的不一致结构，从而构建零样本和少样本语言结构预测器，并在多个任务和数据集上验证其能提升结构有效性与预测性能。
2024-03-29 cs.CL
Towards Sustainable NLP: Insights from Benchmarking Inference Energy in Large Language Models
Indian Institute of Technology（印度理工学院）；Indian Statistical Institute（印度统计研究所）；Accenture Labs（埃森哲实验室）
本文针对LLM推理高成本问题，跨多类NLP任务基准测试模型、任务、提示与系统因素的能耗影响，发现能耗与输出长度、响应时间强相关，并提出量化、批大小和提示优化建议。
2025-03-15 cs.CL
Prompt2Model: Generating Deployable Models from Natural Language Instructions
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
针对大语言模型部署成本高、受API限制的问题，提出Prompt2Model方法，基于自然语言提示词通过检索生成数据、微调训练出更小性能更优的专用可部署NLP模型并开源。
2023-08-23 cs.CL
Has It All Been Solved? Open NLP Research Questions Not Solved by Large Language Models
University of Michigan（密歇根大学）
本文针对“LLM已解决一切”的误解，汇编了14个研究领域共45个LLM无法直接解决的NLP开放研究方向，旨在为研究者提供探索指引。
2024-03-15 cs.AI cs.CL
NLPerturbator: Studying the Robustness of Code LLMs to Natural Language Variations
Zhejiang University（浙江大学）；York University（约克大学）
本文系统研究了代码大语言模型对现实场景中自然语言描述变化的鲁棒性，提出自动化扰动框架NLPerturbator，涵盖18类扰动，并通过六个模型的实验证明扰动提示可显著降低代码生成性能。
2024-06-28 cs.CL cs.SE
Prompt Consistency for Zero-Shot Task Generalization
University of Southern California（南加州大学）；University of California San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）
最近NLP历史上最令人印象深刻的结果之一是预先训练的语言模型在zero-shot设置中解决新任务的能力。为了实现这一点，NLP任务被构建为自然语言提示，生成指示预测输出的响应。尽管如此，在这种环境中的表现往往远远落后于其监督的同行，这表明有很大的改进空间。在本文中，我们探索的方法，利用未标记的数据，以提高zero-shot性能。具体来说，我们利用的事实，多个提示可以用来指定一个单一的任务，并建议定期提示的一致性，鼓励一致的预测在这个不同的提示。我们的方法使得有可能微调的模型，无论是额外的未标记的训练数据，或直接在测试输入的推理时间在一个无监督的方式。在实验中，我们的方法优于最先进的zero-shot学习器T0（Sanh等人，2022年），在4个NLP任务的11个数据集中有9个数据集的准确率高达10.6个绝对点。增益通常是通过少量未标记的示例来实现的。
2022-12-27 cs.CL cs.LG
Clinical Prompt Learning with Frozen Language Models
NIHR Oxford Health Biomedical Research Centre（NIHR牛津健康生物医学研究中心）；University of Oxford（牛津大学）
提示学习是自然语言处理（NLP）领域的一种新范式，它在许多自然语言任务中表现出令人印象深刻的性能，这些任务使用完整，Few-Shot和zero-shot训练评估设置中的常见基准测试文本数据集。最近，人们甚至观察到，具有快速学习的大型但冻结的预训练语言模型（PLM）优于较小但微调的模型。然而，与许多最近的NLP趋势一样，即使是最大的PLM（如GPT-3）的性能在专业领域（例如医学文本）上也表现不佳，并且实现最新技术水平（SoTA）结果的常见做法仍然包括对下游任务的PLM进行预训练和微调。在数据通常保存在非GPU环境中的临床环境中，依赖于微调大型PLM是有问题的，并且训练专用领域模型的更资源有效的方法是至关重要的。我们研究了快速学习在临床上有意义的决策任务上的可行性，并直接与更传统的微调方法进行了比较。结果部分地与快速学习文献一致，快速学习能够匹配或改进传统的微调，具有显著更少的可训练参数，并且需要更少的训练数据。我们认为，及时学习，因此提供了较低的计算资源成本适用于临床设置，可以作为一种替代微调不断增加的大小PLM。可以在https://github.com/NtaylorOX/Public_Clinical_Prompt上找到复制本工作中所提出的实验的补充代码。
2022-05-11 cs.CL
Exploring Prompting Large Language Models as Explainable Metrics
School of Computer Engineering（计算机工程学院）；Iran University of Science and Technology（伊朗科技大学）
本文提出基于零样本提示的大型语言模型评估策略，用于文本摘要任务的可解释评估，其最佳提示在测试数据上与人类评估达到0.477的Kendall相关性。
2023-11-20 cs.AI cs.CL cs.LG
Probing Large Language Models in Reasoning and Translating Complex Linguistic Puzzles
National Taiwan University（台湾大学）
本文探究了GPT-4在解决复杂语言学谜题中的推理与翻译能力，通过评估IO、CoT和SPP三种提示技术，发现LLMs具备潜力但仍有局限，为优化NLP应用提供了见解。
2025-02-02 cs.CL
Edinburgh Clinical NLP at MEDIQA-CORR 2024: Guiding Large Language Models with Hints
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Usher Institute, University of Edinburgh（爱丁堡大学厄舍研究所）；Edinburgh Futures Institute, University of Edinburgh（爱丁堡未来研究所）；School of Literatures, Languages and Cultures, University of Edinburgh（爱丁堡大学文学、语言与文化学院）
本研究通过提示策略和错误跨度预测提示，显著提升GPT-3.5和GPT-4在临床笔记中识别和纠正医疗错误的能力，最佳方案在MEDIQA-CORR 2024排行榜中排名第六。
2024-05-28 cs.AI cs.CL
IDRAAK: From Multi-Agent NLP to Few-Shot Prompting for Semantic Drift Detection in Technical Requirements
Stony Brook University（石溪大学）
IDRAAK是基于语义需求表示的可解释框架，通过含6个少样本示例的LLM单次调用检测技术需求语义漂移，性能优于多种替代方案，证明少样本提示是高效替代方法。
2026-08-11 cs.AR cs.CL cs.ET
HealthPrompt: A Zero-shot Learning Paradigm for Clinical Natural Language Processing
University of Pittsburgh（匹兹堡大学）
深度学习算法依赖于大规模注释临床文本数据集的可用性。缺乏这种公开可用的数据集是临床自然语言处理（NLP）系统发展的最大瓶颈。零样本学习（Zero-Shot Learning，缩写为ZRL）是指使用深度学习模型对来自新类别的实例进行分类，这些新类别中以前没有见过训练数据。基于任务的学习是一种新兴的NLP技术，我们为NLP任务定义了基于任务的模板。我们开发了一个新的基于机器学习的临床NLP框架，称为HealthPrompt，并将基于机器学习的范式应用于临床文本。在这种技术中，不是微调预训练的语言模型（PLM），而是通过定义提示模板来调整任务定义。我们在没有数据的情况下对六个不同的PLM进行了深入的HealthPrompt分析。我们的实验证明，提示有效地捕捉临床文本的上下文，并表现得非常好，没有任何训练数据。
2022-03-09 cs.AI cs.CL cs.IR
EPA: Easy Prompt Augmentation on Large Language Models via Multiple Sources and Multiple Targets
The Chinese University of Hong Kong（香港中文大学）
本文提出EPA方法，通过多源多目标释义自动增强提示示例，减少用户编写负担的同时提升LLMs在NLU和NLG任务上的性能。
2023-09-09 cs.CL
CoDa: Constrained Generation based Data Augmentation for Low-Resource NLP
University of Maryland（马里兰大学）；NVIDIA（英伟达公司）
CoDa通过从低资源数据中提取简单约束并提示大语言模型生成多样化训练样本，实现无需训练的可控数据增强，在11个数据集上优于基线方法。
2024-03-30 cs.CL
LM-CPPF: Paraphrasing-Guided Data Augmentation for Contrastive Prompt-Based Few-Shot Fine-Tuning
Google DeepMind（谷歌DeepMind）；Tehran Institute for Advanced Studies, Khatam University（德黑兰高级研究学院，哈塔姆大学）
针对预训练语言模型小数据集微调效果差的问题，提出LM-CPPF方法，借助大语言模型的少样本释义能力做数据增强，结合对比提示微调，在多个文本分类基准上优于现有增强方法。
2023-07-05 cs.CL
The Evolution of Natural Language Processing: How Prompt Optimization and Language Models are Shaping the Future
RPTU Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau（莱茵-普法尔茨理工大学）；German Research Centre for Artificial Intelligence（德国人工智能研究中心）
本文综述提示优化策略，将其分为11类，分析工作范式、应用任务及评估基准，旨在填补全面分析空白，为未来比较研究和创新预测器开发奠定基础。
2025-06-21 cs.AI cs.CL
Sensitivity, Performance, Robustness: Deconstructing the Effect of Sociodemographic Prompting
Technical University of Darmstadt（达姆施塔特工业大学）；University of Hamburg（汉堡大学）
本研究通过最大规模实验，分析社会人口统计提示对模型敏感性、性能和鲁棒性的影响，发现其可提升主观NLP任务的零样本学习，但效果因模型和数据集而异，在敏感应用中需谨慎使用。
2024-02-08 cs.AI cs.CL
Understanding BLOOM: An empirical study on diverse NLP tasks
Fidelity Investments（富达投资）
我们通过最近发布的BLOOM模型的镜头来查看大语言模型（LLM）的前景，以了解BLOOM和其他仅解码器LLM与BERT风格的仅编码器模型相比的性能。我们通过在几个NLP基准数据集和流行排行榜上评估较小的BLOOM模型变体（\textit{350m/560m}和\textit{1b3/1b7}）来实现这一点。我们做了以下观察：（1）与GPT和BERT等其他LLM不同，BLOOM性能不随参数大小而变化。对BLOOM模型进行微调的实验表明，560 m变体的性能与1b 7变体相似或更好，（2）Zero-shot跨语言和多语言微调实验表明，BLOOM与单语言GPT-2模型相当或更差，（3）使用RealToxicityProblems数据集对基于Problems的文本生成进行毒性分析，结果表明，由BLOOM生成的文本至少有17%毒性低于GPT-2和GPT-3模型。
2023-03-15 cs.CL
Prompt Tuning for Discriminative Pre-trained Language Models
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；National University of Singapore（新加坡国立大学）；Tencent（腾讯）
最近的工作表明，在刺激预训练的语言模型（PLM）的自然语言处理（NLP）任务的提示微调有前途的结果。然而，据我们所知，现有的工作集中在预训练生成目标令牌，如BERT的自动调整生成PLM。目前还不清楚是否以及如何区分PLM，例如，ELECTRA，可以有效地调谐。在这项工作中，我们提出了DPT，歧视性PLM的第一个提示微调框架，它将NLP任务重新表述为歧视性语言建模问题。文本分类和问答的综合实验表明，与普通的微调相比，DPT的性能显著提高，同时也避免了在全集合和低资源环境下调优大型PLM时出现的不稳定问题。本文的源代码和实验细节可以从https://github.com/thunlp/DPT获得。
2022-05-23 cs.AI cs.CL
NLD-LLM: A systematic framework for evaluating small language transformer models on natural language description
Faculty of Computer Science（计算机科学学院）；University of New Brunswick（新不伦瑞克大学）
提出NLD-LLM框架，系统评估多种小型Transformer模型在自然语言描述任务上的性能，发现提示工程能显著提升小模型效果。
2025-10-01 cs.CL
From Code-Centric to Concept-Centric: Teaching NLP with LLM-Assisted "Vibe Coding"
College of Computer and Information Sciences（计算机与信息科学学院）；King Saud University（沙特国王大学）
本文提出利用LLM辅助的
2026-02-02 cs.CL
Don't Stop Pretraining? Make Prompt-based Fine-tuning Powerful Learner
University College London（伦敦大学学院）
本研究针对传统持续预训练对基于提示的微调增益不稳定的问题，提出融合指令微调思想的基于提示的持续预训练（PCP），在21个基准上稳定提升性能，且方法更简洁。
2023-10-06 cs.CL
Benchmarking Large Language Models on Multiple Tasks in Bioinformatics NLP with Prompting
The Chinese University of Hong Kong（香港中文大学）；The University of Hong Kong（香港大学）；Shanghai AI Lab（上海人工智能实验室）
本文提出基于提示的综合基准框架Bio-benchmark，在30项生物信息学任务上评估GPT-4o等六个主流LLM，并开发答案提取工具BioFinder将准确率提升约30%，揭示了模型能力并提出了优化策略。
2025-03-06 cs.AI cs.CL
Can Large Language Models Truly Understand Prompts? A Case Study with Negated Prompts
KAIST（韩国科学技术院）
先前的工作已经表明，语言模型（LM）的大小和它们在不同下游NLP任务上的zero-shot性能之间存在缩放定律。在这项工作中，我们表明，这种现象不举行时，评估大型LM的任务与否定提示，而是显示了逆缩放定律。我们评估9个不同的任务与否定提示（1）预先训练的LM（OPT & GPT-3）不同尺寸（125 M-175 B），（2）LM进一步预训练以概括新提示（3）提供有Few-Shot示例的LM，以及（4）专门针对否定提示进行微调的LM;所有LM类型在否定提示上的表现都更差，因为它们缩放并且当比较原始提示和否定提示的平均分数时，在人的表现之间显示出巨大的表现差距。通过强调现有LM和方法的关键限制，我们敦促社区开发实际遵循给定指示的开发LM的新方法。我们在https://github.com/joeljang/negated-prompts-for-llms上提供了代码和数据集来探索否定提示
2022-09-26 cs.CL
Protum: A New Method For Prompt Tuning Based on "[MASK]"
University of Electronic Science and Technology of China（电子科技大学）；Shenzhen Institute for Advanced Study, UESTC（电子科技大学深圳高等研究院）；University of Electronic Science and Technology of China, Chengdu, China（电子科技大学成都校区）
近年来，提示微调\cite{lester2021power}逐渐成为自然语言处理的一种新范式，它通过冻结预先训练好的语言模型（PLM）的参数，仅依赖于单词的表示，从而在下游任务中获得出色的性能。在预训练过程中保持了MLM（Masked语言模型）\cite{devlin2018bert}任务的一致性，避免了微调过程中可能出现的问题。自然地，我们认为“[MASK]”标记比其他标记携带更多有用的信息，因为模型结合上下文来预测被屏蔽的标记。在现有的提示微调方法中，当预测多个单词时，会存在严重的随机组合问题，需要借助帮助动词化器将单词映射到标签上。针对上述问题，本文提出了一种新的基于“[ \textbf{M} ASK]”的\textbf{Pro} mpt \textbf{Tu} ning（\textbf{Protum}）方法，该方法通过“[MASK]”标记的隐藏层所携带的信息构造分类任务，然后直接预测标签而不是答案标记.与此同时，我们探索了“[MASK]”下的不同隐藏层如何影响我们在许多不同数据集上的分类模型。最后，我们发现，我们的\textbf{Protum}可以实现更好的性能比微调后，连续的预训练，更少的时间消耗。我们的模型促进了NLP中大型模型的实际应用。
2022-01-28 cs.CL
Multitask Prompt Tuning Enables Parameter-Efficient Transfer Learning
The Ohio State University（俄亥俄州立大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Massachusetts Institute of Technology（麻省理工学院）
提示微调，其中通过对学习的提示向量进行调节来使基本预训练模型适应每个任务，已经成为一种有前途的方法，用于有效地使大语言模型适应多个下游任务。然而，现有的方法通常从头开始学习软提示向量，并且还不清楚如何在多任务学习设置中利用提示向量来利用丰富的跨任务知识。我们提出了多任务提示微调（MPT），它首先学习一个单一的可转移的提示，从多个任务特定的源提示提取知识。然后，我们学习乘法低秩更新这个共享提示，以有效地适应每个下游目标任务。在23个NLP数据集上进行的大量实验表明，我们提出的方法优于最先进的方法，包括在某些情况下的完整微调基线，尽管只调整了0.035%的任务特定参数。
2023-03-06 cs.CL
Who Wrote it and Why? Prompting Large-Language Models for Authorship Verification
Singapore University of Technology and Design（新加坡科技设计大学）
本文提出PromptAV，利用大型语言模型和逐步文体测量提示进行作者身份验证，在有限数据下优于现有方法并增强可解释性。
2023-10-12 cs.CL
From Instruction to Output: The Role of Prompting in Modern NLG
Faculty of Information Technology, Monash University（莫纳什大学信息科技学院）；School of Computer, Data and Mathematical Sciences, Western Sydney University（西澳大学计算机、数据与数学科学学院）；School of Computing, Macquarie University（麦考瑞大学计算学院）
本文探讨了提示工程在自然语言生成中的作用，提出了提示范式的分类和决策框架，旨在提升NLG的可控性和可推广性。
2026-01-21 cs.AI cs.CL
LLM-Augmented Symptom Analysis for Cardiovascular Disease Risk Prediction: A Clinical NLP
University of Houston（休斯顿大学）；Columbia University（哥伦比亚大学）；University of Michigan（密歇根大学）；Carnegie Mellon University（卡内基梅隆大学）；University of California, Riverside（加州大学河滨分校）
本研究提出一种LLM增强的临床NLP流水线，结合领域微调、提示推理与实体感知技术，从临床文本中提取症状并预测心血管疾病风险，在多个数据集上表现优异且具高临床相关性。
2025-07-15 cs.AI cs.CL
Do prompt positions really matter?
School of Electronics and Computer Science（电子与计算机科学学院）；University of Southampton（南安普顿大学）
本文通过全面实证分析多种NLP任务，发现提示位置显著影响模型性能，且先前常用位置常为次优，提出提示位置优化和位置感知指令微调作为未来重要研究方向。
2024-06-28 cs.CL
Exploring Embedding Priors in Prompt-Tuning for Improved Interpretability and Control
New York University（纽约大学）
本文研究了提示调优中嵌入坍缩现象对模型性能的影响，提出嵌入先验以提升可解释性和可控性，并发现不同激活区域的嵌入能有效提升任务表现。
2026-03-09 cs.CL cs.LG
S2LPP: Small-to-Large Prompt Prediction across LLMs
University of Edinburgh（爱丁堡大学）；Amazon Alexa AI（亚马逊Alexa人工智能）；HKUST（香港科技大学）
本研究提出S2LPP方法，利用不同规模LLM的提示偏好一致性，通过小模型为大模型选择有效提示模板，降低成本并保持性能，在十四个LLM和多种NLP任务上验证了鲁棒性。
2025-05-26 cs.CL
Pre-trained Language Models Can be Fully Zero-Shot Learners
UC Santa Barbara（加州大学圣巴巴拉分校）；Microsoft（微软）
本文提出非参数提示预训练语言模型NPPrompt，仅利用预训练语言模型实现完全零样本语言理解，无需标注数据、额外语料或人工构建提示标签词，在文本分类和GLUE基准上显著超越此前最佳的完全零样本方法。
2023-05-26 cs.CL
A Communication Theory Perspective on Prompting Engineering Methods for Large Language Models
AI Group, WeBank Co., Ltd（微众银行AI团队）
本文从通信理论视角系统梳理大语言模型提示工程方法，分析其在四类典型任务中的发展趋势，并为未来提示工程研究指明方向。
2023-10-24 cs.AI cs.CL
uTeBC-NLP at SemEval-2024 Task 9: Can LLMs be Lateral Thinkers?
University of Tehran（德黑兰大学）；University of British Columbia（不列颠哥伦比亚大学）；Khatam University（哈塔姆大学）；Tehran Institute for Advanced Studies（德黑兰高等研究院）
本文在 SemEval-2024 句子谜题任务中比较 CoT、直接提示、信息性描述与 RAG 等方法，发现压缩提示、动态上下文学习及思维路径微调可显著提升 LLM 的横向推理能力。
2024-04-03 cs.AI cs.CL cs.IR
EFPC: Towards Efficient and Flexible Prompt Compression
Huawei Technologies（华为技术有限公司）
本文提出EFPC方法，通过统一任务感知与任务无关的提示压缩，利用GPT-4生成压缩提示并结合原始提示训练，以极少数据在LongBench上显著超越LLMLingua-2，实现高效灵活的提示压缩。
2025-03-11 cs.AI cs.CL
GPTA: Generative Prompt Tuning Assistant for Synergistic Downstream Neural Network Enhancement with LLMs
University of California, Davis（加利福尼亚大学戴维斯分校）；IFM Lab（IFM实验室）
本研究提出GPTA框架，通过前缀提示和“对话梯度”协同训练下游模型与大语言模型，在六个NLP基准上提升性能并缓解低资源过拟合，提供了一种安全、低成本且自适应的训练方案。
2024-03-29 cs.CL
SSP: Self-Supervised Prompting for Cross-Lingual Transfer to Low-Resource Languages using Large Language Models
Indian Institute of Technology（印度理工学院）
本文提出自监督提示（SSP）方法，通过两阶段利用源中等资源语言数据和目标语言未标注测试数据生成噪声示例，并结合整数线性规划进行示例选择，显著提升了零标注跨语言迁移下低资源语言NLP任务的性能。
2024-06-27 cs.CL
M-Ped: Multi-Prompt Ensemble Decoding for Large Language Models
Huawei Translation Services Center（华为翻译中心）
本文提出多提示集成解码方法M-Ped，通过批处理内平均多个提示变体的概率分布生成token，显著提升了LLMs在翻译、代码生成等任务上的性能。
2024-12-24 cs.AI cs.CL
Native vs Non-Native Language Prompting: A Comparative Analysis
Qatar Computing Research Institute（卡塔尔计算研究所）；Qatar University（卡塔尔大学）；Qatar University of Doha for Science and Technology（多哈科学技术卡塔尔大学）；Liverpool John Moores University（利物浦约翰摩尔大学）；Carnegie Mellon University in Qatar（卡塔尔卡内基梅隆大学）
本研究针对阿拉伯语这一中低资源语言，通过197组实验对比母语、非母语、混合三种提示策略在11项NLP任务上的表现，发现非母语提示效果最优。
2024-10-06 cs.AI cs.CL
GCoT: Chain-of-Thought Prompt Learning for Graphs
Singapore Management University（新加坡国立管理大学）；University of Science and Technology of China（中国科学技术大学）
本文提出首个面向无文本图的思维链提示学习框架GCoT，通过将下游任务分解为多步推理、思考生成和条件提示学习，在八个数据集上验证了其有效性。
2025-06-02 cs.AI cs.CL
Quantifying the Persona Effect in LLM Simulations
University of Cambridge（剑桥大学）
本文量化人格变量对 LLM 模拟人类主观标注的影响，发现其解释方差不足10%，但人格提示可带来统计显著改进，并与人格—标注相关性呈线性关系。
2024-06-17 cs.CL cs.CY
A Practical Survey on Zero-shot Prompt Design for In-context Learning
Columbia University（哥伦比亚大学）
本文综述了面向上下文学习的零样本提示设计方法，系统梳理离散、连续、少样本和零样本提示及手动设计、优化算法和评估策略，为高效利用LLM完成NLP任务提供指导。
2023-09-22 cs.AI cs.CL cs.ET
Evaluation of ChatGPT for NLP-based Mental Health Applications
大语言模型（LLM）在几个自然语言理解任务中取得了成功，并可能与基于自然语言处理（NLP）的心理健康应用研究相关。在这项工作中，我们报告了基于LLM的ChatGPT（具有gpt-3.5-turbo后端）在三个基于文本的心理健康分类任务中的性能：压力检测（2类分类），抑郁检测（2类分类）和自杀检测（5类分类）。我们从公共数据集中获得了三个分类任务的注释社交媒体帖子。然后ChatGPT API对社交媒体帖子进行分类，并输入分类提示。我们获得的F1分数为0.73，0.86，0.37压力检测，抑郁检测，自杀倾向检测，分别。一个总是预测优势类的基线模型导致F1得分为0.35，0.60和0.19。使用ChatGPT获得的zero-shot分类精度表明语言模型在心理健康分类任务中的潜在用途。
2023-03-28 cs.AI cs.CL
Prompting or Fine-tuning? A Comparative Study of Large Language Models for Taxonomy Construction
McGill University（麦吉尔大学）；Linköping University（林雪平大学）
本研究比较了提示与微调两种方法在分类体系构建中的性能，发现提示方法在无显式训练时更优，但微调方法更易满足结构约束，为方法选择提供指导。
2023-09-04 cs.CL cs.LG
