R$^3$ Prompting: Review, Rephrase and Resolve for Chain-of-Thought Reasoning in Large Language Models under Noisy Context
East China Normal University(华东师范大学);Singapore Management University(新加坡管理大学);Alibaba Group(阿里巴巴集团)
针对大型语言模型在噪声上下文中推理不准确的问题,提出R$^3$ prompting交互式提示方法,通过关键句提取、变量声明和答案预测三步提升推理准确率,实验证明其鲁棒性与泛化能力。
2023-10-25 cs.AI cs.CL
Cross-lingual Prompting: Improving Zero-shot Chain-of-Thought Reasoning across Languages
Central South University(中南大学);Harbin Institute of Technology(哈尔滨工业大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
针对零样本思维链推理局限于单一语言的问题,提出跨语言提示CLP及跨语言自洽提示CLSP,通过跨语言对齐与任务特定求解生成推理路径,在多个基准上达到最先进性能。
2023-10-23 cs.AI cs.CL
LSTPrompt: Large Language Models as Zero-Shot Time Series Forecasters by Long-Short-Term Prompting
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research Asia(微软亚洲研究院)
本文提出LSTPrompt方法,将时间序列预测分解为短期和长期子任务并定制提示,引导大语言模型定期重新评估预测机制,在零样本TSF任务中取得优于现有提示方法且可比肩基础TSF模型的性能。
2024-02-25 cs.AI cs.CL
On Few-Shot Prompting for Controllable Question-Answer Generation in Narrative Comprehension
Faculty of Engineering of the University of Porto (FEUP)(葡萄牙波尔图大学工程学院);Artificial Intelligence and Computer Science Laboratory (LIACC)(人工智能与计算机科学实验室)
本文提出少样本提示方法,从儿童叙事文本中控制生成问答对的显式性与叙事元素,并通过与参考模型对比验证其在语义接近度、多样性和连贯性上的优势。
2024-04-03 cs.AI cs.CL
Automatic Multi-Label Prompting: Simple and Interpretable Few-Shot Classification
New York University(纽约大学);University of California, San Diego(加州大学圣地亚哥分校)
基于知识的学习(即,提示)是一种用于利用由预训练的语言模型学习的知识的新兴范例。在本文中,我们提出了自动多标签标注(AMuLaP),一个简单而有效的方法来自动选择标签映射的Few-Shot文本分类提示。我们的方法利用一对多的标签映射和一个基于代数的算法来选择标签映射给出一个提示模板。我们的实验表明,AMuLaP达到竞争力的性能,在没有人力或外部资源的情况下,在GLUE基准。
2022-04-14 cs.AI cs.CL cs.LG
Diverge to Induce Prompting: Multi-Rationale Induction for Zero-Shot Reasoning
Department of Computer Science and Information Engineering, National Taiwan University, Taiwan(国家台湾大学计算机科学与信息工程系);Institute of Information Science, Academia Sinica, Taiwan(学术院信息科学研究所);AI Research Center (AINTU), National Taiwan University, Taiwan(国家台湾大学人工智能研究中心(AINTU))
本研究提出DIP框架,通过生成多个多样化的高层理由并诱导最终计划,以提升零样本推理的准确性,克服了传统链式思考提示中推理路径不稳定的问题。
2026-02-08 cs.AI cs.CL
Retrieval augmented generation based dynamic prompting for few-shot biomedical named entity recognition using large language models
Department of Biomedical Informatics, School of Medicine, Emory University(生物医学信息学系,医学院,埃默里大学);Department of Computer Science, Emory University(计算机科学系,埃默里大学);National Library of Medicine, National Institutes of Health(国家医学图书馆,国立卫生研究院);Department of Biomedical Engineering, Georgia Institute of Technology and Emory University(生物医学工程系,佐治亚理工学院和埃默里大学)
本文提出基于RAG的动态提示策略,通过根据输入文本相似度选择上下文学习示例并动态更新提示,有效提升了LLMs在少样本生物医学NER任务上的性能。
2025-07-25 cs.AI cs.CL
Enhancing Zero-shot Chain of Thought Prompting via Uncertainty-Guided Strategy Selection
Microsoft Corporation(微软公司)
针对零样本 CoT 提示中人工示例成本高、触发短语不可靠的问题,提出 ZEUS,利用不确定性估计选择有效示例,并在四个推理基准上持续优于现有策略。
2024-12-06 cs.AI cs.CL
The Art of Prompting: Event Detection based on Type Specific Prompts
Virginia Tech(弗吉尼亚理工大学);WeChat AI(微信人工智能)
我们比较各种形式的提示,以表示事件类型,并开发一个统一的框架,将事件类型的具体提示监督,Few-Shot,和zero-shot事件检测。实验结果表明,一个定义良好的和全面的事件类型提示可以显着提高事件检测的性能,特别是当注释的数据是稀缺的(Few-Shot事件检测)或不可用(zero-shot事件检测)。通过利用事件类型的语义,我们的统一框架显示出比以前最先进的基线高出24.3%的F分数。
2022-04-14 cs.AI cs.CL
Self-Prompting Large Language Models for Zero-Shot Open-Domain QA
Shanghai Jiao Tong University(上海交通大学);SJTU-Paris Elite Institute of Technology, Shanghai Jiao Tong University(上海交通大学巴黎卓越工程师学院);School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University(上海交通大学电子信息与电气工程学院)
本文提出自提示框架,通过让大语言模型从零生成伪问答对及背景解释用于上下文学习,在零样本开放域问答上显著超越现有方法并接近全数据微调模型性能。
2024-03-28 cs.AI cs.CL
Enhancing Text Annotation through Rationale-Driven Collaborative Few-Shot Prompting
Institute of Artificial Intelligence and Future Networks, Beijing Normal University(北京师范大学人工智能与未来网络研究院);Hong Kong Baptist University(香港浸会大学);BNU-HKBU United International College(北京师范大学-香港浸会大学联合国际学院);College of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院)
针对传统文本标注成本高、易有偏差的问题,提出基于推理依据的协同少样本提示技术,经多数据集多模型验证该方法优于传统少样本等基线,为高效文本标注提供框架参考。
2024-09-15 cs.AI cs.CL
DaVinci at SemEval-2024 Task 9: Few-shot prompting GPT-3.5 for Unconventional Reasoning
IIIT Hyderabad(印度信息技术学院海得拉巴分校)
本文面向 SemEval-2024 BRAINTEASER 的句子谜题与词语谜题,采用 GPT-3.5 少样本提示完成非常规推理,并依据两项排行榜成绩分析两类任务差异。
2024-05-19 cs.AI cs.CL
Dynamic Strategy Chain: Dynamic Zero-Shot CoT for Long Mental Health Support Generation
Jiangxi University of Finance and Economics(江西财经大学)
针对零样本思维链提示在心理健康长咨询文本生成中缺乏策略、无法个性化的问题,提出动态策略链方法,通过GPT2动态生成适配策略引导大模型生成回复,性能优于传统零样本思维链方法。
2023-08-21 cs.AI cs.CL cs.HC
Evaluating Prompting Strategies for Chart Question Answering with Large Language Models
Georgia State University, Atlanta GA, USA(佐治亚州立大学)
本文系统评估了四种提示策略在图表问答任务中的表现,发现Few-Shot Chain-of-Thought策略在准确性和格式遵循上表现最佳,为结构化数据推理任务提供了选择提示策略的指导。
2026-03-03 cs.AI cs.CL cs.LG
Multi-Target Few-Shot Prompting with Diffusion Language Models
University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究针对少样本提示中因果自回归模型生成效果不佳的问题,提出基于扩散语言模型的多目标少样本提示方法,通过示例引导填充共享画布的多个掩码区域,结合似然比奖励提升填充准确率,在基准测试和软件重构中验证了方法的有效性。
2026-10-16 cs.CL
An Empirical Evaluation of Prompting Strategies for Large Language Models in Zero-Shot Clinical Natural Language Processing
University of Pittsburgh(匹兹堡大学)
本文对GPT-3.5、BARD和LLAMA2在五个零样本临床NLP任务上的提示工程进行了系统评估,提出了启发式和集成提示,并对比零样本与少样本提示,为临床NLP的提示设计提供了新见解。
2023-09-14 cs.AI cs.CL
KECP: Knowledge Enhanced Contrastive Prompting for Few-shot Extractive Question Answering
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团);Ant Group(蚂蚁集团)
摘要抽取式问答是机器阅读理解中的重要任务之一,通过微调预训练语言模型的广度选择头部可以解决抽取式问答问题。然而,大多数现有的MRC方法在少样本学习场景中可能表现不佳。为了解决这个问题,我们提出了一个新的框架命名为知识增强的对比调优(KECP)。而不是添加指针头PLM,我们引入了一个开创性的范式EQA转换成一个非自回归的掩蔽语言建模(MLM)生成问题的任务。同时,丰富的语义从外部知识库(KB)和通道上下文的支持,以增强表示的查询。此外,为了提高PLM的性能,我们采用MLM和对比学习目标对模型进行联合训练。在多个基准测试上的实验表明,我们的方法在Few-Shot设置中始终优于最先进的方法。
2022-05-06 cs.AI cs.CL
Large Language Models are Contrastive Reasoners
Sun Yat-sen University Shenzhen, China(中山大学深圳校区)
本文提出对比提示方法,通过简单提示提升大型语言模型的推理能力,在算术和常识推理任务中优于零样本和少样本方法。
2025-02-17 cs.AI cs.CL
Can Prompting LLMs Unlock Hate Speech Detection across Languages? A Zero-shot and Few-shot Study
School of Computation, Information and Technology, TU Munich(技术计算与信息学院,慕尼黑工业大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本研究评估多语言LLM在零样本与少样本提示下跨八种非英语语言的仇恨言论检测,发现其虽在真实数据上逊于微调编码器,但泛化更优,且提示设计需针对语言定制。
2025-05-24 cs.CL cs.CY cs.MM
QaNER: Prompting Question Answering Models for Few-shot Named Entity Recognition
Amazon AI(亚马逊人工智能);Facebook AI(脸书人工智能);National Taiwan University(台湾大学)
最近,预训练语言模型的基于提示的学习已经成功地在Few-Shot命名实体识别(NER)中通过利用提示作为任务指导来提高标签效率。然而,以前的基于小波变换的Few-Shot NER方法存在计算复杂性高、zero-shot能力差、需要人工提示工程或缺乏提示鲁棒性等局限性。在这项工作中,我们提出了一个新的基于学习的NER方法与问答(QA),称为QaNER解决这些缺点。我们的方法包括:1)一个改进的策略,将NER问题转化为QA公式; 2)NER提示QA模型的生成; 3)在几个注释NER示例上使用QA模型进行基于正则化的调优; 4)通过提示QA模型实现zero-shot NER。与以前的方法相比,QaNER的推理速度更快,对即时质量不敏感,对超参数具有鲁棒性,并且表现出更好的低资源性能和zero-shot能力。
2022-03-04 cs.AI cs.CL cs.LG
Prompting Large Language Models with Chain-of-Thought for Few-Shot Knowledge Base Question Generation
East China Normal University(华东师范大学);Singapore Management University(新加坡管理大学)
本文提出基于思维链的提示方法 KQG-CoT 及其改进版 KQG-CoT+,将知识库问题生成转化为推理问题,通过检索逻辑形式并按复杂度排序构建推理链,在少样本场景下显著优于基线并在 PathQuestions 数据集上大幅超越现有 SoTA。
2023-10-23 cs.AI cs.CL
When Many-Shot Prompting Fails: An Empirical Study of LLM Code Translation
Yildiz Technical University, Department of Computer Engineering(Yildiz技术大学计算机工程系)
本研究发现代码翻译中少量精心挑选的示例比大量示例更有效,挑战了ICL中'更多更好'的普遍假设。
2025-12-09 cs.AI cs.CL cs.PL
Legal Prompting: Teaching a Language Model to Think Like a Lawyer
Thomson Reuters Labs(汤森路透实验室);Ontario Tech University(安大略理工大学)
大语言模型能够实现零次或Few-Shot提示,这引起了提示工程这一新的研究领域。最近的进展表明,例如,思想链(CoT)提示可以显着改善算术或常识任务。我们探讨了这种方法如何与法律推理任务,并采取了COLIEE蕴涵任务的基础上,日本律师考试测试zero-shot/Few-Shot和微调的方法。我们的研究结果表明,虽然CoT提示和微调与解释方法显示出改善,最好的结果是由来自特定的法律推理技术,如IRAC(问题,规则,应用,结论)的提示。根据我们的实验,我们将2021年的最佳结果从0.7037精度提高到0.8148精度,并以0.7431的精度击败了2022年的最佳系统0.6789精度。
2022-12-08 cs.AI cs.CL
Enhanced Detection of Conversational Mental Manipulation Through Advanced Prompting Techniques
Dartmouth College(达特茅斯学院)
本研究探索不同提示技术在对话式精神操控检测中的效果,在二元检测任务上实现零样本、少样本设置的思维链提示,旨在探明技术性能差异原因以构建专用检测框架,初步发现未经过示例学习的复杂模型可能不适用高级提示技术。
2024-08-14 cs.CL
Not the Example, but the Process: How Self-Generated Examples Enhance LLM Reasoning
KAIST AI(韩国科学技术院人工智能研究所);Applied Artificial Intelligence, Sungkyunkwan University(成均馆大学应用人工智能系)
本研究通过对比不同提示策略,发现自动生成例子的过程增强了LLM推理性能,而非例子本身。
2026-01-26 cs.AI cs.CL
Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models
Singapore Management University(新加坡管理大学);Southwest Jiaotong University(西南交通大学);Singapore University of Technology and Design(新加坡科技设计大学);East China Normal University(华东师范大学)
本文提出 Plan-and-Solve(PS)提示方法,通过先制定计划再执行子任务来改进零样本思维链推理,解决步骤缺失、计算错误和语义误解问题,并在多个推理数据集上显著优于 Zero-shot-CoT。
2023-05-26 cs.CL
Inverse is Better! Fast and Accurate Prompt for Few-shot Slot Tagging
Harbin Institute of Technology(哈尔滨工业大学)
近年来,学习方法在少样本学习中取得了令人瞩目的成功。这些方法用提示句段修改输入样本,并解码标签标记以将样本映射到相应的标签。然而,这样的范例对于槽标记的任务是非常低效的。由于槽标记样本是一个句子中的多个连续的单词,提示方法必须枚举所有的n-gram标记跨度来找到所有可能的槽,这大大降低了预测速度。为了解决这个问题,我们引入了一个反向范式的提示。与经典的将标记映射到标签的提示不同,我们可以根据给定的插槽类型来预测插槽值。这种反向提示仅需要对每个时隙类型进行一轮预测,并且大大加快了预测速度。此外,我们提出了一种新的迭代预测策略,模型通过考虑不同时隙类型之间的关系来学习改进预测。我们发现,有点令人惊讶的是,所提出的方法不仅预测速度更快,而且显着提高了效果(在10次拍摄设置上提高了6.1 F1分数),并实现了新的最先进的性能。
2022-04-02 cs.AI cs.CL
AI Coding with Few-Shot Prompting for Thematic Analysis
Asia School of Business(亚洲商学院);Malaysia School of Pharmacy, Monash University(莫纳什大学马来西亚药学院)
本文研究如何利用GPT 3.5-Turbo结合少样本提示和语义相似段落的高质量编码,以低成本、可扩展的方式提升主题分析编码质量。
2025-04-10 cs.CL
Retrieval-Augmented Few-Shot Prompting Versus Fine-Tuning for Code Vulnerability Detection
Electrical and Computer Engineering(电气与计算机工程);American University of Beirut(贝鲁特美国大学)
本研究比较了检索增强的少样本提示与微调方法在代码漏洞检测中的性能,发现检索增强提示在效率和效果上均优于微调方法。
2025-11-28 cs.AI cs.CL cs.CR
Zero-Shot Chain-of-Thought Reasoning Guided by Evolutionary Algorithms in Large Language Models
School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);National Key Laboratory of General Artificial Intelligence(通用人工智能国家重点实验室);Key Laboratory of Machine Perceptron (MOE), Peking University(北京大学机器感知教育部重点实验室)
本文提出一种基于进化算法动态生成零样本思维链提示的方法,通过初始化、进化操作和选择重写,在十个数据集上优于现有方法,提升了大语言模型的推理能力。
2024-02-08 cs.CL
Universal Self-Adaptive Prompting
University of Oxford(牛津大学);Google(谷歌)
提出通用自适应提示(USP),通过少量未标记数据和推理模型自动生成伪示例,将上下文学习推广至零样本设置,在40多个任务中性能优于零样本基线且媲美少样本基线。
2023-10-21 cs.AI cs.CL cs.LG
Code Prompting: a Neural Symbolic Method for Complex Reasoning in Large Language Models
Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)
针对大语言模型自然语言中间推理步骤的缺陷,提出以代码为中间步骤的神经符号提示方法Code Prompting,在7个推理基准上优于CoT提示,并分析了其优势与影响因素。
2023-10-07 cs.AI cs.CL
Few-Shot Cross-Lingual Transfer for Prompting Large Language Models in Low-Resource Languages
UNIVERSITY OF CALIFORNIA SANTA CRUZ(加州大学圣克鲁兹分校)
针对低资源语言大模型提示能力不足的问题,该研究对比少样本提示、语言自适应微调、机器翻译三种方法,在三类任务上验证少样本提示的平均效果最优且更具成本效益。
2024-03-09 cs.AI cs.CL cs.LG
Large Language Models are Null-Shot Learners
Graduate School(研究生院);Ritsumeikan University(立命馆大学)
本文提出null-shot prompting,通过引导LLMs利用不存在的“Examples”信息来利用幻觉,在多数数据集上提升性能,并可作为检测LLMs幻觉程度的工具。
2024-11-16 cs.AI cs.CL cs.LG
DynRank: Improving Passage Retrieval with Dynamic Zero-Shot Prompting Based on Question Classification
University of Innsbruck(因斯布鲁克大学)
针对开放域问答系统段落检索中传统静态提示方法适应性有限的问题,提出DynRank框架,通过动态零样本问题分类生成语境相关提示,集成到现有检索框架并在多个基准数据集验证,提升检索效果。
2024-11-30 cs.CL
Zero-Shot Prompting for Implicit Intent Prediction and Recommendation with Commonsense Reasoning
National Taiwan University(台湾大学)
针对虚拟助手只能处理显式意图、交互繁琐的问题,本文提出多领域对话框架,利用常识推理推断隐式意图并通过大型预训练语言模型进行零样本提示,以推荐并触发合适的任务型机器人。
2023-06-06 cs.CL
Role-Play Zero-Shot Prompting with Large Language Models for Open-Domain Human-Machine Conversation
Avignon Université(阿维尼翁大学)
本文提出用角色扮演零样本提示替代微调,结合多语言指令遵循LLM(Vicuna)构建开放域对话智能体,在法语两项任务中达到或超越微调模型。
2024-06-26 cs.AI cs.CL cs.HC
OneNet: A Fine-Tuning Free Framework for Few-Shot Entity Linking via Large Language Model Prompting
University of Science and Technology of China(中国科学技术大学)
提出免微调框架OneNet,利用大型语言模型少样本学习能力,通过实体缩减、双视角链接和共识判定三组件,在七个基准数据集上超越现有最先进实体链接方法。
2024-10-10 cs.AI cs.CL
Leveraging Few-Shot Data Augmentation and Waterfall Prompting for Response Generation
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Leiden University(莱顿大学)
本文针对使用主观知识的面向任务对话建模,提出基于少样本学习的数据增强方法及三种DSTC11响应生成策略,包括任务特定模型探索、高频问题纳入和结合GPT-3与ChatGPT的瀑布式提示技术。
2023-08-02 cs.CL
Evaluating the Performance of AI Text Detectors, Few-Shot and Chain-of-Thought Prompting Using DeepSeek Generated Text
The University of Missouri(密苏里大学)
本文评估六款AI检测器识别DeepSeek-v3文本及抵御改写、拟人化攻击的能力,并测试DeepSeek少样本与CoT分类,发现拟人化攻击最有效,五样本提示仅误判1例。
2025-07-23 cs.AI cs.CL
GenQREnsemble: Zero-Shot LLM Ensemble Prompting for Generative Query Reformulation
Emory University(埃默里大学)
本文提出 GenQREnsemble 零样本 LLM 集成提示方法及融合伪相关反馈的 GenQREnsembleRF,通过多指令释义生成关键词,显著提升查询重构与检索性能。
2024-04-04 cs.AI cs.CL cs.IR
The Few-shot Dilemma: Over-prompting Large Language Models
Siemens AG(西门子股份公司);Technical University of Munich(慕尼黑技术大学)
本文提出一个提示框架,使用随机采样、语义嵌入和TF-IDF三种少样本选择方法,在多个LLM上实验发现过多领域特定示例会降低性能,并通过TF-IDF与分层采样结合找到最优示例数量,在软件需求分类上超越现有方法1%。
2026-07-28 cs.CL
Retrieval-Enhanced Few-Shot Prompting for Speech Event Extraction
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
提出模块化 SpeechEE 流水线,通过混合过滤、ASR 与语义检索增强的少样本 LLM 提示抽取事件,o1-mini 在触发词和论元分类上分别取得 63.3% 与 27.8% F1。
2025-04-30 cs.AI cs.CL
A Systematic Analysis of Large Language Models with RAG-enabled Dynamic Prompting for Medical Error Detection and Correction
George Mason University(乔治·马歇尔大学);University of Washington(华盛顿大学)
本文提出基于RAG动态提示的医疗错误检测与纠正方法,通过对比不同提示策略,发现RDP在准确率、召回率和纠错可靠性方面表现更优。
2025-11-26 cs.AI cs.CL
Enhancing Cross-lingual Prompting with Dual Prompt Augmentation
Carnegie Mellon University(卡内基梅隆大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
本文提出双重提示增强框架DPA,通过语言无关的Universal Prompting和双重提示增强缓解跨语言提示中的数据稀缺问题,在XNLI任务上以16个英语样本/类达到46.54%,显著优于微调的34.99%。
2023-05-24 cs.AI cs.CL
Do Prompts Reshape Representations? An Empirical Study of Prompting Effects on Embeddings
Polytechnic University of Catalonia(加泰罗尼亚理工大学);Bocconi University(博科尼大学)
该研究通过对提示嵌入的探测实验发现,提示虽影响语言模型表征质量,但与任务相关性无稳定关联,挑战了相关提示必带来更好表征的假设,并分析了潜在原因。
2025-10-22 cs.AI cs.CL
BvSP: Broad-view Soft Prompting for Few-Shot Aspect Sentiment Quad Prediction
College of Software, Nankai University(南开大学软件学院);College of Computer Science, Nankai University(南开大学计算机学院);College of Artificial Intelligence, Tianjin University of Science and Technology(天津科技大学人工智能学院)
本文针对少样本方面情感四元组预测问题,提出宽视角软提示方法BvSP,通过多模板相关性选择、软提示引导和投票聚合,并构建FSQP数据集,在多个少样本设置下显著超越现有方法。
2024-06-11 cs.AI cs.CL
Using Zero-shot Prompting in the Automatic Creation and Expansion of Topic Taxonomies for Tagging Retail Banking Transactions
Pontifical Catholic University of Rio de Janeiro(里约热内卢天主教大学);BTG Pactual(BTG Pactual(巴西BTG银行))
本研究提出一种基于指令微调大语言模型的无监督方法,通过主题建模和零样本提示自动构建和扩展零售银行交易主题分类法,实验显示分类法一致性超90%,父节点预测F1超70%。
2024-02-11 cs.AI cs.CL
Tutorials on Stance Detection using Pre-trained Language Models: Fine-tuning BERT and Prompting Large Language Models
本文介绍两个立场检测教程,分别讲解BERT微调与LLMs提示技术,通过实践代码与评估揭示few-shot ChatGPT和FLAN-T5优于微调BERT的优势。
2023-07-28 cs.AI cs.CL
Instance-adaptive Zero-shot Chain-of-Thought Prompting
College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);Alibaba Cloud Computing(阿里巴巴云计算);Shanghai Jiao Tong University(上海交通大学);College of Software, Zhejiang University(浙江大学软件学院)
本研究针对单一任务级零样本CoT提示适配性不足的问题,从信息流视角揭示推理机制,提出实例自适应提示策略IAP,在多个模型和推理任务上实现了性能提升。
2024-10-31 cs.CL
Better Zero-Shot Reasoning with Role-Play Prompting
Nankai University(南开大学);Lenovo Research(联想研究院)
本研究提出角色扮演提示方法,在零样本设置下显著提升大型语言模型的推理能力,在AQuA和Last Letter等基准上准确率大幅提升,并优于零样本思维链技术。
2024-03-14 cs.CL
PromptNER: A Prompting Method for Few-shot Named Entity Recognition via k Nearest Neighbor Search
Fudan University(复旦大学)
本文提出PromptNER,一种基于k近邻搜索的小样本命名实体识别提示方法,通过包含实体类别信息的提示构建标签原型,实现仅用支持集微调,在Few-NERD和CrossNER数据集上优于现有方法。
2023-05-20 cs.CL
Leveraging Zero-Shot Prompting for Efficient Language Model Distillation
Humboldt-Universität zu Berlin(柏林洪堡大学);Bucharest University of Economic Studies(布加勒斯特经济研究大学)
本文提出一种利用零样本提示将LLM高效蒸馏为特定应用小模型的方法,通过多任务框架让学生模型模仿教师预测与自然语言理由,显著降低成本与人工干预。
2024-03-23 cs.AI cs.CL cs.LG
Generative Zero-Shot Prompt Learning for Cross-Domain Slot Filling with Inverse Prompting
Beijing University of Posts and Telecommunications(北京邮电大学);Meituan Group(美团集团);University of Surrey(萨里大学)
本文提出生成式零样本提示学习框架与逆向提示策略,仅微调少量提示参数即可提升跨领域槽填充的泛化性和鲁棒性,在未见槽上F1提升13.44%。
2023-07-06 cs.CL