The language of prompting: What linguistic properties make a prompt successful?
Institute for Logic, Language and Computation, University of Amsterdam（阿姆斯特丹大学逻辑、语言与计算研究所）
本研究探究不同规模、训练类型的LLM在语义等价但语言结构不同的提示下的表现，发现性能与常见的语言属性假设不符，进而提出更稳健的提示研究评估标准。
2023-11-03 cs.AI cs.CL cs.LG
Simulating Identity, Propagating Bias: Abstraction and Stereotypes in LLM-Generated Text
Computational Linguistics and Text Mining Lab, Vrije Universiteit, Amsterdam（自由大学计算语言学与文本挖掘实验室）；Università di Bologna（博洛尼亚大学）；CLCG, University of Groningen（格罗宁根大学CLCG）
本文研究人物角色提示是否导致LLM生成文本出现不同语言抽象化水平，引入Self-Stereo数据集，通过具体性、特异性和否定性三个指标分析六种模型，发现该方法在调节抽象化上有限，且可能传播刻板印象。
2025-09-10 cs.CL
Assessing the Impact of Language Disparity on Multilingual Linguistic Ability in Large Language Models
University of Groningen（格罗宁根大学）
本研究通过四种评估方法在MultiBLiMP基准上测试六族模型，发现后期训练降低语法能力且低资源语言受损最重，母语提示可恢复其隐藏能力，故需多范式协议避免低估。
2026-10-02 cs.CL
Position-based Prompting for Health Outcome Generation
University of Liverpool（利物浦大学）；Amazon（亚马逊）
使用提示来探测预训练的语言模型（PLMs）间接地暗示了语言模型（LM）可以被视为知识库。为此，这一现象一直是有效的，特别是当这些LM不仅针对特定领域的数据，而且还针对提示本身的风格或语言模式进行微调时。我们观察到，在提示中满足特定的语言模式是一个不可持续的约束，不必要地延长了探测任务，特别是因为，它们往往是手动设计的，可能的提示模板模式的范围可以根据提示的目标和域而变化。因此，我们探索了一种想法，使用位置-注意力机制，以捕获的位置信息的每个词在提示相对于掩码填充，从而避免了需要重新构建提示时，提示的语言模式的变化。使用我们的方法，我们证明了罕见的提示模板（在健康结果生成的案例研究），如后缀和混合模式，其缺失的信息分别在开始和多个随机的地方的提示引出答案的能力。更重要的是，使用各种生物医学PLM，我们的方法始终优于默认掩码语言模型（MLM）表示用于预测掩码令牌的基线。
2022-03-30 cs.CL cs.LG
Are Language Models Agnostic to Linguistically Grounded Perturbations? A Case Study of Indic Languages
IIT Bombay（印度理工学院孟买分校）；NICT（情报通信研究机构）
本文研究预训练语言模型对基于语言的攻击是否无感知，通过考察多种印度语言和下游任务，发现模型对语言扰动敏感性略低于非语言攻击，表明受限攻击仍有效。
2024-12-14 cs.CL
Discrete and Soft Prompting for Multilingual Models
LMU Munich（慕尼黑大学）
对于英语，已经表明离散和软提示在使用预训练的语言模型（PLM）的少样本学习中表现强劲。在本文中，我们表明，离散和软提示比微调在多语言的情况下：跨语言迁移和多语言自然语言推理的语言训练。例如，对于48个英语训练样本，微调在跨语言迁移中获得了33.74%的准确率，勉强超过了大多数基线（33.33%）。相比之下，离散和软提示优于微调，达到36.43%和38.79%。我们还展示了良好的性能，提示与训练数据在多种语言以外的英语。
2021-09-08 cs.CL
Are Large Language Models the future crowd workers of Linguistics?
Bonn Center for Digital Humanities (BCDH)（波恩数字人文中心）；Universität Bonn（波恩大学）
本文通过复现两项人类语言诱导任务，评估 GPT-4o-mini 替代众包参与者的可行性，发现零样本表现优异，而 CoT 提示与人类表现更一致。
2025-02-14 cs.AI cs.CL
SimpCue: Cue-Based Prompting for Multilingual Text Simplification
Universitat Pompeu Fabra (UPF)（庞培法布拉大学）
本研究针对加泰罗尼亚语、西班牙语、意大利语的多语言易读性文本简化任务，以Qwen3-8B为模型，对比不同提示方式的效果，发现预测线索提示表现最优但提升有限。
2026-08-31 cs.AI cs.CL
Linguistic Minimal Pairs Elicit Linguistic Similarity in Large Language Models
Université Paris Cité（巴黎西岱大学）；Sorbonne Université（索邦大学）；CUHK（香港中文大学）；HKUST（香港科技大学）；Cohere；Brain and Mind Institute, CUHK（香港中文大学脑与心智研究所）
本研究利用语言最小对立体探究大语言模型的内部语言表征，通过大规模实验从四方面揭示语言相似性特性，阐明了LLM与语言学理论的关系。
2024-12-13 cs.CL
Decomposed Prompting for Machine Translation Between Related Languages using Large Language Models
Microsoft（微软）；IIT Madras（印度理工学院马德拉斯分校）；AI4Bharat；National Institute of Information and Communications Technology（日本国立信息通信技术研究所）
本研究针对相关语言间的机器翻译任务，提出了一种名为DecoMT的新型少样本提示方法，通过利用单调对齐特征将翻译过程分解为词块序列，在多语系实验中显著优于BLOOM等基线模型，平均提升8个chrF++分数。
2023-10-23 cs.CL
How does the pre-training objective affect what large language models learn about linguistic properties?
University of Sheffield（谢菲尔德大学）
已经提出了几个预训练目标，例如掩码语言建模（MLM），以预训练语言模型（例如BERT），目的是学习更好的语言表示。然而，据我们所知，到目前为止，还没有以前的工作已经调查了不同的预训练目标如何影响BERT学习语言学属性。我们假设，语言动机的目标，如MLM应该帮助BERT获得更好的语言知识相比，其他非语言动机的目标是不直观的或难以猜测的输入和标签之间的关联进行预测。为此，我们预先训练BERT有两个语言动机的目标和三个非语言动机的。然后，我们探测语言特征编码的表示所产生的模型。我们发现强有力的证据表明，有两种不同类型的目标学习的表示之间的探测性能只有很小的差异。这些令人惊讶的结果质疑了语言信息预训练的主导叙事。
2022-03-20 cs.CL
Learning-From-Mistakes Prompting for Indigenous Language Translation
National Chung Hsing University（国立中兴大学）
本文提出从错误中学习提示等方法，利用大语言模型和少量平行语料及词典，有效提升极低资源原住民语言的翻译性能。
2024-07-18 cs.CL
Prompting Is All You Need: Multi-view Prompting Large Language Models for Aspect-Based Sentiment Analysis
Media Informatics Group, University of Regensburg, Germany（里根大学媒体信息学小组）；Information Science Group, University of Regensburg, Germany（里根大学信息科学小组）
提出LLM-MvP方法，通过多视角提示、模式约束解码和前缀批处理，使大语言模型在少量样本下达到与微调模型竞争甚至更优的性能，同时降低计算开销。
2026-05-27 cs.CL
PersLitEval: Fine-grained Benchmark and Evaluation of LLMs on Persian Literature Questions
School of Computation, Information and Technology, TU Munich（计算信息与技术学院，慕尼黑工业大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
提出PersLitEval基准，包含4514道波斯文学多选题，评估六种LLM在十种提示策略下的表现，发现模型在概念相似性任务上准确率高，但在拼写和构词等正式语言分析上困难，且提示策略显著影响性能。
2026-05-26 cs.CL
An Empirical Revisiting of Linguistic Knowledge Fusion in Language Understanding Tasks
HKUST（香港科技大学）；The University of Hong Kong（香港大学）
虽然语言知识出现在大规模的语言模型预训练，最近的工作试图明确纳入人类定义的语言先验到特定任务的微调。将来自解析器的句法或语义知识注入语言模型已经在许多语言理解任务上显示出改进。为了进一步研究结构语言先验的有效性，我们进行了用平凡的图或树替换解析的图或树的实证研究（很少携带语言知识，例如，平衡树）。在完全监督和Few-Shot设置中，使用平凡图进行编码可以实现有竞争力甚至更好的性能。它揭示了增益可能不显着归因于显式的语言先验，而是融合层带来的更多的特征交互。因此，我们呼吁注意使用平凡图作为必要的基线，设计先进的知识融合方法在未来。
2022-10-24 cs.CL
MSP: Multi-Stage Prompting for Making Pre-trained Language Models Better Translators
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Kuaishou Tech, Co.（快手科技有限公司）；Institute for AI Industry Research, Tsinghua University（清华大学智能产业研究院）；International Innovation Center of Tsinghua University（清华大学上海国际创新中心）
最近已经显示出预训练的语言模型应用于执行下游任务的一种有前途的方法。我们提出了多阶段翻译（MSP），一个简单的和自动的方法，利用预先训练的语言模型的翻译任务。为了更好地减轻预训练和翻译之间的差异，MSP将通过预训练的语言模型的翻译过程分为多个独立的阶段：编码阶段，重新编码阶段和解码阶段。在每个阶段，我们独立地应用不同的连续提示，以允许预训练的语言模型更好地转换到翻译任务。我们对三个翻译任务进行了广泛的实验。实验表明，该方法能显著提高预训练语言模型的翻译性能。
2022-03-17 cs.CL
Efficient Prompting Methods for Large Language Models: A Survey
Northeastern University（东北大学）；NiuTrans Research（NiuTrans研究机构）
该综述聚焦大语言模型提示适配的人力与计算负担问题，通过高层数学表达式深入探讨不同提示组件的自动提示工程及连续/离散空间的提示压缩，并指出未来方向以启发相关研究者。
2024-12-02 cs.CL
The Geometry of Prompting: Unveiling Distinct Mechanisms of Task Adaptation in Language Models
New York University（纽约大学）；Flatiron Institute（弗拉铁龙研究所）；Genentech（基因泰克公司）
针对仅解码器语言模型提示灵活性背后机制不明的问题，本文基于统计物理学框架研究不同提示方法对模型表示几何的影响，揭示其通过不同表示机制实现任务适应，强调输入样本和标签语义的作用并发现任务间的协同与干扰，为大语言模型理论理解及高效提示策略开发奠定基础。
2025-02-11 cs.CL
Dialogue State Tracking with a Language Model using Schema-Driven Prompting
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
面向任务的会话系统通常使用会话状态跟踪来表示用户的意图，这涉及填充预定义槽的值。已经提出了许多方法，通常使用具有专用分类器的特定于任务的架构。最近，使用基于预训练的语言模型的更通用的架构已经获得了良好的结果。在这里，我们介绍了一种新的语言建模方法的变化，使用模式驱动的提示，提供任务感知的历史编码，用于分类和非分类插槽。我们进一步提高性能，通过增强提示模式描述，自然发生的领域内的知识来源。我们的纯发电系统在MultiWOZ 2.2上实现了最先进的性能，并在其他两个基准测试中实现了具有竞争力的性能：MultiWOZ 2.1和M2M。数据和代码将在https://github.com/chiahsuan156/DST-as-Prompting上提供。
2021-09-15 cs.CL
Causal Prompting: Debiasing Large Language Model Prompting based on Front-Door Adjustment
Southeast University（东南大学）；King’s College London（伦敦国王学院）；The Alan Turing Institute（艾伦·图灵研究所）
针对大语言模型提示中的偏见问题，提出基于前门调整的因果提示方法，通过思维链作为中介变量计算因果效应，并在七个NLP数据集上验证了其有效性。
2024-12-17 cs.CL
Towards Fundamental Language Models: Does Linguistic Competence Scale with Model Size?
Computer Science Department, University of Jaén（杰纳大学计算机科学系）
针对大语言模型因语言能力与事实记忆耦合导致的各类问题，提出基础语言模型范式，通过实证发现模型规模与记忆能力关联更紧密，为模块化、工具增强的高效NLP系统提供支撑。
2025-09-02 cs.CL
Uncovering Constraint-Based Behavior in Neural Models via Targeted Fine-Tuning
Cornell University（康奈尔大学）
越来越多的文献关注于详细描述嵌入在大型预训练语言模型中的语言知识。现有的研究表明，模型中的非语言偏见可以驱使模型行为远离语言概括。我们假设，一种语言中的竞争性语言过程，而不仅仅是非语言模型偏见，可能会掩盖潜在的语言知识。我们通过探索四种语言中的一种现象来验证这一说法：英语，汉语，西班牙语和意大利语。虽然人类的行为在不同语言之间是相似的，但我们发现模型行为的跨语言变化。我们表明，在一种语言中的竞争过程作为模型行为的约束，并表明，有针对性的微调可以重新加权学习的约束，发现否则休眠的语言知识模型。我们的研究结果表明，模型需要学习语言中的语言约束及其相对排名，两者的不匹配都会产生非人类行为。
2021-06-02 cs.CL
Unlocking Structured Thinking in Language Models with Cognitive Prompting
Carl von Ossietzky Universität Oldenburg（卡尔·冯·奥西茨基奥尔登堡大学）
该研究提出认知提示方法，通过类人认知操作引导LLMs结构化推理，设计三种变体并在GSM8K上验证，显著提升多模型的算术推理性能。
2024-11-30 cs.CL
LinguaLens: Towards Interpreting Linguistic Mechanisms of Large Language Models via Sparse Auto-Encoder
DCST, BNRist（DCST、BNRist；KIRC、人工智能研究院、清华大学，中国）；KIRC, Institute for Artificial Intelligence, Tsinghua University, China（中文语言文学系、北京大学，中国）；Department of Chinese Language and Literature, Peking University, China
本研究提出基于稀疏自编码器的框架 LinguaLens，通过提取多维度中英文语言特征并构建大规模反事实数据集，系统揭示了大语言模型内部语言知识的表示与分布模式，并展示了控制模型输出的潜力。
2025-09-15 cs.CL
Prompting language influences diagnostic reasoning and accuracy of large language models
Data Clinic, Nantes University Hospital（数据诊所，南特大学医院）
本研究探讨了提示语言对大型语言模型在临床诊断推理和准确性上的影响，通过比较英语和法语性能，发现四种模型在英语环境下表现更优，而o3模型未表现出语言效应，表明提示语言是影响模型临床性能的关键因素。
2026-05-18 cs.CL
Synthetic Prompting: Generating Chain-of-Thought Demonstrations for Large Language Models
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Microsoft（微软）
大语言模型可以通过使用思维链提示来执行各种推理任务，思维链提示通过逐步演示来引导它们找到答案。然而，提示的质量取决于给模型的演示，并且手工创建其中的许多是昂贵的。我们引入合成提示，一种利用一些手工制作的示例来提示模型自己生成更多示例的方法，并选择有效的演示来引发更好的推理。我们的方法在向后和向前过程之间交替，以生成新的示例。后向过程生成与采样推理链匹配的问题，使得问题是可解的和清晰的。正向过程为问题产生更详细的推理链，提高了示例的质量。我们评估我们的方法的数值，符号和算法推理任务，并表明它优于现有的提示技术。
2023-02-01 cs.CL
Who Wrote it and Why? Prompting Large-Language Models for Authorship Verification
Singapore University of Technology and Design（新加坡科技设计大学）
本文提出PromptAV，利用大型语言模型和逐步文体测量提示进行作者身份验证，在有限数据下优于现有方法并增强可解释性。
2023-10-12 cs.CL
Knowledge Prompting in Pre-trained Language Model for Natural Language Understanding
East China Normal University（华东师范大学）；Ant Group（蚂蚁集团）；Alibaba Group（阿里巴巴集团）
知识增强的预训练语言模型（PLM）是近年来备受关注的一种语言模型，旨在将事实知识融入PLM中。然而，大多数现有的方法修改固定类型的PLM的内部结构，通过堆叠复杂的模块，并引入冗余和无关的事实知识库（KBs）。针对这些问题，本文提出了一种基于知识激励的PLM框架KP-PLM。该框架可以灵活地与现有的主流PLM相结合。具体来说，我们首先从每个上下文的知识库构建一个知识子图。然后设计多条连续提示规则，将知识子图转化为自然语言提示。为了进一步利用这些提示中的事实知识，我们提出了两个新的知识感知的自监督任务，包括提示相关性检查和掩蔽提示建模。对多个自然语言理解（NLU）任务的大量实验表明，KP-PLM在全资源和低资源环境中都优于其他最先进的方法。
2022-10-16 cs.CL
Accommodation Goes Both Ways: Studying Linguistic Convergence Between Humans and Language Models
Khoury College of Computer Sciences（科里学院计算机科学学院）
通过大规模研究人类与LLM对话中的语言趋同现象，发现LLM在功能词和开放类特征上过度适应人类风格，而人类对LLM的适应程度与人类之间对话的基线一致。
2026-05-28 cs.CL
A Novel Multi-Stage Prompting Approach for Language Agnostic MCQ Generation using GPT
IIT Kharagpur（印度理工学院卡哈拉格普尔分校）
本文提出多阶段提示方法MSP，结合链式思维提示利用GPT模型生成语言无关的高质量多选题及干扰项，并在多语言自动与人工评估中优于单阶段基线。
2024-01-13 cs.CL
Cross-Linguistic Transfer in Multilingual NLP: The Role of Language Families and Morphology
Rensselaer Polytechnic Institute（伦斯勒理工学院）
该研究从语系与形态学视角探究多语言NLP的跨语言迁移，分析语系亲缘度、形态相似性及语言距离对迁移效果的影响，并梳理融入类型学与形态信息的预训练新兴方法。
2025-05-20 cs.CL
Conceptual Metaphor Theory as a Prompting Paradigm for Large Language Models
Universität Oldenburg（奥尔登堡大学）
本文提出以概念隐喻理论作为提示范式，通过隐喻映射引导大语言模型进行结构化推理，实验表明该方法在推理准确性、清晰度和隐喻连贯性上均优于多个基线模型。
2025-02-04 cs.CL
Cue-CoT: Chain-of-thought Prompting for Responding to In-depth Dialogue Questions with LLMs
The Chinese University of Hong Kong（香港中文大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；National University of Singapore（新加坡国立大学）；Peng Cheng Laboratory（鹏城实验室）
提出Cue-CoT，一种基于语言线索的思维链提示方法，通过中间推理步骤发现对话中的性格、情感和心理线索，以增强LLM对深度对话问题的响应，实验表明其在帮助性和可接受性上优于标准提示。
2023-10-15 cs.AI cs.CL
CxMP: A Linguistic Minimal-Pair Benchmark for Evaluating Constructional Understanding in Language Models
Nara Institute of Science and Technology（奈良科学技術研究院）；National Institute of Informatics（国家信息研究院）；The University of Tokyo（东京大学）
CxMP基准通过最小对设计评估语言模型对构式语义关系的理解能力，揭示了大型语言模型在整合形式与意义方面的局限性。
2026-02-25 cs.CL
P-CoT: A Pedagogically-motivated Participatory Chain-of-Thought Prompting for Phonological Reasoning in LLMs
本文提出以教学法为动机的参与式思维链提示P-CoT，通过支架式教学和发现式学习等结构化引导激活大语言模型的潜在音系推理能力，在PhonologyBench上最高提升52%，并在部分任务中超越人类基线。
2025-07-22 cs.CL
Cascaded Batch Prompting
CyberAgent（赛博agent公司）
针对批量提示导致大语言模型下游任务性能不可预测的问题，提出级联批量提示方法，在多项选择问答等任务上性能优于单提示基线，且加速效果与批量大小成正比，在帕累托前沿达到新最优。
2026-08-28 cs.CL
Benchmarking Linguistic Diversity of Large Language Models
Inria Paris（巴黎国家信息与自动化研究所）；MBZUAI（穆斯林人工智能研究所）；École Polytechnique（巴黎高等理工学院）
针对LLM语言多样性被忽视的问题，本文提出涵盖词汇、句法和语义维度的评估框架，对主流LLM进行基准测试并分析开发部署选择的影响。
2025-07-25 cs.CL
Evaluating Linguistic Capabilities of Multimodal LLMs in the Lens of Few-Shot Learning
Hacettepe University（哈杰泰佩大学）；Aselsan Research（阿塞尔桑研究院）；Koç University（科克大学）；Amsterdam UMC, University of Amsterdam（阿姆斯特丹大学医学中心，阿姆斯特丹大学）；Amsterdam Public Health（阿姆斯特丹公共卫生研究院）
本研究在VALSE基准上评估多模态大语言模型的语言能力，发现少样本上下文学习和思维链提示显著提升推理性能，且预训练数据组成影响模型表现。
2024-07-17 cs.CL cs.CV
No One Fits All: From Fixed Prompting to Learned Routing in Multilingual LLMs
Department of Computer Science and Information Engineering, National Taiwan University, Taiwan（国立台湾大学计算机科学与资讯工程学系）；Institute of Information Science, Academia Sinica, Taiwan（台湾“中央研究院”信息科学研究所）；AI Research Center (AINTU), National Taiwan University, Taiwan（国立台湾大学人工智能研究中心）
研究评估了十种语言和四个基准的提示策略，发现无单一策略最优，提出学习路由方法提升多语言性能。
2026-04-21 cs.CL
PHALM: Building a Knowledge Graph from Scratch by Prompting Humans and a Language Model
Waseda University（早稻田大学）；LY Corporation（LY公司）
本文提出PHALM方法，通过提示众包工作者和大型语言模型从零构建知识图谱，用于日语事件知识图谱及常识生成模型，实验验证了其可接受性。
2023-10-11 cs.CL
Meta-Task Prompting Elicits Embeddings from Large Language Models
University of Amsterdam（阿姆斯特丹大学）；University of Maryland（马里兰大学）；University of Technology Sydney（悉尼科技大学）；Microsoft Corporation（微软公司）；Tencent IEG（腾讯互动娱乐事业群）
本文提出MetaEOL方法，通过元任务提示从大型语言模型生成无监督句子嵌入，无需微调，在STS基准和下游任务中表现优异，并揭示新的缩放定律。
2024-07-22 cs.CL
QA-prompting: Improving Summarization with Large Language Models using Question-Answering
Georgia Institute of Technology（佐治亚理工学院）
本文提出QA-prompting方法，在摘要生成前引入问答中间步骤以缓解长上下文位置偏差，无需微调或流水线，在多个数据集和十个预训练模型上ROUGE分数最高提升29%。
2025-09-21 cs.CL
Inductive Linguistic Reasoning with Large Language Models
Greenwich High School（格林威治高中）；University of Pennsylvania（宾夕法尼亚大学）
本文通过极低资源语言谜题研究大语言模型的抽象多语言推理能力，提出两阶段类比提示方法，有效提升GPT-4o和Llama-3.1-405B-Instruct等模型在modeLing和LINGOLY数据集上的推理性能。
2024-12-09 cs.AI cs.CL
Revealing the Unwritten: Visual Investigation of Beam Search Trees to Address Language Model Prompting Challenges
University of Konstanz（康斯坦茨大学）；ETH Zürich（苏黎世联邦理工学院）
针对大型语言模型提示挑战，提出交互式可视化束搜索树的方法，以分析模型生成决策，验证结果并提供新见解。
2023-10-17 cs.AI cs.CL cs.HC
Code Prompting: a Neural Symbolic Method for Complex Reasoning in Large Language Models
Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）
针对大语言模型自然语言中间推理步骤的缺陷，提出以代码为中间步骤的神经符号提示方法Code Prompting，在7个推理基准上优于CoT提示，并分析了其优势与影响因素。
2023-10-07 cs.AI cs.CL
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
Google Research（谷歌研究院）
我们将探讨如何生成一个思维链--一系列中间推理步骤--显著提高大语言模型执行复杂推理的能力。特别是，我们展示了如何自然地出现在足够大的大语言模型，通过一个简单的方法，称为思维链提示，其中一些思维链示范提供了作为范例，提示这样的推理能力。在三个大语言模型上的实验表明，思维链提示提高了一系列算术、常识和符号推理任务的性能。经验上的收获可能是惊人的。例如，仅用8个思维链示例就能提示540 B参数语言模型，在数学应用题的GSM 8 K基准测试中达到最先进的精度，甚至超过了使用验证器的微调GPT-3。
2023-01-10 cs.AI cs.CL
Can Linguistically Related Languages Guide LLM Translation in Low-Resource Settings?
Prediction Guard（预测守护）；Scale AI；Independent（独立）；INTI International College Penang（INTI国际学院巴生）
本研究探讨在数据稀缺情况下，语言相似的pivot语言和少量示例能否指导LLM的即席适应，通过数据高效实验发现，pivot提示在某些配置下能提升翻译效果，但收益有限且依赖示例构建。
2026-03-17 cs.AI cs.CL
Multilingual Prompting for Improving LLM Generation Diversity
New York University（纽约大学）；Columbia University（哥伦比亚大学）
针对LLM生成缺乏文化与观点多样性的问题，本文提出多语言提示方法，通过跨文化语言线索激活更广知识，并在多个模型上验证其优于现有多样性增强技术。
2025-09-27 cs.CL cs.CY
Comparative Evaluation of Prompting and Fine-Tuning for Applying Large Language Models to Grid-Structured Geospatial Data
Argonne National Laboratory（阿贡国家实验室）
本文比较了提示与微调两种方法在大型语言模型处理网格地理空间数据上的效果，发现微调更利于结构化时空推理。
2025-05-21 cs.CL cs.ET
Cross-Prompt Generalization in Detecting AI-Generated Fake News Using Interpretable Linguistic Features
Department of Mathematics（数学系）；School of Data Science and Analytics（数据科学与分析学院）；Department of Computer Science（计算机科学系）
研究通过提取词汇多样性、可读性和情感特征，在跨提示框架下使用随机森林分类器检测AI生成假新闻，发现模型在不同提示下均表现稳定（AUC 0.988-1.000），表明这些特征可泛化。
2026-06-02 cs.CL cs.LG
Enhancing Granular Sentiment Classification with Chain-of-Thought Prompting in Large Language Models
John F Kennedy High school Fremont, USA（约翰·F·肯尼迪高中弗里蒙特分校）；Queensland Academy for Science Mathematics and Technology（昆士兰科学数学与技术学院）；Research Spark Hub Inc（Research Spark Hub公司）
本文研究利用大语言模型的思维链提示提升应用商店评论的细粒度情感分类，在2000条亚马逊评论上准确率从84%提升至93%，验证了显式推理的有效性。
2025-05-07 cs.CL cs.LG
LERT: A Linguistically-motivated Pre-trained Language Model
Harbin Institute of Technology（哈尔滨工业大学）；iFLYTEK Research（科大讯飞研究院）；iFLYTEK AI Research (Central China)（科大讯飞人工智能研究院（华中））
预训练的语言模型（PLM）已成为自然语言处理领域具有代表性的基础模型。大多数PLM都是在文本的表面形式上使用与语言无关的预训练任务进行训练的，例如掩蔽语言模型（MLM）。为了进一步赋予PLM更丰富的语言特征，在本文中，我们的目标是提出一种简单但有效的方法来学习预先训练好的语言模型的语言特征。我们提出了LERT，一个预先训练的语言模型，它使用语言信息预训练（LIP）策略，在三种类型的语言特征以及原始的MLM预训练任务上进行训练。我们对十个中文自然语言理解任务进行了广泛的实验，实验结果表明，LERT可以带来显着的改善，在各种可比的基线。此外，我们还从语言学的各个方面进行了分析实验，结果证明了LERT的设计是有效的。有关资源，请访问https://github.com/ymcui/LERT
2022-11-10 cs.CL cs.LG
Visualizing Linguistic Diversity of Text Datasets Synthesized by Large Language Models
Google Research（谷歌研究院）
针对LLM合成数据集在语义、句法和词汇上的重复问题，本文提出交互式可视化工具LinguisticLens，通过多轴聚类与分层浏览帮助分析其语言多样性。
2023-09-27 cs.AI cs.CL
Tutorials on Stance Detection using Pre-trained Language Models: Fine-tuning BERT and Prompting Large Language Models
本文介绍两个立场检测教程，分别讲解BERT微调与LLMs提示技术，通过实践代码与评估揭示few-shot ChatGPT和FLAN-T5优于微调BERT的优势。
2023-07-28 cs.AI cs.CL
