arXivDaily arXiv每日学术速递 周一至周五更新
​通知:联邦节假日调休:哥伦布日 / 原住民日(Columbus Day / Indigenous Peoples' Day),今日(13日)无更新。
arXiv 2412.04509cs.CL

语用元认知提示提升大语言模型在反讽检测上的性能

Pragmatic Metacognitive Prompting Improves LLM Performance on Sarcasm Detection

Algoverse AI Research(Algoverse AI研究院)

Joshua Lee, Wyatt Fong, Alexander Le, Sur Shah, Kevin Han, Kevin Zhu

AI总结:

本文提出语用元认知提示 PMP,通过语用推理与反思策略增强 LLM 的语境和隐含意义理解,并在 MUStARD、SemEval2018 上取得最优反讽检测性能。

摘要:

由于言辞的细微差别和依赖语境的特性,反讽检测是情感分析中的一项重大挑战。我们提出语用元认知提示(Pragmatic Metacognitive Prompting,PMP),以提升大语言模型(LLM)在反讽检测中的性能;该方法利用语用学和反思原则,帮助 LLM 解读隐含意义、考虑语境线索,并反思差异以识别反讽。使用 LLaMA-3-8B、GPT-4o 和 Claude 3.5 Sonnet 等最先进的 LLM,PMP 在 MUStARD 和 SemEval2018 上使 GPT-4o 达到最先进性能。本研究表明,将语用推理和元认知策略整合到提示中,可显著增强 LLM 的反讽检测能力,为未来情感分析研究提供有前景的方向。

英文摘要:

Sarcasm detection is a significant challenge in sentiment analysis due to the nuanced and context-dependent nature of verbiage. We introduce Pragmatic Metacognitive Prompting (PMP) to improve the performance of Large Language Models (LLMs) in sarcasm detection, which leverages principles from pragmatics and reflection helping LLMs interpret implied meanings, consider contextual cues, and reflect on discrepancies to identify sarcasm. Using state-of-the-art LLMs such as LLaMA-3-8B, GPT-4o, and Claude 3.5 Sonnet, PMP achieves state-of-the-art performance on GPT-4o on MUStARD and SemEval2018. This study demonstrates that integrating pragmatic reasoning and metacognitive strategies into prompting significantly enhances LLMs' ability to detect sarcasm, offering a promising direction for future research in sentiment analysis.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑