arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2408.11189cs.CLcs.AIcs.IRcs.LG

情感化 RAG LLMs:面向开放互联网的阅读理解

Emotional RAG LLMs: Reading Comprehension for the Open Internet

  • AI Virtual Assistant (AVA) Lab, Georgia Institute of Technology(人工智能虚拟助理实验室,佐治亚理工学院)
  • Wand AI
  • Invoca

机构由 AI 辅助整理,请以论文原文为准。

Benjamin Reichman, Adar Avsian, Kartik Talamadupula, Toshish Jawale, Larry Heck

更新

AI总结:

针对现实RAG应用中互联网文本语气多样导致下游任务困难的挑战,本文提出了一个情感化数据集、一个情感翻译模型以及一种基于提示的方法,以提升LLMs对检索文本的语用理解能力。

AI中文摘要:

对大型语言模型(LLMs)的查询可分为两部分:指令/问题与附加上下文。大多数基准测试中,检索增强生成(RAG)系统的上下文来自类似维基百科、以中立事实语气撰写的文本。然而,现实世界的 RAG 应用常检索带有多种语气和语言风格的互联网文本,给下游任务带来挑战。本文提出了 (a) 一个将 RAG 检索段落转换为带有情感色彩和讽刺意味文本的数据集,(b) 一个用于将文本适配为不同语气的情感翻译模型,以及 (c) 一种基于提示的方法来提升 LLMs 对检索文本的语用理解能力。

英文摘要:

Queries to large language models (LLMs) can be divided into two parts: the instruction/question and the accompanying context. The context for retrieval-augmented generation (RAG) systems in most benchmarks comes from Wikipedia-like texts written in a neutral and factual tone. However, real-world RAG applications often retrieve internet-based text with diverse tones and linguistic styles, posing challenges for downstream tasks. This paper introduces (a) a dataset that transforms RAG-retrieved passages into emotionally inflected and sarcastic text, (b) an emotion translation model for adapting text to different tones, and (c) a prompt-based method to improve LLMs' pragmatic interpretation of retrieved text.

↑