arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2309.01219cs.CLcs.AIcs.CYcs.LG

AI海洋中的塞壬之歌：关于大型语言模型中幻觉的综述

Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models

Tencent AI lab（腾讯AI实验室）；Soochow University（苏州大学）；Zhejiang University（浙江大学）；Renmin University of China（中国人民大学）；Nanyang Technological University（南洋理工大学）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
Yue Zhang, Yafu Li, Leyang Cui, Deng Cai, Lemao Liu, Tingchen Fu, Xinting Huang, Enbo Zhao, Yu Zhang, Chen Xu, Yulong Chen, Longyue Wang, Anh Tuan Luu, Wei Bi, … 展开作者

Yue Zhang, Yafu Li, Leyang Cui, Deng Cai, Lemao Liu, Tingchen Fu, Xinting Huang, Enbo Zhao, Yu Zhang, Chen Xu, Yulong Chen, Longyue Wang, Anh Tuan Luu, Wei Bi, Freda Shi, Shuming Shi

备注：
work in progress;
阅读 PDF
arXiv 页面 ↗HTML 原文 ↗

AI总结：

本文综述了大型语言模型中的幻觉问题，提出了幻觉现象与评估基准的分类体系，分析了现有的检测与缓解方法，并探讨了未来研究方向。

摘要：

尽管大型语言模型（LLMs）在一系列下游任务中展现了卓越能力，但一个重大隐患是其产生幻觉的倾向：LLMs偶尔会生成偏离用户输入、与先前生成的上下文矛盾，或与既定世界知识不符的内容。这一现象对LLMs在现实场景中的可靠性构成了巨大挑战。本文综述了近期在幻觉检测、解释和缓解方面的努力，并重点关注LLMs带来的独特挑战。我们提出了LLM幻觉现象和评估基准的分类体系，分析了旨在缓解LLM幻觉的现有方法，并探讨了未来研究的潜在方向。

英文摘要：

While large language models (LLMs) have demonstrated remarkable capabilities across a range of downstream tasks, a significant concern revolves around their propensity to exhibit hallucinations: LLMs occasionally generate content that diverges from the user input, contradicts previously generated context, or misaligns with established world knowledge. This phenomenon poses a substantial challenge to the reliability of LLMs in real-world scenarios. In this paper, we survey recent efforts on the detection, explanation, and mitigation of hallucination, with an emphasis on the unique challenges posed by LLMs. We present taxonomies of the LLM hallucination phenomena and evaluation benchmarks, analyze existing approaches aiming at mitigating LLM hallucination, and discuss potential directions for future research.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

↑