arXiv 2404.074612024-09-14cs.CLcs.AI

NLP中幻觉问题的观点与挑战审计

An Audit on the Perspectives and Challenges of Hallucinations in NLP

College of Information Sciences and Technology, Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）；School of Interactive Computing, Georgia Institute of Technology（佐治亚理工学院交互计算学院）；Department of Computer Science & Engineering, Pennsylvania State University（宾夕法尼亚州立大学计算机科学与工程系）；Adobe Research（奥多比研究中心）

Pranav Narayanan Venkit, Tatiana Chakravorti, Vipul Gupta, Heidi Biggs, Mukund Srinath, Koustava Goswami, Sarah Rajtmajer, Shomir Wilson

阅读 PDF

arXiv 页面 ↗HTML 原文 ↗

AI总结：

本研究通过审计103篇NLP文献及调研171名从业者，发现领域内对大语言模型幻觉术语缺乏共识，呼吁明确相关定义与框架，并梳理了幻觉的社会影响与潜在挑战。

摘要：

我们对同行评审文献中大语言模型（LLM）的幻觉特征展开审计，批判性检视了NLP研究领域的103篇出版物。通过文献梳理，我们发现NLP领域对“幻觉”这一术语缺乏共识。此外，为补充审计工作，我们对171名NLP与AI领域的从业者开展了调查，以收集关于幻觉的不同观点。我们的分析表明，NLP领域亟需明确的幻觉定义与框架，并指出了潜在挑战；调查结果则从主题层面呈现了幻觉对社会的影响与后果。

英文摘要：

We audit how hallucination in large language models (LLMs) is characterized in peer-reviewed literature, using a critical examination of 103 publications across NLP research. Through the examination of the literature, we identify a lack of agreement with the term `hallucination' in the field of NLP. Additionally, to compliment our audit, we conduct a survey with 171 practitioners from the field of NLP and AI to capture varying perspectives on hallucination. Our analysis calls for the necessity of explicit definitions and frameworks outlining hallucination within NLP, highlighting potential challenges, and our survey inputs provide a thematic understanding of the influence and ramifications of hallucination in society.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。