arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2401.07897cs.CL
收藏

定义幻觉的陷阱

The Pitfalls of Defining Hallucination

Utrecht University(乌得勒支大学)

Kees van Deemter

AI总结:

本文指出NLG评估中幻觉定义仍不清晰,通过考察数据到文本NLG中幻觉与遗漏的分类,提出基于逻辑的综合框架,并讨论了现有思考的局限及对LLMs的影响。

摘要:

尽管自然语言生成(NLG)和大型语言模型(LLMs)取得了令人瞩目的进展,研究人员对NLG评估的重要方面仍不清楚。为证实这一观点,我考察了当前数据到文本NLG中幻觉与遗漏的分类,并提出了基于逻辑的这些分类的综合。最后,我强调了当前所有关于幻觉的思考中仍存在的一些局限性,并讨论了对LLMs的影响。

英文摘要:

Despite impressive advances in Natural Language Generation (NLG) and Large Language Models (LLMs), researchers are still unclear about important aspects of NLG evaluation. To substantiate this claim, I examine current classifications of hallucination and omission in Data-text NLG, and I propose a logic-based synthesis of these classfications. I conclude by highlighting some remaining limitations of all current thinking about hallucination and by discussing implications for LLMs.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑