定义幻觉的陷阱
The Pitfalls of Defining Hallucination
AI总结:
本文指出NLG评估中幻觉定义仍不清晰,通过考察数据到文本NLG中幻觉与遗漏的分类,提出基于逻辑的综合框架,并讨论了现有思考的局限及对LLMs的影响。
摘要:
尽管自然语言生成(NLG)和大型语言模型(LLMs)取得了令人瞩目的进展,研究人员对NLG评估的重要方面仍不清楚。为证实这一观点,我考察了当前数据到文本NLG中幻觉与遗漏的分类,并提出了基于逻辑的这些分类的综合。最后,我强调了当前所有关于幻觉的思考中仍存在的一些局限性,并讨论了对LLMs的影响。
英文摘要:
Despite impressive advances in Natural Language Generation (NLG) and Large Language Models (LLMs), researchers are still unclear about important aspects of NLG evaluation. To substantiate this claim, I examine current classifications of hallucination and omission in Data-text NLG, and I propose a logic-based synthesis of these classfications. I conclude by highlighting some remaining limitations of all current thinking about hallucination and by discussing implications for LLMs.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。