arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2310.19792cs.CL
收藏

Eval4NLP 2023 共享任务:将大型语言模型提示为可解释评估指标

The Eval4NLP 2023 Shared Task on Prompting Large Language Models as Explainable Metrics

Bielefeld University(比勒费尔德大学);Heidelberg University(海德堡大学);Google(谷歌);Google Research(谷歌研究院);University of Haifa(海法大学)

Christoph Leiter, Juri Opitz, Daniel Deutsch, Yang Gao, Rotem Dror, Steffen Eger

AI总结:

本文介绍 Eval4NLP 2023 共享任务,在禁止微调的限制下探索用提示方法让 LLMs 作为机器翻译和摘要评估指标,最佳系统性能可比甚至超过 GEMBA 等更大模型的无参考指标。

摘要:

随着参数数量和预训练数据规模的不断增加,生成式大型语言模型(LLMs)在极少甚至没有任务相关示例的情况下展现出了卓越的解决问题能力。值得注意的是,LLMs 已被成功用作文本生成任务中的评估指标。在这一背景下,我们介绍了 Eval4NLP 2023 共享任务,该任务要求参与者探索针对机器翻译(MT)和摘要评估的提示方法与分数提取方法。具体而言,我们提出了一种新颖的竞赛设置:我们选定一组允许使用的 LLMs,并禁止微调,以确保研究重点集中在提示方法上。我们概述了参与者的方法,并在一个新的无参考测试集上对这些方法进行了评估,该测试集涵盖机器翻译的三个语言对以及一个摘要数据集。值得注意的是,尽管任务存在限制,表现最好的系统所取得的结果与近期使用更大模型开发的无参考指标(包括 GEMBA 和 Comet-Kiwi-XXL)相当,甚至超过了这些指标。最后,作为一个独立赛道,我们对 LLMs 所给出解释的合理性进行了小规模人工评估。

英文摘要:

With an increasing number of parameters and pre-training data, generative large language models (LLMs) have shown remarkable capabilities to solve tasks with minimal or no task-related examples. Notably, LLMs have been successfully employed as evaluation metrics in text generation tasks. Within this context, we introduce the Eval4NLP 2023 shared task that asks participants to explore prompting and score extraction for machine translation (MT) and summarization evaluation. Specifically, we propose a novel competition setting in which we select a list of allowed LLMs and disallow fine-tuning to ensure a focus on prompting. We present an overview of participants' approaches and evaluate them on a new reference-free test set spanning three language pairs for MT and a summarization dataset. Notably, despite the task's restrictions, the best-performing systems achieve results on par with or even surpassing recent reference-free metrics developed using larger models, including GEMBA and Comet-Kiwi-XXL. Finally, as a separate track, we perform a small-scale human evaluation of the plausibility of explanations given by the LLMs.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑