arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2304.13292cs.CL

低资源语言中的零样本槽位与意图检测

Zero-Shot Slot and Intent Detection in Low-Resource Languages

The University of British Columbia(不列颠哥伦比亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)

Sang Yun Kwon, Gagan Bhatia, El Moatez Billah Nagoudi, Alcides Alcoba Inciarte, Muhammad Abdul-Mageed

AI总结:

本文面向低资源语言的零样本槽位与意图检测,评估多种模型与设置,并验证 mT0 在未见语言和 SID 任务上的泛化能力,最佳模型较基线最高提升 30 个 F1 点。

摘要:

意图检测和槽位填充是面向任务的对话系统中口语与自然语言理解的关键任务。在本工作中,我们描述了参与低资源语言变体槽位与意图检测(SID4LR;Aepli 等人,2023)的情况。我们使用多种模型和设置来研究槽位与意图检测(SID)任务。鉴于大型语言模型的多任务提示微调近期取得成功,我们还测试了近期的编码器-解码器模型 mT0(Muennighoff 等人,2022)在其从未有意接触过的语言中的新任务(即 SID)上的泛化能力。结果表明,我们的最佳模型在两项 SID 任务上均大幅优于基线,提升最高达 +30 个 F1 点。

英文摘要:

Intent detection and slot filling are critical tasks in spoken and natural language understanding for task-oriented dialog systems. In this work we describe our participation in the slot and intent detection for low-resource language varieties (SID4LR; Aepli et al. (2023)). We investigate the slot and intent detection (SID) tasks using a wide range of models and settings. Given the recent success of multitask-prompted finetuning of large language models, we also test the generalization capability of the recent encoder-decoder model mT0 (Muennighoff et al., 2022) on new tasks (i.e., SID) in languages they have never intentionally seen. We show that our best model outperforms the baseline by a large margin (up to +30 F1 points) in both SID tasks

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑