arXivDaily arXiv每日学术速递 周一至周五更新
​通知:联邦节假日调休:哥伦布日 / 原住民日(Columbus Day / Indigenous Peoples' Day),今日(13日)无更新。
arXiv 2303.13099cs.CLcs.AI

基于对话的多视角零样本开放意图归纳:多域批处理与代理梯度迁移

Multi-View Zero-Shot Open Intent Induction from Dialogues: Multi Domain Batch and Proxy Gradient Transfer

Seoul National University(首尔国立大学);Hanyang University(汉阳大学)

Hyukhun Koh, Haesung Pyun, Nakyeong Yang, Kyomin Jung

AI总结:

针对任务导向对话中的零样本开放意图归纳,本文提出融合 SBERT、MDB 与 PGT 的语义多视角模型,利用多域知识和 Siamese 聚类微调显著提升性能。

摘要:

在任务导向对话(TOD)系统中,检测并归纳新意图是将该系统应用于现实世界时面临的两大主要挑战。本文提出一种语义多视角模型来解决这两个挑战:(1)使用 SBERT 获得通用嵌入(GE);(2)使用 Multi Domain Batch(MDB,多域批处理)获取对话领域知识;(3)使用 Proxy Gradient Transfer(PGT,代理梯度迁移)获得面向聚类的专门语义。MDB 一次性将多样化的对话数据集输入模型,通过学习多种领域知识来处理多领域问题。我们还引入了一种新颖方法 PGT,该方法采用 Siamese 网络并结合聚类方法直接对模型进行微调。借助 PGT,我们的模型能够学习如何对对话话语进行聚类。实验结果表明,与基线系统相比,结合 MDB 和 PGT 的多视角模型显著提升了开放意图归纳性能。

英文摘要:

In Task Oriented Dialogue (TOD) system, detecting and inducing new intents are two main challenges to apply the system in the real world. In this paper, we suggest the semantic multi-view model to resolve these two challenges: (1) SBERT for General Embedding (GE), (2) Multi Domain Batch (MDB) for dialogue domain knowledge, and (3) Proxy Gradient Transfer (PGT) for cluster-specialized semantic. MDB feeds diverse dialogue datasets to the model at once to tackle the multi-domain problem by learning the multiple domain knowledge. We introduce a novel method PGT, which employs the Siamese network to fine-tune the model with a clustering method directly.Our model can learn how to cluster dialogue utterances by using PGT. Experimental results demonstrate that our multi-view model with MDB and PGT significantly improves the Open Intent Induction performance compared to baseline systems.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑