arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 1909.07102cs.LGstat.ML
收藏

序列建模的混合神经模型:三个世界中的最佳

Hybrid Neural Models For Sequence Modelling: The Best Of Three Worlds

LIG(格勒诺布尔信息学实验室);Lattice CNRS(法国国家科学研究中心Lattice实验室);ALMAnaCH Inria(法国国家数字科学技术研究所ALMAnaCH)

Marco Dinarelli, Loïc Grobol

摘要:

我们提出了一个神经架构,它具有过去几年最成功的神经模型的主要特征:双向RNN,编码器-解码器和Transformer模型。对三个序列标记任务的评估产生的结果是接近国家的最先进的所有任务,并优于它的一些,显示这种混合架构的这种任务的相关性。

英文摘要:

We propose a neural architecture with the main characteristics of the most successful neural models of the last years: bidirectional RNNs, encoder-decoder, and the Transformer model. Evaluation on three sequence labelling tasks yields results that are close to the state-of-the-art for all tasks and better than it for some of them, showing the pertinence of this hybrid architecture for this kind of tasks.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑