arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2005.10200cs.CLcs.LG
收藏

BERTweet:一个针对英语推文的预训练语言模型

BERTweet: A pre-trained language model for English Tweets

VinAI Research(VinAI研究院);Australian e-Health Research Centre, CSIRO(澳大利亚电子健康研究中心(联邦科学与工业研究组织));Oracle Digital Assistant, Oracle(甲骨文数字助手(甲骨文公司));NVIDIA(英伟达)

Dat Quoc Nguyen, Thanh Vu, Anh Tuan Nguyen

摘要:

我们提出了BERTweet,第一个公共的大规模预训练语言模型的英语推文。我们的BERTweet,具有与BERT-base相同的架构(Devlin等人,2019),使用RoBERTa预训练程序进行训练(Liu等人,2019年)。实验表明,BERTweet优于强基线RoBERTa-base和XLM-R-base(Conneau等人,2020年),在三个Tweet NLP任务上产生了比以前最先进的模型更好的性能结果:词性标记,命名实体识别和文本分类。我们在MIT许可证下发布BERTweet,以促进未来对Tweet数据的研究和应用。我们的BERTweet可在https://github.com/VinAIResearch/BERTweet上获得

英文摘要:

We present BERTweet, the first public large-scale pre-trained language model for English Tweets. Our BERTweet, having the same architecture as BERT-base (Devlin et al., 2019), is trained using the RoBERTa pre-training procedure (Liu et al., 2019). Experiments show that BERTweet outperforms strong baselines RoBERTa-base and XLM-R-base (Conneau et al., 2020), producing better performance results than the previous state-of-the-art models on three Tweet NLP tasks: Part-of-speech tagging, Named-entity recognition and text classification. We release BERTweet under the MIT License to facilitate future research and applications on Tweet data. Our BERTweet is available at https://github.com/VinAIResearch/BERTweet

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑