AfriHG:面向非洲语言的新闻标题生成
AfriHG: News headline generation for African Languages
AI总结:
本文构建了面向16种非洲语言的新闻标题生成数据集AfriHG,实验证明非洲中心模型AfriTeVa V2优于通用多语言模型mT5-base,且其微调性能可比肩参数量大40余倍的Aya-101大模型。
摘要:
本文介绍了AfriHG——一个新闻标题生成数据集,通过结合XLSum和MasakhaNEWS数据集创建,重点关注非洲广泛使用的16种语言。我们使用两个seq2seq模型(mT5-base和AfriTeVa V2)以及Aya-101大语言模型进行了实验。结果表明,以非洲为中心的seq2seq模型(如AfriTeVa V2)优于大规模多语言mT5-base模型。最后,我们证明,使用3.13亿参数微调AfriTeVa V2的性能可与使用超过130亿参数的Aya-101大语言模型提示相媲美。
英文摘要:
This paper introduces AfriHG -- a news headline generation dataset created by combining from XLSum and MasakhaNEWS datasets focusing on 16 languages widely spoken by Africa. We experimented with two seq2eq models (mT5-base and AfriTeVa V2), and Aya-101 LLM. Our results show that Africa-centric seq2seq models such as AfriTeVa V2 outperform the massively multilingual mT5-base model. Finally, we show that the performance of fine-tuning AfriTeVa V2 with 313M parameters is competitive to prompting Aya-101 LLM with more than 13B parameters.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。