SheffieldVeraAI 在 SemEval-2023 任务 3 中的表现:面向新闻体裁、主题与说服技巧分类的单语及多语方法
SheffieldVeraAI at SemEval-2023 Task 3: Mono and multilingual approaches for news genre, topic and persuasion technique classification
AI总结:
本研究针对 SemEval-2023 任务 3 的三个新闻分类子任务,分别设计单语与多语集成模型,在多语言赛道取得优异排名,同时验证了不同语言方案及类别不平衡技术的效果。
摘要:
本文介绍了我们针对 SemEval-2023 任务 3(多语言场景下检测在线新闻的类别、框架与说服技巧)的研究方法。在子任务 1(新闻体裁)中,我们提出了一种由全训练模型与 adapter mBERT 模型组成的集成模型,该模型在德语赛道上并列第一,且在多语言参赛团队中平均排名最高。在子任务 2(框架分析)中,我们通过使用两个独立的集成模型:单语 RoBERTa-MUPPETLARGE 模型,以及带有适配器和任务自适应预训练的 XLM-RoBERTaLARGE 集成模型,在 3 种语言上获得第一名,且在所有语言中的平均排名最佳。在子任务 3(说服技巧)中,我们针对英语训练了单语 RoBERTa-Base 模型,针对其余语言训练了多语 mBERT 模型,该模型在所有语言中均进入前 10,其中英语赛道位列第 2。针对每个子任务,我们都对比了单语与多语方法,并考虑了类别不平衡处理技术。
英文摘要:
This paper describes our approach for SemEval-2023 Task 3: Detecting the category, the framing, and the persuasion techniques in online news in a multi-lingual setup. For Subtask 1 (News Genre), we propose an ensemble of fully trained and adapter mBERT models which was ranked joint-first for German, and had the highest mean rank of multi-language teams. For Subtask 2 (Framing), we achieved first place in 3 languages, and the best average rank across all the languages, by using two separate ensembles: a monolingual RoBERTa-MUPPETLARGE and an ensemble of XLM-RoBERTaLARGE with adapters and task adaptive pretraining. For Subtask 3 (Persuasion Techniques), we train a monolingual RoBERTa-Base model for English and a multilingual mBERT model for the remaining languages, which achieved top 10 for all languages, including 2nd for English. For each subtask, we compared monolingual and multilingual approaches, and considered class imbalance techniques.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。