Findings of the Shared Task on Offensive Span Identification from Code-Mixed Tamil-English Comments
Georgia Institute of Technology（佐治亚理工学院）；Data Science Institute, National University of Ireland Galway（爱尔兰国立高威大学数据科学研究所）；National Institute of Technology Karnataka Surathkal（卡纳塔克邦苏拉特卡尔国家理工学院）；National Institute of Technology, Trichy（特里奇国家理工学院）；Vellore Institute of Technology（韦洛尔理工学院）；Eastern University, Sri Lanka（斯里兰卡东方大学）；Indian Institute of Information Technology and Management, Kerala（喀拉拉邦印度信息技术与管理学院）；Thiagarajar College of Engineering（蒂亚加拉贾工程学院）
在社交媒体平台中，攻击性内容的审核对于支持健康的在线讨论至关重要。然而，他们在代码混合的达罗毗荼语中的流行仅限于对整个评论进行分类，而没有识别出其中导致冒犯的部分。这种限制主要是由于缺乏进攻性跨度的注释数据。因此，在这个共同的任务，我们提供泰米尔语，英语代码混合的社会评论与进攻跨度。本文概述了这样发布的数据集，方法和提交系统的结果
2022-05-12 cs.CL
KEIS@JUST at SemEval-2020 Task 12: Identifying Multilingual Offensive Tweets Using Weighted Ensemble and Fine-Tuned BERT
Jordan University of Science and Technology（约旦科技大学）
这项研究介绍了我们的团队KEIS@JUST参与SemEval-2020任务12，该任务代表了多语言攻击性语言的共享任务。我们参与了所有子任务提供的所有语言，除了英语的子任务A。已经开发了两种主要方法，第一种是处理阿拉伯语和英语两种语言，加权集成包括Bi-GRU和CNN，然后是高斯噪声和全局池化层乘以权重以提高整体性能。第二种是对其他语言进行的，除了循环神经网络（如Bi-LSTM和Bi-GRU）之外，还从BERT进行了迁移学习，然后是全局平均池化层。词嵌入和上下文嵌入已被用作特征，此外，数据增强仅用于阿拉伯语。
2020-05-15 cs.CL cs.LG
Overview of the HASOC Subtrack at FIRE 2021: Hate Speech and Offensive Content Identification in English and Indo-Aryan Languages
University of Hildesheim（希尔德斯海姆大学）；LDRP-ITR；University of Duisburg-Essen（杜伊斯堡-埃森大学）；Indian Institute of Science（印度科学理工学院）；DA-IICT；University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）；University of Bamberg（班贝格大学）；University of Bedfordshire（贝德福德大学）；University of Leeds（利兹大学）
仇恨言论等攻击性内容在网上的广泛传播构成了日益严重的社会问题。人工智能工具对于支持在线平台的审核过程是必要的。为了评估这些识别工具，需要对不同语言的数据集进行连续实验。HASOC（Hate Speech and Offensive Content Identification，仇恨言论和攻击性内容识别）专门为此目的开发基准数据。本文介绍了英语，印地语和马拉地语的HASOC子轨道。该数据集来自Twitter。此子路径有两个子任务。任务A是针对所有三种语言的二元分类问题（仇恨和不冒犯）。任务B是一个细粒度的分类问题，分为三类（仇恨）仇恨言论，进攻和专业提供的英语和印地语。总共有65支球队提交了652次跑步。任务A的最佳分类算法的性能是F1措施0.91，0.78和0.83马拉地语，印地语和英语，分别。本概述介绍了任务和数据开发以及详细结果。提交竞赛的系统应用了各种技术。性能最好的算法主要是Transformer架构的变体。
2021-12-17 cs.AI cs.CL cs.SI
LIIR at SemEval-2020 Task 12: A Cross-Lingual Augmentation Approach for Multilingual Offensive Language Identification
KU Leuven（鲁汶大学）
本文介绍了我们的系统，题为“LIIR”的SemEval-2020任务12在社交媒体中的多语言攻击性语言识别（OffensEval 2）。我们参加了英语、丹麦语、希腊语、阿拉伯语和土耳其语的分任务A。我们分别针对英语和非英语语言调整和微调了Google AI提供的BERT和多语言Bert模型。对于英语语言，我们使用两个微调的BERT模型的组合。对于其他语言，我们提出了一种跨语言的增强方法，以丰富训练数据，我们使用多语言BERT获得句子表示。LIIR在希腊语、土耳其语、英语、阿拉伯语和丹麦语中的排名分别为14/38、18/47、24/86、24/54和25/40。
2020-07-17 cs.CL
Duluth at SemEval-2020 Task 12: Offensive Tweet Identification in English with Logistic Regression
University of Minnesota（明尼苏达大学）
本文介绍了参加SemEval-2020任务12的德卢斯系统，社交媒体中的多语言攻击性语言识别（OffensEval-2020）。我们参加了三个英语任务。我们的系统使用逻辑回归提供了一个简单的机器学习基线。我们在任务组织者提供的远程监督训练数据上训练我们的模型，并且不使用其他资源。正如所料，我们在比较评估中的排名并不高：任务A中的85名中排名第79，任务B中的43名中排名第34，任务C中的39名中排名第24。我们对我们的结果进行了定性分析，发现金标准数据中的类标签有些嘈杂。我们假设，排名靠前的系统的极高准确率（> 90%）可能反映了非常好地学习训练数据的方法，但可能无法推广到识别英语中攻击性语言的任务。这一分析包括一些推文的例子，这些推文尽管经过了轻微的编辑，但仍然具有攻击性。
2020-07-25 cs.CL
WLV-RIT at HASOC-Dravidian-CodeMix-FIRE2020: Offensive Language Identification in Code-switched YouTube Comments
University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）
本文介绍了WLV-RIT进入印度-欧洲语言中的仇恨言论和攻击性内容识别（HASOC）共享任务2020。HASOC 2020组织者为参与者提供了注释数据集，其中包含以德拉维语（马拉雅拉姆语-英语和泰米尔语-英语）混合的社交媒体帖子。我们参与了任务1：代码混合马拉雅拉姆语Youtube评论中的攻击性评论识别。在我们的方法中，我们利用现有的英语数据，通过应用跨语言的上下文词嵌入和迁移学习来预测马拉雅拉姆语数据。我们进一步改善使用各种微调策略的结果。我们的系统在测试集上取得了0.89的加权平均F1分数，在12名参与者中排名第5位。
2020-11-01 cs.AI cs.CL cs.LG
Cross-lingual Offensive Language Identification for Low Resource Languages: The Case of Marathi
Rochester Institute of Technology（罗切斯特理工学院）；University of Wolverhampton（伍尔弗汉普顿大学）
攻击性语言在社交媒体上的广泛存在促使开发能够自动识别此类内容的系统。除了少数显著的例外，大多数关于自动攻击性语言识别的研究都涉及英语。为了解决这个缺点，我们引入了MOLD，马拉地语攻击性语言数据集。MOLD是为马拉地语编制的第一个此类数据集，从而为低资源的印度-雅利安语言的研究开辟了一个新的领域。我们在这个数据集上展示了几个机器学习实验的结果，包括零短路和其他迁移学习实验，这些实验是在孟加拉语、英语和印地语现有数据的最先进的跨语言Transformers上进行的。
2021-09-08 cs.AI cs.CL cs.LG
Fine-Tuning Large Language Models with QLoRA for Offensive Language Detection in Roman Urdu-English Code-Mixed Text
Instituto Politécnico Nacional (IPN), Centro de Investigación en Computación (CIC)（墨西哥国立理工学院（IPN），计算研究中心（CIC））
本文提出基于QLoRA的微调框架，利用英语翻译的罗马乌尔都语-英语代码混合数据，通过微调多种大语言模型，实现高效冒犯性语言检测，其中Meta LLaMA 3 8B达到最高F1分数91.45。
2025-10-10 cs.CL
Offensive Language and Hate Speech Detection for Danish
IT University of Copenhagen（哥本哈根信息技术大学）
社交媒体平台上攻击性语言的存在及其带来的影响正在成为现代社会的一个主要问题。鉴于每天创建的大量内容，需要自动方法来检测和处理此类内容。到目前为止，大多数研究都集中在解决英语语言的问题上，而问题是多语言的。我们构建了一个丹麦数据集，其中包含用户生成的评论\textit{Reddit}和\textit{Facebook}。它包含来自各种社交媒体平台的用户生成的评论，据我们所知，这是同类中的第一个。我们的数据集被注释以捕获各种类型和攻击性语言的目标。我们开发了四个自动分类系统，每个系统都设计用于英语和丹麦语。在检测英语中的攻击性语言时，表现最好的系统达到了$0.74$的宏观平均F1分数，而丹麦语的表现最好的系统达到了$0.70$的宏观平均F1分数。在检测是否有攻击性的帖子作为目标时，英语的最佳表现系统达到了$0.62$的宏观平均F1分数，而丹麦语的最佳表现系统达到了$0.73$的宏观平均F1分数。最后，在有针对性的进攻后的目标类型的检测中，英语的最佳表现系统实现了$0.56$的宏观平均F1分数，并且丹麦语的最佳表现系统实现了$0.63$的宏观平均F1分数。我们对英语和丹麦语的研究捕捉了攻击性语言的类型和目标，并提出了检测不同类型攻击性语言的自动方法，如仇恨言论和网络欺凌。
2023-03-23 cs.CL
indicnlp@kgp at DravidianLangTech-EACL2021: Offensive Language Identification in Dravidian Languages
IIT Kharagpur（印度理工学院卡拉格普尔分校）
本文介绍了团队indicnlp@kgp提交给EACL 2021共享任务“达罗毗荼语中的攻击性语言识别”。“该任务旨在对3个代码混合的德拉威语数据集中不同的攻击性内容类型进行分类。这项工作利用了现有的最先进的方法在文本分类中，通过纳入额外的数据和预训练模型的迁移学习。我们最终提交的是基于AWD-LSTM的模型以及基于BERT和RoBERTa的两种不同的Transformer模型架构的集合。我们在马拉雅拉姆语-英语、泰米尔语-英语和卡纳达语-英语数据集中取得了0.97、0.77和0.72的加权平均F1分数，在各自的任务中排名第一、第二和第三。
2021-02-14 cs.CL
CUSATNLP@HASOC-Dravidian-CodeMix-FIRE2020:Identifying Offensive Language from ManglishTweets
Cochin University of Science and Technology（科钦科技大学）
随着社交媒体的普及，通过博客、Facebook、Twitter和其他平台进行的交流有所增加。最初，英语是唯一的沟通媒介。幸运的是，现在我们可以用任何语言交流。它导致人们以混合的形式使用英语和他们自己的母语或母语。有时，其他语言的评论具有英语音译格式或其他情况;人们使用预期的语言脚本。从这些代码混合的推文中识别情绪和攻击性内容是这些时候的必要任务。我们为2020年信息检索评估论坛中的HASOC攻击性语言识别- DravidianCodeMix的子轨道任务2提交了一个工作模型。这是一个消息级别的分类任务。在我们的方法中，基于嵌入模型的分类器识别攻击性和非攻击性评论。我们将此方法应用于与子轨道一起提供的Manglish数据集。
2020-10-17 cs.CL
Multilingual Offensive Language Identification with Cross-lingual Embeddings
University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）
攻击性内容在社交媒体中无处不在，也是公司和政府组织关注的一个原因。最近发表了几项研究报告，探讨了检测各种形式的此类内容（如仇恨言论、网络欺凌和网络攻击）的方法。这些研究中的大多数都涉及英语，部分原因是大多数注释数据集包含英语数据。在本文中，我们利用英语数据，通过应用跨语言的上下文词嵌入和迁移学习，使预测的语言资源较少。我们对孟加拉语，印地语和西班牙语的可比数据进行预测，并报告孟加拉语的0.8415 F1宏，印地语的0.8568 F1宏和西班牙语的0.7513 F1宏的结果。最后，我们表明，我们的方法相比，这三种语言的最好的系统提交给最近的共享任务，确认跨语言的上下文嵌入和迁移学习这项任务的鲁棒性。
2020-10-11 cs.CL cs.LG
Exploring Transformer Based Models to Identify Hate Speech and Offensive Content in English and Indo-Aryan Languages
Department of Computer Science；Engineering, Indian Institute of Technology, Kharagpur, West Bengal, India；Department of Electrical Engineering , Indian Institute of Technology, Kharagpur, West Bengal, India
仇恨言论被认为是目前困扰在线社交媒体的主要问题之一。反复和重复接触仇恨言论已被证明会对目标用户产生生理影响。因此，应在这些平台上处理一切形式的仇恨言论，以保持良好的健康。在本文中，我们探索了几种基于Transformer的机器学习模型，用于在FIRE 2021上检测英语和印度-雅利安语中的仇恨言论和攻击性内容。我们探索了几种型号，如mBERT，XLMR大型，XLMR基地的团队名称“超级马里奥”。我们的模型在代码混合数据集中排名第二（宏F1：0.7107），在印地语两类分类中排名第二（宏F1：0.7797），在英语四类分类中排名第四（宏F1：0.8006），在英语两类分类中排名第12（宏F1：0.6447）。
2021-11-27 cs.CL
Pretrained Transformers for Offensive Language Identification in Tanglish
PSG College of Arts and Science（PSG文理学院）
本文描述了提交给Dravidian-Codemix-HASOC 2021的系统：德拉威语言（泰米尔语-英语和马拉雅拉姆语-英语）中的仇恨言论和攻击性语言识别。这项任务旨在识别从社交媒体收集的达罗毗荼语代码混合评论/帖子中的攻击性内容。我们的方法利用池化预训练的Transformer多语言BERT的最后几层来完成这项任务，这帮助我们在子任务B中获得了泰米尔语-英语数据集的加权平均得分为0.61的排行榜排名第九。在任务截止日期之后，我们对数据集进行了统一采样，并使用了MuRIL预训练模型，这帮助我们获得了0.67的加权平均分，这是排行榜中的最高分。此外，我们利用预训练模型的方法有助于将我们的模型重用于不同数据集的相同任务。我们的代码和模型可以在https://github.com/seanbenhur/tanglish-offensive-language-identification上找到
2021-12-07 cs.CL
UPB at SemEval-2020 Task 12: Multilingual Offensive Language Detection on Social Media by Fine-tuning a Variety of BERT-based Models
University Politehnica of Bucharest（布加勒斯特理工大学）
攻击性语言检测是自然语言处理领域中最具挑战性的问题之一，这是由于在线社交媒体中这种现象的不断增加而引起的。本文描述了我们基于transformer的解决方案，用于识别Twitter上五种语言的攻击性语言（即，英语、阿拉伯语、丹麦语、希腊语和土耳其语），用于Offenseval 2020共享任务的子任务A。几种神经架构（即，BERT、mBERT、Roberta、XLM-Roberta和ALBERT），使用单语言和多语言语料库进行预训练，使用多种数据集组合进行微调和比较。最后，得分最高的模型被用于我们在比赛中提交的作品，我们的团队在英语、阿拉伯语、丹麦语、希腊语和土耳其语中分别排名85位中的第21位、53位中的第28位、39位中的第19位、37位中的第16位和46位中的第10位。
2020-10-27 cs.CL cs.LG
Offensive Language Identification in Greek
University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）
由于攻击性语言已成为在线社区和社交媒体平台的一个日益严重的问题，研究人员一直在研究应对滥用内容的方法，并开发系统来检测其不同类型：网络欺凌，仇恨言论，侵略等。这主要是由于英语语言资源的可用性。为了解决这个问题，本文提出了第一个用于攻击性语言识别的希腊注释数据集：攻击性希腊推文数据集（OGTD）。OGTD是一个手动注释的数据集，包含来自Twitter的4，779个帖子，注释为攻击性和非攻击性。随着数据集的详细描述，我们评估了几个计算模型训练和测试这些数据。
2020-03-18 cs.CL
OffMix-3L: A Novel Code-Mixed Dataset in Bangla-English-Hindi for Offensive Language Identification
George Mason University（乔治梅森大学）
本文提出OffMix-3L，一个包含孟加拉语、英语和印地语三种语言混合代码的新型攻击性语言识别数据集，并验证BanglishBERT在该数据集上优于其他transformer模型和GPT-3.5。
2023-11-25 cs.AI cs.CL
Offensive Language Detection: A Comparative Analysis
Center for Computational Engineering & Networking (CEN)（计算工程与网络中心（CEN））；Amrita School of Engineering（阿姆里塔工程学院）；Amrita Vishwa Vidyapeetham（阿姆里塔维迪亚佩瑟姆大学）
攻击性行为在互联网社区已变得普遍。个人利用网络世界的匿名性，沉迷于他们在现实生活中可能不会考虑的攻击性通信。政府、在线社区、公司等都在投资于预防社交媒体中的攻击性行为内容。解决这个神秘问题的最有效的解决方案之一是使用计算技术来识别攻击性内容并采取行动。目前的工作重点是检测英语推文中的攻击性语言。用于实验的数据集来自SemEval-2019 Task 6 on Identifying and Categorizing Offensive Language in Social Media（OffensEval）。该数据集包含14，460条带注释的英文推文。本文提出了一种基于比较分析和随机厨房水槽（RKS）的攻击性语言检测方法。我们探讨了Google句子编码器，Fasttext，基于动态模式分解（DMD）的特征和随机厨房水槽（RKS）方法用于攻击性语言检测的有效性。从实验和评估中，我们观察到RKS与fastext取得了竞争性的结果。使用的评价指标为准确率、精确率、召回率、f1-score。
2020-01-09 cs.CL
Cross-Cultural Transfer Learning for Chinese Offensive Language Detection
University of Electronic Science and Technology of China（电子科技大学）；University of Copenhagen（哥本哈根大学）；Huazhong University of Science and Technology（华中科技大学）
本文研究跨文化迁移学习对中文冒犯性语言检测的影响，发现文化特定偏见会降低模型迁移能力，但少样本场景下利用多文化数据仍具良好前景。
2023-03-31 cs.CL
Multilingual Offensive Language Identification for Low-resource Languages
University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）
攻击性内容在社交媒体中无处不在，也是公司和政府组织关注的一个原因。最近发表了几项研究报告，探讨了检测各种形式的此类内容（如仇恨言论、网络欺凌和网络攻击）的方法。这些研究中的大多数都涉及英语，部分原因是大多数注释数据集包含英语数据。在本文中，我们利用现有的英语数据集，应用跨语言的上下文词嵌入和迁移学习，在低资源的语言进行预测。我们对阿拉伯语、孟加拉语、丹麦语、希腊语、印地语、西班牙语和土耳其语的可比数据进行预测。我们报告了TRAC-2共享任务中孟加拉语的0.8415 F1宏，丹麦语的0.8532 F1宏和OffensEval 2020中希腊语的0.8701 F1宏，HASOC 2019共享任务中印地语的0.8568 F1宏和SemEval-2019任务5（HatEval）中西班牙语的0.7513 F1宏显示我们的方法与最近提交给这三种语言的共享任务的最佳系统相比毫不逊色。此外，我们使用OffensEval 2020共享任务的培训和开发集报告阿拉伯语和土耳其语的竞争力表现。所有语言的结果证实了跨语言上下文嵌入和迁移学习在此任务中的鲁棒性。
2021-05-20 cs.AI cs.CL cs.LG
A Federated Learning Approach to Privacy Preserving Offensive Language Identification
George Mason University（乔治梅森大学）；Lancaster University（兰卡斯特大学）；Aston University（阿斯顿大学）
针对社交媒体攻击性语言识别中的用户隐私问题，提出基于联邦学习的去中心化隐私保护架构及模型融合方法，在4个英文基准数据集上性能优于基线，还开展了英西跨语言初步实验。
2024-04-17 cs.CL cs.LG
Gauravarora@HASOC-Dravidian-CodeMix-FIRE2020: Pre-training ULMFiT on Synthetically Generated Code-Mixed Data for Hate Speech Detection
Jio Haptik Technologies Limited（Jio Haptik科技有限公司）
本文描述了提交给Dravidian-Codemix-HASOC 2020的系统：Dravidian语言（泰米尔语-英语和马拉雅拉姆语-英语）的仇恨语音和攻击性内容识别。该任务旨在识别从社交媒体收集的德拉维语评论/帖子的代码混合数据集中的攻击性语言。我们参与了子任务A和子任务B，子任务A旨在识别混合脚本（本地和罗马脚本的混合）中的冒犯性内容，子任务B旨在识别德拉威语的罗马脚本中的冒犯性内容。为了解决这些任务，我们提出了在综合生成的代码混合数据上预训练ULMFiT，这些数据是通过使用马尔可夫链将代码混合数据生成建模为马尔可夫过程而生成的。我们的模型在子任务B中获得了0.88的加权F1分数，并在排行榜上获得了第二名。此外，我们的模型在子任务A中为混合脚本马拉雅拉姆语-英语获得了0.91加权F1分数（第4等级），在子任务B中为代码混合马拉雅拉姆语-英语获得了0.74加权F1分数（第5等级）。
2020-10-19 cs.CL
DravidianCodeMix: Sentiment Analysis and Offensive Language Identification Dataset for Dravidian Languages in Code-Mixed Text
National University of Ireland Galway（爱尔兰国立大学戈尔韦分校）；ULTRA Arts and Science College（ULTRA艺术与科学学院）；Cardiff University（卡迪夫大学）；Indian Institute of Information Technology and Management-Kerala（印度喀拉拉邦信息技术与管理学院）
本文描述了一个多语言的，手动注释的数据集为三个资源不足的德拉威语言从社交媒体评论生成的发展。该数据集被注释用于情感分析和攻击性语言识别，总共有60，000多条YouTube评论。该数据集包括大约44，000条泰米尔语评论，大约7，000条卡纳达语评论，以及大约20，000条马拉雅拉姆语评论。这些数据由志愿者注释者手动注释，并且在Krippendorff的alpha中具有较高的注释者间一致性。该数据集包含所有类型的代码混合现象，因为它包含来自多语言国家的用户生成的内容。我们还提出了基线实验，使用机器学习方法在数据集上建立基准。数据集可以在Github（https：//github.com/bharathichezhiyan/DravidianCodeMix-Dataset）和Zenodo（https：//zenodo.org/record/4750858\#.YJtw0SYo\_0M）上找到。
2021-06-17 cs.CL
KOLD: Korean Offensive Language Dataset
KAIST（韩国科学技术院）；SoftlyAI（SoftlyAI公司）
攻击性语言检测的最新方向是分层建模，识别攻击性语言的类型和目标，以及具有攻击性跨度注释和预测的可解释性。这些改进集中在英语上，由于文化和语言差异，不能很好地转移到其他语言。在本文中，我们提出了韩国进攻性语言数据集（KOLD），包括40,429条评论，这是注释层次的类型和攻击性语言的目标，伴随着相应的文本跨度的注释。我们从NAVER新闻和YouTube平台收集评论，并提供文章和视频的标题作为注释过程的上下文信息。我们使用这些注释的意见作为韩国BERT和RoBERTa模型的训练数据，并发现它们是有效的攻击性检测，目标分类，目标跨度检测，而目标群分类和攻击跨度检测有改进的空间。我们发现目标群体分布与现有的英语数据集有很大的不同，并观察到提供上下文信息提高了攻击性检测（+0.3），目标分类（+1.5）和目标群体分类（+13.1）的模型性能。我们公开发布数据集和基线模型。
2022-11-05 cs.AI cs.CL
Kungfupanda at SemEval-2020 Task 12: BERT-Based Multi-Task Learning for Offensive Language Detection
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心）；The Hong Kong University of Science and Technology（香港科技大学）
如今，社交媒体中的攻击性内容已成为一个严重的问题，自动检测攻击性语言是一项必不可少的任务。在本文中，我们建立了一个攻击性语言检测系统，它结合了多任务学习和基于BERT的模型。使用预先训练的语言模型，如BERT，我们可以有效地学习社交媒体中嘈杂文本的表示。此外，为了提高攻击性语言检测的性能，我们利用了其他相关任务的监督信号。在OffensEval-2020竞赛中，我们的模型在英语子任务A中获得了91.51%F1的分数，与第一名（92.23%F1）相当。最后，通过实证分析，说明了本文方法的有效性.
2020-07-20 cs.CL cs.LG
Combining Textual Features for the Detection of Hateful and Offensive Language
TIB - Leibniz Information Centre for Science and Technology（莱布尼茨科学技术信息中心（TIB））；Leibniz University Hannover（汉诺威莱布尼茨大学）
由于社交网络的许多用户每天都面临网络欺凌活动，因此检测攻击性、仇恨性和亵渎性语言已成为一项重大挑战。在本文中，我们提出了一个分析结合不同的文本特征检测仇恨或攻击性的帖子在Twitter上。我们提供了一个详细的实验评估，以了解在神经网络架构中的每个构建块的影响。在英文子任务1A上评估了所提出的架构：从团队名称TIB-VA下的HASOC-2021数据集的帖子数据集中识别仇恨，攻击性和亵渎内容。我们比较了不同的变体的上下文词嵌入结合字符级嵌入和编码收集的仇恨条款。
2021-12-09 cs.CL cs.LG
Offensive Language Detection with BERT-based models, By Customizing Attention Probabilities
NLP Research Laboratory（自然语言处理研究实验室）；Shahid Beheshti University（沙希德·贝赫什提大学）
本文介绍了一种新的研究使用“注意力掩码”输入Transformers，并使用这种方法来检测英语和波斯语的攻击性内容。本文的主要重点是提出一种方法，以提高性能的BERT为基础的模型上的“攻击性语言检测”的任务。因此，我们通过改变“Attention Mask”输入来定制注意概率，以创建更有效的词嵌入。为此，我们首先对利用的数据集的训练集进行标记化（通过BERT tokenizer）。然后，我们应用多项式朴素贝叶斯将这些令牌映射到两个概率。这些概率表示使文本不具有攻击性或具有攻击性的可能性，前提是它包含该标记。然后，我们使用这些概率来定义一个新的术语，即进攻得分。接下来，我们基于每种语言的攻击性得分创建两个单独的（由于所采用的数据集类型的差异）方程，以重新分配“注意力掩码”输入，以便更多地关注更具攻击性的短语。最终，我们将F1-macro得分作为我们的评估指标，并对BERT与ANN，CNN和RNN的几种组合进行微调，以检查使用这种方法对各种组合的影响。结果表明，所有的模型将增强与这种方法。英语和波斯语的进步最大，分别为2%和10%。
2021-10-11 cs.AI cs.CL
Guardians of Discourse: Evaluating LLMs on Multilingual Offensive Language Detection
School of AI and Advanced Computing, Xi’an Jiaotong-Liverpool University（西交利物浦大学人工智能与先进计算学院）；School of Advanced Technology, Xi’an Jiaotong-Liverpool University（西交利物浦大学先进技术学院）；College of Computer Science and Technology, Zhejiang University of Technology（浙江工业大学计算机科学与技术学院）；Australian Artificial Intelligence Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所）
本文首次在英、西、德三种语言上系统评估GPT-3.5、Flan-T5和Mistral在单语及多语言冒犯性语言检测中的表现，并分析提示语言、翻译数据增强及模型与数据偏见对敏感主题误判的影响。
2024-10-21 cs.CL
Overview of the HASOC track at FIRE 2020: Hate Speech and Offensive Content Identification in Indo-European Languages
University of Hildesheim（希尔德斯海姆大学）；LDRP-ITR；University of Duisburg-Essen（杜伊斯堡-埃森大学）；University of Bedfordshire（贝德福德大学）；University of Leeds（利兹大学）；University of Bamberg（班贝格大学）；Dalhousie University（达尔豪斯大学）；DA-IICT
随着社交媒体的发展，仇恨言论的传播也在迅速增加。社交媒体在许多国家都得到了广泛的应用。仇恨言论也在这些国家蔓延。这就需要多语言仇恨语音检测算法。目前，这一领域的许多研究都是针对英语的。HASOC轨道旨在提供一个平台，以开发和优化印地语，德语和英语的仇恨语音检测算法。该数据集是从Twitter存档中收集的，并由机器学习系统进行预分类。HASOC针对所有三种语言有两个子任务：任务A是二元分类问题（仇恨和非冒犯性），而任务B是针对三个类别（仇恨）的细粒度分类问题仇恨言论、冒犯性和专业性。总共有40支球队提交了252次跑步。任务A的最佳分类算法的性能分别为英语，印地语和德语的F1测量值为0.51，0.53和0.52。对于任务B，最好的分类算法分别为英语，印地语和德语实现了0.26，0.33和0.29的F1测量。本文介绍了任务和数据开发以及结果。性能最好的算法主要是Transformer架构BERT的变体。然而，其他系统也得到了很好的应用
2021-08-12 cs.CL cs.CY
Multilingual Hate Speech and Offensive Content Detection using Modified Cross-entropy Loss
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）；National Institute of Technology Raipur（赖布尔国家理工学院）
社交媒体用户数量的增加导致很多人滥用这些平台来传播攻击性内容和使用仇恨言论。手动跟踪大量的帖子是不切实际的，因此有必要设计自动化方法来快速识别它们。大语言模型是在大量数据上训练的，它们还利用了上下文嵌入。我们对大语言模型进行微调，以帮助我们完成任务。数据也很不平衡;所以我们使用了修改的交叉熵损失来解决这个问题。我们观察到，使用在印地语语料库中微调的模型表现更好。我们的团队（HNLP）在英语子任务A和英语子任务B中分别获得了0.808，0.639的宏观F1分数。在HASOC 2021中，我们的团队在印地语子任务A和印地语子任务B中分别获得了0. 737和0. 443的宏观F1分数。
2022-02-05 cs.CL
Voice@SRIB at SemEval-2020 Task 9 and 12: Stacked Ensembling method for Sentiment and Offensiveness detection in Social Media
Samsung R&D Bangalore（三星研发班加罗尔）
在Twitter、Facebook和Reddit等社交媒体平台上，人们更喜欢使用西班牙语-英语、印地语-英语等代码混合语言来表达自己的观点。在本文中，我们描述了我们使用的不同模型，使用外部数据集来训练嵌入，Sentimix和OffensEval任务的集成方法。使用预训练的嵌入通常有助于多个任务，例如句子分类和机器翻译。在这个实验中，我们使用我们训练的代码混合嵌入和twitter预训练的嵌入来完成SemEval任务。我们在数据集上评估我们的模型的宏观F1分数，精确度，准确度和召回率。我们打算表明，超参数调整和数据预处理步骤有助于提高分数。在我们的实验中，我们能够达到0.886 F1-Macro上OffenEval希腊语子任务后评价，而最高的是0.852在评估期间。我们以0.756的最好成绩在西班牙式英语比赛中名列第三。Codalab用户名是asking 28.
2020-10-11 cs.CL cs.LG
BRUMS at SemEval-2020 Task 12 : Transformer based Multilingual Offensive Language Identification in Social Media
University of Wolverhampton（伍尔弗汉普顿大学）；Birmingham City University（伯明翰城市大学）
在本文中，我们描述了团队\textit{BRUMS}进入OffensEval 2：SemEval-2020中社交媒体中的多语言攻击性语言识别。OffensEval组织者向参与者提供了带有注释的数据集，其中包含来自阿拉伯语、丹麦语、英语、希腊语和土耳其语社交媒体的帖子。我们提出了一个多语言深度学习模型来识别社交媒体中的攻击性语言。总体而言，该方法达到了可接受的评价分数，同时保持了语言之间的灵活性。
2020-10-13 cs.AI cs.CL
HateBERT: Retraining BERT for Abusive Language Detection in English
University of Groningen（格罗宁根大学）；University of Turin（都灵大学）；University of Passau（帕绍大学）
在本文中，我们介绍了HateBERT，一个再训练的BERT模型，在英语中的滥用语言检测。该模型是在RAL-E上训练的，RAL-E是一个大规模的Reddit英语评论数据集，这些评论来自我们收集并向公众提供的被禁止攻击，辱骂或仇恨的社区。我们提出了一个一般的预训练的语言模型和滥用倾向的版本之间的详细比较的结果，通过重新训练与来自被禁止的社区的帖子对三个英语数据集的进攻，辱骂性语言和仇恨言论检测任务。在所有数据集上，HateBERT的性能都优于相应的一般BERT模型。我们还讨论了一组实验，比较了通用预训练语言模型及其相应的滥用语言倾向的对应物在数据集上的可移植性，表明可移植性受到注释现象的兼容性的影响。
2021-02-04 cs.CL
SemEval-2020 Task 12: Multilingual Offensive Language Identification in Social Media (OffensEval 2020)
Rochester Institute of Technology（罗切斯特理工学院）；Qatar Computing Research Institute（卡塔尔计算研究所）；IBM Research（IBM研究院）；University of Copenhagen（哥本哈根大学）；University of Cambridge（剑桥大学）；IT University Copenhagen（哥本哈根信息技术大学）；University of Wolverhampton（伍尔弗汉普顿大学）；University of Tübingen（图宾根大学）
我们介绍了SemEval-2020关于社交媒体中多语言攻击性语言识别的任务12（OffensEval 2020）的结果和主要发现。该任务涉及与OLID模式的分层分类相对应的三个子任务（Zampieri等人，2019 a）从OffensEval 2019。该任务包含五种语言：英语、阿拉伯语、丹麦语、希腊语和子任务A的土耳其语。此外，英语还包括子任务B和C。OffensEval 2020是SemEval-2020中最受欢迎的任务之一，吸引了所有子任务和所有语言的大量参与者。共有528个团队报名参加任务，145个团队在评估期间提交了系统，70个团队提交了系统描述论文。
2020-09-30 cs.CL
Overview of the HASOC Subtrack at FIRE 2022: Offensive Language Identification in Marathi
University of Wolverhampton（伍尔弗汉普顿大学）；George Mason University（乔治梅森大学）
近年来，网络攻击性内容的广泛传播已成为人们高度关注的一个原因，促使研究人员开发能够自动识别此类内容的强大系统。为了对这些系统进行公平的评估，组织了几次国际比赛，为社区提供了各种语言的重要基准数据和评估方法。自2019年以来，HASOC（仇恨言论和攻击性内容识别）共享任务就是其中之一。在第四次迭代中，HASOC 2022包括英语，印地语和马拉地语的三个子轨道。在本文中，我们报告了HASOC 2022 Marathi子轨道的结果，该子轨道为参与者提供了一个数据集，其中包含使用流行的OLID分类法手动注释的Twitter数据。马拉地语轨道有三个额外的子轨道，每个子轨道对应于一个分类级别：任务A -攻击性内容识别（攻击性与非攻击性）;任务B -攻击性类型的分类（有针对性与无针对性），任务C -攻击性目标识别（个人与团体与其他人）。总共有10支球队提交了59次跑步。最好的系统获得子轨道3A的F1为0.9745，子轨道3B的F1为0.9207，子轨道3C的F1为0.9607。表现最好的算法是传统和深度学习方法的混合。
2022-11-18 cs.AI cs.CL cs.CY
SOLD: Sinhala Offensive Language Dataset
Aston University（阿斯顿大学）；University of Wolverhampton（伍尔弗汉普顿大学）；Birmingham City University（伯明翰城市大学）；University of Münster（明斯特大学）；George Mason University（乔治梅森大学）
本文针对低资源语言僧伽罗语构建了首个大型公开攻击性语言数据集SOLD，含1万条句子级和词元级标注推文，并提出半监督扩展数据集SemiSOLD，以推动该语言的攻击性内容自动检测研究。
2024-03-28 cs.AI cs.CL cs.LG
Predicting the Type and Target of Offensive Social Media Posts in Marathi
Rochester Institute of Technology（罗切斯特理工学院）；University of Wolverhampton（伍尔弗汉普顿大学）
社交媒体上出现攻击性语言是非常常见的激励平台投资于使社区更安全的战略。这包括开发能够识别在线攻击性内容的强大机器学习系统。除了少数几个明显的例外，大多数关于自动攻击性语言识别的研究都涉及英语和其他一些高资源语言，如法语，德语和西班牙语。在本文中，我们通过解决Marathi（一种在印度使用的低资源印度-雅利安语言）中的冒犯性语言识别来解决这一差距。我们介绍了马拉地语攻击性语言数据集v.2.0或MOLD 2.0，并在此数据集上进行了多个实验。MOLD 2.0是MOLD的一个更大的版本，它将注释扩展到流行的OLID分类法的B（类型）和C（目标）级别。MOLD 2.0是为马拉地语编制的第一个分层攻击性语言数据集，从而为低资源的印度-雅利安语言的研究开辟了新的途径。最后，我们还介绍了SeMOLD，这是一个更大的数据集，它遵循SOLID中提出的半监督方法进行注释。
2022-11-22 cs.AI cs.CL cs.CY
HateCOT: An Explanation-Enhanced Dataset for Generalizable Offensive Speech Detection via Large Language Models
University of Maryland（马里兰大学）；Microsoft Research（微软研究院）
针对现有攻击性内容检测模型泛化性差的问题，本文提出包含5.2万余样本、带GPT-3.5Turbo生成且人工整理解释的HateCOT数据集，可提升开源大语言模型在多基准上的零/少样本检测性能，还能助力有限数据下的K样本微调并提升解释质量。
2024-10-05 cs.AI cs.CL cs.SI
Offensive Language Identification in Transliterated and Code-Mixed Bangla
George Mason University（乔治梅森大学）；Aston University（阿斯顿大学）
本文针对音译与语码混合孟加拉语文本中的攻击性语言识别问题，构建了含5000条人工标注评论的TB-OLID数据集，实验证明fBERT和HateBERT等英语预训练transformer模型表现最佳。
2023-11-25 cs.CL
SemEval-2019 Task 6: Identifying and Categorizing Offensive Language in Social Media (OffensEval)
University of Wolverhampton（伍尔弗汉普顿大学）；Amazon Research（亚马逊研究院）；IBM Research（IBM研究院）；Columbia University（哥伦比亚大学）；Bhim Rao Ambedkar University（比姆·拉奥·安贝德卡尔大学）；Qatar Computing Research Institute, HBKU（哈马德·本·哈利法大学卡塔尔计算研究所）
我们介绍了SemEval-2019任务6关于识别和分类社交媒体中的攻击性语言（OffensEval）的结果和主要发现。该任务基于一个新的数据集，即攻击性语言识别数据集（OLID），其中包含超过14，000条英语推文。它包括三个子任务。在子任务A中，目标是区分攻击性和非攻击性职位。在子任务B中，重点是帖子中攻击性内容的类型。最后，在子任务C中，系统必须检测攻击性哨所的目标。OffensEval吸引了大量参与者，是SemEval-2019中最受欢迎的任务之一。总共有大约800个团队报名参加了这项任务，其中115个团队提交了结果，我们在本报告中介绍和分析了这些结果。
2019-04-27 cs.CL
ANDES at SemEval-2020 Task 12: A jointly-trained BERT multilingual model for offensive language detection
ICC, CONICET（阿根廷国家科学与技术研究理事会计算机与通信研究所）；Universidad de Buenos Aires（布宜诺斯艾利斯大学）；University of Chile（智利大学）；IMFD, Chile（智利千禧数据基金会）；CONICET（阿根廷国家科学与技术研究理事会）；Universidad Nacional de Córdoba（国立科尔多瓦大学）
本文介绍了我们参与SemEval-2020任务12：多语言攻击性语言检测。我们通过微调多语言BERT来联合训练单个模型，以解决所有拟议语言的任务：英语，丹麦语，土耳其语，希腊语和阿拉伯语。我们的单一模型具有竞争力的结果，尽管在所有语言中共享相同的参数，但其性能接近最高性能的系统。此外，还进行了Zero-shot和Few-Shot实验来分析这些语言之间的迁移性能。我们公开我们的代码以供进一步研究
2020-08-13 cs.CL
Amobee at SemEval-2018 Task 1: GRU Neural Network with a CNN Attention Mechanism for Sentiment Classification
Amobee
本文描述了Amobee在SemEval 2018上参与共享情感分析任务的情况。我们参与了所有的英语子任务和西班牙语效价任务。我们的系统由三个部分组成：训练特定于任务的词嵌入，训练一个由门控递归单元（GRU）和卷积神经网络（CNN）注意力机制组成的模型，并为每个子任务训练基于堆栈的集成。我们的算法分别在英语和西班牙语的价序分类子任务中达到了第3名和第1名。
2018-04-12 cs.CL stat.ML
Measuring Geographic Performance Disparities of Offensive Language Classifiers
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
文本分类器以一刀切的解决方案的形式大规模应用。然而，许多研究表明，量词对不同的语言和方言有偏见。在衡量和发现这些偏见时，存在一些差距，应该加以解决。第一，“语言、方言和主题内容是否因地理区域而异？第二，如果各地区之间存在差异，它们是否会影响模型的性能？''.我们引入了一个名为GeoOLID的新数据集，其中包含15个地理和人口统计学上不同的城市的14000多个示例，以解决这些问题。我们进行了全面的分析，地理相关的内容和他们的影响，性能差异的攻击性语言检测模型。总的来说，我们发现，目前的模型并没有推广到各地。同样，我们表明，虽然进攻性语言模型对非裔美国人英语产生误报，但模型性能与每个城市的少数民族人口比例无关。警告：本文含有攻击性语言。
2022-09-15 cs.CL
Offensive Language Detection in Under-resourced Algerian Dialectal Arabic Language
Université 8 Mai 1945, Guelma（盖勒马1945年5月8日大学）
本文解决了检测Facebook评论中的攻击性和辱骂性内容的问题，我们专注于阿尔及利亚方言阿拉伯语，这是一种资源不足的语言。后者有各种方言混合不同的语言（即柏柏尔语，法语和英语）。此外，我们处理以阿拉伯语和罗马字母（即Arabizi）书写的文本。由于同一语言的作品稀缺，我们建立了一个新的语料库，重新组合了超过8.7k的文本，这些文本被手动标注为正常，辱骂和冒犯。我们使用最先进的文本分类分类器进行了一系列实验，即：BiLSTM，CNN，FastText，SVM和NB。结果表明，可以接受的性能，但问题需要进一步研究的语言特征，以提高识别精度。
2022-03-18 cs.CL cs.IR
Cross-lingual Inductive Transfer to Detect Offensive Language
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）；Netaji Subhas Institute of Technology, New Delhi（新德里内塔吉·苏巴斯技术学院）
随着社交媒体的使用越来越多，在多种语言和领域中观察到许多使用冒犯性语言的情况。这一现象导致越来越需要检测社交媒体中跨语言使用的攻击性语言。在OffensEval 2020中，组织者发布了\textit{multilingual Offensive Language Identification Dataset}（mOLID），其中包含五种不同语言的推文，以检测攻击性语言。在这项工作中，我们引入了一个跨语言的归纳方法来识别使用上下文词嵌入\textit{XLM-RoBERTa}（XLM-R）的推文中的攻击性语言。我们表明，我们的模型在所有五种语言上都具有竞争力，在英语任务中获得第四名，F1得分为$0.919$，在土耳其语任务中获得第八名，F1得分为$0.781$。进一步的实验证明，我们的模型在零样本学习环境中具有竞争力，并且可以扩展到其他语言。
2020-07-07 cs.CL cs.IR
Towards Offensive Language Identification for Tamil Code-Mixed YouTube Comments and Posts
University of Moratuwa（莫拉图瓦大学）
社交媒体平台中的攻击性语言检测在过去几年一直是一个活跃的研究领域。在非英语母语国家，社交媒体用户大多在他们的帖子/评论中使用代码混合形式的文本。这在攻击性内容识别任务中提出了几个挑战，考虑到泰米尔语可用的资源很少，任务变得更加困难。目前的研究提出了使用多种深度学习和迁移学习模型来检测YouTube上的攻击性内容的广泛实验。我们提出了一种新颖灵活的选择性翻译和音译技术的方法，以获得更好的结果，从微调和集成多语言Transformer网络，如BERT，蒸馏- BERT，和XLM-RoBERTa。实验结果表明，ULMFiT是该任务的最佳模型。对于这个泰米尔代码混合数据集，性能最好的模型是ULMFiT和mBERTBiLSTM，而不是更流行的迁移学习模型，如Distil- BERT和XLM-RoBERTa以及混合深度学习模型。所提出的模型ULMFiT和mBERTBiLSTM取得了良好的结果，并有望在低资源语言中有效地识别攻击性语音。
2021-08-26 cs.CL
UHH-LT at SemEval-2020 Task 12: Fine-Tuning of Pre-Trained Transformer Networks for Offensive Language Detection
University of Hamburg（汉堡大学）
对预训练的Transformer网络（如BERT）进行微调，可为文本分类任务产生最先进的结果。通常，微调是以监督的方式在特定于任务的训练数据集上执行的。还可以通过进一步预训练掩码语言建模（MLM）任务来预先以无监督的方式进行微调。因此，类似于实际分类目标数据集的无监督MLM的域内数据允许模型的领域自适应。在本文中，我们比较了当前预训练的Transformer网络，以及没有MLM微调的攻击性语言检测性能。我们的MLM微调的基于RoberTa的分类器在SemEval 2020共享任务中正式排名第一，英语语言为12。用ALBERT模型进行的进一步实验甚至超过了这一结果。
2020-06-10 cs.CL
GUIR at SemEval-2020 Task 12: Domain-Tuned Contextualized Models for Offensive Language Detection
Information Retrieval Lab（信息检索实验室）；Georgetown University（乔治城大学）
攻击性语言检测是自然语言处理中一个重要而又具有挑战性的课题。我们提交了我们的意见，以OffensEval 2020共享任务，其中包括三个英语子任务：识别攻击性语言的存在（子任务A），识别攻击性语言中目标的存在（子任务B），以及识别目标的类别（子任务C）。我们的实验探索使用域调优的语境化语言模型（即，BERT）的这项任务。我们还试验了不同的组件和配置（例如，多视图SVM）堆叠在用于特定子任务的BERT模型上。我们提交的F1分数在子任务A中为91.7%，在子任务B中为66.5%，在子任务C中为63.2%。我们进行了消融研究表明，域调整大大提高了分类性能。此外，错误分析显示了我们的模型所造成的常见错误分类错误，并概述了未来的研究方向。
2020-07-28 cs.CL
AustroTox: A Dataset for Target-Based Austrian German Offensive Language Detection
TU Wien（维也纳技术大学）；University of Zurich（苏黎世大学）；University of Vienna（维也纳大学）
本文提出AustroTox数据集，包含4,562条奥地利德语新闻论坛评论，标注攻击性及粗俗语言和目标片段，并比较微调模型与大型语言模型在攻击性检测上的表现。
2024-06-12 cs.AI cs.CL cs.CY
Detecting Abusive Albanian
ITU Copenhagen（哥本哈根信息技术大学）；Microsoft（微软）；UN Development Programme（联合国开发计划署）
近年来，社交媒体的使用不断增加，对在线平台上仇恨言论和攻击性言论的增加产生了直接影响。对此类内容的有效检测的研究主要集中在英语和其他几种广泛使用的语言上，而剩下的大多数人没有投入同样的工作，因此无法从该领域的稳步发展中受益。在本文中，我们提出了\textsc{Shaj}，一个带有注释的阿尔巴尼亚仇恨言论和攻击性言论数据集，该数据集是从各种社交媒体平台上的用户生成内容构建的。它的注释遵循在OffensEval中引入的分层模式。使用三种不同的分类模型对数据集进行测试，其中最好的一种用于识别攻击性语言的F1得分为0.77，用于攻击性类型的自动分类的F1得分为0.64，最后，用于攻击性语言目标识别的F1得分为0.52。
2022-05-10 cs.CL
NLP-CUET@DravidianLangTech-EACL2021: Offensive Language Detection from Multilingual Code-Mixed Text using Transformers
Chittagong University of Engineering and Technology（吉大港工程技术大学）
互联网的日益普及促进了社交媒体的使用，并鼓励个人自由表达意见。然而，它也为内容污染者传播攻击性帖子或内容创造了一个场所。大多数此类攻击性帖子都是以跨语言的方式编写的，可以轻松逃避在线监控系统。本文提出了一个自动化系统，可以识别攻击性文本从多语言代码混合数据。在这项任务中，数据集以三种语言提供，包括泰米尔语，马拉雅拉姆语和卡纳达语代码与英语混合，要求参与者为每种语言实现单独的模型。为了完成这些任务，我们采用了两种机器学习技术（LR，SVM），三种深度学习（LSTM，LSTM+Attention）技术和三种基于Transformers器（m-BERT，Indic-BERT，XLM-R）的方法。结果表明，XLM-R在泰米尔语和马拉雅拉姆语中的表现优于其他技术，而m-BERT在卡纳达语中得分最高。所提出的模型获得了加权$f_1$得分$0.76$（泰米尔语），$0.93$（马拉雅拉姆语）和$0.71$（卡纳达语）与等级分别为$3^{rd}$，$5^{th}$和$4^{th}$。
2021-02-28 cs.CL
COBRA Frames: Contextual Reasoning about Effects and Harms of Offensive Statements
Carnegie Mellon University（卡内基梅隆大学）；Rutgers University（罗格斯大学）；University of Southern California（南加州大学）；Allen Institute for AI（艾伦人工智能研究所）
针对现有有毒语言检测忽略语境因素的问题，本文提出首个上下文感知的COBRA框架，构建了含3.3万条样本的COBRACORPUS数据集，实验证明上下文感知模型生成冒犯性解释的效果显著更优，凸显了语境化NLP的价值。
2023-06-09 cs.CL
HateGPT: Unleashing GPT-3.5 Turbo to Combat Hate Speech on X
IIT Kharagpur（印度理工学院克勒格布尔分校）
本研究利用 GPT-3.5 Turbo 通过提示方法对 X 平台上的英语推文进行仇恨与攻击性言论分类，在三个运行中取得 0.756、0.751 和 0.754 的 Macro-F1 分数，验证了模型的高性能与稳定性。
2025-03-25 cs.CL
WLV-RIT at SemEval-2021 Task 5: A Neural Transformer Framework for Detecting Toxic Spans
University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）
近年来，社交媒体的广泛使用导致在线平台上有毒和攻击性内容的产生增加。作为回应，社交媒体平台一直致力于开发自动检测方法，并雇用人类版主来应对这种攻击性内容的泛滥。虽然各种最先进的统计模型已被应用于检测有毒帖子，但只有少数研究专注于检测使帖子具有攻击性的词语或表达。这激发了SemEval-2021任务5：有毒跨度检测竞赛的组织，该竞赛为参与者提供了一个包含英文帖子中有毒跨度注释的数据集。在本文中，我们介绍了SemEval-2021任务5的WLV-RIT条目。我们表现最好的神经Transformer模型达到了$0.68$ F1分数。此外，我们开发了一个开源框架，用于多语言检测攻击性跨度，即，MUDES，基于神经Transformers，检测文本中的有毒跨度。
2021-05-27 cs.AI cs.CL cs.LG
