Robust Hate Speech Detection in Social Media: A Cross-Dataset Empirical Evaluation
Cardiff University（卡迪夫大学）
本文通过大规模跨数据集实验，发现组合多个仇恨言论检测数据集微调语言模型，可显著提升模型鲁棒性和泛化能力，优于任何单一数据集。
2023-07-04 cs.CL
A Large-scale Dataset for Hate Speech Detection on Vietnamese Social Media Texts
University of Information Technology（信息技术大学）；Vietnam National University Ho Chi Minh City（胡志明市越南国家大学）
近年来，越南见证了社交网络用户在Facebook，Youtube，Instagram和Tiktok等不同社交平台上的大规模发展。在社交媒体上，仇恨言论已成为社交网络用户的一个严重问题。为了解决这个问题，我们引入了ViHSD -一个人工注释的数据集，用于自动检测社交网络上的仇恨言论。这个数据集包含超过30，000条评论，数据集中的每条评论都有三个标签之一：清洁，冒犯或仇恨。此外，我们还介绍了数据创建过程中的注释和评估数据集的质量。最后，我们通过深度学习模型和Transformer模型对数据集进行了评估。
2021-07-20 cs.CL
ViTHSD: Exploiting Hatred by Targets for Hate Speech Detection on Vietnamese Social Media Texts
University of Information Technology（信息科技大学）；Vietnam National University（越南国立大学）
本文提出越南语目标导向仇恨言论检测数据集ViTHSD（含1万条评论、5个目标、三级标注），并构建结合Bi-GRU-LSTM-CNN与预训练语言模型的基线系统，同时给出将其集成到在线流式系统的应用方案。
2025-02-08 cs.CL
Z-AGI Labs at ClimateActivism 2024: Stance and Hate Event Detection on Social Media
本研究针对社交媒体上气候活动人士遭遇仇恨言论的问题，在CASE 2024共享任务的三个子任务中评估多种经典机器学习模型，得出不同模型适配不同子任务的结论，为相关检测任务的模型选择提供参考。
2024-04-14 cs.CL
Hate Speech Detection on Vietnamese Social Media Text using the Bi-GRU-LSTM-CNN Model
University of Information Technology, Vietnam National University Ho Chi Minh City（胡志明市国家大学信息技术大学）
近年来，仇恨语音检测已成为自然语言处理或计算语言学研究的热点之一。在本文中，我们介绍了我们的系统在VLSP共享任务2019中解决这个问题的描述：社交网络上的仇恨语音检测，其中包含20，345个用于训练的人工标记评论/帖子和5，086个用于公开测试。我们在这个任务中实现了一种基于Bi-GRU-LSTM-CNN分类器的深度学习方法。我们在这个任务中的结果是70.576%的F1分数，排名第五的性能在公共测试集。
2019-12-22 cs.CL
Surfacing contextual hate speech words within social media
National Tsinghua University（清华大学）
社交媒体平台最近出现了仇恨言论话语的增加，这导致了对改进检测方法的呼吁。其中大多数依赖于注释数据、关键字和分类技术。虽然这种方法提供了很好的覆盖面，但在处理网上极端主义社区产生的新术语时，这种方法可能不够，因为这些新术语是具有其他仇恨言论含义的单词的原始来源。这些暗语（既可以是创造的，也可以是被采用的）被设计成逃避自动检测，并且在常规话语中通常具有善意的含义。例如，“skypes”、“googles”和“yahoos”都是具有可用于仇恨言论的替代含义的单词的实例。这种重叠在依赖于收集仇恨言论特定数据和下游分类的关键词时带来了额外的挑战。在这项工作中，我们开发了一种社区发现方法，用于发现极端主义仇恨言论社区并从其成员那里收集数据。我们还开发了一个词嵌入模型，该模型学习单词的替代仇恨言论含义，并通过几个注释实验证明了我们的代码词的候选资格，旨在确定是否有可能在不知道其替代含义的情况下识别一个词用于仇恨言论。我们报告的注释者间的协议率K=0.871，K=0.676分别从我们的极端主义社区和关键字的方法，支持我们的说法，仇恨言论检测是一个上下文的任务，并不依赖于一个固定的关键字列表。我们的目标是通过提供高质量的仇恨言论数据集以及可以输入现有分类方法的学习代码来推进该领域，从而提高自动检测的准确性。
2017-11-28 cs.CL
Arabic Hate Speech Identification and Masking in Social Media using Deep Learning Models and Pre-trained Models Fine-tuning
Faculty of Information Technology（信息科技学院）；Islamic University of Gaza（加沙伊斯兰大学）
本研究针对社交媒体阿拉伯语仇恨言论，提出用深度学习及transformers模型检测仇恨言论、以机器翻译任务实现不良文本掩码的方法，检测任务宏F1达92%、准确率95%，掩码任务1-gram BLEU达0.3。
2025-07-31 cs.CL
HS-BAN: A Benchmark Dataset of Social Media Comments for Hate Speech Detection in Bangla
Shahjalal University of Science and Technology（沙赫贾拉勒科技大学）；Fordham University（福特汉姆大学）
在本文中，我们介绍了HS-BAN，这是一个孟加拉语的二元类仇恨言论（HS）数据集，包含超过50，000条标记评论，其中包括40.17%的仇恨言论，其余是非仇恨言论。在准备数据集时，遵循严格而详细的注释指南以减少人类注释偏倚。HS数据集还进行了语言预处理，以提取目前人们使用符号，首字母缩略词或替代拼写书写的不同类型的俚语。这些俚语词被进一步归类为传统和非传统俚语列表，并包括在本文的结果。我们探索了传统的语言特征和基于神经网络的方法，以开发一个用于孟加拉语仇恨言论检测的基准系统。我们的实验结果表明，现有的词嵌入模型训练的非正式文本比那些训练的正式文本。我们的基准测试表明，基于FastText非正式词嵌入的Bi-LSTM模型获得了86.78%的F1分数。我们将把数据集提供给公众使用。
2021-12-03 cs.CL
Exploring Boundaries and Intensities in Offensive and Hate Speech: Unveiling the Complex Spectrum of Social Media Discourse
Universität Hamburg（汉堡大学）；Bahir Dar University（巴赫达尔大学）
本研究构建阿姆哈拉语仇恨言论基准数据集，通过分类与回归模型揭示攻击性与仇恨强度的连续光谱，Afro-XLMR-large模型表现最佳。
2024-04-18 cs.CL
Counter Hate Speech in Social Media: A Survey
随着社交媒体中针对少数群体的攻击性语言的高度流行，反仇恨言论（CHS）被认为是应对这一挑战的自动方式。CHS应该作为第三种声音出现，以教育人们并保持社会[红线粗体]，而不限制言论自由的原则。在本文中，我们回顾了过去和现在最重要的研究，主要集中在方法，收集的数据集和统计分析CHS对社会媒体的影响。CHS一代基于乐观的假设，即任何干预社交媒体中仇恨言论的尝试都可以在这种情况下发挥积极作用。除此之外，以前的作品忽略了之前和之后的CHS评论序列的调查。然而，积极的影响是不能保证的，如在以前的一些作品中所示。据我们所知，没有试图调查相关的工作，比较过去的研究在社区卫生服务对社会媒体的影响。我们在这方面踏出第一步，全面检讨相关的研究工作，并根据不同的因素，包括影响、研究方法、数据来源等，将研究工作分类。
2022-02-21 cs.CL
Hate Speech Classification Using SVM and Naive BAYES
Nnamdi Azikiwe University（纳姆迪·阿齐基韦大学）
仇恨的传播以前仅限于口头交流，现在已迅速转移到互联网上。允许人们讨论和表达意见的信息社交和社区论坛正在成为传播仇恨信息的平台。许多国家制定了法律，以避免网上仇恨言论。他们认为运营社交媒体的公司应该为未能消除仇恨言论负责。但是，随着在线内容的不断增长，仇恨言论的传播也在不断扩大。然而，由于数据量巨大，人工分析在线平台上的仇恨言论是不可行的，因为它既昂贵又耗时。因此，重要的是自动处理在线用户内容，以检测和删除来自在线媒体的仇恨言论。许多最近的方法都存在可解释性问题，这意味着很难理解系统为什么会做出这样的决定。通过以上工作，提出了基于支持向量机和朴素贝叶斯算法的仇恨信息自动检测方法。这实现了接近最先进的性能，同时比其他方法更简单，更容易解释决策。对该技术的实证评估表明，在测试集中，SVM和NB的分类准确率分别约为99%和50%。关键词：分类;仇恨言论;特征提取;算法;监督学习
2022-03-21 cs.CL
Explainability and Hate Speech: Structured Explanations Make Social Media Moderators Faster
University of Edinburgh（爱丁堡大学）；Snap Inc.（Snap公司）
本文研究结构化解释对真实社交媒体内容审核员决策速度的影响，实验发现通用解释常被忽略且无提速效果，而结构化解释可使审核员决策时间降低7.4%。
2024-06-06 cs.CL
HateDay: Insights from a Global Hate Speech Dataset Representative of a Day on Twitter
University of Oxford（牛津大学）；World Bank（世界银行）；New York University（纽约大学）；Meedan；Bocconi University（博科尼大学）
HateDay构建了首个基于Twitter全天随机抽样的全球仇恨言论数据集，覆盖八种语言和四个英语国家，揭示了学术评估高估现实检测性能的问题，并指出模型需人工监督才能有效审核。
2025-06-03 cs.CL
HateCheckHIn: Evaluating Hindi Hate Speech Detection Models
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
由于在线仇恨的数量庞大，人工智能和NLP社区已经开始构建模型来检测这种仇恨内容。最近，多语言仇恨是自动检测的一个主要新兴挑战，其中代码混合或多种语言已用于社交媒体中的对话。通常，通过使用诸如准确度和F1分数之类的度量来测量它们在保留的测试数据上的性能，来评估仇恨语音检测模型。虽然这些指标是有用的，它变得难以识别使用它们的模型失败，以及如何解决它。为了使这种多语言仇恨言论模型更有针对性的诊断见解，我们引入了一套功能，用于评估的目的。我们一直受到启发，根据社交媒体上的真实对话设计这种功能。考虑印地语作为基础语言，我们为每个功能制作测试用例。我们将评估数据集命名为HateCheckHIn。为了说明这些功能的实用性，我们测试了最先进的基于Transformer的m-BERT模型和Perspective API。
2022-04-30 cs.CL
Modeling Profanity and Hate Speech in Social Media with Semantic Subspaces
Saarland University（萨尔兰大学）
仇恨语音和亵渎检测遭受数据稀疏，特别是对于英语以外的语言，由于任务的主观性质和现有语料库的注释不兼容性。在这项研究中，我们确定亵渎的子空间在单词和句子的表征，并探讨其泛化能力的各种类似的和遥远的目标任务中的zero-shot设置。这是单语（德语）和跨语言密切相关（英语），远相关（法语）和非相关（阿拉伯语）的任务。我们观察到，在相似和遥远的目标任务以及所有语言中，基于子空间的表示在zero-shot设置中比标准BERT表示更有效地传递，在所有测试的单语和跨语言场景中，基线的F1 + 10.9和F1 + 42.9之间都有改进。
2021-06-18 cs.CL
HateMonitors: Language Agnostic Abuse Detection in Social Media
Indian Institute of Technology, Kharagpur（印度理工学院卡格普尔分校）
减少在线社交媒体中的仇恨和攻击性内容给版主带来了双重问题。一方面，不能对社交媒体实施严格的审查。另一方面，不能允许这种内容的自由流动。因此，我们需要有效的辱骂性语言检测系统来检测社交媒体中的有害内容。在本文中，我们介绍了我们的机器学习模型HateMonitor，该模型是为印欧语言仇恨语音和攻击性内容识别（HASOC）而开发的，这是FIRE 2019的一项共享任务。我们使用了梯度提升模型，以及BERT和LASER嵌入，使系统语言不可知。我们的模型在德国子任务A中处于第一位。我们还在https://github.com/punyajoy/HateMonitors-HASOC上公开了我们的模型。
2019-09-27 cs.CL cs.SI
Leveraging cross-platform data to improve automated hate speech detection
仇恨言论在网上越来越普遍，其负面后果包括偏见、极端主义甚至线下仇恨犯罪的增加。自动检测网络仇恨言论可以帮助我们更好地了解这些影响。然而，虽然该领域最近通过自然语言处理的进步取得了进展，但挑战仍然存在。特别是，大多数现有的仇恨言论检测方法都集中在孤立的单一社交媒体平台上。这限制了这些模型的使用及其有效性，因为语言的性质因平台而异。在这里，我们提出了一种新的跨平台方法来检测仇恨言论，该方法利用来自不同平台的多个数据集和分类模型，并训练一个超级学习者，该超级学习者可以结合现有的和新的训练数据来提高检测和增加模型的适用性。我们展示了这种方法如何优于现有的模型，并在测试来自新的社交媒体平台的消息时取得了良好的性能，这些消息未包含在原始训练数据中。
2021-02-09 cs.CL
Hate Speech and Offensive Language Detection in Bengali
Indian Institute of Technology Kharagpur（印度理工学院克勒格布尔分校）
社交媒体经常成为各种仇恨和攻击性内容的滋生地。识别社交媒体上的此类内容至关重要，因为它会对一个无偏见的社会中的种族，性别或宗教产生影响。然而，虽然在英语中的仇恨言论检测方面有广泛的研究，但在孟加拉语等低资源语言中的仇恨内容检测方面存在差距。此外，社交媒体上目前的趋势是使用罗马化的孟加拉语进行定期互动。为了克服现有研究的局限性，在这项研究中，我们开发了一个10 K孟加拉语帖子的注释数据集，其中包括5 K实际和5 K罗马化孟加拉语推文。我们实现了几个基线模型，用于对此类仇恨帖子进行分类。我们进一步探索语际迁移机制，以提高分类性能。最后，我们通过查看模型错误分类的帖子来进行深入的错误分析。在分别训练实际数据集和罗马化数据集时，我们观察到XLM-Roberta表现最好。此外，我们看到，在联合训练和Few-Shot训练中，MuRIL通过更好地解释语义表达而优于其他模型。我们让我们的代码和数据集对其他人公开。
2022-10-07 cs.CL
Hateful Messages: A Conversational Data Set of Hate Speech produced by Adolescents on Discord
Freie Universität Berlin（柏林自由大学）；Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS（弗劳恩霍夫开放通信系统研究所FOKUS）
本研究构建了包含88,395条Discord青少年聊天消息的匿名仇恨言论数据集，以解决青少年语言偏见，约6.42%被标注为仇恨言论，作者平均年龄低于20岁。
2023-09-04 cs.CL
ProvocationProbe: Instigating Hate Speech Dataset from Twitter
GESIS - Leibniz Institute for Social Sciences（莱布尼茨社会科学研究所GESIS）；University of Tartu（塔尔图大学）
本文构建 ProvocationProbe 数据集，基于 Twitter 约两万条涉九起全球争议的推文，标注并刻画煽动性仇恨言论区别于一般仇恨言论的特征。
2024-10-25 cs.CL
Lifelong Learning of Hate Speech Classification on Social Media
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Georgia Institute of Technology（佐治亚理工学院）
现有的自动仇恨言论分类工作假设数据集是固定的，并且类是预定义的。然而，社交媒体中的数据量每天都在增加，热点话题变化迅速，这就要求分类器能够不断适应新的数据，而不会忘记之前学习的知识。这种能力被称为终身学习，对于社交媒体中仇恨言论分类器的实际应用至关重要。在这项工作中，我们建议终身学习社交媒体上的仇恨言论分类。为了减轻灾难性遗忘，我们提出使用变分表示学习（VRL）以及基于LB-SOINN（负载平衡自组织增量神经网络）的记忆模块。实验表明，变分表示学习和LB-SOINN记忆模块相结合，实现了更好的性能比常用的终身学习技术。
2021-06-05 cs.CL cs.LG
Role of Artificial Intelligence in Detection of Hateful Speech for Hinglish Data on Social Media
Symbiosis Institute of Technology（共生理工学院）；Symbiosis Centre for Applied Artificial Intelligence（共生应用人工智能中心）
社交网络平台提供了传播我们的想法、观点和想法以及扩散信息的渠道。这导致了英语与母语的融合。印度语-英语代码混合数据（Hinglish）的流行率在世界各地的大多数城市人口中呈上升趋势。大多数社交网络平台部署的仇恨言论检测算法无法过滤出以这些代码混合语言发布的攻击性和辱骂性内容。因此，考虑到印度口语和俚语的内容，全球仇恨言论检测率约为44%，下降幅度更大。在本文中，我们提出了一种有效的检测非结构化代码混合印度式英语语言的方法。通过利用诸如ELMo（语言模型的嵌入）、FLAIR和基于变换器的BERT（来自Transformers的双向编码器表示）之类的基于上下文的嵌入来采用用于印地语-英语代码混合语言的基于微调的方法。我们提出的方法与现有的方法进行比较，并对各种数据集的结果进行比较。我们的模型优于其他方法和框架。
2021-05-11 cs.CL
Hate Speech Detection on Vietnamese Social Media Text using the Bidirectional-LSTM Model
University of Information Technology, VNU-HCM（胡志明市国家大学信息技术大学）
在本文中，我们描述了我们的系统，它参与了VLSP 2019评估活动的社交网络上的仇恨语音检测的共享任务。我们为社交媒体评论或帖子提供了预标记数据集和未标记数据集。我们的任务是预处理和构建机器学习模型来对评论/帖子进行分类。在这份报告中，我们使用双向长短期记忆来构建模型，可以根据干净，冒犯，仇恨来预测社交媒体文本的标签。使用该系统，我们在VLSP 2019的公共标准测试集上获得了71.43%的比较结果。
2019-11-09 cs.CL cs.LG
Introducing an Abusive Language Classification Framework for Telegram to Investigate the German Hater Community
Technical University of Munich（慕尼黑工业大学）
由于传统的社交媒体平台继续禁止行为者传播仇恨言论或其他形式的辱骂性语言（这一过程被称为去平台化），这些行为者迁移到不限制用户内容的替代平台。与德国仇恨者社区相关的一个流行平台是Telegram，到目前为止，对其进行的研究工作有限。本研究旨在开发一个广泛的框架，包括（i）德国电报消息的辱骂性语言分类模型和（ii）电报频道仇恨的分类模型。对于第一部分，我们使用现有的包含来自其他平台的帖子的辱骂性语言数据集来开发我们的分类模型。对于频道分类模型，我们开发了一种方法，该方法将从主题模型收集的特定于频道的内容信息与社交图相结合，以预测频道的仇恨度。此外，我们补充了这两种仇恨言论检测方法，并对德国Telegram上仇恨者社区的演变进行了深入研究。我们还提出了对仇恨言论研究社区的社交媒体平台进行可扩展网络分析的方法。作为本研究的额外输出，我们提供了一个带注释的辱骂性语言数据集，其中包含1，149条带注释的Telegram消息。
2021-11-24 cs.CL
Probing Critical Learning Dynamics of PLMs for Hate Speech Detection
IIIT Delhi（德里印度信息技术学院）；IIT Delhi（德里印度理工学院）
本研究通过五个研究问题，实证探究了预训练语言模型在仇恨言论检测中的关键学习动态，发现预训练早期峰值、更新语料库益处有限及特定层在微调中的重要性，并质疑领域模型，强调动态数据集需求。
2024-02-03 cs.CL
MHS-STMA: Multimodal Hate Speech Detection via Scalable Transformer-Based Multilevel Attention Framework
Delhi Technological University（德里理工大学）
针对现有仇恨言论检测多依赖单模态分析、多模态分析易忽略模态独特特征的问题，提出基于Transformer的多级注意力可扩展架构MHS-STMA，经三个数据集验证性能优于基线方法。
2024-09-17 cs.CL
Recognizing Explicit and Implicit Hate Speech Using a Weakly Supervised Two-path Bootstrapping Approach
Texas A&M University（得克萨斯农工大学）；Stanford University（斯坦福大学）
在两极分化的选举之后，社交媒体充斥着仇恨的内容。为了解决监督仇恨语音分类方法的各种局限性，包括语料库偏见和巨大的注释成本，我们提出了一种弱监督的双路径自举方法，利用大规模未标记数据的在线仇恨语音检测模型。该系统明显优于使用手动注释数据以监督方式训练的仇恨言论检测系统。将该模型应用于选举前、选举后和选举日收集的大量推文，揭示了煽动性语言的动机和模式。
2018-05-22 cs.CL
FAD-SA-GRU: Enhancing Hate Speech Detection in Algerian Dialect Through Feature-Augmented Self-Attention GRU Networks
USTHB（阿尔及尔科学技术大学）；ATM Mobilis Algiers（阿尔及尔移动ATM公司）
研究阿尔及利亚方言社交媒体上的仇恨言论检测，提出FAD-SA-GRU混合架构，通过多嵌入融合结合多种语义表示，经自注意力增强GRU编码器检测。实验表明该方法在多指标上优于基线，有效提升低资源方言仇恨言论检测效果。
2026-07-14 cs.CL
Anti-Asian Hate Speech Detection via Data Augmented Semantic Relation Inference
Stevens Institute of Technology（史蒂文斯理工学院）
近年来，随着仇恨言论在社交媒体上的传播，仇恨言论的自动检测正在成为一项至关重要的任务，并引起了各界的关注。此任务旨在识别在线帖子（例如，tweets）that contains包含hateful仇恨information信息.社交媒体中语言的特点，如简短和糟糕的内容，导致难以学习语义和捕捉仇恨言论的区别特征。以前的研究利用了其他有用的资源，如情感标签，以提高仇恨言论检测的性能。主题标签被添加为输入特征，用作情感词典或额外的上下文信息。然而，我们的仔细调查表明，直接利用这些特征而不考虑它们的上下文可能会给分类器带来噪声。在本文中，我们提出了一种新的方法，利用情感标签，以提高仇恨语音检测在自然语言推理框架。我们设计了一个新颖的框架SRIC，它同时执行两项任务：（1）在线帖子和情感主题标签之间的语义关系推理，以及（2）对这些帖子的情感分类。语义关系推理旨在鼓励模型将情感指示信息编码为在线帖子的表示。我们在两个真实世界的数据集上进行了广泛的实验，并证明了我们提出的框架与最先进的表示学习模型相比的有效性。
2022-04-14 cs.CL
HASOCOne@FIRE-HASOC2020: Using BERT and Multilingual BERT models for Hate Speech Detection
International Institute of Information Technology - Hyderabad（海得拉巴国际信息技术学院）
由于社交媒体的指数增长，仇恨和有毒内容已成为当今世界的一个重大问题。仇恨言论和有害内容的增加促使研究人员在仇恨内容识别的挑战性方向上投入大量精力。在这项任务中，我们提出了一种方法来自动分类仇恨言论和攻击性内容。我们使用了从FIRE 2019和2020共享任务中获得的数据集。我们利用迁移学习模型进行实验。我们观察到预训练的BERT模型和多语言BERT模型给出了最好的结果。该代码可在https://github.com/suman101112/hasoc-fire-2020上免费获得。
2021-01-22 cs.CL
Assessing the impact of contextual information in hate speech detection
Universidad Torcuato Di Tella（托尔夸托·迪·特利亚大学）；National Institute of Standards and Technology（美国国家标准与技术研究院）；Colorado State University（科罗拉多州立大学）
近年来，仇恨言论在社交网络和其他虚拟媒体中变得越来越重要，因为其强度及其与针对受保护群体成员的暴力行为的关系。由于用户产生的大量内容，在自动工具的研究和开发方面已经做出了很大的努力，以帮助分析和缓和这种语音，至少在其最具威胁性的形式中。当前自动仇恨言论检测方法的局限性之一是缺乏上下文。大多数研究和资源都是在没有上下文的数据上执行的;也就是说，没有任何类型的会话上下文或正在讨论的主题的孤立消息。这限制了可用的信息来定义社交网络上的帖子是否是仇恨的。在这项工作中，我们提供了一个新的语料库，用于基于用户对Twitter上媒体发布的新闻帖子的响应进行上下文化的仇恨言论检测。该语料库以西班牙语的Rioplatense方言种类收集，重点关注与COVID-19大流行相关的仇恨言论。使用最先进的技术的分类实验表明，添加上下文信息，提高仇恨语音检测性能的两个建议的任务（二进制和多标签预测）的证据。我们提供我们的代码、模型和语料库供进一步研究。
2023-03-11 cs.CL
Detection of Hate Speech using BERT and Hate Speech Word Embedding with Deep Model
King Abdulaziz University（阿卜杜勒阿齐兹国王大学）；University of Tabuk（塔布克大学）
网络和社交媒体上产生的大量数据增加了对检测在线仇恨言论的需求。检测仇恨言论将减少其对他人的负面影响和影响。自然语言处理（NLP）领域的大量努力旨在检测一般的仇恨言论或检测特定的仇恨言论，如宗教，种族，性别或性取向。仇恨社区倾向于在他们的通信中使用缩写，故意拼写错误和编码词来逃避检测，这给仇恨言论检测任务增加了更多的挑战。因此，词语表征将在检测仇恨言论方面发挥越来越重要的作用。本文研究了在基于双向LSTM的深度模型中利用特定于领域的词嵌入来自动检测/分类仇恨言论的可行性。此外，我们研究了使用迁移学习语言模型（BERT）仇恨言论问题作为一个二元分类任务。实验表明，基于双向LSTM的深度模型的特定领域词嵌入在来自可用仇恨语音数据集的组合平衡数据集上实现了93%的f1分数，而BERT实现了高达96%的f1分数。
2021-11-02 cs.CL
Enhancing Hate Speech Detection on Social Media: A Comparative Analysis of Machine Learning Models and Text Transformation Approaches
International Institute of Information Technology - Hyderabad（海得拉巴国际信息技术学院）
本文比较了机器学习模型与文本转换方法在仇恨言论检测中的表现，发现混合模型在特定场景下更具优势，同时提出新的文本转换方法以减少有害内容的影响。
2026-02-24 cs.AI cs.CL
Racism is a Virus: Anti-Asian Hate and Counterspeech in Social Media during the COVID-19 Crisis
Georgia Institute of Technology（佐治亚理工学院）；Virginia Tech（弗吉尼亚理工大学）
COVID-19的传播在社交媒体上引发了针对亚洲社区的种族主义和仇恨。然而，人们对种族仇恨在大流行期间如何传播以及反言论在缓解这种传播中的作用知之甚少。在这项工作中，我们通过Twitter的镜头研究了反亚洲仇恨言论的演变和传播。我们创建了COVID-HATE，这是最大的反亚洲仇恨和反言论数据集，跨越14个月，包含超过2.06亿条推文，以及一个拥有超过1.27亿个节点的社交网络。通过创建一个包含3,355条推文的新的手工标记数据集，我们训练了一个文本分类器来识别仇恨和反言论推文，其平均宏观F1得分为0.832。使用这个数据集，我们对推文和用户进行了纵向分析。对社交网络的分析表明，仇恨和反言论用户相互交流和广泛参与，而不是生活在孤立的两极分化社区。我们发现，节点在接触到可恨的内容后，很有可能变得可恨。值得注意的是，反言论信息可能会阻止用户变得仇恨，这可能会提出一种解决方案，以遏制网络和社交媒体平台上的仇恨。数据和代码在http://claws.cc.gatech.edu/covid。
2021-11-10 cs.CL cs.CY cs.IR
Exploring the topics, sentiments and hate speech in the Spanish information environment
University of Murcia（穆尔西亚大学）
本研究分析西班牙五家媒体2021年1月33万余条评论与推文，用BERTopic提取81个话题，发现社会与政治话题主导，内容以负面为主，仇恨言论虽低但毒性高。
2024-09-19 cs.CL
Probabilistic Impact Score Generation using Ktrain-BERT to Identify Hate Words from Twitter Discussions
Indian Institute of Information Technology, Kalyani（印度信息技术学院卡利亚尼分校）
社交媒体最近出现了令人担忧的仇恨言论。网络欺凌、性别歧视或种族主义等几个不同类别的分支，这些贬损内容的组合标签通常可以被归类为有毒内容。本文介绍了使用Keras包装的轻量级BERT模型进行的实验，以成功识别仇恨言论并预测其概率影响分数，以提取句子中的仇恨词。用于此任务的数据集是来自FIRE 2021的Hate Speech and Offensive Content Detection（HASOC 2021）数据。我们的系统获得了82.60%的验证准确率，最大F1分数为82.68%。随后，我们的预测案例在生成影响分数方面表现得非常好，成功识别了仇恨推文以及推文池中的仇恨词。
2022-01-09 cs.CL
Hate Speech detection in the Bengali language: A dataset and its baseline evaluation
Shahjalal University of Science and Technology（沙贾拉尔科技大学）
YouTube和Facebook等社交媒体网站已成为每个人生活中不可或缺的一部分，在过去几年中，社交媒体评论部分的仇恨言论迅速增加。检测社交媒体网站上的仇恨言论面临着各种挑战，包括不平衡的小数据集，适当模型的发现以及特征分析方法的选择。此外，由于缺乏黄金标准标记的数据集，这个问题对于孟加拉语社区来说更加严重。本文介绍了一个新的数据集，由30，000条用户评论组成，这些评论由众包标记并由专家验证。所有评论都来自YouTube和Facebook的评论部分，并分为七个类别：体育，娱乐，宗教，政治，犯罪，名人和TikTok & meme。共有50名注释者对每条评论进行了三次注释，并以多数票作为最终注释。尽管如此，我们已经在这个数据集上进行了基线实验和几个深度学习模型，以及广泛的预训练孟加拉语词嵌入，如Word2Vec，FastText和BengFastText，以促进未来的研究机会。实验表明，尽管所有深度学习模型都表现良好，但SVM取得了最好的结果，准确率为87.5%。我们的核心贡献是使这个基准数据集可用和可访问，以促进在孟加拉仇恨言论检测领域的进一步研究。
2020-12-17 cs.CL
CRAB: Class Representation Attentive BERT for Hate Speech Identification in Social Media
Georgia Institute of Technology（佐治亚理工学院）；Emory University（埃默里大学）
近年来，社交媒体平台上出现了大量仇恨言论和令人反感的内容。对有效的自动仇恨言论检测模型的迫切需求吸引了公司和研究人员的大量投资。社交媒体帖子通常很短，即使是一个令牌，它们的语义也可能发生巨大变化。因此，学习上下文感知的输入表示，并将输入嵌入和类表示之间的相关性分数作为额外的信号，对于这项任务至关重要。为了满足这些需求，本文介绍了CRAB（类表示注意BERT），一种用于检测社交媒体中仇恨言论的神经模型。该模型受益于两种语义表示：（i）可训练的令牌式和令牌式类表示，以及（ii）来自最先进的BERT编码器的上下文化输入嵌入。为了研究CRAB的有效性，我们在Twitter数据上训练我们的模型，并将其与强基线进行比较。我们的研究结果表明，CRAB实现了1.89%的相对改善宏观平均F1超过国家的最先进的基线。本研究的结果为社会媒体中滥用行为自动检测的未来研究提供了机会
2020-10-25 cs.AI cs.CL cs.LG
From Triage to Impact: A Multi-Hop Reasoning Benchmark for Explainable Persian Hate Speech
EPFL（洛桑联邦理工学院）；Shahid Beheshti University（沙希德·贝赫什提大学）；University of Social Welfare and Rehabilitation Sciences（社会福利与康复大学）；Khatam University（哈塔姆大学）
针对波斯语仇恨言论分析资源匮乏问题，构建涵盖多任务的多跳推理基准，评估LLMs性能并揭示关键关联，为波斯语社交媒体仇恨言论可解释分析与负责任审核提供支持。
2026-10-15 cs.CL
UTFPR at SemEval-2019 Task 5: Hate Speech Identification with Recurrent Neural Networks
Universidade Tecnológica Federal do Paraná（巴拉那联邦理工大学）；Harvard Medical School（哈佛医学院）；University of Wolverhampton（伍尔弗汉普顿大学）
在本文中，我们重新审视了自动识别社交媒体帖子中的仇恨言论的问题。我们使用基于最小组合循环神经网络（RNN）的系统来完成任务。我们在SemEval-2019任务5：Twitter（HatEval）共享任务数据集中针对移民和女性的仇恨言论的多语言检测上测试了我们的方法。HatEval组织者提供的数据集包含从Twitter检索的英文和西班牙文帖子，并注明是否存在仇恨内容及其目标。在本文中，我们提出了我们的系统相比，在共享任务中的其他条目所获得的结果。我们的系统取得了有竞争力的性能排名第七的子任务A的62个系统在英语轨道。
2019-04-16 cs.CL
HateBR: A Large Expert Annotated Corpus of Brazilian Instagram Comments for Offensive Language and Hate Speech Detection
Computer Science Department, Federal University of Minas Gerais（米纳斯吉拉斯联邦大学计算机科学系）
由于巴西社交媒体攻击性和仇恨性评论的严重性，以及葡萄牙语研究的缺乏，本文提供了巴西Instagram评论的第一个大规模专家注释语料库，用于仇恨言论和攻击性语言检测。HateBR语料库是从巴西政治家在Instagram上的评论部分收集的，并由专家手动注释，达到了很高的注释者间一致性。该语料库由7，000份文件组成，根据三个不同的层次进行注释：二元分类（冒犯性与非冒犯性评论），冒犯性级别分类（高度，中度和轻微冒犯性），以及九个仇恨言论组（仇外心理，种族主义，同性恋恐惧症，性别歧视，宗教不容忍，党派主义，为独裁统治道歉，反犹太主义和肥胖恐惧症）。我们还实施了攻击性语言和仇恨言论检测的基线实验，并将其与文献基线进行比较。结果表明，我们的语料库上的基线实验优于目前最先进的葡萄牙语。
2022-12-27 cs.CL
Automated Hate Speech Detection and the Problem of Offensive Language
Cornell University（康奈尔大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
社交媒体上仇恨言论自动检测的一个关键挑战是将仇恨言论与其他攻击性语言分开。词汇检测方法往往具有低精度，因为它们将包含特定术语的所有消息分类为仇恨言论，并且先前使用监督学习的工作未能区分这两个类别。我们使用了一个众包仇恨言论词典来收集包含仇恨言论关键词的推文。我们使用众包将这些推文的样本分为三类：包含仇恨言论的推文，只有攻击性语言的推文，以及两者都没有的推文。我们训练一个多类分类器来区分这些不同的类别。对预测和错误的仔细分析表明，我们何时可以可靠地将仇恨言论与其他攻击性语言区分开来，何时这种区分更加困难。我们发现，种族主义和同性恋恐惧的推文更有可能被归类为仇恨言论，但性别歧视的推文通常被归类为冒犯性的。没有明确仇恨关键词的推文也更难分类。
2017-03-11 cs.CL
Cross-Linguistic Offensive Language Detection: BERT-Based Analysis of Bengali, Assamese, & Bodo Conversational Hateful Content from Social Media
LUT University（拉彭兰塔理工大学）；University of Oulu（奥卢大学）；University of Helsinki（赫尔辛基大学）
针对社交媒体多语言仇恨言论检测问题，研究基于多种BERT模型开展HASOC-2023任务4的孟加拉语、阿萨姆语、博多语仇恨内容检测，发现XML-Roberta-large多数场景优于单语模型，团队在对应赛道取得第三、第五名的成绩。
2023-12-16 cs.CL cs.LG
Bangla hate speech detection on social media using attention-based recurrent neural network
East West University（东西大学）
仇恨言论通过日常使用技术传播得更快，最值得注意的是，通过在社交媒体上分享你的负面观点或感受。虽然在发现英语、德语和其他语言中的仇恨言论方面开展了许多工作，但在孟加拉语中开展的工作很少。相比之下，数百万人用孟加拉语在社交媒体上交流。已经进行的少数现有工作需要在准确性和可解释性方面进行改进。本文提出了基于编码器解码器的机器学习模型，一种流行的自然语言处理工具，对用户在Facebook页面上的孟加拉语评论进行分类。一个包含7,425条孟加拉语评论的数据集，包括七种不同类别的仇恨言论，被用来训练和评估我们的模型。为了从评论中提取和编码局部特征，使用了1D卷积层。最后，基于注意力机制、LSTM和GRU的解码器已被用于预测仇恨言论类别。在三种编码解码算法中，基于注意力的解码器获得了最好的准确率（77%）。
2022-03-31 cs.AI cs.CL cs.LG
Is Safer Better? The Impact of Guardrails on the Argumentative Strength of LLMs in Hate Speech Countering
Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Trento（特伦托大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；I3S（信息、信号与智能系统实验室）
本文研究 LLM 生成反制言论时安全护栏对论证质量的影响，发现护栏可能降低生成质量，而针对仇恨言论中隐含负面刻板印象和仇恨性部分进行攻击能产生更高质量的反制言论。
2024-10-04 cs.CL
BD-SHS: A Benchmark Dataset for Learning to Detect Online Bangla Hate Speech in Different Social Contexts
Shahjalal University of Science and Technology（沙赫贾拉尔科技大学）；University of Alberta（阿尔伯塔大学）；University of Boston（波士顿大学）；Fordham University（福特汉姆大学）
社交媒体平台和在线流媒体服务催生了一种新的仇恨言论（HS）。由于这些网站上有大量的用户生成的内容，现代机器学习技术被发现是可行的，具有成本效益的，以解决这个问题。然而，语言上不同的数据集，涵盖不同的社会背景下，其中攻击性语言通常被使用的训练可推广的模型。在本文中，我们确定了现有的孟加拉HS数据集的缺点，并介绍了一个大型的手动标记的数据集BD-SHS，包括HS在不同的社会背景。标签标准是按照分层注释过程准备的，据我们所知，这是孟加拉HS中的第一个。该数据集包括从在线社交网站上抓取的50，200多条攻击性评论，比任何现有的孟加拉HS数据集至少大60%。我们通过训练不同的NLP模型来展示我们数据集的基准结果，最好的模型达到了91.0%的F1分数。在我们的实验中，我们发现，与其他预先训练的嵌入相比，专门使用来自社交媒体和流媒体网站的147万条评论训练的词嵌入始终导致更好的HS检测建模。我们的数据集和所有附带代码可在github.com/naurosromim/hate-speech-dataset-for-Bengali-social-media上公开获取
2022-06-01 cs.CL
Addressing the Challenges of Cross-Lingual Hate Speech Detection
Technical University of Darmstadt（达姆施塔特工业大学）；LMU Munich（慕尼黑大学）
仇恨言论检测的目标是过滤针对特定人群的负面在线内容。由于社交媒体平台易于访问，因此保护每个人至关重要，这需要为各种语言建立仇恨言论检测系统。然而，可用的标记仇恨言论数据集是有限的，这使得为许多语言构建系统成为问题。在本文中，我们专注于跨语言迁移学习，以支持低资源语言的仇恨语音检测。我们利用跨语言的词嵌入训练我们的神经网络系统的源语言，并将其应用到目标语言，缺乏标记的例子，并显示出良好的性能可以实现。然后，我们将未标记的目标语言数据，通过使用不同的模型架构的合奏自举标签进一步改进模型。此外，我们还研究了仇恨言论数据集的标签不平衡问题，因为与仇恨示例相比，非仇恨示例的高比例通常会导致模型性能低下。我们测试简单的数据欠采样和过采样技术，并显示其有效性。
2022-01-15 cs.CL
A BERT-Based Transfer Learning Approach for Hate Speech Detection in Online Social Media
CNRS（法国国家科学研究中心）；Institut Polytechnique de Paris（巴黎综合理工学院）
一部分用户在社交媒体上生成仇恨和有毒内容是一种日益增长的现象，促使研究人员投入大量精力，致力于具有挑战性的仇恨内容识别方向。我们不仅需要一个基于先进机器学习和自然语言处理的高效自动仇恨语音检测模型，还需要足够大量的注释数据来训练模型。缺乏足够数量的带有标签的仇恨言论数据，加上现有的偏见，一直是这一研究领域的主要问题。为了满足这些需求，在这项研究中，我们引入了一种新的迁移学习方法，该方法基于现有的预训练语言模型，称为BERT（来自Transformers的双向编码器表示）。更具体地说，我们调查的能力，BERT在捕捉仇恨的社会媒体内容的背景下，使用新的微调方法的基础上迁移学习。为了评估我们提出的方法，我们使用了两个公开可用的数据集，这些数据集已经在Twitter上注释了种族主义，性别歧视，仇恨或攻击性内容。结果表明，与现有方法相比，我们的解决方案在这些数据集上的精度和召回率方面获得了相当大的性能。因此，我们的模型可以捕获数据注释和收集过程中的一些偏差，并可能导致我们获得更准确的模型。
2019-10-28 cs.CL cs.IR cs.LG
Detecting weak and strong Islamophobic hate speech on social media
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究院）；Alan Turing Institute（艾伦·图灵研究院）
社交媒体上的仇视伊斯兰的仇恨言论对目标个人和更广泛的社会造成了相当大的伤害，也有可能损害主机平台的声誉。因此，迫切需要强有力的工具来大规模地发现和分类仇视伊斯兰的仇恨言论。以前的研究在很大程度上将社交媒体上仇视伊斯兰的仇恨言论的检测作为一项二元任务。然而，伊斯兰恐惧症的不同性质意味着，这通常不适合理论上知情的社会科学和有效监测社交媒体。利用深入的概念工作，我们建立了一个多类分类器，区分非伊斯兰恐惧症，弱伊斯兰恐惧症和强伊斯兰恐惧症的内容。准确率为77.6%，平衡准确率为83%。我们将分类器应用于2017年极右翼Twitter账户产生的109，488条推文的数据集。虽然大多数推文不是伊斯兰恐惧症，但弱伊斯兰恐惧症（36，963条推文）比强伊斯兰恐惧症（14，895条推文）更为普遍。我们的主要输入特征是一个手套词嵌入模型，该模型在新收集的1.4亿条推文的语料库上训练。它比一般的词嵌入模型高出5.9个百分点，证明了上下文的重要性。出乎意料的是，我们还发现一对一多类SVM优于深度学习算法。
2018-12-12 cs.CL cs.LG stat.ML
Lexical Squad@Multimodal Hate Speech Event Detection 2023: Multimodal Hate Speech Detection using Fused Ensemble Approach
Jamia Millia Islamia（贾米亚·米利亚·伊斯兰亚大学）
本文提出一种融合InceptionV3、BERT和XLNet的集成学习方法，用于将嵌入文本的图像分类为仇恨言论或非仇恨言论，准确率达75.21%，F-1分数达74.96。
2023-09-23 cs.AI cs.CL cs.LG
Hate Speech Detection Using Cross-Platform Social Media Data In English and German Language
University of Duisburg-Essen（杜伊斯堡-埃森大学）；University of Agder（阿格德大学）
针对仇恨言论检测缺乏通用模型、高质量训练数据成本高的问题，本研究结合跨平台数据构建双语检测模型，验证了相似数据集的增益作用，实现了英德YouTube评论检测的最优F1值。
2024-10-02 cs.AI cs.CL cs.SI
NaijaHate: Evaluating Hate Speech Detection on Nigerian Twitter Using Representative Data
The World Bank（世界银行）；University of Oxford（牛津大学）；New York University（纽约大学）；Universidade Federal de Goiás（戈亚斯联邦大学）；Ecole Normale Supérieure（巴黎高等师范学院）；Universiti Sultan Zainal Abidin（苏丹再纳阿比丁大学）；Massachusetts Institute of Technology（麻省理工学院）
针对现有仇恨言论检测系统依赖美国数据集、性能被高估的问题，构建首个尼日利亚推文代表性仇恨言论数据集NaijaHate，提出适配语境的NaijaXLM-T模型，揭示真实场景下大规模审核的挑战，助力低资源环境鲁棒检测系统开发。
2024-06-24 cs.CL
One to rule them all: Towards Joint Indic Language Hate Speech Detection
NeuralSpace（NeuralSpace 公司）
本文是对2021年印欧语言仇恨言论和攻击性内容识别（HASOC）共享任务的贡献。今天的社交媒体是各种语言的有毒和仇恨对话的温床。最近的新闻报道表明，目前的模型很难自动识别以少数民族语言发布的仇恨。因此，有效遏制仇恨言论是一个严峻的挑战和令人感兴趣的问题。我们提出了一个多语言架构，使用最先进的Transformer语言模型，共同学习仇恨和攻击性的语音检测跨三种语言，即英语，印地语和马拉地语。在所提供的测试语料中，子任务1A的宏F1得分分别为0.7996、0.7748、0.8651，子任务1B的细粒度分类的宏F1得分分别为0.6268、0.5603。这些结果表明，利用多语种的培训计划的有效性。
2021-09-28 cs.CL
HERDPhobia: A Dataset for Hate Speech against Fulani in Nigeria
Bayero University（巴耶罗大学）；Modibbo Adama University（莫迪博·阿达玛大学）；HausaNLP（豪萨语自然语言处理）；LIAAD-INESC TEC；Ahmadu Bello University（艾哈迈德·贝罗大学）
社交媒体平台允许用户自由分享他们对问题的看法或他们喜欢的任何东西。然而，它们也使仇恨和辱骂性内容更容易传播。富拉尼族是这一不幸现象的受害者。本文介绍了HERDPhobia -第一个注释仇恨言论数据集富拉尼牧民在尼日利亚-在三种语言：英语，德语，洋泾浜，豪萨语。我们提出了一个基准实验，使用预先训练的语言模型将推文分类为仇恨或非仇恨。我们的实验表明，XML-T模型提供了更好的性能与99.83%的加权F1。我们在https://github.com/hausanlp/HERDPhobia上发布了数据集以供进一步研究。
2022-11-28 cs.CL
