Whose Opinions Matter? Perspective-aware Models to Identify Opinions of Hate Speech Victims in Abusive Language Detection
University of Turin（都灵大学）
社交媒体平台为用户提供了表达自由和交流信息和表达不同意见的媒介。不幸的是，这也导致了虐待内容的增长，其目的是歧视人们，并针对移民，LGBT，穆斯林，犹太人和妇女等最弱势群体。由于辱骂性语言本质上是主观的，因此在对诸如仇恨言论（HS）等辱骂性内容的注释中可能涉及高度两极分化的主题或事件。因此，我们需要新的方法来模拟来自不同个人和人口背景的人的相互冲突的观点和意见。在本文中，我们提出了一个深入的研究模型极化意见来自不同的社区的假设下，类似的特征（种族，社会背景，文化等）。可以影响注释者对某一现象的看法。我们相信，依靠这些信息，我们可以将注释者分成具有相似观点的群体。我们可以创建单独的黄金标准，每个组一个，以训练最先进的深度学习模型。我们可以采用集成方法将来自不同组的透视感知分类器组合到一个包容性模型中。我们还提出了一个新的资源，多角度的英语语言数据集注释根据不同的子类别相关的特征在线虐待：仇恨言论，侵略性，攻击性和刻板印象。通过在这个新资源上训练最先进的深度学习模型，我们展示了我们的方法如何提高最先进的监督分类器的预测性能。
2021-06-30 cs.AI cs.CL
Will I Get Hate Speech Predicting the Volume of Abusive Replies before Posting in Social Media
Queen Mary University of London（伦敦玛丽女王大学）；Taif University（塔伊夫大学）；University of Essex（埃塞克斯大学）；Heriot-Watt University（赫瑞瓦特大学）
本研究填补了社交媒体滥用语言预测的空白，通过提取文本、元数据和账户等四类特征构建模型，在推文发布前预测其可能收到的滥用回复数量，发现推文内容而非用户身份是触发滥用回复的关键因素。
2025-03-04 cs.CL
AfriHate: A Multilingual Collection of Hate Speech and Abusive Language Datasets for African Languages
Imperial College London（伦敦帝国学院）；Bayero University Kano（卡诺贝罗大学）；University of Pretoria（比勒陀利亚大学）；Bahir Dar University（巴赫达尔大学）；University of Hamburg（汉堡大学）；Mila（米拉研究所）；McGill University（麦吉尔大学）；Northeastern University（东北大学）；Maseno University（马塞诺大学）；Digital Umuganda（数字乌干达）；Haramaya University（哈拉马亚大学）；Al Akhawayn University（阿赫瓦因大学）；Uppsala University（乌普萨拉大学）；Istanbul Technical University（伊斯坦布尔理工大学）；SADiLaR（南非洲数字语言资源中心）；University of Deusto（德乌斯托大学）；Instituto Politécnico Nacional（国家理工学院）；Wollo University（沃洛大学）；Addis Ababa University（亚的斯亚贝巴大学）；Lancaster University（兰卡斯特大学）；Bocconi University（博科尼大学）；Cardiff University（卡迪夫大学）
针对全球南方非洲语言仇恨言论管控因缺乏本地高质量数据和社区参与而失效的问题，研究构建了含15种非洲语言、由母语者标注的AfriHate多语言仇恨言论数据集，给出了LLM相关分类基线并开源资源。
2025-01-15 cs.CL
A Unified Deep Learning Architecture for Abuse Detection
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；Telefonica Research（西班牙电信研究院）；University of Alabama（阿拉巴马大学）
仇恨言论、攻击性语言、性别歧视、种族主义和其他类型的辱骂行为已成为许多在线社交媒体平台的常见现象。近年来，这种不同的虐待行为已经表现出越来越多的频率和强度。这是由于Twitter和Facebook等流行媒体平台的开放性和意愿，以托管敏感或有争议的话题。然而，这些平台没有充分解决在线滥用行为的问题，它们对有效检测和阻止这种不当行为的反应仍然有限。在本文中，我们研究这个复杂的问题，以下一个更全面的方法，认为虐待行为的各个方面。为了使这种方法切实可行，我们专注于Twitter数据，并从不同角度分析用户和文本属性的滥用张贴行为。我们提出了一个深度学习架构，它利用各种各样的可用元数据，并将其与自动提取的隐藏模式内的推文，以检测多个滥用行为规范是高度相关的。我们以无缝、透明的方式应用这种统一的架构来检测不同类型的虐待行为（仇恨言论、性别歧视与种族主义、欺凌、讽刺等）。而不需要对每个任务的模型体系结构进行任何调整。我们用多个数据集来测试所提出的方法，这些数据集解决了Twitter上的不同和多种滥用行为。我们的结果表明，它在很大程度上优于最先进的方法（AUC提高21至45%，取决于数据集）。
2018-02-21 cs.CL cs.SI
Hate Speech and Offensive Language Detection using an Emotion-aware Shared Encoder
Samovar（萨莫瓦实验室）；Telecom SudParis（南巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
社交媒体平台的兴起从根本上改变了人们的沟通方式，这些发展的结果之一是在线使用滥用内容的增加。因此，自动检测这些内容对于禁止不适当的信息，减少社交媒体平台上的毒性和暴力至关重要。现有的仇恨言论和攻击性语言检测工作基于预训练的Transformer模型产生了有希望的结果，然而，他们只考虑了通过注释数据集生成的滥用内容特征的分析。本文提出了一种多任务联合学习方法，该方法结合了从另一个语料库中提取的外部情感特征，以处理标记数据集的不平衡和稀缺性。我们的分析使用了两个著名的基于transformer的模型，BERT和mBERT，后者用于解决多语言场景中的滥用内容检测。我们的模型通过Transformers的共享编码器共享表示，联合学习滥用内容检测和情感特征。这种方法提高了数据效率，通过共享表示减少过拟合，并通过利用辅助信息确保快速学习。我们的研究结果表明，情感知识有助于更可靠地识别数据集中的仇恨言论和攻击性语言。我们的仇恨语音检测多任务模型表现出3%的性能提高基线模型，但多任务模型的性能不显着的攻击性语言检测任务。更有趣的是，在这两个任务中，多任务模型比单任务模型表现出更少的假阳性错误。
2023-02-17 cs.CL cs.IT cs.LG
Generalizing Hate Speech Detection Using Multi-Task Learning: A Case Study of Political Public Figures
University of Technology Sydney（悉尼科技大学）
提出一种多任务学习流水线，在多个仇恨言论数据集上联合训练以提升跨数据集泛化能力，并构建了包含30余万条推文的政治公众人物数据集PubFigs，验证了该方法在未见数据集上的显著改进。
2025-04-04 cs.CL cs.CY cs.SI
Feature Selection Empowered BERT for Detection of Hate Speech with Vocabulary Augmentation
Dhirubhai Ambani University (Formerly DA-IICT)（迪鲁巴希·阿米巴尼大学（原达卡理工大学））
本研究提出一种基于特征选择和词汇扩展的BERT方法，用于高效检测仇恨言论，通过减少训练数据量并提升计算效率。
2025-12-01 cs.AI cs.CL cs.NE
Code-Mixed Telugu-English Hate Speech Detection
George Mason University（乔治梅森大学）
针对泰卢固语等低资源语言仇恨言论检测挑战，本研究用LoRA微调多种Transformer模型，探索泰卢固语转英语的多语言方法，发现翻译提升多数模型性能，Hindi-Abusive-MuRIL表现最优，为低资源语言仇恨言论检测提供有效方案。
2025-02-15 cs.CL
HateMonitors: Language Agnostic Abuse Detection in Social Media
Indian Institute of Technology, Kharagpur（印度理工学院卡格普尔分校）
减少在线社交媒体中的仇恨和攻击性内容给版主带来了双重问题。一方面，不能对社交媒体实施严格的审查。另一方面，不能允许这种内容的自由流动。因此，我们需要有效的辱骂性语言检测系统来检测社交媒体中的有害内容。在本文中，我们介绍了我们的机器学习模型HateMonitor，该模型是为印欧语言仇恨语音和攻击性内容识别（HASOC）而开发的，这是FIRE 2019的一项共享任务。我们使用了梯度提升模型，以及BERT和LASER嵌入，使系统语言不可知。我们的模型在德国子任务A中处于第一位。我们还在https://github.com/punyajoy/HateMonitors-HASOC上公开了我们的模型。
2019-09-27 cs.CL cs.SI
Hate Speech Detection and Racial Bias Mitigation in Social Media based on BERT model
Télécom SudParis（南巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
最近，与仇恨和虐待内容识别任务中的数据集和经过训练的分类器相关的不同偏见引起了许多关注。虽然滥用语言检测的偏见数据集的问题已经得到了更频繁的解决，训练分类器产生的偏见还没有成为一个值得关注的问题。在这里，我们首先介绍了一种基于现有的预训练语言模型BERT的仇恨言论检测的迁移学习方法，并在两个公开的数据集上评估了所提出的模型，这些数据集注释了Twitter上的种族主义，性别歧视，仇恨或攻击性内容。接下来，我们在仇恨语音检测任务中引入了一种偏见缓解机制，以减轻在预训练的基于BERT的模型的微调过程中训练集中偏见的影响。为此，我们使用现有的正则化方法来重新加权输入样本，从而减少具有类别标签的高相关训练集的n元语法的影响，然后使用新的重新加权样本微调我们预先训练的基于BERT的模型。为了评估我们的偏见缓解机制，我们采用了一种跨域方法，在该方法中，我们使用上述数据集上的训练分类器来预测来自Twitter的两个新数据集的标签，AAE对齐和白人对齐组，这两个组分别表示用非洲裔美国英语（AAE）和标准美国英语（SAE）撰写的推文。结果表明，在训练的分类器中存在系统性的种族偏见，因为他们倾向于将AAE对齐组的AAE写的推文分配给负面类，如种族主义，性别歧视，仇恨和攻击性，而不是白人对齐的SAE写的推文。然而，种族偏见在我们的分类器显着减少后，我们的偏见缓解机制。这项工作可以为消除仇恨言论和辱骂性语言…
2020-08-28 cs.CL cs.IR cs.LG
Detecting Abusive Albanian
ITU Copenhagen（哥本哈根信息技术大学）；Microsoft（微软）；UN Development Programme（联合国开发计划署）
近年来，社交媒体的使用不断增加，对在线平台上仇恨言论和攻击性言论的增加产生了直接影响。对此类内容的有效检测的研究主要集中在英语和其他几种广泛使用的语言上，而剩下的大多数人没有投入同样的工作，因此无法从该领域的稳步发展中受益。在本文中，我们提出了\textsc{Shaj}，一个带有注释的阿尔巴尼亚仇恨言论和攻击性言论数据集，该数据集是从各种社交媒体平台上的用户生成内容构建的。它的注释遵循在OffensEval中引入的分层模式。使用三种不同的分类模型对数据集进行测试，其中最好的一种用于识别攻击性语言的F1得分为0.77，用于攻击性类型的自动分类的F1得分为0.64，最后，用于攻击性语言目标识别的F1得分为0.52。
2022-05-10 cs.CL
Understanding Abuse: A Typology of Abusive Language Detection Subtasks
University of Sheffield（谢菲尔德大学）；Cornell University（康奈尔大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
随着对滥用语言检测和分析的研究的增加，有必要对已被分组在此标签下的不同子任务之间的关系进行批判性考虑。基于仇恨言论，网络欺凌和在线虐待的工作，我们提出了一个类型学，捕捉中央子任务之间的相似性和差异，我们讨论了其对数据注释和功能建设的影响。我们强调研究人员可以采取的实际行动，以最好地接近他们感兴趣的滥用语言检测子任务。
2017-05-30 cs.CL
Demoting Racial Bias in Hate Speech Detection
Carnegie Mellon University（卡内基梅隆大学）
在当前的仇恨言论数据集，有注释者的毒性和信号的非洲裔美国人英语（AAE）的感知之间存在着高度的相关性。注释训练数据中的这种偏见以及机器学习模型放大它的趋势导致AAE文本经常被当前仇恨言论分类器错误标记为滥用/攻击/仇恨言论，具有很高的误报率。在本文中，我们使用对抗性训练来减轻这种偏见，引入了一个仇恨语音分类器，该分类器学习检测有毒句子，同时降级对应于AAE文本的混淆。仇恨言论数据集和AAE数据集上的实验结果表明，我们的方法能够大大降低AAE文本的误报率，同时对仇恨言论分类的性能影响最小。
2020-05-25 cs.CL
Contextual-Lexicon Approach for Abusive Language Detection
Institute of Mathematical and Computer Sciences, University of São Paulo（圣保罗大学数学与计算机科学学院）；Ribeirão Preto Medical School, University of São Paulo（圣保罗大学里贝朗普雷图医学院）；Federal University of Minas Gerais（米纳斯吉拉斯联邦大学）
由于基于词典的方法在科学上更优雅，解释了解决方案的组成部分，并且更容易推广到其他应用程序，因此本文为社交媒体上的攻击性语言和仇恨言论检测提供了一种新方法。我们的方法体现了一个词汇的隐含和明确的进攻和咒骂的表达与上下文信息注释。由于巴西社交媒体滥用评论的严重性，以及缺乏葡萄牙语的研究，巴西葡萄牙语是用于验证模型的语言。然而，我们的方法可以适用于任何其他语言。进行的实验表明，所提出的方法的有效性，优于目前的基线方法的葡萄牙语。
2022-12-20 cs.CL
Analysing Cyberbullying using Natural Language Processing by Understanding Jargon in Social Media
Delhi Technological University（德里理工大学）
网络欺凌在今天极为普遍。儿童和其他弱势群体中的网络仇恨评论、毒性、网络欺凌只会随着在线课程的增加而增加，社交平台的使用也会增加，特别是在COVID-19之后。在社交平台上检测和确保未成年人的安全至关重要，以便自动检测任何暴力或仇恨犯罪并采取严厉措施。在我们的工作中，我们通过使用来自各种社交媒体平台的数据集的组合来探索二元分类，这些数据集涵盖了性别歧视，种族主义，辱骂和仇恨言论等广泛的网络欺凌。我们通过多种模型进行实验，如Bi-LSTM，GloVe，最先进的模型，如BERT，并通过引入俚语滥用语料库应用独特的预处理技术，与没有俚语预处理的模型相比，实现了更高的精度。
2021-04-23 cs.CL cs.LG
Towards Ethics by Design in Online Abusive Content Detection
National Research Council Canada（加拿大国家研究委员会）
为了支持在线通信中的安全性和包容性，NLP研究已经做出了重大努力来解决滥用内容检测的问题，通常被定义为监督分类任务。研究工作已扩展到几个密切相关的子领域，如检测仇恨言论、毒性、网络欺凌等，迫切需要在任务制定、数据集设计和性能评估的共同框架下巩固这一领域。此外，尽管目前的技术实现了高的分类精度，一些道德问题已经被揭示。我们把道德问题放在首位，并提出一个统一的框架，作为一个两步的过程。首先，在线内容围绕个人和与身份有关的主题进行分类。第二，通过对每个类别的比较说明，确定虐待的严重程度。新框架以设计伦理原则为指导，是朝着建立更准确和可信的模型迈出的一步。
2020-10-28 cs.CL
Evaluating Simple Debiasing Techniques in RoBERTa-based Hate Speech Detection Models
本文针对基于RoBERTa的仇恨言论检测模型中对非裔美国人英语方言的误分类偏见，应用并评估了简单去偏技术，发现其效果高度依赖训练数据集构建方法，妥善考虑表征偏差可减少方言子群间的检测差异。
2025-01-26 cs.CL
HERDPhobia: A Dataset for Hate Speech against Fulani in Nigeria
Bayero University（巴耶罗大学）；Modibbo Adama University（莫迪博·阿达玛大学）；HausaNLP（豪萨语自然语言处理）；LIAAD-INESC TEC；Ahmadu Bello University（艾哈迈德·贝罗大学）
社交媒体平台允许用户自由分享他们对问题的看法或他们喜欢的任何东西。然而，它们也使仇恨和辱骂性内容更容易传播。富拉尼族是这一不幸现象的受害者。本文介绍了HERDPhobia -第一个注释仇恨言论数据集富拉尼牧民在尼日利亚-在三种语言：英语，德语，洋泾浜，豪萨语。我们提出了一个基准实验，使用预先训练的语言模型将推文分类为仇恨或非仇恨。我们的实验表明，XML-T模型提供了更好的性能与99.83%的加权F1。我们在https://github.com/hausanlp/HERDPhobia上发布了数据集以供进一步研究。
2022-11-28 cs.CL
Improving Generalizability in Implicitly Abusive Language Detection with Concept Activation Vectors
National Research Council Canada（加拿大国家研究委员会）
机器学习模型对不断变化的真实世界数据的鲁棒性至关重要，特别是对于影响人类福祉的应用程序，如内容审核。在网上讨论中不断出现新的辱骂性语言，以回应当前的事件（例如，COVID-19），而已部署的滥用检测系统应定期更新，以保持准确性。在本文中，我们表明，一般的辱骂性语言分类往往是相当可靠的检测域外明确的辱骂性话语，但未能检测到新类型的更微妙的，隐含的滥用。接下来，我们提出了一种可解释性技术，基于计算机视觉的测试概念激活向量（TCAV）方法，以量化训练模型对人类定义的显性和隐性辱骂性语言概念的敏感性，并使用它来解释模型对新数据的泛化性，在这种情况下，与COVID相关的反亚洲仇恨言论。扩展这种技术，我们引入了一种新的度量，明确度，为一个单一的实例，并表明，新的度量是有益的，建议域外未标记的例子，有效地丰富了训练数据与信息丰富，隐含的滥用文本。
2022-04-05 cs.CL cs.LG
AbuseAnalyzer: Abuse Detection, Severity and Target Prediction for Gab Posts
International Institute of Information Technology Hyderabad（海得拉巴国际信息技术研究所）；Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术研究所）；Microsoft（微软）
虽然在线社交媒体平台的广泛普及使信息传播更快，但也导致了不同类型的广泛在线滥用，如仇恨言论、攻击性语言、性别歧视和种族主义观点等。以前的工作集中在将用户帖子分类为各种形式的滥用行为。但几乎没有任何关注估计虐待的严重程度和目标。在本文中，我们提出了第一个数据集，其中包含来自Gab的7601个帖子，该数据集从滥用的存在，严重程度和滥用行为的目标的角度来看待在线滥用。我们还提出了一个系统来解决这些任务，获得的准确性为80%的滥用存在，滥用目标预测的准确性为82%，滥用严重程度预测的准确性为65%。
2020-10-08 cs.CL cs.IR
Improved two-stage hate speech classification for twitter based on Deep Neural Networks
Computer Science Research \& Development, \ , Greece
仇恨言论是一种涉及使用辱骂性语言的在线骚扰形式，常见于社交媒体帖子中。这种骚扰主要集中在特定群体的特征，如宗教，性别，种族等，它具有社会和经济后果。文本帖子中的辱骂性语言的自动检测一直是一项艰巨的任务，但它最近受到了科学界的极大兴趣。本文讨论了识别社交媒体中仇恨内容的重要问题。我们在这项工作中提出的模型是基于LSTM神经网络架构的现有方法的扩展，我们对其进行了适当的增强和微调，以检测短文本中某些形式的仇恨语言，例如种族主义或性别歧视。最显著的增强是转换为由递归神经网络（RNN）分类器组成的两阶段方案。第一阶段的OvR分类器的输出被组合并用于训练第二阶段分类器，其最终确定骚扰类型。我们的研究包括在16k tweets的公共语料库上评估的第二阶段的几种拟议的替代方法的性能比较，然后在另一个数据集上进行泛化研究。报告的结果表明，优越的分类质量的仇恨语音检测的任务相比，目前的最先进的所提出的计划。
2022-06-08 cs.AI cs.CL cs.IR
An Efficient Hybrid Deep Learning Approach for Detecting Online Abusive Language
本文提出一种结合BERT、CNN和LSTM的混合深度学习模型，用于高效检测在线恶意语言，实现高精度和召回率。
2026-02-12 cs.CL
A study of text representations in Hate Speech Detection
National and Kapodistrian University of Athens（雅典国立卡波迪斯特里安大学）；NCSR Demokritos（德谟克利特国家科学研究中心）
互联网和社交媒体的普及使仇恨言论内容能够在推特等微博平台上迅速匿名传播。目前欧盟和美国针对仇恨语言的立法，加上这些平台产生的大量数据，导致自动工具成为仇恨语音检测任务和管道的必要组成部分。在这项研究中，我们研究了几种不同的文本表示技术与多个分类算法配对，在自动仇恨语音检测和辱骂性语言歧视任务的性能。我们对二进制和多类数据集进行了实验评估，并进行了显著性测试。我们的研究结果表明，简单的仇恨关键词频率特征（BoW）效果最好，其次是预训练的词嵌入（GLoVe）以及N-gram图（NGG）：一种基于图形的表示，证明可以为这项任务产生高效，非常低维但丰富的特征。这些表示与逻辑回归或3层神经网络分类器的组合在微观和宏观F测量方面实现了最佳的检测性能。
2021-02-08 cs.CL
Hate speech detection in algerian dialect using deep learning
OMDENA
针对阿尔及利亚阿拉伯方言仇恨言论检测研究不足的问题，本文构建超过13.5K条社交网络文本语料库并评估多种深度学习架构，验证了所提方法的有效性。
2024-10-25 cs.CL
It's a Thin Line Between Love and Hate: Using the Echo in Modeling Dynamics of Racist Online Communities
Ben Gurion University of the Negev（内盖夫本-古里安大学）
（echo））符号--名字周围的三个括号，随着美国总统竞选的加剧，于2016年初成为主流社交网络。它被右翼、白人至上主义者和互联网巨魔的成员用来标记犹太人遗产--这是纳粹德国使用的臭名昭著的黄色徽章（Judenstern）的现代化身。跟踪这种趋势模因，它的含义和它的功能已被证明是难以捉摸的，因为它的语义模糊性（例如，虚拟拥抱的符号）。在本文中，我们报告了一个适当的数据集的建设，允许重建网络的种族主义社区和他们嵌入更广泛的社区的方式。我们结合自然语言处理和结构网络分析来研究促进仇恨的社区。为了克服狗叫和语言歧义，我们提出了一种基于BERT Transformer和BiLSTM网络的多模态神经架构，同时考虑到用户的自我网络和Meta特征。我们的多模态神经架构优于一组强大的基线。我们进一步展示了如何使用语言和网络结构串联允许仇恨社区的领导人的检测。我们进一步研究仇恨的“交叉性”，并表明反犹太人的回声与针对其他少数群体和受保护群体的仇恨言论相关。最后，我们分析了爱尔兰共和军巨魔在这个网络中扮演的角色，作为俄罗斯干涉运动的一部分。我们的研究结果使人们能够更好地了解种族主义的最新表现形式以及助长种族主义的动力。
2020-11-16 cs.CL cs.SI
Towards Efficient and Explainable Hate Speech Detection via Model Distillation
IRLab, CITIC, Universidade da Coruña, Spain（IR实验室、 CITIC、科鲁纳大学、西班牙）
本文提出利用思维链蒸馏大型语言模型以提取仇恨言论分类解释，证明蒸馏后的小模型在分类性能上超越大模型且解释质量相当，从而提升检测的可负担性、可理解性和可操作性。
2024-12-18 cs.CL
ViHOS: Hate Speech Spans Detection for Vietnamese
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
针对其他用户的仇恨和攻击性语言的增加是社交网络平台使用增加的不利副作用之一。这可能会使人类版主难以审查分类系统过滤的标记评论。为了帮助解决这个问题，我们提出了ViHOS（Vietnamese Hate and Offensive Spans）数据集，这是第一个人类注释的语料库，包含11 k条评论上的26 k个跨度。我们还提供了越南语评论中的仇恨和攻击性跨度的定义以及详细的注释指南。此外，我们使用各种最先进的模型进行实验。具体而言，XLM-R $_{Large}$在单跨度检测和所有跨度检测中获得最佳F1分数，而PhoBERT $_{Large}$在多跨度检测中获得最高分数。最后，我们的误差分析表明，在我们的数据中检测特定类型的跨度的困难，为今后的研究。免责声明：本文包含可能被认为是亵渎，冒犯或辱骂的真实评论。
2023-01-26 cs.CL
Effectiveness of Counter-Speech against Abusive Content: A Multidimensional Annotation and Classification Study
Université Côte d’Azur（法国埃克塞特大学）；Inria, CNRS, I3S（法国国家科学研究中心）；Sophia Antipolis, France（法国索菲亚Antipolis）
针对反制言论有效性评估的挑战，提出基于语言学等概念的计算框架，定义六个核心维度标注4,214个实例，并通过多任务和依赖关系分类策略取得高F1值，揭示了维度间的强相互依赖性。
2025-10-13 cs.CL
K-MHaS: A Multi-label Hate Speech Detection Dataset in Korean Online News Comment
The University of Sydney（悉尼大学）；The University of Western Australia（西澳大学）；BigWave AI；Keimyung University（启明大学）；National Information Society Agency（国家信息社会局）
由于在线内容的增长，在线仇恨言论检测已成为一个重要问题，但英语以外的语言资源极其有限。我们介绍了K-MHaS，这是一种新的用于仇恨言论检测的多标签数据集，可以有效地处理韩语模式。该数据集由来自新闻评论的109 k话语组成，并使用1到4个标签提供多标签分类，并处理主观性和交叉性。我们使用基于韩语BERT的语言模型，使用六种不同的指标，对K-MHaS进行强基线实验。带有子字符标记器的KR-BERT优于其他人，识别每个仇恨言论类中的分解字符。
2022-09-30 cs.AI cs.CL
Hatemongers ride on echo chambers to escalate hate speech diffusion
IIIT Delhi（德里英迪拉·甘地信息技术学院）；IIT Delhi（德里印度理工学院）；Logically（Logically公司）
近年来，在线社交网络上的仇恨和辱骂内容激增。虽然检测和遏制仇恨言论是早期的应对措施，但解决方案需要更深入地探索仇恨产生和传播的动态。我们分析了来自三个流行的在线社交网络的680多万用户的3200多万个帖子，以调查仇恨行为，信息传播和回声室介导的两极分化组织之间的相互关系。我们发现，仇恨传播者在控制信息传播方面发挥着比挑选出来的仇恨内容更重要的作用。这一看法适用于信息级联的增长以及仇恨行为者的聚集。对这些网络的核心分布的剖析表明，仇恨用户在社交网络中获得了更好的连接位置，并且经常聚集在一起建立信息级联。我们观察到，这种凝聚力远非仅仅是有组织的行为;相反，在这些网络中，仇恨制造者主导着回声室--用户群体积极地将自己与特定的意识形态立场联系起来。观察到的仇恨用户膨胀信息级联的主导地位主要是通过在这些回音室中放大的用户交互。我们结束我们的研究与警示注意，基于流行的内容推荐容易被利用仇恨贩子鉴于他们的潜力，通过回声室的互动升级内容的流行。
2023-02-05 cs.AI cs.CL cs.CY
Author Profiling for Hate Speech Detection
University of Cambridge（剑桥大学）；ILLC（逻辑、语言与计算研究所）；University of Amsterdam（阿姆斯特丹大学）；The ALTA Institute（阿尔塔研究所）
近年来，社交媒体的迅速发展助长了一些非常不受欢迎的现象，如互联网上辱骂性和攻击性语言的泛滥。之前的研究表明，这种仇恨内容往往来自那些有着共同刻板印象并在周围形成社区的用户。当前最先进的仇恨言论检测方法不注意用户和社区信息，并且完全依赖于文本（即，词汇和语义）线索。在本文中，我们提出了一种新的方法来解决这个问题，结合了基于社区的分析功能的Twitter用户。通过对16k条推文的数据集进行实验，我们发现我们的方法在仇恨言论检测方面明显优于目前的最新技术水平。此外，我们对模型特征进行了定性分析。我们发布我们的代码，预训练模型和所有在公共领域使用的资源。
2019-02-14 cs.CL
A Group-Specific Approach to NLP for Hate Speech Detection
Harvard University（哈佛大学）
本文提出面向特定受保护群体的仇恨言论检测NLP方法，并以反犹言论检测为例，构建历史语言知识图谱、注入模型并结合伦理与交叉性评估，证明其有助于识别细微刻板印象。
2023-04-21 cs.CL
HateBERT: Retraining BERT for Abusive Language Detection in English
University of Groningen（格罗宁根大学）；University of Turin（都灵大学）；University of Passau（帕绍大学）
在本文中，我们介绍了HateBERT，一个再训练的BERT模型，在英语中的滥用语言检测。该模型是在RAL-E上训练的，RAL-E是一个大规模的Reddit英语评论数据集，这些评论来自我们收集并向公众提供的被禁止攻击，辱骂或仇恨的社区。我们提出了一个一般的预训练的语言模型和滥用倾向的版本之间的详细比较的结果，通过重新训练与来自被禁止的社区的帖子对三个英语数据集的进攻，辱骂性语言和仇恨言论检测任务。在所有数据集上，HateBERT的性能都优于相应的一般BERT模型。我们还讨论了一组实验，比较了通用预训练语言模型及其相应的滥用语言倾向的对应物在数据集上的可移植性，表明可移植性受到注释现象的兼容性的影响。
2021-02-04 cs.CL
Hate speech detection using static BERT embeddings
Indian Institute of Information Technology, Allahabad（印度信息技术学院阿拉哈巴德分校）
随着社交媒体平台的日益普及，仇恨言论正在成为一个主要问题，它表达了针对特定群体特征，如性别，宗教或种族的辱骂性言论，以传播暴力。早期人们使用口头发表仇恨言论，但现在随着技术的发展，有些人故意使用社交媒体平台通过发布，分享，评论等方式传播仇恨，无论是基督城清真寺枪击案还是西方针对亚洲人的仇恨犯罪，据观察，罪犯都受到网上仇恨文本的影响。尽管人工智能系统可以标记此类文本，但关键挑战之一是降低误报率（将非仇恨标记为仇恨），以便这些系统可以在不破坏表达自由的情况下检测仇恨言论。本文使用ETHOS仇恨语音检测数据集，通过用静态BERT嵌入（BE）替换或集成词嵌入（fastText（FT）、GloVe（GV）或FT + GV），分析仇恨语音检测分类器的性能。通过大量的实验，可以观察到，与使用FT、GV或FT + GV作为词嵌入相比，使用静态BE的神经网络表现更好。与微调的BERT相比，一个显著改善的指标是特异性。
2021-06-29 cs.CL cs.CV
A Unified Multi-Task Learning Architecture for Hate Detection Leveraging User-Based Information
Indian Institute of Technology Patna（印度理工学院巴特那分校）
本文提出一种统一的多任务学习架构，通过结合用户内部与用户间信息及文本特征进行英语仇恨言论检测，在三个基准数据集上的实验表明该方法显著提升了macro-F1和weighted-F1指标。
2024-11-12 cs.CL
Role of Artificial Intelligence in Detection of Hateful Speech for Hinglish Data on Social Media
Symbiosis Institute of Technology（共生理工学院）；Symbiosis Centre for Applied Artificial Intelligence（共生应用人工智能中心）
社交网络平台提供了传播我们的想法、观点和想法以及扩散信息的渠道。这导致了英语与母语的融合。印度语-英语代码混合数据（Hinglish）的流行率在世界各地的大多数城市人口中呈上升趋势。大多数社交网络平台部署的仇恨言论检测算法无法过滤出以这些代码混合语言发布的攻击性和辱骂性内容。因此，考虑到印度口语和俚语的内容，全球仇恨言论检测率约为44%，下降幅度更大。在本文中，我们提出了一种有效的检测非结构化代码混合印度式英语语言的方法。通过利用诸如ELMo（语言模型的嵌入）、FLAIR和基于变换器的BERT（来自Transformers的双向编码器表示）之类的基于上下文的嵌入来采用用于印地语-英语代码混合语言的基于微调的方法。我们提出的方法与现有的方法进行比较，并对各种数据集的结果进行比较。我们的模型优于其他方法和框架。
2021-05-11 cs.CL
L3Cube-MahaHate: A Tweet-based Marathi Hate Speech Detection Dataset and BERT models
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
社交媒体平台被许多人用来表达他们的想法和意见。然而，这些平台也助长了大量的仇恨和辱骂内容。因此，必须遏制仇恨言论在这些平台上的传播。在印度，马拉地语是广泛受众使用的最流行的语言之一。在这项工作中，我们提出了L3 Cube-MahaHate，第一个主要的仇恨语音数据集在马拉地语。数据集来自Twitter，手动注释。我们的数据集包括超过25000个不同的tweet标签分为四个主要类别，即仇恨，进攻，亵渎，而不是。我们提出了用于收集和注释数据的方法以及在此过程中面临的挑战。最后，我们使用基于CNN、LSTM和Transformers的深度学习模型来呈现基线分类结果。我们探索单语言和多语言的变体BERT像马哈BERT，IndicBERT，mBERT，和xlm-RoBERTa和单语言模型比他们的多语言同行表现得更好。MahaBERT模型在L3 Cube-MahaHate语料库上提供了最好的结果。数据和模型可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-05-22 cs.CL cs.LG
CRAB: Class Representation Attentive BERT for Hate Speech Identification in Social Media
Georgia Institute of Technology（佐治亚理工学院）；Emory University（埃默里大学）
近年来，社交媒体平台上出现了大量仇恨言论和令人反感的内容。对有效的自动仇恨言论检测模型的迫切需求吸引了公司和研究人员的大量投资。社交媒体帖子通常很短，即使是一个令牌，它们的语义也可能发生巨大变化。因此，学习上下文感知的输入表示，并将输入嵌入和类表示之间的相关性分数作为额外的信号，对于这项任务至关重要。为了满足这些需求，本文介绍了CRAB（类表示注意BERT），一种用于检测社交媒体中仇恨言论的神经模型。该模型受益于两种语义表示：（i）可训练的令牌式和令牌式类表示，以及（ii）来自最先进的BERT编码器的上下文化输入嵌入。为了研究CRAB的有效性，我们在Twitter数据上训练我们的模型，并将其与强基线进行比较。我们的研究结果表明，CRAB实现了1.89%的相对改善宏观平均F1超过国家的最先进的基线。本研究的结果为社会媒体中滥用行为自动检测的未来研究提供了机会
2020-10-25 cs.AI cs.CL cs.LG
Leveraging Multi-domain, Heterogeneous Data using Deep Multitask Learning for Hate Speech Detection
Indian Institute of Technology Patna（印度理工学院帕特纳分校）
随着社交媒体上用户生成的网络内容呈指数级增长，互联网不同部分对个人或群体的辱骂性语言也在迅速增加。对于人类版主来说，识别攻击性内容并将其过滤掉是非常具有挑战性的。深度神经网络已经显示出在仇恨语音检测和相关应用中具有合理准确性的前景。然而，分类器严重依赖于训练数据的大小和质量。如此高质量的大数据集并不容易获得。此外，最近出现的现有数据集并不是按照相同的注释准则创建的，而且往往涉及与仇恨有关的不同类型和子类型。为了解决这个数据稀疏性问题，并获得更多的全球代表性的功能，我们提出了一个卷积神经网络（CNN）的多任务学习模型（MTLs）\footnote{code is available at https://github.com/imprasshant/STL-MTL}，利用来自多个来源的信息。在三个基准数据集上进行的实证分析表明，所提出的方法的有效性与显着改善的准确性和F分数，以获得最先进的性能相对于现有的系统。
2021-03-23 cs.CL
Hate Speech Detection via Dual Contrastive Learning
Dalian University of Technology（大连理工大学）；Pennsylvania State University（宾夕法尼亚州立大学）
针对仇恨言语义复杂及类别不平衡问题，提出融合自监督与监督对比学习及 focal loss 的 DCL 框架，在两个英文数据集上超越现有最优模型。
2023-07-10 cs.AI cs.CL
BOISHOMMO: Holistic Approach for Bangla Hate Speech
Cambridge University Press（剑桥大学出版社）
本文构建并评估了名为BOISHOMMO的多标签孟加拉语仇恨言论数据集，涵盖种族、性别、宗教、政治等类别，以解决低资源语言中数据集缺乏多维辱骂属性标注的问题，为未来低资源语言仇恨言论检测研究提供更细致多样的资源。
2025-04-11 cs.CL cs.LG
FAD-SA-GRU: Enhancing Hate Speech Detection in Algerian Dialect Through Feature-Augmented Self-Attention GRU Networks
USTHB（阿尔及尔科学技术大学）；ATM Mobilis Algiers（阿尔及尔移动ATM公司）
研究阿尔及利亚方言社交媒体上的仇恨言论检测，提出FAD-SA-GRU混合架构，通过多嵌入融合结合多种语义表示，经自注意力增强GRU编码器检测。实验表明该方法在多指标上优于基线，有效提升低资源方言仇恨言论检测效果。
2026-07-14 cs.CL
Data Expansion using Back Translation and Paraphrasing for Hate Speech Detection
Center for Machine Vision and Signal Analysis（机器视觉与信号分析中心）；University of Oulu（奥卢大学）
随着社交媒体平台中用户生成内容的激增，建立自动识别有毒和滥用内容的机制成为监管机构、研究人员和社会的主要关注点。在言论自由和尊重彼此尊严之间保持平衡是社交媒体平台监管机构的主要关注点。虽然使用深度学习方法自动检测攻击性内容似乎提供了令人鼓舞的结果，但基于训练深度学习的模型需要大量高质量的标记数据，而这些数据往往是缺失的。在这方面，我们在本文中提出了一种新的基于深度学习的方法，该方法融合了反向翻译方法和用于数据增强的释义技术。我们的管道研究了不同的基于单词嵌入的架构，用于仇恨言论的分类。反向翻译技术依赖于在大型语料库上预先训练的编码器-解码器架构，并且主要用于机器翻译。此外，释义利用Transformer模型和混合专家模型来生成不同的释义。最后，将LSTM和CNN进行比较，以寻求增强的分类结果。我们评估了我们的建议五个公开可用的数据集，即，AskFm语料库，Formspring数据集，华纳和Waseem数据集，Olid和维基百科有毒评论数据集。该方案的性能与一些相关的国家的最先进的结果比较证明了我们的建议的有效性和合理性。
2021-05-25 cs.CL
PEACE: Cross-Platform Hate Speech Detection- A Causality-guided Framework
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
针对跨平台仇恨言论检测中源平台模型偏差、目标平台缺标注数据的问题，提出因果引导框架PEACE，利用文本情感与攻击性两类因果线索学习可泛化表征，经多平台实验验证其跨平台泛化有效性。
2023-10-08 cs.CL cs.LG
Confronting Abusive Language Online: A Survey from the Ethical and Human Rights Perspective
National Research Council Canada（加拿大国家研究委员会）
互联网上滥用内容的普遍存在可能导致严重的心理和身体伤害。自然语言处理（NLP）研究的重大努力一直致力于通过滥用内容检测和相关子领域（例如检测仇恨言论、毒性、网络欺凌等）来解决这个问题。尽管当前技术在研究中实现了高分类性能，但已经观察到，该技术的现实应用可能会造成意外伤害，比如压制代表性不足的群体。我们回顾了大量关于自动滥用检测的NLP研究，重点关注道德挑战，围绕八项既定的道德原则组织：隐私，问责制，安全性和安全性，透明度和可解释性，公平性和非歧视性，人类对技术的控制，专业责任和促进人类价值。在许多情况下，这些原则不仅涉及可能视情况而定的情境道德守则，而且实际上与普遍人权有关，如隐私权、不受歧视的自由和表达自由。我们强调需要研究这项技术的广泛社会影响，并将道德和人权考虑纳入应用生命周期的每个阶段，从任务制定和数据集设计，到模型培训和评估，再到应用部署。在这些原则的指导下，我们确定了一些尊重权利的社会技术解决方案来检测和应对在线滥用的机会，包括“轻推”，“微调”，价值敏感设计，反叙事，风格转移和人工智能驱动的公共教育应用程序。
2021-07-22 cs.AI cs.CL cs.CY
ETHOS: an Online Hate Speech Detection Dataset
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
网络仇恨言论是我们社会中最近出现的一个问题，通过利用覆盖大多数社交媒体平台的相应政权的脆弱性，这个问题正在稳步上升。这种现象主要是由攻击性评论引起的，无论是在用户交互期间还是以发布的多媒体上下文的形式。如今，大公司拥有每天有数百万用户登录的平台，为了遵守相应的立法并保持高水平的服务质量，防止类似现象的暴露似乎是必要的。一个强大而可靠的系统，用于检测和防止相关内容的上传，将对我们的数字互联社会产生重大影响。我们日常生活的几个方面都与我们的社会形象有着不可分割的联系，使我们容易受到虐待行为的伤害。因此，缺乏准确的仇恨言论检测机制将严重降低整体用户体验，尽管其错误操作会引起许多道德问题。在本文中，我们提出了“ETHOS”，一个文本数据集，有两个变体：二进制和多标签，基于YouTube和Reddit的评论验证使用图8众包平台。此外，我们提出了用于创建此数据集的注释协议：一个主动采样过程，用于平衡我们的数据与定义的各个方面。我们的主要假设是，即使从这样一个耗时的过程中获得少量的标记数据，我们也可以保证在所检查的材料中出现仇恨言论。
2021-07-06 cs.CL cs.LG stat.ML
Hate Speech and Offensive Content Detection in Indo-Aryan Languages: A Battle of LSTM and Transformers
Z-AGI Labs（Z-AGI实验室）
本文面向 HASOC 2023，比较 BERT 变体、XLM-R 与 LSTM 在五种印度-雅利安语仇恨言论检测中的表现，发现最优模型因语言而异。
2023-12-09 cs.CL
Neural Character-based Composition Models for Abuse Detection
University of Cambridge（剑桥大学）；The ALTA Institute（ALTA研究所）；University of Amsterdam（阿姆斯特丹大学）
近年来，社交媒体的出现助长了一些非常不受欢迎的现象，如互联网上攻击性语言、仇恨言论、性别歧视言论等的泛滥。有鉴于此，已经做出了一些努力来自动检测和缓和这种滥用内容。然而，用户为逃避侦查而故意混淆文字，对这些努力的有效性构成了严重挑战。基于递归神经网络的滥用语言检测的当前最新方法没有明确解决这个问题，而是求助于针对未看到的单词的通用OOV（词汇表外）嵌入。然而，在对所有未看到的单词使用单个嵌入时，我们失去了区分混淆单词和非混淆单词或罕见单词的能力。在本文中，我们通过设计一个模型来解决这个问题，该模型可以为未见过的单词组成嵌入。我们的实验表明，我们的方法显着推进了目前的最先进的滥用检测数据集从两个不同的领域，即Twitter和维基百科的讨论页。
2018-09-02 cs.CL
Comparison of Modern Multilingual Text Embedding Techniques for Hate Speech Detection Task
Department of Information Systems, Faculty of Informatics, Kaunas University of Technology, Kaunas, Lithuania（信息系统系，信息学院，凯纳斯技术大学，凯纳斯，立陶宛）；Centre of Information Systems Design Technologies, Faculty of Informatics, Kaunas University of Technology, Kaunas, Lithuania（信息系统设计技术中心，信息学院，凯纳斯技术大学，凯纳斯，立陶宛）
本文比较了现代多语言句子嵌入模型在立陶宛、俄语和英语中的仇恨言论检测性能，探讨了下游建模选择和特征维度对性能的影响，引入了新的立陶宛仇恨言论语料库并评估了六种多语言编码器。
2026-04-16 cs.CL cs.LG
A Survey on Stereotype Detection in Natural Language Processing
Language and Translation Technology Team, Ghent University（格鲁特大学语言与翻译技术团队）；Department of Methodology and Statistics, Utrecht University（乌得勒支大学方法学与统计学系）
本文综述了NLP中的刻板印象检测研究，分析了跨学科定义，基于6000余篇论文识别趋势与挑战，强调其作为早期监测工具的价值，并呼吁多语言与交叉性研究。
2025-09-29 cs.CL cs.CY
Comparative Studies of Detecting Abusive Language on Twitter
Seoul National University（首尔大学）
在线攻击的上下文依赖性使得注释大量数据集变得极其困难。先前研究的滥用语言检测数据集的大小不足以有效地训练深度学习模型。最近，Twitter上的仇恨和辱骂言论，一个规模和可靠性都更大的数据集已经发布。然而，该数据集尚未对其潜力进行全面研究。在本文中，我们进行了第一次比较研究的各种学习模型在Twitter上的仇恨和辱骂性言论，并讨论了使用额外的功能和上下文数据进行改进的可能性。实验结果表明，双向GRU网络在词级特征上训练，具有潜在主题聚类模块，是最准确的模型，得分为0.805 F1。
2018-08-30 cs.CL
UM-IU@LING at SemEval-2019 Task 6: Identifying Offensive Tweets Using BERT and SVMs
University of Michigan（密歇根大学）；Indiana University（印第安纳大学）
本文描述了UM-IU@LING的SemEval 2019任务6的系统：OffensEval。我们采取混合方法来识别和分类社交媒体中的仇恨言论。在子任务A中，我们微调了一个基于BERT的分类器来检测推文中的滥用内容，在测试数据上获得了0.8136的宏观F1分数，从而在103个提交中排名第三。在子任务B和C中，我们使用了具有选定字符n-gram特征的线性SVM。对于子任务C，我们的系统可以识别滥用的目标，其宏观F1得分为0.5243，在65个提交中排名第27位。
2019-04-06 cs.CL
"To Target or Not to Target": Identification and Analysis of Abusive Text Using Ensemble of Classifiers
Adobe Research（奥多比研究院）
随着人们对社交媒体平台上的辱骂和仇恨行为的日益关注，我们提出了一种集成学习方法来识别和分析此类内容的语言特性。我们的堆栈集成由三个机器学习模型组成，这些模型捕捉语言的不同方面，并提供关于不恰当语言的多样和一致的见解。所提出的方法提供了与Twitter滥用行为数据集（Founta et al. 2018）现有最先进技术相当的结果，而不使用任何用户或网络相关信息;仅依赖于文本属性。我们相信，目前的方法的缺点提出的见解和讨论将突出未来研究的潜在方向。
2020-06-05 cs.CL cs.SI
IIITT@LT-EDI-EACL2021-Hope Speech Detection: There is always Hope in Transformers
Indian Institute of Information Technology Tiruchirappalli（印度蒂鲁吉拉伯利信息技术学院）；ULTRA Arts and Science College（ULTRA文理学院）；Eastern University（东方大学）；National University of Ireland Galway（爱尔兰国立大学戈尔韦分校）
在一个充满气候变化、宗教和政治冲突、全球流行病、恐怖主义和种族歧视等严重挑战的世界里，充满仇恨言论、辱骂和攻击性内容的互联网是我们最不希望看到的。在本文中，我们致力于在这些平台上识别和推广积极和支持性的内容。我们使用几个基于transformer的模型来将社交媒体评论分类为英语，马拉雅拉姆语和泰米尔语的希望演讲或不希望演讲。本文描述了我们在LT-EDI 2021- EACL 2021上为平等，多样性和包容性的希望语音检测共享任务所做的工作。
2021-04-19 cs.CL
