Hate Speech Detection via Dual Contrastive Learning
Dalian University of Technology（大连理工大学）；Pennsylvania State University（宾夕法尼亚州立大学）
针对仇恨言语义复杂及类别不平衡问题，提出融合自监督与监督对比学习及 focal loss 的 DCL 框架，在两个英文数据集上超越现有最优模型。
2023-07-10 cs.AI cs.CL
Statistical Analysis of Perspective Scores on Hate Speech Detection
University of Houston（休斯顿大学）
近年来，由于社交媒体中攻击性语言的指数增长，仇恨语音检测已经成为一个热门话题。事实证明，最先进的仇恨言论分类器只有在与训练数据具有相同特征分布的数据上进行测试时才有效。因此，模型架构扮演第二个角色，以改善目前的结果。在这样一个多样化的数据分布中，依赖于低级特征是由于数据中的自然偏差而导致缺陷的主要原因。这就是为什么我们需要使用高级功能来避免有偏见的判断。在本文中，我们统计分析的角度分数和他们的仇恨言论检测的影响。我们发现，不同的仇恨言论数据集在提取其观点得分时非常相似。最后，我们证明，过采样仇恨言论数据集的透视分数可以显着提高泛化性能，当它来测试其他仇恨言论数据集。
2021-06-22 cs.AI cs.CL
HateXScore: A Metric Suite for Evaluating Reasoning Quality in Hate Speech Explanations
Singapore University of Technology and Design（新加坡科技设计大学）
HateXScore通过四个维度评估仇恨言论解释的推理质量，揭示可解释性问题，提升审核透明度
2026-01-20 cs.AI cs.CL
Hate Speech Detection in Turkish and Arabic: A Comprehensive Study
Sabanci University（萨班哲大学）；Bogazici University（博阿齐奇大学）；Hrant Dink Foundation（赫兰特·丁克基金会）
本研究构建了涵盖土耳其语五个主题和阿拉伯语一个主题的仇恨言论数据集，并开发了基于BERT的模型，用于分类、强度预测、目标识别和跨度检测。
2026-07-07 cs.AI cs.CL
On the Challenges of Building Datasets for Hate Speech Detection
Birla Institute of Technology and Science, Pilani（皮拉尼比尔拉理工学院）
本文通过以数据为中心的视角分析仇恨言论检测的数据集构建问题，并以针对性少数群体的仇恨言论为例，提出了涵盖七个维度的整体数据创建框架，作为未来构建数据集的最佳实践。
2023-09-06 cs.AI cs.CL
Examining a hate speech corpus for hate speech detection and popularity prediction
Dublin Institute of Technology（都柏林理工学院）；University of Amsterdam（阿姆斯特丹大学）
随着对仇恨言论的研究变得越来越相关，大多数研究仍然集中在仇恨言论检测上。通过尝试复制仇恨言论检测实验进行现有的Twitter语料库注释仇恨言论，我们强调了一些问题，从做研究领域的仇恨言论，这基本上仍处于起步阶段。我们对训练语料库进行了批判性的研究，以了解其偏见，同时也利用它来超越仇恨言论检测，并调查它是否可以用于揭示研究的其他方面，例如仇恨推文的流行程度。
2018-05-12 cs.AI cs.CL cs.CY
LAHM : Large Annotated Dataset for Multi-Domain and Multilingual Hate Speech Identification
本文提出涵盖六种语言和五个仇恨言论领域的多语言数据集LAHM，通过高低层级标注评估多种分类设置，并探讨利用该方法和标注改进仇恨言论检测与分类。
2023-04-03 cs.AI cs.CL
HatePrototypes: Interpretable and Transferable Representations for Implicit and Explicit Hate Speech Detection
Laboratoire Hubert Curien, UMR CNRS 5516（于贝尔·居里实验室，法国国家科学研究中心5516联合研究单位）；Université Lumière Lyon 2（里昂第二大学）；Université Claude Bernard Lyon 1（克洛德·贝尔纳里昂第一大学）；ERIC, Lyon（里昂ERIC实验室）；École Centrale de Lyon（里昂中央理工学院）；LIRIS CNRS UMR 5205（LIRIS实验室，法国国家科学研究中心5205联合研究单位）
本文提出HatePrototypes，通过语言模型优化的类级向量表示，实现显性和隐性仇恨言论的跨任务迁移，无需重复微调。
2026-04-05 cs.AI cs.CL
Reproducibility Report: Contextualizing Hate Speech Classifiers with Post-hoc Explanation
Indian Institute of Technology, Kharagpur（印度理工学院克勒格布尔分校）
该报告评估了在ML ReproductionChallenge 2020范围内使用事后解释文件对仇恨语音分类器进行上下文化。我们的工作集中在两个方面构成的文件：方法本身和所述结果的有效性。在下面的章节中，我们描述了论文，相关的工作，算法框架，我们的实验和评估。
2021-05-24 cs.AI cs.CL
Leveraging Intra-User and Inter-User Representation Learning for Automated Hate Speech Detection
University of California, Santa Barbara（加州大学圣巴巴拉分校）
仇恨语音检测是自然语言处理（NLP）中的一个关键而又具有挑战性的问题。尽管存在许多致力于开发NLP仇恨言论检测方法的研究，但准确性仍然很差。核心问题是，社交媒体帖子简短而嘈杂，大多数现有的仇恨言论检测解决方案将每个帖子作为孤立的输入实例，这可能会产生高误报率和误报率。在本文中，我们从根本上提高了自动仇恨言论检测，提出了一种新的模型，利用内部用户和用户间的表示学习强大的仇恨言论检测在Twitter上。除了目标推文，我们收集和分析用户的历史帖子，以模拟用户内推文表示。为了抑制单个推文中的噪声，我们还使用增强的用户间表示学习技术对所有其他用户发布的类似推文进行建模。实验表明，利用这两种表示可以将强双向LSTM基线模型的f分数显著提高10.1%。
2018-09-14 cs.AI cs.CL
Why Is It Hate Speech? Masked Rationale Prediction for Explainable Hate Speech Detection
Ajou University（亚洲大学）
在仇恨语音检测模型中，除了检测性能之外，还应该考虑两个关键方面--偏差和可解释性。仇恨言论不能仅仅基于特定词语的存在来识别：模型应该能够像人类一样推理，并且是可解释的。为了提高这两个方面的性能，我们提出了一个中间任务，掩蔽原理预测（MRP）。MRP是一项任务，通过参考周围的标记及其未掩蔽的基本原理来预测掩蔽的人类基本原理-句子的片段，这些片段是人类判断的基础。由于该模型通过MRP学习其基于推理的推理能力，因此它在偏见和可解释性方面能够稳健地执行仇恨语音检测。所提出的方法一般达到国家的最先进的性能在各种指标，证明其有效性的仇恨语音检测。
2022-11-01 cs.AI cs.CL cs.SI
Mitigating Bias in Conversations: A Hate Speech Classifier and Debiaser with Prompts
Vector Institute of Artificial Intelligence（向量人工智能研究所）；Toronto Metropolitan University（多伦多都会大学）
针对对话中仇恨言论的偏见问题，提出含分类检测与提示式去偏的两步方法，经基准数据集验证可降低负面性，助力构建更包容公平的网络交流环境。
2023-07-14 cs.AI cs.CL
K-MHaS: A Multi-label Hate Speech Detection Dataset in Korean Online News Comment
The University of Sydney（悉尼大学）；The University of Western Australia（西澳大学）；BigWave AI；Keimyung University（启明大学）；National Information Society Agency（国家信息社会局）
由于在线内容的增长，在线仇恨言论检测已成为一个重要问题，但英语以外的语言资源极其有限。我们介绍了K-MHaS，这是一种新的用于仇恨言论检测的多标签数据集，可以有效地处理韩语模式。该数据集由来自新闻评论的109 k话语组成，并使用1到4个标签提供多标签分类，并处理主观性和交叉性。我们使用基于韩语BERT的语言模型，使用六种不同的指标，对K-MHaS进行强基线实验。带有子字符标记器的KR-BERT优于其他人，识别每个仇恨言论类中的分解字符。
2022-09-30 cs.AI cs.CL
Cross-lingual hate speech detection based on multilingual domain-specific word embeddings
在线社交网络中仇恨语音的自动检测是自然语言处理（NLP）领域的一个重要开放问题。仇恨言论是一个多层面的问题，强烈依赖于语言和文化因素。尽管它的相关性，对这个主题的研究几乎完全致力于英语。大多数监督学习资源，如标记数据集和NLP工具，都是为这种语言创建的。考虑到全球大部分用户使用英语以外的语言，因此非常需要创建用于多语言仇恨言论检测的有效方法。在这项工作中，我们提出了解决问题的多语言仇恨言论检测的角度来看，迁移学习。我们的目标是确定一种特定语言的知识是否可以用于对其他语言进行分类，并确定实现这一目标的有效方法。我们提出了一个仇恨特定的数据表示，并评估其有效性对通用的通用表示，其中大多数，不像我们提出的模型，已经训练了大量的数据。我们专注于跨语言的设置，其中一个需要分类仇恨言论在一种语言，而没有访问任何标记的数据，该语言。我们表明，使用我们的简单而具体的多语言仇恨表示提高了分类结果。我们解释这一点与定性分析表明，我们的具体表示是能够捕捉到一些常见的模式，仇恨言论如何在不同的语言中呈现自己。据我们所知，我们的建议构成了构建多语言特定任务表示的第一次尝试。尽管它的简单性，我们的模型优于以前的方法，为大多数实验设置。我们的研究结果可以指导未来的解决方案对使用特定领域的表示。
2021-04-30 cs.AI cs.CL
HateXplain: A Benchmark Dataset for Explainable Hate Speech Detection
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
仇恨言论是网络社交媒体中一个具有挑战性的问题。虽然更好的仇恨言论检测模型正在不断开发，但很少有关于仇恨言论的偏见和可解释性方面的研究。在本文中，我们介绍了HateXplain，这是第一个涵盖该问题多个方面的基准仇恨言论数据集。我们数据集中的每个帖子都从三个不同的角度进行了注释：基本的，常用的3类分类（即，仇恨，攻击性或正常），目标社区（即，在帖子中成为仇恨言论/攻击性言论受害者的社区），以及理由，即，他们的标签决定（仇恨，冒犯或正常）所依据的帖子部分。我们利用现有的最先进的模型，并观察到，即使是在分类中表现非常好的模型，在模型可解释性和忠实性等可解释性指标上的得分也不高。我们还观察到，利用人类理论进行训练的模型在减少对目标社区的无意偏见方面表现得更好。我们已经在https://github.com/punyajoy/HateXplain上公开了我们的代码和数据集
2022-04-12 cs.AI cs.CL cs.SI
Detection of Hate Speech using BERT and Hate Speech Word Embedding with Deep Model
King Abdulaziz University（阿卜杜勒阿齐兹国王大学）；University of Tabuk（塔布克大学）
网络和社交媒体上产生的大量数据增加了对检测在线仇恨言论的需求。检测仇恨言论将减少其对他人的负面影响和影响。自然语言处理（NLP）领域的大量努力旨在检测一般的仇恨言论或检测特定的仇恨言论，如宗教，种族，性别或性取向。仇恨社区倾向于在他们的通信中使用缩写，故意拼写错误和编码词来逃避检测，这给仇恨言论检测任务增加了更多的挑战。因此，词语表征将在检测仇恨言论方面发挥越来越重要的作用。本文研究了在基于双向LSTM的深度模型中利用特定于领域的词嵌入来自动检测/分类仇恨言论的可行性。此外，我们研究了使用迁移学习语言模型（BERT）仇恨言论问题作为一个二元分类任务。实验表明，基于双向LSTM的深度模型的特定领域词嵌入在来自可用仇恨语音数据集的组合平衡数据集上实现了93%的f1分数，而BERT实现了高达96%的f1分数。
2021-11-02 cs.CL
Automatic Translation of Hate Speech to Non-hate Speech in Social Media Texts
Instituto Politécnico Nacional（国立理工学院）
本文提出将西班牙语仇恨言论在保留原意的前提下自动改写为非仇恨言论的新任务，并提供数据集与多个基线，采用 BLEU 等指标评估，以助力遏制在线仇恨言论传播。
2023-06-02 cs.CL
Meta AI at Arabic Hate Speech 2022: MultiTask Learning with Self-Correction for Hate Speech Classification
Meta AI
在本文中，我们解决了阿拉伯语细粒度仇恨语音检测共享任务，并展示了其三个子任务的报告基线的显着改进。任务是预测推文是否包含（1）攻击性语言;以及它是否被认为是（2）仇恨言论，如果是，则从六个类别之一预测（3）细粒度仇恨言论标签。我们的最终解决方案是采用多任务学习和自我一致性校正方法的模型集成，在仇恨言论子任务上获得82.7%的收益-与以前的工作相比，相对提高了3.4%。
2022-05-16 cs.CL
A Benchmark Dataset for Learning to Intervene in Online Hate Speech
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Intel AI（英特尔人工智能）
打击网上仇恨言论是一项关键而又具有挑战性的任务，但可以通过使用自然语言处理（NLP）技术来帮助。以前的研究主要集中在开发NLP方法，以自动有效地检测在线仇恨言论，同时忽略了需要采取进一步行动来平息和阻止个人在未来使用仇恨言论。此外，大多数现有的仇恨言论数据集将每个帖子视为一个孤立的实例，忽略了会话上下文。在本文中，我们提出了一个新的任务生成仇恨言论干预，其目标是自动生成响应，在包含仇恨言论的在线对话进行干预。作为这项工作的一部分，我们介绍了从Gab和Reddit收集的两个完全标记的大规模仇恨言论干预数据集。这些数据集提供了对话片段，仇恨言论标签，以及由土耳其机械工人撰写的干预回应。在本文中，我们还分析了数据集，以了解常见的干预策略，并探讨了常见的自动响应生成方法在这些新数据集上的性能，为未来的研究提供了一个基准。
2019-09-10 cs.AI cs.CL cs.CY
Detecting Hate Speech in Memes Using Multimodal Deep Learning Approaches: Prize-winning solution to Hateful Memes Challenge
Bielefeld University（比勒费尔德大学）；University of Bonn（波恩大学）
互联网上的模因通常是无害的，有时很有趣。然而，通过使用某些类型的图像，文本或两者的组合，看似无害的模因变成了一种多模态的仇恨言论-仇恨模因。Hateful Memes Challenge是首个专注于检测多模态模因中的仇恨言论的竞赛，它提出了一个包含10，000多个多模态内容新示例的新数据集。我们利用VisualBERT --这意味着是视觉和语言的BERT--它是在图像和字幕上进行多模态训练的，并应用了包围学习。我们的方法在挑战测试集上达到了0.811 AUROC，准确率为0.765，并在仇恨模因挑战的3，173名参与者中排名第三。
2020-12-23 cs.AI cs.CL cs.CV
Leveraging World Knowledge in Implicit Hate Speech Detection
Georgetown University（乔治城大学）
虽然人们非常重视识别明确的仇恨言论，但以编码或间接语言伪装的隐含仇恨言论很普遍，仍然是现有仇恨言论检测系统的一个主要挑战。本文首次尝试将实体链接（EL）技术应用于显式和隐式仇恨言论检测，其中我们表明，关于文本中实体提及的真实世界知识确实有助于模型更好地检测仇恨言论，并且当显式实体触发时（例如，KKK（三K党）出席。我们还讨论了现实世界的知识并没有增加价值的仇恨言论检测，这提供了更多的见解来理解和建模仇恨言论的微妙之处。
2022-12-28 cs.CL
Causality Guided Representation Learning for Cross-Style Hate Speech Detection
School of Computing and Augmented Intelligence, Arizona State University（计算与增强智能学院，亚利桑那州立大学）
CADET通过因果图解构仇恨言论，分离潜在因素并控制混杂变量，提升跨风格仇恨言论检测的泛化能力。
2026-02-03 cs.AI cs.CL cs.LG
Seeing Hate Differently: Hate Subspace Modeling for Culture-Aware Hate Speech Detection
Data Lab, EECS Department（数据实验室，电子工程与计算机科学系）
针对仇恨言论检测中标签偏差与文化差异问题，提出构建个体仇恨子空间的文化感知框架，通过组合建模与标签传播缓解数据稀疏和标签模糊，平均性能提升1.05%。
2025-10-11 cs.AI cs.CL cs.SI
Lexical Squad@Multimodal Hate Speech Event Detection 2023: Multimodal Hate Speech Detection using Fused Ensemble Approach
Jamia Millia Islamia（贾米亚·米利亚·伊斯兰亚大学）
本文提出一种融合InceptionV3、BERT和XLNet的集成学习方法，用于将嵌入文本的图像分类为仇恨言论或非仇恨言论，准确率达75.21%，F-1分数达74.96。
2023-09-23 cs.AI cs.CL cs.LG
Factoring Hate Speech: A New Annotation Framework to Study Hate Speech in Social Media
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
本研究提出将仇恨言论分为五个话语类别的新型标注框架，构建含超290万条反犹仇恨内容的Twitter语料库，标注1050条推文样本并做统计分析，为仇恨言论研究提供新方向。
2023-11-07 cs.CL
Multilingual HateCheck: Functional Tests for Multilingual Hate Speech Detection Models
Rewire；University of Oxford（牛津大学）；Bocconi University（博科尼大学）；Simon Fraser University（西蒙弗雷泽大学）
仇恨语音检测模型通常在保持测试集上进行评估。然而，由于仇恨言论数据集中越来越多的系统性差距和偏见，这可能会导致模型性能的不完整和潜在误导。为了实现更有针对性的诊断见解，最近的研究因此引入了针对仇恨言论检测模型的功能测试。然而，这些测试目前仅适用于英语内容，这意味着它们无法支持在全球数十亿人使用的其他语言中开发更有效的模型。为了帮助解决这个问题，我们引入了多语言仇恨检查（MHC），这是一套针对多语言仇恨言论检测模型的功能测试。MHC涵盖了10种语言的34种功能，这比任何其他仇恨言论数据集都要多。为了说明MHC的效用，我们训练和测试一个高性能的多语种仇恨语音检测模型，并揭示关键模型的弱点，单语和跨语言的应用程序。
2022-06-20 cs.CL
Detecting Online Hate Speech Using Context Aware Models
Texas A&M University（德克萨斯农工大学）
在一场两极分化的选举之后，网络世界充斥着仇恨言论。伴随仇恨言论文本的上下文对于识别仇恨言论是有用的，然而在现有的数据集和仇恨言论检测模型中，这在很大程度上被忽视了。在本文中，我们提供了一个注释语料库的仇恨言论与上下文信息保存良好。然后，我们提出了两种类型的仇恨言论检测模型，结合上下文信息，逻辑回归模型与上下文功能和神经网络模型与上下文的学习组件。我们的评估表明，这两个模型在F1评分中的表现优于强基线约3%至4%，并且将这两个模型结合在一起，在F1评分中进一步提高了7%的性能。
2018-05-22 cs.CL
Navigating Dialectal Bias and Ethical Complexities in Levantine Arabic Hate Speech Detection
Haverford College（哈弗福德学院）；Brown University（布朗大学）
本文针对黎凡特阿拉伯语仇恨言论检测中的方言偏见与伦理问题，分析现有数据集局限，倡导开发文化语境敏感的NLP工具，以实现更包容的检测方法。
2024-12-14 cs.AI cs.CL cs.CY
Highly Generalizable Models for Multilingual Hate Speech Detection
Georgia Institute of Technology（佐治亚理工学院）
在过去的十年里，仇恨语音检测已经成为一个重要的研究课题。越来越多的私营公司需要监管全球不同平台上的用户生成内容。在本文中，我们介绍了多语言仇恨言论分类的研究。我们编译了一个包含11种语言的数据集，并通过分析带有二进制标签的组合数据来解决不同的分类：仇恨言论或非仇恨言论。在不同的语言和数据集上以单一的方式定义仇恨言论可能会消除定义中的文化细微差别，因此，我们利用LASER和MUSE提供的语言不可知嵌入来开发可以在数据集上使用仇恨言论的广义定义的模型。此外，我们评估了现有技术的仇恨言论检测方法在我们的扩展数据集。我们进行三种类型的实验的二进制仇恨语音分类任务：多语言训练单语言测试，单语言训练单语言测试和家庭家庭训练单语言测试的情况下，看看性能提高每种语言由于学习更多的其他语言数据。
2022-01-27 cs.CL
Demoting Racial Bias in Hate Speech Detection
Carnegie Mellon University（卡内基梅隆大学）
在当前的仇恨言论数据集，有注释者的毒性和信号的非洲裔美国人英语（AAE）的感知之间存在着高度的相关性。注释训练数据中的这种偏见以及机器学习模型放大它的趋势导致AAE文本经常被当前仇恨言论分类器错误标记为滥用/攻击/仇恨言论，具有很高的误报率。在本文中，我们使用对抗性训练来减轻这种偏见，引入了一个仇恨语音分类器，该分类器学习检测有毒句子，同时降级对应于AAE文本的混淆。仇恨言论数据集和AAE数据集上的实验结果表明，我们的方法能够大大降低AAE文本的误报率，同时对仇恨言论分类的性能影响最小。
2020-05-25 cs.CL
Decoding Hate: Exploring Language Models' Reactions to Hate Speech
IRLab（IR实验室）；CITIC Research Centre（CITIC研究中心）；University of A Coruña（阿维拉大学）
本文通过定性分析比较七个主流LLM对仇恨言论及政治正确包装形式的反应，并提出微调与指南护栏等缓解生成仇恨言论的策略。
2024-10-01 cs.CL
Towards generalisable hate speech detection: a review on obstacles and solutions
Queen Mary University of London（伦敦玛丽女王大学）
仇恨言论是一种有害的在线内容，它直接攻击或促进对一个群体或个人成员的仇恨，基于他们的实际或感知的身份方面，如种族，宗教和性取向。随着网络仇恨言论的增加，作为一项自然语言处理任务的仇恨言论自动检测越来越受到人们的关注。然而，直到最近才表明，现有的模型对看不见的数据的概括性很差。这篇调查论文试图总结现有的仇恨言论检测模型是如何推广的，为什么仇恨言论模型难以推广，总结现有的尝试，解决主要障碍，然后提出未来的研究方向，以提高仇恨言论检测的推广。
2021-02-17 cs.CL
A Federated Approach for Hate Speech Detection
AI4Bharat；University of Alberta（阿尔伯塔大学）；Georgia Institute of Technology（佐治亚理工学院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
由于社交媒体上创建的内容的规模，仇恨语音检测一直是高度关注的研究主题。尽管这项任务的关注和敏感性，仇恨言论检测中的隐私保护仍然没有得到充分研究。大多数研究都集中在集中式机器学习基础设施上，这可能会泄露数据。在本文中，我们表明，使用联邦机器学习可以帮助解决隐私问题，这是仇恨言论检测固有的问题，同时在F1分数方面获得高达6.81%的改进。
2023-02-18 cs.AI cs.CL cs.LG
Automated Hate Speech Detection and the Problem of Offensive Language
Cornell University（康奈尔大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
社交媒体上仇恨言论自动检测的一个关键挑战是将仇恨言论与其他攻击性语言分开。词汇检测方法往往具有低精度，因为它们将包含特定术语的所有消息分类为仇恨言论，并且先前使用监督学习的工作未能区分这两个类别。我们使用了一个众包仇恨言论词典来收集包含仇恨言论关键词的推文。我们使用众包将这些推文的样本分为三类：包含仇恨言论的推文，只有攻击性语言的推文，以及两者都没有的推文。我们训练一个多类分类器来区分这些不同的类别。对预测和错误的仔细分析表明，我们何时可以可靠地将仇恨言论与其他攻击性语言区分开来，何时这种区分更加困难。我们发现，种族主义和同性恋恐惧的推文更有可能被归类为仇恨言论，但性别歧视的推文通常被归类为冒犯性的。没有明确仇恨关键词的推文也更难分类。
2017-03-11 cs.CL
Towards Generalizable Generic Harmful Speech Datasets for Implicit Hate Speech Detection
Dept. of Computer Science, University of Central Florida（计算机科学系，中央佛罗里达大学）
针对隐式仇恨言论检测，提出利用现有有害言论数据集，通过有影响力样本识别、重新标注及Llama-3和GPT-4o增强，实现跨数据集泛化，F1提升12.9分。
2025-06-19 cs.AI cs.CL cs.LG
You Are What You Tweet: Profiling Users by Past Tweets to Improve Hate Speech Detection
University of Texas at Austin（德克萨斯大学奥斯汀分校）
仇恨语音检测的研究主要集中在纯粹的基于内容的方法，而不利用任何额外的上下文。我们简要地批评这个任务制定的利弊。然后，我们调查分析用户的过去的话语作为一个信息之前，更好地预测新的话语是否构成仇恨言论。为了评估这一点，我们用额外的时间轴数据增强了三个Twitter仇恨言论数据集，然后将这个额外的上下文嵌入到一个强大的基线模型中。有希望的结果表明值得进一步研究，尽管分析因注释方案和过程的差异以及Twitter API限制和数据共享政策而变得复杂。
2021-12-07 cs.AI cs.CL cs.LG
SarcasTraps: Effect of Sarcasm on Turkish Hate Speech Detection
Sabanci University（萨班哲大学）
本文构建了针对土耳其语的讽刺仇恨言论测试集SarcasTraps，经实验发现微调模型与零样本大语言模型在检测含讽刺的仇恨言论时均存在性能缺陷。
2026-10-14 cs.AI cs.CL cs.LG
Hate Speech According to the Law: An Analysis for Effective Detection
DIT, University of Bologna（博洛尼亚大学DIT学院）；Athens University of Economics and Business（雅典经济与商业大学）
针对现有仇恨言论定义不足、各国法律差异导致平台治理混乱的问题，本研究结合法律专家标注与多类模型实验，验证了法律知识对可起诉仇恨言论分类的作用，为合法打击仇恨言论提供策略参考。
2024-12-09 cs.CL
Dialogues of Dissent: Thematic and Rhetorical Dimensions of Hate and Counter-Hate Speech in Social Media Conversations
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
提出一种联合标注社交媒体仇恨与反仇恨言论的多标签方案，从主题和修辞维度分析92个对话、720条推文，揭示二者互动模式及反制策略。
2025-07-28 cs.CL
How Hate Speech Varies by Target Identity: A Computational Analysis
Carnegie Mellon University（卡内基梅隆大学）
本文研究了仇恨言论如何根据其目标身份以系统的方式变化。在针对目标身份注释的多个仇恨言论数据集中，我们发现针对特定身份群体的仇恨言论训练的分类器很难推广到其他目标身份。这为仇恨言论的目标身份差异提供了经验证据，然后我们研究了这种变化的结构模式。我们发现，目标人口类别（如性别/性或种族/民族）似乎有一个更大的影响仇恨言论的语言比目标身份群体的相对社会权力。我们还发现，与针对特定身份的仇恨言论相关的词语通常与刻板印象、压迫历史、当前的社会运动以及其他特定于身份的社会背景有关。这些实验表明，在自动仇恨言论分类中，考虑目标身份以及与这些身份相关的社会背景的重要性。
2022-12-07 cs.CL
Hate Speech and Counter Speech Detection: Conversational Context Does Matter
University of North Texas（北德克萨斯大学）；Arizona State University（亚利桑那州立大学）
仇恨言论和用户生成的内容一起充斥着网络空间。本文研究了对话上下文在注释和检测网络仇恨和反言论中的作用，其中上下文被定义为对话线程中的前面评论。我们创建了一个上下文感知的数据集，用于Reddit评论的三向分类任务：仇恨言论，反言论或中立。我们的分析表明，上下文是至关重要的，以确定仇恨和反言论：人类的判断改变大多数评论取决于我们是否显示注释者的上下文。语言分析深入了解人们用来表达仇恨和反击言论的语言。实验结果表明，神经网络获得显着更好的结果，如果考虑到上下文。我们还提出了定性的错误分析，阐明了（a）何时以及为什么上下文是有益的，以及（b）当考虑上下文时，我们的最佳模型所犯的其余错误。
2022-06-13 cs.CL
Hypothesis Engineering for Zero-Shot Hate Speech Detection
University of Zurich（苏黎世大学）
仇恨言论检测的标准方法依赖于足够的可用仇恨言论注释。扩展以前的工作，重新利用自然语言推理（NLI）模型的zero-shot文本分类，我们提出了一个简单的方法，结合多个假设，以提高英语NLI为基础的zero-shot仇恨语音检测。我们首先进行一个错误分析的香草NLI为基础的zero-shot仇恨言论检测，然后开发四个策略基于此分析。这些策略使用多个假设来预测输入文本的各个方面，并将这些预测组合成最终的判决。我们发现，用于初始错误分析的zero-shot基线已经优于HateCheck上的商业系统和微调的基于BERT的仇恨语音检测模型。所提出的策略的组合进一步将HateCheck上79.4%的zero-shot准确率提高了7.9个百分点（pp），将ETHOS上69.6%的准确率提高了10.0pp。
2022-10-03 cs.CL
Hateful Messages: A Conversational Data Set of Hate Speech produced by Adolescents on Discord
Freie Universität Berlin（柏林自由大学）；Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS（弗劳恩霍夫开放通信系统研究所FOKUS）
本研究构建了包含88,395条Discord青少年聊天消息的匿名仇恨言论数据集，以解决青少年语言偏见，约6.42%被标注为仇恨言论，作者平均年龄低于20岁。
2023-09-04 cs.CL
Cross-lingual Capsule Network for Hate Speech Detection in Social Media
Queen Mary University of London（伦敦玛丽女王大学）
大多数仇恨言论检测研究都集中在一种语言上，通常是英语，这限制了它们对其他语言的普遍性。在本文中，我们研究了跨语言的仇恨言论检测任务，解决这个问题，通过适应仇恨言论资源从一种语言到另一种语言。我们提出了一个跨语言的胶囊网络学习模型，加上额外的特定领域的词汇语义仇恨言论（CCNL-Ex）。我们的模型在AMI @ Evalita 2018和AMI@Ibereval2018的基准数据集上实现了最先进的性能，涉及三种语言：英语，西班牙语和意大利语，在所有六种语言对上都优于最先进的基线。
2021-08-06 cs.CL
MasonPerplexity at Multimodal Hate Speech Event Detection 2024: Hate Speech and Target Detection Using Transformer Ensembles
George Mason University（乔治梅森大学）
本文提出MasonPerplexity系统，使用XLM-roBERTa-large及多模型集成方法处理多模态仇恨言论及目标检测任务，在CASE 2024两项子任务中均取得第3名。
2024-02-18 cs.CL
Multilingual and Multi-Aspect Hate Speech Analysis
The Hong Kong University of Science and Technology（香港科技大学）；Department of Computer Science and Engineering（计算机科学与工程系）
当前对仇恨语音分析的研究通常面向单语和单一分类任务。在本文中，我们提出了一个新的多语言多方面仇恨语音分析数据集，并使用它来测试当前最先进的多语言多任务学习方法。我们在各种分类设置中评估我们的数据集，然后讨论如何利用我们的注释来提高仇恨言论检测和分类。
2019-08-29 cs.CL
Fine-Grained Chinese Hate Speech Understanding: Span-Level Resources, Coded Term Lexicon, and Enhanced Detection Frameworks
School of Computer Science and Technology, Dalian University of Technology（计算机科学与技术学院，大连理工大学）
针对中文仇恨言论检测可解释性研究面临的片段级标注数据稀缺和暗语识别不足两大挑战，本文提出了首个片段级中文仇恨言论数据集STATE ToxiCN，全面研究了LLMs对中文暗语仇恨词汇的语义解释能力，并提出一种整合标注词典的方法显著提升了检测性能。
2025-07-15 cs.CL
The Hateful Memes Challenge: Detecting Hate Speech in Multimodal Memes
Facebook AI（脸书人工智能研究院）
这项工作提出了一个新的挑战集多模态分类，专注于检测仇恨言论的多模态模因。它的构造使得单峰模型难以实现，只有多峰模型才能成功：将困难的示例（“良性混杂因素”）添加到数据集中，使其难以依赖单峰信号。该任务需要微妙的推理，但作为一个二元分类问题进行评估是简单的。我们为单峰模型以及具有不同复杂程度的多峰模型提供基线性能数据。我们发现，与人类相比，最先进的方法表现不佳（准确率为64.73%对84.7%），这说明了任务的难度，并突出了这一重要问题对社区构成的挑战。
2021-04-07 cs.AI cs.CL cs.CV
STATE ToxiCN: A Benchmark for Span-level Target-Aware Toxicity Extraction in Chinese Hate Speech Detection
School of Computer Science and Technology, Dalian University of Technology（计算机科学与技术学院，大连理工大学）
针对中文仇恨言论检测研究滞后、缺乏跨度级细粒度标注及仇恨俚语研究的问题，本文构建了首个跨度级中文仇恨言论数据集STATE ToxiCN，评估了现有模型检测性能并首次研究中文仇恨俚语的LLM检测能力，为相关研究提供资源与参考。
2025-05-20 cs.CL
Multilingual Auxiliary Tasks Training: Bridging the Gap between Languages for Zero-Shot Transfer of Hate Speech Detection Models
INRIA（法国国家信息与自动化研究所）
零次跨语言迁移学习已经被证明对于涉及大量语言特性的任务或当语言之间存在文化差异时（例如在仇恨言论检测中）具有高度挑战性。在本文中，我们强调了这种限制仇恨言论检测在几个领域和语言使用严格的实验设置。然后，我们建议对多语言辅助任务进行训练-情感分析，命名实体识别和依赖句法信息的任务-以提高仇恨语音检测模型跨语言的zero-shot传输。我们展示了仇恨言论检测模型如何受益于辅助任务微调带来的跨语言知识代理，并强调了这些任务对弥合语言之间仇恨言论语言和文化差距的积极影响。
2022-10-25 cs.CL
Hate Speech Detection: A Solved Problem? The Challenging Case of Long Tail on Twitter
University of Sheffield（谢菲尔德大学）；Southwest University（西南大学）；Cardiff University（卡迪夫大学）；DFKI GmbH（德国人工智能研究中心）；Technical University Dresden（德累斯顿工业大学）；Universitat Stuttgart（斯图加特大学）；Barcelona Supercomputing Centre（巴塞罗那超级计算中心）
近年来，社交媒体上仇恨言论的传播越来越多，迫切需要采取有效的应对措施，这吸引了政府、公司和研究人员的大量投资。已经开发了大量的方法用于在线自动检测仇恨言论。这旨在将文本内容分类为非仇恨或仇恨言论，在这种情况下，该方法还可以识别目标特性（即，仇恨的类型，如种族和宗教）在仇恨言论。然而，我们注意到两者的性能之间存在显著差异（即，非仇恨vs. hate）。在这项工作中，我们认为重点放在后一个问题的实际原因。我们表明，这是一项更具挑战性的任务，因为我们对典型数据集中的语言进行的分析表明，仇恨言论缺乏独特的、有区别的特征，因此在数据集中的“长尾”中很难发现。然后，我们提出了深度神经网络结构作为特征提取器，特别有效地捕捉仇恨言论的语义。我们的方法在基于Twitter的仇恨言论数据集的最大集合上进行了评估，并且在宏观平均F1中能够超过最佳性能方法高达5个百分点，或者在识别仇恨内容的更具挑战性的情况下超过8个百分点。
2018-10-25 cs.CL
ProvocationProbe: Instigating Hate Speech Dataset from Twitter
GESIS - Leibniz Institute for Social Sciences（莱布尼茨社会科学研究所GESIS）；University of Tartu（塔尔图大学）
本文构建 ProvocationProbe 数据集，基于 Twitter 约两万条涉九起全球争议的推文，标注并刻画煽动性仇恨言论区别于一般仇恨言论的特征。
2024-10-25 cs.CL
Countering Online Hate Speech: An NLP Perspective
The Chinese University of Hong Kong（香港中文大学）
网络仇恨言论已经引起了所有人的注意，从与COVID-19大流行、美国大选和全球抗议活动有关的新闻。网络毒性--网络仇恨行为的总称，表现为网络仇恨言论等形式。仇恨言论是以目标实体的身份或观点为动机，针对个人或群体的蓄意攻击。通过社交媒体进行的大众传播日益增多，进一步加剧了网上仇恨言论的有害后果。虽然使用自然语言处理（NLP）对仇恨言论识别进行了大量研究，但利用NLP预防和干预在线仇恨言论的工作相对缺乏。本文提出了一个整体的概念框架仇恨言论的NLP对抗方法，以及对NLP对抗网络仇恨言论的当前进展进行了全面调查。它根据其作用时间对对抗技术进行了分类，并确定了未来关于这一主题的潜在研究领域。
2021-09-07 cs.CL cs.LG
Recognizing Explicit and Implicit Hate Speech Using a Weakly Supervised Two-path Bootstrapping Approach
Texas A&M University（得克萨斯农工大学）；Stanford University（斯坦福大学）
在两极分化的选举之后，社交媒体充斥着仇恨的内容。为了解决监督仇恨语音分类方法的各种局限性，包括语料库偏见和巨大的注释成本，我们提出了一种弱监督的双路径自举方法，利用大规模未标记数据的在线仇恨语音检测模型。该系统明显优于使用手动注释数据以监督方式训练的仇恨言论检测系统。将该模型应用于选举前、选举后和选举日收集的大量推文，揭示了煽动性语言的动机和模式。
2018-05-22 cs.CL
