Probabilistic Impact Score Generation using Ktrain-BERT to Identify Hate Words from Twitter Discussions
Indian Institute of Information Technology, Kalyani（印度信息技术学院卡利亚尼分校）
社交媒体最近出现了令人担忧的仇恨言论。网络欺凌、性别歧视或种族主义等几个不同类别的分支，这些贬损内容的组合标签通常可以被归类为有毒内容。本文介绍了使用Keras包装的轻量级BERT模型进行的实验，以成功识别仇恨言论并预测其概率影响分数，以提取句子中的仇恨词。用于此任务的数据集是来自FIRE 2021的Hate Speech and Offensive Content Detection（HASOC 2021）数据。我们的系统获得了82.60%的验证准确率，最大F1分数为82.68%。随后，我们的预测案例在生成影响分数方面表现得非常好，成功识别了仇恨推文以及推文池中的仇恨词。
2022-01-09 cs.CL
Speech Detection Task Against Asian Hate: BERT the Central, While Data-Centric Studies the Crucial
Jinan University（暨南大学）；University of Birmingham（伯明翰大学）；Jinan University - University of Birmingham Joint Institute（暨南大学-伯明翰大学联合学院）
随着COVID-19大流行的持续，亚洲以外国家对亚洲人的仇恨正在加剧，特别是在中国人中。迫切需要有效地发现和防止针对亚洲人的仇恨言论。在这项工作中，我们首先创建了COVID-HATE-2022，这是一个注释数据集，包括2022年2月初获取的2，025条注释推文，这些推文根据特定标准进行了标记，我们在数据集中呈现了仇恨和非仇恨推文场景的全面集合。其次，我们根据相关数据集对BERT模型进行了微调，并演示了几种与推文“清理”相关的策略。第三，我们研究了各种以模型为中心和以数据为中心的方法的高级微调策略的性能，我们表明这两种策略通常都能提高性能，而以数据为中心的策略优于其他策略，并且证明了以数据为中心的方法在相关任务中的可行性和有效性。
2022-08-21 cs.CL
NLPineers@ NLU of Devanagari Script Languages 2025: Hate Speech Detection using Ensembling of BERT-based models
Nepal Applied Mathematics and Informatics Institute for Research (NAAMII)（尼泊尔应用数学与信息学研究所（NAAMII））；IRIT, Universite Toulouse III Paul Sabatier (UT3)（图卢兹第三大学保罗·萨巴蒂埃分校IRIT实验室）
本研究针对天城文书写的印地语与尼泊尔语仇恨言论检测任务，采用回译数据增强结合余弦相似度保标签一致性的策略，集成多语言BERT类模型，在COLING 2025相关共享任务中取得召回率第三的成绩，为该领域研究提供基础。
2024-12-12 cs.CL
Efficient Hate Speech Detection: A Three-Layer LoRA-Tuned BERTweet Framework
Zewail City of Science and Technology（泽瓦尔科学与技术城）
本文提出一种结合规则预过滤、LoRA 微调 BERTweet 和持续学习的三层框架，以 1.37% 可训练参数实现 0.85 宏 F1，达到大模型 94% 性能，且仅需单块 T4 GPU 训练约 2 小时。
2025-11-08 cs.CL
Training-Time Explainability for Multilingual Hate Speech Detection: Aligning Model Reasoning with Human Rationales
Technological University Dublin（都柏林理工大学）；National University of Sciences and Technology（国家科技大学）；Maynooth University（梅努斯大学）
该研究针对多语言仇恨言论检测的不透明问题，提出训练时可解释性框架，对齐模型推理与人类理由，经HateXplain、BullySent数据集及多方法评估，可提升分类性能与解释质量，助力多语言文化敏感的内容审核。
2026-08-28 cs.AI cs.CL
Aligning Attention with Human Rationales for Self-Explaining Hate Speech Detection
针对深度学习仇恨言论检测模型的不透明性问题，提出监督理据注意力（SRA）框架，通过将模型注意力与人类理据对齐提升可解释性与公平性，在多语言基准上实现2.4倍可解释性提升及良好公平性表现。
2025-11-10 cs.CL cs.LG
A Comprehensive Study on NLP Data Augmentation for Hate Speech Detection: Legacy Methods, BERT, and LLMs
University of Oulu（奥卢大学）
本文系统比较了仇恨言论检测中传统与基于BERT和LLM的数据增强方法，并提出上下文余弦相似度过滤方案，在降低标签改变率的同时提升分类性能。
2024-03-30 cs.CL
Hate speech detection using static BERT embeddings
Indian Institute of Information Technology, Allahabad（印度信息技术学院阿拉哈巴德分校）
随着社交媒体平台的日益普及，仇恨言论正在成为一个主要问题，它表达了针对特定群体特征，如性别，宗教或种族的辱骂性言论，以传播暴力。早期人们使用口头发表仇恨言论，但现在随着技术的发展，有些人故意使用社交媒体平台通过发布，分享，评论等方式传播仇恨，无论是基督城清真寺枪击案还是西方针对亚洲人的仇恨犯罪，据观察，罪犯都受到网上仇恨文本的影响。尽管人工智能系统可以标记此类文本，但关键挑战之一是降低误报率（将非仇恨标记为仇恨），以便这些系统可以在不破坏表达自由的情况下检测仇恨言论。本文使用ETHOS仇恨语音检测数据集，通过用静态BERT嵌入（BE）替换或集成词嵌入（fastText（FT）、GloVe（GV）或FT + GV），分析仇恨语音检测分类器的性能。通过大量的实验，可以观察到，与使用FT、GV或FT + GV作为词嵌入相比，使用静态BE的神经网络表现更好。与微调的BERT相比，一个显著改善的指标是特异性。
2021-06-29 cs.CL cs.CV
Few-shot Hate Speech Detection Based on the MindSpore Framework
School of Computing and Information（计算与信息学院）；Network Security Research Center（网络安全研究中心）；Big Data and Policing Technology Laboratory（大数据与警务技术实验室）；Guangxi Police College（广西警察学院）；Institute of Software（软件研究所）；Chinese Academy of Sciences（中国科学院）；School of Information Technology（信息科技学院）
针对少样本仇恨言论检测，提出基于MindSpore的提示增强框架MS-FSLHate，结合可学习提示、CNN-BiLSTM和对抗增强，在HateXplain和HSOL上优于基线。
2025-04-22 cs.CL cs.CY
MasonPerplexity at Multimodal Hate Speech Event Detection 2024: Hate Speech and Target Detection Using Transformer Ensembles
George Mason University（乔治梅森大学）
本文提出MasonPerplexity系统，使用XLM-roBERTa-large及多模型集成方法处理多模态仇恨言论及目标检测任务，在CASE 2024两项子任务中均取得第3名。
2024-02-18 cs.CL
Hate Speech Targets Detection in Parler using BERT
Ben-Gurion University（本-古里安大学）
本文提出一种基于 BERT 结合回译与数据预处理的流水线，用于检测 Parler 平台中的仇恨言论及其目标分布，包含仇恨言论检测和目标分类两个模型。
2023-04-03 cs.AI cs.CL
From BERT to Qwen: Hate Detection across architectures
Ariadna Mon Gomis（阿里阿娜·蒙-戈米斯）；Saúl Fenollosa Arguedas（萨乌尔·费洛萨-阿鲁埃达）；Jon Lecumberri Arteta（洪·莱库姆里-阿尔特埃塔）
本研究对比了经典编码器与下一代 LLM 在真实在线互动语料库上的仇恨言论检测性能，验证超大规模自回归模型是否优于传统双向 Transformer 架构。
2025-07-14 cs.CL cs.LG
TweetBLM: A Hate Speech Dataset and Analysis of Black Lives Matter-related Microblogs on Twitter
Birla Institute of Technology（比拉理工学院）
在过去几年中，各种社交媒体平台上的有毒和仇恨内容大幅增加。最近，Black Lives Matter运动进入了画面，在互联网上引起了大量用户的回应。在本文中，我们提出了一个与Black Lives Matter相关的tweet仇恨言论数据集TweetBLM。我们的数据集包括9165条针对Black Lives Matter运动的手动注释推文。我们将推文注释为两类，即，基于与种族主义有关的内容，仇恨和非仇恨从黑人社区运动中爆发出来。在这项工作中，我们还对我们的数据集产生了有用的统计见解，并对各种机器学习模型进行了系统的分析，如随机森林，CNN，LSTM，BiLSTM，Fasttext，BERTbase和BERTlarge，用于我们数据集的分类任务。通过我们的工作，我们的目标是为研究界在识别和缓解互联网上的仇恨言论方面做出实质性努力。数据集是公开的。
2021-08-27 cs.CL
Generative AI for Hate Speech Detection: Evaluation and Findings
University of Haifa（海法大学）；OriginAI；Braude College of Engineering（布劳德工程学院）
本研究评估了利用生成式AI合成数据增强微调LLMs进行仇恨言论检测的方法，发现其提升泛化与召回率，但GPT-3.5零样本检测虽泛化好却精确率低。
2023-11-16 cs.AI cs.CL
Spread Love Not Hate: Undermining the Importance of Hateful Pre-training for Hate Speech Detection
Pune Institute of Computer Technology（浦那计算机技术学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
预训练大型神经语言模型，如BERT，已经在许多自然语言处理（NLP）任务上取得了令人印象深刻的进展。虽然这种方法已被证明是有效的许多领域，它可能并不总是提供理想的好处。在本文中，我们研究了仇恨预训练对低资源仇恨语音分类任务的影响。虽然以前对英语的研究强调了它的重要性，但我们的目标是用一些不明显的见解来增强他们的观察。我们评估了基于tweet的BERT模型的不同变体，这些模型在40 M tweet数据集的仇恨，非仇恨和混合子集上进行了预训练。这项评估是针对印度语印地语和马拉地语进行的。这篇论文是经验证据，表明仇恨预训练不是仇恨言论检测的最佳预训练选项。我们表明，对目标域中的非仇恨文本进行预训练可以提供类似或更好的结果。此外，我们还介绍了HindTweet BERT和MahaTweet BERT，这是第一个公开的BERT模型，分别在印地语和马拉地语推文上进行了预训练。我们表明，它们在仇恨言论分类任务上提供了最先进的性能。我们还发布了两种语言的仇恨BERT和一个黄金仇恨言论评估基准HateEval-Hi和HateEval-Mr，每个基准包含手动标记的2000条推文。模型和数据可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-12-11 cs.AI cs.CL
MMBERT: Scaled Mixture-of-Experts Multimodal BERT for Robust Chinese Hate Speech Detection under Cloaking Perturbations
针对中文社交网络仇恨言论隐匿检测难题，提出融合多模态的MMBERT框架，采用渐进式三阶段训练的MoE架构，在多个中文数据集上性能超越现有基线模型。
2025-08-01 cs.AI cs.CL
BERT-based Ensemble Approaches for Hate Speech Detection
Telecom SudParis（巴黎高等电信学院）；IMT（法国国立高等矿业电信学校联盟）；Institut Polytechnique de Paris（巴黎理工学院）
随着在线社交媒体提供的通信自由，仇恨言论越来越多地产生。这导致网络冲突影响到个人和国家层面的社会生活。因此，仇恨内容分类变得越来越需要在将仇恨内容发送到社交网络之前过滤仇恨内容。本文的重点是使用多个深度模型对社交媒体中的仇恨言论进行分类，这些深度模型是通过整合最近基于transformer的语言模型（如BERT和神经网络）来实现的。为了提高分类性能，我们评估了几个集成技术，包括软投票，最大值，硬投票和堆叠。我们使用了三个公开可用的Twitter数据集（Davidson，HatEval2019，OLID），这些数据集是为了识别攻击性语言而生成的。我们融合了所有这些数据集，生成一个单一的数据集（DHO数据集），它在不同的标签之间更加平衡，以执行多标签分类。我们的实验在Davidson数据集和DHO语料库上进行。后者给出了最好的整体结果，特别是F1宏得分，即使它需要更多的资源（时间执行和内存）。实验显示了良好的结果，特别是集成模型，其中叠加在Davidson数据集上给出了97%的F1得分，在DHO数据集上聚合集成为77%。
2022-09-15 cs.CL cs.LG
A Unified Multi-Task Learning Architecture for Hate Detection Leveraging User-Based Information
Indian Institute of Technology Patna（印度理工学院巴特那分校）
本文提出一种统一的多任务学习架构，通过结合用户内部与用户间信息及文本特征进行英语仇恨言论检测，在三个基准数据集上的实验表明该方法显著提升了macro-F1和weighted-F1指标。
2024-11-12 cs.CL
L3Cube-MahaHate: A Tweet-based Marathi Hate Speech Detection Dataset and BERT models
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
社交媒体平台被许多人用来表达他们的想法和意见。然而，这些平台也助长了大量的仇恨和辱骂内容。因此，必须遏制仇恨言论在这些平台上的传播。在印度，马拉地语是广泛受众使用的最流行的语言之一。在这项工作中，我们提出了L3 Cube-MahaHate，第一个主要的仇恨语音数据集在马拉地语。数据集来自Twitter，手动注释。我们的数据集包括超过25000个不同的tweet标签分为四个主要类别，即仇恨，进攻，亵渎，而不是。我们提出了用于收集和注释数据的方法以及在此过程中面临的挑战。最后，我们使用基于CNN、LSTM和Transformers的深度学习模型来呈现基线分类结果。我们探索单语言和多语言的变体BERT像马哈BERT，IndicBERT，mBERT，和xlm-RoBERTa和单语言模型比他们的多语言同行表现得更好。MahaBERT模型在L3 Cube-MahaHate语料库上提供了最好的结果。数据和模型可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-05-22 cs.CL cs.LG
Feature Selection Empowered BERT for Detection of Hate Speech with Vocabulary Augmentation
Dhirubhai Ambani University (Formerly DA-IICT)（迪鲁巴希·阿米巴尼大学（原达卡理工大学））
本研究提出一种基于特征选择和词汇扩展的BERT方法，用于高效检测仇恨言论，通过减少训练数据量并提升计算效率。
2025-12-01 cs.AI cs.CL cs.NE
Character-level HyperNetworks for Hate Speech Detection
University of Haifa（海法大学）；Braude College of Engineering（布劳德工程学院）；McGovern Institute for Brain Research, MIT（麻省理工学院麦戈文脑科学研究所）
仇恨言论和针对特定亚群体的仇恨内容的大规模传播是一个具有重大社会意义的问题。仇恨语音检测的自动化方法通常采用最先进的基于深度学习（DL）的文本分类器-超过1亿个参数的大型预训练神经语言模型，使这些模型适应使用相关标记数据集进行仇恨语音检测的任务。不幸的是，只有少数大小有限的公共标记数据集可用于此目的。我们为推动这一事态发展作出了几项具有很大潜力的贡献。我们提出了用于仇恨语音检测的超网络，这是一类特殊的DL网络，其权重由小规模辅助网络调节。这些架构在字符级操作，而不是字或子字级，并且与流行的DL分类器相比小几个数量级。我们进一步表明，使用额外的大量自动生成的示例来训练仇恨检测分类器通常是有益的，但这种做法特别提高了所提出的超网络的性能。我们报告了大量实验的结果，使用五个公共数据集评估了多个神经架构在仇恨检测上的性能。评估的方法包括BERT、RoBERTa、ALBERT、MobileBERT和CharBERT的预训练语言模型，CharBERT是BERT的变体，它将字符与子词嵌入结合在一起。除了传统的数据集内评估设置之外，我们还进行了跨数据集评估实验，测试了各种模型在数据迁移条件下的泛化能力。我们的研究结果表明，建议的超网络实现的性能是有竞争力的，在某些情况下，比这些预训练的语言模型，而更小的数量级。
2022-05-19 cs.CL
Bangla Hate Speech Classification with Fine-tuned Transformer Models
Faculty of Computer Science, University of New Brunswick（计算机科学学院，新 Brunswick大学）
本文研究了孟加拉语仇恨言论分类，使用微调的Transformer模型，发现BanglaBERT在两个子任务中表现最佳，强调了语言特定预训练的重要性。
2025-12-02 cs.CL
Hypothesis Engineering for Zero-Shot Hate Speech Detection
University of Zurich（苏黎世大学）
仇恨言论检测的标准方法依赖于足够的可用仇恨言论注释。扩展以前的工作，重新利用自然语言推理（NLI）模型的zero-shot文本分类，我们提出了一个简单的方法，结合多个假设，以提高英语NLI为基础的zero-shot仇恨语音检测。我们首先进行一个错误分析的香草NLI为基础的zero-shot仇恨言论检测，然后开发四个策略基于此分析。这些策略使用多个假设来预测输入文本的各个方面，并将这些预测组合成最终的判决。我们发现，用于初始错误分析的zero-shot基线已经优于HateCheck上的商业系统和微调的基于BERT的仇恨语音检测模型。所提出的策略的组合进一步将HateCheck上79.4%的zero-shot准确率提高了7.9个百分点（pp），将ETHOS上69.6%的准确率提高了10.0pp。
2022-10-03 cs.CL
CRAB: Class Representation Attentive BERT for Hate Speech Identification in Social Media
Georgia Institute of Technology（佐治亚理工学院）；Emory University（埃默里大学）
近年来，社交媒体平台上出现了大量仇恨言论和令人反感的内容。对有效的自动仇恨言论检测模型的迫切需求吸引了公司和研究人员的大量投资。社交媒体帖子通常很短，即使是一个令牌，它们的语义也可能发生巨大变化。因此，学习上下文感知的输入表示，并将输入嵌入和类表示之间的相关性分数作为额外的信号，对于这项任务至关重要。为了满足这些需求，本文介绍了CRAB（类表示注意BERT），一种用于检测社交媒体中仇恨言论的神经模型。该模型受益于两种语义表示：（i）可训练的令牌式和令牌式类表示，以及（ii）来自最先进的BERT编码器的上下文化输入嵌入。为了研究CRAB的有效性，我们在Twitter数据上训练我们的模型，并将其与强基线进行比较。我们的研究结果表明，CRAB实现了1.89%的相对改善宏观平均F1超过国家的最先进的基线。本研究的结果为社会媒体中滥用行为自动检测的未来研究提供了机会
2020-10-25 cs.AI cs.CL cs.LG
Detecting White Supremacist Hate Speech using Domain Specific Word Embedding with Deep Learning and BERT
King Abdulaziz University（阿卜杜勒阿齐兹国王大学）
白人至上主义者信奉一种激进的意识形态，认为白人比其他种族的人优越。这些团体的关键影响不再局限于社交媒体;它们还通过促进种族仇恨和暴力，在许多方面对社会产生重大影响。白人至上主义仇恨言论是社交媒体上最近观察到的有害内容之一。由于信息的巨大爆炸，报告仇恨言论的传统渠道已被证明是不够的，因此，有必要找到一种自动方法来及时检测此类言论。本研究探讨了使用深度学习和自然语言处理技术自动检测Twitter上白人至上主义仇恨言论的可行性。通过我们的实验，我们使用了两种方法，第一种方法是使用从白人至上主义语料库中提取的特定于领域的嵌入，以利用双向长短期记忆（LSTM）深度学习模型来捕捉这个白人至上主义俚语的含义，这种方法达到了0.74890的F1-得分。第二种方法是通过使用最新的语言模型之一，这是BERT，BERT模型提供了最先进的自然语言处理任务。达到了0.79605的F1分数。这两种方法都在平衡数据集上进行了测试，因为我们的实验仅基于文本数据。该数据集是由Twitter创建的数据集和从白人至上主义论坛编译的Stormfront数据集组合而成的。
2020-10-01 cs.AI cs.CL
Cross-Linguistic Offensive Language Detection: BERT-Based Analysis of Bengali, Assamese, & Bodo Conversational Hateful Content from Social Media
LUT University（拉彭兰塔理工大学）；University of Oulu（奥卢大学）；University of Helsinki（赫尔辛基大学）
针对社交媒体多语言仇恨言论检测问题，研究基于多种BERT模型开展HASOC-2023任务4的孟加拉语、阿萨姆语、博多语仇恨内容检测，发现XML-Roberta-large多数场景优于单语模型，团队在对应赛道取得第三、第五名的成绩。
2023-12-16 cs.CL cs.LG
Probing LLMs for hate speech detection: strengths and vulnerabilities
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
本文在零样本设置下探究 GPT-3.5、text-davinci 和 Flan-T5 在仇恨言论检测中的表现，发现加入目标信息和解释可分别提升约 20-30% 和 10-20% 的性能，并系统分析了模型在分类与解释上的脆弱点及其越狱风险。
2023-10-28 cs.CL cs.CY
Lone Pine at SemEval-2021 Task 5: Fine-Grained Detection of Hate Speech Using BERToxic
Dartmouth College（达特茅斯学院）
本文描述了我们对有毒跨度检测问题（SemEval-2021任务5）的方法。我们提出了BERToxic，一个微调预训练的BERT模型的系统，以定位给定文本中的有毒文本跨度，并利用额外的后处理步骤来细化边界。后处理步骤包括（1）将连续有毒标记之间的字符偏移标记为有毒，以及（2）将有毒标签分配给具有至少一个标记为有毒的标记的单词。通过实验，我们表明，这两个后处理步骤提高了我们的模型的性能4.16%的测试集。我们还研究了数据增强和集成建模策略对我们的系统的影响。我们的系统明显优于提供的基线，并取得了0.683的F1分数，在比赛的91支球队中排名第17位。我们的代码可在https://github.com/Yakoob-Khan/Toxic-Spans-Detection上获得
2021-04-08 cs.CL cs.LG
HateCheckHIn: Evaluating Hindi Hate Speech Detection Models
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
由于在线仇恨的数量庞大，人工智能和NLP社区已经开始构建模型来检测这种仇恨内容。最近，多语言仇恨是自动检测的一个主要新兴挑战，其中代码混合或多种语言已用于社交媒体中的对话。通常，通过使用诸如准确度和F1分数之类的度量来测量它们在保留的测试数据上的性能，来评估仇恨语音检测模型。虽然这些指标是有用的，它变得难以识别使用它们的模型失败，以及如何解决它。为了使这种多语言仇恨言论模型更有针对性的诊断见解，我们引入了一套功能，用于评估的目的。我们一直受到启发，根据社交媒体上的真实对话设计这种功能。考虑印地语作为基础语言，我们为每个功能制作测试用例。我们将评估数据集命名为HateCheckHIn。为了说明这些功能的实用性，我们测试了最先进的基于Transformer的m-BERT模型和Perspective API。
2022-04-30 cs.CL
Bridging the gap in online hate speech detection: a comparative analysis of BERT and traditional models for homophobic content identification on X/Twitter
University of Limerick（利默里克大学）
本研究针对在线仇恨言论检测中恐同内容研究不足的问题，对比BERT与传统模型在X/Twitter恐同内容识别的性能，发布最大规模相关开源英文数据集，为提升在线包容性及后续仇恨言论分析研究奠定基础。
2024-05-15 cs.AI cs.CL cs.LG
A BERT-Based Transfer Learning Approach for Hate Speech Detection in Online Social Media
CNRS（法国国家科学研究中心）；Institut Polytechnique de Paris（巴黎综合理工学院）
一部分用户在社交媒体上生成仇恨和有毒内容是一种日益增长的现象，促使研究人员投入大量精力，致力于具有挑战性的仇恨内容识别方向。我们不仅需要一个基于先进机器学习和自然语言处理的高效自动仇恨语音检测模型，还需要足够大量的注释数据来训练模型。缺乏足够数量的带有标签的仇恨言论数据，加上现有的偏见，一直是这一研究领域的主要问题。为了满足这些需求，在这项研究中，我们引入了一种新的迁移学习方法，该方法基于现有的预训练语言模型，称为BERT（来自Transformers的双向编码器表示）。更具体地说，我们调查的能力，BERT在捕捉仇恨的社会媒体内容的背景下，使用新的微调方法的基础上迁移学习。为了评估我们提出的方法，我们使用了两个公开可用的数据集，这些数据集已经在Twitter上注释了种族主义，性别歧视，仇恨或攻击性内容。结果表明，与现有方法相比，我们的解决方案在这些数据集上的精度和召回率方面获得了相当大的性能。因此，我们的模型可以捕获数据注释和收集过程中的一些偏差，并可能导致我们获得更准确的模型。
2019-10-28 cs.CL cs.IR cs.LG
Improving Automatic Hate Speech Detection with Multiword Expression Features
University of Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；Loria（洛林计算机科学及其应用实验室）
自动检测社交媒体中的仇恨言论的任务越来越受到关注。鉴于每天发布的内容数量巨大，对仇恨言论进行人为监测是不可行的。在这项工作中，我们提出了新的词级功能的自动仇恨语音检测（HSD）：多词表达（MWE）。MWE是比单词更大的词汇单位，具有习语意义和组合意义。我们建议将MWE特征集成到基于深度神经网络的HSD框架中。我们的基线HSD系统依赖于通用句子编码器（USE）。为了整合MWE功能，我们创建了一个三分支深度神经网络：一个分支用于USE，一个用于MWE类别，一个用于MWE嵌入。我们进行实验的两个仇恨言论鸣叫语料库与不同的MWE类别和两种类型的MWE嵌入，word2vec和BERT。我们的实验表明，所提出的HSD系统与MWE功能显着优于基线系统的宏F1。
2021-06-01 cs.CL
Unsupervised Domain Adaptation for Hate Speech Detection Using a Data Augmentation Approach
近年来，以仇恨言论形式出现的在线骚扰呈上升趋势。解决这个问题需要结合内容审核的人，由自动检测方法的帮助。由于内容审核本身对人们有害，我们希望通过改进仇恨言论的自动检测来减轻负担。仇恨言论提出了一个挑战，因为它是针对不同的目标群体使用完全不同的词汇。此外，仇恨言论的作者被鼓励掩饰他们的行为，以避免被从平台上删除。这使得很难开发一个全面的数据集来训练和评估仇恨言论检测模型，因为代表一个仇恨言论领域的例子通常不代表其他领域，即使在同一语言或文化中。我们提出了一种无监督的领域自适应方法来增强仇恨言论检测的标记数据。我们在三个不同的集合上使用三种不同的模型（字符CNN，BiLSTM和BERT）来评估该方法。我们的方法将精确率/召回率曲线下的面积提高了42%，召回率提高了278%，而精确率没有损失（在某些情况下有显着的提高）。
2021-07-31 cs.CL
On Importance of Code-Mixed Embeddings for Hate Speech Identification
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Labs（L3Cube实验室）；Indian Institute of Technology Madras（印度马德拉斯理工学院）
针对经典NLP工具处理代码混合数据（如印地语-英语混合）时的困难，分析代码混合嵌入的重要性，评估BERT和HingBERT等模型性能，发现HingBERT及Hing-FastText在仇恨言论检测中表现更优。
2024-11-27 cs.CL cs.LG
K-MHaS: A Multi-label Hate Speech Detection Dataset in Korean Online News Comment
The University of Sydney（悉尼大学）；The University of Western Australia（西澳大学）；BigWave AI；Keimyung University（启明大学）；National Information Society Agency（国家信息社会局）
由于在线内容的增长，在线仇恨言论检测已成为一个重要问题，但英语以外的语言资源极其有限。我们介绍了K-MHaS，这是一种新的用于仇恨言论检测的多标签数据集，可以有效地处理韩语模式。该数据集由来自新闻评论的109 k话语组成，并使用1到4个标签提供多标签分类，并处理主观性和交叉性。我们使用基于韩语BERT的语言模型，使用六种不同的指标，对K-MHaS进行强基线实验。带有子字符标记器的KR-BERT优于其他人，识别每个仇恨言论类中的分解字符。
2022-09-30 cs.AI cs.CL
Model Bias in NLP -- Application to Hate Speech Classification using transfer learning techniques
ETH Zürich（苏黎世联邦理工学院）
在本文中，一个基于BERT的神经网络模型应用于JIGSAW数据集，以创建一个模型，识别仇恨和有毒的评论（严格分离的攻击性语言）在在线社交平台（英语），在这种情况下Twitter。另外三个神经网络架构和一个GPT-2模型也应用于所提供的数据集，以比较这些不同的模型。然后将训练好的BERT模型应用于两个不同的数据集，以评估其泛化能力，即另一个Twitter数据集和HASOC 2019数据集，其中包括Twitter和Facebook评论;我们专注于英语HASOC 2019数据。此外，可以表明，通过经由重新训练部分或所有层应用不同的迁移学习场景，在这两个数据集上微调经训练的BERT模型，与简单地应用在JIGSAW数据集上预训练的模型相比，预测分数提高。通过我们的结果，我们获得了从64%到90%左右的精确度，同时仍然达到了至少低于60%的可接受的召回值，证明了BERT适用于社交平台中的真实用例。
2021-10-11 cs.AI cs.CL
Hate Speech Detection and Racial Bias Mitigation in Social Media based on BERT model
Télécom SudParis（南巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
最近，与仇恨和虐待内容识别任务中的数据集和经过训练的分类器相关的不同偏见引起了许多关注。虽然滥用语言检测的偏见数据集的问题已经得到了更频繁的解决，训练分类器产生的偏见还没有成为一个值得关注的问题。在这里，我们首先介绍了一种基于现有的预训练语言模型BERT的仇恨言论检测的迁移学习方法，并在两个公开的数据集上评估了所提出的模型，这些数据集注释了Twitter上的种族主义，性别歧视，仇恨或攻击性内容。接下来，我们在仇恨语音检测任务中引入了一种偏见缓解机制，以减轻在预训练的基于BERT的模型的微调过程中训练集中偏见的影响。为此，我们使用现有的正则化方法来重新加权输入样本，从而减少具有类别标签的高相关训练集的n元语法的影响，然后使用新的重新加权样本微调我们预先训练的基于BERT的模型。为了评估我们的偏见缓解机制，我们采用了一种跨域方法，在该方法中，我们使用上述数据集上的训练分类器来预测来自Twitter的两个新数据集的标签，AAE对齐和白人对齐组，这两个组分别表示用非洲裔美国英语（AAE）和标准美国英语（SAE）撰写的推文。结果表明，在训练的分类器中存在系统性的种族偏见，因为他们倾向于将AAE对齐组的AAE写的推文分配给负面类，如种族主义，性别歧视，仇恨和攻击性，而不是白人对齐的SAE写的推文。然而，种族偏见在我们的分类器显着减少后，我们的偏见缓解机制。这项工作可以为消除仇恨言论和辱骂性语言…
2020-08-28 cs.CL cs.IR cs.LG
Label-aware Hard Negative Sampling Strategies with Momentum Contrastive Learning for Implicit Hate Speech Detection
Hanyang University（汉阳大学）
针对隐式仇恨言论检测中随机对比学习难以利用硬负样本的问题，提出集成动量的 LAHN 标签感知硬负样本采样策略，并在数据集内与跨数据集评测中取得优于现有模型的效果。
2024-06-12 cs.CL
Contextual Hate Speech Detection in Code Mixed Text using Transformer Based Approaches
Sri Jayachamarajendra College of Engineering（斯里贾亚查马拉杰德拉工程学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
最近，社交媒体平台帮助人们与更广泛的受众进行联系和沟通。但这也导致了网络欺凌的急剧增加。必须检测和遏制仇恨言论，以保持社交媒体平台的正常运作。此外，在这些平台上经常使用包含多种语言的代码混合文本。因此，我们提出了自动化技术，从刮Twitter的代码混合文本中的仇恨言论检测。我们特别关注混合英语-印地语文本和基于transformer的方法的代码。虽然常规方法独立分析文本，但我们也以父推文的形式使用内容文本。我们尝试评估多语言BERT和Indic-BERT在单编码器和双编码器设置下的性能。第一种方法是使用分隔符标记连接目标文本和上下文文本，并从BERT模型中获得单个表示。第二种方法使用双BERT编码器独立地对两个文本进行编码，并且对相应的表示进行平均。我们表明，双编码器的方法，使用独立的表示产生更好的性能。我们还采用简单的集成方法，以进一步提高性能。使用这些方法，我们在HASOC 2021 ICHCL代码混合数据集上报告了73.07%的最佳F1得分。
2021-11-01 cs.CL cs.LG
Generate, Prune, Select: A Pipeline for Counterspeech Generation against Online Hate Speech
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
有效打击网上日益增长的仇恨言论而不阻碍言论自由的对策具有重大的社会意义。自然语言生成（NLG）是开发可扩展解决方案的唯一能力。然而，现成的NLG方法主要是序列到序列神经模型，并且它们的局限性在于它们生成普通的、重复的和安全的响应，而不管仇恨言论（例如，“请不要使用这种语言。“）或不相关的回应，使他们无效的降级仇恨的谈话。在本文中，我们设计了一个三模块流水线的方法，有效地提高了多样性和相关性。我们提出的管道首先生成各种反语音候选生成模型，以促进多样性，然后使用BERT模型过滤不符合语法的，最后选择最相关的反语音响应使用一种新的检索为基础的方法。在三个有代表性的数据集上进行的大量实验证明了我们的方法在生成多样化和相关的反言语方面的有效性。
2021-06-03 cs.CL
Transfer Learning via Lexical Relatedness: A Sarcasm and Hate Speech Case Study
University of Southern California（南加州大学）
本文研究将讽刺识别作为预训练步骤对隐式及显式仇恨言论检测的迁移学习效果，通过两种训练策略在CNN+LSTM和BERT+BiLSTM模型上验证，证明讽刺预训练能显著提升多项检测指标。
2025-08-22 cs.CL cs.LG
Modeling Profanity and Hate Speech in Social Media with Semantic Subspaces
Saarland University（萨尔兰大学）
仇恨语音和亵渎检测遭受数据稀疏，特别是对于英语以外的语言，由于任务的主观性质和现有语料库的注释不兼容性。在这项研究中，我们确定亵渎的子空间在单词和句子的表征，并探讨其泛化能力的各种类似的和遥远的目标任务中的zero-shot设置。这是单语（德语）和跨语言密切相关（英语），远相关（法语）和非相关（阿拉伯语）的任务。我们观察到，在相似和遥远的目标任务以及所有语言中，基于子空间的表示在zero-shot设置中比标准BERT表示更有效地传递，在所有测试的单语和跨语言场景中，基线的F1 + 10.9和F1 + 42.9之间都有改进。
2021-06-18 cs.CL
Human-in-the-Loop Hate Speech Classification in a Multilingual Context
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
公共辩论转向数字领域的同时，网上仇恨言论也在增加。虽然已经提出了许多有前途的仇恨言论分类方法，但研究通常只关注单一语言，通常是英语，并且没有解决三个关键问题：部署后性能，分类器维护和基础设施限制。在本文中，我们介绍了一种新的基于人在回路BERT的仇恨语音分类管道，并跟踪其从初始数据汇集和注释一直到部署后的发展。我们的分类器使用来自我们超过422 k示例的原始语料库的数据进行训练，专为瑞士固有的多语言环境而开发，其F1得分为80.5，比目前性能最好的基于BERT的多语言分类器在德语中的F1得分为5.8，在法语中的F1得分为3.6。我们在12个月内进行的系统评估进一步强调了持续的人工循环分类器维护的至关重要性，以确保部署后的强大仇恨言论分类。
2023-01-01 cs.CL cs.LG
Hate Speech and Offensive Content Detection in Indo-Aryan Languages: A Battle of LSTM and Transformers
Z-AGI Labs（Z-AGI实验室）
本文面向 HASOC 2023，比较 BERT 变体、XLM-R 与 LSTM 在五种印度-雅利安语仇恨言论检测中的表现，发现最优模型因语言而异。
2023-12-09 cs.CL
Comparative Analysis of Machine Learning and Deep Learning Algorithms for Detection of Online Hate Speech
Delhi Technological University（德里理工大学）
在社交媒体时代，用户很容易在网上发表仇恨言论。已经进行了几次尝试来使用机器学习对仇恨言论进行分类，但是最先进的模型对于实际应用来说不够鲁棒。这归功于原始NLP特征工程技术的使用。在本文中，我们探讨了各种特征工程技术，从不同的嵌入到传统的NLP算法。我们还尝试了不同功能的组合。从我们的实验中，我们意识到，roBERTa（鲁棒优化的BERT方法）基于句子嵌入分类使用决策树给出了0.9998 F1得分的最佳结果。在我们的论文中，我们得出结论，BERT为基础的嵌入给这个问题的最有用的功能，并有能力成为一个实用的鲁棒模型。
2021-04-23 cs.AI cs.CL
ViTHSD: Exploiting Hatred by Targets for Hate Speech Detection on Vietnamese Social Media Texts
University of Information Technology（信息科技大学）；Vietnam National University（越南国立大学）
本文提出越南语目标导向仇恨言论检测数据集ViTHSD（含1万条评论、5个目标、三级标注），并构建结合Bi-GRU-LSTM-CNN与预训练语言模型的基线系统，同时给出将其集成到在线流式系统的应用方案。
2025-02-08 cs.CL
Leveraging Affective Bidirectional Transformers for Offensive Language Detection
University of British Columbia（不列颠哥伦比亚大学）
社交媒体在我们的生活中无处不在，因此有必要通过检测和删除攻击性和仇恨言论来确保安全的在线体验。在这项工作中，我们报告了我们提交的攻击性语言和仇恨言论检测共享任务，该任务与第四届开源阿拉伯语语料库和处理工具阿拉伯语研讨会（OSACT4）一起组织。我们专注于开发纯粹的深度学习系统，而不需要特征工程。为此，我们开发了一种有效的自动数据增强方法，并展示了训练攻击性和仇恨性语音模型的实用性（即，通过微调）先前训练的情感模型（即，情绪和情感）。我们最好的模型明显优于普通的BERT模型，仇恨言论的acc为89.60%（宏F1为82.31%），官方测试数据的acc为95.20%（宏F1为70.51%）。
2020-05-16 cs.CL
UM-IU@LING at SemEval-2019 Task 6: Identifying Offensive Tweets Using BERT and SVMs
University of Michigan（密歇根大学）；Indiana University（印第安纳大学）
本文描述了UM-IU@LING的SemEval 2019任务6的系统：OffensEval。我们采取混合方法来识别和分类社交媒体中的仇恨言论。在子任务A中，我们微调了一个基于BERT的分类器来检测推文中的滥用内容，在测试数据上获得了0.8136的宏观F1分数，从而在103个提交中排名第三。在子任务B和C中，我们使用了具有选定字符n-gram特征的线性SVM。对于子任务C，我们的系统可以识别滥用的目标，其宏观F1得分为0.5243，在65个提交中排名第27位。
2019-04-06 cs.CL
Enhancing Hate Speech Detection on Social Media: A Comparative Analysis of Machine Learning Models and Text Transformation Approaches
International Institute of Information Technology - Hyderabad（海得拉巴国际信息技术学院）
本文比较了机器学习模型与文本转换方法在仇恨言论检测中的表现，发现混合模型在特定场景下更具优势，同时提出新的文本转换方法以减少有害内容的影响。
2026-02-24 cs.AI cs.CL
Multi-Task Learning with Sentiment, Emotion, and Target Detection to Recognize Hate Speech and Offensive Language
Universidad de Jaén（哈恩大学）；Mugla Sitki Kocman University（穆拉·西特基·科奇曼大学）；University of Stuttgart（斯图加特大学）
仇恨言论和攻击性语言（HOF）的识别通常被制定为一个分类任务，以确定文本是否包含HOF。我们研究了HOF检测是否可以通过考虑HOF和类似概念之间的关系来获利：（a）HOF与情感分析相关，因为仇恨言论通常是负面的陈述，表达负面的意见;（b）它与情绪分析有关，表达的仇恨指向作者经历了（或假装经历）愤怒，而收信人经历（或打算经历）恐惧。(c)最后，联邦法院的一个构成要素是提及目标个人或群体。在此基础上，我们假设HOF检测在多任务学习设置中与这些概念联合建模时显示出改进。我们的实验基于这些概念（情感，情绪，HOF目标）的现有数据集，并在HASOC FIRE 2021英语子任务1A中作为参与者（作为IMS-SINAI团队）评估我们的模型。基于模型选择实验，我们考虑了多个可用资源和对共享任务的提交，我们发现CrowdFlower情感语料库，SemEval 2016情感语料库和OffensEval 2019目标检测数据的组合导致基于BERT的多头多任务学习模型的F1 = 0.79，而普通BERT的F1 = 0.7895。在HASOC 2019年的测试数据上，这一结果更为实质性，F1增加了2 pp，召回率也有相当大的增加。在这两个数据集（2019年，2021年）中，HOF类的召回率特别增加（2019年数据为6pp，2021年数据为3 pp），这表明具有情感，情绪和目标识别的MTL是可能部署在社交媒…
2022-07-11 cs.CL
Fight Fire with Fire: Fine-tuning Hate Detectors using Large Samples of Generated Hate Speech
University of Haifa（海法大学）；Braude College of Engineering（布劳德工程学院）；MIT（麻省理工学院）
仇恨语音的自动检测受到标记数据的缺乏的阻碍，导致泛化能力差。我们采用预训练的语言模型（LM）来缓解这种数据瓶颈。我们利用GPT LM从可用的标记示例中生成大量的合成仇恨言论序列，并利用生成的数据对仇恨检测进行微调大型预训练LM。使用BERT、RoBERTa和ALBERT模型的实证研究表明，该方法在数据分布内和跨数据分布显著且一致地提高了泛化能力。事实上，我们发现生成相关的标记仇恨言论序列比使用域外，有时也是域内，人类标记的例子更可取。
2021-09-01 cs.AI cs.CL
Role of Artificial Intelligence in Detection of Hateful Speech for Hinglish Data on Social Media
Symbiosis Institute of Technology（共生理工学院）；Symbiosis Centre for Applied Artificial Intelligence（共生应用人工智能中心）
社交网络平台提供了传播我们的想法、观点和想法以及扩散信息的渠道。这导致了英语与母语的融合。印度语-英语代码混合数据（Hinglish）的流行率在世界各地的大多数城市人口中呈上升趋势。大多数社交网络平台部署的仇恨言论检测算法无法过滤出以这些代码混合语言发布的攻击性和辱骂性内容。因此，考虑到印度口语和俚语的内容，全球仇恨言论检测率约为44%，下降幅度更大。在本文中，我们提出了一种有效的检测非结构化代码混合印度式英语语言的方法。通过利用诸如ELMo（语言模型的嵌入）、FLAIR和基于变换器的BERT（来自Transformers的双向编码器表示）之类的基于上下文的嵌入来采用用于印地语-英语代码混合语言的基于微调的方法。我们提出的方法与现有的方法进行比较，并对各种数据集的结果进行比较。我们的模型优于其他方法和框架。
2021-05-11 cs.CL
Offensive Language and Hate Speech Detection with Deep Learning and Transfer Learning
有毒的网络言论已经成为当今的一个关键问题，因为来自不同文化和教育背景的人们使用互联网的数量呈指数级增长。区分文本消息是否属于仇恨言论和攻击性语言是自动检测有毒文本内容的关键挑战。在本文中，我们提出了一种将推文自动分类为三个类别的方法：仇恨、攻击性和两者都不是。使用公共tweet数据集，我们首先进行实验，从空嵌入构建BI-LSTM模型，然后我们还尝试使用预训练的Glove嵌入的相同神经网络架构。接下来，我们介绍了一种用于仇恨语音检测的迁移学习方法，该方法使用现有的预训练语言模型BERT（来自Transformers的双向编码器表示），DistilBert（BERT的蒸馏版本）和GPT-2（生成预训练）。我们对我们的最佳模型（BI-LSTM）进行了超参数调整分析，考虑了不同的神经网络架构，学习评级和归一化方法等。在调整模型和最佳参数组合后，我们在测试数据上评估它时达到了92%以上的准确率。我们还创建了一个类模块，其中包含的主要功能，包括文本分类，情感检查和文本数据增强。该模型可以作为用户和Twitter之间的中间模块。
2021-08-23 cs.AI cs.CL
FAD-SA-GRU: Enhancing Hate Speech Detection in Algerian Dialect Through Feature-Augmented Self-Attention GRU Networks
USTHB（阿尔及尔科学技术大学）；ATM Mobilis Algiers（阿尔及尔移动ATM公司）
研究阿尔及利亚方言社交媒体上的仇恨言论检测，提出FAD-SA-GRU混合架构，通过多嵌入融合结合多种语义表示，经自注意力增强GRU编码器检测。实验表明该方法在多指标上优于基线，有效提升低资源方言仇恨言论检测效果。
2026-07-14 cs.CL
