Abuse is Contextual, What about NLP? The Role of Context in Abusive Language Annotation and Detection
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
最广泛用于滥用语言检测的数据集包含消息列表，通常是推文，这些消息已被一个或多个注释器手动判断为滥用或非滥用，注释在消息级别执行。在本文中，我们调查会发生什么情况时，仇恨的内容的消息也是根据上下文判断，消息往往是模棱两可的，需要在发生的上下文中进行解释。我们首先重新注释一个广泛使用的数据集的一部分，在英语中的滥用语言检测在两个条件下，即有和没有上下文。然后，我们比较了在这两种类型的数据集上获得的三种分类算法的性能，认为上下文感知分类更具挑战性，但也更类似于真实的应用场景。
2021-03-27 cs.CL
Optimize_Prime@DravidianLangTech-ACL2022: Abusive Comment Detection in Tamil
Pune Institute of Computer Technology（浦那计算机技术学院）
本文试图解决低资源印度语言中的滥用评论检测问题。辱骂性评论是对一个人或一群人的冒犯。这些评论针对的是属于特定种族、性别、种姓、种族、性取向等的个人。辱骂性评论检测是一个重大问题，尤其是随着最近社交媒体用户的增加。本文介绍了我们的团队在ACL 2022共享任务“泰米尔语辱骂性评论检测”中使用的方法- Optimize_Prime。“此任务检测并将泰米尔语和泰米尔语-英语代码混合格式的YouTube评论分类为多个类别。我们使用了三种方法来优化我们的结果：包围模型，递归神经网络和Transformers。在泰米尔数据中，MuRIL和XLM-RoBERTA是我们表现最好的模型，宏观平均f1得分为0.43。此外，对于代码混合数据，MuRIL和M-BERT提供了卓越的结果，宏观平均f1得分为0.45。
2022-04-19 cs.CL
Overview of Abusive and Threatening Language Detection in Urdu at FIRE 2021
Instituto Politécnico Nacional (IPN)（国立理工学院）；Ronin Institute for Independent Scholarship（罗宁独立学术研究所）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）
随着社交媒体平台影响力的增长，其滥用的影响力变得越来越大。自动检测威胁性和辱骂性语言的重要性怎么估计都不过分。然而，现有的研究和最先进的方法大多集中在英语作为目标语言，对中低资源语言的工作有限。在本文中，我们提出了两个共同的任务，滥用和威胁性的语言检测乌尔都语，全球有超过1.7亿的扬声器。这两个任务都是二元分类任务，参与系统需要将乌尔都语的推文分为两类，即：（i）第一项任务是虐待和非虐待，（ii）第二项任务是威胁和非威胁。我们提出了两个手动注释的数据集，其中包含标记为（i）滥用和非滥用，以及（ii）威胁和非威胁的推文。滥用数据集在训练部分中包含2400条带注释的推文，在测试部分中包含1100条带注释的推文。威胁数据集在训练部分包含6000条带注释的推文，在测试部分包含3950条带注释的推文。我们还为这两项任务提供了逻辑回归和基于BERT的基线分类器。在这项共享任务中，来自六个国家（印度、巴基斯坦、中国、马来西亚、阿拉伯联合酋长国和中国台湾）的21个团队注册参与，10个团队提交了子任务A（滥用语言检测）的运行，9个团队提交了子任务B（威胁语言检测）的运行，7个团队提交了技术报告。表现最好的系统子任务A的F1评分值为0.880，子任务B的F1评分值为0.545。对于这两个子任务，基于m-Bert的Transformer模型表现出最好的性能。
2022-07-14 cs.CL
One-step and Two-step Classification for Abusive Language Detection on Twitter
Hong Kong University of Science and Technology（香港科技大学）
滥用语言的自动检测是在线社交媒体的一项困难但重要的任务。我们的研究探讨了一个两步的方法进行分类的辱骂性语言，然后分类到特定的类型，并比较它与一步的方法做一个多类分类检测性别歧视和种族主义的语言。在一个包含2万条性别歧视和种族主义类型推文的公共英语Twitter语料库中，我们的方法通过使用HybridCNN一步和使用逻辑回归两步显示出0.824 F-测量的良好性能。
2017-06-05 cs.CL
Vicinal Risk Minimization for Few-Shot Cross-lingual Transfer in Abusive Language Detection
Universitat Politècnica de València（瓦伦西亚理工大学）；LMU Munich（慕尼黑大学）；University of Würzburg（维尔茨堡大学）；University of Mannheim（曼海姆大学）
本文提出基于表示角度插值的数据增强方法 MIXAG，并结合持续预训练领域适应，在七种语言、三个领域中显著提升少样本跨语言辱骂检测。
2023-11-03 cs.CL
Is More Data Better? Re-thinking the Importance of Efficiency in Abusive Language Detection with Transformers-Based Active Learning
University of Oxford（牛津大学）；The Alan Turing Institute（艾伦·图灵研究所）；Rewire；Meedan
注释辱骂性语言是昂贵的，后勤复杂，并造成心理伤害的风险。然而，大多数机器学习研究都优先考虑最大化效率（即，F1或准确性分数）而不是数据效率（即，最小化被注释的数据量）。在本文中，我们在不同比例的滥用数据集上使用模拟实验来证明，基于transformers的主动学习是一种很有前途的方法，可以大幅提高效率，同时仍然保持高效率，特别是当滥用内容占数据集的比例较小时。这种方法需要一小部分标记数据才能达到与在整个数据集上训练相当的性能。
2022-09-21 cs.CL
Reducing Gender Bias in Abusive Language Detection
Centre for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Hong Kong University of Science and Technology（香港科技大学）
由于训练数据集的不平衡，滥用语言检测模型往往会偏向于特定人群的身份词。例如，“你是个好女人”在现有数据集上训练时被认为是“性别歧视”。这种模型偏差是模型在实际应用中足够稳健的障碍。在这项工作中，我们测量了使用不同辱骂性语言数据集训练的模型的性别偏见，同时分析了不同预训练的词嵌入和模型架构的影响。我们还试验了三种偏见缓解方法：（1）去偏见的词嵌入，（2）性别交换数据增强，（3）更大的语料库微调。这些方法可以有效地减少90-98%的性别偏差，并可以扩展到纠正其他场景中的模型偏差。
2018-08-22 cs.CL
Abusive Language Detection and Characterization of Twitter Behavior
Government Engineering College, Palakkad（政府工程学院（帕拉卡德））
在这项工作中，在线内容中的滥用语言检测使用双向递归神经网络（BiRNN）方法。这里的主要目标是关注Twitter上各种形式的辱骂行为，并检测一个演讲是否是辱骂性的。将结果与卷积神经网络（CNN）和递归神经网络（RNN）方法在社交媒体中的各种滥用行为进行比较，并证明所提出的BiRNN是用于自动滥用语音检测的更好的深度学习模型。
2020-09-26 cs.CL cs.IR
Abusive and Threatening Language Detection in Urdu using Supervised Machine Learning and Feature Combinations
Higher Colleges of Technology（高等技术学院）
本文介绍了在FIRE共享任务2021上提交的关于乌尔都语滥用和威胁性语言检测任务的系统描述。这项挑战旨在自动识别用乌尔都语撰写的辱骂和威胁性推文。我们提交的结果被选为第三次认可的竞争。本文报告了一个非详尽的实验列表，使我们能够达到提交的结果。此外，在比赛结果宣布后，我们设法取得了比提交的结果更好的结果。我们的模型在任务A（乌尔都语推文的辱骂性语言检测）和任务B（乌尔都语推文的威胁性语言检测）上分别获得了0.8318和0.4931的F1分数。结果表明，去除停用词，应用词形化，并通过n= 1，2，3的单词n-gram的组合创建特征向量的支持向量机对任务A产生了最好的结果。对于任务B，去除停用词的支持向量机，不应用词形化，从预训练的乌尔都语Word 2 Vec（关于单词一元语法和二元语法）创建特征向量，并使用过采样技术使数据集平衡，产生了最佳结果。代码可用于再现性。
2022-04-06 cs.CL
How to Solve Few-Shot Abusive Content Detection Using the Data We Actually Have
Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文提出一种两步法，先多任务训练已有滥用语言检测数据集，再对目标标签集或语言进行少样本适配，从而以极低标注成本提升单语及跨语言滥用内容检测性能。
2024-05-06 cs.CL
Towards Ethics by Design in Online Abusive Content Detection
National Research Council Canada（加拿大国家研究委员会）
为了支持在线通信中的安全性和包容性，NLP研究已经做出了重大努力来解决滥用内容检测的问题，通常被定义为监督分类任务。研究工作已扩展到几个密切相关的子领域，如检测仇恨言论、毒性、网络欺凌等，迫切需要在任务制定、数据集设计和性能评估的共同框架下巩固这一领域。此外，尽管目前的技术实现了高的分类精度，一些道德问题已经被揭示。我们把道德问题放在首位，并提出一个统一的框架，作为一个两步的过程。首先，在线内容围绕个人和与身份有关的主题进行分类。第二，通过对每个类别的比较说明，确定虐待的严重程度。新框架以设计伦理原则为指导，是朝着建立更准确和可信的模型迈出的一步。
2020-10-28 cs.CL
Directions in Abusive Language Training Data: Garbage In, Garbage Out
The Alan Turing Institute（艾伦·图灵研究所）；IT University of Copenhagen（哥本哈根信息技术大学）
对滥用在线内容的数据驱动分析和检测涵盖许多不同的任务、现象、背景和方法。本文系统地回顾了辱骂性语言数据集的创建和内容，并结合一个开放的网站对辱骂性语言数据进行编目。这种知识的收集导致了一个综合，为从业人员提供基于证据的建议，与这种复杂和高度多样化的数据。
2021-07-19 cs.CL
Contextual-Lexicon Approach for Abusive Language Detection
Institute of Mathematical and Computer Sciences, University of São Paulo（圣保罗大学数学与计算机科学学院）；Ribeirão Preto Medical School, University of São Paulo（圣保罗大学里贝朗普雷图医学院）；Federal University of Minas Gerais（米纳斯吉拉斯联邦大学）
由于基于词典的方法在科学上更优雅，解释了解决方案的组成部分，并且更容易推广到其他应用程序，因此本文为社交媒体上的攻击性语言和仇恨言论检测提供了一种新方法。我们的方法体现了一个词汇的隐含和明确的进攻和咒骂的表达与上下文信息注释。由于巴西社交媒体滥用评论的严重性，以及缺乏葡萄牙语的研究，巴西葡萄牙语是用于验证模型的语言。然而，我们的方法可以适用于任何其他语言。进行的实验表明，所提出的方法的有效性，优于目前的基线方法的葡萄牙语。
2022-12-20 cs.CL
Abusive Language Detection in Heterogeneous Contexts: Dataset Collection and the Role of Supervised Attention
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；Carnegie Mellon University（卡内基梅隆大学）
辱骂性语言是在线社交平台中的一个大问题。现有的辱骂性语言检测技术特别不适合于包含异质辱骂性语言模式的评论，即，包括虐待和非虐待的部分。这在一定程度上是由于缺乏数据集，明确地注释异质性的辱骂性语言。我们通过提供来自YouTube的11，000多条评论中的辱骂性语言的注释数据集来应对这一挑战。我们通过单独注释整个评论和组成每个评论的单个句子来解释这个数据集中的异质性。然后，我们提出了一个算法，使用监督注意力机制检测和分类滥用内容使用多任务学习。我们经验证明了使用传统的技术对异构内容的挑战和相对收益的性能所提出的方法超过国家的最先进的方法。
2021-05-24 cs.AI cs.CL
Cross-Platform and Cross-Domain Abusive Language Detection with Supervised Contrastive Learning
The University of British Columbia（不列颠哥伦比亚大学）
在不同的在线平台上滥用语言的流行一直是一个主要的问题，提出了自动跨平台滥用语言检测的需要。然而，以前的工作集中在连接来自多个平台的数据，固有地采用经验风险最小化（ERM）方法。在这项工作中，我们从领域泛化目标的角度来解决这一挑战。我们设计了SCL-Fish，这是一种有监督的对比学习集成Meta学习算法，可以在看不见的平台上检测滥用语言。我们的实验分析表明，SCL-Fish实现了更好的性能比ERM和现有的国家的最先进的模型。我们还表明，SCL-Fish是数据高效的，并且在对滥用语言检测任务进行微调时，与大规模预训练模型的性能相当。
2022-11-11 cs.CL cs.LG
Data Bootstrapping Approaches to Improve Low Resource Abusive Language Detection for Indic Languages
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
辱骂性语言在许多社交媒体平台上越来越受到关注。反复暴露于辱骂性言语对目标用户产生了生理影响。因此，为了网上和平与安全，应以各种形式解决辱骂性语言的问题。虽然在滥用言语检测方面存在广泛的研究，但大多数研究都集中在英语上。最近，印度发生了多起抹黑事件，引发了基于地理位置的各种语言的网络空间中各种形式的辱骂性言论。因此，处理此类恶意内容至关重要。在本文中，为了弥合这一差距，我们展示了一个大规模的分析，在印度语言的多语言辱骂性讲话。我们研究了不同的语际迁移机制，并观察了八种不同的印度语的各种多语言模型的滥用语音检测的性能。我们还通过实验展示了这些模型在对抗攻击中的鲁棒性。最后，我们通过查看模型在各种设置中的错误分类帖子来进行深入的错误分析。我们已经向其他研究人员公开了我们的代码和模型。
2022-04-26 cs.CL cs.LG
A Multi-Task Benchmark for Abusive Language Detection in Low-Resource Settings
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
本工作构建了提格雷尼亚语社交媒体滥用语言检测的多任务基准数据集，包含13,717条评论，并证明小型微调模型在低资源环境下优于前沿大语言模型，达到86.67%的F1分数。
2025-10-25 cs.CL
Multi-Stage Training for Abusive Comment Detection in Indic Languages
Department of CSE, JIIT Noida（计算机科学与工程系，印度尼泊尔理工学院诺伊达）；Department of ICE, NSUT Delhi（电子与计算机工程系，NSUT德里）；Department of IT, VIT Vellore（信息科技系，维杰学院维洛雷）；Department of CSE, IIIT Delhi（计算机科学与工程系，德里理工学院）
本文提出了一种多阶段训练方法，通过语言预处理和多个模型的集成，提高印地语中辱骂评论检测的准确性，减少误报率以保护言论自由。
2026-05-21 cs.CL cs.LG
GS_DravidianLangTech@2025: Women Targeted Abusive Texts Detection on Social Media
滥用社交媒体的现象日益增多，这已成为一个令人关切的问题;不过，目前正在开发技术解决方案，以有效地节制其内容。本文的重点是检测社交媒体平台上针对女性的辱骂性文本。辱骂性言论是指旨在伤害或煽动对弱势个人或群体的仇恨的通信。具体来说，这项研究的目的是确定针对妇女的辱骂性语言。为了实现这一目标，我们利用逻辑回归和BERT作为基础模型，对来自DravidianLangTech@2025的泰米尔语和马拉雅拉姆语数据集进行训练。在测试数据集上对模型进行了评估，分别得出BERT和泰米尔语和马拉雅拉姆语逻辑回归的宏观F1得分为0.729和0.6279。
2025-04-01 cs.CL cs.SI
Racial Bias in Hate Speech and Abusive Language Detection Datasets
Cornell University（康奈尔大学）
滥用语言检测技术的开发和应用很少考虑其潜在的偏见。我们研究了五组不同的Twitter数据中的种族偏见，这些数据被注释为仇恨言论和辱骂性语言。我们在这些数据集上训练分类器，并将这些分类器对用非裔美国英语写的推文的预测与用标准美国英语写的推文的预测进行比较。结果显示，在所有数据集中都存在系统性种族偏见的证据，因为在这些数据集上训练的分类器倾向于预测用非裔美国人英语写的推文是虐待性的，其比率要高得多。如果这些辱骂性语言检测系统被用于该领域，它们将对非裔美国人社交媒体用户产生不成比例的负面影响。因此，这些系统可能会歧视那些经常成为我们试图发现的虐待目标的群体。
2019-05-29 cs.CL cs.LG
Joint Modelling of Emotion and Abusive Language Detection
University of Amsterdam（阿姆斯特丹大学）；Facebook AI（脸书人工智能研究院）；King’s College London（伦敦国王学院）
在线交流平台的兴起伴随着一些不良影响，例如在线攻击和虐待行为的扩散。为了解决这个问题，自然语言处理（NLP）社区已经尝试了一系列用于滥用检测的技术。虽然取得了巨大的成功，但这些方法迄今为止只专注于对评论和用户在线社区的语言特性进行建模，而忽视了用户的情绪状态以及这可能如何影响他们的语言。然而，后者与虐待行为有着不可分割的联系。在本文中，我们提出了第一个联合模型的情绪和辱骂性语言检测，实验中的多任务学习框架，允许一个任务通知其他。我们的研究结果表明，结合情感特征可以显着提高数据集的滥用检测性能。
2020-05-28 cs.CL cs.LG
Neural Word Decomposition Models for Abusive Language Detection
Amazon AI（亚马逊人工智能）
社交媒体上的用户生成文本通常具有许多不受欢迎的特征，包括仇恨言论，辱骂性语言，侮辱等，这些特征旨在攻击或虐待特定人群。通常，与传统文本相比，这样的文本被不同地书写，传统文本诸如涉及明确提及辱骂性词语、混淆词语和类型错误或隐含辱骂的新闻，即，表明或针对消极的刻板印象。因此，当我们应用为传统文本开发的自然语言处理技术时，处理此文本提出了几个鲁棒性挑战。例如，使用基于单词或标记的模型来处理这样的文本可以将单词的两个拼写变体视为两个不同的单词。根据最近的工作，我们分析了字符，子字和字节对编码（BPE）模型可以帮助用户生成的文本所带来的一些挑战。在我们的工作中，我们分析了上述每种技术的有效性，比较和对比各种词分解技术与其他技术结合使用时。我们尝试微调大型预训练语言模型，并通过研究维基百科攻击，毒性和Twitter仇恨言论数据集来证明它们对域转移的鲁棒性
2019-10-02 cs.CL
Transfer Language Selection for Zero-Shot Cross-Lingual Abusive Language Detection
我们研究了自动辱骂性语言检测中迁移语言的选择问题。我们没有为每种语言准备数据集，而是展示了跨语言迁移学习对zero-shot滥用语言检测的有效性。通过这种方式，我们可以使用来自高资源语言的现有数据来为低资源语言构建更好的检测系统。我们的数据集来自三个语系的七种不同语言。我们使用几种语言相似性度量来测量语言之间的距离，特别是通过量化世界语言结构地图集。我们发现，语言相似性和分类器性能之间存在相关性。这一发现使我们能够选择一个最佳的迁移语言的zero shot滥用语言检测。
2022-06-02 cs.AI cs.CL cs.LG
Improving Generalizability in Implicitly Abusive Language Detection with Concept Activation Vectors
National Research Council Canada（加拿大国家研究委员会）
机器学习模型对不断变化的真实世界数据的鲁棒性至关重要，特别是对于影响人类福祉的应用程序，如内容审核。在网上讨论中不断出现新的辱骂性语言，以回应当前的事件（例如，COVID-19），而已部署的滥用检测系统应定期更新，以保持准确性。在本文中，我们表明，一般的辱骂性语言分类往往是相当可靠的检测域外明确的辱骂性话语，但未能检测到新类型的更微妙的，隐含的滥用。接下来，我们提出了一种可解释性技术，基于计算机视觉的测试概念激活向量（TCAV）方法，以量化训练模型对人类定义的显性和隐性辱骂性语言概念的敏感性，并使用它来解释模型对新数据的泛化性，在这种情况下，与COVID相关的反亚洲仇恨言论。扩展这种技术，我们引入了一种新的度量，明确度，为一个单一的实例，并表明，新的度量是有益的，建议域外未标记的例子，有效地丰富了训练数据与信息丰富，隐含的滥用文本。
2022-04-05 cs.CL cs.LG
An Efficient Hybrid Deep Learning Approach for Detecting Online Abusive Language
本文提出一种结合BERT、CNN和LSTM的混合深度学习模型，用于高效检测在线恶意语言，实现高精度和召回率。
2026-02-12 cs.CL
Comparative Studies of Detecting Abusive Language on Twitter
Seoul National University（首尔大学）
在线攻击的上下文依赖性使得注释大量数据集变得极其困难。先前研究的滥用语言检测数据集的大小不足以有效地训练深度学习模型。最近，Twitter上的仇恨和辱骂言论，一个规模和可靠性都更大的数据集已经发布。然而，该数据集尚未对其潜力进行全面研究。在本文中，我们进行了第一次比较研究的各种学习模型在Twitter上的仇恨和辱骂性言论，并讨论了使用额外的功能和上下文数据进行改进的可能性。实验结果表明，双向GRU网络在词级特征上训练，具有潜在主题聚类模块，是最准确的模型，得分为0.805 F1。
2018-08-30 cs.CL
Abusive Span Detection for Vietnamese Narrative Texts
University of Information Technology（信息技术大学）；Vietnam National University（越南国立大学）
针对越南NLP领域虐待内容检测研究不足的问题，本研究构建了人工标注的越南叙事文本虐待片段数据集，实验验证冻结PhoBERT结合BiLSTM的轻量模型在检测任务中表现最优，为后续研究奠定基础。
2023-12-13 cs.CL cs.LG
Beyond Detection: Unveiling Fairness Vulnerabilities in Abusive Language Models
Illinois Institute of Technology（伊利诺伊理工学院）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Cisco Research（思科研究院）
本文提出 FABLE 框架，利用后门攻击及三类触发设计和采样策略，揭示辱骂语言检测模型在公平性与检测性能上的漏洞，并通过基准数据集验证其攻击有效性。
2023-12-05 cs.AI cs.CL cs.CY
EkoHate: Abusive Language and Hate Speech Detection for Code-switched Political Discussions on Nigerian Twitter
Afe Babalola University（阿费·巴巴洛拉大学）；Saarland University（萨尔大学）；University College London（伦敦大学学院）
本文构建了针对尼日利亚拉各斯州州长选举语码转换政治讨论的辱骂性语言和仇恨言论数据集EkoHate，采用二元和四标签方案，评估显示监督学习下F1分别达95.1和70.3，并验证了其跨数据集的迁移泛化能力。
2024-04-28 cs.CL
Attending the Emotions to Detect Online Abusive Language
University of Houston（休斯顿大学）
近年来，滥用行为已成为在线社交网络中的一个严重问题。在本文中，我们提出了一个新的语料库，从一个半匿名的社交媒体平台，其中包含的攻击性和中性类的实例。我们引入了一个单一的深层神经架构，它考虑了文本中的本地和顺序信息，以检测辱骂性语言。随着这个模型，我们引入了一个新的注意力机制称为情绪感知注意。这种机制利用文本背后的情感来找到文本中最重要的词。我们在我们的数据集上实验了这个模型，然后给出了分析。此外，我们评估我们提出的方法在不同的语料库，并显示新的国家的最先进的结果与攻击性语言检测。
2019-09-06 cs.CL
SafeSpeech: A Comprehensive and Interactive Tool for Analysing Sexist and Abusive Language in Conversations
University of Warwick（华威大学）；University of Sheffield（谢菲尔德大学）；University of Leeds（利兹大学）；Forensic Capability Network（法医能力网络）
SafeSpeech平台结合微调分类器与大语言模型，实现消息级和对话级的多粒度毒性检测、毒性感知摘要及人物画像，并引入困惑度增益等可解释性机制，在多个基准上复现了最先进性能。
2025-03-09 cs.CL
Introducing an Abusive Language Classification Framework for Telegram to Investigate the German Hater Community
Technical University of Munich（慕尼黑工业大学）
由于传统的社交媒体平台继续禁止行为者传播仇恨言论或其他形式的辱骂性语言（这一过程被称为去平台化），这些行为者迁移到不限制用户内容的替代平台。与德国仇恨者社区相关的一个流行平台是Telegram，到目前为止，对其进行的研究工作有限。本研究旨在开发一个广泛的框架，包括（i）德国电报消息的辱骂性语言分类模型和（ii）电报频道仇恨的分类模型。对于第一部分，我们使用现有的包含来自其他平台的帖子的辱骂性语言数据集来开发我们的分类模型。对于频道分类模型，我们开发了一种方法，该方法将从主题模型收集的特定于频道的内容信息与社交图相结合，以预测频道的仇恨度。此外，我们补充了这两种仇恨言论检测方法，并对德国Telegram上仇恨者社区的演变进行了深入研究。我们还提出了对仇恨言论研究社区的社交媒体平台进行可扩展网络分析的方法。作为本研究的额外输出，我们提供了一个带注释的辱骂性语言数据集，其中包含1，149条带注释的Telegram消息。
2021-11-24 cs.CL
Towards a comprehensive taxonomy of online abusive language informed by machine leaning
University of Toronto（多伦多大学）；University of Waterloo（滑铁卢大学）；University College London（伦敦大学学院）
本文提出一个层级式、多面的在线辱骂性语言分类体系，整合18个多标签数据集，包含5个类别和17个维度，以促进在线辱骂检测与缓解领域的协调研究。
2025-04-24 cs.CL
A Unified Deep Learning Architecture for Abuse Detection
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；Telefonica Research（西班牙电信研究院）；University of Alabama（阿拉巴马大学）
仇恨言论、攻击性语言、性别歧视、种族主义和其他类型的辱骂行为已成为许多在线社交媒体平台的常见现象。近年来，这种不同的虐待行为已经表现出越来越多的频率和强度。这是由于Twitter和Facebook等流行媒体平台的开放性和意愿，以托管敏感或有争议的话题。然而，这些平台没有充分解决在线滥用行为的问题，它们对有效检测和阻止这种不当行为的反应仍然有限。在本文中，我们研究这个复杂的问题，以下一个更全面的方法，认为虐待行为的各个方面。为了使这种方法切实可行，我们专注于Twitter数据，并从不同角度分析用户和文本属性的滥用张贴行为。我们提出了一个深度学习架构，它利用各种各样的可用元数据，并将其与自动提取的隐藏模式内的推文，以检测多个滥用行为规范是高度相关的。我们以无缝、透明的方式应用这种统一的架构来检测不同类型的虐待行为（仇恨言论、性别歧视与种族主义、欺凌、讽刺等）。而不需要对每个任务的模型体系结构进行任何调整。我们用多个数据集来测试所提出的方法，这些数据集解决了Twitter上的不同和多种滥用行为。我们的结果表明，它在很大程度上优于最先进的方法（AUC提高21至45%，取决于数据集）。
2018-02-21 cs.CL cs.SI
User-Aware Multilingual Abusive Content Detection in Social Media
Indian Institute of Technology Indore（印度理工学院印多尔分校）；National Institute of Technology Hamirpur（哈米尔布尔国家理工学院）
针对低资源语言社交媒体滥用内容检测资源稀缺的问题，提出结合用户历史、社交语境与文本特征的双模块检测方法，在两个多语言数据集上F1值较前沿基线最高提升9.52%。
2024-10-26 cs.AI cs.CL cs.SI
Context Matters: Incorporating Target Awareness in Conversational Abusive Language Detection
Queen Mary University of London（伦敦玛丽女王大学）；Taif University（塔伊夫大学）；Heriot-Watt University（赫瑞瓦特大学）
该研究探讨在对话式辱骂性语言检测中利用父推文语境是否有助于判断回复是否辱骂，并通过实验证明基于内容的语境特征能显著提升分类性能。
2025-08-18 cs.AI cs.CL
From Abusive Language Classification to Sequence Labeling Identification
Everdian
本研究将辱骂性语言识别定义为序列标注任务，联合提取辱骂片段与目标提及，在试点语料上对比句子级分类，证明其竞争力并提供局部化输出，同时指出边界恢复难点与未来方向。
2026-10-06 cs.CL cs.LG
Creating and Evaluating Code-Mixed Nepali-English and Telugu-English Datasets for Abusive Language Detection Using Traditional and Deep Learning Models
SRM University AP（SRM 大学 AP校区）
本研究构建了尼泊尔语-英语和泰卢固语-英语混合滥用语言检测数据集，并使用多种机器学习、深度学习及大语言模型进行评估，为低资源语言NLP提供了基准与见解。
2025-04-23 cs.AI cs.CL cs.LG
Hidden behind the obvious: misleading keywords and implicitly abusive language on social media
Queen Mary University of London（伦敦玛丽女王大学）
虽然社交媒体提供了自我表达的自由，但辱骂性语言会产生重大的负面社会影响。由于这个问题的重要性，在滥用语言的自动检测的研究已经见证了增长和改善。然而，这些检测模型显示出对强烈指示性关键字的依赖，例如诽谤和亵渎。这意味着他们可能会错误地（1a）在没有这些关键字的情况下错过滥用，或者（1b）用这些关键字标记非滥用，并且（2）他们在看不见的数据上表现不佳。尽管认识到这些问题，但文献中仍然存在差距和不一致之处。在这项研究中，我们详细分析了关键字从数据集构建到模型行为的影响，重点是模型如何在（1a）和（1b）上出错，以及（1a）和（1b）如何与（2）相互作用。通过分析，我们为未来的研究提供了建议，以解决所有三个问题。
2022-05-03 cs.CL cs.SI
Whose Opinions Matter? Perspective-aware Models to Identify Opinions of Hate Speech Victims in Abusive Language Detection
University of Turin（都灵大学）
社交媒体平台为用户提供了表达自由和交流信息和表达不同意见的媒介。不幸的是，这也导致了虐待内容的增长，其目的是歧视人们，并针对移民，LGBT，穆斯林，犹太人和妇女等最弱势群体。由于辱骂性语言本质上是主观的，因此在对诸如仇恨言论（HS）等辱骂性内容的注释中可能涉及高度两极分化的主题或事件。因此，我们需要新的方法来模拟来自不同个人和人口背景的人的相互冲突的观点和意见。在本文中，我们提出了一个深入的研究模型极化意见来自不同的社区的假设下，类似的特征（种族，社会背景，文化等）。可以影响注释者对某一现象的看法。我们相信，依靠这些信息，我们可以将注释者分成具有相似观点的群体。我们可以创建单独的黄金标准，每个组一个，以训练最先进的深度学习模型。我们可以采用集成方法将来自不同组的透视感知分类器组合到一个包容性模型中。我们还提出了一个新的资源，多角度的英语语言数据集注释根据不同的子类别相关的特征在线虐待：仇恨言论，侵略性，攻击性和刻板印象。通过在这个新资源上训练最先进的深度学习模型，我们展示了我们的方法如何提高最先进的监督分类器的预测性能。
2021-06-30 cs.AI cs.CL
Abusive Language Detection in Online Conversations by Combining Content-and Graph-based Features
Avignon University（阿维尼翁大学）
近年来，在线社交网络允许世界各地的用户见面和讨论。作为这些社区的维护者，这些平台的管理员必须防止用户采取不适当的行为。由于需要检查的消息量不断增加，这种主要由人类完成的验证任务变得越来越困难。已经提出了方法来自动化这个缓和过程，主要是通过提供基于所交换的消息的文本内容的方法。最近的工作还表明，从对话结构中得出的特征，以对话图的形式，可以帮助检测这些滥用信息。在本文中，我们建议利用这两个来源的信息，提出融合方法，整合内容和图形为基础的功能。我们对原始聊天记录的实验表明，消息的内容，以及它们在对话中的动态包含部分互补信息，从而提高了滥用消息分类任务的性能，最终F值为93.26%。
2019-05-20 cs.CL cs.IR cs.SI
Retrieval-Augmented Detection of Potentially Abusive Clauses in Chilean Terms of Service
School of Computer Engineering, Pontificia Universidad Católica de Valparaíso（Pontificia Universidad Católica de Valparaíso计算机工程学院）；Faculty of Law, Universidad Adolfo Ibáñez（Adolfo Ibáñez大学法学院）
提出检索增强生成框架，结合混合稠密-稀疏检索与提示增强，用于自动检测和分类智利服务条款中的潜在滥用条款，并引入包含100份合同和10,029条标注条款的语料库，实验表明该方法显著提升性能，使本地模型接近云端系统。
2026-05-25 cs.AI cs.CL cs.LG
Subjective $\textit{Isms}$? On the Danger of Conflating Hate and Offence in Abusive Language Detection
MilaNLP；Bocconi University（博科尼大学）；Heriot-Watt University（赫瑞瓦特大学）
本文批评在仇恨言论检测中将标注差异视为主观性的做法，指出混淆仇恨与冒犯会赋予歧视性立场同等有效性，主张研究应基于理论并区分二者。
2024-03-04 cs.AI cs.CL cs.CY
Detecting Abusive Albanian
ITU Copenhagen（哥本哈根信息技术大学）；Microsoft（微软）；UN Development Programme（联合国开发计划署）
近年来，社交媒体的使用不断增加，对在线平台上仇恨言论和攻击性言论的增加产生了直接影响。对此类内容的有效检测的研究主要集中在英语和其他几种广泛使用的语言上，而剩下的大多数人没有投入同样的工作，因此无法从该领域的稳步发展中受益。在本文中，我们提出了\textsc{Shaj}，一个带有注释的阿尔巴尼亚仇恨言论和攻击性言论数据集，该数据集是从各种社交媒体平台上的用户生成内容构建的。它的注释遵循在OffensEval中引入的分层模式。使用三种不同的分类模型对数据集进行测试，其中最好的一种用于识别攻击性语言的F1得分为0.77，用于攻击性类型的自动分类的F1得分为0.64，最后，用于攻击性语言目标识别的F1得分为0.52。
2022-05-10 cs.CL
Towards Cross-Lingual Audio Abuse Detection in Low-Resource Settings with Few-Shot Learning
SAMOVAR, Télécom SudParis（萨莫瓦尔实验室，南巴黎电信学院）；Institut Polytechnique de Paris（巴黎综合理工学院）
本研究针对低资源场景下音频滥用内容检测研究不足的问题，结合Wav2Vec、Whisper等预训练模型表示与MAML框架，基于ADIMA数据集用少样本学习实现10种印度语言的滥用内容检测，验证了预训练模型的低资源泛化能力。
2024-12-13 cs.AI cs.CL
Code-Mixed Telugu-English Hate Speech Detection
George Mason University（乔治梅森大学）
针对泰卢固语等低资源语言仇恨言论检测挑战，本研究用LoRA微调多种Transformer模型，探索泰卢固语转英语的多语言方法，发现翻译提升多数模型性能，Hindi-Abusive-MuRIL表现最优，为低资源语言仇恨言论检测提供有效方案。
2025-02-15 cs.CL
No Time Like the Present: Effects of Language Change on Automated Comment Moderation
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；European Research Center for Information Systems（欧洲信息系统研究中心）
网络仇恨的传播已经成为报纸评论部分的一个重要问题。因此，人们越来越有兴趣使用机器学习和自然语言处理进行（半）自动化的滥用语言检测，以避免手动评论审核成本或不得不完全关闭评论部分。然而，许多过去的工作对滥用语言检测假设，分类器在一个静态的语言环境中运行，尽管语言和新闻是在一个不断变化的状态。在本文中，我们使用一个新的德国报纸评论数据集来证明，使用朴素ML技术（如随机测试训练分割）训练的分类器在未来的数据上表现不佳，并且时间分层评估分割更合适。我们还表明，分类器的性能迅速下降时，从一个不同的时期比训练数据的数据评估。我们的研究结果表明，在开发滥用语言检测系统时，有必要考虑语言的时间动态，否则部署一个很快就会失效的模型的风险。
2022-07-08 cs.CL
Modeling Users and Online Communities for Abuse Detection: A Position on Ethics and Explainability
Facebook AI（脸书人工智能）；University of Amsterdam（阿姆斯特丹大学）
互联网上的滥用是我们这个时代的一个重要社会问题。数以百万计的互联网用户在各种平台上面临骚扰、种族主义、人身攻击和其他类型的虐待。虐待对个人的心理影响可能是深刻和持久的。因此，在过去的几年里，在NLP领域，已经有了大量的研究工作来自动检测滥用语言。在这份立场文件中，我们讨论了用户和在线社区建模在滥用检测中的作用。具体来说，我们回顾和分析最先进的方法，利用用户或社区信息，以加强对滥用语言的理解和检测。然后，我们探讨了将用户和社区信息的伦理挑战，布局考虑，以指导未来的研究。最后，我们讨论的主题，在滥用语言检测的可解释性，提出属性，一个可解释的方法应该旨在展示。我们描述了如何用户和社区信息可以促进实现这些属性，并讨论了有效的操作性的可解释性的属性。
2021-04-14 cs.AI cs.CL
Using Machine Learning to Enhance the Detection of Obfuscated Abusive Words in Swahili: A Focus on Child Safety
本研究利用机器学习方法提升斯瓦希里语中隐晦侮辱性词汇的检测能力，旨在提高儿童网络环境的安全性。
2026-02-13 cs.AI cs.CL cs.HC
Rationale-Guided Few-Shot Classification to Detect Abusive Language
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
提出RGFS方法，通过多任务学习联合训练rationales、targets和labels，在五个滥用语言数据集上少样本分类的宏观F1比基线高约7%，且优于LIME/SHAP方法。
2023-07-27 cs.CL cs.CY
Neural Character-based Composition Models for Abuse Detection
University of Cambridge（剑桥大学）；The ALTA Institute（ALTA研究所）；University of Amsterdam（阿姆斯特丹大学）
近年来，社交媒体的出现助长了一些非常不受欢迎的现象，如互联网上攻击性语言、仇恨言论、性别歧视言论等的泛滥。有鉴于此，已经做出了一些努力来自动检测和缓和这种滥用内容。然而，用户为逃避侦查而故意混淆文字，对这些努力的有效性构成了严重挑战。基于递归神经网络的滥用语言检测的当前最新方法没有明确解决这个问题，而是求助于针对未看到的单词的通用OOV（词汇表外）嵌入。然而，在对所有未看到的单词使用单个嵌入时，我们失去了区分混淆单词和非混淆单词或罕见单词的能力。在本文中，我们通过设计一个模型来解决这个问题，该模型可以为未见过的单词组成嵌入。我们的实验表明，我们的方法显着推进了目前的最先进的滥用检测数据集从两个不同的领域，即Twitter和维基百科的讨论页。
2018-09-02 cs.CL
AbuseAnalyzer: Abuse Detection, Severity and Target Prediction for Gab Posts
International Institute of Information Technology Hyderabad（海得拉巴国际信息技术研究所）；Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术研究所）；Microsoft（微软）
虽然在线社交媒体平台的广泛普及使信息传播更快，但也导致了不同类型的广泛在线滥用，如仇恨言论、攻击性语言、性别歧视和种族主义观点等。以前的工作集中在将用户帖子分类为各种形式的滥用行为。但几乎没有任何关注估计虐待的严重程度和目标。在本文中，我们提出了第一个数据集，其中包含来自Gab的7601个帖子，该数据集从滥用的存在，严重程度和滥用行为的目标的角度来看待在线滥用。我们还提出了一个系统来解决这些任务，获得的准确性为80%的滥用存在，滥用目标预测的准确性为82%，滥用严重程度预测的准确性为65%。
2020-10-08 cs.CL cs.IR
Confronting Abusive Language Online: A Survey from the Ethical and Human Rights Perspective
National Research Council Canada（加拿大国家研究委员会）
互联网上滥用内容的普遍存在可能导致严重的心理和身体伤害。自然语言处理（NLP）研究的重大努力一直致力于通过滥用内容检测和相关子领域（例如检测仇恨言论、毒性、网络欺凌等）来解决这个问题。尽管当前技术在研究中实现了高分类性能，但已经观察到，该技术的现实应用可能会造成意外伤害，比如压制代表性不足的群体。我们回顾了大量关于自动滥用检测的NLP研究，重点关注道德挑战，围绕八项既定的道德原则组织：隐私，问责制，安全性和安全性，透明度和可解释性，公平性和非歧视性，人类对技术的控制，专业责任和促进人类价值。在许多情况下，这些原则不仅涉及可能视情况而定的情境道德守则，而且实际上与普遍人权有关，如隐私权、不受歧视的自由和表达自由。我们强调需要研究这项技术的广泛社会影响，并将道德和人权考虑纳入应用生命周期的每个阶段，从任务制定和数据集设计，到模型培训和评估，再到应用部署。在这些原则的指导下，我们确定了一些尊重权利的社会技术解决方案来检测和应对在线滥用的机会，包括“轻推”，“微调”，价值敏感设计，反叙事，风格转移和人工智能驱动的公共教育应用程序。
2021-07-22 cs.AI cs.CL cs.CY
Few-Shot Contrastive Adaptation for Audio Abuse Detection in Low-Resource Indic Languages
本文探讨了CLAP模型在低资源印地语中直接从音频检测滥用语音的可能性，通过ADIMA数据集评估少样本对比适应的效果，发现CLAP能提供强跨语言音频表示，但少样本适应效果语言依赖且非单调。
2026-08-03 cs.CL cs.SD
