Outcome-Constrained Large Language Models for Countering Hate Speech
University of North Texas（北得克萨斯大学）；Peking University（北京大学）；University of Arizona（亚利桑那大学）
本文提出用结果约束的大语言模型生成反向言论，通过指令提示、微调和强化学习实现低不文明性和非仇恨重新融入两个目标，并验证了方法的有效性。
2024-10-01 cs.CL
Multilingual Hate Speech Detection and Counterspeech Generation: A Comprehensive Survey and Practical Guide
Bilkent University（比尔肯特大学）；Missouri University of Science and Technology（密苏里科技大学）
本文综述并指导多语言仇恨言论检测与反仇恨言论生成，分析单语言系统在非英语和混合语言环境中的不足，提出三阶段框架，整合最新NLP进展，强调数据稀缺、公平性与多模态解决方案。
2026-03-01 cs.CL
Assisted Counterspeech Writing at the Crossroads of Hate Speech and Misinformation
Fondazione Bruno Kessler（布鲁诺·克塞勒基金会）；Università Cattolica del Sacro Cuore（天主教圣心大学）
本文研究了在仇恨言论和虚假信息共存的背景下，利用大型语言模型辅助专家反诽谤写作的方法，通过三种知识驱动的生成策略，结合事实核查和非政府组织的指南，提高了反诽谤文本的质量和有效性。
2026-05-21 cs.CL
Racism is a Virus: Anti-Asian Hate and Counterspeech in Social Media during the COVID-19 Crisis
Georgia Institute of Technology（佐治亚理工学院）；Virginia Tech（弗吉尼亚理工大学）
COVID-19的传播在社交媒体上引发了针对亚洲社区的种族主义和仇恨。然而，人们对种族仇恨在大流行期间如何传播以及反言论在缓解这种传播中的作用知之甚少。在这项工作中，我们通过Twitter的镜头研究了反亚洲仇恨言论的演变和传播。我们创建了COVID-HATE，这是最大的反亚洲仇恨和反言论数据集，跨越14个月，包含超过2.06亿条推文，以及一个拥有超过1.27亿个节点的社交网络。通过创建一个包含3,355条推文的新的手工标记数据集，我们训练了一个文本分类器来识别仇恨和反言论推文，其平均宏观F1得分为0.832。使用这个数据集，我们对推文和用户进行了纵向分析。对社交网络的分析表明，仇恨和反言论用户相互交流和广泛参与，而不是生活在孤立的两极分化社区。我们发现，节点在接触到可恨的内容后，很有可能变得可恨。值得注意的是，反言论信息可能会阻止用户变得仇恨，这可能会提出一种解决方案，以遏制网络和社交媒体平台上的仇恨。数据和代码在http://claws.cc.gatech.edu/covid。
2021-11-10 cs.CL cs.CY cs.IR
Beyond Denouncing Hate: Strategies for Countering Implied Biases and Stereotypes in Language
Carnegie Mellon University（卡内基梅隆大学）；Columbia University（哥伦比亚大学）；University of Washington（华盛顿大学）；Princeton University（普林斯顿大学）；Allen Institute for AI（艾伦人工智能研究所）
本文借鉴心理学与哲学提出六种反驳隐含刻板印象的策略，通过用户研究和数据集对比发现人类反言论更具针对性且更有说服力，而机器生成反言论策略较笼统，揭示了在反言论生成中考虑潜在刻板印象含义的重要性。
2023-10-31 cs.AI cs.CL
CrowdCounter: A benchmark type-specific multi-target counterspeech dataset
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）；Indian Institute of Technology, Bhubaneswar（印度理工学院布巴内斯瓦尔分校）
本文构建涵盖六类、含3,425对样本的多目标反驳言论数据集CrowdCounter，并评估四种LLM在普通与类型控制提示下的生成效果。
2024-10-02 cs.CL
Is Safer Better? The Impact of Guardrails on the Argumentative Strength of LLMs in Hate Speech Countering
Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Trento（特伦托大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；I3S（信息、信号与智能系统实验室）
本文研究 LLM 生成反制言论时安全护栏对论证质量的影响，发现护栏可能降低生成质量，而针对仇恨言论中隐含负面刻板印象和仇恨性部分进行攻击能产生更高质量的反制言论。
2024-10-04 cs.CL
Understanding Counterspeech for Online Harm Mitigation
The Alan Turing Institute（阿兰·图灵研究所）；Heriot-Watt University（赫瑞-瓦特大学）；Google DeepMind（谷歌DeepMind）
本文系统梳理社会科学中的反制言论研究，并与计算机科学的自动生成方法进行对比，以明确最有效的反制言论类型、实施条件及可改善的仇恨影响，从而为在线仇恨缓解提供多学科视角下的未来研究方向。
2023-07-01 cs.AI cs.CL cs.CY
Hatred Stems from Ignorance! Distillation of the Persuasion Modes in Countering Conversational Hate Speech
King Saud University（沙特国王大学）；College of Computer and Information Sciences（计算机与信息科学学院）
本研究提炼对话式反制仇恨言论的说服模式为理性、情感和可信度，评估其在封闭/开放交互及人机生成反制言论中的差异，发现理性模式获更多支持，为反制研究提供可解释性手段。
2025-04-14 cs.AI cs.CL
Intent-conditioned and Non-toxic Counterspeech Generation using Multi-Task Instruction Tuning with RLAIF
IIT Delhi（印度理工学院德里分校）；IIIT Delhi（德里印度信息技术学院）
本研究提出CoARL框架，通过多指令微调和RLAIF强化学习生成基于意图且无毒的反言论，在意图一致性和论证质量上分别提升3点和4点，优于现有系统及ChatGPT。
2024-03-15 cs.AI cs.CL
Counterspeeches up my sleeve! Intent Distribution Learning and Persistent Fusion for Intent-Conditioned Counterspeech Generation
IIIT Delhi（德里英迪拉·甘地信息技术学院）；Logically（Logically公司）；IIT Delhi（德里印度理工学院）
本文提出意图条件反仇恨言论生成框架QUARC，构建了包含5种意图的IntentCONAN数据集，通过向量量化表示和PerFuMe融合模块，在各项指标上平均优于基线10%。
2023-05-23 cs.AI cs.CL
CounterGeDi: A controllable approach to generate polite, detoxified and emotional counterspeech
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
最近，许多研究都试图创建生成模型，以帮助反发言者提供反言论的建议，打击网上仇恨的爆炸性扩散。然而，由于这些建议来自一个普通的生成模型，它们可能不包括对抗特定仇恨言论实例所需的适当属性。在本文中，我们提出了CounterGeDi -一个集成的生成判别器（GeDi），以指导生成的DialoGPT模型更礼貌，解毒，情绪化的反驳。我们使用三个数据集生成反语音，并观察到不同属性得分的显着改善。礼貌和解毒得分分别增加了约15%和6%，而在所有数据集中，反驳中的情绪至少增加了10%。我们还试验了三属性控制，并观察到当组合补充属性时，礼貌、快乐和解毒。在所有这些实验中，生成的文本的相关性不会因为应用这些控件而恶化
2022-05-09 cs.CL cs.CY
NLP Systems That Can't Tell Use from Mention Censor Counterspeech, but Teaching the Distinction Helps
Stanford University（斯坦福大学）
本文揭示语言模型无法区分词语的“使用”与“提及”，导致反言论在错误信息和仇恨言论检测中被误删，并提出提示缓解方法教授这一区别以减少审查错误。
2024-04-02 cs.CL cs.CY cs.HC
HatePRISM: Policies, Platforms, and Research Integration. Advancing NLP for Hate Speech Proactive Mitigation
IIT Kharagpur（印度理工学院Kharagpur分校）；University of Hamburg（汉堡大学）；Technical University of Munich（慕尼黑技术大学）；Bucerius Law School（布勒斯海姆法学院）；Skolkovo Institute of Science and Technology（斯克尔科维科学与技术研究所）；Artificial Intelligence Research Institute（人工智能研究 institute）
HatePRISM从国家法规、平台政策和NLP数据集三方面系统审视仇恨言论治理，揭示定义与实践的不一致，并提出融合多种策略的统一自动化审核框架研究方向。
2025-07-06 cs.CL
Debunking with Dialogue? Exploring AI-Generated Counterspeech to Challenge Conspiracy Theories
University of Applied Sciences (HTW) Berlin, Germany（柏林应用科学大学（HTW））
针对阴谋论反言论数据集缺失、专家主导的反言论工作难规模化的问题，研究评估了GPT-4o等大模型运用心理学研究衍生的反言论策略的能力，发现模型生成内容质量不佳且存在幻觉，实际应用存疑。
2025-08-01 cs.AI cs.CL cs.SI
Thesis Distillation: Investigating The Impact of Bias in NLP Models on Hate Speech Detection
Fraunhofer Research Institute (FOKUS)（弗劳恩霍夫研究所（FOKUS））
本文从可解释性、冒犯性刻板印象偏见和公平性三个视角研究自然语言处理模型偏见对仇恨言论检测的影响，并强调引入社会科学以突破当前偏见测量与缓解的局限。
2023-12-05 cs.CL
Code-switching patterns can be an effective route to improve performance of downstream NLP applications: A case study of humour, sarcasm and hate speech detection
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
在本文中，我们将展示如何利用代码转换模式来改善各种下游NLP应用程序。特别是，我们编码不同的切换功能，以提高幽默，讽刺和仇恨的语音检测任务。我们相信，这种简单的语言观察也可能有助于改进其他类似的NLP应用程序。
2020-05-05 cs.CL
A Group-Specific Approach to NLP for Hate Speech Detection
Harvard University（哈佛大学）
本文提出面向特定受保护群体的仇恨言论检测NLP方法，并以反犹言论检测为例，构建历史语言知识图谱、注入模型并结合伦理与交叉性评估，证明其有助于识别细微刻板印象。
2023-04-21 cs.CL
CSEval: Towards Automated, Multi-Dimensional, and Reference-Free Counterspeech Evaluation using Auto-Calibrated LLMs
Indian Institute of Technology Delhi（印度德里理工学院）
本文提出CSEval数据集与Auto-CSEval方法，通过自动校准思维链的大语言模型从四个维度无参考评估反击言论质量，显著优于传统指标。
2025-02-09 cs.AI cs.CL cs.CY
A Legal Approach to Hate Speech: Operationalizing the EU's Legal Framework against the Expression of Hatred as an NLP Task
Max Planck Institute for Research on Collective Goods（马克斯·普朗克集体物品研究所）；Waseda Institute for Advanced Study, Waseda University（早稻田大学高等研究所）；University of Duisburg-Essen（杜伊斯堡-埃森大学）
我们提出了一种“法律方法”，以仇恨言论检测的决定，是否一个职位是受刑法到一个NLP任务的操作。比较现有的仇恨言论监管制度，我们的调查基于欧洲联盟的框架，因为它提供了一个广泛适用的法律最低标准。准确判断一个职位是否应该受到惩罚通常需要法律培训。我们表明，通过将法律评估分解为一系列更简单的子决策，即使是外行也可以始终如一地进行注释。基于一个新注释的数据集，我们的实验表明，直接学习惩罚内容的自动化模型是具有挑战性的。然而，了解"目标群体"和"目标行为"这两个次级任务，而不是对惩罚采取端到端的办法，会产生更好的结果。总的来说，我们的方法还提供了比端到端模型更透明的决策，这是法律决策的关键点。
2021-10-05 cs.CL
Gradient Masters at BLP-2025 Task 1: Advancing Low-Resource NLP for Bengali using Ensemble-Based Adversarial Training for Hate Speech Detection
SUST（斯瓦希里大学）
本文提出基于集成的对抗训练方法，用于孟加拉语低资源NLP中的仇恨言论检测，提升了子任务的分类性能。
2025-11-23 cs.CL
Countering Online Hate Speech: An NLP Perspective
The Chinese University of Hong Kong（香港中文大学）
网络仇恨言论已经引起了所有人的注意，从与COVID-19大流行、美国大选和全球抗议活动有关的新闻。网络毒性--网络仇恨行为的总称，表现为网络仇恨言论等形式。仇恨言论是以目标实体的身份或观点为动机，针对个人或群体的蓄意攻击。通过社交媒体进行的大众传播日益增多，进一步加剧了网上仇恨言论的有害后果。虽然使用自然语言处理（NLP）对仇恨言论识别进行了大量研究，但利用NLP预防和干预在线仇恨言论的工作相对缺乏。本文提出了一个整体的概念框架仇恨言论的NLP对抗方法，以及对NLP对抗网络仇恨言论的当前进展进行了全面调查。它根据其作用时间对对抗技术进行了分类，并确定了未来关于这一主题的潜在研究领域。
2021-09-07 cs.CL cs.LG
Beyond Hate Speech: NLP's Challenges and Opportunities in Uncovering Dehumanizing Language
Politecnico di Milano（米兰理工大学）；University of Milan（米兰大学）；University College London（伦敦大学学院）；University of Sheffield（谢菲尔德大学）
本研究系统评估了Claude、GPT、Mistral和Qwen四个大型语言模型在去人性化语言检测任务上的表现，发现仅Claude在优化配置下F1超80%，且模型在不同目标群体上存在系统性预测差异，凸显了群体层面评估的必要性。
2025-07-10 cs.CL
What is the social benefit of hate speech detection research? A Systematic Review
University of Canterbury（坎特伯雷大学）；Geospatial Research Institute（地理空间研究所）
本文通过系统审查37篇文献中的48个仇恨言论检测系统，指出伦理框架缺失导致NLP研究与政策实践脱节，提出采用适当伦理框架可释放仇恨言论研究的社会影响潜力。
2024-09-26 cs.CL
FC-CONAN: An Exhaustively Paired Dataset for Robust Evaluation of Retrieval Systems
FC-CONAN是一个详尽配对数据集，用于评估检索系统的鲁棒性，通过全面考虑HS与CNs的组合，提供更准确的评估和错误分析。
2026-01-04 cs.CL
A Comprehensive Study on NLP Data Augmentation for Hate Speech Detection: Legacy Methods, BERT, and LLMs
University of Oulu（奥卢大学）
本文系统比较了仇恨言论检测中传统与基于BERT和LLM的数据增强方法，并提出上下文余弦相似度过滤方案，在降低标签改变率的同时提升分类性能。
2024-03-30 cs.CL
Multilingual Cross-domain Perspectives on Online Hate Speech
CLiPS Research Center（CLiPS研究中心）
在这份报告中，我们提出了一个研究的八个语料库的在线仇恨言论，通过展示的NLP技术，我们用来收集和分析圣战，极端主义，种族主义和性别歧视的内容。对多语种语料库的分析表明，不同语境下的仇恨修辞具有一定的共性。为了揭示文本的主要特征，我们重点研究了文本分类、文本分析、关键词和搭配提取，以及人工标注和定性研究。
2018-09-11 cs.CL
ARC-NLP at Multimodal Hate Speech Event Detection 2023: Multimodal Methods Boosted by Ensemble Learning, Syntactical and Entity Features
Aselsan Research Center（阿瑟尔桑研究中心）
针对2023多模态仇恨言论事件检测，本文提出由集成学习、语法属性和命名实体特征增强的多模态深度学习方法，在仇恨言论与目标检测两个子任务中均取得第一名。
2023-07-25 cs.CL cs.SI
Hatevolution: What Static Benchmarks Don't Tell Us
King’s College London（伦敦国王学院）；Imperial College London（伦敦帝国学院）
该研究针对语言演变对仇恨言论模型基准测试影响研究不足的问题，通过20个模型的动态实验发现静态评估存在时间错位，提出需建立时态敏感基准以保障评估可靠性。
2025-06-13 cs.CL
Algorithmic Fairness in NLP: Persona-Infused LLMs for Human-Centric Hate Speech Detection
Warsaw University of Technology（华沙技术大学）
本研究通过注入标注者人物角色到LLM中，探索个性化对仇恨言论检测公平性的影响，证明该方法可减少偏见，但存在局限。
2025-10-22 cs.CL cs.CY
HateCheckHIn: Evaluating Hindi Hate Speech Detection Models
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）
由于在线仇恨的数量庞大，人工智能和NLP社区已经开始构建模型来检测这种仇恨内容。最近，多语言仇恨是自动检测的一个主要新兴挑战，其中代码混合或多种语言已用于社交媒体中的对话。通常，通过使用诸如准确度和F1分数之类的度量来测量它们在保留的测试数据上的性能，来评估仇恨语音检测模型。虽然这些指标是有用的，它变得难以识别使用它们的模型失败，以及如何解决它。为了使这种多语言仇恨言论模型更有针对性的诊断见解，我们引入了一套功能，用于评估的目的。我们一直受到启发，根据社交媒体上的真实对话设计这种功能。考虑印地语作为基础语言，我们为每个功能制作测试用例。我们将评估数据集命名为HateCheckHIn。为了说明这些功能的实用性，我们测试了最先进的基于Transformer的m-BERT模型和Perspective API。
2022-04-30 cs.CL
Automated Detection of Cyberbullying Against Women and Immigrants and Cross-domain Adaptability
The University of Adelaide（阿德莱德大学）；University of Moratuwa（莫拉图瓦大学）
由于社交媒体技术的使用激增，网络欺凌是一个普遍和日益严重的社会问题。少数民族、妇女和青少年是网络欺凌的常见受害者。尽管NLP技术取得了进步，但自动化网络欺凌检测仍然具有挑战性。本文的重点是使用最先进的NLP技术来推进该技术。我们使用SemEval 2019 - Task 5（HatEval）的Twitter数据集来研究针对女性和移民的仇恨言论。我们基于DistilBERT的性能最好的集成模型在分类仇恨言论（任务A）和攻击性和目标（任务B）的任务中分别达到了0.73和0.74的F1分数。我们调整了为任务A开发的集成模型，以分类外部数据集中的攻击性语言，并使用三个基准数据集获得了约0.7的F1分数，从而实现了跨领域适应性的良好结果。我们对错误分类的推文进行定性分析，为未来的网络欺凌研究提供有见地的建议。
2020-12-04 cs.CL
Model Bias in NLP -- Application to Hate Speech Classification using transfer learning techniques
ETH Zürich（苏黎世联邦理工学院）
在本文中，一个基于BERT的神经网络模型应用于JIGSAW数据集，以创建一个模型，识别仇恨和有毒的评论（严格分离的攻击性语言）在在线社交平台（英语），在这种情况下Twitter。另外三个神经网络架构和一个GPT-2模型也应用于所提供的数据集，以比较这些不同的模型。然后将训练好的BERT模型应用于两个不同的数据集，以评估其泛化能力，即另一个Twitter数据集和HASOC 2019数据集，其中包括Twitter和Facebook评论;我们专注于英语HASOC 2019数据。此外，可以表明，通过经由重新训练部分或所有层应用不同的迁移学习场景，在这两个数据集上微调经训练的BERT模型，与简单地应用在JIGSAW数据集上预训练的模型相比，预测分数提高。通过我们的结果，我们获得了从64%到90%左右的精确度，同时仍然达到了至少低于60%的可接受的召回值，证明了BERT适用于社交平台中的真实用例。
2021-10-11 cs.AI cs.CL
Automatic Textual Normalization for Hate Speech Detection
Faculty of Information Science and Engineering, University of Information Technology（信息科学与工程学院，信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
本文提出仅用Seq2Seq模型进行越南语文本规范化，构建了含2181条标注的数据集，虽规范化准确率略低于70%，但使仇恨言论检测准确率提升约2%。
2024-07-25 cs.CL
Comparative Analysis of Machine Learning and Deep Learning Algorithms for Detection of Online Hate Speech
Delhi Technological University（德里理工大学）
在社交媒体时代，用户很容易在网上发表仇恨言论。已经进行了几次尝试来使用机器学习对仇恨言论进行分类，但是最先进的模型对于实际应用来说不够鲁棒。这归功于原始NLP特征工程技术的使用。在本文中，我们探讨了各种特征工程技术，从不同的嵌入到传统的NLP算法。我们还尝试了不同功能的组合。从我们的实验中，我们意识到，roBERTa（鲁棒优化的BERT方法）基于句子嵌入分类使用决策树给出了0.9998 F1得分的最佳结果。在我们的论文中，我们得出结论，BERT为基础的嵌入给这个问题的最有用的功能，并有能力成为一个实用的鲁棒模型。
2021-04-23 cs.AI cs.CL
"It's Not Just Hate'': A Multi-Dimensional Perspective on Detecting Harmful Speech Online
Stanford University（斯坦福大学）；University of Stirling（斯特林大学）；University of Glasgow（格拉斯哥大学）；Bocconi University（博科尼大学）；George Washington University（乔治华盛顿大学）；Maastricht University（马斯特里赫特大学）
良好的注释数据是良好的自然语言处理模型的先决条件。但是，注释决策通常由优化时间或注释者协议来控制。我们提出了一个案例，在跨学科的设置注释攻击性网络言论的细微差别的努力。检测攻击性内容正在迅速成为现实世界中最重要的NLP任务之一。然而，大多数数据集使用单个二进制标签，例如，仇恨或不文明，尽管每个概念都是多方面的。这种建模选择严重限制了细致入微的洞察力，也限制了性能。我们发现，一个更细粒度的多标签的方法来预测不文明和仇恨或不宽容的内容解决了概念和性能问题。我们发布了一个新的数据集，其中包含来自美国和英国的40，000多条关于移民的推文，并为不文明和不宽容的不同方面标注了六个标签。我们的数据集不仅允许对在线有害言论进行更细致的理解，在其上训练的模型也优于或匹配基准数据集的性能。
2022-10-28 cs.CL
A Benchmark Dataset for Learning to Intervene in Online Hate Speech
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Intel AI（英特尔人工智能）
打击网上仇恨言论是一项关键而又具有挑战性的任务，但可以通过使用自然语言处理（NLP）技术来帮助。以前的研究主要集中在开发NLP方法，以自动有效地检测在线仇恨言论，同时忽略了需要采取进一步行动来平息和阻止个人在未来使用仇恨言论。此外，大多数现有的仇恨言论数据集将每个帖子视为一个孤立的实例，忽略了会话上下文。在本文中，我们提出了一个新的任务生成仇恨言论干预，其目标是自动生成响应，在包含仇恨言论的在线对话进行干预。作为这项工作的一部分，我们介绍了从Gab和Reddit收集的两个完全标记的大规模仇恨言论干预数据集。这些数据集提供了对话片段，仇恨言论标签，以及由土耳其机械工人撰写的干预回应。在本文中，我们还分析了数据集，以了解常见的干预策略，并探讨了常见的自动响应生成方法在这些新数据集上的性能，为未来的研究提供了一个基准。
2019-09-10 cs.AI cs.CL cs.CY
Case Study: Deontological Ethics in NLP
School of Computer Science（计算机科学学院）；Carnegie Mellon University（卡内基梅隆大学）
最近在自然语言处理（NLP）领域的工作重点是道德挑战，例如理解和减轻数据和算法中的偏见;识别仇恨言论、刻板印象和攻击性语言等令人反感的内容;以及为更好的系统设计和数据处理实践构建框架。然而，很少有人讨论这些努力背后的道德基础。在这项工作中，我们研究了一个伦理理论，即义务论伦理学，从自然语言处理的角度。特别是，我们专注于泛化原则和尊重自主权，通过知情同意。我们提供了四个案例研究来演示如何将这些原则用于NLP系统。我们还建议避免这些系统中的道德问题。
2021-04-12 cs.CL
Power of Explanations: Towards automatic debiasing in hate speech detection
Freie Universität Berlin（柏林自由大学）；University of Southern Denmark（南丹麦大学）；Universität der Bundeswehr München（慕尼黑联邦国防军大学）
仇恨语音检测是现实世界中自然语言处理（NLP）的常见下游应用。尽管准确性越来越高，但目前的数据驱动方法很容易从人类的不平衡数据分布中学习到偏见。偏见模型的部署可能会进一步加强现有的社会偏见。但与处理表格数据不同，定义和减轻处理非结构化数据的文本分类器中的偏见更具挑战性。在NLP中提高机器学习公平性的一个流行的解决方案是使用人类注释者给出的潜在歧视词列表进行去偏置过程。除了遭受忽视有偏见的术语的风险之外，用人类注释者彻底识别偏见是不可持续的，因为歧视在不同的数据集之间是可变的，并且可能随着时间的推移而演变。为此，我们提出了一个自动误用检测器（MiD）依赖于一个解释的方法来检测潜在的偏见。并在此基础上，提出了一个端到端的去偏框架与建议的阶段性校正设计的文本分类器，无需任何外部资源。
2022-09-07 cs.CL cs.LG
BD-SHS: A Benchmark Dataset for Learning to Detect Online Bangla Hate Speech in Different Social Contexts
Shahjalal University of Science and Technology（沙赫贾拉尔科技大学）；University of Alberta（阿尔伯塔大学）；University of Boston（波士顿大学）；Fordham University（福特汉姆大学）
社交媒体平台和在线流媒体服务催生了一种新的仇恨言论（HS）。由于这些网站上有大量的用户生成的内容，现代机器学习技术被发现是可行的，具有成本效益的，以解决这个问题。然而，语言上不同的数据集，涵盖不同的社会背景下，其中攻击性语言通常被使用的训练可推广的模型。在本文中，我们确定了现有的孟加拉HS数据集的缺点，并介绍了一个大型的手动标记的数据集BD-SHS，包括HS在不同的社会背景。标签标准是按照分层注释过程准备的，据我们所知，这是孟加拉HS中的第一个。该数据集包括从在线社交网站上抓取的50，200多条攻击性评论，比任何现有的孟加拉HS数据集至少大60%。我们通过训练不同的NLP模型来展示我们数据集的基准结果，最好的模型达到了91.0%的F1分数。在我们的实验中，我们发现，与其他预先训练的嵌入相比，专门使用来自社交媒体和流媒体网站的147万条评论训练的词嵌入始终导致更好的HS检测建模。我们的数据集和所有附带代码可在github.com/naurosromim/hate-speech-dataset-for-Bengali-social-media上公开获取
2022-06-01 cs.CL
On the Challenges of Building Datasets for Hate Speech Detection
Birla Institute of Technology and Science, Pilani（皮拉尼比尔拉理工学院）
本文通过以数据为中心的视角分析仇恨言论检测的数据集构建问题，并以针对性少数群体的仇恨言论为例，提出了涵盖七个维度的整体数据创建框架，作为未来构建数据集的最佳实践。
2023-09-06 cs.AI cs.CL
Measuring Online Hate on 4chan using Pre-trained Deep Learning Models
Royal Holloway University of London（伦敦大学皇家霍洛威学院）；Surrey University（萨里大学）
本研究使用RoBERTa和Detoxify等预训练transformer模型，对4chan的/pol/板块进行多类仇恨言论和有毒内容分类及主题建模分析，发现11.20%数据含仇恨内容，揭示了非审核平台网络仇恨的复杂特征。
2025-03-30 cs.CL cs.CY
Bridging Fairness and Explainability: Can Input-Based Explanations Promote Fairness in Hate Speech Detection?
Saarland University（萨尔兰州大学）；Max Planck Institute for Informatics（马克斯·普朗克信息研究所）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
本研究探讨了基于输入的解释在仇恨言论检测中促进公平性的有效性，发现其在检测偏见和训练中减少偏见方面有效，但在选择公平模型方面不可靠。
2026-02-11 cs.AI cs.CL
Explainable Identification of Hate Speech towards Islam using Graph Neural Networks
Shahjalal University of Science and Technology（沙贾拉尔科技大学）
针对在线平台伊斯兰恐惧症语言问题，提出利用图神经网络将言论表示为节点并基于上下文和相似性构建边的新范式，实现更有效检测与解释，提升性能和精度，助力营造包容环境。
2024-11-12 cs.AI cs.CL cs.IR
A Modular Taxonomy for Hate Speech Definitions and Its Impact on Zero-Shot LLM Classification Performance
Department of Linguistics, Cognitive Science and Semiotics - Aarhus University（语言学、认知科学与象征学系 - 奥胡斯大学）；GESIS - Leibniz Institute for the Social Sciences（莱布尼茨社会科学研究所）；Heinrich-Heine University Düsseldorf（杜伊斯堡-艾森大学）
本文提出一个由14个概念元素组成的仇恨言论定义模块化分类法，并系统评估不同定义对三个LLM在三个仇恨言论数据集上的零样本分类性能的影响，发现定义选择影响性能但效应因架构而异。
2025-06-23 cs.CL cs.CY
Focal Inferential Infusion Coupled with Tractable Density Discrimination for Implicit Hate Detection
Indraprastha Institute of Information Technology（印度德里印度理工学院）；Indian Institute of Technology Delhi（印度德里理工学院）；Wipro Research（惠普研究）
FiADD通过结合焦点推断和可计算密度辨别，提升隐含仇恨检测的准确性和泛化能力。
2024-11-10 cs.CL cs.CY
Human-in-the-Loop for Data Collection: a Multi-Target Counter Narrative Dataset to Fight Online Hate Speech
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
通过知情和非攻击性的反应来削弱仇恨内容的影响，称为反叙事，已成为拥有更健康的在线社区的可能解决方案。因此，一些NLP研究已经开始解决反叙事生成的任务。尽管这些研究已经努力为神经生成构建仇恨言论/反叙事（HS/CN）数据集，但它们在达到高质量和/或高数量方面都存在不足。在本文中，我们提出了一种新的人在循环数据汇集方法，其中生成语言模型迭代地细化，通过使用自己的数据从以前的循环生成新的训练样本，专家审查和/或后编辑。我们的实验包括几个循环，包括动态变化。结果表明，该方法是可扩展的，有利于多样化，新颖，具有成本效益的数据汇集。据我们所知，由此产生的数据集是社区可获得的唯一基于专家的多目标HS/CN数据集。
2021-07-19 cs.CL cs.CY
CRUSH: Contextually Regularized and User anchored Self-supervised Hate speech Detection
Indian Institute of Science (IISc)（印度科学学院）；Indian Institute of Technology (IIT)（印度理工学院）
在过去的十年里，人们通过社交网络平台进行互动的数量激增。虽然这些社交平台有一些积极的方面，但其扩散已导致它们成为网络欺凌和仇恨言论的滋生地。NLP的最新进展经常被用来减轻这种仇恨内容的传播。由于仇恨言论检测的任务通常适用于社交网络的背景下，我们介绍CRUSH，仇恨言论检测框架，使用用户锚定的自我监督和上下文规则化。我们提出的方法在两种类型的任务和多个流行的英语社交媒体数据集上的测试集指标比以前的最佳方法提高了约1-12%。
2022-05-04 cs.AI cs.CL cs.CY
A Comparison of Online Hate on Reddit and 4chan: A Case Study of the 2020 US Election
University of Oxford（牛津大学）；University of Kent（肯特大学）
互联网迅速融入我们的日常生活带来了许多好处，但也带来了一些新的、广泛的威胁，如网上仇恨、拖钓、欺凌和一般的攻击性行为。虽然研究传统上探讨了在线仇恨，特别是在一个平台上，但现实是，这种仇恨是一种经常利用多个在线网络的现象。在本文中，我们试图通过利用比较方法将讨论推进到在线仇恨中，我们利用各种自然语言处理（NLP）技术来计算分析来自Reddit和4chan的与2020年美国总统选举有关的仇恨内容。我们的研究结果显示了内容和发布活动如何根据所使用的平台而有所不同。通过这一点，我们提供了对网络仇恨的特定平台行为的初步比较，以及不同平台如何服务于特定目的。我们进一步提供了几种利用跨平台方法进行未来研究的途径，以便更全面地了解全球仇恨生态系统。
2022-02-02 cs.AI cs.CL cs.CY
Why Current XAI Is Not Enough for Arabic NLP: A Critical Survey of the Explainability Gap
University of Luxembourg（卢森堡大学）；University of Alicante（阿利坎特大学）
该研究通过批判性综述指出当前阿拉伯语NLP的XAI存在方法、任务、语言学三方面差距，提出涵盖多维度的分类体系并给出基于语言学的阿拉伯语XAI研究议程。
2026-08-28 cs.CL
Challenges and Considerations with Code-Mixed NLP for Multilingual Societies
TCS Research（塔塔咨询服务公司研究院）；IIT Gandhinagar（印度理工学院甘地纳格尔分校）
多语制是指在书面和口头交流模式中高度熟练地使用两种或两种以上语言。它经常导致语言混合，又名。语码混合，即多语言使用者在一个文本或语音的单一话语中在多种语言之间切换。本文讨论了NLP研究的现状、局限性以及在解决多语言社会的社会公益危机管理、医疗保健、政治竞选、假新闻和仇恨言论等五个现实应用中可预见的陷阱。我们还提出了未来的数据集，模型和工具，可以显着推进当前的多语言NLP应用研究，以造福社会。作为一个代表性的例子，我们考虑英语-印地语代码混合，但得出类似的推论，其他语言对
2021-06-15 cs.CL cs.LG
Rethinking Hate Speech Detection on Social Media: Can LLMs Replace Traditional Models?
Indian Institute of Technology Delhi（印度理工学院德里）；Indian Institute of Technology Kharagpur（印度理工学院Khargpur）
该研究针对社交媒体仇恨言论检测的多语言场景挑战，提出印地语-英语混合语料数据集IndoHateMix，实验证明前沿LLM在更少微调数据下仍优于传统BERT类模型，为仇恨言论检测提供了变革性思路。
2025-06-15 cs.CL cs.CY
A Survey on Stereotype Detection in Natural Language Processing
Language and Translation Technology Team, Ghent University（格鲁特大学语言与翻译技术团队）；Department of Methodology and Statistics, Utrecht University（乌得勒支大学方法学与统计学系）
本文综述了NLP中的刻板印象检测研究，分析了跨学科定义，基于6000余篇论文识别趋势与挑战，强调其作为早期监测工具的价值，并呼吁多语言与交叉性研究。
2025-09-29 cs.CL cs.CY
Bangla hate speech detection on social media using attention-based recurrent neural network
East West University（东西大学）
仇恨言论通过日常使用技术传播得更快，最值得注意的是，通过在社交媒体上分享你的负面观点或感受。虽然在发现英语、德语和其他语言中的仇恨言论方面开展了许多工作，但在孟加拉语中开展的工作很少。相比之下，数百万人用孟加拉语在社交媒体上交流。已经进行的少数现有工作需要在准确性和可解释性方面进行改进。本文提出了基于编码器解码器的机器学习模型，一种流行的自然语言处理工具，对用户在Facebook页面上的孟加拉语评论进行分类。一个包含7,425条孟加拉语评论的数据集，包括七种不同类别的仇恨言论，被用来训练和评估我们的模型。为了从评论中提取和编码局部特征，使用了1D卷积层。最后，基于注意力机制、LSTM和GRU的解码器已被用于预测仇恨言论类别。在三种编码解码算法中，基于注意力的解码器获得了最好的准确率（77%）。
2022-03-31 cs.AI cs.CL cs.LG
