Abusive Language Detection with Graph Convolutional Networks
Facebook AI（Facebook人工智能）；ILLC, University of Amsterdam（阿姆斯特丹大学ILLC）
互联网上的虐待是我们这个时代的一个重大社会问题。以前的研究表明，Twitter中的自动滥用语言检测，基于社区的用户分析是一个很有前途的技术，这项任务。然而，现有的方法只捕捉肤浅的在线社区建模追随者的关系。相比之下，使用图卷积网络（GCN），我们提出了第一种方法，它不仅捕获了在线社区的结构，还捕获了其中用户的语言行为。我们表明，这种异构的图形结构的社区建模显着推进了当前的滥用语言检测的最新技术水平。
2019-04-05 cs.CL
"To Target or Not to Target": Identification and Analysis of Abusive Text Using Ensemble of Classifiers
Adobe Research（奥多比研究院）
随着人们对社交媒体平台上的辱骂和仇恨行为的日益关注，我们提出了一种集成学习方法来识别和分析此类内容的语言特性。我们的堆栈集成由三个机器学习模型组成，这些模型捕捉语言的不同方面，并提供关于不恰当语言的多样和一致的见解。所提出的方法提供了与Twitter滥用行为数据集（Founta et al. 2018）现有最先进技术相当的结果，而不使用任何用户或网络相关信息;仅依赖于文本属性。我们相信，目前的方法的缺点提出的见解和讨论将突出未来研究的潜在方向。
2020-06-05 cs.CL cs.SI
Intersectional Bias in Hate Speech and Abusive Language Datasets
University of California, Berkeley（加州大学伯克利分校）
算法被广泛应用于检测社交媒体中的仇恨言论和辱骂性语言。我们调查了用于训练这些算法的人工注释数据是否存在偏差。我们利用了一个公开的注释Twitter数据集（Founta et al. 2018），并对99，996条推文的种族，性别和党派识别维度进行了分类。结果显示，非裔美国人的推文被贴上辱骂标签的可能性高达3.7倍，而非裔美国人男性的推文被贴上仇恨标签的可能性高达77%。这些模式在统计学上是显著的和稳健的，即使当政党身份被添加为控制变量。这项研究提供了关于仇恨言论和辱骂性语言数据集中交叉偏见的第一个系统证据。
2020-05-28 cs.CL cs.SI
Racial Bias in Hate Speech and Abusive Language Detection Datasets
Cornell University（康奈尔大学）
滥用语言检测技术的开发和应用很少考虑其潜在的偏见。我们研究了五组不同的Twitter数据中的种族偏见，这些数据被注释为仇恨言论和辱骂性语言。我们在这些数据集上训练分类器，并将这些分类器对用非裔美国英语写的推文的预测与用标准美国英语写的推文的预测进行比较。结果显示，在所有数据集中都存在系统性种族偏见的证据，因为在这些数据集上训练的分类器倾向于预测用非裔美国人英语写的推文是虐待性的，其比率要高得多。如果这些辱骂性语言检测系统被用于该领域，它们将对非裔美国人社交媒体用户产生不成比例的负面影响。因此，这些系统可能会歧视那些经常成为我们试图发现的虐待目标的群体。
2019-05-29 cs.CL cs.LG
Offensive Language Detection on Twitter
社交媒体中攻击性语言的检测是社交媒体面临的主要挑战之一。研究人员提出了许多先进的方法来完成这项任务。在这份报告中，我们试图利用从他们的方法中学到的东西，并结合我们的想法来改进它们。我们已经成功地实现了74%的准确率在分类攻击性推文。我们还列出了社交媒体世界中滥用内容检测即将面临的挑战。
2022-09-28 cs.CL cs.LG
Improved two-stage hate speech classification for twitter based on Deep Neural Networks
Computer Science Research \& Development, \ , Greece
仇恨言论是一种涉及使用辱骂性语言的在线骚扰形式，常见于社交媒体帖子中。这种骚扰主要集中在特定群体的特征，如宗教，性别，种族等，它具有社会和经济后果。文本帖子中的辱骂性语言的自动检测一直是一项艰巨的任务，但它最近受到了科学界的极大兴趣。本文讨论了识别社交媒体中仇恨内容的重要问题。我们在这项工作中提出的模型是基于LSTM神经网络架构的现有方法的扩展，我们对其进行了适当的增强和微调，以检测短文本中某些形式的仇恨语言，例如种族主义或性别歧视。最显著的增强是转换为由递归神经网络（RNN）分类器组成的两阶段方案。第一阶段的OvR分类器的输出被组合并用于训练第二阶段分类器，其最终确定骚扰类型。我们的研究包括在16k tweets的公共语料库上评估的第二阶段的几种拟议的替代方法的性能比较，然后在另一个数据集上进行泛化研究。报告的结果表明，优越的分类质量的仇恨语音检测的任务相比，目前的最先进的所提出的计划。
2022-06-08 cs.AI cs.CL cs.IR
Neural Word Decomposition Models for Abusive Language Detection
Amazon AI（亚马逊人工智能）
社交媒体上的用户生成文本通常具有许多不受欢迎的特征，包括仇恨言论，辱骂性语言，侮辱等，这些特征旨在攻击或虐待特定人群。通常，与传统文本相比，这样的文本被不同地书写，传统文本诸如涉及明确提及辱骂性词语、混淆词语和类型错误或隐含辱骂的新闻，即，表明或针对消极的刻板印象。因此，当我们应用为传统文本开发的自然语言处理技术时，处理此文本提出了几个鲁棒性挑战。例如，使用基于单词或标记的模型来处理这样的文本可以将单词的两个拼写变体视为两个不同的单词。根据最近的工作，我们分析了字符，子字和字节对编码（BPE）模型可以帮助用户生成的文本所带来的一些挑战。在我们的工作中，我们分析了上述每种技术的有效性，比较和对比各种词分解技术与其他技术结合使用时。我们尝试微调大型预训练语言模型，并通过研究维基百科攻击，毒性和Twitter仇恨言论数据集来证明它们对域转移的鲁棒性
2019-10-02 cs.CL
On Analyzing Annotation Consistency in Online Abusive Behavior Datasets
University of Saskatchewan（萨斯喀彻温大学）；University of Electronic Science and Technology of China（电子科技大学）；Istituto Dalle Molle di Studi sull’Intelligenza Artificiale（达莱莫勒人工智能研究所）
在线虐待行为是一个重要的问题，它破坏了在线社交社区的凝聚力，甚至引发了我们社会中的公共安全问题。受这一日益严重的问题的激励，研究人员提出，收集和注释在线滥用内容数据集。这些数据集在促进对在线仇恨言论和虐待行为的研究方面发挥着关键作用。然而，这样的数据集的注释是一项困难的任务;对于什么应该是给定文本的真实标签经常是有争议的，因为标签的语义差异可能是模糊的（例如，仇恨和仇恨），而且往往是主观的。在这项研究中，我们提出了一个分析框架来研究在线仇恨和滥用内容数据集的注释一致性。我们应用我们提出的框架来评估在三个流行的数据集中注释的一致性，这些数据集广泛用于在线仇恨言论和虐待行为研究。我们发现，在现有的数据集中仍然存在大量的注释不一致，特别是当标签在语义上相似时。
2020-06-24 cs.CL cs.SI
An Efficient Hybrid Deep Learning Approach for Detecting Online Abusive Language
本文提出一种结合BERT、CNN和LSTM的混合深度学习模型，用于高效检测在线恶意语言，实现高精度和召回率。
2026-02-12 cs.CL
AbuseAnalyzer: Abuse Detection, Severity and Target Prediction for Gab Posts
International Institute of Information Technology Hyderabad（海得拉巴国际信息技术研究所）；Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术研究所）；Microsoft（微软）
虽然在线社交媒体平台的广泛普及使信息传播更快，但也导致了不同类型的广泛在线滥用，如仇恨言论、攻击性语言、性别歧视和种族主义观点等。以前的工作集中在将用户帖子分类为各种形式的滥用行为。但几乎没有任何关注估计虐待的严重程度和目标。在本文中，我们提出了第一个数据集，其中包含来自Gab的7601个帖子，该数据集从滥用的存在，严重程度和滥用行为的目标的角度来看待在线滥用。我们还提出了一个系统来解决这些任务，获得的准确性为80%的滥用存在，滥用目标预测的准确性为82%，滥用严重程度预测的准确性为65%。
2020-10-08 cs.CL cs.IR
Attending the Emotions to Detect Online Abusive Language
University of Houston（休斯顿大学）
近年来，滥用行为已成为在线社交网络中的一个严重问题。在本文中，我们提出了一个新的语料库，从一个半匿名的社交媒体平台，其中包含的攻击性和中性类的实例。我们引入了一个单一的深层神经架构，它考虑了文本中的本地和顺序信息，以检测辱骂性语言。随着这个模型，我们引入了一个新的注意力机制称为情绪感知注意。这种机制利用文本背后的情感来找到文本中最重要的词。我们在我们的数据集上实验了这个模型，然后给出了分析。此外，我们评估我们提出的方法在不同的语料库，并显示新的国家的最先进的结果与攻击性语言检测。
2019-09-06 cs.CL
A Keyword Based Approach to Understanding the Overpenalization of Marginalized Groups by English Marginal Abuse Models on Twitter
Twitter（推特（X））
有害内容检测模型往往对边缘化群体的内容具有更高的误报率。在Twitter上的边缘虐待模式的背景下，这种不成比例的惩罚造成了能见度降低的风险，边缘化社区失去了在平台上表达意见的机会。目前的算法危害缓解方法和NLP模型的偏差检测通常是非常特别的，并且容易受到人类偏见的影响。我们在本文中做出两个主要贡献。首先，我们设计了一种新的方法，它提供了一种原则性的方法来检测和测量与基于文本的模型相关的潜在危害的严重程度。其次，我们应用我们的方法来审计Twitter的英语边际滥用模型，这是用于删除放大资格的边际滥用内容。在不使用人口统计标签或方言分类器的情况下，我们仍然能够检测和衡量与边缘化社区言论过度惩罚相关问题的严重性，例如使用回收言论，反言论和身份相关术语。为了减轻相关的危害，我们尝试添加额外的真实负面示例，并发现这样做可以改善我们的公平性指标，而不会大幅降低模型性能。
2022-10-07 cs.CL
Abusive Language Detection in Online Conversations by Combining Content-and Graph-based Features
Avignon University（阿维尼翁大学）
近年来，在线社交网络允许世界各地的用户见面和讨论。作为这些社区的维护者，这些平台的管理员必须防止用户采取不适当的行为。由于需要检查的消息量不断增加，这种主要由人类完成的验证任务变得越来越困难。已经提出了方法来自动化这个缓和过程，主要是通过提供基于所交换的消息的文本内容的方法。最近的工作还表明，从对话结构中得出的特征，以对话图的形式，可以帮助检测这些滥用信息。在本文中，我们建议利用这两个来源的信息，提出融合方法，整合内容和图形为基础的功能。我们对原始聊天记录的实验表明，消息的内容，以及它们在对话中的动态包含部分互补信息，从而提高了滥用消息分类任务的性能，最终F值为93.26%。
2019-05-20 cs.CL cs.IR cs.SI
Neural Character-based Composition Models for Abuse Detection
University of Cambridge（剑桥大学）；The ALTA Institute（ALTA研究所）；University of Amsterdam（阿姆斯特丹大学）
近年来，社交媒体的出现助长了一些非常不受欢迎的现象，如互联网上攻击性语言、仇恨言论、性别歧视言论等的泛滥。有鉴于此，已经做出了一些努力来自动检测和缓和这种滥用内容。然而，用户为逃避侦查而故意混淆文字，对这些努力的有效性构成了严重挑战。基于递归神经网络的滥用语言检测的当前最新方法没有明确解决这个问题，而是求助于针对未看到的单词的通用OOV（词汇表外）嵌入。然而，在对所有未看到的单词使用单个嵌入时，我们失去了区分混淆单词和非混淆单词或罕见单词的能力。在本文中，我们通过设计一个模型来解决这个问题，该模型可以为未见过的单词组成嵌入。我们的实验表明，我们的方法显着推进了目前的最先进的滥用检测数据集从两个不同的领域，即Twitter和维基百科的讨论页。
2018-09-02 cs.CL
SWSR: A Chinese Dataset and Lexicon for Online Sexism Detection
Queen Mary University of London（伦敦玛丽女王大学）；Oxford Brookes University（牛津布鲁克斯大学）
网络性别歧视已成为社交媒体平台上越来越令人担忧的问题，因为它影响了互联网的健康发展，并可能对社会产生负面影响。虽然性别歧视检测领域的研究正在增长，但大多数研究都集中在英语作为语言和Twitter作为平台上。我们的目标是通过考虑新浪微博上的中文语言来扩大这项研究的范围。我们提出了第一个中文性别歧视数据集--新浪微博性别歧视评论（SWSR）数据集--以及一个由辱骂性和性别相关术语组成的大型中文词典SexHateLex。我们介绍了我们的数据汇集和注释过程，并提供了一个探索性的分析数据集的特点，以验证其质量，并显示如何性别歧视的表现在中国。SWSR数据集提供了不同粒度级别的标签，包括（i）性别歧视或非性别歧视，（ii）性别歧视类别和（iii）目标类型，可以利用这些标签来构建计算方法，以识别和调查更细粒度的性别相关辱骂性语言。我们利用最先进的机器学习模型对三个性别歧视分类任务进行实验。我们的研究结果显示了有竞争力的性能，为中文中的性别歧视检测提供了基准，以及错误分析，突出了中文NLP需要更多研究的开放性挑战。SWSR数据集和SexHateLex词典是公开的。
2021-08-06 cs.CL
Graph Neural Networks for Antisocial Behavior Detection on Twitter
Faculty of Computer Science and Engineering, Ss. Cyril and Methodius University（西里尔和迪乌斯大学计算机科学与工程学院）
本研究提出一种语言和上下文无关的基于图卷积的反社会行为检测方法，并在多个PAN数据集上验证其有效性。
2023-12-28 cs.CL
Cultural Convergence: Insights into the behavior of misinformation networks on Twitter
Graphika, Inc.（格拉菲卡公司）
如何随着时间的推移研究网络中思想和社区的诞生和演变？我们使用多模式管道，包括网络映射，主题建模，桥接中心性和分歧，以分析围绕COVID-19大流行的Twitter数据。我们使用网络映射来检测围绕COVID-19创建内容的帐户，然后使用潜在狄利克雷分配来提取主题，并桥接中心性来识别主题和非主题桥梁，然后检查每个主题和桥梁随时间的分布，并应用主题分布的詹森-香农发散来显示主题叙述中正在收敛的社区。
2020-07-07 cs.CL cs.SI physics.soc-ph
Unraveling Social Perceptions & Behaviors towards Migrants on Twitter
L3S Research Center, Leibniz Universität Hannover（汉诺威莱布尼茨大学L3S研究中心）
我们从社会心理学文献中汲取见解，以确定Twitter对移民的审议的两个方面，即，对移民的看法和对移民补助金的行为。我们的理论锚定帮助我们确定了两种普遍的看法（即，同情和反感）和两种主导行为（即，社会媒体用户对移徙者的声援和敌意。我们采用了无监督和监督的方法来识别这些感知和行为。在应用NLP领域，我们的研究提供了一个微妙的理解移民相关的Twitter的de-liberations。我们提出的基于变压器的模型，即，BERT + CNN的F1得分为0.76，优于其他模型。此外，我们认为，传达反感或敌意的推文可以被广泛认为是对移民的仇恨言论，但它们并不相同。因此，我们的方法通过突出仇恨言论的感知和行为方面之间的颗粒差异，微调了二进制仇恨言论检测任务。
2021-12-04 cs.CL cs.CY cs.LG
Breaking the Silence Detecting and Mitigating Gendered Abuse in Hindi, Tamil, and Indian English Online Spaces
National Institute of Technology Silchar（锡尔卡尔国家技术学院）
本文提出融合 CNN 与 BiLSTM、并结合 FastText/GloVe 嵌入的性别化辱骂检测集成模型，在多语种 Twitter 数据集上取得竞赛第一名。
2024-04-03 cs.CL
A study of text representations in Hate Speech Detection
National and Kapodistrian University of Athens（雅典国立卡波迪斯特里安大学）；NCSR Demokritos（德谟克利特国家科学研究中心）
互联网和社交媒体的普及使仇恨言论内容能够在推特等微博平台上迅速匿名传播。目前欧盟和美国针对仇恨语言的立法，加上这些平台产生的大量数据，导致自动工具成为仇恨语音检测任务和管道的必要组成部分。在这项研究中，我们研究了几种不同的文本表示技术与多个分类算法配对，在自动仇恨语音检测和辱骂性语言歧视任务的性能。我们对二进制和多类数据集进行了实验评估，并进行了显著性测试。我们的研究结果表明，简单的仇恨关键词频率特征（BoW）效果最好，其次是预训练的词嵌入（GLoVe）以及N-gram图（NGG）：一种基于图形的表示，证明可以为这项任务产生高效，非常低维但丰富的特征。这些表示与逻辑回归或3层神经网络分类器的组合在微观和宏观F测量方面实现了最佳的检测性能。
2021-02-08 cs.CL
Hate speech detection in algerian dialect using deep learning
OMDENA
针对阿尔及利亚阿拉伯方言仇恨言论检测研究不足的问题，本文构建超过13.5K条社交网络文本语料库并评估多种深度学习架构，验证了所提方法的有效性。
2024-10-25 cs.CL
An Influence-based Clustering Model on Twitter
Stevens Institute of Technology（史蒂文斯理工学院）
本文介绍了一个时间框架检测和聚类的突发和病毒性的社交网络上的主题。基于用户在社交网络上的行为和来自Twitter API的数据集，使用聚类方法探索了病毒式内容发展的内源性和外源性影响。结果进行了讨论，通过引入指标，如流行度，突发性和相关性得分。结果表明，两类用户的开发内容的特点有明显的区别。
2018-11-19 cs.CL cs.SI
Why Are You More Engaged? Predicting Social Engagement from Word Use
IBM Research - Almaden（IBM阿尔马登研究院）
我们提出了一项研究，分析如何使用的话可以预测社会参与行为，如在Twitter上的回复和转发。我们计算心理语言学的类别分数从词的使用，并调查不同分数的人如何表现出不同的回复和转发Twitter上的行为。我们还发现心理语言学类别与这种社会参与行为具有显着的相关性。此外，我们已经建立了预测模型的答复和转推，从这种心理语言学类别为基础的功能。我们使用从Twitter收集的真实世界数据集进行的实验验证了这种预测可以以合理的准确度进行。
2014-02-26 cs.CL cs.CY cs.SI
Misogynistic Tweet Detection: Modelling CNN with Small Datasets
Queensland University of Technology（昆士兰科技大学）
近年来，社交媒体平台Twitter上针对妇女的在线虐待行为引起了相当大的关注。一种有效识别厌女症虐待的自动化方法可以提高我们对持续一段时间内与虐待性推文相关的模式、驱动因素和反应有效性的理解。然而，训练一个神经网络（NN）模型与一个小的一组标记的数据来检测厌恶女性的推文是困难的。这部分是由于包含厌恶女性内容的推文的复杂性，以及在NN模型中需要学习的大量参数。我们已经进行了一系列的实验，以探讨如何训练神经网络模型，以有效地检测厌恶女性的推文。特别是，我们已经定制和正则化了卷积神经网络（CNN）架构，并表明在特定任务域上预训练的词向量可以用于在少量标记数据可用时有效地训练CNN模型。以这种方式训练的CNN模型与最先进的模型相比提高了准确性。
2020-08-28 cs.CL cs.LG cs.SI
Search, Structure, and Sentiment: A Comparative Analysis of Network Opinion in Different Query Types on Twitter
West Windsor-Plainsboro High School South（西温莎-普兰斯堡南高中）
理解结构和情感之间的关系对于突出未来在线社交网络的运营至关重要。更具体地说，在Twitter上的热门话题中。本文提供了两个变量之间的关系的发展：结构，定义为一个有向网络的组成，和情绪，一个量化的价值的积极/消极的内涵的对话。我们强调线程情绪与网络的强度和连接性成反比。本文的第二部分强调了查询类型的差异，特别是上述行为在四种关键查询类型中的差异。本文重点讨论了主题，基于事件，地理和个人查询的方向，有不同的行为。使用交叉查询分析，我们看到结构和情感之间的关系，虽然仍然成反比，但在不同的查询类型中差异很大。我们发现这种关系在单个查询中是最清晰的，在基于事件的查询中是最不普遍的。本文提供了一个社会学的进展，我们的理解意见和网络，同时提供了一个方法上的进步，为今后的研究类似的主题。
2022-12-25 cs.CL cs.CY cs.SI
Cohesion and Coalition Formation in the European Parliament: Roll-Call Votes and Twitter Activities
Jožef Stefan Institute（约瑟夫·斯蒂芬研究所）；Université Panthéon-Sorbonne（巴黎第一大学）；Paris School of Economics（巴黎经济学院）
我们通过分析欧洲议会议员在政策制定过程中两个完全不同的方面来研究第八届欧洲议会（2014- 2019）政治团体内部的凝聚力和联盟。一方面，我们分析他们的共同投票模式，另一方面，他们的转推行为。我们在分析中使用了两个不同的数据集。第一个是唱名投票数据集，其中凝聚力被认为是一个群体内共同投票的趋势，当几个群体的成员在一个主题上表现出高度的共同投票一致性时，就会形成联盟。第二个数据集来自Twitter;它捕获了转发（即，赞同）的行为，并意味着凝聚力（同一组内的转发）和联盟（组之间的转发）从一个完全不同的角度。我们采用两种不同的方法来分析凝聚力和联盟。第一个是基于Krippendorff的Alpha可靠性，用于测量数据分析场景中评分者之间的一致性，第二个是基于指数随机图模型，通常用于社会网络分析。我们给出了一般的见解，在欧洲议会的政治团体的凝聚力，探讨联盟是否以相同的方式形成不同的政策领域，并检查在何种程度上的欧洲议会议员的转发行为对应于他们的共同投票模式。我们工作的一个新颖而有趣的方面是共同投票和转发模式之间的关系。
2016-10-14 cs.CL cs.CY cs.SI
Twitter Bot Detection Using Bidirectional Long Short-term Memory Neural Networks and Word Embeddings
York University（约克大学）
Twitter是一个网络应用程序，扮演着在线社交网络和微博的双重角色。Twitter的流行和开放结构吸引了大量的自动化程序，被称为机器人。合法机器人生成大量良性上下文内容，即，tweets提供新闻和更新提要，而恶意机器人则传播垃圾邮件或恶意内容。为了帮助人类用户识别他们正在与谁交互，本文重点关注Twitter上的人类和垃圾邮件账户的分类，通过采用递归神经网络，特别是双向长短期记忆（BiLSTM），有效地捕获推文的特征。据我们所知，我们的工作是第一个开发具有词嵌入的递归神经模型，以区分Twitter机器人和人类帐户，不需要事先了解或假设用户的个人资料，友谊网络或目标帐户的历史行为。此外，我们的模型不需要任何手工制作的功能。初步的模拟结果非常令人鼓舞。在cresci-2017数据集上的实验表明，与现有的最先进的机器人检测系统相比，我们的方法可以实现具有竞争力的性能。
2020-02-03 cs.CL cs.CR cs.LG
