Comparing the Language of QAnon-related content on Parler, Gab, and Twitter
本文通过跨平台比较 Parler、Gab 和 Twitter 上 #QAnon 帖子的毒性、仇恨术语、实体提及与叙事，揭示不同平台在阴谋论内容表达上的差异及其与政治人物的关联。
2021-11-22 cs.CY cs.SI
Hate Speech Detection Using Cross-Platform Social Media Data In English and German Language
University of Duisburg-Essen（杜伊斯堡-埃森大学）；University of Agder（阿格德大学）
针对仇恨言论检测缺乏通用模型、高质量训练数据成本高的问题，本研究结合跨平台数据构建双语检测模型，验证了相似数据集的增益作用，实现了英德YouTube评论检测的最优F1值。
2024-10-02 cs.AI cs.CL cs.SI
AbuseAnalyzer: Abuse Detection, Severity and Target Prediction for Gab Posts
International Institute of Information Technology Hyderabad（海得拉巴国际信息技术研究所）；Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术研究所）；Microsoft（微软）
虽然在线社交媒体平台的广泛普及使信息传播更快，但也导致了不同类型的广泛在线滥用，如仇恨言论、攻击性语言、性别歧视和种族主义观点等。以前的工作集中在将用户帖子分类为各种形式的滥用行为。但几乎没有任何关注估计虐待的严重程度和目标。在本文中，我们提出了第一个数据集，其中包含来自Gab的7601个帖子，该数据集从滥用的存在，严重程度和滥用行为的目标的角度来看待在线滥用。我们还提出了一个系统来解决这些任务，获得的准确性为80%的滥用存在，滥用目标预测的准确性为82%，滥用严重程度预测的准确性为65%。
2020-10-08 cs.CL cs.IR
Proactively Reducing the Hate Intensity of Online Posts via Hate Speech Normalization
IIIT-Delhi（德里英迪拉·甘地信息技术学院）；Northeastern University（东北大学）
遏制网络仇恨言论已成为当务之急;然而，出于地缘政治和文化原因，全面禁止此类活动是不可行的。为了降低问题的严重性，在本文中，我们介绍了一种新的任务，仇恨言论规范化，旨在削弱仇恨的强度所表现出的在线帖子。仇恨言论正常化的目的不是支持仇恨，而是为用户提供一个迈向非仇恨的垫脚石，同时给在线平台更多的时间来监测用户行为的任何改善。为此，我们手动策划了一个平行的语料库-仇恨文本及其规范化的对应文本（规范化的文本不那么仇恨，更良性）。我们介绍NACL，一个简单而有效的仇恨言论规范化模型，分三个阶段操作-首先，它测量原始样本的仇恨强度;第二，它确定其中的仇恨跨度;最后，它通过解释仇恨跨度来降低仇恨强度。我们进行了广泛的实验，通过三方面的评估（内在的，外在的，和人体研究）来衡量NACL的疗效。我们观察到NACL优于六个基线- NACL产生的强度预测的RMSE为0.1365，跨度识别的F1分数为0.622，以及标准化文本生成的BLEU和困惑度为82.27和80.05。我们进一步展示了NACL在其他平台（Reddit，Facebook，Gab）上的通用性。NACL的交互式原型放在一起的用户研究。此外，该工具正在Wipro AI的现实环境中部署，作为其解决在线平台上有害内容的使命的一部分。
2022-06-08 cs.CL
A Benchmark Dataset for Learning to Intervene in Online Hate Speech
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Intel AI（英特尔人工智能）
打击网上仇恨言论是一项关键而又具有挑战性的任务，但可以通过使用自然语言处理（NLP）技术来帮助。以前的研究主要集中在开发NLP方法，以自动有效地检测在线仇恨言论，同时忽略了需要采取进一步行动来平息和阻止个人在未来使用仇恨言论。此外，大多数现有的仇恨言论数据集将每个帖子视为一个孤立的实例，忽略了会话上下文。在本文中，我们提出了一个新的任务生成仇恨言论干预，其目标是自动生成响应，在包含仇恨言论的在线对话进行干预。作为这项工作的一部分，我们介绍了从Gab和Reddit收集的两个完全标记的大规模仇恨言论干预数据集。这些数据集提供了对话片段，仇恨言论标签，以及由土耳其机械工人撰写的干预回应。在本文中，我们还分析了数据集，以了解常见的干预策略，并探讨了常见的自动响应生成方法在这些新数据集上的性能，为未来的研究提供了一个基准。
2019-09-10 cs.AI cs.CL cs.CY
On the rise of fear speech in online social media
Rutgers University（罗格斯大学）
最近，社交媒体平台受到严格控制，以防止网上仇恨言论的传播，这些言论通常含有大量有毒词语，并针对个人或社区。由于这种严重的缓和，正在使用更新和更微妙的技术。其中，最令人敬畏的是《论语》。恐惧演讲，顾名思义，试图煽动对目标社区的恐惧。虽然很微妙，但它可能非常有效，经常将社区推向身体冲突。因此，了解它们在社交媒体中的流行程度至关重要。本文介绍了一项大规模的研究，以了解从Gab.com收集的40万恐惧言论和超过70万仇恨言论帖子的流行情况。值得注意的是，发布大量恐惧言论的用户比发布大量仇恨言论的用户积累了更多的关注者，并在社交网络中占据了更多的中心位置。他们还可以通过回复、转发和提及，比仇恨言论用户更有效地接触到良性用户。这与一个事实有关，即与仇恨言论不同，恐惧言论几乎没有有毒内容，使其看起来似乎是合理的。此外，虽然恐惧言论主题大多将社区描绘为使用（假）论证链的犯罪者，但仇恨言论主题直接投掷多目标侮辱，从而指出为什么一般用户更容易上当恐惧言论。我们的发现甚至超越了其他平台（Twitter和Facebook），因此有必要使用复杂的审核政策和大众意识来对抗恐惧言论。
2023-03-18 cs.CL cs.CY cs.SI
Sexism Identification in Tweets and Gabs using Deep Neural Networks
通过匿名化和可访问性，社交媒体平台促进了仇恨言论的扩散，促使人们更多地研究开发自动识别这些文本的方法。本文使用各种深度神经网络模型架构（如长短期记忆（LSTM）和卷积神经网络（CNN））探索文本中性别歧视的分类。这些网络与来自Transformers（BERT）和DistilBERT模型的双向编码器表示形式的迁移学习结合使用，以及数据增强，以对来自IberLEF 2021中社交网络中的sEXism识别（EXIST）任务的推文和gab数据集执行二进制和多类性别歧视分类。这些模型的性能与竞争对手的模型相比，使用BERT和多滤波器CNN模型的性能最好。数据增强进一步改善了多类分类任务的这些结果。本文还探讨了模型所产生的错误，并讨论了由于标签的主观性和社交媒体中使用的自然语言的复杂性而导致的性别歧视自动分类的困难。
2021-11-05 cs.CL cs.LG
Impact of Stricter Content Moderation on Parler's Users' Discourse
本文通过分析 Parler 在 2021 年审核政策收紧前后 17M 条帖子的纵向数据，首次数据驱动地验证了更严格内容审核能持续降低严重毒性言论并提升分享来源的事实性，但对较轻的威胁和侮辱效果有限。
2025-02-04 cs.CY cs.SI
Hate begets Hate: A Temporal Study of Hate Speech
随着关于“言论自由”与“仇恨言论”的持续辩论，迫切需要仔细了解两者不可避免的高潮的后果，即，“仇恨言论自由”随着时间的推移理解这一点的理想方案是在（几乎）不受限制的环境中观察仇恨言论的影响。因此，我们在Gab.com上对仇恨言论进行了第一次时间分析，这是一个具有非常宽松的适度政策的社交媒体网站。我们首先从数百万的帖子和用户中生成Gab的时间快照。使用这些时间快照，我们计算一个活动向量的基础上DeGroot模型来识别仇恨用户。Gab中的仇恨言论数量正在稳步增加，新用户正在以更快的速度变得仇恨。此外，我们的分析表明，仇恨用户在Gab网络中占据了突出的位置。此外，与非仇恨用户相比，整个社区使用的语言似乎与仇恨用户的语言更相关。我们讨论了如何，在CSCW中的许多关键的设计问题，从我们的工作开放。
2020-08-03 cs.HC cs.SI
Spread of hate speech in online social media
目前的在线社交媒体平台受到几个问题的困扰，仇恨言论是最主要的问题。网络仇恨言论的流行助长了可怕的现实世界仇恨犯罪，例如罗兴亚穆斯林的大规模种族灭绝，科伦坡的社区暴力以及最近在匹兹堡犹太教堂发生的大屠杀。因此，它是必须了解这种仇恨的内容在网上设置的扩散.我们进行了第一项研究，分析了Gab（gab.com）上仇恨和非仇恨用户在341K用户和21M帖子的大规模数据集上生成的帖子的流量和动态。我们的观察证实，仇恨内容传播得更远、更广、更快，比非仇恨用户的传播范围更广。对仇恨和非仇恨用户的个人资料和网络进行更深入的调查发现，前者更有影响力，更受欢迎，更有凝聚力。因此，我们的研究探讨了仇恨用户的传播动态的有趣方面，并扩大了我们对网络世界中仇恨言论的理解。
2018-12-04 cs.SI
Detecting Online Hate Speech: Approaches Using Weak Supervision and Network Embedding Models
UNC Charlotte（北卡罗来纳大学夏洛特分校）；Oklahoma State University（俄克拉荷马州立大学）；Brown University（布朗大学）
无处不在的社交媒体改变了个人之间的在线互动。尽管有积极的影响，但它也允许反社会分子在其他社交媒体环境中团结起来（例如，社交媒体）。Gab.com）前所未有的。使用自动化技术检测这种仇恨言论可以让社交媒体平台调整其内容，并防止仇恨言论传播等邪恶活动。在这项工作中，我们提出了一个弱监督深度学习模型-（i）定量发现仇恨用户和（ii）提出一种新的定性分析，以发现间接仇恨对话。该模型在交互层面上对内容进行评分，而不是帖子或用户层面，并允许对最频繁参与仇恨对话的用户进行表征。我们在1920万个帖子上评估了我们的模型，结果表明，我们的弱监督模型在识别间接仇恨互动方面优于基线模型。我们还分析了一个多层网络，从两种类型的用户交互在加布（报价和回复）和弱监督模型的边缘权重的交互分数，预测可恨的用户。我们利用多层网络嵌入方法来生成预测任务的特征，并且我们表明考虑来自多个网络的用户上下文有助于更好地预测Gab中的仇恨用户。与单层或同构网络嵌入模型相比，我们获得了高达7%的性能增益。
2020-07-24 cs.LG cs.SI
Inside the Right-Leaning Echo Chambers: Characterizing Gab, an Unmoderated Social System
许多社交媒体系统（如Twitter和Facebook）的内容节制促使一个新的促进言论自由的社交网络系统Gab的出现。不久之后，Gab因违反公司的仇恨言论政策而被从Google Play商店中删除，并因类似原因被苹果拒绝。在本文中，我们Gab的特点，旨在了解谁是用户谁加入了它，什么样的内容，他们在这个系统中共享。我们的研究结果表明，Gab是一个非常政治化的系统，它托管了来自其他社交网络的被禁止用户，其中一些是由于可能的仇恨言论和与极端主义的联系。我们提供了第一个测量新闻传播的右倾回声室内，调查的社交媒体，读者很少接触到的内容，跨越意识形态线，而是与内容，加强他们当前的政治或社会观点喂养。
2018-07-10 cs.SI
From Welcome New Gabbers to the Pittsburgh Synagogue Shooting: The Evolution of Gab
Gab是一个几乎没有内容审核的在线社交媒体平台，最近已经成为一个另类右翼社区和仇恨言论的避风港。我们记录了Gab自成立以来的演变，直到Gab用户对美国历史上的犹太社区进行了最致命的攻击。我们调查了Gab语言的使用，研究了话题如何随着时间的推移而演变，发现枪手的帖子是Gab上最一贯的反犹太主义者，但数百名其他用户甚至更极端。
2019-12-24 cs.SI
Characterizing (Un)moderated Textual Data in Social Systems
尽管在线媒体促进了有价值的社会互动，但这些系统为言论提供了空间，这对不同群体的人来说可能是有害的。许多社交媒体对内容的节制促使了一个名为Gab的新的言论自由社交系统的出现，该系统缺乏内容的节制。这篇文章的特点和比较温和的文本数据从Twitter的一组未经审核的数据从加布。特别是，我们分析了温和和unmoderated内容的语言特征方面的区别特征，评估仇恨言论及其在这两种环境中的不同形式。我们的研究表明，无节制的内容呈现出不同的心理语言学特征，更多的负面情绪和更高的毒性。我们的研究结果支持无节制的环境可能会有更多的在线仇恨言论。我们希望我们的分析和研究结果有助于关于仇恨言论的辩论，并有利于旨在部署仇恨言论检测方法的系统。
2021-01-04 cs.SI
New threats to society from free-speech social media platforms
本文指出 Parler、Gab、Telegram 等无审核“自由言论”平台吸引极端用户并带来社会威胁，呼吁加强政策研究以应对相关风险。
2023-02-02 cs.SI
What is Gab? A Bastion of Free Speech or an Alt-Right Echo Chamber?
在过去的几年里，一些新的“边缘”社区，如4chan或某些subreddits，在网络上迅速获得了吸引力。然而，通常情况下，人们对它们如何演变或它们吸引了什么样的活动知之甚少，尽管最近的研究表明，它们影响了虚假信息如何到达主流社区。这就需要监控这些社区并分析它们对Web信息生态系统的影响。2016年8月，一个名为Gab的新社交网络被创建，作为Twitter的替代品。它将自己定位为“人民和言论自由第一”，欢迎被其他社交网络禁止或暂停的用户。在本文中，我们提供了，尽我们所知，第一个特征的加布。我们收集并分析了2016年8月至2018年1月期间33.6万用户发布的2200万条帖子，发现Gab主要用于传播和讨论新闻和世界事件，并吸引了另类右翼用户，阴谋论者和其他巨魔。我们还测量了平台上仇恨言论的流行程度，发现它远高于Twitter，但低于4chan的Politically Incorrect board。
2018-03-13 cs.CY cs.SI
Information Consumption and Social Response in a Segregated Environment: the Case of Gab
大多数信息操作都涉及用户，他们可能会助长对科学和主流新闻的两极分化和不信任，而这些用户没有意识到自己的角色。Gab是一个众所周知的对用户友好的平台，对发布的内容几乎没有控制。因此，它代表了一个理想的基准研究现象可能与两极分化，如错误信息传播。这些因素的结合可能导致仇恨以及在现实世界中的伤害事件。在这项工作中，我们提供了Gab内部围绕COVID-19主题的交互模式的表征。为了评估不同内容类型的传播，我们分析了消费模式的基础上的互动类型和源的可靠性。总的来说，我们发现，有问题的和可靠的内容的社会反应没有很强的统计差异，都遵循幂律分布。然而，可疑和可靠的来源显示在使用标签的结构和主题的差异。用户在生命周期和情感方面的评论行为表明，可疑和可靠的帖子以相同的方式被感知。我们可以得出结论，尽管可疑和可靠的帖子之间存在明显的差异，但Gab用户并没有进行这样的区分，因此将它们作为一个整体对待。我们的研究结果提供了见解，对协调的不真实行为的理解和信息操作的预警。
2021-07-19 cs.CY cs.SI
Entendre, a Social Bot Detection Tool for Niche, Fringe, and Extreme Social Media
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Moody College of Communication（穆迪传播学院）
针对现有社交机器人检测工具多聚焦Twitter、小众边缘平台防护不足的问题，研究提出平台无关的开源框架Entendre，基于通用特征用随机森林实现快速跨平台检测，在Parler数据集上验证了其有效性与应用价值。
2024-08-13 cs.AI cs.CY cs.HC
Modelling the Spread of Toxicity and Exploring its Mitigation on Online Social Networks
本文提出了一种基于用户行为变化的毒性传播模型，并通过和平机器人干预策略减少网络中的毒性传播。
2025-11-25 cs.SI
Ideological Fragmentation of the Social Media Ecosystem: From echo chambers to echo platforms
该研究通过分析九个平台1.17亿条美国大选相关帖子，从平台中心性、新闻消费和用户构成三个维度量化了社交媒体生态系统从回音室向意识形态同质化“回音平台”的碎片化演变。
2025-06-04 cs.CY cs.SI physics.soc-ph
