Hate Raids on Twitch: Echoes of the Past, New Modalities, and Implications for Platform Governance
2021年夏天，直播平台Twitch上的用户成为一波“仇恨袭击”的目标，这是一种攻击形式，通常通过使用机器人和自动化，用仇恨信息攻击主播的聊天室。使用混合方法，我们将整个平台的攻击定量测量与流媒体和第三方机器人开发人员的访谈相结合。我们提出的证据证实，一些仇恨袭击是高度针对性的，仇恨驱动的攻击，但我们也观察到另一种模式的仇恨袭击类似于网络骚扰和特定形式的亚文化拖钓。我们表明，自我认同为LGBTQ+和/或黑人的流媒体是不成比例的目标，仇恨袭击信息最常见的根源是反黑人种族主义和反犹太主义。我们还记录了这些攻击如何引起社区的快速响应，以支持反应性缓和并为未来的攻击制定主动缓解措施。最后，我们讨论了平台如何更好地为攻击做好准备并保护处于风险中的社区，同时考虑社区管理员，工具构建者和平台之间的分工。
2023-01-13 cs.CR cs.CY cs.HC
Retweet communities reveal the main sources of hate speech
Jozef Stefan Institute（约瑟夫·斯特凡研究所）；Jozef Stefan International Postgraduate School（约瑟夫·斯特凡国际研究生院）；University of Ljubljana（卢布尔雅那大学）
我们解决了一个具有挑战性的问题，即确定Twitter上仇恨言论的主要来源。一方面，我们仔细注释了大量仇恨言论的推文，并部署了先进的深度学习来生成高质量的仇恨言论分类模型。另一方面，我们创建转推网络，检测社区并监控它们随时间的演变。这种综合方法适用于斯洛文尼亚Twitter数据的三年。我们报告了一些有趣的结果。仇恨言论以攻击性推文为主，与政治和意识形态问题有关。不可接受的推文的比例随着时间的推移而适度增加，从最初的20%到2020年底的30%。不可接受的推文比可接受的推文被转发的频率要高得多。大约60%的不可接受的推文是由一个只有中等规模的右翼社区产生的。机构Twitter账户和媒体账户发布的不可接受的推文比个人账户少得多。事实上，不可接受的推文的主要来源是匿名账户，以及在2018-2020年期间被暂停或关闭的账户。
2022-03-17 cs.CY cs.LG cs.SI
Unraveling Social Perceptions & Behaviors towards Migrants on Twitter
L3S Research Center, Leibniz Universität Hannover（汉诺威莱布尼茨大学L3S研究中心）
我们从社会心理学文献中汲取见解，以确定Twitter对移民的审议的两个方面，即，对移民的看法和对移民补助金的行为。我们的理论锚定帮助我们确定了两种普遍的看法（即，同情和反感）和两种主导行为（即，社会媒体用户对移徙者的声援和敌意。我们采用了无监督和监督的方法来识别这些感知和行为。在应用NLP领域，我们的研究提供了一个微妙的理解移民相关的Twitter的de-liberations。我们提出的基于变压器的模型，即，BERT + CNN的F1得分为0.76，优于其他模型。此外，我们认为，传达反感或敌意的推文可以被广泛认为是对移民的仇恨言论，但它们并不相同。因此，我们的方法通过突出仇恨言论的感知和行为方面之间的颗粒差异，微调了二进制仇恨言论检测任务。
2021-12-04 cs.CL cs.CY cs.LG
The Effect of Extremist Violence on Hateful Speech Online
用户生成的在线内容受到许多因素的影响，包括平台可供性和规范等内源性因素，以及特别是重大事件等外源性因素。这些影响用户说什么，他们怎么说，当他们说it.In本文中，我们专注于量化暴力事件对各种类型的仇恨言论的影响，从进攻和贬损恐吓和明确呼吁暴力。我们将这项研究锚定在一系列涉及阿拉伯人和穆斯林作为肇事者或受害者的袭击中，这些袭击发生在西方国家，已被新闻媒体广泛报道。这些攻击引发了各种论坛围绕移民的激烈政策辩论，包括网络媒体，这些论坛受到种族主义偏见和仇恨言论的破坏。我们研究的重点是模拟攻击对Twitter和Reddit两个社交媒体平台上仇恨言论的数量和类型的影响。在其他调查结果中，我们观察到极端主义暴力倾向于导致网上仇恨言论的增加，特别是直接鼓吹暴力的信息。我们的研究对网络仇恨言论的监控方式有影响，并提出了打击仇恨言论的方法。
2018-04-16 cs.CY cs.SI
Islamophobes are not all the same! A study of far right actors on Twitter
极右翼行为者往往在网上散布仇视伊斯兰教的仇恨言论，利用社交媒体传播分裂和偏见的信息，这可能引发群体间的紧张关系和冲突。仇恨内容可能对目标受害者造成伤害，在社区中造成恐惧感，并挑起群体间的紧张关系和冲突。因此，有迫切需要更好地了解在颗粒级如何伊斯兰恐惧症表现在线和谁生产它。我们调查了一个著名的英国极右政党在Twitter上，英国国家党的追随者之间的伊斯兰恐惧症的动态。通过分析一年内收集的500万条推文的新数据集，使用机器学习分类器和潜在马尔可夫模型，我们确定了七种类型的伊斯兰恐惧症极右行为者，捕捉了他们行为的定性，定量和时间差异。值得注意的是，我们表明，少数用户要为我们观察到的大多数伊斯兰恐惧症负责。然后，我们讨论了社会媒体监管的背景下，这种类型的政策含义。
2021-03-08 cs.CY cs.SI physics.soc-ph
Old wine in old glasses: Comparing computational and qualitative methods in identifying incivility on Persian Twitter during the #MahsaAmini movement
University of Vienna（维也纳大学）；Allameh Tabataba’i University（阿拉梅·塔巴塔巴伊大学）；Queensland University of Technology（昆士兰科技大学）；University of Wollongong（伍伦贡大学）
本文比较了三种方法在识别波斯语推文中的不文明行为，发现ParsBERT在识别仇恨言论方面表现优于ChatGPT，并揭示了ChatGPT在处理微妙和明显不文明内容时的不足。
2026-02-09 cs.CL cs.CY
Countering hate on social media: Large scale classification of hate and counter speech
Santa Fe Institute（圣塔菲研究所）；Center for the Study of Complex Systems（复杂系统研究中心）；University of Michigan（密歇根大学）；Vermont Complex Systems Center（佛蒙特复杂系统中心）；University of Vermont（佛蒙特大学）
仇恨言论正在扰乱网络话语，助长极端社会运动，并可能引发现实世界的暴力。解决这一日益严重的全球性问题的一个潜在办法是公民产生的反言论，公民积极参与充满仇恨的对话，试图恢复公民的非两极化话语。然而，它在遏制仇恨蔓延方面的实际效力是未知的，难以量化。研究这个问题的一个主要障碍是缺乏大的标记数据集来训练自动分类器来识别反语音。在这里，我们利用了德国的一个独特情况，在那里，自我标签的团体从事有组织的在线仇恨和反言论。我们使用了一种集成学习算法，该算法将各种段落嵌入与正则化逻辑回归函数配对，以在来自这两组的数百万条相关推文的语料库中对仇恨和反言论进行分类。我们的流水线在样本平衡测试集外获得了0.76到0.97的宏观F1分数-准确性一致，甚至超过了最先进的水平。在数千条推文上，我们使用众包来验证分类器做出的判断与人类判断的一致性。然后，我们使用分类器在2013年至2018年发生的超过135，000个完全解决的Twitter对话中发现仇恨和反言论，并研究它们的频率和互动。总之，我们的研究结果突出了自动化方法的潜力，以评估协调的反言语在稳定社交媒体上的对话的影响。
2020-06-05 cs.CY cs.LG cs.SI
Racism is a Virus: Anti-Asian Hate and Counterspeech in Social Media during the COVID-19 Crisis
Georgia Institute of Technology（佐治亚理工学院）；Virginia Tech（弗吉尼亚理工大学）
COVID-19的传播在社交媒体上引发了针对亚洲社区的种族主义和仇恨。然而，人们对种族仇恨在大流行期间如何传播以及反言论在缓解这种传播中的作用知之甚少。在这项工作中，我们通过Twitter的镜头研究了反亚洲仇恨言论的演变和传播。我们创建了COVID-HATE，这是最大的反亚洲仇恨和反言论数据集，跨越14个月，包含超过2.06亿条推文，以及一个拥有超过1.27亿个节点的社交网络。通过创建一个包含3,355条推文的新的手工标记数据集，我们训练了一个文本分类器来识别仇恨和反言论推文，其平均宏观F1得分为0.832。使用这个数据集，我们对推文和用户进行了纵向分析。对社交网络的分析表明，仇恨和反言论用户相互交流和广泛参与，而不是生活在孤立的两极分化社区。我们发现，节点在接触到可恨的内容后，很有可能变得可恨。值得注意的是，反言论信息可能会阻止用户变得仇恨，这可能会提出一种解决方案，以遏制网络和社交媒体平台上的仇恨。数据和代码在http://claws.cc.gatech.edu/covid。
2021-11-10 cs.CL cs.CY cs.IR
Detecting Cyberbullying and Cyberaggression in Social Media
网络欺凌和网络攻击是越来越令人担忧的现象，影响到所有人口群体。全球超过一半的年轻社交媒体用户都曾遭受过这种长期和/或协调的数字骚扰。受害者可能会经历各种各样的情绪，并产生负面后果，如尴尬、抑郁、与其他社区成员隔离，这就有可能导致更严重的后果，如自杀企图。在这项工作中，我们采取了第一个具体步骤，以了解滥用行为的特点，在Twitter上，今天最大的社交媒体平台之一。我们分析了120万用户和210万条推文，将参与讨论NBA等看似正常话题的用户与那些更有可能与仇恨有关的用户进行比较，例如Gamergate争议或BBC电台的性别薪酬不平等。我们还探讨了虐待行为的具体表现，即，网络欺凌和网络侵略，在一个与仇恨有关的社区（Gamergate）。我们提出了一个强大的方法来区分欺凌和侵略者从正常的Twitter用户考虑文本，用户和基于网络的属性。使用各种最先进的机器学习算法，我们以超过90%的准确率和AUC对这些账户进行分类。最后，我们讨论了Twitter用户帐户的当前状态标记为滥用我们的方法，并研究了潜在的机制，可用于Twitter在未来暂停用户的性能。
2019-07-20 cs.CY cs.IR cs.SI
Twitter Users' Behavioral Response to Toxic Replies
在线有毒攻击，如骚扰，拖钓和仇恨言论，与离线暴力的增加和对受害者的负面心理影响有关。在本文中，我们研究了毒性对用户的在线行为的影响。我们收集了79.8k Twitter对话的样本。然后，通过一项为期九周的纵向研究，我们跟踪并比较了作者的行为反应，谁是毒性受害者，与那些谁不是。我们发现，中毒受害者表现出以下行为反应的组合：回避，报复，对策和谈判。我们进行了统计测试，以了解有毒回复对用户行为的贡献的重要性，同时考虑混杂因素，如对话的结构和用户帐户的可见性，可识别性和活动水平。有趣的是，我们发现，与其他随机作者相比，受害者更有可能参与对话，以有毒的方式回复，并取消关注毒性煽动者。即使毒性是针对其他参与者的，根作者也更有可能参与对话并以有毒的方式回复。然而，已验证帐户的受害者不太可能参与对话或通过发布有毒评论进行回应。此外，在含有较大比例的有毒嵌套回复和针对其他用户的有毒回复的对话中，回复更有可能被删除。我们的研究结果可以帮助进一步研究开发更有效的检测和干预方法，以减少社交媒体上的毒性负面影响。
2022-10-24 cs.CY cs.SI
Automatic Detection of Sexist Statements Commonly Used at the Workplace
Stanford University（斯坦福大学）；ISEP (Institut supérieur d’électronique de Paris)（巴黎高等电子学院）
检测工作场所的仇恨言论是一项独特的分类任务，因为潜在的社会背景意味着传统仇恨言论的微妙版本。关于最先进的工作场所性别歧视检测模型的应用包括人力资源部门的辅助工具，人工智能聊天机器人和情感分析。大多数现有的仇恨言论检测方法，虽然强大和准确，专注于社交媒体上发现的仇恨言论，特别是Twitter。社交媒体的环境比工作场所更加匿名，因此它往往会导致更具侵略性和“敌意”的性别歧视版本。因此，具有大量“敌意”性别歧视的数据集具有稍微容易的检测任务，因为“敌意”性别歧视陈述可以取决于几个词，无论上下文如何，都会提示模型该陈述是性别歧视的。在本文中，我们提出了一个在工作场所更有可能说的性别歧视言论的数据集，以及一个可以实现最先进结果的深度学习模型。以前的研究已经创建了最先进的模型来区分“敌意”和“善意”的性别歧视，仅仅基于汇总的Twitter数据。我们的深度学习方法，初始化为GloVe或随机词嵌入，使用具有注意力机制的LSTM，在更多样化的过滤数据集上优于这些模型，这些数据集更有针对性地针对工作场所的性别歧视，导致F1得分为0.88。
2020-07-08 cs.CL cs.CY cs.LG
Leveraging Multilingual Transformers for Hate Speech Detection
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术研究所）
近年来，检测和分类社交媒体文本中的仇恨实例一直是自然语言处理中感兴趣的问题。我们的工作利用最先进的Transformer语言模型来识别多语言环境中的仇恨言论。捕捉社交媒体上的帖子或评论的意图需要仔细评估语言风格，语义内容和其他指针，如标签和表情符号。在本文中，我们来看看识别Twitter帖子是否具有仇恨性和攻击性的问题。我们进一步将检测到的有毒内容区分为以下三类之一：（a）仇恨言论（HATE），（b）攻击性（OFFN）和（c）亵渎性（PRFN）。通过预先训练的基于多语言transformer的文本编码器，我们能够成功地识别和分类来自多种语言的仇恨言论。在所提供的测试语料库，我们实现了90.29，81.87和75.40分别为英语，德语和印地语的宏F1分数，同时进行仇恨言论检测和60.70，53.28和49.74在细粒度分类。在我们的实验中，我们展示了Perspective API功能对仇恨言论分类的有效性以及利用多语言训练方案的效果。一个特征选择的研究，以说明特定功能的架构的分类头的影响。
2021-01-08 cs.AI cs.CL cs.CY
On the rise of fear speech in online social media
Rutgers University（罗格斯大学）
最近，社交媒体平台受到严格控制，以防止网上仇恨言论的传播，这些言论通常含有大量有毒词语，并针对个人或社区。由于这种严重的缓和，正在使用更新和更微妙的技术。其中，最令人敬畏的是《论语》。恐惧演讲，顾名思义，试图煽动对目标社区的恐惧。虽然很微妙，但它可能非常有效，经常将社区推向身体冲突。因此，了解它们在社交媒体中的流行程度至关重要。本文介绍了一项大规模的研究，以了解从Gab.com收集的40万恐惧言论和超过70万仇恨言论帖子的流行情况。值得注意的是，发布大量恐惧言论的用户比发布大量仇恨言论的用户积累了更多的关注者，并在社交网络中占据了更多的中心位置。他们还可以通过回复、转发和提及，比仇恨言论用户更有效地接触到良性用户。这与一个事实有关，即与仇恨言论不同，恐惧言论几乎没有有毒内容，使其看起来似乎是合理的。此外，虽然恐惧言论主题大多将社区描绘为使用（假）论证链的犯罪者，但仇恨言论主题直接投掷多目标侮辱，从而指出为什么一般用户更容易上当恐惧言论。我们的发现甚至超越了其他平台（Twitter和Facebook），因此有必要使用复杂的审核政策和大众意识来对抗恐惧言论。
2023-03-18 cs.CL cs.CY cs.SI
Collective moderation of hate, toxicity, and extremity in online discussions
本文研究了在线讨论中通过反言论策略减少仇恨、毒性和极端性效果，发现直接表达观点最有效，且易于公民参与。
2025-11-21 cs.CY
A Dataset of State-Censored Tweets
许多政府对社交媒体平台实施传统的审查方法。包括Twitter在内的许多社交媒体公司并没有完全删除这些内容，而是只对请求国保留这些内容。这使得这些内容在审查区域之外仍然可以访问，从而为研究政府对社交媒体的审查提供了一个很好的环境。我们使用Internet Archive的Twitter Stream Grab挖掘这些内容。我们发布了一个数据集，其中包含155，715名用户的583，437条推文，这些推文在2012年至2020年7月期间被审查。我们还发布了4,301个被完全审查的账户。此外，我们还发布了一组22，083，759条补充推文，包括至少有一条被审查推文的用户的所有推文，以及其他用户转发被审查用户的推文的实例。我们对这个数据集进行了探索性分析。我们的数据集不仅有助于研究政府审查，还有助于研究仇恨言论检测和审查对社交媒体用户的影响。该数据集可在https://doi.org/10.5281/zenodo.4439509上公开获取
2021-03-19 cs.CY cs.SI
Climate Policy Elites' Twitter Interactions across Nine Countries
George Mason University（乔治梅森大学）；Aalto University（阿尔托大学）；University of Helsinki（赫尔辛基大学）；Memorial University of Newfoundland（纽芬兰纪念大学）；Dublin City University（都柏林城市大学）；University of Technology Sydney（悉尼科技大学）；University of Bern（伯尔尼大学）；The National Institute for Space Research (INPE)（巴西国家空间研究所）；Masaryk University（马萨里克大学）；Indian Institute of Technology Kanpur（坎普尔印度理工学院）；Edinburgh Napier University（爱丁堡纳皮尔大学）
研究九国904个气候政策行为者的推特互动，发现国家系统间直接互动少，但通过国际组织、活动家和研究者内容间接连接。
2026-06-15 cs.CY cs.SI
Governing for Free: Rule Process Effects on Reddit Moderator Motivations
建立一个强大的社区需要有能力克服治理挑战的强有力的领导。新的在线平台为用户提供了通过内容审核角色实践治理的机会。Reddit上超过280万个“subreddit”社区由数十万志愿者版主管理，其中许多人没有接受过管理角色的培训或经验。虽然版主经常每天花时间维护社区，并应对仇恨评论或令人不安的内容的情绪影响，但Reddit没有为这个职位提供任何补偿。因此，版主的内部动机和继续履行这一角色的愿望对他们的社区至关重要。利用治理程序和内在动机之间的关系，我们研究了subreddit版主生成社区规则的过程如何通过满足社会心理需求来增加版主的动机：程序正义和自我决定，以及自我-他人合并。对Reddit上620名版主的调查数据进行的初步分析显示，版主的管理行为与支撑其动机的社会心理需求之间存在相关性。了解这些关系将使我们能够授权版主建立参与和合作的在线社区。
2022-06-11 cs.CY
Simple contagion drives population-scale platform migration
University of Zurich（苏黎世大学）；London School of Economics and Political Science（伦敦政治经济学院）；Paris School of Economics（巴黎经济学校）；Imperial College London（帝国理工学院）
研究通过大规模数据发现社交媒体用户迁移主要受同伴影响，采用简单传染机制，而非复杂机制，揭示用户通过重新连接维持活跃度的策略。
2026-02-26 cs.CY cs.SI
What are People Talking about in #BlackLivesMatter and #StopAsianHate? Exploring and Categorizing Twitter Topics Emerging in Online Social Movements through the Latent Dirichlet Allocation Model
Duke Kunshan University（杜克-昆山大学）；Data Science Research Center（数据科学研究中心）；Social Science Division Duke Kunshan University（社会科学系杜克-昆山大学）
本研究采用潜在狄利克雷分配模型和开放式编码的混合方法，分析超过一百万条BLM和SAH推文，发现社会正义、社会运动和情感情绪是共同话题，但各有独特子话题，为社交媒体社会运动主题分析做出贡献。
2022-09-19 cs.CL cs.CY cs.IR
Psychometric Analysis and Coupling of Emotions Between State Bulletins and Twitter in India during COVID-19 Infodemic
Indraprastha Institute Information Technology, Delhi（德里英德拉普拉斯塔信息技术学院）；Guru Nanak Dev University, Amritsar（阿姆利则古鲁那纳克德夫大学）
2019冠状病毒病的信息传播速度超过了疫情本身。信息流行浪潮中的错误信息对人民的健康和治理系统构成了重大威胁。由于社交媒体是最大的信息来源，因此管理信息流行病不仅需要减少错误信息，还需要及早了解由此产生的心理模式。在COVID-19危机期间，自2020年3月6日以来，仅Twitter一家公司的策划活动页面的使用量就急剧增加了45%，其直接消息的使用量也增加了30%。在这项研究中，我们分析了印度国家和邦一级COVID-19信息流行病与COVID-19相关官方公报的心理测量影响和耦合。我们用心理语言学的视角来看待这两个来源，并量化了两者之间的程度和耦合。我们修改了path，这是一个基于深度skip-gram的开源词典构建器，可以有效地捕捉与健康相关的情绪。然后，我们能够在社交媒体和官方公告中捕捉与健康相关的情绪的时间演变。使用格兰杰因果关系对从官方公告和社交媒体中提取的情绪时间序列之间的领先滞后关系进行分析表明，国家公告在医疗紧急情况等某些情绪方面领先于社交媒体。进一步的见解，是潜在的相关的政策制定者和积极从事减轻错误信息的传播者也进行了讨论。我们的论文还介绍了CoronaIndiaDataset 2，这是印度第一个基于社交媒体的国家和州级COVID-19数据集，拥有超过560万条国家和260万条州级推文。最后，我们将我们的研究结果作为COVibes，这是一个交互式网络应用程序，可以在…
2020-05-13 cs.CL cs.CY cs.SI
Modeling the adoption and use of social media by nonprofit organizations
本研究通过围绕四个关键因素（战略、能力、治理和环境）建立的模型，探讨了推动组织采用和使用社交媒体的因素。该模型使用Twitter、Facebook和美国100家大型非营利组织的其他数据，研究了社交媒体利用率的三个关键方面的决定因素：1）采用，2）使用频率，3）对话。我们发现，组织的战略，能力，治理特征和外部压力都发挥了作用，在这些社会媒体的采用和利用的结果。通过其综合的，多学科的理论视角，本研究有助于促进了解哪些类型的组织能够并愿意采用和玩弄多个社交媒体帐户，使用这些帐户更频繁地与外部公众沟通，并通过发送对话信息与这些公众建立关系。
2012-08-16 cs.CY cs.HC
