Roll in the Tanks! Measuring Left-wing Extremism on Reddit at Scale
Binghamton University（宾汉姆顿大学）；Cyprus University of Technology（塞浦路斯理工大学）
本文首次大规模测量Reddit上的左翼极端主义，发现坦克群体在左翼社区边缘，其讨论聚焦国家政治和威权主义，具有高毒性语言。
2026-01-20 cs.CY cs.SI
Unifying the Extremes: Developing a Unified Model for Detecting and Predicting Extremist Traits and Radicalization
本文提出基于“极端十一项”言语行为特征的统一框架，在用户和社区层面量化极端主义，并能以最高约0.9的AUC提前数月预测用户加入incel等极端社区。
2025-08-27 cs.CL cs.CY cs.SI
New threats to society from free-speech social media platforms
本文指出 Parler、Gab、Telegram 等无审核“自由言论”平台吸引极端用户并带来社会威胁，呼吁加强政策研究以应对相关风险。
2023-02-02 cs.SI
Predicting online extremism, content adopters, and interaction reciprocity
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；Indiana University（印第安纳大学）
我们提出了一个机器学习框架，利用元数据，网络和时间特征的混合来检测极端主义用户，并预测内容采用者和社交媒体中的交互互惠性。我们利用了一个独特的数据集，其中包含由超过2.5万名用户生成的数百万条推文，这些用户因参与极端主义活动而被Twitter手动识别、报告和暂停。我们还利用了数百万条推文，这些推文是由2.5万名经常接触或消费极端主义内容的普通用户随机抽样生成的。我们进行三个预测任务，（i）检测极端主义用户，（ii）估计普通用户是否会采用极端主义内容，最后（iii）预测用户是否会回复极端主义者发起的联系。所有预测任务都设置在两个场景中：聚合数据的事后（时间无关）预测任务和模拟实时预测任务。我们的框架的性能非常有前途，在不同的预测场景中，极端用户检测的AUC高达93%，内容采用预测的AUC高达80%，最后交互互惠预测的AUC高达72%。最后，我们提供了一个全面的特征分析，帮助确定哪些是在不同情况下提供预测能力的新兴信号。
2016-05-02 cs.LG cs.SI physics.soc-ph
Investigative Pattern Detection Framework for Counterterrorism
Colorado State University（科罗拉多州立大学）；Brandeis University（布兰迪斯大学）
本文提出INSPECT框架，结合机器学习与图模式匹配，自动化挖掘法证数据、构建知识网络并检测行为指标与激进化轨迹，以支持反恐调查中的人在环路搜索。
2023-10-30 cs.LG cs.SI
Junk News & Information Sharing During the 2019 UK General Election
今天，估计有75%的英国公众在网上获取有关政治和公共生活的信息，40%的人通过社交媒体获取。考虑到这一背景，我们调查了2019年英国大选前社交媒体上的信息共享模式，并提出以下问题：（1）社交媒体用户在投票前在Twitter上分享了什么类型的政治新闻和信息？(2)其中有多少是极端主义、耸人听闻或阴谋论的垃圾新闻？(3)这些网站在Facebook上的公众参与度如何？（4）垃圾新闻媒体最常见的叙述和主题是什么？
2020-02-27 cs.SI
Making a Radical Misogynist: How online social engagement with the Manosphere influences traits of radicalization
本文通过分析Reddit用户与“男圈”社区的社交互动，揭示了参与、精英传播和社区认知如何推动激进化特质的形成，并为平台审核政策提供依据。
2022-02-17 cs.SI
Junk News on Military Affairs and National Security: Social Media Disinformation Campaigns Against US Military Personnel and Veterans
社交媒体为现役军人和退伍军人提供政治新闻和信息。我们分析了Twitter和Facebook用户的亚组，他们花时间从针对美国军事人员和退伍军人的网站上消费垃圾新闻，这些网站有阴谋论，错误信息以及其他形式的关于军事事务和国家安全问题的垃圾新闻。(1)在Twitter上，我们发现，现任和前任军事人员与极端主义者、以俄罗斯为重点的国际阴谋集团的广泛网络之间存在着重大而持续的互动。(2)在Facebook上，我们发现军队和退伍军人的公共页面之间以及致力于政治阴谋的子群体之间存在着重要而持久的互动。(3)在Facebook上，对阴谋论和政治权利最感兴趣的用户似乎发布了最多的垃圾新闻，而军队或退伍军人的用户则是最老练的新闻消费者，他们很少通过网络分享垃圾新闻。
2018-02-10 cs.SI
Polarization, Partisanship and Junk News Consumption over Social Media in the US
什么样的社交媒体用户会阅读垃圾新闻？我们研究了在唐纳德·特朗普总统发表第一次国情咨文之前的三个月里，最重要的垃圾新闻来源的分布情况。根据一份不断发布极端主义、耸人听闻、阴谋论、蒙面评论、假新闻和其他形式垃圾新闻的政治新闻和信息来源的名单，我们发现这些内容在意识形态领域的分布不均匀。我们证明：（1）在Twitter上，特朗普支持者网络分享了最广泛的已知垃圾新闻来源，传播的垃圾新闻比所有其他群体加起来还要多;（2）在Facebook上，极端极右页面，与共和党页面不同，分享了最广泛的已知垃圾新闻来源，传播的垃圾新闻比所有其他受众加起来还要多;（3）平均而言，Twitter上的垃圾新闻受众比Facebook公共页面上的受众分享更广泛的已知垃圾新闻来源。
2018-03-04 cs.SI
A review of mechanistic and data-driven models of terrorism and radicalization
综述了恐怖主义和激进化机制的模型，包括统计力学、数学建模和数据科学方法，探讨了激进化过程及反恐策略的有效性。
2025-12-02 cs.SI physics.soc-ph
Social media in the Global South: A Network Dataset of the Malian Twittersphere
本文提供了一个关于西非冲突国家马里的Twitter网络数据集，包含约700万账户中5.6万个明确识别的马里用户及相关推文，旨在邀请各学科研究者探索冲突背景下社交网络的发展特征。
2023-10-24 cs.SI
Shooting the Messenger? Harassment and Hate Speech Directed at Journalists on Social Media
本研究以2023年西班牙大选前后200个记者及媒体X账号的6万余条回复为样本，分析社交媒体中针对记者的骚扰仇恨言论，发现政治极化影响显著，女性记者遭性别歧视言论更多，该问题具系统性，媒体需出台针对性保护政策。
2025-08-02 cs.SI
Explaining the emergence of echo chambers on social media: the role of ideology and extremism
在线讨论网络中政治驱动的分歧的出现吸引了大量文献，但迄今为止也主要限于单一国家的研究。因此，虽然有充分的证据表明，这些网络确实分裂和分裂成通常被称为"回声室"的东西，但我们对可能解释这种分裂或使网络或多或少分裂的因素知之甚少，因为研究仅限于少数政治团体，进行系统比较的可能性有限。本文旨在弥补这一不足，通过提供一个系统的大规模研究碎片化的Twitter上，认为讨论网络围绕90个不同的政党在23个不同的国家。这表明，在意识形态方面相距较远的政党团体互动较少，处于意识形态极端的个人和政党特别有可能形成回音室。事实上，处于左右分歧不同方面的中间派政党之间的交流，比理论上来自同一意识形态派别的中间派和极端主义政党之间的交流更有可能。根据研究结果，讨论和加强了关于在网上接触不同意识形态观点的理论。
2017-03-11 cs.SI physics.soc-ph
The Virality of Hate Speech on Social Media
本文基于X平台25,219个级联数据，利用广义线性回归分析仇恨言论与正常内容的传播差异，发现认证用户发布的仇恨内容具有显著更高的病毒式传播特征。
2024-11-25 cs.SI
Dynamical patterns in individual trajectories toward extremism
社会面临着一个根本的全球性问题，即理解哪些人目前正在为ISIS（伊斯兰国）等极端主义实体提供强有力的支持-即使他们最终在现实世界中没有做任何事情。最近对已被定罪的恐怖分子进行的案例研究证实了网上联系在发展意图方面的重要性。在这里，我们确定了个人发展高度极端主义支持的在线轨迹的动态模式-特别是对ISIS的支持。强烈的记忆效应出现在转变最快的个体中，因此可能成为现实世界中的“蓝色”威胁。图形扩张理论的推广有助于量化这些特征，包括地理位置变化的影响，并有助于预测未来的风险。通过量化个人在表达高水平的亲ISIS支持的过程中所遵循的轨迹-无论他们是否随后进行现实世界的攻击-我们的研究结果可以帮助将安全辩论超越对静态观察名单标识符的依赖，如种族背景或移民身份，和/或对已定罪个人的事后采访。考虑到社交媒体平台的广泛共性，我们的研究结果可能适用于相当普遍的情况：例如，即使在Telegram上（如Twitter），也没有内置的群组功能，就像我们的研究一样，个人倾向于集体建立并通过所谓的超级群组账户。
2017-06-06 cs.SI nlin.AO physics.soc-ph
Applying Social Media Intelligence for Predicting and Identifying On-line Radicalization and Civil Unrest Oriented Threats
研究表明，互联网上的各种社交媒体平台，如Twitter、Tumblr（微型博客网站）、Facebook（一个流行的社交网站）、YouTube（最大的视频分享和托管网站）、博客和讨论论坛，正被极端主义团体滥用，用于传播其信仰和意识形态、促进激进化、招募成员和创建共享共同议程的在线虚拟社区。在规划和动员与民间动乱有关的活动期间，Twitter等受欢迎的微博网站被用作信息共享和沟通的实时平台。应用社交媒体情报预测和识别在线激进化和内乱威胁是过去10年来吸引了一些研究人员关注的一个领域。在现有文献中已经提出了几种算法，技术和工具来对抗和打击网络极端主义，并提前预测与抗议相关的事件。在本文中，我们对所有这些现有技术进行了文献综述，并进行了全面的分析，以了解最新技术，趋势和研究差距。我们提出了一个类分类的方法来收集针对我们的研究范围的主题和副主题的学术文章。我们对大约100篇会议和期刊论文进行了表征，分类和深入的Meta分析，以更好地了解现有文献。
2015-11-21 cs.CY cs.SI
Enhancing Social Media Rumor Detection: A Semantic and Graph Neural Network Approach for the 2024 Global Election
The Hong Kong Polytechnic University（香港理工大学）
本文提出一种结合微调BERT语义分析与SAGEWithEdgeAttention图神经网络的社交媒体谣言检测新方法，通过引入一阶差分边属性和注意力机制实现细粒度网络结构分析，显著提升了2024年全球选举期间政治谣言检测的准确率。
2025-03-03 cs.AI cs.SI
Social Media Information Operations
本教程提出社交媒体信息作战的形式化优化框架，介绍相关分析工具与威胁应对措施，指出生成式AI对攻防的双重影响及应对方向。
2025-08-03 cs.SI cs.SY eess.SY
Down the Rabbit Hole: Detecting Online Extremism, Radicalisation, and Politicised Hate Speech
University of Waikato（怀卡托大学）；ASRC Federal（ASRC联邦公司）
社交媒体是现代人的数字声音，可以投射和参与新的想法，动员社区$\unicode{x2013}$，这是一种与极端分子共享的力量。鉴于用于极端主义、激进主义和仇恨言论（ERH）检测的未公开的内容调节算法的社会风险，负责任的软件工程必须了解谁、什么、何时、何地以及为什么需要这些模型来保护用户安全和自由表达。因此，我们提出并研究了ERH上下文挖掘的独特研究领域，以统一不相交的研究。具体来说，我们评估从社会技术定义的建设和数据集收集策略的技术算法设计和性能的开始到结束的设计过程。我们的2015-2021年51项研究系统性文献综述（SLR）首次对文本，网络和视觉方法进行交叉检查，以检测极端主义联系，仇恨内容以及对团体和运动的激进化。我们确定共识驱动的ERH定义，并提出解决方案，现有的意识形态和地理偏见，特别是由于缺乏在大洋洲/澳大拉西亚的研究。我们对自然语言处理、社区发现和视觉-文本模型的混合调查证明了基于文本转换器的算法的主要性能。最后，我们为ERH上下文挖掘研究人员提出了重要的建议，并为研究人员、行业和政府提出了一个吸收路线图，以实现更安全的网络空间。
2023-01-27 cs.AI cs.CL cs.CY
Backfire Effect Reveals Early Controversy in Online Media
本文针对在线争议检测，提出“点赞上升梯度”等新特征，发现其与心理“backfire effect”相关，在多语言媒体中表现优异且适用于早期检测。
2025-05-30 cs.SI
Online conspiracy communities are more resilient to deplatforming
在线社交媒体促进了围绕共享叙事的活跃社区的创建。这些社区可能会变成阴谋论的孵化器-一些传播暴力信息的社区可能会加剧辩论，并可能危害社会。面对这些现象，大多数社交媒体平台实施了适度政策，从发布警告标签到去平台化，即，永久禁用用户。评估内容审查的有效性对于在维护言论自由权的同时平衡社会安全至关重要。在本文中，我们比较了受Reddit上两个大型社区GreatAwakening和FatPeopleHate禁令影响的用户行为的转变，这两个社区分别致力于传播QAnon阴谋和身体羞辱个人。在禁令之后，这两个社区都部分迁移到了Voat，一个未经审核的Reddit克隆。我们估计有多少用户迁移，发现阴谋社区的用户更有可能完全离开Reddit并加入Voat。然后，我们通过匹配普通用户来量化Reddit内部以及Reddit和Voat之间的行为转变。很少有移民狂热者推动Voat上新的GreatAwakening社区的增长，而FatPeopleHate则没有这种影响。最后，从Reddit迁移的阴谋用户倾向于在Voat上重建他们以前的社交网络。我们的研究结果表明，应该仔细设计禁止托管暴力内容的阴谋社区，因为这些社区可能对去平台化更具弹性。
2023-03-21 cs.CY cs.SI physics.soc-ph
Is radicalization reinforced by social media censorship?
激进的信仰，如与QAnon，Russiagate和其他政治阴谋论有关的信仰，可以导致一些个人和团体参与暴力行为，最近几个月就证明了这一点。了解这些信念被接受、传播和强化的机制，对于任何缓解激进化和避免政治两极分化加剧的努力都至关重要。本文提出了一个基于代理的模型的社会媒体网络，使审查制度的影响，代理人成为暴露在不同的信息量和确定性，他们激进的观点。该模型探讨了两种形式的审查：1）分散式审查-其中个人可以选择与另一个传播冲突信仰的个人打破在线社交网络联系（取消好友或取消关注）; 2）集中式审查-其中单个权威可以禁止个人从社交媒体网络传播某种类型的信仰。这一模型表明，这两种形式的审查制度通过减少代理人所面临的异议数量来增加激进观点的确定性，但集中“禁止”个人对激进化的影响最大。
2021-03-23 cs.CY cs.MA cs.SI
Learning to Control Misinformation: a Closed-loop Approach for Misinformation Mitigation over Social Networks
针对社交网络推荐系统因优先参与度而放大错误信息的问题，提出结合错误信息缓解与参与度最大化的闭环控制框架，通过惩罚极端负面情绪等特征，在不同网络配置中减少错误信息传播达76%，并为平台提供实用指导。
2025-11-16 cs.SI cs.SY eess.SY
Towards Safer Social Media Platforms: Scalable and Performant Few-Shot Harmful Content Moderation Using Large Language Models
University of California, Davis（加州大学戴维斯分校）；University of South Florida（南佛罗里达大学）；Meta
针对社交媒体有害内容审核的可扩展性与动态性不足问题，研究人员利用大语言模型通过上下文学习提出少样本审核方法，实验显示其优于现有基线与少样本方法，纳入视觉信息可提升性能，为线上审核提供新方案。
2026-08-25 cs.AI cs.CL cs.CY
Protest Activity Detection and Perceived Violence Estimation from Social Media Images
UCLA（加州大学洛杉矶分校）
我们开发了一种新的视觉模型，它可以识别抗议者，描述他们的活动的视觉属性和估计的感知暴力的图像的水平。对社交媒体和抗议活动的研究使用自然语言处理来跟踪个人如何使用标签和链接，通常侧重于这些项目的传播。然而，这些方法可能无法有效地充分表征实际的现实世界抗议活动（例如，暴力的或和平的）或估计参与者的人口统计（例如，年龄，性别和种族）和他们的情绪。我们的系统沿着这些维度描述抗议。我们收集了2013年至2017年的地理标记推文及其图像，并分析了这一时期的多个主要抗议事件。一个多任务的卷积神经网络，以自动分类的抗议者在图像中的存在，并预测其视觉属性，感知的暴力和表现出的情绪。我们还发布了UCLA抗议图像数据集，这是一个包含40，764张图像（11，659张抗议图像和硬底片）的新数据集，具有各种视觉属性和情感的注释。使用这个数据集，我们训练我们的模型，并证明其有效性。我们还提出了实验结果，从各种分析的地理标记的图像数据在几个流行的抗议活动。我们的数据集将在https://www.sscnet.ucla.edu/comm/jjoo/mm-protest/上提供。
2017-09-18 cs.CV cs.MM cs.SI
Observing the Southern US Culture of Honor Using Large-Scale Social Media Analysis
Faculty of Applied Science and Engineering（应用科学与工程学院）；University of Toronto（多伦多大学）；Division of Engineering Science（工程科学系）
本文利用GPT-3.5对社交媒体用户进行地理定位和侮辱检测，验证了美国南部荣誉文化下用户更倾向于以人身攻击报复人身攻击的假设，展示了LLM辅助大规模社会文化分析的可行性。
2024-10-11 cs.CL cs.SI
Moderating Illicit Online Image Promotion for Unsafe User-Generated Content Games Using Large Vision-Language Models
University at Buffalo（布法罗大学）；Northeastern University（东北大学）；Clemson University（克莱姆森大学）；The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
针对社交媒体上非法推广不安全UGC游戏的图像，提出UGCG-Guard系统，利用大型视觉语言模型和条件提示策略实现零样本域适应，检测准确率达94%。
2026-06-17 cs.CL cs.CY cs.LG
