A review of mechanistic and data-driven models of terrorism and radicalization
综述了恐怖主义和激进化机制的模型，包括统计力学、数学建模和数据科学方法，探讨了激进化过程及反恐策略的有效性。
2025-12-02 cs.SI physics.soc-ph
Investigating User Radicalization: A Novel Dataset for Identifying Fine-Grained Temporal Shifts in Opinion
University of Marburg（马尔堡大学）；Technical University of Darmstadt（达姆施塔特工业大学）
随着对潜在两极分化社会影响的担忧增加，越来越需要能够对社交媒体用户的细粒度意见转变进行建模。然而，缺乏适合这项任务的公开数据集是一个重大挑战。在本文中，我们介绍了一个创新的注释数据集，用于建模微妙的意见波动和检测细粒度的立场。该数据集包括每个用户随时间推移和在整个会话线程内的足够量的立场极性和强度标签，从而使微妙的意见波动在长期和短期内都是可检测的。所有员额都由非专家作了说明，很大一部分数据也由专家作了说明。我们提供了一个招聘合适的非专家的策略。我们对注释者间协议的分析表明，从非专家的多数投票中获得的注释与专家的注释具有可比的质量。我们提供的立场演变的分析，在短期和长期的水平，语言使用的用户之间的比较与动摇和坚决的态度，和细粒度的立场检测基线。
2022-04-29 cs.CL cs.SI
Solutions to Detect and Analyze Online Radicalization : A Survey
网络激进主义（也称为网络恐怖主义或极端主义或网络种族主义或网络仇恨）是广泛存在的，并已成为世界各地社会，政府和执法机构日益关注的主要问题。研究表明，互联网上的各种平台（发布内容的门槛低，允许匿名，向数百万用户提供曝光机会，并有可能非常迅速和广泛地传播信息），如YouTube（一个流行的视频分享网站）、Twitter（一个在线微型博客服务）、Facebook（一个流行的社交网站）、在线讨论论坛和博客圈正被滥用于恶意目的。这些平台被用来组建仇恨团体、种族主义社区、传播极端主义议程、煽动愤怒或暴力、促进激进化、招募成员以及创建虚拟组织和社区。由于大量的数据、非结构化和嘈杂的用户生成内容、动态变化的内容和对手行为，在线激进化的自动检测是一个具有技术挑战性的问题。文献中提出了几种解决方案，旨在打击和打击网络仇恨和网络极端主义。在这次调查中，我们回顾了检测和分析在线激进化的解决方案。我们回顾了2003年6月至2011年11月在12个地点发表的40篇论文。我们提出了一种新的分类方案来分类这些论文。我们分析这些技术，进行趋势分析，讨论现有技术的局限性，找出研究差距。
2013-01-21 cs.IR cs.SI physics.soc-ph
Destabilizing a Social Network Model via Intrinsic Feedback Vulnerabilities
本研究针对生成式AI背景下社交媒体激进化风险，用Taylor社会影响模型与鲁棒控制工具识别最小范数去稳扰动，发现微小网络结构调整可引发集体行为剧变，强调需在真实社交网络开展同类分析。
2025-09-05 cs.SI math.OC physics.soc-ph
Unifying the Extremes: Developing a Unified Model for Detecting and Predicting Extremist Traits and Radicalization
本文提出基于“极端十一项”言语行为特征的统一框架，在用户和社区层面量化极端主义，并能以最高约0.9的AUC提前数月预测用户加入incel等极端社区。
2025-08-27 cs.CL cs.CY cs.SI
Identifying Different Layers of Online Misogyny
社交媒体已成为互联网上互动和信息共享的日常手段。但社交网络上的帖子往往具有攻击性和毒性，尤其是当话题有争议或带有政治色彩时。激进化、极端言论，特别是在公众眼中对女性的网络厌女症，已经成为网络讨论中令人担忧的负面特征。本研究提出了一种方法论的方法，以促进正在进行的讨论中的多种方式，其中妇女，他们的经验，他们的选择在两极分化的社会媒体反应攻击。基于对厌女症的理论和检测方法的回顾，我们提出了一个分类方案，其中包括11个不同的显式和隐式层的在线厌女症。我们还将我们的课程应用于与Amber Heard在她对Johnny Depp的家庭暴力指控的背景下对Amber Heard的在线攻击有关的案例研究。最后，我们评估了Google的Perspective API的可靠性--这是一个检测有毒语言的标准--用于将性别歧视确定为有毒语言。我们发现，很大一部分的在线厌女症，特别是当口头没有咒骂的条款，而是更含蓄地没有自动捕获。
2022-12-01 cs.SI
Contagion dynamics of extremist propaganda in social networks
最近，独狼袭击者或潜伏小组代表伊斯兰国在美国和欧洲领土上发动恐怖袭击，提醒我们必须了解社交媒体传播渠道介导的激进化动态。在本文中，我们揭示了一组25000名用户的社交媒体活动，这些用户与ISIS在线激进宣传的关联已被手动验证。通过使用一种称为动态活动连接图的计算工具，基于网络和时间活动模式，我们调查了ISIS支持者内部的社会影响力动态。我们最终通过确定极端主义内容在普通人群中的采用来量化ISIS宣传的有效性，并在激进宣传和流行病传播之间进行比较，强调信息广播公司和有影响力的ISIS支持者产生高度传染性的信息传染级联。我们的发现将有助于制定有效的对策，打击该组织和其他形式的在线极端主义。
2017-06-07 cs.SI physics.soc-ph
A Privacy-Preserving Architecture for the Protection of Adolescents in Online Social Networks
在线社交网络（OSN）构成了人们日常社交活动的组成部分。具体而言，Twitter、YouTube和Facebook等主流OSN在青少年的生活中尤为突出，用于在线与他人交流、表达和娱乐自己以及查找信息。然而，青少年在使用在线平台时面临大量威胁。其中一些威胁包括攻击性行为和网络欺凌、性行为、虚假新闻和虚假活动、激进化以及个人信息和敏感内容的曝光。迫切需要家长控制工具和互联网内容过滤技术，以保护使用在线平台的弱势群体。现有的家长控制工具偶尔会侵犯青少年的隐私，导致他们使用其他沟通渠道，以避免节制。在这项工作中，我们设计和实施了一个以用户为中心的家庭咨询套件，旨在保护个人对其监护人和咨询工具本身的隐私。此外，我们提出了一个系统的过程，用于设计和开发最先进的技术和系统架构，以防止未成年人在浏览器上使用Facebook，Twitter和YouTube时暴露于众多风险和危险。
2020-09-18 cs.SI
Modeling Islamist Extremist Communications on Social Media using Contextual Dimensions: Religion, Ideology, and Hate
Wright State University（莱特州立大学）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Massachusetts, Dartmouth（马萨诸塞大学达特茅斯分校）；The University of Georgia（佐治亚大学）；The University of South Carolina（南卡罗来纳大学）
本研究提出一种基于宗教、意识形态和仇恨三个情境维度的计算方法，用于分析Twitter上的伊斯兰极端主义内容，在精确度上比基线高10.2%，并有助于理解在线激进化过程。
2020-10-05 cs.CL cs.SI
Modeling echo chambers and polarization dynamics in social networks
最近在几个社会政治背景下和不同社交媒体上量化的回音室和意见两极分化，引起了人们对它们对错误信息传播和辩论公开性的潜在影响的担忧。尽管作出了越来越多的努力，但导致这些现象出现的动力仍然不清楚。我们提出了一个模型，介绍了激进化的动态，作为一种强化机制，推动从温和的初始条件演变到极端的意见。受社会互动动力学的实证研究结果的启发，我们认为代理人的特点是异质性活动和同质性。我们表明，全球共识和新兴的激进国家之间的过渡主要是由社会影响力和所讨论的话题的争议性。通过与Twitter上两极化辩论的实证数据比较，该模型定性地再现了用户参与度与意见之间的关系，以及交互网络中的意见隔离现象。我们的研究结果揭示了社交媒体中回声室和两极分化出现的核心机制。
2020-02-27 cs.SI physics.soc-ph
Popular individuals process the world in particularly normative ways
人们在如何关注、解释和回应周围环境方面存在差异。对世界的趋同处理可能是促成个体之间社会联系的一个因素。我们使用神经影像学和网络分析来研究社区中最核心的个体（通过程度中心性（一种受欢迎程度的概念）来衡量）是否以一种特别规范的方式处理世界。我们发现，更多的中央个体对他们的同龄人有非常相似的神经反应，特别是在与高水平解释和社会认知相关的大脑区域（例如，在默认模式的网络），而较少中心的个人表现出更多的特质反应。自我报告的享受和兴趣的刺激遵循类似的模式，但占这些数据并没有改变我们的主要结果。这些发现表明，高度中心化的个体以非常相似的方式处理世界，而不太中心化的个体以独特的方式处理世界。
2021-09-23 cs.SI physics.soc-ph q-bio.NC
The Age of Social Sensing
Twitter和Instagram等在线社交媒体使信息传播民主化，允许任何人以前所未有的规模分享关于自己和周围环境的信息。因此，在这些媒体上发布的大量信息通过社交网络的眼睛提供了一个进入物理世界的新镜头。利用这个镜头来观察世界状态的各个方面最近被称为社会感知。通过使用（或故意滥用）社交媒体操纵现实的力量引发了人们对从恐怖宣传激进化到成熟民主国家可能操纵选举等问题的担忧。许多重要的挑战和开放的研究问题出现在这个新兴的领域，旨在更好地了解如何从介质中提取信息，以及提取的信息和它所代表的世界的特性。解决上述挑战需要在计算机科学和社会科学的交叉点进行多学科研究，结合网络物理计算，社会学，传感器网络，社交网络，认知，数据采掘，估计理论，数据融合，信息论，语言学，机器学习，行为经济学等。本文综述了社会感知的重要方向，确定了当前的研究挑战，并概述了未来研究的途径。
2018-01-27 cs.SI physics.soc-ph
Investigating the Dynamics of Social Norm Emergence within Online Communities
虽然社会规范对减少错误信息的影响已经确定，但对于社会规范出现的模式，例如具有不同特征的在线社区中社会小费的模式和变化，却知之甚少。因此，本研究探讨了网络社区中社会小费的特征，并检验了小费特征与网络社区特征之间的相关性。以COVID-19疫苗接种的副作用为案例主题，我们首先跟踪100个在线社区中的小费特征模式，这些模式是在2020年5月至2021年4月期间使用Louvain算法从Twitter上的聚合通信网络中检测到的。然后，我们使用多元线性回归来探讨小费特征和社区特征之间的相关性。我们发现，在线社区中的社交小费可以持续两到四个月，并导致接受在线社区规范信仰的人口增加50%。回归分析表明，社会小费持续时间与社区人口数和对社会规范的初始接受度呈正相关，与社区成员的社会等级呈负相关。此外，网络模块性和对社会规范的原始接受度与社会小费的程度呈负相关，而网络度和介数中心性与社会小费的程度呈显著正相关。我们的研究结果揭示了数字环境中错误信息的更精确的规范性干预，因为它提供了有关社会规范出现的时间和机制的初步证据。
2023-01-01 cs.CY cs.SI
Language-Driven Opinion Dynamics in Agent-Based Simulations with LLMs
本文提出LODAS模型，利用LLM智能体模拟辩论，研究语言与论证谬误对观点演变的影响，揭示宜人性与奉承性特征及共识涌现，并暴露LLM的偏见与缺陷。
2025-02-26 cs.SI
Modeling Ideological Salience and Framing in Polarized Online Groups with Graph Neural Networks and Structured Sparsity
University of Oxford（牛津大学）；LMU Munich（慕尼黑大学）
网络政治话语的日益两极分化需要自动检测和监控社交媒体中意识形态分歧的计算工具。我们引入了一种最低限度的监督方法，利用网络结构的在线论坛，特别是Reddit，检测极化的概念。我们沿着显着性和框架的维度模型极化，借鉴道德心理学的见解。我们的架构将图神经网络与结构化稀疏学习相结合，并产生概念和子reddits的表示，以捕获右翼和左翼激进化等时间意识形态动态。
2022-12-14 cs.AI cs.CL cs.SI
OpenClaw Agents on Moltbook: Risky Instruction Sharing and Norm Enforcement in an Agent-Only Social Network
Rensselaer Polytechnic Institute（伦斯勒理工学院）
OpenClaw代理在Moltbook上通过风险性指令分享和规范执行展现选择性社会调节行为，揭示了代理-only社交系统中规范行为的涌现。
2026-02-02 cs.SI
From Toxicity to Conformity: Adaptive user behavior to social norms in Telegram communities
Institute of Informatics and Telematics, National Research Council（意大利国家研究委员会信息与电信研究所）；IMT School for Advanced Studies Lucca（卢卡高等研究院）；University of Pisa（比萨大学）
研究探讨了Telegram社区中用户行为对社会规范的适应，通过一致性指数分析用户顺从、反顺从和独立行为倾向，揭示了社区规范对在线毒性行为的决定性影响。
2025-11-21 cs.SI
Latent Network Models to Account for Noisy, Multiply-Reported Social Network Data
社交网络数据通常通过合并来自多个人的报告来构建。然而，如何调和来自个人的不一致反应并不明显。如果人们的反应反映了规范性的期望，例如对平衡、互惠关系的期望，那么多重报告的数据可能会有特别的风险。在这里，我们提出了一个概率模型，它结合了多个人报告的关系，以估计未观察到的网络结构。除了为每个报告者估计一个与他们的过度或低估报告关系的倾向有关的参数外，该模型还明确地纳入了一个术语“相互性”，即在涉及相同改变的两个方向上报告联系的倾向。我们的模型的算法实现是基于变分推理，这使得它高效和可扩展到大型系统。我们将我们的模型应用于从75个印度村庄收集的数据，名称生成器的设计，和一个基于名册的设计收集的社区。我们在两个数据集中都观察到了“相互性”的强有力证据，并发现这个值因关系类型而异。因此，我们的模型估计的网络的互惠值与标准确定性聚合方法产生的互惠值有很大不同，这表明在收集、构建和分析基于调查的网络数据时需要考虑这些问题。
2022-12-12 cs.SI
Enhancing LLMs with Cognitive-Affective Personality Inference for Simulating Human Social-Psychological Behavior
The University of Tokyo（东京大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）
本文提出SPIN，一种基于认知-情感人格系统的推断流水线，通过三次零样本LLM调用分离稳定人格与情境状态，在多个基础模型上显著提升社会心理行为模拟的对齐性能。
2026-10-07 cs.SI
The Role of Network Structure and Initial Group Norm Distributions in Norm Conflict
社会规范可以通过提供一套隐含的共同期望和行为准则来促进群体中的社会共存。然而，不同的社会群体可能持有不同的规范，缺乏总体规范共识可能导致群体内部和群体之间的冲突。在本文中，我们提出了一个基于代理的模型，模拟通过规范在两个相互作用的群体。我们探索这种现象，而不同的相对群体的大小和同质性/异质性（网络结构的两个特征），和初始组规范分布。代理更新他们的规范，根据一个适应版本的Granoblutter的阈值模型，使用一个统一的阈值分布。我们研究了网络结构和初始规范分布对实现规范性共识的过程的影响，以及由此产生的群体内和群体间冲突的可能性。我们的研究结果表明，规范的变化是最有可能的规范是强烈联系在一起的群体成员。当网络是异性恋的，有小到中等的少数群体时，群体最终具有最相似的范数分布。高亲同网络表现出高潜在的组间冲突和低潜在的组内冲突，而高亲异网络则表现出相反的模式。
2019-07-01 cs.SI physics.soc-ph
From mean-field to complex topologies: network effects on the algorithmic bias model
如今，我们生活在一个社会中，人们经常通过访问和讨论社交网站上分享的内容来形成自己的观点。虽然这些平台促进了信息的获取和传播，但它们也为受污染内容的扩散提供了最佳环境，这被认为是两极分化/激进化的共同原因之一。此外，旨在提高平台使用率的推荐算法可能会加剧这种现象，产生所谓的算法偏见。在这项工作中，我们研究了不同的网络拓扑结构的形成和演变的意见的背景下，最近的意见动态模型，其中包括有界的信心和算法偏见的影响。平均场，无标度和随机拓扑结构，以及网络产生的Lancichinetti-Radicchi基准，意见分裂/极化和收敛时间方面进行了比较。
2022-05-17 cs.SI physics.soc-ph
The effect of algorithmic bias and network structure on coexistence, consensus, and polarization of opinions
现代社会的个人在一个普遍的、可变的、几乎隐藏的内容过滤技术生态系统中分享想法并参与集体过程，这些技术决定了我们在网上看到的信息。尽管这些算法对日常生活和社会产生了影响，但人们对它们对信息传递和意见形成的影响知之甚少。因此，目前还不清楚算法偏见在多大程度上会对集体决策产生有害影响，例如倾向于辩论。在这里，我们介绍了一个一般的理论框架，系统地链接模型的观点动力学，社会网络结构，和内容过滤。我们展示了我们的框架的灵活性，通过探索一个家庭的二进制状态观点动力学模型，信息交换在于从成对组相互作用的频谱。所有的模型都显示出由算法偏差和模块化网络结构驱动的意见极化机制。然而，内容过滤的作用令人惊讶地微妙;对于成对交互，它导致两极分化，而对于群体交互，它促进了意见的共存。这使我们能够确定哪些社交互动对算法偏见具有鲁棒性，哪些社交互动容易受到偏见增强的意见两极分化的影响。我们的框架提供了理论基础的发展，以解决有害影响的在线偏见，如信息瓶颈，回音室，和意见激进。
2022-10-27 cs.SI physics.soc-ph
Multi-attributed Community Search in Road-social Networks
给定一个基于位置的社交网络，如何根据用户的偏好找到与查询用户高度相关且在多个属性中得分最高的社区？通常，面对这样的问题设置，我们可以将网络建模为多属性道路社交网络，其中每个用户都与位置信息和$d$（$\geq\! 1$）数值属性相关联。在实践中，用户偏好（即，权重）通常固有地是不确定的，并且只能以有限的精度来估计，因为人类用户不能以绝对精度指定精确值。受此启发，我们引入了一个规范的社区模型，适用于多标准决策，称为多属性社区（MAC），基于$k$核心的概念和一个新的优势关系的具体偏好。给定不确定的用户偏好，即权重的近似表示，MAC搜索报告每个可能的权重设置的确切社区。我们设计了一个优雅的索引结构，以保持优势关系，基于此两个算法开发，以有效地计算顶部的$j$ MAC。我们的算法和MAC模型的有效性的效率和可扩展性证明了广泛的实验在现实世界和合成的道路社会网络。
2021-02-21 cs.DB cs.SI
Reading the Source Code of Social Ties
虽然在线社交网络的研究在过去几年中呈爆炸式增长，但对社会联系本质的探索却没有得到太多的考虑。在线交互已经被解释为指示一种社会过程或另一种社会过程（例如，地位交换或信任），往往很少有系统的理由，关于观测数据和理论概念之间的关系。我们的研究旨在通过提出一种无监督、无参数的方法来高精度地发现社交网络中发生的交互的基本域，从而打破计算社会科学中的这一空白。通过将这种方法应用于两个不同的范围和类型的互动（aNobii和Flickr）的在线数据集，我们观察到自发出现的三个领域的互动代表交流的状态，知识和社会支持。通过发现交互域和经典社会网络分析问题之间的重要关系（例如，随着时间的推移的关系强度、二元交互），我们展示了由所提取的域引起的交互网络如何可以用作对在线社交数据进行更细致分析的起点，这些在线社交数据有朝一日可能会并入社交交互的规范语法。我们的方法发现应用在在线社交媒体服务，从推荐到视觉链接摘要。
2014-07-21 cs.CY cs.SI physics.soc-ph
Decentralized Social Networks and the Future of Free Speech Online
本文运用言论自由规范理论评估去中心化社交网络的在线通信前景，指出其利弊与设计核心问题，结合实例阐释设计的价值考量，并提出法律政策干预建议以指明研究方向。
2024-11-04 cs.CY cs.ET cs.NI
