Comparing Toxicity Across Social Media Platforms for COVID-19 Discourse
本研究分析 2020 年 Twitter、Parler 和 Reddit 的 COVID-19 讨论，发现 Parler 毒性最低、Reddit 最高，并揭示反疫苗错误信息与阴谋论的作用。
2023-04-26 cs.SI
Reddit and the Fourth Estate: Exploring the magnitude and effects of media influence on community level moderation on Reddit
本文通过中介分析和中断时间序列分析，研究Reddit上媒体关注与行政干预的关系，发现Reddit的审核干预受媒体压力驱动，但媒体压力并未使干预效果产生显著差异。
2021-10-29 cs.SI
"Shut Up and Let Me Enjoy My Otome": Understanding and Measuring the Toxicity in Otome Game Communities
CISPA Helmholtz Center for Information Security（CISPA 亥姆霍兹信息安全中心）；University of Waterloo（滑铁卢大学）
本文首次大规模测量乙女游戏社区毒性，提出OtomeSCAN框架分析62万条帖子，发现微博毒性率22.20%远超Reddit的3.71%，并识别出191个潜在协调集群。
2026-09-09 cs.CR cs.SI
Towards Operational Validation of LLM-Agent Social Simulations: A Replicated Study of a Reddit-like Technology Forum
Institute of Physics Belgrade, University of Belgrade（贝尔格莱德物理研究所，贝尔格莱德大学）；Faculty of Philosophy, University of Novi Sad（诺维萨德大学哲学学院）；Vinča Institute of Nuclear Sciences, University of Belgrade（温查核科学研究所，贝尔格莱德大学）
本文通过30天的模拟研究，验证LLM-代理在技术论坛中的操作有效性，发现模拟结果与真实数据在用户和帖子层面有重叠，但评论毒性等指标存在差异，揭示了代理设计对模拟结果的影响。
2026-04-24 cs.CY cs.SI physics.soc-ph
The Great Ban: Efficacy and Unintended Consequences of a Massive Deplatforming Operation on Reddit
本文评估了 Reddit 上影响近 2,000 个社区的“大封禁”行动，基于 1,600 万条评论分析发现其虽使部分用户毒性降低或离开，但也导致少数用户毒性显著反弹，为去平台化政策的效力与风险提供了新证据。
2025-02-07 cs.CY cs.SI
Longitudinal Sentiment Topic Modelling of Reddit Posts
本文对加拿大四所大学学生2020至2023年的Reddit帖子开展纵向情感主题建模，发现疫情及疫后心理健康相关讨论呈逐步上升趋势。
2024-01-24 cs.IR cs.SI
Designing Toxic Content Classification for a Diversity of Perspectives
在这项工作中，我们展示了如何现有的分类识别有毒的评论在线未能推广到互联网用户的不同关注。我们调查了17，280名参与者，以了解用户对有毒内容的期望如何因人口统计，信仰和个人经历而异。我们发现，历史上有骚扰风险的群体-例如LGBTQ+或年轻人-更有可能将Reddit，Twitter或4chan的随机评论标记为有毒，过去亲身经历过骚扰的人也是如此。根据我们的研究结果，我们展示了当前的一刀切毒性分类算法，如Jigsaw的Perspective API，通过个性化模型调整，平均可以将准确率提高86%。最后，我们强调当前的陷阱和新的设计方向，可以提高所有用户的有毒内容分类器的公平性和有效性。
2021-06-04 cs.CR cs.CY cs.HC
A longitudinal study of the top 1% toxic Twitter profiles
毒性是包括Twitter在内的在线社交网络的地方病。它遵循帕累托分布，其中大多数毒性是由非常少量的配置文件产生的，因此，分析和表征这些毒性配置文件是至关重要的。先前的研究主要集中在零星的、以事件为中心的有毒内容上，以表征平台上的毒性。相反，我们的方法的问题，从配置文件为中心的角度来看，有毒物质的特征。我们研究了143K Twitter个人资料，并根据Perspective API利用的tweets的毒性评分，重点关注Twitter上有毒内容的前1%生产者的行为。总共有2.93亿条推文，跨越了16年的活动，纵向数据使我们能够重建所有相关档案的时间表。我们使用这些时间表来衡量与其他Twitter用户相比，最有毒的Twitter个人资料的行为。我们研究了来自剧毒账户的推文发布模式，基于频率和多产性，主题标签和URL的性质，配置文件元数据和Botometer分数。我们发现，高度有毒的配置文件发布连贯和清晰的内容，他们的推文保持在一个狭窄的主题上，标签，URL和域的多样性较低，它们在主题上彼此相似，并且具有很高的机器人行为可能性，可能有意图影响的祖先，基于高的假追随者分数。我们的工作有助于深入了解Twitter上前1%的有毒配置文件，并建立以配置文件为中心的方法来调查Twitter上的毒性。
2023-03-26 cs.CY cs.SI
Longitudinal Sentiment Classification of Reddit Posts
University of Ottawa（渥太华大学）
本文对加拿大四所大学学生2020-2023年的Reddit帖子进行纵向情感分类，通过将情感阈值精细调整至[-0.075,0.075]区间构建正负情感分类器，并验证了结果在四个数据集上的一致性。
2024-01-22 cs.CL cs.LG cs.SI
Make Reddit Great Again: Assessing Community Effects of Moderation Interventions on r/The_Donald
Reddit r/The_Donald被多次谴责为有毒和行为不端的在线社区，原因是它面临着Reddit管理员越来越多的限制性适度干预。它于2019年6月被隔离，于2020年2月受到限制，并于2020年6月最终被禁止，但尽管对此事进行了初步研究，但这一系列干预措施的效果仍不清楚。在这项工作中，我们遵循多维因果推理方法来研究包含超过1500万个帖子的数据，这些帖子在2年的时间内发布，以检查这些干预措施在subreddit内部和外部的影响。我们发现，干预措施大大减少了有问题的用户的活动。然而，这些干预措施也导致了毒性的增加，并导致用户分享更加两极化和更少的事实新闻。此外，限制比隔离的影响更大，r/The_Donald的核心用户受到的影响比其他用户更大。总的来说，我们的研究结果提供了证据表明，干预措施的效果好坏参半，并描绘了社区一级适度策略的后果的细微差别。最后，我们反思了监管在线平台的挑战，以及对适度干预措施的设计和部署的影响。
2022-08-22 cs.CY cs.HC cs.SI
Roll in the Tanks! Measuring Left-wing Extremism on Reddit at Scale
Binghamton University（宾汉姆顿大学）；Cyprus University of Technology（塞浦路斯理工大学）
本文首次大规模测量Reddit上的左翼极端主义，发现坦克群体在左翼社区边缘，其讨论聚焦国家政治和威权主义，具有高毒性语言。
2026-01-20 cs.CY cs.SI
A Longitudinal Study of Italian and French Reddit Conversations Around the Russian Invasion of Ukraine
本研究通过分析意大利和法国Reddit社区超300万条帖子，发现乌克兰战争加剧了社区负面情绪，改变了版主审核行为，但未引发用户同质化互动倾向。
2024-02-19 cs.CY cs.SI
When Technically Plausible Advice Is Unsafe: A Cross-Ecosystem Measurement of Online Support for Technology-Facilitated Abuse
Northeastern University（东北大学）；The University of Texas at Arlington（阿灵顿德州大学）
研究技术辅助虐待（TFA）受害者在线支持系统，通过构建数据集在网络搜索、论坛、人工智能系统三渠道模拟查询，用统一框架评估回应，发现各平台支持质量有别，揭示数字支持弱点，强调以安全为中心设计等的必要。
2026-09-24 cs.CY cs.SI
Stranger Danger! Cross-Community Interactions with Fringe Users Increase the Growth of Fringe Communities on Reddit
ETH Zurich（苏黎世联邦理工学院）；EPFL（洛桑联邦理工学院）
研究Reddit边缘社区增长机制，发现与边缘用户的跨社区互动能显著吸引新成员加入，该效应受社区特征和语言毒性影响，限制此类互动可减缓边缘社区增长。
2023-10-18 cs.AI cs.SI
A deep dive into the consistently toxic 1% of Twitter
在线社交网络（OSN）中的不当行为是一种不断增长的现象。迄今为止的研究往往集中在机器学习的部署上，以识别和分类欺凌、侵略和种族主义等不当行为。识别的主要目标是遏制自然和机械的不当行为，使OSN成为社会话语的安全场所。超越过去的作品，我们进行了一个纵向研究的一个大的选择Twitter的配置文件，这使我们能够描述配置文件的一致性，他们张贴剧毒的内容。我们的数据涵盖了14年的推文，来自122K Twitter个人资料和超过2.93亿条推文。从这些数据中，我们选择了有毒内容一致性最极端的个人资料，并检查了他们的推文文本，以及他们共享的域名，标签和URL。我们发现，这些选定的配置文件保持一个狭窄的主题，在标签，URL和域中的多样性较低，它们在主题上彼此相似（以协调的方式，如果不是通过意图），并且具有很高的机器人行为可能性（可能有意图影响的祖先）。我们的工作为研究社区提供了大量的纵向在线不良行为数据集，并在探索不良行为作为影响OSN操作的潜在附件时，将个人资料的有毒行为的一致性作为一个有用的因素。
2022-02-16 cs.CY cs.SI
Safe Spaces or Toxic Places? Content Moderation and Social Dynamics of Online Eating Disorder Communities
本研究比较分析了Twitter/X、Reddit和TikTok上进食障碍讨论的内容审核与用户参与，发现审核较弱的平台易形成放大支持厌食症言论的有毒回音室，揭示了审核策略对心理健康在线社区发展的显著影响。
2024-12-20 cs.CY cs.HC cs.SI
Queuing for Civility: Regulating Emotions and Reducing Toxicity in Digital Discourse
School of Engineering, Deakin University, Australia（工程学院，德坎大学，澳大利亚）；School of Information Technology, Deakin University, Australia（信息技术学院，德坎大学，澳大利亚）
针对在线毒性内容问题，该研究提出基于图的实时情绪调节框架与评论排队延迟机制，实验验证二者可有效减少毒性内容与愤怒传播，助力改善网络福祉。
2025-08-31 cs.AI cs.CY cs.HC
Beyond Fish and Bicycles: Exploring the Varieties of Online Women's Ideological Spaces
互联网在连接代表性不足和弱势群体方面发挥了重要作用。为促进社会互动和参与而建立的平台使历史上被剥夺权利的群体能够发出声音。其中一个弱势群体是妇女。在本文中，我们探讨了网络女性的思想空间的多样性，使用多维度的方法。我们对来自14个子Reddit的超过600万条Reddit评论和提交进行了大规模的数据驱动分析。我们引出了一个不同的分类在线妇女的意识形态空间，从同行到所谓的男性圈性别批判女权主义。然后，我们进行内容分析，发现主题和社区之间有意义的差异。最后，我们揭示了两个平台，ovarit.com和thepinkpill.co，其中两个有毒的在线女性意识形态空间社区（性别批判女权主义和女权主义）在Reddit被禁止后迁移。
2023-03-13 cs.CY cs.SI
The Aftermath of Disbanding an Online Hateful Community
在线空间中的骚扰和仇恨言论已成为平台维护者及其用户的常见问题。这些内容所产生的毒性会阻碍用户的参与和参与。因此，减少仇恨和有害内容对平台管理者至关重要，也是他们的共同目标。在过去的一年里，主要的在线平台Reddit制定了一项政策，禁止他们认为具有骚扰性的子社区（subreddits），目的是减少此类活动。我们研究了禁止最大的仇恨subreddit（r/fatpeoplehate或FPH）对用户和其他与之相关的subreddit的影响。我们发现，虽然有一些结果是可能的-在这种情况下，subreddit禁令导致其成员（FPH用户）与Reddit平台的互动持续减少。我们还发现，FPH用户采取的许多反措施都是短暂的，并迅速被Reddit管理员和单个子Reddit的管理员所中和。我们的研究结果表明，禁止论坛可以是一种有效的手段，减少令人反感的内容。此外，我们对FPH用户禁止后行为的详细分析突出了禁止可能产生的一些行为模式。
2018-04-19 cs.SI
Spillover of Antisocial Behavior from Fringe Platforms: The Unintended Consequences of Community Banning
ETH Zurich（苏黎世联邦理工学院）；EPFL（洛桑联邦理工学院）
本研究发现，主流平台封禁问题社区致使用户迁移至边缘平台，这种边缘平台的参与反而因果性地增加了用户在主流平台上的毒性和违规行为，证实了反社会行为的溢出效应。
2023-04-12 cs.CL cs.SI physics.soc-ph
Waiting for Q: An Exploration of QAnon Users' Online Migration to Poal in the Wake of Voat's Demise
本研究通过分析Reddit、Voat和Poal数据，探究QAnon追随者在封禁和关闭后的迁移模式，发现提前警告促使更协调的迁移，且Poal上出现与1月6日袭击相关的讨论。
2024-05-25 cs.SI
Conceptualizing Suicidal Behavior: Utilizing Explanations of Predicted Outcomes to Analyze Longitudinal Social Media Data
Florida Institute of Technology（佛罗里达理工学院）
本研究在微调的最先进语言模型上应用层积分梯度方法，为Reddit帖子词元分配预测自杀意念的归因分数，提出了一种推理时无需大型语言模型的社交媒体自杀意念初步筛查方法论。
2023-12-30 cs.CL cs.CY cs.SI
SPILLOVER: Measuring Cyberbullying NormPropagation on Social Media
Loyola University Chicago（芝加哥洛约拉大学）；Arizona State University（亚利桑那州立大学）
研究社交媒体上网络欺凌规范传播，利用Instagram等数据发现前一条CB评论增加下条评论为CB几率，CB→CB对文本更相似，非攻击性回复随前条CB严重程度变负面，这些发现可复制，单一特征能更好预测，为实时审核提供信号。
2026-07-23 cs.SI
