The Structure of Toxic Conversations on Twitter
社交媒体平台有望实现丰富而充满活力的在线对话;然而,它们的潜力往往受到反社会行为的阻碍。在本文中,我们研究的结构和毒性之间的关系,在Twitter上的对话。我们收集了118万次对话(5850万条推文,440万用户),这些对话是由一年内发布或提到主要新闻媒体的推文以及在四个月内参加2018年美国中期选举的候选人引发的。我们分析了个人,二分体,和组水平的对话。在个人层面上,我们发现,毒性是分散在许多低到中度毒性用户。在二元层次上,我们观察到有毒回复更有可能来自那些没有任何社会联系或与发帖者有许多共同朋友的用户。在群体层面上,我们发现有毒对话往往有更大,更宽,更深的回复树,但稀疏的后续图。为了测试会话结构的预测能力,我们考虑两个预测任务。在第一个预测任务中,我们证明了结构特征可以用来预测对话是否会在前十个回复中变得有毒。在第二个预测任务中,我们发现对话的结构特征也可以预测特定用户发布的下一个回复是否有毒。我们观察到,在两个预测任务中,会话的结构和语言特征是互补的。我们的研究结果为更健康的社交媒体平台的设计提供了信息,并表明基于对话结构特征的模型可用于检测毒性的早期迹象,并可能将对话引导到毒性较小的方向。
2021-05-25 cs.CY cs.SI
Exploring the Distinctive Tweeting Patterns of Toxic Twitter Users
本文分析12,148名用户的3,800万条推文,基于Gini指数和Toxicity score识别1,457名持续有毒用户,发现其独特时间发帖模式,为跨平台审核提供新依据。
2024-01-25 cs.SI
Sadness, Anger, or Anxiety: Twitter Users' Emotional Responses to Toxicity in Public Conversations
本研究基于 79,799 个 Twitter 对话,通过倾向得分匹配分析发现,收到毒性回复的用户更易表达愤怒、悲伤和焦虑,且对话主题和账户特征影响情绪反应,为个性化调节提供依据。
2023-10-17 cs.SI
A Privacy-Preserving Architecture for the Protection of Adolescents in Online Social Networks
在线社交网络(OSN)构成了人们日常社交活动的组成部分。具体而言,Twitter、YouTube和Facebook等主流OSN在青少年的生活中尤为突出,用于在线与他人交流、表达和娱乐自己以及查找信息。然而,青少年在使用在线平台时面临大量威胁。其中一些威胁包括攻击性行为和网络欺凌、性行为、虚假新闻和虚假活动、激进化以及个人信息和敏感内容的曝光。迫切需要家长控制工具和互联网内容过滤技术,以保护使用在线平台的弱势群体。现有的家长控制工具偶尔会侵犯青少年的隐私,导致他们使用其他沟通渠道,以避免节制。在这项工作中,我们设计和实施了一个以用户为中心的家庭咨询套件,旨在保护个人对其监护人和咨询工具本身的隐私。此外,我们提出了一个系统的过程,用于设计和开发最先进的技术和系统架构,以防止未成年人在浏览器上使用Facebook,Twitter和YouTube时暴露于众多风险和危险。
2020-09-18 cs.SI
Exploring Gender-Based Toxic Speech on Twitter in Context of the #MeToo movement: A Mixed Methods Approach
本研究采用混合方法,分析#MeToo运动期间超4.71万推特用户的推文,发现针对性别敌意整体上升,结合16起关键事件与主题分析揭示敌意主题与动机,为理解社会运动的网络话语影响提供依据。
2023-08-24 cs.CY cs.SI
Towards Measuring Adversarial Twitter Interactions against Candidates in the US Midterm Elections
在推特等社交媒体上与政客的敌对互动对社会产生了重大影响。特别是,它们扰乱了网上的实质性政治讨论,并可能阻止人们寻求公职。在这项研究中,我们测量了在2018年美国大选前美国众议院候选人的对抗性互动。我们收集了一个新的数据集,包括170万条涉及候选人的推文,这是专注于政治话语的最大语料库之一。然后,我们开发了一种新的技术,用于检测针对任何特定候选人的有毒内容的推文。这种技术使我们能够更准确地量化对政治候选人的敌对互动。此外,我们还引入了一种算法来诱导特定于候选人的对抗性术语,以捕获以前的技术可能不会认为有毒的更细微的对抗性交互。最后,我们使用这些技术来概述在选举中看到的对抗性互动的广度,包括攻击性的辱骂,暴力威胁,发布不名誉的信息,对身份的攻击,以及对抗性的信息重复。
2020-05-09 cs.CY cs.HC cs.SI
Comparing Toxicity Across Social Media Platforms for COVID-19 Discourse
本研究分析 2020 年 Twitter、Parler 和 Reddit 的 COVID-19 讨论,发现 Parler 毒性最低、Reddit 最高,并揭示反疫苗错误信息与阴谋论的作用。
2023-04-26 cs.SI
'Congratulations, morons': Dynamics of Toxicity and Interaction Polarization in the Covid Vaccination and Ukraine War Twitter Debates
本文分析新冠疫苗与乌克兰战争的两个大型 Twitter 数据集,结合转推影响者偏好、簇结构演变和内容毒性,揭示意识形态对立及毒性与结构分歧的时间关联。
2025-05-12 cs.SI physics.soc-ph
Safe Spaces or Toxic Places? Content Moderation and Social Dynamics of Online Eating Disorder Communities
本研究比较分析了Twitter/X、Reddit和TikTok上进食障碍讨论的内容审核与用户参与,发现审核较弱的平台易形成放大支持厌食症言论的有毒回音室,揭示了审核策略对心理健康在线社区发展的显著影响。
2024-12-20 cs.CY cs.HC cs.SI
Exploring Media Bias and Toxicity in South Asian Political Discourse
媒体和政治活动家将社交媒体视为广泛传播新闻和观点的手段。特别是,Twitter被世界各地的政治团体用来传播政治信息,吸引他们的支持者,推动竞选活动,并挑战他们的批评者。此外,许多新闻机构的目的是给人一种平衡的印象,它们往往具有某种政治信念,这反映在它们制作的内容中。在政治和媒体组织影响公众舆论的潜力的驱动下,我们的目标是量化这些组织通过使用社交媒体进行政治话语的性质。在这项研究中,我们分析的情绪,毒性和偏见表现出的最突出的巴基斯坦和印度的政党和媒体,以及这些政党利用Twitter的模式。我们发现,媒体的偏见和毒性存在于这两个发展中国家的政治话语。
2018-12-05 cs.SI
Understanding the Dynamics between Vaping and Cannabis Legalization Using Twitter Opinions
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Ohio State University(俄亥俄州立大学)
大麻合法化受到美国许多州的欢迎,但其在从烟草电子烟使用升级到大麻vaping中的作用尚不清楚。与此同时,大麻vaping与新的肺部疾病和青少年使用率上升有关。为了了解大麻合法化对升级的影响,我们设计了一项观察性研究,以估计娱乐性大麻合法化对电子烟使用者亲大麻态度发展的因果影响。我们收集和分析Twitter数据,其中包含有关大麻和JUUL(一个非常受欢迎的电子烟品牌)的意见。我们使用弱监督学习进行个人推特过滤和分类的立场检测。我们发现,娱乐性大麻合法化政策对已经支持电子烟的用户的亲大麻态度的发展产生了影响。
2021-06-04 cs.CL cs.CY cs.LG
Cross-Partisan Interactions on Twitter
针对社交媒体跨党派互动(CPIs)的发生机制与影响因素问题,本文通过分析2020年美国相关的300万条Twitter推文,揭示话题性质、政治立场等对CPIs的影响,为减少两极分化和干预有害互动提供参考。
2025-04-12 cs.SI
SenTopX: Benchmark for User Sentiment on Various Topics
本研究构建了SenTopX基准,收集了2007至2021年143K名用户的2.93亿条推文进行纵向分析,基于主题建模将用户分为八组并利用16个有毒分数分析情感,揭示了用户综合人格特质及其对平台的影响。
2024-06-04 cs.SI
Characterizing Online Toxicity During the 2022 Mpox Outbreak: A Computational Analysis of Topical and Network Dynamics
University of Michigan(密歇根大学)
本研究基于160余万条推文,结合BERT主题建模与社交网络聚类,系统分析了2022年猴痘疫情期间网络毒性话语的主题构成与扩散网络,揭示有影响力用户较少反击毒性内容,为危机沟通与政策制定提供依据。
2024-10-01 cs.CL cs.SI
The influence of coordinated behavior on toxicity
基于2019年英国大选前1100万条推文,研究发现协调行为用户整体传播危害较小的内容,仅在原创帖子中毒性略高,且对非协调用户的影响有限。
2024-10-04 cs.CY cs.SI physics.soc-ph
The Manufacture of Partisan Echo Chambers by Follow Train Abuse on Twitter
越来越多的证据表明,社交媒体存在严重的脆弱性,例如党派回声室的出现和错误信息的病毒式传播。我们发现,这些漏洞被与Twitter上所谓的“关注火车”相关的滥用行为放大,其中提到了一长串志同道合的账户供其他人关注。我们提出了一个大型的美国超党派训练网络的第一个系统分析。我们观察到一种人为的影响力膨胀:被追随者大量推广的账户从每日追随者增长的六倍中获利。这催化了高度聚集的回声室的形成,围绕活跃账户的密集核心分层组织。训练账户还从事其他违反平台政策的行为:我们发现不真实的自动账户和异常内容删除活动的证据,以及来自低可信度和阴谋来源的有毒内容的放大。一些训练账号已经活跃多年,这表明平台需要对这类滥用行为给予更大的关注。
2021-03-17 cs.CY cs.SI
Evaluating Twitter's Algorithmic Amplification of Low-Credibility Content: An Observational Study
本研究通过分析 2023 年 1 月 Twitter 上 270 万条 COVID-19 和气候变化相关帖子,采用自举模型比较展示量,发现含低可信度 URL、高毒性、右倾偏见及认证账户的低可信度推文获得了显著更强的算法放大,表明推荐系统可能助长了虚假内容扩散。
2023-09-19 cs.SI
Mapping Election Toxicity on Social Media across Issue, Ideology, and Psychosocial Dimensions
University of Southern California(南加州大学)
研究通过分析社交媒体上的选举讨论,探讨毒性在不同议题、意识形态及心理社会维度上的差异,揭示毒性表达的驱动因素及情感与道德框架的影响。
2026-04-18 cs.CL cs.CY cs.SI
"Sharing, Not Showing Off": How BeReal Approaches Authentic Self-Presentation on Social Media Through Its Design
本研究通过访谈29名13-18岁用户,发现BeReal的自发分享与互惠设计能减轻青少年自我呈现压力并验证无滤镜生活,但也存在局限与有害性,据此提出了支持真实自我呈现的平台设计指南。
2024-08-27 cs.HC cs.SI
Modelling the Spread of Toxicity and Exploring its Mitigation on Online Social Networks
Ahmedabad University(艾哈迈达巴德大学);IBM India Research Lab(印度IBM研究院)
本文提出了一种基于用户行为变化的毒性传播模型,并通过和平机器人干预策略减少网络中的毒性传播。
2025-11-25 cs.SI
An Analysis of Twitter Discourse on the War Between Russia and Ukraine
本研究通过分析推特上的内容与用户,探讨亲乌克兰与亲俄罗斯话语,揭示新用户和机器人的显著存在,以理解信息战背景下的社交媒体生态。
2023-06-20 cs.SI
"A Virus Has No Religion": Analyzing Islamophobia on Twitter During the COVID-19 Outbreak
COVID-19大流行扰乱了人们的生活,使他们在恐惧、焦虑和愤怒中行事,导致世界范围内的种族主义事件在物理世界和在线社交网络中发生。尽管有一些作品关注COVID-19大流行期间的恐华症,但对最近伊斯兰恐惧症的关注较少。宗教Tablighi Jamaat聚会产生的大量积极案例促使人们围绕#coronajihad,#tablighijamaatvirus等标签形成反穆斯林社区。除了网络空间外,仇视伊斯兰教情绪的上升也导致现实世界中仇恨犯罪的增加。因此,需要进行调查以采取干预措施。据我们所知,我们提出了第一个将伊斯兰恐惧症与COVID-19联系起来的大规模定量研究。在本文中,我们介绍了CoronaBias数据集,该数据集专注于跨越四个月的反穆斯林仇恨,来自244,229个独立用户的超过410,990条推文。我们使用该数据集进行纵向分析。我们发现Twitter上的趋势与随着时间的推移发生的离线事件之间的关系,测量与穆斯林社区相关的背景下的质的变化,并进行宏观和微观的主题分析,以找到流行的主题。我们还探索了内容的性质,重点关注CoronaBias数据集中推文中共享的URL的毒性。除了基于内容的分析外,我们还关注用户分析,揭示了将宗教描绘为爱国主义象征在决定穆斯林社区在大流行期间的看法方面发挥了至关重要的作用。通过这些实验,我们揭示了印度次大陆围绕COVID-19的反穆斯林言论的存在。
2021-07-25 cs.HC cs.SI
Using Localized Twitter Activity for Red Tide Impact Assessment
赤潮发生在甲藻Karenia brevis(K.短鳍金枪鱼(Brevis)产生有毒的沿海条件,可能影响海洋生物和人类健康,同时也影响当地经济。在2017-2019年佛罗里达州极端赤潮事件期间,居民和游客转向社交媒体平台,以接收与灾害相关的信息,并交流自己的感受和经验。这是自社交媒体广泛使用以来的第一次大型赤潮事件,因此提供了独特的人群来源的赤潮影响报告。我们评估了Twitter上赤潮主题活动的空间和时间准确性,将推文情绪和用户类型(例如媒体,公民)考虑在内,并将推文活动与报告的赤潮情况进行比较,例如K。短细胞计数、死鱼水平和当地海滩的呼吸道刺激。分析是在两个地点的多个层面上进行的(例如,整个墨西哥湾沿岸、县级、市级、邮政编码制表区域)和时间频率(例如每天、每三天、每周),导致当地人均Twitter活动与该地区观察到的实际赤潮状况之间存在很强的相关性。此外,还观察到受影响沿海地区的邻近程度与相关推文的人均数量之间存在关联。结果表明,Twitter是一个可靠的代理赤潮的本地影响和发展随着时间的推移,这可能是一个更有效的评估和更协调的应对灾害的实时的工具。
2021-07-06 cs.SI stat.AP
Radicalized by Thinness: Using a Model of Radicalization to Understand Pro-Anorexia Communities on Twitter
本研究将亲厌食症社区的增长视为在线激进化过程,用激进化模型解释个体如何被驱使参与极端行为对话,并揭示社会媒体平台通过社会联系和情感支持将个体困于有毒回音室,从而放大有害对话,为制定缓解策略提供支持。
2023-08-30 cs.SI
FUBU-EPSTEIN: A Large-Scale Twitter Dataset on the Jeffrey Epstein Case and Its Global Public Discourse (2019-2023)
该研究推出了FUBU-EPSTEIN数据集,包含5438万条Twitter状态等数据,经去标识化处理后发布,支持爱泼斯坦案件相关的计算研究,降低了数据泄露风险。
2026-08-12 cs.SI
Sensing the Pulse of the Pandemic: Geovisualizing the Demographic Disparities of Public Sentiment toward COVID-19 through Social Media
本研究利用2020-2021年美国Twitter数据,提出人口统计学调整情绪(SAD)指数以缓解社交媒体分析中的人口偏差,揭示不同群体对COVID-19情绪的时空差异及各州情绪分布。
2023-08-02 cs.CY cs.SI physics.soc-ph
The Systemic Impact of Deplatforming on Social Media
本文通过分析 Twitter 到 Gettr 的封禁迁移数据,揭示去平台化如何将极右翼用户推向监管不足的替代平台并加剧网络风险。
2023-03-20 cs.SI physics.soc-ph
The Chilling: Identifying Strategic Antisocial Behavior Online and Examining the Impact on Journalists
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出树结构 Transformer 分类器识别 Twitter 对话中的攻击者、支持者和旁观者及其潜在策略,并发现攻击者互动与记者发帖放缓的寒蝉效应显著相关。
2025-08-22 cs.SI
Characterizing the Anti-Vaxxers' Reply Behavior on Social Media
尽管反疫苗倡导者或反疫苗者的在线活动严重威胁到群体免疫的努力,但他们的回复行为(可以发送到追随者关系之外的定向消息的形式)仍然知之甚少。在这里,我们研究了反vaxxers在Twitter上的回复行为的特征,试图了解他们在互动频率,内容和目标方面传播信仰的特征。在结果中,反vaxxers更频繁地与其他集群进行回复行为,特别是中立帐户。反对vaxxers的回复比中立账户和支持vaxxers的回复更具毒性,特别是在疫苗推出方面,它们的毒性更高。反vaxxers的回答在情感方面比其他人更有说服力,而不是语言风格。反vaxxers回复的目标往往是拥有大量粉丝和帖子的账户,包括与医疗保健相关的账户,或代表科学家,政策制定者,媒体人物或媒体的账户。我们讨论了他们的回答行为如何有效地传播他们的信念,以及可能的对策,以抑制他们。这些发现应该证明对支持疫苗的人和平台开发者有用,以促进可信信息,同时减少疫苗虚假信息的影响。
2021-11-12 cs.SI
Mutual Hyperlinking Among Misinformation Peddlers
互联网承诺使知识的获取民主化,使世界更加开放和理解。然而,当今互联网的现实与这一理想相去甚远。错误信息、谎言和阴谋主导着许多社交媒体平台。这个有毒的网络世界已经对现实世界产生了影响,从种族灭绝到选举干预,以及对全球公共卫生的威胁。沮丧的公众和不耐烦的政府监管机构呼吁对旨在播下内乱并激发针对个人、社会和民主的暴力的错误和虚假信息运动做出更有力的回应。我们描述了一个大规模的,域级的分析,揭示了多个域之间的看似协调的努力,传播和放大错误信息。我们还描述了如何共享的超链接由某些Twitter用户可以用来表面有问题的域。这些分析可以被搜索引擎和社交媒体推荐算法用于系统地发现和降级错误信息贩子。
2021-04-20 cs.SI
On the rise of fear speech in online social media
Rutgers University(罗格斯大学)
最近,社交媒体平台受到严格控制,以防止网上仇恨言论的传播,这些言论通常含有大量有毒词语,并针对个人或社区。由于这种严重的缓和,正在使用更新和更微妙的技术。其中,最令人敬畏的是《论语》。恐惧演讲,顾名思义,试图煽动对目标社区的恐惧。虽然很微妙,但它可能非常有效,经常将社区推向身体冲突。因此,了解它们在社交媒体中的流行程度至关重要。本文介绍了一项大规模的研究,以了解从Gab.com收集的40万恐惧言论和超过70万仇恨言论帖子的流行情况。值得注意的是,发布大量恐惧言论的用户比发布大量仇恨言论的用户积累了更多的关注者,并在社交网络中占据了更多的中心位置。他们还可以通过回复、转发和提及,比仇恨言论用户更有效地接触到良性用户。这与一个事实有关,即与仇恨言论不同,恐惧言论几乎没有有毒内容,使其看起来似乎是合理的。此外,虽然恐惧言论主题大多将社区描绘为使用(假)论证链的犯罪者,但仇恨言论主题直接投掷多目标侮辱,从而指出为什么一般用户更容易上当恐惧言论。我们的发现甚至超越了其他平台(Twitter和Facebook),因此有必要使用复杂的审核政策和大众意识来对抗恐惧言论。
2023-03-18 cs.CL cs.CY cs.SI
Modeling Aggression Propagation on Social Media
网络攻击已经在各种环境和在线社交平台中进行了研究,并使用最先进的机器和深度学习算法对不同的数据进行建模,以自动检测和阻止这种行为。由于在自己的(在线)社交圈中毒性和攻击性增强,用户可能会受到影响而采取攻击性行为,甚至欺凌他人。实际上,这种行为可以从一个用户和邻居传播到另一个用户和邻居,从而在网络中传播。有趣的是,据我们所知,还没有任何研究对攻击性行为的网络动力学进行建模。在本文中,我们朝着这个方向迈出了第一步,通过使用意见动态研究社交媒体上的攻击传播。我们提出了一些方法来模拟侵略如何从一个用户传播到另一个,这取决于每个用户是如何连接到其他侵略性或常规用户。通过对Twitter数据的广泛模拟,我们研究了攻击性行为如何在网络中传播。我们用爬行和注释的地面实况数据验证我们的模型,达到80%的AUC,并讨论我们工作的结果和影响。
2021-06-25 cs.CY cs.SI
Not All Asians are the Same: A Disaggregated Approach to Identifying Anti-Asian Racism in Social Media
本研究通过收集X平台12个月数据,按时间和族群细分反亚裔有害信息,结合时间持续性分析、n-gram对应分析和主题建模,证明反亚裔仇恨叙事多样,强调分类方法对制定缓解策略的重要性。
2024-02-12 cs.SI
Social Media and Academia: How Gender Influences Online Scholarly Discourse
本研究基于美国顶尖高校计算机科学学者的Twitter数据,揭示性别对在线学术交流的影响,发现男女话题相似但表达风格、情绪及遭受骚扰程度存在差异,呼吁营造更包容的学术环境。
2025-04-29 cs.SI
Characterizing (Un)moderated Textual Data in Social Systems
尽管在线媒体促进了有价值的社会互动,但这些系统为言论提供了空间,这对不同群体的人来说可能是有害的。许多社交媒体对内容的节制促使了一个名为Gab的新的言论自由社交系统的出现,该系统缺乏内容的节制。这篇文章的特点和比较温和的文本数据从Twitter的一组未经审核的数据从加布。特别是,我们分析了温和和unmoderated内容的语言特征方面的区别特征,评估仇恨言论及其在这两种环境中的不同形式。我们的研究表明,无节制的内容呈现出不同的心理语言学特征,更多的负面情绪和更高的毒性。我们的研究结果支持无节制的环境可能会有更多的在线仇恨言论。我们希望我们的分析和研究结果有助于关于仇恨言论的辩论,并有利于旨在部署仇恨言论检测方法的系统。
2021-01-04 cs.SI
Not Judging a User by Their Cover: Understanding Harm in Multi-Modal Processing within Social Media Research
社交媒体已经动摇了我们社会的基础,尽管看起来不太可能。然而,许多用于缓和有害数字内容的流行工具受到学术界和公共领域的广泛批评,因为它们的性能中等,缺乏问责制。尽管社交媒体研究被认为主要集中在自然语言处理上,但我们证明了社区了解多媒体处理及其独特道德考虑的必要性。具体来说,我们确定了在提供不同形式的信息时Amazon Turk(MTurk)注释器性能的统计差异,并讨论了众包人类人口统计预测所产生的伤害模式。最后,我们讨论了这些偏见的后果,通过审计的毒性检测器的性能称为透视API的Twitter用户的语言在各种人口统计类别。
2020-10-19 cs.SI
Large-Scale Sleep Condition Analysis Using Selfies from Social Media
睡眠状况与个人的健康密切相关。睡眠障碍和睡眠不足等睡眠状况不佳会影响一个人的日常表现,也可能导致许多慢性疾病。许多努力都致力于监测人们的睡眠状况。然而,传统的方法需要复杂的设备并消耗大量的时间。在这篇论文中,我们试图开发一种新的方法来预测个人的睡眠状况,通过仔细研究面部线索,就像医生一样。我们不是直接测量睡眠状况,而是测量间接反映睡眠状况的睡眠剥夺疲劳。我们的方法可以根据受试者提供的自拍照来预测睡眠不足的疲劳率。该速率用于指示睡眠状况。为了更深入地了解人类的睡眠状况,我们从Twitter和Instagram上发布的自拍照中收集了大约10万张面孔,并使用自动算法识别了他们的年龄,性别和种族。接下来,我们调查了睡眠状况在年龄、性别和种族方面的分布。我们的研究表明,在各个年龄组中,0-20岁青少年组的疲劳百分比最高,这意味着该年龄组的睡眠状况更差。就性别而言,女性的疲劳百分比高于男性,这意味着更多的女性比男性遭受睡眠问题。在种族群体中,白人的疲劳百分比最高,其次是亚洲人和非洲裔美国人。
2017-04-22 cs.SI
The Dawn of Decentralized Social Media: An Exploration of Bluesky's Public Opening
本文纵向分析去中心化社交平台 Bluesky 在 2024 年公开开放前后的用户活动,发现用户与发帖激增、原创内容较多且毒性低,同时可疑账号被有效识别和处置。
2024-08-06 cs.SI
Socially-Informed Content Analysis of Online Human Behavior
本论文采用计算社会科学方法,提出整合内容与社交连接的统一用户嵌入方法,分析COVID-19话语、仇恨言论及道德基础,揭示负面在线行为动因,为健康数字互动提供数据驱动方案。
2025-09-13 cs.SI
A BERT-Based Transfer Learning Approach for Hate Speech Detection in Online Social Media
CNRS(法国国家科学研究中心);Institut Polytechnique de Paris(巴黎综合理工学院)
一部分用户在社交媒体上生成仇恨和有毒内容是一种日益增长的现象,促使研究人员投入大量精力,致力于具有挑战性的仇恨内容识别方向。我们不仅需要一个基于先进机器学习和自然语言处理的高效自动仇恨语音检测模型,还需要足够大量的注释数据来训练模型。缺乏足够数量的带有标签的仇恨言论数据,加上现有的偏见,一直是这一研究领域的主要问题。为了满足这些需求,在这项研究中,我们引入了一种新的迁移学习方法,该方法基于现有的预训练语言模型,称为BERT(来自Transformers的双向编码器表示)。更具体地说,我们调查的能力,BERT在捕捉仇恨的社会媒体内容的背景下,使用新的微调方法的基础上迁移学习。为了评估我们提出的方法,我们使用了两个公开可用的数据集,这些数据集已经在Twitter上注释了种族主义,性别歧视,仇恨或攻击性内容。结果表明,与现有方法相比,我们的解决方案在这些数据集上的精度和召回率方面获得了相当大的性能。因此,我们的模型可以捕获数据注释和收集过程中的一些偏差,并可能导致我们获得更准确的模型。
2019-10-28 cs.CL cs.IR cs.LG
Are you in a Masquerade? Exploring the Behavior and Impact of Large Language Model Driven Social Bots in Online Social Networks
该研究针对LLMs驱动社交机器人行为与影响研究不足的问题,基于Chirper平台数据开展探索,揭示其伪装性、集体特征与社区影响力,评估现有检测方法局限,并发布Masquerade-23数据集填补数据空白,为相关研究与治理提供参考。
2023-07-19 cs.SI
Manufactured Divisiveness: Decomposing the Hostile Content of Seven Social Media Influence Operations
Department of Computer Science University of Southern California(计算机科学系 美国南加州大学)
研究推特中七种政府认定活动推文里的恶意内容,通过双提示大语言模型检测器和可审计规则区分仇恨与其他分裂形式,发现将所有相关内容计为仇恨会高估,有助于重新定义影响活动及在线话语中仇恨的研究。
2026-07-17 cs.CL cs.SI