Friction Interventions to Curb the Spread of Misinformation on Social Media
针对社交媒体低质量内容泛滥问题，研究结合质量识别学习的摩擦干预措施，经智能体模型实验验证其可显著提升帖子平均质量，且对参与度影响小、易规模化，拟通过实地实验进一步测试。
2023-07-21 cs.CY cs.SI
Governing Social Media as a Public Utility
ESSEC Business School（法国高等经济商业学院）；University of Sydney（悉尼大学）
本文提出将社交媒体作为公共事业治理，优先公共利益，结合立法删除与民主审核，以减少社会危害。
2026-02-23 cs.CY cs.SI
Supporters and Skeptics: LLM-based Analysis of Engagement with Mental Health (Mis)Information Content on Video-sharing Platforms
Georgia Institute of Technology（佐治亚理工学院）；Rowan University（罗文大学）；Zucker Hillside Hospital, Psychiatry Research（扎克山坡医院精神病学研究部）；Hofstra University（霍夫斯特拉大学）
本文首次基于YouTube Shorts和BitChute构建心理健康错误信息数据集MentalMisinfo，利用大语言模型少样本学习检测错误信息视频，并揭示受众评论互动的语言模式及其加剧污名化的风险。
2024-07-02 cs.CL cs.CY cs.SI
Dynamics and triggers of misinformation on vaccines
Sony Computer Science Laboratories Rome（索尼计算机科学实验室罗马分部）；Centro Ricerche Enrico Fermi（恩里科·费米研究中心）；Università Ca’ Foscari di Venezia（威尼斯卡福斯卡里大学）
该研究通过分析6年意大利多平台疫苗讨论，运用符号转移熵和深度学习模型，揭示错误信息能自主驱动议程并压倒可靠来源，强调持续全面支持疫苗接种报道的重要性。
2024-06-06 cs.CY cs.LG cs.SI
Tiered Anonymity on Social-Media Platforms as a Countermeasure against Deepfakes and LLM-Driven Mass Misinformation
University of Cambridge（剑桥大学）
本文提出通过三级匿名框架应对深度伪造和大语言模型驱动的虚假信息，通过影响力评分区分用户层级并实施差异化隐私保护措施。
2026-02-09 cs.CY cs.SI
Facebook's Architecture Undermines Vaccine Misinformation Removal Efforts
错误的信息促进了对科学的不信任，破坏了公共卫生，并可能引发内乱。特别是疫苗的错误信息阻碍了克服COVID-19大流行的努力，促使社交媒体平台试图减少它。一些人质疑“软”内容适度补救措施--例如，标记和降级错误信息-是成功的，这表明增加“硬”内容补救措施-例如，去平台化和内容禁令是必要的。因此，我们研究了Facebook的疫苗错误信息内容删除政策是否有效。在这里，我们表明Facebook的政策减少了反疫苗帖子的数量，但也造成了一些反常的影响：支持疫苗的内容也被删除，与剩余的反疫苗内容的参与一再恢复到政策前的水平，这些内容变得更加错误，政治上更加两极分化，更有可能在用户的新闻源中看到。我们将这些结果解释为Facebook设计目标的意外后果：促进社区形成。致力于疫苗拒绝的社区成员似乎从多个来源寻找错误信息。社区管理员利用Facebook平台提供的几个渠道传播错误信息。我们的研究结果表明，有必要解决社交媒体平台架构如何在管理在线内容传播时围绕错误信息主题实现社区形成和动员。
2022-08-11 cs.CY cs.SI cs.SY
COVID-19 on Social Media: Analyzing Misinformation in Twitter Conversations
University of Southern California（南加利福尼亚大学）
持续的冠状病毒（COVID-19）大流行凸显了当今全球化世界的相互联系。随着社交距离政策的实施，虚拟通信已成为（错误）信息的重要来源。随着越来越多的人依赖社交媒体平台获取新闻，识别错误信息并揭示有关COVID-19的在线话语的性质已成为一项关键任务。为此，我们自2020年3月1日起使用Twitter API收集与COVID-19相关的流媒体数据。我们根据事实核查来源确定了不可靠和误导性的内容，并检查了错误信息推文中的叙述，以及这些推文的参与分布。此外，我们提供了突出的错误信息推文的传播模式的例子。该分析在可访问的仪表板（https：//usc-melady.github.io/COVID-19-Tweet-Analysis）上展示和更新，以跟踪2020年3月1日至6月5日期间Twitter上关于COVID-19的在线话语和错误信息的性质。该仪表板提供了一个已识别的错误信息推文的每日列表，以及COVID-19 Twitter话语中的主题，情绪和新趋势。提供仪表板是为了提高对在线共享信息的性质和质量的可见性，并提供对从数据集中提取的见解和信息的实时访问。
2020-10-22 cs.CY cs.LG cs.SI
Who Funds Misinformation? A Systematic Analysis of the Ad-related Profit Routines of Fake News sites
假新闻是一种古老的现象，被广泛认为与政治宣传有关，以影响公众舆论。然而，随着社交媒体的发展，它已成为网络出版商的一项有利可图的业务。尽管进行了许多研究并提出了对策，但不可靠的新闻网站在过去几年中在表现最好的新闻来源中的参与份额有所增加。遏制假新闻的影响取决于我们努力限制假新闻制造者的（经济）动机。在本文中，我们旨在提高这些确切激励措施的透明度，并探讨：谁通过付费广告支持假新闻网站的存在，无论是作为广告商还是广告销售商？谁拥有这些网站，他们还从事哪些其他网络业务？我们是第一个将假新闻收入流的审计过程系统化的公司。我们确定了在假新闻网站上做广告的公司，以及负责促进这些广告收入的中介公司。我们研究了2,400多个流行的新闻网站，发现谷歌和IndexExchange等知名广告网络与40%以上的假新闻网站有直接的广告关系。通过对114.5K个网站使用图聚类方法，我们发现拥有假新闻网站的实体也经营其他类型的网站，这表明拥有假新闻网站是更广泛的商业运作的一部分。
2023-02-17 cs.CY
AI Feedback Enhances Community-Based Content Moderation through Engagement with Counterarguments
University College Dublin（都柏林大学学院）；Trinity College Dublin（都柏林三一学院）；Technological University Dublin（都柏林科技大学）
本文研究了AI辅助的混合审核框架，通过提供支持性、中立或论证性的AI反馈，提升用户注释质量，强调多样化视角和直接互动在人机协同智能中的价值。
2026-04-20 cs.CY cs.SI
Viral Misinformation: The Role of Homophily and Polarization
在在线社交网络（OSN）上无意或有意传播未经证实的谣言（例如，出于政治原因，甚至是拖钓）可能会产生严重后果，例如最近关于埃博拉病毒的谣言对卫生保健工作者造成了干扰。在这里，我们表明，旨在量化信息消费模式的指标可能会提供有关虚假声明的病毒式传播的重要见解。特别是，我们通过分析120万Facebook意大利用户消费不同（和相反）类型的信息（科学和阴谋新闻）的样本，解决了内容流行背后的驱动力。我们发现，用户对不同内容的参与与具有相似消费模式（同质性）的朋友数量相关，这表明社交网络中某些类型的内容更有可能传播的区域。然后，我们测试扩散模式的外部样本的$4,709$故意讽刺的虚假声明，既不存在枢纽（结构属性），也不是最活跃的用户（影响者）是普遍的病毒现象。相反，我们发现，在一个错误信息无处不在的环境中，用户围绕共同信念的聚集可能会使通常暴露于阴谋故事（两极分化）成为虚假信息传播的决定因素。
2014-11-11 cs.CY cs.SI physics.soc-ph
Polarized Patterns of Language Toxicity and Sentiment of Debunking Posts on Social Media
University of Science and Technology of China（中国科学技术大学）
本研究分析了社交媒体上大量辟谣帖，揭示了边缘用户、平台机制和情感表达对语言毒性与极化的影响，为减轻在线危害提供了见解。
2025-01-31 cs.AI cs.CL cs.CY
Analyzing News Engagement on Facebook: Tracking Ideological Segregation and News Quality in the Facebook URL Dataset
本文基于 Facebook 隐私保护完整 URL 数据集，结合来源意识形态、质量评分与用户政治偏好，追踪 2017–2020 年美国自由派、保守派和温和派的新闻消费差距与质量变化。
2025-09-02 cs.CY cs.SI
Emotional Dynamics in the Age of Misinformation
根据世界经济论坛的说法，在社交媒体上传播未经证实的谣言是我们社会的主要威胁之一。在线社交媒体上内容生产和消费的非中介化范式可能会促进围绕特定世界观形成同性恋社区（回声室）。这种情况已被证明是散布虚假主张，特别是阴谋论的生动环境。并非罕见的是，病毒现象引发了天真（和有趣）的社会反应-例如，最近的玉盔15号事件，一次简单的军事演习被认为是美国内战的开始。在这项工作中，我们解决了围绕不同类型新闻的集体辩论的情感动态-即，科学和阴谋新闻--以及在各自两极分化的社区内部和之间（科学和阴谋新闻）。我们的研究结果表明，对阴谋论帖子的评论往往比对科学帖子的评论更负面。然而，用户的参与度越高，他们就越倾向于负面评论（包括科学和阴谋）。最后，放大两极化社区之间的互动，我们发现一个普遍的负面模式。随着评论数量的增加，讨论的时间越来越长，帖子的情绪越来越负面。
2015-05-29 cs.CY cs.SI physics.soc-ph
Sampling the News Producers: A Large News and Feature Data Set for the Study of the Complex Media Landscape
当今媒体格局的复杂性和多样性为研究新闻制作者的研究人员提供了许多挑战。这些生产者使用许多不同的策略，让他们的信息相信读者通过他们采用的写作风格，通过重复不同的媒体来源，或没有归属，以及其他机制，还有待深入研究。为了更好地促进这一领域的系统研究，我们提供了一个大型政治新闻数据集，包含来自92个新闻来源的超过136K的新闻文章，收集了2017年7个月的数据。这些新闻来源经过精心挑选，包括成熟的主流来源，恶意伪造的来源，讽刺来源和超党派政治博客。除了每篇文章之外，我们还计算了130个基于内容和社交媒体的参与特征，这些特征来自于广泛的关于政治偏见、说服和错误信息的文献。随着数据集的发布，我们还提供了特征计算的源代码。在本文中，我们讨论了数据集的首次发布，并展示了数据和功能的4个用例：新闻表征，参与表征，新闻归因和内容复制，以及发现新闻叙事。
2018-08-16 cs.CY
On Capturing the Narrative: Social Media Manipulation Wargaming for Cyberliteracy
University of New South Wales（新南威尔士大学）
该研究针对网络错误信息及数字素养教育问题，通过举办“捕捉叙事”多校竞赛，让学生团队构建大语言模型驱动的机器人影响模拟选举，分析竞赛情况及学生反馈，为教育工作者提供建议并提出改进方向。
2026-07-28 cs.CY cs.HC
Improving social media for democratic discourse
Columbia University（哥伦比亚大学）
本文针对主流社交媒体以参与度和广告收入为导向引发的问题，提出一套模块化机制，旨在将社交媒体设计为支持民主讨论的数字公共空间，为相关跨学科讨论提供起点。
2026-10-09 cs.CY cs.HC
