Defending Democracy: Using Deep Learning to Identify and Prevent Misinformation
Microsoft（微软）；University of Washington（华盛顿大学）
近年来，网上错误信息的增加通过扭曲真实的公共话语，造成混乱、恐惧，甚至在极端情况下造成暴力，威胁着民主国家。有必要了解虚假内容通过在线网络的传播，以便制定干预措施，在错误信息达到病毒式传播之前将其破坏。使用深度双向Transformer语言理解（BERT）和传播图，这项研究分类和可视化的传播错误信息的社交媒体网络使用公开的Twitter数据。结果证实了之前关于用户集群和虚假内容病毒式传播的研究，同时提高了深度学习模型用于错误信息检测的精度。该研究进一步证明了BERT为虚假信息检测提供可扩展模型的适用性，这有助于开发更及时，更准确的干预措施，以减缓在线环境中错误信息的传播。
2021-06-03 cs.AI cs.CL cs.LG
Diffusion of Community Fact-Checked Misinformation on Twitter
社交媒体上错误信息的传播是一个紧迫的社会问题，平台，政策制定者和研究人员继续努力解决。作为一种对策，最近的作品提出在人群中雇用非专家的事实检查员来检查社交媒体内容。虽然实验研究表明，群体可能能够准确地评估社交媒体内容的真实性，但人们对群体事实核查（错误）信息传播的理解却缺失了。在这项工作中，我们实证分析了社交媒体上误导性与非误导性社区事实核查帖子的传播。为此，我们采用了一个数据集的社区创建的事实检查，从Twitter的观鸟飞行员和映射到Twitter上的再共享级联。与早期分析第三方事实核查网站上列出的错误信息传播的研究不同（例如，Snopes），我们发现，社区事实核查的错误信息是不太病毒。具体来说，误导性帖子的转发量估计比非误导性帖子少36.62%。部分原因可能在于事实检查目标的差异：社区事实检查员倾向于对来自有许多追随者的有影响力的用户帐户的帖子进行事实检查，而专家事实检查则倾向于针对影响力较小的用户共享的帖子。我们进一步发现，不同类型的错误信息（例如，事实错误，缺少上下文，操纵媒体）。此外，我们进行了一项用户研究，以评估（现实世界）社区创建的事实检查的感知可靠性。在这里，我们发现用户在很大程度上同意社区创建的事实检查。总而言之，我们的研究结果提供了关于误导性与非误导性帖子如何传播的见解，并强调了在研究社交媒体上的错误信息时样本选择的关键作用。
2023-03-24 cs.SI
Followers do not dictate the virality of news outlets on social media
本研究运用吉布拉定律分析千余家新闻媒体的Facebook历史数据，发现新闻传播热度与媒体规模无关，且不可靠来源的互动量会随时间下降，还构建了可复现增长动态的统计模型。
2024-06-24 cs.SI stat.AP
Folk Models of Misinformation on Social Media
在本文中，我们通过对235名社交媒体用户的半结构化访谈来调查存在哪些错误信息的民间模型。关于社交媒体错误信息的研究并没有调查普通用户--错误信息的目标--如何处理它;相反，重点主要是错误信息造成的焦虑、紧张或分裂。研究创造、传播和放大的各个方面也忽略了错误信息是如何被社交媒体上的用户内化的，因此很快就为假定的对错误信息缺乏免疫力开出了"接种"策略。用户如何应对社交媒体内容，以发展“天然免疫力”作为虚假信息恢复力的前兆，这仍然是一个悬而未决的问题。我们已经确定了至少五种将错误信息概念化的民间模型：政治（反）论证，断章取义的叙述，固有的错误信息，外部宣传，或者只是娱乐。我们使用这些民间模型中包含的丰富概念来揭示社交媒体用户如何最大限度地减少日常生活中遇到错误信息时的不良反应。
2022-07-26 cs.CY cs.SI
Modeling the amplification of epidemic spread by individuals exposed to misinformation on social media
Luddy School of Informatics, Computing, and Engineering, Indiana University（印第安纳大学卢迪信息、计算与工程学院）；Department of Electronics, Information and Bioengineering, Politecnico di Milano（米兰理工大学电子、信息与生物工程系）
本文通过构建传染病模型，研究社交媒体上的虚假信息如何放大传染病传播，评估不同场景下疫苗接种率和感染人数的影响。
2025-01-29 cs.CY cs.SI physics.soc-ph
Measuring and Detecting Virality on Social Media: The Case of Twitter's Viral Tweets Topic
社交媒体上的帖子可能会像病毒一样传播，并在短时间内到达大量人群。如果这些帖子含有误导性内容，可能会威胁到公共对话，因此及早发现这些帖子至关重要。以前的作品提出了自己的指标来注释推文是否是病毒式的，以便稍后自动检测它们。然而，这样的度量可能不能准确地表示病毒式推文，或者可能引入太多的误报。在这项工作中，我们使用Twitter的“病毒推文”主题提供的地面真相数据来审查当前的指标，并提出我们自己的指标。我们发现，一条推文是更有可能被归类为病毒的Twitter，如果转发的比例，其作者的追随者超过一定的阈值。我们在实验中发现这个阈值是2.16。这条规则虽然有利于较小的帐户，但误报较少。我们还提出了一个基于transformers的模型来早期检测病毒推文，报告F1得分为0.79。代码和tweet id可在以下网址公开获取：https://github.com/tugrulz/ViralTweets
2023-03-13 cs.CY cs.SI
Limited individual attention and online virality of low-quality information
社交媒体是一个巨大的市场，在那里，想法和新闻争夺我们的注意力。先前的研究表明，质量不是网络病毒式传播的必要条件，关于同伴选择的知识会扭曲质量和流行度之间的关系。然而，这些结果并不能解释低质量信息的病毒式传播，比如威胁我们民主的数字错误信息。我们调查质量歧视的程式化模型的在线社交网络，个人代理更喜欢高质量的信息，但在管理大量的信息流的行为限制。我们衡量一个想法的质量和它在系统层面上流行的可能性之间的关系。我们发现，信息过载和有限的注意力有助于在市场的歧视力退化。根据该模型，区分能力和信息多样性之间的良好折衷是可能的。然而，在真实的社交媒体中，用表征信息负载和有限注意力的经验数据进行校准，揭示了信息质量和受欢迎程度之间的弱相关性。在这些现实条件下，该模型预测，高质量的信息比低质量的信息几乎没有优势。
2019-01-10 cs.SI physics.soc-ph
Easy-access online social media metrics are associated with misinformation sharing activity
Central European University（中欧大学）；University of Padova（帕多瓦大学）；HUN-REN Centre for Social Sciences（匈牙利研究网络社会科学院）
本文提出利用易获取的社交媒体指标识别潜在虚假信息传播者，发现推文频率与低事实性内容正相关，账户年龄与之负相关。
2025-11-24 cs.CY cs.SI physics.soc-ph
Characterizing AI-Generated Misinformation on Social Media
JLU Giessen（吉森大学）
研究社交媒体平台X上人工智能生成的错误信息，通过分析82076条误导性帖子数据集，发现其多围绕娱乐内容、更易传播，源自小账户，作者有党派偏见且可信度低，凸显其独特特征，为平台及研究提供启示。
2026-07-21 cs.SI
Evaluating the effect of viral news on social media engagement
本研究用贝叶斯结构时间序列模型分析多语言新闻媒体的社交媒体数据，发现病毒式事件对参与度影响短暂且多逆转趋势，强调持续注意力建设优于追求突发流量。
2024-07-18 cs.SI
Social Media COVID-19 Misinformation Interventions Viewed Positively, But Have Limited Impact
在COVID-19错误信息的传播中，Facebook和Twitter等社交媒体平台推出了设计干预措施，包括链接到权威资源的横幅和更具体的“虚假信息”标签。2020年3月下旬，在这些干预措施开始出现后不久，我们进行了一项探索性混合方法调查（N = 311），以了解：社交媒体用户对这些干预措施的态度如何，以及他们自我报告的有效性如何？我们发现，大多数参与者对干预措施，特别是错误信息的特定标签表示积极的态度。尽管如此，大多数参与者还是通过其他方式发现或纠正了错误信息，最常见的是网络搜索，这表明平台有更多的空间来阻止COVID-19错误信息的传播。
2020-12-21 cs.CY cs.SI
Mitigating Misinformation Spread on Blockchain Enabled Social Media Networks
本研究提出一种基于区块链的社交媒体网络协议BE-SMN，将错误信息传播建模为区块链双花攻击并结合改进的SIR模型，经多社区网络数值实验验证，其在拉平错误信息感染人数曲线方面效果优于基线网络。
2023-05-01 cs.SI eess.SP
Evolution of the digital society reveals balance between viral and mass media influence
在线社交网络（OSN）使研究人员能够以前所未有的规模研究社会世界。世界范围的影响和维持其快速增长的必要性突出了揭示其演变规律的重要性。我们提出了一个定量的双参数模型，再现了整个拓扑演化的准孤立OSN与前所未有的精度从网络的诞生。这使我们能够精确地测量所涉及的基本宏观和微观机制。我们的研究结果表明，真正的预先存在的潜在社会结构，病毒传播机制和大众媒体的影响力之间的耦合控制OSN的演变。我们的模型的实证验证，在宏观尺度上，揭示了病毒性是四到五倍强于大众媒体的影响力，在微观尺度上，个人有较高的订阅概率，如果邀请较弱的社会联系，在协议的“弱关系的强度”范式。
2014-05-12 cond-mat.dis-nn cs.SI physics.comp-ph
Misinformation detection in Luganda-English code-mixed social media text
Makerere University（马凯雷雷大学）
社交媒体平台上错误信息的发生、形式和负面影响越来越多，需要更多的错误信息检测工具。目前，正在努力解决COVID-19的错误信息，但是，对于40种不同的乌干达土著语言中的任何一种，都没有错误信息检测工具。本文通过介绍基本的语言资源和错误信息检测数据集来解决这一差距，该数据集基于来自Facebook和Twitter社交媒体平台的代码混合的卢甘达语-英语消息。几种机器学习方法应用于错误信息检测数据集，以开发用于检测代码混合的卢甘达-英语消息是否包含错误信息的分类模型。在一个实验性的错误信息检测任务中，对分类方法进行了10倍交叉验证评估，结果表明，判别式多项朴素贝叶斯（DMNB）方法分别达到了最高的准确率和78.19%和77.90%的F-测度。此外，支持向量机和Bagging集成分类模型取得了可比的结果。这些结果是有希望的，因为机器学习模型基于仅来自错误信息检测数据集的n元特征。
2021-04-03 cs.CL cs.SI
Attention and misinformation sharing on social media
只有当用户表现出专注的行为时，才应该在社交媒体上分享信息。因此，有用的信息可以被建设性地消费，错误的信息可以被识别和忽略。注意行为与使用者加工信息的认知能力有关。本文所述的工作探讨了当用户在社交媒体上分享错误信息时，影响用户行为的注意因素问题。该研究旨在确定普遍关注因素对社交媒体上分享错误信息的重要性。我们使用了一个封闭式的问卷，其中包括一个心理测量量表来衡量与参与者（n = 112）的注意力行为。回归方程结果为：y=（19，533 - 0，390 +e），从一组回归分析中可以看出，注意力因素对用户在社交媒体上分享错误信息具有显著的负相关效应。随着分析结果的发现，我们建议，注意因素被纳入到社会化媒体应用程序的未来设计，可以干预用户的注意力，并避免潜在的伤害所造成的错误信息的传播。
2020-12-28 cs.HC cs.SI
Combating Health Misinformation in Social Media: Characterization, Detection, Intervention, and Open Issues
Illinois Institute of Technology（伊利诺伊理工学院）；Weill Cornell Medicine（威尔康奈尔医学院）
社交媒体已成为公众的主要信息消费来源之一，使人们能够更快、更容易地寻找和传播信息。然而，各种社交媒体平台的兴起也使网上错误信息泛滥。特别是，健康领域的错误信息对我们的社会产生重大影响，例如COVID-19信息流行病。因此，社交媒体中的健康错误信息已成为一个新兴的研究方向，越来越受到不同学科研究人员的关注。与其他领域的错误信息相比，健康错误信息的关键区别在于对人类身体甚至生命造成实际伤害的可能性，正常人难以识别的难度以及与医学科学的深度联系。此外，社交媒体上的健康误导信息在生成、传播和消费范式等多个维度上具有与电视等传统渠道截然不同的特征。由于打击社交媒体中的健康错误信息的独特性和重要性，我们进行这项调查，以进一步促进对这一问题的跨学科研究。在这项调查中，我们提出了一个全面的审查现有的研究在不同学科的在线健康错误信息。此外，我们还从表征、检测和干预三个角度系统地整理了相关文献。最后，我们对社交媒体中打击健康错误信息的紧迫问题进行了深入讨论，并为多学科研究人员提供了未来的方向。
2022-11-10 cs.AI cs.CY cs.SI
Case Study on Detecting COVID-19 Health-Related Misinformation in Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
2019冠状病毒病大流行造成了公共卫生官员所说的错误信息泛滥。随着社交距离和呆在家里的命令生效，许多人转向社交媒体进行社交。社交媒体使用的增加使其成为传播错误信息的主要工具。本文提出了一种跨学科方法检测社交媒体中与COVID-19健康相关的错误信息的机制。利用社会心理学作为基础和现有的错误信息框架，我们定义了错误信息的主题和相关的关键字纳入错误信息检测机制，使用应用机器学习技术。接下来，使用Twitter数据集，我们使用多个最先进的机器学习分类器探索了所提出的方法的性能。我们的方法显示了有前途的结果，在使用基于uni-gram的NLP特征生成的推文和决策树分类器对与健康相关的错误信息与真实信息进行分类时，准确率最高可达78%。我们还提供了关于替代方案的建议，以对抗错误信息和研究的伦理考虑。
2021-06-12 cs.CL cs.LG cs.SI
Beyond Harm: an Ethical Framework to Tackle Misinformation on Social Media
研究借鉴密尔伦理框架，分析在线错误信息审核的复杂性，提出在伤害原则之外结合认知自主性与认知助推，以改善网络认知环境。
2023-06-05 cs.SI
COVID-19 Vaccine Misinformation Campaigns and Social Media Narratives
University of Southern California（南加州大学）
COVID-19疫苗的犹豫增加了人们对克服大流行和保护公众健康所需的疫苗接种的担忧。与反疫苗态度相关的一个关键因素是社交媒体上分享的信息。在这项工作中，我们调查了可能导致COVID-19疫苗犹豫的错误信息社区和叙述。疫情期间，社交媒体上反科学和政治错误信息/阴谋猖獗。因此，我们调查了收集的关于COVID-19疫苗的Twitter数据中的错误信息和阴谋集团及其特征行为。我们确定是否存在任何可疑的协调努力，以促进疫苗的错误信息，并发现两个可疑的团体-一个促进“大重置”阴谋，这表明大流行是由世界领导人精心策划的，以控制经济，与疫苗有关的错误信息和强烈的反疫苗和反社会信息，如没有封锁;另一个促进生物武器理论。被宣传的错误信息主要来自反疫苗和极右翼社区，在转发图的3个核心中，其推文中阴谋和可疑来源的比例要高得多。与主流和健康新闻相比，右倾社区更受反疫苗和极右翼社区的影响，这也反映在美国左翼和右翼各州截然不同的疫苗接种率上。除了其他行为差异外，错误信息社区在疫苗或其他讨论中也比其他社区更有发言权。
2022-04-01 cs.CY cs.LG cs.SI
Intervention strategies for misinformation sharing on social media: A bibliometric analysis
本研究通过PRISMA方法对2013-2023年139篇文献进行文献计量分析，将社交媒体错误信息分享的干预策略归纳为基于认知、自动化、信息和混合的四类集群，揭示了该领域的演变模式，为未来开发更有效的解决方案提供了理论与实践见解。
2024-09-26 cs.CY cs.SI physics.soc-ph
Does Explanation Matter? An Exploratory Study on the Effects of Covid 19 Misinformation Warning Flags on Social Media
本文通过 348 名美国参与者的随机实验，考察事实核查解释对 COVID-19 错误信息警示标识的作用，发现警示标识可降低假新闻可信度与分享意愿，附加解释还能显著提升系统可信度。
2023-09-28 cs.HC cs.SI physics.soc-ph
Fight Fire with Fire: Hacktivists' Take on Social Media Misinformation
在这项研究中，我们采访了22位著名的黑客活动家，以了解他们对社交媒体上错误信息日益泛滥的看法。我们发现，他们中没有一个人欢迎为了政治（反）论证和宣传的传播而对拖钓和迷因的邪恶挪用。与最初的黑客精神一样，错误信息被视为对互联网民主愿景的威胁，因此，它必须面对尝试过的黑客活动主义者的方法，例如将“misinformers”和doxing或泄露有关其资金和招聘的数据。大多数黑客活动家还建议采取干预措施，以提高对错误信息的认识，以及有针对性的黑客活动。我们讨论了这些研究结果的影响，相对于紧急重铸的黑客行动主义，以捍卫建设性的和事实的社交媒体话语。
2023-02-15 cs.CY cs.SI
Identifying and Characterizing Active Citizens who Refute Misinformation in Social Media
The University of Sheffield（谢菲尔德大学）；Central China Normal University（华中师范大学）
在社交媒体上传播错误信息的现象已经形成了一种新的积极公民形式，他们专注于通过反驳可能包含错误信息的帖子来解决问题。自动识别和表征这些活跃公民在社交媒体中的行为是计算社会科学中的一项重要任务，以补充错误信息分析的研究。在本文中，我们在不同的社交媒体平台（即，Twitter和微博）和语言（即，英文和中文第一次。为此，（1）我们开发并公开了一个新的微博用户数据集，该数据集映射到两个类别之一（即，错误信息的海报或活跃的公民）;（2）我们在我们的新微博数据集和现有的Twitter数据集上评估了一组监督模型，我们重新调整了任务;（3）我们对两种用户类别之间的语言使用差异进行了广泛的分析。
2022-04-21 cs.CL cs.SI
Image memorability predicts social media virality and externally-associated commenting
University of Toronto（多伦多大学）；Rotman Research Institute, Baycrest Health Sciences（罗特曼研究所，贝克雷斯特健康科学）；Department of Psychology, University of Chicago（芝加哥大学心理学系）；Neuroscience Institute, University of Chicago（芝加哥大学神经科学研究所）
研究基于1,247条Reddit帖子，利用ResMem证明图像可记忆性能稳定预测评论量与病毒式传播，并揭示语义独特性及中性、外部关联评论的作用。
2025-09-15 cs.CE cs.HC cs.SI
The spread of low-credibility content by social bots
Indiana University, Bloomington（印第安纳大学）
研究通过分析2016年美国大选期间推特上的40万篇文章传播数据，发现社交机器人在放大低可信内容中扮演了关键角色，且人类用户易受其影响转发低可信内容。
2018-05-24 cs.CY cs.SI physics.soc-ph
Adherence to Misinformation on Social Media Through Socio-Cognitive and Group-Based Processes
以前的研究表明，人们对不同类型信息的偏好不仅仅取决于准确性。这可能是因为不同信息片段中包含的信息可能是受欢迎的或令人反感的。虽然事实信息往往必须传达令人不安的真相，但错误信息可能很少考虑真实性，并利用心理过程来增加其在社交媒体上的吸引力和扩散。在这篇综述中，我们认为，当错误信息激增时，这是因为社交媒体环境通过减少而不是增加这样做的心理成本来使人们能够坚持错误信息。我们涵盖了注意力如何可能经常从准确性转移到其他目标，社会和个人认知如何受到错误信息的影响，以及在哪些情况下揭穿它是最有效的，以及在线群体的形成如何影响信息消费模式，往往导致更多的两极分化和激进化。在整个过程中，我们认为两极分化和错误信息的坚持是紧密联系在一起的。我们确定的方式，坚持错误信息的心理成本可以增加时，设计反错误信息的干预措施或弹性的启示，我们概述了开放的研究问题，CSCW社区可以采取进一步了解这种成本。
2022-06-30 cs.CY cs.SI
The Virality of Hate Speech on Social Media
本文基于X平台25,219个级联数据，利用广义线性回归分析仇恨言论与正常内容的传播差异，发现认证用户发布的仇恨内容具有显著更高的病毒式传播特征。
2024-11-25 cs.SI
Reducing COVID-19 Misinformation Spread by Introducing Information Diffusion Delay Using Agent-based Modeling
本文提出多学科基于智能体的建模方法，利用 1-中位数社区划分、响应时间监测与智能体优化分配引入传播延迟，在密歇根抗议相关 Twitter 网络中将延迟阈值提升至 3 分钟以遏制 COVID-19 错误信息扩散。
2024-08-02 cs.SI physics.soc-ph
Vulnerable to Misinformation? Verifi!
我们提出了Verifi 2，一个视觉分析系统，以支持对社交媒体上的错误信息的调查。一方面，社交媒体平台通过使信息共享民主化来增强个人和组织的权能。另一方面，即使是消息灵通和经验丰富的社交媒体用户也容易受到错误信息的影响。为了解决这个问题，多个学科出现了各种模型和研究，以检测和理解错误信息的影响。然而，仍然缺乏直观和可访问的工具来帮助社交媒体用户区分错误信息和经过验证的新闻。在本文中，我们介绍了Verifi 2，这是一个视觉分析系统，它使用最先进的计算方法来突出文本，社交网络和图像的显著特征。通过Verifi 2中的多个协调视图在源级别上探索新闻，用户可以与表征错误信息的复杂维度进行交互，并对比真实和可疑新闻媒体在这些维度上的差异。为了评估Verifi 2，我们采访了数字媒体、新闻、教育、心理学和计算领域的专家，他们研究错误信息。我们的采访显示，Verifi 2作为错误信息教育工具的潜力很大。此外，我们的采访结果强调了打击错误信息问题的复杂性，并呼吁可视化社区开展更多工作。
2019-03-17 cs.HC cs.SI
Counterfactual Neural Temporal Point Process for Estimating Causal Influence of Misinformation on Social Media
University of Southern California（南加州大学）；Viterbi School of Engineering（维特比工程学院）
近年来，在社交媒体上传播特定叙述以操纵政治和医疗保健等不同领域的公众舆论的错误信息运动有所增加。因此，需要一种有效且高效的自动方法来估计错误信息对用户信念和活动的影响。然而，现有的错误信息的影响估计的工作要么依赖于小规模的心理实验或只能发现用户行为和错误信息之间的相关性。针对这些问题，本文构建了一个因果框架，从时间点过程的角度对错误信息的因果效应进行建模。为了适应大规模数据，我们设计了一种高效而精确的方法来估计个体治疗效果（ITE）通过神经时间点过程和高斯混合模型。在人工数据集上的大量实验验证了该模型的有效性和效率。我们进一步将我们的模型应用于关于COVID-19疫苗的社交媒体帖子和参与的真实数据集。实验结果表明，我们的模型认识到可识别的因果关系的错误信息，伤害人们的主观情绪对疫苗。
2022-10-14 cs.AI cs.LG cs.SI
Social Media and Health Misinformation during the US COVID Crisis
健康错误信息在社交媒体上普遍存在，特别是在科学信息有限的新公共卫生危机中。然而，社交媒体也可以在限制和驳斥健康错误信息方面发挥作用。作为一个案例研究，美国总统唐纳德·特朗普关于紫外线和消毒剂治疗的承诺和力量的争议性评论，这份数据备忘录研究了这些评论是如何在Twitter上讨论和回应的。我们发现，这些评论落入了既定的政治党派叙事，并在随后的几天里主导了关于政治和新冠肺炎的讨论。对评论的争论比支持要普遍得多。支持者攻击媒体报道符合现有的特朗普叙述。参赛者以幽默回应，并分享了主流媒体的报道，谴责这些评论。这些做法会通过重复来强化最初的错误信息，而对那些可能相信它们的人来说，这几乎无助于构建一个成功的反驳。这项研究为我们了解围绕COVID的信息环境增加了急需的知识，并表明，尽管呼吁在这场公共卫生危机中将卫生信息非政治化，但这在很大程度上是沿着分裂，两极分化，党派路线的政治问题。
2020-08-12 cs.CY cs.SI
Towards Combating Pandemic-related Misinformation in Social Media
疫情期间的常规预防措施包括社交距离及封锁。在社交媒体时代，这些措施带来了一系列新的挑战-很容易受到网上错误信息的有害影响。一个很好的例子是流行的COVID-19;随着病毒的传播，相关的错误信息和假新闻也会导致信息流行。自疫情爆发以来，大量研究调查了大流行的各个方面。本章感兴趣的研究包括集中于在线社交媒体平台的数据集，大部分公共话语发生在这些平台上。因此，主要目标是通过以下方式支持抗击负面信息流行病：（1）提供一组多样化的精选相关数据集（2）推荐使用数据集进行研究的相关领域（3）讨论如何利用相关数据集、战略和最先进的IT工具来管理流行病。
2021-02-15 cs.IR cs.SI
Characterizing and Comparing COVID-19 Misinformation Across Languages, Countries and Platforms
有关COVID-19的错误信息/虚假信息在全球社交媒体上泛滥。在这项研究中，我们调查了社交媒体上的COVID-19错误信息/虚假信息，这些信息使用多种语言-波斯语（波斯语），中文和英语，涉及多个国家-伊朗，中国和美国（US），以及多个平台，如Twitter，Facebook，Instagram，微博和WhatsApp。错误信息，尤其是关于全球大流行病的错误信息，是一个全球性问题，但对社交媒体上COVID-19错误信息的研究通常集中在单一语言（如英语），单一国家（如美国）或单一平台（如Twitter）。我们利用机会主义抽样，汇编了200个特定的病毒项目，但在1月1日至8月31日期间，这些语言，国家和平台上出现了错误信息。然后，我们根据错误信息的主题和错误信息的根本根源对这些集合进行分类。我们的多元文化及多语言团队观察到，社交媒体上COVID-19错误信息的性质在不同语言╱国家有很大差异，视乎文化、信仰╱宗教、社交媒体的普及程度、平台类型、言论自由及人民与政府的权力而定。我们观察到，政治是该数据集中所有三种语言中收集的大多数错误信息的根源。我们进一步观察了伊朗、中国和美国政府对平台的限制和平台对内容的限制的不同影响，以及它们对我们这个时代的一个关键问题的影响：我们如何控制错误信息，而不压制我们需要让政府负责的声音？
2020-10-15 cs.CY cs.SI
Analysis of misinformation during the COVID-19 outbreak in China: cultural, social and political entanglements
2019冠状病毒病导致信息流行病，这可能会削弱公众的信任，阻碍病毒遏制，并比大流行病本身更持久。不断演变和支离破碎的媒体格局是错误信息传播的主要驱动力。使用腾讯事实核查平台识别的错误信息和微博上的帖子，我们的结果表明，错误信息的演变遵循一个问题关注周期，涉及城市封锁，治疗和预防以及学校重新开放等主题。权威的来源在这些问题上发挥作用，但它们的影响因人们先前存在的信仰和文化习俗而变得复杂。最后，社交媒体与已建立或遗留的媒体系统有着复杂的关系。有时它们会相互加强，但总的来说，社交媒体可能会有自己的话题周期。我们的研究结果揭示了COVID-19期间错误信息的独特特征，并为中国乃至世界各地打击错误信息提供了见解。
2020-05-21 cs.CY cs.SI
VaxPulse: Active Global Vaccine Infodemic Risk Assessment
本文提出VaxPulse VIRAL平台，利用深度学习、主动学习和数据增强监测全球疫苗信息流行病风险，为免疫规划提供实时可操作见解。
2025-07-06 cs.SI
The Morbid Realities of Social Media: An Investigation into the Misinformation Shared by the Deceased Victims of COVID-19
本文通过分析死于COVID-19且生前相信相关错误信息的Facebook用户帖子，揭示右翼政治生态主导的反政府主题及平台软审核失效，并探讨政治精英与平台在遏制有害错误信息中的责任。
2022-09-20 cs.CY cs.SI
Cybersecurity Misinformation Detection on Social Media: Case Studies on Phishing Reports and Zoom's Threats
本研究针对社交媒体上网络安全与隐私威胁类错误信息，分别构建钓鱼声明和Zoom威胁检测框架，实现高准确率检测并明确多平台错误信息占比，助力识别传播活动与防范情报系统投毒攻击。
2022-08-17 cs.CR cs.CY cs.SI
Social media algorithms can curb misinformation, but do they?
本文指出Guess等人的研究未考虑2020年美国大选后Facebook的临时算法调整，这些调整减少了控制组虚假信息量，可能导致读者误判算法对政治虚假信息的实际影响。
2024-09-27 cs.CY cs.SI
Fake Cures: User-centric Modeling of Health Misinformation in Social Media
社交媒体不受限制的访问使其成为健康讨论的重要场所，也是患者及其亲人的资源。然而，现有信息的质量及其海报的动机受到质疑。这项工作研究了社交媒体上发布可疑健康相关信息的个人，特别是推广已被证明无效的癌症治疗（使其成为一种错误信息，无论是否故意）。使用多阶段用户选择过程，我们研究了4，212名Twitter用户，他们发布了139种“治疗方法”中的一种，并将其与对癌症感兴趣的用户基线进行比较。考虑到捕捉用户属性，写作风格和情绪的功能，我们建立了一个分类器，它能够识别用户容易传播这种错误信息的准确率超过90%，为公共卫生官员提供了一个潜在的工具，以确定这些人的预防性干预。
2018-09-03 cs.CY cs.SI
Polarization and Fake News: Early Warning of Potential Misinformation Targets
用户极化和确认偏差在网络社交媒体上的错误信息传播中起着关键作用。我们的目标是利用这些信息提前确定恶作剧和假新闻的潜在目标。在本文中，我们介绍了一个通用框架，用于及时识别社交媒体上的两极分化内容，从而“预测”未来的假新闻话题。我们验证了所提出的方法在意大利Facebook数据集上的性能，表明我们能够以77%的准确率识别易受错误信息影响的主题。此外，这些信息可以作为新特征嵌入到能够以91%的准确率识别假新闻的附加分类器中。我们的方法的新颖之处在于考虑了一系列与在线社交媒体上用户行为相关的特征，为平滑两极分化和缓解错误信息现象迈出了重要的第一步。
2018-02-05 cs.SI
How Media Competition Fuels the Spread of Misinformation
本文将媒体竞争建模为零和序贯博弈，采用分位数响应均衡刻画有限理性决策，揭示了错误信息传播如何导致公众极化和竞争性扩散，并为缓解假新闻提供了策略建议。
2024-11-24 cs.SI
Trends in the Diffusion of Misinformation on Social Media
我们测量了2015年1月至2018年7月期间Facebook和Twitter上错误信息的传播趋势。我们专注于来自570个网站的故事，这些网站被认定为虚假故事的制造者。到2016年底，Facebook和Twitter上与这些网站的互动稳步上升。随后，Facebook上的互动量大幅下降，而Twitter上的互动量继续上升，Facebook互动量与Twitter份额的比率下降了约60%。我们在其他新闻、商业或文化网站上没有看到类似的模式，这些网站的互动随着时间的推移相对稳定，在选举前后，这两个平台上的互动都遵循类似的趋势。
2018-09-16 cs.SI econ.GN q-fin.EC
Mining Significant Microblogs for Misinformation Identification: An Attention-based Approach
随着社会化媒体的迅速发展，大量虚假信息也在微博等社会化媒体上广泛传播，给人类生活带来了负面影响。目前，错误信息的自动识别已引起学术界和工业界的关注。针对社交媒体上的一个事件通常由多个微博组成的情况，目前的方法主要是基于全局统计特征。但是，社交媒体上的信息充满了噪音和离群值，这应该得到缓解。此外，大多数关于事件的微博对错误信息的识别几乎没有贡献，有用的信息很容易被无用的信息淹没。因此，挖掘重要微博，寻找可靠的虚假信息识别方法具有重要意义。在本文中，我们提出了一个基于注意力的方法识别错误信息（AIM）。基于注意力机制，AIM可以选择关注度最大的微博进行虚假信息识别。AIM中的注意力机制包括内容注意和动态注意两部分。内容关注度是根据每条微博的文本特征计算的。动态注意力与微博发布时间和事件开始之间的时间间隔有关。为了评估AIM，我们在微博数据集和Twitter数据集上进行了一系列实验，实验结果表明，所提出的AIM模型优于现有的方法。
2017-06-20 cs.IR cs.SI
COVID-19 on Social Media: Analyzing Misinformation in Twitter Conversations
University of Southern California（南加利福尼亚大学）
持续的冠状病毒（COVID-19）大流行凸显了当今全球化世界的相互联系。随着社交距离政策的实施，虚拟通信已成为（错误）信息的重要来源。随着越来越多的人依赖社交媒体平台获取新闻，识别错误信息并揭示有关COVID-19的在线话语的性质已成为一项关键任务。为此，我们自2020年3月1日起使用Twitter API收集与COVID-19相关的流媒体数据。我们根据事实核查来源确定了不可靠和误导性的内容，并检查了错误信息推文中的叙述，以及这些推文的参与分布。此外，我们提供了突出的错误信息推文的传播模式的例子。该分析在可访问的仪表板（https：//usc-melady.github.io/COVID-19-Tweet-Analysis）上展示和更新，以跟踪2020年3月1日至6月5日期间Twitter上关于COVID-19的在线话语和错误信息的性质。该仪表板提供了一个已识别的错误信息推文的每日列表，以及COVID-19 Twitter话语中的主题，情绪和新趋势。提供仪表板是为了提高对在线共享信息的性质和质量的可见性，并提供对从数据集中提取的见解和信息的实时访问。
2020-10-22 cs.CY cs.LG cs.SI
SOK: Fake News Outbreak 2021: Can We Stop the Viral Spread?
Tampere University（坦佩雷大学）；Technical University of Denmark（丹麦技术大学）
社交网络的无所不在和易用性已经彻底改变了当今世界信息的生成和分发。然而，容易获得信息并不等于公众知识水平的提高。与传统媒体渠道不同，社交网络还促进了虚假信息和错误信息更快、更广泛的传播。虚假信息的病毒式传播对公众的行为、态度和信仰产生严重影响，最终可能严重危及民主进程。通过早期发现和控制广泛传播来限制虚假信息的负面影响是当今研究人员面临的主要挑战。在这篇调查论文中，我们广泛分析了现有文献中早期发现假新闻的各种不同解决方案。更确切地说，我们研究了机器学习（ML）模型，用于识别和分类假新闻，在线假新闻检测竞赛，统计输出以及一些可用数据集的优点和缺点。最后，我们评估了可用于检测和减轻假新闻的在线网络浏览工具，并提出了一些开放的研究挑战。
2021-05-22 cs.LG cs.SI
Conspiracy vs science: A large-scale analysis of online discussion cascades
随着社交媒体平台和社交网站的出现和迅速扩散，近年来我们的日常生活中出现了大量错误信息。我们利用涵盖超过140万条帖子和1800万条评论的大规模数据集，调查了两种不同叙述的传播--（i）阴谋信息，其说法通常未经证实，因此在某种程度上被称为错误信息，以及（ii）科学信息，其来源通常很容易识别和验证--在在线社交媒体平台上。我们发现，阴谋级联往往在多代分支过程中传播，而科学级联更有可能以广度优先的方式增长。具体来说，阴谋信息会引发更大的级联，涉及更多的用户和世代，持续时间更长，比科学信息更具病毒性和突发性。内容分析表明，阴谋级联包含更多的负面词汇和情感词汇，表达愤怒，恐惧，厌恶，惊讶和信任。我们还发现，阴谋级联更关注政治和有争议的话题。在应用机器学习模型后，我们在区分阴谋和科学叙述方面的AUC得分接近90%。我们发现，阴谋级联比科学级联更有可能被更广泛的用户控制，这给错误信息的管理带来了新的挑战。虽然政治亲和力被认为会影响错误信息的消费，但很少有证据表明信息源的政治取向在阴谋信息的传播过程中发挥作用。我们的研究为当前的错误信息研究提供了补充证据，并对阻止传播和减轻网上错误信息的影响具有实际的政策意义。
2021-04-06 cs.SI physics.soc-ph
#ArsonEmergency and Australia's "Black Summer": Polarisation and misinformation on social media
在2019- 2020年夏天，虽然澳大利亚全国各地遭受了前所未有的火灾，但有关纵火和有限回火的虚假叙述在Twitter上迅速传播，特别是使用#ArsonEmergency标签。社交媒体研究人员发现并报告了错误信息和机器人和巨魔行为，新闻很快就传到了主流媒体。本文研究了两个两极分化的在线社区的沟通和行为之前和之后的错误信息成为公众知识的消息。具体来说，支持者社区积极与其他人合作传播标签，使用各种新闻来源推动纵火叙事，而反对者社区参与较少，转发更多，并专注于使用URL链接到主流来源，揭穿叙述并揭露异常行为。这影响了更广泛讨论的内容。机器人分析显示，活跃账户主要是人类，但行为和内容分析表明，支持者参与了拖钓，尽管两个社区都使用了攻击性语言。
2020-11-19 cs.SI
Mapping the interaction between science and misinformation in COVID-19 tweets
Fondazione Bruno Kessler（布鲁诺·克塞尔基金会）；Centre for Science and Technology Studies (CWTS), Leiden University（莱顿大学科学技术研究中心）；University of Trento（特伦托大学）
该研究基于约4.07亿条COVID-19推文，结合URL可靠性与科学论文识别，分析科学传播与错误信息共享的重叠，并反思预印本和开放科学实践的影响。
2025-10-20 cs.SI physics.soc-ph
Misinformation as Information Pollution
University of Michigan（密歇根大学）
本文提出将错误信息视为信息污染，借鉴环境政策中的庇古税，为社交媒体公司提供经济激励以控制错误信息传播，并探讨了实施该税收方案的关键问题与后续步骤。
2023-06-21 cs.CL cs.SI
DREAMS: A Social Exchange Theory-Informed Modeling of Misinformation Engagement on Social Media
University of Technology Sydney（技术科技大学）
DREAMS基于社会交换理论，通过序列到序列建模提升社交媒体虚假信息互动预测精度，达到43.6%的性能提升。
2026-02-02 cs.AI cs.SI
How many others have shared this? Experimentally investigating the effects of social cues on engagement, misinformation, and unpredictability on social media
与传统媒体不同，社交媒体通常提供量化指标，衡量有多少用户参与了每一项内容。有些人认为，这些线索的存在促进了错误信息的传播。在这里，我们调查的因果关系的社会线索对用户的参与与社会媒体的帖子。我们在一个定制的新闻推送界面上对N=628名美国人进行了一项实验，在这个界面上，我们系统地改变了社交线索的存在和强度。我们发现，当提示显示时，表明有更多的其他人参与了帖子，用户更有可能分享和喜欢该帖子。此外，相对于没有社会线索的对照组，社会线索的存在增加了真实新闻相对于虚假新闻的分享。社交线索的存在也使得精确预测任何给定帖子的受欢迎程度变得更加困难。总之，我们的研究结果表明，在某些情况下，社交线索可能会提高真相的识别力，减少错误信息的分享，而不是分散用户的注意力或导致他们分享低质量的新闻。我们的工作表明，社交线索在塑造用户在社交媒体上的注意力和参与度方面发挥着重要作用，平台应该在改变显示哪些线索以及如何显示之前了解不同线索的影响。
2022-07-15 cs.HC cs.SI
Fabricating Holiness: Characterizing Religious Misinformation Circulators on Arabic Social Media
本研究通过定量方法分析阿拉伯语社交媒体上伪造圣训的传播者与辟谣者的特征差异，利用逻辑回归模型预测用户行为，揭示了两者在宗教账号联系及兴趣偏好上的显著区别。
2025-08-11 cs.SI
Multimodal Pipeline for Collection of Misinformation Data from Telegram
本文介绍了AI-COVID-19的成果，我们的项目旨在更好地了解社交媒体平台上关于COVID-19的错误信息流。本文报告的研究的具体重点是从Telegram团体收集数据，这些团体积极宣传与COVID相关的错误信息。到目前为止，我们收集的语料库包含大约2800万个单词，来自近100万条消息。鉴于社交媒体中的错误信息流的很大一部分是通过图像和视频等多模式手段传播的，我们还开发了一种机制，通过为视频生成自动转录和将图像自动分类为meme，帖子截图和其他类型的图像来利用这些渠道。图像分类流水线的准确率约为87%。
2022-04-27 cs.SI
Analyzing the temporal dynamics of linguistic features contained in misinformation
Misinformation-Monitor（虚假信息监测机构）
本研究利用自然语言处理分析2010-2024年PolitiFact陈述，揭示错误信息语言特征的时间动态，发现情感随时间下降、近期错误信息集中于社交网络来源且负面情感更多，并识别出不同实体类型在错误与准确信息中的分布差异。
2025-03-10 cs.CL cs.SI
