Combating Health Misinformation in Social Media: Characterization, Detection, Intervention, and Open Issues
Illinois Institute of Technology（伊利诺伊理工学院）；Weill Cornell Medicine（威尔康奈尔医学院）
社交媒体已成为公众的主要信息消费来源之一，使人们能够更快、更容易地寻找和传播信息。然而，各种社交媒体平台的兴起也使网上错误信息泛滥。特别是，健康领域的错误信息对我们的社会产生重大影响，例如COVID-19信息流行病。因此，社交媒体中的健康错误信息已成为一个新兴的研究方向，越来越受到不同学科研究人员的关注。与其他领域的错误信息相比，健康错误信息的关键区别在于对人类身体甚至生命造成实际伤害的可能性，正常人难以识别的难度以及与医学科学的深度联系。此外，社交媒体上的健康误导信息在生成、传播和消费范式等多个维度上具有与电视等传统渠道截然不同的特征。由于打击社交媒体中的健康错误信息的独特性和重要性，我们进行这项调查，以进一步促进对这一问题的跨学科研究。在这项调查中，我们提出了一个全面的审查现有的研究在不同学科的在线健康错误信息。此外，我们还从表征、检测和干预三个角度系统地整理了相关文献。最后，我们对社交媒体中打击健康错误信息的紧迫问题进行了深入讨论，并为多学科研究人员提供了未来的方向。
2022-11-10 cs.AI cs.CY cs.SI
Case Study on Detecting COVID-19 Health-Related Misinformation in Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
2019冠状病毒病大流行造成了公共卫生官员所说的错误信息泛滥。随着社交距离和呆在家里的命令生效，许多人转向社交媒体进行社交。社交媒体使用的增加使其成为传播错误信息的主要工具。本文提出了一种跨学科方法检测社交媒体中与COVID-19健康相关的错误信息的机制。利用社会心理学作为基础和现有的错误信息框架，我们定义了错误信息的主题和相关的关键字纳入错误信息检测机制，使用应用机器学习技术。接下来，使用Twitter数据集，我们使用多个最先进的机器学习分类器探索了所提出的方法的性能。我们的方法显示了有前途的结果，在使用基于uni-gram的NLP特征生成的推文和决策树分类器对与健康相关的错误信息与真实信息进行分类时，准确率最高可达78%。我们还提供了关于替代方案的建议，以对抗错误信息和研究的伦理考虑。
2021-06-12 cs.CL cs.LG cs.SI
The Future of Misinformation Detection: New Perspectives and Trends
错误信息在社交网络中的大规模传播已成为一种全球风险，暗中影响公众舆论，威胁社会/政治发展。因此，错误信息检测（MID）成为近年来一个热门的研究课题。作为一个有前途和快速发展的研究领域，我们发现许多努力已经付出了新的研究问题和新的研究方法。因此，有必要对MID的研究新动向进行综述。本文首先回顾了MID的研究历史，在此基础上提出了MID的几个新的研究挑战和技术，包括早期检测、多模态数据融合检测和解释性检测。我们进一步研究了MID中各种人群智能的提取和使用，这为解决MID挑战铺平了一条有前途的道路。最后，我们给出了自己的开放问题和未来的研究方向，如模型的适应性/通用性，新的机器学习模型，解释性检测模型，拥抱新的事件，MID的意见，等等。
2019-09-09 cs.IR cs.SI
Beyond Harm: an Ethical Framework to Tackle Misinformation on Social Media
研究借鉴密尔伦理框架，分析在线错误信息审核的复杂性，提出在伤害原则之外结合认知自主性与认知助推，以改善网络认知环境。
2023-06-05 cs.SI
Fight Fire with Fire: Hacktivists' Take on Social Media Misinformation
在这项研究中，我们采访了22位著名的黑客活动家，以了解他们对社交媒体上错误信息日益泛滥的看法。我们发现，他们中没有一个人欢迎为了政治（反）论证和宣传的传播而对拖钓和迷因的邪恶挪用。与最初的黑客精神一样，错误信息被视为对互联网民主愿景的威胁，因此，它必须面对尝试过的黑客活动主义者的方法，例如将“misinformers”和doxing或泄露有关其资金和招聘的数据。大多数黑客活动家还建议采取干预措施，以提高对错误信息的认识，以及有针对性的黑客活动。我们讨论了这些研究结果的影响，相对于紧急重铸的黑客行动主义，以捍卫建设性的和事实的社交媒体话语。
2023-02-15 cs.CY cs.SI
Identifying and Characterizing Active Citizens who Refute Misinformation in Social Media
The University of Sheffield（谢菲尔德大学）；Central China Normal University（华中师范大学）
在社交媒体上传播错误信息的现象已经形成了一种新的积极公民形式，他们专注于通过反驳可能包含错误信息的帖子来解决问题。自动识别和表征这些活跃公民在社交媒体中的行为是计算社会科学中的一项重要任务，以补充错误信息分析的研究。在本文中，我们在不同的社交媒体平台（即，Twitter和微博）和语言（即，英文和中文第一次。为此，（1）我们开发并公开了一个新的微博用户数据集，该数据集映射到两个类别之一（即，错误信息的海报或活跃的公民）;（2）我们在我们的新微博数据集和现有的Twitter数据集上评估了一组监督模型，我们重新调整了任务;（3）我们对两种用户类别之间的语言使用差异进行了广泛的分析。
2022-04-21 cs.CL cs.SI
Adherence to Misinformation on Social Media Through Socio-Cognitive and Group-Based Processes
以前的研究表明，人们对不同类型信息的偏好不仅仅取决于准确性。这可能是因为不同信息片段中包含的信息可能是受欢迎的或令人反感的。虽然事实信息往往必须传达令人不安的真相，但错误信息可能很少考虑真实性，并利用心理过程来增加其在社交媒体上的吸引力和扩散。在这篇综述中，我们认为，当错误信息激增时，这是因为社交媒体环境通过减少而不是增加这样做的心理成本来使人们能够坚持错误信息。我们涵盖了注意力如何可能经常从准确性转移到其他目标，社会和个人认知如何受到错误信息的影响，以及在哪些情况下揭穿它是最有效的，以及在线群体的形成如何影响信息消费模式，往往导致更多的两极分化和激进化。在整个过程中，我们认为两极分化和错误信息的坚持是紧密联系在一起的。我们确定的方式，坚持错误信息的心理成本可以增加时，设计反错误信息的干预措施或弹性的启示，我们概述了开放的研究问题，CSCW社区可以采取进一步了解这种成本。
2022-06-30 cs.CY cs.SI
Vulnerable to Misinformation? Verifi!
我们提出了Verifi 2，一个视觉分析系统，以支持对社交媒体上的错误信息的调查。一方面，社交媒体平台通过使信息共享民主化来增强个人和组织的权能。另一方面，即使是消息灵通和经验丰富的社交媒体用户也容易受到错误信息的影响。为了解决这个问题，多个学科出现了各种模型和研究，以检测和理解错误信息的影响。然而，仍然缺乏直观和可访问的工具来帮助社交媒体用户区分错误信息和经过验证的新闻。在本文中，我们介绍了Verifi 2，这是一个视觉分析系统，它使用最先进的计算方法来突出文本，社交网络和图像的显著特征。通过Verifi 2中的多个协调视图在源级别上探索新闻，用户可以与表征错误信息的复杂维度进行交互，并对比真实和可疑新闻媒体在这些维度上的差异。为了评估Verifi 2，我们采访了数字媒体、新闻、教育、心理学和计算领域的专家，他们研究错误信息。我们的采访显示，Verifi 2作为错误信息教育工具的潜力很大。此外，我们的采访结果强调了打击错误信息问题的复杂性，并呼吁可视化社区开展更多工作。
2019-03-17 cs.HC cs.SI
Counterfactual Neural Temporal Point Process for Estimating Causal Influence of Misinformation on Social Media
University of Southern California（南加州大学）；Viterbi School of Engineering（维特比工程学院）
近年来，在社交媒体上传播特定叙述以操纵政治和医疗保健等不同领域的公众舆论的错误信息运动有所增加。因此，需要一种有效且高效的自动方法来估计错误信息对用户信念和活动的影响。然而，现有的错误信息的影响估计的工作要么依赖于小规模的心理实验或只能发现用户行为和错误信息之间的相关性。针对这些问题，本文构建了一个因果框架，从时间点过程的角度对错误信息的因果效应进行建模。为了适应大规模数据，我们设计了一种高效而精确的方法来估计个体治疗效果（ITE）通过神经时间点过程和高斯混合模型。在人工数据集上的大量实验验证了该模型的有效性和效率。我们进一步将我们的模型应用于关于COVID-19疫苗的社交媒体帖子和参与的真实数据集。实验结果表明，我们的模型认识到可识别的因果关系的错误信息，伤害人们的主观情绪对疫苗。
2022-10-14 cs.AI cs.LG cs.SI
Social Media and Health Misinformation during the US COVID Crisis
健康错误信息在社交媒体上普遍存在，特别是在科学信息有限的新公共卫生危机中。然而，社交媒体也可以在限制和驳斥健康错误信息方面发挥作用。作为一个案例研究，美国总统唐纳德·特朗普关于紫外线和消毒剂治疗的承诺和力量的争议性评论，这份数据备忘录研究了这些评论是如何在Twitter上讨论和回应的。我们发现，这些评论落入了既定的政治党派叙事，并在随后的几天里主导了关于政治和新冠肺炎的讨论。对评论的争论比支持要普遍得多。支持者攻击媒体报道符合现有的特朗普叙述。参赛者以幽默回应，并分享了主流媒体的报道，谴责这些评论。这些做法会通过重复来强化最初的错误信息，而对那些可能相信它们的人来说，这几乎无助于构建一个成功的反驳。这项研究为我们了解围绕COVID的信息环境增加了急需的知识，并表明，尽管呼吁在这场公共卫生危机中将卫生信息非政治化，但这在很大程度上是沿着分裂，两极分化，党派路线的政治问题。
2020-08-12 cs.CY cs.SI
Towards Combating Pandemic-related Misinformation in Social Media
疫情期间的常规预防措施包括社交距离及封锁。在社交媒体时代，这些措施带来了一系列新的挑战-很容易受到网上错误信息的有害影响。一个很好的例子是流行的COVID-19;随着病毒的传播，相关的错误信息和假新闻也会导致信息流行。自疫情爆发以来，大量研究调查了大流行的各个方面。本章感兴趣的研究包括集中于在线社交媒体平台的数据集，大部分公共话语发生在这些平台上。因此，主要目标是通过以下方式支持抗击负面信息流行病：（1）提供一组多样化的精选相关数据集（2）推荐使用数据集进行研究的相关领域（3）讨论如何利用相关数据集、战略和最先进的IT工具来管理流行病。
2021-02-15 cs.IR cs.SI
On the statistical properties of viral misinformation in online social media
在线社交媒体的大规模传播使得阴谋论、恶作剧、未经证实的说法和虚假新闻迅速而不受控制地传播。如此大量的错误信息可能会影响政策偏好，并鼓励与建议做法截然不同的行为。在本文中，我们研究了在线社交媒体中病毒式错误信息的统计特性。通过属于极值理论的方法，我们表明，随着时间的推移，极端病毒帖子的数量遵循齐次泊松过程，并且这些帖子之间的到达时间是独立和同分布的，遵循指数分布。此外，我们还通过贝叶斯方法刻画了泊松过程速率参数的不确定性。最后，我们能够推导出在有限的时间间隔内超过一定阈值的帖子数量的预测后验概率分布。
2016-09-29 cs.SI physics.soc-ph stat.AP
Characterizing and Comparing COVID-19 Misinformation Across Languages, Countries and Platforms
有关COVID-19的错误信息/虚假信息在全球社交媒体上泛滥。在这项研究中，我们调查了社交媒体上的COVID-19错误信息/虚假信息，这些信息使用多种语言-波斯语（波斯语），中文和英语，涉及多个国家-伊朗，中国和美国（US），以及多个平台，如Twitter，Facebook，Instagram，微博和WhatsApp。错误信息，尤其是关于全球大流行病的错误信息，是一个全球性问题，但对社交媒体上COVID-19错误信息的研究通常集中在单一语言（如英语），单一国家（如美国）或单一平台（如Twitter）。我们利用机会主义抽样，汇编了200个特定的病毒项目，但在1月1日至8月31日期间，这些语言，国家和平台上出现了错误信息。然后，我们根据错误信息的主题和错误信息的根本根源对这些集合进行分类。我们的多元文化及多语言团队观察到，社交媒体上COVID-19错误信息的性质在不同语言╱国家有很大差异，视乎文化、信仰╱宗教、社交媒体的普及程度、平台类型、言论自由及人民与政府的权力而定。我们观察到，政治是该数据集中所有三种语言中收集的大多数错误信息的根源。我们进一步观察了伊朗、中国和美国政府对平台的限制和平台对内容的限制的不同影响，以及它们对我们这个时代的一个关键问题的影响：我们如何控制错误信息，而不压制我们需要让政府负责的声音？
2020-10-15 cs.CY cs.SI
Modeling the amplification of epidemic spread by individuals exposed to misinformation on social media
Luddy School of Informatics, Computing, and Engineering, Indiana University（印第安纳大学卢迪信息、计算与工程学院）；Department of Electronics, Information and Bioengineering, Politecnico di Milano（米兰理工大学电子、信息与生物工程系）
本文通过构建传染病模型，研究社交媒体上的虚假信息如何放大传染病传播，评估不同场景下疫苗接种率和感染人数的影响。
2025-01-29 cs.CY cs.SI physics.soc-ph
Analysis of misinformation during the COVID-19 outbreak in China: cultural, social and political entanglements
2019冠状病毒病导致信息流行病，这可能会削弱公众的信任，阻碍病毒遏制，并比大流行病本身更持久。不断演变和支离破碎的媒体格局是错误信息传播的主要驱动力。使用腾讯事实核查平台识别的错误信息和微博上的帖子，我们的结果表明，错误信息的演变遵循一个问题关注周期，涉及城市封锁，治疗和预防以及学校重新开放等主题。权威的来源在这些问题上发挥作用，但它们的影响因人们先前存在的信仰和文化习俗而变得复杂。最后，社交媒体与已建立或遗留的媒体系统有着复杂的关系。有时它们会相互加强，但总的来说，社交媒体可能会有自己的话题周期。我们的研究结果揭示了COVID-19期间错误信息的独特特征，并为中国乃至世界各地打击错误信息提供了见解。
2020-05-21 cs.CY cs.SI
The Morbid Realities of Social Media: An Investigation into the Misinformation Shared by the Deceased Victims of COVID-19
本文通过分析死于COVID-19且生前相信相关错误信息的Facebook用户帖子，揭示右翼政治生态主导的反政府主题及平台软审核失效，并探讨政治精英与平台在遏制有害错误信息中的责任。
2022-09-20 cs.CY cs.SI
Cybersecurity Misinformation Detection on Social Media: Case Studies on Phishing Reports and Zoom's Threats
本研究针对社交媒体上网络安全与隐私威胁类错误信息，分别构建钓鱼声明和Zoom威胁检测框架，实现高准确率检测并明确多平台错误信息占比，助力识别传播活动与防范情报系统投毒攻击。
2022-08-17 cs.CR cs.CY cs.SI
Social media algorithms can curb misinformation, but do they?
本文指出Guess等人的研究未考虑2020年美国大选后Facebook的临时算法调整，这些调整减少了控制组虚假信息量，可能导致读者误判算法对政治虚假信息的实际影响。
2024-09-27 cs.CY cs.SI
COVID-19 Vaccine Misinformation Campaigns and Social Media Narratives
University of Southern California（南加州大学）
COVID-19疫苗的犹豫增加了人们对克服大流行和保护公众健康所需的疫苗接种的担忧。与反疫苗态度相关的一个关键因素是社交媒体上分享的信息。在这项工作中，我们调查了可能导致COVID-19疫苗犹豫的错误信息社区和叙述。疫情期间，社交媒体上反科学和政治错误信息/阴谋猖獗。因此，我们调查了收集的关于COVID-19疫苗的Twitter数据中的错误信息和阴谋集团及其特征行为。我们确定是否存在任何可疑的协调努力，以促进疫苗的错误信息，并发现两个可疑的团体-一个促进“大重置”阴谋，这表明大流行是由世界领导人精心策划的，以控制经济，与疫苗有关的错误信息和强烈的反疫苗和反社会信息，如没有封锁;另一个促进生物武器理论。被宣传的错误信息主要来自反疫苗和极右翼社区，在转发图的3个核心中，其推文中阴谋和可疑来源的比例要高得多。与主流和健康新闻相比，右倾社区更受反疫苗和极右翼社区的影响，这也反映在美国左翼和右翼各州截然不同的疫苗接种率上。除了其他行为差异外，错误信息社区在疫苗或其他讨论中也比其他社区更有发言权。
2022-04-01 cs.CY cs.LG cs.SI
Easy-access online social media metrics are associated with misinformation sharing activity
本文提出利用易获取的社交媒体指标识别潜在虚假信息传播者，发现推文频率与低事实性内容正相关，账户年龄与之负相关。
2025-11-24 cs.CY cs.SI physics.soc-ph
Fake Cures: User-centric Modeling of Health Misinformation in Social Media
社交媒体不受限制的访问使其成为健康讨论的重要场所，也是患者及其亲人的资源。然而，现有信息的质量及其海报的动机受到质疑。这项工作研究了社交媒体上发布可疑健康相关信息的个人，特别是推广已被证明无效的癌症治疗（使其成为一种错误信息，无论是否故意）。使用多阶段用户选择过程，我们研究了4，212名Twitter用户，他们发布了139种“治疗方法”中的一种，并将其与对癌症感兴趣的用户基线进行比较。考虑到捕捉用户属性，写作风格和情绪的功能，我们建立了一个分类器，它能够识别用户容易传播这种错误信息的准确率超过90%，为公共卫生官员提供了一个潜在的工具，以确定这些人的预防性干预。
2018-09-03 cs.CY cs.SI
Polarization and Fake News: Early Warning of Potential Misinformation Targets
用户极化和确认偏差在网络社交媒体上的错误信息传播中起着关键作用。我们的目标是利用这些信息提前确定恶作剧和假新闻的潜在目标。在本文中，我们介绍了一个通用框架，用于及时识别社交媒体上的两极分化内容，从而“预测”未来的假新闻话题。我们验证了所提出的方法在意大利Facebook数据集上的性能，表明我们能够以77%的准确率识别易受错误信息影响的主题。此外，这些信息可以作为新特征嵌入到能够以91%的准确率识别假新闻的附加分类器中。我们的方法的新颖之处在于考虑了一系列与在线社交媒体上用户行为相关的特征，为平滑两极分化和缓解错误信息现象迈出了重要的第一步。
2018-02-05 cs.SI
How Media Competition Fuels the Spread of Misinformation
本文将媒体竞争建模为零和序贯博弈，采用分位数响应均衡刻画有限理性决策，揭示了错误信息传播如何导致公众极化和竞争性扩散，并为缓解假新闻提供了策略建议。
2024-11-24 cs.SI
Diffusion of Community Fact-Checked Misinformation on Twitter
社交媒体上错误信息的传播是一个紧迫的社会问题，平台，政策制定者和研究人员继续努力解决。作为一种对策，最近的作品提出在人群中雇用非专家的事实检查员来检查社交媒体内容。虽然实验研究表明，群体可能能够准确地评估社交媒体内容的真实性，但人们对群体事实核查（错误）信息传播的理解却缺失了。在这项工作中，我们实证分析了社交媒体上误导性与非误导性社区事实核查帖子的传播。为此，我们采用了一个数据集的社区创建的事实检查，从Twitter的观鸟飞行员和映射到Twitter上的再共享级联。与早期分析第三方事实核查网站上列出的错误信息传播的研究不同（例如，Snopes），我们发现，社区事实核查的错误信息是不太病毒。具体来说，误导性帖子的转发量估计比非误导性帖子少36.62%。部分原因可能在于事实检查目标的差异：社区事实检查员倾向于对来自有许多追随者的有影响力的用户帐户的帖子进行事实检查，而专家事实检查则倾向于针对影响力较小的用户共享的帖子。我们进一步发现，不同类型的错误信息（例如，事实错误，缺少上下文，操纵媒体）。此外，我们进行了一项用户研究，以评估（现实世界）社区创建的事实检查的感知可靠性。在这里，我们发现用户在很大程度上同意社区创建的事实检查。总而言之，我们的研究结果提供了关于误导性与非误导性帖子如何传播的见解，并强调了在研究社交媒体上的错误信息时样本选择的关键作用。
2023-03-24 cs.SI
Mining Significant Microblogs for Misinformation Identification: An Attention-based Approach
随着社会化媒体的迅速发展，大量虚假信息也在微博等社会化媒体上广泛传播，给人类生活带来了负面影响。目前，错误信息的自动识别已引起学术界和工业界的关注。针对社交媒体上的一个事件通常由多个微博组成的情况，目前的方法主要是基于全局统计特征。但是，社交媒体上的信息充满了噪音和离群值，这应该得到缓解。此外，大多数关于事件的微博对错误信息的识别几乎没有贡献，有用的信息很容易被无用的信息淹没。因此，挖掘重要微博，寻找可靠的虚假信息识别方法具有重要意义。在本文中，我们提出了一个基于注意力的方法识别错误信息（AIM）。基于注意力机制，AIM可以选择关注度最大的微博进行虚假信息识别。AIM中的注意力机制包括内容注意和动态注意两部分。内容关注度是根据每条微博的文本特征计算的。动态注意力与微博发布时间和事件开始之间的时间间隔有关。为了评估AIM，我们在微博数据集和Twitter数据集上进行了一系列实验，实验结果表明，所提出的AIM模型优于现有的方法。
2017-06-20 cs.IR cs.SI
COVID-19 on Social Media: Analyzing Misinformation in Twitter Conversations
University of Southern California（南加利福尼亚大学）
持续的冠状病毒（COVID-19）大流行凸显了当今全球化世界的相互联系。随着社交距离政策的实施，虚拟通信已成为（错误）信息的重要来源。随着越来越多的人依赖社交媒体平台获取新闻，识别错误信息并揭示有关COVID-19的在线话语的性质已成为一项关键任务。为此，我们自2020年3月1日起使用Twitter API收集与COVID-19相关的流媒体数据。我们根据事实核查来源确定了不可靠和误导性的内容，并检查了错误信息推文中的叙述，以及这些推文的参与分布。此外，我们提供了突出的错误信息推文的传播模式的例子。该分析在可访问的仪表板（https：//usc-melady.github.io/COVID-19-Tweet-Analysis）上展示和更新，以跟踪2020年3月1日至6月5日期间Twitter上关于COVID-19的在线话语和错误信息的性质。该仪表板提供了一个已识别的错误信息推文的每日列表，以及COVID-19 Twitter话语中的主题，情绪和新趋势。提供仪表板是为了提高对在线共享信息的性质和质量的可见性，并提供对从数据集中提取的见解和信息的实时访问。
2020-10-22 cs.CY cs.LG cs.SI
Intervention strategies for misinformation sharing on social media: A bibliometric analysis
本研究通过PRISMA方法对2013-2023年139篇文献进行文献计量分析，将社交媒体错误信息分享的干预策略归纳为基于认知、自动化、信息和混合的四类集群，揭示了该领域的演变模式，为未来开发更有效的解决方案提供了理论与实践见解。
2024-09-26 cs.CY cs.SI physics.soc-ph
Misinformation as Information Pollution
University of Michigan（密歇根大学）
本文提出将错误信息视为信息污染，借鉴环境政策中的庇古税，为社交媒体公司提供经济激励以控制错误信息传播，并探讨了实施该税收方案的关键问题与后续步骤。
2023-06-21 cs.CL cs.SI
DREAMS: A Social Exchange Theory-Informed Modeling of Misinformation Engagement on Social Media
University of Technology Sydney（技术科技大学）
DREAMS基于社会交换理论，通过序列到序列建模提升社交媒体虚假信息互动预测精度，达到43.6%的性能提升。
2026-02-02 cs.AI cs.SI
Does Explanation Matter? An Exploratory Study on the Effects of Covid 19 Misinformation Warning Flags on Social Media
本文通过 348 名美国参与者的随机实验，考察事实核查解释对 COVID-19 错误信息警示标识的作用，发现警示标识可降低假新闻可信度与分享意愿，附加解释还能显著提升系统可信度。
2023-09-28 cs.HC cs.SI physics.soc-ph
How many others have shared this? Experimentally investigating the effects of social cues on engagement, misinformation, and unpredictability on social media
与传统媒体不同，社交媒体通常提供量化指标，衡量有多少用户参与了每一项内容。有些人认为，这些线索的存在促进了错误信息的传播。在这里，我们调查的因果关系的社会线索对用户的参与与社会媒体的帖子。我们在一个定制的新闻推送界面上对N=628名美国人进行了一项实验，在这个界面上，我们系统地改变了社交线索的存在和强度。我们发现，当提示显示时，表明有更多的其他人参与了帖子，用户更有可能分享和喜欢该帖子。此外，相对于没有社会线索的对照组，社会线索的存在增加了真实新闻相对于虚假新闻的分享。社交线索的存在也使得精确预测任何给定帖子的受欢迎程度变得更加困难。总之，我们的研究结果表明，在某些情况下，社交线索可能会提高真相的识别力，减少错误信息的分享，而不是分散用户的注意力或导致他们分享低质量的新闻。我们的工作表明，社交线索在塑造用户在社交媒体上的注意力和参与度方面发挥着重要作用，平台应该在改变显示哪些线索以及如何显示之前了解不同线索的影响。
2022-07-15 cs.HC cs.SI
#ArsonEmergency and Australia's "Black Summer": Polarisation and misinformation on social media
在2019- 2020年夏天，虽然澳大利亚全国各地遭受了前所未有的火灾，但有关纵火和有限回火的虚假叙述在Twitter上迅速传播，特别是使用#ArsonEmergency标签。社交媒体研究人员发现并报告了错误信息和机器人和巨魔行为，新闻很快就传到了主流媒体。本文研究了两个两极分化的在线社区的沟通和行为之前和之后的错误信息成为公众知识的消息。具体来说，支持者社区积极与其他人合作传播标签，使用各种新闻来源推动纵火叙事，而反对者社区参与较少，转发更多，并专注于使用URL链接到主流来源，揭穿叙述并揭露异常行为。这影响了更广泛讨论的内容。机器人分析显示，活跃账户主要是人类，但行为和内容分析表明，支持者参与了拖钓，尽管两个社区都使用了攻击性语言。
2020-11-19 cs.SI
Moral Emotions Shape the Virality of COVID-19 Misinformation on Social Media
虽然虚假谣言对成功战胜COVID-19大流行构成威胁，但对谣言如何在在线社交网络中传播的理解-即使是在非危机情况下-仍处于起步阶段。在这里，我们分析了一个由来自Twitter的COVID-19谣言级联组成的大样本，这些谣言已经过第三方组织的事实核查。该数据包括N= 10，610个谣言级联，已被转发超过2400万次。我们调查了COVID-19错误信息是否比真相传播得更快，以及真假谣言传播的差异是否可以用它们所携带的道德情感来解释。我们观察到，平均而言，COVID-19错误信息比真实信息更容易传播。然而，真实性效应受到道德情感的调节：如果源推文嵌入大量谴责他人的情感词，则虚假谣言比真相更具病毒性，而更多的自我意识情感词则与较少的病毒性传播有关。这种影响对于健康错误信息和虚假政治谣言都很明显。这些发现提供了关于真实与虚假谣言如何传播的见解，并强调了在社交媒体内容中考虑道德情感家族情绪的重要性。
2022-02-08 cs.CY cs.SI
Fabricating Holiness: Characterizing Religious Misinformation Circulators on Arabic Social Media
本研究通过定量方法分析阿拉伯语社交媒体上伪造圣训的传播者与辟谣者的特征差异，利用逻辑回归模型预测用户行为，揭示了两者在宗教账号联系及兴趣偏好上的显著区别。
2025-08-11 cs.SI
Meaningful Context, a Red Flag, or Both? Users' Preferences for Enhanced Misinformation Warnings on Twitter
警告用户社交媒体上的错误信息并不是一个简单的可用性任务。软适度必须在揭穿谎言和避免适度偏见之间取得平衡，同时保持社交媒体消费流。因此，平台在可疑的错误信息内容下采用具有通用文本的最小可区分的警告标签。这种方法导致了一个不利的结果，警告“适得其反”，用户相信错误信息更多，而不是更少。作为回应，我们开发了增强的错误信息警告，用户被告知信息危害的上下文，并暴露在标准的警告图标。我们在337名参与者的可用性研究中对Twitter的原始警告标签进行了A/B评估。大多数参与者更喜欢这些增强功能，因为它们有助于识别和避免错误信息。增强的警告标签最受政治上左倾的参与者的青睐，在较小程度上温和的参与者，但它们也吸引了大约三分之一的右倾参与者。教育水平是影响参与者偏好的唯一人口因素。我们利用我们的研究结果，提出了针对用户的改进措施，以软缓和社交媒体上的错误信息。
2022-05-02 cs.CY cs.HC cs.SI
Trends, Politics, Sentiments, and Misinformation: Understanding People's Reactions to COVID-19 During its Early Stages
COVID-19的突然爆发导致大量数据在不同的社交媒体平台上共享。分析和可视化这些数据无疑对于深入了解这一流行病对人们生活的影响以及人们对这些影响的反应至关重要。在这项工作中，我们进行了一项大规模的时空数据分析研究，以了解人们对COVID-19大流行早期阶段的反应。特别是，我们分析了一个基于JSON的数据集，该数据集是在4个月内从关于COVID-19的英语新闻/消息/论坛/博客中收集的，总共有520万条帖子。这些数据是从2019年12月至2020年3月从Facebook、LinkedIn、Pinterest、StumbleUpon和VK等多个社交媒体平台收集的。我们的研究主要旨在了解COVID-19的哪些影响最令社交媒体用户感兴趣，以及它们如何随时间变化，错误信息的时空分布以及大流行期间公众对公众人物的舆论。我们的结果可以被许多方面使用（例如，政府、心理学家等）根据人民群众的实际利益和意见，
2021-06-25 cs.IT cs.SI math.IT
Multimodal Pipeline for Collection of Misinformation Data from Telegram
本文介绍了AI-COVID-19的成果，我们的项目旨在更好地了解社交媒体平台上关于COVID-19的错误信息流。本文报告的研究的具体重点是从Telegram团体收集数据，这些团体积极宣传与COVID相关的错误信息。到目前为止，我们收集的语料库包含大约2800万个单词，来自近100万条消息。鉴于社交媒体中的错误信息流的很大一部分是通过图像和视频等多模式手段传播的，我们还开发了一种机制，通过为视频生成自动转录和将图像自动分类为meme，帖子截图和其他类型的图像来利用这些渠道。图像分类流水线的准确率约为87%。
2022-04-27 cs.SI
Machine-Made Media: Monitoring the Mobilization of Machine-Generated Articles on Misinformation and Mainstream News Websites
Stanford University（斯坦福大学）
本研究首次大规模监测机器生成新闻，发现2022至2023年间虚假信息网站合成文章激增474%，主流网站增57.3%，且增长集中于小网站，ChatGPT发布加剧此现象。
2024-03-20 cs.CY cs.LG cs.SI
A Golden Age: Conspiracy Theories' Relationship with Misinformation Outlets, News Media, and the Wider Internet
本研究分析五个主要阴谋论网站及其与新闻媒体的链接关系，发现虚假信息媒体更频繁链接阴谋论网站且2018至2021年激增，并通过格兰杰因果分析揭示其促进阴谋论流行的作用。
2023-11-13 cs.CY cs.SI
Tiered Anonymity on Social-Media Platforms as a Countermeasure against Deepfakes and LLM-Driven Mass Misinformation
University of Cambridge（剑桥大学）
本文提出通过三级匿名框架应对深度伪造和大语言模型驱动的虚假信息，通过影响力评分区分用户层级并实施差异化隐私保护措施。
2026-02-09 cs.CY cs.SI
Integrating Persuasion Theory into the Epidemiological Modelling of Health Misinformation Spread on Social Media
Manchester Metropolitan University（曼彻斯特城市大学）
该研究将精细可能性模型融入扩展的SIR流行病学模型，提出ELM-SIRMMM框架，在多数据集上验证其提升健康错误信息传播建模的精度与动态真实性，揭示需动态心理输入保障建模功能真实性。
2026-08-18 cs.AI cs.CL cs.LG
COVID-19 Vaccine Hesitancy on Social Media: Building a Public Twitter Dataset of Anti-vaccine Content, Vaccine Misinformation and Conspiracies
有关COVID-19疫苗的虚假声明可能会破坏公众对正在进行的疫苗接种活动的信任，从而对全球公共卫生构成威胁。自2019冠状病毒病疫情开始以来，源自各种来源的错误信息一直在网上传播。在本文中，我们提出了一个Twitter帖子的数据集，这些帖子表现出强烈的反疫苗立场。该数据集由两部分组成：a）以关键字为中心的流媒体数据汇集，其中包含超过180万条推文; b）历史账户级别的收集，其中包含超过1.35亿条推文。前者利用Twitter流媒体API，从2020年10月中旬开始跟踪一组特定的疫苗相关关键词。后者包括7万个账户的所有历史推文，这些账户参与了反疫苗叙事的积极传播。我们提出了描述性分析，显示随着时间的推移，地理分布，主题，新闻来源和推断帐户政治倾向的活动量。该数据集可用于研究社交媒体上的反疫苗错误信息，并使人们更好地了解疫苗犹豫。根据Twitter的服务条款，我们的匿名数据集可在以下网址公开获取：https://github.com/gmuric/avax-tweets-dataset
2021-05-14 cs.CY cs.SI
A Dashboard Approach to Monitoring Mpox-Related Discourse and Misinformation on Social Media
本研究开发了一个面向研究人员的交互式仪表盘，用于搜索和可视化猴痘相关推文，以支持公共卫生利益相关者监测社交媒体讨论和错误信息，并发现2024年8月CDC指定猴痘为新兴病毒后推文量显著增加。
2025-05-26 cs.CY cs.HC cs.SI
Personalized multi-faceted trust modeling to determine trust links in social media and its potential for misinformation management
University of Waterloo（滑铁卢大学）
在本文中，我们提出了一种方法，用于预测在社交媒体中的同行之间的信任链接，一个是接地在人工智能领域的多智能体信任建模。特别是，我们提出了一个数据驱动的多方面的信任建模，它结合了许多不同的功能，进行全面的分析。我们专注于展示相似用户的聚类如何实现一个关键的新功能：支持更个性化，从而为用户提供更准确的预测。在一个信任感知项目推荐任务中，我们在一个大型Yelp数据集的背景下评估了所提出的框架。然后，我们将讨论如何提高在社交媒体中的信任关系的检测可以帮助支持在线用户在他们的战斗中对传播的错误信息和谣言，在社交网络环境中，最近爆炸的流行。最后，我们反思了一个特别脆弱的用户群，老年人，以说明推理的用户群体的价值，寻找一些未来的方向，整合已知的偏好与通过数据分析获得的见解。
2021-11-11 cs.AI cs.SI
Construction of Large-Scale Misinformation Labeled Datasets from Social Media Discourse using Label Refinement
University of Southern California（南加州大学）
传播错误信息的恶意账户近年来导致广泛的虚假和误导性叙述，特别是在COVID-19大流行期间，社交媒体平台难以迅速消除这些内容。这是因为适应新的领域需要大量的人力事实核查，这是缓慢且难以扩展的。为了应对这一挑战，我们建议利用新闻源可信度标签作为社交媒体帖子的弱标签，并提出模型引导的标签细化，以构建新领域中的大规模，多样化的错误信息标记数据集。弱标签在文章或社交媒体帖子级别可能是不准确的，其中用户的立场与新闻来源或文章可信度不一致。我们提出了一个框架，使用在初始弱标签上自我训练的检测模型，基于模型预测中的熵进行不确定性采样，以识别潜在的不准确标签，并使用自我监督或重新标记来纠正它们。该框架将在其相关用户的社区方面纳入帖子的社会背景，以便以最少的人力构建大规模数据集。为了提供具有误导性叙述的标记数据集，其中信息可能缺少重要的上下文或具有不准确的辅助细节，所提出的框架将使用少量标记样本作为类原型，将高置信度样本分离为虚假，未经证实，混合，大部分虚假，大部分真实，真实和揭穿信息。该方法被证明用于提供关于COVID-19疫苗的大规模错误信息数据集。
2022-02-24 cs.CL cs.LG cs.SI
Mutual Hyperlinking Among Misinformation Peddlers
互联网承诺使知识的获取民主化，使世界更加开放和理解。然而，当今互联网的现实与这一理想相去甚远。错误信息、谎言和阴谋主导着许多社交媒体平台。这个有毒的网络世界已经对现实世界产生了影响，从种族灭绝到选举干预，以及对全球公共卫生的威胁。沮丧的公众和不耐烦的政府监管机构呼吁对旨在播下内乱并激发针对个人、社会和民主的暴力的错误和虚假信息运动做出更有力的回应。我们描述了一个大规模的，域级的分析，揭示了多个域之间的看似协调的努力，传播和放大错误信息。我们还描述了如何共享的超链接由某些Twitter用户可以用来表面有问题的域。这些分析可以被搜索引擎和社交媒体推荐算法用于系统地发现和降级错误信息贩子。
2021-04-20 cs.SI
Can Predominant Credible Information Suppress Misinformation in Crises? Empirical Studies of Tweets Related to Prevention Measures during COVID-19
在COVID-19期间，社交媒体上的错误信息影响了采取适当的预防行为。迫切需要压制错误信息，以防止负面的公共卫生后果。虽然一系列的研究提出了错误信息抑制策略，很少有调查的作用，占主导地位的可信信息在危机中。没有人使用纵向社交媒体数据定量研究其影响。因此，本研究使用2020年2月15日至6月30日收集的推文，调查可信信息和错误信息之间的时间相关性，以及主要可信信息是否可以抑制两种预防措施（即主题）的错误信息，即戴口罩和社交距离。我们训练了支持向量机分类器来检索相关推文，并对每个主题包含可信信息和错误信息的推文进行分类。基于这两个主题的可信和错误信息的时间序列的互相关分析，我们发现，以前占主导地位的可信信息可以导致减少错误信息（即抑制）的时滞。研究结果为在复杂的在线环境中利用可信信息抑制错误信息提供了经验证据，并为危机和紧急情况下的未来信息管理提出了实用策略。
2021-02-01 cs.IR cs.SI
Pilot Study Suggests Online Media Literacy Programming Reduces Belief in False News in Indonesia
在数字错误信息的威胁中，我们提供了一项关于在线社交媒体扫盲运动的有效性的试点研究，该运动旨在为印度尼西亚的个人提供帮助他们识别错误信息的技能。我们发现，参与我们的在线培训材料和教育视频的用户比对照组（总$N$ =1000）更容易识别错误信息。鉴于我们初步研究的结果令人鼓舞，我们计划扩大这一领域的努力，并借鉴从这一试点研究中吸取的经验教训。
2021-07-16 cs.CY cs.HC cs.SI
Fighting Disaster Misinformation in Latin America: The #19S Mexican Earthquake Case Study
社交媒体平台在自然灾害期间得到广泛使用。然而，大多数先前的工作缺乏对研究其在全球南方灾害期间的使用情况的关注，那里的互联网接入和社交媒体利用与发展中国家不同。在本文中，我们研究了社交媒体在2017年9月19日袭击墨西哥的7.1级地震（称为#19S地震）后的使用情况。我们对参与者如何在19 S事件后利用社交媒体平台进行了分析。我们的研究通过以下方式扩展了危机信息学的调查：1）研究参与者如何在全球南方国家的自然灾害发生后使用不同的社交媒体平台; 2）揭示个人如何开发自己的流程，使用实地公民方法来验证新闻报道; 3）揭示人们如何开发自己的机制来处理过时的信息。为此，我们调查了356人。此外，我们还分析了一个月的活动：Facebook（12，606条帖子），Twitter（2，909，109条推文），Slack（28，782条消息）和GitHub（2，602次提交）。这项工作提供了关于用户行为的多平台观点，以协调救灾工作，减少错误信息的传播，并处理过时的信息，这似乎对帮助救灾工作的协调和效率至关重要。最后，根据我们的研究结果，我们提出了技术设计建议，以提高危机应对工作中社交媒体使用的有效性，并减少错误信息在社交媒体平台上的传播。
2020-07-11 cs.HC cs.SI
Leveraging Social Interactions to Detect Misinformation on Social Media
Italian National Police（意大利国家警察）；University of Southern California（南加州大学）；Bocconi University（博科尼大学）
本研究针对社交媒体虚假信息检测问题，提出利用社交互动网络信息并结合深度神经语言模型的多输入（MI）框架，通过跟踪互动序列改进了现有最先进模型。
2023-04-06 cs.CL cs.SI
Believability and Harmfulness Shape the Virality of Misleading Social Media Posts
社交媒体上的错误信息对现代社会构成了重大威胁。虽然之前的研究已经分析了真实和虚假社交媒体帖子的病毒性，但并不是每一个误导性帖子都具有同样的病毒性。相反，错误信息具有不同的特征，其可信度和危害性也各不相同--这可能会影响其传播。在这项工作中，我们研究了误导性帖子的可信度和危害性如何与社交媒体上的病毒式传播相关联。具体来说，我们分析（和验证）大量来自Twitter的Birdwatch平台的人群注释社交媒体帖子，用户可以对误导性推文的可信度和危害性进行评级。为了解决我们的研究问题，我们实现了一个解释性回归模型，并将人群的可信度和危害性评级与Twitter上误导性帖子的病毒式传播联系起来。我们的研究结果表明，（i）容易相信和（ii）不是特别有害的错误信息与更多的病毒再分享级联相关。这些结果为不同类型的经过人群事实核查的错误信息如何传播提供了见解，并表明最具病毒性的误导性帖子往往不是从公共安全的角度特别令人担忧的帖子。从实践的角度来看，我们的研究结果可能有助于平台制定更有效的策略，以遏制社交媒体上误导性帖子的扩散。
2023-03-08 cs.SI
Efficient Annotator Reliability Assessment and Sample Weighting for Knowledge-Based Misinformation Detection on Social Media
School of Computer Science, The University of Sheffield（计算机科学学院，谢菲尔德大学）
提出 EffiARA 框架，通过标注者间与标注者内一致性评估可靠性并进行样本加权，结合软标签训练提升基于知识的错误信息检测。
2025-02-03 cs.AI cs.LG cs.SI
Explainable Misinformation Detection Across Multiple Social Media Platforms
Symbiosis Institute of Technology, Symbiosis International (Deemed University)（共生国际（被视为）大学共生技术学院）；Symbiosis Centre for Applied Artificial Intelligence, Symbiosis International (Deemed University)（共生国际（被视为）大学共生应用人工智能中心）；Princess Nourah Bint Abdulrahman University（努拉·宾特·阿卜杜勒拉赫曼公主大学）；Machine Intelligence Research Laboratories（机器智能研究实验室）
在这项工作中，两个机器学习方法，即领域自适应和可解释的人工智能的集成，提出了解决这两个问题的广义检测和可解释性。首先，领域对抗神经网络（DANN）开发了一个跨多个社交媒体平台的广义错误信息检测器，DANN用于生成具有相关但不可见数据的测试领域的分类结果。基于DANN的模型，一个传统的黑盒模型，不能证明其结果，即，目标域的标签。因此，局部可解释模型不可知解释（LIME）可解释的AI模型被应用于解释DANN模式的结果。为了证明这两种方法及其有效解释的广义检测的整合，COVID-19错误信息被认为是一个案例研究。我们用两个数据集进行了实验，即CoAID和MiSoVac，并比较了有无DANN实现的结果。DANN显著提高了准确性测量F1分类得分，并提高了准确性和AUC性能。实验结果表明，该框架在域移位的情况下表现良好，可以学习域不变特征，同时用LIME实现解释目标标签，实现可信的信息处理和提取，有效地打击错误信息。
2022-09-19 cs.AI cs.LG cs.SI
Controlling the Misinformation Diffusion in Social Media by the Effect of Different Classes of Agents
本文扩展基于 SIR 的 SBFC 模型，引入多类别智能体特征，并通过教育关键群体与加入事实核查机器人两种策略，证明可有效控制社交媒体错误信息传播。
2024-01-21 cs.MA cs.SI
