Characterizing and Predicting Social Correction on Twitter
网上的错误信息对公众健康和社会构成了严重威胁。众所周知，社交媒体用户会用反错误信息回复错误信息帖子，这已被证明能有效遏制错误信息的传播。这就是所谓的社会矫正。然而，吸引社会纠正的推文的特征与那些不吸引社会纠正的推文的特征仍然是未知的。为了缩小差距，我们专注于回答以下两个研究问题：（1）“给定一条推文，它会被其他用户反驳吗？”（2）``如果是，反击的力度有多大？''.这种探索将有助于开发机制，以指导用户的错误信息纠正工作，并衡量用户之间的差异谁得到纠正。在这项工作中，我们首先创建了一个新的数据集，其中包含690，047对错误信息推文和反错误信息回复。然后，分层分析的鸣叫语言和参与功能，以及鸣叫海报的用户属性进行说明的因素，是重要的，在决定一条鸣叫是否会得到反击。最后，创建预测分类器来预测错误信息推文被反击的可能性以及该推文被反击的程度。代码和数据可在https://github.com/claws-lab/social-correction-twitter上访问。
2023-03-15 cs.SI
A Re-Conceptualization of Online Misinformation Diffusion
在线社交网络为错误信息的传播提供了便利。一些理论家把错误信息的问题看作是知识的问题，因此也是无知的问题。这种假设导致了错误信息（错误信念）被正确信息（真实信念）抵制的解决方案。我们认为，信息更好地理解为八卦。我们认为，八卦传播是社会资本经济的一部分，它有一种特定的话语语法，模仿普通的人类八卦。但也存在一些关键差异。这些差异产生了巨大的社会和政治分裂影响。如果我们把注意力从信息的真假转移到八卦的社会动态上，我们就能更有效地应对在线社交网络的挑战和危险。我们的论点有三个部分。(1)我们简要地批评错误信息的认识论和真理为中心的帐户。(2)我们将八卦的基本话语语法描述为一种社会实践。(3)然后，我们将在线信息的属性与八卦的话语语法相匹配。虽然八卦有一种特殊的话语形式，但其在线模式涉及许多独特的社会特征，这些特征将产生巨大的和分裂的社会和政治影响。我们的目标不是要取代现有的信息扩散理论，而是要用一个描述性的流言模型来扩充这些理论。信息扩散模式应被理解为一种工具，用来探索与离线社区相结合的不断发展的在线社区的社会学。
2022-08-12 cs.SI
Folk Models of Misinformation on Social Media
在本文中，我们通过对235名社交媒体用户的半结构化访谈来调查存在哪些错误信息的民间模型。关于社交媒体错误信息的研究并没有调查普通用户--错误信息的目标--如何处理它;相反，重点主要是错误信息造成的焦虑、紧张或分裂。研究创造、传播和放大的各个方面也忽略了错误信息是如何被社交媒体上的用户内化的，因此很快就为假定的对错误信息缺乏免疫力开出了"接种"策略。用户如何应对社交媒体内容，以发展“天然免疫力”作为虚假信息恢复力的前兆，这仍然是一个悬而未决的问题。我们已经确定了至少五种将错误信息概念化的民间模型：政治（反）论证，断章取义的叙述，固有的错误信息，外部宣传，或者只是娱乐。我们使用这些民间模型中包含的丰富概念来揭示社交媒体用户如何最大限度地减少日常生活中遇到错误信息时的不良反应。
2022-07-26 cs.CY cs.SI
How Do Social Bots Participate in Misinformation Spread? A Comprehensive Dataset and Analysis
本文构建了一个同时标注错误信息与社交机器人的新浪微博大规模多模态数据集，并通过实验和分析揭示了社交机器人深度参与错误信息传播、放大回音室效应并操纵公众舆论的机制。
2025-09-19 cs.CY cs.SI
Socially Fair Mitigation of Misinformation on Social Networks via Constraint Stochastic Optimization
University of Agder（阿格德尔大学）
目前社交网络的错误信息缓解方法倾向于研究如何通过考虑整个网络的统计尺度来减少错误信息。然而，不平衡的个人之间的错误信息曝光敦促研究缓解资源的公平分配。此外，网络具有随时间变化的随机动态。因此，我们引入了一个随机和非平稳的背包问题，我们将其解决方案，以减轻社会网络活动中的错误信息。我们进一步提出了一种通用的错误信息缓解算法，该算法对不同的社交网络的错误信息统计具有鲁棒性，在现实世界的场景中具有良好的影响。一种新的损失函数，确保公平减轻用户之间。我们通过智能地将缓解激励预算分配给背包并优化损失函数来实现公平性。为此，一个学习自动机（LA）团队负责预算分配。每个LA与用户相关联，并通过在其状态空间上执行非平稳和随机游走来学习最小化其对错误信息的暴露。我们的研究结果表明，我们的基于LA的方法是强大的，优于类似的错误信息缓解方法的缓解是如何公平地影响网络用户。
2022-03-23 cs.AI cs.SI
Behavioral Forensics in Social Networks: Identifying Misinformation, Disinformation and Refutation Spreaders Using Machine Learning
针对现有社交网络传播者识别仅做二分类、未考虑接触辟谣后行为的不足，提出基于行为标注与图嵌入特征的五分类行为取证方法，在Twitter数据集上检测恶意虚假信息传播者取得77.45%精确率、75.80%召回率。
2023-05-01 cs.SI
Partisan Asymmetries in Exposure to Misinformation
据信，在新冠肺炎大流行期间，健康方面的错误信息导致了疫苗的犹豫，突显了人们对社交媒体在两极分化和社会稳定中所起作用的担忧。虽然先前的研究已经确定了政治党派和网上错误信息共享之间的联系，但党派和人们在社交网络中看到多少错误信息之间的相互作用还没有得到很好的研究。因此，我们不知道是党派之争导致了错误信息的曝光，还是人们在接触到事实内容的情况下选择性地分享错误信息。我们研究了Twitter上关于新冠肺炎疫情的讨论，按照政治和事实维度对用户进行了意识形态分类。我们发现，在分享行为和曝光方面存在党派不对称，保守派更有可能看到和分享错误信息，而温和的自由派看到的是最真实的内容。我们确定了多维的回音室，使用户接触到意识形态一致的内容;然而，政治和事实维度之间的相互作用为高度两极化的用户-强硬的保守派和自由派-放大错误信息创造了条件。尽管如此，错误信息受到的关注少于事实内容和政治温和派，他们代表了我们样本中的大部分用户，帮助过滤错误信息，减少信息生态系统中低真实性内容的数量。确定两极分化的程度以及政治意识形态如何加剧错误信息，可能有助于公共卫生专家和政策制定者改善他们的信息传递，以促进共识。
2022-03-02 cs.SI
Stochastic Models of Misinformation Distribution in Online Social Networks
这份报告包含了一项关于在线社交网络（OSN）中错误信息分布的实验研究结果。我们考虑的OSN的拓扑结构的分类和分析确定的参数，以一个真正的网络的拓扑结构与类之一。我们提出了一个算法进行搜索的渗透集群的社会图。
2012-12-05 cs.SI physics.soc-ph
Polarization and Fake News: Early Warning of Potential Misinformation Targets
用户极化和确认偏差在网络社交媒体上的错误信息传播中起着关键作用。我们的目标是利用这些信息提前确定恶作剧和假新闻的潜在目标。在本文中，我们介绍了一个通用框架，用于及时识别社交媒体上的两极分化内容，从而“预测”未来的假新闻话题。我们验证了所提出的方法在意大利Facebook数据集上的性能，表明我们能够以77%的准确率识别易受错误信息影响的主题。此外，这些信息可以作为新特征嵌入到能够以91%的准确率识别假新闻的附加分类器中。我们的方法的新颖之处在于考虑了一系列与在线社交媒体上用户行为相关的特征，为平滑两极分化和缓解错误信息现象迈出了重要的第一步。
2018-02-05 cs.SI
Social Media COVID-19 Misinformation Interventions Viewed Positively, But Have Limited Impact
在COVID-19错误信息的传播中，Facebook和Twitter等社交媒体平台推出了设计干预措施，包括链接到权威资源的横幅和更具体的“虚假信息”标签。2020年3月下旬，在这些干预措施开始出现后不久，我们进行了一项探索性混合方法调查（N = 311），以了解：社交媒体用户对这些干预措施的态度如何，以及他们自我报告的有效性如何？我们发现，大多数参与者对干预措施，特别是错误信息的特定标签表示积极的态度。尽管如此，大多数参与者还是通过其他方式发现或纠正了错误信息，最常见的是网络搜索，这表明平台有更多的空间来阻止COVID-19错误信息的传播。
2020-12-21 cs.CY cs.SI
Mitigating Misinformation Spread on Blockchain Enabled Social Media Networks
本研究提出一种基于区块链的社交媒体网络协议BE-SMN，将错误信息传播建模为区块链双花攻击并结合改进的SIR模型，经多社区网络数值实验验证，其在拉平错误信息感染人数曲线方面效果优于基线网络。
2023-05-01 cs.SI eess.SP
Ego-graph Replay based Continual Learning for Misinformation Engagement Prediction
在线社交网络平台存在错误信息的问题。解决这个问题的一种流行方法是通过使用基于机器学习的自动错误信息检测系统来分类帖子是否是错误信息。而不是事后检测，我们建议预测用户是否会提前与错误信息，并设计一个有效的图神经网络分类器的基础上，自我图这项任务。然而，社交网络是高度动态的，反映了用户行为的持续变化以及所发布的内容。这对于通常在静态训练数据集上训练的机器学习模型来说是有问题的，并且因此当社交网络改变时可能变得过时。受持续学习在这类问题上取得成功的启发，我们提出了一种基于图神经网络的自我图重放策略（EgoCL）来有效地解决这一问题。我们已经评估了我们的方法在两个Twitter数据集上的用户参与错误信息的性能，这些数据集涉及十九个错误信息和阴谋主题。我们的实验结果表明，我们的方法EgoCL在预测精度和计算资源方面比最先进的方法有更好的性能。
2022-07-25 cs.SI
Corrective or Backfire: Characterizing and Predicting User Response to Social Correction
本研究针对社交纠正的用户反应尚不明确的问题，基于X平台构建55549组三元组数据集，刻画反应特征并构建预测模型，F1值达0.816，助力优化社交纠正策略以最大化纠正效果、最小化反效果。
2024-03-07 cs.SI
Attention and misinformation sharing on social media
只有当用户表现出专注的行为时，才应该在社交媒体上分享信息。因此，有用的信息可以被建设性地消费，错误的信息可以被识别和忽略。注意行为与使用者加工信息的认知能力有关。本文所述的工作探讨了当用户在社交媒体上分享错误信息时，影响用户行为的注意因素问题。该研究旨在确定普遍关注因素对社交媒体上分享错误信息的重要性。我们使用了一个封闭式的问卷，其中包括一个心理测量量表来衡量与参与者（n = 112）的注意力行为。回归方程结果为：y=（19，533 - 0，390 +e），从一组回归分析中可以看出，注意力因素对用户在社交媒体上分享错误信息具有显著的负相关效应。随着分析结果的发现，我们建议，注意因素被纳入到社会化媒体应用程序的未来设计，可以干预用户的注意力，并避免潜在的伤害所造成的错误信息的传播。
2020-12-28 cs.HC cs.SI
Misinformation detection in Luganda-English code-mixed social media text
Makerere University（马凯雷雷大学）
社交媒体平台上错误信息的发生、形式和负面影响越来越多，需要更多的错误信息检测工具。目前，正在努力解决COVID-19的错误信息，但是，对于40种不同的乌干达土著语言中的任何一种，都没有错误信息检测工具。本文通过介绍基本的语言资源和错误信息检测数据集来解决这一差距，该数据集基于来自Facebook和Twitter社交媒体平台的代码混合的卢甘达语-英语消息。几种机器学习方法应用于错误信息检测数据集，以开发用于检测代码混合的卢甘达-英语消息是否包含错误信息的分类模型。在一个实验性的错误信息检测任务中，对分类方法进行了10倍交叉验证评估，结果表明，判别式多项朴素贝叶斯（DMNB）方法分别达到了最高的准确率和78.19%和77.90%的F-测度。此外，支持向量机和Bagging集成分类模型取得了可比的结果。这些结果是有希望的，因为机器学习模型基于仅来自错误信息检测数据集的n元特征。
2021-04-03 cs.CL cs.SI
Crowding out the truth? A simple model of misinformation, polarization and meaningful social interactions
本文提供了一个简单的理论框架来评估排名算法的关键参数，即流行度和个性化参数，对平台参与度，错误信息和两极分化的影响。结果表明，增加分配给在线社交互动的权重（例如，喜欢和分享）和个性化内容的用户可能会增加社交媒体平台上的参与度，同时增加错误信息和/或极化。通过利用Facebook 2018年的“有意义的社交互动”算法排名更新，我们还为模型的一些主要预测提供了直接的实证支持。
2022-10-05 cs.CY cs.SI
Case Study on Detecting COVID-19 Health-Related Misinformation in Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
2019冠状病毒病大流行造成了公共卫生官员所说的错误信息泛滥。随着社交距离和呆在家里的命令生效，许多人转向社交媒体进行社交。社交媒体使用的增加使其成为传播错误信息的主要工具。本文提出了一种跨学科方法检测社交媒体中与COVID-19健康相关的错误信息的机制。利用社会心理学作为基础和现有的错误信息框架，我们定义了错误信息的主题和相关的关键字纳入错误信息检测机制，使用应用机器学习技术。接下来，使用Twitter数据集，我们使用多个最先进的机器学习分类器探索了所提出的方法的性能。我们的方法显示了有前途的结果，在使用基于uni-gram的NLP特征生成的推文和决策树分类器对与健康相关的错误信息与真实信息进行分类时，准确率最高可达78%。我们还提供了关于替代方案的建议，以对抗错误信息和研究的伦理考虑。
2021-06-12 cs.CL cs.LG cs.SI
Analytical model of misinformation of a social network node
本文研究了认知、行为、表征等因素对社交网络中参与者对错误信息的敏感性以及节点在这方面的活动的影响。本研究的重要性在于阻断宣传的方法。这是非常重要的，因为当人们不自觉地获取信息时，他们中的一些人会在他们的社会态度上经历不希望的变化。这种现象通常会导致信息战争。本研究基于迭代学习过程模型，建立了一个计算社会网络参与者（网络节点）错误信息水平的模型。
2012-12-03 cs.SI physics.soc-ph
Fabricating Holiness: Characterizing Religious Misinformation Circulators on Arabic Social Media
本研究通过定量方法分析阿拉伯语社交媒体上伪造圣训的传播者与辟谣者的特征差异，利用逻辑回归模型预测用户行为，揭示了两者在宗教账号联系及兴趣偏好上的显著区别。
2025-08-11 cs.SI
Identifying and Characterizing Active Citizens who Refute Misinformation in Social Media
The University of Sheffield（谢菲尔德大学）；Central China Normal University（华中师范大学）
在社交媒体上传播错误信息的现象已经形成了一种新的积极公民形式，他们专注于通过反驳可能包含错误信息的帖子来解决问题。自动识别和表征这些活跃公民在社交媒体中的行为是计算社会科学中的一项重要任务，以补充错误信息分析的研究。在本文中，我们在不同的社交媒体平台（即，Twitter和微博）和语言（即，英文和中文第一次。为此，（1）我们开发并公开了一个新的微博用户数据集，该数据集映射到两个类别之一（即，错误信息的海报或活跃的公民）;（2）我们在我们的新微博数据集和现有的Twitter数据集上评估了一组监督模型，我们重新调整了任务;（3）我们对两种用户类别之间的语言使用差异进行了广泛的分析。
2022-04-21 cs.CL cs.SI
Diffusion of Community Fact-Checked Misinformation on Twitter
社交媒体上错误信息的传播是一个紧迫的社会问题，平台，政策制定者和研究人员继续努力解决。作为一种对策，最近的作品提出在人群中雇用非专家的事实检查员来检查社交媒体内容。虽然实验研究表明，群体可能能够准确地评估社交媒体内容的真实性，但人们对群体事实核查（错误）信息传播的理解却缺失了。在这项工作中，我们实证分析了社交媒体上误导性与非误导性社区事实核查帖子的传播。为此，我们采用了一个数据集的社区创建的事实检查，从Twitter的观鸟飞行员和映射到Twitter上的再共享级联。与早期分析第三方事实核查网站上列出的错误信息传播的研究不同（例如，Snopes），我们发现，社区事实核查的错误信息是不太病毒。具体来说，误导性帖子的转发量估计比非误导性帖子少36.62%。部分原因可能在于事实检查目标的差异：社区事实检查员倾向于对来自有许多追随者的有影响力的用户帐户的帖子进行事实检查，而专家事实检查则倾向于针对影响力较小的用户共享的帖子。我们进一步发现，不同类型的错误信息（例如，事实错误，缺少上下文，操纵媒体）。此外，我们进行了一项用户研究，以评估（现实世界）社区创建的事实检查的感知可靠性。在这里，我们发现用户在很大程度上同意社区创建的事实检查。总而言之，我们的研究结果提供了关于误导性与非误导性帖子如何传播的见解，并强调了在研究社交媒体上的错误信息时样本选择的关键作用。
2023-03-24 cs.SI
Fight Fire with Fire: Hacktivists' Take on Social Media Misinformation
在这项研究中，我们采访了22位著名的黑客活动家，以了解他们对社交媒体上错误信息日益泛滥的看法。我们发现，他们中没有一个人欢迎为了政治（反）论证和宣传的传播而对拖钓和迷因的邪恶挪用。与最初的黑客精神一样，错误信息被视为对互联网民主愿景的威胁，因此，它必须面对尝试过的黑客活动主义者的方法，例如将“misinformers”和doxing或泄露有关其资金和招聘的数据。大多数黑客活动家还建议采取干预措施，以提高对错误信息的认识，以及有针对性的黑客活动。我们讨论了这些研究结果的影响，相对于紧急重铸的黑客行动主义，以捍卫建设性的和事实的社交媒体话语。
2023-02-15 cs.CY cs.SI
Adherence to Misinformation on Social Media Through Socio-Cognitive and Group-Based Processes
以前的研究表明，人们对不同类型信息的偏好不仅仅取决于准确性。这可能是因为不同信息片段中包含的信息可能是受欢迎的或令人反感的。虽然事实信息往往必须传达令人不安的真相，但错误信息可能很少考虑真实性，并利用心理过程来增加其在社交媒体上的吸引力和扩散。在这篇综述中，我们认为，当错误信息激增时，这是因为社交媒体环境通过减少而不是增加这样做的心理成本来使人们能够坚持错误信息。我们涵盖了注意力如何可能经常从准确性转移到其他目标，社会和个人认知如何受到错误信息的影响，以及在哪些情况下揭穿它是最有效的，以及在线群体的形成如何影响信息消费模式，往往导致更多的两极分化和激进化。在整个过程中，我们认为两极分化和错误信息的坚持是紧密联系在一起的。我们确定的方式，坚持错误信息的心理成本可以增加时，设计反错误信息的干预措施或弹性的启示，我们概述了开放的研究问题，CSCW社区可以采取进一步了解这种成本。
2022-06-30 cs.CY cs.SI
DREAMS: A Social Exchange Theory-Informed Modeling of Misinformation Engagement on Social Media
University of Technology Sydney（技术科技大学）
DREAMS基于社会交换理论，通过序列到序列建模提升社交媒体虚假信息互动预测精度，达到43.6%的性能提升。
2026-02-02 cs.AI cs.SI
Analysis of misinformation during the COVID-19 outbreak in China: cultural, social and political entanglements
2019冠状病毒病导致信息流行病，这可能会削弱公众的信任，阻碍病毒遏制，并比大流行病本身更持久。不断演变和支离破碎的媒体格局是错误信息传播的主要驱动力。使用腾讯事实核查平台识别的错误信息和微博上的帖子，我们的结果表明，错误信息的演变遵循一个问题关注周期，涉及城市封锁，治疗和预防以及学校重新开放等主题。权威的来源在这些问题上发挥作用，但它们的影响因人们先前存在的信仰和文化习俗而变得复杂。最后，社交媒体与已建立或遗留的媒体系统有着复杂的关系。有时它们会相互加强，但总的来说，社交媒体可能会有自己的话题周期。我们的研究结果揭示了COVID-19期间错误信息的独特特征，并为中国乃至世界各地打击错误信息提供了见解。
2020-05-21 cs.CY cs.SI
#ArsonEmergency and Australia's "Black Summer": Polarisation and misinformation on social media
在2019- 2020年夏天，虽然澳大利亚全国各地遭受了前所未有的火灾，但有关纵火和有限回火的虚假叙述在Twitter上迅速传播，特别是使用#ArsonEmergency标签。社交媒体研究人员发现并报告了错误信息和机器人和巨魔行为，新闻很快就传到了主流媒体。本文研究了两个两极分化的在线社区的沟通和行为之前和之后的错误信息成为公众知识的消息。具体来说，支持者社区积极与其他人合作传播标签，使用各种新闻来源推动纵火叙事，而反对者社区参与较少，转发更多，并专注于使用URL链接到主流来源，揭穿叙述并揭露异常行为。这影响了更广泛讨论的内容。机器人分析显示，活跃账户主要是人类，但行为和内容分析表明，支持者参与了拖钓，尽管两个社区都使用了攻击性语言。
2020-11-19 cs.SI
Multimodal Pipeline for Collection of Misinformation Data from Telegram
本文介绍了AI-COVID-19的成果，我们的项目旨在更好地了解社交媒体平台上关于COVID-19的错误信息流。本文报告的研究的具体重点是从Telegram团体收集数据，这些团体积极宣传与COVID相关的错误信息。到目前为止，我们收集的语料库包含大约2800万个单词，来自近100万条消息。鉴于社交媒体中的错误信息流的很大一部分是通过图像和视频等多模式手段传播的，我们还开发了一种机制，通过为视频生成自动转录和将图像自动分类为meme，帖子截图和其他类型的图像来利用这些渠道。图像分类流水线的准确率约为87%。
2022-04-27 cs.SI
Combating Health Misinformation in Social Media: Characterization, Detection, Intervention, and Open Issues
Illinois Institute of Technology（伊利诺伊理工学院）；Weill Cornell Medicine（威尔康奈尔医学院）
社交媒体已成为公众的主要信息消费来源之一，使人们能够更快、更容易地寻找和传播信息。然而，各种社交媒体平台的兴起也使网上错误信息泛滥。特别是，健康领域的错误信息对我们的社会产生重大影响，例如COVID-19信息流行病。因此，社交媒体中的健康错误信息已成为一个新兴的研究方向，越来越受到不同学科研究人员的关注。与其他领域的错误信息相比，健康错误信息的关键区别在于对人类身体甚至生命造成实际伤害的可能性，正常人难以识别的难度以及与医学科学的深度联系。此外，社交媒体上的健康误导信息在生成、传播和消费范式等多个维度上具有与电视等传统渠道截然不同的特征。由于打击社交媒体中的健康错误信息的独特性和重要性，我们进行这项调查，以进一步促进对这一问题的跨学科研究。在这项调查中，我们提出了一个全面的审查现有的研究在不同学科的在线健康错误信息。此外，我们还从表征、检测和干预三个角度系统地整理了相关文献。最后，我们对社交媒体中打击健康错误信息的紧迫问题进行了深入讨论，并为多学科研究人员提供了未来的方向。
2022-11-10 cs.AI cs.CY cs.SI
Conspiracy Machines -- The Role of Social Bots during the COVID-19 Infodemic
无处不在的COVID-19大流行导致错误信息的平行传播，也被称为信息流行病。因此，社交媒体已成为社交机器人应用的目标，即模仿人类行为的算法。他们在社交媒体上施加影响的能力可能会被利用，放大可能对社会和对流行病的控制有害的错误信息、谣言或阴谋论。通过应用社交机器人检测和内容分析技术，本研究旨在确定社交机器人对Twitter上COVID- 19讨论的干扰程度。在542，345名用户的样本中，共检测到78个推定机器人。分析显示，类似机器人的用户传播错误信息，同时散布来自知名来源的新闻。这项研究的结果为改进机器人检测和在当前和未来的危机中通过社交机器人管理潜在威胁提供了启示。
2020-12-17 cs.SI
Probabilistic Social Learning Improves the Public's Detection of Misinformation
错误信息的数字传播是对民主、公共卫生和全球经济的主要威胁之一。减少错误信息的流行策略包括众包、机器学习和媒体素养计划，这些计划要求社交媒体用户将新闻以二进制方式分类为真或假。然而，对同伴影响的研究表明，用二元术语来框定决策会放大判断错误并限制社会学习，而用概率术语来框定决策可以可靠地改善判断。在这个预先注册的实验中，我们比较了通过传达二元或概率判断来协作评估新闻真实性的在线对等网络。交换对新闻真实性的概率估计大大改善了个人和群体的判断，消除了新闻评价中的两极分化。相比之下，交换二元分类减少了社会学习和根深蒂固的两极分化。概率社会学习的好处是强大的参与者的教育，性别，种族，收入，宗教和党派。
2020-10-14 cs.CY cs.SI
Learning to Control Misinformation: a Closed-loop Approach for Misinformation Mitigation over Social Networks
University of Zurich（苏黎世大学）；Eindhoven University of Technology（埃因霍温理工大学）
针对社交网络推荐系统因优先参与度而放大错误信息的问题，提出结合错误信息缓解与参与度最大化的闭环控制框架，通过惩罚极端负面情绪等特征，在不同网络配置中减少错误信息传播达76%，并为平台提供实用指导。
2025-11-16 cs.SI cs.SY eess.SY
COVID-19 Misinformation and Disinformation on Social Networks -- The Limits of Veritistic Countermeasures
COVID-19大流行一直是大量错误信息的主题，尤其是在数字信息环境中，主要社交媒体平台最近公布了他们正在采取的一些对策。这提供了一个机会，以检查的性质的错误信息和虚假信息正在产生的，和理论和技术的范式来对抗it. I认为，这种方法是基于一个概念的错误信息作为认知污染，只能证明有限的和潜在的不充分的反应，并在实践中采取的一些措施超越了这一点。事实上，社交网络管理着影响其平台上的话语的生态和建筑条件，这些条件应该促使人们重新考虑认知干预的理由，以打击错误信息，以及它们所保证的干预类型。平台的编辑作用不应仅仅被视为对认知污染的管理，而应视为对叙事和社会认知过程发生的认知环境的管理。这其中包含着不可避免的知识家长主义的成分，而对其可解释性的独立限制的探索有助于确定其在实践中的适当限度。
2020-08-03 cs.CY cs.SI
Mutual Hyperlinking Among Misinformation Peddlers
互联网承诺使知识的获取民主化，使世界更加开放和理解。然而，当今互联网的现实与这一理想相去甚远。错误信息、谎言和阴谋主导着许多社交媒体平台。这个有毒的网络世界已经对现实世界产生了影响，从种族灭绝到选举干预，以及对全球公共卫生的威胁。沮丧的公众和不耐烦的政府监管机构呼吁对旨在播下内乱并激发针对个人、社会和民主的暴力的错误和虚假信息运动做出更有力的回应。我们描述了一个大规模的，域级的分析，揭示了多个域之间的看似协调的努力，传播和放大错误信息。我们还描述了如何共享的超链接由某些Twitter用户可以用来表面有问题的域。这些分析可以被搜索引擎和社交媒体推荐算法用于系统地发现和降级错误信息贩子。
2021-04-20 cs.SI
Believability and Harmfulness Shape the Virality of Misleading Social Media Posts
社交媒体上的错误信息对现代社会构成了重大威胁。虽然之前的研究已经分析了真实和虚假社交媒体帖子的病毒性，但并不是每一个误导性帖子都具有同样的病毒性。相反，错误信息具有不同的特征，其可信度和危害性也各不相同--这可能会影响其传播。在这项工作中，我们研究了误导性帖子的可信度和危害性如何与社交媒体上的病毒式传播相关联。具体来说，我们分析（和验证）大量来自Twitter的Birdwatch平台的人群注释社交媒体帖子，用户可以对误导性推文的可信度和危害性进行评级。为了解决我们的研究问题，我们实现了一个解释性回归模型，并将人群的可信度和危害性评级与Twitter上误导性帖子的病毒式传播联系起来。我们的研究结果表明，（i）容易相信和（ii）不是特别有害的错误信息与更多的病毒再分享级联相关。这些结果为不同类型的经过人群事实核查的错误信息如何传播提供了见解，并表明最具病毒性的误导性帖子往往不是从公共安全的角度特别令人担忧的帖子。从实践的角度来看，我们的研究结果可能有助于平台制定更有效的策略，以遏制社交媒体上误导性帖子的扩散。
2023-03-08 cs.SI
Towards Combating Pandemic-related Misinformation in Social Media
疫情期间的常规预防措施包括社交距离及封锁。在社交媒体时代，这些措施带来了一系列新的挑战-很容易受到网上错误信息的有害影响。一个很好的例子是流行的COVID-19;随着病毒的传播，相关的错误信息和假新闻也会导致信息流行。自疫情爆发以来，大量研究调查了大流行的各个方面。本章感兴趣的研究包括集中于在线社交媒体平台的数据集，大部分公共话语发生在这些平台上。因此，主要目标是通过以下方式支持抗击负面信息流行病：（1）提供一组多样化的精选相关数据集（2）推荐使用数据集进行研究的相关领域（3）讨论如何利用相关数据集、战略和最先进的IT工具来管理流行病。
2021-02-15 cs.IR cs.SI
Vulnerable to Misinformation? Verifi!
我们提出了Verifi 2，一个视觉分析系统，以支持对社交媒体上的错误信息的调查。一方面，社交媒体平台通过使信息共享民主化来增强个人和组织的权能。另一方面，即使是消息灵通和经验丰富的社交媒体用户也容易受到错误信息的影响。为了解决这个问题，多个学科出现了各种模型和研究，以检测和理解错误信息的影响。然而，仍然缺乏直观和可访问的工具来帮助社交媒体用户区分错误信息和经过验证的新闻。在本文中，我们介绍了Verifi 2，这是一个视觉分析系统，它使用最先进的计算方法来突出文本，社交网络和图像的显著特征。通过Verifi 2中的多个协调视图在源级别上探索新闻，用户可以与表征错误信息的复杂维度进行交互，并对比真实和可疑新闻媒体在这些维度上的差异。为了评估Verifi 2，我们采访了数字媒体、新闻、教育、心理学和计算领域的专家，他们研究错误信息。我们的采访显示，Verifi 2作为错误信息教育工具的潜力很大。此外，我们的采访结果强调了打击错误信息问题的复杂性，并呼吁可视化社区开展更多工作。
2019-03-17 cs.HC cs.SI
DisTrack: a new Tool for Semi-automatic Misinformation Tracking in Online Social Networks
Universidad Politécnica de Madrid（马德里理工大学）
本文提出DisTrack工具，结合NLP、社交网络分析和图可视化，用于检测、追踪和溯源在线社交网络中的错误信息，并通过三个案例研究验证其有效性。
2024-08-01 cs.AI cs.SI
How many others have shared this? Experimentally investigating the effects of social cues on engagement, misinformation, and unpredictability on social media
与传统媒体不同，社交媒体通常提供量化指标，衡量有多少用户参与了每一项内容。有些人认为，这些线索的存在促进了错误信息的传播。在这里，我们调查的因果关系的社会线索对用户的参与与社会媒体的帖子。我们在一个定制的新闻推送界面上对N=628名美国人进行了一项实验，在这个界面上，我们系统地改变了社交线索的存在和强度。我们发现，当提示显示时，表明有更多的其他人参与了帖子，用户更有可能分享和喜欢该帖子。此外，相对于没有社会线索的对照组，社会线索的存在增加了真实新闻相对于虚假新闻的分享。社交线索的存在也使得精确预测任何给定帖子的受欢迎程度变得更加困难。总之，我们的研究结果表明，在某些情况下，社交线索可能会提高真相的识别力，减少错误信息的分享，而不是分散用户的注意力或导致他们分享低质量的新闻。我们的工作表明，社交线索在塑造用户在社交媒体上的注意力和参与度方面发挥着重要作用，平台应该在改变显示哪些线索以及如何显示之前了解不同线索的影响。
2022-07-15 cs.HC cs.SI
CoAID: COVID-19 Healthcare Misinformation Dataset
The Pennsylvania State University（宾夕法尼亚州立大学）
随着COVID-19病毒在世界各地迅速传播，不幸的是，与COVID-19相关的错误信息也像野火一样被创造和传播。这种错误的信息造成了人们的混乱，社会的混乱，甚至在健康问题上造成了致命的后果。因此，能够理解、检测和减轻这种COVID-19错误信息不仅具有深刻的知识价值，而且具有巨大的社会影响。因此，为了帮助研究人员应对COVID-19健康错误信息，我们提出了CoAID（COVID-19 healthcare isinformation Dataset），其中包含各种COVID-19医疗错误信息，包括网站和社交平台上的假新闻，以及用户对此类新闻的社交参与。CoAID包括4，251条新闻，296，000个相关用户参与，926个关于COVID-19的社交平台帖子和地面真相标签。该数据集可在以下网址获得：www.example.com。
2020-11-03 cs.CL cs.SI
Categorising Fine-to-Coarse Grained Misinformation: An Empirical Study of COVID-19 Infodemic
University of Sheffield（谢菲尔德大学）；University of Duisburg-Essen（杜伊斯堡-埃森大学）
社交媒体上传播的COVID-19错误信息已经引起了许多研究人员的注意。根据Google Scholar的数据，到目前为止，已经发表了大约26000篇与COVID-19相关的错误信息研究。这些研究大多集中于1）检测和/或2）分析COVID-19相关错误信息的特征。然而，与错误信息相关的社会行为的研究往往被忽视。在本文中，我们介绍了一个细粒度的注释错误信息推文数据集，包括社会行为注释（例如，评论或问题的错误信息）。该数据集不仅允许社会行为分析，而且适合于基于证据或非基于证据的错误信息分类任务。此外，我们在实验中引入了遗漏验证，并证明了错误信息分类性能在应用于现实世界中不可见的错误信息时可能会显着不同。
2021-07-08 cs.CY cs.LG cs.SI
Containing misinformation spreading in temporal social networks
来自计算机科学、网络科学和数学等各个领域的许多研究人员都在关注如何遏制威胁社会系统和破坏社会健康的互联网错误信息的爆发。大多数关于这一主题的研究都将个体之间的联系视为静态的，但这些联系会随着时间的推移而变化，因此社交网络也是时间网络。目前还没有理论方法来解决时间网络中的错误信息爆发问题。因此，我们提出了一个错误信息传播模型的时间网络，并描述它使用一个新的理论方法。我们提出了一种基于优化最终爆发规模的策略，该策略优于随机包含（RC）和目标包含（TC）等简化策略。我们通过大量的数值模拟和理论分析，验证了我们的HC策略在人工和现实网络上的有效性。我们发现，HC策略大大提高了爆发阈值，降低了最终爆发阈值。
2019-04-24 cs.SI physics.soc-ph
Mitigating Misinformation Spreading in Social Networks Via Edge Blocking
本文研究独立级联模型下通过阻断有限数量边抑制错误信息传播的问题，证明其计算困难，并提出检测紧密社区、切断社区间边的算法，实验表明其优于中心性方法。
2023-08-17 cs.DS cs.SI
Misinformation as Information Pollution
University of Michigan（密歇根大学）
本文提出将错误信息视为信息污染，借鉴环境政策中的庇古税，为社交媒体公司提供经济激励以控制错误信息传播，并探讨了实施该税收方案的关键问题与后续步骤。
2023-06-21 cs.CL cs.SI
Transparent Tagging for Strategic Social Nudges on User-Generated Misinformation
本文通过贝叶斯说服分支过程研究社交网络平台在误检测条件下的错误信息标记策略设计，证明最优策略是透明标记，从而有效助推内容提供者减少错误信息生成。
2025-03-08 cs.GT cs.SI
A Modality-level Explainable Framework for Misinformation Checking in Social Networks
Universidade Federal Fluminense（弗鲁米嫩塞联邦大学）；Dell Technologies（戴尔科技集团）
虚假信息的广泛传播是全世界日益关注的问题，具有严重的社会影响，促使事实核查组织的出现，以减轻错误信息的传播。然而，人为驱动的验证导致了一项耗时的任务和一个瓶颈，即以与可信信息出现相同的速度检查它们。由于错误信息不仅与内容本身有关，而且还与其他社会特征有关，因此本文从多模态的角度研究了社交网络中的错误信息自动检测。此外，由于简单地将一条新闻命名为不正确可能无法说服公民，甚至更糟的是，会加强确认偏见，因此该提案是一个模态级别的可解释倾向错误信息分类器框架。我们的框架包括一个错误信息分类辅助解释的方法来生成模态导向的可解释的推理。初步研究结果表明，错误信息分类器确实受益于多模态信息编码和面向模态的可解释机制提高了推理的可解释性和完整性。
2022-12-08 cs.AI cs.CL cs.LG
Characterizing and Comparing COVID-19 Misinformation Across Languages, Countries and Platforms
有关COVID-19的错误信息/虚假信息在全球社交媒体上泛滥。在这项研究中，我们调查了社交媒体上的COVID-19错误信息/虚假信息，这些信息使用多种语言-波斯语（波斯语），中文和英语，涉及多个国家-伊朗，中国和美国（US），以及多个平台，如Twitter，Facebook，Instagram，微博和WhatsApp。错误信息，尤其是关于全球大流行病的错误信息，是一个全球性问题，但对社交媒体上COVID-19错误信息的研究通常集中在单一语言（如英语），单一国家（如美国）或单一平台（如Twitter）。我们利用机会主义抽样，汇编了200个特定的病毒项目，但在1月1日至8月31日期间，这些语言，国家和平台上出现了错误信息。然后，我们根据错误信息的主题和错误信息的根本根源对这些集合进行分类。我们的多元文化及多语言团队观察到，社交媒体上COVID-19错误信息的性质在不同语言╱国家有很大差异，视乎文化、信仰╱宗教、社交媒体的普及程度、平台类型、言论自由及人民与政府的权力而定。我们观察到，政治是该数据集中所有三种语言中收集的大多数错误信息的根源。我们进一步观察了伊朗、中国和美国政府对平台的限制和平台对内容的限制的不同影响，以及它们对我们这个时代的一个关键问题的影响：我们如何控制错误信息，而不压制我们需要让政府负责的声音？
2020-10-15 cs.CY cs.SI
Fake Cures: User-centric Modeling of Health Misinformation in Social Media
社交媒体不受限制的访问使其成为健康讨论的重要场所，也是患者及其亲人的资源。然而，现有信息的质量及其海报的动机受到质疑。这项工作研究了社交媒体上发布可疑健康相关信息的个人，特别是推广已被证明无效的癌症治疗（使其成为一种错误信息，无论是否故意）。使用多阶段用户选择过程，我们研究了4，212名Twitter用户，他们发布了139种“治疗方法”中的一种，并将其与对癌症感兴趣的用户基线进行比较。考虑到捕捉用户属性，写作风格和情绪的功能，我们建立了一个分类器，它能够识别用户容易传播这种错误信息的准确率超过90%，为公共卫生官员提供了一个潜在的工具，以确定这些人的预防性干预。
2018-09-03 cs.CY cs.SI
Social media algorithms can curb misinformation, but do they?
本文指出Guess等人的研究未考虑2020年美国大选后Facebook的临时算法调整，这些调整减少了控制组虚假信息量，可能导致读者误判算法对政治虚假信息的实际影响。
2024-09-27 cs.CY cs.SI
Easy-access online social media metrics are associated with misinformation sharing activity
Central European University（中欧大学）；University of Padova（帕多瓦大学）；HUN-REN Centre for Social Sciences（匈牙利研究网络社会科学院）
本文提出利用易获取的社交媒体指标识别潜在虚假信息传播者，发现推文频率与低事实性内容正相关，账户年龄与之负相关。
2025-11-24 cs.CY cs.SI physics.soc-ph
Counterfactual Neural Temporal Point Process for Estimating Causal Influence of Misinformation on Social Media
University of Southern California（南加州大学）；Viterbi School of Engineering（维特比工程学院）
近年来，在社交媒体上传播特定叙述以操纵政治和医疗保健等不同领域的公众舆论的错误信息运动有所增加。因此，需要一种有效且高效的自动方法来估计错误信息对用户信念和活动的影响。然而，现有的错误信息的影响估计的工作要么依赖于小规模的心理实验或只能发现用户行为和错误信息之间的相关性。针对这些问题，本文构建了一个因果框架，从时间点过程的角度对错误信息的因果效应进行建模。为了适应大规模数据，我们设计了一种高效而精确的方法来估计个体治疗效果（ITE）通过神经时间点过程和高斯混合模型。在人工数据集上的大量实验验证了该模型的有效性和效率。我们进一步将我们的模型应用于关于COVID-19疫苗的社交媒体帖子和参与的真实数据集。实验结果表明，我们的模型认识到可识别的因果关系的错误信息，伤害人们的主观情绪对疫苗。
2022-10-14 cs.AI cs.LG cs.SI
Social Media and Health Misinformation during the US COVID Crisis
健康错误信息在社交媒体上普遍存在，特别是在科学信息有限的新公共卫生危机中。然而，社交媒体也可以在限制和驳斥健康错误信息方面发挥作用。作为一个案例研究，美国总统唐纳德·特朗普关于紫外线和消毒剂治疗的承诺和力量的争议性评论，这份数据备忘录研究了这些评论是如何在Twitter上讨论和回应的。我们发现，这些评论落入了既定的政治党派叙事，并在随后的几天里主导了关于政治和新冠肺炎的讨论。对评论的争论比支持要普遍得多。支持者攻击媒体报道符合现有的特朗普叙述。参赛者以幽默回应，并分享了主流媒体的报道，谴责这些评论。这些做法会通过重复来强化最初的错误信息，而对那些可能相信它们的人来说，这几乎无助于构建一个成功的反驳。这项研究为我们了解围绕COVID的信息环境增加了急需的知识，并表明，尽管呼吁在这场公共卫生危机中将卫生信息非政治化，但这在很大程度上是沿着分裂，两极分化，党派路线的政治问题。
2020-08-12 cs.CY cs.SI
Using an Epidemiological Model to Study the Spread of Misinformation during the Black Lives Matter Movement
Twitter等社交媒体平台的激增加剧了错误信息传播的后果。为了理解和模拟错误信息的传播，在本文中，我们利用SEIZ（易感，暴露，感染，怀疑）流行病学模型来描述Twitter上错误信息传播的基本过程。与其他流行病学模型相比，该模型产生更广泛的结果，因为它包括额外的怀疑论者（Z）区室，其中用户可能暴露于错误信息项但不参与对其的任何反应，以及额外的暴露（E）区室，其中用户可能需要一些时间才能决定传播错误信息项。我们分析了有关2020年3月华盛顿特区骚乱的错误信息，这些信息是由美国各地的不同用户在Twitter上使用#DCblackout标签传播的。我们的分析表明，错误信息可以使用流行病学的概念建模。据我们所知，这项研究是第一次尝试将SEIZ流行病学模型应用于特定错误信息的传播，这是一个不同于谣言的类别，也是在线社交媒体平台上的骗局。应用数学模型可以帮助了解Twitter上错误信息传播的趋势和动态，并最终帮助开发快速识别和控制错误信息的技术。
2021-03-22 cs.SI
On the statistical properties of viral misinformation in online social media
在线社交媒体的大规模传播使得阴谋论、恶作剧、未经证实的说法和虚假新闻迅速而不受控制地传播。如此大量的错误信息可能会影响政策偏好，并鼓励与建议做法截然不同的行为。在本文中，我们研究了在线社交媒体中病毒式错误信息的统计特性。通过属于极值理论的方法，我们表明，随着时间的推移，极端病毒帖子的数量遵循齐次泊松过程，并且这些帖子之间的到达时间是独立和同分布的，遵循指数分布。此外，我们还通过贝叶斯方法刻画了泊松过程速率参数的不确定性。最后，我们能够推导出在有限的时间间隔内超过一定阈值的帖子数量的预测后验概率分布。
2016-09-29 cs.SI physics.soc-ph stat.AP
Multimodal Misinformation Detection Using Early Fusion of Linguistic, Visual, and Social Features
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本研究提出基于早期融合的多模态错误信息检测方法，整合文本、图像和社会特征，在1,529条推文上验证其性能较单模态和双模态模型分别提升15%和5%，并分析了错误信息传播模式。
2025-06-26 cs.CL cs.LG cs.SI
