Inside the echo chamber: Linguistic underpinnings of misinformation on Twitter
The Pennsylvania State University（宾夕法尼亚州立大学）
本研究探讨Twitter上错误信息传播的语言学基础，通过比较回音室内外多种语言学指标，发现回音室在讨论错误信息时群体认同信号和处理流畅性显著增加。
2024-04-24 cs.CL cs.SI
Cultural Convergence: Insights into the behavior of misinformation networks on Twitter
Graphika, Inc.（格拉菲卡公司）
如何随着时间的推移研究网络中思想和社区的诞生和演变？我们使用多模式管道，包括网络映射，主题建模，桥接中心性和分歧，以分析围绕COVID-19大流行的Twitter数据。我们使用网络映射来检测围绕COVID-19创建内容的帐户，然后使用潜在狄利克雷分配来提取主题，并桥接中心性来识别主题和非主题桥梁，然后检查每个主题和桥梁随时间的分布，并应用主题分布的詹森-香农发散来显示主题叙述中正在收敛的社区。
2020-07-07 cs.CL cs.SI physics.soc-ph
Angry but Accurate: Detecting and Profiling the Counter-Misinformation Ecosystem on Twitter
University of Southern California（南加州大学）；Thomas Lord Department of Computer Science（托马斯·劳德计算机科学系）
研究推特反错误信息生态系统，用特定领域NLI模型分类新冠推文，对比支持或反对错误信息的两类推文的用户和文本特征，发现反错误信息推文负面情绪更强且发布者多为更成熟用户。
2026-08-10 cs.CL cs.CY cs.SI
Checkovid: A COVID-19 misinformation detection system on Twitter using network and content mining perspectives
Amirkabir University of Technology（阿米尔卡比尔理工大学）
在COVID-19疫情期间，由于社交隔离和隔离，社交媒体平台是沟通的理想平台。此外，它是大规模传播错误信息的主要来源，被称为信息流行病。因此，自动揭穿错误信息是一个至关重要的问题。为了解决这个问题，我们在Twitter上展示了两个与COVID-19相关的错误信息数据集，并提出了一个错误信息检测系统，该系统包括基于机器学习算法和NLP技术的基于网络和基于内容的过程。在基于网络的过程中，我们专注于社会属性，网络特征和用户。另一方面，我们在基于内容的过程中直接使用推文的内容对错误信息进行分类，该过程包括文本分类模型（段落级和段落级）和相似度模型。基于网络的过程的评价结果显示，人工神经网络模型的F1得分为88.68%的最佳结果。在基于内容的过程中，我们的新的相似性模型，其中获得了90.26%的F1得分，显示了改进的错误信息分类结果相比，基于网络的模型。此外，在文本分类模型中，使用堆叠集成学习模型取得了最好的结果，获得了95.18%的F1分数。此外，我们在Constraint@AAAI2021数据集上测试了我们基于内容的模型，并获得了94.38%的F1分数，我们改进了基线结果。最后，我们开发了一个名为Replikovid的事实核查网站，该网站使用每个流程从不同角度检测COVID-19领域中的错误信息和信息性声明。
2021-07-20 cs.CL cs.LG cs.SI
CovidMis20: COVID-19 Misinformation Detection System on Twitter Tweets using Deep Learning Models
Saginaw Valley State University（萨吉诺谷州立大学）；The Hashemite University（哈希姆大学）；Western Michigan University（西密歇根大学）；University of Nebraska at Kearney（内布拉斯加大学卡尼尔分校）
在线新闻和信息源是了解当前问题的方便和可访问的方式。例如，全球有3亿多人在推特上发帖，这为传播误导性信息提供了可能性。由于假新闻而犯下暴力犯罪的案件很多。这项研究提出了CovidMis 20数据集（COVID-19 Misinformation 2020数据集），其中包括从2020年2月至7月收集的1，375，592条推文。CovidMis 20可自动更新以获取最新新闻，并可在https://github.com/everythingguy/CovidMis20上公开获取。这项研究使用Bi-LSTM深度学习和集成CNN+Bi-GRU进行假新闻检测。结果表明，在测试准确度分别为92.23%和90.56%的情况下，集成CNN+Bi-GRU模型始终提供比Bi-LSTM模型更高的准确度。
2022-09-13 cs.CL cs.HC cs.LG
Not cool, calm or collected: Using emotional language to detect COVID-19 misinformation
Dartmouth College（达特茅斯学院）
社交媒体平台（如推特）上的COVID-19错误信息对有效的流行病管理构成威胁。之前关于推文COVID-19错误信息的研究否定了twitter常见的语义特征的作用，例如充满激情的情绪。因此，我们提出了一种新的COVID-19错误信息模型，该模型使用推文情感编码器和COVID-19错误信息编码器来预测推文是否包含COVID-19错误信息。我们的情感编码器在一个新的注释数据集上进行了微调，我们的COVID-19错误信息编码器在COVID-HeRA数据集的一个子集上进行了微调。实验结果表明，优越的结果，使用情感和错误信息编码器的组合，而不是单独的错误信息分类器。此外，进行了广泛的结果分析，强调低质量的标签和不匹配的标签分布是我们研究的关键限制。
2023-03-27 cs.CL cs.LG cs.SI
Stylometric Detection of AI-Generated Text in Twitter Timelines
Arizona State University（亚利桑那州立大学）；STR
预训练的语言模型的最新进展使得能够实现用于大规模生成类人文本的方便方法。虽然这些生成功能具有突破性应用的巨大潜力，但它也可能成为对手生成错误信息的工具。特别是，像Twitter这样的社交媒体平台非常容易受到人工智能生成的错误信息的影响。一种潜在的威胁场景是，攻击者劫持了一个可信的用户帐户，并结合了一个自然语言生成器来生成错误信息。这种威胁需要在给定用户的Twitter时间轴中自动检测AI生成的推文。然而，推文本质上是短的，因此使得当前最先进的基于预先训练的语言模型的检测器难以准确地检测AI在给定的Twitter时间轴中的什么点开始生成推文。在本文中，我们提出了一种新的算法，使用风格信号来帮助检测AI生成的推文。我们提出了两个相关任务中量化人类和AI推文风格变化的模型：任务1 -区分人类和AI生成的推文，任务2 -检测AI是否以及何时开始在给定的Twitter时间轴中生成推文。我们广泛的实验表明，样式特征在增强最先进的AI生成的文本检测器方面是有效的。
2023-03-07 cs.CL cs.LG
Identifying and Characterizing Active Citizens who Refute Misinformation in Social Media
The University of Sheffield（谢菲尔德大学）；Central China Normal University（华中师范大学）
在社交媒体上传播错误信息的现象已经形成了一种新的积极公民形式，他们专注于通过反驳可能包含错误信息的帖子来解决问题。自动识别和表征这些活跃公民在社交媒体中的行为是计算社会科学中的一项重要任务，以补充错误信息分析的研究。在本文中，我们在不同的社交媒体平台（即，Twitter和微博）和语言（即，英文和中文第一次。为此，（1）我们开发并公开了一个新的微博用户数据集，该数据集映射到两个类别之一（即，错误信息的海报或活跃的公民）;（2）我们在我们的新微博数据集和现有的Twitter数据集上评估了一组监督模型，我们重新调整了任务;（3）我们对两种用户类别之间的语言使用差异进行了广泛的分析。
2022-04-21 cs.CL cs.SI
Empowering the Fact-checkers! Automatic Identification of Claim Spans on Twitter
IIIT Delhi（德里英迪拉·甘地信息技术学院）；IIT Delhi（德里印度理工学院）
2019冠状病毒病（COVID-19）后，医疗和政治主张的广泛传播导致错误信息和假新闻大量增加。目前的时尚是使用人工事实检查器来有效地对这些数据进行分类和验证，以对抗这种雪崩式的索赔错误信息。然而，信息传播的速度远远超过了事实核查人员的力量。因此，为了帮助手动事实检查器消除多余的内容，自动识别和提取帖子中存在的有价值的（错误）信息片段变得至关重要。在这项工作中，我们介绍了索赔跨度识别（CSI）的新任务。我们提出了CURT，一个大规模的Twitter语料库与令牌级索赔跨度超过7.5K的推文。此外，除了标准的令牌分类基线外，我们还使用DABERTa对我们的数据集进行了基准测试，DABERTa是RoBERTa的一种基于适配器的变体。实验结果证明，DABERTa在几个评估指标上优于基线系统，提高了约1.5个点。我们还报告了详细的误差分析，以验证模型的性能以及消融研究。最后，我们发布了全面的span注释指南供公众使用。
2022-10-11 cs.CL
BERTopic-Virality Prioritisation: A Scalable Framework for Thematic and Comparative Analysis of COVID-19 and Monkeypox Misinformation on Twitter
Manchester Metropolitan University（曼彻斯特城市大学）
本研究提出BERTopic-VP框架，结合BERTopic与病毒传播优先级层，搭配混合错误信息检测模块，可高效分析Twitter上COVID-19与猴痘错误信息，能识别高影响力簇，支持监测预警。
2026-08-18 cs.CL cs.LG cs.SI
Automatic Detection of COVID-19 Vaccine Misinformation with Graph Link Prediction
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
最近，对疫苗效力的巨大希望在抗击COVID-19大流行中成为成功的现实。然而，社交媒体上有关COVID-19疫苗的错误信息引发的疫苗犹豫成为一个主要障碍。因此，必须自动检测社交媒体上关于COVID-19疫苗的错误信息在哪里传播，以及讨论了什么样的错误信息，以便除了旨在解决疫苗犹豫的干预措施外，还可以在正确的时间和正确的地点提供接种干预措施。本文旨在解决对COVID-19疫苗犹豫不决的第一步，即自动检测Twitter上有关疫苗的已知错误信息，Twitter是关于COVID-19及其疫苗的对话量最高的社交媒体平台。我们提出了CoVaxLies，这是一个新的推文数据集，被认为与COVID-19疫苗的几个错误信息目标相关，并开发了一种检测错误信息的新方法。我们的方法在错误信息知识图谱中组织CoVaxLies，因为它将错误信息检测作为图链接预测问题。本文详细介绍的错误信息检测方法利用了几种知识嵌入方法提供的链接评分函数。实验结果表明，与目前广泛使用的基于分类的方法相比，该方法具有明显的优越性。
2021-11-17 cs.CL
Vax-Culture: A Dataset for Studying Vaccine Discourse on Twitter
Carleton University（卡尔顿大学）
本研究针对社交媒体上反疫苗错误信息传播问题，构建了含6373条推文及多维度人工标注的Vax-Culture数据集，定义五项基线任务并给出基于transformer模型的实验结果，助力公共卫生传播策略制定与错误信息自动检测。
2023-06-11 cs.CL cs.LG cs.SI
DISHONEST: Dissecting misInformation Spread using Homogeneous sOcial NEtworks and Semantic Topic classification
Pacific Northwest National Laboratory（西北太平洋国家实验室）；University of California San Diego（加利福尼亚大学圣迭戈分校）
本研究针对COVID-19期间虚假信息传播的回声室效应问题，结合转发网络与主题建模关联社交互动与内容维度，提出新的用户社交移动速度指标，验证了二者的相关性在虚假信息泛滥子社区中依然成立。
2024-12-12 cs.AI cs.CL cs.SI
Misinformation detection in Luganda-English code-mixed social media text
Makerere University（马凯雷雷大学）
社交媒体平台上错误信息的发生、形式和负面影响越来越多，需要更多的错误信息检测工具。目前，正在努力解决COVID-19的错误信息，但是，对于40种不同的乌干达土著语言中的任何一种，都没有错误信息检测工具。本文通过介绍基本的语言资源和错误信息检测数据集来解决这一差距，该数据集基于来自Facebook和Twitter社交媒体平台的代码混合的卢甘达语-英语消息。几种机器学习方法应用于错误信息检测数据集，以开发用于检测代码混合的卢甘达-英语消息是否包含错误信息的分类模型。在一个实验性的错误信息检测任务中，对分类方法进行了10倍交叉验证评估，结果表明，判别式多项朴素贝叶斯（DMNB）方法分别达到了最高的准确率和78.19%和77.90%的F-测度。此外，支持向量机和Bagging集成分类模型取得了可比的结果。这些结果是有希望的，因为机器学习模型基于仅来自错误信息检测数据集的n元特征。
2021-04-03 cs.CL cs.SI
Twitter Dataset for 2022 Russo-Ukrainian Crisis
Hong Kong University of Science and Technology（香港科技大学）；Korea Advanced Institute of Science and Technology（韩国科学技术院）；University of Helsinki（赫尔辛基大学）
在线社交网络（OSN）在危机期间的信息共享中发挥着重要作用。在这样的危机中收集的数据可以反映大规模的民意和情绪。此外，OSN数据还可用于研究各种实体为策划公众舆论而开展的不同活动。这种信息共享活动可以是传播事实信息，也可以是宣传和错误信息。我们提供了2022年俄罗斯-乌克兰冲突的Twitter数据集。在第一个版本中，我们分享了危机第一周分享的160多万条推文。
2022-03-06 cs.CL cs.SI
Crowd Intelligence for Early Misinformation Prediction on Social Media
Indraprastha Institute of Information Technology Delhi（因德拉普拉斯塔信息技术学院德里分校）；Indian Institute of Technology Delhi（印度理工学院德里分校）
本文提出CROWDSHIELD方法，利用群体智能结合深度Q-learning和transformer编码器捕捉对话中的立场与主张，实现社交媒体早期错误信息预测，并在MIST数据集上取得优于十个基线的性能。
2024-08-08 cs.CL
DADIT: A Dataset for Demographic Classification of Italian Twitter Users and a Comparison of Prediction Methods
Bocconi University（博科尼大学）
本研究构建并发布了含2万意大利Twitter用户3000万条推文及人口统计标签的DADIT数据集，对比多种前沿人口属性预测模型，发现基于XLM的分类器纳入推文特征后性能远超M3，且该结论在德语测试集上得到验证。
2024-03-08 cs.CL
Case Study on Detecting COVID-19 Health-Related Misinformation in Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
2019冠状病毒病大流行造成了公共卫生官员所说的错误信息泛滥。随着社交距离和呆在家里的命令生效，许多人转向社交媒体进行社交。社交媒体使用的增加使其成为传播错误信息的主要工具。本文提出了一种跨学科方法检测社交媒体中与COVID-19健康相关的错误信息的机制。利用社会心理学作为基础和现有的错误信息框架，我们定义了错误信息的主题和相关的关键字纳入错误信息检测机制，使用应用机器学习技术。接下来，使用Twitter数据集，我们使用多个最先进的机器学习分类器探索了所提出的方法的性能。我们的方法显示了有前途的结果，在使用基于uni-gram的NLP特征生成的推文和决策树分类器对与健康相关的错误信息与真实信息进行分类时，准确率最高可达78%。我们还提供了关于替代方案的建议，以对抗错误信息和研究的伦理考虑。
2021-06-12 cs.CL cs.LG cs.SI
Psychometric Analysis and Coupling of Emotions Between State Bulletins and Twitter in India during COVID-19 Infodemic
Indraprastha Institute Information Technology, Delhi（德里英德拉普拉斯塔信息技术学院）；Guru Nanak Dev University, Amritsar（阿姆利则古鲁那纳克德夫大学）
2019冠状病毒病的信息传播速度超过了疫情本身。信息流行浪潮中的错误信息对人民的健康和治理系统构成了重大威胁。由于社交媒体是最大的信息来源，因此管理信息流行病不仅需要减少错误信息，还需要及早了解由此产生的心理模式。在COVID-19危机期间，自2020年3月6日以来，仅Twitter一家公司的策划活动页面的使用量就急剧增加了45%，其直接消息的使用量也增加了30%。在这项研究中，我们分析了印度国家和邦一级COVID-19信息流行病与COVID-19相关官方公报的心理测量影响和耦合。我们用心理语言学的视角来看待这两个来源，并量化了两者之间的程度和耦合。我们修改了path，这是一个基于深度skip-gram的开源词典构建器，可以有效地捕捉与健康相关的情绪。然后，我们能够在社交媒体和官方公告中捕捉与健康相关的情绪的时间演变。使用格兰杰因果关系对从官方公告和社交媒体中提取的情绪时间序列之间的领先滞后关系进行分析表明，国家公告在医疗紧急情况等某些情绪方面领先于社交媒体。进一步的见解，是潜在的相关的政策制定者和积极从事减轻错误信息的传播者也进行了讨论。我们的论文还介绍了CoronaIndiaDataset 2，这是印度第一个基于社交媒体的国家和州级COVID-19数据集，拥有超过560万条国家和260万条州级推文。最后，我们将我们的研究结果作为COVibes，这是一个交互式网络应用程序，可以在…
2020-05-13 cs.CL cs.CY cs.SI
Large Arabic Twitter Dataset on COVID-19
Center of Innovation and Development in Artificial Intelligence（人工智能创新与发展中心）；Umm Al-Qura University（乌姆·库拉大学）
2019冠状病毒病（COVID-19）于2019年12月下旬在中国出现，目前正在全球迅速蔓延。在撰写本文时，全球确诊病例数已超过250万，死亡人数超过18万。许多国家都实施了严格的社交距离政策，以遏制病毒的传播。这改变了数千万人的日常生活，并促使人们将他们的讨论转移到网上，例如，通过Twitter等社交网站在这项工作中，我们描述了自2020年1月1日以来收集的第一个关于COVID-19的阿拉伯语推文数据集。该数据集将有助于研究人员和决策者研究与这一流行病有关的各种社会问题。还可以分析与行为改变、信息共享、错误信息和谣言传播相关的许多其他任务。
2020-04-22 cs.CL cs.SI
Testing the Generalization of Neural Language Models for COVID-19 Misinformation Detection
University of Wuppertal（伍珀塔尔大学）；Indian Institute of Technology Patna（巴特那印度理工学院）；Charles University（查理大学）
本研究评估十五个Transformer模型在五个COVID-19错误信息数据集上的泛化能力，发现专用模型无显著优势，为未来检测系统提供现实基准。
2022-11-10 cs.AI cs.CL cs.LG
Multimodal Misinformation Detection Using Early Fusion of Linguistic, Visual, and Social Features
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本研究提出基于早期融合的多模态错误信息检测方法，整合文本、图像和社会特征，在1,529条推文上验证其性能较单模态和双模态模型分别提升15%和5%，并分析了错误信息传播模式。
2025-06-26 cs.CL cs.LG cs.SI
Characterization of Political Polarized Users Attacked by Language Toxicity on Twitter
Communication University of Science and Technology of China（中国科学技术传媒大学）
本文分析超过5亿条Twitter帖子，首次考察左翼、右翼和中间派用户间的语言毒性流动，发现左翼用户收到的毒性回复显著更多。
2024-11-14 cs.AI cs.CL cs.CY
Claim Detection in Biomedical Twitter Posts
University of Stuttgart（斯图加特大学）
社交媒体包含未经过滤和独特的信息，这些信息可能具有巨大的价值，但在错误信息的情况下，也可能造成巨大的伤害。关于生物医学主题，虚假信息可能特别危险。自动事实核查和假新闻检测方法解决了这个问题，但尚未应用于社交媒体中的生物医学领域。我们的目标是填补这一研究空白，并注释语料库的1200条推文的隐含和明确的生物医学索赔（后者也与跨度注释的索赔短语）。通过这个语料库，我们采样与COVID-19，麻疹，囊性纤维化和抑郁症有关，我们开发了自动检测包含索赔的推文的基线模型。我们的分析显示，生物医学推文中充斥着大量的声明（在一个包含1200条推文的语料库中，45%的推文集中在上述领域）。基于嵌入的分类器和基于BERT的迁移学习的基线分类实验表明，检测是具有挑战性的，然而，显示出可接受的性能，用于识别明确的表达的权利要求。隐式声明推文更难检测。
2021-05-01 cs.CL cs.SI
MuMiN: A Large-Scale Multilingual Multimodal Fact-Checked Misinformation Social Network Dataset
University of Bristol（布里斯托大学）
错误信息在社交媒体和新闻文章中越来越普遍。它已经变得如此普遍，以至于我们需要利用机器学习的算法辅助来检测此类内容。训练这些机器学习模型需要足够规模、多样性和质量的数据集。然而，自动错误信息检测领域的数据集主要是单语的，包括有限数量的模态，并且没有足够的规模和质量。针对这一点，我们开发了一个数据汇集和链接系统（MuMiN-trawl），构建一个公共错误信息图数据集（MuMiN），包含丰富的社交媒体数据（推文，回复，用户，图像，文章，标签）跨越属于2.6万个Twitter线程的2100万条推文，每条推文在语义上都与数十个主题，事件和领域的1.3万个事实检查声明相关联，用41种不同的语言，跨越了十多年。该数据集通过Python包（mumin）作为异构图提供。我们提供了与涉及社交媒体的索赔的准确性相关的两个节点分类任务的基线结果，并证明这些任务具有挑战性，这两个任务的最高宏观平均F1分数分别为62.55%和61.45%。MuMiN生态系统可在https：//mumin-martet.github.io/获得，包括数据，文档，教程和排行榜。
2022-03-08 cs.CL cs.CY cs.IR
Integrating Persuasion Theory into the Epidemiological Modelling of Health Misinformation Spread on Social Media
Manchester Metropolitan University（曼彻斯特城市大学）
该研究将精细可能性模型融入扩展的SIR流行病学模型，提出ELM-SIRMMM框架，在多数据集上验证其提升健康错误信息传播建模的精度与动态真实性，揭示需动态心理输入保障建模功能真实性。
2026-08-18 cs.AI cs.CL cs.LG
