Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology（奈良先端科学技术大学）
假新闻的迅速增加对社会造成了重大损害，引发了许多与假新闻相关的研究，包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集：（1）假新闻检测，（2）事实验证，（3）其他任务;例如，假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后，我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究，从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Deep Two-path Semi-supervised Learning for Fake News Detection
Prairie View A&M University（普雷里维尤农工大学）；Texas A&M University System（德州农工大学系统）
Twitter等社交媒体上的新闻量大、速度快。然而，很少有新闻能在短时间内被贴上（假新闻或真新闻）的标签。为了实现对社交媒体中虚假新闻的及时检测，提出了一种新的深度双路径半监督学习模型，其中一条路径用于监督学习，另一条路径用于无监督学习。用卷积神经网络实现的这两条路径被联合优化以增强检测性能。此外，我们在这两条路径之间建立了一个共享的卷积神经网络来共享低层特征。在Twitter数据集上的实验结果表明，该模型能够有效地识别虚假新闻，且标注数据很少。
2019-06-10 cs.CL cs.LG
Hybrid Ensemble for Fake News Detection: An attempt
Punjab Engineering College（旁遮普工程学院）
虚假新闻检测一直是机器学习领域的一个具有挑战性的问题。研究人员已经通过使用旧的统计分类模型和现代深度学习的几种技术来接近它。今天，随着数据量的不断增长，NLP和ML领域的发展，以及可处理的计算能力的增加，有无限的排列和组合可以从不同的角度来解决这个问题。在本文中，我们尝试了不同的方法来解决假新闻，并尝试构建并提出了将经典机器学习技术与现代深度学习方法相结合的混合Ensemble的可能性
2022-06-13 cs.CL cs.LG
Is it Fake? News Disinformation Detection on South African News Websites
University of Pretoria（比勒陀利亚大学）
通过假新闻传播的虚假信息是我们社会中一个持续存在的问题，并且很容易通过社交媒体传播。过滤这些大量数据的最具成本和时间效益的方法是使用人工和技术干预相结合来识别它。从技术角度来看，自然语言处理（NLP）被广泛用于检测假新闻。社交媒体公司使用NLP技术来识别假新闻并警告他们的用户，但假新闻仍然可能不被发现。在更地方化的情况下（美利坚合众国以外），这尤其是一个问题。我们如何调整假新闻检测系统，以更好地适应当地环境，例如南非。在这项工作中，我们调查了南非网站上的假新闻检测。我们策划了一个南非假新闻的数据集，然后训练检测模型。我们将此与使用广泛可用的假新闻数据集（主要来自美国网站）进行对比。我们还探索通过组合数据集使其更加多样化，并使用可解释的机器学习观察各国假新闻之间的写作行为差异。
2021-08-09 cs.CL cs.CY cs.LG
Embracing Domain Differences in Fake News: Cross-domain Fake News Detection using Multi-modal Data
随着社交媒体的快速发展，假新闻已成为一个重大的社会问题，无法通过人工调查及时解决。这激发了许多关于自动化虚假新闻检测的研究。大多数研究探索了具有不同模式的监督训练模型（例如，文本、图像和传播网络）来识别假新闻。然而，如果新闻记录来自不同的域（例如，政治、娱乐），尤其是在训练过程中看不到或很少看到的领域。作为动机，我们经验表明，来自不同领域的新闻记录有显着不同的词的使用和传播模式。此外，由于大量未标记的新闻记录，选择新闻记录进行手动标记以使标记数据集的域覆盖最大化是具有挑战性的。因此，这项工作：（1）提出了一种新的框架，该框架联合保留新闻记录中的特定领域和跨领域知识，以检测来自不同领域的假新闻;（2）引入了一种无监督技术，以选择一组未标记的信息新闻记录进行手动标记，这最终可以用于训练假新闻检测模型，该模型在许多领域表现良好，同时最小化标记成本。我们的实验表明，所提出的假新闻模型和选择性注释方法的集成实现了跨领域新闻数据集的最新性能，同时对新闻数据集中很少出现的领域产生了显着的改进。
2021-02-24 cs.CL cs.IR cs.LG
Learning Hierarchical Discourse-level Structure for Fake News Detection
Michigan State University（密歇根州立大学）
一方面，如今，假新闻文章很容易通过各种网络媒体平台传播，并已成为对信息可信度的重大威胁。另一方面，我们对假新闻语言的理解仍然微乎其微。阐明虚假和真实新闻文章的层次话语级结构是更好地理解这些文章是如何结构的关键一步。然而，这在假新闻检测领域很少被调查，面临着巨大的挑战。首先，用于捕获话语级结构的现有方法依赖于注释语料库，这些语料库不适用于假新闻数据集。其次，如何从这些发现的结构中提取有用的信息是另一个挑战。为了应对这些挑战，我们提出了用于虚假新闻检测的分层话语级结构。HDSF以自动化和数据驱动的方式学习和构建假/真新闻文章的话语级结构。此外，我们还识别出了有见地的结构相关属性，这些属性可以解释所发现的结构，并提高我们对假新闻的理解。实验结果表明了该方法的有效性。进一步的结构分析表明，真实新闻和虚假新闻在语篇层次结构上存在着实质性的差异。
2019-04-10 cs.CL cs.LG stat.ML
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University（武汉大学弘毅学堂）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题，直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来，已经提出了许多检测方法来打击假新闻，但它们主要集中在文章的语言方面，而没有任何事实检查。在本文中，我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验，我们证明了事实篡改攻击是有效的。为了解决这些问题，我们认为，事实核查应与语言特征分析相结合，以真正区分假新闻和真新闻。提出了一种众包的知识图谱，作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
fakenewsbr: A Fake News Detection Platform for Brazilian Portuguese
本文面向巴西葡萄牙语新闻，提出结合 TF-IDF 与 Word2Vec 的机器学习虚假新闻检测方法，并构建了提供实时分析的 fakenewsbr.com 平台。
2023-09-21 cs.CL cs.LG stat.ML
Weak Supervision for Fake News Detection via Reinforcement Learning
State University of New York at Buffalo（纽约州立大学布法罗分校）；Tencent Inc.（腾讯公司）；Pennsylvania State University（宾夕法尼亚州立大学）
如今，社交媒体已经成为新闻的主要来源。通过社交媒体平台，假新闻以前所未有的速度传播，触及全球受众，并使用户和社区面临巨大风险。因此，尽早发现假新闻非常重要。最近，基于深度学习的方法在假新闻检测方面表现出了更好的性能。然而，这类模型的训练需要大量的标记数据，而人工标注既耗时又昂贵。此外，由于新闻的动态性质，注释样本可能会很快过时，不能代表新出现的事件的新闻文章。因此，如何获得新鲜、高质量的标记样本是利用深度学习模型进行假新闻检测的主要挑战。为了应对这一挑战，我们提出了一个加强的弱监督假新闻检测框架，即，WeFEND，它可以利用用户的报告作为弱监管，以扩大用于假新闻检测的训练数据量。该框架由三个主要部分组成：注释器，增强选择器和假新闻检测器。注释器可以根据用户的报告自动为未标记的新闻分配弱标签。使用强化学习技术的强化选择器从弱标记数据中选择高质量的样本，并过滤掉那些可能降低检测器预测性能的低质量样本。假新闻检测器旨在根据新闻内容识别假新闻。我们在通过微信公众号发布的大量新闻文章和相关用户报告上测试了所提出的框架。在该数据集上的大量实验表明，与最先进的方法相比，所提出的WeFEND模型实现了最佳性能。
2020-01-20 cs.CL cs.LG cs.SI
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University（佛罗里达州立大学）
假新闻的病毒式传播造成了巨大的社会危害，使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息，通过学习提取的新闻内容或写作风格的内部知识。然而，故意的谣言可以掩盖写作风格，绕过语言模型，并使简单的基于文本的模型无效。事实上，新闻文章和其他相关组件（如新闻创作者和新闻主题）可以建模为异构信息网络（简称HIN）。本文提出了一种新的虚假新闻检测框架--层次图注意力网络（HGAT），该框架利用层次注意力机制对HIN中的节点进行表示学习，然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明，HGAT可以优于基于文本的模型和其他基于网络的模型。此外，实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
Each Fake News is Fake in its Own Way: An Attribution Multi-Granularity Benchmark for Multimodal Fake News Detection
Nation University of Defence Technology（国防科技大学）；Xi’an Jiaotong University（西安交通大学）
针对现有数据集仅提供真假二元标签且无法反映多模态假新闻混合本质的问题，构建了归因多粒度数据集\amg并提出多粒度线索对齐模型\our，实现了假新闻检测与归因，为未来研究开辟了新途径。
2024-12-19 cs.AI cs.CL
MALCOM: Generating Malicious Comments to Attack Neural Fake News Detection Models
The Pennsylvania State University（宾夕法尼亚州立大学）
近年来，所谓的“假新闻”泛滥，对社会造成了很大的干扰，削弱了新闻生态系统。因此，为了缓解这些问题，研究人员开发了最先进的模型，使用复杂的数据科学和机器学习技术自动检测社交媒体上的假新闻。在这项工作中，那么，我们问“如果对手试图攻击这样的检测模型？“并通过以下方式调查相关问题：（i）提出一种针对假新闻检测器的新型威胁模型，其中对手可以对新闻文章发布恶意评论以误导假新闻检测器，以及（ii）开发MALCOM，一种端到端的对抗性评论生成框架以实现这种攻击。通过综合评估，我们证明了平均约94%和93.5%的时间MALCOM可以成功地误导五个最新的神经检测模型，以始终输出有针对性的真实和虚假新闻标签。此外，MALCOM还可以欺骗黑盒假新闻检测器，平均90%的时间总是输出真实的新闻标签。我们还将我们的攻击模型与两个真实世界数据集的四个基线进行了比较，不仅在攻击性能上，而且在生成的质量，一致性，可转移性和鲁棒性上。
2020-09-27 cs.CL cs.LG stat.ML
Fake News Detection with Different Models
这篇论文旨在探索各种不同的模型，旨在开发假新闻检测模型，我们使用了某些机器学习算法，并使用了TFIDF和CV和W2V等预训练算法作为处理文本数据的特征。
2020-02-15 cs.CL cs.LG stat.ML
Credibility-based Fake News Detection
Syracuse University（雪城大学）
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中，我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据，我们发现新闻来源（和作者）的信息可以成为可信度的一个强有力的指标。我们的研究结果表明，作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法，其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University（大阪大学产业科学研究所）；NARA Institute of Science and Technology（奈良先端科学技术大学院大学）
假新闻引发了许多社会问题;因此，人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而，仅从这一方面不足以解释“假新闻”，这是一个复杂的现象，涉及面很广。要充分认识每一个假新闻的本质，重要的是要从多个角度来观察它，如假新闻传播者的意图，新闻对我们社会的危害性，以及新闻的目标。我们基于对现有假新闻数据集的详细调查，提出了一种具有细粒度标签的新注释方案，以捕获假新闻的各个方面。使用注释方案，我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Automatic Detection of Fake News
University of Michigan（密歇根大学）；University of Amsterdam（阿姆斯特丹大学）
误导性信息在社交媒体、新闻博客和在线报纸等日常访问媒体渠道中的扩散，使得识别值得信赖的新闻来源变得具有挑战性，从而增加了对能够提供对在线内容可靠性的见解的计算工具的需求。本文主要研究网络新闻中虚假内容的自动识别问题。我们的贡献是双重的。首先，我们介绍了两个用于假新闻检测任务的新数据集，涵盖了七个不同的新闻领域。我们详细描述了收集，注释和验证过程，并提出了几个探索性的分析，在虚假和合法的新闻内容的语言差异的识别。其次，我们进行了一系列学习实验，以构建准确的假新闻检测器。此外，我们提供了自动和人工识别假新闻的比较分析。
2017-08-23 cs.CL
Lexicon generation for detecting fake news
Hacettepe University（哈杰泰佩大学）
随着媒体数字化，包括主流媒体以及社交网络在内的在线来源产生了大量新闻数据。然而，制作和传播的便利导致了假新闻以及可信的真实新闻的传播。假新闻的广泛传播对个人和社会产生了极大的负面影响。因此，假新闻检测最近成为一个新兴的课题，作为一个跨学科的研究领域，吸引了许多研究学科的极大关注，包括社会科学和语言学。在这项研究中，我们提出了一种主要基于词汇的方法，包括一个评分系统，以促进土耳其假新闻的检测。我们通过收集一个新颖的，大规模的，可信的土耳其新闻数据集，并通过构建土耳其的第一个假新闻检测词典来为文献做出贡献。
2020-10-16 cs.CL
Neural Abstractive Text Summarization and Fake News Detection
Stanford University（斯坦福大学）
在这项工作中，我们研究抽象的文本摘要，探索不同的模型，如LSTM编码器解码器与注意，指针生成器网络，覆盖机制，和Transformers。经过广泛和仔细的超参数调整，我们比较了所提出的架构对彼此的抽象文本摘要任务。最后，作为我们工作的延伸，我们将我们的文本摘要模型作为假新闻检测任务的特征提取器，在该任务中，将对分类之前的新闻文章进行总结，并将结果与仅使用原始新闻文本的分类进行比较。关键词：LSTM，编码器-解码器，抽象文本摘要，指针生成器，覆盖机制，Transformers，假新闻检测
2019-12-12 cs.CL cs.LG stat.ML
Generalizing to the Future: Mitigating Entity Bias in Fake News Detection
University of Chinese Academy of Sciences（中国科学院大学）；Beihang University（北京航空航天大学）
假新闻的广泛传播对个人和社会的威胁越来越大。假新闻检测的目的是在过去的新闻上训练一个模型，并检测未来的假新闻。现有的假新闻检测方法虽然做了大量的努力，但忽略了真实世界数据中的非预期实体偏差，严重影响了模型对未来数据的泛化能力。例如，2010-2017年包含实体“唐纳德特朗普”的新闻中有97%在我们的数据中是真实的，但这一比例在2018年下降到只有33%。这将导致在前一组上训练的模型很难推广到后者，因为它倾向于预测关于“唐纳德特朗普”的新闻片段是真实的，以降低训练损失。在本文中，我们提出了一个实体去偏框架（\textbf{ENDEF}），通过从因果角度减轻实体偏见，将假新闻检测模型推广到未来的数据。基于实体、新闻内容和新闻真实性之间的因果关系图，我们在训练过程中分别对每个原因（实体和内容）的贡献进行建模。在推理阶段，我们去除了实体的直接影响，以减轻实体偏见。在英文和中文数据集上的大量离线实验表明，该框架可以大大提高基本假新闻检测器的性能，在线测试验证了其在实践中的优越性。据我们所知，这是第一项明确提高假新闻检测模型对未来数据的泛化能力的工作。该代码已在https://github.com/ICTMCG/ENDEF-SIGIR2022上发布。
2022-04-20 cs.AI cs.CL cs.LG
Explainable Tsetlin Machine framework for fake news detection with credibility score assessment
University of Agder（阿格德大学）
假新闻的扩散，即，新闻故意传播错误信息，对个人和社会构成威胁。尽管有各种事实核查网站，如PolitiFact，但仍需要强大的检测技术来应对假新闻的增加。几个深度学习模型在假新闻分类方面显示出了很好的效果，然而，它们的黑盒性质使得很难解释它们的分类决策和保证模型的质量。我们在这里解决这个问题，提出了一个新的可解释的假新闻检测框架的基础上，最近推出的Tsetlin机（TM）。简而言之，我们利用TM的连接子句来捕获真实和虚假新闻文本的词汇和语义属性。此外，我们使用子句集合来计算假新闻的可信度。为了进行评估，我们在两个公开的数据集PolitiFact和GossipCop上进行了实验，并证明TM框架在准确性方面明显优于先前发布的基线至少$5\%$，并具有可解释的基于逻辑的表示的额外好处。此外，我们的方法提供了比BERT和XLNet更高的F1分数，但是，我们获得的准确性略低。最后，我们提出了一个案例研究我们的模型的可解释性，展示了它如何分解成有意义的词和他们的否定。
2021-05-19 cs.AI cs.CL cs.LG
How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
Technische Universität Berlin（柏林工业大学）
随着近年来互联网上虚假信息的传播急剧增加，越来越多的人关注自动化的假新闻检测。一些虚假新闻检测方法已经相当成功。然而，在检测算法中仍然存在许多漏洞。其原因是，假新闻发布者可以以检测算法不会将此文本暴露为假新闻的方式构建和制定其文本。这篇论文表明，有可能自动攻击经过训练以检测假新闻的最先进模型，使这些模型变得脆弱。为此，首先基于数据集训练相应的模型。然后，使用Text-Attack，尝试以这样的方式操纵训练模型，即先前正确识别的假新闻被归类为真新闻。结果表明，有可能自动绕过假新闻检测机制，从而对现有政策举措产生影响。
2021-07-16 cs.CL
Multi-view autoencoders for Fake News Detection
Centro de Informática Universidade Federal de Pernambuco（计算机中心 巴西佩纳布卢克联邦大学）；École de technologie supérieure Université du Québec（高等技术学院魁北克大学）
本文提出使用多视图自编码器整合多种特征提取技术生成联合特征表示，用于假新闻检测，实验证明该方法显著提升了分类性能，且选择视图子集在准确率和计算量上更具优势。
2025-04-10 cs.AI cs.CL cs.LG
Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
FakeFlow: Fake News Detection by Modeling the Flow of Affective Information
Universitat Politècnica de València（瓦伦西亚理工大学）；University of Mannheim（曼海姆大学）；Symanto Research（Symanto研究公司）
假新闻往往通过煽情的方式来引起读者的注意。与短篇新闻不同，长文的作者可以利用这些情感因素来操纵读者，通过添加夸张或虚构事件来影响读者的情绪。为了抓住这一点，我们在本文中提出使用神经架构对假新闻文章中的情感信息流进行建模。所提出的模型FakeFlow通过结合从文本中提取的主题和情感信息来学习该流。我们评估了模型的性能与四个真实世界的数据集上的几个实验。结果表明，与最先进的方法相比，FakeFlow取得了更好的结果，从而证实了捕捉新闻文章中情感信息流的重要性。
2021-01-24 cs.CL
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame（圣母大学）
近年来，由于在线社交网络的蓬勃发展，检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在，采用倾向分数匹配（PSM）方法选择可泛化特征，以减少混杂变量的影响。实验结果表明，使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法（分类器），如逻辑回归，随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
Debunking Fake News One Feature at a Time
New York University（纽约大学）
识别新闻文章主体相对于某个标题的立场是自动化虚假新闻检测的第一步。在本文中，我们介绍了一个2阶段的集成模型来解决的立场检测任务。通过仅使用手工制作的特征作为梯度提升分类器的输入，我们能够在官方假新闻挑战（第1阶段）数据集上获得11651.25分中的9161.5分（78.63%）。我们确定了用于检测假新闻的最有用的特征，并讨论了如何使用采样技术来提高高度不平衡数据集的召回准确率。
2018-08-08 cs.CL
Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks
National University of Singapore（新加坡国立大学）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
针对LLM风格攻击导致的假新闻检测脆弱性（F1下降38%），提出SheepDog检测器，通过风格多样性训练、风格无关方案和内容归因，在三个基准上实现风格鲁棒检测。
2024-08-20 cs.CL
Fake News and Hate Speech: Language in Common
Universitat de València（瓦伦西亚大学）
在本文中，我们提出了一个研究问题，即假新闻和仇恨言论传播者在语言上是否有共同的模式。我们计算了一个新的指数，内组与外组指数，在三个不同的数据集，我们表明，这两种现象共享一个“我们与他们”的叙述。
2022-12-05 cs.CL
Fake News Detection Using Majority Voting Technique
R.C. Patel Institute of Technology（R.C.帕特尔理工学院）
由于网络和社交网络平台的发展，传播信息变得非常容易。人们正在创造和分享比以往任何时候都多的信息，这些信息可能是误导性的、错误的或虚假的信息。由于可用信息的非结构化性质，虚假新闻检测是一项至关重要且具有挑战性的任务。近年来，研究人员为解决假新闻检测问题提供了重要的解决方案，但由于其性质，仍然存在许多悬而未决的问题。在本文中，我们提出了多数投票的方法来检测假新闻文章。我们使用了假新闻和真新闻的不同文本属性。我们使用了公开的假新闻数据集，包括20，800篇新闻文章，其中10，387篇是真实的，10，413篇是标记为二进制0和1的假新闻。为了评估我们的方法，我们使用了常用的机器学习分类器，如决策树，逻辑回归，XGBoost，随机森林，额外树，AdaBoost，SVM，SGD和朴素贝叶斯。使用上述分类器，我们建立了一个多模型的假新闻检测系统，使用多数投票技术，以达到更准确的结果。实验结果表明，该方法的准确率为96.38%，精确率为96%，召回率为96%，F1-measure为96%。评价结果表明，多数投票技术取得了更令人满意的结果相比，个别学习技术。
2022-03-27 cs.CL
SAFE: Similarity-Aware Multi-Modal Fake News Detection
Syracuse University（雪城大学）
有效检测假新闻最近引起了极大的关注。目前的研究在预测假新闻方面做出了重大贡献，但较少关注利用新闻文章中文本和视觉信息之间的关系（相似性）。重视这种相似性有助于识别假新闻故事，例如，试图使用不相关的图像来吸引读者的注意力。在这项工作中，我们提出了一个$\mathsf{S}$ imilarity- $\mathsf{A}$ ware $\mathsf{F}$ ak $\mathsf{E}$新闻检测方法（$\mathsf{SAFE}$），调查多模态（文本和视觉）信息的新闻文章。首先，采用神经网络分别提取新闻文本和视觉特征。我们进一步研究跨模态提取的特征之间的关系。新闻文本和视觉信息的这种表示及其关系被联合学习并用于预测假新闻。提出的方法有助于识别虚假的新闻文章的基础上，他们的文字，图像，或他们的“不匹配”。“我们对大规模的真实数据进行了广泛的实验，证明了所提出的方法的有效性。
2020-02-19 cs.CL cs.CV cs.LG
Connecting the Dots Between Fact Verification and Fake News Detection
Beihang University（北京航空航天大学）
事实验证模型在过去的两年中取得了快速的发展，随着BERT等预训练语言模型的发展和FEVER等大规模数据集的发布。然而，假新闻检测的挑战性问题并没有受益于事实验证模型的改进，这与假新闻检测密切相关。在本文中，我们提出了一种简单而有效的方法来连接事实验证和假新闻检测之间的点。我们的方法首先采用了一个文本摘要模型预先训练的新闻语料库，总结成一个简短的声明长新闻文章。然后，我们使用在FEVER数据集上预先训练的事实验证模型来检测输入的新闻文章是真的还是假的。我们的方法利用了最近成功的事实验证模型，并实现了zero-shot假新闻检测，减轻了大规模训练数据训练假新闻检测模型的需求。在FakenewsNet上的实验结果证明了该方法的有效性。
2020-10-11 cs.AI cs.CL
Multimodal Fake News Detection
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
在过去的几年里，假新闻出现了前所未有的泛滥。因此，我们更容易受到错误信息和虚假信息传播在我们社会不同阶层可能产生的有害影响。因此，虚假新闻自动检测工具的开发在预防其负面影响方面发挥着重要作用。大多数检测和分类虚假内容的尝试只关注使用文本信息。多模态方法不太常见，它们通常将新闻分类为真或假。在这项工作中，我们使用单峰和多峰方法对Fakeddit数据集上的假新闻进行细粒度分类。我们的实验表明，基于卷积神经网络（CNN）架构结合文本和图像数据的多模态方法达到了最佳效果，准确率为87%。一些假新闻类别，如操纵内容，讽刺或虚假联系，从图像的使用中受益匪浅。使用图像也可以改善其他类别的结果，但影响较小。关于仅使用文本的单模方法，来自Transformers的双向编码器表示（BERT）是最好的模型，准确度为78%。因此，同时利用文本和图像数据可以显著提高假新闻检测的性能。
2021-12-09 cs.CL
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Arabic Fake News Detection Based on Deep Contextualized Embedding Models
University of Sharjah（沙迦大学）；Western University（韦仕敦大学）
社交媒体正成为许多人的新闻来源，因为它的易用性和使用自由。因此，假新闻无论其可信度如何，都在迅速而轻松地传播，特别是在过去十年中。假新闻出版商利用新冠肺炎疫情和美国总统选举等关键情况对社会产生负面影响。假新闻可以严重影响社会的许多领域，包括政治，金融，体育等，许多研究已经进行，以帮助检测假新闻的英语，但研究进行的假新闻检测在阿拉伯语是稀缺的。我们的贡献是双重的：首先，我们构建了一个庞大而多样化的阿拉伯语假新闻数据集。其次，我们开发并评估了基于transformer的分类器，以识别假新闻，同时利用八种最先进的阿拉伯语上下文嵌入模型。这些模型中的大多数以前都没有用于阿拉伯语假新闻检测。我们对最先进的阿拉伯语语境化嵌入模型进行了全面分析，并与类似的假新闻检测系统进行了比较。实验结果证实，这些国家的最先进的模型是强大的，准确率超过98%。
2022-05-06 cs.AI cs.CL
Localization of Fake News Detection via Multitask Transfer Learning
De La Salle University（德拉萨尔大学）；Center for Language Technologies (CeLT)（语言技术中心）
利用互联网作为传播假新闻的快速媒介，加强了对打击假新闻的计算工具的需求。存在训练假新闻分类器的技术，但它们都需要大量资源，包括大型标记数据集和专家策划的语料库，这些资源低的语言可能不具备。在这项工作中，我们做出了两个主要贡献：首先，我们通过构建第一个专业策划的菲律宾假新闻检测基准数据集来缓解资源短缺，我们称之为“菲律宾假新闻”。其次，我们对迁移学习（TL）技术进行了基准测试，并表明它们可以用于从少量数据中训练强大的假新闻分类器，在我们的假新闻数据集上实现了91%的准确率，与已建立的Few-Shot基线相比，将误差减少了14%。此外，提升多任务学习的想法，我们表明，增强基于transformer的传输技术与辅助语言建模损失，通过适应写作风格提高了他们的性能。使用这个，我们将TL性能提高了4- 6%，在我们最好的模型上实现了96%的准确度。最后，我们证明了我们的方法可以很好地推广到不同类型的新闻文章，包括政治新闻，娱乐新闻和评论文章。
2020-05-15 cs.CL
An Emotion-guided Approach to Domain Adaptive Fake News Detection using Adversarial Learning
Biometric Research Laboratory, Delhi Technological University（德里理工大学）；School of Computer Science, FEIT, University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情绪作为提高性能的特征是有效的。然而，情感引导特征对虚假新闻检测的跨领域影响仍然是一个悬而未决的问题。在这项工作中，我们提出了一种用于跨域假新闻检测的情感引导，域自适应，多任务方法，证明了情感引导模型在各种数据集的跨域设置中的有效性。
2022-11-26 cs.CL
Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Columbia University（哥伦比亚大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Washington（华盛顿大学）；AI2（艾伦人工智能研究所）
针对机器生成与人类撰写假新闻间的风格与意图差异，提出基于自然语言推理引导的自批判序列训练框架，结合宣传技巧生成训练数据集 PropaNews，使假新闻检测器在公开数据集上检测人类虚假信息的 F1 分数提升 3.62% - 7.69%。
2023-05-15 cs.CL
COVID-19 Fake News Detection Using Bidirectional Encoder Representations from Transformers Based Models
如今，社交媒体的发展使人们可以轻松地获取最新消息。在COVID-19大流行期间，人们获取新闻非常重要，以便他们能够采取相应的保护措施。然而，假新闻泛滥，特别是在全球大流行的情况下，这是一个严重的问题。误导性的假新闻会给个人和社会造成重大损失。COVID-19假新闻检测已成为NLP领域的一项新颖而重要的任务。然而，假新闻总是包含正确的部分和不正确的部分。这一事实增加了分类任务的难度。在本文中，我们微调预训练的双向编码器表示从Transformers（BERT）模型作为我们的基础模型。我们分别在具有冻结参数或未冻结参数方法的微调BERT模型顶部添加BiLSTM层和CNN层。模型性能评估结果表明，我们的最佳模型（BERT微调模型，冻结参数加上BiLSTM层）在COVID-19假新闻检测任务中取得了最先进的结果。我们还探讨了使用我们最好的模型的关键字评估方法，并评估模型的性能后，删除关键字。
2021-10-01 cs.CL
Multimodal Fusion with BERT and Attention Mechanism for Fake News Detection
Toyo University（东洋大学）；Aimesoft JSC（艾美软件股份公司）
假新闻检测是提高媒体信息可信度的一项重要任务，因为假新闻每天都在社交媒体上不断传播，这是我们社会中非常严重的问题。假新闻通常是通过操纵图像，文本和视频来创建的。在本文中，我们提出了一种新的方法来检测假新闻融合来自文本和视觉数据的多模态特征。具体来说，我们使用预训练的BERT模型来学习文本特征，并使用在ImageNet数据集上预训练的VGG-19模型来提取图像特征。我们提出了一个尺度点积注意力机制来捕捉文本特征和视觉特征之间的关系。实验结果表明，我们的方法在公共Twitter数据集上的准确率比当前最先进的方法高3.1%。
2021-04-27 cs.CL
TUDublin team at Constraint@AAAI2021 -- COVID19 Fake News Detection
Technological University Dublin（都柏林理工大学）
本文专门介绍了TUDublin团队参与约束@AAAI2021-COVID 19假新闻检测挑战赛的情况。今天，与大流行病有关的假新闻检测问题比以往任何时候都更加严重。假新闻的数量正在迅速增加，有必要创建人工智能工具，使我们能够紧急识别和防止有关COVID-19的虚假信息的传播。这项工作的主要目标是创建一个模型，在COVID-19的背景下，将社交媒体上的消息进行二进制分类，分为真实新闻和虚假新闻。我们的团队构建了由双向长短期记忆、支持向量机、Logistic回归、朴素贝叶斯以及Logistic回归和朴素贝叶斯的组合组成的集成。该模型使我们能够实现0.94 F1分数，这是最好的结果的5%以内。
2021-01-14 cs.CL
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Emotion-guided Cross-domain Fake News Detection using Adversarial Domain Adaptation
Delhi Technological University（德里理工大学）；University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情感作为特征或基于情感的特征可以提高性能。然而，这些情感引导的特征在跨领域设置中对假新闻检测的影响，我们面临着领域转移的问题，在很大程度上仍然没有被探索。在这项工作中，我们评估了情感引导特征对跨领域假新闻检测的影响，并进一步提出了一种使用对抗性学习的情感引导、领域自适应方法。我们证明了情感引导模型在跨域设置中的有效性，这些模型适用于FakeNewsAMT，Celeb，Politifact和Gossipcop数据集的源和目标数据集的各种组合。
2022-11-24 cs.CL
Entity-Aware Dual Co-Attention Network for Fake News Detection
National Taiwan University（台湾大学）；AIST（日本产业技术综合研究所）；Academia Sinica（中央研究院）
假新闻和错误信息在互联网上迅速传播。如何识别它，如何解释识别结果成为重要的问题。在本文中，我们提出了一种用于假新闻检测的双重共同注意力网络（Dual-CAN），它将新闻内容，社交媒体回复和外部知识考虑在内。我们的实验结果支持，建议双CAN优于目前的代表性模型在两个基准数据集。我们进一步做了深入的讨论，通过比较模型如何在两个数据集的注意力权重的实证分析。
2023-02-07 cs.CL
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
Similarity-Aware Multimodal Prompt Learning for Fake News Detection
Qingdao University of Science and Technology（青岛科技大学）；University of Sheffield（谢菲尔德大学）
本文提出相似性感知的多模态提示学习框架（SAMPLE），通过提示学习与相似性感知融合，减少噪声并高效检测虚假新闻，在两个基准数据集上超越现有方法。
2023-06-16 cs.CL
Many Ways to Be Fake: Benchmarking Fake News Detection Under Strategy-Driven AI Generation
Pennsylvania State University（宾夕法尼亚州立大学）
本文提出MANYFAKE基准，通过多种策略驱动的提示管道生成6798篇虚假新闻文章，评估了先进检测器在处理混合真相案例时的性能。
2026-04-10 cs.CL cs.HC
An Adversarial Benchmark for Fake News Detection Models
Yale University（耶鲁大学）
随着在线错误信息的扩散，假新闻检测在人工智能社区中变得越来越重要。在本文中，我们提出了一个对抗性基准，测试假新闻检测器对现实世界事实进行推理的能力。我们制定了对抗攻击，目标是三个方面的“理解”：组成语义，词汇关系，修饰语的敏感性。我们使用在LIAR arXiv：arch-ive/1705648和Kaggle Fake-News数据集上微调的BERT分类器来测试我们的基准，并表明这两个模型都无法对成分和词汇意义的变化做出响应。我们的研究结果加强了这种模型与其他事实检查方法结合使用的必要性。
2022-01-03 cs.CL
A Heuristic-driven Uncertainty based Ensemble Framework for Fake News Detection in Tweets and News Articles
Razorthink Inc（Razorthink 公司）；IIT Madras（印度理工学院马德拉斯分校）
在过去的几十年里，社交媒体的重要性增加了许多倍，因为它可以帮助来自世界上最偏远角落的人们保持联系。随着技术的出现，数字媒体变得比以往任何时候都更加相关和广泛使用，与此同时，需要立即关注的假新闻和推文的传播死灰复燃。在本文中，我们描述了一种新型的假新闻检测系统，该系统可以自动识别新闻项目是“真”还是“假”，作为我们在CONSTRAINT COVID-19 Fake News Detection in English challenge中工作的扩展。我们使用了一个集成模型，该模型由预训练模型和统计特征融合网络组成，以及一种新的启发式算法，该算法通过将新闻项或推文中存在的各种属性（如来源，用户名句柄，URL域和作者）作为统计特征。我们提出的框架还量化了可靠的预测不确定性以及分类任务的适当类输出置信水平。我们已经在COVID-19 Fake News数据集和FakeNewsNet数据集上评估了我们的结果，以显示所提出的算法在检测短新闻内容以及新闻文章中的假新闻方面的有效性。我们在COVID-19数据集上获得了0.9892的最佳F1分数，在FakeNewsNet数据集上获得了0.9073的F1分数。
2021-12-13 cs.AI cs.CL
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Evaluation of Fake News Detection with Knowledge-Enhanced Language Models
City, University of London（伦敦大学城市学院）
假新闻检测的最新进展利用了大规模预训练语言模型（PLM）的成功。主要的最先进方法是基于对标记的假新闻数据集进行微调的PLM。然而，大型PLM通常没有经过结构化事实数据的训练，因此可能不具备基于事实准确知识的先验知识。因此，利用现有的知识库（KB）和丰富的人工事实信息，有可能使假新闻检测更加有效和强大。在本文中，我们研究了知识集成到PLM中对假新闻检测的影响。我们研究了几种最先进的知识整合方法，主要使用维基数据作为知识库，在两个流行的假新闻数据集上- LIAR，一个基于政治的数据集，以及COVID-19，一个在社交媒体上发布的与COVID-19流行病有关的消息数据集。我们的实验表明，知识增强模型可以显着提高LIAR上的假新闻检测，其中KB是相关的和最新的。COVID-19的好坏参半的结果突出了对文体特征的依赖以及特定领域和当前知识库的重要性。
2023-02-13 cs.CL
Mining Dual Emotion for Fake News Detection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Renmin University of China（中国人民大学）；Illinois Institute of Technology（伊利诺伊理工学院）
情绪在检测网上假新闻方面起着重要作用。当利用情感信号时，现有方法集中于利用由发布者传达的新闻内容的情感（即，出版商情绪）。然而，假新闻往往会引起人们的高度觉醒或激活情绪，因此新闻评论在人群中引起的情绪（即，社会情绪）不应被忽视。此外，出版者情感和社会情感之间是否存在关系（即，双重情绪），以及双重情绪如何出现在假新闻中。本文验证了虚假新闻与真实新闻的双重情感特征，并提出了双重情感特征来表征虚假新闻的双重情感特征及其相互关系。此外，我们还展示了我们提出的功能可以很容易地插入到现有的假新闻检测器中作为增强。在三个真实世界数据集（一个英文数据集和另一个中文数据集）上的大量实验表明，我们提出的特征集：1）优于最先进的任务相关情感特征; 2）可以与现有的假新闻检测器很好地兼容，有效地提高检测假新闻的性能。
2021-02-14 cs.CL cs.CY
Blessing or curse? A survey on the Impact of Generative AI on Fake News
Microsoft（微软公司）；Frankfurt University of Applied Sciences（法兰克福应用科学大学）；IMT Atlantique（法国大西洋高等矿业电信学院）
本文综述生成式AI在假新闻生成与检测中的双重作用，系统梳理使能技术、生成、社交媒体传播、检测及深度伪造五类研究，并指出当前挑战。
2024-12-27 cs.AI cs.CL
Transformer based Automatic COVID-19 Fake News Detection System
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
Twitter等在线社交网络最近的快速技术进步导致了传播虚假信息和假新闻的巨大趋势。在持续的冠状病毒病（COVID-19）大流行中，错误信息尤其普遍，导致个人接受虚假和潜在有害的索赔和文章。快速发现假新闻可以减少公众恐慌和混乱的传播。就我们在本文中的分析而言，我们报告了一种分析社交媒体上分享的与COVID-19大流行有关的信息可靠性的方法。我们最好的方法是基于三个Transformer模型（BERT，ALBERT和XLNET）的集合来检测假新闻。该模型在约束AI 2021共享任务COVID 19英语假新闻检测的背景下进行了训练和评估。我们的系统在测试集上获得了0.9855的f1分数，在160个团队中排名第5。
2021-01-21 cs.CL
r/Fakeddit: A New Multimodal Benchmark Dataset for Fine-grained Fake News Detection
Laguna Blanca School（拉古纳布兰卡学校）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
假新闻在政治和文化方面以消极的方式改变了社会。它对在线社交网络系统以及离线社区和对话都产生了不利影响。使用自动机器学习分类模型是打击假新闻广泛传播的有效方法。然而，缺乏有效、全面的数据集一直是假新闻研究和检测模型开发的一个问题。以前的假新闻数据集不提供多模态文本和图像数据，元数据，评论数据和细粒度的假新闻分类在我们的数据集的规模和广度。我们介绍了Fakeddit，这是一种新型的多模态数据集，由来自多个类别的假新闻的100多万个样本组成。在经过几个阶段的审查后，通过远程监督，将样本按2向、3向和6向分类类别进行标记。我们构建了混合文本+图像模型，并对多种分类变体进行了广泛的实验，证明了Fakeddit独特的多模态和细粒度分类的新方面的重要性。
2020-03-12 cs.CL cs.CY cs.IR
