A Survey on Natural Language Processing for Fake News Detection
College of Arts and Sciences, The University of Tokyo（东京大学文理学院）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
虚假新闻检测是自然语言处理中的一个关键而又具有挑战性的问题。社交网络平台的迅速崛起不仅极大地提高了信息的可访问性，也加速了假新闻的传播。因此，假新闻的影响越来越大，有时甚至延伸到线下世界，威胁到公共安全。鉴于大量的Web内容，自动虚假新闻检测是一个实用的NLP问题，对所有在线内容提供方都有用，以减少人类检测和防止虚假新闻传播的时间和精力。在本文中，我们描述了假新闻检测所面临的挑战，并描述了相关任务。我们系统地回顾和比较了为这项任务开发的任务公式，数据集和NLP解决方案，并讨论了它们的潜力和局限性。基于我们的见解，我们概述了有前途的研究方向，包括更细粒度，详细，公平和实用的检测模型。我们还强调了假新闻检测和其他相关任务之间的区别，以及NLP解决方案对假新闻检测的重要性。
2020-03-05 cs.AI cs.CL
MegaFake: A Theory-Driven Dataset of Fake News Generated by Large Language Models
The Hong Kong Polytechnic University（香港理工大学）；Harbin Institute of Technology（哈尔滨工业大学）
本文提出MegaFake数据集，通过理论框架指导生成虚假新闻，提升虚假新闻检测的理论和实践能力。
2026-04-11 cs.AI cs.CL
MCFEND: A Multi-source Benchmark Dataset for Chinese Fake News Detection
Hong Kong Baptist University（香港浸会大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Beijing Normal University-Hong Kong Baptist University United International College（北京师范大学-香港浸会大学联合国际学院）；The University of Hong Kong（香港大学）
针对现有中文假新闻检测数据集仅限单一来源导致跨源性能下降的问题，本文构建了首个多源基准数据集MCFEND，并全面评估了现有方法在跨源、多源和未见源场景下的表现。
2024-07-24 cs.AI cs.CL
DEAP-FAKED: Knowledge Graph based Approach for Fake News Detection
Outplay（Outplay公司）；University of Tartu（塔尔图大学）
最近，社交媒体平台上的假新闻吸引了大量关注，主要是与政治（2016年美国总统选举），医疗保健（COVID-19期间的信息流行病）相关的事件，仅举几例。已经提出了各种方法来检测假新闻。这些方法包括利用与网络分析、自然语言处理（NLP）和图神经网络（GNN）的使用相关的技术。在这项工作中，我们提出了DEAP-FAKED，一个用于识别假新闻的知识图谱FAKe nEws检测框架。我们的方法是NLP（我们对新闻内容进行编码）和GNN技术（我们对知识图谱（KG）进行编码）的组合。各种各样的这些编码提供了一个互补的优势，我们的检测器。我们使用两个公开的数据集来评估我们的框架，这些数据集包含来自政治，商业，技术和医疗保健等领域的文章。作为数据集预处理的一部分，我们还消除了偏见，例如文章的来源，这可能会影响模型的性能。DEAP-FAKED在两个数据集上获得了88%和78%的F1分数，分别提高了21%和3%，这表明了该方法的有效性。
2022-11-25 cs.AI cs.CL
Development of Fake News Model using Machine Learning through Natural Language Processing
University of Camerino（卡梅里诺大学）
假新闻检测研究仍处于早期阶段，因为这是一个相对较新的现象，引起了社会的兴趣。机器学习有助于解决复杂的问题，并在当今构建人工智能系统，特别是在我们拥有隐性知识或未知知识的情况下。我们使用了机器学习算法来识别假新闻;我们应用了三种分类器：被动攻击、朴素贝叶斯和支持向量机。简单的分类在假新闻检测中并不完全正确，因为分类方法并不是专门针对假新闻的。随着机器学习和基于文本的处理的集成，我们可以检测假新闻并构建分类器，可以对新闻数据进行分类。文本分类主要是提取文本的各种特征，然后将这些特征结合到分类中。这一领域面临的最大挑战是，由于语料库的不可用，缺乏一种有效的方法来区分假冒和非假冒。我们在两个公开的数据集上应用了三种不同的机器学习分类器。基于现有数据集的实验分析表明，一个非常令人鼓舞的和改进的性能。
2022-01-19 cs.AI cs.CL
Out-of-distribution Evidence-aware Fake News Detection via Dual Adversarial Debiasing
Institute of Automation, Chinese Academy of Sciences (CASIA)（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对证据感知假新闻检测模型存在内容偏差、难以泛化到分布外场景的问题，提出即插即用的双对抗学习方法，通过双向去偏判别器减轻偏差，在多种骨干网络和OOD设置下均取得更优性能。
2024-04-15 cs.AI cs.CL
From Deception to Detection: The Dual Roles of Large Language Models in Fake News
University of Montreal（蒙特利尔大学）
本文探讨了大型语言模型（LLMs）在假新闻中的双重角色，分析了七个模型生成带偏见假新闻的能力及检测假新闻的表现，发现部分模型能轻易生成假新闻且更难被检测，而大模型检测能力更强，且LLM生成的解释有助于用户识别假新闻。
2024-09-25 cs.AI cs.CL
Adversarial Style Augmentation via Large Language Model for Robust Fake News Detection
KAIST（韩国科学技术院）；Microsoft Research Asia（微软亚洲研究院）；MPI-SP（马克斯·普朗克软件系统研究所）
针对风格转换攻击导致假新闻检测鲁棒性不足的问题，提出AdStyle对抗式风格增强方法，通过LLM生成多样且具挑战性的风格转换攻击提示训练检测器，显著提升其在基准数据集上的鲁棒性与检测性能。
2025-04-18 cs.AI cs.CL
Fake News Detectors are Biased against Texts Generated by Large Language Models
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Monash University（莫纳什大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61部门）
本文发现现有假新闻检测器对LLM生成内容存在系统性偏见，并提出基于LLM改写真实新闻的对抗训练方法以提升检测准确率，同时发布GossipCop++和PolitiFact++两个综合数据集。
2023-09-15 cs.AI cs.CL
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University（雪城大学）
假新闻的爆炸性增长及其对民主，正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估：（1）它所携带的虚假知识，（2）它的写作风格，（3）它的传播模式，以及（4）它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是，我们确定并详细说明了各个学科的相关基础理论，以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作，研究假新闻，这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS（中国科学院智能信息处理重点实验室，中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）
假新闻在各个领域的社交媒体上广泛传播，导致政治，灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测（SFND），这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域，多领域虚假新闻检测（MFND）越来越受到关注。然而，数据分布，如词频和传播模式，从域到域，即域移位。面对严重领域转移的挑战，现有的假新闻检测技术在多领域场景中表现不佳。因此，设计一种专门的MFND模型是非常必要的。在本文中，我们首先为MFND设计了一个带有域标签的假新闻数据集基准，即微博21，它由来自9个不同领域的4，488条假新闻和4，640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型（MDFEND），利用域门聚合由混合专家模型提取的多个表示。实验结果表明，MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
Methods of Informational Trends Analytics and Fake News Detection on Twitter
Ivan Franko National University of Lviv（利沃夫伊万·弗兰科国立大学）
在本文中，不同的方法来分析Twitter上的新闻趋势被认为是。对于分析和案例研究，研究了2022年俄罗斯入侵乌克兰造成的Twitter上的信息趋势。分析了一种用于虚假新闻检测的深度学习方法。利用频繁项集理论和关联规则、图论对新闻动态进行了分析。
2022-04-11 cs.AI cs.CL cs.SI
Credibility-based Fake News Detection
Syracuse University（雪城大学）
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中，我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据，我们发现新闻来源（和作者）的信息可以成为可信度的一个强有力的指标。我们的研究结果表明，作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法，其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University（大阪大学产业科学研究所）；NARA Institute of Science and Technology（奈良先端科学技术大学院大学）
假新闻引发了许多社会问题;因此，人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而，仅从这一方面不足以解释“假新闻”，这是一个复杂的现象，涉及面很广。要充分认识每一个假新闻的本质，重要的是要从多个角度来观察它，如假新闻传播者的意图，新闻对我们社会的危害性，以及新闻的目标。我们基于对现有假新闻数据集的详细调查，提出了一种具有细粒度标签的新注释方案，以捕获假新闻的各个方面。使用注释方案，我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Automatic Detection of Fake News
University of Michigan（密歇根大学）；University of Amsterdam（阿姆斯特丹大学）
误导性信息在社交媒体、新闻博客和在线报纸等日常访问媒体渠道中的扩散，使得识别值得信赖的新闻来源变得具有挑战性，从而增加了对能够提供对在线内容可靠性的见解的计算工具的需求。本文主要研究网络新闻中虚假内容的自动识别问题。我们的贡献是双重的。首先，我们介绍了两个用于假新闻检测任务的新数据集，涵盖了七个不同的新闻领域。我们详细描述了收集，注释和验证过程，并提出了几个探索性的分析，在虚假和合法的新闻内容的语言差异的识别。其次，我们进行了一系列学习实验，以构建准确的假新闻检测器。此外，我们提供了自动和人工识别假新闻的比较分析。
2017-08-23 cs.CL
Lexicon generation for detecting fake news
Hacettepe University（哈杰泰佩大学）
随着媒体数字化，包括主流媒体以及社交网络在内的在线来源产生了大量新闻数据。然而，制作和传播的便利导致了假新闻以及可信的真实新闻的传播。假新闻的广泛传播对个人和社会产生了极大的负面影响。因此，假新闻检测最近成为一个新兴的课题，作为一个跨学科的研究领域，吸引了许多研究学科的极大关注，包括社会科学和语言学。在这项研究中，我们提出了一种主要基于词汇的方法，包括一个评分系统，以促进土耳其假新闻的检测。我们通过收集一个新颖的，大规模的，可信的土耳其新闻数据集，并通过构建土耳其的第一个假新闻检测词典来为文献做出贡献。
2020-10-16 cs.CL
Generalizing to the Future: Mitigating Entity Bias in Fake News Detection
University of Chinese Academy of Sciences（中国科学院大学）；Beihang University（北京航空航天大学）
假新闻的广泛传播对个人和社会的威胁越来越大。假新闻检测的目的是在过去的新闻上训练一个模型，并检测未来的假新闻。现有的假新闻检测方法虽然做了大量的努力，但忽略了真实世界数据中的非预期实体偏差，严重影响了模型对未来数据的泛化能力。例如，2010-2017年包含实体“唐纳德特朗普”的新闻中有97%在我们的数据中是真实的，但这一比例在2018年下降到只有33%。这将导致在前一组上训练的模型很难推广到后者，因为它倾向于预测关于“唐纳德特朗普”的新闻片段是真实的，以降低训练损失。在本文中，我们提出了一个实体去偏框架（\textbf{ENDEF}），通过从因果角度减轻实体偏见，将假新闻检测模型推广到未来的数据。基于实体、新闻内容和新闻真实性之间的因果关系图，我们在训练过程中分别对每个原因（实体和内容）的贡献进行建模。在推理阶段，我们去除了实体的直接影响，以减轻实体偏见。在英文和中文数据集上的大量离线实验表明，该框架可以大大提高基本假新闻检测器的性能，在线测试验证了其在实践中的优越性。据我们所知，这是第一项明确提高假新闻检测模型对未来数据的泛化能力的工作。该代码已在https://github.com/ICTMCG/ENDEF-SIGIR2022上发布。
2022-04-20 cs.AI cs.CL cs.LG
Explainable Tsetlin Machine framework for fake news detection with credibility score assessment
University of Agder（阿格德大学）
假新闻的扩散，即，新闻故意传播错误信息，对个人和社会构成威胁。尽管有各种事实核查网站，如PolitiFact，但仍需要强大的检测技术来应对假新闻的增加。几个深度学习模型在假新闻分类方面显示出了很好的效果，然而，它们的黑盒性质使得很难解释它们的分类决策和保证模型的质量。我们在这里解决这个问题，提出了一个新的可解释的假新闻检测框架的基础上，最近推出的Tsetlin机（TM）。简而言之，我们利用TM的连接子句来捕获真实和虚假新闻文本的词汇和语义属性。此外，我们使用子句集合来计算假新闻的可信度。为了进行评估，我们在两个公开的数据集PolitiFact和GossipCop上进行了实验，并证明TM框架在准确性方面明显优于先前发布的基线至少$5\%$，并具有可解释的基于逻辑的表示的额外好处。此外，我们的方法提供了比BERT和XLNet更高的F1分数，但是，我们获得的准确性略低。最后，我们提出了一个案例研究我们的模型的可解释性，展示了它如何分解成有意义的词和他们的否定。
2021-05-19 cs.AI cs.CL cs.LG
How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
Technische Universität Berlin（柏林工业大学）
随着近年来互联网上虚假信息的传播急剧增加，越来越多的人关注自动化的假新闻检测。一些虚假新闻检测方法已经相当成功。然而，在检测算法中仍然存在许多漏洞。其原因是，假新闻发布者可以以检测算法不会将此文本暴露为假新闻的方式构建和制定其文本。这篇论文表明，有可能自动攻击经过训练以检测假新闻的最先进模型，使这些模型变得脆弱。为此，首先基于数据集训练相应的模型。然后，使用Text-Attack，尝试以这样的方式操纵训练模型，即先前正确识别的假新闻被归类为真新闻。结果表明，有可能自动绕过假新闻检测机制，从而对现有政策举措产生影响。
2021-07-16 cs.CL
Multi-view autoencoders for Fake News Detection
Centro de Informática Universidade Federal de Pernambuco（计算机中心 巴西佩纳布卢克联邦大学）；École de technologie supérieure Université du Québec（高等技术学院魁北克大学）
本文提出使用多视图自编码器整合多种特征提取技术生成联合特征表示，用于假新闻检测，实验证明该方法显著提升了分类性能，且选择视图子集在准确率和计算量上更具优势。
2025-04-10 cs.AI cs.CL cs.LG
Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
FakeFlow: Fake News Detection by Modeling the Flow of Affective Information
Universitat Politècnica de València（瓦伦西亚理工大学）；University of Mannheim（曼海姆大学）；Symanto Research（Symanto研究公司）
假新闻往往通过煽情的方式来引起读者的注意。与短篇新闻不同，长文的作者可以利用这些情感因素来操纵读者，通过添加夸张或虚构事件来影响读者的情绪。为了抓住这一点，我们在本文中提出使用神经架构对假新闻文章中的情感信息流进行建模。所提出的模型FakeFlow通过结合从文本中提取的主题和情感信息来学习该流。我们评估了模型的性能与四个真实世界的数据集上的几个实验。结果表明，与最先进的方法相比，FakeFlow取得了更好的结果，从而证实了捕捉新闻文章中情感信息流的重要性。
2021-01-24 cs.CL
Debunking Fake News One Feature at a Time
New York University（纽约大学）
识别新闻文章主体相对于某个标题的立场是自动化虚假新闻检测的第一步。在本文中，我们介绍了一个2阶段的集成模型来解决的立场检测任务。通过仅使用手工制作的特征作为梯度提升分类器的输入，我们能够在官方假新闻挑战（第1阶段）数据集上获得11651.25分中的9161.5分（78.63%）。我们确定了用于检测假新闻的最有用的特征，并讨论了如何使用采样技术来提高高度不平衡数据集的召回准确率。
2018-08-08 cs.CL
Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology（奈良先端科学技术大学）
假新闻的迅速增加对社会造成了重大损害，引发了许多与假新闻相关的研究，包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集：（1）假新闻检测，（2）事实验证，（3）其他任务;例如，假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后，我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究，从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks
National University of Singapore（新加坡国立大学）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
针对LLM风格攻击导致的假新闻检测脆弱性（F1下降38%），提出SheepDog检测器，通过风格多样性训练、风格无关方案和内容归因，在三个基准上实现风格鲁棒检测。
2024-08-20 cs.CL
Fake News and Hate Speech: Language in Common
Universitat de València（瓦伦西亚大学）
在本文中，我们提出了一个研究问题，即假新闻和仇恨言论传播者在语言上是否有共同的模式。我们计算了一个新的指数，内组与外组指数，在三个不同的数据集，我们表明，这两种现象共享一个“我们与他们”的叙述。
2022-12-05 cs.CL
Fake News Detection Using Majority Voting Technique
R.C. Patel Institute of Technology（R.C.帕特尔理工学院）
由于网络和社交网络平台的发展，传播信息变得非常容易。人们正在创造和分享比以往任何时候都多的信息，这些信息可能是误导性的、错误的或虚假的信息。由于可用信息的非结构化性质，虚假新闻检测是一项至关重要且具有挑战性的任务。近年来，研究人员为解决假新闻检测问题提供了重要的解决方案，但由于其性质，仍然存在许多悬而未决的问题。在本文中，我们提出了多数投票的方法来检测假新闻文章。我们使用了假新闻和真新闻的不同文本属性。我们使用了公开的假新闻数据集，包括20，800篇新闻文章，其中10，387篇是真实的，10，413篇是标记为二进制0和1的假新闻。为了评估我们的方法，我们使用了常用的机器学习分类器，如决策树，逻辑回归，XGBoost，随机森林，额外树，AdaBoost，SVM，SGD和朴素贝叶斯。使用上述分类器，我们建立了一个多模型的假新闻检测系统，使用多数投票技术，以达到更准确的结果。实验结果表明，该方法的准确率为96.38%，精确率为96%，召回率为96%，F1-measure为96%。评价结果表明，多数投票技术取得了更令人满意的结果相比，个别学习技术。
2022-03-27 cs.CL
Multimodal Fake News Detection
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
在过去的几年里，假新闻出现了前所未有的泛滥。因此，我们更容易受到错误信息和虚假信息传播在我们社会不同阶层可能产生的有害影响。因此，虚假新闻自动检测工具的开发在预防其负面影响方面发挥着重要作用。大多数检测和分类虚假内容的尝试只关注使用文本信息。多模态方法不太常见，它们通常将新闻分类为真或假。在这项工作中，我们使用单峰和多峰方法对Fakeddit数据集上的假新闻进行细粒度分类。我们的实验表明，基于卷积神经网络（CNN）架构结合文本和图像数据的多模态方法达到了最佳效果，准确率为87%。一些假新闻类别，如操纵内容，讽刺或虚假联系，从图像的使用中受益匪浅。使用图像也可以改善其他类别的结果，但影响较小。关于仅使用文本的单模方法，来自Transformers的双向编码器表示（BERT）是最好的模型，准确度为78%。因此，同时利用文本和图像数据可以显著提高假新闻检测的性能。
2021-12-09 cs.CL
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Is it Fake? News Disinformation Detection on South African News Websites
University of Pretoria（比勒陀利亚大学）
通过假新闻传播的虚假信息是我们社会中一个持续存在的问题，并且很容易通过社交媒体传播。过滤这些大量数据的最具成本和时间效益的方法是使用人工和技术干预相结合来识别它。从技术角度来看，自然语言处理（NLP）被广泛用于检测假新闻。社交媒体公司使用NLP技术来识别假新闻并警告他们的用户，但假新闻仍然可能不被发现。在更地方化的情况下（美利坚合众国以外），这尤其是一个问题。我们如何调整假新闻检测系统，以更好地适应当地环境，例如南非。在这项工作中，我们调查了南非网站上的假新闻检测。我们策划了一个南非假新闻的数据集，然后训练检测模型。我们将此与使用广泛可用的假新闻数据集（主要来自美国网站）进行对比。我们还探索通过组合数据集使其更加多样化，并使用可解释的机器学习观察各国假新闻之间的写作行为差异。
2021-08-09 cs.CL cs.CY cs.LG
Localization of Fake News Detection via Multitask Transfer Learning
De La Salle University（德拉萨尔大学）；Center for Language Technologies (CeLT)（语言技术中心）
利用互联网作为传播假新闻的快速媒介，加强了对打击假新闻的计算工具的需求。存在训练假新闻分类器的技术，但它们都需要大量资源，包括大型标记数据集和专家策划的语料库，这些资源低的语言可能不具备。在这项工作中，我们做出了两个主要贡献：首先，我们通过构建第一个专业策划的菲律宾假新闻检测基准数据集来缓解资源短缺，我们称之为“菲律宾假新闻”。其次，我们对迁移学习（TL）技术进行了基准测试，并表明它们可以用于从少量数据中训练强大的假新闻分类器，在我们的假新闻数据集上实现了91%的准确率，与已建立的Few-Shot基线相比，将误差减少了14%。此外，提升多任务学习的想法，我们表明，增强基于transformer的传输技术与辅助语言建模损失，通过适应写作风格提高了他们的性能。使用这个，我们将TL性能提高了4- 6%，在我们最好的模型上实现了96%的准确度。最后，我们证明了我们的方法可以很好地推广到不同类型的新闻文章，包括政治新闻，娱乐新闻和评论文章。
2020-05-15 cs.CL
An Emotion-guided Approach to Domain Adaptive Fake News Detection using Adversarial Learning
Biometric Research Laboratory, Delhi Technological University（德里理工大学）；School of Computer Science, FEIT, University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情绪作为提高性能的特征是有效的。然而，情感引导特征对虚假新闻检测的跨领域影响仍然是一个悬而未决的问题。在这项工作中，我们提出了一种用于跨域假新闻检测的情感引导，域自适应，多任务方法，证明了情感引导模型在各种数据集的跨域设置中的有效性。
2022-11-26 cs.CL
Embracing Domain Differences in Fake News: Cross-domain Fake News Detection using Multi-modal Data
随着社交媒体的快速发展，假新闻已成为一个重大的社会问题，无法通过人工调查及时解决。这激发了许多关于自动化虚假新闻检测的研究。大多数研究探索了具有不同模式的监督训练模型（例如，文本、图像和传播网络）来识别假新闻。然而，如果新闻记录来自不同的域（例如，政治、娱乐），尤其是在训练过程中看不到或很少看到的领域。作为动机，我们经验表明，来自不同领域的新闻记录有显着不同的词的使用和传播模式。此外，由于大量未标记的新闻记录，选择新闻记录进行手动标记以使标记数据集的域覆盖最大化是具有挑战性的。因此，这项工作：（1）提出了一种新的框架，该框架联合保留新闻记录中的特定领域和跨领域知识，以检测来自不同领域的假新闻;（2）引入了一种无监督技术，以选择一组未标记的信息新闻记录进行手动标记，这最终可以用于训练假新闻检测模型，该模型在许多领域表现良好，同时最小化标记成本。我们的实验表明，所提出的假新闻模型和选择性注释方法的集成实现了跨领域新闻数据集的最新性能，同时对新闻数据集中很少出现的领域产生了显着的改进。
2021-02-24 cs.CL cs.IR cs.LG
Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Columbia University（哥伦比亚大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Washington（华盛顿大学）；AI2（艾伦人工智能研究所）
针对机器生成与人类撰写假新闻间的风格与意图差异，提出基于自然语言推理引导的自批判序列训练框架，结合宣传技巧生成训练数据集 PropaNews，使假新闻检测器在公开数据集上检测人类虚假信息的 F1 分数提升 3.62% - 7.69%。
2023-05-15 cs.CL
COVID-19 Fake News Detection Using Bidirectional Encoder Representations from Transformers Based Models
如今，社交媒体的发展使人们可以轻松地获取最新消息。在COVID-19大流行期间，人们获取新闻非常重要，以便他们能够采取相应的保护措施。然而，假新闻泛滥，特别是在全球大流行的情况下，这是一个严重的问题。误导性的假新闻会给个人和社会造成重大损失。COVID-19假新闻检测已成为NLP领域的一项新颖而重要的任务。然而，假新闻总是包含正确的部分和不正确的部分。这一事实增加了分类任务的难度。在本文中，我们微调预训练的双向编码器表示从Transformers（BERT）模型作为我们的基础模型。我们分别在具有冻结参数或未冻结参数方法的微调BERT模型顶部添加BiLSTM层和CNN层。模型性能评估结果表明，我们的最佳模型（BERT微调模型，冻结参数加上BiLSTM层）在COVID-19假新闻检测任务中取得了最先进的结果。我们还探讨了使用我们最好的模型的关键字评估方法，并评估模型的性能后，删除关键字。
2021-10-01 cs.CL
Multimodal Fusion with BERT and Attention Mechanism for Fake News Detection
Toyo University（东洋大学）；Aimesoft JSC（艾美软件股份公司）
假新闻检测是提高媒体信息可信度的一项重要任务，因为假新闻每天都在社交媒体上不断传播，这是我们社会中非常严重的问题。假新闻通常是通过操纵图像，文本和视频来创建的。在本文中，我们提出了一种新的方法来检测假新闻融合来自文本和视觉数据的多模态特征。具体来说，我们使用预训练的BERT模型来学习文本特征，并使用在ImageNet数据集上预训练的VGG-19模型来提取图像特征。我们提出了一个尺度点积注意力机制来捕捉文本特征和视觉特征之间的关系。实验结果表明，我们的方法在公共Twitter数据集上的准确率比当前最先进的方法高3.1%。
2021-04-27 cs.CL
TUDublin team at Constraint@AAAI2021 -- COVID19 Fake News Detection
Technological University Dublin（都柏林理工大学）
本文专门介绍了TUDublin团队参与约束@AAAI2021-COVID 19假新闻检测挑战赛的情况。今天，与大流行病有关的假新闻检测问题比以往任何时候都更加严重。假新闻的数量正在迅速增加，有必要创建人工智能工具，使我们能够紧急识别和防止有关COVID-19的虚假信息的传播。这项工作的主要目标是创建一个模型，在COVID-19的背景下，将社交媒体上的消息进行二进制分类，分为真实新闻和虚假新闻。我们的团队构建了由双向长短期记忆、支持向量机、Logistic回归、朴素贝叶斯以及Logistic回归和朴素贝叶斯的组合组成的集成。该模型使我们能够实现0.94 F1分数，这是最好的结果的5%以内。
2021-01-14 cs.CL
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Emotion-guided Cross-domain Fake News Detection using Adversarial Domain Adaptation
Delhi Technological University（德里理工大学）；University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情感作为特征或基于情感的特征可以提高性能。然而，这些情感引导的特征在跨领域设置中对假新闻检测的影响，我们面临着领域转移的问题，在很大程度上仍然没有被探索。在这项工作中，我们评估了情感引导特征对跨领域假新闻检测的影响，并进一步提出了一种使用对抗性学习的情感引导、领域自适应方法。我们证明了情感引导模型在跨域设置中的有效性，这些模型适用于FakeNewsAMT，Celeb，Politifact和Gossipcop数据集的源和目标数据集的各种组合。
2022-11-24 cs.CL
Entity-Aware Dual Co-Attention Network for Fake News Detection
National Taiwan University（台湾大学）；AIST（日本产业技术综合研究所）；Academia Sinica（中央研究院）
假新闻和错误信息在互联网上迅速传播。如何识别它，如何解释识别结果成为重要的问题。在本文中，我们提出了一种用于假新闻检测的双重共同注意力网络（Dual-CAN），它将新闻内容，社交媒体回复和外部知识考虑在内。我们的实验结果支持，建议双CAN优于目前的代表性模型在两个基准数据集。我们进一步做了深入的讨论，通过比较模型如何在两个数据集的注意力权重的实证分析。
2023-02-07 cs.CL
Indonesia's Fake News Detection using Transformer Network
Brawijaya University（布拉维贾亚大学）
假新闻是这个时代社会面临的问题。假新闻给民众造成挑衅和困扰的情况并不少见。印度尼西亚作为世界第四大人口国，在处理假新闻方面存在问题。超过30%的农村和城市人口被这种假新闻问题所欺骗。正如我们一直在研究的那样，在印度尼西亚，关于防止假新闻传播的文献很少。因此，本研究旨在预防这些问题。本研究中使用的数据集是从一个识别假新闻的新闻门户网站turnbackhoax.id获得的。在这个页面上使用Web Scrapping，我们得到了1116个由有效新闻和假新闻组成的数据。该数据集可在https://github.com/JibranFawaid/turnbackhoax-dataset上访问。该数据集将与其他可用数据集合并。所使用的方法是CNN、BiLSTM、Hybrid CNN-BiLSTM和带有Transformer网络的BERT。研究结果表明，采用Transformer网络的BERT方法具有最好的结果，准确率高达90%。
2021-07-14 cs.CL cs.LG
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
Similarity-Aware Multimodal Prompt Learning for Fake News Detection
Qingdao University of Science and Technology（青岛科技大学）；University of Sheffield（谢菲尔德大学）
本文提出相似性感知的多模态提示学习框架（SAMPLE），通过提示学习与相似性感知融合，减少噪声并高效检测虚假新闻，在两个基准数据集上超越现有方法。
2023-06-16 cs.CL
Many Ways to Be Fake: Benchmarking Fake News Detection Under Strategy-Driven AI Generation
Pennsylvania State University（宾夕法尼亚州立大学）
本文提出MANYFAKE基准，通过多种策略驱动的提示管道生成6798篇虚假新闻文章，评估了先进检测器在处理混合真相案例时的性能。
2026-04-10 cs.CL cs.HC
An Adversarial Benchmark for Fake News Detection Models
Yale University（耶鲁大学）
随着在线错误信息的扩散，假新闻检测在人工智能社区中变得越来越重要。在本文中，我们提出了一个对抗性基准，测试假新闻检测器对现实世界事实进行推理的能力。我们制定了对抗攻击，目标是三个方面的“理解”：组成语义，词汇关系，修饰语的敏感性。我们使用在LIAR arXiv：arch-ive/1705648和Kaggle Fake-News数据集上微调的BERT分类器来测试我们的基准，并表明这两个模型都无法对成分和词汇意义的变化做出响应。我们的研究结果加强了这种模型与其他事实检查方法结合使用的必要性。
2022-01-03 cs.CL
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Evaluation of Fake News Detection with Knowledge-Enhanced Language Models
City, University of London（伦敦大学城市学院）
假新闻检测的最新进展利用了大规模预训练语言模型（PLM）的成功。主要的最先进方法是基于对标记的假新闻数据集进行微调的PLM。然而，大型PLM通常没有经过结构化事实数据的训练，因此可能不具备基于事实准确知识的先验知识。因此，利用现有的知识库（KB）和丰富的人工事实信息，有可能使假新闻检测更加有效和强大。在本文中，我们研究了知识集成到PLM中对假新闻检测的影响。我们研究了几种最先进的知识整合方法，主要使用维基数据作为知识库，在两个流行的假新闻数据集上- LIAR，一个基于政治的数据集，以及COVID-19，一个在社交媒体上发布的与COVID-19流行病有关的消息数据集。我们的实验表明，知识增强模型可以显着提高LIAR上的假新闻检测，其中KB是相关的和最新的。COVID-19的好坏参半的结果突出了对文体特征的依赖以及特定领域和当前知识库的重要性。
2023-02-13 cs.CL
Fake News Detection and Behavioral Analysis: Case of COVID-19
New Jersey Institute of Technology（新泽西理工学院）；College of Staten Island, City University of New York（纽约城市大学斯塔滕岛学院）
本文针对 COVID-19 疫情期间社交媒体虚假新闻难以识别的问题，提出深度学习和集成检测方法，并结合主题识别发现虚假与真实新闻存在大量主题重叠，从而提升检测性能并揭示公众困惑来源。
2023-05-25 cs.CL cs.LG
Mining Dual Emotion for Fake News Detection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Renmin University of China（中国人民大学）；Illinois Institute of Technology（伊利诺伊理工学院）
情绪在检测网上假新闻方面起着重要作用。当利用情感信号时，现有方法集中于利用由发布者传达的新闻内容的情感（即，出版商情绪）。然而，假新闻往往会引起人们的高度觉醒或激活情绪，因此新闻评论在人群中引起的情绪（即，社会情绪）不应被忽视。此外，出版者情感和社会情感之间是否存在关系（即，双重情绪），以及双重情绪如何出现在假新闻中。本文验证了虚假新闻与真实新闻的双重情感特征，并提出了双重情感特征来表征虚假新闻的双重情感特征及其相互关系。此外，我们还展示了我们提出的功能可以很容易地插入到现有的假新闻检测器中作为增强。在三个真实世界数据集（一个英文数据集和另一个中文数据集）上的大量实验表明，我们提出的特征集：1）优于最先进的任务相关情感特征; 2）可以与现有的假新闻检测器很好地兼容，有效地提高检测假新闻的性能。
2021-02-14 cs.CL cs.CY
Debunking Disinformation: Revolutionizing Truth with NLP in Fake News Detection
本文探讨利用自然语言处理技术检测假新闻的方法，分析其挑战与机遇，以对抗虚假信息传播。
2023-11-15 cs.AI
Transformer based Automatic COVID-19 Fake News Detection System
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
Twitter等在线社交网络最近的快速技术进步导致了传播虚假信息和假新闻的巨大趋势。在持续的冠状病毒病（COVID-19）大流行中，错误信息尤其普遍，导致个人接受虚假和潜在有害的索赔和文章。快速发现假新闻可以减少公众恐慌和混乱的传播。就我们在本文中的分析而言，我们报告了一种分析社交媒体上分享的与COVID-19大流行有关的信息可靠性的方法。我们最好的方法是基于三个Transformer模型（BERT，ALBERT和XLNET）的集合来检测假新闻。该模型在约束AI 2021共享任务COVID 19英语假新闻检测的背景下进行了训练和评估。我们的系统在测试集上获得了0.9855的f1分数，在160个团队中排名第5。
2021-01-21 cs.CL
A Stylometric Inquiry into Hyperpartisan and Fake News
Bauhaus-Universität Weimar（包豪斯魏玛大学）
本文报告了对超党派（即，与假新闻有关的极端片面的）新闻。它提供了一个由BuzzFeed专业记者手动事实检查的1，627篇文章的大型语料库。这些文章来自9家著名的政治出版商，分别来自主流、超党派左翼和超党派右翼。总的来说，该语料库包含299条假新闻，其中97%来自超党派出版商。我们提出并展示了一种新的方式，通过Unmasking（一种最初为作者身份验证而设计的元学习方法）来评估文本类别之间的风格相似性，揭示了左翼和右翼新闻的风格比两者中的任何一个都与主流有更多的共同点。此外，我们发现，超党派新闻可以区分其风格从主流（F1=0.78），可以从两者（F1=0.81）讽刺。不出所料，基于风格的假新闻检测并没有达到标准（F1=0.46）。尽管如此，前面的结果对于实施假新闻检测器的预先筛选是重要的。
2017-02-18 cs.CL
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University（佛罗里达州立大学）
假新闻的病毒式传播造成了巨大的社会危害，使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息，通过学习提取的新闻内容或写作风格的内部知识。然而，故意的谣言可以掩盖写作风格，绕过语言模型，并使简单的基于文本的模型无效。事实上，新闻文章和其他相关组件（如新闻创作者和新闻主题）可以建模为异构信息网络（简称HIN）。本文提出了一种新的虚假新闻检测框架--层次图注意力网络（HGAT），该框架利用层次注意力机制对HIN中的节点进行表示学习，然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明，HGAT可以优于基于文本的模型和其他基于网络的模型。此外，实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
r/Fakeddit: A New Multimodal Benchmark Dataset for Fine-grained Fake News Detection
Laguna Blanca School（拉古纳布兰卡学校）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
假新闻在政治和文化方面以消极的方式改变了社会。它对在线社交网络系统以及离线社区和对话都产生了不利影响。使用自动机器学习分类模型是打击假新闻广泛传播的有效方法。然而，缺乏有效、全面的数据集一直是假新闻研究和检测模型开发的一个问题。以前的假新闻数据集不提供多模态文本和图像数据，元数据，评论数据和细粒度的假新闻分类在我们的数据集的规模和广度。我们介绍了Fakeddit，这是一种新型的多模态数据集，由来自多个类别的假新闻的100多万个样本组成。在经过几个阶段的审查后，通过远程监督，将样本按2向、3向和6向分类类别进行标记。我们构建了混合文本+图像模型，并对多种分类变体进行了广泛的实验，证明了Fakeddit独特的多模态和细粒度分类的新方面的重要性。
2020-03-12 cs.CL cs.CY cs.IR
