Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences（中国科学院智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻，现有的方法观察新闻帖子的语言模式，并“放大”以验证其内容与知识源或检查其读者的回复。然而，这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度，这是假新闻制造的重要灵感，因为假新闻往往是为了搭上热门事件的顺风车，以意想不到的新奇内容吸引公众的注意力，以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号，我们“拉远”观察新闻环境，并提出了新闻环境感知框架（NEP）。对于每一个帖子，我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后，我们设计了一个面向流行和新颖的模块，以感知有用的信号，并进一步帮助最终的预测。在我们新构建的数据集上的实验表明，NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University（武汉大学弘毅学堂）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题，直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来，已经提出了许多检测方法来打击假新闻，但它们主要集中在文章的语言方面，而没有任何事实检查。在本文中，我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验，我们证明了事实篡改攻击是有效的。为了解决这些问题，我们认为，事实核查应与语言特征分析相结合，以真正区分假新闻和真新闻。提出了一种众包的知识图谱，作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS（中国科学院智能信息处理重点实验室，中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）
假新闻在各个领域的社交媒体上广泛传播，导致政治，灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测（SFND），这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域，多领域虚假新闻检测（MFND）越来越受到关注。然而，数据分布，如词频和传播模式，从域到域，即域移位。面对严重领域转移的挑战，现有的假新闻检测技术在多领域场景中表现不佳。因此，设计一种专门的MFND模型是非常必要的。在本文中，我们首先为MFND设计了一个带有域标签的假新闻数据集基准，即微博21，它由来自9个不同领域的4，488条假新闻和4，640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型（MDFEND），利用域门聚合由混合专家模型提取的多个表示。实验结果表明，MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
Modelling Social Context for Fake News Detection: A Graph Neural Network Based Approach
Pandit Deendayal Energy University（潘迪特·迪恩达亚尔能源大学）
虚假新闻的检测对于确保信息的真实性和维护新闻生态系统的可靠性至关重要。最近，由于社交媒体和Deep Fake等虚假内容生成技术的激增，虚假新闻内容有所增加。大多数现有的虚假新闻检测模式都集中在基于内容的方法上。然而，大多数这些技术未能处理生成模型产生的超现实合成媒体。我们最近的研究发现，真实和虚假新闻的传播特征是可以区分的，无论它们的形式如何。在这方面，我们已经调查了基于社会背景的辅助信息来检测假新闻。本文采用基于混合图神经网络的方法分析了假新闻检测的社会背景。这种混合模型是基于集成的图神经网络的新闻传播和双向编码器表示从Transformers模型的新闻内容学习文本特征。因此，提出的方法可以学习内容和上下文特征，因此能够优于基线模型，在PolitiFact上的f1得分为0.91，在Gossipcop数据集上的f1得分为0.93
2022-07-27 cs.CL cs.IR cs.SI
Weak Supervision for Fake News Detection via Reinforcement Learning
State University of New York at Buffalo（纽约州立大学布法罗分校）；Tencent Inc.（腾讯公司）；Pennsylvania State University（宾夕法尼亚州立大学）
如今，社交媒体已经成为新闻的主要来源。通过社交媒体平台，假新闻以前所未有的速度传播，触及全球受众，并使用户和社区面临巨大风险。因此，尽早发现假新闻非常重要。最近，基于深度学习的方法在假新闻检测方面表现出了更好的性能。然而，这类模型的训练需要大量的标记数据，而人工标注既耗时又昂贵。此外，由于新闻的动态性质，注释样本可能会很快过时，不能代表新出现的事件的新闻文章。因此，如何获得新鲜、高质量的标记样本是利用深度学习模型进行假新闻检测的主要挑战。为了应对这一挑战，我们提出了一个加强的弱监督假新闻检测框架，即，WeFEND，它可以利用用户的报告作为弱监管，以扩大用于假新闻检测的训练数据量。该框架由三个主要部分组成：注释器，增强选择器和假新闻检测器。注释器可以根据用户的报告自动为未标记的新闻分配弱标签。使用强化学习技术的强化选择器从弱标记数据中选择高质量的样本，并过滤掉那些可能降低检测器预测性能的低质量样本。假新闻检测器旨在根据新闻内容识别假新闻。我们在通过微信公众号发布的大量新闻文章和相关用户报告上测试了所提出的框架。在该数据集上的大量实验表明，与最先进的方法相比，所提出的WeFEND模型实现了最佳性能。
2020-01-20 cs.CL cs.LG cs.SI
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University（佛罗里达州立大学）
假新闻的病毒式传播造成了巨大的社会危害，使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息，通过学习提取的新闻内容或写作风格的内部知识。然而，故意的谣言可以掩盖写作风格，绕过语言模型，并使简单的基于文本的模型无效。事实上，新闻文章和其他相关组件（如新闻创作者和新闻主题）可以建模为异构信息网络（简称HIN）。本文提出了一种新的虚假新闻检测框架--层次图注意力网络（HGAT），该框架利用层次注意力机制对HIN中的节点进行表示学习，然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明，HGAT可以优于基于文本的模型和其他基于网络的模型。此外，实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
Each Fake News is Fake in its Own Way: An Attribution Multi-Granularity Benchmark for Multimodal Fake News Detection
Nation University of Defence Technology（国防科技大学）；Xi’an Jiaotong University（西安交通大学）
针对现有数据集仅提供真假二元标签且无法反映多模态假新闻混合本质的问题，构建了归因多粒度数据集\amg并提出多粒度线索对齐模型\our，实现了假新闻检测与归因，为未来研究开辟了新途径。
2024-12-19 cs.AI cs.CL
Methods of Informational Trends Analytics and Fake News Detection on Twitter
Ivan Franko National University of Lviv（利沃夫伊万·弗兰科国立大学）
在本文中，不同的方法来分析Twitter上的新闻趋势被认为是。对于分析和案例研究，研究了2022年俄罗斯入侵乌克兰造成的Twitter上的信息趋势。分析了一种用于虚假新闻检测的深度学习方法。利用频繁项集理论和关联规则、图论对新闻动态进行了分析。
2022-04-11 cs.AI cs.CL cs.SI
Automated Fake News Detection using cross-checking with reliable sources
Sharif University of Technology（谢里夫理工大学）
在过去的十年里，假新闻和错误信息已经成为一个重大问题，影响了我们生活的各个方面，包括政治和公共卫生。受自然人类行为的启发，我们提出了一种自动检测假新闻的方法。人类的自然行为是用可靠的来源交叉检查新信息。我们使用自然语言处理（NLP）并构建了一个机器学习（ML）模型，该模型可以自动交叉检查新信息与一组预定义的可靠来源。我们为Twitter实现了这一点，并构建了一个标记虚假推文的模型。具体来说，对于给定的推文，我们使用其文本从可靠的新闻机构中查找相关新闻。然后，我们训练一个随机森林模型，该模型检查推文的文本内容是否与可信新闻一致。如果不是，则该推文被归类为虚假。这种方法通常可以应用于任何类型的信息，而不限于特定的新闻故事或信息类别。我们的这种方法的实现提供了一个$70\%$的准确性，优于其他通用的假新闻分类模型。这些结果为更明智和自然的假新闻检测方法铺平了道路。
2022-01-01 cs.CL cs.SI physics.soc-ph
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University（大阪大学产业科学研究所）；NARA Institute of Science and Technology（奈良先端科学技术大学院大学）
假新闻引发了许多社会问题;因此，人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而，仅从这一方面不足以解释“假新闻”，这是一个复杂的现象，涉及面很广。要充分认识每一个假新闻的本质，重要的是要从多个角度来观察它，如假新闻传播者的意图，新闻对我们社会的危害性，以及新闻的目标。我们基于对现有假新闻数据集的详细调查，提出了一种具有细粒度标签的新注释方案，以捕获假新闻的各个方面。使用注释方案，我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Automatic Detection of Fake News
University of Michigan（密歇根大学）；University of Amsterdam（阿姆斯特丹大学）
误导性信息在社交媒体、新闻博客和在线报纸等日常访问媒体渠道中的扩散，使得识别值得信赖的新闻来源变得具有挑战性，从而增加了对能够提供对在线内容可靠性的见解的计算工具的需求。本文主要研究网络新闻中虚假内容的自动识别问题。我们的贡献是双重的。首先，我们介绍了两个用于假新闻检测任务的新数据集，涵盖了七个不同的新闻领域。我们详细描述了收集，注释和验证过程，并提出了几个探索性的分析，在虚假和合法的新闻内容的语言差异的识别。其次，我们进行了一系列学习实验，以构建准确的假新闻检测器。此外，我们提供了自动和人工识别假新闻的比较分析。
2017-08-23 cs.CL
Lexicon generation for detecting fake news
Hacettepe University（哈杰泰佩大学）
随着媒体数字化，包括主流媒体以及社交网络在内的在线来源产生了大量新闻数据。然而，制作和传播的便利导致了假新闻以及可信的真实新闻的传播。假新闻的广泛传播对个人和社会产生了极大的负面影响。因此，假新闻检测最近成为一个新兴的课题，作为一个跨学科的研究领域，吸引了许多研究学科的极大关注，包括社会科学和语言学。在这项研究中，我们提出了一种主要基于词汇的方法，包括一个评分系统，以促进土耳其假新闻的检测。我们通过收集一个新颖的，大规模的，可信的土耳其新闻数据集，并通过构建土耳其的第一个假新闻检测词典来为文献做出贡献。
2020-10-16 cs.CL
How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
Technische Universität Berlin（柏林工业大学）
随着近年来互联网上虚假信息的传播急剧增加，越来越多的人关注自动化的假新闻检测。一些虚假新闻检测方法已经相当成功。然而，在检测算法中仍然存在许多漏洞。其原因是，假新闻发布者可以以检测算法不会将此文本暴露为假新闻的方式构建和制定其文本。这篇论文表明，有可能自动攻击经过训练以检测假新闻的最先进模型，使这些模型变得脆弱。为此，首先基于数据集训练相应的模型。然后，使用Text-Attack，尝试以这样的方式操纵训练模型，即先前正确识别的假新闻被归类为真新闻。结果表明，有可能自动绕过假新闻检测机制，从而对现有政策举措产生影响。
2021-07-16 cs.CL
FakeFlow: Fake News Detection by Modeling the Flow of Affective Information
Universitat Politècnica de València（瓦伦西亚理工大学）；University of Mannheim（曼海姆大学）；Symanto Research（Symanto研究公司）
假新闻往往通过煽情的方式来引起读者的注意。与短篇新闻不同，长文的作者可以利用这些情感因素来操纵读者，通过添加夸张或虚构事件来影响读者的情绪。为了抓住这一点，我们在本文中提出使用神经架构对假新闻文章中的情感信息流进行建模。所提出的模型FakeFlow通过结合从文本中提取的主题和情感信息来学习该流。我们评估了模型的性能与四个真实世界的数据集上的几个实验。结果表明，与最先进的方法相比，FakeFlow取得了更好的结果，从而证实了捕捉新闻文章中情感信息流的重要性。
2021-01-24 cs.CL
Weighted Accuracy Algorithmic Approach In Counteracting Fake News And Disinformation
Zhejiang Gongshang University（浙江工商大学）
随着世界越来越依赖互联网进行信息交流，一些过分热心的记者，黑客，博客，个人和组织倾向于滥用自由信息环境的礼物，用假新闻，虚假信息和自命不凡的内容污染它。因此，有必要极其严肃地处理假新闻和虚假信息问题。本文提出了一种通过约束机制进行假新闻检测和报道的方法，该机制利用了四种机器学习算法的组合加权准确度。
2020-08-05 cs.CL cs.SI econ.GN
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame（圣母大学）
近年来，由于在线社交网络的蓬勃发展，检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在，采用倾向分数匹配（PSM）方法选择可泛化特征，以减少混杂变量的影响。实验结果表明，使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法（分类器），如逻辑回归，随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
Debunking Fake News One Feature at a Time
New York University（纽约大学）
识别新闻文章主体相对于某个标题的立场是自动化虚假新闻检测的第一步。在本文中，我们介绍了一个2阶段的集成模型来解决的立场检测任务。通过仅使用手工制作的特征作为梯度提升分类器的输入，我们能够在官方假新闻挑战（第1阶段）数据集上获得11651.25分中的9161.5分（78.63%）。我们确定了用于检测假新闻的最有用的特征，并讨论了如何使用采样技术来提高高度不平衡数据集的召回准确率。
2018-08-08 cs.CL
Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology（奈良先端科学技术大学）
假新闻的迅速增加对社会造成了重大损害，引发了许多与假新闻相关的研究，包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集：（1）假新闻检测，（2）事实验证，（3）其他任务;例如，假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后，我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究，从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks
National University of Singapore（新加坡国立大学）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
针对LLM风格攻击导致的假新闻检测脆弱性（F1下降38%），提出SheepDog检测器，通过风格多样性训练、风格无关方案和内容归因，在三个基准上实现风格鲁棒检测。
2024-08-20 cs.CL
Fake News and Hate Speech: Language in Common
Universitat de València（瓦伦西亚大学）
在本文中，我们提出了一个研究问题，即假新闻和仇恨言论传播者在语言上是否有共同的模式。我们计算了一个新的指数，内组与外组指数，在三个不同的数据集，我们表明，这两种现象共享一个“我们与他们”的叙述。
2022-12-05 cs.CL
Fake News Detection Using Majority Voting Technique
R.C. Patel Institute of Technology（R.C.帕特尔理工学院）
由于网络和社交网络平台的发展，传播信息变得非常容易。人们正在创造和分享比以往任何时候都多的信息，这些信息可能是误导性的、错误的或虚假的信息。由于可用信息的非结构化性质，虚假新闻检测是一项至关重要且具有挑战性的任务。近年来，研究人员为解决假新闻检测问题提供了重要的解决方案，但由于其性质，仍然存在许多悬而未决的问题。在本文中，我们提出了多数投票的方法来检测假新闻文章。我们使用了假新闻和真新闻的不同文本属性。我们使用了公开的假新闻数据集，包括20，800篇新闻文章，其中10，387篇是真实的，10，413篇是标记为二进制0和1的假新闻。为了评估我们的方法，我们使用了常用的机器学习分类器，如决策树，逻辑回归，XGBoost，随机森林，额外树，AdaBoost，SVM，SGD和朴素贝叶斯。使用上述分类器，我们建立了一个多模型的假新闻检测系统，使用多数投票技术，以达到更准确的结果。实验结果表明，该方法的准确率为96.38%，精确率为96%，召回率为96%，F1-measure为96%。评价结果表明，多数投票技术取得了更令人满意的结果相比，个别学习技术。
2022-03-27 cs.CL
Connecting the Dots Between Fact Verification and Fake News Detection
Beihang University（北京航空航天大学）
事实验证模型在过去的两年中取得了快速的发展，随着BERT等预训练语言模型的发展和FEVER等大规模数据集的发布。然而，假新闻检测的挑战性问题并没有受益于事实验证模型的改进，这与假新闻检测密切相关。在本文中，我们提出了一种简单而有效的方法来连接事实验证和假新闻检测之间的点。我们的方法首先采用了一个文本摘要模型预先训练的新闻语料库，总结成一个简短的声明长新闻文章。然后，我们使用在FEVER数据集上预先训练的事实验证模型来检测输入的新闻文章是真的还是假的。我们的方法利用了最近成功的事实验证模型，并实现了zero-shot假新闻检测，减轻了大规模训练数据训练假新闻检测模型的需求。在FakenewsNet上的实验结果证明了该方法的有效性。
2020-10-11 cs.AI cs.CL
Multimodal Fake News Detection
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
在过去的几年里，假新闻出现了前所未有的泛滥。因此，我们更容易受到错误信息和虚假信息传播在我们社会不同阶层可能产生的有害影响。因此，虚假新闻自动检测工具的开发在预防其负面影响方面发挥着重要作用。大多数检测和分类虚假内容的尝试只关注使用文本信息。多模态方法不太常见，它们通常将新闻分类为真或假。在这项工作中，我们使用单峰和多峰方法对Fakeddit数据集上的假新闻进行细粒度分类。我们的实验表明，基于卷积神经网络（CNN）架构结合文本和图像数据的多模态方法达到了最佳效果，准确率为87%。一些假新闻类别，如操纵内容，讽刺或虚假联系，从图像的使用中受益匪浅。使用图像也可以改善其他类别的结果，但影响较小。关于仅使用文本的单模方法，来自Transformers的双向编码器表示（BERT）是最好的模型，准确度为78%。因此，同时利用文本和图像数据可以显著提高假新闻检测的性能。
2021-12-09 cs.CL
Arabic Fake News Detection Based on Deep Contextualized Embedding Models
University of Sharjah（沙迦大学）；Western University（韦仕敦大学）
社交媒体正成为许多人的新闻来源，因为它的易用性和使用自由。因此，假新闻无论其可信度如何，都在迅速而轻松地传播，特别是在过去十年中。假新闻出版商利用新冠肺炎疫情和美国总统选举等关键情况对社会产生负面影响。假新闻可以严重影响社会的许多领域，包括政治，金融，体育等，许多研究已经进行，以帮助检测假新闻的英语，但研究进行的假新闻检测在阿拉伯语是稀缺的。我们的贡献是双重的：首先，我们构建了一个庞大而多样化的阿拉伯语假新闻数据集。其次，我们开发并评估了基于transformer的分类器，以识别假新闻，同时利用八种最先进的阿拉伯语上下文嵌入模型。这些模型中的大多数以前都没有用于阿拉伯语假新闻检测。我们对最先进的阿拉伯语语境化嵌入模型进行了全面分析，并与类似的假新闻检测系统进行了比较。实验结果证实，这些国家的最先进的模型是强大的，准确率超过98%。
2022-05-06 cs.AI cs.CL
Is it Fake? News Disinformation Detection on South African News Websites
University of Pretoria（比勒陀利亚大学）
通过假新闻传播的虚假信息是我们社会中一个持续存在的问题，并且很容易通过社交媒体传播。过滤这些大量数据的最具成本和时间效益的方法是使用人工和技术干预相结合来识别它。从技术角度来看，自然语言处理（NLP）被广泛用于检测假新闻。社交媒体公司使用NLP技术来识别假新闻并警告他们的用户，但假新闻仍然可能不被发现。在更地方化的情况下（美利坚合众国以外），这尤其是一个问题。我们如何调整假新闻检测系统，以更好地适应当地环境，例如南非。在这项工作中，我们调查了南非网站上的假新闻检测。我们策划了一个南非假新闻的数据集，然后训练检测模型。我们将此与使用广泛可用的假新闻数据集（主要来自美国网站）进行对比。我们还探索通过组合数据集使其更加多样化，并使用可解释的机器学习观察各国假新闻之间的写作行为差异。
2021-08-09 cs.CL cs.CY cs.LG
Localization of Fake News Detection via Multitask Transfer Learning
De La Salle University（德拉萨尔大学）；Center for Language Technologies (CeLT)（语言技术中心）
利用互联网作为传播假新闻的快速媒介，加强了对打击假新闻的计算工具的需求。存在训练假新闻分类器的技术，但它们都需要大量资源，包括大型标记数据集和专家策划的语料库，这些资源低的语言可能不具备。在这项工作中，我们做出了两个主要贡献：首先，我们通过构建第一个专业策划的菲律宾假新闻检测基准数据集来缓解资源短缺，我们称之为“菲律宾假新闻”。其次，我们对迁移学习（TL）技术进行了基准测试，并表明它们可以用于从少量数据中训练强大的假新闻分类器，在我们的假新闻数据集上实现了91%的准确率，与已建立的Few-Shot基线相比，将误差减少了14%。此外，提升多任务学习的想法，我们表明，增强基于transformer的传输技术与辅助语言建模损失，通过适应写作风格提高了他们的性能。使用这个，我们将TL性能提高了4- 6%，在我们最好的模型上实现了96%的准确度。最后，我们证明了我们的方法可以很好地推广到不同类型的新闻文章，包括政治新闻，娱乐新闻和评论文章。
2020-05-15 cs.CL
An Emotion-guided Approach to Domain Adaptive Fake News Detection using Adversarial Learning
Biometric Research Laboratory, Delhi Technological University（德里理工大学）；School of Computer Science, FEIT, University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情绪作为提高性能的特征是有效的。然而，情感引导特征对虚假新闻检测的跨领域影响仍然是一个悬而未决的问题。在这项工作中，我们提出了一种用于跨域假新闻检测的情感引导，域自适应，多任务方法，证明了情感引导模型在各种数据集的跨域设置中的有效性。
2022-11-26 cs.CL
Embracing Domain Differences in Fake News: Cross-domain Fake News Detection using Multi-modal Data
随着社交媒体的快速发展，假新闻已成为一个重大的社会问题，无法通过人工调查及时解决。这激发了许多关于自动化虚假新闻检测的研究。大多数研究探索了具有不同模式的监督训练模型（例如，文本、图像和传播网络）来识别假新闻。然而，如果新闻记录来自不同的域（例如，政治、娱乐），尤其是在训练过程中看不到或很少看到的领域。作为动机，我们经验表明，来自不同领域的新闻记录有显着不同的词的使用和传播模式。此外，由于大量未标记的新闻记录，选择新闻记录进行手动标记以使标记数据集的域覆盖最大化是具有挑战性的。因此，这项工作：（1）提出了一种新的框架，该框架联合保留新闻记录中的特定领域和跨领域知识，以检测来自不同领域的假新闻;（2）引入了一种无监督技术，以选择一组未标记的信息新闻记录进行手动标记，这最终可以用于训练假新闻检测模型，该模型在许多领域表现良好，同时最小化标记成本。我们的实验表明，所提出的假新闻模型和选择性注释方法的集成实现了跨领域新闻数据集的最新性能，同时对新闻数据集中很少出现的领域产生了显着的改进。
2021-02-24 cs.CL cs.IR cs.LG
Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Columbia University（哥伦比亚大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Washington（华盛顿大学）；AI2（艾伦人工智能研究所）
针对机器生成与人类撰写假新闻间的风格与意图差异，提出基于自然语言推理引导的自批判序列训练框架，结合宣传技巧生成训练数据集 PropaNews，使假新闻检测器在公开数据集上检测人类虚假信息的 F1 分数提升 3.62% - 7.69%。
2023-05-15 cs.CL
COVID-19 Fake News Detection Using Bidirectional Encoder Representations from Transformers Based Models
如今，社交媒体的发展使人们可以轻松地获取最新消息。在COVID-19大流行期间，人们获取新闻非常重要，以便他们能够采取相应的保护措施。然而，假新闻泛滥，特别是在全球大流行的情况下，这是一个严重的问题。误导性的假新闻会给个人和社会造成重大损失。COVID-19假新闻检测已成为NLP领域的一项新颖而重要的任务。然而，假新闻总是包含正确的部分和不正确的部分。这一事实增加了分类任务的难度。在本文中，我们微调预训练的双向编码器表示从Transformers（BERT）模型作为我们的基础模型。我们分别在具有冻结参数或未冻结参数方法的微调BERT模型顶部添加BiLSTM层和CNN层。模型性能评估结果表明，我们的最佳模型（BERT微调模型，冻结参数加上BiLSTM层）在COVID-19假新闻检测任务中取得了最先进的结果。我们还探讨了使用我们最好的模型的关键字评估方法，并评估模型的性能后，删除关键字。
2021-10-01 cs.CL
Multimodal Fusion with BERT and Attention Mechanism for Fake News Detection
Toyo University（东洋大学）；Aimesoft JSC（艾美软件股份公司）
假新闻检测是提高媒体信息可信度的一项重要任务，因为假新闻每天都在社交媒体上不断传播，这是我们社会中非常严重的问题。假新闻通常是通过操纵图像，文本和视频来创建的。在本文中，我们提出了一种新的方法来检测假新闻融合来自文本和视觉数据的多模态特征。具体来说，我们使用预训练的BERT模型来学习文本特征，并使用在ImageNet数据集上预训练的VGG-19模型来提取图像特征。我们提出了一个尺度点积注意力机制来捕捉文本特征和视觉特征之间的关系。实验结果表明，我们的方法在公共Twitter数据集上的准确率比当前最先进的方法高3.1%。
2021-04-27 cs.CL
TUDublin team at Constraint@AAAI2021 -- COVID19 Fake News Detection
Technological University Dublin（都柏林理工大学）
本文专门介绍了TUDublin团队参与约束@AAAI2021-COVID 19假新闻检测挑战赛的情况。今天，与大流行病有关的假新闻检测问题比以往任何时候都更加严重。假新闻的数量正在迅速增加，有必要创建人工智能工具，使我们能够紧急识别和防止有关COVID-19的虚假信息的传播。这项工作的主要目标是创建一个模型，在COVID-19的背景下，将社交媒体上的消息进行二进制分类，分为真实新闻和虚假新闻。我们的团队构建了由双向长短期记忆、支持向量机、Logistic回归、朴素贝叶斯以及Logistic回归和朴素贝叶斯的组合组成的集成。该模型使我们能够实现0.94 F1分数，这是最好的结果的5%以内。
2021-01-14 cs.CL
Emotion-guided Cross-domain Fake News Detection using Adversarial Domain Adaptation
Delhi Technological University（德里理工大学）；University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情感作为特征或基于情感的特征可以提高性能。然而，这些情感引导的特征在跨领域设置中对假新闻检测的影响，我们面临着领域转移的问题，在很大程度上仍然没有被探索。在这项工作中，我们评估了情感引导特征对跨领域假新闻检测的影响，并进一步提出了一种使用对抗性学习的情感引导、领域自适应方法。我们证明了情感引导模型在跨域设置中的有效性，这些模型适用于FakeNewsAMT，Celeb，Politifact和Gossipcop数据集的源和目标数据集的各种组合。
2022-11-24 cs.CL
Entity-Aware Dual Co-Attention Network for Fake News Detection
National Taiwan University（台湾大学）；AIST（日本产业技术综合研究所）；Academia Sinica（中央研究院）
假新闻和错误信息在互联网上迅速传播。如何识别它，如何解释识别结果成为重要的问题。在本文中，我们提出了一种用于假新闻检测的双重共同注意力网络（Dual-CAN），它将新闻内容，社交媒体回复和外部知识考虑在内。我们的实验结果支持，建议双CAN优于目前的代表性模型在两个基准数据集。我们进一步做了深入的讨论，通过比较模型如何在两个数据集的注意力权重的实证分析。
2023-02-07 cs.CL
Indonesia's Fake News Detection using Transformer Network
Brawijaya University（布拉维贾亚大学）
假新闻是这个时代社会面临的问题。假新闻给民众造成挑衅和困扰的情况并不少见。印度尼西亚作为世界第四大人口国，在处理假新闻方面存在问题。超过30%的农村和城市人口被这种假新闻问题所欺骗。正如我们一直在研究的那样，在印度尼西亚，关于防止假新闻传播的文献很少。因此，本研究旨在预防这些问题。本研究中使用的数据集是从一个识别假新闻的新闻门户网站turnbackhoax.id获得的。在这个页面上使用Web Scrapping，我们得到了1116个由有效新闻和假新闻组成的数据。该数据集可在https://github.com/JibranFawaid/turnbackhoax-dataset上访问。该数据集将与其他可用数据集合并。所使用的方法是CNN、BiLSTM、Hybrid CNN-BiLSTM和带有Transformer网络的BERT。研究结果表明，采用Transformer网络的BERT方法具有最好的结果，准确率高达90%。
2021-07-14 cs.CL cs.LG
Similarity-Aware Multimodal Prompt Learning for Fake News Detection
Qingdao University of Science and Technology（青岛科技大学）；University of Sheffield（谢菲尔德大学）
本文提出相似性感知的多模态提示学习框架（SAMPLE），通过提示学习与相似性感知融合，减少噪声并高效检测虚假新闻，在两个基准数据集上超越现有方法。
2023-06-16 cs.CL
Many Ways to Be Fake: Benchmarking Fake News Detection Under Strategy-Driven AI Generation
Pennsylvania State University（宾夕法尼亚州立大学）
本文提出MANYFAKE基准，通过多种策略驱动的提示管道生成6798篇虚假新闻文章，评估了先进检测器在处理混合真相案例时的性能。
2026-04-10 cs.CL cs.HC
An Adversarial Benchmark for Fake News Detection Models
Yale University（耶鲁大学）
随着在线错误信息的扩散，假新闻检测在人工智能社区中变得越来越重要。在本文中，我们提出了一个对抗性基准，测试假新闻检测器对现实世界事实进行推理的能力。我们制定了对抗攻击，目标是三个方面的“理解”：组成语义，词汇关系，修饰语的敏感性。我们使用在LIAR arXiv：arch-ive/1705648和Kaggle Fake-News数据集上微调的BERT分类器来测试我们的基准，并表明这两个模型都无法对成分和词汇意义的变化做出响应。我们的研究结果加强了这种模型与其他事实检查方法结合使用的必要性。
2022-01-03 cs.CL
A Heuristic-driven Uncertainty based Ensemble Framework for Fake News Detection in Tweets and News Articles
Razorthink Inc（Razorthink 公司）；IIT Madras（印度理工学院马德拉斯分校）
在过去的几十年里，社交媒体的重要性增加了许多倍，因为它可以帮助来自世界上最偏远角落的人们保持联系。随着技术的出现，数字媒体变得比以往任何时候都更加相关和广泛使用，与此同时，需要立即关注的假新闻和推文的传播死灰复燃。在本文中，我们描述了一种新型的假新闻检测系统，该系统可以自动识别新闻项目是“真”还是“假”，作为我们在CONSTRAINT COVID-19 Fake News Detection in English challenge中工作的扩展。我们使用了一个集成模型，该模型由预训练模型和统计特征融合网络组成，以及一种新的启发式算法，该算法通过将新闻项或推文中存在的各种属性（如来源，用户名句柄，URL域和作者）作为统计特征。我们提出的框架还量化了可靠的预测不确定性以及分类任务的适当类输出置信水平。我们已经在COVID-19 Fake News数据集和FakeNewsNet数据集上评估了我们的结果，以显示所提出的算法在检测短新闻内容以及新闻文章中的假新闻方面的有效性。我们在COVID-19数据集上获得了0.9892的最佳F1分数，在FakeNewsNet数据集上获得了0.9073的F1分数。
2021-12-13 cs.AI cs.CL
Evaluation of Fake News Detection with Knowledge-Enhanced Language Models
City, University of London（伦敦大学城市学院）
假新闻检测的最新进展利用了大规模预训练语言模型（PLM）的成功。主要的最先进方法是基于对标记的假新闻数据集进行微调的PLM。然而，大型PLM通常没有经过结构化事实数据的训练，因此可能不具备基于事实准确知识的先验知识。因此，利用现有的知识库（KB）和丰富的人工事实信息，有可能使假新闻检测更加有效和强大。在本文中，我们研究了知识集成到PLM中对假新闻检测的影响。我们研究了几种最先进的知识整合方法，主要使用维基数据作为知识库，在两个流行的假新闻数据集上- LIAR，一个基于政治的数据集，以及COVID-19，一个在社交媒体上发布的与COVID-19流行病有关的消息数据集。我们的实验表明，知识增强模型可以显着提高LIAR上的假新闻检测，其中KB是相关的和最新的。COVID-19的好坏参半的结果突出了对文体特征的依赖以及特定领域和当前知识库的重要性。
2023-02-13 cs.CL
Fake News Detection and Behavioral Analysis: Case of COVID-19
New Jersey Institute of Technology（新泽西理工学院）；College of Staten Island, City University of New York（纽约城市大学斯塔滕岛学院）
本文针对 COVID-19 疫情期间社交媒体虚假新闻难以识别的问题，提出深度学习和集成检测方法，并结合主题识别发现虚假与真实新闻存在大量主题重叠，从而提升检测性能并揭示公众困惑来源。
2023-05-25 cs.CL cs.LG
Mining Dual Emotion for Fake News Detection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Renmin University of China（中国人民大学）；Illinois Institute of Technology（伊利诺伊理工学院）
情绪在检测网上假新闻方面起着重要作用。当利用情感信号时，现有方法集中于利用由发布者传达的新闻内容的情感（即，出版商情绪）。然而，假新闻往往会引起人们的高度觉醒或激活情绪，因此新闻评论在人群中引起的情绪（即，社会情绪）不应被忽视。此外，出版者情感和社会情感之间是否存在关系（即，双重情绪），以及双重情绪如何出现在假新闻中。本文验证了虚假新闻与真实新闻的双重情感特征，并提出了双重情感特征来表征虚假新闻的双重情感特征及其相互关系。此外，我们还展示了我们提出的功能可以很容易地插入到现有的假新闻检测器中作为增强。在三个真实世界数据集（一个英文数据集和另一个中文数据集）上的大量实验表明，我们提出的特征集：1）优于最先进的任务相关情感特征; 2）可以与现有的假新闻检测器很好地兼容，有效地提高检测假新闻的性能。
2021-02-14 cs.CL cs.CY
Blessing or curse? A survey on the Impact of Generative AI on Fake News
Microsoft（微软公司）；Frankfurt University of Applied Sciences（法兰克福应用科学大学）；IMT Atlantique（法国大西洋高等矿业电信学院）
本文综述生成式AI在假新闻生成与检测中的双重作用，系统梳理使能技术、生成、社交媒体传播、检测及深度伪造五类研究，并指出当前挑战。
2024-12-27 cs.AI cs.CL
Transformer based Automatic COVID-19 Fake News Detection System
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
Twitter等在线社交网络最近的快速技术进步导致了传播虚假信息和假新闻的巨大趋势。在持续的冠状病毒病（COVID-19）大流行中，错误信息尤其普遍，导致个人接受虚假和潜在有害的索赔和文章。快速发现假新闻可以减少公众恐慌和混乱的传播。就我们在本文中的分析而言，我们报告了一种分析社交媒体上分享的与COVID-19大流行有关的信息可靠性的方法。我们最好的方法是基于三个Transformer模型（BERT，ALBERT和XLNET）的集合来检测假新闻。该模型在约束AI 2021共享任务COVID 19英语假新闻检测的背景下进行了训练和评估。我们的系统在测试集上获得了0.9855的f1分数，在160个团队中排名第5。
2021-01-21 cs.CL
A Stylometric Inquiry into Hyperpartisan and Fake News
Bauhaus-Universität Weimar（包豪斯魏玛大学）
本文报告了对超党派（即，与假新闻有关的极端片面的）新闻。它提供了一个由BuzzFeed专业记者手动事实检查的1，627篇文章的大型语料库。这些文章来自9家著名的政治出版商，分别来自主流、超党派左翼和超党派右翼。总的来说，该语料库包含299条假新闻，其中97%来自超党派出版商。我们提出并展示了一种新的方式，通过Unmasking（一种最初为作者身份验证而设计的元学习方法）来评估文本类别之间的风格相似性，揭示了左翼和右翼新闻的风格比两者中的任何一个都与主流有更多的共同点。此外，我们发现，超党派新闻可以区分其风格从主流（F1=0.78），可以从两者（F1=0.81）讽刺。不出所料，基于风格的假新闻检测并没有达到标准（F1=0.46）。尽管如此，前面的结果对于实施假新闻检测器的预先筛选是重要的。
2017-02-18 cs.CL
r/Fakeddit: A New Multimodal Benchmark Dataset for Fine-grained Fake News Detection
Laguna Blanca School（拉古纳布兰卡学校）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
假新闻在政治和文化方面以消极的方式改变了社会。它对在线社交网络系统以及离线社区和对话都产生了不利影响。使用自动机器学习分类模型是打击假新闻广泛传播的有效方法。然而，缺乏有效、全面的数据集一直是假新闻研究和检测模型开发的一个问题。以前的假新闻数据集不提供多模态文本和图像数据，元数据，评论数据和细粒度的假新闻分类在我们的数据集的规模和广度。我们介绍了Fakeddit，这是一种新型的多模态数据集，由来自多个类别的假新闻的100多万个样本组成。在经过几个阶段的审查后，通过远程监督，将样本按2向、3向和6向分类类别进行标记。我们构建了混合文本+图像模型，并对多种分类变体进行了广泛的实验，证明了Fakeddit独特的多模态和细粒度分类的新方面的重要性。
2020-03-12 cs.CL cs.CY cs.IR
Multiverse: Multilingual Evidence for Fake News Detection
Technical University of Munich（慕尼黑工业大学）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
误导性信息以令人难以置信的速度在互联网上传播，在某些情况下可能导致无法挽回的后果。开发假新闻检测技术变得至关重要。虽然在这方面已经做了大量工作，但目前做法的局限性之一是，这些模式只侧重于一种语文，不使用多语文信息。在这项工作中，我们提出了Multiverse --一种基于多语言证据的新功能，可用于假新闻检测并改进现有方法。首先通过人工实验验证了跨语言证据作为假新闻检测特征的假设。在那之后，我们将我们基于所提出的特征的假新闻分类系统与两个多域通用主题新闻数据集和一个假COVID-19新闻数据集的几个基线进行了比较，结果表明，在与语言特征的额外组合中，它产生了显着的改进。
2022-11-25 cs.CL cs.IR
A Survey on Natural Language Processing for Fake News Detection
College of Arts and Sciences, The University of Tokyo（东京大学文理学院）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
虚假新闻检测是自然语言处理中的一个关键而又具有挑战性的问题。社交网络平台的迅速崛起不仅极大地提高了信息的可访问性，也加速了假新闻的传播。因此，假新闻的影响越来越大，有时甚至延伸到线下世界，威胁到公共安全。鉴于大量的Web内容，自动虚假新闻检测是一个实用的NLP问题，对所有在线内容提供方都有用，以减少人类检测和防止虚假新闻传播的时间和精力。在本文中，我们描述了假新闻检测所面临的挑战，并描述了相关任务。我们系统地回顾和比较了为这项任务开发的任务公式，数据集和NLP解决方案，并讨论了它们的潜力和局限性。基于我们的见解，我们概述了有前途的研究方向，包括更细粒度，详细，公平和实用的检测模型。我们还强调了假新闻检测和其他相关任务之间的区别，以及NLP解决方案对假新闻检测的重要性。
2020-03-05 cs.AI cs.CL
Less is More: Unseen Domain Fake News Detection via Causal Propagation Substructures
The University of Melbourne（墨尔本大学）；Data61, CSIRO（联邦科学与工业研究组织数据61研究所）
提出因果子图导向的领域自适应假新闻检测模型CSDA，通过提取传播图中的因果子结构增强零样本检测，并在少样本场景下利用对比学习提升性能，在OOD假新闻检测上准确率提升7%至16%。
2024-11-14 cs.AI cs.CL cs.CY
Unsupervised Domain-agnostic Fake News Detection using Multi-modal Weak Signals
The University of Melbourne（墨尔本大学）
本研究提出一种无监督跨领域假新闻检测框架，通过融合四种模态知识并采用抗噪自监督学习技术识别新闻真实性，同时构建大规模无标签数据集LUND-COVID，在多任务中显著超越现有基线并提升对未见领域的泛化能力。
2023-05-18 cs.CL cs.LG
Learning Hierarchical Discourse-level Structure for Fake News Detection
Michigan State University（密歇根州立大学）
一方面，如今，假新闻文章很容易通过各种网络媒体平台传播，并已成为对信息可信度的重大威胁。另一方面，我们对假新闻语言的理解仍然微乎其微。阐明虚假和真实新闻文章的层次话语级结构是更好地理解这些文章是如何结构的关键一步。然而，这在假新闻检测领域很少被调查，面临着巨大的挑战。首先，用于捕获话语级结构的现有方法依赖于注释语料库，这些语料库不适用于假新闻数据集。其次，如何从这些发现的结构中提取有用的信息是另一个挑战。为了应对这些挑战，我们提出了用于虚假新闻检测的分层话语级结构。HDSF以自动化和数据驱动的方式学习和构建假/真新闻文章的话语级结构。此外，我们还识别出了有见地的结构相关属性，这些属性可以解释所发现的结构，并提高我们对假新闻的理解。实验结果表明了该方法的有效性。进一步的结构分析表明，真实新闻和虚假新闻在语篇层次结构上存在着实质性的差异。
2019-04-10 cs.CL cs.LG stat.ML
MCFEND: A Multi-source Benchmark Dataset for Chinese Fake News Detection
Hong Kong Baptist University（香港浸会大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Beijing Normal University-Hong Kong Baptist University United International College（北京师范大学-香港浸会大学联合国际学院）；The University of Hong Kong（香港大学）
针对现有中文假新闻检测数据集仅限单一来源导致跨源性能下降的问题，本文构建了首个多源基准数据集MCFEND，并全面评估了现有方法在跨源、多源和未见源场景下的表现。
2024-07-24 cs.AI cs.CL
fakenewsbr: A Fake News Detection Platform for Brazilian Portuguese
本文面向巴西葡萄牙语新闻，提出结合 TF-IDF 与 Word2Vec 的机器学习虚假新闻检测方法，并构建了提供实时分析的 fakenewsbr.com 平台。
2023-09-21 cs.CL cs.LG stat.ML
DEAP-FAKED: Knowledge Graph based Approach for Fake News Detection
Outplay（Outplay公司）；University of Tartu（塔尔图大学）
最近，社交媒体平台上的假新闻吸引了大量关注，主要是与政治（2016年美国总统选举），医疗保健（COVID-19期间的信息流行病）相关的事件，仅举几例。已经提出了各种方法来检测假新闻。这些方法包括利用与网络分析、自然语言处理（NLP）和图神经网络（GNN）的使用相关的技术。在这项工作中，我们提出了DEAP-FAKED，一个用于识别假新闻的知识图谱FAKe nEws检测框架。我们的方法是NLP（我们对新闻内容进行编码）和GNN技术（我们对知识图谱（KG）进行编码）的组合。各种各样的这些编码提供了一个互补的优势，我们的检测器。我们使用两个公开的数据集来评估我们的框架，这些数据集包含来自政治，商业，技术和医疗保健等领域的文章。作为数据集预处理的一部分，我们还消除了偏见，例如文章的来源，这可能会影响模型的性能。DEAP-FAKED在两个数据集上获得了88%和78%的F1分数，分别提高了21%和3%，这表明了该方法的有效性。
2022-11-25 cs.AI cs.CL
