Domain Adaptive Fake News Detection via Reinforcement Learning
Arizona State University（亚利桑那州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）
随着社交媒体成为信息消费的主要力量，假新闻的加速传播为平台区分合法和假新闻提出了新的挑战。由于新闻领域的多样性和昂贵的注释成本，有效的假新闻检测是一项重要的任务。在这项工作中，我们通过结合辅助信息（例如，用户评论和用户-新闻交互）转换为一种新的基于强化学习的模型，称为\textbf{RE}强化的\textbf{A}自适应的\textbf{L}获得\textbf{F}的\textbf{N} ews \textbf{D}检测（REAL-FND）。REAL-FND利用跨域和域内知识，使其在目标域中具有鲁棒性，尽管是在不同的源域中训练的。在真实数据集上的大量实验表明了该模型的有效性，特别是当目标域中的标记数据有限时。
2022-02-16 cs.LG cs.SI
Network Inference from a Mixture of Diffusion Models for Fake News Mitigation
University of Southern California（南加州大学）
旨在欺骗人们、影响公众舆论和操纵社会结果的假新闻传播已成为社交媒体上的一个紧迫问题。此外，社交媒体上的信息共享促进了病毒式信息级联的传播。在这项工作中，我们专注于理解和利用虚假和合法内容的传播动态，以促进网络干预，缓解假新闻。我们分析了真实世界的Twitter数据集，包括虚假和真实的新闻级联，以了解关于虚假和真实内容的扩散动态和用户行为的差异。分析的基础上，我们建模的扩散作为一个混合物的独立级联模型（MIC）的参数$θ_T, θ_F$在社会网络图，并获得无监督推理技术的参数估计的扩散混合模型从观察到的，未标记的级联。使用推断的扩散动力学来识别在真实和虚假内容的传播中有影响的用户。识别出的有影响力的用户的特征揭示了为假新闻识别出的有影响力的用户与他们在假新闻级联中的相对出现之间的正相关性。识别出的有影响力的用户倾向于与病毒性信息级联更多的主题相关，而不是病毒性信息级联较少的主题;与真正的新闻有影响力的用户相比，识别出的假新闻有影响力的用户的直接追随者数量相对较少。节点和边缘的干预分析表明，推断的扩散动力学的能力，支持网络干预措施，以减轻。
2020-08-08 cs.LG cs.SI
Dac-Fake: A Divide and Conquer Framework for Detecting Fake News on Social Media
Malaviya National Institute of Technology（马拉维亚国立技术学院）；Madhav Institute of Technology & Science（马达夫科技学院）
本文提出DaCFake模型，采用分而治之策略融合内容与上下文特征，结合八十多个语言特征和词嵌入方法，在三个数据集上取得高准确率，用于社交媒体虚假新闻的快速早期检测。
2025-08-22 cs.LG cs.SI
FakeNewsNet: A Data Repository with News Content, Social Context and Spatialtemporal Information for Studying Fake News on Social Media
社交媒体已经成为人们消费新闻的流行手段。同时，它也使假新闻得以广泛传播，即，新闻故意虚假信息，给社会带来重大负面影响。因此，假新闻检测越来越受到关注。然而，假新闻检测是一项不平凡的任务，它需要多源信息，如新闻内容，社会背景和动态信息。首先，假新闻是为了愚弄人们而写的，这使得很难简单地根据新闻内容来检测假新闻。除了新闻内容，我们还需要探索社交环境，如用户参与和社交行为。例如，一个可信的用户评论“这是一个假新闻”，这是检测假新闻的一个强烈信号。其次，动态信息，如假新闻和真新闻如何传播以及用户对新闻的看法，对于提取（早期）假新闻检测和干预的有用模式非常重要。因此，包含新闻内容，社会背景和动态信息的综合数据集可以促进假新闻的传播，检测和缓解;而据我们所知，现有的数据集只包含一个或两个方面。因此，为了方便假新闻相关研究，本文提供了一个假新闻数据库FakeNewsNet，其中包含两个全面的数据集，包括新闻内容，社会背景和动态信息。我们全面描述了数据集收集，从不同角度展示了对该数据库的探索性分析，并讨论了FakeNewsNet在社交媒体假新闻研究中的潜在应用的好处。
2019-03-27 cs.SI
Ginger Cannot Cure Cancer: Battling Fake Health News with a Comprehensive Data Repository
The Pennsylvania State University（宾夕法尼亚州立大学）
目前，互联网是获取健康信息的主要来源。互联网上大量的虚假健康新闻已经成为对公众健康的严重威胁。在虚假新闻检测领域，国内外学者做了大量的研究和工作，但针对健康新闻的研究较少。例如，虚假健康新闻检测需要开发可解释性。为了缓解这些问题，我们构建了一个全面的存储库FakeHealth，其中包括具有丰富功能的新闻内容，具有详细解释的新闻评论，社交活动和用户-用户社交网络。此外，进行探索性分析，以了解数据集的特征，分析有用的模式，并验证健康假新闻检测数据集的质量。我们还讨论了健康假新闻检测的新的和潜在的未来研究方向。
2020-03-30 cs.LG cs.SI stat.ML
Hierarchical Propagation Networks for Fake News Detection: Investigation and Exploitation
从社交媒体上消费新闻正变得越来越受欢迎。然而，社交媒体也使假新闻得以传播。由于社交媒体带来的不利影响，虚假新闻检测越来越受到关注。然而，仅从新闻内容中检测假新闻的性能通常是有限的，因为假新闻被编写为模仿真实新闻。在现实世界中，新闻通过社交媒体上的传播网络传播。新闻传播网络通常涉及多个层次。在本文中，我们研究了具有挑战性的问题，调查和利用社会媒体上的新闻分层传播网络的假新闻检测。为了理解新闻传播网络与假新闻之间的相关性，本文首先从宏观和微观两个层面构建了假新闻和真新闻的层次传播网络，然后对假新闻和真新闻的传播网络的语言、结构和时间特征进行了对比分析，展示了利用这些特征检测假新闻的潜力。第三，我们展示了这些传播网络特征对虚假新闻检测的有效性。我们进一步验证了这些功能的有效性，从功能的重要性分析。总而言之，这项工作提出了分层传播网络和假新闻的数据驱动视图，并为更健康的在线新闻生态系统铺平了道路。
2019-03-21 cs.SI
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University（武汉大学弘毅学堂）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题，直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来，已经提出了许多检测方法来打击假新闻，但它们主要集中在文章的语言方面，而没有任何事实检查。在本文中，我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验，我们证明了事实篡改攻击是有效的。为了解决这些问题，我们认为，事实核查应与语言特征分析相结合，以真正区分假新闻和真新闻。提出了一种众包的知识图谱，作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
Beyond News Contents: The Role of Social Context for Fake News Detection
社交媒体因其传播速度快、访问方便、成本低而成为新闻消费的热门。然而，它也使假新闻的广泛传播成为可能，即，故意发布虚假信息的新闻。检测假新闻是一项重要的任务，不仅可以确保用户获得真实的信息，还有助于维护一个值得信赖的新闻生态系统。现有的大多数检测算法都集中在从新闻内容中寻找线索，这通常是无效的，因为假新闻通常是故意通过模仿真实新闻来误导用户。因此，我们需要探索辅助信息来提高检测。社交媒体上新闻传播过程中的社会语境形成了固有的三重关系，即发布者、新闻作品和用户之间的关系，这对提高虚假新闻的检测具有潜在的意义。例如，有党派偏见的出版商更有可能发布假新闻，而低可信度的用户更有可能分享假新闻。在本文中，我们研究了利用社会背景进行假新闻检测的新问题。我们提出了一个三关系嵌入框架TriFN，它同时为假新闻分类建模了商家-新闻关系和用户-新闻交互。我们在两个真实世界的数据集上进行了实验，结果表明，所提出的方法在假新闻检测方面明显优于其他基线方法。
2018-12-10 cs.SI
Network-based Fake News Detection: A Pattern-driven Approach
假新闻的增长势头强劲，强烈刺激了对假新闻研究的需求。因此，已经提出了许多假新闻检测方法，其中大多数严重依赖于新闻内容。然而，在分析社交网络上的新闻传播时所揭示的基于网络的线索是一种几乎没有被全面探索或用于假新闻检测的信息。我们通过提出一种基于网络的模式驱动的假新闻检测方法来弥合这一差距。我们的目的是研究假新闻在社交网络中的传播模式，即新闻传播者、新闻传播者以及传播者之间的关系。基于社会心理学理论，对这种模式的存在提供了经验证据和解释。这些模式然后在各种网络级别（即，节点级、自我级、三合会级、社区级和整个网络），以进一步用于检测假新闻。该方法增强了假新闻特征工程的可解释性。在真实数据上进行的实验表明，所提出的方法可以优于现有技术。
2019-06-10 cs.SI
Integrating Human-in-the-loop into Swarm Learning for Decentralized Fake News Detection
Prairie View A&M University（普雷里维尤农工大学）
社交媒体已成为产生和传播假新闻的有效平台，这些假新闻可能会误导人们，甚至扭曲舆论。然而，用于假新闻检测的集中式方法在用于训练模型的集中式数据汇集过程中不能有效地保护用户隐私。此外，它不能完全将用户反馈纳入学习检测模型的循环中，以进一步增强假新闻检测。为了克服这些挑战，本文提出了一种新的分散方法，基于人在回路的群学习（HBSL），将用户反馈集成到学习和推理的回路中，以分散的方式识别假新闻，而不会侵犯用户隐私。它由分布式节点组成，能够独立学习和检测本地数据上的假新闻。此外，在这些节点上训练的检测模型可以通过分散的模型合并来增强。实验结果表明，该方法在检测基准数据集上的假新闻方面优于最先进的分散式方法。
2022-01-04 cs.AI cs.LG cs.SI
Weak Supervision for Fake News Detection via Reinforcement Learning
State University of New York at Buffalo（纽约州立大学布法罗分校）；Tencent Inc.（腾讯公司）；Pennsylvania State University（宾夕法尼亚州立大学）
如今，社交媒体已经成为新闻的主要来源。通过社交媒体平台，假新闻以前所未有的速度传播，触及全球受众，并使用户和社区面临巨大风险。因此，尽早发现假新闻非常重要。最近，基于深度学习的方法在假新闻检测方面表现出了更好的性能。然而，这类模型的训练需要大量的标记数据，而人工标注既耗时又昂贵。此外，由于新闻的动态性质，注释样本可能会很快过时，不能代表新出现的事件的新闻文章。因此，如何获得新鲜、高质量的标记样本是利用深度学习模型进行假新闻检测的主要挑战。为了应对这一挑战，我们提出了一个加强的弱监督假新闻检测框架，即，WeFEND，它可以利用用户的报告作为弱监管，以扩大用于假新闻检测的训练数据量。该框架由三个主要部分组成：注释器，增强选择器和假新闻检测器。注释器可以根据用户的报告自动为未标记的新闻分配弱标签。使用强化学习技术的强化选择器从弱标记数据中选择高质量的样本，并过滤掉那些可能降低检测器预测性能的低质量样本。假新闻检测器旨在根据新闻内容识别假新闻。我们在通过微信公众号发布的大量新闻文章和相关用户报告上测试了所提出的框架。在该数据集上的大量实验表明，与最先进的方法相比，所提出的WeFEND模型实现了最佳性能。
2020-01-20 cs.CL cs.LG cs.SI
The Rise and Fall of Fake News sites: A Traffic Analysis
FORTH/University of Crete（克里特大学/希腊研究与技术基金会）；Telefonica Research（西班牙电信研究中心）
在过去的十年里，我们目睹了互联网上错误信息的增加，网络用户不断成为假新闻的受害者。过去的许多研究分析了假新闻的传播机制以及检测和缓解技术。然而，关于他们的运营行为仍然存在一些悬而未决的问题，例如：假新闻网站有多老？他们通常会长时间在线吗？这样的网站是否彼此同步他们的启动和停机时间？它们是否在时间上共享相似的内容？哪些第三方支持其运营？与主流或真正的新闻网站相比，他们吸引了多少用户流量？在本文中，我们进行了首次调查，以回答有关假新闻网站在线存在的问题，并将其行为与真实新闻网站进行比较。基于我们的研究结果，我们构建了一个内容不可知的ML分类器，用于自动检测尚未包含在手动策划黑名单中的假新闻网站（即准确性）。
2021-03-16 cs.CR cs.LG cs.SI
Credibility-based Fake News Detection
Syracuse University（雪城大学）
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中，我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据，我们发现新闻来源（和作者）的信息可以成为可信度的一个强有力的指标。我们的研究结果表明，作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法，其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
From Fake News to #FakeNews: Mining Direct and Indirect Relationships among Hashtags for Fake News Detection
COVID-19大流行引起了全世界的关注，并允许假新闻，如“COVID-19是流感”，在社交媒体上迅速广泛传播。对抗这种冠状病毒信息流行病需要有效的方法来检测假新闻。为此，我们提出了一种方法来推断新闻的可信度，从标签参与新闻传播的社交媒体，动机标签和新闻可信度之间的紧密联系，在我们的实证分析观察。我们首先介绍一个新的图，它捕获了标签之间的所有（直接和\textit{indirect}）关系。然后，开发了一种与语言无关的半监督算法，以基于此构建的图来预测假新闻。本研究首先探讨主题标签之间的间接关系，所提出的方法可以扩展到任何同构图捕捉节点之间的全面关系。语言独立性使所提出的方法可以用于多语言虚假新闻检测。在两个真实世界数据集上进行的实验证明了我们的方法在识别假新闻方面的有效性，特别是在传播的\textit{early}阶段。
2022-11-20 cs.IR cs.SI
Studying Fake News via Network Analysis: Detection and Mitigation
用于新闻消费的社交媒体由于其易于访问、快速传播和低成本而变得越来越受欢迎。然而，社交媒体也助长了“假新闻”的广泛传播，即，故意发布虚假信息的新闻。社交媒体上的假新闻带来了严重的负面社会影响，也带来了独特的挑战。为了应对这些挑战，许多现有的作品从网络的角度利用各种特征来检测和缓解假新闻。从本质上讲，新闻传播生态系统涉及社会化媒体上的三个维度，即，内容维度、社会维度和时间维度。在本章中，我们将回顾用于研究假新闻的网络属性，介绍流行的网络类型以及如何使用这些网络来检测和缓解社交媒体上的假新闻。
2018-04-26 cs.SI
Fake News Detection on Social Media using Geometric Deep Learning
Fabula AI（法布拉人工智能公司）；USI Lugano（卢加诺瑞士意大利语大学）；Imperial College（帝国理工学院）
社交媒体如今是全球数百万人的主要新闻来源之一，因为它们成本低，易于访问和快速传播。然而，这是以值得怀疑的可信度和暴露于“假新闻”的重大风险为代价的，故意误导读者。自动检测假新闻带来了挑战，挑战了现有的基于内容的分析方法。其中一个主要原因是，新闻的解释通常需要政治或社会背景或“常识”的知识，而目前的NLP算法仍然缺乏这些知识。最近的研究表明，假新闻和真新闻在社交媒体上的传播方式不同，形成了可以用于自动检测假新闻的传播模式。与基于内容的方法相比，基于简化的方法具有多种优势，其中包括语言独立性和对对抗攻击的更好的弹性。本文提出了一种基于几何深度学习的虚假新闻自动检测模型。底层核心算法是经典CNN到图的概括，允许融合异构数据，如内容，用户简档和活动，社交图和新闻传播。我们的模型在Twitter上传播的新闻故事上进行了训练和测试，并由专业的事实核查组织进行了验证。我们的实验表明，社交网络结构和传播是实现高度准确（92.7%ROC AUC）假新闻检测的重要特征。其次，我们观察到，假新闻可以在传播几个小时后的早期阶段被可靠地检测出来。第三，我们在时间上分离的训练和测试数据上测试模型的老化。我们的研究结果表明，基于传播的方法可以作为基于内容的方法的替代或补充策略来检测假新闻。
2019-02-10 cs.LG cs.SI stat.ML
Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
Fake News Detection using Temporal Features Extracted via Point Process
许多人使用社交网络服务（SNS）来轻松访问各种新闻。有很多方法可以获取和分享“假新闻”，即带有虚假信息的新闻。为了解决假新闻，已经进行了几项研究，通过使用SNS提取的特征来检测假新闻。在这项研究中，我们试图使用时间特征生成的SNS帖子使用点处理算法来识别假新闻从真正的新闻。假新闻检测中的时间特征具有鲁棒性优于现有特征的优点，因为它对假新闻传播者的依赖性最小。此外，我们提出了一种新的基于多模态注意力的方法，该方法包括语言和用户特征以及时间特征，用于检测SNS帖子中的假新闻。在三个公开数据集上的实验结果表明，与现有方法相比，该模型具有更好的性能，并证明了时间特征在虚假新闻检测中的有效性。
2020-07-28 cs.CY cs.SI
Fake News Detection in Social Networks via Crowd Signals
我们的工作考虑利用人群信号来检测假新闻，并受到Facebook最近推出的工具的激励，这些工具使用户能够标记假新闻。通过聚合用户的标记，我们的目标是每天选择一小部分新闻，将它们发送给专家（例如，通过第三方事实核查组织），并阻止被专家认定为假新闻的传播。我们工作的主要目标是通过阻止假新闻在网络中的传播来最大限度地减少错误信息的传播。实现这一目标尤其具有挑战性，因为它需要尽快以高置信度检测假新闻。我们表明，为了有效地利用用户的标志，这是至关重要的是要了解用户的标记的准确性。我们开发了一种新的算法DETECTIVE，它可以执行贝叶斯推理来检测假新闻，并随着时间的推移联合学习用户的标记准确性。我们的算法采用后验采样来积极权衡剥削（选择在给定时期最大化客观价值的新闻）和探索（选择最大化信息价值的新闻，以了解用户的标记准确性）。我们通过广泛的实验证明了我们方法的有效性，并展示了利用社区信号进行假新闻检测的能力。
2018-03-02 cs.SI
News Labeling as Early as Possible: Real or Fake?
Sharif University of Technology（谢里夫理工大学）
通过在线社交网络在真实和虚假新闻传播之间进行伪装是许多应用中的重要问题。新闻发布时间和检测其标签之间的时间间隔是广播真实信息和避免虚假信息的重要一步。因此，该领域具有挑战性的任务之一是在传播的早期阶段识别虚假和真实新闻。然而，在最小化时间间隔和最大化准确性之间存在权衡。尽管最近在检测假新闻方面做出了努力，但还没有明显的工作将早期检测明确纳入其模型中。本文针对新闻的准确早期标注问题，提出了一种在建模和预测中同时考虑早期性的模型。该方法利用递归神经网络与一个新的损失函数，和一个新的停止规则。鉴于新闻的上下文，我们首先将其嵌入到特定于类的文本表示中。然后，我们利用现有的用户的公共配置文件，和新闻传播的速度，早期标记的新闻。在真实数据集上的实验表明，与最先进的基线和模型相比，我们的模型在早期标记和准确性方面都是有效的。
2019-06-08 cs.CL cs.LG cs.SI
FaNDS: Fake News Detection System Using Energy Flow
最近，“假新闻”一词已被广泛用于虚假信息、误导信息、恶作剧、宣传、讽刺、谣言、点击诱饵和垃圾新闻。它已成为世界各地的一个严重问题。我们提出了一个新的系统，FaNDS，可以有效地检测假新闻。该系统是基于几个概念中使用的一些以前的作品，但在不同的上下文中。有两个主要概念：不一致图和能量流。不一致图包含作为节点的新闻项和作为边的它们之间的不一致意见。能量流为每个节点分配一个初始能量，然后一些能量沿着边缘传播，直到所有节点上的能量分布收敛。为了说明FaNDS，我们使用来自假新闻挑战赛（FNC-1）的原始数据。首先，必须重构数据以生成不一致图。该图包含具有定义良好的形状的各种子图，这些子图表示新闻项之间的不同类型的连接。然后应用能量流方法。具有高能量的节点是假新闻的候选者。在我们的实验中，所有这些确实都是假新闻，因为我们使用几个可靠的网站进行了检查。我们将FaNDS与其他几种假新闻检测方法进行了比较，发现它在发现假新闻方面更敏感。
2020-10-05 cs.SI
Comparing the willingness to share for human-generated vs. AI-generated fake news
研究通过988名受试者和20条COVID-19虚假新闻的预注册在线实验，比较了人类与GPT-4生成虚假新闻的感知准确性和分享意愿，发现AI生成新闻虽被认为准确性较低但分享倾向相同，并揭示了影响用户轻信AI虚假新闻的社会经济因素。
2024-02-12 cs.SI physics.soc-ph
FNR: A Similarity and Transformer-Based Approach to Detect Multi-Modal Fake News in Social Media
Sharif University of Technology（谢里夫理工大学）
社交媒体的可用性和互动性使其成为全球新闻的主要来源。社交媒体的普及诱使犯罪分子通过使用诱人的文字和误导性的图像制作和传播假新闻来追求他们的不道德意图。因此，验证社交媒体新闻和发现假货至关重要。这项工作旨在分析社交媒体中文本和图像的多模态特征，以检测假新闻。我们提出了一个假新闻揭示器（FNR）的方法，利用变换学习提取上下文和语义特征和对比损失，以确定图像和文本之间的相似性。我们在两个真实的社交媒体数据集上应用了FNR。实验结果表明，与以往的方法相比，该方法在检测假新闻方面具有更高的准确率。
2021-12-02 cs.CY cs.LG cs.MM
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame（圣母大学）
近年来，由于在线社交网络的蓬勃发展，检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在，采用倾向分数匹配（PSM）方法选择可泛化特征，以减少混杂变量的影响。实验结果表明，使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法（分类器），如逻辑回归，随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
An organized review of key factors for fake news detection
社交媒体上的假新闻迅速成为当今社会讨论最多的话题之一。随着虚假信息的激增并在政治、经济和社会领域中造成重大影响，在过去几年中已经进行了分析和自动识别这种类型的内容的研究工作。在本文中，我们试图总结关于社交媒体中假新闻主题的主要研究结果，强调所采取的主要研究路径，并特别关注假新闻和机器人账户的检测。
2021-02-26 cs.SI
The Role of User Profile for Fake News Detection
从社交媒体上消费新闻正变得越来越受欢迎。社交媒体因其信息传播速度快、成本低、访问方便而吸引用户。然而，社交媒体也使假新闻得以传播。由于假新闻的社会危害性，对假新闻的检测越来越受到人们的关注。然而，仅使用新闻内容的检测性能通常不令人满意，因为假新闻是模仿真实新闻编写的。因此，有必要深入了解社交媒体上的用户简档与假新闻之间的关系。在本文中，我们研究了理解和利用社交媒体上的用户简档进行假新闻检测的挑战性问题。为了理解用户简档与假新闻之间的联系，首先，我们测量了用户在社交媒体上的分享行为，并将更有可能分享假新闻和真新闻的代表性用户分组;然后，我们对这些用户组之间的显式和隐式档案特征进行了比较分析，揭示了它们有助于区分假新闻和真新闻的潜力。为了利用用户简档功能，我们证明了这些用户简档功能在假新闻分类任务中的有用性。我们进一步验证这些功能的有效性，通过特征重要性分析。本文的研究成果为进一步深入挖掘社交媒体的用户简档特征，增强对虚假新闻的检测能力奠定了基础。
2019-04-30 cs.IR cs.SI
"This is Fake! Shared it by Mistake": Assessing the Intent of Fake News Spreaders
Syracuse University（雪城大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Arizona State University（亚利桑那州立大学）
个人可能会被假新闻误导，并在不知道它是假的情况下无意中传播。这种现象经常被观察到，但尚未进行调查。我们这项工作的目的是评估假新闻传播者的意图。为了区分有意传播和无意传播，我们研究了无意传播的心理学解释。在此基础上，我们提出了一个影响图，利用它来评估假新闻传播者的意图。我们广泛的实验表明，评估的意图可以帮助显着区分有意和无意的假新闻传播者。此外，估计的意图可以显着改善当前检测假新闻的技术。据我们所知，这是第一个对个人在假新闻传播中的意图进行建模的工作。
2022-02-13 cs.AI cs.SI
Attacking Fake News Detectors via Manipulating News Social Engagement
本文提出首个针对基于GNN的假新闻检测器的对抗攻击框架，通过含三类智能体的多智能体强化学习模拟欺诈者协调行为，实验证明其可有效破坏检测器性能，为假新闻检测研究提供参考。
2023-04-27 cs.SI
Open Issues in Combating Fake News: Interpretability as an Opportunity
打击假新闻需要多种防御手段。虽然谣言检测和各种语言分析技术是检测社交媒体中虚假内容的常用方法，但在机器学习社区中可以探索其他可行的缓解方法。在本文中，我们提出了假新闻研究中需要进一步关注的开放问题和机会。我们首先回顾了社交媒体中新闻生存周期的不同阶段，并通过三个例子讨论了新闻推送算法在传播假新闻内容时的核心脆弱性问题。然后，我们讨论了假新闻问题的复杂性和不明确性如何限制了这一领域的进步。最后，我们提出了从可解释的机器学习来减轻假新闻问题的研究机会，包括1）可解释的假新闻检测和2）透明的新闻提要算法。我们提出了可解释性的三个维度，包括算法可解释性，人类可解释性，以及包含支持证据，这些证据可以以不同的方式使假新闻缓解方法受益。
2019-04-04 cs.IR cs.SI
Modeling the spread of fake news on Twitter
假新闻可能对社会产生重大负面影响，因为移动设备的使用越来越多，全球互联网接入也在增加。因此，有必要建立一个简单的数学模型来理解假新闻的在线传播。在这项研究中，我们提出了一个假新闻在Twitter上传播的点过程模型。该模型将假新闻的传播描述为两个阶段的过程：最初，假新闻作为一条普通新闻传播;然后，当大多数用户开始认识到新闻的虚假性时，它本身作为另一个新闻故事传播。我们使用两个在Twitter上传播的假新闻项目数据集来验证这个模型。我们表明，该模型在准确预测假新闻传播的演变方面优于当前最先进的方法。此外，文本分析表明，我们的模型适当地推断了更正时间，即，当Twitter用户开始意识到新闻的虚假性时。该模型有助于了解假新闻在社交媒体上的传播动态。它提取传播模式的紧凑表示的能力可能有助于检测和缓解假新闻。
2021-04-27 cs.CY cs.SI
Exploring agent interaction patterns in the comment sections of fake and real news
本研究通过分析Reddit数据集，从网络结构和节点情感角度探索了虚假与真实新闻评论区中的智能体交互模式，发现虚假新闻更易形成群组且负面情感多，情感分布早期即稳定，为社交网络假新闻早期检测提供了理论与实践意义。
2024-10-11 cs.SI
Fake News Detection through Graph Comment Advanced Learning
虚假信息一直被认为是一个严重的社会问题，假新闻是其中最具代表性的问题之一。更糟糕的是，当今高度发达的社交媒体使得假新闻以令人难以置信的速度广泛传播，给人类生活的各个方面带来实质性的危害。然而，社交媒体的普及也为更好地发现假新闻提供了机会。与仅关注内容或用户评论的传统手段不同，异构社交媒体信息的有效协作，包括新闻的内容和上下文因素，用户的评论以及社交媒体与用户的互动，将有望更好地检测假新闻。基于上述观察，本文提出了一种新的检测框架，即图评论-用户高级学习框架（GCAL）。用户评论信息在虚假新闻检测中至关重要，但尚未得到充分研究。因此，我们通过基于异构图神经网络的网络表示学习来建模用户评论上下文。我们在两个真实世界的数据集上进行了实验，结果表明，所提出的联合模型优于8种最先进的假新闻检测基线方法（准确率至少为4%，召回率至少为7%，F1至少为5%）。此外，所提出的方法也是可解释的。
2021-01-29 cs.SI
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；Leiden University（莱顿大学）；Harvard University（哈佛大学）
在本文中，我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象，而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中，我们发现相关词汇，提到的实体，周围的主题以及围绕“假新闻”一词的上下文极性发生了变化，这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解，有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Fake news propagate differently from real news even at early stages of spreading
社交媒体对社会来说可能是一把双刃剑，既可以作为交流思想的便捷渠道，也可以作为在大量人口中传播假新闻的意外渠道。虽然现有的假新闻研究主要集中在传播的理论建模或基于机器学习的识别方法上，但重要的是要了解理论模型和黑箱方法之间的现实机制。在这里，我们跟踪了来自不同文化的中国微博和日本Twitter上的假新闻和真实新闻的大型数据库，其中包括他们重新发布的完整痕迹。我们发现，在这两个在线社交网络中，假新闻的传播与真实新闻截然不同，即使在传播的早期阶段，例如在第一次转发后的五个小时。我们的发现展示了集体结构信号，有助于理解假新闻和真实新闻的不同传播演变。与早期的研究不同，在早期阶段识别信息传播的拓扑特性可能为社交媒体中的假新闻早期检测提供新的特征。
2019-04-16 cs.SI physics.soc-ph
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Fake News Detection on Social Media: A Data Mining Perspective
Arizona State University（亚利桑那州立大学）；Charles River Analytics（查尔斯河分析公司）；Michigan State University（密歇根州立大学）
社交媒体对新闻消费来说是一把双刃剑。一方面，它的低成本，容易获取和快速传播的信息导致人们从社交媒体中寻找和消费新闻。另一方面，它使“假新闻”得以广泛传播，即，低质量新闻，故意虚假信息。假新闻的广泛传播有可能对个人和社会产生极其负面的影响。因此，社交媒体上的假新闻检测最近成为一项新兴的研究，引起了极大的关注。社交媒体上的假新闻检测呈现出独特的特征和挑战，使得传统新闻媒体的现有检测算法无效或不适用。首先，假新闻是故意编写的，以误导读者相信虚假信息，这使得基于新闻内容的检测变得困难和重要;因此，我们需要包括辅助信息，例如社交媒体上的用户社交活动，以帮助做出决定。其次，利用这些辅助信息本身就具有挑战性，因为用户与假新闻的社交活动会产生大量、不完整、非结构化和嘈杂的数据。由于社交媒体上的假新闻检测问题既具有挑战性又具有相关性，我们进行了这项调查，以进一步促进对该问题的研究。本文对社交媒体上的假新闻检测进行了全面的综述，包括心理学和社会学理论对假新闻的刻画、数据采掘视角下的现有算法、评价指标和代表性数据集。我们还讨论了社交媒体上虚假新闻检测的相关研究领域，开放问题和未来的研究方向。
2017-09-03 cs.AI cs.SI
This Just In: Fake News Packs a Lot in Title, Uses Simpler, Repetitive Content in Text Body, More Similar to Satire than Real News
Rensselaer Polytechnic Institute（伦斯勒理工学院）
假新闻问题已经引起了很多关注，因为它据称对2016年美国总统选举产生了重大影响。假新闻并不是一个新问题，它在社交网络中的传播已经得到了充分的研究。通常，假新闻讨论的一个潜在假设是，它看起来像真实的新闻，愚弄那些不检查来源可靠性或内容中论点的读者。通过对三个数据集和特征的独特研究，我们发现这种假设是不正确的。在大多数情况下，假新闻更类似于讽刺，而不是真实新闻，这让我们得出结论，假新闻的说服力是通过辩论而不是论点的力量来实现的。我们发现标题的整体结构和标题中专有名词的使用在区分真假方面非常重要。这使我们得出结论，假新闻的目标受众不太可能阅读标题以外的内容，其目的是在实体和声明之间建立心理联系。
2017-03-28 cs.CL cs.SI
Fake News Detection with Heterogeneous Transformer
The Hong Kong University of Science and Technology（香港科技大学）
假新闻在社交网络上的传播引起了公众对有效和高效的假新闻检测方法的需求。一般来说，社交网络上的假新闻是多模态的，与用户和帖子等其他实体有各种联系。社交网络中新闻内容的异质性以及与其他实体的关系给设计一个模型带来了挑战，该模型可以全面捕获社交网络中实体的局部多模态语义和传播模式的全局结构表示，从而有效准确地分类假新闻。本文提出了一种新的基于Transformer的模型：HetTransformer，利用Transformer的编码器-解码器结构捕获新闻传播模式的结构信息，解决了社交网络上的假新闻检测问题。我们首先捕获本地异构语义的新闻，帖子，和用户实体在社交网络。然后，我们应用Transformer来捕获社交网络中传播模式的全局结构表示，以用于假新闻检测。在三个真实世界数据集上的实验表明，我们的模型能够在假新闻检测中超越最先进的基线。
2022-05-06 cs.AI cs.SI
Identifying Cost-effective Debunkers for Multi-stage Fake News Mitigation Campaigns
在线社交网络已经成为传播假新闻的沃土。已经提出了自动减轻假新闻传播的方法。一些研究侧重于选择社交网络上的前k名有影响力的用户作为揭穿者，但揭穿者的社会影响力可能不会像预期的那样转化为广泛的缓解信息传播。其他研究假设了一组给定的揭穿者，并专注于优化揭穿者发布真实新闻的强度，但由于揭穿者是固定的，即使具有高社会影响力和/或高强度发布真实新闻，真实新闻也可能无法到达暴露于假新闻的用户，因此缓解效果可能有限。在本文中，我们提出了多阶段的假新闻缓解活动，其中在每个阶段的预算范围内动态选择揭穿者。我们制定它作为一个强化学习的问题，并提出了一个贪心算法优化预测未来的状态，使揭穿者可以选择的方式，最大限度地提高整体缓解效果。我们对合成和真实世界的社交网络进行了广泛的实验，并表明我们的解决方案在缓解效果方面优于最先进的基线。
2022-03-31 cs.SI
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Modeling The Sharing and Diffusion Of Fake News in Social Media
本文融合用户属性、主题兴趣、关系强度及新闻复杂性、文体与心理特征建模，利用机器学习识别假新闻分享者并预测传播，发现有影响力用户分享的新闻更易扩散。
2024-10-28 cs.SI
Exploiting Multi-domain Visual Information for Fake News Detection
社交媒体的日益普及促进了假新闻的泛滥。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导读者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。假新闻图片，即假新闻帖子中附带的图片，不仅包括被恶意篡改的假图片，还包括被错误地用来表示不相关事件的真实图片。因此，如何充分利用假新闻图像的固有特征是假新闻检测的一个重要而又具有挑战性的问题。在现实世界中，假新闻图像可能在物理和语义层面上都具有与真实新闻图像显著不同的特征，这些特征可以分别在频率和像素域中清楚地反映出来。因此，我们提出了一种新的框架多域视觉神经网络（MVNN）融合的频域和像素域的视觉信息检测假新闻。具体来说，我们设计了一个基于CNN的网络来自动捕获频域中假新闻图像的复杂模式;并利用多分支CNN-RNN模型从像素域中的不同语义层次提取视觉特征。利用注意力机制动态融合频域和像素域的特征表示。在真实世界数据集上进行的大量实验表明，MVNN的准确率至少为9.2%，优于现有方法，并且可以帮助将多模态假新闻检测的性能提高5.2%以上。
2019-08-13 cs.IR cs.MM cs.SI
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University（佛罗里达州立大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
近年来，由于在线社交网络的蓬勃发展，出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语，在线社交网络用户很容易被这些在线假新闻所感染，这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法，并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征，FAKEDETECTOR构建了一个深度扩散网络模型，同时学习新闻文章，创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验，将FAKEDETECTOR与几种最先进的模型进行了比较，实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
Exploring the Role of Visual Content in Fake News Detection
社交媒体的日益普及促进了假新闻的扩散，造成了重大的负面社会影响。因此，社交媒体上的假新闻检测最近成为备受关注的新兴研究领域。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导消费者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。尽管视觉内容很重要，但我们对视觉内容在假新闻检测中的作用的理解仍然有限。本章对虚假新闻中的视觉内容进行了全面的综述，包括多媒体虚假新闻检测的基本概念、有效的视觉特征、典型的检测方法和挑战性问题。本章可以帮助读者理解视觉内容在假新闻检测中的作用，并有效地利用视觉内容来辅助检测多媒体假新闻。
2020-03-11 cs.MM cs.SI
Influence of fake news in Twitter during the 2016 US presidential election
2016年美国总统大选期间推特上假新闻的动态和影响仍有待澄清。在这里，我们使用选举日前五个月的1.71亿条推文的数据集来识别来自220万用户的3000万条推文，其中包含新闻媒体的链接。根据www.opensources.co对新闻媒体的分类，我们发现这些推文中有25%传播虚假或极端偏见的新闻。我们描述了信息流的网络，以找到最有影响力的假新闻和传统新闻的传播者，并使用因果模型来揭示假新闻如何影响总统选举。我们发现，虽然传播传统中间和左倾新闻的顶级影响者在很大程度上影响了克林顿支持者的活动，但对于假新闻来说，这种因果关系是相反的：特朗普支持者的活动影响了顶级假新闻传播者的动态。
2019-03-20 cs.CY cs.SI physics.soc-ph
The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院）；MBZUAI；Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MoE（下一代智能搜索与推荐工程研究中心，教育部）；School of Artifcial Intelligence, Wuhan University（武汉大学人工智能学院）
提出基于LLM智能体的FUSE框架，模拟真实新闻在社交互动中逐步扭曲为假新闻的演化过程，并开发FUSE-EVAL评估真相偏差，实验证明其能有效重现假新闻演化场景并支持早期干预。
2025-05-28 cs.AI cs.SI
Towards Smart Fake News Detection Through Explainable AI
National Institute of Technology Calicut（国家理工学院卡利卡特分校）
由于社交媒体网站的受欢迎程度，人们现在将其视为唯一的信息来源。大多数人通过社交媒体获取新闻。与此同时，近年来假新闻在社交媒体平台上呈指数级增长。几种基于人工智能的检测假新闻的解决方案已经显示出令人鼓舞的结果。另一方面，这些检测系统缺乏解释能力，即，解释他们为什么做出预测的能力。本文重点介绍了可解释的假新闻检测的最新技术水平。我们讨论了当前基于人工智能的可解释假新闻检测模型的缺陷，并介绍了我们正在进行的多模态可解释假新闻检测模型的研究。
2022-07-23 cs.AI cs.IR cs.SI
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University（雪城大学）
假新闻的爆炸性增长及其对民主，正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估：（1）它所携带的虚假知识，（2）它的写作风格，（3）它的传播模式，以及（4）它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是，我们确定并详细说明了各个学科的相关基础理论，以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作，研究假新闻，这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
Less is More: Unseen Domain Fake News Detection via Causal Propagation Substructures
The University of Melbourne（墨尔本大学）；Data61, CSIRO（联邦科学与工业研究组织数据61研究所）
提出因果子图导向的领域自适应假新闻检测模型CSDA，通过提取传播图中的因果子结构增强零样本检测，并在少样本场景下利用对比学习提升性能，在OOD假新闻检测上准确率提升7%至16%。
2024-11-14 cs.AI cs.CL cs.CY
Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences（中国科学院智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻，现有的方法观察新闻帖子的语言模式，并“放大”以验证其内容与知识源或检查其读者的回复。然而，这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度，这是假新闻制造的重要灵感，因为假新闻往往是为了搭上热门事件的顺风车，以意想不到的新奇内容吸引公众的注意力，以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号，我们“拉远”观察新闻环境，并提出了新闻环境感知框架（NEP）。对于每一个帖子，我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后，我们设计了一个面向流行和新颖的模块，以感知有用的信号，并进一步帮助最终的预测。在我们新构建的数据集上的实验表明，NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University（崇实大学）；Adobe Research（奥多比研究院）
本研究调查假新闻如何使用新闻文章的缩略图，重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象，特别是在社交媒体环境中，用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析，我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步，我们试图检测新闻文章与图像-文本不一致。评估实验表明，基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
On the Coherence of Fake News Articles
University of Sheffield（谢菲尔德大学）；University of Calicut（卡利卡特大学）
新媒体和在线媒体来源中假新闻的产生和传播正在成为一种具有高度社会意义的现象。使用数据驱动的分析来对抗它们最近引起了学术界的兴趣。在这项研究中，我们分析了假新闻与合法新闻的语篇连贯性。我们利用自然语言处理和数据科学中最先进的方法开发了三种文本连贯性的计算公式。两个现实世界的数据集，从广泛不同的领域，有假/合法的文章标签，然后分析文本的连贯性。我们观察到虚假和合法新闻文章的文本连贯性存在明显差异，与合法新闻文章相比，虚假新闻文章的连贯性一直较低。虽然假新闻与合法新闻相比的相对连贯性不足是我们研究的主要观察结果，但我们分析了差异的几个方面，并概述了进一步调查的潜在途径。
2020-08-15 cs.CL cs.SI
