Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
Fake News Detection using Temporal Features Extracted via Point Process
许多人使用社交网络服务（SNS）来轻松访问各种新闻。有很多方法可以获取和分享“假新闻”，即带有虚假信息的新闻。为了解决假新闻，已经进行了几项研究，通过使用SNS提取的特征来检测假新闻。在这项研究中，我们试图使用时间特征生成的SNS帖子使用点处理算法来识别假新闻从真正的新闻。假新闻检测中的时间特征具有鲁棒性优于现有特征的优点，因为它对假新闻传播者的依赖性最小。此外，我们提出了一种新的基于多模态注意力的方法，该方法包括语言和用户特征以及时间特征，用于检测SNS帖子中的假新闻。在三个公开数据集上的实验结果表明，与现有方法相比，该模型具有更好的性能，并证明了时间特征在虚假新闻检测中的有效性。
2020-07-28 cs.CY cs.SI
Comparing the willingness to share for human-generated vs. AI-generated fake news
研究通过988名受试者和20条COVID-19虚假新闻的预注册在线实验，比较了人类与GPT-4生成虚假新闻的感知准确性和分享意愿，发现AI生成新闻虽被认为准确性较低但分享倾向相同，并揭示了影响用户轻信AI虚假新闻的社会经济因素。
2024-02-12 cs.SI physics.soc-ph
Studying Fake News via Network Analysis: Detection and Mitigation
用于新闻消费的社交媒体由于其易于访问、快速传播和低成本而变得越来越受欢迎。然而，社交媒体也助长了“假新闻”的广泛传播，即，故意发布虚假信息的新闻。社交媒体上的假新闻带来了严重的负面社会影响，也带来了独特的挑战。为了应对这些挑战，许多现有的作品从网络的角度利用各种特征来检测和缓解假新闻。从本质上讲，新闻传播生态系统涉及社会化媒体上的三个维度，即，内容维度、社会维度和时间维度。在本章中，我们将回顾用于研究假新闻的网络属性，介绍流行的网络类型以及如何使用这些网络来检测和缓解社交媒体上的假新闻。
2018-04-26 cs.SI
The Role of User Profile for Fake News Detection
从社交媒体上消费新闻正变得越来越受欢迎。社交媒体因其信息传播速度快、成本低、访问方便而吸引用户。然而，社交媒体也使假新闻得以传播。由于假新闻的社会危害性，对假新闻的检测越来越受到人们的关注。然而，仅使用新闻内容的检测性能通常不令人满意，因为假新闻是模仿真实新闻编写的。因此，有必要深入了解社交媒体上的用户简档与假新闻之间的关系。在本文中，我们研究了理解和利用社交媒体上的用户简档进行假新闻检测的挑战性问题。为了理解用户简档与假新闻之间的联系，首先，我们测量了用户在社交媒体上的分享行为，并将更有可能分享假新闻和真新闻的代表性用户分组;然后，我们对这些用户组之间的显式和隐式档案特征进行了比较分析，揭示了它们有助于区分假新闻和真新闻的潜力。为了利用用户简档功能，我们证明了这些用户简档功能在假新闻分类任务中的有用性。我们进一步验证这些功能的有效性，通过特征重要性分析。本文的研究成果为进一步深入挖掘社交媒体的用户简档特征，增强对虚假新闻的检测能力奠定了基础。
2019-04-30 cs.IR cs.SI
"This is Fake! Shared it by Mistake": Assessing the Intent of Fake News Spreaders
Syracuse University（雪城大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Arizona State University（亚利桑那州立大学）
个人可能会被假新闻误导，并在不知道它是假的情况下无意中传播。这种现象经常被观察到，但尚未进行调查。我们这项工作的目的是评估假新闻传播者的意图。为了区分有意传播和无意传播，我们研究了无意传播的心理学解释。在此基础上，我们提出了一个影响图，利用它来评估假新闻传播者的意图。我们广泛的实验表明，评估的意图可以帮助显着区分有意和无意的假新闻传播者。此外，估计的意图可以显着改善当前检测假新闻的技术。据我们所知，这是第一个对个人在假新闻传播中的意图进行建模的工作。
2022-02-13 cs.AI cs.SI
Open Issues in Combating Fake News: Interpretability as an Opportunity
打击假新闻需要多种防御手段。虽然谣言检测和各种语言分析技术是检测社交媒体中虚假内容的常用方法，但在机器学习社区中可以探索其他可行的缓解方法。在本文中，我们提出了假新闻研究中需要进一步关注的开放问题和机会。我们首先回顾了社交媒体中新闻生存周期的不同阶段，并通过三个例子讨论了新闻推送算法在传播假新闻内容时的核心脆弱性问题。然后，我们讨论了假新闻问题的复杂性和不明确性如何限制了这一领域的进步。最后，我们提出了从可解释的机器学习来减轻假新闻问题的研究机会，包括1）可解释的假新闻检测和2）透明的新闻提要算法。我们提出了可解释性的三个维度，包括算法可解释性，人类可解释性，以及包含支持证据，这些证据可以以不同的方式使假新闻缓解方法受益。
2019-04-04 cs.IR cs.SI
FakeSwarm: Improving Fake News Detection with Swarming Characteristics
Georgia Institute of Technology（佐治亚理工学院）；Trine University（特里尼大学）
本文提出FakeSwarm虚假新闻识别系统，通过主成分分析、度量表示和位置编码三类群体特征，在公开数据集上取得超过97%的f1分数和准确率，并验证了群体特征在早期虚假新闻和文本样本短缺场景下能显著提升召回率。
2023-05-30 cs.LG cs.SI
Modeling the spread of fake news on Twitter
假新闻可能对社会产生重大负面影响，因为移动设备的使用越来越多，全球互联网接入也在增加。因此，有必要建立一个简单的数学模型来理解假新闻的在线传播。在这项研究中，我们提出了一个假新闻在Twitter上传播的点过程模型。该模型将假新闻的传播描述为两个阶段的过程：最初，假新闻作为一条普通新闻传播;然后，当大多数用户开始认识到新闻的虚假性时，它本身作为另一个新闻故事传播。我们使用两个在Twitter上传播的假新闻项目数据集来验证这个模型。我们表明，该模型在准确预测假新闻传播的演变方面优于当前最先进的方法。此外，文本分析表明，我们的模型适当地推断了更正时间，即，当Twitter用户开始意识到新闻的虚假性时。该模型有助于了解假新闻在社交媒体上的传播动态。它提取传播模式的紧凑表示的能力可能有助于检测和缓解假新闻。
2021-04-27 cs.CY cs.SI
Fake News Detection in Social Networks via Crowd Signals
我们的工作考虑利用人群信号来检测假新闻，并受到Facebook最近推出的工具的激励，这些工具使用户能够标记假新闻。通过聚合用户的标记，我们的目标是每天选择一小部分新闻，将它们发送给专家（例如，通过第三方事实核查组织），并阻止被专家认定为假新闻的传播。我们工作的主要目标是通过阻止假新闻在网络中的传播来最大限度地减少错误信息的传播。实现这一目标尤其具有挑战性，因为它需要尽快以高置信度检测假新闻。我们表明，为了有效地利用用户的标志，这是至关重要的是要了解用户的标记的准确性。我们开发了一种新的算法DETECTIVE，它可以执行贝叶斯推理来检测假新闻，并随着时间的推移联合学习用户的标记准确性。我们的算法采用后验采样来积极权衡剥削（选择在给定时期最大化客观价值的新闻）和探索（选择最大化信息价值的新闻，以了解用户的标记准确性）。我们通过广泛的实验证明了我们方法的有效性，并展示了利用社区信号进行假新闻检测的能力。
2018-03-02 cs.SI
FaNDS: Fake News Detection System Using Energy Flow
最近，“假新闻”一词已被广泛用于虚假信息、误导信息、恶作剧、宣传、讽刺、谣言、点击诱饵和垃圾新闻。它已成为世界各地的一个严重问题。我们提出了一个新的系统，FaNDS，可以有效地检测假新闻。该系统是基于几个概念中使用的一些以前的作品，但在不同的上下文中。有两个主要概念：不一致图和能量流。不一致图包含作为节点的新闻项和作为边的它们之间的不一致意见。能量流为每个节点分配一个初始能量，然后一些能量沿着边缘传播，直到所有节点上的能量分布收敛。为了说明FaNDS，我们使用来自假新闻挑战赛（FNC-1）的原始数据。首先，必须重构数据以生成不一致图。该图包含具有定义良好的形状的各种子图，这些子图表示新闻项之间的不同类型的连接。然后应用能量流方法。具有高能量的节点是假新闻的候选者。在我们的实验中，所有这些确实都是假新闻，因为我们使用几个可靠的网站进行了检查。我们将FaNDS与其他几种假新闻检测方法进行了比较，发现它在发现假新闻方面更敏感。
2020-10-05 cs.SI
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；Leiden University（莱顿大学）；Harvard University（哈佛大学）
在本文中，我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象，而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中，我们发现相关词汇，提到的实体，周围的主题以及围绕“假新闻”一词的上下文极性发生了变化，这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解，有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
An organized review of key factors for fake news detection
社交媒体上的假新闻迅速成为当今社会讨论最多的话题之一。随着虚假信息的激增并在政治、经济和社会领域中造成重大影响，在过去几年中已经进行了分析和自动识别这种类型的内容的研究工作。在本文中，我们试图总结关于社交媒体中假新闻主题的主要研究结果，强调所采取的主要研究路径，并特别关注假新闻和机器人账户的检测。
2021-02-26 cs.SI
Fake news propagate differently from real news even at early stages of spreading
社交媒体对社会来说可能是一把双刃剑，既可以作为交流思想的便捷渠道，也可以作为在大量人口中传播假新闻的意外渠道。虽然现有的假新闻研究主要集中在传播的理论建模或基于机器学习的识别方法上，但重要的是要了解理论模型和黑箱方法之间的现实机制。在这里，我们跟踪了来自不同文化的中国微博和日本Twitter上的假新闻和真实新闻的大型数据库，其中包括他们重新发布的完整痕迹。我们发现，在这两个在线社交网络中，假新闻的传播与真实新闻截然不同，即使在传播的早期阶段，例如在第一次转发后的五个小时。我们的发现展示了集体结构信号，有助于理解假新闻和真实新闻的不同传播演变。与早期的研究不同，在早期阶段识别信息传播的拓扑特性可能为社交媒体中的假新闻早期检测提供新的特征。
2019-04-16 cs.SI physics.soc-ph
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University（佛罗里达州立大学）
假新闻的病毒式传播造成了巨大的社会危害，使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息，通过学习提取的新闻内容或写作风格的内部知识。然而，故意的谣言可以掩盖写作风格，绕过语言模型，并使简单的基于文本的模型无效。事实上，新闻文章和其他相关组件（如新闻创作者和新闻主题）可以建模为异构信息网络（简称HIN）。本文提出了一种新的虚假新闻检测框架--层次图注意力网络（HGAT），该框架利用层次注意力机制对HIN中的节点进行表示学习，然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明，HGAT可以优于基于文本的模型和其他基于网络的模型。此外，实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University（佛罗里达州立大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
近年来，由于在线社交网络的蓬勃发展，出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语，在线社交网络用户很容易被这些在线假新闻所感染，这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法，并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征，FAKEDETECTOR构建了一个深度扩散网络模型，同时学习新闻文章，创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验，将FAKEDETECTOR与几种最先进的模型进行了比较，实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Fake News Detection on Social Media: A Data Mining Perspective
Arizona State University（亚利桑那州立大学）；Charles River Analytics（查尔斯河分析公司）；Michigan State University（密歇根州立大学）
社交媒体对新闻消费来说是一把双刃剑。一方面，它的低成本，容易获取和快速传播的信息导致人们从社交媒体中寻找和消费新闻。另一方面，它使“假新闻”得以广泛传播，即，低质量新闻，故意虚假信息。假新闻的广泛传播有可能对个人和社会产生极其负面的影响。因此，社交媒体上的假新闻检测最近成为一项新兴的研究，引起了极大的关注。社交媒体上的假新闻检测呈现出独特的特征和挑战，使得传统新闻媒体的现有检测算法无效或不适用。首先，假新闻是故意编写的，以误导读者相信虚假信息，这使得基于新闻内容的检测变得困难和重要;因此，我们需要包括辅助信息，例如社交媒体上的用户社交活动，以帮助做出决定。其次，利用这些辅助信息本身就具有挑战性，因为用户与假新闻的社交活动会产生大量、不完整、非结构化和嘈杂的数据。由于社交媒体上的假新闻检测问题既具有挑战性又具有相关性，我们进行了这项调查，以进一步促进对该问题的研究。本文对社交媒体上的假新闻检测进行了全面的综述，包括心理学和社会学理论对假新闻的刻画、数据采掘视角下的现有算法、评价指标和代表性数据集。我们还讨论了社交媒体上虚假新闻检测的相关研究领域，开放问题和未来的研究方向。
2017-09-03 cs.AI cs.SI
Ginger Cannot Cure Cancer: Battling Fake Health News with a Comprehensive Data Repository
The Pennsylvania State University（宾夕法尼亚州立大学）
目前，互联网是获取健康信息的主要来源。互联网上大量的虚假健康新闻已经成为对公众健康的严重威胁。在虚假新闻检测领域，国内外学者做了大量的研究和工作，但针对健康新闻的研究较少。例如，虚假健康新闻检测需要开发可解释性。为了缓解这些问题，我们构建了一个全面的存储库FakeHealth，其中包括具有丰富功能的新闻内容，具有详细解释的新闻评论，社交活动和用户-用户社交网络。此外，进行探索性分析，以了解数据集的特征，分析有用的模式，并验证健康假新闻检测数据集的质量。我们还讨论了健康假新闻检测的新的和潜在的未来研究方向。
2020-03-30 cs.LG cs.SI stat.ML
Exploiting Multi-domain Visual Information for Fake News Detection
社交媒体的日益普及促进了假新闻的泛滥。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导读者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。假新闻图片，即假新闻帖子中附带的图片，不仅包括被恶意篡改的假图片，还包括被错误地用来表示不相关事件的真实图片。因此，如何充分利用假新闻图像的固有特征是假新闻检测的一个重要而又具有挑战性的问题。在现实世界中，假新闻图像可能在物理和语义层面上都具有与真实新闻图像显著不同的特征，这些特征可以分别在频率和像素域中清楚地反映出来。因此，我们提出了一种新的框架多域视觉神经网络（MVNN）融合的频域和像素域的视觉信息检测假新闻。具体来说，我们设计了一个基于CNN的网络来自动捕获频域中假新闻图像的复杂模式;并利用多分支CNN-RNN模型从像素域中的不同语义层次提取视觉特征。利用注意力机制动态融合频域和像素域的特征表示。在真实世界数据集上进行的大量实验表明，MVNN的准确率至少为9.2%，优于现有方法，并且可以帮助将多模态假新闻检测的性能提高5.2%以上。
2019-08-13 cs.IR cs.MM cs.SI
This Just In: Fake News Packs a Lot in Title, Uses Simpler, Repetitive Content in Text Body, More Similar to Satire than Real News
Rensselaer Polytechnic Institute（伦斯勒理工学院）
假新闻问题已经引起了很多关注，因为它据称对2016年美国总统选举产生了重大影响。假新闻并不是一个新问题，它在社交网络中的传播已经得到了充分的研究。通常，假新闻讨论的一个潜在假设是，它看起来像真实的新闻，愚弄那些不检查来源可靠性或内容中论点的读者。通过对三个数据集和特征的独特研究，我们发现这种假设是不正确的。在大多数情况下，假新闻更类似于讽刺，而不是真实新闻，这让我们得出结论，假新闻的说服力是通过辩论而不是论点的力量来实现的。我们发现标题的整体结构和标题中专有名词的使用在区分真假方面非常重要。这使我们得出结论，假新闻的目标受众不太可能阅读标题以外的内容，其目的是在实体和声明之间建立心理联系。
2017-03-28 cs.CL cs.SI
Fake News Detection with Heterogeneous Transformer
The Hong Kong University of Science and Technology（香港科技大学）
假新闻在社交网络上的传播引起了公众对有效和高效的假新闻检测方法的需求。一般来说，社交网络上的假新闻是多模态的，与用户和帖子等其他实体有各种联系。社交网络中新闻内容的异质性以及与其他实体的关系给设计一个模型带来了挑战，该模型可以全面捕获社交网络中实体的局部多模态语义和传播模式的全局结构表示，从而有效准确地分类假新闻。本文提出了一种新的基于Transformer的模型：HetTransformer，利用Transformer的编码器-解码器结构捕获新闻传播模式的结构信息，解决了社交网络上的假新闻检测问题。我们首先捕获本地异构语义的新闻，帖子，和用户实体在社交网络。然后，我们应用Transformer来捕获社交网络中传播模式的全局结构表示，以用于假新闻检测。在三个真实世界数据集上的实验表明，我们的模型能够在假新闻检测中超越最先进的基线。
2022-05-06 cs.AI cs.SI
Attacking Fake News Detectors via Manipulating News Social Engagement
本文提出首个针对基于GNN的假新闻检测器的对抗攻击框架，通过含三类智能体的多智能体强化学习模拟欺诈者协调行为，实验证明其可有效破坏检测器性能，为假新闻检测研究提供参考。
2023-04-27 cs.SI
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
Influence of fake news in Twitter during the 2016 US presidential election
2016年美国总统大选期间推特上假新闻的动态和影响仍有待澄清。在这里，我们使用选举日前五个月的1.71亿条推文的数据集来识别来自220万用户的3000万条推文，其中包含新闻媒体的链接。根据www.opensources.co对新闻媒体的分类，我们发现这些推文中有25%传播虚假或极端偏见的新闻。我们描述了信息流的网络，以找到最有影响力的假新闻和传统新闻的传播者，并使用因果模型来揭示假新闻如何影响总统选举。我们发现，虽然传播传统中间和左倾新闻的顶级影响者在很大程度上影响了克林顿支持者的活动，但对于假新闻来说，这种因果关系是相反的：特朗普支持者的活动影响了顶级假新闻传播者的动态。
2019-03-20 cs.CY cs.SI physics.soc-ph
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Towards Smart Fake News Detection Through Explainable AI
National Institute of Technology Calicut（国家理工学院卡利卡特分校）
由于社交媒体网站的受欢迎程度，人们现在将其视为唯一的信息来源。大多数人通过社交媒体获取新闻。与此同时，近年来假新闻在社交媒体平台上呈指数级增长。几种基于人工智能的检测假新闻的解决方案已经显示出令人鼓舞的结果。另一方面，这些检测系统缺乏解释能力，即，解释他们为什么做出预测的能力。本文重点介绍了可解释的假新闻检测的最新技术水平。我们讨论了当前基于人工智能的可解释假新闻检测模型的缺陷，并介绍了我们正在进行的多模态可解释假新闻检测模型的研究。
2022-07-23 cs.AI cs.IR cs.SI
Exploring agent interaction patterns in the comment sections of fake and real news
本研究通过分析Reddit数据集，从网络结构和节点情感角度探索了虚假与真实新闻评论区中的智能体交互模式，发现虚假新闻更易形成群组且负面情感多，情感分布早期即稳定，为社交网络假新闻早期检测提供了理论与实践意义。
2024-10-11 cs.SI
Fake News Detection through Graph Comment Advanced Learning
虚假信息一直被认为是一个严重的社会问题，假新闻是其中最具代表性的问题之一。更糟糕的是，当今高度发达的社交媒体使得假新闻以令人难以置信的速度广泛传播，给人类生活的各个方面带来实质性的危害。然而，社交媒体的普及也为更好地发现假新闻提供了机会。与仅关注内容或用户评论的传统手段不同，异构社交媒体信息的有效协作，包括新闻的内容和上下文因素，用户的评论以及社交媒体与用户的互动，将有望更好地检测假新闻。基于上述观察，本文提出了一种新的检测框架，即图评论-用户高级学习框架（GCAL）。用户评论信息在虚假新闻检测中至关重要，但尚未得到充分研究。因此，我们通过基于异构图神经网络的网络表示学习来建模用户评论上下文。我们在两个真实世界的数据集上进行了实验，结果表明，所提出的联合模型优于8种最先进的假新闻检测基线方法（准确率至少为4%，召回率至少为7%，F1至少为5%）。此外，所提出的方法也是可解释的。
2021-01-29 cs.SI
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University（雪城大学）
假新闻的爆炸性增长及其对民主，正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估：（1）它所携带的虚假知识，（2）它的写作风格，（3）它的传播模式，以及（4）它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是，我们确定并详细说明了各个学科的相关基础理论，以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作，研究假新闻，这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
Mathematical models for fake news
在过去十年中，很明显，政治背景下的故意虚假信息-所谓的假新闻-是对民主的威胁。然而，到目前为止，人们对如何定义假新闻还没有一个清晰的认识，更不用说如何对假新闻进行建模了。给出了假新闻的定义，介绍了两种假新闻建模方法及其在选举和公民投票中的影响。第一种方法，基于一个代表性的选民的想法，被证明是适合于在宏观层面上获得与假新闻相关的现象的定性理解。第二种方法，基于选举微观结构的想法，通过模拟个人选民的偏好来描述选民的集体行为。通过模拟研究表明，仅仅知道假新闻可能在流通，就可以大大减轻假新闻的影响。
2021-11-30 cs.IT cs.SI econ.GN
Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences（中国科学院智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻，现有的方法观察新闻帖子的语言模式，并“放大”以验证其内容与知识源或检查其读者的回复。然而，这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度，这是假新闻制造的重要灵感，因为假新闻往往是为了搭上热门事件的顺风车，以意想不到的新奇内容吸引公众的注意力，以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号，我们“拉远”观察新闻环境，并提出了新闻环境感知框架（NEP）。对于每一个帖子，我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后，我们设计了一个面向流行和新颖的模块，以感知有用的信号，并进一步帮助最终的预测。在我们新构建的数据集上的实验表明，NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
Exploring the Role of Visual Content in Fake News Detection
社交媒体的日益普及促进了假新闻的扩散，造成了重大的负面社会影响。因此，社交媒体上的假新闻检测最近成为备受关注的新兴研究领域。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导消费者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。尽管视觉内容很重要，但我们对视觉内容在假新闻检测中的作用的理解仍然有限。本章对虚假新闻中的视觉内容进行了全面的综述，包括多媒体虚假新闻检测的基本概念、有效的视觉特征、典型的检测方法和挑战性问题。本章可以帮助读者理解视觉内容在假新闻检测中的作用，并有效地利用视觉内容来辅助检测多媒体假新闻。
2020-03-11 cs.MM cs.SI
The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院）；MBZUAI；Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MoE（下一代智能搜索与推荐工程研究中心，教育部）；School of Artifcial Intelligence, Wuhan University（武汉大学人工智能学院）
提出基于LLM智能体的FUSE框架，模拟真实新闻在社交互动中逐步扭曲为假新闻的演化过程，并开发FUSE-EVAL评估真相偏差，实验证明其能有效重现假新闻演化场景并支持早期干预。
2025-05-28 cs.AI cs.SI
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University（武汉大学弘毅学堂）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题，直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来，已经提出了许多检测方法来打击假新闻，但它们主要集中在文章的语言方面，而没有任何事实检查。在本文中，我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验，我们证明了事实篡改攻击是有效的。为了解决这些问题，我们认为，事实核查应与语言特征分析相结合，以真正区分假新闻和真新闻。提出了一种众包的知识图谱，作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
Human Brains Can't Detect Fake News: A Neuro-Cognitive Study of Textual Disinformation Susceptibility
Texas A&M University（德州农工大学）；The University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
数字虚假信息（又称“假新闻”）的传播可以说是互联网上最严重的威胁之一，可能会造成大规模的个人和社会伤害。假新闻攻击的易感性取决于互联网用户在阅读后是否认为假新闻文章/片段是合法的。在本文中，我们试图通过神经认知方法深入了解用户对以文本为中心的假新闻攻击的易感性。我们通过EEG研究与假/真新闻相关的神经基础。我们对人类用户进行了一项实验，以彻底调查用户对假/真新闻的感知和认知处理。我们分析了与不同类别的新闻文章的假/真新闻检测任务相关的神经活动。我们的研究结果表明，人类大脑处理假新闻与真新闻的方式可能没有统计学上的显著差异或自动推断的差异，而当人们受到（真实/假）新闻与休息状态，甚至在一些不同类别的假新闻之间观察到显着差异。这一神经认知发现可能有助于证明用户对假新闻攻击的易感性，行为分析也证实了这一点。换句话说，在行为和神经领域，假新闻文章似乎与真实新闻文章几乎无法区分。我们的工作旨在剖析假新闻攻击背后的基本神经现象，并通过人类生物学的限制来解释用户对这些攻击的易感性。我们认为，对于研究人员和从业人员来说，这可能是一个值得注意的见解，表明人工检测假新闻可能是无效的，这也可能对自动检测方法的设计产生不利影响，这些方法主要依赖于人工标记文本文章来构建训练模型。
2022-07-18 cs.CL cs.CR cs.CY
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University（崇实大学）；Adobe Research（奥多比研究院）
本研究调查假新闻如何使用新闻文章的缩略图，重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象，特别是在社交媒体环境中，用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析，我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步，我们试图检测新闻文章与图像-文本不一致。评估实验表明，基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS（中国科学院智能信息处理重点实验室，中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）
假新闻在各个领域的社交媒体上广泛传播，导致政治，灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测（SFND），这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域，多领域虚假新闻检测（MFND）越来越受到关注。然而，数据分布，如词频和传播模式，从域到域，即域移位。面对严重领域转移的挑战，现有的假新闻检测技术在多领域场景中表现不佳。因此，设计一种专门的MFND模型是非常必要的。在本文中，我们首先为MFND设计了一个带有域标签的假新闻数据集基准，即微博21，它由来自9个不同领域的4，488条假新闻和4，640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型（MDFEND），利用域门聚合由混合专家模型提取的多个表示。实验结果表明，MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
On the Coherence of Fake News Articles
University of Sheffield（谢菲尔德大学）；University of Calicut（卡利卡特大学）
新媒体和在线媒体来源中假新闻的产生和传播正在成为一种具有高度社会意义的现象。使用数据驱动的分析来对抗它们最近引起了学术界的兴趣。在这项研究中，我们分析了假新闻与合法新闻的语篇连贯性。我们利用自然语言处理和数据科学中最先进的方法开发了三种文本连贯性的计算公式。两个现实世界的数据集，从广泛不同的领域，有假/合法的文章标签，然后分析文本的连贯性。我们观察到虚假和合法新闻文章的文本连贯性存在明显差异，与合法新闻文章相比，虚假新闻文章的连贯性一直较低。虽然假新闻与合法新闻相比的相对连贯性不足是我们研究的主要观察结果，但我们分析了差异的几个方面，并概述了进一步调查的潜在途径。
2020-08-15 cs.CL cs.SI
Identifying Cost-effective Debunkers for Multi-stage Fake News Mitigation Campaigns
在线社交网络已经成为传播假新闻的沃土。已经提出了自动减轻假新闻传播的方法。一些研究侧重于选择社交网络上的前k名有影响力的用户作为揭穿者，但揭穿者的社会影响力可能不会像预期的那样转化为广泛的缓解信息传播。其他研究假设了一组给定的揭穿者，并专注于优化揭穿者发布真实新闻的强度，但由于揭穿者是固定的，即使具有高社会影响力和/或高强度发布真实新闻，真实新闻也可能无法到达暴露于假新闻的用户，因此缓解效果可能有限。在本文中，我们提出了多阶段的假新闻缓解活动，其中在每个阶段的预算范围内动态选择揭穿者。我们制定它作为一个强化学习的问题，并提出了一个贪心算法优化预测未来的状态，使揭穿者可以选择的方式，最大限度地提高整体缓解效果。我们对合成和真实世界的社交网络进行了广泛的实验，并表明我们的解决方案在缓解效果方面优于最先进的基线。
2022-03-31 cs.SI
Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks
Arizona State University（亚利桑那州立大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Bytedance（字节跳动）；Illinois Institute of Technology（伊利诺伊理工学院）
如今，假新闻很容易通过在线社交网络传播，成为对个人和社会的巨大威胁。评估新闻的真实性是具有挑战性的，因为其精心编造的内容，使得很难获得大规模的假新闻数据注释。由于这种数据稀缺性问题，检测假新闻往往会失败，并且在监督环境中过度拟合。最近，图神经网络（GNN）已被采用，以利用标记和未标记的实例之间的更丰富的关系信息。尽管它们的结果很有希望，但它们本质上专注于新闻之间的成对关系，这可能会限制捕捉在群体层面传播的假新闻的表达能力。例如，当我们更好地理解易感用户之间共享的新闻片段之间的关系时，检测假新闻可能会更有效。为了解决这些问题，我们建议利用超图来表示新闻之间的群体互动，同时利用其双层注意力机制来关注重要的新闻关系。基于两个基准数据集的实验表明，我们的方法产生了显着的性能，并保持高性能，即使是一个小的子集标记的新闻数据。
2022-12-24 cs.LG cs.SI
Modeling The Sharing and Diffusion Of Fake News in Social Media
本文融合用户属性、主题兴趣、关系强度及新闻复杂性、文体与心理特征建模，利用机器学习识别假新闻分享者并预测传播，发现有影响力用户分享的新闻更易扩散。
2024-10-28 cs.SI
Modelling Social Context for Fake News Detection: A Graph Neural Network Based Approach
Pandit Deendayal Energy University（潘迪特·迪恩达亚尔能源大学）
虚假新闻的检测对于确保信息的真实性和维护新闻生态系统的可靠性至关重要。最近，由于社交媒体和Deep Fake等虚假内容生成技术的激增，虚假新闻内容有所增加。大多数现有的虚假新闻检测模式都集中在基于内容的方法上。然而，大多数这些技术未能处理生成模型产生的超现实合成媒体。我们最近的研究发现，真实和虚假新闻的传播特征是可以区分的，无论它们的形式如何。在这方面，我们已经调查了基于社会背景的辅助信息来检测假新闻。本文采用基于混合图神经网络的方法分析了假新闻检测的社会背景。这种混合模型是基于集成的图神经网络的新闻传播和双向编码器表示从Transformers模型的新闻内容学习文本特征。因此，提出的方法可以学习内容和上下文特征，因此能够优于基线模型，在PolitiFact上的f1得分为0.91，在Gossipcop数据集上的f1得分为0.93
2022-07-27 cs.CL cs.IR cs.SI
Integrating Human-in-the-loop into Swarm Learning for Decentralized Fake News Detection
Prairie View A&M University（普雷里维尤农工大学）
社交媒体已成为产生和传播假新闻的有效平台，这些假新闻可能会误导人们，甚至扭曲舆论。然而，用于假新闻检测的集中式方法在用于训练模型的集中式数据汇集过程中不能有效地保护用户隐私。此外，它不能完全将用户反馈纳入学习检测模型的循环中，以进一步增强假新闻检测。为了克服这些挑战，本文提出了一种新的分散方法，基于人在回路的群学习（HBSL），将用户反馈集成到学习和推理的回路中，以分散的方式识别假新闻，而不会侵犯用户隐私。它由分布式节点组成，能够独立学习和检测本地数据上的假新闻。此外，在这些节点上训练的检测模型可以通过分散的模型合并来增强。实验结果表明，该方法在检测基准数据集上的假新闻方面优于最先进的分散式方法。
2022-01-04 cs.AI cs.LG cs.SI
Weak Supervision for Fake News Detection via Reinforcement Learning
State University of New York at Buffalo（纽约州立大学布法罗分校）；Tencent Inc.（腾讯公司）；Pennsylvania State University（宾夕法尼亚州立大学）
如今，社交媒体已经成为新闻的主要来源。通过社交媒体平台，假新闻以前所未有的速度传播，触及全球受众，并使用户和社区面临巨大风险。因此，尽早发现假新闻非常重要。最近，基于深度学习的方法在假新闻检测方面表现出了更好的性能。然而，这类模型的训练需要大量的标记数据，而人工标注既耗时又昂贵。此外，由于新闻的动态性质，注释样本可能会很快过时，不能代表新出现的事件的新闻文章。因此，如何获得新鲜、高质量的标记样本是利用深度学习模型进行假新闻检测的主要挑战。为了应对这一挑战，我们提出了一个加强的弱监督假新闻检测框架，即，WeFEND，它可以利用用户的报告作为弱监管，以扩大用于假新闻检测的训练数据量。该框架由三个主要部分组成：注释器，增强选择器和假新闻检测器。注释器可以根据用户的报告自动为未标记的新闻分配弱标签。使用强化学习技术的强化选择器从弱标记数据中选择高质量的样本，并过滤掉那些可能降低检测器预测性能的低质量样本。假新闻检测器旨在根据新闻内容识别假新闻。我们在通过微信公众号发布的大量新闻文章和相关用户报告上测试了所提出的框架。在该数据集上的大量实验表明，与最先进的方法相比，所提出的WeFEND模型实现了最佳性能。
2020-01-20 cs.CL cs.LG cs.SI
FacTweet: Profiling Fake News Twitter Accounts
PRHLT Research Center, Universitat Politècnica de València（瓦伦西亚理工大学PRHLT研究中心）；University of Mannheim（曼海姆大学）
我们提出了一种方法，使用神经递归模型和各种不同的语义和风格特征，在帐户级别上检测Twitter中的假新闻。我们的方法通过将他们的帖子作为块阅读，而不是独立地处理每条推文，从新闻Twitter帐户的时间轴中提取一组特征。我们展示了在广泛的强基线上用序列模型对混合假新闻和真新闻的潜在风格签名进行建模的实验好处。
2019-10-15 cs.CL cs.SI
Weighted Accuracy Algorithmic Approach In Counteracting Fake News And Disinformation
Zhejiang Gongshang University（浙江工商大学）
随着世界越来越依赖互联网进行信息交流，一些过分热心的记者，黑客，博客，个人和组织倾向于滥用自由信息环境的礼物，用假新闻，虚假信息和自命不凡的内容污染它。因此，有必要极其严肃地处理假新闻和虚假信息问题。本文提出了一种通过约束机制进行假新闻检测和报道的方法，该机制利用了四种机器学习算法的组合加权准确度。
2020-08-05 cs.CL cs.SI econ.GN
FNR: A Similarity and Transformer-Based Approach to Detect Multi-Modal Fake News in Social Media
Sharif University of Technology（谢里夫理工大学）
社交媒体的可用性和互动性使其成为全球新闻的主要来源。社交媒体的普及诱使犯罪分子通过使用诱人的文字和误导性的图像制作和传播假新闻来追求他们的不道德意图。因此，验证社交媒体新闻和发现假货至关重要。这项工作旨在分析社交媒体中文本和图像的多模态特征，以检测假新闻。我们提出了一个假新闻揭示器（FNR）的方法，利用变换学习提取上下文和语义特征和对比损失，以确定图像和文本之间的相似性。我们在两个真实的社交媒体数据集上应用了FNR。实验结果表明，与以往的方法相比，该方法在检测假新闻方面具有更高的准确率。
2021-12-02 cs.CY cs.LG cs.MM
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame（圣母大学）
近年来，由于在线社交网络的蓬勃发展，检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在，采用倾向分数匹配（PSM）方法选择可泛化特征，以减少混杂变量的影响。实验结果表明，使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法（分类器），如逻辑回归，随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
Anger makes fake news viral online
操纵政治选举、打击金融系统、甚至煽动骚乱的假新闻比网上的真实新闻更具有病毒性，导致社会不稳定和民主受到冲击。网上假新闻更容易传播，可以用它携带的更大愤怒来解释。在Twitter和微博中的相同结果表明，该机制是独立于平台的。此外，情绪的突变，如愤怒的增加，会逐渐加快信息的传播。具体来说，在微博数据集中增加0.1的愤怒占据和减少0.1的喜悦占据将产生近6个转发。离线问卷调查显示，愤怒导致更多的激励观众在焦虑管理和信息共享方面，因此使假新闻比真实新闻更具传染性。可以实施在社交媒体上标记愤怒等治疗方法，以减缓或防止假新闻在源头的传播。
2020-08-27 cs.CY cs.SI
MPPFND: A Dataset and Analysis of Detecting Fake News with Multi-Platform Propagation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院）；Division of Emerging Interdisciplinary Areas, Hong Kong University of Science and Technology（香港科技大学新兴交叉学科 division）
本文提出MPPFND数据集和APSL模型，利用图神经网络提取多平台社会背景特征，通过考虑跨平台传播差异提升假新闻检测性能。
2025-05-16 cs.AI cs.SI
Combating Fake News with Interpretable News Feed Algorithms
如今，人工智能算法被用于大规模的定向和个性化内容分发，作为数字媒体环境中对注意力的激烈竞争的一部分。不幸的是，有针对性的信息传播可能导致知识孤立和歧视。此外，正如美国和欧盟最近的政治事件所表明的那样，恶意机器人和社交媒体用户可以以不同形式创建和传播有针对性的“假新闻”内容，以获得政治利益。从另一个方向来看，假新闻检测算法试图通过识别错误信息和欺诈性用户简档来解决这些问题。本文回顾了常见的新闻推送算法以及假新闻检测方法，并讨论了新闻推送算法如何被滥用来推广虚假内容，影响新闻多样性或影响可信度。我们回顾了新闻提要算法和推荐引擎如何使确认偏见将用户隔离到某些新闻来源并影响对现实的感知。作为一个潜在的解决方案，提高用户对内容如何选择或排序的认识，我们主张使用可解释和可解释的新闻提要算法。我们讨论了如何提高用户意识和系统透明度可以减轻社会媒体中回声室和气泡过滤器的不必要的结果。
2018-12-04 cs.CY cs.SI
Adversarial Active Learning based Heterogeneous Graph Neural Network for Fake News Detection
Florida State University（佛罗里达州立大学）；Jilin University（吉林大学）
假新闻的爆炸性增长以及对政治，经济和公共安全的破坏性影响增加了对假新闻检测的需求。社交媒体上的假新闻并不以文章的形式独立存在。许多其他实体，如新闻创作者，新闻主题等，存在于社交媒体上，并与新闻文章有关系。不同的实体和关系可以被建模为异构信息网络（HIN）。在本文中，我们试图解决假新闻检测问题的支持下，面向新闻的HIN。我们提出了一种新的假新闻检测框架，即基于对抗主动学习的异构图神经网络（AA-HGNN），它采用了一种新的分层注意力机制来执行HIN中的节点表示学习。AA-HGNN利用一个主动学习框架来提高学习性能，特别是在面对标记数据不足的情况下。对抗选择器将被训练为查询主动学习框架的高价值候选者。当对抗性主动学习完成后，AA-HGNN通过对新闻文章节点进行分类来检测假新闻。两个真实世界的假新闻数据集的实验表明，我们的模型可以优于基于文本的模型和其他基于图的模型时，使用较少的标记数据受益于对抗性主动学习。AA-HGNN作为一种具有推广性的模型，也具有广泛应用于异构图上其他节点分类相关应用的能力。
2021-01-27 cs.CY cs.LG cs.SI
