Influence of fake news in Twitter during the 2016 US presidential election
2016年美国总统大选期间推特上假新闻的动态和影响仍有待澄清。在这里，我们使用选举日前五个月的1.71亿条推文的数据集来识别来自220万用户的3000万条推文，其中包含新闻媒体的链接。根据www.opensources.co对新闻媒体的分类，我们发现这些推文中有25%传播虚假或极端偏见的新闻。我们描述了信息流的网络，以找到最有影响力的假新闻和传统新闻的传播者，并使用因果模型来揭示假新闻如何影响总统选举。我们发现，虽然传播传统中间和左倾新闻的顶级影响者在很大程度上影响了克林顿支持者的活动，但对于假新闻来说，这种因果关系是相反的：特朗普支持者的活动影响了顶级假新闻传播者的动态。
2019-03-20 cs.CY cs.SI physics.soc-ph
Hierarchical Propagation Networks for Fake News Detection: Investigation and Exploitation
从社交媒体上消费新闻正变得越来越受欢迎。然而，社交媒体也使假新闻得以传播。由于社交媒体带来的不利影响，虚假新闻检测越来越受到关注。然而，仅从新闻内容中检测假新闻的性能通常是有限的，因为假新闻被编写为模仿真实新闻。在现实世界中，新闻通过社交媒体上的传播网络传播。新闻传播网络通常涉及多个层次。在本文中，我们研究了具有挑战性的问题，调查和利用社会媒体上的新闻分层传播网络的假新闻检测。为了理解新闻传播网络与假新闻之间的相关性，本文首先从宏观和微观两个层面构建了假新闻和真新闻的层次传播网络，然后对假新闻和真新闻的传播网络的语言、结构和时间特征进行了对比分析，展示了利用这些特征检测假新闻的潜力。第三，我们展示了这些传播网络特征对虚假新闻检测的有效性。我们进一步验证了这些功能的有效性，从功能的重要性分析。总而言之，这项工作提出了分层传播网络和假新闻的数据驱动视图，并为更健康的在线新闻生态系统铺平了道路。
2019-03-21 cs.SI
Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences（中国科学院智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻，现有的方法观察新闻帖子的语言模式，并“放大”以验证其内容与知识源或检查其读者的回复。然而，这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度，这是假新闻制造的重要灵感，因为假新闻往往是为了搭上热门事件的顺风车，以意想不到的新奇内容吸引公众的注意力，以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号，我们“拉远”观察新闻环境，并提出了新闻环境感知框架（NEP）。对于每一个帖子，我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后，我们设计了一个面向流行和新颖的模块，以感知有用的信号，并进一步帮助最终的预测。在我们新构建的数据集上的实验表明，NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
Beyond News Contents: The Role of Social Context for Fake News Detection
社交媒体因其传播速度快、访问方便、成本低而成为新闻消费的热门。然而，它也使假新闻的广泛传播成为可能，即，故意发布虚假信息的新闻。检测假新闻是一项重要的任务，不仅可以确保用户获得真实的信息，还有助于维护一个值得信赖的新闻生态系统。现有的大多数检测算法都集中在从新闻内容中寻找线索，这通常是无效的，因为假新闻通常是故意通过模仿真实新闻来误导用户。因此，我们需要探索辅助信息来提高检测。社交媒体上新闻传播过程中的社会语境形成了固有的三重关系，即发布者、新闻作品和用户之间的关系，这对提高虚假新闻的检测具有潜在的意义。例如，有党派偏见的出版商更有可能发布假新闻，而低可信度的用户更有可能分享假新闻。在本文中，我们研究了利用社会背景进行假新闻检测的新问题。我们提出了一个三关系嵌入框架TriFN，它同时为假新闻分类建模了商家-新闻关系和用户-新闻交互。我们在两个真实世界的数据集上进行了实验，结果表明，所提出的方法在假新闻检测方面明显优于其他基线方法。
2018-12-10 cs.SI
Network-based Fake News Detection: A Pattern-driven Approach
假新闻的增长势头强劲，强烈刺激了对假新闻研究的需求。因此，已经提出了许多假新闻检测方法，其中大多数严重依赖于新闻内容。然而，在分析社交网络上的新闻传播时所揭示的基于网络的线索是一种几乎没有被全面探索或用于假新闻检测的信息。我们通过提出一种基于网络的模式驱动的假新闻检测方法来弥合这一差距。我们的目的是研究假新闻在社交网络中的传播模式，即新闻传播者、新闻传播者以及传播者之间的关系。基于社会心理学理论，对这种模式的存在提供了经验证据和解释。这些模式然后在各种网络级别（即，节点级、自我级、三合会级、社区级和整个网络），以进一步用于检测假新闻。该方法增强了假新闻特征工程的可解释性。在真实数据上进行的实验表明，所提出的方法可以优于现有技术。
2019-06-10 cs.SI
Automatically Identifying Fake News in Popular Twitter Threads
社交媒体中的信息质量是一个日益重要的问题，但网络规模的数据阻碍了专家评估和纠正这些平台中存在的许多不准确内容或“假新闻”的能力。本文通过学习预测两个以可信度为中心的Twitter数据集的准确性评估，开发了一种在Twitter上自动检测假新闻的方法：CREDBANK，一个Twitter事件准确性评估的众包数据集，以及PHEME，Twitter中潜在谣言的数据集及其准确性的新闻评估。我们将这种方法应用于来自BuzzFeed的假新闻数据集的Twitter内容，并显示针对众包工人训练的模型优于基于记者评估的模型以及在众包工人和记者的汇总数据集上训练的模型。所有三个数据集，调整成一个统一的格式，也是公开的。然后，特征分析识别出对众包和新闻准确性评估最具预测性的特征，其结果与先前的工作一致。最后，我们讨论了准确性和可信度的对比，以及为什么非专家模型在Twitter的假新闻检测中优于记者模型。
2018-05-30 cs.SI
Adversarial Active Learning based Heterogeneous Graph Neural Network for Fake News Detection
Florida State University（佛罗里达州立大学）；Jilin University（吉林大学）
假新闻的爆炸性增长以及对政治，经济和公共安全的破坏性影响增加了对假新闻检测的需求。社交媒体上的假新闻并不以文章的形式独立存在。许多其他实体，如新闻创作者，新闻主题等，存在于社交媒体上，并与新闻文章有关系。不同的实体和关系可以被建模为异构信息网络（HIN）。在本文中，我们试图解决假新闻检测问题的支持下，面向新闻的HIN。我们提出了一种新的假新闻检测框架，即基于对抗主动学习的异构图神经网络（AA-HGNN），它采用了一种新的分层注意力机制来执行HIN中的节点表示学习。AA-HGNN利用一个主动学习框架来提高学习性能，特别是在面对标记数据不足的情况下。对抗选择器将被训练为查询主动学习框架的高价值候选者。当对抗性主动学习完成后，AA-HGNN通过对新闻文章节点进行分类来检测假新闻。两个真实世界的假新闻数据集的实验表明，我们的模型可以优于基于文本的模型和其他基于图的模型时，使用较少的标记数据受益于对抗性主动学习。AA-HGNN作为一种具有推广性的模型，也具有广泛应用于异构图上其他节点分类相关应用的能力。
2021-01-27 cs.CY cs.LG cs.SI
Credibility-based Fake News Detection
Syracuse University（雪城大学）
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中，我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据，我们发现新闻来源（和作者）的信息可以成为可信度的一个强有力的指标。我们的研究结果表明，作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法，其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
From Fake News to #FakeNews: Mining Direct and Indirect Relationships among Hashtags for Fake News Detection
COVID-19大流行引起了全世界的关注，并允许假新闻，如“COVID-19是流感”，在社交媒体上迅速广泛传播。对抗这种冠状病毒信息流行病需要有效的方法来检测假新闻。为此，我们提出了一种方法来推断新闻的可信度，从标签参与新闻传播的社交媒体，动机标签和新闻可信度之间的紧密联系，在我们的实证分析观察。我们首先介绍一个新的图，它捕获了标签之间的所有（直接和\textit{indirect}）关系。然后，开发了一种与语言无关的半监督算法，以基于此构建的图来预测假新闻。本研究首先探讨主题标签之间的间接关系，所提出的方法可以扩展到任何同构图捕捉节点之间的全面关系。语言独立性使所提出的方法可以用于多语言虚假新闻检测。在两个真实世界数据集上进行的实验证明了我们的方法在识别假新闻方面的有效性，特别是在传播的\textit{early}阶段。
2022-11-20 cs.IR cs.SI
Studying Fake News via Network Analysis: Detection and Mitigation
用于新闻消费的社交媒体由于其易于访问、快速传播和低成本而变得越来越受欢迎。然而，社交媒体也助长了“假新闻”的广泛传播，即，故意发布虚假信息的新闻。社交媒体上的假新闻带来了严重的负面社会影响，也带来了独特的挑战。为了应对这些挑战，许多现有的作品从网络的角度利用各种特征来检测和缓解假新闻。从本质上讲，新闻传播生态系统涉及社会化媒体上的三个维度，即，内容维度、社会维度和时间维度。在本章中，我们将回顾用于研究假新闻的网络属性，介绍流行的网络类型以及如何使用这些网络来检测和缓解社交媒体上的假新闻。
2018-04-26 cs.SI
Meta-Path-based Fake News Detection Leveraging Multi-level Social Context Information
Korea Advanced Institute of Science and Technology（韩国科学技术院）
假新闻，即以新闻形式呈现的虚假或误导性信息，对社会的许多方面都有重大影响，例如在政治或医疗保健领域。由于假新闻的欺骗性，仅将自然语言处理（NLP）技术应用于新闻内容是不够的。多层次的社会背景信息（新闻发布者和社会媒体中的参与用户）和用户参与的时间信息是假新闻检测的重要信息。然而，这些信息的正确使用带来了三个长期的困难：1）多层次的社会背景信息很难在不丢失信息的情况下使用，2）时间信息很难与多层次的社会背景信息一起使用，3）多层次的社会背景和时间信息的新闻表示很难以端到端的方式学习。为了克服这三个困难，我们提出了一个新的假新闻检测框架Hetero-SCAN。我们使用元路径提取有意义的多层次的社会背景信息，没有损失。元路径，连接两个节点类型的复合关系，提出了在异构图中捕捉语义。然后，我们提出元路径实例编码和聚合方法来捕获用户参与的时间信息，并产生端到端的新闻表示。根据我们的实验，Hetero-SCAN比最先进的假新闻检测方法具有显着的性能改进。
2021-11-17 cs.AI cs.CY cs.SI
Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
FacTweet: Profiling Fake News Twitter Accounts
PRHLT Research Center, Universitat Politècnica de València（瓦伦西亚理工大学PRHLT研究中心）；University of Mannheim（曼海姆大学）
我们提出了一种方法，使用神经递归模型和各种不同的语义和风格特征，在帐户级别上检测Twitter中的假新闻。我们的方法通过将他们的帖子作为块阅读，而不是独立地处理每条推文，从新闻Twitter帐户的时间轴中提取一组特征。我们展示了在广泛的强基线上用序列模型对混合假新闻和真新闻的潜在风格签名进行建模的实验好处。
2019-10-15 cs.CL cs.SI
Fake News Detection in Social Networks via Crowd Signals
我们的工作考虑利用人群信号来检测假新闻，并受到Facebook最近推出的工具的激励，这些工具使用户能够标记假新闻。通过聚合用户的标记，我们的目标是每天选择一小部分新闻，将它们发送给专家（例如，通过第三方事实核查组织），并阻止被专家认定为假新闻的传播。我们工作的主要目标是通过阻止假新闻在网络中的传播来最大限度地减少错误信息的传播。实现这一目标尤其具有挑战性，因为它需要尽快以高置信度检测假新闻。我们表明，为了有效地利用用户的标志，这是至关重要的是要了解用户的标记的准确性。我们开发了一种新的算法DETECTIVE，它可以执行贝叶斯推理来检测假新闻，并随着时间的推移联合学习用户的标记准确性。我们的算法采用后验采样来积极权衡剥削（选择在给定时期最大化客观价值的新闻）和探索（选择最大化信息价值的新闻，以了解用户的标记准确性）。我们通过广泛的实验证明了我们方法的有效性，并展示了利用社区信号进行假新闻检测的能力。
2018-03-02 cs.SI
FaNDS: Fake News Detection System Using Energy Flow
最近，“假新闻”一词已被广泛用于虚假信息、误导信息、恶作剧、宣传、讽刺、谣言、点击诱饵和垃圾新闻。它已成为世界各地的一个严重问题。我们提出了一个新的系统，FaNDS，可以有效地检测假新闻。该系统是基于几个概念中使用的一些以前的作品，但在不同的上下文中。有两个主要概念：不一致图和能量流。不一致图包含作为节点的新闻项和作为边的它们之间的不一致意见。能量流为每个节点分配一个初始能量，然后一些能量沿着边缘传播，直到所有节点上的能量分布收敛。为了说明FaNDS，我们使用来自假新闻挑战赛（FNC-1）的原始数据。首先，必须重构数据以生成不一致图。该图包含具有定义良好的形状的各种子图，这些子图表示新闻项之间的不同类型的连接。然后应用能量流方法。具有高能量的节点是假新闻的候选者。在我们的实验中，所有这些确实都是假新闻，因为我们使用几个可靠的网站进行了检查。我们将FaNDS与其他几种假新闻检测方法进行了比较，发现它在发现假新闻方面更敏感。
2020-10-05 cs.SI
Comparing the willingness to share for human-generated vs. AI-generated fake news
研究通过988名受试者和20条COVID-19虚假新闻的预注册在线实验，比较了人类与GPT-4生成虚假新闻的感知准确性和分享意愿，发现AI生成新闻虽被认为准确性较低但分享倾向相同，并揭示了影响用户轻信AI虚假新闻的社会经济因素。
2024-02-12 cs.SI physics.soc-ph
FNR: A Similarity and Transformer-Based Approach to Detect Multi-Modal Fake News in Social Media
Sharif University of Technology（谢里夫理工大学）
社交媒体的可用性和互动性使其成为全球新闻的主要来源。社交媒体的普及诱使犯罪分子通过使用诱人的文字和误导性的图像制作和传播假新闻来追求他们的不道德意图。因此，验证社交媒体新闻和发现假货至关重要。这项工作旨在分析社交媒体中文本和图像的多模态特征，以检测假新闻。我们提出了一个假新闻揭示器（FNR）的方法，利用变换学习提取上下文和语义特征和对比损失，以确定图像和文本之间的相似性。我们在两个真实的社交媒体数据集上应用了FNR。实验结果表明，与以往的方法相比，该方法在检测假新闻方面具有更高的准确率。
2021-12-02 cs.CY cs.LG cs.MM
An organized review of key factors for fake news detection
社交媒体上的假新闻迅速成为当今社会讨论最多的话题之一。随着虚假信息的激增并在政治、经济和社会领域中造成重大影响，在过去几年中已经进行了分析和自动识别这种类型的内容的研究工作。在本文中，我们试图总结关于社交媒体中假新闻主题的主要研究结果，强调所采取的主要研究路径，并特别关注假新闻和机器人账户的检测。
2021-02-26 cs.SI
Human Brains Can't Detect Fake News: A Neuro-Cognitive Study of Textual Disinformation Susceptibility
Texas A&M University（德州农工大学）；The University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
数字虚假信息（又称“假新闻”）的传播可以说是互联网上最严重的威胁之一，可能会造成大规模的个人和社会伤害。假新闻攻击的易感性取决于互联网用户在阅读后是否认为假新闻文章/片段是合法的。在本文中，我们试图通过神经认知方法深入了解用户对以文本为中心的假新闻攻击的易感性。我们通过EEG研究与假/真新闻相关的神经基础。我们对人类用户进行了一项实验，以彻底调查用户对假/真新闻的感知和认知处理。我们分析了与不同类别的新闻文章的假/真新闻检测任务相关的神经活动。我们的研究结果表明，人类大脑处理假新闻与真新闻的方式可能没有统计学上的显著差异或自动推断的差异，而当人们受到（真实/假）新闻与休息状态，甚至在一些不同类别的假新闻之间观察到显着差异。这一神经认知发现可能有助于证明用户对假新闻攻击的易感性，行为分析也证实了这一点。换句话说，在行为和神经领域，假新闻文章似乎与真实新闻文章几乎无法区分。我们的工作旨在剖析假新闻攻击背后的基本神经现象，并通过人类生物学的限制来解释用户对这些攻击的易感性。我们认为，对于研究人员和从业人员来说，这可能是一个值得注意的见解，表明人工检测假新闻可能是无效的，这也可能对自动检测方法的设计产生不利影响，这些方法主要依赖于人工标记文本文章来构建训练模型。
2022-07-18 cs.CL cs.CR cs.CY
The Role of User Profile for Fake News Detection
从社交媒体上消费新闻正变得越来越受欢迎。社交媒体因其信息传播速度快、成本低、访问方便而吸引用户。然而，社交媒体也使假新闻得以传播。由于假新闻的社会危害性，对假新闻的检测越来越受到人们的关注。然而，仅使用新闻内容的检测性能通常不令人满意，因为假新闻是模仿真实新闻编写的。因此，有必要深入了解社交媒体上的用户简档与假新闻之间的关系。在本文中，我们研究了理解和利用社交媒体上的用户简档进行假新闻检测的挑战性问题。为了理解用户简档与假新闻之间的联系，首先，我们测量了用户在社交媒体上的分享行为，并将更有可能分享假新闻和真新闻的代表性用户分组;然后，我们对这些用户组之间的显式和隐式档案特征进行了比较分析，揭示了它们有助于区分假新闻和真新闻的潜力。为了利用用户简档功能，我们证明了这些用户简档功能在假新闻分类任务中的有用性。我们进一步验证这些功能的有效性，通过特征重要性分析。本文的研究成果为进一步深入挖掘社交媒体的用户简档特征，增强对虚假新闻的检测能力奠定了基础。
2019-04-30 cs.IR cs.SI
"This is Fake! Shared it by Mistake": Assessing the Intent of Fake News Spreaders
Syracuse University（雪城大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Arizona State University（亚利桑那州立大学）
个人可能会被假新闻误导，并在不知道它是假的情况下无意中传播。这种现象经常被观察到，但尚未进行调查。我们这项工作的目的是评估假新闻传播者的意图。为了区分有意传播和无意传播，我们研究了无意传播的心理学解释。在此基础上，我们提出了一个影响图，利用它来评估假新闻传播者的意图。我们广泛的实验表明，评估的意图可以帮助显着区分有意和无意的假新闻传播者。此外，估计的意图可以显着改善当前检测假新闻的技术。据我们所知，这是第一个对个人在假新闻传播中的意图进行建模的工作。
2022-02-13 cs.AI cs.SI
Attacking Fake News Detectors via Manipulating News Social Engagement
本文提出首个针对基于GNN的假新闻检测器的对抗攻击框架，通过含三类智能体的多智能体强化学习模拟欺诈者协调行为，实验证明其可有效破坏检测器性能，为假新闻检测研究提供参考。
2023-04-27 cs.SI
Open Issues in Combating Fake News: Interpretability as an Opportunity
打击假新闻需要多种防御手段。虽然谣言检测和各种语言分析技术是检测社交媒体中虚假内容的常用方法，但在机器学习社区中可以探索其他可行的缓解方法。在本文中，我们提出了假新闻研究中需要进一步关注的开放问题和机会。我们首先回顾了社交媒体中新闻生存周期的不同阶段，并通过三个例子讨论了新闻推送算法在传播假新闻内容时的核心脆弱性问题。然后，我们讨论了假新闻问题的复杂性和不明确性如何限制了这一领域的进步。最后，我们提出了从可解释的机器学习来减轻假新闻问题的研究机会，包括1）可解释的假新闻检测和2）透明的新闻提要算法。我们提出了可解释性的三个维度，包括算法可解释性，人类可解释性，以及包含支持证据，这些证据可以以不同的方式使假新闻缓解方法受益。
2019-04-04 cs.IR cs.SI
Methods of Informational Trends Analytics and Fake News Detection on Twitter
Ivan Franko National University of Lviv（利沃夫伊万·弗兰科国立大学）
在本文中，不同的方法来分析Twitter上的新闻趋势被认为是。对于分析和案例研究，研究了2022年俄罗斯入侵乌克兰造成的Twitter上的信息趋势。分析了一种用于虚假新闻检测的深度学习方法。利用频繁项集理论和关联规则、图论对新闻动态进行了分析。
2022-04-11 cs.AI cs.CL cs.SI
FakeSwarm: Improving Fake News Detection with Swarming Characteristics
Georgia Institute of Technology（佐治亚理工学院）；Trine University（特里尼大学）
本文提出FakeSwarm虚假新闻识别系统，通过主成分分析、度量表示和位置编码三类群体特征，在公开数据集上取得超过97%的f1分数和准确率，并验证了群体特征在早期虚假新闻和文本样本短缺场景下能显著提升召回率。
2023-05-30 cs.LG cs.SI
Exploring agent interaction patterns in the comment sections of fake and real news
本研究通过分析Reddit数据集，从网络结构和节点情感角度探索了虚假与真实新闻评论区中的智能体交互模式，发现虚假新闻更易形成群组且负面情感多，情感分布早期即稳定，为社交网络假新闻早期检测提供了理论与实践意义。
2024-10-11 cs.SI
Fake News Detection through Graph Comment Advanced Learning
虚假信息一直被认为是一个严重的社会问题，假新闻是其中最具代表性的问题之一。更糟糕的是，当今高度发达的社交媒体使得假新闻以令人难以置信的速度广泛传播，给人类生活的各个方面带来实质性的危害。然而，社交媒体的普及也为更好地发现假新闻提供了机会。与仅关注内容或用户评论的传统手段不同，异构社交媒体信息的有效协作，包括新闻的内容和上下文因素，用户的评论以及社交媒体与用户的互动，将有望更好地检测假新闻。基于上述观察，本文提出了一种新的检测框架，即图评论-用户高级学习框架（GCAL）。用户评论信息在虚假新闻检测中至关重要，但尚未得到充分研究。因此，我们通过基于异构图神经网络的网络表示学习来建模用户评论上下文。我们在两个真实世界的数据集上进行了实验，结果表明，所提出的联合模型优于8种最先进的假新闻检测基线方法（准确率至少为4%，召回率至少为7%，F1至少为5%）。此外，所提出的方法也是可解释的。
2021-01-29 cs.SI
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；Leiden University（莱顿大学）；Harvard University（哈佛大学）
在本文中，我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象，而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中，我们发现相关词汇，提到的实体，周围的主题以及围绕“假新闻”一词的上下文极性发生了变化，这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解，有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Fake news propagate differently from real news even at early stages of spreading
社交媒体对社会来说可能是一把双刃剑，既可以作为交流思想的便捷渠道，也可以作为在大量人口中传播假新闻的意外渠道。虽然现有的假新闻研究主要集中在传播的理论建模或基于机器学习的识别方法上，但重要的是要了解理论模型和黑箱方法之间的现实机制。在这里，我们跟踪了来自不同文化的中国微博和日本Twitter上的假新闻和真实新闻的大型数据库，其中包括他们重新发布的完整痕迹。我们发现，在这两个在线社交网络中，假新闻的传播与真实新闻截然不同，即使在传播的早期阶段，例如在第一次转发后的五个小时。我们的发现展示了集体结构信号，有助于理解假新闻和真实新闻的不同传播演变。与早期的研究不同，在早期阶段识别信息传播的拓扑特性可能为社交媒体中的假新闻早期检测提供新的特征。
2019-04-16 cs.SI physics.soc-ph
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Fake News Detection on Social Media: A Data Mining Perspective
Arizona State University（亚利桑那州立大学）；Charles River Analytics（查尔斯河分析公司）；Michigan State University（密歇根州立大学）
社交媒体对新闻消费来说是一把双刃剑。一方面，它的低成本，容易获取和快速传播的信息导致人们从社交媒体中寻找和消费新闻。另一方面，它使“假新闻”得以广泛传播，即，低质量新闻，故意虚假信息。假新闻的广泛传播有可能对个人和社会产生极其负面的影响。因此，社交媒体上的假新闻检测最近成为一项新兴的研究，引起了极大的关注。社交媒体上的假新闻检测呈现出独特的特征和挑战，使得传统新闻媒体的现有检测算法无效或不适用。首先，假新闻是故意编写的，以误导读者相信虚假信息，这使得基于新闻内容的检测变得困难和重要;因此，我们需要包括辅助信息，例如社交媒体上的用户社交活动，以帮助做出决定。其次，利用这些辅助信息本身就具有挑战性，因为用户与假新闻的社交活动会产生大量、不完整、非结构化和嘈杂的数据。由于社交媒体上的假新闻检测问题既具有挑战性又具有相关性，我们进行了这项调查，以进一步促进对该问题的研究。本文对社交媒体上的假新闻检测进行了全面的综述，包括心理学和社会学理论对假新闻的刻画、数据采掘视角下的现有算法、评价指标和代表性数据集。我们还讨论了社交媒体上虚假新闻检测的相关研究领域，开放问题和未来的研究方向。
2017-09-03 cs.AI cs.SI
This Just In: Fake News Packs a Lot in Title, Uses Simpler, Repetitive Content in Text Body, More Similar to Satire than Real News
Rensselaer Polytechnic Institute（伦斯勒理工学院）
假新闻问题已经引起了很多关注，因为它据称对2016年美国总统选举产生了重大影响。假新闻并不是一个新问题，它在社交网络中的传播已经得到了充分的研究。通常，假新闻讨论的一个潜在假设是，它看起来像真实的新闻，愚弄那些不检查来源可靠性或内容中论点的读者。通过对三个数据集和特征的独特研究，我们发现这种假设是不正确的。在大多数情况下，假新闻更类似于讽刺，而不是真实新闻，这让我们得出结论，假新闻的说服力是通过辩论而不是论点的力量来实现的。我们发现标题的整体结构和标题中专有名词的使用在区分真假方面非常重要。这使我们得出结论，假新闻的目标受众不太可能阅读标题以外的内容，其目的是在实体和声明之间建立心理联系。
2017-03-28 cs.CL cs.SI
Fake News Detection with Heterogeneous Transformer
The Hong Kong University of Science and Technology（香港科技大学）
假新闻在社交网络上的传播引起了公众对有效和高效的假新闻检测方法的需求。一般来说，社交网络上的假新闻是多模态的，与用户和帖子等其他实体有各种联系。社交网络中新闻内容的异质性以及与其他实体的关系给设计一个模型带来了挑战，该模型可以全面捕获社交网络中实体的局部多模态语义和传播模式的全局结构表示，从而有效准确地分类假新闻。本文提出了一种新的基于Transformer的模型：HetTransformer，利用Transformer的编码器-解码器结构捕获新闻传播模式的结构信息，解决了社交网络上的假新闻检测问题。我们首先捕获本地异构语义的新闻，帖子，和用户实体在社交网络。然后，我们应用Transformer来捕获社交网络中传播模式的全局结构表示，以用于假新闻检测。在三个真实世界数据集上的实验表明，我们的模型能够在假新闻检测中超越最先进的基线。
2022-05-06 cs.AI cs.SI
Identifying Cost-effective Debunkers for Multi-stage Fake News Mitigation Campaigns
在线社交网络已经成为传播假新闻的沃土。已经提出了自动减轻假新闻传播的方法。一些研究侧重于选择社交网络上的前k名有影响力的用户作为揭穿者，但揭穿者的社会影响力可能不会像预期的那样转化为广泛的缓解信息传播。其他研究假设了一组给定的揭穿者，并专注于优化揭穿者发布真实新闻的强度，但由于揭穿者是固定的，即使具有高社会影响力和/或高强度发布真实新闻，真实新闻也可能无法到达暴露于假新闻的用户，因此缓解效果可能有限。在本文中，我们提出了多阶段的假新闻缓解活动，其中在每个阶段的预算范围内动态选择揭穿者。我们制定它作为一个强化学习的问题，并提出了一个贪心算法优化预测未来的状态，使揭穿者可以选择的方式，最大限度地提高整体缓解效果。我们对合成和真实世界的社交网络进行了广泛的实验，并表明我们的解决方案在缓解效果方面优于最先进的基线。
2022-03-31 cs.SI
Leveraging Users' Social Network Embeddings for Fake News Detection on Twitter
社交网络（SN）对许多人来说是越来越重要的新闻来源。用户建立的在线连接允许信息比传统新闻媒体更容易传播（例如，报纸、电视）。然而，它们也使假新闻的传播比传统媒体更容易，特别是通过用户的社交网络连接。在本文中，我们专注于调查是否SN的用户连接结构可以帮助Twitter上的假新闻检测。特别是，我们建议嵌入用户的基础上，他们的追随者或朋友网络的Twitter平台上，以确定用户形成的组。事实上，通过在Twitter用户的社交网络连接的图上应用无监督图嵌入方法，我们观察到参与假新闻的用户比只参与事实新闻的用户更紧密地聚集在一起。因此，我们假设嵌入式用户的网络可以帮助有效地检测假新闻。通过使用公开可用的Twitter数据集进行广泛的实验，我们的结果表明，在SN上应用图嵌入方法，使用用户连接作为网络信息，确实可以比大多数基于语言的方法更有效地对假新闻进行分类。具体地说，我们观察到比仅使用文本信息有显著的改进（即，TF.IDF或BERT语言模型），以及部署了高级文本特征（即，姿态检测）和复杂网络特征（例如，用户网络、出版商交叉引用）。我们的结论是，Twitter用户的友谊和追随者网络信息可以显着优于基于语言的方法，以及现有的最先进的假新闻检测模型，使用更复杂的网络结构，在分类Twitter上的假新闻。
2022-11-19 cs.IR cs.SI
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Modeling The Sharing and Diffusion Of Fake News in Social Media
本文融合用户属性、主题兴趣、关系强度及新闻复杂性、文体与心理特征建模，利用机器学习识别假新闻分享者并预测传播，发现有影响力用户分享的新闻更易扩散。
2024-10-28 cs.SI
Ginger Cannot Cure Cancer: Battling Fake Health News with a Comprehensive Data Repository
The Pennsylvania State University（宾夕法尼亚州立大学）
目前，互联网是获取健康信息的主要来源。互联网上大量的虚假健康新闻已经成为对公众健康的严重威胁。在虚假新闻检测领域，国内外学者做了大量的研究和工作，但针对健康新闻的研究较少。例如，虚假健康新闻检测需要开发可解释性。为了缓解这些问题，我们构建了一个全面的存储库FakeHealth，其中包括具有丰富功能的新闻内容，具有详细解释的新闻评论，社交活动和用户-用户社交网络。此外，进行探索性分析，以了解数据集的特征，分析有用的模式，并验证健康假新闻检测数据集的质量。我们还讨论了健康假新闻检测的新的和潜在的未来研究方向。
2020-03-30 cs.LG cs.SI stat.ML
Exploiting Multi-domain Visual Information for Fake News Detection
社交媒体的日益普及促进了假新闻的泛滥。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导读者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。假新闻图片，即假新闻帖子中附带的图片，不仅包括被恶意篡改的假图片，还包括被错误地用来表示不相关事件的真实图片。因此，如何充分利用假新闻图像的固有特征是假新闻检测的一个重要而又具有挑战性的问题。在现实世界中，假新闻图像可能在物理和语义层面上都具有与真实新闻图像显著不同的特征，这些特征可以分别在频率和像素域中清楚地反映出来。因此，我们提出了一种新的框架多域视觉神经网络（MVNN）融合的频域和像素域的视觉信息检测假新闻。具体来说，我们设计了一个基于CNN的网络来自动捕获频域中假新闻图像的复杂模式;并利用多分支CNN-RNN模型从像素域中的不同语义层次提取视觉特征。利用注意力机制动态融合频域和像素域的特征表示。在真实世界数据集上进行的大量实验表明，MVNN的准确率至少为9.2%，优于现有方法，并且可以帮助将多模态假新闻检测的性能提高5.2%以上。
2019-08-13 cs.IR cs.MM cs.SI
Fake News Identification on Twitter with Hybrid CNN and RNN Models
C3Ri Research Institute（C3Ri研究所）；Sheffield Hallam University（谢菲尔德哈勒姆大学）
与假新闻传播相关的问题继续以惊人的规模增长。这一趋势引起了政界、学术界和工业界的极大兴趣。我们提出了一个框架，使用混合卷积神经网络和长短期递归神经网络模型来检测和分类来自Twitter帖子的假新闻消息。使用这种深度学习方法的拟议工作达到了82%的准确率。我们的方法直观地识别与假新闻故事相关的相关特征，而无需事先了解该领域。
2018-06-29 cs.CL cs.SI
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University（佛罗里达州立大学）
假新闻的病毒式传播造成了巨大的社会危害，使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息，通过学习提取的新闻内容或写作风格的内部知识。然而，故意的谣言可以掩盖写作风格，绕过语言模型，并使简单的基于文本的模型无效。事实上，新闻文章和其他相关组件（如新闻创作者和新闻主题）可以建模为异构信息网络（简称HIN）。本文提出了一种新的虚假新闻检测框架--层次图注意力网络（HGAT），该框架利用层次注意力机制对HIN中的节点进行表示学习，然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明，HGAT可以优于基于文本的模型和其他基于网络的模型。此外，实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University（佛罗里达州立大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
近年来，由于在线社交网络的蓬勃发展，出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语，在线社交网络用户很容易被这些在线假新闻所感染，这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法，并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征，FAKEDETECTOR构建了一个深度扩散网络模型，同时学习新闻文章，创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验，将FAKEDETECTOR与几种最先进的模型进行了比较，实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
Exploring the Role of Visual Content in Fake News Detection
社交媒体的日益普及促进了假新闻的扩散，造成了重大的负面社会影响。因此，社交媒体上的假新闻检测最近成为备受关注的新兴研究领域。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导消费者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。尽管视觉内容很重要，但我们对视觉内容在假新闻检测中的作用的理解仍然有限。本章对虚假新闻中的视觉内容进行了全面的综述，包括多媒体虚假新闻检测的基本概念、有效的视觉特征、典型的检测方法和挑战性问题。本章可以帮助读者理解视觉内容在假新闻检测中的作用，并有效地利用视觉内容来辅助检测多媒体假新闻。
2020-03-11 cs.MM cs.SI
The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院）；MBZUAI；Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MoE（下一代智能搜索与推荐工程研究中心，教育部）；School of Artifcial Intelligence, Wuhan University（武汉大学人工智能学院）
提出基于LLM智能体的FUSE框架，模拟真实新闻在社交互动中逐步扭曲为假新闻的演化过程，并开发FUSE-EVAL评估真相偏差，实验证明其能有效重现假新闻演化场景并支持早期干预。
2025-05-28 cs.AI cs.SI
Towards Smart Fake News Detection Through Explainable AI
National Institute of Technology Calicut（国家理工学院卡利卡特分校）
由于社交媒体网站的受欢迎程度，人们现在将其视为唯一的信息来源。大多数人通过社交媒体获取新闻。与此同时，近年来假新闻在社交媒体平台上呈指数级增长。几种基于人工智能的检测假新闻的解决方案已经显示出令人鼓舞的结果。另一方面，这些检测系统缺乏解释能力，即，解释他们为什么做出预测的能力。本文重点介绍了可解释的假新闻检测的最新技术水平。我们讨论了当前基于人工智能的可解释假新闻检测模型的缺陷，并介绍了我们正在进行的多模态可解释假新闻检测模型的研究。
2022-07-23 cs.AI cs.IR cs.SI
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University（雪城大学）
假新闻的爆炸性增长及其对民主，正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估：（1）它所携带的虚假知识，（2）它的写作风格，（3）它的传播模式，以及（4）它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是，我们确定并详细说明了各个学科的相关基础理论，以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作，研究假新闻，这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
Less is More: Unseen Domain Fake News Detection via Causal Propagation Substructures
The University of Melbourne（墨尔本大学）；Data61, CSIRO（联邦科学与工业研究组织数据61研究所）
提出因果子图导向的领域自适应假新闻检测模型CSDA，通过提取传播图中的因果子结构增强零样本检测，并在少样本场景下利用对比学习提升性能，在OOD假新闻检测上准确率提升7%至16%。
2024-11-14 cs.AI cs.CL cs.CY
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University（崇实大学）；Adobe Research（奥多比研究院）
本研究调查假新闻如何使用新闻文章的缩略图，重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象，特别是在社交媒体环境中，用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析，我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步，我们试图检测新闻文章与图像-文本不一致。评估实验表明，基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
On the Coherence of Fake News Articles
University of Sheffield（谢菲尔德大学）；University of Calicut（卡利卡特大学）
新媒体和在线媒体来源中假新闻的产生和传播正在成为一种具有高度社会意义的现象。使用数据驱动的分析来对抗它们最近引起了学术界的兴趣。在这项研究中，我们分析了假新闻与合法新闻的语篇连贯性。我们利用自然语言处理和数据科学中最先进的方法开发了三种文本连贯性的计算公式。两个现实世界的数据集，从广泛不同的领域，有假/合法的文章标签，然后分析文本的连贯性。我们观察到虚假和合法新闻文章的文本连贯性存在明显差异，与合法新闻文章相比，虚假新闻文章的连贯性一直较低。虽然假新闻与合法新闻相比的相对连贯性不足是我们研究的主要观察结果，但我们分析了差异的几个方面，并概述了进一步调查的潜在途径。
2020-08-15 cs.CL cs.SI
Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks
Arizona State University（亚利桑那州立大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Bytedance（字节跳动）；Illinois Institute of Technology（伊利诺伊理工学院）
如今，假新闻很容易通过在线社交网络传播，成为对个人和社会的巨大威胁。评估新闻的真实性是具有挑战性的，因为其精心编造的内容，使得很难获得大规模的假新闻数据注释。由于这种数据稀缺性问题，检测假新闻往往会失败，并且在监督环境中过度拟合。最近，图神经网络（GNN）已被采用，以利用标记和未标记的实例之间的更丰富的关系信息。尽管它们的结果很有希望，但它们本质上专注于新闻之间的成对关系，这可能会限制捕捉在群体层面传播的假新闻的表达能力。例如，当我们更好地理解易感用户之间共享的新闻片段之间的关系时，检测假新闻可能会更有效。为了解决这些问题，我们建议利用超图来表示新闻之间的群体互动，同时利用其双层注意力机制来关注重要的新闻关系。基于两个基准数据集的实验表明，我们的方法产生了显着的性能，并保持高性能，即使是一个小的子集标记的新闻数据。
2022-12-24 cs.LG cs.SI
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University（武汉大学弘毅学堂）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题，直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来，已经提出了许多检测方法来打击假新闻，但它们主要集中在文章的语言方面，而没有任何事实检查。在本文中，我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验，我们证明了事实篡改攻击是有效的。为了解决这些问题，我们认为，事实核查应与语言特征分析相结合，以真正区分假新闻和真新闻。提出了一种众包的知识图谱，作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS（中国科学院智能信息处理重点实验室，中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；State Key Laboratory of Media Convergence Production Technology and Systems（媒体融合生产技术与系统国家重点实验室）
假新闻在各个领域的社交媒体上广泛传播，导致政治，灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测（SFND），这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域，多领域虚假新闻检测（MFND）越来越受到关注。然而，数据分布，如词频和传播模式，从域到域，即域移位。面对严重领域转移的挑战，现有的假新闻检测技术在多领域场景中表现不佳。因此，设计一种专门的MFND模型是非常必要的。在本文中，我们首先为MFND设计了一个带有域标签的假新闻数据集基准，即微博21，它由来自9个不同领域的4，488条假新闻和4，640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型（MDFEND），利用域门聚合由混合专家模型提取的多个表示。实验结果表明，MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
