FaNDS: Fake News Detection System Using Energy Flow
最近，“假新闻”一词已被广泛用于虚假信息、误导信息、恶作剧、宣传、讽刺、谣言、点击诱饵和垃圾新闻。它已成为世界各地的一个严重问题。我们提出了一个新的系统，FaNDS，可以有效地检测假新闻。该系统是基于几个概念中使用的一些以前的作品，但在不同的上下文中。有两个主要概念：不一致图和能量流。不一致图包含作为节点的新闻项和作为边的它们之间的不一致意见。能量流为每个节点分配一个初始能量，然后一些能量沿着边缘传播，直到所有节点上的能量分布收敛。为了说明FaNDS，我们使用来自假新闻挑战赛（FNC-1）的原始数据。首先，必须重构数据以生成不一致图。该图包含具有定义良好的形状的各种子图，这些子图表示新闻项之间的不同类型的连接。然后应用能量流方法。具有高能量的节点是假新闻的候选者。在我们的实验中，所有这些确实都是假新闻，因为我们使用几个可靠的网站进行了检查。我们将FaNDS与其他几种假新闻检测方法进行了比较，发现它在发现假新闻方面更敏感。
2020-10-05 cs.SI
An organized review of key factors for fake news detection
社交媒体上的假新闻迅速成为当今社会讨论最多的话题之一。随着虚假信息的激增并在政治、经济和社会领域中造成重大影响，在过去几年中已经进行了分析和自动识别这种类型的内容的研究工作。在本文中，我们试图总结关于社交媒体中假新闻主题的主要研究结果，强调所采取的主要研究路径，并特别关注假新闻和机器人账户的检测。
2021-02-26 cs.SI
Attacking Fake News Detectors via Manipulating News Social Engagement
本文提出首个针对基于GNN的假新闻检测器的对抗攻击框架，通过含三类智能体的多智能体强化学习模拟欺诈者协调行为，实验证明其可有效破坏检测器性能，为假新闻检测研究提供参考。
2023-04-27 cs.SI
Fake News Detection through Graph Comment Advanced Learning
虚假信息一直被认为是一个严重的社会问题，假新闻是其中最具代表性的问题之一。更糟糕的是，当今高度发达的社交媒体使得假新闻以令人难以置信的速度广泛传播，给人类生活的各个方面带来实质性的危害。然而，社交媒体的普及也为更好地发现假新闻提供了机会。与仅关注内容或用户评论的传统手段不同，异构社交媒体信息的有效协作，包括新闻的内容和上下文因素，用户的评论以及社交媒体与用户的互动，将有望更好地检测假新闻。基于上述观察，本文提出了一种新的检测框架，即图评论-用户高级学习框架（GCAL）。用户评论信息在虚假新闻检测中至关重要，但尚未得到充分研究。因此，我们通过基于异构图神经网络的网络表示学习来建模用户评论上下文。我们在两个真实世界的数据集上进行了实验，结果表明，所提出的联合模型优于8种最先进的假新闻检测基线方法（准确率至少为4%，召回率至少为7%，F1至少为5%）。此外，所提出的方法也是可解释的。
2021-01-29 cs.SI
Identifying Cost-effective Debunkers for Multi-stage Fake News Mitigation Campaigns
在线社交网络已经成为传播假新闻的沃土。已经提出了自动减轻假新闻传播的方法。一些研究侧重于选择社交网络上的前k名有影响力的用户作为揭穿者，但揭穿者的社会影响力可能不会像预期的那样转化为广泛的缓解信息传播。其他研究假设了一组给定的揭穿者，并专注于优化揭穿者发布真实新闻的强度，但由于揭穿者是固定的，即使具有高社会影响力和/或高强度发布真实新闻，真实新闻也可能无法到达暴露于假新闻的用户，因此缓解效果可能有限。在本文中，我们提出了多阶段的假新闻缓解活动，其中在每个阶段的预算范围内动态选择揭穿者。我们制定它作为一个强化学习的问题，并提出了一个贪心算法优化预测未来的状态，使揭穿者可以选择的方式，最大限度地提高整体缓解效果。我们对合成和真实世界的社交网络进行了广泛的实验，并表明我们的解决方案在缓解效果方面优于最先进的基线。
2022-03-31 cs.SI
Modeling The Sharing and Diffusion Of Fake News in Social Media
本文融合用户属性、主题兴趣、关系强度及新闻复杂性、文体与心理特征建模，利用机器学习识别假新闻分享者并预测传播，发现有影响力用户分享的新闻更易扩散。
2024-10-28 cs.SI
Credibility-based Fake News Detection
Syracuse University（雪城大学）
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中，我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据，我们发现新闻来源（和作者）的信息可以成为可信度的一个强有力的指标。我们的研究结果表明，作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法，其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
From Fake News to #FakeNews: Mining Direct and Indirect Relationships among Hashtags for Fake News Detection
COVID-19大流行引起了全世界的关注，并允许假新闻，如“COVID-19是流感”，在社交媒体上迅速广泛传播。对抗这种冠状病毒信息流行病需要有效的方法来检测假新闻。为此，我们提出了一种方法来推断新闻的可信度，从标签参与新闻传播的社交媒体，动机标签和新闻可信度之间的紧密联系，在我们的实证分析观察。我们首先介绍一个新的图，它捕获了标签之间的所有（直接和\textit{indirect}）关系。然后，开发了一种与语言无关的半监督算法，以基于此构建的图来预测假新闻。本研究首先探讨主题标签之间的间接关系，所提出的方法可以扩展到任何同构图捕捉节点之间的全面关系。语言独立性使所提出的方法可以用于多语言虚假新闻检测。在两个真实世界数据集上进行的实验证明了我们的方法在识别假新闻方面的有效性，特别是在传播的\textit{early}阶段。
2022-11-20 cs.IR cs.SI
Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
Fake News Detection using Temporal Features Extracted via Point Process
许多人使用社交网络服务（SNS）来轻松访问各种新闻。有很多方法可以获取和分享“假新闻”，即带有虚假信息的新闻。为了解决假新闻，已经进行了几项研究，通过使用SNS提取的特征来检测假新闻。在这项研究中，我们试图使用时间特征生成的SNS帖子使用点处理算法来识别假新闻从真正的新闻。假新闻检测中的时间特征具有鲁棒性优于现有特征的优点，因为它对假新闻传播者的依赖性最小。此外，我们提出了一种新的基于多模态注意力的方法，该方法包括语言和用户特征以及时间特征，用于检测SNS帖子中的假新闻。在三个公开数据集上的实验结果表明，与现有方法相比，该模型具有更好的性能，并证明了时间特征在虚假新闻检测中的有效性。
2020-07-28 cs.CY cs.SI
Comparing the willingness to share for human-generated vs. AI-generated fake news
研究通过988名受试者和20条COVID-19虚假新闻的预注册在线实验，比较了人类与GPT-4生成虚假新闻的感知准确性和分享意愿，发现AI生成新闻虽被认为准确性较低但分享倾向相同，并揭示了影响用户轻信AI虚假新闻的社会经济因素。
2024-02-12 cs.SI physics.soc-ph
The Role of User Profile for Fake News Detection
从社交媒体上消费新闻正变得越来越受欢迎。社交媒体因其信息传播速度快、成本低、访问方便而吸引用户。然而，社交媒体也使假新闻得以传播。由于假新闻的社会危害性，对假新闻的检测越来越受到人们的关注。然而，仅使用新闻内容的检测性能通常不令人满意，因为假新闻是模仿真实新闻编写的。因此，有必要深入了解社交媒体上的用户简档与假新闻之间的关系。在本文中，我们研究了理解和利用社交媒体上的用户简档进行假新闻检测的挑战性问题。为了理解用户简档与假新闻之间的联系，首先，我们测量了用户在社交媒体上的分享行为，并将更有可能分享假新闻和真新闻的代表性用户分组;然后，我们对这些用户组之间的显式和隐式档案特征进行了比较分析，揭示了它们有助于区分假新闻和真新闻的潜力。为了利用用户简档功能，我们证明了这些用户简档功能在假新闻分类任务中的有用性。我们进一步验证这些功能的有效性，通过特征重要性分析。本文的研究成果为进一步深入挖掘社交媒体的用户简档特征，增强对虚假新闻的检测能力奠定了基础。
2019-04-30 cs.IR cs.SI
"This is Fake! Shared it by Mistake": Assessing the Intent of Fake News Spreaders
Syracuse University（雪城大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Arizona State University（亚利桑那州立大学）
个人可能会被假新闻误导，并在不知道它是假的情况下无意中传播。这种现象经常被观察到，但尚未进行调查。我们这项工作的目的是评估假新闻传播者的意图。为了区分有意传播和无意传播，我们研究了无意传播的心理学解释。在此基础上，我们提出了一个影响图，利用它来评估假新闻传播者的意图。我们广泛的实验表明，评估的意图可以帮助显着区分有意和无意的假新闻传播者。此外，估计的意图可以显着改善当前检测假新闻的技术。据我们所知，这是第一个对个人在假新闻传播中的意图进行建模的工作。
2022-02-13 cs.AI cs.SI
Open Issues in Combating Fake News: Interpretability as an Opportunity
打击假新闻需要多种防御手段。虽然谣言检测和各种语言分析技术是检测社交媒体中虚假内容的常用方法，但在机器学习社区中可以探索其他可行的缓解方法。在本文中，我们提出了假新闻研究中需要进一步关注的开放问题和机会。我们首先回顾了社交媒体中新闻生存周期的不同阶段，并通过三个例子讨论了新闻推送算法在传播假新闻内容时的核心脆弱性问题。然后，我们讨论了假新闻问题的复杂性和不明确性如何限制了这一领域的进步。最后，我们提出了从可解释的机器学习来减轻假新闻问题的研究机会，包括1）可解释的假新闻检测和2）透明的新闻提要算法。我们提出了可解释性的三个维度，包括算法可解释性，人类可解释性，以及包含支持证据，这些证据可以以不同的方式使假新闻缓解方法受益。
2019-04-04 cs.IR cs.SI
FakeSwarm: Improving Fake News Detection with Swarming Characteristics
Georgia Institute of Technology（佐治亚理工学院）；Trine University（特里尼大学）
本文提出FakeSwarm虚假新闻识别系统，通过主成分分析、度量表示和位置编码三类群体特征，在公开数据集上取得超过97%的f1分数和准确率，并验证了群体特征在早期虚假新闻和文本样本短缺场景下能显著提升召回率。
2023-05-30 cs.LG cs.SI
Modeling the spread of fake news on Twitter
假新闻可能对社会产生重大负面影响，因为移动设备的使用越来越多，全球互联网接入也在增加。因此，有必要建立一个简单的数学模型来理解假新闻的在线传播。在这项研究中，我们提出了一个假新闻在Twitter上传播的点过程模型。该模型将假新闻的传播描述为两个阶段的过程：最初，假新闻作为一条普通新闻传播;然后，当大多数用户开始认识到新闻的虚假性时，它本身作为另一个新闻故事传播。我们使用两个在Twitter上传播的假新闻项目数据集来验证这个模型。我们表明，该模型在准确预测假新闻传播的演变方面优于当前最先进的方法。此外，文本分析表明，我们的模型适当地推断了更正时间，即，当Twitter用户开始意识到新闻的虚假性时。该模型有助于了解假新闻在社交媒体上的传播动态。它提取传播模式的紧凑表示的能力可能有助于检测和缓解假新闻。
2021-04-27 cs.CY cs.SI
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；Leiden University（莱顿大学）；Harvard University（哈佛大学）
在本文中，我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象，而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中，我们发现相关词汇，提到的实体，周围的主题以及围绕“假新闻”一词的上下文极性发生了变化，这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解，有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Fake news propagate differently from real news even at early stages of spreading
社交媒体对社会来说可能是一把双刃剑，既可以作为交流思想的便捷渠道，也可以作为在大量人口中传播假新闻的意外渠道。虽然现有的假新闻研究主要集中在传播的理论建模或基于机器学习的识别方法上，但重要的是要了解理论模型和黑箱方法之间的现实机制。在这里，我们跟踪了来自不同文化的中国微博和日本Twitter上的假新闻和真实新闻的大型数据库，其中包括他们重新发布的完整痕迹。我们发现，在这两个在线社交网络中，假新闻的传播与真实新闻截然不同，即使在传播的早期阶段，例如在第一次转发后的五个小时。我们的发现展示了集体结构信号，有助于理解假新闻和真实新闻的不同传播演变。与早期的研究不同，在早期阶段识别信息传播的拓扑特性可能为社交媒体中的假新闻早期检测提供新的特征。
2019-04-16 cs.SI physics.soc-ph
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Fake News Detection on Social Media: A Data Mining Perspective
Arizona State University（亚利桑那州立大学）；Charles River Analytics（查尔斯河分析公司）；Michigan State University（密歇根州立大学）
社交媒体对新闻消费来说是一把双刃剑。一方面，它的低成本，容易获取和快速传播的信息导致人们从社交媒体中寻找和消费新闻。另一方面，它使“假新闻”得以广泛传播，即，低质量新闻，故意虚假信息。假新闻的广泛传播有可能对个人和社会产生极其负面的影响。因此，社交媒体上的假新闻检测最近成为一项新兴的研究，引起了极大的关注。社交媒体上的假新闻检测呈现出独特的特征和挑战，使得传统新闻媒体的现有检测算法无效或不适用。首先，假新闻是故意编写的，以误导读者相信虚假信息，这使得基于新闻内容的检测变得困难和重要;因此，我们需要包括辅助信息，例如社交媒体上的用户社交活动，以帮助做出决定。其次，利用这些辅助信息本身就具有挑战性，因为用户与假新闻的社交活动会产生大量、不完整、非结构化和嘈杂的数据。由于社交媒体上的假新闻检测问题既具有挑战性又具有相关性，我们进行了这项调查，以进一步促进对该问题的研究。本文对社交媒体上的假新闻检测进行了全面的综述，包括心理学和社会学理论对假新闻的刻画、数据采掘视角下的现有算法、评价指标和代表性数据集。我们还讨论了社交媒体上虚假新闻检测的相关研究领域，开放问题和未来的研究方向。
2017-09-03 cs.AI cs.SI
This Just In: Fake News Packs a Lot in Title, Uses Simpler, Repetitive Content in Text Body, More Similar to Satire than Real News
Rensselaer Polytechnic Institute（伦斯勒理工学院）
假新闻问题已经引起了很多关注，因为它据称对2016年美国总统选举产生了重大影响。假新闻并不是一个新问题，它在社交网络中的传播已经得到了充分的研究。通常，假新闻讨论的一个潜在假设是，它看起来像真实的新闻，愚弄那些不检查来源可靠性或内容中论点的读者。通过对三个数据集和特征的独特研究，我们发现这种假设是不正确的。在大多数情况下，假新闻更类似于讽刺，而不是真实新闻，这让我们得出结论，假新闻的说服力是通过辩论而不是论点的力量来实现的。我们发现标题的整体结构和标题中专有名词的使用在区分真假方面非常重要。这使我们得出结论，假新闻的目标受众不太可能阅读标题以外的内容，其目的是在实体和声明之间建立心理联系。
2017-03-28 cs.CL cs.SI
Fake News Detection with Heterogeneous Transformer
The Hong Kong University of Science and Technology（香港科技大学）
假新闻在社交网络上的传播引起了公众对有效和高效的假新闻检测方法的需求。一般来说，社交网络上的假新闻是多模态的，与用户和帖子等其他实体有各种联系。社交网络中新闻内容的异质性以及与其他实体的关系给设计一个模型带来了挑战，该模型可以全面捕获社交网络中实体的局部多模态语义和传播模式的全局结构表示，从而有效准确地分类假新闻。本文提出了一种新的基于Transformer的模型：HetTransformer，利用Transformer的编码器-解码器结构捕获新闻传播模式的结构信息，解决了社交网络上的假新闻检测问题。我们首先捕获本地异构语义的新闻，帖子，和用户实体在社交网络。然后，我们应用Transformer来捕获社交网络中传播模式的全局结构表示，以用于假新闻检测。在三个真实世界数据集上的实验表明，我们的模型能够在假新闻检测中超越最先进的基线。
2022-05-06 cs.AI cs.SI
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Exploring the Role of Visual Content in Fake News Detection
社交媒体的日益普及促进了假新闻的扩散，造成了重大的负面社会影响。因此，社交媒体上的假新闻检测最近成为备受关注的新兴研究领域。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导消费者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。尽管视觉内容很重要，但我们对视觉内容在假新闻检测中的作用的理解仍然有限。本章对虚假新闻中的视觉内容进行了全面的综述，包括多媒体虚假新闻检测的基本概念、有效的视觉特征、典型的检测方法和挑战性问题。本章可以帮助读者理解视觉内容在假新闻检测中的作用，并有效地利用视觉内容来辅助检测多媒体假新闻。
2020-03-11 cs.MM cs.SI
The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院）；MBZUAI；Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MoE（下一代智能搜索与推荐工程研究中心，教育部）；School of Artifcial Intelligence, Wuhan University（武汉大学人工智能学院）
提出基于LLM智能体的FUSE框架，模拟真实新闻在社交互动中逐步扭曲为假新闻的演化过程，并开发FUSE-EVAL评估真相偏差，实验证明其能有效重现假新闻演化场景并支持早期干预。
2025-05-28 cs.AI cs.SI
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University（崇实大学）；Adobe Research（奥多比研究院）
本研究调查假新闻如何使用新闻文章的缩略图，重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象，特别是在社交媒体环境中，用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析，我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步，我们试图检测新闻文章与图像-文本不一致。评估实验表明，基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
On the Coherence of Fake News Articles
University of Sheffield（谢菲尔德大学）；University of Calicut（卡利卡特大学）
新媒体和在线媒体来源中假新闻的产生和传播正在成为一种具有高度社会意义的现象。使用数据驱动的分析来对抗它们最近引起了学术界的兴趣。在这项研究中，我们分析了假新闻与合法新闻的语篇连贯性。我们利用自然语言处理和数据科学中最先进的方法开发了三种文本连贯性的计算公式。两个现实世界的数据集，从广泛不同的领域，有假/合法的文章标签，然后分析文本的连贯性。我们观察到虚假和合法新闻文章的文本连贯性存在明显差异，与合法新闻文章相比，虚假新闻文章的连贯性一直较低。虽然假新闻与合法新闻相比的相对连贯性不足是我们研究的主要观察结果，但我们分析了差异的几个方面，并概述了进一步调查的潜在途径。
2020-08-15 cs.CL cs.SI
Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks
Arizona State University（亚利桑那州立大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Bytedance（字节跳动）；Illinois Institute of Technology（伊利诺伊理工学院）
如今，假新闻很容易通过在线社交网络传播，成为对个人和社会的巨大威胁。评估新闻的真实性是具有挑战性的，因为其精心编造的内容，使得很难获得大规模的假新闻数据注释。由于这种数据稀缺性问题，检测假新闻往往会失败，并且在监督环境中过度拟合。最近，图神经网络（GNN）已被采用，以利用标记和未标记的实例之间的更丰富的关系信息。尽管它们的结果很有希望，但它们本质上专注于新闻之间的成对关系，这可能会限制捕捉在群体层面传播的假新闻的表达能力。例如，当我们更好地理解易感用户之间共享的新闻片段之间的关系时，检测假新闻可能会更有效。为了解决这些问题，我们建议利用超图来表示新闻之间的群体互动，同时利用其双层注意力机制来关注重要的新闻关系。基于两个基准数据集的实验表明，我们的方法产生了显着的性能，并保持高性能，即使是一个小的子集标记的新闻数据。
2022-12-24 cs.LG cs.SI
FacTweet: Profiling Fake News Twitter Accounts
PRHLT Research Center, Universitat Politècnica de València（瓦伦西亚理工大学PRHLT研究中心）；University of Mannheim（曼海姆大学）
我们提出了一种方法，使用神经递归模型和各种不同的语义和风格特征，在帐户级别上检测Twitter中的假新闻。我们的方法通过将他们的帖子作为块阅读，而不是独立地处理每条推文，从新闻Twitter帐户的时间轴中提取一组特征。我们展示了在广泛的强基线上用序列模型对混合假新闻和真新闻的潜在风格签名进行建模的实验好处。
2019-10-15 cs.CL cs.SI
Ginger Cannot Cure Cancer: Battling Fake Health News with a Comprehensive Data Repository
The Pennsylvania State University（宾夕法尼亚州立大学）
目前，互联网是获取健康信息的主要来源。互联网上大量的虚假健康新闻已经成为对公众健康的严重威胁。在虚假新闻检测领域，国内外学者做了大量的研究和工作，但针对健康新闻的研究较少。例如，虚假健康新闻检测需要开发可解释性。为了缓解这些问题，我们构建了一个全面的存储库FakeHealth，其中包括具有丰富功能的新闻内容，具有详细解释的新闻评论，社交活动和用户-用户社交网络。此外，进行探索性分析，以了解数据集的特征，分析有用的模式，并验证健康假新闻检测数据集的质量。我们还讨论了健康假新闻检测的新的和潜在的未来研究方向。
2020-03-30 cs.LG cs.SI stat.ML
Exploiting Multi-domain Visual Information for Fake News Detection
社交媒体的日益普及促进了假新闻的泛滥。随着多媒体技术的发展，假新闻试图利用带有图像或视频的多媒体内容吸引和误导读者进行快速传播，这使得视觉内容成为假新闻的重要组成部分。假新闻图片，即假新闻帖子中附带的图片，不仅包括被恶意篡改的假图片，还包括被错误地用来表示不相关事件的真实图片。因此，如何充分利用假新闻图像的固有特征是假新闻检测的一个重要而又具有挑战性的问题。在现实世界中，假新闻图像可能在物理和语义层面上都具有与真实新闻图像显著不同的特征，这些特征可以分别在频率和像素域中清楚地反映出来。因此，我们提出了一种新的框架多域视觉神经网络（MVNN）融合的频域和像素域的视觉信息检测假新闻。具体来说，我们设计了一个基于CNN的网络来自动捕获频域中假新闻图像的复杂模式;并利用多分支CNN-RNN模型从像素域中的不同语义层次提取视觉特征。利用注意力机制动态融合频域和像素域的特征表示。在真实世界数据集上进行的大量实验表明，MVNN的准确率至少为9.2%，优于现有方法，并且可以帮助将多模态假新闻检测的性能提高5.2%以上。
2019-08-13 cs.IR cs.MM cs.SI
Influence of fake news in Twitter during the 2016 US presidential election
2016年美国总统大选期间推特上假新闻的动态和影响仍有待澄清。在这里，我们使用选举日前五个月的1.71亿条推文的数据集来识别来自220万用户的3000万条推文，其中包含新闻媒体的链接。根据www.opensources.co对新闻媒体的分类，我们发现这些推文中有25%传播虚假或极端偏见的新闻。我们描述了信息流的网络，以找到最有影响力的假新闻和传统新闻的传播者，并使用因果模型来揭示假新闻如何影响总统选举。我们发现，虽然传播传统中间和左倾新闻的顶级影响者在很大程度上影响了克林顿支持者的活动，但对于假新闻来说，这种因果关系是相反的：特朗普支持者的活动影响了顶级假新闻传播者的动态。
2019-03-20 cs.CY cs.SI physics.soc-ph
Anger makes fake news viral online
操纵政治选举、打击金融系统、甚至煽动骚乱的假新闻比网上的真实新闻更具有病毒性，导致社会不稳定和民主受到冲击。网上假新闻更容易传播，可以用它携带的更大愤怒来解释。在Twitter和微博中的相同结果表明，该机制是独立于平台的。此外，情绪的突变，如愤怒的增加，会逐渐加快信息的传播。具体来说，在微博数据集中增加0.1的愤怒占据和减少0.1的喜悦占据将产生近6个转发。离线问卷调查显示，愤怒导致更多的激励观众在焦虑管理和信息共享方面，因此使假新闻比真实新闻更具传染性。可以实施在社交媒体上标记愤怒等治疗方法，以减缓或防止假新闻在源头的传播。
2020-08-27 cs.CY cs.SI
MPPFND: A Dataset and Analysis of Detecting Fake News with Multi-Platform Propagation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院）；Division of Emerging Interdisciplinary Areas, Hong Kong University of Science and Technology（香港科技大学新兴交叉学科 division）
本文提出MPPFND数据集和APSL模型，利用图神经网络提取多平台社会背景特征，通过考虑跨平台传播差异提升假新闻检测性能。
2025-05-16 cs.AI cs.SI
Towards Smart Fake News Detection Through Explainable AI
National Institute of Technology Calicut（国家理工学院卡利卡特分校）
由于社交媒体网站的受欢迎程度，人们现在将其视为唯一的信息来源。大多数人通过社交媒体获取新闻。与此同时，近年来假新闻在社交媒体平台上呈指数级增长。几种基于人工智能的检测假新闻的解决方案已经显示出令人鼓舞的结果。另一方面，这些检测系统缺乏解释能力，即，解释他们为什么做出预测的能力。本文重点介绍了可解释的假新闻检测的最新技术水平。我们讨论了当前基于人工智能的可解释假新闻检测模型的缺陷，并介绍了我们正在进行的多模态可解释假新闻检测模型的研究。
2022-07-23 cs.AI cs.IR cs.SI
Combating Fake News with Interpretable News Feed Algorithms
如今，人工智能算法被用于大规模的定向和个性化内容分发，作为数字媒体环境中对注意力的激烈竞争的一部分。不幸的是，有针对性的信息传播可能导致知识孤立和歧视。此外，正如美国和欧盟最近的政治事件所表明的那样，恶意机器人和社交媒体用户可以以不同形式创建和传播有针对性的“假新闻”内容，以获得政治利益。从另一个方向来看，假新闻检测算法试图通过识别错误信息和欺诈性用户简档来解决这些问题。本文回顾了常见的新闻推送算法以及假新闻检测方法，并讨论了新闻推送算法如何被滥用来推广虚假内容，影响新闻多样性或影响可信度。我们回顾了新闻提要算法和推荐引擎如何使确认偏见将用户隔离到某些新闻来源并影响对现实的感知。作为一个潜在的解决方案，提高用户对内容如何选择或排序的认识，我们主张使用可解释和可解释的新闻提要算法。我们讨论了如何提高用户意识和系统透明度可以减轻社会媒体中回声室和气泡过滤器的不必要的结果。
2018-12-04 cs.CY cs.SI
Mining User-aware Multi-relations for Fake News Detection in Large Scale Online Social Networks
Macquarie University（麦考瑞大学）
用户参与创建和传播新闻是在线社交网络中虚假新闻检测的一个重要方面。直觉上，可信的用户更有可能分享可信的新闻，而不可信的用户传播不可信新闻的概率更高。在本文中，我们构造了一个双层图（即，新闻层和用户层），以提取社交网络中新闻和用户的多种关系，从而导出用于检测假新闻的丰富信息。在双层图的基础上，提出了一个假新闻检测模型Us-DeFake。在新闻层学习新闻的传播特征，在用户层学习用户的交互特征。通过图中的中间层，Us-DeFake将包含可信度信息的用户信号融合到新闻特征中，为假新闻检测提供独特的用户感知的新闻嵌入。训练过程在图采样器获得的多个双层子图上进行，以在大规模社交网络中缩放Us-DeFake。在真实数据集上的大量实验表明了Us-DeFake的优越性，其性能优于所有基线，并且通过交互关系学习的用户可信度信号可以显着提高我们模型的性能。
2023-01-04 cs.AI cs.SI
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University（雪城大学）
假新闻的爆炸性增长及其对民主，正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估：（1）它所携带的虚假知识，（2）它的写作风格，（3）它的传播模式，以及（4）它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是，我们确定并详细说明了各个学科的相关基础理论，以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作，研究假新闻，这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
Domain Adaptive Fake News Detection via Reinforcement Learning
Arizona State University（亚利桑那州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）
随着社交媒体成为信息消费的主要力量，假新闻的加速传播为平台区分合法和假新闻提出了新的挑战。由于新闻领域的多样性和昂贵的注释成本，有效的假新闻检测是一项重要的任务。在这项工作中，我们通过结合辅助信息（例如，用户评论和用户-新闻交互）转换为一种新的基于强化学习的模型，称为\textbf{RE}强化的\textbf{A}自适应的\textbf{L}获得\textbf{F}的\textbf{N} ews \textbf{D}检测（REAL-FND）。REAL-FND利用跨域和域内知识，使其在目标域中具有鲁棒性，尽管是在不同的源域中训练的。在真实数据集上的大量实验表明了该模型的有效性，特别是当目标域中的标记数据有限时。
2022-02-16 cs.LG cs.SI
Which linguistic cues make people fall for fake news? A comparison of cognitive and affective processing
University of Freiburg（弗赖堡大学）；University of Newcastle（纽卡斯尔大学）；LMU Munich（慕尼黑大学）；University of Giessen（吉森大学）
本文通过42名被试阅读40篇真假新闻的被试内神经生理实验，结合眼动与心率变异性，比较语言线索对认知和情感加工的影响，为防范假新闻提供平台设计启示。
2023-12-02 cs.CL cs.SI
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University（佛罗里达州立大学）
假新闻的病毒式传播造成了巨大的社会危害，使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息，通过学习提取的新闻内容或写作风格的内部知识。然而，故意的谣言可以掩盖写作风格，绕过语言模型，并使简单的基于文本的模型无效。事实上，新闻文章和其他相关组件（如新闻创作者和新闻主题）可以建模为异构信息网络（简称HIN）。本文提出了一种新的虚假新闻检测框架--层次图注意力网络（HGAT），该框架利用层次注意力机制对HIN中的节点进行表示学习，然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明，HGAT可以优于基于文本的模型和其他基于网络的模型。此外，实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
Network Inference from a Mixture of Diffusion Models for Fake News Mitigation
University of Southern California（南加州大学）
旨在欺骗人们、影响公众舆论和操纵社会结果的假新闻传播已成为社交媒体上的一个紧迫问题。此外，社交媒体上的信息共享促进了病毒式信息级联的传播。在这项工作中，我们专注于理解和利用虚假和合法内容的传播动态，以促进网络干预，缓解假新闻。我们分析了真实世界的Twitter数据集，包括虚假和真实的新闻级联，以了解关于虚假和真实内容的扩散动态和用户行为的差异。分析的基础上，我们建模的扩散作为一个混合物的独立级联模型（MIC）的参数$θ_T, θ_F$在社会网络图，并获得无监督推理技术的参数估计的扩散混合模型从观察到的，未标记的级联。使用推断的扩散动力学来识别在真实和虚假内容的传播中有影响的用户。识别出的有影响力的用户的特征揭示了为假新闻识别出的有影响力的用户与他们在假新闻级联中的相对出现之间的正相关性。识别出的有影响力的用户倾向于与病毒性信息级联更多的主题相关，而不是病毒性信息级联较少的主题;与真正的新闻有影响力的用户相比，识别出的假新闻有影响力的用户的直接追随者数量相对较少。节点和边缘的干预分析表明，推断的扩散动力学的能力，支持网络干预措施，以减轻。
2020-08-08 cs.LG cs.SI
Leveraging Users' Social Network Embeddings for Fake News Detection on Twitter
社交网络（SN）对许多人来说是越来越重要的新闻来源。用户建立的在线连接允许信息比传统新闻媒体更容易传播（例如，报纸、电视）。然而，它们也使假新闻的传播比传统媒体更容易，特别是通过用户的社交网络连接。在本文中，我们专注于调查是否SN的用户连接结构可以帮助Twitter上的假新闻检测。特别是，我们建议嵌入用户的基础上，他们的追随者或朋友网络的Twitter平台上，以确定用户形成的组。事实上，通过在Twitter用户的社交网络连接的图上应用无监督图嵌入方法，我们观察到参与假新闻的用户比只参与事实新闻的用户更紧密地聚集在一起。因此，我们假设嵌入式用户的网络可以帮助有效地检测假新闻。通过使用公开可用的Twitter数据集进行广泛的实验，我们的结果表明，在SN上应用图嵌入方法，使用用户连接作为网络信息，确实可以比大多数基于语言的方法更有效地对假新闻进行分类。具体地说，我们观察到比仅使用文本信息有显著的改进（即，TF.IDF或BERT语言模型），以及部署了高级文本特征（即，姿态检测）和复杂网络特征（例如，用户网络、出版商交叉引用）。我们的结论是，Twitter用户的友谊和追随者网络信息可以显着优于基于语言的方法，以及现有的最先进的假新闻检测模型，使用更复杂的网络结构，在分类Twitter上的假新闻。
2022-11-19 cs.IR cs.SI
FakeCovid -- A Multilingual Cross-domain Fact Check News Dataset for COVID-19
在本文中，我们提出了第一个多语言跨域数据集，其中包含5182篇经过事实核查的COVID-19新闻文章，收集时间为2020年1月4日至2020年5月15日。我们从92个不同的事实核查网站收集了事实核查的文章，并从Poynter和Snopes那里获得了参考资料。我们根据内容将文章手动注释为11个不同类别的事实核查新闻。该数据集使用来自105个国家的40种语言。我们已经建立了一个分类器来检测假新闻，并为自动假新闻检测及其分类提供了结果。我们的模型实现了0.76的F1分数，以检测虚假类和其他事实检查文章。FakeCovid数据集可以在Github上找到。
2020-06-19 cs.CY cs.SI
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University（佛罗里达州立大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
近年来，由于在线社交网络的蓬勃发展，出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语，在线社交网络用户很容易被这些在线假新闻所感染，这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法，并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征，FAKEDETECTOR构建了一个深度扩散网络模型，同时学习新闻文章，创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验，将FAKEDETECTOR与几种最先进的模型进行了比较，实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences（中国科学院智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻，现有的方法观察新闻帖子的语言模式，并“放大”以验证其内容与知识源或检查其读者的回复。然而，这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度，这是假新闻制造的重要灵感，因为假新闻往往是为了搭上热门事件的顺风车，以意想不到的新奇内容吸引公众的注意力，以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号，我们“拉远”观察新闻环境，并提出了新闻环境感知框架（NEP）。对于每一个帖子，我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后，我们设计了一个面向流行和新颖的模块，以感知有用的信号，并进一步帮助最终的预测。在我们新构建的数据集上的实验表明，NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
Controlling Fake News by Tagging: A Branching Process Analysis
假新闻在在线社交网络（OSN）上的传播已成为一个令人担忧的问题。这些平台还用于传播重要的真实信息。因此，需要在不显著影响真实新闻的传播的情况下减轻假新闻。我们利用用户识别假新闻的固有能力，并提出一种基于警告的控制机制来遏制这种传播。评论是基于以前用户的反应，表明新闻的真实性。我们使用依赖于人口规模的连续时间多类型分支过程来描述预警机制下的传播。我们对这些分支过程也有了新的结果。使用随机近似工具得出的（时间）渐近比例的个人群体。使用这些，相关的类型1，类型2的性能，并解决了适当的优化问题。该机制有效地控制了假新闻，对真实新闻的传播影响甚微。我们使用Monte Carlo模拟Twitter数据提供的网络连接来验证性能指标。
2022-07-15 cs.SI math.PR
Unseen Fake News Detection Through Casual Debiasing
The University of Melbourne（墨尔本大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）
针对现有假新闻检测方法难以应对未见新闻的问题，通过因果分析识别训练数据中的领域偏差，提出基于分类置信度重加权和传播结构正则化的去偏方法FNDCD，有效提升了模型在跨领域未见假新闻上的检测泛化能力。
2025-03-06 cs.AI cs.SI
Detecting Chinese Fake News on Twitter during the COVID-19 Pandemic
本文提出一种新型分类器，用于检测COVID-19大流行期间Twitter上关于中国的中文假新闻，并公开了性能达F1=0.64、准确率93%的模型及含18,425条推文的训练数据集。
2023-04-07 cs.CY cs.SI
Credulous Users and Fake News: a Real Case Study on the Propagation in Twitter
最近的研究证实了一个日益增长的趋势，特别是在年轻人中，使用在线社交媒体作为最喜欢的信息平台，而不是传统的大众媒体。事实上，它们可以很容易地以高速到达广泛的受众;但正是因为如此，它们才是通过所谓的假新闻影响公众舆论的首选媒介。此外，人们普遍认为，假新闻的主要载体是自动与人类用户交互的恶意软件机器人（机器人）。在以前的工作中，我们已经考虑了标记人类用户在在线社交网络的轻信用户的问题。具体来说，我们已经考虑轻信那些与社交好友总数相比，机器人好友数量相对较高的用户。我们认为这组用户值得关注，因为他们可能更容易受到恶意活动的影响，并且他们可能通过分享可疑内容来传播虚假信息。在这项工作中，从假新闻的数据集开始，我们调查的行为和轻信的用户在假新闻传播的参与程度。该研究旨在：（i）通过考虑轻信用户传播的内容来打击假新闻;（ii）突出轻信用户与假新闻传播之间的关系;（iii）通过专注于分析更容易受到机器人恶意活动影响的特定账户来检测假新闻。我们的第一个结果表明，轻信的用户强烈参与了假新闻的传播。这一发现需要一些工具，通过对轻信的用户行为执行数据流，使我们能够执行有针对性的事实核查。
2020-05-07 cs.IR cs.SI
Identifying Nuances in Fake News vs. Satire: Using Semantic and Linguistic Cues
AdVerifai；The George Washington University（乔治华盛顿大学）；Amazon AWS AI（亚马逊AWS人工智能）
邪恶的假新闻和受保护的言论讽刺之间的模糊界限一直是社交媒体平台的一场臭名昭著的斗争。为了进一步减少社交媒体上的错误信息，假新闻的传播者已经开始伪装成讽刺网站，以避免被降级。在这项工作中，我们解决了自动分类假新闻与讽刺的挑战。以前的工作已经研究了是否可以根据语言差异区分假新闻和讽刺。与假新闻相反，讽刺故事通常是幽默的，并带有一些政治或社会信息。我们假设，这些细微差别可以识别使用语义和语言线索。因此，我们训练一种使用语义表示的机器学习方法，使用最先进的上下文语言模型，并使用基于文本连贯性度量的语言特征。实证评估证明了我们的方法与基于语言的基线相比的优点，并揭示了假新闻和讽刺之间的细微差别。作为未来工作的途径，我们考虑研究与幽默方面相关的其他语言特征，并利用当前的新闻事件丰富数据，以帮助识别政治或社会信息。
2019-11-05 cs.CL cs.SI
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University（武汉大学弘毅学堂）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题，直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来，已经提出了许多检测方法来打击假新闻，但它们主要集中在文章的语言方面，而没有任何事实检查。在本文中，我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验，我们证明了事实篡改攻击是有效的。为了解决这些问题，我们认为，事实核查应与语言特征分析相结合，以真正区分假新闻和真新闻。提出了一种众包的知识图谱，作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
