LLM-Generated Fake News Induces Truth Decay in News Ecosystem: A Case Study on Neural News Recommendation
Media Synthesis and Forensics Lab, Institute of Computing Technology, Chinese Academy of Sciences(媒体合成与取证实验室,计算技术研究所,中国科学院);University of Chinese Academy of Sciences(中国科学院大学)
本研究针对LLM生成假新闻对新闻生态的影响,开发了仿真流水线与5.6万条数据集,发现其大规模注入神经新闻推荐会引发真实新闻排名优势丧失的真相衰退现象,并从熟悉度与困惑度给出解释与对策。
2025-04-29 cs.CL cs.CY cs.IR
MegaFake: A Theory-Driven Dataset of Fake News Generated by Large Language Models
The Hong Kong Polytechnic University(香港理工大学);Harbin Institute of Technology(哈尔滨工业大学)
本文提出MegaFake数据集,通过理论框架指导生成虚假新闻,提升虚假新闻检测的理论和实践能力。
2026-04-11 cs.AI cs.CL
From Deception to Detection: The Dual Roles of Large Language Models in Fake News
University of Montreal(蒙特利尔大学)
本文探讨了大型语言模型(LLMs)在假新闻中的双重角色,分析了七个模型生成带偏见假新闻的能力及检测假新闻的表现,发现部分模型能轻易生成假新闻且更难被检测,而大模型检测能力更强,且LLM生成的解释有助于用户识别假新闻。
2024-09-25 cs.AI cs.CL
Adversarial Style Augmentation via Large Language Model for Robust Fake News Detection
KAIST(韩国科学技术院);Microsoft Research Asia(微软亚洲研究院);MPI-SP(马克斯·普朗克软件系统研究所)
针对风格转换攻击导致假新闻检测鲁棒性不足的问题,提出AdStyle对抗式风格增强方法,通过LLM生成多样且具挑战性的风格转换攻击提示训练检测器,显著提升其在基准数据集上的鲁棒性与检测性能。
2025-04-18 cs.AI cs.CL
Fake News Detectors are Biased against Texts Generated by Large Language Models
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Monash University(莫纳什大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61部门)
本文发现现有假新闻检测器对LLM生成内容存在系统性偏见,并提出基于LLM改写真实新闻的对抗训练方法以提升检测准确率,同时发布GossipCop++和PolitiFact++两个综合数据集。
2026-11-16 cs.AI cs.CL
Credibility-based Fake News Detection
Syracuse University(雪城大学)
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中,我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据,我们发现新闻来源(和作者)的信息可以成为可信度的一个强有力的指标。我们的研究结果表明,作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法,其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Fake News Early Detection: An Interdisciplinary Study
Syracuse University(雪城大学)
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而,为了在早期阶段发现假新闻,即,当它在新闻媒体上发布但尚未在社交媒体上传播时,人们不能依赖新闻传播信息,因为它不存在。因此,迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面,依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究,我们的工作探索了潜在的假新闻模式,增强了假新闻特征工程的可解释性,并研究了假新闻,欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明,该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Leiden University(莱顿大学);Harvard University(哈佛大学)
在本文中,我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象,而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中,我们发现相关词汇,提到的实体,周围的主题以及围绕“假新闻”一词的上下文极性发生了变化,这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解,有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
User Preference-aware Fake News Detection
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Illinois Institute of Technology(伊利诺伊理工学院);Lehigh University(理海大学)
近年来,虚假信息和假新闻对个人和社会造成了不利影响,引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时,他/她的内生偏好被忽略。确认偏差理论表明,当用户确认他/她现有的信念/偏好时,他/她更有可能传播一条假新闻。用户的历史社交活动(如帖子)提供了有关用户对新闻偏好的丰富信息,并具有很大的潜力来推进假新闻检测。然而,探索用户对假新闻检测的偏好的工作有些有限。因此,在本文中,我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架,UPFD,它同时捕捉各种信号,从用户的喜好,联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准:https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Florida State University(佛罗里达州立大学)
随着社交网络的发展,出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话,人们很容易被假新闻感染,并且会在没有任何事实核查的情况下分享它们。例如,在2016年美国总统大选期间,有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响,而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中,我们提出研究假新闻检测问题。自动识别假新闻是非常困难的,因为基于纯模型的新闻事实核查仍然是一个开放的问题,并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究,从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外,假新闻中使用的文字和图像中还存在一些隐藏的模式,这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中,TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
This Just In: Fake News Packs a Lot in Title, Uses Simpler, Repetitive Content in Text Body, More Similar to Satire than Real News
Rensselaer Polytechnic Institute(伦斯勒理工学院)
假新闻问题已经引起了很多关注,因为它据称对2016年美国总统选举产生了重大影响。假新闻并不是一个新问题,它在社交网络中的传播已经得到了充分的研究。通常,假新闻讨论的一个潜在假设是,它看起来像真实的新闻,愚弄那些不检查来源可靠性或内容中论点的读者。通过对三个数据集和特征的独特研究,我们发现这种假设是不正确的。在大多数情况下,假新闻更类似于讽刺,而不是真实新闻,这让我们得出结论,假新闻的说服力是通过辩论而不是论点的力量来实现的。我们发现标题的整体结构和标题中专有名词的使用在区分真假方面非常重要。这使我们得出结论,假新闻的目标受众不太可能阅读标题以外的内容,其目的是在实体和声明之间建立心理联系。
2017-03-28 cs.CL cs.SI
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
假新闻的传播严重影响个人声誉和公众信任。近年来,虚假新闻检测受到了广泛关注,以往的研究主要集中在从新闻内容或传播路径中寻找线索,但在早期检测场景中,以往模型所需的特征往往不具备或不足,导致性能不佳。因此,早期发现假新闻仍然是一个严峻的挑战。直觉上,来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息,我们可以在海量新闻中快速定位假新闻,并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络(SMAN),它结合了新闻内容、发布者和用户之间的发布和转发关系,共同优化了假新闻检测和可信度预测任务。通过这种方式,我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验,结果表明,SMAN可以在4小时内检测到假新闻,准确率超过91%,这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University(华中农业大学);University at Buffalo, The State University of New York(纽约州立大学布法罗分校)
如今,社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源,这不可避免地为假新闻的传播提供了肥沃的土壤。因此,对虚假新闻的检测具有重要意义,否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而,训练有效的深度学习模型通常需要大量的标记新闻,而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能,利用新闻的事件相关性,提出了一种用于假新闻检测的事件相关性过滤方法(ECFM),该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征,它与伪标签标注器合作,充分利用新闻的事件相关性,为未标注的新闻赋予伪标签。此外,事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能,新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后,ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明,新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Identifying and Understanding User Reactions to Deceptive and Trusted Social News Sources
University of Notre Dame(圣母大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
在社会新闻时代,重要的是要了解不同可信度的新闻来源所引起的反应类型。在目前的工作中,我们试图更好地了解用户如何在两个流行的,非常不同的社交媒体平台上对可信和欺骗性的新闻来源做出反应。为此,(1)我们开发了一个模型,将用户反应分为九种类型之一,例如回答,阐述和问题等,(2)我们测量了1080万Twitter帖子和620万Reddit评论的可信和欺骗性新闻源的反应速度和类型。我们发现,在Twitter上可信和欺骗性新闻来源之间的反应速度和类型存在显着差异,但在Reddit上的差异要小得多。
2018-05-30 cs.CL
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University(崇实大学);Adobe Research(奥多比研究院)
本研究调查假新闻如何使用新闻文章的缩略图,重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象,特别是在社交媒体环境中,用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析,我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步,我们试图检测新闻文章与图像-文本不一致。评估实验表明,基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
On the Coherence of Fake News Articles
University of Sheffield(谢菲尔德大学);University of Calicut(卡利卡特大学)
新媒体和在线媒体来源中假新闻的产生和传播正在成为一种具有高度社会意义的现象。使用数据驱动的分析来对抗它们最近引起了学术界的兴趣。在这项研究中,我们分析了假新闻与合法新闻的语篇连贯性。我们利用自然语言处理和数据科学中最先进的方法开发了三种文本连贯性的计算公式。两个现实世界的数据集,从广泛不同的领域,有假/合法的文章标签,然后分析文本的连贯性。我们观察到虚假和合法新闻文章的文本连贯性存在明显差异,与合法新闻文章相比,虚假新闻文章的连贯性一直较低。虽然假新闻与合法新闻相比的相对连贯性不足是我们研究的主要观察结果,但我们分析了差异的几个方面,并概述了进一步调查的潜在途径。
2020-08-15 cs.CL cs.SI
FacTweet: Profiling Fake News Twitter Accounts
PRHLT Research Center, Universitat Politècnica de València(瓦伦西亚理工大学PRHLT研究中心);University of Mannheim(曼海姆大学)
我们提出了一种方法,使用神经递归模型和各种不同的语义和风格特征,在帐户级别上检测Twitter中的假新闻。我们的方法通过将他们的帖子作为块阅读,而不是独立地处理每条推文,从新闻Twitter帐户的时间轴中提取一组特征。我们展示了在广泛的强基线上用序列模型对混合假新闻和真新闻的潜在风格签名进行建模的实验好处。
2019-10-15 cs.CL cs.SI
Which linguistic cues make people fall for fake news? A comparison of cognitive and affective processing
University of Freiburg(弗赖堡大学);University of Newcastle(纽卡斯尔大学);LMU Munich(慕尼黑大学);University of Giessen(吉森大学)
本文通过42名被试阅读40篇真假新闻的被试内神经生理实验,结合眼动与心率变异性,比较语言线索对认知和情感加工的影响,为防范假新闻提供平台设计启示。
2023-12-02 cs.CL cs.SI
Identifying Nuances in Fake News vs. Satire: Using Semantic and Linguistic Cues
AdVerifai;The George Washington University(乔治华盛顿大学);Amazon AWS AI(亚马逊AWS人工智能)
邪恶的假新闻和受保护的言论讽刺之间的模糊界限一直是社交媒体平台的一场臭名昭著的斗争。为了进一步减少社交媒体上的错误信息,假新闻的传播者已经开始伪装成讽刺网站,以避免被降级。在这项工作中,我们解决了自动分类假新闻与讽刺的挑战。以前的工作已经研究了是否可以根据语言差异区分假新闻和讽刺。与假新闻相反,讽刺故事通常是幽默的,并带有一些政治或社会信息。我们假设,这些细微差别可以识别使用语义和语言线索。因此,我们训练一种使用语义表示的机器学习方法,使用最先进的上下文语言模型,并使用基于文本连贯性度量的语言特征。实证评估证明了我们的方法与基于语言的基线相比的优点,并揭示了假新闻和讽刺之间的细微差别。作为未来工作的途径,我们考虑研究与幽默方面相关的其他语言特征,并利用当前的新闻事件丰富数据,以帮助识别政治或社会信息。
2019-11-05 cs.CL cs.SI
Fake News Identification on Twitter with Hybrid CNN and RNN Models
C3Ri Research Institute(C3Ri研究所);Sheffield Hallam University(谢菲尔德哈勒姆大学)
与假新闻传播相关的问题继续以惊人的规模增长。这一趋势引起了政界、学术界和工业界的极大兴趣。我们提出了一个框架,使用混合卷积神经网络和长短期递归神经网络模型来检测和分类来自Twitter帖子的假新闻消息。使用这种深度学习方法的拟议工作达到了82%的准确率。我们的方法直观地识别与假新闻故事相关的相关特征,而无需事先了解该领域。
2018-06-29 cs.CL cs.SI
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University(雪城大学)
假新闻的爆炸性增长及其对民主,正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估:(1)它所携带的虚假知识,(2)它的写作风格,(3)它的传播模式,以及(4)它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是,我们确定并详细说明了各个学科的相关基础理论,以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作,研究假新闻,这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
How does Truth Evolve into Fake News? An Empirical Study of Fake News Evolution
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Soochow University(苏州大学);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
自动识别互联网上的虚假新闻是欺骗检测任务中的一个具有挑战性的问题。在线新闻在其传播过程中不断被修改,例如,恶意用户歪曲事实真相,编造假新闻。然而,持续的进化过程会产生前所未有的假新闻,欺骗原始模型。我们提出了假新闻演变(FNE)数据集:一个跟踪假新闻演变过程的新数据集。我们的数据集由950个成对的数据组成,每个数据都由代表演变过程中三个重要阶段的文章组成,这三个阶段是真相,假新闻和演变的假新闻。我们在进化过程中观察这些特征,它们是虚假信息技术,文本相似性,前10个关键词,分类准确性,词性和情感属性。
2021-03-10 cs.CL
Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences(中国科学院智能信息处理重点实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻,现有的方法观察新闻帖子的语言模式,并“放大”以验证其内容与知识源或检查其读者的回复。然而,这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度,这是假新闻制造的重要灵感,因为假新闻往往是为了搭上热门事件的顺风车,以意想不到的新奇内容吸引公众的注意力,以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号,我们“拉远”观察新闻环境,并提出了新闻环境感知框架(NEP)。对于每一个帖子,我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后,我们设计了一个面向流行和新颖的模块,以感知有用的信号,并进一步帮助最终的预测。在我们新构建的数据集上的实验表明,NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
Fake News Detection via NLP is Vulnerable to Adversarial Attacks
Hongyi Honor College, Wuhan University(武汉大学弘毅学堂);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
新闻在塑造人们的信仰和观点方面起着重要作用。假新闻一直是一个问题,直到美国第45任总统的选举周期才暴露在大众面前。虽然自2015年以来,已经提出了许多检测方法来打击假新闻,但它们主要集中在文章的语言方面,而没有任何事实检查。在本文中,我们认为这些模型有可能对篡改事实的假新闻以及隐藏的真实新闻进行错误分类。通过对最先进的假新闻检测器Faithman的实验,我们证明了事实篡改攻击是有效的。为了解决这些问题,我们认为,事实核查应与语言特征分析相结合,以真正区分假新闻和真新闻。提出了一种众包的知识图谱,作为收集有关新闻事件的及时事实的稻草人解决方案。
2019-01-05 cs.CL cs.LG cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS(中国科学院智能信息处理重点实验室,中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);State Key Laboratory of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
假新闻在各个领域的社交媒体上广泛传播,导致政治,灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测(SFND),这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域,多领域虚假新闻检测(MFND)越来越受到关注。然而,数据分布,如词频和传播模式,从域到域,即域移位。面对严重领域转移的挑战,现有的假新闻检测技术在多领域场景中表现不佳。因此,设计一种专门的MFND模型是非常必要的。在本文中,我们首先为MFND设计了一个带有域标签的假新闻数据集基准,即微博21,它由来自9个不同领域的4,488条假新闻和4,640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型(MDFEND),利用域门聚合由混合专家模型提取的多个表示。实验结果表明,MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
Modelling Social Context for Fake News Detection: A Graph Neural Network Based Approach
Pandit Deendayal Energy University(潘迪特·迪恩达亚尔能源大学)
虚假新闻的检测对于确保信息的真实性和维护新闻生态系统的可靠性至关重要。最近,由于社交媒体和Deep Fake等虚假内容生成技术的激增,虚假新闻内容有所增加。大多数现有的虚假新闻检测模式都集中在基于内容的方法上。然而,大多数这些技术未能处理生成模型产生的超现实合成媒体。我们最近的研究发现,真实和虚假新闻的传播特征是可以区分的,无论它们的形式如何。在这方面,我们已经调查了基于社会背景的辅助信息来检测假新闻。本文采用基于混合图神经网络的方法分析了假新闻检测的社会背景。这种混合模型是基于集成的图神经网络的新闻传播和双向编码器表示从Transformers模型的新闻内容学习文本特征。因此,提出的方法可以学习内容和上下文特征,因此能够优于基线模型,在PolitiFact上的f1得分为0.91,在Gossipcop数据集上的f1得分为0.93
2022-07-27 cs.CL cs.IR cs.SI
Weak Supervision for Fake News Detection via Reinforcement Learning
State University of New York at Buffalo(纽约州立大学布法罗分校);Tencent Inc.(腾讯公司);Pennsylvania State University(宾夕法尼亚州立大学)
如今,社交媒体已经成为新闻的主要来源。通过社交媒体平台,假新闻以前所未有的速度传播,触及全球受众,并使用户和社区面临巨大风险。因此,尽早发现假新闻非常重要。最近,基于深度学习的方法在假新闻检测方面表现出了更好的性能。然而,这类模型的训练需要大量的标记数据,而人工标注既耗时又昂贵。此外,由于新闻的动态性质,注释样本可能会很快过时,不能代表新出现的事件的新闻文章。因此,如何获得新鲜、高质量的标记样本是利用深度学习模型进行假新闻检测的主要挑战。为了应对这一挑战,我们提出了一个加强的弱监督假新闻检测框架,即,WeFEND,它可以利用用户的报告作为弱监管,以扩大用于假新闻检测的训练数据量。该框架由三个主要部分组成:注释器,增强选择器和假新闻检测器。注释器可以根据用户的报告自动为未标记的新闻分配弱标签。使用强化学习技术的强化选择器从弱标记数据中选择高质量的样本,并过滤掉那些可能降低检测器预测性能的低质量样本。假新闻检测器旨在根据新闻内容识别假新闻。我们在通过微信公众号发布的大量新闻文章和相关用户报告上测试了所提出的框架。在该数据集上的大量实验表明,与最先进的方法相比,所提出的WeFEND模型实现了最佳性能。
2020-01-20 cs.CL cs.LG cs.SI
Fake News Detection on News-Oriented Heterogeneous Information Networks through Hierarchical Graph Attention
Florida State University(佛罗里达州立大学)
假新闻的病毒式传播造成了巨大的社会危害,使得假新闻侦破成为一项紧迫的任务。目前的假新闻检测方法严重依赖于文本信息,通过学习提取的新闻内容或写作风格的内部知识。然而,故意的谣言可以掩盖写作风格,绕过语言模型,并使简单的基于文本的模型无效。事实上,新闻文章和其他相关组件(如新闻创作者和新闻主题)可以建模为异构信息网络(简称HIN)。本文提出了一种新的虚假新闻检测框架--层次图注意力网络(HGAT),该框架利用层次注意力机制对HIN中的节点进行表示学习,然后通过对新闻文章节点进行分类来检测虚假新闻。在两个真实世界的假新闻数据集上的实验表明,HGAT可以优于基于文本的模型和其他基于网络的模型。此外,实验证明了我们的图表示学习和其他节点分类相关的应用在异构图的可扩展性和通用性。
2021-02-13 cs.CL cs.LG cs.SI
Each Fake News is Fake in its Own Way: An Attribution Multi-Granularity Benchmark for Multimodal Fake News Detection
Nation University of Defence Technology(国防科技大学);Xi’an Jiaotong University(西安交通大学)
针对现有数据集仅提供真假二元标签且无法反映多模态假新闻混合本质的问题,构建了归因多粒度数据集\amg并提出多粒度线索对齐模型\our,实现了假新闻检测与归因,为未来研究开辟了新途径。
2024-12-19 cs.AI cs.CL
Methods of Informational Trends Analytics and Fake News Detection on Twitter
Ivan Franko National University of Lviv(利沃夫伊万·弗兰科国立大学)
在本文中,不同的方法来分析Twitter上的新闻趋势被认为是。对于分析和案例研究,研究了2022年俄罗斯入侵乌克兰造成的Twitter上的信息趋势。分析了一种用于虚假新闻检测的深度学习方法。利用频繁项集理论和关联规则、图论对新闻动态进行了分析。
2022-04-11 cs.AI cs.CL cs.SI
Automated Fake News Detection using cross-checking with reliable sources
Sharif University of Technology(谢里夫理工大学)
在过去的十年里,假新闻和错误信息已经成为一个重大问题,影响了我们生活的各个方面,包括政治和公共卫生。受自然人类行为的启发,我们提出了一种自动检测假新闻的方法。人类的自然行为是用可靠的来源交叉检查新信息。我们使用自然语言处理(NLP)并构建了一个机器学习(ML)模型,该模型可以自动交叉检查新信息与一组预定义的可靠来源。我们为Twitter实现了这一点,并构建了一个标记虚假推文的模型。具体来说,对于给定的推文,我们使用其文本从可靠的新闻机构中查找相关新闻。然后,我们训练一个随机森林模型,该模型检查推文的文本内容是否与可信新闻一致。如果不是,则该推文被归类为虚假。这种方法通常可以应用于任何类型的信息,而不限于特定的新闻故事或信息类别。我们的这种方法的实现提供了一个$70\%$的准确性,优于其他通用的假新闻分类模型。这些结果为更明智和自然的假新闻检测方法铺平了道路。
2022-01-01 cs.CL cs.SI physics.soc-ph
Automatic Detection of Fake News
University of Michigan(密歇根大学);University of Amsterdam(阿姆斯特丹大学)
误导性信息在社交媒体、新闻博客和在线报纸等日常访问媒体渠道中的扩散,使得识别值得信赖的新闻来源变得具有挑战性,从而增加了对能够提供对在线内容可靠性的见解的计算工具的需求。本文主要研究网络新闻中虚假内容的自动识别问题。我们的贡献是双重的。首先,我们介绍了两个用于假新闻检测任务的新数据集,涵盖了七个不同的新闻领域。我们详细描述了收集,注释和验证过程,并提出了几个探索性的分析,在虚假和合法的新闻内容的语言差异的识别。其次,我们进行了一系列学习实验,以构建准确的假新闻检测器。此外,我们提供了自动和人工识别假新闻的比较分析。
2017-08-23 cs.CL
Lexicon generation for detecting fake news
Hacettepe University(哈杰泰佩大学)
随着媒体数字化,包括主流媒体以及社交网络在内的在线来源产生了大量新闻数据。然而,制作和传播的便利导致了假新闻以及可信的真实新闻的传播。假新闻的广泛传播对个人和社会产生了极大的负面影响。因此,假新闻检测最近成为一个新兴的课题,作为一个跨学科的研究领域,吸引了许多研究学科的极大关注,包括社会科学和语言学。在这项研究中,我们提出了一种主要基于词汇的方法,包括一个评分系统,以促进土耳其假新闻的检测。我们通过收集一个新颖的,大规模的,可信的土耳其新闻数据集,并通过构建土耳其的第一个假新闻检测词典来为文献做出贡献。
2020-10-16 cs.CL
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University(大阪大学产业科学研究所);NARA Institute of Science and Technology(奈良先端科学技术大学院大学)
假新闻引发了许多社会问题;因此,人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而,仅从这一方面不足以解释“假新闻”,这是一个复杂的现象,涉及面很广。要充分认识每一个假新闻的本质,重要的是要从多个角度来观察它,如假新闻传播者的意图,新闻对我们社会的危害性,以及新闻的目标。我们基于对现有假新闻数据集的详细调查,提出了一种具有细粒度标签的新注释方案,以捕获假新闻的各个方面。使用注释方案,我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Fake or Real? A Study of Arabic Satirical Fake News
Research Group in Computational Linguistics(计算语言学研究小组);University of Wolverhampton, UK(英国沃尔夫汉普顿大学);Centre for Translation Studies(翻译研究中心);University of Surrey, UK(英国萨里大学)
一种非常常见的假新闻是讽刺,它以新闻网站或在线平台的形式出现,模仿有信誉的真实新闻机构,以创造一个讽刺现实的版本。这种类型的假新闻通常由个人在其在线平台上传播,因为它在传达批评方面比通过直接的信息具有更强的效果。然而,当讽刺文本通过社交媒体传播而不提及其来源时,它可能会被误认为是真正的新闻。本研究进行了几个探索性的分析,以确定阿拉伯语假新闻的讽刺内容的语言特性。我们利用这些特征构建了许多机器学习模型,能够识别讽刺性假新闻,准确率高达98.6%。
2020-11-01 cs.CL
FakeWatch: A Framework for Detecting Fake News to Ensure Credible Elections
Vector Institute(矢量研究所);Toronto Metropolitan University(多伦多都会大学);RBC Royal Bank(加拿大皇家银行)
本文提出FakeWatch框架,通过整合传统机器学习与最先进语言模型,并利用北美选举新闻数据集构建分类模型,以有效检测选举相关虚假新闻。
2024-05-04 cs.CL
How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
Technische Universität Berlin(柏林工业大学)
随着近年来互联网上虚假信息的传播急剧增加,越来越多的人关注自动化的假新闻检测。一些虚假新闻检测方法已经相当成功。然而,在检测算法中仍然存在许多漏洞。其原因是,假新闻发布者可以以检测算法不会将此文本暴露为假新闻的方式构建和制定其文本。这篇论文表明,有可能自动攻击经过训练以检测假新闻的最先进模型,使这些模型变得脆弱。为此,首先基于数据集训练相应的模型。然后,使用Text-Attack,尝试以这样的方式操纵训练模型,即先前正确识别的假新闻被归类为真新闻。结果表明,有可能自动绕过假新闻检测机制,从而对现有政策举措产生影响。
2021-07-16 cs.CL
Characterizing Political Fake News in Twitter by its Meta-Data
Imperial College London(帝国理工学院)
本文提出了一种通过分析Twitter上的元数据来表征政治假新闻的初步方法。特别是,我们专注于唐纳德·特朗普当选为美利坚合众国第45任总统当天收集的超过150万条推文。我们使用这些推文中嵌入的元数据来寻找包含假新闻的推文和不包含假新闻的推文之间的差异。具体来说,我们只对病毒式传播的推文进行分析,通过研究用户接触推文的代理,通过描述传播假新闻的账户,并通过观察它们的两极分化。我们发现在追随者的分布,推文上的URL数量以及用户的验证方面存在显着差异。
2017-12-16 cs.CL cs.SI stat.ML
FakeFlow: Fake News Detection by Modeling the Flow of Affective Information
Universitat Politècnica de València(瓦伦西亚理工大学);University of Mannheim(曼海姆大学);Symanto Research(Symanto研究公司)
假新闻往往通过煽情的方式来引起读者的注意。与短篇新闻不同,长文的作者可以利用这些情感因素来操纵读者,通过添加夸张或虚构事件来影响读者的情绪。为了抓住这一点,我们在本文中提出使用神经架构对假新闻文章中的情感信息流进行建模。所提出的模型FakeFlow通过结合从文本中提取的主题和情感信息来学习该流。我们评估了模型的性能与四个真实世界的数据集上的几个实验。结果表明,与最先进的方法相比,FakeFlow取得了更好的结果,从而证实了捕捉新闻文章中情感信息流的重要性。
2021-01-24 cs.CL
Weighted Accuracy Algorithmic Approach In Counteracting Fake News And Disinformation
Zhejiang Gongshang University(浙江工商大学)
随着世界越来越依赖互联网进行信息交流,一些过分热心的记者,黑客,博客,个人和组织倾向于滥用自由信息环境的礼物,用假新闻,虚假信息和自命不凡的内容污染它。因此,有必要极其严肃地处理假新闻和虚假信息问题。本文提出了一种通过约束机制进行假新闻检测和报道的方法,该机制利用了四种机器学习算法的组合加权准确度。
2020-08-05 cs.CL cs.SI econ.GN
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame(圣母大学)
近年来,由于在线社交网络的蓬勃发展,检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在,采用倾向分数匹配(PSM)方法选择可泛化特征,以减少混杂变量的影响。实验结果表明,使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法(分类器),如逻辑回归,随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
BanFakeNews: A Dataset for Detecting Fake News in Bangla
Shahjalal University of Science and Technology(沙赫贾拉尔科技大学);University of Houston(休斯顿大学)
观察到假新闻在政治和金融等各个领域的快速传播可能造成的损害,利用语言分析自动识别假新闻引起了研究界的关注。然而,这种方法主要是为英语开发的,低资源语言仍然不受关注。但虚假和操纵性新闻所带来的风险并不局限于语言。在这项工作中,我们提出了一个约50K新闻的注释数据集,可用于为孟加拉语等低资源语言构建自动化假新闻检测系统。此外,我们提供了数据集的分析,并开发了一个具有最先进的NLP技术的基准系统来识别孟加拉国的假新闻。为了创建这个系统,我们探索了传统的语言特征和基于神经网络的方法。我们希望这个数据集将成为构建技术的宝贵资源,以防止假新闻的传播,并为低资源语言的研究做出贡献。
2020-04-19 cs.CL
Human Brains Can't Detect Fake News: A Neuro-Cognitive Study of Textual Disinformation Susceptibility
Texas A&M University(德州农工大学);The University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
数字虚假信息(又称“假新闻”)的传播可以说是互联网上最严重的威胁之一,可能会造成大规模的个人和社会伤害。假新闻攻击的易感性取决于互联网用户在阅读后是否认为假新闻文章/片段是合法的。在本文中,我们试图通过神经认知方法深入了解用户对以文本为中心的假新闻攻击的易感性。我们通过EEG研究与假/真新闻相关的神经基础。我们对人类用户进行了一项实验,以彻底调查用户对假/真新闻的感知和认知处理。我们分析了与不同类别的新闻文章的假/真新闻检测任务相关的神经活动。我们的研究结果表明,人类大脑处理假新闻与真新闻的方式可能没有统计学上的显著差异或自动推断的差异,而当人们受到(真实/假)新闻与休息状态,甚至在一些不同类别的假新闻之间观察到显着差异。这一神经认知发现可能有助于证明用户对假新闻攻击的易感性,行为分析也证实了这一点。换句话说,在行为和神经领域,假新闻文章似乎与真实新闻文章几乎无法区分。我们的工作旨在剖析假新闻攻击背后的基本神经现象,并通过人类生物学的限制来解释用户对这些攻击的易感性。我们认为,对于研究人员和从业人员来说,这可能是一个值得注意的见解,表明人工检测假新闻可能是无效的,这也可能对自动检测方法的设计产生不利影响,这些方法主要依赖于人工标记文本文章来构建训练模型。
2022-07-18 cs.CL cs.CR cs.CY
Debunking Fake News One Feature at a Time
New York University(纽约大学)
识别新闻文章主体相对于某个标题的立场是自动化虚假新闻检测的第一步。在本文中,我们介绍了一个2阶段的集成模型来解决的立场检测任务。通过仅使用手工制作的特征作为梯度提升分类器的输入,我们能够在官方假新闻挑战(第1阶段)数据集上获得11651.25分中的9161.5分(78.63%)。我们确定了用于检测假新闻的最有用的特征,并讨论了如何使用采样技术来提高高度不平衡数据集的召回准确率。
2018-08-08 cs.CL
Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks
National University of Singapore(新加坡国立大学);University of Chinese Academy of Sciences(中国科学院大学);Institute of Computing Technology, CAS(中国科学院计算技术研究所)
针对LLM风格攻击导致的假新闻检测脆弱性(F1下降38%),提出SheepDog检测器,通过风格多样性训练、风格无关方案和内容归因,在三个基准上实现风格鲁棒检测。
2024-08-20 cs.CL
Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology(奈良先端科学技术大学)
假新闻的迅速增加对社会造成了重大损害,引发了许多与假新闻相关的研究,包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集:(1)假新闻检测,(2)事实验证,(3)其他任务;例如,假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后,我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究,从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Fake News and Hate Speech: Language in Common
Universitat de València(瓦伦西亚大学)
在本文中,我们提出了一个研究问题,即假新闻和仇恨言论传播者在语言上是否有共同的模式。我们计算了一个新的指数,内组与外组指数,在三个不同的数据集,我们表明,这两种现象共享一个“我们与他们”的叙述。
2022-12-05 cs.CL
Fake News Detection Using Majority Voting Technique
R.C. Patel Institute of Technology(R.C.帕特尔理工学院)
由于网络和社交网络平台的发展,传播信息变得非常容易。人们正在创造和分享比以往任何时候都多的信息,这些信息可能是误导性的、错误的或虚假的信息。由于可用信息的非结构化性质,虚假新闻检测是一项至关重要且具有挑战性的任务。近年来,研究人员为解决假新闻检测问题提供了重要的解决方案,但由于其性质,仍然存在许多悬而未决的问题。在本文中,我们提出了多数投票的方法来检测假新闻文章。我们使用了假新闻和真新闻的不同文本属性。我们使用了公开的假新闻数据集,包括20,800篇新闻文章,其中10,387篇是真实的,10,413篇是标记为二进制0和1的假新闻。为了评估我们的方法,我们使用了常用的机器学习分类器,如决策树,逻辑回归,XGBoost,随机森林,额外树,AdaBoost,SVM,SGD和朴素贝叶斯。使用上述分类器,我们建立了一个多模型的假新闻检测系统,使用多数投票技术,以达到更准确的结果。实验结果表明,该方法的准确率为96.38%,精确率为96%,召回率为96%,F1-measure为96%。评价结果表明,多数投票技术取得了更令人满意的结果相比,个别学习技术。
2022-03-27 cs.CL
Exploring Thematic Coherence in Fake News
Queen’s University Belfast(贝尔法斯特女王大学)
假新闻的传播仍然是一个严重的全球性问题;理解和遏制它至关重要。区分谎言和真实故事的一种方法是分析它们的连贯性。本研究旨在探讨话题模式在跨领域新闻连贯性分析中的应用。在七个跨领域数据集上的实验结果表明,假新闻在其开头句子与其其余句子之间表现出更大的主题偏离。
2020-12-17 cs.CL
Connecting the Dots Between Fact Verification and Fake News Detection
Beihang University(北京航空航天大学)
事实验证模型在过去的两年中取得了快速的发展,随着BERT等预训练语言模型的发展和FEVER等大规模数据集的发布。然而,假新闻检测的挑战性问题并没有受益于事实验证模型的改进,这与假新闻检测密切相关。在本文中,我们提出了一种简单而有效的方法来连接事实验证和假新闻检测之间的点。我们的方法首先采用了一个文本摘要模型预先训练的新闻语料库,总结成一个简短的声明长新闻文章。然后,我们使用在FEVER数据集上预先训练的事实验证模型来检测输入的新闻文章是真的还是假的。我们的方法利用了最近成功的事实验证模型,并实现了zero-shot假新闻检测,减轻了大规模训练数据训练假新闻检测模型的需求。在FakenewsNet上的实验结果证明了该方法的有效性。
2020-10-11 cs.AI cs.CL
Multimodal Fake News Detection
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
在过去的几年里,假新闻出现了前所未有的泛滥。因此,我们更容易受到错误信息和虚假信息传播在我们社会不同阶层可能产生的有害影响。因此,虚假新闻自动检测工具的开发在预防其负面影响方面发挥着重要作用。大多数检测和分类虚假内容的尝试只关注使用文本信息。多模态方法不太常见,它们通常将新闻分类为真或假。在这项工作中,我们使用单峰和多峰方法对Fakeddit数据集上的假新闻进行细粒度分类。我们的实验表明,基于卷积神经网络(CNN)架构结合文本和图像数据的多模态方法达到了最佳效果,准确率为87%。一些假新闻类别,如操纵内容,讽刺或虚假联系,从图像的使用中受益匪浅。使用图像也可以改善其他类别的结果,但影响较小。关于仅使用文本的单模方法,来自Transformers的双向编码器表示(BERT)是最好的模型,准确度为78%。因此,同时利用文本和图像数据可以显著提高假新闻检测的性能。
2021-12-09 cs.CL
Arabic Fake News Detection Based on Deep Contextualized Embedding Models
University of Sharjah(沙迦大学);Western University(韦仕敦大学)
社交媒体正成为许多人的新闻来源,因为它的易用性和使用自由。因此,假新闻无论其可信度如何,都在迅速而轻松地传播,特别是在过去十年中。假新闻出版商利用新冠肺炎疫情和美国总统选举等关键情况对社会产生负面影响。假新闻可以严重影响社会的许多领域,包括政治,金融,体育等,许多研究已经进行,以帮助检测假新闻的英语,但研究进行的假新闻检测在阿拉伯语是稀缺的。我们的贡献是双重的:首先,我们构建了一个庞大而多样化的阿拉伯语假新闻数据集。其次,我们开发并评估了基于transformer的分类器,以识别假新闻,同时利用八种最先进的阿拉伯语上下文嵌入模型。这些模型中的大多数以前都没有用于阿拉伯语假新闻检测。我们对最先进的阿拉伯语语境化嵌入模型进行了全面分析,并与类似的假新闻检测系统进行了比较。实验结果证实,这些国家的最先进的模型是强大的,准确率超过98%。
2022-05-06 cs.AI cs.CL
Localization of Fake News Detection via Multitask Transfer Learning
De La Salle University(德拉萨尔大学);Center for Language Technologies (CeLT)(语言技术中心)
利用互联网作为传播假新闻的快速媒介,加强了对打击假新闻的计算工具的需求。存在训练假新闻分类器的技术,但它们都需要大量资源,包括大型标记数据集和专家策划的语料库,这些资源低的语言可能不具备。在这项工作中,我们做出了两个主要贡献:首先,我们通过构建第一个专业策划的菲律宾假新闻检测基准数据集来缓解资源短缺,我们称之为“菲律宾假新闻”。其次,我们对迁移学习(TL)技术进行了基准测试,并表明它们可以用于从少量数据中训练强大的假新闻分类器,在我们的假新闻数据集上实现了91%的准确率,与已建立的Few-Shot基线相比,将误差减少了14%。此外,提升多任务学习的想法,我们表明,增强基于transformer的传输技术与辅助语言建模损失,通过适应写作风格提高了他们的性能。使用这个,我们将TL性能提高了4- 6%,在我们最好的模型上实现了96%的准确度。最后,我们证明了我们的方法可以很好地推广到不同类型的新闻文章,包括政治新闻,娱乐新闻和评论文章。
2020-05-15 cs.CL
An Emotion-guided Approach to Domain Adaptive Fake News Detection using Adversarial Learning
Biometric Research Laboratory, Delhi Technological University(德里理工大学);School of Computer Science, FEIT, University of Technology Sydney(悉尼科技大学)
最近关于假新闻检测的研究表明,使用情绪作为提高性能的特征是有效的。然而,情感引导特征对虚假新闻检测的跨领域影响仍然是一个悬而未决的问题。在这项工作中,我们提出了一种用于跨域假新闻检测的情感引导,域自适应,多任务方法,证明了情感引导模型在各种数据集的跨域设置中的有效性。
2022-11-26 cs.CL