Detecting Fake News Using Machine Learning : A Systematic Literature Review
Jiujiang University(九江学院);University of Central Asia(中亚大学);UST-Global, Inc.(UST-Global公司);Monta Vista High School(蒙塔维斯塔高中)
互联网是一项重要的发明,有大量的人是它的用户。这些人将其用于不同的目的。这些用户可以访问不同的社交媒体平台。任何用户都可以通过在线平台发布或传播新闻。这些平台不会验证用户或他们的帖子。因此,一些用户试图通过这些平台传播假新闻。这些新闻可以是针对个人、社会、组织或政党的宣传。一个人无法发现所有这些假新闻。因此,需要机器学习分类器来自动检测这些假新闻。本系统性文献综述描述了使用机器学习分类器检测假新闻。
2021-02-08 cs.CY cs.LG
Evaluating Link-Based Techniques for Detecting Fake Pharmacy Websites
University of Wisconsin-Milwaukee(威斯康星大学密尔沃基分校);Towson University(陶森大学)
假冒在线药店越来越普遍,占在线药店网站的90%以上。需要能够以高准确度识别虚假在线药店网站的虚假网站检测技术。在这项研究中,我们比较了几个著名的基于链接的检测技术在一个大规模的测试床与超链接图包含超过8000万个链接之间的1550万个网页,其中包括120万个已知的合法和虚假的药房页面。我们发现QoC和QoL类传播算法在我们的数据集上实现了超过90%的准确性。结果显示,在页面级或站点级图上,结合双类传播以及内链和外链信息的算法更适合检测虚假药店网站。此外,网站级分析产生了显着更好的结果比页面级分析的大多数算法进行评估。
2013-09-27 cs.CY cs.LG
Detecting Deep-Fake Videos from Appearance and Behavior
Facebook Research(脸书研究院)
合成生成的音频和视频--所谓的深度伪造--继续吸引着计算机图形和计算机视觉社区的想象力。与此同时,能够制作任何人说任何话的复杂操纵视频的技术的民主化仍然令人担忧,因为它有能力破坏民主选举,进行小规模到大规模的欺诈,助长虚假信息运动,并制作未经同意的色情作品。我们描述了一种基于生物识别的法医技术,用于检测面部交换深度伪造。该技术将基于面部识别的静态生物特征与基于面部表情和头部运动的时间行为生物特征相结合,其中使用具有度量学习目标函数的CNN来学习行为嵌入。我们展示了这种方法在几个大规模视频数据集上的有效性,以及在野外的深度伪造。
2020-04-29 cs.CV cs.LG cs.MM
Dac-Fake: A Divide and Conquer Framework for Detecting Fake News on Social Media
Malaviya National Institute of Technology(马拉维亚国立技术学院);Madhav Institute of Technology & Science(马达夫科技学院)
本文提出DaCFake模型,采用分而治之策略融合内容与上下文特征,结合八十多个语言特征和词嵌入方法,在三个数据集上取得高准确率,用于社交媒体虚假新闻的快速早期检测。
2025-08-22 cs.LG cs.SI
Detecting COVID-19 Conspiracy Theories with Transformers and TF-IDF
University of California, Berkeley(加州大学伯克利分校)
在社交媒体上分享假新闻和阴谋论会产生广泛的负面影响。通过设计和应用不同的机器学习模型,研究人员在从文本中检测假新闻方面取得了进展。然而,现有的研究非常重视一般的、常识性的假新闻,而在现实中,假新闻往往涉及快速变化的话题和特定领域的词汇。在本文中,我们介绍了MediaEval基准测试2021中三个假新闻检测任务的方法和结果,这些任务具体涉及COVID-19相关主题。我们实验了一组基于文本的模型,包括支持向量机,随机森林,BERT,和ROBERTa。我们发现,一个预先训练的Transformer产生最好的验证结果,但一个随机初始化的Transformer与智能设计也可以训练,以达到接近的精度,预先训练的Transformer。
2022-05-01 cs.CL cs.LG
Detecting Fake Job Postings Using Bidirectional LSTM
The University Of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对在线就业市场虚假职位泛滥问题,本研究提出利用双向长短期记忆(Bi-LSTM)模型,结合数值与文本特征识别虚假职位广告,实现了98.71%的准确率与0.91的ROC AUC分数,为打击在线就业欺诈提供了稳健的自动化工具。
2023-04-03 cs.LG
A Regularized LSTM Method for Detecting Fake News Articles
North South University(北南大学);Jahangirnagar University(贾汉吉尔纳加尔大学)
本文提出一种基于正则化LSTM的假新闻检测方法,通过引入正则化技术和优化策略,在包含4万多篇新闻的数据集上将检测准确率提升至98%,为打击错误信息提供了可靠的自动化工具。
2024-11-16 cs.CL cs.CY cs.LG
Micro-Defects Expose Macro-Fakes: Detecting AI-Generated Images via Local Distributional Shifts
Rutgers University(罗格斯大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Meta AI;Advanced Micro Devices(先进微器件公司)
本文提出MDMF框架,通过放大微小统计异常为宏观分布偏移,利用局部分布偏移检测AI生成图像,实验表明其在多个基准上表现优异。
2026-05-10 cs.AI cs.CV cs.LG
Detecting Fake News on Social Media: A Novel Reliability Aware Machine-Crowd Hybrid Intelligence-Based Method
Hefei University of Technology(合肥工业大学);University of Delaware(特拉华大学)
针对现有混合智能假新闻检测方法未考虑可靠性的问题,提出含三个模块的RAHI方法,结合贝叶斯深度学习、IRT用户聚合与分布融合机制,在Weibo数据集上表现优异,对多类主体有实用价值。
2024-12-07 cs.AI cs.LG cs.SI
Fake Advertisements Detection Using Automated Multimodal Learning: A Case Study for Vietnamese Real Estate Data
Datal(数据智能公司(Datal));University of Management and Technology(胡志明市管理技术大学);Durham University(杜伦大学)
提出FADAML端到端系统,结合多模态与自动化机器学习检测虚假广告,在越南房地产数据上达91.5%准确率,优于三种先进系统。
2025-01-18 cs.AI cs.LG
FNR: A Similarity and Transformer-Based Approach to Detect Multi-Modal Fake News in Social Media
Sharif University of Technology(谢里夫理工大学)
社交媒体的可用性和互动性使其成为全球新闻的主要来源。社交媒体的普及诱使犯罪分子通过使用诱人的文字和误导性的图像制作和传播假新闻来追求他们的不道德意图。因此,验证社交媒体新闻和发现假货至关重要。这项工作旨在分析社交媒体中文本和图像的多模态特征,以检测假新闻。我们提出了一个假新闻揭示器(FNR)的方法,利用变换学习提取上下文和语义特征和对比损失,以确定图像和文本之间的相似性。我们在两个真实的社交媒体数据集上应用了FNR。实验结果表明,与以往的方法相比,该方法在检测假新闻方面具有更高的准确率。
2021-12-02 cs.CY cs.LG cs.MM
Cross-Prompt Generalization in Detecting AI-Generated Fake News Using Interpretable Linguistic Features
Department of Mathematics(数学系);School of Data Science and Analytics(数据科学与分析学院);Department of Computer Science(计算机科学系)
研究通过提取词汇多样性、可读性和情感特征,在跨提示框架下使用随机森林分类器检测AI生成假新闻,发现模型在不同提示下均表现稳定(AUC 0.988-1.000),表明这些特征可泛化。
2026-06-02 cs.CL cs.LG
Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks
Arizona State University(亚利桑那州立大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Bytedance(字节跳动);Illinois Institute of Technology(伊利诺伊理工学院)
如今,假新闻很容易通过在线社交网络传播,成为对个人和社会的巨大威胁。评估新闻的真实性是具有挑战性的,因为其精心编造的内容,使得很难获得大规模的假新闻数据注释。由于这种数据稀缺性问题,检测假新闻往往会失败,并且在监督环境中过度拟合。最近,图神经网络(GNN)已被采用,以利用标记和未标记的实例之间的更丰富的关系信息。尽管它们的结果很有希望,但它们本质上专注于新闻之间的成对关系,这可能会限制捕捉在群体层面传播的假新闻的表达能力。例如,当我们更好地理解易感用户之间共享的新闻片段之间的关系时,检测假新闻可能会更有效。为了解决这些问题,我们建议利用超图来表示新闻之间的群体互动,同时利用其双层注意力机制来关注重要的新闻关系。基于两个基准数据集的实验表明,我们的方法产生了显着的性能,并保持高性能,即使是一个小的子集标记的新闻数据。
2022-12-24 cs.LG cs.SI
The Impact of Data Characteristics on GNN Evaluation for Detecting Fake News
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
研究发现现有基准数据集不充分测试GNN对结构特征的建模能力,建议开发更丰富的图拓扑数据集。
2025-12-07 cs.LG
Generating and Detecting Various Types of Fake Image and Audio Content: A Review of Modern Deep Learning Technologies and Tools
Faculty of Artificial Intelligence and Cognitive Science, Imam Hossein Comprehensive University(伊玛目侯赛因综合大学人工智能与认知科学学院)
本文综述深度伪造生成与检测的前沿技术,梳理换脸、语音转换等多种方法及应用,分析生成与检测的“军备竞赛”及检测挑战,指明未来研究方向,助力应对深度伪造的安全威胁。
2025-01-07 cs.CR cs.LG
Detect Fake with Fake: Leveraging Synthetic Data-driven Representation for Synthetic Image Detection
Waseda University(早稻田大学);Waseda Research Institute for Science and Engineering(早稻田理工学研究院)
本研究探索合成数据训练的视觉表征用于假图像检测的效果,发现用合成数据预训练的vision transformer可区分真假图像,以SynCLR为骨干的检测方法在未见过的GAN测试集上性能显著优于CLIP。
2024-09-13 cs.CV cs.LG
A-PixelHop: A Green, Robust and Explainable Fake-Image Detector
University of Southern California(南加州大学);California State University, San Bernardino(加州州立大学圣贝纳迪诺分校)
在这项工作中,提出了一种用于检测CNN生成的图像的新方法,称为Attentive PixelHop(或A-PixelHop)。它有三个优点:1)低计算复杂性和小的模型尺寸,2)针对宽范围的生成模型的高检测性能,以及3)数学透明性。A-PixelHop的设计假设是很难在局部区域合成高质量的高频分量。它包含四个构建模块:1)选择包含重要高频分量的边缘/纹理块,2)应用多个滤波器组,以获得丰富的空间-频谱响应集作为特征,3)将特征馈送到多个二进制分类器,以获得一组软决策,4)开发一个有效的集成方案,将软决策融合到最终决策中。实验结果表明,A-PixelHop在检测CycleGAN生成的图像方面优于最先进的方法。此外,它可以很好地推广到看不见的生成模型和数据集。
2021-11-07 cs.CV cs.LG
Detecting Singleton Review Spammers Using Semantic Similarity
Trustpilot;Adform;Simon Fraser University(西蒙弗雷泽大学)
在线评论已经越来越成为消费者在购买时非常重要的资源。尽管人们越来越难以在不被虚假评论欺骗的情况下做出明智的购买决定。之前关于意见垃圾邮件问题的工作主要考虑使用行为用户模式对虚假评论进行分类。他们专注于写了几篇以上评论的多产用户,抛弃了一次性评论者。然而,对于许多评论网站来说,单身评论者的数量预计会很高。虽然行为模式在处理精英用户时是有效的,但对于一次性评论者来说,需要利用评论文本。在本文中,我们解决了检测由同一个人使用多个名称撰写的虚假评论的问题,每个评论都以不同的名称发布。我们提出了两种方法来检测类似的评论,并显示结果一般优于矢量相似性度量在以前的作品。第一种方法将词与词之间的语义相似性扩展到评论级别。第二种方法是基于主题建模,并利用两个模型的评论主题分布的相似性:词袋和意见袋短语。实验是在三个不同的数据集上进行的:Yelp(57K评论),Trustpilot(9K评论)和Ott数据集(800评论)。
2016-09-09 cs.CL cs.LG
How Do the Hearts of Deep Fakes Beat? Deep Fake Source Detection via Interpreting Residuals with Biological Signals
Binghamton University(宾汉姆顿大学);Intel Corporation(英特尔公司)
伪肖像视频生成技术已经对社会构成了新的威胁,具有逼真的深度伪造,用于政治宣传,名人模仿,伪造证据和其他与身份相关的操纵。在这些生成技术之后,一些检测方法也被证明是有用的,因为它们的高分类精度。尽管如此,几乎没有人花精力去追踪深度造假的源头。我们提出了一种方法,不仅可以从真实视频中分离出深度伪造,还可以发现深度伪造背后的特定生成模型。一些纯粹的基于深度学习的方法尝试使用CNN对深度伪造进行分类,在CNN中,它们实际上学习生成器的残差。我们相信这些残差包含更多的信息,我们可以通过将它们与生物信号分离来揭示这些操纵伪像。我们的主要观察结果是,生物信号中的时空模式可以被认为是残差的代表性投影。为了证明这一观察结果的合理性,我们从真实和虚假视频中提取PPG细胞,并将其馈送到最先进的分类网络,以检测每个视频的生成模型。我们的结果表明,我们的方法可以以97.29%的准确率检测虚假视频,并以93.39%的准确率检测源模型。
2020-08-26 cs.CV cs.LG
Detecting Deepfakes Without Seeing Any
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本文提出 FACTOR 事实核查框架,通过比对攻击者声称的身份等事实与媒体实际内容,在无需训练且未见 deepfake 的情况下检测零日换脸与音视频合成攻击。
2023-11-02 cs.CV cs.LG
Overview of the CLEF--2021 CheckThat! Lab on Detecting Check-Worthy Claims, Previously Fact-Checked Claims, and Fake News
Qatar Computing Research Institute HBKU(卡塔尔计算研究所(HBKU));University of Padova(帕多瓦大学);Qatar University(卡塔尔大学);DIT Università di Bologna(博洛尼亚大学DIT学院);Newtral Media Audiovisual;Sofia University(索非亚大学);University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Applied Sciences Potsdam(波茨坦应用科学大学);University of Hildesheim(希尔德斯海姆大学);TOBB University of Economics and Technology(托普卡帕经济与技术大学)
我们描述了第四版的CheckThat!实验室,2021年会议和评估论坛实验室(CLEF)的一部分。该实验室评估与真实性相关的技术支持任务,涵盖阿拉伯语,保加利亚语,英语,西班牙语和土耳其语。任务1要求预测Twitter流中哪些帖子值得进行事实核查,重点关注COVID-19和政治(所有五种语言)。任务2要求确定推文中的声明是否可以使用一组先前经过事实检查的声明(阿拉伯语和英语)进行验证。任务3要求预测一篇新闻文章的真实性及其主题域(英语)。该评估是基于平均平均精度或精度在排名k的排名任务,和宏F1的分类任务。就团队注册而言,这是最受欢迎的CLEF-2021实验室:132支团队。其中近三分之一的人参加了比赛:分别有15、5和25支球队提交了任务1、2和3的正式比赛。
2021-09-23 cs.CL cs.IR cs.LG
Detecting High-Quality GAN-Generated Face Images using Neural Networks
Sabanci University(萨班哲大学);University of Padua(帕多瓦大学);Florida International University(佛罗里达国际大学)
在过去的几十年里,在计算机视觉中过度使用上一代GAN(生成对抗网络)模型,使得人工人脸图像的创建在视觉上与真实人脸图像无法区分。这些图像特别用于对抗性环境中,以创建虚假的社交媒体帐户和其他虚假的在线个人资料。此类恶意活动可能会对用户身份的可信度产生负面影响。另一方面,GAN模型的最新发展可以创建高质量的人脸图像,而没有空间伪影的证据。因此,重新组装均匀的颜色通道相关性是一个具有挑战性的研究问题。为了应对这些挑战,我们需要开发能够区分虚假和真实人脸图像的有效工具。在本章中,我们提出了一种新的策略,通过利用光谱带差异来区分GAN生成的图像和真实图像,重点是人工人脸图像合成。特别是,我们使数字保存的人脸图像使用跨波段共生矩阵和空间共生矩阵。然后,我们实现这些技术,并将它们馈送到卷积神经网络(CNN)架构中,以识别真实的人工人脸。此外,我们表明,性能提升是特别显着的,并在不同的后处理环境中达到92%以上。最后,我们提供了几个研究观察表明,这种策略改进了一个可比的检测方法,只基于带内空间同现。
2022-03-03 cs.CR cs.CV cs.LG