From Deception to Detection: The Dual Roles of Large Language Models in Fake News
University of Montreal(蒙特利尔大学)
本文探讨了大型语言模型(LLMs)在假新闻中的双重角色,分析了七个模型生成带偏见假新闻的能力及检测假新闻的表现,发现部分模型能轻易生成假新闻且更难被检测,而大模型检测能力更强,且LLM生成的解释有助于用户识别假新闻。
2024-09-25 cs.AI cs.CL
Adversarial Style Augmentation via Large Language Model for Robust Fake News Detection
KAIST(韩国科学技术院);Microsoft Research Asia(微软亚洲研究院);MPI-SP(马克斯·普朗克软件系统研究所)
针对风格转换攻击导致假新闻检测鲁棒性不足的问题,提出AdStyle对抗式风格增强方法,通过LLM生成多样且具挑战性的风格转换攻击提示训练检测器,显著提升其在基准数据集上的鲁棒性与检测性能。
2025-04-18 cs.AI cs.CL
Fake News Detectors are Biased against Texts Generated by Large Language Models
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Monash University(莫纳什大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61部门)
本文发现现有假新闻检测器对LLM生成内容存在系统性偏见,并提出基于LLM改写真实新闻的对抗训练方法以提升检测准确率,同时发布GossipCop++和PolitiFact++两个综合数据集。
2026-11-16 cs.AI cs.CL
Combining Machine Learning with Knowledge Engineering to detect Fake News in Social Networks-a survey
University of Camerino(卡梅里诺大学);FHNW University of Applied Sciences and Arts Northwestern Switzerland(瑞士西北应用科学与艺术大学)
由于假新闻在社交媒体和新闻媒体上的广泛传播,它成为一个新兴的研究课题,现在已经引起了人们的关注。在新闻媒体和社交媒体中,信息传播速度快但不准确,因此检测机制应该能够足够快地预测新闻,以解决假新闻的传播。它有可能对个人和社会产生负面影响。因此,检测社交媒体上的假新闻很重要,也是当今技术上具有挑战性的问题。我们知道,机器学习有助于构建基于隐性知识的人工智能系统,因为它可以帮助我们解决由于真实世界数据而产生的复杂问题。另一方面,我们知道知识工程有助于表示人们知道的专家知识。基于此,我们提出了机器学习和知识工程相结合的方法来检测假新闻。在本文中,我们介绍了什么是假新闻,假新闻的重要性,假新闻对不同领域的整体影响,检测社交媒体上假新闻的不同方法,现有的检测算法可以帮助我们克服这个问题,类似的应用领域,最后我们提出了数据驱动和工程知识相结合来打击假新闻。我们研究并比较了三个不同的模块文本分类器、立场检测应用程序和可以帮助检测假新闻的事实检查现有技术。此外,我们还调查了假新闻对社会的影响。实验评估的可用数据集和我们提出的假新闻检测组合可以更好地检测假新闻。
2022-01-20 cs.AI
A Multimodal Adaptive Graph-based Intelligent Classification Model for Fake News
Guangzhou College of Technology and Business(广州工商学院)
针对多模态假新闻检测中图结构研究缺乏的问题,提出MAGIC模型,结合BERT和ResNet50提取特征并利用自适应图注意力网络构建交互图进行分类,在两个数据集上取得高准确率并超越现有方法。
2024-11-18 cs.AI
Each Fake News is Fake in its Own Way: An Attribution Multi-Granularity Benchmark for Multimodal Fake News Detection
Nation University of Defence Technology(国防科技大学);Xi’an Jiaotong University(西安交通大学)
针对现有数据集仅提供真假二元标签且无法反映多模态假新闻混合本质的问题,构建了归因多粒度数据集\amg并提出多粒度线索对齐模型\our,实现了假新闻检测与归因,为未来研究开辟了新途径。
2024-12-19 cs.AI cs.CL
"This is Fake! Shared it by Mistake": Assessing the Intent of Fake News Spreaders
Syracuse University(雪城大学);Illinois Institute of Technology(伊利诺伊理工学院);Arizona State University(亚利桑那州立大学)
个人可能会被假新闻误导,并在不知道它是假的情况下无意中传播。这种现象经常被观察到,但尚未进行调查。我们这项工作的目的是评估假新闻传播者的意图。为了区分有意传播和无意传播,我们研究了无意传播的心理学解释。在此基础上,我们提出了一个影响图,利用它来评估假新闻传播者的意图。我们广泛的实验表明,评估的意图可以帮助显着区分有意和无意的假新闻传播者。此外,估计的意图可以显着改善当前检测假新闻的技术。据我们所知,这是第一个对个人在假新闻传播中的意图进行建模的工作。
2022-02-13 cs.AI cs.SI
Connecting the Dots Between Fact Verification and Fake News Detection
Beihang University(北京航空航天大学)
事实验证模型在过去的两年中取得了快速的发展,随着BERT等预训练语言模型的发展和FEVER等大规模数据集的发布。然而,假新闻检测的挑战性问题并没有受益于事实验证模型的改进,这与假新闻检测密切相关。在本文中,我们提出了一种简单而有效的方法来连接事实验证和假新闻检测之间的点。我们的方法首先采用了一个文本摘要模型预先训练的新闻语料库,总结成一个简短的声明长新闻文章。然后,我们使用在FEVER数据集上预先训练的事实验证模型来检测输入的新闻文章是真的还是假的。我们的方法利用了最近成功的事实验证模型,并实现了zero-shot假新闻检测,减轻了大规模训练数据训练假新闻检测模型的需求。在FakenewsNet上的实验结果证明了该方法的有效性。
2020-10-11 cs.AI cs.CL
Arabic Fake News Detection Based on Deep Contextualized Embedding Models
University of Sharjah(沙迦大学);Western University(韦仕敦大学)
社交媒体正成为许多人的新闻来源,因为它的易用性和使用自由。因此,假新闻无论其可信度如何,都在迅速而轻松地传播,特别是在过去十年中。假新闻出版商利用新冠肺炎疫情和美国总统选举等关键情况对社会产生负面影响。假新闻可以严重影响社会的许多领域,包括政治,金融,体育等,许多研究已经进行,以帮助检测假新闻的英语,但研究进行的假新闻检测在阿拉伯语是稀缺的。我们的贡献是双重的:首先,我们构建了一个庞大而多样化的阿拉伯语假新闻数据集。其次,我们开发并评估了基于transformer的分类器,以识别假新闻,同时利用八种最先进的阿拉伯语上下文嵌入模型。这些模型中的大多数以前都没有用于阿拉伯语假新闻检测。我们对最先进的阿拉伯语语境化嵌入模型进行了全面分析,并与类似的假新闻检测系统进行了比较。实验结果证实,这些国家的最先进的模型是强大的,准确率超过98%。
2022-05-06 cs.AI cs.CL
FALSE: Fake News Automatic and Lightweight Solution
假新闻从有新闻开始就存在,从谣言到印刷媒体,再到广播和电视。最近,信息时代,随着通信和互联网的突破,加剧了假新闻的传播。此外,除了电子商务,当前的互联网经济依赖于广告,浏览和点击,这促使许多开发人员诱使最终用户点击链接或广告。因此,假新闻通过社交媒体网络的疯狂传播影响了从选举到5G采用和应对COVID- 19大流行的现实世界问题。自假新闻出现以来,检测和挫败假新闻的努力就一直存在,从事实检查器到基于人工智能的检测器。随着假新闻传播者采用更复杂的技术,解决方案仍在不断发展。在本文中,R代码已经被用来研究和可视化一个现代的假新闻数据集。我们使用聚类、分类、相关和各种图来分析和呈现数据。实验表明,分类器在区分真假新闻方面具有很高的效率。
2022-08-16 cs.AI cs.LG
Fake News Detection on Social Media: A Data Mining Perspective
Arizona State University(亚利桑那州立大学);Charles River Analytics(查尔斯河分析公司);Michigan State University(密歇根州立大学)
社交媒体对新闻消费来说是一把双刃剑。一方面,它的低成本,容易获取和快速传播的信息导致人们从社交媒体中寻找和消费新闻。另一方面,它使“假新闻”得以广泛传播,即,低质量新闻,故意虚假信息。假新闻的广泛传播有可能对个人和社会产生极其负面的影响。因此,社交媒体上的假新闻检测最近成为一项新兴的研究,引起了极大的关注。社交媒体上的假新闻检测呈现出独特的特征和挑战,使得传统新闻媒体的现有检测算法无效或不适用。首先,假新闻是故意编写的,以误导读者相信虚假信息,这使得基于新闻内容的检测变得困难和重要;因此,我们需要包括辅助信息,例如社交媒体上的用户社交活动,以帮助做出决定。其次,利用这些辅助信息本身就具有挑战性,因为用户与假新闻的社交活动会产生大量、不完整、非结构化和嘈杂的数据。由于社交媒体上的假新闻检测问题既具有挑战性又具有相关性,我们进行了这项调查,以进一步促进对该问题的研究。本文对社交媒体上的假新闻检测进行了全面的综述,包括心理学和社会学理论对假新闻的刻画、数据采掘视角下的现有算法、评价指标和代表性数据集。我们还讨论了社交媒体上虚假新闻检测的相关研究领域,开放问题和未来的研究方向。
2017-09-03 cs.AI cs.SI
Fake News Detection with Heterogeneous Transformer
The Hong Kong University of Science and Technology(香港科技大学)
假新闻在社交网络上的传播引起了公众对有效和高效的假新闻检测方法的需求。一般来说,社交网络上的假新闻是多模态的,与用户和帖子等其他实体有各种联系。社交网络中新闻内容的异质性以及与其他实体的关系给设计一个模型带来了挑战,该模型可以全面捕获社交网络中实体的局部多模态语义和传播模式的全局结构表示,从而有效准确地分类假新闻。本文提出了一种新的基于Transformer的模型:HetTransformer,利用Transformer的编码器-解码器结构捕获新闻传播模式的结构信息,解决了社交网络上的假新闻检测问题。我们首先捕获本地异构语义的新闻,帖子,和用户实体在社交网络。然后,我们应用Transformer来捕获社交网络中传播模式的全局结构表示,以用于假新闻检测。在三个真实世界数据集上的实验表明,我们的模型能够在假新闻检测中超越最先进的基线。
2022-05-06 cs.AI cs.SI
A Heuristic-driven Uncertainty based Ensemble Framework for Fake News Detection in Tweets and News Articles
Razorthink Inc(Razorthink 公司);IIT Madras(印度理工学院马德拉斯分校)
在过去的几十年里,社交媒体的重要性增加了许多倍,因为它可以帮助来自世界上最偏远角落的人们保持联系。随着技术的出现,数字媒体变得比以往任何时候都更加相关和广泛使用,与此同时,需要立即关注的假新闻和推文的传播死灰复燃。在本文中,我们描述了一种新型的假新闻检测系统,该系统可以自动识别新闻项目是“真”还是“假”,作为我们在CONSTRAINT COVID-19 Fake News Detection in English challenge中工作的扩展。我们使用了一个集成模型,该模型由预训练模型和统计特征融合网络组成,以及一种新的启发式算法,该算法通过将新闻项或推文中存在的各种属性(如来源,用户名句柄,URL域和作者)作为统计特征。我们提出的框架还量化了可靠的预测不确定性以及分类任务的适当类输出置信水平。我们已经在COVID-19 Fake News数据集和FakeNewsNet数据集上评估了我们的结果,以显示所提出的算法在检测短新闻内容以及新闻文章中的假新闻方面的有效性。我们在COVID-19数据集上获得了0.9892的最佳F1分数,在FakeNewsNet数据集上获得了0.9073的F1分数。
2021-12-13 cs.AI cs.CL
Blessing or curse? A survey on the Impact of Generative AI on Fake News
Microsoft(微软公司);Frankfurt University of Applied Sciences(法兰克福应用科学大学);IMT Atlantique(法国大西洋高等矿业电信学院)
本文综述生成式AI在假新闻生成与检测中的双重作用,系统梳理使能技术、生成、社交媒体传播、检测及深度伪造五类研究,并指出当前挑战。
2024-12-27 cs.AI cs.CL
MCFEND: A Multi-source Benchmark Dataset for Chinese Fake News Detection
Hong Kong Baptist University(香港浸会大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Beijing Normal University-Hong Kong Baptist University United International College(北京师范大学-香港浸会大学联合国际学院);The University of Hong Kong(香港大学)
针对现有中文假新闻检测数据集仅限单一来源导致跨源性能下降的问题,本文构建了首个多源基准数据集MCFEND,并全面评估了现有方法在跨源、多源和未见源场景下的表现。
2024-07-24 cs.AI cs.CL
DEAP-FAKED: Knowledge Graph based Approach for Fake News Detection
Outplay(Outplay公司);University of Tartu(塔尔图大学)
最近,社交媒体平台上的假新闻吸引了大量关注,主要是与政治(2016年美国总统选举),医疗保健(COVID-19期间的信息流行病)相关的事件,仅举几例。已经提出了各种方法来检测假新闻。这些方法包括利用与网络分析、自然语言处理(NLP)和图神经网络(GNN)的使用相关的技术。在这项工作中,我们提出了DEAP-FAKED,一个用于识别假新闻的知识图谱FAKe nEws检测框架。我们的方法是NLP(我们对新闻内容进行编码)和GNN技术(我们对知识图谱(KG)进行编码)的组合。各种各样的这些编码提供了一个互补的优势,我们的检测器。我们使用两个公开的数据集来评估我们的框架,这些数据集包含来自政治,商业,技术和医疗保健等领域的文章。作为数据集预处理的一部分,我们还消除了偏见,例如文章的来源,这可能会影响模型的性能。DEAP-FAKED在两个数据集上获得了88%和78%的F1分数,分别提高了21%和3%,这表明了该方法的有效性。
2022-11-25 cs.AI cs.CL
FakeWatch ElectionShield: A Benchmarking Framework to Detect Fake News for Credible US Elections
Vector Institute(矢量研究院);Royal Bank of Canada(加拿大皇家银行)
本文提出 FakeWatch ElectionShield 框架,结合语言模型与人工验证构建北美选举新闻数据集,并系统比较传统机器学习与先进语言模型,为选举假新闻检测提供基准。
2023-12-08 cs.AI cs.CL
MPPFND: A Dataset and Analysis of Detecting Fake News with Multi-Platform Propagation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院);Division of Emerging Interdisciplinary Areas, Hong Kong University of Science and Technology(香港科技大学新兴交叉学科 division)
本文提出MPPFND数据集和APSL模型,利用图神经网络提取多平台社会背景特征,通过考虑跨平台传播差异提升假新闻检测性能。
2025-05-16 cs.AI cs.SI
Towards Smart Fake News Detection Through Explainable AI
National Institute of Technology Calicut(国家理工学院卡利卡特分校)
由于社交媒体网站的受欢迎程度,人们现在将其视为唯一的信息来源。大多数人通过社交媒体获取新闻。与此同时,近年来假新闻在社交媒体平台上呈指数级增长。几种基于人工智能的检测假新闻的解决方案已经显示出令人鼓舞的结果。另一方面,这些检测系统缺乏解释能力,即,解释他们为什么做出预测的能力。本文重点介绍了可解释的假新闻检测的最新技术水平。我们讨论了当前基于人工智能的可解释假新闻检测模型的缺陷,并介绍了我们正在进行的多模态可解释假新闻检测模型的研究。
2022-07-23 cs.AI cs.IR cs.SI
Out-of-distribution Evidence-aware Fake News Detection via Dual Adversarial Debiasing
Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对证据感知假新闻检测模型存在内容偏差、难以泛化到分布外场景的问题,提出即插即用的双对抗学习方法,通过双向去偏判别器减轻偏差,在多种骨干网络和OOD设置下均取得更优性能。
2024-04-15 cs.AI cs.CL
Mining User-aware Multi-relations for Fake News Detection in Large Scale Online Social Networks
Macquarie University(麦考瑞大学)
用户参与创建和传播新闻是在线社交网络中虚假新闻检测的一个重要方面。直觉上,可信的用户更有可能分享可信的新闻,而不可信的用户传播不可信新闻的概率更高。在本文中,我们构造了一个双层图(即,新闻层和用户层),以提取社交网络中新闻和用户的多种关系,从而导出用于检测假新闻的丰富信息。在双层图的基础上,提出了一个假新闻检测模型Us-DeFake。在新闻层学习新闻的传播特征,在用户层学习用户的交互特征。通过图中的中间层,Us-DeFake将包含可信度信息的用户信号融合到新闻特征中,为假新闻检测提供独特的用户感知的新闻嵌入。训练过程在图采样器获得的多个双层子图上进行,以在大规模社交网络中缩放Us-DeFake。在真实数据集上的大量实验表明了Us-DeFake的优越性,其性能优于所有基线,并且通过交互关系学习的用户可信度信号可以显着提高我们模型的性能。
2023-01-04 cs.AI cs.SI
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University(雪城大学)
假新闻的爆炸性增长及其对民主,正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估:(1)它所携带的虚假知识,(2)它的写作风格,(3)它的传播模式,以及(4)它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是,我们确定并详细说明了各个学科的相关基础理论,以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作,研究假新闻,这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
Where Are the Facts? Searching for Fact-checked Information to Alleviate the Spread of Fake News
Worcester Polytechnic Institute(伍斯特理工学院)
尽管学术界和工业界已经开发了许多事实核查系统,但假新闻仍在社交媒体上激增。这些系统主要侧重于事实核查,但通常忽视了作为错误信息传播主要驱动力的在线用户。我们如何使用经过事实核查的信息来提高用户对他们所接触到的假新闻的意识?如何阻止用户传播假新闻?为了解决这些问题,我们提出了一个新的框架来搜索事实核查的文章,它解决了在线用户发布的原始推文(可能包含错误信息)的内容。该搜索可以直接警告假新闻发布者和在线用户(例如,发布者的追随者)有关错误信息,阻止他们传播假新闻,并在社交媒体上扩大经验证的内容。我们的框架使用文本和图像来搜索事实检查文章,并在现实世界的数据集上取得了令人鼓舞的结果。我们的代码和数据集在https://github.com/nguyenvo09/EMNLP2020上发布。
2020-10-07 cs.AI cs.IR
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University(佛罗里达州立大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
近年来,由于在线社交网络的蓬勃发展,出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语,在线社交网络用户很容易被这些在线假新闻所感染,这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法,并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征,FAKEDETECTOR构建了一个深度扩散网络模型,同时学习新闻文章,创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验,将FAKEDETECTOR与几种最先进的模型进行了比较,实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
Unseen Fake News Detection Through Casual Debiasing
The University of Melbourne(墨尔本大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61)
针对现有假新闻检测方法难以应对未见新闻的问题,通过因果分析识别训练数据中的领域偏差,提出基于分类置信度重加权和传播结构正则化的去偏方法FNDCD,有效提升了模型在跨领域未见假新闻上的检测泛化能力。
2025-03-06 cs.AI cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS(中国科学院智能信息处理重点实验室,中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);State Key Laboratory of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
假新闻在各个领域的社交媒体上广泛传播,导致政治,灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测(SFND),这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域,多领域虚假新闻检测(MFND)越来越受到关注。然而,数据分布,如词频和传播模式,从域到域,即域移位。面对严重领域转移的挑战,现有的假新闻检测技术在多领域场景中表现不佳。因此,设计一种专门的MFND模型是非常必要的。在本文中,我们首先为MFND设计了一个带有域标签的假新闻数据集基准,即微博21,它由来自9个不同领域的4,488条假新闻和4,640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型(MDFEND),利用域门聚合由混合专家模型提取的多个表示。实验结果表明,MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
Integrating Human-in-the-loop into Swarm Learning for Decentralized Fake News Detection
Prairie View A&M University(普雷里维尤农工大学)
社交媒体已成为产生和传播假新闻的有效平台,这些假新闻可能会误导人们,甚至扭曲舆论。然而,用于假新闻检测的集中式方法在用于训练模型的集中式数据汇集过程中不能有效地保护用户隐私。此外,它不能完全将用户反馈纳入学习检测模型的循环中,以进一步增强假新闻检测。为了克服这些挑战,本文提出了一种新的分散方法,基于人在回路的群学习(HBSL),将用户反馈集成到学习和推理的回路中,以分散的方式识别假新闻,而不会侵犯用户隐私。它由分布式节点组成,能够独立学习和检测本地数据上的假新闻。此外,在这些节点上训练的检测模型可以通过分散的模型合并来增强。实验结果表明,该方法在检测基准数据集上的假新闻方面优于最先进的分散式方法。
2022-01-04 cs.AI cs.LG cs.SI
Methods of Informational Trends Analytics and Fake News Detection on Twitter
Ivan Franko National University of Lviv(利沃夫伊万·弗兰科国立大学)
在本文中,不同的方法来分析Twitter上的新闻趋势被认为是。对于分析和案例研究,研究了2022年俄罗斯入侵乌克兰造成的Twitter上的信息趋势。分析了一种用于虚假新闻检测的深度学习方法。利用频繁项集理论和关联规则、图论对新闻动态进行了分析。
2022-04-11 cs.AI cs.CL cs.SI
Generalizing to the Future: Mitigating Entity Bias in Fake News Detection
University of Chinese Academy of Sciences(中国科学院大学);Beihang University(北京航空航天大学)
假新闻的广泛传播对个人和社会的威胁越来越大。假新闻检测的目的是在过去的新闻上训练一个模型,并检测未来的假新闻。现有的假新闻检测方法虽然做了大量的努力,但忽略了真实世界数据中的非预期实体偏差,严重影响了模型对未来数据的泛化能力。例如,2010-2017年包含实体“唐纳德特朗普”的新闻中有97%在我们的数据中是真实的,但这一比例在2018年下降到只有33%。这将导致在前一组上训练的模型很难推广到后者,因为它倾向于预测关于“唐纳德特朗普”的新闻片段是真实的,以降低训练损失。在本文中,我们提出了一个实体去偏框架(\textbf{ENDEF}),通过从因果角度减轻实体偏见,将假新闻检测模型推广到未来的数据。基于实体、新闻内容和新闻真实性之间的因果关系图,我们在训练过程中分别对每个原因(实体和内容)的贡献进行建模。在推理阶段,我们去除了实体的直接影响,以减轻实体偏见。在英文和中文数据集上的大量离线实验表明,该框架可以大大提高基本假新闻检测器的性能,在线测试验证了其在实践中的优越性。据我们所知,这是第一项明确提高假新闻检测模型对未来数据的泛化能力的工作。该代码已在https://github.com/ICTMCG/ENDEF-SIGIR2022上发布。
2022-04-20 cs.AI cs.CL cs.LG
Explainable Tsetlin Machine framework for fake news detection with credibility score assessment
University of Agder(阿格德大学)
假新闻的扩散,即,新闻故意传播错误信息,对个人和社会构成威胁。尽管有各种事实核查网站,如PolitiFact,但仍需要强大的检测技术来应对假新闻的增加。几个深度学习模型在假新闻分类方面显示出了很好的效果,然而,它们的黑盒性质使得很难解释它们的分类决策和保证模型的质量。我们在这里解决这个问题,提出了一个新的可解释的假新闻检测框架的基础上,最近推出的Tsetlin机(TM)。简而言之,我们利用TM的连接子句来捕获真实和虚假新闻文本的词汇和语义属性。此外,我们使用子句集合来计算假新闻的可信度。为了进行评估,我们在两个公开的数据集PolitiFact和GossipCop上进行了实验,并证明TM框架在准确性方面明显优于先前发布的基线至少$5\%$,并具有可解释的基于逻辑的表示的额外好处。此外,我们的方法提供了比BERT和XLNet更高的F1分数,但是,我们获得的准确性略低。最后,我们提出了一个案例研究我们的模型的可解释性,展示了它如何分解成有意义的词和他们的否定。
2021-05-19 cs.AI cs.CL cs.LG
Meta-Path-based Fake News Detection Leveraging Multi-level Social Context Information
Korea Advanced Institute of Science and Technology(韩国科学技术院)
假新闻,即以新闻形式呈现的虚假或误导性信息,对社会的许多方面都有重大影响,例如在政治或医疗保健领域。由于假新闻的欺骗性,仅将自然语言处理(NLP)技术应用于新闻内容是不够的。多层次的社会背景信息(新闻发布者和社会媒体中的参与用户)和用户参与的时间信息是假新闻检测的重要信息。然而,这些信息的正确使用带来了三个长期的困难:1)多层次的社会背景信息很难在不丢失信息的情况下使用,2)时间信息很难与多层次的社会背景信息一起使用,3)多层次的社会背景和时间信息的新闻表示很难以端到端的方式学习。为了克服这三个困难,我们提出了一个新的假新闻检测框架Hetero-SCAN。我们使用元路径提取有意义的多层次的社会背景信息,没有损失。元路径,连接两个节点类型的复合关系,提出了在异构图中捕捉语义。然后,我们提出元路径实例编码和聚合方法来捕获用户参与的时间信息,并产生端到端的新闻表示。根据我们的实验,Hetero-SCAN比最先进的假新闻检测方法具有显着的性能改进。
2021-11-17 cs.AI cs.CY cs.SI
Multi-view autoencoders for Fake News Detection
Centro de Informática Universidade Federal de Pernambuco(计算机中心 巴西佩纳布卢克联邦大学);École de technologie supérieure Université du Québec(高等技术学院魁北克大学)
本文提出使用多视图自编码器整合多种特征提取技术生成联合特征表示,用于假新闻检测,实验证明该方法显著提升了分类性能,且选择视图子集在准确率和计算量上更具优势。
2025-04-10 cs.AI cs.CL cs.LG
From Cheap Fakes to Pure Synthesis: Addressing the New Era of T2V Fake News Videos
Hong Kong Baptist University(香港浸会大学);Beijing Normal University(北京师范大学)
该研究针对纯合成T2V假新闻视频带来的新威胁,构建了首个纯合成假新闻视频数据集,提出R-T2V框架,在10种主流基准上取得最优检测性能。
2026-08-10 cs.AI cs.CV cs.MM
Less is More: Unseen Domain Fake News Detection via Causal Propagation Substructures
The University of Melbourne(墨尔本大学);Data61, CSIRO(联邦科学与工业研究组织数据61研究所)
提出因果子图导向的领域自适应假新闻检测模型CSDA,通过提取传播图中的因果子结构增强零样本检测,并在少样本场景下利用对比学习提升性能,在OOD假新闻检测上准确率提升7%至16%。
2024-11-14 cs.AI cs.CL cs.CY
Fake News in Social Networks
University of St. Gallen(圣加尔大学);University of Oxford(牛津大学);Frankfurt School of Finance and Management(法兰克福金融与管理学院);Swiss Finance Institute(瑞士金融研究所)
本文提出多智能体强化学习作为建模社交媒体中虚假新闻的新方法,发现针对高连接性和弱隐私信息的人群更有效,且信息分散传播比集中传播更有效,同时平衡网络中虚假新闻传播较弱,通过人类实验验证了模型的适用性。
2025-10-12 cs.AI cs.MA cs.SI