Fake News Detectors are Biased against Texts Generated by Large Language Models
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Monash University(莫纳什大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61部门)
本文发现现有假新闻检测器对LLM生成内容存在系统性偏见,并提出基于LLM改写真实新闻的对抗训练方法以提升检测准确率,同时发布GossipCop++和PolitiFact++两个综合数据集。
2026-11-16 cs.AI cs.CL
FakeGPT: Fake News Generation, Explanation and Detection of Large Language Models
University of Notre Dame(圣母大学);Illinois Institute of Technology(伊利诺伊理工学院);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文系统评估 ChatGPT 在假新闻生成、解释与检测上的能力,提出原因感知提示方法,并分析可用于提升检测效果的特征与额外信息。
2024-04-06 cs.CL
Have LLMs Reopened the Pandora's Box of AI-Generated Fake News?
College of Information Sciences and Technology, Pennsylvania State University(宾夕法尼亚州立大学信息科学与技术学院);Bellisario College of Communications, Pennsylvania State University(宾夕法尼亚州立大学贝里萨里奥传播学院);Sungkyunkwan University(成均馆大学)
本研究通过大学竞赛探索LLMs生成假新闻及检测,发现LLMs检测真实新闻优于人类68%,但假新闻检测两者相当,凸显人机协作下检测的复杂性。
2025-03-29 cs.CL
Synthetic News Generation for Fake News Classification
本文研究利用大语言模型通过事实操纵生成合成假新闻,提出连贯性、差异性和正确性评估指标,并证明BERT等Transformer模型可有效利用合成数据提升假新闻检测性能,其中事实核查特征效果最佳。
2025-04-09 cs.CL
A Revisit of Fake News Dataset with Augmented Fact-checking by ChatGPT
University of California, Davis(加利福尼亚大学戴维斯分校)
本文用 ChatGPT 对人工记者验证的假新闻数据集进行增强事实核查,构建 ChatGPT-FC,并定量比较人类与 LLM 在多维度可信度评估上的异同,表明 LLM 可用于初步筛查并缓解人工偏见。
2023-12-19 cs.CL
LLM-GAN: Construct Generative Adversarial Network Through Large Language Models For Explainable Fake News Detection
Fudan University(复旦大学);Alibaba Group(阿里巴巴集团)
针对LLMs易被假新闻误导及解释需大量人工的问题,提出LLM-GAN框架,利用提示机制使LLM充当生成器和检测器进行假新闻生成与检测,有效提升了预测性能与解释质量,并集成至云原生AI平台。
2024-12-24 cs.CL
Debunking Disinformation: Revolutionizing Truth with NLP in Fake News Detection
本文探讨利用自然语言处理技术检测假新闻的方法,分析其挑战与机遇,以对抗虚假信息传播。
2023-11-15 cs.AI
LLM-Generated Fake News Induces Truth Decay in News Ecosystem: A Case Study on Neural News Recommendation
Media Synthesis and Forensics Lab, Institute of Computing Technology, Chinese Academy of Sciences(媒体合成与取证实验室,计算技术研究所,中国科学院);University of Chinese Academy of Sciences(中国科学院大学)
本研究针对LLM生成假新闻对新闻生态的影响,开发了仿真流水线与5.6万条数据集,发现其大规模注入神经新闻推荐会引发真实新闻排名优势丧失的真相衰退现象,并从熟悉度与困惑度给出解释与对策。
2025-04-29 cs.CL cs.CY cs.IR
The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学北京校区人工智能学院);MBZUAI;Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MoE(下一代智能搜索与推荐工程研究中心,教育部);School of Artifcial Intelligence, Wuhan University(武汉大学人工智能学院)
提出基于LLM智能体的FUSE框架,模拟真实新闻在社交互动中逐步扭曲为假新闻的演化过程,并开发FUSE-EVAL评估真相偏差,实验证明其能有效重现假新闻演化场景并支持早期干预。
2025-05-28 cs.AI cs.SI
Each Fake News is Fake in its Own Way: An Attribution Multi-Granularity Benchmark for Multimodal Fake News Detection
Nation University of Defence Technology(国防科技大学);Xi’an Jiaotong University(西安交通大学)
针对现有数据集仅提供真假二元标签且无法反映多模态假新闻混合本质的问题,构建了归因多粒度数据集\amg并提出多粒度线索对齐模型\our,实现了假新闻检测与归因,为未来研究开辟了新途径。
2024-12-19 cs.AI cs.CL
Connecting the Dots Between Fact Verification and Fake News Detection
Beihang University(北京航空航天大学)
事实验证模型在过去的两年中取得了快速的发展,随着BERT等预训练语言模型的发展和FEVER等大规模数据集的发布。然而,假新闻检测的挑战性问题并没有受益于事实验证模型的改进,这与假新闻检测密切相关。在本文中,我们提出了一种简单而有效的方法来连接事实验证和假新闻检测之间的点。我们的方法首先采用了一个文本摘要模型预先训练的新闻语料库,总结成一个简短的声明长新闻文章。然后,我们使用在FEVER数据集上预先训练的事实验证模型来检测输入的新闻文章是真的还是假的。我们的方法利用了最近成功的事实验证模型,并实现了zero-shot假新闻检测,减轻了大规模训练数据训练假新闻检测模型的需求。在FakenewsNet上的实验结果证明了该方法的有效性。
2020-10-11 cs.AI cs.CL
Arabic Fake News Detection Based on Deep Contextualized Embedding Models
University of Sharjah(沙迦大学);Western University(韦仕敦大学)
社交媒体正成为许多人的新闻来源,因为它的易用性和使用自由。因此,假新闻无论其可信度如何,都在迅速而轻松地传播,特别是在过去十年中。假新闻出版商利用新冠肺炎疫情和美国总统选举等关键情况对社会产生负面影响。假新闻可以严重影响社会的许多领域,包括政治,金融,体育等,许多研究已经进行,以帮助检测假新闻的英语,但研究进行的假新闻检测在阿拉伯语是稀缺的。我们的贡献是双重的:首先,我们构建了一个庞大而多样化的阿拉伯语假新闻数据集。其次,我们开发并评估了基于transformer的分类器,以识别假新闻,同时利用八种最先进的阿拉伯语上下文嵌入模型。这些模型中的大多数以前都没有用于阿拉伯语假新闻检测。我们对最先进的阿拉伯语语境化嵌入模型进行了全面分析,并与类似的假新闻检测系统进行了比较。实验结果证实,这些国家的最先进的模型是强大的,准确率超过98%。
2022-05-06 cs.AI cs.CL
A Heuristic-driven Uncertainty based Ensemble Framework for Fake News Detection in Tweets and News Articles
Razorthink Inc(Razorthink 公司);IIT Madras(印度理工学院马德拉斯分校)
在过去的几十年里,社交媒体的重要性增加了许多倍,因为它可以帮助来自世界上最偏远角落的人们保持联系。随着技术的出现,数字媒体变得比以往任何时候都更加相关和广泛使用,与此同时,需要立即关注的假新闻和推文的传播死灰复燃。在本文中,我们描述了一种新型的假新闻检测系统,该系统可以自动识别新闻项目是“真”还是“假”,作为我们在CONSTRAINT COVID-19 Fake News Detection in English challenge中工作的扩展。我们使用了一个集成模型,该模型由预训练模型和统计特征融合网络组成,以及一种新的启发式算法,该算法通过将新闻项或推文中存在的各种属性(如来源,用户名句柄,URL域和作者)作为统计特征。我们提出的框架还量化了可靠的预测不确定性以及分类任务的适当类输出置信水平。我们已经在COVID-19 Fake News数据集和FakeNewsNet数据集上评估了我们的结果,以显示所提出的算法在检测短新闻内容以及新闻文章中的假新闻方面的有效性。我们在COVID-19数据集上获得了0.9892的最佳F1分数,在FakeNewsNet数据集上获得了0.9073的F1分数。
2021-12-13 cs.AI cs.CL
Blessing or curse? A survey on the Impact of Generative AI on Fake News
Microsoft(微软公司);Frankfurt University of Applied Sciences(法兰克福应用科学大学);IMT Atlantique(法国大西洋高等矿业电信学院)
本文综述生成式AI在假新闻生成与检测中的双重作用,系统梳理使能技术、生成、社交媒体传播、检测及深度伪造五类研究,并指出当前挑战。
2024-12-27 cs.AI cs.CL
MCFEND: A Multi-source Benchmark Dataset for Chinese Fake News Detection
Hong Kong Baptist University(香港浸会大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Beijing Normal University-Hong Kong Baptist University United International College(北京师范大学-香港浸会大学联合国际学院);The University of Hong Kong(香港大学)
针对现有中文假新闻检测数据集仅限单一来源导致跨源性能下降的问题,本文构建了首个多源基准数据集MCFEND,并全面评估了现有方法在跨源、多源和未见源场景下的表现。
2024-07-24 cs.AI cs.CL
DEAP-FAKED: Knowledge Graph based Approach for Fake News Detection
Outplay(Outplay公司);University of Tartu(塔尔图大学)
最近,社交媒体平台上的假新闻吸引了大量关注,主要是与政治(2016年美国总统选举),医疗保健(COVID-19期间的信息流行病)相关的事件,仅举几例。已经提出了各种方法来检测假新闻。这些方法包括利用与网络分析、自然语言处理(NLP)和图神经网络(GNN)的使用相关的技术。在这项工作中,我们提出了DEAP-FAKED,一个用于识别假新闻的知识图谱FAKe nEws检测框架。我们的方法是NLP(我们对新闻内容进行编码)和GNN技术(我们对知识图谱(KG)进行编码)的组合。各种各样的这些编码提供了一个互补的优势,我们的检测器。我们使用两个公开的数据集来评估我们的框架,这些数据集包含来自政治,商业,技术和医疗保健等领域的文章。作为数据集预处理的一部分,我们还消除了偏见,例如文章的来源,这可能会影响模型的性能。DEAP-FAKED在两个数据集上获得了88%和78%的F1分数,分别提高了21%和3%,这表明了该方法的有效性。
2022-11-25 cs.AI cs.CL
FakeWatch ElectionShield: A Benchmarking Framework to Detect Fake News for Credible US Elections
Vector Institute(矢量研究院);Royal Bank of Canada(加拿大皇家银行)
本文提出 FakeWatch ElectionShield 框架,结合语言模型与人工验证构建北美选举新闻数据集,并系统比较传统机器学习与先进语言模型,为选举假新闻检测提供基准。
2023-12-08 cs.AI cs.CL
Out-of-distribution Evidence-aware Fake News Detection via Dual Adversarial Debiasing
Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对证据感知假新闻检测模型存在内容偏差、难以泛化到分布外场景的问题,提出即插即用的双对抗学习方法,通过双向去偏判别器减轻偏差,在多种骨干网络和OOD设置下均取得更优性能。
2024-04-15 cs.AI cs.CL
How does Truth Evolve into Fake News? An Empirical Study of Fake News Evolution
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Soochow University(苏州大学);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
自动识别互联网上的虚假新闻是欺骗检测任务中的一个具有挑战性的问题。在线新闻在其传播过程中不断被修改,例如,恶意用户歪曲事实真相,编造假新闻。然而,持续的进化过程会产生前所未有的假新闻,欺骗原始模型。我们提出了假新闻演变(FNE)数据集:一个跟踪假新闻演变过程的新数据集。我们的数据集由950个成对的数据组成,每个数据都由代表演变过程中三个重要阶段的文章组成,这三个阶段是真相,假新闻和演变的假新闻。我们在进化过程中观察这些特征,它们是虚假信息技术,文本相似性,前10个关键词,分类准确性,词性和情感属性。
2021-03-10 cs.CL
A Survey of Fake News: Fundamental Theories, Detection Methods, and Opportunities
Syracuse University(雪城大学)
假新闻的爆炸性增长及其对民主,正义和公众信任的侵蚀增加了对假新闻检测和干预的需求。该调查从四个方面对可以检测假新闻的方法进行了审查和评估:(1)它所携带的虚假知识,(2)它的写作风格,(3)它的传播模式,以及(4)它的来源的可信度。该调查还强调了一些潜在的研究任务的基础上审查。特别是,我们确定并详细说明了各个学科的相关基础理论,以鼓励对假新闻进行跨学科研究。我们希望这项调查能够促进计算机和信息科学、社会科学、政治学和新闻学专家之间的合作,研究假新闻,这些努力可以导致不仅有效而且更重要的是可以解释的假新闻检测。
2020-07-17 cs.AI cs.CL cs.SI
MDFEND: Multi-domain Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS(中国科学院智能信息处理重点实验室,中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);State Key Laboratory of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
假新闻在各个领域的社交媒体上广泛传播,导致政治,灾难和金融等多方面的现实威胁。现有的方法大多集中在单域虚假新闻检测(SFND),这导致这些方法应用于多域虚假新闻检测时性能不令人满意。作为一个新兴领域,多领域虚假新闻检测(MFND)越来越受到关注。然而,数据分布,如词频和传播模式,从域到域,即域移位。面对严重领域转移的挑战,现有的假新闻检测技术在多领域场景中表现不佳。因此,设计一种专门的MFND模型是非常必要的。在本文中,我们首先为MFND设计了一个带有域标签的假新闻数据集基准,即微博21,它由来自9个不同领域的4,488条假新闻和4,640条真实新闻组成。我们进一步提出了一个有效的多域假新闻检测模型(MDFEND),利用域门聚合由混合专家模型提取的多个表示。实验结果表明,MDFEND能够显著提高多领域虚假新闻检测的性能。我们的数据集和代码可以在https://github.com/kennqiang/MDFEND-Weibo21上找到。
2022-01-04 cs.AI cs.CL cs.SI
Methods of Informational Trends Analytics and Fake News Detection on Twitter
Ivan Franko National University of Lviv(利沃夫伊万·弗兰科国立大学)
在本文中,不同的方法来分析Twitter上的新闻趋势被认为是。对于分析和案例研究,研究了2022年俄罗斯入侵乌克兰造成的Twitter上的信息趋势。分析了一种用于虚假新闻检测的深度学习方法。利用频繁项集理论和关联规则、图论对新闻动态进行了分析。
2022-04-11 cs.AI cs.CL cs.SI
Credibility-based Fake News Detection
Syracuse University(雪城大学)
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中,我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据,我们发现新闻来源(和作者)的信息可以成为可信度的一个强有力的指标。我们的研究结果表明,作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法,其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University(大阪大学产业科学研究所);NARA Institute of Science and Technology(奈良先端科学技术大学院大学)
假新闻引发了许多社会问题;因此,人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而,仅从这一方面不足以解释“假新闻”,这是一个复杂的现象,涉及面很广。要充分认识每一个假新闻的本质,重要的是要从多个角度来观察它,如假新闻传播者的意图,新闻对我们社会的危害性,以及新闻的目标。我们基于对现有假新闻数据集的详细调查,提出了一种具有细粒度标签的新注释方案,以捕获假新闻的各个方面。使用注释方案,我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Automatic Detection of Fake News
University of Michigan(密歇根大学);University of Amsterdam(阿姆斯特丹大学)
误导性信息在社交媒体、新闻博客和在线报纸等日常访问媒体渠道中的扩散,使得识别值得信赖的新闻来源变得具有挑战性,从而增加了对能够提供对在线内容可靠性的见解的计算工具的需求。本文主要研究网络新闻中虚假内容的自动识别问题。我们的贡献是双重的。首先,我们介绍了两个用于假新闻检测任务的新数据集,涵盖了七个不同的新闻领域。我们详细描述了收集,注释和验证过程,并提出了几个探索性的分析,在虚假和合法的新闻内容的语言差异的识别。其次,我们进行了一系列学习实验,以构建准确的假新闻检测器。此外,我们提供了自动和人工识别假新闻的比较分析。
2017-08-23 cs.CL
Lexicon generation for detecting fake news
Hacettepe University(哈杰泰佩大学)
随着媒体数字化,包括主流媒体以及社交网络在内的在线来源产生了大量新闻数据。然而,制作和传播的便利导致了假新闻以及可信的真实新闻的传播。假新闻的广泛传播对个人和社会产生了极大的负面影响。因此,假新闻检测最近成为一个新兴的课题,作为一个跨学科的研究领域,吸引了许多研究学科的极大关注,包括社会科学和语言学。在这项研究中,我们提出了一种主要基于词汇的方法,包括一个评分系统,以促进土耳其假新闻的检测。我们通过收集一个新颖的,大规模的,可信的土耳其新闻数据集,并通过构建土耳其的第一个假新闻检测词典来为文献做出贡献。
2020-10-16 cs.CL
Fake or Real? A Study of Arabic Satirical Fake News
Research Group in Computational Linguistics(计算语言学研究小组);University of Wolverhampton, UK(英国沃尔夫汉普顿大学);Centre for Translation Studies(翻译研究中心);University of Surrey, UK(英国萨里大学)
一种非常常见的假新闻是讽刺,它以新闻网站或在线平台的形式出现,模仿有信誉的真实新闻机构,以创造一个讽刺现实的版本。这种类型的假新闻通常由个人在其在线平台上传播,因为它在传达批评方面比通过直接的信息具有更强的效果。然而,当讽刺文本通过社交媒体传播而不提及其来源时,它可能会被误认为是真正的新闻。本研究进行了几个探索性的分析,以确定阿拉伯语假新闻的讽刺内容的语言特性。我们利用这些特征构建了许多机器学习模型,能够识别讽刺性假新闻,准确率高达98.6%。
2020-11-01 cs.CL
Generalizing to the Future: Mitigating Entity Bias in Fake News Detection
University of Chinese Academy of Sciences(中国科学院大学);Beihang University(北京航空航天大学)
假新闻的广泛传播对个人和社会的威胁越来越大。假新闻检测的目的是在过去的新闻上训练一个模型,并检测未来的假新闻。现有的假新闻检测方法虽然做了大量的努力,但忽略了真实世界数据中的非预期实体偏差,严重影响了模型对未来数据的泛化能力。例如,2010-2017年包含实体“唐纳德特朗普”的新闻中有97%在我们的数据中是真实的,但这一比例在2018年下降到只有33%。这将导致在前一组上训练的模型很难推广到后者,因为它倾向于预测关于“唐纳德特朗普”的新闻片段是真实的,以降低训练损失。在本文中,我们提出了一个实体去偏框架(\textbf{ENDEF}),通过从因果角度减轻实体偏见,将假新闻检测模型推广到未来的数据。基于实体、新闻内容和新闻真实性之间的因果关系图,我们在训练过程中分别对每个原因(实体和内容)的贡献进行建模。在推理阶段,我们去除了实体的直接影响,以减轻实体偏见。在英文和中文数据集上的大量离线实验表明,该框架可以大大提高基本假新闻检测器的性能,在线测试验证了其在实践中的优越性。据我们所知,这是第一项明确提高假新闻检测模型对未来数据的泛化能力的工作。该代码已在https://github.com/ICTMCG/ENDEF-SIGIR2022上发布。
2022-04-20 cs.AI cs.CL cs.LG
FakeWatch: A Framework for Detecting Fake News to Ensure Credible Elections
Vector Institute(矢量研究所);Toronto Metropolitan University(多伦多都会大学);RBC Royal Bank(加拿大皇家银行)
本文提出FakeWatch框架,通过整合传统机器学习与最先进语言模型,并利用北美选举新闻数据集构建分类模型,以有效检测选举相关虚假新闻。
2024-05-04 cs.CL
Explainable Tsetlin Machine framework for fake news detection with credibility score assessment
University of Agder(阿格德大学)
假新闻的扩散,即,新闻故意传播错误信息,对个人和社会构成威胁。尽管有各种事实核查网站,如PolitiFact,但仍需要强大的检测技术来应对假新闻的增加。几个深度学习模型在假新闻分类方面显示出了很好的效果,然而,它们的黑盒性质使得很难解释它们的分类决策和保证模型的质量。我们在这里解决这个问题,提出了一个新的可解释的假新闻检测框架的基础上,最近推出的Tsetlin机(TM)。简而言之,我们利用TM的连接子句来捕获真实和虚假新闻文本的词汇和语义属性。此外,我们使用子句集合来计算假新闻的可信度。为了进行评估,我们在两个公开的数据集PolitiFact和GossipCop上进行了实验,并证明TM框架在准确性方面明显优于先前发布的基线至少$5\%$,并具有可解释的基于逻辑的表示的额外好处。此外,我们的方法提供了比BERT和XLNet更高的F1分数,但是,我们获得的准确性略低。最后,我们提出了一个案例研究我们的模型的可解释性,展示了它如何分解成有意义的词和他们的否定。
2021-05-19 cs.AI cs.CL cs.LG
How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
Technische Universität Berlin(柏林工业大学)
随着近年来互联网上虚假信息的传播急剧增加,越来越多的人关注自动化的假新闻检测。一些虚假新闻检测方法已经相当成功。然而,在检测算法中仍然存在许多漏洞。其原因是,假新闻发布者可以以检测算法不会将此文本暴露为假新闻的方式构建和制定其文本。这篇论文表明,有可能自动攻击经过训练以检测假新闻的最先进模型,使这些模型变得脆弱。为此,首先基于数据集训练相应的模型。然后,使用Text-Attack,尝试以这样的方式操纵训练模型,即先前正确识别的假新闻被归类为真新闻。结果表明,有可能自动绕过假新闻检测机制,从而对现有政策举措产生影响。
2021-07-16 cs.CL
Multi-view autoencoders for Fake News Detection
Centro de Informática Universidade Federal de Pernambuco(计算机中心 巴西佩纳布卢克联邦大学);École de technologie supérieure Université du Québec(高等技术学院魁北克大学)
本文提出使用多视图自编码器整合多种特征提取技术生成联合特征表示,用于假新闻检测,实验证明该方法显著提升了分类性能,且选择视图子集在准确率和计算量上更具优势。
2025-04-10 cs.AI cs.CL cs.LG
Fake News Early Detection: An Interdisciplinary Study
Syracuse University(雪城大学)
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而,为了在早期阶段发现假新闻,即,当它在新闻媒体上发布但尚未在社交媒体上传播时,人们不能依赖新闻传播信息,因为它不存在。因此,迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面,依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究,我们的工作探索了潜在的假新闻模式,增强了假新闻特征工程的可解释性,并研究了假新闻,欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明,该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
FakeFlow: Fake News Detection by Modeling the Flow of Affective Information
Universitat Politècnica de València(瓦伦西亚理工大学);University of Mannheim(曼海姆大学);Symanto Research(Symanto研究公司)
假新闻往往通过煽情的方式来引起读者的注意。与短篇新闻不同,长文的作者可以利用这些情感因素来操纵读者,通过添加夸张或虚构事件来影响读者的情绪。为了抓住这一点,我们在本文中提出使用神经架构对假新闻文章中的情感信息流进行建模。所提出的模型FakeFlow通过结合从文本中提取的主题和情感信息来学习该流。我们评估了模型的性能与四个真实世界的数据集上的几个实验。结果表明,与最先进的方法相比,FakeFlow取得了更好的结果,从而证实了捕捉新闻文章中情感信息流的重要性。
2021-01-24 cs.CL
BanFakeNews: A Dataset for Detecting Fake News in Bangla
Shahjalal University of Science and Technology(沙赫贾拉尔科技大学);University of Houston(休斯顿大学)
观察到假新闻在政治和金融等各个领域的快速传播可能造成的损害,利用语言分析自动识别假新闻引起了研究界的关注。然而,这种方法主要是为英语开发的,低资源语言仍然不受关注。但虚假和操纵性新闻所带来的风险并不局限于语言。在这项工作中,我们提出了一个约50K新闻的注释数据集,可用于为孟加拉语等低资源语言构建自动化假新闻检测系统。此外,我们提供了数据集的分析,并开发了一个具有最先进的NLP技术的基准系统来识别孟加拉国的假新闻。为了创建这个系统,我们探索了传统的语言特征和基于神经网络的方法。我们希望这个数据集将成为构建技术的宝贵资源,以防止假新闻的传播,并为低资源语言的研究做出贡献。
2020-04-19 cs.CL
Debunking Fake News One Feature at a Time
New York University(纽约大学)
识别新闻文章主体相对于某个标题的立场是自动化虚假新闻检测的第一步。在本文中,我们介绍了一个2阶段的集成模型来解决的立场检测任务。通过仅使用手工制作的特征作为梯度提升分类器的输入,我们能够在官方假新闻挑战(第1阶段)数据集上获得11651.25分中的9161.5分(78.63%)。我们确定了用于检测假新闻的最有用的特征,并讨论了如何使用采样技术来提高高度不平衡数据集的召回准确率。
2018-08-08 cs.CL
Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology(奈良先端科学技术大学)
假新闻的迅速增加对社会造成了重大损害,引发了许多与假新闻相关的研究,包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集:(1)假新闻检测,(2)事实验证,(3)其他任务;例如,假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后,我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究,从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks
National University of Singapore(新加坡国立大学);University of Chinese Academy of Sciences(中国科学院大学);Institute of Computing Technology, CAS(中国科学院计算技术研究所)
针对LLM风格攻击导致的假新闻检测脆弱性(F1下降38%),提出SheepDog检测器,通过风格多样性训练、风格无关方案和内容归因,在三个基准上实现风格鲁棒检测。
2024-08-20 cs.CL
Fake News and Hate Speech: Language in Common
Universitat de València(瓦伦西亚大学)
在本文中,我们提出了一个研究问题,即假新闻和仇恨言论传播者在语言上是否有共同的模式。我们计算了一个新的指数,内组与外组指数,在三个不同的数据集,我们表明,这两种现象共享一个“我们与他们”的叙述。
2022-12-05 cs.CL
Fake News Detection Using Majority Voting Technique
R.C. Patel Institute of Technology(R.C.帕特尔理工学院)
由于网络和社交网络平台的发展,传播信息变得非常容易。人们正在创造和分享比以往任何时候都多的信息,这些信息可能是误导性的、错误的或虚假的信息。由于可用信息的非结构化性质,虚假新闻检测是一项至关重要且具有挑战性的任务。近年来,研究人员为解决假新闻检测问题提供了重要的解决方案,但由于其性质,仍然存在许多悬而未决的问题。在本文中,我们提出了多数投票的方法来检测假新闻文章。我们使用了假新闻和真新闻的不同文本属性。我们使用了公开的假新闻数据集,包括20,800篇新闻文章,其中10,387篇是真实的,10,413篇是标记为二进制0和1的假新闻。为了评估我们的方法,我们使用了常用的机器学习分类器,如决策树,逻辑回归,XGBoost,随机森林,额外树,AdaBoost,SVM,SGD和朴素贝叶斯。使用上述分类器,我们建立了一个多模型的假新闻检测系统,使用多数投票技术,以达到更准确的结果。实验结果表明,该方法的准确率为96.38%,精确率为96%,召回率为96%,F1-measure为96%。评价结果表明,多数投票技术取得了更令人满意的结果相比,个别学习技术。
2022-03-27 cs.CL
Exploring Thematic Coherence in Fake News
Queen’s University Belfast(贝尔法斯特女王大学)
假新闻的传播仍然是一个严重的全球性问题;理解和遏制它至关重要。区分谎言和真实故事的一种方法是分析它们的连贯性。本研究旨在探讨话题模式在跨领域新闻连贯性分析中的应用。在七个跨领域数据集上的实验结果表明,假新闻在其开头句子与其其余句子之间表现出更大的主题偏离。
2020-12-17 cs.CL
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Leiden University(莱顿大学);Harvard University(哈佛大学)
在本文中,我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象,而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中,我们发现相关词汇,提到的实体,周围的主题以及围绕“假新闻”一词的上下文极性发生了变化,这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解,有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
Multimodal Fake News Detection
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
在过去的几年里,假新闻出现了前所未有的泛滥。因此,我们更容易受到错误信息和虚假信息传播在我们社会不同阶层可能产生的有害影响。因此,虚假新闻自动检测工具的开发在预防其负面影响方面发挥着重要作用。大多数检测和分类虚假内容的尝试只关注使用文本信息。多模态方法不太常见,它们通常将新闻分类为真或假。在这项工作中,我们使用单峰和多峰方法对Fakeddit数据集上的假新闻进行细粒度分类。我们的实验表明,基于卷积神经网络(CNN)架构结合文本和图像数据的多模态方法达到了最佳效果,准确率为87%。一些假新闻类别,如操纵内容,讽刺或虚假联系,从图像的使用中受益匪浅。使用图像也可以改善其他类别的结果,但影响较小。关于仅使用文本的单模方法,来自Transformers的双向编码器表示(BERT)是最好的模型,准确度为78%。因此,同时利用文本和图像数据可以显著提高假新闻检测的性能。
2021-12-09 cs.CL
User Preference-aware Fake News Detection
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Illinois Institute of Technology(伊利诺伊理工学院);Lehigh University(理海大学)
近年来,虚假信息和假新闻对个人和社会造成了不利影响,引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时,他/她的内生偏好被忽略。确认偏差理论表明,当用户确认他/她现有的信念/偏好时,他/她更有可能传播一条假新闻。用户的历史社交活动(如帖子)提供了有关用户对新闻偏好的丰富信息,并具有很大的潜力来推进假新闻检测。然而,探索用户对假新闻检测的偏好的工作有些有限。因此,在本文中,我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架,UPFD,它同时捕捉各种信号,从用户的喜好,联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准:https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Is it Fake? News Disinformation Detection on South African News Websites
University of Pretoria(比勒陀利亚大学)
通过假新闻传播的虚假信息是我们社会中一个持续存在的问题,并且很容易通过社交媒体传播。过滤这些大量数据的最具成本和时间效益的方法是使用人工和技术干预相结合来识别它。从技术角度来看,自然语言处理(NLP)被广泛用于检测假新闻。社交媒体公司使用NLP技术来识别假新闻并警告他们的用户,但假新闻仍然可能不被发现。在更地方化的情况下(美利坚合众国以外),这尤其是一个问题。我们如何调整假新闻检测系统,以更好地适应当地环境,例如南非。在这项工作中,我们调查了南非网站上的假新闻检测。我们策划了一个南非假新闻的数据集,然后训练检测模型。我们将此与使用广泛可用的假新闻数据集(主要来自美国网站)进行对比。我们还探索通过组合数据集使其更加多样化,并使用可解释的机器学习观察各国假新闻之间的写作行为差异。
2021-08-09 cs.CL cs.CY cs.LG
Localization of Fake News Detection via Multitask Transfer Learning
De La Salle University(德拉萨尔大学);Center for Language Technologies (CeLT)(语言技术中心)
利用互联网作为传播假新闻的快速媒介,加强了对打击假新闻的计算工具的需求。存在训练假新闻分类器的技术,但它们都需要大量资源,包括大型标记数据集和专家策划的语料库,这些资源低的语言可能不具备。在这项工作中,我们做出了两个主要贡献:首先,我们通过构建第一个专业策划的菲律宾假新闻检测基准数据集来缓解资源短缺,我们称之为“菲律宾假新闻”。其次,我们对迁移学习(TL)技术进行了基准测试,并表明它们可以用于从少量数据中训练强大的假新闻分类器,在我们的假新闻数据集上实现了91%的准确率,与已建立的Few-Shot基线相比,将误差减少了14%。此外,提升多任务学习的想法,我们表明,增强基于transformer的传输技术与辅助语言建模损失,通过适应写作风格提高了他们的性能。使用这个,我们将TL性能提高了4- 6%,在我们最好的模型上实现了96%的准确度。最后,我们证明了我们的方法可以很好地推广到不同类型的新闻文章,包括政治新闻,娱乐新闻和评论文章。
2020-05-15 cs.CL
An Emotion-guided Approach to Domain Adaptive Fake News Detection using Adversarial Learning
Biometric Research Laboratory, Delhi Technological University(德里理工大学);School of Computer Science, FEIT, University of Technology Sydney(悉尼科技大学)
最近关于假新闻检测的研究表明,使用情绪作为提高性能的特征是有效的。然而,情感引导特征对虚假新闻检测的跨领域影响仍然是一个悬而未决的问题。在这项工作中,我们提出了一种用于跨域假新闻检测的情感引导,域自适应,多任务方法,证明了情感引导模型在各种数据集的跨域设置中的有效性。
2022-11-26 cs.CL
Embracing Domain Differences in Fake News: Cross-domain Fake News Detection using Multi-modal Data
随着社交媒体的快速发展,假新闻已成为一个重大的社会问题,无法通过人工调查及时解决。这激发了许多关于自动化虚假新闻检测的研究。大多数研究探索了具有不同模式的监督训练模型(例如,文本、图像和传播网络)来识别假新闻。然而,如果新闻记录来自不同的域(例如,政治、娱乐),尤其是在训练过程中看不到或很少看到的领域。作为动机,我们经验表明,来自不同领域的新闻记录有显着不同的词的使用和传播模式。此外,由于大量未标记的新闻记录,选择新闻记录进行手动标记以使标记数据集的域覆盖最大化是具有挑战性的。因此,这项工作:(1)提出了一种新的框架,该框架联合保留新闻记录中的特定领域和跨领域知识,以检测来自不同领域的假新闻;(2)引入了一种无监督技术,以选择一组未标记的信息新闻记录进行手动标记,这最终可以用于训练假新闻检测模型,该模型在许多领域表现良好,同时最小化标记成本。我们的实验表明,所提出的假新闻模型和选择性注释方法的集成实现了跨领域新闻数据集的最新性能,同时对新闻数据集中很少出现的领域产生了显着的改进。
2021-02-24 cs.CL cs.IR cs.LG
Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation
UIUC(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学);University of Washington(华盛顿大学);AI2(艾伦人工智能研究所)
针对机器生成与人类撰写假新闻间的风格与意图差异,提出基于自然语言推理引导的自批判序列训练框架,结合宣传技巧生成训练数据集 PropaNews,使假新闻检测器在公开数据集上检测人类虚假信息的 F1 分数提升 3.62% - 7.69%。
2023-05-15 cs.CL
COVID-19 Fake News Detection Using Bidirectional Encoder Representations from Transformers Based Models
如今,社交媒体的发展使人们可以轻松地获取最新消息。在COVID-19大流行期间,人们获取新闻非常重要,以便他们能够采取相应的保护措施。然而,假新闻泛滥,特别是在全球大流行的情况下,这是一个严重的问题。误导性的假新闻会给个人和社会造成重大损失。COVID-19假新闻检测已成为NLP领域的一项新颖而重要的任务。然而,假新闻总是包含正确的部分和不正确的部分。这一事实增加了分类任务的难度。在本文中,我们微调预训练的双向编码器表示从Transformers(BERT)模型作为我们的基础模型。我们分别在具有冻结参数或未冻结参数方法的微调BERT模型顶部添加BiLSTM层和CNN层。模型性能评估结果表明,我们的最佳模型(BERT微调模型,冻结参数加上BiLSTM层)在COVID-19假新闻检测任务中取得了最先进的结果。我们还探讨了使用我们最好的模型的关键字评估方法,并评估模型的性能后,删除关键字。
2021-10-01 cs.CL
Multimodal Fusion with BERT and Attention Mechanism for Fake News Detection
Toyo University(东洋大学);Aimesoft JSC(艾美软件股份公司)
假新闻检测是提高媒体信息可信度的一项重要任务,因为假新闻每天都在社交媒体上不断传播,这是我们社会中非常严重的问题。假新闻通常是通过操纵图像,文本和视频来创建的。在本文中,我们提出了一种新的方法来检测假新闻融合来自文本和视觉数据的多模态特征。具体来说,我们使用预训练的BERT模型来学习文本特征,并使用在ImageNet数据集上预训练的VGG-19模型来提取图像特征。我们提出了一个尺度点积注意力机制来捕捉文本特征和视觉特征之间的关系。实验结果表明,我们的方法在公共Twitter数据集上的准确率比当前最先进的方法高3.1%。
2021-04-27 cs.CL
TUDublin team at Constraint@AAAI2021 -- COVID19 Fake News Detection
Technological University Dublin(都柏林理工大学)
本文专门介绍了TUDublin团队参与约束@AAAI2021-COVID 19假新闻检测挑战赛的情况。今天,与大流行病有关的假新闻检测问题比以往任何时候都更加严重。假新闻的数量正在迅速增加,有必要创建人工智能工具,使我们能够紧急识别和防止有关COVID-19的虚假信息的传播。这项工作的主要目标是创建一个模型,在COVID-19的背景下,将社交媒体上的消息进行二进制分类,分为真实新闻和虚假新闻。我们的团队构建了由双向长短期记忆、支持向量机、Logistic回归、朴素贝叶斯以及Logistic回归和朴素贝叶斯的组合组成的集成。该模型使我们能够实现0.94 F1分数,这是最好的结果的5%以内。
2021-01-14 cs.CL
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Florida State University(佛罗里达州立大学)
随着社交网络的发展,出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话,人们很容易被假新闻感染,并且会在没有任何事实核查的情况下分享它们。例如,在2016年美国总统大选期间,有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响,而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中,我们提出研究假新闻检测问题。自动识别假新闻是非常困难的,因为基于纯模型的新闻事实核查仍然是一个开放的问题,并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究,从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外,假新闻中使用的文字和图像中还存在一些隐藏的模式,这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中,TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Emotion-guided Cross-domain Fake News Detection using Adversarial Domain Adaptation
Delhi Technological University(德里理工大学);University of Technology Sydney(悉尼科技大学)
最近关于假新闻检测的研究表明,使用情感作为特征或基于情感的特征可以提高性能。然而,这些情感引导的特征在跨领域设置中对假新闻检测的影响,我们面临着领域转移的问题,在很大程度上仍然没有被探索。在这项工作中,我们评估了情感引导特征对跨领域假新闻检测的影响,并进一步提出了一种使用对抗性学习的情感引导、领域自适应方法。我们证明了情感引导模型在跨域设置中的有效性,这些模型适用于FakeNewsAMT,Celeb,Politifact和Gossipcop数据集的源和目标数据集的各种组合。
2022-11-24 cs.CL