Lexicon generation for detecting fake news
Hacettepe University（哈杰泰佩大学）
随着媒体数字化，包括主流媒体以及社交网络在内的在线来源产生了大量新闻数据。然而，制作和传播的便利导致了假新闻以及可信的真实新闻的传播。假新闻的广泛传播对个人和社会产生了极大的负面影响。因此，假新闻检测最近成为一个新兴的课题，作为一个跨学科的研究领域，吸引了许多研究学科的极大关注，包括社会科学和语言学。在这项研究中，我们提出了一种主要基于词汇的方法，包括一个评分系统，以促进土耳其假新闻的检测。我们通过收集一个新颖的，大规模的，可信的土耳其新闻数据集，并通过构建土耳其的第一个假新闻检测词典来为文献做出贡献。
2020-10-16 cs.CL
Fake or Real? A Study of Arabic Satirical Fake News
Research Group in Computational Linguistics（计算语言学研究小组）；University of Wolverhampton, UK（英国沃尔夫汉普顿大学）；Centre for Translation Studies（翻译研究中心）；University of Surrey, UK（英国萨里大学）
一种非常常见的假新闻是讽刺，它以新闻网站或在线平台的形式出现，模仿有信誉的真实新闻机构，以创造一个讽刺现实的版本。这种类型的假新闻通常由个人在其在线平台上传播，因为它在传达批评方面比通过直接的信息具有更强的效果。然而，当讽刺文本通过社交媒体传播而不提及其来源时，它可能会被误认为是真正的新闻。本研究进行了几个探索性的分析，以确定阿拉伯语假新闻的讽刺内容的语言特性。我们利用这些特征构建了许多机器学习模型，能够识别讽刺性假新闻，准确率高达98.6%。
2020-11-01 cs.CL
How Vulnerable Are Automatic Fake News Detection Methods to Adversarial Attacks?
Technische Universität Berlin（柏林工业大学）
随着近年来互联网上虚假信息的传播急剧增加，越来越多的人关注自动化的假新闻检测。一些虚假新闻检测方法已经相当成功。然而，在检测算法中仍然存在许多漏洞。其原因是，假新闻发布者可以以检测算法不会将此文本暴露为假新闻的方式构建和制定其文本。这篇论文表明，有可能自动攻击经过训练以检测假新闻的最先进模型，使这些模型变得脆弱。为此，首先基于数据集训练相应的模型。然后，使用Text-Attack，尝试以这样的方式操纵训练模型，即先前正确识别的假新闻被归类为真新闻。结果表明，有可能自动绕过假新闻检测机制，从而对现有政策举措产生影响。
2021-07-16 cs.CL
FakeFlow: Fake News Detection by Modeling the Flow of Affective Information
Universitat Politècnica de València（瓦伦西亚理工大学）；University of Mannheim（曼海姆大学）；Symanto Research（Symanto研究公司）
假新闻往往通过煽情的方式来引起读者的注意。与短篇新闻不同，长文的作者可以利用这些情感因素来操纵读者，通过添加夸张或虚构事件来影响读者的情绪。为了抓住这一点，我们在本文中提出使用神经架构对假新闻文章中的情感信息流进行建模。所提出的模型FakeFlow通过结合从文本中提取的主题和情感信息来学习该流。我们评估了模型的性能与四个真实世界的数据集上的几个实验。结果表明，与最先进的方法相比，FakeFlow取得了更好的结果，从而证实了捕捉新闻文章中情感信息流的重要性。
2021-01-24 cs.CL
FakeGPT: Fake News Generation, Explanation and Detection of Large Language Models
University of Notre Dame（圣母大学）；Illinois Institute of Technology（伊利诺伊理工学院）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文系统评估 ChatGPT 在假新闻生成、解释与检测上的能力，提出原因感知提示方法，并分析可用于提升检测效果的特征与额外信息。
2024-04-06 cs.CL
Have LLMs Reopened the Pandora's Box of AI-Generated Fake News?
College of Information Sciences and Technology, Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）；Bellisario College of Communications, Pennsylvania State University（宾夕法尼亚州立大学贝里萨里奥传播学院）；Sungkyunkwan University（成均馆大学）
本研究通过大学竞赛探索LLMs生成假新闻及检测，发现LLMs检测真实新闻优于人类68%，但假新闻检测两者相当，凸显人机协作下检测的复杂性。
2025-03-29 cs.CL
Debunking Fake News One Feature at a Time
New York University（纽约大学）
识别新闻文章主体相对于某个标题的立场是自动化虚假新闻检测的第一步。在本文中，我们介绍了一个2阶段的集成模型来解决的立场检测任务。通过仅使用手工制作的特征作为梯度提升分类器的输入，我们能够在官方假新闻挑战（第1阶段）数据集上获得11651.25分中的9161.5分（78.63%）。我们确定了用于检测假新闻的最有用的特征，并讨论了如何使用采样技术来提高高度不平衡数据集的召回准确率。
2018-08-08 cs.CL
Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks
National University of Singapore（新加坡国立大学）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, CAS（中国科学院计算技术研究所）
针对LLM风格攻击导致的假新闻检测脆弱性（F1下降38%），提出SheepDog检测器，通过风格多样性训练、风格无关方案和内容归因，在三个基准上实现风格鲁棒检测。
2024-08-20 cs.CL
Synthetic News Generation for Fake News Classification
本文研究利用大语言模型通过事实操纵生成合成假新闻，提出连贯性、差异性和正确性评估指标，并证明BERT等Transformer模型可有效利用合成数据提升假新闻检测性能，其中事实核查特征效果最佳。
2025-04-09 cs.CL
Fake News and Hate Speech: Language in Common
Universitat de València（瓦伦西亚大学）
在本文中，我们提出了一个研究问题，即假新闻和仇恨言论传播者在语言上是否有共同的模式。我们计算了一个新的指数，内组与外组指数，在三个不同的数据集，我们表明，这两种现象共享一个“我们与他们”的叙述。
2022-12-05 cs.CL
A Revisit of Fake News Dataset with Augmented Fact-checking by ChatGPT
University of California, Davis（加利福尼亚大学戴维斯分校）
本文用 ChatGPT 对人工记者验证的假新闻数据集进行增强事实核查，构建 ChatGPT-FC，并定量比较人类与 LLM 在多维度可信度评估上的异同，表明 LLM 可用于初步筛查并缓解人工偏见。
2023-12-19 cs.CL
Fake News Detection Using Majority Voting Technique
R.C. Patel Institute of Technology（R.C.帕特尔理工学院）
由于网络和社交网络平台的发展，传播信息变得非常容易。人们正在创造和分享比以往任何时候都多的信息，这些信息可能是误导性的、错误的或虚假的信息。由于可用信息的非结构化性质，虚假新闻检测是一项至关重要且具有挑战性的任务。近年来，研究人员为解决假新闻检测问题提供了重要的解决方案，但由于其性质，仍然存在许多悬而未决的问题。在本文中，我们提出了多数投票的方法来检测假新闻文章。我们使用了假新闻和真新闻的不同文本属性。我们使用了公开的假新闻数据集，包括20，800篇新闻文章，其中10，387篇是真实的，10，413篇是标记为二进制0和1的假新闻。为了评估我们的方法，我们使用了常用的机器学习分类器，如决策树，逻辑回归，XGBoost，随机森林，额外树，AdaBoost，SVM，SGD和朴素贝叶斯。使用上述分类器，我们建立了一个多模型的假新闻检测系统，使用多数投票技术，以达到更准确的结果。实验结果表明，该方法的准确率为96.38%，精确率为96%，召回率为96%，F1-measure为96%。评价结果表明，多数投票技术取得了更令人满意的结果相比，个别学习技术。
2022-03-27 cs.CL
Exploring Thematic Coherence in Fake News
Queen’s University Belfast（贝尔法斯特女王大学）
假新闻的传播仍然是一个严重的全球性问题;理解和遏制它至关重要。区分谎言和真实故事的一种方法是分析它们的连贯性。本研究旨在探讨话题模式在跨领域新闻连贯性分析中的应用。在七个跨领域数据集上的实验结果表明，假新闻在其开头句子与其其余句子之间表现出更大的主题偏离。
2020-12-17 cs.CL
Multimodal Fake News Detection
Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
在过去的几年里，假新闻出现了前所未有的泛滥。因此，我们更容易受到错误信息和虚假信息传播在我们社会不同阶层可能产生的有害影响。因此，虚假新闻自动检测工具的开发在预防其负面影响方面发挥着重要作用。大多数检测和分类虚假内容的尝试只关注使用文本信息。多模态方法不太常见，它们通常将新闻分类为真或假。在这项工作中，我们使用单峰和多峰方法对Fakeddit数据集上的假新闻进行细粒度分类。我们的实验表明，基于卷积神经网络（CNN）架构结合文本和图像数据的多模态方法达到了最佳效果，准确率为87%。一些假新闻类别，如操纵内容，讽刺或虚假联系，从图像的使用中受益匪浅。使用图像也可以改善其他类别的结果，但影响较小。关于仅使用文本的单模方法，来自Transformers的双向编码器表示（BERT）是最好的模型，准确度为78%。因此，同时利用文本和图像数据可以显著提高假新闻检测的性能。
2021-12-09 cs.CL
Localization of Fake News Detection via Multitask Transfer Learning
De La Salle University（德拉萨尔大学）；Center for Language Technologies (CeLT)（语言技术中心）
利用互联网作为传播假新闻的快速媒介，加强了对打击假新闻的计算工具的需求。存在训练假新闻分类器的技术，但它们都需要大量资源，包括大型标记数据集和专家策划的语料库，这些资源低的语言可能不具备。在这项工作中，我们做出了两个主要贡献：首先，我们通过构建第一个专业策划的菲律宾假新闻检测基准数据集来缓解资源短缺，我们称之为“菲律宾假新闻”。其次，我们对迁移学习（TL）技术进行了基准测试，并表明它们可以用于从少量数据中训练强大的假新闻分类器，在我们的假新闻数据集上实现了91%的准确率，与已建立的Few-Shot基线相比，将误差减少了14%。此外，提升多任务学习的想法，我们表明，增强基于transformer的传输技术与辅助语言建模损失，通过适应写作风格提高了他们的性能。使用这个，我们将TL性能提高了4- 6%，在我们最好的模型上实现了96%的准确度。最后，我们证明了我们的方法可以很好地推广到不同类型的新闻文章，包括政治新闻，娱乐新闻和评论文章。
2020-05-15 cs.CL
An Emotion-guided Approach to Domain Adaptive Fake News Detection using Adversarial Learning
Biometric Research Laboratory, Delhi Technological University（德里理工大学）；School of Computer Science, FEIT, University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情绪作为提高性能的特征是有效的。然而，情感引导特征对虚假新闻检测的跨领域影响仍然是一个悬而未决的问题。在这项工作中，我们提出了一种用于跨域假新闻检测的情感引导，域自适应，多任务方法，证明了情感引导模型在各种数据集的跨域设置中的有效性。
2022-11-26 cs.CL
Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Columbia University（哥伦比亚大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Washington（华盛顿大学）；AI2（艾伦人工智能研究所）
针对机器生成与人类撰写假新闻间的风格与意图差异，提出基于自然语言推理引导的自批判序列训练框架，结合宣传技巧生成训练数据集 PropaNews，使假新闻检测器在公开数据集上检测人类虚假信息的 F1 分数提升 3.62% - 7.69%。
2023-05-15 cs.CL
COVID-19 Fake News Detection Using Bidirectional Encoder Representations from Transformers Based Models
如今，社交媒体的发展使人们可以轻松地获取最新消息。在COVID-19大流行期间，人们获取新闻非常重要，以便他们能够采取相应的保护措施。然而，假新闻泛滥，特别是在全球大流行的情况下，这是一个严重的问题。误导性的假新闻会给个人和社会造成重大损失。COVID-19假新闻检测已成为NLP领域的一项新颖而重要的任务。然而，假新闻总是包含正确的部分和不正确的部分。这一事实增加了分类任务的难度。在本文中，我们微调预训练的双向编码器表示从Transformers（BERT）模型作为我们的基础模型。我们分别在具有冻结参数或未冻结参数方法的微调BERT模型顶部添加BiLSTM层和CNN层。模型性能评估结果表明，我们的最佳模型（BERT微调模型，冻结参数加上BiLSTM层）在COVID-19假新闻检测任务中取得了最先进的结果。我们还探讨了使用我们最好的模型的关键字评估方法，并评估模型的性能后，删除关键字。
2021-10-01 cs.CL
Multimodal Fusion with BERT and Attention Mechanism for Fake News Detection
Toyo University（东洋大学）；Aimesoft JSC（艾美软件股份公司）
假新闻检测是提高媒体信息可信度的一项重要任务，因为假新闻每天都在社交媒体上不断传播，这是我们社会中非常严重的问题。假新闻通常是通过操纵图像，文本和视频来创建的。在本文中，我们提出了一种新的方法来检测假新闻融合来自文本和视觉数据的多模态特征。具体来说，我们使用预训练的BERT模型来学习文本特征，并使用在ImageNet数据集上预训练的VGG-19模型来提取图像特征。我们提出了一个尺度点积注意力机制来捕捉文本特征和视觉特征之间的关系。实验结果表明，我们的方法在公共Twitter数据集上的准确率比当前最先进的方法高3.1%。
2021-04-27 cs.CL
TUDublin team at Constraint@AAAI2021 -- COVID19 Fake News Detection
Technological University Dublin（都柏林理工大学）
本文专门介绍了TUDublin团队参与约束@AAAI2021-COVID 19假新闻检测挑战赛的情况。今天，与大流行病有关的假新闻检测问题比以往任何时候都更加严重。假新闻的数量正在迅速增加，有必要创建人工智能工具，使我们能够紧急识别和防止有关COVID-19的虚假信息的传播。这项工作的主要目标是创建一个模型，在COVID-19的背景下，将社交媒体上的消息进行二进制分类，分为真实新闻和虚假新闻。我们的团队构建了由双向长短期记忆、支持向量机、Logistic回归、朴素贝叶斯以及Logistic回归和朴素贝叶斯的组合组成的集成。该模型使我们能够实现0.94 F1分数，这是最好的结果的5%以内。
2021-01-14 cs.CL
LLM-GAN: Construct Generative Adversarial Network Through Large Language Models For Explainable Fake News Detection
Fudan University（复旦大学）；Alibaba Group（阿里巴巴集团）
针对LLMs易被假新闻误导及解释需大量人工的问题，提出LLM-GAN框架，利用提示机制使LLM充当生成器和检测器进行假新闻生成与检测，有效提升了预测性能与解释质量，并集成至云原生AI平台。
2024-12-24 cs.CL
Emotion-guided Cross-domain Fake News Detection using Adversarial Domain Adaptation
Delhi Technological University（德里理工大学）；University of Technology Sydney（悉尼科技大学）
最近关于假新闻检测的研究表明，使用情感作为特征或基于情感的特征可以提高性能。然而，这些情感引导的特征在跨领域设置中对假新闻检测的影响，我们面临着领域转移的问题，在很大程度上仍然没有被探索。在这项工作中，我们评估了情感引导特征对跨领域假新闻检测的影响，并进一步提出了一种使用对抗性学习的情感引导、领域自适应方法。我们证明了情感引导模型在跨域设置中的有效性，这些模型适用于FakeNewsAMT，Celeb，Politifact和Gossipcop数据集的源和目标数据集的各种组合。
2022-11-24 cs.CL
Entity-Aware Dual Co-Attention Network for Fake News Detection
National Taiwan University（台湾大学）；AIST（日本产业技术综合研究所）；Academia Sinica（中央研究院）
假新闻和错误信息在互联网上迅速传播。如何识别它，如何解释识别结果成为重要的问题。在本文中，我们提出了一种用于假新闻检测的双重共同注意力网络（Dual-CAN），它将新闻内容，社交媒体回复和外部知识考虑在内。我们的实验结果支持，建议双CAN优于目前的代表性模型在两个基准数据集。我们进一步做了深入的讨论，通过比较模型如何在两个数据集的注意力权重的实证分析。
2023-02-07 cs.CL
Similarity-Aware Multimodal Prompt Learning for Fake News Detection
Qingdao University of Science and Technology（青岛科技大学）；University of Sheffield（谢菲尔德大学）
本文提出相似性感知的多模态提示学习框架（SAMPLE），通过提示学习与相似性感知融合，减少噪声并高效检测虚假新闻，在两个基准数据集上超越现有方法。
2023-06-16 cs.CL
An Adversarial Benchmark for Fake News Detection Models
Yale University（耶鲁大学）
随着在线错误信息的扩散，假新闻检测在人工智能社区中变得越来越重要。在本文中，我们提出了一个对抗性基准，测试假新闻检测器对现实世界事实进行推理的能力。我们制定了对抗攻击，目标是三个方面的“理解”：组成语义，词汇关系，修饰语的敏感性。我们使用在LIAR arXiv：arch-ive/1705648和Kaggle Fake-News数据集上微调的BERT分类器来测试我们的基准，并表明这两个模型都无法对成分和词汇意义的变化做出响应。我们的研究结果加强了这种模型与其他事实检查方法结合使用的必要性。
2022-01-03 cs.CL
Evaluation of Fake News Detection with Knowledge-Enhanced Language Models
City, University of London（伦敦大学城市学院）
假新闻检测的最新进展利用了大规模预训练语言模型（PLM）的成功。主要的最先进方法是基于对标记的假新闻数据集进行微调的PLM。然而，大型PLM通常没有经过结构化事实数据的训练，因此可能不具备基于事实准确知识的先验知识。因此，利用现有的知识库（KB）和丰富的人工事实信息，有可能使假新闻检测更加有效和强大。在本文中，我们研究了知识集成到PLM中对假新闻检测的影响。我们研究了几种最先进的知识整合方法，主要使用维基数据作为知识库，在两个流行的假新闻数据集上- LIAR，一个基于政治的数据集，以及COVID-19，一个在社交媒体上发布的与COVID-19流行病有关的消息数据集。我们的实验表明，知识增强模型可以显着提高LIAR上的假新闻检测，其中KB是相关的和最新的。COVID-19的好坏参半的结果突出了对文体特征的依赖以及特定领域和当前知识库的重要性。
2023-02-13 cs.CL
Transformer based Automatic COVID-19 Fake News Detection System
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
Twitter等在线社交网络最近的快速技术进步导致了传播虚假信息和假新闻的巨大趋势。在持续的冠状病毒病（COVID-19）大流行中，错误信息尤其普遍，导致个人接受虚假和潜在有害的索赔和文章。快速发现假新闻可以减少公众恐慌和混乱的传播。就我们在本文中的分析而言，我们报告了一种分析社交媒体上分享的与COVID-19大流行有关的信息可靠性的方法。我们最好的方法是基于三个Transformer模型（BERT，ALBERT和XLNET）的集合来检测假新闻。该模型在约束AI 2021共享任务COVID 19英语假新闻检测的背景下进行了训练和评估。我们的系统在测试集上获得了0.9855的f1分数，在160个团队中排名第5。
2021-01-21 cs.CL
A Stylometric Inquiry into Hyperpartisan and Fake News
Bauhaus-Universität Weimar（包豪斯魏玛大学）
本文报告了对超党派（即，与假新闻有关的极端片面的）新闻。它提供了一个由BuzzFeed专业记者手动事实检查的1，627篇文章的大型语料库。这些文章来自9家著名的政治出版商，分别来自主流、超党派左翼和超党派右翼。总的来说，该语料库包含299条假新闻，其中97%来自超党派出版商。我们提出并展示了一种新的方式，通过Unmasking（一种最初为作者身份验证而设计的元学习方法）来评估文本类别之间的风格相似性，揭示了左翼和右翼新闻的风格比两者中的任何一个都与主流有更多的共同点。此外，我们发现，超党派新闻可以区分其风格从主流（F1=0.78），可以从两者（F1=0.81）讽刺。不出所料，基于风格的假新闻检测并没有达到标准（F1=0.46）。尽管如此，前面的结果对于实施假新闻检测器的预先筛选是重要的。
2017-02-18 cs.CL
Each Fake News is Fake in its Own Way: An Attribution Multi-Granularity Benchmark for Multimodal Fake News Detection
Nation University of Defence Technology（国防科技大学）；Xi’an Jiaotong University（西安交通大学）
针对现有数据集仅提供真假二元标签且无法反映多模态假新闻混合本质的问题，构建了归因多粒度数据集\amg并提出多粒度线索对齐模型\our，实现了假新闻检测与归因，为未来研究开辟了新途径。
2024-12-19 cs.AI cs.CL
Credibility-based Fake News Detection
Syracuse University（雪城大学）
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中，我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据，我们发现新闻来源（和作者）的信息可以成为可信度的一个强有力的指标。我们的研究结果表明，作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法，其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University（大阪大学产业科学研究所）；NARA Institute of Science and Technology（奈良先端科学技术大学院大学）
假新闻引发了许多社会问题;因此，人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而，仅从这一方面不足以解释“假新闻”，这是一个复杂的现象，涉及面很广。要充分认识每一个假新闻的本质，重要的是要从多个角度来观察它，如假新闻传播者的意图，新闻对我们社会的危害性，以及新闻的目标。我们基于对现有假新闻数据集的详细调查，提出了一种具有细粒度标签的新注释方案，以捕获假新闻的各个方面。使用注释方案，我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Fake News Early Detection: An Interdisciplinary Study
Syracuse University（雪城大学）
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而，为了在早期阶段发现假新闻，即，当它在新闻媒体上发布但尚未在社交媒体上传播时，人们不能依赖新闻传播信息，因为它不存在。因此，迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面，依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究，我们的工作探索了潜在的假新闻模式，增强了假新闻特征工程的可解释性，并研究了假新闻，欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明，该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
Connecting the Dots Between Fact Verification and Fake News Detection
Beihang University（北京航空航天大学）
事实验证模型在过去的两年中取得了快速的发展，随着BERT等预训练语言模型的发展和FEVER等大规模数据集的发布。然而，假新闻检测的挑战性问题并没有受益于事实验证模型的改进，这与假新闻检测密切相关。在本文中，我们提出了一种简单而有效的方法来连接事实验证和假新闻检测之间的点。我们的方法首先采用了一个文本摘要模型预先训练的新闻语料库，总结成一个简短的声明长新闻文章。然后，我们使用在FEVER数据集上预先训练的事实验证模型来检测输入的新闻文章是真的还是假的。我们的方法利用了最近成功的事实验证模型，并实现了zero-shot假新闻检测，减轻了大规模训练数据训练假新闻检测模型的需求。在FakenewsNet上的实验结果证明了该方法的有效性。
2020-10-11 cs.AI cs.CL
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；Leiden University（莱顿大学）；Harvard University（哈佛大学）
在本文中，我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象，而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中，我们发现相关词汇，提到的实体，周围的主题以及围绕“假新闻”一词的上下文极性发生了变化，这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解，有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
User Preference-aware Fake News Detection
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）
近年来，虚假信息和假新闻对个人和社会造成了不利影响，引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时，他/她的内生偏好被忽略。确认偏差理论表明，当用户确认他/她现有的信念/偏好时，他/她更有可能传播一条假新闻。用户的历史社交活动（如帖子）提供了有关用户对新闻偏好的丰富信息，并具有很大的潜力来推进假新闻检测。然而，探索用户对假新闻检测的偏好的工作有些有限。因此，在本文中，我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架，UPFD，它同时捕捉各种信号，从用户的喜好，联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准：https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Arabic Fake News Detection Based on Deep Contextualized Embedding Models
University of Sharjah（沙迦大学）；Western University（韦仕敦大学）
社交媒体正成为许多人的新闻来源，因为它的易用性和使用自由。因此，假新闻无论其可信度如何，都在迅速而轻松地传播，特别是在过去十年中。假新闻出版商利用新冠肺炎疫情和美国总统选举等关键情况对社会产生负面影响。假新闻可以严重影响社会的许多领域，包括政治，金融，体育等，许多研究已经进行，以帮助检测假新闻的英语，但研究进行的假新闻检测在阿拉伯语是稀缺的。我们的贡献是双重的：首先，我们构建了一个庞大而多样化的阿拉伯语假新闻数据集。其次，我们开发并评估了基于transformer的分类器，以识别假新闻，同时利用八种最先进的阿拉伯语上下文嵌入模型。这些模型中的大多数以前都没有用于阿拉伯语假新闻检测。我们对最先进的阿拉伯语语境化嵌入模型进行了全面分析，并与类似的假新闻检测系统进行了比较。实验结果证实，这些国家的最先进的模型是强大的，准确率超过98%。
2022-05-06 cs.AI cs.CL
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University（北京航空航天大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Florida State University（佛罗里达州立大学）
随着社交网络的发展，出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话，人们很容易被假新闻感染，并且会在没有任何事实核查的情况下分享它们。例如，在2016年美国总统大选期间，有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响，而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中，我们提出研究假新闻检测问题。自动识别假新闻是非常困难的，因为基于纯模型的新闻事实核查仍然是一个开放的问题，并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究，从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外，假新闻中使用的文字和图像中还存在一些隐藏的模式，这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中，TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology（奈良先端科学技术大学）
假新闻的迅速增加对社会造成了重大损害，引发了许多与假新闻相关的研究，包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集：（1）假新闻检测，（2）事实验证，（3）其他任务;例如，假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后，我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究，从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Indonesia's Fake News Detection using Transformer Network
Brawijaya University（布拉维贾亚大学）
假新闻是这个时代社会面临的问题。假新闻给民众造成挑衅和困扰的情况并不少见。印度尼西亚作为世界第四大人口国，在处理假新闻方面存在问题。超过30%的农村和城市人口被这种假新闻问题所欺骗。正如我们一直在研究的那样，在印度尼西亚，关于防止假新闻传播的文献很少。因此，本研究旨在预防这些问题。本研究中使用的数据集是从一个识别假新闻的新闻门户网站turnbackhoax.id获得的。在这个页面上使用Web Scrapping，我们得到了1116个由有效新闻和假新闻组成的数据。该数据集可在https://github.com/JibranFawaid/turnbackhoax-dataset上访问。该数据集将与其他可用数据集合并。所使用的方法是CNN、BiLSTM、Hybrid CNN-BiLSTM和带有Transformer网络的BERT。研究结果表明，采用Transformer网络的BERT方法具有最好的结果，准确率高达90%。
2021-07-14 cs.CL cs.LG
This Just In: Fake News Packs a Lot in Title, Uses Simpler, Repetitive Content in Text Body, More Similar to Satire than Real News
Rensselaer Polytechnic Institute（伦斯勒理工学院）
假新闻问题已经引起了很多关注，因为它据称对2016年美国总统选举产生了重大影响。假新闻并不是一个新问题，它在社交网络中的传播已经得到了充分的研究。通常，假新闻讨论的一个潜在假设是，它看起来像真实的新闻，愚弄那些不检查来源可靠性或内容中论点的读者。通过对三个数据集和特征的独特研究，我们发现这种假设是不正确的。在大多数情况下，假新闻更类似于讽刺，而不是真实新闻，这让我们得出结论，假新闻的说服力是通过辩论而不是论点的力量来实现的。我们发现标题的整体结构和标题中专有名词的使用在区分真假方面非常重要。这使我们得出结论，假新闻的目标受众不太可能阅读标题以外的内容，其目的是在实体和声明之间建立心理联系。
2017-03-28 cs.CL cs.SI
Early Detection of Fake News by Utilizing the Credibility of News, Publishers, and Users Based on Weakly Supervised Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
假新闻的传播严重影响个人声誉和公众信任。近年来，虚假新闻检测受到了广泛关注，以往的研究主要集中在从新闻内容或传播路径中寻找线索，但在早期检测场景中，以往模型所需的特征往往不具备或不足，导致性能不佳。因此，早期发现假新闻仍然是一个严峻的挑战。直觉上，来自可信和权威来源或由许多用户分享的具有良好声誉的新闻比其他新闻更可靠。利用发布者和用户的可信度作为先验的弱监督信息，我们可以在海量新闻中快速定位假新闻，并在传播的早期阶段发现它们。本文提出了一种新的结构感知多头注意力网络（SMAN），它结合了新闻内容、发布者和用户之间的发布和转发关系，共同优化了假新闻检测和可信度预测任务。通过这种方式，我们可以明确地利用发布者和用户的可信度来早期发现假新闻。我们在三个真实世界的数据集上进行了实验，结果表明，SMAN可以在4小时内检测到假新闻，准确率超过91%，这比最先进的模型要快得多。
2020-12-14 cs.CL cs.SI
Many Ways to Be Fake: Benchmarking Fake News Detection Under Strategy-Driven AI Generation
Pennsylvania State University（宾夕法尼亚州立大学）
本文提出MANYFAKE基准，通过多种策略驱动的提示管道生成6798篇虚假新闻文章，评估了先进检测器在处理混合真相案例时的性能。
2026-04-10 cs.CL cs.HC
A Heuristic-driven Uncertainty based Ensemble Framework for Fake News Detection in Tweets and News Articles
Razorthink Inc（Razorthink 公司）；IIT Madras（印度理工学院马德拉斯分校）
在过去的几十年里，社交媒体的重要性增加了许多倍，因为它可以帮助来自世界上最偏远角落的人们保持联系。随着技术的出现，数字媒体变得比以往任何时候都更加相关和广泛使用，与此同时，需要立即关注的假新闻和推文的传播死灰复燃。在本文中，我们描述了一种新型的假新闻检测系统，该系统可以自动识别新闻项目是“真”还是“假”，作为我们在CONSTRAINT COVID-19 Fake News Detection in English challenge中工作的扩展。我们使用了一个集成模型，该模型由预训练模型和统计特征融合网络组成，以及一种新的启发式算法，该算法通过将新闻项或推文中存在的各种属性（如来源，用户名句柄，URL域和作者）作为统计特征。我们提出的框架还量化了可靠的预测不确定性以及分类任务的适当类输出置信水平。我们已经在COVID-19 Fake News数据集和FakeNewsNet数据集上评估了我们的结果，以显示所提出的算法在检测短新闻内容以及新闻文章中的假新闻方面的有效性。我们在COVID-19数据集上获得了0.9892的最佳F1分数，在FakeNewsNet数据集上获得了0.9073的F1分数。
2021-12-13 cs.AI cs.CL
An Event Correlation Filtering Method for Fake News Detection
Huazhong Agricultural University（华中农业大学）；University at Buffalo, The State University of New York（纽约州立大学布法罗分校）
如今，社交网络平台因其快速传播信息的能力而成为人们体验新闻和事件的主要来源，这不可避免地为假新闻的传播提供了肥沃的土壤。因此，对虚假新闻的检测具有重要意义，否则可能会引起公众的误导和恐慌。现有的深度学习模型在解决假新闻检测问题方面取得了很大进展。然而，训练有效的深度学习模型通常需要大量的标记新闻，而在实际应用中提供足够的标记新闻是昂贵且耗时的。为了提高假新闻的检测性能，利用新闻的事件相关性，提出了一种用于假新闻检测的事件相关性过滤方法（ECFM），该方法主要由新闻特征化器、伪标签标注器、事件可信度更新器和新闻熵选择器组成.新闻特征提取器负责从新闻中提取文本特征，它与伪标签标注器合作，充分利用新闻的事件相关性，为未标注的新闻赋予伪标签。此外，事件可信度更新器采用自适应卡尔曼滤波器来减弱事件可信度的波动。为了进一步提高检测性能，新闻熵选择器通过量化新闻熵来自动从伪标记新闻中发现高质量样本。最后，ECFM提出了集成它们来检测假新闻的事件相关过滤方式。大量的实验证明，新闻事件相关性的可解释性引入有利于提高假新闻的检测性能。
2020-12-13 cs.CL cs.SI
Fake News Detection and Behavioral Analysis: Case of COVID-19
New Jersey Institute of Technology（新泽西理工学院）；College of Staten Island, City University of New York（纽约城市大学斯塔滕岛学院）
本文针对 COVID-19 疫情期间社交媒体虚假新闻难以识别的问题，提出深度学习和集成检测方法，并结合主题识别发现虚假与真实新闻存在大量主题重叠，从而提升检测性能并揭示公众困惑来源。
2023-05-25 cs.CL cs.LG
Mining Dual Emotion for Fake News Detection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Renmin University of China（中国人民大学）；Illinois Institute of Technology（伊利诺伊理工学院）
情绪在检测网上假新闻方面起着重要作用。当利用情感信号时，现有方法集中于利用由发布者传达的新闻内容的情感（即，出版商情绪）。然而，假新闻往往会引起人们的高度觉醒或激活情绪，因此新闻评论在人群中引起的情绪（即，社会情绪）不应被忽视。此外，出版者情感和社会情感之间是否存在关系（即，双重情绪），以及双重情绪如何出现在假新闻中。本文验证了虚假新闻与真实新闻的双重情感特征，并提出了双重情感特征来表征虚假新闻的双重情感特征及其相互关系。此外，我们还展示了我们提出的功能可以很容易地插入到现有的假新闻检测器中作为增强。在三个真实世界数据集（一个英文数据集和另一个中文数据集）上的大量实验表明，我们提出的特征集：1）优于最先进的任务相关情感特征; 2）可以与现有的假新闻检测器很好地兼容，有效地提高检测假新闻的性能。
2021-02-14 cs.CL cs.CY
Adapting Fake News Detection to the Era of Large Language Models
Cornell University（康奈尔大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对大语言模型时代现有假新闻检测研究的假设偏差问题，本文通过多场景综合评估，发现仅人类文本训练的检测器可检测机器假新闻但反向不可，且训练集机器新闻占比应低于测试集，据此提出稳健检测器的开发策略。
2024-04-13 cs.AI cs.CL
Blessing or curse? A survey on the Impact of Generative AI on Fake News
Microsoft（微软公司）；Frankfurt University of Applied Sciences（法兰克福应用科学大学）；IMT Atlantique（法国大西洋高等矿业电信学院）
本文综述生成式AI在假新闻生成与检测中的双重作用，系统梳理使能技术、生成、社交媒体传播、检测及深度伪造五类研究，并指出当前挑战。
2024-12-27 cs.AI cs.CL
Is it Fake? News Disinformation Detection on South African News Websites
University of Pretoria（比勒陀利亚大学）
通过假新闻传播的虚假信息是我们社会中一个持续存在的问题，并且很容易通过社交媒体传播。过滤这些大量数据的最具成本和时间效益的方法是使用人工和技术干预相结合来识别它。从技术角度来看，自然语言处理（NLP）被广泛用于检测假新闻。社交媒体公司使用NLP技术来识别假新闻并警告他们的用户，但假新闻仍然可能不被发现。在更地方化的情况下（美利坚合众国以外），这尤其是一个问题。我们如何调整假新闻检测系统，以更好地适应当地环境，例如南非。在这项工作中，我们调查了南非网站上的假新闻检测。我们策划了一个南非假新闻的数据集，然后训练检测模型。我们将此与使用广泛可用的假新闻数据集（主要来自美国网站）进行对比。我们还探索通过组合数据集使其更加多样化，并使用可解释的机器学习观察各国假新闻之间的写作行为差异。
2021-08-09 cs.CL cs.CY cs.LG
Multiverse: Multilingual Evidence for Fake News Detection
Technical University of Munich（慕尼黑工业大学）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）
误导性信息以令人难以置信的速度在互联网上传播，在某些情况下可能导致无法挽回的后果。开发假新闻检测技术变得至关重要。虽然在这方面已经做了大量工作，但目前做法的局限性之一是，这些模式只侧重于一种语文，不使用多语文信息。在这项工作中，我们提出了Multiverse --一种基于多语言证据的新功能，可用于假新闻检测并改进现有方法。首先通过人工实验验证了跨语言证据作为假新闻检测特征的假设。在那之后，我们将我们基于所提出的特征的假新闻分类系统与两个多域通用主题新闻数据集和一个假COVID-19新闻数据集的几个基线进行了比较，结果表明，在与语言特征的额外组合中，它产生了显着的改进。
2022-11-25 cs.CL cs.IR
Embracing Domain Differences in Fake News: Cross-domain Fake News Detection using Multi-modal Data
随着社交媒体的快速发展，假新闻已成为一个重大的社会问题，无法通过人工调查及时解决。这激发了许多关于自动化虚假新闻检测的研究。大多数研究探索了具有不同模式的监督训练模型（例如，文本、图像和传播网络）来识别假新闻。然而，如果新闻记录来自不同的域（例如，政治、娱乐），尤其是在训练过程中看不到或很少看到的领域。作为动机，我们经验表明，来自不同领域的新闻记录有显着不同的词的使用和传播模式。此外，由于大量未标记的新闻记录，选择新闻记录进行手动标记以使标记数据集的域覆盖最大化是具有挑战性的。因此，这项工作：（1）提出了一种新的框架，该框架联合保留新闻记录中的特定领域和跨领域知识，以检测来自不同领域的假新闻;（2）引入了一种无监督技术，以选择一组未标记的信息新闻记录进行手动标记，这最终可以用于训练假新闻检测模型，该模型在许多领域表现良好，同时最小化标记成本。我们的实验表明，所提出的假新闻模型和选择性注释方法的集成实现了跨领域新闻数据集的最新性能，同时对新闻数据集中很少出现的领域产生了显着的改进。
2021-02-24 cs.CL cs.IR cs.LG
A Survey on Natural Language Processing for Fake News Detection
College of Arts and Sciences, The University of Tokyo（东京大学文理学院）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
虚假新闻检测是自然语言处理中的一个关键而又具有挑战性的问题。社交网络平台的迅速崛起不仅极大地提高了信息的可访问性，也加速了假新闻的传播。因此，假新闻的影响越来越大，有时甚至延伸到线下世界，威胁到公共安全。鉴于大量的Web内容，自动虚假新闻检测是一个实用的NLP问题，对所有在线内容提供方都有用，以减少人类检测和防止虚假新闻传播的时间和精力。在本文中，我们描述了假新闻检测所面临的挑战，并描述了相关任务。我们系统地回顾和比较了为这项任务开发的任务公式，数据集和NLP解决方案，并讨论了它们的潜力和局限性。基于我们的见解，我们概述了有前途的研究方向，包括更细粒度，详细，公平和实用的检测模型。我们还强调了假新闻检测和其他相关任务之间的区别，以及NLP解决方案对假新闻检测的重要性。
2020-03-05 cs.AI cs.CL
Unsupervised Domain-agnostic Fake News Detection using Multi-modal Weak Signals
The University of Melbourne（墨尔本大学）
本研究提出一种无监督跨领域假新闻检测框架，通过融合四种模态知识并采用抗噪自监督学习技术识别新闻真实性，同时构建大规模无标签数据集LUND-COVID，在多任务中显著超越现有基线并提升对未见领域的泛化能力。
2023-05-18 cs.CL cs.LG
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University（崇实大学）；Adobe Research（奥多比研究院）
本研究调查假新闻如何使用新闻文章的缩略图，重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象，特别是在社交媒体环境中，用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析，我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步，我们试图检测新闻文章与图像-文本不一致。评估实验表明，基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
