Disinformation Detection: A review of linguistic feature selection and classification models in news veracity assessments
State University of New York at Albany（纽约州立大学奥尔巴尼分校）；College of Emergency Preparedness, Homeland Security and Cybersecurity（应急准备、国土安全与网络安全学院）
在过去的几年里，“假新闻”的话题及其对人们意见的影响已经成为越来越令人担忧的问题。虽然在互联网上传播虚假信息并不是一个新现象，但社交媒体的广泛使用加剧了其影响，提供了更多的传播渠道和“病毒式传播”的可能性。“没有什么比2016年美国总统大选更明显的了。虽然目前通过巨魔、机器人和超党派媒体传播的虚假信息可能会强化现有的偏见，而不是动摇犹豫不决的选民，但这种虚假信息泛滥的影响绝非微不足道。其后果的严重程度从对新闻媒体的全面不信任到公民信息不灵通，在极端情况下，甚至引发暴力行动。很明显，人类辨别谎言和真相的能力充其量是有缺陷的。因此，已经对应用机器学习方法来检测故意欺骗的新闻文章给予了更多的关注。本文着眼于在这方面已经做的工作。
2019-10-26 cs.CL cs.CY cs.LG
Fake News, Disinformation, and Deepfakes: Leveraging Distributed Ledger Technologies and Blockchain to Combat Digital Deception and Counterfeit Reality
本文综述了利用区块链和分布式账本技术打击假新闻、虚假信息与深度伪造的潜力，回顾现有举措、挑战并提出未来研究方向，以增强在线媒体对网络威胁的韧性。
2024-02-06 cs.CR cs.CY
Human Brains Can't Detect Fake News: A Neuro-Cognitive Study of Textual Disinformation Susceptibility
Texas A&M University（德州农工大学）；The University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
数字虚假信息（又称“假新闻”）的传播可以说是互联网上最严重的威胁之一，可能会造成大规模的个人和社会伤害。假新闻攻击的易感性取决于互联网用户在阅读后是否认为假新闻文章/片段是合法的。在本文中，我们试图通过神经认知方法深入了解用户对以文本为中心的假新闻攻击的易感性。我们通过EEG研究与假/真新闻相关的神经基础。我们对人类用户进行了一项实验，以彻底调查用户对假/真新闻的感知和认知处理。我们分析了与不同类别的新闻文章的假/真新闻检测任务相关的神经活动。我们的研究结果表明，人类大脑处理假新闻与真新闻的方式可能没有统计学上的显著差异或自动推断的差异，而当人们受到（真实/假）新闻与休息状态，甚至在一些不同类别的假新闻之间观察到显着差异。这一神经认知发现可能有助于证明用户对假新闻攻击的易感性，行为分析也证实了这一点。换句话说，在行为和神经领域，假新闻文章似乎与真实新闻文章几乎无法区分。我们的工作旨在剖析假新闻攻击背后的基本神经现象，并通过人类生物学的限制来解释用户对这些攻击的易感性。我们认为，对于研究人员和从业人员来说，这可能是一个值得注意的见解，表明人工检测假新闻可能是无效的，这也可能对自动检测方法的设计产生不利影响，这些方法主要依赖于人工标记文本文章来构建训练模型。
2022-07-18 cs.CL cs.CR cs.CY
Towards a New Science of Disinformation
IBM Research - Brazil（IBM研究院（巴西））；IBM Research - Almaden（IBM研究院（阿尔马登））
我们如何才能最好地解决深度学习产生的虚假音频、照片和视频（也就是Deepfakes）可能在个人和社会生活中产生什么影响？我们预计，廉价的deepfake技术的可用性将创造第二波虚假信息，人们将通过不同的渠道获得特定的，个性化的虚假信息，使目前打击虚假信息的方法过时。我们认为，假媒体必须被视为即将到来的网络安全问题，我们必须从打击其传播转向预防和治疗框架，用户可以通过各种方法来验证，挑战和反对他们接触到的每一个媒体的真实性。为了创建这个框架背后的技术，我们建议需要一种新的虚假信息科学，它为传播和消费虚假内容的过程创建一个理论框架。本研究议程所面临的主要科学和技术挑战被列出，并根据最先进的技术进行讨论，用于虚假媒体生成和检测，论点发现和构建，以及如何有效地让用户参与预防和治疗过程。
2022-03-17 cs.AI cs.CY cs.SI
Annotation-Scheme Reconstruction for "Fake News" and Japanese Fake News Dataset
SANKEN Osaka University（大阪大学产业科学研究所）；NARA Institute of Science and Technology（奈良先端科学技术大学院大学）
假新闻引发了许多社会问题;因此，人们对假新闻检测任务进行了广泛的研究。许多假新闻数据集被构建为促进这一任务的资源。当代的研究几乎完全集中在新闻的真实性方面。然而，仅从这一方面不足以解释“假新闻”，这是一个复杂的现象，涉及面很广。要充分认识每一个假新闻的本质，重要的是要从多个角度来观察它，如假新闻传播者的意图，新闻对我们社会的危害性，以及新闻的目标。我们基于对现有假新闻数据集的详细调查，提出了一种具有细粒度标签的新注释方案，以捕获假新闻的各个方面。使用注释方案，我们构建并发布了第一个日本假新闻数据集。该注释方案有望提供对假新闻的深入了解。我们计划使用我们的方案为日语和其他语言构建数据集。我们的日本数据集发布在https://hkefka385.github.io/dataset/fakenews-japanese/上。
2022-04-06 cs.CL cs.CY
Profiling Fake News Spreaders on Social Media through Psychological and Motivational Factors
过去十年假新闻的兴起带来了一系列后果，从对选举的摇摆不定的意见到在大流行期间产生的不确定性。大多数用于打击虚假信息的方法要么关注假新闻内容，要么关注制造假新闻的恶意行为者。然而，假新闻的病毒式传播在很大程度上取决于传播假新闻的用户。对这些用户的深入了解有助于开发一个框架，用于识别可能传播假新闻的用户。在这项工作中，我们研究了社交媒体上假新闻传播者的特征和动机因素，并从心理学理论和行为研究中获得了输入。然后，我们进行了一系列实验，以确定是否可以发现假新闻传播者表现出与其他用户不同的特征。此外，我们通过测试我们在实验中观察到的假新闻传播者的特征是否可以应用于真实社交媒体环境中的假新闻传播者的检测来研究我们的发现。
2021-08-24 cs.CY
Fake News Detection using Temporal Features Extracted via Point Process
许多人使用社交网络服务（SNS）来轻松访问各种新闻。有很多方法可以获取和分享“假新闻”，即带有虚假信息的新闻。为了解决假新闻，已经进行了几项研究，通过使用SNS提取的特征来检测假新闻。在这项研究中，我们试图使用时间特征生成的SNS帖子使用点处理算法来识别假新闻从真正的新闻。假新闻检测中的时间特征具有鲁棒性优于现有特征的优点，因为它对假新闻传播者的依赖性最小。此外，我们提出了一种新的基于多模态注意力的方法，该方法包括语言和用户特征以及时间特征，用于检测SNS帖子中的假新闻。在三个公开数据集上的实验结果表明，与现有方法相比，该模型具有更好的性能，并证明了时间特征在虚假新闻检测中的有效性。
2020-07-28 cs.CY cs.SI
Dataset of Fake News Detection and Fact Verification: A Survey
NARA Institute of Science and Technology（奈良先端科学技术大学）
假新闻的迅速增加对社会造成了重大损害，引发了许多与假新闻相关的研究，包括假新闻检测和事实验证技术的发展。这些研究的资源主要是从网络数据中获取的公共数据集。我们从三个角度大规模调查了118个与假新闻研究相关的数据集：（1）假新闻检测，（2）事实验证，（3）其他任务;例如，假新闻分析和讽刺检测。我们还详细描述了他们的利用任务和他们的特点。最后，我们强调了假新闻数据集构建中的挑战以及解决这些挑战的一些研究机会。我们的调查通过帮助研究人员找到合适的数据集而无需重新发明轮子来促进假新闻研究，从而深入改进假新闻研究。
2021-11-05 cs.CL cs.CY cs.LG
Seeing Through Misinformation: A Framework for Identifying Fake Online News
假新闻的流行使得开发一个既简约又有效的诊断框架成为当务之急，以指导当前和未来的假新闻检测工作。本文是填补这一主题研究空白的第一次尝试之一。我们创建并验证的LeSiE（词汇结构，简单性，情感）框架允许外行人通过寻找三个简单的线索来识别潜在的假新闻，而无需使用计算器或复杂的统计数据。
2018-03-31 cs.CY
Causal Understanding of Fake News Dissemination on Social Media
近年来，在计算假新闻检测方面取得了显着进展。为了减轻其负面影响，我们认为了解哪些用户属性可能导致用户分享假新闻至关重要。这个因果推理问题的关键是识别混杂因素--导致治疗之间虚假关联的变量（例如，用户属性）和结果（例如，用户敏感性）。在假新闻传播中，混淆因素可以通过与用户属性和在线活动内在相关的假新闻分享行为来表征。学习这样的用户行为通常受到容易在社交媒体上分享新闻的用户的选择偏差的影响。借鉴因果推理理论，我们首先提出了一种原则性的方法来减轻假新闻传播中的选择偏差。然后，我们将学习到的无偏见的假新闻分享行为视为代理混淆因素，可以完全捕获用户属性和用户易感性之间的因果关系。我们从理论上和经验上描述了所提出的方法的有效性，并发现它可能有助于保护社会免受假新闻的危害。
2021-07-14 cs.CY
Who Funds Misinformation? A Systematic Analysis of the Ad-related Profit Routines of Fake News sites
假新闻是一种古老的现象，被广泛认为与政治宣传有关，以影响公众舆论。然而，随着社交媒体的发展，它已成为网络出版商的一项有利可图的业务。尽管进行了许多研究并提出了对策，但不可靠的新闻网站在过去几年中在表现最好的新闻来源中的参与份额有所增加。遏制假新闻的影响取决于我们努力限制假新闻制造者的（经济）动机。在本文中，我们旨在提高这些确切激励措施的透明度，并探讨：谁通过付费广告支持假新闻网站的存在，无论是作为广告商还是广告销售商？谁拥有这些网站，他们还从事哪些其他网络业务？我们是第一个将假新闻收入流的审计过程系统化的公司。我们确定了在假新闻网站上做广告的公司，以及负责促进这些广告收入的中介公司。我们研究了2,400多个流行的新闻网站，发现谷歌和IndexExchange等知名广告网络与40%以上的假新闻网站有直接的广告关系。通过对114.5K个网站使用图聚类方法，我们发现拥有假新闻网站的实体也经营其他类型的网站，这表明拥有假新闻网站是更广泛的商业运作的一部分。
2023-02-17 cs.CY
The Mass, Fake News, and Cognition Security
假新闻在社交网络中的广泛传播对社会稳定、经济发展和政治民主等构成了威胁。大量研究探讨了网络假新闻的有效检测方法，但对假新闻内在传播和认知机制的研究较少。鉴于认知科学的发展为假新闻的防范提供了一条新的途径，本文提出了一个新的研究领域--认知安全（Cognition Security，CogSec），研究假新闻对人类认知的潜在影响，包括错误感知、不可信的知识获取、有针对性的意见/态度形成以及有偏见的决策，并探讨了揭穿假新闻的有效方法。CogSec是一个多学科的研究领域，利用社会科学，心理学，认知科学，神经科学，人工智能和计算机科学的知识。我们首先提出相关定义来描述CogSec，并回顾文献历史。我们进一步研究了CogSec的关键研究挑战和技术，包括人类内容认知机制，社会影响和意见扩散，假新闻检测和恶意机器人检测。最后，总结了假新闻的早期发现、可解释的假新闻揭穿、假新闻的社会传染和扩散模型等问题，并展望了未来的研究方向。
2019-07-09 cs.CY cs.HC
Universal Fake News Collection System using Debunking Tweets
大量的人使用社交网络服务（SNS）来方便地获取各种新闻，但他们有更多的机会获得和分享携带虚假信息的“假新闻”。部分为了打击假新闻，一些事实核查网站如Snopes和PolitiFact已经成立。然而，这些网站依赖于耗时和劳动密集型的任务。此外，它们可用的语文并不广泛。为了解决这些困难，我们提出了一个新的基于规则的（无监督）框架的假新闻收集系统，可以很容易地扩展到各种语言。该系统通过揭穿用户的推文来收集高概率的假新闻，并呈现聚集更高关注度的事件集群。我们的系统目前支持两种语言：英语和日语。它显示了事件集群，其中65%实际上是假的。在未来的研究中，它将应用于其他语言，并将与大型假新闻数据集一起发布。
2020-07-28 cs.CY
Modeling the spread of fake news on Twitter
假新闻可能对社会产生重大负面影响，因为移动设备的使用越来越多，全球互联网接入也在增加。因此，有必要建立一个简单的数学模型来理解假新闻的在线传播。在这项研究中，我们提出了一个假新闻在Twitter上传播的点过程模型。该模型将假新闻的传播描述为两个阶段的过程：最初，假新闻作为一条普通新闻传播;然后，当大多数用户开始认识到新闻的虚假性时，它本身作为另一个新闻故事传播。我们使用两个在Twitter上传播的假新闻项目数据集来验证这个模型。我们表明，该模型在准确预测假新闻传播的演变方面优于当前最先进的方法。此外，文本分析表明，我们的模型适当地推断了更正时间，即，当Twitter用户开始意识到新闻的虚假性时。该模型有助于了解假新闻在社交媒体上的传播动态。它提取传播模式的紧凑表示的能力可能有助于检测和缓解假新闻。
2021-04-27 cs.CY cs.SI
r/Fakeddit: A New Multimodal Benchmark Dataset for Fine-grained Fake News Detection
Laguna Blanca School（拉古纳布兰卡学校）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
假新闻在政治和文化方面以消极的方式改变了社会。它对在线社交网络系统以及离线社区和对话都产生了不利影响。使用自动机器学习分类模型是打击假新闻广泛传播的有效方法。然而，缺乏有效、全面的数据集一直是假新闻研究和检测模型开发的一个问题。以前的假新闻数据集不提供多模态文本和图像数据，元数据，评论数据和细粒度的假新闻分类在我们的数据集的规模和广度。我们介绍了Fakeddit，这是一种新型的多模态数据集，由来自多个类别的假新闻的100多万个样本组成。在经过几个阶段的审查后，通过远程监督，将样本按2向、3向和6向分类类别进行标记。我们构建了混合文本+图像模型，并对多种分类变体进行了广泛的实验，证明了Fakeddit独特的多模态和细粒度分类的新方面的重要性。
2020-03-12 cs.CL cs.CY cs.IR
LLM-Generated Fake News Induces Truth Decay in News Ecosystem: A Case Study on Neural News Recommendation
Media Synthesis and Forensics Lab, Institute of Computing Technology, Chinese Academy of Sciences（媒体合成与取证实验室，计算技术研究所，中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）
本研究针对LLM生成假新闻对新闻生态的影响，开发了仿真流水线与5.6万条数据集，发现其大规模注入神经新闻推荐会引发真实新闻排名优势丧失的真相衰退现象，并从熟悉度与困惑度给出解释与对策。
2025-04-29 cs.CL cs.CY cs.IR
Influence of fake news in Twitter during the 2016 US presidential election
2016年美国总统大选期间推特上假新闻的动态和影响仍有待澄清。在这里，我们使用选举日前五个月的1.71亿条推文的数据集来识别来自220万用户的3000万条推文，其中包含新闻媒体的链接。根据www.opensources.co对新闻媒体的分类，我们发现这些推文中有25%传播虚假或极端偏见的新闻。我们描述了信息流的网络，以找到最有影响力的假新闻和传统新闻的传播者，并使用因果模型来揭示假新闻如何影响总统选举。我们发现，虽然传播传统中间和左倾新闻的顶级影响者在很大程度上影响了克林顿支持者的活动，但对于假新闻来说，这种因果关系是相反的：特朗普支持者的活动影响了顶级假新闻传播者的动态。
2019-03-20 cs.CY cs.SI physics.soc-ph
Gender Bias in Fake News: An Analysis
St. Joseph’s College（圣约瑟夫学院）；Queen’s University Belfast（贝尔法斯特女王大学）
近年来，对假新闻的数据科学研究已经获得了很大的动力，可以说是由于大型公共基准数据集的出现。虽然媒体研究中已经确立了性别偏见是新闻媒体普遍存在的问题，但很少有人探讨性别偏见和假新闻之间的关系。在这项工作中，我们提供了第一个关于性别偏见与假新闻的实证分析，在公共基准数据集上利用简单透明的基于词典的方法。我们的分析从三个方面确定了假新闻中性别偏见的普遍性增加，丰富，影响和接近的话。我们的分析提供了一个强有力的论据，即性别偏见需要成为假新闻研究的重要考虑因素。
2023-02-04 cs.CY cs.LG
Sieving Fake News From Genuine: A Synopsis
随着社交媒体的兴起，与传统新闻媒体（如电视和报纸）相比，传播假新闻变得更容易，更快，更便宜。最近，这一现象引起了公众的广泛关注，因为它对他们的生活和业务造成了重大的社会和经济影响。假新闻负责制造虚假，欺骗性，误导性和可疑的信息，这些信息可以极大地影响事件的结果。本文简要介绍了什么是假新闻，并讨论了一些当前的机器学习技术，特别是自然语言处理（NLP）和深度学习，用于自动预测和检测假新闻。基于这一概要，我们建议使用NLP和深度学习来改进假新闻的自动检测，但需要正确的数据和特征集。
2019-11-19 cs.CR cs.CY
Mining Dual Emotion for Fake News Detection
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Renmin University of China（中国人民大学）；Illinois Institute of Technology（伊利诺伊理工学院）
情绪在检测网上假新闻方面起着重要作用。当利用情感信号时，现有方法集中于利用由发布者传达的新闻内容的情感（即，出版商情绪）。然而，假新闻往往会引起人们的高度觉醒或激活情绪，因此新闻评论在人群中引起的情绪（即，社会情绪）不应被忽视。此外，出版者情感和社会情感之间是否存在关系（即，双重情绪），以及双重情绪如何出现在假新闻中。本文验证了虚假新闻与真实新闻的双重情感特征，并提出了双重情感特征来表征虚假新闻的双重情感特征及其相互关系。此外，我们还展示了我们提出的功能可以很容易地插入到现有的假新闻检测器中作为增强。在三个真实世界数据集（一个英文数据集和另一个中文数据集）上的大量实验表明，我们提出的特征集：1）优于最先进的任务相关情感特征; 2）可以与现有的假新闻检测器很好地兼容，有效地提高检测假新闻的性能。
2021-02-14 cs.CL cs.CY
FakeYou! -- A Gamified Approach for Building and Evaluating Resilience Against Fake News
如今，假新闻在公共和政治辩论中被大量讨论。尽管故意发布虚假信息的现象相当古老，但随着互联网和参与式平台的兴起，虚假信息达到了一个新的水平。由于Facebook和Co.，有目的的虚假信息-通常被称为假新闻-可以很容易地被每个人传播。由于数据的高波动性和内容类型的多样性（文本、图像等），揭穿假新闻是一项复杂的挑战。对于自动化方法来说尤其如此，因为它们很容易无法验证信息的真实性。这项工作的重点是一种游戏化的方法，以加强消费者对假新闻的适应力。游戏FakeYou激励玩家批判性地分析标题的可信度。此外，游戏遵循“边做边学策略”：通过生成自己的假标题，用户应该体验令人信服的假标题配方的概念。我们介绍游戏本身，以及底层的技术基础设施。第一项评估研究表明，用户倾向于使用特定的文体手段来生成假新闻。此外，结果表明，创造好的假新闻和识别正确的标题是具有挑战性的，很难学习。
2020-03-17 cs.CY cs.HC
Zoom Out and Observe: News Environment Perception for Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences（中国科学院智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
假新闻检测对于防止社交媒体上的错误信息传播至关重要。为了区分假新闻和真新闻，现有的方法观察新闻帖子的语言模式，并“放大”以验证其内容与知识源或检查其读者的回复。然而，这些方法忽略了创建和传播假新闻帖子的外部新闻环境中的信息。新闻环境代表了当前主流媒体的舆论和公众的关注度，这是假新闻制造的重要灵感，因为假新闻往往是为了搭上热门事件的顺风车，以意想不到的新奇内容吸引公众的注意力，以获得更大的曝光和传播。为了捕捉新闻帖子的环境信号，我们“拉远”观察新闻环境，并提出了新闻环境感知框架（NEP）。对于每一个帖子，我们都从最近的主流新闻中构建了它的宏观和微观新闻环境。然后，我们设计了一个面向流行和新颖的模块，以感知有用的信号，并进一步帮助最终的预测。在我们新构建的数据集上的实验表明，NEP可以有效地提高基本假新闻检测器的性能。
2022-10-28 cs.CL cs.CY cs.SI
Detecting Fake News Using Machine Learning : A Systematic Literature Review
Jiujiang University（九江学院）；University of Central Asia（中亚大学）；UST-Global, Inc.（UST-Global公司）；Monta Vista High School（蒙塔维斯塔高中）
互联网是一项重要的发明，有大量的人是它的用户。这些人将其用于不同的目的。这些用户可以访问不同的社交媒体平台。任何用户都可以通过在线平台发布或传播新闻。这些平台不会验证用户或他们的帖子。因此，一些用户试图通过这些平台传播假新闻。这些新闻可以是针对个人、社会、组织或政党的宣传。一个人无法发现所有这些假新闻。因此，需要机器学习分类器来自动检测这些假新闻。本系统性文献综述描述了使用机器学习分类器检测假新闻。
2021-02-08 cs.CY cs.LG
"Liar, Liar Pants on Fire": A New Benchmark Dataset for Fake News Detection
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
虚假新闻的自动检测是欺骗检测中的一个具有挑战性的问题，它具有巨大的现实世界的政治和社会影响。然而，由于缺乏标记的基准数据集，打击假新闻的统计方法受到了极大的限制。在本文中，我们提出了骗子：一个新的，公开的假新闻检测数据集。我们从www.example.com收集了长达十年的12.8K在各种背景下手动标记的简短声明，该网站提供了详细的分析报告和每个案例的源文件链接。该数据集也可用于事实核查研究。值得注意的是，这个新的数据集比以前类似类型的最大公共假新闻数据集大一个数量级。在经验上，我们研究了基于表面语言模式的自动假新闻检测。我们设计了一种新颖的混合卷积神经网络来整合元数据和文本。我们证明了这种混合方法可以改进纯文本深度学习模型。
2017-05-01 cs.CL cs.CY
Anger makes fake news viral online
操纵政治选举、打击金融系统、甚至煽动骚乱的假新闻比网上的真实新闻更具有病毒性，导致社会不稳定和民主受到冲击。网上假新闻更容易传播，可以用它携带的更大愤怒来解释。在Twitter和微博中的相同结果表明，该机制是独立于平台的。此外，情绪的突变，如愤怒的增加，会逐渐加快信息的传播。具体来说，在微博数据集中增加0.1的愤怒占据和减少0.1的喜悦占据将产生近6个转发。离线问卷调查显示，愤怒导致更多的激励观众在焦虑管理和信息共享方面，因此使假新闻比真实新闻更具传染性。可以实施在社交媒体上标记愤怒等治疗方法，以减缓或防止假新闻在源头的传播。
2020-08-27 cs.CY cs.SI
FNR: A Similarity and Transformer-Based Approach to Detect Multi-Modal Fake News in Social Media
Sharif University of Technology（谢里夫理工大学）
社交媒体的可用性和互动性使其成为全球新闻的主要来源。社交媒体的普及诱使犯罪分子通过使用诱人的文字和误导性的图像制作和传播假新闻来追求他们的不道德意图。因此，验证社交媒体新闻和发现假货至关重要。这项工作旨在分析社交媒体中文本和图像的多模态特征，以检测假新闻。我们提出了一个假新闻揭示器（FNR）的方法，利用变换学习提取上下文和语义特征和对比损失，以确定图像和文本之间的相似性。我们在两个真实的社交媒体数据集上应用了FNR。实验结果表明，与以往的方法相比，该方法在检测假新闻方面具有更高的准确率。
2021-12-02 cs.CY cs.LG cs.MM
Combating Fake News with Interpretable News Feed Algorithms
如今，人工智能算法被用于大规模的定向和个性化内容分发，作为数字媒体环境中对注意力的激烈竞争的一部分。不幸的是，有针对性的信息传播可能导致知识孤立和歧视。此外，正如美国和欧盟最近的政治事件所表明的那样，恶意机器人和社交媒体用户可以以不同形式创建和传播有针对性的“假新闻”内容，以获得政治利益。从另一个方向来看，假新闻检测算法试图通过识别错误信息和欺诈性用户简档来解决这些问题。本文回顾了常见的新闻推送算法以及假新闻检测方法，并讨论了新闻推送算法如何被滥用来推广虚假内容，影响新闻多样性或影响可信度。我们回顾了新闻提要算法和推荐引擎如何使确认偏见将用户隔离到某些新闻来源并影响对现实的感知。作为一个潜在的解决方案，提高用户对内容如何选择或排序的认识，我们主张使用可解释和可解释的新闻提要算法。我们讨论了如何提高用户意识和系统透明度可以减轻社会媒体中回声室和气泡过滤器的不必要的结果。
2018-12-04 cs.CY cs.SI
Adversarial Active Learning based Heterogeneous Graph Neural Network for Fake News Detection
Florida State University（佛罗里达州立大学）；Jilin University（吉林大学）
假新闻的爆炸性增长以及对政治，经济和公共安全的破坏性影响增加了对假新闻检测的需求。社交媒体上的假新闻并不以文章的形式独立存在。许多其他实体，如新闻创作者，新闻主题等，存在于社交媒体上，并与新闻文章有关系。不同的实体和关系可以被建模为异构信息网络（HIN）。在本文中，我们试图解决假新闻检测问题的支持下，面向新闻的HIN。我们提出了一种新的假新闻检测框架，即基于对抗主动学习的异构图神经网络（AA-HGNN），它采用了一种新的分层注意力机制来执行HIN中的节点表示学习。AA-HGNN利用一个主动学习框架来提高学习性能，特别是在面对标记数据不足的情况下。对抗选择器将被训练为查询主动学习框架的高价值候选者。当对抗性主动学习完成后，AA-HGNN通过对新闻文章节点进行分类来检测假新闻。两个真实世界的假新闻数据集的实验表明，我们的模型可以优于基于文本的模型和其他基于图的模型时，使用较少的标记数据受益于对抗性主动学习。AA-HGNN作为一种具有推广性的模型，也具有广泛应用于异构图上其他节点分类相关应用的能力。
2021-01-27 cs.CY cs.LG cs.SI
Three prophylactic interventions to counter fake news on social media
社交媒体上的假新闻破坏了民主制度和程序。特别是自2016年以来，来自许多学科的研究人员都专注于解决这一现象的方法。迄今为止，大部分研究重点是确定和理解社交网络内和之间的现象的性质，以及相当反应性的性质。我们提出的干预措施侧重于个人用户赋权，以及预防性（曝光前）而不是治疗性（曝光后）的社交媒体结构变化，目的是减少暴露于假新闻的人群。我们调查了在暴露于假新闻之前导致更大用户阐述（认知努力）的干预措施。我们提出了三种干预措施：i）心理接种，ii）培养数字和媒体素养，iii）征收用户交易成本。每一种干预措施都有望在信息评估中产生更大的认知努力，并减少创造、分享、喜欢和消费“假新闻”的可能性。
2021-05-19 cs.CY cs.HC
FakingRecipe: Detecting Fake News on Short Video Platforms from the Perspective of Creative Process
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；National University of Singapore（新加坡国立大学）
针对短视频假新闻多模态异构信息检测难题，提出从创作过程视角分析素材选择与编辑特征的FakingRecipe模型，并构建英文数据集FakeTT，在多数据集实验中验证了其优越性。
2024-07-23 cs.CV cs.CY cs.MM
Less is More: Unseen Domain Fake News Detection via Causal Propagation Substructures
The University of Melbourne（墨尔本大学）；Data61, CSIRO（联邦科学与工业研究组织数据61研究所）
提出因果子图导向的领域自适应假新闻检测模型CSDA，通过提取传播图中的因果子结构增强零样本检测，并在少样本场景下利用对比学习提升性能，在OOD假新闻检测上准确率提升7%至16%。
2024-11-14 cs.AI cs.CL cs.CY
