Check-It: A Plugin for Detecting and Reducing the Spread of Fake News and Misinformation on the Web
University of Cyprus(塞浦路斯大学);University of Crete(克里特大学)
在过去的几年里,我们目睹了网络上错误信息的增加。人们在日常生活中成为假新闻的受害者,并在有意或无意中帮助其进一步传播。已经有许多举措试图减轻假新闻造成的损害,重点关注来自领域标志列表、在线社交网络或人工智能的信号。在这项工作中,我们提出了Check-It,这是一个系统,它以智能的方式将各种信号组合到一个用于假新闻识别的管道中。Check-It是一个网页浏览器插件,旨在有效及时地检测假新闻,尊重用户的隐私。实验结果表明,Check-It能够优于国家的最先进的方法。在一个由900万篇被标记为虚假和真实的文章组成的数据集上,Check-It获得了超过99%的分类准确率。
2019-05-10 cs.CL cs.CY cs.SI
Leveraging the Crowd to Detect and Reduce the Spread of Fake News and Misinformation
在线社交网站正在试验以下群体驱动的程序,以减少假新闻和错误信息的传播:每当用户通过她的提要接触到一个故事时,她可以将该故事标记为错误信息,如果故事收到足够的标记,它将被发送到可信的第三方进行事实检查。如果这一方认定故事是错误的信息,它被标记为有争议的。然而,鉴于曝光的数量不确定,事实核查的成本高,以及标志和曝光之间的权衡,上述程序需要仔细的推理和智能算法,据我们所知,迄今为止还不存在。在本文中,我们首先介绍了一个灵活的表示上述过程中使用的框架标记时间点过程。然后,我们开发了一个可扩展的在线算法,遏制,选择哪些故事发送的事实检查,什么时候这样做,以有效地减少传播的错误信息与可证明的保证。在这样做时,我们需要解决一个新的随机最优控制问题的随机微分方程的跳跃,这是独立的利益。在Twitter和微博上收集的两个真实世界数据集上的实验表明,我们的算法可能能够有效地减少假新闻和错误信息的传播。
2017-11-27 cs.HC cs.SI stat.ML
FACTOID: A New Dataset for Identifying Misinformation Spreaders and Political Bias
主动识别错误信息传播者是减轻假新闻对我们社会影响的重要一步。在本文中,我们介绍了一个新的当代Reddit数据集,用于假新闻传播者分析,称为FACTOID,自2020年初以来一直在监控Reddit上的政治讨论。该数据集包含超过4000名用户,拥有340万条Reddit帖子,除了用户的二进制标签外,还包括他们的细粒度可信度水平(非常低到非常高)和他们的政治偏见强度(极右到极左)。据我们所知,这是第一个同时捕获用户历史帖子的长期背景以及它们之间的交互的假新闻传播者数据集。为了在我们的数据上创建第一个基准,我们提供了通过利用用户之间的社会联系及其心理语言特征来识别错误信息传播者的方法。我们发现,用户的社会互动,就自己而言,表明错误信息的传播,而心理语言学的功能主要是信息在非神经分类设置。在定性分析中,我们观察到,检测情感心理过程与右倾用户呈负相关,并且对于那些传播假新闻的人来说,体验因素的开放性较低。
2022-05-11 cs.SI
Fake Cures: User-centric Modeling of Health Misinformation in Social Media
社交媒体不受限制的访问使其成为健康讨论的重要场所,也是患者及其亲人的资源。然而,现有信息的质量及其海报的动机受到质疑。这项工作研究了社交媒体上发布可疑健康相关信息的个人,特别是推广已被证明无效的癌症治疗(使其成为一种错误信息,无论是否故意)。使用多阶段用户选择过程,我们研究了4,212名Twitter用户,他们发布了139种“治疗方法”中的一种,并将其与对癌症感兴趣的用户基线进行比较。考虑到捕捉用户属性,写作风格和情绪的功能,我们建立了一个分类器,它能够识别用户容易传播这种错误信息的准确率超过90%,为公共卫生官员提供了一个潜在的工具,以确定这些人的预防性干预。
2018-09-03 cs.CY cs.SI
Finding Fake News Websites in the Wild
针对虚假信息网站名单获取困难的问题,本研究提出一种通过关联社交媒体上分享经证实假新闻的用户来识别虚假信息网站的新方法,经Twitter多模式验证有效,可助力相关研究与治理。
2024-07-15 cs.CY cs.SI
Does Explanation Matter? An Exploratory Study on the Effects of Covid 19 Misinformation Warning Flags on Social Media
本文通过 348 名美国参与者的随机实验,考察事实核查解释对 COVID-19 错误信息警示标识的作用,发现警示标识可降低假新闻可信度与分享意愿,附加解释还能显著提升系统可信度。
2023-09-28 cs.HC cs.SI physics.soc-ph
The Fake News Spreading Plague: Was it Preventable?
2010年,一篇题为《从模糊到分钟内的突出:政治演讲和实时搜索》的论文获得了2010年网络科学大会的最佳论文奖。调查结果包括发现和记录了所谓的“推特炸弹”,这是一个有组织的努力,通过匿名推特账户传播关于民主党候选人玛莎·科克利的错误信息。在本文中,在总结了该事件的细节之后,我们概述了社交网络如何被用来传播错误信息的配方。在这样一个配方中,最重要的步骤之一是“渗透”已经参与某个话题对话的用户社区,将他们用作其扩展子网络中错误信息的有机传播者。然后,我们采用这种错误信息传播方法,并指出它是如何在2016年美国总统大选期间成功地用于传播假新闻的。两种情景之间的主要区别是使用Facebook而不是Twitter,以及各自的动机(2010年:政治影响; 2016年:通过在线广告获得经济利益)。在将这些事件置于利用网络的更广泛背景下之后,我们抓住这个机会来解决研究结果的局限性,并开始讨论研究人员社区如何增加他们对现实社会问题的影响。
2017-03-20 cs.SI
Who should fight the spread of fake news?
本研究在观点动态框架下探讨社交网络中打击虚假新闻的责任归属与策略,发现在线平台应发挥积极作用,且预防性措施和针对性策略比辟谣更有效。
2024-10-14 cs.SI physics.soc-ph
A Comparative Study of Offline Models and Online LLMs in Fake News Detection
本文系统比较了传统离线模型与GPT-4、Claude、Gemini等在线大语言模型在实时虚假新闻检测中的表现,发现在线LLM更能适应动态错误信息模式,并强调向在线模型过渡对构建可扩展检测系统的重要性。
2024-09-04 cs.SI
CrediRAG: Network-Augmented Credibility-Based Retrieval for Misinformation Detection in Reddit
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
提出 CrediRAG,融合政治知识库检索与按共享评论者立场加权的帖子网络,在超过20万条 Reddit 帖子上较 SOTA 将虚假信息检测 F1 提升11%。
2024-10-26 cs.AI cs.SI
When GenAI Meets Fake News: Understanding Image Cascade Dynamics on Reddit
Computing + Mathematical Sciences(计算与数学科学);California Institute of Technology(加利福尼亚理工学院)
本研究首次分析了Reddit上AI生成图像和虚假信息在不同意识形态社区中的传播动态,通过整合文本情感、视觉属性和扩散指标,预测了即时和长期的病毒传播效果。
2025-12-04 cs.AI cs.SI
Machine Learning-based Automatic Annotation and Detection of COVID-19 Fake News
The University of New South Wales(新南威尔士大学);Macquarie University(麦考瑞大学)
COVID-19影响了世界的每一个地方,尽管有关疫情的错误信息传播得比病毒更快。通过在线社交网络(OSN)传播的错误信息经常误导人们遵循正确的医疗实践。特别是,OSN机器人一直是传播虚假信息和发起网络宣传的主要来源。现有的工作忽略了在传播中充当催化剂的机器人的存在,并专注于“帖子中共享的文章”而不是帖子(文本)内容中的假新闻检测。大多数关于错误信息检测的工作都使用手动标记的数据集,这些数据集很难扩展以构建其预测模型。在这项研究中,我们克服了数据稀缺的挑战,提出了一种自动化的方法,使用Twitter数据集上经过验证的事实检查语句来标记数据。此外,我们将文本特征与用户级特征(如关注者数量和好友数量)和推文级特征(如推文中的提及次数、主题标签和网址)相结合,作为检测错误信息的额外指标。此外,我们分析了推文中机器人的存在,并表明机器人会随着时间的推移而改变其行为,并且在错误信息活动期间最活跃。我们收集了1022万条与COVID-19相关的推文,并使用我们的注释模型构建了一个广泛的原始地面实况数据集,用于分类目的。我们利用各种机器学习模型来准确地检测错误信息,我们最好的分类模型达到了精确率(82%),召回率(96%)和误报率(3.58%)。此外,我们的机器人分析表明,机器人产生了大约10%的错误信息推文。我们的方法导致虚假信息的大量曝光,从而提高了通过社交媒体平台传播的信息的可信度。
2022-09-07 cs.CY cs.LG cs.SI
Exploring Text Representations for Online Misinformation
Queen's University Belfast(贝尔法斯特女王大学)
本文研究在线错误信息检测,提出利用新闻文章主题连贯性差异提取文本特征的新方法,并通过分类与聚类验证主题特征的有效性,为基于机器学习和自然语言处理的假新闻检测提供新思路。
2024-12-13 cs.CL cs.SI
Disinformation and Misinformation on Twitter during the Novel Coronavirus Outbreak
随着新型冠状病毒在全球范围内传播,公众的恐慌情绪在互联网上日益加剧。我们研究了Twitter上关于COVID-19的公开讨论。我们使用了2020年1月29日至2020年3月4日期间收集的来自1200万用户的6700万条推文的数据集。我们根据用户的国籍、社会身份和政治取向对用户进行分类。我们发现,新闻媒体、政府官员和新闻记者个人发布了大多数有影响力的推文,而最有影响力的推文仍然是由普通用户撰写的。提到“假新闻”网址和虚假信息故事情节的推文也更有可能由普通用户传播。与真实新闻和普通推文不同,包含指向“假新闻”网站的网址的推文最有可能在来源国被转发,因此不太可能在国际上传播。
2020-06-07 cs.SI
Understanding Effects of Algorithmic vs. Community Label on Perceived Accuracy of Hyper-partisan Misinformation
超党派的错误信息已成为公众关注的主要问题。为了研究哪种类型的错误信息标签可以减轻社交媒体上超党派的错误信息共享,我们在COVID-19健康信息的背景下进行了一项4(标签类型:算法,社区,第三方事实检查器和无标签)X 2(后意识形态:自由派与保守派)的受试者在线实验(N = 1,677)。结果表明,对于自由派用户来说,无论帖子的意识形态如何,所有标签都会降低虚假帖子的感知准确性和可信度。相比之下,对于保守派用户来说,标签的有效性取决于帖子是否在意识形态上一致:与社区标签相比,算法标签在降低虚假保守派帖子的感知准确性和可信度方面更有效,而所有标签都能有效降低他们对自由派帖子的信任。我们的研究结果揭示了依赖于人们的政治意识形态的各种错误信息标签的不同影响。
2023-01-21 cs.HC cs.SI
CHECKED: Chinese COVID-19 Fake News Dataset
COVID-19影响了所有人的生活。为了保持社交距离和避免曝光,工作和生活逐渐转移到网上。在此趋势下,使用社交媒体获取COVID-19新闻的情况有所增加。此外,有关COVID-19的错误信息经常在社交媒体上传播。在这项工作中,我们开发了中国第一个关于COVID-19错误信息的数据集。从2019年12月至2020年8月,通过使用特定的关键词列表识别出的与COVID-19相关的已验证微博共计2,104条。相应地,《微博客》包括1,868,175条转发、1,185,702条评论和56,852,736个赞,揭示了这些经过验证的微博在微博上的传播和反应。该数据集包含了一组丰富的多媒体信息,包括地面实况标签,文本,视觉,时间和网络信息。已经进行了大量的实验来分析BMPKED数据,并在使用BMPKED预测假新闻时为成熟的方法提供基准结果。我们希望,EMPKED能够促进针对冠状病毒错误信息的研究。该数据集可在https://github.com/cyang03/CHECKED上获得。
2021-06-13 cs.IR cs.SI
TIB's Visual Analytics Group at MediaEval '20: Detecting Fake News on Corona Virus and 5G Conspiracy
TIB – Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心);L3S Research Center, Leibniz University Hannover(汉诺威莱布尼茨大学L3S研究中心)
社交媒体上的假新闻已经成为研究的热点,因为它对公众真实新闻的话语产生了负面影响。具体而言,持续的COVID-19疫情导致不准确及具误导性的信息增加,原因是疫情初期的争议及未知细节。MediaEval 2020的FakeNews任务通过创建一个挑战来解决这个问题,该挑战是基于Twitter追随者网络的文本和结构自动检测包含错误信息的推文。在本文中,我们提出了一个简单的方法,使用BERT嵌入和浅神经网络分类推文只使用文本,并讨论我们的研究结果和局限性的方法在基于文本的错误信息检测。
2021-01-10 cs.CL cs.SI
Defending Elections Against Malicious Spread of Misinformation
民主选举的公正性取决于选民能否获得准确的信息。然而,由社交媒体主导的现代媒体环境为恶意行为者提供了前所未有的能力,可以通过假新闻等错误信息操纵选举。我们研究了攻击者和防御者之间的零和博弈,攻击者试图通过一组广告渠道传播虚假的新故事或其他错误信息来破坏选举,而防御者试图限制攻击者的影响。在这个博弈中计算均衡是具有挑战性的,因为即使是纯策略集的参与者也是指数的。尽管如此,我们给出了可证明的多项式时间近似算法计算后卫的极大极小最优策略在一系列的设置,包括不同的人口结构以及模型的信息提供给每个球员。实验结果证实,我们的算法提供了接近最佳的防御策略,并展示了根据防御者可用的资源和知识来捍卫选举的难度变化。
2018-11-21 cs.GT cs.SI
How Media Competition Fuels the Spread of Misinformation
本文将媒体竞争建模为零和序贯博弈,采用分位数响应均衡刻画有限理性决策,揭示了错误信息传播如何导致公众极化和竞争性扩散,并为缓解假新闻提供了策略建议。
2024-11-24 cs.SI
Dac-Fake: A Divide and Conquer Framework for Detecting Fake News on Social Media
Malaviya National Institute of Technology(马拉维亚国立技术学院);Madhav Institute of Technology & Science(马达夫科技学院)
本文提出DaCFake模型,采用分而治之策略融合内容与上下文特征,结合八十多个语言特征和词嵌入方法,在三个数据集上取得高准确率,用于社交媒体虚假新闻的快速早期检测。
2025-08-22 cs.LG cs.SI
Attacking Fake News Detectors via Manipulating News Social Engagement
本文提出首个针对基于GNN的假新闻检测器的对抗攻击框架,通过含三类智能体的多智能体强化学习模拟欺诈者协调行为,实验证明其可有效破坏检测器性能,为假新闻检测研究提供参考。
2023-04-27 cs.SI
CleanNews: a Network-aware Fake News Mitigation Architecture for Social Media
针对社交媒体假新闻传播问题,提出融合文本与网络结构嵌入、结合CNN与双向RNN的CleanNews架构,并搭配网络免疫算法缓解传播,在两个真实数据集上验证了有效性。
2025-09-01 cs.SI
CoAID: COVID-19 Healthcare Misinformation Dataset
The Pennsylvania State University(宾夕法尼亚州立大学)
随着COVID-19病毒在世界各地迅速传播,不幸的是,与COVID-19相关的错误信息也像野火一样被创造和传播。这种错误的信息造成了人们的混乱,社会的混乱,甚至在健康问题上造成了致命的后果。因此,能够理解、检测和减轻这种COVID-19错误信息不仅具有深刻的知识价值,而且具有巨大的社会影响。因此,为了帮助研究人员应对COVID-19健康错误信息,我们提出了CoAID(COVID-19 healthcare isinformation Dataset),其中包含各种COVID-19医疗错误信息,包括网站和社交平台上的假新闻,以及用户对此类新闻的社交参与。CoAID包括4,251条新闻,296,000个相关用户参与,926个关于COVID-19的社交平台帖子和地面真相标签。该数据集可在以下网址获得:www.example.com。
2020-11-03 cs.CL cs.SI
CovidMis20: COVID-19 Misinformation Detection System on Twitter Tweets using Deep Learning Models
Saginaw Valley State University(萨吉诺谷州立大学);The Hashemite University(哈希姆大学);Western Michigan University(西密歇根大学);University of Nebraska at Kearney(内布拉斯加大学卡尼尔分校)
在线新闻和信息源是了解当前问题的方便和可访问的方式。例如,全球有3亿多人在推特上发帖,这为传播误导性信息提供了可能性。由于假新闻而犯下暴力犯罪的案件很多。这项研究提出了CovidMis 20数据集(COVID-19 Misinformation 2020数据集),其中包括从2020年2月至7月收集的1,375,592条推文。CovidMis 20可自动更新以获取最新新闻,并可在https://github.com/everythingguy/CovidMis20上公开获取。这项研究使用Bi-LSTM深度学习和集成CNN+Bi-GRU进行假新闻检测。结果表明,在测试准确度分别为92.23%和90.56%的情况下,集成CNN+Bi-GRU模型始终提供比Bi-LSTM模型更高的准确度。
2022-09-13 cs.CL cs.HC cs.LG
SOMPS-Net : Attention based social graph framework for early detection of fake health news
SSN College of Engineering(SSN工程学院);Solarillion Foundation(Solarillion基金会);Anna University(安纳大学)
假新闻是捏造的信息,以真实的方式呈现,意图欺骗读者。最近,人们依赖社交媒体进行新闻消费的规模显著增加。由于这种迅速增加,错误信息的不利影响影响到更广泛的受众。由于人们越来越容易受到这种欺骗性假新闻的影响,因此必须采用可靠的技术在早期阶段检测错误信息。因此,作者提出了一种新的基于图的框架社会图与多头注意力和出版商信息和新闻统计网络(SOMPS-Net)包括两个组件-社会互动图(SIG)和出版商和新闻统计(PNS)。假设的模型在HealthStory数据集上进行了实验,并概括了各种医学主题,包括癌症,阿尔茨海默氏症,产科和营养。SOMPS-Net的表现明显优于在HealthStory上进行实验的其他最先进的基于图形的模型17.1%。此外,早期检测的实验表明,SOMPS-Net在广播后的8小时内以79%的确定性预测了假新闻文章。因此,这项工作的贡献为在早期阶段捕获多个医学主题的假健康新闻奠定了基础。
2021-11-22 cs.IR cs.LG cs.SI
Semi-supervised Content-based Detection of Misinformation via Tensor Embeddings
UC Riverside(加州大学河滨分校);Snap Inc.(斯纳普公司)
假新闻可能是为了促进经济、政治和社会利益而故意制造的,可能会对人类的信仰和决策产生负面影响。因此,假新闻的检测是一个新出现的问题,在过去几年中变得非常普遍。关于这个主题的大多数现有工作集中在利用大量标记(假或真)文章的手动特征提取和监督分类模型。相比之下,我们专注于基于内容的虚假新闻文章检测,同时假设我们有少量的标签,可通过手动事实检查器或自动化来源获得。我们认为,在大量内容的存在下,这是一个更现实的设置,其中大部分内容都不容易进行事实核查。为此,我们将新闻文章的集合表示为多维张量,利用张量分解来获得简洁的文章嵌入,这些嵌入捕获了关于每篇新闻文章的空间/上下文信息,并使用这些嵌入来创建一个逐篇文章的图,我们在该图上传播有限的标签。在三个真实世界数据集上的结果表明,我们的方法与现有的完全监督的模型相比表现相当或更好,因为我们使用更少的标签实现了更好的检测准确性。特别是,我们提出的方法仅使用30%的公共数据集标签就达到了75.43%的准确率,而基于SVM的分类器达到了67.43%。此外,我们的方法仅使用2%的标签在大型数据集中实现了70.92%的准确率。
2018-04-24 cs.LG cs.SI stat.AP
Quantifying the Influence of User Behaviors on the Dissemination of Fake News on Twitter with Multivariate Hawkes Processes
本研究针对Twitter平台假新闻传播问题,提出融合用户网络、推文类型、用户立场的多元Hawkes点过程模型,量化用户行为对假新闻传播的影响,为虚假信息传播干预提供支撑。
2023-08-26 cs.SI stat.AP
LLM-based Contrastive Self-Supervised AMR Learning with Masked Graph Autoencoders for Fake News Detection
提出一种结合AMR语义与传播动态的自监督假新闻检测框架,利用LLM对比损失和多视图掩码自编码器,在少量标注下超越现有方法。
2025-08-26 cs.CL cs.SI
Automated Fake News Detection using cross-checking with reliable sources
Sharif University of Technology(谢里夫理工大学)
在过去的十年里,假新闻和错误信息已经成为一个重大问题,影响了我们生活的各个方面,包括政治和公共卫生。受自然人类行为的启发,我们提出了一种自动检测假新闻的方法。人类的自然行为是用可靠的来源交叉检查新信息。我们使用自然语言处理(NLP)并构建了一个机器学习(ML)模型,该模型可以自动交叉检查新信息与一组预定义的可靠来源。我们为Twitter实现了这一点,并构建了一个标记虚假推文的模型。具体来说,对于给定的推文,我们使用其文本从可靠的新闻机构中查找相关新闻。然后,我们训练一个随机森林模型,该模型检查推文的文本内容是否与可信新闻一致。如果不是,则该推文被归类为虚假。这种方法通常可以应用于任何类型的信息,而不限于特定的新闻故事或信息类别。我们的这种方法的实现提供了一个$70\%$的准确性,优于其他通用的假新闻分类模型。这些结果为更明智和自然的假新闻检测方法铺平了道路。
2022-01-01 cs.CL cs.SI physics.soc-ph
Interactively Learning Social Media Representations Improves News Source Factuality Detection
Purdue University(普渡大学)
针对假新闻传播中社交媒体环境难以自动建模、全量人工核查不可扩展的问题,本文提出人机交互式学习方法,借助少量人工反馈改进社交媒体表征,并在真实事件上提升新闻来源事实性检测性能。
2023-09-26 cs.AI cs.CL cs.SI
Detecting Chinese Fake News on Twitter during the COVID-19 Pandemic
本文提出一种新型分类器,用于检测COVID-19大流行期间Twitter上关于中国的中文假新闻,并公开了性能达F1=0.64、准确率93%的模型及含18,425条推文的训练数据集。
2023-04-07 cs.CY cs.SI
Fake News Detection in Social Networks via Crowd Signals
我们的工作考虑利用人群信号来检测假新闻,并受到Facebook最近推出的工具的激励,这些工具使用户能够标记假新闻。通过聚合用户的标记,我们的目标是每天选择一小部分新闻,将它们发送给专家(例如,通过第三方事实核查组织),并阻止被专家认定为假新闻的传播。我们工作的主要目标是通过阻止假新闻在网络中的传播来最大限度地减少错误信息的传播。实现这一目标尤其具有挑战性,因为它需要尽快以高置信度检测假新闻。我们表明,为了有效地利用用户的标志,这是至关重要的是要了解用户的标记的准确性。我们开发了一种新的算法DETECTIVE,它可以执行贝叶斯推理来检测假新闻,并随着时间的推移联合学习用户的标记准确性。我们的算法采用后验采样来积极权衡剥削(选择在给定时期最大化客观价值的新闻)和探索(选择最大化信息价值的新闻,以了解用户的标记准确性)。我们通过广泛的实验证明了我们方法的有效性,并展示了利用社区信号进行假新闻检测的能力。
2018-03-02 cs.SI
Framework para Caracterizar Fake News en Terminos de Emociones
Universidad Católica del Norte(北天主教大学)
社交网络已成为人类的主要信息渠道之一,因为它们提供了即时和社交互动,在某些情况下允许发布每个用户认为相关的内容。这带来了虚假新闻或假新闻的产生,这些出版物只寻求产生不确定性,错误信息或歪曲读者的意见。已经表明,人类无法完全识别一篇文章是真的还是假新闻,因此,出现了基于数据采掘和机器学习来描述和识别文章的模型。本文提出了一个三层框架,其主要目标是描述假新闻中存在的情绪,并成为未来识别公众情绪状态和意图状态的工作的工具。
2021-12-13 cs.CL cs.SI
FaNDS: Fake News Detection System Using Energy Flow
最近,“假新闻”一词已被广泛用于虚假信息、误导信息、恶作剧、宣传、讽刺、谣言、点击诱饵和垃圾新闻。它已成为世界各地的一个严重问题。我们提出了一个新的系统,FaNDS,可以有效地检测假新闻。该系统是基于几个概念中使用的一些以前的作品,但在不同的上下文中。有两个主要概念:不一致图和能量流。不一致图包含作为节点的新闻项和作为边的它们之间的不一致意见。能量流为每个节点分配一个初始能量,然后一些能量沿着边缘传播,直到所有节点上的能量分布收敛。为了说明FaNDS,我们使用来自假新闻挑战赛(FNC-1)的原始数据。首先,必须重构数据以生成不一致图。该图包含具有定义良好的形状的各种子图,这些子图表示新闻项之间的不同类型的连接。然后应用能量流方法。具有高能量的节点是假新闻的候选者。在我们的实验中,所有这些确实都是假新闻,因为我们使用几个可靠的网站进行了检查。我们将FaNDS与其他几种假新闻检测方法进行了比较,发现它在发现假新闻方面更敏感。
2020-10-05 cs.SI
People Lie, Actions Don't! Modeling Infodemic Proliferation Predictors among Social Media Users
社交媒体是互动的,互动带来了错误信息。随着用户生成的数据量越来越大,自社交网络出现以来,在线平台上的假新闻变得越来越频繁。时不时地,一个事件发生并成为讨论的话题,产生和传播虚假信息。现有研究假新闻的文献主要阐述了假新闻的分类模型。探索假新闻特征的方法以及将其与真实新闻区分开来的方法很少。没有多少研究集中在统计测试和产生新的因素发现。本研究假设了14个假设,以确定与假新闻相关的因素。我们使用定性和定量测试方法对两个真实世界的COVID-19数据集进行了实验。本研究的结论是,情感极性和性别可以显着识别假新闻。然而,对视觉媒体存在的依赖性是不确定的。此外,Twitter特有的因素,如追随者计数,朋友计数和转发计数在假新闻和真新闻中有显着差异。然而,地位计数和最爱计数的贡献是有争议的。这项研究确定了在假新闻检测算法的开发中共同利用的实际因素。
2021-11-23 cs.SI
This photograph has been altered: Testing the effectiveness of image forensic labeling on news image credibility
尽管在线新闻环境中的图像和视频无处不在,而且数量激增,但现有的关于错误信息及其纠正的研究大多集中在文本错误信息上,而对普通用户如何评估虚假或操纵的图像以及标记和纠正此类虚假信息的最有效方法知之甚少。我们设计了一个视觉法医标签的图像真实性,图片O-米,并测试了标签的有效性,其来源和放置在一个实验中,2440名参与者。我们的研究结果表明,尽管人类一般无法检测自己的操纵图像,图像法医标签是一个有效的工具,以抵消视觉错误信息。
2021-01-20 cs.SI
Fake news as we feel it: perception and conceptualization of the term "fake news" in the media
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Leiden University(莱顿大学);Harvard University(哈佛大学)
在本文中,我们定量分析了近年来“假新闻”一词在新闻媒体中的形成。我们研究的看法和概念化的这个词在传统媒体使用八年的数据收集的新闻媒体设在20个国家。我们的研究结果不仅证实了之前关于“假新闻”一词使用量大幅增加的迹象,而且还显示了2016年美国总统大选后围绕这一表达的语境变化。在其他结果中,我们发现相关词汇,提到的实体,周围的主题以及围绕“假新闻”一词的上下文极性发生了变化,这表明该表达在2016年之后经历了感知和概念化的变化。这些成果扩大了对“假新闻”一词使用的理解,有助于理解和更准确地描述与错误信息和操纵有关的相关社会现象。
2018-07-18 cs.CL cs.SI
Misinformation versus Facts: Understanding the Influence of News Regarding COVID-19 Vaccines on Vaccine Uptake
有关COVID-19疫苗的网上话语及讨论中存在大量基于事实的信息及错误信息。使用近400万条带有地理标记的英文推文样本和来自CDC COVID数据跟踪器的数据,我们进行了Fama-MacBeth回归,并进行了Newey-West调整,以了解Twitter上的错误信息和基于事实的新闻对美国COVID-19疫苗接种的影响。在控制了人口统计、教育和流行病严重程度等州一级的因素后。我们通过分析URL来识别与错误信息或基于事实的新闻相关的推文。与事实相关的Twitter用户增加1%,每百人每日新接种疫苗的人数减少约0.87(B =-0.87,SE = 0.25,p<0.001)。与假新闻相关的用户比例与疫苗接种率之间没有显着关系。事实相关用户比例与疫苗接种率之间的负相关可能是由于更大的用户层面影响力和在线社交认可对疫苗接种意愿的负面影响。
2022-02-17 cs.SI
Using co-sharing to identify use of mainstream news for promoting potentially misleading narratives
本研究基于2018–2021年匹配美国选民档案的Twitter/X数据,通过可靠新闻与假新闻的共同分享关系及虚假叙事提取,揭示主流新闻被用于增强误导性声明可信度与传播范围。
2025-06-10 cs.SI
Health Misinformation in Social Networks: A Survey of IT Approaches
University of Ioannina (UOI)(约阿尼纳大学);Institute of Computer Science (ICS), Foundation for Research and Technology - Hellas (FORTH)(希腊研究与技术基金会计算机科学研究所);Pfizer(辉瑞公司)
该文从信息技术角度综述社交网络健康错误信息的事实核查、假新闻检测、传播缓解方法,并整理数据集、工具及未来挑战。
2024-10-24 cs.AI cs.CL cs.LG
Exploring Content and Social Connections of Fake News with Explainable Text and Graph Learning
Universidade Federal Fluminense, Niter\' o i, Rio de Janeiro, Brazil , City St George's, University of London, United Kingdom
本文提出结合内容、社交媒体和图学习的可解释框架,通过多模态信息提升事实核查性能,并评估其解释性、可信度和鲁棒性。
2025-08-19 cs.AI cs.SI
The Rise of Guardians: Fact-checking URL Recommendation to Combat Fake News
大量的研究工作和努力都集中在检测假新闻和建立在线事实核查系统上,以便尽快揭穿假新闻。尽管存在这些系统,但假新闻仍然被在线用户广泛分享。这表明这些系统可能没有得到充分利用。在发现假新闻后,下一步是什么来阻止人们分享它?我们如何改进对这些事实核查系统的利用?为了填补这一空白,在本文中,我们(i)收集和分析被称为监护人的在线用户,他们通过引用事实检查URL来纠正在线讨论中的错误信息和假新闻;(ii)提出一种新的事实检查URL推荐模型,以鼓励监护人更多地参与事实检查活动。我们发现,监护人通常用不到一天的时间来回复在线对话中的声明,然后再花一天的时间将经过验证的信息传播给数亿粉丝。我们提出的推荐模型的性能优于四个国家的最先进的模型11%~ 33%。我们的源代码和数据集可以在https://github.com/nguyenvo09/CombatingFakeNews上找到。
2019-10-09 cs.IR cs.SI
Spreading of fake news, competence, and learning: kinetic modeling and numerical approximation
社交网络作为主要通信手段在世界上几乎每个国家的兴起,同时引发了网上流传的假新闻数量的增加。这一事实在2016年美国政治选举期间变得尤为明显,而随着COVID-19大流行的到来,这一事实更加明显。一些研究表明,如何通过终身学习和讨论社区,以及科学方法和广泛的跨学科教育的严格培训来提高能力,从而减轻假新闻传播的影响。当前的大流行突出表明,迫切需要能够描述假新闻日益泛滥的模型。由于错误信息以及个人通常无法辨别信息的可靠性,导致疫苗接种活动放缓,这给许多国家的政府带来了巨大风险。在这项研究中,使用动力学理论的工具,我们描述了假新闻传播和个人的能力之间的相互作用,通过多人口模型中,假新闻传播类似于一种传染病,不同的影响取决于个人的能力水平。能力的水平,特别是,是受一个进化的动态,由于代理和外部学习动态之间的社会互动。结果表明,该模型是如何能够正确地描述假新闻的扩散动力学和能力的重要作用,在他们的遏制。
2021-09-28 cs.NA cs.SI math.NA
SOK: Fake News Outbreak 2021: Can We Stop the Viral Spread?
Tampere University(坦佩雷大学);Technical University of Denmark(丹麦技术大学)
社交网络的无所不在和易用性已经彻底改变了当今世界信息的生成和分发。然而,容易获得信息并不等于公众知识水平的提高。与传统媒体渠道不同,社交网络还促进了虚假信息和错误信息更快、更广泛的传播。虚假信息的病毒式传播对公众的行为、态度和信仰产生严重影响,最终可能严重危及民主进程。通过早期发现和控制广泛传播来限制虚假信息的负面影响是当今研究人员面临的主要挑战。在这篇调查论文中,我们广泛分析了现有文献中早期发现假新闻的各种不同解决方案。更确切地说,我们研究了机器学习(ML)模型,用于识别和分类假新闻,在线假新闻检测竞赛,统计输出以及一些可用数据集的优点和缺点。最后,我们评估了可用于检测和减轻假新闻的在线网络浏览工具,并提出了一些开放的研究挑战。
2021-05-22 cs.LG cs.SI
The Rise and Fall of Fake News sites: A Traffic Analysis
FORTH/University of Crete(克里特大学/希腊研究与技术基金会);Telefonica Research(西班牙电信研究中心)
在过去的十年里,我们目睹了互联网上错误信息的增加,网络用户不断成为假新闻的受害者。过去的许多研究分析了假新闻的传播机制以及检测和缓解技术。然而,关于他们的运营行为仍然存在一些悬而未决的问题,例如:假新闻网站有多老?他们通常会长时间在线吗?这样的网站是否彼此同步他们的启动和停机时间?它们是否在时间上共享相似的内容?哪些第三方支持其运营?与主流或真正的新闻网站相比,他们吸引了多少用户流量?在本文中,我们进行了首次调查,以回答有关假新闻网站在线存在的问题,并将其行为与真实新闻网站进行比较。基于我们的研究结果,我们构建了一个内容不可知的ML分类器,用于自动检测尚未包含在手动策划黑名单中的假新闻网站(即准确性)。
2021-03-16 cs.CR cs.LG cs.SI
Enhancing Fake-News Detection with Node-Level Topological Features
Xidian University(西安电子科技大学)
通过引入节点层面的拓扑特征(度中心性和局部聚类系数)提升假新闻检测的性能,实验表明该方法在UPFD Politifact子集上将宏F1值提升至0.8344。
2026-02-10 cs.LG cs.SI
A Topic-Agnostic Approach for Identifying Fake News Pages
New York University(纽约大学);Federal University of Amazonas(亚马逊联邦大学)
假新闻和错误信息越来越多地被用来操纵公众舆论和影响政治进程。为了更好地了解假新闻,它们是如何传播的,以及如何对抗它们的影响,有必要首先识别它们。最近,已经提出了基于其内容将文章自动分类为虚假的方法。这些方法的一个重要挑战来自新闻的动态性质:随着新的政治事件被报道,主题和话语不断变化,因此,使用在给定时间发布的文章内容训练的分类器在未来可能变得无效。为了应对这一挑战,我们提出了一种主题不可知(TAG)分类策略,该策略使用语言和网络标记特征来识别假新闻页面。我们报告了使用多个数据集的实验结果,这些数据集表明,我们的方法在识别假新闻方面具有很高的准确性,即使主题随着时间的推移而变化。
2019-05-02 cs.CL cs.IR cs.SI
Identifying Nuances in Fake News vs. Satire: Using Semantic and Linguistic Cues
AdVerifai;The George Washington University(乔治华盛顿大学);Amazon AWS AI(亚马逊AWS人工智能)
邪恶的假新闻和受保护的言论讽刺之间的模糊界限一直是社交媒体平台的一场臭名昭著的斗争。为了进一步减少社交媒体上的错误信息,假新闻的传播者已经开始伪装成讽刺网站,以避免被降级。在这项工作中,我们解决了自动分类假新闻与讽刺的挑战。以前的工作已经研究了是否可以根据语言差异区分假新闻和讽刺。与假新闻相反,讽刺故事通常是幽默的,并带有一些政治或社会信息。我们假设,这些细微差别可以识别使用语义和语言线索。因此,我们训练一种使用语义表示的机器学习方法,使用最先进的上下文语言模型,并使用基于文本连贯性度量的语言特征。实证评估证明了我们的方法与基于语言的基线相比的优点,并揭示了假新闻和讽刺之间的细微差别。作为未来工作的途径,我们考虑研究与幽默方面相关的其他语言特征,并利用当前的新闻事件丰富数据,以帮助识别政治或社会信息。
2019-11-05 cs.CL cs.SI
Machine Learning Explanations to Prevent Overtrust in Fake News Detection
Texas A&M University(德克萨斯A&M大学);University of Florida(佛罗里达大学)
打击假新闻和错误信息传播是后真相时代的一项具有挑战性的任务。新闻提要和搜索算法可能会导致虚假和捏造信息的无意大规模传播,用户会接触到算法选择的虚假内容。我们的研究调查了嵌入新闻评论平台的可解释人工智能助手对打击假新闻传播的影响。我们设计了一个新闻评论和分享界面,创建了一个新闻故事数据集,并训练了四种可解释的假新闻检测算法,以研究算法透明度对最终用户的影响。我们目前的评估结果和分析,从多个控制的众包研究。为了更深入地了解可解释的人工智能系统,我们讨论了用户参与度,心理模型,信任和解释过程中的性能指标之间的相互作用。研究结果表明,解释有助于被试在不同条件下建立适当的智能助手心理模型,并根据模型的局限性调整他们的信任。
2020-07-27 cs.AI cs.IR cs.SI
Combating Fake News with Interpretable News Feed Algorithms
如今,人工智能算法被用于大规模的定向和个性化内容分发,作为数字媒体环境中对注意力的激烈竞争的一部分。不幸的是,有针对性的信息传播可能导致知识孤立和歧视。此外,正如美国和欧盟最近的政治事件所表明的那样,恶意机器人和社交媒体用户可以以不同形式创建和传播有针对性的“假新闻”内容,以获得政治利益。从另一个方向来看,假新闻检测算法试图通过识别错误信息和欺诈性用户简档来解决这些问题。本文回顾了常见的新闻推送算法以及假新闻检测方法,并讨论了新闻推送算法如何被滥用来推广虚假内容,影响新闻多样性或影响可信度。我们回顾了新闻提要算法和推荐引擎如何使确认偏见将用户隔离到某些新闻来源并影响对现实的感知。作为一个潜在的解决方案,提高用户对内容如何选择或排序的认识,我们主张使用可解释和可解释的新闻提要算法。我们讨论了如何提高用户意识和系统透明度可以减轻社会媒体中回声室和气泡过滤器的不必要的结果。
2018-12-04 cs.CY cs.SI
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University(崇实大学);Adobe Research(奥多比研究院)
本研究调查假新闻如何使用新闻文章的缩略图,重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象,特别是在社交媒体环境中,用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析,我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步,我们试图检测新闻文章与图像-文本不一致。评估实验表明,基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
Leveraging Multi-Source Weak Social Supervision for Early Detection of Fake News
Arizona State University(亚利桑那州立大学);Microsoft Research(微软研究院)
社交媒体极大地使人们能够以前所未有的速度参与在线活动。然而,这种不受限制的访问也加剧了网上错误信息和假新闻的传播,除非及早发现,否则可能会造成混乱和混乱。鉴于新闻事件的快速发展性质和有限的注释数据,最先进的假新闻检测系统面临着挑战,因为缺乏大量的注释训练实例,这些实例很难用于早期检测。在这项工作中,我们利用来自用户和内容参与(称为弱社会监督)的不同来源的多个弱信号,以及它们的互补实用程序来检测假新闻。我们共同利用有限的干净数据以及来自社交活动的弱信号,在元学习框架中训练深度神经网络,以估计不同弱实例的质量。在真实世界数据集上的实验表明,该框架在预测时不使用任何用户参与的情况下,在早期检测假新闻方面优于最先进的基线。
2020-04-03 cs.LG cs.SI stat.ML
Controlling the Misinformation Diffusion in Social Media by the Effect of Different Classes of Agents
本文扩展基于 SIR 的 SBFC 模型,引入多类别智能体特征,并通过教育关键群体与加入事实核查机器人两种策略,证明可有效控制社交媒体错误信息传播。
2024-01-21 cs.MA cs.SI
Combating Fake News: A Survey on Identification and Mitigation Techniques
University of Southern California(南加利福尼亚大学);Peking University(北京大学)
社交媒体上假新闻的泛滥为及时识别和遏制假新闻以及减轻其对公众舆论的广泛影响开辟了新的研究方向。虽然早期的研究主要集中在根据内容或利用用户在社交媒体上与新闻的互动来识别假新闻,但人们对积极干预策略的兴趣越来越大,以对抗错误信息的传播及其对社会的影响。在本次调查中,我们描述了当今的假新闻问题,特别强调了与之相关的技术挑战。我们讨论了适用于识别和缓解的现有方法和技术,重点关注每种方法的重大进展及其优势和局限性。此外,研究往往受到现有数据集质量及其特定应用环境的限制。为了缓解这个问题,我们全面汇编和总结了可用数据集的特征。此外,我们还概述了新的研究方向,以促进有效和跨学科解决方案的未来发展。
2019-01-18 cs.AI cs.LG cs.SI