Modeling Review Spam Using Temporal Patterns and Co-bursting Behaviors
在线评论在帮助消费者评估和比较产品和服务方面发挥着至关重要的作用。然而,评论托管网站经常成为意见垃圾邮件的目标。近年来,许多这样的网站已经投入了大量的精力来建立有效的评论过滤系统,以检测虚假评论并阻止恶意帐户。因此,欺诈者或垃圾邮件发送者现在转向妥协,购买甚至提高信誉帐户来撰写虚假评论。基于对点评网站(大众点评网)真实数据的分析,我们发现评论者的发帖率呈双峰分布,不同状态之间的转换可以用来区分垃圾评论者和真正的评论者。受这些发现的启发,我们提出了一个双模式标记隐马尔可夫模型来检测垃圾邮件发送者。实验结果表明,我们的模型显着优于监督学习使用语言和行为特征识别垃圾邮件发送者。此外,我们发现,当一个产品有大量评论时,许多垃圾邮件发送者可能会积极参与为该产品以及许多其他产品撰写评论。然后,我们提出了一种新的协同爆发网络检测垃圾邮件发送者组。协同爆发网络使我们能够产生比当前最先进的评论者产品(共同评论)网络更准确的垃圾邮件发送者群体。
2016-11-21 cs.SI
Detecting and Characterizing Extremist Reviewer Groups in Online Product Reviews
IIIT-Delhi(德里英德拉普拉斯塔信息技术学院)
在线市场经常以评论的形式见证意见垃圾。人们经常被雇佣来针对特定的品牌,通过撰写高度积极或消极的评论来促进或阻碍他们。这通常是在群体中集体完成的。虽然之前的一些研究试图识别和分析这样的意见垃圾群体,但很少有人探索发现那些针对整个品牌而不仅仅是产品的群体。在本文中,我们收集了来自亚马逊产品评论网站的评论,并手动标记了一组923个候选评论者组。使用频繁项集挖掘的品牌相似性,使用户聚集在一起,如果他们有相互审查(产品)的很多品牌提取组。我们假设,评审组的性质取决于特定于(组,品牌)对的8个特征。我们开发了一个基于特征的监督模型来将候选团体分类为极端主义实体。我们运行多个分类器,根据该组用户撰写的评论对该组进行分类,以确定该组是否显示出极端的迹象。基于3层感知器的分类器是最好的分类器。我们进一步详细研究了这些群体的行为,以更好地了解品牌级意见欺诈的动态。这些行为包括评分的一致性、评论情绪、已验证的购买、评论日期和对评论的有用投票。令人惊讶的是,我们观察到有很多经过验证的评论者表现出极端的情绪,经过进一步调查,这些评论者找到了规避现有机制的方法,以防止亚马逊上的非官方激励措施。
2020-04-13 cs.LG cs.SI
Detecting Chinese Fake News on Twitter during the COVID-19 Pandemic
本文提出一种新型分类器,用于检测COVID-19大流行期间Twitter上关于中国的中文假新闻,并公开了性能达F1=0.64、准确率93%的模型及含18,425条推文的训练数据集。
2023-04-07 cs.CY cs.SI
Fake News Detection in Social Networks via Crowd Signals
我们的工作考虑利用人群信号来检测假新闻,并受到Facebook最近推出的工具的激励,这些工具使用户能够标记假新闻。通过聚合用户的标记,我们的目标是每天选择一小部分新闻,将它们发送给专家(例如,通过第三方事实核查组织),并阻止被专家认定为假新闻的传播。我们工作的主要目标是通过阻止假新闻在网络中的传播来最大限度地减少错误信息的传播。实现这一目标尤其具有挑战性,因为它需要尽快以高置信度检测假新闻。我们表明,为了有效地利用用户的标志,这是至关重要的是要了解用户的标记的准确性。我们开发了一种新的算法DETECTIVE,它可以执行贝叶斯推理来检测假新闻,并随着时间的推移联合学习用户的标记准确性。我们的算法采用后验采样来积极权衡剥削(选择在给定时期最大化客观价值的新闻)和探索(选择最大化信息价值的新闻,以了解用户的标记准确性)。我们通过广泛的实验证明了我们方法的有效性,并展示了利用社区信号进行假新闻检测的能力。
2018-03-02 cs.SI
Dac-Fake: A Divide and Conquer Framework for Detecting Fake News on Social Media
Malaviya National Institute of Technology(马拉维亚国立技术学院);Madhav Institute of Technology & Science(马达夫科技学院)
本文提出DaCFake模型,采用分而治之策略融合内容与上下文特征,结合八十多个语言特征和词嵌入方法,在三个数据集上取得高准确率,用于社交媒体虚假新闻的快速早期检测。
2025-08-22 cs.LG cs.SI
TIB's Visual Analytics Group at MediaEval '20: Detecting Fake News on Corona Virus and 5G Conspiracy
TIB – Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心);L3S Research Center, Leibniz University Hannover(汉诺威莱布尼茨大学L3S研究中心)
社交媒体上的假新闻已经成为研究的热点,因为它对公众真实新闻的话语产生了负面影响。具体而言,持续的COVID-19疫情导致不准确及具误导性的信息增加,原因是疫情初期的争议及未知细节。MediaEval 2020的FakeNews任务通过创建一个挑战来解决这个问题,该挑战是基于Twitter追随者网络的文本和结构自动检测包含错误信息的推文。在本文中,我们提出了一个简单的方法,使用BERT嵌入和浅神经网络分类推文只使用文本,并讨论我们的研究结果和局限性的方法在基于文本的错误信息检测。
2021-01-10 cs.CL cs.SI
Check-It: A Plugin for Detecting and Reducing the Spread of Fake News and Misinformation on the Web
University of Cyprus(塞浦路斯大学);University of Crete(克里特大学)
在过去的几年里,我们目睹了网络上错误信息的增加。人们在日常生活中成为假新闻的受害者,并在有意或无意中帮助其进一步传播。已经有许多举措试图减轻假新闻造成的损害,重点关注来自领域标志列表、在线社交网络或人工智能的信号。在这项工作中,我们提出了Check-It,这是一个系统,它以智能的方式将各种信号组合到一个用于假新闻识别的管道中。Check-It是一个网页浏览器插件,旨在有效及时地检测假新闻,尊重用户的隐私。实验结果表明,Check-It能够优于国家的最先进的方法。在一个由900万篇被标记为虚假和真实的文章组成的数据集上,Check-It获得了超过99%的分类准确率。
2019-05-10 cs.CL cs.CY cs.SI
Unseen Fake News Detection Through Casual Debiasing
The University of Melbourne(墨尔本大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织Data61)
针对现有假新闻检测方法难以应对未见新闻的问题,通过因果分析识别训练数据中的领域偏差,提出基于分类置信度重加权和传播结构正则化的去偏方法FNDCD,有效提升了模型在跨领域未见假新闻上的检测泛化能力。
2025-03-06 cs.AI cs.SI
Detecting fake review buyers using network structure: Direct evidence from Amazon
本文利用亚马逊真实虚假评论数据,提出基于产品—评论者网络结构的检测方法,发现虚假评论买家在网络中高度聚集,并通过无监督聚类实现高精度且抗操纵的虚假评论识别。
2024-10-23 cs.SI econ.GN physics.soc-ph
Spotting Suspicious Reviews via (Quasi-)clique Extraction
如何判断一个评论是真的还是假的?虚假审查的黑社会是什么样子的?检测可疑评论已成为许多在线服务的主要问题。我们建议使用一个可疑的发现方法来发现组织良好的可疑评论。从一个拥有超过100万条评论的Yelp数据集中,我们构建了多个评论者相似度图,以链接具有异常相似行为的用户:如果两个评论者在几天内评论了同一组场地,则在图中连接。从这些图中,我们的算法提取了许多大的集团和准集团,最大的一个包含了惊人的11个用户,他们以相同的方式协调他们的评论活动。在检测到的集团中,很大一部分包含Yelp童子军,他们由Yelp支付费用,以审查新地区的场地。我们的工作揭示了他们鲜为人知的运作。
2015-09-19 cs.SI
SybilBlind: Detecting Fake Users in Online Social Networks without Manual Labels
检测在线社交网络中的假冒用户(也称为Sybils)是一个基本的安全研究问题。最先进的方法依赖于大量手动标记的用户作为训练集。这些方法受到三个关键限制:1)手动标记大型训练集是耗时且昂贵的,2)它们不能及时检测新的Sybil,以及3)它们容易受到利用训练集信息的Sybil攻击。在这项工作中,我们提出了SybilBlind,一个基于结构的Sybil检测框架,不依赖于手动标记的训练集。SybilBlind在与最先进的基于结构的方法相同的威胁模型下工作。我们使用1)合成Sybils的社交网络和2)真实Sybils的两个Twitter数据集来证明SybilBlind的有效性。例如,SybilBlind在Twitter数据集上实现了0.98的AUC。
2018-06-13 cs.CR cs.SI
Hy-DeFake: Hypergraph Neural Networks for Detecting Fake News in Online Social Networks
针对社交媒体假新闻检测中文本信息缺失和简单图无法建模高阶关系的问题,提出基于超图神经网络的Hy-DeFake方法,捕获语义、可信度及高阶相关性,在四个数据集上优于八个基线。
2023-12-23 cs.SI
Detecting Fake News on Social Media: A Novel Reliability Aware Machine-Crowd Hybrid Intelligence-Based Method
Hefei University of Technology(合肥工业大学);University of Delaware(特拉华大学)
针对现有混合智能假新闻检测方法未考虑可靠性的问题,提出含三个模块的RAHI方法,结合贝叶斯深度学习、IRT用户聚合与分布融合机制,在Weibo数据集上表现优异,对多类主体有实用价值。
2024-12-07 cs.AI cs.LG cs.SI
In a World That Counts: Clustering and Detecting Fake Social Engagement at Scale
依赖于用户生成内容的Web服务如何区分垃圾邮件发送者的虚假社交活动和合法社交活动?在本文中,我们专注于YouTube的社交网站和识别不良行为者发布无机内容和膨胀的社会参与指标的计数的问题。我们提出了一种有效的方法,Leas(Local Expansion at Scale),并展示了如何通过分析基于用户和YouTube视频之间的参与行为模式的时间图来跟踪YouTube上的虚假参与活动。与垃圾邮件种子的领域知识,我们制定和解决问题的半监督的方式-与搜索的个人,具有类似的行为模式作为已知的种子-基于图扩散过程通过局部谱子空间的目标。我们提供了一个快速,可扩展的MapReduce部署适应本地化谱聚类算法。我们通过在实践中实现YouTube评论图上98%的手动审查准确率来证明我们在Google部署的有效性。与最先进的CopyCatch算法相比,Leas的运行时间快了10倍。Leas在Google积极使用,在YouTube的参与度图上搜索超过10亿用户的日常欺骗行为。
2016-01-20 cs.SI
Fake News Detection using Temporal Features Extracted via Point Process
许多人使用社交网络服务(SNS)来轻松访问各种新闻。有很多方法可以获取和分享“假新闻”,即带有虚假信息的新闻。为了解决假新闻,已经进行了几项研究,通过使用SNS提取的特征来检测假新闻。在这项研究中,我们试图使用时间特征生成的SNS帖子使用点处理算法来识别假新闻从真正的新闻。假新闻检测中的时间特征具有鲁棒性优于现有特征的优点,因为它对假新闻传播者的依赖性最小。此外,我们提出了一种新的基于多模态注意力的方法,该方法包括语言和用户特征以及时间特征,用于检测SNS帖子中的假新闻。在三个公开数据集上的实验结果表明,与现有方法相比,该模型具有更好的性能,并证明了时间特征在虚假新闻检测中的有效性。
2020-07-28 cs.CY cs.SI
Towards Smart Fake News Detection Through Explainable AI
National Institute of Technology Calicut(国家理工学院卡利卡特分校)
由于社交媒体网站的受欢迎程度,人们现在将其视为唯一的信息来源。大多数人通过社交媒体获取新闻。与此同时,近年来假新闻在社交媒体平台上呈指数级增长。几种基于人工智能的检测假新闻的解决方案已经显示出令人鼓舞的结果。另一方面,这些检测系统缺乏解释能力,即,解释他们为什么做出预测的能力。本文重点介绍了可解释的假新闻检测的最新技术水平。我们讨论了当前基于人工智能的可解释假新闻检测模型的缺陷,并介绍了我们正在进行的多模态可解释假新闻检测模型的研究。
2022-07-23 cs.AI cs.IR cs.SI
Detecting Fake News with Weak Social Supervision
有限的标记数据正成为监督学习系统的最大瓶颈。这对于许多现实世界的任务来说尤其如此,在这些任务中,由于隐私或数据访问限制,大规模注释的示例要么太昂贵而无法获得,要么不可用。弱监督已被证明是一种很好的手段,可以通过利用弱标签或注入来自启发式规则和/或外部知识源的约束来缓解注释数据的稀缺性。社交媒体几乎没有标记数据,但具有独特的特征,使其适合产生弱监管,从而产生一种新型的弱监管,即,社会监督不力。在这篇文章中,我们说明了社交媒体的各个方面如何被用来产生弱社会监督。具体来说,我们使用最近关于假新闻检测的研究作为用例,其中社会参与丰富,但注释示例很少,以表明在面临标签数据很少的问题时,弱社会监督是有效的。这篇文章为其他新兴任务的学习打开了社会监督薄弱的大门。
2020-05-26 cs.IR cs.SI
Detection of opinion spam based on anomalous rating deviation
既得利益者发布虚假评论已经成为消费者在决策中使用在线产品评论的严重问题。为了解决这个问题,已经提出了许多方法来检测这些虚假评论,称为意见垃圾。然而,到目前为止,这些方法中的许多都集中在对综述文本的分析上,使得它们不适合于许多综述系统,其中,伴随文本是可选的,或者是不可能的。此外,这些方法通常在计算上是昂贵的,需要大量的资源来处理通常涉及的数据规模上的文本分析。在本文中,我们认为意见垃圾邮件制造者操纵的平均收视率的产品,专注于垃圾邮件评级和诚实的评论家的大多数意见之间的差异。我们提出了一个轻量级的,有效的方法来检测意见垃圾邮件发送者的基础上,这些差异。该方法使用二项回归来识别具有偏离大多数意见的异常比例的评级的评审员。在真实数据和合成数据上的实验表明,该方法能够成功地识别意见垃圾邮件发送者。与目前的最先进的方法,也只基于评级的比较表明,我们的方法是能够实现类似的检测精度,同时消除了需要对垃圾邮件和非垃圾邮件的评论的概率,并减少了学习所需的繁重的计算。
2016-08-02 cs.SI
Integrating Human-in-the-loop into Swarm Learning for Decentralized Fake News Detection
Prairie View A&M University(普雷里维尤农工大学)
社交媒体已成为产生和传播假新闻的有效平台,这些假新闻可能会误导人们,甚至扭曲舆论。然而,用于假新闻检测的集中式方法在用于训练模型的集中式数据汇集过程中不能有效地保护用户隐私。此外,它不能完全将用户反馈纳入学习检测模型的循环中,以进一步增强假新闻检测。为了克服这些挑战,本文提出了一种新的分散方法,基于人在回路的群学习(HBSL),将用户反馈集成到学习和推理的回路中,以分散的方式识别假新闻,而不会侵犯用户隐私。它由分布式节点组成,能够独立学习和检测本地数据上的假新闻。此外,在这些节点上训练的检测模型可以通过分散的模型合并来增强。实验结果表明,该方法在检测基准数据集上的假新闻方面优于最先进的分散式方法。
2022-01-04 cs.AI cs.LG cs.SI
On the Detection of Reviewer-Author Collusion Rings From Paper Bidding
Carnegie Mellon University(卡内基梅隆大学)
本研究针对会议论文投标中审稿人组成共谋圈操纵评审分配的问题,通过两个真实会议数据集实证分析现有欺诈检测算法,发现现有工具难以有效检测共谋圈,提出需开发更复杂、可利用额外元数据的检测算法。
2024-03-10 cs.AI cs.GT cs.SI
The Rise of Guardians: Fact-checking URL Recommendation to Combat Fake News
大量的研究工作和努力都集中在检测假新闻和建立在线事实核查系统上,以便尽快揭穿假新闻。尽管存在这些系统,但假新闻仍然被在线用户广泛分享。这表明这些系统可能没有得到充分利用。在发现假新闻后,下一步是什么来阻止人们分享它?我们如何改进对这些事实核查系统的利用?为了填补这一空白,在本文中,我们(i)收集和分析被称为监护人的在线用户,他们通过引用事实检查URL来纠正在线讨论中的错误信息和假新闻;(ii)提出一种新的事实检查URL推荐模型,以鼓励监护人更多地参与事实检查活动。我们发现,监护人通常用不到一天的时间来回复在线对话中的声明,然后再花一天的时间将经过验证的信息传播给数亿粉丝。我们提出的推荐模型的性能优于四个国家的最先进的模型11%~ 33%。我们的源代码和数据集可以在https://github.com/nguyenvo09/CombatingFakeNews上找到。
2019-10-09 cs.IR cs.SI
Knowledge Enhanced Multi-modal Fake News Detection
近年来,各种类型的假新闻造成了重大损害。虽然已经付出了相当大的努力来解决这个问题,并在检测假新闻方面取得了很大进展,但大多数现有方法主要依赖于文本内容和/或社会背景,而知识级信息-从新闻内容中提取的实体及其之间的关系-探索得少得多。在基于知识的假新闻检测的有限工作中,通常需要外部知识图,这可能会引入额外的问题:在现有的知识图谱中,实体和关系,特别是关于新概念的实体和关系,是非常常见的,并且实体预测和链接预测本身都是开放的研究问题。因此,在这项工作中,我们研究了\textbf{knowledge-based fake news detection that does not require any external knowledge graph.}具体来说,我们的贡献包括:(1)将检测假新闻的问题转化为子图分类任务-从每个新闻项中提取实体和关系,形成单个知识图谱,其中新闻项由子图表示。然后训练一个图神经网络(GNN)模型对每个子图/新闻项进行分类。(2)通过一个简单但有效的多模态技术,结合提取的知识,文本内容和社会背景,进一步提高该模型的性能。在多个数据集上的实验表明,我们的基于知识的算法优于现有的同类方法,其性能可以进一步提高多模态方法。
2021-08-10 cs.SI
Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks
Arizona State University(亚利桑那州立大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Bytedance(字节跳动);Illinois Institute of Technology(伊利诺伊理工学院)
如今,假新闻很容易通过在线社交网络传播,成为对个人和社会的巨大威胁。评估新闻的真实性是具有挑战性的,因为其精心编造的内容,使得很难获得大规模的假新闻数据注释。由于这种数据稀缺性问题,检测假新闻往往会失败,并且在监督环境中过度拟合。最近,图神经网络(GNN)已被采用,以利用标记和未标记的实例之间的更丰富的关系信息。尽管它们的结果很有希望,但它们本质上专注于新闻之间的成对关系,这可能会限制捕捉在群体层面传播的假新闻的表达能力。例如,当我们更好地理解易感用户之间共享的新闻片段之间的关系时,检测假新闻可能会更有效。为了解决这些问题,我们建议利用超图来表示新闻之间的群体互动,同时利用其双层注意力机制来关注重要的新闻关系。基于两个基准数据集的实验表明,我们的方法产生了显着的性能,并保持高性能,即使是一个小的子集标记的新闻数据。
2022-12-24 cs.LG cs.SI
Credibility-based Fake News Detection
Syracuse University(雪城大学)
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中,我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据,我们发现新闻来源(和作者)的信息可以成为可信度的一个强有力的指标。我们的研究结果表明,作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法,其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Interactively Learning Social Media Representations Improves News Source Factuality Detection
Purdue University(普渡大学)
针对假新闻传播中社交媒体环境难以自动建模、全量人工核查不可扩展的问题,本文提出人机交互式学习方法,借助少量人工反馈改进社交媒体表征,并在真实事件上提升新闻来源事实性检测性能。
2023-09-26 cs.AI cs.CL cs.SI
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University(佛罗里达州立大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
近年来,由于在线社交网络的蓬勃发展,出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语,在线社交网络用户很容易被这些在线假新闻所感染,这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法,并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征,FAKEDETECTOR构建了一个深度扩散网络模型,同时学习新闻文章,创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验,将FAKEDETECTOR与几种最先进的模型进行了比较,实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
Hierarchical Propagation Networks for Fake News Detection: Investigation and Exploitation
从社交媒体上消费新闻正变得越来越受欢迎。然而,社交媒体也使假新闻得以传播。由于社交媒体带来的不利影响,虚假新闻检测越来越受到关注。然而,仅从新闻内容中检测假新闻的性能通常是有限的,因为假新闻被编写为模仿真实新闻。在现实世界中,新闻通过社交媒体上的传播网络传播。新闻传播网络通常涉及多个层次。在本文中,我们研究了具有挑战性的问题,调查和利用社会媒体上的新闻分层传播网络的假新闻检测。为了理解新闻传播网络与假新闻之间的相关性,本文首先从宏观和微观两个层面构建了假新闻和真新闻的层次传播网络,然后对假新闻和真新闻的传播网络的语言、结构和时间特征进行了对比分析,展示了利用这些特征检测假新闻的潜力。第三,我们展示了这些传播网络特征对虚假新闻检测的有效性。我们进一步验证了这些功能的有效性,从功能的重要性分析。总而言之,这项工作提出了分层传播网络和假新闻的数据驱动视图,并为更健康的在线新闻生态系统铺平了道路。
2019-03-21 cs.SI
FakeNewsNet: A Data Repository with News Content, Social Context and Spatialtemporal Information for Studying Fake News on Social Media
社交媒体已经成为人们消费新闻的流行手段。同时,它也使假新闻得以广泛传播,即,新闻故意虚假信息,给社会带来重大负面影响。因此,假新闻检测越来越受到关注。然而,假新闻检测是一项不平凡的任务,它需要多源信息,如新闻内容,社会背景和动态信息。首先,假新闻是为了愚弄人们而写的,这使得很难简单地根据新闻内容来检测假新闻。除了新闻内容,我们还需要探索社交环境,如用户参与和社交行为。例如,一个可信的用户评论“这是一个假新闻”,这是检测假新闻的一个强烈信号。其次,动态信息,如假新闻和真新闻如何传播以及用户对新闻的看法,对于提取(早期)假新闻检测和干预的有用模式非常重要。因此,包含新闻内容,社会背景和动态信息的综合数据集可以促进假新闻的传播,检测和缓解;而据我们所知,现有的数据集只包含一个或两个方面。因此,为了方便假新闻相关研究,本文提供了一个假新闻数据库FakeNewsNet,其中包含两个全面的数据集,包括新闻内容,社会背景和动态信息。我们全面描述了数据集收集,从不同角度展示了对该数据库的探索性分析,并讨论了FakeNewsNet在社交媒体假新闻研究中的潜在应用的好处。
2019-03-27 cs.SI
Beyond News Contents: The Role of Social Context for Fake News Detection
社交媒体因其传播速度快、访问方便、成本低而成为新闻消费的热门。然而,它也使假新闻的广泛传播成为可能,即,故意发布虚假信息的新闻。检测假新闻是一项重要的任务,不仅可以确保用户获得真实的信息,还有助于维护一个值得信赖的新闻生态系统。现有的大多数检测算法都集中在从新闻内容中寻找线索,这通常是无效的,因为假新闻通常是故意通过模仿真实新闻来误导用户。因此,我们需要探索辅助信息来提高检测。社交媒体上新闻传播过程中的社会语境形成了固有的三重关系,即发布者、新闻作品和用户之间的关系,这对提高虚假新闻的检测具有潜在的意义。例如,有党派偏见的出版商更有可能发布假新闻,而低可信度的用户更有可能分享假新闻。在本文中,我们研究了利用社会背景进行假新闻检测的新问题。我们提出了一个三关系嵌入框架TriFN,它同时为假新闻分类建模了商家-新闻关系和用户-新闻交互。我们在两个真实世界的数据集上进行了实验,结果表明,所提出的方法在假新闻检测方面明显优于其他基线方法。
2018-12-10 cs.SI
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame(圣母大学)
近年来,由于在线社交网络的蓬勃发展,检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在,采用倾向分数匹配(PSM)方法选择可泛化特征,以减少混杂变量的影响。实验结果表明,使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法(分类器),如逻辑回归,随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
Mining Disinformation and Fake News: Concepts, Methods, and Recent Advancements
Arizona State University(亚利桑那州立大学);The Penn State University(宾夕法尼亚州立大学)
近年来,包括假新闻在内的虚假信息因其爆炸性增长而成为一种全球现象,特别是在社交媒体上。虚假信息和假新闻的广泛传播会造成有害的社会影响。尽管最近在检测虚假信息和假新闻方面取得了进展,但由于其复杂性,多样性,多模态以及事实检查或注释的成本,它仍然是不平凡的。本章的目标是通过以下方式为理解挑战和进步铺平道路:(1)介绍社交媒体上的信息障碍类型,并检查它们的差异和联系;(2)描述重要的和新兴的任务,以打击虚假信息的特征,检测和归因;(3)讨论弱监管方法,以检测有限的标记数据的虚假信息。然后,我们提供了本书中代表三个相关部分的最新进展的章节的概述:(1)用户参与信息传播混乱;(2)检测和减轻虚假信息的技术;以及(3)道德,区块链,点击诱饵等趋势问题。我们希望这本书成为研究人员,从业者,和学生了解的问题和挑战,学习国家的最先进的解决方案,为他们的特定需求,并迅速确定在他们的领域新的研究问题。
2020-01-02 cs.CL cs.SI
ColluEagle: Collusive review spammer detection using Markov random fields
School of Information Science and Engineering, Shenyang Ligong University(沈阳理工大学信息科学与工程学院);University of Arkansas at Little Rock(阿肯色大学小石城分校)
产品评论对于在线购物者提供购买决策非常有价值。在巨大的利润动机的驱使下,欺诈者故意编造不真实的评论来扭曲在线产品的声誉。随着在线评论变得越来越重要,群体垃圾邮件,即,一个诈骗团队合作攻击一组目标产品,成为一种新的时尚。以前的作品使用评论网络效应,即评论者,评论和产品之间的关系,以检测虚假评论或评论垃圾邮件发送者,但忽略了时间效应,这是关键的特征组垃圾邮件。在本文中,我们提出了一种新的马尔可夫随机场(MRF)为基础的方法(ColluEagle)来检测合谋审查垃圾邮件发送者,以及审查垃圾邮件活动,同时考虑网络效应和时间效应。首先,我们确定共同审查对,审查的现象,发生在两个审查者之间的审查共同的产品以类似的方式,然后模型的审查者和他们的共同审查对作为一个成对的MRF,并使用循环的信念传播来评估审查者的怀疑。我们进一步为ColluEagle设计了一个高质量但易于计算的节点,通过该节点可以识别评论垃圾邮件发送者群体。实验表明,ColluEagle不仅可以高精度地检测合谋垃圾邮件发送者,显著优于最先进的基线- FraudEagle和SpEagle,而且还可以识别高度可疑的评论垃圾邮件发送者活动。
2019-11-05 cs.IR cs.LG cs.SI
FakeSwarm: Improving Fake News Detection with Swarming Characteristics
Georgia Institute of Technology(佐治亚理工学院);Trine University(特里尼大学)
本文提出FakeSwarm虚假新闻识别系统,通过主成分分析、度量表示和位置编码三类群体特征,在公开数据集上取得超过97%的f1分数和准确率,并验证了群体特征在早期虚假新闻和文本样本短缺场景下能显著提升召回率。
2023-05-30 cs.LG cs.SI
Detecting Manipulated Contents Using Knowledge-Grounded Inference
Technical University of Munich(慕尼黑技术大学);University of Waterloo(滑铁卢大学);The University of Queensland(昆士兰大学)
本文提出Manicod工具,通过RAG技术结合LLM推理,利用实时检索的上下文信息检测零日被操纵内容,并在包含4270条假新闻的数据集上取得0.856的F1分数,显著优于现有方法。
2025-04-29 cs.CL cs.SI
The Role of User Profile for Fake News Detection
从社交媒体上消费新闻正变得越来越受欢迎。社交媒体因其信息传播速度快、成本低、访问方便而吸引用户。然而,社交媒体也使假新闻得以传播。由于假新闻的社会危害性,对假新闻的检测越来越受到人们的关注。然而,仅使用新闻内容的检测性能通常不令人满意,因为假新闻是模仿真实新闻编写的。因此,有必要深入了解社交媒体上的用户简档与假新闻之间的关系。在本文中,我们研究了理解和利用社交媒体上的用户简档进行假新闻检测的挑战性问题。为了理解用户简档与假新闻之间的联系,首先,我们测量了用户在社交媒体上的分享行为,并将更有可能分享假新闻和真新闻的代表性用户分组;然后,我们对这些用户组之间的显式和隐式档案特征进行了比较分析,揭示了它们有助于区分假新闻和真新闻的潜力。为了利用用户简档功能,我们证明了这些用户简档功能在假新闻分类任务中的有用性。我们进一步验证这些功能的有效性,通过特征重要性分析。本文的研究成果为进一步深入挖掘社交媒体的用户简档特征,增强对虚假新闻的检测能力奠定了基础。
2019-04-30 cs.IR cs.SI
Exploring the Role of Visual Content in Fake News Detection
社交媒体的日益普及促进了假新闻的扩散,造成了重大的负面社会影响。因此,社交媒体上的假新闻检测最近成为备受关注的新兴研究领域。随着多媒体技术的发展,假新闻试图利用带有图像或视频的多媒体内容吸引和误导消费者进行快速传播,这使得视觉内容成为假新闻的重要组成部分。尽管视觉内容很重要,但我们对视觉内容在假新闻检测中的作用的理解仍然有限。本章对虚假新闻中的视觉内容进行了全面的综述,包括多媒体虚假新闻检测的基本概念、有效的视觉特征、典型的检测方法和挑战性问题。本章可以帮助读者理解视觉内容在假新闻检测中的作用,并有效地利用视觉内容来辅助检测多媒体假新闻。
2020-03-11 cs.MM cs.SI
Tensor Factorization with Label Information for Fake News Detection
所谓的“假新闻”引发了人们对媒体环境退化的担忧,并导致了对技术解决方案的需求。随着假新闻的检测越来越被认为是一个技术问题,它吸引了大量的研究。这些研究主要集中在利用从文本新闻内容中提取的信息。相比之下,我们专注于仅基于社交网络的结构信息来检测假新闻。我们认为,分享假新闻的用户的底层网络连接具有足够的辨别力,可以支持对假新闻的检测。因此,我们将每个帖子建模为友谊交互网络,并将帖子集合表示为多维张量。考虑到可用的标记数据,我们提出了一种张量分解方法,将数据样本的类标签与它们的潜在表示相关联。具体来说,我们结合了分类误差项与标准的因式分解在一个统一的优化过程。现实世界数据集上的结果表明,我们提出的方法通过实施一种可以说更简单的方法,与最先进的方法相比具有竞争力。
2019-08-11 cs.IR cs.SI
SOK: Fake News Outbreak 2021: Can We Stop the Viral Spread?
Tampere University(坦佩雷大学);Technical University of Denmark(丹麦技术大学)
社交网络的无所不在和易用性已经彻底改变了当今世界信息的生成和分发。然而,容易获得信息并不等于公众知识水平的提高。与传统媒体渠道不同,社交网络还促进了虚假信息和错误信息更快、更广泛的传播。虚假信息的病毒式传播对公众的行为、态度和信仰产生严重影响,最终可能严重危及民主进程。通过早期发现和控制广泛传播来限制虚假信息的负面影响是当今研究人员面临的主要挑战。在这篇调查论文中,我们广泛分析了现有文献中早期发现假新闻的各种不同解决方案。更确切地说,我们研究了机器学习(ML)模型,用于识别和分类假新闻,在线假新闻检测竞赛,统计输出以及一些可用数据集的优点和缺点。最后,我们评估了可用于检测和减轻假新闻的在线网络浏览工具,并提出了一些开放的研究挑战。
2021-05-22 cs.LG cs.SI
Exploring the Deceptive Power of LLM-Generated Fake News: A Study of Real-World Detection Challenges
Virginia Tech(弗吉尼亚理工大学);Amazon(亚马逊公司)
针对LLM假新闻攻击依赖人工收集信息且易失真的问题,本文提出VLPrompt攻击方法并构建VLPFN数据集,通过多种检测器与人类研究评估其检测挑战。
2024-04-08 cs.CL cs.SI
Exploiting Multi-domain Visual Information for Fake News Detection
社交媒体的日益普及促进了假新闻的泛滥。随着多媒体技术的发展,假新闻试图利用带有图像或视频的多媒体内容吸引和误导读者进行快速传播,这使得视觉内容成为假新闻的重要组成部分。假新闻图片,即假新闻帖子中附带的图片,不仅包括被恶意篡改的假图片,还包括被错误地用来表示不相关事件的真实图片。因此,如何充分利用假新闻图像的固有特征是假新闻检测的一个重要而又具有挑战性的问题。在现实世界中,假新闻图像可能在物理和语义层面上都具有与真实新闻图像显著不同的特征,这些特征可以分别在频率和像素域中清楚地反映出来。因此,我们提出了一种新的框架多域视觉神经网络(MVNN)融合的频域和像素域的视觉信息检测假新闻。具体来说,我们设计了一个基于CNN的网络来自动捕获频域中假新闻图像的复杂模式;并利用多分支CNN-RNN模型从像素域中的不同语义层次提取视觉特征。利用注意力机制动态融合频域和像素域的特征表示。在真实世界数据集上进行的大量实验表明,MVNN的准确率至少为9.2%,优于现有方法,并且可以帮助将多模态假新闻检测的性能提高5.2%以上。
2019-08-13 cs.IR cs.MM cs.SI
Overview of the CLEF--2021 CheckThat! Lab on Detecting Check-Worthy Claims, Previously Fact-Checked Claims, and Fake News
Qatar Computing Research Institute HBKU(卡塔尔计算研究所(HBKU));University of Padova(帕多瓦大学);Qatar University(卡塔尔大学);DIT Università di Bologna(博洛尼亚大学DIT学院);Newtral Media Audiovisual;Sofia University(索非亚大学);University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Applied Sciences Potsdam(波茨坦应用科学大学);University of Hildesheim(希尔德斯海姆大学);TOBB University of Economics and Technology(托普卡帕经济与技术大学)
我们描述了第四版的CheckThat!实验室,2021年会议和评估论坛实验室(CLEF)的一部分。该实验室评估与真实性相关的技术支持任务,涵盖阿拉伯语,保加利亚语,英语,西班牙语和土耳其语。任务1要求预测Twitter流中哪些帖子值得进行事实核查,重点关注COVID-19和政治(所有五种语言)。任务2要求确定推文中的声明是否可以使用一组先前经过事实检查的声明(阿拉伯语和英语)进行验证。任务3要求预测一篇新闻文章的真实性及其主题域(英语)。该评估是基于平均平均精度或精度在排名k的排名任务,和宏F1的分类任务。就团队注册而言,这是最受欢迎的CLEF-2021实验室:132支团队。其中近三分之一的人参加了比赛:分别有15、5和25支球队提交了任务1、2和3的正式比赛。
2021-09-23 cs.CL cs.IR cs.LG
FR-Detect: A Multi-Modal Framework for Early Fake News Detection on Social Media Using Publishers Features
University of Zanjan(赞詹大学)
近年来,随着互联网的扩张和有吸引力的社交媒体基础设施,人们更喜欢通过这些媒体关注新闻。尽管这些媒体在新闻领域拥有诸多优势,但由于缺乏任何控制和核查机制,导致假新闻泛滥,成为对民主、经济、新闻业和表达自由的最重要威胁之一。设计和使用自动方法来检测社交媒体上的假新闻已成为一项重大挑战。在本文中,我们研究了出版商在检测社交媒体上的假新闻方面的作用。我们还提出了一个高精度的多模态框架,即FR检测,使用用户相关和内容相关的功能与早期检测能力。为此目的,已为出版商引入两项与用户有关的新功能,即活动可信度和影响力。此外,还提供了一个基于文本级的卷积神经网络,以将这些特征与潜在文本内容特征适当地结合起来。实验结果表明,发布者的功能可以提高基于内容的模型的性能高达13%和29%的准确率和F1分数,分别。
2021-09-10 cs.CL cs.LG cs.SI