On Analyzing Estimation Errors due to Constrained Connections in Online Review Systems
约束连接是指由于兴趣范围狭窄或注意力有限,评论者只能评论产品/服务的一个子集的现象。在这项工作中,我们研究了约束连接如何影响在线审查系统(ORS)的估计性能。我们发现,审查者的约束连接会导致估计性能差,无论是从估计精度和贝叶斯克拉默-拉奥下限的测量。
2013-07-14 cs.LG cs.SI
Anger makes fake news viral online
操纵政治选举、打击金融系统、甚至煽动骚乱的假新闻比网上的真实新闻更具有病毒性,导致社会不稳定和民主受到冲击。网上假新闻更容易传播,可以用它携带的更大愤怒来解释。在Twitter和微博中的相同结果表明,该机制是独立于平台的。此外,情绪的突变,如愤怒的增加,会逐渐加快信息的传播。具体来说,在微博数据集中增加0.1的愤怒占据和减少0.1的喜悦占据将产生近6个转发。离线问卷调查显示,愤怒导致更多的激励观众在焦虑管理和信息共享方面,因此使假新闻比真实新闻更具传染性。可以实施在社交媒体上标记愤怒等治疗方法,以减缓或防止假新闻在源头的传播。
2020-08-27 cs.CY cs.SI
Detecting and Characterizing Extremist Reviewer Groups in Online Product Reviews
IIIT-Delhi(德里英德拉普拉斯塔信息技术学院)
在线市场经常以评论的形式见证意见垃圾。人们经常被雇佣来针对特定的品牌,通过撰写高度积极或消极的评论来促进或阻碍他们。这通常是在群体中集体完成的。虽然之前的一些研究试图识别和分析这样的意见垃圾群体,但很少有人探索发现那些针对整个品牌而不仅仅是产品的群体。在本文中,我们收集了来自亚马逊产品评论网站的评论,并手动标记了一组923个候选评论者组。使用频繁项集挖掘的品牌相似性,使用户聚集在一起,如果他们有相互审查(产品)的很多品牌提取组。我们假设,评审组的性质取决于特定于(组,品牌)对的8个特征。我们开发了一个基于特征的监督模型来将候选团体分类为极端主义实体。我们运行多个分类器,根据该组用户撰写的评论对该组进行分类,以确定该组是否显示出极端的迹象。基于3层感知器的分类器是最好的分类器。我们进一步详细研究了这些群体的行为,以更好地了解品牌级意见欺诈的动态。这些行为包括评分的一致性、评论情绪、已验证的购买、评论日期和对评论的有用投票。令人惊讶的是,我们观察到有很多经过验证的评论者表现出极端的情绪,经过进一步调查,这些评论者找到了规避现有机制的方法,以防止亚马逊上的非官方激励措施。
2020-04-13 cs.LG cs.SI
Polarization and Fake News: Early Warning of Potential Misinformation Targets
用户极化和确认偏差在网络社交媒体上的错误信息传播中起着关键作用。我们的目标是利用这些信息提前确定恶作剧和假新闻的潜在目标。在本文中,我们介绍了一个通用框架,用于及时识别社交媒体上的两极分化内容,从而“预测”未来的假新闻话题。我们验证了所提出的方法在意大利Facebook数据集上的性能,表明我们能够以77%的准确率识别易受错误信息影响的主题。此外,这些信息可以作为新特征嵌入到能够以91%的准确率识别假新闻的附加分类器中。我们的方法的新颖之处在于考虑了一系列与在线社交媒体上用户行为相关的特征,为平滑两极分化和缓解错误信息现象迈出了重要的第一步。
2018-02-05 cs.SI
Detection of opinion spam based on anomalous rating deviation
既得利益者发布虚假评论已经成为消费者在决策中使用在线产品评论的严重问题。为了解决这个问题,已经提出了许多方法来检测这些虚假评论,称为意见垃圾。然而,到目前为止,这些方法中的许多都集中在对综述文本的分析上,使得它们不适合于许多综述系统,其中,伴随文本是可选的,或者是不可能的。此外,这些方法通常在计算上是昂贵的,需要大量的资源来处理通常涉及的数据规模上的文本分析。在本文中,我们认为意见垃圾邮件制造者操纵的平均收视率的产品,专注于垃圾邮件评级和诚实的评论家的大多数意见之间的差异。我们提出了一个轻量级的,有效的方法来检测意见垃圾邮件发送者的基础上,这些差异。该方法使用二项回归来识别具有偏离大多数意见的异常比例的评级的评审员。在真实数据和合成数据上的实验表明,该方法能够成功地识别意见垃圾邮件发送者。与目前的最先进的方法,也只基于评级的比较表明,我们的方法是能够实现类似的检测精度,同时消除了需要对垃圾邮件和非垃圾邮件的评论的概率,并减少了学习所需的繁重的计算。
2016-08-02 cs.SI
Sneak into Devil's Colony- A study of Fake Profiles in Online Social Networks and the Cyber Law
在线社交网络(OSNs)上存储的大量关于用户社交、个人和职业生活的内容不仅吸引了研究人员和社会分析师的注意,也吸引了网络犯罪分子的注意。这些网络犯罪分子通过建立虚假配置文件或设计机器人并利用OSN的漏洞进行非法活动来非法渗透到OSN中。随着技术的发展,网络犯罪日益增多。OSN中的安全和隐私威胁的每日报告不仅需要能够实时的识别和减轻虚假配置文件的智能自动检测系统,而且还需要加强安全和隐私法律以减少网络犯罪。在本文中,我们研究了不同OSN网站上的各种虚假配置文件,例如受损配置文件、克隆配置文件和在线机器人(垃圾邮件机器人、社交机器人、点赞机器人和影响力机器人)以及现有的网络法律,以减轻其威胁。为了设计虚假轮廓检测系统,我们强调了不同类别的虚假轮廓特征,这些特征能够区分不同类型的虚假实体和真实实体。研究人员在构建虚假配置文件检测系统时面临的另一个主要挑战是无法获得虚假用户的特定数据。本文通过提供非常有帮助的数据汇集技术以及一些现有的数据源来解决这一挑战。此外,尝试提出了几种机器学习技术,用于设计不同的假轮廓检测系统。
2018-03-22 cs.CY cs.SI
The Rise of Guardians: Fact-checking URL Recommendation to Combat Fake News
大量的研究工作和努力都集中在检测假新闻和建立在线事实核查系统上,以便尽快揭穿假新闻。尽管存在这些系统,但假新闻仍然被在线用户广泛分享。这表明这些系统可能没有得到充分利用。在发现假新闻后,下一步是什么来阻止人们分享它?我们如何改进对这些事实核查系统的利用?为了填补这一空白,在本文中,我们(i)收集和分析被称为监护人的在线用户,他们通过引用事实检查URL来纠正在线讨论中的错误信息和假新闻;(ii)提出一种新的事实检查URL推荐模型,以鼓励监护人更多地参与事实检查活动。我们发现,监护人通常用不到一天的时间来回复在线对话中的声明,然后再花一天的时间将经过验证的信息传播给数亿粉丝。我们提出的推荐模型的性能优于四个国家的最先进的模型11%~ 33%。我们的源代码和数据集可以在https://github.com/nguyenvo09/CombatingFakeNews上找到。
2019-10-09 cs.IR cs.SI
FAKEDETECTOR: Effective Fake News Detection with Deep Diffusive Neural Network
Florida State University(佛罗里达州立大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
近年来,由于在线社交网络的蓬勃发展,出于各种商业和政治目的的假新闻在网络世界中大量出现并广泛传播。通过欺骗性的话语,在线社交网络用户很容易被这些在线假新闻所感染,这已经给线下社会带来了巨大的影响。提高在线社交网络中信息可信度的一个重要目标是及时识别假新闻。本文旨在研究从在线社交网络中检测假新闻文章、创作者和主题的原理、方法和算法,并评估相应的性能。本文讨论了假新闻的未知特征以及新闻文章、创作者和主题之间的多种联系所带来的挑战。本文介绍了一种新的自动假新闻可信度推理模型FAKEDETECTOR。基于从文本信息中提取的一组显式和潜在特征,FAKEDETECTOR构建了一个深度扩散网络模型,同时学习新闻文章,创作者和主题的表示。在真实世界的假新闻数据集上进行了大量的实验,将FAKEDETECTOR与几种最先进的模型进行了比较,实验结果证明了所提出的模型的有效性。
2019-08-10 cs.AI cs.NE cs.SI
Mining User-aware Multi-relations for Fake News Detection in Large Scale Online Social Networks
Macquarie University(麦考瑞大学)
用户参与创建和传播新闻是在线社交网络中虚假新闻检测的一个重要方面。直觉上,可信的用户更有可能分享可信的新闻,而不可信的用户传播不可信新闻的概率更高。在本文中,我们构造了一个双层图(即,新闻层和用户层),以提取社交网络中新闻和用户的多种关系,从而导出用于检测假新闻的丰富信息。在双层图的基础上,提出了一个假新闻检测模型Us-DeFake。在新闻层学习新闻的传播特征,在用户层学习用户的交互特征。通过图中的中间层,Us-DeFake将包含可信度信息的用户信号融合到新闻特征中,为假新闻检测提供独特的用户感知的新闻嵌入。训练过程在图采样器获得的多个双层子图上进行,以在大规模社交网络中缩放Us-DeFake。在真实数据集上的大量实验表明了Us-DeFake的优越性,其性能优于所有基线,并且通过交互关系学习的用户可信度信号可以显着提高我们模型的性能。
2023-01-04 cs.AI cs.SI
Spatio-Temporal Graph Representation Learning for Fraudster Group Detection
University of Western Australia(西澳大学)
出于潜在的经济利益,公司可能会雇佣欺诈团体撰写虚假评论,以降级竞争对手或促进自己的业务。这些团体在误导顾客方面更成功,因为人们更容易受到大团体意见的影响。为了检测这样的群体,常见的模型是表示欺诈者群体的静态网络,因此忽略了评审者的纵向行为,从而忽略了群体中评审者之间的共同评审关系的动态。因此,这些方法无法排除离群审查人,即欺诈者故意将自己隐藏在一个群体中,而真正的审查人碰巧在欺诈者群体中共同审查。为了解决这个问题,在这项工作中,我们建议首先利用HIN-RNN在两个审阅者的表示学习中的有效性,同时捕获审阅者之间的协作,我们首先利用HIN-RNN在28天的固定时间窗口内对一个组中的审阅者的共同审阅关系进行建模。我们称之为空间关系学习表示,以表示这项工作的推广到其他网络场景。然后,我们使用一个RNN的空间关系预测的时空关系的评论家在组中。在第三步中,图卷积网络(GCN)使用这些预测的关系来细化审阅者的向量表示。然后使用这些细化的表示来移除离群值审阅者。然后,将其余审查者的表示的平均值馈送到简单的全连接层,以预测该组是否是欺诈者组。该方法的详尽实验表明,在Yelp(Amazon)数据集上,该方法的精度,召回率和F1值分别比最近的三种方法提高了5%(4%),12%(5%),12%(5%)。
2022-01-07 cs.AI cs.LG cs.SI
Detecting fake accounts through Generative Adversarial Network in online social media
本文提出利用生成对抗网络和用户相似性度量,在Twitter数据集中检测假冒账户,实现了80%的AUC分类率。
2025-02-08 cs.AI cs.LG cs.SI
SybilBlind: Detecting Fake Users in Online Social Networks without Manual Labels
检测在线社交网络中的假冒用户(也称为Sybils)是一个基本的安全研究问题。最先进的方法依赖于大量手动标记的用户作为训练集。这些方法受到三个关键限制:1)手动标记大型训练集是耗时且昂贵的,2)它们不能及时检测新的Sybil,以及3)它们容易受到利用训练集信息的Sybil攻击。在这项工作中,我们提出了SybilBlind,一个基于结构的Sybil检测框架,不依赖于手动标记的训练集。SybilBlind在与最先进的基于结构的方法相同的威胁模型下工作。我们使用1)合成Sybils的社交网络和2)真实Sybils的两个Twitter数据集来证明SybilBlind的有效性。例如,SybilBlind在Twitter数据集上实现了0.98的AUC。
2018-06-13 cs.CR cs.SI
Spotting Collective Behaviour of Online Frauds in Customer Reviews
Indraprastha Institute of Information Technology Delhi (IIITD)(德里英德拉普拉斯塔信息技术学院(IIITD));Netaji Subhas University of Technology (NSUT)(内塔吉·苏巴斯科技大学(NSUT))
在线评论在购买任何产品之前决定质量方面发挥着至关重要的作用。不幸的是,垃圾邮件发送者经常利用在线评论论坛撰写欺诈评论来推广/降级某些产品。当这些垃圾邮件发送者勾结并共同注入垃圾邮件评论时,可能会变得更加有害,因为他们可以完全控制用户的情绪,因为他们注入的欺诈评论量很大。因此,组垃圾邮件检测比个人层面的欺诈检测更具挑战性,由于一个组的定义不明确,组间动态的变化,标记的组级垃圾邮件数据的稀缺性等,在这里,我们提出了反欺诈,一种无监督的方法来检测在线欺诈审查组。它首先通过利用底层产品评论图并结合几个行为信号来检测候选欺诈组,这些行为信号模拟了评论者之间的多方面协作。然后,它将评论者映射到一个嵌入空间,并为每个组分配一个垃圾邮件分数,这样,由具有高度相似行为特征的垃圾邮件发送者组成的组就可以获得高的垃圾邮件分数。在与四个真实世界数据集的五个基线(其中两个是由我们策划的)进行比较时,DeFrauder表现出卓越的性能,超过了最佳基线,在整个数据集上NDCG@50(平均)高出17.11%。
2019-07-27 cs.CL cs.SI
Fake Reviews Detection through Ensemble Learning
Texas Tech University(得克萨斯理工大学)
消费者通过在线评论分享他们的体验来表达他们对消费产品的满意度。几种基于机器学习的方法可以自动检测欺骗性和虚假评论。最近,已经有研究报告了基于集成学习的方法与传统机器学习技术相比的性能。基于集成学习的最新发展趋势,本文评估了基于集成学习的方法识别虚假在线信息的性能。我们开发的一些基于集成学习的方法在一系列虚假餐厅评论中的应用表明,这些基于集成学习的方法比传统的机器学习算法更好地检测欺骗性信息。
2020-06-14 cs.LG cs.SI
Hierarchical Propagation Networks for Fake News Detection: Investigation and Exploitation
从社交媒体上消费新闻正变得越来越受欢迎。然而,社交媒体也使假新闻得以传播。由于社交媒体带来的不利影响,虚假新闻检测越来越受到关注。然而,仅从新闻内容中检测假新闻的性能通常是有限的,因为假新闻被编写为模仿真实新闻。在现实世界中,新闻通过社交媒体上的传播网络传播。新闻传播网络通常涉及多个层次。在本文中,我们研究了具有挑战性的问题,调查和利用社会媒体上的新闻分层传播网络的假新闻检测。为了理解新闻传播网络与假新闻之间的相关性,本文首先从宏观和微观两个层面构建了假新闻和真新闻的层次传播网络,然后对假新闻和真新闻的传播网络的语言、结构和时间特征进行了对比分析,展示了利用这些特征检测假新闻的潜力。第三,我们展示了这些传播网络特征对虚假新闻检测的有效性。我们进一步验证了这些功能的有效性,从功能的重要性分析。总而言之,这项工作提出了分层传播网络和假新闻的数据驱动视图,并为更健康的在线新闻生态系统铺平了道路。
2019-03-21 cs.SI
Advanced Machine Learning Techniques for Fake News (Online Disinformation) Detection: A Systematic Mapping Study
UTP University of Science and Technology(UTP科技大学);National Technical University of Athens(雅典国立技术大学);Universidad de Burgos(布尔戈斯大学);Wrocław University of Science and Technology(弗罗茨瓦夫科技大学)
假新闻现在已经成为社会的一个大问题,也是人们对抗虚假信息的一个重大挑战。这一现象困扰着民主选举、个人或组织的声誉,并对公民产生了负面影响(例如,在美国或巴西的COVID-19大流行期间)。因此,通过采用先进的机器学习(ML)方法开发有效的工具来对抗这种现象构成了一个重大挑战。下面的文件显示了目前的知识体系的应用,这种智能工具在打击虚假信息。它首先展示了假新闻在信息战中的历史视角和当前作用。建议的解决方案完全基于专家的工作进行了分析,并指出了最重要的方向,智能系统的应用在错误信息源的检测。此外,本文还介绍了一些有用的资源(主要是在评估用于假新闻检测的ML解决方案时有用的数据集),并简要概述了与该主题相关的最重要的研发项目。这项工作的主要目的是分析目前在检测假新闻方面的知识状况;一方面展示可能的解决方案,另一方面确定主要挑战和方法差距,以激励未来的研究。
2020-12-28 cs.CL cs.SI
TI-CNN: Convolutional Neural Networks for Fake News Detection
Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Florida State University(佛罗里达州立大学)
随着社交网络的发展,出于各种商业和政治目的的假新闻大量出现并在网络世界中蔓延。有了欺骗性的话,人们很容易被假新闻感染,并且会在没有任何事实核查的情况下分享它们。例如,在2016年美国总统大选期间,有关候选人的各种假新闻通过官方新闻媒体和在线社交网络广泛传播。这些假新闻通常是为了诽谤对手或支持他们一边的候选人而发布的。假新闻中的错误信息通常是为了激发选民的非理性情绪和热情而撰写的。这类假新闻有时会带来毁灭性的影响,而提高在线社交网络可信度的一个重要目标就是及时识别假新闻。在本文中,我们提出研究假新闻检测问题。自动识别假新闻是非常困难的,因为基于纯模型的新闻事实核查仍然是一个开放的问题,并且很少有现有的模型可以应用于解决这个问题。通过对假新闻数据的深入研究,从假新闻中使用的文字和图像中识别出了许多有用的显式特征。除了显式特征外,假新闻中使用的文字和图像中还存在一些隐藏的模式,这些模式可以通过我们模型中的多个卷积层提取的一组潜在特征来捕获。本文提出了一种基于文本和图像信息的卷积神经网络模型。通过将显式和潜在特征投影到统一的特征空间中,TI-CNN同时使用文本和图像信息进行训练。在真实世界的假新闻数据集上进行的大量实验证明了TI-CNN的有效性。
2023-01-13 cs.CL cs.SI
The Rise and Fall of Fake News sites: A Traffic Analysis
FORTH/University of Crete(克里特大学/希腊研究与技术基金会);Telefonica Research(西班牙电信研究中心)
在过去的十年里,我们目睹了互联网上错误信息的增加,网络用户不断成为假新闻的受害者。过去的许多研究分析了假新闻的传播机制以及检测和缓解技术。然而,关于他们的运营行为仍然存在一些悬而未决的问题,例如:假新闻网站有多老?他们通常会长时间在线吗?这样的网站是否彼此同步他们的启动和停机时间?它们是否在时间上共享相似的内容?哪些第三方支持其运营?与主流或真正的新闻网站相比,他们吸引了多少用户流量?在本文中,我们进行了首次调查,以回答有关假新闻网站在线存在的问题,并将其行为与真实新闻网站进行比较。基于我们的研究结果,我们构建了一个内容不可知的ML分类器,用于自动检测尚未包含在手动策划黑名单中的假新闻网站(即准确性)。
2021-03-16 cs.CR cs.LG cs.SI
Hoaxy: A Platform for Tracking Online Misinformation
据观察,大量错误信息以不受控制的方式在社交媒体上传播。例子包括谣言,恶作剧,假新闻和阴谋论。与此同时,一些新闻组织投入大量精力,对网上指控进行高质量的事实核查。由此产生的信息级联包含准确和不准确信息的实例,在多个时间尺度上展开,并且通常到达相当大规模的受众。所有这些因素都对在线新闻共享的社会动力学研究提出了挑战。在这里,我们介绍了Hoclave,一个收集,检测和分析在线错误信息及其相关事实核查工作的平台。我们讨论了该平台的设计,并对包含假新闻和事实核查的公共推文样本进行了初步分析。我们发现,总体而言,事实核查内容的共享通常比错误信息的共享滞后10- 20小时。此外,假新闻由非常活跃的用户主导,而事实核查则是一种更草根的活动。随着与大规模在线错误信息相关的风险不断增加,社会新闻观察站有可能帮助研究人员,记者和公众了解真实和虚假新闻共享的动态。
2016-03-04 cs.SI physics.soc-ph
Friend or Foe? Fake Profile Identification in Online Social Networks
最近的研究表明,用户在在线社交网络上不情愿地暴露的个人信息数量惊人。此外,最近的报告表明,这些网络充斥着数以千万计的虚假用户配置文件,这可能危及用户的安全和隐私。为了识别此类网络中的虚假用户并提高用户的安全性和隐私,我们为Facebook开发了Social Privacy Protector软件。该软件包含三个保护层,通过实施不同的方法来提高用户隐私。该软件首先识别用户的朋友谁可能构成威胁,然后限制这个“朋友”暴露于用户的个人信息。第二层是基于不同类型的社交网络使用配置文件对Facebook基本隐私设置的扩展。第三层提醒用户在其Facebook个人资料上安装的应用程序的数量,这些应用程序可以访问他们的私人信息。社交隐私保护软件的初始版本得到了媒体的高度报道,来自20多个国家的3,000多名用户安装了该软件,其中527人使用该软件限制了9000多名朋友。此外,我们估计有100多名用户接受了该软件的建议,并从他们的个人资料中删除了至少1,792个Facebook应用程序。通过分析该软件结合机器学习技术获得的独特数据集,我们开发了分类器,这些分类器能够预测哪些Facebook个人资料具有很高的伪造概率,从而威胁用户的健康。此外,在这项研究中,我们还提供了用户隐私设置的统计数据和Facebook个人资料上安装的应用程序数量的统计数据。
2013-03-15 cs.SI physics.soc-ph
Doing data science with platforms crumbs: an investigation into fakes views on YouTube
本文有助于学术访问社交媒体数据正在进行的讨论,讨论这种访问被禁止的情况下,尽管它的价值理解和打击网上虚假信息,尽管没有隐私或版权问题。我们的研究关注YouTube的参与度指标,更具体地说,是该平台删除“虚假视图”的方式(即,被平台视为人为或非法的观点)。我们使用从1000个法国YouTube频道中提取的一年半的数据,展示了这种现象的巨大程度,这涉及我们语料库中的绝大多数频道和一半以上的视频。我们的分析表明,大多数假新闻在视频的生命周期中相对较晚才被纠正,并且视频的最终观看次数与他们收到的假观看次数并不独立。我们讨论了延迟更正可能在内容传播中产生的潜在危害:通过夸大观看次数,非法观看可能会使视频看起来比实际更受欢迎,并毫无疑问地鼓励其人工和算法推荐。不幸的是,我们无法对这种现象提供明确的评估,因为YouTube在其API或界面中没有提供关于虚假视图的信息。因此,这份文件也呼吁YouTube和其他在线平台提高对在线公共辩论质量具有关键影响的信息的透明度。
2022-09-28 cs.SI physics.soc-ph
SOK: Fake News Outbreak 2021: Can We Stop the Viral Spread?
Tampere University(坦佩雷大学);Technical University of Denmark(丹麦技术大学)
社交网络的无所不在和易用性已经彻底改变了当今世界信息的生成和分发。然而,容易获得信息并不等于公众知识水平的提高。与传统媒体渠道不同,社交网络还促进了虚假信息和错误信息更快、更广泛的传播。虚假信息的病毒式传播对公众的行为、态度和信仰产生严重影响,最终可能严重危及民主进程。通过早期发现和控制广泛传播来限制虚假信息的负面影响是当今研究人员面临的主要挑战。在这篇调查论文中,我们广泛分析了现有文献中早期发现假新闻的各种不同解决方案。更确切地说,我们研究了机器学习(ML)模型,用于识别和分类假新闻,在线假新闻检测竞赛,统计输出以及一些可用数据集的优点和缺点。最后,我们评估了可用于检测和减轻假新闻的在线网络浏览工具,并提出了一些开放的研究挑战。
2021-05-22 cs.LG cs.SI
Detecting fake review buyers using network structure: Direct evidence from Amazon
本文利用亚马逊真实虚假评论数据,提出基于产品—评论者网络结构的检测方法,发现虚假评论买家在网络中高度聚集,并通过无监督聚类实现高精度且抗操纵的虚假评论识别。
2024-10-23 cs.SI econ.GN physics.soc-ph
ExFake: Towards an Explainable Fake News Detection Based on Content and Social Context Information
University of Montreal(蒙特利尔大学)
ExFake结合内容、社交上下文及可信实体数据,并引入可解释AI助手与用户可信度评分机制,在真实数据集上显著优于基线方法,实现可解释的假新闻检测。
2023-11-16 cs.AI cs.CL cs.LG
Who should fight the spread of fake news?
本研究在观点动态框架下探讨社交网络中打击虚假新闻的责任归属与策略,发现在线平台应发挥积极作用,且预防性措施和针对性策略比辟谣更有效。
2024-10-14 cs.SI physics.soc-ph
Credibility-based Fake News Detection
Syracuse University(雪城大学)
假新闻可能会严重误导那些经常依赖在线来源和社交媒体获取信息的人。目前关于假新闻检测的研究主要集中在分析假新闻内容以及它如何在用户网络上传播。在本文中,我们强调通过评估其可信度来检测假新闻。通过分析公开的假新闻数据,我们发现新闻来源(和作者)的信息可以成为可信度的一个强有力的指标。我们的研究结果表明,作者与假新闻的关联历史以及新闻文章的作者数量可以在检测假新闻方面发挥重要作用。我们的方法可以帮助改进传统的假新闻检测方法,其中内容特征通常用于检测假新闻。
2019-11-02 cs.CL cs.SI
Classification of Instagram fake users using supervised machine learning algorithms
VIT University, Chennai Campus(维洛尔理工大学金奈校区);SCOPE
本文提出一种基于监督机器学习算法的应用程序,用于检测和消除Instagram上的虚假用户与欺诈账户,旨在保护公司免受潜在欺诈,并协助刑事调查机构整合现有调查程序。
2023-11-21 cs.AI cs.SI
Incentivizing the Dissemination of Truth Versus Fake News in Social Networks
Stevens Institute of Tech.(史蒂文斯理工学院)
研究通过建模冲突为志愿者困境,探讨新闻订阅的公共贡献如何影响网络中真相对虚假新闻的主导地位。
2018-04-07 cs.SI cs.SY eess.SY
Mutual Clustering Coefficient-based Suspicious-link Detection approach for Online Social Networks
在线社交网络(OSN)是网络上的流行且快速的信息传播媒介,其中每天在世界各地建立数百万个新的连接,这些连接是积极的(例如熟人)或消极的(例如敌意)。负面链接(或者有时我们可以说是有害的连接)主要是由虚假的个人资料建立的,因为它们是由具有不良目的的头脑创建的。检测在线用户中的负面(或可疑)链接可以更好地帮助缓解来自OSN的虚假配置文件。提出了一种改进的聚类系数公式,称为互聚类系数,用Mcc表示,用来定量度量一个组中两个连通用户的好友之间的连通性。本文提出了一种基于互聚类系数和用户个人资料信息的分类系统来检测用户社区中的可疑链接。个人资料信息帮助我们找到用户之间的相似性。已经采用不同的相似性度量来计算连接的用户对之间的简档相似性。实验结果表明,四个基本的和容易获得的功能,如工作(w),教育(e),家乡(ht)和当前城市(cc)随着M_CC在设计一个成功的分类系统中起着至关重要的作用,可疑链接的检测。
2018-05-01 cs.SI
Unsupervised detection of coordinated fake-follower campaigns on social media
本文提出一种无监督检测方法,通过识别社交媒体账户粉丝中的异常关注模式来发现协同虚假粉丝活动,并在Twitter数据上验证了其有效性和计算效率。
2023-10-31 cs.CY cs.SI
A Study of Fake News Reading and Annotating in Social Media Context
假新闻的网上传播是威胁整个社会的一个重大问题。这种传播在很大程度上是通过新的媒体形式,即社交网络和在线媒体网站实现的。研究人员和从业者一直试图通过描述假新闻并设计自动检测方法来回答这个问题。到目前为止,检测方法只取得了有限的成功,主要是由于新闻内容和上下文的复杂性以及缺乏适当注释的数据集。提高自动错误信息检测方法效率的一种可能方法是模仿人类的检测工作。了解网络用户的新闻消费行为也很重要。在本文中,我们提出了一项眼动追踪研究,在这项研究中,我们让44名非专业参与者随意阅读包含新闻文章的社交媒体提要,其中一些是假的。在第二轮中,我们要求参与者决定这些文章的真实性。我们还描述了一项后续定性研究,其中有类似的场景,但这次有7名专家假新闻注释者。我们介绍了这两项研究的描述,结果数据集的特征(我们特此公布)和几个发现。
2022-04-26 cs.CY cs.HC cs.LG
MUSER: A MUlti-Step Evidence Retrieval Enhancement Framework for Fake News Detection
提出MUSER框架,模拟人类阅读与查证步骤,通过多步证据检索增强假新闻检测,在真实多语言数据集上F1-Macro和F1-Micro分别提升至少3%和4%,并提供可解释证据。
2023-06-23 cs.SI
Fake News Detection Through Graph-based Neural Networks: A Survey
The University of Melbourne(墨尔本大学);Data61 CSIRO(澳大利亚联邦科学与工业研究组织数据61研究所)
本文对基于图与深度学习的虚假新闻检测研究做系统综述,按图结构构建方式将现有图方法分为三类,并讨论该领域的挑战与未来研究方向。
2023-07-24 cs.CL cs.GR cs.LG
ColluEagle: Collusive review spammer detection using Markov random fields
School of Information Science and Engineering, Shenyang Ligong University(沈阳理工大学信息科学与工程学院);University of Arkansas at Little Rock(阿肯色大学小石城分校)
产品评论对于在线购物者提供购买决策非常有价值。在巨大的利润动机的驱使下,欺诈者故意编造不真实的评论来扭曲在线产品的声誉。随着在线评论变得越来越重要,群体垃圾邮件,即,一个诈骗团队合作攻击一组目标产品,成为一种新的时尚。以前的作品使用评论网络效应,即评论者,评论和产品之间的关系,以检测虚假评论或评论垃圾邮件发送者,但忽略了时间效应,这是关键的特征组垃圾邮件。在本文中,我们提出了一种新的马尔可夫随机场(MRF)为基础的方法(ColluEagle)来检测合谋审查垃圾邮件发送者,以及审查垃圾邮件活动,同时考虑网络效应和时间效应。首先,我们确定共同审查对,审查的现象,发生在两个审查者之间的审查共同的产品以类似的方式,然后模型的审查者和他们的共同审查对作为一个成对的MRF,并使用循环的信念传播来评估审查者的怀疑。我们进一步为ColluEagle设计了一个高质量但易于计算的节点,通过该节点可以识别评论垃圾邮件发送者群体。实验表明,ColluEagle不仅可以高精度地检测合谋垃圾邮件发送者,显著优于最先进的基线- FraudEagle和SpEagle,而且还可以识别高度可疑的评论垃圾邮件发送者活动。
2019-11-05 cs.IR cs.LG cs.SI
Quantifying the Influence of User Behaviors on the Dissemination of Fake News on Twitter with Multivariate Hawkes Processes
本研究针对Twitter平台假新闻传播问题,提出融合用户网络、推文类型、用户立场的多元Hawkes点过程模型,量化用户行为对假新闻传播的影响,为虚假信息传播干预提供支撑。
2023-08-26 cs.SI stat.AP
Leveraging Multi-Source Weak Social Supervision for Early Detection of Fake News
Arizona State University(亚利桑那州立大学);Microsoft Research(微软研究院)
社交媒体极大地使人们能够以前所未有的速度参与在线活动。然而,这种不受限制的访问也加剧了网上错误信息和假新闻的传播,除非及早发现,否则可能会造成混乱和混乱。鉴于新闻事件的快速发展性质和有限的注释数据,最先进的假新闻检测系统面临着挑战,因为缺乏大量的注释训练实例,这些实例很难用于早期检测。在这项工作中,我们利用来自用户和内容参与(称为弱社会监督)的不同来源的多个弱信号,以及它们的互补实用程序来检测假新闻。我们共同利用有限的干净数据以及来自社交活动的弱信号,在元学习框架中训练深度神经网络,以估计不同弱实例的质量。在真实世界数据集上的实验表明,该框架在预测时不使用任何用户参与的情况下,在早期检测假新闻方面优于最先进的基线。
2020-04-03 cs.LG cs.SI stat.ML
FakeSwarm: Improving Fake News Detection with Swarming Characteristics
Georgia Institute of Technology(佐治亚理工学院);Trine University(特里尼大学)
本文提出FakeSwarm虚假新闻识别系统,通过主成分分析、度量表示和位置编码三类群体特征,在公开数据集上取得超过97%的f1分数和准确率,并验证了群体特征在早期虚假新闻和文本样本短缺场景下能显著提升召回率。
2023-05-30 cs.LG cs.SI
Improving Generalizability of Fake News Detection Methods using Propensity Score Matching
University of Notre Dame(圣母大学)
近年来,由于在线社交网络的蓬勃发展,检测假新闻引起了学术界和公众的极大关注。本文考虑假新闻特征中混杂变量的存在,采用倾向分数匹配(PSM)方法选择可泛化特征,以减少混杂变量的影响。实验结果表明,使用PSM比使用原始频率选择特征的假新闻方法的泛化能力明显更好。我们研究了多种类型的假新闻方法(分类器),如逻辑回归,随机森林和支持向量机。我们对业绩改善有一致的观察。
2020-01-28 cs.CL cs.LG cs.SI
Dynamics of COVID-19 Misinformation: An Analysis of Conspiracy Theories, Fake Remedies, and False Reports
本研究基于2020年全球多来源的新冠虚假信息数据集,提出三层分析框架,从动机、叙事、来源维度剖析三类虚假信息的动态,并探讨其对公共政策与健康传播的干预启示。
2025-03-18 cs.SI physics.soc-ph
Exposing and Explaining Fake News On-the-Fly
University of Vigo(维戈大学);Universidade Portucalense(波尔图大学学院);Polytechnic of Porto(波尔图理工学院);INESC TEC
本文提出一种结合无监督与有监督机器学习及在线词典的可解释在线分类方法,利用创建者、内容和上下文特征实时识别虚假新闻,在Twitter数据集上达到80%准确率,并首次同时实现数据流处理、画像、分类与可解释性。
2024-09-05 cs.AI cs.CL cs.SI
Understanding and Overcoming Biases in Customer Reviews
我们的论文有助于文献推荐的方法,使网上评论更可信和代表性。我们分析了来自四个不同的主要在线零售商的数据,发现经过验证的客户(通过电子邮件)被提示写评论,平均比自我激励的网络评论员高出0.5星。此外,这些电子邮件提示的评论随着时间的推移保持稳定,而网络评论则呈现下降趋势。这一发现提供了支持的社会影响和选择偏见的存在,在提交的网络评论,当社会信号被显示。相反,在电子邮件回复中不显示关于评论的当前状态的信息。此外,我们发现,当一个零售商决定开始发送电子邮件广告,现有的网络评论者的人口是不受影响的,无论是在他们的数量,以及他们提交的评论的特点。我们探讨了我们的综合研究结果如何能够提出减轻在线评论提交的各种偏见的方法,并帮助从业者为客户提供更可信,更具代表性和更高的评级。
2016-04-01 cs.CY cs.HC cs.SI
Nothing Stands Alone: Relational Fake News Detection with Hypergraph Neural Networks
Arizona State University(亚利桑那州立大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Bytedance(字节跳动);Illinois Institute of Technology(伊利诺伊理工学院)
如今,假新闻很容易通过在线社交网络传播,成为对个人和社会的巨大威胁。评估新闻的真实性是具有挑战性的,因为其精心编造的内容,使得很难获得大规模的假新闻数据注释。由于这种数据稀缺性问题,检测假新闻往往会失败,并且在监督环境中过度拟合。最近,图神经网络(GNN)已被采用,以利用标记和未标记的实例之间的更丰富的关系信息。尽管它们的结果很有希望,但它们本质上专注于新闻之间的成对关系,这可能会限制捕捉在群体层面传播的假新闻的表达能力。例如,当我们更好地理解易感用户之间共享的新闻片段之间的关系时,检测假新闻可能会更有效。为了解决这些问题,我们建议利用超图来表示新闻之间的群体互动,同时利用其双层注意力机制来关注重要的新闻关系。基于两个基准数据集的实验表明,我们的方法产生了显着的性能,并保持高性能,即使是一个小的子集标记的新闻数据。
2022-12-24 cs.LG cs.SI
Exploring Text Representations for Online Misinformation
Queen's University Belfast(贝尔法斯特女王大学)
本文研究在线错误信息检测,提出利用新闻文章主题连贯性差异提取文本特征的新方法,并通过分类与聚类验证主题特征的有效性,为基于机器学习和自然语言处理的假新闻检测提供新思路。
2024-12-13 cs.CL cs.SI
Check-It: A Plugin for Detecting and Reducing the Spread of Fake News and Misinformation on the Web
University of Cyprus(塞浦路斯大学);University of Crete(克里特大学)
在过去的几年里,我们目睹了网络上错误信息的增加。人们在日常生活中成为假新闻的受害者,并在有意或无意中帮助其进一步传播。已经有许多举措试图减轻假新闻造成的损害,重点关注来自领域标志列表、在线社交网络或人工智能的信号。在这项工作中,我们提出了Check-It,这是一个系统,它以智能的方式将各种信号组合到一个用于假新闻识别的管道中。Check-It是一个网页浏览器插件,旨在有效及时地检测假新闻,尊重用户的隐私。实验结果表明,Check-It能够优于国家的最先进的方法。在一个由900万篇被标记为虚假和真实的文章组成的数据集上,Check-It获得了超过99%的分类准确率。
2019-05-10 cs.CL cs.CY cs.SI
How does fake news use a thumbnail? CLIP-based Multimodal Detection on the Unrepresentative News Image
Soongsil University(崇实大学);Adobe Research(奥多比研究院)
本研究调查假新闻如何使用新闻文章的缩略图,重点是新闻文章的缩略图是否正确地代表了新闻内容。与不相关的缩略图共享的新闻文章可能会误导读者对问题产生错误的印象,特别是在社交媒体环境中,用户不太可能点击链接并消费整个内容。我们建议通过使用预训练的CLIP表示来捕获多模态关系中的语义不一致程度。从来源层面分析,我们发现假新闻比一般新闻使用了与主要内容更不协调的图像。更进一步,我们试图检测新闻文章与图像-文本不一致。评估实验表明,基于CLIP的方法可以成功地检测新闻文章中的缩略图是语义无关的新闻文本。本研究为解决网络假新闻和虚假信息问题提供了一个新的视角。代码和数据集可在https://github.com/ssu-humane/fake-news-thumbnail上获得。
2022-04-27 cs.CL cs.SI
The voice of few, the opinions of many: evidence of social biases in Twitter COVID-19 fake news sharing
本研究分析Twitter上COVID-19假新闻传播网络,发现少数创造者(约14%)主导多数错误信息,多数消费者(约86%)受其观点影响,感知多数压力或驱动信息疫情。
2021-12-15 cs.SI physics.soc-ph
Uncritical polarized groups: The impact of spreading fake news as fact in social networks
在线社交网络中的思想传播是理解当今假新闻泛滥及其对民主国家影响的关键现象。这使得有必要使用模仿谣言传播的模型。大数定律以及接触组的概率分布使我们能够用最少的假设来构建一个模型。此外,我们还可以用这个模型分析两极分化的个体群体(人类或机器人)的存在,他们一知道谣言就传播谣言。在一个由即时通讯应用程序连接的人群中,只给定知道任何消息的初始个体数量,我们首先从我们的模型中推导出一个简单的时间函数来研究谣言传播。然后,我们证明,极化组可以检测和量化的经验数据。最后,我们还预测了任何谣言到达固定比例的人群所需的时间。
2019-10-17 cs.SI physics.soc-ph
Graph-based Fake Account Detection: A Survey
School of Computing(计算学院);The Australian National University(澳大利亚国立大学)
本文综述了基于图的社交网络虚假账户检测方法,分类分析现有技术、数据集及优缺点,并展望未来研究方向。
2025-07-09 cs.AI cs.LG cs.SI
Leveraging Users' Social Network Embeddings for Fake News Detection on Twitter
社交网络(SN)对许多人来说是越来越重要的新闻来源。用户建立的在线连接允许信息比传统新闻媒体更容易传播(例如,报纸、电视)。然而,它们也使假新闻的传播比传统媒体更容易,特别是通过用户的社交网络连接。在本文中,我们专注于调查是否SN的用户连接结构可以帮助Twitter上的假新闻检测。特别是,我们建议嵌入用户的基础上,他们的追随者或朋友网络的Twitter平台上,以确定用户形成的组。事实上,通过在Twitter用户的社交网络连接的图上应用无监督图嵌入方法,我们观察到参与假新闻的用户比只参与事实新闻的用户更紧密地聚集在一起。因此,我们假设嵌入式用户的网络可以帮助有效地检测假新闻。通过使用公开可用的Twitter数据集进行广泛的实验,我们的结果表明,在SN上应用图嵌入方法,使用用户连接作为网络信息,确实可以比大多数基于语言的方法更有效地对假新闻进行分类。具体地说,我们观察到比仅使用文本信息有显著的改进(即,TF.IDF或BERT语言模型),以及部署了高级文本特征(即,姿态检测)和复杂网络特征(例如,用户网络、出版商交叉引用)。我们的结论是,Twitter用户的友谊和追随者网络信息可以显着优于基于语言的方法,以及现有的最先进的假新闻检测模型,使用更复杂的网络结构,在分类Twitter上的假新闻。
2022-11-19 cs.IR cs.SI
Online Auditing of Information Flow
Tel Aviv university(特拉维夫大学)
本文研究信息流的在线审计问题,提出概率马尔可夫信息传播模型并将其表述为序贯检测问题,设计了最优检测算法,在真实数据集上验证了其在准确率和检测时间上优于现有方法。
2023-10-23 cs.LG cs.SI
News Labeling as Early as Possible: Real or Fake?
Sharif University of Technology(谢里夫理工大学)
通过在线社交网络在真实和虚假新闻传播之间进行伪装是许多应用中的重要问题。新闻发布时间和检测其标签之间的时间间隔是广播真实信息和避免虚假信息的重要一步。因此,该领域具有挑战性的任务之一是在传播的早期阶段识别虚假和真实新闻。然而,在最小化时间间隔和最大化准确性之间存在权衡。尽管最近在检测假新闻方面做出了努力,但还没有明显的工作将早期检测明确纳入其模型中。本文针对新闻的准确早期标注问题,提出了一种在建模和预测中同时考虑早期性的模型。该方法利用递归神经网络与一个新的损失函数,和一个新的停止规则。鉴于新闻的上下文,我们首先将其嵌入到特定于类的文本表示中。然后,我们利用现有的用户的公共配置文件,和新闻传播的速度,早期标记的新闻。在真实数据集上的实验表明,与最先进的基线和模型相比,我们的模型在早期标记和准确性方面都是有效的。
2019-06-08 cs.CL cs.LG cs.SI
Fake News Detection Tools and Methods -- A Review
Central University of Jammu(查谟中央大学)
在过去的十年中,Facebook、Twitter、Instagram和微博等社交网络平台和微博网站已经成为我们日常活动中不可或缺的一部分,并被全球数十亿用户广泛使用,以消息、图片和视频的形式分享他们的观点和传播信息。这些甚至被政府机构用来通过其经过验证的Facebook帐户和官方Twitter处理来传播重要信息,因为它们可以在有限的时间窗口内接触到大量人口。然而,许多欺骗性的活动,如宣传和谣言,每天都会误导用户。在这些COVID时代,假新闻和谣言非常普遍,并且在这个艰难时期制造了混乱。因此,在目前的情况下,对假新闻检测的需求是不可避免的。在本文中,我们调查了最近的文献不同的方法来检测假新闻在互联网上。特别是,我们首先讨论了假新闻以及文献中考虑的与之相关的各种术语。其次,我们强调了各种公开可用的数据集和各种在线工具,这些工具可以实时揭穿假新闻。第三,我们描述了基于两个更广泛领域的假新闻检测方法,即,它的内容和社会背景。最后,我们提供了用于揭穿假新闻的各种技术的比较。
2021-11-21 cs.CL cs.CY cs.SI
Spreading of fake news, competence, and learning: kinetic modeling and numerical approximation
社交网络作为主要通信手段在世界上几乎每个国家的兴起,同时引发了网上流传的假新闻数量的增加。这一事实在2016年美国政治选举期间变得尤为明显,而随着COVID-19大流行的到来,这一事实更加明显。一些研究表明,如何通过终身学习和讨论社区,以及科学方法和广泛的跨学科教育的严格培训来提高能力,从而减轻假新闻传播的影响。当前的大流行突出表明,迫切需要能够描述假新闻日益泛滥的模型。由于错误信息以及个人通常无法辨别信息的可靠性,导致疫苗接种活动放缓,这给许多国家的政府带来了巨大风险。在这项研究中,使用动力学理论的工具,我们描述了假新闻传播和个人的能力之间的相互作用,通过多人口模型中,假新闻传播类似于一种传染病,不同的影响取决于个人的能力水平。能力的水平,特别是,是受一个进化的动态,由于代理和外部学习动态之间的社会互动。结果表明,该模型是如何能够正确地描述假新闻的扩散动力学和能力的重要作用,在他们的遏制。
2021-09-28 cs.NA cs.SI math.NA