An Analytical Emotion Framework of Rumour Threads on Social Media
University of Edinburgh（爱丁堡大学）
本文提出一个多方面情绪检测框架，分析谣言与非谣言线的情绪差异，揭示谣言引发负面情绪而非谣言引发正面情绪，并通过因果分析揭示情绪传播机制。
2025-05-13 cs.AI cs.CL cs.SI
Spotting Rumors via Novelty Detection
Wuhan University（武汉大学）；University of Edinburgh（爱丁堡大学）
谣言检测是困难的，因为最精确的系统是回顾性的，只有在收集到重复的信号后才能识别谣言。到那时，谣言可能已经传播开来并造成伤害。我们引入了一个基于新颖性的新类别的功能，专门用于早期检测谣言。为了弥补重复信号的缺失，我们使用新闻线作为额外的数据源。关于新闻文章的未经证实的（新的）信息被认为是谣言的迹象。此外，我们还引入了伪反馈，它假设与以前的谣言类似的文件更有可能也是谣言。与其他实时方法的比较表明，新颖性为基础的功能结合伪反馈执行显着更好的，当发现谣言后立即公布。
2016-11-19 cs.CL cs.IR cs.SI
What goes on inside rumour and non-rumour tweets and their reactions: A Psycholinguistic Analyses
Centro de Investigación en Computación del IPN（墨西哥国立理工学院计算机研究中心）；University of Tartu（塔尔图大学）
近年来，网络社交媒体（OSM）上的谣言问题引起了人们的广泛关注。研究人员从两个主要方向开始研究。首先是对谣言的描述性分析，其次是提出检测（或分类）谣言的技术。在描述性的作品中，研究人员试图使用NLP方法分析谣言，并没有太多强调对社交媒体文本的心理语言学分析。这些对谣言案例研究的分析对于得出有意义的结论以减少错误信息至关重要。为了我们的分析，我们探索了PHEME9谣言数据集（由9个事件组成），包括源推文（谣言和非谣言类别）和响应推文。我们比较了谣言和非谣言来源的推文，然后比较了它们相应的回复（响应）推文，以了解它们在每一个事件中的语言差异。此外，我们还评估了这些特征是否可用于通过机器学习模型对谣言与非谣言推文进行分类。为此，我们采用了各种经典的和基于集成的方法。为了过滤掉高度区分的心理语言学特征，我们探索了SHAP AI解释性工具。总之，本研究通过对与各种事件相关的谣言进行深入的心理语言学分析做出了贡献。
2021-11-09 cs.CL cs.SI
FTR-18: Collecting rumours on football transfer news
本文介绍了正在进行的工作，创建一个多语言的足球转会新闻谣言数据集，FTR-18。体育媒体不断发布转会传闻。他们既可以损害球员或俱乐部的形象，也可以增加球员的市场价值。拟议的数据集包括用英语、西班牙语和葡萄牙语撰写的转移文章。它还包括与转会传闻有关的Twitter反应。FTR-18适用于谣言分类任务，并允许对体育新闻中使用的语言模式进行研究。
2018-11-30 cs.SI
Rumour Detection via News Propagation Dynamics and User Representation Learning
Vrije Universiteit Brussel（布鲁塞尔自由大学）；imec（比利时微电子研究中心）；CRRC Zhuzhou Institute Co., Ltd.（中车株洲所研究院有限公司）
谣言由来已久，并以后果严重著称。社交媒体平台的迅速发展使谣言的负面影响成倍增加;因此，及早发现谣言变得非常重要。已经引入了许多方法来利用新闻的内容或社会背景来检测谣言。然而，大多数现有的方法忽略或没有有效地探索社交媒体中的新闻传播模式，包括社交媒体用户与新闻跨时间的交互序列。在这项工作中，我们提出了一种基于深度学习的谣言检测新方法。我们的方法通过学习用户的表示和用户响应的时间相互关系来利用新闻的传播过程。在Twitter和微博数据集上进行的实验证明了该方法的最新性能。
2019-04-18 cs.CL cs.LG cs.SI
Stance Classification in Rumours as a Sequential Task Exploiting the Tree Structure of Social Media Conversations
University of Warwick（华威大学）；University of Sheffield（谢菲尔德大学）
谣言立场分类，即确定讨论谣言的集合中的每条推文是支持，否认，质疑还是简单地评论谣言的任务，一直吸引着大量的兴趣。在这里，我们介绍了一种新的方法，利用在Twitter的树结构的会话线程中观察到的转换序列。会话线程是通过收集用户对彼此的回复而形成的，这导致了嵌套的树状结构。以前的工作解决的立场分类任务处理每个鸣叫作为一个单独的单元。在这里，我们分析推文凭借其在序列中的位置，并测试两个顺序分类，线性链CRF和树CRF，其中每一个使不同的假设的会话结构。我们用8个Twitter数据集进行了实验，这些数据集是在突发新闻期间收集的，结果表明，利用Twitter对话的顺序结构比非顺序方法有了显着的改进。我们的工作是第一个以这种方式将Twitter对话建模为树结构，引入了一种新的方式来处理Twitter对话上的NLP任务。
2016-10-11 cs.CL cs.SI
Model-Agnostic and Diverse Explanations for Streaming Rumour Graphs
Griffith University（格里菲斯大学）；Hanoi University of Science and Technology（河内科技大学）；Humboldt-Universität zu Berlin（柏林洪堡大学）；The University of Queensland（昆士兰大学）
社交媒体上的谣言传播对社会构成重大威胁，因此最近提出了各种谣言检测技术。然而，现有的工作集中在\emph{what}实体构成谣言，但提供很少的支持，以了解\emph{why}的实体已被归类为这样。这就妨碍了对所发现的谣言进行有效的评估，也妨碍了反制措施的制定。在这项工作中，我们认为，检测到的谣言的解释可能会在过去检测到的相关谣言的例子。一组不同的类似谣言有助于用户进行归纳，即，去理解那些支配着谣言检测的属性。由于谣言在社交媒体中的传播通常使用特征注释图建模，因此我们提出了一种逐例查询方法，该方法在给定谣言图的情况下，从过去的谣言中提取$k$最相似和最不同的子图。挑战在于，所有的计算都需要快速评估图之间的相似性。为了实现一个有效的和自适应的实现的方法在流媒体设置，我们提出了一种新的图形表示学习技术和报告的实施考虑。我们的评估实验表明，我们的方法优于基线技术提供有意义的解释各种谣言传播行为。
2022-07-17 cs.AI cs.LG cs.SI
Unifying Multimodal Source and Propagation Graph for Rumour Detection on Social Media with Missing Features
本文提出统一多模态图Transformer网络UMGTN，结合多模态源特征与传播图特征，并通过多任务学习处理图像或回复缺失问题，在多个真实数据集上取得最先进性能且保持鲁棒性。
2023-07-06 cs.MM cs.SI
Anatomy of a Rumour: Social media and the suicide of Sushant Singh Rajput
印度演员Sushant Singh Rajput在COVID-19封锁期间自杀引发了媒体黄金时段的疯狂报道，持续了几个月，并成为政治热点问题。使用来自Twitter、YouTube的数据，以及一个被揭穿的错误信息故事档案，我们发现了两个重要的模式。首先，Twitter上的转发率清楚地表明，评论员从谈论此案中受益，这比其他话题的参与度更高。第二，政治家，特别是，在改变话语的过程中，通过将案件称为“谋杀”，而不是“自杀”。总之，我们认为拉吉普特的局外人地位的影响，作为一个小城镇植入电影业在更广泛的叙事系统的不公正，以及性别方面的暴民正义，已经瞄准了他的前合作伙伴在几个月以来。
2020-10-08 cs.SI
Discourse-Aware Rumour Stance Classification in Social Media Using Sequential Classifiers
University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）；University of Sheffield（谢菲尔德大学）；University of Melbourne（墨尔本大学）；University of Copenhagen（哥本哈根大学）
谣言立场分类，定义为将特定社交媒体帖子的立场分类为支持，否认，质疑或评论早期帖子之一，正在成为研究人员越来越感兴趣的问题。虽然大多数以前的工作都集中在使用个人推文作为分类器的输入，在这里，我们报告的顺序分类器，利用社会媒体互动或“会话线程”固有的话语功能的性能。测试四个顺序分类器的有效性-霍克斯过程，线性链条件随机场（线性CRF），树结构条件随机场（树CRF）和长短期记忆网络（LSTM）-在与突发新闻故事相关的八个数据集上，并查看不同类型的本地和上下文特征，我们的工作为准确的立场分类器的开发提供了新的思路。我们发现，顺序分类器，利用社会媒体对话中的话语属性的使用，同时只使用本地功能，优于非顺序分类器。此外，我们还证明了使用精简特征集的LSTM可以优于其他顺序分类器;这种性能在数据集和立场类型之间是一致的。最后，我们的工作还分析了正在研究的不同特征，确定了那些最有助于识别和区分立场的特征，例如支持推文比否认推文更有可能伴随证据。我们还提出了一些未来研究的方向。
2017-12-06 cs.CL cs.SI
Determining the Veracity of Rumours on Twitter
虽然社交网络可以为来自世界各地的个人的最新信息提供一个理想的平台，但它也被证明是谣言滋生的地方，经常出现意外或故意的错误信息。在本文中，我们的目标是支持从社交媒体数据中获取意义的任务，特别是寻求建立一个自治的消息分类器，从Twitter中过滤相关和值得信赖的信息。在我们的工作中，我们收集了大约1亿条公共推文，包括用户过去的推文，从中我们确定了72个谣言（41个真实，31个虚假）。我们考虑了80多个可信度指标，包括作者的个人资料和过去的行为，社交网络连接（图表）以及推文本身的内容。我们对这些指标运行了现代机器学习分类器，以在谣言爆发的不同时间窗口产生可信度分数。这样的时间窗口是关键，因为它们使人们能够对谣言的进展情况有有用的了解。从我们的研究结果中，我们发现我们的模型比文献中的类似研究更准确。我们还确定了数据的关键属性，这些属性会产生所分配的可信度分数。最后，我们开发了一个软件演示，提供了一个可视化的用户界面，让用户检查分析。
2016-11-19 cs.SI stat.ML
No Rumours Please! A Multi-Indic-Lingual Approach for COVID Fake-Tweet Detection
Dept. of CSE IIT Kharagpur, India（印度 IIT 卡哈拉格普尔分校计算机科学与工程系）；Dept. of CSE IIIT Delhi, India（印度德里信息技术学院计算机科学与工程系）；IBM Research Bangalore, India（印度班加罗尔 IBM 研究院）
当前全球大流行的COVID-19造成的突然广泛威胁对我们的生活产生了前所未有的影响。人类正在经历前所未有的巨大恐惧和对社交媒体的依赖。恐惧不可避免地导致恐慌、猜测和错误信息的传播。许多政府为了公众的福祉采取了措施来遏制这种错误信息的传播。除了全球措施外，为了有效地推广，人口统计学上的地方语言系统在这一努力中也可发挥重要作用。为此，我们提出了一种方法，可以从社交媒体（如推文）中早期检测出关于COVID-19的假新闻，适用于除英语之外的多种索引语言。此外，我们还创建了印地语和孟加拉语推文的注释数据集，用于假新闻检测。我们提出了一个基于BERT的模型，增加了从Twitter中提取的其他相关特征，以识别假推文。为了将我们的方法扩展到多种印度语言，我们采用了基于mBERT的模型，该模型在印地语和孟加拉语中创建的数据集上进行了微调。我们还提出了一种零样本学习方法来缓解这种低资源语言的数据稀缺问题。通过严格的实验，我们表明，我们的方法在虚假推文检测中达到了89%左右的F-Score，优于最先进的（SOTA）结果。此外，我们还为两种印度语，印地语和孟加拉语建立了第一个基准。使用我们的注释数据，我们的模型在印地语中实现了约79%的F-Score，在孟加拉语推文中实现了81%的F-Score。我们的zero-shot模型在没有任何注释数据的情况下，在印地语中实现了约81%的F-Score，在孟加拉语推…
2020-10-14 cs.CL cs.LG cs.SI
A semi-supervised approach to message stance classification
CountingLab Ltd.（康汀实验室有限公司）；University of Oxford（牛津大学）；University of Kent（肯特大学）
社交媒体传播正变得越来越普遍;有些有用，有些虚假，无论是无意还是恶意的。越来越多的谣言每天充斥着社交网络。以自主的方式确定其准确性是一个非常活跃和具有挑战性的研究领域，提出了各种方法。然而，大多数模型依赖于确定组成消息对谣言的立场，这一特征被称为“群众智慧”。虽然已经提出了几种监督机器学习方法来解决消息立场分类问题，但这些方法存在许多缺点。在本文中，我们认为，半监督学习是更有效的监督模型，并使用两个基于图的方法来证明它。这不仅是在分类精度方面，但同样重要的是，在速度和可扩展性方面。我们使用标签传播和标签传播算法，并在从Twitter收集的72个谣言和数十万条消息的数据集上进行实验。我们将我们在两个可用数据集上的结果与最先进的数据集进行比较，以证明我们的算法在实时应用的准确性，速度和可扩展性方面的性能。
2019-01-29 cs.LG cs.SI stat.AP
Detecting and Summarizing Emergent Events in Microblogs and Social Media Streams by Dynamic Centralities
自从社交媒体和微博活动开始在数据分析和决策中发挥重要作用以来，用于检测和总结紧急关键词的方法已经得到了广泛的研究。我们提出了一个系统，用于监测紧急关键字和总结的文件流的动态语义图的基础上流文件。我们引入了动态特征向量中心度的概念来对紧急关键词进行排序，并提出了一种基于最小权集覆盖的紧急事件汇总算法。我们展示了我们的系统与分析有关的公共安全事件的流媒体Twitter数据。
2016-10-20 cs.IR cs.SI
Personalized multi-faceted trust modeling to determine trust links in social media and its potential for misinformation management
University of Waterloo（滑铁卢大学）
在本文中，我们提出了一种方法，用于预测在社交媒体中的同行之间的信任链接，一个是接地在人工智能领域的多智能体信任建模。特别是，我们提出了一个数据驱动的多方面的信任建模，它结合了许多不同的功能，进行全面的分析。我们专注于展示相似用户的聚类如何实现一个关键的新功能：支持更个性化，从而为用户提供更准确的预测。在一个信任感知项目推荐任务中，我们在一个大型Yelp数据集的背景下评估了所提出的框架。然后，我们将讨论如何提高在社交媒体中的信任关系的检测可以帮助支持在线用户在他们的战斗中对传播的错误信息和谣言，在社交网络环境中，最近爆炸的流行。最后，我们反思了一个特别脆弱的用户群，老年人，以说明推理的用户群体的价值，寻找一些未来的方向，整合已知的偏好与通过数据分析获得的见解。
2021-11-11 cs.AI cs.SI
Conspiracy Machines -- The Role of Social Bots during the COVID-19 Infodemic
无处不在的COVID-19大流行导致错误信息的平行传播，也被称为信息流行病。因此，社交媒体已成为社交机器人应用的目标，即模仿人类行为的算法。他们在社交媒体上施加影响的能力可能会被利用，放大可能对社会和对流行病的控制有害的错误信息、谣言或阴谋论。通过应用社交机器人检测和内容分析技术，本研究旨在确定社交机器人对Twitter上COVID- 19讨论的干扰程度。在542，345名用户的样本中，共检测到78个推定机器人。分析显示，类似机器人的用户传播错误信息，同时散布来自知名来源的新闻。这项研究的结果为改进机器人检测和在当前和未来的危机中通过社交机器人管理潜在威胁提供了启示。
2020-12-17 cs.SI
Detecting Pathogenic Social Media Accounts without Content or Network Structure
Arizona State University（亚利桑那州立大学）
社交媒体中有害错误信息的传播是一个紧迫的问题。我们将有能力将此类信息传播到病毒式传播的账户称为“致病性社交媒体”账户。这些账户包括恐怖分子支持者账户、水军和假新闻作者。我们引入了一个无监督的基于能力的框架，也利用标签传播。该方法不需要利用网络结构、级联路径信息、内容和用户信息来识别这些用户。我们表明，与随机（精度为0.11）和现有的机器人检测（精度为0.16）方法相比，我们的方法在识别致病性社交媒体帐户方面获得了更高的精度（0.75）。
2019-05-04 cs.IR cs.LG cs.SI
Deep Learning for Detecting Cyberbullying Across Multiple Social Media Platforms
Indian Institute of Technology, Guwahati（印度理工学院古瓦哈提分校）
网络欺凌的骚扰是社交媒体上的一个重要现象。现有的网络欺凌检测工作至少有以下三个瓶颈之一。首先，他们只针对一个特定的社交媒体平台（SMP）。第二，它们只涉及网络欺凌的一个主题。第三，它们依赖于精心手工制作的数据特征。我们表明，基于深度学习的模型可以克服所有这三个瓶颈。这些模型在一个数据集上学到的知识可以转移到其他数据集。我们使用三个真实世界的数据集进行了广泛的实验：Formspring（12k帖子），Twitter（16k帖子）和维基百科（100k帖子）。我们的实验提供了一些有用的见解网络欺凌检测。据我们所知，这是第一项使用基于深度学习的模型和迁移学习系统地分析多个SMP中各种主题的网络欺凌检测的工作。
2018-01-19 cs.CL cs.IR cs.SI
Defining and Detecting Toxicity on Social Media: Context and Knowledge are Key
本文借鉴心理学与社会理论定义社交媒体毒性，提出一种结合显式知识与统计算法的方法，识别毒性多维特征并解决上下文歧义，以实现可靠检测。
2021-10-03 cs.SI
Detecting Antagonistic and Allied Communities on Social Media
多年来，社交媒体上的社区发现引起了相当大的关注。然而，现有的方法没有揭示社区之间的关系。由于各种因素，社区可以形成联盟或进行对抗，例如，共同或冲突的目标和价值观。揭示这种关系可以提供更好的见解，以了解社区和社交媒体的结构。根据社会科学的研究结果，来自不同社区的成员对彼此的态度在很大程度上取决于他们的社区成员身份。因此，我们假设，在社交媒体中的用户之间表达的社区间的态度有可能反映他们的社区间的关系。因此，我们首先在社交媒体的背景下验证这一假设。然后，受假设的启发，我们开发了一个框架，通过联合建模用户的态度和社会互动来检测社区及其关系。我们使用三个真实世界的社交媒体数据集来展示我们框架的有效性。
2018-07-10 cs.SI
Less is More: Semi-Supervised Causal Inference for Detecting Pathogenic Users in Social Media
近年来，恶意社交媒体行为者操纵舆论和政治事件的现象激增。这些用户被称为“致病性社交媒体（PSM）”帐户。PSM是在社交媒体上传播错误信息的关键用户。这些帐户可以由真实用户或自动机器人控制。因此，识别PSM对社交媒体当局至关重要。负担通常落在可以识别这些帐户并保护社交媒体声誉的自动方法上。然而，缺乏足够的标记示例来设计和培训复杂的方法来打击这些账户仍然是社交媒体公司面临的最大挑战之一。相比之下，由于大量的用户生成的数据，未标记的数据是丰富和廉价的。在本文中，我们提出了一个半监督因果推理PSM检测框架，SemiPsm，以弥补缺乏标记数据。特别地，所提出的方法以流形正则化的形式利用未标记的数据，并且仅依赖于级联信息。这与使用穷举特征工程的现有方法（例如，简档信息、网络结构等）。来自Twitter的真实世界ISIS相关数据集的经验实验证据表明，利用未标记的实例来检测PSM的结果很有希望。
2019-03-05 cs.SI
Detecting Changes in Crowdsourced Social Media Images
提出一种面向服务的框架，将众包图像建模为图像服务并利用其非功能属性，通过构建版本树和计算语义差异来检测图像变化，初步实验验证了其有效性。
2023-10-23 cs.SI
Detecting Topic and Sentiment Dynamics Due to COVID-19 Pandemic Using Social Media
新型冠状病毒病（COVID-19）的爆发极大地影响了全球人们的日常生活。紧急措施和政策（例如，封锁、社交距离），以对抗这种高度传染性的疾病。然而，由于长期严格的社会隔离规定，人们的心理健康也面临风险。因此，在各种事件和主题中监测人们的心理健康对于政策制定者做出适当的决定是非常必要的。另一方面，社交媒体已被广泛用作人们发表和分享个人意见和感受的渠道。大规模的社交媒体帖子（例如，tweets）提供了一个理想的数据来源，以推断在这一大流行期间人们的心理健康状况。在这项工作中，我们提出了一个新的框架来分析由于COVID-19从大量的社交媒体帖子的主题和情绪动态。基于两周内收集的1300万条与COVID-19相关的推文，我们发现在研究期间，积极情绪的比例高于消极情绪。当放大到主题层面的分析时，我们发现COVID-19的不同方面一直在被讨论，并显示出类似的情绪极性。一些主题，如“保持安全的家”是主导与积极的情绪。其他人，如"人民死亡”，一贯表现出消极情绪。总的来说，该框架显示了深刻的研究结果的基础上分析的主题级的情绪动态。
2020-07-05 cs.CY cs.IR cs.SI
Detecting the Hate Code on Social Media
社交媒体已成为世界各地数百万人日常生活中不可或缺的一部分。它提供了一个平台，表达意见和信仰，传达给广大观众。然而，人们可以如此轻松地表达自己，也使得宣传和仇恨言论得以大规模传播。为了防止违反社交媒体平台的滥用政策，也为了避免被谷歌的对话AI等自动系统检测到，种族主义者已经开始使用一种代码（一种名为“谷歌行动”的运动）。这涉及到在充满仇恨的帖子或推文中，用看似脱离上下文的善意词语取代对社区的引用。例如，用户使用Googles和Bings分别代表非洲裔美国人和亚洲人社区。通过生成发布此类内容的用户列表，我们从分类推文向前迈进了一步，允许我们研究这些集中用户的使用模式。
2017-03-16 cs.SI
Detecting People Interested in Non-Suicidal Self-Injury on Social Media
Suffolk University（萨福克大学）
我们提出了一个监督学习的方法来检测感兴趣的人在非自杀性自我伤害（NSSI）。我们把任务作为一个二元分类问题，并建立分类器的基础上提取的功能，从人们自我声明的利益。一个真实世界的数据集，LiveJournal社交博客网络平台上的实验评估，证明了我们提出的模型的有效性。
2022-07-10 cs.LG cs.SI
Detecting Clickbait in Online Social Media: You Won't Believe How We Did It
在本文中，我们提出了一种方法，用于在线社交媒体（OSM）中的点击诱饵帖子的检测。点击诱饵帖子是吸引用户注意力点击文章的简短吸引人的短语。该方法是基于一个机器学习（ML）分类器，能够区分点击诱饵和合法的职位在OSM发布。建议的分类器是基于各种功能，包括图像相关的功能，语言分析，和方法的滥用者检测。为了评估我们的方法，我们使用了Clickbait Challenge 2017提供的两个数据集。ML分类器获得的最佳性能是AUC为0.8，准确度为0.812，精确度为0.819，召回率为0.966。此外，与以前的研究相反，我们发现点击诱饵帖子标题在统计学上显著短于合法帖子标题。最后，我们发现计算给定内容中的正式英语单词的数量对于点击诱饵检测是有用的。
2017-10-18 cs.SI
Detecting Cyberbullying and Cyberaggression in Social Media
网络欺凌和网络攻击是越来越令人担忧的现象，影响到所有人口群体。全球超过一半的年轻社交媒体用户都曾遭受过这种长期和/或协调的数字骚扰。受害者可能会经历各种各样的情绪，并产生负面后果，如尴尬、抑郁、与其他社区成员隔离，这就有可能导致更严重的后果，如自杀企图。在这项工作中，我们采取了第一个具体步骤，以了解滥用行为的特点，在Twitter上，今天最大的社交媒体平台之一。我们分析了120万用户和210万条推文，将参与讨论NBA等看似正常话题的用户与那些更有可能与仇恨有关的用户进行比较，例如Gamergate争议或BBC电台的性别薪酬不平等。我们还探讨了虐待行为的具体表现，即，网络欺凌和网络侵略，在一个与仇恨有关的社区（Gamergate）。我们提出了一个强大的方法来区分欺凌和侵略者从正常的Twitter用户考虑文本，用户和基于网络的属性。使用各种最先进的机器学习算法，我们以超过90%的准确率和AUC对这些账户进行分类。最后，我们讨论了Twitter用户帐户的当前状态标记为滥用我们的方法，并研究了潜在的机制，可用于Twitter在未来暂停用户的性能。
2019-07-20 cs.CY cs.IR cs.SI
Understanding and Detecting Dangerous Speech in Social Media
SUNY at Buffalo（纽约州立大学布法罗分校）；The University of British Columbia（不列颠哥伦比亚大学）
社交媒体通信已成为现代社会日常活动的重要组成部分。因此，确保社交媒体平台的安全是必要的。在网络环境中使用危险的语言，如身体威胁，是一种罕见的，但仍然非常重要。虽然已经进行了几项工作，在检测攻击性和仇恨性语言的相关问题上，危险的言论以前没有被以任何重要的方式处理。受这些观察的启发，我们报告了我们为危险语音建立标记数据集的努力。我们还利用我们的数据集来开发高效的模型来检测危险内容。我们最好的模型在59.60%的宏观F1上表现出色，明显优于竞争对手的基线。
2020-05-04 cs.CL cs.LG cs.SI
Against the Others! Detecting Moral Outrage inSocial Media Networks
Twitter上的在线风暴似乎是对个人、公司、媒体活动和政治家的任意暴行。道德上的愤怒可以对一个人的一个论点、一句话或一个行动产生过度的集体攻击性，从而导致仇恨言论。随着集体“反对其他人”，消极的动态往往开始。利用来自Twitter的数据，我们探索了几次风暴爆发的起点。作为一个拥有数亿用户的社交媒体平台，Twitter是在线讨论的社交传感器，以快速且经常是情绪化的争议而闻名。我们在这篇文章中提出的主要问题是，我们是否可以检测到火风暴的爆发。给定Twitter上的21个在线风暴，关于异常检测的关键问题是：1）我们如何检测变化点？2)我们如何区分引起道德愤怒的特征？在本文中，我们研究这些挑战，开发一种方法来检测点的变化，系统地发现语言线索的推文。只有通过应用语言线索，我们才能及早准确地发现火灾的爆发。我们的工作结果可以帮助检测负面动态，并可能为个人，公司和政府减轻社交媒体网络中的仇恨。
2020-10-14 cs.SI
Stop Clickbait: Detecting and Preventing Clickbaits in Online News Media
大多数在线新闻媒体在很大程度上依赖于读者点击产生的收入，由于存在众多这样的媒体，它们需要相互竞争以吸引读者的注意力。为了吸引读者点击一篇文章并随后访问媒体网站，媒体往往会在文章链接中附上吸引人的标题，吸引读者点击链接。这样的标题被称为点击诱饵。虽然这些诱饵可能会诱使读者点击，但从长远来看，点击诱饵通常不会达到读者的期望，并让他们失望。在这项工作中，我们试图自动检测点击诱饵，然后建立一个浏览器扩展，警告读者的不同媒体网站的可能性，被这样的标题。该扩展还为每个读者提供了一个阻止她不想看到的点击诱饵的选项。然后，使用这样的读者选择，扩展程序自动阻止类似的点击诱饵在她未来的访问。我们在多个媒体网站上进行了广泛的离线和在线实验，发现所提出的点击诱饵检测和个性化拦截方法表现非常好，检测准确率达到93%，拦截点击诱饵的准确率达到89%。
2016-10-31 cs.HC cs.SI
Domain-Guided Task Decomposition with Self-Training for Detecting Personal Events in Social Media
Emory University（埃默里大学）
挖掘社交媒体内容用于诸如检测个人经历或事件的任务，遭受词汇稀疏、不足的训练数据和创造性词汇。为了减少创建大量标记数据的负担并提高分类性能，我们建议分两步执行这些任务：1.通过识别关键概念将任务分解为特定领域的子任务，从而利用人类领域理解;以及2.使用协同训练将学习器对每个关键概念的结果进行组合，以减少对标记训练数据的要求。我们经验表明，我们的方法，共分解，使用三个有代表性的社会媒体挖掘任务，即个人健康提及检测，危机报告检测和药品不良反应监测的有效性和通用性。实验表明，我们的模型是能够超越国家的最先进的文本分类模型-包括那些使用最近推出的BERT模型-当少量的训练数据。
2020-04-21 cs.CL cs.LG cs.SI
Hawkes Process Classification through Discriminative Modeling of Text
社交媒体为用户提供了一个收集和分享信息并随时了解新闻的平台。这种网络还为用户提供了一个平台，他们可以在那里进行对话。然而，像Twitter这样的微博平台限制了文本的长度。由于这些帖子中出现的单词数量不足，使用自然语言处理的标准工具对这些信息进行分类是一项具有挑战性的任务。此外，社交媒体中帖子的高度复杂性和动态性使得文本分类成为一个具有挑战性的问题。然而，考虑与帖子相关联的过去标签和时间形式的额外线索可能有助于以更好的方式执行文本分类。为了解决这个问题，我们提出了基于霍克斯过程（HP）的模型，该模型可以自然地将时间特征和过去的标签与文本特征结合起来，以提高短文本分类。特别是，我们提出了一个判别式的方法来模拟文本在HP中的文本特征参数化的基础强度和/或触发内核。另一个主要贡献是考虑内核是时间和文本的函数，并进一步使用神经网络来建模内核。这使得能够建模和有效地学习文本以及推文分类的历史影响。我们证明了所提出的技术的优势，标准的基准谣言立场分类。
2020-10-22 cs.SI
An ensemble deep learning technique for detecting suicidal ideation from posts in social media platforms
Mar Baselios College of Engineering and Technology（马尔·巴塞利奥斯工程与技术学院）
社交媒体中的自杀意念检测是一项不断发展的研究，具有很大的挑战性。许多有自杀倾向的人通过社交媒体平台分享他们的想法和观点。作为许多研究的一部分，人们观察到，社交媒体上的公开帖子包含有效检测有自杀想法的个人的有价值的标准。预防自杀最困难的部分是发现和了解可能导致自杀的复杂风险因素和警告信号。这可以通过自动识别用户行为的突然变化来实现。自然语言处理技术可用于从社交媒体交互中收集行为和文本特征，并且这些特征可被传递到专门设计的框架，以检测人类交互中的异常，这些异常是自杀意图的指标。我们可以使用基于深度学习和/或机器学习的分类方法来实现自杀意念的快速检测。为此，我们可以使用LSTM和CNN模型的组合来从用户的帖子中检测这种情绪。为了提高准确率，可以采取使用更多的数据进行训练，使用注意力模型来提高现有模型的效率等方法。本文提出了一个LSTM-Attention-CNN组合模型来分析社交媒体提交，以检测任何潜在的自杀意图。在评估过程中，该模型的准确率为90.3%，F1得分为92.6%，高于基线模型。
2021-12-17 cs.CL cs.IR cs.LG
Detecting fake accounts through Generative Adversarial Network in online social media
本文提出利用生成对抗网络和用户相似性度量，在Twitter数据集中检测假冒账户，实现了80%的AUC分类率。
2025-02-08 cs.AI cs.LG cs.SI
Unmasking information manipulation: A quantitative approach to detecting Copy-pasta, Rewording, and Translation on Social Media
本研究提出$3Δ$-空间重复方法论，通过量化语义、字形和语言特征检测社交媒体上复制粘贴、改写和翻译三类信息操纵，验证于合成与真实数据，能高效识别大规模文本操纵及翻译内容。
2023-12-28 cs.SI
CrowdChecked: Detecting Previously Fact-Checked Claims in Social Media
Sofia University “St. Kliment Ohridski”（圣基里尔·奥赫里德斯基索菲亚大学）；HSE University（高等经济大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
虽然在开发事实核查自动化系统方面取得了很大进展，但在用户看来，这些系统仍然缺乏可信度。因此，出现了一种有趣的方法：通过验证输入的声明是否已经过专业事实检查员的事实检查来执行自动事实检查，并返回解释其决定的文章。这是一种明智的方法，因为人们信任人工事实核查，而且许多索赔会重复多次。然而，构建此类系统时的一个主要问题是已知tweet的数量很少-验证可用于训练的文章对。在这里，我们的目标是通过利用群体事实核查来弥合这一差距，即，挖掘社交媒体上的声明，用户对此做出了回应，并链接到事实核查文章。特别是，我们挖掘了33万条推文的大规模集合，并与相应的事实核查文章配对。我们进一步提出了一个端到端的框架，在远程监督的情况下，基于修改后的自适应训练，从这些嘈杂的数据中学习。我们在CLEF'21 CheckThat上的实验！测试集显示出相对于现有技术的两个绝对点的改进。我们的代码和数据集可在https://github.com/mhardalov/crowdchecked-claims上获得
2022-10-10 cs.CL cs.IR cs.LG
Case Study on Detecting COVID-19 Health-Related Misinformation in Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
2019冠状病毒病大流行造成了公共卫生官员所说的错误信息泛滥。随着社交距离和呆在家里的命令生效，许多人转向社交媒体进行社交。社交媒体使用的增加使其成为传播错误信息的主要工具。本文提出了一种跨学科方法检测社交媒体中与COVID-19健康相关的错误信息的机制。利用社会心理学作为基础和现有的错误信息框架，我们定义了错误信息的主题和相关的关键字纳入错误信息检测机制，使用应用机器学习技术。接下来，使用Twitter数据集，我们使用多个最先进的机器学习分类器探索了所提出的方法的性能。我们的方法显示了有前途的结果，在使用基于uni-gram的NLP特征生成的推文和决策树分类器对与健康相关的错误信息与真实信息进行分类时，准确率最高可达78%。我们还提供了关于替代方案的建议，以对抗错误信息和研究的伦理考虑。
2021-06-12 cs.CL cs.LG cs.SI
Detecting False Rumors from Retweet Dynamics on Social Media
众所周知，虚假的谣言对社会有不利影响。为了防止虚假谣言的传播，Twitter等社交媒体平台必须及早发现它们。在这项工作中，我们开发了一种新的概率混合模型，根据潜在的传播过程对真假谣言进行分类。具体来说，我们的模型是第一个正式的自我兴奋的性质的真实与虚假的转发过程。这导致了一种新的混合标记的霍克斯模型（MMHM）。因此，我们的模型避免了特征工程的需要;相反，它直接对传播过程进行建模，以便推断网络谣言是否不正确。我们的评估是基于13,650个转发级联的两个真的。来自Twitter的虚假谣言我们的模型识别虚假谣言的平衡准确率为64.97%，AUC为69.46%。它比最先进的基线（神经和特征工程）有相当大的优势，但同时也是完全可解释的。我们的工作对从业者有直接的影响：它利用传播过程作为一个隐含的质量信号，并在此基础上检测虚假内容。
2022-04-03 cs.SI stat.AP
Empirical Study on Detecting Controversy in Social Media
S&P Global（标普全球）
企业和金融投资者在制定企业战略和做出投资决策时越来越关注社会意识，以支持未来的可持续经济。对公司的事件和事件-争议-的公开讨论可以提供关于公司在社会意识方面运作情况的宝贵见解，并表明公司的整体运作能力。然而，由于缺乏系统的数据，在评估公司的社会意识和环境可持续性方面存在挑战。我们引入了一个系统，利用Twitter数据来检测和监控有争议的事件，并显示其对市场波动的影响。在我们的研究中，有争议的事件是从集群的推文，共享相同的5 W条款和这些集群的情感极性。事件推文中可信的新闻链接用于验证事件的真实性。对星巴克费城逮捕的案例研究表明，这种方法可以提供所需的功能。
2019-08-25 cs.CL cs.IR cs.LG
A Unified Approach of Detecting Misleading Images via Tracing its Instances on Web and Analysing its Past Context for the Verification of Content
社交媒体上的多媒体内容的验证是当前情况下具有挑战性和关键性的问题之一，并且在用户生成的内容和在线社交网络平台是塑造和传播新闻故事的主要来源的时代越来越突出。由于这些来源允许用户不受限制地分享他们的观点，机会主义用户经常在Twitter，Facebook等社交媒体上发布误导/不可靠的内容。保留这些内容对保持社交媒体信息的可信度和可靠性至关重要。出于这一动机，我们提出了一个广义的系统，支持自动分类的图像到可信或误导。在本文中，我们研究了基于机器学习以及基于深度学习的方法，用于验证误导性多媒体内容，其中可用的图像痕迹用于识别内容的可信度。该实验是在从Twitter收集的真实世界数据集（中世纪-2015数据集）上进行的。它还使用机器和深度学习模型（双向LSTM）展示了我们提出的方法和功能的效率。实验结果表明，微软的bings图像搜索引擎是相当有效的检索标题，表现优于我们研究的谷歌图像搜索引擎。它还表明，从附加的多媒体内容（图像）中收集线索比仅检测发布的基于内容的特征更有效。
2021-09-21 cs.SI
A Framework for Detecting Event related Sentiments of a Community
Quaid-i-Azam University（真纳大学）
社交媒体彻底改变了人类的沟通和互动方式。由于它的简单和有效的媒介，人们共享和交换信息，对各种事件进行讨论，并表达他们的意见。为了有效地制定政策和了解社区对不同事件的反应，我们需要监测和分析社交媒体。在社交媒体中，有一些用户更有影响力，例如，一个著名的政治家可能比普通人更有影响力。这些有影响力的用户属于特定的社区。这项研究的主要目的是了解特定社区对各种事件的看法。为了检测基于事件的情感的社区，我们提出了一个通用的框架。我们的框架识别了twitter上特定社区的用户。在识别出社区的用户之后，我们获取他们的推文并识别属于特定事件的推文。基于事件的推文被预处理。然后分析预处理的推文，以检测社区对特定事件的情绪。定性和定量评价证实了我们提出的框架的有效性和实用性。
2019-04-25 cs.CL cs.SI
Eating Garlic Prevents COVID-19 Infection: Detecting Misinformation on the Arabic Content of Twitter
Center of Innovation and Development in Artif. Intell. (CIADA)（人工智能创新与发展中心（CIADA））；Umm Al-Qura University（乌姆·库拉大学）；University of Jeddah（吉达大学）
在当前的大流行期间，社交媒体内容的迅速增长为传播信息提供了有用的工具，这也成为错误信息的根源。因此，迫切需要事实核查和有效的技术来检测社交媒体中的错误信息。在这项工作中，我们研究了Twitter的阿拉伯语内容中的错误信息。我们构建了一个与COVID-19错误信息相关的大型阿拉伯语数据集，并将推文分为两类：错误信息或非错误信息。然后，我们应用了八种不同的传统和深度机器学习模型，这些模型具有不同的特征，包括词嵌入和词频。词嵌入模型（\textsc{FastText}和word 2 vec）利用了200多万条与COVID-19相关的阿拉伯语推文。实验表明，优化曲线下面积（AUC）提高了模型的性能，极端梯度提升（XGBoost）在在线检测COVID-19错误信息方面具有最高的准确性。
2021-01-09 cs.CY cs.IR cs.LG
Measuring and Detecting Virality on Social Media: The Case of Twitter's Viral Tweets Topic
社交媒体上的帖子可能会像病毒一样传播，并在短时间内到达大量人群。如果这些帖子含有误导性内容，可能会威胁到公共对话，因此及早发现这些帖子至关重要。以前的作品提出了自己的指标来注释推文是否是病毒式的，以便稍后自动检测它们。然而，这样的度量可能不能准确地表示病毒式推文，或者可能引入太多的误报。在这项工作中，我们使用Twitter的“病毒推文”主题提供的地面真相数据来审查当前的指标，并提出我们自己的指标。我们发现，一条推文是更有可能被归类为病毒的Twitter，如果转发的比例，其作者的追随者超过一定的阈值。我们在实验中发现这个阈值是2.16。这条规则虽然有利于较小的帐户，但误报较少。我们还提出了一个基于transformers的模型来早期检测病毒推文，报告F1得分为0.79。代码和tweet id可在以下网址公开获取：https://github.com/tugrulz/ViralTweets
2023-03-13 cs.CY cs.SI
See and Read: Detecting Depression Symptoms in Higher Education Students Using Multimodal Social Media Data
Universidade Federal Fluminense（弗鲁米嫩塞联邦大学）
抑郁症和焦虑症等精神障碍在世界人口中以惊人的速度增长。值得注意的是，重性抑郁症已成为高等教育学生中的一个常见问题，他们必须面对的学术压力加剧了，甚至可能使他们更加沮丧。虽然造成这种令人震惊的情况的原因尚不清楚（尽管已进行了广泛调查），但已经面临这一问题的学生必须接受治疗。首先，我们需要对症状进行筛查。传统的方法是依靠临床咨询或回答问卷。然而，如今，在社交媒体上共享的数据是一个无处不在的来源，即使学生无法负担或寻找专业护理，也可以用来检测抑郁症状。以前的研究已经依赖于社交媒体数据来检测普通人群的抑郁症，通常集中在发布的图像或文本或依赖元数据。在这项工作中，我们专注于检测高等教育学生抑郁症状的严重程度，通过比较深度学习和Instagram上发布的图片及其标题诱导的特征工程模型。实验结果表明，学生呈现BDI分数高于或等于20可以检测到的召回率和0.69的精度在最好的情况下，达到了融合模型。我们的研究结果显示了大规模抑郁症筛查的潜力，这可能会对处于风险中的学生有所帮助。
2020-03-29 cs.CL cs.SI
Dac-Fake: A Divide and Conquer Framework for Detecting Fake News on Social Media
Malaviya National Institute of Technology（马拉维亚国立技术学院）；Madhav Institute of Technology & Science（马达夫科技学院）
本文提出DaCFake模型，采用分而治之策略融合内容与上下文特征，结合八十多个语言特征和词嵌入方法，在三个数据集上取得高准确率，用于社交媒体虚假新闻的快速早期检测。
2025-08-22 cs.LG cs.SI
Detecting Ideal Instagram Influencer Using Social Network Analysis
Queen Mary University of London（伦敦玛丽女王大学）
社交媒体是现代社会的一个重要方面，人们在这里分享他们的思想，观点，感受和情感。在过去的几年里，社交媒体的普及导致了数据的巨大增长。用户使用这种媒介来表达他们对各种主题的想法，感受和观点，包括政治和名人。因此，社交媒体已经发展成为一个有利可图的平台，公司可以扩大其范围并改善其前景。本文的重点是社会网络分析（SNA）的现实世界的在线营销策略。该研究通过比较各种中心性指标来确定网络中最中心的节点，并使用线性阈值模型来了解单个用户的传播行为。总之，本文将不同的中心性度量与传播行为相关联，以确定网络中最具影响力的用户
2021-07-12 cs.AI cs.SI
A deep learning approach for detecting traffic accidents from social media data
本文采用深度学习从社交媒体数据中检测交通事故。首先，我们彻底调查了两个大都市地区一年内超过300万条推文内容：北弗吉尼亚州和纽约市。我们的研究结果表明，成对的令牌可以捕获的关联规则中的事故相关的推文，进一步提高交通事故检测的准确性。其次，研究了两种深度学习方法：深度信念网络（DBN）和长短期记忆（LSTM），并在提取的令牌上实现。结果表明，DBN可以获得约44个单独的令牌特征和17对令牌特征的总体准确率为85%。DBN的分类结果优于支持向量机（SVM）和监督潜在狄利克雷分配（sLDA）。最后，为了验证这项研究，我们将事故相关的推文与来自15，000个循环检测器的高速公路上的交通事故日志和当地道路上的交通数据进行了比较。研究发现，近66%的事故相关推文可以通过事故日志定位，其中80%以上可以与附近的异常交通数据相关联。通过比较，提出了使用Twitter检测交通事故的几个重要问题，包括位置和时间偏差，以及有影响力的用户和标签的特征。
2018-01-04 cs.SI stat.OT
SugarTextNet: A Transformer-Based Framework for Detecting Sugar Dating-Related Content on Social Media with Context-Aware Focal Loss
The Hong Kong Polytechnic University（香港理工大学）；The University of Hong Kong（香港大学）；Northeastern University（东北大学）
针对社交媒体糖约会内容检测面临的委婉语、模糊线索及类别不平衡挑战，提出集成Transformer编码器、注意力线索提取器和上下文短语编码器的SugarTextNet框架，结合上下文感知焦点损失，在自建微博数据集上性能优于传统模型、深度学习基线及大语言模型。
2025-11-11 cs.CL cs.CY cs.SI
SABIA: An AI-Powered Tool for Detecting Opioid-Related Behaviors on Social Media
Instituto Politécnico Nacional（国家理工学院）
本研究针对社交媒体上阿片类药物相关行为检测难题，提出了名为SABIA的BERT-BiLSTM-3CNN混合深度学习模型，通过构建Reddit数据集将用户分为五类，实验表明其准确率比基线提高9.30%，有效支持公共卫生监测。
2025-08-12 cs.AI cs.SI
The Veracity Problem: Detecting False Information and its Propagation on Online Social Media Networks
Charles Sturt University（查尔斯斯特大学）
本文针对社交媒体虚假信息检测中单维分析、协同行动识别不足和缺乏跨平台数据的问题，提出多特征集成框架、行动者意图识别方法及跨平台数据集构建方案。
2024-09-06 cs.LG cs.SI
Detecting Pump&Dump Stock Market Manipulation from Online Forums
Queen’s University（女王大学）
社交媒体，低成本交易平台和天真的投资者的交叉为基于信息的市场操纵创造了理想的环境，特别是泵和转储。操纵者积累小盘股，在社交媒体上散布虚假信息以抬高价格，并在高峰时出售。我们收集了一个股票数据集，这些股票的价格和成交量曲线具有泵和转储的特征形状，以及与初始价格上涨时间相匹配的相同股票的社交媒体帖子。从这些数据中，我们根据社交媒体帖子中使用的语言构建了泵和转储事件的预测模型。有多种困难：不是每个帖子都能引起预期的市场反应，一些pump&dump事件可能是由其他论坛的帖子引发的，并且可能会出现帖子时间和市场走势的意外汇合。尽管如此，我们最好的模型达到了85%的预测准确率和62%的F1分数。这种工具可以向投资者和监管机构提供早期预警，提醒他们可能正在进行抽水和转储。
2023-01-26 cs.CL cs.LG cs.SI
Detecting Social Media Manipulation in Low-Resource Languages
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
针对低资源语言社交媒体操纵检测难题，提出结合文本嵌入与迁移学习的框架，通过英他加禄语潜在空间映射迁移检测模型，性能优于BERT等SOTA模型，适配训练数据有限的场景。
2023-02-19 cs.AI cs.CL cs.SI
Detecting mental disorder on social media: a ChatGPT-augmented explainable approach
University of Calabria（卡拉布里亚大学）
本研究提出一种结合LLM、XAI和ChatGPT的可解释抑郁症检测方法，通过BERT-XDD模型实现分类与解释，并转化为人类可读评论，以支持早期干预。
2025-03-10 cs.AI cs.CL cs.LG
Detecting East Asian Prejudice on Social Media
The Alan Turing Institute（艾伦·图灵研究所）；The Oxford Internet Institute（牛津互联网研究院）；The George Washington University（乔治·华盛顿大学）；The University of Manchester（曼彻斯特大学）；The University of Surrey（萨里大学）；University of Sheffield（谢菲尔德大学）
COVID-19的爆发改变了世界各地的社会，各国政府应对疫情带来的健康、经济和社会成本。它还引发了人们对网上仇恨语言和偏见传播的担忧，特别是针对东亚的敌意。在本文中，我们报告了一个分类器的创建，检测和分类社交媒体帖子从Twitter分为四类：对东亚的敌意，东亚的批评，元讨论东亚偏见和一个中立的类。该分类器在所有四个类中的F1得分为0.83。我们提供了最终的模型（用Python编码），以及用于制作分类器的新的20，000个tweet训练数据集，与东亚偏见和注释码本相关的hashtags的两个分析。该分类器可以由其他研究人员实现，有助于在线内容审核过程和进一步研究东亚偏见在这一全球流行病期间的动态，流行和影响。
2020-05-08 cs.CL cs.CY cs.SI
