A Framework for Quantifying Controversy of Social Network Debates Using Attributed Networks: Biased Random Walk (BRW)
在过去几年里，所有社会都变得更加两极化，特别是在在线社交网络和媒体出现之后。事实上，在新媒体的传播之后，社会光谱两端之间的差距将会更大。在这种情况下，社会主义者和计算机科学专家越来越担心社会两极分化，因为在线社交网络可能会对社会产生有害影响，助长极端主义的火焰。为了提出计算社交网络中的争议水平的措施，进行了几种类型的研究，之后，通过将一方的意见暴露给另一方的成员来减少矛盾观点之间的争议。大多数量化社交网络争议的尝试都考虑了网络的最基本形式，没有任何属性。虽然这类研究提供了适用于不同社交网络的无平台算法，但它们无法考虑用户提供的大量有用信息（节点属性），为了克服这一缺点，本文提出了一个适用于不同属性网络的框架。根据起始节点的初始能量和路径上节点的能量损失，推动有偏随机游动（Biased Random Walks，BRW）从起始点到初始未知端点的路径，利用node2vec算法提取网络的结构属性，并与现有算法进行比较，验证了算法的准确性.然后，我们提取了一些用户的内容属性，并分析了它们对我们的算法的结果的影响。BRW与另一种最先进的争议测量算法进行了比较。然后，它的变化，在不同程度的争议，波斯Twitter被认为是显示它如何在不同的情况下工作。
2020-11-07 cs.SI physics.soc-ph
#RoeOverturned: Twitter Dataset on the Abortion Rights Controversy
2022年6月24日，美国最高法院推翻了1973年罗伊诉韦德案（Roe v. Wade）中具有里程碑意义的裁决。在多布斯诉杰克逊妇女健康组织案中，法官们以多数票决定堕胎不是宪法权利，并将堕胎问题交还给当选代表。这一决定在美国各地引发了多次抗议和辩论，尤其是在2022年11月中期选举的背景下。鉴于许多公民使用社交媒体平台表达自己的观点并动员集体行动，鉴于在线辩论对公众舆论，政治参与，新闻媒体报道和政治决策产生了切实的影响，因此了解围绕这一主题的在线讨论至关重要。为此，我们提出了第一个大规模的Twitter数据集收集的堕胎权利的辩论在美国。我们展示了一组从2022年1月1日到2023年1月6日的一年中系统收集的7400万条推文。
2023-02-02 cs.CY cs.SI
Controversy Detection: a Text and Graph Neural Network Based Approach
LIRMM UMR 5506, CNRS, University of Montpellier（蒙彼利埃大学 CNRS LIRMM UMR 5506 实验室）；AMIS, Paul Valery University（保罗·瓦莱里大学 AMIS）；Institut du Cancer Montpellier (ICM)（蒙彼利埃癌症研究所）；IDESP, UMR Inserm - Université de Montpellier（蒙彼利埃大学 Inserm UMR IDESP）
有争议的内容是指任何同时吸引正面和负面反馈的内容。其自动识别，特别是在社交媒体上，是一项具有挑战性的任务，因为它应该在大量不断变化的帖子上完成，涵盖各种各样的主题。大多数现有的方法依赖于一个主题的讨论和/或消息的内容的图形结构。提出了一种基于讨论图结构和文本特征的争议检测方法。我们提出的方法依赖于图神经网络（gnn）在执行图分类任务之前将图表示（包括其文本）编码到嵌入向量中。后者将把该职位归类为有争议或没有争议。提出了两种争议检测策略。第一种是基于层次图的表示学习。图用户节点被分层迭代地嵌入，以计算整个图的嵌入向量。第二种是基于注意力机制，它允许每个用户节点在计算节点嵌入时给予其邻居或多或少的重要性。我们使用不同的真实世界数据集进行实验来评估我们的方法。进行的实验表明，结合文本特征和结构信息的性能方面的积极影响。
2021-12-03 cs.CL cs.LG cs.NE
Understanding and Detecting Dangerous Speech in Social Media
SUNY at Buffalo（纽约州立大学布法罗分校）；The University of British Columbia（不列颠哥伦比亚大学）
社交媒体通信已成为现代社会日常活动的重要组成部分。因此，确保社交媒体平台的安全是必要的。在网络环境中使用危险的语言，如身体威胁，是一种罕见的，但仍然非常重要。虽然已经进行了几项工作，在检测攻击性和仇恨性语言的相关问题上，危险的言论以前没有被以任何重要的方式处理。受这些观察的启发，我们报告了我们为危险语音建立标记数据集的努力。我们还利用我们的数据集来开发高效的模型来检测危险内容。我们最好的模型在59.60%的宏观F1上表现出色，明显优于竞争对手的基线。
2020-05-04 cs.CL cs.LG cs.SI
Detecting Pathogenic Social Media Accounts without Content or Network Structure
Arizona State University（亚利桑那州立大学）
社交媒体中有害错误信息的传播是一个紧迫的问题。我们将有能力将此类信息传播到病毒式传播的账户称为“致病性社交媒体”账户。这些账户包括恐怖分子支持者账户、水军和假新闻作者。我们引入了一个无监督的基于能力的框架，也利用标签传播。该方法不需要利用网络结构、级联路径信息、内容和用户信息来识别这些用户。我们表明，与随机（精度为0.11）和现有的机器人检测（精度为0.16）方法相比，我们的方法在识别致病性社交媒体帐户方面获得了更高的精度（0.75）。
2019-05-04 cs.IR cs.LG cs.SI
Domain-Guided Task Decomposition with Self-Training for Detecting Personal Events in Social Media
Emory University（埃默里大学）
挖掘社交媒体内容用于诸如检测个人经历或事件的任务，遭受词汇稀疏、不足的训练数据和创造性词汇。为了减少创建大量标记数据的负担并提高分类性能，我们建议分两步执行这些任务：1.通过识别关键概念将任务分解为特定领域的子任务，从而利用人类领域理解;以及2.使用协同训练将学习器对每个关键概念的结果进行组合，以减少对标记训练数据的要求。我们经验表明，我们的方法，共分解，使用三个有代表性的社会媒体挖掘任务，即个人健康提及检测，危机报告检测和药品不良反应监测的有效性和通用性。实验表明，我们的模型是能够超越国家的最先进的文本分类模型-包括那些使用最近推出的BERT模型-当少量的训练数据。
2020-04-21 cs.CL cs.LG cs.SI
Deep Learning for Detecting Cyberbullying Across Multiple Social Media Platforms
Indian Institute of Technology, Guwahati（印度理工学院古瓦哈提分校）
网络欺凌的骚扰是社交媒体上的一个重要现象。现有的网络欺凌检测工作至少有以下三个瓶颈之一。首先，他们只针对一个特定的社交媒体平台（SMP）。第二，它们只涉及网络欺凌的一个主题。第三，它们依赖于精心手工制作的数据特征。我们表明，基于深度学习的模型可以克服所有这三个瓶颈。这些模型在一个数据集上学到的知识可以转移到其他数据集。我们使用三个真实世界的数据集进行了广泛的实验：Formspring（12k帖子），Twitter（16k帖子）和维基百科（100k帖子）。我们的实验提供了一些有用的见解网络欺凌检测。据我们所知，这是第一项使用基于深度学习的模型和迁移学习系统地分析多个SMP中各种主题的网络欺凌检测的工作。
2018-01-19 cs.CL cs.IR cs.SI
Detecting and Summarizing Emergent Events in Microblogs and Social Media Streams by Dynamic Centralities
自从社交媒体和微博活动开始在数据分析和决策中发挥重要作用以来，用于检测和总结紧急关键词的方法已经得到了广泛的研究。我们提出了一个系统，用于监测紧急关键字和总结的文件流的动态语义图的基础上流文件。我们引入了动态特征向量中心度的概念来对紧急关键词进行排序，并提出了一种基于最小权集覆盖的紧急事件汇总算法。我们展示了我们的系统与分析有关的公共安全事件的流媒体Twitter数据。
2016-10-20 cs.IR cs.SI
Detecting People Interested in Non-Suicidal Self-Injury on Social Media
Suffolk University（萨福克大学）
我们提出了一个监督学习的方法来检测感兴趣的人在非自杀性自我伤害（NSSI）。我们把任务作为一个二元分类问题，并建立分类器的基础上提取的功能，从人们自我声明的利益。一个真实世界的数据集，LiveJournal社交博客网络平台上的实验评估，证明了我们提出的模型的有效性。
2022-07-10 cs.LG cs.SI
Case Study on Detecting COVID-19 Health-Related Misinformation in Social Media
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
2019冠状病毒病大流行造成了公共卫生官员所说的错误信息泛滥。随着社交距离和呆在家里的命令生效，许多人转向社交媒体进行社交。社交媒体使用的增加使其成为传播错误信息的主要工具。本文提出了一种跨学科方法检测社交媒体中与COVID-19健康相关的错误信息的机制。利用社会心理学作为基础和现有的错误信息框架，我们定义了错误信息的主题和相关的关键字纳入错误信息检测机制，使用应用机器学习技术。接下来，使用Twitter数据集，我们使用多个最先进的机器学习分类器探索了所提出的方法的性能。我们的方法显示了有前途的结果，在使用基于uni-gram的NLP特征生成的推文和决策树分类器对与健康相关的错误信息与真实信息进行分类时，准确率最高可达78%。我们还提供了关于替代方案的建议，以对抗错误信息和研究的伦理考虑。
2021-06-12 cs.CL cs.LG cs.SI
An ensemble deep learning technique for detecting suicidal ideation from posts in social media platforms
Mar Baselios College of Engineering and Technology（马尔·巴塞利奥斯工程与技术学院）
社交媒体中的自杀意念检测是一项不断发展的研究，具有很大的挑战性。许多有自杀倾向的人通过社交媒体平台分享他们的想法和观点。作为许多研究的一部分，人们观察到，社交媒体上的公开帖子包含有效检测有自杀想法的个人的有价值的标准。预防自杀最困难的部分是发现和了解可能导致自杀的复杂风险因素和警告信号。这可以通过自动识别用户行为的突然变化来实现。自然语言处理技术可用于从社交媒体交互中收集行为和文本特征，并且这些特征可被传递到专门设计的框架，以检测人类交互中的异常，这些异常是自杀意图的指标。我们可以使用基于深度学习和/或机器学习的分类方法来实现自杀意念的快速检测。为此，我们可以使用LSTM和CNN模型的组合来从用户的帖子中检测这种情绪。为了提高准确率，可以采取使用更多的数据进行训练，使用注意力模型来提高现有模型的效率等方法。本文提出了一个LSTM-Attention-CNN组合模型来分析社交媒体提交，以检测任何潜在的自杀意图。在评估过程中，该模型的准确率为90.3%，F1得分为92.6%，高于基线模型。
2021-12-17 cs.CL cs.IR cs.LG
Enriching GNNs with Text Contextual Representations for Detecting Disinformation Campaigns on Social Media
Universidade de São Paulo（圣保罗大学）；Institut Polytechnique de Paris（巴黎综合理工学院）
本文将Transformer文本上下文表示融入GNN进行假新闻检测，Macro F1相对提升最高达33.8%，并公开代码。
2024-11-23 cs.AI cs.CL cs.LG
Towards Detecting Rumours in Social Media
在紧急情况下，虚假谣言的传播可能危及公民的福祉，因为他们正在监测社交媒体的新闻流，以了解最新更新。在本文中，我们描述的方法，我们已经开发的PHEME项目内的会话线程的收集和采样，以及我们已经开发的工具，以方便这些线程的注释，以确定谣言。我们描述了在2014年弗格森骚乱期间收集的线程进行的注释任务，我们提出并分析了我们的研究结果。我们的研究结果表明，我们可以有效地收集社交媒体谣言，并识别与一系列故事相关的多个谣言，这些故事很难依靠现有的技术来识别，这些技术需要手动输入特定于谣言的关键字。
2015-04-18 cs.IR cs.SI
Topo Goes Political: TDA-Based Controversy Detection in Imbalanced Reddit Political Data
针对自然分布下不平衡的Reddit政治数据，本文发布了一个印度政治背景数据集，评估现有争议检测方法的局限性，并提出基于持续同调的拓扑特征以提升模型在不平衡环境下的鲁棒性与表示能力。
2025-03-05 cs.SI
CrowdChecked: Detecting Previously Fact-Checked Claims in Social Media
Sofia University “St. Kliment Ohridski”（圣基里尔·奥赫里德斯基索菲亚大学）；HSE University（高等经济大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
虽然在开发事实核查自动化系统方面取得了很大进展，但在用户看来，这些系统仍然缺乏可信度。因此，出现了一种有趣的方法：通过验证输入的声明是否已经过专业事实检查员的事实检查来执行自动事实检查，并返回解释其决定的文章。这是一种明智的方法，因为人们信任人工事实核查，而且许多索赔会重复多次。然而，构建此类系统时的一个主要问题是已知tweet的数量很少-验证可用于训练的文章对。在这里，我们的目标是通过利用群体事实核查来弥合这一差距，即，挖掘社交媒体上的声明，用户对此做出了回应，并链接到事实核查文章。特别是，我们挖掘了33万条推文的大规模集合，并与相应的事实核查文章配对。我们进一步提出了一个端到端的框架，在远程监督的情况下，基于修改后的自适应训练，从这些嘈杂的数据中学习。我们在CLEF'21 CheckThat上的实验！测试集显示出相对于现有技术的两个绝对点的改进。我们的代码和数据集可在https://github.com/mhardalov/crowdchecked-claims上获得
2022-10-10 cs.CL cs.IR cs.LG
Detecting Pump&Dump Stock Market Manipulation from Online Forums
Queen’s University（女王大学）
社交媒体，低成本交易平台和天真的投资者的交叉为基于信息的市场操纵创造了理想的环境，特别是泵和转储。操纵者积累小盘股，在社交媒体上散布虚假信息以抬高价格，并在高峰时出售。我们收集了一个股票数据集，这些股票的价格和成交量曲线具有泵和转储的特征形状，以及与初始价格上涨时间相匹配的相同股票的社交媒体帖子。从这些数据中，我们根据社交媒体帖子中使用的语言构建了泵和转储事件的预测模型。有多种困难：不是每个帖子都能引起预期的市场反应，一些pump&dump事件可能是由其他论坛的帖子引发的，并且可能会出现帖子时间和市场走势的意外汇合。尽管如此，我们最好的模型达到了85%的预测准确率和62%的F1分数。这种工具可以向投资者和监管机构提供早期预警，提醒他们可能正在进行抽水和转储。
2023-01-26 cs.CL cs.LG cs.SI
Detecting fake accounts through Generative Adversarial Network in online social media
本文提出利用生成对抗网络和用户相似性度量，在Twitter数据集中检测假冒账户，实现了80%的AUC分类率。
2025-02-08 cs.AI cs.LG cs.SI
Defining and Detecting Toxicity on Social Media: Context and Knowledge are Key
本文借鉴心理学与社会理论定义社交媒体毒性，提出一种结合显式知识与统计算法的方法，识别毒性多维特征并解决上下文歧义，以实现可靠检测。
2021-10-03 cs.SI
Detecting mental disorder on social media: a ChatGPT-augmented explainable approach
University of Calabria（卡拉布里亚大学）
本研究提出一种结合LLM、XAI和ChatGPT的可解释抑郁症检测方法，通过BERT-XDD模型实现分类与解释，并转化为人类可读评论，以支持早期干预。
2025-03-10 cs.AI cs.CL cs.LG
Detecting Antagonistic and Allied Communities on Social Media
多年来，社交媒体上的社区发现引起了相当大的关注。然而，现有的方法没有揭示社区之间的关系。由于各种因素，社区可以形成联盟或进行对抗，例如，共同或冲突的目标和价值观。揭示这种关系可以提供更好的见解，以了解社区和社交媒体的结构。根据社会科学的研究结果，来自不同社区的成员对彼此的态度在很大程度上取决于他们的社区成员身份。因此，我们假设，在社交媒体中的用户之间表达的社区间的态度有可能反映他们的社区间的关系。因此，我们首先在社交媒体的背景下验证这一假设。然后，受假设的启发，我们开发了一个框架，通过联合建模用户的态度和社会互动来检测社区及其关系。我们使用三个真实世界的社交媒体数据集来展示我们框架的有效性。
2018-07-10 cs.SI
Detecting Transaction-based Tax Evasion Activities on Social Media Platforms Using Multi-modal Deep Neural Networks
University of Technology Sydney（悉尼科技大学）；The University of Sydney Business School（悉尼大学商学院）；Macquarie University（麦考瑞大学）
社交媒体平台现在为数十亿用户提供便利的通信手段，内容共享甚至不同用户之间的支付。由于这种方便和无政府性质，它们还被大肆用于促进和开展未注册市场参与者之间的商业活动，而无需纳税。世界各国税务机关都难以通过传统的监管手段对这些隐性经济活动进行监管。本文提出一个基于机器学习的Regtech工具，供国际税务机关用于检测社交媒体平台上基于交易的逃税活动。为了构建这样一个工具，我们收集了58，660个Instagram帖子的数据集，并手动标记了2，081个与基于交易的逃税活动相关的多个属性的采样帖子。基于数据集，我们开发了一个多模态深度神经网络来自动检测可疑帖子。该模型结合了评论、主题标签和图像形式来产生最终输出。如我们的实验所示，组合模型实现了0.808的AUC和0.762的F1得分，优于任何单一模态模型。该工具可以帮助税务机关以高效和有效的方式识别审计目标，并打击社交电子商务的大规模逃税行为。
2020-07-27 cs.CY cs.LG cs.SI
Less is More: Semi-Supervised Causal Inference for Detecting Pathogenic Users in Social Media
近年来，恶意社交媒体行为者操纵舆论和政治事件的现象激增。这些用户被称为“致病性社交媒体（PSM）”帐户。PSM是在社交媒体上传播错误信息的关键用户。这些帐户可以由真实用户或自动机器人控制。因此，识别PSM对社交媒体当局至关重要。负担通常落在可以识别这些帐户并保护社交媒体声誉的自动方法上。然而，缺乏足够的标记示例来设计和培训复杂的方法来打击这些账户仍然是社交媒体公司面临的最大挑战之一。相比之下，由于大量的用户生成的数据，未标记的数据是丰富和廉价的。在本文中，我们提出了一个半监督因果推理PSM检测框架，SemiPsm，以弥补缺乏标记数据。特别地，所提出的方法以流形正则化的形式利用未标记的数据，并且仅依赖于级联信息。这与使用穷举特征工程的现有方法（例如，简档信息、网络结构等）。来自Twitter的真实世界ISIS相关数据集的经验实验证据表明，利用未标记的实例来检测PSM的结果很有希望。
2019-03-05 cs.SI
Detecting Changes in Crowdsourced Social Media Images
提出一种面向服务的框架，将众包图像建模为图像服务并利用其非功能属性，通过构建版本树和计算语义差异来检测图像变化，初步实验验证了其有效性。
2023-10-23 cs.SI
A Framework for Detecting Event related Sentiments of a Community
Quaid-i-Azam University（真纳大学）
社交媒体彻底改变了人类的沟通和互动方式。由于它的简单和有效的媒介，人们共享和交换信息，对各种事件进行讨论，并表达他们的意见。为了有效地制定政策和了解社区对不同事件的反应，我们需要监测和分析社交媒体。在社交媒体中，有一些用户更有影响力，例如，一个著名的政治家可能比普通人更有影响力。这些有影响力的用户属于特定的社区。这项研究的主要目的是了解特定社区对各种事件的看法。为了检测基于事件的情感的社区，我们提出了一个通用的框架。我们的框架识别了twitter上特定社区的用户。在识别出社区的用户之后，我们获取他们的推文并识别属于特定事件的推文。基于事件的推文被预处理。然后分析预处理的推文，以检测社区对特定事件的情绪。定性和定量评价证实了我们提出的框架的有效性和实用性。
2019-04-25 cs.CL cs.SI
See and Read: Detecting Depression Symptoms in Higher Education Students Using Multimodal Social Media Data
Universidade Federal Fluminense（弗鲁米嫩塞联邦大学）
抑郁症和焦虑症等精神障碍在世界人口中以惊人的速度增长。值得注意的是，重性抑郁症已成为高等教育学生中的一个常见问题，他们必须面对的学术压力加剧了，甚至可能使他们更加沮丧。虽然造成这种令人震惊的情况的原因尚不清楚（尽管已进行了广泛调查），但已经面临这一问题的学生必须接受治疗。首先，我们需要对症状进行筛查。传统的方法是依靠临床咨询或回答问卷。然而，如今，在社交媒体上共享的数据是一个无处不在的来源，即使学生无法负担或寻找专业护理，也可以用来检测抑郁症状。以前的研究已经依赖于社交媒体数据来检测普通人群的抑郁症，通常集中在发布的图像或文本或依赖元数据。在这项工作中，我们专注于检测高等教育学生抑郁症状的严重程度，通过比较深度学习和Instagram上发布的图片及其标题诱导的特征工程模型。实验结果表明，学生呈现BDI分数高于或等于20可以检测到的召回率和0.69的精度在最好的情况下，达到了融合模型。我们的研究结果显示了大规模抑郁症筛查的潜力，这可能会对处于风险中的学生有所帮助。
2020-03-29 cs.CL cs.SI
Stop Clickbait: Detecting and Preventing Clickbaits in Online News Media
大多数在线新闻媒体在很大程度上依赖于读者点击产生的收入，由于存在众多这样的媒体，它们需要相互竞争以吸引读者的注意力。为了吸引读者点击一篇文章并随后访问媒体网站，媒体往往会在文章链接中附上吸引人的标题，吸引读者点击链接。这样的标题被称为点击诱饵。虽然这些诱饵可能会诱使读者点击，但从长远来看，点击诱饵通常不会达到读者的期望，并让他们失望。在这项工作中，我们试图自动检测点击诱饵，然后建立一个浏览器扩展，警告读者的不同媒体网站的可能性，被这样的标题。该扩展还为每个读者提供了一个阻止她不想看到的点击诱饵的选项。然后，使用这样的读者选择，扩展程序自动阻止类似的点击诱饵在她未来的访问。我们在多个媒体网站上进行了广泛的离线和在线实验，发现所提出的点击诱饵检测和个性化拦截方法表现非常好，检测准确率达到93%，拦截点击诱饵的准确率达到89%。
2016-10-31 cs.HC cs.SI
Detecting the Hate Code on Social Media
社交媒体已成为世界各地数百万人日常生活中不可或缺的一部分。它提供了一个平台，表达意见和信仰，传达给广大观众。然而，人们可以如此轻松地表达自己，也使得宣传和仇恨言论得以大规模传播。为了防止违反社交媒体平台的滥用政策，也为了避免被谷歌的对话AI等自动系统检测到，种族主义者已经开始使用一种代码（一种名为“谷歌行动”的运动）。这涉及到在充满仇恨的帖子或推文中，用看似脱离上下文的善意词语取代对社区的引用。例如，用户使用Googles和Bings分别代表非洲裔美国人和亚洲人社区。通过生成发布此类内容的用户列表，我们从分类推文向前迈进了一步，允许我们研究这些集中用户的使用模式。
2017-03-16 cs.SI
SugarTextNet: A Transformer-Based Framework for Detecting Sugar Dating-Related Content on Social Media with Context-Aware Focal Loss
The Hong Kong Polytechnic University（香港理工大学）；The University of Hong Kong（香港大学）；Northeastern University（东北大学）
针对社交媒体糖约会内容检测面临的委婉语、模糊线索及类别不平衡挑战，提出集成Transformer编码器、注意力线索提取器和上下文短语编码器的SugarTextNet框架，结合上下文感知焦点损失，在自建微博数据集上性能优于传统模型、深度学习基线及大语言模型。
2025-11-11 cs.CL cs.CY cs.SI
Dac-Fake: A Divide and Conquer Framework for Detecting Fake News on Social Media
Malaviya National Institute of Technology（马拉维亚国立技术学院）；Madhav Institute of Technology & Science（马达夫科技学院）
本文提出DaCFake模型，采用分而治之策略融合内容与上下文特征，结合八十多个语言特征和词嵌入方法，在三个数据集上取得高准确率，用于社交媒体虚假新闻的快速早期检测。
2025-08-22 cs.LG cs.SI
Detecting Clickbait in Online Social Media: You Won't Believe How We Did It
在本文中，我们提出了一种方法，用于在线社交媒体（OSM）中的点击诱饵帖子的检测。点击诱饵帖子是吸引用户注意力点击文章的简短吸引人的短语。该方法是基于一个机器学习（ML）分类器，能够区分点击诱饵和合法的职位在OSM发布。建议的分类器是基于各种功能，包括图像相关的功能，语言分析，和方法的滥用者检测。为了评估我们的方法，我们使用了Clickbait Challenge 2017提供的两个数据集。ML分类器获得的最佳性能是AUC为0.8，准确度为0.812，精确度为0.819，召回率为0.966。此外，与以前的研究相反，我们发现点击诱饵帖子标题在统计学上显著短于合法帖子标题。最后，我们发现计算给定内容中的正式英语单词的数量对于点击诱饵检测是有用的。
2017-10-18 cs.SI
Detecting Social Media Manipulation in Low-Resource Languages
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
针对低资源语言社交媒体操纵检测难题，提出结合文本嵌入与迁移学习的框架，通过英他加禄语潜在空间映射迁移检测模型，性能优于BERT等SOTA模型，适配训练数据有限的场景。
2023-02-19 cs.AI cs.CL cs.SI
In the Eyes of the Beholder: Analyzing Social Media Use of Neutral and Controversial Terms for COVID-19
在COVID-19大流行期间，“中国病毒”成为冠状病毒的一个有争议的术语。对一些人来说，它似乎是一个中性术语，指的是病毒的物理起源。然而，对许多其他人来说，这个词实际上是将种族与病毒联系在一起。虽然这两个论点似乎都很合理，但对该术语在现实世界中的使用情况缺乏定量分析，无法揭示争议背后的问题。本文试图填补这一空白。为了对具有争议性术语的推文和具有非争议性术语的推文的实质性差异进行建模，我们应用主题建模和基于LIWC的情感分析。为了测试“中国病毒”和“COVID-19”是否可以互换，我们将其制定为分类任务，屏蔽这些术语，并使用最先进的Transformer模型对其进行分类。我们的实验一致表明，与“COVID-19”相比，“中国病毒”一词与不同的实质性主题和情绪相关，并且通过查看上下文很容易区分这两个术语。
2020-09-11 cs.IR cs.SI
Detecting East Asian Prejudice on Social Media
The Alan Turing Institute（艾伦·图灵研究所）；The Oxford Internet Institute（牛津互联网研究院）；The George Washington University（乔治·华盛顿大学）；The University of Manchester（曼彻斯特大学）；The University of Surrey（萨里大学）；University of Sheffield（谢菲尔德大学）
COVID-19的爆发改变了世界各地的社会，各国政府应对疫情带来的健康、经济和社会成本。它还引发了人们对网上仇恨语言和偏见传播的担忧，特别是针对东亚的敌意。在本文中，我们报告了一个分类器的创建，检测和分类社交媒体帖子从Twitter分为四类：对东亚的敌意，东亚的批评，元讨论东亚偏见和一个中立的类。该分类器在所有四个类中的F1得分为0.83。我们提供了最终的模型（用Python编码），以及用于制作分类器的新的20，000个tweet训练数据集，与东亚偏见和注释码本相关的hashtags的两个分析。该分类器可以由其他研究人员实现，有助于在线内容审核过程和进一步研究东亚偏见在这一全球流行病期间的动态，流行和影响。
2020-05-08 cs.CL cs.CY cs.SI
Detecting Topic and Sentiment Dynamics Due to COVID-19 Pandemic Using Social Media
新型冠状病毒病（COVID-19）的爆发极大地影响了全球人们的日常生活。紧急措施和政策（例如，封锁、社交距离），以对抗这种高度传染性的疾病。然而，由于长期严格的社会隔离规定，人们的心理健康也面临风险。因此，在各种事件和主题中监测人们的心理健康对于政策制定者做出适当的决定是非常必要的。另一方面，社交媒体已被广泛用作人们发表和分享个人意见和感受的渠道。大规模的社交媒体帖子（例如，tweets）提供了一个理想的数据来源，以推断在这一大流行期间人们的心理健康状况。在这项工作中，我们提出了一个新的框架来分析由于COVID-19从大量的社交媒体帖子的主题和情绪动态。基于两周内收集的1300万条与COVID-19相关的推文，我们发现在研究期间，积极情绪的比例高于消极情绪。当放大到主题层面的分析时，我们发现COVID-19的不同方面一直在被讨论，并显示出类似的情绪极性。一些主题，如“保持安全的家”是主导与积极的情绪。其他人，如"人民死亡”，一贯表现出消极情绪。总的来说，该框架显示了深刻的研究结果的基础上分析的主题级的情绪动态。
2020-07-05 cs.CY cs.IR cs.SI
Hate is not Binary: Studying Abusive Behavior of #GamerGate on Twitter
在过去几年中，网络欺凌和攻击日益突出，并在社交媒体上以多种不同形式表现出来。然而，很少有工作分析滥用用户的特征以及他们与典型社交媒体用户的区别。在本文中，我们开始通过分析包含大量辱骂的推文来解决这一差距。我们专注于围绕Gamergate争议的Twitter数据集，该争议导致了各种游戏和社交媒体平台上的许多网络欺凌和网络攻击事件。我们研究了用户对Gamergate的推文属性，他们发布的内容，以及与典型Twitter用户相比他们行为的差异。我们发现，虽然他们的推文通常看起来是关于攻击性和仇恨的主题，但“Gamergaters”并没有表现出常见的在线愤怒表达，事实上，他们的推文与典型用户的主要区别在于他们的推文不那么快乐。他们也比典型的Twitter用户更投入，这表明了这场争议如何以及为什么仍在继续。令人惊讶的是，我们发现Gamergaters不太可能被Twitter暂停，因此我们分析了他们的属性，以确定与典型用户的差异，以及可能导致他们暂停的原因。我们执行无监督的机器学习分析来检测用户群，这些用户虽然当前处于活动状态，但可以被考虑暂停，因为他们表现出与暂停用户相似的行为。最后，我们证实了我们的分析功能的有用性，通过模仿Twitter的暂停机制与监督学习方法，实现了很好的精度和召回。
2017-05-09 cs.CR cs.SI
The Veracity Problem: Detecting False Information and its Propagation on Online Social Media Networks
Charles Sturt University（查尔斯斯特大学）
本文针对社交媒体虚假信息检测中单维分析、协同行动识别不足和缺乏跨平台数据的问题，提出多特征集成框架、行动者意图识别方法及跨平台数据集构建方案。
2024-09-06 cs.LG cs.SI
Eating Garlic Prevents COVID-19 Infection: Detecting Misinformation on the Arabic Content of Twitter
Center of Innovation and Development in Artif. Intell. (CIADA)（人工智能创新与发展中心（CIADA））；Umm Al-Qura University（乌姆·库拉大学）；University of Jeddah（吉达大学）
在当前的大流行期间，社交媒体内容的迅速增长为传播信息提供了有用的工具，这也成为错误信息的根源。因此，迫切需要事实核查和有效的技术来检测社交媒体中的错误信息。在这项工作中，我们研究了Twitter的阿拉伯语内容中的错误信息。我们构建了一个与COVID-19错误信息相关的大型阿拉伯语数据集，并将推文分为两类：错误信息或非错误信息。然后，我们应用了八种不同的传统和深度机器学习模型，这些模型具有不同的特征，包括词嵌入和词频。词嵌入模型（\textsc{FastText}和word 2 vec）利用了200多万条与COVID-19相关的阿拉伯语推文。实验表明，优化曲线下面积（AUC）提高了模型的性能，极端梯度提升（XGBoost）在在线检测COVID-19错误信息方面具有最高的准确性。
2021-01-09 cs.CY cs.IR cs.LG
Against the Others! Detecting Moral Outrage inSocial Media Networks
Twitter上的在线风暴似乎是对个人、公司、媒体活动和政治家的任意暴行。道德上的愤怒可以对一个人的一个论点、一句话或一个行动产生过度的集体攻击性，从而导致仇恨言论。随着集体“反对其他人”，消极的动态往往开始。利用来自Twitter的数据，我们探索了几次风暴爆发的起点。作为一个拥有数亿用户的社交媒体平台，Twitter是在线讨论的社交传感器，以快速且经常是情绪化的争议而闻名。我们在这篇文章中提出的主要问题是，我们是否可以检测到火风暴的爆发。给定Twitter上的21个在线风暴，关于异常检测的关键问题是：1）我们如何检测变化点？2)我们如何区分引起道德愤怒的特征？在本文中，我们研究这些挑战，开发一种方法来检测点的变化，系统地发现语言线索的推文。只有通过应用语言线索，我们才能及早准确地发现火灾的爆发。我们的工作结果可以帮助检测负面动态，并可能为个人，公司和政府减轻社交媒体网络中的仇恨。
2020-10-14 cs.SI
Detecting Cyberbullying and Cyberaggression in Social Media
网络欺凌和网络攻击是越来越令人担忧的现象，影响到所有人口群体。全球超过一半的年轻社交媒体用户都曾遭受过这种长期和/或协调的数字骚扰。受害者可能会经历各种各样的情绪，并产生负面后果，如尴尬、抑郁、与其他社区成员隔离，这就有可能导致更严重的后果，如自杀企图。在这项工作中，我们采取了第一个具体步骤，以了解滥用行为的特点，在Twitter上，今天最大的社交媒体平台之一。我们分析了120万用户和210万条推文，将参与讨论NBA等看似正常话题的用户与那些更有可能与仇恨有关的用户进行比较，例如Gamergate争议或BBC电台的性别薪酬不平等。我们还探讨了虐待行为的具体表现，即，网络欺凌和网络侵略，在一个与仇恨有关的社区（Gamergate）。我们提出了一个强大的方法来区分欺凌和侵略者从正常的Twitter用户考虑文本，用户和基于网络的属性。使用各种最先进的机器学习算法，我们以超过90%的准确率和AUC对这些账户进行分类。最后，我们讨论了Twitter用户帐户的当前状态标记为滥用我们的方法，并研究了潜在的机制，可用于Twitter在未来暂停用户的性能。
2019-07-20 cs.CY cs.IR cs.SI
Detecting Early and Implicit Suicidal Ideation via Longitudinal and Information Environment Signals on Social Media
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Columbia Irving Medical Center（哥伦比亚大学伊万尼兹医疗中心）；New York State Psychiatric Institute（纽约州精神医学研究所）
通过分析社交媒体用户的纵向发帖和同伴互动，利用DeBERTa-v3模型提升早期隐性自杀念头检测性能。
2026-02-21 cs.AI cs.CL cs.CY
FNR: A Similarity and Transformer-Based Approach to Detect Multi-Modal Fake News in Social Media
Sharif University of Technology（谢里夫理工大学）
社交媒体的可用性和互动性使其成为全球新闻的主要来源。社交媒体的普及诱使犯罪分子通过使用诱人的文字和误导性的图像制作和传播假新闻来追求他们的不道德意图。因此，验证社交媒体新闻和发现假货至关重要。这项工作旨在分析社交媒体中文本和图像的多模态特征，以检测假新闻。我们提出了一个假新闻揭示器（FNR）的方法，利用变换学习提取上下文和语义特征和对比损失，以确定图像和文本之间的相似性。我们在两个真实的社交媒体数据集上应用了FNR。实验结果表明，与以往的方法相比，该方法在检测假新闻方面具有更高的准确率。
2021-12-02 cs.CY cs.LG cs.MM
Detecting False Rumors from Retweet Dynamics on Social Media
众所周知，虚假的谣言对社会有不利影响。为了防止虚假谣言的传播，Twitter等社交媒体平台必须及早发现它们。在这项工作中，我们开发了一种新的概率混合模型，根据潜在的传播过程对真假谣言进行分类。具体来说，我们的模型是第一个正式的自我兴奋的性质的真实与虚假的转发过程。这导致了一种新的混合标记的霍克斯模型（MMHM）。因此，我们的模型避免了特征工程的需要;相反，它直接对传播过程进行建模，以便推断网络谣言是否不正确。我们的评估是基于13,650个转发级联的两个真的。来自Twitter的虚假谣言我们的模型识别虚假谣言的平衡准确率为64.97%，AUC为69.46%。它比最先进的基线（神经和特征工程）有相当大的优势，但同时也是完全可解释的。我们的工作对从业者有直接的影响：它利用传播过程作为一个隐含的质量信号，并在此基础上检测虚假内容。
2022-04-03 cs.SI stat.AP
Interactively Learning Social Media Representations Improves News Source Factuality Detection
Purdue University（普渡大学）
针对假新闻传播中社交媒体环境难以自动建模、全量人工核查不可扩展的问题，本文提出人机交互式学习方法，借助少量人工反馈改进社交媒体表征，并在真实事件上提升新闻来源事实性检测性能。
2023-09-26 cs.AI cs.CL cs.SI
Measuring and Detecting Virality on Social Media: The Case of Twitter's Viral Tweets Topic
社交媒体上的帖子可能会像病毒一样传播，并在短时间内到达大量人群。如果这些帖子含有误导性内容，可能会威胁到公共对话，因此及早发现这些帖子至关重要。以前的作品提出了自己的指标来注释推文是否是病毒式的，以便稍后自动检测它们。然而，这样的度量可能不能准确地表示病毒式推文，或者可能引入太多的误报。在这项工作中，我们使用Twitter的“病毒推文”主题提供的地面真相数据来审查当前的指标，并提出我们自己的指标。我们发现，一条推文是更有可能被归类为病毒的Twitter，如果转发的比例，其作者的追随者超过一定的阈值。我们在实验中发现这个阈值是2.16。这条规则虽然有利于较小的帐户，但误报较少。我们还提出了一个基于transformers的模型来早期检测病毒推文，报告F1得分为0.79。代码和tweet id可在以下网址公开获取：https://github.com/tugrulz/ViralTweets
2023-03-13 cs.CY cs.SI
Detecting Online Hate Speech: Approaches Using Weak Supervision and Network Embedding Models
UNC Charlotte（北卡罗来纳大学夏洛特分校）；Oklahoma State University（俄克拉荷马州立大学）；Brown University（布朗大学）
无处不在的社交媒体改变了个人之间的在线互动。尽管有积极的影响，但它也允许反社会分子在其他社交媒体环境中团结起来（例如，社交媒体）。Gab.com）前所未有的。使用自动化技术检测这种仇恨言论可以让社交媒体平台调整其内容，并防止仇恨言论传播等邪恶活动。在这项工作中，我们提出了一个弱监督深度学习模型-（i）定量发现仇恨用户和（ii）提出一种新的定性分析，以发现间接仇恨对话。该模型在交互层面上对内容进行评分，而不是帖子或用户层面，并允许对最频繁参与仇恨对话的用户进行表征。我们在1920万个帖子上评估了我们的模型，结果表明，我们的弱监督模型在识别间接仇恨互动方面优于基线模型。我们还分析了一个多层网络，从两种类型的用户交互在加布（报价和回复）和弱监督模型的边缘权重的交互分数，预测可恨的用户。我们利用多层网络嵌入方法来生成预测任务的特征，并且我们表明考虑来自多个网络的用户上下文有助于更好地预测Gab中的仇恨用户。与单层或同构网络嵌入模型相比，我们获得了高达7%的性能增益。
2020-07-24 cs.LG cs.SI
Temporal Shifts and Causal Interactions of Emotions in Social and Mass Media: A Case Study of the "Reiwa Rice Riot" in Japan
The University of Tokyo（东京大学）；Waseda University（早稻田大学）
本研究通过分析日本“令和大米骚动”案例，探讨社交媒体与大众媒体中情绪的时间位移及因果互动，揭示情绪转变模式与传播路径。
2026-07-16 cs.CY cs.SI physics.soc-ph
Unmasking information manipulation: A quantitative approach to detecting Copy-pasta, Rewording, and Translation on Social Media
本研究提出$3Δ$-空间重复方法论，通过量化语义、字形和语言特征检测社交媒体上复制粘贴、改写和翻译三类信息操纵，验证于合成与真实数据，能高效识别大规模文本操纵及翻译内容。
2023-12-28 cs.SI
Detecting Ideal Instagram Influencer Using Social Network Analysis
Queen Mary University of London（伦敦玛丽女王大学）
社交媒体是现代社会的一个重要方面，人们在这里分享他们的思想，观点，感受和情感。在过去的几年里，社交媒体的普及导致了数据的巨大增长。用户使用这种媒介来表达他们对各种主题的想法，感受和观点，包括政治和名人。因此，社交媒体已经发展成为一个有利可图的平台，公司可以扩大其范围并改善其前景。本文的重点是社会网络分析（SNA）的现实世界的在线营销策略。该研究通过比较各种中心性指标来确定网络中最中心的节点，并使用线性阈值模型来了解单个用户的传播行为。总之，本文将不同的中心性度量与传播行为相关联，以确定网络中最具影响力的用户
2021-07-12 cs.AI cs.SI
A deep learning approach for detecting traffic accidents from social media data
本文采用深度学习从社交媒体数据中检测交通事故。首先，我们彻底调查了两个大都市地区一年内超过300万条推文内容：北弗吉尼亚州和纽约市。我们的研究结果表明，成对的令牌可以捕获的关联规则中的事故相关的推文，进一步提高交通事故检测的准确性。其次，研究了两种深度学习方法：深度信念网络（DBN）和长短期记忆（LSTM），并在提取的令牌上实现。结果表明，DBN可以获得约44个单独的令牌特征和17对令牌特征的总体准确率为85%。DBN的分类结果优于支持向量机（SVM）和监督潜在狄利克雷分配（sLDA）。最后，为了验证这项研究，我们将事故相关的推文与来自15，000个循环检测器的高速公路上的交通事故日志和当地道路上的交通数据进行了比较。研究发现，近66%的事故相关推文可以通过事故日志定位，其中80%以上可以与附近的异常交通数据相关联。通过比较，提出了使用Twitter检测交通事故的几个重要问题，包括位置和时间偏差，以及有影响力的用户和标签的特征。
2018-01-04 cs.SI stat.OT
Detecting Fake News on Social Media: A Novel Reliability Aware Machine-Crowd Hybrid Intelligence-Based Method
Hefei University of Technology（合肥工业大学）；University of Delaware（特拉华大学）
针对现有混合智能假新闻检测方法未考虑可靠性的问题，提出含三个模块的RAHI方法，结合贝叶斯深度学习、IRT用户聚合与分布融合机制，在Weibo数据集上表现优异，对多类主体有实用价值。
2024-12-07 cs.AI cs.LG cs.SI
SABIA: An AI-Powered Tool for Detecting Opioid-Related Behaviors on Social Media
Instituto Politécnico Nacional（国家理工学院）
本研究针对社交媒体上阿片类药物相关行为检测难题，提出了名为SABIA的BERT-BiLSTM-3CNN混合深度学习模型，通过构建Reddit数据集将用户分为五类，实验表明其准确率比基线提高9.30%，有效支持公共卫生监测。
2025-08-12 cs.AI cs.SI
Detecting Narrative Shifts through Persistent Structures: A Topological Analysis of Media Discourse
Department of Cyber Intelligence and Data Science（网络智能与数据科学系）；Biological and Computational Intelligence Center（生物与计算智能中心）；National Intelligence University（国家智能大学）
本研究利用持久同调分析媒体叙事结构变化，通过检测H0和H1拓扑特征突变识别重大事件引发的语义重构，实现无需先验知识的叙事拐点检测。
2025-06-14 cs.CL cs.SI physics.soc-ph
Detecting Synthetic Political Narratives in Cross-Platform Social Media Discourse
Institute of Computer Science, Foundation for Research and Technology（计算机科学研究所，希腊研究与技术基金会）；Technical University of Crete（希腊克里特技术大学）
本文提出了一种跨平台框架，通过四个协调信号（词汇多样性、时间爆发性、修辞重复和语义同质性）组合成合成叙述协调评分SNC(C)，以检测合成政治叙述，研究发现IntelSlava在四个事件窗口中排名第一，而Rybar尽管语义同质性高但因语言差异导致表现不佳。
2026-05-20 cs.AI cs.CL cs.CY
Detecting Coordinated Inauthentic Behavior in Likes on Social Media: Proof of Concept
本研究针对社交媒体点赞中的协调性不真实行为，提出两种基于机器学习的评审团选择程序（GMM和k-means），以剔除不真实主体并恢复群体智慧，实验表明两者均显著提升多数投票正确性，为平台公开反应数据提供依据。
2023-05-12 cs.CY cs.SI stat.AP
