Investigating Memorization of Conspiracy Theories in Text Generation
University of California, Santa Barbara(加州大学圣巴巴拉分校)
采用自然语言生成(NLG)模型会使个体容易受到模型记忆的有害信息的生成的影响,例如阴谋论。虽然以前的研究在社交媒体的背景下研究阴谋论,但他们没有评估它们在生成语言模型的新空间中的存在。在这项工作中,我们调查的能力语言模型生成阴谋论文本。具体来说,我们的目标是回答:我们能否在不访问模型的训练数据的情况下,测试预训练的生成语言模型对阴谋论的记忆和启发?我们强调了这项任务的困难,并在记忆,概括和幻觉的背景下讨论它。利用由阴谋论主题和机器生成的阴谋论组成的新数据集,可以帮助我们发现许多阴谋论深深植根于预训练的语言模型中。我们的实验证明了模型参数(如大小和温度)与其生成阴谋论文本的倾向之间的关系。这些结果表明,需要更彻底的审查NLG应用程序发布前,并在生成语言模型的记忆的缺点进行深入的讨论。
2021-06-08 cs.CL cs.CY
Unveiling Online Conspiracy Theorists: a Text-Based Approach and Characterization
针对网络平台阴谋论扩散问题,该研究基于X平台两类用户数据集,从多维度分析阴谋论者语言特征,构建含871个特征的机器学习分类器,实现0.88的平均F1得分并揭示核心区分特征。
2024-05-21 cs.CY cs.SI
YouNICon: YouTube's CommuNIty of Conspiracy Videos
本文构建了 YouTube 阴谋论视频数据集 YOUNICON,用于阴谋论检测和主题分类,并支持研究阴谋论趋势及用户与阴谋论社区的互动。
2023-04-11 cs.CY
The "recognition," "belief," and "action" regarding conspiracy theories: An empirical study using large-scale samples from Japan and the United States
本研究基于美日大规模全国代表性调查和贝叶斯分层模型,解析阴谋论从认知、信念到示威或扩散行动的阶段机制及差异化影响因素。
2025-03-15 cs.CY cs.SI
Evaluating AI capabilities in detecting conspiracy theories on YouTube
本研究评估了开放权重LLMs(纯文本与多模态)在YouTube阴谋论视频检测中的表现,发现文本模型召回率高但精确率低,多模态收益有限,而微调RoBERTa以较少参数接近LLMs性能,揭示了现有方法的优势与局限。
2025-07-04 cs.CL cs.CY cs.SI
UFO, universe, reptilians and creatures communities on Brazilian Telegram: when the sky is not the limit and conspiracy theories seek answers beyond humanity
该研究通过镜像方法分析巴西 Telegram 上 UFO、宇宙、爬虫人与生物主题的阴谋论社群,揭示其主题重叠、大流行期间增长及作为虚假信息放大器的作用。
2024-08-31 cs.CY
Climate change denial and anti-science communities on brazilian Telegram: climate disinformation as a gateway to broader conspiracy networks
该研究通过分析巴西Telegram社群,揭示气候变化否认与反科学阴谋论如何协同形成复杂网络,并发现末日主题、反疫苗讨论及全球统治理论在其中充当关键入口和连接机制。
2024-08-31 cs.CY cs.SI
Unmasking Superspreaders: Data-Driven Approaches for Identifying and Comparing Key Influencers of Conspiracy Theories on X.com
本研究通过分析新冠疫情期间的七百多万条推文,揭示了人类超级传播者与机器人在语言复杂性、毒性及话题标签使用等方面的差异,并提出27种新指标用于量化阴谋论传播的严重性,为平台管理及公众意识活动提供基础。
2026-02-04 cs.CL cs.CY cs.IR
Apocalypse, survivalism, occultism and esotericism communities on Brazilian Telegram: when faith is used to sell quantum courses and open doors to harmful conspiracy theories
本研究分析了巴西 Telegram 上启示录、生存主义、神秘主义与秘传主义阴谋论社群的特征与组织方式,发现这些社群通过信仰叙事售卖量子课程、传播有害阴谋论并扩大虚假信息影响。
2024-08-31 cs.CY
A Longitudinal Analysis of YouTube's Promotion of Conspiracy Videos
阴谋论在社交媒体上蓬勃发展,人们担心这些内容正在助长虚假信息的传播,支持极端主义意识形态,并在某些情况下导致暴力。在立法者和公众越来越多的审查和压力下,YouTube宣布努力改变其推荐算法,以便最令人震惊的阴谋视频被降级和妖魔化。为了验证这一说法,我们开发了一个分类器,用于自动确定视频是否是阴谋的(例如,登月是假的,吉萨金字塔是外星人建造的,世界末日的预言等等)。我们将这个分类器与YouTube的watch-next算法在一千多个流行的信息频道上的仿真相结合,以获得YouTube积极推广的视频的长达一年的图片。我们还得到了阴谋论中所谓的过滤气泡效应的趋势。
2020-03-06 cs.CY cs.HC cs.IR
Antivax and off-label medication communities on brazilian Telegram: between esotericism as a gateway and the monetization of false miraculous cures
本研究刻画了巴西 Telegram 上反疫苗与超说明书用药阴谋论社群的结构与关联,发现秘传主义是通往非科学疗法的重要入口,反疫苗叙事在新冠期间增长 290%,并与其他阴谋论形成相互强化的虚假信息网络。
2024-08-31 cs.CY cs.SI
Exit Stories: Using Reddit Self-Disclosures to Understand Disengagement from Problematic Communities
本文基于 Reddit 上 131 个子版块的 15,000 个退出故事,结合社会心理学、组织行为与暴力极端主义理论,揭示从阴谋论和男性圈等问题群体脱离的多层面过程,并为心理健康干预设计提供启示。
2025-08-19 cs.CY cs.HC cs.SI
Just Asking Questions: Doing Our Own Research on Conspiratorial Ideation by Generative AI Chatbots
Digital Media Research Centre, Queensland University of Technology(昆士兰理工大学数字媒体研究中心)
本研究通过系统评估六种主流AI聊天机器人对阴谋论问题的回应,发现安全护栏在不同模型和阴谋论主题上存在显著差异,且设计具有选择性。
2025-11-18 cs.AI cs.CY
New world order, globalism and QAnon communities on Brazilian Telegram: how conspiracism opens doors to more harmful groups
本研究分析巴西 Telegram 上关于新世界秩序、全球主义和 QAnon 的阴谋论社区,发现 QAnon 是连接枢纽,NWO 和全球主义在危机中成为传播催化剂,并吸引反疫苗等群体,宗教叙事强化其合法性。
2024-09-04 cs.CY
Modeling Engagement with Brand and Organizational TikTok Videos Using Machine-Assisted Theory-Ensemble Annotation
Tallinn University(塔林大学);University of Tartu(塔尔图大学);Estonian Business School(爱沙尼亚商学院)
利用多模态大语言模型标注77个理论驱动的结构变量,分析约1万个TikTok视频,以预测参与度并探索短视频文化差异。
2026-06-16 cs.CY cs.SI
Uncovering Conspiratorial Narratives within Arabic Online Content
University of Mohamed Seddik Benyahia Jijel(穆罕默德·萨迪克·本叶海亚吉杰勒大学);University of Mohamed Bachir El Ibrahimi Bordj Bou Arreridj(穆罕默德·巴希尔·易卜拉希米布阿拉里季大学)
本研究利用命名实体识别和Top2Vec主题建模分析阿拉伯语博客和Facebook内容,识别出六类阴谋论叙事,填补了非英语阴谋论研究的空白。
2025-04-18 cs.CL cs.CY cs.SI
Assessing the Impact of Conspiracy Theories Using Large Language Models
Arizona State University(亚利桑那州立大学);University of Washington(华盛顿大学);USC Information Sciences Institute(南加州大学信息科学研究所);ASU Institute for Social Science Research(亚利桑那州立大学社会科学研究所)
本文构建人工标注的阴谋论影响数据集,并设计利用 LLM 多步推理的评估策略,发现证据驱动模式更准确,同时揭示模型存在位置、情绪和冗长性偏差。
2024-12-09 cs.CL cs.CY
Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results
网络搜索引擎是重要的在线信息中介,尽管有多种证据表明其输出存在不准确性和偏见,但仍被公众频繁使用和高度信任。这种不准确的一种形式,迄今为止很少受到学术界的关注,是阴谋信息的存在,即宣传阴谋论的页面。我们通过进行比较算法审计来解决这个问题,以检查五个搜索引擎(Google,Bing,DuckDuckGo,Yahoo和Yandex)搜索结果中阴谋信息的分布。使用基于虚拟代理的基础设施,我们系统地收集了六个阴谋论相关查询(平坦地球,新世界秩序,qanon,9/11,光照派,乔治索罗斯)的搜索输出,这些查询跨越三个地点(两个在美国,一个在英国)和两个观察期(2021年3月和5月)。我们发现,除谷歌外,所有搜索引擎都一致显示阴谋宣传结果,并在其顶部结果中返回阴谋专用网站的链接,尽管此类内容的份额因查询而异。大多数阴谋宣传的结果来自社交媒体和专门的阴谋网站,而阴谋揭穿的信息则由科学网站分享,在较小程度上,传统媒体。这些观察结果在不同地点和时间段都是一致的,这一事实突出表明,一些搜索引擎可能系统地优先考虑宣扬阴谋论的内容,从而扩大其在网上环境中的传播。
2021-12-06 cs.CY cs.IR
Social determinants of content selection in the age of (mis)information
尽管人们对所谓的\emph{collective intelligence}充满热情,但阴谋论-例如化学尾迹引起的全球变暖或疫苗与自闭症之间的联系-在网络上找到了传播它们的自然媒介。用户根据他们的信仰系统优先消费信息,相反叙述的用户内部的冲突可能导致激烈的争论。在这项工作中,我们提供了一个真正的例子,从120万的Facebook意大利用户的样本信息消费。我们通过彻底的定量分析表明,支持不同世界观的信息-即科学和阴谋论新闻-以可比的方式被各自的用户消费。此外,我们测量了暴露于4709个明显错误的信息(阴谋论的讽刺版本)和4502个揭穿迷因(旨在对比未经证实的谣言的信息)的影响。我们发现,无论是对比或取笑消费者的阴谋叙事增加了他们的概率再次互动与未经证实的谣言。
2014-09-09 cs.CY cs.SI physics.data-an
Echo chambers in the age of misinformation
在线社交媒体中用户提供的内容的广泛可用性促进了人们围绕共同兴趣,世界观和叙述的聚集。尽管有些人热情地说这一过程产生了“集体智慧”,但万维网也允许未经证实的阴谋论迅速传播,这些阴谋论往往引起迅速、大规模但幼稚的社会反应,例如最近的Jade Helm 15事件-一次简单的军事演习被认为是美国内战的开始。我们研究了Facebook用户如何消费与两种不同类型的叙事相关的信息:科学和阴谋新闻。我们发现,尽管科学和阴谋故事的消费者在内容方面呈现出相似的消费模式,但传播级联的大小不同。均匀性似乎是内容物扩散的主要驱动力,但每个回声室都有自己的级联动力学。为了模拟这些动态,我们在签名网络上引入了一个数据驱动的渗流模型。
2015-12-21 cs.CY cs.HC cs.SI
Cognitive networks identify the content of English and Italian popular posts about COVID-19 vaccines: Anticipation, logistics, conspiracy and loss of trust
University of Exeter(埃克塞特大学);University of Kansas(堪萨斯大学)
监测有关COVID-19疫苗的社会话语是了解大量人群如何看待疫苗接种活动的关键。我们专注于2020年12月至2021年3月期间关于COVID-19疫苗的英语或意大利语的4765条独特热门推文。一条流行的英文推文被点赞高达49.5万次,强调了流行的推文如何影响大量的认知人群。我们调查了推文中的文本和多媒体,建立了一个包括视觉特征在内的消息中的句法/语义关联的知识图,并表明在线用户如何主要围绕疫苗分发的物流构建社会话语。英语中“疫苗”的语义框架在信任/预期(对疫苗作为拯救生命的科学资产)和愤怒/悲伤(提及剂量管理的关键问题)之间高度两极分化。与“疫苗”、“骗局”和阴谋论术语的语义关联表明,阴谋论和疫苗在大量阅读的英语帖子中持续存在(在意大利语帖子中不存在)。图像分析发现,带有戴口罩的人的流行推文使用的语言缺乏信任和喜悦,这表明社交话语中的面部覆盖会产生负面影响。一项行为分析显示,用户倾向于分享引发喜悦、悲伤和厌恶的内容,并喜欢不那么悲伤的信息,这突出了情感与内容扩散之间的相互作用。随着阿斯利康疫苗于2021年3月中旬被暂停,“阿斯利康”与专家推动的信任语言联系在一起,但意大利流行的推文通过用深深的悲伤取代早期的信任水平来框定“疫苗”。我们的研究结果强调了认知网络和创新的多媒体处理如何为重建关于疫苗和信任的在线感知开辟新的途径。
2021-03-29 cs.CL cs.CY cs.SI
Helping People Deal With Disinformation -- A Socio-Technical Perspective
自从互联网出现以来,虚假信息和阴谋论已经无处不在。最近的例子,如QAnon和Pizzagate证明,虚假信息可能导致真正的暴力。在CHI 2021错误信息的人性化方面研讨会的动机陈述中,我解释了我的研究议程,重点是1。为什么人们相信虚假信息,2。如何最好地支持人们识别虚假信息,以及3.旨在打击虚假信息的不同工具的潜力和风险是什么。
2021-04-09 cs.CY cs.HC
Science on YouTube: What users find when they search for climate science and climate manipulation
YouTube等在线视频分享网站非常受欢迎,也被许多人用来获取科学、健康和技术方面的知识和信息。从技术上讲,它们可以成为公众传播科学和技术的宝贵工具,但YouTube的用户也面临着阴谋论以及偏离科学共识的错误和误导性信息。这篇文章详细介绍了一项研究的结果,该研究调查了用户在YouTube上搜索气候科学和气候操纵主题时发现了什么样的信息,以及这些信息是否符合或挑战了科学共识。介绍了一种使用匿名化网络Tor的创新方法,用于绘制YouTube视频的随机样本。这种方法被用来选择和审查140个关于气候主题的YouTube视频样本。
2016-04-18 cs.CY cs.MM
"It is just a flu": Assessing the Effect of Watch History on YouTube's Pseudoscientific Video Recommendations
YouTube的推荐算法在无意中推广错误信息和阴谋论方面所扮演的角色并不完全清楚。然而,这可能会在现实世界中产生可怕的后果,特别是当伪科学内容在关键时刻(如COVID-19大流行)向用户推广时。在本文中,我们开始描述和检测YouTube上的伪科学错误信息。我们收集了6.6K与COVID-19、地球平坦理论以及反疫苗接种和反口罩运动相关的视频。使用众包,我们将它们标注为伪科学,合法科学或无关紧要,并训练一个深度学习分类器来检测伪科学视频,准确率为0.79。我们量化了用户在平台各个部分对这些内容的曝光度,以及这种曝光度如何根据用户的观看历史记录而变化。我们发现YouTube建议更多关于传统伪科学主题的伪科学内容(例如,平坦的地球,反疫苗接种)而不是新兴的(如COVID-19)。同时,这些推荐在搜索结果页面上比在用户的主页上或在主动观看视频时的推荐部分中更常见。最后,我们揭示了用户的观看历史如何实质性地影响推荐视频的类型。
2021-10-12 cs.CY cs.SI