Digital Nudges Using Emotion Regulation to Reduce Online Disinformation Sharing
Institute of Information Security(信息安全研究所)
本研究评估数字助推通过情绪调节减少愤怒驱动的在线虚假信息分享,发现分心助推最有效,可作为干预手段。
2025-03-31 cs.CR cs.CY cs.HC
Adapting Security Warnings to Counter Online Disinformation
虚假信息在互联网上激增,平台通过在内容上附加警告来应对。然而,几乎没有证据表明这些警告有助于用户识别或避免虚假信息。在这项工作中,我们适应的方法和结果从信息安全警告文献,以设计和评估有效的虚假信息警告。在最初的实验室研究中,我们使用模拟搜索任务来检查上下文和间隙虚假信息警告设计。我们发现,用户通常会忽略上下文警告,但用户会注意到间隙警告,并通过从其他来源寻求信息来回应。然后,我们进行了一项后续的人群工作者研究,其中有八个间隙警告设计。我们证实了对用户信息搜索行为的重大影响,我们发现警告的设计可以有效地告知用户或传达伤害风险。然而,我们还发现,用户的理解和对伤害的恐惧都不会影响行为效果。我们的工作提供的证据表明,虚假信息警告可以-如果设计良好-帮助用户识别和避免虚假信息。我们展示了一条设计有效警告的前进道路,并为评估行为影响提供了可重复的方法。我们还提出了一个可能的困境:虚假信息警告可能能够告知用户并指导行为,但行为影响可能来自用户体验摩擦,而不是明智的决策。
2021-08-16 cs.CR cs.CY cs.HC
Agent-based simulation of online social networks and disinformation
University of Murcia(穆尔西亚大学)
本文提出了一种基于代理的社交网络模拟框架,结合生成模块和红色模块,用于研究虚假信息传播的动态及影响。
2025-12-26 cs.CY
Tactical Reframing of Online Disinformation Campaigns Against The Istanbul Convention
2021年3月,土耳其退出了《伊斯坦布尔公约》,这是一项针对暴力侵害妇女行为的人权条约,理由是该公约隐含承认性和性别少数群体。在这项工作中,我们追踪与《伊斯坦布尔公约》及其相关的土耳其法律有关的虚假宣传活动,这些活动在离婚男子的Facebook群组中传播。我们发现,这些团体调整了宣传活动的叙事和重点,以吸引更多的受众,我们称之为“战术重构”。“最初,这些人以基层方式组织起来,反对土耳其为编纂《公约》而通过的法律,重点是片面监护儿童和无限期赡养费。后来,他们重新组织了他们的运动,并开始攻击伊斯坦布尔公约,强调其承认同性恋。这一案例研究突出说明了如何利用虚假宣传活动将仇视同性恋作为武器,以限制妇女的权利。据我们所知,这是第一个案例研究,分析了在社交媒体上的虚假信息运动的背景下的叙事重构。
2021-05-27 cs.CY cs.SI
Persuasion for Good: Towards a Personalized Persuasive Dialogue System for Social Good
Zhejiang University(浙江大学);University of California, Davis(加州大学戴维斯分校);University of Pennsylvania(宾夕法尼亚大学)
开发智能说服性对话代理来改变人们的意见和行为,以造福社会,是推进自动对话系统道德发展的前沿。要做到这一点,第一步是要理解人类说服对话中所采用的策略披露和呼吁的复杂组织。我们设计了一个在线说服任务,要求一名参与者说服另一名参与者向特定的慈善机构捐款。我们收集了一个包含1,017个对话的大型数据集,并从一个子集中注释了新兴的说服策略。在此基础上,我们构建了一个包含上下文信息和会话级别特征的基线分类器,用于预测语料库中使用的10种说服策略。此外,为了理解个性化的说服过程,我们分析了个人的人口统计学和心理背景,包括个性,道德,价值体系和他们的捐赠意愿之间的关系。然后,我们分析了哪些类型的说服策略导致更大的捐赠金额取决于个人的个人背景。这项工作奠定了基础,开发一个个性化的说服性对话系统。
2020-01-13 cs.AI cs.CL cs.CY
The role of online attention in the supply of disinformation in Wikipedia
维基百科和许多用户生成内容(UGC)社区以生产可靠,高质量的内容而闻名,但也容易受到虚假或误导性信息的影响。先前的研究表明,维基百科上的许多恶作剧在很长一段时间内都没有被发现。但人们对网上故意制造虚假或误导性信息的行为知之甚少。对一个话题的集体关注是否会增加它产生虚假信息的可能性?在这里,我们衡量的注意力分配和生产的英文维基百科上的恶作剧文章之间的关系。对流量日志的分析表明,与同一天创建的合法文章相比,恶作剧往往与创建之前的流量峰值更相关。这与关于一个主题的虚假或误导性信息的提供是由它所受到的关注驱动的想法是一致的。这些发现提高了我们对UGC社区中虚假信息决定因素的理解,并有助于促进维基百科知识的完整性。
2023-02-16 cs.CY cs.SI physics.soc-ph
Characterizing Online Engagement with Disinformation and Conspiracies in the 2020 U.S. Presidential Election
University of Southern California(南加州大学)
识别和定性社交媒体上政治话语中的虚假信息对于确保世界各地选举和民主进程的完整性至关重要。对社交媒体的持续操纵导致人们对2020年美国总统大选的担忧增加,因为它有可能影响个人意见和社会动态。在这项工作中,我们专注于识别扭曲的事实,在与选举相关的推文中以不可靠和阴谋的叙述形式,以描述选举前的话语操纵。我们应用一个检测模型来区分事实和不可靠(或阴谋)的说法,分析了2.42亿条与选举相关的推文的数据集。已确定的索赔用于调查有针对性的虚假信息主题和阴谋集团,最著名的是极右翼QAnon阴谋集团。此外,我们通过政治倾向和推文类型来描述与不可靠和阴谋推文以及与QAnon阴谋集团的账户互动。最后,使用回归不连续设计,我们调查Twitter的行动,以遏制QAnon活动的平台上是否有效,以及QAnon帐户如何适应Twitter的限制。
2021-10-20 cs.CY cs.LG cs.SI
Lawful but Awful: Evolving Legislative Responses to Address Online Misinformation, Disinformation, and Mal-Information in the Age of Generative AI
本文通过新型法规数据集分析全球应对在线错误信息、虚假信息和恶意信息的立法演进,指出立法浪潮始于低自由、低收入国家,当前西方国家增长最快,全球已就相关立法必要性达成共识,核心争议转向监管方式。
2025-05-21 cs.CY
A Survey on Multimodal Disinformation Detection
Qatar Computing Research Institute, HBKU(哈马德·本·哈利法大学卡塔尔计算研究所);IIT-CNR(意大利国家研究委员会信息处理研究所);IIT Delhi(德里印度理工学院);Sapienza University of Rome(罗马第一大学);Sofia University(索非亚大学);University of Padova(帕多瓦大学);Facebook AI(脸书人工智能);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
近年来,网上攻击性内容激增,如假新闻,宣传,错误信息和虚假信息。虽然最初这主要是关于文本内容,但随着时间的推移,图像和视频越来越受欢迎,因为它们比文本更容易消费,吸引更多的注意力,并传播得更远。因此,研究人员开始利用不同的模式及其组合来解决在线多模态攻击性内容。在这项研究中,我们提供了一个调查的国家的最先进的多模态虚假信息检测,涵盖各种形式的组合:文本,图像,语音,视频,社交媒体网络结构和时间信息。此外,虽然一些研究侧重于真实性,但其他研究调查了内容的危害程度。虽然虚假信息定义中的这两个组成部分(i)真实性和(ii)危害性同样重要,但它们通常被孤立地研究。因此,我们认为,需要解决虚假信息检测,同时考虑到多种形式以及事实性和危害性,在同一个框架。最后,我们讨论了当前的挑战和未来的研究方向
2022-09-28 cs.AI cs.CL cs.CR
Misleading Ourselves: How Disinformation Manipulates Sensemaking
本文提出“被操纵的意义建构”概念,揭示虚假信息通过塑造深层故事和利用合理解释倾向来扰乱公众对选举等不确定事件的理解,并影响未来事件的意义建构。
2024-10-18 cs.CY cs.HC cs.SI
Domain-Level Detection and Disruption of Disinformation
在短短的20年里,我们是如何从互联网的承诺,使知识的获取民主化,使世界更加理解和开明,到今天的互联网每天的恐怖故事?我们充斥着由谎言、阴谋和一般的废话组成的虚假信息,所有这些都具有现实世界的影响,从可怕的侵犯人权到对我们的民主和全球公共卫生的威胁。虽然互联网是巨大的,虚假信息的小贩似乎更本地化。为此,我们描述了一个域级别的分析,用于预测域是否参与分发或放大虚假信息。这个过程分析域的底层内容和域之间的超链接连接,以预测域是否在兜售虚假信息。这些基本见解延伸到对Telegram和Twitter上虚假信息的分析。从这些见解中,我们提出,搜索引擎和社交媒体推荐算法可以系统地发现和降级最严重的虚假信息罪犯,为我们的在线社区恢复一些信任和理智。
2022-05-06 cs.CY
LLMs as information warriors? Auditing how LLM-powered chatbots tackle disinformation about Russia's war in Ukraine
本文审计Google、Microsoft和Perplexity的LLM聊天机器人对俄乌战争虚假信息的响应,发现其准确性随语言和时间变化,Perplexity多语言改善,而Gemini仅英语改善、低资源语言恶化。
2024-09-18 cs.CY
QCRI at SemEval-2023 Task 3: News Genre, Framing and Persuasion Techniques Detection using Multilingual Models
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所,哈马德·本·哈利法大学);Hishab Singapore Pte. Ltd(Hishab新加坡私人有限公司);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
针对网络错误信息人工核查难的问题,本文介绍了QCRI团队参与SemEval-2023任务3的多语言新闻体裁、框架与说服技巧检测系统,该系统在27个测试设置中有10个进入前三。
2023-05-05 cs.AI cs.CL cs.CY
Understanding the Use of Fauxtography on Social Media
尽管基于图像的传播对网络话语产生了影响,但图像在虚假信息中所扮演的角色仍然没有得到很好的理解。在本文中,我们提出了第一个大规模的研究fauxtography,分析使用操纵或误导性的图像在网上社区的新闻讨论。首先,我们开发了一个用于检测fauxtography的计算管道,并识别了Twitter,4chan和Reddit上讨论的超过61,000个fauxtography实例。然后,我们研究了发布虚假内容如何影响社交媒体上帖子的参与度,发现包含它的帖子以重新分享,喜欢和评论的形式获得更多的互动。最后,我们发现,fauxtography图像往往变成模因的网络社区。我们的研究结果表明,有效缓解虚假信息需要考虑图像,并强调了处理基于图像的虚假信息的一些挑战。
2020-09-25 cs.CY
Governance Capture in a Self-Governing Community: A Qualitative Comparison of the Serbo-Croatian Wikipedias
通过比较克罗地亚语和塞尔维亚语维基百科,揭示高感知价值、有限官僚开放性和非正式组织偏好三因素汇聚导致治理俘获,为防范在线社区虚假信息操纵提供启示。
2023-11-06 cs.CY cs.HC
Racism, Resistance, and Reddit: How Popular Culture Sparks Online Reckonings
本研究通过分析Reddit用户对两部电视剧的评论,揭示流行文化如何激发线上种族讨论,并识别出三种动态社会角色及其在匿名环境中的角色流动。
2025-05-27 cs.CY cs.HC
Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
该研究针对自动化事实验证系统易受证据操纵攻击的问题,提出涵盖两类攻击目标与多威胁维度的探索性分类体系,设计多种攻击方法并证实其能大幅降低核查性能,为后续防御研究指明方向。
2023-06-16 cs.CL cs.CR cs.CY
Multimodal Coordinated Online Behavior: Trade-offs and Strategies
University of Pisa(比萨大学);Institute for Informatics and Telematics, National Research Council (IIT-CNR)(信息学与电信学研究院,国家研究理事会(IIT-CNR));InfoLab, Department of Information Technology, Uppsala University(信息实验室,信息科技系,乌普萨拉大学)
本研究探讨多模态协调在线行为的权衡与策略,通过比较不同方法揭示多模态分析在捕捉协调行为结构方面的优势。
2026-02-13 cs.AI cs.CY cs.HC
Complexity of the Online Distrust Ecosystem and its Evolution
本文通过分析 2019 至 2023 年约 1 亿用户的 Facebook 疫苗不信任网络,揭示在线不信任生态系统在平台缓解措施后能快速自我修复,表明 Facebook 疫情期间干预无效,并指出未来干预需跨主题、跨地理尺度设计。
2023-10-30 cs.CY cs.SI physics.soc-ph