Mediating Community-AI Interaction through Situated Explanation: The Case of AI-Led Moderation
Pennsylvania State University(宾夕法尼亚州立大学);College of Information Sciences and Technology(信息科学与技术学院)
人工智能(AI)已经在我们的日常技术中变得普遍,并影响着个人和社区。可解释人工智能(XAI)奖学金探索了解释和技术解释的哲学本质,这些解释通常由实验室环境中的专家驱动,对于外行人来说可能很难理解。此外,现有的XAI研究往往侧重于个人层面。人们如何理解和解释社区背景下人工智能主导的决策,目前还知之甚少。从XAI和活动理论,一个基础的HCI理论,我们的理论解释是如何位于一个社区的共同价值观,规范,知识和实践,以及如何位于解释调解社区人工智能的互动。然后,我们提出了一个人工智能主导的适度的案例研究,社区成员共同开发人工智能主导的决策的解释,其中大部分是自动化的惩罚。最后,我们讨论了这个框架在CSCW,HCI和XAI的交叉点的影响。
2020-08-19 cs.AI cs.CY cs.HC
Make Reddit Great Again: Assessing Community Effects of Moderation Interventions on r/The_Donald
Reddit r/The_Donald被多次谴责为有毒和行为不端的在线社区,原因是它面临着Reddit管理员越来越多的限制性适度干预。它于2019年6月被隔离,于2020年2月受到限制,并于2020年6月最终被禁止,但尽管对此事进行了初步研究,但这一系列干预措施的效果仍不清楚。在这项工作中,我们遵循多维因果推理方法来研究包含超过1500万个帖子的数据,这些帖子在2年的时间内发布,以检查这些干预措施在subreddit内部和外部的影响。我们发现,干预措施大大减少了有问题的用户的活动。然而,这些干预措施也导致了毒性的增加,并导致用户分享更加两极化和更少的事实新闻。此外,限制比隔离的影响更大,r/The_Donald的核心用户受到的影响比其他用户更大。总的来说,我们的研究结果提供了证据表明,干预措施的效果好坏参半,并描绘了社区一级适度策略的后果的细微差别。最后,我们反思了监管在线平台的挑战,以及对适度干预措施的设计和部署的影响。
2022-08-22 cs.CY cs.HC cs.SI
One of Many: Assessing User-level Effects of Moderation Interventions on r/The_Donald
评估审核干预措施的效果是一项至关重要的任务,因为它可以评估内容审核过程的成功。到目前为止,干预效果几乎只在综合平台或社区一级进行评估。在这里,我们对针对r/The_Donald的一系列适度干预的用户级效果进行了多维评估:Reddit上的唐纳德·特朗普追随者社区。我们证明了这些干预措施:1)大大减少了用户活动; 2)略微增加了用户参与的subreddits的多样性; 3)略微降低了用户毒性; 4)让位于分享较少的事实和更多的政治偏见新闻。重要的是,我们还发现,具有强大的社区层面的影响的干预措施与极端和多样化的用户层面的反应。我们的研究结果强调,社区水平的影响并不总是代表个人或较小的用户组的潜在行为。最后,我们讨论了我们的结果的实际和伦理影响。总的来说,我们的研究结果可以为制定有针对性的适度干预措施提供信息,并为在线平台的监管提供有用的指导。
2023-03-01 cs.CY cs.HC cs.SI
Nip it in the Bud: Moderation Strategies in Open Source Software Projects and the Role of Bots
本研究通过访谈14名开源从业者,考察OSS社区的审核结构、规范与冲突缓解策略,并探讨机器人辅助审核的现状、认知及改进建议。
2023-08-14 cs.HC cs.SE
"Community Guidelines Make this the Best Party on the Internet": An In-Depth Study of Online Platforms' Content Moderation Policies
本文系统爬取并标注43家大型UGC平台围绕版权、有害言论和误导性内容的审核政策,揭示其跨平台、跨主题的结构差异及法律成因。
2024-05-08 cs.HC cs.SI
Coordination and Collaboration: How do Volunteer Moderators Work as a Team in Live Streaming Communities?
本研究通过访谈Twitch平台40名志愿者版主,探讨其团队协作机制,识别了任务协作与标准贡献方式,并分析了多模态沟通和非正式性对团队效能的影响。
2022-03-24 cs.HC
Mind Your Ps and Qs: Positive Moderation Practice in the Positive Queue
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究提出正向队列(Positive Queue)作为Reddit版主队列的积极对应工具,通过五位版主的实践考察积极强化机制,发现其结合预测与参与度识别被忽视内容,并将积极调节概念化为认可基础设施,揭示劳动、归因与社区契合的张力。
2026-09-15 cs.HC
Understanding Community-Level Blocklists in Decentralized Social Media
本文通过内容分析和访谈研究Mastodon社区级屏蔽列表的使用现状,揭示其目标、标准与透明度差异,并提出评论回执、类别过滤器和协作投票等设计改进建议,以支持去中心化内容管理。
2025-06-05 cs.HC cs.SI
"I Got Flagged for Supposed Bullying, Even Though It Was in Response to Someone Harassing Me About My Disability.": A Study of Blind TikTokers' Content Moderation Experiences
本研究通过访谈 20 名 BlindTokers,揭示 TikTok 可访问性缺失与骚扰引发的审核如何造成盲人用户被边缘化,并探讨转型正义导向的改进路径。
2024-01-22 cs.HC
The Laziness of the Crowd: Effort Aversion Among Raters Risks Undermining the Efficacy of X's Community Notes Program
University of Zurich(苏黎世大学);Clemson University(克莱姆森大学)
研究发现评分者因懒惰而避免评估需要更多努力的合理虚假信息,可能削弱X社区笔记计划的有效性。
2026-03-11 cs.HC
The Risks, Benefits, and Consequences of Prepublication Moderation: Evidence from 17 Wikipedia Language Editions
本文通过分析17个维基百科语言版本部署的预发布审核系统FlaggedRevs的面板数据,发现该系统有效阻止低质量贡献可见,但对贡献量和质量影响温和,表明对其主要负面影响的担忧被夸大。
2022-08-26 cs.HC
DanModCap: Designing a Danmaku Moderation Tool for Video-Sharing Platforms that Leverages Impact Captions with Large Language Models
本文提出弹幕管理工具DanModCap,利用大语言模型将弹幕分析结果转化为冲击字幕,以主动引导用户产生亲社会行为并减少负面情绪。
2025-02-08 cs.HC
Asking For It: Question-Answering for Predicting Rule Infractions in Online Content Moderation
本文提出ModQ问答框架,利用社区规则进行内容审核,通过抽取式和选择题问答变体在Reddit和Lemmy数据上训练,优于基线并泛化至新社区。
2025-10-07 cs.AI cs.CL cs.CY
Addressing interpersonal harm in online gaming communities: the opportunities and challenges for a restorative justice approach
本研究访谈23名 Overwatch 社区用户,考察修复性司法用于在线游戏人际伤害处理的机遇、态度及实施障碍。
2023-06-07 cs.HC
StoryChat: Designing a Narrative-Based Viewer Participation Tool for Live Streaming Chatrooms
本文提出基于叙事的直播聊天室参与工具StoryChat,通过动态图形情节反映聊天室负面情绪,研究发现该工具能提升观众参与度、促进亲社会行为并增强社区意识。
2023-04-07 cs.HC
Moderation Challenges in Voice-based Online Communities on Discord
在线社区版主处于打击仇恨言论和骚扰等问题的第一线,但新的互动模式可能会带来意想不到的挑战。在本文中,我们认为适度的做法和挑战的背景下,实时的,基于语音的通信通过25个深入采访主持人不和谐。我们的研究结果表明,基于语音的在线社区的启示改变了适度内容和互动的意义。不仅有新的方法来打破基于文本的社区主持人不熟悉的规则,例如破坏性噪音和语音突袭,而且由于实时语音的短暂性,获取违规行为的证据也更加困难。虽然版主已经开发了新的版主策略,但这些策略是有限的,并且通常基于道听途说和第一印象,导致从不成功的版主到虚假指控的问题。基于这些发现,我们讨论了语音通信如何使当前对适度的理解和假设复杂化,并概述了平台设计者和管理员可以设计技术以促进适度的方法。
2021-01-13 cs.CY cs.HC
"Think about it like you're a firefighter": Understanding How Reddit Moderators Use the Modqueue
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文通过调查管理 400 多个 subreddit 的 110 名 Reddit 版主,揭示 modqueue 的差异化用法与协调、信号及工具依赖问题,并提出更模块化、可定制的基础设施设计方向。
2025-10-06 cs.HC
Discerning Authorship in Online Health Communities: Experience, Trust, and Transparency Implications for Moderating AI
Erasmus University Rotterdam(伊拉斯姆斯大学鹿特丹);Jönköping University(延雪平大学);University College London(伦敦大学学院)
研究探讨在线健康社区中用户辨别AI生成建议作者身份的能力,发现透明度与信任的重要性,尽管用户难以区分AI与人类生成内容,但健康状况有显著影响。
2026-04-21 cs.CY cs.HC
Harmonizing the Cacophony with MIC: An Affordance-aware Framework for Platform Moderation
社交平台和使用它们的在线社区正在快速发展。因此,关于如何缓和在线社区的研究和开发正在被超越。在本文中,我们提出了一个新的框架,使适度的研究人员和从业人员不仅要跟上可用平台和启示的多样性景观,但也全面代表和分析这些平台上的适度。MIC框架使用12个平台级示能表示的基本集合以及它们之间可以存在的示能表示间关系的概念来表示社交平台的适度生态系统。这些启示分为三类-成员,基础设施和内容-来自Grimmelmann的适度分类法,这是一个已经被适度研究社区广泛接受和使用的框架。为了展示MIC如何作为Grimmelmann镜头的有见地的增强,我们首先描述它的组件如何已经被证明会影响Grimmelmann的适度技术。然后,我们通过分析两个案例研究过程中的几个社交平台,展示了使用像MIC这样的负担能力感知框架的优势。首先,我们使用MIC分析各个平台,并演示如何使用MIC来检查平台变化对适度生态系统的影响,并识别适度中潜在的新挑战。接下来,使用MIC系统地比较三个平台,并提出每个平台都可以适应的潜在调节机制。适度研究人员和利益相关者可以利用这种比较来发现平台可以模仿成熟,成功和更好的研究平台,以及从其他平台遇到的陷阱中学习。
2022-06-23 cs.HC cs.SI
Mod-Guide: An LLM-based Content Moderation Feedback System to Address Insensitive Speech toward Indigenous Ethnic and Religious Minority Communities
Department of Computer Science, University of Toronto(计算机科学系,多伦多大学);Independent University Bangladesh(孟加拉国独立大学);Indiana University(印第安纳大学);Faculty of Information, University of Toronto(信息学院,多伦多大学)
本文研究LLM审核系统对孟加拉国印度教和查克玛社区不敏感言论的认知局限,通过共同构建文化语料库和检索增强生成(RAG)方法开发Mod-Guide工具,提升模型对少数群体观点的敏感性。
2026-06-12 cs.AI cs.CY cs.HC
Critical Challenges in Content Moderation for People Who Use Drugs (PWUD): Insights into Online Harm Reduction Practices from Moderators
University of St. Andrews(圣安德鲁斯大学);University of Edinburgh(爱丁堡大学)
本文探讨了药物使用者在线社区审查中的独特挑战,提出通过多维方法和基于示例的指导改进审查设计,以应对高风险评估和监管冲突。
2026-01-04 cs.CY cs.HC
Silencing Empowerment, Allowing Bigotry: Auditing the Moderation of Hate Speech on Twitch
Indian Institute of Science(印度科学研究院);University of Chicago(芝加哥大学);Indian Institute of Technology, Bombay(班加罗尔印度理工学院)
本文通过向 Twitch 实时聊天发送逾 10.7 万条评论审计 AutoMod,发现其漏检大量仇恨言论、依赖侮辱词且误拦教学或赋权语境内容。
2025-06-10 cs.CL cs.HC cs.LG
VASTU: Language Models Struggle to Recognize Online Community Values
VASTU通过社区特定模型在内容编纂中实现价值对齐,微调的转换器表现最佳,揭示了学习社区规范的重要性。
2026-09-01 cs.HC
Designing AI-Infused Interactive Systems for Online Communities: A Systematic Literature Review
The Hong Kong University of Science and Technology(香港科技大学);Sun Yat-sen University(中山大学)
本文通过分析77项研究,系统回顾了在线社区中融合人工智能系统的挑战、设计功能及评估策略,揭示了社区参与的核心方面及未来研究方向。
2026-04-07 cs.HC
Beyond the Silence: How Men Navigate Infertility Through Digital Communities and Data Sharing
Rutgers University(罗格斯大学);Johns Hopkins Bloomberg School of Public Health(约翰斯·霍普金斯大学布隆伯格公共卫生学院);University at Buffalo(布法罗纽约州立大学)
本研究探讨男性通过数字社区和数据共享应对不育问题,发现社区作为混合空间,提供医学建议、情感支持和管理功能,跨帖者在不同社区间起到导航和导师作用。
2026-01-16 cs.HC
Wikibench: Community-Driven Data Curation for AI Evaluation on Wikipedia
Carnegie Mellon University(卡内基梅隆大学);Microsoft(微软公司);Tsinghua University(清华大学);Columbia University(哥伦比亚大学)
本文提出 Wikibench 系统,使维基百科社区能够协作策展 AI 评估数据集,并通过讨论处理观点分歧,实地研究表明其能有效捕捉社区共识、分歧与不确定性,同时支持社区塑造数据策展流程。
2024-02-21 cs.AI cs.HC
Peer Surveillance in Online Communities
针对在线社区中用户相互监视导致的隐私泄露与伤害问题,提出一个分析脆弱群体数据隐私的新框架,通过综合40年监视研究提出改善用户安全的关键步骤。
2023-08-02 cs.HC
Understanding Fanchuan in Livestreaming Platforms: A New Form of Online Antisocial Behavior
本文首次实证研究Bilibili直播聊天中的“饭圈”反社会行为,基于270万场直播、36亿条消息识别13万个实例,揭示其隐蔽攻击模式。
2025-08-31 cs.CY cs.HC