人机沟通中的性别误称作为故障：AI伴侣聊天机器人用户如何经历与修复性别误称
Misgendering as Breakdown in Human-Machine Communication: How AI Companion Chatbot Users Experience and Repair Misgendering
- Western University（韦仕敦大学）
- Carnegie Mellon University（卡内基梅隆大学）
- The University of Texas at Austin（德克萨斯大学奥斯汀分校）
- University of Michigan（密歇根大学）
机构由 AI 辅助整理，请以论文原文为准。
AI总结：
本研究通过定性分析326篇Reddit帖子，探讨AI伴侣聊天机器人中的性别误称现象，揭示其发生机制及用户为预防和修复所付出的持续努力，并为减轻该问题及身份探索影响提供启示。
AI中文摘要：
近年来，基于大语言模型的AI伴侣和角色扮演聊天机器人日益流行。人们转向这些聊天机器人寻求情感支持，并参与浪漫和情色角色扮演。尽管先前研究表明数字角色扮演可以帮助人们探索其性别与性取向，但基于LLM的技术也充斥着性别与性取向偏见。在本研究中，我们考察了AI聊天机器人伤害用户的一种方式：性别误称。为了研究聊天机器人的性别误称，我们定性分析了326篇提及性别误称的帖子，这些帖子发布在AI伴侣或角色扮演的subreddit社区中。我们记录了聊天机器人性别误称如何发生，以及用户如何回应性地持续努力策展其性别呈现，以预防和修复性别误称。我们讨论了研究人员和设计者如何减轻聊天机器人的性别误称，并思考了使用AI聊天机器人进行身份探索的影响。
英文摘要：
In recent years, large language model-based AI companion and role play chatbots have grown increasingly popular. People turn to these chatbots for emotional support and to engage in romantic and erotic role play. Although prior research suggests that digital role play can help people explore their gender and sexuality, LLM based technologies are also replete with gender and sexuality biases. In this study, we examine one way that AI chatbots can harm users: misgendering. In order to study chatbot misgendering we qualitatively analyzed 326 posts mentioning misgendering that were shared in AI companion or role play subreddits. We document how chatbot misgendering takes place and how, in response, users engage in ongoing work to curate their gender presentation to prevent and repair misgendering. We discuss how researchers and designers can mitigate chatbot misgendering and consider the implications of using AI chatbots for identity exploration.
