Social Virtual Reality: Ethical Considerations and Future Directions for An Emerging Research Space
近年来,商业社交虚拟现实(VR)平台的蓬勃发展标志着消费者VR的增长和广泛采用。社交VR平台从传统的2D虚拟世界中汲取了一些方面,在传统的2D虚拟世界中,用户可以参与各种沉浸式体验、互动活动以及基于化身的选择。然而,社交VR也展示了扩展传统2D虚拟世界和其他在线社交空间的特定细微差别,例如完整/部分身体跟踪化身,以新的方式体验平凡的日常活动(例如,睡眠),以及一种身临其境的方式来探索新的和复杂的身份。越来越受欢迎的趋势表明,顶级技术公司都有自己的社交VR平台,并对此感兴趣。到目前为止,社交虚拟现实已经成为一个新兴的研究领域,主要集中在设计策略,沟通和交互方式,细致入微的活动,自我展示,骚扰,隐私和自我披露。这些最近的工作表明,在社交VR学术领域仍然存在许多问题,例如如何在这些网站上进行道德研究以及哪些研究领域需要额外关注。因此,在本文中,我们概述了现代社交虚拟现实,批判性地回顾了该领域的现有学术研究,提出了在这些网站上进行研究的伦理考虑,并强调了未探索的领域。
2021-04-11 cs.HC
Interdisciplinary Research with Older Adults in the area of ICT: Selected Ethical Considerations and Challenges
在本文中,我们分析,分类和讨论一些伦理问题和挑战有关的追求探索性和跨学科的研究项目在ICT领域,特别是那些涉及老年人。首先,我们确定聚光灯区,这是特别突出的这些领域。接下来,我们将探讨跨学科研究人员在规划、开展和展示探索性研究活动时可能遇到的陷阱。最后,其中一些被选择和讨论更密切,而相关的开放性问题提出。
2022-08-22 cs.CY cs.HC
Ethical Considerations of AR Applications in Smartphones; A Systematic Literature Review of Consumer Perspectives
本研究通过系统性文献综述梳理智能手机AR应用的消费者伦理感知,归纳出收益与伦理考量两大维度及下属具体主题,为相关从业者开发和部署AR应用提供参考。
2023-06-06 cs.CY cs.HC
On the Ethical Considerations of Text Simplification
University of Cambridge(剑桥大学)
本文概述了文本简化的辅助系统的框架内的伦理影响。我们认为,执行文本简化和实现这些辅助技术的技术之间的区别。当使用后者作为研究动机时,重要的是要仔细考虑随后的伦理影响。我们提供了独立于辅助系统的文本简化框架的指导方针,并根据所提出的问题为未来的研究和讨论提出了方向。
2022-04-20 cs.CL cs.ET cs.HC
When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies
通过对21名医生的访谈,研究揭示了在临床中使用生成式AI起草患者消息回复时的关键伦理考量,并指出医生认为伦理责任主要在于使用者而非技术本身。
2025-08-17 cs.CY cs.HC
What would Plato say? Concepts and notions from Greek philosophy applied to gamification mechanics for a meaningful and ethical gamification
本文以柏拉图与亚里士多德哲学为框架,分析游戏化的伦理维度,审视各类游戏化元素,倡导以用户福祉为先的平衡设计,推动数字应用的负责任德性设计。
2024-03-12 cs.HC
Food for thought: Ethical considerations of user trust in computer vision
University of Waterloo(滑铁卢大学);Schlegel-UW Research Institute for Aging(Schlegel-UW老龄化研究所)
在计算机视觉研究中,特别是当开发新的工具应用时,应该考虑和支持用户对底层技术的信任感的伦理影响。在这里,我们描述了一个例子,将这些考虑因素纳入长期护理部门跟踪居民的食物和液体摄入量。我们强调我们最近进行的用户研究,以开发一个金发碧眼的质量水平原型,旨在支持信任线索,在我们的水平原型感知的信任高于现有的系统到位。我们讨论了用户参与的重要性和必要性,作为正在进行的计算机视觉驱动的技术开发的一部分,并描述了与开发决策工具相关的信任的几个重要因素。
2019-05-29 cs.CV cs.CY cs.HC
Building babyGPTs: Youth Engaging in Data Practices and Ethical Considerations through the Construction of Generative Language Models
本研究通过案例研究证明青少年能够参与构建生成式语言模型,并在此过程中实践数据技能与伦理思考。
2025-04-20 cs.CY cs.HC
Computational Inference in Cognitive Science: Operational, Societal and Ethical Considerations
Columbia University(哥伦比亚大学)
新兴的研究前沿和计算进步逐渐将认知科学转变为一个多学科和数据驱动的领域。因此,从不同的学术视角和不同的抽象层次来研究和解释认知理论的数量激增。我们制定这一应用方面的这一挑战的计算认知推理,并描述了计算方法的主要路线。为了平衡潜在的乐观情绪以及认知科学数据驱动时代的速度和规模,我们建议通过确定在进行研究和解释认知科学计算推理结果时的操作挑战,社会影响和道德准则,以更实证的方式检查这一趋势。
2022-10-24 cs.AI cs.CL cs.HC
Level Up or Game Over: Exploring How Dark Patterns Shape Mobile Games
本文分析1496款移动游戏的用户数据,量化暗黑模式在“暗黑”与“健康”游戏中的分布,揭示其普遍存在并呼吁社区协作与伦理设计。
2024-12-06 cs.HC
No General Code of Ethics for All: Ethical Considerations in Human-bot Psycho-counseling
本文针对人机心理咨询提出了专门的期望性伦理原则,通过考察EVA2.0、GPT-3.5和GPT-4.0在心理咨询中的表现,发现大语言模型虽在遵守常规伦理准则上有所进步,但在危机处理、减少误导性回复及鼓励内省方面仍需改善。
2024-04-22 cs.CY cs.HC
AI and Accessibility: A Discussion of Ethical Considerations
Microsoft Research(微软研究院)
根据世界卫生组织的数据,全世界有超过10亿人患有残疾。残疾研究领域通过社会视角界定残疾;人们残疾的程度是社会造成的无障碍。人工智能技术提供了消除许多无障碍的可能性;例如,计算机视觉可以帮助盲人更好地感知视觉世界,语音识别和翻译技术可以为听力困难的人提供实时的字幕,新的机器人系统可以增强行动不便的人的能力。考虑残疾用户的需求可以帮助技术人员识别高影响力的挑战,其解决方案可以为所有用户提升人工智能的状态;但是,必须考虑包容性,偏见,隐私,错误,期望设定,模拟数据和社会可接受性等伦理挑战。
2020-06-03 cs.AI cs.CY cs.HC
The Ethics of AI in Games
本文综述了游戏AI的伦理问题,从情感回路视角分析诱发、感知、检测环节的伦理挑战,呼吁建立框架以保护用户并引导开发者。
2023-05-12 cs.AI cs.HC
Interactive Storytelling for Children: A Case-study of Design and Development Considerations for Ethical Conversational AI
University of York(约克大学);University of Cambridge(剑桥大学)
对话式人工智能(CAI)系统和智能个人助理(IPA),如Alexa、Cortana、Google Home和Siri,在我们的生活中变得无处不在,包括儿童的生活,其影响正在受到越来越多的关注,特别是这些系统对儿童认知、社会和语言发展的影响。最近的进展解决CAI的隐私,安全,保密和访问方面的影响。然而,有必要将道德和技术方面联系起来并嵌入设计中。使用的研究和开发项目的案例研究集中在使用CAI讲故事的儿童,本文反映了在一个特定的情况下,技术发展的社会背景下,从文献中的论证证实和支持。它描述了决策过程背后的建议,在这种情况下,他们在创意产业的采用。进一步的研究,通过CAI讲故事的道德与开发人员和利益相关者的参与是突出的紧迫事项。
2021-07-20 cs.HC cs.LG
Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures
Facebook或Instagram等社交网站的隐私与人们的自我披露决定以及他们预见与大量不同受众分享个人信息的后果的能力密切相关。尽管如此,在线隐私决策往往基于虚假的风险判断,使人们容易向不受信任的接收者透露敏感数据,并成为社会工程攻击的受害者。人工智能(AI)与说服机制(如轻推)相结合,是促进SNS用户预防性隐私行为的一种有前途的方法。然而,结合行为干预与高水平的个性化可以是一个潜在的威胁,人们的机构和自主权,即使应用到社会工程对策的设计。本文详细阐述了推动机制可能对基于人工智能的对策的发展带来的伦理挑战,特别是对解决SNS中不安全的自我披露做法的挑战。总体而言,它赞同制定个性化的风险意识解决方案,作为i)一种道德方法来抵制社会工程,以及ii)作为促进反思隐私决策的有效手段。
2020-09-27 cs.CY cs.HC cs.SI
Towards Ethical Personal AI Applications: Practical Considerations for AI Assistants with Long-Term Memory
Massachusetts Institute of Technology(麻省理工学院)
本文针对具备长期记忆的个人AI伴侣与助手应用兴起带来的新挑战,从技术基础、现有产品调研、部署使用关键考量三方面,用整体性方法探究其构建与部署的广泛伦理与实践影响。
2024-09-17 cs.AI cs.CY cs.HC
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题,本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程,借鉴多方框架制定学期计划,旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Designing for Ethical AI: HCI Feature Considerations to Improve Fairness and User Experience in AutoML use for Human Resources
University of Bordeaux(波尔多大学);IAE(企业管理学院)
该论文结合多视角研究AutoML在人力资源招聘中的公平性,发现现有平台存在缺陷,提出五维度HCI公平评估框架,建议将公平性嵌入AutoML设计以提升伦理可持续性。
2026-08-11 cs.AI cs.HC
Exploring the Use of ChatGPT by Computer Science Students in Software Development: Applications, Ethical Considerations, and Insights for Engineering Education
University College London(伦敦大学学院)
本研究通过半结构化访谈定性调研英国高校计算机专业学生在软件开发中使用ChatGPT的策略与伦理认知,揭示学生学习模式的转变、使用行为特征与现存问题,为工程教育中规范AI工具使用提供启示。
2025-11-17 cs.HC cs.SE
AI Audit: A Card Game to Reflect on Everyday AI Systems
Massachusetts Institute of Technology(麻省理工学院);Northwestern University(西北大学)
本文提出面向初高中生的竞争性卡牌游戏“AI Audit”,让玩家扮演AI初创创始人,在攻防互动中学习识别和缓解AI系统的伦理与社会危害,为K-12人工智能素养教育提供游戏化教学工具。
2023-05-29 cs.AI cs.CY cs.HC
Pedagogical Design Considerations for Mobile Augmented Reality Serious Games (MARSGs): A Literature Review
本研究通过PRISMA方法综述23篇文献,探讨了移动增强现实严肃游戏(MARSGs)中游戏元素与教学理论的结合,为非教学专家的开发者提供了基于认知建构主义、社会建构主义和行为主义的设计考量,并总结了未来发展方向。
2024-11-16 cs.HC
Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
School of Computing and Informatics(计算与信息学学院);University of Louisiana at Lafayette(路易斯安那州立大学拉法叶分校)
本研究通过主题建模和情感分析,探讨心理健康应用用户评论中的伦理问题,揭示现有伦理原则的不足及新兴伦理挑战。
2026-02-04 cs.CL cs.CY cs.HC
Human-Machine Collaboration and Ethical Considerations in Adaptive Cyber-Physical Systems
本文针对自适应信息物理系统中人机编组面临的运行节奏差异和隐私伦理挑战,提出将人机交互原则融入自适应反馈回路的新方法,并构建覆盖系统全生命周期的伦理与人类价值观集成验证框架。
2025-07-03 cs.HC cs.SE
Practical Cybersecurity Ethics: Mapping CyBOK to Ethical Concerns
本研究利用CyBOK框架,通过15次专家访谈,系统映射网络安全各领域的伦理挑战,发现安全决策需平衡技术、客观与主观因素,并呼吁加强网络安全AI伦理研究。
2023-11-16 cs.CR cs.HC
Ethical and Social Considerations in Automatic Expert Identification and People Recommendation in Organizational Knowledge Management Systems
Microsoft Research(微软研究院)
组织的知识库正在从被动的档案转变为人们工作流程中的主动实体。我们看到,机器学习被用于使系统能够在人们工作时收集和显示信息,从而使人们能够在人与内容之间建立联系,这些联系以前不太明显,以便自动识别和突出给定主题的专家。当这些知识库开始积极地关注人们及其工作内容时,特别是当这项工作仍在进行时,我们在工作和社会的交叉点上遇到了重要的挑战。虽然这种系统有可能使人们工作的某些部分更有效率或更愉快,但它们也可能引入新的工作量,例如将人们置于专家的角色,以便其他人接触。这些知识库也可以通过改变工作的哪些部分是可见的,从而得到承认,从而产生深远的社会影响。我们提出了一些开放的问题,值得业界和学术界的关注和参与。解决这些问题是确保工作的未来成为从事工作的人的美好未来的重要步骤。通过这份立场文件,我们希望进入跨学科的讨论,我们认为这是应对开发尊重社会价值的推荐系统的挑战所必需的。
2022-09-08 cs.AI cs.HC cs.IR
Who Speaks for Ethics? How Demographics Shape Ethical Advocacy in Software Development
本研究针对伦理融入软件开发的挑战及从业者背景影响研究空白,通过调查217名不同人口统计学特征的软件从业者,揭示人口差异对伦理关切感知与应对的影响,为相关教育和流程改革提供依据。
2025-04-14 cs.HC cs.SE
Data-driven Design: A Case for Maximalist Game Design
Tandon School of Engineering, New York University(纽约大学坦登工程学院);Institute of Digital Games, University of Malta(马耳他大学数字游戏研究所);University of Malta(马耳他大学)
艺术中的极盛主义是指在艺术创作中,吸收和结合多种不同的来源,拥抱由此产生的碰撞和异质性。本文讨论了在游戏设计中使用极大化,特别是在数据游戏,这是部分基于开放数据生成的游戏。使用Data Adventures,一系列从维基百科和OpenStreetMap等数据源创建冒险游戏的生成器,作为一个镜头,我们探索了最大化游戏设计中的几个权衡和问题。这包括转换和忠实之间的紧张关系,装饰性和功能性内容之间的紧张关系,以及这种类型的生成性所导致的法律和道德问题。本文勾勒出了最大化数据驱动游戏的设计空间,这是一个大部分未被探索的设计空间。
2018-05-30 cs.AI cs.HC
Contextual Consent: Ethical Mining of Social Media for Health Research
社交媒体是数据采掘和以用户为中心的研究的一个丰富的洞察力来源,但在研究这些数据时,如果没有创建者的明确知识,就会出现同意的问题。从Facebook和Twitter等在线服务的用户那里挖掘社交数据的案例研究变得越来越普遍。这导致人们呼吁公开讨论研究人员如何最好地利用这些巨大的资源,在尊重基本伦理原则的同时做出创新性的发现。在这份立场文件中,我们强调了这一主题的一些关键考虑因素,并认为知情同意的条件往往得不到满足,使用一些人认为可以自由访问和分析的社交媒体数据可能会导致不良后果,特别是在健康研究和其他敏感主题领域。我们认为,成功利用在线个人数据,特别是用于健康和其他敏感研究,需要新的和可用的方法来获得用户的同意。
2017-01-26 cs.CY cs.HC cs.SI
Crossing the principle-practice gap in AI ethics with ethical problem-solving
针对AI伦理原则难以落地的问题,本文提出EPS框架,通过影响评估调查与差异化推荐将伦理原则转化为实践,并开源Ethics as a Service Platform演示。
2024-04-16 cs.CY cs.HC