Exploring a Design Framework for Children's Agency through Participatory Design
University of Oxford（牛津大学）
本文通过参与式工作坊探讨儿童自主性设计框架，帮助设计者在设计过程中明确自主性权衡，解决设计者对儿童自主性重要性理解不足的问题。
2026-03-27 cs.HC
Design Considerations for Data Daemons: Co-creating Design Futures to Explore Ethical Personal Data Management
移动应用程序和在线服务提供商比以往任何时候都更积极地跟踪我们的虚拟和物理行为。这引起了人们对合乎道德的个人数据管理的日益关注。尽管围绕数据道德的监管和意识正在不断提高，但最终用户很少参与定义和设计未来的道德个人数据管理应该是什么样子。我们探索了一个参与式的过程，使用设计未来，未来研讨会的方法和设计小说，设想道德的个人数据管理与最终用户和设计师。为了有效地吸引参与者，我们需要弥合他们不同的专业知识，并使数据和道德的抽象概念变得有形。通过将个人数据管理和控制具体呈现为称为数据守护进程的虚拟实体，我们创建了对这些抽象概念的共享理解，并使非专业最终用户和设计师能够积极参与设计过程。
2021-07-26 cs.HC
Social Virtual Reality: Ethical Considerations and Future Directions for An Emerging Research Space
近年来，商业社交虚拟现实（VR）平台的蓬勃发展标志着消费者VR的增长和广泛采用。社交VR平台从传统的2D虚拟世界中汲取了一些方面，在传统的2D虚拟世界中，用户可以参与各种沉浸式体验、互动活动以及基于化身的选择。然而，社交VR也展示了扩展传统2D虚拟世界和其他在线社交空间的特定细微差别，例如完整/部分身体跟踪化身，以新的方式体验平凡的日常活动（例如，睡眠），以及一种身临其境的方式来探索新的和复杂的身份。越来越受欢迎的趋势表明，顶级技术公司都有自己的社交VR平台，并对此感兴趣。到目前为止，社交虚拟现实已经成为一个新兴的研究领域，主要集中在设计策略，沟通和交互方式，细致入微的活动，自我展示，骚扰，隐私和自我披露。这些最近的工作表明，在社交VR学术领域仍然存在许多问题，例如如何在这些网站上进行道德研究以及哪些研究领域需要额外关注。因此，在本文中，我们概述了现代社交虚拟现实，批判性地回顾了该领域的现有学术研究，提出了在这些网站上进行研究的伦理考虑，并强调了未探索的领域。
2021-04-11 cs.HC
Ethical Considerations When Constructing Participatory Design Protocols for Social Robots
Oakland University（奥克兰大学）
通过将预期的用户和利益相关者作为设计者，参与式设计已经成为一种流行的方法，以突出社交机器人中的道德考虑。在这里，我们提请注意参与式设计的伦理作为一种方法，不同于社会机器人被共同设计的伦理考虑。更具体地说，我们考虑利益相关者参与行为所带来的伦理问题-当我们作为研究人员或实践者设计社交机器人参与式设计协议（“如何”利益相关者参与）时，应该明确考虑的道德和价值观。我们使用的情况下，机器人辅助的性暴力缓解，参与设计协议，如伤害，剥削和减少利益相关者代理的风险的道德考虑。为了将这些和其他道德考虑纳入社交机器人参与式设计协议的创建中，我们主张让利益相关者通过将他们纳入参与式设计会议，结构和流程的创建来设计他们自己的参与形式。
2022-04-01 cs.HC cs.RO
Adapt a Generic Human-Centered AI Design Framework in Children's Context
本文通过文献分析综合出通用的以人为中心的AI设计框架，并重点探讨将其适配于儿童情境，通过研究儿童AI玩具与学习技术探索定制化设计考量，旨在推动实用的以儿童为中心的AI设计框架开发。
2023-04-03 cs.HC
Interdisciplinary Research with Older Adults in the area of ICT: Selected Ethical Considerations and Challenges
在本文中，我们分析，分类和讨论一些伦理问题和挑战有关的追求探索性和跨学科的研究项目在ICT领域，特别是那些涉及老年人。首先，我们确定聚光灯区，这是特别突出的这些领域。接下来，我们将探讨跨学科研究人员在规划、开展和展示探索性研究活动时可能遇到的陷阱。最后，其中一些被选择和讨论更密切，而相关的开放性问题提出。
2022-08-22 cs.CY cs.HC
Transitioning Between Audience and Performer: Co-Designing Interactive Music Performances with Children
现场互动有可能在音乐表演期间有意义地吸引观众，现代技术有望以独特的方式促进这些互动。这项工作提出了三个与儿童合作设计会议的调查结果，这些会议调查了观众可能希望如何与现场音乐表演互动，包括设计考虑因素和机会。这些会议的结果也形成了现场音乐表演中观众互动的频谱，概述了从儿童角度鼓励音乐表演互动的方法。
2017-02-21 cs.HC
Ethical Considerations of AR Applications in Smartphones; A Systematic Literature Review of Consumer Perspectives
本研究通过系统性文献综述梳理智能手机AR应用的消费者伦理感知，归纳出收益与伦理考量两大维度及下属具体主题，为相关从业者开发和部署AR应用提供参考。
2023-06-06 cs.CY cs.HC
Inclusive Child-centered AI: Employing design futuring for Inclusive design of inclusive AI by and with children in Finland and India
本文通过在芬兰和印度学校开展三项研究，运用设计未来方法让儿童参与批判性反思和设想AI/ML应用，展示了如何通过面向所有人的设计实现包容性，以及如何以包容方式邀请儿童共同设计未来人工智能。
2023-04-17 cs.HC
Data-Driven Game Development: Ethical Considerations
近年来，游戏行业已经朝着数据驱动的开发方向迈出了一大步，使用数据分析和玩家建模来为设计决策提供信息。数据驱动技术是有益的，因为它们允许大规模研究玩家行为，使其非常适用于现代数字游戏开发。然而，随着这种向数据驱动决策的转变，出现了一些道德问题。先前在玩家建模以及人工智能和机器学习领域的工作已经证明了算法决策可能由于数据或算法偏见或缺乏特定群体的数据而存在缺陷的几种方式。此外，黑盒算法由于缺乏基于数据开发的结果或模型的可解释性和透明度而产生信任问题，需要盲目相信结果。在这份立场文件中，我们讨论了在开发周期中影响游戏数据使用的几个因素。除了以前的工作提出的问题，我们还提出了一些问题，算法边缘化某些球员群体和缺陷，在由此产生的模型，由于他们无法推理的情况下影响球员的决定因素。此外，我们还概述了一些旨在解决这些问题的工作，并确定了一些有关伦理和游戏数据科学的开放问题。
2020-06-18 cs.HC
On the Ethical Considerations of Text Simplification
University of Cambridge（剑桥大学）
本文概述了文本简化的辅助系统的框架内的伦理影响。我们认为，执行文本简化和实现这些辅助技术的技术之间的区别。当使用后者作为研究动机时，重要的是要仔细考虑随后的伦理影响。我们提供了独立于辅助系统的文本简化框架的指导方针，并根据所提出的问题为未来的研究和讨论提出了方向。
2022-04-20 cs.CL cs.ET cs.HC
When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies
通过对21名医生的访谈，研究揭示了在临床中使用生成式AI起草患者消息回复时的关键伦理考量，并指出医生认为伦理责任主要在于使用者而非技术本身。
2025-08-17 cs.CY cs.HC
Cyber Security Educational Games for Children: A Systematic Literature Review
本研究通过系统性综述2010-2024年68篇论文中的91款儿童网络安全教育游戏，发现其有积极学习成果但存在设计流程与方法学严谨性等关键差距，提出了结合自下而上和自上而下的混合设计评估等未来研究方向。
2025-08-24 cs.CR cs.CY cs.HC
Building babyGPTs: Youth Engaging in Data Practices and Ethical Considerations through the Construction of Generative Language Models
本研究通过案例研究证明青少年能够参与构建生成式语言模型，并在此过程中实践数据技能与伦理思考。
2025-04-20 cs.CY cs.HC
Food for thought: Ethical considerations of user trust in computer vision
University of Waterloo（滑铁卢大学）；Schlegel-UW Research Institute for Aging（Schlegel-UW老龄化研究所）
在计算机视觉研究中，特别是当开发新的工具应用时，应该考虑和支持用户对底层技术的信任感的伦理影响。在这里，我们描述了一个例子，将这些考虑因素纳入长期护理部门跟踪居民的食物和液体摄入量。我们强调我们最近进行的用户研究，以开发一个金发碧眼的质量水平原型，旨在支持信任线索，在我们的水平原型感知的信任高于现有的系统到位。我们讨论了用户参与的重要性和必要性，作为正在进行的计算机视觉驱动的技术开发的一部分，并描述了与开发决策工具相关的信任的几个重要因素。
2019-05-29 cs.CV cs.CY cs.HC
No General Code of Ethics for All: Ethical Considerations in Human-bot Psycho-counseling
本文针对人机心理咨询提出了专门的期望性伦理原则，通过考察EVA2.0、GPT-3.5和GPT-4.0在心理咨询中的表现，发现大语言模型虽在遵守常规伦理准则上有所进步，但在危机处理、减少误导性回复及鼓励内省方面仍需改善。
2024-04-22 cs.CY cs.HC
Computational Inference in Cognitive Science: Operational, Societal and Ethical Considerations
Columbia University（哥伦比亚大学）
新兴的研究前沿和计算进步逐渐将认知科学转变为一个多学科和数据驱动的领域。因此，从不同的学术视角和不同的抽象层次来研究和解释认知理论的数量激增。我们制定这一应用方面的这一挑战的计算认知推理，并描述了计算方法的主要路线。为了平衡潜在的乐观情绪以及认知科学数据驱动时代的速度和规模，我们建议通过确定在进行研究和解释认知科学计算推理结果时的操作挑战，社会影响和道德准则，以更实证的方式检查这一趋势。
2022-10-24 cs.AI cs.CL cs.HC
AI and Accessibility: A Discussion of Ethical Considerations
Microsoft Research（微软研究院）
根据世界卫生组织的数据，全世界有超过10亿人患有残疾。残疾研究领域通过社会视角界定残疾;人们残疾的程度是社会造成的无障碍。人工智能技术提供了消除许多无障碍的可能性;例如，计算机视觉可以帮助盲人更好地感知视觉世界，语音识别和翻译技术可以为听力困难的人提供实时的字幕，新的机器人系统可以增强行动不便的人的能力。考虑残疾用户的需求可以帮助技术人员识别高影响力的挑战，其解决方案可以为所有用户提升人工智能的状态;但是，必须考虑包容性，偏见，隐私，错误，期望设定，模拟数据和社会可接受性等伦理挑战。
2020-06-03 cs.AI cs.CY cs.HC
Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures
Facebook或Instagram等社交网站的隐私与人们的自我披露决定以及他们预见与大量不同受众分享个人信息的后果的能力密切相关。尽管如此，在线隐私决策往往基于虚假的风险判断，使人们容易向不受信任的接收者透露敏感数据，并成为社会工程攻击的受害者。人工智能（AI）与说服机制（如轻推）相结合，是促进SNS用户预防性隐私行为的一种有前途的方法。然而，结合行为干预与高水平的个性化可以是一个潜在的威胁，人们的机构和自主权，即使应用到社会工程对策的设计。本文详细阐述了推动机制可能对基于人工智能的对策的发展带来的伦理挑战，特别是对解决SNS中不安全的自我披露做法的挑战。总体而言，它赞同制定个性化的风险意识解决方案，作为i）一种道德方法来抵制社会工程，以及ii）作为促进反思隐私决策的有效手段。
2020-09-27 cs.CY cs.HC cs.SI
Towards Ethical Personal AI Applications: Practical Considerations for AI Assistants with Long-Term Memory
Massachusetts Institute of Technology（麻省理工学院）
本文针对具备长期记忆的个人AI伴侣与助手应用兴起带来的新挑战，从技术基础、现有产品调研、部署使用关键考量三方面，用整体性方法探究其构建与部署的广泛伦理与实践影响。
2024-09-17 cs.AI cs.CY cs.HC
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题，本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程，借鉴多方框架制定学期计划，旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Designing for Ethical AI: HCI Feature Considerations to Improve Fairness and User Experience in AutoML use for Human Resources
University of Bordeaux（波尔多大学）；IAE（企业管理学院）
该论文结合多视角研究AutoML在人力资源招聘中的公平性，发现现有平台存在缺陷，提出五维度HCI公平评估框架，建议将公平性嵌入AutoML设计以提升伦理可持续性。
2026-08-11 cs.AI cs.HC
Exploring the Use of ChatGPT by Computer Science Students in Software Development: Applications, Ethical Considerations, and Insights for Engineering Education
University College London（伦敦大学学院）
本研究通过半结构化访谈定性调研英国高校计算机专业学生在软件开发中使用ChatGPT的策略与伦理认知，揭示学生学习模式的转变、使用行为特征与现存问题，为工程教育中规范AI工具使用提供启示。
2025-11-17 cs.HC cs.SE
Towards Value-Sensitive Learning Analytics Design
为了支持学习分析中的道德考虑和系统完整性，本文介绍了将价值敏感设计方法论应用于学习分析设计的两个案例。第一项研究应用了价值敏感设计的两种方法，即利益相关者分析和价值分析，对现有的学习分析工具进行了概念调查。这项调查发现了一些价值观和价值的紧张局势，导致设计权衡考虑在未来的工具改进。第二项研究将价值敏感设计应用于维基百科专题推荐系统的设计。为了积极考虑利益相关者的价值，我们得出了一个多阶段的设计过程，包括文献分析，实证调查，原型开发，社区参与，迭代测试和改进，以及持续评估。通过对这两个案例的报道，本文回应了在学习分析系统中支持道德考虑和人类价值的实用手段的需求。这两个案例表明，在学习分析设计时，价值敏感设计可能是平衡广泛的人类价值观的可行方法，这些价值观往往包含并超越道德问题。
2019-01-28 cs.HC
Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
School of Computing and Informatics（计算与信息学学院）；University of Louisiana at Lafayette（路易斯安那州立大学拉法叶分校）
本研究通过主题建模和情感分析，探讨心理健康应用用户评论中的伦理问题，揭示现有伦理原则的不足及新兴伦理挑战。
2026-02-04 cs.CL cs.CY cs.HC
Human-Machine Collaboration and Ethical Considerations in Adaptive Cyber-Physical Systems
本文针对自适应信息物理系统中人机编组面临的运行节奏差异和隐私伦理挑战，提出将人机交互原则融入自适应反馈回路的新方法，并构建覆盖系统全生命周期的伦理与人类价值观集成验证框架。
2025-07-03 cs.HC cs.SE
Designing Narrative-Focused Role-Playing Games for Visualization Literacy in Young Children
基于游戏设计和教育研究，本文介绍了以叙事为中心的角色扮演游戏作为促进幼儿视觉素养的一种方式。可视化素养技能对于理解我们周围的世界和构建有意义的可视化至关重要，然而，如何在早期更好地发展这些技能仍然在很大程度上被忽视和研究不足。直到最近，可视化社区才开始填补这一空白，导致了早期教育中使用的教育工具的初步研究和开发。我们通过探索游戏化来支持学习，并通过利用涉及可视化的数据相关问题中的叙述来确定应用基于角色扮演游戏的设计的机会。我们研究了包括叙事元素对学习的影响，通过技术探针，接地在一组设计考虑来自可视化，游戏设计和教育科学。我们创建了两个版本的游戏-一个有叙事元素，一个没有-并使用受试者之间的研究设计评估了33名11至13岁的儿童参与者的实例。尽管参与者需要两倍的时间来完成他们的游戏，由于额外的元素，包括这些元素被发现，以提高参与而不牺牲学习;我们的研究结果表明，图形阅读技能的发展没有显着差异，但在参与和整体享受的游戏显着差异。我们报告所收集的观察结果和定性反馈，并指出需要改进的地方和未来工作的空间。
2020-08-31 cs.HC
Plural Voices, Single Agent: Towards Inclusive AI in Multi-User Domestic Spaces
BNRIST, Tsinghua University（北京理工大学、清华大学）；Independent Researcher（独立研究者）
针对家庭AI忽视弱势群体的问题，提出多元声音模型（PVM），通过实时价值对齐和公平性课程设计，在合规性、公平性和安全性上优于多智能体基线，推动包容性家庭AI发展。
2025-10-21 cs.AI cs.HC cs.LG
Ethical and Social Considerations in Automatic Expert Identification and People Recommendation in Organizational Knowledge Management Systems
Microsoft Research（微软研究院）
组织的知识库正在从被动的档案转变为人们工作流程中的主动实体。我们看到，机器学习被用于使系统能够在人们工作时收集和显示信息，从而使人们能够在人与内容之间建立联系，这些联系以前不太明显，以便自动识别和突出给定主题的专家。当这些知识库开始积极地关注人们及其工作内容时，特别是当这项工作仍在进行时，我们在工作和社会的交叉点上遇到了重要的挑战。虽然这种系统有可能使人们工作的某些部分更有效率或更愉快，但它们也可能引入新的工作量，例如将人们置于专家的角色，以便其他人接触。这些知识库也可以通过改变工作的哪些部分是可见的，从而得到承认，从而产生深远的社会影响。我们提出了一些开放的问题，值得业界和学术界的关注和参与。解决这些问题是确保工作的未来成为从事工作的人的美好未来的重要步骤。通过这份立场文件，我们希望进入跨学科的讨论，我们认为这是应对开发尊重社会价值的推荐系统的挑战所必需的。
2022-09-08 cs.AI cs.HC cs.IR
Large Language Models Will Change The Way Children Think About Technology And Impact Every Interaction Paradigm
School of Computer Science, University of Birmingham（计算机科学学院，伯明翰大学）
本文探讨大型语言模型对儿童学习方式及技术交互期望的潜在显著影响，回顾其现有教育影响并指出其与未来变化相比微不足道，通过小型场景和自我民族志研究展示变化影响，提出交互系统设计师需考虑的五个重要事项。
2025-04-18 cs.AI cs.CL cs.HC
Inclusive Practices for Child-Centered AI Design and Testing
University of California, Irvine（加利福尼亚大学欧文分校）
本文基于作者作为神经分歧个体的经验，提出面向神经分歧儿童的AI设计与测试包容性实践，强调纳入儿童意见并考虑其感觉敏感性，以完善儿童中心AI方法。
2024-04-09 cs.AI cs.HC
Designing Child-Centered Content Exposure and Moderation
本文从人机交互、AI歧视、隐私问责和儿童在线公民身份四个交叉视角出发，探讨如何设计以儿童为中心、家庭引导的内容审核系统，并总结核心挑战与设计考量。
2024-06-12 cs.HC cs.SI
Who Speaks for Ethics? How Demographics Shape Ethical Advocacy in Software Development
本研究针对伦理融入软件开发的挑战及从业者背景影响研究空白，通过调查217名不同人口统计学特征的软件从业者，揭示人口差异对伦理关切感知与应对的影响，为相关教育和流程改革提供依据。
2025-04-14 cs.HC cs.SE
Contextual Consent: Ethical Mining of Social Media for Health Research
社交媒体是数据采掘和以用户为中心的研究的一个丰富的洞察力来源，但在研究这些数据时，如果没有创建者的明确知识，就会出现同意的问题。从Facebook和Twitter等在线服务的用户那里挖掘社交数据的案例研究变得越来越普遍。这导致人们呼吁公开讨论研究人员如何最好地利用这些巨大的资源，在尊重基本伦理原则的同时做出创新性的发现。在这份立场文件中，我们强调了这一主题的一些关键考虑因素，并认为知情同意的条件往往得不到满足，使用一些人认为可以自由访问和分析的社交媒体数据可能会导致不良后果，特别是在健康研究和其他敏感主题领域。我们认为，成功利用在线个人数据，特别是用于健康和其他敏感研究，需要新的和可用的方法来获得用户的同意。
2017-01-26 cs.CY cs.HC cs.SI
Towards Transparent Ethical AI: A Roadmap for Trustworthy Robotic Systems
University of Arkansas at Little Rock（阿拉巴马州立大学）
本文提出透明度是伦理AI与机器人系统可信的基础，通过框架连接技术实施与伦理考量，并探讨其对公众信任和监管的影响。
2025-08-07 cs.AI cs.CY cs.HC
