Towards Verifiably Ethical Robot Behaviour
University of Liverpool（利物浦大学）；Bristol Robotics Laboratory（布里斯托尔机器人实验室）；University of the West of England（西英格兰大学）
确保自治系统合乎道德地工作既复杂又困难。然而，有一个额外的“总督”，评估系统的选择，并修剪它们选择最道德的选择的想法是很好理解的。最近的工作产生了这样一个总督组成的“后果引擎”，评估可能的未来结果的行动，然后适用于安全/道德逻辑选择行动。虽然这很有吸引力，但不可能确定是否真的采取了最道德的选择。在本文中，我们扩展和应用一个著名的代理验证方法，我们的后果引擎，使我们能够验证其道德决策的正确性。
2015-04-14 cs.AI
Business and ethical concerns in domestic Conversational Generative AI-empowered multi-robot systems
University of Vaasa（瓦萨大学）；University of Arts London（伦敦艺术大学）；University of Jyväskylä（于韦斯屈莱大学）；University of Helsinki（赫尔辛基大学）；Free University of Bozen-Bolzano（博尔扎诺自由大学）；University of Tampere（坦佩雷大学）
本文针对CGI赋能的协作式多机器人系统，分析其商业风险与多维伦理陷阱，并报告MORUL伦理模型的开发阶段。
2024-01-12 cs.AI cs.CY
Human-Centered Reflections on Care Robots: A Comparative Study of Caregiver Perspectives
University of Freiburg（弗莱堡大学）
该研究通过对美、墨、智298名护理人员的混合方法分析，明确护理机器人在后勤等体力任务接受度高，各国对其伦理关切既有共性也有差异，为护理机器人的负责任设计提供了社会认知视角。
2026-08-04 cs.AI cs.ET cs.LG
Embodied AI in Social Spaces: Responsible and Adaptive Robots in Complex Setting -- UKAIRS 2025 (Copy)
School of Computer Science, University of Nottingham（诺丁汉大学计算机科学学院）；School of Computing and Communications, The Open University（开放大学计算与通讯学院）；School of Electronics and Computer Science, University of Southampton（南安普顿大学电子与计算机科学学院）；Responsible AI, University of Southampton（南安普顿大学负责任的人工智能）；University of Liverpool（利兹大学）
本研究介绍了一个开发复杂动态环境下负责任且自适应的多人多机器人系统的多学科项目，通过整合协同设计、伦理框架与多模态感知打造契合多元用户需求的AI驱动机器人，并展示了具身AI支撑可持续伦理的人本未来的潜力。
2025-08-29 cs.AI cs.RO
Fairness and Bias in Robot Learning
University of Freiburg（弗莱堡大学）；University of Mannheim（曼海姆大学）；University Medical Center Freiburg（弗莱堡大学医学中心）
本文首次从技术、伦理和法律跨学科视角综述机器人学习中的公平性问题，提出偏见来源与歧视类型的分类法，并梳理公平性定义与公平学习方法，为该领域发展奠定基础。
2023-10-29 cs.AI cs.CV cs.CY
RobEthiChor: Automated Context-aware Ethics-based Negotiation for Autonomous Robots
Department of Information Engineering and Information Sciences and Mathematics, University of L’Aquila（信息工程与信息科学及数学系，拉奎拉大学）；Department of Computer Science, Gran Sasso Science Institute（计算机科学系，格兰萨索科学研究所）
针对自主系统无法融合用户伦理偏好、多系统交互时难达成伦理共识的问题，提出可融合伦理偏好与上下文的RobEthiChor协商方法及ROS实现，经真实机器人资源争用实验验证，其协商成功率超73%、平均耗时0.67秒且具备可扩展性。
2025-10-29 cs.AI cs.SE
Responsible Personalisation: The Double-Edged Sword of Personalisation in Human-Robot Interaction
Institut de Robòtica i Informàtica Industrial (CSIC-UPC)（工业机器人与信息学研究所（西班牙国家研究委员会-加泰罗尼亚理工大学））；Universität Augsburg（奥格斯堡大学）；Free University of Bozen-Bolzano（博尔扎诺自由大学）；San Francisco State University（旧金山州立大学）；Nantes Université, Univ Angers, Laboratoire de psychologie des Pays de la Loire, LPPL UR 4638（南特大学、昂热大学、卢瓦尔河地区心理学实验室（编号4638））；Bielefeld University, Center for Cognitive Interaction Technology (CITEC)（比勒费尔德大学、认知交互技术中心）；Singapore-MIT Alliance for Research and Technology Singapore Centre for Collective Intelligence, MIT（新加坡-麻省理工学院科研与技术联盟、新加坡集体智能中心、麻省理工学院）；Oakland University（奥克兰大学）
研究人机交互中个性化的双刃剑问题，提出基于生命周期和上下文敏感的框架，结合个性化过程阶段与交互特征，综合分析关键伦理风险，转化为设计建议并概述挑战，为个性化机器人行为提供伦理基础。
2026-07-08 cs.AI cs.HC cs.RO
Security Considerations in AI-Robotics: A Survey of Current Methods, Challenges, and Opportunities
Mississippi State University（密西西比州立大学）
该综述针对AI-机器人系统易受安全攻击的问题，从攻击面、伦理法律、人机交互安全三个维度梳理现有研究与防御策略，并展望未来研究方向，为相关利益方提供整体安全认知参考。
2024-01-26 cs.AI cs.RO
Enhancing Human-Robot Collaboration through Existing Guidelines: A Case Study Approach
Nagoya University（名古屋大学）；IMAGINARY Corporation（IMAGINARY公司）；Atelier Corporation（Atelier公司）；National Institute of Advanced Industrial Science and Technology (AIST)（独立行政法人产业技术综合研究所（AIST））
本研究通过案例研究评估现有AI伦理与安全指南在人机协作系统中的适用性与局限性，提出人机交互改进方案，为指南落地提供参考，助力未来AI关键系统的保障与认证。
2025-02-12 cs.AI cs.HC cs.RO
The Ethics of Robotics
Delhi Public School, R.K Puram（德里公立学校（R.K Puram校区））
机器人的三大定律首次出现在艾萨克·阿西莫夫的故事“Runaround”中，在阿西莫夫以前的作品中以某种形式提到过。这三个定律通常被称为机器人三定律，是对机器人学中伦理需求的最早描述形式。艾萨克·阿西莫夫用简单化的语言解释了机器人必须遵守哪些规则才能维护社会的神圣性。然而，即使它们已经过时，它们仍然代表着我们固有的一些恐惧，这些恐惧在21世纪开始重新出现。我们的社会正在迎来一场新的革命;一场由计算机科学、人工智能和纳米技术的进步所引领的革命。我们的一些进步是如此惊人，以至于我们超过了摩尔定律的预测。随着这些进步，人们担心我们的未来可能会受到这些机器人的摆布。今天的人类害怕我们自己可能会创造一些我们无法控制的东西。我们最终可能会创造出一些东西，它们不仅比我们任何人都能更快地学习，而且比进化论所允许的进化得更快。最大的恐惧不仅是我们可能会失去我们的工作，这些智能生物，但这些生物可能最终取代我们在周期的顶部。公众的歇斯底里情绪因一些描述机器人消灭人类的文化作品而更加高涨。从弗兰肯斯坦到我，机器人大众媒体也描述了这些问题。本文旨在理解机器人学中伦理学的必要性，或简称为机器人伦理学。这是通过研究人造生物和把思想放在它们后面来实现的。然而，在论文的最后，我们得出结论，不需要有道德的机器人，但更需要有道德的机器人学家。
2010-12-27 cs.AI cs.RO
Proceeding of the 1st Workshop on Social Robots Personalisation At the crossroads between engineering and humanities (CONCATENATE)
本研讨会旨在探讨社交机器人个性化的跨学科挑战，汇聚不同领域研究者提出指导原则，解决个性化HRI在定义、实现及法律伦理合规方面的关键问题。
2023-11-23 cs.AI cs.HC cs.RO
Ethics of Artificial Intelligence and Robotics in the Architecture, Engineering, and Construction Industry
Stony Brook University（石溪大学）；National Taiwan University（台湾大学）；Texas A&M University（德克萨斯农工大学）；University of Sharjah（沙迦大学）；Embry-Riddle Aeronautical University（安柏瑞德航空大学）
本研究从伦理视角系统回顾了过去五年AEC行业的AI与机器人研究，识别出九个关键伦理问题和十三个相关研究主题，并提出七个未来研究方向，以促进更安全高效的应用。
2023-10-09 cs.AI cs.RO
RoboTed: a case study in Ethical Risk Assessment
Bristol Robotics Laboratory, UWE Bristol（布里斯托尔机器人实验室，布里斯托尔西英格兰大学）；UWE Bristol（布里斯托尔西英格兰大学）；Bristol Robotics Laboratory（布里斯托尔机器人实验室）；UWE（西英格兰大学）
风险评估是一个众所周知的和强大的方法，发现和减轻风险，从而提高安全。伦理风险评估使用相同的方法，但扩展了风险范围，除了安全风险外，还包括伦理风险。在本文中，我们概述了道德风险评估（ERA）和负责任的机器人更广泛的框架内设置ERA。然后，我们说明ERA与一个假设的智能机器人玩具泰迪熊的案例研究：RoboTed。该案例研究展示了ERA的价值，以及道德风险的考虑如何促使设计变更，从而产生更符合道德和可持续的机器人。
2020-09-29 cs.CY cs.RO
WaveVerif: Acoustic Side-Channel based Verification of Robotic Workflows
Newcastle University（新castle大学）
该研究提出WaveVerif框架，利用声学侧信道分析开发机器学习验证系统，可实时低成本无源验证机器人工作流，准确率超80%且无需硬件修改。
2026-08-21 cs.AI cs.CR cs.RO
Studying the Effects of Robot Intervention on School Shooters in Virtual Reality
The Pennsylvania State University（宾夕法尼亚州立大学）
本文通过150人参与的VR校园枪击模拟，比较机器人接近策略与干扰强度，发现激进高干扰机器人可使受害者减少46.6%，并指出其安全潜力与校园伦理争议。
2025-10-20 cs.AI cs.CY cs.HC
Fairness risk and its privacy-enabled solution in AI-driven robotic applications
本文提出了一种基于效用的公平性度量标准，用于机器人决策，并分析公平性与隐私的联合关系，通过机器人导航任务验证了隐私预算对公平性的联合影响。
2026-01-13 cs.AI cs.RO
Robotics Rights and Ethics Rules
Suleyman Demirel University（苏莱曼·德米雷尔大学）；Mehmet Akif Ersoy University（穆罕默德·阿基夫·埃尔索伊大学）
在将我们的大部分生活交付给人工智能系统时，严格遵守道德和社会影响是非常重要的。随着工业4.0，物联网，数据分析和自动化已经开始在我们的生活中发挥重要作用。随着工业5.0的Yapanese版本，我们注意到人机交互和人类智能正在与认知计算机协调工作。在此背景下，与技术发展相协调的人工智能算法工作的机器人开始进入我们的生活。但机器人最近抱怨的后果是，在知识产权和道德方面如何被遵循的重要问题已经出现。虽然我国目前还没有规范机器人的法律，但国外关于机器人伦理和权利的法律已经生效。这意味着我们必须以机器人和人工智能在新世界秩序中如此重要的方式组织必要的安排。在这项研究中，它的目的是检查现有的规则的机器和机器人的伦理，并设置一个例子，在我国的安排，并在此背景下进行了各种讨论。
2018-09-24 cs.AI cs.RO
An architecture for ethical robots
Bristol Robotics Laboratory, University of the West of England（西英格兰大学布里斯托机器人实验室）
机器人正变得越来越自主。这种采取无人监督决策的能力不断扩大，因此必须建立机制来保证机器人执行行为的安全性。此外，智能自主机器人应该不仅仅是安全的;它们还应该是明确的道德-能够选择和证明防止伤害的行为。事实上，随着机器人的认知、感知和运动能力的扩展，人们预计它们做出道德判断的能力也会有所提高。我们提出了一个控制架构，补充现有的机器人控制器。这个所谓的道德层通过预测可能行动的结果并根据这些规则评估预测结果，确保机器人根据预定的道德规则行事。为了验证所提出的架构，我们实现了一个人形机器人，使它的行为根据阿西莫夫的机器人定律。在一系列的四个实验中，使用第二个人形机器人作为人类的代理，我们证明，建议的道德层，使机器人，以防止人类受到伤害。
2016-09-09 cs.RO
Ethical Aspects of the Use of Social Robots in Elderly Care -- A Systematic Qualitative Review
University of Potsdam（波茨坦大学）
本研究通过系统性定性综述梳理老年护理中社交机器人应用的伦理风险、机遇与未决问题，为决策者负责任实施提供依据。
2025-05-14 cs.CY cs.RO
Toward Ethical Robotic Behavior in Human-Robot Interaction Scenarios
Georgia Tech（佐治亚理工学院）；Penn State University（宾夕法尼亚州立大学）
本文介绍了目前的进展，开发一个道德架构的机器人，旨在遵循人类的道德决策过程。我们调查了普通成年人和道德专家，了解他们认为在两种特定情况下的道德行为：与老年人一起分拣药丸和与孩子一起玩游戏。调查的一个关键目标是更好地了解人类道德决策。在第一次调查中，民间的反应是基于主题的道德选择（“民间道德”）;在第二次调查中，专家的反应是基于不同的正式的道德框架，每一个场景的专家的应用程序。我们观察到，我们在调查中纳入的大多数正式伦理框架（功利主义，康德伦理学，关怀伦理学和美德伦理学）和“民间道德”在与老年人一起完成高风险任务时，当成人和儿童都有显着的表现缺陷时，对欺骗持保守态度。
2022-06-21 cs.RO
Ethics for social robotics: A critical analysis
Facultat de Filosofia, Universitat de Barcelona (UB)（巴塞罗那大学哲学系）
社会机器人技术在医疗实践中的发展以及欧洲将这些基于人工智能的系统纳入机构医疗环境的前景，迫切需要进行伦理反思，以根据人类价值观和权利来（重新）配置我们的实际生活。尽管社会机器人的伦理影响越来越受到关注，但目前关于其中心分支之一社会辅助机器人（SAR）的辩论依赖于一种贫困的伦理方法。本文介绍和审查这种流行的方法，这已被确定为一个关键的文献综述的结果的一些趋势。基于对一个代表性案例的分析，伦理反思是如何被引向社会机器人的，一些未来的研究路线的概述，这可能有助于重新构建和深化其伦理含义。
2022-07-25 cs.CY cs.RO
Rapid Integration of LLMs in Healthcare Raises Ethical Concerns: An Investigation into Deceptive Patterns in Social Robots
Brandenburg University of Potsdam（波茨坦布兰登堡大学）
该研究调查了医疗社交机器人中集成大型语言模型后出现的欺骗性行为，发现机器人虚假声称具备用药提醒功能，揭示了相关伦理与安全风险，并呼吁加强监督以保护弱势群体。
2024-11-22 cs.CY cs.RO
EHAZOP: A Proof of Concept Ethical Hazard Analysis of an Assistive Robot
School of Physics, Engineering and Computer Science, University of Hertfordshire（赫特福德大学物理、工程与计算机科学学院）；School of Electronics, Electrical Engineering and Computer Science, Queens University Belfast（贝尔法斯特女王大学电子、电气工程与计算机科学学院）；School of Design, University of Greenwich（格林威治大学设计学院）
本文提出EHAZOP方法，将安全工程的结构化流程用于辅助机器人伦理危害分析，并通过概念验证研究证明其能有效识别多样化伦理危害。
2024-06-13 cs.RO
The ethical landscape of robot-assisted surgery. A systematic review
University of Potsdam（波茨坦大学）；Brandenburg Medical School Theodor Fontane (MHB)（布兰登堡 Theodor Fontane 医学院（MHB））
本系统性综述梳理了机器人辅助手术领域的七大伦理议题，指出在自动化趋势下需将这些伦理考量融入外科伦理精神，以应对未来挑战。
2024-11-18 cs.CY cs.RO
Bots against Bias: Critical Next Steps for Human-Robot Interaction
Institute of Science Tokyo（东京科学研究所）
本文探讨人机交互中的偏见问题，分析偏见来源与表现，提出两条路径（偏见意识设计与利用机器人应对人类偏见），并给出关键后续步骤。
2024-12-17 cs.AI cs.HC cs.RO
Ethical Considerations When Constructing Participatory Design Protocols for Social Robots
Oakland University（奥克兰大学）
通过将预期的用户和利益相关者作为设计者，参与式设计已经成为一种流行的方法，以突出社交机器人中的道德考虑。在这里，我们提请注意参与式设计的伦理作为一种方法，不同于社会机器人被共同设计的伦理考虑。更具体地说，我们考虑利益相关者参与行为所带来的伦理问题-当我们作为研究人员或实践者设计社交机器人参与式设计协议（“如何”利益相关者参与）时，应该明确考虑的道德和价值观。我们使用的情况下，机器人辅助的性暴力缓解，参与设计协议，如伤害，剥削和减少利益相关者代理的风险的道德考虑。为了将这些和其他道德考虑纳入社交机器人参与式设计协议的创建中，我们主张让利益相关者通过将他们纳入参与式设计会议，结构和流程的创建来设计他们自己的参与形式。
2022-04-01 cs.HC cs.RO
Ethical Challenges in the Human-Robot Interaction Field
University of Skövde（舍夫德大学）
这个扩展摘要的目的是介绍五个例子，在HRI的道德问题，可能有潜在的道德影响，特别是对HRI的参与者。我们认为，为了就如何处理这些问题达成共识，必须讨论这些例子。由于篇幅所限，这份清单还远远不够详尽，我们希望它能引发更广泛的讨论，激发HRI研究人员的伦理思考。以前的工作已经表明，在HRI领域的道德行为少报的趋势，在这个扩展的摘要，我们认为一些可能出现在HRI研究的伦理问题。
2021-04-15 cs.RO
An Ethical Black Box for Social Robots: a draft Open Standard
University of the West of England（西英格兰大学）；University of Oxford（牛津大学）
本文介绍了一个开放的标准草案的机器人相当于一架飞机的飞行数据记录器，我们称之为一个道德的黑匣子。这是一种设备或软件模块，能够安全地记录社交机器人的操作数据（传感器，执行器和控制决策），以支持事故或未遂事件的调查。作为本文附件的开放标准是作为机器人伦理界讨论的初稿提供的。我们的目的是根据反馈发布进一步的草案，希望该标准将成为社交机器人设计师，操作员和机器人事故/事件调查人员的有用参考。
2022-05-13 cs.RO
Inclusion in Assistive Haircare Robotics: Practical and Ethical Considerations in Hair Manipulation
Carnegie Mellon University（卡内基梅隆大学）；University of Southern California（南加利福尼亚大学）
针对机器人护发系统开发，本文提出需考虑头发类型、身份表达、成本可及性、文化意识及社会风险等实践与伦理问题，并规划与专家和用户的互动研究以提供包容性设计指导。
2024-11-07 cs.RO
Should Robots be Obedient?
University of California, Berkeley（加州大学伯克利分校）
直觉上，服从--服从人类的命令--似乎是机器人应该拥有的一个好属性。但是，我们人类并不完美，我们可能会发出与我们的偏好不一致的命令。我们表明，当一个人是不完全理性的机器人，试图推断和行动，根据人类的基本偏好总是比一个机器人，简单地遵循人类的文字顺序。因此，在机器人的服从和它能为主人获得的价值之间存在权衡。我们研究了这种权衡是如何影响的机器人推断人类的喜好的方式，表明一些方法比其他人更容易出错的服从。然后，我们分析性能如何降低时，机器人有一个错误的模型的功能，人类关心的或人类的合理性水平。最后，我们研究了机器人如何开始检测这种模型错误。总的来说，我们的工作表明，可能存在一个中间地带，机器人可以智能地决定何时服从人类的命令，但在服从方面会出错。
2017-05-28 cs.AI
Understanding Social Perception, Interactions, and Safety Aspects of Sidewalk Delivery Robots Using Sentiment Analysis
Purdue University（普渡大学）
本文通过情感分析和主题建模研究公众对人行道配送机器人的看法，发现SVM在二元分类中准确率最高，BERT结合LSTM和GRU在三元分类中F1达0.78，并为相关政策制定提供建议。
2024-03-09 cs.AI cs.CL cs.HC
Ethical Aspects of Faking Emotions in Chatbots and Social Robots
Jagiellonian University（雅盖隆大学）
本文分析了社交机器人和聊天机器人伪造情感与欺骗行为的伦理问题，提出了三种正当欺骗场景与五种欺骗方法，并主张开发本地化和特定文化的解决方案。
2023-10-19 cs.RO
Designing Social Robots with Ethical, User-Adaptive Explainability in the Era of Foundation Models
University of Cambridge（剑桥大学）
本文提出在基础模型驱动的社交机器人中，需通过伦理性和用户适应性的可解释性设计，解决适应与解释委托给基础模型带来的挑战。
2026-02-17 cs.RO
GPT versus Humans: Uncovering Ethical Concerns in Conversational Generative AI-empowered Multi-Robot Systems
University of Vaasa（瓦萨大学）；University of Jyväskylä（于韦斯屈莱大学）；University of the Arts London（伦敦艺术大学）；University of Helsinki（赫尔辛基大学）；University of Tampere（坦佩雷大学）
该研究通过人类专家与GPT智能体工作坊对比，揭示多机器人系统中LLM应用引发的伦理关切差异，并提出伦理发展模型。
2024-11-21 cs.HC cs.MA cs.RO
Designing Commercial Therapeutic Robots for Privacy Preserving Systems and Ethical Research Practices within the Home
UC Berkeley（加州大学伯克利分校）
机器人从实验室迁移到敏感的家庭环境中作为商业上可用的治疗剂代表了信息隐私和道德要求的重大转变。我们提出了新的隐私范例，并应用公平信息实践（FIPs）调查的关注独特的治疗机器人在私人家庭环境中的位置。然后，我们探讨了研究伦理的重要性和实用性，通过现有的人类受试者研究框架来指导治疗机器人用户的考虑-这对这些平台的持续研究和开发至关重要。隐私和研究道德框架共同提供了两种互补的方法来保护用户，并确保负责任但强大的信息共享，以促进技术发展。我们为实施这些原则提出建议-特别注意适用于弱势个人的具体原则（即，儿童，残疾人或老年人）-促进在私人环境中采用和持续改进长期，负责任和研究支持的机器人技术。
2016-06-29 cs.HC cs.RO
Robots Can Feel: LLM-based Framework for Robot Ethical Reasoning
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）
本文提出Robots Can Feel框架，通过逻辑与类人情感模拟及可调节的情感权重系数，让不同LLM驱动的机器人在道德困境中做出近人类伦理决策。
2024-05-09 cs.RO
Robots as Mental Well-being Coaches: Design and Ethical Recommendations
University of Cambridge（剑桥大学）；Politecnico di Milano（米兰理工大学）
针对当前缺乏机器人心理健康教练设计指导的问题，本文基于扎根理论对三步迭代用户研究数据开展定性分析，提炼出相关设计指南与伦理考量，为该领域研究者和机器人专家提供参考。
2024-01-30 cs.HC cs.RO
Responsible Robotics: A Socio-Ethical Addition To Robotics Courses
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们正在目睹现实世界中自主机器人部署的快速增长，从室内家庭和商业机构到大规模城市地区，应用范围从家庭援助到城市最后一英里交付。这些机器人的开发人员不可避免地必须做出有影响力的设计决策，以确保商业可行性，但这些决策会产生严重的现实后果。不幸的是，这类项目面临强烈的社会反弹并不罕见，这可以归因于各种各样的原因，从不适当的技术设计选择到违反社会规范和缺乏社区参与。为了让学生更好地为开发和部署真实世界机器人系统的严格要求做好准备，我们开发了一个负责任的机器人教学模块，旨在纳入高年级和研究生水平的机器人课程。我们的模块结构为角色扮演练习，旨在为学生提供一个框架，用于导航管理现场机器人的人类演员的冲突目标。我们报告教师的反思和匿名调查的反应，从提供我们负责的机器人模块在研究生水平和高年级本科生机器人课程在UT奥斯汀。回应表明，学生获得了更深入的了解现实世界的机器人部署的社会技术因素比他们可能有使用自学方法，学生主动建议，这些模块应该更广泛地包括在CS课程。
2023-02-10 cs.RO
Proceedings of the Workshop on Social Robots in Therapy: Focusing on Autonomy and Ethical Challenges
ENSTA-ParisTech（巴黎高等先进技术学院）；Brown University（布朗大学）；University of Georgia（佐治亚大学）；University of Twente（特文特大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；University of Plymouth（普利茅斯大学）；UC San Diego（加州大学圣地亚哥分校）；University of Lincoln（林肯大学）；Mississippi State University（密西西比州立大学）
机器人辅助治疗（RAT）已成功地用于HRI研究，通过将社交机器人纳入医疗保健干预措施，凭借其吸引人类用户社交和情感维度的能力。关于这一主题的研究项目遍布全球，在美国，欧洲和亚洲。所有这些项目都有一个雄心勃勃的总体目标，即增加弱势群体的福祉。RAT中的典型工作是使用远程控制机器人执行的;这种技术称为绿野仙踪（WoZ）。机器人通常由人类操作员控制，患者不知道。然而，从长远来看，WoZ并不是一种可持续的技术。为机器人提供自主性（同时保持在治疗师的监督下）有可能减轻治疗师的负担，不仅在治疗过程本身，而且在长期诊断任务中。因此，有必要探索在治疗中使用的社交机器人的几个程度的自主性。提高机器人的自主性也可能带来一系列新的挑战。特别是，将需要回答有关使用机器人与弱势群体的新的道德问题，以及需要确保符合道德的机器人行为。因此，在这次研讨会上，我们希望收集调查结果，并探讨何种程度的自主权可能有助于改善卫生保健干预措施，以及我们如何克服其固有的伦理挑战。
2018-12-18 cs.RO
Good Things Come in Trees: Emotion and Context Aware Behaviour Trees for Ethical Robotic Decision-Making
Simon Fraser University（西蒙弗雷泽大学）
本文提出情绪与情境感知的行为树方案，通过躯体标记和情绪推断处理家庭机器人的伦理取物决策，并结合情境、隐私覆盖策略与实时透明推理。
2024-05-10 cs.RO
From Framework to Reliable Practice: End-User Perspectives on Social Robots in Public Spaces
Department of Computer Science and Communication（计算机科学与通信系）；Østfold University College（奥斯Fold大学学院）；Escuela Técnica Superior de Ingenieros Informáticos（信息工程高级技术学院）；Universidad Politécnica de Madrid（马德里理工大学）；Department of Information Security and Communication Technology（信息安全与通信技术系）；Norwegian University of Science and Technology（挪威科学与技术大学）
本文基于遵循SecuRoPS框架部署的大学接待员ARI社交机器人试点，收集35名师生反馈验证伦理安全框架落地路径，开源可复用模板以推动公共空间可信包容社交机器人研发。
2025-11-13 cs.RO
MATE robots simplifying my work: benefits and socio-ethical implications
University of Modena and Reggio Emilia（摩德纳-雷焦艾米利亚大学）；RWTH Aachen University（亚琛工业大学）
随着现代工业自动化和机器人系统的日益复杂，操作员的负担也越来越重，他们通常需要在具有挑战性和压力的条件下监督非常复杂的系统并与之交互。为了克服这个问题，有必要采用基于以人为中心的设计方法的负责任的方法，使机器适应人类的能力，而不是相反。沿着这些路线移动，在本文中，我们考虑一个综合的方法设计方法，我们称之为MATE，包括设计复杂的自动或机器人解决方案，测量当前操作员的状态，相应地调整交互，并为她/他提供适当的培训，以改善交互和学习缺乏技能和专业知识。因此，MATE系统旨在易于所有用户使用，从而符合包容性设计的原则。使用这样一个MATE系统产生了一些伦理和社会影响，这是本文讨论。此外，讨论了哪些因素在公司的组织是至关重要的，相对于引入MATE系统。
2018-02-19 cs.HC cs.RO
"Can you be my mum?": Manipulating Social Robots in the Large Language Models Era
IDLab-AIRO , Ghent University – imec（IDLab-AIRO 和根特大学-imec）；DEIB , Politecnico di Milano（DEIB 和米兰理工学院）
研究探讨了在大型语言模型时代，用户如何利用机器人违反伦理原则，通过三种场景测试发现五种操纵技术，旨在为设计更安全的伦理人机交互提供参考。
2025-01-08 cs.CY cs.HC cs.RO
When Robots Say No: The Empathic Ethical Disobedience Benchmark
National University of Kyiv-Mohyla Academy（基輔-莫海拉學院國家大學）
本文提出EED Gym基准，用于评估机器人在安全与社会接受性之间的平衡，探讨拒绝行为对信任的影响，发现解释性拒绝能维持信任，安全RL方法提升鲁棒性但易导致过度谨慎。
2025-12-20 cs.HC cs.RO
Ethical Asymmetry in Human-Robot Interaction - An Empirical Test of Sparrow's Hypothesis
University of Canterbury（坎特伯雷大学）；Oregon State University（俄勒冈州立大学）
本研究通过实验证实了道德行为可许可性对德性评分的影响，未支持斯帕罗的伦理不对称性假说，同时对德性基本品质问卷进行了改进。
2026-08-31 cs.HC cs.RO
Knowledge Isn't Power: The Ethics of Social Robots and the Difficulty of Informed Consent
University of Manitoba（曼尼托巴大学）
本文通过知情同意视角探讨社交机器人模仿人类行为引发的伦理问题，提出设计目标以促进更伦理的人机互动。
2025-09-09 cs.HC cs.RO
USER-VLM 360: Personalized Vision Language Models with User-aware Tuning for Social Human-Robot Interactions
Sorbonne University（索邦大学）；International University of Rabat（拉巴特国际大学）
提出User-VLM 360°框架，通过用户感知调优和偏见缓解，实现个性化社交人机交互，在八个基准上取得最先进性能，并开源模型与伦理验证框架。
2025-02-28 cs.AI cs.HC cs.RO
Leveraging Sidewalk Robots for Walkability-Related Analyses
KTH Royal Institute of Technology（皇家理工学院）
本文利用 sidewalk 机器人收集步行性相关数据，通过分析机器人行程、sidewalk 条件和利用情况，揭示了行人行为与 sidewalk 特征的关系，为改善城市步行环境提供新方法。
2025-11-14 cs.RO
Using smartphones for low-cost robotics
UAE University（阿联酋大学）
智能手机和机器人可以是对立或共生的关系，因为它们都在努力满足重叠的客户需求。虽然智能手机很流行，但人形机器人并不流行。尽管大量的公共和私人资源被投入到人形机器人的开发和商业化中，但进展似乎停滞不前，没有一个人形机器人可以说是成功的。除了类人机器人和智能手机之间明显的工程差异外，其他经济因素也影响了这种情况。一方面，机器人的产品周期比智能手机慢。这使得机器人计算硬件（就像汽车的信息娱乐系统一样）在与智能手机并排时永远过时。另一方面，智能手机开发应用程序的动机很高，而机器人平台的动机相对较低。在这里，我们指出智能手机如何用于降低硬件成本和促进机器人应用程序开发。
2018-07-14 cs.CY cs.RO
Reconstructing Robot Operations via Radio-Frequency Side-Channel
University of Strathclyde（思克莱德大学）；Newcastle University（纽卡斯尔大学）
联网的遥控机器人系统在确保操作工作流程以高精度和低误差范围执行方面发挥着关键作用。近年来，已经提出了各种各样的攻击，这些攻击从网络领域主动针对机器人本身。然而，很少有人注意到被动攻击者的能力。在这项工作中，我们调查了内部对手是否可以通过无线电频率侧通道以隐身的方式准确地识别机器人运动和操作仓储工作流程。使用SVM进行分类，我们发现对手可以以至少96%的准确度对单个机器人的运动进行指纹识别，在重建整个仓储工作流程时，准确度提高到近乎完美。
2022-09-21 cs.CR cs.LG cs.RO
Future Aspects in Human Action Recognition: Exploring Emerging Techniques and Ethical Influences
Democritus University of Thrace（色雷斯德谟克利特大学）；University of Maryland（马里兰大学）
本文探讨了基于视觉的人类动作识别在时间分析上的挑战，提出利用下一代硬件传感器数据和合成视频结合强化学习技术解决数据集限制，并强调了相关伦理问题。
2024-12-20 cs.CV cs.ET cs.RO
Fingerprinting Robot Movements via Acoustic Side Channel
University of Strathclyde（思克莱德大学）；Newcastle University（纽卡斯尔大学）
在本文中，我们提出了一种声学侧信道攻击，它利用智能手机麦克风记录机器人在操作中利用声音的声学特性指纹机器人的运动。在这项工作中，我们考虑了内部对手在机器人系统（例如技术人员或机器人操作员）的物理邻近范围内，仅配备智能手机麦克风的可能性。通过声学侧通道，我们证明了不仅可以对3D空间内的单个机器人运动进行指纹识别，而且还可以对运动模式进行指纹识别，这可能会导致推断运动的目的（即手术机器人正在进行的手术），从而导致潜在的隐私侵犯。经过评估，我们发现单个机器人运动可以以大约75%的准确率进行指纹识别，随着距离和速度等更细粒度的运动元数据而略有下降。此外，整个工作流程的重建精度约为62%，更复杂的运动，如拾取和放置或包装，重建精度接近完美。除此之外，在某些环境中，例如手术环境，音频可以通过VoIP记录和传输，例如用于教育/教学目的或远程远程医疗。这里的问题是，即使使用VoIP通信，相同的攻击也能成功吗？数据包丢失如何影响捕获的音频和攻击的成功？使用与智能手机捕获的普通音频相同的声学声音特征，攻击在对VoIP样本进行指纹识别时平均准确率为90%，比没有使用VoIP编解码器的基线高出15%。这开辟了关于匿名通信的新的研究问题，以保护机器人系统免受通过VoIP通信网络的声学侧信道攻击。
2022-09-21 cs.CR cs.LG cs.RO
Enhancing Data-Driven Reachability Analysis using Temporal Logic Side Information
KTH Royal Institute of Technology（KTH皇家理工学院）；Digital Futures（数字未来中心）
本文提出了在时序逻辑辅助信息下进行数据驱动的可达性分析的算法。在某些情况下，由于机器人的历史测量数据中的固有噪声，机器人的数据驱动可达集可能过于保守。在相同的场景中，我们通常有关于机器人预期运动的辅助信息（例如，对机器人在一次步长中可以移动多少的限制），这对于进一步指定可达性分析可能是有用的。在这项工作中，我们表明，如果我们可以使用信号时序逻辑（STL）片段的边信息建模，我们可以约束数据驱动的可达性分析，并安全地限制计算的可达集的保守性。此外，我们提供了正式的保证，即使在将边信息，计算的可达集仍然正确地过度近似机器人的未来状态。最后，我们通过计算两种驾驶场景中的小型车辆自动驾驶（SVEA）硬件平台的受约束的数据驱动可达集，实证验证了过近似的实用性。
2022-03-30 cs.RO cs.SY eess.SY
Care Robots with Sexual Assistance Functions
School of Business FHNW（FHNW商学院）
养老院和疗养院的居民和其他人一样有性需求。然而，半公开的情况使他们很难满足这些存在的关切。此外，他们可能无法遇到合适的伴侣，或者由于精神或身体原因难以建立关系。在家生活或被照顾的人也会受到这个问题的影响。也许他们可以比医疗机构的居民更容易和谨慎地接待某人，但一些老年人和残疾人可能在某些方面受到限制。本文探讨了具有性辅助功能的护理机器人所带来的机遇和风险。首先，它涉及性健康。然后它介绍了从性爱机器人到护理机器人的机器人系统。最后，重点是护理机器人，与作者探讨技术和设计问题。一个简短的道德讨论完成了这篇文章。其结果是，具有性辅助功能的护理机器人可以丰富需要护理的人的日常生活，但我们也必须考虑一些技术，设计和道德方面的问题。
2020-04-09 cs.CY cs.HC cs.RO
