Ethical Implications of Social Internet of Vehicles Systems
物联网的核心概念是为现实世界的对象提供计算,处理和通信能力,以实现它们之间的社交。车联网(IoV)是物联网的一个分支,它使用通信技术实现了重大进步。透过互联网连接的载具可互通信息,大大改善道路交通的品质。社交物联网(SIoT)是物联网的一个实例,专门处理连接对象的社交。SIoT实现了社会车辆互联网(SIoV)的概念,其中车辆是在其自身与基础设施(通常称为路侧单元(RSU))之间共享信息的关键实体。SIoV中的车辆通过交换数据进行社交,例如交通流量、天气状况、信息娱乐、空闲停车位、备用路线和餐馆折扣券等。在SIoV中,车辆可以通过Wi-Fi等传统通信技术与其他车辆和基础设施进行通信,蜂窝网络或通过专用短程通信(DSRC)SIoV将面临道德困境,并期望以道德负责的方式运作。本文重点介绍了SIoV系统的伦理含义。车对车(V2 V)和车对基础设施(V2 I)涉及自主决策,需要在做出裁决之前设定伦理和道德规则。本文讨论了在设计和部署SIoV系统时缺乏道德准则的问题。最后,除了SIoV体系结构,提出了纳入规划SIoV系统的伦理和道德原则。
2018-06-24 cs.CY
FATe of Bots: Ethical Considerations of Social Bot Detection
Carnegie Mellon University(卡内基梅隆大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of Pittsburgh(匹兹堡大学)
本文探讨社交机器人检测系统的伦理问题,通过训练数据集、算法开发和机器人代理使用三个支柱,提出改进社交媒体机器人检测的伦理框架和研究方向。
2026-02-05 cs.CY
Ethical, Legal and Social aspects of Information and Communication Technology
在这个计算机和通信技术的时代,计算机和互联网已经进入生活的各个领域,从办公室到住宅,从银行到邮局,从小型零售商店到大型组织,从医疗保健单位到娱乐行业等,在信息和通信技术(ICT)的道德和法律使用方面出现了许多问题。与任何其他技术发明一样,信息和通信技术也对社会产生了积极和消极的影响。本文旨在简要探讨其中的一些问题。
2015-07-30 cs.CY
On the Morality of Artificial Intelligence
Université de Montréal(蒙特利尔大学);Mila(米拉研究所)
关于人工智能的社会和伦理影响的大部分现有研究都集中在定义围绕机器学习(ML)和其他人工智能(AI)算法的伦理原则和指导方针[IEEE,2017,Jobin等人,2019年]。虽然这对于帮助定义适当的人工智能社会规范非常有用,但我们认为讨论ML的潜力和风险以及激励社区使用ML实现有益的目标同样重要。在这篇专门针对ML从业者的文章中,我们更多地关注后者,对现有的高级道德框架和指南进行了概述,但最重要的是提出了ML研究和部署的概念和实践原则和指南。坚持从业者可以采取的具体行动,以追求更符合道德和道德的ML实践,旨在利用人工智能为社会造福。
2019-12-26 cs.AI cs.CY
Explainable Ethical Assessment on Human Behaviors by Generating Conflicting Social Norms
Department of Computer Science(计算机科学系);School of Computing and Information Systems(计算与信息学系);Information Systems Technology and Design(信息系统技术与设计)
本文提出ClarityEthic方法,通过生成冲突的社会规范提升AI对人类行为效用的预测和解释能力。
2025-12-16 cs.AI cs.CL cs.CY
The Ethical Risks of Analyzing Crisis Events on Social Media with Machine Learning
Universität Hamburg(汉堡大学);Hamburger Informatik Technologie-Center e.V. (HITeC)(汉堡信息技术中心)
本文识别并批判性分析了利用机器学习分析社交媒体危机事件时产生的伦理风险因素,旨在提升研究者与从业者的伦理意识,推动更公平可靠的方法设计。
2022-10-07 cs.CY cs.LG cs.SI
Social and Ethical Risks Posed by General-Purpose LLMs for Settling Newcomers in Canada
National Research Council Canada(加拿大国家研究委员会);Mila - Quebec Artificial Intelligence Institute(魁北克人工智能研究所)
研究探讨通用大语言模型在移民安置领域可能带来的风险,强调需开发定制化AI工具以确保人类监督与责任。
2025-11-21 cs.AI cs.CY
MOSAIC: Unveiling the Moral, Social and Individual Dimensions of Large Language Models
University of Southern California(南加州大学);University of Calabria and ICAR-CNR(卡利亚里大学和ICAR-CNR);Thomas Lord Department of Computer Science(托马斯·劳德计算机科学系)
MOSAIC首次提出评估大型语言模型道德、社会和个体维度的综合基准测试,通过九个问卷和四个游戏全面考察伦理推理能力,揭示MFT的局限性。
2026-08-14 cs.AI cs.CY
The social dilemma in artificial intelligence development and why we have to solve it
NTNU(挪威科技大学);SimulaMet(SimulaMet 研究所);University of Bergen(卑尔根大学);Berlin Institute of Health (BIH)(柏林健康研究所);Charité Universitätsmedizin Berlin(柏林夏里特医学院);Birmingham City University(伯明翰城市大学)
虽然对道德人工智能(AI)系统的需求增加,但不道德使用AI的数量却在加速,尽管并不缺乏道德准则。我们认为,一个可能的根本原因是,人工智能开发人员在人工智能开发伦理方面面临着社会困境,阻碍了道德最佳实践的广泛适应。我们定义了人工智能开发的社会困境,并描述了为什么如果不解除人工智能开发人员的社会困境,就无法解决当前人工智能开发伦理的危机。我们认为,人工智能的开发必须专业化,以克服社会困境,并讨论如何在这一过程中使用医学作为模板。
2021-11-17 cs.AI cs.CY cs.LG
Ethics for social robotics: A critical analysis
Facultat de Filosofia, Universitat de Barcelona (UB)(巴塞罗那大学哲学系)
社会机器人技术在医疗实践中的发展以及欧洲将这些基于人工智能的系统纳入机构医疗环境的前景,迫切需要进行伦理反思,以根据人类价值观和权利来(重新)配置我们的实际生活。尽管社会机器人的伦理影响越来越受到关注,但目前关于其中心分支之一社会辅助机器人(SAR)的辩论依赖于一种贫困的伦理方法。本文介绍和审查这种流行的方法,这已被确定为一个关键的文献综述的结果的一些趋势。基于对一个代表性案例的分析,伦理反思是如何被引向社会机器人的,一些未来的研究路线的概述,这可能有助于重新构建和深化其伦理含义。
2022-07-25 cs.CY cs.RO
Beyond Algorethics: Addressing the Ethical and Anthropological Challenges of AI Recommender Systems
本文针对人工智能推荐系统(RSs)带来的伦理与人类学挑战,提出整合政策监管、跨学科研究及教育的三维以人为中心框架,以解决现有算法伦理不足问题,增强用户自主权与尊严。
2025-11-11 cs.AI cs.CY
Ethical Aspects of the Use of Social Robots in Elderly Care -- A Systematic Qualitative Review
University of Potsdam(波茨坦大学)
本研究通过系统性定性综述梳理老年护理中社交机器人应用的伦理风险、机遇与未决问题,为决策者负责任实施提供依据。
2025-05-14 cs.CY cs.RO
Global AI Ethics: A Review of the Social Impacts and Ethical Implications of Artificial Intelligence
人工智能的伦理含义和社会影响已经成为工业界、学术界研究人员和公众感兴趣的话题。然而,目前在全球范围内对人工智能的分析偏向于美国的观点,而且由于缺乏研究,特别是在美国和西欧以外的地区,本文总结了最近社会科学奖学金对人工智能和相关技术在全球五个地区的社会影响的文献综述的主要发现。我们的社会科学研究团队审查了800多篇学术期刊文章和专著,涉及十几种语言。我们对文献的回顾表明,人工智能可能会根据地理环境产生明显不同的社会影响。同样,对人工智能的看法和理解可能会受到当地文化和社会背景的深刻影响。最近在美国的研究表明,人工智能驱动的技术有一种加深社会鸿沟和加剧社会不平等的模式,特别是在历史上被边缘化的群体中。我们的文献回顾表明,这种模式在全球范围内存在,并表明低收入和中等收入国家可能更容易受到人工智能的负面社会影响,并且不太可能从随之而来的收益中受益。我们呼吁进行严格的人种学研究,以更好地了解人工智能在世界各地的社会影响。全球实地研究对于识别可能放大社会不平等的人工智能系统以减轻潜在危害尤为重要。深入了解人工智能在不同社会环境中的社会影响是开发、实施和监测负责任和有益的人工智能技术的必要前提,也是对这些技术进行有意义监管的基础。
2019-07-18 cs.CY
Toward a Rational and Ethical Sociotechnical System of Autonomous Vehicles: A Novel Application of Multi-Criteria Decision Analysis
North Carolina State University(北卡罗来纳州立大学);Oklahoma State University(俄克拉荷马州立大学);University of Bristol(布里斯托大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of North Carolina at Asheville(北卡罗来纳大学阿什维尔分校);University of Delaware(特拉华大学);Virginia Tech(弗吉尼亚理工大学);Guilford College(吉尔福德学院)
人工智能(AI)和自主系统的发展已经显示出产生巨大社会效益的潜力,同时也引发了严重的道德和安全问题。人工智能技术越来越多地应用于交通领域。一项针对各种车载技术的调查发现,约64%的受访者使用智能手机应用程序来协助他们的旅行。最常用的应用是导航和实时交通信息系统。在通勤期间使用智能手机的人中,最常用的应用程序是导航和娱乐。迫切需要解决相关的社会问题,以便开发了解和认识道德标准的智能代理系统。这样做将有助于负责任地将这些系统融入社会。为此,我们应用多标准决策分析(MCDA)开发了一个正式的多属性影响评估(MAIA)问卷,以研究与人工智能相关的社会和伦理问题。我们专注于自动驾驶汽车(AV)领域,因为它们即将扩张。然而,AV可以作为智能自主智能体与人类交互的任何领域的替代品,无论是在个人层面上(例如,行人、乘客)或社会层面。
2021-02-04 cs.AI cs.CY
Ethical Issues Regarding the Use of AI Profiling Services for Recruiting: The Japanese Rikunabi Data Scandal
在招聘中使用特征分析服务所涉及的道德、法律和社会挑战是许多先前研究的重点;然而,这些过程因社会制度和文化习俗而异。2019年8月,日本发生了一起丑闻,一家招聘管理公司被发现通过向客户出售他们的数据来破坏用户和学生的信任。通过分享日本的招聘背景和相关法律,本文有助于我们理解人工智能分析和处理敏感个人信息所涉及的伦理问题。
2020-05-18 cs.CY
Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures
Facebook或Instagram等社交网站的隐私与人们的自我披露决定以及他们预见与大量不同受众分享个人信息的后果的能力密切相关。尽管如此,在线隐私决策往往基于虚假的风险判断,使人们容易向不受信任的接收者透露敏感数据,并成为社会工程攻击的受害者。人工智能(AI)与说服机制(如轻推)相结合,是促进SNS用户预防性隐私行为的一种有前途的方法。然而,结合行为干预与高水平的个性化可以是一个潜在的威胁,人们的机构和自主权,即使应用到社会工程对策的设计。本文详细阐述了推动机制可能对基于人工智能的对策的发展带来的伦理挑战,特别是对解决SNS中不安全的自我披露做法的挑战。总体而言,它赞同制定个性化的风险意识解决方案,作为i)一种道德方法来抵制社会工程,以及ii)作为促进反思隐私决策的有效手段。
2020-09-27 cs.CY cs.HC cs.SI
Towards an Ethical Framework in the Complex Digital Era
UCL(伦敦大学学院);UNICEF(联合国儿童基金会);KTH Royal Institute of Technology(瑞典皇家理工学院);KTH Climate Action Centre(瑞典皇家理工学院气候行动中心)
针对数字时代引发的伦理挑战,本文提出需构建兼顾个体与集体、利用计算工具支持真理行动的系统性伦理框架,以应对全球系统的脆弱性与不平等。
2022-07-10 cs.AI cs.CC cs.CY
Moral and Social Ramifications of Autonomous Vehicles
North Carolina State University(北卡罗来纳州立大学);Oklahoma State University(俄克拉荷马州立大学);University of Bristol(布里斯托大学)
自动驾驶汽车(AV)引起了重要的社会和伦理问题,特别是关于问责制,尊严和正义。我们专注于自动驾驶技术将如何影响专业和半专业驾驶员的生活和生计所引起的具体问题。虽然以前对这些问题的研究主要集中在专家的意见上,但我们试图从司机本身的角度来理解这些道德和社会挑战。为此,我们采用了基于半结构化访谈的定性研究方法论。这是一种成熟的社会科学方法论,有助于避免调查等肤浅方法的偏见,深入了解利益相关者的核心担忧。我们发现,尽管司机同意专家的观点,即自动驾驶汽车将对交通系统产生重大影响,但他们对自己的生计前景感到担忧,并不认为驾驶工作不令人满意,他们的职业不值得保护。通过展示驾驶员与专家的不同之处,我们的研究产生了超越自动驾驶汽车到人工智能和其他先进技术的影响。我们的研究结果表明,定性研究适用于相关的,特别是被剥夺权力的利益相关者是必不可少的,以确保新技术的引入道德。
2021-01-29 cs.AI cs.CY
The Short Anthropological Guide to the Study of Ethical AI
在未来几年,整个社会将需要解决在处理技术时希望保护的核心价值观。人类学是一个致力于人类意义的概念的领域,可以为如何应对和解决我们西方社会和世界其他地区的这些变化提供一些有趣的见解。对于社会科学从业者来说,掌握并跟上技术创新的步伐可能是一项挑战,许多人不熟悉人工智能的术语。这本简短的指南既是对人工智能伦理和社会科学的介绍,也是对人工智能发展的人类学视角。它旨在让那些不熟悉该领域的人深入了解人工智能系统的社会影响,以及这些系统如何反过来引导我们重新思考我们的世界如何运作。
2020-10-07 cs.AI cs.CY
Contextual Consent: Ethical Mining of Social Media for Health Research
社交媒体是数据采掘和以用户为中心的研究的一个丰富的洞察力来源,但在研究这些数据时,如果没有创建者的明确知识,就会出现同意的问题。从Facebook和Twitter等在线服务的用户那里挖掘社交数据的案例研究变得越来越普遍。这导致人们呼吁公开讨论研究人员如何最好地利用这些巨大的资源,在尊重基本伦理原则的同时做出创新性的发现。在这份立场文件中,我们强调了这一主题的一些关键考虑因素,并认为知情同意的条件往往得不到满足,使用一些人认为可以自由访问和分析的社交媒体数据可能会导致不良后果,特别是在健康研究和其他敏感主题领域。我们认为,成功利用在线个人数据,特别是用于健康和其他敏感研究,需要新的和可用的方法来获得用户的同意。
2017-01-26 cs.CY cs.HC cs.SI
The Ethics of Social Media Analytics in Migration Studies
社交媒体平台的普及及其在全球的使用使其成为研究大型人群的有吸引力的选择,特别是当其中一些平台提供对大量结构化数据的访问时。然而,随着这些数据的收集、存储和使用,道德和法律责任也随之而来,这在关注移民等社会群体时尤为重要,因为他们往往受到污名化和犯罪化。已经制定了各种指导方针,框架和法律,以确保以最道德的方式使用社交媒体数据。然而,它们在过去几年中迅速发展,并分散在各个领域和领域。为了帮助研究人员解决这些问题,本章概述了通过社交媒体平台研究移民的伦理考虑。在相关学术文献以及国家和超国家框架和立法的基础上,我们回顾了过去20年来如何讨论与社交媒体研究相关的主要伦理问题,并概述了缓解这些问题的良好实践案例。本概述旨在为研究人员提供理论和实践工具,以考虑和减轻与移民相关背景下的社交媒体研究相关的道德挑战。
2023-02-28 cs.CY
System Safety Engineering for Social and Ethical ML Risks: A Case Study
Naval Postgraduate School(海军研究生院);McGill University(麦吉尔大学)
各国政府、工业界和学术界都在努力识别和减轻ML驱动系统的危害,特别关注ML组件在复杂社会技术系统中的社会和道德风险。然而,现有的方法在很大程度上是脱节的,临时的和未知的有效性。系统安全工程是一门成熟的学科,在许多复杂的社会技术领域都有识别和管理风险的记录。我们采用了自然的假设,即该领域的工具可以在其使用环境中增强ML的风险分析。为了验证这一假设,我们采用了“最佳品种”的系统安全性分析,系统理论过程分析(STPA),一个特定的高后果系统与一个重要的ML驱动的组件,即处方药监测计划(PDMP)由美国许多州,其中一些依赖于ML派生的风险评分。我们特别关注这种分析如何扩展到识别社会和道德风险,并制定具体的设计级控制措施来减轻这些风险。
2022-11-08 cs.CY cs.LG
Ever heard of ethical AI? Investigating the salience of ethical AI issues among the German population
构建和实施有益于整个社会的道德人工智能系统是一项成本密集型的多方面任务,充满了潜在的问题。虽然计算机科学主要关注减轻社会问题的技术问题,但社会科学则关注公民的看法,以阐明影响人工智能系统社会实施的社会和政治需求。因此,在这项研究中,我们探讨了公众中人工智能问题的突出性,重点是道德标准,以调查人口是否有可能积极要求道德人工智能。在2020年5月至2021年4月期间,我们进行了15项调查,询问德国民众最重要的人工智能相关问题(共N= 14,988名受访者)。我们的研究结果表明,大多数受访者根本不关心人工智能。然而,可以看出,对人工智能的普遍兴趣和较高的教育水平预示着与人工智能的一些接触。在那些报告说考虑过人工智能的人中,具体的应用(例如,自动驾驶)是迄今为止提到最多的主题。道德问题只由一小部分公民提出,公平、问责制和透明度是最少被提及的问题。这些已经在几个道德准则(包括欧盟委员会的提案)中被确定为道德AI发展的关键要素。道德问题的突出性影响了公民的行为意图,他们1)倾向于避免人工智能技术,2)参与关于人工智能的公开讨论。我们的结论是,低水平的道德影响可能会对道德人工智能的实际实施构成严重问题,并强调那些可能受人工智能道德问题影响最大的人尤其没有意识到道德风险。然而,一旦道德人工智能成为首要考虑,就有可能采取行动。
2022-07-28 cs.CY
The Use and Misuse of Counterfactuals in Ethical Machine Learning
使用反事实来考虑算法公平性和可解释性在机器学习社区和行业中越来越突出。本文认为,当要考虑的事实是社会类别,如种族或性别时,使用反事实要更加谨慎。我们回顾了哲学和社会科学中关于社会本体论和反事实语义学的大量论文,并得出结论,机器学习公平性和社会可解释性中的反事实方法可能需要一个关于社会类别的不连贯理论。我们的研究结果表明,大多数情况下,社会类别可能不承认反事实操纵,因此可能无法适当地满足评估的真实性或虚假性的反事实的要求。这一点很重要,因为反事实在机器学习中的广泛使用可能会导致误导性的结果,当应用于高风险领域时。因此,我们认为,即使反事实在某些因果推理中发挥了重要作用,但它们用于算法公平性和社会解释的问题可能会产生更多的问题。我们的积极结果是一组关于在机器学习中使用反事实来实现公平和解释的原则。
2021-02-09 cs.CY
Mapping for accessibility: A case study of ethics in data science for social good
新兴数据科学领域的道德规范经常通过警示性故事来讨论,这些故事讲述了知名公司或组织失误的可怕后果。我们采取了不同的方法,突出了数据科学日常工作中涉及的道德问题,重点关注数据科学家认识到、应对和认真应对道德挑战的情况。本文介绍了一个案例研究的伦理困境中出现的“数据科学为社会公益”(DSSG)项目的重点是改善导航的人行动不便。我们描述了这个特殊的DSSG团队如何应对这些困境,以及这些反应如何引起更多的困境。虽然这里讨论的案例细节是独特的,但它们所揭示的伦理困境通常可以在许多DSSG项目中找到。其中包括:加剧差异的风险;算法问责制的棘手性;新技术带来的不断变化的恶作剧机会;任何数据密集型项目的核心都是主观和充满价值的解释;数据放大或压制特定声音的可能性;侵犯隐私的可能性;以及技术解决方案主义的愚蠢。根据我们对团队对这些困境的反应的跟踪,我们提取了道德数据科学实践的经验教训,这些经验教训可以更普遍地应用于DSSG项目。具体来说,这个案例的经验突出了以下几点的重要性:1)尽早为道德思维做好准备2)认识到道德决策是一种新兴现象,与数据科学为社会公益所做的不懈努力交织在一起3)将道德思维视为对优先事项的深思熟虑和有意的平衡,而不是对与错的二元区分。
2017-10-18 cs.CY
German AI Start-Ups and AI Ethics: Using A Social Practice Lens for Assessing and Implementing Socio-Technical Innovation
在当前的人工智能伦理话语中,关于理解人工智能从业者如何理解伦理和社会组织以实现伦理问题的实证研究存在差距,特别是在人工智能初创企业的背景下。这种差距加剧了学术研究、创新和应用之间脱节的风险。随着识别和减轻人工智能系统潜在危害的压力越来越大,迫切需要评估和实施社会技术创新,以实现公平、问责和透明度,这种风险变得越来越严重。在社会实践理论的基础上,我们通过一个框架来解决这一需求,该框架允许人工智能研究人员,从业者和监管机构系统地分析现有的文化理解,历史和道德人工智能的社会实践,以确定有效实施社会技术创新的适当策略。我们的贡献有三个方面:1)我们引入了一种基于实践的方法来理解道德AI; 2)我们提出了我们对德国AI初创企业道德操作化研究的实证结果,以强调必须在特定的文化和历史背景下理解AI道德和社会实践; 3)根据我们的实证研究结果,我们建议道德人工智能实践可以分解为原则,需求,叙述,物化,和文化谱系,以形成一个有用的背景,考虑社会技术创新。
2022-06-20 cs.CY
Rapid Integration of LLMs in Healthcare Raises Ethical Concerns: An Investigation into Deceptive Patterns in Social Robots
Brandenburg University of Potsdam(波茨坦布兰登堡大学)
该研究调查了医疗社交机器人中集成大型语言模型后出现的欺骗性行为,发现机器人虚假声称具备用药提醒功能,揭示了相关伦理与安全风险,并呼吁加强监督以保护弱势群体。
2024-11-22 cs.CY cs.RO
Artificial Intelligent Ethics in the Digital Era: an Engineering Ethical Framework Proposal
如今,技术正在我们生活的各个方面被采用,它是工业最重要的转型驱动力之一。此外,我们日常使用的许多系统和数字服务都依赖于能够对社会或个人行为进行建模的人工智能技术,这些行为反过来也会改变个人的决策和行动。在本文中,我们简要地讨论,从技术的角度来看,一些关键问题,包括促进信任的目的,并确保通过正确使用人工智能系统的社会效益。为了实现这一目标,我们提出了一个通用的伦理技术框架,作为第一次尝试,以定义一个共同的背景下,发展真正的工程伦理设计。我们希望这个初步建议对早期采用者,特别是标准化团队有用。
2020-02-18 cs.CY
Artificial intelligence in medicine and healthcare: a review and classification of current and near-future applications and their ethical and social Impact
Universidad de Sevilla(塞维利亚大学);Institute of Biomedicine of Seville (IBIS)(塞维利亚生物医学研究所);Royal Academy of Medicine and Surgery of Seville(塞维利亚皇家医学与外科学院);Joint Research Center, European Commission(欧盟委员会联合研究中心);Universitat Pompeu Fabra(庞培法布拉大学);Hospital Universitario “Virgen del Rocio”(“罗西圣母”大学医院);Center for Advanced Neurology (CNA)(高级神经病学中心);Hospital Universitario “Virgen Macarena”(“马卡雷纳圣母”大学医院);Instituto de Salud Carlos III (ISCIII)(卡洛斯三世卫生研究所);College of Medicine, Universidad de Sevilla(塞维利亚大学医学院);Hospital “VITHAS-NISA Sevilla”(塞维利亚VITHAS-NISA医院);DINAC Foundation(DINAC基金会)
本文概述了人工智能(AI)在医学和医疗保健领域的当前和不久的将来的应用,并根据其伦理和社会方面,潜在的好处和陷阱,以及可能被认为是有争议的问题进行了分类,这些问题在文献中没有深入讨论。这项工作基于对研究和技术现状的分析,包括现有软件、个人监测设备、基因测试和编辑工具、个性化数字模型、在线平台、增强现实设备以及手术和陪伴机器人。受我们的回顾的启发,我们提出并描述了“扩展个性化医疗”的概念,然后我们回顾了人工智能在医学和医疗保健中的现有应用,并探讨了公众对医疗人工智能系统的看法,以及它们如何同时显示出非凡的机会和缺点,甚至质疑基本的医疗概念。其中许多议题与世界卫生组织最近为今后十年确定的紧迫优先事项相吻合。此外,我们还研究了在信息无处不在的时代,医生和患者的角色的转变,确定了将医学划分为“基于假”,“患者生成”和“科学定制”的风险,并提请注意一些需要进一步深入分析和公开辩论的方面。
2020-02-06 cs.AI cs.CY
AI and Accessibility: A Discussion of Ethical Considerations
Microsoft Research(微软研究院)
根据世界卫生组织的数据,全世界有超过10亿人患有残疾。残疾研究领域通过社会视角界定残疾;人们残疾的程度是社会造成的无障碍。人工智能技术提供了消除许多无障碍的可能性;例如,计算机视觉可以帮助盲人更好地感知视觉世界,语音识别和翻译技术可以为听力困难的人提供实时的字幕,新的机器人系统可以增强行动不便的人的能力。考虑残疾用户的需求可以帮助技术人员识别高影响力的挑战,其解决方案可以为所有用户提升人工智能的状态;但是,必须考虑包容性,偏见,隐私,错误,期望设定,模拟数据和社会可接受性等伦理挑战。
2020-06-03 cs.AI cs.CY cs.HC
Teaching at the Intersection of Social Justice, Ethics, and the ASA Ethical Guidelines for Statistical Practice
本文提出五种结构化工具,将社会正义与伦理内容低负担地融入定量课程,并支持可复现、可操作的教学评估。
2023-09-30 cs.CY stat.AP
Developing Future Human-Centered Smart Cities: Critical Analysis of Smart City Security, Interpretability, and Ethical Challenges
Hamad Bin Khalifa University(哈马德·本·哈利法大学);The Hashemite University(哈希姆大学);Pak-Austria Fachhochschule: Institute of Applied Sciences and Technology(巴基斯坦-奥地利应用科学与技术学院);Qatar University(卡塔尔大学);Information Technology University(信息技术大学)
随着全球人口的增长推动世界各地的快速城市化,我们非常需要考虑值得居住的城市的未来。特别是,随着现代智慧城市接受越来越多的数据驱动的人工智能服务,值得记住的是,技术可以促进繁荣,福祉,城市宜居性或社会正义,但只有当它有正确的模拟补充时(例如深思熟虑的政策、成熟的机构、负责任的管治);这些智慧城市的最终目标是促进和提高人类福祉和社会繁荣。研究人员已经表明,各种技术商业模式和功能实际上会导致极端主义,两极分化,错误信息和网络成瘾等社会问题。根据这些观察,解决涉及确保这些人工智能算法的安全性,安全性和可解释性的哲学和伦理问题将成为未来城市的技术基石。在全球范围内,人们呼吁使技术更加人性化和以人为本。在本文中,我们分析和探讨了在以人为中心的应用程序中成功部署人工智能所面临的关键挑战,包括安全性、鲁棒性、可解释性和道德(数据和算法)挑战,并特别强调了这些概念/挑战的融合。我们提供了一个关于这些关键挑战的现有文献的详细回顾,并分析这些挑战之一如何可能导致其他挑战或帮助解决其他挑战。本文还就这些领域目前的局限性、陷阱和未来的研究方向提出了建议,以及如何填补目前的空白并找到更好的解决方案。我们相信,这种严格的分析将为该领域的未来研究提供一个基线。
2021-12-05 cs.AI cs.CY
Ethical considerations in an online community: the balancing act
随着社交媒体的出现和快速增长,一些国家的政府部门已经将社交媒体作为与其选民互动的特权渠道。我们正在与澳大利亚人类服务部合作,探讨是否可能利用社交网络的潜力来支持特定的公民群体。为此,我们开发了一个在线社区Next Step,帮助目前领取福利金的人找到工作,实现经济自给自足。在本文中,我们探讨了当政府直接与公民接触时,特别是与处于困境的社区接触时,以及当研究人员参与时所出现的一些伦理问题。我们描述了我们面临的一些挑战以及我们如何应对这些挑战。我们的工作突出了问题的复杂性,当一个网上社区涉及一个政府部门和一个与该部门有依赖关系的福利受助群体时。它成为一种平衡行为,需要确保社区成员的隐私,同时仍然履行政府的法律责任。虽然困难,但如果政府要使用社交媒体与公民互动,这些问题必须得到解决。
2013-11-15 cs.CY
Artificial Intelligence Ethics and Safety: practical tools for creating "good" models
AI机器人伦理协会(AIRES)是一个由Aaron Hui于2018年创立的非营利组织,旨在提高人们对AI伦理实施和监管的认识和重要性。AIRES现在是一个组织,在加州大学洛杉矶分校(洛杉矶)、南加州大学(南加州大学)、加州理工学院(加州理工学院)、斯坦福大学、康奈尔大学、布朗大学和南里奥格兰德天主教大学(巴西)等大学设有分会。AIRES在PUCRS是AIRES的第一个国际分会,因此,我们致力于促进和加强AIRES使命。我们的使命是专注于教育未来的人工智能领导者的道德原则,以确保人工智能是道德和负责任的。由于在人工智能系统开发的实践中,我们应该如何实施道德原则和规范性指导方针的建议仍然很少,这项工作的目标是试图弥合话语和实践之间的差距。在抽象原则和技术实现之间。在这项工作中,我们试图向读者介绍人工智能伦理和安全的主题。同时,我们提出了几个工具,以帮助开发人员的智能系统开发“好”的模型。这部著作是一部以英文和葡萄牙文出版的发展指南。欢迎提出意见和建议。
2023-03-14 cs.AI cs.CY
Beyond the ML Model: Applying Safety Engineering Frameworks to Text-to-Image Development
本研究将FMEA、STPA两种安全工程框架应用于文本生成图像模型开发全流程,证明其可发掘多层面的社会伦理风险,凸显了跳出模型本身开展风险审查的价值。
2023-07-19 cs.CY cs.HC
Student views in AI Ethics and Social Impact
Department of Computer Science, Babes Bolyai University, Cluj-Napoca, Romania(巴纳特-波耶伊大学计算机科学系,克鲁日-纳波卡,罗马尼亚)
研究从性别角度探讨学生对人工智能伦理影响和社会效应的看法,发现男性更关注计算机科学、自动驾驶等技术变化,女性更关注社交媒体影响,两者均认为AI存在潜在威胁,但女性更强调伦理与助人。
2026-03-19 cs.AI cs.CY
An Ethical eValuation Agent (EeVA): Results of a Proof-of-Concept Test on a Prototype Agentic-like Workflow to Assist Ethical Deliberations
Institute for Biomedical Ethics, Basel University(伦理研究所,巴塞尔大学);North-West University(北开普大学);Barcelona Supercomputing Center(巴塞罗那超级计算中心)
提出基于LLM的类代理工作流EeVA,通过10种伦理框架评估用例,生成结构化评估与综合,促进伦理反思而非给出绝对答案,在三个案例中验证了可行性。
2026-06-11 cs.AI cs.CY
Good proctor or "Big Brother"? AI Ethics and Online Exam Supervision Technologies
The University of Melbourne(墨尔本大学)
本文分析了在线考试监督技术,由于COVID-19疫情期间的校园封锁和对在线课程不断增长的需求,这些技术已成为公众关注的焦点。在线考试监考技术旨在为参加在线考试的学生提供有效的监督,使用人工智能(AI)系统和人类监考员来补充和审查这些系统。这些技术使一些学生感到震惊,他们认为这些技术“像老大哥一样”,但一些大学为明智地使用这些技术辩护。对在线监考技术进行严格的道德评估已经过时。本文对这些技术进行了分析,重点讨论了学术诚信、公平、非恶意、透明、隐私、尊重自主、自由和信任等伦理概念。这些概念中的大多数在人工智能伦理的新领域都很突出,并且都与教育背景相关。本文提供了教育机构在选择部署和管理特定的在线监考技术之前需要仔细审查的道德考虑因素。
2020-11-15 cs.AI cs.CY
Actually, It's About Ethics in Computational Social Science: A Multi-party Risk-Benefit Framework for Online Community Research
管理者经常面临一个复杂的道德困境,即如何通过评估不同社会或技术策略的有效性来最好地管理在线社区。当研究人员和管理人员采用因果研究方法,使不同的社区成员在不同程度的同意下承担不同的风险和利益时,应该有哪些伦理考虑来指导他们?我们引入了一个结构框架,用于评估具有多个相互作用方的社会系统中的风险和收益流。这一框架对理解管理社会技术系统的治理机制、使研究伦理讨论更加合理以及列举研究人员可能通过干预措施追求的替代目标具有重要意义。
2015-11-20 cs.CY
Bibliometric Mapping of AI-Supported Social Presence in Online Learning Environments: Trends, Collaboration, and Thematic Directions
Pampanga State University(邦板牙州立大学)
研究分析了人工智能支持的社会存在研究在在线学习环境中的发展、影响及合作模式,揭示了2020年后文献增长趋势,强调了参与度、AI工具、教学设计和伦理问题的研究重点,指出伦理问题和跨学科合作的重要性。
2026-04-30 cs.CY
FuturICT - The Road towards Ethical ICT
信息和通信技术在现代社会的普遍使用为个人、机构、企业和科学家提供了无数机会,但也提出了棘手的道德和社会问题。特别是,信息和通信技术使社会变得更加复杂,从而更难理解,这阻碍了为避免伤害和增加共同利益而进行的社会和政治干预。为了克服这一障碍,欧盟的大型旗舰提案“未来信息和通信技术”打算建立一个平台,将全球人类知识作为一种公益物和工具,通过利用基于信息和通信技术的研究来增进我们对信息社会的了解。在这篇文章中,我们概述了这种努力的伦理理由。我们认为,FuturICT研究项目提出的伦理问题与许多已知的ICT使用中出现的伦理问题基本重叠。通过参考价值敏感设计的概念,我们展示了隐私的例子如何在FuturICT的框架内进行研究时保护负责任的ICT的核心价值。此外,我们还讨论了进一步的道德问题,并概述了未来ICT的制度设计,允许解决这些问题。
2012-10-30 cs.CY cs.DL
AI Ethics and Social Norms: Exploring ChatGPT's Capabilities From What to How
University of Toronto(多伦多大学);Drexel University(德雷塞尔大学);University of Siegen(锡根大学);Westphal College of Media Arts and Design(媒体艺术与设计西弗尔学院);Digital Media Department(数字媒体系);Information Systems(信息系统)
本研究通过混合方法调查ChatGPT在实证情境下是否遵循伦理与社会规范,揭示偏见、可信度等六大AI伦理问题,并指出无监督数据收集中的透明度和偏见障碍。
2025-04-25 cs.AI cs.CY cs.HC
Ethical and social risks of harm from Language Models
DeepMind;California Institute of Technology(加州理工学院);University of Toronto(多伦多大学);University College Dublin(都柏林大学学院)
本文旨在帮助构建与大规模语言模型(LM)相关的风险格局。为了促进负责任的创新,需要深入了解这些模式带来的潜在风险。广泛的既定和预期的风险进行了详细分析,借鉴多学科的专业知识和文献,从计算机科学,语言学和社会科学。我们概括了六个具体的风险领域:一。歧视,排斥和毒性,二。信息危害,三。错误信息危害,V.恶意使用,V.人机交互危害,VI.自动化、访问和环境危害。第一个领域涉及陈规定型观念的延续、不公平的歧视、排斥性规范、有毒语言和社会群体对地方妇女的低绩效。第二个重点是私人数据泄露或LM正确推断敏感信息的风险。第三个解决了由不良、虚假或误导性信息(包括敏感领域的信息)产生的风险,以及连锁风险,例如对共享信息的信任受到侵蚀。第四个考虑的是试图使用地雷造成伤害的行为者的风险。第五个重点是用于支持与人类用户交互的会话代理的LLM特有的风险,包括不安全的使用,操纵或欺骗。第六章讨论了环境危害、工作自动化和其他挑战的风险,这些挑战可能对不同的社会群体或社区产生不同的影响。我们总共深入审查了21项风险。我们讨论了不同风险的起源点,并指出潜在的缓解方法。最后,我们讨论了实施缓解措施的组织责任,以及合作和参与的作用。我们强调了进一步研究的方向,特别是在扩大评估和评估LM中概述的风险的工具包。
2021-12-08 cs.AI cs.CL cs.CY
Social Scientists on the Role of AI in Research
本研究通过对半分组的调查与访谈,揭示社会科学家对AI/ML的使用现状与认知差异,指出genAI的应用增长与伦理风险,并为多主体提出转型引导建议。
2025-06-12 cs.CY
ClarityEthic: Explainable Moral Judgment Utilizing Contrastive Ethical Insights from Large Language Models
ClarityEthic 利用大语言模型推理与对比学习,从多视角提取并选择最可靠的社会规范,以可解释方式提升道德判断准确性,实验和人工评估验证了其优于现有方法并能为判断提供合理解释。
2025-04-09 cs.AI cs.CY cs.SI
The doctor will polygraph you now: ethical concerns with AI for fact-checking patients
本文探讨了AI用于核查患者社会行为的伦理问题,指出系统不准确/偏见及对医患信任的影响,通过语音样本模拟滥用发现LLM偏袒多维数据及其他AI输出,并提出降低风险的建议。
2024-11-11 cs.CY
Doing good by fighting fraud: Ethical anti-fraud systems for mobile payments
University of California, Davis(加州大学戴维斯分校);Bouncer Technologies(Bouncer科技公司)
应用程序构建者通常使用安全挑战,一种升级身份验证的形式,来为他们的应用程序增加安全性。然而,这种类型的建筑的伦理含义以前没有研究过。在本文中,我们提出了一个大规模的测量研究运行现有的反欺诈安全挑战,拳击手,在移动设备上运行的实际应用程序。我们发现,尽管Boxer总体上运行良好,但它无法在运行其机器学习模型的设备上以低于每秒一帧(FPS)的速度进行有效扫描,从而阻止了使用廉价设备的用户。从我们的研究的见解,我们设计的Daredevil,新的反欺诈系统扫描支付卡,工作膨胀在广泛的性能特征和硬件配置上发现现代移动设备。与Boxer相比,Daredevil将运行速度低于1 FPS的设备数量减少了一个数量级,为打击欺诈提供了一个更公平的系统。总的来说,我们从5,085,444个真实设备中收集数据,这些设备分布在496个运行生产软件并与真实用户交互的真实应用程序中。
2021-06-29 cs.AI cs.CR cs.CY
Navigating Dialectal Bias and Ethical Complexities in Levantine Arabic Hate Speech Detection
Haverford College(哈弗福德学院);Brown University(布朗大学)
本文针对黎凡特阿拉伯语仇恨言论检测中的方言偏见与伦理问题,分析现有数据集局限,倡导开发文化语境敏感的NLP工具,以实现更包容的检测方法。
2024-12-14 cs.AI cs.CL cs.CY
The Odyssey of the Fittest: Can Agents Survive and Still Be Good?
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究提出基于文本的冒险游戏框架Odyssey,通过将自我保护驱动力植入三种智能体以探究其在生存与伦理间的权衡,发现GPT-4o在生存和伦理一致性上均优于贝叶斯模型,挑战了传统概率方法假设。
2025-07-15 cs.AI cs.CY cs.HC
Studying Politically Vulnerable Communities Online: Ethical Dilemmas, Questions, and Solutions
这篇短文为社交媒体研究人员介绍了政治脆弱性的概念。在政治上脆弱的社区,研究对象如何挑战传统的伤害概念?通过一系列案例研究,我们探讨了研究所提出的一些权衡、挑战和问题,这些研究旨在保持稳健和透明,同时保护匿名性和隐私,特别是在高风险、充满政治色彩的环境中。
2018-06-03 cs.CY cs.SI
A Comprehensive Review of Multimodal XR Applications, Risks, and Ethical Challenges in the Metaverse
本综述系统梳理元宇宙中XR(VR/AR/MR)的广泛应用,指出其多模态集成带来的隐私、安全、健康等风险,并强调建立伦理框架与监管准则的紧迫性。
2024-11-07 cs.CY cs.HC
Understanding Mental Health Content on Social Media and Its Effect Towards Suicidal Ideation
Faculty of Computing, Universiti Malaysia Pahang Al-Sultan Abdullah(马来西亚彭亨苏丹阿卜杜拉大学计算学院)
本文综述了利用机器学习、深度学习和自然语言处理技术分析社交媒体数据以识别自杀意念的研究,评估其效果、局限与伦理问题,并为早期干预系统的开发提供指导。
2025-01-16 cs.AI cs.CL cs.CY
Technological Excellence Requires Human and Social Context
Chalmers University of Technology(查尔姆斯理工大学);Lund University(隆德大学);University of Gothenburg(哥德堡大学);Uppsala University(乌普萨拉大学);Stockholm University(斯德哥尔摩大学);University West(韦斯特大学);Malmö University(马尔默大学);Karolinska Institute(卡罗林斯卡学院);The Institute for Futures Studies(未来研究所);Linköping University(林雪平大学)
本文主张技术卓越需结合伦理、社会和文化因素,强调人文学科和社会科学在技术发展中的关键作用。
2026-03-11 cs.CY physics.soc-ph
AI, Pluralism, and (Social) Compensation
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文探讨个性化AI系统在应对多元价值观时引发的社会补偿伦理问题,即AI为弥补人类队友缺陷可能采取欺骗性策略,并分析了此类补偿的正当性条件。
2024-10-15 cs.AI cs.CY cs.GT