Looking at Creative ML Blindspots with a Sociological Lens
来自创造性ML/AI社区和文化社会学的研究人员如何进行富有成效的合作?来自这两个领域的研究人员如何(不同地)思考创造力和创造性工作的产生?虽然ML社区认为创造力是技术专长和敏锐度的问题,但社会科学家强调了嵌入性在文化生产中的作用。这一观点旨在弥合这两个学科,并提出了一个概念和方法的合作工具包。我们对这两个领域的最新研究进行了系统的回顾,并提供了三个视角来构建文化生产的跨学科研究:人,过程和产品。因此,我们提供必要的基础工作,以支持多学科研究人员在合作中克服概念和方法上的障碍。我们的研究将引起ML研究人员和社会学家的兴趣,他们对创造力感兴趣,旨在通过弥合这两个领域来进行创新研究。
2022-05-27 cs.CY
What is the Point of Fairness? Disability, AI and The Complexity of Justice
University of Washington(华盛顿大学);Human Centered Design & Engineering(人机交互设计与工程系)
围绕人工智能和残疾问题进行对话的工作至关重要,也很有价值,特别是在通过公平的视角进行的时候。然而,与此同时,仅通过单一的“公平”概念来分析人工智能对残疾人的伦理影响,可能会加强现有的权力动态,无论是通过加强现有医疗守门人的地位,还是通过推广有利于残疾人的工具和技术,同时以多种方式伤害那些被视为离群者的人。在本文中,我们提出了两个案例研究,从计算机视觉-人工智能的一个子学科,专注于训练算法,可以“看”-的技术puisons旨在帮助残疾人,但由于未能考虑其设计中的结构性不公正,可能会导致伤害没有解决的“公平”的道德框架。借助残疾研究和关键数据科学,我们呼吁研究人工智能伦理和残疾的研究人员超越简单的公平概念,走向正义的概念。
2019-08-09 cs.AI cs.CY
Transfeminist AI Governance
本研究从跨性别女性主义视角出发,结合批判性自反性方法重审AI治理实证研究,指出现有体系偏向产业、存在权力失衡等局限,提出以跨性别女性主义伦理重构AI治理以推进公平。
2025-03-19 cs.CY
The Concept of Appropriation as a Heuristic for Conceptualising the Relationship between Technology, People and Organisations
本次会议的既定目标是讨论企业和其他组织中IS的持续发展。本文试图通过从认识论、文化和语言学的不同角度探讨挪用的概念,使我们能够探索挪用的“黑箱”,并对这个术语有一个更全面的理解。在概念层面上,它将研究一些不同的方式,人们试图解释技术的客观和具体特征与技术部署的人和组织的主观和变化性质之间的关系。在文化和语言层面上,本文将研究这一概念,因为它是在法语文学,在那里长期有着悠久而丰富的历史,和英语文学的挪用被视为一个更专业的术语。本文最后将对这场争论的持续性质、阅读所熟悉的文学之外的作品的价值以及探索不同历史(和语言)观点所带来的回报进行一些观察。
2008-04-17 cs.CY cs.HC
The Forgotten Margins of AI Ethics
最近的人工智能伦理文献如何在持续的社会和结构性权力不对称的背景下解决公平和正义等主题?我们追溯历史根源和当前的里程碑式的工作,一直在塑造该领域,并将这些作品分为三大类:(i)那些扎根于西方规范哲学,(ii)数学和统计方法,以及(iii)那些新兴的关键数据/算法/信息研究。我们还调查了这一领域,并通过研究属于AI伦理广泛保护伞下的快速增长的文献来探索新兴趋势。为此,我们阅读并注释了过去四年在两个主要会议上发表的同行评审论文:FAccT和AIES。我们根据三个主要方面开发的注释方案来组织文献:论文是否涉及具体的应用程序,用例和/或人们的生活经验;在多大程度上它涉及受伤害,受威胁或其他边缘化的群体;如果是这样,它是否明确命名这些群体。我们注意到,尽管大多数FAccT和AIES论文的目标往往值得称赞,但他们对人工智能对传统边缘化群体的负面影响的考虑仍然很肤浅。总之,我们的概念分析和注释论文的数据表明,该领域将受益于越来越多地关注基于具体用例,人们的经验和应用程序的伦理分析,以及对结构和历史权力不对称敏感的方法。
2022-05-09 cs.CY
Factors of people-centric security climate: conceptual model and exploratory study in Vietnam
人们越来越注重采用有说服力的方法来建立以人为本的安全环境,让员工意识到安全的优先性,并主动采取有意识的安全行为。员工可以在观察构成工作场所安全氛围的安全特征并与之互动时评估安全的优先级。我们研究了根本性的挑战,即不是每个员工都能识别这些功能。在这个多阶段的研究中,我们采用了符号互动的理论视角,提出了一个概念模型,解释了组织的社交网络和信息安全气候的形成之间的关系。然后,在越南进行了描述性的案例研究,以完善所提出的模型。研究结果验证和扩展的信息安全气候的维度,以及确定相关组织的社交网络(即信息,影响和权力),导致其形成。
2016-05-28 cs.CR cs.CY
German AI Start-Ups and AI Ethics: Using A Social Practice Lens for Assessing and Implementing Socio-Technical Innovation
在当前的人工智能伦理话语中,关于理解人工智能从业者如何理解伦理和社会组织以实现伦理问题的实证研究存在差距,特别是在人工智能初创企业的背景下。这种差距加剧了学术研究、创新和应用之间脱节的风险。随着识别和减轻人工智能系统潜在危害的压力越来越大,迫切需要评估和实施社会技术创新,以实现公平、问责和透明度,这种风险变得越来越严重。在社会实践理论的基础上,我们通过一个框架来解决这一需求,该框架允许人工智能研究人员,从业者和监管机构系统地分析现有的文化理解,历史和道德人工智能的社会实践,以确定有效实施社会技术创新的适当策略。我们的贡献有三个方面:1)我们引入了一种基于实践的方法来理解道德AI; 2)我们提出了我们对德国AI初创企业道德操作化研究的实证结果,以强调必须在特定的文化和历史背景下理解AI道德和社会实践; 3)根据我们的实证研究结果,我们建议道德人工智能实践可以分解为原则,需求,叙述,物化,和文化谱系,以形成一个有用的背景,考虑社会技术创新。
2022-06-20 cs.CY
AI and Accessibility: A Discussion of Ethical Considerations
Microsoft Research(微软研究院)
根据世界卫生组织的数据,全世界有超过10亿人患有残疾。残疾研究领域通过社会视角界定残疾;人们残疾的程度是社会造成的无障碍。人工智能技术提供了消除许多无障碍的可能性;例如,计算机视觉可以帮助盲人更好地感知视觉世界,语音识别和翻译技术可以为听力困难的人提供实时的字幕,新的机器人系统可以增强行动不便的人的能力。考虑残疾用户的需求可以帮助技术人员识别高影响力的挑战,其解决方案可以为所有用户提升人工智能的状态;但是,必须考虑包容性,偏见,隐私,错误,期望设定,模拟数据和社会可接受性等伦理挑战。
2020-06-03 cs.AI cs.CY cs.HC
Three Lenses on the AI Revolution: Risk, Transformation, Continuity
Ontariotechu(安大略技术大学)
本文从风险、变革与连续性三个视角探讨AI革命,指出其兼具进化与革命特性,需通过治理与责任机制确保安全与公平。
2025-12-13 cs.AI cs.CY
Blaming Humans and Machines: What Shapes People's Reactions to Algorithmic Harm
KAIST(韩国科学技术院);IBS(基础科学研究院);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);Max Planck Institute for Research on Collective Goods(马克斯·普朗克集体物品研究所)
本研究通过三项调查(N=1,153),探讨了可解释性、公平性等因素如何影响人们对AI系统、开发者及用户的责备归因,发现对机器的责备主要取决于人们是否认为这是对算法危害的合适回应。
2023-04-05 cs.AI cs.CY cs.HC
Mining and discovering biographical information in Difangzhi with a language-model-based approach
Harvard University(哈佛大学);National Chengchi University(台湾政治大学);Academia Sinica(中央研究院);Peking University(北京大学)
本文介绍了通过对历史方志《地方志》的文本挖掘,扩充《中国人物志数据库》内容的结果。该数据库的目标是了解人们是如何通过亲属关系、社会关系以及他们服务的地方和办公室联系在一起的。方志是涵盖宋代至清代的名称和官职的最重要的集合。虽然我们从地方官员开始,但我们最终将包括地方考试候选人的名单,在政府任职的地方人士,以及有传记的地方名人。我们收集的数据越多,就会出现更多的联系。做系统的文本挖掘工作的价值在于,我们可以识别出相关的联系,这些联系要么是直接提供信息的,要么是在没有深入的历史研究的情况下变得有用的。中央研究院正在开发一个明清两代中央政府官员姓名数据库。
2015-04-08 cs.CL cs.CY cs.DL
Privacy Concerns and ChatGPT: Exploring Online Discourse through the Lens of Information Practice on Reddit
Rutgers University(罗格斯大学)
本研究通过分析Reddit上的在线讨论,探讨用户如何集体协商和回应ChatGPT的隐私问题,揭示风险信号、规范设定和妥协等主要话语,以及集体问题解决和隐私保护替代方案的适应性实践。
2026-03-09 cs.CY cs.SI
Surfacing and Applying Meaning: Supporting Hermeneutical Autonomy for LGBTQ+ People in Taiwan
National Taiwan University(国立台湾大学);National Yang Ming Chiao Tung University(国立阳明交通大学);Google Research(谷歌研究)
研究探讨技术条件如何影响LGBTQ+群体的身份探索、叙事寻求及社区韧性,设计并评估了基于检索增强的LLM聊天机器人,通过反思、验证、讨论和同理心模式促进诠释自主性。
2026-03-23 cs.CY cs.HC
Explanation Strategies as an Empirical-Analytical Lens for Socio-Technical Contextualization of Machine Learning Interpretability
University of Twente(特文特大学);Freie Universität Berlin(柏林自由大学)
在一个研究项目中,我们开发了一个机器学习(ML)驱动的可视化系统,为非ML专家,我们反映在ML,计算机支持的协同工作和人机交互的可解释性研究。我们发现,虽然有多种技术方法,但这些方法通常集中在ML专家身上,并在非情境化的实证研究中进行评估。我们假设参与式设计研究可以支持我们项目中利益相关者的情境意义的理解,但是,发现关于ML可解释性的指导并不详尽。基于技术哲学,我们制定了解释策略,作为一个分析的镜头,说明技术解释如何调解有关人们的解释的上下文偏好。在本文中,我们贡献了一份报告,我们的概念证明使用解释策略来分析与非ML专家的协同设计研讨会,参与式设计研究的方法学意义,非ML专家解释的设计意义,并建议进一步调查ML可解释性空间中的技术中介理论。
2021-09-24 cs.AI cs.CY cs.HC
Social Biases through the Text-to-Image Generation Lens
Microsoft(微软);Microsoft Research(微软研究院)
本文从职业、人格特质和日常情境等维度,系统评估了DALLE-v2和Stable Diffusion在性别、年龄、种族和地理位置上的社会偏见,发现中性提示词存在严重职业排斥,并分析了提示词明确化和地理位置对生成结果的影响。
2023-03-30 cs.AI cs.CL cs.CV
Machine Learning Advances aiding Recognition and Classification of Indian Monuments and Landmarks
Cognitive Applications Research Lab(认知应用研究实验室);SRM Institute of Science and Technology(SRM科学技术学院);Bharati Vidyapeeth’s College of Engineering(Bharati Vidyapeeth工程学院)
印度旅游业在该国经济中发挥着重要作用,2018年估计占GDP的9.2%。该行业的年增长率为6.2%,在阿拉伯联合酋长国等中东国家,该行业具有成为经济主要驱动力的巨大潜力。全国各地展示的历史和文化多样性对世界各地的人们来说是一个独特的景观,因此每年吸引数千万游客。传统上,研究这些文物古迹的导游或学术专业人员负责向游客提供有关其建筑和历史意义的信息。然而,不幸的是,这个系统有几个警告,当考虑在大规模上,如不提供足够的训练有素的人,缺乏准确的信息,未能传达丰富的细节在一个有吸引力的格式等最近,机器学习方法围绕使用的纪念碑图片已被证明是有用的遗产景点的初步分析。本文作为在这一方向进行的研究工作的调查,最终将提供见解,建立一个自动化的决策系统,可用于使旅游在印度的经验更加现代化的游客。
2021-07-29 cs.AI cs.CV cs.CY