Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
School of Computing and Informatics（计算与信息学学院）；University of Louisiana at Lafayette（路易斯安那州立大学拉法叶分校）
本研究通过主题建模和情感分析，探讨心理健康应用用户评论中的伦理问题，揭示现有伦理原则的不足及新兴伦理挑战。
2026-02-04 cs.CL cs.CY cs.HC
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题，本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程，借鉴多方框架制定学期计划，旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Contextual Consent: Ethical Mining of Social Media for Health Research
社交媒体是数据采掘和以用户为中心的研究的一个丰富的洞察力来源，但在研究这些数据时，如果没有创建者的明确知识，就会出现同意的问题。从Facebook和Twitter等在线服务的用户那里挖掘社交数据的案例研究变得越来越普遍。这导致人们呼吁公开讨论研究人员如何最好地利用这些巨大的资源，在尊重基本伦理原则的同时做出创新性的发现。在这份立场文件中，我们强调了这一主题的一些关键考虑因素，并认为知情同意的条件往往得不到满足，使用一些人认为可以自由访问和分析的社交媒体数据可能会导致不良后果，特别是在健康研究和其他敏感主题领域。我们认为，成功利用在线个人数据，特别是用于健康和其他敏感研究，需要新的和可用的方法来获得用户的同意。
2017-01-26 cs.CY cs.HC cs.SI
Towards Business Partnership Recommendation Using User Opinion on Facebook
确定战略商业伙伴关系可能为企业提供竞争优势;然而，由于商业环境中存在的动态和不确定性，这项任务可能具有挑战性。为了帮助企业完成这项任务，这项研究提出了一个企业之间的相似性模型，该模型考虑了用户对企业在社交媒体上共享的内容的意见。因此，该模型捕捉了虚拟世界中用户生成的企业之间的重要虚拟关系。此外，我们提出了一个算法来检测所考虑的模型中的商业社区。我们还提出了一种算法，以确定可能的业务离群值在检测到的社区，这可能是一种自动的方式来识别不明显的关系，可能值得特别注意的企业主。通过探索Facebook上大约2.8亿用户的反应，我们表明，我们的结果可能有利于开发，例如，一个新的战略商业伙伴关系推荐服务。
2019-06-05 cs.HC cs.SI
Exploring the Use of ChatGPT by Computer Science Students in Software Development: Applications, Ethical Considerations, and Insights for Engineering Education
本研究通过半结构化访谈定性调研英国高校计算机专业学生在软件开发中使用ChatGPT的策略与伦理认知，揭示学生学习模式的转变、使用行为特征与现存问题，为工程教育中规范AI工具使用提供启示。
2025-11-17 cs.HC cs.SE
Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures
Facebook或Instagram等社交网站的隐私与人们的自我披露决定以及他们预见与大量不同受众分享个人信息的后果的能力密切相关。尽管如此，在线隐私决策往往基于虚假的风险判断，使人们容易向不受信任的接收者透露敏感数据，并成为社会工程攻击的受害者。人工智能（AI）与说服机制（如轻推）相结合，是促进SNS用户预防性隐私行为的一种有前途的方法。然而，结合行为干预与高水平的个性化可以是一个潜在的威胁，人们的机构和自主权，即使应用到社会工程对策的设计。本文详细阐述了推动机制可能对基于人工智能的对策的发展带来的伦理挑战，特别是对解决SNS中不安全的自我披露做法的挑战。总体而言，它赞同制定个性化的风险意识解决方案，作为i）一种道德方法来抵制社会工程，以及ii）作为促进反思隐私决策的有效手段。
2020-09-27 cs.CY cs.HC cs.SI
Level Up or Game Over: Exploring How Dark Patterns Shape Mobile Games
本文分析1496款移动游戏的用户数据，量化暗黑模式在“暗黑”与“健康”游戏中的分布，揭示其普遍存在并呼吁社区协作与伦理设计。
2024-12-06 cs.HC
PerspectiveCoach: Exploring LLMs for Developer Reflection
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Utrecht University（乌得勒支大学）
PerspectiveCoach通过LLM帮助开发者反思软件设计对边缘化社区的影响，提升伦理意识和用户视角理解。
2026-01-05 cs.HC cs.SE
AI For Privacy in Smart Homes: Exploring How Leveraging AI-Powered Smart Devices Enhances Privacy Protection
本研究通过深度访谈和Grounded Theory分析，探讨了AI驱动的智能家居设备如何通过个性化支持增强隐私保护，揭示了用户期望与伦理安全挑战，并为设计师和开发者提供了指导建议。
2025-09-17 cs.CY cs.HC
Reimagining AI: Exploring Speculative Design Workshops for Supporting BIPOC Youth Critical AI Literacies
针对BIPOC青少年AI素养不足且在AI发展中被边缘化的问题，本研究依托情境知识与思辨虚构理论开展共同思辨设计工作坊，通过案例分析揭示青少年对AI伦理的认知，验证思辨方法对其参与社会技术议题、构想公正AI未来的支持作用。
2024-05-07 cs.HC
Beyond the Safeguards: Exploring the Security Risks of ChatGPT
Czech Institute of Informatics, Robotics, and Cybernetics（捷克信息学、机器人学与控制论研究所）；Czech Technical University in Prague（布拉格捷克理工大学）
本文系统梳理ChatGPT等大型语言模型的安全风险，通过实证研究检验内容过滤器有效性并探索绕过方法，为缓解风险提供策略参考。
2023-05-13 cs.AI cs.CL cs.CR
Exploring AI Text Generation, Retrieval-Augmented Generation, and Detection Technologies: a Comprehensive Overview
Kent State University（肯特州立大学）；Rutgers University（罗格斯大学）
本文综述AI文本生成器（AITGs）的演进、能力及伦理影响，介绍检索增强生成（RAG）技术以提升生成准确性，回顾检测工具并探讨未来方向，助力负责任地使用AI内容创作。
2024-12-05 cs.AI cs.HC cs.LG
Privacy Cards for Surfacing Mental Models and Exploring Privacy Concerns: A Case Study of Voice-First Ambient Interfaces with Older Adults
Olin College（奥林学院）；University of Toronto（多伦多大学）；York University（约克大学）；Cornell Tech（康奈尔科技）
本研究通过隐私卡揭示老年人对语音主导环境接口的心理模型和隐私关切，发现其在知情同意和数据访问方面的不足。
2026-08-03 cs.CY cs.HC
Exploring AI-powered Digital Innovations from A Transnational Governance Perspective: Implications for Market Acceptance and Digital Accountability Accountability
本研究基于跨国治理视角，结合TAM与ANT理论，探讨了AI创新的采用动因与问责机制，提出内部资源重组与行动者网络管理两项方案，以提升组织的AI问责制与全球市场接受度。
2025-04-28 cs.CY cs.HC econ.GN
AI Ethics and Social Norms: Exploring ChatGPT's Capabilities From What to How
University of Toronto（多伦多大学）；Drexel University（德雷塞尔大学）；University of Siegen（锡根大学）；Westphal College of Media Arts and Design（媒体艺术与设计西弗尔学院）；Digital Media Department（数字媒体系）；Information Systems（信息系统）
本研究通过混合方法调查ChatGPT在实证情境下是否遵循伦理与社会规范，揭示偏见、可信度等六大AI伦理问题，并指出无监督数据收集中的透明度和偏见障碍。
2025-04-25 cs.AI cs.CY cs.HC
Anger Speaks Louder? Exploring the Effects of AI Nonverbal Emotional Cues on Human Decision Certainty in Moral Dilemmas
本研究探讨了对话代理通过动画聊天气泡表达的非言语情感线索对道德困境中人类决策确定性的影响，发现愤怒表达能显著引发决策逆转，且性别与情感线索交互影响对AI的感知。
2024-12-25 cs.HC
Driving with Guidance: Exploring the Trade-Off Between GPS Utility and Privacy Concerns Among Drivers
本研究通过问卷与访谈发现驾驶员为GPS效用常忽视隐私风险，并基于此提出自适应界面、个性化配置及区块链等兼顾隐私与效用的设计方向。
2023-09-22 cs.HC
An Exploration of User and Bystander Attitudes About Mobile Live-Streaming Video
多亏了Periscope和Facebook Live等移动应用程序，直播视频又有了一个时刻。然而，目前尚不清楚智能手机的普及在多大程度上影响了这项技术在日常社交场合的接受程度，以及移动环境或可供性将如何影响社会规范的变化和有关隐私、监控和知识产权的政策辩论。这项民族志风格的研究探讨了在两个典型的户外社交活动：运动尾随和屋顶派对中，“美国中产阶级”参与者对移动直播视频的熟悉程度和态度以及相关的法律和道德问题。对110名旁观者使用智能手机的现场观察，包括对20名旁观者的采访，显示许多人并不完全知道他们的图像或讲话何时在休闲环境中直播，并希望获得更强的通知和同意这种广播的能力。
2019-02-18 cs.HC
Mind Games! Exploring the Impact of Dark Patterns in Mixed Reality Scenarios
本文通过74人被试内视频实验研究MR中四类黑暗模式，发现其均显著降低舒适度与使用意愿，个人或金钱操纵危害最大，并呼吁重构分类与伦理防范工具。
2025-06-07 cs.HC
The Real Her? Exploring Whether Young Adults Accept Human-AI Love
本研究通过14次半结构化访谈，探讨了年轻中国女性对与AI伴侣建立浪漫亲密关系的接受度，揭示了用户动机、AI角色定位及互动优势与局限，并呼吁建立伦理与监管框架以应对隐私和过度沉迷问题。
2025-03-05 cs.HC
"It Felt a Bit Eerie": Exploring Humanlike Interactions During Collaborative Writing with an Artificial Agent
University of British Columbia（不列颠哥伦比亚大学）；Aalborg University（奥尔堡大学）
通过构建三种不同类人程度的AI辅助编辑器并开展用户研究，探讨协作的时间与视觉维度如何影响写作体验及人机社会连接。
2026-05-23 cs.HC
Exploring the Role of Social Support when Integrating Generative AI into Small Business Workflows
本文通过采访11位企业家和支持人员，探讨了小型企业主如何利用线下网络的社会支持将生成式AI整合到工作流程中，并提出了重新设计AI平台以更好支持企业家的建议。
2024-07-31 cs.HC
Do Expressions Change Decisions? Exploring the Impact of AI's Explanation Tone on Decision-Making
本研究通过用户实验探究AI解释语气（正式或幽默）对决策的影响，发现语气在第二意见场景中显著影响决策，且年长用户更易受影响，为解释表达设计提供关键见解。
2025-02-27 cs.HC
CogErgLLM: Exploring Large Language Model Systems Design Perspective Using Cognitive Ergonomics
Independent University（独立大学）；Shahjalal University of Science and Technology（沙赫贾拉勒科技大学）
本文提出将认知工效学融入 LLM 系统设计，构建综合框架与伦理开发指南，以减少偏见、改善体验并提升人机交互的安全性和可靠性。
2024-11-12 cs.CL cs.CY cs.HC
From Awareness to Action: Exploring End-User Empowerment Interventions for Dark Patterns in UX
本研究提出终端用户赋能干预方法，通过协同设计工作坊和技术探针研究，帮助用户识别暗黑模式并采取行动，以补充设计师和政策制定者视角的应对策略。
2024-02-03 cs.HC
Exploring the Power of Creative AI Tools and Game-Based Methodologies for Interactive Web-Based Programming
本研究探讨创意AI工具与游戏化方法在交互式网络编程中的潜力，分析其优劣势、实际应用及整合中的挑战与伦理问题，为网络编程的未来发展提供洞见。
2023-08-18 cs.AI cs.HC
Exploring Author Gender in Book Rating and Recommendation
协同过滤算法在评级和消费数据中发现有用的模式，并利用这些模式来引导用户选择好的项目。评级数据集中的许多模式反映了数据中不同用户和项目之间的重要现实差异;其他模式可能与社会或道德原因无关或可能不受欢迎，特别是如果它们反映了不受欢迎的歧视，例如出版或购买时对女性或少数民族作者的歧视。在这项工作中，我们研究了协同过滤推荐算法的响应，他们的输入数据的分布方面的社会关注的一个方面，即内容创建者的性别。使用公开的图书评级数据，我们测量了用户评级配置文件和推荐列表中图书作者的性别分布。我们发现，常见的协同过滤算法不同的性别分布的推荐列表，并在输出分布的关系，用户简档分布。
2020-07-25 cs.HC cs.IR
Navigating Surveillance Capitalism: A Critical Analysis through philosophical perspectives in Computer Ethics
本文从功利主义与康德式义务论两种计算机伦理视角批判性分析监控资本主义，分别阐释其对大众的正向价值与对个体自由尊严的影响，关联数据权限让渡与操纵影响问题。
2023-05-05 cs.CE cs.CY cs.HC
Designing Value-Centered Consent Interfaces: A Mixed-Methods Approach to Support Patient Values in Data-Sharing Decisions
本文面向数字健康数据捐赠，采用五阶段混合方法设计并评估 Value-Centered Consent Interface，以反思机制帮助患者作出与其价值一致的数据共享决策。
2025-05-13 cs.HC
Friend or Foe? Exploring the Implications of Large Language Models on the Science System
HIIG（HIIG（德国柏林高等研究所））
本研究通过72位专家参与的Delphi研究，探究大型语言模型对科学系统的多方面影响，指出其变革潜力的同时也提出需应对相关风险，为生成式AI在科学领域的讨论提供参考。
2023-06-16 cs.AI cs.CY cs.HC
Large Language Models Can Infer Psychological Dispositions of Social Media Users
Columbia University（哥伦比亚大学）
研究测试GPT-3.5和GPT-4在零样本场景下从Facebook状态推断大五人格特质，发现其准确率与监督学习模型相当，但存在年龄和性别偏差，并引发伦理关注。
2024-06-05 cs.AI cs.CL cs.CY
Exploring Gender Biases in Language Patterns of Human-Conversational Agent Conversations
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究探讨对话智能体（CAs）的性别设计如何触发并强化用户的性别偏见，分析人机交互的语言模式，为促进性别平等的伦理设计提供指导。
2024-01-05 cs.CL cs.CY cs.HC
Beyond Voice Assistants: Exploring Advantages and Risks of an In-Car Social Robot in Real Driving Scenarios
University of Edinburgh（爱丁堡大学）；Nagoya University（名古屋大学）；University of Cambridge（剑桥大学）；Osaka University（大阪大学）；ATR
本研究通过用户调查与真实道路实验，评估车内社交机器人助手相对传统语音助手在用户体验、人格感知及伦理风险方面的优势与挑战，并提出未来发展建议。
2024-02-20 cs.CY cs.HC cs.RO
Platform architecture determines whether recommendation algorithms can shape information quality on social media
George Washington University（乔治华盛顿大学）；University of Maryland, College Park（马里兰大学帕克分校）
本文研究了社交媒体平台架构和推荐算法如何影响信息的传播和质量，发现平台架构比算法调整更有效，特别是在信息质量和流行度之间关系不明确的平台上，推荐算法的影响更显著。
2026-05-19 cs.HC cs.SI
Exploring User Perspectives on ChatGPT: Applications, Perceptions, and Implications for AI-Integrated Education
本研究通过分析四个社交媒体平台，探讨了ChatGPT早期采用者在教育领域的应用与看法，揭示了其提升学习动机与引发过度依赖担忧的二元态度，为AI融合教育提供众包见解。
2023-11-25 cs.CY cs.HC
AI and Identity
University of North Carolina Charlotte（北卡罗来纳大学夏洛特分校）
本文针对AI领域缺乏多样性、AI鸿沟扩大的问题，从身份认同视角定义AI身份的多维度内涵，提出涵盖创造者、创造物、影响后果三维度多样性的框架，以推动构建更包容负责任的AI生态。
2024-04-10 cs.AI cs.CY cs.HC
"It Listens Better Than My Therapist": Exploring Social Media Discourse on LLMs as Mental Health Tool
LMU Munich（慕尼黑大学）；University of Maryland, College Park（马里兰大学帕克分校）
本研究通过分析TikTok上1万多条提及LLMs作为心理健康工具的视频评论，结合自研分层编码方案和监督分类模型，探索用户使用体验，发现近20%用户有个人使用且态度积极，但隐私等担忧突出，强调需临床伦理审查。
2025-04-14 cs.CL cs.CY cs.HC
