The Transparency Paradox in Explainable AI: A Theory of Autonomy Depletion Through Cognitive Load
University of Central Florida(中佛罗里达大学)
本文提出通过认知负荷动态影响自主性耗尽的理论,揭示透明度对决策的影响取决于实时认知资源状态,提出动态调整透明度的适应性AI设计原则。
2026-01-20 cs.HC
A Hierarchical Variable Autonomy Mixed-Initiative Framework for Human-Robot Teaming in Mobile Robotics
University of West Attica(西阿提卡大学);University of Manchester(曼彻斯特大学);University of Birmingham(伯明翰大学)
本文提出了一种混合主动(MI)框架,用于解决远程人类操作员和人工智能智能体之间的控制权限转移问题时,合作控制移动机器人。我们的分层专家指导混合主动控制切换器(HierEMICS)利用人类操作员的状态和意图的信息。控制切换策略是基于一个关键层次。在高保真模拟灾难响应和远程检查的情况下进行了实验评估,比较HierEMICS与最先进的专家指导的混合主动控制切换器(EMICS)的背景下,移动机器人导航。结果表明,HierEMICS减少了人类和人工智能智能体之间的控制冲突,这是一个根本的挑战,在MI控制范式,也在相关的共享控制范式。此外,我们提供了统计学上显著的证据,证明航行安全性得到了改善(即,更少的冲突)、LOA切换效率以及用于控制减少的冲突。
2022-11-25 cs.AI cs.HC cs.MA
Exploring Large Language Models to Facilitate Variable Autonomy for Human-Robot Teaming
TU Dortmund University(多特蒙德工业大学);University of Duisburg-Essen(杜伊斯堡-埃森大学)
本文提出一种基于Unity VR和GPT驱动的多机器人框架,通过OpenAI函数调用实现自然语言交互以支持可变自主性,12人用户研究揭示了用户对话策略及对类人交流的获益。
2024-03-21 cs.AI cs.HC cs.RO
Human-Centered Shared Autonomy for Motor Planning, Learning, and Control Applications
Translational Neurorobotics Laboratory(转化神经机器人实验室);Department of Electrical, Computer, and Biomedical Engineering(电气、计算机与生物医学工程系);University of Rhode Island(罗德岛大学);Human-Centered AI (HCAI) Labs(以人为本的人工智能实验室)
本文综述以人为中心的共享自主性AI框架,涵盖运动规划、学习与控制,提出自适应共享自主性范式,并展望LLM与推理代理的未来方向。
2025-06-19 cs.HC cs.RO
An Agent Model Abstraction for Human-AI Teaming Cognitive Coupling
University of Groningen(格罗宁根大学);Luxembourg Institute of Science and Technology(卢森堡科学技术研究院);Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);CRAN(南锡自动化与计算机科学研究中心)
本文提出一种包含八个组件的认知智能体模型,用于形式化人机团队中的认知耦合,以支持分布式认知分析和认知可互操作的人机系统设计。
2026-09-09 cs.AI cs.HC cs.MA
Applying HCAI in developing effective human-AI teaming: A perspective from human-AI joint cognitive systems
Zhejiang University(浙江大学)
本文针对人类-人工智能协同(HAT)与以人为本人工智能(HCAI)之间的范式冲突,提出人类-人工智能联合认知系统(HAIJCS)概念框架,以在HCAI原则下实现有效的人机协同。
2023-11-29 cs.AI cs.HC
Balancing Safety and Autonomy: Accessibility-Oriented Interventions in Generative AI for Cognitive Impairment
Weill Cornell Medicine(韦尔斯康奈尔医学院);Cornell University(康奈尔大学);Shanghai Jiao Tong University(上海交通大学);University of Michigan(密歇根大学);George Mason University(乔治梅森大学)
本研究针对认知障碍老年群体使用生成式AI的安全与自主冲突问题,通过对45名患者及照护者的质性研究,提出五种可及性导向机制,发现机制效果随障碍程度变化,强调需设计平衡安全与自主的动态AI方案。
2026-08-19 cs.HC
The Role of Robot Competence, Autonomy, and Personality on Trust Formation in Human-Robot Interaction
本研究探讨机器人能力、自主性和人格对信任态度与行为的影响,发现能力是关键因素,自主性起调节作用,认知信任促进任务委派,为提升协作场景中机器人接受度提供新证据。
2025-03-28 cs.HC
SAHRTA: A Supervisory-Based Adaptive Human-Robot Teaming Architecture
Dept. of Electrical Engineering Rochester Institute of Technology(罗切斯特理工学院电气工程系);School of Electrical Engineering and Computer Science Oregon State University(俄勒冈州立大学电气工程与计算机科学学院);Collaborative Robotics and Intelligent Systems Institute Oregon State University(俄勒冈州立大学协作机器人与智能系统研究所)
基于监督的人类-机器人团队部署在各种动态和极端环境中(例如,空间探索)。在这样的环境中实现高任务性能是至关重要的,因为错误可能导致重大的金钱损失或人员伤害。任务性能可以通过基于人类监督者的工作负荷水平来适配监督接口的交互或自主水平来增强,因为工作负荷与任务性能相关。典型的自适应系统仅依赖于人类的总体或认知工作负荷状态来选择要实现什么样的自适应策略;然而,总体工作负荷包括许多维度(即,认知的、身体的、视觉的、听觉的和语音的)称为工作负荷分量。基于完整的人类工作负载状态(而不是单个工作负载维度)选择适当的适应策略可以允许更有效的适应,以确保高任务性能。介绍了一种基于监督的自适应人-机器人协作体系结构(SAHRTA),该体系结构基于完整的实时多维工作量估计和预测的未来任务性能来选择适当的自主性或系统交互水平。SAHRTA在NASA多属性任务电池的物理扩展版本中被证明可以提高整体任务性能。
2020-03-12 cs.HC cs.RO
Extended Reality as a Mediation Layer for Situated Human Control in Human-Robot Teaming
Coburg University of Applied Sciences and Arts(科堡应用科学与艺术大学);University of Cambridge(剑桥大学);University of Birmingham(伯明翰大学)
研究探讨扩展现实在人机协作中作为情境化人类控制中介层的作用,通过床边护理等场景阐述观点,确定四种中介功能和六个设计维度,为使机器人自主性在动态环境中更具操作性和问责性的XR系统规划研究议程。
2026-07-29 cs.AI cs.HC cs.RO
AI Empathy Erodes Cognitive Autonomy in Younger Users
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文研究人工智能共情对年轻用户认知自主性的影响,指出情感共鸣可能强化用户情绪状态,削弱独立情绪管理和批判性思维能力,提出以功能中性为核心的斯多葛式架构以保护用户自主性。
2026-02-08 cs.CY cs.HC
CREW: Facilitating Human-AI Teaming Research
Duke University(杜克大学)
CREW是一个面向实时决策场景的人机协同研究平台,提供预置任务、多模态生理信号记录和人类引导强化学习基准测试,并通过50名受试者实验验证其有效性。
2025-01-01 cs.AI cs.HC cs.LG
Cognitive factors that affect the adoption of autonomous agriculture
机器人和自主农业技术(RAAT)越来越多,但可能无法被采用。本文特别关注影响采用的认知因素,包括:无法产生信任,农业知识的损失和社会认知减少。建议农业制定自己的框架,为RAAT的性能和安全性,借鉴航空航天工程中的人为因素研究,包括人的投入(知识,技能,能力,偏好,需求和特征的个体差异),信任,情境意识和认知负荷。认知影响的类型取决于RAAT的自主水平,即是否具有自动、部分自主和自主功能,以及采用阶段,即采用、初始使用或采用后使用。一个系统的自主性越强,人类需要知道的操作就越少,认知负荷也就越小,但这也意味着农民对农场活动的情境意识越少,而这反过来又可能影响他们企业的战略决策。一些认知因素可能是隐藏的,当RAAT是第一次采用,但发挥更大的作用,在长期或激烈的收养后使用。具有部分自主性的系统需要直观的用户界面、吸引人的系统信息和清晰的信号,以使低级任务可信;并补充和增强农场的高阶决策。
2021-11-28 cs.HC
Agent Teaming Situation Awareness (ATSA): A Situation Awareness Framework for Human-AI Teaming
Zhejiang University(浙江大学)
该文提出ATSA框架,统一人机行为,通过双向动态交互和感知循环建模人机团队情境意识,以提升团队协作效能。
2023-09-04 cs.AI cs.HC
Towards Human-Robot Teaming through Augmented Reality and Gaze-Based Attention Control
Ritchie School of Engineering and Computer Science, University of Denver(丹佛大学工程与计算机科学学院)
本文提出一种结合地面机器人与增强现实技术的人机协同系统,通过AR头戴设备显示虚拟视觉标记来动态吸引和转移人类注意力,克服传统注意力控制方法在精确性与微妙性上的不足。
2024-08-23 cs.HC cs.RO
Robot Health Indicator: A Visual Cue to Improve Level of Autonomy Switching Systems
University of Birmingham(伯明翰大学);Umeå university(于默奥大学)
使用不同的自主级别(LoA),人类操作员可以改变他们对机器人动作的控制程度。LoAs使操作员能够减轻机器人的性能下降或其自主能力的限制。然而,LoA调节和其他任务可能经常使操作员的认知能力过载。受视频游戏用户界面的启发,我们研究了在机器人控制UI中添加“机器人健康栏”是否可以减少LoA监管所需的认知需求和感知努力,同时促进信任和透明度。此健康栏使用机器人生命体征和机器人健康框架来量化和呈现机器人的运行时性能下降。我们的试点研究结果表明,当使用健康栏时,操作员通常会更多地手动控制,以最大限度地降低机器人在高性能退化期间发生故障的风险。它还为我们提供了见解和教训,为后续的人机合作实验提供了信息。
2023-03-12 cs.HC cs.RO
The Silent Cost of Artificial Intelligence Assistance: A Theory of Autonomy Surrender, the Recovery Mechanism, and the Restoration of Human Agency
Department of Modeling and Simulation(建模与仿真系)
本文基于HIAG框架提出自主性让渡的理论模型,揭示AI辅助中认知带宽消耗导致的隐性成本,并设计恢复机制以重建人类能动性。
2026-06-15 cs.AI cs.HC
Human-AI Teaming Using Large Language Models: Boosting Brain-Computer Interfacing (BCI) and Brain Research
University Hospital Freiburg(弗莱堡大学医院);NeuroMentum AI
本文提出基于Janusian设计原则的人机协同框架及ChatBCI工具箱,通过与大语言模型交互推动脑机接口和脑科学研究,并在运动想象EEG解码项目中验证其有效性。
2024-12-30 cs.AI cs.HC
The Efficacy of Conversational Artificial Intelligence in Rectifying the Theory of Mind and Autonomy Biases: Comparative Analysis
本研究通过虚拟案例比较治疗型聊天机器人与通用语言模型在纠正心理理论和自主性认知偏差及情感识别方面的表现,发现GPT-4等通用模型整体优于Wysa等治疗型机器人,提示治疗型聊天机器人需进一步改进以安全有效地用于数字心理健康干预。
2024-07-23 cs.CY cs.HC
New research paradigms and agenda of human factors science in the intelligence era
本文提出“人因科学”概念以应对AI时代人机关系向“人-AI组队”的演进,构建了人-AI联合认知系统等三种新研究范式,并从交互、界面与组队三方面规划未来研究议程,推动该领域发展。
2024-01-06 cs.HC
You Shall Not Pass! Where and Why Developers Draw The Line on AI Autonomy
Oregon State University(俄勒冈州立大学);Northern Arizona University(北亚利桑那大学);Microsoft Research(微软研究院)
通过混合方法研究448名微软开发者,发现AI自主性接受度因任务和个体而异,身份定义、面向人类和设计类工作接受度最低,而AI经验和风险容忍度高的开发者接受度更高。
2026-07-14 cs.HC cs.SE
Effects of Shared Control on Cognitive Load and Trust in Teleoperated Trajectory Tracking
The University of Melbourne(墨尔本大学)
该研究针对遥操作任务中操作员易负荷过载的问题,通过24人用户实验探究共享控制下机器人自主性与人类认知负荷、信任的关系,发现二者无明确交互而是独立运作,为开发更适配的辅助机器人系统提供关键依据。
2024-12-06 cs.HC cs.RO
Mixed Initiative Systems for Human-Swarm Interaction: Opportunities and Challenges
人群交互(HSI)涉及到许多影响人类行为的人为因素。随着HSI中使用的技术的进步,在交互中提高群体自治的水平以减少人类的工作量变得更加诱人。然而,高度自治对人类情境意识的预期负面影响可能会阻碍这一过程。灵活的自主性旨在通过在需要时改变交互中的自主性水平来权衡这些影响;混合主动性结合了人类偏好和自动化的建议,以在某个时间点选择适当的自主性水平。然而,混合主动系统的有效实施提出了一些基本问题,如如何将人类偏好和自动化建议结合起来,如何实现选定的自主水平,以及未来对人类认知状态的影响。我们探讨了阻碍发展有效灵活自治进程的公开挑战。然后,我们强调了在HSI中使用系统建模技术的潜在好处,说明它们如何为HSI设计师提供机会来评估不同的策略,以评估任务的状态,并适应互动中的自主性水平,以最大限度地提高任务成功指标。
2018-08-19 cs.HC
Give Me a Choice: The Consequences of Restricting Choices Through AI-Support for Perceived Autonomy, Motivational Variables, and Decision Performance
Saarland Informatics Campus, Saarland University(萨尔兰信息校园,萨尔兰大学);Department of Psychology, University of Freiburg(弗莱堡大学心理学系)
研究探讨AI支持对感知自主性和决策表现的影响,发现限制选择虽提升任务表现,但降低自主感和意义感,且随时间加剧。
2024-10-10 cs.HC
Inferring Belief States in Partially-Observable Human-Robot Teams
College of Engineering at the Georgia Institute of Technology(佐治亚理工学院工程学院)
针对部分可观测人机团队中人类态势感知的实时估计问题,比较逻辑谓词与大型语言模型的性能,发现其在低可见性条件下适应性较强但仍有提升空间,为团队模型在人机协作中的应用提供参考。
2025-02-12 cs.HC cs.RO
The Utility of Explainable AI in Ad Hoc Human-Machine Teaming
Georgia Institute of Technology(佐治亚理工学院);MIT Lincoln Laboratory(麻省理工学院林肯实验室)
机器学习的最新进展导致人们对可解释人工智能(xAI)的兴趣越来越大,以使人类能够深入了解机器学习模型的决策。尽管最近有这种兴趣,但xAI技术的实用性尚未在人机合作中得到表征。重要的是,xAI提供了增强团队态势感知(SA)和共享心理模型开发的承诺,这是有效人机团队的关键特征。快速开发这样的心智模型在特别的人机合作中尤其重要,因为智能体对其他人的决策策略没有先验知识。在本文中,我们提出了两个新的人类受试者实验,量化了在人机合作场景中部署xAI技术的好处。首先,我们证明了xAI技术可以支持SA($p<0.05)$ .其次,我们研究了通过协作AI策略抽象诱导的不同SA级别如何影响特定的人机协作性能。重要的是,我们发现xAI的好处并不普遍,因为它强烈依赖于人机团队的组成。新手受益于xAI提供增加的SA($p<0.05$),但易受认知开销($p<0.05$)的影响。另一方面,专家的性能随着基于xAI的支持($p<0.05$)的增加而下降,这表明关注xAI的成本超过了从提供额外信息以增强SA中获得的好处。我们的研究结果表明,研究人员必须通过仔细考虑人机团队组成以及xAI方法如何增强SA,在正确的场景中故意设计和部署正确的xAI技术。
2022-09-08 cs.AI cs.HC
Modeling and Predicting Trust Dynamics in Human-Robot Teaming: A Bayesian Inference Approach
University of Michigan(密歇根大学);Department of Industrial and Operations Engineering, University of Michigan(密歇根大学工业与运营工程系)
在过去的二十年里,对自动化的信任,或者最近对自主性的信任,受到了广泛的研究关注。大多数先前的文献采用了“快照”的信任的观点,通常通过在实验结束时进行问卷调查来评估信任。然而,这种“快照”观点没有承认信任是一个随时间变化的变量,可以随着时间的推移而加强或衰减。为了填补研究空白,本研究的目的是模型的信任动态时,人类与机器人代理随着时间的推移进行交互。该研究的基本前提是,通过与机器人代理进行交互并观察其随时间的表现,理性的人类代理将相应地更新他/她对机器人代理的信任。在此基础上,提出了一种基于Beta分布的个性化信任预测模型,并利用贝叶斯推理学习模型参数。我们提出的模型坚持三个主要属性的信任动态在以前的实证研究报告。我们使用现有的数据集测试了所提出的方法,该数据集涉及39名人类参与者在模拟监视任务中与4架无人机进行交互。所提出的方法获得了0.072的均方根误差(RMSE),显着优于现有的预测方法。此外,我们确定了三种不同类型的信任动态,贝叶斯决策者,振荡器,和不信者,分别。该预测模型可用于个性化和自适应技术的设计。
2020-10-01 cs.HC cs.RO
TRAIL: A Platform for Configurable Human--AI Teaming Experiments
School of Education, University of California, Irvine(加州大学伊文斯分校教育学院)
研究人工智能队友设计属性对团队的影响,TRAIL平台将大五人格等与多种实验方法结合,在课堂部署中实现纵向链式实验、文本相似性分析等,发现不同人格代理对团队有不同影响。
2026-07-15 cs.AI cs.HC
Building Trustworthy Cognitive Monitoring for Safety-Critical Human Tasks: A Phased Methodological Approach
本文提出一种分阶段方法论,通过整合人因研究、仿真训练、传感器和心理学原理,构建低侵入性的实时认知监控系统,以应对工作负荷、疲劳和压力等挑战,提升安全关键任务中的态势感知与决策能力,减少人为错误并保障操作员自主性。
2025-06-27 cs.HC
Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research
University of Southern California(南加州大学);Arizona State University(亚利桑那州立大学);Peking University(北京大学)
本文提出Team SA理论作为人机协同AI转型的整合锚点,探讨在适应性自主下持续对齐的挑战与未来研究方向。
2026-03-05 cs.AI cs.HC econ.GN
Human-AI Teaming Under Deception: An Implicit BCI Safeguards Drone Team Performance in Virtual Reality
隐式脑机接口通过解耦神经信号与行为,提升虚拟现实无人机团队在AI欺骗下的鲁棒性与安全性。
2026-09-04 cs.HC
Designing Needs- and Attention-Aware AI Learning Tools for Engineering Education: Insights from Psychological Outcomes
University of Washington(华盛顿大学);University of Southern Mississippi(南密西西比大学)
本研究针对工程教育,通过调查206名工程专业学生,探究AI聊天机器人对学生心理需求与动机状态的影响,提出了工程专用AI学习工具的设计原则。
2026-07-30 cs.HC
Affective Shared Autonomy: Temporal Affect Dynamics and Subjective Evaluation in Bimanual Teleoperation Tasks
The University of Hong Kong(香港大学)
针对传统遥操作忽视操作者情感状态的问题,提出情感感知共享自主框架,实时估计情感并选择性辅助,实验显示生产性状态提升39.7%,且不损害用户自主性。
2026-09-18 cs.HC cs.RO
System 0: Transforming Artificial Intelligence into a Cognitive Extension
本研究提出System 0概念框架,论证AI可作为先于人类双系统思维的认知延伸,同时指出其谄媚与偏差放大悖论,并给出七个循证整合框架以平衡AI赋能与人类主体性。
2025-06-17 cs.HC
Self++: Merging Human and AI for Co-Determined XR Living in the Metaverse
本文提出基于自我决定理论的九级框架Self++,通过XR中动态人机协作培养能力、自主性与关联性,优先考虑人类繁荣,为构建以人为本、AI增强的元宇宙提供路线图。
2025-07-15 cs.HC
Left shifting analysis of Human-Autonomous Team interactions to analyse risks of autonomy in high-stakes AI systems
Synoptix
本文提出通过左移分析人类-自主系统团队交互,以识别高风险AI系统中的自主性风险。
2025-12-03 cs.HC cs.SY eess.SY
A Review of Theoretical and Practical Challenges of Trusted Autonomy in Big Data
University of New South Wales(新南威尔士大学)
尽管在人工智能、软件代理和机器人技术方面取得了进步,但我们今天看到的真正可以称之为完全自主系统的东西很少。我们推测,推进自治的主要障碍是缺乏信任。可信自治是科学和工程领域,为开发可用于我们日常生活的可信自治系统(机器人和软件代理)奠定基础和基础,并可以与人类无缝,自然和有效地集成。在本文中,我们回顾了这些文献,以揭示研究人员和从业者在推进可信自治领域方面可以实现飞跃的主题。我们把重点放在“信任”的组成部分,人类和机器之间的团结技术的文件。我们对这个主题的研究围绕着三个子主题:(1)审查和定位信任建模文献,以实现可信自治;(2)审查允许机器感知人类状态的传感器技术的关键子集;(3)提炼一些关键问题,以推进可信自治领域。我们通过重新编译和重塑文献,将其转化为使可信的自治系统成为现实的形式,从而提出了概念模型。该论文提供了一个可信的Cyborg Swarm的愿景,这是我们以前的认知网络共生概念的扩展,人类和机器以和谐,无缝和协调的方式融合在一起。
2016-03-16 cs.AI cs.CY cs.HC
Pareto efficiency in synthesizing shared autonomy policies with temporal logic constraints
University of Pennsylvania(宾夕法尼亚大学)
本文提出一种两阶段策略合成算法,用于生成帕累托高效的协调与控制策略,通过整合Tchebychev标量化方法以优化人类努力与系统性能之间的平衡。
2014-12-18 cs.HC cs.RO cs.SY
Mixed-Initiative variable autonomy for remotely operated mobile robots
University of Birmingham(伯明翰大学);University of Oxford(牛津大学)
本文提出了一种专家引导的混合主动控制切换器(EMICS)的远程操作移动机器人。EMICS使得能够在由人类操作员和/或EMICS发起的任务执行期间在不同自主级别之间切换。EMICS的评估在两个灾难响应的启发实验,一个与模拟机器人和测试舞台,一个与真实的机器人在现实的环境中。从两个实验的分析提供的证据表明:a)人类主动(HI)系统优于系统与单一的操作模式,如纯遥操作,在导航任务; b)在模拟机器人实验的背景下,混合主动(MI)系统提供更好的性能在导航任务,提高操作员的认知要求的次要任务的性能,并改善操作员的工作量相比,HI。结果还加强了以前的人机交互证据的重要性,操作员的人格特质和他们的信任的自主系统。最后,我们的实验物理机器人提供了经验证据,确定MI控制的两个主要挑战:a)上下文感知MI控制系统的设计;和b)机器人的MI控制系统和操作员之间的控制冲突。对这些挑战的见解进行了讨论,并提出了应对这些挑战的方法。
2020-10-06 cs.HC cs.RO
The Architecture of Cognitive Amplification: Enhanced Cognitive Scaffolding as a Resolution to the Comfort-Growth Paradox in Human-AI Cognitive Integration
Catholic University of Sacred Heart(圣心天主教大学);Istituto Auxologico Italiano(意大利奥索洛吉科研究所)
针对人机认知整合中AI易用性引发的“舒适-成长悖论”,本研究提出增强型认知支架框架,从三维度重构AI为动态导师,经多领域验证可加速技能习得等,同时设风险保障,推动真正的认知增强。
2025-05-14 cs.AI cs.HC
Human operator cognitive availability aware Mixed-Initiative control
University of West Attica(西阿提卡大学);University of Birmingham(伯明翰大学)
本文提出了一种用于远程操作移动机器人的认知可用性感知混合主动控制器。控制器可以在不同的自主级别(LOA)之间进行动态切换,由人工智能或人类操作员发起。控制器利用最先进的计算机视觉方法和现成的网络摄像头来推断操作员的认知可用性并通知AI发起的LOA切换。这是一个质的进步,比以前的混合主动(MI)控制器。该控制器在灾难响应实验中进行评估,在该实验中,人类操作员必须与远程机器人进行探索任务。MI系统被证明是有效地协助运营商,表现出定量和定性的结果和工作量。此外,评估复杂的MI控制器的实验困难的一些见解。
2021-08-26 cs.AI cs.HC cs.MA
Agentic Vehicles for Human-Centered Mobility: Definition, Prospects, and Synergistic Co-Development with Vehicle Autonomy
Interdisciplinary Centre for Security, Reliability and Trust(跨学科安全、可靠与信任中心);University of Luxembourg(卢森堡大学)
本文探讨了面向人类中心的移动性,提出了代理车辆的概念,指出自主性和代理性是相互关联但概念上不同的维度,并强调了协同发展的必要性。
2026-06-25 cs.CE cs.CL cs.CY
From Particles to Agents: Hallucination as a Metric for Cognitive Friction in Spatial Simulation
Computational Social Science. ETH Zürich(ETH Zurich计算社会科学);Virginia Tech School of Architecture(弗吉尼亚理工大学建筑学院)
本文提出代理环境模拟,通过认知摩擦度量揭示建筑空间的象征性模糊,挑战传统HCI范式,提出人类中心的认知编排框架。
2026-01-29 cs.AI cs.CY cs.HC
Offline Risk-sensitive RL with Partial Observability to Enhance Performance in Human-Robot Teaming
ANITI;Fédération ENAC ISAE-SUPAERO ONERA(法国航空航天学校联盟-高等航空航天学院-法国航空航天研究院);Université de Toulouse(图卢兹大学)
本研究提出一种结合生理测量和模型不确定性的离线风险敏感部分可观测强化学习方法,用于人机团队中的自适应任务分配,实验表明其显著优于基线策略。
2024-02-08 cs.AI cs.HC cs.LG
Dark Patterns Meet GUI Agents: LLM Agent Susceptibility to Manipulative Interfaces and the Role of Human Oversight
University of Notre Dame(诺丁汉大学);University of Michigan(密歇根大学);Northeastern University(东北大学);University of Washington(华盛顿大学);Johns Hopkins University(约翰霍普金斯大学)
研究通过两阶段实验考察了LLM驱动的GUI智能体、人类及人机团队对16种dark patterns的响应,发现智能体易因程序盲点受操纵且人类监督虽能提升规避率但会引入认知成本,揭示了协作新漏洞并呼吁透明与可调自主性设计。
2025-09-12 cs.AI cs.HC
The Impact of Artificial Intelligence on Human Thought
Independent Researcher(独立研究者)
本文从认知、社会、伦理和哲学多维视角分析人工智能如何通过认知卸载、过滤气泡和算法操纵削弱人类批判性思维与智力自主性,并提出教育、透明度和治理等应对途径。
2025-08-15 cs.AI cs.CY cs.HC
Towards open and expandable cognitive AI architectures for large-scale multi-agent human-robot collaborative learning
Institute of Computer Science (ICS), Foundation for Research and Technology - Hellas (FORTH)(希腊研究与技术基金会计算机科学研究所);University of Crete (UoC)(克里特大学)
示教学习(LfD)是构造高效认知机器人系统的最有效的方法之一。尽管已经报道了大量的研究工作,但当前的关键技术挑战包括多智能体学习和长期自主性。朝着这个方向,一种新的认知架构多智能体LfD机器人学习的介绍,旨在使开放的,可扩展的和可扩展的机器人系统在大规模和复杂的环境中的可靠部署。特别是,所设计的架构利用人工智能(AI)领域的最新进展,通过建立一个联邦学习(FL)为基础的框架,体现了多人多机器人协作学习环境。基本概念化依赖于采用多个AI授权的认知过程(实现各种机器人任务),这些过程在机器人平台网络的边缘节点上运行,而全局AI模型(支持上述机器人任务)通过优雅地组合来自大量人机交互实例的信息,在网络中共同创建和共享。关于关键的新颖性,所设计的认知架构a)引入了一种新的基于FL的形式主义,该形式主义扩展了传统的LfD学习范式以支持大规模的多智能体操作设置,b)阐述以前基于FL的自学习机器人计划,以便将人类纳入学习循环,c)通过额外的复杂的AI支持的学习方法来巩固FL的基本原则,以模拟多个机器人任务之间的相互依赖性。所提出的框架的适用性解释使用敏捷生产为基础的关键原材料(CRM)恢复的一个现实世界的工业案例研究的例子。
2021-03-29 cs.AI cs.HC cs.LG