KHAIT: K-9 Handler Artificial Intelligence Teaming for Collaborative Sensemaking
Virginia Polytechnic Institute and State University (Virginia Tech)（弗吉尼亚理工学院暨州立大学（弗吉尼亚理工大学））
针对城市搜救中训导员与搜救犬通信存在的情境感知缺口问题，提出融合AI目标检测、边缘计算与AR的KHAIT系统，经真实环境验证可使幸存者定位时间平均缩短22%，提升搜救效能。
2025-02-03 cs.AI cs.CV cs.ET
Towards Synergistic Teacher-AI Interactions with Generative Artificial Intelligence
UCL Knowledge Lab（伦敦大学学院知识实验室）；Institute of Education（教育研究所）；University College London（伦敦大学学院）；UCL Centre for Artificial Intelligence（伦敦大学人工智能中心）；Department of Computer Science（计算机科学系）
本文提出教师与生成人工智能协同的五个层次，探讨如何通过协作决策提升教师与AI的共同能力，以实现教育中的伦理和实践协同。
2026-09-23 cs.AI cs.CY cs.HC
Onto4MAT: A Swarm Shepherding Ontology for Generalised Multi-Agent Teaming
University of New South Wales（新南威尔士大学）
近年来，多智能体团队合作的研究大幅增加，支持团队合作过程的基于知识的系统通常专注于为团队提供功能（通信）解决方案，以响应方向。使人类能够有效地与一群自主认知代理进行交互和合作是人类群体合作研究中的一个开放性研究挑战，部分原因是专注于开发支持这些系统的使能架构。通常，代理之间的双向透明性和共享语义理解并没有优先考虑人群合作中的设计机制，这可能限制了人类和群团队如何通过概念和上下文\textemdash共享理解和信息\textemdash数据以实现目标。为了解决这个问题，我们提供了一个正式的知识表示设计，使集群人工智能的原因，其环境和系统，最终实现一个共同的目标。我们提出了本体的广义多智能体合作，Onto4MAT，使人类和团队之间更有效的合作，通过生物启发的方法牧羊。
2022-03-24 cs.AI
CREW: Facilitating Human-AI Teaming Research
Duke University（杜克大学）
CREW是一个面向实时决策场景的人机协同研究平台，提供预置任务、多模态生理信号记录和人类引导强化学习基准测试，并通过50名受试者实验验证其有效性。
2025-01-01 cs.AI cs.HC cs.LG
Human-AI Teaming Using Large Language Models: Boosting Brain-Computer Interfacing (BCI) and Brain Research
University Hospital Freiburg（弗莱堡大学医院）；NeuroMentum AI
本文提出基于Janusian设计原则的人机协同框架及ChatBCI工具箱，通过与大语言模型交互推动脑机接口和脑科学研究，并在运动想象EEG解码项目中验证其有效性。
2024-12-30 cs.AI cs.HC
The case for delegated AI autonomy for Human AI teaming in healthcare
University of York（约克大学）；University Hospitals Coventry and Warwickshire NHS Trust（考文垂与沃里克郡大学医院NHS信托基金会）；University of Warwick（华威大学）；Histofy Ltd（Histofy有限公司）；Improvement Academy, Bradford Teaching Hospitals NHS Foundation Trust（布拉德福德教学医院NHS基金会信托基金会改进学院）
针对医疗领域人机协作问题，提出基于委托标准的AI自主决策支持方法，可自主处理部分病例、辅助其余病例，兼顾性能与安全性，并探讨了其在组织病理学场景的应用及监管要求。
2025-03-24 cs.AI cs.HC cs.LG
Human-artificial intelligence teaming for scientific information extraction from data-driven additive manufacturing research using large language models
McGill University（麦吉尔大学）；University of Montreal（蒙特利尔大学）；Mila
本文提出一个使AM与AI专家协作的框架，利用大语言模型从数据驱动的增材制造文献中持续提取科学信息，加速信息提取过程。
2024-07-26 cs.AI cs.IR
Collaborative AI Teaming in Unknown Environments via Active Goal Deduction
The George Washington University（乔治·华盛顿大学）；Northeastern University（东北大学）
针对与目标未知的智能体协作的挑战，提出利用核密度贝叶斯逆向学习进行主动目标推导并结合预训练策略实现零样本适应的组队框架，显著提升了协作性能。
2024-03-22 cs.AI cs.MA
Towards AI-Driven Human-Machine Co-Teaming for Adaptive and Agile Cyber Security Operation Centers
George Mason University（乔治·马歇尔大学）；University of South Florida（佛罗里达州立大学）
针对SOC告警过载、人才短缺与工具割裂问题，本文提出利用LLM驱动的人机协同团队，通过分析师隐性知识传递增强威胁情报、告警分类与事件响应。
2025-05-09 cs.AI cs.CR
Designing Trustworthy AI: A Human-Machine Teaming Framework to Guide Development
Carnegie Mellon University’s Software Engineering Institute（卡内基梅隆大学软件工程研究所）；Université de Montréal（蒙特利尔大学）
人工智能（AI）有很大的希望赋予我们知识并提高我们的效率。我们能够--也必须--确保人类的安全和控制，特别是在影响广大人群的政府和公共部门应用方面。人工智能开发团队如何利用人工智能系统的力量，并将其设计成对人类有价值？构建值得信赖的人工智能系统需要多样化的团队，而这些团队需要围绕一套共同的道德标准进行整合。人工智能领域有很多关于道德和信任的讨论，但在创建这些系统时，很少有框架可供人们使用。本文中描述的用于设计道德AI体验的人机团队合作（HMT）框架，当与一套技术道德一起使用时，将指导AI开发团队创建负责任，无风险，尊重，安全，诚实和可用的AI系统。为了支持小组的工作，将介绍了解人们的需要和关注的活动，以及支持小组工作的主题。例如，可用性测试可以帮助确定受众是否理解AI系统的工作方式并符合HMT框架。HMT框架是基于对现有的道德规范和人机交互和软件开发的最佳实践的审查。当人类用户可以信任人工智能系统按预期、安全、可靠和可理解地运行时，人机团队是最强大的。使用HMT框架来设计值得信赖的AI系统将为团队提供支持，帮助他们提前识别潜在的问题，并为人类创造良好的体验。
2019-10-08 cs.AI cs.HC
Unraveling Human-AI Teaming: A Review and Outlook
University of Southern California（南加州大学）；Arizona State University（亚利桑那州立大学）；Peking University（北京大学）
本文综述了AI智能体从工具到协作者的演变，基于团队态势感知理论指出价值对齐和能力利用两大缺口，并提出围绕组建、协调、维护和训练四方面的人机协同研究框架。
2025-04-09 cs.AI cs.HC econ.GN
Birds of a Different Feather Flock Together: Exploring Opportunities and Challenges in Animal-Human-Machine Teaming
Arizona State University（亚利桑那州立大学）；Aptima, Inc.（Aptima公司）；Georgia Institute of Technology（佐治亚理工学院）；Tufts University（塔夫茨大学）
本文系统探讨动物-人类-机器团队的设计维度，通过安检、搜救和导盲犬案例展示其协同潜力，并提出开放研究方向。
2025-04-17 cs.AI cs.HC cs.MA
Proceedings of the Robust Artificial Intelligence System Assurance (RAISA) Workshop 2022
鲁棒人工智能系统保证（RAISA）研讨会将重点关注鲁棒人工智能（AI）和机器学习（ML）系统的研究、开发和应用。我们的方法不是研究特定ML算法的鲁棒性，而是在开发和部署期间以及人机协作环境中探索系统架构级别的鲁棒性保证。虽然研究界正在为特定场景中的单个AI模型提供强大的解决方案，但评估和确保AI系统在整个生存周期中的鲁棒性的问题要复杂得多。此外，人工智能系统部署的操作环境需要考虑鲁棒性及其与公平、隐私和可解释性原则的关系。
2022-02-10 cs.AI
AI-Driven Human-Autonomy Teaming in Tactical Operations: Proposed Framework, Challenges, and Future Directions
Howard University（霍华德大学）
本文探讨了AI驱动的人-自主协同（HAT）在战术行动中赋能人类决策的潜力，提出了涵盖信任、功能分配、态势感知与伦理考量的综合框架，并指出了关键挑战与未来发展方向。
2024-10-28 cs.AI cs.CY cs.HC
Mixed-Initiative Human-Robot Teaming under Suboptimality with Online Bayesian Adaptation
Georgia Institute of Technology（佐治亚理工学院）
本研究针对次优人机协同场景，提出在线贝叶斯自适应方法，可推断人类配合机器人协助的意愿，实验表明该方法能显著提升团队客观性能与用户主观指标。
2026-08-05 cs.AI cs.RO
Explainable Interface for Human-Autonomy Teaming: A Survey
Cranfield University（克兰菲尔德大学）；SAAB Group（萨博集团）
本文从以人为中心的视角综述了人机自主协同系统中可解释界面的设计、开发与评估，提出新框架和整体评估体系，为XAI融入HAT提供见解与未来方向。
2024-05-04 cs.AI
Interactive Plan Explicability in Human-Robot Teaming
Tempe, Arizona（亚利桑那州坦佩（这里Tempe是城市，严格来说不属于机构，原文本中Yu Zhang的affiliation里Tempe, Arizona可能是地址，非机构，原提取范围只提取机构，所以这里可能没有正确机构？但原文本中Mehrdad Zakershahrak的affiliation是Computer Science and Engineering Department, Arizona State University，所以应该提取这个。Yu Zhang的affiliation中Tempe, Arizona不是机构，所以只保留第一个））
人机协作是人工智能在快速发展的机器人领域中最重要的应用之一。为了有效的团队合作，机器人不仅必须保持其人类队友的行为模型来投射团队状态，而且还必须意识到其人类队友对自己的期望。意识到人类队友的期望会导致机器人的行为更好地与人类期望保持一致，从而促进更有效和潜在的更安全的团队。我们的工作解决了人类与机器人合作的问题，考虑到这样的队友模型在顺序域利用计划的可解释性的概念。然而，在计划的可解释性中，人类仅仅被认为是一个观察者。在本文中，我们扩展了计划的可解释性，以考虑人类和机器人的行为可以相互影响的交互式设置。我们把这个新的措施作为互动计划的明确性。我们将使用快进计划器（FF）考虑此措施生成的联合计划与FF创建的计划进行比较，而不考虑此措施，以及与实际人类受试者创建的计划。结果表明，由我们的算法生成的计划的可解释性得分与人类计划相当，并且优于FF在不考虑度量的情况下创建的计划，这意味着由我们的算法创建的计划与执行过程中人类的预期联合计划更好地对齐。这可以在实践中实现更有效的合作。
2019-01-17 cs.AI cs.RO
Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research
University of Southern California（南加州大学）；Arizona State University（亚利桑那州立大学）；Peking University（北京大学）
本文提出Team SA理论作为人机协同AI转型的整合锚点，探讨在适应性自主下持续对齐的挑战与未来研究方向。
2026-03-05 cs.AI cs.HC econ.GN
Improving the State of the Art for Training Human-AI Teams: Technical Report #3 -- Analysis of Testbed Alternatives
Sonalysts, Inc.（索纳利斯特公司）；Arizona State University（亚利桑那州立大学）
Sonalysts团队为研究人机协作，调研现有测试平台替代方案，制定评估标准并对候选平台进行定性与定量评估，最终确定五个候选测试平台。
2023-08-29 cs.AI cs.HC
AI Potentiality and Awareness: A Position Paper from the Perspective of Human-AI Teaming in Cybersecurity
Cyber Security Cooperative Research Centre（网络安全合作研究中心）；Data61, CSIRO（联邦科学与工业研究组织数据61所）；Security Research Institute, Edith Cowan University（伊迪丝·考恩大学安全研究院）；Prince Mohammad Bin Fahd University（穆罕默德·本·法赫德王子大学）；Cyberstronomy Pty Ltd（Cyberstronomy私人有限公司）
本文探讨了网络安全中AI的潜能与风险，主张通过结合AI计算能力与人类专家知识的人机协同方法，在提升漏洞发现与异常检测速度的同时确保责任与信任，从而改善整体网络防御。
2023-09-28 cs.AI cs.CR cs.LG
A Causal Model of Theory of Mind in Conflict for Artificial Intelligence
Institute for Creative Technologies, University of Southern California（南加州大学创意技术研究所）
提出结构因果模型，将心智理论视为由情境和主体条件激活的机制，通过三条因果路径决定何时进行心智化，提升AI社会推理的准确性和效率。
2026-07-16 cs.AI cs.HC
Matching Representations of Explainable Artificial Intelligence and Eye Gaze for Human-Machine Interaction
HRL Laboratories, LLC（HRL实验室有限责任公司）
基于任务的刺激的快速非语言交流是人机合作的一个挑战，特别是在驾驶等闭环交互中。为了实现这一点，我们必须理解人类和机器的信息表示，并确定桥接这些表示的基础。分层相关传播（LRP）等可解释的人工智能（XAI）技术为深度神经网络等高维机器学习技术提供了视觉热图解释。在人类认知方面，视觉注意是由与当前任务相关的感觉输入的自下而上和自上而下的处理驱动的。由于XAI和人类认知都应该关注与任务相关的刺激，因此它们对视觉注意力的表示可能会重叠，从而可能提供人类和机器之间的非语言交流手段。在这项工作中，我们研究了经过训练以预测驾驶行为的神经网络的LRP热图解释与人类驾驶员的眼睛注视热图之间的相关性。该分析用于确定使用这种技术来提高驾驶性能的可行性。我们发现，LRP热图显示出越来越多的相似性水平与眼睛注视根据任务特异性的神经网络。然后，我们提出这些发现如何通过视觉上将注意力引导到相关区域来帮助人类。据我们所知，我们的工作提供了第一个已知的分析LRP和眼睛注视的驾驶任务。
2021-01-30 cs.AI cs.HC
Explainable AI for Intelligence Augmentation in Multi-Domain Operations
Crime and Security Research Institute（犯罪与安全研究所）；Cardiff University（卡迪夫大学）；IBM Research（IBM研究院）；U.S. Army Research Laboratory（美国陆军研究实验室）
多域作战（MDO）概念的核心是利用情报、监视和侦察（ISR）网络，该网络由分布在多个合作伙伴之间的远程和自主传感器以及人工智能的重叠系统组成。实现这一概念需要人工智能（AI）的进步，以改善分布式数据分析和智能增强（IA），以改善人机认知。本文的贡献有三个方面：（1）我们将联盟态势理解（CSU）概念映射到MDO ISR需求，特别关注对有保证和可解释的AI的需求，以允许在资产分布在多个合作伙伴之间的情况下进行鲁棒的人机决策;（2）我们为多学科设计优化ISR中的人工智能和信息保障提供了说明性的小插曲，包括人机合作、密集的城市地形分析和增强的资产互操作性;（3）我们评估了与小插曲相关的可解释人工智能的最新技术，重点是人机协作，以实现更快速和敏捷的联盟决策。这三个要素的结合旨在展示CSU方法在MDO ISR背景下的潜在价值，以三个不同的用例为基础，强调在多伙伴联盟环境中对可解释性的需求是关键。
2019-10-16 cs.AI cs.CY cs.HC
AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems
本文提出将自主与不透明AI系统类比为动物，人类作为“处理者”而非“用户”，以明确责任并促进人机信任，最终目标是实现真正的协作关系。
2026-07-02 cs.AI cs.CY cs.ET
Hiding in the AI Traffic: Abusing MCP for LLM-Powered Agentic Red Teaming
Massachusetts Institute of Technology（麻省理工学院）
本文提出一种基于MCP的C2架构，用于LLM驱动的红队攻击，通过异步并行操作和实时情报共享，减少检测足迹并提升系统整体效能。
2025-11-21 cs.AI cs.CR
AI Enabling Technologies: A Survey
MIT Lincoln Laboratory（麻省理工学院林肯实验室）
人工智能（AI）有机会彻底改变美国国防部（DoD）和情报界（IC）应对不断变化的威胁、数据泛滥和快速行动等挑战的方式。开发一个端到端的人工智能系统涉及到不同部分的并行开发，这些部分必须协同工作，以提供可供决策者、作战人员和分析人员使用的能力。这些部分包括数据汇集、数据调节、算法、计算、健壮的人工智能和人机协作。虽然今天的大多数流行媒体都围绕着算法和计算的进步，但大多数现代人工智能系统都利用了许多不同领域的进步。此外，虽然某些组件可能不像其他组件那样对最终用户可见，但我们的经验表明，这些相互关联的组件中的每一个都在人工智能系统的成功或失败中发挥着重要作用。本文旨在强调端到端AI系统中涉及的许多技术。本文的目的是为读者提供术语，技术细节和学术界，工业界和政府最近的亮点概述。在可能的情况下，我们指出了可用于进一步阅读和理解的相关资源。
2019-05-08 cs.AI
On the Evaluation of Engineering Artificial General Intelligence
P-1 AI, Inc.（P-1 AI公司）
本文针对工程通用人工智能智能体的评估难题，提出基于Bloom分类法的可扩展工程设计评估框架，构建多维度评估分类体系，支持结构化设计产物评估与场景定制，推动AI智能体基准测试发展。
2025-05-15 cs.AI
Quantum-Secure-By-Construction (QSC): A Paradigm Shift For Post-Quantum Agentic Intelligence
PricewaterhouseCoopers USA（普华永道美国公司）；Independent Researcher（独立研究者）
本文提出QSC范式，通过融合后量子密码学、量子随机数生成和量子密钥分发，为代理智能系统提供运行时自适应的安全架构，减少量子安全引入的复杂性和成本。
2026-03-12 cs.AI cs.CR quant-ph
Human and AI Perceptual Differences in Image Classification Errors
University of California, Santa Cruz（加州大学圣克鲁兹分校）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本研究针对人类与AI在图像分类错误中的感知差异空白，分析两者错误的统计分布及任务难度的影响，发现AI虽准确率更高但感知差异显著，且基于此差异的人类-AI协作算法性能更优。
2025-02-18 cs.AI cs.CV cs.LG
Disaster Management in the Era of Agentic AI Systems: A Vision for Collective Human-Machine Intelligence for Augmented Resilience
Texas A&M University（德克萨斯A&M大学）
针对传统灾害管理存在的数据流碎片化、技术割裂等痛点，本研究提出多智能体系统Disaster Copilot，通过中央协调器统筹各领域子智能体，实现实时态势感知与灾害数字孪生升级，并提出三阶段发展路线，助力构建更具韧性的社区。
2025-10-21 cs.AI cs.LG cs.MA
Instructive artificial intelligence (AI) for human training, assistance, and explainability
The Johns Hopkins Applied Physics Laboratory（约翰斯·霍普金斯应用物理实验室）
我们提出了一种新的方法来解释AI（XAI）的基础上的概念，“指令”从神经网络。在这个案例研究中，我们展示了一个超人的神经网络如何指导人类学员作为替代传统的XAI方法。具体来说，人工智能会检查人类的行为，并计算人类策略的变化，从而获得更好的性能。JHU/APL开发的合作纸牌游戏Hanabi的AI播放器的实验表明，这种技术在提高人类表现的同时，对可解释性做出了独特的贡献。指导性人工智能的一个重点领域是人类的实际策略和他们声称使用的策略之间可能出现的重大差异。这种不准确的自我评估给XAI带来了障碍，因为人工智能策略的解释可能无法被人类接受者正确理解或实施。我们已经开发并正在测试一种新颖的、指导性的人工智能方法，该方法通过观察人类的行为来估计人类的策略。使用神经网络，这允许直接计算改进人类策略所需的权重变化，以更好地模仿更成功的AI。在受到约束（例如稀疏性）的情况下，这些权重变化可以被解释为对人类策略的建议变化（例如，“更重视A，更重视B”）。来自AI的指令既可以帮助人类更好地执行任务，也可以更好地理解、预测和纠正AI的行为。结果将在Hanabi展示AI指令改善人类决策和人类-AI团队的能力。
2021-11-02 cs.AI
Shifting the Human-AI Relationship: Toward a Dynamic Relational Learning-Partner Model
Mossbridge Institute（莫斯布里奇研究所）；University of San Diego（圣迭戈大学）
本文提出将AI从被动工具转变为动态关系学习伙伴（DRLP）模型，通过促进道德合作对待和利用人机心智异质性构建协同混合智能，以实现更具适应性、道德和情感健康的人机协作关系。
2024-10-07 cs.AI cs.CY cs.HC
Incentivized Symbiosis: A Paradigm for Human-Agent Coevolution
Gemach
本文提出“激励共生”范式，将受Web3原则启发并基于区块链的社会契约引入人类与AI智能体之间，通过建立可执行的规则与激励机制，促进双方合作性的协同演化。
2025-04-25 cs.AI cs.MA
A Human Digital Twin Architecture for Knowledge-based Interactions and Context-Aware Conversations
University of Central Florida（中佛罗里达大学）；Osmania University（奥斯曼尼亚大学）；Virtual and Augmented Reality Applications Lab（虚拟与增强现实应用实验室）；Emerging Analytics Center（新兴分析中心）；Louisiana Immersive Technologies Enterprise（路易斯安那沉浸式技术企业）；University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）；School of Modeling, Simulation and Training（建模、仿真与训练学院）；Institute for Simulation and Training（仿真与训练研究所）
本文提出了一种实时人类数字孪生（HDT）架构，集成大型语言模型（LLM）和元认知方法，实现个性化、上下文感知的知识交互与对话，贯穿任务全生命周期，以增强人机自主协同中的信任与共享理解。
2025-04-04 cs.AI cs.HC
JoyAI-VL-Interaction: Real-Time Vision-Language Interaction Intelligence
JD.com（京东）
提出一种持续观察、自主决定是否回应的视觉-语言交互模型，并开源8B规模模型及完整部署系统，在六个真实场景中优于现有方案。
2026-09-25 cs.AI cs.CV
Understanding the Process of Human-AI Value Alignment
University of Bath（巴斯大学）
本文通过系统文献综述，探讨人工智能中价值对齐的核心方法与挑战，提出更精确的定义，识别六个关键主题以指导未来研究。
2025-09-17 cs.AI cs.CY
SPIN-Bench: How Well Do LLMs Plan Strategically and Reason Socially?
Princeton University（普林斯顿大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Sentient Foundation（Sentient基金会）
本文提出SPIN-Bench，一个统一多领域基准，用于评估LLM在战略规划与社会推理中的表现，发现其在深度多跳推理和不确定性下协调方面存在显著瓶颈。
2025-10-15 cs.AI
ONTrust: A Reference Ontology of Trust
Semantics, Cybersecurity \& Services, University of Twente, The Netherlands；Business Information Systems, University of Twente, The Netherlands；DAFIST, University of Genoa, Italy
ONTrust通过构建信任参考本体，提供信任概念的本体学基础，支持信息建模、自动推理和语义互操作性，应用于信任管理、AI设计等领域。
2026-02-07 cs.AI
Bounded Normative Equivalence in Human-AI Cooperation: Group Behaviour, Not Partner Labels, Predicts Cooperation under Anonymous Aggregate Feedback
Department of Sociology, University of Zurich（苏黎世大学社会学系）；Centre for Sociology of Humans and Machines (SOHAM), Trinity College Dublin & Technological University Dublin（人类与机器社会学中心（SOHAM））
研究发现，混合人机群体中的合作依赖于群体行为而非身份，规范机制在不同条件下表现一致，支持规范等价性。
2026-08-04 cs.AI cs.GT cs.HC
The Dynamic Verifiable Multi-Agent Human Agentic Loyalty Loop (DVM-HALL) Model and the Net Human-Agent Score (NHAS) in Autonomous Commerce
School of Technology, Woxsen University（沃森大学技术学院）；Universitat de Girona（格尔纳达大学）；School of Sciences, Woxsen University（沃森大学科学学院）
研究人工智能发展下传统客户忠诚度范式受扰问题，提出动态可验证多智能体人类智能忠诚循环（DVM-HALL）模型，通过特定公式及机制确定品牌选择、校准信任等，还引入净人机分数（NHAS）并给出实证验证计划，为品牌应对转变提供理论。
2026-07-16 cs.AI cs.GT cs.MA
