Efficient Reinforcement Learning for Zero-Shot Coordination in Evolving Games
Bingyu Hui, Lebin Yu, Quanming Yao, Yunpeng Qu, Xudong Zhang, Jian Wang(作者)
针对演化博弈中零样本协作的强化学习方法受限于计算资源、难以通过扩大种群规模提升性能的问题,提出含元智能体与互信息正则化器的可扩展种群训练框架ScaPT,在Hanabi博弈中证实其优越性。
2025-11-18 cs.AI cs.LG
Cross-environment Cooperation Enables Zero-shot Multi-agent Coordination
本文提出跨环境合作(CEC)范式,通过在环境分布上训练智能体,实现与多种新伙伴的零样本协调,并优于基线,为通用合作智能体设计提供新途径。
2025-04-20 cs.AI cs.LG cs.MA
Heterogeneous Multi-agent Zero-Shot Coordination by Coevolution
School of Artificial Intelligence, Nanjing University(南京大学人工智能学院);Tencent AI Lab(腾讯人工智能实验室)
本文首次研究异构多智能体零样本协调问题,提出基于协同进化的通用方法,通过配对、更新和选择三个子过程协同进化智能体与伙伴种群,实验证明其有效性。
2024-12-31 cs.AI cs.LG cs.MA
Towards Zero-Shot Coordination between Teams of Agents: The N-XPlay Framework
针对多智能体团队间零样本协调问题,提出N-XPlay框架,扩展Overcooked基准至N人场景,实验表明其优于自对弈方法,能更好平衡团队内外协调。
2025-06-21 cs.AI cs.MA
Automatic Curriculum Design for Zero-Shot Human-AI Coordination
Department of AI Convergence, Gwangju Institute of Science and Technology(人工智能融合系,全州科学技术研究院);School of Integrated Technology, Gwangju Institute of Science and Technology(整合技术学院,全州科学技术研究院)
本文提出面向零样本人机协同的自动课程设计方法,通过设计效用函数和协作者采样策略扩展多智能体UED,在Overcooked-AI中显著提升了未知环境下的人机协调性能。
2025-08-21 cs.AI
Language Instructed Reinforcement Learning for Human-AI Coordination
Stanford University(斯坦福大学)
针对多智能体强化学习易收敛至非人类偏好均衡、缺高质量人类行为数据的人机协作难题,提出instructRL框架,用大语言模型基于自然语言指令生成先验策略以正则化RL目标,在Hanabi等基准验证了符合人类偏好的策略效果及人机协作性能提升。
2023-06-10 cs.AI cs.CL cs.LG
A New Formalism, Method and Open Issues for Zero-Shot Coordination
University of Toronto(多伦多大学);Vector Institute(向量研究所);University of California, Berkeley(加州大学伯克利分校);Duke University(杜克大学);Facebook AI Research(脸书人工智能研究院)
本文将零样本协调中的“无标签”设定形式化为LFC问题,证明other-play并非最优,提出带平局打破的other-play,并指出LFC偏离ZSC目标。
2023-07-12 cs.AI cs.LG
Benchmarking Open-Ended Multi-Agent Coordination in Language Agents
University of Edinburgh(爱丁堡大学);University of Oxford(牛津大学);University College London(伦敦大学学院)
提出基于JAX的开放式多智能体协作基准Alem,评估13种现代LLM在长时生存世界中的零样本协作能力,发现协调能力是前沿LLM智能体的独立瓶颈。
2026-06-06 cs.AI cs.LG cs.MA
ZSC-Eval: An Evaluation Toolkit and Benchmark for Multi-agent Zero-shot Coordination
Shanghai Jiao Tong University(上海交通大学)
本文提出ZSC-Eval,首个面向多智能体零样本协调(ZSC)的评估工具包与基准,通过行为偏好奖励生成伙伴、BR-Div选择伙伴及BR-Prox指标衡量泛化性能,并在Overcooked等环境中验证了其与人类评估的一致性。
2024-09-26 cs.AI cs.HC cs.LG
Cooperative Open-ended Learning Framework for Zero-shot Coordination
The University of Manchester(曼彻斯特大学);Shanghai Jiao Tong University(上海交通大学);King’s College London(伦敦国王学院)
针对合作AI零样本协作中的协作不相容问题,提出融合图论与博弈论的COLE开放式学习框架,并在Overcooked中验证其优于现有方法。
2024-02-28 cs.AI cs.LG
PopGen: Generating Semantically Diverse Populations for Zero-Shot Coordination
EPFL(洛桑联邦理工学院);UC Berkeley(加州大学伯克利分校);Yonsei University(延世大学);Google DeepMind(谷歌DeepMind);Nomagic(诺玛吉克)
该研究提出PopGen框架,利用LLM生成语义多样化智能体群体,训练出的合作者在四个协作环境中零样本协作性能优于群体博弈基线,且群体规模越大语义多样性越高。
2026-10-14 cs.AI cs.MA
HOLA-Drone: Hypergraphic Open-ended Learning for Zero-Shot Multi-Drone Cooperative Pursuit
The University of Manchester(曼彻斯特大学);Sun Yat-sen University(中山大学);Shanghai Jiao Tong University(上海交通大学);Purdue University(普渡大学)
本文提出HOLA-Drone超图开放式学习算法,将零样本协调研究从双人游戏扩展到多无人机协同追捕场景,通过超图博弈建模持续调整学习目标,实验证明其在未知队友协调中优于基线方法并具备真实系统可行性。
2024-10-01 cs.AI cs.RO
The Yokai Learning Environment: Tracking Beliefs Over Space and Time
Yokai学习环境通过跟踪和更新信念来实现有效合作,挑战现有ZSC方法的泛化能力。
2026-08-06 cs.AI cs.LG cs.MA
Language-Driven Coordination and Learning in Multi-Agent Simulation Environments
本文提出 LLM-MARL 框架,将大语言模型集成到多智能体强化学习中,通过 Coordinator、Communicator 和 Memory 模块动态生成子目标、促进通信并支持情景回忆,显著提升了多游戏环境中的胜率、协调与泛化能力。
2025-11-03 cs.AI cs.LG cs.MA
Ad-Hoc Human-AI Coordination Challenge
FLAIR, University of Oxford, Oxford, UK(FLAIR,牛津大学,牛津,英国);Department of Computer Science, University of Oxford, UK(计算机科学系,牛津大学,英国)
为解决人机协调评估难的问题,提出AH2AC2挑战,基于大规模人类数据构建代理智能体,开源3,079局游戏数据,并提供两人和三人Hanabi基线结果。
2025-06-29 cs.AI cs.HC cs.MA
When Numbers Start Talking: Implicit Numerical Coordination Among LLM-Based Agents
Luxembourg Institute of Science and Technology(卢森堡科学与技术研究所);University of Trento(特伦托大学);Teesside University(泰赛大学);University of Cambridge(剑桥大学)
本文研究了基于大语言模型的多智能体系统中隐性沟通的博弈理论,分析了不同沟通模式下协调与战略结果的变化。
2026-04-19 cs.AI cs.MA
Compact Latent Coordination for Autonomous Vehicles at Unsignalized Intersections
Ben-Gurion University of the Negev(内盖夫本古里安大学)
针对无信号交叉口自动驾驶车辆协调难题提出MAPS分层DRL架构,主智能体生成编码全局策略的原型计划,工作智能体结合局部观测执行控制。实验表明MAPS能实现无碰撞导航、减少行驶时间,且原型计划泛化能力强。
2026-07-24 cs.AI cs.LG cs.MA
Tackling Cooperative Incompatibility for Zero-Shot Human-AI Coordination
The University of Manchester(曼彻斯特大学);Shanghai Jiao Tong University(上海交通大学);King’s College London(伦敦国王学院)
针对零样本人机-AI协作中的协作不兼容问题,提出COLE开放式学习框架及两种算法,并通过理论、模拟与130人实验验证其优于现有方法。
2024-01-07 cs.AI cs.HC
Randomness is sometimes necessary for coordination
Department of Computer Science and Engineering(计算机科学与工程系)
本文提出Diamond Attention架构,通过引入随机数实现临时排名,使不同角色在协作中得以区分,从而在不同规模的团队中实现零样本部署,展示了结构化随机在协调任务中的关键作用。
2026-05-07 cs.AI cs.RO
ELIGN: Expectation Alignment as a Multi-Agent Intrinsic Reward
Stanford University(斯坦福大学);University of Washington(华盛顿大学)
现代多智能体强化学习框架依赖于集中式训练和奖励塑造来表现良好。然而,集中训练和密集奖励在现实世界中并不容易获得。当前的多智能体算法很难在分散训练或稀疏奖励的替代设置中学习。为了解决这些问题,我们提出了一个自我监督的内在奖励ELIGN-期望对齐-灵感来自自组织原则在动物学。类似于动物如何以分散的方式与附近的动物合作,接受期望对齐训练的智能体学习符合邻居期望的行为。这使得智能体能够在没有任何外部奖励或集中训练的情况下学习协作行为。我们证明了我们的方法在多智能体粒子和复杂的Google Research足球环境中的6个任务中的有效性,将ELIGN与稀疏和基于好奇心的内在奖励进行比较。当代理数量增加时,ELIGN在所有多代理任务中都能很好地扩展,除了代理具有不同功能的任务。我们表明,代理协调提高通过期望对齐,因为代理学会分工之间的任务,打破协调对称性,并混淆对手。这些结果确定的任务,期望对齐是一个更有用的策略比好奇心驱动的探索多代理协调,使代理做zero-shot协调。
2022-11-09 cs.AI cs.LG cs.MA
Self-Evolving Coordination Protocol in Multi-Agent AI Systems: An Exploratory Systems Feasibility Study
AI Lab, Grupo Santander Madrid, Spain(西班牙桑坦德集团AI实验室)
本研究探讨了自演化协调协议在多智能体系统中的可行性,通过实验展示有限自我修改在满足形式约束下的技术实现可能性。
2026-02-02 cs.AI cs.MA
TransfQMix: Transformers for Leveraging the Graph Structure of Multi-Agent Reinforcement Learning Problems
协调是多智能体强化学习(MARL)中最困难的方面之一。一个原因是,代理通常选择他们的行动彼此独立。为了看到从独立的政策的组合出现的协调策略,最近的研究集中在使用一个集中的功能(CF),学习每个代理的贡献,团队奖励。然而,环境呈现给代理和CF的结构通常被忽视。我们已经观察到,用于描述协调问题的特征可以表示为潜在图结构的顶点特征。在这里,我们提出了TransfQMix,一种新的方法,使用Transformers来利用这种潜在的结构,并学习更好的协调策略。我们的Transformer代理对可观察实体的状态执行图形推理。我们的Transformer Q-mixer从一个更大的图中学习单调混合函数,该图包括代理的内部和外部状态。TransfQMix被设计为完全可转移的,这意味着相同的参数可以用于控制和训练更大或更小的代理团队。这使得部署有前途的方法,以节省培训时间,并在MARL中获得一般政策,如迁移学习,zero-shot迁移,和课程学习。我们报告TransfQMix在Spread和StarCraft II环境中的表现。在这两种情况下,它都优于最先进的Q-Learning模型,并且在解决其他方法无法解决的问题方面表现出了有效性。
2023-01-13 cs.AI cs.LG cs.MA
Multi-Agent Language Models: Advancing Cooperation, Coordination, and Adaptation
Polytechnique Montréal(蒙特利尔理工学院);Université de Montréal(蒙特利尔大学)
本研究通过合作性多智能体强化学习视角,探究大型语言模型的心理理论能力,旨在增强智能体与人工及人类伙伴的适应与合作,推动混合人机系统发展。
2025-06-17 cs.AI cs.CL cs.MA
From Competition to Coordination: Market Making as a Scalable Framework for Safe and Aligned Multi-Agent LLM Systems
Algoverse AI Research(Algoverse AI研究院)
本文提出一种基于市场机制的多智能体大语言模型协调框架,通过结构化经济交换提升推理准确性和透明度,实现自我组织和可验证推理,为安全、对齐的AI系统提供可扩展解决方案。
2026-02-23 cs.AI cs.CL cs.MA
Human-AI Coordination via Human-Regularized Search and Learning
Meta AI;Oxford University(牛津大学)
我们考虑的问题,使人工智能智能体,以及与人类合作的部分可观察的完全合作的环境中,给定的人类行为的数据集。受piKL的启发,piKL是一种人类数据正则化的搜索方法,它改进了行为克隆策略,而不会远离它,我们开发了一个三步算法,在Hanabi基准测试中与真实人类协调时实现了强大的性能。我们首先使用正则化搜索算法和行为克隆来生成更好的人类模型,以捕获不同的技能水平。然后,我们将策略正则化思想融入强化学习中,对人体模型进行训练类人最佳反应。最后,我们在测试时将正则化搜索应用于最佳响应策略之上,以处理与人类一起玩时的分布外挑战。我们评估我们的方法在两个大规模的实验与人类。首先,我们证明了我们的方法在与一组不同的人类玩家在特设团队中玩时优于专家。第二,我们表明,我们的方法击败了香草最佳对策的行为克隆基线,专家反复发挥与两个代理。
2022-10-11 cs.AI cs.LG cs.MA
Quasi-Equivalence Discovery for Zero-Shot Emergent Communication
Facebook AI Research(脸书人工智能研究院);MILA(蒙特利尔学习算法研究所)
有效的沟通是一个重要的技能,使信息交换在多智能体设置和紧急通信现在是一个充满活力的研究领域,与常见的设置涉及离散的廉价通话通道。由于根据定义,这些设置涉及信息的任意编码,因此通常它们不允许学习的协议推广到训练伙伴之外。相比之下,在这项工作中,我们提出了一个新的问题设置和准等价发现(QED)算法,允许zero-shot协调(ZSC),即,发现可以推广到独立训练的代理的协议。现实世界的问题设置通常包含昂贵的沟通渠道,例如,机器人必须在物理上移动他们的四肢,并且意图的分布不均匀。我们发现,这两个因素导致唯一的最佳ZSC政策在参考游戏,代理使用的能量成本的消息来传达意图。最近引入的学习最佳ZSC政策,但需要事先访问的对称性的问题。相反,QED可以迭代地发现这种设置中的对称性,并收敛到最优的ZSC策略。
2021-06-22 cs.AI cs.MA
Learned Coordination Conventions in Cooperative MARL: Measuring the Translation Gap Between Theory-Informed Roles and Learned Routing
Independent Researcher(独立研究员)
通过角色路由矩阵、形成敏感性和梯度/遮挡归因的诊断方法,衡量理论指导角色期望与学习协调结构之间的翻译差距,发现标签条件注意力产生更集中和角色特定的路由,且部分对齐设计者指定的先验。
2026-06-28 cs.AI
CooT: Learning to Coordinate In-Context with Coordination Transformers
Graduate Institute of Communication Engineering, National Taiwan University (NTU)(国立台湾大学通信工程研究所);NTU Artificial Intelligence Center of Research Excellence (NTU AI-CoRE)(国立台湾大学人工智能研究中心);University of Utah(犹他大学)
本研究提出CooT框架,通过上下文学习实现实时合作伙伴适应,解决了多智能体系统中协调不熟悉合作伙伴的挑战,其核心方法是通过观察学习对齐动作与合作伙伴意图,主要贡献是实现了在多样合作伙伴行为下的泛化能力。
2026-05-18 cs.AI cs.HC cs.LG
"Other-Play" for Zero-Shot Coordination
Facebook AI Research(脸书人工智能研究院)
我们考虑了zero-shot协调问题-构建能够与他们以前从未见过的新伙伴(例如人类)协调的人工智能智能体。标准的多智能体强化学习(MARL)方法通常关注自我游戏(SP)设置,其中智能体通过重复与自己玩游戏来构建策略。不幸的是,将SP天真地应用于zero-shot协调问题,可能会产生建立高度专业化惯例的代理,这些惯例不会传递给他们没有训练过的新伙伴。我们介绍了一种新的学习算法,称为其他发挥(OP),提高自我发挥寻找更强大的战略,利用存在已知的对称性的基本问题。我们的特点OP理论上以及实验。我们研究了合作纸牌游戏Hanabi,并表明OP代理与独立训练的代理配对时获得更高的分数。在初步结果中,我们还表明,我们的OP代理获得更高的平均分数时,与人类球员配对,相比,国家的最先进的SP代理。
2021-05-12 cs.AI
TopoDIM: One-shot Topology Generation of Diverse Interaction Modes for Multi-Agent Systems
University of Science and Technology of China(中国科学技术大学);East China Normal University(华东师范大学)
TopoDIM通过一键生成拓扑结构,实现多智能体系统中多样化交互模式,提升任务性能和token效率,实验表明其在token消耗和性能提升方面优于现有方法。
2026-04-16 cs.AI cs.CL cs.MA
Dreaming Of Others: Latent Teammate Modeling In World Models For Multi-Agent Reinforcement Learning
Tomas Leroy-Stone
提出一种将队友建模为世界模型中可学习组件的方法,通过分解潜在状态并引入心智理论头来推断队友行为,实现零样本和少样本协调。
2026-05-29 cs.AI cs.LG cs.MA
Talk is Cheap, Communication is Hard: Dynamic Grounding Failures and Repair in Multi-Agent Negotiation
Stanford University(斯坦福大学)
本文研究多智能体谈判中动态 grounding 的故障与修复,通过多轮谈判游戏揭示四类失败模式,发现协调瓶颈在于动态 grounding 而非个体推理或信息不足。
2026-05-12 cs.AI cs.MA
On-the-fly Strategy Adaptation for ad-hoc Agent Coordination
University of Oxford(牛津大学)
在合作环境中训练代理提供了人工智能智能体能够在现实世界中与人类(和其他代理)有效交互的承诺。多智能体强化学习(MARL)有可能实现这一目标,并在一系列具有挑战性的问题中取得了成功。然而,尽管这些进步是显著的,但绝大多数的焦点都集中在自我游戏范式上。这通常会导致协调问题,这是由于代理在与自己玩耍时学会使用任意约定而引起的。这意味着即使是最强的自我游戏代理也可能与其他代理(包括相同算法的其他初始化)具有非常低的交叉游戏。在本文中,我们建议解决这个问题,通过适应代理策略的飞行,使用后验信念超过其他代理的策略。具体地说,我们考虑的问题,选择一个策略,从一个有限的一组以前训练的代理,发挥与一个未知的合作伙伴。我们提出了一个扩展的经典统计技术,吉布斯抽样,更新其他代理人的信念,并获得接近最佳的ad-hoc性能。尽管它的简单性,我们的方法是能够实现强大的交叉发挥与看不见的合作伙伴在具有挑战性的纸牌游戏的Hanabi,实现成功的特设协调合作伙伴的策略先验知识。
2022-03-08 cs.AI cs.GT cs.LG
Learning to Cooperate with Humans using Generative Agents
University of Washington(华盛顿大学)
本文提出 GAMMA 方法,通过学习人类伙伴的生成式模型并采样多样化伙伴来训练协作者,从而提升智能体与真实人类的零样本协调能力,并在 Overcooked 基准上验证其有效性。
2024-11-21 cs.AI cs.LG cs.MA
Tool Use Enables Undetectable Steganography in Multi-Agent LLM Systems
Oxford University(牛津大学);Artificial Intelligence Security Institute (AISI)(人工智能安全研究所)
本文研究多智能体AI系统中通过工具使用(如代码执行、网络搜索)实现无法检测的隐写通信,发现智能体可自适应构建隐写系统,并提出协调度量评估无事先约定的隐写协调风险。
2026-06-25 cs.AI cs.CR
Partially Observable Zero-shot coordination by Predicting Intention of Partner
KAIST(韩国科学技术院)
针对具身环境中伙伴部分可观测导致的协调难题,提出PIP方法,利用联合视角VAE和伙伴状态信念网络推断伙伴意图,在三个基准及人类评估中取得最优性能。
2026-10-07 cs.AI cs.MA
StoryAgent: Customized Storytelling Video Generation via Multi-Agent Collaboration
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);United Arab Emirates University(阿拉伯联合酋长国大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
StoryAgent提出多智能体协作框架,分解定制化叙事视频生成任务,结合LoRA-BE等方法提升角色与时间一致性,优于现有技术。
2024-11-11 cs.AI cs.CV cs.MA
MindAgent: Emergent Gaming Interaction
Xbox Team, Microsoft(微软Xbox团队);Stanford(斯坦福大学);BIGAI(北京通用人工智能研究院);UCLA(加州大学洛杉矶分校);Microsoft Research(微软研究院);PKU(北京大学);THU(清华大学)
本文提出MindAgent基础设施和CUISINEWORLD基准,用于评估多智能体游戏中LLM与人类协作的规划协调能力,并通过CoS自动度量验证其可部署于VR及Minecraft等真实游戏场景。
2023-09-19 cs.AI cs.HC cs.MA
Adaptive Multi-Agent Reasoning for Text-to-Video Retrieval
Shenzhen University(深圳大学);The Hong Kong Polytechnic University(香港理工大学);Sichuan University(四川大学)
本文提出自适应多智能体框架,通过动态协调检索、推理和查询重述智能体,提升文本到视频检索的零样本跨模态对齐与复杂查询处理能力。
2025-12-02 cs.AI cs.IR cs.MM
Grounded Joint-Attention Other-Play for Zero-Shot Coordination
University of Stuttgart(斯图加特大学)
本文提出MATE,一种受人类联合注意力启发的多智能体强化学习方法,通过对齐视觉注意力促进零样本协调,在多个基准上优于对称性破缺方法。
2026-10-06 cs.AI
RUMAD: Reinforcement-Unifying Multi-Agent Debate
Tsinghua University(清华大学);Zhejiang University(浙江大学)
RUMAD通过强化学习动态控制通信拓扑,提升多智能体辩论的效率和准确性,实现80%以上的token成本降低和跨域泛化能力。
2026-02-27 cs.AI
Is Inter-Seed Cross-Play Enough? Evaluating the Robustness of Zero-Shot Coordination Algorithms to Implementation Details
本研究通过引入跨实现跨博弈评估方案,系统评估Other-Play算法对实现细节的鲁棒性,发现标准ZSC评估可作为跨实现评估的合理替代指标。
2026-08-05 cs.AI cs.MA
OGR-MARL: Option-Guided Residual Multi-Agent Reinforcement Learning for Heterogeneous USV Cooperative Pursuit in Constrained Port Waterways
本文提出OGR-MARL框架,将其实例化为多款连续控制MARL算法,经厦门港水道实验验证,OGR-MASAC捕获率达75.0%,规则依从性与异构协同表现最优,且具备良好泛化潜力。
2026-08-14 cs.AI cs.MA
Zero-Shot Coordination in Ad Hoc Teams with Generalized Policy Improvement and Difference Rewards
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了一种通用策略改进与差额奖励方法,用于实现不同团队间的高效零样本知识转移,通过三个模拟环境和真实机器人系统验证了其有效性。
2026-03-31 cs.AI cs.MA cs.RO
EvoMAS: Learning Execution-Time Workflows for Multi-Agent Systems
Sun Yat-Sen University(中山大学);Zhejiang University(浙江大学);ShanghaiTech University(上海理工大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
EvoMAS通过动态构建执行时间工作流,改进多智能体系统的协作策略,实验证明其在复杂任务中优于单智能体基线和现有自动化方法。
2026-05-09 cs.AI
PECAN: Leveraging Policy Ensemble for Context-Aware Zero-Shot Human-AI Coordination
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);King’s College London(伦敦国王学院);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);The University of Sydney(悉尼大学);University College London(伦敦大学学院)
本文提出PECAN方法,通过策略集成增加伙伴多样性并开发上下文感知机制,使自我智能体能识别伙伴策略原语并采取相应行动,在Overcooked环境中实现了最先进的零样本人机协作性能。
2023-05-22 cs.AI
OvercookedV2: Rethinking Overcooked for Zero-Shot Coordination
FLAIR, University of Oxford(牛津大学FLAIR研究中心)
本研究发现经典协调基准Overcooked的零样本协调挑战主要源于自博弈状态覆盖不足,因此推出含非对称信息与随机性的OvercookedV2新基准,验证了仅靠状态覆盖无法实现良好协调,为下一代零样本协调算法提供更合理的评估标准。
2025-03-22 cs.AI
One Hand Watches The Other: Dynamic Multi-Agent Cooperation for Sample-Efficient Bimanual Manipulation in Dynamic Environments
University of Freiburg(弗莱堡大学)
研究动态环境中双机器人操作问题,提出轻量级DynaMAC框架,将相对手臂视为动态任务参数,解决因果限制,保留多流策略优势。通过DynaBench基准测试,性能远超基线,能零样本泛化,简化数据收集,为人机协作助力。
2026-07-27 cs.AI cs.LG cs.RO
Watch, Infer, Coordinate: Inferring Robot Partner Constraints for Zero-Shot Coordination
Honda Research Institute USA(本田美国研究院);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出观察、推断、协调方法,通过观察联合行为推断机器人伙伴的物理约束,显著提升零样本协调性能,接近真实约束预言机。
2026-10-02 cs.AI cs.MA cs.RO
KnowPC: Knowledge-Driven Programmatic Reinforcement Learning for Zero-shot Coordination
State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China(中国科学技术大学认知智能国家重点实验室);Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
KnowPC提出用可解释程序替代神经网络策略,通过领域特定语言和知识提取与推理机制,高效搜索程序空间以解决零样本协调问题。
2024-08-08 cs.AI
Iterative Critique-and-Routing Controller for Multi-Agent Systems with Heterogeneous LLMs
Purdue University(普渡大学);Yonsei University(延世大学)
本文提出一种迭代批评与路由控制器,通过将多智能体协调视为序列决策问题,改进多智能体系统的协调效率,实验表明其在多个异构系统和七个推理基准中优于现有方法。
2026-05-09 cs.AI
Observe, Share, or Predict? Disentangling Partner Information in Embodied Multi-Agent Collaboration
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);University of Trento(特伦托大学)
该研究基于Habitat的PARTNR基准,探究具身多智能体协作中观察伙伴状态、交换对象知识、预测伙伴动作对任务的影响,发现OAS提升任务质量、KE提升效率、OANA多降低成功率。
2026-10-14 cs.AI cs.RO
Beyond Partner Diversity: An Influence-Based Team Steering Framework for Zero-Shot Human-Machine Teaming
Department of Computer Science(计算机科学系)
本文提出基于影响的团队引导框架IBTS,通过影响塑造激励智能体发现多样化的高绩效团队交互模式,提升团队表现,强调需结合稀疏奖励协调机制与伙伴多样性覆盖。
2026-05-14 cs.AI
Off-Belief Learning
Facebook AI Research(脸书人工智能研究院)
Dec-POMDPs中的标准问题设置是自我博弈,其目标是找到一组最佳的策略。通过自我游戏学习的策略可能会采用任意的约定,并隐含地依赖于基于对其他代理行为的脆弱假设的多步推理,因此在测试时与人类或独立训练的代理配对时会失败。为了解决这个问题,我们提出了信念偏离学习(OBL)。在每个时间步,OBL代理遵循一个策略$π_1$,该策略在假设过去的动作由给定的固定策略($π_0$)执行,但假设未来的动作将由$π_1$执行的情况下进行优化。当$π_0$是均匀随机的,OBL收敛到一个最优的政策,不依赖于推理的基础上其他代理的行为(最优接地政策)。OBL可以在层次结构中迭代,其中一个级别的最佳策略成为下一个级别的输入,从而以受控的方式引入多级认知推理。与现有的方法,这可能会收敛到任何均衡的政策,OBL收敛到一个独特的政策,使其适合于zero-shot协调(ZSC)。OBL可以通过虚构的转换机制扩展到高维设置,并且在玩具设置和基准人类AI & ZSC问题Hanabi中表现出强大的性能。
2021-08-18 cs.AI cs.LG