Active Legibility in Multiagent Reinforcement Learning
School of Automation, Central South University(中南大学自动化学院);National Engineering Laboratory for Big Data System Computing Technology, Shenzhen University(深圳大学大数据系统计算技术国家工程实验室);Northumbria University(诺森比亚大学);School of Computer Science, Minnan Normal University(闽南师范大学计算机学院);University of Georgia(佐治亚大学)
针对多智能体协作中的意图理解问题,本文提出主动可理解性框架,使智能体通过可理解动作帮助彼此优化行为,并在定制问题域中验证其效率与训练时间优势。
2024-10-28 cs.AI
Rethinking Formal Models of Partially Observable Multiagent Decision Making
Czech Technical University in Prague(布拉格捷克理工大学);DeepMind(深度思维)
部分可观测环境中的多智能体决策通常被建模为博弈论中的扩展形式博弈(EFG)或多智能体强化学习(MARL)中的部分可观测随机博弈(POSG)。目前的一个问题是,虽然大多数实际问题都可以在两种形式主义中建模,但这两种模型的关系并不清楚,这阻碍了两个社区之间的思想交流。第二个问题是,虽然EFG最近已经看到了显着的算法进展,他们的经典形式化是不适合有效地表示的基本思想,如那些周围的分解。为了解决第一个问题,我们引入了因子化观察随机博弈(FOSGs),这是对POSG形式主义的一个微小修改,它区分了私人和公共观察,从而大大简化了分解。为了解决第二个问题,我们表明,FOSG和POSG自然连接到EFG:通过“展开”FOSG到其树的形式,我们得到一个EFG。相反,任何完全回忆时间表EFG都以这种方式对应于某种潜在的FOSG。此外,这种关系证明了几个小的修改,经典的EFG形式化,最近出现的隐式响应模型的问题与分解。最后,我们说明了EFG和MARL之间的思想转移,提出了三个关键的EFG技术-反事实遗憾最小化,序列形式和分解-在FOSG框架。
2021-09-28 cs.AI cs.GT
A Semi-Decentralized Approach to Multiagent Control
Stanford University(斯坦福大学);Northeastern University(东北大学)
本文提出半去中心化方法,用于解决多智能体控制中的通信不确定性问题,通过SDec-POMDP框架统一了去中心化和多智能体POMDP,并引入RS-SDA*算法生成最优策略。
2026-03-12 cs.AI
Conditional Max-Sum for Asynchronous Multiagent Decision Making
Technical University of Crete(克里特技术大学)
针对动态环境下的异步多智能体决策问题,提出基于因子图和条件最大和算法的方法,结合更现实的通信框架,在无车道交通场景实验中,其协作性能优于无通信基线,且适配性强于标准最大和算法。
2025-02-18 cs.AI cs.MA
GPT-in-the-Loop: Adaptive Decision-Making for Multiagent Systems
University of Waterloo(滑铁卢大学);David R. Cheriton School of Computer Science(大卫·R·切里顿计算机科学学院)
针对传统多智能体自适应方法训练周期长的问题,提出GPT-in-the-loop方法,将GPT-4融入物联网多智能体框架,在智能路灯场景中无需大量训练就优于神经进化方法和人工方案,为物联网多智能体决策提供新路径。
2023-08-21 cs.AI cs.MA cs.NE
Value-Based Rationales Improve Social Experience: A Multiagent Simulation Study
Umeå University(于默奥大学);University of Bristol(布里斯托尔大学);North Carolina State University(北卡罗来纳州立大学)
本研究提出可让智能体在决策及理由生成、评估中融入自身与他人价值的Exanna框架,经多智能体仿真验证,该方法尤其针对偏离规范的行动可提升冲突解决率、社交体验、隐私性与灵活性。
2024-08-14 cs.AI cs.LG cs.MA
Prosocial Norm Emergence in Multiagent Systems
North Carolina State University(北卡罗来纳州立大学);University of Bristol(布里斯托尔大学)
多智能体系统为开发自治实体系统提供了基础,并因此在各种领域中找到应用。我们考虑的设置,不仅是成员代理是自适应的,而且多智能体系统被视为一个实体,在自己的权利是自适应的。具体来说,多智能体系统的社会结构可以反映在其成员之间的社会规范。众所周知,社会中出现的规范并不总是对其成员有利。我们专注于亲社会规范,这有助于实现社会的积极成果,并经常提供指导代理人采取行动的方式,考虑到他人的福利。具体来说,我们提出了Cha,一个亲社会规范出现的框架。与以前的规范涌现方法不同,Cha支持系统的持续变化(代理人可以进入和离开)和动态性(当环境发生变化时,规范可能会发生变化)。重要的是,Cha代理人将基于不公平厌恶理论的亲社会决策纳入其中,反映了反社会产生的内疚感。通过这种方式,Cha汇集了亲社会性中的两个重要主题:个人决策和系统级结果的公平性。我们通过模拟证明,Cha可以提高总的社会收益和结果的公平性。
2022-05-04 cs.AI cs.MA
Differential Privacy in Cooperative Multiagent Planning
The University of Florida(佛罗里达大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
隐私感知的多智能体系统必须保护代理的敏感数据,同时确保代理完成他们的共同目标。为了实现这一目标,我们提出了一个框架,私有化的智能体通信在合作多智能体决策问题。我们研究序列决策问题制定为合作马尔可夫博弈达到避免目标。我们应用差分隐私机制私有化代理的沟通象征性的状态轨迹,然后我们分析隐私的强度和团队的表现之间的权衡。对于一个给定的隐私水平,这种权衡严重依赖于代理的状态动作过程之间的总相关性。我们合成的政策,是强大的隐私减少的总相关值。数值实验表明,在这些政策下,团队的表现下降了3%,当比较私人与非私人的通信实现。相比之下,当使用忽略总体相关性而只优化团队绩效的基线策略时,团队的绩效下降了大约86%。
2023-01-20 cs.AI cs.CR cs.MA
Learning to Learn Group Alignment: A Self-Tuning Credo Framework with Multiagent Teams
University of Waterloo(滑铁卢大学)
本文提出一种自调节Credo框架,让多智能体团队中的个体通过分层强化学习与元学习动态调整群体对齐参数,从而在混合激励环境中获得更好的全局结果。
2023-04-14 cs.AI
A Sufficient Statistic for Influence in Structured Multiagent Environments
Delft University of Technology(代尔夫特理工大学);Nissan Technical Center North America(北美日产技术中心);Massachusetts Institute of Technology(麻省理工学院)
在复杂环境中做出决策是人工智能(AI)的一个关键挑战。涉及多个决策者的情况是特别复杂的,导致计算棘手的原则性解决方案的方法。人工智能领域的一系列工作试图通过将交互提取到本质来缓解这个问题:一个代理的策略如何影响另一个代理?如果我们能找到这种影响的更紧凑的表示,这可以帮助我们处理复杂性,例如通过搜索影响的空间而不是政策的空间。然而,到目前为止,这些影响的概念在它们对相互作用的特殊情况的适用性方面受到了限制。在本文中,我们形式化的影响为基础的抽象(IBA),这有利于消除潜在的状态因素,而没有任何损失的价值,为一类非常一般的问题,描述为因子化的部分可观察的随机游戏(fPOSGs)。一方面,这概括了现有的影响力描述,因此可以作为基础,在复杂的多智能体设置决策的可扩展性和其他见解的改进。另一方面,由于其他代理的存在可以被看作是一个单一的代理设置的泛化,我们制定的IBA也提供了一个足够的统计决策抽象下的一个单一的代理。我们还详细讨论了与这些以前的作品的关系,确定了这些方法的新见解和解释。通过这些方式,本文加深了我们对抽象的理解,在广泛的顺序决策设置,为一大类问题的新方法和算法提供了基础。
2021-03-01 cs.AI cs.MA
Collective eXplainable AI: Explaining Cooperative Strategies and Agent Contribution in Multiagent Reinforcement Learning with Shapley Values
Université Paris-Saclay(巴黎萨克雷大学);Ubisoft(育碧);University of Granada(格拉纳达大学)
虽然可解释人工智能(XAI)正在不断扩展更多的应用领域,但很少有人应用于使深度强化学习(RL)更容易理解。随着RL变得无处不在,并用于关键和一般公共应用,开发使其更好地理解和更可解释的方法至关重要。这项研究提出了一种新的方法来解释合作策略,在多智能体RL使用Shapley值,博弈论的概念,在XAI,成功地解释了机器学习算法所采取的决定背后的理由。通过在两个以合作为中心的具有社会挑战性的多智能体环境中测试这种技术的常见假设,本文认为Shapley值是评估合作多智能体RL环境中参与者贡献的一种恰当方法。为了减轻这种方法的高开销,Shapley值近似使用Monte Carlo抽样。多智能体粒子和顺序社会困境的实验结果表明,Shapley值成功地估计每个代理的贡献。这些结果可能具有超越经济学游戏的影响,(例如,非歧视性决策,道德和负责任的人工智能衍生决策或公平约束下的政策制定)。它们还揭示了Shapley值如何仅给出关于模型的一般解释,而不能解释单个运行、事件,也不能证明代理所采取的精确行动是合理的。今后的工作应侧重于解决这些关键问题。
2021-10-04 cs.AI cs.GT cs.LG
Learning Game-Theoretic Models of Multiagent Trajectories Using Implicit Layers
Bosch Center for Artificial Intelligence(博世人工智能中心)
为了预测交互代理的轨迹,我们提出了一种端到端的可训练架构,该架构将神经网络与博弈论推理相结合,具有可解释的中间表示,并转移到下游决策。它使用一个网络来揭示代理人过去联合轨迹的偏好,以及将这些偏好映射到局部纳什均衡的可微隐式层,从而形成预测未来轨迹的模式。此外,它还学习了平衡细化概念。对于易处理性,我们引入了一类新的连续潜在的游戏和平衡分离分区的行动空间。我们提供了明确的梯度和健全的理论结果。在实验中,我们评估我们的方法在两个现实世界的数据集,在那里我们预测高速公路司机合并轨迹,并在一个简单的决策转移任务。
2022-02-18 cs.AI cs.GT cs.LG
Graph Neural Networks, Deep Reinforcement Learning and Probabilistic Topic Modeling for Strategic Multiagent Settings
School of Electrical
本文综述了图神经网络、深度强化学习和概率主题建模在战略多智能体设置中的应用与挑战,探讨了处理不确定性和异质性等关键问题。
2026-01-22 cs.AI
Towards a Better Understanding of Learning with Multiagent Teams
University of Waterloo(滑铁卢大学)
本文研究了多智能体团队结构如何影响个体学习智能体的有效学习,发现特定结构能促进智能体角色专业化并改善全局结果,而大型团队因信用分配挑战导致协调性下降,表现不如小型团队。
2023-06-28 cs.AI
Action Semantics Network: Considering the Effects of Actions in Multiagent Systems
Tianjin University(天津大学);Nanjing University(南京大学);Noah’s Ark Lab, Huawei(华为诺亚方舟实验室);NetEase Fuxi AI Lab(网易伏羲人工智能实验室)
在多智能体系统(MAS)中,每个智能体做出单独的决策,但所有这些决策都对系统的演化有全局贡献。MAS中的学习是困难的,因为每个代理的动作选择必须在其他共同学习代理的存在下进行。此外,环境的随机性和不确定性随着代理人数量的增加而呈指数增长。以前的作品借用各种多智能体协调机制到深度学习架构,以促进多智能体协调。然而,没有一个明确考虑代理之间的动作语义,不同的动作对其他代理的影响是不同的。在本文中,我们提出了一种新的网络体系结构,命名为动作语义网络(ESTA),明确表示代理之间的动作语义。基于Agent之间的动作语义,利用神经网络刻画不同动作对其他Agent的影响。它可以很容易地与现有的深度强化学习(DRL)算法相结合,以提高其性能。在星际争霸II微管理和神经MMO上的实验结果表明,与几种网络架构相比,DRL显著提高了最先进的DRL方法的性能。
2020-01-16 cs.AI cs.MA
Time-series Imputation of Temporally-occluded Multiagent Trajectories
DeepMind(深度思维);Liverpool Football Club(利物浦足球俱乐部)
在多智能体环境中,多个决策个体在遵守环境所施加的动态约束的同时进行交互。这些相互作用,加上代理人的决策过程的潜在随机性,使这样的系统复杂和有趣的研究从动态的角度来看。对智能体行为的前向估计的学习模型进行了大量研究,例如,用于自动驾驶汽车避免碰撞的行人预测。然而,在许多设置中,在给定的轨迹序列中,仅可获得代理的零星观察。例如,在足球比赛中,球员的子集可能会进入和离开广播视频镜头的视野,而未被观察到的球员继续在屏幕外进行交互。在本文中,我们研究了多智能体时间序列插补问题,其中可用的过去和未来的观察子集的代理人被用来估计其他代理人的缺失观测。我们的方法,称为图形输入器,使用前向和后向信息结合图形网络和变分自编码器,使学习的分布估算轨迹。我们评估我们的方法在足球比赛的数据集上,使用投影摄像机模块来训练和评估我们的模型用于屏幕外球员状态估计设置。我们说明了我们的方法优于几个国家的最先进的方法,包括那些手工制作的足球。
2021-06-08 cs.AI cs.LG cs.MA
On Quantified Observability Analysis in Multiagent Systems
University of Aberdeen(阿伯丁大学);University of Luxembourg(卢森堡大学)
针对多智能体系统中性能提升与观测信息泄露的权衡问题,提出基于 opacity 与 oPATL 的量化可观测性验证方法,并在 PRISM 中实现。
2023-10-04 cs.AI cs.MA
Actor-Critic Policy Optimization in Partially Observable Multiagent Environments
DeepMind(深度思考公司)
强化学习中参数化策略的优化是人工智能中一个重要而又具有挑战性的问题。其中最常见的方法是基于表示贴现收益的得分函数的梯度上升的算法。在本文中,我们研究的作用,这些策略梯度和演员批评的算法在部分可观察的多智能体环境。我们展示了几个候选的政策更新规则,并将它们与后悔最小化和多智能体学习技术的基础,一杆和表格的情况下,导致以前未知的收敛保证。我们将我们的方法应用于无模型多智能体强化学习在对抗顺序决策问题(零和不完美信息游戏),使用RL风格的函数逼近。我们评估常用的基准扑克域,显示性能对固定的政策和经验收敛到近似纳什均衡在自我发挥率类似或优于基线无模型算法的零和游戏,没有任何特定领域的状态空间减少。
2020-06-12 cs.AI cs.GT cs.LG
From Intelligent Agents to Trustworthy Human-Centred Multiagent Systems
University of Southampton(南安普顿大学)
南安普顿大学的智能体、交互和复杂性研究小组在多智能体系统(MAS)的研究方面有着悠久的历史。我们在MAS的学习、协调代理系统的博弈论技术以及表示和推理的形式化方法方面做出了大量的科学贡献。我们强调了该小组取得的主要成果,并详细阐述了最近的工作和开放的研究挑战,以开发值得信赖的自主系统和部署以人为本的人工智能系统,旨在支持社会公益。
2022-10-05 cs.AI cs.MA
A DRL-based Multiagent Cooperative Control Framework for CAV Networks: a Graphic Convolution Q Network
Purdue University(普渡大学);Carnegie Mellon University(卡内基梅隆大学)
互联自动驾驶车辆(CAV)网络可以定义为在多车道走廊上的不同位置运行的CAV的集合,它提供了一个平台,以促进操作信息和控制指令的传播。协同是CAV操作系统的关键,因为它可以大大提高操作的安全性和机动性,并通过CAV网络内的联合规划和控制,可以期望CAV之间的高水平的合作。然而,由于高度动态和组合的性质,如动态数量的代理(CAV)和指数增长的联合行动空间中的多智能体驾驶任务,实现合作控制是NP难的,不能由任何简单的基于规则的方法。此外,现有文献包含了关于自动驾驶的传感技术和控制逻辑的丰富信息,但关于如何融合从协作传感获得的信息并在融合信息之上构建决策处理器的指导相对较少。本文提出了一种新的基于深度强化学习(DRL)的方法,将图形卷积神经网络(GCN)和深度Q网络(DQN)相结合,即图形卷积Q网络(GCQ)作为信息融合模块和决策处理器。该模型可以聚合从协作传感和输出安全和合作的车道变换决策,多个CAV的信息,使个人的意图,即使在高度动态和部分观察的混合交通可以满足。所提出的算法可以部署在集中控制基础设施,如路边单元(RSU)或云平台,以改善CAV的操作。
2020-10-12 cs.AI cs.SY eess.SY
Exploiting Anonymity in Approximate Linear Programming: Scaling to Large Multiagent MDPs (Extended Version)
MIT Media Lab(麻省理工学院媒体实验室);University of Amsterdam(阿姆斯特丹大学);University of Liverpool(利物浦大学);Stanford University(斯坦福大学)
马尔可夫决策过程(MDP)的许多精确和近似的解决方法试图利用问题的结构,并基于价值函数的因式分解。然而,特别是多智能体设置,众所周知,遭受指数增长的价值组件的大小,因为相互作用变得更加密集,这意味着近似架构的限制,在问题的大小和类型,他们可以处理。我们提出了一种方法来减轻这种限制,某些类型的多智能体系统,利用一个属性,可以被认为是“匿名影响”的因素MDP。匿名影响有效地总结了联合变量的影响时,显式表示的变量身份的问题可以避免。我们展示了如何从匿名的代表性的好处转化为计算效率,无论是一般的变量消除因子图,但特别是也为近似的线性规划解决方案,因子化的MDP。后者允许将线性规划扩展到以前无法解决的分解的MDP。我们的研究结果显示,在一个密集连接的图与50个节点和25个代理的随机疾病过程的控制。
2016-02-20 cs.AI cs.MA
Coordinating Multiagent Industrial Symbiosis
University of Southampton(南安普顿大学);University of Twente(特文特大学)
我们提出了一个正式的多智能体框架协调一类协作的工业实践称为工业共生网络(ISNs)的合作游戏。ISN的博弈论公式使我们能够系统地推理我们所谓的ISN实现问题。具体而言,ISN的特点可能导致标准的公平和稳定的利益分配方法不适用。受现实的ISN的情况下,并遵循规范的多智能体系统的文献,我们认为法规和规范的社会经济政策的协调工具,结合ISN游戏解决的情况。在这个多智能体系统中,采用边际贡献网(MC网)作为基于规则的合作游戏表示促进法规和ISN游戏的组合,而不会损失表现力。我们开发的算法方法,用于生成法规,确保ISNs的可实施性,并作为一种政策支持,提出的政策要求,保证所有所需的ISNs的可实施性,在平衡预算的方式。
2020-06-02 cs.AI cs.GT cs.MA
Causes and Strategies in Multiagent Systems
Utrecht University(乌得勒支大学);Open University(开放大学)
本文针对多智能体策略场景缺乏因果研究的问题,提出将结构因果模型系统转化为因果并发博弈结构,以干预作为迁移并结合 Halpern-Pearl 框架分析智能体决策的因果效应。
2025-02-19 cs.AI cs.MA
Cooperative Path Planning with Asynchronous Multiagent Reinforcement Learning
Tongji University(同济大学);Aalto University(阿尔托大学)
本文针对多源-目的地最短路径问题中的异步决策挑战,提出asyn-MARL框架,通过子图划分、全局状态表示、轨迹去冗余、协同actor网络和可达性图,在合成与真实路网上实现了优于现有方法的协同路径规划。
2024-09-01 cs.AI
GAMMS: Graph based Adversarial Multiagent Modeling Simulator
University of Southern California(美国南加州大学)
GAMMS是一款轻量级多智能体仿真框架,支持图结构环境下的快速开发与评估,提供可视化反馈和现实基础,适用于复杂领域如交通和通信系统。
2026-02-04 cs.AI cs.RO cs.SE
Influence-Optimistic Local Values for Multiagent Planning --- Extended Version
University of Amsterdam(阿姆斯特丹大学);Delft University of Technology(代尔夫特理工大学);University of Liverpool(利物浦大学)
本文提出一种适用于非因子化价值函数的多智能体规划影响乐观上界方法,通过划分子问题并乐观假设系统影响,提供质量保证并改进启发式搜索效果。
2015-07-20 cs.AI cs.SY eess.SY
Individual specialization in multi-task environments with multiagent reinforcement learners
University Pompeu Fabra(庞培法布拉大学);ICREA(加泰罗尼亚研究与高级研究中心)
多智能体强化学习(MARL)作为构建通用智能体的第一步,在其他智能体存在的非平稳复杂环境中学习做出低级和高级决策,受到越来越多的关注。以前的结果指出,我们对协调,效率/公平,和共同池资源共享的条件增加。我们进一步研究协调在多任务环境中,可以执行几个奖励任务,因此代理不一定需要在所有任务中表现良好,但在某些条件下可能会专门。从这项研究中得出的一个观察是,基于值的强化学习方法的贪婪探索对于多智能体独立学习器是不够的,因为控制选择随机动作的概率的参数控制人工智能体,并迫使它们同时具有确定性策略。通过使用具有独立熵正则化探索更新的基于策略的方法,我们实现了更好和更平滑的收敛。另一个需要进一步调查的结果是,随着代理人数量的增加,专业化倾向于更有可能。
2019-12-29 cs.AI cs.MA
SIMMF: Semantics-aware Interactive Multiagent Motion Forecasting for Autonomous Vehicle Driving
Purdue University(普渡大学)
针对自动驾驶中多智能体运动预测忽视语义信息且距离剪枝不充分的问题,提出SIMMF方法,结合语义与空间信息,通过语义感知选择和注意力机制提取全局编码,生成运动策略,实现更准确和场景一致的预测。
2023-10-12 cs.AI cs.CV cs.LG
Learning in Cooperative Multiagent Systems Using Cognitive and Machine Models
University of Dayton(代顿大学);Carnegie Mellon University(卡内基梅隆大学)
针对协作式多智能体系统在随机奖励下学习与协调困难的问题,提出三种融合 IBLT 认知机制与 MADRL 技术的 MAIBL 模型,并在 CMOTP 中验证其学习更快、协调更好。
2023-08-18 cs.AI cs.MA
The Neural MMO Platform for Massively Multiagent Research
MIT(麻省理工学院);Stanford(斯坦福大学);Google Brain(谷歌大脑)
神经MMO是一个计算可访问的研究平台,它结合了大型代理群体,长时间视野,开放式任务和模块化游戏系统。现有的环境具有这些属性的子集,但Neural MMO是第一个将它们全部结合起来的环境。我们将Neural MMO作为免费和开源软件提供,并提供积极的支持,持续的开发,文档以及额外的培训,日志记录和可视化工具,以帮助用户适应这种新的设置。平台上的初始基线表明,在大规模人群中接受过培训的代理人会探索更多内容并学习技能。我们提出了其他更困难的问题,如多个团队合作作为开放的研究问题,神经MMO非常适合回答。最后,我们讨论了平台的当前局限性,潜在的缓解措施和持续发展的计划。
2021-10-14 cs.AI cs.LG cs.MA
A multiagent based framework secured with layered SVM-based IDS for remote healthcare systems
University of Tabriz(大不里士大学)
由于在医院和医疗中心的老年人和患者数量不断增加,提供高效的远程医疗服务显得非常重要。目前,大多数这样的系统受益于多智能体系统的分布和自治特性和无线传感器网络的结构。一方面,保护远程医疗系统的数据是最重要的问题之一;特别是最近关于远程医疗系统安全性的研究,使其免受窃听和数据修改。另一方面,现有的远程医疗系统仍然容易受到医疗网络的其他常见攻击,例如拒绝服务(DoS)和用户到根(U2 R)攻击,因为它们是远程管理的并且基于互联网。因此,在本文中,我们提出了一个安全的框架,包括两个阶段的远程医疗系统。首先,我们设计了一个基于多智能体技术的医疗保健系统,从传感器网络中收集数据。然后,在第二阶段,一个分层的入侵检测系统的架构,使用支持向量机学习的网络流量的行为。基于我们的框架,我们实现了一个安全的远程医疗系统,并评估该系统对医疗网络的频繁攻击,如蓝精灵,缓冲区溢出,海王星,和Pod攻击。最后,通过对入侵检测系统分层结构的评价参数,验证了该框架的有效性和正确性。
2021-04-13 cs.AI cs.CR
AKIBoards: A Structure-Following Multiagent System for Predicting Acute Kidney Injury
University of California, Los Angeles(加州大学洛杉矶分校)
提出遵循结构的多智能体框架STRUC-MAS,通过学习全局模型作为智能体先验信念,在急性肾损伤预测任务中提升了多智能体共识驱动的诊断推理与分类性能。
2025-04-29 cs.AI cs.LG cs.MA
Bayesian Promised Persuasion: Dynamic Forward-Looking Multiagent Delegation with Informational Burning
Electrical and Computer Engineering, New York University(纽约大学电气与计算机工程系)
本文研究了一个委托人将决策权委托给一组知情的代理人的动态机制设计问题。我们认为,主要的私人拥有完整的知识,状态转换和研究她如何可以使用她的私人观察,以支持激励相容性的代表团通过信息燃烧,一个过程中,我们称之为前瞻性的说服。代理机制制定中,代理人形成的信念层次结构,由于说服和发挥动态贝叶斯博弈。我们提出了一种新的随机机制,称为贝叶斯承诺的代表团(BPD),其中定期激励相容性是由未来代表团的说服和承诺保证。我们证明了在平稳马尔可夫完美贝叶斯均衡中,BPD可以实现与原始机制相同的最优社会福利。建立了一个类似启示原则的设计制度,以表明与信念层次的说服,可以充分表征相关的随机化的代理的本地BPD机制与说服作为一个直接推荐的未来的承诺。
2022-01-16 cs.AI cs.GT cs.SY
Tosca: Operationalizing Commitments Over Information Protocols
Lancaster University(兰卡斯特大学);North Carolina State University(北卡罗来纳州立大学)
承诺的概念被广泛研究作为一个高层次的抽象建模多智能体交互。一个重要的挑战是支持灵活、分散地颁布承诺规格。在本文中,我们结合了最近的进展,指定的承诺和信息协议。具体来说,我们贡献托斯卡,一种技术,用于自动合成信息协议的承诺规范。我们的主要结果是,综合协议支持承诺对齐,这是代理人必须作出兼容的推断,尽管他们的承诺分散的想法。
2017-08-10 cs.AI
AgenticAD: A Specialized Multiagent System Framework for Holistic Alzheimer Disease Management
University of Missouri-Columbia(密苏里大学哥伦比亚分校)
本文提出AgenticAD框架,利用八个专业化AI智能体协作,整合照护支持、数据分析与多模态工作流,以实现阿尔茨海默病的全面管理,改善患者预后并减轻照护负担。
2025-09-01 cs.AI cs.HC cs.MA
Peer Oversight in Collective Decision Making
University of Southampton(南安普顿大学);School of Electronics and Computer Science(电子与计算机科学学院)
本文提出同行$k$-监督属性,证明其可通过$k$个代理人实现,给出多项式时间算法判断并构造控制权重新分配,确立其为多代理人决策系统的易处理设计原则。
2026-09-01 cs.AI cs.GT cs.MA
Mastering the Game of Stratego with Model-Free Multiagent Reinforcement Learning
DeepMind(深度思维)
我们介绍DeepNash,一个自主智能体,能够从头开始学习玩不完美信息游戏,直到人类专家的水平。围棋是人工智能(AI)尚未掌握的少数标志性棋盘游戏之一。这种流行的游戏具有$10^{535}$节点数量级的巨大游戏树,即,比围棋大$10^{175}$倍。它具有额外的复杂性,需要在不完全信息下进行决策,类似于德州扑克,其具有明显较小的游戏树($10^{164}$节点数量级)。决策是在大量离散的行动中做出的,行动和结果之间没有明显的联系。Episode很长,在玩家获胜之前通常有数百步移动,并且在扑克中的情况不能像扑克那样容易地分解为可管理的大小子问题。由于这些原因,几十年来,人工智能领域一直面临着巨大的挑战,现有的人工智能方法几乎没有达到业余水平。DeepNash使用了一种基于博弈论的无模型深度强化学习方法,无需搜索,通过自我游戏学习掌握围棋。正则化纳什动态(R-NaD)算法是DeepNash的关键组成部分,它通过直接修改底层的多智能体学习动态来收敛到近似的纳什均衡,而不是围绕它“循环”。DeepNash击败了Stratego中现有的最先进的人工智能方法,并在Gravon游戏平台上取得了年度(2022年)和历史上的前三名排名,与人类专家玩家竞争。
2022-06-30 cs.AI cs.GT cs.MA
A Multi-Agent Framework with Automated Decision Rule Optimization for Cross-Domain Misinformation Detection
School of Informatics, Xiamen University, China(厦门大学信息学院);Unisound Al Technology, China(Unisound Al Technology);Shanghai Artificial Intelligence Laboratory, China(上海人工智能实验室)
针对跨领域虚假信息检测中分析不足和人工决策规则泛化性差的问题,提出多智能体框架MARO,通过专家分析、问题反思和自动决策规则优化实现显著性能提升。
2025-09-23 cs.AI
A Multiagent CyberBattleSim for RL Cyber Operation Agents
Carleton University(卡尔顿大学);Defence Research and Development Canada(加拿大国防研究与发展局)
本文扩展 CyberBattleSim 以支持防御型蓝方智能体训练,并通过单独及红蓝联合训练验证联合训练可显著增强防御复杂攻击的能力。
2023-04-03 cs.AI cs.CR cs.LG
On State Variables, Bandit Problems and POMDPs
Princeton University(普林斯顿大学)
状态变量很容易成为序列决策问题中最微妙的维度。在主动学习问题(“强盗问题”)的背景下尤其如此,在这种情况下,决策会影响我们观察和学习的内容。我们描述了我们的规范框架,模型{ \it任何}顺序决策问题,并提出我们的状态变量的定义,使我们能够声称:任何正确建模的顺序决策问题是马尔可夫。然后,我们提出了一个新的两个代理的角度来看,部分可观察马尔可夫决策问题(POMDPs),使我们能够然后声称:任何模型的一个真正的决策问题是(可能)非马尔可夫。我们使用观察和治疗人群中的流感的背景来说明这些观点,并提供在这种情况下的所有四类政策的例子。我们关闭的指示如何将这种思想扩展到多智能体问题。
2020-02-14 cs.AI cs.LG stat.ML
Information Modeling for a Dynamic Representation of an Emergency Situation
Le Havre University(勒阿弗尔大学)
在本文中,我们提出了一种方法来建立一个决策支持系统,可以帮助应急规划人员和响应人员检测和管理紧急情况。该系统的内部机制与所处理的应用程序无关。因此,我们认为该系统可以很容易地用于或适应不同的案例研究。我们在这里集中在决策支持过程中的第一步,它涉及到的建模信息从感知环境和他们的代表动态使用多智能体系统。该模型已应用于RoboCupRescue仿真系统。这里给出了一个实现和一些结果。
2009-05-27 cs.AI cs.MA
EcoNet: Multiagent Planning and Control Of Household Energy Resources Using Active Inference
VERSES, Los Angeles, CA, USA(VERSES, 美国洛杉矶州);Spatial Web Foundation, Los Angeles, CA, USA(空间网络基金会, 美国洛杉矶州);Dept. of Engineering and Informatics, Univ. of Sussex, Brighton, UK(工程与信息学系, 英国苏塞克斯大学);Institut Sante et societe, UQAM, Montreal, CAN(健康与社会研究所, 加拿大蒙特利尔);Macquarie University, Sydney, AUS(麦考瑞大学, 澳大利亚悉尼);LearnableLoopAI.com, Custer, WA, USA(LearnableLoopAI.com, 美国华盛顿州);Queen Square Institute of Neurology, UCL, London, UK(queen square 神经学研究所, 英国伦敦大学学院)
EcoNet通过主动推断方法,解决家庭能源管理中的不确定性及多目标冲突问题,提升能源调度与协调效率。
2025-12-14 cs.AI cs.MA cs.SY
Seq2Seq Mimic Games: A Signaling Perspective
University of Strathclyde(思克莱德大学)
我们研究了经典模仿游戏启发的多智能体对抗环境中通信的出现。一类三人游戏用于探索基于序列到序列(Seq 2Seq)模型的代理如何学习在对抗环境中传达信息。我们提出了一个建模方法,一组初始的实验,并使用信号理论来支持我们的分析。此外,我们描述了我们如何操作的演员-评论家Seq 2Seq为基础的代理在这些通信游戏的学习过程。
2018-11-15 cs.AI
TinyTroupe: An LLM-powered Multiagent Persona Simulation Toolkit
Microsoft Corporation(微软公司);Dipeak Technology(迪佩克技术)
针对现有LLM多智能体系统在细粒度人物模拟方面的不足,提出TinyTroupe工具包,支持详细人物定义和程序化控制,用于行为研究和社会模拟。
2026-06-09 cs.AI cs.CL cs.HC
Towards a Decentralized, Autonomous Multiagent Framework for Mitigating Crop Loss
University of Georgia(佐治亚大学)
我们提出了一个广义的决策理论系统的异质团队的自主智能体谁的任务是在线识别表型表达的压力在作物领域。该系统采用四种不同类型的代理,具体到四个可用的传感器模态:卫星(第3层),无人驾驶飞行器(L2),无人驾驶地面车辆(L1),和静态地面传感器(L0)。层3、层2和层1的任务是以传感器模态的可用分辨率执行图像处理,并与层0传感器生成的数据一起识别随时间出现的错误差异。我们的目标是限制更多的计算和时间昂贵的后续层的使用。因此,从第3层到第1层,每一层仅调查先前层已识别为可能受应力影响的区域。我们介绍了一种强化学习技术的基础上Perkins的蒙特卡洛探索开始的广义马尔可夫模型的每一层的决策问题,并标记系统的农业分布式决策框架(ADDF)。由于我们的领域是现实世界和在线,我们说明了我们的系统的两个主要组成部分的实现:基于聚类的图像处理方法和两层POMDP实现。
2019-01-07 cs.AI
HECATE: An ECS-based Framework for Teaching and Developing Multi-Agent Systems
Universidade de São Paulo(圣保罗大学)
HECATE是一个基于实体-组件-系统架构模式的新型框架,从分布式系统视角简化多智能体系统开发,通过减少智能体专门知识需求并利用DS模式,支持多种智能体模型。
2025-09-08 cs.AI cs.MA
Optimal Decision-Making in Mixed-Agent Partially Observable Stochastic Environments via Reinforcement Learning
在多智能体相互作用的随机环境中,有限信息或无信息的最优决策是人工智能领域中一个具有挑战性的课题。强化学习(RL)是一种通过预测刺激(如遵循策略的奖励)来获得最佳策略的流行方法。强化学习在单智能体环境中得到了大量的探索,但在多智能体问题中还是一个新生的概念。为此,我提出了几个原则性的无模型和部分基于基于模型的强化学习方法的多智能体设置。在规范的强化学习领域,我介绍了可扩展的扩展蒙特卡洛探索开始部分可观察马尔可夫决策过程(POMDP),被称为MCES-P,在那里我扩展的理论和算法的多智能体设置。我首先检查MCES-P与可能近似正确(PAC)的范围内的多智能体设置,显示MCESP+PAC持有在其他代理的存在。然后,我提出了一个更具样本效率的方法,对抗设置,MCESIP+PAC。对于协作设置,我将MCES-P扩展到Multiagent POMDP,称为MCESMP+PAC。然后,我将探索使用强化学习作为在现实和潜在模型环境中搜索最优值的方法。首先,我探讨了一个参数化的Q学习方法在建模人类学习的原因在一个不确定的,多智能体的环境。接下来,我提出了一个MCES-P的实现,以及图像分割,以创建一个自适应的团队为基础的强化学习技术,积极识别表型表达的水和病原体胁迫在农田中的存在。
2019-01-04 cs.AI cs.LG
On the Complexity of Rational Verification
Monash University(莫纳什大学);University of Kaiserslautern(凯泽斯劳滕大学);Sapienza University of Rome(罗马第一大学);University of Oxford(牛津大学)
理性验证是指检查并发多智能体系统的时间逻辑属性的问题,假设系统中的代理选择形成博弈论均衡的策略。理性验证可以被理解为多智能体系统的模型检验的对应物,但是虽然经典的模型检验可以在多项式时间内完成一些时态逻辑规约语言,如CTL,多项式空间与LTL规范,理性验证要困难得多:理性验证的关键决策问题是2 EXPTIME-完全与LTL规范,即使使用显式状态系统表示。在此背景下,我们在本文中的贡献是三方面的。首先,我们表明,合理验证的复杂性可以大大降低限制规格GR(1),一个片段的LTL,可以代表一个广泛的和实际有用的一类反应系统的响应特性。特别是,我们表明,对于一些相关的设置,合理的验证可以在多项式空间,甚至在多项式时间。其次,我们提供了改进的复杂性结果,合理的验证时,考虑球员的目标给出的平均回报效用函数,可以说是最广泛使用的方法,在并发和多智能体系统的定量目标。最后,我们考虑了满足社会福利约束的计算结果的问题。为此,我们考虑功利主义和平等主义的社会福利,并表明计算这样的结果是PSPACE完全或NP完全。
2022-07-06 cs.AI cs.LO cs.MA
PantheonRL: A MARL Library for Dynamic Training Interactions
Stanford University(斯坦福大学)
PantheonRL是一个多智能体强化学习库,支持循环赛、自适应和ad-hoc等动态训练交互,基于StableBaselines3构建,提供灵活的智能体配置和Web界面,适用于混合奖励和n个智能体的通用环境。
2021-12-13 cs.AI cs.LG cs.MA
From Triggers to Emotions: A CPM-Grounded Appraisal Multi-Agent for Dynamic Emotional Evolution in Persona-Based Dialogue
National Centre for Computer Animation(国家计算机动画中心);Information Hub(信息中心);Key Laboratory of Child Cognition & Behavior Development of Hainan Province(海南省儿童认知与行为发展重点实验室);Chief Technology Officer(首席技术官);School of Health and Care(健康与护理学院)
针对基于角色对话中情感模拟的局限,借鉴CPM理论提出CPM - MultiAgent框架,通过情感触发提取、协作评估和状态更新实现情感一致的角色模拟,经多种实验验证能有效模拟动态情感演变。
2026-07-10 cs.AI cs.MA
Survey of Various Fuzzy and Uncertain Decision-Making Methods
本文综述了考虑不确定性的多准则决策方法,分类了任务导向的体系结构,总结了问题设置、权重获取及跨准则结构,并对比了不同解决方案,提供了选择方法的指导。
2026-03-16 cs.AI cs.CE cs.CY
Towards an Intelligent System for Risk Prevention and Management
Laboratoire d'Informatique de Traitement de l'Information et des Systèmes(信息与系统处理计算机实验室);University of Le Havre(勒阿弗尔大学)
由于缺乏信息、信息的不确定性以及规划者对事件未来演变的不了解,在多变和动态的环境中作出决定是一项艰巨的任务。使用决策支持系统是解决这一问题的有效方法。这种系统可以帮助紧急情况规划者和反应者发现可能的紧急情况,并建议和评估处理紧急情况的可能行动方针。我们感兴趣的是我们的工作,监测预防和应急管理系统的建模,其中我们强调的通用方面。在本文中,我们提出了一个基于代理的体系结构,这个系统,我们描述了我们的方法,这是建模的信息和他们的表示使用多智能体系统的第一步。
2009-04-20 cs.AI cs.MA
The Fairness Fair: Bringing Human Perception into Collective Decision-Making
Pennsylvania State University(宾夕法尼亚州立大学)
本文提出将人类感知融入集体决策中的公平性,强调公平方案需被社会规划者认可、受人类认知支配且可验证,并倡导跨学科研究以应对当前公平分配文献的挑战。
2023-12-22 cs.AI cs.GT cs.MA
Modeling Human Ad Hoc Coordination
Massachusetts Institute of Technology(麻省理工学院)
无论是在人类群体还是计算机代理群体中,有能力协调集体行动的联合策略的个人之间的合作是最有效的。然而,一般来说,一个理性的行动者只有在相信其他群体成员也有同样的意图时,才会打算进行协调。这种循环依赖使得在不确定的环境中,如果行为者之间的沟通不可靠,事先没有达成协议,就很难进行合理的协调。因此,在这些特设环境中进行协调的一个重要的规范性问题是,人们如何能够相信其他行为者将进行协调,而在涉及人类的系统中,一个重要的经验性问题是,人类如何达到这些期望。我们引入了一个精确的算法来计算在不确定环境中的理性协调所需的分级信念的无限递归层次,我们引入了一种新的机制,多智能体协调,使用它,我们的算法是有效的,在任何环境中的有限状态空间,并扩展到某些可数无限状态空间是可能的。我们测试我们的多智能体协调机制作为一个模型,在一个简单的协调游戏,使用现有的实验数据的人类决策。然后,我们通过模拟来探索以这种方式对人类进行建模是否可以改善人类与智能体的协作。
2016-02-11 cs.AI cs.GT cs.MA