Adversarial Cooperative Rationalization: The Risk of Spurious Correlations in Even Clean Datasets
School of Computer Science(计算机科学学院);Technology, Huazhong University of Science(科学技术大学技术学院);Faculty of Artificial Intelligence in Education, Central China Normal University(教育人工智能学院,中国中部师范大学)
本研究揭示协作合理化框架中生成器可能引入采样偏差,导致虚假相关性,并提出对抗性指令防止预测器学习该偏差,在多个数据集上优于现有方法并媲美大语言模型。
2025-08-06 cs.AI
Evolutionary Enhanced Multi-Agent Reinforcement Learning for Cooperative Air Combat
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
针对多机协同空战中现有MARL方法探索效率低、样本利用率低和策略泛化差的问题,提出ACE-MAPPO混合学习框架,融合进化算法与MAPPO,通过遗传软更新、进化优先轨迹回放和对抗进化课程学习机制提升性能。
2026-05-24 cs.AI
CuDA2: An approach for Incorporating Traitor Agents into Cooperative Multi-Agent Systems
本文提出CuDA2框架,通过向协作多智能体系统注入叛变智能体进行更真实的对抗攻击,利用预训练RND模块生成额外奖励以提升叛变者的探索效率和攻击性,在SMAC实验中展现出优于基线的攻击能力。
2024-06-25 cs.AI cs.CR cs.LG
Adversarial attacks in consensus-based multi-agent reinforcement learning
University of Notre Dame(圣母大学)
近年来,许多合作分布式多智能体强化学习(MARL)算法已在文献中提出。在这项工作中,我们研究了对抗性攻击对采用基于共识的MARL算法的网络的影响。我们证明了一个对抗性代理可以说服网络中的所有其他代理实施优化其期望目标的策略。从这个意义上说,标准的基于共识的MARL算法是脆弱的攻击。
2021-03-11 cs.AI cs.LG cs.SY
Learning Reward Machines in Cooperative Multi-Agent Tasks
Imperial College London(伦敦帝国学院)
本文提出一种结合合作任务分解与奖励机器(RMs)学习的多智能体强化学习方法,通过去中心化学习子任务RMs引导智能体行为,降低问题复杂度,提升部分可观测环境下学习有效性与策略可解释性。
2023-05-24 cs.AI cs.MA cs.SC
Co-Evolving Complexity: An Adversarial Framework for Automatic MARL Curricula
Department of Computer Science University of Wisconsin-Madison(计算机科学系 明尼苏达大学)
提出将环境生成构建为对抗博弈的协同演化框架,通过攻击者与多智能体防守方共同进化,自动生成无限且自适应的挑战课程,有效扩展环境复杂性并驱动智能体涌现复杂鲁棒的协作策略。
2025-11-04 cs.AI cs.LG cs.MA
Multi-Agent Generative Adversarial Imitation Learning
Stanford University(斯坦福大学)
模仿学习算法可用于从专家演示中学习策略,而无需访问奖励信号。然而,大多数现有的方法是不适用于多智能体设置由于存在多个(纳什)均衡和非平稳环境。我们提出了一个新的框架,多智能体模仿学习一般马尔可夫游戏,在那里我们建立在广义逆强化学习的概念。我们进一步介绍了一个实用的多代理actor-critic算法具有良好的经验性能。我们的方法可以用来模仿复杂的行为在高维环境中的多个合作或竞争代理。
2018-07-26 cs.AI cs.LG cs.MA
Sparse Adversarial Attack in Multi-agent Reinforcement Learning
协作多智能体强化学习(cMARL)有很多实际应用,但现有cMARL算法训练的策略在部署时不够鲁棒。针对强化学习系统的对抗攻击也有很多方法,这意味着强化学习系统可以遭受对抗攻击,但大多数研究都集中在单Agent强化学习上。在本文中,我们提出了一个\textit{sparse adversarial attack}的cMARL系统。我们使用带有正则化的(MA)RL来训练攻击策略。我们的实验表明,当前cMARL算法训练的策略在团队中只有一个或几个代理时(例如,8个中的1个或25个中的5个)在几个时间步(例如,总共40个时间步中的攻击3)。
2022-08-08 cs.AI
AIR: Unifying Individual and Collective Exploration in Cooperative Multi-Agent Reinforcement Learning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出基于身份识别的自适应探索方法 AIR,通过身份分类器与动作选择器的对抗机制,在合作多智能体强化学习中统一并促进个体与集体探索,提升训练效率与任务表现。
2024-12-30 cs.AI cs.LG cs.MA
Robust and Diverse Multi-Agent Learning via Rational Policy Gradient
UC Berkeley(加州大学伯克利分校);Google Deepmind(谷歌DeepMind)
针对对抗性优化在协作多智能体场景中易导致智能体自我破坏的问题,提出理性保留策略优化(RPO)形式及理性策略梯度(RPG)方法,确保智能体理性以避免自我破坏,扩展对抗性优化算法并在协作和一般和环境中取得优异性能。
2025-11-12 cs.AI
Cooperative AI via Decentralized Commitment Devices
Flashbots;Robust Incentives Group(鲁棒激励小组);Ethereum Foundation(以太坊基金会);Pantera Capital;Imperial College London(伦敦帝国理工学院)
本文探讨去中心化承诺机制在合作型AI中的应用,指出其能协调智能体对抗经济激励强大的对手,并呼吁加强相关研究与实证测试框架建设。
2023-11-14 cs.AI cs.CR cs.GT
Wolfpack Adversarial Attack for Robust Multi-Agent Reinforcement Learning
Graduate School of Artificial Intelligence, UNIST, Ulsan, South Korea(人工智能研究生院,UNIST,韩国乌山)
本文提出狼群对抗攻击框架,用于对抗多智能体强化学习中的协同对抗攻击,并引入狼群-对抗学习框架来训练鲁棒的MARL策略以防御该攻击。
2025-06-18 cs.AI cs.CR cs.LG
Discovering Causality for Efficient Cooperation in Multi-Agent Environments
Institute for Digital Technologies(数字技术研究所);Loughborough University London(拉夫堡大学伦敦校区)
本文研究多智能体强化学习中的懒惰智能体问题,利用因果关系估计改进信用分配,并采用摊销因果发现自动检测因果,以惩罚懒惰智能体,提升团队及个体性能。
2023-06-20 cs.AI cs.LG cs.MA
Token Manipulation Generative Adversarial Network for Text Generation
MaskGAN通过填充给定标记之间的空白来打开条件语言模型的查询。在本文中,我们专注于解决必须指定要填充的空白所造成的限制。我们将条件文本生成问题分解为两个任务,使一个空白和填写空白,并扩展前者处理更复杂的操作给定的令牌。我们将这些任务作为一个分层的多代理RL问题,并引入了一个条件对抗学习,允许代理达到一个目标,在合作环境中产生现实的文本。我们表明,该模型不仅解决了局限性,但也提供了良好的结果,而不影响性能的质量和多样性。
2020-05-11 cs.AI cs.LG stat.ML
Adversarial Attacks in Cooperative AI
Pacific Northwest National Laboratory(太平洋西北国家实验室);The City College of New York(纽约市立学院);Grove School of Engineering(格罗夫工程学院);City University of New York(纽约城市大学)
多智能体环境中的单智能体强化学习算法不足以促进合作。如果智能代理要进行交互并共同解决复杂问题,则需要对抗非合作行为的方法来促进多个代理的训练。这就是合作AI的目标。然而,最近对对抗性机器学习的研究表明,模型(例如,图像分类器)可以容易地被欺骗而做出较差的决定。与此同时,合作AI的一个重要研究方向集中在引入算法改进,以加速最佳合作行为的学习。我们认为,突出的合作人工智能的方法暴露出类似于以前的机器学习研究中研究的弱点。更具体地说,我们表明,受类人社交智能启发的三种算法原则上容易受到利用合作AI算法改进引入的弱点的攻击,并报告了实验结果,说明了如何在实践中利用这些漏洞。
2022-03-08 cs.AI cs.LG cs.MA
A Survey of Decision Making in Adversarial Games
Tongji University(同济大学);Shanghai Research Institute for Intelligent Autonomous Systems(上海智能自主系统研究院);Institute for Advanced Study, Tongji University(同济大学高等研究院)
到目前为止,博弈论已经在各个领域得到了广泛的应用,包括经济学、工业、法学和人工智能,其中每个参与者只以非合作或合作的方式关心自己的利益,但对其他参与者没有明显的恶意。然而,在许多实际应用中,如扑克、国际象棋、追捕逃犯、缉毒、海岸警卫队、网络安全和国防等,玩家往往具有明显的对抗性立场,即每个玩家的自私行为不可避免地或故意地对其他玩家造成损失或破坏。沿着这一思路,本文提供了一个系统的调查三个主要的游戏模型广泛应用于对抗游戏,即,零和正规形式和扩展形式游戏,Stackelberg(安全)游戏,零和微分游戏,从一系列的角度,包括游戏模型的基础知识,(近似)均衡概念,问题分类,研究前沿,(近似)最优策略寻求技术,流行的算法和实际应用。最后,也讨论了相关对抗游戏的未来研究方向。
2022-07-16 cs.AI cs.GT
Topology Enhanced MARL for Multi-Agent Cooperative Decision-Making of CAVs
School of Automotive Studies, Tongji University(同济大学汽车学院)
本文针对连续环境多智能体协同决策的维度灾难问题,提出TPE-MARL算法,通过游戏拓扑张量与双内在奖励机制优化,在CAV协同决策任务中实现接近最优性能与零样本泛化能力。
2026-08-04 cs.AI
Cooperative Open-ended Learning Framework for Zero-shot Coordination
The University of Manchester(曼彻斯特大学);Shanghai Jiao Tong University(上海交通大学);King’s College London(伦敦国王学院)
针对合作AI零样本协作中的协作不相容问题,提出融合图论与博弈论的COLE开放式学习框架,并在Overcooked中验证其优于现有方法。
2024-02-28 cs.AI cs.LG
Learning Dexterous Bimanual Catch Skills through Adversarial-Cooperative Heterogeneous-Agent Reinforcement Learning
Electronics and Telecommunications Research Institute (ETRI)(电子通信研究院(ETRI))
针对双手机器人抓取的协调控制难题,提出基于HARL的对抗-合作框架,让投掷智能体动态增加难度、抓取智能体学习双手协作,并在15种物体仿真中取得约2倍于单智能体基线的奖励。
2025-02-17 cs.AI cs.RO
A Unified Framework for Planning in Adversarial and Cooperative Environments
Arizona State University(亚利桑那州立大学)
人工智能系统的用户可以依靠它们来制定实现预期目标的计划。这样的人工智能系统应该能够计算模糊的计划,在对抗情况下执行这些计划可以保护隐私,以及在合作情况下团队成员容易理解的清晰计划。我们开发了一个统一的框架,解决这些双重问题的计算计划,从一个部分知情的观察员的角度来看,具有所需的可理解性水平。对于对抗性设置,我们的方法产生模糊计划,其观察结果与一组诱饵目标中的至少k个目标一致。通过稍微改变我们的框架,我们提出了一种方法,在合作设置的目标易读性,产生计划,实现一个目标,同时符合最多j个目标,从一组混杂的目标。此外,我们展示了如何观察者的可观测性可以控制,以混淆或澄清计划中的下一个行动时,目标是已知的观察者。我们提出的理论结果,我们的问题的复杂性分析。我们演示了使用物理机器人Fetch在烹饪域中执行模糊和清晰的计划。我们还提供了一个实证评估,以显示我们的方法使用IPC域的可行性和实用性。
2018-07-26 cs.AI
Signaling Friends and Head-Faking Enemies Simultaneously: Balancing Goal Obfuscation and Goal Legibility
Arizona State University(亚利桑那州立大学)
为了在现实世界中发挥作用,人工智能智能体需要在其他人在场的情况下进行计划和行动,这些人可能包括敌对和合作实体。在本文中,我们考虑的问题,一个自主智能体需要采取行动的方式,澄清其目标的合作实体,同时防止敌对实体推断这些目标。我们表明,这个问题是可解决的合作实体和对抗实体使用不同类型的传感器和/或先验知识。我们开发了两个新的解决方案的方法来计算这样的计划。一种方法提供了一个最佳的解决方案的问题,通过使用IP求解器提供最大的混淆的敌对实体,同时提供最大的易读性的合作实体的环境中,而另一种方法提供了一个令人满意的解决方案,使用启发式引导的前向搜索,以实现预先设定的水平的混淆和易读性的敌对和合作实体分别。我们展示了我们的算法的可行性和实用性,通过广泛的实证评估问题来自规划基准。
2020-01-24 cs.AI
CaCo: Both Positive and Negative Samples are Directly Learnable via Cooperative-adversarial Contrastive Learning
Purdue University(普渡大学);Shanghai University(上海大学);Futurewei Seattle Cloud Lab(Futurewei西雅图云实验室)
对比学习作为一种有代表性的自监督学习方法,在表征的无监督训练方面取得了巨大的成功。它通过区分给定查询锚的正样本和负样本来训练编码器。这些正样本和负样本在定义学习判别式编码器的目标方面起着关键作用,避免了学习琐碎的特征。虽然现有的方法选择这些样本,但我们提出了一种原则性的方法,其中正负样本都可以直接与编码器端到端学习。我们表明,积极和消极的样本可以通过最小化和最大化的对比损失,分别合作和对抗学习。这就产生了关于编码器的合作积极和对抗消极,它们被更新以连续跟踪小批量查询锚点的学习表示。该方法在ImageNet 1 K上预训练ResNet-50主干的200和800个epoch中分别达到了71.3%和75.3%的前1准确率,而没有多作物或更强的增强等技巧。通过多作物,它可以进一步提高到75.7%。源代码和预训练模型在https://github.com/maple-research-lab/caco中发布。
2022-03-27 cs.AI cs.CV
Adversarial Yet Cooperative: Multi-Perspective Reasoning in Retrieved-Augmented Language Models
East China Normal University(华东师范大学);Baidu Inc.(百度公司);Southeast University(东南大学)
本文提出对抗推理RAG框架,通过推理与验证的对抗机制提升检索增强语言模型的多视角推理能力与验证严谨性。
2026-01-09 cs.AI cs.IR cs.MA
FedRio: Personalized Federated Social Bot Detection via Cooperative Reinforced Contrastive Adversarial Distillation
National Engineering Laboratory for Big Data Analysis and Applications, Peking University(北京大学大数据分析与应用技术国家工程实验室)
本文提出FedRio框架,通过自适应消息传递模块、联邦知识提取机制和多阶段对抗对比学习策略,提升跨平台社交机器人检测的准确性和一致性,同时在隐私保护下优于现有联邦学习基线。
2026-04-12 cs.AI cs.LG
Multi-Vehicle Cooperative Control Using Mixed Integer Linear Programming
我们提出的方法来综合多车辆控制问题的合作策略,使用混合整数线性规划。复杂的多车辆控制问题被表示为混合逻辑动态系统。这些系统的最优策略,然后解决使用混合整数线性规划。我们激励的方法来自两队机器人之间的对抗性游戏的问题,称为RoboFlag。我们假设一个团队的策略是固定的,并由状态机控制。其他团队的策略是使用我们的方法生成的。最后,我们进行了一个平均情况下的计算复杂性研究我们的方法。
2005-01-31 cs.AI cs.MA cs.RO
Cooperative Distribution Alignment via JSD Upper Bound
Purdue University(普渡大学)
无监督分布对齐估计将两个或更多个源分布映射到共享对齐分布的转换,仅给定每个分布的样本。该任务有许多应用,包括生成建模、无监督领域自适应和社会意识学习。大多数先前的作品使用对抗学习(即,最小-最大优化),这对于优化和评估可能是具有挑战性的。一些最近的作品探索了基于非对抗性流(即,可逆)方法,但它们缺乏统一的视角,并且在有效地对齐多个分布方面受到限制。因此,我们建议在一个单一的非对抗性框架下统一和推广以前的基于流的方法,我们证明这相当于最小化Jensen-Shannon Divergence(JSD)的上界。重要的是,我们的问题简化为一个极小,即,合作,问题,并可以提供一个自然的评价指标,无监督的分布对齐。我们在模拟和真实世界的数据集上展示了实证结果,以证明我们的方法的好处。代码可在https://github.com/inouye-lab/alignment-upper-bound上获得。
2022-11-01 cs.AI cs.LG
A non-cooperative meta-modeling game for automated third-party calibrating, validating, and falsifying constitutive laws with parallelized adversarial attacks
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Columbia University(哥伦比亚大学)
本构模型的评估,特别是对于高风险和高遗憾的工程应用,需要有效和严格的第三方校准,验证和证伪。虽然在开发验证模型的范例和标准程序方面作出了许多努力,但由于普遍采用的校准和验证过程具有顺序性、手工性和往往带有偏见的性质,因此可能会出现困难,从而减缓数据收集的速度,阻碍在发现新物理学方面取得进展,增加费用,并可能导致对拟议模型的可信度和适用范围的误解。这项工作试图引入博弈论和机器学习技术的概念,以克服许多现有的困难。我们引入了一个自动元建模游戏,其中两个相互竞争的AI代理系统地生成实验数据来校准给定的本构模型并探索其弱点,以通过竞争来改善实验设计和模型鲁棒性。两个智能体在没有人为干预的情况下,在对抗性强化学习框架中自动搜索元建模博弈的纳什均衡。通过将实验室实验的所有可能的设计选项捕获到单个决策树中,我们将实验的设计重新塑造为组合移动的游戏,可以通过两个竞争玩家的深度强化学习来解决。我们的对抗性框架模拟了研究人员之间理想化的科学合作和竞争,以更好地理解所学习的材料定律的应用范围,并防止传统的基于人工智能的第三方验证引起的误解。
2020-04-13 cs.AI cs.LG eess.SP
Safety Alignment of LMs via Non-cooperative Games
DeepMind, London, UK(深度Mind,伦敦,英国)
提出将安全对齐建模为攻击者与防御者语言模型之间的非零和博弈,通过在线强化学习联合训练,迭代提升安全性与实用性。
2026-05-31 cs.AI
The Emergence of Adversarial Communication in Multi-Agent Reinforcement Learning
University of Cambridge(剑桥大学)
许多现实世界的问题需要多个自主智能体的协调。最近的工作表明,图神经网络(GNN)有希望学习明确的通信策略,使复杂的多智能体协调。这些作品使用合作多代理系统的模型,代理努力实现一个共同的全球目标。当考虑具有自利局部目标的代理时,标准的设计选择是将它们建模为独立的学习系统(尽管共享相同的环境)。然而,这样的设计选择,排除了存在一个单一的,可区分的通信信道,并因此禁止学习的智能体通信策略。在这项工作中,我们解决这个差距,提出了一个学习模型,可容纳个人的非共享奖励和一个可区分的沟通渠道,是所有代理之间的共同点。我们专注于代理人有自我利益的目标的情况下,并开发一个学习算法,消除对抗性通信的出现。我们进行多代理覆盖和路径规划问题的实验,并采用事后可解释性技术来可视化代理相互通信的消息。我们展示了一个自私的代理是如何能够学习高度操纵性的通信策略,使其显着优于一个合作团队的代理。
2020-11-04 cs.AI cs.LG cs.MA
Theory of Mind with Guilt Aversion Facilitates Cooperative Reinforcement Learning
Applied Artificial Intelligence Institute, Deakin University(迪肯大学应用人工智能研究所)
如果人们认为自己让别人失望了,内疚厌恶会让他们产生效用损失的体验,这会促进人类的合作行为。在心理博弈论中,内疚厌恶需要对具有关于其他代理人想法的理论的代理人进行建模,也称为心理理论(ToM)。我们的目标是建立一种新的情感强化学习代理,称为心理理论与内疚厌恶代理(ToMAGA),它具有思考他人福祉而不仅仅是自我利益的能力。为了验证代理的设计,我们使用一个一般和游戏称为雄鹿狩猎作为测试床。由于标准的强化学习代理可以学习次优的政策,在社会困境,如猎鹿,我们建议使用基于信念的内疚厌恶作为奖励塑造机制。我们表明,我们的基于信念的内疚厌恶代理可以有效地学习合作行为在猎鹿游戏。
2020-09-16 cs.AI
The Benefits of Power Regularization in Cooperative Reinforcement Learning
Massachusetts Institute of Technology(麻省理工学院);University of California, Berkeley(加利福尼亚大学伯克利分校)
针对合作式MARL中的权力集中风险,本文提出成对权力度量与权力正则化目标,并给出SBPR和PRIM两种算法,提升系统对智能体故障、攻击和激励变化的鲁棒性。
2024-06-17 cs.AI cs.GT cs.LG
Towards Comprehensive Testing on the Robustness of Cooperative Multi-agent Reinforcement Learning
Beihang University(北京航空航天大学);Yangzhou Collaborative Innovation Research Institute CO., LTD(扬州协同创新研究院有限公司);No. 38 Research Institute of CETC(中国电子科技集团公司第三十八研究所)
虽然深度神经网络(DNN)增强了合作多智能体强化学习(c-MARL)的性能,但代理策略很容易受到对抗性示例的干扰。考虑到c-MARL的安全关键应用,如交通管理,电源管理和无人机控制,这是至关重要的,测试c-MARL算法的鲁棒性之前,它在现实中部署。针对MARL的现有对抗攻击可以用于测试,但是限于一个鲁棒性方面(例如,奖励、状态、动作),而c-MARL模型可以从任何方面进行攻击。为了克服这一挑战,我们提出了MARLSafe,第一个鲁棒性测试框架的c-MARL算法。首先,MARLSafe以马尔可夫决策过程(MDP)为理论基础,从状态鲁棒性、动作鲁棒性和回报鲁棒性三个方面综合考虑了c-MARL算法的鲁棒性。任何c-MARL算法必须同时满足这些鲁棒性方面才能被认为是安全的。其次,针对c-MARL攻击的稀缺性,从多个方面提出了c-MARL攻击作为鲁棒性测试算法。在\textit{SMAC}环境下的实验表明,目前许多c-MARL算法在各个方面的鲁棒性都不高,因此迫切需要测试和提高c-MARL算法的鲁棒性。
2022-04-17 cs.AI cs.LG cs.MA
CoopGuard: Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Round Attacks
School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学与工程学院);Department of Computer Science, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校计算机科学系);Big Data Institute, Central South University(中南大学大数据研究院)
本文提出CoopGuard,通过协作代理维护和更新内部防御状态,有效应对多轮演变攻击。实验显示其在攻击成功率、欺骗率和攻击效率上均优于现有方法。
2026-04-05 cs.AI cs.CR
Improving Human-AI Coordination through Online Adversarial Training and Generative Models
University of Washington, Seattle(华盛顿大学)
针对人机协作中人类行为多样且难以泛化的问题,提出 GOAT,利用冻结生成模型与在线对抗训练搜索困难协作策略,在 Overcooked 真人评估中取得最优表现。
2025-10-21 cs.AI
New And Surprising Ways to Be Mean. Adversarial NPCs with Coupled Empowerment Minimisation
Goldsmiths, University of London(伦敦大学金史密斯学院);University of Hertfordshire(赫特福德大学);New York University(纽约大学)
创建能够对不可预见的玩家行为或新颖的游戏内容做出强有力反应的非玩家角色(NPC)是困难且耗时的。这阻碍了可信角色的设计,以及在严重依赖程序内容生成的游戏中包含NPC。我们以前已经解决了这一挑战,通过授权,一个模型的内在动机,并展示了如何耦合授权最大化(CEM)政策可以产生通用的,同伴般的行为。在本文中,我们扩展了CEM框架与最小化的政策,产生对抗行为。我们在地牢爬虫游戏中进行了定性的探索性研究,证明CEM可以在不修改策略的情况下利用自适应对抗行为中不同内容方面的启示。对关卡设计、底层机制和角色行为的改变不会威胁到NPC的健壮性,但会产生新的、令人惊讶的卑鄙方式。
2018-06-04 cs.AI
A New Approach to Training Multiple Cooperative Agents for Autonomous Driving
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
训练多个智能体在自动驾驶的复杂场景中执行安全和协作控制一直是一个挑战。对于一个小车队的汽车一起移动,本文提出了Lepus,一种新的方法来训练多个代理。Lepus采用纯合作的方式训练多个智能体,具有共享策略网络参数和共享多个智能体奖励函数的特点。特别是,Lepus通过对抗过程对策略网络进行预训练,提高了其协作决策能力,进一步提高了汽车驾驶的稳定性。此外,为了缓解稀疏奖励的问题,Lepus通过结合随机网络和蒸馏网络从专家轨迹中学习近似的奖励函数。我们在MADRaS仿真平台上进行了大量的实验。实验结果表明,Lepus训练的多个智能体可以避免碰撞尽可能多的同时驾驶,并优于其他四种方法,即DDPG-FDE,PSDDPG,MADDPG和MAGAIL(DDPG)的稳定性。
2022-09-05 cs.AI
Collaboration of AI Agents via Cooperative Multi-Agent Deep Reinforcement Learning
有许多人工智能任务涉及多个交互代理,代理应该学会合作和协作以有效地执行任务。在这里,我们开发和评估各种多代理协议,训练代理与队友在网格足球。我们训练和评估我们的多代理方法对一个团队的运作与智能手编码的政策。作为一个基线,我们训练代理同时和独立,没有沟通。我们的合作协议是参数共享,协调学习与沟通,和反事实的策略梯度。与手工编码的团队相比,使用参数共享训练的团队和使用协调学习训练的团队表现最好,在与手工编码的团队比赛时,得分分别为89.5%和94.5%。与参数共享团队相比,在对抗性训练的情况下,协调学习团队在75%的事件中得分,这表明它是我们方法中适应性最强的。从我们的工作中获得的见解可以应用到其他领域的多智能体协作可能是有益的。
2019-06-30 cs.AI cs.CV cs.MA
Can You Break RLVER? Probing Adversarial Robustness of RL-Trained Empathetic Agents
Department of Artificial Intelligence(人工智能系);Sardar Vallabhbhai National Institute of Technology(萨达尔·瓦拉布希·国家理工学院)
本文通过构建对抗同理心基准AEB和引入情感一致性评分ECS,评估RL训练同理心代理在对抗环境下的鲁棒性,发现RLVER-PPO-Think在情感响应上优于基线模型,但ECS评分无显著提升,表明RL训练增强了情感响应但未改善可观测状态跟踪。
2026-11-03 cs.AI cs.LG
Unpacking Robustness in Inflectional Languages: Adversarial Evaluation and Mechanistic Insights
Wrocław University of Technology(沃拉布大学技术学院)
针对对抗攻击研究偏重英语等非屈折语的问题,本文基于平行波英语料和 MultiEmo 构建新基准,并用 EAP 机制解释屈折变化对模型鲁棒性的影响。
2025-05-08 cs.AI cs.CL
Applying Cooperative Machine Learning to Speed Up the Annotation of Social Signals in Large Multi-modal Corpora
University of Augsburg(奥格斯堡大学);Imperial College London(伦敦帝国理工学院);University of Nottingham(诺丁汉大学)
科学学科,如行为心理学,人类学和最近的社会信号处理都涉及人类行为的系统探索。典型的工作流程包括在相当大的多模态语料库中对社交信号进行手动注释(也称为编码)。对于所涉及的注释者来说,这是一项令人疲惫和耗时的任务。在手头的文章中,我们提出了一种新的方法,也提供了工具,以加快编码过程。为此,我们建议和评估使用合作机器学习(CML)技术,以减少人工标签的努力相结合的计算能力和人类智慧的力量。建议的CML策略从少量的标记实例开始,并首先集中于预测局部部分。然后,创建一个与会话无关的分类模型来完成数据库的其余部分。计算置信度值以指导预测的手动检查和校正。为了将所提出的方法应用到应用中,我们介绍了NOVA -一种用于协作和机器辅助注释的开源工具。特别是,它使贴标人员能够立即访问CML策略,并直接提供结果的视觉反馈。我们的实验表明,所提出的方法有可能显着减少人类标记的努力。
2018-02-07 cs.AI cs.HC cs.LG
Behavioural Repertoire via Generative Adversarial Policy Networks
School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
学习算法使机器人能够解决日益具有挑战性的现实任务。这些方法通常依赖于演示并复制所示的行为。环境中的意外变化可能需要使用不同的行为来实现相同的效果,例如在不断变化的混乱中达到并抓住物体。一个新兴的范例解决这个鲁棒性问题是学习一组不同的成功的行为,为一个给定的任务,机器人可以选择最合适的政策时,面对一个新的环境。在本文中,我们探索了一种新的实现这一愿景,通过学习生成模型的政策。而不是学习一个单一的政策,或一个小的固定的剧目,我们的生成模型的政策competencies编码一个无限数量的政策,并允许新的控制器变量进行采样。利用我们的生成策略网络,机器人可以对新的行为进行采样,直到找到适合新环境的行为。我们证明了这个想法与应用程序的强大的球投掷障碍物的存在。我们表明,这种方法实现了更大的多样性的行为比现有的进化方法,同时保持良好的采样行为的功效,使巴克斯特机器人击中目标时,更经常在障碍物的存在下投球。
2020-02-18 cs.AI cs.LG cs.RO
The Machine Psychology of Cooperation: Can GPT models operationalise prompts for altruism, cooperation, competitiveness and selfishness in economic games?
University College London(伦敦大学学院);Middlesex University(密德萨斯大学)
本研究通过GPT-3.5在囚徒困境和独裁者博弈中测试LLM能否将合作、利他等自然语言提示操作化为相应行为,发现其在一次性博弈中表现较好,重复博弈中合作模拟体呈现条件互惠,后期模型还表现出利他行为,为LLM在合作任务中的应用提供了证据。
2024-06-29 cs.AI cs.CY cs.GT
Adversarial Review: Structured Disagreement for Grounded Agentic Code Review
Cornell University(康奈尔大学);Stanford University(斯坦福大学)
本文提出对抗评审(AR)协议,仅用3个智能体实现结构化分歧的协作代码评审,在LiveCodeBench、SWE-PRBench等基准上优于多智能体基线,证明无需大量智能体即可完成高效代码评审。
2026-08-20 cs.AI cs.SE