Emergence of Fair Leaders via Mediators in Multi-Agent Reinforcement Learning
Ruhr University Bochum, Germany(波恩鲁尔大学)
针对Stackelberg博弈中领导者选择偏差导致的不公平问题,提出整合中介者进行最小控制的多智能体强化学习框架,使自利智能体采取公平行动,提升整体收益公平性。
2025-08-04 cs.AI cs.LG cs.MA
Emergence of Chemotactic Strategies with Multi-Agent Reinforcement Learning
Institute for Computational Physics(计算物理研究所);University of Stuttgart(斯图加特大学)
本文用多智能体强化学习仿真不同形状、尺寸和速度下的趋化行为,揭示物理可行边界、参数收敛规律及三类主导策略,为生物趋化机制提供解释。
2024-04-02 cs.LG cs.MA physics.bio-ph
Emergence of Addictive Behaviors in Reinforcement Learning Agents
Kansas State University(堪萨斯州立大学);University of Louisville(路易斯维尔大学)
本文提出了一种新的方法,在智能代理的技术分析。受自然类似物的wireheading和他们的普遍表现的启发,我们提出了这种现象的建模在强化学习(RL)代理的心理障碍。在评估这一建议的初步步骤中,我们研究了在蛇游戏的易处理环境中Q-学习代理中紧急成瘾政策的可行性和动态。我们考虑对这个游戏进行稍微修改的设置,其中环境提供了一个“药物”种子,以及原始的“健康”种子供蛇食用。我们采用并扩展了一个基于RL的模型,自然成瘾Q-学习代理在这种情况下,并获得足够的参数条件,成瘾行为的出现在这样的代理。此外,我们评估我们的理论分析与三组基于模拟的实验。研究结果表明,在RL代理中添加线头的可行性,并为进一步研究复杂AI安全问题的心理病理学建模提供了有前途的场所。
2018-11-14 cs.AI cs.LG stat.ML
Emergence of Pragmatics from Referential Game between Theory of Mind Agents
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
语用学研究语境如何影响语言意义。在人类交流中,语言从来不会脱离上下文来解释,句子通常可以传达比字面意思更多的信息。然而,这种机制在大多数多智能体系统中是缺失的,限制了通信效率和人与智能体交互的能力。在本文中,我们提出了一个算法,使用该算法,代理可以自发地学习的能力,“读线之间”,没有任何明确的手工设计的规则。我们整合了心理理论(ToM)在合作的多智能体教学的情况下,并提出了一个自适应的强化学习(RL)算法开发的通信协议。心理理论是一个深刻的认知科学概念,认为人们经常推理他人的心理状态,包括信念,目标和意图,以获得竞争,合作或联盟中的表现优势。有了这种能力,智能体认为语言不仅是信息,而且是反映他人隐藏状态的理性行为。我们的实验证明了语用协议的优势,非语用协议。我们还表明,教学复杂性的语用协议经验接近递归教学维度(RTD)。
2021-09-30 cs.AI cs.CL cs.LG
Emergence of Linguistic Communication from Referential Games with Symbolic and Pixel Input
DeepMind(深度思维)
算法进化或学习(组合)通信协议的能力传统上在语言进化文献中通过使用紧急通信任务进行研究。在这里,我们通过使用当代深度学习方法和在参考通信游戏上训练学习神经网络代理来扩大这项研究。我们扩展了以前的工作,其中代理在符号环境中进行训练,通过开发能够从原始像素数据中学习的代理,一个更具挑战性和现实的输入表示。我们发现,在输入数据中发现的结构的程度会影响出现的协议的性质,从而证实了这一假设,即结构化的组成语言是最有可能出现时,代理感知世界的结构。
2018-04-11 cs.AI cs.CL cs.LG
Emergence of Roles in Robotic Teams with Model Sharing and Limited Communication
EEE Department(电子工程系);Trinity College Dublin(都柏林信任学院)
通过集中学习和模型共享,该方法在机器人团队中促进角色分化,减少计算能耗并应用于现实场景。
2025-05-01 cs.LG cs.MA cs.RO
Emergence of Implicit World Models from Mortal Agents
RIKEN(理化学研究所);Kyoto University(京都大学)
本文从理论生物学视角探讨稳态作为开放式目标,提出结合元强化学习的假设架构,使自主智能体通过内部动力学隐式涌现世界模型与主动探索能力。
2024-11-19 cs.LG cs.NE
Perspective Latents as an Architectural Condition for Causal Emergence in Active Inference Agents
Active Inference Institute(主动推理研究所)
研究主动推理智能体中无奖励预测组织与信息理论特征的关系,通过特定架构智能体在无奖励环境切换协议中测试,确定\(g\)为与\(\Phi_r\)相关时间组织的架构位置,反对将\(\Phi_r\)作为学习整合直接指标。
2026-07-24 cs.LG q-bio.NC
Emergence of Adaptive Circadian Rhythms in Deep Reinforcement Learning
University of Tartu(塔尔图大学)
本研究探究深度强化学习智能体中类昼夜节律的涌现,发现其在觅食任务中会形成内源性可牵引的节律,无需重训练就能适应环境相位偏移,并从动力系统角度揭示了其神经元层面的适应机制。
2023-07-22 cs.AI cs.LG q-bio.NC
Emergence of Language with Multi-agent Games: Learning to Communicate with Sequences of Symbols
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
学习通过交互进行沟通,而不是依赖于明确的监督,通常被认为是开发通用AI的先决条件。我们研究了一个设置,两个代理人参与玩一个参考游戏,从头开始,开发一个通信协议,在这个游戏中取得成功所必需的。与以前的工作不同,我们要求他们交换的消息,无论是在训练和测试时间,是在一种语言的形式(即离散符号序列)。我们比较了一个强化学习方法和一个使用可微松弛(直通Gumbel-softmax估计器)的方法,并观察到后者收敛速度要快得多,并且会产生更有效的协议。有趣的是,我们还观察到,我们通过优化通信成功诱导的协议表现出一定程度的组合性和可变性(即相同的信息可以以不同的方式表达),这两种特性都是自然语言的特征。由于最终目标是确保通信是在自然语言中完成的,我们还进行了实验,在实验中我们将有关自然语言的先验信息注入到我们的模型中,并研究所产生的协议的属性。
2017-11-04 cs.CL cs.CV cs.LG
Towards Provable Emergence of In-Context Reinforcement Learning
University of Virginia(弗吉尼亚大学)
本文针对强化学习预训练为何能产生具备上下文强化学习能力的参数这一核心问题,提出相关参数为预训练损失极小值点的假设,并通过案例证明预训练用于策略评估的Transformer的全局极小值点可实现上下文时序差分学习,为假设提供初步支持。
2025-10-03 cs.LG
Self-Interest and Systemic Benefits: Emergence of Collective Rationality in Mixed Autonomy Traffic Through Deep Reinforcement Learning
本文研究自利自动驾驶车辆在混合交通中能否实现集体理性,通过深度强化学习与简单奖励设计证明集体理性可在多种场景下涌现,并提出微观动态环境中的涌现机制,为利用联邦学习等方法实现自利智能体间的集体合作提供了依据。
2025-11-07 cs.LG
Emergence of Maps in the Memories of Blind Navigation Agents
Georgia Institute of Technology(佐治亚理工学院);FAIR, Meta AI(元人工智能基础人工智能研究院);Simon Fraser University(西蒙弗雷泽大学);Google Research Atlanta(谷歌亚特兰大研究院);Oregon State University(俄勒冈州立大学)
动物导航研究假设生物体构建并维持其环境的内部空间表示或地图。我们问机器-特别是人工智能(AI)导航代理-是否也构建隐式(或“心理”)地图。对这个问题的肯定回答将(a)解释最近文献中表面上无地图的神经网络实现强大性能的令人惊讶的现象,(b)加强映射作为智能体现代理导航的基本机制的证据,无论它们是生物还是人工的。与动物导航不同,我们可以明智地设计智能体的感知系统,并控制学习范式,使替代导航机制无效。具体来说,我们训练“盲”智能体--感知仅限于自我运动,没有其他任何类型的感知--通过强化学习执行PointGoal导航(“转到$Δ$ x,$Δ$ y”)。我们的代理由导航不可知的组件(全连接和递归神经网络)组成,我们的实验设置没有提供对映射的归纳偏见。尽管有这些苛刻的条件,我们发现,盲人代理人是(1)令人惊讶的有效导航员在新的环境中(~95%的成功率);(2)他们在长时间内利用记忆(在一个事件中记住过去经验的1,000步);(3)这种记忆使他们能够表现出智能行为(沿着墙壁,检测碰撞,走捷径);(4)在由盲智能体在导航时构建的环境的表示中出现地图和碰撞检测神经元;以及(5)涌现地图是选择性的和任务依赖的(例如,智能体“忘记”探索迂回)。总的来说,本文没有为AI观众提供新技术,但有一个令人惊讶的发现,一个见解和一个解释。
2023-01-30 cs.AI cs.CV cs.LG
Emergence of Compositional Language with Deep Generational Transmission
Georgia Tech(佐治亚理工学院);Oregon State University(俄勒冈州立大学);Facebook AI Research(Facebook人工智能研究院)
最近的工作研究了必须合作解决任务的深度强化学习代理之间的语言出现。特别令人感兴趣的是导致语言成分化的因素,即,通过组合本身有意义的词来表达意义。进化语言学家发现,除了深度学习中已经研究过的结构先验外,语言代代相传的动态对组合性的出现有很大贡献。在本文中,我们将这些文化进化动力引入语言的出现,通过定期更换人口中的代理人来创建知识缺口,隐含地诱导语言的文化传播。我们表明,这种隐含的文化传播鼓励由此产生的语言表现出更好的组合概括。
2020-05-27 cs.AI cs.CL cs.LG
A framework for the emergence and analysis of language in social learning agents
Johannes Gutenberg-University Mainz(美因茨约翰内斯·古腾堡大学);Technical University Darmstadt(达姆施塔特工业大学);University of Bonn Medical Center(波恩大学医学中心);Max-Planck Institute for Brain Research(马克斯·普朗克大脑研究所)
本研究提出协作智能体间的通信协议,通过低维表征编码高维信息模拟语言,结合网格世界迷宫与强化学习验证其能提升任务表现与泛化能力,表明消息空间的准确表征需双向输入,揭示语言对智能体泛化的作用。
2023-05-04 cs.AI cs.CL cs.LG
Emergence of group hierarchy
我们考虑一个意见动力学模型,在随机对相互作用,每个代理修改她的意见,两个代理的随机对,也对其他一些代理,随机选择。此外,每个代理人属于一个单一的群体,群体内的意见被吸引到他们的平均值。在从中立意见开始的模拟中,我们观察到一个群体层次结构的出现。我们推导出一个矩近似,提供方程统治的平均意见的代理人在一个组的另一组的代理人的演变。这种近似解释了群体层级是如何出现的。
2022-08-25 cs.MA
Coupling agent based simulation with dynamic networks analysis to study the emergence of mutual knowledge as a percolation phenomenon
共同知识的出现是复杂社会技术系统鲁棒性的主要认知机制。它已被广泛研究,从人种方法论的角度来看,并通过多代理人模拟经验再现。虽然这种模拟已被用于设计实际的工作设置的基础理论基础的过程是模糊的。本文的目的是调查是否出现的共同知识(MK)在一组共处的个人可以解释为渗透现象。下面的方法包括耦合基于代理的模拟与动态网络分析,研究信息传播现象:使用基于代理的模拟后,我们生成,然后分析其痕迹作为网络的代理人见面和交换知识。对由此产生的网络的深入分析清楚地表明,MK的出现与渗流过程相当。我们特别关注如何在我们的代理基于模拟器的微观层面上的变化影响渗流和鲁棒性。这些结果为社会组织的分析提供了理论依据。
2019-04-08 cs.MA
Recursive Metropolis-Hastings Naming Game: Symbol Emergence in a Multi-agent System based on Probabilistic Generative Models
Ritsumeikan University(立命馆大学)
本文将Metropolis-Hastings命名游戏从双智能体扩展到N智能体场景,提出递归Metropolis-Hastings命名游戏(RMHNG),证明其是对共享潜在变量后验分布的去中心化近似贝叶斯推断,并通过合成与真实图像数据实验验证了多智能体符号涌现的有效性。
2023-05-31 cs.CL cs.LG cs.MA
The Emergence of Complex Bodyguard Behavior Through Multi-Agent Reinforcement Learning
在本文中,我们正在考虑的情况下,一队机器人保镖提供物理保护的VIP在拥挤的公共空间。我们发现,这个问题涉及到一个复杂的网状的VIP和机器人之间的相互作用,机器人本身之间的机器人和旁观者分别。我们展示了最近提出的多代理策略梯度强化学习算法,如MADDPG可以成功地适应学习协作机器人的行为,提供保护的VIP。
2019-01-28 cs.MA
Emergence of Writing Systems Through Multi-Agent Cooperation
ABV-Indian Institute of Information Technology and Management(ABV-印度信息技术与管理学院)
学习交流被认为是开发通用AI的一项重要任务。虽然最近的语言进化文献已经通过离散或连续的信息符号研究了新兴语言,但在人工智能体中出现的书写系统方面的工作很少。在本文中,我们提出了一个参考的游戏设置与两个代理人,其中的通信模式是一个书面语言系统,出现在玩。我们表明,代理可以学习成功地使用这种通信模式进行协调。此外,我们研究了如何游戏规则的影响,提出了一致性度量的书写系统分类。
2019-10-02 cs.CL cs.CV cs.IT
Norm Enforcement with a Soft Touch: Faster Emergence, Happier Agents
North Carolina State University(北卡罗来纳州立大学);University of Bristol(布里斯托大学)
该研究提出建模社会智能的Nest框架,通过多样社会通信促进规范涌现,在模拟大流行环境中验证其能更快形成规范、减少不良后果并提升智能体满意度。
2024-03-05 cs.AI cs.LG cs.MA
Modeling emergence of norms in multi-agent systems by applying tipping points ideas
规范被认为是决定人类行为的主要因素。它还表明,规范可以是非常有效的工具,建立基于代理的社会。已经提出了各种规范的架构设计规范的多智能体系统(NorMAS)。由于概念规范的人性化,许多建筑都是基于社会科学的理论而建造的。临界点理论,在本文中简要讨论,似乎有很大的潜力,用于设计规范的架构。这一理论涉及影响人类社会中出现的社会流行病的因素。在本文中,我们试图将这一理论的主要概念,以代理为基础的规范架构。我们展示了几种方法来实现这些概念,并研究它们的影响,在一个基于代理的规范性方案。
2015-08-19 cs.MA
The Emergence of Norms via Contextual Agreements in Open Societies
本文探讨了当代理人在其社会背景中同时扮演多个甚至不相容的角色,并且具有有限的互动范围时,代理人社会中规范的出现。具体而言,本文提出了两种强化学习方法,用于代理计算使用公共资源执行联合任务的策略协议。考虑智能体在其社会背景中扮演多重角色的规范计算还没有被研究过。为了使这个问题在开放社会中更加现实,我们不假设代理人分享他们共同资源上的知识。因此,它们必须计算语义协议以执行它们的联合动作。%本文报告的实证研究是否以及如何有效地社会的代理收敛到规范,探索拟议的社会学习过程w.r.t.不同的社会规模,以及代理人之间的联系方式。报告的结果是非常令人鼓舞的,关于学习过程的速度以及收敛速度,即使在相当复杂的设置。
2015-03-24 cs.MA
A Hierarchical Framework with Spatio-Temporal Consistency Learning for Emergence Detection in Complex Adaptive Systems
School of Computer Science and Cyber Engineering, Guangzhou University(广州大学计算机科学与网络工程学院);Civil Aviation Electronic Information Engineering College, Guangzhou Civil Aviation College(广州民航职业技术学院民航电子信息工程学院);School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
针对复杂自适应系统中局部观测下的涌现检测难题,提出结合时空transformer与自监督一致性学习的层级框架,在三个数据集上提升了检测准确性。
2024-10-28 cs.AI cs.LG cs.MA
Emergence of Biased Consensus in Multi-Agent LLM Debates
Harvard University(哈佛大学);NTT Research, Inc(NTT研究所)
该研究针对多智能体LLM辩论中集体偏向性共识的涌现问题,提出物理启发的社会动力学分析框架,经实验验证其相变规律,发现智能体异质性可抑制该现象,且见解可推广至投资等现实决策任务。
2026-08-05 cs.MA
A systematic review of norm emergence in multi-agent systems
本文遵循PRISMA方法对多智能体系统中的规范涌现做系统性综述,梳理影响规范涌现的多层面因素,指出未来需整合情感与伦理动态的研究方向,为相关系统发展提供基础。
2024-12-13 cs.MA
Partner Selection for the Emergence of Cooperation in Multi-Agent Systems Using Reinforcement Learning
The Alan Turing Institute(艾伦·图灵研究所);University College London(伦敦大学学院);University of Bologna(博洛尼亚大学)
社会困境已经被广泛研究,以解释人类如何能够在社会中合作。相当大的努力已经投入到设计人工代理的社会困境,包括明确的代理动机,选择有利于协调或合作的反应。这种一般方法的流行点对实现一个代理的内部设计和外部环境的动态,促进合作行为的理解的重要性。在本文中,我们研究如何合作伙伴的选择,可以促进合作行为之间的代理谁是训练有素的最大化一个纯粹自私的目标函数。我们的实验表明,受过这种动态训练的代理人学习一种策略,在促进与其他代理人合作的同时,对叛逃者进行报复,从而形成一个亲社会的社会。
2019-11-28 cs.AI cs.MA
The emergence of numerical representations in communicating artificial agents
Department of Translation and Language Sciences, Universitat Pompeu Fabra(翻译与语言科学系,庞培法布拉大学)
研究通过指称游戏探索人工代理中数字表示的生成,发现沟通压力可实现精确传输,但需额外压力才能获得组合性代码。
2026-02-11 cs.CL cs.LG cs.MA
Multi-Agent Empowerment and Emergence of Complex Behavior in Groups
Department of Physics, Department of Biology, Initiative in Theory and Modeling of Living Systems(物理系、生物学系、生命系统理论与建模倡议);Department of Computer Science, School of Physics, Engineering and Computer Science(计算机科学系,物理、工程与计算机科学学院)
本文研究了多智能体环境下赋能驱动行为的涌现,展示了其在不同环境中促进群体组织的潜力。
2026-09-15 cs.AI cs.MA
Spontaneous Emergence of Agent Individuality through Social Interactions in LLM-Based Communities
Graduate School of Arts and Sciences(文理学院);The University of Tokyo(东京大学)
本研究利用LLM智能体群体模拟,发现智能体通过自然语言合作交流,能自发涌现出社会规范、合作、个性及个体性差异,并产生幻觉和标签以维持沟通,为集体AI分析提供新方法。
2024-11-05 cs.AI cs.MA
From Cooperation to Hierarchy: A Study of Dynamics of Hierarchy Emergence in a Multi-Agent System
School of Computer Science, University of Birmingham(伯明翰大学计算机学院)
本研究通过多智能体模型探讨了层级组织在动态系统中的涌现与持续,发现突变幅度对层级稳定性的影响大于初始异质性,揭示了简单交互规则如何促进结构不平等的形成。
2026-02-24 cs.MA
Selfish Algorithm and Emergence of Collective Intelligence
我们提出了一个模型,证明自发出现的集体智能行为从自私的个人代理。代理的行为建模使用我们提出的自私算法($SA$)与三种学习机制:强化学习($SAL$),信任($SAT$)和连接($SAC$)。这些机制中的每一个都提供了一种截然不同的方式,一个代理可以通过与其他代理玩囚徒困境游戏($PDG$)来增加个人收益。的$SA$提供了一个推广的自组织时间临界性($SOTC$)模型,并表明,自我利益的个人可以同时产生最大的社会效益,从他们的决定。$SA$中的机制通过内部动力学进行自调谐,并且不具有预先建立的网络结构。我们的研究结果表明,相互合作的出现,动态网络的出现,以及社会系统在扰动后的适应性和弹性。讨论了$SA$的含义和应用。
2020-01-03 cs.MA nlin.AO
Can Agents Spontaneously Form a Society? Introducing a Novel Architecture for Generative Multi-Agents to Elicit Social Emergence
Kunming University of Science and Technology(昆明理工大学)
本文提出生成式多智能体架构 ITCMA-S 及其支持社会交互的 LTRHA 框架,使智能体能够过滤有害行为并选择有利行动,沙盒实验表明智能体可自发形成具有内部等级的派系并组织集体活动。
2024-11-19 cs.AI cs.HC cs.LG
The Social Cost of Intelligence: Emergence, Propagation, and Amplification of Stereotypical Bias in Multi-Agent Systems
Department of Data Science & AI, Monash University(数据科学与人工智能系,莫纳什大学);Defence Science and Technology Group, Australia(澳大利亚国防科学与技术集团)
本研究提出一个评估框架,通过三个智能体级指标量化多智能体系统中偏见的涌现、传播和放大,发现通信可触发高达70%的新偏见、传播至80%以上智能体并放大3倍以上刻板印象,且密集竞争性通信增加偏见,系统易受简单偏见注入攻击。
2026-06-01 cs.CL cs.MA
Bounded strategic reasoning explains crisis emergence in multi-agent market games
基于理性预期和市场均衡的有效市场假说(EMH)是经济市场建模的主导观点。然而,对有效市场假说最显著的批评是,在没有任何重大外部消息的情况下,无法对失衡行为时期进行建模。当这种动态是内生的时,传统的经济框架无法解释这种行为和偏离均衡的情况。这项工作提供了一个替代的角度来解释的基础上有限的理性代理人的内生出现间断的平衡动态。在一个简洁的市场入口游戏中,我们展示了有限理性的战略推理如何导致内生的危机,在“回报”中表现出肥尾。我们还展示了经济市场的其他常见的风格化事实,如集群波动,可以解释为由于代理的多样性(或缺乏)和不同的学习更新的代理。这项工作解释了各种程式化的事实和危机出现在经济市场中,在没有任何外部消息的情况下,纯粹基于代理人的相互作用和有限的理性推理。
2022-06-11 cs.CE cs.GT cs.MA
What LLM Agents Say When No One Is Watching: Social Structure and Latent Objective Emergence in Multi-Agent Debates
Independent Researcher(独立研究员);Carnegie Mellon University(卡内基梅隆大学)
提出双通道辩论框架,研究社会结构(角色、受众、关系)如何导致LLM智能体在公开与私下(OTR)表达中产生系统性分歧,揭示潜在目标的涌现。
2026-07-03 cs.AI cs.CL cs.LG
A Norm Emergence Framework for Normative MAS -- Position Paper
University of Bath(巴斯大学)
规范出现通常是在多智能体系统(MAS)的规范是隐含的,参与代理使用简单的决策机制的背景下进行研究。这些内隐规范通常是无意识地共享和通过代理互动。当行为人达到一定限度或预定百分比时,即认为出现了规范。相反,在规范MAS中,规范通常是明确的,代理人通过沟通故意共享规范,或者由权威机构告知规范,然后代理人决定是否采用规范。代理人采用一项规范的决定可以在承认之后立即作出,也可以在出现适用的情况时作出。在本文中,我们提出的情况下,同样,规范出现在一个规范的MAS时,一定比例的代理商采用规范。此外,我们认为,代理人本身可以而且应该参与规范合成,从而影响规范管理的MAS,符合奥斯特罗姆的八项原则。因此,我们提出了一个框架内出现的规范规范MAS,允许参与代理提出/请求的规范系统的变化,而特殊用途的合成剂制定新的规范或修改,以响应这些请求。合成器必须集体同意新的规范或规范修订应该进行,然后最终由“神谕”批准。然后修改规范系统以纳入规范。
2020-04-06 cs.AI cs.MA
Autocurricula and the Emergence of Innovation from Social Interaction: A Manifesto for Multi-Agent Intelligence Research
DeepMind
进化已经产生了相互作用的适应性单位的多尺度马赛克。当扰动将系统的一部分从稳定平衡推向新的状态时,创新就出现了,在新的状态下,以前适应良好的解决方案不再有效。在这里,我们探讨的假设,多智能体系统有时显示的内在动力学所产生的竞争和合作,提供了一个自然涌现的课程,我们称之为自动课程。一个社会任务的解决往往会引发新的社会任务,不断产生新的挑战,从而促进创新。在某些条件下,这些挑战可能会随着时间的推移变得越来越复杂,要求代理人积累更多的创新。
2019-03-11 cs.AI cs.GT cs.MA
The emergence of knowledge exchange: an agent-based model of a software market
我们调查商业组织之间的知识交流,背后的原理及其对市场的影响。众所周知,知识交流对产业有益,但为了解释它,作者使用了网络效应、声誉和信任等高级概念。我们试图正式提出一个合理而优雅的解释,说明公司如何以及为什么采用信息交换,以及为什么这种情况发生时有利于整个市场。这种解释是基于一个多代理模型,模拟市场的软件供应商。即使该模型不包括任何高层次的概念,信息交换自然出现在模拟过程中作为一个成功的盈利行为。这种基于主体的分析得出的结论是双重的:(1)一组简单的假设足以引起软件市场中的交换。(2)知识交换可以提高市场效率。
2006-04-20 cs.CE cs.MA
Emergence of agriculture in an artificial society of reinforcement learning agents
Flowers AI and CogSci lab, Inria, Université de Bordeaux(花朵人工智能与认知科学实验室,法国国家信息与自动化研究所,波尔多大学);Department of Information and Communications Technologies, Universitat Pompeu Fabra(信息通信技术系,庞培法布拉大学);Artificial Intelligence Research Institute, IIIA (CSIC)(人工智能研究所,IIIa(西班牙国家研究委员会));BioTiC team (Inria, INSA Lyon, CITI, UR3720)(BioTiC团队(法国国家信息与自动化研究所,里昂国立应用科学学院,CITI));Complex Systems Lab, Universitat Pompeu Fabra(复杂系统实验室,庞培法布拉大学);Institució Catalana de Recerca i Estudis Avançats(加泰罗尼亚研究与高级研究学院);Santa Fe Institute(圣塔菲研究所)
通过强化学习智能体人工社会,研究农业从个体决策与社会交互中自发涌现的机制,发现延迟奖励估值、社会脆弱性、社会学习及锁定效应是关键因素。
2026-05-22 cs.MA
Emergence World: Adversarial Stress-Testing of Long-Horizon Multi-Agent Systems
Emergence AI
本研究通过持续运行的多智能体环境对长时程自主系统进行对抗性压力测试,发现模型级对齐不具备组合性,安全前沿应从对齐模型转向工程化韧性自主系统。
2026-09-16 cs.MA
Emergence in Multi-Agent Systems: A Safety Perspective
本文从安全视角研究多智能体系统中的涌现效应,通过识别全局规范与局部近似之间的错位建立分析框架,并提出调整底层参数化以缓解非预期行为偏差和降低涌现故障风险。
2024-08-08 cs.MA
Noe: Norms Emergence and Robustness Based on Emotions in Multiagent Systems
North Carolina State University(北卡罗来纳州立大学);University of Bristol(布里斯托尔大学)
社会规范是人类社会集体行为的特征,是人类社会可接受的群体行为。此外,一些社会规范是从代理人或人类的互动中产生的。为了实现代理的自主性,使规范满意度的解释,我们将情绪纳入规范推理过程,评估是否遵守或违反规范。具体来说,在选择一个行动来执行之前,一个代理观察环境,并推断出在规范满足或违反社会规范之后的状态和后果。规范的满足和违反都会引发进一步的情绪,随后的情绪会影响规范的执行。本文通过社会模拟实验研究了情感建模如何影响社会规范的产生和鲁棒性。我们发现,代理人的能力,考虑情绪反应的结果规范的满意度和违反(1)促进规范的遵守;(2)提高社会福利。
2022-05-07 cs.AI cs.MA
Multi-Agent Cooperation and the Emergence of (Natural) Language
Google DeepMind(谷歌DeepMind);Facebook AI Research(Facebook人工智能研究院);University of Trento(特伦托大学)
当前训练自然语言系统的主流方法是将它们暴露于大量文本。如果我们有兴趣开发交互式机器,如会话代理,这种被动学习是有问题的。我们提出了一个语言学习的框架,依赖于多智能体通信。我们在参照游戏的背景下研究这种学习。在这些游戏中,发送者和接收者看到一对图像。发送者被告知其中一个是目标,并被允许从一个固定的,任意的词汇表向接收者发送消息。接收者必须依靠这个信息来识别目标。因此,智能体出于交流的需要而交互地开发自己的语言。我们表明,两个网络具有简单的配置能够学习协调的参考游戏。我们进一步探讨了如何改变游戏环境,使游戏中诱导的“词义”更好地反映图像的直观语义属性。此外,我们提出了一个简单的策略接地代理的代码到自然语言。这两者都是开发能够与人类进行有效沟通的机器的必要步骤。
2017-03-05 cs.CL cs.CV cs.GT
Emergence of Reputation-Based Cooperation in LLM Agents
RIKEN(理化学研究所);Tohoku University(东北大学)
研究发现LLM智能体的合作鲁棒性由对手禀赋敏感性(图像评分机制)和叛逃者排除严格程度决定,其无法发展更鲁棒的Leading-Eight规范,凸显文化进化的LLM合作的漏洞并提出自下而上规范构建的需求。
2026-08-06 cs.MA cs.NE
Hierarchical Heuristic Learning towards Effcient Norm Emergence
在多智能体系统中,社会规范是规范智能体行为、促进智能体之间协调的重要机制。一个重要的研究问题是如何规范可以迅速出现,通过重复的本地互动在不同的环境下,当他们的协调空间变得很大的代理社会。为了解决这个问题,我们提出了一个分层启发式学习策略(HHLS)的分层社会学习框架下,下属代理报告他们的信息给他们的主管,而主管可以生成的指示(规则和建议)的基础上收集的信息从他们的下属。下级代理人根据自己的经验和上级的指示,不断更新自己的策略。广泛的实验评估表明,HHLS可以支持出现理想的社会规范更有效地适用于更广泛的多智能体交互场景相比,以前的工作。我们还调查HHLS的有效性,通过分离出的HHLS的不同组成部分,并评估这些组成部分的相对重要性。关键相关因素的影响(例如,等级因素、非等级因素、固定策略代理人)进行了研究。
2018-03-08 cs.MA
Mimicry and the Emergence of Cooperative Communication
本文研究通过模仿外部有用信号促进多智能体协作沟通的出现,形式化分析其优化效应,并在空间资源收集模拟中验证进化优化与强化学习均受益。
2024-05-26 cs.MA cs.NE
Emergence World: A Platform for Evaluating Long-Horizon Multi-Agent Autonomy
Emergence AI
提出一个持续运行的多智能体模拟平台,通过集成实时外部数据、120+工具和持久记忆系统,评估LLM代理在长时域(数周至数月)中的行为漂移、治理和跨模型影响等动态特性。
2026-06-06 cs.AI cs.MA
What the flock knows that the birds do not: exploring the emergence of joint agency in multi-agent active inference
Institute of Cognitive Sciences and Technologies, National Research Council(认知科学与技术研究所,国家研究委员会)
本文通过主动推断模型探讨多智能体系统中集体知识和联合代理的涌现机制,揭示了信息耦合如何产生新的自主性与推断能力。
2026-01-29 cs.MA math.OC nlin.AO
A Survey on Agentic Service Ecosystems: Measurement, Analysis, and Optimization
本文提出了一个分析Agentic Service Ecosystems中Swarm intelligence涌现的框架,通过测量、分析和优化三个步骤揭示促进涌现的循环机制与定量标准,为现实应用提供理论支持与可行方法。
2025-08-10 cs.MA cs.SI
TerraLingua: Emergence and Analysis of Open-endedness in LLM Ecologies
Cognizant AI Lab(Cognizant AI实验室);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究LLM生态中开放性动态,通过TerraLingua平台分析协作规范、分工劳动及文化积累机制,揭示人工智能社会结构的形成过程。
2026-03-06 cs.AI cs.MA physics.soc-ph
An Agent-Based Model of Collective Emotions in Online Communities
我们开发了一个基于代理的框架来模拟集体情绪的出现,这是适用于在线社区。代理人的个人情绪描述他们的效价和唤醒。使用布朗代理的概念,这些变量根据随机动态变化,这也考虑了在线通信的反馈。代理产生情感信息,这些信息被存储和分布在一个模拟在线媒体的字段中。这个场以非线性的方式影响代理人的情绪状态。我们推导出集体情绪出现的条件,观察双峰价分布。依赖于饱和或超线性反馈之间的信息字段和代理的唤醒,我们进一步确定的情况下,集体情绪只出现一次或以重复的方式。基于代理的计算机模拟的分析结果进行了说明。我们的框架提供了关于集体情绪出现的可检验的假设,这些假设可以通过在线社区的数据来验证。
2010-09-06 cs.MA nlin.AO physics.soc-ph
Are energy savings the only reason for the emergence of bird echelon formation?
我们分析的条件下,经常观察到的梯队形成的出现可以解释仅仅是由最大限度地节省能源。我们考虑一个二维的多代理梯队的形成,每个代理收到的好处,这取决于它的位置相对于其他的,并调整其位置,以增加这种好处。我们分析了自私的情况下,每个代理最大限度地提高自己的利益,导致纳什均衡问题,和合作的情况下,代理最大限度地提高全球利益的集团。我们提供的条件下,经常观察到的梯队编队的利益函数不能纳什均衡或组最优。然后,我们表明,这些条件是满足常规使用的固定翼尾流效益模型。这意味着,根据固定翼模型,仅凭节省能源不足以解释所观察到的迁徙编队的出现。因此,无论是非空气动力学方面或更准确的鸟动力学模型应考虑构建这样的编队。
2021-03-24 cs.GT cs.MA cs.SY
Prosocial Norm Emergence in Multiagent Systems
North Carolina State University(北卡罗来纳州立大学);University of Bristol(布里斯托尔大学)
多智能体系统为开发自治实体系统提供了基础,并因此在各种领域中找到应用。我们考虑的设置,不仅是成员代理是自适应的,而且多智能体系统被视为一个实体,在自己的权利是自适应的。具体来说,多智能体系统的社会结构可以反映在其成员之间的社会规范。众所周知,社会中出现的规范并不总是对其成员有利。我们专注于亲社会规范,这有助于实现社会的积极成果,并经常提供指导代理人采取行动的方式,考虑到他人的福利。具体来说,我们提出了Cha,一个亲社会规范出现的框架。与以前的规范涌现方法不同,Cha支持系统的持续变化(代理人可以进入和离开)和动态性(当环境发生变化时,规范可能会发生变化)。重要的是,Cha代理人将基于不公平厌恶理论的亲社会决策纳入其中,反映了反社会产生的内疚感。通过这种方式,Cha汇集了亲社会性中的两个重要主题:个人决策和系统级结果的公平性。我们通过模拟证明,Cha可以提高总的社会收益和结果的公平性。
2022-05-04 cs.AI cs.MA