Measuring non-trivial compositionality in emergent communication
University of Sussex(萨塞克斯大学);Human Interactivity and Language Lab(人类交互与语言实验室);Faculty of Psychology(心理学院);University of Warsaw(华沙大学)
组合性是涌现交际和语言进化的重要解释对象。绝大多数的通信计算模型只解释了组合性的一种非常基本的形式:平凡组合性。如果一个复杂信号(例如蓝色圆圈)的含义归结为它的组成部分的含义的交集(例如蓝色对象集和圆圈集的交集),则合成协议是平凡合成的。如果一个复杂信号(例如最大的苹果)的含义是其组成部分含义的更复杂函数,则该协议是非平凡组合(NTC)的。在本文中,我们回顾了几个指标的组合性在紧急通信和实验表明,他们中的大多数未能检测NTC -即他们对待非平凡的组合性作为失败的组合性。一个例外是树重建错误,这是一个由组合性的正式账户激励的度量。这些结果强调了紧急通信研究的重要局限性,这可能会阻碍NTC出现的建模进展。
2020-10-29 cs.CL cs.LG cs.NE
Learning Multi-Object Positional Relationships via Emergent Communication
Peking University(北京大学);BAAI(北京智源人工智能研究院)
涌现通信的研究一直致力于交互式人工智能。虽然现有的工作集中在单个对象或复杂的图像场景的通信,我们认为,多个对象之间的通信关系是很重要的,在更现实的任务,但研究不足。在本文中,我们试图填补这一空白,并专注于两个对象之间的位置关系的紧急通信。我们训练代理的参考博弈中的观察包含两个对象,发现泛化是主要问题时,涉及的位置关系。影响新兴语言泛化能力的关键因素是说话者和听话者之间的输入变化,我们的工作是通过随机图像生成器来实现的。此外,我们发现学习的语言可以在一个新的多步MDP任务中很好地泛化,其中位置关系描述了目标,并且比原始像素图像以及预训练的图像特征表现得更好,验证了离散序列的强大泛化能力。我们还表明,从参考游戏的语言迁移表现更好的新任务比直接学习语言在这个任务中,这意味着在参考游戏的预训练的潜在好处。总而言之,我们的实验证明了让代理学习通过紧急通信来传达多个对象之间的位置关系的可行性和优点。
2023-02-16 cs.AI cs.CL cs.LG
Emergent Communication in a Multi-Modal, Multi-Step Referential Game
New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
受参考游戏中的紧急通信的启发,我们提出了一种新的多模式,多步骤的参考游戏,其中发送者和接收者可以访问对象的不同模态,并且他们的信息交换是双向的,任意持续时间。多模态多步骤设置允许代理开发更接近自然语言的内部通信,因为它们共享单个消息集,并且会话的长度可以根据任务的难度而变化。我们使用由哺乳动物的图像和文本描述组成的数据集来经验性地检查这些属性,其中代理的任务是识别正确的对象。我们的实验表明,一个强大的和有效的通信协议出现,逐步信息交换通知更好的预测和更高的通信带宽提高泛化。
2018-04-16 cs.CL cs.CV cs.IT
Learning Translations: Emergent Communication Pretraining for Cooperative Language Acquisition
King’s College London(伦敦国王学院)
本文提出合作语言习得问题CLAP,允许新加入智能体利用目标群体交互数据,并比较模仿学习与涌现通信预训练加翻译学习两种方法,以解决零样本协调中缺乏先验数据导致的通信困难。
2024-02-26 cs.CL cs.LG cs.MA
Emergent Communication for Understanding Human Language Evolution: What's Missing?
Max Planck Institute for Psycholinguistics(马克斯·普朗克心理语言学研究所);Tel Aviv University(特拉维夫大学);University of Glasgow(格拉斯哥大学)
人类和人工神经网络代理之间的紧急通信协议还没有共享相同的属性,并且在结果中显示出一些关键的不匹配。我们描述了关于组合性的出现和益处的三个重要现象:易于学习、泛化和群体规模效应(即,更大的群体创造更系统的语言)。后两个没有完全复制与神经代理,这阻碍了使用神经涌现通信语言进化研究。我们认为,这些不匹配的一个可能的原因是,人类的关键认知和沟通的限制尚未整合。具体来说,在人类中,记忆约束和说话者和听话者角色之间的交替是语言结构出现的基础,但这些约束在神经模拟中通常不存在。我们认为,引入这样的沟通和认知的限制,将促进更多的语言合理的行为与神经代理。
2022-04-22 cs.CL cs.LG cs.NE
Biology and Compositionality: Empirical Considerations for Emergent-Communication Protocols
University of California, Irvine(加州大学欧文分校);Mila(米拉研究所);Québec AI Insitute(魁北克人工智能研究所)
以生物系统为指导,人工系统取得了重大进展。然而,在涌现交流的计算模型和语言出现的生物模型之间往往很少有相互作用。许多语言起源和涌现传播的研究者把组合性作为他们的主要目标,解释简单的传播系统如何变得更像自然语言。然而,我们有理由认为,组合性在生物学方面是错误的目标,在机器学习方面也是错误的目标。因此,本文的目的是探讨这一主张。这对语言起源的研究具有更普遍的理论意义,但这里的重点将是对计算机科学和机器学习中的新兴通信研究的影响--特别是关于可能预期工作的程序类型和那些不工作的程序。我进一步提出了一种替代方法,为未来的研究重点是自反性,而不是组合性,作为一个目标,解释如何简单的通信系统可能变得更像自然语言。最后,我提供了一些对机器学习研究人员可能有用的语言起源文献的参考。
2019-12-27 cs.AI cs.CL cs.LG
Learning to Draw: Emergent Communication through Sketching
The University of Southampton(南安普顿大学)
有证据表明,视觉交流先于书面语言,并为书面语言提供了基础,这可以追溯到史前时期,例如洞穴和岩画描绘了我们遥远祖先的痕迹。新兴的通信研究试图探索如何代理可以学会沟通,以协作解决任务。现有的研究主要集中在语言上,通过学习的通信信道在代理之间传输离散令牌序列。在这项工作中,我们探索了一个可视化的通信渠道,允许绘制简单的笔画代理之间。我们的代理由深度神经网络参数化,绘图过程是可区分的,允许端到端的训练。在一个参照的通信游戏的框架中,我们证明,代理不仅可以成功地学会沟通,通过绘图,但适当的归纳偏见,可以这样做的方式,人类可以解释。我们希望鼓励未来的研究考虑视觉通信作为一个更灵活和直接解释的替代培训合作代理。
2021-11-09 cs.AI cs.CV cs.LG
Ease-of-Teaching and Language Structure from Emergent Communication
University of Alberta(阿尔伯塔大学)
人工智能体已经被证明可以在需要完成合作任务时学习沟通。某种程度的语言结构(例如,组合性)已经在所学习的通信协议中被发现。这种观察到的结构通常是训练期间特定环境压力的结果。通过定期引入新的代理人,以取代旧的,顺序和人口,我们探索这样一个新的压力-教学的便利性-并显示其对所产生的语言结构的影响。
2019-10-28 cs.AI cs.CL cs.LG
Entropy Minimization In Emergent Languages
Facebook AI Research(脸书人工智能研究院);Cognitive Machine Learning (ENS - EHESS - PSL - CNRS - INRIA)(认知机器学习实验室(巴黎高等师范学院-社会科学高等学院-巴黎文理研究大学-法国国家科学研究中心-法国国家信息与自动化研究所));Catalan Institute for Research and Advanced Studies(加泰罗尼亚研究与高级研究所)
当神经代理被联合训练来解决需要通过离散通道进行通信的任务时,人们对研究这些语言的兴趣越来越大。我们在这里调查的信息理论的复杂性,这样的语言,专注于基本的两个代理,一个交换设置。我们发现,在共同的训练程序,新兴的语言受到熵最小化的压力,也已被检测到在人类语言,从而通信代理的输入和消息之间的互信息被最小化,在所提供的范围内,需要成功的沟通。也就是说,紧急语言(几乎)和它们被开发的任务一样简单。这种压力随着我们增加沟通渠道的离散性而放大。此外,我们观察到,更强的离散通道驱动的熵最小化导致表示具有更强的鲁棒性过拟合和对抗攻击。最后,我们讨论了我们的研究结果的影响,自然和人工通信系统的研究。
2020-06-26 cs.CL cs.LG
On the Pitfalls of Measuring Emergent Communication
Mila;Facebook AI Research;Google AI
我们如何知道在多智能体系统中是否出现了通信?最近绝大多数关于紧急沟通的论文表明,增加沟通渠道会导致奖励或任务成功率的增加。这是一个有用的指示器,但只提供了一个粗略的测量代理的学习通信能力。随着我们向更复杂的环境迈进,拥有一套更精细的工具变得势在必行,这些工具可以对通信的出现进行定性和定量的洞察。这对于允许人类监控代理的行为特别有用,无论是用于故障检测,评估性能,还是甚至建立信任。在本文中,我们研究了一些直观的现有衡量沟通的指标,并表明它们可能会误导。具体来说,通过训练深度强化学习代理来玩简单的矩阵游戏,并增加一个通信通道,我们发现了一个场景,代理似乎在进行通信(他们的消息提供了有关其后续行动的信息),但这些消息不会以任何方式影响环境或其他代理。我们解释这种现象,使用消融研究和可视化的表示学习的政策。我们还调查了一些常用的衡量紧急沟通的指标,并提供建议,当这些指标应该使用。
2019-03-12 cs.AI cs.CL cs.LG
How agents see things: On visual representations in an emergent language game
Facebook AI Research(脸书人工智能研究院)
人们越来越感兴趣的语言开发的代理人在紧急通信环境中进行交互。早期的研究集中在代理的符号使用,而不是他们的视觉输入表示。在本文中,我们考虑了Lazaridou et al.(2017)的参考游戏,并研究了代理在其不断发展的交互过程中发展的表示。我们发现,代理建立成功的沟通,诱导视觉表示,几乎完美地相互对齐,但令人惊讶的是,不捕捉输入图像中所描绘的对象的概念属性。我们的结论是,如果我们有兴趣在开发类似语言的通信系统,我们必须更加关注的视觉语义代理相关联的符号,他们使用。
2018-09-13 cs.CL cs.LG
Emergent Discrete Communication in Semantic Spaces
Massachusetts Institute of Technology(麻省理工学院);University of Pittsburgh(匹兹堡大学);Carnegie Mellon University(卡内基梅隆大学)
在强化学习环境中训练的神经代理可以学习通过离散的令牌在它们之间进行通信,作为一个团队完成代理无法单独完成的任务。然而,使用独热向量作为离散通信令牌的当前标准阻止代理获得通信的更期望的方面,例如zero-shot理解。受来自自然语言处理的词嵌入技术的启发,我们提出了神经代理架构,使它们能够通过来自学习的连续空间的离散令牌进行通信。我们在一个决策理论框架中表明,我们的技术在广泛的场景中优化了通信,而独热令牌仅在限制性假设下是最佳的。在自我游戏实验中,我们验证了我们经过训练的代理学习以语义有意义的方式聚类令牌,允许它们在其他技术失败的嘈杂环境中进行通信。最后,我们证明了使用我们的方法的代理可以有效地响应新的人类通信和人类可以理解未标记的紧急智能体通信,优于使用一热通信。
2021-11-04 cs.CL cs.LG cs.MA
Learning to Request Guidance in Emergent Communication
University of Amsterdam(阿姆斯特丹大学)
先前对智能体通信的研究表明,预先训练的指导可以加快模仿学习代理的学习过程。该指南通过向代理提供关于如何解决任务的新兴语言的离散消息来实现这一点。我们通过一个从学习者回到指导者的一位沟通渠道来扩展这种单向沟通:它能够向指导者寻求帮助,我们通过惩罚学习者的这些请求来限制指导。在训练过程中,智能体根据其当前的观察来学习控制这个门。我们发现,随着时间的推移,所要求的指导减少,指导要求在高度不确定的情况下。我们调查代理的性能在打开和关闭的门的情况下,并讨论所观察到的门控行为的潜在动机。
2019-12-11 cs.AI cs.CL cs.LG
On the Role of Emergent Communication for Social Learning in Multi-Agent Reinforcement Learning
Carnegie Mellon University(卡内基梅隆大学);University of Pittsburgh(匹兹堡大学)
人类之间的明确沟通是协调和学习的关键。社会学习,它使用来自专家的线索,可以大大受益于使用明确的沟通,以调整异构的政策,降低样本的复杂性,并解决部分可观察的任务。紧急通信是一种显式通信,研究创建一种人工语言来直接从数据中编码高任务实用性消息。然而,在大多数情况下,紧急通信发送的消息压缩不足,信息很少或为空,这也可能无法理解第三方侦听器。提出了一种基于信息瓶颈的无监督方法,以捕获参考复杂度和任务特定效用,从而充分探索多智能体强化学习(MARL)中的稀疏社会通信场景。我们表明,我们的模型能够i)开发一个自然语言启发的信息词典,该信息词典独立地由一组新兴概念组成,这些概念以最小的位跨越观察和意图,ii)开发通信,以使异构代理的行动策略与不同的特征模型保持一致,iii)从观察专家的行动策略中学习通信策略,我们称之为“社会阴影”。
2023-02-28 cs.AI cs.LG cs.MA
It's About Time: Temporal References in Emergent Communication
University of Southampton(索姆塞特大学);The Alan Turing Institute(艾伦·图灵研究所);University of Brescia(布雷西亚大学)
研究涌现通信中时间指代缺失问题,发现仅改变损失函数不足,需修改架构(分批方法)才能使时间指代涌现,95%以上代理成功,为提升通信效率奠定基础。
2026-06-16 cs.AI cs.CL cs.LG
Emergent Communication through Negotiation
University of Cambridge(剑桥大学);DeepMind(深度思维)
多智能体强化学习提供了一种研究如何在需要解决特定问题的智能体社区中出现通信的方法。在本文中,我们研究了在谈判环境中,代理交互的半合作模型的通信的出现。我们介绍两种通信协议--一种是基于游戏的语义,另一种是不基于\textit{a priori}的,是一种廉价的谈话形式。我们发现,自利代理人可以使用预先接地的沟通渠道进行公平谈判,但无法有效地使用非接地渠道。然而,亲社会的代理人确实学会了使用廉价的谈话来找到最佳的谈判策略,这表明合作是语言出现的必要条件。我们还研究了通信行为的设置,其中一个代理人与代理人在一个社区中具有不同程度的亲社会性,并显示代理的可识别性可以帮助谈判。
2018-04-11 cs.AI cs.CL cs.LG
Emergent Communication under Competition
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);Schwartz Reisman Institute(施瓦茨·赖斯曼研究所);University of Toronto(多伦多大学);Deepmind(深度思维)
现代机器学习中的文献对于使用标准RL学习竞争代理之间的通信只有负面结果。我们引入了一个修改后的发送者-接收者的游戏,研究频谱的部分竞争的情况下,并显示通信确实可以出现在一个有竞争力的设置。我们实证证明了未来研究的三个关键要点。首先,我们表明,通信是成比例的合作,它可以发生部分竞争的情况下,使用标准的学习算法。其次,我们强调沟通和操纵之间的区别,并将以前的沟通指标扩展到竞争案例。第三,我们研究了谈判游戏,其中以前的工作未能学习独立代理之间的通信(曹等人,2018年)。我们表明,在这种情况下,双方代理人必须受益于沟通,它的出现,并且,稍微修改的游戏,我们展示了成功的竞争代理人之间的沟通。我们希望这项工作能推翻误解,并激发更多的研究竞争性新兴通信。
2021-01-25 cs.AI cs.LG cs.MA
Learning Emergent Discrete Message Communication for Cooperative Reinforcement Learning
Stanford University(斯坦福大学);MIT Lincoln Lab(麻省理工学院林肯实验室)
在多智能体强化学习(MARL)中,通信是保证智能体协同工作的重要因素。大多数以前的工作使用连续的消息通信,其高代表性的能力是以牺牲可解释性。允许智能体学习来自不同领域的离散消息通信协议,可以提高设计人员和其他智能体的可解释性,本文提出了一种生成类似人类语言的离散消息的方法,并通过基于自我注意的广播和收听机制实现通信。我们表明,离散消息通信的性能可比连续消息通信,但与一个小得多的词汇大小。此外,我们提出了一种方法,允许人类交互式地发送离散消息的代理。
2021-02-24 cs.AI cs.LG cs.MA
Structural Inductive Biases in Emergent Communication
University of Cambridge(剑桥大学);MILA(蒙特利尔学习算法研究所);McGill University(麦吉尔大学);Polytechnique Montréal(蒙特利尔综合理工学院);ServiceNow(ServiceNow公司)
为了交流,人类将复杂的想法及其属性表示成一个单词或句子。我们通过开发图形参考游戏来研究人工智能体中表示学习的影响。我们的经验表明,代理参数化的图神经网络开发一个更组成的语言相比,袋的话和序列模型,这使他们能够系统地推广到新的组合熟悉的功能。
2021-07-27 cs.AI cs.CL cs.LG
Communicating Plans, Not Percepts: Scalable Multi-Agent Coordination with Embodied World Models
Department of Computer Science University of Wisconsin-Madison(计算机科学系 明尼苏达大学);Department of Computer Science National University of Singapore(计算机科学系 新加坡国立大学)
本文提出基于具身世界模型的意图通信方法,通过端到端学习与工程化设计对比,展示在复杂环境下更优的协调能力。
2025-11-24 cs.AI cs.LG cs.MA
Inductive Bias for Emergent Communication in a Continuous Setting
University of Stavanger(斯塔万格大学);University of Bergen(卑尔根大学)
本文面向多智能体强化学习中的涌现通信,提出用于连续消息的归纳偏置,并验证其单独或结合强化学习时能改善 Negotiation 与 Sequence Guess 中的通信协议。
2023-06-06 cs.AI cs.LG cs.MA
Anti-efficient encoding in emergent communication
Facebook AI Research(Facebook人工智能研究院);ENS - EHESS - PSL Research University - CNRS - INRIA(巴黎高等师范学院-社会科学高等研究院-巴黎文理研究大学-法国国家科学研究中心-法国国家信息与自动化研究所);ICREA(加泰罗尼亚研究与高等教育学院)
尽管人们对使用神经网络进行紧急语言模拟重新产生了兴趣,但人们对诱导代码的基本属性以及它们与人类语言的比较知之甚少。后者的一个基本特征,称为齐普夫缩写定律(ZLA),是更频繁的单词有效地与更短的字符串相关联。我们研究是否出现相同的模式时,两个神经网络,一个"扬声器"和"听众",被训练玩信号游戏。令人惊讶的是,我们发现网络开发了一个\emph{anti-efficient}编码方案,其中最频繁的输入与最长的消息相关联,并且消息通常偏向于最大长度阈值。这种反效率的代码似乎更容易为听众区分,而且,与人类交流不同,说话者不会对简洁施加对比最小努力的压力。实际上,当成本函数包括对较长消息的惩罚时,所得到的消息分发开始遵守ZLA。我们的分析强调了在高度受控的环境中研究紧急交流的基本特征的重要性,以确保后者不会与人类语言相去甚远。此外,我们提出了一个具体的例子,不同的功能压力如何导致成功的通信代码,缺乏人类语言的基本属性,从而突出了这种压力在后者中发挥的作用。
2019-10-15 cs.AI cs.CL cs.LG
Emergent Communication Pretraining for Few-Shot Machine Translation
University of Cambridge(剑桥大学)
首次通过指代游戏中的涌现通信对神经网络进行预训练,在缺乏语言数据时将通信基于图像以引导模型学习自然语言,并引入定制适配器层与退火策略,在少样本机器翻译中显著提升BLEU得分并防止灾难性遗忘。
2020-11-02 cs.AI cs.CL cs.LG
Implicit Repair with Reinforcement Learning in Emergent Communication
INESC-ID;Instituto Superior Técnico(高等技术学院);PUC-Rio(里约热内卢天主教大学)
本研究通过强化学习在刘易斯博弈中引入噪声,探讨隐式修复机制,发现智能体通过冗余消息应对噪声,并提出了唯一能兼顾有无噪声且保持高泛化性能的稳健通信协议。
2025-02-24 cs.LG cs.MA
Emergent Semantic Representations in World Models through Physical Interaction without Linguistic Supervision
Independent Researcher(独立研究者)
通过无语言监督的物理探索训练VAE世界模型,发现其潜在空间自发形成与物理几何结构对齐的语义结构,且预测性能与语义对齐共同提升,验证了物理几何作为世界模型表征的组织原则。
2026-07-07 cs.AI cs.LG
Emergent Cooperation in Quantum Multi-Agent Reinforcement Learning Using Communication
Munich Quantum Valley(慕尼黑量子谷)
本文提出通过通信机制在量子多智能体强化学习中实现协同涌现,实验表明MATE等方法能有效提升协作水平。
2026-01-26 cs.AI cs.LG cs.MA
Emergent Communication in Multi-Agent Reinforcement Learning for Future Wireless Networks
New York University(纽约大学);NYU Tandon School of Engineering(纽约大学坦登工程学院);Technology Innovation Institute(技术创新研究院)
本文探讨了带有涌现通信的多智能体强化学习(EC-MARL)在未来6G无线网络中的应用,阐述其如何通过构建涌现通信协议实现协作,解决高维连续控制等复杂任务,并提供了算法设计准则、应用案例及研究机遇。
2023-09-12 cs.LG cs.MA eess.SP
Control as Probabilistic Inference as an Emergent Communication Mechanism in Multi-Agent Reinforcement Learning
The University of Electro-Communications(电气通信大学);Ritsumeikan University(立命馆大学)
本文提出将控制即概率推断与涌现通信结合的多智能体强化学习模型,通过潜在消息变量和Metropolis-Hasting命名博弈实现智能体间动作信息交换,并在网格世界实验中验证其能推断有意义消息以完成协作任务。
2023-07-11 cs.AI cs.LG cs.MA
A 3D Isovist World Model -- Revealing a City's Unseen Geometry and Its Emergent Cross-City Signature
The Bartlett School of Sustainable Construction University College London, UK(可持续建设学院伦敦大学学院,英国);Department of Geography University College London, UK(地理系伦敦大学学院,英国);School of Project Management, Faculty of Engineering The University of Sydney, AU(工程学院项目管理学院悉尼大学,澳大利亚);School of Engineering Cardiff University, UK(工程学院卡迪夫大学,英国);School of Architecture Tsinghua University, Beijing, CN(建筑学院清华大学,北京,中国)
提出一种预测3D等视域(球形可见性深度图)的具身世界模型,通过深度残差和自滚动调度采样训练,发现跨城市空间特征可从时间潜变量中线性解码。
2026-06-17 cs.LG cs.RO
Towards Graph Representation Learning in Emergent Communication
University of Cambridge(剑桥大学);MILA(蒙特利尔学习算法研究所);McGill University(麦吉尔大学)
神经科学的最新发现表明,人类大脑以几何结构(例如,通过概念空间)表示信息。为了交流,我们将实体及其属性的复杂表示扁平化为单个单词或句子。在本文中,我们使用图卷积网络,以支持多智能体系统中的语言和合作的演变。基于图像的参考游戏的动机,我们提出了一个图形参考游戏不同程度的复杂性,我们提供了强大的基线模型,表现出理想的属性的语言出现和合作。我们表明,出现的通信协议是强大的,代理发现在游戏中的变化的真正因素,他们学会了概括训练过程中遇到的样本之外。
2020-02-04 cs.AI cs.CL cs.LG
Interpretable Learned Emergent Communication for Human-Agent Teams
Carnegie Mellon University(卡内基梅隆大学);Massachusetts Institute of Technology(麻省理工学院);University of Pittsburgh(匹兹堡大学)
学习可解释的通信对于多智能体和人类智能体团队(HAT)至关重要。在部分可观察环境的多智能体强化学习中,智能体可以通过学习的通信向其他智能体传递信息,从而允许团队完成其任务。受人类语言的启发,最近的作品研究离散(仅使用有限的令牌集)和稀疏(仅在某些时间步长进行通信)通信。然而,在人类代理团队实验中,这种通信的实用性尚未得到研究。在这项工作中,我们分析了稀疏离散的方法产生紧急通信,使高代理和人类代理团队的性能的有效性。我们开发了仅代理的团队,这些团队通过我们的执行者计划进行稀疏通信,该计划充分限制了任何预算的通信。我们的结果显示,在基准测试环境和任务中,性能没有损失或损失极小。在基准测试环境中测试的人类代理团队中,代理已使用执行者建模,我们发现基于原型的方法产生有意义的离散令牌,使人类合作伙伴能够更快,更好地学习智能体通信比一个热基线。额外的HAT实验表明,适当的稀疏水平降低了人类与代理团队沟通时的认知负荷,并导致卓越的团队表现。
2023-01-05 cs.LG cs.MA cs.RO
Math Takes Two: A test for emergent mathematical reasoning in communication
Cooper Cognitive(Cooper认知)
本文提出Math Takes Two基准测试,通过两个无先验数学知识的智能体交流,评估模型在视觉任务中通过发现潜在结构来发展抽象概念的能力。
2026-03-30 cs.AI cs.LG
On the interaction between supervision and self-play in emergent communication
Facebook AI(Facebook人工智能);MILA(蒙特利尔学习算法研究所);Facebook AI Research(Facebook人工智能研究院)
一种很有前途的教人工智能体使用自然语言的方法涉及使用人在回路训练。然而,最近的研究表明,当前的机器学习方法数据效率太低,无法从头开始以这种方式进行训练。在本文中,我们研究了两类学习信号之间的关系,其最终目标是提高样本效率:通过监督学习模仿人类语言数据,并通过自我游戏(如在紧急通信中所做的)在模拟的多智能体环境中最大化奖励,并为使用这两种信号的算法引入了监督自我游戏(S2P)。我们发现,首先通过对人类数据的监督学习进行训练,然后进行自我发挥,效果优于相反的情况,这表明从头开始出现语言是没有好处的。然后,我们实证调查各种S2P的时间表,开始在两个环境中的监督学习:刘易斯信号游戏与符号输入,和基于图像的参考游戏与自然语言的描述。最后,我们引入了基于人口的方法S2P,这进一步提高了单代理方法的性能。
2020-06-22 cs.AI cs.CL cs.LG
Learning to Generate Pointing Gestures in Situated Embodied Conversational Agents
Division of Speech, Music and Hearing, KTH Royal Institute of Technology(语音、音乐与听觉系,皇家理工学院)
提出结合模仿与强化学习的框架,在具身智能体中生成物理有效且高指代准确度的指示手势,优于监督模型基线。
2025-09-15 cs.HC cs.LG cs.RO
Semantic Communication meets System 2 ML: How Abstraction, Compositionality and Emergent Languages Shape Intelligence
Centre of Wireless Communications, University of Oulu(奥卢大学无线通信中心);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文主张超越纯技术层面,提出基于系统2认知原则的语义通信范式,通过抽象性、组合性与涌现通信三大支柱,构建能够推理、适应和协作的智能系统,从而统一无线通信、机器学习与机器人领域。
2025-05-27 cs.IT cs.LG math.IT
On Emergent Communication in Competitive Multi-Agent Teams
Carnegie Mellon University(卡内基梅隆大学)
最近的几项研究发现,在大多数合作多智能体系统开发的通信协议中,当学习端到端以最大限度地提高下游任务的性能时,会出现接地组合语言。然而,人类不仅在完全合作的环境中,而且在竞争作为改进的额外外部压力的情况下,学会解决涉及沟通行为的复杂任务。在这项工作中,我们调查是否竞争的性能从外部,类似的代理团队可以作为一个社会的影响,鼓励多代理人口开发更好的通信协议,以提高性能,组合性和收敛速度。我们从之前提出的两个合作代理之间的参考游戏“任务与谈话”作为我们的测试平台开始,并将其扩展到“任务、谈话与竞争”,这是一个涉及两个竞争团队的游戏,每个团队由两个上述合作代理组成。使用这种新的设置,我们提供了一个实证研究,展示了竞争的影响力对多智能体团队的影响。我们的研究结果表明,外部竞争的影响,导致提高准确性和概括性,以及更快地出现的交际语言,是更多的信息和成分。
2020-07-16 cs.AI cs.CL cs.LG
CommCP: Efficient Multi-Agent Coordination via LLM-Based Communication with Conformal Prediction
Trustworthy Autonomous Systems Laboratory at the University of California, Riverside, CA, USA(加州大学河滨分校可信自主系统实验室)
CommCP通过基于大语言模型的通信框架,提升多智能体协作任务的成功率和探索效率。
2026-02-05 cs.AI cs.CV cs.LG
Intent Profiling and Translation Through Emergent Communication
Centre for Wireless Communications, University of Oulu(奥卢大学无线通信中心);Nokia Bell Labs(诺基亚贝尔实验室)
本文提出基于涌现通信的AI框架,用于网络应用意图画像与翻译,通过将应用QoE意图映射到网络切片,实现高效意图表达,仿真验证其性能优于自学习切片并接近完美知识基线。
2024-02-05 cs.AI cs.LG cs.NI
FRESHLATENT: Channel-Aware Latent Adaptation for Resource-Constrained Embodied VLM Perception
University of California, Irvine(加州大学欧文分校);Kookmin University(国民大学);Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
针对资源受限无人机分割VLM感知中无线信道损坏导致部署失配的问题,提出轻量级信道感知适配器FreshLatent,以极低开销恢复大部分鲁棒性,显著提升恶劣信道下的感知质量。
2026-09-28 cs.CV cs.DC cs.LG
Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent Semantic Communications
Virginia Tech(弗吉尼亚理工大学)
提出融合信号博弈与基于 Generative Flow Networks 的神经符号因果推理的 ESC 框架,以涌现语言实现低比特、高可靠的语义通信。
2023-11-08 cs.CL cs.IT cs.LG
Knowledge Distillation from Language-Oriented to Emergent Communication for Multi-Agent Remote Control
KAIST(韩国科学技术院);Deakin University(迪肯大学);University of Oulu(奥卢大学);Yonsei University(延世大学)
针对多智能体远程导航中涌现通信训练困难与语言导向语义通信推理成本高的问题,提出通过知识蒸馏将LSC知识迁移到EC的LEC框架,显著提升收敛速度与导航性能。
2024-03-03 cs.AI cs.IT cs.LG
Drawing with Strangers: Population Scaling Drives Zero-Shot Mutual Intelligibility in Emergent Sketching
Graduate School of Artificial Intelligence, UNIST(UNIST人工智能研究生院)
研究通过视觉素描游戏,发现扩大训练种群规模能显著提升独立训练群体间的零-shot互懂性,其机制在于增加群体内变异并减少群体间差异,最终通过感知锚定实现结构收敛。
2026-06-09 cs.AI cs.LG
The Five Ws of Multi-Agent Communication: Who Talks to Whom, When, What, and Why -- A Survey from MARL to Emergent Language and LLMs
University of Arizona(亚利桑那大学);Carnegie Mellon University(卡内基梅隆大学)
本文综述了多智能体通信的五个W,探讨了从MARL到涌现语言和LLM的发展,分析了不同范式下的通信设计、权衡与挑战。
2026-02-12 cs.AI cs.LG
Multi-Agent Curricula and Emergent Implicit Signaling
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技学院)
紧急通信已经朝着从头开始学习通信的方向迈进,但主要集中在类似人类语言的协议上。在自然界中,多智能体合作产生了广泛的通信,不同的结构和复杂性。在这项工作中,我们认识到存在于自然界中的通信的全部频谱,并建议研究低层次的通信。具体来说,我们研究紧急隐式信号的背景下,分散的多智能体学习困难,稀疏的奖励环境。然而,在这种环境中学习协调是具有挑战性的。我们提出了一个基于速度驱动的策略,结合:(一)基于速度的环境塑造,量身定制的多智能体团队的技能水平;和(二)行为课程,帮助代理学习成功的单智能体行为的先驱学习多智能体行为。追踪-规避实验表明,我们的方法可以学习有效的协调,显著优于复杂的分析和学习策略。我们的方法完成的追求,逃避任务,即使追求者以逃避者的速度的一半移动,而最高性能的基线失败的逃避者的速度的80%。此外,我们通过基于位置的社会影响来研究隐性信号在协调中的使用。我们发现,用我们的策略训练的追踪者交换的信息(以比特为单位)是基线方法的两倍多,这表明我们的方法已经学会了,并且在很大程度上依赖于隐式信号的交换。
2022-02-06 cs.AI cs.LG cs.MA
AI Mother Tongue: Self-Emergent Communication in MARL via Endogenous Symbol Systems
PARRAWA AI
本研究提出基于VQ-VAE的AIM框架,证明内生符号系统能使多智能体无需外部归纳偏置即可自发涌现有效通信,并展现出更强的通用性与效率,为融合符号主义与连接主义提供了新途径。
2025-07-07 cs.AI cs.GT cs.LG