Biology and Compositionality: Empirical Considerations for Emergent-Communication Protocols
University of California, Irvine（加州大学欧文分校）；Mila（米拉研究所）；Québec AI Insitute（魁北克人工智能研究所）
以生物系统为指导，人工系统取得了重大进展。然而，在涌现交流的计算模型和语言出现的生物模型之间往往很少有相互作用。许多语言起源和涌现传播的研究者把组合性作为他们的主要目标，解释简单的传播系统如何变得更像自然语言。然而，我们有理由认为，组合性在生物学方面是错误的目标，在机器学习方面也是错误的目标。因此，本文的目的是探讨这一主张。这对语言起源的研究具有更普遍的理论意义，但这里的重点将是对计算机科学和机器学习中的新兴通信研究的影响--特别是关于可能预期工作的程序类型和那些不工作的程序。我进一步提出了一种替代方法，为未来的研究重点是自反性，而不是组合性，作为一个目标，解释如何简单的通信系统可能变得更像自然语言。最后，我提供了一些对机器学习研究人员可能有用的语言起源文献的参考。
2019-12-27 cs.AI cs.CL cs.LG
On (Emergent) Systematic Generalisation and Compositionality in Visual Referential Games with Straight-Through Gumbel-Softmax Estimator
University of York（约克大学）
当两个（或多个）智能体玩非视觉参考游戏时，人工语言中出现的组合性驱动因素先前已经使用基于REINFORCE算法和（神经）迭代学习模型的方法进行了研究。继最近推出的\textit{Straight-Through Gumbel-Softmax}（ST-GS）的方法，本文探讨了在何种程度上的驱动程序的组合性，到目前为止，在该领域的应用在ST-GS的背景下，在何种程度上他们转化为（紧急）系统的概括能力，当玩视觉参考游戏。组合性和概括能力的新兴语言进行了评估，使用地形相似性和zero-shot成分测试。首先，我们提供的证据表明，测试列车分裂策略显着影响zero-shot成分测试时，处理视觉刺激，而它不处理时，象征性的。其次，经验证据表明，使用ST-GS的方法与小批量和过完整的沟通渠道，提高了新兴语言的组合性。然而，虽然表现出强大的符号刺激，批量大小的影响是不那么明确的处理视觉刺激时。我们的研究结果还表明，并不是所有的过完备沟通渠道都是平等的。事实上，虽然增加最大的句子长度被发现是有益的，进一步的组合性和概括能力，增加词汇量的大小被发现是有害的。最后，在视觉刺激的歧视性参考游戏的背景下，观察到在训练时的语言组合性和代理的泛化能力之间缺乏相关性。这与先前在使用具有符号刺激的生成变体的领域中的观察结果相似。
2020-12-19 cs.AI cs.CL cs.LG
Capacity, Bandwidth, and Compositionality in Emergent Language Learning
New York University（纽约大学）；MILA（蒙特利尔学习算法研究所）；Facebook AI Research（Facebook人工智能研究院）；Google AI（谷歌人工智能）
最近的许多著作都讨论了涌现语言表现出自然语言属性的倾向，或者缺乏这种倾向。文学作品中最受欢迎的是学习组合性。我们注意到，这些作品中的大多数都集中在通信带宽是首要的。虽然重要，但它不是唯一的影响因素。在本文中，我们调查的学习偏见，影响的有效性和组合性的新兴语言。我们最重要的贡献是探索神经网络的能力如何影响其学习组合语言的能力。我们还引入了一组评估指标，我们分析学习的语言。我们的假设是，应该有一个特定的范围内的模型容量和通道带宽，诱导合成结构的语言，从而鼓励系统的概括。虽然我们从经验上看到了这一范围底部的证据，但奇怪的是，我们没有找到这一范围顶部的证据，并认为这是一个悬而未决的问题。
2020-04-15 cs.AI cs.CL cs.LG
Intrinsically Motivated Compositional Language Emergence
Örebro University（厄勒布鲁大学）；Indian Institute of Science（印度科学学院）
近年来，关于人工智能体在模拟环境中交互的紧急通信已经有了大量的研究。最近的研究表明，一般来说，新兴语言不遵循自然语言的组合模式。为了解决这个问题，现有的作品已经提出了一个有限的信道容量作为一个重要的约束，学习高度组合的语言。在本文中，我们表明，这不是一个充分条件，并提出了一个内在的奖励框架，以提高组合性的紧急通信。我们使用一个带有两个代理的强化学习设置--一个PDMATHAMM Speaker和一个\textit{state-aware} Speaker，它们需要进行通信以执行一组任务。通过我们对三种不同的参考游戏设置的实验，包括一个新的环境gComm，我们发现内在奖励提高组合性分数的$\approx \mathbf{1.5-2}$倍，现有的框架，使用有限的信道容量。
2023-01-27 cs.AI cs.CL
Zero-Shot Generalization using Intrinsically Motivated Compositional Emergent Protocols
Indian Institute of Science（印度科学研究所）
人类语言被描述为一个制造\textit{use of finite means to express an unlimited array of thoughts}的系统。特别感兴趣的是组合性方面，由此，复合语言表达的含义可以从其组成部分的含义中推导出来。如果人工智能体能够开发出类似于人类语言的组合通信协议，它们就可以无缝地推广到看不见的组合。研究已经认识到好奇心在促进儿童语言发展方面的作用。在本文中，我们试图使用这种内在的反馈，诱导一个系统的和明确的原语言。我们演示了组合性如何使代理不仅与看不见的对象进行交互，而且还将技能从一个任务转移到另一个任务中的zero-shot设置：\textit{Can an agent, trained to `pull' and `push twice', `pull twice'?}。
2021-05-11 cs.AI cs.CL
Evolving language compositionality in a frequency-structured meaning space
Université de Namur（那慕尔大学）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；University of Bristol（布里斯托尔大学）
该研究通过迭代学习模型发现，频率分布在学习者可整体习得的形式-意义单元上时可塑造语言组合性，若分布在更小单元则会阻碍语言稳定传递。
2026-10-07 cs.CL
Ease-of-Teaching and Language Structure from Emergent Communication
University of Alberta（阿尔伯塔大学）
人工智能体已经被证明可以在需要完成合作任务时学习沟通。某种程度的语言结构（例如，组合性）已经在所学习的通信协议中被发现。这种观察到的结构通常是训练期间特定环境压力的结果。通过定期引入新的代理人，以取代旧的，顺序和人口，我们探索这样一个新的压力-教学的便利性-并显示其对所产生的语言结构的影响。
2019-10-28 cs.AI cs.CL cs.LG
The Curious Case of Representational Alignment: Unravelling Visio-Linguistic Tasks in Emergent Communication
Leiden University（莱顿大学）；Leiden University Medical Center（莱顿大学医学中心）；University of Kent（肯特大学）；LIACS（莱顿高级计算机科学研究所）
本文研究了涌现通信模拟中的表征对齐问题，发现智能体间对齐增加会导致图像表征偏离输入且未编码类人视觉特征，并提出对齐惩罚防止表征漂移，强调了表征对齐在语言涌现中的关键作用。
2024-07-25 cs.CL
Visual Referential Games Further the Emergence of Disentangled Representations
University of York（约克大学）
该研究在视觉指称博弈语境下探究语言组合性、表征解耦性与系统性的关联，验证基于Obverter架构的博弈解耦表现更优，扩展PosDis指标以区分不同组合语言，并发现训练中系统性与两类指标的相关性随测量时点变化呈现正负显著相关。
2023-04-27 cs.CL
Emergent Communication for Understanding Human Language Evolution: What's Missing?
Max Planck Institute for Psycholinguistics（马克斯·普朗克心理语言学研究所）；Tel Aviv University（特拉维夫大学）；University of Glasgow（格拉斯哥大学）
人类和人工神经网络代理之间的紧急通信协议还没有共享相同的属性，并且在结果中显示出一些关键的不匹配。我们描述了关于组合性的出现和益处的三个重要现象：易于学习、泛化和群体规模效应（即，更大的群体创造更系统的语言）。后两个没有完全复制与神经代理，这阻碍了使用神经涌现通信语言进化研究。我们认为，这些不匹配的一个可能的原因是，人类的关键认知和沟通的限制尚未整合。具体来说，在人类中，记忆约束和说话者和听话者角色之间的交替是语言结构出现的基础，但这些约束在神经模拟中通常不存在。我们认为，引入这样的沟通和认知的限制，将促进更多的语言合理的行为与神经代理。
2022-04-22 cs.CL cs.LG cs.NE
Emergence of Numeric Concepts in Multi-Agent Autonomous Communication
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）
随着深度学习的快速发展，当前自然语言处理的最新技术大多基于使用argescaled静态文本语料库训练的深度学习模型。然而，我们人类以不同的方式学习和理解。因此，扎根语言学习认为，模型需要通过与环境交互获得的经验和感知来学习和理解语言，就像人类一样。在深度强化学习技术的帮助下，已经有大量的工作集中在促进计算代理群体中具有自然语言等组合性的通信协议的出现。与这些工作不同的是，我们，另一方面，关注的是数字概念，对应于抽象的认知和功能词在自然语言。基于一个专门设计的语言游戏，我们验证了计算代理能够在自主通信过程中传输数字概念，以及涌现的通信协议可以反映意义空间的底层结构。虽然从人类的角度来看，它们的编码方法不像自然语言那样是组合的，但涌现语言可以推广到看不见的输入，更重要的是，模型更容易学习。此外，在拓扑相似性度量下，迭代学习有助于进一步提高涌现语言的组合性。此外，我们还尝试了另一种表示方法，即直接将数字编码成one-hot向量的连接，并发现涌现语言将变得像人类自然语言一样组合。因此，我们认为，有两个重要因素的合成语言的出现。
2019-11-04 cs.CL
Internal and external pressures on language emergence: least effort, object constancy and frequency
University of Amsterdam（阿姆斯特丹大学）；LTL, University of Cambridge（剑桥大学语言技术实验室）；ILLC, University of Amsterdam（阿姆斯特丹大学逻辑、语言与计算研究所）；Universitat Pompeu Fabra（庞培法布拉大学）
在以前的工作中，人工代理被证明在参考游戏中达到几乎完美的准确性，在这些游戏中，它们必须进行通信以识别图像。然而，由此产生的通信协议很少显示自然语言的显著特征，如组合性。在本文中，我们提出了一些现实的沟通压力来源，以避免这种结果。更具体地说，我们通过一个辅助目标正式化了最小努力原则。此外，我们探索了几个游戏的变种，灵感来自对象恒常性的原则，在其中我们改变图像中的对象的频率，位置和亮度。我们通过组合性指标、诊断分类器和zero-shot评估对其效果进行了广泛的分析。我们的研究结果表明，提出的压力源的结果，在新兴的语言与较少的冗余，更注重高层次的概念信息，更好的概括能力。总的来说，我们的贡献缩小了新兴语言和自然语言之间的差距。
2020-10-13 cs.AI cs.CL
Emergent Communication: Generalization and Overfitting in Lewis Games
INRIA（法国国家信息与自动化研究所）；Ecole Normale Supérieure PSL（巴黎高等师范学院PSL）；DeepMind（深度思维）；Google Research（谷歌研究院）；EHESS（社会科学高等学院）；ENS-PSL（巴黎高等师范学院PSL）；CNRS（法国国家科学研究中心）；Meta AI Research（Meta人工智能研究院）
刘易斯信号游戏是一类模拟语言出现的简单交流游戏。在这些游戏中，两个代理必须同意一个通信协议，以解决合作任务。以前的工作表明，经过强化学习训练的智能体往往会开发出从语言学角度来看显示出不受欢迎的特性（缺乏泛化，缺乏组合性等）的语言。在本文中，我们的目的是提供更好地理解这种现象，通过分析研究刘易斯游戏的学习问题。作为一个核心的贡献，我们证明了在刘易斯游戏的标准目标可以分解为两个组成部分：一个共同适应损失和信息损失。这种分解使我们能够表面过拟合的两个潜在来源，我们可能会破坏结构化通信协议的出现。特别是，当我们控制过拟合的共同适应损失时，我们在紧急语言中恢复了所需的属性：它们更具组合性，并且更好地泛化。
2022-10-15 cs.CL cs.IT cs.MA
Towards Learning to Speak and Hear Through Multi-Agent Communication over a Continuous Acoustic Channel
InstaDeep（InstaDeep公司）；Stellenbosch University（斯泰伦博斯大学）；Tampere University（坦佩雷大学）
该研究构建带噪声连续声学信道的多智能体通信环境，用DQN训练说话者与听者智能体，验证了声学通信的冗余性、组合性特征及DQN相对REINFORCE的性能优势，为研究人类与智能体通信的关联提供平台。
2023-05-02 cs.CL cs.LG
