PLAYER*: Enhancing LLM-based Multi-Agent Communication and Interaction in Murder Mystery Games
Huawei London Research Centre(华为伦敦研究中心);The Alan Turing Institute(艾伦·图灵研究所);The Chinese University of Hong Kong(香港中文大学);MoE Lab, CUHK(香港中文大学教育部实验室)
本研究推出多智能体推理数据集WellPlay并提出PLAYER*框架,通过感知状态表示与信息驱动策略解决谋杀之谜游戏的推理挑战,在推理效果与交互表现上优于现有方法。
2025-05-20 cs.CL
Learning Autocomplete Systems as a Communication Game
Stanford University(斯坦福大学)
我们研究文本自动完成-从部分句子预测完整句子的任务-作为一个人机交流游戏。具体来说,我们考虑了有效沟通的三个相互竞争的目标:使用尽可能少的标记(效率),忠实地传输句子(准确性),以及人类可学习(可解释性)。我们提出了一种无监督的方法,通过将通信方案限制在从源句子中提取的关键字上以实现可解释性并优化效率-准确性权衡,来解决所有这三个迫切需要的问题。我们的实验表明,与基线相比,这种方法使自动完成系统在给定效率水平下的准确性提高了52%,对用户变化具有鲁棒性,并且与输入完整句子相比节省了近50%的时间。
2019-11-16 cs.CL cs.LG
Emergent Communication through Metropolis-Hastings Naming Game with Deep Generative Models
Ritsumeikan University(立命馆大学)
对符号涌现系统的建设性研究旨在研究计算模型,这些模型可以更好地解释人类语言的进化、符号系统的创建以及内部表征的构建。该研究提出了一种基于概率生成模型(PGM)的新的紧急通信模型,而不是基于深度强化学习的判别模型。我们定义的大都会黑斯廷斯(MH)命名游戏,通过推广以前提出的模型。它不是一个有明确反馈的参照游戏,正如许多新兴传播研究所假设的那样。相反,这是一个基于共同注意力的游戏,没有明确的反馈。在数学上,MH命名游戏被证明是一种类型的MH算法的综合PGM,结合两个代理,发挥命名游戏。从这个角度来看,符号出现被视为分散贝叶斯推理,符号交流被视为人际跨模态推理。这一概念导致了关于语言进化和符号出现的集体预测编码假说。我们还提出了高斯混合模型(GMM)+变分自编码器(VAE),这是一种基于MH命名游戏的深层生成模型。该模型已在MNIST和Fruits 360数据集上进行了验证。实验结果表明,类别形成的真实图像观察到的代理,和标志是正确的跨代理共享成功地利用这两个观察代理通过MH命名游戏。此外,学者们证实,视觉图像是从代理人说出的符号中回忆起来的。值得注意的是,没有监督和奖励反馈的紧急通信提高了代理的无监督表示学习的性能。
2023-01-14 cs.AI cs.CL
Emergent Linguistic Phenomena in Multi-Agent Communication Games
NYU(纽约大学);Robotics at Google(谷歌机器人部门);Facebook AI Research(脸书人工智能研究院)
在这项工作中,我们提出了一个计算框架,在该框架中,配备了通信能力的代理同时玩一系列参考游戏,其中代理使用深度强化学习进行训练。我们证明,该框架反映了在自然语言中观察到的语言现象:i)社区之间的接触的结果是一个功能的组间和组内的连接; ii)语言接触要么收敛到多数协议,或在平衡的情况下,导致新的克里奥尔语的复杂性较低;语言连续体出现,相邻的语言比相距较远的语言更容易相互理解。我们的结论是,语言进化的复杂特性不需要依赖于复杂的进化语言能力,但可以出现从简单的社会交流之间的感知使能代理玩通信游戏。
2020-02-28 cs.AI cs.CL cs.SI
Emergent Communication: Generalization and Overfitting in Lewis Games
INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure PSL(巴黎高等师范学院PSL);DeepMind(深度思维);Google Research(谷歌研究院);EHESS(社会科学高等学院);ENS-PSL(巴黎高等师范学院PSL);CNRS(法国国家科学研究中心);Meta AI Research(Meta人工智能研究院)
刘易斯信号游戏是一类模拟语言出现的简单交流游戏。在这些游戏中,两个代理必须同意一个通信协议,以解决合作任务。以前的工作表明,经过强化学习训练的智能体往往会开发出从语言学角度来看显示出不受欢迎的特性(缺乏泛化,缺乏组合性等)的语言。在本文中,我们的目的是提供更好地理解这种现象,通过分析研究刘易斯游戏的学习问题。作为一个核心的贡献,我们证明了在刘易斯游戏的标准目标可以分解为两个组成部分:一个共同适应损失和信息损失。这种分解使我们能够表面过拟合的两个潜在来源,我们可能会破坏结构化通信协议的出现。特别是,当我们控制过拟合的共同适应损失时,我们在紧急语言中恢复了所需的属性:它们更具组合性,并且更好地泛化。
2022-10-15 cs.CL cs.IT cs.MA
CoMet: Metaphor-Driven Covert Communication for Multi-Agent Language Games
School of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院);Engineering Research Center of Intelligent Technology and Educational Application, Ministry of Education(教育部智能技术与教育应用工程研究中心)
CoMet框架通过结合隐喻推理与生成,增强LLM智能体在多智能体语言游戏中的隐蔽通信和语义规避能力,实验验证其显著提升战略性通信效果。
2025-05-23 cs.AI cs.CL
Emergent Graphical Conventions in a Visual Communication Game
UCLA(加州大学洛杉矶分校);Beijing Institute for General Artificial Intelligence (BIGAI)(北京通用人工智能研究院);Peking University(北京大学)
人类除了使用符号语言外,还使用图形草图进行交流。最近的研究主要集中在后者,新兴的沟通忽视了草图,他们没有考虑的演变过程中出现的象征符号系统之间的象似性和象征性的权衡。在这项工作中,我们采取了第一步,通过两个神经代理玩视觉通信游戏来建模和模拟这个过程;发送者通过在画布上素描来与接收者进行通信。我们设计了一种新的强化学习方法,使代理共同发展成功的沟通和抽象的图形约定。为了检查出现的惯例,我们定义了三个基本属性-象似性,象征性和语义性-和相应的设计评估方法。我们在不同控制下的实验结果与人类图形惯例研究中的观察结果一致。值得注意的是,我们发现,进化的草图可以保持适当的环境压力下的语义连续体。更有趣的是,共同进化的智能体可以根据他们对参照物的熟悉程度,在常规和图标式交流之间切换。我们希望本研究能为研究草图形式下的突发性交际铺平道路。
2023-02-23 cs.CL cs.CV
The emergence of visual semantics through communication games
University of Southampton(南安普顿大学)
近年来,智能体之间的通信系统的出现引起了人们的广泛关注,智能体学会用逼真的图像玩参考信号游戏。大部分工作都集中在使用固定的,预训练的图像特征提取网络,潜在的偏见的信息,代理学习沟通。在这项工作中,我们考虑一个信号游戏设置中,一个“发送者”代理必须沟通的信息,一个“接收者”谁必须选择正确的图像从许多干扰。我们调查的效果的特征提取器的权重和解决的任务上学习的模型的视觉语义。我们首先演示了在何种程度上使用预训练的特征提取网络诱导偏见的视觉语义传达的紧急通信渠道和量化的视觉语义诱导。然后,我们继续探索如何引入归纳偏见,以鼓励出现语义上有意义的沟通,而不需要任何形式的监督预训练的视觉特征提取器。我们对输入图像和游戏中的附加任务进行了各种增强,目的是诱导捕获图像概念属性的视觉表示。通过我们的实验,我们证明了捕捉视觉语义的通信系统可以通过玩正确类型的游戏以完全自我监督的方式学习。我们的工作弥合了紧急通信研究和自我监督特征学习之间的差距。
2021-01-25 cs.CL cs.CV cs.LG
Emergence of Linguistic Communication from Referential Games with Symbolic and Pixel Input
DeepMind(深度思维)
算法进化或学习(组合)通信协议的能力传统上在语言进化文献中通过使用紧急通信任务进行研究。在这里,我们通过使用当代深度学习方法和在参考通信游戏上训练学习神经网络代理来扩大这项研究。我们扩展了以前的工作,其中代理在符号环境中进行训练,通过开发能够从原始像素数据中学习的代理,一个更具挑战性和现实的输入表示。我们发现,在输入数据中发现的结构的程度会影响出现的协议的性质,从而证实了这一假设,即结构化的组成语言是最有可能出现时,代理感知世界的结构。
2018-04-11 cs.AI cs.CL cs.LG
Emergent Communication in a Multi-Modal, Multi-Step Referential Game
New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
受参考游戏中的紧急通信的启发,我们提出了一种新的多模式,多步骤的参考游戏,其中发送者和接收者可以访问对象的不同模态,并且他们的信息交换是双向的,任意持续时间。多模态多步骤设置允许代理开发更接近自然语言的内部通信,因为它们共享单个消息集,并且会话的长度可以根据任务的难度而变化。我们使用由哺乳动物的图像和文本描述组成的数据集来经验性地检查这些属性,其中代理的任务是识别正确的对象。我们的实验表明,一个强大的和有效的通信协议出现,逐步信息交换通知更好的预测和更高的通信带宽提高泛化。
2018-04-16 cs.CL cs.CV cs.IT
Pow-Wow: A Dataset and Study on Collaborative Communication in Pommerman
Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);Preferred Networks, Inc.(Preferred Networks 公司)
在多智能体学习中,智能体必须相互协调才能取得成功。对于人类来说,这种协调通常是通过使用语言来完成的。在这项工作中,我们进行了一个有竞争力的团队为基础的游戏中的人类语言使用的控制研究,并寻找有用的教训,构建自主智能体之间的通信协议。我们构建了Pow-Wow,一个新的数据集,用于研究情境目标导向的人类交流。使用Pommerman游戏环境,我们招募人类团队与人工智能智能体团队进行比赛,记录他们的观察,行动和通信。我们分析了导致有效的游戏策略的通信类型,相应地对它们进行注释,并提出了通信趋势如何影响游戏结果的语料库级统计分析。在此基础上,我们设计了一个学习代理的通信策略,并表明,利用通信的代理实现更高的胜率对基线系统比那些不。
2020-09-13 cs.CL cs.LG cs.MA
A Combinatorial Approach to Neural Emergent Communication
University of Michigan(密歇根大学)
针对Lewis信号博弈因训练数据采样缺陷导致成功通信仅需少量符号的问题,提出组合算法SMS求解分类的符号复杂度,并实证更高复杂度数据可增加涌现语言的有效符号数。
2024-12-03 cs.CL cs.LG
Emergent Communication of Generalizations
Stanford University(斯坦福大学)
为了建立能够与他人有效合作的代理,最近的研究已经训练人工代理在刘易斯式的参考游戏中相互交流。然而,这往往会导致成功但无法解释的沟通。我们认为,这是由于游戏的目标:在一个共享的视觉环境中,一个单一的对象进行通信是容易过度拟合,并不鼓励语言有用的具体参考之外。相比之下,人类语言传达了丰富多样的抽象概念。为了促进这种技能,我们提出了游戏,需要沟通概括的对象表示抽象的视觉概念,可选地与单独的上下文为每个代理。我们发现,这些游戏大大提高了系统性和可解释性的学习语言,根据文献中的几个指标。最后,我们提出了一种方法来识别嵌入在紧急语言的逻辑操作,通过学习的语言的近似组成重建。
2022-01-09 cs.AI cs.CL
Focus on What's Informative and Ignore What's not: Communication Strategies in a Referential Game
SISSA(国际高等研究院);Facebook A.I. Research(Facebook人工智能研究院);ICREA(加泰罗尼亚研究与高等教育机构)
多智能体合作的研究表明,人工智能体能够学习玩一个简单的参考游戏,同时开发一个共享的词典。这个词典不容易分析,因为它没有显示出自然语言的许多属性。在一个简单的参考游戏与两个神经网络为基础的代理,我们分析的对象符号映射,试图了解什么样的战略是用来开发的紧急语言。我们看到,当环境是均匀分布的,代理依赖于一个随机子集的功能来描述对象。当我们修改对象,使一个特征不均匀分布时,代理意识到它的信息量较少,并开始忽略它,令人惊讶的是,它们更好地利用了剩余的特征。这个有趣的结果表明,更自然、分布更不均匀的环境可能有助于刺激行为更好的语言的出现。
2019-11-05 cs.AI cs.CL
How agents see things: On visual representations in an emergent language game
Facebook AI Research(脸书人工智能研究院)
人们越来越感兴趣的语言开发的代理人在紧急通信环境中进行交互。早期的研究集中在代理的符号使用,而不是他们的视觉输入表示。在本文中,我们考虑了Lazaridou et al.(2017)的参考游戏,并研究了代理在其不断发展的交互过程中发展的表示。我们发现,代理建立成功的沟通,诱导视觉表示,几乎完美地相互对齐,但令人惊讶的是,不捕捉输入图像中所描绘的对象的概念属性。我们的结论是,如果我们有兴趣在开发类似语言的通信系统,我们必须更加关注的视觉语义代理相关联的符号,他们使用。
2018-09-13 cs.CL cs.LG
Towards Multi-Agent Communication-Based Language Learning
University of Trento(特伦托大学)
我们提出了一个交互式多模态语言学习框架。我们的学习者(实现为前馈神经网络)不是被动地接触大量的自然文本,而是从白板设置开始参与合作参考游戏,从而从交流的需要中发展自己的语言,以便在游戏中取得成功。初步实验提供了有希望的结果,但也表明,重要的是要确保以这种方式训练的代理不会开发出仅对他们正在玩的游戏有效的adhoc通信代码
2016-05-23 cs.CL cs.CV cs.LG
Structural and Functional Decomposition for Personality Image Captioning in a Communication Game
VinAI Research(VinAI研究院);University of Information Technology, VNU-HCM(越南国家大学胡志明市分校信息科技大学);Stony Brook University(石溪大学);University of Oregon(俄勒冈大学)
个性化图像描述(PIC)的目的是描述一个具有个性特征的自然语言标题的图像。在这项工作中,我们介绍了一种新的配方PIC的基础上,一个扬声器和一个听众之间的通信游戏。说话者尝试生成自然语言字幕,而收听者鼓励所生成的字幕包含关于输入图像和人格特质的区别性信息。通过这种方式,我们希望生成的字幕可以得到改进,以自然地表示图像并表达特征。此外,我们建议采用语言模型GPT 2来执行PIC的字幕生成。这使得说话者和听者能够从GPT2的语言编码能力中受益。实验结果表明,该模型实现了PIC的最先进的性能。
2020-11-17 cs.CL cs.CV cs.LG
A Practical Guide to Studying Emergent Communication through Grounded Language Games
Vrije Universiteit Brussel(布鲁塞尔自由大学)
如何在一群需要解决特定任务的智能体中形成一个高效的通信系统,这一问题越来越受到人工智能、语言学和统计物理等领域研究者的关注。研究这一问题的一种常用方法是进行多智能体实验,在实验中,一群智能体参与一系列脚本化的、面向任务的交际交互,称为“语言游戏”。虽然每个单独的语言游戏通常由群体中的两个代理人玩,但是大量的系列游戏允许群体在共享的通信系统上会聚。建立一个实验,其中一个丰富的系统,用于交流有关现实世界的出现是一个主要的事业,因为它需要各种各样的软件组件,用于运行多智能体实验,用于与传感器和执行器交互,用于概念化和解释语义结构,以及用于在这些语义结构和语言表达之间映射。该文致力于研究两个问题.一方面,它引入了一个扩展了巴别塔软件系统的高级机器人接口,首次提出了一个工具包,提供了灵活的模块,用于处理运行高级接地语言游戏实验所涉及的每个子任务。另一方面,它提供了一个实用的指南,使用工具包来实施这些实验,以一个扎根的颜色命名游戏实验作为一个教学实例。
2020-04-20 cs.AI cs.CL cs.LG
Time to Talk: LLM Agents for Asynchronous Group Communication in Mafia Games
School of Computer Science and Engineering, The Hebrew University of Jerusalem(希伯来大学耶路撒冷分校计算机科学与工程学院);School of Computing and Information Systems, University of Melbourne(墨尔本大学计算与信息系统学院)
本文提出一种由生成器和调度器组成的自适应异步LLM智能体,通过在在线Mafia游戏中与人类玩家对战验证其表现与人类相当,为LLM融入现实异步群组场景奠定基础。
2025-09-20 cs.AI cs.CL cs.MA
Language structure in the n-object naming game
Adam Mickiewicz University(亚当·密茨凯维奇大学)
我们研究了一个命名游戏,两个代理试图建立一个共同的词汇n对象。这种努力导致了语言的出现,允许有效的沟通,并表现出一定程度的同音异义和同义。虽然同音异义降低了交际效率,但它似乎是一个长期存在的动态陷阱。另一方面,同义关系并没有降低交际效率,只是语言的一个暂时特征。因此,在我们的模型中,同义关系的作用降低,在长时间限制下,它变得可以忽略不计。在现今的自然语言中,同义关系也同样罕见。噪音的作用,扭曲的沟通的话,也检查。虽然,一般来说,噪音降低了沟通效率,它也重组的话,使他们更均匀地分布在可用的“口头”空间。
2009-11-21 cs.CL cs.MA physics.soc-ph
Incorporating Pragmatic Reasoning Communication into Emergent Language
Tsinghua University(清华大学);Hasso Plattner Institute(哈索·普拉特纳研究所);University of Potsdam(波茨坦大学)
突现主义和语用学是两个研究领域,它们研究的是在不同的时间尺度和智力水平上的语言交际动态。从多智能体强化学习的角度来看,它们对应于具有强化训练的随机游戏和具有对手意识的阶段游戏。鉴于它们的结合已在语言学中得到探索,我们提出了将短期基于相互推理的语用学与长期语言涌现主义相结合的计算模型。我们探索这智能体通信参考游戏,以及在星际争霸II,评估不同类型的相互推理语用模型的相对优点,经验和理论。我们的研究结果揭示了它们对于获得更自然,准确,健壮,细粒度和简洁的话语的重要性。
2020-12-15 cs.AI cs.CL cs.MA
LLMs with Personalities in Multi-issue Negotiation Games
Dartmouth College(达特茅斯学院)
本文在博弈论框架下通过1,500次单议题与多议题谈判模拟,分析Big Five人格对LLM公平、理性、毒性及谈判结果的影响,并提出评估与设计谈判机器人的框架。
2024-05-09 cs.AI cs.CL cs.MA
Communication between Frozen Large Language Models via Prompt Optimization in a Referential Game
本研究通过提示优化使冻结大语言模型在指称博弈中建立通信,采用独立优化器重写提示,实现共享代码泛化,并验证了位值通信协议的可审计性。
2026-09-29 cs.AI cs.CL cs.LG