Discovering Properties of Inflectional Morphology in Neural Emergent Communication
University of Michigan(密歇根大学)
该研究在神经涌现通信中引入小词汇量约束构建类自然屈折形态学场景,开发新指标探索连接性与融合性变体,发现音系约束促进连接式形态,涌现语言复现自然语言融合语法属性的趋势。
2025-10-20 cs.CL
Emergence of Numeric Concepts in Multi-Agent Autonomous Communication
University of Edinburgh(爱丁堡大学);School of Informatics(信息学院)
随着深度学习的快速发展,当前自然语言处理的最新技术大多基于使用argescaled静态文本语料库训练的深度学习模型。然而,我们人类以不同的方式学习和理解。因此,扎根语言学习认为,模型需要通过与环境交互获得的经验和感知来学习和理解语言,就像人类一样。在深度强化学习技术的帮助下,已经有大量的工作集中在促进计算代理群体中具有自然语言等组合性的通信协议的出现。与这些工作不同的是,我们,另一方面,关注的是数字概念,对应于抽象的认知和功能词在自然语言。基于一个专门设计的语言游戏,我们验证了计算代理能够在自主通信过程中传输数字概念,以及涌现的通信协议可以反映意义空间的底层结构。虽然从人类的角度来看,它们的编码方法不像自然语言那样是组合的,但涌现语言可以推广到看不见的输入,更重要的是,模型更容易学习。此外,在拓扑相似性度量下,迭代学习有助于进一步提高涌现语言的组合性。此外,我们还尝试了另一种表示方法,即直接将数字编码成one-hot向量的连接,并发现涌现语言将变得像人类自然语言一样组合。因此,我们认为,有两个重要因素的合成语言的出现。
2019-11-04 cs.CL
Exemplars-guided Empathetic Response Generation Controlled by the Elements of Human Communication
Singapore University of Technology and Design(新加坡科技设计大学);National University of Singapore(新加坡国立大学);Instituto Politécnico Nacional(国立理工学院);University of Michigan(密歇根大学)
现有的大多数移情反应生成方法依赖于情境的情感来生成移情反应。然而,共情不仅仅是用适当的情绪产生反应。它还常常意味着微妙地表达对对方处境的理解和个人共鸣。不幸的是,这些质量很难量化,数据集缺乏相关的注释。为了解决这个问题,在本文中,我们提出了一种方法,依赖于范例提示生成模型的优良的文体属性,信号移情的对话者。为此,我们采用密集通道检索,从训练集中提取相关的示例性响应。人类交流的三个要素-情感存在,解释和探索,以及情感,使用合成标签来引导一代人走向同理心。人类的评价也被人类交流的这些要素所延伸。我们的经验表明,这些方法在自动化和人工评估的指标方面都显着提高了移情响应质量。该实现可在https://github.com/declare-lab/exemplary-empathy上获得。
2021-08-05 cs.AI cs.CL
Beyond Natural Language: LLMs Leveraging Alternative Formats for Enhanced Reasoning and Communication
Tsinghua University(清华大学);Beijing University of Posts and Telecommunications(北京邮电大学);Tencent(腾讯)
该研究挑战大语言模型默认使用自然语言的模式,提出让模型自主选择推理与通信格式,可显著提升推理效率、降低多智能体通信token消耗,且设计的格式具备跨模型迁移性。
2024-06-19 cs.AI cs.CL
Multi-agent Communication meets Natural Language: Synergies between Functional and Structural Language Learning
DeepMind
我们提出了一种方法相结合的多智能体通信和传统的数据驱动的方法来自然语言学习,最终目标是教学代理人与人类在自然语言。我们的出发点是一个语言模型,它是在通用的而不是特定于任务的语言数据上训练的。然后,我们把这个模型在一个多智能体的自我发挥的环境中,产生特定于任务的奖励,用于适应或调节模型,把它变成一个任务条件语言模型。我们介绍了一种新的方法,结合这两种类型的学习的思想的基础上重新排序的语言模型样本,并表明,这种方法优于其他人在与人类沟通的视觉参考通信任务。最后,我们提出了一个分类的不同类型的语言漂移,可以发生在旁边的一组措施来检测它们。
2020-05-14 cs.AI cs.CL cs.LG
TA-RAG: Tone-Aware Retrieval-Augmented Generation for Peer-Support Health Communication
Swinburne University of Technology(斯winburne大学)
提出TA-RAG框架,通过轻量级提示在RAG管道中嵌入语气控制(无污名化、可读性调整、受众适应、同理心改写),无需微调模型,提升敏感健康沟通质量。
2026-06-15 cs.CL cs.IR
Dynamic Generation of Multi-LLM Agents Communication Topologies with Graph Diffusion Models
University of California Los Angeles(加州大学洛杉矶分校);University of Washington(华盛顿大学);Nanyang Technological University(南洋理工大学)
本文提出Guided Topology Diffusion框架,通过迭代构建过程生成适应任务需求的高效通信拓扑,优于现有方法。
2026-05-16 cs.AI cs.CL
Source codes in human communication
University of Tübingen(图宾根大学)
虽然人类交流的信息论特征在语言学中越来越流行,但迄今为止,它们主要涉及将概率结构嫁接到有关语法的旧思想上。人类和数字通信之间的相似之处一直被强烈强调,差异在很大程度上被忽视。然而,其中一些差异很重要:通信系统是基于每个发送者和接收者共享的预定义代码,而自然语言中单词的分布保证了说话者和听话者都无法访问整个语言代码,这似乎破坏了自然语言在任何有意义的意义上都是概率系统的想法。本文描述了语言的分布特性如何满足信息系统和自然语言之间的差异所带来的各种挑战,以及这些特性所暗示的人类交流的非常不同的观点。
2019-03-08 cs.CL cs.IT math.IT
ProtocolLLM: RTL Benchmark for SystemVerilog Generation of Communication Protocols
University of Illinois Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校);CISPA Helmholtz Center for Information Security(CISPA 沃尔夫冈·泡利研究所)
本文提出ProtocolLLM,首个针对通信协议SystemVerilog生成的RTL基准,评估多模型在时序、可综合性等多维度的能力,发现多数模型难以生成符合时序约束的代码。
2025-07-15 cs.AI cs.AR cs.CL
Language-Oriented Communication with Semantic Coding and Knowledge Distillation for Text-to-Image Generation
Yonsei University(延世大学);Deakin University(迪肯大学);University of Oulu(奥卢大学)
本文提出语言导向语义通信(LSC)框架,通过语义信源编码、语义信道编码和语义知识蒸馏三种算法,在文本到图像生成任务中以更少传输次数实现更高感知相似度和更强噪声鲁棒性。
2023-09-20 cs.AI cs.CL eess.SP
Naturalness Evaluation of Natural Language Generation in Task-oriented Dialogues using BERT
Mercedes-Benz AG(梅赛德斯-奔驰股份公司);Ulm University(乌尔姆大学)
本文提出了一种自动评价对话系统中自然语言生成自然度的方法。虽然这个任务以前是通过昂贵和耗时的人工渲染,我们提出了这个新的任务生成的语言的自动自然度评估。通过微调的BERT模型,我们提出的自然度评价方法显示出强大的结果,并优于基线:支持向量机,双向LSTM,和BLEURT。此外,通过对质量和信息量较高的语言知识进行迁移学习,提高了自然度模型的训练速度和评价性能。
2021-11-26 cs.AI cs.CL
Images Speak Volumes: User-Centric Assessment of Image Generation for Accessible Communication
School for Computation, Information and Technology(计算、信息与技术学院);Technical University of Munich(慕尼黑工业大学)
本研究评估了七个文本到图像生成模型在无障碍易读(E2R)文本中的适用性,通过基准测试和用户研究发现现有模型虽表现显著但仍需人工监督,为E2R创作者定制无障碍图像提供了重要参考。
2024-10-04 cs.CL cs.CV
Optimization models of natural communication
Universitat Politècnica de Catalunya (UPC)(加泰罗尼亚理工大学)
十多年前引入了一系列信息理论模型来解释Zipf词频定律的起源。该家族基于两个信息论原则的结合:形式和意义之间的互信息最大化和形式熵最小化。该家族还揭示了其他三种模式的起源:对比原则,相关的词汇学习偏见和意义频率定律。本文从心理语言学、语言学习、信息论和协同语言学的角度对信息论的两个重要组成部分,即信息论原理和将二者线性结合的能量函数进行了综述。这个线性函数的最小化与标准信息论的压缩问题有关,并且可以通过自组织来调整。
2017-07-31 cs.CL physics.data-an physics.soc-ph
Reward-Guided Autoregressive Graph Generation for Efficient Multi-Agent Communication Topology Design
University of Luxembourg(卢森堡大学);King Mongkut’s University of Technology Thonburi(国王蒙kut理工大学thonburi校区)
针对多智能体系统通信拓扑设计中 token 消耗过高的问题,本文提出 RGA-Designer 方法,通过结合 RLHF 训练奖励模型微调图生成器,在保持任务准确率的同时降低了 token 消耗。
2026-08-21 cs.CL cs.LG cs.MA
UNCAP: Uncertainty-Guided Neurosymbolic Planning Using Natural Language Communication for Cooperative Autonomous Vehicles
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
UNCAP通过自然语言通信和不确定性引导方法,提升多车辆协同自动驾驶系统的可扩展性和安全性。
2026-01-12 cs.CL cs.CV cs.MA
Towards More Human-like AI Communication: A Review of Emergent Communication Research
Dept. of Computer, Control and Management Engineering(计算机、控制与管理工程系);Sapienza University of Rome(罗马第一大学)
本文综述了涌现通信研究,指出训练大型语言模型存在学习错位问题,提出通过开发能超越简单任务并有效交流的人工智能体来实现更类人的AI通信,并归纳文献特性、子类别及开放挑战。
2023-08-01 cs.AI cs.CL cs.HC
Automated Vehicles Should be Connected with Natural Language
Texas A&M University(德克萨斯农工大学)
本文提出用自然语言替代传统感知数据作为自动驾驶车辆间的通信媒介,以解决带宽、信息完整性和互操作性不足的问题,并推动协同驾驶从被动感知共享转向主动意图协调。
2025-06-29 cs.AI cs.CL cs.CV