Modelling Semantic Association and Conceptual Inheritance for Semantic Analysis
允许用户跨越语言边界进行交互是信息技术面临的一个有趣的挑战。为了计算机辅助语言学习系统的目的，我们选择了在输入界面上表示含义的图标，因为图标不依赖于特定的语言。然而，这种类型的沟通的一个关键限制是表达清晰的想法，而不是孤立的概念。我们提出了一种方法来解释的图标序列作为复杂的信息，通过重建概念之间的关系，从而建立概念图能够表示的意义，并用于自然语言句子生成。该方法基于包含语义信息的电子词典。
2001-09-15 cs.CL
Computational Modelling of Plurality and Definiteness in Chinese Noun Phrases
Hubei Provincial Key Laboratory of Artificial Intelligence（湖北省人工智能重点实验室）；National Language Resources Monitoring and Research Center for Network Media（国家网络媒体语言资源监测与研究中心）；School of Computer Science, Central China Normal University（华中师范大学计算机学院）；Department of Information and Computing Sciences, Utrecht University（乌得勒支大学信息与计算科学系）
本研究聚焦汉语名词短语复数与定指标记省略现象，构建带语境和语义标签的汉语名词短语语料库，验证汉语使用者频繁省略相关标记的现象，并训练经典机器学习与前沿预训练语言模型预测短语的复数性和定指性，报告并分析模型性能。
2024-03-07 cs.CL
Meaning Representation of Numeric Fused-Heads in UCCA
University of Copenhagen（哥本哈根大学）
我们表明，隐式UCCA解析器不解决数字融合头（NFH）一致，这可能会导致不一致的注释，不足的训练数据或建模限制。并显示哪些因素参与其中。我们认为这一现象很重要，因为它在文本中很普遍，对正确的推理至关重要。在意义表示框架中仔细设计和细粒度注释NFH将有利于下游任务，例如机器翻译，自然语言推理和问答，特别是当它们需要数字推理时，如恢复和分类它们。我们正在研究其他意义表征（如AMR）对这种现象的处理。我们鼓励意义表征和计算语言学的研究人员在未来的研究中解决这一现象。
2021-06-04 cs.CL
MetaSRL++: A Uniform Scheme for Modelling Deeper Semantics
Sony Europe B.V.（索尼欧洲公司）；Sony Computer Science Laboratories Paris（索尼巴黎计算机科学实验室）
针对NLP领域缺乏通用深层语义表示方案的问题，本文提出了基于语义图的统一、独立于语言和模态的建模方案MetaSRL++及实体定义方法，并通过示例与相关工作对比展示了其贡献。
2023-05-16 cs.CL
Thirty Musts for Meaning Banking
Center for Language and Cognition（语言与认知中心）；University of Groningen（格罗宁根大学）
语义库--为了语义解析或生成的目的而创建语义注释的语料库--是一项具有挑战性的任务。提出一个复杂的意义表示是相当简单的，但是很难设计一个简单的意义表示来捕捉意义的许多细微差别。本文列举了格罗宁根词义库发展过程中近十年词义注释的一些经验教训（Bos et al.，2017）和平行意义库（Abzianidze et al.，2017年）。这篇论文的格式是相当非常规的：没有明确的相关工作，没有方法论部分，没有结果，也没有讨论（目前的片段不是摘要，实际上是介绍性的序言）。相反，它的结构受到Traum（2000）和Bender（2013）的启发。该列表首先简要概述了现有的意义库（第1节），其余项目大致分为三类：语料库收集（第2和3节），注释方法（第4-11节）和意义表示的设计（第12-30节）。我们希望这一综述能对未来创建改进的意义银行提供启发和指导。
2020-05-27 cs.CL
Language Modelling Makes Sense: Propagating Representations through WordNet for Full-Coverage Word Sense Disambiguation
LIAAD - INESC TEC（LIAAD——INESC TEC（葡萄牙系统与计算机工程研究所技术与科学中心））；Faculty of Sciences - University of Porto（波尔图大学理学院）
上下文嵌入代表了从神经语言建模（NLM）中学习到的新一代语义表示，其解决了阻碍传统词嵌入的意义合并问题。在这项工作中，我们表明，上下文嵌入可以用来实现前所未有的增益在词义消歧（WSD）的任务。我们的方法专注于创建具有WordNet全覆盖的感觉级嵌入，而不依赖于感觉分布或特定任务建模的明确知识。因此，使用我们的表示的简单最近邻（k-NN）方法能够始终超过使用强大的神经排序模型的先前系统的性能。我们还分析了我们的方法的鲁棒性时，忽略部分的语音和引理功能，需要消除歧义对全意义库存，并揭示有待改进的缺点。最后，我们探讨了我们的意义嵌入的概念层面的分析上下文嵌入和各自的NLM的应用。
2019-06-24 cs.CL
Conversational Implicatures: Modelling Relevance Theory Probabilistically
Faculty of Linguistics and Literary Studies, Bielefeld University（语言学与文学研究学院，比勒菲尔德大学）
本文探讨如何借鉴Rational Speech Act框架的贝叶斯建模思路，将概率方法应用于关联理论，并以会话含义传达隐含义这一典型现象为研究对象。
2025-09-26 cs.CL
Modelling, Visualising and Summarising Documents with a Single Convolutional Neural Network
University of Oxford（牛津大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
捕获将单词的含义映射到文档的含义的合成过程是自然语言处理和信息检索研究人员的核心挑战。我们引入了一个模型，它能够通过将文档嵌入到低维向量空间中来表示文档的含义，同时保留对于捕捉细微语义至关重要的单词和句子顺序的区别。我们的模型是基于一个扩展的动态卷积神经网络，学习卷积过滤器在句子和文档级别，分层学习捕获和组成低级别的词汇特征到高级别的语义概念。我们证明了该模型在一系列文档建模任务上的有效性，在没有特征工程和更紧凑的模型的情况下取得了很好的效果。受计算机视觉可视化深度卷积网络的最新进展的启发，我们为我们的文档网络提出了一种新的可视化技术，不仅可以深入了解它们的学习过程，而且可以解释为产生一个引人注目的文本自动摘要系统。
2014-06-15 cs.CL cs.LG stat.ML
Computational modelling of evolution: ecosystems and language
Adam Mickiewicz University（亚当·密茨凯维奇大学）
最近，计算建模成为一个非常重要的研究工具，使我们能够研究几十年来逃避科学分析的问题。进化系统当然是这样的问题的例子：它们由许多可能繁殖、扩散、变异、死亡或在某些情况下例如通信的单元组成。这些过程可能具有一定的适应价值，它们相互影响，发生在不同的时间尺度上。这就是为什么这样的系统很难研究。在本文中，我们简要回顾了一些计算方法，以及我们的贡献，生态系统和语言的进化。我们从Lotka-Volterra方程和简单的两种群捕食系统的建模。这样的系统是研究竞争种群振荡行为的典型例子。然后，我们描述了各种方法来研究多物种生态系统的长期演变。我们强调需要使用既考虑到生态过程又考虑到进化过程的模型。最后，我们讨论了语言的产生和发展问题。越来越明显的是，任何关于语言起源和发展的理论都必须与达尔文的进化论原则相一致。因此，一些为模拟复杂生态系统的进化而开发的技术正在被应用于语言问题。我们简要回顾其中的一些方法。
2008-10-27 cs.CL physics.soc-ph q-bio.PE
A Brief Survey of Text Mining: Classification, Clustering and Extraction Techniques
University of Georgia（佐治亚大学）
每天生成的文本数量正在急剧增加。这些大量的非结构化文本不能简单地被计算机处理和感知。因此，需要高效和有效的技术和算法来发现有用的模式。文本挖掘是从文本中提取有意义信息的任务，近年来受到了广泛的关注。在本文中，我们描述了几个最基本的文本挖掘任务和技术，包括文本预处理，分类和聚类。此外，我们简要介绍了文本挖掘在生物医学和医疗保健领域。
2017-07-28 cs.AI cs.CL cs.IR
Semantic Change and Semantic Stability: Variation is Key
Yale University（耶鲁大学）
我调查了一些最近的方法来研究变化的词汇，特别是在意义上的变化，在跨类属。我简要地勾勒了一个进化的方法来研究语言的变化，并指出了一些问题，在最近的方法来研究语义变化，依赖于时间分层词嵌入。我画插图的词汇同源模型在帕玛Nyungan确定最适合词汇系统发育推断的意义类，特别是突出的重要性，随着时间的推移研究变化的变化。
2019-06-13 cs.CL q-bio.PE
From Word to Sense Embeddings: A Survey on Vector Representations of Meaning
Cardiff University（卡迪夫大学）；Iran University of Science and Technology（伊朗科技大学）
在过去的几年里，分布式语义表示已被证明是有效和灵活的保持者的先验知识集成到下游应用程序。本研究的重点是意义的表征。我们从词向量空间模型背后的理论背景开始，并强调其主要局限性之一：意义合并缺陷，这是由于将一个词的所有可能含义表示为单个向量而产生的。然后，我们解释了如何通过从词的水平过渡到更细粒度的词义水平（在其更广泛的意义）作为一种方法建模明确的词汇意义，可以解决这一不足。我们提出了一个全面的概述了广泛的技术在两个主要分支的意义代表，即，无监督和基于知识。最后，本调查涵盖了这种类型的表示的主要评估程序和应用，并提供了四个重要方面的分析：可解释性，意义粒度，适应不同的领域和组合性。
2018-10-26 cs.AI cs.CL
Experimental Support for a Categorical Compositional Distributional Model of Meaning
University of Oxford（牛津大学）
使用经验分布方法对句子的成分意义进行建模一直是计算语言学家的挑战。我们使用BNC的数据实现了Coecke等人的抽象范畴模型（arXiv：1003.4394v1 [cs.CL]）并对其进行了评估。该实现基于关系词矩阵的无监督学习并将其应用于其参数的向量。评估基于Mitchell和Lapata（2008）为不及物句子开发的单词消歧任务，以及为及物句子设计的类似新实验。我们的模型在第一个实验中与竞争对手的结果相匹配，并在第二个实验中优于他们。随着语法复杂性的增加，结果的总体改善展示了我们模型的组合能力。
2011-06-20 cs.CL math.CT
