Evaluating Scoped Meaning Representations
University of Groningen(格罗宁根大学)
语义解析为提高自然语言理解提供了许多机会。我们提出了一个语义注释的平行语料库,英语,德语,意大利语和荷兰语的句子与范围的意义表示,以捕捉语义的否定,模态,量化和预设触发器。语义形式主义是基于话语表征理论,但概念是由词网同义词和动词网关系的主题角色。将限定范围的意义表示翻译成子句集使我们能够比较它们,以便进行语义分析器评估和检查翻译。这是通过计算匹配子句的精确度和召回率来完成的,与抽象意义表示的方式类似。我们表明,我们的匹配工具评估范围的含义表示是准确和有效的。将此匹配工具应用于三个基线语义解析器,得到的F分数在43%和54%之间。一个试点研究进行自动寻找意义的变化,通过比较翻译的意义表征。这种比较结果是(i)发现注释错误和(ii)发现我们的语义分析需要改进的实例的另一种方法。
2018-04-10 cs.CL
Semantic Attractors and the Emergence of Meaning: Towards a Teleological Model of AGI
本文提出基于语义吸引子的AGI目的论模型,通过递归张量变换和意向性算子引导意义收敛,以塑造语言而非仅预测语言。
2025-08-21 cs.CL
Probing for Semantic Classes: Diagnosing the Meaning Content of Word Embeddings
Microsoft Research(微软研究院);New York University(纽约大学);University of the Basque Country(巴斯克大学)
词嵌入通常在单个合并向量中表示词的不同含义。模糊词嵌入的实证分析目前受到手动注释资源的小尺寸和词义被视为不相关的个体概念的事实的限制。我们提出了一个大型数据集的基础上手动维基百科的注释和词义,从不同的词的词义相关的语义类。这是一个嵌入的内容的新的诊断测试的基础:我们探测词嵌入的语义类和分析嵌入空间通过分类嵌入到语义类。我们的主要发现是:(i)关于一个意义的信息通常在单向量嵌入中表现良好-如果意义是频繁的。(ii)一个分类器可以准确地预测一个词是单义还是多义,只基于它的嵌入。(iii)虽然稀有意义在单向量嵌入中没有很好地表示,但这不会对性能依赖于频繁意义的NLP应用程序产生负面影响。
2019-06-09 cs.CL cs.LG
On the Linearity of Semantic Change: Investigating Meaning Variation via Dynamic Graph Models
Technische Universität Darmstadt(达姆施塔特工业大学);Goethe-Universität Frankfurt am Main(法兰克福歌德大学)
我们考虑两个图形模型的语义变化。第一种是时间序列模型,它将一个时间段的嵌入向量与先前时间段的嵌入向量相关联。在第二种方法中,我们为每个单词构建一个图:图中的节点对应于时间点,边权重对应于两个时间点上单词含义的相似性。我们将这两个模型应用于三种不同语言的语料库。我们发现语义变化在两个方面都是线性的。首先,今天的词的嵌入向量(=含义)可以被导出为它们的邻居在以前的时间段中的嵌入向量的线性组合。其次,词的自相似性随时间线性衰减。我们认为这两个发现作为新的法律/语义变化的假设。
2017-04-08 cs.CL
The Meaning Factory at SemEval-2017 Task 9: Producing AMRs with Neural Semantic Parsing
University of Groningen(格罗宁根大学)
我们在SemEval-2017 AMR语义解析共享任务的上下文中评估了基于字符的序列到序列模型的语义解析器。通过数据增强、超级字符和POS标记,与基线字符级模型相比,我们在性能上获得了重大改进。虽然我们改进了以前的基于字符的神经语义解析模型,但总体准确率仍然低于最先进的AMR解析器。将我们的神经语义解析器与现有的传统解析器相结合的集成,在性能上会有很小的提高。
2017-04-19 cs.CL
Modeling the language cortex with form-independent and enriched representations of sentence meaning reveals remarkable semantic abstractness
University of California San Diego(加州大学圣地亚哥分校);ShanghaiTech University(上海科技大学);Kempner Institute, Harvard University(哈佛大学凯普勒研究所);Shanghai Jiao Tong University(上海交通大学);Carnegie Mellon University(卡内基梅隆大学);Massachusetts Institute of Technology(麻省理工学院)
该研究通过视觉与语言模型表征建模语言皮层神经响应,证实语言皮层存在高度抽象、形式无关且比语言模型更丰富宽泛的语义表征。
2025-09-27 cs.CL cs.LG
Neural Semantic Parsing with Extremely Rich Symbolic Meaning Representations
University of Groningen(格罗宁根大学)
本文提出基于词汇本体层次结构的组合符号表示及神经分类语义解析器,虽在标准指标上略逊于传统模型,但在处理词汇外概念时表现更优,促进分布意义与符号表示的融合。
2024-09-18 cs.CL
Measuring Fine-Grained Semantic Equivalence with Abstract Meaning Representation
Georgetown University(乔治城大学)
识别语义等价的句子对于许多跨语言和单语言NLP任务都很重要。目前的语义等价方法对“等价”采取了一种松散的、中间层次的方法,尽管以前的证据表明细粒度的差异和隐含的内容对人类的理解(Roth和Anthonio,2021)和系统性能(Briakou和Carpuat,2021)有影响。在这项工作中,我们引入了一种新的,更敏感的方法,利用抽象意义表示图结构的特征语义等价。我们开发了一种方法,它可以用于黄金或自动AMR注释,并证明我们的解决方案实际上是细粒度比现有的语料库过滤方法和更准确地预测严格等价的句子比现有的语义相似性度量。我们建议,我们的更细粒度的语义等价性的措施可以限制在人类编辑后的机器翻译的任务,并在人类评价句子相似性的工作量。
2022-10-06 cs.CL
Compositionality and the lexicon in evolutionary semantics
Institute for Logic, Language, and Computation, University of Amsterdam(逻辑、语言与计算研究所,阿姆斯特丹大学)
提出一个整合形式语义学组合原则的演化框架,通过词汇意义与组合函数的协同演化,发现保守性作为系统级抽象涌现,并调和了量词可学习性与演化模型的矛盾。
2026-09-15 cs.CL
Position: Text Embeddings Should Capture Implicit Semantics, Not Just Surface Meaning
National University of Singapore(新加坡国立大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文主张文本嵌入研究应从表面意义转向隐含语义,通过试点研究揭示现有模型在隐含语义任务上的局限,并提出范式转变以优先发展语言学基础训练数据、深层语义基准和核心建模目标。
2026-05-28 cs.AI cs.CL cs.IR
The Parallel Meaning Bank: Towards a Multilingual Corpus of Translations Annotated with Compositional Meaning Representations
University of Groningen(格罗宁根大学);École Normale Supérieure de Cachan(卡尚高等师范学院);University of Trento(特伦托大学)
平行意义库是一个翻译语料库,注释了共享的正式意义表示,包括超过1100万个单词,分为四种语言(英语,德语,意大利语和荷兰语)。我们的方法是基于跨语言的投影:自动生成(和手动校正)的语义注释的英语句子映射到他们的词对齐的翻译,假设翻译是保持意义。语义标注包括五个主要步骤:(i)句子和词项的文本分割;(ii)组合范畴语法的句法分析;(iii)通用语义标注;(iv)符号化;(v)基于话语表征理论的成分语义分析。这些步骤使用以半监督方式训练的统计模型来执行。所采用的注释模型都是语言中立的。我们的初步结果很有希望。
2017-02-13 cs.CL
Learning Type-Driven Tensor-Based Meaning Representations
University of Cambridge(剑桥大学)
本文研究了表示及物动词语义的三阶张量的学习。意义表示是类型驱动的基于张量的语义框架的一部分,来自新兴的组合分布语义学领域。来自神经网络文献的标准技术用于学习张量,该张量在具有简单的2维句子空间的选择偏好风格任务上进行测试。有前途的结果是对竞争力的语料库为基础的基线。我们认为,扩展这项工作超越及物动词,更高维的句子空间,是一个有趣的和具有挑战性的问题,机器学习社区考虑。
2014-02-18 cs.CL cs.LG
Semantic Journeys: Quantifying Change in Emoji Meaning from 2012-2018
该研究首次开展表情符号语义纵向研究,用计算语言学技术分析六年Twitter数据,发现语义变化的五种模式及抽象度与变化的关联,还分析了季节性和大事件的影响,并公开数据及探索界面。
2025-10-05 cs.CL
Semi-Supervised Affective Meaning Lexicon Expansion Using Semantic and Distributed Word Representations
University of Waterloo(滑铁卢大学)
在本文中,我们提出了一个扩展的基于图的情感词典归纳方法,通过将分布式和语义词表示在建立的相似性图,以扩大一个三维的情感词典。我们还使用四种不同的单词表示和相似性度量来实现和评估标签传播。我们对这四种方法的综合评估是在一个数据集上进行的,这表明所有四种方法都可以以高精度生成大量新的情感分配。通过结合语义和分布特征获得的最高相关性(tau=0.51)和最低误差(平均绝对误差< 1.1%)优于基于分布和基于语义的标签传播模型,并接近监督算法。
2017-03-28 cs.CL
ÚFAL MRPipe at MRP 2019: UDPipe Goes Semantic in the Meaning Representation Parsing Shared Task
Charles University(查理大学);Faculty of Mathematics and Physics(数学与物理学院);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
我们对CoNLL 2019共享任务跨框架意义表示解析(MRP 2019)的贡献进行了系统描述。建议的架构是我们第一次尝试对语义解析扩展的UDPipe 2.0,一个词形化,词性标注和依存句法分析管道。对于MRP 2019,它具有五种形式和语言上不同的意义表示方法(DM,PSD,EDS,UCCA和AMR),我们提出了一种统一的,语言和框架不可知的图到图神经网络架构。在没有任何关于图结构的知识的情况下,特别是在没有任何语言或框架动机的特征的情况下,我们的系统隐式地对意义表示图进行建模。在修复了人为错误(我们使用了早期提供的测试集分析的错误版本)之后,我们的提交将在竞争评估中获得第三名。我们的系统的源代码可以在https://github.com/ufal/mrpipe-conll2019上获得。
2019-10-24 cs.CL
A Dynamic, Interpreted CheckList for Meaning-oriented NLG Metric Evaluation -- through the Lens of Semantic Similarity Rating
Heidelberg University(海德堡大学)
评估生成的文本的质量是困难的,因为传统的NLG评估指标,更注重表面形式而不是意义,往往无法分配适当的分数。考虑到AMR的抽象性质,这对于AMR到文本的评估尤其成问题。我们的工作旨在通过为NLG指标开发一个动态检查表来支持开发和改进以意义为重点的NLG评估指标,该检查表通过围绕意义相关的语言现象进行组织来解释。每个测试实例由一对带有AMR图的句子和人工生成的文本语义相似性或相关性分数组成。我们的检查表有利于指标的比较评估,并揭示了新的和传统的指标的优势和劣势。我们证明了CheckList的有用性,设计了一个新的度量GraCo计算词汇的凝聚力图AMR概念。我们的分析表明,GraCo提出了一个有趣的NLG度量值得未来的研究,意义导向的NLG度量可以受益于基于图的度量组件使用AMR。
2022-05-24 cs.CL
Guarding the Meaning: Self-Supervised Training for Semantic Robustness in Guard Models
Qualcomm AI Research(高通人工智能研究)
针对守卫模型对表层语言变异敏感、缺乏语义基础的问题,提出基于释义集和偏斜感知聚合策略的自监督框架,提升其语义鲁棒性,降低语义变异性约58%、平均提升基准准确率约2.5%,并发现校准与一致性的双向关系。
2025-11-06 cs.AI cs.CL cs.LG
Semantic Wave Functions: Exploring Meaning in Large Language Models Through Quantum Formalism
本文提出量子形式主义框架,将LLM嵌入空间扩展至复数域,引入语义波函数和路径积分,以建模语义干涉与歧义,推动语言理解。
2025-04-21 cs.CL cs.LG quant-ph
Algebras over a field and semantics for context based reasoning
本文介绍了上下文代数,并展示了它们的应用相结合的逻辑和向量为基础的表示的意义。解决这个问题的其他方法试图在新的框架中重现逻辑语义的各个方面。我们在这里提出的方法是不同的:我们展示了如何逻辑语义可以嵌入在一个向量空间框架,并使用此来结合分布式语义,其中的单词的含义表示为向量,与逻辑语义,其中的句子的含义表示为逻辑形式。
2011-11-07 cs.CL cs.LO
Widely Interpretable Semantic Representation: Frameless Meaning Representation for Broader Applicability
Emory University(埃默里大学)
本文提出新颖语义表示WISeR,通过将AMR编号参数转换为无框架主题角色解决其跨语言领域适用性差问题,实验证明WISeR标注一致性更高且解析准确率全面优于AMR。
2023-09-12 cs.CL
Matching Meaning at Scale: Evaluating Semantic Search for 18th-Century Intellectual History through the Case of Locke
University of Helsinki(赫尔辛基大学);TurkuNLP, University of Turku(图尔库大学TurkuNLP);ELLIS Institute Finland(芬兰ELLIS研究所)
本文通过洛克作品的接受情况,评估语义搜索在18世纪思想史中的应用,发现其能更有效地检索隐含意义,但受限于词汇重叠。
2026-05-12 cs.AI cs.CL cs.CY
A Psycholinguistic Analysis of BERT's Representations of Compounds
University of Amsterdam(阿姆斯特丹大学)
本文研究了BERT学习的复合词的语义表征,即sunlight或bodyguard等表达式。我们建立在最近的研究基础上,这些研究在单词水平上探索了Transformers中的语义信息,并测试了BERT在处理表达时是否与人类的语义直觉一致(例如,sunlight),其整体意义在不同程度上取决于组成词(sun、light)的语义。我们利用一个数据集,其中包括人类的判断两个心理语言学措施的复合语义分析:词素意义的优势(LMD;量化的重量,每个成分的复合意义)和语义透明度(ST;评估的程度,复合意义是可恢复的成分的语义)。我们表明,BERT为基础的措施适度符合人类的直觉,特别是当使用上下文表示,LMD是整体上比ST更可预测的。相反,报告的结果为“标准”的话,更高,更上下文层是最好的表示复合意义。这些发现为BERT处理细粒度语义现象的能力提供了新的线索。此外,它们还可以帮助我们了解说话者如何表达复合词。
2023-02-14 cs.CL
Visual Semantic Parsing: From Images to Abstract Meaning Representation
Samsung AI Centre - Toronto(三星人工智能中心——多伦多);Queen’s University(女王大学);Rutgers University(罗格斯大学)
用于视觉场景理解的场景图的成功已经引起了对抽象视觉输入(例如,图像)转换为结构化表示,其中实体(人和对象)是通过指定它们的关系的边连接的节点。然而,构建这些表示需要昂贵的手动注释,其形式为图像与其场景图或帧配对。这些形式主义仍然局限于它们所能捕捉的实体和关系的性质。在本文中,我们建议利用广泛使用的意义表示领域的自然语言处理,抽象意义表示(AMR),以解决这些缺点。与场景图相比,它在很大程度上强调空间关系,我们的视觉AMR图更语言上知情,重点是从视觉输入推断出的更高层次的语义概念。此外,它们允许我们生成元AMR图,以统一在一个表示下的多个图像描述中包含的信息。通过大量的实验和分析,我们证明,我们可以重新利用现有的文本到AMR解析器解析图像到AMR。我们的研究结果指出了未来重要的研究方向,以提高场景理解。
2022-10-27 cs.CL cs.CV cs.LG
The meaning-frequency law in Zipfian optimization models of communication
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
根据齐普夫的意义-频率定律,频率越高的词往往有更多的含义。在这里,它表明,一个线性的依赖关系的频率的形式和其数量的含义被发现在一个家庭的模型的Zipf定律的词频。这是意义-频率定律的弱版本的证据。有趣的是,弱定律(a)不是家族假设的必然属性,(b)至少在那些模型显示出词频Zipf定律的狭窄区域中发现。
2016-10-13 cs.CL physics.data-an physics.soc-ph
Geometric Structures and Patterns of Meaning: A PHATE Manifold Analysis of Chinese Character Embeddings
本研究通过PHATE流形分析系统探究汉字嵌入的几何模式,验证了语义内容与几何复杂度的关联,为传统语言学理论提供计算证据并建立语义组织几何分析的新框架。
2025-09-23 cs.CL
Semantic Motion Anchors: Bridging Motion and Meaning in Co-Speech Gestures
Saarland University(萨尔兰大学);MPI for Informatics(信息研究所);Saarland Informatics Campus(萨尔兰信息校园);University of British Columbia(不列颠哥伦比亚大学);Vector Institute(向量研究所);Zuse School(祖斯学校)
提出语义运动锚点方法,通过将3D手势离散化为身体-手部运动基元并转化为结构化描述,在文本与运动之间建立辅助对比监督,显著提升共语手势检索的语义相关性。
2026-06-06 cs.CL
Building a Neural Semantic Parser from a Domain Ontology
University of Edinburgh(爱丁堡大学);Stanford University(斯坦福大学)
语义解析是将自然语言话语转换为机器可解释的含义表示的任务,其可以针对诸如数据库的真实世界环境执行。将语义解析扩展到任意领域面临着两个相互关联的挑战:有效且廉价地获得广泛覆盖的训练数据;以及开发一个推广到合成话语和复杂意图的模型。我们使用一个框架来解决这些挑战,该框架允许从领域本体中获取训练数据,并引导神经解析器,该神经解析器递归地构建逻辑形式的推导。在我们的框架中的含义表示所描述的序列的自然语言模板,其中每个模板对应于一个分解的片段的基本含义表示。虽然是人工的,但模板可以被人类理解和解释以创建自然的话语,从而产生平行的三元组话语,含义表示及其分解。这些使我们能够训练一个神经语义解析器,它学会在推导含义表示时编写规则。我们众包训练数据上的六个领域,包括单轮话语表现出丰富的组合性,和顺序的话语,一个复杂的任务是按程序执行的步骤。然后,我们开发神经语义解析器执行这样的合成任务。一般来说,我们的方法允许从给定的领域本体快速,廉价地部署神经语义解析器。
2018-12-25 cs.CL
Type-theoretical natural language semantics: on the system F for meaning assembly
IRIT(图卢兹计算机研究所);UPS(图卢兹第三大学);LaBRI(波尔多计算机研究实验室);Université de Bordeaux(波尔多大学)
本文提出并扩展了我们的类型理论框架的组成治疗的自然语言语义与一些词汇功能,如touchons(例如,一个城镇到一个足球俱乐部)和copredication(例如,在一个城镇作为一组人和作为一个位置)。二阶类型λ演算被证明是一个很好的框架,在这里我们讨论如何引入预定义类型和强制子类型,这比内部编码的类似结构更自然。这些新特征的语言应用也举例说明。
2013-03-12 cs.CL cs.LO math.LO
Cross-lingual Semantic Parsing
Johns Hopkins University(约翰斯·霍普金斯大学)
我们介绍了跨语言的语义解析的任务:映射内容提供的源语言的意义表示的基础上的目标语言。我们介绍:(1)一种旨在使系统能够针对不同层次的结构复杂性的意义表示(从浅到深的分析),(2)用于测量系统输出和参考意义表示之间的相似性的评估度量,(3)具有支持句内共指的新颖复制机制的端到端模型,和(4)一个评估数据集,实验表明我们的模型比强基线至少高出1.18 F1分数。
2018-04-21 cs.CL
Geometric Patterns of Meaning: A PHATE Manifold Analysis of Multi-lingual Embeddings
本文通过PHATE流形学习分析多语言嵌入的几何模式,揭示了不同语言层次中语义结构的异同及嵌入模型的局限性。
2025-12-29 cs.CL
An Informational Space Based Semantic Analysis for Scientific Texts
University of Leicester(莱斯特大学)
自然语言处理的一个主要问题是人类语言的自动分析和表示。人类语言是模糊的,更深入地理解语义和创造人机交互需要努力创造交流行为的方案和建立文本中“意义”的常识知识库。本文介绍了语义分析的计算方法和科技短文的语义量化。本文采用提取语义特征的计算方法,分析了莱斯特科学语料库(Leicester Scientific Corpus)中大量科学文本的文本信息与“情景表征”之间的关系。科学特定意义的表征通过用某些属性的向量(文本所属的科学主题类别列表)取代情境表征而不是心理属性来标准化。首先,本文介绍了“意义空间”,其中意义的信息表示是从跨科学类别的文本中出现的单词中提取的,即,词的意义由关于主题类别的相对信息增益的向量表示。然后,我们对《莱斯特科学词典》核心版的意义空间进行了统计分析,并探讨了“意义的主要成分”来描述意义的适当维度。本文的研究为文本意义的几何表示奠定了基础。
2022-05-31 cs.AI cs.CL cs.HC
Semantic-aware Contrastive Learning for More Accurate Semantic Parsing
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
由于语义表示是表达细粒度序列级语义的详细而准确的注释,因此通常难以通过自回归方式的最大似然估计(MLE)来训练区分性语义解析器。在本文中,我们提出了一个语义感知的对比学习算法,它可以学习区分细粒度的意义表示,并考虑到整体的序列级语义。具体而言,提出了一种多层次在线抽样算法,以采样混淆和多样化的实例。设计了三个语义感知相似度函数,以准确地测量整体意义表示之间的距离。并提出了一种排序对比损失,将语义相同的实例的表示拉到一起,将否定的实例推到一边。在两个标准数据集上的实验表明,我们的方法在MLE基线上取得了显着的改进,并通过简单地将语义感知的对比学习应用于vanilla Seq2Seq模型,获得了最先进的性能。
2023-01-19 cs.CL
Evolving language compositionality in a frequency-structured meaning space
Université de Namur(那慕尔大学);Vrije Universiteit Brussel(布鲁塞尔自由大学);University of Bristol(布里斯托尔大学)
该研究通过迭代学习模型发现,频率分布在学习者可整体习得的形式-意义单元上时可塑造语言组合性,若分布在更小单元则会阻碍语言稳定传递。
2026-10-07 cs.CL
SyGNS: A Systematic Generalization Testbed Based on Natural Language Semantics
The University of Tokyo(东京大学);RIKEN(理化学研究所);Keio University(庆应义塾大学);Tohoku University(东北大学)
最近,深度神经网络(DNN)在语义上具有挑战性的NLP任务中取得了巨大的成功,但目前还不清楚DNN模型是否可以捕获组成意义,这些意义方面已经在形式语义学中研究了很长时间。为了研究这个问题,我们提出了一个基于自然语言语义(SyGNS)的系统泛化测试平台,其挑战是将自然语言句子映射到多种形式的范围含义表示,旨在解释各种语义现象。使用SyGNS,我们测试神经网络是否可以系统地解析句子,涉及新的组合的逻辑表达式,如量词和否定。实验表明,Transformer和GRU模型可以泛化到与给定训练实例在形式上相似的量词、否定词和修饰词的不可见组合,但不能泛化到其他组合。我们还发现,当意义表征的形式更简单时,对未知组合的泛化性能更好。SyGNS的数据和代码可在www.example.com上公开获取。
2021-06-02 cs.CL
The origins of Zipf's meaning-frequency law
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学);University of Kansas(堪萨斯大学)
在他的开创性研究中,G. K.齐普夫观察到,更频繁的单词往往有更多的含义,并表明一个单词的含义数量随着其频率的平方根而增长。他从两个假设推导出这种关系:词遵循齐普夫词频定律(频率和等级之间的幂律依赖关系)和齐普夫意义分布定律(意义数量和等级之间的幂律依赖关系)。在这里,我们表明,一个单一的假设联合概率的一个词和一个意义足以推断齐普夫的意义频率法或放松的版本。有趣的是,这个假设可以被证明是心理探索过程中有偏随机游走的结果。
2017-12-30 cs.CL cs.IT math.IT
Coarse-to-Fine Decoding for Neural Semantic Parsing
Institute for Language, Cognition and Computation(语言、认知与计算研究所);University of Edinburgh(爱丁堡大学)
语义解析旨在将自然语言语句映射为结构化的意义表示。在这项工作中,我们提出了一个结构感知的神经架构,它分解成两个阶段的语义解析过程。给定一个输入话语,我们首先生成其含义的粗略草图,其中低级别信息(如变量名和参数)被掩盖。然后,我们通过考虑自然语言输入和草图本身来填充缺失的细节。四个不同领域和意义表征的数据集上的实验结果表明,我们的方法不断提高性能,实现竞争力的结果,尽管使用相对简单的解码器。
2018-05-12 cs.CL
Verbs Taking Clausal and Non-Finite Arguments as Signals of Modality - Revisiting the Issue of Meaning Grounded in Syntax
Technische Universität Darmstadt(达姆施塔特工业大学)
我们重温莱文的理论对应的动词意义和句法和推断语义类从一个大的句法分类超过600个德语动词从句和非限定参数。众所周知,掌握莱文类的意义成分是很困难的。我们通过建立一个多角度的语义表征的推断类来解决这一挑战。为此,我们链接推断类和他们的英语翻译独立构建的语义类在三个不同的词汇-德语词网GermaNet,VerbNet和FrameNet -并进行详细的分析和评估所产生的德语-英语分类(可在www.ukp.tu-darmstadt.de/modality-verbclasses/)。
2016-06-23 cs.CL
Scene Abstraction for Lexical Semantics: Structured Representations of Situated Meaning
The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
提出场景抽象框架,通过少样本提示大语言模型构建词汇使用情境的结构化表示,实验证明场景可可靠识别且优于基线方法。
2026-05-22 cs.CL
Semantic Change and Semantic Stability: Variation is Key
Yale University(耶鲁大学)
我调查了一些最近的方法来研究变化的词汇,特别是在意义上的变化,在跨类属。我简要地勾勒了一个进化的方法来研究语言的变化,并指出了一些问题,在最近的方法来研究语义变化,依赖于时间分层词嵌入。我画插图的词汇同源模型在帕玛Nyungan确定最适合词汇系统发育推断的意义类,特别是突出的重要性,随着时间的推移研究变化的变化。
2019-06-13 cs.CL q-bio.PE
Using Synchronic Definitions and Semantic Relations to Classify Semantic Change Types
University of Gothenburg(哥德堡大学);VUB/FWO/KU Leuven(布鲁塞尔自由大学/FWO/鲁汶大学)
本文提出融合 WordNet 同义词集定义与层级关系的模型,用于识别泛化、特化和同下义词转移等语义变化类型,并验证其对语义相关性判断和词汇语义变化检测的提升作用。
2024-06-11 cs.CL
Plurality and Quantification in Graph Representation of Meaning
Rutgers, The State University of New Jersey(罗格斯大学,新泽西州立大学)
在这篇论文中,我们提出了一种基于有向图的语义表示形式,并探讨了它在复数和量化语义方面的语言充分性和解释优势。我们的图形语言涵盖了自然语言语义的要点,只使用一元二阶变量。我们定义其模型理论的解释,在图遍历,其中的相对范围的变量从他们的估值顺序。我们提出了一个基于统一的机制,在一个简单的语法语义接口,语法作为一个分区功能的话语所指的是实现与范畴语法之间建立一个部分确定性的关系语义和句法分布的语义图。该机制是自动化的,以方便未来的探索。本图形式主义适用于语言问题的分配谓词,跨范畴的连接,和范围置换的量化表达式,包括不确定的例外范围行为。
2021-12-13 cs.CL
Using meaning instead of words to track topics
ULiege(列日大学);HEC Liege(列日高等商学院)
监控主题随时间演变的能力对企业来说非常有价值。目前,所有现有的主题跟踪方法都是通过匹配词汇使用来使用词汇信息。然而,还没有研究尝试过使用语义信息来跟踪主题。因此,我们探索了一种新的基于语义的方法,使用词嵌入。我们的研究结果表明,基于语义的方法来跟踪主题是等同于词汇的方法,但使不同的错误。这表明这两种方法可以相互补充。
2023-01-02 cs.AI cs.CL
Zipf's laws of meaning in Catalan
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
在他的开创性研究中,G. K.齐普夫提出了两个关于词的频率与其含义数量之间关系的统计定律:含义分布定律,将词的频率与其频率等级联系起来,以及含义频率定律,将词的频率与其含义数量联系起来。虽然这些法律是在半个多世纪前制定的,但它们只被用几种语言研究过。在这里,我们提出了这些法律在加泰罗尼亚语的第一次研究。我们验证这些法律在加泰罗尼亚语通过它们的指数之间的关系和秩频率法。我们提出了一个新的协议,这些Zipfian法律,可以扩展到其他语言的分析。我们报告的第一个证据表明,这些法律在书面语言和语音的两个显着的制度,平行的两个政权在齐普夫的排名频率法在大型多作者语料库中发现在21世纪初。最后,将讨论这两种制度的影响。
2021-06-30 cs.CL
Paraphrasing, textual entailment, and semantic similarity above word level
Universidad de Barcelona(巴塞罗那大学)
本论文探讨了两个或多个复杂的语言表达(短语,从句,句子,段落)之间的意义关系的语言和计算方面。特别是,它侧重于释义,文本蕴涵,矛盾和语义相似性。第一部分:在"词语层面的相似性"一文中,笔者研究了分布假设,并探讨了几种不同的方法来量化词语和短语层面的语义相似性。第二部分:在“释义类型与释义识别”一章中,我重点讨论了释义的意义关系和释义自动识别的实验任务。第三部分:"释义、语篇蕴涵和语义相似"是本文在对释义、语篇蕴涵、矛盾和语义相似进行联合研究的基础上提出的一个新的语篇意义关系研究方向。
2022-08-10 cs.CL
Testing the limits of unsupervised learning for semantic similarity
Paralleldots, Inc.(Paralleldots 公司)
两个句子之间的语义相似度可以被定义为确定两个句子之间的相关或不相关程度的一种方法。语义相似度在分布式表示方面的任务可以被认为是生成句子嵌入(密集向量),其中考虑了句子的上下文和含义。这种嵌入可以通过多种方法产生,在本文中,我们尝试评估LSTM自动编码器来生成这些嵌入。无监督算法(具体来说是自动编码器)只是试图重新创建它们的输入,但它们可以通过创建适当的瓶颈来被迫学习顺序(以及某种程度上的内在含义)。我们试图评估仅仅在简单的英语句子上训练的算法如何正确地学习计算语义相似性,而不给它们任何句子的含义。
2017-10-23 cs.CL
Texts in, meaning out: neural language models in semantic similarity task for Russian
National Research University Higher School of Economics(俄罗斯国家研究型高等经济大学);Mail.ru Group(Mail.ru集团)
自然语言词汇的分布式向量表示在当代计算语言学中得到了广泛的关注。本文总结了将神经网络语言模型应用于俄语语义相似度计算的经验。实验是在俄语语义相似度评估轨道的过程中进行的,根据任务的不同,我们的模型从第二位到第五位。我们介绍所使用的工具和语料库,评论的性质的共享任务,并描述所取得的成果。研究发现,以前成功应用于英语材料的连续跳跃语法和连续词袋模型也可以用于俄语的语义建模。此外,我们表明,在俄罗斯国家语料库(RNC)的文本提供了一个很好的培训材料,这种模式,优于其他更大的语料库。对于语义相关性任务尤其如此(尽管在RNC模型之上堆叠在较大语料库上训练的模型可以更好地提高性能)。以这种方式学习的高质量语义向量可以用于各种语言任务,并为进一步研究提供了一个令人兴奋的领域。
2015-04-30 cs.CL
Distributed Representations for Compositional Semantics
New College(新学院)
语义的数学表示是自然语言处理的一个关键问题。大量的研究致力于寻找在向量空间中表示单个词的语义的方法。分布式方法--即利用大型语料库的共现统计数据的分布式表示--在许多任务中已经被证明是流行和成功的。然而,自然语言通常是在单词层面之外的结构中出现的,其意义不仅来自单个单词,而且来自短语或句子层面上包含它们的结构。对话语的意义从其各部分的意义中产生的合成过程进行建模是NLP的一项同样基本的任务。本文探讨了学习分布式语义表示的方法和模型,用于将这些表示组成更大的语言单元。我们的基本假设是,神经模型是学习语义丰富的表示的合适工具,而这些表示反过来又是解决自然语言处理中重要任务的合适工具。这篇论文的贡献是我们的假设进行了彻底的评估,作为其中的一部分,我们介绍了几种新的方法,表示学习和组合语义,以及多种国家的最先进的模型,适用于分布式语义表示在NLP的各种任务。
2014-11-12 cs.CL
Syntagma Lexical Database
本文讨论了Syntagma词汇数据库的结构(主要针对意大利语)。基本数据库由四个表组成。表格表单包含词形变化,POS标记器使用这些词形变化来识别输入词。形式与引理有关。表引理存储了词的各种语法特征、词级语义数据和约束条件。在表Meanings中存储与意义相关的数据:定义,示例,域和语义信息。表配价包含每个意义的论元结构,以及每个论元的句法和语义特征。SLD的扩展版本包含到Syntagma的语义网和其他语言的WordNet同义词集的链接。
2015-03-19 cs.CL
Distributional Semantics, Holism, and the Instability of Meaning
University of Reading(雷丁大学);University of Pennsylvania(宾夕法尼亚大学)
本文探讨不稳定性反对意见对分布语义模型的影响,区分了绝对不稳定性和差异不稳定性,论证了差异不稳定性受词汇关系结构约束,允许意义产生变化同时避免交流问题。
2025-04-03 cs.CL
Semantic Graphs for Syntactic Simplification: A Revisit from the Age of LLM
Department of Computing Science(计算机科学系);University of Alberta(阿尔伯塔大学)
本文重新审视语义图在句法简化中的作用,提出基于 AMR 的 AMRS$^3$ 方法及 AMRCoC 提示策略,证明语义图在 LLM 时代仍具竞争力与独特优势。
2024-07-04 cs.CL
Reference and Document Aware Semantic Evaluation Methods for Korean Language Summarization
Kakao Corp.(Kakao公司);Kakao Enterprise Corp.(Kakao企业公司);Korea University, South Korea(韩国高丽大学);Hanshin University, South Korea(韩国韩神大学)
文本摘要是指从源文档中生成保留显著信息的较短形式的文本的过程。现有的许多文本摘要工作通常使用面向回忆的替代研究(ROUGE)分数进行评估。然而,由于ROUGE分数是基于n-gram重叠计算的,因此它们不反映生成的摘要和参考摘要之间的语义含义对应关系。由于韩语是一种粘着语言,它将各种语素组合成一个词来表达多种含义,因此ROUGE不适合韩语摘要。在本文中,我们提出了评价指标,反映语义的参考摘要和原始文件,参考和文档感知语义得分(RDASS)的含义。然后,我们提出了一种方法,用于提高人类判断的指标的相关性。评估结果表明,与人类判断的相关性显着高于我们的评估指标比ROUGE分数。
2020-11-02 cs.CL cs.LG stat.ML
Context-theoretic Semantics for Natural Language: an Algebraic Framework
University of Sussex(萨塞克斯大学)
将词表示为向量的技术在计算语言学的许多应用中已经被证明是有用的,但是目前还没有通用的语义形式主义来表示向量的意义。我们提出了一个自然语言语义框架,其中的词,短语和句子都表示为向量,基于理论分析,假设意义是由上下文决定的。在理论分析中,我们将语料库模型定义为对文本语料库的数学抽象。假设一串单词的含义是一个向量,表示它在语料库模型中出现的上下文。基于这个假设,我们可以证明词的向量表示可以被认为是域上代数的元素。我们注意到,在向量空间的应用程序来表示单词的含义有一个潜在的格结构,我们解释的偏序格之间的含义描述。我们还定义了一个字符串的上下文理论概率,并在此基础上和格结构,字符串之间的蕴涵程度。这些属性一起形成了关于如何在框架内构造语义表示的指导方针。上下文理论是框架的实现;在实现中,字符串被表示为具有从理论分析推导出的属性的向量。我们将展示如何将逻辑语义纳入上下文理论,这使我们能够表示统计信息的不确定性,采取加权总和的个人表示。我们还使用该框架来分析方法的任务,认识到文本蕴涵,本体论的表示意义和表示句法结构。对于后者,我们给出了新的代数描述的链接文法。
2020-09-22 cs.CL
Word Meanings in Transformer Language Models
University of Reading, Department of Philosophy(reading大学哲学系);University of Oxford, Mathematical Institute(牛津大学数学研究所)
本文通过聚类RoBERTa-base的token嵌入空间并检验其对语义及心理语言学指标的敏感性,证明Transformer语言模型内部编码了丰富的词义信息,从而反驳了意义取消主义假说。
2025-08-18 cs.AI cs.CL
A Context-theoretic Framework for Compositionality in Distributional Semantics
University of Hertfordshire(赫特福德大学)
将词表示为向量的技术在计算语言学的许多应用中已经被证明是有用的,但是目前还没有通用的语义形式主义来表示向量的意义。我们提出了一个自然语言语义框架,其中的词,短语和句子都表示为向量,基于理论分析,假设意义是由上下文决定的。在理论分析中,我们将语料库模型定义为对文本语料库的数学抽象。假设一串单词的含义是一个向量,表示它在语料库模型中出现的上下文。基于这个假设,我们可以证明词的向量表示可以被认为是域上代数的元素。我们注意到,在向量空间的应用程序来表示单词的含义有一个潜在的格结构,我们解释的偏序格之间的含义描述。我们还定义了一个字符串的上下文理论概率,并在此基础上和格结构,字符串之间的蕴涵程度。我们将框架与现有的方法组成基于向量的表示的意义,并表明我们的方法概括了其中许多,包括向量加法,分量乘法和张量积。
2011-01-24 cs.AI cs.CL