A Graph Diffusion Algorithm for Lexical Similarity Evaluation
Slovak University of Technology（斯洛伐克技术大学）；Faculty of Civil Engineering（土木工程学院）
本文提出一种基于加权有向图和狄利克雷边界条件图扩散方程的词汇相似度评估算法，利用音标转写和改进的Damerau-Levenshtein距离计算翻译间距离，并通过欧洲语言案例验证其在多语言关系分析中的有效性。
2025-04-09 cs.CL
Dispersion Measures as Predictors of Lexical Decision Time, Word Familiarity, and Lexical Complexity
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
本研究针对离散度度量外部验证不足的问题，在五种语言中评估各类离散度对词汇决策时间等的预测效果，发现对数分布范围表现最优，并解释了过往研究的矛盾结果。
2025-01-11 cs.CL
NLP-CIC @ DIACR-Ita: POS and Neighbor Based Distributional Models for Lexical Semantic Change in Diachronic Italian Corpora
Instituto Politécnico Nacional（国家理工学院）；Instituto Caro y Cuervo（卡罗-奎尔沃研究所）
我们在EVALITA 2020的DIACR-Ita共享任务中展示了我们关于意大利语无监督词汇语义变化的系统和发现。该任务是确定目标词是否随着时间的推移而演变其含义，仅依赖于来自两个特定时间数据集的原始文本。我们提出了两个模型，代表目标词的各个时期预测变化的话，使用阈值和投票计划。我们的第一个模型仅仅依赖于词性的使用和距离测量的集合。第二个模型使用词嵌入表示法提取相邻词在空间上的相对距离，并提出“绝对差平均值”来估计词汇语义变化。我们的模型取得了令人满意的结果，在DIACR-Ita竞赛中排名第三。此外，我们使用第二个模型的k_neighbor参数进行实验，以比较使用“绝对差的平均值”与Hamilton et al.（2016）中使用的余弦距离的影响。
2020-11-07 cs.AI cs.CL
Semantic Similarity Based on Corpus Statistics and Lexical Taxonomy
本文提出了一种新的方法来衡量词和概念之间的语义相似性/距离。它结合了词汇分类结构和语料库统计信息，使得分类法构建的语义空间中节点之间的语义距离可以更好地量化与来自语料库数据的分布分析的计算证据。具体而言，所提出的措施是一种组合的方法，继承了基于边缘的方法的边缘计数方案，然后增强了基于节点的方法的信息内容计算。当测试一个共同的数据集上的词对相似性评级，所提出的方法优于其他计算模型。它给出了最高的相关值（r = 0.828）与基准的基础上人类相似性判断，而上限（r = 0.885）时，观察到人类受试者复制相同的任务。
1997-09-20 cmp-lg cs.CL
RAW-C: Relatedness of Ambiguous Words--in Context (A New Lexical Resource for English)
University of California, San Diego（加州大学圣地亚哥分校）
大多数单词都是模棱两可的，它们在不同的上下文中传达不同的含义-甚至毫不含糊的词语的含义也取决于上下文。这两种现象都对NLP提出了挑战。近年来，语境化词嵌入的出现使得词义消歧等涉及词汇歧义的任务获得了成功。然而，很少有任务直接评估这些语境化嵌入如何适应词义的更连续，动态的性质-特别是以符合人类直觉的方式。我们介绍了RAW-C，一个数据集的分级，人类相关性判断的112个模糊的词在上下文（672句对），以及人类的估计意义的优势。平均注释者间一致性（使用留一注释者法评估）为0.79。然后，我们表明，余弦距离的测量，计算使用上下文嵌入从BERT和ELMo，与人类的判断，但余弦距离也系统地低估了相似的人类如何找到使用相同的意义的一个词，并系统地高估了相似的人类如何找到使用不同的意义同音异义词。最后，我们提出了一个综合的心理词汇和词汇语义的计算模型的心理语言学理论。
2021-05-27 cs.CL
Lexical Consensus: Grounded Word Learning and Shared Meaning in Artificial Agents
Neurocreaciones
提出词汇共识框架，利用冻结的DINOv2视觉嵌入和卡罗尔式无意义词，研究智能体如何从结构化感知中获取、稳定和使用新词汇意义，发现感知距离主导词汇习得梯度。
2026-06-23 cs.AI cs.CL
Self-Supervised Lexical Representation Learning for Fast, Large-Scale Phylogenetic Inference
本文提出一种自监督对比学习框架，从原始IPA词表学习词汇表示，无需同源性注释，可高效推断3399种语言的系统发育树，性能与基线相当，还能捕获概念稳定性，为大规模系统发育推理提供自动高效方案。
2026-09-07 cs.CL
A Proposal for Word Sense Disambiguation using Conceptual Distance
本文提出了一种基于布朗语料库的词汇歧义消解及其自动评测方法。该方法依赖于广泛覆盖的名词分类的WordNet和概念之间的概念距离的概念，捕获的概念密度公式为此目的而开发的使用。这种全自动的方法不需要手工编码词条，手工标注文本，也不需要任何训练过程。实验的结果已经被自动评估SemCor，布朗语料库的意义标记版本。
1995-10-04 cmp-lg cs.CL
SChME at SemEval-2020 Task 1: A Model Ensemble for Detecting Lexical Semantic Change
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究院）
本文介绍了SemEval-2020任务1中使用的一种无监督检测词汇语义变化的方法SChME（Semantic Change Detection with Model Enclusion）。SChME使用一个模型集成结合信号的分布模型（词嵌入）和词频模型，其中每个模型投下一票，表明一个词的概率sufficientsemantic变化根据该功能。更具体地说，我们将词向量的余弦距离与我们命名为映射邻域距离（MAP）的基于邻域的度量相结合，并将词频差分度量作为我们模型的输入信号。此外，我们还探索了基于标记的方法来研究在此过程中使用的地标的重要性。我们的研究结果表明，用于对齐的地标的数量对模型的预测性能有直接的影响。此外，我们表明，语言，sufferless语义变化往往受益于使用大量的地标，而languageswith更多的语义变化受益于一个更谨慎的选择地标数对齐。
2020-12-02 cs.AI cs.CL
Enhancing Word Embeddings with Knowledge Extracted from Lexical Resources
TALP Research Center, Universitat Politècnica de Catalunya（加泰罗尼亚理工大学 TALP 研究中心）
在这项工作中，我们提出了一个有效的方法，语义专业化的词向量表示。为此，我们使用传统的词嵌入和应用专门化方法，以更好地捕捉词之间的语义关系。在我们的方法中，我们利用外部知识丰富的词汇资源，如BabelNet。我们还表明，我们提出的基于对抗性神经网络与Wasserstein距离的后专业化方法可以在两个任务上获得比最先进方法的改进：单词相似性和对话状态跟踪。
2020-05-20 cs.CL cs.LG
Lexical Co-occurrence, Statistical Significance, and Word Association
IIT Bombay（印度理工学院孟买分校）；Microsoft Research India（微软印度研究院）
词汇同现是检测词汇联想的重要线索。我们提出了一个理论框架，发现统计上显着的词汇共现从一个给定的语料库。与普遍的做法给予权重的unigram频率相比，我们只关注包含两个术语（候选bigram）的文档。我们检测的相关词的跨度分布的偏见，而不可知的全球单字频率的变化。我们的框架具有保真度，区分不同类别的词汇同现，根据强度的文件和语料库水平的线索的同现数据。我们在基准数据集上进行了大量的实验，以研究目前文献中已知的各种同现措施的性能。我们发现，一个相对模糊的措施称为Ochiai，和一个新推出的措施CSA捕获词汇共现的概念最好的，其次是LLR，骰子，和TTest，而另一个流行的措施，PMI，令人惊讶的是，表现不佳的上下文中的词汇共现。
2010-08-31 cs.CL cs.IR
UiO-UvA at SemEval-2020 Task 1: Contextualised Embeddings for Lexical Semantic Change Detection
University of Oslo（奥斯陆大学）；University of Amsterdam（阿姆斯特丹大学）
我们将上下文化的词嵌入应用于SemEval-2020共享任务1中的词汇语义变化检测。本文的重点是子任务2，排名的程度，他们的语义漂移随着时间的推移。我们分析了两个contextualising架构（BERT和ELMo）和三个变化检测算法的性能。我们发现，最有效的算法依赖于平均令牌嵌入之间的余弦相似性和令牌嵌入之间的成对距离。它们的表现远远优于强基线（在后评估阶段，我们为SemEval-2020任务1提交了最好的Subtask 2），但有趣的是，特定算法的选择取决于测试集中黄金分数的分布。
2020-07-19 cs.CL
Formalising lexical and syntactic diversity for data sampling in French
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；LISN（巴黎萨克雷大学计算机科学实验室）
该研究针对法语数据采样，形式化词汇与句法多样性，提出提升多样性的启发式采样方法，还发现两类多样性的相关性随数据集和度量版本波动，说明任意度量可能无法充分捕捉数据集的多样性属性。
2025-01-14 cs.CL
Novel Ranking-Based Lexical Similarity Measure for Word Embedding
Politechnika Poznańska（波兹南理工大学）
分布语义模型从上下文中的语言项推导出词空间。通过定义对应于词汇实体的向量之间的距离度量来获得意义。这种载体存在几个问题。在本文中，我们提供了一个指导方针后处理改进的基线向量。我们专注于细化的相似性方面，解决不完善的模型，通过应用枢纽减少方法，实现关系知识的模型，并提供了一个新的排名相似性定义，给予最大的权重的前1个组件值。这种特征排序类似于信息检索中使用的特征排序。所有这些丰富的联合ESL和TOEF集比较优于目前的文献结果。由于单个词嵌入是任何语义任务的基本元素，因此可以预期这些任务的结果会有显着改善。此外，我们改进的文本处理方法可以转化为生物序列的连续分布式表示，用于深度蛋白质组学和基因组学。
2017-12-22 cs.CL
Coupled Usage-Sense Processes: Temporal and Attributable Lexical Semantic Change
The University of Tokyo（东京大学）；The Canon Institute for Global Studies（佳能全球研究所）
本文提出耦合使用-意义过程（CUSP），通过边际保持的时间过程从词汇语义变化中同时提取变化幅度、时间、机制、运动、模式及文本证据，并在合成与真实语料上验证其有效性。
2026-09-28 cs.CL stat.ML
The Grammar Does the Work: Functional vs. Lexical Dependency Length Minimization Across Universal Dependencies
研究依存长度最小化在功能性和词汇性依存上的不对称性，发现功能性依存普遍短且不变，词汇性依存较长且受语序类型制约。
2026-07-03 cs.CL
From graphemic dependence to lexical structure: a Markovian perspective on Dante's Commedia
The BioRobotics Institute（生物机器人研究所）；Scuola Superiore Sant’Anna（高等圣安娜学校）
本文通过基于元音-辅音编码的符号表示，研究但丁神曲的结构组织，发现从地狱到天堂字形记忆指数逐渐增加，表明局部依赖结构发生方向性变化，同时通过三元组分析识别出词法环境中的重复配置，并揭示局部符号依赖与词法结构之间的联系。
2026-10-14 cs.CL
Discovery of Linguistic Relations Using Lexical Attraction
这项工作的动机是两个长期目标：了解人类如何学习语言和构建能够理解语言的程序。使用一种能使相关特征显式化的表征是成功学习和理解的先决条件。因此，我选择在我的模型中显式地表示单个单词之间的关系。词汇吸引被定义为这种关系的可能性。我介绍了一类新的概率语言模型命名为词汇吸引力模型，它可以表示长距离的话之间的关系，我正式使用信息论这类新的模型。在词汇吸引的框架内，我开发了一个无监督的语言习得程序，学习识别给定句子中的语言关系。程序中唯一明确表示的语言知识是词汇吸引。没有初始的语法或词汇内置，唯一的输入是原始文本。学习和处理是相互交错的。处理器使用由学习器检测到的结构来对输入施加结构。这种结构使学习者能够检测更高级别的干扰。使用这种自举程序，该程序在1亿字的美联社材料上进行了训练，并且能够在寻找内容词之间的关系时达到60%的准确率和50%的召回率。利用词汇吸引力的知识，该程序可以识别句法上模棱两可的句子中的正确关系，例如“我看到自由女神像飞过纽约”。''
1998-05-27 cmp-lg cs.CL
A Word-Complexity Lexicon and A Neural Readability Ranking Model for Lexical Simplification
The Ohio State University（俄亥俄州立大学）
目前的词汇简化方法严重依赖于语法和语料库水平的功能，并不总是符合人类的判断。我们创建了一个包含15，000个英语单词的人类评级单词复杂度词典，并提出了一种新的神经可读性排名模型，该模型具有基于高斯的特征向量化层，该层利用这些人类评级来衡量任何给定单词或短语的复杂度。对于不同的词汇简化任务和评估数据集，我们的模型比最先进的系统表现得更好。此外，我们还产生SimplePPDB++，超过1000万简化释义规则的词汇资源，通过将我们的模型应用到释义数据库（PPDB）。
2018-10-12 cs.CL
A Visual Distance for WordNet
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya - BarcelonaTech (UPC)（加泰罗尼亚理工大学）
测量概念之间的距离是自然语言处理研究的一个重要领域，因为它可以用来改进与这些相同概念的解释相关的任务。WordNet，它包括与单词相关联的各种各样的概念（即，同义词集）通常用作计算这些距离的源。在本文中，我们探讨了基于视觉特征的WordNet同义词集的距离，而不是词汇的。为此，我们提取了使用ImageNet训练的深度卷积神经网络中生成的图形特征，并使用这些特征来生成每个同义词集的代表。在此基础上，我们定义了一个同义词集的距离测度，它是对传统词汇距离的补充。最后，我们提出了一些实验来评估其性能，并将其与当前最先进的。
2018-04-27 cs.AI cs.CL cs.LG
Latent Lexical Projection in Large Language Models: A Novel Approach to Implicit Representation Refinement
本文提出潜在词汇投影（LLP）方法，通过潜在空间变换精化词汇表示，在保持句法完整性的同时提升词元选择准确性，实验表明其降低了困惑度、提高了BLEU分数并增强了长距离依赖保留。
2025-03-25 cs.CL
A Model of Lexical Attraction and Repulsion
本文介绍了基于指数族的新方法，用于对文本和语音中的词之间的相关性进行建模。虽然以前的工作假设词同现统计的影响是恒定的，在一个窗口的几百个字，我们表明，他们的影响是非平稳的一个小得多的时间尺度。从英语和日语的文本，以及会话语音的经验数据表明，“吸引力”之间的话呈指数衰减，而文体和句法约束创建一个“排斥”之间的话，不鼓励密切的同现。我们表明，这些特征是很好地描述了简单的混合模型的基础上，两阶段的指数分布，可以使用EM算法进行训练。然后，可以将所得到的距离分布作为惩罚特征并入指数语言模型中。
1997-06-16 cmp-lg cs.CL
UWB @ DIACR-Ita: Lexical Semantic Change Detection with CCA and Orthogonal Transformation
University of West Bohemia（西波希米亚大学）；NTIS – New Technologies for the Information Society（NTIS——信息社会新技术中心）
在本文中，我们描述了我们的方法检测词汇语义变化（即，词义随时间变化），其中我们对$1^{st}$进行排名。我们研究了两个意大利语语料库，从不同的时间段选择特定的单词之间的语义差异。我们的方法是完全无监督和语言独立的。它包括为每个语料库准备一个语义向量空间，之前和之后。然后我们使用CCA和正交变换计算先前空间和稍后空间之间的线性变换。最后，我们测量变换向量之间的余弦。
2020-11-30 cs.CL
Shared Lexical Items as Triggers of Code Switching
University of Haifa（海法大学）；Universität des Saarlandes（萨尔兰大学）
本研究基于三个语言对的五个大型数据集，验证了触发假说，发现共享词汇（同源词和专有名词）确实触发语码转换，且转换倾向受触发词距离和位置影响，不受词源影响，为相关理论提供了有力证据。
2023-08-29 cs.AI cs.CL
Lexical semantics enhanced neural word embeddings
Shandong Jianzhu University（山东建筑大学）
当前自然语言处理的突破极大地受益于神经语言模型，通过该模型，分布式语义可以利用神经数据表示来促进下游应用。由于神经嵌入使用上下文预测来产生密集向量，因此它们不可避免地倾向于捕获比语义相似性更多的语义关联。为了改进向量空间模型在推导语义相似度方面的性能，我们通过深度度量学习对神经词嵌入进行后处理，通过深度度量学习，我们可以将包括同义/反义和上下义关系在内的词汇语义关系注入到分布空间中。我们引入层次拟合，一种新的语义专业化的方法来建模语义相似性的细微差别固有地存储在IS-A层次结构。层次拟合在常用词和稀有词基准数据集上获得了最先进的结果，用于从神经词嵌入中获得语义相似性。它还采用了一个不对称的距离函数来明确地专门化上位词的方向性，通过它显着提高香草嵌入在多个评价任务中检测上位词和方向性，而不会对语义相似性判断产生负面影响。结果表明，层次拟合在后期融合中专门化具有语义关系的神经嵌入的有效性，潜在地扩展了其适用性，以聚合异构数据和各种知识资源，用于学习多模态语义空间。
2022-10-03 cs.CL
On the universal structure of human lexical semantics
Institute for New Economic Thinking at the Oxford Martin School（牛津马丁学院新经济思维研究所）；University of Oxford（牛津大学）；Santa Fe Institute（圣塔菲研究所）；University of New Mexico（新墨西哥大学）；Ronin Institute（浪人研究所）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
人类的概念结构有多普遍？概念在人脑中的组织方式可能反映了文化，历史和环境背景的独特特征，以及人类认知的普遍属性。语义学，或者说通过语言表达的意义，提供了对底层概念结构的直接访问，但是意义是出了名的难以测量，更不用说参数化了。在这里，我们提供了一个经验性的措施，使用跨语言词典的概念之间的语义接近。在从一个遗传学和地理学分层的属样本中精心挑选的语言中，单词的翻译揭示了一种特定语言使用单个多义词来表达另一种语言中不同单词所代表的概念的情况。我们使用连接两个概念的多义词的频率作为其语义接近度的度量，并通过加权网络表示这种连接的模式。这个网络是高度不平衡和分散的：某些概念比其他概念更容易出现多义词，并且自然出现相互松散连接的可解释集群。统计分析表明，这种结构特征在不同的语言群体中是一致的，在很大程度上独立于地理，环境和文化。因此，可以得出这样的结论：连接所研究的基本词汇的概念结构主要是由于人类认知和语言使用的普遍特征。
2015-04-29 cs.CL physics.soc-ph
Examining Scientific Writing Styles from the Perspective of Linguistic Complexity
Nanjing University of Science and Technology（南京理工大学）；Indiana University（印第安纳大学）；Nanjing University（南京大学）；Wuhan University（武汉大学）；University of Illinois（伊利诺伊大学）
在高影响力的英语期刊上发表文章对世界各地的学者来说都很困难，特别是对于非英语母语的学者（NNEs）来说，他们中的大多数人都在努力提高英语水平。为了揭示母语为英语的学者（NES）和NES之间英语科学写作的差异，我们收集了一个大规模的数据集，包含2006年至2015年期间发表在PLoS上的15万多篇全文文章。根据Ethnea的数据，我们将这些论文按照第一作者和通讯作者的民族背景分为三组，并从语言复杂性的两个方面考察了英语科技写作风格：（1）句法复杂性，包括句子长度和句子复杂性的测量;（2）词汇复杂度，包括词汇多样性、词汇密度和词汇复杂度。观察结果表明，在句法和词汇复杂性组之间的边际差异。
2018-09-13 cs.CL
Relations such as Hypernymy: Identifying and Exploiting Hearst Patterns in Distributional Vectors for Lexical Entailment
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们考虑使用分布向量预测词汇蕴涵的任务。我们执行一个现有的模型，这是以前只测量的词对的原型性一种新的定性分析。我们发现，该模型强烈学习识别上位词使用赫斯特模式，这是众所周知的预测词汇关系。我们提出了一种新的模型，利用这种行为作为一种方法的特征提取在一个迭代过程中类似于主成分分析。我们的模型将提取的特征与文献中其他模型的优势相结合，并在多个数据集上匹配或优于先前的工作。
2016-09-23 cs.AI cs.CL
Automated words stability and languages phylogeny
Università la Sapienza（罗马智慧大学）；Università dell'Aquila（拉奎拉大学）
测量语言之间距离的想法似乎起源于法国探险家Dumont D'Urville的工作（D'Urville 1832）。他在1826年至1829年的星盘航行中收集了各种语言的比较词汇表，在他关于太平洋地理划分的著作中，他提出了一种衡量语言之间联系程度的方法。现代声门年代学所使用的方法，由Morris Swadesh在20世纪50年代发展（Swadesh 1952），测量与共享同源词的百分比的距离，这些同源词是具有共同历史起源的词。最近，我们提出了一种新的自动化方法，该方法使用具有相同含义的单词之间的归一化Levenshtein距离和列表中包含的单词的平均值。声门年代学的另一个经典问题是研究对应不同意义的词的稳定性。事实上，由于词汇的变化、借用和替换，词汇的发展速度并不相同。词汇演变的速度对于不同的含义是不同的，这可能与相关词的使用频率有关（Pagel et al. 2007）。这个问题是解决这里的自动化方法，只基于归一化Levenshtein距离。
2009-12-05 cs.CL physics.soc-ph q-bio.PE
UH-PRHLT at SemEval-2016 Task 3: Combining Lexical and Semantic-based Features for Community Question Answering
Universitat Politècnica de València（瓦伦西亚理工大学）；University of Houston（休斯顿大学）
在这项工作中，我们描述了由休斯顿大学（UH）计算机科学系和模式识别和人类语言技术（PRHLT）研究中心- Universitat Polit`ecnica de Val` Valle：UH-PRHLT为SemEval 2016任务3的三个英语子任务构建的系统。我们的系统代表的实例，同时使用基于词汇和语义的文本对之间的相似性度量。我们的语义功能包括使用分布式表示的话，知识图谱生成的BabelNet多语言语义网络，和FrameNet词汇数据库。实验结果优于随机和谷歌搜索引擎基线在三个英语子任务。与其他任务参与者相比，我们的方法获得了子任务B的最高结果。
2018-07-30 cs.CL
Lexical Simplification Benchmarks for English, Portuguese, and Spanish
Universitat Pompeu Fabra（庞培法布拉大学）；Manchester Metropolitan University（曼彻斯特城市大学）；George Mason University（乔治梅森大学）
即使在高度发达的国家，也有15- 30%的人口只能理解使用基本词汇书写的文本。他们对日常文本的理解有限，这使他们无法在社会中发挥积极作用，并在医疗保健，法律代表或民主选择方面做出明智的决定。词汇简化是一项自然语言处理任务，旨在通过用简单的词汇和表达替换复杂的词汇和表达，同时保留原始含义，使每个人都能理解文本。在过去的20年里，它引起了相当大的关注，并且已经为各种语言提出了全自动的词汇简化系统。阻碍该领域发展的主要障碍是缺乏用于构建和评估词汇简化系统的高质量数据集。我们提出了一个新的基准数据集的词汇简化英语，西班牙语和（巴西）葡萄牙语，并提供有关数据选择和注释程序的细节。这是第一个提供三种语言词汇简化系统直接比较的数据集。为了展示数据集的可用性，我们采用了两个具有不同架构的最先进的词汇简化系统（神经与\非神经）到所有三种语言（英语，西班牙语和巴西葡萄牙语），并评估它们在我们新数据集上的表现。为了更公平的比较，我们使用了几个评估指标，这些指标反映了系统功效的各个方面，并讨论了它们的优点和缺点。我们发现，一个国家的最先进的神经词汇简化系统优于一个国家的最先进的非神经词汇简化系统在所有三种语言。更重要的是，我们发现最先进的神经词汇简化系统对英语的表现明显优于西班牙语和葡萄牙语。
2022-09-12 cs.CL
How trial-to-trial learning shapes mappings in the mental lexicon: Modelling Lexical Decision with Linear Discriminative Learning
University of Tübingen（图宾根大学）
本研究用判别性词典模型逐试次模拟无启动词汇决策实验，发现加入试次间学习更新的模型拟合更好，证明试次间学习可被检测，词汇知识处于持续变化中。
2023-09-04 cs.CL q-bio.NC
BigGreen at SemEval-2021 Task 1: Lexical Complexity Prediction with Assembly Models
Dartmouth College（达特茅斯学院）
本文描述了BigGreen团队提交给LCP 2021的一个系统，用于预测给定上下文中英语单词的词汇复杂度。我们将基于特征工程的模型与基于BERT的深度神经网络模型组装在一起。虽然BERT本身具有竞争力，但我们基于特征工程的模型在极端情况下有所帮助，例如。区分简单和中性难度的实例。我们手工制作的功能包括广泛的词汇、语义、语法和新颖的语音措施。BERT注意力图的可视化提供了对Transformers模型在为词汇复杂度预测进行微调时可能学习的潜在特征的深入了解。我们的集成预测得分相当不错的单字子任务，我们展示了如何利用它们来表现好多字表达子任务。
2021-04-19 cs.AI cs.CL
Enhancing lexical-based approach with external knowledge for Vietnamese multiple-choice machine reading comprehension
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
虽然越南语是世界上第17大最受欢迎的母语，但关于越南语机器阅读理解（MRC）的研究并不多。MRC是理解文本并回答有关文本的问题的任务。原因之一是缺乏高质量的基准数据集。在这项工作中，我们构建了一个数据集，其中包括2,783对多项选择题和答案的基础上，417越南语文本，这是常用的小学生阅读理解教学。此外，我们提出了一个基于词汇的MRC方法，利用语义相似性的措施和外部知识源分析问题，并从给定的文本中提取答案。我们比较了该模型的性能与几个基线基于词汇和神经网络为基础的模型。我们提出的方法达到61.81%的准确率，这是5.51%，高于最好的基线模型。我们还在我们的数据集上测量了人类的表现，发现机器模型和人类表现之间存在很大的差距。这表明在这项任务上可以取得重大进展。该数据集可在我们的网站上免费获得，用于研究目的。
2020-11-01 cs.CL
Automatic Classification of Human Translation and Machine Translation: A Study from the Perspective of Lexical Diversity
University of St Andrews（圣安德鲁斯大学）；School of Computer Science（计算机科学学院）
通过使用三元模型并微调预训练的BERT模型进行序列分类，我们表明可以以高于偶然水平的准确度对机器翻译和人类翻译进行分类，这表明机器翻译和人类翻译是不同的系统方式。机器翻译的分类准确率远高于人工翻译。我们发现，这可能是解释之间的差异词汇多样性机器翻译和人类翻译。如果机器翻译具有独立于人类翻译的模式，则测量机器翻译与人类翻译的偏差的自动度量可能将差异与质量混为一谈。我们用两种不同类型的自动度量进行的实验显示了与分类任务结果的相关性。因此，我们建议在机器翻译评价中，应更多地关注机器翻译和人工翻译在词汇多样性方面的差异。
2021-05-10 cs.CL
An In-Vitro Study on Cross-Lingual Generalization in Language Models
Dalle Molle Institute for Artificial Intelligence (IDSIA)（达勒莫利人工智能研究所（IDSIA））
通过构建两种程序生成的语言，独立控制词汇距离、少数语言比例等变量，研究语言模型跨语言迁移的机制，发现迁移主要取决于分词是否保留可复用的跨语言子结构，且词汇量越小越有利于掩码迁移。
2026-05-26 cs.AI cs.CL
Tiered Clustering to Improve Lexical Entailment
University of Illinois-Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
自然语言处理中的许多任务都涉及识别词汇蕴涵。最近提出了两种不同的方法来解决这个问题，这两种方法彼此非常不同。第一个是一个非对称的相似性度量，旨在给高分时，较窄的条款的上下文的蕴涵是一个子集的较广泛的条款。第二种是监督的方法，其中学习分类器以预测给定单词的级联潜在向量表示的蕴涵。这两种方法都是向量空间模型，使用单个上下文向量作为单词的表示。在这项工作中，我研究的影响，聚类词的意义，并使用这些多个上下文向量来推断蕴涵使用这两种算法的扩展。我发现，这种方法提供了一些改进，这些蕴涵算法。
2014-12-02 cs.CL
Assessing the Role of Lexical Semantics in Cross-lingual Transfer through Controlled Manipulations
Hebrew University of Jerusalem（耶路撒冷希伯来大学）
该研究通过人工操控英语句子模拟目标语言特征的方法，评估词汇语义等语言属性对跨语言迁移中语言与英语预训练表示空间对齐质量的影响，发现词汇匹配程度的影响远大于文字、词序等属性。
2024-08-14 cs.CL
Match Your Words! A Study of Lexical Matching in Neural Information Retrieval
Naver Labs Europe（Naver Labs 欧洲）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）
神经信息检索模型有望取代现代搜索引擎中的词汇匹配模型，例如BM 25。虽然他们的能力在MS MARCO等域内数据集上表现出色，但他们最近在域外zero-shot设置（BEIR基准）上受到挑战，与词袋方法相比，他们的实际泛化能力受到质疑。特别是，我们想知道这些缺点是否（部分）是神经IR模型无法执行现成的词汇匹配的结果。在这项工作中，我们提出了一个衡量任何（神经）模型和一个“理想”的词汇匹配之间的差异。在此基础上，我们研究了不同的最先进的神经IR模型的行为，重点是它们是否能够在实际有用的时候（即重要术语）进行词汇匹配。总的来说，我们表明，神经IR模型未能正确概括术语重要性的域外收集或术语几乎看不见在训练过程中
2021-12-13 cs.CL cs.IR
Do LLMs produce texts with "human-like" lexical diversity?
Northern Arizona University（北亚利桑那大学）；Brigham Young University – Hawaii（杨百翰大学夏威夷分校）
本研究发现，ChatGPT模型生成的文本在词汇多样性上与人类写作存在显著差异，新模型的文本比旧模型更不具有人类般的多样性。
2025-11-21 cs.CL
Topeax -- An Improved Clustering Topic Model with Density Peak Detection and Lexical-Semantic Term Importance
Aarhus University（奥胡斯大学）
Topeax通过结合密度峰值检测和词汇-语义术语重要性，改进了聚类主题模型，提升了聚类恢复和描述质量，同时更稳定地应对样本和超参数变化。
2026-01-29 cs.AI cs.CL
An experimental and computational study of an Estonian single-person word naming
University of Tartu（塔尔图大学）；Institute of Estonian Language（爱沙尼亚语言研究所）；University of Tübingen（图宾根大学）；Institute of Estonian and General Linguistics（爱沙尼亚与一般语言研究所）
本研究结合眼动追踪与爱沙尼亚语单被试单词命名实验，对比判别词典模型（DLM）指标与经典词汇预测因子对眼动及命名相关指标的预测效果，发现意义在单词命名任务中作用显著。
2025-09-03 cs.CL
Why do objects have many names? A study on word informativeness in language use and lexical systems
Apple（苹果公司）；Universitat Pompeu Fabra（庞培法布拉大学）；ICREA（加泰罗尼亚研究与高级研究所）
本研究通过提出基于视觉空间的词汇信息量度量方法，分析了英语和普通话颜色命名数据，发现允许多个词指代同一对象且传达不同信息量的词汇系统能在最大化沟通准确度的同时最小化信息传达量。
2024-10-10 cs.CL
Lexical Substitution is not Synonym Substitution: On the Importance of Producing Contextually Relevant Word Substitutes
Technical University of Munich（慕尼黑工业大学）
本文提出 ConCat 方法，通过利用原始句子增强上下文信息来改进词汇替换任务，实验表明其优于现有方法，并揭示了 CoInCo 基准的评估缺陷。
2025-02-06 cs.CL
Analysing Lexical Semantic Change with Contextualised Word Representations
Institute for Logic, Language and Computation（逻辑、语言与计算研究所）；University of Amsterdam（阿姆斯特丹大学）
本文提出了第一个无监督的方法，利用上下文的词表示的词汇语义变化。我们提出了一种新的方法，利用BERT神经语言模型来获得表示的词的使用，聚类这些表示到使用类型，并测量随着时间的变化与三个建议的指标。我们创建了一个新的评估数据集，并表明模型表示和检测到的语义变化与人类的判断呈正相关。我们大量的定性分析表明，我们的方法捕捉到了各种共时和历时的语言现象。我们希望我们的工作能够激发这方面的进一步研究。
2020-04-29 cs.CL cs.CY
Word Sense Disambiguation using Conceptual Density
本文提出了一种基于布朗语料库的名词词汇歧义消解及其自动评测方法。该方法依赖于广泛覆盖的名词分类的WordNet和概念之间的概念距离的概念，捕获的概念密度公式为此目的而开发的使用。这种全自动的方法不需要手工编码词条，手工标注文本，也不需要任何训练过程。实验的结果已被自动评估SemCor，布朗语料库的意义标记版本。
1996-06-07 cmp-lg cs.CL
Distance entropy cartography characterises centrality in complex networks
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
我们引入距离熵作为一个复杂的网络中的给定节点和它的邻居之间的路径长度分布的均匀性的度量。距离熵定义了一种新的中心性度量，其性质研究了各种合成网络模型。通过耦合距离熵信息与接近中心，我们引入了一个网络制图，它允许一个单独的基础上，以减少退化的排名接近。我们将这种方法应用于经验的多元词汇网络编码的语言关系，以英语为母语的幼儿。我们发现，距离熵制图更好地预测儿童如何学习单词相比，接近中心。我们的研究结果突出了距离熵在复杂网络中从距离模式中获得洞察力的重要性。
2018-02-28 cond-mat.stat-mech cs.CL cs.SI
Computing Lexical Contrast
National Research Council Canada（加拿大国家研究委员会）；University of Maryland（马里兰大学）；University of Toronto（多伦多大学）
Knowing the degree of semantic contrast between words has widespread application in natural language processing , including machine translation , information retrieval , and dialogue systems . Manually-created lexicons focus on opposites, such as { \rm hot} and { \rm cold}. Opposites are of many kinds such as antipodals, complementaries, and gradable. However, existing lexicons often do not classify opposites into the different kinds. They also do not explicitly list word pairs that are not opposites but yet have some degree of contrast in meaning, such as { \rm warm} and { \rm cold} or { \rm …
2013-08-28 cs.CL
Adversarial Propagation and Zero-Shot Cross-Lingual Transfer of Word Vector Specialization
University of Cambridge（剑桥大学）；University of Mannheim（曼海姆大学）；PolyAI
语义专门化是使用外部词汇知识（例如，WordNet）来强调特定向量空间中的特定语义关系。虽然后处理专门化方法适用于任意分布向量，但是它们限于仅更新出现在外部词典中的单词的向量（即，看到的单词），保持所有其他单词的向量不变。我们提出了一种新的方法来专门的全分布词汇。我们的对抗后专业化方法传播外部词汇知识的完整分布空间。我们利用资源中的单词作为学习全局专业化函数的训练样本。这个函数是通过将标准的L2距离损失与对抗性损失相结合来学习的：对抗性组件产生更真实的输出向量。我们展示了所提出的方法在三种语言和三个任务上的有效性和鲁棒性：单词相似性，对话状态跟踪和词汇简化。我们报告了与其他最先进的专业化框架专门化的分布式词向量和向量相比的一致改进。最后，我们还提出了一个跨语言迁移方法zero-shot专业化，成功地专门化一个完整的目标分布空间，没有任何词汇知识的目标语言，没有任何双语数据。
2018-09-11 cs.CL
Wasserstein distances for evaluating cross-lingual embeddings
Salesforce（赛富时）；Expedia Group（亿客行集团）
词嵌入是词的高维向量表示，其在向量空间中捕获它们的语义相似性。有几种算法用于学习这种嵌入，既为一种语言，以及为几种语言联合。在这项工作中，我们建议通过适应下游自然语言任务的最佳运输框架，以评估集合的嵌入。我们展示了如何家庭的Wasserstein距离可以用来解决跨语言的文档检索和跨语言的文档分类问题。我们认为这种方法的优势相比，更传统的评价方法，如双语词汇归纳嵌入。我们的实验结果表明，在这些问题上使用Wasserstein距离的性能优于几个强基线，并与最先进的模型相当。
2019-11-11 cs.CL
Speakers Fill Lexical Semantic Gaps with Context
University of Cambridge（剑桥大学）；Harvard University（哈佛大学）；MPI SHH（马克斯·普朗克人类历史科学研究所）；HSE University（高等经济大学）；ETH Zürich（苏黎世联邦理工学院）
本研究验证了词汇歧义与上下文信息量负相关的假设，提出基于熵的歧义度量方法，并在18种语言中证实说话者会通过更丰富的上下文来补偿歧义。
2024-05-28 cs.CL
Syntactic Belief Update as the Driver of Garden Path Processing Difficulty
Johns Hopkins University（约翰霍普金斯大学）；University College London（伦敦大学学院）
针对词汇惊异度无法预测花园路径句处理难度的问题，提出基于广义Rényi散度的句法信念更新度量，在关键单词处衡量信念更新幅度，更好地拟合人类阅读时间数据。
2026-09-01 cs.CL
Quantifying Lexical Semantic Shift via Unbalanced Optimal Transport
Kyoto University（京都大学）；Konan University（konan大学）；NINJAL；Tohoku University（东北大学）；RIKEN（日本科学技术研究所）
本文提出基于非平衡最优传输的Sense Usage Shift度量，在实例级量化词义使用频率变化，并统一解决语义变化幅度、词义扩大或缩小等检测任务。
2025-05-31 cs.CL
Detecting Intentional Lexical Ambiguity in English Puns
Tyumen State University（秋明国立大学）
本文描述了一个双关语的自动分析模型，其中一个词被有意地同时用于两种意义（目标词）。我们采用Roget的词库发现两组单词，在一个双关语，形成围绕两个抽象位的意义（义素）。它们成为一个语义向量，基于此SVM分类器学习识别双关语，F-测量的得分达到0.73。我们采用几种基于规则的方法来定位故意歧义（目标）的话，基于结构和语义标准。结构标准似乎更有效，尽管它可能仅表征测试数据集。考虑到使用监督学习模型和单词统计的效果，我们得到的结果与SemEval-2017比赛（任务7英语双关语的检测和解释）中其他团队的结果相关。
2017-07-18 cs.CL
