Beyond the Black Box: Integrating Lexical and Semantic Methods in Quantitative Discourse Analysis with BERTopic
University of York（约克大学）
本文提出一个结合词汇与语义方法的透明QDA框架，利用BERTopic及Python工具实现可复现与可解释的分析，并通过历史政治话语案例验证其有效性。
2026-11-02 cs.CL
Take and Took, Gaggle and Goose, Book and Read: Evaluating the Utility of Vector Differences for Lexical Relation Learning
University of Melbourne（墨尔本大学）；University of Cambridge（剑桥大学）
最近关于词嵌入的工作表明，在预先训练的嵌入上进行简单的向量减法在捕获不同的词汇关系方面是惊人的有效，尽管缺乏明确的监督。先前的工作已经评估了这个有趣的结果，使用一个词的类比预测公式和手工选择的关系，但在更广泛的词汇关系类型和不同的学习设置的发现的一般性还没有得到评估。在本文中，我们进行了这样的评估，在两个学习设置：（1）谱聚类诱导词的关系，和（2）监督学习分类向量差异到关系类型。我们发现，词嵌入捕获了惊人的信息量，并且在适当的监督训练下，向量减法可以很好地推广到广泛的关系，包括看不见的词汇项。
2016-08-13 cs.CL
Explaining and Improving BERT Performance on Lexical Semantic Change Detection
Institute for Natural Language Processing, University of Stuttgart（斯图加特大学自然语言处理研究所）
基于类型和基于标记的嵌入架构仍然在词汇语义变化检测方面竞争。最近基于类型的模型在SemEval-2020任务1中的成功提出了一个问题，为什么基于标记的模型在各种其他NLP任务上的成功并没有转化为我们的领域。我们调查了一系列变量对BERT向量聚类的影响，并表明其低性能在很大程度上是由于目标词的正字法信息，即使在更高的层编码的BERT表示。通过减少拼写法的影响，我们大大提高了BERT的性能。
2021-03-12 cs.CL
Patterns of Lexical Ambiguity in Contextualised Language Models
Queen Mary University of London（伦敦玛丽女王大学）；The Alan Turing Institute（艾伦·图灵研究所）
语境化的语言模型的一个核心方面是，它们应该能够通过上下文来区分词汇歧义词的含义。在本文中，我们探讨在何种程度上的语境嵌入的词的形式，显示多重意义反映了传统的区分多义词和同音异义词。为此，我们引入了一个扩展的，人类注释的数据集的分级词义相似性和共同预测的可接受性，并评估嵌入的相似性如何预测相似的意义。这两种人类判断表明，多义词解释的相似性属于意义同一性和同音异义之间的连续体。然而，我们也观察到显着差异的相似性评级的多义词，形成一致的模式，不同类型的多义词的意义交替。因此，我们的数据集似乎捕捉了词汇歧义的复杂性的相当大的一部分，并可以提供一个现实的测试床上下文嵌入。在测试的模型中，BERT Large显示出与收集的词义相似性评级最强的相关性，但难以始终如一地复制观察到的相似性模式。当聚类模糊的词的形式，其嵌入的基础上，该模型在辨别同音异义词和某些类型的多义词的变化，但一直失败的其他显示高的信心。
2021-09-29 cs.CL
Concept Clustering and Knowledge Integration from a Children's Dictionary
知识结构称为概念聚类知识图（CCKGs）的介绍，以及他们的建设过程中，从机器可读的字典。CCKG包含通过多种语义关系相互关联的多个概念，这些概念一起形成由概念图表示的语义簇。知识获取是在儿童的第一本词典上进行的。概念集群的集合可以形成词汇知识库的基础，其中每个CCKG包含有限数量的高度连接的单词，提供有关特定领域或情况的有用信息。
1997-03-05 cmp-lg cs.CL
Semantic clustering of Russian web search results: possibilities and problems
Mail.ru Group（Mail.ru集团）；National Research University Higher School of Economics（国立研究型高等经济学院）
本文研究了从词汇共现图中进行词义归纳的问题。我们构建这样的图大型俄罗斯语料库，然后将这些数据聚类Mail.ru搜索结果根据查询的含义。我们比较不同的方法进行这种聚类和不同的源语料库。描述了将分布式语义应用于大语言数据的模型。
2014-10-26 cs.CL cs.IR
The BD-LSC Dataset: Facilitating the Benchmarking of Models for Lexical Semantic Change Detection in Slang and Standard Usage
The University of Manchester（曼彻斯特大学）；Qassim University（卡西姆大学）
针对词汇语义双向变化及俚语与标准用法混合的挑战，构建BD-LSC和ST-WSD两个基准数据集，评估多种方法，发现稀有俚语义项仍是核心难题。
2026-09-22 cs.CL
SynFlow: A Multidimensional Diachronic Semantic Analysis Toolkit
KU Leuven（鲁汶大学）；Instituut voor de Nederlandse Taal（荷兰语言研究所）；Vrije Universiteit Brussel（布鲁塞尔自由大学）
SynFlow是用于语言使用多维历时分析的开源工具包，支持多维度分析与多种功能，通过案例研究验证其有效性，并在SemEval-2020 Task 1中对比了其表示性能与现有系统。
2026-09-01 cs.CL
Gender identity and lexical variation in social media
我们提出了一个研究性别，语言风格和社交网络之间的关系，使用一个新的语料库的14,000 Twitter用户。以前的定量工作性别往往把这个社会变量作为一个女性/男性的二元，我们主张一个更细致入微的方法。通过对Twitter用户进行聚类，我们发现数据集自然分解为各种风格和主题兴趣。许多集群具有强烈的性别倾向，但它们对语言资源的使用有时与人口层面的语言统计直接冲突。我们认为，这些集群作为一个更准确地反映性别语言风格的多面性。以前基于语料库的研究也很少涉及语言风格与人口性别模式相悖的个体。为了识别这些个体，我们训练统计分类器，并测量数据集中每个个体的分类器置信度。检查个人的语言不匹配的分类器的模型，他们的性别，我们发现，他们有社交网络，其中包括显着较少的同性社会联系，并在一般情况下，社会网络同质性与使用同性语言标记。因此，配对计算方法和社会理论提供了一个新的视角，即性别如何随着个人相对于受众、主题和主流性别规范的定位而出现。
2014-05-12 cs.CL
Watset: Automatic Induction of Synsets from a Graph of Synonyms
Ural Federal University（乌拉尔联邦大学）；Krasovskii Institute of Mathematics and Mechanics（克拉索夫斯基数学力学研究所）；Universität Hamburg（汉堡大学）
本文提出了一种新的基于图的方法，归纳同义词集使用同义词典和词嵌入。首先，我们构建一个从常用资源（如Wiktionary）中提取的同义词的加权图。第二，运用词义归纳法处理歧义词。最后，我们将歧义输入图的消歧版本聚类成同义词集。我们的元聚类方法让我们使用一个有效的硬聚类算法来执行模糊聚类的图形。尽管它的简单性，我们的方法表现出出色的结果，优于五个竞争力的国家的最先进的方法的F-分数方面的三个金标准数据集的英语和俄语来自大规模的手动构建的词汇资源。
2017-04-24 cs.CL
Evaluating the Evaluator: Problems with SemEval-2020 Task 1 for Lexical Semantic Change Detection
Department of Linguistics, KU Leuven（KU莱顿大学语言学系）；Instituut voor de Nederlandse Taal（荷兰语研究所）；Department of Linguistics and Literary Studies, Vrije Universiteit Brussel（布鲁塞尔自由大学语言学与文学研究系）
通过操作化、数据质量和基准设计三个框架，批判性分析SemEval-2020任务1的局限性，指出其窄化语义变化模型、数据质量问题及设计缺陷，呼吁未来改进。
2026-05-27 cs.CL
Towards better substitution-based word sense induction
Bar Ilan University（巴伊兰大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
词义归纳（WSI）是对句子中的词的用法进行无监督聚类以区分意义的任务。最近的工作通过聚类来自预训练的RNN语言模型（ELMo）的词汇替代物获得了强有力的结果。使该方法适应BERT进一步提高了分数。我们扩展了以前的方法，以支持一个动态的，而不是一个固定数量的集群支持其他突出的方法，并提出了一种方法来解释所产生的集群，将它们与他们最翔实的替代品。然后，我们进行了广泛的错误分析，揭示了WSI任务中剩余的错误来源。我们的代码可在https://github.com/asafamr/bertwsi上获得。
2019-05-31 cs.CL
LexRank: Graph-based Lexical Centrality as Salience in Text Summarization
University of Michigan（密歇根大学）；School of Information（信息学院）
介绍了一种基于随机图的文本单元相对重要性计算方法，用于自然语言处理。我们测试的问题上的文本摘要（TS）的技术。提取TS依赖于句子显著性的概念来识别文档或文档集合中最重要的句子。显著性通常根据特定重要词的存在或根据与质心伪句子的相似性来定义。我们考虑一种新的方法，LexRank，用于计算句子的重要性的概念的基础上的特征向量中心的图形表示的句子。该模型采用基于句内余弦相似度的连接矩阵作为句子图形表示的邻接矩阵。我们的系统，基于LexRank排名第一位，在一个以上的任务在最近的DUC 2004年的评估。在本文中，我们提出了一个详细的分析，我们的方法，并将其应用到一个更大的数据集，包括早期DUC评估的数据。我们讨论了几种使用相似图计算中心度的方法。结果表明，在大多数情况下，基于度的方法（包括LexRank）优于基于质心的方法和其他参与DUC的系统。此外，与阈值方法的LexRank优于其他度为基础的技术，包括连续的LexRank。我们还表明，我们的方法是相当不敏感的数据，可能会导致从一个不完美的主题聚类的文件中的噪声。
2011-09-26 cs.CL
To Word Senses and Beyond: Inducing Concepts with Contextualized Language Models
University of Lille（里尔大学）；Inria（法国国家信息与自动化技术研究院）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）；UMR 9189 - CRIStAL
本文提出概念归纳任务，通过结合局部词元视角和全局跨词表视角的双层无监督方法，从数据中学习词间软聚类以定义概念，并在SemCor和Word-in-Context任务上验证了其有效性。
2025-11-07 cs.CL
Feature-rich multiplex lexical networks reveal mental strategies of early language learning
University of Pisa（比萨大学）；ISTI (CNR)（意大利国家研究委员会信息科学与技术研究所）；University of Kansas（堪萨斯大学）；University of Exeter（埃克塞特大学）
人类头脑中的知识表现出二元矢量/网络性质。将单词建模为向量是自然语言处理的关键，而单词关联网络可以映射语义记忆的性质。我们调和这些范式-分散在语言学，心理学和计算机科学-通过引入功能丰富的多功能词汇（FERMULEX）网络。这种新的框架融合了网络中的结构相似性和词的向量特征，可以组合或独立探索。相似性模型跨语义/句法/语音知识方面的异质词关联。词汇的多维特征嵌入丰富了词汇，包括频率、习得年龄、长度和多义性。这些方面使认知知识的前所未有的探索。通过CHILDES数据，我们使用FERMULEX网络来模拟1000名18至30个月的幼儿的规范语言习得。相似性和嵌入通过一致性来捕获词的同质性，一致性通过距离和特征来测量连续混合。一致性挖掘出一个语言核心的频繁/多义/短名词和动词的关键基本句子生产，支持最近的证据表明，儿童的句法结构出现在30个月。这个内核对于网络核心检测和仅特征聚类是不可见的：它来自单词的双重向量/网络性质。我们的定量分析揭示了两个关键策略在早期的单词学习。建模字收购FERMULEX拓扑结构上的随机行走，我们强调非均匀填充的沟通发展库存（CDIs）。基于一致性的步行者导致准确（75%），精确（55%）和部分回忆良好（34%）的预测早期单词学习的CDIs，提供定量支持以前的实证研究结果和发展理论。
2022-01-13 cs.CL cs.SI
Word-Centered Semantic Graphs for Interpretable Diachronic Sense Tracking
University of Zurich（苏黎世大学）；TU Dortmund University（多特蒙德技术大学）
本文提出基于词中心语义图的方法，用于可解释地追踪词义随时间的变化，通过整合分布相似性和词汇替代性，揭示多义性动态和意义演变轨迹。
2026-01-29 cs.CL
Beyond Cosine Similarity: Taming Semantic Drift and Antonym Intrusion in a 15-Million Node Turkish Synonym Graph
本文提出了一种基于三元语义关系判别器和软到硬聚类算法的语义聚类系统，有效解决同义词与反义词区分问题，提升语义检索精度。
2026-01-19 cs.CL cs.LG
Learning to Trust the Crowd: A Multi-Model Consensus Reasoning Engine for Large Language Models
Department of Computer Science（计算机科学系）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究提出多模型共识推理引擎，通过整合多个大语言模型的输出，提升回答的准确性和可靠性，实验表明其在多个基准测试中显著优于单一模型和多数投票。
2026-01-12 cs.AI cs.CL cs.LG
