Olive Oil is Made of Olives, Baby Oil is Made for Babies: Interpreting Noun Compounds using Paraphrases in a Neural Model
Bar-Ilan University（巴伊兰大学）；Google Inc.（谷歌公司）
自动解释名词复合词的成分之间的关系，例如橄榄油（来源）和婴儿油（目的）是许多NLP应用程序的重要任务。最近的方法通常是基于名词复合表示或释义。虽然前者最初显示出有希望的结果，但最近的研究表明，成功源于记住每个关系的单个原型单词。我们探索了一种神经释义方法，当这种记忆是不可能的时候，这种方法表现出优越的性能。
2018-03-21 cs.CL
"Covid vaccine is against Covid but Oxford vaccine is made at Oxford!" Semantic Interpretation of Proper Noun Compounds
Indian Institute of Technology Delhi（德里印度理工学院）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
专有名词复合词，例如，“Covid vaccine”，以简洁的方式传达信息（“Covid vaccine”是“对Covid疾病免疫的疫苗”）。这些通常用于简短的领域，如新闻标题，但在信息搜索应用程序中很大程度上被忽略。为了解决这一限制，我们发布了一个新的手动注释数据集ProNCI，由22.5K专有名词复合词及其自由形式的语义解释组成。ProNCI比以前的名词复合数据集大60倍，还包括以前没有探索过的非成分示例。我们用各种神经模型进行实验，用于自动生成专有名词复合词的语义解释，范围从Few-Shot提示到监督学习，具有不同程度的有关组成名词的知识。我们发现，添加有针对性的知识，特别是关于普通名词的知识，可以使性能提高2.8%。最后，我们将我们的模型生成的解释与现有的Open IE系统相结合，并观察到产量增加了7.5%，精度为85%。数据集和代码可在https://github.com/dair-iitd/pronci上获得。
2022-10-24 cs.CL
Models of Visually Grounded Speech Signal Pay Attention To Nouns: a Bilingual Experiment on English and Japanese
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；LIG（格勒诺布尔信息学实验室）；LIDILEM（语言、话语、文本、跨文化研究实验室）
我们研究了两种语言（英语和日语）训练的视觉接地语音的神经模型中的注意行为。实验结果表明，注意力集中在名词上，这种行为适用于两种非常不同的语言类型。我们还绘制了人工神经注意力和人类注意力之间的相似之处，并表明神经注意力集中在单词结尾，因为它已经被理论化为人类注意力。最后，我们研究了两个视觉接地单语模型可以用来执行跨语言语音到语音检索。对于这两种语言，丰富的双语（语音图像）语料库与词性标签和强制对齐分发给社区的可重复的研究。
2019-02-08 cs.CL
Noun Phrase Reference in Japanese-to-English Machine Translation
本文论述了在机器翻译中区分名词短语指称用法的必要性。我们认为，区分名词短语的通用，指称和归属的使用是最低限度的必要生成文章和数字正确时，从日语翻译成英语。启发式确定这些差异提出了一个日本到英语的机器翻译系统。最后，结果表明，使用所提出的语法的正确使用的文章和数量的日语到英语的机器翻译系统ALT-J/E中产生的名词短语的百分比从65%提高到77%。
1996-01-23 cmp-lg cs.CL
NPtool, a detector of English noun phrases
NPtool是一个快速准确的系统，用于从英语文本中提取名词短语，用于信息检索，翻译单元发现和语料库研究。在一般性介绍后，系统架构的轮廓。然后是一个最近写的约束测试。评估报告结束了文件。
1995-02-13 cmp-lg cs.CL
From chocolate bunny to chocolate crocodile: Do Language Models Understand Noun Compounds?
University of British Columbia（不列颠哥伦比亚大学）；Vector Institute for AI（Vector人工智能研究所）
本文研究语言模型对名词复合词的理解能力，发现 GPT-3 在标准释义任务上几乎完美，在需要创造力和常识的新颖复合词概念化任务上优于人类，并分析了其推理与复述训练数据的程度。
2023-05-24 cs.CL
Systematicity in GPT-3's Interpretation of Novel English Noun Compounds
Stanford University（斯坦福大学）
Levin等人。（2019）通过实验表明，对新的英语名词复合词的解释（例如，炖锅），虽然不完全组成，是高度可预测的基础上，修改器和头部是否指文物或自然种类。大语言模型GPT-3是否受相同的解释性原则支配？为了解决这个问题，我们首先比较莱文等人。的实验数据与GPT-3代的相似度很高。然而，这一证据是一致的GPT 3推理只对特定的词汇项目，而不是更抽象的概念类别的莱文等人。的理论。为了更深入地探索，我们构建了需要相关概念推理的提示。在这里，我们没有找到令人信服的证据，证明GPT-3不仅仅是对单个词汇进行推理。这些结果强调了在评估大语言模型是否潜在地编码更深层次的理论时，控制低水平分布的重要性。
2022-10-18 cs.CL
A Joint Approach to Compound Splitting and Idiomatic Compound Detection
MobileTeleSystems（移动电信系统公司）；Sberbank of Russia（俄罗斯联邦储蓄银行）；National Research University Higher School of Economics（国家研究型高等经济大学）
诸如机器翻译、语音识别和信息检索之类的应用需要有效地处理名词复合词，因为它们是词汇表外（OOV）词的可能来源之一。对名词复合词的深入处理不仅需要将它们分解成更小的成分（甚至词根），而且还需要识别那些不应该被分解的实例，因为它们具有惯用的性质。我们为德语开发了一种基于双重深度学习的名词复合词拆分和惯用复合词检测方法，我们使用新收集的注释德语复合词语料库进行训练。我们的神经名词复合拆分器在子单词级别上运行，比当前最先进的拆分器性能高出约5%。
2020-03-21 cs.CL
Determination of referential property and number of nouns in Japanese sentences for machine translation into English
在日语名词的英译中，我们面临着日语中没有的、但英语写作中必不可少的冠词和数字的问题。为了解决这一难题，我们将名词的指称性和数量分别分为三类。本文证明，根据句中的词，可以比较可靠地估计句中名词的指称性和数量。许多用于估计的规则以类似于专家系统中重写规则的形式被编写。对用于构造规则的句子，在指称性和数目估计上的正确识别率分别为85.5%和89.0%。我们用这些规则对其他文本进行了测试，分别得到了68.9%和85.6%的分数。
1994-05-23 cmp-lg cs.CL
Analysis of Japanese Compound Nouns using Collocational Information
复合名词的分析是自然语言处理系统的关键问题之一，特别是对于那些旨在广泛覆盖领域的系统。本文提出了一种结合词语搭配统计和同义词词典分析日语复合名词结构的方法。本文以16万个词语搭配为语料，对平均长度为4.9个字的复合名词进行了分析。该方法的准确度约为80%。
1994-12-25 cmp-lg cs.CL
Using the Web as an Implicit Training Set: Application to Noun Compound Syntax and Semantics
Sofia University（索非亚大学）
英语书面语篇的一个重要特征是名词复合词的丰富性-名词序列充当单个名词，例如，结肠癌肿瘤抑制蛋白。虽然最终由领域专家掌握，但它们的解释对自动分析构成了重大挑战。理解名词复合词的句法和语义对于许多自然语言应用是重要的，包括问答、机器翻译、信息检索和信息抽取。我解决的问题，名词复合语法的新颖的，高度准确的无监督和轻度监督的算法，使用Web作为语料库和搜索引擎作为接口，该语料库。传统上，Web一直被视为页面点击数的来源，用于估计n元词频。我通过引入新的表面特征和释义来扩展这种方法，从而为名词复合括号的任务产生最先进的结果。我还展示了如何这些类型的功能可以应用到其他结构歧义问题，如介词短语附件和名词短语协调。我通过自动生成释义动词和介词来解决名词复合词的语义问题，这些动词和介词使名词复合词中名词之间隐藏的语义关系显式化。我还演示了如何这些释义动词可以用来解决各种关系相似性问题，以及如何释义名词复合词可以提高机器翻译。
2019-11-23 cs.CL cs.IR
A Probabilistic Model of Compound Nouns
复合名词（如示例名词复合词）在自然语言中变得越来越常见，并为NLP系统带来了许多困难的问题，特别是增加了解析的复杂性。在本文中，我们开发了一个概率模型的句法分析这样的化合物。该模型基于从语料库中获取的名词之间的亲缘关系知识来预测复合名词结构。这种基于语料库的方法中固有的问题得到解决：数据稀疏是克服使用语义动机的词类和意义的歧义明确处理的模型。Lauer（1994）中描述了基于该模型的实现，并正确解析了77%的测试集。
1994-09-06 cmp-lg cs.CL
A Machine Learning Approach for the Identification of Bengali Noun-Noun Compound Multiword Expressions
Central Calcutta Polytechnic（加尔各答中央理工学院）；Jadavpur University（贾达普大学）
本文提出了一种机器学习方法，用于识别孟加拉语多词表达（MWE），这是二元名词复合物。我们提出的方法有两个步骤：（1）候选提取使用块信息和各种启发式规则和（2）训练的机器学习算法称为随机森林分类的候选人分为两组：二元名义复合MWE或非二元名义复合MWE。各种关联措施，句法和语言的线索和一组基于WordNet的相似性功能已被用于我们的MWE识别任务。本文提出的方法可用于识别孟加拉语连续文本中的二元语法名词性复合词MWE。
2014-01-25 cs.CL cs.LG
Paraphrasing Verbs for Noun Compound Interpretation
Bulgarian Academy of Sciences（保加利亚科学院）
英语书面文本的自动分析面临的一个重要挑战是大量的名词复合词：充当单个名词的名词序列。在我们看来，它们的语义最好由所有可能的释义动词的集合来表征，并具有相关的权重，例如，使用亚马逊的Mechanical Turk，我们收集了以前在语言学文献中提出的250个名词-名词复合词的释义动词，从而为名词复合词的解释创造了宝贵的资源。使用这些动词，我们进一步构建了一个数据集的句子对代表一种特殊的文本蕴涵任务，其中一个二元的决定是关于是否涉及一个动词和两个名词的表达可以转化为名词复合，同时保持句子的意义。
2019-11-20 cs.AI cs.CL cs.IR
Possessive Pronouns as Determiners in Japanese-to-English Machine Translation
英语中的所有格代词在日语句子中没有对应词时用作限定词。本文提出了一种启发式的方法来生成这样的所有格代词，即使在日本没有对应的。该方法使用关于英语中的所有格代词的使用的信息被视为名词的词汇属性，以及关于名词短语指称性和名词短语出现在其中的句子的主语和主要动词的上下文信息。该方法已在NTT通信科学实验室的日英机器翻译系统ALT-J/E中实现。在6,200个句子的测试集中，所提出的方法将生成的具有适当所有格代词的名词短语的数量增加了263个到609个，代价是生成了83个具有不适当所有格代词的名词短语。
1996-01-23 cmp-lg cs.CL
A Lexicalized Tree Adjoining Grammar for English
本文档描述了一个相当大的英语语法编写的TAG形式主义和实现使用的JTAG系统。本报告和此处描述的语法取代了1995年早期JTAG技术报告中描述的TAG语法。本报告中描述的英语语法是基于TAG形式主义，它已扩展到包括词汇化和基于统一的特征结构。可以处理的句法现象的范围很大，包括助动词（包括倒装）、系动词、提升和小从句结构、主题化、关系从句、不定式、动名词、被动语态、介词、it-分裂式、wh-分裂式、PRO结构、名词-名词修饰、介词、限定词序列、属格、否定、名词-动词收缩式、先行词和祈使句。本技术报告对应于JTAG Release 8/31/98。随着新分析的增加和旧分析的修改，JTAG语法不断更新，该报告的在线版本可以在JTAG网页http://www.cis.upenn.edu/~xtag/上找到
1998-09-18 cs.CL
Conceptual Association for Compound Noun Analysis
本文描述了利用语料库统计技术对复合名词进行自动解释的研究。本文对句法消歧进行了初步研究。提出的方法基于叙词表类别的关联。关联数据是从语料库中提取的明确的情况下收集的，然后应用于歧义复合名词的分析。虽然提出的工作仍在进行中，第一次尝试语法分析测试集的244个例子显示75%的正确性。未来的工作旨在提高这种准确性和扩展的技术分配语义角色信息，从而产生一个完整的解释。
1996-09-11 cmp-lg cs.CL
The Role of Handling Attributive Nouns in Improving Chinese-To-English Machine Translation
Carnegie Mellon University（卡内基梅隆大学）；New York University（纽约大学）；Northeastern University（东北大学）；Barcelona Supercomputing Center（巴塞罗那超级计算中心）
本文针对中文定语名词导致的中译英歧义问题，通过手动插入被省略的“的”构建数据集并微调 Hugging Face 模型，从而改进关键功能词处理并提升翻译质量。
2025-01-02 cs.AI cs.CL
Corpus Statistics Meet the Noun Compound: Some Empirical Results
实现并比较了名词复合词分析的各种统计方法。结果支持两个主要结论。首先，概念联想的使用不仅可以使覆盖面更广，而且可以提高准确性。第二，依赖语法的基础上的分析模型是更准确的基础上最深的成分，即使后者是更普遍的文献。
1996-09-10 cmp-lg cs.CL
Large-Scale Noun Compound Interpretation Using Bootstrapping and the Web as a Corpus
University of Melbourne（墨尔本大学）；National University of Singapore（新加坡国立大学）
针对自然语言处理应用中对语义词汇资源的需求，我们研究了获取名词复合词（NC）的方法，例如，“橙汁”，连同适当的细粒度语义解释，例如，“从……中挤出来”，可以直接用作释义。我们采用自举和网络统计，并利用NC和释义模式之间的关系，联合提取NC和这样的模式在多个交替迭代。在评估中，我们发现，有一个复合名词固定产生更高数量的语义解释的NC和提高准确性，由于更强的语义限制。
2019-11-27 cs.AI cs.CL cs.IR
Human and Automatic Interpretation of Romanian Noun Compounds
Princeton University（普林斯顿大学）
针对罗马尼亚语名词复合词，本文构建一套新的语义关系集，并用人工标注与神经网络分类器验证，发现模型预测与人工判断相符，但高频“无关系”暴露出现有关系清单不足。
2024-03-11 cs.AI cs.CL
Countability and Number in Japanese-to-English Machine Translation
本文提出了一种启发式的方法，利用日语文本中的信息，随着知识的英语可数性和数量存储在转移字典，以确定英语名词短语的可数性和数量。将该方法应用到机器翻译系统ALT-J/E中，正确使用冠词和数字的名词短语的生成率从65%提高到73%。
1995-11-03 cmp-lg cs.CL
Designing Statistical Language Learners: Experiments on Noun Compounds
本论文的目的是推进统计语言学习设计空间的探索。为了实现这一目标，本文做出了两个主要的理论贡献：（i）通过指定一个自然语言分析的体系结构，确定了一个新的设计类别，在该体系结构中，概率被赋予语义形式而不是更表面的语言元素;以及（ii）它探讨了数学理论的发展，以预测统计语言学习系统在数量方面的预期准确性。用来训练它们的数据。理论工作说明了应用统计语言学习设计的分析名词复合词。名词复合词的句法和语义分析尝试使用所提出的架构。实证比较表明，所提出的句法模型是显着优于先前建议的，接近人类法官在同一任务上的表现，以及所提出的语义模型，第一个统计方法来解决这个问题，表现出显着更好的准确性比基线策略。这些结果表明，新的一类设计确定是一个有前途的。这些实验还突出了对广泛适用的数据要求理论的需要。
1996-09-25 cmp-lg cs.CL
Do Vision-Language Models Understand Compound Nouns?
University of Maryland（马里兰大学）
本文构建Compun基准评估CLIP等视觉-语言模型对复合名词的理解能力，并提出用大语言模型生成多样化描述替代手写模板，将CLIP在Compun上的复合名词理解性能提升8.25%。
2024-03-30 cs.CL cs.CV
SemEval-2013 Task 4: Free Paraphrases of Noun Compounds
Radboud University Nijmegen（拉德堡德大学）；Universidade de Lisboa（里斯本大学）；QCRI, Qatar Foundation（卡塔尔基金会卡塔尔计算研究所）；University of Ottawa（渥太华大学）；Polish Academy of Sciences（波兰科学院）；University of Southern California（南加州大学）；University of Cambridge（剑桥大学）；University College Dublin（都柏林大学学院）
在本文中，我们描述了SemEval-2013任务4：定义，数据，评估和结果。任务是通过释义来捕捉英语名词复合词的一些含义。给定一个两个词的名词复合词，参与系统被要求产生一个明确的自由形式的释义排名列表。该列表会自动与人类注释者提出的类似排名的释义列表进行比较和评估，这些释义通过Amazon的Mechanical Turk进行招募和管理。“黄金”排名是基于注释者中释义的相对受欢迎程度。为了使排名更可靠，高度相似的释义被分组，以淡化句法和形态上的表面差异。三个系统参与了这项任务。他们在两个评估指标中的一个上都超过了一个简单的基线，但在两个指标上都没有。这表明任务是艰巨的。
2019-11-23 cs.AI cs.CL cs.IR
Sense disambiguation of compound constituents
Heinrich-Heine-Universität Düsseldorf（杜塞尔多夫海因里希·海涅大学）
在对名-名复合词（如海星、银行账户、游艇）意义的分布语义学解释中，成分多义的重要作用在很大程度上仍未得到解决（参见第二章）。明星的含义在海星vs.明星集群vs.明星运动员）。我们需要的不是对一个成分的不同含义进行平均的语义向量，而是消除歧义的成分向量，以便了解这些更具体的成分含义对整个复合词的含义有什么贡献。本文提出了一种新的方法来解决这个特定的问题的词义消歧：集扩展。我们以Mahabal等人开发的方法为基础。（2018）最初旨在解决类比问题。我们修改了他们的方法，使其能够解决复合成分的意义消歧问题。使用近9000种化合物的数据集进行的实验结果（LADEC，Gagné et al. 2019）表明，这种方法是成功的，但这种成功对化合物被证明的频率很敏感。
2022-04-01 cs.CL
NLML--a Markup Language to Describe the Unlimited English Grammar
在本文中，我们提出了NLML（自然语言置标语言），一个置标语言来描述任何语法正确的英语表达的句法和语义结构。首先分析了相关工作，论证了NLML的必要性：形式简单，易于管理，直接存储。然后从句子（不同复杂度、语态、语气、时态）、从句（关系从句和名词从句）和短语（名词短语、动词短语、介词短语、形容词短语、副词短语和谓语短语）三个层次详细介绍了NLML对英语语法的描述。最后以两个典型的例子：NLOJM（Java中的自然语言对象模型）和NLDB（自然语言数据库）说明了NLML在自然语言处理中的应用领域。
2004-04-07 cs.AI cs.CL
Translating the Unseen? Yoruba-English MT in Low-Resource, Morphologically-Unmarked Settings
The University of British Columbia（不列颠哥伦比亚大学）
在语言之间进行翻译，其中某些特征在一种语言中被标记为形态，但在另一种语言中不存在或被标记为上下文，这是机器翻译的重要测试案例。当从Yorkebá翻译成英语时，它在形态上标记（不）确定性，Yorkebá使用裸名词，但在上下文中标记这些特征，产生歧义。在这项工作中，我们执行细粒度分析SMT系统如何与两个NMT系统（BiLSTM和Transformer）相比，在将Yorkebá中的裸名词翻译成英语时。我们研究了系统如何在多大程度上识别BN，正确翻译它们，并与人类翻译模式进行比较。我们还分析了每个模型的错误类型，并提供了这些错误的语言描述。我们收集了在低资源环境下评估模型性能的见解。在裸名词的翻译中，我们的结果显示Transformer模型在4个类别上优于SMT和BiLSTM模型，BiLSTM在3个类别上优于SMT模型，SMT在1个类别上优于NMT模型。
2021-04-06 cs.AI cs.CL cs.LG
Applying Distributional Compositional Categorical Models of Meaning to Language Translation
University of Oxford（牛津大学）
本文的目的是双重的：首先，我们将使用向量空间分布的成分分类模型的意义比较的意义在爱尔兰语和英语（从而确定当一个句子是另一个句子的翻译）使用余弦相似性得分。然后，我们将概述一个程序，翻译名词通过理解他们的上下文，使用认知的概念空间模型。我们将在类别ConvexRel上使用度量来确定概念之间的距离（并确定名词何时是另一个名词的翻译）。本文将重点介绍爱尔兰语的应用，爱尔兰语是盖尔语家族的一员。
2018-11-08 cs.CL
Improved statistical machine translation using monolingual paraphrases
University of California at Berkeley（加州大学伯克利分校）；Bulgarian Academy of Sciences（保加利亚科学院）；Sofia University（索非亚大学）
我们提出了一种新的单语句子释义方法，用于“免费”增加统计机器翻译系统的训练数据--通过从已经可用的数据中创建它，而不必创建更多对齐的数据。从句法树开始，我们递归地生成新的句子变体，其中名词复合词使用合适的介词进行释义，反之亦然--包含介词的名词短语变成名词复合词。评估表明，改进相当于训练数据量加倍的33%-50%。
2021-09-25 cs.AI cs.CL
Emergent morpho-phonological representations in self-supervised speech models
Department of Neurological Surgery, University of California, San Francisco（加州大学旧金山分校神经外科系）；Department of Linguistics, University of Southern California（南加州大学语言学系）；Center for Computational Language Sciences, University of Southern California（南加州大学计算语言科学中心）
本文研究自监督语音模型识别口语词时的语言表征，发现 S3M 变体通过全局线性几何编码英语词对的规则分布关系，而非直接表征音系或形态单位。
2025-09-26 cs.CL
Concerning Olga, the Beautiful Little Street Dancer (Adjectives as Higher-Order Polymorphic Functions)
American Institutes for Research（美国研究院）
在本文中，我们提出了一个类型化的复合语义的形式[形容词名词]，模型形容词作为高阶多态功能，并在类型被假定为代表概念的本体，反映了我们的常识世界观和我们谈论它的方式在ordinary语言。除了[Adj Noun]复合词之外，我们的建议似乎也为众所周知的形容词排序限制提出了一个合理的解释。
2008-02-10 cs.CL cs.LO
Evaluating Contextualized Representations of (Spanish) Ambiguous Words: A New Lexical Resource and Empirical Analysis
UC San Diego（加州大学圣迭戈分校）
本文构建西班牙语歧义名词最小对句及人类相关性判断数据集，系统评估单语与多语BERT模型的语境化语义表征，揭示其与模型规模、架构层级及训练规格的关系。
2025-03-12 cs.CL
Probing BERT for German Compound Semantics
Institute for Natural Language Processing, University of Stuttgart（自然语言处理研究所，斯图加特大学）
该研究探究德语BERT对名词复合词语义的编码能力，通过不同配置预测868个金标准复合词的组合性，发现组合性信息在早期层易提取，但德语任务难度高于英语，或因德语复合构词产率更高、成分歧义更多。
2025-05-20 cs.CL
Fine-tuning a Subtle Parsing Distinction Using a Probabilistic Decision Tree: the Case of Postnominal "that" in Noun Complement Clauses vs. Relative Clauses
Université Paris Cité（巴黎西岱大学）；CNRS（法国国家科学研究中心）
本文研究了英语关系和名词性补足语从句的两种不同的句法分析方法，并对它们的对应关系代词和补足语使用了不同的标记。我们使用了一个算法来重新标记一个语料库解析与GUM树库使用通用依赖。我们的第二个实验包括使用TreeTagger，一种概率决策树，来学习名词性后“that”的两种补语和相对用法之间的区别。我们研究了训练集大小对TreeTagger准确性的影响，以及GUM Treebank文件对两种结构的代表性。我们讨论了这种区别的可学习性的一些语言和结构原则。
2022-12-05 cs.CL cs.IR cs.LG
Polish and English wordnets -- statistical analysis of interconnected networks
Warsaw University of Technology（华沙理工大学）
词网是由名词、动词、形容词和副词组成的语义网络，它们通过语义关系按照语言学原则组织起来。在这项工作中，我们采用了复杂网络的角度进行比较分析的英语和波兰语的词网。我们确定它们的相似性，并表明网络表现出一些在其他现实世界的网络中观察到的典型特征。我们分析两个词网之间的语际关系和深思熟虑的问题，映射到英语的波兰语词汇。
2014-04-07 cs.CL physics.soc-ph
Semantic properties of English nominal pluralization: Insights from word embeddings
Eberhard Karls Universität Tübingen（埃伯哈德·卡尔斯·图宾根大学）；Friedrich-Alexander-Universität Erlangen-Nürnberg（弗里德里希-亚历山大·埃尔朗根-纽伦堡大学）
名词复数化的语义分化在许多语言中都是语法化的。例如，复数标记可能仅与人类名词相关。英语似乎没有这样的区别。使用分布语义学，我们表明，英语名词复数表现出语义集群。例如，水果词的复数形式彼此更相似，而与其他语义类别的复数形式不太相似。因此，将复数形式中的意义转移简化为抽象复数意义的增加是过于简单化的。一个语义通知的方法，称为CosClassAvg，介绍了优于多元化的方法，在分布式语义，假设复数形式相当于一个固定的复数向量的增加。与我们的方法相比，一种方法，从成分分布语义，称为FRACSS，预测复数向量，更相似的语料库提取的复数向量的方向，但不是向量长度。一个建模研究表明，观察到的两个预测的语义空间之间的差异CosClassAvg和FRACSS结转到如何以及一个计算模型的听众可以理解以前未遇到的复数形式。当CosClassAvg生成的语义向量被用作金标准向量而不是FRACSS生成的向量时，从用三音子向量表示的单词形式到预测语义向量的映射更有效率。
2022-03-29 cs.CL
An Empirical Study of Compound PCFGs
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
本文基于C-PCFGs的快速实现，在英语树库和多语言环境下对其进行消融与评估，发现其具有数据效率且能利用句子级信息，但在英语上调优的最佳配置不总能泛化至形态丰富的语言。
2023-10-21 cs.CL
The aftermath of compounds: Investigating Compounds and their Semantic Representations
International Institute of Information Technology（国际信息研究所）
本研究比较了GloVe和BERT嵌入与人类对英语复合词语义判断的契合度，发现BERT在捕捉组合语义方面优于GloVe，且可预测性是语义透明度的强预测因子。
2025-10-31 cs.CL
No Word is an Island -- A Transformation Weighting Model for Semantic Composition
University of Tübingen（蒂宾根大学）
分布式语义的组合模型被用来从他们的词的表示构造短语表示。组成模型通常位于光谱的两端。它们要么有少量的参数，但以相同的方式组合所有短语，要么以大量参数为代价执行特定于单词的组合。在本文中，我们提出了转换加权（TransWeight），一个组成模型，始终优于现有的模型上的名词性化合物，形容词-名词短语和副词-形容词短语在英语，德语和荷兰语。与文献中的最佳模型相比，TransWeight通过以相同的方式组成相似的单词，大大减少了所需的参数数量。
2019-07-11 cs.CL
Structural Jailbreaks Generalize but Do Not Compound: A cross-provider and multilingual study of Involuntary In-Context Learning
本研究测试结构性越狱（IICL）与多语言安全弱化是否叠加，发现IICL跨提供商泛化且金融攻击更严重，但非英语条件反而削弱攻击，表明越狱漏洞不可叠加，主要风险是英语结构性攻击。
2026-09-09 cs.CL cs.CR
Losing My Composure: Predicting Compositionality Over Time
University of Stuttgart（斯图加特大学）
研究德语和英语名词复合词语义变化，引入组合性趋势预测任务，通过新颖数据集评估。用不同语义向量表示及时间粒度实验，发现目标复合词组合性随时间负趋势小，窄时间切片训练模型更优，且静态表示有竞争力。
2026-07-14 cs.CL
Geographical Distance Is The New Hyperparameter: A Case Study Of Finding The Optimal Pre-trained Language For English-isiZulu Machine Translation
Ominor AI；University of the Witwatersrand（威特沃特斯兰德大学）
由于isiZulu等低资源语言的数据集和文本资源有限，因此非常需要能够利用来自预训练模型的知识来改进低资源机器翻译。此外，由于缺乏处理形态丰富的语言的复杂性的技术，使得翻译模型的不平等发展更加复杂，许多广泛使用的非洲语言被抛在后面。本研究探讨了迁移学习在英语-祖鲁语翻译框架中的潜在益处。结果表明，从密切相关的语言的迁移学习的价值，以提高低资源的翻译模型的性能，从而提供了一个关键的策略，低资源的翻译前进。我们从8个不同的语言语料库中收集了结果，包括一个多语言语料库，并发现isiXhosa-isiZulu优于所有语言，测试集的BLEU得分为8.56，比多语言语料库预训练模型好2.73。我们还导出了一个新的系数，Nasir的地理距离系数（NGDC），它为预训练模型提供了一个简单的语言选择。NGDC还表示，应选择isiXhosa作为预训练模型的语言。
2022-05-17 cs.AI cs.CL
UoR-NCL at SemEval-2025 Task 1: Using Generative LLMs and CLIP Models for Multilingual Multimodal Idiomaticity Representation
Department of Computer Science, University of Reading（阅读大学计算机科学系）；School of Computing, Newcastle University（新castle大学计算机学院）
针对SemEval-2025 Task 1的跨语言图像排序任务，本研究利用生成式LLM生成习语语义，并结合多语言CLIP模型编码及对比学习微调，有效提升了多模态习语性表示的性能。
2025-05-01 cs.AI cs.CL
Representation of Constituents in Neural Language Models: Coordination Phrase as a Case Study
Université de Paris（巴黎大学）；CNRS（法国国家科学研究中心）；MIT（麻省理工学院）；Harvard University（哈佛大学）
神经语言模型已经在许多NLP任务上取得了最先进的性能，最近已经被证明可以学习单个单词之间的许多层次敏感的句法依赖关系。然而，对于语言处理来说，同样重要的是将单词组合成短语成分的能力，以及使用成分级特征来驱动下游期望的能力。在这里，我们研究神经模型的能力，代表成分水平的功能，使用协调名词短语作为案例研究。我们评估在英语和法语上训练的不同神经语言模型是否代表短语级别的数字和性别特征，并使用这些特征来驱动下游期望。我们的研究结果表明，模型使用NP成分数的线性组合来驱动CoordNP/动词数协议。这种行为是高度规则的，甚至对局部句法上下文敏感，但它与观察到的人类行为有很大的不同。模型在性别协议方面的成功率较低。在大型语料库上训练的模型表现最好，使用显式语法监督训练的模型没有明显的优势。
2019-09-10 cs.AI cs.CL cs.LG
