Is "My Favorite New Movie" My Favorite Movie? Probing the Understanding of Recursive Noun Phrases
University of Pennsylvania(宾夕法尼亚大学);Peking University(北京大学)
递归名词短语具有有趣的语义特征。例如,“我最喜欢的新电影”不一定是我最喜欢的电影,而“我最喜欢的新电影”是。这是人类的常识,但语言模型是否具有这样的知识是未知的。我们介绍了递归名词短语挑战(RNPC),三个文本推理任务的数据集,涉及文本蕴涵和事件可扩展性比较,精确地针对递归NP的理解。在RNPC上进行评估时,最先进的Transformer模型只能随机执行。尽管如此,我们表明,这些知识是可以通过适当的数据学习的。我们进一步探讨了从任务中可以学习到的相关语言特征的模型,包括修饰语语义类别和修饰语范围。最后,在RNPC上训练的模型在外部伤害检测评估任务上实现了强大的zero-shot性能,显示了对递归NP的理解在下游应用中的有用性。
2022-05-08 cs.CL
Extracting Noun Phrases from Large-Scale Texts: A Hybrid Approach and Its Automatic Evaluation
从运行的文本中获取名词短语有许多应用,如词分组,术语索引等,已报道的文献采用纯概率的方法,或纯基于规则的名词短语语法来解决这个问题。在本文中,我们使用一个概率组块来确定成分的隐含边界,并利用语言学知识,通过有限状态机制来提取名词短语。测试文本为SUSANNE语料库,测试结果通过自动比较SUSANNE语料库的句法分析字段进行评价。这一初步试验的结果令人鼓舞。
1994-06-01 cmp-lg cs.CL
Noun Phrase Reference in Japanese-to-English Machine Translation
本文论述了在机器翻译中区分名词短语指称用法的必要性。我们认为,区分名词短语的通用,指称和归属的使用是最低限度的必要生成文章和数字正确时,从日语翻译成英语。启发式确定这些差异提出了一个日本到英语的机器翻译系统。最后,结果表明,使用所提出的语法的正确使用的文章和数量的日语到英语的机器翻译系统ALT-J/E中产生的名词短语的百分比从65%提高到77%。
1996-01-23 cmp-lg cs.CL
NPtool, a detector of English noun phrases
NPtool是一个快速准确的系统,用于从英语文本中提取名词短语,用于信息检索,翻译单元发现和语料库研究。在一般性介绍后,系统架构的轮廓。然后是一个最近写的约束测试。评估报告结束了文件。
1995-02-13 cmp-lg cs.CL
Noun-Phrase Analysis in Unrestricted Text for Information Retrieval
信息检索是自然语言处理的一个重要应用领域,人们面临着处理大量不受限制的自然语言文本的真正挑战。本文介绍了几种简单、健壮、高效的名词短语分析技术在信息检索中的应用。特别是,我们描述了一种混合的方法来提取有意义的(连续或不连续)子复合词从复杂的名词短语使用语料库统计和语言学。实验结果表明,基于这种提取的子复合词的索引提高了信息检索系统的查全率和查准率。名词短语分析技术在图书标引和主题词表自动抽取方面也有潜在的应用价值。
1996-05-13 cmp-lg cs.CL
On the Compositionality Prediction of Noun Phrases using Poincaré Embeddings
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校);National Research University Higher School of Economics(国立研究型大学高等经济学院);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Universität Hamburg(汉堡大学)
多词短语的组合度是指一个短语的意义在多大程度上可以由其组成成分的意义及其语法关系推导出来。预测(非)组合性是一项经常使用分布式语义模型解决的任务。我们引入了一种新的技术,混合层次信息与分布信息预测组合。特别是,我们使用上位信息的多词和它的成分编码的形式,最近推出的庞加莱嵌入除了分布信息来检测组合名词短语。使用分布相似性的加权平均值和庞加莱相似性函数,我们在三个金标准数据集上获得了一致的、实质性的、统计学上显著的改进,这些改进超过了仅基于分布信息的最新模型。与传统方法仅使用无监督设置不同,我们还将问题框定为有监督的任务,获得了可比的改进。此外,我们公开发布了我们的庞加莱嵌入,这些嵌入是在大型语料库上手工制作的词汇-句法模式的输出上训练的。
2019-06-07 cs.CL
Noun-phrase co-occurrence statistics for semi-automatic semantic lexicon construction
相对于手工创建语义词典,半自动生成语义词典可以节省大量时间。在本文中,我们提出了一种算法,从在线语料库中提取潜在的条目的类别,基于一个小的样本集。我们的算法发现更多的正确的条款和更少的不正确的比以前的工作在这方面。此外,生成的条目可能提供比手工编码更广泛的类别覆盖范围。我们的算法发现许多术语不包括在Wordnet中(比以前的算法多得多),可以被视为现有广泛覆盖资源的“增强器”。
2000-08-24 cs.CL
Extending Phrase Grounding with Pronouns in Visual Dialogues
Tianjin University(天津大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
传统的短语定位方法是将字幕中的名词短语定位到相应的图像区域,近年来取得了很大的成功。显然,对于跨模态视觉语言理解来说,单一的名词短语基础是不够的。在这里,我们通过考虑代词来扩展任务。首先,我们构建了一个包含名词短语和代词的短语接地数据集来图像区域。基于数据集,我们测试了短语接地的性能,通过使用最先进的文献模型,这条线。然后,我们增强了基线接地模型与共指信息,这应该有助于我们的任务潜在的,建模的共指结构与图卷积网络。有趣的是,在我们的数据集上进行的实验表明,代词比名词短语更容易接地,其中可能的原因可能是这些代词的歧义要少得多。此外,我们最终的模型与共指信息可以显着提高接地性能的名词短语和代词。
2022-10-23 cs.CL cs.CV
Anaphora Resolution in Japanese Sentences Using Surface Expressions and Examples
回指消解是自然语言处理的主要问题之一。它也是机器翻译和人机对话的重要任务之一。我们用曲面表达式和例子解决了这个问题。表层表达是指句子中为回指消解提供线索的词语。例子是在对话和文本中实际使用的语言数据。该方法采用曲面表达式和实例相结合的方法,是一种实用的方法。本文涉及的回指类型几乎都有:一、回指类型。名词短语的指称性与数量。名词短语直接回指。名词短语间接回指。代词回指与动词短语省略
2000-09-19 cs.CL
Chunk Tagger - Statistical Recognition of Noun Phrases
我们描述了一个随机的方法,部分解析,即,对有限深度的句法结构的识别。该技术利用马尔可夫模型,但超越了通常的括号法,因为它不仅能够识别边界,而且能够识别简单和复杂NP,PP,AP和状语的内部结构和句法类别。我们比较不同的应用程序和编码方案的标记精度。
1998-07-17 cmp-lg cs.CL
Rule Writing or Annotation: Cost-efficient Resource Usage for Base Noun Phrase Chunking
本文提出了一个全面的实证比较两种方法之间的开发一个基本名词短语分块:人类规则的写作和主动学习使用交互式实时人工注释。研究了主动学习的几种新变化,并提出和探讨了跨模态机器学习比较的基本成本模型。结果表明,它是更有效和更成功的几个措施,训练系统使用主动学习注释,而不是手工编写的规则,在相当水平的人力投资。
2001-05-02 cs.AI cs.CL
OKGIT: Open Knowledge Graph Link Prediction with Implicit Types
Indian Institute of Science(印度科学学院)
开放知识图谱(OpenKG)是指使用OpenIE工具从语料库中提取的一组(中心名词短语、关系短语、尾名词短语)三元组,例如(tesla,return to,new york)。虽然OpenKG很容易为某个领域引导,但它们非常稀疏,远不能直接用于最终任务。因此,预测新事实的任务,即,当在诸如文本理解、问答和web搜索查询推荐的下游任务中使用这些图时,链接预测成为重要的步骤。OpenKG的学习嵌入是链接预测的一种方法,最近受到了一些关注。然而,在仔细检查,我们发现,目前的OpenKG链接预测算法往往预测名词短语(NP)与不兼容的类型为给定的名词和关系短语。我们在这项工作中解决这个问题,并提出OKGIT,提高OpenKG链接预测使用新的类型兼容性得分和类型正则化。通过在多个数据集上的大量实验,我们证明了所提出的方法在链接预测任务中产生类型兼容的NP的同时实现了最先进的性能。
2021-06-24 cs.CL
Computational Modelling of Plurality and Definiteness in Chinese Noun Phrases
Hubei Provincial Key Laboratory of Artificial Intelligence(湖北省人工智能重点实验室);National Language Resources Monitoring and Research Center for Network Media(国家网络媒体语言资源监测与研究中心);School of Computer Science, Central China Normal University(华中师范大学计算机学院);Department of Information and Computing Sciences, Utrecht University(乌得勒支大学信息与计算科学系)
本研究聚焦汉语名词短语复数与定指标记省略现象,构建带语境和语义标签的汉语名词短语语料库,验证汉语使用者频繁省略相关标记的现象,并训练经典机器学习与前沿预训练语言模型预测短语的复数性和定指性,报告并分析模型性能。
2024-03-07 cs.CL
Fast Statistical Parsing of Noun Phrases for Document Indexing
信息检索(IR)是自然语言处理(NLP)的一个重要应用领域,人们遇到了处理大量无限制自然语言文本的真正挑战。虽然已经做出了很大的努力,将NLP技术应用于IR,但很少有NLP技术在大于几兆字节的文档集合上进行评估。许多NLP技术在处理大量文本时效率不够高,也不够健壮。本文提出了一种新的概率模型的名词短语分析,并报告了这样的分析技术,以提高文档索引的应用。使用语法分析器提供的短语,以补充单个单词的索引的有效性进行评估与250兆字节的文档集合。实验结果表明,在单个词的基础上增加句法短语进行索引,可以显著提高检索性能。
1997-02-12 cmp-lg cs.CL
Memory-Based Shallow Parsing
我们提出了基于记忆的学习方法,浅层解析,并将这些应用到五个任务:基本名词短语识别,任意基本短语识别,子句检测,名词短语解析和全面解析。我们使用特征选择技术和系统组合方法来提高基于记忆的学习器的性能。我们的方法进行评估标准数据集和结果与其他系统进行比较。这表明,我们的方法工作良好的基本短语识别,而其对识别嵌入式结构的应用留下了一些改进的空间。
2002-04-24 cs.CL
Error-Driven Pruning of Treebank Grammars for Base Noun Phrase Identification
寻找简单的、非递归的基本名词短语是许多自然语言处理应用程序的重要子任务。虽然以前的经验方法基本NP识别已经相当复杂,本文提出了一个非常简单的算法,是针对相对简单的任务。特别是,我们提出了一种基于语料库的方法,通过匹配部分的语音标签序列来寻找基本的NP。该算法的训练阶段基于两种成功的技术:首先从“树库”语料库中读取基本NP语法;然后通过选择具有高“效益”分数的规则来改进语法。使用这个简单的算法与一个天真的启发式匹配规则,我们实现了令人惊讶的准确性在宾夕法尼亚州树库华尔街日报的评价。
1998-08-26 cmp-lg cs.CL
The optimal placement of the head in the noun phrase. The case of demonstrative, numeral, adjective and noun
Quantitative, Mathematical and Computational Linguistics Research Group, Departament de Ciències de la Computació, Universitat Politècnica de Catalunya (UPC), Barcelona, Spain(数量、数学和计算语言学研究组,计算机科学系,巴塞罗那理工大学(UPC))
本研究探讨了单中心词结构中句法依存距离最小化与惊异度最小化原则的冲突,通过分析多种语言中名词短语的优势语序,证实了名词倾向置于短语末端的理论预测,并发现了反局部效应。
2024-10-15 cs.CL physics.soc-ph
Possessive Pronouns as Determiners in Japanese-to-English Machine Translation
英语中的所有格代词在日语句子中没有对应词时用作限定词。本文提出了一种启发式的方法来生成这样的所有格代词,即使在日本没有对应的。该方法使用关于英语中的所有格代词的使用的信息被视为名词的词汇属性,以及关于名词短语指称性和名词短语出现在其中的句子的主语和主要动词的上下文信息。该方法已在NTT通信科学实验室的日英机器翻译系统ALT-J/E中实现。在6,200个句子的测试集中,所提出的方法将生成的具有适当所有格代词的名词短语的数量增加了263个到609个,代价是生成了83个具有不适当所有格代词的名词短语。
1996-01-23 cmp-lg cs.CL
Canonicalizing Open Knowledge Bases with Multi-Layered Meta-Graph Neural Network
Harbin Institute of Technology(哈尔滨工业大学);University of Notre Dame(圣母大学)
开放知识库中的名词短语和关系短语往往不规范,导致冗余和模糊的事实。在这项工作中,我们综合结构信息(从哪个元组,哪个句子)和语义信息(语义相似度)来做规范化。我们将两种类型的信息表示为多层图:结构信息形成跨句子、关系短语和名词短语层的链接;语义信息形成每层的加权层内链接。我们提出了一个图神经网络模型,通过多层元图结构聚合名词短语和关系短语的表示。实验表明,我们的模型优于现有的方法在一个公共数据集在一般领域。
2020-06-17 cs.AI cs.CL
COMBO: A Complete Benchmark for Open KG Canonicalization
ShanghaiTech University(上海科技大学);Shanghai Engineering Research Center of Intelligent Vision and Imaging(上海智能视觉成像工程技术研究中心);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
开放知识图谱(KG)由从数百万原始文本中提取的(主题、关系、对象)三元组组成。开放式语法中的主宾名词短语和关系词存在严重的冗余和歧义,需要规范化。开放KG规范化的现有数据集仅为名词短语提供黄金实体级规范化。在本文中,我们提出了COMBO,一个完整的基准开放KG规范化。与现有数据集相比,我们还提供了关系短语的黄金规范化,名词短语的黄金本体级规范化,以及从中提取三元组的源句子。我们还提出了评估每种类型的规范化的指标。在COMBO数据集上,我们根据经验比较了以前提出的规范化方法以及一些基于预训练语言模型的简单基线方法。我们发现,使用预训练的语言模型在三元组中正确编码短语会导致名词短语的更好的关系规范化和本体级规范化。我们在https://github.com/jeffchy/COMBO/tree/main上发布我们的数据集、基线和评估脚本。
2023-02-08 cs.AI cs.CL
Variable types for meaning assembly: a logical syntax for generic noun phrases introduced by most
Université de Bordeaux(波尔多大学);CNRS(法国国家科学研究中心)
本文提出了一种计算类属名词短语与广义量词最对应的句子的语义的方法。我们称这些泛型为样本,它们类似于词汇语义学中的原型或原型。这些意义被视为逻辑公式,此后可以在您最喜欢的模型中进行解释。为了做到这一点,我们与主流的弗雷根观点有很大的不同,弗雷根认为宇宙是一个单一的无类型宇宙。事实上,我们的建议采用了类型论,并从希尔伯特ε-微积分(Hilbert,1922; Avigad and Zach,2008)和中世纪哲学中得到了一些提示,例如de Libera(1993,1996)。我们的类型理论分析与正在进行的词汇语义学研究有一些相似之处(Asher 2011; Bassac et al. 2010; Moot,Précourt and Retoré 2011)。我们的模型也适用于经典的例子,涉及一个类,或这个类的通用元素,这是不是说出,但提供的上下文。本研究的一个结果是,在最低限度主义-语境主义的争论中,参见Conrad(2011),如果采用类型理论的观点,术语编码纯粹的语义成分,而它们的类型是由语用决定的。
2012-03-08 cs.CL cs.LO math.LO
NLML--a Markup Language to Describe the Unlimited English Grammar
在本文中,我们提出了NLML(自然语言置标语言),一个置标语言来描述任何语法正确的英语表达的句法和语义结构。首先分析了相关工作,论证了NLML的必要性:形式简单,易于管理,直接存储。然后从句子(不同复杂度、语态、语气、时态)、从句(关系从句和名词从句)和短语(名词短语、动词短语、介词短语、形容词短语、副词短语和谓语短语)三个层次详细介绍了NLML对英语语法的描述。最后以两个典型的例子:NLOJM(Java中的自然语言对象模型)和NLDB(自然语言数据库)说明了NLML在自然语言处理中的应用领域。
2004-04-07 cs.AI cs.CL
Multi-View Clustering for Open Knowledge Base Canonicalization
Nankai University(南开大学)
开放式信息抽取(OIE)方法从非结构化文本中抽取出大量的OIE三元组(名词短语、关系短语、名词短语),组成大型开放式知识库(OKB)。名词短语和关系短语在此类OKB中没有规范化,导致事实分散和冗余。据发现,两种知识观(即,基于事实三元组的事实视图和基于事实三元组的源上下文的上下文视图)提供了对于OKB规范化任务至关重要的补充信息,OKB规范化将同义名词短语和关系短语聚类到同一组中并为它们分配唯一标识符。然而,到目前为止,这两种知识观被现有的作品孤立地利用。在本文中,我们提出了CMVC,一种新的无监督框架,利用这两个知识的观点共同规范化OKB,而不需要手动注释的标签。为了实现这一目标,我们提出了一种多视图CH K-Means聚类算法,通过考虑它们不同的聚类质量来相互加强从每个视图中学习到的视图特定嵌入的聚类。为了进一步提高规范化性能,我们提出了一个训练数据优化策略,分别在每个特定的视图中的数据量和数据质量,以改进学习的视图特定的嵌入在迭代的方式。此外,我们提出了一个Log-Jump算法,以数据驱动的方式预测最佳聚类数,而不需要任何标签。我们证明了我们的框架的优越性,通过对多个现实世界的OKB数据集对国家的最先进的方法进行广泛的实验。
2022-06-22 cs.AI cs.CL
Using the Web as an Implicit Training Set: Application to Noun Compound Syntax and Semantics
Sofia University(索非亚大学)
英语书面语篇的一个重要特征是名词复合词的丰富性-名词序列充当单个名词,例如,结肠癌肿瘤抑制蛋白。虽然最终由领域专家掌握,但它们的解释对自动分析构成了重大挑战。理解名词复合词的句法和语义对于许多自然语言应用是重要的,包括问答、机器翻译、信息检索和信息抽取。我解决的问题,名词复合语法的新颖的,高度准确的无监督和轻度监督的算法,使用Web作为语料库和搜索引擎作为接口,该语料库。传统上,Web一直被视为页面点击数的来源,用于估计n元词频。我通过引入新的表面特征和释义来扩展这种方法,从而为名词复合括号的任务产生最先进的结果。我还展示了如何这些类型的功能可以应用到其他结构歧义问题,如介词短语附件和名词短语协调。我通过自动生成释义动词和介词来解决名词复合词的语义问题,这些动词和介词使名词复合词中名词之间隐藏的语义关系显式化。我还演示了如何这些释义动词可以用来解决各种关系相似性问题,以及如何释义名词复合词可以提高机器翻译。
2019-11-23 cs.CL cs.IR
Weak Semi-Markov CRFs for NP Chunking in Informal Text
Singapore University of Technology and Design(新加坡科技设计大学)
本文介绍了一个新的注释语料库的基础上现有的非正式文本语料库:NUS短信语料库(陈和Kan,2013)。新的语料库包括来自26,500条短信的76,490个名词短语,由大学生注释。然后,我们探讨了几个图形模型,包括一个新的变体的半马尔可夫条件随机场(半CRF)的任务名词短语组块。我们通过对新数据集的经验评估证明,与传统的半CRF相比,新变体产生了类似的准确性,但运行时间显着降低。
2018-10-19 cs.CL
Open Knowledge Graphs Canonicalization using Variational Autoencoders
IBM Research AI(IBM研究院人工智能部);Thomas J. Watson Research Center(托马斯·J·沃森研究中心)
开放知识图谱中的名词短语和关系短语没有规范化,导致冗余和模糊的主语-关系-宾语三元组的爆炸。解决这个问题的现有方法采取两步方法。首先,他们为名词和关系短语生成嵌入表示,然后使用聚类算法使用嵌入作为特征对它们进行分组。在这项工作中,我们提出了规范化使用变分自编码器(CUVA),一个联合模型,学习嵌入和集群分配在一个端到端的方法,这导致了一个更好的向量表示的名词和关系短语。我们对多个基准测试的评估表明,CUVA优于现有的最先进的方法。此外,我们引入了CanonicNell,一个新的数据集来评估实体规范化系统。
2021-09-27 cs.AI cs.CL cs.IR
On-line Learning of Binary Lexical Relations Using Two-dimensional Weighted Majority Algorithms
我们考虑学习某种类型的词汇语义知识的问题,这些知识可以表示为词与词之间的二元关系,例如所谓的动词的次范畴化(动词-名词关系)和复合名词短语关系(名词-名词关系)。具体来说,我们认为这个问题作为一个在线学习问题的意义上的Littlestone的学习模型中,学习者的目标是最大限度地减少预测错误的总数。在计算学习理论的文献中,Goldman、Rivest和Schapire以及随后的Goldman和Warnings考虑了二元关系R:X * Y -> {0,1}的在线学习问题,其中一个域集合X可以被划分为相对较少的类型,即由X的行为上不可区分的成员组成的集群。在本文中,我们扩展了这个模型,并假设这两个集合X,Y可以划分成少量的类型,并提出了主机的预测算法,这是二维扩展的Goldman和Warranty的加权多数类型算法提出的原始模型。我们将这些算法应用于学习问题的“复合名词短语”的关系,其中一个名词是相关的另一个只是在情况下,他们可以形成一个名词短语在一起。实验结果表明,本文提出的算法的性能优于Goldman和Warrant的算法。我们还从理论上分析了我们的算法之一的性能,在最坏情况下的预测错误的数量上界的形式。
1995-07-25 cmp-lg cs.CL
Topic Identification in Discourse
提出了一种基于语料库的语言模型用于主题识别。我们分析了LOB语料库中名-名和名-动对的关联情况。词关联规范基于三个因素:1)词的重要性,2)对共现,和3)距离。他们分别在段落和句子层面上接受名词-名词和名词-动词对的训练。在话题连贯假设下,与语篇中其他名词和动词具有最强连接性的名词构成了首选话题集。然后利用搭配语义从段落中识别主题,并讨论段落之间的主题转移现象。
1995-02-23 cmp-lg cs.CL
Joint Open Knowledge Base Canonicalization and Linking
Nankai University(南开大学);Tsinghua University(清华大学)
开放式信息抽取(OIE)方法从文本中抽取出大量的OIE三元组(名词短语、关系短语、名词短语),组成大型的开放式知识库(OKB)。然而,OKB中的名词短语和关系短语并不规范,经常出现在不同的释义文本变体中,这导致了冗余和歧义的事实。为了解决这个问题,有两个相关的任务:OKB规范化(即,将NP和RP转化为规范化形式)和OKB连接(即,将NP和RP与它们在策划的知识库中的对应实体和关系链接起来(例如,DBPedia)。这两个任务是紧密耦合的,一个任务可以从另一个任务中受益匪浅。然而,迄今为止,它们一直被孤立地研究。本文首次探讨了OKB规范化和链接的联合任务,并提出了一个基于因子图模型的新框架JOCL,使两者相互加强。JOCL足够灵活,可以结合来自两个任务的不同信号,并能够扩展以适应任何新的信号。通过对两个大规模OIE三重数据集的实验研究表明,我们的框架在平均F1(准确性)方面优于所有用于OKB规范化(OKB链接)任务的基线方法。
2022-12-02 cs.AI cs.CL
A Machine Learning Approach for the Identification of Bengali Noun-Noun Compound Multiword Expressions
Central Calcutta Polytechnic(加尔各答中央理工学院);Jadavpur University(贾达普大学)
本文提出了一种机器学习方法,用于识别孟加拉语多词表达(MWE),这是二元名词复合物。我们提出的方法有两个步骤:(1)候选提取使用块信息和各种启发式规则和(2)训练的机器学习算法称为随机森林分类的候选人分为两组:二元名义复合MWE或非二元名义复合MWE。各种关联措施,句法和语言的线索和一组基于WordNet的相似性功能已被用于我们的MWE识别任务。本文提出的方法可用于识别孟加拉语连续文本中的二元语法名词性复合词MWE。
2014-01-25 cs.CL cs.LG
Gender Bias Amplification During Speed-Quality Optimization in Neural Machine Translation
Facebook AI(脸书人工智能研究院)
当神经机器翻译(NMT)模型针对速度进行优化并使用BLEU在通用测试集上进行评估时,偏差是否会被放大?我们研究了在基于Transformer的模型中常用的加速解码的架构和技术,例如贪婪搜索、量化、平均注意力网络(AAN)和浅层解码器模型,并展示了它们对性别名词翻译的影响。我们构建了一个新的性别偏见测试集,SimpleGEN,基于性别名词短语,其中有一个单一的,明确的,正确的答案。虽然我们在应用速度优化时发现整体BLEU性能下降最小,但我们观察到性别化名词翻译性能以更快的速度下降。
2021-06-01 cs.CL
Countability and Number in Japanese-to-English Machine Translation
本文提出了一种启发式的方法,利用日语文本中的信息,随着知识的英语可数性和数量存储在转移字典,以确定英语名词短语的可数性和数量。将该方法应用到机器翻译系统ALT-J/E中,正确使用冠词和数字的名词短语的生成率从65%提高到73%。
1995-11-03 cmp-lg cs.CL
Discriminative Phrase Embedding for Paraphrase Identification
Center for Information and Language Processing(信息与语言处理中心);University of Munich(慕尼黑大学)
这项关于释义识别任务的工作,一方面有助于扩展深度学习嵌入,以包括连续和不连续的语言短语。另一方面,提出了一种新的算法TF-KLD-KNN来学习释义任务中单词和短语的区分权值,使得嵌入的加权和能够更有效地表示句子。基于这两个创新,我们得到了具有竞争力的最先进的性能的释义识别。
2016-04-02 cs.CL
Computational Approach to Anaphora Resolution in Spanish Dialogues
Universidad de Alicante(阿利坎特大学)
本文提出了一种识别西班牙语对话中代词和形容词回指的名词短语先行词的算法。我们认为,回指消解需要大量的信息来源,以找到正确的先行语的回指。这些源可以是不同种类的,例如,语言信息、话语/对话结构信息或主题信息。出于这个原因,我们的算法使用各种不同类型的信息(混合信息)。该算法是基于语言的约束和偏好,并使用一个照应可及性空间内的算法发现的名词短语。我们提出了一些实验相关的算法,这个空间使用语料库的204个对话。该算法用Prolog语言实现。根据这项研究,95.9%的先行词位于所提出的空间,代词回指的准确率为81.3%,形容词回指的准确率为81.5%。
2011-06-03 cs.CL
Typed Hilbert Epsilon Operators and the Semantics of Determiner Phrases (Invited Lecture)
Université de Bordeaux(波尔多大学);CNRS(法国国家科学研究中心)
限定词短语的语义,无论是定指、不定摹状词还是量化名词短语,通常被认为是一个完全解决的问题:普通名词是属性,限定词是适用于两个谓词的广义量词:对应于普通名词的属性和对应于动词短语的属性。我们首先提出了一个批评这种标准的观点。首先,限定词的语义不遵循句子的句法结构。第二,不定冠词的标准解释不能适用于名词性句子。第三,标准观点忽略了广义量词的两个属性之间的语言不对称性。在续集中,我们提出了一个丰富的类型系统,我们最初开发的词汇语义,使用许多排序的逻辑语义表示的希尔伯特术语的决定词和量词的治疗。我们提出了这个语义框架称为蒙塔古生成词典,并显示这些条款如何更好地匹配的句法结构,避免了上述问题的标准方法。希尔伯特项与选择函数的不同之处在于,每个公式都有一个多态算子而不是一个算子。它们还在意义组装逻辑、处理组合性的类型化λ演算和语义表示的多排序逻辑之间建立了有趣的联系。此外,语义项自然地引入了类型判断,并证实了类型判断是一种预设形式的主张。
2014-06-18 cs.AI cs.CL cs.LO
Video In Sentences Out
Purdue University(普渡大学);University of Toronto(多伦多大学);University of South Carolina(南卡罗来纳大学)
我们提出了一个系统,产生视频的基本描述:谁对谁做了什么,他们在哪里和如何做到这一点。动作类被渲染为动词,参与者对象作为名词短语,这些对象的属性作为形容词修饰语在这些名词短语,这些参与者之间的空间关系作为介词短语,和事件的特点作为介词短语修饰语和状语修饰语。提取渲染这些语言实体所需的信息需要一种事件识别方法,该方法可以恢复对象轨迹、轨迹到角色的分配以及改变身体姿势。
2014-08-09 cs.CL cs.CV cs.IR
A Deterministic Algorithm for Bridging Anaphora Resolution
IBM Research Ireland(IBM爱尔兰研究院)
先前关于桥接回指解析的工作(Poesio等人,2004; Hou等人,2013 b)使用句法介词模式来计算单词相关性。然而,这种模式只考虑名词短语的中心名词,因此不能完全捕捉名词短语的语义。最近,侯(2018)创建了词嵌入(embeddings_PP),通过探索名词短语的句法结构来捕捉名词之间的联想相似性(即相关性)。但是embeddings_PP只包含名词的单词表示。在本文中,我们通过将embeddings_PP与GloVe相结合来创建新的词向量。这种新的词嵌入(embeddings_bridging)是一种更通用的词汇知识资源,可以让我们更容易地表示NP的中心词之外的意义。因此,我们开发了一个确定性的方法来桥接回指的解决方案,它代表了一个NP的中心名词和修饰的基础上的语义。我们表明,这种简单的方法实现了竞争力的结果相比,最好的系统在侯等人。(2013 b)探索马尔可夫逻辑网络来建模问题。此外,我们通过将我们的简单确定性方法与Hou等人相结合,进一步改进了Hou(2018)中报告的桥接回指解析结果。(2013 b)的最佳系统MLN II。
2018-11-14 cs.CL
Automatic Identification of Subjects for Textual Documents in Digital Libraries
互联网上的电子文档数量增长非常迅速。如何有效地识别文档的主题成为一个重要的问题。以往的研究主要集中在名词在文档中的行为。虽然主语是由名词组成的,但决定哪些名词是主语的成分不仅仅是名词。基于语篇是有组织的和事件驱动的假设,名词和动词共同参与了主语识别的过程。本文考虑了四个因素:1)词的重要性,2)词频,3)词的共现,4)词的距离,并提出了一个模型来确定主题的文本文档。初步实验表明,该模型的性能接近人类。
1999-02-01 cs.CL cs.DL
Is analogy enough to draw novel adjective-noun inferences?
Harvard University(哈佛大学);Boston University(波士顿大学)
针对新颖形容词-名词推断,本文构建词汇相似性类比模型并开展人类实验,发现类比只能解释部分数据,证明人类与LLM的泛化机制不能完全归结为类比,可能包含组合性。
2025-05-14 cs.CL
Annotating Korean adnominal ending constructions in corpus data: Beyond relative-clause identification
KAIST(韩国科学技术院);Anyang University(安阳大学)
研究韩语定语词尾ETM,指出它非关系从句结构直接标记,提出基于语料库的类型学,通过多种因素区分结构,以有序规则程序为依存句法树库实现标注层并验证,发现不能仅从形态识别关系从句修饰。
2026-07-07 cs.CL
Integrating Gricean and Attentional Constraints
本文探讨了语篇回指名词短语的生成和理解。我提出的所有话语回指名词短语(N=1,233)在语料库中的十个叙事独白,在一个明确的代词或短语NP之间的选择在很大程度上符合格赖斯的限制信息的分析结果。我讨论戴尔和赖特的[出现]最近的模型,并显示它如何可以被增强的理解,以及产生的数据范围在这里。我认为,整合中心[Grosz等人,1983] [Kameyama,1985]用这个模型可以统一地应用于语篇回指代词和短语NP。最后,我提出了一个假设,以解决本地和全球话语处理之间的相互作用。
1995-05-19 cmp-lg cs.CL
A survey on phrase structure learning methods for text classification
文本分类是将文本自动分类到预定义的类别之一的任务。文本分类问题在自然语言处理、数据采掘和信息检索等领域得到了广泛的研究。文本分类是许多信息管理任务的重要组成部分,如主题识别,垃圾邮件过滤,电子邮件路由,语言识别,体裁分类,可读性评估等。当使用短语模式时,文本分类的性能显着提高。短语模式的使用有助于捕获非本地行为,从而有助于改进文本分类任务。短语结构提取是短语模式识别的第一步。本文对短语结构学习方法进行了详细的研究。这将使未来的工作在几个NLP任务,它使用语法检查,问答,信息抽取,机器翻译,文本分类等短语结构的语法信息。本文还对短语结构学习方法进行了不同层次的分类和详细的比较。
2014-06-21 cs.CL
Petrarch 2 : Petrarcher
PETRIBUT2是由Phillip Schrodt研究的一系列事件数据编码器的第四代。每一次迭代都带来了新的功能和可用性,这也不例外。Petrarch 2吸收了原始Petrarch字典的大部分功能,并将其重定向到更快、更智能的核心逻辑中。早期的迭代主要将句子处理为单词列表,在这里和那里合并一些语法信息。彼特拉克2现在完全在句法层面上看待这个句子。它从Stanford CoreNLP软件接收句子的语法分析,并将此数据存储为链接节点的树结构,其中每个节点都是一个Phrase对象。介词、名词和动词短语都有自己的Phrase类版本,Phrase类处理这些类型的短语特有的逻辑。由于这是一个事件编码器,逻辑的核心围绕着动词:谁在行动,谁在被行动,以及发生了什么。这种新结构及其逻辑背后的理论是建立在生成语法,信息论,和lambda演算语义学。
2016-02-23 cs.CL
Improved statistical machine translation using monolingual paraphrases
University of California at Berkeley(加州大学伯克利分校);Bulgarian Academy of Sciences(保加利亚科学院);Sofia University(索非亚大学)
我们提出了一种新的单语句子释义方法,用于“免费”增加统计机器翻译系统的训练数据--通过从已经可用的数据中创建它,而不必创建更多对齐的数据。从句法树开始,我们递归地生成新的句子变体,其中名词复合词使用合适的介词进行释义,反之亦然--包含介词的名词短语变成名词复合词。评估表明,改进相当于训练数据量加倍的33%-50%。
2021-09-25 cs.AI cs.CL
Computational Interpretations of the Gricean Maxims in the Generation of Referring Expressions
我们研究了生成作为适当指称表达的定指名词短语的问题,即:(1)成功地识别听话人的预期指称,同时(2)不向她传达任何虚假的会话含义(Grice,1975)。我们回顾了几种可能的计算解释的会话含义准则,不同的计算成本,并认为,最简单的可能是最好的,因为它似乎是最接近人类说话者做什么。我们详细描述了我们推荐的算法,以及主机系统必须提供的资源,以利用该算法的规范,并在IDAS系统的自然语言生成组件中使用的实现。这篇论文将发表在1995年4 - 6月的《认知科学》杂志上,并在该杂志的出版商Ablex的许可下在cmp-lg上提供。
1995-04-26 cmp-lg cs.CL
Where's My Head? Definition, Dataset and Models for Numeric Fused-Heads Identification and Resolution
Bar-Ilan University(巴伊兰大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们提供了第一个计算处理的融合头结构(FH),专注于数字融合头(NFH)。中心名词短语是一种名词短语(NP),其中中心名词缺失,被称为与其从属修饰语“融合”。这种缺失的信息是隐含的,对句子理解很重要。缺失的参考文献很容易由人类填补,但对计算模型构成了挑战。我们将FH的处理分为两个阶段:FH结构的识别和丢失头部的解决。我们在大型英语文本语料库中探索NFH现象,并创建(1)一个数据集和一个高度准确的NFH识别方法;(2)一个10 k个NFH解析的示例(1 M个令牌)众包数据集;(3)一个NFH解析任务的神经基线。我们发布了我们的代码和数据集,希望促进对这个具有挑战性的问题的进一步研究。
2019-05-26 cs.CL
Towards Structure-aware Paraphrase Identification with Phrase Alignment Using Sentence Encoders
University of Sussex(萨塞克斯大学)
以前的工作已经证明了利用预先训练的句子编码器的有效性,基于他们的句子表示的意义比较任务。虽然这种表示被证明捕捉隐藏的句法结构,它们之间的直接相似性比较表现出弱的敏感性,在给定的句子中的词序和结构差异。单一的相似性分数进一步使得比较过程难以解释。因此,我们在这里建议将句子编码器与对齐组件相结合,将每个句子表示为谓词-参数跨度的列表(其中它们的跨度表示来自句子编码器),并将句子级别的意义比较分解为它们的跨度之间的对齐,以进行释义识别任务。实验结果表明,对齐组件带来了改进的性能和可解释性的各种句子编码器。经过仔细的调查,该方法表明,增加了敏感性的结构差异和增强的能力,以区分非释义高词汇重叠。
2022-10-11 cs.CL
ARKref: a rule-based coreference resolution system
Carnegie Mellon University(卡内基梅隆大学);Educational Testing Service(教育考试服务中心)
ARKref是一个名词短语共指的工具。它是一个确定性的、基于规则的系统,使用来自成分分析器的语法信息和来自实体识别组件的语义信息。它的架构基于Haghighi和Klein(2009)的工作。ARKref最初写于2009年。在撰写本文时,最后一个发布的版本是在2011年3月。本文档描述了该版本,该版本是开源的,可在http://www.ark.cs.cmu.edu/ARKref上公开获取
2013-10-08 cs.CL
The exponential distribution of the order of demonstrative, numeral, adjective and noun
研究发现限定词、数词、形容词和名词顺序的指数分布优于幂律分布,挑战了词频齐普夫定律的普遍性。
2026-01-22 cs.CL physics.soc-ph
Comparing of Term Clustering Frameworks for Modular Ontology Learning
LS2N(LS2N实验室);Polytech’Nantes(南特大学综合理工学院)
本文的目的是利用术语聚类,建立一个模块本体,根据核心本体的特定领域的文本。语义知识的获得主要集中在句子中与动词或其介词组合具有相同句法角色的名词短语。从上下文出发构造共生矩阵,建立名词短语的特征空间,然后将其转化为包括特征选择和降维在内的多种编码表示。此外,本文还介绍了词向量的构建。这些表示分别用K-Means和Affinity Propagation(AP)方法进行聚类,它们区分为术语聚类框架。由于K-Means的随机性,采用迭代努力来寻找最优参数。该框架进行了广泛的评估,其中AP显示出显着的有效性,共同出现的条款和NMF编码技术是突出的,其有前途的设施,在特征压缩。
2019-01-25 cs.CL cs.IR
Open Knowledge Base Canonicalization with Multi-task Learning
School of Software, Shandong University(山东大学软件学院);Laboratory for Big Data and Decision, National University of Defense Technology(国防科技大学大数据与决策实验室);QuanCheng Laboratory(泉城实验室)
针对开放知识库规范化中聚类与知识图谱嵌入学习协同不足的问题,提出多任务学习框架MulCanon,利用扩散模型改进名词短语表示并统一子任务学习目标,取得有竞争力的规范化结果。
2024-03-21 cs.AI cs.CL cs.LG
Representation of Constituents in Neural Language Models: Coordination Phrase as a Case Study
Université de Paris(巴黎大学);CNRS(法国国家科学研究中心);MIT(麻省理工学院);Harvard University(哈佛大学)
神经语言模型已经在许多NLP任务上取得了最先进的性能,最近已经被证明可以学习单个单词之间的许多层次敏感的句法依赖关系。然而,对于语言处理来说,同样重要的是将单词组合成短语成分的能力,以及使用成分级特征来驱动下游期望的能力。在这里,我们研究神经模型的能力,代表成分水平的功能,使用协调名词短语作为案例研究。我们评估在英语和法语上训练的不同神经语言模型是否代表短语级别的数字和性别特征,并使用这些特征来驱动下游期望。我们的研究结果表明,模型使用NP成分数的线性组合来驱动CoordNP/动词数协议。这种行为是高度规则的,甚至对局部句法上下文敏感,但它与观察到的人类行为有很大的不同。模型在性别协议方面的成功率较低。在大型语料库上训练的模型表现最好,使用显式语法监督训练的模型没有明显的优势。
2019-09-10 cs.AI cs.CL cs.LG
Language in a (Search) Box: Grounding Language Learning in Real-World Human-Machine Interaction
Bocconi University(博科尼大学);Coveo Labs(Coveo实验室)
我们通过真实世界的数据调查接地语言学习,通过用户和搜索引擎之间发生的自然交互来建模教师-学习者动态;特别是,我们探索了合成环境之外无监督密集表示的语义泛化的出现。仅从用户数据学习基础域、表示函数和合成函数。我们展示了如何产生的语义名词短语表现出成分属性,同时完全可学习,没有任何明确的标签。我们基准我们的接地语义组合性和zero-shot推理任务,我们表明,它提供了更好的结果和更好的推广比SOTA非接地模型,如word 2 vec和BERT。
2021-04-18 cs.CL
Task-specific Word Identification from Short Texts Using a Convolutional Neural Network
Tongji University(同济大学);University of Arkansas(阿肯色大学)
特定任务词识别的目的是选择与任务相关的词,最好地描述一个简短的文本。现有的方法需要定义良好的种子词或词典(例如,WordNet),这些技术通常不适用于许多应用,例如社会歧视检测和虚假评论检测。然而,我们通常有一组带标签的短文本,其中每个短文本都有一个与任务相关的类标签,例如,歧视性或非歧视性,由用户指定或通过分类算法学习。在本文中,我们专注于识别特定于任务的单词和短语,从短文本利用其类标签,而不是使用种子词或词汇字典。我们将特定于任务的单词和短语识别视为特征学习。我们在一组标记文本上训练一个卷积神经网络,并使用分数向量来定位特定于任务的单词和短语。情感词识别的实验结果表明,我们的方法显着优于现有的方法。我们进一步进行两个案例研究,以显示我们的方法的有效性。一个爬行的推文数据集上的案例研究表明,我们的方法可以成功地捕获歧视相关的词/短语。另一个关于虚假评论检测的案例研究表明,我们的方法可以识别虚假评论词/短语。
2017-06-03 cs.CL cs.IR cs.LG