Is "My Favorite New Movie" My Favorite Movie? Probing the Understanding of Recursive Noun Phrases
University of Pennsylvania(宾夕法尼亚大学);Peking University(北京大学)
递归名词短语具有有趣的语义特征。例如,“我最喜欢的新电影”不一定是我最喜欢的电影,而“我最喜欢的新电影”是。这是人类的常识,但语言模型是否具有这样的知识是未知的。我们介绍了递归名词短语挑战(RNPC),三个文本推理任务的数据集,涉及文本蕴涵和事件可扩展性比较,精确地针对递归NP的理解。在RNPC上进行评估时,最先进的Transformer模型只能随机执行。尽管如此,我们表明,这些知识是可以通过适当的数据学习的。我们进一步探讨了从任务中可以学习到的相关语言特征的模型,包括修饰语语义类别和修饰语范围。最后,在RNPC上训练的模型在外部伤害检测评估任务上实现了强大的zero-shot性能,显示了对递归NP的理解在下游应用中的有用性。
2022-05-08 cs.CL
Extracting Noun Phrases from Large-Scale Texts: A Hybrid Approach and Its Automatic Evaluation
从运行的文本中获取名词短语有许多应用,如词分组,术语索引等,已报道的文献采用纯概率的方法,或纯基于规则的名词短语语法来解决这个问题。在本文中,我们使用一个概率组块来确定成分的隐含边界,并利用语言学知识,通过有限状态机制来提取名词短语。测试文本为SUSANNE语料库,测试结果通过自动比较SUSANNE语料库的句法分析字段进行评价。这一初步试验的结果令人鼓舞。
1994-06-01 cmp-lg cs.CL
Noun Phrase Reference in Japanese-to-English Machine Translation
本文论述了在机器翻译中区分名词短语指称用法的必要性。我们认为,区分名词短语的通用,指称和归属的使用是最低限度的必要生成文章和数字正确时,从日语翻译成英语。启发式确定这些差异提出了一个日本到英语的机器翻译系统。最后,结果表明,使用所提出的语法的正确使用的文章和数量的日语到英语的机器翻译系统ALT-J/E中产生的名词短语的百分比从65%提高到77%。
1996-01-23 cmp-lg cs.CL
NPtool, a detector of English noun phrases
NPtool是一个快速准确的系统,用于从英语文本中提取名词短语,用于信息检索,翻译单元发现和语料库研究。在一般性介绍后,系统架构的轮廓。然后是一个最近写的约束测试。评估报告结束了文件。
1995-02-13 cmp-lg cs.CL
Noun-Phrase Analysis in Unrestricted Text for Information Retrieval
信息检索是自然语言处理的一个重要应用领域,人们面临着处理大量不受限制的自然语言文本的真正挑战。本文介绍了几种简单、健壮、高效的名词短语分析技术在信息检索中的应用。特别是,我们描述了一种混合的方法来提取有意义的(连续或不连续)子复合词从复杂的名词短语使用语料库统计和语言学。实验结果表明,基于这种提取的子复合词的索引提高了信息检索系统的查全率和查准率。名词短语分析技术在图书标引和主题词表自动抽取方面也有潜在的应用价值。
1996-05-13 cmp-lg cs.CL
On the Compositionality Prediction of Noun Phrases using Poincaré Embeddings
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校);National Research University Higher School of Economics(国立研究型大学高等经济学院);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Universität Hamburg(汉堡大学)
多词短语的组合度是指一个短语的意义在多大程度上可以由其组成成分的意义及其语法关系推导出来。预测(非)组合性是一项经常使用分布式语义模型解决的任务。我们引入了一种新的技术,混合层次信息与分布信息预测组合。特别是,我们使用上位信息的多词和它的成分编码的形式,最近推出的庞加莱嵌入除了分布信息来检测组合名词短语。使用分布相似性的加权平均值和庞加莱相似性函数,我们在三个金标准数据集上获得了一致的、实质性的、统计学上显著的改进,这些改进超过了仅基于分布信息的最新模型。与传统方法仅使用无监督设置不同,我们还将问题框定为有监督的任务,获得了可比的改进。此外,我们公开发布了我们的庞加莱嵌入,这些嵌入是在大型语料库上手工制作的词汇-句法模式的输出上训练的。
2019-06-07 cs.CL
Noun-phrase co-occurrence statistics for semi-automatic semantic lexicon construction
相对于手工创建语义词典,半自动生成语义词典可以节省大量时间。在本文中,我们提出了一种算法,从在线语料库中提取潜在的条目的类别,基于一个小的样本集。我们的算法发现更多的正确的条款和更少的不正确的比以前的工作在这方面。此外,生成的条目可能提供比手工编码更广泛的类别覆盖范围。我们的算法发现许多术语不包括在Wordnet中(比以前的算法多得多),可以被视为现有广泛覆盖资源的“增强器”。
2000-08-24 cs.CL
Extending Phrase Grounding with Pronouns in Visual Dialogues
Tianjin University(天津大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
传统的短语定位方法是将字幕中的名词短语定位到相应的图像区域,近年来取得了很大的成功。显然,对于跨模态视觉语言理解来说,单一的名词短语基础是不够的。在这里,我们通过考虑代词来扩展任务。首先,我们构建了一个包含名词短语和代词的短语接地数据集来图像区域。基于数据集,我们测试了短语接地的性能,通过使用最先进的文献模型,这条线。然后,我们增强了基线接地模型与共指信息,这应该有助于我们的任务潜在的,建模的共指结构与图卷积网络。有趣的是,在我们的数据集上进行的实验表明,代词比名词短语更容易接地,其中可能的原因可能是这些代词的歧义要少得多。此外,我们最终的模型与共指信息可以显着提高接地性能的名词短语和代词。
2022-10-23 cs.CL cs.CV
Anaphora Resolution in Japanese Sentences Using Surface Expressions and Examples
回指消解是自然语言处理的主要问题之一。它也是机器翻译和人机对话的重要任务之一。我们用曲面表达式和例子解决了这个问题。表层表达是指句子中为回指消解提供线索的词语。例子是在对话和文本中实际使用的语言数据。该方法采用曲面表达式和实例相结合的方法,是一种实用的方法。本文涉及的回指类型几乎都有:一、回指类型。名词短语的指称性与数量。名词短语直接回指。名词短语间接回指。代词回指与动词短语省略
2000-09-19 cs.CL
Chunk Tagger - Statistical Recognition of Noun Phrases
我们描述了一个随机的方法,部分解析,即,对有限深度的句法结构的识别。该技术利用马尔可夫模型,但超越了通常的括号法,因为它不仅能够识别边界,而且能够识别简单和复杂NP,PP,AP和状语的内部结构和句法类别。我们比较不同的应用程序和编码方案的标记精度。
1998-07-17 cmp-lg cs.CL
Rule Writing or Annotation: Cost-efficient Resource Usage for Base Noun Phrase Chunking
本文提出了一个全面的实证比较两种方法之间的开发一个基本名词短语分块:人类规则的写作和主动学习使用交互式实时人工注释。研究了主动学习的几种新变化,并提出和探讨了跨模态机器学习比较的基本成本模型。结果表明,它是更有效和更成功的几个措施,训练系统使用主动学习注释,而不是手工编写的规则,在相当水平的人力投资。
2001-05-02 cs.AI cs.CL
OKGIT: Open Knowledge Graph Link Prediction with Implicit Types
Indian Institute of Science(印度科学学院)
开放知识图谱(OpenKG)是指使用OpenIE工具从语料库中提取的一组(中心名词短语、关系短语、尾名词短语)三元组,例如(tesla,return to,new york)。虽然OpenKG很容易为某个领域引导,但它们非常稀疏,远不能直接用于最终任务。因此,预测新事实的任务,即,当在诸如文本理解、问答和web搜索查询推荐的下游任务中使用这些图时,链接预测成为重要的步骤。OpenKG的学习嵌入是链接预测的一种方法,最近受到了一些关注。然而,在仔细检查,我们发现,目前的OpenKG链接预测算法往往预测名词短语(NP)与不兼容的类型为给定的名词和关系短语。我们在这项工作中解决这个问题,并提出OKGIT,提高OpenKG链接预测使用新的类型兼容性得分和类型正则化。通过在多个数据集上的大量实验,我们证明了所提出的方法在链接预测任务中产生类型兼容的NP的同时实现了最先进的性能。
2021-06-24 cs.CL
Computational Modelling of Plurality and Definiteness in Chinese Noun Phrases
Hubei Provincial Key Laboratory of Artificial Intelligence(湖北省人工智能重点实验室);National Language Resources Monitoring and Research Center for Network Media(国家网络媒体语言资源监测与研究中心);School of Computer Science, Central China Normal University(华中师范大学计算机学院);Department of Information and Computing Sciences, Utrecht University(乌得勒支大学信息与计算科学系)
本研究聚焦汉语名词短语复数与定指标记省略现象,构建带语境和语义标签的汉语名词短语语料库,验证汉语使用者频繁省略相关标记的现象,并训练经典机器学习与前沿预训练语言模型预测短语的复数性和定指性,报告并分析模型性能。
2024-03-07 cs.CL
Fast Statistical Parsing of Noun Phrases for Document Indexing
信息检索(IR)是自然语言处理(NLP)的一个重要应用领域,人们遇到了处理大量无限制自然语言文本的真正挑战。虽然已经做出了很大的努力,将NLP技术应用于IR,但很少有NLP技术在大于几兆字节的文档集合上进行评估。许多NLP技术在处理大量文本时效率不够高,也不够健壮。本文提出了一种新的概率模型的名词短语分析,并报告了这样的分析技术,以提高文档索引的应用。使用语法分析器提供的短语,以补充单个单词的索引的有效性进行评估与250兆字节的文档集合。实验结果表明,在单个词的基础上增加句法短语进行索引,可以显著提高检索性能。
1997-02-12 cmp-lg cs.CL
Memory-Based Shallow Parsing
我们提出了基于记忆的学习方法,浅层解析,并将这些应用到五个任务:基本名词短语识别,任意基本短语识别,子句检测,名词短语解析和全面解析。我们使用特征选择技术和系统组合方法来提高基于记忆的学习器的性能。我们的方法进行评估标准数据集和结果与其他系统进行比较。这表明,我们的方法工作良好的基本短语识别,而其对识别嵌入式结构的应用留下了一些改进的空间。
2002-04-24 cs.CL
Error-Driven Pruning of Treebank Grammars for Base Noun Phrase Identification
寻找简单的、非递归的基本名词短语是许多自然语言处理应用程序的重要子任务。虽然以前的经验方法基本NP识别已经相当复杂,本文提出了一个非常简单的算法,是针对相对简单的任务。特别是,我们提出了一种基于语料库的方法,通过匹配部分的语音标签序列来寻找基本的NP。该算法的训练阶段基于两种成功的技术:首先从“树库”语料库中读取基本NP语法;然后通过选择具有高“效益”分数的规则来改进语法。使用这个简单的算法与一个天真的启发式匹配规则,我们实现了令人惊讶的准确性在宾夕法尼亚州树库华尔街日报的评价。
1998-08-26 cmp-lg cs.CL
The optimal placement of the head in the noun phrase. The case of demonstrative, numeral, adjective and noun
Quantitative, Mathematical and Computational Linguistics Research Group, Departament de Ciències de la Computació, Universitat Politècnica de Catalunya (UPC), Barcelona, Spain(数量、数学和计算语言学研究组,计算机科学系,巴塞罗那理工大学(UPC))
本研究探讨了单中心词结构中句法依存距离最小化与惊异度最小化原则的冲突,通过分析多种语言中名词短语的优势语序,证实了名词倾向置于短语末端的理论预测,并发现了反局部效应。
2024-10-15 cs.CL physics.soc-ph
Possessive Pronouns as Determiners in Japanese-to-English Machine Translation
英语中的所有格代词在日语句子中没有对应词时用作限定词。本文提出了一种启发式的方法来生成这样的所有格代词,即使在日本没有对应的。该方法使用关于英语中的所有格代词的使用的信息被视为名词的词汇属性,以及关于名词短语指称性和名词短语出现在其中的句子的主语和主要动词的上下文信息。该方法已在NTT通信科学实验室的日英机器翻译系统ALT-J/E中实现。在6,200个句子的测试集中,所提出的方法将生成的具有适当所有格代词的名词短语的数量增加了263个到609个,代价是生成了83个具有不适当所有格代词的名词短语。
1996-01-23 cmp-lg cs.CL
Canonicalizing Open Knowledge Bases with Multi-Layered Meta-Graph Neural Network
Harbin Institute of Technology(哈尔滨工业大学);University of Notre Dame(圣母大学)
开放知识库中的名词短语和关系短语往往不规范,导致冗余和模糊的事实。在这项工作中,我们综合结构信息(从哪个元组,哪个句子)和语义信息(语义相似度)来做规范化。我们将两种类型的信息表示为多层图:结构信息形成跨句子、关系短语和名词短语层的链接;语义信息形成每层的加权层内链接。我们提出了一个图神经网络模型,通过多层元图结构聚合名词短语和关系短语的表示。实验表明,我们的模型优于现有的方法在一个公共数据集在一般领域。
2020-06-17 cs.AI cs.CL
COMBO: A Complete Benchmark for Open KG Canonicalization
ShanghaiTech University(上海科技大学);Shanghai Engineering Research Center of Intelligent Vision and Imaging(上海智能视觉成像工程技术研究中心);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
开放知识图谱(KG)由从数百万原始文本中提取的(主题、关系、对象)三元组组成。开放式语法中的主宾名词短语和关系词存在严重的冗余和歧义,需要规范化。开放KG规范化的现有数据集仅为名词短语提供黄金实体级规范化。在本文中,我们提出了COMBO,一个完整的基准开放KG规范化。与现有数据集相比,我们还提供了关系短语的黄金规范化,名词短语的黄金本体级规范化,以及从中提取三元组的源句子。我们还提出了评估每种类型的规范化的指标。在COMBO数据集上,我们根据经验比较了以前提出的规范化方法以及一些基于预训练语言模型的简单基线方法。我们发现,使用预训练的语言模型在三元组中正确编码短语会导致名词短语的更好的关系规范化和本体级规范化。我们在https://github.com/jeffchy/COMBO/tree/main上发布我们的数据集、基线和评估脚本。
2023-02-08 cs.AI cs.CL
Variable types for meaning assembly: a logical syntax for generic noun phrases introduced by most
Université de Bordeaux(波尔多大学);CNRS(法国国家科学研究中心)
本文提出了一种计算类属名词短语与广义量词最对应的句子的语义的方法。我们称这些泛型为样本,它们类似于词汇语义学中的原型或原型。这些意义被视为逻辑公式,此后可以在您最喜欢的模型中进行解释。为了做到这一点,我们与主流的弗雷根观点有很大的不同,弗雷根认为宇宙是一个单一的无类型宇宙。事实上,我们的建议采用了类型论,并从希尔伯特ε-微积分(Hilbert,1922; Avigad and Zach,2008)和中世纪哲学中得到了一些提示,例如de Libera(1993,1996)。我们的类型理论分析与正在进行的词汇语义学研究有一些相似之处(Asher 2011; Bassac et al. 2010; Moot,Précourt and Retoré 2011)。我们的模型也适用于经典的例子,涉及一个类,或这个类的通用元素,这是不是说出,但提供的上下文。本研究的一个结果是,在最低限度主义-语境主义的争论中,参见Conrad(2011),如果采用类型理论的观点,术语编码纯粹的语义成分,而它们的类型是由语用决定的。
2012-03-08 cs.CL cs.LO math.LO
NLML--a Markup Language to Describe the Unlimited English Grammar
在本文中,我们提出了NLML(自然语言置标语言),一个置标语言来描述任何语法正确的英语表达的句法和语义结构。首先分析了相关工作,论证了NLML的必要性:形式简单,易于管理,直接存储。然后从句子(不同复杂度、语态、语气、时态)、从句(关系从句和名词从句)和短语(名词短语、动词短语、介词短语、形容词短语、副词短语和谓语短语)三个层次详细介绍了NLML对英语语法的描述。最后以两个典型的例子:NLOJM(Java中的自然语言对象模型)和NLDB(自然语言数据库)说明了NLML在自然语言处理中的应用领域。
2004-04-07 cs.AI cs.CL
Multi-View Clustering for Open Knowledge Base Canonicalization
Nankai University(南开大学)
开放式信息抽取(OIE)方法从非结构化文本中抽取出大量的OIE三元组(名词短语、关系短语、名词短语),组成大型开放式知识库(OKB)。名词短语和关系短语在此类OKB中没有规范化,导致事实分散和冗余。据发现,两种知识观(即,基于事实三元组的事实视图和基于事实三元组的源上下文的上下文视图)提供了对于OKB规范化任务至关重要的补充信息,OKB规范化将同义名词短语和关系短语聚类到同一组中并为它们分配唯一标识符。然而,到目前为止,这两种知识观被现有的作品孤立地利用。在本文中,我们提出了CMVC,一种新的无监督框架,利用这两个知识的观点共同规范化OKB,而不需要手动注释的标签。为了实现这一目标,我们提出了一种多视图CH K-Means聚类算法,通过考虑它们不同的聚类质量来相互加强从每个视图中学习到的视图特定嵌入的聚类。为了进一步提高规范化性能,我们提出了一个训练数据优化策略,分别在每个特定的视图中的数据量和数据质量,以改进学习的视图特定的嵌入在迭代的方式。此外,我们提出了一个Log-Jump算法,以数据驱动的方式预测最佳聚类数,而不需要任何标签。我们证明了我们的框架的优越性,通过对多个现实世界的OKB数据集对国家的最先进的方法进行广泛的实验。
2022-06-22 cs.AI cs.CL
Weak Semi-Markov CRFs for NP Chunking in Informal Text
Singapore University of Technology and Design(新加坡科技设计大学)
本文介绍了一个新的注释语料库的基础上现有的非正式文本语料库:NUS短信语料库(陈和Kan,2013)。新的语料库包括来自26,500条短信的76,490个名词短语,由大学生注释。然后,我们探讨了几个图形模型,包括一个新的变体的半马尔可夫条件随机场(半CRF)的任务名词短语组块。我们通过对新数据集的经验评估证明,与传统的半CRF相比,新变体产生了类似的准确性,但运行时间显着降低。
2018-10-19 cs.CL
Open Knowledge Graphs Canonicalization using Variational Autoencoders
IBM Research AI(IBM研究院人工智能部);Thomas J. Watson Research Center(托马斯·J·沃森研究中心)
开放知识图谱中的名词短语和关系短语没有规范化,导致冗余和模糊的主语-关系-宾语三元组的爆炸。解决这个问题的现有方法采取两步方法。首先,他们为名词和关系短语生成嵌入表示,然后使用聚类算法使用嵌入作为特征对它们进行分组。在这项工作中,我们提出了规范化使用变分自编码器(CUVA),一个联合模型,学习嵌入和集群分配在一个端到端的方法,这导致了一个更好的向量表示的名词和关系短语。我们对多个基准测试的评估表明,CUVA优于现有的最先进的方法。此外,我们引入了CanonicNell,一个新的数据集来评估实体规范化系统。
2021-09-27 cs.AI cs.CL cs.IR
On-line Learning of Binary Lexical Relations Using Two-dimensional Weighted Majority Algorithms
我们考虑学习某种类型的词汇语义知识的问题,这些知识可以表示为词与词之间的二元关系,例如所谓的动词的次范畴化(动词-名词关系)和复合名词短语关系(名词-名词关系)。具体来说,我们认为这个问题作为一个在线学习问题的意义上的Littlestone的学习模型中,学习者的目标是最大限度地减少预测错误的总数。在计算学习理论的文献中,Goldman、Rivest和Schapire以及随后的Goldman和Warnings考虑了二元关系R:X * Y -> {0,1}的在线学习问题,其中一个域集合X可以被划分为相对较少的类型,即由X的行为上不可区分的成员组成的集群。在本文中,我们扩展了这个模型,并假设这两个集合X,Y可以划分成少量的类型,并提出了主机的预测算法,这是二维扩展的Goldman和Warranty的加权多数类型算法提出的原始模型。我们将这些算法应用于学习问题的“复合名词短语”的关系,其中一个名词是相关的另一个只是在情况下,他们可以形成一个名词短语在一起。实验结果表明,本文提出的算法的性能优于Goldman和Warrant的算法。我们还从理论上分析了我们的算法之一的性能,在最坏情况下的预测错误的数量上界的形式。
1995-07-25 cmp-lg cs.CL
Joint Open Knowledge Base Canonicalization and Linking
Nankai University(南开大学);Tsinghua University(清华大学)
开放式信息抽取(OIE)方法从文本中抽取出大量的OIE三元组(名词短语、关系短语、名词短语),组成大型的开放式知识库(OKB)。然而,OKB中的名词短语和关系短语并不规范,经常出现在不同的释义文本变体中,这导致了冗余和歧义的事实。为了解决这个问题,有两个相关的任务:OKB规范化(即,将NP和RP转化为规范化形式)和OKB连接(即,将NP和RP与它们在策划的知识库中的对应实体和关系链接起来(例如,DBPedia)。这两个任务是紧密耦合的,一个任务可以从另一个任务中受益匪浅。然而,迄今为止,它们一直被孤立地研究。本文首次探讨了OKB规范化和链接的联合任务,并提出了一个基于因子图模型的新框架JOCL,使两者相互加强。JOCL足够灵活,可以结合来自两个任务的不同信号,并能够扩展以适应任何新的信号。通过对两个大规模OIE三重数据集的实验研究表明,我们的框架在平均F1(准确性)方面优于所有用于OKB规范化(OKB链接)任务的基线方法。
2022-12-02 cs.AI cs.CL
Gender Bias Amplification During Speed-Quality Optimization in Neural Machine Translation
Facebook AI(脸书人工智能研究院)
当神经机器翻译(NMT)模型针对速度进行优化并使用BLEU在通用测试集上进行评估时,偏差是否会被放大?我们研究了在基于Transformer的模型中常用的加速解码的架构和技术,例如贪婪搜索、量化、平均注意力网络(AAN)和浅层解码器模型,并展示了它们对性别名词翻译的影响。我们构建了一个新的性别偏见测试集,SimpleGEN,基于性别名词短语,其中有一个单一的,明确的,正确的答案。虽然我们在应用速度优化时发现整体BLEU性能下降最小,但我们观察到性别化名词翻译性能以更快的速度下降。
2021-06-01 cs.CL
Countability and Number in Japanese-to-English Machine Translation
本文提出了一种启发式的方法,利用日语文本中的信息,随着知识的英语可数性和数量存储在转移字典,以确定英语名词短语的可数性和数量。将该方法应用到机器翻译系统ALT-J/E中,正确使用冠词和数字的名词短语的生成率从65%提高到73%。
1995-11-03 cmp-lg cs.CL
Computational Approach to Anaphora Resolution in Spanish Dialogues
Universidad de Alicante(阿利坎特大学)
本文提出了一种识别西班牙语对话中代词和形容词回指的名词短语先行词的算法。我们认为,回指消解需要大量的信息来源,以找到正确的先行语的回指。这些源可以是不同种类的,例如,语言信息、话语/对话结构信息或主题信息。出于这个原因,我们的算法使用各种不同类型的信息(混合信息)。该算法是基于语言的约束和偏好,并使用一个照应可及性空间内的算法发现的名词短语。我们提出了一些实验相关的算法,这个空间使用语料库的204个对话。该算法用Prolog语言实现。根据这项研究,95.9%的先行词位于所提出的空间,代词回指的准确率为81.3%,形容词回指的准确率为81.5%。
2011-06-03 cs.CL
Typed Hilbert Epsilon Operators and the Semantics of Determiner Phrases (Invited Lecture)
Université de Bordeaux(波尔多大学);CNRS(法国国家科学研究中心)
限定词短语的语义,无论是定指、不定摹状词还是量化名词短语,通常被认为是一个完全解决的问题:普通名词是属性,限定词是适用于两个谓词的广义量词:对应于普通名词的属性和对应于动词短语的属性。我们首先提出了一个批评这种标准的观点。首先,限定词的语义不遵循句子的句法结构。第二,不定冠词的标准解释不能适用于名词性句子。第三,标准观点忽略了广义量词的两个属性之间的语言不对称性。在续集中,我们提出了一个丰富的类型系统,我们最初开发的词汇语义,使用许多排序的逻辑语义表示的希尔伯特术语的决定词和量词的治疗。我们提出了这个语义框架称为蒙塔古生成词典,并显示这些条款如何更好地匹配的句法结构,避免了上述问题的标准方法。希尔伯特项与选择函数的不同之处在于,每个公式都有一个多态算子而不是一个算子。它们还在意义组装逻辑、处理组合性的类型化λ演算和语义表示的多排序逻辑之间建立了有趣的联系。此外,语义项自然地引入了类型判断,并证实了类型判断是一种预设形式的主张。
2014-06-18 cs.AI cs.CL cs.LO
Video In Sentences Out
Purdue University(普渡大学);University of Toronto(多伦多大学);University of South Carolina(南卡罗来纳大学)
我们提出了一个系统,产生视频的基本描述:谁对谁做了什么,他们在哪里和如何做到这一点。动作类被渲染为动词,参与者对象作为名词短语,这些对象的属性作为形容词修饰语在这些名词短语,这些参与者之间的空间关系作为介词短语,和事件的特点作为介词短语修饰语和状语修饰语。提取渲染这些语言实体所需的信息需要一种事件识别方法,该方法可以恢复对象轨迹、轨迹到角色的分配以及改变身体姿势。
2014-08-09 cs.CL cs.CV cs.IR
A Deterministic Algorithm for Bridging Anaphora Resolution
IBM Research Ireland(IBM爱尔兰研究院)
先前关于桥接回指解析的工作(Poesio等人,2004; Hou等人,2013 b)使用句法介词模式来计算单词相关性。然而,这种模式只考虑名词短语的中心名词,因此不能完全捕捉名词短语的语义。最近,侯(2018)创建了词嵌入(embeddings_PP),通过探索名词短语的句法结构来捕捉名词之间的联想相似性(即相关性)。但是embeddings_PP只包含名词的单词表示。在本文中,我们通过将embeddings_PP与GloVe相结合来创建新的词向量。这种新的词嵌入(embeddings_bridging)是一种更通用的词汇知识资源,可以让我们更容易地表示NP的中心词之外的意义。因此,我们开发了一个确定性的方法来桥接回指的解决方案,它代表了一个NP的中心名词和修饰的基础上的语义。我们表明,这种简单的方法实现了竞争力的结果相比,最好的系统在侯等人。(2013 b)探索马尔可夫逻辑网络来建模问题。此外,我们通过将我们的简单确定性方法与Hou等人相结合,进一步改进了Hou(2018)中报告的桥接回指解析结果。(2013 b)的最佳系统MLN II。
2018-11-14 cs.CL
Research on multi-dimensional end-to-end phrase recognition algorithm based on background knowledge
Huazhong University of Science and Technology(华中科技大学);School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院)
目前,实体识别和依赖分析多采用基于监督学习的深度端到端方法。该方法存在两个问题:一是不能引入背景知识;二是不能识别自然语言的多粒度和嵌套特征。针对这些问题,提出了基于短语窗口的标注规则,并设计了相应的多维端到端短语识别算法。该标注规则将句子划分为七种类型的嵌套短语,并指示短语之间的依赖关系。该算法不仅可以引入背景知识,识别句子中的各种嵌套短语,还可以识别短语之间的依赖关系。实验结果表明,该标注规则简单易用,无歧义;匹配算法比传统的端到端算法更符合语法的多粒度和多样性特点。在CPWD数据集上的实验表明,通过引入背景知识,新算法比端到端方法的准确率提高了一个点以上。相应的方法应用于CCL 2018竞赛,并在中国幽默类型识别任务中获得第一名。
2020-07-08 cs.CL
Is analogy enough to draw novel adjective-noun inferences?
Harvard University(哈佛大学);Boston University(波士顿大学)
针对新颖形容词-名词推断,本文构建词汇相似性类比模型并开展人类实验,发现类比只能解释部分数据,证明人类与LLM的泛化机制不能完全归结为类比,可能包含组合性。
2025-05-14 cs.CL
Research on Annotation Rules and Recognition Algorithm Based on Phrase Window
目前,大多数自然语言处理技术都是基于分词的结果进行依赖性依存句法分析,主要采用基于监督学习的端到端方法。该方法存在两个主要问题:一是标注规则复杂,标注数据难度大,工作量大;二是无法识别语言成分的多粒度性和多样性。针对这两个问题,本文提出了基于短语窗口的标注规则,并设计了相应的短语识别算法。标注规则以短语为最小单位,将句子划分为7种可嵌套的短语类型,并标注短语之间的语法依赖关系。相应的算法,借鉴了在图像场中识别目标区域的思想,可以找到句子中各个短语的起始和结束位置,实现嵌套短语和语法依赖的同步识别。实验结果表明,该标注规则方便易用,不存在歧义;与端到端算法相比,该算法在语法上更具有多粒度性和多样性。CPWD数据集上的实验将端到端方法的准确性提高了约1个点。相应方法应用于CCL 2018竞赛,并在汉语隐喻情感分析任务中获得第一名。
2020-07-07 cs.CL
Integrating Gricean and Attentional Constraints
本文探讨了语篇回指名词短语的生成和理解。我提出的所有话语回指名词短语(N=1,233)在语料库中的十个叙事独白,在一个明确的代词或短语NP之间的选择在很大程度上符合格赖斯的限制信息的分析结果。我讨论戴尔和赖特的[出现]最近的模型,并显示它如何可以被增强的理解,以及产生的数据范围在这里。我认为,整合中心[Grosz等人,1983] [Kameyama,1985]用这个模型可以统一地应用于语篇回指代词和短语NP。最后,我提出了一个假设,以解决本地和全球话语处理之间的相互作用。
1995-05-19 cmp-lg cs.CL
Petrarch 2 : Petrarcher
PETRIBUT2是由Phillip Schrodt研究的一系列事件数据编码器的第四代。每一次迭代都带来了新的功能和可用性,这也不例外。Petrarch 2吸收了原始Petrarch字典的大部分功能,并将其重定向到更快、更智能的核心逻辑中。早期的迭代主要将句子处理为单词列表,在这里和那里合并一些语法信息。彼特拉克2现在完全在句法层面上看待这个句子。它从Stanford CoreNLP软件接收句子的语法分析,并将此数据存储为链接节点的树结构,其中每个节点都是一个Phrase对象。介词、名词和动词短语都有自己的Phrase类版本,Phrase类处理这些类型的短语特有的逻辑。由于这是一个事件编码器,逻辑的核心围绕着动词:谁在行动,谁在被行动,以及发生了什么。这种新结构及其逻辑背后的理论是建立在生成语法,信息论,和lambda演算语义学。
2016-02-23 cs.CL
Improved statistical machine translation using monolingual paraphrases
University of California at Berkeley(加州大学伯克利分校);Bulgarian Academy of Sciences(保加利亚科学院);Sofia University(索非亚大学)
我们提出了一种新的单语句子释义方法,用于“免费”增加统计机器翻译系统的训练数据--通过从已经可用的数据中创建它,而不必创建更多对齐的数据。从句法树开始,我们递归地生成新的句子变体,其中名词复合词使用合适的介词进行释义,反之亦然--包含介词的名词短语变成名词复合词。评估表明,改进相当于训练数据量加倍的33%-50%。
2021-09-25 cs.AI cs.CL
Phrase-Level Class based Language Model for Mandarin Smart Speaker Query Recognition
Tencent AI Lab(腾讯人工智能实验室)
语音助理的成功需要精确识别特定上下文中的许多实体。一种常见的解决方案是训练基于类的n-gram语言模型,然后将类扩展为特定的单词或短语。然而,当类有一个巨大的列表时,例如,超过20万首歌曲,一次全面扩容会造成内存爆炸。更糟糕的是,类中的列表项需要频繁更新,这就需要动态模型更新技术。在这项工作中,我们提出了训练修剪的语言模型的词类,以取代槽的根n-gram。我们进一步提出了使用一种新的技术,命名为差异语言模型(DLM),以纠正从修剪语言模型的偏见。一旦构建了解码图,我们只需要在更新词类中的实体时重新计算DLM。实验结果表明,该方法在所有数据集上的性能都明显优于传统方法,特别是对于传统方法无法处理的大型列表。
2019-09-02 cs.CL
Automatic Creation of Named Entity Recognition Datasets by Querying Phrase Representations
Korea University(高丽大学);Adobe Research(Adobe研究院);AIGEN Sciences(AIGEN科学公司)
针对弱监督 NER 依赖专家词典且自动伪词典覆盖不足的问题,提出 HighGEN,通过短语嵌入搜索和嵌入距离验证生成高覆盖低噪声数据集,并在五个基准上平均 F1 提升 4.7。
2023-06-01 cs.CL
Computational Interpretations of the Gricean Maxims in the Generation of Referring Expressions
我们研究了生成作为适当指称表达的定指名词短语的问题,即:(1)成功地识别听话人的预期指称,同时(2)不向她传达任何虚假的会话含义(Grice,1975)。我们回顾了几种可能的计算解释的会话含义准则,不同的计算成本,并认为,最简单的可能是最好的,因为它似乎是最接近人类说话者做什么。我们详细描述了我们推荐的算法,以及主机系统必须提供的资源,以利用该算法的规范,并在IDAS系统的自然语言生成组件中使用的实现。这篇论文将发表在1995年4 - 6月的《认知科学》杂志上,并在该杂志的出版商Ablex的许可下在cmp-lg上提供。
1995-04-26 cmp-lg cs.CL
Kannada named entity recognition and classification (nerc) based on multinomial naïve bayes (mnb) classifier
Jawaharlal Nehru National College of Engineering(贾瓦哈拉尔·尼赫鲁国家工程学院)
命名实体识别和分类(NERC)是识别文本中的专有名词并将这些名词分类为某些预定义的类别(如人名、位置、组织、日期和时间等)的过程。这项工作的目的是开发一种新的模型NERC,基于多项朴素贝叶斯(MNB)分类器。本文采用的方法是在对训练语料进行特征提取的基础上,利用词频、逆文档频率,并将它们拟合到一个tf-idf-vectorizer中。本文讨论了在发展拟议的模型的各种问题。讨论了系统的实现细节和性能评估。实验在95,170个标记的训练语料库和5,000个标记的测试语料库上进行。实验结果表明,该模型的准确率、召回率和F1测度分别为83%、79%和81%。
2015-09-12 cs.CL
ARKref: a rule-based coreference resolution system
Carnegie Mellon University(卡内基梅隆大学);Educational Testing Service(教育考试服务中心)
ARKref是一个名词短语共指的工具。它是一个确定性的、基于规则的系统,使用来自成分分析器的语法信息和来自实体识别组件的语义信息。它的架构基于Haghighi和Klein(2009)的工作。ARKref最初写于2009年。在撰写本文时,最后一个发布的版本是在2011年3月。本文档描述了该版本,该版本是开源的,可在http://www.ark.cs.cmu.edu/ARKref上公开获取
2013-10-08 cs.CL
Disentangled Action Recognition with Knowledge Bases
University of California, Berkeley(加州大学伯克利分校);Amazon Alexa AI(亚马逊Alexa人工智能部门);Fujitsu Laboratories Ltd.(富士通实验室有限公司);Pennsylvania State University(宾夕法尼亚州立大学)
视频中的动作通常涉及人与物体的交互。动作标签通常由动词和名词的各种组合组成,但我们可能没有所有可能组合的训练数据。在本文中,我们的目标是提高合成动作识别模型的泛化能力,新的动词或新的名词是看不见的训练时间,通过利用知识图谱的力量。以前的工作利用动词-名词组成的动作节点的知识图谱,使其效率低下的规模,因为组成的动作节点的数量的增长二次方相对于动词和名词的数量。为了解决这个问题,我们提出了我们的方法:与知识库(DARK),它利用了固有的组合性的行动的分离动作识别。DARK首先提取动词和名词的分解特征表示,然后使用外部知识图谱中的关系预测分类权重,从而训练因子化模型。动词和名词之间的类型约束是从外部知识库中提取的,并最终应用于组合动作。DARK在对象和动词的数量方面具有更好的可扩展性,并在Charades数据集上实现了最先进的性能。我们进一步提出了一个新的基准分裂的基础上Epic-kitchen数据集,这是一个数量级更大的类和样本的数量级,并基准各种模型在这个基准。
2022-07-04 cs.AI cs.CL cs.CV
NSURL-2019 Task 7: Named Entity Recognition (NER) in Farsi
University of Tehran(德黑兰大学)
NSURL-2019任务7重点关注波斯语中的命名实体识别(NER)。选择这项任务是为了比较不同的方法来找到指定波斯语文本中的命名实体的短语,并为未来在波斯语中进行这项任务的研究建立一个标准的测试平台。本文介绍了训练和测试数据的制作过程、参赛队伍(6支队伍)名单以及对他们的系统的评估结果。最优系统对人、组织、地点、日期、时间、金钱和百分比七类网元进行短语级评价,获得了85.4%的F1分数。
2020-03-19 cs.CL
Phrase Based Language Model for Statistical Machine Translation: Empirical Study
重排序是机器翻译系统面临的一个挑战。在机器翻译中,广泛使用的方法是应用基于词的语言模型(LM),它将句子的组成单位视为词。在语音识别(SR)中,已经提出了一些基于短语的LM。然而,这些LM不一定适合于重新排序或对于重新排序是最佳的。我们提出了两个短语为基础的LM认为一个句子的组成单位作为短语。实验表明,我们的短语为基础的LM优于基于词的LM方面的困惑和n-best列表重新排名。
2015-02-18 cs.CL
Approximate Nearest Neighbour Phrase Mining for Contextual Speech Recognition
University of Amsterdam(阿姆斯特丹大学);Apple(苹果公司)
提出从上下文编码器潜在空间用近似最近邻搜索挖掘困难负短语以训练端到端 CATT,增强相似偏置短语区分能力,并在大规模及流式语音识别中降低词错率。
2023-08-16 cs.CL eess.AS
Semantic Composition and Decomposition: From Recognition to Generation
National Research Council Canada(加拿大国家研究委员会)
语义合成是通过对文本中单个词的意义进行合成来理解文本意义的任务。语义分解是通过将单个单词分解为单词含义中潜在的各个方面(因素,成分,组件)来理解单词含义的任务。我们采取分布式的方法来语义,其中一个词表示的上下文向量。最近的工作已经考虑了识别组合和分解的问题,但我们解决了更困难的生成问题。为了简单起见,我们专注于名词修饰语二元语法和名词一元语法。语义组合的测试是,给定名词-修饰语二元语法(“red salmon”)中的名词和修饰语的上下文向量,生成与给定二元语法(“sockeye”)同义的名词一元语法。语义分解的一个测试是,给定一个名词单字(“snifter”)的上下文向量,生成一个与给定单字(“brandy glass”)同义的名词修饰语二元语法。在WordNet中有大约73,000个一元词的词汇表,对于一个二元词有73,000个候选一元词组合,对于一个一元词有5,300,000,000个(73,000平方)候选二元词分解。我们在两个过程中生成潜在解决方案的排名列表。快速无监督学习算法生成候选者的初始列表,然后较慢的监督学习算法细化该列表。我们通过将候选解决方案与WordNet同义词集进行比较来评估候选解决方案。对于分解(unigram到bigram),排名最高的前100个bigram在50.7%的时间内包含给定unigram的WordNet同义词。对于组合(bigram到unig…
2014-05-30 cs.AI cs.CL cs.LG
Lexicon Infused Phrase Embeddings for Named Entity Resolution
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
大多数用于命名实体识别(NER)的最先进的方法使用词簇和词典形式的半监督信息。最近,已经探索了基于神经网络的语言模型,因为它们作为副产品生成词的高度信息化的向量表示,称为词嵌入。在本文中,我们提出了两个贡献:一种新的形式的学习词嵌入,可以利用相关词汇的信息,以改善表示,和第一个系统使用神经词嵌入,以实现国家的最先进的结果,命名实体识别在CoNLL和Ontonotes NER。我们的系统在CoNLL 2003的测试集上获得了90.90的F1分数-明显优于以前任何基于公共数据训练的系统,并与采用大量私有工业查询日志数据的系统相匹配。
2014-04-22 cs.CL
Contextualized End-to-End Speech Recognition with Contextual Phrase Prediction Network
Northwestern Polytechnical University(西北工业大学)
本文提出上下文短语预测网络,通过显式偏置损失增强基于注意力的深度偏置,显著降低多种端到端模型及上下文短语的词错率。
2023-07-12 cs.CL cs.SD eess.AS
Phrase Based Language Model For Statistical Machine Translation
Tsinghua University(清华大学)
我们考虑基于短语的语言模型(LM),它概括了常用的词级模型。在语音识别中也出现了类似的基于短语的语言模型的概念,语音识别是相当专业的,因此不太适合于机器翻译(MT)。与依赖LM相比,我们首先介绍了为MT使用量身定制的基于短语的LM。初步的实验结果表明,我们的方法优于基于词的LM方面的困惑和翻译质量。
2015-01-18 cs.CL
Determination of referential property and number of nouns in Japanese sentences for machine translation into English
在日语名词的英译中,我们面临着日语中没有的、但英语写作中必不可少的冠词和数字的问题。为了解决这一难题,我们将名词的指称性和数量分别分为三类。本文证明,根据句中的词,可以比较可靠地估计句中名词的指称性和数量。许多用于估计的规则以类似于专家系统中重写规则的形式被编写。对用于构造规则的句子,在指称性和数目估计上的正确识别率分别为85.5%和89.0%。我们用这些规则对其他文本进行了测试,分别得到了68.9%和85.6%的分数。
1994-05-23 cmp-lg cs.CL
XCB: an effective contextual biasing approach to bias cross-lingual phrases in speech recognition
IT Innovation and Research Center, Huawei Technologies Co., Ltd.(华为技术有限公司IT创新研究中心)
本研究提出XCB模块,通过辅助语言偏置和语言特定损失增强预训练ASR模型,有效提升语码转换中次要语言短语的识别准确率,且无额外推理开销。
2024-08-20 cs.AI cs.CL cs.SD