Applying System Combination to Base Noun Phrase Identification
我们使用七种机器学习算法来完成一项任务:识别基本名词短语。结果用不同的系统组合方法处理,均优于最佳的单项结果。我们已经将具有最佳组合子的七个学习者(前五个系统的多数投票)应用于标准数据集,并设法改进该数据集的最佳发布结果。
2000-08-17 cs.CL
A Systematic Comparison of English Noun Compound Representations
Bar-Ilan University(巴伊兰大学)
构建名词复合词的有意义的表示并不是一件小事,因为它们中的许多很少出现在语料库中。为此,合成函数通过组合其成分分布向量来近似名词复合物的分布表示。在更一般的情况下,短语嵌入是通过最小化表示释义的向量之间的距离来训练的。我们通过一系列的任务和分析,并与大量的底层词嵌入,比较各种类型的名词复合表示,包括分布,成分,和基于释义的表示。我们发现,事实上,在大多数情况下,组合函数产生更高质量的表示比分布的,他们提高了计算能力。没有一个函数在所有情况下都表现最好,这表明联合训练目标可能会产生更好的表示。
2019-06-11 cs.CL
Method of noun phrase detection in Ukrainian texts
导论.自然语言处理领域考虑使用传统算法操作无法解决的人工智能完成的任务。这样的任务通常通过使用机器学习方法和计算机语言学手段来实现。文本的预处理任务之一是名词短语的搜索。该任务的准确性对自然语言处理领域的许多其他任务的有效性具有影响。尽管在自然语言处理领域的研究积极发展,但在乌克兰文本中搜索名词短语的调查仍处于早期阶段。结果分析了名词短语检测的不同方法。将句子表示为树结构的方便性已经得到证明。许多名词短语检测方法的主要缺点是其检测效果严重依赖于特定语言的特征。考虑到句子处理的统一格式以及乌克兰语文本句子树构建的训练模型的可用性,选择了Universal Dependency模型。提出了利用普遍依赖方法和命名实体识别模型检测乌克兰语文本中名词短语的复杂方法。乌克兰新闻语料库上的建议方法的有效性进行了实验验证。计算了方法准确度的不同指标。结论.所得到的结果可以表明,建议的方法可以用来找到乌克兰语文本中的名词短语。通过根据主题区域使用适当的命名实体识别模型,可以提高该方法的准确性。
2020-10-22 cs.CL
Crossing the Gender Binary: Modelling Gendered Reference in Science Fiction and General Fiction
Queen Mary University of London(伦敦玛丽女王大学);University of Cambridge(剑桥大学)
该研究对比科幻与通俗小说语料库,用RoBERTa探究性别指称替换规律,发现科幻小说性别渗透性更强,为相关研究提供了语言学证据与计算文学处理流程。
2026-10-15 cs.CL
Reflection-based Word Attribute Transfer
Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
词嵌入可以用来改变词的属性,包括词的性别,它通常代表诸如国王-男人+女人=女王之类的类比关系。为了以这种基于类比的方式将国王转换为王后,我们基于国王是男性的知识减去差向量man-woman。然而,开发这样的知识对于单词和属性来说是非常昂贵的。在这项工作中,我们提出了一种新的方法,字属性转移反射映射的基础上,没有这样的类比操作。实验结果表明,该方法可以在不改变不具有目标属性的词的情况下,转移给定词的词属性。
2020-07-07 cs.CL
Machine Learning of Phonologically Conditioned Noun Declensions For Tamil Morphological Generators
Muthiah Polytechnic College(穆蒂亚理工学院);Annamalai University(安纳马莱大学)
本文提出了机器学习解决方案的自然语言生成(NLG)的实际问题,特别是在黏着语言如泰米尔语的构词,在监督的方式。形态发生器是人工智能中自然语言处理的重要组成部分。它生成给定词根和词缀的单词形式。词素的变化,如增加,删除,改变等,当两个或两个以上的词素或词连接在一起时出现。在基于规则的词法分析器和生成器中,应该明确地指定连读规则。在机器学习框架中,这些规则可以由系统从训练样本中自动学习,随后应用于新的输入。本文提出了从给定的训练数据中学习名词变格的形态音素规则的机器学习模型。利用各种学习算法训练这些模型学习连读变调规则,并给出了这些算法的性能。由此,我们得出结论,机器学习的形态处理,如词的形式生成可以成功地学习在监督的方式,没有明确的规则描述。讨论了决策树和贝叶斯机器学习算法在名词变格问题上的性能。
2014-02-14 cs.CL
Noun-phrase co-occurrence statistics for semi-automatic semantic lexicon construction
相对于手工创建语义词典,半自动生成语义词典可以节省大量时间。在本文中,我们提出了一种算法,从在线语料库中提取潜在的条目的类别,基于一个小的样本集。我们的算法发现更多的正确的条款和更少的不正确的比以前的工作在这方面。此外,生成的条目可能提供比手工编码更广泛的类别覆盖范围。我们的算法发现许多术语不包括在Wordnet中(比以前的算法多得多),可以被视为现有广泛覆盖资源的“增强器”。
2000-08-24 cs.CL
Extracting Noun Phrases from Large-Scale Texts: A Hybrid Approach and Its Automatic Evaluation
从运行的文本中获取名词短语有许多应用,如词分组,术语索引等,已报道的文献采用纯概率的方法,或纯基于规则的名词短语语法来解决这个问题。在本文中,我们使用一个概率组块来确定成分的隐含边界,并利用语言学知识,通过有限状态机制来提取名词短语。测试文本为SUSANNE语料库,测试结果通过自动比较SUSANNE语料库的句法分析字段进行评价。这一初步试验的结果令人鼓舞。
1994-06-01 cmp-lg cs.CL
Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings
Boston University(波士顿大学);Microsoft Research New England(微软研究院新英格兰分院)
机器学习的盲目应用有放大数据中存在的偏差的风险。词嵌入是一种将文本数据表示为向量的流行框架,已用于许多机器学习和自然语言处理任务。我们发现,即使是在谷歌新闻文章上训练的词嵌入也会表现出令人不安的女性/男性性别刻板印象。这引起了人们的担忧,因为正如我们所描述的,它们的广泛使用往往会放大这些偏见。从几何学上讲,性别偏见首先被证明是由词嵌入中的方向捕获的。第二,性别中性词被证明是线性可分离的性别定义词的词嵌入。使用这些属性,我们提供了一种方法来修改嵌入,以消除性别刻板印象,如接待员和女性之间的关联,同时保持所需的关联,如女王和女性之间的话。我们定义的指标来量化嵌入中的直接和间接性别偏见,并开发算法来“消除”嵌入。使用人群工作者评估以及标准基准,我们经验证明,我们的算法显着减少性别偏见的嵌入,同时保留其有用的属性,如聚类相关的概念和解决类比任务的能力。由此产生的嵌入可以在不放大性别偏见的应用中使用。
2016-07-21 cs.AI cs.CL cs.LG
Determination of referential property and number of nouns in Japanese sentences for machine translation into English
在日语名词的英译中,我们面临着日语中没有的、但英语写作中必不可少的冠词和数字的问题。为了解决这一难题,我们将名词的指称性和数量分别分为三类。本文证明,根据句中的词,可以比较可靠地估计句中名词的指称性和数量。许多用于估计的规则以类似于专家系统中重写规则的形式被编写。对用于构造规则的句子,在指称性和数目估计上的正确识别率分别为85.5%和89.0%。我们用这些规则对其他文本进行了测试,分别得到了68.9%和85.6%的分数。
1994-05-23 cmp-lg cs.CL
Anaphora Resolution in Japanese Sentences Using Surface Expressions and Examples
回指消解是自然语言处理的主要问题之一。它也是机器翻译和人机对话的重要任务之一。我们用曲面表达式和例子解决了这个问题。表层表达是指句子中为回指消解提供线索的词语。例子是在对话和文本中实际使用的语言数据。该方法采用曲面表达式和实例相结合的方法,是一种实用的方法。本文涉及的回指类型几乎都有:一、回指类型。名词短语的指称性与数量。名词短语直接回指。名词短语间接回指。代词回指与动词短语省略
2000-09-19 cs.CL
Error-Driven Pruning of Treebank Grammars for Base Noun Phrase Identification
寻找简单的、非递归的基本名词短语是许多自然语言处理应用程序的重要子任务。虽然以前的经验方法基本NP识别已经相当复杂,本文提出了一个非常简单的算法,是针对相对简单的任务。特别是,我们提出了一种基于语料库的方法,通过匹配部分的语音标签序列来寻找基本的NP。该算法的训练阶段基于两种成功的技术:首先从“树库”语料库中读取基本NP语法;然后通过选择具有高“效益”分数的规则来改进语法。使用这个简单的算法与一个天真的启发式匹配规则,我们实现了令人惊讶的准确性在宾夕法尼亚州树库华尔街日报的评价。
1998-08-26 cmp-lg cs.CL
Computational Modelling of Plurality and Definiteness in Chinese Noun Phrases
Hubei Provincial Key Laboratory of Artificial Intelligence(湖北省人工智能重点实验室);National Language Resources Monitoring and Research Center for Network Media(国家网络媒体语言资源监测与研究中心);School of Computer Science, Central China Normal University(华中师范大学计算机学院);Department of Information and Computing Sciences, Utrecht University(乌得勒支大学信息与计算科学系)
本研究聚焦汉语名词短语复数与定指标记省略现象,构建带语境和语义标签的汉语名词短语语料库,验证汉语使用者频繁省略相关标记的现象,并训练经典机器学习与前沿预训练语言模型预测短语的复数性和定指性,报告并分析模型性能。
2024-03-07 cs.CL
Fast Statistical Parsing of Noun Phrases for Document Indexing
信息检索(IR)是自然语言处理(NLP)的一个重要应用领域,人们遇到了处理大量无限制自然语言文本的真正挑战。虽然已经做出了很大的努力,将NLP技术应用于IR,但很少有NLP技术在大于几兆字节的文档集合上进行评估。许多NLP技术在处理大量文本时效率不够高,也不够健壮。本文提出了一种新的概率模型的名词短语分析,并报告了这样的分析技术,以提高文档索引的应用。使用语法分析器提供的短语,以补充单个单词的索引的有效性进行评估与250兆字节的文档集合。实验结果表明,在单个词的基础上增加句法短语进行索引,可以显著提高检索性能。
1997-02-12 cmp-lg cs.CL
The Role of Handling Attributive Nouns in Improving Chinese-To-English Machine Translation
Carnegie Mellon University(卡内基梅隆大学);New York University(纽约大学);Northeastern University(东北大学);Barcelona Supercomputing Center(巴塞罗那超级计算中心)
本文针对中文定语名词导致的中译英歧义问题,通过手动插入被省略的“的”构建数据集并微调 Hugging Face 模型,从而改进关键功能词处理并提升翻译质量。
2025-01-02 cs.AI cs.CL
Generalization through Lexical Abstraction in Transformer Models: The Case of Functional Words
Idiap Research Institute(Idiap 研究所);University of Geneva(日内瓦大学)
本研究探究预训练Transformer模型如何编码功能词及其在平行句中的泛化能力,发现混合训练可揭示共享句法语义结构。
2026-09-18 cs.CL
Multi-View Clustering for Open Knowledge Base Canonicalization
Nankai University(南开大学)
开放式信息抽取(OIE)方法从非结构化文本中抽取出大量的OIE三元组(名词短语、关系短语、名词短语),组成大型开放式知识库(OKB)。名词短语和关系短语在此类OKB中没有规范化,导致事实分散和冗余。据发现,两种知识观(即,基于事实三元组的事实视图和基于事实三元组的源上下文的上下文视图)提供了对于OKB规范化任务至关重要的补充信息,OKB规范化将同义名词短语和关系短语聚类到同一组中并为它们分配唯一标识符。然而,到目前为止,这两种知识观被现有的作品孤立地利用。在本文中,我们提出了CMVC,一种新的无监督框架,利用这两个知识的观点共同规范化OKB,而不需要手动注释的标签。为了实现这一目标,我们提出了一种多视图CH K-Means聚类算法,通过考虑它们不同的聚类质量来相互加强从每个视图中学习到的视图特定嵌入的聚类。为了进一步提高规范化性能,我们提出了一个训练数据优化策略,分别在每个特定的视图中的数据量和数据质量,以改进学习的视图特定的嵌入在迭代的方式。此外,我们提出了一个Log-Jump算法,以数据驱动的方式预测最佳聚类数,而不需要任何标签。我们证明了我们的框架的优越性,通过对多个现实世界的OKB数据集对国家的最先进的方法进行广泛的实验。
2022-06-22 cs.AI cs.CL
NLML--a Markup Language to Describe the Unlimited English Grammar
在本文中,我们提出了NLML(自然语言置标语言),一个置标语言来描述任何语法正确的英语表达的句法和语义结构。首先分析了相关工作,论证了NLML的必要性:形式简单,易于管理,直接存储。然后从句子(不同复杂度、语态、语气、时态)、从句(关系从句和名词从句)和短语(名词短语、动词短语、介词短语、形容词短语、副词短语和谓语短语)三个层次详细介绍了NLML对英语语法的描述。最后以两个典型的例子:NLOJM(Java中的自然语言对象模型)和NLDB(自然语言数据库)说明了NLML在自然语言处理中的应用领域。
2004-04-07 cs.AI cs.CL
Typed Hilbert Epsilon Operators and the Semantics of Determiner Phrases (Invited Lecture)
Université de Bordeaux(波尔多大学);CNRS(法国国家科学研究中心)
限定词短语的语义,无论是定指、不定摹状词还是量化名词短语,通常被认为是一个完全解决的问题:普通名词是属性,限定词是适用于两个谓词的广义量词:对应于普通名词的属性和对应于动词短语的属性。我们首先提出了一个批评这种标准的观点。首先,限定词的语义不遵循句子的句法结构。第二,不定冠词的标准解释不能适用于名词性句子。第三,标准观点忽略了广义量词的两个属性之间的语言不对称性。在续集中,我们提出了一个丰富的类型系统,我们最初开发的词汇语义,使用许多排序的逻辑语义表示的希尔伯特术语的决定词和量词的治疗。我们提出了这个语义框架称为蒙塔古生成词典,并显示这些条款如何更好地匹配的句法结构,避免了上述问题的标准方法。希尔伯特项与选择函数的不同之处在于,每个公式都有一个多态算子而不是一个算子。它们还在意义组装逻辑、处理组合性的类型化λ演算和语义表示的多排序逻辑之间建立了有趣的联系。此外,语义项自然地引入了类型判断,并证实了类型判断是一种预设形式的主张。
2014-06-18 cs.AI cs.CL cs.LO
Open Knowledge Base Canonicalization with Multi-task Learning
School of Software, Shandong University(山东大学软件学院);Laboratory for Big Data and Decision, National University of Defense Technology(国防科技大学大数据与决策实验室);QuanCheng Laboratory(泉城实验室)
针对开放知识库规范化中聚类与知识图谱嵌入学习协同不足的问题,提出多任务学习框架MulCanon,利用扩散模型改进名词短语表示并统一子任务学习目标,取得有竞争力的规范化结果。
2024-03-21 cs.AI cs.CL cs.LG
Robustness and Reliability of Gender Bias Assessment in Word Embeddings: The Role of Base Pairs
Department of Computer Science(计算机科学系);University of Sheffield(谢菲尔德大学)
它已被证明,词嵌入可以表现出性别偏见,并提出了各种方法来量化这一点。然而,这些方法在多大程度上捕捉了从数据中继承的社会陈规定型观念,这一点一直存在争议。偏见是一个复杂的概念,有多种方法来定义它。以前的工作是利用性别词对来衡量偏见和提取偏见的类比。我们表明,依赖这些性别对有很强的局限性:基于它们的偏见措施是不健全的,不能识别常见类型的现实世界的偏见,而类比利用它们是不合适的偏见指标。特别是,众所周知的类比“男人是计算机程序员,女人是家庭主妇”是由于词汇相似性,而不是社会偏见。这对测量嵌入偏差的工作和消除嵌入偏差的相关工作具有重要影响。
2020-10-27 cs.AI cs.CL cs.LG