A General-Purpose Tagger with Convolutional Neural Networks
Institut für Maschinelle Sprachverarbeitung（机器语言处理研究所）；Universität Stuttgart（斯图加特大学）
我们提出了一个通用的标记基于卷积神经网络（CNN），用于组成词向量和编码上下文信息。CNN标记器在不同的标记任务中具有鲁棒性：无需对超参数进行特定任务的调整，它在词性标记、形态标记和超级标记中实现了最先进的结果。CNN标记器对词汇表外问题也是鲁棒的，它在人工非规范化文本上表现良好。
2017-06-06 cs.CL
Development of Marathi Part of Speech Tagger Using Statistical Approach
Banasthali University（巴纳斯塔利大学）
词性标注是将文本中的词分配给特定词性的过程。词性标注的一个基本版本是将词识别为名词、动词、形容词等。对于处理自然语言，词性标注是一个突出的工具。它是许多NLP应用程序中最简单，最恒定和统计的模型之一。词性标注是语言学、文本分析的初始阶段，如信息检索、机器翻译、文本到语音合成、信息抽取等。在词性标注中，我们为句子和文献中的每个词分配词性标签。已经提出了各种方法来实现POS标记器。在本文中，我们提出了一个马拉地语部分的语音标记。它是一种形态丰富的语言。马拉地语是马哈拉施特拉邦的土著人说的语言。用于开发标记器的一般方法是使用Unigram，Bigram，Trigram和HMM方法的统计方法。给出了一个清晰的思路，并给出了相应的例子.它还介绍了一个标记集的马拉地语，可用于标记马拉地语文本。在本文中，我们已经显示了标记器的发展，以及比较，以检查标记器输出的准确性。三种马拉地语词性标注器Unigram、Bigram、Trigram和HMM的准确率分别为77.38%、90.30%、91.46%和93.82%。
2013-10-09 cs.CL
Part of Speech Tagging in Thai Language Using Support Vector Machine
弹性输入神经标记器和混合标记器，结合神经网络和Brill的错误驱动学习，已经被提出用于使用尽可能少的训练数据来构造实用的标记器。当一个小的泰国语料库用于训练，这些标记器的标记准确率分别为94.4%和95.5%（仅占歧义词的词性）。在这项研究中，为了构建更准确的标签，我们开发了新的标记方法，使用三种机器学习方法：决策表，最大熵，和支持向量机方法。然后，我们使用这些方法进行标记实验。我们的结果表明，支持向量机的方法具有最好的精度（96.1%），它是能够提高在泰语标注的准确性。最后，我们从理论上对这些方法进行了检验，并讨论了如何实现这些改进。
2001-12-05 cs.CL
Part-of-Speech Tagging with Neural Networks
标注了词性信息的文本语料库在语言学研究的许多领域都是有用的。本文提出了一种新的基于神经网络的词性标注方法（Net-Tagger），并将其性能与HMM标注器和基于三元语法的标注器进行了比较。结果表明，网络标记器的性能以及基于三角形的标记器，并优于HMM标记器。
1994-10-24 cmp-lg cs.CL
Some Advances in Transformation-Based Part of Speech Tagging
最近的研究在可训练的词性标注器探索了随机标注。虽然这些标签获得高准确性，语言信息是间接捕获的，通常在成千上万的词汇和上下文概率。在[Brill 92]中，描述了一种可训练的基于规则的标记器，其获得了与随机标记器相当的性能，但在少量简单的非随机规则中捕获了相关的语言信息。在本文中，我们描述了一些扩展到这个基于规则的标签。首先，我们描述了一种方法，用于表示词汇关系的标记，不被随机标记。接下来，我们展示了一种基于规则的方法来标记未知词。最后，我们展示了如何标签可以扩展到一个k-最好的标签，多个标签可以分配给单词在某些情况下的不确定性。
1994-06-02 cmp-lg cs.CL
Building a Kannada POS Tagger Using Machine Learning and Neural Network Models
Manipal Institute of Technology（马尼帕尔理工学院）；IIIT-Hyderabad（海得拉巴国际信息技术学院）
POS标记是许多NLP应用程序的初步任务。卡纳达语是一种相对较差的印度语言，可供使用的高质量NLP工具数量非常有限。一个准确可靠的POS Tagger对于许多NLP任务来说是必不可少的，比如浅层解析，依存句法分析，情感分析，命名实体识别。我们提出了一个统计POS标注卡纳达语使用不同的机器学习和神经网络模型。我们的卡纳达语POS标记器的性能比最先进的卡纳达语POS标记器高出6%。我们在本文中的贡献是三倍-建立一个通用的POS标记，比较不同的建模技术的性能，探索使用字符和词嵌入一起卡纳达语POS标记。
2018-08-09 cs.CL
Part of Speech Tagging of Marathi Text Using Trigram Method
Banasthali University（班纳斯塔利大学）
在本文中，我们提出了一个马拉地语部分的语音标记。它是一种形态丰富的语言。它是由马哈拉施特拉邦的土著人说的。用于开发标记器的一般方法是使用三元组方法进行统计。trigram的主要概念是基于前两个标签的给定信息，通过计算概率来确定哪个是标签的最佳序列，来探索令牌的最可能的POS。在本文中，我们展示了tagger的发展。此外，我们还进行了评估。
2013-07-15 cs.CL
Semantic Tagging with Deep Residual Networks
University of Groningen（格罗宁根大学）
我们提出了一种新的语义标记任务，sem-tagging，为多语言语义解析的目的，并提出了第一个使用深度残差网络（ResNets）的标记器。我们的标签使用单词和字符表示，并包括一个新的残留旁路架构。我们评估的标签集本质上的语义标记的新任务，以及词性（POS）标记。我们的系统，由一个ResNet和一个辅助损失函数预测我们的语义标签，显着优于以前的结果对英语通用词汇词性标注（95.71%的准确率UD v1.2和95.67%的准确率UD v1.3）。
2016-10-31 cs.CL
Ending-based Strategies for Part-of-speech Tagging
University of Saskatchewan（萨斯喀彻温大学）
词性标注的概率方法主要依赖于关于词/标签组合的全词统计以及上下文信息。但经验表明，即使训练集高达100万个单词，测试集中也有大约4%的标记是未知的。看不见的单词使用二级策略标记，这些策略利用单词的特征，如结尾，大写和标点符号。在这项工作中，词尾统计是主要的，全词统计是次要的。首先，一个标记者只接受了单词结尾的训练和测试。随后的实验为训练集中出现频率最高的单词添加了全词统计数据。随着规模的扩大，性能有望提高，在极限情况下，性能与基于单词的标记器相同。令人惊讶的是，基于结尾的标记器最初的表现几乎和基于单词的标记器一样好;在最好的情况下，它的性能显着超过了基于单词的标记器。最后，出乎意料的是，出现了负回报的影响-随着规模的扩大，业绩普遍改善，然后又下降。通过改变结尾长度和标签列表策略等因素，我们实现了97.5%的成功率。
2013-02-27 cs.CL
Tagging accurately -- Don't guess if you know
我们讨论结合知识为基础的（或基于规则的）和统计部分的语音标记。我们使用两个成熟的标签，ENGCG和Xerox Tagger，独立标记相同的文本，并结合结果，产生一个完全消歧的文本。在一个27000字的测试样本，从以前看不见的语料库，我们达到98.5%的准确率。本文详细介绍了数据。我们描述了我们在结合这两个标签的过程中遇到的问题，并讨论了评价标签的问题。
1994-08-16 cmp-lg cs.CL
Part of speech tagging for code switched data
The George Washington University（乔治华盛顿大学）；University of Houston（休斯顿大学）；Columbia University（哥伦比亚大学）
我们解决的问题的词性标注（POS）的语言代码转换（CS）的上下文中。语篇转换是说话者在两种语言或同一语言的变体之间进行转换的现象，分别称为语篇内语篇转换或语篇间语篇转换。考虑到最先进的单语NLP技术，处理CS数据在内部数据中尤其具有挑战性，因为这种技术适合于一次处理一种语言。在本文中，我们探讨了多种策略，应用国家的最先进的POS标记CS数据。我们调查的景观在两个CS语言对，西班牙语-英语和现代标准阿拉伯语-阿拉伯语方言。我们比较了使用两个POS标签与统一的标签CS数据上训练。我们的研究结果表明，应用机器学习框架，使用两个国家的最先进的POS标签实现了更好的性能相比，我们调查的所有其他方法。
2019-11-03 cs.CL
An Experimental Investigation of Part-Of-Speech Taggers for Vietnamese
University of Engineering and Technology, VNU Hanoi（河内国立大学工程技术大学）；Ton Duc Thang University（孙德胜大学）
词性标注在自然语言处理中起着重要的作用。它可以应用于许多自然语言处理任务，如命名实体识别、句法分析、依存句法分析和文本组块。在本文中进行的调查，我们利用两个广泛使用的工具包，ClearNLP和斯坦福POS标签的技术，以及开发两个新的POS标记越南语，然后将它们与三个著名的越南语标签，即JVnTagger，vnTagger和RDRPOSTagger。我们做了一个系统的比较，以找出具有最佳性能的标记器。我们还设计了一个新的功能集来衡量统计标记器的性能。我们从Stanford Tagger和ClearNLP构建的新标记器具有新的功能集，可以在标记准确性方面胜过所有其他越南标记器。此外，我们还分析了一些特征对统计标记器性能的影响。最后，实验结果还表明，基于转换的标签，RDRPOSTagger，可以运行速度显着快于任何其他统计标签。
2022-06-14 cs.CL
Latin Treebanks in Review: An Evaluation of Morphological Tagging Across Time
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）
本研究梳理现有拉丁语树库的文本来源、重叠性及时空体裁覆盖，设计形态特征标注的自动化标准转换，构建时间周期数据划分开展跨时间标注分析，证实基于BERT的标注器性能与鲁棒性更优。
2024-08-13 cs.CL
Improving Part-of-Speech Tagging for NLP Pipelines
RAGE Frameworks（RAGE Frameworks 公司）；Genpact（简柏特）
本文概述了基于句子级语言学的改进词性标注规则的结果。众所周知，如果初始阶段之一不完美，复杂NLP系统的性能就会受到负面影响。管道初始阶段的错误会对管道的最终性能产生滚雪球效应。我们已经创建了一套基于语言学的规则，在句子层面上调整部分的词性标签从国家的最先进的标签。在广泛使用的基准上与最先进的标记器进行比较，证明了标记准确性的显着提高，从而提高了NLP系统的质量和准确性。
2017-08-01 cs.CL
Parts-of-Speech Tagger Errors Do Not Necessarily Degrade Accuracy in Extracting Information from Biomedical Text
CRC for Innovative Dairy Products（创新乳制品合作研究中心）；The University of Melbourne（墨尔本大学）；Victorian Bioinformatics Consortium（维多利亚生物信息学联盟）；Monash University（莫纳什大学）
最近的一项研究报告了Muscorian的发展，这是一种通用的文本处理工具，用于从文本中提取蛋白质-蛋白质相互作用，其性能可与生物医学特定的文本处理工具相媲美。这一结果是出乎意料的，因为一系列文本分析过程中的潜在错误可能会对整个过程的结果产生不利影响。大多数生物医学实体关系提取工具使用生物医学特定的词性（POS）标记器作为POS标记的错误，并可能影响后续的文本语义分析，如浅层解析。本研究旨在评估词性（POS）标记的准确性，并试图探讨是否获得了可比的性能时，通用的POS标记，MontyTagger，被用来代替MedPost，一个tagger训练的生物医学文本。我们的结果表明，在生物医学文本上测试时，Muscorian的POS标签器MontyTagger的POS标签准确率为83.1%。用MedPost替换MontyTagger并没有导致从文本中提取实体关系的显著改善;在定向关系上，MontyTagger的精确度为55.6%，MedPost为56.8%，在非定向关系上，MontyTagger为86.1%，MedPost为81.8%。这是意料之外的，因为MontyTagger的不良POS标记可能会影响信息抽取的结果。对词性标注错误的分析表明，78.5%的标注错误被浅层句法分析所弥补。因此，尽管标记准确率为83.1%，但MontyTagger的功能标记准确率为94.6%。
2008-04-02 cs.CL cs.IR
Neural Morphological Tagging for Nguni Languages
Department of Computer Science（计算机科学系）；University of Cape Town（开普敦大学）
针对恩古尼语形态解析难题，研究构建神经形态标注器，对比两类神经方法与传统规则方法，发现从头训练的神经标注器性能最优，验证了该方案的可行性。
2025-05-19 cs.CL
Extracting Headless MWEs from Dependency Parse Trees: Parsing, Tagging, and Joint Modeling Approaches
Cornell University（康奈尔大学）
一种有趣且常见的多词表达（MWE）类型是无头MWE，它没有真正的内部句法优势关系;例子包括许多命名实体（“富国银行”）和日期（“2020年7月5日”）以及某些生产性结构（“打击打击”，“日复一日”）。尽管他们的特殊地位和流行，目前的依赖性注释计划需要处理这样的平面结构，如果他们有内部的句法头，和大多数目前的分析器处理他们在相同的方式作为领导建设。同时，在解析的上下文之外，标记器通常用于识别MWE，但标记器可能受益于结构信息。我们经验比较这两种常见的策略-解析和标记-预测平坦MWE。此外，我们提出了一个有效的联合解码算法，结合这两种策略的分数。在MWE-Aware英语依存语料库和六个具有频繁平面结构的非英语依存树库上的实验结果表明：（1）标记比解析更准确地识别平面结构的MWE，（2）我们的联合解码器协调了两种不同的观点，对于非BERT特征，导致更高的准确率，（3）大部分收益来自解析器和标记器之间的特征共享。
2020-05-06 cs.CL
Automatic Error Detection in Part of Speech Tagging
描述了一种用于检测由隐马尔可夫模型标记器所产生的错误的技术，该技术基于将标记过程的可观察值与阈值进行比较。由此产生的方法允许的准确性的标签，以提高接受较低的效率，定义为被标记的单词的比例。实证观察表明该技术的有效性，并建议如何选择一个适当的阈值。
1994-10-21 cmp-lg cs.CL
A Morphology-System and Part-of-Speech Tagger for German
本文提出了一个集成的德语词法和统计词性标注工具，其目的是使一些行之有效的方法广泛使用。该软件是非常用户友好的，运行在任何PC上，可以作为一个完整的包（包括词典和文档）从万维网下载。与其他标注系统的性能相比，标注器产生类似的结果。
1996-10-30 cmp-lg cs.CL
Building an Ensemble LLM Semantic Tagger for UN Security Council Resolutions
Independent Researcher（独立研究者）
本文提出了一种基于集成大语言模型的语义标注方法，通过引入内容保留率和标签规范性指标，提高联合国安理会决议的标注准确性与效率。
2026-03-06 cs.CL
Hidden Markov Model Based Part of Speech Tagger for Sinhala Language
Virtusa (Pvt.) Ltd（Virtusa（私人）有限公司）
在本文中，我们提出了一个基本的词汇语义的僧伽罗语和隐马尔可夫模型（HMM）为僧伽罗语的词性标注。在任何自然语言处理任务中，词性分析都是一个非常重要的课题，它涉及到对语言的结构、行为和动态的分析，这些知识可以用于计算语言学分析和自动化应用。虽然僧伽罗语是一种形态丰富和黏着的语言，其中单词具有各种语法特征，但标记对于进一步分析语言非常重要。我们的研究是基于统计的方法，其中的标记过程是通过计算的标签序列概率和词的可能性概率从给定的语料库，其中的语言知识是自动提取的注释语料库。目前的标记器可以达到90%以上的准确率为已知的话。
2014-07-10 cs.CL
A Modality Lexicon and its use in Automatic Tagging
University of Maryland, College Park, MD（马里兰大学帕克分校（马里兰州））；Carnegie Mellon University, Pittsburgh, PA（卡内基梅隆大学（宾夕法尼亚州匹兹堡））；U.S. Dept. of Defense, Fort Meade, MD（美国国防部（马里兰州米德堡））；Johns Hopkins Applied Physics Laboratory, Laurel, MD（约翰霍普金斯应用物理实验室（马里兰州劳雷尔））；Johns Hopkins HLT Center of Excellence, Baltimore, MD（约翰霍普金斯HLT卓越中心（马里兰州巴尔的摩））
本文介绍了我们的资源建设成果，为期八周的JHU人类语言技术卓越夏令营中心应用语言探索（SCALE-2009）语义知情的机器翻译。具体来说，我们描述了一个模态注释计划，模态词典，和两个自动模态标记器，建立使用的词典和注释计划的建设。我们的注释方案是基于识别模态的三个组成部分：触发器，目标和持有人。我们描述了我们的模态词典是如何半自动地产生的，从最初的手选择的模态触发词和短语的列表扩展。由此产生的扩展模态词汇正在向公众提供。我们证明，一个标签-基于结构的标签-结果在精度约86%（取决于流派）的标记一个标准的LDC数据集。在一个机器翻译应用中，使用基于结构的标记器在英语-乌尔都语训练语料库上注释英语模态，在面对稀疏训练数据时，乌尔都语的翻译质量分数提高了0.3个Bleu点。
2014-10-17 cs.CL
Unsupervised Part-of-Speech Induction
University of Pittsburgh（匹兹堡大学）
词性标注是自然语言处理中一项古老而基础的工作。虽然监督POS标记器已经显示出有希望的准确性，但由于缺乏标记数据，使用监督方法并不总是可行的。在这个项目中，我们试图通过一个层次凝聚聚类过程迭代地寻找一个重复出现的单词模式，从而毫不奇怪地诱导POS标签。我们的方法显示出有前途的结果相比，国家的最先进的无监督POS标签的标记结果。
2018-01-10 cs.CL
A CRF Based POS Tagger for Code-mixed Indian Social Media Text
Jadavpur University（贾达普大学）
在这项工作中，我们描述了一个基于条件随机场（CRF）的系统，用于代码混合的印度社交媒体文本的词性（POS）标记，作为我们参与代码混合的印度社交媒体文本的POS标记工具竞赛的一部分，与2016年自然语言处理国际会议，印度理工学院（BHU），印度一起举行。我们只参加了所有三种语言对的约束模式竞赛，孟加拉语-英语，印地语-英语和Telegu-英语。我们的系统达到了79.99的整体平均F1得分，这是最高的整体平均F1得分在所有16个系统中参加了约束模式的比赛。
2016-12-23 cs.CL
ACO-tagger: A Novel Method for Part-of-Speech Tagging using Ant Colony Optimization
Allameh Tabataba’i University（阿拉梅·塔巴塔巴伊大学）
近年来，群体智能算法作为解决复杂和不确定性问题的一种手段得到了极大的关注。这些算法受到自然生物集体行为的启发，它们模拟这种行为来开发智能代理以执行计算任务。蚁群优化算法（ACO）就是其中之一，它的灵感来自于蚂蚁的觅食行为和它们的信息素铺设机制。蚁群算法用于解决离散和组合性质的困难问题。词性标注是自然语言处理中的一项基本任务，其目的是为句子中的每个词分配词性角色。本文提出了一种基于蚁群算法的高性能POS标注方法ACO-tagger。该方法实现了96.867%的高准确率，优于几种最先进的方法。所提出的方法是快速和有效的，使其成为实际应用的可行选择。
2023-03-27 cs.AI cs.CL cs.LG
Improving Data Driven Wordclass Tagging by System Combination
在本文中，我们将研究如何利用执行相同NLP任务的不同数据驱动系统之间的建模差异，以获得比最佳单个系统更高的准确性。我们这样做是通过一个实验，涉及的任务，形态句法词类标记。四个著名的标注生成器（隐马尔可夫模型，基于记忆，转换规则和最大熵）在相同的语料库数据进行训练。比较后，他们的输出结合使用几个投票策略和第二阶段分类器。所有组合标记器都优于其最佳组件，最佳组合的错误率比最佳单个标记器低19.1%。
1998-07-31 cmp-lg cs.CL
MBT: A Memory-Based Part of Speech Tagger-Generator
我们介绍了一种基于记忆的方法来词性标注。基于记忆的学习是一种基于相似性推理的监督学习。在特定语境中，一个词的词性标记是从记忆中最相似的案例中推断出来的。当标记的语料库可用作标记器的期望输出的示例时，监督学习方法是有用的。基于这样的语料库，标记生成器自动构建一个标记器，该标记器能够以相同的方式标记新文本，从而大大减少了标记器构建的开发时间。基于记忆的标记与其他统计或机器学习方法共享这一优势。基于记忆的方法特有的其他优点包括：（i）相对较小的标记语料库大小足以用于训练，（ii）增量学习，（iii）解释能力，（iv）在情况表示中灵活地整合信息，（v）其非参数性质，（vi）在不进行形态分析的情况下对未知单词的合理良好结果，以及（vii）快速学习和标记。在本文中，我们表明，大规模应用的内存为基础的方法是可行的：我们获得了标记的准确性，这是与已知的统计方法，并具有吸引力的空间和时间复杂度属性时，使用{ \em IGTree}，一个基于树的形式主义索引和搜索巨大的情况下基地。IGTree的使用具有动态计算用于消歧的最佳上下文大小的额外优点。
1996-07-11 cmp-lg cs.CL
From Traditional Taggers to LLMs: A Comparative Study of POS Tagging for Medieval Romance Languages
Bavarian Academy of Sciences (BAdW)（巴伐利亚科学院）；Department of Statistics, LMU Munich, Germany（慕尼黑大学统计系）；Munich Center for Machine Learning (MCML), LMU Munich, Germany（慕尼黑机器学习中心）
本文比较了传统规则和统计标注器与现代开源LLMs在中世纪罗曼语词性标注中的表现，发现LLMs在零样本、少样本、单语微调和跨语言迁移学习中均表现更优，尤其在资源匮乏语言中跨语言迁移学习效果显著。
2026-05-09 cs.AI cs.CL stat.AP
AsPOS: Assamese Part of Speech Tagger using Deep Learning Approach
词性标注是自然语言处理的重要内容。这是一个在几种资源丰富的语言中得到充分研究的主题。然而，尽管存在许多历史和文学丰富的语言，但计算语言资源的发展仍处于起步阶段。阿萨姆语是印度的一种法定语言，有超过2500万人使用，属于这一类。在本文中，我们提出了一个基于深度学习（DL）的阿萨姆语词性标注器。开发过程分为两个阶段。在第一阶段，使用预先训练好的词嵌入来训练多个标注模型。这使我们能够评估词嵌入在词性标注任务中的性能。第一阶段中表现最好的模型被用来注释另一组新句子。在第二阶段，使用新的数据集进一步训练模型。最后，我们达到了86.52%的标记准确率在F1评分。该模型可作为进一步研究基于DL的阿萨姆语词性标注的基础。
2022-12-14 cs.AI cs.CL cs.LG
Tagging and Morphological Disambiguation of Turkish Text
自动文本标注是文本语料库高级分析的重要组成部分，其结果可用于许多自然语言处理应用。在土耳其语或芬兰语等语言中，由于许多词汇形式的结构在形态上是模糊的，因此在使用粘着形态学时，形态消歧是标注的一个非常关键的过程。本文描述了一个土耳其语文本的POS标记的基础上，土耳其语形态的全面两级规范，是基于一个约24,000根字的词典。这是一个多词和惯用的结构识别器，最重要的是形态消歧器的基础上，当地的邻里约束，语法和统计信息的有限数量。标记器还具有统计编译和微调的形态分析仪，如记录错误的形态分析，常用的根等初步结果表明，标记器可以标记约98-99\%的文本准确地与非常少的用户干预的功能。此外，句子形态消歧的标签，LFG解析器开发的土耳其语，生成，平均，50%的不明确的解析和解析速度快了近2.5倍。标记功能并不特定于土耳其语，并且可以应用于具有适当形态分析接口的任何语言。
1994-07-29 cmp-lg cs.CL
Augmenting a BiLSTM tagger with a Morphological Lexicon and a Lexical Category Identification Step
Reykjavik University（雷克雅未克大学）；The Árni Magnússon Institute for Icelandic Studies（阿尼·马格努松冰岛研究所）
以前使用BiLSTM模型进行PoS标记的工作主要集中在小标记集上。我们评估BiLSTM模型标记冰岛语，形态丰富的语言，使用相对较大的tagset。我们的基线BiLSTM模型比任何以前发表的没有利用形态词典的标记器实现了更高的准确性。当我们通过合并这些数据来扩展模型时，我们的表现明显优于以前的最先进的结果。我们还报告正在进行的工作，试图解决的问题，固有的数据稀疏形态详细，细粒度的标签集。我们尝试只在词汇类别上训练一个单独的模型，并使用粗粒度的输出标记作为主模型的输入。该方法进一步提高了准确性，并减少了21.3%的标记错误相比，以前的国家的最先进的结果。最后，我们训练和测试我们的标签上的一个新的黄金标准，冰岛。
2019-07-21 cs.CL cs.LG
Weakly Supervised Named Entity Tagging with Learnable Logical Rules
University of California San Diego（加州大学圣地亚哥分校）；Bosch Research North America（博世北美研究院）；Bosch Research（博世研究院）
本文研究了在弱监督的情况下，使用少量规则建立实体标注系统的问题。以前的方法主要集中在基于上下文和专家提供的规则消除歧义的实体类型，而假设实体跨度是给定的。在这项工作中，我们提出了一种新的方法TALLOR，引导高质量的逻辑规则训练神经标签在一个完全自动化的方式。具体来说，我们引入了由简单规则组成的复合规则，以提高边界检测的精度，并生成更多样化的伪标签。我们进一步设计了一个动态标签选择策略，以确保伪标签的质量，从而避免过拟合的神经标签。在三个数据集上的实验表明，我们的方法优于其他弱监督方法，甚至可以与最先进的远程监督标记器相媲美，该标记器从20个简单规则开始时拥有超过2,000个术语。我们的方法可以作为一种工具，在新兴领域和任务中快速构建标记。案例研究表明，学习的规则可以潜在地解释预测的实体。
2021-07-05 cs.AI cs.CL
Optimal Size-Performance Tradeoffs: Weighing PoS Tagger Models
IT University of Copenhagen（哥本哈根信息技术大学）
基于机器学习的NLP性能的改进通常是通过更大的模型和更复杂的代码来呈现的。这是一个权衡：更好的分数是以更大的工具为代价的;更大的模型往往需要更多的训练和推理时间。我们提出了多种方法来测量模型的大小，并将其与模型的性能进行比较。在词性标注的案例研究中，我们将这些技术应用于八种语言的标注器，并提出了一种新的分析，确定哪些标注器是尺寸性能最佳的。结果表明，一些经典的标签的地方跨语言的大小性能的天际线。此外，尽管深度模型对于多个分数具有最高的性能，但通常不是这些模型中最复杂的模型达到峰值性能。
2021-04-16 cs.CL
Ensembling and Knowledge Distilling of Large Sequence Taggers for Grammatical Error Correction
Ukrainian Catholic University（乌克兰天主教大学）；Grammarly
在本文中，我们研究了GEC序列标记架构的改进，重点是在大型配置中集成最新的基于Transformer的编码器。我们鼓励在跨度级别的编辑上通过多数投票来集成模型，因为这种方法对模型架构和词汇表大小是宽容的。我们的最佳集成在2019年（测试）上获得了新的SOTA结果，$F_{0.5}$得分为76.05，即使没有在合成数据集上进行预训练。此外，我们使用经过训练的集成来执行知识蒸馏，以生成新的合成训练数据集“Troy-Blogs”和“Troy-1BW”。我们在生成的Troy数据集上预训练的最佳单序列标记模型与公开可用的合成PIE数据集相结合，实现了接近SOTA（据我们所知，我们最好的单模型仅让位于更重的T5模型结果，$F_{0.5}$在2019年测试中的得分为73.21）。代码、数据集和训练模型是公开的）。
2022-03-24 cs.CL
A Modular Part-of-Speech Tagger for Scottish Gaelic using spaCy
School of Computing, Engineering, & the Built Environment, Edinburgh Napier University（爱丁堡龙比亚大学计算、工程与建成环境学院）
本文基于spaCy框架，用苏格兰盖尔语标注参考语料库训练出两个形态标注模型，在低资源形态复杂的盖尔语上取得与现有模型相当的准确率，证明现成NLP流水线可用于该类语言处理。
2026-08-06 cs.CL
What Taggers Fail to Learn, Parsers Need the Most
Universidade da Coruña（科鲁尼亚大学）；CITIC；FASTPARSE Lab, LyS Research Group（FASTPARSE实验室，LyS研究组）
我们提出了一个错误分析的神经UPOS标签，以评估为什么使用黄金标准的标签有这么大的积极贡献，解析性能，而使用预测的UPOS标签要么损害性能或提供一个微不足道的改进。我们评估了神经依赖分析器隐式地学习单词类型，以及这与标记器的错误如何相关，以解释使用预测标记对分析器的最小影响。我们还提出了一个简短的分析，什么情况下导致标记性能的降低。然后，我们屏蔽UPOS标签的基础上所作的错误，标签，标签成功和失败的分类正确和标签错误的影响梳理出UPOS标签的贡献。
2021-04-02 cs.AI cs.CL
Rapid Adaptation of POS Tagging for Domain Specific Uses
University of Delaware（特拉华大学）；Georgetown University Medical Center（乔治城大学医学中心）
词性标注是自然语言分析、信息抽取和问答等自然语言处理的基础。当POS标记器在一个域中训练并应用于显著不同的域时，其性能可能会显着降低。我们提出了一种快速适应新领域的POS标签的方法。我们的技术是无监督的，因为新领域的手动注释语料库是不必要的。我们使用从大量原始文本中收集的后缀信息以及正字法信息来增加词汇覆盖率。我们提出了一个实验中的生物领域，我们的POS标签实现的结果相比，专门训练到这个领域的POS标签。
2014-10-31 cs.CL cs.LG stat.ML
POS tagging, lemmatization and dependency parsing of West Frisian
Fryske Akademy（弗里斯兰学院）；University of Groningen（格罗宁根大学）；BNOSAC；Utrecht University（乌得勒支大学）
我们提出了一个lemmatizer/POS标签/依赖分析器西弗里斯兰语使用语料库的44,714个单词的3,126句，根据通用依赖版本2的指导方针进行注释。POS标签被分配给单词使用荷兰语POS标签，适用于逐字翻译，或荷兰语平行文本的句子。使用弗里斯兰语翻译程序Oersetter创建的直译时获得了最佳结果。形态和句法注释的基础上产生的荷兰语直译以及。将使用默认参数训练时的lemmatizer/tagger/annotator的性能与使用用于训练LassySmall UD 2.5语料库的参数值时获得的性能进行比较。一个显着的改善被发现为'lemma'。Frisian lemmatizer/PoS tagger/dependency parser作为Web应用程序和Web服务发布。
2021-07-28 cs.CL stat.ML
Weakly Supervised POS Taggers Perform Poorly on Truly Low-Resource Languages
New York University（纽约大学）；Siteimprove；University of Copenhagen（哥本哈根大学）
用于低资源语言的词性（POS）标记器，其完全基于各种形式的弱监督-例如，跨语言迁移、类型级监督或其组合-已经被报告执行得几乎与监督的一样好。然而，弱监督的POS标记器通常只在与真正的低资源语言非常不同的语言上进行评估，并且标记器使用信息源，如高覆盖率和几乎无错误的字典，这可能不适用于资源贫乏的语言。我们训练和评估国家的最先进的弱监督POS标记的类型多样的15个真正的低资源的语言。在这些语言上，给定现实的资源量，即使是我们最好的模型也只能正确识别不到一半的单词。我们的研究结果强调了需要新的和不同的方法来真正的低资源语言的词性标注。
2020-04-28 cs.CL
Statistical modality tagging from rule-based annotations and crowdsourcing
Columbia University（哥伦比亚大学）；University of Maryland（马里兰大学）；Carnegie Mellon University（卡内基梅隆大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
我们探索训练自动模态标注器。情态是说话人对某一事件或状态的态度。训练语言标记器的主要障碍之一是收集训练数据。这对于训练用于模态的标记器来说尤其成问题，因为模态触发器对于绝大多数句子来说是稀疏的。我们研究了一种自动训练模态标注器的方法，我们首先根据一个高召回率的简单的基于规则的模态标注器收集句子，然后将这些句子提供给Mechanical Turk注释器进行进一步注释。我们使用得到的一组训练数据训练一个精确的模态标签使用多类SVM，提供良好的性能。
2015-03-04 cs.CL cs.LG stat.ML
Distant Supervision from Disparate Sources for Low-Resource Part-of-Speech Tagging
IT University of Copenhagen（哥本哈根信息技术大学）
我们介绍DsD：一个跨语言的神经词性标记器，从不同的远程监督来源学习，并实际扩展到数百种低资源语言。该模型利用注释投影，实例选择，标记字典，形态词典，和分布式表示，所有在一个统一的框架。这种方法很简单，但令人惊讶的有效，导致了一个新的最先进的状态，而无需访问任何黄金注释的数据。
2018-08-29 cs.CL
Reduplicated MWE (RMWE) helps in improving the CRF based Manipuri POS Tagger
MIT, Manipur University（曼尼普尔大学MIT分校）；Manipur University（曼尼普尔大学）；Jadavpur University（jadavpur大学）
本文对基于条件随机场（CRF）的词性标注中的修正特征选择进行了详细的综述。在CRF中，特征的选择是如此重要，特征越好，输出就越好。本工作是一种尝试或实验，使以前的工作更有效率。尝试多个新功能来运行CRF，并再次尝试使用重复多词表达式（RMWE）作为另一个功能。由于曼尼普尔语中含有丰富的RMWE，因此CRF与RMWE一起运行，而RMWE的识别成为提出词性标注结果的必要条件之一。新的CRF系统的召回率为78.22%，准确率为73.15%，F-测量为75.60%。识别出RMWE并将其作为特征，使召回率提高到80.20%，准确率提高到74.31%，F-测度提高到77.14%。
2012-03-22 cs.CL
A New Concept of Deep Reinforcement Learning based Augmented General Sequence Tagging System
Samsung Research America（三星美国研究院）
本文提出了一种新的基于深度强化学习的增强通用序列标注系统。新系统包含两个部分：基于深度神经网络（DNN）的序列标记模型和基于深度强化学习（DRL）的增强标记器。增强标记器通过对具有少数标记的数据进行建模来帮助提高系统性能。使用ATIS和CoNLL-2003基准数据集对新系统进行SLU和NLU序列标记任务的评估，以展示新系统在一般标记任务上的出色性能。通过F1评分，新系统在ATIS数据集和CoNLL-2003数据集上的性能分别比当前最先进的模型高1.9%和1.4%。
2018-12-26 cs.CL cs.LG stat.ML
Tagging French -- comparing a statistical and a constraint-based method
在本文中，我们比较了两种竞争的方法，词性标注，统计和基于约束的消歧，使用法语作为我们的测试语言。我们对我们的实验施加了时间限制：花在设计约束系统上的时间与我们用来训练和测试易于实现的统计模型的时间大致相同。我们描述了两个系统，并比较结果。统计方法的准确性相当好，可以与英语的taggers相媲美。但是基于约束的标记器似乎更优越，即使我们允许自己进行规则开发的时间有限。
1995-03-02 cmp-lg cs.CL
Comparing a Linguistic and a Stochastic Tagger
关于不同的方法来自动PoS标记：EngCG-2，一个基于约束的形态标记，在双盲测试中进行比较，与最先进的统计标记在一个共同的消歧任务，使用一个共同的标签集。实验表明，对于相同的剩余歧义，统计标注器的错误率比基于规则的标注器的错误率高一个数量级。两个相关的问题的启动影响妥协的结果和人类注释者之间的分歧也得到了解决。
1997-06-07 cmp-lg cs.CL
A Grounded Unsupervised Universal Part-of-Speech Tagger for Low-Resource Languages
Charles University in Prague（布拉格查理大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；University of Southern California（南加州大学）
无监督词性标注通常被视为一个聚类问题，但实际的标注者也需要对它们的聚类进行\textit{ground}。基础通常需要引用标记的数据，这是低资源语言可能没有的奢侈。在这项工作中，我们描述了一种低资源的无监督POS标记，产生完全接地输出，不需要标记的训练数据的方法。我们发现Brown等人（1992）的经典方法在我们的用例中很好地聚类，并采用基于解密的方法来接地。这种方法假定一个簇ID序列是一个“密文”，并寻求一个POS标签到簇ID的映射，这将揭示POS序列。我们从本质上表明，尽管任务的难度，我们在各种语言中获得合理的性能。我们还表明，将我们的POS标签到一个名称标签导致国家的最先进的标记性能在僧伽罗语和基尼亚卢旺达语，两种语言几乎没有标记的POS数据。我们通过将其并入Malopa的真正“零资源”变体（Ammar等人，2016）依赖解析器模型，消除了当前对多语言资源和新语言的黄金POS标签的依赖。实验表明，包括我们的标签弥补了大部分的准确性损失时，黄金POS标签不可用。
2019-04-10 cs.AI cs.CL cs.LG
Character-based Joint Segmentation and POS Tagging for Chinese using Bidirectional RNN-CRF
Uppsala University（乌普萨拉大学）；University of Helsinki（赫尔辛基大学）
本文提出了一种基于字符的汉语联合分词和词性标注模型。通用序列标记的双向RNN-CRF架构适用于捕获丰富上下文信息和低于字符级别特征的中文字符的新型矢量表示。对所提出的模型进行了广泛的评估，并分别在CTB 5、CTB 9和UD中文上与最先进的标记器进行了比较。实验结果表明，我们的模型是准确的和强大的数据集在不同的大小，类型和注释方案。我们在CTB 5上获得了最先进的性能，联合分割和POS标记的F1得分达到94.38。
2017-09-12 cs.CL
Machine Learning Approaches for Amharic Parts-of-speech Tagging
Mangalore University（芒格洛尔大学）
词性标注被认为是许多自然语言处理（NLP）应用（如词义消歧、信息检索、信息处理、句法分析、问答和机器翻译）所需的基本但必要的工具之一。当前的阿姆哈拉语POS标签器的性能不如英语和其他欧洲语言的当代POS标签器。这项工作的目的是提高阿姆哈拉语的POS标记性能，这是从来没有超过91%。形态学知识的使用，现有的注释数据的扩展，特征提取，参数调整应用网格搜索和标记算法已被检查，并获得显着的性能差异从以前的作品。我们使用了三个不同的数据集进行POS实验。
2020-01-10 cs.CL cs.IR cs.LG
Strong Multilingual Privacy Tagging at Encoder Speed
RWS Language Weaver
本研究提出一种多语言隐私命名实体标注器，通过微调编码器实现细粒度编辑，在七种语言上达到88.8的F1，显著优于现有方法，并支持低成本扩展和快速推理。
2026-10-14 cs.CL
Part-of-Speech Tagger for Bodo Language using Deep Learning approach
IIT Guwahati（印度理工学院古瓦哈蒂分校）
本文提出BodoBERT语言模型及基于深度学习的波多语词性标注模型，实现了0.8041的F1分数，并比较了阿萨姆语词性标注器。
2024-01-06 cs.AI cs.CL cs.LG
Semi-Supervised Neural System for Tagging, Parsing and Lematization
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文介绍了ICS PAS系统，该系统参加了CoNLL 2018共享任务，从原始文本到通用语法的多语言解析。该系统由联合训练的tagger，lemmatizer和依赖解析器组成，它们基于biLSTM网络提取的特征。该系统使用全连接和扩张卷积神经架构。我们的方法的新颖之处在于使用了一个额外的损失函数，它减少了预测依赖图中的周期数，并使用自训练来提高系统性能。拟议的系统，即ICS PAS（Warszawa），在正式评估中排名第3/第4，获得以下总体结果：73.02（LAS），60.25（MLAS）和64.44（BLEX）。
2020-04-26 cs.CL
An Ensemble Approach for Annotating Source Code Identifiers with Part-of-speech Tags
Bowling Green State University（鲍林格林州立大学）；Prince Sultan University（苏丹亲王大学）；BNY Mellon（纽约梅隆银行）；Drew University（德鲁大学）
本文提出了一种集成的源代码标识符词性标注方法。包围标注是一种使用机器学习和来自多个词性标注器的输出来以比词性标注器能够独立获得的更高的质量注释自然语言文本的技术。我们的合奏使用三个国家的最先进的词性标记：SWUM，POSSE和斯坦福大学。我们研究了五种不同类型的标识符名称的合奏的注释的质量：功能，类，属性，参数和声明声明语句在两个单独的单词和完整的标识符名称的水平。同时，我们也研究和讨论了我们的标注器的不足之处，希望通过进一步的研究来促进这些问题的改进。实验结果表明，该集成方法在识别符级的识别率达到75%，在词级的识别率达到84- 86%.这是在标识符级别上从最接近的独立词性标注器增加了+17\%点。
2021-09-01 cs.CL cs.SE
Probabilistic Tagging with Feature Structures
所描述的标签是基于一个隐马尔可夫模型，并使用标签组成的功能，如部分的语音，性别等标签的上下文概率（状态转移概率）推导出其特征值对的上下文概率。当可用的训练语料库很小而标签集很大时，这种方法是有利的，这可能是形态丰富的语言的情况。
1994-10-25 cmp-lg cs.CL
A Freely Available Morphological Analyzer, Disambiguator and Context Sensitive Lemmatizer for German
在本文中，我们提出了Morphy，德语形态，词性标注和上下文敏感的词形化的综合工具。它拥有超过320，000个单词形式的大型词典，加上它处理德语复合名词的能力，保证了广泛的形态覆盖范围。句法歧义可以用标准的统计词性标注器来解决。通过使用标记器的输出，词形化器可以确定正确的词根，即使是有歧义的单词形式。完整的软件包是免费提供的，可以从万维网下载。
1998-09-23 cs.CL
