CommonMorph: Participatory Morphological Documentation Platform
CommonMorph通过专家定义、贡献者 elicitation 和社区验证三阶段方法,简化形态学数据收集,支持多种形态学系统,提供开源设计和UniMorph兼容输出,用于保护语言多样性。
2026-04-06 cs.CL
Taxonomic Loss for Morphological Glossing of Low-Resource Languages
University of Colorado(科罗拉多大学)
本文提出利用形态信息的分类损失函数,以提升低资源语言的形态标注性能,虽未提升单标签准确率,但改善了前n个预测标签的质量,适用于人机协同标注。
2023-08-29 cs.CL cs.LG
Single-Model Encoder-Decoder with Explicit Morphological Representation for Reinflection
Center for Information & Language Processing(信息与语言处理中心);LMU Munich(慕尼黑大学)
形态再反射是在给定源表单、源标签和目标标签的情况下生成目标表单的任务。我们提出了一种新的方法来模拟这个任务的神经编码器-解码器模型。我们的方法减少了这种架构所需的训练数据的量,并实现了最先进的结果,使编码器-解码器模型适用于形态反射,即使是低资源的语言。在此基础上,提出了一种基于编辑树的输出自动校正方法。
2016-06-02 cs.CL
Heidelberg-Boston @ SIGTYP 2024 Shared Task: Enhancing Low-Resource Language Analysis With Character-Aware Hierarchical Transformers
Heidelberg University(海德堡大学);Sattler College(萨特勒学院)
本工作向SIGTYP 2024共享任务受限子任务提交系统,针对13种历史语言,采用分层分词结合DeBERTa-V3架构进行词性与形态标注,并利用字符级T5模型进行词形还原,从头预训练后获得第一名。
2024-05-30 cs.CL
LGSE: Lexically Grounded Subword Embedding Initialization for Low-Resource Language Adaptation
L3S Research Center Hannover(汉诺威L3S研究中心)
LGSE通过引入词法信息的子词分割方法,改进低资源语言适应中的词嵌入初始化,通过平均预训练的子词或FastText词法表示,提升表示质量。
2026-03-23 cs.AI cs.CL
Unsupervised Morphological Paradigm Completion
Carnegie Mellon University(卡内基梅隆大学);Johns Hopkins University(约翰斯·霍普金斯大学);University of Colorado(科罗拉多大学)
我们提出了无监督形态范式完成的任务。仅给定原始文本和词元列表,任务包括生成形态范例,即,所有的词形变化形式。从自然语言处理(NLP)的角度来看,这是一项具有挑战性的无监督任务,高性能系统有潜力改进低资源语言的工具或帮助语言注释者。从认知科学的角度来看,这可以揭示儿童如何获得形态知识。我们进一步介绍了一个系统的任务,通过以下步骤生成形态范式:(i)编辑树检索,(ii)额外的引理检索,(iii)范式大小发现,(iv)变形生成。我们对14种不同类型的语言进行了评估。我们的系统轻松地超越了平凡的基线,对于某些语言,甚至比最低监督系统获得了更高的准确性。
2020-05-20 cs.CL
Subword Tokenization Strategies for Kurdish Word Embeddings
Department of Linguistics, University at Buffalo, Buffalo NY, USA(语言学系,布法罗大学,布法罗纽约州)
针对库尔德语低资源词嵌入任务,对比三类分词策略,发现BPE存在评估偏差,基于语素的分词综合表现更优,为低资源语言分词评估与方法选择提供参考。
2025-11-18 cs.CL
Combining Pretrained High-Resource Embeddings and Subword Representations for Low-Resource Languages
The University of Tokyo(东京大学)
目前的自然语言处理(NLP)技术需要大量数据,而缺乏大量数据,这两者之间的对比在非洲语言的情况下更加突出,其中大多数被认为是低资源。为了帮助解决这个问题,我们探索了利用形态丰富语言(MRL)的质量的技术,同时利用资源丰富的语言中的预训练词向量。在我们的探索中,我们证明了一种结合预训练和形态信息的词嵌入的元嵌入方法在科萨语-英语翻译的下游任务中表现最好。
2020-04-21 cs.CL cs.LG
Distant Supervision from Disparate Sources for Low-Resource Part-of-Speech Tagging
IT University of Copenhagen(哥本哈根信息技术大学)
我们介绍DsD:一个跨语言的神经词性标记器,从不同的远程监督来源学习,并实际扩展到数百种低资源语言。该模型利用注释投影,实例选择,标记字典,形态词典,和分布式表示,所有在一个统一的框架。这种方法很简单,但令人惊讶的有效,导致了一个新的最先进的状态,而无需访问任何黄金注释的数据。
2018-08-29 cs.CL
Preparing Korean Data for the Shared Task on Parsing Morphologically Rich Languages
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文件简要介绍了为SPMRL 2013共享任务准备的韩国数据。共有27,363个句子和350,090个标记用于共享任务。所有组成树都是从KAIST树库中收集的,并转化为Penn树库风格。所有的依赖树转换从转换的成分树使用专门为KAIST树库设计的分类和标记规则。除了KAIST Treebank提供的黄金标准形态分析外,还为共享任务提供了两套自动形态分析,一套由HanNanum形态分析仪生成,另一套由Sejong形态分析仪生成。
2013-09-10 cs.CL
Typologically-Informed Candidate Reranking for LLM-based Translation into Low-Resource Languages
ZWAG AI Ltd(ZWAG人工智能有限公司);Dubai AI Campus(迪拜人工智能校园);DIFC(迪拜国际科技论坛)
本文提出一种基于语言类型学的候选重排序框架,通过语言类型学分析提升低资源语言翻译质量,无需平行数据或模型重训练。
2026-02-01 cs.CL
Findings of the LoResMT 2021 Shared Task on COVID and Sign Language for Low-resource Languages
Data Science Institute, NUIG, Galway(爱尔兰国立大学戈尔韦分校数据科学研究所);Panlingua Language Processing LLP, New Delhi(Panlingua语言处理有限责任公司(新德里));Potamu Research Ltd(Potamu研究有限公司);University of Colorado at Boulder(科罗拉多大学博尔德分校);New York University(纽约大学)
我们介绍了LoResMT 2021共享任务的研究结果,该任务侧重于COVID-19数据的机器翻译(MT),包括低资源口语和手语。这项任务的组织是第四次低资源语言机器翻译技术研讨会(LoResMT)的一部分。平行语料库是公开提供的,其中包括以下方向:英语$\leftrightarrow$爱尔兰语,英语$\leftrightarrow$马拉地语,和台湾手语$\leftrightarrow$传统的中国。训练数据分别由8112、20933和128608段组成。有额外的单语数据集马拉地语和英语,包括21901段。这里展示的结果是基于来自总共八个团队的参赛作品。三个团队提交了英语$\leftrightarrow$爱尔兰语的系统,而五个团队提交了英语$\leftrightarrow$马拉地语的系统。遗憾的是,没有针对台湾手语$\leftrightarrow$繁体中文任务的系统提交。使用BLEU计算最大系统性能,英语-爱尔兰语为36.0,爱尔兰语-英语为34.6,英语-马拉地语为24.2,马拉地语-英语为31.3。
2021-08-18 cs.CL
TabuLM: Morphology-Aware Tabular Pre-training for Low-Resource Languages
Barclays(巴克莱银行);Carnegie Mellon University(卡内基梅隆大学)
研究针对低资源语言卢旺达语,提出形态感知表格预训练模型TabuLM,在自研的卢旺达语表格问答基准TabQA-kin上,其精确匹配率显著优于基线模型。
2026-08-28 cs.CL
Why do language models perform worse for morphologically complex languages?
University of California San Diego(加利福尼亚大学圣迭戈分校)
本文通过复现实验和提出MorphScore分词评估指标,证明语言模型性能差距主要源于训练数据规模差异而非语言形态类型本身。
2024-11-21 cs.CL
SU-RUG at the CoNLL-SIGMORPHON 2017 shared task: Morphological Inflection with Attentional Sequence-to-Sequence Models
Stockholm University(斯德哥尔摩大学);University of Groningen(格罗宁根大学)
本文描述了斯德哥尔摩大学/格罗宁根大学(SU-RUG)为SIGMORPHON 2017共享任务的形态变化系统。我们的系统是基于一个注意序列到序列的神经网络模型,使用长短期记忆(LSTM)细胞,联合训练形态拐点和逆变换,即词形化和形态分析。我们的系统以很大的优势超过了基线,我们的提交排名为我们参与的赛道的第四名(任务1,高资源)。
2017-06-12 cs.CL
Tackling the Low-resource Challenge for Canonical Segmentation
University of Stuttgart(斯图加特大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
典型的形态学切分包括将词划分为标准化的词素。在这里,我们感兴趣的任务时,训练数据是有限的方法。我们比较模型的性能,在模拟低资源设置的高资源语言德语,英语和印度尼西亚语的新数据集上的实验,真正的低资源语言Popoluca和Tepehua。我们探索了两个新的任务模型,借鉴了形态生成的密切相关领域:LSTM指针生成器和序列到序列模型,具有通过模仿学习训练的硬单调注意力。我们发现,在低资源环境中,新方法在所有语言上的准确率高达11.4%。然而,尽管所有语言在模拟低资源场景中的准确率都超过了50%,但对于真正的低资源语言Popoluca和Tepehua,我们的最佳模型分别仅获得了37.4%和28.4%的准确率。因此,我们得出结论,规范分割仍然是一个具有挑战性的任务,低资源的语言。
2020-10-06 cs.AI cs.CL stat.ML
Finding the way from ä to a: Sub-character morphological inflection for the SIGMORPHON 2018 Shared Task
Universität Hamburg(汉堡大学)
在本文中,我们描述了UHH提交给CoNLL的系统-SIGMORPHON 2018共享任务:通用形态学再变形。我们提出了一种基于UZH概念的神经架构(Makarov等人,2017年),在其关键概念中加入新的想法和技术,并评估不同的参数组合。由此产生的系统是一个语言无关的网络模型,其目的是通过在单个字符的图形特征上引入等价类来减少学习编辑操作的数量。我们试图通过比较不同的网络配置和评估我们的结果在广泛的语言来确定这种方法的优点和缺点。
2018-09-15 cs.CL
The SIGMORPHON 2020 Shared Task on Unsupervised Morphological Paradigm Completion
University of Colorado Boulder(科罗拉多大学博尔德分校);Johns Hopkins University(约翰斯·霍普金斯大学);University of British Columbia(不列颠哥伦比亚大学)
在本文中,我们描述了SIGMORPHON 2020共享任务在无监督形态范式完成(SIGMORPHON 2020任务2),在屈折形态学领域的一个新的任务的结果。参与者被要求提交系统,该系统将原始文本和词元列表作为输入,并输出所有的屈折形式,即,每个词元的整个形态学范式。为了模拟真实的用例,我们首先发布了5种开发语言的数据。然而,系统在9种令人惊讶的语言上进行了正式评估,这些语言在提交截止日期前几天才公布。我们提供了一个模块化的基线系统,它是一个由4个组件组成的管道。3个团队总共提交了7个系统,但令人惊讶的是,没有一个提交的系统能够在所有9种测试语言的平均基线上有所改进。只有3种语言的提交系统获得了最佳结果。这表明,无监督的形态学范式完成在很大程度上仍然没有解决。我们在这里提出了一个分析,以便这个共同的任务将进一步研究的主题。
2020-05-28 cs.CL
Multilingual Encoder Knows more than You Realize: Shared Weights Pretraining for Extremely Low-Resource Languages
Key Laboratory of Ethnic Language Intelligent Analysis and Security Governance of MOE(民族语言智能分析与安全治理重点实验室);Minzu University of China(民族大学);Shanghai Jiao Tong University(上海交通大学)
提出一种共享编码器与解码器权重的新框架,将多语言编码器适配至极低资源语言的文本生成,构建的XLM-SWCM在四种中国少数民族语言下游任务上表现优于更大模型。
2025-05-29 cs.AI cs.CL
The SIGMORPHON 2019 Shared Task: Morphological Analysis in Context and Cross-Lingual Transfer for Inflection
Johns Hopkins University(约翰斯·霍普金斯大学);University of Melbourne(墨尔本大学);Allen Institute for AI(艾伦人工智能研究所);Google(谷歌);University of Helsinki(赫尔辛基大学);Stony Brook University(石溪大学);University of Colorado(科罗拉多大学)
SIGMORPHON 2019分享了关于跨语言迁移和形态学语境分析的任务,研究了100种语言对之间的屈折变化的迁移学习,以及66种语言的语境词形化和形态句法描述。第一个任务通过考察形态屈折变化知识从高资源语言到低资源语言的迁移来发展过去几年的屈折变化任务。今年还提出了一个新的第二个挑战词形化和形态特征分析的背景。所有提交的作品都有一个神经组件,并建立在今年的强大基线或前几年共享任务的高排名系统上。每个参与团队的准确性都比拐点任务的基线有所提高(尽管不是Levenshtein距离),而上下文分析任务中的每个团队都在最先进的神经和非神经基线上有所提高。
2020-02-25 cs.CL
The CoNLL--SIGMORPHON 2018 Shared Task: Universal Morphological Reinflection
Johns Hopkins University(约翰霍普金斯大学);University of Zurich(苏黎世大学);University of Melbourne(墨尔本大学);NYU(纽约大学);University of Colorado(科罗拉多大学);University of Helsinki(赫尔辛基大学)
CoNLL-SIGMORPHON 2018分享了关于形态生成的监督学习的任务,其中包括来自103种类型多样的语言的数据集。除了增加早期监督任务中涉及的语言数量外,今年的共享任务还包括一个新的第二个任务,要求参与者在上下文中改变单词,类似于完形填空任务。第二个任务包含七种语言。任务1收到27份提交,任务2收到6份提交。这两项任务的特点是低,中,高数据条件。几乎所有提交的作品都包含神经组件,并建立在2017年早期共享任务的高排名系统上。在变音任务(任务1)中,去年的变音任务中的52种语言中有41种在低资源环境中表现出最佳系统的改进。完形填空任务(任务2)被证明是困难的,很少有人能够在一个简单的神经基线系统和一个引理重复基线上持续改进。
2020-02-25 cs.CL
Align and Copy: UZH at SIGMORPHON 2017 Shared Task for Morphological Reinflection
University of Zurich(苏黎世大学)
本文介绍了苏黎世大学提交的SIGMORPHON 2017共享任务的形态反射。任务是预测给定的词元和一组形态句法特征的屈折形式。我们专注于神经网络的方法,可以在有限的资源设置处理任务。由于将引理转换为变形形式主要是通过复制引理字符,因此我们提出了两种具有硬单调注意力的递归神经网络架构,它们在复制方面很强,但在实现这一点方面有很大的不同。第一种方法是具有复制机制的编码器-解码器模型。第二种方法是一个神经状态转换系统在一组显式的编辑动作,包括指定的复制动作。我们对字符对齐进行了实验,发现天真、贪婪的对齐在某些语言中始终会产生很强的效果。我们的最佳系统组合是SIGMORPHON 2017共享任务1的总冠军,无需外部资源。在具有100个训练样本的设置下,我们的两种方法作为模型的集合,都优于下一个最好的竞争对手。
2017-07-06 cs.CL
UDPipe at SIGMORPHON 2019: Contextualized Embeddings, Regularization with Morphological Categories, Corpora Merging
Charles University(查理大学);Faculty of Mathematics and Physics(数学与物理学院);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
我们提出了我们对SIGMORPHON 2019共享任务的贡献:形态学中的跨语言和上下文,任务2:上下文形态分析和词形化。我们提交了UDPipe 2.0的修改,它是CoNLL 2018共享任务中表现最好的系统之一:从原始文本到通用语法的多语言解析,也是2018年外部解析器评估共享任务的总冠军。作为我们的第一个改进,我们使用预训练的上下文嵌入(BERT)作为网络的额外输入;其次,我们使用单个形态特征作为正则化;最后,我们合并相同语言的选定语料库。在词形还原任务中,我们的系统以95.78的词形还原准确率远远超过所有提交的系统(第二名为95.00,第三名为94.46)。在形态分析中,我们的系统紧随其后:我们的形态分析准确率为93.19,获胜系统的93.23。
2019-08-19 cs.CL
A resource-based Korean morphological annotation system
我们描述了一种基于资源的方法的书面朝鲜语文本的形态注释。朝鲜语是一种黏着语。我们的系统的输出是一个图形的词素标注准确的语言信息。系统所使用的语言资源可以方便地更新,这使得用户可以控制系统性能的演变。我们发现,韩语文本的形态注释可以直接进行词汇和没有形态逻辑规则。
2007-11-21 cs.CL
CoNLL-SIGMORPHON 2017 Shared Task: Universal Morphological Reinflection in 52 Languages
Johns Hopkins University(约翰斯·霍普金斯大学);University of Zurich(苏黎世大学);University of Melbourne(墨尔本大学);Google(谷歌);Indiana University(印第安纳大学);University of Colorado(科罗拉多大学)
CoNLL-SIGMORPHON 2017共享的监督形态生成任务要求系统在52种类型学上不同的语言中进行训练和测试。在子任务1中,提交的系统被要求预测给定引理的特定变形形式。在子任务2中,系统被给予一个引理及其一些特定的屈折形式,并被要求通过预测所有剩余的屈折形式来完成屈折范式。这两个子任务包括高、中和低资源条件。子任务1收到24个系统提交,而子任务2收到3个系统提交。继神经序列到序列模型在SIGMORPHON 2016共享任务中取得成功之后,除了一个提交的文件外,所有提交的文件都包含了神经组件。结果表明,只要模型具有适当的归纳偏差,或者利用额外的未标记数据或合成数据,就可以在较小的训练数据集上获得较高的性能。然而,不同的偏置和数据增强导致正确预测不相交的变形形式集,这表明未来还有改进的空间。
2017-07-04 cs.CL
Contextual morphologically-guided tokenization for Latin encoder models
Manning College of Information & Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Institute for the Study of the Ancient World, New York University(纽约大学古代世界研究所)
针对标准分词在形态丰富语言上表现欠佳的问题,提出面向拉丁语编码器的上下文形态引导分词方法,利用拉丁语丰富的词汇资源优化分词,在4项下游任务尤其域外文本上提升性能,为低资源语言建模提供可行路径。
2025-11-12 cs.CL
Pushing the Limits of Low-Resource Morphological Inflection
Carnegie Mellon University(卡内基梅隆大学)
近年来,在自动形态变化生成的任务中取得了非凡的进步。然而,对于长尾语言来说,很难获得必要的资源,并且在较高资源设置下工作良好的最先进的神经方法在面对缺乏数据时表现不佳。作为回应,我们提出了一系列的改进,大大提高了在这种低资源条件下的性能。首先,我们提出了一种新的两步注意力结构的拐点解码器。此外,我们调查的影响,跨语言迁移从单一和多种语言,以及单语数据幻觉。我们的模型的宏观平均准确性比最先进的模型高出15个百分点。此外,我们确定了成功的关键因素与跨语言迁移的形态变化:类型相似性和跨语言的共同表示。
2019-08-20 cs.CL
Learning to Learn Morphological Inflection for Resource-Poor Languages
New York University(纽约大学)
我们建议铸造的任务形态变形-映射一个词元到一个指示的变形形式-资源贫乏的语言作为一个元学习问题。将每种语言视为一个单独的任务,我们使用来自高资源源语言的数据来学习一组模型参数,这些参数可以作为对资源贫乏的目标语言进行微调的强大初始化点。在3个语言家族的29种目标语言上进行的实验表明,我们提出的方法优于所有基线。特别是,它获得了比先前提出的跨语言迁移模型高31.7%的绝对准确度,并且在语言上平均超过1.7%的绝对准确度。
2020-04-28 cs.CL
A Little Pretraining Goes a Long Way: A Case Study on Dependency Parsing Task for Low-resource Morphologically Rich Languages
IIT Kanpur(印度理工学院坎普尔分校);University of Cambridge(剑桥大学);University of Utah(犹他大学);Tata Consultancy Services(塔塔咨询服务公司);IIT Kharagpur(印度理工学院卡拉格普尔分校)
神经依存句法分析在许多领域和语言中都取得了令人瞩目的性能。大量标记数据的瓶颈限制了这些方法对低资源语言的有效性。在这项工作中,我们专注于依存句法分析的形态丰富的语言(MRL)在低资源设置。虽然形态信息是必不可少的依存句法分析任务,形态消歧和缺乏强大的分析器提出了挑战,以获得这些信息的MRL。为了应对这些挑战,我们提出了简单的辅助任务进行预训练。我们在低资源环境中对10个MRL进行实验,以测量我们提出的预训练方法的有效性,并观察到2点(UAS)和3.6点(LAS)的平均绝对增益。代码和数据可在https://github.com/jivnesh/LCM上获得
2021-04-12 cs.CL
Fortification of Neural Morphological Segmentation Models for Polysynthetic Minimal-Resource Languages
LMU Munich(慕尼黑大学);Universidad Nacional Autónoma de México(墨西哥国立自治大学)
多合成语言的形态分割是具有挑战性的,因为一个词可能由许多单独的词素组成,并且训练数据可能非常稀缺。由于神经序列到序列(seq 2seq)模型定义了高资源环境和(大多数)欧洲语言中形态分割的最新技术水平,我们首先证明了它们在最小资源环境中也获得了墨西哥多合成语言的竞争力。然后,我们提出了两种新的多任务训练方法-一种需要外部未标记资源,一种不需要外部未标记资源-以及两种相应的数据增强方法,改进了所有语言的神经基线。最后,我们探索了跨语言迁移作为强化我们的神经模型的第三种方法,并表明我们可以为相关语言训练一个单一的多语言模型,同时保持相当甚至更高的性能,从而减少了接近75%的参数量。我们为Mexicanero,Nahuatl,Wixarika和Yorem Nokki提供了我们的形态分割数据集,以供未来研究。
2018-04-17 cs.CL
Cross-lingual, Character-Level Neural Morphological Tagging
Department of Computer Science, Johns Hopkins University(约翰霍普金斯大学计算机科学系);German Research Center for Artificial Intelligence(德国人工智能研究中心)
针对低资源语言形态标注缺乏监督数据的问题,提出跨语言字符级迁移学习方案,通过多相关语言联合字符表示实现知识迁移,最高提升低资源语言标注准确率30%。
2026-08-25 cs.CL
Low-resource neural machine translation with morphological modeling
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出一种面向低资源神经机器翻译的形态建模框架,采用双层Transformer编码形态信息、多任务多标签训练与束搜索解码,并通过注意力增强集成预训练语言模型及数据增强,在基尼亚卢旺达语—英语翻译上取得与大型多语言模型相当的竞争力。
2024-04-03 cs.CL
Morphological annotation of Korean with Directly Maintainable Resources
Saltlux(盐乐思公司);Université de Marne-la-Vallée(马恩河谷大学);Hankuk University of Foreign Studies(韩国外国语大学)
本文介绍了一种专门基于资源的朝鲜语书面文本形态标注方法。朝鲜语是一种黏着语。我们的注释器被设计为在语法分析器操作之前处理文本。在其目前的状态下,它只注释一个词干。输出是一个词素图,标注了准确的语言信息。该标记集的粒度是普通标记集的3 ~ 5倍。与参考注释语料库的比较表明,它实现了89%的召回没有任何语料库训练。该系统使用的语言资源是词干词汇、后缀转换器和异形词生成转换器。所有这些都可以很容易地更新,这允许用户控制系统性能的演变。有人声称,韩语文本的形态标注只能通过访问词素词典的形态分析模块来执行。我们表明,它也可以直接使用单词词典执行,而无需在注释时应用形态规则,从而将注释速度提高到1,210个单词/秒。词汇是通过完全自动化的编译过程从主流语言资源中获得的。
2007-11-21 cs.CL
Improving Low-Resource Morphological Inflection via Self-Supervised Objectives
University of Colorado Boulder(科罗拉多大学博尔德分校);Johannes Gutenberg University Mainz(美因茨约翰尼斯·古滕贝格大学);Kensho Technologies(Kensho技术公司)
本文在极低资源场景下系统评估了13种自监督辅助目标对形态屈折变化任务的作用,发现字符掩码语言建模结合词素边界采样能持续提升19种语言上的建模性能。
2025-06-05 cs.CL
The IMS-CUBoulder System for the SIGMORPHON 2020 Shared Task on Unsupervised Morphological Paradigm Completion
Institute for Natural Language Processing(自然语言处理研究所);University of Stuttgart(斯图加特大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
在本文中,我们介绍了斯图加特大学IMS和科罗拉多大学博尔德分校(IMS-CUBoulder)的系统,用于SIGMORPHON 2020任务2的无监督形态范式完成(Kann等人,2020年)。该任务包括生成一组词元的形态范式,只给出词元本身和未标记的文本。我们提出的系统是一个修改版本的基线一起引入的任务。特别是,我们尝试用LSTM序列到序列模型和LSTM指针生成器网络替换拐点生成组件。我们的指针生成器系统在所有语言的所有七个提交的系统中获得了平均最好的分数,并且在保加利亚语和卡纳达语上的表现优于官方基线。
2020-05-25 cs.CL cs.LG
A Resource for Studying Chatino Verbal Morphology
University of Louisville(路易斯维尔大学);Carnegie Mellon University(卡内基梅隆大学);University of Kentucky(肯塔基大学)
我们提出的第一个资源,重点放在圣胡安Quiahije Chatino,在墨西哥讲的音调中美洲语言的口头屈折形态。我们提供了一个完整的198 lemmata,形态标签的基础上UniMorph架构的变形表的集合。我们还提供了三个核心NLP任务的基线结果:形态分析,词形化和形态变化。
2020-04-05 cs.CL
Considering a resource-light approach to learning verb valencies
Indiana University(印第安纳大学);School of Informatics and Computing(信息与计算学院)
在这里,我们描述的工作,学习动词的子类在形态丰富的语言,只使用最少的语言资源。我们的目标是从一个未注释的语料库中学习克丘亚语的动词子分类,克丘亚语是一种资源不足的形态丰富的语言。我们将这种方法应用到一个未注释的阿拉伯语语料库的结果进行比较,通过处理相同的文本树库的形式。最初的计划是只使用一个形态分析器和一个未注释的语料库,但实验表明,这种方法本身不会有效地学习阿拉伯语动词的组合潜力。获取这些信息所需资源的下限略高,显然大多数语言需要一个词性标注器和分块器,阿拉伯语需要一个形态消歧器。
2012-02-06 cs.CL
Neural Transductive Learning and Beyond: Morphological Generation in the Minimal-Resource Setting
New York University(纽约大学);Center for Data Science(数据科学中心);CIS(计算与信息系统系);LMU Munich(慕尼黑大学)
神经最先进的序列到序列(seq2seq)模型通常在小训练集上表现不佳。我们解决范式完成,形态的任务,给出一个部分范式,产生所有缺失的形式。我们提出了两种用于最小资源设置的新方法:(i)范式转换:由于我们假设只有很少的范式可用于训练,因此神经seq2seq模型能够捕获范式细胞之间的关系,但与训练集的特质有关。范式转换通过在测试时利用变形形式的输入子集来缓解这个问题。(ii)高精度源选择(SHIP):学习自动选择一个或多个源来预测目标变化的多源模型在最小资源设置中表现不佳。如果训练数据有限,SHIP是识别可靠来源的替代方法。在52种语言的基准数据集上,我们的绝对准确率超过了之前的最高水平,高达9.71%。
2019-05-09 cs.CL
Beyond Subtokens: A Rich Character Embedding for Low-resource and Morphologically Complex Languages
Computer Vision Group(计算机视觉组);Friedrich Schiller University(弗里德里希-席勒大学)
本文提出了一种基于字符的丰富嵌入方法,用于提升低资源和形态复杂语言的自然语言处理性能。
2026-02-24 cs.CL
CKMorph: A Comprehensive Morphological Analyzer for Central Kurdish
Sharif University of Technology(谢里夫理工大学);University of Tehran(德黑兰大学);Ryerson University(瑞尔森大学);Avignon University(阿维尼翁大学)
形态分析器是许多自然语言处理应用的重要组成部分,特别是对于形态丰富的语言,它将输入的单词划分为所有组成词素并识别它们的形态角色。在本文中,我们介绍了一个全面的形态分析器中央库尔德语(CK),一个低资源的语言与丰富的形态。在有限的现有文献的基础上,我们首先组装和系统地分类了一个全面的收集形态和形态音位规则的语言。此外,我们收集并手动标记了一个生成词典,其中包含近10,000个动词,名词和形容词词干,命名实体和其他类型的词干。我们使用这些规则集和资源来实现基于有限状态转换器的CKMorph Analyzer。为了为未来的研究提供基准,我们收集,手动标记,并公开共享测试集,以评估分析仪的准确性和覆盖率。CKMorph能够正确分析95.9%的准确率测试集,包含根据上下文进行形态分析的1,000个CK单词。此外,CKMorph对覆盖测试集的422万个CK标记中的95.5%给出了至少一个分析。该应用程序的演示和资源,包括CK动词数据库和测试集,可在https://github.com/CKMorph上公开访问。
2022-03-02 cs.CL
Adapting Word Embeddings to New Languages with Morphological and Phonological Subword Representations
Carnegie Mellon University(卡内基梅隆大学)
自然语言处理(NLP)中的许多工作都是针对资源丰富的语言,这使得泛化到新的、资源较少的语言具有挑战性。我们提出了两种方法,以提高低资源的语言通过适应连续的单词表示使用语言动机的子词单位:音素,语素和字素。我们的方法既不需要平行语料库,也不需要双语词典,并提供了一个显着的增益,性能比以前的方法依赖于这些资源。我们证明了我们的方法的有效性命名实体识别的四种语言,即维吾尔语,土耳其语,孟加拉语和印地语,其中维吾尔语和孟加拉语是低资源的语言,并进行实验机器翻译。利用迁移学习的子词,维吾尔语的NER F1提高了+15.2,孟加拉语的NER F1提高了+9.7。我们还表明,在单语设置,我们实现(平均)的改善。+3 F1和(平均值)蓝色+1.35。
2018-08-28 cs.CL
Morphonette: a morphological network of French
Université de Toulouse(图卢兹大学)
本文详细介绍了Morphonette的第一个版本,一个新的法语形态资源和一个新的基于词素的形态分析方法。本研究基于派生形态学的范式概念,即形态结构是整个词汇的结构,而不是它所包含的单个词。这种结构的发现依赖于词之间形态相似性的度量、形式类比和两种形态范式的性质:
2010-05-21 cs.CL
MoirfEolas and CríochScore: Developing Resources for and the Evaluation of Tokenization Alignment with Irish Morphology
ADAPT Centre, Dublin City University(都柏林城市大学ADAPT中心);Trinity College Dublin(都柏林圣三一学院)
本文开发了爱尔兰语形态学分词资源MoirfEolas和评估指标CríochScore,经评估发现Unigram Language Model分词算法与爱尔兰语形态对齐性更优,相关成果助力爱尔兰语NLP发展且可推广至其他语言。
2026-09-07 cs.CL
TAMS: Translation-Assisted Morphological Segmentation
University of Colorado Boulder(科罗拉多大学博尔德分校);Johannes Gutenberg University Mainz(美因茨约翰内斯·古滕贝格大学)
针对语言记录中规范形态学切分训练数据稀缺而翻译数据丰富的问题,提出利用预训练单语模型翻译表示的字符级序列到序列模型,在超低资源设定下优于基线。
2024-10-15 cs.CL
(Un)solving Morphological Inflection: Lemma Overlap Artificially Inflates Models' Performance
Bar-Ilan University(巴伊兰大学)
在形态学领域,屈折是一个基本而重要的任务,近年来获得了很大的吸引力,主要是通过SIGMORPHON的共享任务。所有语言的平均准确率都在0.9以上,即使提供的数据很少,该任务也被认为主要是使用相对通用的神经seq 2seq模型解决的。在这项工作中,我们建议重新评估形态拐点模型,采用更硬的训练测试分裂,这将挑战模型的泛化能力。特别是,相对于天真的分裂的形式,我们提出了一个分裂的引理方法来挑战现有的基准性能。我们对SIGMORPHON 2020年共享任务中排名最高的三个系统进行的实验表明,对于所包含的90种语言,lemma-split在宏观平均水平上平均下降了30个百分点。这种影响对于低资源语言最为显著,下降幅度高达95分,但即使是高资源语言平均也会下降约10分。我们的研究结果清楚地表明,将拐点推广到看不见的引理还远远没有解决,这为推广更复杂的模型提供了一种简单而有效的方法。
2022-03-20 cs.CL
Adversarial Multitask Learning for Joint Multi-Feature and Multi-Dialect Morphological Modeling
New York University Abu Dhabi(纽约大学阿布扎比分校)
形态标记对于形态丰富的语言是具有挑战性的,这是由于大的目标空间和需要更多的训练数据来最小化模型稀疏性。形态丰富的语言的方言变体遭受更多,因为它们往往更嘈杂,资源更少。在本文中,我们探讨了使用多任务学习和对抗训练,以解决形态丰富性和方言的变化,在完整的形态标记的背景下。我们使用多任务学习联合形态建模的功能在两个方言,并作为跨方言建模的知识转移计划。我们使用对抗训练来学习方言不变特征,这些特征可以帮助知识转移方案从高资源变体到低资源变体。我们使用两种方言变体:现代标准阿拉伯语(高资源“方言”)和埃及阿拉伯语(低资源方言)作为案例研究。我们的模型在这两方面都取得了最先进的结果。此外,对抗训练在使用较小的训练数据集时提供了更显着的改进。
2019-10-28 cs.CL cs.LG
Tokenization and Morphological Fidelity in Uralic NLP: A Cross-Lingual Evaluation
University of Eastern Finland(东芬兰大学);AI-Bio Convergence Research Institute(人工智能-生物融合研究所);Soongsil University(崇实大学)
本文通过比较三种子词方法在六个乌拉尔语中的表现,发现OBPE在形态对齐和标注准确性上优于传统方法,尤其在拉丁字母语中表现突出。
2026-02-14 cs.CL
Morphological analysis using a sequence decoder
Koç University Artificial Intelligence Laboratory(科奇大学人工智能实验室)
我们介绍Morse,一个经常性的编码器-解码器模型,产生一个句子中的每个单词的形态分析。编码器将关于单词及其上下文的相关信息转换为固定大小的向量表示,解码器生成词元的字符序列,然后是单个形态特征的序列。我们表明,单独生成形态特征,而不是作为一个组合的标签,允许模型处理罕见的或看不见的标签,并优于整个标签模型。此外,将形态特征生成为序列而不是例如\无序集允许我们的模型产生任意数量的特征,这些特征表示形态复杂语言中的多个屈折组。我们在低资源、高资源和迁移学习设置下,在9种不同形态复杂度的语言中获得了最先进的结果。我们还介绍了TrMor 2018,一个新的高精度土耳其形态数据集。我们的Morse实现和TrMor 2018数据集可在线获得,以支持未来的研究\footnote{See \url{https://github.com/ai-ku/Morse.jl} for a Morse implementation in Julia/Knet \cite{knet2016mlsys} and \url{https://github.com/ai-ku/TrMor2018} for the new Turkish dataset.}。
2019-09-24 cs.CL
Cognate-aware morphological segmentation for multilingual neural translation
Aalto University(阿尔托大学);Utopia Analytics
本文介绍了阿尔托大学进入WMT18新闻翻译共享任务。我们参与了多语言子轨道的系统训练下的约束条件下,从英语翻译到芬兰语和爱沙尼亚语。该系统基于Transformer模型。我们专注于提高的一致性形态分割的字是相似的正字法,语义和分布,这样的话,包括词源同源词,借词和专有名词。为此,我们引入同源Morfessor,Morfessor方法的多语言变体。我们表明,我们的方法提高了翻译质量,特别是对于爱沙尼亚语,它有较少的资源来训练翻译模型。
2018-08-31 cs.CL
Data-driven Model Generalizability in Crosslinguistic Low-resource Morphological Segmentation
Boston College(波士顿学院)
模型评估的常见设计通常集中在单语设置,其中不同的模型根据它们在单个数据集上的性能进行比较,该数据集被假设为代表手头任务的所有可能数据。虽然这对于大型数据集可能是合理的,但在低资源情况下很难维持这种假设,其中数据汇集的工件可能产生离群值的数据集,从而可能使关于模型性能的结论一致。为了解决这些问题,我们研究模型的泛化能力在跨语言的低资源的情况下。使用形态分割作为测试用例,我们比较了三大类具有不同参数化的模型,从6个语言家族的11种语言中获取数据。在每个实验设置中,我们在第一个数据集上评估所有模型,然后在引入相同大小的新随机采样数据集以及将训练模型应用于不同大小的未知测试集时检查它们的性能一致性。结果表明,模型泛化的程度取决于数据集的特征,而不一定严重依赖于数据集的大小。在我们研究的特征中,训练集和测试集之间的词素重叠比率和每个词的平均词素数是两个最显著的因素。我们的研究结果表明,未来的工作应该采用随机抽样,以构建不同大小的数据集,以作出更负责任的索赔模型评估。
2022-04-11 cs.CL
Neural Factor Graph Models for Cross-lingual Morphological Tagging
Language Technologies Institute(语言技术研究所);Machine Learning Department(机器学习系);Carnegie Mellon University(卡内基梅隆大学)
形态分析涉及预测单词的句法特征(例如{POS:Noun,Case:Acc,Gender:Fem})。以前在形态标记方面的工作通过使用来自同一家族的高资源语言(HRL)进行跨语言训练来提高低资源语言(LRL)的性能,但受到严格的(通常是错误的)假设的限制,即标记集在HRL和LRL之间完全重叠。在本文中,我们提出了一种跨语言的形态标记的方法,旨在通过放松这一假设,以提高语言之间的信息共享。所提出的模型使用具有神经网络潜力的阶乘条件随机场,使得有可能(1)利用神经网络表示的表达能力来平滑表面形式中的表面差异,(2)对标签之间的成对和传递关系进行建模,以及(3)准确地生成在训练数据中看不见或罕见的标签集。在通用语义树库中的四种语言上的实验表明,该方法比现有的跨语言方法具有更高的标注准确率。
2018-07-11 cs.CL
Morphological Synthesizer for Ge'ez Language: Addressing Morphological Complexity and Resource Limitations
Axum University(阿克苏姆大学);L3S Research Center, Leibniz University Hannover(汉诺威莱布尼茨大学L3S研究中心)
针对盖兹语形态复杂且资源匮乏的问题,提出基于规则的形态合成器,从词根生成表层词,在1,102个动词上达到97.4%的准确率,优于基线。
2025-09-24 cs.AI cs.CL
Shona spaCy: A Morphological Analyzer for an Under-Resourced Bantu Language
Pace University(帕克大学)
Shona spaCy是一种基于规则的开源工具,用于Shona语言的形态分析,通过结合词典和语言学规则,提升NLP在资源匮乏班图语言中的应用。
2025-11-12 cs.AI cs.CL
Zero-Shot Morphological Discovery in Low-Resource Bantu Languages via Cross-Lingual Transfer and Unsupervised Clustering
Harvard University(哈佛大学)
本文提出结合跨语言迁移学习与无监督聚类的方法,用于发现低资源班图语言的形态特征,在Giriama语言中发现2,455个词的名词类分配及两个新形态模式,通过外部验证和语料扩展验证了方法的有效性。
2026-04-24 cs.CL cs.LG