Bitext Mining for Low-Resource Languages via Contrastive Learning
Center for Language and Speech Processing（语言与语音处理中心）；Johns Hopkins University（约翰斯·霍普金斯大学）
为低资源语言挖掘高质量的双文本具有挑战性。本文表明，句子表示的语言模型微调与多个负面排名损失，一个对比的目标，有助于检索干净的双文本。实验表明，并行数据挖掘从我们的方法大大优于以前的国家的最先进的方法低资源语言高棉语和普什图语。
2022-08-23 cs.CL
Weakly Supervised POS Taggers Perform Poorly on Truly Low-Resource Languages
New York University（纽约大学）；Siteimprove；University of Copenhagen（哥本哈根大学）
用于低资源语言的词性（POS）标记器，其完全基于各种形式的弱监督-例如，跨语言迁移、类型级监督或其组合-已经被报告执行得几乎与监督的一样好。然而，弱监督的POS标记器通常只在与真正的低资源语言非常不同的语言上进行评估，并且标记器使用信息源，如高覆盖率和几乎无错误的字典，这可能不适用于资源贫乏的语言。我们训练和评估国家的最先进的弱监督POS标记的类型多样的15个真正的低资源的语言。在这些语言上，给定现实的资源量，即使是我们最好的模型也只能正确识别不到一半的单词。我们的研究结果强调了需要新的和不同的方法来真正的低资源语言的词性标注。
2020-04-28 cs.CL
Towards Neural No-Resource Language Translation: A Comparative Evaluation of Approaches
本研究针对无资源语言翻译问题，比较了微调模型、链式推理提示和直接提示三种方法，发现通用大语言模型的上下文学习能实现媲美人工翻译的效果，确立了无资源翻译为独特范式。
2025-06-01 cs.CL
Evaluating Language Model Finetuning Techniques for Low-resource Languages
Center for Language Technologies（语言技术中心）；College of Computer Studies（计算机研究学院）；De La Salle University（德拉萨大学）
与主流语言（如英语和法语）不同，低资源语言通常缺乏专家注释的语料库和基准资源，因此很难直接应用最先进的技术。在本文中，我们通过两种方式缓解资源匮乏的菲律宾语的稀缺问题。首先，我们介绍了一个新的基准语言建模数据集在菲律宾，我们称之为WikiText-TL-39。其次，我们表明，语言模型微调技术，如BERT和ULMFiT可用于一致的训练强大的分类器在低资源设置，经历了最多0.0782增加验证错误时，训练样本的数量从10 K减少到1 K，而微调使用私人持有的情感数据集。
2019-06-30 cs.CL
Creating Lexical Resources for Endangered Languages
University of Colorado（科罗拉多大学）
本文探讨了濒危语言词汇资源的生成方法。我们的算法使用公共Wordnets和机器翻译器（MT）构建双语词典和多语言词库。由于我们的工作只依赖于一个濒危语言和“中间助手”语言之间的双语词典，它适用于缺乏许多现有资源的语言。
2022-08-08 cs.CL
Multilingual Transformer Language Model for Speech Recognition in Low-resource Languages
Microsoft（微软）
训练和部署Transformer LM用于低资源语言的混合语音识别第二遍重新排序是具有挑战性的，这是由于（1）低资源语言的数据稀缺，（2）训练和刷新100多个单语模型的昂贵计算成本，以及（3）考虑到稀疏流量，托管效率低下。在这项研究中，我们提出了一种新的方法来组多个低资源的地区在一起，并优化性能的多语言Transformer LM在ASR。我们的本地组多语言Transformer LM在降低维护成本和运营费用方面优于传统的多语言LM。此外，对于低资源，但高流量的地区，部署单语模型是可行的，我们表明，微调我们的本地组多语言LM产生更好的单语LM候选人比基线单语LM。
2022-09-08 cs.CL
Language Resources and Technologies for Non-Scheduled and Endangered Indian Languages
Dr. Bhimrao Ambedkar University（宾希姆拉奥·安贝德卡尔博士大学）；Indian Institute of Technology - Kharagpur（印度理工学院克勒格布尔分校）
在本文中，我们将介绍一个调查的语言资源和技术，可用于印度的非表列和濒危语言。虽然不同来源对印度语言数量有不同的估计，但可以假设印度目前使用的语言超过1,000种。然而，除了印度宪法第八附表所列的22种语言中的一些语言（称为附表语言）之外，几乎没有任何实质性的资源或技术可用于其他语言。尽管如此，还是有一些个人尝试为全国各地的不同语言开发资源和技术。最近，也为濒危语言提供了一些财政支持。在本文中，我们总结了那些没有被列入印度宪法第8附表和/或濒临灭绝的印度语言的资源和技术。
2022-04-06 cs.CL
Converse Attention Knowledge Transfer for Low-Resource Named Entity Recognition
University of Science and Technology of China（中国科学技术大学）；Nanyang Technological University（南洋理工大学）
近年来，在自然语言处理（NLP）的许多任务中取得了巨大成功，例如，命名实体识别（NER），特别是在高资源语言中，即，英语，部分归功于大量的标记资源。然而，大多数低资源语言没有像高资源英语那样丰富的标记数据，导致这些低资源语言的NER性能不佳。受知识转移的启发，我们提出了逆向注意力网络，简称CAN，通过利用在预训练的高资源英语模型中学习到的知识来提高低资源语言的NER性能。CAN首先使用基于注意力的翻译模块将低资源语言翻译成高资源英语。在翻译过程中，可以获得两种语言的注意力矩阵。此外，CAN使用注意力矩阵将来自预训练的高资源英语模型的高资源语义特征与低资源语义特征对齐。因此，CAN获得对齐的高资源语义特征，以丰富低资源语言的表示。在4个低资源NER数据集上的实验表明，CAN算法取得了一致且显著的性能提升，表明了CAN算法的有效性。
2023-01-09 cs.CL
High-quality Data-to-Text Generation for Severely Under-Resourced Languages with Out-of-the-box Large Language Models
ADAPT Research Centre（ADAPT研究中心）；Dublin City University（都柏林城市大学）
本研究探索预训练LLMs在爱尔兰语等严重资源不足语言的数据到文本生成任务中的表现，发现其以大幅优势达到最新技术水平，最佳系统的人工评估表现与人类相当，但BLEU分数的下降质疑了该指标对非任务特定系统的适用性。
2024-02-19 cs.CL
Does Synthetic Data Help Named Entity Recognition for Low-Resource Languages?
McGill University（麦吉尔大学）；Mila - Quebec AI Institute（魁北克人工智能研究院）；National Research Council（加拿大国家研究委员会）
本文研究了合成数据在多语言低资源命名实体识别中的作用，发现其对不同语言的效果存在显著差异。
2025-11-05 cs.CL
Low-Resource Machine Translation Training Curriculum Fit for Low-Resource Languages
Institut Teknologi Bandung（万隆理工学院）；Boston University（波士顿大学）；Dartmouth College（达特茅斯学院）
我们对真正低资源语言的神经机器翻译（NMT）进行了实证研究，并提出了一个适合于并行训练数据和计算资源都缺乏的情况下的训练课程，反映了世界上大多数语言和研究这些语言的研究人员的现实。以前，无监督的NMT，采用回译（BT）和自动编码（AE）任务，已被证明是贫瘠的低资源语言。我们证明，利用可比数据和代码切换作为弱监督，结合BT和AE目标，即使只使用适度的计算资源，也会显著改善低资源语言。这项工作中提出的训练课程实现了BLEU分数，比在相同骨干架构上训练的有监督NMT提高了+12.2 BLEU（英语到古吉拉特语）和+3.7 BLEU（英语到哈萨克语），展示了弱监督NMT对低资源语言的潜力。当在监督数据上进行训练时，我们的训练课程在索马里数据集上实现了最先进的结果（索马里语到英语的BLEU为29.3）。我们还观察到，在训练中增加更多的时间和GPU可以进一步提高性能，这强调了在MT研究中报告计算资源使用情况的重要性。
2021-11-29 cs.CL
Low-Resource Language Modelling of South African Languages
University of Cape Town（开普敦大学）
语言模型是当前基于神经网络的自然语言理解和生成模型的基础。然而，关于非洲语言的语言模型内在性能的研究非常有限，由于缺乏针对英语和其他高资源语言的大型或标准化的培训和评估集，这一研究更具挑战性。在本文中，我们评估了低资源南非语言的开放词汇语言模型的性能，使用字节对编码来处理这些语言的丰富形态。我们在小规模数据集上评估了n-gram模型、前馈神经网络、递归神经网络（RNN）和Transformers的不同变体。总体而言，良好正则化的RNN在两个isiZulu和一个Sepedi数据集上表现最佳。多语言训练进一步提高了这些数据集的性能。我们希望这项研究将为非洲语言的多语言和低资源语言建模研究开辟新的途径。
2021-04-01 cs.CL
Enhancing Multilingual Capabilities of Large Language Models through Self-Distillation from Resource-Rich Languages
Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）；Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））
本文提出SDRRL方法，通过从资源丰富语言自蒸馏并利用LLMs内部能力，有效提升多语言性能，同时最小化对原始语言性能的影响。
2024-02-19 cs.CL
The Zeno's Paradox of `Low-Resource' Languages
UC Berkeley（加州大学伯克利分校）；MBZUAI（Mohamed bin Zayed 人工智能大学）；Lelapa AI（莱拉帕人工智能公司）；University of the Witwatersrand（金山大学）；University of Houston（休斯顿大学）
本文通过定性分析150篇提及“low-resource”的NLP与语音处理论文，指出低资源性由多个相互作用维度构成，并呼吁明确术语定义。
2024-10-28 cs.CL
Learning to Learn Morphological Inflection for Resource-Poor Languages
New York University（纽约大学）
我们建议铸造的任务形态变形-映射一个词元到一个指示的变形形式-资源贫乏的语言作为一个元学习问题。将每种语言视为一个单独的任务，我们使用来自高资源源语言的数据来学习一组模型参数，这些参数可以作为对资源贫乏的目标语言进行微调的强大初始化点。在3个语言家族的29种目标语言上进行的实验表明，我们提出的方法优于所有基线。特别是，它获得了比先前提出的跨语言迁移模型高31.7%的绝对准确度，并且在语言上平均超过1.7%的绝对准确度。
2020-04-28 cs.CL
When Is Multilinguality a Curse? Language Modeling for 250 High- and Low-Resource Languages
University of California San Diego（加利福尼亚大学圣迭戈分校）
本研究通过预训练超过10,000个模型覆盖250多种语言，发现适度添加多语言数据可提升低资源语言建模性能（相当于数据增加33%），但高资源语言性能下降，且数据过多时因模型容量限制产生“多语言诅咒”，表明针对性模型更优。
2023-11-15 cs.CL
DonorRank: Donor Language Selection for Low-Resource Cross-Lingual Speech Recognition
University of Notre Dame（圣母大学）
该研究提出DonorRank学习排序框架，用于低资源跨语言语音识别的源语言选择，在两大语族语料库上验证其能准确预测源语言排名，提升选择效果，还可分析源语言选择并识别实用迁移模式。
2026-11-10 cs.CL
A systematic comparison of methods for low-resource dependency parsing on genuinely low-resource languages
University of Edinburgh（爱丁堡大学）；University of Copenhagen（哥本哈根大学）
解析器只适用于世界上少数几种语言，因为它们需要大量的训练数据。仅仅使用少量的训练数据，我们能走多远？我们系统地比较了一组简单的策略，以改善低资源解析器：数据增强，这还没有被测试过;跨语言的培训;和音译。通过对三种类型多样的低资源语言--北萨米语、加利西亚语和哈萨克语--的实验，我们发现：（1）当只有低资源树库可用时，数据增强非常有用;（2）当相关的高资源树库可用时，跨语言训练是有用的，并且补充了数据增强;（3）当高资源树库使用不同的书写系统时，音译到共享的正字法空间中也是非常有帮助的。
2019-09-06 cs.CL
Enhancing Cross-lingual Sentence Embedding for Low-resource Languages with Word Alignment
The University of Tokyo（东京大学）
针对低资源语言跨语言词表征对齐不足的问题，本文提出基于现成词对齐模型的显式词对齐框架，结合三项训练目标，显著提升低资源句子嵌入并保持高资源任务性能。
2024-04-03 cs.CL
Systematic Investigation of Strategies Tailored for Low-Resource Settings for Low-Resource Dependency Parsing
IIT Kanpur（印度理工学院坎普尔分校）；IIT Kharagpur（印度理工学院克勒格布尔分校）；IIT Mandi（印度理工学院曼迪分校）
在这项工作中，我们专注于低资源的依存句法分析的多种语言。有几项战略是专门为提高低资源情况下的业绩而制定的。虽然这些都是众所周知的社区，这是不平凡的选择这些策略的最佳组合，我们感兴趣的低资源的语言，并没有太多的注意力已经给予衡量这些策略的有效性。我们在7种通用依赖（UD）低资源语言上试验了5种低资源策略。我们对这些语言的详尽实验支持对预训练模型中未涵盖的语言进行有效改进。我们展示了一个成功的应用程序的集成系统上一个真正的低资源语言梵语。代码和数据可在https://github.com/Jivnesh/SanDP上获得
2023-01-29 cs.CL
Towards a Broad Coverage Named Entity Resource: A Data-Efficient Approach for Many Diverse Languages
Apple（苹果公司）
并行语料库是提取多语言命名实体（MNE）资源的理想选择，即，翻译成多种语言的姓名数据集。先前从并行语料库中提取MNE数据集的工作需要资源，例如大型单语语料库或单词对齐器，这些资源对于资源不足的语言来说不可用或表现不佳。我们提出了CLC-BN，一种新的方法，用于创建MNE资源，并将其应用于并行圣经语料库，语料库的1000多种语言。CLC-BN从并行语料库统计中学习神经音译模型，而不需要任何其他双语资源，单词对齐器或种子数据。实验结果表明，CLC-BN明显优于以前的工作。我们发布了1340种语言的MNE资源，并在两个下游任务中证明了其有效性：知识图谱增强和双语词典归纳。
2022-04-29 cs.CL
Do Large Language Models Speak All Languages Equally? A Comparative Study in Low-Resource Settings
University of New Brunswick（新不伦瑞克大学）；Daffodil International University（水仙国际大学）；University of New South Wales（新南威尔士大学）；Macquarie University（麦考瑞大学）
本文构建孟加拉语、印地语和乌尔都语情感与仇恨言论数据集，并零样本比较多种LLM，发现GPT-4表现最佳且英语及NLI任务优势明显。
2024-08-05 cs.CL
Moral Reasoning Across Languages: The Critical Role of Low-Resource Languages in LLMs
Imperial College London（伦敦帝国学院）；North China Electric Power University（华北电力大学）；Sun Yat-sen University（中山大学）
本文提出MMRB基准评估LLMs跨语言道德推理能力，发现低资源语言在复杂上下文中性能下降更显著，且对多语言推理影响更强，凸显其关键作用。
2025-04-28 cs.CL
Targeted Multilingual Adaptation for Low-resource Language Families
University of Washington（华盛顿大学）；Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）
该研究以乌拉尔语系为案例，系统探索预训练模型定向适配低资源语系的最佳实践，验证了亲缘语言训练的增益，得出词表大小影响弱、低资源语言可大幅上采样等结论，提升了模型在低资源语言上的性能。
2024-05-20 cs.CL
Massively Multilingual Text Translation For Low-Resource Languages
Carnegie Mellon University（卡内基梅隆大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
针对低资源语言翻译需求，本研究利用高资源语言资源，通过大规模源端并行、语料级释义和模型分步适配策略，提升封闭文本的低资源语言翻译质量，助力人机协作加速翻译进程。
2024-01-29 cs.CL
Contextualising Levels of Language Resourcedness that affect NLP tasks
University of Cape Town（开普敦大学）；Stellenbosch University（斯泰伦博斯大学）；South African Digital Language Resources Centre（南非数字语言资源中心）
本文提出通过上下文特征对语言资源进行分类，以更准确地评估影响NLP任务的语言资源水平。
2026-01-17 cs.CL
Morphological Processing of Low-Resource Languages: Where We Are and What's Next
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of British Columbia（不列颠哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
自动形态处理可以帮助下游的自然语言处理应用，特别是对于低资源语言，并帮助濒危语言的语言文档工作。长期以来，多语言的计算形态学领域正越来越多地转向适合于具有最少或没有注释资源的语言的方法。首先，我们调查最近的发展，计算形态学的重点是低资源的语言。其次，我们认为，该领域已经准备好应对逻辑上的下一个挑战：仅从原始文本中理解语言的形态。我们进行了实证研究的一个真正的无监督版本的范式完成任务，并表明，虽然现有的国家的最先进的模型桥接的两个新提出的模型，我们设计的合理执行，仍然有很大的改进空间。风险很高：解决这个任务将增加形态资源的语言覆盖率。
2022-03-16 cs.CL
Resources for Turkish Natural Language Processing: A critical survey
University of Tübingen（蒂宾根大学）；Ghent University（根特大学）；University of Stuttgart（斯图加特大学）
本文对土耳其语语料库和词汇资源进行了全面的调查。我们审查了广泛的资源，重点是那些公开可用的。除了提供有关可用语言资源的信息外，我们还提出了一系列建议，并确定了在土耳其语言学和自然语言处理中进行研究和建立应用程序的可用数据中的差距。
2023-02-25 cs.CL
Language Graph Distillation for Low-Resource Machine Translation
University of Science and Technology of China（中国科学技术大学）；Microsoft Research（微软研究院）
由于缺乏双语句子对，低资源语言上的神经机器翻译具有挑战性。以前的作品通常解决低资源的翻译问题，在多语言环境中的知识转移。本文提出了语言图的概念，并进一步设计了一种新的图蒸馏算法，该算法通过前向和后向知识蒸馏来提高图中低资源翻译的准确性。在TED演讲多语种数据集上的初步实验证明了该方法的有效性。具体来说，我们在BLEU得分方面将低资源翻译对提高了3.13分以上。
2019-08-17 cs.CL
GlotLID: Language Identification for Low-Resource Languages
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；ISIR（信息、信号与系统研究所）
本文提出GlotLID-M语言识别模型，覆盖1665种语言，在F1与假阳性率平衡上优于四个基线，并分析了低资源语言识别的独特挑战。
2024-07-02 cs.CL
Low-resource Languages: A Review of Past Work and Future Challenges
Tsinghua University（清华大学）
NLP目前的一个问题是按摩和处理缺乏有用的训练属性，如监督数据，母语者或专家的数量等的低资源语言，本文简要总结了以前的突破性成就，解决这个问题，并分析了潜在的改进在未来的整体研究方向的背景下。
2020-06-12 cs.CL
Strategies for Language Identification in Code-Mixed Low Resource Languages
SRM Institute of Science & Technology（SRM科学技术研究所）
近年来，人们在混合代码数据的语言标注方面做了大量的工作，但大多数都需要使用大量的数据来建立模型。在这篇文章中，我们提出了三种策略，以建立一个字级语言标记代码混合数据使用非常低的资源。它们中的每一个都确保了比我们的基线模型更高的准确度，性能最好的系统的准确度约为91%。综合所有这些，合奏系统达到了约92.6%的准确率。
2018-10-31 cs.CL
Are Multilingual Language Models an Off-ramp for Under-resourced Languages? Will we arrive at Digital Language Equality in Europe in 2030?
DFKI GmbH（德国人工智能研究中心）；Humboldt-Universität zu Berlin（柏林洪堡大学）
本文探讨多语言LLM能否成为欧洲低资源语言的技术替代路径，分析技术支持现状与相关工作，并指出系统化落地所需解决的关键开放问题。
2025-02-18 cs.CL
Cross-Lingual Task-Specific Representation Learning for Text Classification in Resource Poor Languages
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术研究所）
神经网络模型在文本分类中已经显示出很好的效果。然而，这些解决方案受限于它们对注释数据的可用性的依赖。利用资源丰富的语言来增强资源贫乏的语言的文本分类的前景是迷人的。如果资源可用性约束可以被抵消，则资源贫乏语言的性能可以显著提高。为此，我们提出了一个双双向长短期记忆（Bi-LSTM）网络，其共享参数由对比性损失函数（基于相似性度量）合并。该模型通过使用其分配的注释标签之间的相似性来学习资源贫乏和资源丰富的句子在公共空间中的表示。因此，该模型将具有相似标签的句子投影得更近，而具有不同标签的句子则相互远离。我们评估了我们的模型对资源贫乏的语言（印地语和泰卢固语）和资源丰富的语言（英语和西班牙语）的情感分析和表情符号预测的分类任务。我们的模型在所有指标的任务中都显着优于最先进的方法。
2018-06-10 cs.CL
Phoneme Level Language Models for Sequence Based Low Resource ASR
Carnegie Mellon University（卡内基梅隆大学）
构建多语言和跨语言模型有助于将不同的语言聚集在一个语言通用空间中。它允许模型跨语言共享参数和传输知识，从而更快、更好地适应新语言。这些方法对于低资源语言特别有用。在本文中，我们提出了一个音素级的语言模型，可以使用多种语言和跨语言适应目标语言。我们表明，我们的模型通过使用少六倍的参数，表现几乎与单语模型一样好，并且能够更好地适应在低资源情况下训练期间看不到的语言。我们表明，这些音素级的语言模型可用于解码序列的连接主义时间分类（CTC）的声学模型输出，以获得可比的字出错率与加权有限状态转换器（WFST）为基础的解码巴别语言。我们还表明，这些音素级语言模型优于WFST解码在各种低资源条件下，如适应一种新的语言和域之间的训练和测试数据不匹配。
2019-02-20 cs.CL
Towards Realistic Practices In Low-Resource Natural Language Processing: The Development Set
New York University（纽约大学）
对于真正的低资源语言，获得开发集是不切实际的，因为使用所有可用的数据进行训练通常更有效。然而，开发集被广泛用于那些声称要处理低资源自然语言处理（NLP）的研究论文中。在这里，我们的目标是回答以下问题：与更现实的替代方案相比，在低资源环境中使用早期停止的开发集是否会影响结果，其中训练时期的数量是根据开发语言调整的？它是否会导致对业绩的高估或低估？我们重复了最近针对低资源NLP的神经模型工作中的多个实验，并比较了通过使用和不使用开发集训练获得的模型的结果。平均而言，不同语言之间的绝对准确度差异高达1.4%。然而，对于某些语言和任务，差异高达18.0%的准确率。我们的研究结果强调了现实的实验设置在低资源NLP研究结果的出版中的重要性。
2019-09-15 cs.CL
Standards for language resources in ISO -- Looking back at 13 fruitful years
本文概述了ISO委员会TC 37/SC 4在处理语言（数字）资源管理方面开展的各种项目。根据委员会获得的技术经验和更广泛的标准化前景，本文确定了未来的一些可能趋势。
2015-10-27 cs.CL
Progressive Sentiment Analysis for Code-Switched Text Data
University of California San Diego（加州大学圣地亚哥分校）；Halıcıoğlu Data Science Institute, University of California San Diego（加州大学圣地亚哥分校哈利奇奥卢数据科学研究所）
多语言Transformer语言模型最近引起了研究者的广泛关注，并被用于许多NLP任务的跨语言迁移学习，如文本分类和命名实体识别。然而，用于从单语文本到代码转换文本的迁移学习的类似方法尚未被广泛探索，主要是由于以下挑战：（1）语码转换语料库不同于单语语料库，它由多种语言组成，现有的方法不能有效地应用，（2）语码转换语料库通常由资源丰富和资源贫乏的语言组成，在使用多语言预训练语言模型的基础上，最终的模型可能偏向于资源丰富的语言。在本文中，我们专注于代码切换情感分析，我们有一个标记的资源丰富的语言数据集和未标记的代码切换数据。我们提出了一个框架，考虑到资源丰富和低资源的语言之间的区别。我们不是一次在整个代码转换语料库上进行训练，而是根据资源丰富的语言中的单词比例创建桶，并从资源丰富的语言主导样本逐渐训练到低资源语言主导样本。跨多个语言对的大量实验表明，渐进式训练有助于低资源语言主导的样本。
2022-10-25 cs.CL
Foundations of Modern Language Resource Archives
越来越多的研究者出于一些严肃的原因，将他们的相关材料储存在我们称之为“语言资源档案”的中心。他们既有责任长期保存，又有责任让不同的用户组获得他们的材料。这里的访问意味着可以与数据进行主动交互，以支持新数据、新版本或各种评论的集成。现代语言资源档案馆将必须遵守一些基本原则，以满足所有要求，他们将不得不参与联合会，以创建联合语言资源域，使研究人员更容易访问数据。本文试图阐述语言资源档案馆必须坚持的基本支柱。
2006-06-01 cs.CL
Foundation Models for Low-Resource Language Education (Vision Paper)
University of Georgia（佐治亚大学）
本文展望 LLM 与多语言基础模型如何克服低资源语言的数据、文化及教育资源限制，通过社区驱动学习和数字平台等实际应用改善相关教育。
2024-12-06 cs.CL
MALT: Mechanistic Ablation of Lossy Translation in LLMs for a Low-Resource Language: Urdu
本研究针对LLM在低资源语言（如乌尔都语）上的有损翻译问题，通过机制消融移除内部翻译特征并引入外部翻译模型，显著提升了模型性能并保留了文化细微差别。
2025-01-27 cs.CL
Domain-specific MT for Low-resource Languages: The case of Bambara-French
Centre National Collaboratif de l’Education en Robotique et en Intelligence Artificielle (RobotsMali)（国家机器人与人工智能教育合作中心（RobotsMali））；Orange Silicon Valley（Orange硅谷）；Rochester Institute of Technology（罗切斯特理工学院）
由于缺乏并行数据，翻译成低资源语言和从低资源语言翻译是机器翻译（MT）系统的挑战。在本文中，我们解决的问题，特定领域的MT班巴拉，在马里讲的资源不足的曼德语。我们提出了第一个特定领域的并行数据集MT班巴拉到法国和从法国。我们讨论了在低资源语言中处理少量特定于域的数据的挑战，并给出了在这些数据上进行机器学习实验的结果。
2021-03-31 cs.CL
Large Language Models for Low-Resource Languages: A Conceptual Framework for an Electronic Explanatory Dictionary of the Tajik Language
Kazan Federal University（喀山联邦大学）；Tajik National University（塔吉克国立大学）
本文针对低资源语言塔吉克语，提出结合LLMs与经典词典方法的电子解释词典概念架构，为相关应用NLP任务提供核心资源，适用于计算语言学等领域从业者。
2026-09-22 cs.CL
Low Resource Summarization using Pre-trained Language Models
MCS（军事学院（注：MCS常见对应Military College of Signals，即信号军事学院，此处按原文缩写保留，直译军事学院））
该研究将 mBERT、mT5 等预训练模型适配于乌尔都语低资源摘要，构建 76.5k 新闻文章-摘要数据集，并提出体积更小、性能可比英语 SOTA 模型的 urT5。
2023-10-04 cs.CL
The Importance of Context in Very Low Resource Language Modeling
Center for Language and Cognition（语言与认知中心）；University of Groningen（格罗宁根大学）
本文研究了非常低资源的语言模型预训练，当少于10万个句子。我们发现，在资源非常少的情况下，统计n-gram语言模型的性能优于最先进的神经模型。我们的实验表明，这主要是由于前者的重点放在当地的情况下。因此，我们引入了三种方法来提高神经模型在低资源环境中的性能，发现限制模型的自我注意力是最有效的方法，对于我们测试的语言：英语，印地语和土耳其语，NLI和POS标记等下游任务的改进高达5%。
2022-05-10 cs.CL
Google Crowdsourced Speech Corpora and Related Open-Source Resources for Low-Resource Languages and Dialects: An Overview
Google（谷歌）
本文介绍了一个程序的概述，旨在解决日益增长的需求，开发免费的语音资源，代表性不足的语言。目前，我们已经发布了38个数据集，用于为南亚和东南亚，非洲，欧洲和南美洲的语言和方言构建文本到语音和自动语音识别应用程序。本文介绍了用于开发这样的语料库的方法，并提出了一些我们的研究结果，可以受益于代表性不足的语言社区。
2020-10-14 cs.CL
Transfer to a Low-Resource Language via Close Relatives: The Case Study on Faroese
University of Copenhagen（哥本哈根大学）；Miðeind ehf；University of Iceland（冰岛大学）；University of Würzburg（维尔茨堡大学）；University of Cambridge（剑桥大学）
本文以法罗语为例，提出利用丹麦语、挪威语、瑞典语和冰岛语等近亲高资源语言的数据与模型改进低资源语言跨语言迁移，并发布法罗语语料库、NER和STS数据集及新语言模型。
2023-04-18 cs.CL
BanglaNLG and BanglaT5: Benchmarks and Resources for Evaluating Low-Resource Natural Language Generation in Bangla
Bangladesh University of Engineering Technology (BUET)（孟加拉国工程技术大学（BUET））；University of California Los Angeles（加州大学洛杉矶分校）
这项工作提出了BanglaNLG，一个全面的基准评估自然语言生成（NLG）模型在孟加拉国，一个广泛使用但资源不足的语言。我们在BanglaNLG基准下汇总了六个具有挑战性的条件文本生成任务，并在此过程中引入了一个新的对话生成数据集。此外，使用27.5 GB的孟加拉语数据的干净语料库，我们预训练BanglaT5，这是孟加拉语的序列到序列Transformer语言模型。BanglaT5在所有这些任务中都实现了最先进的性能，超过了几个多语言模型，绝对增益高达9%，相对增益高达32%。我们将在https://github.com/csebuetnlp/BanglaNLG上公开发布新的对话数据集和BanglaT5模型，希望能推动未来对Bangla NLG的研究。
2023-02-12 cs.CL
Improving Large-scale Language Models and Resources for Filipino
De La Salle University（德拉萨大学）
在本文中，我们从两个方面改进了现有的低资源菲律宾语的语言资源。首先，我们概述了TLUnified数据集的构建，这是一个大规模的预训练语料库，在规模和主题多样性方面对该语言的较小的现有预训练数据集进行了改进。其次，我们按照RoBERTa预训练技术预训练新的Transformer语言模型，以取代使用小型语料库训练的现有模型。我们的新RoBERTa模型在三个基准数据集中显示出比现有菲律宾模型的显着改进，在不同难度的三个分类任务中平均获得4.47%的测试准确度。
2021-11-11 cs.CL
Machine Translation of Low-Resource Indo-European Languages
Natural Language Processing Lab（自然语言处理实验室）；The University of British Columbia（英属哥伦比亚大学）
在这项工作中，我们研究的方法具有挑战性的任务之间的低资源的语言对，表现出一定程度的相似性翻译。特别是，我们考虑了迁移学习的实用性，从日耳曼和罗曼语系的几个印欧低资源语言之间的翻译。特别是，我们建立了两个主要类的转移为基础的系统，研究如何相关性可以有利于翻译性能。主系统微调在相关语言对上预训练的模型，对比系统微调在不相关语言对上预训练的模型。我们的实验表明，虽然相关性不是迁移学习工作的必要条件，但它确实有益于模型性能。
2021-09-30 cs.CL
Prior Polarity Lexical Resources for the Italian Language
Università di Catania（卡塔尼亚大学）
在本文中，我们提出了SABRINA（情感分析：意大利自然语言应用的广泛资源）的意见挖掘和情感归纳领域的意大利自然语言应用的手动注释前极性词汇资源。该资源由两个不同的集合组成，一个包含超过277.000个单词的意大利语词典，这些单词标记有它们先前的极性值，以及一组极性修饰符，包含超过200个单词，它们可以与词典的非中性术语组合使用，以诱导意大利语复合术语的情感。据我们所知，这是第一个先前的极性手动注释资源，已开发的意大利自然语言。
2015-07-01 cs.CL
Mapping Supervised Bilingual Word Embeddings from English to low-resource languages
Saarland University（萨尔兰大学）
由于数据的可用性不足，使用低资源语言是非常具有挑战性的。过去，使用字典将独立训练的词嵌入映射到共享向量空间中已被证明在学习双语嵌入时非常有用。在这里，我们尝试映射英语单词的各个嵌入，以及它们在爱沙尼亚语、斯洛文尼亚语、爱沙尼亚语和匈牙利语等低资源语言中对应的翻译单词。我们使用了一种监督学习方法。我们报告的准确性分数，通过各种检索策略，这表明它是可能的方法具有挑战性的任务，在自然语言处理，如机器翻译等语言，只要我们至少有一定数量的适当的双语数据。我们还得出结论，我们可以遵循单语文本数据的无监督学习路径，因为这更适合于低资源语言。
2019-10-14 cs.CL
OCR Improves Machine Translation for Low-Resource Languages
University of Michigan（密歇根大学）；Meta AI；Microsoft Turing（微软图灵研究院）
我们的目标是调查目前的OCR系统的性能低资源的语言和低资源的脚本。我们介绍并公开提供一个新的基准，OCR4MT，由真实和合成数据，丰富的噪音，为60个低资源的语言在低资源脚本。我们在基准测试中评估最先进的OCR系统，并分析最常见的错误。我们表明，OCR单语数据是一个有价值的资源，可以提高性能的机器翻译模型，当用于回译。然后，我们进行消融研究，以调查OCR错误如何影响机器翻译的性能，并确定什么是最低水平的OCR质量所需的单语数据是有用的机器翻译。
2022-03-13 cs.CL
FormosanBench: Benchmarking Low-Resource Austronesian Languages in the Era of Large Language Models
Institute of Linguistics, Academia Sinica（台湾“中央研究院”语言学研究所）；ALOHA Lab, University of Hawaii at Manoa（夏威夷大学马诺а分校ALOHA实验室）
本文提出首个针对低资源南岛语系语言的基准FORMOSANBENCH，涵盖三种濒危语言及翻译、ASR和摘要任务，实验表明现有LLM表现不佳，凸显了开发包容性NLP技术的迫切需求。
2025-06-12 cs.CL
