Hire a Linguist!: Learning Endangered Languages with In-Context Linguistic Descriptions
Carnegie Mellon University(卡内基梅隆大学);UC Santa Barbara(加州大学圣巴巴拉分校)
提出LINGOLLM,一种无需训练的方法,通过在LLM提示中注入语言学知识(词典、语法书、形态分析),显著提升GPT-4和Mixtral在8种濒危语言5任务上的翻译能力,BLEU从0升至10.5。
2024-11-11 cs.CL
Neural Morphology Dataset and Models for Multiple Languages, from the Large to the Endangered
University of Helsinki(赫尔辛基大学)
我们训练神经模型用于形态分析,生成和词法丰富的语言的词形化。我们提出了一种方法,自动提取大量的训练数据从FST的22种语言,其中17个濒危。神经模型遵循与FST相同的标记集,以便可以将它们与FST一起用作回退系统。源代码、模型和数据集已在Zenodo上发布。
2021-05-26 cs.CL
DAG: Dictionary-Augmented Generation for Disambiguation of Sentences in Endangered Uralic Languages using ChatGPT
Metropolia University of Applied Sciences(梅塔波利亞應用科學大學);Helsinki(赫爾辛基)
本文提出词典增强生成方法,利用ChatGPT对两种濒危乌拉尔语言(埃尔齐亚语和斯科尔特萨米语)进行词元消歧,通过提供词典翻译增强提示,分别达到50%和41%的准确率。
2024-11-03 cs.CL
Building an Endangered Language Resource in the Classroom: Universal Dependencies for Kakataibo
Leibniz-Zentrum Allgemeine Sprachwissenschaft(莱布尼茨普通语言学中心);University of Edinburgh(爱丁堡大学)
在本文中,我们推出了一个新的通用的濒危语言树库从亚马逊河流域:卡卡泰博,在秘鲁的Panoan语言。我们首先讨论的协作方法实施,这被证明是有效的,以创建一个树库的背景下,计算语言学课程的本科生。然后,我们描述了树库的一般细节和为建议的注释实现的特定于语言的考虑。最后,我们对词性标注和句法依存句法分析进行了实验。我们专注于单语和迁移学习设置,在那里我们研究的Shipibo-Konibo树库,另一个Panoan语言资源的影响。
2022-06-21 cs.CL
Evaluating OpenAI GPT Models for Translation of Endangered Uralic Languages: A Comparison of Reasoning and Non-Reasoning Architectures
Metropolia University of Applied Sciences(应用科学大学);University of Helsinki(赫尔辛基大学)
本研究比较了OpenAI GPT模型在翻译濒危乌拉尔语系语言中的推理与非推理架构性能,发现推理模型在翻译任务中表现更优。
2025-12-18 cs.CL
Hard to Be Heard: Phoneme-Level ASR Analysis of Phonologically Complex, Low-Resource Endangered Languages
University of Tübingen(图宾根大学);University of Jena(耶拿大学)
研究通过音素级分析,探讨发音复杂且低资源的濒危语言在ASR中的表现,发现数据稀缺性比发音复杂性更影响识别性能。
2026-04-20 cs.CL
High-quality Data-to-Text Generation for Severely Under-Resourced Languages with Out-of-the-box Large Language Models
ADAPT Research Centre(ADAPT研究中心);Dublin City University(都柏林城市大学)
本研究探索预训练LLMs在爱尔兰语等严重资源不足语言的数据到文本生成任务中的表现,发现其以大幅优势达到最新技术水平,最佳系统的人工评估表现与人类相当,但BLEU分数的下降质疑了该指标对非任务特定系统的适用性。
2024-02-19 cs.CL
Sentiment Analysis Using Aligned Word Embeddings for Uralic Languages
Rootroo Ltd(Rootroo有限公司);University of Helsinki(赫尔辛基大学)
本文提出一种通过对齐词嵌入将英语训练的神经网络情感分析模型应用于4种濒危乌拉尔语言的方法,准确率至少达56%,仅需双语词典即可实现跨语言迁移。
2023-05-24 cs.CL
Keyboards for the Endangered Idu Mishmi Language
Department of English Language and Linguistics(英语语言与语言学系);Faculty of Arts and Humanities(艺术与人文学院);Heinrich Heine University Düsseldorf(杜塞尔多夫海因里希·海涅大学)
为濒危的伊杜米什米语言开发了移动和桌面键盘,支持完整的字符集并解决离线输入和数据主权问题。
2026-02-23 cs.CL
Can LLMs Help Create Grammar?: Automating Grammar Creation for Endangered Languages with In-Context Learning
Language and Information Technology Programme, Faculty of Arts, CU(朱拉隆功大学文学院语言与信息技术项目);Center for Information and Language Processing (CIS), LMU Munich(慕尼黑大学信息与语言处理中心)
本文研究利用大型语言模型通过上下文学习,仅凭双语词典和平行句子自动生成濒危语言(如莫肯语)的语法规则和词条,验证其有效性并指出英语语法偏见等挑战,为语言记录提供经济方案。
2024-12-14 cs.CL
Not always about you: Prioritizing community needs when developing endangered language technology
Boston College(波士顿学院);University of California, Davis(加州大学戴维斯分校);University at Buffalo(布法罗大学)
当语言缺乏训练统计和机器学习工具和模型所需的数据量时,它们被归类为低资源语言。资源稀缺的原因各不相同,但可能包括难以获得开发这些资源的技术,说话的人口相对较少,或者在第二语言是高资源的双语人口中缺乏收集此类资源的紧迫性。因此,在文献中被描述为低资源的语言是不同的,一方面是芬兰语,有数百万人在每个可以想象的领域使用它,另一方面是塞涅卡语,只有少数流利的人主要在有限的领域使用这种语言。虽然由于缺乏训练模型所需的资源而产生的问题使这一不同的语言群体团结起来,但许多其他问题跨越了广泛使用的低资源语言和濒危语言之间的鸿沟。在这份立场文件中,我们讨论了研究人员和土著语言社区成员在共同努力开发语言技术以支持濒危语言文档和振兴时所面临的独特的技术,文化,实践和道德挑战。我们报告的观点,语言教师,议长和长老从土著社区,以及学者的观点。我们描述了一个正在进行的富有成效的合作,并为学术研究人员和语言社区利益相关者之间的未来伙伴关系提出建议。
2022-04-12 cs.CL
Leveraging Transformer-Based Models for Predicting Inflection Classes of Words in an Endangered Sami Language
Rootroo Ltd(鲁特罗有限公司);University of Helsinki(赫尔辛基大学)
本文提出基于Transformer的端到端方法,通过数据提取与增强预测斯科尔特萨米语的屈折类别,支持濒危语言保护,POS分类F1达1.00,屈折分类F1达0.81。
2024-11-04 cs.CL
Speech Recognition for Endangered and Extinct Samoyedic languages
University of Helsinki(赫尔辛基大学);Luua Forestry School(卢阿林业学校);Rootroo Ltd(鲁特罗有限公司)
我们的研究提出了一系列的实验语音识别濒危和灭绝的萨莫耶德语言,讲在西伯利亚北部和南部。据我们所知,这是第一次为一种灭绝的语言构建功能性ASR系统。我们用Kamas语言实现了15%的标签出错率,并通过仔细的错误分析得出结论,这种质量已经非常有用,作为一个起点,为完善的人类翻译。我们的结果与相关的Nganasan语言更温和,最好的模型有出错率的33\%。然而,我们表明,通过实验,其中卡玛斯训练数据是逐步扩大,Nganasan的结果是符合预期的低资源环境下的语言。在此基础上,我们为进一步的语言文档或归档处理活动可以从现代ASR技术中受益的场景提供了建议。所有训练数据和处理脚本都已在Zenodo上发布,并有明确的许可证,以确保在这一重要主题上的进一步工作。
2020-12-09 cs.CL
Short Text Language Identification for Under Resourced Languages
Feersum Engine(Feersum引擎公司);Praekelt Consulting(Praekelt咨询公司)
本文提出了一种用于短文本语言识别(LID)的分层朴素贝叶斯和基于词典的分类器,适用于资源不足的语言。该算法是评估短的文本片段的11个南非官方语言,其中一些是类似的语言。该算法相比,最近的方法,使用测试集从以前的作品南非语言,以及相似的语言(DSL)共享任务的数据集之间的区别。剩余的研究机会和紧迫的问题,在评估和比较LID方法进行了讨论。
2019-11-22 cs.CL
Is It Navajo? Accurate Language Detection in Endangered Athabaskan Languages
Dartmouth College(达特茅斯学院)
针对纳瓦霍语等濒危阿萨巴斯卡语在语言技术中代表性不足问题,本研究评估谷歌LangID工具后提出随机森林分类器,在纳瓦霍语及错误建议语言上达97-100%准确率且对阿萨巴斯卡语族鲁棒,推动文化本地化NLP工具发展以支持语言保护。
2025-02-10 cs.CL
Distilling Named Entity Recognition Models for Endangered Species from Large Language Models
该研究通过上下文学习从GPT-4蒸馏知识,构建了包含3.6K句子的濒危物种NER和RE数据集,并微调BERT模型,有效实现了濒危物种文本检测。
2024-03-13 cs.CL
A State of the Art of Word Sense Induction: A Way Towards Word Sense Disambiguation for Under-Resourced Languages
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
词义消歧是自动识别句子中多义词的过程,是自然语言处理的一项基本任务。WSD方法的进展为NLP及其应用领域开辟了许多有前途的发展。事实上,在当前性能水平上的改进可以让我们向自然语言理解迈出第一步。由于缺乏词汇资源,有时很难对资源不足的语言进行词义消歧。本文探讨了如何运用词义归纳法对资源匮乏的语言进行词义消歧研究,并提出了一些值得关注的问题。
2013-10-05 cs.CL
Part-of-Speech Tagging on an Endangered Language: a Parallel Griko-Italian Resource
University of Notre Dame(圣母大学);University of Ioannina(约阿尼纳大学);ICREA(加泰罗尼亚高等研究院);Universitat Pompeu Fabra(庞培法布拉大学)
大多数词性标注的工作都集中在高资源语言上,或者通过模拟研究来检查低资源和主动学习设置。我们评估一个实际的濒危语言,Griko的POS标记技术。我们提出了一个资源,其中包含114个故事在Griko,随着意大利语的翻译水平,并提供黄金注释的测试集。基于以前收集的小语料库,我们研究了几种传统的方法,以及利用单语数据或项目跨语言的POS标签的方法。我们发现,半监督方法与跨语言迁移的结合更适合于这种极具挑战性的设置,最好的标记器实现了72.9%的准确率。通过应用主动学习方案,我们使用该方案在测试集上收集高级注释,我们实现了超过21个百分点的改进。
2018-06-11 cs.CL
A primer on getting neologisms from foreign languages to under-resourced languages
Pontificia Universidad Católica del Perú(秘鲁天主教大学)
本文针对低资源语言词汇不足问题,反对仅以殖民遗留的官方语言为新词来源,提出可从任意外语引入,只要新词在语音上像目标语言本族词。
2023-03-07 cs.CL
Are Multilingual Language Models an Off-ramp for Under-resourced Languages? Will we arrive at Digital Language Equality in Europe in 2030?
DFKI GmbH(德国人工智能研究中心);Humboldt-Universität zu Berlin(柏林洪堡大学)
本文探讨多语言LLM能否成为欧洲低资源语言的技术替代路径,分析技术支持现状与相关工作,并指出系统化落地所需解决的关键开放问题。
2025-02-18 cs.CL
ChakmaNMT: Machine Translation for a Low-Resource and Endangered Language via Transliteration
University of Arizona(亚利桑那大学);Bangladesh University of Engineering and Technology(孟加拉工程与技术大学);University of Rochester(罗切斯特大学);Chittagong University of Engineering and Technology(丘比特工程与技术大学)
ChakmaNMT通过转写技术,利用孟加拉语和Chakma语的正字法关系,提升低资源语言的机器翻译效果。
2026-01-08 cs.CL
Under-resourced studies of under-resourced languages: lemmatization and POS-tagging with LLM annotators for historical Armenian, Georgian, Greek and Syriac
LIPN, CNRS UMR 7030(法国国家科学研究中心LIPN实验室(UMR 7030));École nationale des chartes, Université Paris-Sciences-et-Lettres (PSL)(巴黎文理研究大学(PSL)国立文献学院);Université catholique de Louvain(鲁汶天主教大学)
本文研究了LLM在低资源语言词形还原和词性标注中的表现,发现其在少量样本设置中表现优异,尤其在缺乏数据时能有效辅助标注。
2026-02-17 cs.CL
Can we teach language models to gloss endangered languages?
University of Colorado(科罗拉多大学);New College of Florida(佛罗里达新学院)
本研究探索大语言模型通过上下文学习自动生成濒危语言词间注译文本(IGT)的可行性,提出针对性的上下文示例选择方法以提升性能,证实无训练的LLM方法优于标准Transformer基线,实用性强。
2024-10-03 cs.CL
How can NLP Help Revitalize Endangered Languages? A Case Study and Roadmap for the Cherokee Language
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
世界上超过43%的语言濒临灭绝,由于全球化和新殖民主义,语言的丧失正在加速。拯救和振兴濒危语言对于维护我们这个星球的文化多样性非常重要。在这项工作中,我们专注于讨论NLP如何帮助振兴濒危语言。我们首先提出了三个原则,可以帮助NLP从业者促进相互理解和与语言社区的合作,我们讨论了NLP可以帮助语言教育的三种方式。然后,我们采取切罗基语,一种濒临灭绝的美洲土著语言,作为一个案例研究。在回顾了语言的历史,语言特征和现有资源之后,我们(与切罗基社区成员合作)得出了一些有意义的方式,NLP从业者可以与社区合作伙伴合作。我们提出了两种方法来丰富切罗基语言的资源与机器在环处理,并讨论了几个NLP工具,人们从切罗基社区已经表现出兴趣。我们希望我们的工作不仅能为NLP社区提供有关切罗基语的信息,还能为未来的濒危语言工作提供灵感。我们的代码和数据将在https://github.com/ZhangShiyue/RevitalizeCherokee上开源
2022-04-25 cs.AI cs.CL
Natural Language Processing Chains Inside a Cross-lingual Event-Centric Knowledge Pipeline for European Union Under-resourced Languages
University of Zagreb(萨格勒布大学);Faculty of Humanities and Social Sciences(人文与社会科学学院)
本文提出了一种开发包含欧盟语言的语言处理链的平台的策略,该平台由标记化到解析组成,还包括命名实体识别和附加的情感分析。这些链是以事件为中心的知识处理管道的第一步的一部分,其目的是处理有关可能影响欧洲和世界其他地区的重大事件的多语言媒体信息。由于每种语言的语言资源可用性存在差异,我们分三步构建了这一策略,从资源丰富的语言的处理链开始,到资源不足的语言的新模块的开发结束。为了根据资源对所有欧盟官方语言进行分类,我们分析了注释语料库的规模以及主流语言处理工具中预训练模型的存在,并将这些信息与META-NET白皮书系列中发布的拟议分类相结合。
2020-10-23 cs.CL
Sequence to sequence pretraining for a less-resourced Slovenian language
University of Ljubljana(卢布尔雅那大学)
大型预训练语言模型最近征服了自然语言处理领域。作为BERT中引入的主要掩蔽语言建模的替代方案,T5模型引入了更一般的训练目标,即序列到序列转换,其包括掩蔽语言模型,但更自然地适合文本生成任务,例如机器翻译、摘要、问答、文本简化、对话系统、T5模型的单语变体仅限于资源丰富的语言,而大规模多语言T5模型支持101种语言。相比之下,我们训练了两个不同大小的T5类型序列到序列模型,用于形态丰富的斯洛文尼亚语,资源少得多,并分析了它们在11个任务上的行为。关于分类任务,SloT5模型大多落后于单语斯洛文尼亚语SloBERTA模型,但对于生成任务很有用。
2023-01-02 cs.CL
Massive vs. Curated Word Embeddings for Low-Resourced Languages. The Case of Yorùbá and Twi
DFKI GmbH(德国人工智能研究中心);Saarland University(萨尔大学)
几种架构从未注释的文本中学习语义表示的成功,以及这些文本在在线多语言资源(如维基百科)中的可用性,促进了多语言资源的大规模自动创建。对这些资源的评估通常是针对高资源语言进行的,在这些语言中,人们有大量的任务和测试集需要评估。对于低资源语言,评估更加困难,通常被忽略,希望深度学习架构在高资源环境中学习(多语言)表示的令人印象深刻的能力也适用于低资源环境。在本文中,我们重点关注两种非洲语言,Yorūbá和Twi,并将以这种方式获得的词嵌入与从精选语料库和语言相关处理中获得的词嵌入进行比较。我们分析了公开语料库中的噪音,收集了两种语言的高质量和噪音数据,并量化了不仅取决于数据量而且取决于质量的改进。我们还使用不同的架构,从表面形式和字符中学习单词表示,以进一步利用所有可用的信息,这些信息对这些语言很重要。为了进行评估,我们将wordsim-353单词对数据集从英语手动翻译为Yorkbá和Twi。作为输出的工作,我们提供语料库,嵌入和测试适合这两种语言。
2020-03-28 cs.CL
QFS-Composer: Query-focused summarization pipeline for less resourced languages
本文提出QFS-Composer框架,通过查询分解、问题生成、问题回答和抽象摘要提升摘要与用户意图的一致性,针对资源匮乏语言进行查询聚焦摘要研究。
2026-04-12 cs.CL
Performance of Recent Large Language Models for a Low-Resourced Language
University of Moratuwa(莫拉图瓦大学)
本文评估了四款近期LLMs在低资源语言僧伽罗语上的直接表现、英译互译能力及少量数据微调潜力,发现Claude和GPT 4o开箱即用表现优异,而Llama和Mistral虽表现不佳但微调后有改进空间。
2024-07-31 cs.CL
Evaluating Language Tools for Fifteen EU-official Under-resourced Languages
University of Zagreb, Faculty of Humanities and Social Sciences(萨格勒布大学人文与社会科学学院)
本文介绍了15个欧盟官方资源不足的语言可用的语言工具的评估活动的结果。该评估是在MSC ITN CLEOPATRA行动中进行的,该行动旨在在至少24种欧盟官方语言的语言处理链(LPC)应用程序的基础上建立以跨语言事件为中心的知识处理。在这次活动中,我们集中在三个现有的NLP平台(Stanford CoreNLP,NLP Cube,UDPipe)上,它们都为资源不足的语言提供了模型,在第一次运行中,我们涵盖了15种资源不足的语言。我们提出的评估活动的设计,并提出的结果,以及讨论它们。我们认为报告结果和我们检测结果之间的差异在单个百分点内,在可接受的公差范围内,因此认为该结果具有重现性。然而,对于一些语言,结果低于文献中报道的,在某些情况下,我们的测试结果甚至比以前报道的更好。特别成问题的是对全国教育资源中心系统的评价。原因之一是缺乏通用或跨语言适用的命名实体分类方案,该方案将在不同语言中服务于NERC任务,类似于解析任务中的通用依赖方案。建立这样的方案已成为我们未来的研究方向之一。
2020-10-23 cs.CL
Analysing Cross-Lingual Transfer in Low-Resourced African Named Entity Recognition
University of the Witwatersrand(威特沃特斯兰德大学)
本文从命名实体识别角度研究了十种低资源非洲语言间的跨语言迁移特性,发现自适应微调与迁移语言选择影响零样本迁移性能,且数据重叠量比语言地理或谱系距离更能预测迁移效果。
2023-09-11 cs.CL
Preparing an Endangered Language for the Digital Age: The Case of Judeo-Spanish
Col·lectivaT;Universitat Pompeu Fabra(庞培法布拉大学);Dublin City University(都柏林城市大学);Sephardic Center of Istanbul(伊斯坦布尔塞法迪中心)
我们开发机器翻译和语音合成系统,以补充振兴犹太-西班牙语的努力,这是塞法迪犹太人的流亡语言,幸存了几个世纪,但现在面临着在数字时代灭绝的威胁。在土耳其和其他地方的塞法迪社区创建的资源的基础上,我们创建了语料库和工具,有助于为后代保护这种语言。对于机器翻译,我们首先开发了一个西班牙语到犹太-西班牙语的基于规则的机器翻译系统,以生成大量的合成并行数据的相关语言对:土耳其语,英语和西班牙语。然后,我们使用这个合成数据和由Sephardic社区翻译创建的真实并行数据来训练基线神经机器翻译引擎。对于文本到语音合成,我们提出了一个3.5小时的单扬声器语音语料库建立一个神经语音合成引擎。资源、模型权重和在线推理引擎是公开共享的。
2022-05-31 cs.CL
LR-Sum: Summarization for Less-Resourced Languages
Mitchom School of Computer Science(米彻姆计算机科学学院);Brandeis University(布兰迪斯大学)
本文介绍LR-Sum数据集,覆盖40种资源较少语言的人工摘要,基于公共领域新闻语料构建并以CC BY 4.0开放许可发布,旨在促进低资源语言自动摘要研究。
2023-10-26 cs.CL
Bootstrapping NLP tools across low-resourced African languages: an overview and prospects
University of Cape Town(开普敦大学)
计算和互联网接入是南部非洲大幅度增长的市场,随之而来的是对非洲土著语言的本地内容和工具的需求日益增加。由于这些语言中的大多数都是低资源的,因此人们努力研究从一种非洲语言到另一种非洲语言的自助工具的概念。本文提供了一个概述,这些努力的刚果B(“班图”)语言。地理上遥远的语言的自举语法已经被证明对于形态和规则或基于语法的自然语言生成仍然具有积极的结果。使用数据驱动的方法进行NLP任务的自举很难有意义地使用,无论地理位置是否接近,这在很大程度上是由于拼写和词汇的词汇多样性。比较语言学中的分支分类方法可以为自举策略提供信息,相似性度量也可以作为自举潜力的代理,这两种方法都是进一步研究的沃土。
2022-10-21 cs.CL
Minimal Dependency Translation: a Framework for Computer-Assisted Translation for Under-Resourced Languages
Indiana University(印第安纳大学)
本文介绍了最小依赖翻译(MDT),一个正在进行的项目,以开发一个基于规则的框架,创建基本的双语词汇语法的机器翻译和计算机辅助翻译成和出资源不足的语言,以及对英语到阿姆哈拉语翻译实施MDT的初步步骤。MDT中的基本单位称为组,是以多项序列为标题的。除了词形之外,组还可能包含词素、句法语义类别和语法特征。每个组与一个或多个翻译相关联,每个翻译是目标语言的组。在翻译过程中,使用约束满足来为输入句子选择一组源语言组,并对相关联的目标语言组中的单词进行排序。
2017-10-02 cs.CL
Developing a Fine-Grained Corpus for a Less-resourced Language: the case of Kurdish
University of Kurdistan Hewlêr(库尔德斯坦大学( Hewlêr));Insight Centre for Data Analytics(数据 analytics 洞察中心);National University of Ireland Galway(爱尔兰国立高威大学)
库尔德语是一种资源较少的语言,由不同的方言组成,以各种文字书写。在不同的国家,大约有3000万人说这种语言。语料库的缺乏是库尔德语处理的主要障碍之一。本文介绍了由31本Sorani方言的K-12教材组成的库尔德语教材语料库KTC。语料库被规范化并分类为12个教育主题,包含693,800个标记(110,297种类型)。我们的资源根据CC BY-NC-SA 4.0许可证公开用于非商业用途。
2019-09-25 cs.CL
Hybrid Neural-LLM Pipeline for Morphological Glossing in Endangered Language Documentation: A Case Study of Jungar Tuvan
Department of Linguistics, University of Washington(语言学系,华盛顿大学);Department of Middle Eastern Languages and Cultures, University of Washington(中东语言与文化系,华盛顿大学)
本文提出一种混合神经-大语言模型管道,用于朱加尔图瓦语的形态学 glossing,通过结合神经序列标注和 LLM 后修正,显著减少标注工作量。
2026-03-01 cs.CL
Effects of Layer Freezing on Transferring a Speech Recognition System to Under-resourced Languages
University of Duisburg-Essen(杜伊斯堡-埃森大学)
在本文中,我们研究了自动语音识别领域中层冻结对模型转移有效性的影响。我们在德语和瑞士德语语音数据集上使用Mozilla的DeepSpeech架构进行了实验,并比较了从头开始训练与传输预训练模型的结果。我们比较了不同的层冻结方案,发现即使只冻结一层也能显著改善结果。
2022-10-04 cs.CL
Data-Efficient Strategies for Expanding Hate Speech Detection into Under-Resourced Languages
University of Oxford(牛津大学);Bocconi University(博科尼大学);Stanford University(斯坦福大学)
仇恨言论是一种全球现象,但迄今为止,大多数仇恨言论数据集都集中在英语内容上。这阻碍了在世界各地数十亿人使用的数百种语言中开发更有效的仇恨言论检测模型。需要更多的数据,但注释仇恨内容是昂贵的,耗时的,并可能对注释者有害。为了缓解这些问题,我们探索数据高效的策略,将仇恨言论检测扩展到资源不足的语言中。在五种非英语语言的单语言和多语言模型的一系列实验中,我们发现:1)需要少量的目标语言微调数据才能实现强大的性能,2)使用更多此类数据的好处呈指数级下降,3)对现成的英语数据进行初始微调可以部分替代目标语言数据并提高模型的通用性。基于这些发现,我们制定了可操作的建议,在低资源的语言设置仇恨言论检测。
2022-10-20 cs.CL
NoLoR: An ASR-Based Framework for Expedited Endangered Language Documentation with Neo-Aramaic as a Case Study
Harvard University(哈佛大学);University of Cambridge(剑桥大学)
针对新阿拉姆语方言濒危且记录紧迫的问题,本文构建 ASR 模型加速语言存档,并提出可推广的 NoLoR 框架。
2024-12-06 cs.AI cs.CL
Attentive fine-tuning of Transformers for Translation of low-resourced languages @LoResMT 2021
Indian Institute of Information Technology Tiruchirappalli(印度特里奇拉帕利信息技术学院);ULTRA Arts and Science College(ULTRA文理学院);Sri Sivasubramaniya Nadar College of Engineering(斯里·西瓦苏布拉马尼亚·纳达尔工程学院);Kongu Engineering College(孔古工程学院);Sultan Idris Education University(苏丹依德里斯教育大学);National University of Ireland Galway(爱尔兰国立大学戈尔韦分校)
本文报告了IIITT团队为英语-马拉地语和英语-爱尔兰语语言对LoResMT 2021共享任务提交的机器翻译(MT)系统。该任务的重点是为爱尔兰语和马拉地语等资源相对较低的语言提供出色的翻译。我们微调IndicTrans,这是一个针对英语->马拉地语的预训练多语言NMT模型,使用外部并行语料库作为额外训练的输入。我们对后一种语言对使用了预先训练的Helsinki-NLP Opus MT English->Irish模型。我们的方法在BLEU指标上产生了相对有希望的结果。在团队名称IIITT下,我们的系统分别在英语->马拉地语,爱尔兰语->英语和英语->爱尔兰语中排名1,1和2。
2021-08-31 cs.CL
Train Global, Tailor Local: Minimalist Multilingual Translation into Endangered Languages
Carnegie Mellon University(卡内基梅隆大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文针对濒危语言翻译,提出先领域适应后语言适应并精选种子句的方法,将chrF从21.9提升至50.7,仅需约千句种子。
2023-05-05 cs.CL
cantnlp@LT-EDI-2024: Automatic Detection of Anti-LGBTQ+ Hate Speech in Under-resourced Languages
University of Canterbury(坎特伯雷大学);Geospatial Research Institute(地理空间研究所)
本研究针对低资源语言下的反LGBTQ+仇恨言论检测问题,采用基于transformer的多分类模型,通过引入语码转换数据进行领域适配,在LT-EDI-2024共享任务的古吉拉特语、泰卢固语赛道获第二名,验证了副语言特征对低资源语言检测的提升作用。
2024-01-28 cs.CL
Automatic Speech Recognition for Documenting Endangered Languages: Case Study of Ikema Miyakoan
University of Notre Dame(诺特大学);National Institute for Japanese Language and Linguistics(日本语言学研究所)
本文研究了自动语音识别在濒危语言记录中的应用,通过构建语料库、训练模型和评估ASR对转录效率的影响,展示其在保护濒危语言中的潜力。
2026-04-20 cs.AI cs.CL
Prompting Towards Alleviating Code-Switched Data Scarcity in Under-Resourced Languages with GPT as a Pivot
University of Pretoria(比勒陀利亚大学)
本研究通过提示GPT 3.5生成Afrikaans-English和Yoruba-English语码转换句子,提出一种利用GPT增强合成数据多样性的框架,以缓解低资源语言的数据稀缺问题。
2024-04-26 cs.CL
mRAKL: Multilingual Retrieval-Augmented Knowledge Graph Construction for Low-Resourced Languages
UC Berkeley(伯克利大学);Apple(苹果公司)
本文提出mRAKL系统,将多语言知识图谱构建重构为问答任务,结合检索增强生成技术,在提格里尼亚语和阿姆哈拉语等低资源语言上显著提升链接预测准确率。
2025-07-21 cs.CL
Evaluation of contextual embeddings on less-resourced languages
University of Ljubljana(卢布尔雅那大学);Queen Mary University of London(伦敦玛丽女王大学);Jožef Stefan Institute(约泽夫·斯蒂芬研究所)
目前深度神经网络在自然语言处理中的主导地位是基于上下文嵌入,如ELMo,BERT和BERT衍生物。大多数现有的工作集中在英语,相比之下,我们在这里提出的第一个多语言的实证比较两个ELMo和几个单语和多语言的BERT模型使用14个任务,在9种语言。在单语环境中,我们的分析表明,单语BERT模型通常占主导地位,有一些例外,如依存句法分析任务,在那里他们是没有竞争力的ELMo模型上训练的大型语料库。在跨语言环境中,仅使用少数语言训练的BERT模型表现最好,紧随其后的是大规模多语言BERT模型。
2021-07-22 cs.CL
FST Morphology for the Endangered Skolt Sami Language
University of Helsinki(赫尔辛基大学)
我们提出了一个基于FST的形态分析器和Skolt萨米语生成器的发展进展。像其他少数民族乌拉尔语一样,斯科尔特萨米语一方面表现出丰富的形态学,另一方面几乎没有黄金标准材料。这使得NLP方法在没有坚实的形态分析的情况下难以进行研究。这种语言受到严重威胁,本文件所介绍的工作是其振兴努力的一个更大整体的一部分。此外,我们在描述中穿插了基础设施中没有很好记录的促进和描述实践。目前,该分析器涵盖了148种屈折变化范例和12种以上派生形式的30 000多个Skolt萨米语单词。
2020-04-09 cs.CL cs.FL
In-context Language Learning for Endangered Languages in Speech Recognition
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本研究探讨了LLMs通过上下文学习在语音识别中学习濒危语言的可能性,并展示了基于概率的方法在语言学习中的优势。
2026-01-27 cs.AI cs.CL
ELR-1000: A Community-Generated Dataset for Endangered Indic Indigenous Languages
Karya;UC San Diego;Microsoft Corporation(微软公司)
ELR-1000数据集通过众包方式收集10种濒危印度-原住民语言的传统食谱,评估LLMs翻译表现,发现提供文化背景信息可显著提升翻译质量,推动公平的文化敏感语言技术发展。
2025-11-30 cs.CL cs.HC
Integrating Linguistics and AI: Morphological Analysis and Corpus development of Endangered Toto Language of West Bengal
Adamas University(阿达马斯大学)
本研究融合传统语言学与AI,通过田野调查构建托托语语素标注三语语料库,训练小型语言模型和Transformer翻译引擎,并开发三语学习应用,为濒危语言保护提供可持续模型。
2025-10-26 cs.AI cs.CL
Data Augmentation and Hyperparameter Tuning for Low-Resource MFA
Yale University(耶鲁大学)
本文针对低资源语言强制对齐准确率低的问题,比较数据增强与超参数调优的效果,发现音频增强提升有限,而超参数调优能在不显著增加训练时间的情况下带来实质性改进。
2025-04-09 cs.CL
KB-Plugin: A Plug-and-play Framework for Large Language Models to Induce Programs over Low-resourced Knowledge Bases
Tsinghua University(清华大学);Beijing Institute of Technology(北京理工大学)
针对低资源知识库缺乏标注数据导致大语言模型程序归纳困难的问题,提出即插即用框架KB-Plugin,通过模式插件和PI插件实现低资源KB上的程序归纳,在小25倍骨干模型下性能优于或持平现有最优方法,接近监督方法水平。
2024-02-02 cs.CL
Yunshan Cup 2020: Overview of the Part-of-Speech Tagging Task for Low-resourced Languages
Guangdong University of Foreign Studies(广东外语外贸大学)
2020年云山杯的重点是创建一个评估不同词性(POS)方法的框架。这条赛道有两个任务:(1)印度尼西亚语的POS标记,以及(2)老挝语的POS标记。印尼语数据集由29个标签内的10000个印尼语新闻句子组成。老挝的数据集由27个标签中的8000个句子组成。有25个团队报名参加了这项任务。参与者的方法从基于特征到使用经典机器学习技术或集成方法的神经网络不等。表现最好的结果达到了95.82%的准确率为印尼和93.03%,表明神经序列标记模型显着优于经典的基于特征的方法和基于规则的方法。
2022-04-06 cs.CL