MotàMot project: conversion of a French-Khmer published dictionary for building a multilingual lexical system
GETALP-LIG Laboratory(GETALP-LIG实验室)
与信息处理技术有关的经济问题非常重要。这些技术的发展是柬埔寨和老挝等发展中国家以及越南、马来西亚和泰国等新兴国家的重要资产。MotAMot项目的目的是计算一种资源不足的语言:高棉语,主要在柬埔寨使用。该项目的主要目标是开发一个针对高棉语的多语种词汇系统。宏观结构是一个枢纽结构,每种语言的每个词义都与一个枢纽轴相连。微观结构来源于解释性和组合性词典的简化。词汇系统已经初始化,数据主要来自Denis Richer的法语-高棉语双语词典从Word格式到XML格式的转换。法语部分的发音和词性来自FEM法语-英语-马来语词典。在Richer词典中以IPA标注的高棉语词目用OpenFST(一种有限状态转换器工具)转换为高棉语书写。由此产生的资源可通过Jibiki平台上的REST API在线查找,编辑,下载和远程编程。
2014-05-22 cs.CL
R2T: Rule-Encoded Loss Functions for Sequence Tagging in Low-Resource Languages
Rochester Institute of Technology(罗切斯特技术学院);RobotsMali(Mali机器人)
本文提出R2T框架,通过将语言规则编码进自适应损失函数,使模型在低资源序列标注中仅用未标注文本即可达到98.2%准确率,并作为预训练步骤提升NER性能。
2026-09-29 cs.CL cs.LG
Improving Similar Language Translation With Transfer Learning
Natural Language Processing Lab(自然语言处理实验室);The University of British Columbia(英属哥伦比亚大学)
我们研究了基于预训练神经机器翻译模型的迁移学习,以在(低资源)相似语言之间进行翻译。这项工作是我们对WMT 2021相似语言翻译共享任务的贡献的一部分,我们在该任务中提交了不同语言对的模型,包括法语-班巴拉语,西班牙语-加泰罗尼亚语和西班牙语-葡萄牙语。我们的加泰罗尼亚语-西班牙语($82.79$ BLEU)和葡萄牙语-西班牙语($87.11$ BLEU)模型在官方共享任务评估中排名前1,我们是唯一提交法语-班巴拉配对模型的团队。
2021-10-06 cs.AI cs.CL
UniSent: Universal Adaptable Sentiment Lexica for 1000+ Languages
University of California, Berkeley(加州大学伯克利分校);Volkswagen Group Data:Lab(大众集团数据实验室);Center for Information and Language Processing(信息与语言处理中心);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室)
在本文中,我们介绍了UniSent通用情感词汇的$1000+$语言。情感词典对于缺乏文档级注释的情感分析至关重要,这是低资源语言的一个非常常见的场景。据我们所知,UniSent是迄今为止最大的情感资源,涵盖的语言数量,包括许多低资源。在这项工作中,我们使用了大量的并行圣经语料库项目的情感信息从英语到其他语言的情感分析的Twitter数据。我们引入了一种称为DomDrift的方法,以减轻圣经和Twitter之间的巨大的域不匹配的信心加权方案,使用特定于域的嵌入比较最近的邻居的候选情感词在源(圣经)和目标(Twitter)域。我们评估UniSent的质量在一个子集的语言手动创建地面实况可用,马其顿语,捷克语,德语,西班牙语和法语。我们表明,UniSent的质量是手动创建的情感资源,当它被用作情感种子的任务,词的情感预测嵌入表示的顶部。此外,我们表明,表情符号的情绪可以可靠地预测在Twitter域中只使用UniSent和单语嵌入在德语,西班牙语,法语和意大利语。随着本文的发表,我们发布了UniSent情感词典。
2019-11-28 cs.CL
Evaluating Language Model Finetuning Techniques for Low-resource Languages
Center for Language Technologies(语言技术中心);College of Computer Studies(计算机研究学院);De La Salle University(德拉萨大学)
与主流语言(如英语和法语)不同,低资源语言通常缺乏专家注释的语料库和基准资源,因此很难直接应用最先进的技术。在本文中,我们通过两种方式缓解资源匮乏的菲律宾语的稀缺问题。首先,我们介绍了一个新的基准语言建模数据集在菲律宾,我们称之为WikiText-TL-39。其次,我们表明,语言模型微调技术,如BERT和ULMFiT可用于一致的训练强大的分类器在低资源设置,经历了最多0.0782增加验证错误时,训练样本的数量从10 K减少到1 K,而微调使用私人持有的情感数据集。
2019-06-30 cs.CL
Speech-to-Speech Translation Pipelines for Conversations in Low-Resource Languages
HEIG-VD / HES-SO;Bhaasha Sàrl;EPFL(苏黎世联邦理工学院)
本文针对土耳其语、普什图语与法语之间的低资源语言对话翻译,构建并评估了60多条语音到语音翻译流水线,结合自动指标与人工评估确定了各方向最优方案,并发现组件排名具有相对独立性。
2025-06-02 cs.CL
A Very Low Resource Language Speech Corpus for Computational Language Documentation Experiments
LIMSI(法国语言与信息系统实验室);CNRS(法国国家科学研究中心);Université Paris-Saclay(巴黎萨克雷大学);LPP(巴黎语言实验室);ENS(巴黎高等师范学院);EHESS(法国高等社会科学研究院);PSL Research University(巴黎文理研究大学);INRIA(法国国家信息与自动化研究所);LIG(格勒诺布尔信息学实验室);UGA(格勒诺布尔阿尔卑斯大学);G-INP(格勒诺布尔国立理工学院);KIT(卡尔斯鲁厄理工学院)
大多数语音和语言技术都是用大量的语音和文本信息训练的。然而,世界上大多数语言都没有这样的资源或稳定的正字法。在这些几乎为零的资源条件下构建的系统不仅对语音技术,而且对计算语言文档都很有前途。计算语言文档的目标是帮助领域语言学家(半)自动分析和注释濒危和不成文语言的录音。示例任务是从语音信号中自动音素发现或词典发现。本文介绍了一个语音语料库收集过程中的一个现实的语言文件。它由Mboshi(Bantu C25)中的5k语音话语组成,与法语文本翻译对齐。语音音译也是可用的:它们对应于接近语言音位的非标准字形形式。我们提出了如何收集,清理和处理数据,我们说明了它的使用通过零资源的任务:口语术语发现。该数据集可供社区用于可重复的计算语言文档实验及其评估。
2018-02-15 cs.CL
Subword Sampling for Low Resource Word Alignment
Volkswagen AG(大众汽车集团);Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心)
注释投影是NLP中的一个重要领域,可以为低资源语言创建语言资源。单词对齐在此设置中起着关键作用。然而,大多数现有的单词对齐方法是针对机器翻译中的高资源设置而设计的,在该高资源设置中,数百万个并行句子是可用的。当处理现有的IBM模型失败的低资源语言时,这个数量减少到几千个句子。在本文中,我们提出了基于子字采样的文本单元对齐。该方法的假设是,对于某些语言对,不同粒度的文本的聚合可以帮助词级对齐。对于某些语言的黄金标准的对齐存在,我们提出了一个迭代贝叶斯优化框架,以优化选择可能的子词从空间的可能的子词表示的源和目标句子。我们表明,子词抽样方法始终优于单词级对齐的六种语言对:英语-德语,英语-法语,英语-罗马尼亚语,英语-波斯语,英语-印地语,英语-因纽特语。此外,我们还表明,为某些语言对学习的超参数可以在没有监督的情况下应用于其他语言,并不断改善对齐结果。我们观察到,使用$5K$平行句子与我们提出的子词采样方法一起,我们获得了类似的F1分数使用$100K$的平行句子在现有的词级快速对齐/eflomal对齐方法。
2021-06-15 cs.CL
Sinhala-English Word Embedding Alignment: Introducing Datasets and Benchmark for a Low Resource Language
University of Moratuwa(莫拉图瓦大学)
本文针对低资源语言僧伽罗语,提出与英语的词嵌入对齐方法,引入对齐数据集和基准,为后续专业对齐奠定基础。
2023-11-17 cs.CL
AfriNLLB: Efficient Translation Models for African Languages
Trinity College Dublin(都柏林三一学院)
AfriNLLB通过轻量级模型和知识蒸馏技术,为非洲语言提供高效翻译解决方案,支持15种语言对,实现高效部署与推断。
2026-08-10 cs.CL
Offensive Language Detection in Under-resourced Algerian Dialectal Arabic Language
Université 8 Mai 1945, Guelma(盖勒马1945年5月8日大学)
本文解决了检测Facebook评论中的攻击性和辱骂性内容的问题,我们专注于阿尔及利亚方言阿拉伯语,这是一种资源不足的语言。后者有各种方言混合不同的语言(即柏柏尔语,法语和英语)。此外,我们处理以阿拉伯语和罗马字母(即Arabizi)书写的文本。由于同一语言的作品稀缺,我们建立了一个新的语料库,重新组合了超过8.7k的文本,这些文本被手动标注为正常,辱骂和冒犯。我们使用最先进的文本分类分类器进行了一系列实验,即:BiLSTM,CNN,FastText,SVM和NB。结果表明,可以接受的性能,但问题需要进一步研究的语言特征,以提高识别精度。
2022-03-18 cs.CL cs.IR
Cross-Language Aphasia Detection using Optimal Transport Domain Adaptation
Winterlight Labs(温特莱特实验室);Massachusetts Institute of Technology(麻省理工学院);University of Toronto(多伦多大学);Vector Institute(向量研究所);Microsoft Research(微软研究院)
多语言语音数据集是稀缺的,通常在医疗领域的样本量很小。在从语音中检测健康状况时,跨语言的语言特征的强大转移可以提高低资源语言使用者的早期诊断和治疗率。我们利用域外的,不成对的,单扬声器,健康的语音数据训练多个最优传输(OT)域自适应系统。我们学习从其他语言到英语的映射,并从语音的语言特征中检测失语症,并表明OT域适应提高了法语(F1增加6%)和普通话(F1增加5%)的单语基线失语症检测。此外,我们发现,将失语症数据添加到域适应系统中显着提高了法语和普通话的性能,进一步提高了F1分数(法语和普通话的F1分数分别比单语基线提高了10%和8%)。
2019-12-04 cs.CL cs.LG cs.SD
On Optimal Transformer Depth for Low-Resource Language Translation
InstaDeep Ltd(InstaDeep公司);Stellenbosch University(斯泰伦博斯大学);Heidelberg University(海德堡大学)
Transformers作为低资源语言的神经机器翻译(NMT)方法已经显示出很大的前景。然而,与此同时,Transformer模型仍然难以优化,需要仔细调整超参数才能在此设置中使用。许多NMT工具包都带有一组默认的超参数,研究人员和实践者经常为了方便和避免调优而采用这些参数。然而,这些配置已经针对大规模机器翻译数据集进行了优化,这些数据集包含数百万个欧洲语言(如英语和法语)的并行句子。在这项工作中,我们发现该领域目前使用非常大的模型的趋势对低资源语言是有害的,因为它使训练更加困难,并损害了整体性能,证实了以前的观察结果。我们认为我们的工作是对Masakhane项目的补充(“Masakhane”在祖鲁语中的意思是“我们一起建设”)。本着这种精神,最需要资源的社区正在建造低资源的NMT系统。然而,社区中的许多人仍然只能获得非常有限的计算资源,而这些资源是构建工业研究所推动的超大型模型所需的。因此,通过展示Transformer模型在低到中等深度下表现良好(通常是最好的),我们希望说服研究人员在开发这些系统时投入更少的计算资源和时间来探索过大的模型。
2020-04-14 cs.CL cs.LG
Can Character-based Language Models Improve Downstream Task Performance in Low-Resource and Noisy Language Scenarios?
Inria Paris(巴黎研究所);Sorbonne Université(索邦大学)
本文研究基于字符的语言模型在低资源、高噪声场景下的表现,以 NArabizi 和含噪法语数据为例,证明仅用少量数据训练的字符模型在下游任务上可接近大规模预训练模型性能。
2025-06-03 cs.CL cs.LG
A Multilingual Sentiment Lexicon for Low-Resource Language Translation using Large Languages Models and Explainable AI
University of Pretoria(比勒陀利亚大学)
本研究构建了面向南非和刚果民主共和国低资源语言的多语言情感词典,结合机器学习与BERT模型提升翻译和情感分析性能,BERT达到99%准确率,并通过可解释AI增强透明度。
2024-11-06 cs.AI cs.CL cs.LG
Verbal chunk extraction in French using limited resources
探索了一种提取法语动词词块的方法,并在有效语料库上进行了测试。声明性的形态和本地语法规则,指定块和一些简单的上下文结构,依赖于有限的词汇信息和一些简单的启发式/统计特性,从受限制的语料库。具体的目标,该系统的架构和形式主义,它依赖的语言信息和有效语料库上取得的成果。
2004-08-26 cs.CL
ADBCMM : Acronym Disambiguation by Building Counterfactuals and Multilingual Mixing
National Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy Sciences(中国科学院自动化研究所模式识别国家重点实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);College of Electrical and Information Engineering, Hunan University(湖南大学电气与信息工程学院)
科学文献通常包含大量的首字母缩略词。对这些首字母缩略词的消歧将有助于研究人员更好地理解文档中词汇的含义。过去,由于大量的英文文献数据,缩略词任务主要应用于英文文献。然而,对于其他低资源的语言,由于缺乏大量的注释数据,该任务很难获得良好的性能,并且受到较少的关注。针对上述问题,本文提出了一种新的缩略词消歧方法ADBCMM,该方法通过构建反事实和多语言混合来显著提高低资源语言的性能。具体来说,通过平衡低资源语言中的数据偏差,ADBCMM将能够提高数据集之外的测试性能。在SDU@AAAI-22 - Shared Task 2:Acronym Disambiguation中,该方法获得了法语和西班牙语的第一名。你可以在这里重复我们的结果https://github.com/WENGSYX/ADBCMM。
2022-02-05 cs.AI cs.CL
Extending the adverbial coverage of a NLP oriented resource for French
LIGM, Université Paris-Est(巴黎东部大学LIGM研究所)
本文介绍了对面向自然语言处理的法语句法资源LGLex的状语词条进行扩展的工作。副词是从词汇语法表中提取的,包括以“-ly”结尾的简单副词(Molinier和Levrier,2000)和复合副词(Gross,1986; 1990)。这项工作依赖于利用现有资源中提供的细粒度语言信息。各种功能都编码在两个LG表,他们还没有被利用。它们分别描述了简单副词与复合副词之间以及不同类型的复合副词之间的删除、置换、强化和释义关系。生成的语法资源是手动评估的,并在LGPL-LR许可下免费提供。
2011-11-15 cs.CL
CML-TTS A Multilingual Dataset for Speech Synthesis in Low-Resource Languages
UFG(戈亚斯联邦大学)
本文提出CML-TTS多语言语音合成数据集,基于MLS覆盖七种语言,并训练YourTTS模型,旨在推动低资源多语言TTS研究。
2023-06-16 cs.AI cs.CL eess.AS
Neural Machine Translation for Coptic-French: Strategies for Low-Resource Ancient Languages
Department of Computer Science and Software Engineering(计算机科学与软件工程系);Université Laval(拉瓦尔大学)
本文系统研究了科普特语到法语翻译策略,评估了中介翻译与直接翻译、预训练影响、多版本微调效益及模型对噪声的鲁棒性,证明了使用风格多样且噪声敏感的训练语料能显著提升翻译质量。
2025-08-14 cs.CL
Language Ranker: A Metric for Quantifying LLM Performance Across High and Low-Resource Languages
New Jersey Institute of Technology(新泽西理工学院);University of Georgia(佐治亚大学);University of Minnesota at Twin Cities(明尼苏达大学双城分校);Wake Forest University(维克森林大学);Cisco Research(思科研究院)
针对LLM在低资源语言上性能缺乏量化评估方法的问题,提出基于内部表征的Language Ranker指标,通过与英语基线对比排序语言性能,验证了其有效性及性能与预训练语料占比的强相关性。
2024-12-11 cs.AI cs.CL cs.LG
Content-Localization based Neural Machine Translation for Informal Dialectal Arabic: Spanish/French to Levantine/Gulf Arabic
School of Electrical Engineering and Computer Science(电气工程与计算机科学学院);University of Ottawa(渥太华大学)
针对高资源语言资源未有效用于低资源语言的问题,提出利用AI将高资源语言内容本地化到阿拉伯方言的框架,构建首个西/法语与非正式阿方言的平行数据集,验证了资源利用能力及方言对社会行为分析的影响。
2023-12-12 cs.CL
CJaFr-v3 : A Freely Available Filtered Japanese-French Aligned Corpus
CNRS-CRLAO(法国国家科学研究中心-东亚语言研究中心)
我们提出了一个免费的日法平行语料库。它包括15M对齐的片段,并通过编译和过滤几个现有的资源获得。在本文中,我们描述了现有的资源,它们的数量和质量,过滤,我们应用,以提高语料库的质量,并准备使用的语料库的内容。我们还评估了这个语料库的有用性和我们的过滤质量的训练和评估一些标准的MT系统与它。
2022-08-28 cs.CL
A French Version of the OLDI Seed Corpus
Inria(法国国家信息与自动化研究所)
本文介绍了OLDI种子语料库的首个法语分区,详述了其创建过程与翻译挑战,并定位为促进法国地区语言平行语料收集的关键资源。
2025-08-04 cs.CL
Lip Reading for Low-resource Languages by Learning and Combining General Speech Knowledge and Language-specific Knowledge
KAIST(韩国科学技术院)
本文针对低资源语言唇读数据不足的问题,提出从高资源语言学习通用唇动知识,并结合语言特定记忆增强解码器(LMDecoder)利用音频-文本数据学习语言知识,从而高效构建低资源语言唇读模型。
2024-01-12 cs.CL cs.CV cs.SD
LLM-Based Data Generation and Clinical Skills Evaluation for Low-Resource French OSCEs
本文提出利用大语言模型生成和评估法语OSCE对话,通过合成数据缓解资源限制,展示中等规模模型在医疗教育中的可行性。
2026-04-09 cs.CL
Low-Resourced Machine Translation for Senegalese Wolof Language
Université Cheikh Anta Diop(谢赫·安达·迪奥普大学);Baamtu(Baamtu公司)
针对非洲沃洛夫语等低资源语言NLP发展滞后的问题,该研究构建了12.3万句对的沃洛夫语-法语平行语料,基于RNN开展不同配置的机器翻译实验,验证了子词数据、法英对训练的性能增益。
2023-05-01 cs.CL
FFR V1.0: Fon-French Neural Machine Translation
Kazan (Volga) Federal University(喀山(伏尔加)联邦大学)
非洲是世界上语言多样性最高的国家。由于语言对交流的重要性,以及可靠、强大和准确的机器翻译模型在现代跨文化交流中的重要性,人们一直在努力为许多非洲语言创建最先进的翻译模型。然而,非洲语言的低资源,变音和音调复杂性是非洲NLP今天面临的主要问题。FFR是朝着创建一个强大的翻译模型迈出的重要一步,从Fon(一种资源和音调非常低的语言)到法语,用于研究和公共使用。在本文中,我们描述了我们的试点项目:为Fon-to-French翻译创建一个大型不断增长的语料库,以及我们在此数据集上训练的FFR v1.0模型。数据集和模型是公开的。
2020-03-26 cs.CL
Corpus and Models for Lemmatisation and POS-tagging of Old French
Centre Jean-Mabillon(让-马比永中心);École nationale des chartes(法国国家文献学院);Université Paris, Sciences & Lettres(巴黎科学与文学大学)
古法语是一个典型的历史语言资源不足的例子,进一步显示了大量的语言变异。在本文中,我们介绍了一个长期项目(2015-...)的当前结果。并描述我们如何在神经标签器和专用语料库的逐步构建的帮助下解决为古法语提供词形化和POS模型的难题。
2021-09-23 cs.CL
From FreEM to D'AlemBERT: a Large Corpus and a Language Model for Early Modern French
Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心)
语言历史状态的语言模型变得越来越重要,以便对旧文本源进行最佳数字化和分析。由于这些历史状态同时处理起来更复杂,并且在可用的语料库中更稀缺,因此需要专门的努力来训练适应数据的自然语言处理(NLP)工具。在本文中,我们提出了我们的努力,以开发自然语言处理工具的早期现代法语(历史法语从16 $^\text{th}$到18 $^\text{th}$世纪)。我们介绍了早期现代法语的$\text{FreEM}_{\text{max}}$语料库和D'AlemBERT,一个在$\text{FreEM}_{\text{max}}$上训练的基于Roberta的语言模型。我们评估的有用性的D'AlemBERT微调它的词性标注任务,优于以前的工作测试集。重要的是,我们找到了语言模型迁移学习能力的证据,因为它在资源较少的时间段的表现似乎得到了资源较多的时间段的提升。我们发布了D'AlemBERT和$\text{FreEM}_{\text{max}}$语料库的开源子部分。
2022-02-18 cs.CL
Pre-training on high-resource speech recognition improves low-resource speech-to-text translation
University of Edinburgh(爱丁堡大学);Stellenbosch University(斯泰伦博斯大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
当源语言资源不足时,我们提出了一种简单的方法来改进直接语音到文本翻译(ST):我们在高资源自动语音识别(ASR)任务上预训练模型,我们证明了我们的方法是有效的预训练300小时的英语ASR数据,以提高西班牙语-当只有20小时的西班牙语-英语ST训练数据可用时,英语ST从10.8到20.2 BLEU。通过消融研究,我们发现预训练的编码器(声学模型)占了大部分的改进,尽管这些任务中的共享语言是目标语言文本,而不是源语言音频。应用这一见解,我们表明,即使ASR语言与源语言和目标ST语言不同,ASR的预训练也有助于ST:法语ASR的预训练也可以提高西班牙语-英语ST。对英语ASR和法语ASR的组合进行预训练将只有4小时数据可用的Mboshi-French ST从3.5 BLEU提高到7.1 BLEU。
2019-02-27 cs.CL
FRENCH-YMCA: A FRENCH Corpus meeting the language needs of Youth, froM Children to Adolescents
本文介绍FRENCH-YMCA语料库,旨在为儿童和青少年提供专门的语言资源,通过39,200个文本文件构建,涵盖22471898词,支持开放获取,用于训练理解青少年语言的模型,提升数字交互质量。
2026-04-07 cs.CL
Transformer-Based Named Entity Recognition for French Using Adversarial Adaptation to Similar Domain Corpora
Delhi Technological University(德里理工大学);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
命名实体识别(NER)涉及到非结构化文本中命名实体的识别和分类到预定义的类。资源有限的语言(如法语)的NER仍然是一个悬而未决的问题,因为缺乏大型,强大的,标记的数据集。在本文中,我们提出了一种基于变换的NER方法,法国使用对抗适应类似的领域或一般语料库,以改善特征提取和更好的推广。我们评估我们的方法在三个标记的数据集,并表明我们的适应框架优于相应的非自适应模型的各种组合的Transformer模型,源数据集和目标语料库。
2022-12-05 cs.CL
COLE: a Comprehensive Benchmark for French Language Understanding Evaluation
Group for Research in Artificial Intelligence of Laval University (GRAIL)(拉瓦尔大学人工智能研究小组);Université Laval(拉瓦尔大学)
COLE是一个包含23个任务、评估94个LLM的法语NLU综合基准,揭示闭源与开源模型性能差距及零样本抽取式QA等挑战前沿。
2025-10-07 cs.CL
Feriji: A French-Zarma Parallel Corpus, Glossary & Translator
Ashesi University(阿希西大学);Rochester Institute of Technology(罗切斯特理工学院)
针对非洲扎尔马语机器翻译资源匮乏的问题,研究构建了首个法语-扎尔马语平行语料库Feriji及配套词汇表,微调大语言模型取得30.06的BLEU得分,助力填补该语言的资源缺口。
2024-06-17 cs.CL
Speech Resources in the Tamasheq Language
Avignon University(阿维尼翁大学);Le Mans University(勒芒大学);Airbus(空中客车公司)
在本文中,我们提出了两个数据集的Tamasheq,发展中的语言主要在马里和尼日尔。这两个数据集可用于IWIT 2022低资源语音翻译轨道,它们包括尼日尔(Studio Kalangou)和马里(Studio Tamani)每日广播新闻的广播录音。我们共享(i)五种语言的大量未标记音频数据(671小时):来自尼日尔、Fulfulde、豪萨、Tamasheq和Zarma的法语,以及(ii)一个较小的17小时并行音频录音语料库Tamasheq,带有法语的发音级别翻译。所有这些数据都在Creative Commons BY-NC-ND 3.0许可下共享。我们希望这些资源将激励语音社区使用Tamasheq语言开发和基准测试模型。
2022-04-11 cs.CL
FRASIMED: a Clinical French Annotated Resource Produced through Crosslingual BERT-Based Annotation Projection
University Hospitals of Geneva(日内瓦大学医院);University of Geneva(日内瓦大学)
本文提出基于语言无关BERT的跨语言标注投影方法,以极低人工成本扩充低资源语料库,并据此构建了包含2051个法语临床病例的FRASIMED标注语料库,成为法语临床NLP领域最大的开放标注资源。
2023-09-19 cs.AI cs.CL
Self-supervised and Supervised Joint Training for Resource-rich Machine Translation
Google Research, Google LLC(谷歌有限责任公司谷歌研究院);Language Technologies Institute, Carnegie Mellon University(卡内基梅隆大学语言技术研究所)
文本表示的自监督预训练已成功应用于低资源神经机器翻译(NMT)。然而,它通常无法在资源丰富的NMT上取得显着的收益。在本文中,我们提出了一种联合训练方法,$F_2$ -XEnDec,结合自监督和监督学习优化NMT模型。为了利用互补的自监督信号进行监督学习,NMT模型通过一个称为交叉编码器-解码器的新过程在单语和平行句子混合的例子上进行训练。两个资源丰富的翻译基准,WMT'14英语-德语和WMT'14英语-法语,实验表明,我们的方法实现了实质性的改进,几个强大的基线方法,并获得了新的艺术状态的46.19 BLEU英语-法语时,纳入回译。结果还表明,我们的方法能够提高模型对输入扰动的鲁棒性,例如经常出现在社交媒体上的代码切换噪声。
2021-06-08 cs.CL
Improving Multilingual Neural Machine Translation For Low-Resource Languages: French,English - Vietnamese
Thai Nguyen University(太原大学);Vietnam National University(越南国立大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);JAIST(日本北陆先端科学技术大学院大学)
先前的工作已经证明,低资源的语言对可以从依赖于许多语言对的联合训练的多语言机器翻译(MT)系统中受益。本文提出了两种简单的策略来解决两个低资源的语言对:法语-越南语和英语-越南语的多语言机器翻译系统中的稀有词问题。第一种策略是在源语言共享空间中动态学习词的相似度,第二种策略是通过在训练过程中更新嵌入量来增强稀有词的翻译能力。此外,我们利用单语数据的多语种机器翻译系统,以增加合成并行语料库的数量,同时处理数据稀疏性问题。我们已经显示了两种语言对的双语基线系统的显著改进,分别为+1.62和+2.54 BLEU点,并为研究社区发布了我们的数据集。
2021-07-10 cs.CL cs.LG
Low-Resource Dialect Adaptation of Large Language Models: A French Dialect Case-Study
1\,Computational Linguistics at Concordia (CLaC) Laboratory Department of Computer Science
本文研究了通过持续预训练和参数高效微调方法,将大语言模型适应到低资源方言,以魁北克法语为例,展示了在有限数据和计算资源下提升方言识别性能的方法与成果。
2026-02-27 cs.AI cs.CL
MTEB-French: Resources for French Sentence Embedding Evaluation and Analysis
Wikit(维基特(法国));Esker(艾斯克尔(法国))
本文扩展 MTEB 构建首个法语大规模句嵌入基准,整合并新建数据集,评估 51 个模型在 8 类任务上的表现并分析模型特征与性能的关系。
2024-06-17 cs.CL cs.IR cs.LG
The WebCrow French Crossword Solver
Università degli Studi di Siena(锡耶纳大学);Université Côte d’Azur(蔚蓝海岸大学);INRIA(法国国家信息与自动化研究所);Institut 3IA Côte d’Azur(蔚蓝海岸3IA研究所)
本文将自动填字游戏求解器 WebCrow 2.0 扩展至法语,通过多专家模块整合网络、知识图谱和语言规则,并在两项挑战中证明其速度与准确性超过人类。
2023-12-10 cs.CL
On the Usability of Transformers-based models for a French Question-Answering task
QWANT;Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心)
对于许多任务,基于transformer的架构已经取得了最先进的成果,导致实践中的范式转变,从使用特定于任务的架构到微调预训练的语言模型。目前的趋势是训练模型的数据和参数量不断增加,这需要大量的资源。它导致了一个强搜索,以提高资源效率的基础上,算法和硬件的改进评估只为英语。当应用于小规模的学习问题时,这就提出了关于它们的可用性的问题,对于小规模的学习问题,可获得的训练数据有限,特别是对于资源不足的语言任务。缺乏适当大小的语料库是应用数据驱动和基于迁移学习的方法的一个障碍,具有很强的不稳定性。在本文中,我们建立了一个国家的最先进的努力,致力于可用性的transformer为基础的模型,并提出评估这些改进的问答性能的法语资源很少。我们通过研究数据增强、超参数优化和跨语言迁移的各种训练策略来解决与数据稀缺相关的不稳定性。我们还介绍了一个新的紧凑型模型,法国FrALBERT证明是在低资源环境中的竞争力。
2022-07-19 cs.AI cs.CL
Pensez: Less Data, Better Reasoning -- Rethinking French LLM
Menlo Research(门洛研究所);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
本文提出Pensez,仅用2000条高质量英法双语样本对7B模型做SFT,便显著提升数学推理与法语能力,挑战了大数据集必要性的假设。
2025-03-17 cs.CL
A Probabilistic Approach in Historical Linguistics Word Order Change in Infinitival Clauses: from Latin to Old French
本研究通过使用计算语言学、自然语言处理、贝叶斯统计和社会语言学方法,为语言学领域提供了一种新的跨学科方法。本文考察了拉丁语和古法语中不定式从句从宾语-动词(OV)到动词-宾语(VO)的语序变化。本文运用变异论的方法,考察了语言演变过程中各个阶段的共时语序变异,并由此推断出历时变异的特征、分期和制约因素。我还表明,在话语配置的语言,如拉丁语和早期古法语,它是可能的,以确定语用中立的情况下,使用信息结构注释。我进一步认为,通过映射到一个句法结构的语用类别,我们可以检测如何词序变化展开。在这项调查中,数据是从注释语料库中提取的,这些语料库跨越了几个世纪的拉丁语和古法语,以及使用计算语言学方法创建的其他资源。然后,这些数据被进一步编纂为各种语用,语义,句法和社会语言学因素。本研究还评估了先前提出的解释语序交替和变化的因素。我展示了信息结构和句法约束如何随着时间的推移而变化,并提出了一种方法,使研究人员能够区分一个稳定的词序交替交替表示变化。最后,我提出了一个三阶段的词序变化的概率模型,这也符合传统的语言变化模式。
2020-11-16 cs.CL
Is Biomedical Specialization Still Worth It? Insights from Domain-Adaptive Language Modelling with a New French Health Corpus
Université Grenoble Alpes, CNRS, Grenoble INP, LIG(格勒诺布尔阿尔卑斯大学,法国国家科学研究中心,格勒诺布尔国立理工学院,格勒诺布尔信息学实验室);Sorbonne Université, LIMICS(索邦大学,医学信息学与知识工程实验室)
本文探讨了在法语生物医学领域通过持续预训练对小型至中型LLM进行专业化的方法,发现DAPT在资源受限情况下有效,但需通过模型合并缓解泛化权衡。
2026-04-08 cs.CL
A Two-Step Approach for Data-Efficient French Pronunciation Learning
NAVER Cloud(NAVER云);Université de Strasbourg(斯特拉斯堡大学)
针对法语语音现象研究依赖大量语言学知识或标注数据、资源构建成本高的问题,提出涵盖字形转音素和词后处理的两步法,在有限句子级发音数据下验证了其有效性,为资源受限环境下的法语发音学习提供可行方案。
2024-10-08 cs.AI cs.CL
Un modèle générique d'organisation de corpus en ligne: application à la FReeBank
少数可用的法语资源,用于评估语言模型或算法的其他语言水平比形态句法是不够的,从定量和定性的角度来看,或不能免费访问。基于这一事实,FREEBANK项目打算创建法语语料库构建使用手动修订的输出从一个混合约束语法分析器和注释的几个语言水平(结构,形态句法,句法,共指),其目标是使他们在线研究的目的。因此,我们将专注于使用标准的注释方案,整合现有资源和维护,以便不断丰富注释。在实际介绍已经实施的原型之前,本文描述了一个通用模型,用于组织和部署语言资源档案,符合目前在国际标准化倡议(TEI和ISO/TC 37/SC 4)中进行的各种工作。
2006-11-06 cs.CL
FFR v1.1: Fon-French Neural Machine Translation
Kazan Federal University(喀山联邦大学)
在世界各地,特别是在非洲,研究人员正在努力建立神经机器翻译(NMT)系统,以帮助解决非洲的语言障碍,非洲大陆有2000多种不同的语言。然而,非洲语言的低资源、变音和音调复杂性是面临的主要问题。FFR项目是朝着创建一个强大的翻译模型迈出的重要一步,从Fon(一种资源和音调非常低的语言)到法语,用于研究和公共使用。在本文中,我们介绍了FFR数据集,一个法语到法语翻译的语料库,描述了变音编码过程,并介绍了我们的FFR v1.1模型,在数据集上训练。数据集和模型在https://github.com/ bonaventuredossou/ffr-v1上公开提供,以促进合作和可重复性。
2020-06-14 cs.CL cs.LG
Benchmarking Transformers-based models on French Spoken Language Understanding tasks
CNRS(法国国家科学研究中心);LISN(跨学科数字科学实验室);QWANT(QWANT公司)
在过去的五年中,基于自注意力transformer的架构的兴起导致了许多自然语言任务的最先进性能。虽然这些方法越来越受欢迎,但它们需要大量的数据和计算资源。在数据稀缺的应用条件下,仍然非常需要对资源不足的语言进行基准测试。大多数预先训练的语言模型都是使用英语进行大规模研究的,只有少数是用法语进行评估的。在本文中,我们提出了一个统一的基准,侧重于评估模型的质量和生态影响两个著名的法语口语语言理解任务。特别是,我们基准十三个完善的基于变压器的模型上的两个可用的口语语言理解任务的法语:媒体和ATIS-FR。在这个框架内,我们表明,紧凑的模型可以达到可比的结果,而他们的生态影响是相当低的。然而,这种假设是微妙的,并取决于所考虑的压缩方法。
2022-07-19 cs.AI cs.CL
Using LSTM to Translate French to Senegalese Local Languages: Wolof as a Case Study
Universite Gaston Berger (UGB)(加斯顿·伯杰大学);University of Bergen(卑尔根大学);Universite Virtuelle du Senegal (UVS)(塞内加尔虚拟大学);Dailymotion(Dailymotion公司)
在本文中,我们提出了一个神经机器翻译系统的Wolof,一个低资源的刚果语。首先,我们收集了一个平行语料库的70000对齐法语沃洛夫句子。然后,我们开发了一个基于LSTM的编码器-解码器架构,并将其进一步扩展到具有注意力机制的双向LSTM。我们的模型是在大约35000个平行句子的有限数量的平行法语-沃洛夫数据上训练的。在法语-沃洛夫语翻译任务上的实验结果表明,我们的方法在极低的资源条件下产生了有希望的翻译。最好的模型能够达到47%的BLEU分数的良好性能。
2020-03-27 cs.CL cs.LG stat.ML
Few-shot clinical entity recognition in English, French and Spanish: masked language models outperform generative model prompting
Université Paris-Saclay(巴黎-萨克雷大学);Sorbonne Université(索邦大学)
本研究针对临床领域小样本命名实体识别任务,对比生成式大模型提示学习与掩码模型微调方法,发现轻量掩码biLSTM-CRF模型在英、法、西三语临床NER上F1更优且环境影响更低,提示当前LLM提示学习暂不适合临床NER生产。
2024-10-08 cs.CL
Improving Transformer Performance for French Clinical Notes Classification Using Mixture of Experts on a Limited Dataset
IEEE
本文提出一种定制化专家混合Transformer模型,用于在有限数据和低计算资源条件下分类法语临床笔记,在CHU Sainte-Justine数据集上取得87%准确率,且训练速度比生物医学预训练BERT模型快至少190倍。
2025-06-03 cs.CL eess.SP
Who Judges the Judge? Evaluating LLM-as-a-Judge for French Medical open-ended QA
Aix-Marseille Univ., CNRS, LIS UMR 7020(艾克斯-马赛大学,法国国家科学研究中心,LIS UMR 7020);Nantes Univ., École Centrale Nantes, CNRS, LS2N, UMR 6004(南特大学,中央理工学院南特校区,法国国家科学研究中心,LS2N,UMR 6004);Nantes Université, CHU Nantes, PHU 11: Santé Publique, Clinique des données, INSERM, CIC 1413(南特大学,南特大学医院,PHU 11:公共卫生,数据诊所,法国国家卫生与医学研究院,CIC 1413);Nantes Université, CNRS, INSERM, L’institut du thorax(南特大学,法国国家科学研究中心,法国国家卫生与医学研究院,胸科研究所);Université Grenoble Alpes, CNRS, INRIA, Grenoble INP, LIG UMR 5217(格勒诺布尔阿尔卑斯大学,法国国家科学研究中心,INRIA,格勒诺布尔INP,LIG UMR 5217)
本研究评估了LLM在法语医学开放性问答中作为评判者的有效性,发现领域适应模型在与专家注释一致方面表现最佳,并通过微调和GRPO提升了性能。
2026-03-04 cs.CL