Neural Machine Translation on Scarce-Resource Condition: A case-study on Persian-English
Amirkabir University of Technology(阿米尔卡比尔理工大学)
神经机器翻译(NMT)是机器翻译(MT)的一种新方法,由于其成功的应用,引起了该领域研究者的广泛关注。在本文中,我们研究NMT模型的波斯语-英语语言对,分析模型,并调查的适当性,该模型的稀缺资源的情况下,存在的情况下,以波斯语为中心的翻译系统。我们调整了波斯语的模型,并找到了两个任务的最佳参数和超参数:翻译和音译。我们还在波斯数据集上应用了一些预处理任务,这使得BLEU分数增加了大约一个点。此外,我们还修改了损失函数,以增强模型的单词对齐。这个新的损失函数在翻译质量的BLEU评分方面总共提高了1.87分。
2017-01-07 cs.CL
To Diverge or Not to Diverge: A Morphosyntactic Perspective on Machine Translation vs Human Translation
Google Translate Research(谷歌翻译研究院)
本研究从形态句法发散视角对比机器翻译与人工翻译,发现机器翻译因束搜索算法而更保守且收敛,且人工翻译中的发散现象会导致机器翻译性能下降。
2024-01-02 cs.CL
How Good Are GPT Models at Machine Translation? A Comprehensive Evaluation
Microsoft(微软)
生成式预训练Transformer(GPT)模型在自然语言生成方面表现出了卓越的能力,但其在机器翻译方面的性能尚未得到彻底研究。本文对面向机器翻译的GPT模型进行了全面的评价,包括不同GPT模型的质量、提示策略的效果、对领域转换的鲁棒性以及文档级翻译等方面。我们实验了18个不同的翻译方向,涉及高和低资源语言,以及非英语为中心的翻译,并评估了三个GPT模型的性能:ChatGPT,GPT3.5(text-davinci-003)和text-davinci-002。我们的研究结果表明,GPT模型实现了高资源语言的翻译质量非常有竞争力,而低资源语言的能力有限。我们还表明,混合方法,结合GPT模型与其他翻译系统,可以进一步提高翻译质量。我们进行综合分析和人工评估,以进一步了解GPT翻译的特征。我们希望我们的论文能为该领域的研究人员和实践者提供有价值的见解,并有助于更好地理解GPT模型在翻译中的潜力和局限性。
2023-02-18 cs.CL
Improving a Multi-Source Neural Machine Translation Model with Corpus Extension for Low-Resource Languages
Korea University of Science and Technology (UST)(韩国科学技术大学(UST));Electronics and Telecommunication Research Institute (ETRI)(电子通信研究院(ETRI))
在机器翻译中,我们经常尝试收集资源以提高性能。然而,大多数语言对,如朝鲜语-阿拉伯语和朝鲜语-越南语,没有足够的资源来训练机器翻译系统。在本文中,我们提出了使用合成方法来扩展低资源语料库,并将其应用于多源神经机器翻译模型。我们展示了通过使用综合方法进行语料扩展来提高机器翻译性能。我们特别关注如何创建源句子,使目标句子更好,包括使用合成方法。我们发现,语料库扩展也可以提高多源神经机器翻译的性能。我们证明了语料库扩展和多源模型是低资源语言对的有效方法。此外,当这两种方法一起使用时,我们发现更好的机器翻译性能。
2018-02-14 cs.CL
Word-Alignment-Based Segment-Level Machine Translation Evaluation using Word Embeddings
Nara Institute of Science and Technology(奈良先端科学技术大学);Tokyo Metropolitan University(东京都立大学)
机器翻译评价中的一个重要问题是评价不同表面形式的翻译假设与参考文献之间的相似性,特别是在片段水平上。我们建议使用词嵌入来执行词对齐段级MT评估。我们使用三种类型的对齐方法进行实验,使用词嵌入。我们用各种翻译数据集评估了我们提出的方法。实验结果表明,我们提出的方法优于以前的词嵌入的方法。
2017-04-02 cs.CL
One Sense per Translation
Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所);University of Alberta(阿尔伯塔大学)
本研究提出翻译与词义关系的三个理论属性,以“每次翻译对应一个词义(OSPT)”为核心构建基于翻译的词义消歧方法,实验显示其准确率约93%,在难数据集上F1值最高提升4.6%。
2023-10-04 cs.CL
Compositional Translation: A Novel LLM-based Approach for Low-resource Machine Translation
Inria(法国国家信息与自动化研究所)
针对低资源机器翻译,提出组合式翻译范式:利用LLM将句子分解为短语并检索示例翻译,再借助自生成短语对辅助初始句子翻译,在多个主流基准上显著提升性能。
2025-03-06 cs.CL
Corpus Augmentation by Sentence Segmentation for Low-Resource Neural Machine Translation
Gifu University(岐阜大学)
神经机器翻译(NMT)已被证明可以取得令人印象深刻的结果。NMT系统的翻译结果很大程度上依赖于平行语料库的规模和质量。然而,对于许多语言对,没有丰富的资源平行语料库存在。如本文所述,我们提出了一种语料库增强方法,通过使用回译分割语料库中的长句并生成伪平行句对。利用日汉科技论文摘录语料库(ASPEC-JC)进行日汉、汉日翻译的实验结果表明,该方法提高了翻译性能。
2019-05-22 cs.CL
Evaluating Low-Resource Machine Translation between Chinese and Vietnamese with Back-Translation
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院)
回译(Back translation,BT)已被广泛应用并成为神经机器翻译(Neural Machine Translation,NMT)中数据增强的标准技术之一,BT已被证明有助于有效提高翻译性能,特别是在低资源场景下。虽然大多数与BT相关的作品主要集中在欧洲语言上,但很少有人研究世界其他地区的语言。本文探讨了BT对亚洲语言之间的翻译资源极其匮乏的汉语和越南语对的影响。我们评估和比较了不同大小的合成数据对NMT和统计机器翻译(SMT)模型的影响,用于中文到越南语和越南语到中文,基于字符和基于单词的设置。部分地证实了前人工作中的一些结论,并得出了一些有趣的发现和结论,这些发现和结论有助于进一步理解BT。
2020-03-06 cs.CL
Learning to Exploit Different Translation Resources for Cross Language Information Retrieval
University of Tehran(德黑兰大学)
影响跨语言信息检索性能的重要因素之一是翻译质量。为了提高翻译质量,有效地利用现有资源至关重要。采用具有不同特征的不同翻译资源具有许多挑战。在本文中,我们提出了一种方法,同时利用可用的翻译资源。该方法采用学习排序(LTR)来利用不同的翻译资源。为了将LTR方法应用于查询翻译,除了基于上下文的特征之外,我们还定义了不同的基于翻译关系的特征。该方法利用翻译资源中包含的上下文信息来提取基于上下文的特征,并利用LTR来构造基于定义特征的翻译排序模型。所构建的模型用于对查询词的翻译候选进行排序。为了评估所提出的方法,我们做英语-波斯语CLIR,在其中我们采用翻译排名模型来查找英语查询的翻译,并采用翻译来检索波斯语文档。实验结果表明,我们的方法显着优于基于单资源的CLIR方法。
2014-05-20 cs.CL cs.IR
Enhanced back-translation for low resource neural machine translation using self-training
Ahmadu Bello University(艾哈迈德·贝罗大学);Bayero University(拜罗大学)
使用单语目标数据(合成并行数据)的反向翻译来改进神经机器翻译(NMT)模型是目前用于训练改进的翻译系统的最先进的方法。反向系统的质量-在可用的并行数据上进行训练并用于反向翻译-在许多研究中已被证明会影响最终NMT模型的性能。在低资源条件下,可用的并行数据通常不足以训练能够产生训练标准翻译模型所需的定性合成数据的后向模型。这项工作提出了一种自我训练策略,其中向后模型的输出用于通过向前翻译技术来改进模型本身。该技术被证明可以分别将基线低资源的IWALK '14英语-德语和IWALK'15英语-越南语向后翻译模型提高11.06和1.5 BLEU。由改进的英德后向模型生成的合成数据被用于训练前向模型,该前向模型的性能优于使用2.7 BLEU的标准后向翻译训练的另一前向模型。
2020-12-24 cs.CL cs.LG
Translation as a Decision Space: A Multi-Agent Perspective on Low-Resource Dialect Generation
Sakarya University(萨卡里亚大学);TU Clausthal(克劳斯塔尔工业大学);University of Luxembourg(卢森堡大学);Luxembourg Institute of Science and Technology(卢森堡科学技术研究院)
该研究将翻译视为多智能体探索的决策空间,针对土耳其语-叙利亚阿拉伯语翻译开展实证研究,提出可解释低资源方言生成的框架,轻量稳定化可提升方言标记使用量并降低结构不稳定性。
2026-09-04 cs.AI cs.CL
Triangular Architecture for Rare Language Translation
Beihang University(北京航空航天大学);Beijing Advanced Innovation Center for Big Data and Brain Computing(北京大数据与脑计算高级创新中心);University of California, Santa Barbara(加州大学圣巴巴拉分校);Microsoft Research in Asia(微软亚洲研究院)
神经机器翻译(NMT)在低资源语言对$(X,Z)$上的性能很差,特别是当$Z$是一种罕见的语言时。通过引入另一种丰富的语言$Y$,我们提出了一种新的三角形训练架构(TA-NMT),利用双语数据$(Y,Z)$(可能很小)和$(X,Y)$(可以很丰富),以提高低资源对的翻译性能。该三角结构以$Z$为中间隐变量,以$(X,Y)$的翻译可能性最大为目标,采用统一的双向EM算法对$Z$的翻译模型进行联合优化.实验结果表明,该方法在MultiUN和IWSLT 2012数据集上显著提高了稀有语言的翻译质量,并结合回译方法实现了更好的性能。
2018-07-11 cs.AI cs.CL
Improving English to Sinhala Neural Machine Translation using Part-of-Speech Tag
University of Moratuwa(莫拉图瓦大学)
神经机器翻译(NMT)的性能很大程度上取决于可用并行语料库的大小。由于这个事实,与高资源语言对相比,低资源语言对表现出较低的翻译性能。当对形态丰富的语言执行NMT时,翻译质量进一步降低。尽管网络包含大量信息,但斯里兰卡的大多数人无法正确阅读和理解英语。因此,需要将英语内容翻译成当地语言,以便在当地人之间共享信息。僧伽罗语是斯里兰卡的主要语言,由于这两种语言在低资源限制下的句法差异,建立一个能够产生高质量英语到僧伽罗语翻译的NMT系统是困难的。因此,在这项研究中,我们探索有效的方法,将词性(POS)标签的Transformer输入嵌入和位置编码,以进一步提高基线英语到僧伽罗语神经机器翻译模型的性能。
2022-02-17 cs.CL cs.LG
Domain, Translationese and Noise in Synthetic Data for Neural Machine Translation
University of Edinburgh(爱丁堡大学);University of Zurich(苏黎世大学)
神经机器翻译的质量可以通过利用额外的单语资源来创建合成训练数据来提高。源端单语数据可以(正)翻译成目标语言进行自我训练;目标端单语数据可以反向翻译。据广泛报道,反向翻译提供了更好的结果,但这可能是由于测试集中的伪影?我们进行了一个案例研究,使用法语-英语新闻翻译任务和单独的测试集的基础上,他们的原始语言。我们发现,前向翻译提供了优越的收益,在BLEU的句子,原来在源语言,补充以前的研究表明,与回译的句子,原来在目标语言有很大的改善。为了更好地理解前向和反向翻译何时以及为何有效,我们研究了域、语义和噪声的作用。虽然众所周知,人工智能效应会影响机器翻译评估,但我们也发现证据表明,来自不同语言的新闻数据显示出细微的领域差异,这是测试集不同部分表现不同的另一种解释。我们进行了额外的低资源实验,这表明正向翻译比反向翻译对初始翻译系统的质量更敏感,并且在低资源设置中表现更差。
2020-10-03 cs.CL cs.LG stat.ML