Generalizing Back-Translation in Neural Machine Translation
RWTH Aachen University（亚琛工业大学）；eBay, Inc.（易贝公司）
反向翻译-通过翻译目标单语数据来数据增强-是现代神经机器翻译（NMT）的关键组成部分。在这项工作中，我们在NMT模型的交叉熵优化范围内重新制定了反向翻译，澄清了其基本的数学假设和近似，超出了其启发式用法。我们的公式涵盖了更广泛的合成数据生成方案，包括从目标到源NMT模型的采样。有了这个公式，我们指出了基本问题的采样为基础的方法，并建议纠正他们（i）禁用标签平滑的目标到源模型和（ii）从一个有限的搜索空间采样。我们的声明在WMT 2018德英新闻翻译任务中进行了调查。
2019-06-17 cs.CL cs.LG
Zero-Shot Language Transfer vs Iterative Back Translation for Unsupervised Machine Translation
这项工作的重点是比较低资源语言对上的机器翻译的不同解决方案，即zero-shot迁移学习和无监督机器翻译。我们讨论了数据大小如何影响无监督MT和迁移学习的性能。此外，我们还研究了数据的域如何影响无监督MT的结果。在这个项目中执行的所有实验的代码都可以在Github上访问。
2021-03-31 cs.AI cs.CL cs.LG
Dual Reconstruction: a Unifying Objective for Semi-Supervised Neural Machine Translation
University of Maryland（马里兰大学）；Amazon AI（亚马逊人工智能）
虽然迭代反向翻译和双重学习有效地将单语训练数据纳入神经机器翻译，但它们使用不同的目标和启发式梯度近似策略，并且没有进行广泛的比较。我们引入了一个新的双重重建目标，提供了一个统一的观点迭代回译和双重学习。它激发了一个理论分析和控制的实证研究，德国-英语和土耳其-英语的任务，这都表明，迭代回译是更有效的，尽管它相对简单的双重学习。
2020-10-07 cs.CL cs.LG
Lost in Translation: Loss and Decay of Linguistic Richness in Machine Translation
Dublin City University（都柏林城市大学）
这项工作提出了一个实证的方法来量化损失的词汇丰富度相比，人类翻译（HT）的机器翻译（MT）系统。我们的实验表明，目前的机器翻译系统确实无法呈现人类生成或翻译文本的词汇多样性。MT系统无法产生多样化的产出，而且它往往会加剧已经频繁的模式，而忽视不太频繁的模式，这可能是目前激烈辩论的与性别偏见产出有关的问题的根本原因。除了有偏见的数据，我们真的能谈论一种加剧可见偏见的算法吗？
2019-06-28 cs.CL cs.LG
Evaluating Machine Translation Models for English-Hindi Language Pairs: A Comparative Analysis
National Institute of Technology Karnataka（卡纳塔克国家理工学院）
本文比较评估了多种英印机器翻译模型，利用18000+平行语料和FAQ数据集，通过词汇与机器学习指标揭示各模型优劣及改进方向。
2025-05-26 cs.CL cs.LG
Learning to Translate in Real-time with Neural Machine Translation
The University of Hong Kong（香港大学）；Carnegie Mellon University（卡内基梅隆大学）；New York University（纽约大学）
实时的【形】翻译同声翻译是在输入句子结束之前输出翻译词，这对传统的机器翻译方法来说是一个具有挑战性的问题。我们提出了一个神经机器翻译（NMT）框架，用于同步翻译，其中智能体学习从与预先训练的NMT环境的交互中做出何时翻译的决策。为了权衡质量和延迟，我们广泛探索各种延迟目标，并设计了一种适用于同时MT设置的波束搜索方法。实验对国家的最先进的基线上的两种语言对证明了所提出的框架的有效性定量和定性。
2017-01-10 cs.CL cs.LG
Domain Adaptation of NMT models for English-Hindi Machine Translation Task at AdapMT ICON 2020
Pune Institute of Computer Technology（浦那计算机技术学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
神经机器翻译（NMT）模型的最新进展已被证明在低资源印度语言的机器翻译上产生了最先进的结果。本文描述了AdapMT共享任务ICON 2020中提出的英语-印地语神经机器翻译系统。该共享任务旨在使用小型域内并行语料库为人工智能（AI）和化学等特定领域的印度语言构建翻译系统。我们基于BLEU分数评估了两种流行的NMT模型的有效性，即LSTM和Transformer架构用于英语-印地语机器翻译任务。我们训练这些模型主要使用域外数据，并采用简单的领域自适应技术的基础上，域内数据集的特点。微调和混合域数据方法用于领域自适应。我们的团队在化学和一般领域En-Hi翻译任务中排名第一，在AI领域En-Hi翻译任务中排名第二。
2020-12-23 cs.CL cs.LG
Automatic Classification of Human Translation and Machine Translation: A Study from the Perspective of Lexical Diversity
University of St Andrews（圣安德鲁斯大学）；School of Computer Science（计算机科学学院）
通过使用三元模型并微调预训练的BERT模型进行序列分类，我们表明可以以高于偶然水平的准确度对机器翻译和人类翻译进行分类，这表明机器翻译和人类翻译是不同的系统方式。机器翻译的分类准确率远高于人工翻译。我们发现，这可能是解释之间的差异词汇多样性机器翻译和人类翻译。如果机器翻译具有独立于人类翻译的模式，则测量机器翻译与人类翻译的偏差的自动度量可能将差异与质量混为一谈。我们用两种不同类型的自动度量进行的实验显示了与分类任务结果的相关性。因此，我们建议在机器翻译评价中，应更多地关注机器翻译和人工翻译在词汇多样性方面的差异。
2021-05-10 cs.CL
A Focus on Neural Machine Translation for African Languages
Explore；Retro Rabbit
非洲语言数量众多、复杂且资源匮乏。机器翻译所需的数据集很难发现，现有的研究也很难复制。对非洲语言的机器翻译关注最少，因此对使用机器翻译技术时出现的问题的研究很少。为了开始解决这些问题，我们训练模型将英语翻译成五种南非官方语言（南非荷兰语、祖鲁语、北苏丹语、塞萨洛尼基语、Xitsonga语），利用现代神经机器翻译技术。获得的结果显示了将神经机器翻译技术用于非洲语言的前景。通过提供可复制的公开数据，代码和结果，本研究旨在为非洲机器翻译的其他研究人员提供一个起点，以进行比较和建立。
2019-06-14 cs.CL cs.LG stat.ML
MALM: Mixing Augmented Language Modeling for Zero-Shot Machine Translation
BITS Pilani（博拉理工学院）
大型预训练语言模型为NLP带来了显著的进步。预训练和微调在文本处理的任务中提供了最先进的性能。数据增强技术也有助于在低资源或零资源任务上构建最先进的模型。过去的许多工作都试图学习一个单一的多语种机器翻译模型的zero-shot翻译。虽然这些翻译模型产生了正确的翻译，但主要的挑战是这些模型产生了错误的语言用于zero-shot翻译。这项工作和它的结果表明，提示条件大模型不遭受小康目标语言的错误，即由于翻译错误的语言所产生的错误。我们实证证明了自监督预训练和数据增强对于zero-shot多语言机器翻译的有效性。
2022-10-01 cs.CL cs.LG
Back-translation for Large-Scale Multilingual Machine Translation
eBay Inc.（易趣公司）
本文阐述了我们在第六届机器翻译会议（WMT-21）上对大规模多语种机器翻译共同任务的研究方法。这项工作的目的是建立一个单一的多语言翻译系统的假设，一个通用的跨语言表示导致更好的多语言翻译性能。我们将不同回译方法的探索从双语翻译扩展到多语言翻译。约束抽样方法得到了更好的性能，这是不同的双语翻译的发现。此外，本研究亦探讨词汇量与合成数据量之影响。令人惊讶的是，较小的词汇量表现更好，广泛的单语英语数据提供了适度的改善。我们两个小任务都提交了，取得了第二名的成绩。
2021-09-17 cs.AI cs.CL cs.LG
Non-Autoregressive Machine Translation with Latent Alignments
Google Research（谷歌研究院）
本文提出了两种强有力的方法，CTC和输入，非自回归机器翻译模型潜在的对齐与动态规划。我们重新CTC的机器翻译，并证明了一个简单的CTC模型可以实现最先进的单步非自回归机器翻译，与以前的工作表明。此外，我们还将Imputer模型用于非自回归机器翻译，并证明了只有4个生成步骤的Imputer可以匹配自回归Transformer基线的性能。我们的潜在对齐模型比许多现有的非自回归翻译基线更简单;例如，我们不需要使用自回归模型进行目标长度预测或重新评分。在竞争性的WMT'14 En $\rightarrow$ De任务中，我们的CTC模型使用单个生成步骤实现了25.7 BLEU，而Imputer使用2个生成步骤实现了27.5 BLEU，使用4个生成步骤实现了28.0 BLEU。这与27.8 BLEU的自回归Transformer基线相比具有优势。
2020-11-16 cs.CL cs.LG
Syntax-based data augmentation for Hungarian-English machine translation
Department of Automation and Applied Informatics（自动化与应用信息学系）；Budapest University of Technology and Economics（布达佩斯技术与经济大学）；Eötvös Loránd Research Network（厄特沃什·罗兰研究网络）；Institute for Computer Science and Control（计算机科学与控制研究所）
我们使用Hunglish 2语料库为匈牙利语-英语和英语-匈牙利语训练基于transformer的神经机器翻译模型。我们最好的模型在匈牙利语英语和英语匈牙利语上的BLEU得分分别为40.0和33.4。此外，我们目前正在进行的工作，基于语法的增强神经机器翻译的结果。我们的代码和模型都是公开的。
2022-01-18 cs.CL cs.LG
Machine translation considering context information using Encoder-Decoder model
Kanazawa University（金泽大学）
在机器翻译任务中，上下文信息是一个重要因素。但考虑上下文信息的模型没有提出。本文提出了一种新的模型，可以集成上下文信息进行翻译。在本文中，我们创建了一个新的基于模型的编码器解码器模型。在翻译当前句子时，该模型将前一个编码器的输出与当前编码器的输出相结合。该模型能够考虑上下文信息，其结果得分高于现有模型。
2019-03-30 cs.CL cs.LG
Can neural machine translation do simultaneous translation?
New York University（纽约大学）
我们研究了基于注意力的神经机器翻译在同声翻译中的潜力。我们引入了一种新的解码算法，称为同时贪心解码，允许现有的神经机器翻译模型开始翻译之前，收到一个完整的源语句。这种方法是独特的，从以前的作品同步翻译的分割和翻译是共同完成的，以最大限度地提高翻译质量，翻译每一个部分是强烈的条件下，所有以前的部分。本文提出了第一步，建立一个完整的同步翻译系统的基础上神经机器翻译。
2016-06-07 cs.CL
Unsupervised Neural Machine Translation Initialized by Unsupervised Statistical Machine Translation
National Institute of Information and Communications Technology（国立信息通信技术研究所）
最近的工作在以完全无监督的方式训练神经机器翻译（NMT）系统方面取得了显着的成果，该系统具有仅依赖于单语语料库的新的专用架构。在这项工作中，我们建议将无监督NMT（UNMT）定义为在合成双语数据的监督下训练的NMT。我们的方法直接支持使用最先进的架构，通过用合成双语数据代替人工双语数据进行训练，提出了监督NMT。我们建议用无监督统计机器翻译（USMT）生成的合成双语数据初始化UNMT的训练。然后，利用反向翻译，逐步改进联合国地雷行动组系统。我们的初步实验表明，我们的方法实现了一个新的国家的最先进的无监督机器翻译的WMT 16德-英新闻翻译任务，两个翻译方向。
2018-10-30 cs.CL
Does Neural Machine Translation Benefit from Larger Context?
New York University（纽约大学）
我们提出了一种神经机器翻译架构，除了源句子之外，还可以对周围的文本进行建模。这些模型在小语料库上训练时，在一般翻译质量和代词预测方面都有更好的性能，尽管在使用较大语料库训练时，这种改进基本上消失了。我们还发现，基于注意力的神经机器翻译非常适合代词预测，并且与专门为此任务设计的其他方法相比毫不逊色。
2017-04-17 cs.CL cs.LG stat.ML
A Survey of Domain Adaptation for Neural Machine Translation
Institute for Datability Science（数据智能科学研究所）；Osaka University（大阪大学）
神经机器翻译（NMT）是一种基于深度学习的机器翻译方法，在大规模并行语料库可用的情况下，其产生最先进的翻译性能。虽然高质量和特定领域的翻译在现实世界中是至关重要的，特定领域的语料库通常是稀缺的或根本不存在，因此香草NMT在这种情况下表现不佳。领域自适应是一种利用领域外平行语料库和单语语料库进行领域内翻译的方法，对于特定领域的翻译非常重要。在本文中，我们给出了一个全面的调查，最先进的领域自适应技术的NMT。
2018-06-01 cs.AI cs.CL cs.LG
New Approach to translation of Isolated Units in English-Korean Machine Translation
Kim Il Sung University（金日成大学）
开发一个实用的机器翻译系统并将其引入翻译实践，是快速翻译大量爆炸式增长的科技信息资料的最有效途径。本文根据在开发和引进英朝机器翻译系统过程中所获得的实际资料和实验，论述了孤立单位翻译中的一些问题。换句话说，本文考虑建立孤立的单位和他们的韩语对等语和词序的信息。
2015-06-23 cs.CL
Keyframe Segmentation and Positional Encoding for Video-guided Machine Translation Challenge 2020
视频引导的机器翻译是多模态神经机器翻译任务之一，其目标是通过有形地结合视频和文本来生成高质量的文本翻译。在这项工作中，我们提出了我们的视频引导机器翻译系统，以接近视频引导机器翻译挑战2020。该系统采用基于关键帧的视频特征提取以及视频特征位置编码。在评估阶段，我们的系统获得了36.60的语料库级别BLEU-4，并在2020年视频引导机器翻译挑战赛中获得第一名。
2020-06-23 cs.CL
Pre-Translation for Neural Machine Translation
Institute for Anthropomatics（拟人学研究所）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
近年来，神经机器翻译（NMT）的发展显著提高了自动机器翻译的翻译质量。虽然大多数句子比基于统计机器翻译（SMT）的系统翻译的句子更准确和流畅，但在某些情况下，NMT系统产生的翻译具有完全不同的含义。当出现罕见的单词时，情况尤其如此。当使用统计机器翻译时，已经表明可以通过简化预处理步骤中的输入来实现显著的增益。一个常用的例子是预重排序方法。在这项工作中，我们使用基于短语的机器翻译将输入预翻译成目标语言。然后，神经机器翻译系统使用预翻译生成最终假设。因此，我们要么只使用基于短语的机器翻译（PBMT）系统的输出，要么结合PBMT输出和源句子。我们在英语到德语翻译任务上评估该技术。使用这种方法，我们能够超过PBMT系统以及基线神经MT系统多达2个BLEU点。分析了初始系统的质量对最终结果的影响。
2016-10-17 cs.CL
Can Latent Alignments Improve Autoregressive Machine Translation?
The Blavatnik School of Computer Science（布拉瓦特尼克计算机科学学院）；Tel Aviv University（特拉维夫大学）
潜在的对齐目标，如CTC和AXE显着改善非自回归机器翻译模型。他们也能改进自回归模型吗？我们探讨了训练具有潜在对齐目标的自回归机器翻译模型的可能性，并观察到，在实践中，这种方法会导致退化模型。我们为这些实证结果提供了一个理论解释，并证明潜在的对齐目标是不相容的教师强迫。
2021-04-19 cs.AI cs.CL cs.LG
A Survey of Orthographic Information in Machine Translation
Insight Centre for Data Analytics（洞察数据分析中心）；Data Science Institute（数据科学研究所）；National University of Ireland Galway（爱尔兰国立高威大学）
机器翻译是自然语言处理的应用之一，它已经在不同的语言中得到了探索。近年来，研究人员开始关注资源贫乏语言和密切相关语言的机器翻译。这些机器翻译系统的一个普遍的和潜在的问题是在正字法惯例的变化，导致许多问题，以传统的方法。用两种不同的正字法书写的两种语言不容易比较，但是正字法信息也可以用来改进机器翻译系统。本文综述了正字法对资源不足语言的机器翻译的影响。它介绍了资源不足的语言方面的机器翻译和如何利用正字法信息，以改善机器翻译。我们描述了以前在这方面的工作，讨论了什么基本的假设，并显示了如何拼写知识提高性能的机器翻译资源不足的语言。我们讨论了不同类型的机器翻译，并展示了最近的趋势，寻求连接正字法信息与完善的机器翻译方法。相当多的注意力给予当前的努力同源信息在不同层次的机器翻译和经验教训，可以从中吸取。此外，密切相关语言的多语言神经机器翻译在本次调查中得到了特别关注。本文最后讨论了在机器翻译的正字法信息的发展方向，重点是多语言设置和双语词典归纳。
2020-08-04 cs.CL
An Effective Approach to Unsupervised Machine Translation
University of the Basque Country (UPV/EHU)（巴斯克大学）
虽然机器翻译传统上依赖于大量的平行语料库，但最近的研究路线已经成功地仅使用单语语料库来训练神经机器翻译（NMT）和统计机器翻译（SMT）系统。在本文中，我们确定和解决现有的无监督SMT方法的几个不足之处，利用子字信息，开发一个理论上有充分依据的无监督调整方法，并将联合细化过程。此外，我们使用我们改进的SMT系统初始化一个双NMT模型，这是进一步微调，通过在飞回翻译。总之，我们在无监督机器翻译中比以前的最先进技术有了很大的改进。例如，我们在2014年英语到德语的WMT中获得了22.5分的BLEU分数，比之前最好的无监督系统高出5.5分，比2014年的（有监督）共享任务冠军高出0.5分。
2019-07-24 cs.AI cs.CL cs.LG
Machine Translation : From Statistical to modern Deep-learning practices
ABV-IIITM Gwalior（ABV-印度信息技术与管理学院瓜廖尔分院）；IIIT Pune（印度信息技术学院浦那分院）
机器翻译（MT）是自然语言处理的一个研究领域，它涉及通过计算机将人类语言从一种语言自动翻译成另一种语言。机器翻译有着近三十年的丰富研究历史，是语言学和计算界最受追捧的研究领域之一。在本文中，我们研究了基于深度学习的模型，近年来取得了实质性的进展，并成为突出的方法在机器翻译。我们将讨论两种主要的基于深度学习的机器翻译方法，一种是在组件或领域级别，利用深度学习模型来增强统计机器翻译（SMT）的效率，另一种是MT中的端到端深度学习模型，使用神经网络通过编码器-解码器架构找到源语言和目标语言之间的对应关系。我们通过提供研究人员解决的主要研究问题的时间线来结束本文，并对神经机器翻译的当前研究领域进行了全面的概述。
2018-12-11 cs.AI cs.CL cs.LG
Exploring the Use of Attention within an Neural Machine Translation Decoder States to Translate Idioms
Applied Intelligence Research Centre（应用智能研究中心）；School of Computing（计算学院）；Dublin Institute of Technology（都柏林理工学院）
习语给几乎所有的机器翻译系统都带来了问题。这类语言在日常语言使用中非常频繁，不能简单地忽略。最近的兴趣在语言建模领域的内存增强模型，帮助系统实现良好的效果，通过桥接长距离的依赖关系。在本文中，我们探讨了使用这些技术到神经机器翻译系统，以帮助翻译的惯用语言。
2018-10-10 cs.CL cs.LG stat.ML
The Improvement of Negative Sentences Translation in English-to-Korean Machine Translation
Kim Il Sung University（金日成综合大学）
描述了在英朝机器翻译（EKMT）中将英语否定句翻译成韩语的算法。该算法是在对比研究英语和韩语否定句的基础上提出的。早期的翻译软件不能将英语否定句翻译成准确的韩语对应句。我们建立了一个新的否定句翻译算法，并对其进行了评价。
2015-12-26 cs.CL
First Result on Arabic Neural Machine Translation
New York University（纽约大学）
神经机器翻译已经成为广泛使用的基于短语的统计机器翻译的主要替代方案。然而，我们注意到，尽管神经机器翻译具有语言不可知论的性质，但大部分研究都集中在欧洲语言上。在本文中，我们将神经机器翻译应用于阿拉伯语翻译（Ar <->En）任务，并将其与标准的基于短语的翻译系统进行比较。我们在预处理阿拉伯语脚本中使用各种配置进行了广泛的比较，并表明基于短语的翻译系统和神经翻译系统相互执行，并且阿拉伯语脚本的适当预处理对这两个系统具有相似的效果。然而，我们观察到神经机器翻译在域外测试集上的表现明显优于基于短语的系统，这使得它对现实世界的部署具有吸引力。
2016-06-08 cs.CL
Neural Machine Translation model for University Email Application
Faculty of Integrated Technologies\ Brunei Darussalam\ Darussalam；Institute of Applied Data Analytics\ Brunei Darussalam\ Darussalam
机器翻译有许多应用，如新闻翻译，电子邮件翻译，官方信件翻译等。商业翻译，如谷歌翻译在区域词汇方面滞后，无法学习输入中的源语言和目标语言的双语文本。在本文中，一个区域词汇为基础的面向应用的神经机器翻译（NMT）模型，提出了一个数据集的电子邮件在大学的通信超过三年。将ML -> EN和EN -> ML翻译的最先进的序列到序列神经网络与使用具有注意力解码器的门控递归单元递归神经网络机器翻译模型的Google翻译进行比较。与我们的模型相比，Google翻译的BLEU分数较低，这表明基于应用程序的区域模型更好。我们的模型和谷歌翻译的EN -> ML的BLEU分数较低，表明马来语具有与英语相对应的复杂语言特征。
2020-07-20 cs.AI cs.CL cs.LG
A General Framework for Adaptation of Neural Machine Translation to Simultaneous Translation
Shanghai University of Finance and Economics（上海财经大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
尽管神经机器翻译（NMT）取得了成功，但同时神经机器翻译（SNMT）由于句法结构差异和语义要求，在观察到完整句子之前进行实时的翻译任务仍然具有挑战性。在本文中，我们提出了一个通用的框架，用于适应神经机器翻译同时翻译。我们的框架包含两个部分：前缀翻译，利用一个连续的NMT模型来翻译源前缀和一个停止标准，确定何时停止前缀翻译。在三个翻译语料库和两个语言对上的实验表明，该框架在平衡NMT执行同声翻译的质量和延迟方面是有效的。
2020-10-04 cs.CL
Towards a general purpose machine translation system for Sranantongo
Language Technology Lab（语言技术实验室）；University of Amsterdam（阿姆斯特丹大学）
Sranantongo（Sranan，srn）是一种资源匮乏的克里奥尔语，主要使用于棉兰老岛，它的机器翻译还是一块处女地。在本研究中，我们建立了一个通用的机器翻译系统。为了促进这项研究，我们介绍了SRN语料库，并行荷兰语（NL）的集合，以SRN和单语SRN数据。我们尝试了各种经过验证的机器翻译方法。我们的研究结果证明了一个强大的基线机器翻译系统的srn。
2022-12-13 cs.CL
Machine Translation in Indian Languages: Challenges and Resolution
英语到印度语的机器翻译提出了结构和形态差异的挑战。本文描述了使用预排序和后缀分离的英语到印度语的统计机器翻译。预排序使用规则在训练和翻译之前转换源句子的结构。这种句法重构有助于统计机器翻译解决结构分歧，从而提高翻译质量。后缀分离是用来解决英语和高粘着印度语言之间的形态分歧。我们证明，使用前序和后缀分离有助于提高英语到印度语机器翻译的质量。
2018-08-01 cs.CL
Neural Machine Translation
Center for Speech and Language Processing（语音与语言处理中心）；Department of Computer Science（计算机科学系）；Johns Hopkins University（约翰斯·霍普金斯大学）
关于神经机器翻译的教科书章节草稿。一个全面的治疗的主题，从介绍到神经网络，计算图，描述目前占主导地位的注意序列到序列模型，最近的改进，替代架构和挑战。作为教科书《统计机器翻译》的章节编写。用于JHU 2017年秋季机器翻译课程。
2017-09-22 cs.CL
Quick Back-Translation for Unsupervised Machine Translation
Columbia University（哥伦比亚大学）；Harvard University（哈佛大学）
本文提出快速回译（QBT）方法，通过将 Transformer 编码器重新用作生成模型并与自回归回译结合训练解码器，在多个 WMT 基准上以更少的精炼步骤显著提升无监督机器翻译模型的训练效率。
2023-12-01 cs.CL cs.LG cs.PL
Tensor2Tensor for Neural Machine Translation
Google Brain（谷歌大脑）；DeepMind（深度思维）
Tensor2Tensor是一个深度学习模型库，非常适合神经机器翻译，包括最先进的Transformer模型的参考实现。
2018-03-16 cs.CL cs.LG stat.ML
Part of Speech and Universal Dependency effects on English Arabic Machine Translation
在这篇研究论文中，我将详细介绍一种方法来评估机器翻译模型的基础上，他们的表现对英语和阿拉伯语之间的潜在句法现象。这种方法尤其重要，因为这种“神经”和“机器学习“很难微调和改变。因此，找到一种方法来评估他们容易和麻烦将大大有助于改善他们的任务。
2021-06-03 cs.AI cs.CL cs.LG
Neural Machine Translation Advised by Statistical Machine Translation
Soochow University（苏州大学）；Noah’s Ark Lab, Huawei Technologies（华为诺亚方舟实验室）
神经机器翻译（NMT）是近年来取得巨大进展的一种新的机器翻译方法。然而，最近的研究表明，NMT通常产生流畅但不充分的翻译（Tu et al. 2016 b; Tu et al. 2016 a; He et al. 2016; Tu et al. 2017）。这与传统的统计机器翻译（SMT）形成对比，后者通常产生足够但不流畅的翻译。因此，利用这两种模型的优点来实现更好的翻译是很自然的，在这项工作中，我们建议将SMT模型纳入NMT框架。更具体地，在每个解码步骤，SMT基于来自NMT的解码信息（例如，所生成的部分翻译和注意力历史）。然后，我们采用辅助分类器来对SMT建议进行评分，并采用门控函数将SMT建议与NMT生成相结合，两者都以端到端的方式在NMT架构内进行联合训练。在多个NIST测试集上的汉英翻译实验结果表明，该方法与现有的NMT和SMT系统相比，取得了显著且一致的改进。
2016-12-30 cs.CL
Extended Parallel Corpus for Amharic-English Machine Translation
本文描述了一个阿姆哈拉语-英语平行语料库的获取、预处理、切分和对齐。这对于低资源语言阿姆哈拉语的机器翻译有一定的帮助。我们出于研究目的免费发布了语料库。此外，我们开发了基线统计和神经机器翻译系统;我们使用语料库训练了统计和神经机器翻译模型。在实验中，我们还使用了一个大型的单语语料库的语言模型的统计机器翻译和神经机器翻译的回译。在自动评估中，神经机器翻译模型比统计机器翻译模型高出大约6到7个双语评估替代（BLEU）点。此外，在神经机器翻译模型中，子词模型比基于词的模型高出3到4个BLEU点。此外，其他两个相关的自动评估指标，翻译编辑率在字符水平和更好的评价作为排名，反映了训练模型之间的相应差异。
2022-05-03 cs.AI cs.CL
Towards Neural Machine Translation for African Languages
Retro Rabbit（Retro Rabbit公司）；CSIR（南非科学与工业研究理事会）
鉴于南非的教育正处于危机之中，必须探讨提高和维持高质量、最新教育的战略。在教育在线迁移过程中，有必要为资源匮乏的当地语言提供机器翻译。本文旨在促进当前神经机器翻译（NMT）技术在低资源本地语言中的使用。本文展示了使用Autshumato数据集进行英语到西班牙语翻译的最新性能。Transformer架构的使用以5.33 BLEU点击败了以前的技术。这证明了将当前的NMT技术用于非洲语言的前景。
2018-11-13 cs.CL cs.LG stat.ML
Six Challenges for Neural Machine Translation
Johns Hopkins University（约翰斯·霍普金斯大学）
我们探讨了神经机器翻译的六个挑战：领域不匹配、训练数据量、稀有词、长句、词对齐和束搜索。我们显示了基于短语的统计机器翻译的质量的不足和改进。
2017-06-12 cs.CL
Is Neural Machine Translation Ready for Deployment? A Case Study on 30 Translation Directions
Faculty of Mathematics and Computer Science, Adam Mickiewicz University in Poznan（波兹南亚当·密茨凯维奇大学数学与计算机科学学院）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Moses Machine Translation CIC（Moses机器翻译社区利益公司）
在本文中，我们提供了基于短语的SMT和神经机器翻译在30个翻译方向上的翻译质量的最大出版比较。对于十个方向，我们还包括基于短语的分层MT。实验进行了最近出版的联合国平行语料库v1.0和大型六向平行对齐子语料库。在本文的第二部分中，我们研究了翻译速度方面，介绍了AmuNMT，我们高效的神经机器翻译解码器。我们证明，当前的神经机器翻译已经可以用于生产系统中，比较每秒单词的比率。
2016-11-30 cs.CL
Increasing the throughput of machine translation systems using clouds
University of Primorska（普里莫尔斯卡大学）；Andrej Marusic Institute（安德烈·马鲁西奇研究所）；Research Centre of the Slovenian Academy of Sciences and Arts（斯洛文尼亚科学与艺术研究院研究中心）；The Fran Ramovš Institute（弗兰·拉莫夫什研究所）；University of Ljubljana（卢布尔雅那大学）
本文介绍了一个在MapReduce模型下实现机器翻译系统的实验。实证评估是使用嵌入MapReduce编程模型的完全实现的翻译系统进行的。研究了两种机器翻译范式：基于浅层迁移规则的机器翻译和统计机器翻译。实验结果表明，MapReduce模型可以成功地用于提高机器翻译系统的吞吐量。此外，该方法提高了机器翻译系统的吞吐量，而不降低翻译输出的质量。因此，本手稿也代表了对自然语言处理，特别是机器翻译的开创性工作的贡献。它首先指向翻译系统的吞吐量的度量的定义的重要性，其次，机器翻译任务的MapReduce范式的适用性。
2016-11-09 cs.CL cs.DC
Machine Translation Models are Zero-Shot Detectors of Translation Direction
Department of Computational Linguistics, University of Zurich（计算语言学系，苏黎世大学）
本研究提出一种基于翻译简化效应的无监督翻译方向检测方法，利用多语言机器翻译模型验证了其在高资源语言对上的有效性，对机器翻译和人工翻译均取得较高准确率。
2025-05-28 cs.CL
Reinforcement Learning for Bandit Neural Machine Translation with Simulated Human Feedback
University of Maryland（马里兰大学）；Microsoft Research, New York（微软研究院纽约分院）
机器翻译是基于人类反馈的强化学习的自然候选问题：用户对候选翻译提供快速、肮脏的评级，以指导系统进行改进。然而，目前的神经机器翻译训练集中在昂贵的人类生成的参考翻译上。我们描述了一种强化学习算法，它可以从模拟的人类反馈中改进神经机器翻译系统。我们的算法结合了优势行动者-批评者算法（Mnih等人，2016）与基于注意力的神经编码器-解码器架构（Luong等人，2015年）。该算法（a）针对具有大动作空间和延迟奖励的问题进行了良好的设计，（b）有效地优化了传统的语料库级别的机器翻译度量，以及（c）对在实际人类行为之后建模的倾斜，高方差，粒度反馈具有鲁棒性。
2017-11-11 cs.AI cs.CL cs.HC
Neural Machine Translation by Jointly Learning to Align and Translate
Jacobs University Bremen（不来梅雅各布大学）；Université de Montréal（蒙特利尔大学）
神经机器翻译是最近提出的一种机器翻译方法。与传统的统计机器翻译不同，神经机器翻译旨在构建一个单一的神经网络，可以联合调整，以最大限度地提高翻译性能。最近提出的用于神经机器翻译的模型通常属于编码器-解码器家族，并且由编码器组成，该编码器将源句子编码成固定长度的向量，解码器从该向量生成翻译。在本文中，我们推测，使用一个固定长度的向量是一个瓶颈，在提高性能的这种基本的编码器-解码器架构，并建议通过允许一个模型自动（软）搜索部分的源句子是相关的预测一个目标词，而不必形成这些部分作为一个硬段显式扩展。有了这种新的方法，我们实现了翻译性能相媲美的现有国家的最先进的短语为基础的系统上的英法翻译的任务。此外，定性分析表明，（软）对齐发现的模型同意我们的直觉。
2016-05-19 cs.CL cs.LG cs.NE
A Unified Example-Based and Lexicalist Approach to Machine Translation
我们提出了一种结合基于实例和词汇主义理论框架的思想和方法的机器翻译方法。该方法已在多语种机器翻译系统中实现。
1999-06-30 cs.CL
JUCBNMT at WMT2018 News Translation Task: Character Based Neural Machine Translation of Finnish to English
Jadavpur University（贾达布尔大学）
在当前的工作中，我们介绍了提交给WMT 2018新闻翻译共享任务的系统的描述。该系统是为了将新闻文本从芬兰语翻译成英语而创建的。该系统使用基于字符的神经机器翻译模型来完成给定的任务。目前的文件的预处理步骤，提交的系统和使用相同的结果产生的描述。我们的系统获得的BLEU评分为12.9。
2019-08-01 cs.CL
The Effect of Translationese in Machine Translation Test Sets
University of Groningen（格罗宁根大学）
在机器翻译（MT）领域中已经研究了反译语的效果，主要是关于训练数据。我们使用WMT的新闻共享任务的最后三个版本的测试集，包含17个翻译方向，深入研究了英语翻译对测试数据的影响。我们的证据表明，（i）在测试集中使用英语会导致MT系统的人工评估分数膨胀;（ii）在某些情况下，系统排名确实会发生变化;（iii）英语对翻译方向的影响与最先进的MT系统在该方向上可达到的翻译质量呈负相关。
2019-06-19 cs.CL
An Automatic Evaluation of the WMT22 General Machine Translation Task
本报告提出了一个自动评估的一般机器翻译任务的第七届会议上机器翻译（WMT 22）。它评估了21个翻译方向的185个系统，包括高资源到低资源的语言对以及与遥远语言密切相关的语言对。这种大规模的自动评估突出了当前最先进的机器翻译系统的一些局限性。它还展示了自动度量，即chrF，BLEU和COMET，如何补充自己，以减轻自己在可解释性和准确性方面的限制。
2022-11-09 cs.CL
Zero-Resource Translation with Multi-Lingual Neural Machine Translation
Middle East Technical University（中东技术大学）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；New York University（纽约大学）
在本文中，我们提出了一种新的微调算法，最近推出的多路，多语言神经机器翻译，使零资源机器翻译。当与新颖的多对一翻译策略一起使用时，我们的经验表明，这种微调算法允许多路多语言模型翻译零资源语言对（1）以及用相同语言对的多达1M个直接平行句子训练的单对神经翻译模型（2）优于基于机器翻译的翻译策略，同时仅保留注意力相关参数的一个附加副本。
2016-06-13 cs.CL
Has Machine Translation Achieved Human Parity? A Case for Document-level Evaluation
University of Zurich（苏黎世大学）；University of Edinburgh（爱丁堡大学）
最近的研究表明，神经机器翻译在WMT中文-英文新闻翻译任务上与专业人工翻译实现了平等。我们经验性地测试这种说法与替代的评估协议，对比单个句子和整个文件的评估。在成对排名实验中，评估充分性和流畅性的人类评分员在评估文档时，与孤立的句子相比，对人类的偏好更强，而不是机器翻译。我们的研究结果强调，有必要转向文件级的评估，因为机器翻译提高到一定程度，在翻译水平上很难或不可能发现的错误成为区分不同翻译输出质量的决定性因素。
2018-08-21 cs.CL
JUMT at WMT2019 News Translation Task: A Hybrid approach to Machine Translation for Lithuanian to English
Jadavpur University（贾达普大学）
在目前的工作中，我们介绍了提交给WMT 2019新闻翻译共享任务的系统的描述。该系统是为了将新闻文本从立陶宛语翻译成英语而创建的。为了完成给定的任务，我们的系统使用了基于词嵌入的神经机器翻译模型来后编辑由统计机器翻译模型生成的输出。目前的文件的架构，我们的模型，描述的各个模块和使用相同的结果。我们的系统获得了17.6的BLEU评分。
2019-08-01 cs.CL
Learning to Detect Unacceptable Machine Translations for Downstream Tasks
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Institute for Artificial Intelligence（人工智能研究院）；Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
近年来，机器翻译领域取得了巨大的进步。尽管翻译质量已经显著提高，但当前系统仍然无法为各种可能的用例产生一致可接受的机器翻译。在这项工作中，我们把机器翻译在跨语言的管道，并引入下游任务来定义任务特定的可接受性的机器翻译。这使我们能够利用并行数据自动生成大规模的可接受性注释，这反过来又有助于学习下游任务的可接受性检测器。我们进行实验，以证明我们的框架的有效性，一系列的下游任务和翻译模型。
2020-05-08 cs.CL
A Baseline Neural Machine Translation System for Indian Languages
IIIT Hyderabad（印度海得拉巴国际信息技术学院）；IIT Kanpur（印度坎普尔理工学院）
我们提出了一个简单而有效的印度语言神经机器翻译系统。我们证明了多语言对的可行性，并为进一步的研究建立了一个强有力的基线。
2019-07-29 cs.CL
