Benchmarking Machine Translation with Cultural Awareness
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校);Stanford University(斯坦福大学)
本文构建了带文化特定项标注的6语言对平行语料库并提出两种语用评估指标,用于评测机器翻译的文化意识,发现大语言模型在翻译缺乏目标文化对应项的CSI时优于神经机器翻译。
2024-10-19 cs.CL
Automatic Classification of Human Translation and Machine Translation: A Study from the Perspective of Lexical Diversity
University of St Andrews(圣安德鲁斯大学);School of Computer Science(计算机科学学院)
通过使用三元模型并微调预训练的BERT模型进行序列分类,我们表明可以以高于偶然水平的准确度对机器翻译和人类翻译进行分类,这表明机器翻译和人类翻译是不同的系统方式。机器翻译的分类准确率远高于人工翻译。我们发现,这可能是解释之间的差异词汇多样性机器翻译和人类翻译。如果机器翻译具有独立于人类翻译的模式,则测量机器翻译与人类翻译的偏差的自动度量可能将差异与质量混为一谈。我们用两种不同类型的自动度量进行的实验显示了与分类任务结果的相关性。因此,我们建议在机器翻译评价中,应更多地关注机器翻译和人工翻译在词汇多样性方面的差异。
2021-05-10 cs.CL
Context-Aware Learning for Neural Machine Translation
New York University(纽约大学);CIFAR Azrieli Global Scholar(CIFAR Azrieli全球学者(注:CIFAR是加拿大高级研究所,非机构;此处按原文保留))
对大上下文神经机器翻译的兴趣,包括文档级和多模态翻译,一直在增长。许多作品提出了新的网络架构或评估方案,但潜在的有用的上下文有时仍然被较大的上下文翻译模型所忽略。在本文中,我们提出了一种新的学习算法,明确鼓励神经翻译模型考虑到额外的上下文使用多级成对排序损失。我们评估所提出的学习算法与基于transformer的大上下文翻译系统的文档级翻译。通过比较使用实际和随机上下文的性能,我们表明,使用该算法训练的模型对额外的上下文更敏感。
2019-03-12 cs.CL
Semantics-aware Attention Improves Neural Machine Translation
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
将句法结构整合到Transformer机器翻译中已经取得了积极的成果,但据我们所知,还没有工作试图这样做语义结构。在这项工作中,我们提出了两种新的无参数的方法注入语义信息到Transformers,都依赖于语义感知掩蔽(一些)的注意头。一种这样的方法通过场景感知自注意(SASA)头在编码器上操作。另一个在解码器上,通过场景感知交叉注意(SACrA)头。我们表现出一致的改进香草Transformer和语法感知模型的四种语言对。我们进一步表明,在一些语言对使用语义和句法结构时,额外的收益。
2022-05-24 cs.CL
Using Perturbed Length-aware Positional Encoding for Non-autoregressive Neural Machine Translation
NTT Communication Science Laboratories(NTT通信科学实验室);Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
非自回归神经机器翻译(NAT)通常采用序列级知识蒸馏使用自回归神经机器翻译(AT)作为其教师模型。然而,NAT模型通常输出比AT模型更短的句子。在这项工作中,我们提出了序列级知识蒸馏(SKD)使用扰动长度感知位置编码,并将其应用到学生模型,Levenshtein Transformer。我们的方法优于标准Levenshtein Transformer的2.5点,在双语评估替补(BLEU)在最大的WMT 14德语到英语的翻译。NAT模型输出比基线NAT模型更长的句子。
2021-07-29 cs.CL
A Large-Scale Test Set for the Evaluation of Context-Aware Pronoun Translation in Neural Machine Translation
University of Zurich(苏黎世大学);Amazon Research(亚马逊研究院);Yandex Research(Yandex研究院);University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学)
代词的翻译对机器翻译提出了一个特殊的挑战,因为它经常需要当前句子之外的上下文。最近的工作模型,可以访问跨句子边界的信息已经看到只有适度的改进,如BLEU的自动评估指标。然而,量化整体翻译质量的指标不足以衡量额外上下文带来的收益。我们认为,需要一种不同的评估,以评估如何以及模型翻译间的现象,如代词。因此,本文提出了一个测试套件的对比翻译,专门侧重于代词的翻译。此外,我们进行实验与几个上下文感知模型。我们表明,虽然这些系统的BLEU增益适中,但在我们的对比测试集上,它们在准确性方面大大优于基线。我们的实验也显示了多编码器架构的参数绑定的有效性。
2019-03-06 cs.CL
Context-Aware or Context-Insensitive? Assessing LLMs' Performance in Document-Level Translation
University of Amsterdam(阿姆斯特丹大学)
本研究针对文档级翻译中需句外上下文的词汇翻译问题,通过扰动和归因分析评估9个不同家族LLMs及2个基线模型的上下文利用能力,发现其文档翻译性能提升未体现在代词翻译上,强调需针对性微调以提升可靠性。
2025-02-14 cs.CL
Contrastive Learning for Context-aware Neural Machine TranslationUsing Coreference Information
Dept. of Electrical and Computer Engineering, Seoul National University(首尔大学电气与计算机工程系);Automation and Systems Research Institute, Seoul National University(首尔大学自动化与系统研究所)
上下文感知神经机器翻译(NMT)融合了文本的上下文信息,可以提高文档级机器翻译的翻译质量。许多现有的上下文感知NMT的工作都集中在开发新的模型架构,将额外的上下文,并显示出一些有前途的结果。然而,大多数现有的作品依赖于交叉熵损失,从而限制了上下文信息的使用。在本文中,我们提出了CorefCL,一种新的数据增强和对比学习计划的基础上,源和上下文句子之间的共指。通过破坏自动检测到的上下文语句中的共指提及,CorefCL可以训练模型对共指不一致性敏感。我们在常见的上下文感知NMT模型和两个文档级翻译任务上实验了我们的方法。在实验中,我们的方法不断提高BLEU的比较模型上的英语-德语和英语-韩语任务。我们还表明,我们的方法显着提高了共指消解在英语-德语对比测试套件。
2021-09-13 cs.CL
Can neural machine translation do simultaneous translation?
New York University(纽约大学)
我们研究了基于注意力的神经机器翻译在同声翻译中的潜力。我们引入了一种新的解码算法,称为同时贪心解码,允许现有的神经机器翻译模型开始翻译之前,收到一个完整的源语句。这种方法是独特的,从以前的作品同步翻译的分割和翻译是共同完成的,以最大限度地提高翻译质量,翻译每一个部分是强烈的条件下,所有以前的部分。本文提出了第一步,建立一个完整的同步翻译系统的基础上神经机器翻译。
2016-06-07 cs.CL
Can Your Context-Aware MT System Pass the DiP Benchmark Tests? : Evaluation Benchmarks for Discourse Phenomena in Machine Translation
Nanyang Technological University(南洋理工大学);Salesforce Research Asia(赛富时亚洲研究院);Warsaw University of Technology(华沙理工大学)
尽管越来越多的实例机器翻译(MT)系统,包括上下文信息,翻译质量的改善的证据是稀疏的,特别是语篇现象。像BLEU这样的流行指标没有足够的表现力或敏感性来捕捉质量的改进或下降,这些改进或下降在尺寸上很小,但在感知上很重要。我们介绍了第一个MT基准数据集,旨在跟踪和欢呼四个主要话语现象的改进:回指,词汇一致性,连贯性和可读性,以及话语连接翻译。我们还介绍了这些任务的评估方法,并在策划的数据集上评估了几个基线MT系统。令人惊讶的是,我们发现,现有的上下文感知模型并没有提高跨语言和现象一致的话语相关的翻译。
2020-04-30 cs.CL
Context-Aware Neural Machine Translation Learns Anaphora Resolution
Yandex;University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学);University of Zurich(苏黎世大学)
标准的机器翻译系统孤立地处理句子,因此忽略了额外的信息,即使扩展的上下文既可以防止歧义情况下的错误,又可以提高翻译的连贯性。我们引入了一个上下文感知的神经机器翻译模型,其设计方式是可以控制和分析从扩展上下文到翻译模型的信息流。我们用英语-俄语字幕数据集进行了实验,并观察到我们的模型捕获的大部分内容都涉及改善代词翻译。我们测量诱导注意分布和共指关系之间的对应关系,并观察到该模型隐含地捕捉回指。这与代词在翻译中需要性别化的句子的收益是一致的。除了在照应情况下的改进之外,该模型还在整体BLEU方面有所改进,无论是在其上下文不可知版本(+0.7)还是在上下文和源句子的简单连接(+0.6)上。
2018-05-25 cs.CL
Isochrony-Aware Neural Machine Translation for Automatic Dubbing
Amazon(亚马逊)
我们介绍了任务的等时意识的机器翻译,其目的是在生成翻译适合配音。配音需要将源语言的内容以及语音停顿结构转换为目标语言,以实现视听连贯。实际上,这意味着正确地将停顿从源投影到目标,并确保目标语音段具有与对应的源语音段大致相同的持续时间。在这项工作中,我们提出了隐式和显式建模方法,将等时信息集成到神经机器翻译中。英语-德语/法语语言对自动度量的实验表明,最简单的考虑方法效果最好。结果通过翻译和配音视频的人工评估得到证实。
2022-07-08 cs.CL
Unsupervised Neural Machine Translation Initialized by Unsupervised Statistical Machine Translation
National Institute of Information and Communications Technology(国立信息通信技术研究所)
最近的工作在以完全无监督的方式训练神经机器翻译(NMT)系统方面取得了显着的成果,该系统具有仅依赖于单语语料库的新的专用架构。在这项工作中,我们建议将无监督NMT(UNMT)定义为在合成双语数据的监督下训练的NMT。我们的方法直接支持使用最先进的架构,通过用合成双语数据代替人工双语数据进行训练,提出了监督NMT。我们建议用无监督统计机器翻译(USMT)生成的合成双语数据初始化UNMT的训练。然后,利用反向翻译,逐步改进联合国地雷行动组系统。我们的初步实验表明,我们的方法实现了一个新的国家的最先进的无监督机器翻译的WMT 16德-英新闻翻译任务,两个翻译方向。
2018-10-30 cs.CL
Specification-Aware Machine Translation and Evaluation for Purpose Alignment
The Graduate University for Advanced Studies (SOKENDAI)(高级研究大学(SOKENDAI));National Institute of Informatics(信息研究所)
本文提出规范感知机器翻译与评估框架,通过在33家公司投资者关系文本上的实验证明,规范指导的LLM翻译在人工评估中优于官方人工翻译,表明整合规范可提升专业翻译质量。
2025-09-22 cs.CL
When a Good Translation is Wrong in Context: Context-Aware Machine Translation Improves on Deixis, Ellipsis, and Lexical Cohesion
Yandex(扬达克斯);University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学);University of Zurich(苏黎世大学)
虽然机器翻译错误是由于缺少句子以外的上下文而引起的,但上下文感知的NMT系统的发展受到一些问题的阻碍。首先,标准度量对文档级翻译一致性的改进不敏感。其次,以前的工作上下文感知的NMT假设,对齐的并行数据包括完整的文件,而在大多数实际情况下,这样的文档级数据构成的可用并行数据的一小部分。为了解决第一个问题,我们进行了一项人类研究的英语-俄语字幕数据集,并确定指示,省略和词汇衔接的三个主要来源的不一致。然后,我们创建针对这些现象的测试集。为了解决第二个缺点,我们考虑了一个设置,其中与文档级对齐的数据相比,有大量的文档级数据可用。我们引入了一个模型,适合这种情况下,并证明了我们的新基准测试的上下文无关的基线上的主要收益,而不会牺牲性能与BLEU测量。
2019-06-07 cs.CL
Context-Aware Machine Translation with Source Coreference Explanation
Nara Institute of Science and Technology(奈良科学技术研究所)
本文针对上下文感知机器翻译中因上下文过长或模型复杂导致的解释消除效应,提出通过预测输入共指特征来解释翻译决策的模型,并在多个数据集上取得超过1.0 BLEU的提升。
2024-04-30 cs.CL
New Approach to translation of Isolated Units in English-Korean Machine Translation
Kim Il Sung University(金日成大学)
开发一个实用的机器翻译系统并将其引入翻译实践,是快速翻译大量爆炸式增长的科技信息资料的最有效途径。本文根据在开发和引进英朝机器翻译系统过程中所获得的实际资料和实验,论述了孤立单位翻译中的一些问题。换句话说,本文考虑建立孤立的单位和他们的韩语对等语和词序的信息。
2015-06-23 cs.CL
Keyframe Segmentation and Positional Encoding for Video-guided Machine Translation Challenge 2020
视频引导的机器翻译是多模态神经机器翻译任务之一,其目标是通过有形地结合视频和文本来生成高质量的文本翻译。在这项工作中,我们提出了我们的视频引导机器翻译系统,以接近视频引导机器翻译挑战2020。该系统采用基于关键帧的视频特征提取以及视频特征位置编码。在评估阶段,我们的系统获得了36.60的语料库级别BLEU-4,并在2020年视频引导机器翻译挑战赛中获得第一名。
2020-06-23 cs.CL
Syntax-aware Data Augmentation for Neural Machine Translation
Shanghai Jiao Tong University(上海交通大学);Microsoft Research Asia(微软亚洲研究院);National Institute of Information and Communications Technology(信息通信研究机构)
数据增强是神经机器翻译(NMT)中通过生成额外的双语数据来提高性能的一种有效方法。在本文中,我们提出了一种新的数据增强神经机器翻译增强策略。与现有的数据增强方法简单地选择不同句子中具有相同概率的单词进行修改不同,我们通过考虑单词在句子中的作用来设置特定于句子的单词选择概率。我们使用输入句子的依存分析树作为一个有效的线索,以确定每个词在每个句子中的选择概率。我们提出的方法在WMT 14英语到德语数据集和IWSLT 14德语到英语数据集上进行了评估。大量的实验结果表明,我们提出的语法感知的数据增强方法可以有效地提高现有的翻译性能显着提高独立的方法。
2020-04-29 cs.CL
Pre-Translation for Neural Machine Translation
Institute for Anthropomatics(拟人学研究所);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
近年来,神经机器翻译(NMT)的发展显著提高了自动机器翻译的翻译质量。虽然大多数句子比基于统计机器翻译(SMT)的系统翻译的句子更准确和流畅,但在某些情况下,NMT系统产生的翻译具有完全不同的含义。当出现罕见的单词时,情况尤其如此。当使用统计机器翻译时,已经表明可以通过简化预处理步骤中的输入来实现显著的增益。一个常用的例子是预重排序方法。在这项工作中,我们使用基于短语的机器翻译将输入预翻译成目标语言。然后,神经机器翻译系统使用预翻译生成最终假设。因此,我们要么只使用基于短语的机器翻译(PBMT)系统的输出,要么结合PBMT输出和源句子。我们在英语到德语翻译任务上评估该技术。使用这种方法,我们能够超过PBMT系统以及基线神经MT系统多达2个BLEU点。分析了初始系统的质量对最终结果的影响。
2016-10-17 cs.CL
A Survey of Orthographic Information in Machine Translation
Insight Centre for Data Analytics(洞察数据分析中心);Data Science Institute(数据科学研究所);National University of Ireland Galway(爱尔兰国立高威大学)
机器翻译是自然语言处理的应用之一,它已经在不同的语言中得到了探索。近年来,研究人员开始关注资源贫乏语言和密切相关语言的机器翻译。这些机器翻译系统的一个普遍的和潜在的问题是在正字法惯例的变化,导致许多问题,以传统的方法。用两种不同的正字法书写的两种语言不容易比较,但是正字法信息也可以用来改进机器翻译系统。本文综述了正字法对资源不足语言的机器翻译的影响。它介绍了资源不足的语言方面的机器翻译和如何利用正字法信息,以改善机器翻译。我们描述了以前在这方面的工作,讨论了什么基本的假设,并显示了如何拼写知识提高性能的机器翻译资源不足的语言。我们讨论了不同类型的机器翻译,并展示了最近的趋势,寻求连接正字法信息与完善的机器翻译方法。相当多的注意力给予当前的努力同源信息在不同层次的机器翻译和经验教训,可以从中吸取。此外,密切相关语言的多语言神经机器翻译在本次调查中得到了特别关注。本文最后讨论了在机器翻译的正字法信息的发展方向,重点是多语言设置和双语词典归纳。
2020-08-04 cs.CL
Quality-Aware Decoding for Neural Machine Translation
Carnegie Mellon University(卡内基梅隆大学);Instituto Superior Técnico(高等技术学院);Instituto de Telecomunicações(电信研究所);INESC-ID(里斯本系统与计算机工程研究所);Unbabel
尽管近年来在机器翻译质量估计和评估方面取得了进展,但神经机器翻译(NMT)中的解码大多忽略了这一点,并且围绕着根据模型(MAP解码)找到最可能的翻译,近似于束搜索。在本文中,我们汇集了这两条线的研究,并提出了质量感知解码NMT,利用最近的突破,通过各种推理方法,如$N$ -最好的重新排序和最小贝叶斯风险解码的参考和基于参考的MT评估。我们在四个数据集和两个模型类中对各种可能的候选生成和排名方法进行了广泛的比较,发现质量感知解码始终优于基于MAP的解码,无论是根据最先进的自动度量(COMET和BLEURT)还是人工评估。我们的代码可在https://github.com/deep-spin/qaware-decode上获得。
2022-05-02 cs.CL
The Improvement of Negative Sentences Translation in English-to-Korean Machine Translation
Kim Il Sung University(金日成综合大学)
描述了在英朝机器翻译(EKMT)中将英语否定句翻译成韩语的算法。该算法是在对比研究英语和韩语否定句的基础上提出的。早期的翻译软件不能将英语否定句翻译成准确的韩语对应句。我们建立了一个新的否定句翻译算法,并对其进行了评价。
2015-12-26 cs.CL
First Result on Arabic Neural Machine Translation
New York University(纽约大学)
神经机器翻译已经成为广泛使用的基于短语的统计机器翻译的主要替代方案。然而,我们注意到,尽管神经机器翻译具有语言不可知论的性质,但大部分研究都集中在欧洲语言上。在本文中,我们将神经机器翻译应用于阿拉伯语翻译(Ar <->En)任务,并将其与标准的基于短语的翻译系统进行比较。我们在预处理阿拉伯语脚本中使用各种配置进行了广泛的比较,并表明基于短语的翻译系统和神经翻译系统相互执行,并且阿拉伯语脚本的适当预处理对这两个系统具有相似的效果。然而,我们观察到神经机器翻译在域外测试集上的表现明显优于基于短语的系统,这使得它对现实世界的部署具有吸引力。
2016-06-08 cs.CL
A General Framework for Adaptation of Neural Machine Translation to Simultaneous Translation
Shanghai University of Finance and Economics(上海财经大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
尽管神经机器翻译(NMT)取得了成功,但同时神经机器翻译(SNMT)由于句法结构差异和语义要求,在观察到完整句子之前进行实时的翻译任务仍然具有挑战性。在本文中,我们提出了一个通用的框架,用于适应神经机器翻译同时翻译。我们的框架包含两个部分:前缀翻译,利用一个连续的NMT模型来翻译源前缀和一个停止标准,确定何时停止前缀翻译。在三个翻译语料库和两个语言对上的实验表明,该框架在平衡NMT执行同声翻译的质量和延迟方面是有效的。
2020-10-04 cs.CL
Towards a general purpose machine translation system for Sranantongo
Language Technology Lab(语言技术实验室);University of Amsterdam(阿姆斯特丹大学)
Sranantongo(Sranan,srn)是一种资源匮乏的克里奥尔语,主要使用于棉兰老岛,它的机器翻译还是一块处女地。在本研究中,我们建立了一个通用的机器翻译系统。为了促进这项研究,我们介绍了SRN语料库,并行荷兰语(NL)的集合,以SRN和单语SRN数据。我们尝试了各种经过验证的机器翻译方法。我们的研究结果证明了一个强大的基线机器翻译系统的srn。
2022-12-13 cs.CL
Machine Translation in Indian Languages: Challenges and Resolution
英语到印度语的机器翻译提出了结构和形态差异的挑战。本文描述了使用预排序和后缀分离的英语到印度语的统计机器翻译。预排序使用规则在训练和翻译之前转换源句子的结构。这种句法重构有助于统计机器翻译解决结构分歧,从而提高翻译质量。后缀分离是用来解决英语和高粘着印度语言之间的形态分歧。我们证明,使用前序和后缀分离有助于提高英语到印度语机器翻译的质量。
2018-08-01 cs.CL
Neural Machine Translation
Center for Speech and Language Processing(语音与语言处理中心);Department of Computer Science(计算机科学系);Johns Hopkins University(约翰斯·霍普金斯大学)
关于神经机器翻译的教科书章节草稿。一个全面的治疗的主题,从介绍到神经网络,计算图,描述目前占主导地位的注意序列到序列模型,最近的改进,替代架构和挑战。作为教科书《统计机器翻译》的章节编写。用于JHU 2017年秋季机器翻译课程。
2017-09-22 cs.CL
Measuring and Increasing Context Usage in Context-Aware Machine Translation
Carnegie Mellon University(卡内基梅隆大学);Instituto Superior Técnico(高等技术学院);Instituto de Telecomunicações(电信研究所);Unbabel
神经机器翻译的最新研究已经证明了使用中间语境的必要性和可行性,中间语境是指来自当前翻译句子以外的句子的语境。然而,尽管目前的许多方法提出了理论上可以使用这种额外上下文的模型架构,但通常不清楚它们在翻译时实际使用了多少。在本文中,我们引入了一个新的度量,条件交叉互信息,量化这些模型的上下文的使用。使用这个度量标准,我们测量文档级机器翻译系统使用特定上下文的程度。我们发现,目标上下文被引用的源上下文,并在一个较长的上下文条件有一个递减的效果。然后,我们引入了一种新的,简单的训练方法,上下文感知的词辍学,增加上下文感知模型的上下文的使用。实验表明,我们的方法增加了上下文的使用,这反映了根据BLEU和COMET等指标的翻译质量,以及在照应代词解析和词汇衔接对比数据集上的性能。
2021-06-02 cs.CL
Neural Machine Translation Advised by Statistical Machine Translation
Soochow University(苏州大学);Noah’s Ark Lab, Huawei Technologies(华为诺亚方舟实验室)
神经机器翻译(NMT)是近年来取得巨大进展的一种新的机器翻译方法。然而,最近的研究表明,NMT通常产生流畅但不充分的翻译(Tu et al. 2016 b; Tu et al. 2016 a; He et al. 2016; Tu et al. 2017)。这与传统的统计机器翻译(SMT)形成对比,后者通常产生足够但不流畅的翻译。因此,利用这两种模型的优点来实现更好的翻译是很自然的,在这项工作中,我们建议将SMT模型纳入NMT框架。更具体地,在每个解码步骤,SMT基于来自NMT的解码信息(例如,所生成的部分翻译和注意力历史)。然后,我们采用辅助分类器来对SMT建议进行评分,并采用门控函数将SMT建议与NMT生成相结合,两者都以端到端的方式在NMT架构内进行联合训练。在多个NIST测试集上的汉英翻译实验结果表明,该方法与现有的NMT和SMT系统相比,取得了显著且一致的改进。
2016-12-30 cs.CL
Six Challenges for Neural Machine Translation
Johns Hopkins University(约翰斯·霍普金斯大学)
我们探讨了神经机器翻译的六个挑战:领域不匹配、训练数据量、稀有词、长句、词对齐和束搜索。我们显示了基于短语的统计机器翻译的质量的不足和改进。
2017-06-12 cs.CL
Improved Neural Machine Translation with a Syntax-Aware Encoder and Decoder
Nanjing University(南京大学);University of Notre Dame(圣母大学)
大多数神经机器翻译(NMT)模型基于顺序编码器-解码器框架,该框架不使用语法信息。在本文中,我们改进了这个模型,明确纳入源端语法树。更具体地说,我们提出了(1)一个双向树编码器,学习顺序和树结构表示;(2)一个树覆盖模型,让注意力取决于源端语法。汉英翻译实验表明,我们提出的模型优于顺序注意模型,以及一个更强的基线与自底向上的树编码器和单词覆盖率。
2017-07-18 cs.CL
Is Neural Machine Translation Ready for Deployment? A Case Study on 30 Translation Directions
Faculty of Mathematics and Computer Science, Adam Mickiewicz University in Poznan(波兹南亚当·密茨凯维奇大学数学与计算机科学学院);School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Moses Machine Translation CIC(Moses机器翻译社区利益公司)
在本文中,我们提供了基于短语的SMT和神经机器翻译在30个翻译方向上的翻译质量的最大出版比较。对于十个方向,我们还包括基于短语的分层MT。实验进行了最近出版的联合国平行语料库v1.0和大型六向平行对齐子语料库。在本文的第二部分中,我们研究了翻译速度方面,介绍了AmuNMT,我们高效的神经机器翻译解码器。我们证明,当前的神经机器翻译已经可以用于生产系统中,比较每秒单词的比率。
2016-11-30 cs.CL
LANDeRMT: Detecting and Routing Language-Aware Neurons for Selectively Finetuning LLMs to Machine Translation
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部);School of Software, Tsinghua University(清华大学软件学院);Baidu Inc(百度公司)
本文提出LANDeRMT框架,通过检测语言通用与语言特定神经元并进行选择性微调和条件感知路由,缓解大语言模型机器翻译微调中的灾难性遗忘与参数干扰,显著提升多语言对翻译质量。
2024-09-29 cs.CL
Machine Translation Models are Zero-Shot Detectors of Translation Direction
Department of Computational Linguistics, University of Zurich(计算语言学系,苏黎世大学)
本研究提出一种基于翻译简化效应的无监督翻译方向检测方法,利用多语言机器翻译模型验证了其在高资源语言对上的有效性,对机器翻译和人工翻译均取得较高准确率。
2025-05-28 cs.CL
Character-Aware Decoder for Translation into Morphologically Rich Languages
Johns Hopkins University(约翰斯·霍普金斯大学)
神经机器翻译(NMT)系统主要对单词(或子单词)进行操作,忽略较低级别的形态模式。我们提出了一个字符感知解码器,旨在捕捉这种模式时,翻译成形态丰富的语言。我们通过用卷积神经网络增强基于注意力的编码器-解码器模型的softmax和嵌入层来实现字符感知,该卷积神经网络对单词的拼写进行操作。为了研究各种形态现象的表现,我们使用TED多目标数据集将英语翻译成14种类型多样的目标语言。在这种低资源设置中,字符感知解码器提供了一致的改进,BLEU分数增益高达$+3.05$。此外,我们分析了所获得的收益和目标语言的属性之间的关系,并找到证据表明,我们的模型确实利用形态模式。
2019-06-18 cs.CL
HanoiT: Enhancing Context-aware Translation via Selective Context
Beihang University(北京航空航天大学);The University of Hong Kong(香港大学);Microsoft Research Asia(微软亚洲研究院)
本文提出HanoiT端到端模型,通过逐层软选择机制筛选文档上下文中的噪声词,增强上下文感知神经机器翻译,并在四个基准上显著超越已有模型。
2023-01-17 cs.CL
A Unified Example-Based and Lexicalist Approach to Machine Translation
我们提出了一种结合基于实例和词汇主义理论框架的思想和方法的机器翻译方法。该方法已在多语种机器翻译系统中实现。
1999-06-30 cs.CL
Unsupervised Domain Adaptation for Neural Machine Translation with Domain-Aware Feature Embeddings
Language Technologies Institute, Carnegie Mellon University(卡内基梅隆大学语言技术研究所)
最近神经机器翻译模型的成功依赖于高质量域内数据的可用性。当特定于域的数据很少或不存在时,需要领域自适应。以前的无监督领域自适应策略包括用域内复制的单语或反向翻译的数据训练模型。然而,这些方法使用文本的通用表示,而不管域转移,这使得翻译模型无法控制特定域的输出条件。在这项工作中,我们提出了一种方法,通过辅助语言建模任务学习的域感知特征嵌入来适应模型。我们的方法允许模型分配特定领域的表示词和输出句子在所需的域。我们的实证结果证明了所提出的策略的有效性,在多个实验环境中实现了一致的改善。此外,我们表明,将我们的方法与反向翻译相结合可以进一步提高模型的性能。
2019-08-27 cs.CL
VISA: An Ambiguous Subtitles Dataset for Visual Scene-Aware Machine Translation
Kyoto University(京都大学)
现有的多模态机器翻译(MMT)数据集由图像和视频字幕或一般字幕组成,其很少包含语言歧义,使得视觉信息不那么有效以生成适当的翻译。本文介绍了一个新的数据集VISA,该数据集由4万个日英平行句对和相应的视频片段组成,其主要特征是:(1)平行句是电影和电视剧的字幕;(2)源字幕是模糊的,这意味着它们有多个可能的不同含义的翻译;(3)根据歧义产生的原因,将数据集分为多义词和省略词。我们表明,VISA是最新的MMT系统的挑战,我们希望该数据集可以促进MMT的研究。VISA数据集可在https://github.com/ku-nlp/VISA上获得。
2022-05-26 cs.CL
JUCBNMT at WMT2018 News Translation Task: Character Based Neural Machine Translation of Finnish to English
Jadavpur University(贾达布尔大学)
在当前的工作中,我们介绍了提交给WMT 2018新闻翻译共享任务的系统的描述。该系统是为了将新闻文本从芬兰语翻译成英语而创建的。该系统使用基于字符的神经机器翻译模型来完成给定的任务。目前的文件的预处理步骤,提交的系统和使用相同的结果产生的描述。我们的系统获得的BLEU评分为12.9。
2019-08-01 cs.CL
Encoding Sentence Position in Context-Aware Neural Machine Translation with Concatenation
Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Naver Labs Europe(Naver欧洲实验室)
本文研究在基于拼接的上下文感知机器翻译中,通过多种方法将句子位置显式编码至 token 表示,发现特定编码方法在上下文折扣损失下可提升英译俄效果,但英译德未见相同益处。
2023-04-04 cs.CL
The Effect of Translationese in Machine Translation Test Sets
University of Groningen(格罗宁根大学)
在机器翻译(MT)领域中已经研究了反译语的效果,主要是关于训练数据。我们使用WMT的新闻共享任务的最后三个版本的测试集,包含17个翻译方向,深入研究了英语翻译对测试数据的影响。我们的证据表明,(i)在测试集中使用英语会导致MT系统的人工评估分数膨胀;(ii)在某些情况下,系统排名确实会发生变化;(iii)英语对翻译方向的影响与最先进的MT系统在该方向上可达到的翻译质量呈负相关。
2019-06-19 cs.CL
An Automatic Evaluation of the WMT22 General Machine Translation Task
本报告提出了一个自动评估的一般机器翻译任务的第七届会议上机器翻译(WMT 22)。它评估了21个翻译方向的185个系统,包括高资源到低资源的语言对以及与遥远语言密切相关的语言对。这种大规模的自动评估突出了当前最先进的机器翻译系统的一些局限性。它还展示了自动度量,即chrF,BLEU和COMET,如何补充自己,以减轻自己在可解释性和准确性方面的限制。
2022-11-09 cs.CL
Zero-Resource Translation with Multi-Lingual Neural Machine Translation
Middle East Technical University(中东技术大学);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心);New York University(纽约大学)
在本文中,我们提出了一种新的微调算法,最近推出的多路,多语言神经机器翻译,使零资源机器翻译。当与新颖的多对一翻译策略一起使用时,我们的经验表明,这种微调算法允许多路多语言模型翻译零资源语言对(1)以及用相同语言对的多达1M个直接平行句子训练的单对神经翻译模型(2)优于基于机器翻译的翻译策略,同时仅保留注意力相关参数的一个附加副本。
2016-06-13 cs.CL
Uncertainty-Aware Semantic Augmentation for Neural Machine Translation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Machine Intelligence Technology Lab, Alibaba Group(阿里巴巴集团机器智能技术实验室)
神经机器翻译(NMT)作为一种序列到序列生成任务,自然包含内在的不确定性,其中一种语言中的单个句子在另一种语言中具有多个有效的对应物。然而,NMT的主流方法仅从平行语料库中观察其中一个用于模型训练,而在推理时必须处理相同意义下的足够变化。这导致训练和推理阶段之间的数据分布的差异。为了解决这个问题,我们提出了不确定性感知的语义增强,它明确地捕捉多个语义等价的源句子之间的通用语义信息,并增强隐藏的表示与此信息更好的翻译。对各种翻译任务的大量实验表明,我们的方法显着优于强基线和现有的方法。
2020-10-09 cs.CL
Has Machine Translation Achieved Human Parity? A Case for Document-level Evaluation
University of Zurich(苏黎世大学);University of Edinburgh(爱丁堡大学)
最近的研究表明,神经机器翻译在WMT中文-英文新闻翻译任务上与专业人工翻译实现了平等。我们经验性地测试这种说法与替代的评估协议,对比单个句子和整个文件的评估。在成对排名实验中,评估充分性和流畅性的人类评分员在评估文档时,与孤立的句子相比,对人类的偏好更强,而不是机器翻译。我们的研究结果强调,有必要转向文件级的评估,因为机器翻译提高到一定程度,在翻译水平上很难或不可能发现的错误成为区分不同翻译输出质量的决定性因素。
2018-08-21 cs.CL
JUMT at WMT2019 News Translation Task: A Hybrid approach to Machine Translation for Lithuanian to English
Jadavpur University(贾达普大学)
在目前的工作中,我们介绍了提交给WMT 2019新闻翻译共享任务的系统的描述。该系统是为了将新闻文本从立陶宛语翻译成英语而创建的。为了完成给定的任务,我们的系统使用了基于词嵌入的神经机器翻译模型来后编辑由统计机器翻译模型生成的输出。目前的文件的架构,我们的模型,描述的各个模块和使用相同的结果。我们的系统获得了17.6的BLEU评分。
2019-08-01 cs.CL
FRMT: A Benchmark for Few-Shot Region-Aware Machine Translation
Google Research(谷歌研究院)
本研究提出面向少样本区域感知机器翻译的基准FRMT,含英语转葡语、普通话各地域变体的专业译文,探索验证了自动评估指标与人工评估的相关性,给出基线模型及研究指南,相关资源已公开。
2023-10-03 cs.CL
Learning to Detect Unacceptable Machine Translations for Downstream Tasks
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Institute for Artificial Intelligence(人工智能研究院);Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
近年来,机器翻译领域取得了巨大的进步。尽管翻译质量已经显著提高,但当前系统仍然无法为各种可能的用例产生一致可接受的机器翻译。在这项工作中,我们把机器翻译在跨语言的管道,并引入下游任务来定义任务特定的可接受性的机器翻译。这使我们能够利用并行数据自动生成大规模的可接受性注释,这反过来又有助于学习下游任务的可接受性检测器。我们进行实验,以证明我们的框架的有效性,一系列的下游任务和翻译模型。
2020-05-08 cs.CL
A Baseline Neural Machine Translation System for Indian Languages
IIIT Hyderabad(印度海得拉巴国际信息技术学院);IIT Kanpur(印度坎普尔理工学院)
我们提出了一个简单而有效的印度语言神经机器翻译系统。我们证明了多语言对的可行性,并为进一步的研究建立了一个强有力的基线。
2019-07-29 cs.CL
Context-Aware Monolingual Repair for Neural Machine Translation
Yandex;University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学);University of Zurich(苏黎世大学)
现代的句子级NMT系统通常会对孤立的句子进行合理的翻译。然而,当放在上下文中时,这些翻译可能最终彼此不一致。我们提出了一个单语DocRepair模型来纠正文档级翻译之间的不一致。DocRepair对一系列的句子级翻译进行自动后期编辑,在彼此的上下文中改进句子的翻译。对于训练,DocRepair模型只需要目标语言的单语文档级数据。它被训练为单语序列到序列模型,将不一致的句子组映射为一致的句子组。一致组来自原始训练数据;不一致组通过对每个孤立句子的往返翻译进行采样而获得。我们表明,这种方法成功地模仿不一致,我们的目标是解决:使用对比评价,我们在翻译的几个上下文现象在英俄翻译任务,以及BLEU分数的改善,显示出很大的改善。我们还进行了人工评估,并显示出注释者对校正翻译的强烈偏好。此外,我们还分析了单语数据难以捕捉的语篇现象。
2019-10-15 cs.CL
Improving Context-aware Neural Machine Translation with Target-side Context
Tokyo Metropolitan University(东京都立大学)
近年来,一些关于神经机器翻译(NMT)的研究试图通过使用多编码器和两个注意力机制来读取当前和先前的句子,以结合先前句子的上下文,从而使用文档级上下文。这些研究的结论是,目标方的上下文是没有那么有用的比源方的上下文。然而,我们认为目标端上下文不太有用的原因在于用于对这些上下文进行建模的架构。因此,在这项研究中,我们研究如何目标端上下文可以提高上下文感知神经机器翻译。我们提出了一种权重共享方法,其中NMT保存解码器状态,并在翻译当前句子时使用保存的状态计算注意力向量。我们的实验表明,目标端的上下文也是有用的,如果我们插入到NMT作为解码器状态时,翻译前一句话。
2019-09-02 cs.CL
LIUM Machine Translation Systems for WMT17 News Translation Task
University of Le Mans(勒芒大学)
本文介绍了LIUM提交WMT 17新闻翻译任务的英语-德语,英语-土耳其语,英语-捷克语和英语-拉脱维亚语对。我们使用开源的nmtpy框架,训练基于BPE的专注神经机器翻译系统,有和没有因子输出。竞争分数是通过集成各种系统和利用目标单语语料库的回译的可用性。还分析了英语-土耳其语的回译数量和质量的影响,我们在截止日期后提交的作品超过了最好的作品+1.6 BLEU。
2017-07-14 cs.CL