Understanding and Addressing the Under-Translation Problem from the Perspective of Decoding Objective
Pattern Recognition Center, WeChat AI, Tencent Inc（腾讯微信AI模式识别中心）
本研究从解码目标角度分析神经机器翻译中欠翻译的成因，提出利用预测EOS的置信度作为检测器并加强惩罚，以准确检测和纠正欠翻译输出。
2024-05-29 cs.CL
Learning Confidence for Transformer-based Neural Machine Translation
School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Tencent（腾讯）
置信度估计旨在量化模型预测的置信度，提供成功的预期。当在现实环境中给定噪声样本和分布外数据时，经过良好校准的置信度估计可以实现准确的故障预测和适当的风险测量。然而，这一任务对于神经机器翻译（NMT）仍然是一个严峻的挑战，其中来自softmax分布的概率无法描述模型何时可能出错。为了解决这个问题，我们提出了一个无监督的置信度估计学习与NMT模型的训练。我们将置信度解释为NMT模型需要多少提示才能做出正确的预测，提示越多表明置信度越低。具体来说，NMT模型可以选择要求提示来提高翻译准确性，但代价是一些轻微的惩罚。然后，我们通过计算模型使用的提示数量来近似他们的置信水平。我们证明了我们学习的置信度估计在广泛的句子/单词级质量估计任务中达到了很高的准确性。分析结果验证了我们的置信度估计可以正确评估两种真实场景中的潜在风险：（1）发现噪声样本和（2）检测域外数据。我们进一步提出了一种新的基于置信度的特定于实例的标签平滑方法，该方法基于我们学习的置信度估计，其性能优于标准标签平滑。
2022-03-22 cs.AI cs.CL
Backtranslation Feedback Improves User Confidence in MT, Not Quality
Charles University（查理大学）；University of Edinburgh（爱丁堡大学）；University of Sheffield（谢菲尔德大学）；University of Wolverhampton（伍尔弗汉普顿大学）；University of Tartu（塔尔图大学）
将文本翻译成文本作者不知道的语言，称为出站翻译，是一种现代需求，用户体验有很大的改进空间，超越了基本的机器翻译设施。我们通过展示三种方式来证明这一点，即用户对出站翻译的信心以及其整体最终质量可能会受到影响：向后翻译，质量估计（对齐）和源释义。在本文中，我们描述了从英语到捷克语和爱沙尼亚语的出站翻译实验。我们研究了每个建议的反馈模块的效果，并进一步关注机器翻译系统的质量如何影响这些发现和用户对成功的感知。我们发现，反向翻译反馈对整个过程有着混合的影响：它增加了用户的信心，在生产的翻译，但不是客观质量。
2021-04-12 cs.CL cs.HC
Using Source-Side Confidence Estimation for Reliable Translation into Unfamiliar Languages
University of Notre Dame（圣母大学）
本文提出一种无需对齐的源端置信度估计方法，通过测量目标词概率对源嵌入变化的敏感度来识别机器翻译中的错误，在错误翻译检测上优于传统基于对齐的方法，提升了面向不熟悉目标语言用户的交互式翻译系统的可信度与可解释性。
2025-03-30 cs.CL cs.LG
Augmenting Statistical Machine Translation with Subword Translation of Out-of-Vocabulary Words
University of Southern California（南加州大学）；University of Washington（华盛顿大学）
大多数统计机器翻译系统无法翻译在训练数据中看不到的单词。然而，人类可以翻译许多类别的词汇表外（OOV）单词（例如，新的形态变体、拼写错误和复合词）。根据这一观察，我们描述和评估几个一般的方法只使用子字信息的OOV翻译。我们把OOV翻译问题作为一个独立的任务，并在不同的资源水平上对14种类型不同的语言进行本质上的评估。将OOV翻译器添加到统计机器翻译系统中，可以为所有14种语言产生一致的BLEU增益（平均0.5分，最高可达2.0分），特别是在低资源场景中。
2018-08-16 cs.CL
A Hybrid Model for Enhancing Lexical Statistical Machine Translation (SMT)
Sadat Academy for Management Sciences（萨达特管理科学院）
统计机器翻译系统的兴趣增加，目前由于在世界上的政治和社会事件。提出了一种基于统计机器翻译（SMT）的模型，该模型可以用于通过有效地结合不同的统计和自然语言处理（NLP）模型（诸如语言模型、对齐模型、基于短语的模型、重排序模型和翻译模型）来自动地将句子从源语言（英语）翻译成目标语言（阿拉伯语）。这些模型相结合，以提高统计机器翻译（SMT）的性能。在这项工作中使用了许多实现工具，如Moses，Gizaa++，IRSTLM，KenLM和BLEU。通过对该模型的实现和评价，以及与Google Translate等其他机器翻译系统的比较，证明了该模型增强了统计机器翻译的效果，是该领域一种可靠、高效的翻译模型。
2015-06-03 cs.CL
Improving the Performance of English-Tamil Statistical Machine Translation System using Source-Side Pre-Processing
Amrita Vishwa Vidyapeetham（阿姆rita大学）；SRM University（SRM大学）
机器翻译是自然语言处理中最古老、最活跃的研究领域之一。统计机器翻译（SMT）是目前机器翻译研究的主流。统计机器翻译是机器翻译的一种方法，它使用模型直接从数据中学习翻译模式，并将其推广到翻译新的不可见文本。SMT方法在很大程度上是独立于语言的，即模型可以应用于任何语言对。统计机器翻译（SMT）试图利用统计方法生成基于双语文本语料库的译文。如果有这样的语料库，翻译相似的文本可以达到很好的效果，但这样的语料库仍然没有为许多语言对。统计机器翻译系统通常难以处理源端或目标端的词法，特别是对于词法丰富的语言。目标语言中的词法或句法错误会对句子的意义产生严重的影响。它们通过动词中不正确的时态信息改变词的语法功能或句子的理解。Baseline SMT也被称为基于短语的统计机器翻译（PBSMT）系统，它不使用任何语言信息，只对表面单词形式进行操作。近年来的研究表明，在双语语料较少的情况下，增加语言信息有助于提高译文的准确性。可以使用因子统计机器翻译系统通过预处理步骤来添加语言信息。本文研究了如何利用英文侧预处理来提高英文-泰米尔文SMT系统的准确性。
2014-09-29 cs.CL
Unsupervised Neural Machine Translation Initialized by Unsupervised Statistical Machine Translation
National Institute of Information and Communications Technology（国立信息通信技术研究所）
最近的工作在以完全无监督的方式训练神经机器翻译（NMT）系统方面取得了显着的成果，该系统具有仅依赖于单语语料库的新的专用架构。在这项工作中，我们建议将无监督NMT（UNMT）定义为在合成双语数据的监督下训练的NMT。我们的方法直接支持使用最先进的架构，通过用合成双语数据代替人工双语数据进行训练，提出了监督NMT。我们建议用无监督统计机器翻译（USMT）生成的合成双语数据初始化UNMT的训练。然后，利用反向翻译，逐步改进联合国地雷行动组系统。我们的初步实验表明，我们的方法实现了一个新的国家的最先进的无监督机器翻译的WMT 16德-英新闻翻译任务，两个翻译方向。
2018-10-30 cs.CL
Using crowdsourcing system for creating site-specific statistical machine translation engine
Prism LTD（Prism有限公司）；SibSAU（西伯利亚国立航空航天大学）
众包翻译方法是网站内容全球化的有效工具，但它也是并行语言数据的重要来源。对于给定的网站，用众包系统处理，可以获取与语料库对齐的语料库，该语料库覆盖非常狭窄的术语和语言模式域-特定于网站的域。这些数据可以用于特定于站点的统计机器翻译引擎的训练和估计
2014-09-19 cs.CL
Neural Networks Classifier for Data Selection in Statistical Machine Translation
PRHLT Research Center（PRHLT研究中心）；Universitat Politècnica de València（瓦伦西亚理工大学）
本文将统计机器翻译中的数据选择问题作为一个分类问题来解决。新的数据选择方法是基于神经网络分类器。我们提出了一种新的方法描述和实证结果，证明我们的数据选择方法提供了更好的翻译质量，与最先进的方法（即，交叉熵）。此外，报告的实证结果在不同的语言对之间是一致的。
2016-12-21 cs.CL
Data Troubles in Sentence Level Confidence Estimation for Machine Translation
Google, Inc.（谷歌公司）；Carnegie Mellon（卡内基梅隆大学）
本文研究了神经机器翻译模型在性能谱的高端的上进行置信度估计的可行性。作为构建此类模型所需的数据注释过程的副产品，我们提出句子级准确性$SACC$作为翻译质量的简单、自解释的评估指标。在两个不同的注释器池上进行实验，其中一个由非专家注释器组成，（众包）和专家之一（专业）翻译人员表明，$SACC$可以根据注释者的翻译熟练程度而变化很大，尽管根据Krippendorff的alpha度量，两个池的可靠性大致相同;注释者间一致性的相对较低的值证实了这样的预期，即用于上下文外翻译的重复级二进制标记$good$ / $needs\ work$非常困难。对于根据非专家注释者池在$SACC = 0.89$上操作的英语-西班牙语翻译模型，我们可以导出置信度估计，其在具有0.95精度的“域内”测试集中标记0.5-0.6的$good$翻译。切换到专家注释器池会显著减少$SACC$：英语-西班牙语的$0.61$，使用与上面完全相同的数据进行测量。这迫使我们将CE模型操作点降低到0.9精度，同时正确标记数据中约0.20-0.25的$good$翻译。我们发现令人惊讶的程度CE依赖于用于标记数据的注释者池的熟练程度。这就引出了我们希望在实践中处理CE建模时提出的一个重要建议：将最终用户对所需领域中翻译质量的期望与注释者为CE训练数据分配二进制质量标签的需求相匹配至关重要。
2020-10-26 cs.CL cs.LG
NICT's Neural and Statistical Machine Translation Systems for the WMT18 News Translation Task
本文介绍了NICT参与WMT 18共享新闻翻译任务的情况。我们参与了四种语言对的八个翻译方向：爱沙尼亚语-英语，芬兰语-英语，土耳其语-英语和汉语-英语。对于每个翻译方向，我们准备了最先进的统计（SMT）和神经（NMT）机器翻译系统。我们的NMT系统使用Transformer架构进行训练，使用提供的并行数据，这些数据通过我们使用新的增量训练框架生成的大量反向翻译单语数据进行放大。我们的主要提交任务是我们的SMT和NMT系统的简单组合的结果。根据BLEU案例，我们的系统在爱沙尼亚-英语和芬兰-英语语言对（约束）中排名第一。
2018-10-12 cs.CL
To Swap or Not to Swap? Exploiting Dependency Word Pairs for Reordering in Statistical Machine Translation
National University of Singapore（新加坡国立大学）；Tsinghua University（清华大学）
在语序有显著差异的两种语言之间进行机器翻译时，重新排序是一个主要的挑战。在本文中，我们提出了一种新的重新排序方法，利用稀疏特征的依赖词对的基础上。这些特征的每个实例捕获在源句子依存关系解析树中通过依存关系链接相关的两个单词是否遵循相同的顺序或在翻译输出中交换。中文到英文的翻译实验表明，使用我们的方法，统计上显着的改善1.21 BLEU点，相比，一个国家的最先进的统计MT系统，采用先前的重新排序方法。
2016-08-03 cs.CL
Neural Machine Translation Advised by Statistical Machine Translation
Soochow University（苏州大学）；Noah’s Ark Lab, Huawei Technologies（华为诺亚方舟实验室）
神经机器翻译（NMT）是近年来取得巨大进展的一种新的机器翻译方法。然而，最近的研究表明，NMT通常产生流畅但不充分的翻译（Tu et al. 2016 b; Tu et al. 2016 a; He et al. 2016; Tu et al. 2017）。这与传统的统计机器翻译（SMT）形成对比，后者通常产生足够但不流畅的翻译。因此，利用这两种模型的优点来实现更好的翻译是很自然的，在这项工作中，我们建议将SMT模型纳入NMT框架。更具体地，在每个解码步骤，SMT基于来自NMT的解码信息（例如，所生成的部分翻译和注意力历史）。然后，我们采用辅助分类器来对SMT建议进行评分，并采用门控函数将SMT建议与NMT生成相结合，两者都以端到端的方式在NMT架构内进行联合训练。在多个NIST测试集上的汉英翻译实验结果表明，该方法与现有的NMT和SMT系统相比，取得了显著且一致的改进。
2016-12-30 cs.CL
Exploiting Out-of-Domain Data Sources for Dialectal Arabic Statistical Machine Translation
University of Washington（华盛顿大学）；SRI International（SRI国际研究所）；LinkedIn（领英）
由于数据采集涉及口头语言的转录和翻译，因此用于方言阿拉伯语的统计机器翻译的特征在于缺乏数据。在这项研究中，我们开发的技术提取并行数据的一个特定的方言阿拉伯语（伊拉克阿拉伯语）从域外语料库在不同的方言阿拉伯语或现代标准阿拉伯语。我们比较了两种不同的数据选择策略（基于交叉熵和子模块化选择），并证明了一个非常小的，但高度有针对性的数据量可以提高基线机器翻译系统的性能。我们还报告了使用自动翻译的语音数据作为额外的训练数据的初步实验。
2015-09-07 cs.CL
Statistical Sign Language Machine Translation: from English written text to American Sign Language Gloss
Research Lab. UTIC, University of Tunis（突尼斯大学UTIC研究实验室）
本论文旨在设计一个从英文文本到美国手语的统计机器翻译。该系统基于Moses工具进行了一些修改，并通过3D化身进行解释合成结果。首先，我们将输入的文本翻译为gloss，这是ASL的一种书面形式。第二，我们将输出传递给WebSign插件来播放标志。这项工作的贡献是使用一对新的语言英语/美国手语和统计机器翻译的基础上字符串匹配感谢加罗距离的改进。
2011-12-01 cs.CL
Statistical Machine Translation by Generalized Parsing
统计机器翻译（SMT）系统的设计者已经开始采用树结构的翻译模型。涉及树结构翻译模型的系统往往是复杂的。本文旨在降低此类系统的概念复杂性，以便使它们更容易设计、实现、调试、使用、学习、理解、解释、修改和改进。为此，本文对半环分析理论进行了扩展，提出了一种新的抽象分析算法，该算法具有五个功能参数：逻辑、文法、半环、搜索策略和终止条件。然后，文章表明，所有常见的算法，围绕树结构的翻译模型，包括层次对齐，推理参数估计，翻译和结构化评估，可以通过概括这些参数中的两个-语法和逻辑。本文的最后介绍了使用此类通用解析器来训练、应用和评估由树结构翻译模型驱动的SMT系统的方法。
2005-11-24 cs.CL
CBSiMT: Mitigating Hallucination in Simultaneous Machine Translation with Weighted Prefix-to-Prefix Training
Beijing Institute of Technology（北京理工大学）；Xiaomi AI Lab（小米人工智能实验室）
针对同声传译中因词序差异导致的幻觉问题，提出基于置信度的CBSiMT框架，通过词元级和句子级加权训练缓解干扰，在多语种任务中多数延迟区间提升翻译质量，低延迟下BLEU最高提2分。
2023-11-07 cs.CL
Neural and Statistical Methods for Leveraging Meta-information in Machine Translation
eBay Inc.（eBay公司）；RWTH Aachen University（亚琛工业大学）
在本文中，我们讨论了不同的方法，使用Meta信息和丰富的上下文，可能伴随着源语言输入，以提高机器翻译质量。我们专注于输入文本的类别信息作为Meta信息，但所提出的方法可以扩展到所有的文本和非文本的Meta信息，可能是可用的输入文本或自动预测使用的文本内容。这项工作的主要新颖之处是使用最先进的神经网络方法来解决这个问题的统计机器翻译（SMT）的框架内。我们观察到，在某些文本类别中，BLEU评分的翻译质量提高高达3%。
2017-08-10 cs.CL
Statistical Machine Translation for Indian Languages: Mission Hindi
CDAC Mumbai（孟买先进计算发展中心）
本文讨论了孟买高级计算发展中心（CDACM）提交给2014年印度语言统计机器翻译NLP工具竞赛（ILSMT）的作品（与ICON 2014同期举行）。比赛的目的是探讨统计机器翻译（SMT）的有效性，印度语到印度语和英语-印地语机器翻译。在本文中，我们已经提出，后缀分离和字分裂SMT从粘着语言印地语显着改善了基线（BL）。我们还表明，重新排序的因子模型优于基于短语的SMT英语印地语（\enhi）。我们报告了我们在所有五种语言上的工作，即孟加拉语-印地语（\bnhi），马拉地语-印地语（\mrhi），泰米尔语-印地语（\tahi），泰卢固语-印地语（\tehi）和健康，旅游和一般领域的\enhi。
2016-10-24 cs.CL
Simplifying the Bible and Wikipedia Using Statistical Machine Translation
Language Technologies Institute（语言技术研究所）
我开始这项工作的希望是生成一个文本合成器（像音乐合成器），可以模仿某些语言风格。报告的大部分内容都集中在使用统计机器翻译（SMT）技术进行文本简化。我将摩西书应用于一个平行的《圣经》语料库（钦定版和易读版）和维基百科文章（普通版和简化版）。我报告了SMT的三个主要组成部分的重要性-短语翻译，语言模型和记录-通过改变它们的权重和比较METEOR和BLEU方面的简化文本的质量。在报告的最后，将提出一些文本的例子“合成”到国王詹姆斯风格。
2017-03-25 cs.CL
Target-Side Context for Discriminative Models in Statistical Machine Translation
LMU Munich（慕尼黑大学）；Charles University in Prague（布拉格查理大学）；Adam Mickiewicz University in Poznań（波兹南亚当·密茨凯维奇大学）
利用源上下文的区别性翻译模型已被证明有助于统计机器翻译性能。我们提出了一种新的扩展这项工作使用目标上下文信息。令人惊讶的是，我们表明，该模型可以有效地直接集成在解码过程中。我们的方法可扩展到大的训练数据大小，并在四种语言对的翻译质量的一致改善的结果。我们还提供了一个分析比较基线源上下文模型与我们的扩展源上下文和目标上下文模型的优势，我们表明，我们的扩展使我们能够更好地捕捉形态的连贯性。我们的工作是免费提供作为摩西的一部分。
2016-07-05 cs.CL
A Dependency-Based Neural Reordering Model for Statistical Machine Translation
National University of Singapore（新加坡国立大学）
在涉及在词序有显著差异的两种语言之间进行翻译的机器翻译（MT）中，确定翻译词的正确词序是一个主要挑战。源句子的依存关系分析树可以帮助确定翻译单词的正确词序。在本文中，我们提出了一种新的重新排序方法，利用神经网络和依赖性为基础的嵌入预测是否翻译的两个源词连接的依赖关系应保持在相同的顺序，或应交换的翻译句子。中文到英文的翻译实验表明，我们的方法产生了0.57 BLEU点的基准NIST测试集上的统计显着改善，相比我们以前的国家的最先进的统计MT系统，使用稀疏依赖为基础的重新排序功能。
2017-02-15 cs.CL
The Impact of Preprocessing on Arabic-English Statistical and Neural Machine Translation
New York University Abu Dhabi（纽约大学阿布扎比分校）；Element AI
神经网络已成为机器翻译（MT）在许多语言的最先进的方法。虽然语言动机的标记化技术被证明对统计MT的性能有显着影响，但尚不清楚这些技术是否适合神经MT。在本文中，我们系统地比较了神经和统计MT模型的阿拉伯语-英语翻译的数据preprecosed各种突出的标记化方案。此外，我们考虑了一系列的数据和词汇量的大小，并比较它们对这两种方法的影响。我们的实证结果表明，标记化方案的最佳选择在很大程度上取决于模型的类型和数据的大小。我们还表明，我们可以获得显着的改善，使用系统选择，结合神经和统计MT的输出。
2019-06-27 cs.CL
CRPO: Confidence-Reward Driven Preference Optimization for Machine Translation
Rutgers University（罗格斯大学）；Amazon（亚马逊）
针对LLM机器翻译中偏好数据质量影响DPO性能的问题，提出CRPO方法，结合奖励分数与模型置信度选择困难样本，提升翻译准确性与数据效率，并适用于多种模型架构。
2025-01-23 cs.AI cs.CL cs.CV
Phrase Pair Mappings for Hindi-English Statistical Machine Translation
Indian Institute of Technology (IIT) Bombay（印度理工学院孟买分校）
在本文中，我们提出了我们的工作，创造词汇资源的机器翻译之间的英语和印地语。我们描述了短语对映射的发展，我们的实验和不同的训练模型之间的比较性能评估的基础上的统计机器翻译系统。我们致力于通过探索不同的方法来增加平行语料库中的词汇量以及各种屈折形式。我们使用各种词汇资源（例如词汇词、同义词、虚词和动词短语）扩展了训练语料库。我们已经描述了案例研究，自动和主观评价，详细的错误分析的英语到印地语和印地语到英语的机器翻译系统。进一步分析表明，随着各种词汇资源的使用，机器翻译的质量也在不断提高。因此，词汇资源确实有助于提高资源贫乏语言的翻译质量。
2017-11-10 cs.CL
Confidence Based Bidirectional Global Context Aware Training Framework for Neural Machine Translation
Xiamen University（厦门大学）；Tencent Inc（腾讯公司）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Pengcheng Lab（鹏城实验室）
大多数主导神经机器翻译（NMT）模型仅限于根据前一个单词的局部上下文以从左到右的方式进行预测。尽管已有许多研究试图将全局信息纳入NMT模型，但在如何有效利用双向全局上下文方面仍存在局限性。在本文中，我们提出了一个基于置信度的双向全局上下文感知（CBBGCA）训练框架的NMT，其中NMT模型与辅助条件掩蔽语言模型（CMLM）联合训练。训练分为两个阶段：（1）多任务联合训练;（2）基于置信度的知识蒸馏。在第一阶段，通过共享编码器参数，NMT模型另外由来自CMLM解码器的包含双向全局上下文的信号监督。在第二阶段，以CMLM为教师，通过知识蒸馏，进一步有针对性地将双向全局语境引入到NMT模型的非置信预测目标词中。实验结果表明，我们提出的CBBGCA训练框架显着提高NMT模型+1.02，+1.30和+0.57 BLEU分数在三个大规模的翻译数据集，即WMT'14英语到德语，WMT'19中文到英语和WMT'14英语到法语，分别。
2022-03-17 cs.AI cs.CL
Statistical Machine Translation for Indian Languages: Mission Hindi 2
CDAC Mumbai（孟买先进计算发展中心）
本文介绍了孟买高级计算发展中心（CDACM）向2015年印度语言统计机器翻译NLP工具竞赛（ILSMT）提交的参赛作品（与ICON 2015并列）。比赛的目的是共同探索统计机器翻译（SMT）在印度语言内部以及英语和印度语言之间进行翻译时的有效性。在本文中，我们报告我们的工作，即孟加拉语-印地语（\bnhi），马拉地语-印地语（\mrhi），泰米尔语-印地语（\tahi），泰卢固语-印地语（\tehi），英语-印地语（\enhi）的健康，旅游和一般领域。我们在SMT培训和测试之前使用了后缀分离、复合拆分和预排序。
2016-10-25 cs.CL
The TALP-UPC System for the WMT Similar Language Task: Statistical vs Neural Machine Translation
TALP Research Center（TALP研究中心）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
虽然相似语言翻译问题已成为一个研究热点，但至今仍远未得到解决。在本文中，我们研究了两种流行的方法的性能：统计和神经。我们的结论是，这两种方法产生类似的结果，但是，性能取决于语言对。虽然统计方法在西班牙语-葡萄牙语语言对中的表现优于神经模型，但所提出的神经模型在捷克语-波兰语中的表现优于统计模型，差异为6个BLEU点。在前一种情况下，语言相似性（基于困惑度）比后一种情况高得多。此外，我们报告了反向翻译系统组合的负面结果。我们的TALP-UPC系统提交在第一届WMT相似语言翻译任务的官方评估中获得捷克语到波兰语的第一名和西班牙语到葡萄牙语的第二名。
2019-08-03 cs.CL
Bengali to Assamese Statistical Machine Translation using Moses (Corpus Based)
Royal School of Engineering and Technology（皇家工程与技术学院）；Gauhati University（高哈蒂大学）
在自然语言处理中，机器方言解释在促进人-机对应和人-人对应方面发挥着重要作用。机器翻译（MT）指的是利用机器将一种方言转换成另一种方言。统计机器翻译是一种由语言模型、翻译模型和解码器组成的机器翻译。本文利用Moses语言建立了孟加拉语到阿萨姆语的统计机器翻译模型。其他翻译工具，如用于语言模型的IRSTLM和用于翻译模型的GIZA-PP-V1.0.7，都在这个框架中使用，在Linux环境中可以访问。LM的目的是鼓励流畅的输出，TM的目的是鼓励输入和输出之间的相似性，解码器增加了目标语言的翻译文本的概率。在孟加拉语和阿萨姆语的17100句平行语料库已被用于在此框架内准备。可测量的MT程序到目前为止还没有普遍调查印度方言。这可能是有趣的发现在多大程度上这些模型可以帮助巨大的持续MT审议在国家。
2015-04-06 cs.CL
Statistical Machine Translation Features with Multitask Tensor Networks
Microsoft Research（微软研究院）；Raytheon BBN Technologies（雷神BBN技术公司）
我们提出了一个三管齐下的方法来改善统计机器翻译（SMT），建立在最近成功的应用神经网络SMT。首先，我们提出了基于神经网络的新特征来模拟各种非局部翻译现象。其次，我们用张量层来增强神经网络的架构，张量层捕捉网络单元之间重要的高阶交互。第三，我们应用多任务学习来联合估计神经网络参数。我们提出的每一种方法都产生了互补的显著改进。阿拉伯语-英语和中文-英语翻译的整体改进分别为+2.7和+1.8 BLEU点，而这两个点都超过了已经包含神经网络功能的最先进系统。
2015-06-01 cs.CL
Domain Adaptation for Statistical Machine Translation
University of Macau（澳门大学）
统计机器翻译（SMT）系统在应用于新的目标领域时表现不佳。我们的目标是探索领域自适应方法和技术，以提高特定领域SMT系统的翻译质量。然而，翻译来自特定领域的文本（例如，医学充满了挑战。第一个挑战是模糊性。单词或短语在不同的上下文中有不同的含义。二是语言风格，因为不同体裁的语篇往往以不同的句法、长度和结构形式呈现。第三个问题是词汇表外词（OOVs）问题。域内训练数据通常很少，术语覆盖率低。在这篇论文中，我们探讨了最先进的领域自适应方法，并提出了有效的解决方案，以解决这些问题。
2018-04-05 cs.CL
Polish - English Speech Statistical Machine Translation Systems for the IWSLT 2014
Polish Japanese Academy of Information Technology（波兰-日本信息技术学院）
本研究探讨了波兰语和英语统计机器翻译系统之间的各种训练设置的口语效果。用于IWITO 2014评估活动的TED平行文本语料库的各种元素被用作语言模型培训的基础，以及翻译系统的开发，调整和测试以及我们准备的基于维基百科的可比语料库。BLEU、NIST、METEOR和TER指标被用来评估数据准备对翻译结果的影响。我们的实验包括系统，它使用引理和形态信息的波兰语单词。我们还对提供的波兰数据进行了深入分析，作为自动数据校正和清理阶段的准备工作。
2015-09-29 cs.CL
Data Augmentation and Terminology Integration for Domain-Specific Sinhala-English-Tamil Statistical Machine Translation
University of Moratuwa（莫拉图瓦大学）
词汇不足是低资源语言的机器翻译中的一个问题。当源语言和/或目标语言在形态上丰富时，情况会变得更糟。双语列表集成是解决OOV问题的一种方法。这允许翻译比训练数据中更多的单词。然而，由于双语列表包含基本形式的单词，因此它不会翻译形态丰富的语言（如僧伽罗语和泰米尔语）的屈折形式。本文主要研究统计机器翻译中的数据增强技术，即基于格标记对双语词汇进行扩充以生成新词。字典术语的这种数据增强技术显示僧伽罗语-英语SMT的BLEU分数得到改善。
2021-02-03 cs.CL
Top-Rank Enhanced Listwise Optimization for Statistical Machine Translation
Nanjing University（南京大学）；University of Notre Dame（圣母大学）
成对排序方法是自然语言处理（NLP）中结构预测问题的许多广泛使用的判别训练方法的基础。将排序假设的问题分解为成对比较，可以实现简单而有效的解决方案。然而，忽略假设列表的全局排序可能会阻碍学习。我们提出了一个列表学习框架的结构预测问题，如机器翻译。我们的框架直接对整个翻译列表的排序进行建模，以学习可能更适合给定列表样本的参数。此外，我们提出了顶级增强损失函数，这是更敏感的排名错误在较高的位置。在大规模汉英翻译任务上的实验表明，我们的列表学习框架和顶级增强的列表损失导致翻译质量的显着提高。
2017-07-18 cs.CL
Applying Automated Machine Translation to Educational Video Courses
University of California Davis（加州大学戴维斯分校）
本文研究将自动化机器翻译应用于在线教育视频，通过先进翻译模型、语音合成和音视频同步翻译可汗学院视频，并建立基于往返翻译的置信度估计器及可部署系统以管理质量和收集用户反馈。
2023-09-19 cs.CL
Phrase Based Language Model For Statistical Machine Translation
Tsinghua University（清华大学）
我们考虑基于短语的语言模型（LM），它概括了常用的词级模型。在语音识别中也出现了类似的基于短语的语言模型的概念，语音识别是相当专业的，因此不太适合于机器翻译（MT）。与依赖LM相比，我们首先介绍了为MT使用量身定制的基于短语的LM。初步的实验结果表明，我们的方法优于基于词的LM方面的困惑和翻译质量。
2015-01-18 cs.CL
Beyond Word-based Language Model in Statistical Machine Translation
National Laboratory of Pattern Recognition, CASIA（中国科学院自动化研究所模式识别国家重点实验室）；Microsoft Research Asia（微软亚洲研究院）
语言模型是统计机器翻译中最重要的模块之一，目前基于词的语言模型占据主导地位。然而，许多翻译模型（例如，基于短语的模型）通过渲染和合成短语而不是单词来生成目标语言句子。因此，对短语之间的依赖关系进行建模更为合理，但很少有研究成功地解决了这个问题。本文通过设计一种新的基于短语的语言模型来解决这一问题，该模型试图解决三个关键子问题：1，如何在语言模型中定义短语; 2，如何在大规模单语数据中确定短语边界以扩大训练集; 3，如何缓解由于短语词汇量巨大而导致的数据稀疏问题。通过仔细处理这些问题，大量的汉英翻译实验表明，我们的基于短语的语言模型可以显着提高翻译质量高达+1.47绝对BLEU得分。
2015-02-05 cs.CL
Debugging Neural Machine Translations
Tilde（Tilde公司）
在本文中，我们描述了一种工具，用于调试神经机器翻译（NMT）系统的输出和注意力的权重，并改进估计的信心输出的基础上的注意。该工具的目的是帮助研究人员和开发人员找到他们的NMT系统产生的不需要参考翻译的弱和错误的示例翻译。我们的工具还包括一个选项，可以直接比较两个不同NMT引擎或实验的翻译输出。此外，我们还提供了一个工具的演示网站，其中包含好的和坏的翻译示例：http://attention.lielakeda.lv
2018-08-08 cs.CL
Statistical Vs Rule Based Machine Translation; A Case Study on Indian Language Perspective
Indian Institute of Technology Bombay（印度理工学院孟买分校）
在本文中，我们提出了我们的工作之间的统计机器翻译（SMT）和基于规则的机器翻译（RBMT）系统之间的案例研究在英语-印度langugae和印度到印度langugae的角度。本研究的主要目的是进行五方面的性能比较：a）SMT和RBMT b）SMT对英语-印度语言c）RBMT对英语-印度语言d）SMT对印度语言的角度e）RBMT对印度语言的角度。通过详细的分析，我们描述了基于规则和统计机器翻译系统的发展和评价。通过详细的误差分析，指出了两种系统的相对优势和不足。基于我们的研究的观察结果是：a）SMT系统优于RBMT b）在SMT的情况下，英语到印度语的MT系统比印度语到英语的MT系统表现得更好c）在RBMT的情况下，英语到印度语的MT系统比印度语到英语的MT系统表现得更好d）SMT系统比RBMT对印度语到印度语的MT系统表现得更好。实际上，我们将看到，即使使用少量的训练语料库，统计机器翻译系统对于高质量的领域特定机器翻译也比基于规则的对应物具有许多优点。
2017-08-12 cs.CL
Towards Robust k-Nearest-Neighbor Machine Translation
Xiamen University（厦门大学）；Tencent Inc（腾讯公司）；Dalian University of Technology（大连理工大学）；Pengcheng Laboratory（鹏城实验室）
最近邻机器翻译（kNN-MT）是近年来NMT的一个重要研究方向。它的主要思想是从一个额外的索引中检索有用的键值对来修改翻译，而不需要更新NMT模型。然而，底层检索到的噪声对将显著恶化模型性能。在本文中，我们进行了初步的研究，发现这一问题的结果没有充分利用NMT模型的预测。为了减轻噪声的影响，我们提出了一种具有鲁棒训练的置信度增强的kNN-MT模型。具体而言，我们引入NMT置信度来细化kNN-MT的两个重要组成部分的建模：kNN分布和插值权重。同时，我们注入两种类型的扰动到检索对鲁棒训练。在四个基准数据集上的实验结果表明，我们的模型不仅取得了显着的改进，目前kNN-MT模型，但也表现出更好的鲁棒性。我们的代码可在https://github.com/DeepLearnXMU/Robust-knn-mt上获得。
2022-10-17 cs.CL
Distinguishing Translations by Human, NMT, and ChatGPT: A Linguistic and Statistical Approach
School of Foreign Languages, Shanghai Jiao Tong University（上海交通大学外国语学院）；Department of Computer Science and Engineering, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系）；Institute of Corpus Studies and Applications, Shanghai International Studies University（上海外国语大学语料库研究与应用研究院）
本研究采用统计检验、机器学习和多维分析方法，分析了ChatGPT、NMT与人类翻译的语言特征与相似度，发现监督分类器能高效区分三者，且ChatGPT译文与NMT更为相似。
2024-10-12 cs.CL
Speed-Constrained Tuning for Statistical Machine Translation Using Bayesian Optimization
University of Sheffield（谢菲尔德大学）；SDL Research（SDL研究院）
我们解决的问题，自动找到的统计机器翻译系统，最大化BLEU分数，同时确保解码速度超过最小值的参数。我们建议使用贝叶斯优化，以有效地调整速度相关的解码参数，很容易将速度作为一个嘈杂的约束函数。所获得的参数值保证满足具有相关联的置信度的速度约束。在三种语言对和两个速度约束值，我们报告整体优化时间减少相比，网格和随机搜索。我们还表明，贝叶斯优化可以解耦速度和BLEU测量，从而进一步减少整体优化时间，因为速度是在一小部分句子上测量的。
2016-04-18 cs.CL
Robust Tuning Datasets for Statistical Machine Translation
Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）
我们探讨了自动制作用于统计机器翻译（SMT）的调优数据集的想法，该调优数据集使得SMT系统的超参数相对于参数调优算法的一些特定缺陷更加鲁棒。这是一个未充分探索的研究方向，可以更好地进行参数调整。在本文中，我们通过选择可用的句子对的子集来实现这一目标，这些句子对更适合于优化器，目标函数和评估措施的特定组合。我们展示了潜在的想法与成对排名优化（PRO）优化器，这是已知的产生太短的翻译。我们表明，学习问题可以减轻调整的发展集的子集，根据句子长度选择。特别是，使用最长的50%的调优语句，我们实现了两倍的调优加速，并改善了BLEU分数，与替代方案相媲美，而替代方案则修复了BLEU+1的平滑。
2017-10-01 cs.CL
Machine Translation at Booking.com: Journey and Lessons Learned
我们描述了我们最近开发的神经机器翻译（NMT）系统，并将其与我们自己的统计机器翻译（SMT）系统以及其他两个通用在线引擎（统计和神经）进行基准测试。我们提出了每个系统提供的翻译输出的自动和人工评估结果。我们还分析了句子长度对SMT和NMT系统输出质量的影响。
2017-07-25 cs.CL
Egyptian Arabic to English Statistical Machine Translation System for NIST OpenMT'2015
Qatar Computing Research Institute（卡塔尔计算研究所）；Columbia University（哥伦比亚大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）
本文描述了QCRI-Columbia-NYUAD（QCN）小组提交给NIST OpenMT'2015竞赛的埃及阿拉伯语到英语统计机器翻译（SMT）系统。比赛的重点是非正式的阿拉伯方言，如短信，聊天和演讲中使用的。因此，我们的工作重点是处理和标准化阿拉伯语，例如，使用3arrib和MADAMIRA等工具。我们进一步训练了一个基于短语的SMT系统，使用最先进的功能和组件，如操作序列模型，基于类的语言模型，稀疏特征，神经网络联合模型，基于体裁的分层插值语言模型，无监督音译挖掘，短语表合并，和假设组合。我们的系统在所有三个流派中排名第二。
2016-06-18 cs.CL
Evaluating Indirect Strategies for Chinese-Spanish Statistical Machine Translation
Institute for Infocomm Research（信息通信研究所）
尽管汉语和西班牙语是世界上使用最多的两种语言，但对这两种语言的机器翻译研究并不多。统计机器翻译是当今最流行的机器翻译方法之一。为了这个目的，我们报告的细节，可用的平行语料库是基本的旅行者表达语料库（BTEC），圣经和联合国（UN）。此外，我们进行了实验工作，这三个语料库中最大的探索替代SMT策略，通过使用枢轴语言。三种替代方案被认为是枢：级联，伪语料库和三角测量。作为枢纽语言，我们使用英语，阿拉伯语或法语。结果表明，对于一个基于短语的SMT系统，英语是最好的枢纽语言之间的中文和西班牙语。我们提出了一个系统的输出组合使用枢轴策略，这是能够优于直接翻译策略。这项工作的主要目标是激励和参与研究界在这对重要的语言工作，因为它们的人口影响。
2014-02-04 cs.CL
Coordinate System Selection for Minimum Error Rate Training in Statistical Machine Translation
最小出错率训练（MERT）是统计机器翻译中广泛使用的训练过程。该方法的一个普遍问题是搜索空间容易收敛于局部最优，且所得权值集不符合特征函数的真实分布。本文将坐标系选择引入到MERT的搜索算法中。与以前的方法不同，在以前的方法中，每个维度只对应于一个独立的特征函数，我们通过将其中一个维度移动到一个新的方向来创建多个坐标系。MERT的基本思想很简单，但很关键，即MERT的训练过程应该基于由搜索方向形成的坐标系，而不是直接基于特征函数。实验表明，通过调整集合结果选择坐标系，可以在没有任何其他语言知识的情况下获得更好的结果。
2014-05-10 cs.CL
Phrase Based Language Model for Statistical Machine Translation: Empirical Study
重排序是机器翻译系统面临的一个挑战。在机器翻译中，广泛使用的方法是应用基于词的语言模型（LM），它将句子的组成单位视为词。在语音识别（SR）中，已经提出了一些基于短语的LM。然而，这些LM不一定适合于重新排序或对于重新排序是最佳的。我们提出了两个短语为基础的LM认为一个句子的组成单位作为短语。实验表明，我们的短语为基础的LM优于基于词的LM方面的困惑和n-best列表重新排名。
2015-02-18 cs.CL
Connecting Phrase based Statistical Machine Translation Adaptation
Shanghai Jiao Tong University（上海交通大学）；National Institute of Information and Communications Technology（信息通信研究机构）
虽然统计机器翻译（SMT）可以使用更多的附加语料，但只有那些与原始语料属于相同或相似领域的语料才能直接提高SMT的性能。现有的改编方法大多集中在句子选择上。相比之下，短语是一个更小，更细粒度的数据选择单元，因此，我们提出了一个简单而有效的连接短语的适应方法，这是适用于双语短语对和单语n-gram适应。在IWELT/NIST数据集上对该方法进行了测试，结果表明，基于短语的SMT性能得到了显著提高（与基于短语的SMT基线系统相比提高了+1.6，与现有方法相比提高了+0.9）.
2016-07-29 cs.CL
Machine Translation in Indian Languages: Challenges and Resolution
英语到印度语的机器翻译提出了结构和形态差异的挑战。本文描述了使用预排序和后缀分离的英语到印度语的统计机器翻译。预排序使用规则在训练和翻译之前转换源句子的结构。这种句法重构有助于统计机器翻译解决结构分歧，从而提高翻译质量。后缀分离是用来解决英语和高粘着印度语言之间的形态分歧。我们证明，使用前序和后缀分离有助于提高英语到印度语机器翻译的质量。
2018-08-01 cs.CL
Joint Space Neural Probabilistic Language Model for Statistical Machine Translation
Dublin City University（都柏林城市大学）
神经概率语言模型（NPLM）提供了一种实现比n-gram语言模型及其平滑语言模型更好的复杂度的思想。本文研究了双语自然语言处理的应用领域，特别是统计机器翻译（SMT）。我们关注的角度，NPLM有可能打开的可能性，以补充潜在的“巨大的”单语资源到“资源约束”的双语资源。我们引入了一个ngram-HMM语言模型NPLM使用非参数贝叶斯结构。为了便于应用到各种任务中，我们提出了ngram的联合空间模型-HMM语言模型。我们展示了一个SMT领域的系统组合实验。一个发现是，如果NPLM在相对较小的语料库中训练，我们对噪声的处理将结果提高了0.20个BLEU点，在我们的情况下，500，000个句子对，这通常是由于NPLM的训练时间很长。
2017-04-21 cs.CL
Assamese-English Bilingual Machine Translation
Gauhati University（高哈蒂大学）
机器翻译是将文本从一种语言翻译成另一种语言的过程。本文利用阿萨姆语和英语的平行语料库，对阿萨姆语和英语进行了统计机器翻译。这里使用了一个基于统计短语的翻译工具包Moses。为了开发语言模型和对齐单词，我们分别使用了另外两个工具IRSTLM和GIZA。BLEU评分用于检查我们的翻译系统性能，它有多好。在BLEU分数的差异，而获得翻译句子从阿萨姆语到英语，反之亦然。由于印度语言在形态上非常丰富，因此从英语到阿萨姆语的翻译相对较难，导致BLEU分数较低。我们的翻译系统还引入了一个统计音译系统，基本上处理专有名词，OOV（词汇表外）的话，这是不存在于我们的语料库。
2014-07-08 cs.CL
Statistical Machine Translation for Indic Languages
Indian Institute of Technology (IIT)（印度理工学院（IIT））
本文研究了使用统计机器翻译技术将英语翻译成十五种低资源印度语言及其反向翻译，并通过预处理和SMT工具包提升翻译质量。
2023-01-02 cs.CL
