Uncertainty Quantification for Evaluating Machine Translation Bias
University of Cambridge（剑桥大学）
提出用语义不确定性量化机器翻译性别偏见，可同时评估歧义和无歧义句子，并揭示准确率与不确定性表现及去偏倚效果的差异。
2025-10-21 cs.CL
Analyzing Uncertainty in Neural Machine Translation
Facebook AI Research（脸书人工智能研究院）
机器翻译是研究神经序列到序列模型的流行测试平台，但尽管最近有很多研究，但仍然缺乏对这些模型的理解。从业者报告说，大波束的性能下降，对罕见单词的估计不足，以及最终翻译缺乏多样性。我们的研究涉及到这些问题的任务的固有的不确定性，由于存在多个有效的翻译为一个单一的源语句，和噪声训练数据所造成的外在的不确定性。我们提出了工具和指标来评估模型分布如何捕获数据中的不确定性，以及它如何影响生成翻译的搜索策略。我们的研究结果表明，搜索效果非常好，但模型往往会在假设空间中传播太多的概率质量。接下来，我们提出了评估模型校准的工具，并展示了如何轻松修复当前模型的一些缺点。作为这项研究的一部分，我们为两个流行的基准测试发布了多个人类参考翻译。
2018-08-13 cs.CL
Exploring Representational Disparities Between Multilingual and Bilingual Translation Models
Center for Language and Speech Processing（语言与语音处理中心）；Human Language Technology Center of Excellence（卓越人类语言技术中心）
本文通过内在维度和IsoScore分析双语与多语言翻译模型的表征几何差异，发现多语言解码器表征各向同性更低且占用维度更少，其各向异性源于建模特定语言信息，进而限制了表征容量。
2024-03-26 cs.CL
Exploring Document-Level Literary Machine Translation with Parallel Paragraphs from World Literature
Manning College of Information and Computer Sciences, UMass Amherst（马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院）；Google Research（谷歌研究院）
文学翻译是一项具有重要文化意义的工作，但相对于世界上众多的未翻译作品，合格的文学翻译家数量很少。机器翻译（MT）通过改进培训程序和整体效率，具有补充人工翻译工作的潜力。文学翻译比传统的机器翻译环境受到的限制更少，因为译者必须在目标语言的意义对等、可读性和可解释性之间取得平衡。这一特性，以及文学文本中复杂的话语级上下文，也使得文学机器翻译在计算建模和评估方面更具挑战性。为了探索这一任务，我们收集了一个数据集（第3部分）的非英语小说在公共领域，每一个对齐的段落水平，以人类和自动英语翻译。使用Par3，我们发现专家文学翻译更喜欢参考人类翻译而不是机器翻译段落，比例为84%，而最先进的自动MT指标与这些偏好无关。专家们指出，机器翻译的产出不仅包含误译，而且还包含扰乱话语的错误和文体不一致。为了解决这些问题，我们训练一个后期编辑模型，其输出比正常MT输出更受专家青睐，比率为69%。我们在https://github.com/katherinethai/par3/上公开发布Par3，以刺激未来对文学MT的研究。
2022-10-25 cs.CL
Exploring Pair-Wise NMT for Indian Languages
IIIT-H（海得拉巴国际信息技术学院）；University of Bath（巴斯大学）
在本文中，我们解决的任务，提高对明智的机器翻译特定的低资源印度语言。多语言NMT模型在资源贫乏的语言上表现出了合理的有效性。在这项工作中，我们表明，这些模型的性能可以显着提高后，通过过滤回译过程和随后的微调有限的成对语言语料库使用回译。本文的分析表明，这种方法可以显着提高多语言模型的基线性能，为各种印度语言产生最先进的结果。
2020-12-10 cs.CL
Exploring Paracrawl for Document-level Neural Machine Translation
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Saarland University（萨尔大学）；Hasso-Plattner-Institut (HPI)（哈索·普拉特纳研究所）
本文针对文档级 NMT 缺乏大规模通用领域训练数据的问题，利用自动句子对齐从 Paracrawl 平行网页提取平行段落并训练模型，在 TED、News 和 Europarl 上取得优于句子级模型的效果。
2023-04-20 cs.CL
Incorporating Syntactic Uncertainty in Neural Machine Translation with Forest-to-Sequence Model
Monash University（蒙纳士大学）
在神经机器翻译模型中解释句法信息是一种补偿其对大量并行训练文本的需求的方法，特别是对于低资源语言对。以前的工作使用（不可避免地容易出错）解析器提供的语法信息一直很有前途。在本文中，我们提出了一个森林到序列的注意力神经机器翻译模型，利用指数级的源句子的分析树来补偿分析错误。我们的方法将解析树的集合表示为一个打包的森林，并学习从森林到目标句子的神经注意力转导模型。在英语到德语、汉语和波斯语的翻译实验中，我们的方法比树到序列和香草序列到序列神经翻译模型的优越性。
2017-11-24 cs.CL
Uncertainty-Aware Semantic Augmentation for Neural Machine Translation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Machine Intelligence Technology Lab, Alibaba Group（阿里巴巴集团机器智能技术实验室）
神经机器翻译（NMT）作为一种序列到序列生成任务，自然包含内在的不确定性，其中一种语言中的单个句子在另一种语言中具有多个有效的对应物。然而，NMT的主流方法仅从平行语料库中观察其中一个用于模型训练，而在推理时必须处理相同意义下的足够变化。这导致训练和推理阶段之间的数据分布的差异。为了解决这个问题，我们提出了不确定性感知的语义增强，它明确地捕捉多个语义等价的源句子之间的通用语义信息，并增强隐藏的表示与此信息更好的翻译。对各种翻译任务的大量实验表明，我们的方法显着优于强基线和现有的方法。
2020-10-09 cs.CL
Exploring the Use of Attention within an Neural Machine Translation Decoder States to Translate Idioms
Applied Intelligence Research Centre（应用智能研究中心）；School of Computing（计算学院）；Dublin Institute of Technology（都柏林理工学院）
习语给几乎所有的机器翻译系统都带来了问题。这类语言在日常语言使用中非常频繁，不能简单地忽略。最近的兴趣在语言建模领域的内存增强模型，帮助系统实现良好的效果，通过桥接长距离的依赖关系。在本文中，我们探讨了使用这些技术到神经机器翻译系统，以帮助翻译的惯用语言。
2018-10-10 cs.CL cs.LG stat.ML
Exploring the Impact of Layer Normalization for Zero-shot Neural Machine Translation
Kyoto University（京都大学）；NICT（日本信息通信研究机构）；NII（日本国立信息学研究所）
本文研究了层归一化对零样本翻译的影响，发现残差连接后归一化（PostNorm）在54个翻译方向上显著优于默认的PreNorm，最高提升12.3 BLEU，强调了ZST中需谨慎选择LayerNorm设置。
2023-05-16 cs.CL
Exploring Unsupervised Pretraining Objectives for Machine Translation
University of Edinburgh（爱丁堡大学）；Institute for Language, Cognition and Computation（语言、认知与计算研究所）
无监督跨语言预训练在神经机器翻译（NMT）中取得了很好的效果，大大减少了对大型并行数据的需求。大多数方法通过掩蔽部分输入并在解码器中重构它们，使掩蔽语言建模（MLM）适应序列到序列架构。在这项工作中，我们系统地比较掩蔽与替代目标，产生类似于真实（完整）句子的输入，根据上下文重新排序和替换单词。我们用不同的方法对英语$\leftrightarrow$德语，英语$\leftrightarrow$尼泊尔语和英语$\leftrightarrow$僧伽罗语单语数据进行预训练模型，并在NMT上对其进行评估。在（半）监督NMT中，改变预训练目标会导致微调性能的微小差异，而无监督NMT对此更加敏感。为了理解这些结果，我们使用一系列探针彻底研究了预训练模型，并验证它们以不同的方式编码和使用信息。我们的结论是，对并行数据进行微调对大多数模型共享的一些属性（例如强大的解码器）非常敏感，而非无监督NMT也需要具有强大跨语言能力的模型。
2021-06-10 cs.CL
Exploring Supervised and Unsupervised Rewards in Machine Translation
Imperial College London（帝国理工学院）；University of Sheffield（谢菲尔德大学）；Dublin City University（都柏林城市大学）
强化学习（RL）是一个强大的框架，可以解决训练期间使用的损失函数与测试时使用的最终评估指标之间的差异。当应用于神经机器翻译（MT）时，它最大限度地减少了交叉熵损失和BLEU等不可微评估指标之间的不匹配。然而，这些指标在训练时作为奖励函数的适用性是值得怀疑的：它们往往是稀疏的，并且偏向于参考文本中使用的特定单词。我们建议通过两种方式使模型不那么依赖这些指标来解决这个问题：（a）使用熵正则化的RL方法，不仅可以最大化奖励函数，还可以探索动作空间以避免峰值分布;（b）使用一种新的RL方法，探索动态无监督奖励函数以平衡探索和利用。我们的建议基于软演员-评论家（SAC）框架，适应离线政策最大熵模型的语言生成应用程序，如MT。我们证明，SAC与BLEU奖励往往过拟合较少的训练数据，并表现出更好的域外数据。我们还表明，我们的动态无监督奖励可以更好地翻译歧义词。
2021-02-22 cs.CL
Disentangling Uncertainty in Machine Translation Evaluation
Instituto de Telecomunicações（电信研究所）；Unbabel；INESC-ID（里斯本系统与计算机工程研究所）；Instituto Superior Técnico（高等技术学院）；LUMLIS (Lisbon ELLIS Unit)（LUMLIS（里斯本ELLIS单元））
机器翻译（MT）的可训练评估指标与人类判断具有很强的相关性，但它们通常很难解释，并且可能在噪声或域外数据下产生不可靠的分数。最近的工作试图用简单的不确定性量化技术（蒙特卡洛丢弃和深度集成）来减轻这一点，但是这些技术（如我们所示）在几个方面受到限制-例如，它们无法区分不同类型的不确定性，并且它们消耗时间和内存。在本文中，我们提出了更强大，更有效的不确定性预测MT评估，我们评估他们的能力，针对不同来源的任意和认识的不确定性。为此，我们开发和比较COMET度量的训练目标，以增强其不确定性预测输出，包括异方差回归，发散最小化和直接不确定性预测。我们的实验表明，WMT指标任务数据集的不确定性预测结果得到了改善，计算成本大幅降低。此外，他们证明了这些预测的能力，以解决特定的不确定性原因在MT评价，如低质量的参考和域外数据。
2022-11-30 cs.CL
Exploring Intrinsic Language-specific Subspaces in Fine-tuning Multilingual Neural Machine Translation
Nara Institute of Science and Technology（奈良科学技术研究所）
本文提出语言特定 LoRA、架构学习与渐进剪枝，以隔离并探索多语言 NMT 微调中的最小语言子空间，在 FLORES-101 上提升 spBLEU 并大幅减少可训练参数。
2024-09-08 cs.CL
Uncertainty-Aware Balancing for Multilingual and Multi-Domain Neural Machine Translation Training
Monash University（莫纳什大学）；Huawei Technologies Co Ltd（华为技术有限公司）
多语言多领域翻译模型的学习是一个挑战，因为异构和不平衡的数据使得模型在现实世界中的不同语料库上收敛不一致。一种常见的做法是调整训练中每个语料库的份额，以便学习过程平衡，低资源案例可以从高资源案例中受益。然而，自动平衡方法通常取决于数据集内和数据集间的特征，这通常是不可知的或需要人为先验。在这项工作中，我们提出了一种方法，MultiUAT，动态调整训练数据的使用模型的不确定性的基础上的一小部分可信的清洁数据的多语料库机器翻译。我们用两类不确定性度量对多语言（16种语言，4种设置）和多域设置（4种用于域内，2种用于英德翻译的域外）进行了实验，并证明了我们的方法MultiUAT大大优于其基线，包括静态和动态策略。我们分析了跨域传输，并显示静态和基于相似性的方法的不足。
2021-09-06 cs.CL
Exploring Gap Filling as a Cheaper Alternative to Reading Comprehension Questionnaires when Evaluating Machine Translation for Gisting
Universitat d’Alacant（阿利坎特大学）；Univ. of Sheffield（谢菲尔德大学）；Univ. Edinburgh（爱丁堡大学）
机器翻译（MT）的一个流行应用是编译：MT被用来理解外语文本。对机器翻译的有用性进行评估是令人惊讶的罕见。经典的方法是使用阅读理解问卷（RCQ），其中要求被调查者回答用他们的语言写的关于机器翻译成他们语言的外国文本的专业问题。最近，填空（gap-filling，GF），完形填空的一种形式，被认为是RCQ的一种廉价的替代方法。在GF中，某些单词被从参考翻译中删除，读者被要求使用机器翻译的文本作为提示来填补留下的空白。本文首次使用RCQ和GF对同一篇外语文本的多个机器翻译系统的译文进行了对比评估，并系统地研究了GF中的空缺密度、空缺选择策略和文本语境等变量的影响。该研究的主要发现是：（a）RCQ和GF都明确指出机器翻译是有用的，（b）机器翻译系统的全球RCQ和GF排名基本一致，（c）GF得分在不同的受访者之间差异很大，很难在机器翻译系统之间进行比较，（d）与RCQ不同，RCQ是围绕文件进行的，GF评估可以在句子层面进行。这些发现支持使用GF作为RCQ的更便宜的替代品。
2018-09-02 cs.CL
Exploring Linguistic Similarity and Zero-Shot Learning for Multilingual Translation of Dravidian Languages
PES University（PES大学）
本文利用音译和语言相似性构建单编码器-解码器模型，在达罗毗荼语系多语言翻译中实现零样本翻译，并在50%语言方向上训练时达到与大规模枢轴模型相差3 BLEU以内的性能。
2023-08-10 cs.CL cs.CV
Exploring Text-to-Text Transformers for English to Hinglish Machine Translation with Synthetic Code-Mixing
The University of British Columbia（不列颠哥伦比亚大学）
我们描述的模型集中在未充分研究的问题之间的翻译单语和代码混合语言对。更具体地说，我们提供了广泛的模型，将单语英语文本转换为印度式英语（代码混合印地语和英语）。鉴于预训练语言模型最近的成功，我们还测试了两个最近的基于transformer的编码器-解码器模型（即，mT5和mBART）的任务，发现两者都工作得很好。由于缺乏训练数据的代码混合，我们还提出了一个独立的方法，从双语分布式表示，我们利用提高语言模型的性能产生代码混合的文本。特别是，有了这些额外的数据，我们采用了一种课程学习方法，首先在合成数据上微调语言模型，然后在金码混合数据上微调。我们发现，虽然简单，我们的合成代码混合的方法是有竞争力的（在某些情况下，甚至优于）几个标准的方法（回译，方法的基础上等价约束理论）在不同的条件下。我们的工作表明，mT5模型，微调后的课程学习程序，实现最佳的翻译性能（12.67 BLEU）。我们的模型在英语-印度式英语官方共享任务的总体排名中排名第一。
2021-05-18 cs.CL
Simul-LLM: A Framework for Exploring High-Quality Simultaneous Translation with Large Language Models
Oregon State University（俄勒冈州立大学）
本文提出Simul-LLM框架，研究将大语言模型应用于同声传译任务，验证经典SimulMT方法并实现开源微调与评估流水线。
2024-07-04 cs.AI cs.CL
Exploring Segmentation Approaches for Neural Machine Translation of Code-Switched Egyptian Arabic-English Text
The German University in Cairo（开罗德国大学）；University of Stuttgart（斯图加特大学）；AWS AI Labs（AWS人工智能实验室）；New York University Abu Dhabi（纽约大学阿布扎比分校）
针对语码转换场景下的机器翻译数据稀疏问题，研究不同分词方法对阿英到英机器翻译的影响，发现分词方案选择高度依赖数据规模，低资源场景下形态与频率分词组合最优。
2023-04-30 cs.CL
Exploring the Potential of Machine Translation for Generating Named Entity Datasets: A Case Study between Persian and English
University of Isfahan（伊斯法罕大学）
本文研究利用机器翻译将英语数据集转换为波斯语命名实体数据集，并通过单语与多语transformer模型评估，验证其在低资源语言NER数据构建、数据增强及鲁棒性提升中的潜力。
2023-02-19 cs.AI cs.CL
Towards the Next 1000 Languages in Multilingual Machine Translation: Exploring the Synergy Between Supervised and Self-Supervised Learning
Google Research（谷歌研究院）
实现所有人类语言对之间的通用翻译是机器翻译（MT）研究的圣杯。虽然最近在大规模多语言机器翻译方面取得的进展离实现这一目标又近了一步，但很明显，简单地通过在更多并行数据上进行训练来扩展多语言机器翻译系统是不可扩展的，因为低资源和非英语为中心的语言对的标记数据的可用性非常有限。为此，我们提出了一种实用的方法来构建一个多语言MT模型，涵盖数百种语言，使用监督和自我监督的目标的混合物，这取决于不同语言对的数据可用性。我们证明了这两种训练范式之间的协同作用使模型能够在零资源环境中产生高质量的翻译，甚至超过了中低资源语言的监督翻译质量。我们进行了大量的实验，以了解多语言监督的程度，域不匹配以及并行和单语数据量对我们的自监督多语言模型质量的影响。为了证明该方法的可扩展性，我们用200多种语言训练模型，并在几种以前研究不足的语言上展示了零资源翻译的高性能。我们希望我们的发现能够成为实现下一千种语言翻译的垫脚石。
2022-01-13 cs.CL cs.LG
Exploring Better Text Image Translation with Multimodal Codebook
Xiamen University（厦门大学）；Xiaomi AI Lab（小米人工智能实验室）；Dalian University of Technology（大连理工大学）
针对文本图像翻译缺乏公开数据集且级联模型易受OCR误差传播影响的问题，本文构建OCRMT30K数据集，并提出多模态码本模型与多阶段训练框架，实验验证了其有效性。
2023-06-02 cs.AI cs.CL
Exploring In-Image Machine Translation with Real-World Background
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）；School of Computer Science and Engineering, Beihang University（北航计算机科学与工程学院）
针对现有图像内机器翻译研究多基于简化场景、实用性不足的问题，构建真实背景字幕IIMT数据集，提出DebackX模型分离背景与文本翻译后融合，提升了翻译质量与视觉效果。
2025-05-21 cs.CL cs.CV
Beyond Glass-Box Features: Uncertainty Quantification Enhanced Quality Estimation for Neural Machine Translation
Alibaba Group（阿里巴巴集团）；College of Computer Science, Zhejiang University（浙江大学计算机科学与技术学院）
质量评估在机器翻译的应用中起着至关重要的作用。传统上，QE系统接受来自黑盒MT系统的原始源文本和翻译作为输入。近年来，有研究表明，量化引擎作为翻译的副产品，得益于翻译源机器翻译系统的模型和训练数据信息，被称为“玻璃盒子量化引擎”。本文将“玻璃盒QE”的定义推广到一般的不确定性量化，并设计了“黑箱”和“玻璃盒”两种方法，为改进QE的性能进行了新的尝试。我们提出了一个框架，融合不确定性量化的特征工程到一个预先训练的跨语言语言模型，以预测翻译质量。实验结果表明，该方法在WMT 2020 QE共享任务数据集上取得了较好的性能.
2021-09-15 cs.AI cs.CL
Uncertainty-Aware Machine Translation Evaluation
Instituto de Telecomunicações（电信研究所）；Unbabel（Unbabel公司）；INESC-ID（葡萄牙系统与计算机工程研究所（里斯本分部））；Instituto Superior Técnico（高等技术学院）；LUMLIS (Lisbon ELLIS Unit)（里斯本ELLIS单元LUMLIS）
最近提出了几种基于神经的度量来评估机器翻译质量。然而，所有这些方法都采用点估计，这在分部一级提供的信息有限。更糟糕的是，它们是在嘈杂、有偏见和缺乏人类判断的情况下训练的，往往导致不可靠的质量预测。在本文中，我们介绍了不确定性感知MT评估和分析的可信度的预测质量。我们将COMET框架与两种不确定性估计方法（Monte Carlo dropout和deep ensembles）相结合，以获得质量分数和置信区间。我们比较了QT21数据集和WMT20指标任务中多个语言对的不确定性感知MT评估方法的性能，并使用MQM注释进行了增强。我们实验不同数量的参考文献，并进一步讨论了有用的不确定性意识的质量估计（没有参考文献），标志可能是关键的翻译错误。
2022-03-24 cs.CL cs.LG
Understanding and Mitigating the Uncertainty in Zero-Shot Translation
本文从不确定性角度分析零样本翻译中的偏离目标问题，识别外在数据不确定性和内在模型不确定性，并提出数据去噪与非似然训练两种互补方法，显著提升零样本翻译性能。
2024-10-19 cs.AI cs.CL cs.LG
Exploring the Impact of Training Data Distribution and Subword Tokenization on Gender Bias in Machine Translation
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Charles University in Prague（布拉格查理大学）
本研究探究子词分词与训练数据性别形式不平衡对机器翻译性别偏见的影响，发现后者是主因，子词拆分可用于估计语料性别不平衡，且仅微调分词嵌入层就能在不影响翻译质量的情况下缩小性别预测准确率差距。
2023-09-30 cs.AI cs.CL
Exploring Benefits of Transfer Learning in Neural Machine Translation
Institute of Formal and Applied Linguistics（形式与应用语言学研究所）
众所周知，神经机器翻译需要大量的并行训练句子，这通常会阻止它在低资源语言对上表现出色。本论文探讨在神经网络上使用跨语言迁移学习作为解决资源缺乏问题的一种方法。我们提出了几种迁移学习方法来重用在高资源语言对上预训练的模型。我们特别注意技术的简单性。我们研究两种情况：（a）当我们重用高资源模型而不对其训练过程进行任何事先修改时，以及（b）当我们可以提前为迁移学习准备第一阶段高资源模型时。对于前一种情况，我们提出了一种概念验证方法，通过重用其他研究人员训练的模型。在后一种情况下，我们提出了一种方法，达到更大的提高翻译性能。除了提出的技术，我们专注于深入分析迁移学习技术，并试图阐明迁移学习的改进。我们展示了我们的技术如何解决低资源语言的特定问题，即使在高资源迁移学习中也是合适的。我们通过研究各种情况下的迁移学习来评估潜在的缺点和行为，例如，在人为损坏的训练语料库下，或者固定的各种模型部分。
2020-01-06 cs.CL cs.NE
Words as Bridges: Exploring Computational Support for Cross-Disciplinary Translation Work
University of Maryland（马里兰大学）
针对跨学科文献探索受领域行话阻碍的问题，提出保留行话作为概念桥梁的思路，调整无监督词嵌入跨语言对齐技术实现领域概念对齐，开发原型搜索引擎并通过案例研究验证，给出相关设计启示。
2025-03-24 cs.AI cs.CL cs.HC
Cross-lingual Supervision Improves Unsupervised Neural Machine Translation
ByteDance AI Lab（字节跳动人工智能实验室）；Shanghai Jiao Tong University（上海交通大学）
神经机器翻译~（NMT）对于零资源语言是无效的。最近的工作探索无监督神经机器翻译（UNMT）的可能性，只有单语数据可以取得可喜的成果。然而，联合国监测组与实行平行监督的国家监测组之间仍存在很大差距。在这项工作中，我们引入了一个多语言无监督NMT（\method）框架，利用弱监督信号从高资源的语言对零资源的翻译方向。更具体地说，对于无监督语言对\texttt{En-De}，我们可以充分利用来自并行数据集\texttt{En-Fr}的信息，在一个模型中联合训练无监督翻译方向。\method基于多语言模型，无需对标准无监督NMT进行更改。实验结果表明，\method显着提高了翻译质量超过3 BLEU分数在六个基准无监督翻译方向。
2021-04-01 cs.CL
Conformalizing Machine Translation Evaluation
Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico（高等技术学院）；Unbabel（Unbabel公司）
针对现有机器翻译评估的不确定性估计方法常低估不确定性、置信区间覆盖性差的问题，提出用共形预测校正区间并优化子组均衡覆盖，提升评估可靠性。
2023-06-09 cs.CL
A Lost Croatian Cybernetic Machine Translation Program
University of Zagreb（萨格勒布大学）；University Department of Croatian Studies（克罗地亚研究大学系）；Algebra University College（阿尔杰布拉大学学院）
我们正在探讨克罗地亚语言学家Bulcsu Laszlo在机器翻译领域进行的研究的历史意义，他是20世纪50年代南斯拉夫机器翻译的先驱。我们专注于他的研究小组的成员从1959年和1962年写的两个重要的开创性论文，以及他们的遗产在建立一个克罗地亚机器翻译计划的基础上，在20世纪50年代末和60年代初的萨格勒布大学人文和社会科学学院。我们正在探索他们的工作与美国和苏联机器翻译的开始有关，其动机是冷战和该时期的情报需求。我们还介绍了南斯拉夫的克罗地亚小组所倡导的机器翻译方法，这与当时通常的逻辑方法不同，以及他对控制论方法的倡导，这将在几十年后被主流人工智能社区采纳为经典。
2019-08-20 cs.CL cs.CY
Exploiting Multimodal Reinforcement Learning for Simultaneous Machine Translation
Imperial College London（伦敦帝国学院）；University of Sheffield（谢菲尔德大学）；Dublin City University（都柏林城市大学）
本文通过探讨两个主要概念来解决同步机器翻译（SiMT）的问题：（a）自适应策略，以学习高翻译质量和低延迟之间的良好权衡;（b）视觉信息，通过提供额外的（视觉）上下文信息来支持这一过程，这些信息可能在文本输入产生之前就可用。为此，我们提出了一个多模态的方法，同时机器翻译使用强化学习，与策略，以整合视觉和文本信息的代理和环境。我们提供了不同类型的视觉信息和集成策略如何影响同声翻译模型的质量和延迟的探索，并证明视觉线索导致更高的质量，同时保持低延迟。
2021-02-22 cs.CL
ChatGPT as a Translation Engine: A Case Study on Japanese-English
Yaraku, Inc.（yaraku公司）；The University of Tokyo（东京大学）；Rikkyo University（立命馆大学）
本研究通过自动和人工评估，比较了 ChatGPT 在日英翻译中不同提示词和翻译粒度下的表现，发现文档级翻译优于句子级，且 ChatGPT 与商用系统竞争力相当。
2025-10-09 cs.CL
To Label or Not to Label: Hybrid Active Learning for Neural Machine Translation
Lahore University of Management Sciences（拉合尔管理科学大学）
本文提出混合不确定性与多样性采样（HUDS）策略，用于NMT领域适应，通过结合不确定性和多样性选择句子，显著降低了标注成本并提升了翻译性能。
2024-12-18 cs.CL cs.LG
RMBR: A Regularized Minimum Bayes Risk Reranking Framework for Machine Translation
Sichuan University（四川大学）；University of Macau（澳门大学）
束搜索是神经机器翻译（NMT）中使用最广泛的解码方法。在实践中，在n个候选中具有最高对数概率的前1个候选被选择为优选的一个。然而，该前1候选可能不是n最佳列表中的最佳整体翻译。最近，有人提出了最小贝叶斯风险（MBR）解码来提高NMT的质量，NMT寻求平均最接近n最佳列表中其他候选的共识翻译。我们认为MBR仍然存在以下问题：效用函数只考虑候选者之间的词汇级相似性;期望效用考虑整个n-最佳列表，这是耗时的，尾列表中的候选者不足可能会损害性能;只考虑候选者之间的关系。为了解决这些问题，我们设计了一个正则化的MBR重排序框架（RMBR），它考虑基于语义的相似性，并通过截断列表来计算每个候选人的预期效用。我们期望所提出的框架进一步考虑每个候选者的翻译质量和模型不确定性。因此，建议的质量正则化和不确定性正则化纳入框架。在多个翻译任务上的大量实验证明了该方法的有效性。
2022-03-01 cs.CL
Noisy UGC Translation at the Character Level: Revisiting Open-Vocabulary Capabilities and Robustness of Char-Based Models
CNRS（法国国家科学研究中心）；LISN（计算机科学实验室）；Université Paris-Saclay（巴黎萨克雷大学）；Inria Paris（法国国家信息与自动化研究所巴黎中心）；Université de Paris（巴黎大学）；LLF（形式语言学实验室）
这项工作探讨了基于字符的神经机器翻译翻译嘈杂的用户生成内容（UGC）的能力，重点是探索这种方法在处理富有成效的UGC现象方面的局限性，根据定义，这种现象在训练时几乎看不到。在严格的zero-shot场景中，我们首先研究了我们开发的小型注释数据集上各种用户生成内容现象对翻译性能的不利影响，然后表明这种模型确实无法处理未知字母，一旦遇到此类字符，就会导致灾难性的翻译失败。我们通过一个简单但有见地的复制任务实验进一步证实了这一行为，并强调了减少词汇量超参数以提高机器翻译基于字符模型的鲁棒性的重要性。
2021-10-24 cs.CL
Phrase Pair Mappings for Hindi-English Statistical Machine Translation
Indian Institute of Technology (IIT) Bombay（印度理工学院孟买分校）
在本文中，我们提出了我们的工作，创造词汇资源的机器翻译之间的英语和印地语。我们描述了短语对映射的发展，我们的实验和不同的训练模型之间的比较性能评估的基础上的统计机器翻译系统。我们致力于通过探索不同的方法来增加平行语料库中的词汇量以及各种屈折形式。我们使用各种词汇资源（例如词汇词、同义词、虚词和动词短语）扩展了训练语料库。我们已经描述了案例研究，自动和主观评价，详细的错误分析的英语到印地语和印地语到英语的机器翻译系统。进一步分析表明，随着各种词汇资源的使用，机器翻译的质量也在不断提高。因此，词汇资源确实有助于提高资源贫乏语言的翻译质量。
2017-11-10 cs.CL
Self-Training Sampling with Monolingual Data Uncertainty for Neural Machine Translation
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯人工智能实验室）
通过用合成并行数据增强模型训练，自训练已被证明对提高NMT性能是有效的。通常的做法是构建合成数据的基础上随机抽样的大规模单语数据的子集，我们的经验表明是次优的。在这项工作中，我们建议通过选择信息量最大的单语句子来补充并行数据来改进抽样过程。为此，我们使用从并行数据中提取的双语词典来计算单语句子的不确定性。直觉，单语句子与较低的不确定性通常对应于易于翻译的模式，可能不会提供额外的收益。因此，我们设计了一个基于不确定性的采样策略，有效地利用单语数据进行自我训练，其中具有较高不确定性的单语句子将以较高的概率进行采样。在大规模WMT英文$\Rightarrow$德文和英文$\Rightarrow$中文数据集上的实验结果表明了该方法的有效性。大量的分析表明，我们的方法强调学习不确定单语句子确实提高了高不确定性句子的翻译质量，也有利于预测的低频词在目标端。
2021-06-02 cs.CL cs.IT math.IT
Songs Across Borders: Singable and Controllable Neural Lyric Translation
National University of Singapore（新加坡国立大学）
本文将歌词翻译形式化为约束翻译问题，结合翻译学理论与提示驱动NMT方法构建英汉歌词翻译系统，在长度、押韵和词边界指标上均超过95%，整体质量较朴素微调提升75%。
2023-05-26 cs.CL
Hi Guys or Hi Folks? Benchmarking Gender-Neutral Machine Translation with the GeNTE Corpus
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
针对机器翻译易出现性别刻板假设的问题，本研究构建了面向英意性别中立翻译的双语测试集GeNTE，并提出更适配的无参考评估方法，为包容性翻译技术提供基准支撑。
2023-10-08 cs.CL
Wat zei je? Detecting Out-of-Distribution Translations with Variational Transformers
University of Oxford（牛津大学）
我们使用Transformer模型的贝叶斯深度学习等价物检测神经机器翻译中的训练分布外句子。为此，我们开发了一种新的不确定性测量方法，专门用于离散随机变量的长序列，即输出句子中的单词。我们的新措施的不确定性解决了一个主要的棘手问题，在天真的应用现有的方法对长句。我们使用我们的新措施上的Transformer模型训练辍学近似推理。在使用WMT13和Europarl进行德英翻译的任务中，我们证明了在辍学不确定性的情况下，我们的措施能够识别何时使用与德语相同的单词类型的荷兰语源句子，而不是德语。
2020-06-08 cs.CL cs.LG stat.ML
Bayesian Optimisation for Machine Translation
University of Oxford（牛津大学）；DeepMind Technologies（深度思维科技公司）
本文提出了新的贝叶斯优化算法的统计机器翻译系统的最小出错率训练。我们探索两类算法，有效地探索翻译空间，第一个基于N-最好的列表和第二个基于超图表示，companion代表指数数量的翻译选项。我们的算法表现出更快的收敛速度，并能够获得较低的出错率比现有的翻译模型的具体方法，所有在一个通用的贝叶斯优化框架。此外，我们还引入了一个随机嵌入算法来扩展我们的方法到稀疏的高维特征集。
2014-12-22 cs.CL cs.LG
Neural machine translation of clinical procedure codes for medical diagnosis and uncertainty quantification
Texas A&M University（德克萨斯农工大学）；Massachusetts General Hospital（麻省总医院）；Brookhaven National Laboratory（布鲁克海文国家实验室）
本文提出医学熵概念，利用基于ICD-9代码的神经机器翻译量化患者结果不确定性，并验证了操作与诊断序列的相关性及住院期间不确定性趋势建模的可行性。
2024-10-19 cs.AI cs.CL cs.LG
Measuring Uncertainty in Translation Quality Evaluation (TQE)
Logrus Global LLC（Logrus Global有限责任公司）；Tver State University（特维尔国立大学）；ROKO Labs（ROKO实验室）；ADAPT Centre（ADAPT中心）；Dublin City University（都柏林城市大学）
翻译质量评估是翻译研究者和机器翻译研究者共同关注的重要课题。翻译服务提供商（TSP）必须在严格的时间框架和成本内提供大量符合客户规格的翻译，并严格限制所需的质量水平。MT研究人员努力使他们的模型更好，这也需要可靠的质量评估。虽然自动机器翻译评估（MTE）指标和质量评估（QE）工具广泛可用且易于访问，但现有的自动化工具还不够好，专业翻译人员（HAP）的人工评估通常被选为黄金标准\cite{han-etal-2021-TQA}。然而，人的评价常常被指责为可靠性和一致性低。这是主观性造成的，还是统计数据在起作用？如何从成本和效率的角度避免对整个文本进行检查并使TQE更有效，以及翻译文本的最佳样本量是多少，以便可靠地评估整个材料的翻译质量？这项工作进行了这样的动机研究，以正确估计置信区间\cite{Brown_etal2001Interval}取决于翻译文本的样本大小，例如，单词或句子的数量，需要在TQE工作流程步骤中处理，以自信和可靠地评估整体翻译质量。我们应用的方法是从伯努利统计分布模型（BSDM）和蒙特卡罗抽样分析（MCSA）。
2021-11-15 cs.CL cs.NA math.NA
Exploring the Robustness of NMT Systems to Nonsensical Inputs
Indian Statistical Institute（印度统计研究所）
神经机器翻译（NMT）系统已被证明是不可取的翻译时，在源语句中进行了小的变化。在本文中，我们研究的NMT系统的行为时，多个变化的源句。特别地，我们提出了以下问题：“即使源句子中的多个单词被替换，NMT系统是否有可能预测相同的翻译？".为此，我们提出了一种基于软注意力的技术来进行上述单词替换。实验在两种语言对上进行：英语-德语（en-de）和英语-法语（en-fr），以及两种最先进的NMT系统：基于BLSTM的编码器-解码器与注意和Transformer。所提出的基于软注意力的技术实现了高成功率，并优于现有的方法，如HotFlip的一个显着的利润率为所有进行的实验。结果表明，国家的最先进的NMT系统是无法捕捉的源语言的语义。所提出的基于软注意力的技术是对NMT系统的基于不变性的对抗攻击。为了更好地评估这种攻击，我们提出了一个替代指标，并认为它的好处与成功率相比。
2020-02-28 cs.CL cs.CR cs.LG
Phrase-level Active Learning for Neural Machine Translation
Carnegie Mellon University（卡内基梅隆大学）
神经机器翻译（NMT）对域移位敏感。在本文中，我们在一个主动学习环境中解决了这个问题，在这个环境中，我们可以花费给定的预算来翻译域内数据，并在新翻译的数据上逐渐微调预训练的域外NMT模型。现有的用于NMT的主动学习方法通常基于不确定性分数来选择句子，但是这些方法即使在句子中只有一个或两个关键短语是信息的情况下也需要对完整句子进行昂贵的翻译。为了解决这一限制，我们重新审视以前的工作，从基于短语的机器翻译（PBMT）时代，选择不是完整的句子，而是个别短语。然而，虽然将这些短语合并到PBMT系统中相对简单，但对于NMT系统来说就不那么简单了，NMT系统需要在完整序列上进行训练，以捕获新领域特有的句子的更大结构特性。为了克服这些障碍，我们建议从新领域的未标记数据中选择完整的句子和单个短语，以路由到人工翻译。在德英翻译任务中，我们的主动学习方法与基于不确定性的句子选择方法相比实现了一致的改进，在强主动学习基线上提高了高达1.2的BLEU分数。
2021-06-21 cs.AI cs.CL
Exploring Kernel Functions in the Softmax Layer for Contextual Word Classification
RWTH Aachen University（亚琛工业大学）
核函数（kernels）主要用于支持向量机和逻辑回归，它可以隐式地将数据点映射到高维空间，使学习复杂的决策边界变得更容易。在这项工作中，通过替换softmax层中的内积函数，我们探索了使用内核进行上下文单词分类。为了比较各个内核，在标准语言建模和机器翻译任务上进行实验。我们在不同的内核设置中观察到广泛的性能。扩展的结果，我们看看梯度属性，调查各种混合策略，并检查消歧能力。
2019-10-28 cs.CL cs.LG stat.ML
Unsupervised Word-level Quality Estimation for Machine Translation Through the Lens of Annotators (Dis)agreement
CLCG, University of Groningen（格罗宁根大学认知语言学与认知科学研究中心）；ETH Zurich（苏黎世联邦理工学院）
针对机器翻译词级质量估计（WQE）现有技术成本高的问题，本研究提出利用语言模型可解释性与不确定性量化的无监督替代方案，经多标签评估发现其未开发潜力，同时揭示了监督方法在标签不确定性下的不足及单一标注者评估的脆弱性。
2025-05-29 cs.AI cs.CL cs.HC
Exploring the Translation Mechanism of Large Language Models
Institute of Computing and Intelligence（计算与智能研究所）；Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）
本研究提出子空间干预路径修补法，揭示大型语言模型翻译机制，发现稀疏组件子集主导翻译，通过微调提升性能并推广至复杂任务。
2026-01-15 cs.CL
Efficiently Exploring Large Language Models for Document-Level Machine Translation with In-context Learning
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
针对 LLM 文档级翻译的不连贯与示例长度受限问题，提出 CAP 方法，通过多层级上下文选择、摘要生成与相似示例检索提升译文连贯性，并在多类 DOCMT 任务中验证有效性。
2024-06-11 cs.CL
Unsupervised Translation of German--Lower Sorbian: Exploring Training and Novel Transfer Methods on a Low-Resource Language
Center for Language and Cognition（语言与认知中心）；University of Groningen（格罗宁根大学）
本文介绍了格罗宁根大学为WMT 2021无监督机器翻译任务提交的系统背后的方法，该任务针对德语-下索布语（DE-DSB）：一种高资源语言到低资源语言。我们的系统使用了一个Transformer编码器-解码器架构，在这个架构中，我们对标准训练过程做了三个改变。首先，我们的培训集中在两种语言的时间，与丰富的多语言系统的研究。其次，我们介绍了一种新的方法来初始化一个看不见的语言的词汇，实现了3.2 BLEU的DE $\rightarrow$ DSB和4.0 BLEU的DSB $\rightarrow$ DE的改进。最后，我们对离线和在线反向翻译用于训练无监督系统的顺序进行了实验，发现首先使用在线反向翻译对DE $\rightarrow$ DSB的效果更好2.76 BLEU。我们提交的作品在DSB $\rightarrow$ DE排名第一（与另一个团队并列），在DE $\rightarrow$ DSB排名第三。
2021-09-24 cs.CL
Exploring Human-Like Translation Strategy with Large Language Models
Shanghai Jiao Tong University（上海交通大学）；Tsinghua University（清华大学）；Tencent AI Lab（腾讯人工智能实验室）
本文提出MAPS框架，通过让大型语言模型模仿人类翻译过程，先分析源句并提取关键词、主题和相关示例等多角度知识，再结合质量估计进行选择，有效减少幻觉、误译等翻译错误。
2023-11-29 cs.CL
