HanoiT: Enhancing Context-aware Translation via Selective Context
Beihang University（北京航空航天大学）；The University of Hong Kong（香港大学）；Microsoft Research Asia（微软亚洲研究院）
本文提出HanoiT端到端模型，通过逐层软选择机制筛选文档上下文中的噪声词，增强上下文感知神经机器翻译，并在四个基准上显著超越已有模型。
2023-01-17 cs.CL
Enhancing Document-level Translation of Large Language Model via Translation Mixed-instructions
The Key Laboratory of Linguistic and Cultural Computing of Ministry of Education（教育部语言与文化计算重点实验室）；Institute of Artificial Intelligence（人工智能研究所）；Northwest Minzu University（西北民族大学）；Soochow University（苏州大学）
本文提出翻译混合指令方法，结合不同长度的句子级和文档级指令微调大语言模型，使其在多达2048个token的文档上保持稳定翻译性能，并在10个语言对上显著提升文档级翻译质量与语篇连贯性。
2024-01-16 cs.CL
Enhancing Supervised Learning with Contrastive Markings in Neural Machine Translation Training
SAP SE（思爱普）；Heidelberg University（海德堡大学）
本文提出在 NMT 最大似然训练中加入自动提取的对比标记，以区分正确与错误词元，从而增强监督学习并尤其提升译后编辑场景效果。
2023-07-17 cs.CL
BridG MT: Enhancing LLMs' Machine Translation Capabilities with Sentence Bridging and Gradual MT
Seoul National University（首尔国立大学）
提出BridG MT方法，结合句子桥接生成过渡句与渐进式机器翻译，利用前序翻译作为少样本示例，有效提升LLMs低资源语言翻译性能并减少对外部知识的依赖。
2025-06-02 cs.CL
Enhancing Scientific Discourse: Machine Translation for the Scientific Domain
Institute for Speech and Language Processing（语音与语言处理研究所）；Athena RC（雅典研究中心）
本文针对科学领域中由于专业术语和复杂句式带来的翻译挑战，构建了多语种平行和单语语料库，并通过微调通用神经机器翻译系统评估语料库质量。
2026-05-20 cs.CL
Enhancing Large Language Models'Machine Translation via Dynamic Focus Anchoring
针对大型语言模型在机器翻译中处理上下文敏感单元的挑战，提出动态焦点锚定方法，通过结构化融入翻译挑战和语义焦点提升翻译准确性，无需额外训练且在多语言对上表现优异。
2025-05-29 cs.CL
Enhancing Translation for Indigenous Languages: Experiments with Multilingual Models
Instituto Politécnico Nacional（国立理工学院）；University of California, Berkeley（加州大学伯克利分校）；University of Colorado, Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
本文针对美洲土著语言机器翻译，比较 M2M-100、mBART50 及 Helsinki NLP 西英模型在不同迁移学习设置下的表现，发现 mBART 在 11 种语言中的 3 种上超越基线。
2023-05-27 cs.CL
A Data Selection Approach for Enhancing Low Resource Machine Translation Using Cross-Lingual Sentence Representations
SCTR’s Pune Institute of Computer Technology（SCTR浦那计算机技术学院）；Indian Institute of Technology Madras（印度马德拉斯理工学院）；L3Cube Labs（L3Cube实验室）
本文针对英语-马拉地语低资源机器翻译中数据噪声问题，提出基于IndicSBERT跨语言句子表示的数据过滤方法，通过语义等价性评估筛选训练数据，显著提升了翻译质量，并为其他低资源语言翻译任务提供了可借鉴的框架。
2024-09-04 cs.CL cs.LG
Enhancing Human Evaluation in Machine Translation with Comparative Judgment
Manning College of Information and Computer Sciences, UMass Amherst（马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院）；Google（谷歌公司）
本研究将比较判断引入机器翻译人工评估，对比MQM、SxS MQM和SxS RR三种标注设置，发现SxS设置提高标注一致性并突出细微错误，且SxS RR更高效，同时发布三重标注数据集以促进研究。
2025-02-25 cs.CL
Enhancing Neural Machine Translation with Semantic Units
Key Laboratory of Intelligent Information Processing（智能信息处理重点实验室）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出SU4MT方法，通过词对编码识别语义单元边界，并用注意力语义融合层整合子词表示，以增强神经机器翻译，实验证明其优于强基线。
2023-10-17 cs.CL
Enhancing End-to-End Conversational Speech Translation Through Target Language Context Utilization
Johns Hopkins University（约翰斯·霍普金斯大学）；Carnegie Mellon University（卡内基梅隆大学）；George Mason University（乔治梅森大学）
针对端到端语音翻译上下文利用不足的问题，本文引入目标语言上下文、上下文丢弃和说话人信息，提升了会话翻译的连贯性与鲁棒性。
2023-09-27 cs.CL cs.SD eess.AS
CUTE: A Multilingual Dataset for Enhancing Cross-Lingual Knowledge Transfer in Low-Resource Languages
Minzu University of China（中国民族大学）；National Language Resource Monitoring & Research Center Minority Languages Branch（国家语言资源监测与研究中心少数民族语言分中心）
本文构建并开源了包含中、英、维吾尔、藏四语的大规模语料库CUTE，验证了其机器翻译质量，并证明该数据集能有效提升大语言模型对低资源语言的处理能力。
2025-09-21 cs.CL
Speech-to-Text Translation with Phoneme-Augmented CoT: Enhancing Cross-Lingual Transfer in Low-Resource Scenarios
Barcelona Supercomputing CenterSpain（巴塞罗那超级计算中心西班牙）；Universitat Politècnica de CatalunyaSpain（巴塞罗那理工大学西班牙）
本研究提出将音素表示融入思维链框架的语音转文本翻译方法，通过课程学习训练扩展后的多语种大语言模型，提升低资源场景翻译质量并实现零资源翻译，为多语言S2TT普及提供新思路。
2025-05-30 cs.CL cs.SD eess.AS
Understanding Back-Translation at Scale
Facebook AI Research（Facebook人工智能研究院）；Google Brain（谷歌大脑）
利用单语数据改进神经机器翻译的一种有效方法是用目标语言句子的回译来扩充并行训练语料库。本文的工作拓宽了对回译的理解，并探讨了一些生成合成源句的方法。我们发现，在所有，但资源贫乏的设置后，通过采样或噪声光束输出获得的翻译是最有效的。我们的分析表明，采样或噪声合成数据给出了一个更强的训练信号比波束或贪婪搜索产生的数据。我们还比较了合成数据与真正的双文本的比较，并研究了各种域效应。最后，我们扩展到数亿个单语句子，并在WMT'14英语-德语测试集上达到了35 BLEU的新水平。
2018-10-03 cs.CL
Enhancing Document-Level Machine Translation via Filtered Synthetic Corpora and Two-Stage LLM Adaptation
1 Department of Artificial Intelligence Korea University, Seoul, South Korea
本文提出通过过滤后的合成语料库和两阶段LLM适应方法，解决文档级机器翻译中平行数据稀缺和生成幻觉问题，提升翻译质量。
2026-03-23 cs.AI cs.CL
Understanding and Addressing the Under-Translation Problem from the Perspective of Decoding Objective
Pattern Recognition Center, WeChat AI, Tencent Inc（腾讯微信AI模式识别中心）
本研究从解码目标角度分析神经机器翻译中欠翻译的成因，提出利用预测EOS的置信度作为检测器并加强惩罚，以准确检测和纠正欠翻译输出。
2024-05-29 cs.CL
Towards a Deep Understanding of Multilingual End-to-End Speech Translation
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
本文利用SVCCA分析22种语言的多语言端到端语音翻译模型表示，发现数据有限时语言相似性失效、良好对齐数据可提升翻译质量且编码器表示能预测语音特征，并提出结合低资源与相关高资源语言的更有效方法。
2023-10-31 cs.CL
Prediction of Translation Techniques for the Translation Process
KU Leuven（鲁汶大学）
本研究针对机器翻译优化问题，提出先自动识别翻译技巧再指导翻译过程的方法，针对从零翻译和译后编辑两种场景分别实验，预测准确率分别达82%和93%，为优化机器翻译提供新路径。
2024-03-21 cs.CL
Reasoning Before Translation: Enhancing Legal Machine Translation with Structured Reasoning
研究法律领域神经机器翻译难题，通过比较多种方法，评估小型语言模型在不同再训练范式下的表现，以瑞士法律系统为测试平台，发现强化学习效果好，增强小型模型接近前沿推理模型，再训练范式随模型规模收益递减。
2026-11-09 cs.AI cs.CL cs.LG
Iterative Batch Back-Translation for Neural Machine Translation: A Conceptual Model
一种有效的方法来产生大量的并行句子训练改进的神经机器翻译（NMT）系统是使用目标端单语数据的回译。最近，迭代回译已被证明优于标准回译，尽管在一些语言对。这项工作提出了迭代批量回译，旨在提高标准的迭代回译，使更多的单语数据的有效利用。在每次迭代之后，将新句子的改进的反向翻译添加到并行数据中，并行数据将用于训练最终的前向模型。这项工作提出了一个概念模型所提出的方法。
2020-11-16 cs.CL
Detecting and Understanding Generalization Barriers for Neural Machine Translation
Harbin Institute of Technology（哈尔滨工业大学）；Tencent AI Lab（腾讯人工智能实验室）
泛化到不可见的实例是我们对所有数据驱动模型的永恒追求。然而，对于像机器翻译这样的实际任务，传统的方法在平均意义上衡量泛化能力提供了很好的理解细粒度的泛化能力。作为一种补救措施，本文试图识别和理解泛化障碍词在一个看不见的输入句子，\textit{cause}细粒度泛化的退化。我们提出了一个原则性的概括障碍词的定义和一个修改后的版本，这是易于计算。在此基础上，提出了三种简单的基于反事实生成的搜索感知风险估计的障碍检测方法。然后，我们进行了广泛的分析，这些检测到的泛化障碍词的Zh $\Leftrightarrow$ En NIST基准从不同的角度。还讨论了检测到的障碍词的潜在用途。
2020-04-05 cs.CL
Understanding and Detecting Hallucinations in Neural Machine Translation via Model Introspection
University of Maryland（马里兰大学）
神经序列生成模型被称为“幻觉”，通过产生与源文本无关的输出。这些幻觉有潜在的危害，但目前还不清楚它们是在什么情况下出现的，以及如何减轻它们的影响。在这项工作中，我们首先通过分析对比性幻觉与通过源扰动生成的非幻觉输出中的相对令牌贡献来识别幻觉的内部模型症状。然后，我们证明这些症状是自然幻觉的可靠指标，通过使用它们来设计一个轻量级的幻觉检测器，该检测器的性能优于无模型基线和基于质量估计的强分类器或手动注释的英-中和德-英翻译测试床上的大型预训练模型。
2023-02-25 cs.CL
Understanding Pre-Editing for Black-Box Neural Machine Translation
Nagoya University（名古屋大学）；National Institute of Information and Communications Technology（日本国立信息与通信技术研究所）
预编辑是对源文本进行修改的过程，以便机器翻译（MT）能够以更好的质量翻译源文本。尽管黑盒神经MT（NMT）具有不可预测性，但预编辑已被部署在各种实际的MT用例中。尽管许多研究已经证明了预编辑方法在特定环境中的有效性，但到目前为止，人们对预编辑是什么以及它如何在黑盒NMT中工作缺乏深入的了解。为了引起这样的理解，我们广泛调查了人类的预编辑实践。我们首先实现了一个协议，以增量方式记录每个ST的最小编辑量，并在三个翻译方向，两个MT系统和四个文本域中收集了6，652个预编辑实例。然后从三个方面对实例进行了分析：预编辑的特点，预编辑操作的多样性，以及预编辑操作对NMT输出的影响。我们的研究结果包括：（1）增强原文意义的明确性和句法结构比缩短原文更能提高译文的质量;（2）尽管预编辑对NMT的影响通常是不可预测的，但NMT的输出有一定的变化趋势，这取决于编辑操作的类型。
2021-02-05 cs.CL
Towards Bidirectional Hierarchical Representations for Attention-Based Neural Machine Translation
University of Macau（澳门大学）；Northeastern University（东北大学）
本文提出了一种分层注意神经翻译模型，其重点是通过使用基于双向树的编码器覆盖局部和全局语义信息来增强源端的分层表示。为了最大化目标词的预测可能性，使用注意力机制的加权变体来平衡词汇向量和短语向量之间的注意力信息。使用基于树的稀有词编码，该模型被扩展到子词级，以减轻词汇表（OOV）的问题。实验结果表明，在英汉翻译任务中，该模型的性能明显优于基于序列到序列注意力和基于树的神经翻译模型。
2017-07-17 cs.CL
Understanding Neural Machine Translation by Simplification: The Case of Encoder-free Models
Uppsala University（乌普萨拉大学）；University of Edinburgh（爱丁堡大学）；University of Zurich（苏黎世大学）
本文通过简化神经机器翻译（NMT）结构和训练无编码器的NMT模型来理解NMT。在无编码器模型中，词嵌入和位置嵌入的总和表示源。解码器是一个标准的Transformer或递归神经网络，通过注意力机制直接处理嵌入。实验结果表明：（1）无编码器模型中的注意力机制是一个强的特征提取器;（2）无编码器模型中的词嵌入与传统模型中的词嵌入相比具有竞争力;（3）非语境化的源表示导致性能大幅下降;（4）无编码器模型对德英和汉英对齐质量的影响不同。
2019-07-18 cs.CL
Contextual Cues in Machine Translation: Investigating the Potential of Multi-Source Input Strategies in LLMs and NMT Systems
LILT
本文比较GPT-4o与多语言NMT系统中多源输入策略对翻译质量的影响，发现中间语言上下文能提升领域特定及远距离语言对的翻译效果，并证明浅层融合结合高资源语言上下文可改善翻译质量。
2025-03-10 cs.CL
Enhancing Neural Machine Translation of Low-Resource Languages: Corpus Development, Human Evaluation and Explainable AI Architectures
Munster Technological University（芒斯特理工大学）；Dublin City University（都柏林城市大学）
针对English↔Irish和English↔Marathi低资源翻译，本文构建gaHealth语料库、优化Transformer并通过人工评估验证效果，同时发布adaptNMT与adaptMLLM支持模型开发、微调及部署。
2024-03-03 cs.AI cs.CL
The Inside Story: Towards Better Understanding of Machine Translation Neural Evaluation Metrics
Unbabel（Unbabel公司）；INESC-ID（葡萄牙系统与计算机工程研究所）；Instituto Superior Técnico, University of Lisbon（里斯本大学高等理工学院）；Instituto de Telecomunicações（电信研究所）
针对机器翻译神经评估指标的黑盒问题，开发并比较多种神经可解释性方法，揭示其利用可归因于翻译错误的词元级信息，并证实其与MQM标注及合成错误的一致性。
2023-05-19 cs.CL
Understanding Knowledge Distillation in Non-autoregressive Machine Translation
Carnegie Mellon University（卡内基梅隆大学）；Facebook AI Research（脸书人工智能研究）
非自回归机器翻译（NAT）系统并行地预测输出令牌的序列，与自回归模型相比在生成速度上实现了实质性的改进。现有的NAT模型通常依赖于知识蒸馏技术，该技术从预训练的自回归模型创建训练数据以获得更好的性能。知识蒸馏在经验上是有用的，导致NAT模型的准确性大幅提高，但这种成功的原因至今尚不清楚。在本文中，我们首先设计了系统的实验来研究为什么知识蒸馏是至关重要的NAT训练。我们发现，知识蒸馏可以降低数据集的复杂性，并帮助NAT模型的变化，输出数据。此外，NAT模型的容量与提取数据的最佳复杂性之间存在很强的相关性，以获得最佳翻译质量。基于这些发现，我们进一步提出了几种方法，可以改变数据集的复杂性，以提高NAT模型的性能。我们实现了基于NAT的模型的最先进的性能，并在WMT 14 En-De基准上缩小了与自回归基线的差距。
2021-02-22 cs.CL
Understanding Pure Character-Based Neural Machine Translation: The Case of Translating Finnish into English
Uppsala University（乌普萨拉大学）；University of Zurich（苏黎世大学）；University of Edinburgh（爱丁堡大学）
最近的研究表明，更深层的基于字符的神经机器翻译（NMT）模型可以优于基于子词的模型。然而，目前还不清楚是什么让更深层次的基于角色的模型成功。本文以芬兰语的英译为例，对纯字符模型进行了研究，探讨了芬兰语学习者对词义、词形变化的学习能力以及注意力机制。我们证明，词级信息分布在整个字符序列，而不是在一个单一的字符，字符在不同的位置发挥不同的作用，在学习语言知识。此外，基于字符的模型需要更多的层来编码词义，这解释了为什么只有更深的模型才优于基于子词的模型。注意力分布模式表明，分隔符吸引了大量的注意力，我们探索了一个稀疏的字级注意力，以加强字符隐藏状态，以捕捉完整的字级信息。实验结果表明，单中心词水平的注意导致1.2 BLEU点下降。
2020-11-06 cs.CL
Improving Bidirectional Decoding with Dynamic Target Semantics in Neural Machine Translation
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Tencent Inc（腾讯公司）
通常，神经机器翻译模型以从左到右（L2R）的方式生成目标词，并且无法利用任何未来（右）语义信息，这通常会产生不平衡的翻译。最近的工作尝试在双向解码中利用从右到左（R2L）解码器来缓解这个问题。在本文中，我们提出了一种新的\textbf{D}的\textbf{I}交互\textbf{M}对象（\textbf{DIM}），动态地利用目标语义从R2L翻译，以提高L2R翻译质量。与其他双向解码方法不同的是，DIM首先通过寻址和读取操作提取有用的目标信息，然后更新目标语义以跟踪交互历史。此外，我们还在训练目标中引入了一个\textbf{agreement regularization}术语，以缩小L2R和R2L翻译之间的差距。在NIST中文$\Rightarrow$英语和WMT'16英文$\Rightarrow$罗马尼亚语翻译任务上的实验结果表明，该系统在基线系统上取得了显著的改进，与最先进的Transformer模型相比，其参数少得多，达到了相当的效果。
2019-11-05 cs.CL
Context-Aware Machine Translation with Source Coreference Explanation
Nara Institute of Science and Technology（奈良科学技术研究所）
本文针对上下文感知机器翻译中因上下文过长或模型复杂导致的解释消除效应，提出通过预测输入共指特征来解释翻译决策的模型，并在多个数据集上取得超过1.0 BLEU的提升。
2024-04-30 cs.CL
Towards Understanding Neural Machine Translation with Word Importance
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯AI实验室）
虽然神经机器翻译（NMT）已经在各种语言对上取得了进步，但NMT的可解释性仍然不令人满意。在这项工作中，我们建议通过专注于理解NMT模型的输入-输出行为来解决这一差距。具体来说，我们通过基于梯度的方法将NMT输出归因于每个输入词来测量词的重要性。我们验证了一对夫妇的扰动操作，语言对，和模型架构的方法，证明了其优越性，识别输入的话，对翻译性能的影响更大。令人鼓舞的是，计算出的重要性可以作为NMT模型翻译不足的输入单词的指标。此外，我们的分析表明，某些句法类别的单词具有更高的重要性，而不同的语言对的类别，这可以启发更好的NMT架构的设计原则，多语言翻译。
2019-09-17 cs.CL cs.LG
Understanding and Improving Sequence-to-Sequence Pretraining for Neural Machine Translation
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯AI实验室）；University of Alberta（阿尔伯塔大学）
在本文中，我们提出了一个实质性的一步，更好地理解SOTA序列到序列（Seq 2Seq）神经机器翻译~（NMT）的预训练。我们专注于研究联合预训练解码器的影响，这是Seq 2Seq预训练和以前基于编码器的NMT预训练方法之间的主要区别。通过对三种语言对进行精心设计的实验，我们发现Seq 2Seq预训练是一把双刃剑：一方面，它有助于NMT模型产生更多样化的翻译，减少与充分性相关的翻译错误。另一方面，Seq 2Seq预训练和NMT微调之间的差异限制了翻译质量（即，域差异）并引起过估计问题（即，客观差异）。基于这些观察，我们进一步提出了简单有效的策略，命名为域内预训练和输入自适应，以弥补域和目标的差异，分别。在几个语言对上的实验结果表明，我们的方法可以在Seq 2Seq预训练后持续提高翻译性能和模型鲁棒性。
2022-03-16 cs.AI cs.CL
Enhancing Context Through Contrast
VNIT（维什瓦拉亚国立理工学院）；Johns Hopkins University（约翰斯·霍普金斯大学）
提出基于Barlow Twins损失最大化互信息的上下文增强步骤，将语言视为隐式增强以提升神经机器翻译性能，且适用于任意预训练嵌入。
2024-01-06 cs.AI cs.CL cs.LG
A Theory of Unsupervised Translation Motivated by Understanding Animal Communication
UC Berkeley（加州大学伯克利分校）；Project CETI（鲸类翻译计划）；City University of New York（纽约城市大学）；Microsoft Research（微软研究院）
该研究提出分析无平行语料、领域及语言结构不同场景下无监督机器翻译的理论框架，给出样本复杂度界并验证，为动物交流无监督翻译的可行性提供理论支撑。
2023-11-03 cs.CL cs.LG
Do all Roads Lead to Rome? Understanding the Role of Initialization in Iterative Back-Translation
IXA Group, University of the Basque Country (UPV/EHU)（巴斯克大学 IXA 研究组）；TALP Research Center, Universitat Politècnica de Catalunya（加泰罗尼亚理工大学 TALP 研究中心）
回译为神经机器翻译中利用单语语料提供了一种简单而有效的方法。它的迭代变体，其中两个相反的NMT模型通过交替使用由反向模型生成的合成并行语料库来联合训练，在无监督机器翻译中起着核心作用。为了开始产生声音翻译并向彼此提供有意义的训练信号，现有方法依赖于单独的机器翻译系统来预热迭代过程，或者依赖于某种形式的预训练来初始化模型的权重。在本文中，我们分析的作用，这样的初始化在迭代反平移。最终系统的行为是否严重依赖于它？或者迭代反平移是否会在给定任何合理的初始化条件下收敛到类似的解？通过一系列的经验性实验，在一组不同的热身系统，我们表明，虽然初始系统的质量确实影响最终的性能，其影响相对较小，迭代回翻译有很强的倾向收敛到一个类似的解决方案。因此，初始化方法的改进余地很小，这表明未来的研究应该更多地关注迭代机制本身的改进。
2020-02-28 cs.CL cs.LG
Understanding the Properties of Minimum Bayes Risk Decoding in Neural Machine Translation
Department of Computational Linguistics, University of Zurich（苏黎世大学计算语言学系）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
神经机器翻译（NMT）目前表现出诸如产生太短的翻译和过度生成频繁词的偏差，并且对训练数据中的复制噪声或域移位表现出较差的鲁棒性。最近的工作将这些缺点与束搜索（NMT中的事实标准推理算法）联系在一起，Eikema & Aziz（2020）提出对无偏样本使用最小贝叶斯风险（MBR）解码。在本文中，我们经验性地研究了MBR解码的一些先前报道的偏见和失败的情况下，束搜索的属性。我们发现，MBR仍然表现出的长度和令牌的频率偏差，由于MT度量作为效用函数，但MBR也增加了对复制噪声的鲁棒性在训练数据和域移位。
2021-05-18 cs.CL cs.LG
Understanding Learning Dynamics for Neural Machine Translation
Harbin Institute of Technology（哈尔滨工业大学）；Tencent AI Lab（腾讯人工智能实验室）
尽管NMT取得了巨大的成功，但仍然存在一个严峻的挑战：很难解释其训练过程中的内部动态。在本文中，我们建议理解学习动力学的NMT使用最近提出的技术命名为损失变化分配（LCA）~ \citep{lan-2019-loss-change-allocation}。由于LCA需要为每次更新计算整个数据集的梯度，因此我们提出了一个近似值，以便在NMT场景中将其付诸实践。%的人从新加坡发展局的教训中获得动力。我们的模拟实验表明，这样的近似计算是有效的，并根据经验证明，提供一致的结果，蛮力实现。特别是，在两个标准翻译基准数据集上的广泛实验揭示了一些有价值的发现。
2020-04-05 cs.CL cs.LG
Understanding and Mitigating the Uncertainty in Zero-Shot Translation
本文从不确定性角度分析零样本翻译中的偏离目标问题，识别外在数据不确定性和内在模型不确定性，并提出数据去噪与非似然训练两种互补方法，显著提升零样本翻译性能。
2024-10-19 cs.AI cs.CL cs.LG
Understanding Translationese in Cross-Lingual Summarization
Fudan University（复旦大学）；Tencent Inc（腾讯公司）；Beijing Jiaotong University（北京交通大学）
本文研究跨语言摘要中翻译腔现象，确认不同数据集构建方法导致不同程度翻译腔，并系统分析其对模型评估和性能的影响，提出未来研究建议。
2023-10-10 cs.AI cs.CL
Towards a Better Understanding of Variations in Zero-Shot Neural Machine Translation Performance
University of Amsterdam（阿姆斯特丹大学）
本文通过40种语言、1560个语言方向的实验，揭示零样本神经机器翻译性能高度变化的三个关键因素：目标端翻译能力、词汇重叠和语言属性，并指出偏离目标问题只是零样本性能不足的症状。
2023-10-31 cs.CL cs.LG
Enhancing the Transformer Decoder with Transition-based Syntax
Hebrew University of Jerusalem（耶路撒冷希伯来大学）
尽管最近的进展，句法泛化仍然是文本解码器的一个挑战。虽然一些研究表明，将源端的符号句法和语义结构的文本生成Transformers的收益，很少有工作解决这种结构的解码。我们提出了一个通用的方法，树解码使用一个过渡为基础的方法。检查具有挑战性的测试情况下，将通用的重复性语法到机器翻译，我们提出了大量的改进测试集，侧重于语法泛化，同时提出改进或可比的性能标准MT基准。进一步的定性分析解决的情况下，语法概括香草Transformer解码器是不够的，并展示了整合语法信息所提供的优势。
2022-10-31 cs.CL cs.LG
Unsupervised Clinical Language Translation
Massachusetts Institute of Technology（麻省理工学院）
随着患者获取医生的临床笔记变得普遍，将专业的临床术语翻译成外行人可以理解的语言对于改善患者与临床医生的沟通至关重要。这种翻译通过增强患者对自身健康状况的了解，从而提高患者对自身护理的参与度，从而产生更好的临床结果。现有的研究已经使用基于词典的单词替换或定义插入来满足需求。然而，这些方法受到专家策展的限制，专家策展难以扩展，并且难以推广到不共享重叠词汇的不可见数据集。相比之下，我们以完全无监督的方式处理临床单词和句子翻译问题。我们发现，一个框架，使用表示学习，双语词典归纳和统计机器翻译产生的最佳精度在10的0.827专业到消费者的单词翻译，和平均意见得分为4.10和4.28的5临床正确性和外行可读性，分别对句子翻译。我们的完全无监督策略克服了策展问题，并且临床上有意义的评估减少了不适当评估者的偏见，这在临床机器学习中至关重要。
2019-05-26 cs.CL cs.LG
Understanding and Analyzing Model Robustness and Knowledge-Transfer in Multilingual Neural Machine Translation using TX-Ray
University of Potsdam（波茨坦大学）
本研究探讨极低资源下多语言神经机器翻译的跨语言知识迁移，通过顺序迁移学习提升性能，并利用 TX-Ray 分析剪枝对鲁棒性与泛化的影响。
2024-12-18 cs.AI cs.CL
LVP-M3: Language-aware Visual Prompt for Multilingual Multimodal Machine Translation
Beihang University（北京航空航天大学）；Microsoft Research Asia（微软亚洲研究院）
多模态机器翻译（MMT）致力于增强具有视觉特征的纯文本翻译，引起了自然语言处理和计算机视觉界的广泛关注。最近的进展仍然在努力为每个语言对训练单独的模型，这是昂贵的，当现实世界中语言的数量增加时是负担不起的。换句话说，尚未研究多语言多模态机器翻译（多语言MMT）任务，其旨在通过为多种语言提供共享语义空间来处理上述问题。此外，意象情态没有语言边界，这一点优于弥合语言之间的语义鸿沟。为此，我们首先提出了多语言MMT任务，建立两个新的多语言MMT基准数据集，涵盖七种语言。然后，提出了一个有效的基线LVP-M3使用视觉提示，以支持不同语言之间的翻译，它包括三个阶段（令牌编码，语言感知的视觉提示生成，和语言翻译）。在我们构建的基准数据集上的大量实验结果证明了LVP-M3方法对多语言MMT的有效性。
2022-11-28 cs.AI cs.CL
From Words to Worlds: Benchmarking Cross-Cultural Cultural Understanding in Machine Translation
Xinjiang Technical Institute of Physics \& Chemistry, Chinese Academy of Sciences Urumqi China；Xinjiang Technical Institute of Physics \& Chemistry, Chinese Academy of Sciences
本文提出CulT-Eval基准测试，用于评估机器翻译对文化相关表达的处理能力，发现现有指标无法有效捕捉文化语义偏差，提出新的评估指标以改进翻译质量。
2026-03-18 cs.AI cs.CL
Syntax-Infused Transformer and BERT models for Machine Translation and Natural Language Understanding
Duke University（杜克大学）
基于注意力的模型在几个NLP任务中显示出比传统算法的显着改进。例如，Transformer是基于输入到编码器的令牌与序列中的所有令牌的关系来生成令牌的抽象表示的说明性示例。最近的研究表明，尽管这些模型能够纯粹通过查看示例来学习句法特征，但将这些信息显式地提供给深度学习模型可以显着提高其性能。利用句法信息（如词性（POS））在复杂模型（如Transformer）的有限训练数据设置中可能特别有益。我们表明，具有多个特征的语法注入的Transformer在完整的WMT 14英语到德语翻译数据集上训练时实现了0.7 BLEU的改进，并且在一小部分数据集上训练时最大提高了1.99 BLEU点。此外，我们发现，语法纳入BERT微调优于基线上的一些下游任务的GLUE基准。
2019-11-10 cs.CL cs.LG stat.ML
Enhancing Function-Calling Capabilities in LLMs: Strategies for Prompt Formats, Data Integration, and Multilingual Translation
MediaTek Research（联发科研究院）
本研究通过探索提示格式、数据集成、决策标记、思维链推理及翻译流水线等策略，增强LLMs的函数调用能力，发现指令遵循数据可提升准确率与相关性检测，决策标记及翻译流水线也能带来显著改进。
2024-12-04 cs.CL
PROST-LLM: Progressively Enhancing the Speech-to-Speech Translation Capability in LLMs
The Chinese University of Hong Kong Huawei Artificial Intelligence Laboratory (Leibniz)（香港中文大学华为人工智能实验室（莱布尼茨））
PROST-LLM通过逐步增强方法提升大语言模型在语音到语音翻译中的能力，采用三任务学习和模态链方法，结合自我采样和回译生成偏好对，最终通过偏好优化提升翻译性能。
2026-01-23 cs.CL
DUAL-REFLECT: Enhancing Large Language Models for Reflective Translation through Dual Learning Feedback Mechanisms
Pengcheng Laboratory（鹏城实验室）；School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）
针对现有大语言模型自反思翻译方法缺乏有效反馈的问题，提出DUAL-REFLECT框架，借助翻译任务对偶学习提供反馈以增强自反思能力，可提升翻译准确率、消除歧义，在低资源语言对翻译中效果显著。
2024-06-21 cs.AI cs.CL
Enhancing Machine Translation through Advanced In-Context Learning: A Methodological Strategy for GPT-4 Improvement
Waseda University（早稻田大学）
本文提出一种基于上下文学习的机器翻译策略，通过精选与用户提示语义相似的示范数据，显著提升 GPT-4 翻译准确性，无需特定任务微调，为跨文化交流开辟新途径。
2023-11-15 cs.CL
Enhancing Taiwanese Hokkien Dual Translation by Exploring and Standardizing of Four Writing Systems
National Central University（中央大学）；University of Toronto（多伦多大学）；Ontario Tech University（安大略理工大学）；Academia Sinica（中央研究院）
针对台湾闽南语这类低资源语言翻译研究不足的问题，本研究基于繁体中文优化的LLaMA 2-7B构建其与繁体中文、英语的双向翻译模型，通过书写系统标准化、有限单语语料优化及结合回译与GPT-4的评估方法提升翻译性能，填补相关资源与研究空白。
2024-05-14 cs.CL
Enhancing Gender-Inclusive Machine Translation with Neomorphemes and Large Language Models
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
针对机器翻译存在性别偏见、难以实现性别包容的问题，研究探索用大语言模型提示技术结合新语素完成英意翻译，并发布评估资源Neo-GATE，测试了不同大模型与提示格式在该任务上的表现。
2024-05-14 cs.CL
