Does Translation-Enhanced Speech Encoder Pre-training Affect Speech LLMs?
SB Intuitions
研究翻译增强的语音编码器预训练对语音大语言模型的影响，通过实验证明该方法能改善跨模态整合并提升下游任务性能。
2026-06-25 cs.CL cs.SD eess.AS
What Does LLM Refinement Actually Improve? A Systematic Study on Document-Level Literary Translation
University of Amsterdam（阿姆斯特丹大学）；University of Cambridge（剑桥大学）；Amazon AGI（亚马逊人工智能研究院）
本文系统研究了文档级文学翻译中LLM精细化的效果，发现文档级MT后接段级精细化能带来稳定提升，而文档级精细化效果有限。通用精细化提示优于特定错误提示和评估后精细化策略。
2026-05-13 cs.CL
Quizzing the Translation: A Prover-Grounded Evaluation Metric for NL$\rightarrow$FOL
Emory University（埃默里大学）
提出基于定理证明器的SIV评估指标，通过正反探针检测自然语言到一阶逻辑翻译中的内容丢失与过度断言，显著优于现有指标。
2026-09-29 cs.AI cs.CL cs.LO
An Investigation of Translationese in the Generations of Multilingual Large Language Models
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of California Berkeley（加州大学伯克利分校）；Johannes Gutenberg University Mainz（美因茨约翰内斯·古腾堡大学）
本文探究多语言大语言模型生成文本是否存在翻译腔，对比直接翻译的翻译腔差异，通过多种方法评估MLLM生成文本的翻译腔特征。
2026-08-19 cs.CL
Fine-Tuning LLMs for Translation: General Forgetting Mitigation Does Not Preserve MT-Specific Instruction Following
AppTek GmbH（AppTek公司）；RWTH Aachen University（亚琛工业大学）；Applied Science Private University（应用科学私立大学）
研究针对翻译微调中的灾难性遗忘，发现通用遗忘缓解方法（如弹性权重巩固）虽能保持通用能力，但无法保持机器翻译特有的指令遵循（如形式、性别、长度控制），仅数据混合方法有效但泛化性有限。
2026-09-24 cs.CL cs.LG
Revisiting Round-Trip Translation for Quality Estimation
Naver Papago
质量评估（QE）是在没有人工翻译参考的情况下自动评估翻译质量的任务。计算输入句子和往返翻译（RTT）之间的BLEU曾经被认为是QE的一个指标，然而，它被发现是一个差的翻译质量预测。最近，各种预先训练的语言模型通过提供语义上有意义的单词和句子嵌入在NLP任务中取得了突破。在本文中，我们采用语义嵌入RTT为基础的QE。与之前提交的WMT 2019质量估计指标任务相比，我们的方法与人类判断的相关性最高。虽然向后翻译模型可以是一个缺点，当使用RTT，我们观察到，语义级的指标，基于RTT的QE是强大的向后翻译系统的选择。此外，所提出的方法在SMT和NMT前向翻译系统中表现出一致的性能，这意味着该方法不会惩罚某种类型的模型。
2020-04-29 cs.CL cs.LG
Does System One Transfer? Calibrated Typed-Decision Models, Label Budgets, and Translation for Indonesian Regional Languages
Faculty of Information Technology, Universitas Budi Luhur（信息技术学院，布迪卢赫尔大学）
本文评估Jev、Laya-multilingual等模型在印尼区域语言上的性能，发现翻译可提升Jev准确率，置信度门控级联架构能优化性能并降低成本，同时对比了其他商业LLM的表现。
2026-10-14 cs.CL cs.LG
Probing Word Translations in the Transformer and Trading Decoder for Encoder Layers
Saarland University（萨尔兰大学）；German Research Center for Artificial Intelligence（德国人工智能研究中心）；China Mobile Online Services（中移在线服务有限公司）；Tianjin University（天津大学）
由于其有效性和性能，Transformer翻译模型引起了广泛的关注，最近在基于探测的方法方面。以前的工作集中在使用或探测源语言特征的编码器。到目前为止，单词翻译在Transformer层中的演变方式尚未被研究。人们可能会天真地假设编码器层捕获源信息，而解码器层进行转换。在这项工作中，我们表明情况并非如此：翻译已经在编码器层甚至输入嵌入中逐步发生。更令人惊讶的是，我们发现一些较低的解码器层实际上并没有做那么多解码。我们展示了所有这一切的探测方法，我们项目表示层分析的最终训练和冻结分类器级别的Transformer解码器来衡量单词翻译的准确性。我们的发现激发并解释了Transformer配置的变化：如果翻译已经发生在编码器层中，也许我们可以增加编码器层的数量，同时减少解码器层的数量，提高解码速度，而不会损失翻译质量？我们的实验表明确实如此：我们可以将速度提高到2.3倍，而翻译质量略有提高，而18-4深度编码器配置在1.4的速度提升下将翻译质量提高了+1.42 BLEU（En-De）。
2021-04-20 cs.CL
Towards an Arabic-English Machine-Translation Based on Semantic Web
通信工具使世界像一个小村庄，因此人们可以与来自不同社会或讲不同语言的人联系。如果没有机器翻译，这种沟通就无法有效地进行，因为它们可以随时随地找到。有一些研究已经开发了英语的机器翻译，除了阿拉伯语之外，还有许多其他语言尚未考虑。因此，我们的目标是强调我们提出的翻译机的路线图，以提供基于语义的增强的阿拉伯语英语翻译。
2017-09-14 cs.CL
Does Syntactic Knowledge help English-Hindi SMT?
Language Technologies Research Centre（语言技术研究中心）
在本文中，我们将探讨各种参数设置的国家的最先进的统计机器翻译系统，以提高翻译质量的“遥远”的语言对，如英语-印地语。我们提出了新的技术，有效的重新排序。据报告，使用这些技术后，与基线相比略有改善。我们还表明，一个简单的预处理步骤可以显着提高翻译的质量。
2014-01-20 cs.AI cs.CL
Does Machine Translation Retain Media Bias?
University of Alicante（阿利坎特大学）；Center for Responsible Artificial Intelligence (CRAI)（负责任人工智能中心）；Coburg University of Applied Sciences and Arts（科堡应用科学与艺术大学）
本研究以英-德为源语言、保加利亚语为目标语言，评估四种先进机器翻译方法，发现其无法完全保留输入文本的新闻偏见，还可能添加额外偏见，是首个相关实验研究。
2026-10-15 cs.AI cs.CL
The Unreasonable Volatility of Neural Machine Translation Models
Zeta Alpha Vector（泽塔阿尔法向量公司）；Informatics Institute（信息学研究所）；University of Amsterdam（阿姆斯特丹大学）
最近的工作表明，神经机器翻译（NMT）模型实现了令人印象深刻的性能，然而，关于理解这些模型的行为的问题仍然没有答案。我们研究了NMT模型的意外波动性，其中输入在语义和语法上是正确的。我们发现，通过对源句的微小修改，我们可以识别出\textit{unexpected changes}在翻译中发生的情况，最坏的情况下会导致误译。这种以惊人的不同方式翻译极其相似的句子的不稳定行为突出了当前NMT模型的潜在泛化问题。我们发现，RNN和Transformer模型分别在26%和19%的句子变化中显示出不稳定的行为。
2020-05-25 cs.CL
Does Context Help Mitigate Gender Bias in Neural Machine Translation?
Vicomtech Foundation（维康科技基金会）；Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟（BRTA））；University of the Basque Country UPV/EHU（巴斯克大学（UPV/EHU））
该研究检验上下文感知模型能否缓解神经机器翻译的性别偏见，通过英德刻板职业翻译、巴斯克语到西班牙语无信息上下文翻译实验，发现这类模型虽提升阴性术语准确率，却仍可能维持甚至放大偏见，凸显需更细粒度的偏见缓解方案。
2024-06-18 cs.CL
What does Attention in Neural Machine Translation Pay Attention to?
Informatics Institute, University of Amsterdam（阿姆斯特丹大学信息学研究所）
神经机器翻译中的注意力提供了在每个翻译步骤对源句子的相关部分进行编码的可能性。因此，注意力也被认为是一个对齐模型。然而，还没有专门研究注意力的工作，并提供注意力模型所学到的东西的分析。因此，问题仍然是，如何注意力是相似或不同的传统对齐。在本文中，我们提供了详细的分析注意力，并比较它与传统的对齐。我们回答的问题是，注意力是否只能模拟翻译等价物或它捕获更多的信息。我们表明，注意力是不同的对齐在某些情况下，捕捉有用的信息以外的对齐。
2017-10-09 cs.CL
Does Neural Machine Translation Benefit from Larger Context?
New York University（纽约大学）
我们提出了一种神经机器翻译架构，除了源句子之外，还可以对周围的文本进行建模。这些模型在小语料库上训练时，在一般翻译质量和代词预测方面都有更好的性能，尽管在使用较大语料库训练时，这种改进基本上消失了。我们还发现，基于注意力的神经机器翻译非常适合代词预测，并且与专门为此任务设计的其他方法相比毫不逊色。
2017-04-17 cs.CL cs.LG stat.ML
Gender in Danger? Evaluating Speech Translation Technology on the MuST-SHE Corpus
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）
从没有生产性语法性别的语言（如英语）翻译成性别标记的语言是机器的一个众所周知的困难。这种困难也是由于这样一个事实，即建立模型的训练数据通常反映了自然语言的不对称性，包括性别偏见。机器翻译只提供文本数据，因此在本质上受到输入句子并不总是包含有关所指人类实体性别身份的线索的事实的限制。但是，如果输入是音频信号，语音翻译会发生什么？音频能否提供更多信息以减少性别偏见？我们提出了第一次彻底调查的性别偏见在语音翻译，有助于：i）发布一个基准有用的未来的研究，和ii）不同的技术（级联和端到端）的比较两种语言方向（英语-意大利语/法语）。
2020-06-10 cs.AI cs.CL cs.SD
How Does Distilled Data Complexity Impact the Quality and Confidence of Non-Autoregressive Machine Translation?
University of Maryland（马里兰大学）；Microsoft Research Asia（微软亚洲研究院）
虽然非自回归（NAR）模型在机器翻译中显示出巨大的前景，但它们的使用受到其依赖于自回归模型的知识蒸馏的限制。为了解决这个问题，我们试图了解为什么蒸馏如此有效。先前的工作表明，提取的训练数据没有手动翻译复杂。基于Levenshtein Transformer和Mask-Predict NAR模型在WMT 14德-英任务上的实验，本文表明不同类型的复杂性具有不同的影响：虽然减少词汇多样性和降低重新排序复杂性都有助于NAR学习源和目标之间的更好对齐，从而提高翻译质量，但词汇多样性是蒸馏增加模型置信度的主要原因，这对不同NAR模型的校正有不同的影响。
2021-05-27 cs.CL
How Much Does Tokenization Affect Neural Machine Translation?
Universitat Politècnica de València（瓦伦西亚理工大学）；Pangeanic / B.I Europa
标记化或分割是一个广泛的概念，它涵盖了简单的过程，如将标点符号从单词中分离出来，或更复杂的过程，如应用形态学知识。神经机器翻译（NMT）需要有限大小的词汇表来计算成本，并需要足够的示例来估计词嵌入。将标点符号分离并将标记拆分为单词或子单词已被证明有助于减少词汇量并增加每个单词的示例数量，从而提高翻译质量。当处理单词之间没有分隔符的语言时，标记化更具挑战性。为了评估标记化对NMT最终翻译质量的影响，我们对十种语言对的五个标记化器进行了实验。我们得出的结论是，分词显着影响最终的翻译质量，最好的分词器不同的语言对。
2019-06-11 cs.CL
When Does Unsupervised Machine Translation Work?
Johns Hopkins University（约翰斯·霍普金斯大学）
尽管无监督机器翻译（MT）的成功报道，该领域还没有检查这些方法成功的条件，以及它们失败的地方。我们使用不同的语言对，不同的领域，不同的数据集和真实的低资源语言对无监督机器翻译进行了广泛的实证评估。我们发现，性能迅速恶化时，源和目标语料库是来自不同的领域，随机词嵌入初始化可以显着影响下游的翻译性能。我们还发现，当源语言和目标语言使用不同的脚本时，无监督MT性能下降，并且在真实的低资源语言对上观察到非常差的性能。我们提倡对无监督机器翻译系统进行广泛的实证评估，以突出失败点，并鼓励对最有前途的范例进行持续研究。
2020-11-19 cs.CL
What does it take to get state of the art in simultaneous speech-to-speech translation?
toby（托比）
该研究针对同声语音翻译模型中幻觉引发的延迟尖峰问题，通过系统实验各类输入参数与条件提出优化方法，证实精细输入管理结合策略性参数调整可显著改善模型延迟表现。
2024-09-14 cs.CL
Does Summary Evaluation Survive Translation to Other Languages?
Primer Technologies Inc.（Primer Technologies公司）；Technische Universität Berlin（柏林工业大学）
创建高质量的摘要数据集是一项昂贵且耗时的工作，需要经过培训的人员和机器对摘要进行生产和评估。如果在一种语言中做出这样的努力，那么能够在其他语言中使用它而不重复人工注释将是有益的。为了研究我们可以在多大程度上信任这样一个数据集的机器翻译，我们将英语数据集SummEval翻译为七种语言，并比较自动评估措施的性能。我们探讨等效性检验作为适当的统计范式，用于评估人类和自动评分的摘要之间的相关性。虽然我们发现类似于源语言的数据集重用有一定的潜力，但大多数摘要评估方法在翻译过程中并不具有统计等效性。
2021-12-08 cs.CL
Does Multi-Encoder Help? A Case Study on Context-Aware Neural Machine Translation
Northeastern University（东北大学）；NiuTrans Research（小牛翻译研究院）；Institute of Psychology, CAS（中国科学院心理研究所）；Kingsoft AI Lab（金山人工智能研究院）
在编码器-解码器神经模型中，除了单个句子之外，多个编码器通常用于表示上下文信息。本文研究了文档级神经机器翻译（NMT）中的多编码器方法。令人惊讶的是，我们发现上下文编码器不仅对周围的句子进行编码，而且还表现为噪声生成器。这让我们重新思考多编码器在上下文感知翻译中的真正好处-一些改进来自鲁棒训练。我们比较了几种方法，这些编码器的训练中引入噪声和/或良好调整的辍学设置。实验结果表明，噪声训练在基于多编码器的NMT中起着重要作用，特别是当训练数据较小时。此外，我们建立了一个新的国家的最先进的IWFRF-EN任务，仔细使用噪声产生和辍学的方法。
2020-05-17 cs.CL
Domain adapted machine translation: What does catastrophic forgetting forget and why?
RWS；Language Weaver（语言织网）
本文通过研究数据的影响，首次调查了神经机器翻译领域适应中灾难性遗忘的内容、原因及其与领域内数据目标词汇覆盖率的关系，为更好地进行领域适应提供了指导。
2024-12-23 cs.CL
Does Simultaneous Speech Translation need Simultaneous Models?
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）；Zoom Video Communications（Zoom视频通讯公司）
本文研究同声语音翻译中单一离线训练模型能否同时胜任离线与同声任务，实验表明该方案在不影响延迟下实现了与同声模型相当或更好的翻译质量。
2022-11-16 cs.CL
Does Joint Training Really Help Cascaded Speech Translation?
RWTH Aachen University（亚琛工业大学）
目前，在语音翻译中，直接的方法-将识别系统与翻译系统级联-提供了最先进的结果。然而，诸如来自自动语音识别系统的错误传播之类的基本挑战仍然存在。为了缓解这些问题，最近，人们将注意力转向直接数据，并提出各种联合训练方法。在这项工作中，我们试图回答联合训练是否真的有助于级联语音翻译的问题。我们回顾了最近的论文的主题，并探讨了联合训练标准边缘化的转录后验概率。我们的研究结果表明，一个强大的级联基线可以减少使用联合训练获得的任何改善，我们建议联合训练的替代方案。我们希望这项工作可以作为当前语音翻译领域的一个更新，并激励研究寻找更有效和创造性的方法来利用语音翻译的直接数据。
2022-11-24 cs.CL cs.LG eess.AS
Does Multimodality Help Human and Machine for Translation and Image Captioning?
LIUM, University of Le Mans（勒芒大学LIUM）；Galatasaray University（加拉塔萨雷大学）；CVC, Universitat Autonoma de Barcelona（巴塞罗那自治大学CVC）
本文介绍了LIUM和CVC为WMT 16多模态机器翻译挑战开发的系统。我们探索了各种比较方法，即基于短语的系统和使用单模态或多模态数据训练的注意递归神经网络模型。我们还进行了人为评估，以估计人类机器翻译和图像描述生成的多模态数据的有用性。我们的系统获得了最好的结果，这两个任务根据自动评估指标BLEU和METEOR。
2016-08-16 cs.CL cs.LG cs.NE
How Does Language Influence Documentation Workflow? Unsupervised Word Discovery Using Translations in Multiple Languages
Laboratoire d’Informatique de Grenoble (LIG)（格勒诺布尔计算机实验室）；UGA（格勒诺布尔阿尔卑斯大学）；G-INP（格勒诺布尔国立理工学院）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；University of Sheffield（谢菲尔德大学）；UFRGS（南里奥格兰德联邦大学）
对于语言文档举措，转录是一种昂贵的资源：一分钟的音频估计需要语言学家平均一个半小时的工作（Austin和Sallabank，2013年）。最近，在资源丰富的语言中收集对齐的翻译成为确保记录的事后可解释性的流行解决方案（Adda et al. 2016）。在本文中，我们调查语言相关的影响，在自动方法计算语言文档。我们将双语Mboshi-French平行语料库（Godard et al. 2017）翻译成其他四种语言，并执行双语根无监督单词发现。我们的研究结果暗示了资源丰富的语言对输出质量的影响。然而，通过结合不同双语模型学习到的信息，我们只能略微提高分割的质量。
2019-10-11 cs.CL
Ladders in Chaos: When, How, (and Perhaps Why) Does Test-Time Scaling Improve LLM Machine Translation
University of Amsterdam（阿姆斯特丹大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
本研究探究LLM的序列式与并行式测试时缩放在机器翻译中的特性，发现序列式采样性能上限更高，可提升翻译流畅度但在大推理预算下会降准，还分析了其机制与鲁棒性。
2026-09-01 cs.CL
Filling Gender & Number Gaps in Neural Machine Translation with Black-box Context Injection
Bar Ilan University（巴伊兰大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
当从一种没有在形态上标记性别和数字等信息的语言翻译成一种有这种信息的语言时，翻译系统必须“猜测”这种缺失的信息，这通常会导致在给定的上下文中出现错误的翻译。我们提出了一种黑箱方法，用于将丢失的信息注入到预先训练的神经机器翻译系统中，从而可以在不改变底层模型或训练数据的情况下控制生成的翻译中的形态变化。我们评估我们的方法在英语到希伯来语的翻译任务，并表明，它是有效的注入性别和数字信息，并提供正确的信息提高了翻译的准确性，在高达2.3 BLEU的女性说话者测试集的最先进的在线黑箱系统。最后，我们对生成的翻译进行了细粒度的句法分析，表明了我们方法的有效性。
2019-03-08 cs.CL
When Does Reasoning Help in Machine Translation? A Hierarchical Analysis of LRM Reasoning Traces
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Google DeepMind（谷歌DeepMind）
本研究通过层次化元摘要框架分析大型推理模型在机器翻译中的推理轨迹，发现推理语言、长度和模式对翻译质量有复杂影响，提出应模型感知、长度感知和模式感知地控制推理。
2026-09-21 cs.CL
When Does Translation Require Context? A Data-driven, Multilingual Exploration
Carnegie Mellon University（卡内基梅隆大学）；Instituto Superior Técnico（高等技术学院）；Instituto de Telecomunicações（电信研究所）；University of California, Berkeley（加州大学伯克利分校）；Unbabel（昂巴贝尔公司）
本文开发了多语言话语感知（MuDA）基准，通过标记器系统识别和评估需上下文的翻译现象，发现常见上下文感知MT模型改进有限，并发布14个语言对数据以促进相关研究。
2023-06-27 cs.CL cs.LG
Emergent Translation in Multi-Agent Communication
New York University（纽约大学）；Facebook AI Research（脸书人工智能研究院）；CIFAR Azrieli Global Scholar（加拿大高级研究院阿兹列利全球学者）
虽然迄今为止大多数机器翻译系统都是在大型并行语料库上训练的，但人类学习语言的方式不同：立足于环境并与其他人互动。在这项工作中，我们提出了一个通信游戏，两个代理，各自的语言的母语，共同学习解决视觉参考任务。我们发现，理解和翻译外语的能力是实现共同目标的一种手段。突现翻译具有交互性和多模态性，关键是不需要平行语料库，而只需要单语的、独立的文本和相应的图像。我们提出的翻译模型通过将源语言和目标语言接地到共享的视觉模态中来实现这一点，并且在单词级和句子级翻译任务上都优于几个基线。此外，我们表明，在多语言社区的代理学习翻译更好，更快，比在双语沟通设置。
2018-04-11 cs.AI cs.CL
When does Parameter-Efficient Transfer Learning Work for Machine Translation?
University of Groningen（格罗宁根大学）；University of Edinburgh（爱丁堡大学）
参数高效微调方法（PEFT）提供了适应大型预训练模型的承诺，同时只调整少量参数。他们已被证明是竞争力与完整的模型微调许多下游任务。然而，先前的工作表明，PEFT可能不工作，以及机器翻译（MT），并没有全面的研究表明，当PEFT工作的MT。我们对机器翻译的PEFT进行了全面的实证研究，考虑到（1）各种参数预算，（2）各种语言对，以及（3）不同的预训练模型。我们发现，“适配器”，其中小的前馈网络后，每一层，确实是等同于完整的模型微调时，参数预算对应于总模型参数的10%。然而，随着调谐参数数量的减少，PEFT的性能降低。这种下降的幅度取决于语言对，PEFT特别努力寻找远亲语言对。我们发现，使用具有较大预训练模型的PEFT优于具有较小模型的完全微调，并且对于较小的训练数据大小，PEFT优于相同预训练模型的完全微调。
2022-10-24 cs.CL
Language Modeling Teaches You More Syntax than Translation Does: Lessons Learned Through Auxiliary Task Analysis
New York University（纽约大学）；Harvard University（哈佛大学）
最近使用辅助预测任务分类器来研究LSTM表示的属性的工作已经开始阐明为什么预训练的表示，如ELMo（Peters et al.，2018）和CoVe（McCann等人，2017），对神经语言理解模型是如此有益。然而，我们仍然没有清楚地了解预训练目标的选择如何影响模型学习的语言信息类型。考虑到这一点，我们比较了四个目标-语言建模，翻译，跳跃思想，和自动编码-对他们的能力，以诱导句法和词性信息。我们通过保持训练数据的数量和类型以及LSTM架构不变来对任务进行公平的比较。我们发现，来自语言模型的表示在我们的句法辅助预测任务中始终表现最好，即使在相对少量的数据上进行训练。这些结果表明，语言建模可能是需要语法信息的迁移学习应用程序的最佳数据丰富的预训练任务。我们还发现，表示从随机初始化，冻结LSTM执行我们的语法辅助任务，但这种效果消失时，辅助任务的训练数据的量减少。
2019-01-07 cs.CL
When Does Monolingual Data Help Multilingual Translation: The Role of Domain and Model Scale
University of Edinburgh（爱丁堡大学）；Samaya AI；Google DeepMind（谷歌DeepMind）
本文通过 100 个翻译方向的现实数据集，研究去噪自编码和回译在不同领域匹配度与模型规模（90M 至 1.6B 参数）下对多语言机器翻译的影响，发现领域不匹配会显著削弱单语数据的收益，且 DAE 的效果高度依赖模型规模，大模型下 DAE 可达到甚至超过 BT 的性能。
2024-03-30 cs.CL
Two Way Adversarial Unsupervised Word Translation
单词翻译是机器翻译中的一个问题，机器翻译试图构建恢复语言之间的单词级别对应的模型。最近对这个问题的研究表明，单词翻译模型可以通过非常小的种子词典来学习，甚至没有任何启动监督。在本文中，我们提出了一种方法来共同寻找一对语言之间的翻译。我们的方法不仅在两个方向上学习翻译，而且与过去的方法相比，它提高了这些翻译的准确性。
2019-12-12 cs.CL cs.LG stat.ML
Reducing Hallucinations in Neural Machine Translation with Feature Attribution
Imperial College London（帝国理工学院）；University of Sheffield（谢菲尔德大学）
针对神经机器翻译在低质量数据集训练下易产生流畅但与源句无关的幻觉问题，本研究用特征归因方法分析幻觉模型行为，提出无需从头训练即可大幅减少幻觉的新型损失函数。
2023-06-14 cs.CL
Learning Bidirectional Action-Language Translation with Limited Supervision and Incongruent Input
University of Hamburg（汉堡大学）
人类婴儿的学习发生在探索环境的过程中，通过与物体的互动，以及通过随意地倾听和重复话语，这类似于无监督学习。只有偶尔，一个正在学习的婴儿会收到一个匹配的口头描述，描述他正在做的一个动作，这类似于监督学习。这种学习机制可以用深度学习来模仿。我们使用配对门控自动编码器（PGAE）模型对这种弱监督学习范式进行建模，该模型结合了动作和语言自动编码器。在观察到减少监督训练比例时的性能下降后，我们引入了配对转换自编码器（PTAE）模型，使用基于转换器的跨模态注意力。PTAE在语言到动作和动作到语言的翻译中实现了显著更高的准确性，特别是在现实但困难的情况下，只有很少的监督训练样本可用。我们还测试了训练后的模型是否真实地表现出冲突的多模态输入。根据心理学中不一致的概念，冲突恶化了模型的输出。排除动作输入比冲突语言输入的影响更大，并且冲突特征越多，干扰越大。PTAE可以在标记数据很少的情况下在大多数未标记的数据上进行训练，并且在使用不一致的输入进行测试时表现得很好。
2023-02-22 cs.AI cs.CL cs.NE
How To Build Competitive Multi-gender Speech Translation Models For Controlling Speaker Gender Translation
University of Trento（特伦托大学）
本文提出将说话人性别元数据集成到单个多性别神经语音翻译模型中，以控制说话人性别翻译，实验表明从头训练的多性别模型优于性别专用模型，而微调则效果不佳。
2023-10-23 cs.CL
Data Diversification: A Simple Strategy For Neural Machine Translation
Nanyang Technological University（南洋理工大学）；Salesforce Research（Salesforce研究中心）；Institute for Infocomm Research (IR), A*STAR（新加坡科技研究局资讯通信研究院）
我们介绍数据多样化：一种简单但有效的策略，以提高神经机器翻译（NMT）的性能。它通过使用多个前向和后向模型的预测来使训练数据多样化，然后将它们与训练最终NMT模型的原始数据集合并。我们的方法适用于所有的NMT模型。它不需要额外的单语数据，如反向翻译，也不需要增加更多的计算和参数，如模型的集合。我们的方法在WMT'14英-德和英-法翻译任务中分别获得了30.7和43.7的BLEU分数。它还大幅改进了其他8项翻译任务：4项IWSLT任务（英语-德语和英语-法语）和4项低资源翻译任务（英语-尼泊尔语和英语-僧伽罗语）。我们证明了我们的方法比知识蒸馏和双重学习更有效，它与模型集合具有很强的相关性，并且可以用困惑来换取更好的BLEU分数。我们已经在https://github.com/nxphi47/data_diversification上发布了源代码
2020-10-04 cs.CL cs.LG
Unsupervised Pivot Translation for Distant Languages
University of Science and Technology of China（中国科学技术大学）；Microsoft Research（微软研究院）；Microsoft Research Asia（微软亚洲研究院）
无监督神经机器翻译（NMT）近年来引起了广泛的关注。虽然用于无监督翻译的最先进的方法通常在相似的语言之间表现良好（例如，英语-德语翻译），它们在遥远的语言之间表现不佳，因为无监督对齐对于遥远的语言不起作用。在这项工作中，我们引入了无监督的枢轴翻译远距离语言，它通过多跳将一种语言翻译成远距离语言，并且每一跳的无监督翻译比原始的直接翻译相对容易。我们提出了一个学习路由（LTR）的方法来选择源语言和目标语言之间的翻译路径。LTR在最佳翻译路径可用的语言对上进行训练，并应用于未见过的语言对以进行路径选择。在20种语言和294个远距离语言对上的实验证明了无监督枢轴翻译对远距离语言的优势，以及所提出的LTR路径选择的有效性。具体来说，在最好的情况下，LTR比传统的直接无监督方法提高了5.58个BLEU点。
2019-06-25 cs.AI cs.CL cs.LG
An Automatic Quality Metric for Evaluating Simultaneous Interpretation
Nara Institiute of Science and Technology（奈良科学技术大学）；Rikkyo University（立教大学）
本文提出一种基于秩相关系数和跨语言预训练语言模型的自动指标，用于评估同声传译与同声机器翻译中的词序同步，并在两个数据集上验证其有效性。
2025-01-10 cs.CL
Lost Before Translation: Social Information Transmission and Survival in AI-AI Communication
University of Southern California（南加州大学）
研究探讨了人工智能间信息传递中社会信息的传递与生存机制，揭示了信息在传递过程中出现的收敛、选择性生存和竞争过滤现象，以及其对人类认知和情感多样性的影响。
2026-01-21 cs.CL cs.HC
Phrase translation using a bilingual dictionary and n-gram data: A case study from Vietnamese to English
University of Colorado, Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
过去使用基于词典的方法将L1语言中的短语翻译成L2语言的方法需要语法规则来重构初始翻译。本文介绍了一种新的方法，不使用任何语法规则，翻译一个给定的短语在母语中，这是不存在的字典，到二语。我们需要至少一个L1-L2双语词典和L2中的n-gram数据。我们翻译的平均人工评估分数为4.29/5.00，这意味着非常高的质量。
2022-08-05 cs.CL
Smart Speech Segmentation using Acousto-Linguistic Features with look-ahead
Microsoft Corporation（微软公司）
连续自动语音识别（ASR）的分割传统上使用静音超时或语音活动检测器（VAD），这两者都限于声学特征。这种分割往往过于激进，因为人们在说话时会自然地停下来思考。因此，分割发生在句子中间，阻碍了标点符号和下游任务，如机器翻译，高质量的分割是至关重要的。利用声学特征的基于模型的分割方法是强大的，但如果不了解语言本身，这些方法是有限的。我们提出了一种混合的方法，利用声学和语言信息，以提高分割。此外，我们表明，包括一个字作为前瞻提高分割质量。平均而言，我们的模型将分割F0.5分数提高了9.8%。我们表明，这种方法适用于多种语言。对于机器翻译的下游任务，它将翻译BLEU评分平均提高了1. 05分。
2022-10-27 cs.CL cs.SD eess.AS
Does BLEU Score Work for Code Migration?
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；Iowa State University（爱荷华州立大学）
统计机器翻译（SMT）是计算语言学的一个快速发展的分支。到目前为止，衡量SMT质量最流行的自动度量标准是双语评估替补（BLEU）分数。最近，SMT与BLEU度量一起被应用于名为代码迁移的软件工程任务。验证BLEU评分的使用可以促进基于SMT的代码迁移工具的研究和开发。不幸的是，没有研究批准或不批准对源代码使用BLEU评分。在本文中，我们进行了一个实证研究的BLEU评分（中）验证其适用于代码迁移任务，由于其无法反映源代码的语义。在我们的工作中，我们使用人类的判断作为地面真理来衡量迁移代码的语义正确性。我们的实证研究表明，BLEU不反映翻译质量，由于其弱相关性的翻译代码的语义正确性。我们提供了反例来证明BLEU在比较基于SMT的模型之间的翻译质量方面是无效的。由于BLEU的代码迁移任务的无效性，我们提出了一个替代度量RUBY，它考虑了源代码的词法，语法和语义表示。我们验证了RUBY与迁移代码的语义正确性达到了更高的相关系数，0.775，而BLEU得分为0.583。我们还证实了RUBY在反映基于SMT的翻译模型的翻译质量变化方面的有效性。RUBY的优点使得它可以用来评估基于SMT的代码迁移模型。
2019-06-12 cs.CL cs.SE
The Blindness of Document-Level Translation Evaluation
AI-Bio Convergence Research Inst.（AI-生物融合研究所）；ETH Zurich（苏黎世联邦理工学院）；Soongsil University（崇实大学）；School of Software（软件学院）；Dept. of Intelligent Semiconductors（智能半导体系）
本研究通过反事实混合段落实验，发现文档级翻译评估的得分、排名和错误标注在连贯与不连贯文档间无显著差异，表明评估协议存在盲区，未能有效捕捉文档级质量。
2026-09-09 cs.CL cs.HC
Recognition and translation Arabic-French of Named Entities: case of the Sport places
MIRACL, University of Sfax（斯法克斯大学MIRACL研究所）；Marin Mersenne, University Paris1（巴黎第一大学马林·梅森研究所）；Panthéon Sorbonne（先贤祠-索邦大学）；LASELDI, University of Franche-Comte（弗朗什-孔泰大学LASELDI实验室）
阿拉伯语命名实体的识别是自然语言处理（NLP）领域中的一个重要问题。事实上，NE翻译允许访问多语言信息。这种翻译并不总是产生预期的结果，特别是当NE包含一个人名时。基于这个原因，为了改进翻译，我们可以音译NE的某些部分。在这种情况下，我们提出了一种方法，将翻译和音译在一起。我们使用了基于本地语法和转换器的语言学NooJ平台。在本文中，我们专注于体育领域。我们将首先建议在MUC会议上提出的类型模型的改进，我们将描述一个阿拉伯语音译模块到翻译系统的集成。最后，我们将详细介绍我们的方法，并给出评估结果。
2010-05-31 cs.CL
The 2020s Political Economy of Machine Translation
University of California, Berkeley（加州大学伯克利分校）
本文探讨机器翻译技术如何减少语言多样性对通信和贸易的阻碍，但指出该技术在打破边界方面存在不均衡，对思想传播和经济增长带来新挑战。
2020-11-02 cs.CL cs.CY
It's Easier to Translate out of English than into it: Measuring Neural Translation Difficulty by Cross-Mutual Information
University of Copenhagen（哥本哈根大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）；Tokyo Institute of Technology（东京工业大学）
神经机器翻译系统的性能通常用BLEU来评估。然而，由于其依赖于目标语言属性和生成，BLEU度量不允许评估哪些翻译方向更难以建模。在本文中，我们提出了交叉互信息（XMI）：一个不对称的信息理论度量的机器翻译难度，利用大多数神经机器翻译模型的概率性质。XMI允许我们更好地评估将文本翻译成目标语言的难度，同时控制独立于翻译任务的目标端生成组件的难度。然后，我们提出了第一个系统和控制的跨语言翻译困难的研究，使用现代神经翻译系统。复制我们实验的代码可以在https://github.com/e-bug/nmt-difficulty上找到。
2020-05-17 cs.CL
An Algorithm for Aligning Sentences in Bilingual Corpora Using Lexical Information
在本文中，我们描述了一个算法，在双语语料库中使用的词汇信息的语言与他们的翻译对齐的句子。现有的有效算法忽略了词的身份，只考虑句子的长度（布朗，1991年;盖尔和教会，1993年）。对于源语言文本中的一个句子，该算法利用词汇信息和一定的语义学从目标语言文本中挑选最可能的翻译。它不使用句子长度进行统计分析。该算法是语言独立的。它还有助于检测翻译中文本的添加和删除。该算法在大多数情况下给出了与现有算法相当的结果，而在统计算法没有给出良好结果的情况下，它做得更好。
2003-02-12 cs.CL
KoBE: Knowledge-Based Machine Translation Evaluation
Google Research（谷歌研究院）
我们提出了一种简单有效的机器翻译评估方法，它不需要参考译文。我们的方法基于（1）将每个源句和候选翻译中的实体提及与大规模多语言知识库进行比较，以及（2）测量候选中发现的接地实体与源中发现的接地实体的召回。我们的方法在WMT 19基准测试的18种语言对中的9种语言对上实现了与人类判断的最高相关性，这是单一评估方法在这项任务中获胜的最多。在4种语言对上，我们也比BLEU实现了更高的与人类判断的相关性。为了促进进一步的研究，我们发布了一个数据集，其中包含来自WMT19度量跟踪数据的18种语言对的180万个接地实体提及。
2020-09-23 cs.CL
Large-Scale Self- and Semi-Supervised Learning for Speech Translation
Facebook AI
在本文中，我们提高语音翻译（ST），通过有效地利用大量的未标记的语音和文本数据在不同的和互补的方式。我们通过使用大型Libri-Light语音音频语料库和CommonCrawl语言建模来探索预训练和自我训练。我们的实验通过结合wav 2 vec 2.0预训练的简单配方，将所有四个考虑的CoVoST 2语言对平均提高了2.6 BLEU，自训练和解码的单次迭代与语言模型相结合。与现有的工作不同，我们的方法不利用ST数据以外的任何其他监督。代码和模型将公开发布。
2021-04-14 cs.CL
Learning aligned embeddings for semi-supervised word translation using Maximum Mean Discrepancy
Interdepartmental Neuroscience Program（跨系神经科学项目）；Yale School of Medicine（耶鲁医学院）
词汇翻译是语言翻译的一个组成部分。在机器翻译中，每种语言都被认为是一个域，具有自己的词嵌入。词嵌入之间的对齐允许在多语言上下文中链接语义上等同的词。此外，它提供了一种方法来推断跨语言意义的话，没有直接翻译。用于词嵌入对齐的当前方法是有监督的，即它们需要已知的词对，或者以无监督的方式学习固定嵌入上的跨域变换。在这里，我们提出了一个端到端的词嵌入对齐方法，不需要已知的词对。我们的方法称为通过MMD（WAM）进行单词对齐，它使用嵌入之间的本地化最大平均离散度（MMD）约束来学习在句子翻译训练期间对齐的嵌入。我们表明，我们的方法不仅优于无监督的方法，但也有监督的方法，训练已知的单词翻译。
2020-06-20 cs.CL cs.LG
