Overcoming Non-monotonicity in Transducer-based Streaming Generation
University of Chinese Academy of Sciences（中国科学院大学）
本研究通过引入可学习的单调注意力机制，将Transducer解码与输入流历史结合，利用前向-后向算法推断对齐后验概率以估计上下文表示，有效解决了流式生成中的非单调对齐问题。
2025-05-28 cs.AI cs.CL
Identifying Semantic Divergences in Parallel Text without Annotations
University of Maryland（马里兰大学）；Department of Computer Science（计算机科学系）；College Park, MD 20742, USA（美国马里兰州学院公园市）
认识到即使是正确的翻译也不总是语义等价的，我们使用双语语义相似性的深度神经模型自动检测平行句子对中的意义分歧，该模型可以针对任何平行语料库进行训练，而无需任何手动注释。我们表明，我们的语义模型检测分歧更准确地比模型的基础上来自单词对齐的表面特征，这些分歧的神经机器翻译的问题。
2018-03-29 cs.CL
To Diverge or Not to Diverge: A Morphosyntactic Perspective on Machine Translation vs Human Translation
Google Translate Research（谷歌翻译研究院）
本研究从形态句法发散视角对比机器翻译与人工翻译，发现机器翻译因束搜索算法而更保守且收敛，且人工翻译中的发散现象会导致机器翻译性能下降。
2024-01-02 cs.CL
Building Metadata Inference Using a Transducer Based Language Model
Macquarie University（麦考瑞大学）；Commonwealth Scientific and Industrial Research Organisation（联邦科学与工业研究组织）
解决楼宇自动化系统文本元数据的自动机器翻译挑战是高效部署智能楼宇应用程序的关键第一步。与一般的自然语言相比，用于描述建筑物元数据的词汇表显得很小，但是每个术语都有多个常用的缩写。传统的机器学习技术效率低下，因为它们需要学习同一个单词的许多不同形式，并且必须使用大量数据来训练这些模型。也很难应用标准技术，如标记化，因为这通常会导致多个输出标签与单个输入标记相关联，这是传统序列标记模型所不允许的。有限状态转换器可以对输入和输出序列长度不同的序列到序列任务进行建模，并且它们可以与语言模型组合以确保生成有效的输出序列。我们进行了初步的分析，使用基于转换器的语言模型来解析和规范化构建点元数据。
2022-12-05 cs.AI cs.CL
Feature-based Decipherment for Large Vocabulary Machine Translation
University of Rochester（罗切斯特大学）
跨语言的正字法相似性为概率破译提供了强有力的信号，特别是对于密切相关的语言对。现有的解码模型，但是，不太适合利用这些正字法的相似性。我们提出了一个对数线性模型的潜变量，采用正交相似性功能。对于所提出的对数线性模型，最大似然训练在计算上昂贵。为了解决这一挑战，我们通过MCMC采样和对比发散进行近似推理。我们的研究结果表明，提出的对数线性模型与对比发散规模大的词汇，并通过利用正字法功能优于现有的生成式解密模型。
2015-08-10 cs.CL
Convergences and Divergences between Automatic Assessment and Human Evaluation: Insights from Comparing ChatGPT-Generated Translation and Neural Machine Translation
School of Foreign Languages, Shanghai Jiao Tong University（上海交通大学外国语学院）；Department of Computer Science and Engineering, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系）；Institute of Corpus Studies and Applications, Shanghai International Studies University（上海外国语大学语料库研究与应用研究所）
本研究比较了ChatGPT与NMT系统的翻译质量，发现自动评估与人工评估在形式保真度上一致，但在语义和语用保真度上存在分歧，突显了人工判断的不可或缺性。
2024-10-12 cs.AI cs.CL
Adaptive Policy with Wait-$k$ Model for Simultaneous Translation
South China University of Technology（华南理工大学）；Hong Kong Polytechnic University（香港理工大学）；Alibaba DAMO Academy（阿里巴巴达摩院）；ZheJiang University（浙江大学）
提出基于散度的自适应策略DaP，通过轻量级参数扩展冻结的wait-$k$模型，解耦策略与翻译模型，在翻译准确性和延迟间实现更优权衡。
2023-10-23 cs.CL
The USTC-NELSLIP Systems for Simultaneous Speech Translation Task at IWSLT 2021
University of Science and Technology of China（中国科学技术大学）；iFlytek Research（讯飞研究院）
本文介绍了中国科学技术大学-奈斯利普公司提交的IWSLT 2021同步语音翻译任务。我们提出了一种新的同声翻译模型，交叉注意增强转换器（CAAT），它将传统的RNN-T扩展到没有单调约束的序列到序列任务，例如，同声传译语音到文本（S2 T）和文本到文本（T2 T）的同声翻译任务的实验表明，CAAT实现了更好的质量-延迟权衡相比，\textit{wait-k}，以前的国家的最先进的方法之一。基于CAAT体系结构和数据增强，我们在这次评估活动中建立了S2 T和T2 T同声翻译系统。与去年的最佳系统相比，我们的S2 T同声翻译系统在所有延迟状态下平均提高了11.3 BLEU，我们的T2 T同声翻译系统平均提高了4.6 BLEU。
2021-07-09 cs.CL cs.SD eess.AS
Leveraging Auxiliary Domain Parallel Data in Intermediate Task Fine-tuning for Low-resource Translation
Microsoft（微软）；University of Moratuwa（莫拉图瓦大学）；University of Toronto（多伦多大学）
本文提出对预训练多语言序列到序列模型进行中间任务微调，以缓解低资源语言在领域特定神经机器翻译中因平行数据不足和领域分歧导致的性能下降问题。
2023-09-24 cs.CL
Mention Attention for Pronoun Translation
School of Information Science（信息科学学院）；Beijing Language and Culture University（北京语言大学）；Department of Computer Science（计算机科学系）；IT University of Copenhagen（哥本哈根信息技术大学）
本文针对机器翻译中的代词翻译难题，提出在解码器中引入 mention attention 模块和 mention 分类器，以额外关注源 mentions 并结合目标侧上下文，实验证明该方法提升了 WMT17 英德翻译的 BLEU 和 APT 分数且不影响整体翻译质量。
2024-12-19 cs.CL
Agreement-based Joint Training for Bidirectional Attention-based Neural Machine Translation
Baidu Inc.（百度公司）；Institute for Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院）；Tsinghua University（清华大学）
注意机制已被证明是有效的，在改善端到端的神经机器翻译。然而，由于自然语言之间复杂的结构差异，单向的基于注意力的模型可能只能捕获注意力的部分方面。我们提出了基于协议的双向注意力端到端神经机器翻译的联合训练。我们的方法不是独立地训练源到目标和目标到源翻译模型，而是鼓励这两个互补的模型在相同的训练数据上就单词对齐矩阵达成一致。在汉英和英法翻译任务上的实验表明，基于一致性的联合训练比独立训练显著提高了对齐和翻译质量。
2016-04-22 cs.CL
Overcoming Latency Bottlenecks in On-Device Speech Translation: A Cascaded Approach with Alignment-Based Streaming MT
Meta AI.（Meta AI）
本文提出一种基于对齐的级联流式机器翻译方法，通过利用ASR语言线索和束搜索剪枝技术，在端侧实时语音翻译中有效平衡质量与延迟，缩小了与非流式系统的差距。
2025-08-18 cs.AI cs.CL
Large-Scale Streaming End-to-End Speech Translation with Neural Transducers
Microsoft（微软）
神经传感器在自动语音识别（ASR）中得到了广泛的应用。在本文中，我们将其引入流端到端语音翻译（ST），其目的是将音频信号直接转换为其他语言的文本。与执行ASR然后执行基于文本的机器翻译（MT）的级联ST相比，所提出的基于Transformer transducer（TT）的ST模型大大减少了推理延迟，利用了语音信息，并避免了从ASR到MT的错误传播。为了提高建模能力，我们提出了注意力池的联合网络在TT。此外，我们扩展了基于TT的ST多语言ST，它产生的文本在同一时间的多种语言。在大规模5万（K）小时伪标记训练集上的实验结果表明，基于TT的ST不仅显著减少了推理时间，而且在英-德翻译中的性能优于非流式级联ST。
2022-07-01 cs.CL eess.AS
A Challenge Set Approach to Evaluating Machine Translation
National Research Council Canada（加拿大国家研究委员会）；Google（谷歌）
神经机器翻译代表了翻译质量的一次令人兴奋的飞跃。但它解决了哪些长期存在的弱点，哪些仍然存在？我们解决这些问题的挑战集的翻译评估和错误分析的方法。挑战集由一小部分句子组成，每个句子都是手工设计的，以探测系统在语言之间弥合特定结构差异的能力。为了验证这种方法，我们提出了一个英语-法语挑战集，并使用它来分析基于短语和神经系统。由此产生的分析不仅提供了一个更细粒度的图片神经系统的优势，但也洞察到语言现象仍然遥不可及。
2017-08-29 cs.CL
Data Augmentation for Sign Language Gloss Translation
Bar-Ilan University（巴伊兰大学）；Carnegie Mellon University（卡内基梅隆大学）；Allen Institute for AI（艾伦人工智能研究所）
手语翻译（英语：Sign language translation，缩写为手语翻译）通常被分解为视频到注释识别和注释到文本翻译，其中注释是按照它们被签名的顺序转录的口语单词的序列。我们在这里专注于注释到文本的翻译，我们将其视为低资源神经机器翻译（NMT）问题。然而，与传统的低资源NMT不同，注释到文本的翻译不同，因为注释-文本对通常具有比口语对更高的词汇重叠和更低的句法重叠。我们利用这种词汇重叠和处理句法分歧，提出了两个基于规则的语法生成伪平行的单语口语文本的注释文本对。通过对由此获得的合成数据进行预训练，我们将美国手语（ASL）到英语和德国手语（DGS）到德语的翻译分别提高了3.14和2.20 BLEU。
2021-05-16 cs.CL
Explaining with Contrastive Phrasal Highlighting: A Case Study in Assisting Humans to Detect Translation Differences
Google（谷歌）；University of Maryland（马里兰大学）
本文提出短语对齐引导擦除的对比性高亮解释方法，用于解释语义分歧模型，并在检测跨语言语义差异和机器翻译错误上优于传统显著性技术。
2023-12-04 cs.CL
A Challenge Set for French --> English Machine Translation
National Research Council Canada（加拿大国家研究委员会）
我们基于Isabelle，Cherry和Foster（EMNLP 2017）中介绍的方法为法语-英语机器翻译提出了一个挑战集。这样的挑战集由预期机器相对难以正确翻译的句子组成，因为它们最直接的翻译往往在语言上是不同的。我们在这里提出了一套506手动构建的法语句子，其中307是针对相同的结构分歧，在上述文件。剩下的199个句子旨在测试系统正确翻译介词等语法困难的单词的能力。我们报告了使用此挑战集在两个不同日期（2017年10月和2018年1月）测试两个不同系统（即Google翻译和DEEPL）的结果。所有由此产生的数据都是公开的。
2018-06-15 cs.CL
Neural Machine Translation into Language Varieties
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；MMT Srl（MMT有限公司）
到目前为止，无论是研究还是商业机器翻译都忽视了正确处理语言变体之间拼写、词汇和语法差异的重要性。值得注意的例子是标准的国家品种，如巴西和欧洲葡萄牙语，加拿大和欧洲法语，流行的在线机器翻译服务没有保持区分。我们表明，一个明显的副作用，建模等品种独特的类是产生不一致的翻译。在这项工作中，我们研究了从英语到特定语言变体对的神经机器翻译的训练问题，假设标记和未标记的并行文本以及低资源条件。我们报告的实验，从英语到两对方言，欧洲巴西葡萄牙语和欧洲加拿大法语，和两对标准化的品种，塞尔维亚语和马来语。当翻译成类似的语言被学习为具有共享表示的多语言任务时，我们显示出比基线系统显著的BLEU分数改善。
2018-11-02 cs.CL
HENT-SRT: Hierarchical Efficient Neural Transducer with Self-Distillation for Joint Speech Recognition and Translation
CLSP JHU（杰斯罗大学计算机科学与工程系）；HLTCOE JHU（杰斯罗大学人类语言技术与计算机工程系）；Xiaomi（小米公司）
提出HENT-SRT框架，通过任务分解、CTC一致性自蒸馏、层级高效编码器及空白惩罚，在保持ASR性能的同时提升语音翻译质量并降低训练成本。
2025-06-02 cs.CL eess.AS
LAMASSU: Streaming Language-Agnostic Multilingual Speech Recognition and Translation Using Neural Transducers
Microsoft（微软）
提出LAMASSU模型，基于神经转换器实现流式语言无关的多语言语音识别与翻译，通过四种方法大幅减小模型尺寸并达到单语ASR和双语ST模型的性能。
2023-10-19 cs.CL cs.SD eess.AS
Label-Synchronous Neural Transducer for E2E Simultaneous Speech Translation
University of Cambridge（剑桥大学）
本文提出标签同步神经转导器LS-Transducer-SST，通过自回归积分发放机制和延迟可控AIF实现同声传译中的流式与重排序，并利用单语文本缓解数据稀疏，在质量-延迟权衡上优于现有方法。
2024-06-06 cs.CL eess.AS
Regularizing Neural Machine Translation by Target-bidirectional Agreement
University of Science and Technology of China（中国科学技术大学）；Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Research Asia（微软亚洲研究院）
虽然神经机器翻译（NMT）在过去的几年里取得了显著的进展，但大多数NMT系统仍然存在与其他序列生成任务一样的根本缺点：生成过程早期产生的错误作为模型的输入，并且可以迅速放大，从而损害后续的序列生成。为了解决这个问题，我们提出了一种新的模型正则化方法用于NMT训练，其目的是提高从左到右（L2 R）和从右到左（R2 L）NMT解码器生成的翻译之间的一致性。这个目标是通过在NMT训练目标中引入两个Kullback-Leibler散度正则化项来实现的，以减少L2 R和R2 L模型的输出概率之间的失配。此外，我们还采用了一种联合训练策略，使L2 R和R2 L模型在交互式更新过程中相互改进。实验结果表明，我们提出的方法显着优于国家的最先进的基线上的中-英和英-德翻译任务。
2018-11-12 cs.CL
Revamping Multilingual Agreement Bidirectionally via Switched Back-translation for Multilingual Neural Machine Translation
The Chinese University of Hong Kong（香港中文大学）；Microsoft Corporation（微软公司）
针对多语言神经机器翻译中多语言一致性方法依赖平行数据且优化方向模糊的问题，提出BMA-SBT框架，通过切换反向翻译生成合成文本并双向优化一致性，在三个基准上显著提升性能。
2023-05-15 cs.CL
Crosslingual Optimized Metric for Translation Assessment of Indian Languages
本文针对印度语言翻译自动评估数据匮乏问题，构建覆盖13种语言、21个翻译方向的人工评估数据集，并训练神经指标COMTAIL，在涉及印度语言的翻译对评估上显著超越现有方法。
2025-09-22 cs.CL
A Computational Approach to Measuring the Semantic Divergence of Cognates
University of Bucharest（布加勒斯特大学）
意义是跨文化交际的基石。语言是不断变化的，单词的含义也会因各种原因而变化。相关语言的语义差异是历史语言学关注的一个重要问题。在本文中，我们研究跨语言的语义分歧，通过测量语义相似性的同源集在多种语言。我们提出的方法是基于跨语言的词嵌入。在本文中，我们实现和评估我们的方法对英语和五个浪漫的语言，但它可以很容易地扩展到任何语言对，只需要大型单语语料库所涉及的语言和一个小的双语词典对。这种语言不可知论的方法有利于定量分析同源词的分歧-通过计算同源词对之间的语义相似度-并提供识别假朋友的见解。作为第二个贡献，我们制定了一个简单的方法来检测虚假的朋友，并引入了“软假朋友”和“硬假朋友”的概念，以及衡量的程度“虚假”的虚假朋友对。此外，我们还提出了一种算法，可以输出纠正虚假朋友的建议，这可能会成为语言学习或翻译的一个非常有用的工具。
2020-12-02 cs.CL
Streaming Speaker Change Detection and Gender Classification for Transducer-Based Multi-Talker Speech Translation
Microsoft（微软公司）
本文提出将说话人嵌入整合到基于 Transducer 的流式端到端语音翻译模型中，以同时实现多说话人场景下的流式说话人变更检测与性别分类，实验验证了该方法的高准确率。
2025-02-04 cs.AI cs.CL cs.SD
Translation as a Decision Space: A Multi-Agent Perspective on Low-Resource Dialect Generation
Sakarya University（萨卡里亚大学）；TU Clausthal（克劳斯塔尔工业大学）；University of Luxembourg（卢森堡大学）；Luxembourg Institute of Science and Technology（卢森堡科学技术研究院）
该研究将翻译视为多智能体探索的决策空间，针对土耳其语-叙利亚阿拉伯语翻译开展实证研究，提出可解释低资源方言生成的框架，轻量稳定化可提升方言标记使用量并降低结构不稳定性。
2026-09-04 cs.AI cs.CL
Exploiting Domain-Specific Parallel Data on Multilingual Language Models for Low-resource Language Translation
School of Mathematical and Computational Sciences, Massey University（马歇尔大学数学与计算科学学院）；Mila – Quebec AI Institutes（魁北克人工智能研究院）；Computer Science, Ontario Technology University and University of Toronto（安大略技术大学与多伦多大学计算机科学系）
本文研究了如何通过领域特定平行数据提升低资源语言翻译效果，探讨了预训练和微调技术对模型性能的影响，并提出优化策略。
2026-03-26 cs.CL
On the Off-Target Problem of Zero-Shot Multilingual Neural Machine Translation
Peking University（北京大学）；Microsoft Research（微软研究院）
针对零样本多语言神经机器翻译的脱靶问题，本文提出 LAVS 词汇构建算法，通过增大语言间 KL 散度将脱靶率由 29% 降至 8%，并平均提升 BLEU 1.9 分。
2023-06-02 cs.AI cs.CL
X-PARADE: Cross-Lingual Textual Entailment and Information Divergence across Paragraphs
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文构建首个跨语言段落级信息分歧数据集 X-PARADE，并评估机器翻译对齐、文本蕴含和 LLM 提示等方法，发现其均落后于人类表现。
2024-04-15 cs.CL
Towards Finite-State Morphology of Kurdish
Insight Centre for Data Analytics, National University of Ireland Galway（爱尔兰国立大学戈尔韦分校Insight数据分析中心）；University of Kurdistan Hewlêr（库尔德斯坦埃尔比勒大学）
词法分析是对词的构成和结构的研究。它在自然语言处理（NLP）和计算语言学（CL）的各种任务中发挥着至关重要的作用，例如机器翻译以及文本和语音生成。库尔德语是一种资源较少的多方言印欧语言，具有高度曲折的形态。本文首次尝试从计算的角度对库尔德语（索拉尼方言）的词法进行描述。我们提取的形态规则被转换成有限状态转换器生成和分析的话。这项研究的结果有助于进行语言生成的库尔德语的研究，并提高了信息检索（IR）的语言能力，同时利用库尔德语的NLP和CL到一个更先进的计算水平。
2020-05-21 cs.CL
Ara-HOPE: Human-Centric Post-Editing Evaluation for Dialectal Arabic to Modern Standard Arabic Translation
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Leids Universitair Medisch Centrum & LIACS, Universiteit Leiden（莱顿大学莱顿医学校区及LIACS）；School of Computer Science, University of Manchester（曼彻斯特大学计算机科学学院）
Ara-HOPE提出了一种人本后编辑评估框架，用于评估方言阿拉伯语到标准阿拉伯语翻译的质量，揭示了方言特定术语和语义保持的挑战，为改进方言感知MT系统提供指导。
2026-02-14 cs.CL
Addressing the Length Bias Problem in Document-Level Neural Machine Translation
University of Chinese Academy of Sciences（中国科学院大学）；School of Future Science and Engineering, Soochow University（苏州大学未来科学与工程学院）
针对文档级神经机器翻译中因文档长度差异导致的翻译质量下降问题，提出动态采样、长度归一化注意力机制和滑动窗口解码策略，有效缓解了长度偏差并提升了多个数据集上的翻译质量。
2023-11-20 cs.CL
On the Relation between Syntactic Divergence and Zero-Shot Performance
Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Stockholm University（斯德哥尔摩大学）；University of Stuttgart（斯图加特大学）
我们探讨之间的联系，在何种程度上保留在翻译中的句法关系和容易正确地构建一个分析树在zero-shot设置。虽然以前的工作表明这样的关系，它往往集中在宏观层面上，而不是在个人的边缘水平上的差距，我们的目标是解决。作为一个测试案例，我们采取的通用语法分析（UD）从英语到一组不同的语言，并进行两组实验。在一个，我们分析了zero-shot性能的基础上，在何种程度上英语源边缘保留在翻译。在另一个，我们应用三种语言动机的转换UD，创造更多的跨语言稳定的版本，并评估其zero-shot的可解析性。为了比较不同方案的解析性能，我们使用翻译成俄语和韩语的流行英语RE基准的子集对跨语言关系抽取（RE）的下游任务进行外部评估。在这两组实验中，我们的结果表明，跨语言的稳定性和zero-shot解析性能之间有很强的关系。
2021-10-09 cs.CL cs.LG
Disentangling Uncertainty in Machine Translation Evaluation
Instituto de Telecomunicações（电信研究所）；Unbabel；INESC-ID（里斯本系统与计算机工程研究所）；Instituto Superior Técnico（高等技术学院）；LUMLIS (Lisbon ELLIS Unit)（LUMLIS（里斯本ELLIS单元））
机器翻译（MT）的可训练评估指标与人类判断具有很强的相关性，但它们通常很难解释，并且可能在噪声或域外数据下产生不可靠的分数。最近的工作试图用简单的不确定性量化技术（蒙特卡洛丢弃和深度集成）来减轻这一点，但是这些技术（如我们所示）在几个方面受到限制-例如，它们无法区分不同类型的不确定性，并且它们消耗时间和内存。在本文中，我们提出了更强大，更有效的不确定性预测MT评估，我们评估他们的能力，针对不同来源的任意和认识的不确定性。为此，我们开发和比较COMET度量的训练目标，以增强其不确定性预测输出，包括异方差回归，发散最小化和直接不确定性预测。我们的实验表明，WMT指标任务数据集的不确定性预测结果得到了改善，计算成本大幅降低。此外，他们证明了这些预测的能力，以解决特定的不确定性原因在MT评价，如低质量的参考和域外数据。
2022-11-30 cs.CL
Layer-Wise Multi-View Learning for Neural Machine Translation
Machine Intelligence Technology Lab, Alibaba DAMO Academy（阿里巴巴达摩院机器智能技术实验室）；Kingsoft AI Lab（金山人工智能实验室）；Institute of Advanced Technology, Westlake Institute for Advanced Study（西湖先进研究院先进技术研究所）；School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院）；NiuTrans Research（牛译研究（NiuTrans Research））
传统的神经机器翻译仅限于最顶层编码器层的上下文表示，不能直接感知较低的编码器层。现有的解决方案通常依赖于网络结构的调整，使计算更加复杂或引入额外的结构限制。在这项工作中，我们提出了分层多视图学习来解决这个问题，避免了改变模型结构的必要性。我们将每个编码器层的现成输出（逐层编码中的副产品）视为输入句子的冗余视图。通过这种方式，除了最顶层的编码器层（称为主视图）之外，我们还合并了一个中间编码器层作为辅助视图。我们将两个视图馈送到部分共享的解码器以保持独立的预测。基于KL散度的一致性正则化用于鼓励两个视图相互学习。在五个翻译任务上的广泛实验结果表明，我们的方法在多个强基线上产生了稳定的改进。作为另一个好处，我们的方法对网络架构是不可知的，并且可以保持与原始模型相同的推理速度。
2020-11-03 cs.CL
Cross-Modal Multi-Tasking for Speech-to-Text Translation via Hard Parameter Sharing
Carnegie Mellon University（卡内基梅隆大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；George Mason University（乔治梅森大学）；Yahoo Japan Corporation（雅虎日本公司）
本文提出硬参数共享的ST/MT多任务框架，通过预处理将语音和文本转为长度相近的离散token序列以缩小模态差距，在MuST-C上显著提升多种ST架构并增强外部MT数据与预训练文本模型的利用效果。
2023-09-27 cs.CL cs.SD eess.AS
Self-Attention with Cross-Lingual Position Representation
The University of Sydney（悉尼大学）；Tencent AI Lab（腾讯人工智能实验室）
位置编码（PE）是自注意网络（SAN）的重要组成部分，用于保存自然语言处理任务的词序信息，为输入序列生成固定的位置索引。然而，在跨语言场景中，例如机器翻译，源和目标句子的PE被独立地建模。由于不同语言中的词序差异，对跨语言位置关系进行建模可能有助于SAN解决这个问题。在本文中，我们增加SAN与\emph{cross-lingual position representations}模型的双语意识的潜在结构的输入句子。具体来说，我们利用括号转导语法（BTG）为基础的重新排序信息，以鼓励SAN学习双语对角线对齐。在WMT'14英语$\Rightarrow$德语、WAT'17日语$\Rightarrow$英语和WMT'17中文$\Leftrightarrow$英语翻译任务上的实验结果表明，我们的方法在强基线上显著且一致地提高了翻译质量。大量的分析证实，性能增益来自跨语言的信息。
2020-11-21 cs.CL
Improving English to Sinhala Neural Machine Translation using Part-of-Speech Tag
University of Moratuwa（莫拉图瓦大学）
神经机器翻译（NMT）的性能很大程度上取决于可用并行语料库的大小。由于这个事实，与高资源语言对相比，低资源语言对表现出较低的翻译性能。当对形态丰富的语言执行NMT时，翻译质量进一步降低。尽管网络包含大量信息，但斯里兰卡的大多数人无法正确阅读和理解英语。因此，需要将英语内容翻译成当地语言，以便在当地人之间共享信息。僧伽罗语是斯里兰卡的主要语言，由于这两种语言在低资源限制下的句法差异，建立一个能够产生高质量英语到僧伽罗语翻译的NMT系统是困难的。因此，在这项研究中，我们探索有效的方法，将词性（POS）标签的Transformer输入嵌入和位置编码，以进一步提高基线英语到僧伽罗语神经机器翻译模型的性能。
2022-02-17 cs.CL cs.LG
CharSpan: Utilizing Lexical Similarity to Enable Zero-Shot Machine Translation for Extremely Low-resource Languages
IIT Hyderabad（印度理工学院海得拉巴分校）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Microsoft（微软公司）
本文提出CharSpan方法，通过字符跨度噪声增强利用高资源语言与极低资源语言的词汇相似性，实现零样本机器翻译，在多个语系上达到最先进性能。
2024-02-04 cs.CL
Towards Zero-Shot Multimodal Machine Translation
Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；PSL Research University（巴黎文理研究大学）
本文提出 ZeroMMT，仅用多模态英语数据，通过视觉条件掩码语言建模和 KL 散度目标适配文本机器翻译模型，在多个基准上实现接近完全监督 MMT 的零样本多模态翻译性能，并将评估扩展到阿拉伯语、俄语和中文。
2025-03-11 cs.CL
Can the Variation of Model Weights be used as a Criterion for Self-Paced Multilingual NMT?
HEIG-VD / HES-SO；EPFL（洛桑联邦理工学院）；Armasuisse W+T
针对数据稀缺场景下的多对一神经机器翻译训练，提出基于Transformer层间平滑KL散度判断权重变化、动态切换小批量语言的自步算法，实验显示其效果优于交替单语言批次但弱于混洗批次。
2024-10-05 cs.CL
Self-Speculative Biased Decoding for Faster Re-Translation
Zoom Communications, Inc（Zoom通讯公司）
SSBD通过利用流式翻译中的时间一致性，实现重译的加速，同时保持翻译质量，无需额外调优。
2026-01-04 cs.AI cs.CL cs.LG
Discontinuous Grammar as a Foreign Language
Universidade da Coruña（拉科鲁尼亚大学）；CITIC（信息与通信技术研究中心）
为了实现自然语言的深层理解，句法成分分析是一个重要的步骤，许多人工智能系统都高度要求处理文本和语音。最新的建议之一是使用标准的序列到序列模型来执行成分解析作为机器翻译任务，而不是应用特定于任务的解析器。虽然这些文本解析转换器表现出了竞争力，但在准确性、覆盖范围和速度方面仍然落后于经典技术。为了缩小差距，我们在这里扩展的框架序列到序列模型的成分分析，不仅通过提供一个更强大的神经架构，以提高其性能，而且还通过扩大其覆盖范围，以处理最复杂的句法现象：不连续结构。为此，我们设计了几种新的线性化，可以完全产生不连续性，并首次在主要的不连续基准上测试了序列到序列模型，获得了与特定任务的不连续成分解析器相当的竞争结果，并在（不连续）英语Penn Treebank上获得了最先进的分数。
2022-12-22 cs.CL
Neural Grammatical Error Correction with Finite State Transducers
University of Cambridge（剑桥大学）
语法纠错（GEC）是自然语言处理中纯神经模型尚未取代更传统的符号模型的领域之一。结合基于短语的统计机器翻译（SMT）和神经序列模型的混合系统是目前最有效的GEC方法之一。然而，SMT和神经序列到序列模型都需要大量的注释数据。基于语言模型的GEC（LM-GEC）是一种很有前途的替代方案，它不依赖于带注释的训练数据。我们展示了如何通过应用基于有限状态传感器的建模技术来改进LM-GEC。我们报告了通过神经语言模型重新评分的进一步收益。我们表明，我们的方法开发的LM-GEC也可以使用SMT系统，如果注释训练数据。我们最好的系统在CoNLL-2014测试集上的表现优于最好的公布结果，并在SMT基线上实现了比以前的混合系统更好的相对改进。
2019-04-05 cs.CL
Automated evaluation of LLMs for effective machine translation of Mandarin Chinese to English
本文通过自动化框架评估LLMs在中文到英文翻译中的表现，发现其在新闻翻译中表现良好，但在文学文本中存在性能差异，且文化细节和修辞表达仍需改进。
2026-02-15 cs.AI cs.CL
M3ST: Mix at Three Levels for Speech Translation
ByteDance AI Lab（字节跳动人工智能实验室）
如何解决端到端语音到文本翻译（ST）的数据稀缺问题？众所周知，数据增强是通过扩大数据集来提高许多任务性能的有效方法。在本文中，我们提出了混合在三个层次的语音翻译（M^3ST）方法，以增加的多样性增强训练语料库。具体来说，我们使用外部机器翻译（MT）数据，基于预训练模型进行两个阶段的微调。在第一阶段的微调中，我们在三个层次上混合训练语料，包括单词级，句子级和框架级，并使用混合数据对整个模型进行微调。在微调的第二阶段，我们将原始语音序列和原始文本序列并行放入模型中对网络进行微调，并使用Jensen-Shannon散度对其输出进行正则化。在MuST-C语音翻译基准测试和分析上的实验表明，M^3ST优于当前的强基线，在八个方向上达到了最先进的结果，平均BLEU为29.9。
2022-12-07 cs.CL cs.SD eess.AS
Semi-supervised Neural Machine Translation with Consistency Regularization for Low-Resource Languages
University of Science, VNUHCM（胡志明市国家大学科学学院）；Auburn University（奥本大学）
本文提出一种半监督NMT方法，结合交叉熵与KL散度并引入SentenceBERT过滤器增强数据质量，显著提升低资源语言翻译性能。
2023-04-02 cs.CL cs.LG
Curated Datasets and Neural Models for Machine Translation of Informal Registers between Mayan and Spanish Vernaculars
Universitat d’Alacant（阿利坎特大学）
本文构建并发布聚焦玛雅语与西班牙语日常非正式表达的 MayanV 平行语料，并训练神经翻译模型，证明通用资源难以反映真实语域。
2024-04-11 cs.CL cs.LG
Head Automata for Speech Translation
本文提出了统计语言和翻译模型的基础上收集的小有限状态机，我们称之为“头自动机”。这些模型旨在捕捉N-gram模型和直接统计翻译模型的词汇敏感性，同时考虑到语言的层次短语结构。两种类型的头自动机的定义：关系头自动机适合于翻译的依赖树的转移，和头传感器适合于直接递归词汇翻译。
1996-07-04 cmp-lg cs.CL
Learn to Talk via Proactive Knowledge Transfer
Facebook AI（Facebook 人工智能研究院）
知识转移已被应用于解决各种各样的问题。例如，知识可以在任务之间转移（例如，通过利用现有知识学习处理新情况）或在代理之间（例如，从别人那里学习，没有直接的经验）。不失一般性，我们将知识转移与KL-发散最小化联系起来，即，匹配学习者和教师的（信念）分布。这种对等性为我们理解KL-分歧的变体提供了一个新的视角，即通过观察学习者如何构建他们与教师的互动来获得知识。在本文中，我们提供了一个深入的分析，KL发散最小化在向前和向后的顺序，这表明，学习者通过同策略学习在向后加强。相反，学习者在Forward中受到监督。此外，我们的分析是基于梯度的，所以它可以推广到任意的任务，并帮助决定最小化任务的属性。通过在知识蒸馏中用向后替换向前，我们在WMT'17 De-En和IWMT'15 Th-En机器翻译任务上观察到+0.7-1.1 BLEU增益。
2020-08-23 cs.AI cs.CL cs.LG
Transcribing and Translating, Fast and Slow: Joint Speech Translation and Recognition
Meta AI
提出基于快-慢级联编码器和多目标训练的联合语音翻译与识别模型 JSTAR，在智能眼镜双语对话场景中同时实现高质量流式 ASR 和 ST，性能优于级联模型。
2024-12-19 cs.CL eess.AS
Adaptive Discounting of Implicit Language Models in RNN-Transducers
Indian Institute of Technology Bombay（印度理工学院孟买分校）；IBM Research（IBM研究院）
RNN-Transducer（RNN-T）模型已经成为流媒体端到端ASR系统的同义词。虽然它们在许多评估类别上具有竞争力，但稀有词对RNN-T模型构成了严峻的挑战。对稀有词的性能下降的一个主要原因是RNN-Ts内部的语言模型（LM）可能变得过于自信，并导致与潜在语音在声学上不一致的幻觉预测。为了解决这个问题，我们提出了一种轻量级的自适应LM折扣技术AdaptLMD，它可以与任何RNN-T架构一起使用，而不需要任何外部资源或额外的参数。AdaptLMD使用双管齐下的方法：1）随机屏蔽预测网络输出，以鼓励RNN-T不要过度依赖其输出。2)基于最近预测的令牌的稀有性以及ILM和隐式声学模型（IAM）分数之间的差异，动态选择何时对隐式LM（ILM）进行折扣。将AdaptLMD与具有竞争力的RNN-T基线进行比较，我们在会话，代码混合的印地语-英语ASR任务中分别获得了总体WER和稀有词PER的4%和14%的相对降低。
2022-02-21 cs.CL cs.LG
Denoising-based UNMT is more robust to word-order divergence than MASS-based UNMT
IIT Bombay（印度理工学院孟买分校）；IBM Research Lab（IBM研究实验室）
我们的目标是研究具有自我监督预训练的UNMT方法是否对语言对之间的语序分歧具有鲁棒性。我们通过比较两个具有相同自监督预训练目标的预训练模型来实现这一点。第一个模型在具有不同词序的语言对上训练，第二个模型在相同的语言对上训练，其中源语言被重新排序以匹配目标语言的词序。理想情况下，对词序分歧具有鲁棒性的UNMT方法在两种配置之间不应表现出明显的性能差异。在本文中，我们研究了两种基于自监督预训练的UNMT方法，即掩蔽序列到序列预训练（MASS）（没有洗牌噪声）和去噪自动编码器（DAE）（有洗牌噪声）。我们用五个英语$\rightarrow$印度语语言对进行实验，即，en-hi、en-bn、en-gu、en-kn和en-ta），其中源语言的词序是SVO（主语-动词-宾语），而目标语言的词序是SOV（主语-宾语-动词）。我们观察到，对于这些语言对，基于DAE的UNMT方法在翻译准确性方面始终优于MASS。此外，使用重新排序来弥合词序差距提高了基于MASS的UNMT模型的翻译准确性，而它不能提高基于DAE的UNMT模型的翻译准确性。这一观察结果表明，基于DAE的UNMT比基于MASS的UNMT对词序分歧更鲁棒。DAE方法中的混洗噪声可能是该方法对词序发散具有鲁棒性的原因。
2023-03-02 cs.CL
