On the Language Coverage Bias for Neural Machine Translation
Tsinghua University(清华大学);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院);Tencent AI Lab(腾讯AI实验室)
语言覆盖偏差(language coverage bias)是指源语言和目标语言的句子对之间依赖于内容的差异,对于神经机器翻译(NMT)来说是很重要的,因为目标语言-源语言训练数据在当前的实践中没有得到很好的利用。通过精心设计的实验,我们对训练数据中的语言覆盖偏差进行了全面的分析,发现仅使用源原始数据与使用完整的训练数据可以获得相当的性能。基于这些观察结果,我们进一步提出了两种简单有效的方法,通过明确区分源和目标原始训练数据来缓解语言覆盖偏差问题,这在六个WMT 20翻译任务上始终提高了强基线的性能。语言覆盖偏差是对回译效应的补充,它为回译导致的成绩下降提供了另一种解释。我们还将我们的方法应用于向后和向前翻译,并发现减轻语言覆盖偏差可以提高两种代表性数据增强方法及其标记变体的性能。
2021-06-07 cs.CL
Machine Translation Models are Zero-Shot Detectors of Translation Direction
Department of Computational Linguistics, University of Zurich(计算语言学系,苏黎世大学)
本研究提出一种基于翻译简化效应的无监督翻译方向检测方法,利用多语言机器翻译模型验证了其在高资源语言对上的有效性,对机器翻译和人工翻译均取得较高准确率。
2025-05-28 cs.CL
AdMix: A Mixed Sample Data Augmentation Method for Neural Machine Translation
Soochow University(苏州大学)
在神经机器翻译(NMT)中,诸如反向翻译的数据增强方法已经证明了它们在提高翻译性能方面的有效性。在本文中,我们提出了一种新的数据增强方法,这是独立于任何额外的训练数据的NMT。我们的方法,AdMix,包括两个部分:1)引入微弱的离散噪声(词替换,词丢弃,词交换)到原始的句子对,形成增强的样本; 2)产生新的合成训练数据,通过软混合的增强样本与它们的原始样本在训练语料库。在三个不同尺度的翻译数据集上的实验表明,AdMix在强Transformer基线上实现了显著的改进(1.0到2.7个BLEU点)。当与其他数据增强技术(例如,回译),我们的方法可以得到进一步的改进。
2022-05-10 cs.CL
Robustness Tests for Automatic Machine Translation Metrics with Adversarial Attacks
MBZUAI(穆罕默德·本·扎耶德人工智能大学);The University of Melbourne(墨尔本大学)
本文通过词级和字符级对抗攻击测试BERTScore、BLEURT和COMET三种机器翻译指标的鲁棒性,发现自动指标过度惩罚对抗退化翻译且BERTScore评分存在不一致性,为开发更鲁棒的指标提供了依据。
2023-11-01 cs.CL
Attaining the Unattainable? Reassessing Claims of Human Parity in Neural Machine Translation
University of Groningen(格罗宁根大学);Dublin City University(都柏林城市大学)
我们重新评估了最近的一项研究(Hassan等人,2018年)声称,机器翻译(MT)已经达到了将新闻从中文翻译成英文的人类平等,使用成对排名并考虑了之前研究中没有考虑的三个变量:测试集的源端最初编写的语言,评估人员的翻译能力,以及提供的跨语境。如果我们只考虑原始文本(即不是从另一种语言翻译过来的,或者是西班牙语),那么我们就会发现证据表明人类平等还没有实现。我们比较了专业翻译人员的判断与非专家的判断,发现专家的判断导致更高的注释者间的一致性和更好的区分人类和机器翻译。此外,我们还分析了测试集的人工翻译,并确定了重要的翻译问题。最后,基于这些研究结果,我们提供了一套建议,为未来的人类评估MT。
2018-08-30 cs.CL
Robust Neural Machine Translation: Modeling Orthographic and Interpunctual Variation
Tilde(Tilde 公司);University of Latvia(拉脱维亚大学)
神经机器翻译系统通常是在精选语料库上训练的,当遇到非标准的拼写或标点符号时会中断。然而,由于机器翻译系统被用于翻译聊天对话、社交媒体帖子和网页等非正式来源的文本,因此对拼写错误和错别字的适应能力至关重要。我们提出了一个简单的生成噪声模型来生成十种不同类型的对抗性示例。我们使用这些来增强机器翻译系统的训练数据,并表明,当在噪声数据上进行测试时,使用对抗性示例训练的系统在翻译干净数据时表现几乎一样好,而基线系统的性能下降了2 - 3个BLEU点。为了衡量机器翻译系统输出的鲁棒性和噪声不变性,我们使用原始句子及其噪声变体的翻译之间的平均翻译编辑率。使用这个指标,我们表明,与在干净数据上训练的基线相比,在对抗性示例上训练的系统平均产生50%的一致性改进。
2020-09-14 cs.CL
Unsupervised Pretraining for Neural Machine Translation Using Elastic Weight Consolidation
Charles University(查理大学);Faculty of Mathematics and Physics(数学与物理学院)
本文介绍了我们正在进行的神经机器翻译(NMT)无监督预训练研究。在我们的方法中,我们用两个用单语数据训练的语言模型初始化编码器和解码器的权重,然后使用弹性权重合并(EWC)在并行数据上微调模型,以避免忘记原始的语言建模任务。我们将EWC的正则化与以前的工作进行了比较,这些工作侧重于语言建模目标的正则化。积极的结果是,使用EWC与解码器实现BLEU分数类似于以前的工作。然而,该模型收敛速度快2-3倍,并且在微调阶段不需要原始未标记的训练数据。相比之下,如果原始任务和新任务不密切相关,则使用EWC的正则化效果较差。我们表明,初始化的双向NMT编码器与从左到右的语言模型,并迫使该模型记住原来的从左到右的语言建模任务限制了整个双向上下文的编码器的学习能力。
2020-10-19 cs.CL
Simplify-then-Translate: Automatic Preprocessing for Black-Box Machine Translation
Virginia Tech(弗吉尼亚理工大学);Netflix Inc.(奈飞公司)
黑盒机器翻译系统已被证明对各种应用程序非常有用,但在设计上很难适应,调整到特定的领域,或建立在其之上。在这项工作中,我们介绍了一种方法来改善这种系统,通过自动预处理(APP)使用句子简化。首先提出了一种利用黑盒机器翻译系统通过回译自动生成大型领域内释义语料库的方法,并利用该方法训练释义模型,使原句“简化”,更有利于翻译。该模型用于对多个低资源语言对的源语句进行预处理。我们表明,这种预处理导致更好的翻译性能相比,非预处理的源句子。我们进一步进行并排的人工评估,以验证简化句子的翻译比原始句子更好。最后,我们通过调查语言对的翻译容易程度(由BLEU测量)与该语言对的反向翻译产生的简化模型质量(由SARI测量)之间的关系,为生成简化模型语料库提供了一些建议语言对的指导,并将其与低资源翻译的下游任务联系起来。
2020-05-27 cs.CL
Unsupervised Identification of Translationese
University of Haifa(海法大学)
翻译文本与原始文本有着明显的不同,以至于监督文本分类方法可以高精度地区分它们。这些差异被证明是有用的统计机器翻译。然而,有人建议,翻译检测的准确性恶化时,分类器进行评估的领域之外,它是训练。我们表明,这确实是这样的,在各种评估方案。然后,我们表明,无监督分类是高度准确的这项任务。我们提出了一种方法来确定聚类结果的正确标签,然后使用标签进行投票,进一步提高准确性。此外,我们提出了一个简单的方法,在具有挑战性的情况下,混合域数据集的聚类,尽管领域相关的功能的优势,在相关的。其结果是一种有效的,完全无监督的方法,用于区分原始文本和翻译文本,可以以合理的准确度应用于新的领域。
2016-09-11 cs.CL
Fully Synthetic Data Improves Neural Machine Translation with Knowledge Distillation
University of Edinburgh(爱丁堡大学)
本文探讨了神经机器翻译中知识蒸馏的单语数据扩充。源语言单语文本可以作为正向翻译合并。有趣的是,我们发现最好的方法,以纳入目标语言单语文本是将其翻译到源语言和往返翻译回目标语言,从而在一个完全合成的语料库。我们发现,结合单语数据从源和目标语言产生更好的性能比语料库的两倍大,只有一种语言。此外,实验表明,改进依赖于测试集的出处。如果测试集最初使用的是源语言(目标端由翻译人员编写),则向前翻译源单语数据很重要。如果测试集最初是用目标语言编写的(源代码由翻译人员编写),那么合并目标单语数据就很重要。
2021-09-15 cs.CL
Towards Continual Learning for Multilingual Machine Translation via Vocabulary Substitution
Google Research(谷歌研究院)
我们提出了一个简单的词汇自适应方案,以扩展多语言机器翻译模型的语言能力,为多语言机器翻译的有效持续学习铺平了道路。我们的方法适用于大规模数据集,适用于具有看不见的脚本的遥远语言,对原始语言对的翻译性能只会产生轻微的退化,即使在我们只拥有新语言的单语数据的情况下,也能提供有竞争力的性能。
2021-03-11 cs.CL
Rethinking Document-level Neural Machine Translation
Nanjing University(南京大学);ByteDance AI Lab(字节跳动人工智能实验室);Peng Cheng Laboratory(鹏城实验室);University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文的目的不是介绍一种新的模型,用于文档级神经机器翻译。相反,我们回到最初的Transformer模型,并希望回答以下问题:当前模型的能力是否足以进行文档级翻译?有趣的是,我们观察到,采用适当训练技术的原始Transformer可以在文档翻译方面取得很好的效果,即使长度为2000个单词。我们评估了这个模型和最近的几种方法在九个文档级数据集和两个文档级数据集在六种语言。实验表明,文档级Transformer模型在BLEU、四个词汇索引、三个新提出的辅助语言指标和人工评价等一系列综合指标上优于文档级模型和许多先前的方法。
2022-03-14 cs.CL
CipherDAug: Ciphertext based Data Augmentation for Neural Machine Translation
Simon Fraser University(西蒙弗雷泽大学)
提出了一种新的基于ROT- $k$密文的神经机器翻译数据增强技术。ROT- $k$是一种简单的字母替换密码,它将明文中的一个字母替换为字母表中该字母之后的第$k$个字母。我们首先生成多个ROT- $k$密文使用不同的值的$k$的明文,这是并行数据的源端。然后,我们通过多源训练来利用这个加密训练数据以及原始并行数据来改进神经机器翻译。我们的方法CipherDAg使用了一个受共同正则化启发的训练过程,除了原始训练数据之外,不需要外部数据源,并使用标准的Transformer在几个数据集上以显著的优势胜过强大的数据增强技术。这种技术很容易与现有的数据增强方法相结合,在资源不足的情况下产生特别强的结果。
2022-04-01 cs.CL
Can Synthetic Translations Improve Bitext Quality?
University of Maryland(马里兰大学)
合成翻译已被广泛用于NLP任务,主要作为数据增强的一种手段。相反,这项工作探讨了如何合成翻译可以用来修改潜在的不完善的参考翻译挖掘的bitext。我们发现,合成样本可以提高bitext的质量,而无需任何额外的双语监督时,他们取代原来的语义等价分类,有助于减轻NMT噪声的基础上。通过人工评估和双语归纳和机器翻译任务的提取,从本质上证实了修改后的双语文本质量的提高。
2022-03-15 cs.CL
Towards User-Driven Neural Machine Translation
Xiamen University(厦门大学);Alibaba Group(阿里巴巴集团);Dalian University of Technology(大连理工大学);Pengcheng Lab(鹏城实验室)
一个好的译文不仅要在语义上译出原文的内容,而且要体现原文的个性特征。对于现实世界的神经机器翻译(NMT)系统,这些用户特质(例如,主题偏好、风格特征和表达习惯)可以被保存在用户行为中(例如,历史输入)。然而,目前的NMT系统边缘考虑用户行为,由于:1)在zero-shot场景中建模用户画像的困难,以及2)缺乏用户行为注释的并行数据集。为了填补这一空白,我们引入了一个新的框架,称为用户驱动的NMT。具体而言,基于缓存的模块和用户驱动的对比学习方法,提出了提供NMT的能力,以捕捉潜在的用户特征,从他们的历史输入下的零样本学习的时尚。在此基础上,我们建立了第一个标注用户行为的汉英平行语料库UDT-Corpus。实验结果表明,用户驱动的NMT可以生成用户特定的翻译。
2021-06-11 cs.CL
A Systematic Exploration of Text Decomposition and Budget Distribution in Differentially Private Text Obfuscation
Technical University of Munich School of Computation, Information and Technology Department of Computer Science(慕尼黑技术大学计算、信息与技术学院计算机科学系)
研究探讨了差分隐私文本模糊化中文本分解与预算分配方法的影响,发现不同分解和分配策略会导致显著不同的结果,验证了通过优化DP模糊化流程实现经验权衡的可行性。
2026-05-01 cs.CL
A Relaxed Optimization Approach for Adversarial Attacks against Neural Machine Translation Models
EPFL(洛桑联邦理工学院);Armasuisse S+T(瑞士军备局科学与技术部)
本研究针对神经机器翻译模型,提出基于连续松弛的离散优化对抗攻击方法,可生成语义相似的对抗样本,在多项指标上优于基线,还实现了黑盒攻击扩展。
2023-06-14 cs.CL
Bi-Directional Differentiable Input Reconstruction for Low-Resource Neural Machine Translation
University of Maryland(马里兰大学)
我们的目标是通过引入神经机器翻译(NMT)的可区分重建损失,更好地利用在低资源环境中可用的有限数量的并行文本。这种损失将原始输入与通过将翻译假设回译到输入语言中获得的重构输入进行比较。我们利用可微分采样和双向NMT来端到端地训练模型,而不引入额外的参数。这种方法在两个翻译方向上对四种语言对实现了小但一致的BLEU改进,并且优于基于隐藏状态的替代可微重建策略。
2019-04-03 cs.CL
SinoGlyphBench: A Diagnostic Benchmark for Chinese Glyph-Level Obfuscation in Language-Model Moderation
East China Normal University(华东师范大学);New York University Shanghai(上海纽约大学);University of Liverpool(利物浦大学);Singapore University of Technology and Design(新加坡科技设计大学);Eastern Institute of Technology (Ningbo)(宁波东方理工大学)
提出SinoGlyphBench诊断基准,通过锚点扰动区分审核证据破坏与表面变化,评估12个模型发现字形混淆显著增加有害内容漏报和误报,模型对非规范字形中文仍脆弱。
2026-09-09 cs.CL
The University of Melbourne WMT 2026 CreoleMT Submission: A Domain-Balanced Approach to Low-Resource Pacific Creole Machine Translation
The University of Melbourne(墨尔本大学)
本研究针对WMT26克里奥尔语翻译任务,采用预训练加领域平衡微调的方法,结合LLM辅助重写、反向翻译和蒸馏技术,在Bouquet及口语测试集上超越基线3+ chrF++点。
2026-09-15 cs.CL
Original or Translated? A Causal Analysis of the Impact of Translationese on Machine Translation Performance
University College London(伦敦大学学院);MPI(马克斯·普朗克研究所);ETH Zürich(苏黎世联邦理工学院);Google Research(谷歌研究院)
人工翻译文本具有与自然语言文本不同的特征。这种现象,被称为翻译,已被认为是混淆的机器翻译(MT)的评价。然而,我们发现,现有的研究工作,忽视了一些重要的因素,结论大多是相关的,但不是因果关系。在这项工作中,我们收集了CauseMT,一个数据集,其中MT训练数据也标记有人类翻译方向。我们检查两个关键因素,训练-测试方向匹配(训练和测试集中的人类翻译方向是否对齐)和数据-模型方向匹配(模型是否在与数据集中的人类翻译方向相同的方向上学习)。我们发现,这两个因素有很大的因果关系的MT性能的影响,除了测试模型的方向不匹配突出现有的工作的影响,mathionese。根据我们的研究结果,我们提供了一套建议MT培训和评估。我们的代码和数据在https://github.com/EdisonNi-hku/CausalMT
2022-06-08 cs.AI cs.CL cs.LG
Neural Machine Translation: A Review and Survey
University of Cambridge(剑桥大学);Google Research(谷歌研究院)
机器翻译(MT)是将书面文本从一种自然语言自动翻译成另一种自然语言的领域,近年来经历了重大的范式转变。统计机器翻译主要依赖于各种基于计数的模型,并且几十年来一直主导着机器翻译研究,它在很大程度上已经被神经机器翻译(NMT)所取代,后者用单个神经网络来处理翻译。在这项工作中,我们将追溯到现代NMT架构的起源字和句子嵌入和早期的编码器-解码器网络家族的例子。最后,我们将对该领域的最新趋势进行一次调查。
2020-09-29 cs.CL
Multilingual Transfer Learning for QA Using Translation as Data Augmentation
IBM Research AI Thomas J. Watson Research Center(IBM研究AI托马斯·J·沃森研究中心)
之前关于多语言问答的工作主要集中在使用大型多语言预训练语言模型(LM)来执行zero-shot语言学习:训练英语QA模型并测试其他语言。在这项工作中,我们探索的策略,提高跨语言迁移,使多语言嵌入更接近的语义空间。我们的第一个策略是用机器翻译生成的数据来增强原始的英语训练数据。这导致多语言银标记QA对的语料库比原始训练集大14倍。此外,我们提出了两种新的策略,语言对抗训练和语言仲裁框架,显着提高(零资源)跨语言迁移的性能,并导致LM嵌入的语言变量较少。从经验上讲,我们表明,所提出的模型优于以前的zero-shot基线上最近推出的多语言MLQA和TyDiQA数据集。
2020-12-10 cs.CL
Evaluating Language Translation Models by Playing Telephone
Stony Brook University(石溪大学)
针对现有翻译评估方法受限于语言模型能力的问题,提出无监督的多轮翻译数据生成方法,训练评估系统,在评分和选择任务上超越xCOMET。
2025-09-23 cs.CL
StyleRemix: Interpretable Authorship Obfuscation via Distillation and Perturbation of Style Elements
University of Washington(华盛顿大学);Allen Institute for AI(艾伦人工智能研究所)
针对现有LLM作者身份混淆方法缺乏可解释性和稳健性的问题,提出StyleRemix方法,利用预训练LoRA模块扰动细粒度风格要素进行自适应重写,并发布AuthorMix和DiSC数据集,在自动与人工评估中超越基线及更大模型。
2024-08-28 cs.CL
Domain, Translationese and Noise in Synthetic Data for Neural Machine Translation
University of Edinburgh(爱丁堡大学);University of Zurich(苏黎世大学)
神经机器翻译的质量可以通过利用额外的单语资源来创建合成训练数据来提高。源端单语数据可以(正)翻译成目标语言进行自我训练;目标端单语数据可以反向翻译。据广泛报道,反向翻译提供了更好的结果,但这可能是由于测试集中的伪影?我们进行了一个案例研究,使用法语-英语新闻翻译任务和单独的测试集的基础上,他们的原始语言。我们发现,前向翻译提供了优越的收益,在BLEU的句子,原来在源语言,补充以前的研究表明,与回译的句子,原来在目标语言有很大的改善。为了更好地理解前向和反向翻译何时以及为何有效,我们研究了域、语义和噪声的作用。虽然众所周知,人工智能效应会影响机器翻译评估,但我们也发现证据表明,来自不同语言的新闻数据显示出细微的领域差异,这是测试集不同部分表现不同的另一种解释。我们进行了额外的低资源实验,这表明正向翻译比反向翻译对初始翻译系统的质量更敏感,并且在低资源设置中表现更差。
2020-10-03 cs.CL cs.LG stat.ML
No One-Size-Fits-All: Building Systems For Translation to Bashkir, Kazakh, Kyrgyz, Tatar and Chuvash Using Synthetic And Original Data
PAO Severstal / Moscow, Russia(莫斯科俄罗斯塞维尔塔尔公司)
本文通过合成与原创数据构建多突厥语翻译系统,展示了不同方法在各语言上的翻译效果,并发布相关数据集和模型权重。
2026-02-04 cs.AI cs.CL cs.LG
Focus on the Target's Vocabulary: Masked Label Smoothing for Machine Translation
Peking University(北京大学)
标签平滑和词汇共享是神经机器翻译模型中广泛使用的两种技术。然而,我们认为,简单地应用这两种技术可能是冲突的,甚至导致次优性能。在分配平滑概率时,原始标签平滑会将源端词中不可能出现在目标语言中的词与目标语言中的词等同对待,这会使翻译模型产生偏差。为了解决这个问题,我们提出了屏蔽标签平滑(MLS),一个新的机制,掩盖了软标签的源端字的概率为零。简单而有效,MLS设法更好地集成标签平滑与词汇共享。我们广泛的实验表明,MLS在不同的数据集上,包括双语和多语种翻译,无论是翻译质量还是模型的校准,都比原始标签平滑得到了持续的改进。我们的代码发布于https://github.com/PKUnlp-icler/MLS
2022-03-11 cs.AI cs.CL
From Speech-to-Speech Translation to Automatic Dubbing
Amazon(亚马逊)
我们提出了增强语音到语音翻译管道,以执行自动配音。我们的架构具有神经机器翻译生成首选长度的输出,翻译与原始语音片段的韵律对齐,神经文本到语音与每个话语的持续时间的微调,最后,音频渲染以丰富文本到语音输出与从原始音频中提取的背景噪声和混响。我们报告的自动配音的摘录TED演讲从英语到意大利语,这措施的自动配音的感知自然度和每个建议的增强的相对重要性的主观评价。
2020-02-02 cs.CL cs.SD eess.AS
Sampling and Filtering of Neural Machine Translation Distillation Data
Institute of Formal and Applied Linguistics, Charles University(查尔斯大学形式与应用语言学研究所)
在大多数神经机器翻译提取或窃取场景中,目标是保留目标模型(教师)的性能。教师模型的最高分假设通常用于训练新模型(学生)。如果参考翻译也可用,则可以对更好的假设(相对于参考)进行上采样,并且去除或欠采样差的假设。本文探讨了重要性采样方法景观(修剪,假设上采样和欠采样,重复数据删除及其组合)与英语到捷克语和英语到德国的MT模型使用标准的MT评估指标。我们表明,与仅在原始数据或合成数据或其直接组合上进行训练相比,仔细的上采样和与原始数据的组合会带来更好的性能。
2021-04-01 cs.CL cs.LG
Language Models and Cycle Consistency for Self-Reflective Machine Translation
Tsinghua University(清华大学)
本文提出利用循环一致性隐式评估并优化LLM的机器翻译质量,无需平行语料,实验验证了模型规模与推理计算缩放定律。
2024-11-05 cs.AI cs.CL cs.IR
Continual Mixed-Language Pre-Training for Extremely Low-Resource Neural Machine Translation
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心);Department of Electronic and Computer Engineering(电子与计算机工程系);The Hong Kong University of Science and Technology(香港科技大学)
低资源语言中的数据稀缺已经成为构建强大的神经机器翻译系统的瓶颈。微调多语言预训练模型(例如,mBART(Liu等人,2020年))是一个很好的方法,用于低资源语言;然而,当翻译对中有看不见的语言时,它的性能将受到极大的限制。在本文中,我们提出了一个mBART的持续预训练(CPT)框架,以有效地适应看不见的语言。我们首先从翻译对中目标语言的单语语料库中构建噪声混合语言文本,以覆盖源语言和目标语言,然后,我们继续预训练mBART来重建原始单语文本。结果表明,我们的方法可以在mBART基线以及其他强基线上,在所有测试的包含未见过语言的低资源翻译对中持续提高微调性能。此外,我们的方法还提高了翻译对的性能,其中两种语言都可以在原始mBART的预训练中看到。该代码可在https://github.com/zliucr/cpt-nmt上获得。
2021-05-09 cs.AI cs.CL
Family of Origin and Family of Choice: Massively Parallel Lexiconized Iterative Pretraining for Severely Low Resource Machine Translation
Carnegie Mellon University(卡内基梅隆大学)
我们翻译一个封闭的文本是已知的提前到一个严重低资源的语言,利用大规模的源并行。换句话说,给定124种源语言的文本,我们仅使用~ 1,000行低资源数据将其翻译成严重低资源语言,而无需任何外部帮助。首先,我们提出了一个系统的方法来排名和选择源语言接近低资源语言。我们称语言家族的语言定义为起源家族(FAMO),我们称使用我们的度量标准的高级语言的经验定义为选择家族(FAMC)。其次,我们构建了一个迭代预训练的多语言保序词汇化Transformer(IPML),在约1,000行(约3.5%)的低资源数据上进行训练。为了正确翻译命名实体,我们为124种源语言的2,939个圣经命名实体建立了一个庞大的词典表,其中包括许多只出现一次并涵盖超过66种严重低资源语言的实体。此外,我们还建立了一个新的方法,从不同的源语言的翻译合并成一个。使用英语作为一种假设的低资源语言,我们在多语言基线上获得了+23.9 BLEU的增长,在圣经数据集中的非对称基线上获得了+10.3 BLEU的增长。我们在医学EMEA数据集上获得了42.8的BLEU分数。我们也有很好的结果,一个真正的严重低资源玛雅语言,东部Pokomchi。
2021-10-16 cs.AI cs.CL
JAMDEC: Unsupervised Authorship Obfuscation using Constrained Decoding over Small Language Models
University of Washington(华盛顿大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
本文提出无监督推理时作者身份混淆算法JAMDEC,基于GPT2-XL等小语言模型通过受限解码提升创造力,在保护隐私的同时优于同等小模型方法,并与大两数量级的GPT3.5竞争。
2024-02-13 cs.AI cs.CL
Targeted Adversarial Attacks against Neural Machine Translation
EPFL(洛桑联邦理工学院);University of Tehran(德黑兰大学);Armasuisse S+T(瑞士联邦国防采购局科技中心)
神经机器翻译(NMT)系统用于各种应用中。然而,已经表明,它们容易受到输入的非常小的扰动,称为对抗攻击。在本文中,我们提出了一种新的针对NMT模型的定向对抗攻击。特别是,我们的目标是将预定义的目标关键字插入到对抗句子的翻译中,同时保持原始句子与源域中的扰动句子之间的相似性。为此,我们提出了一个优化问题,包括一个对抗损失项和一个相似项。我们在嵌入空间中使用梯度投影来制作一个对抗性句子。实验结果表明,我们的攻击优于Seq2Sick,另一个针对NMT模型的对抗攻击,在成功率和翻译质量下降。我们的攻击成功地将关键字插入到超过75%的句子的翻译中,同时保持与原始句子的相似性。
2023-03-02 cs.CL cs.CR cs.LG
Machine Translation for Accessible Multi-Language Text Analysis
University of California Davis(加州大学戴维斯分校)
英语是社会研究的国际标准,但学者们越来越意识到他们的责任,以满足全球传播过程的学术见解的需要。这种紧张关系在计算方法和其他任何领域都是如此,英语文本工具的革命性进步使大多数其他语言远远落后。在本文中,我们的目标是利用这些进展来证明多语言分析目前是所有计算学者都可以使用的。我们表明,翻译成英语后计算的英语训练的措施有足够的优秀的准确性相比,计算原始文本的源语言的措施。我们展示了三种主要的分析--情感分析、主题分析和词嵌入--超过16种语言,包括西班牙语、汉语、印地语和阿拉伯语。我们通过比较对原始语言推文及其反向翻译的预测来验证这一说法:从源语言到英语的双重翻译,再回到源语言。总的来说,我们的研究结果表明,谷歌翻译,一个简单和广泛访问的工具,是有效的保留语义内容的语言和方法。因此,现代机器翻译可以帮助计算学者对人类交流做出更具包容性和一般性的主张。
2023-01-20 cs.CL cs.CY
Evaluating the Efficacy of Length-Controllable Machine Translation
Academy for Advanced Interdisciplinary Studies, Peking University(北京大学前沿交叉学科研究院);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Artificial Intelligence Application Research Center, Huawei Technologies(华为技术有限公司人工智能应用研究中心);School of Mathematical Sciences, Peking University(北京大学数学科学学院)
本研究针对长度可控机器翻译现有评估指标适配性不足的问题,首次系统性评估18种相关指标,发现BLEURT和COMET与人工评估相关性最高,最适合作为该任务的评估指标。
2023-05-03 cs.AI cs.CL
SemMT: A Semantic-based Testing Approach for Machine Translation Systems
The Hong Kong University of Science and Technology(香港科技大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Huazhong University of Science and Technology(华中科技大学)
机器翻译在日常生活中有着广泛的应用。在翻译官方文件等关键任务应用中,错误的翻译可能会带来令人不快甚至有时是灾难性的后果。这激发了最近对机器翻译系统测试方法的研究。现有的方法主要依赖于在文本级设计的变形关系(例如,Levenshtein距离)或句法级别(例如,语法结构之间的距离)来确定翻译结果的正确性。但是,这些变形关系并没有考虑原文和译文是否具有相同的含义(即,语义相似性)。因此,在本文中,我们提出了SemMT,自动测试方法的机器翻译系统的语义相似性检查的基础上。SemMT应用往返翻译并测量原始句子和翻译句子之间的语义相似度。我们的见解是,在句子中的逻辑和数字约束所表达的语义可以使用正则表达式(或确定性有限自动机),有效的等价性/相似性检查算法是可用的。利用洞察力,我们提出了三个语义相似性度量,并在SemMT中实现它们。实验结果表明,SemMT可以实现更高的效率相比,国家的最先进的作品,实现了21%和23%的准确率和F-Score,分别增加。我们还探讨了当采用适当的指标组合时可以实现的潜在改进。最后,我们讨论了一种在往返翻译中定位可疑行程的解决方案,为进一步的探索提供了参考。
2021-10-09 cs.CL cs.SE
Mitigating Gradient Inversion Risks in Language Models via Token Obfuscation
The University of Queensland(昆士兰大学);CSIRO's Data61(CSIRO的数据61部门);City University of Hong Kong(香港城市大学)
本文提出GHOST机制,通过令牌混淆解耦梯度、嵌入和令牌空间的联系,有效缓解语言模型的梯度倒置风险,同时保持模型性能。
2026-02-11 cs.CL
Text Analysis in Adversarial Settings: Does Deception Leave a Stylistic Trace?
文本欺骗是网络安全的一个主要问题。许多研究认为,欺骗性会在写作风格中留下痕迹,这可以通过文本分类技术来检测。通过对现有的实证研究进行广泛的文献综述,我们证明,虽然某些语言特征在某些语料库中表明了欺骗,但它们未能在不同的语义域中推广。我们认为,这种欺骗性不会留下内容不变的风格痕迹,而文本相似性度量提供了将文本分类为潜在欺骗性的优越手段。此外,我们还讨论了语义内容之外的欺骗形式,重点是通过写作风格混淆来隐藏作者身份。调查作者识别和混淆技术的文献,我们得出结论,目前的风格转换方法无法实现可靠的混淆,同时确保语义忠实于原始文本。我们建议,今后的工作在风格转换应特别注意不允许语义上的急剧变化。
2019-02-26 cs.CL
M3ST: Mix at Three Levels for Speech Translation
ByteDance AI Lab(字节跳动人工智能实验室)
如何解决端到端语音到文本翻译(ST)的数据稀缺问题?众所周知,数据增强是通过扩大数据集来提高许多任务性能的有效方法。在本文中,我们提出了混合在三个层次的语音翻译(M^3ST)方法,以增加的多样性增强训练语料库。具体来说,我们使用外部机器翻译(MT)数据,基于预训练模型进行两个阶段的微调。在第一阶段的微调中,我们在三个层次上混合训练语料,包括单词级,句子级和框架级,并使用混合数据对整个模型进行微调。在微调的第二阶段,我们将原始语音序列和原始文本序列并行放入模型中对网络进行微调,并使用Jensen-Shannon散度对其输出进行正则化。在MuST-C语音翻译基准测试和分析上的实验表明,M^3ST优于当前的强基线,在八个方向上达到了最先进的结果,平均BLEU为29.9。
2022-12-07 cs.CL cs.SD eess.AS
A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
University of Houston(休斯顿大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Waseda University(早稻田大学);Stevens Institute of Technology(史蒂文斯理工学院);National Taiwan University(国立台湾大学)
针对隐私保护LLMs中的嵌入到嵌入混淆,提出代理流形对齐攻击,利用语义结构保持特性,通过翻译任务重构明文,实验显示恢复性能优于现有方法。
2026-09-09 cs.CL cs.CR
ALISON: Fast and Effective Stylometric Authorship Obfuscation
Washington University in St. Louis(圣路易斯华盛顿大学);The Pennsylvania State University(宾夕法尼亚州立大学);University of Mississippi(密西西比大学)
针对现有作者身份混淆方法速度慢、实用性不足的问题,提出ALISON方法,在大幅提升混淆速度的同时取得更优效果,还具备可解释性,可保护ChatGPT生成文本的作者隐私。
2024-02-01 cs.AI cs.CL cs.LG
Can LLMs Obfuscate Code? A Systematic Analysis of Large Language Models into Assembly Code Obfuscation
KAI
本研究开发了MetamorphASM基准及数据集,系统评估了GPT-4等大语言模型生成混淆汇编代码的能力,揭示了其对杀毒引擎构成的潜在风险。
2025-01-29 cs.AI cs.CL cs.CR
The UN Parallel Corpus Annotated for Translation Direction
这项工作区分了联合国议定书语料库中的翻译文本和原始文本。通过将问题建模为分类问题,我们可以实现高达95%的分类准确率。我们首先推导出一个平行语料库的不同语言对注释的翻译方向,然后分类的数据,通过使用各种特征提取方法。我们比较了不同的方法以及区分不同语言的翻译文本和原始文本的能力。注释的语料库是公开的。
2018-05-20 cs.CL
Towards Privacy-Aware Sign Language Translation at Scale
University of Copenhagen(哥本哈根大学);FAIR at Meta(Meta FAIR研究院);Meta;UC Berkeley(加州大学伯克利分校)
针对手语翻译数据稀缺与隐私风险问题,本文提出两阶段框架 SSVP-SLT,通过在匿名化无标注视频上自监督预训练并在平行数据集上微调,在 How2Sign 上取得最先进的无 gloss 手语翻译性能。
2024-08-07 cs.AI cs.CL cs.CV
Predicting Actions to Help Predict Translations
Imperial College London(帝国理工学院);Sheffield University(谢菲尔德大学)
我们使用最先进的基于transformer的多模态方法来解决How2数据集上的文本翻译任务。我们问自己的问题是视觉特征是否可以支持翻译过程,特别是,鉴于这是一个从视频中提取的数据集,我们专注于动作的翻译,我们认为这在当前用于多模态翻译的静态图像-文本数据集中捕获得很差。为此,我们从视频中提取了不同类型的动作特征,并通过测试这种视觉信息是否可以提高翻译质量来仔细研究这种视觉信息的帮助程度,当与(i)原始文本和(ii)原始文本结合使用时,与动作相关的单词(或所有动词)被掩盖了。后者是一种模拟,可以帮助我们在文本没有提供足够的动作上下文或输入文本中存在噪声的情况下评估图像的效用。
2019-08-18 cs.CL
Keep It Private: Unsupervised Privatization of Online Text
University of Maryland, College Park(马里兰大学学院公园分校)
针对现有作者身份混淆技术场景窄、输出不自然的问题,提出基于强化学习微调大语言模型的无监督文本私有化框架,在大规模Reddit数据集上验证其兼具高文本质量与隐私防护能力。
2024-05-16 cs.AI cs.CL
Pruning-then-Expanding Model for Domain Adaptation of Neural Machine Translation
University of Chinese Academy of Sciences(中国科学院大学);Beijing Language and Culture University(北京语言大学)
领域自适应算法广泛应用于神经机器翻译的实际应用中,其目标是在一般域和域内都获得良好的翻译性能。然而,现有的领域自适应方法通常遭受灾难性遗忘、领域发散和模型爆炸。为了解决这三个问题,我们提出了一种基于神经元或参数在翻译模型中的重要性的“分而治之”的方法。在我们的方法中,我们首先修剪模型,只保留重要的神经元或参数,使它们负责一般域和域内翻译。然后利用知识蒸馏方法,在原模型的监督下,进一步训练剪枝后的模型。最后,我们将模型扩展到原始大小,并微调域内转换的添加参数。我们在不同的语言和领域上进行了实验,结果表明,与几个强基线相比,我们的方法可以实现显着的改进。
2021-04-14 cs.CL
DeepInvert: Semi-Supervised Embedding Inversion Against Obfuscated Language Models
Ant Group(蚂蚁集团)
该研究针对ObfusLM等混淆语言模型防御提出半监督嵌入反演攻击DeepInvert,其标记恢复率达73.5%,优于现有方法,揭示混淆防御存在效用与反演的权衡问题,呼吁重新评估该防御类别。
2026-08-06 cs.CL cs.CR cs.LG
Found in Translation: Reconstructing Phylogenetic Language Trees from Translations
IBM Research(IBM研究院);University of Haifa(海法大学);The Arab College for Education(阿拉伯教育学院)
几千年来,翻译在贸易、法律、商业、政治和文学中发挥着重要作用。译者总是试图做到隐形;理想的翻译应该看起来像是用目标语言写的。我们发现,源语言的痕迹仍然存在于翻译产品的程度,它是可能的,揭示历史的源语言只看翻译。具体来说,我们自动重建系统发育的语言树从单语文本(从几个源语言翻译)。源语言的信号是如此强大,即使经过两个阶段的翻译,它仍然保留。这有力地表明,源语言干扰是翻译文本最主要的特征,掩盖了翻译普遍属性的更微妙的信号。
2017-04-24 cs.CL
A Dataset for Probing Translationese Preferences in English-to-Swedish Translation
本文提出首个英语到瑞典语翻译倾向语料库,用于评估语言模型对翻译倾向与习语的偏好,发现模型倾向于翻译倾向表达,即使无上下文也如此。
2026-03-09 cs.CL
Multilingual Reasoning Cascades Need More Context
提出上下文感知翻译级联方法,在最终翻译模块的上下文中保留原始问题、英文翻译问题和推理链,以改善多语言推理中的信息丢失,实验表明该方法在多种语言和模型上显著提升开放生成性能。
2026-10-20 cs.CL
SignBank+: Preparing a Multilingual Sign Language Dataset for Machine Translation Using Large Language Models
Bar-Ilan University(巴伊兰大学);University of Zürich(苏黎世大学)
本文提出清理版多语言手语数据集SignBank+,证明传统文本到文本翻译方法在该数据集上同样有效,模型表现超越原数据集并确立了新基准。
2024-03-21 cs.CL