Iterative Refinement for Machine Translation
Ecole Polytechnique(巴黎综合理工学院);Facebook AI Research(Facebook人工智能研究院)
现有的机器翻译解码算法以严格单调的方式生成翻译,并且从不重新访问先前的决策。因此,早期的错误无法在后期纠正。在本文中,我们提出了一个翻译方案,从一个初始的猜测,然后进行迭代改进,可能会重新访问以前的决定。我们将我们的模型参数化为一个卷积神经网络,该网络基于源句子和当前翻译输出的注意力机制预测对现有翻译的离散替换。通过对每个句子进行不到一次修改,我们将基于短语的翻译系统的输出在WMT 15德英翻译上提高了0.4 BLEU。
2018-04-13 cs.CL
Iterative Refinement in the Continuous Space for Non-Autoregressive Neural Machine Translation
New York University(纽约大学)
我们提出了一个有效的推理过程,非自回归机器翻译,迭代完善纯粹在连续空间的翻译。给定用于机器翻译的连续潜变量模型(Shu等人,2020),我们训练一个推理网络来近似目标句子的边缘对数概率的梯度,只使用潜在变量作为输入。这允许我们使用基于梯度的优化来在推理时找到近似最大化其边际概率的目标句子。由于每个细化步骤只涉及低维潜在空间中的计算(我们在实验中使用8),我们避免了现有的非自回归推理过程,往往在令牌空间细化所产生的计算开销。我们将我们的方法与最近提出的类似EM的推理过程(Shu等人,2020),在混合空间中进行优化,包括离散和连续变量。我们在WMT'14 En-De,WMT'16 Ro-En和IWELL '16 De-En上评估了我们的方法,并观察到与EM类推理相比的两个优点:(1)它在计算上是高效的,即每个细化步骤的速度是原来的两倍,(2)它更有效,在相同数量的细化步骤的情况下产生更高的边际概率和BLEU分数。例如,在WMT'14 En-De上,我们的方法能够以比自回归模型快6.2倍的速度解码,而对翻译质量的影响最小(0.9 BLEU)。
2020-09-15 cs.CL
KIT's Offline Speech Translation and Instruction Following Submission for IWSLT 2025
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文介绍KIT提交至IWSLT 2025的离线语音翻译与指令遵循赛道方案,依托大语言模型分别设计多识别融合加两步翻译的流水线、语音编码器结合大模型的端到端架构,均加入文档级精调提升性能。
2025-05-19 cs.AI cs.CL
A Corpus-based Analysis of Attitudinal Changes in Lin Yutang's Self-translation of Between Tears and Laughter
Keyi College, Zhejiang Sci-tech University(浙江理工大学科艺学院)
本文基于语料库方法分析林语堂《啼笑皆非》自译中的态度变化,发现其自译部分愤怒情绪显著低于英文原著,而合译部分无显著差异,表明语料库工具有助于合译保持态度一致性。
2023-04-11 cs.CL
Neural Machine Translation
Center for Speech and Language Processing(语音与语言处理中心);Department of Computer Science(计算机科学系);Johns Hopkins University(约翰斯·霍普金斯大学)
关于神经机器翻译的教科书章节草稿。一个全面的治疗的主题,从介绍到神经网络,计算图,描述目前占主导地位的注意序列到序列模型,最近的改进,替代架构和挑战。作为教科书《统计机器翻译》的章节编写。用于JHU 2017年秋季机器翻译课程。
2017-09-22 cs.CL
Refining Low-Resource Unsupervised Translation by Language Disentanglement of Multilingual Model
Nanyang Technological University(南洋理工大学);Salesforce Research(赛富时研究院)
最近关于无监督机器翻译(UMT)的许多工作表明,只有在大规模多语言环境中训练模型,才有可能对低资源和不相关的语言(如尼泊尔语或僧伽罗语)进行合格的无监督翻译,在这种环境中,这些低资源语言与高资源语言混合。然而,虽然高资源语言极大地帮助启动目标低资源翻译任务,但它们之间的语言差异可能会阻碍它们的进一步改进。在这项工作中,我们提出了一个简单的细化过程,将语言从预训练的多语言UMT模型中分离出来,使其只关注目标低资源任务。我们的方法在英语到尼泊尔语,僧伽罗语,古吉拉特语,拉脱维亚语,爱沙尼亚语和哈萨克语的完全无监督翻译任务中达到了最先进的水平,BLEU得分分别为3.5,3.5,3.3,4.1,4.2和3.3。我们的代码库可以在https://github.com/nxphi47/refine_unsup_multilingual_mt上找到
2022-10-01 cs.AI cs.CL
Unlocking Reasoning Capability on Machine Translation in Large Language Models
University of Amsterdam(阿姆斯特丹大学);Cohere Labs(Cohere实验室)
本文提出了一种针对翻译的结构化推理框架,通过多步骤草稿、充分性细化、流畅性提升和选择性迭代修订,显著提升了大语言模型在机器翻译中的性能。
2026-02-16 cs.AI cs.CL
MoVE: Translating Laughter and Tears via Mixture of Vocalization Experts in Speech-to-Speech Translation
National Taiwan University(国立台湾大学);NVIDIA
本文提出MoVE模型,通过混合语音专家捕捉混合表达状态,提升语音到语音翻译中非言语声音的还原能力,实现更高的自然度和情感忠实度。
2026-04-19 cs.AI cs.CL cs.SD
An Effective Approach to Unsupervised Machine Translation
University of the Basque Country (UPV/EHU)(巴斯克大学)
虽然机器翻译传统上依赖于大量的平行语料库,但最近的研究路线已经成功地仅使用单语语料库来训练神经机器翻译(NMT)和统计机器翻译(SMT)系统。在本文中,我们确定和解决现有的无监督SMT方法的几个不足之处,利用子字信息,开发一个理论上有充分依据的无监督调整方法,并将联合细化过程。此外,我们使用我们改进的SMT系统初始化一个双NMT模型,这是进一步微调,通过在飞回翻译。总之,我们在无监督机器翻译中比以前的最先进技术有了很大的改进。例如,我们在2014年英语到德语的WMT中获得了22.5分的BLEU分数,比之前最好的无监督系统高出5.5分,比2014年的(有监督)共享任务冠军高出0.5分。
2019-07-24 cs.AI cs.CL cs.LG
Natural-Language to SysMLv2 Translation via Conformance-Driven Iterative Refinement
Carnegie Mellon University(卡内基梅隆大学);Virginia Tech(弗吉尼亚理工大学)
研究自然语言到SysMLv2的翻译,提出由一致性检查器驱动的框架,在生成-检查-修复循环中嵌入检查器,以生产级接受为终止条件,经评估,该方法相比单次生成大幅提高了生产一致性。
2026-09-15 cs.AI cs.SE
Improved Iterative Refinement for Chart-to-Code Generation via Structured Instruction
School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学学院);Shanghai Innovation Institute(上海创新研究院);Lehigh University(莱特大学);MIFA Lab(MIFA实验室)
本文提出基于结构化指令的ChartIR方法,通过区分视觉理解和代码翻译任务,提升图表到代码生成的性能,实验显示在Qwen2-VL和GPT-4o上表现优异。
2026-03-17 cs.AI cs.CV
SCALE: Synergized Collaboration of Asymmetric Language Translation Engines
Peking University(北京大学);Microsoft(微软);Renmin University of China(中国人民大学)
提出SCALE框架,通过三元组上下文示例协同专用翻译模型与LLM,在低资源翻译中显著优于GPT-4和NLLB。
2023-09-29 cs.AI cs.CL
Deterministic Non-Autoregressive Neural Sequence Modeling by Iterative Refinement
New York University(纽约大学)
提出了一种基于迭代精化的条件非自回归神经序列模型。该模型基于隐变量模型和去噪自编码器的原理设计,一般适用于任何序列生成任务。我们广泛评估了所提出的模型对机器翻译(En-De和En-Ro)和图像字幕生成,并观察到它显着加快解码,同时保持生成质量相媲美的自回归对应。
2018-08-27 cs.CL cs.LG stat.ML
Better Literary Translation: A Multi-Aspect Data Generation and LLM Training Approach
Amazon Web Services (AWS)(亚马逊网络服务(AWS));Peking University(北京大学)
提出多维度迭代优化框架,通过专门的大语言模型生成高质量翻译参考和偏好数据,结合监督微调和强化学习(GRPO)提升文学翻译质量,在MetaphorTrans英中文学翻译基准上达到与Claude Sonnet 4.5竞争的性能。
2026-06-04 cs.AI cs.CL
AIR: Complex Instruction Generation via Automatic Iterative Refinement
Alibaba Group(阿里巴巴集团)
本文提出自动迭代细化框架AIR,通过从文档生成并迭代优化带约束的复杂指令,构建AIR-10K数据集,显著提升大语言模型遵循复杂指令的能力。
2025-02-27 cs.AI cs.CL
Modeling Coverage for Non-Autoregressive Neural Machine Translation
University of Chinese Academy of Sciences(中国科学院大学)
非自回归神经机器翻译(NAT)通过同时生成所有令牌实现了显著的推理加速。尽管NAT具有很高的效率,但它通常会遭受两种类型的翻译错误:过度翻译(例如重复的令牌)和翻译不足(例如缺失翻译),这最终限制了翻译质量。在本文中,我们认为,这些问题的NAT可以通过覆盖建模,这已被证明是有用的自回归解码来解决。本文提出了一种新的Coverage-NAT模型,通过一种令牌级的覆盖迭代精化机制和一种文档级的覆盖协议直接对覆盖信息进行建模,分别提醒模型源令牌是否被翻译,提高翻译和源之间的语义一致性。在WMT 14 En-De和WMT 16 En-Ro翻译任务上的实验结果表明,我们的方法可以减轻这些错误,并在基线系统上取得了很大的改进。
2021-04-24 cs.CL
Analysis of Levenshtein Transformer's Decoder and Its Variants
Télécom Paris(巴黎电信学院)
本文分析 LevT 解码器在长度、子词生成和删除能力上的不足,并比较原始、知识蒸馏及翻译记忆变体,以探索改进方向。
2024-02-19 cs.CL
Enhanced Neural Machine Translation by Learning from Draft
Tsinghua University(清华大学);Beijing University of Posts and Telecommunications(北京邮电大学)
神经机器翻译(NMT)最近取得了令人印象深刻的成果。然而,现有的NMT算法的潜在问题是,解码是从左到右进行的,而不考虑右上下文。本文提出了一个两阶段的方法来解决这个问题。在第一阶段中,传统的基于注意力的NMT系统被用来产生一个草案的翻译,并在第二阶段中,一个新的双注意力NMT系统被用来细化的翻译,通过查看原始输入以及草案的翻译。这种起草和改进可以从草稿中获得正确的上下文信息,从而产生更一致的翻译。我们使用两个汉英翻译任务来评估这种方法,一个任务分别有44k对和1M对。实验表明,我们的方法取得了积极的改进,传统的NMT系统:提高了2.4和0.9 BLEU点的小规模和大规模的任务,分别。
2017-10-04 cs.CL
CATER: Leveraging LLM to Pioneer a Multidimensional, Reference-Independent Paradigm in Translation Quality Evaluation
ErudAite. Inc.(ErudAite公司)
CATER提出一种基于大语言模型、完全提示驱动的多维无参考机器翻译质量评估框架,无需预计算参考即可即时评估并量化编辑工作量,兼顾概念严谨性与可扩展性。
2024-12-15 cs.AI cs.CL
Mind the Language Gap in Digital Humanities: LLM-Aided Translation of SKOS Thesauri
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
针对数字人文领域语言多样性限制知识资源利用的问题,提出结合外部翻译服务与LLM优化的开源流水线WOKIE,可在普通硬件运行,经15种语言叙词表验证,能提升翻译质量与本体匹配效果,助力多语言研究基础设施建设。
2025-07-29 cs.CL
Negative Lexical Constraints in Neural Machine Translation
Charles University(查理大学)
本文研究英捷神经机器翻译中的否定词汇约束,提出用词干化否定约束训练来防止模型通过生成不同表层形式绕过约束,并在释义和反馈修正任务上验证了方法的有效性。
2023-08-07 cs.CL
Pride and Prejudice: LLM Amplifies Self-Bias in Self-Refinement
University of California Santa Barbara(加州大学圣巴巴拉分校);Carnegie Mellon University(卡内基梅隆大学)
该研究定义并测量LLM自我偏见,发现self-refine会放大该偏见,而更大模型和准确外部反馈可有效缓解并提升下游性能。
2024-06-18 cs.AI cs.CL
CHILL at SemEval-2025 Task 2: You Can't Just Throw Entities and Hope -- Make Your LLM to Get Them Right
Samsung Research(三星研究院)
本研究针对 SemEval 2025 任务 2 的实体感知机器翻译问题,结合 RAG 与 LLM 迭代自优化技术,并引入基于实体准确率和整体翻译质量的自评估机制,在保障翻译质量的同时有效提升了实体翻译的准确性。
2025-06-16 cs.AI cs.CL cs.LG
TACTIC: Translation Agents with Cognitive-Theoretic Interactive Collaboration
Big Data&AI Lab, ICBC(大数据与人工智能实验室,ICBC);Shanghai Jiao Tong University(上海交通大学);Meituan Inc.(美团公司);Tongji University(同济大学);Fudan University(复旦大学);Northeastern University(东北大学)
提出认知理论驱动的六智能体翻译框架 TACTIC,模拟人类翻译流程,在 FLORES-200 与 WMT24 上显著超越 GPT-4.1 和 DeepSeek-R1。
2025-06-11 cs.AI cs.CL
Self-Distillation Mixup Training for Non-autoregressive Neural Machine Translation
Huawei Translation Services Center(华为翻译服务中心);The University of Melbourne(墨尔本大学)
最近,非自回归(NAT)模型并行预测输出,与自回归(AT)模型相比,在生成速度上实现了大幅提高。虽然在原始数据上表现较差,但大多数NAT模型都是在AT教师模型生成的蒸馏数据上训练学生模型的,这被称为序列级知识蒸馏。自蒸馏混合(SDM)训练是提高AT模型性能的一种有效的训练策略,它在原始数据上预训练模型,通过预训练模型本身生成蒸馏数据,最后在原始数据和蒸馏数据的组合上重新训练模型。在这项工作中,我们的目标是查看SDM的NAT模型,但发现直接采用SDM NAT模型获得的翻译质量方面没有改善。通过仔细分析,我们发现AT教师模型和NAT学生模型的失效与模型多样性和确认偏差有关。在此基础上,我们提出了一种改进的策略SDMRT,在传统的SDM基础上增加了两个阶段:一个是对自提炼数据的预重排序,另一个是对过滤后的教师提炼数据的微调。我们的结果在多个NAT模型上比基线高出0.6到1.2 BLEU。作为另一个好处,对于迭代优化NAT模型,我们的方法可以在一半迭代次数内超过基线,这意味着2倍的加速。
2021-12-22 cs.AI cs.CL
ReflectMT: Internalizing Reflection for Efficient and High-Quality Machine Translation
School of Informatics, Xiamen University, China(厦门大学信息学院);WeChat AI, Tencent Inc, China(腾讯公司微信AI部门)
ReflectMT通过强化学习提升机器翻译的反思与精炼能力,实现无需显式推理的高效高质量翻译,实验显示其在自动指标和GPT评估中优于多步推理模型。
2026-11-03 cs.CL
CHAI for LLMs: Improving Code-Mixed Translation in Large Language Models through Reinforcement Learning with AI Feedback
Pennsylvania State University(宾夕法尼亚州立大学)
针对大语言模型在语码混合翻译上的不足,提出CHAI框架,利用LLM标注、RLAIF及领域知识宪法,使模型在CM翻译任务上平均胜率提升68.45%。
2026-09-15 cs.AI cs.CL cs.LG
Learning synchronous context-free grammars with multiple specialised non-terminals for hierarchical phrase-based translation
Universitat d’Alacant(阿利坎特大学)
基于分层短语统计机器翻译(HSMT)的翻译模型在某些语言对上表现出比非分层短语统计翻译模型更好的性能。HSMT的标准方法学习并应用带有单个非终结符的同步上下文无关文法。在这项工作中提出的语法细化算法背后的假设是,这个单一的非终端是过载的,并且没有足够的区分,因此,将其充分分割成更专业的符号可以导致改进的模型。本文提出了一种学习同步上下文无关文法的方法,该方法具有大量的初始非终结符,然后通过聚类算法对初始非终结符进行分组。我们的实验表明,由此产生的较小的一组非终端正确捕获的上下文信息,使其有可能在统计上显着提高标准HSMT方法的BLEU分数。
2020-04-03 cs.CL cs.LG
Rethink about the Word-level Quality Estimation for Machine Translation from Human Judgement
Tencent Inc(腾讯公司)
机器翻译中的词级质量评估旨在发现译文中潜在的错误。通常,关于词级QE的传统工作被设计为根据编辑后的努力来预测翻译质量,其中,通过翻译出错率(TER)工具包比较MT句子和编辑后的句子之间的词来自动生成词标签(“OK”和“BAD”)。虽然编辑后的努力在一定程度上可以用来衡量翻译质量,但我们发现它通常与人类对单词翻译的好坏的判断相冲突。为了克服这一局限性,我们首先创建了一个黄金基准数据集,即\emph{HJQE}(Human Judgement on Quality Estimation),专家翻译人员直接对他们的判断进行注释。此外,为了进一步利用并行语料库,本文提出了自监督预训练的两种标签修正策略,即标签细化策略和基于树的标注策略,使基于TER的人工QE语料库更接近于\emph{HJQE}。我们进行了大量的实验的基础上公开可用的WMT En-De和En-Zh语料库。实验结果不仅表明我们提出的数据集更符合人类的判断,而且也证实了所提出的标签校正策略的有效性。\footnote{The data can be found at \url{https://github.com/ZhenYangIACAS/HJQE}.}
2022-09-13 cs.CL
Hybrid-Regressive Neural Machine Translation
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(威特沃特斯兰德大学)
在这项工作中,我们凭经验证实,非自回归翻译与迭代细化机制(IR-NAT)的加速鲁棒性差,因为它是解码批量大小和计算设备设置比自回归翻译(AT)更敏感。受此启发,我们试图探讨如何更好地结合自回归和非自回归翻译范式的优势。为此,我们证明,通过合成实验,促使少量的AT的预测可以促进一次性的非自回归翻译,以实现相当于IR-NAT的性能。按照这条线,我们提出了一个新的两阶段的翻译原型称为混合回归翻译(HRT)。具体地,HRT首先经由自回归(例如,每k个令牌进行预测,k>1),然后以非自回归方式一次填充所有先前跳过的令牌。我们还提出了一个技术包,有效地和高效地训练HRT,而不添加任何模型参数。HRT在WMT En-De任务上达到了最先进的BLEU分数28.49,并且无论批量大小和设备如何,都比AT快至少1.5倍。此外,HRT的另一个好处是,它成功地继承了AT在深编码器浅解码器架构中的良好特性。具体地说,与具有6层编码器和6层解码器的普通HRT相比,具有12层编码器和1层解码器的HRT的推理速度在GPU和CPU上进一步加倍,而没有BLEU损失。
2022-10-19 cs.CL
Latent-Variable Non-Autoregressive Neural Machine Translation with Deterministic Inference Using a Delta Posterior
The University of Tokyo(东京大学);New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
虽然神经机器翻译模型达到了高翻译质量,但自回归性质使得推理难以并行化,并导致高翻译延迟。受最近基于精化的方法的启发,我们提出了LaNMT,一个具有连续潜变量和确定性推理过程的潜变量非自回归模型。与现有的方法相比,我们使用一个确定性的推理算法来找到目标序列,最大限度地降低了对数概率。在推理过程中,翻译的长度会自动调整。我们的实验表明,通过运行推理算法,可以大大提高下限,从而显着提高翻译质量。我们提出的模型缩小了ASPEC Ja-En数据集上非自回归和自回归方法之间的性能差距,解码速度提高了8.6倍。在WMT'14 En-De数据集上,我们的模型将自回归基线的差距缩小到2.0个BLEU点,加速12.5倍。通过并行解码多个初始隐变量并使用教师模型重新评分,该模型进一步将WMT'14 En-De任务的差距缩小到1.0 BLEU点,加速比为6.8倍。
2019-11-21 cs.CL cs.LG
Refinement of Unsupervised Cross-Lingual Word Embeddings
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
跨语言词嵌入旨在通过允许学习多语言词表示,即使不使用任何直接的双语信号,来弥合高资源和低资源语言之间的差距。最大的方法是基于投影的方法,将预先训练的嵌入映射到共享的潜在空间中。这些方法大多基于正交变换,它假设语言向量空间是同构的。然而,这个标准并不一定成立,特别是对于形态丰富的语言。在本文中,我们提出了一种自监督的方法来改善无监督的双语词嵌入的对齐。所提出的模型将单词的向量及其相应的翻译移动得更接近彼此,并强制执行长度和中心不变性,从而允许更好地对齐跨语言嵌入。实验结果表明,我们的方法的有效性,因为在大多数情况下,它优于国家的最先进的方法在双语词汇归纳任务。
2020-02-21 cs.CL cs.LG
Towards Global AI Inclusivity: A Large-Scale Multilingual Terminology Dataset (GIST)
Carnegie Mellon University(卡内基梅隆大学);University of Michigan(密歇根大学);University of Toronto(多伦多大学);Max Planck Institute for Intelligent Systems(智能系统马克斯·普朗克研究所);Vector Institute(向量研究所)
本文提出大规模多语言AI术语数据集GIST,结合大语言模型提取与人工翻译构建5000个术语的五种语言版本,并通过无需重训练的后翻译优化提升翻译质量,以促进全球AI研究的包容性与协作。
2025-05-31 cs.CL
Gromov-Wasserstein Alignment of Word Embedding Spaces
MIT(麻省理工学院)
跨语言或跨域对应在从机器翻译到迁移学习的任务中起着关键作用。最近,在单语嵌入上操作的纯无监督方法已经成为有效的对齐工具。然而,当前最先进的方法涉及多个步骤,包括启发式事后细化策略。在本文中,我们铸造的对应问题直接作为一个最佳运输(OT)的问题,建立在词嵌入产生的度量恢复算法的想法。事实上,我们利用Gromov-Wasserstein距离来衡量不同语言中单词对之间的相似性。我们表明,我们的OT目标可以有效地估计,需要很少或根本没有调整,并导致性能与国家的最先进的各种无监督单词翻译任务。
2018-08-31 cs.CL
PATIMT-Bench: A Multi-Scenario Benchmark for Position-Aware Text Image Machine Translation in Large Vision-Language Models
School of Informatics, Xiamen University, China(厦门大学信息学院);Tsinghua, Beijing, China(清华大学);Shanghai Artificial Intelligence Laboratory, China(上海人工智能实验室)
本文将传统TIMT扩展为位置感知的PATIMT任务,构建了包含10个真实场景的PATIMT-Bench基准及1,200个人工标注实例,并提出自适应OCR精炼流水线,微调后使紧凑型LVLMs在两个子任务上达到SOTA。
2025-09-14 cs.AI cs.CV
AlphaVerus: Bootstrapping Formally Verified Code Generation through Self-Improving Translation and Treefinement
Carnegie Mellon University(卡内基梅隆大学)
针对大语言模型生成代码正确性无保障、形式化验证代码训练数据少的问题,提出含三阶段的自改进框架AlphaVerus,无需人工干预或微调即可让LLaMA-3.1-70B生成验证代码,为可信代码生成智能体奠基。
2024-12-09 cs.AI cs.LG
Beyond Code Pairs: Dialogue-Based Data Generation for LLM Code Translation
Argonne National Laboratory(阿贡国家实验室);University of Minnesota(明尼苏达大学);Iowa State University(爱荷华州立大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
本文提出了一种基于对话的数据生成方法,通过双LLM架构生成验证的翻译和多轮对话,以提升LLM在低资源编程领域中的代码翻译能力。
2026-06-03 cs.AI cs.PL cs.SE
What Does LLM Refinement Actually Improve? A Systematic Study on Document-Level Literary Translation
University of Amsterdam(阿姆斯特丹大学);University of Cambridge(剑桥大学);Amazon AGI(亚马逊人工智能研究院)
本文系统研究了文档级文学翻译中LLM精细化的效果,发现文档级MT后接段级精细化能带来稳定提升,而文档级精细化效果有限。通用精细化提示优于特定错误提示和评估后精细化策略。
2026-05-13 cs.CL
Speech Translation Refinement using Large Language Models
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院);Alibaba Cloud Computing(阿里云云计算)
本文提出一种利用大语言模型联合精炼语音翻译和自动语音识别转录的方法,显著提升了语音翻译在免训练和参数高效微调场景下的性能,并验证了文档级上下文的有效性。
2025-01-25 cs.CL
SACTOR: LLM-Driven Correct and Idiomatic C to Rust Translation with Static Analysis and FFI-Based Verification
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Google(谷歌)
SACTOR通过结合静态分析和FFI验证,利用大语言模型实现C到Rust的正确且习惯性翻译,提升了代码安全性和效率
2025-12-22 cs.AI cs.PL cs.SE
Adversarial Agent Collaboration for Correctness Improvements of C to Safe Rust Translation
National University of Singapore(新加坡国立大学);Amazon Web Services(亚马逊网络服务)
本文提出ACToR框架,通过对抗性搜索发现翻译与C源码分歧的输入,利用这些输入驱动后续优化,提升C到Rust翻译的正确性,实验表明其在多个真实世界工具中达到90%以上的测试通过率。
2026-05-17 cs.AI cs.SE
Transformers without Tears: Improving the Normalization of Self-Attention
University of Notre Dame(圣母大学);Amazon AWS AI(亚马逊AWS人工智能)
我们评估了三个简单的、以规范化为中心的变化,以改进Transformer培训。首先,我们证明了预范数残差连接(PreNorm)和较小的初始化可以实现无预热,基于验证的训练,具有较大的学习率。其次,我们提出了使用单个尺度参数(ScaleNorm)的$\ell_2$归一化,以实现更快的训练和更好的性能。最后,我们重申了将词嵌入规范化为固定长度(FixNorm)的有效性。在基于TED Talks的语料库中的五个低资源翻译对上,这些变化总是收敛的,在最先进的双语基线上给出平均+1.1 BLEU,在IWELT的15个英语-越南语上给出新的32.8 BLEU。我们观察到更清晰的性能曲线,更一致的梯度规范,以及激活缩放和解码器深度之间的线性关系。令人惊讶的是,在高资源设置(WMT'14英语-德语)中,ScaleNorm和FixNorm仍然具有竞争力,但PreNorm降低了性能。
2019-12-30 cs.CL cs.LG stat.ML
Feedback as an Interface: Controlling Form and Detail in LLM Translation Refinement
University of Manchester(曼彻斯特大学);Osapiens(奥萨皮恩斯公司);University of Sheffield(谢菲尔德大学);University of Technology Nuremberg(纽伦堡工业大学)
该研究提出机器翻译协议,发现低负载反馈在LLM翻译优化中表现优于高负载反馈,且直接评估者提示可复现该优势,为优化翻译反馈设计提供依据。
2026-10-14 cs.CL
Advancing Dialectal Arabic to Modern Standard Arabic Machine Translation
University of Manchester(曼彻斯特大学);School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Leiden University(莱顿大学);LIACS;LUMC
该研究针对方言阿拉伯语到现代标准阿拉伯语的翻译难题,评估了多种提示技术并提出资源高效的微调流水线,证明低资源下也能实现高质量翻译,为阿拉伯语NLP的方言包容性提供实用方案。
2025-09-02 cs.CL
KGRefiner: Knowledge Graph Refinement for Improving Accuracy of Translational Link Prediction Methods
Iran University of Science and Technology(伊朗科技大学)
链接预测是预测知识图谱的实体之间的缺失关系的任务。最近在链接预测中的工作试图提供一种通过在神经网络架构中使用更多层来增加链接预测准确性的模型。在本文中,我们提出了一种新的方法,细化的知识图谱,使链接预测操作可以更准确地使用相对快速的翻译模型。平移链接预测模型,例如transE、transH、transD,具有比深度学习方法更低的复杂性。该方法利用知识图谱中关系和实体的层次结构,将实体信息作为辅助节点添加到知识图谱中,并将其连接到层次结构中包含该信息的节点。实验结果表明,该方法能显著提高H@10,MR,MRR中平移链接预测方法的性能.
2021-11-19 cs.CL
Steering LLMs toward Korean Local Speech: Iterative Refinement Framework for Faithful Dialect Translation
Chung-Ang University, Seoul, Republic of Korea(Chung-Ang大学,首尔,大韩民国)
本文提出DIA-REFINE框架,通过翻译、验证和反馈的迭代循环提升大语言模型的方言翻译准确性,引入方言保真度评分和目标方言比例指标,实验表明该框架能有效提升方言翻译的忠实度。
2026-03-17 cs.CL
Bangla-Bayanno: A 52K-Pair Bengali Visual Question Answering Dataset with LLM-Assisted Translation Refinement
North South University(南北大学)
本文提出Bangla-Bayanno,一个包含52,650对孟加拉语视觉问答的数据集,通过多语言LLM辅助翻译精化流水线提升质量,并覆盖三种答案类型,为低资源多模态学习提供全面基准。
2025-08-27 cs.CL cs.CV
ODE-Based Transformer Decoders for Iterative Sign Language Translation
ASELSAN(阿塞尔桑(土耳其国防工业公司));Hacettepe University(哈杰泰佩大学)
该研究将受常微分方程启发的高阶数值积分格式应用于迭代手语翻译,提出参数高效的解码器,在不增参数下提升性能,在两个基准上优于IPSLT基线。
2026-08-13 cs.CL cs.LG
SCEF: A Support-Confidence-aware Embedding Framework for Knowledge Graph Refinement
知识图谱(KG)精化主要针对KG的补全和修正(即,错误检测)。然而,传统的KG嵌入模型只关注KG完备化,并不合理地假设KG中的所有事实都是无噪声的,而忽略了错误检测,而错误检测对于KG的细化也是至关重要的。它通过学习具有三重支持度和三重置信度的知识表示来同时实现KG补全和校正。具体来说,我们建立模型的能量函数,将传统的预测为基础的模型的支持和信心。为了使我们的三重支持度-置信度更加充分和鲁棒,我们不仅考虑KG内部的结构信息,研究近似关系蕴涵作为三重置信度约束,而且考虑外部的文本证据,提出了两种分别基于实体类型和描述的三重支持度,并通过在真实数据集上的大量实验,证明了SCEF的有效性。
2019-07-27 cs.AI cs.CL
DoCIA: An Online Document-Level Context Incorporation Agent for Speech Translation
Huawei Translation Services Center(华为翻译服务中心);Huawei Consumer Business Group(华为消费者业务集团);School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院)
DoCIA 提出一种在线文档级上下文融合框架,通过将文档信息多层次整合到 ASR 优化、机器翻译及优化阶段,并引入防幻觉判定机制,在四个 LLM 上显著提升了语音翻译的句子级和篇章级性能。
2025-04-07 cs.CL
MAATS: A Multi-Agent Automated Translation System Based on MQM Evaluation
MAATS是一种基于MQM框架的多智能体自动翻译系统,通过多个专门AI智能体分别处理不同MQM错误类别并迭代改进翻译,在多种语言对和LLM上显著优于单智能体基线,提升了语义准确性与上下文保真度。
2025-08-08 cs.CL cs.LG cs.MA
Can postgraduate translation students identify machine-generated text?
IULM University(IULM大学)
本研究探讨研究生翻译专业学生识别机器生成文本的能力,经简短培训后分析意大利语散文,发现学生平均难以区分,仅2人准确率显著,揭示需改进培训并提出合成文本优化相关问题。
2025-04-18 cs.AI cs.CL
Terminology-Aware Translation with Constrained Decoding and Large Language Model Prompting
University of Edinburgh(爱丁堡大学)
针对机器翻译的术语正确性问题,提出结合伪术语标注训练术语感知模型、搭配约束解码重译或LLM提示优化的先翻译后优化方案,在WMT2023术语任务中有效提升术语召回率。
2023-10-09 cs.CL
Please Translate Again: Two Simple Experiments on Whether Human-Like Reasoning Helps Translation
Language Technology Lab University of Amsterdam(语言技术实验室 阿姆斯特丹大学)
本文通过实验检验LLM翻译中类人逐步推理的有效性,发现CoT式分解并非性能提升的明确来源,而“再翻译一次”的自我精炼策略效果更优,揭示了人类与LLM最优翻译策略的差异。
2025-09-22 cs.CL