Minimal Dependency Translation: a Framework for Computer-Assisted Translation for Under-Resourced Languages
Indiana University(印第安纳大学)
本文介绍了最小依赖翻译(MDT),一个正在进行的项目,以开发一个基于规则的框架,创建基本的双语词汇语法的机器翻译和计算机辅助翻译成和出资源不足的语言,以及对英语到阿姆哈拉语翻译实施MDT的初步步骤。MDT中的基本单位称为组,是以多项序列为标题的。除了词形之外,组还可能包含词素、句法语义类别和语法特征。每个组与一个或多个翻译相关联,每个翻译是目标语言的组。在翻译过程中,使用约束满足来为输入句子选择一组源语言组,并对相关联的目标语言组中的单词进行排序。
2017-10-02 cs.CL
Massively Multilingual Text Translation For Low-Resource Languages
Carnegie Mellon University(卡内基梅隆大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
针对低资源语言翻译需求,本研究利用高资源语言资源,通过大规模源端并行、语料级释义和模型分步适配策略,提升封闭文本的低资源语言翻译质量,助力人机协作加速翻译进程。
2024-01-29 cs.CL
Seeing Straight: Document Orientation Detection for Efficient OCR
本文提出OCR-Rotation-Bench基准,通过旋转变换的英文和多语言数据集评估OCR对图像旋转的鲁棒性,并展示基于Phi-3.5-Vision模型的轻量级旋转分类管道,提升OCR性能达14%至4倍。
2026-03-15 cs.CL cs.CV
An Unsupervised Probability Model for Speech-to-Translation Alignment of Low-Resource Languages
University of Notre Dame(圣母大学);University of Melbourne(墨尔本大学)
对于许多低资源的语言,口语资源更有可能用翻译而不是translation来注释。翻译后的语音数据对于记录濒危语言或训练语音翻译系统具有潜在的价值。利用这些数据的第一步是自动将口语与其翻译对齐。我们提出了一个模型,结合戴尔等人。的IBM Model 2(快速对齐)和k-means聚类的重新参数化,使用Dynamic Time Warping作为距离度量。这两个组件使用期望最大化联合训练。在资源极其匮乏的情况下,我们的模型的表现明显优于神经模型和强基线。
2016-09-26 cs.CL
MALT: Mechanistic Ablation of Lossy Translation in LLMs for a Low-Resource Language: Urdu
本研究针对LLM在低资源语言(如乌尔都语)上的有损翻译问题,通过机制消融移除内部翻译特征并引入外部翻译模型,显著提升了模型性能并保留了文化细微差别。
2025-01-27 cs.CL
Making Old Kurdish Publications Processable by Augmenting Available Optical Character Recognition Engines
University of Kurdistan Hewlêr(库尔德斯坦大学(赫尔墨斯))
针对库尔德语历史印刷文档缺乏公开 OCR 数据、识别困难的问题,本文基于 Tesseract 5.0 构建 1233 张行图像数据集并微调 Arabic 模型,取得低 CER,并提供 Web 识别界面。
2024-04-09 cs.CL
Misgendering and Assuming Gender in Machine Translation when Working with Low-Resource Languages
University of Washington(华盛顿大学);University of Melbourne(墨尔本大学)
本章研究低资源语言机器翻译中的性别误指问题,以孟加拉语为例揭示性别预设机制及其社会影响,并提出赋予语言更多自主权的解决方向。
2024-03-12 cs.CL
Low-Resource Machine Translation Training Curriculum Fit for Low-Resource Languages
Institut Teknologi Bandung(万隆理工学院);Boston University(波士顿大学);Dartmouth College(达特茅斯学院)
我们对真正低资源语言的神经机器翻译(NMT)进行了实证研究,并提出了一个适合于并行训练数据和计算资源都缺乏的情况下的训练课程,反映了世界上大多数语言和研究这些语言的研究人员的现实。以前,无监督的NMT,采用回译(BT)和自动编码(AE)任务,已被证明是贫瘠的低资源语言。我们证明,利用可比数据和代码切换作为弱监督,结合BT和AE目标,即使只使用适度的计算资源,也会显著改善低资源语言。这项工作中提出的训练课程实现了BLEU分数,比在相同骨干架构上训练的有监督NMT提高了+12.2 BLEU(英语到古吉拉特语)和+3.7 BLEU(英语到哈萨克语),展示了弱监督NMT对低资源语言的潜力。当在监督数据上进行训练时,我们的训练课程在索马里数据集上实现了最先进的结果(索马里语到英语的BLEU为29.3)。我们还观察到,在训练中增加更多的时间和GPU可以进一步提高性能,这强调了在MT研究中报告计算资源使用情况的重要性。
2021-11-29 cs.CL
Lesan -- Machine Translation for Low Resource Languages
全世界有数百万人无法访问Web上的内容,因为大多数内容都无法以他们的语言提供。机器翻译(MT)系统有可能改变许多语言的这种情况。当前的MT系统为高资源语言对提供非常准确的结果,例如,德语和英语。然而,对于许多低资源语言,机器翻译仍处于积极的研究之中。关键的挑战是缺乏建立这些系统的数据集。我们提出Lesan,低资源语言的MT系统。我们的流水线通过利用在线和离线资源、针对多目标的自定义OCR系统和自动对齐模块,解决了低资源MT的关键瓶颈。流水线的最后一步是序列到序列模型,它将并行语料库作为输入,并为我们提供翻译模型。Lesan的翻译模型基于Transformer架构。在构建了一个基本模型之后,使用回译来利用单语语料库。目前,Lesan支持提格里尼亚语、阿姆哈拉语和英语之间的翻译。我们进行了广泛的人工评估,并表明Lesan在所有六对中的表现优于最先进的系统,如Google翻译和Microsoft翻译。Lesan是免费的,到目前为止已经提供了超过1000万个翻译。目前,只有217个提格里尼亚语和15,009个阿姆哈拉语维基百科条目。我们相信,Lesan将为数百万人通过MT实现网络访问的民主化做出贡献。
2021-12-15 cs.CL
Noisy Parallel Data Alignment
George Mason University(乔治梅森大学)
当前自然语言处理的一个持续挑战是,其主要进展如何倾向于不成比例地支持资源丰富的语言,而将大量资源不足的语言抛在后面。由于缺乏训练和评估模型所需的资源,大多数现代语言技术要么不存在,要么不可靠,无法处理濒危的、本地的和非标准化的语言。光学字符识别(OCR)常用于将濒危语言文档转换为机器可读数据。然而,这样的OCR输出通常是有噪声的,并且大多数单词对齐模型不是为了在这样的噪声条件下工作而构建的。在这项工作中,我们研究了现有的词级对齐模型在嘈杂的设置,旨在使他们更强大的噪音数据。我们的噪声模拟和结构偏置方法,在多个语言对上进行测试,设法将最先进的基于神经的对齐模型的对齐出错率降低到59.6%。
2023-02-10 cs.CL cs.LG
Crossing Language Borders: A Pipeline for Indonesian Manhwa Translation
本文提出一种面向印尼语到英语的漫画翻译流水线,结合微调 YOLOv5xu 检测气泡、Tesseract OCR 和微调 MarianMT,实现低资源语言漫画翻译自动化。
2025-01-03 cs.CL cs.CV cs.LG
Context Models for OOV Word Translation in Low-Resource Languages
University of Washington(华盛顿大学)
词汇表外的单词翻译是低资源语言翻译的一个主要问题,这些语言缺乏并行训练数据。本文评估的贡献,目标语言的上下文模型对翻译的OOV字,特别是在那些情况下,OOV翻译是来自外部的知识来源,如字典。我们开发了神经和非神经上下文模型,并在基于短语和基于自我注意的神经机器翻译系统中对其进行评估。我们的研究结果表明,神经语言模型,整合额外的上下文超出了当前的句子是最有效的消除歧义可能的OOV词翻译。我们提出了一个有效的第二遍格重评分方法的宽上下文神经语言模型,并证明了性能的改善,在五出六个低资源的语言对国家的最先进的自我注意神经MT系统。
2018-01-26 cs.CL stat.ML
Improving MLLM's Document Image Machine Translation via Synchronously Self-reviewing Its OCR Proficiency
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Zhongke Fanyu Technology Co., Ltd(中科泛语科技有限公司)
针对MLLM在文档图像机器翻译任务中因监督微调导致OCR等单语能力遗忘的问题,提出同步自审(SSR)微调范式,通过先生成OCR文本再生成翻译文本,有效缓解灾难性遗忘并提升跨模态与跨语言任务的泛化能力。
2025-07-11 cs.AI cs.CL cs.CV
Fixing MoE Over-Fitting on Low-Resource Languages in Multilingual Machine Translation
Meta AI
稀疏门混合专家模型(MoE)模型已被证明是一种计算效率高的方法来扩展多语言机器翻译的模型容量。然而,对于低资源任务,MoE模型严重过拟合。我们展示了有效的正则化策略,即EOM和FOM中MoE层的辍学技术,有条件的MoE路由和课程学习方法,可以防止过度拟合并提高MoE模型在低资源任务上的性能,而不会对高资源任务产生不利影响。在一个大规模多语言机器翻译基准测试中,我们的策略在资源非常少的语言对中得到了大约+1 chrF++的改进。我们对学习到的MoE路由进行了广泛的分析,以更好地了解我们的正则化方法的影响以及如何改进它们。
2022-12-15 cs.AI cs.CL
TransDocs: Optical Character Recognition with word to word translation
Cranberry-Lemon University(蔓越莓柠檬大学)
本文提出TransDocs,将OCR与基于LSTM和注意力机制的seq2seq模型结合,在ANKI英西数据集上实现文档翻译,并以BLEU-4评估端到端性能。
2023-04-15 cs.CL cs.CV cs.LG
Transformer-Based Low-Resource Language Translation: A Study on Standard Bengali to Sylheti
University of Vermont(佛蒙特大学);University of Brahmanbaria(布拉曼巴里亚大学)
针对锡尔赫特语这类低资源语言翻译研究不足的问题,本研究微调多语言Transformer模型并与零样本大语言模型对比,发现微调模型表现更优,为低资源语言翻译及包容性语言技术发展提供参考。
2025-10-20 cs.CL cs.CY
Zero-shot OCR Accuracy of Low-Resourced Languages: A Comparative Analysis on Sinhala and Tamil
Department of Computer Science & Engineering, University of Moratuwa(计算机科学与工程系,穆塔瓦大学)
针对低资源语言OCR未解决的问题,本研究对比6款商业及开源OCR引擎在僧伽罗语和泰米尔语的零样本性能,发现Surya和Document AI分别在两种语言上表现最佳,并提出新的合成泰米尔语OCR基准数据集。
2025-08-25 cs.CL
Bemba Speech Translation: Exploring a Low-Resource African Language
Kreasof AI Research Labs(Kreasof人工智能研究实验室);African Institute for Mathematical Sciences (AIMS)(非洲数学科学研究所);Trinity College Dublin(都柏林三一学院)
本文针对IWSLT 2025低资源赛道,基于Whisper和NLLB-200构建Bemba到英语的级联语音翻译系统,并采用回译等数据增强技术探究合成数据的影响。
2025-06-02 cs.CL cs.SD eess.AS
E2TIMT: Efficient and Effective Modal Adapter for Text Image Machine Translation
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Samsung Research China - Beijing(三星中国研究院(北京));Zhongke Fanyu Technology Co., Ltd(中科凡语科技有限公司)
本文提出E2TIMT,一种端到端文本图像机器翻译模型,通过新颖的模态适配器桥接OCR编码器和MT解码器,并联合使用端到端与跨模态对比损失,以更轻量快速的架构超越现有级联和端到端方法。
2023-05-10 cs.CL
KazakhOCR: A Synthetic Benchmark for Evaluating Multimodal Models in Low-Resource Kazakh Script OCR
Pittsford Sutherland High School(皮茨福德萨瑟兰高中);Edison Academy Magnet School(埃德ison学院磁性学校)
本文构建了包含7219张图像的合成OCR数据集,用于评估多模态大语言模型在低资源库尔德语手写体OCR和语言识别中的性能,发现传统OCR在字符错误率上优于MLLMs。
2026-02-17 cs.CL cs.CV
From the Paft to the Fiiture: a Fully Automatic NMT and Word Embeddings Method for OCR Post-Correction
University of Helsinki(赫尔辛基大学)
大量的历史语料库在数字化过程中由于使用了光学字符识别(光学字符识别)方法而产生错误。手动纠正这些错误是一个耗时的过程,并且很大一部分自动方法一直依赖于规则或监督机器学习。我们提出了一种全自动无监督的方法来提取并行数据,用于训练基于字符的序列到序列NMT(神经机器翻译)模型来进行OCR纠错。
2019-10-12 cs.CL
SMaLL-100: Introducing Shallow Multilingual Machine Translation Model for Low-Resource Languages
NAVER LABS Europe(NAVER欧洲实验室);IDIAP Research Institute(IDIAP研究所);EPFL(洛桑联邦理工学院)
近年来,多语言机器翻译模型通过在相似语言之间共享信息,从而实现zero-shot翻译,在低资源语言对上取得了令人鼓舞的性能。为了克服“多语诅咒”,这些模型往往选择增加参数数量,这使得它们在资源有限的环境中的使用具有挑战性。我们介绍SMaLL-100,M2M-100(12 B)模型的一个精简版本,一个涵盖100种语言的大规模多语言机器翻译模型。我们训练SMaLL-100时对所有语言对进行统一采样,因此专注于保留低资源语言的性能。我们在不同的低资源基准测试上评估了SMaLL-100:FLORES-101,Tatoeba和TICO-19,并证明它优于以前类似大小(200- 600 M)的大规模多语言模型,同时改善了推理延迟和内存使用。此外,我们的模型实现了与M2M-100(1.2B)相当的结果,同时在推理方面小3.6倍,快4.3倍。代码和预训练模型:https://github.com/alirezamshi/small100
2022-10-20 cs.AI cs.CL cs.LG
Seeing Justice Clearly: Handwritten Legal Document Translation with OCR and Vision-Language Models
本文提出利用视觉大语言模型统一OCR与机器翻译流程,以提升低资源环境下手写法律文件的翻译效率和准确性。
2025-12-19 cs.AI cs.CL cs.CV
Exploring Better Text Image Translation with Multimodal Codebook
Xiamen University(厦门大学);Xiaomi AI Lab(小米人工智能实验室);Dalian University of Technology(大连理工大学)
针对文本图像翻译缺乏公开数据集且级联模型易受OCR误差传播影响的问题,本文构建OCRMT30K数据集,并提出多模态码本模型与多阶段训练框架,实验验证了其有效性。
2023-06-02 cs.AI cs.CL
LV-ROVER-MLT: Low-Resource Maltese OCR by Synthetic Fine-Tuning and Multi-Stream Arbitration
Independent Researcher(独立研究员)
针对马耳他语OCR资源匮乏的问题,提出合成训练管道和5流Tesseract LV-ROVER集成,在422段落基准上将字符错误率从0.0234降至0.00700(降幅70%),其中集成识别贡献44%的改进。
2026-08-31 cs.CL cs.CV
OCR Post Correction for Endangered Language Texts
Carnegie Mellon University(卡内基梅隆大学);George Mason University(乔治梅森大学)
对于大多数濒危语言,几乎没有数据可用于构建自然语言处理模型。但是,这些语言的文本数据通常以不可机器读取的格式存在,例如纸质书籍和扫描图像。在这项工作中,我们解决了从这些资源中提取文本的任务。我们创建了一个基准数据集的transcription扫描书籍在三个极度濒危的语言,并提出了一个系统的分析,如何通用OCR工具是不强大的濒危语言的数据稀缺的设置。我们开发了一种OCR后校正方法,以减轻在这种数据稀缺的环境中的训练,降低了三种语言的识别出错率平均34%。
2020-11-10 cs.CL
Multilingual OCR-Aware Fine-Tuning and Prompt-Guided Chain-of-Thought Reasoning for Multimodal Large Language Models
Meta AI;UT Austin(德克萨斯大学奥斯汀分校)
提出一种多语言OCR感知的多模态训练框架,通过合成数据生成、OCR感知微调和结构化视觉链式思维提示,提升多模态大语言模型在复杂视觉条件下的OCR完整性和多语言翻译准确性。
2026-08-13 cs.CL cs.CV cs.LG
A Benchmark and Dataset for Post-OCR text correction in Sanskrit
Indian Institute of Technology Bombay(印度理工学院孟买分校);Uniphore(Uniphore公司)
梵语是一种古典语言,大约有3000万份适合数字化的现存手稿,以书面,印刷或扫描图像形式提供。然而,当涉及到可用的数字资源时,它仍然被认为是一种低资源语言。在这项工作中,我们发布了一个OCR后文本校正数据集,包含来自30本不同书籍的约218,000个句子,150万个单词。梵语的文本在语言和风格上的使用是多样的,因为梵语是印度次大陆大约3000年来的“通用语”。考虑到这一点,我们发布了一个多领域的数据集,来自天文学,医学和数学等不同领域,其中一些可以追溯到18世纪。此外,我们基于预先训练的Seq2Seq语言模型发布多个强基线作为任务的基准。我们发现,我们的表现最好的模型,包括字节级标记结合语音编码(字节5 +SLP1),产生了23%的点增加OCR输出的单词和字符的出错率。此外,我们进行了广泛的实验,在评估这些模型的性能和分析常见的原因,在字形和词汇水平的预测失误。我们的代码和数据集可在https://github.com/ayushbits/pe-ocr-sanskrit上公开获取。
2022-11-15 cs.CL
Koshur Pixel: a large-scale synthetic ocr dataset for kashmiri
针对低资源语言克什米尔语,提出首个大规模合成OCR数据集Koshur Pixel,包含613,078个图像-文本对,采用SynthOCR-Gen框架生成,覆盖多种字体和文本粒度,并集成25种以上数据增强策略,为训练OCR系统、数字化克什米尔文本遗产提供基础资源。
2026-06-23 cs.CL cs.CV
Benchmarking Vision-Language Models on Chinese Ancient Documents: From OCR to Knowledge Reasoning
针对中文古籍数字化与理解评估的空白,本文提出首个中文古籍基准AncientDoc,涵盖从OCR到知识推理的五项任务及约3000页数据,并基于此全面评估主流视觉语言模型的性能。
2025-09-10 cs.CL
An Unsupervised method for OCR Post-Correction and Spelling Normalisation for Finnish
University of Helsinki(赫尔辛基大学);Rootroo Ltd(Rootroo有限公司);University of Gothenburg(哥德堡大学)
已知历史语料库包含由数字化过程中使用的OCR(光学字符识别)方法引入的错误,通常被认为是降低NLP系统的性能。手动纠正这些错误是一个耗时的过程,并且很大一部分自动方法一直依赖于规则或监督机器学习。我们建立在以前的工作上的全自动无监督提取并行数据训练一个基于字符的序列到序列NMT(神经机器翻译)模型进行OCR纠错设计的英语,并适应芬兰提出的解决方案,考虑到丰富的形态的语言。我们的新方法显示出更高的性能,同时保持完全无监督,并增加了拼写规范化的好处。源代码和模型可以在GitHub和Zenodo上找到。
2020-11-06 cs.CL cs.LG
DriveThru: a Document Extraction Platform and Benchmark Datasets for Indonesian Local Language Archives
Institut Teknologi Bandung(万隆理工学院);Universitas Amikom Yogyakarta(日惹阿米科姆大学);Universitas Dian Nuswantoro(迪恩·努斯万托罗大学);Boston University(波士顿大学)
本文提出DriveThru平台,利用OCR技术数字化印尼当地语言印刷文档以构建NLP数据集,并研究LLM在OCR后校正中提升字符和词准确率的能力。
2024-11-15 cs.CL
Typhoon OCR: Open Vision-Language Model For Thai Document Extraction
Typhoon, SCB 10X(Typhoon,SCB 10X)
Typhoon OCR 是一个专为泰语文档提取设计的开放视觉-语言模型,通过多阶段数据构建管道训练,实现文本转录、布局重构和结构一致性,性能媲美专有模型且计算成本更低。
2026-01-21 cs.CL
When Simpler Is Better: Evaluating Translation Pipelines for Medieval Latin Manuscripts
Eötvös Loránd University(厄特沃什·罗兰大学);King Fahd University of Petroleum and Minerals(法赫德国王石油与矿产大学)
针对历史手稿翻译难题,提出评估中世纪拉丁文手稿图像到翻译流程的框架。通过CATMuS数据集对比发现领域特定OCR模型优势,引入新数据集IPC,实验揭示简单管道表现更佳,为低资源历史场景翻译系统部署提供基准与指导。
2026-07-07 cs.AI cs.CL cs.CV
Lexically Aware Semi-Supervised Learning for OCR Post-Correction
Carnegie Mellon University(卡内基梅隆大学);University of British Columbia(不列颠哥伦比亚大学);George Mason University(乔治梅森大学)
世界上许多语言的大部分现有语言数据都被锁在非数字化的书籍和文件中。光学字符识别(OCR)可用于产生数字化文本,并且先前的工作已经证明了神经后校正方法的实用性,该方法改善了通用OCR系统在识别资源较少的语言上的结果。然而,这些方法依赖于手动管理的校正后数据,与需要数字化的未注释原始图像相比,这些数据相对较少。在本文中,我们提出了一种半监督学习方法,该方法可以利用这些原始图像来提高性能,特别是通过使用自训练,一种模型在其自身输出上迭代训练的技术。此外,为了加强识别词汇的一致性,我们引入了一种词汇感知解码方法,该方法使用基于计数的语言模型从识别文本构建神经后校正模型,使用加权有限状态自动机(WFSA)进行高效和有效的解码。四种濒危语言的结果证明了所提出的方法的实用性,相对误差减少了15- 29%,我们发现自我训练和词汇感知解码的结合对于实现一致的改进至关重要。数据和代码可在https://shrutirij.github.io/ocr-el/上获得。
2021-11-04 cs.CL
Unlimited OCR Works
Baidu Inc.(百度公司)
本文提出Unlimited OCR模型,通过Reference Sliding Window Attention机制,实现高效长文本处理,适用于OCR及ASR等任务。
2026-06-23 cs.CL cs.CV
600k-ks-ocr: a large-scale synthetic dataset for optical character recognition in kashmiri script
Independent Researcher(独立研究者)
600K-KS-OCR数据集通过大规模合成图像和多种格式转录,为克什米尔语的光学字符识别研究提供低资源语言支持。
2026-01-03 cs.CL cs.CV
Reading or Guessing? Visual Grounding Failures of Vision-Language Models for OCR in Ancient Greek Editions
Inria(法国国家信息与自动化研究所)
通过对比开放权重视觉语言模型与传统OCR基线在低资源古希腊批判版本上的表现,发现VLM即使错误也能生成流畅文本,表明其依赖语言先验,并引入扰动和标记级定位度量分析视觉证据。
2026-09-09 cs.AI cs.CL cs.CV
Cross-Lingual SynthDocs: A Large-Scale Synthetic Corpus for Any to Arabic OCR and Document Understanding
本文提出大规模合成语料库 Cross-Lingual SynthDocs,通过真实扫描背景、双语版面与变音符号感知字体构建超 250 万样本,微调 Qwen-2.5-VL 后在阿拉伯语 OCR 和文档理解多项指标上取得一致提升。
2025-11-01 cs.CL cs.CV
Baseer: A Vision-Language Model for Arabic Document-to-Markdown OCR
本文提出Baseer,一个针对阿拉伯语文档OCR微调的视觉语言模型,利用合成与真实数据及解码器微调,在Misraj-DocOCR基准上达到0.25的WER,超越现有方案,树立新最先进水平。
2025-09-17 cs.CL cs.CV
Towards Neural No-Resource Language Translation: A Comparative Evaluation of Approaches
本研究针对无资源语言翻译问题,比较了微调模型、链式推理提示和直接提示三种方法,发现通用大语言模型的上下文学习能实现媲美人工翻译的效果,确立了无资源翻译为独特范式。
2025-06-01 cs.CL
Zero-Resource Translation with Multi-Lingual Neural Machine Translation
Middle East Technical University(中东技术大学);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心);New York University(纽约大学)
在本文中,我们提出了一种新的微调算法,最近推出的多路,多语言神经机器翻译,使零资源机器翻译。当与新颖的多对一翻译策略一起使用时,我们的经验表明,这种微调算法允许多路多语言模型翻译零资源语言对(1)以及用相同语言对的多达1M个直接平行句子训练的单对神经翻译模型(2)优于基于机器翻译的翻译策略,同时仅保留注意力相关参数的一个附加副本。
2016-06-13 cs.CL
Language Graph Distillation for Low-Resource Machine Translation
University of Science and Technology of China(中国科学技术大学);Microsoft Research(微软研究院)
由于缺乏双语句子对,低资源语言上的神经机器翻译具有挑战性。以前的作品通常解决低资源的翻译问题,在多语言环境中的知识转移。本文提出了语言图的概念,并进一步设计了一种新的图蒸馏算法,该算法通过前向和后向知识蒸馏来提高图中低资源翻译的准确性。在TED演讲多语种数据集上的初步实验证明了该方法的有效性。具体来说,我们在BLEU得分方面将低资源翻译对提高了3.13分以上。
2019-08-17 cs.CL
Generalized Data Augmentation for Low-Resource Translation
Carnegie Mellon University(卡内基梅隆大学)
低资源语言LRL之间的互译对机器翻译在充分性和流畅性方面提出了挑战。利用大量单语数据的数据增强被认为是缓解这些问题的有效途径。在本文中,我们提出了一个通用的框架,在低资源的机器翻译,不仅使用目标方单语数据,但也通过相关的高资源语言HRL的枢轴数据增强。具体来说,我们尝试使用两步旋转方法将高资源数据转换为LRL,利用可用资源更好地近似LRL的真实数据分布。首先,我们注入LRL词HRL句子通过诱导双语词典。其次,我们使用修改后的无监督机器翻译框架进一步编辑这些修改后的句子。在四个低资源数据集上进行的大量实验表明,在极端低资源设置下,与有监督的反向翻译基线相比,我们的数据增强技术将翻译质量提高了约1.5到约8个BLEU点
2019-06-10 cs.CL
Low-Resource Heuristics for Bahnaric Optical Character Recognition Improvement
Faculty of Computer Science and Engineering(计算机科学与工程学院);Ho Chi Minh City University of Technology(胡志明市技术大学)
本研究提出低资源环境下提升巴纳里语OCR识别准确率的启发式方法,通过结合表格检测与概率后处理技术,使识别准确率从72.86%提升至79.26%。
2026-01-06 cs.CL cs.CV cs.LG
Survey of Low-Resource Machine Translation
University of Edinburgh(爱丁堡大学);Inria(法国国家信息与自动化研究所)
我们提出了一个调查,涵盖了最先进的低资源机器翻译的研究。目前世界上大约有7000种语言,几乎所有的语言对都缺乏用于训练机器翻译模型的重要资源。当只有很少的翻译后的训练数据可用时,解决产生有用的翻译模型的挑战的研究已经引起了越来越多的兴趣。我们提出了这个专题研究领域的总结,并提供了一个描述的技术评估的研究人员在最近的几个共享任务,在低资源MT。
2022-02-07 cs.CL
Simulated Multiple Reference Training Improves Low-Resource Machine Translation
Johns Hopkins University(约翰霍普金斯大学)
对于给定的句子,存在许多有效的翻译,然而机器翻译(MT)是用单个参考翻译训练的,这加剧了低资源设置中的数据稀疏性。我们介绍了模拟多参考训练(SMRT),一种新的MT训练方法,通过从释义者中对参考句子的释义进行采样,并训练MT模型来预测释义者在可能的标记上的分布,从而近似可能翻译的整个空间。我们证明了SMRT在低资源环境下翻译成英语时的有效性,BLEU提高了1.2到7.0。我们还发现SMRT与回译是互补的。
2020-10-13 cs.CL
Neural machine translation for low-resource languages
神经机器翻译(NMT)方法在过去几年中改进了许多机器翻译设置中的现有技术,但是它们需要大量的训练数据来产生合理的输出。我们证明了NMT也可以用于低资源语言,通过引入更多的本地依赖关系和使用单词对齐来学习翻译过程中的句子重排。除了我们的新模型,我们还提出了一个基于低资源短语的统计机器翻译(SMT)和NMT的实证评估,以调查各自的技术的下限。我们发现,虽然SMT仍然是低资源设置的最佳选择,我们的方法可以产生可接受的翻译只有70000令牌的训练数据,基准NMT系统完全失败的水平。
2017-08-18 cs.CL
Data Augmentation for Low-Resource Neural Machine Translation
University of Amsterdam(阿姆斯特丹大学)
神经机器翻译系统的质量在很大程度上取决于大量并行语料库的可用性。对于低资源语言对,情况并非如此,导致翻译质量差。受计算机视觉工作的启发,我们提出了一种新的数据增强方法,该方法通过在新的合成创建的上下文中生成包含罕见单词的新句子对来针对低频单词。在模拟低资源设置上的实验结果表明,我们的方法比基线提高了2.9个BLEU点,比反向翻译提高了3.2个BLEU点。
2017-05-01 cs.CL
Evaluating Low-Resource Machine Translation between Chinese and Vietnamese with Back-Translation
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院)
回译(Back translation,BT)已被广泛应用并成为神经机器翻译(Neural Machine Translation,NMT)中数据增强的标准技术之一,BT已被证明有助于有效提高翻译性能,特别是在低资源场景下。虽然大多数与BT相关的作品主要集中在欧洲语言上,但很少有人研究世界其他地区的语言。本文探讨了BT对亚洲语言之间的翻译资源极其匮乏的汉语和越南语对的影响。我们评估和比较了不同大小的合成数据对NMT和统计机器翻译(SMT)模型的影响,用于中文到越南语和越南语到中文,基于字符和基于单词的设置。部分地证实了前人工作中的一些结论,并得出了一些有趣的发现和结论,这些发现和结论有助于进一步理解BT。
2020-03-06 cs.CL
Corpus Augmentation by Sentence Segmentation for Low-Resource Neural Machine Translation
Gifu University(岐阜大学)
神经机器翻译(NMT)已被证明可以取得令人印象深刻的结果。NMT系统的翻译结果很大程度上依赖于平行语料库的规模和质量。然而,对于许多语言对,没有丰富的资源平行语料库存在。如本文所述,我们提出了一种语料库增强方法,通过使用回译分割语料库中的长句并生成伪平行句对。利用日汉科技论文摘录语料库(ASPEC-JC)进行日汉、汉日翻译的实验结果表明,该方法提高了翻译性能。
2019-05-22 cs.CL
Enhancing OCR for Sino-Vietnamese Language Processing via Fine-tuned PaddleOCRv5
本研究通过微调PaddleOCRv5提升汉那姆文本识别精度,实现对越南历史文件的高效OCR处理及跨语言语义研究。
2025-11-29 cs.CL cs.CV
Extremely low-resource machine translation for closely related languages
University of Tartu(塔尔图大学)
一种有效的方法来改善极低资源的神经机器翻译是多语言训练,这可以通过利用单语数据使用反向翻译方法创建合成双语语料库来改善。这项工作的重点是乌拉尔语系的密切相关的语言:从爱沙尼亚和芬兰的地理区域。我们发现,多语言学习和合成语料库提高了我们有数据的每个语言对的翻译质量。我们证明了迁移学习和微调对于进行低资源机器翻译非常有效,并取得了最佳效果。我们收集了新的平行数据Vagrero,北,南萨米语和目前的神经机器翻译这些语言的第一个结果。
2021-05-27 cs.CL
Building a resource for studying translation shifts
本文介绍了一种跨学科的方法,它汇集了语料库语言学和翻译研究领域。它介绍了正在进行的工作,创建一个语料库资源,翻译转移明确注释。翻译移位是指在翻译过程中发生的偏离源文本和目标文本之间的正式对应关系的现象。如果机器翻译的输出与人类翻译相似,那么以系统的方式注释这种转变的资源将使研究需要解决的现象成为可能。本文中描述的资源包含英语源文本(议会议事录)及其德语翻译。移位注释基于谓词-论元结构,并分两步进行:首先,以简单的方式单语注释谓词及其论元。然后,相应的英语和德语谓词和参数彼此对齐。无论何时发生变化(主要是语法或语义上的变化),对齐都会被相应地标记。
2006-06-22 cs.CL