Defining Boundaries: The Impact of Domain Specification on Cross-Language and Cross-Domain Transfer in Machine Translation
Uppsala University(乌普萨拉大学)
本文研究了NMT的零样本跨语言领域适应,发现语言和领域特定因素均影响迁移效果,强调了明确定义领域边界的重要性。
2024-09-21 cs.CL
Sentence Embedding Models for Ancient Greek Using Multilingual Knowledge Distillation
Sattler College(萨特勒学院)
针对古希腊语缺乏训练数据难构建高质量句子嵌入模型的问题,研究采用多语言知识蒸馏方法,借助自建的希英平行句子数据集训练BERT模型生成古希腊语句子嵌入,在多项任务上验证了效果并公开了数据集。
2023-08-24 cs.CL
Evaluating Multilingual Sentence Embeddings for Translation Error Detection:An English--Greek Contrastive Study
Ionian University(爱奥尼亚大学);Laboratory on Digital Libraries and Electronic Publishing(数字图书馆与电子出版实验室);Centre for Literary Translation and Book Policy(文学翻译与图书政策中心)
本研究对比评估BGE-M3等5种多语言句子嵌入模型与COMETKiwi在英-希腊语翻译错误检测中的性能,发现嵌入模型与COMETKiwi的错误敏感性特征互补,嵌入模型更适合作为翻译评估框架的组成部分。
2026-09-01 cs.CL
Benchmarking Gender Bias in Machine Translation Evaluation Metrics across Occupations
Instituto de Telecomunicações(电信研究所);National Technical University of Athens(雅典国立技术大学);University of Amsterdam(阿姆斯特丹大学)
本研究在WMT 2026共享任务中,基于GAMBIT+职业平衡子集,评估七个语言对的机器翻译评估指标,发现阳性译文普遍得分更高且存在职业刻板差异,表明性别偏见仍存,需多维分析。
2026-09-21 cs.CL
Keyframe Segmentation and Positional Encoding for Video-guided Machine Translation Challenge 2020
视频引导的机器翻译是多模态神经机器翻译任务之一,其目标是通过有形地结合视频和文本来生成高质量的文本翻译。在这项工作中,我们提出了我们的视频引导机器翻译系统,以接近视频引导机器翻译挑战2020。该系统采用基于关键帧的视频特征提取以及视频特征位置编码。在评估阶段,我们的系统获得了36.60的语料库级别BLEU-4,并在2020年视频引导机器翻译挑战赛中获得第一名。
2020-06-23 cs.CL
Bilingual Terminology Extraction from Comparable E-Commerce Corpora
Soochow University(苏州大学);Alibaba DAMO Academy(阿里巴巴达摩院)
双语术语是电子商业领域中重要的机器翻译资源,通常采用人工翻译或从并行数据中自动提取的方式。人工翻译成本高,而电子商业平行语料库又非常缺乏。但是,同一商品领域的不同语言的可比数据是丰富的。在本文中,我们提出了一个新的框架提取电子商务双语术语可比数据。得益于电子商业中的跨语言预训练,该框架能够充分利用源端术语和目标端句子之间的深层语义关系,提取出相应的目标术语。对不同语言对的实验结果表明,我们的方法比各种强基线实现了更好的性能。
2022-07-29 cs.CL
Evaluating LLM-Based Translation of a Low-Resource Technical Language: The Medical and Philosophical Greek of Galen
Department of Classical and Mediterranean Studies, Vanderbilt University(维斯尼尔大学古典与地中海研究系);Center for Hellenic Studies, Harvard University(哈佛大学希腊研究中心);Department of Philosophy, Vanderbilt University(维斯尼尔大学哲学系);Machine Intelligence and Normative Theory (MINT) Lab, Australian National University(澳大利亚国立大学机器智能与规范理论实验室);Department of the Classics, Harvard University(哈佛大学古典学系)
本文评估了商业大语言模型在古希腊技术文本中的机器翻译质量,并将自动化评估指标与专家判断对比,发现术语稀有性是翻译失败的主要预测因素。
2026-04-15 cs.AI cs.CL
NLPDove at SemEval-2020 Task 12: Improving Offensive Language Detection with Cross-lingual Transfer
Sogang University(西江大学);Seoul National University(首尔大学);Language Technologies Institute, Carnegie Mellon University(卡内基梅隆大学语言技术研究所)
本文介绍了我们的方法来识别攻击性语言在多语言环境中的任务。我们研究了两种数据增强策略:使用具有不同阈值的附加半监督标签和具有数据选择的跨语言迁移。与仅使用手动注释的数据集训练的基线相比,利用半监督数据集导致性能提高。我们提出了一个新的度量,翻译嵌入距离,以衡量跨语言数据选择的实例的可移植性。我们还介绍了为社交媒体文本量身定制的各种预处理步骤,以及微调预训练的多语言BERT(mBERT)以进行攻击性语言识别的方法。我们的多语言系统在2020年的OffensEval上取得了希腊语,丹麦语和土耳其语的竞争结果。
2020-08-04 cs.CL
A New Dataset for End-to-End Sign Language Translation: The Greek Elementary School Dataset
Cyprus University of Technology(塞浦路斯理工大学);AI Cyprus Ethical Novelties Ltd(塞浦路斯人工智能伦理创新有限公司)
针对现有手语翻译数据集资源有限、现实价值不足的问题,本文构建了含29653对样本的希腊小学手语数据集,覆盖多学科内容,实验验证其可推动端到端手语翻译研究。
2023-10-07 cs.CL cs.CV cs.LG
Fast Neural Machine Translation Implementation
University of Edinburgh(爱丁堡大学);Adam Mickiewicz University(亚当·密茨凯维奇大学);Tilde Universitat d’Alacant(阿利坎特大学(Tilde))
本文介绍了爱丁堡大学、亚当密茨凯维奇大学、蒂尔德大学和阿利坎特大学的成员在神经机器翻译和生成研讨会上提交的GPU效率跟踪报告。我们专注于在神经机器翻译的快速推理引擎Amun中实现的循环深度学习模型的有效实现。我们通过一个高效的mini-square算法,并通过融合softmax操作与k-best提取算法来提高性能。使用Amun的提交在GPU效率跟踪中排名第一,第二和第三。
2018-06-07 cs.CL
GOSt-MT: A Knowledge Graph for Occupation-related Gender Biases in Machine Translation
National Technical University of Athens(雅典国立技术大学);Panteion University of Social and Political Sciences(潘泰翁社会政治大学);National and Kapodistrian University of Athens(雅典国立卡波迪斯特里安大学)
本文提出GOSt-MT知识图谱,整合真实劳动力性别统计与机器翻译训练语料,用于分析英语、法语和希腊语中职业相关性别偏见,以推动机器翻译系统更加公平。
2024-10-04 cs.AI cs.CL
GLaM-Sign: Greek Language Multimodal Lip Reading with Integrated Sign Language Accessibility
Institute of Informatics and Telecommunications, NCSR “Demokritos”(希腊德谟克利特国家科学研究中心信息与通信研究所);University of West Attica(西阿提卡大学)
本文介绍 GLaM-Sign 希腊语多模态唇读数据集,整合音视频、转写与希腊手语翻译,以支持 DHH 群体并推动无障碍 AI 应用。
2025-01-09 cs.AI cs.CL
On The Alignment Problem In Multi-Head Attention-Based Neural Machine Translation
RWTH Aachen University(亚琛工业大学)
本文研究了基于Transformer结构的多头注意力模型中的对齐问题。我们证明,对准提取Transformer模型可以通过增加一个额外的对准头的多头源到目标的注意力组件。这用于计算更清晰的注意力权重。我们描述了如何使用对准头来实现有竞争力的性能。为了研究添加对齐头的效果,我们模拟了一个字典引导的翻译任务,其中用户希望使用预定义的字典条目来指导翻译。使用所提出的方法,我们实现了$3.8$ % BLEU的改善时,使用的字典相比,在基线情况下的$2.4$ % BLEU。我们还提出了对齐修剪,以加快解码基于语义的神经机器翻译(ANMT),这加快了翻译的一个因素的$1.8$没有损失的翻译性能。我们在共享的WMT 2016英语$\to$罗马尼亚语新闻任务和BOLT中文$\to$英语论坛任务上进行实验。
2018-09-11 cs.CL
Augmenting Neural Machine Translation with Knowledge Graphs
University of Paderborn(帕德博恩大学);Insight Centre for Data Analytics, Data Science Institute National University of Ireland Galway(爱尔兰国立高威大学数据科学研究院洞察数据分析中心)
虽然神经网络已被广泛用于在机器翻译任务中取得实质性进展,但已知它们严重依赖于大量训练数据的可用性。最近的努力已经尝试通过使用不同的策略(诸如反向转换)来增加训练数据来缓解数据稀疏问题。随着数据的稀缺,词汇表外的单词,主要是实体和术语表达,对神经机器翻译系统提出了严峻的挑战。在本文中,我们假设知识图谱增强了神经模型的语义特征提取,从而优化了文本中实体和术语表达的翻译,从而提高了翻译质量。因此,我们研究了两种不同的策略,将知识图谱到神经模型,而不修改的神经网络架构。我们还研究了我们的增强方法对经常性和非经常性(自我注意)神经架构的有效性。我们的知识图谱增强神经翻译模型(称为KG-NMT)在2014年至2018年间针对WMT英德翻译任务的最新测试数据集上平均实现了+3 BLEU、METEOR和chrF 3的显着且一致的改进。
2019-02-23 cs.CL
Paying Attention to Multi-Word Expressions in Neural Machine Translation
University of Latvia(拉脱维亚大学);Charles University(查理大学)
多词表达式(MWE)的处理是任何自然语言处理任务的已知问题。即使是神经机器翻译(NMT)也很难克服它。本文介绍了研究NMT对MWE的注意力分配以及改进包含MWE的句子的自动翻译的实验结果英语->拉脱维亚语和英语->捷克语NMT系统。提出了两种改进策略:(1)将自动提取的多目标候选词的双语对添加到用于训练NMT系统的并行语料库中;(2)将包含自动提取的多目标候选词的完整句子添加到并行语料库中。这两种方法都可以增加自动化评价结果。最好的结果- 0.99 BLEU点增加-已经达到了第一种方法,而第二种方法实现了最小的改进。我们还提供用于MWE提取和对齐检查的开源软件和工具。
2019-05-04 cs.CL
word2word: A Collection of Bilingual Lexicons for 3,564 Language Pairs
Kakao Brain
我们提出了word 2 word,一个公开的数据集和一个开源的Python包,用于从并行语料库中提取的跨语言单词翻译。我们的数据集在OpenSubtitles 2018中提供了62种语言的3,564(定向)语言对中的前k个单词翻译(Lison等人,2018年)。为了获得这个数据集,我们使用基于计数的双语词典提取模型的基础上观察,不仅源和目标词,而且源词本身可以高度相关。我们说明,由此产生的双语词典有很高的覆盖率,并达到竞争力的翻译质量的几种语言对。我们将数据集和模型包装在一个易于使用的Python库中,该库支持下载和检索任何支持的语言对中的前k个单词翻译,以及计算自定义并行语料库的前k个单词翻译。
2019-11-27 cs.CL
Logios : An open source Greek Polytonic Optical Character Recognition system
National and Kapodistrian University of Athens(雅典国立卡波迪斯特里安大学)
本文提出Logios,一个专为希腊语多调文本设计的开源OCR系统,结合卷积层和循环层克服传统OCR局限,显著提升识别准确性与效率,并开源底层模型供学术使用。
2025-06-26 cs.CL cs.CV
Self-Induced Curriculum Learning in Self-Supervised Neural Machine Translation
Saarland University(萨尔兰大学);DFKI GmbH(德国人工智能研究中心有限公司)
自监督神经机器翻译(SSNMT)联合学习从可比较(而不是平行)语料库中识别和选择合适的训练数据并进行翻译,这两个任务在良性循环中相互支持。在这项研究中,我们深入分析了SSNMT模型在训练过程中的采样选择。我们展示了在没有被告知的情况下,模型如何自我选择增加(i)复杂性和(ii)任务相关性的样本,并结合(iii)执行去噪课程。我们观察到,这两个系统内部表示类型的相互监督信号的动态是至关重要的提取和翻译性能。我们表明,在Gunning-Fog可读性指数方面,SSNMT开始从适合高中生的维基百科数据中提取和学习,并迅速转向适合一年级本科生的内容。
2020-10-06 cs.CL
Multi-domain machine translation enhancements by parallel data extraction from comparable corpora
平行文本是一种相对稀缺的语言资源,但它是一种非常有用的研究材料,有着广泛的应用。本研究提出并分析了新的方法,我们开发了从以前建立的可比语料库获得这样的数据。这些方法是自动的和无监督的,这使得它们适合大规模的研究。这项任务是非常实用的,因为非平行的多语言数据比平行语料库更频繁地出现,并且访问它们很容易,尽管平行句子是一个更有用的资源。在这项研究中,我们提出了一种自动网络爬行的方法,以建立主题对齐的可比语料库,例如基于维基百科或Euronews.com。我们还开发了新的方法,从可比数据中获得平行句子,并提出了能够选择不一致或部分等价翻译的语料库过滤方法。我们的方法很容易扩展到其他语言。通过分析其使用对统计机器翻译系统的影响,对所创建语料库的质量进行了评估。实验的基础上提出的波兰语-英语对文本从不同的领域,即讲座,短语手册,电影对话,欧洲议会议事录和文本包含药品传单。我们还测试了第二种基于可比语料库的数据创建平行语料库的方法,该方法允许基于它们之间的类比自动扩展关于给定域的现有句子语料库。因此,它不需要具有过去的并行资源来训练分类器。
2016-03-22 cs.CL stat.ML
DocHPLT: A Massively Multilingual Document-Level Translation Dataset
University of Edinburgh(爱丁堡大学);University of Helsinki(赫尔辛基大学)
本文构建覆盖50种语言、含1.24亿文档对的 DocHPLT 数据集,通过保留完整文档的网页抽取流程支持文档级翻译,并证明微调 LLM 显著优于指令微调基线。
2025-09-29 cs.CL
Building the Language Resource for a Cebuano-Filipino Neural Machine Translation System
De La Salle University(德拉萨大学);University of the Immaculate Conception(圣母无原罪大学)
平行语料库是基于机器学习的翻译中的重要资源。收集、提取和对齐文本以构建可接受的语料库进行翻译的任务非常繁琐,尤其是对于低资源语言。在本文中,我们提出了努力建立一个平行语料库宿务和菲律宾从两个不同的领域:圣经文本和网络。对于圣经资源,动词的子词单位翻译和名词的可复制方法被应用于纠正翻译中的不一致。这种校正机制被用作预处理技术。另一方面,维基百科是主要的网络资源,经常出现的主题段提取的源语言和目标语言。这些观察到的主题片段在4个不同的类别中是唯一的。这些主题段的识别可以用于句子的自动提取。使用递归神经网络来实现翻译,使用TensorFlow中的OpenNMT序列建模工具。然后,通过将这两个不同的语料库作为神经网络中的两个单独的输入来评估它们。结果表明,在两个语料库的BLEU分数的差异。
2021-10-05 cs.CL
"Bilingual Expert" Can Find Translation Errors
Alibaba Group Inc.(阿里巴巴集团)
通过采用神经序列到序列模型,统计机器翻译的最新进展使端到端系统能够在许多WMT基准测试中达到最先进的水平。当提供黄金参考用于验证时,这种机器翻译(MT)系统的性能通常通过自动度量BLEU来评估。然而,对于模型推理或生产部署,黄金参考是禁止的,或者需要昂贵的人工注释和双语专业知识。为了解决质量评估(QE)的问题,没有参考,我们提出了一个通用的框架,自动评估的翻译输出的大多数WMT质量评估任务。我们首先建立了一个条件目标语言模型,一个新的双向Transformer,命名为神经双语专家模型,这是预先训练的大型并行语料库的特征提取。对于QE推理,双语专家模型可以同时产生源和翻译之间的联合潜在表示,以及基于从并行数据中学习的先验知识的可能错误的标记的实值测量。随后,这些特征将被进一步输入到一个简单的Bi-LSTM预测模型中进行质量评估。实验结果表明,我们的方法在WMT 2017/2018的质量估计跟踪中达到了最先进的性能。
2018-11-16 cs.CL
Noisy-parallel and comparable corpora filtering methodology for the extraction of bi-lingual equivalent data at sentence level
Polish Japanese Academy of Information Technology(波兰日本信息技术学院)
文本对齐和文本质量对于机器翻译(MT)系统、某些NLP工具以及任何其他需要双语数据的文本处理任务的准确性至关重要。本研究提出了一种基于波兰语(非位置敏感语言)的独立于语言的双句过滤方法。这种清理方法是在TED演讲语料库上开发的,最初也在维基百科的可比语料库上进行了测试,但它可以用于任何文本域或语言对。所提出的方法实现了句子比较的各种语法。其中一些利用同义词和文本的语义和结构分析作为附加信息。确保最大限度地减少数据丢失。讨论了使用该工具处理文本的MT系统评分的改进。
2015-10-15 cs.CL
The Application of Fuzzy Logic to Collocation Extraction
Amrapali Institute of Technology and Sciences(阿姆拉帕利技术与科学学院);University of Kumaun(库马盎大学)
搭配对于自然语言处理的许多任务都是非常重要的,如信息检索、机器翻译、计算词典编纂等。几乎所有的方法都形成了一个经典的简洁搭配集。提出了一种模糊逻辑的搭配抽取方法,形成一个模糊搭配集,其中每个词组合都有一定的搭配隶属度。模糊逻辑提供了一种将自然语言表达为模糊逻辑规则的简单方法。两个现有的方法;互信息和t-测试已被用于模糊推理系统的输入。由此产生的隶属函数可以很容易地看到和演示。为了说明模糊逻辑的实用性,我们以某些词对为例进行了分析。的工作数据已基于语料库的约100万字,包含在不同的小说,构成项目古腾堡可在www.gutenberg. org。所提出的方法具有这两种方法的所有优点,同时克服了它们的缺点。因此,它提供了比这两种方法更好的结果。
2008-11-08 cs.CL
The Recent Advances in Automatic Term Extraction: A survey
Jozef Stefan Institute(约瑟夫·斯特凡研究所);University of La Rochelle(拉罗谢尔大学)
自动术语提取(ATE)是一项自然语言处理(NLP)任务,通过提供候选术语列表,简化了从特定领域语料库中手动识别术语的工作。作为特定专业领域的知识单元,提取的术语不仅有利于若干术语任务,而且还支持和改进若干复杂的下游任务,例如,信息检索、机器翻译、主题检测和情感分析。ATE系统以及带注释的数据集已经被广泛研究和开发了几十年,但最近我们观察到用于手头任务的新型神经系统激增。尽管对ATE有大量的新研究,但缺乏涵盖新神经方法的系统调查研究。我们对基于深度学习的ATE方法进行了全面的调查,重点关注基于Transformer的神经模型。这项研究还提供了这些系统和以前的ATE方法,这是基于特征工程和非神经监督学习算法之间的比较。
2023-01-17 cs.CL
An Ensemble Approach to Acronym Extraction using Transformers
Hitachi CRL(日立中央研究所);Centre for Translation Studies, University of Surrey(萨里大学翻译研究中心)
首字母缩略词是一个短语的缩写单位,通过使用文本中短语的初始成分来构建。从文本中自动提取首字母缩略词可以帮助各种自然语言处理任务,如机器翻译、信息检索和文本摘要。本文讨论了一种集成方法的任务的首字母缩略词提取,它利用两种不同的方法来提取首字母缩略词及其相应的长形式。第一种方法利用多语言上下文语言模型并微调模型以执行任务。第二种方法依赖于卷积神经网络架构来提取首字母缩略词并将它们附加到前一种方法的输出中。我们还使用从多个开放获取期刊中提取的额外训练样本来增强官方训练数据集,以帮助提高任务性能。我们的数据集分析还突出了当前任务数据集中的噪声。我们的方法在与任务一起发布的测试数据上实现了以下宏观F1分数:丹麦语(0.74),英语-法律(0.72),英语-科学(0.73),法语(0.63),波斯语(0.57),西班牙语(0.65),越南语(0.65)。我们公开发布代码和模型。
2022-01-09 cs.CL
Reordering rules for English-Hindi SMT
CDAC Mumbai(孟买电子发展中心)
重排序是统计机器翻译(SMT)系统的一个预处理阶段,在SMT系统中,源语句的单词按照目标语言的语法进行重排序。我们提出了一套丰富的规则来更好地重新排序。我们的想法是促进训练过程中更好的对齐和并行短语提取的短语为基础的SMT系统。重新排序也有助于解码过程,从而提高机器翻译的质量。我们已经观察到,通过使用我们的方法,与基线SMT相比,翻译质量有了显着提高。我们使用BLEU、NIST、多参考字出错率、多参考位置无关出错率来判断改进。我们利用开放源代码的SMT工具包MOSES来开发该系统。
2016-10-24 cs.CL
BabelDOC: Better Layout-Preserving PDF Translation via Intermediate Representation
School of Computer Engineering and Science, Shanghai University, Shanghai, China(1 上海大学计算机工程与科学学院,上海,中国);Funstory.ai Limited, Hong Kong SAR, China(2 Funstory.ai有限公司,香港特别行政区,中国);Department of Computer Science and Engineering, Shanghai Jiao Tong University, Shanghai, China(3 上海交通大学计算机科学与工程系,上海,中国)
BabelDOC通过中间表示框架实现布局保持的PDF翻译,解决语言处理与布局保持的矛盾,提升翻译精度和文档一致性。
2026-05-11 cs.CL cs.CV
Why Self-Attention? A Targeted Evaluation of Neural Machine Translation Architectures
Uppsala University(乌普萨拉大学);University of Zurich(苏黎世大学);University of Edinburgh(爱丁堡大学)
最近,非递归架构(卷积,自我注意)在神经机器翻译中的表现优于RNN。CNN和自我注意网络可以通过比RNN更短的网络路径连接遥远的单词,据推测,这提高了它们对远程依赖关系建模的能力。然而,这一理论论点尚未得到实证检验,也没有深入探讨其强劲表现的其他解释。我们假设CNN和自我注意网络的强大性能也可能是由于它们从源文本中提取语义特征的能力,我们在两个任务上评估了RNN,CNN和自我注意网络:主语-动词一致性(需要捕获长距离依赖关系)和词义消歧(需要语义特征提取)。我们的实验结果表明:1)自我注意网络和CNN在长距离主谓一致性建模方面并没有优于RNN; 2)自我注意网络在词义消歧方面明显优于RNN和CNN。
2018-11-11 cs.CL
Towards Global AI Inclusivity: A Large-Scale Multilingual Terminology Dataset (GIST)
Carnegie Mellon University(卡内基梅隆大学);University of Michigan(密歇根大学);University of Toronto(多伦多大学);Max Planck Institute for Intelligent Systems(智能系统马克斯·普朗克研究所);Vector Institute(向量研究所)
本文提出大规模多语言AI术语数据集GIST,结合大语言模型提取与人工翻译构建5000个术语的五种语言版本,并通过无需重训练的后翻译优化提升翻译质量,以促进全球AI研究的包容性与协作。
2025-05-31 cs.CL
A Hybrid Morpheme-Word Representation for Machine Translation of Morphologically Rich Languages
National University of Singapore(新加坡国立大学)
我们提出了一种独立于语言的方法,用于改进统计机器翻译的形态丰富的语言,使用混合词素-单词表示,翻译的基本单位是词素,但在翻译过程的所有阶段都尊重单词边界。我们的模型通过以下方式扩展了经典的基于短语的模型:(1)单词边界感知的词素级短语提取,(2)使用单词级BLEU的词素级翻译模型的最小错误率训练,以及(3)与词素和单词级语言模型的联合评分。通过与经典模型的结合,进一步改进了模型。使用Europarl对英语到芬兰语的评估(714 K句子对; 1550万英语单词)显示,与基于BLEU和人类判断的经典模型相比,统计学上有显着改善。
2019-11-19 cs.CL cs.LG
Enhancing Neural Machine Translation with Semantic Units
Key Laboratory of Intelligent Information Processing(智能信息处理重点实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Beijing Academy of Artificial Intelligence(北京人工智能研究院);University of Chinese Academy of Sciences(中国科学院大学)
本文提出SU4MT方法,通过词对编码识别语义单元边界,并用注意力语义融合层整合子词表示,以增强神经机器翻译,实验证明其优于强基线。
2023-10-17 cs.CL
Text Segmentation using Named Entity Recognition and Co-reference Resolution in English and Greek Texts
在本文中,我们研究的好处执行命名实体识别(NER)和共指决议的英语和希腊语语料库用于文本分割。这里的目的是检查文本分割和信息抽取的组合是否有利于识别文档中出现的各种主题。NER手动进行英语语料库中,并与公开可用的注释工具产生的输出进行比较,而已经存在的工具用于希腊语语料库。从这两个语料库产生的注释进行手动更正和丰富,以涵盖四种类型的命名实体。共同参考分辨率,即,随后执行用相同的命名实体标识符替换相同实例的每个引用。评估,使用五个文本分割算法的英语语料库和四个希腊语语料库导致的结论是,收益高度依赖于段的主题,命名实体实例出现在它的数量,以及段的长度。
2016-10-28 cs.CL cs.IR
Extracting Parallel Sentences with Bidirectional Recurrent Neural Networks to Improve Machine Translation
Université de Montréal(蒙特利尔大学)
并行句子抽取是解决多语言自然语言处理应用中数据稀疏问题的一项任务。我们提出了一种基于双向递归神经网络的方法,从多语言文本集合中提取平行句子。我们的实验与嘈杂的平行语料库表明,我们可以实现有前途的结果对竞争力的基线消除需要特定的功能工程或额外的外部资源。为了证明我们的方法的实用性,我们从维基百科文章中提取句子对来训练机器翻译系统,并在翻译性能上显示出显着的改进。
2018-08-24 cs.CL cs.LG stat.ML
Shared Latent Space by Both Languages in Non-Autoregressive Neural Machine Translation
Handong Global University(韩东全球大学)
针对非自回归机器翻译的多模态问题及辅助后验模型缺陷,本文提出跨语言共享潜在空间的双重重构分层潜在变量方法,显著提升翻译质量。
2024-09-09 cs.CL cs.LG
Leveraging Neural Machine Translation for Word Alignment
Charles University(查理大学)
最常见的单词对齐工具依赖于大量的平行句子,然后通常根据IBM模型算法之一进行处理。然而,训练数据与机器翻译(MT)系统相同,特别是对于神经MT(NMT),其本身能够使用训练的注意力头部产生单词对齐。这很方便,因为词对齐理论上是任何基于注意力的NMT的可行副产品,它也能够为翻译的句子对提供解码器评分。我们总结了如何从对齐分数中提取单词对齐的不同方法,然后探索了从NMT中提取分数的方法,重点是基于输出句子和令牌概率推断单词对齐分数。我们将此与从注意力中提取对齐分数进行比较。最后,我们将所有对齐分数的来源聚合到一个简单的前馈网络中,当使用组合对齐提取器时,该网络可以获得最佳结果。
2021-03-31 cs.CL cs.LG
Voice@SRIB at SemEval-2020 Task 9 and 12: Stacked Ensembling method for Sentiment and Offensiveness detection in Social Media
Samsung R&D Bangalore(三星研发班加罗尔)
在Twitter、Facebook和Reddit等社交媒体平台上,人们更喜欢使用西班牙语-英语、印地语-英语等代码混合语言来表达自己的观点。在本文中,我们描述了我们使用的不同模型,使用外部数据集来训练嵌入,Sentimix和OffensEval任务的集成方法。使用预训练的嵌入通常有助于多个任务,例如句子分类和机器翻译。在这个实验中,我们使用我们训练的代码混合嵌入和twitter预训练的嵌入来完成SemEval任务。我们在数据集上评估我们的模型的宏观F1分数,精确度,准确度和召回率。我们打算表明,超参数调整和数据预处理步骤有助于提高分数。在我们的实验中,我们能够达到0.886 F1-Macro上OffenEval希腊语子任务后评价,而最高的是0.852在评估期间。我们以0.756的最好成绩在西班牙式英语比赛中名列第三。Codalab用户名是asking 28.
2020-10-11 cs.CL cs.LG
PolyPrompt: Automating Knowledge Extraction from Multilingual Language Models with Dynamic Prompt Generation
Stanford University(斯坦福大学)
PolyPrompt 通过基于梯度的动态触发词元生成,以参数高效方式提升大模型多语言能力,在 15 种语言的 MMLU 上较基线提升 3.7%-19.9%。
2025-06-02 cs.CL cs.LG
SignAttention: On the Interpretability of Transformer Models for Sign Language Translation
Instituto de Investigación en Informática LIDI(LIDI信息学研究所);Universidad Nacional de La Plata(拉普拉塔国立大学);Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET)(国家科学技术研究委员会);Comisión de Investigaciones Científicas de la Pcia. de Bs. As. (CIC-PBA)(布宜诺斯艾利斯省科学研究委员会);Instituto de Ciencias de la Computación, Universidad de Buenos Aires(布宜诺斯艾利斯大学计算机科学学院)
本文首次对基于Transformer的希腊手语翻译模型进行可解释性分析,揭示其注意力机制的对齐模式及解码过程中注意力焦点的动态变化,为构建更透明可靠的手语翻译系统提供基础。
2024-10-18 cs.AI cs.CL
Dynamic Context-guided Capsule Network for Multimodal Machine Translation
Xiamen University(厦门大学);Tencent WeChat AI(腾讯微信AI);University of Rochester(罗切斯特大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
多模态机器翻译(MMT)主要致力于增强具有视觉特征的纯文本翻译,引起了计算机视觉和自然语言处理界的广泛关注。当前的MMT模型大多采用注意力机制、全局上下文建模或多模态联合表示学习来利用视觉特征。然而,注意力机制缺乏足够的语义模态之间的相互作用,而其他两个提供固定的视觉上下文,这是不适合的建模时,产生翻译观察到的变化。为了解决上述问题,在本文中,我们提出了一种新的动态上下文引导胶囊网络(DCCN)的MMT。具体地说,在解码的每个时间步,我们首先采用传统的源-目标注意力来产生特定于时间步的源侧上下文向量。接下来,DCCN将此向量作为输入,并使用它通过上下文引导的动态路由机制来引导相关视觉特征的迭代提取。特别是,我们用全局和区域视觉特征来表示输入图像,我们引入两个并行的DCCN来对具有不同粒度视觉特征的多模态上下文向量进行建模。最后,我们得到两个多模态上下文向量,将其融合并纳入解码器中用于预测目标词。在Multi 30 K英德英法翻译数据集上的实验结果表明了DCCN的优越性。我们的代码可以在https://github.com/DeepLearnXMU/MM-DCCN上找到。
2020-09-04 cs.CL cs.MM
Cross-Lingual Transferability of Training Data Extraction Attacks to Recover Memorized PII
University of Rome Tor Vergata(罗马第二大学);University of Luxembourg(卢森堡大学);Almawave Labs(Almawave 实验室)
本研究证明训练数据提取攻击可跨语言迁移,多语言模型在非英语提示下仍能泄露记忆的PII,且中间层存在跨语言桥梁,凸显需语言无关的净化策略。
2026-10-06 cs.AI cs.CL cs.CR
POSESTITCH-SLT: Linguistically Inspired Pose-Stitching for End-to-End Sign Language Translation
Department of Computer Science and Engineering(计算机科学与工程系);Indian Institute of Technology Kanpur (IIT Kanpur)(印度理工学院坎浦尔学院(IIT坎浦尔))
针对手语翻译数据集稀缺问题,提出受语言学模板启发的预训练方案POSESTITCH-SLT,通过引入模板生成的合成句子对训练简单的Transformer模型,在How2Sign和iSign数据集上显著提升了BLEU-4分数并超越现有方法。
2025-10-31 cs.AI cs.CL cs.CV
Extraction of domain-specific bilingual lexicon from comparable corpora: compositional translation and ranking
UNIVERSITÉ DE NANTES – LINA UMR 6241(南特大学);UNIVERSITÉ STENDHAL – GRENOBLE 3(司汤达大学 – 格勒诺布尔第三大学);LINGUA ET MACHINA(Lingua et Machina公司)
本文提出了一种从可比语料库中抽取词形结构术语译文的方法。该方法是基于合成翻译和利用翻译等价在词素水平,这允许生成“肥沃”的翻译(翻译对,其中目标术语有更多的话比源术语)。采用基于语料库和基于语义的特征排序方法来选择最佳候选译文。我们在Top1候选翻译上获得了91%的平均精度。该方法在两种语言对(英语-法语和英语-德语)和一个小的专业可比语料库(每种语言40万字)上进行了测试。
2012-10-21 cs.CL
DiscreTalk: Text-to-Speech as a Machine Translation Problem
Human Dataware Lab. Co. Ltd.(人类数据仓库实验室有限公司);Nagoya University(名古屋大学);Johns Hopkins University(约翰斯·霍普金斯大学)
提出了一种基于神经机器翻译(NMT)的端到端文语转换(E2 E-TTS)模型。该模型由两部分组成:一个非自回归矢量量化变分自编码器(VQ-VAE)模型和自回归变换器-NMT模型。VQ-VAE模型学习从语音波形到离散符号序列的映射函数,然后训练Transformer-NMT模型从给定的输入文本中估计该离散符号序列。由于VQ-VAE模型可以以完全数据驱动的方式学习这样的映射,因此我们不需要考虑传统E2 E-TTS模型中所需的特征提取的超参数。由于使用离散符号,我们可以使用NMT和自动语音识别(ASR)中开发的各种技术,如束搜索、子字单元和与语言模型的融合。此外,我们可以避免预测特征的过度平滑问题,这是TTS中常见的问题之一。JSUT语料库的实验结果表明,该方法在自然度上优于传统的非自回归神经声码器的Transformer-TTS模型,达到了与VQ-VAE模型重建相当的性能。
2020-05-12 cs.CL cs.SD eess.AS
Translation Error Detection as Rationale Extraction
University of Sheffield(谢菲尔德大学);Imperial College London(伦敦帝国理工学院)
最近基于多语言预训练表示的质量估计(QE)模型在预测翻译句子的整体质量时取得了非常有竞争力的结果。预测翻译错误,即具体检测哪些单词是不正确的,是一项更具挑战性的任务,特别是在训练数据有限的情况下。我们假设,与人类不同,成功的QE模型依赖于翻译错误来预测整体句子质量。通过探索一组特征归因方法,将相关性得分分配给输入以解释模型预测,我们研究了最先进的量化宽松模型的行为,并表明从这些模型中提取的解释(即理由)确实可以用于检测翻译错误。因此,我们(i)引入了一种新的半监督方法,用于词级QE和(ii)建议使用QE任务作为一个新的基准来评估特征属性的可解释性,即如何解释模型解释是人类。
2021-08-27 cs.CL
HATL: Hierarchical Adaptive-Transfer Learning Framework for Sign Language Machine Translation
本文提出HATL框架,通过动态解冻预训练层和层间学习率衰减,提升手语翻译的鲁棒性和适应性,在Sign2Text和Sign2Gloss2Text任务中表现优异,BLEU-4得分提升显著。
2026-02-26 cs.AI cs.CL cs.CV
Computer-Aided Modelling of the Bilingual Word Indices to the Ninth-Century Uchitel'noe evangelie
针对中世纪译本双语词典编纂的语言不对称、来源差异等难题,以《Uchitel'noe evangelie》为对象提出分步骤的计算机辅助建模方法,可处理不对称翻译关联与文本差异,且能泛化至其他希译古教会斯拉夫语作品。
2022-10-25 cs.CL
TransClean: A Benchmark for Detecting and Extracting Clean Translations from Large Language Model Outputs
University of Oslo(奥斯陆大学)
针对LLM翻译输出中的噪声问题,构建了包含9900对噪声/干净翻译的基准TransClean,并评估了两种提取方法,为评估和改进翻译清洁度提供了首个系统框架。
2026-09-11 cs.CL
Impact of translation on biomedical information extraction from real-life clinical notes
IPLESP;Shanghai Jiaotong University(上海交通大学);Hôpital Saint-Antoine(圣安托万医院);Sorbonne Université(索邦大学);Inserm(法国国家健康与医学研究院);Université Sorbonne Paris Nord(巴黎第十三大学(索邦巴黎北大学));LIMICS(LIMICS(医学信息学与健康工程实验室))
研究比较原生法语模型与先翻译再用英语工具进行临床概念提取和规范化的方案,发现原生法语方法 f1 显著更高。
2023-06-03 cs.CL
Translation and Fusion Improves Zero-shot Cross-lingual Information Extraction
Georgia Institute of Technology(佐治亚理工学院)
针对大语言模型在低资源语言信息抽取中表现受限的问题,提出TransFusion翻译融合框架及跨语言指令微调模型GoLLIE-TF,在多语言数据集上实现更优零样本跨语言迁移,且适配多种模型架构均能提升低资源语言命名实体识别性能。
2024-06-20 cs.CL
Inverted Bilingual Topic Models for Lexicon Extraction from Non-parallel Data
IBM T. J. Watson Research Center(IBM T. J. 沃森研究中心);IBM Research-Tokyo(IBM东京研究中心)
主题模型已经成功地应用于词典抽取。但是,以前的大多数方法仅限于文档对齐的数据。在本文中,我们试图解决两个挑战,将主题模型应用于非并行数据中的词汇提取:1)难以建模的单词关系和2)噪声种子字典。为了解决这两个挑战,我们提出了两个新的双语主题模型,以更好地捕捉每个单词的语义信息,同时区分在一个嘈杂的种子字典的多个翻译。我们通过颠倒“单词”和“文档”的角色来扩展主题模型的范围。此外,为了解决种子词典中的噪声问题,我们在模型中加入了翻译选择的概率。此外,我们还提出了一个有效的措施,以评估在不同的语言中的词的相似性,并选择最佳的翻译对。使用真实世界数据的实验结果表明,所提出的模型的实用性和有效性。
2017-06-21 cs.CL
Automated Python Translation
George Mason University(乔治梅森大学);University of Central Florida(中佛罗里达大学)
针对非英语使用者理解Python代码的障碍,提出将Python自然模态自动翻译成其他语言的任务,构建自动化管道并比较机器翻译与大语言模型策略,获取多库多语言翻译并测试质量,为通用Python提供路径。
2025-04-16 cs.CL
Can We Triage LLM Translation Errors in Classical Texts Without Human References? Source Novelty, GEMBA Scoring, and Budgeted Review through Pali-to-English Translation
本研究通过巴利语到英语翻译测试无参考错误分类,发现无参考GEMBA评分是最强信号,审查前10%可捕获81.6%错误,并提出结合多种信号的预算审查工作流程。
2026-09-15 cs.CL
Low-resource Information Extraction with the European Clinical Case Corpus
Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);University of Padua(帕多瓦大学);GOI institute(GOI研究所);Basque Summer University (UEU)(巴斯克夏季大学(UEU))
本文提出E3C-3.0多语言医学数据集,通过半自动标注投影和人工修订构建,实验证明微调可提升LLM性能,且跨语言迁移学习有效缓解低资源问题。
2025-03-26 cs.CL