PEACH: A sentence-aligned Parallel English-Arabic Corpus for Healthcare
University of Sharjah(沙迦大学)
本文介绍PEACH,一个句子对齐的英阿平行医疗语料库,含51,671个平行句,用于语言对比、翻译研究及NLP,并支持领域机器翻译等应用。
2025-08-07 cs.CL
A new hybrid metric for verifying parallel corpora of Arabic-English
Bangor University(班戈大学)
本文讨论了一种新的衡量标准,该标准已被应用于验证阿拉伯语-英语平行语料库中句子对之间的翻译质量。该度量结合了两种技术,一种基于句子长度,另一种基于压缩代码长度。在样本测试平行阿拉伯语-英语语料库上的实验表明,与单独使用句子长度和压缩码长度相比,这两种技术的结合提高了识别满意和不满意句子对的准确性。本研究提出的新方法能有效地滤除噪声,减少误译,从而大大提高翻译质量。
2015-02-12 cs.CL
A Corpus for Sentence-level Subjectivity Detection on English News Articles
University of Bologna(博洛尼亚大学)
本研究提出新颖的句子级主观性检测标注指南,构建英语语料库NewsSD-ENG,并评估多语言Transformer模型,发现多语言训练效果最佳。
2024-05-24 cs.CL
Probing Multilingual Sentence Representations With X-Probe
University of Oslo(奥斯陆大学)
本文扩展了探测句子表征的任务,在多语言领域的语言洞察力。在这样做的时候,我们做了两个贡献:首先,我们提供数据集的多语言探测,来自维基百科,在五种语言,即英语,法语,德语,西班牙语和俄语。其次,我们评估每种语言的六个句子编码器,每个编码器都是通过将句子表示映射到英语句子表示来训练的,使用平行语料库中的句子。我们发现,跨语言映射的表示往往更好地保留某些语言信息比表示来自英语编码器训练自然语言推理(NLI)作为下游任务。
2019-06-12 cs.CL
JaParaPat: A Large-Scale Japanese-English Parallel Patent Application Corpus
本文构建了包含超3亿日英句对的JaParaPat专利平行语料库,通过专利族对齐和词典引导的句子对齐方法提取数据,使专利翻译BLEU值提升20点。
2025-08-22 cs.CL
Using English as Pivot to Extract Persian-Italian Parallel Sentences from Non-Parallel Corpora
Shiraz University(设拉子大学);University of Calabria(卡拉布里亚大学);Complutense University(马德里康普顿斯大学)
统计机器翻译系统(SMT)的有效性很大程度上取决于训练阶段使用的并行语料库的数量。对于低资源语言对,没有足够的并行语料库来构建准确的SMT。本文提出了一种从非平行(可比)语料库中抽取波斯语-意大利语双语平行句的新方法。在本研究中,英语被用作枢轴语言,计算源和目标句子和候选选择阶段之间的匹配分数。此外,一个新的单语句子相似性度量,归一化谷歌距离(NGD),提出了改进的匹配过程。此外,基线系统的一些扩展,以提高提取的句子与BLEU测量的质量。实验结果表明,使用新的基于主元的抽取方法可以显著提高双语语料的质量,从而提高波斯语-意大利语SMT系统的性能。
2017-01-29 cs.CL
Magical Number Seven Plus or Minus Two: Syntactic Structure Recognition in Japanese and English Sentences
George A.米勒说,人类在短期记忆中只有七块,正负两块。我们计算了在日语句子依存结构分析的每一步中,其修饰语不确定的bunsetsus(短语)的数量,因此必须存储在短期记忆中。这个数字大约小于9,也就是7加2的上限。我们也得到了类似的结果与英语句子的假设下,人类认识到一系列的话,如名词短语(NP),作为一个单位。这表明,如果我们假设人类在日语和英语中的认知单位分别是文色和NP,分析将支持米勒的$7 \pm 2$理论。
2001-03-12 cs.CL
Mapping Scrambled Korean Sentences into English Using Synchronous TAGs
同步树邻接文法可用于机器翻译。然而,将诸如韩语的自由命令语言翻译成英语是复杂的。我提出了一个机制,将混乱的韩国句子翻译成英语的多成分标签(MC-TAG)和同步标签(STAGs)的概念相结合。
1995-05-13 cmp-lg cs.CL
AlignAR: Generative Sentence Alignment for Arabic-English Parallel Corpora of Legal and Literary Texts
School of Foreign Languages, Huaihua University(怀化大学外国语言学院);Al-lith University College, Umm al-Qura University(乌姆·盖拉大学阿尔利思学院)
AlignAR通过生成式句子对齐方法,提升阿拉伯-英语法律和文学文本的平行语料库质量,验证了大语言模型在对齐任务中的优越性。
2026-01-01 cs.CL
The role of inhibitory control in garden-path sentence processing: A Chinese-English bilingual perspective
Guangdong University of Foreign Studies(广东外语外贸大学);The Chinese University of Hong Kong(香港中文大学);Nanyang Technological University(南洋理工大学)
本研究从汉英双语视角探究抑制控制在花园路径句加工中的作用,发现其不影响母语花园路径恢复,与二语熟练度呈复杂关联,还确定了双语研究中测量抑制控制的优选Stroop任务版本。
2024-12-13 cs.CL
Cross-Dialect Sentence Transformation: A Comparative Analysis of Language Models for Adapting Sentences to British English
Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
本研究比较了不同语言模型将美式、印度和爱尔兰英语方言转换为英式英语的能力,发现印度和爱尔兰英语翻译与英式英语相似度较高,而美式英语略低;Llama-2-70b表现最佳,强调了模型选择对翻译质量的关键作用。
2023-11-05 cs.AI cs.CL
A High-Quality and Large-Scale Dataset for English-Vietnamese Speech Translation
VinAI Research(VinAI研究院)
在本文中,我们介绍了一个高质量和大规模的基准数据集的英语-越南语语音翻译与508个音频小时,由331 K三元组(翻译后的音频,英语源转录句子,越南语目标字幕句子)。我们还使用强基线进行了实证实验,发现传统的“级联”方法仍然优于现代的“端到端”方法。据我们所知,这是第一次大规模的英越语音翻译研究。我们希望我们的公开数据集和研究可以作为未来英越语音翻译研究和应用的起点。我们的数据集可在https://github.com/VinAIResearch/PhoST上获得
2022-08-08 cs.CL
Variation of sentence length across time and genre
University of Freiburg(弗赖堡大学)
本文利用COHA全文语料库检验书面英语句子长度随时间下降的假设,并以in order to频率下降为证据,揭示句子长度、体裁与句法用法变化之间的相互关联。
2025-02-06 cs.CL
DisSim: A Discourse-Aware Syntactic Text Simplification Frameworkfor English and German
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们介绍了DisSim,一个话语意识的句子分裂框架,英语和德语,其目标是转换成一个中间表示,提出了一个简单的,更规则的结构,更容易处理的下游语义应用句法复杂的句子。为此,我们把输入的句子成一个两层的语义层次结构的形式的核心事实和伴随的上下文,同时确定它们之间的修辞关系。通过这种方式,我们保留了输入的连贯性结构,从而保留了其对下游任务的可解释性。
2019-09-26 cs.CL
OasisSimp: An Open-source Asian-English Sentence Simplification Dataset
本文提出OasisSimp数据集,涵盖五种语言的句子简化任务,揭示了多语言环境下低资源语言的简化挑战,为未来研究提供基准。
2026-03-14 cs.CL
LibriVoxDeEn: A Corpus for German-to-English Speech Translation and German Speech Recognition
Heidelberg University(海德堡大学);Computational Linguistics(计算语言学);IWR Heidelberg University(海德堡大学IWR研究所)
我们提出了一个语料库的德语音频,德语文本,英语翻译,德语有声读物的基础上,对齐的三元组。语音翻译数据由110小时的音频材料组成,与超过50 k个平行句子对齐。包括与德语文本对齐的547小时德语语音的甚至更大的数据集可用于语音识别。音频数据是读语音,因此不流利程度低。音频和句子对齐的质量已经通过人工评估进行了检查,表明语音对齐质量通常非常高。句子对齐质量与常用的平行翻译数据相当,并且可以通过自动对齐分数的截止值进行调整。据我们所知,该语料库是迄今为止最大的德语语音识别和端到端德语到英语语音翻译资源。
2020-03-04 cs.CL
Learning Cross-Lingual Sentence Representations via a Multi-task Dual-Encoder Model
Google AI(谷歌人工智能)
多语言神经语言建模的一个重要障碍是缺乏标记的非英语数据。克服这个问题的一个潜在方法是学习跨语言文本表示,可以用来将英语任务训练的性能转移到非英语任务,尽管很少或没有特定于任务的非英语数据。在本文中,我们探索了一种用于学习跨语言句子表示的自然设置:双编码器。我们提供了一个全面的评估,我们的跨语言表示的单语,跨语言,和zero-shot/少样本学习任务,并给出了不同的学习跨语言嵌入空间的分析。
2019-08-01 cs.CL
AandP: Utilizing Prolog for converting between active sentence and passive sentence with three-steps conversion
本文介绍了一种简单而有效的方法来解决英语语法中的一个关键问题,即主动句和被动句的关系。事实上,主动句和与之对应的被动句表达的意思是相同的,只是它们的结构不同。我使用Prolog [4]和确定子句语法(DCG)[5]进行主动句和被动句之间的转换。一些先进的技术也被使用,如额外的参数,额外的目标,词汇,等我试图解决各种情况下的主动和被动句,如12英语时态,情态动词,否定形式等更多的细节和我的贡献将在以下部分。源代码可在https://github.com/tqtrunghnvn/ActiveAndPassive上获得。
2020-01-16 cs.CL
English Contrastive Learning Can Learn Universal Cross-lingual Sentence Embeddings
Carnegie Mellon University(卡内基梅隆大学)
通用跨语言句子嵌入将语义相似的跨语言句子映射到共享的嵌入空间中。对齐跨语言句子嵌入通常需要监督的跨语言平行句子。在这项工作中,我们提出了mSimCSE,它扩展SimCSE到多语言设置,并揭示了英语数据的对比学习可以令人惊讶地学习高质量的通用跨语言句子嵌入,而无需任何并行数据。在无监督和弱监督的设置,mSimCSE显着改善了以前的跨语言检索和多语言STS任务的句子嵌入方法。在检索低资源语言和多语言STS方面,无监督mSimCSE的性能与完全监督方法相当。当跨语言NLI数据可用时,性能可以进一步增强。我们的代码可在https://github.com/yaushian/mSimCSE上公开获取。
2022-11-11 cs.AI cs.CL
English-Czech Systems in WMT19: Document-Level Transformer
Charles University(查理大学);Faculty of Mathematics and Physics(数学与物理学院);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
我们描述了我们的NMT系统提交给WMT 19英语捷克语新闻翻译的共享任务。我们的系统基于Tensor 2 Tensor(T2 T)或Marian框架中实现的Transformer模型。我们的目标是通过扩大源文件和目标文件的上下文来提高翻译文件的充分性和一致性。我们不是单独翻译每个句子,而是将文档分割成可能重叠的多句子片段。在T2 T实施的情况下,相对于应用于孤立句子的相同系统,这个经过“文档级”训练的系统实现了$+0.6$ BLEU改进($p<0.05$)。为了评估文档级模型对词汇连贯性的潜在影响,我们进行了半自动分析,结果显示只有少数句子在这方面有所改善。因此,我们无法从这些薄弱的证据中得出任何结论。
2019-07-30 cs.CL
ParaNMT-50M: Pushing the Limits of Paraphrastic Sentence Embeddings with Millions of Machine Translations
Carnegie Mellon University(卡内基梅隆大学);Toyota Technological Institute at Chicago(芝加哥丰田理工学院)
我们描述了PARANMT-50 M,一个包含超过5000万个英语-英语重复释义对的数据集。我们通过使用神经机器翻译来翻译大型平行语料库的非英语部分,自动生成了这些对,遵循Wieting等人。我们希望ParaNMT-50 M能够成为释义生成的宝贵资源,并提供丰富的语义知识来源,以改善下游的自然语言理解任务。为了展示它的实用性,我们使用ParaNMT-50 M来训练释义句子嵌入,这些句子嵌入在每次SemEval语义文本相似性竞争中都优于所有有监督系统,此外还展示了它如何用于释义生成。
2018-04-20 cs.CL
Don't Overlook the Grammatical Gender: Bias Evaluation for Hindi-English Machine Translation
National Institute of Technology, Hamirpur(国家理工学院(哈姆普尔));Anu(阿努)
针对现有评测多用英语源句或性别中立句的问题,本文构建两套印地语性别特定句集,自动评估HI-EN NMT系统能否依据语法性别线索识别性别。
2023-11-11 cs.CL
WikiMatrix: Mining 135M Parallel Sentences in 1620 Language Pairs from Wikipedia
Facebook AI(脸书人工智能研究院)
我们提出了一种基于多语言句子嵌入的方法,自动提取平行的句子从维基百科的文章中的85种语言,包括几种方言或低资源的语言的内容。我们不限制提取过程与英语对齐,但系统地考虑所有可能的语言对。总的来说,我们能够为1620种不同的语言对提取1.35亿个平行句子,其中只有34M与英语对齐。这个平行句子的语料库可以在https://github.com/facebookresearch/LASER/tree/master/tasks/WikiMatrix上免费获得。为了获得对提取的双文本质量的指示,我们仅对1886个语言对的挖掘数据进行训练神经MT基线系统,并在TED语料库上对其进行评估,许多语言对都获得了很高的BLEU分数。WikiMatrix双文本似乎特别有趣,可以在远距离语言之间训练机器翻译系统,而不需要通过英语进行旋转。
2019-07-16 cs.CL
Quality Estimation of English-Hindi Outputs using Naive Bayes Classifier
Banasthali University(班纳斯特利大学)
本文提出了一种评价机器翻译系统质量的方法。有各种方法来估计输出句子的质量,但在本文中,我们专注于朴素贝叶斯分类器建立模型,使用的特征是从输入句子中提取的。这些特征用于找到训练数据的每个句子的似然性,然后进一步用于确定测试数据的分数。基于这些分数,我们确定测试数据的类标签。
2013-12-27 cs.CL
Evaluating Multilingual Sentence Embeddings for Translation Error Detection:An English--Greek Contrastive Study
Ionian University(爱奥尼亚大学);Laboratory on Digital Libraries and Electronic Publishing(数字图书馆与电子出版实验室);Centre for Literary Translation and Book Policy(文学翻译与图书政策中心)
本研究对比评估BGE-M3等5种多语言句子嵌入模型与COMETKiwi在英-希腊语翻译错误检测中的性能,发现嵌入模型与COMETKiwi的错误敏感性特征互补,嵌入模型更适合作为翻译评估框架的组成部分。
2026-09-01 cs.CL
Using Ontology-Based Context in the Portuguese-English Translation of Homographs in Textual Dialogues
Military Institute of Engineering(军事工程学院)
针对对话系统中存在的消息翻译问题,提出了一种新的解决方法。当前,提交到对话系统的消息被认为是孤立的句子。因此,上下文信息的缺失阻碍了歧义句中同形词的消歧。我们的方法解决了这个消歧问题,使用现有的本体概念。
2015-10-07 cs.CL
Determination of referential property and number of nouns in Japanese sentences for machine translation into English
在日语名词的英译中,我们面临着日语中没有的、但英语写作中必不可少的冠词和数字的问题。为了解决这一难题,我们将名词的指称性和数量分别分为三类。本文证明,根据句中的词,可以比较可靠地估计句中名词的指称性和数量。许多用于估计的规则以类似于专家系统中重写规则的形式被编写。对用于构造规则的句子,在指称性和数目估计上的正确识别率分别为85.5%和89.0%。我们用这些规则对其他文本进行了测试,分别得到了68.9%和85.6%的分数。
1994-05-23 cmp-lg cs.CL
Japanese-English Sentence Translation Exercises Dataset for Automatic Grading
Tohoku University(东北大学);RIKEN(理化学研究所);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本研究提出第二语言学习早期阶段的句子翻译练习自动评分任务,构建含21道题、3498份作答的日英翻译练习数据集,实验显示微调BERT对正确作答分类F1约90%、错误作答不足80%,少样本GPT表现更差,该任务对大模型具挑战性。
2024-03-06 cs.CL
A Challenge Set for French --> English Machine Translation
National Research Council Canada(加拿大国家研究委员会)
我们基于Isabelle,Cherry和Foster(EMNLP 2017)中介绍的方法为法语-英语机器翻译提出了一个挑战集。这样的挑战集由预期机器相对难以正确翻译的句子组成,因为它们最直接的翻译往往在语言上是不同的。我们在这里提出了一套506手动构建的法语句子,其中307是针对相同的结构分歧,在上述文件。剩下的199个句子旨在测试系统正确翻译介词等语法困难的单词的能力。我们报告了使用此挑战集在两个不同日期(2017年10月和2018年1月)测试两个不同系统(即Google翻译和DEEPL)的结果。所有由此产生的数据都是公开的。
2018-06-15 cs.CL
As Good as New. How to Successfully Recycle English GPT-2 to Make Models for Other Languages
University of Groningen(格罗宁根大学)
大型生成语言模型在英语中非常成功,但其他语言落后,部分原因是数据和计算限制。我们提出了一种方法,可以克服这些问题,通过调整现有的预训练模型,以新的语言。具体来说,我们描述了适应英语GPT-2的意大利语和荷兰语的再培训词汇嵌入没有调整的Transformer层。因此,我们获得的词汇嵌入意大利语和荷兰语与原来的英语词汇嵌入。此外,我们通过将GPT-2小的重新学习的词汇嵌入转换到GPT-2中等嵌入空间来扩展复杂性。这种方法最大限度地减少了训练量,并防止在GPT-2学习的自适应过程中丢失信息。重新学习词汇嵌入的英语GPT-2模型可以生成意大利语和荷兰语的真实句子。虽然平均而言,这些句子仍然可以被人类识别为人工句子,但它们的评估结果与完全从头开始训练的GPT-2模型生成的句子相当。
2021-06-09 cs.CL
Building UD Cairo for Old English in the Classroom
Georgetown University(乔治城大学)
本研究结合LLM提示与真实语料检索构建古英语UD Cairo样本树库,通过多学生标注比对验证入门标注者协作的可行性,还发现基于标注特征的解析可提升古英语句法解析效果。
2025-06-11 cs.CL
How to Probe Sentence Embeddings in Low-Resource Languages: On Structural Design Choices for Probing Task Evaluation
Technische Universität Darmstadt(达姆施塔特工业大学)
句子编码器将句子映射到实值向量以供下游应用使用。为了窥视这些表示-例如,为了增加其结果的可解释性,已经设计了探测任务,该探测任务向它们询问语言知识。然而,为资源较少的语言设计探测任务是棘手的,因为这些语言通常缺乏大规模的注释数据或(高质量)依赖解析器作为英语探测任务设计的先决条件。为了研究如何在这种情况下探测句子嵌入,我们调查了探测任务结果对结构设计选择的敏感性,进行了第一次这样的大规模研究。我们表明,设计选择,如标注探测数据集的大小和用于评估的分类器类型(有时会大大)影响探测结果。然后,我们探测嵌入在一个多语言的设置与设计选择,位于一个“稳定的区域”,因为我们确定为英语,并发现英语的结果不转移到其他语言。因此,今后应该对多种语文进行更公平、更全面的探究性评价。
2020-10-28 cs.CL
Codeswitched Sentence Creation using Dependency Parsing
On-Device AI Samsung R & D Institute(三星研发研究院终端人工智能部门)
语码转换已成为世界上使用多种语言的人最常见的现象之一,特别是在印度这样的国家,印度拥有大约23种官方语言,双语人数约为3亿。在各种自然语言处理(NLP)任务中,码交换数据的稀缺性成为该领域探索的瓶颈。因此,我们提出了一种新的算法,利用英语语法的句法结构,开发语法上明智的Codeswitched版本的英语印地语,英语马拉地语和英语卡纳达语数据。除了在很大程度上保持语法的健全性,我们的方法还保证了从给定数据的微小快照中生成丰富的数据。我们使用多个数据集来展示我们算法的能力,同时我们使用一些定性指标来评估生成的Codeswitched数据的质量,并为几个NLP任务提供基线结果。
2020-12-05 cs.CL
AdvAug: Robust Adversarial Augmentation for Neural Machine Translation
Google Research(谷歌研究院)
在本文中,我们提出了一种新的对抗增强方法的神经机器翻译(NMT)。其主要思想是最小化从两个邻近分布中采样的虚拟句子的邻近风险,其中关键的一个是用于对抗性句子的新颖邻近分布,该邻近分布描述了以观察到的训练句子对为中心的平滑内插嵌入空间。然后,我们讨论了我们的方法,AdvAug,训练NMT模型使用序列到序列学习中的虚拟句子的嵌入。在中英、英法和英德翻译基准测试上的实验表明,AdvAug在Transformer上实现了显著的改进(高达4.9个BLEU点),并且在不使用额外语料的情况下,大大优于其他数据增强技术(例如回译)。
2020-07-03 cs.CL
CEFR-Based Sentence Difficulty Annotation and Assessment
Osaka University(大阪大学);Kyushu University(九州大学);Ehime University(爱媛大学)
可控文本简化是语言学习和教学的一项重要辅助技术。阻碍其发展的主要因素之一是缺乏基于语言能力描述的句子难度标注语料库。为了解决这个问题,我们创建了基于CEFR的句子配置文件(CEFR-SP)语料库,包含17 K英语句子,并根据英语教育专业人士指定的欧洲共同语言参考框架进行了注释。此外,我们还提出了一个水平评估模型,以处理不平衡的水平分布,因为最基本的和高度熟练的句子是自然稀缺。在本研究的实验中,我们的方法在水平评估中取得了84.5%的宏观F1分数,从而优于可读性评估中采用的强基线。
2022-10-21 cs.CL
Subword Sampling for Low Resource Word Alignment
Volkswagen AG(大众汽车集团);Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心)
注释投影是NLP中的一个重要领域,可以为低资源语言创建语言资源。单词对齐在此设置中起着关键作用。然而,大多数现有的单词对齐方法是针对机器翻译中的高资源设置而设计的,在该高资源设置中,数百万个并行句子是可用的。当处理现有的IBM模型失败的低资源语言时,这个数量减少到几千个句子。在本文中,我们提出了基于子字采样的文本单元对齐。该方法的假设是,对于某些语言对,不同粒度的文本的聚合可以帮助词级对齐。对于某些语言的黄金标准的对齐存在,我们提出了一个迭代贝叶斯优化框架,以优化选择可能的子词从空间的可能的子词表示的源和目标句子。我们表明,子词抽样方法始终优于单词级对齐的六种语言对:英语-德语,英语-法语,英语-罗马尼亚语,英语-波斯语,英语-印地语,英语-因纽特语。此外,我们还表明,为某些语言对学习的超参数可以在没有监督的情况下应用于其他语言,并不断改善对齐结果。我们观察到,使用$5K$平行句子与我们提出的子词采样方法一起,我们获得了类似的F1分数使用$100K$的平行句子在现有的词级快速对齐/eflomal对齐方法。
2021-06-15 cs.CL
Assessing and Improving Punctuation Robustness in English-Marathi Machine Translation
Computation for Indian Language Technology (CFILT) Department of Computer Science and Engineering(印度语言技术计算(CFILT)部门计算机科学与工程系);Indian Institute of Technology Bombay(印度班加罗尔理工学院)
本研究通过英语到马拉雅尔语的翻译任务,评估并改进NMT系统在处理标点歧义时的鲁棒性,提出两种修复策略并发现任务特定方法优于大型语言模型。
2026-02-13 cs.CL
Not Low-Resource Anymore: Aligner Ensembling, Batch Filtering, and New Datasets for Bengali-English Machine Translation
Bangladesh University of Engineering and Technology (BUET)(孟加拉国工程技术大学)
尽管孟加拉语是世界上第七大最广泛使用的语言,但由于资源不足,孟加拉语在机器翻译文献中的关注要少得多。大多数公开可用的孟加拉语平行语料库都不够大;质量相当差,主要是因为错误的句子分割导致的不正确的句子对齐,也因为其中存在大量的噪音。在这项工作中,我们建立了一个自定义的句子分割孟加拉语,并提出了两种新的方法,并行语料库创建低资源设置:对齐器集成和批量过滤。将分割器和两种方法相结合,我们编译了一个高质量的孟加拉语-英语平行语料库,包含275万个句子对,其中200多万个句子对是以前没有的。在神经模型上进行训练,我们比以前的孟加拉语-英语机器翻译方法提高了9个以上的BLEU分数。我们还评估了一个新的测试集的1000对广泛的质量控制。我们发布了分割器,平行语料库和评估集,从而将孟加拉语从其低资源状态提升。据我们所知,这是第一次大规模的孟加拉语-英语机器翻译研究。我们相信我们的研究将为孟加拉语-英语机器翻译以及其他低资源语言的未来研究铺平道路。我们的数据和代码可在https://github.com/csebuetnlp/banglanmt上获得。
2020-10-07 cs.CL
A Comparative Study of Neural Network Models for Sentence Classification
VNU Hanoi(河内国家大学);Ton Duc Thang University(孙德胜大学)
本文对前馈网络、卷积网络、递归网络和长短期记忆网络四种神经网络模型在英语和越南语文本句子分类数据集上进行了广泛的比较研究。我们表明,在英语数据集上,没有任何特征工程的卷积网络模型优于一些具有丰富手工语言特征的竞争性句子分类器。我们证明了GloVe词嵌入始终优于Skip-gram词嵌入和单词计数向量。我们还展示了卷积神经网络模型在越南报纸句子数据集上的优越性。我们的实验结果为神经网络模型在句子分类中的应用提供了一些好的实践。
2018-10-03 cs.CL
A Corpus for English-Japanese Multimodal Neural Machine Translation with Comparable Sentences
University of Georgia(佐治亚大学);Kyoto University(京都大学);Osaka University(大阪大学)
多模态神经机器翻译(NMT)多年来已经成为一个越来越重要的研究领域,因为额外的模态,如图像数据,可以为文本数据提供更多的上下文。此外,训练多模态NMT模型的可行性没有一个大的平行语料库继续调查,由于低可用性的图像,特别是英语-日语数据的平行句子。然而,这个空白可以用包含双语术语和平行短语的可比句子来填补,这些句子是通过社交网络帖子和电子商务产品描述等媒体自然创建的。在本文中,我们提出了一个新的多模态英语-日语语料库,具有可比的句子,从现有的图像描述数据集编译。此外,我们补充我们的可比句子与一个较小的平行语料库的验证和测试目的。为了测试这种可比句子翻译场景的性能,我们用可比语料库训练了几个基线NMT模型,并评估了它们的英日翻译性能。由于我们的基线实验中的翻译分数较低,我们认为当前的多模态NMT模型并没有被设计为有效地利用可比的句子数据。尽管如此,我们希望我们的语料库被用来进一步研究多模态NMT与可比的句子。
2020-10-17 cs.AI cs.CL cs.CV
SCDE: Sentence Cloze Dataset with High Quality Distractors From Examinations
Carnegie Mellon University(卡内基梅隆大学)
我们引入SCDE,一个通过句子预测来评估计算模型性能的数据集。SCDE是一个人造的句子完形填空数据集,收集自公立学校的英语考试。我们的任务需要一个模型来填补多个空白,从一个共享的候选集与干扰设计的英语教师的通道。实验结果表明,这个任务需要使用非本地的,超出了直接句子附近的话语级上下文。这些空白需要联合解决,并严重损害了彼此的上下文。此外,通过消融,我们表明,干扰是高质量的,使任务更具挑战性。我们的实验表明,高级模型(72%)和人类(87%)之间存在显著的性能差距,鼓励未来的模型弥合这一差距。
2020-04-27 cs.CL
Extract and Edit: An Alternative to Back-Translation for Unsupervised Neural Machine Translation
University of California, Santa Barbara(加州大学圣巴巴拉分校)
对大型平行语料库的过度依赖极大地限制了机器翻译系统对大多数语言对的适用性。在以前的无监督神经机器翻译方法中,主要使用反向翻译,其中生成伪句子对以训练具有重建损失的模型。然而,伪句子通常是低质量的,因为翻译错误在训练过程中积累。为了避免这个根本问题,我们提出了一种替代的,但更有效的方法,提取编辑,提取,然后编辑的目标单语语料库的真实句子。此外,我们还引入了一个比较翻译损失来评估翻译的目标句子,从而训练无监督翻译系统。实验表明,所提出的方法始终优于以前的国家的最先进的无监督机器翻译系统在两个基准(英语-法语和英语-德语)和两个低资源的语言对(英语-罗马尼亚语和英语-俄罗斯)超过2(高达3.63)BLEU点。
2019-04-04 cs.CL
Grammatical Error Correction for Code-Switched Sentences by Learners of English
Writer, Inc.(Writer 公司);King's College London(伦敦国王学院)
本研究首次探索语法错误纠正系统在语码转换文本上的应用,提出通过翻译现有GEC语料片段生成合成CSW GEC数据集的方法,最优模型在3个多语言测试集上$F_{0.5}$平均提升1.57且不影响单语性能,还发现模型对类型相似的CSW语言泛化性较好。
2024-05-06 cs.CL
SETUP: Sentence-level English-To-Uniform Meaning Representation Parser
Amherst College(阿默斯特学院)
本文提出两种英语到统一意义表示(UMR)的解析方法,其中一种微调了现有的抽象意义表示解析器,另一种利用了通用依赖关系转换器。所提出的最佳模型SETUP在AnCast和SMATCH++评分上分别达到84和91,显示出在自动UMR解析中的显著提升。
2026-05-19 cs.CL
Finetuning a Kalaallisut-English machine translation system using web-crawled data
Dartmouth College(达特茅斯学院)
西格陵兰语(英语:West Greenlandic),被当地人称为Kalaallisut,是一种资源极其贫乏的多合成语言,在格陵兰约有56,000人使用。在这里,我们试图使用来自大约30个多语言网站的网络爬行伪平行句子来微调预训练的Kalaallisut到英语神经机器翻译(NMT)系统。我们编译了超过93,000 Kalaallisut句子和超过140,000丹麦句子的语料库,然后使用跨语言的句子嵌入和近似最近邻搜索,试图从这些语料库中挖掘近翻译。最后,我们将丹麦语句子翻译成英语,以获得合成Kalaallisut-English对齐语料库。尽管生成的数据集太小且噪音太大,无法改进预训练的MT模型,但我们相信,通过额外的资源,我们可以构建更好的伪并行语料库,并在MT上取得更有希望的结果。我们还注意到其他可能使用的单语Kalaallisut数据,并讨论未来的工作方向。我们公开了我们实验的代码和数据。
2022-06-05 cs.AI cs.CL
Explicit Pairwise Word Interaction Modeling Improves Pretrained Transformers for English Semantic Similarity Tasks
University of Waterloo(滑铁卢大学)
在英语语义相似性任务中,经典的基于词嵌入的方法显式地对句子对的词表示之间的成对“交互”进行建模。基于transformer的预训练语言模型忽略了这一概念,而是通过其自我注意力机制全局和隐式地对成对单词交互进行建模。在本文中,我们假设,引入一个明确的,受约束的成对词的相互作用机制,预训练的语言模型,提高其有效性的语义相似性任务。我们使用BERT在四个任务中验证了我们的假设,在语义文本相似性和答案句子选择。我们表现出一致的质量改进,通过添加一个明确的成对字交互模块BERT。
2019-11-07 cs.CL
ParaBank: Monolingual Bitext Generation and Sentential Paraphrasing via Lexically-constrained Neural Machine Translation
Johns Hopkins University(约翰斯·霍普金斯大学)
我们提出了ParaBank,一个大规模的英语释义数据集,在数量和质量上都超过了以前的工作。按照ParaNMT的方法,我们训练捷克-英语神经机器翻译(NMT)系统,以产生新的英语参考句子的释义。然而,通过在NMT解码过程中添加词汇约束,我们能够为每个源句子生成多个高质量的原始释义,从而生成具有超过40亿个生成标记的英语释义资源,并表现出更大的词汇多样性。使用人类的判断,我们还表明,ParaBank的释义提高了ParaNMT的语义相似性和流畅性。最后,我们使用ParaBank来训练单语NMT模型,该模型同样支持句子重写任务的词汇约束解码。
2019-01-11 cs.CL
Zero-pronoun Data Augmentation for Japanese-to-English Translation
The University of Tokyo(东京大学)
对于日语到英语的翻译,日语中的零代词构成了一个挑战,因为模型需要在英语句子的目标侧推断并产生相应的代词。然而,尽管零代词的完全解析往往需要话语语境,但在某些情况下,句子中的局部语境为零代词的推断提供了线索。在这项研究中,我们提出了一种数据增强方法,为翻译模型提供额外的训练信号,以学习本地上下文和零代词之间的相关性。通过会话领域的机器翻译实验,我们证明了该方法显著提高了零代词翻译的准确性。
2021-07-01 cs.CL
Explicit Sentence Compression for Neural Machine Translation
Shanghai Jiao Tong University(上海交通大学);National Institute of Information and Communications Technology(日本国立信息与通信技术研究所)
现有的基于transformer的神经机器翻译(NMT)系统仍然遵循标准的编码器-解码器框架,其中源句子表示可以由具有自注意力机制的编码器很好地完成。虽然基于transformer的编码器可以有效地捕捉其产生的源句子表示的一般信息,骨干信息,代表一个句子的要旨,没有特别关注。本文中,我们提出了一个显式的句子压缩方法,以提高NMT的源句子表示。在实践中,一个显式的句子压缩目标用于学习句子中的主干信息。我们提出了三种方法,包括骨干源端融合,目标端融合,双方融合,压缩句子集成到NMT。我们的WMT英语到法语和英语到德语的翻译任务的实证测试表明,所提出的句子压缩方法显着提高了翻译性能超过强基线。
2019-12-27 cs.CL
Encoding Sentence Position in Context-Aware Neural Machine Translation with Concatenation
Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Naver Labs Europe(Naver欧洲实验室)
本文研究在基于拼接的上下文感知机器翻译中,通过多种方法将句子位置显式编码至 token 表示,发现特定编码方法在上下文折扣损失下可提升英译俄效果,但英译德未见相同益处。
2023-04-04 cs.CL
Multilingual Universal Sentence Encoder for Semantic Retrieval
Google AI(谷歌人工智能);Google(谷歌)
我们介绍了两个预训练的检索为重点的多语种句子编码模型,分别基于Transformer和CNN模型架构。该模型使用多任务训练的双编码器将来自16种语言的文本嵌入到单个语义空间中,该双编码器使用基于翻译的桥接任务来学习绑定表示(Chidambaram al.,2018年)。该模型在语义检索(SR)、翻译对双文本检索(BR)和检索问答(ReQA)方面的性能与最新技术具有竞争力。在英语迁移学习任务中,我们的句子级嵌入接近,在某些情况下超过了单语,仅英语,句子嵌入模型的性能。我们的模型可在TensorFlow Hub上下载。
2019-07-09 cs.CL
Formal Ontology Learning from English IS-A Sentences
Rygbee;University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);DA-IICT;University of Bonn(波恩大学)
本体学习(OL)是从纯文本文档自动生成本体知识库的过程。在本文中,我们提出了一个新的本体学习方法和工具,称为DLOL,它产生一个知识库中的描述逻辑(DL)SHOQ(D)从收集的事实非否定的IS-A句子的英语。我们提供了广泛的实验结果DLOL的准确性,实验比较三个国家的最先进的现有OL工具,即Text 2 Onto,FRED和LEXO。在这里,我们使用标准的OL准确性措施,称为词汇准确性,和一种新的OL准确性措施,称为基于实例的推理模型。在我们的实验结果中,DLOL分别比其他三种方法中最好的方法好21%和46%。
2018-02-11 cs.AI cs.CL
Analysing Quality of English-Hindi Machine Translation Engine Outputs Using Bayesian Classification
Banasthali University(巴纳斯特利大学)
本文研究了独立于人工干预的机器翻译输出的质量估计问题,这些问题通常使用机器学习技术来解决。自动评价指标在语料库水平上产生良好的相关性,但不能在相同的片段或句子水平上产生相同的结果。本文从输入句子及其译文中提取16个特征,并基于从训练数据中产生的贝叶斯推理获得质量分数。
2013-09-04 cs.CL
Word Order in English-Japanese Simultaneous Interpretation: Analyses and Evaluation using Chunk-wise Monotonic Translation
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Nara Women’s University(奈良女子大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
该研究针对英日同声传译的词序差异难题,基于NAIST数据集分析分块单调翻译特征,通过评估语音翻译与同声语音翻译模型,发现现有测试集存在低估模型性能的问题。
2024-07-15 cs.CL