Models of Visually Grounded Speech Signal Pay Attention To Nouns: a Bilingual Experiment on English and Japanese
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；LIG（格勒诺布尔信息学实验室）；LIDILEM（语言、话语、文本、跨文化研究实验室）
我们研究了两种语言（英语和日语）训练的视觉接地语音的神经模型中的注意行为。实验结果表明，注意力集中在名词上，这种行为适用于两种非常不同的语言类型。我们还绘制了人工神经注意力和人类注意力之间的相似之处，并表明神经注意力集中在单词结尾，因为它已经被理论化为人类注意力。最后，我们研究了两个视觉接地单语模型可以用来执行跨语言语音到语音检索。对于这两种语言，丰富的双语（语音图像）语料库与词性标签和强制对齐分发给社区的可重复的研究。
2019-02-08 cs.CL
Classifiers in Japanese-to-English Machine Translation
本文根据日语和英语的特点，将量词分为四种主要类型：单位、度量、组和种。该分析使得在日英机器翻译中统一、直接地处理量词为中心的名词短语成为可能，并已在机器翻译系统ALT-J/E中实现。虽然分析是基于日语和英语的特点和差异，但它也适用于不相关的语言泰语。
1996-08-21 cmp-lg cs.CL
ATD-Trans: A Geographically Grounded Japanese-English Travelogue Translation Dataset
National Institute of Information and Communications Technology（信息与通信技术国家研究所）；Nara Institute of Science and Technology（奈良科学技术研究所）
本文提出ATD-Trans数据集，用于评估机器翻译在地理实体层面的性能，探讨模型语言倾向和地理区域对翻译质量的影响。
2026-05-13 cs.CL
Recursive Neural Network Based Preordering for English-to-Japanese Machine Translation
Graduate School of Information Science and Technology, Osaka University（大阪大学信息科学与技术研究生院）；Institute for Datability Science, Osaka University（大阪大学数据可用性科学研究所）
在机器翻译中，源语和目标语言之间的语序对翻译质量有着重要的影响。预排序可以有效地解决这个问题。先前的预排序方法需要手动特征设计，使得语言相关设计成本高昂。在本文中，我们提出了一个预排序方法与递归神经网络，学习功能的原始输入。实验表明，该方法实现了可比的增益在翻译质量的国家的最先进的方法，但没有一个手动的功能设计。
2018-05-25 cs.CL
Noun Phrase Reference in Japanese-to-English Machine Translation
本文论述了在机器翻译中区分名词短语指称用法的必要性。我们认为，区分名词短语的通用，指称和归属的使用是最低限度的必要生成文章和数字正确时，从日语翻译成英语。启发式确定这些差异提出了一个日本到英语的机器翻译系统。最后，结果表明，使用所提出的语法的正确使用的文章和数量的日语到英语的机器翻译系统ALT-J/E中产生的名词短语的百分比从65%提高到77%。
1996-01-23 cmp-lg cs.CL
ChatGPT as a Translation Engine: A Case Study on Japanese-English
Yaraku, Inc.（yaraku公司）；The University of Tokyo（东京大学）；Rikkyo University（立命馆大学）
本研究通过自动和人工评估，比较了 ChatGPT 在日英翻译中不同提示词和翻译粒度下的表现，发现文档级翻译优于句子级，且 ChatGPT 与商用系统竞争力相当。
2025-10-09 cs.CL
Document-aligned Japanese-English Conversation Parallel Corpus
The University of Tokyo（东京大学）
句子级（SL）机器翻译（MT）对于许多高资源语言已经达到了可接受的质量，但文档级（DL）MT却没有，其难以1）用少量DL数据进行训练;以及2）评估，因为主要方法和数据集集中于SL评估。为了解决第一个问题，我们提出了一个文档对齐的日英会话语料库，包括平衡的，高质量的业务会话数据的调整和测试。至于第二个问题，我们手动识别SL MT在缺乏上下文的情况下无法产生足够翻译的主要区域。然后，我们创建一个评估集，这些现象被注释，以减轻DL系统的自动评估。我们使用我们的语料库训练MT模型，以展示如何使用上下文导致改进。
2020-12-11 cs.CL
WeChat Neural Machine Translation Systems for WMT21
Tencent Inc（腾讯公司）；Beijing Jiaotong University（北京交通大学）
本文介绍了微信AI参与WMT 2021共享新闻翻译任务，内容为英语->中文，英语->日语，日语->英语和英语->德语。我们的系统基于Transformer（Vaswani等人，2017）与几个新的和有效的变种。在我们的实验中，我们采用数据过滤、大规模合成数据生成（即，反向翻译、知识蒸馏、正向翻译、迭代的领域内知识转移）、高级微调方法以及增强的基于Self-BLEU的模型集成。我们的约束系统分别在英语->中文，英语->日语，日语->英语和英语->德语上实现了36.9，46.9，27.8和31.3的大小写敏感BLEU分数。英语->中文、英语->日语和日语->英语的BLEU得分在所有提交中最高，英语->德语的BLEU得分在所有受约束的提交中最高。
2021-09-13 cs.AI cs.CL
Countability and Number in Japanese-to-English Machine Translation
本文提出了一种启发式的方法，利用日语文本中的信息，随着知识的英语可数性和数量存储在转移字典，以确定英语名词短语的可数性和数量。将该方法应用到机器翻译系统ALT-J/E中，正确使用冠词和数字的名词短语的生成率从65%提高到73%。
1995-11-03 cmp-lg cs.CL
Possessive Pronouns as Determiners in Japanese-to-English Machine Translation
英语中的所有格代词在日语句子中没有对应词时用作限定词。本文提出了一种启发式的方法来生成这样的所有格代词，即使在日本没有对应的。该方法使用关于英语中的所有格代词的使用的信息被视为名词的词汇属性，以及关于名词短语指称性和名词短语出现在其中的句子的主语和主要动词的上下文信息。该方法已在NTT通信科学实验室的日英机器翻译系统ALT-J/E中实现。在6,200个句子的测试集中，所提出的方法将生成的具有适当所有格代词的名词短语的数量增加了263个到609个，代价是生成了83个具有不适当所有格代词的名词短语。
1996-01-23 cmp-lg cs.CL
Japanese Predicate Conjugation for Neural Machine Translation
Tokyo Metropolitan University（东京都立大学）
神经机器翻译（NMT）的缺点是由于输出层中softmax函数的计算成本，只能生成高频词。在日英NMT中，日语谓语动词变位导致词汇量的增加。例如，一个动词可以有多达19个表面变体。在本研究中，我们着重于压缩日语词汇量的谓词变位。词汇表上有各种形式的动词。我们提出了使用谓词共轭信息而不丢弃语言信息的方法。提出的方法可以产生低频词和处理未登录词。考虑了两种方法来引入共轭信息：第一种将其视为令牌（共轭令牌），第二种将其视为嵌入向量（共轭特征）。实验结果表明，NMT模型可以将词汇量压缩约86.1%（Tanaka语料库），并且可以输出训练数据集中没有的词汇。此外，BLEU分数在日语到英语翻译中提高了0.91分，在ASPEC的英语到日语翻译中提高了0.32分。
2018-05-25 cs.CL
Japanese-Spanish Thesaurus Construction Using English as a Pivot
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
我们提出的研究结果的目标是自动创建一个多语种的词库的基础上，维基百科和WordNet的免费资源。我们的目标是增加用于自然语言处理任务的资源，例如针对日语-西班牙语对的机器翻译。鉴于资源的稀缺性，我们使用现有的英语资源作为一个支点，建立一个三语的日本-西班牙语-英语词库。我们的方法包括从维基百科中提取翻译元组，通过将它们映射到WordNet词义来消除它们的歧义。我们目前的结果比较两种方法的消歧，第一个使用VSM维基百科的文章文本和WordNet的定义，第二个使用分类信息提取的维基百科，我们发现，混合这两种方法产生有利的结果。使用所提出的方法，我们已经构建了一个多语种的西班牙语-日语-英语词库，由25,375个条目。同样的方法可以应用于维基百科中链接到英语的任何一对语言。
2013-03-06 cs.AI cs.CL
Determination of referential property and number of nouns in Japanese sentences for machine translation into English
在日语名词的英译中，我们面临着日语中没有的、但英语写作中必不可少的冠词和数字的问题。为了解决这一难题，我们将名词的指称性和数量分别分为三类。本文证明，根据句中的词，可以比较可靠地估计句中名词的指称性和数量。许多用于估计的规则以类似于专家系统中重写规则的形式被编写。对用于构造规则的句子，在指称性和数目估计上的正确识别率分别为85.5%和89.0%。我们用这些规则对其他文本进行了测试，分别得到了68.9%和85.6%的分数。
1994-05-23 cmp-lg cs.CL
Context-aware Neural Machine Translation for English-Japanese Business Scene Dialogues
University of Potsdam（波茨坦大学）；Carnegie Mellon University（卡内基梅隆大学）；Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico（高等技术学院）
本文探讨上下文感知如何提升英日商务对话的神经机器翻译性能，通过微调mBART模型并引入编码说话人轮次和场景类型的上下文标记，结合CXMI分析，证实增加上下文信息显著提升了翻译质量。
2023-11-20 cs.CL
A Corpus for English-Japanese Multimodal Neural Machine Translation with Comparable Sentences
University of Georgia（佐治亚大学）；Kyoto University（京都大学）；Osaka University（大阪大学）
多模态神经机器翻译（NMT）多年来已经成为一个越来越重要的研究领域，因为额外的模态，如图像数据，可以为文本数据提供更多的上下文。此外，训练多模态NMT模型的可行性没有一个大的平行语料库继续调查，由于低可用性的图像，特别是英语-日语数据的平行句子。然而，这个空白可以用包含双语术语和平行短语的可比句子来填补，这些句子是通过社交网络帖子和电子商务产品描述等媒体自然创建的。在本文中，我们提出了一个新的多模态英语-日语语料库，具有可比的句子，从现有的图像描述数据集编译。此外，我们补充我们的可比句子与一个较小的平行语料库的验证和测试目的。为了测试这种可比句子翻译场景的性能，我们用可比语料库训练了几个基线NMT模型，并评估了它们的英日翻译性能。由于我们的基线实验中的翻译分数较低，我们认为当前的多模态NMT模型并没有被设计为有效地利用可比的句子数据。尽管如此，我们希望我们的语料库被用来进一步研究多模态NMT与可比的句子。
2020-10-17 cs.AI cs.CL cs.CV
Continual Pre-Training for Cross-Lingual LLM Adaptation: Enhancing Japanese Language Capabilities
Tokyo Institute of Technology（东京工业大学）；Global Scientific Information and Computing Center, Tokyo Institute of Technology（东京工业大学全球科学信息与计算中心）
本研究通过扩展Llama 2词汇表并进行大规模日语网络语料库持续预训练，构建了增强日语能力的LLM——Swallow，其性能优于从头训练的模型，并验证了词汇扩展与平行语料库的有效性。
2024-04-27 cs.AI cs.CL
CAT-Translate: Building Compact Open-Source Models for Japanese-English Translation
CyberAgent
针对特定语言对开发专用翻译模型是否值得？本文通过两阶段监督微调和多目标GRPO训练紧凑型模型（0.8B-7B参数），在真实场景基准上超越大型多语言模型。
2026-06-23 cs.CL cs.LG
Beyond English-Centric LLMs: What Language Do Multilingual Language Models Think in?
Kyoto University（京都大学）；National Institute of Informatics（信息学研究所）；The University of Tokyo（东京大学）
本研究揭示非英语中心LLM（如Swallow和LLM-jp）具有日语和英语双潜在语言，并随层变化，加深了对多语言模型内部语言动态的理解。
2024-08-20 cs.AI cs.CL
An Analysis on Automated Metrics for Evaluating Japanese-English Chat Translation
Tokyo Denki University（东京电机大学）
本文分析了传统与神经网络指标在日英聊天翻译评估中的表现，发现传统指标在模型排名上与神经网络指标一致且更高效，但神经网络指标（尤其是COMET）与人工判断相关性更高，且所有指标在处理含指代性零代词的句子时均存在困难。
2024-12-24 cs.AI cs.CL
Simultaneous Neural Machine Translation with Constituent Label Prediction
Nara Institute of Science and Technology (NAIST)（奈良先端科学技术大学院大学）；RIKEN（日本理化学研究所）
同声翻译是一种在说话人说完话之前就开始翻译的任务，因此决定何时开始翻译过程很重要。然而，对于具有不同词序的语言对（例如英语和日语），决定是阅读更多输入单词还是开始翻译是困难的。受预重排序概念的启发，我们提出了几个简单的决策规则，使用增量成分标签预测的下一个成分的标签。在英日同声翻译的实验中，该方法在质量-延迟权衡方面优于基线。
2021-10-26 cs.CL
J-tau: A Fully Localized Japanese Benchmark for Tool-Agent-User Interaction
SB Intuitions Corp.（SB Intuitions公司）；Nagoya University（名古屋大学）
本研究针对现有tau-bench以英语为中心、日语评估缺失的问题，构建了首个日语工具智能体交互基准J-tau，修复了原基准的缺陷，实验证实其评估错误更少且修复有效。
2026-10-15 cs.CL
A Machine-Learning Approach to Estimating the Referential Properties of Japanese Noun Phrases
日语中的名词短语不含冠词，其指称属性对于日英机器翻译中的冠词生成和日语名词短语的回指消解都是有用的。它们一般分为类属名词短语、定名词短语和不定名词短语。在以前的工作中，指称属性是通过使用线索词的规则来估计的。如果两个或更多个规则彼此冲突，则选择具有由规则给出的最大总得分的类别作为期望类别。每一条规则的评分都是手工制定的，人力成本很高。在这项工作中，我们通过使用机器学习方法自动调整这些分数，并成功地减少了调整这些分数所需的人力。
2001-03-12 cs.CL
Neural Machine Translation Model with a Large Vocabulary Selected by Branching Entropy
University of Tsukuba（筑波大学）；Japan Patent Information Organization（日本专利信息机构）
神经机器翻译（NMT）是机器翻译的一种新方法，与统计机器翻译（SMT）等传统方法相比，取得了令人满意的结果。尽管NMT最近取得了成功，但它不能处理更大的词汇量，因为训练复杂度和解码复杂度随着目标单词的数量成比例地增加。在翻译专利文件时，这个问题变得更加严重，因为专利文件中包含许多不经常看到的技术术语。在本文中，我们提出了选择短语，包含词汇表外的话，使用统计方法的分支熵。这使得所提出的NMT系统可以应用于任何语言对的翻译任务，而无需任何关于技术术语识别的语言特定知识。然后，在训练期间用令牌替换所选择的短语，并由SMT的短语翻译表进行翻译后。对日汉、汉日、日英和英日专利句子翻译的评价证明了分支熵选择短语的有效性，其中所提出的NMT模型比没有我们提出的技术的基线NMT模型实现了实质性的改进。此外，在没有我们提出的技术的情况下，基线NMT模型的欠翻译的翻译错误的数量减少到所提出的NMT模型的一半左右。
2017-09-06 cs.CL
Lower Perplexity is Not Always Human-Like
Tohoku University（东北大学）；Langsmith Inc.（Langsmith公司）；University of Tokyo（东京大学）；RIKEN（理化学研究所）；NINJAL（国立国语研究所）
在计算心理语言学中，已经针对人类阅读行为评估了各种语言模型（例如，眼睛运动）来构建类人计算模型。然而，大多数以前的努力几乎完全集中在英语上，尽管最近的趋势是在整个社会中语言的普遍性。为了填补这一空白，本文探讨了计算心理语言学的研究成果是否可以推广到其他语言。具体来说，我们重新审视了一个既定的概括-较低的困惑语言模型，更像人类的语言模型是-在日语与英语的类型不同的结构。我们的实验表明，这种既定的概括表现出令人惊讶的缺乏普遍性;即，较低的困惑并不总是像人类一样。此外，从信息密度（非）均匀性的角度进一步探讨了英语和日语之间的这种差异。总体而言，我们的研究结果表明，跨语言的评价将是必要的，以构建类人的计算模型。
2022-11-01 cs.CL
JASS: Japanese-specific Sequence to Sequence Pre-training for Neural Machine Translation
Kyoto University（京都大学）；National Institute of Information and Communications Technology（国立信息与通信技术研究所）
神经机器翻译（NMT）需要大型并行语料库来实现最先进的翻译质量。低资源NMT通常通过迁移学习来解决，该学习利用大型单语或并行语料库进行预训练。单语预训练方法，如MASS（MAasked Sequence to Sequence），在提高具有小型并行语料库的语言的NMT质量方面非常有效。然而，他们没有考虑到使用句法分析器获得的语言信息，这是已知的是无价的几个自然语言处理（NLP）任务。为此，我们提出了JASS，日本特定的序列到序列，作为一种新的预训练替代MASS的NMT涉及日本作为源或目标语言。JASS是联合BMASS（Bunsetsu MASS）和BRSS（Bunsetsu Reordering Sequence to Sequence）预训练，专注于日语语言单位bunsetsus。在我们的ASPEC日本-英语和新闻评论日本-俄罗斯翻译的实验中，我们表明，JASS可以给出的结果是竞争力，如果不是更好地比那些由MASS。此外，我们首次表明，联合MASS和JASS预训练的结果显着超过了单独的方法，表明它们的互补性。我们将发布我们的代码，预训练模型和bunsetsu注释数据，作为研究人员在自己的NLP任务中使用的资源。
2020-05-07 cs.CL
Enhancing Machine Translation with Dependency-Aware Self-Attention
University of Copenhagen（哥本哈根大学）；Tokyo Institute of Technology（东京工业大学）
大多数神经机器翻译模型只依赖于成对的平行句子，假设句法信息是由注意力机制自动学习的。在这项工作中，我们研究了不同的方法，将句法知识的Transformer模型，并提出了一种新的，无参数，依赖意识的自我注意力机制，提高其翻译质量，特别是对于长句和低资源的情况下。我们展示了每种方法对WMT英语-德语和英语-土耳其语以及WAT英语-日语翻译任务的有效性。
2020-04-21 cs.CL
Toward an MT System without Pre-Editing --- Effects of New Methods in ALT-J/E ---
近来，已经开发了几种类型的日语到英语的机器翻译系统，但是它们都需要将原始文本重写为易于翻译的日语的初始过程。因此，这些系统不适合翻译需要迅速传播的信息。为了克服这一局限性，一种基于建构过程理论的多层次翻译方法被提出。本文介绍了在日英机器翻译系统ALT-J/E中使用该方法的好处。与传统的组合翻译法相比，多层次翻译法强调表达结构整体意义的重要性。它被证明是能够翻译典型的书面日语的基础上，在其上下文的文本的意义，比较容易。我们现在有希望进行有用的机器翻译，而无需手动预编辑。
1995-11-01 cmp-lg cs.CL
Interpretable Cross-Lingual Alignment in Small Language Models: Probing Cultural and Pragmatic Reasoning in Japanese-English Bilingual LLMs
Sakaguchi–Inui Laboratory (Tohoku University)（东北大学坂口–乾实验室）；Natural Language Understanding Team at RIKEN AIP（理化学研究所先进智能项目中心自然语言理解团队）；Swallow Project at the Institute of Science Tokyo（东京科学大学Swallow项目）；Sakana AI；Tohoku University（东北大学）；RIKEN AIP（理化学研究所先进智能项目中心）；Institute of Science Tokyo（东京科学大学）
本研究构建J-PragEval-v0基准，结合线性探针与教师强制评估探究TinySwallow-1.5B的日英语用表征，提出语用表征引导方法，下一步将扩展至Llama-3.1-Swallow-8B。
2026-08-18 cs.CL cs.LG
LANGALIGN: Enhancing Non-English Language Models via Cross-Lingual Embedding Alignment
SK-telecom（SK电信）；School of Computing, KAIST（韩国科学技术院计算机学院）；The Division of Computer Convergence, Chugnam National University（忠南国立大学计算机融合系）
提出LANGALIGN方法，通过在语言模型与任务头间对齐英语和目标语言嵌入向量，显著提升韩、日、中三种非英语语言模型性能，并可反向转换数据。
2025-03-25 cs.CL
Multi-Task Learning for Cross-Lingual Abstractive Summarization
Tokyo Institute of Technology（东京工业大学）
我们提出了一个多任务的跨语言抽象摘要的学习框架，以增加训练数据。最近的研究构建了伪跨语言摘要数据训练他们的神经编码器-解码器。同时，我们引入现有的真实数据，如翻译对和单语摘要数据进行训练。我们提出的方法，Transum，附加一个特殊的令牌的输入句子的开头，以指示目标任务。特殊的令牌使我们能够将真实数据轻松地合并到训练数据中。实验结果表明，与仅使用伪跨语言摘要数据训练的模型相比，Transum模型具有更好的性能。此外，我们在中文-英文和阿拉伯文-英文摘要摘要方面取得了最高的ROUGE分数。此外，Transum还对机器翻译产生了积极的影响。实验结果表明，在中文-英文、阿拉伯文-英文和英文-日文翻译数据集上，Transsum提高了强基线Transformer的性能。
2020-10-15 cs.CL
An Operation Sequence Model for Explainable Neural Machine Translation
University of Cambridge（剑桥大学）
我们建议通过改变输出表示来实现可解释的神经机器翻译（NMT）。我们提出了一种新的方法来NMT产生的目标句子单调遍历源句子。通过允许在目标句子中设置标记并在这些标记之间移动目标侧写入头的操作来对单词重新排序进行建模。与许多现代神经模型相比，我们的系统发出显式的单词对齐信息，这对实际的机器翻译至关重要，因为它提高了可解释性。我们的技术可以优于纯文本系统的BLEU分数在最近的Transformer架构下的日语-英语和葡萄牙语-英语，是在0.5 BLEU的差异西班牙语-英语。
2018-08-29 cs.CL
JESC: Japanese-English Subtitle Corpus
Stanford University（斯坦福大学）；Rakuten Institute of Technology（乐天技术研究所）；Google Brain（谷歌大脑）
在本文中，我们描述了日英字幕语料库（JESC）。JESC是一个大型的日英平行语料库，涵盖了代表性不足的会话对话领域。它包含超过320万个示例，使其成为同类中最大的免费数据集。语料库是通过爬行和对齐在网络上找到的字幕组装的。组装过程中采用了一些新的预处理元素，以确保高单语流畅性和准确的双语对齐。我们总结其内容，并使用人类专家和基线机器翻译（MT）系统评估其质量。
2018-02-21 cs.CL
MTNT: A Testbed for Machine Translation of Noisy Text
Carnegie Mellon University（卡内基梅隆大学）
在大多数现代机器翻译（MT）系统中，噪声或不标准的输入文本会导致灾难性的误译，并且已经有越来越多的研究兴趣创建噪声鲁棒的MT系统。然而，到目前为止，还没有公开可用的具有自然发生的噪声输入和翻译的并行语料库，因此以前的工作已经求助于对合成创建的数据集进行评估。在本文中，我们提出了一个用于噪音文本（MTNT）的机器翻译的基准数据集，由Reddit（www.reddit.com）上的噪音评论和专业来源的翻译组成。我们委托将英语评论翻译成法语和日语，以及将法语和日语评论翻译成英语，每个语言对的句子数量为7 k-37 k。我们定性和定量地研究了该数据集中包含的噪声类型，然后证明了现有的MT模型在一些与噪声相关的现象上严重失败，即使在对一小部分域内数据训练集进行自适应之后。这表明，该数据集可以提供一个有吸引力的测试平台，为量身定制的方法来处理机器翻译中的噪声文本。这些数据可在www.cs.cmu.edu/~pmichel1/mtnt/上公开获取。
2018-09-02 cs.CL
Applying a Hybrid Query Translation Method to Japanese/English Cross-Language Patent Retrieval
本文将现有的查询翻译方法应用于跨语言专利检索。在我们的方法中，多个字典被用来获得所有可能的翻译输入查询，搭配统计被用来解决翻译歧义。我们使用日/英并行专利摘要进行比较实验，我们的方法优于一个简单的基于字典的查询翻译方法，并实现了76%的单语检索的平均精度。
2002-06-24 cs.CL
Do Multilingual Encoders Produce Language-Consistent Semantic IDs?
Amazon（亚马逊）；Rutgers University（罗格斯大学）
本文研究多语言编码器是否能为不同语言的产品生成一致的语义ID，发现多语言暴露和平衡码本使用不足以保证跨语言SID一致性。
2026-10-02 cs.CL cs.IR
PAWS-X: A Cross-lingual Adversarial Dataset for Paraphrase Identification
Google Research（谷歌研究院）
大多数现有的对抗性数据生成工作都集中在英语上。例如，PAWS（来自单词加扰的释义对手）由来自维基百科和Quora的具有挑战性的英语释义识别对组成。我们用PAWS-X弥补了这一差距，PAWS-X是一个新的数据集，包含23，659个人类翻译的PAWS评估对，使用六种类型学上不同的语言：法语，西班牙语，德语，中文，日语和韩语。我们提供了三个模型的基线数字，这些模型具有不同的捕获非本地上下文和句子结构的能力，并使用不同的多语言训练和评估机制。在PAWS英语上微调的多语言BERT加上机器翻译的数据表现最好，在非英语语言中的准确度范围为83.1-90.8，平均准确度比下一个最佳模型提高了23%。PAWS-X展示了深度多语言预训练的有效性，同时也为推动更好地捕捉结构和上下文信息的多语言研究留下了相当大的空间。
2019-08-30 cs.CL
Pre-training via Leveraging Assisting Languages and Data Selection for Neural Machine Translation
Kyoto University（京都大学）；National Institute of Information and Communications Technology（信息通信研究机构）
已知使用大型单语数据的序列到序列（S2S）预训练可以提高低资源环境中各种S2S NLP任务的性能。然而，大型单语语料库可能并不总是可用于感兴趣的语言（LOI）。为此，我们建议利用其他语言的单语语料库，以补充单语语料库的稀缺性的LOI。低资源日英神经机器翻译（NMT）的案例研究表明，利用大型中文和法文单语语料库可以分别帮助克服日语和英语单语语料库的不足，用于S2S预训练。我们进一步展示了如何利用脚本映射（中文到日文），以增加两个单语语料库之间的相似性，从而进一步提高翻译质量。此外，我们还提出了在预训练之前使用的简单数据选择技术，这些技术会显著影响S2S预训练的质量。我们提出的方法的实证比较表明，利用辅助语言单语语料库，数据选择和脚本映射是非常重要的NMT预训练在低资源的情况下。
2020-01-23 cs.CL cs.LG
JaParaPat: A Large-Scale Japanese-English Parallel Patent Application Corpus
本文构建了包含超3亿日英句对的JaParaPat专利平行语料库，通过专利族对齐和词典引导的句子对齐方法提取数据，使专利翻译BLEU值提升20点。
2025-08-22 cs.CL
Using a Support-Vector Machine for Japanese-to-English Translation of Tense, Aspect, and Modality
本文描述了使用各种机器学习方法进行的实验，包括在以前的研究中使用的k-最近邻方法，用于时态，体和情态的翻译。结果发现，支持向量机方法是最精确的所有测试的方法。
2001-12-05 cs.CL
Does Cross-Cultural Alignment Change the Commonsense Morality of Language Models?
CyberAgent（赛博agent（CyberAgent））
该研究针对多语言模型常用英语偏好数据对齐可能边缘化非英语用户偏好的问题，以日语模型为对象，用JCM和ETHICS数据集评估英语资源对齐后的常识道德适配性，发现常识道德部分可跨文化迁移、部分不可。
2024-06-24 cs.AI cs.CL cs.CY
Word Order in English-Japanese Simultaneous Interpretation: Analyses and Evaluation using Chunk-wise Monotonic Translation
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；Nara Women’s University（奈良女子大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
该研究针对英日同声传译的词序差异难题，基于NAIST数据集分析分块单调翻译特征，通过评估语音翻译与同声语音翻译模型，发现现有测试集存在低估模型性能的问题。
2024-07-15 cs.CL
An Example-Based Approach to Japanese-to-English Translation of Tense, Aspect, and Modality
我们开发了一种新的方法，用于日语到英语的时态，体和情态翻译，使用基于实例的方法。在该方法中，输入句子和例句之间的相似度被定义为句子结尾处的表达之间的语义匹配程度。我们的方法还使用k-最近邻方法，以排除噪声的影响;例如，双语语料库中错误标记的数据。实验表明，我们的方法可以更准确地翻译时态，方面和模态比目前市场上的顶级MT软件可以。此外，它不需要手工规则。
1999-12-13 cs.CL
Magical Number Seven Plus or Minus Two: Syntactic Structure Recognition in Japanese and English Sentences
George A.米勒说，人类在短期记忆中只有七块，正负两块。我们计算了在日语句子依存结构分析的每一步中，其修饰语不确定的bunsetsus（短语）的数量，因此必须存储在短期记忆中。这个数字大约小于9，也就是7加2的上限。我们也得到了类似的结果与英语句子的假设下，人类认识到一系列的话，如名词短语（NP），作为一个单位。这表明，如果我们假设人类在日语和英语中的认知单位分别是文色和NP，分析将支持米勒的$7 \pm 2$理论。
2001-03-12 cs.CL
Translation of Pronominal Anaphora between English and Spanish: Discrepancies and Evaluation
University of Alicante（阿利坎特大学）
本文评价了在机器翻译（MT）系统中代词回指翻译的不同任务。MT interlingua方法命名为AGIR（照应生成与Interlingua表示）改进了迄今为止提出的其他建议，因为它能够翻译插入照应，检测共指链，并将西班牙语零代词翻译成英语-其他系统很少考虑的问题。本文提出了解决和评估这些回指问题的AGIR使用不同种类的知识（词汇，形态，句法和语义）。本文在非限制性语料库上对英语和西班牙语照应性第三人称代词（包括西班牙语零人称代词）到目标语言的翻译进行了评估。在西班牙语和英语代词的翻译中，我们分别获得了80.4%和84.8%的准确率。虽然我们只学习了西班牙语和英语，但我们的方法可以很容易地扩展到其他语言，如葡萄牙语，意大利语或日语。
2011-06-24 cs.AI cs.CL
Japanese/English Cross-Language Information Retrieval: Exploration of Query Translation and Transliteration
跨语言信息检索（CLIR），其中查询和文档是在不同的语言，最近已成为信息检索社区内的主要主题之一。本文提出了一个日/英CLIR系统，我们结合了查询翻译和检索模块。我们目前的目标是检索技术文档，因此我们的系统的性能在很大程度上取决于技术术语的翻译质量。然而，技术术语翻译仍然存在问题，因为技术术语通常是复合词，因此通过组合现有的基本词来逐步创建新术语。此外，日语还经常以其特殊的表音符号来表示外来词。因此，现有的词典很难达到足够的覆盖面。为了解决第一个问题，我们制作了一本日语/英语词典，并在逐字的基础上翻译复合词。我们还使用概率方法来解决翻译歧义。对于第二个问题，我们使用了音译的方法，它对应的基础词词典中未列出的单词在目标语言的语音对应。我们评估我们的系统使用CLIR的测试集，并表明复合词翻译和音译方法提高了系统的性能。
2002-06-09 cs.CL
Why We Build Local Large Language Models: An Observational Analysis from 35 Japanese and Multilingual LLMs
Institute of Science Tokyo（东京科学研究所）；National Institute of Advanced Industrial Science and Technology（国家先进工业科学与技术研究院）；NII LLMC（日本信息基础设施中心）
本研究通过评估35个LLM在19个基准上的表现，发现英语训练可提升日语学术能力，而日语训练仅对日语知识问答和翻译任务至关重要，且日语能力随计算预算缩放。
2025-10-16 cs.CL
Constructing Multimodal Datasets from Scratch for Rapid Development of a Japanese Visual Language Model
Waseda University（早稻田大学）；NII LLMC；Institute of Science Tokyo（东京科学大学）；Kyoto University（京都大学）；National Institute of Informatics（信息学研究所）
针对日语等非英语语言多模态资源匮乏的问题，提出从零快速构建日语多模态数据集的方法，实验证明用其训练的VLM性能优于依赖机器翻译内容的模型。
2024-10-30 cs.CL
Contrasting Cognitive Styles in Vision-Language Models: Holistic Attention in Japanese Versus Analytical Focus in English
University of Tartu（塔尔图大学）；University of Ljubljana（卢布尔雅那大学）；Sansan, Inc.（Sansan公司）；Plaksha University（Plaksha大学）
本文通过比较日语和英语训练的视觉-语言模型在图像描述中的注意模式，发现模型不仅内化语言结构，还会复现训练数据中的文化认知倾向，表明文化因素会隐含影响模型输出。
2025-07-01 cs.CL
Unification-Based Glossing
我们提出了一种基于语法的机器翻译方法，结合统一风格的解释与统计处理。这种方法使我们能够将任何日本报纸文章翻译成英语，质量远远优于逐字翻译。新颖的想法包括使用特征结构来编码词格和使用统一来组成和操纵格。统一还允许我们指定抽象的功能，延迟目标语言的合成，直到足够的源语言信息组装。我们的统计组件使我们能够在竞争翻译中进行有效搜索，并找到英语流利度高的翻译。
1995-06-10 cmp-lg cs.CL
JParaCrawl: A Large Scale Web-Based English-Japanese Parallel Corpus
NTT Corporation（NTT公司）
最近的机器翻译算法主要依赖于并行语料库。然而，由于平行语料库的可用性仍然有限，只有一些资源丰富的语言对可以从中受益。我们构建了一个英日平行语料库，其中公开的平行语料库的数量仍然有限。我们通过广泛的网络爬行和自动对齐平行句子来构建平行语料库。我们收集的语料库名为JParaCrawl，收集了超过870万个句子对。我们展示了它如何包括更广泛的领域，以及用它训练的神经机器翻译模型如何作为一个良好的预训练模型来微调特定领域。预训练和微调方法达到或超过了与初始状态的模型训练相当的性能，并减少了训练时间。此外，我们使用域内数据集和JParaCrawl训练模型，以展示我们如何使用它们实现最佳性能。JParaCrawl和预先训练的模型可以免费在线获得，用于研究目的。
2020-03-15 cs.CL
Morality-based Assertion and Homophily on Social Media: A Cultural Comparison between English and Japanese Languages
Indian Institute of Technology, Ropar（印度理工学院罗帕尔分校）；CSIR-Central Scientific Instruments Organisation（CSIR中央科学仪器组织）；Academy of Scientific and Innovative Research（科学与创新研究院）；Tokai Gakuen University（东海学园大学）；Tokyo Institute of Technology（东京工业大学）
道德心理学是一个研究道德认同、评价和情感的领域。以前的工作主要集中在道德发展和文化的相关作用。我们知道语言是文化的固有元素，因此我们使用社交媒体平台Twitter来比较日语推文和英语推文的道德行为。五个基本的道德基础，即，研究人员比较了英语和日语推文中的关怀、公平、团体、权威和纯洁以及相关的情感效价。来自日本用户的推文描绘了相对较高的公平性，群体内，纯洁性，而英语推文表达了更多的积极情绪的所有道德维度。考虑到在社交媒体上连接用户的道德相似性，我们量化同质性有关不同的道德维度，使用我们提出的方法。英语的关怀、权威和纯洁性以及日语的团体、权威和纯洁性在Twitter上表现出同质性。总的来说，我们的研究揭示了潜在的文化差异方面的道德行为在英语和日语用户。
2021-10-15 cs.AI cs.CL
On the Applicability of Zero-Shot Cross-Lingual Transfer Learning for Sentiment Classification in Distant Language Pairs
本研究使用XLM-R预训练模型探讨从英语到日语和印尼语的零样本跨语言迁移学习，发现其在无需目标语言训练下取得优异结果，并验证了单一多语言模型的有效性。
2024-12-24 cs.AI cs.CL
Automated Postediting of Documents
大量的低到中等质量的英语文本现在正在由机器翻译（MT）系统，光学字符阅读器（OCR）和非英语母语者产生。这篇文章的大部分内容必须在见到阳光之前手工编辑。提高文本质量是一项繁琐的工作，但其自动化还没有得到太多的研究关注。任何人谁postedited一个技术报告或论文写的非英语母语的人都知道自动postediting系统的潜力。对于MT生成的文本的情况下，我们主张建设的后编辑模块，可移植的MT系统，作为一种替代硬编码的任何一个系统内的改进。作为一个例子，我们已经建立了一个完整的自包含的postediting模块的任务的文章选择（a，an，the）的英语名词短语。这对于日英机器翻译来说是一个众所周知的难题。我们的系统包含超过200，000条自动从在线文本资源中导出的规则。我们报告学习算法，准确性，并与人类的表现进行比较。
1994-07-29 cmp-lg cs.CL
From Base to Conversational: Japanese Instruction Dataset and Tuning Large Language Models
The University of Tokyo（东京大学）
针对非英语指令微调数据集匮乏的问题，研究构建了日语指令数据集，用LoRA微调多语言模型，验证了日语指令微调的有效性，且小模型也能借此提升下游性能，相关资源已公开。
2023-11-05 cs.CL
