Discriminating Form and Meaning in Multilingual Models with Minimal-Pair ABX Tasks
Apple（苹果公司）
通过最小对ABX任务研究多语言模型中形式与意义的区分能力，揭示了语言识别和语义识别在训练过程中的变化规律。
2025-11-19 cs.CL
The Parallel Meaning Bank: Towards a Multilingual Corpus of Translations Annotated with Compositional Meaning Representations
University of Groningen（格罗宁根大学）；École Normale Supérieure de Cachan（卡尚高等师范学院）；University of Trento（特伦托大学）
平行意义库是一个翻译语料库，注释了共享的正式意义表示，包括超过1100万个单词，分为四种语言（英语，德语，意大利语和荷兰语）。我们的方法是基于跨语言的投影：自动生成（和手动校正）的语义注释的英语句子映射到他们的词对齐的翻译，假设翻译是保持意义。语义标注包括五个主要步骤：（i）句子和词项的文本分割;（ii）组合范畴语法的句法分析;（iii）通用语义标注;（iv）符号化;（v）基于话语表征理论的成分语义分析。这些步骤使用以半监督方式训练的统计模型来执行。所采用的注释模型都是语言中立的。我们的初步结果很有希望。
2017-02-13 cs.CL
AllWOZ: Towards Multilingual Task-Oriented Dialog Systems for All
Columbia University（哥伦比亚大学）
亚马逊Alexa和苹果Siri等最先进的自然语言技术的一个常见问题是，由于语言障碍，它们的服务无法扩展到大多数发展中国家的公民。这些人群由于缺乏可用的语言资源来构建NLP产品而受到影响。本文介绍了AllWOZ，一个多语言多领域面向任务的客户服务对话数据集，涵盖八种语言：英语，普通话，韩语，越南语，印地语，法语，葡萄牙语和泰语。此外，我们通过应用mT5和元学习为我们的多语言数据集创建了一个基准。
2021-12-15 cs.CL
Pre-Trained Language-Meaning Models for Multilingual Parsing and Generation
University of Groningen（格罗宁根大学）
本文提出基于话语表示结构的多语言预训练语言-意义模型，将意义表示纳入预训练并缩小预训练与微调目标差距，在多语言DRS解析与生成任务上取得最佳性能。
2023-05-31 cs.CL
Style Transfer Through Multilingual and Feedback-Based Back-Translation
Carnegie Mellon University（卡内基梅隆大学）
风格转换是将句子的属性（例如，形式），同时保持其语义内容。风格转换的关键挑战是在相互竞争的目标之间取得平衡，一个是保持意义，另一个是提高风格转换的准确性。先前的研究已经确定，意义保存的任务通常更难实现和评估。本文提出了两个扩展的国家的最先进的风格转移模型，旨在提高风格转移的意义保持。我们的评估表明，这些扩展有助于更好地表达意义，同时提高传输精度。
2018-09-17 cs.CL
Extending Item Response Theory for Efficient and Meaningful Multilingual Evaluation
Google Research（谷歌研究）；The Hebrew University of Jerusalem（特拉维夫大学）；PhaseV Trials
提出Multilingual-IRT框架，通过引入每语言难度偏差、分离内容与语言效应的区分度及每语言能力残差，解决多语言基准测试中的线性扩展、翻译错误和文化特定知识混淆问题，在MMLU-Pro-X上实现更优的预测和错误检测。
2026-06-16 cs.CL
MASSIVE Multilingual Abstract Meaning Representation: A Dataset and Baselines for Hallucination Detection
Paul G. Allen School of Computer Science & Engineering（保罗·G·艾伦计算机科学与工程学院）；Georgetown University（乔治城大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）；Amazon（亚马逊）
本文提出 MASSIVE-AMR 数据集，包含超 84,000 条跨 50 多种语言的文本到图标注，并基于大语言模型建立多语言 AMR 与 SPARQL 解析及幻觉检测基线，揭示了 LLM 在结构化解析中的持续问题。
2024-05-29 cs.CL
Aligning LLMs for Multilingual Consistency in Enterprise Applications
Oracle AI
针对LLM在多语言企业应用中因英语中心预训练导致的性能差距，提出基于批次的多语言数据对齐微调策略，提升非英语准确率最多23.9%，且不影响英语性能。
2025-10-25 cs.AI cs.CL
When Meanings Meet: Investigating the Emergence and Quality of Shared Concept Spaces during Multilingual Language Model Training
MaiNLP, Center for Information and Language Processing, LMU Munich（MaiNLP，信息与语言处理中心，慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；University of Tokyo（东京大学）；IT University of Copenhagen（哥本哈根IT大学）；Language Technology Lab, University of Cambridge（语言技术实验室，剑桥大学）
研究通过因果可解释方法探讨多语言语言模型训练中共享概念空间的产生与质量，发现早期出现并随训练细化，但语言依赖性显著，且翻译质量提升可能反映行为变化而非能力提升。
2026-01-30 cs.CL
Retrofitting Multilingual Sentence Embeddings with Abstract Meaning Representation
The Chinese University of Hong Kong（香港中文大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
本文提出了一种新的基于抽象意义表示的多语言句子嵌入方法。与原始文本输入相比，AMR是一种结构化的语义表示，它明确无误地表示了句子中的核心概念和关系。它还有助于减少不同表达和语言之间的表面变化。与大多数先前的工作，只评估语义相似性的测量能力，我们提出了一个彻底的评估现有的多语言句子嵌入和我们的改进版本，其中包括一个集合的五个传输任务，在不同的下游应用程序。实验结果表明，利用AMR改进多语言句子嵌入，在语义文本相似度和迁移任务上都有更好的表现。我们的代码库和评估脚本可以在\url{https://github.com/jcyk/MSE-AMR}上找到。
2022-10-18 cs.AI cs.CL
AM2iCo: Evaluating Word Meaning in Context across Low-Resource Languages with Adversarial Examples
University of Cambridge（剑桥大学）；Mila/McGill University（米拉/麦吉尔大学）
在上下文中捕获词义并区分不同语言之间的对应和变化是构建成功的多语言和跨语言文本表示模型的关键。然而，现有的多语言评估数据集，评估词汇语义“在上下文”有各种限制。特别是，1）他们的语言覆盖范围仅限于高资源语言，并且只偏向于少数几个语系和地区，2）通过表面线索使任务可以解决的设计，这导致人为夸大预训练编码器在许多目标语言上的（有时是超人的）性能，这限制了它们对模型探测和诊断的有用性，3）对跨语言评价的支持不足。为了解决这些差距，我们提出了AM 2 iCo（上下文中的对抗和多语言含义），这是一个广泛覆盖的跨语言和多语言评估集;它旨在忠实地评估最先进的（SotA）表示模型在14种语言对的跨语言上下文中理解词义身份的能力。我们在广泛的设置中进行了一系列实验，并展示了AM 2 iCo的挑战性。结果显示，目前SotA预训练的编码器大大落后于人类的表现，并且在低资源语言和与英语不同的语言中观察到最大的差距。
2021-09-19 cs.CL
ALL-IN-1: Short Text Classification with One Model for All Languages
Center for Language and Cognition（语言与认知中心）；University of Groningen（格罗宁根大学）
我们提出了ALL-IN-1，一个简单的多语言文本分类模型，不需要任何并行数据。它基于传统的支持向量机分类器，利用多语言词嵌入和字符n-gram。我们的模型简单，易于扩展，但非常有效，在IJCNLP 2017四种语言的客户反馈分析共享任务中（在12个团队中）排名第一：英语，法语，日语和西班牙语。
2017-10-26 cs.CL
Multilingual Lexical Simplification via Paraphrase Generation
Yangzhou University（扬州大学）；University of South Florida（南佛罗里达大学）
本文提出一种基于复述生成的多语言词汇简化方法，将复述视为零样本翻译任务，通过仅关注复杂词词汇变化的新颖解码策略生成替代词，在英语、西班牙语和葡萄牙语上显著优于BERT和零样本GPT3方法。
2023-07-28 cs.CL
Multilingual LLMs Struggle to Link Orthography and Semantics in Bilingual Word Processing
Department of Electrical Engineering, Indian Institute of Technology Delhi（印度理工学院德里电气工程系）；Yardi School of Artificial Intelligence, Indian Institute of Technology Delhi（印度理工学院德里人工智能学院）
研究探讨多语言大语言模型在处理双语词时，如何通过拼写和语义特征进行区分，发现模型在处理双语同形词时存在显著困难，倾向于依赖拼写相似性而非语义理解。
2026-03-18 cs.CL
Exploring Cross-lingual Textual Style Transfer with Large Multilingual Language Models
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究所）；Technical University of Munich（慕尼黑工业大学）
去歧义是指在保持原文的意义和流畅性的同时，以礼貌的方式生成文本。现有的解毒方法被设计成以一种确切的语言工作。这项工作调查了多语言和跨语言解毒以及大型多语言模型的行为，如在这种情况下。与以前的作品，我们的目标是使大语言模型能够执行解毒，而无需直接微调给定的语言。实验表明，多语言模型能够进行多语言风格迁移。然而，模型无法进行跨语言解毒，直接对精确语言进行微调是不可避免的。
2022-06-05 cs.CL
Generating Text from Uniform Meaning Representation
Amherst College（阿默斯特学院）
本文提出从多语言UMR图生成文本的方法，通过基线模型、管道转换和微调策略，实现了多语言文本生成的高效效果。
2026-01-13 cs.CL
Semi Supervised Preposition-Sense Disambiguation using Multilingual Data
Bar-Ilan University（巴伊兰大学）
介词是非常常见和非常模糊的，理解它们的意义对于理解句子的含义至关重要。监督语料库的介词意义消歧任务是小的，这表明一个半监督的方法来完成任务。我们表明，来自未注释的多语言数据的信号可以用来提高监督介词意义消歧。我们的方法预先训练LSTM编码器来预测介词的翻译，然后将预先训练的编码器作为监督分类系统中的一个组件，并为任务进行微调。多语言信号一致地改善了两个介词意义数据集上的结果。
2016-11-27 cs.CL
XSemPLR: Cross-Lingual Semantic Parsing in Multiple Natural Languages and Meaning Representations
Penn State University（宾夕法尼亚州立大学）；AWS AI Labs（AWS人工智能实验室）
本文提出 XSemPLR 统一基准，覆盖 22 种自然语言、8 种 MR、5 项任务和 164 个领域，并系统评估多语言模型，发现 mT5 表现最佳而 BLOOM 仍显不足。
2023-06-07 cs.CL
Multilingual AMR-to-Text Generation
FAIR（Facebook人工智能研究院）；LORIA（洛林计算机科学及其应用研究实验室）；Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）
从结构化数据生成文本具有挑战性，因为它需要弥合（i）结构和自然语言（NL）以及（ii）语义欠指定的输入和完全指定的NL输出之间的差距。多语言生成带来了额外的挑战：生成具有不同词序和形态属性的语言。在这项工作中，我们专注于抽象意义表征（AMR）作为结构化输入，以前的研究绝大多数集中在生成只到英语。我们利用跨语言嵌入、预训练和多语言模型方面的进步，创建了多语言AMR到文本模型，这些模型可以用21种不同的语言生成。对于18种语言，基于自动度量，我们的多语言模型超过了生成单一语言的基线。我们分析了我们的多语言模型使用人类评估准确捕捉形态和词序的能力，发现母语者判断我们这一代人流利。
2020-11-10 cs.CL
Dialogue Quality and Emotion Annotations for Customer Support Conversations
INESC-ID（INESC-ID（葡萄牙国家系统与计算机工程研究所））；Instituto Superior Técnico, University of Lisbon（里斯本大学高等技术学院）；Faculdade de Letras, University of Lisbon（里斯本大学文学院）；Unbabel（Unbabel公司）；Carnegie Mellon University（卡内基梅隆大学）；Phrase（Phrase公司）
本文提出了一种针对双语客户支持对话的情感和对话质量整体标注方法，提供了独特资源用于开发文本分类模型，并建立了情感识别和对话质量估计基准，表明生产环境应用仍需进一步研究。
2023-11-23 cs.CL
MULTI3NLU++: A Multilingual, Multi-Intent, Multi-Domain Dataset for Natural Language Understanding in Task-Oriented Dialogue
University of Edinburgh（爱丁堡大学）；University of Cambridge（剑桥大学）
构建多语言多意图多领域数据集MULTI3NLU++，用于评测任务型对话系统的意图检测和槽位标注，发现低资源语言场景下性能挑战大。
2023-06-19 cs.CL
Exploring the Representation of Word Meanings in Context: A Case Study on Homonymy and Synonymy
CiTIUS – Research Center in Intelligent Technologies（CiTIUS——智能技术研究中心）；Universidade de Santiago de Compostela（圣地亚哥德孔波斯特拉大学）
本文提出了一个多语种的研究，在上下文中的词义表征。我们评估的能力，静态和上下文模型，以充分代表不同的词汇语义关系，如同音异义和同义。为此，我们创建了一个新的多语言数据集，使我们能够对多个因素进行受控评估，例如周围环境的影响或单词之间的重叠，传达相同或不同的含义。通过对四种情景的系统评估表明，基于Transformers的最佳单语模型可以充分消除上下文中的同音异义词。然而，由于它们严重依赖于上下文，这些模型无法表示在相似句子中出现的具有不同含义的单词。实验用加利西亚语、葡萄牙语、英语和西班牙语进行，数据集（有3,000多个评估项目）和新模型都随本研究免费发布。
2021-06-29 cs.CL
Multilingual Multi-modal Embeddings for Natural Language Processing
ADAPT Centre（ADAPT中心）；Dublin City University（都柏林城市大学）；Trinity College Dublin（都柏林三一学院）
我们提出了一种新的判别模型，可以从多语言和多模态数据中学习嵌入，这意味着我们的模型可以利用多种语言的图像和描述来提高嵌入质量。为此，我们引入了成对对比估计优化函数的修改作为我们的训练目标。我们评估我们的嵌入图像句子排名（ISR），语义文本相似性（STS），和神经机器翻译（NMT）任务。我们发现，额外的多语言信号导致ISR和STS任务的改进，和歧视性成本也可以用于重新排名$n$ -最好的NMT模型产生的列表，产生强大的改进。
2017-02-03 cs.CL
XL-WiC: A Multilingual Benchmark for Evaluating Semantic Contextualization
School of Computer Science and Informatics, Cardiff University, United Kingdom（英国卡迪夫大学计算机科学与信息学院）；Tehran Institute for Advanced Studies, Iran（伊朗德黑兰高级研究所）；Department of Digital Humanities, University of Helsinki, Finland（芬兰赫尔辛基大学数字人文系）；SapienzaNLP Group, Computer Science Department, Sapienza University of Rome, Italy（意大利罗马大学计算机科学系萨皮恩扎NLP小组）
能够正确地建模一个词的不同含义的语义表示技术的有效性是至关重要的。然而，大多数现有的评估基准评估这一标准是绑定到感觉库存（通常WordNet），限制其使用的一小部分知识为基础的表示技术。上下文中的单词数据集（WiC）通过将标准消歧任务重新表述为二元分类问题来解决对意义库存的依赖;但是，它仅限于英语。我们提出了一个大型多语言基准XL-WiC，其特点是来自不同语系的12种新语言的黄金标准，具有不同程度的资源可用性，为zero-shot跨语言迁移等评估方案提供了空间。我们进行了一系列的实验，以确定数据集的可靠性，并为最近的几个上下文多语言模型设置性能基线。实验结果表明，即使当没有标记的实例可用于目标语言，模型训练的英语数据可以在区分一个词的不同含义的任务，即使是遥远的语言，达到有竞争力的性能。XL-WiC可在https://pilehvar.github.io/xlwic/上获得。
2020-10-13 cs.CL
Multilingual Neural Machine Translation With Soft Decoupled Encoding
Carnegie Mellon University（卡内基梅隆大学）；Google Brain（谷歌大脑）；Monash University（莫纳什大学）
神经机器翻译（NMT）系统的多语言训练已经在低资源语言上取得了令人印象深刻的准确性改进。然而，在数据匮乏的情况下，有效地学习单词表示仍然存在重大挑战。在本文中，我们提出了软解耦编码（Soft Decoupled Encoding，缩写为DCN），这是一种多语言词典编码框架，专门设计用于智能地共享词典级信息，而不需要启发式预处理，如预分割数据。它通过字符编码来表示单词的拼写，并通过所有语言共享的潜在嵌入空间来表示其语义。在四种低资源语言的标准数据集上进行的实验显示，与强大的多语言NMT基线相比，性能得到了一致的改善，其中一种测试语言的增益高达2 BLEU，在所有四种语言对上都达到了最新的水平。
2019-02-09 cs.CL
A Multilingual African Embedding for FAQ Chatbots
iCompass
搜索可用的，可靠的，官方的和可理解的信息不是一项微不足道的任务，因为信息分散在互联网上，并且缺乏与非洲方言和语言沟通的政府沟通渠道。在本文中，我们介绍了一个人工智能驱动的聊天机器人的危机沟通，将是全渠道，多语言和多方言。我们提出了我们的工作修改StarSpace嵌入量身定制的非洲方言的问答任务，以及拟议的聊天机器人系统的架构和不同层的描述。英语、法语、阿拉伯语、突尼斯语、伊博语、约鲁巴语和豪萨语被用作语言和方言。针对我们实际部署的Covid-19聊天机器人获得定量和定性评估结果。结果表明，用户感到满意，与聊天机器人的对话符合客户需求。
2021-03-16 cs.AI cs.CL
M2DS: Multilingual Dataset for Multi-document Summarisation
University of Moratuwa（莫拉图瓦大学）；ConscientAI
针对现有多文档摘要数据集以英语为核心、缺乏多语言资源的缺口，本文提出首个多语言多文档摘要数据集M2DS，含2010-2023年BBC文章的五种语言文档-摘要对，并给出前沿模型的基准评估结果。
2024-07-17 cs.CL
Probing Multilingual BERT for Genetic and Typological Signals
University of North Texas（北德克萨斯大学）；VU Amsterdam（阿姆斯特丹自由大学）；TU Darmstadt（达姆施塔特工业大学）
我们探测层的多语言BERT（mBERT）的系统发育和地理语言信号在100种语言和计算语言距离的基础上的mBERT表示。我们1）使用语言距离来推断和评估语言树，发现它们在四元组树距离方面接近参考家谱，2）进行距离矩阵回归分析，发现语言距离最能用系统发育解释，最不能用结构因素解释; 3）提出了一种新的测量历时意义稳定性的方法（基于跨语言表示可变性），其与基于语言方法的已发布排名列表显著相关。我们的研究结果有助于跨语言文本表征的类型学可解释性的新生领域。
2020-11-04 cs.CL
Enhancing Multilingual Sentiment Analysis with Explainability for Sinhala, English, and Code-Mixed Content
Sri Lanka Institute of Information Technology（斯里兰卡信息技术学院）
针对银行业多语言（含低资源僧伽罗语）客户反馈情感分析缺乏可解释性的问题，提出混合式基于方面的框架，结合微调XLM-RoBERTa、BERT及SHAP/LIME解释工具，性能优于传统模型，提升金融应用情感分析的稳健性与透明度。
2025-04-18 cs.AI cs.CL cs.LG
Multilingual NMT with a language-independent attention bridge
University of Helsinki（赫尔辛基大学）
在本文中，我们提出了一种多语言的编码器-解码器架构，能够获得多语言的句子表示通过将一个中间{ \em注意力桥}，在所有的语言共享。也就是说，我们用特定于语言的编码器和解码器来训练模型，这些编码器和解码器通过自我注意力与我们称之为注意力桥的共享层连接。该层利用来自每种语言的语义来执行翻译，并发展成可以有效地用于迁移学习的独立于语言的意义表示。我们提出了一个新的框架，使用该模型和预定的培训多语言NMT的有效发展。我们已经测试了一个系统的方式与多并行数据集的方法。我们表明，该模型实现了实质性的改进，强双语模型，它也适用于zero-shot翻译，这表明了其抽象和迁移学习的能力。
2018-11-01 cs.CL
When Meaning Travels: A Granular Lens on Hybrid-MoE's Role in Idiomatic Understanding for Language Models
Department of Computer Science and Engineering, Indian Institute of Technology Patna, India（印度理工学院帕纳瓦分校计算机科学与工程系）；School of Information Technology, King Mongkut’s Institute of Technology Ladkrabang, Thailand（泰国拉差班国王理工大学信息科技学院）
针对低资源东南亚语言中习语的文化隐喻复杂性，提出Varnika多模态习语语料库和混合专家模型HybridMoE，通过控制混合和掩码多模态嵌入缓解专家稀疏性，实现习语理解性能提升5-6%。
2026-06-01 cs.CL
UoR-NCL at SemEval-2025 Task 1: Using Generative LLMs and CLIP Models for Multilingual Multimodal Idiomaticity Representation
Department of Computer Science, University of Reading（阅读大学计算机科学系）；School of Computing, Newcastle University（新castle大学计算机学院）
针对SemEval-2025 Task 1的跨语言图像排序任务，本研究利用生成式LLM生成习语语义，并结合多语言CLIP模型编码及对比学习微调，有效提升了多模态习语性表示的性能。
2025-05-01 cs.AI cs.CL
Representing Interlingual Meaning in Lexical Databases
University of Trento（特伦托大学）；Jilin University（吉林大学）
在当今的多语言词汇数据库中，世界上大多数语言都没有被充分代表。除了资源不完整的问题，我们表明，现有的词汇数据库结构上的限制，导致在特定文化的话，并在跨语言映射它们的表现力降低。特别是，主要语言，如英语的词汇意义空间，更准确地表示，而语言或文化多样性的语言以近似的方式映射。我们的论文评估国家的最先进的多语种词汇数据库，并评估其优势和局限性，就其表达语言多样性的词汇现象。
2023-01-22 cs.AI cs.CL
GlobalTrait: Personality Alignment of Multilingual Word Embeddings
The Hong Kong University of Science and Technology（香港科技大学）；EMOS Technologies Inc.（EMOS科技公司）
我们提出了一个多语种的模型来识别大五人格特质的文本数据在四种不同的语言：英语，西班牙语，荷兰语和意大利语。我们的分析表明，在不同语言中具有相似语义的单词不一定对应相同的人格特征。因此，我们提出了一种个性对齐方法，GlobalTrait，它具有从源语言到目标语言（英语）的每个特征的映射，使得与每个特征正相关的词在多语言向量空间中紧密相连。使用这些对齐的嵌入进行训练，与使用简单的单语和未对齐的多语言嵌入相比，我们可以将与个性相关的训练特征从英语等高资源语言转移到其他低资源语言，并获得更好的多语言结果。当使用具有个性对齐嵌入的CNN将我们的单语模型与多语言模型进行比较时，我们实现了平均F分数从65增加到73.4（+8.4）（除英语外的所有三种语言）。我们在回归任务中也表现出相对较好的性能，在单独的中国数据集上评估我们的模型时，分类结果也更好。
2018-11-20 cs.CL
Iterative Multilingual Spectral Attribute Erasure
University of Cambridge（剑桥大学）；University of Edinburgh（爱丁堡大学）；NVIDIA Research（NVIDIA研究）
IMSAE通过迭代SVD截断在多语言中减轻联合偏见子空间，优于传统单语言和跨语言去偏方法。
2025-12-26 cs.CL
The Typology of Polysemy: A Multilingual Distributional Framework
University of Toronto（多伦多大学）
词汇语义类型学已经确定了重要的跨语言概括的变化和共性的一词多义模式-语言如何包装成词的意义。最近的计算研究使调查的词汇语义在一个更大的规模，但很少有工作探讨词汇类型学的语义域，也没有影响跨语言的相似性的因素。我们提出了一个新的计算框架，量化语义亲和力，跨语言的词汇语义相似的概念。我们的方法定义了一个共同的多语言语义空间，使跨语言的概念的词汇表达的直接比较。我们验证了我们的框架对词汇语义类型学在概念和领域水平的实证研究结果。我们的研究结果揭示了语义域和语言外因素之间错综复杂的相互作用，超越了语言发生学，共同塑造了跨语言的多义类型。
2020-06-02 cs.CL
Benchmarking Concept-Spilling Across Languages in LLMs
EPFL（洛桑联邦理工学院）；ETH AI Center（苏黎世联邦理工学院人工智能中心）
本文提出了一种评估多语言LLMs语义鲁棒性的框架，通过分析模型在生成多义词时的表现，揭示模型和语言间的语义鲁棒性差异，并贡献了可扩展的评估基准和验证流程。
2026-01-18 cs.AI cs.CL
Separating form and meaning: Using self-consistency to quantify task understanding across multiple senses
Osnabrück University（奥斯纳布吕克大学）；FAIR（Facebook人工智能研究院）
本研究提出基于多语言自一致性的大语言模型评估新范式，通过测试模型同一含义在不同语言表达下的一致性衡量理解能力，发现ChatGPT多语言一致性不足，该方法可低成本扩展到多语言多任务评估。
2023-12-20 cs.AI cs.CL
Measuring Semantic Abstraction of Multilingual NMT with Paraphrase Recognition and Generation Tasks
Department of Digital Humanities / HELDIG（数字人文系 / HELDIG）；University of Helsinki（赫尔辛基大学）
在本文中，我们研究了多语言神经翻译模型是否比双语模型学习更强的句子语义抽象。我们通过测量这些模型在应用于源语言的释义时的困惑度来测试这一假设。直觉是，如果解码器能够识别同一语言中的同义句，即使模型从未受过训练，编码器也会产生更好的表示。在我们的设置中，我们将16种不同的辅助语言添加到双向双语基线模型（英语-法语）中，并使用英语的域内和域外释义对其进行测试。结果表明，在每一种情况下，困惑都显着减少，这表明意义可以在翻译中扎根。这是进一步支持的释义生成的研究，我们也包括在论文的最后。
2019-05-03 cs.CL
Paraphrase Generation as Zero-Shot Multilingual Translation: Disentangling Semantic Similarity from Lexical and Syntactic Diversity
Johns Hopkins University（约翰斯·霍普金斯大学）
最近的研究表明，多语言神经机器翻译（NMT）模型可以用来判断一个句子对同一语言中另一个句子的释义程度（Thompson and Post，2020）;然而，试图使用标准束搜索从这样的模型中生成释义会产生微不足道的副本或近似副本。我们引入了一个简单的释义生成算法，该算法不鼓励在输入中产生n元语法。我们的方法可以从一个单一的多语言NMT模型中生成多种语言的释义。此外，输入和输出之间的词汇多样性的量可以在生成时控制。我们进行了一次人工评估，将我们的方法与在大型英语合成释义数据库ParaBank 2上训练的释义器进行比较（Hu等人，2019 c），并发现我们的方法产生的释义，更好地保留意义，更符合语法，为同一水平的词汇多样性。其他较小的人类评估表明，我们的方法也适用于两种非英语语言。
2020-10-28 cs.CL
Ensembling Multilingual Transformers for Robust Sentiment Analysis of Tweets
Department of Computer Science, University of South Carolina, USA（南卡罗来纳大学计算机科学系）；Artificial Intelligence Institute, University of South Carolina, USA（南卡罗来纳大学人工智能研究所）；Department of Civil, Environmental, and Ocean Engineering, Stevens Institute of Technology, New Jersey, USA（史蒂文斯理工学院土木、环境与海洋工程系）；School of Computing, University of Nebraska–Lincoln, Lincoln, Nebraska, USA（内布拉斯加大学林肯分校计算机学院）；Department of Computer Science, Bowling Green State University, Bowling Green, Ohio, USA（伯灵顿州立大学计算机科学系）
针对外语场景缺乏标注数据导致的推文情感分析难题，本文集成 bert-base-multilingual-uncased-sentiment 与 XLM-R，并结合 LLM，在多语言数据集上取得超过 86% 的性能。
2025-09-28 cs.CL
Dynamic Multi-Expert Projectors with Stabilized Routing for Multilingual Speech Recognition
SMEAR-MoE通过稳定多专家投影器实现多语言语音识别的高效跨语言共享与性能提升。
2026-01-27 cs.CL
Multilingual Extraction and Recognition of Implicit Discourse Relations in Speech and Text
Uppsala University（乌普萨拉大学）；IT University of Copenhagen（哥本哈根信息技术大学）
本文提出了一种多模态方法，通过整合文本和音频信息，实现多语言隐含语篇关系的跨语言迁移和识别。
2026-02-04 cs.CL
Multilingual Sentence-Level Semantic Search using Meta-Distillation Learning
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）；Adobe Research（Adobe研究院）
本文提出针对低资源场景的MAML-Align方法，利用基于MAML的元蒸馏学习将知识从单语到双语的Teacher模型迁移至双语到多语言的Student模型，显著提升了多语言语义搜索性能及对未见语言的泛化能力。
2023-09-15 cs.CL
Towards End-to-End Multilingual Metaphor Processing: Integrating Detection, Translation, and Evaluation
Leiden University（莱顿大学）；Leiden University Medical Centre（莱顿大学医学中心）
本研究拟开发端到端多语言隐喻处理框架，整合隐喻检测、面向隐喻的翻译评估及联合建模，结合语言学理论与大语言模型，以提升多语言NLP系统处理比喻语言的能力。
2026-08-06 cs.CL
Evaluating Large Language Models on Multiword Expressions in Multilingual and Code-Switched Contexts
School of Computer Science University of Birmingham（计算机科学学院 英国伯明翰大学）；Department of Computer Science University of Bath（计算机科学系 英国巴斯大学）
本研究评估最先进语言模型在多语言和语码转换语境下处理潜在习语化多词表达歧义的能力，发现包括GPT-4在内的最新模型在检测和语义任务中均未能超越xlm-roBERTa-base基线，表明多词表达仍是模型的重大挑战。
2025-04-10 cs.CL
Wisdom in Unity: The Role of Multilingual Training in Figurative Language Identification in Proverbs
College of Computer and Information Sciences, King Saud University（沙特国王大学计算机与信息科学学院）
该研究以7种语言的6787个谚语实例为对象，评估多语言模型在比喻语言识别中的表现，发现约50%多语言训练数据可实现近最优性能，文化特异性比喻形式收益最大，推动相关框架向多维概念模型发展。
2026-09-24 cs.CL
Paraphrases as Foreign Languages in Multilingual Neural Machine Translation
Carnegie Mellon University（卡内基梅隆大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
释义是对同一语义的改写，有助于提高概括能力和翻译水平。然而，以前的作品只探讨释义在词或短语的水平，而不是在句子或语料库的水平。与以往只在单词或短语层面上探索释义的工作不同，我们在语料库层面上使用结构一致的整个训练数据的不同翻译作为释义。我们训练平行释义在多种语言从各种来源。我们将释义视为外语，用释义标签标记源句子，并以多语言神经机器翻译（NMT）的风格对平行释义进行训练。我们的多释义NMT仅在两种语言上训练，优于多语言基线。增加释义可以提高生僻词的翻译，增加词汇选择的熵和多样性。添加源释义比添加目标释义更能提高性能。将源和目标释义结合起来可以进一步提高性能;将释义与多语言数据结合起来会有所帮助，但性能参差不齐。我们使用24个语料库级别的圣经释义，实现了法语到英语翻译的BLEU得分为57.2，优于多语言基线，比单源单目标NMT基线高出+34.7。
2021-10-01 cs.CL
Scaling Multilingual Safety and Reasoning Evaluation through Reasoning-Guided Translation
Jožef Stefan Institute（约瑟夫·斯蒂芬研究所）
本研究提出推理引导的翻译框架，构建覆盖11种语言的多语言评估集合，发现开源LLMs存在语言依赖型漏洞，强调任务敏感型基准构建的重要性。
2026-10-15 cs.AI cs.CL
OasisSimp: An Open-source Asian-English Sentence Simplification Dataset
本文提出OasisSimp数据集，涵盖五种语言的句子简化任务，揭示了多语言环境下低资源语言的简化挑战，为未来研究提供基准。
2026-03-14 cs.CL
Advancing Multilingual Pre-training: TRIP Triangular Document-level Pre-training for Multilingual Language Models
The Chinese University of Hong Kong（香港中文大学）；Microsoft Corporation（微软公司）
针对多语言预训练依赖单语和双语语料而限制文档级跨语言任务性能的问题，提出TRIP方法，利用三语平行语料并通过Grafting方法将预训练目标加速为三语目标，在多个基准上取得SOTA结果。
2023-05-13 cs.CL
Bootstrapping Multilingual AMR with Contextual Word Alignments
University of Pennsylvania（宾夕法尼亚大学）；IBM Research（IBM研究院）
我们开发了高性能的多语言抽象意义表示（AMR）系统，通过投影英语AMR注释到其他语言的弱监督。我们通过引导基于transformer的多语言词嵌入来实现这一目标，特别是那些来自跨语言RoberTa（XLM-R large）的词嵌入。我们开发了一种新的技术，用于外国文本到英语AMR对齐，使用英语和外语标记之间的上下文单词对齐。这种词对齐是弱监督的，依赖于上下文化的XLM-R词嵌入。我们实现了非常有竞争力的性能，超过了德语，意大利语，西班牙语和中文的最佳结果。
2021-02-03 cs.AI cs.CL
MCL@IITK at SemEval-2021 Task 2: Multilingual and Cross-lingual Word-in-Context Disambiguation using Augmented Data, Signals, and Transformers
Indian Institute of Technology Kanpur (IIT Kanpur)（印度理工学院坎普尔分校）
在这项工作中，我们提出了解决SemEval 2021任务2：多语言和跨语言上下文消歧（MCL-WiC）的方法。该任务是一个句子对分类的问题，其目标是检测是否一个给定的词共同的两个句子唤起相同的含义。我们提交了两种设置的系统-多语言（成对的句子属于同一种语言）和跨语言（成对的句子属于不同的语言）。训练数据仅以英文提供。因此，我们采用了跨语言迁移技术。我们的方法采用微调预训练的基于transformer的语言模型，如ELECTRA和ALBERT，用于英语任务，XLM-R用于所有其他任务。为了提高这些系统的性能，我们建议在要消除歧义的单词中添加一个信号，并通过句子对反转来增强我们的数据。我们使用WiC、XL-WiC和SemCor 3.0进一步增强了提供给我们的数据集。使用合奏，我们在多语言任务中取得了很好的成绩，在EN-EN和FR-FR子任务中排名第一。对于跨语言设置，我们使用了多语言模型，采用了随机测试方法和zero-shot方法，后者的表现略好。
2021-04-04 cs.CL
DialogPII: A multilingual dataset of synthetic dialog transcripts to detect personal information
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；Technical University Berlin（柏林技术大学）；Berlin Institute of Health (BIH)（柏林健康研究所（BIH））；Tilburg University（蒂尔堡大学）；Universidad de Buenos Aires（布宜诺斯艾利斯大学）；Independent Researcher（独立研究者）；Bundesinstitut für Risikobewertung (BfR)（风险评估联邦机构（BfR））
提出DialogPII多语言合成对话数据集，覆盖8种场景、19种实体类型和11种语言，通过半自动生成、语音合成与转录、人工校正构建，并发布基线模型和验证结果。
2026-06-29 cs.CL
