A Common Semantic Space for Monolingual and Cross-Lingual Meta-Embeddings
HiTZ Center - Ixa, University of the Basque Country UPV/EHU（HiTZ中心-Ixa，巴斯克大学UPV/EHU）
本文提出了一种新的技术，用于创建单语和跨语言的元嵌入。我们的方法集成了多个词嵌入创建的互补技术，文本源，知识库和语言。现有的词向量投影到一个共同的语义空间使用线性变换和平均。使用我们的方法，得到的元嵌入保持原始嵌入的维数，而不会丢失信息，同时处理词汇表外的问题。一个广泛的实证评估证明了我们的技术的有效性，相对于以前的工作，各种内在和外在的多语言评价，获得竞争力的结果语义文本相似性和国家的最先进的性能字的相似性和POS标记（英语和西班牙语）。由此产生的跨语言元嵌入也表现出出色的跨语言迁移学习能力。换句话说，我们可以利用来自资源丰富语言的预训练源嵌入，以改善资源不足语言的单词表示。
2021-09-08 cs.CL
Meta-Learning a Cross-lingual Manifold for Semantic Parsing
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
本地化语义解析器以支持新语言需要有效的跨语言泛化。最近的研究发现，机器翻译或zero-shot方法取得了成功，尽管这些方法很难模拟母语人士如何提问。我们考虑如何有效地利用最小的注释的例子在新的语言的Few-Shot跨语言的语义解析。我们引入一阶Meta学习算法来训练一个语义分析器，使其在跨语言迁移过程中具有最大的样本效率。我们的算法使用高资源的语言来训练分析器，同时优化低资源语言的跨语言泛化。ATIS上六种语言的结果表明，我们的泛化步骤的组合产生准确的语义解析器采样$\le$ 10%的源训练数据在每个新的语言。我们的方法还使用英语在Spider上训练了一个竞争模型，并将其推广到中文，同样采样$\le$ 10%的训练数据。
2022-09-27 cs.CL
Should Cross-Lingual AMR Parsing go Meta? An Empirical Assessment of Meta-Learning and Joint Learning AMR Parsing
Univ. Grenoble Alpes（格勒诺布尔大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；Emvista（安维斯塔公司）
本研究探索元学习在跨语言AMR解析中的应用，构建并公开韩语、克罗地亚语测试集，对比经典联合学习发现元学习仅在部分语言0样本场景略有优势，k>0时提升甚微。
2024-10-04 cs.CL
Meta-learning For Vision-and-language Cross-lingual Transfer
University of Edinburgh（爱丁堡大学）；School of Informatics（信息学院）
针对预训练视觉语言模型在低资源语言多模态零样本及少样本跨语言迁移中表现不佳的问题，提出基于MAML的跨语言多模态元学习微调框架，有效提升了模型在新语言上的迁移性能。
2023-10-24 cs.CL
Generalized Funnelling: Ensemble Learning and Heterogeneous Document Embeddings for Cross-Lingual Text Classification
Istituto di Scienza e Tecnologie dell’Informazione, Consiglio Nazionale delle Ricerche（信息科学与技术研究所，意大利国家研究委员会）；Dipartimento di Informatica, Università di Pisa（比萨大学信息学院）
\emph{Funnelling}（Fun）是最近提出的一种用于跨语言文本分类（CLTC）的方法，该方法基于异构迁移学习（HTL）的两层学习集成。在这种集成方法中，第一层分类器，每个工作在不同的和语言相关的特征空间，为每个文档返回校准后验概率的向量（每个类有一个维度），最终的分类决策由使用此向量作为输入的元分类器进行。因此，元分类器可以利用类与类之间的相关性，这（除其他外）使Fun比CLTC系统更有优势，在CLTC系统中，这些相关性无法发挥作用。在本文中，我们描述了\emph{Generalized Funnelling}（gFun），Fun的一个推广，由HTL架构组成，其中第一层组件可以是任意的\emph{view-generating functions}，即，依赖于语言的函数，每个函数产生（单语）文档的独立于语言的表示（“视图”）。我们描述了gFun的一个实例，其中元分类器接收一个校准后验概率的向量（如Fun中）作为输入，该向量聚合到体现其他类型相关性的其他嵌入式表示中，例如词-类相关性（如\emph{Word-Class Embeddings}编码的）、词-词相关性（如\emph{Multilingual Unsupervised or Supervised Embeddings}编码的）和词-上下文相关性（如\emph{multilingual BERT}编码的）。我们表…
2022-02-07 cs.CL cs.LG
Adapting Mental Health Prediction Tasks for Cross-lingual Learning via Meta-Training and In-context Learning with Large Language Model
University of Science and Technology Beijing（北京科技大学）；University College Dublin（都柏林大学学院）
针对低资源非洲语言社交媒体心理健康预测研究不足的问题，本研究提出带自监督的元学习与大语言模型上下文学习两种方法，在斯瓦希里语等任务上验证了元训练优于标准微调，且精心设计的提示可实现跨语言上下文学习。
2024-04-13 cs.AI cs.CL cs.CY
Multilingual and cross-lingual document classification: A meta-learning approach
University of Amsterdam（阿姆斯特丹大学）；Facebook AI
世界上绝大多数语言都被认为是成功应用深度学习方法的资源不足。在这项工作中，我们提出了一种元学习方法，在有限的资源设置文件分类，并证明其有效性在两个不同的设置：Few-Shot，跨语言适应以前看不见的语言;和多语种联合训练时，有限的目标语言数据是在训练过程中。我们对几种元学习方法进行了系统的比较，调查了数据可用性方面的多个设置，并表明元学习在具有异构任务分布的设置中蓬勃发展。我们对现有的元学习方法提出了一个简单而有效的调整，它允许更好，更稳定的学习，并在几种语言上建立了一个新的艺术状态，同时只使用少量的标记数据来对其他语言进行同等的处理。
2021-04-24 cs.CL
Meta-Learning for Fast Cross-Lingual Adaptation in Dependency Parsing
University of Amsterdam（阿姆斯特丹大学）；University of Edinburgh（爱丁堡大学）；King’s College London（伦敦国王学院）
元学习，或学习学习，是一种技术，可以帮助克服跨语言NLP问题中的资源短缺，使快速适应新的任务。我们应用模型不可知元学习（MAML）的跨语言依存句法分析的任务。我们在一组不同的语言上训练我们的模型，以学习可以快速适应新语言的参数初始化。我们发现，在少样本学习设置中，带有预训练的元学习可以显著提高语言迁移和标准监督学习基线的性能，这些基线用于各种看不见的、类型多样的和低资源的语言。
2022-03-23 cs.AI cs.CL
Zero-Shot Cross-Lingual Transfer with Meta Learning
University of Oslo（奥斯陆大学）；Vrije Universiteit Brussel - imec（布鲁塞尔自由大学 - 欧洲微电子研究中心）；University of Copenhagen（哥本哈根大学）；Aalborg University（奥尔堡大学）
最近，学习在任务之间共享什么已经成为一个非常重要的话题，因为知识的战略共享已经被证明可以提高下游任务的绩效。这对于多语言应用程序尤其重要，因为世界上大多数语言都资源不足。在这里，我们考虑同时在多种不同语言上设置训练模型，而英语以外的语言几乎没有数据可用。我们表明，这种具有挑战性的设置可以使用元学习来实现，其中，除了训练源语言模型之外，另一个模型还学习选择哪些训练实例对第一个最有益。我们实验使用标准的监督，zero-shot跨语言，以及Few-Shot跨语言设置不同的自然语言理解任务（自然语言推理，问答）。我们广泛的实验设置证明了元学习对15种语言的一致有效性。我们改进了zero-shot和Few-Shot NLI（在MultiNLI和XNLI上）以及QA（在MLQA数据集上）的最新技术。一个全面的错误分析表明，语言之间的类型特征的相关性可以部分解释时，参数共享通过元学习是有益的。
2020-10-05 cs.CL
Data-Efficient Cross-Lingual Transfer with Language-Specific Subnetworks
University of Amsterdam（阿姆斯特丹大学）；Google Research（谷歌研究院）
大型多语言语言模型通常在所有语言之间共享其参数，这使得跨语言任务转移成为可能，但当来自不同语言的训练更新发生冲突时，学习也会受到阻碍。在本文中，我们提出了新的方法，使用特定语言的子网络，控制跨语言的参数共享，以减少冲突，增加微调过程中的正迁移。我们引入动态子网络，这是共同更新的模型，我们结合我们的方法与元学习，一个既定的，但互补的，技术，以提高跨语言迁移。最后，我们对我们的每种方法如何影响模型进行了广泛的分析。
2022-10-31 cs.CL
Think Carefully and Check Again! Meta-Generation Unlocking LLMs for Low-Resource Cross-Lingual Summarization
University of California, San Diego（加利福尼亚大学圣迭戈分校）；Nanyang Technological University（南洋理工大学）；National University of Singapore（新加坡国立大学）；Tsinghua University（清华大学）
针对低资源语言跨语言摘要性能不佳的问题，提出四步零样本SITR方法（摘要、改进、翻译、精炼），在多个数据集上验证，显著提升GPT-3.5和GPT-4的跨语言摘要能力。
2025-03-25 cs.AI cs.CL
On the cross-lingual transferability of multilingual prototypical models across NLU tasks
QWANT（QWANT公司）；Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）
基于监督式深度学习的方法已被应用于面向任务的对话，并且已被证明在足够数量的训练样本可用时对于有限的领域和语言应用是有效的。在实践中，这些方法受到领域驱动设计和资源不足的语言的缺点。领域和语言模型应该随着问题空间的发展而增长和变化。一方面，对迁移学习的研究已经证明了基于多语言转换器的模型学习语义丰富的表示的跨语言能力。另一方面，除了上述方法之外，元学习还使得能够开发出具有广泛泛化能力的任务和语言学习算法。通过这一背景下，本文提出了研究协同使用少样本学习与原型神经网络和基于多语言转换器的模型的跨语言可移植性。在MultiATIS++语料库上进行的自然语言理解实验表明，该方法显著提高了低资源语言和高资源语言之间的迁移学习性能。更一般地说，我们的方法证实了在给定语言中学习到的有意义的潜在空间可以通过元学习推广到看不见的和资源不足的空间。
2022-07-19 cs.CL
A Cross-Lingual Meta-Learning Method Based on Domain Adaptation for Speech Emotion Recognition
National Institute for Research and Development in Informatics - ICI Bucharest（布加勒斯特国家信息研究与发展学院）；Academy of Romanian Scientists（罗马尼亚科学院）；University of Bucharest（布加勒斯特大学）；National University of Science and Technology POLITEHNICA Bucharest（布加勒斯特理工国立科技大学）；Paris 1 Panthéon-Sorbonne University（巴黎第一大学先贤祠-索邦大学）
针对低资源语言语音情感识别数据稀缺问题，提出结合大型预训练骨干网络、原型网络的改进多阶段元学习方法，通过元测试微调技术提升分布外性能，在希腊语、罗马尼亚语小样本任务中取得优异准确率。
2024-10-06 cs.CL
Genre as Weak Supervision for Cross-lingual Dependency Parsing
IT University of Copenhagen（哥本哈根信息技术大学）
最近的工作表明，单语掩蔽的语言模型学习表示数据驱动的语言变化的概念，可用于针对域的训练数据选择。数据集类型标签已经经常可用，但在跨语言设置中仍然很大程度上未被探索。我们利用这种流派元数据作为一个弱的监督信号，有针对性的数据选择zero-shot依存句法分析。具体来说，我们将树库级别的体裁信息投影到更细粒度的句子级别，目标是放大隐式存储在无监督上下文表示中的信息。我们证明，体裁是可恢复的多语言的上下文嵌入，它提供了一个有效的信号，在跨语言的训练数据选择，zero-shot方案。对于12个低资源语言树库，其中6个仅用于测试，我们的特定类型方法显著优于竞争基线以及最近的基于嵌入的数据选择方法。此外，基于体裁的数据选择为这些目标语言中的三种提供了新的最先进的结果。
2021-09-10 cs.CL
Meta4XNLI: A Crosslingual Parallel Corpus for Metaphor Detection and Interpretation
HiTZ Basque Center for Language Technology - Ixa, University of the Basque Country UPV/EHU（巴斯克语言技术中心-ixa，巴斯克国家大学UPV/EHU）
本文提出首个面向隐喻检测与解释的英西平行NLI数据集Meta4XNLI，发现微调编码器在隐喻检测上优于仅解码器LLM，并揭示翻译对隐喻跨语言保留与模型性能的影响。
2025-07-21 cs.AI cs.CL cs.LG
Cross-Lingual Steering for Figurative Language Generation
Department of Computer Science, University of Cincinnati（卡内基梅隆大学计算机科学系）；School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院）；Independent Researcher（独立研究者）
通过激活引导技术，研究多语言大模型中比喻语言生成的内部信号是否跨语言可复用，发现跨语言方向可有效转移并增强目标行为。
2026-10-14 cs.CL
On Negative Interference in Multilingual Models: Findings and A Meta-Learning Treatment
Carnegie Mellon University（卡内基梅隆大学）
现代多语言模型是在来自多种语言的连接文本上训练的，希望能为每种语言带来好处（正迁移），其中最明显的好处是低资源语言。然而，最近的研究表明，这种方法会降低高资源语言的性能，这种现象称为负干扰。在本文中，我们提出了第一个系统的研究负干扰。我们发现，与以前的信念相反，负面干扰也会影响低资源语言。虽然最大限度地共享参数来学习语言通用结构，但我们证明了语言特定的参数确实存在于多语言模型中，并且它们是负面干扰的潜在原因。出于这些观察，我们还提出了一个Meta学习算法，获得更好的跨语言的可移植性和消除负面干扰，通过添加语言特定的层作为元参数和训练他们的方式，明确提高共享层的泛化所有语言。总的来说，我们的研究结果表明，负面干扰比以前已知的更常见，这为改善多语言表示提出了新的方向。
2020-10-06 cs.CL cs.LG
Training-Free Cross-Lingual Dysarthria Severity Assessment via Phonological Subspace Analysis in Self-Supervised Speech Representations
The Scott-Morgan Foundation（斯科特-摩根基金会）；Tecnológico de Monterrey（蒙特雷科技大学）
本文提出无需训练数据的跨语言口吃严重程度评估方法，通过冻结HuBERT表示中的语音学子空间分析，利用健康对照语音估计特征方向，构建12维语音学轮廓，验证了其在多种语言和病因中的有效性。
2026-04-11 cs.CL cs.LG
Cross-Lingual Auto Evaluation for Assessing Multilingual LLMs
Nilekani Centre at AI4Bharat（AI4Bharat 奈尔肯中心）；IIT Madras（印度理工学院马德拉斯分校）；New York University（纽约大学）；Microsoft（微软）；National Institute of Information and Communications Technology, Kyoto, Japan（京都国立信息与通信技术研究所）
本文提出跨语言自动评测套件CIA Suite，包括评估模型Hercule和测试集Recon，通过利用英语参考答案实现低资源多语言评估，实验表明其与人工判断一致性优于专有模型。
2025-07-18 cs.CL
Toward a Cross-Lingual Romanization Ecosystem for Sinitic Languages: A Paired Mandarin-Cantonese Case Study
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出汉藏语系罗马字生态系统框架，开发多种汉藏语系语言罗马字方案及配套开源基础设施，经实验验证其可提升低资源汉藏语系语音技术的迁移效果。
2026-09-11 cs.CL
Self-tuning hyper-parameters for unsupervised cross-lingual tokenization
Novosibirsk State University（新西伯利亚国立大学）；Aigents
本研究提出基于元学习的方法自动确定无监督分词模型的超参数，通过多种适应度函数组合优化英语、俄语和中文的分词效果，为低资源及已消亡语言的鲁棒无监督分词提供了可能。
2023-04-04 cs.AI cs.CL
SwasthLLM: a Unified Cross-Lingual, Multi-Task, and Meta-Learning Zero-Shot Framework for Medical Diagnosis Using Contrastive Representations
School of Computer Science University of Petroleum
SwasthLLM提出统一跨语言多任务元学习零样本框架，利用对比表示实现英语、印地语和孟加拉语医学诊断，零样本准确率分别达92.78%和73.33%。
2025-09-24 cs.AI cs.CL cs.IR
OpenWER: Improving Cross-Lingual ASR Evaluation and Enabling Token-Based Accuracy Metrics
Stuttgart Media University（斯图加特传媒大学）；University of Tübingen（图宾根大学）
提出OpenWER开源工具，通过语言特定归一化和复合词检测提升WER鲁棒性，并利用基于令牌的Levenshtein对齐实现细粒度准确度评估，在52种语言上WER绝对降低高达25%。
2026-06-23 cs.CL cs.SD
Are Multilingual Models Effective in Code-Switching?
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；The Hong Kong University of Science and Technology（香港科技大学）
多语言语言模型在多语言和跨语言自然语言理解任务中表现出了良好的性能。然而，这些多语言模型在语码转换任务中的作用还没有得到充分的研究。在本文中，我们研究的多语言语言模型的有效性，了解他们的能力和适应性的混合语言设置考虑的推理速度，性能和参数的数量来衡量其实用性。我们在三种语言对上进行了命名实体识别和词性标注的实验，并将它们与现有的方法进行了比较，例如使用双语嵌入和多语言元嵌入。我们的研究结果表明，预先训练的多语言模型不一定能保证代码转换的高质量表示，而使用元嵌入可以用更少的参数实现类似的结果。
2021-03-24 cs.CL cs.LG
Towards Cross-Lingual Audio Abuse Detection in Low-Resource Settings with Few-Shot Learning
SAMOVAR, Télécom SudParis（萨莫瓦尔实验室，南巴黎电信学院）；Institut Polytechnique de Paris（巴黎综合理工学院）
本研究针对低资源场景下音频滥用内容检测研究不足的问题，结合Wav2Vec、Whisper等预训练模型表示与MAML框架，基于ADIMA数据集用少样本学习实现10种印度语言的滥用内容检测，验证了预训练模型的低资源泛化能力。
2024-12-13 cs.AI cs.CL
Deep Emotions Across Languages: A Novel Approach for Sentiment Propagation in Multilingual WordNets
Wrocław University of Science and Technology（弗罗茨瓦夫理工大学）
针对 WordNet 情感元数据人工标注不足的问题，提出 MSSE 与 CLDNS 实现词网内及跨语言情感自动传播，并在 Princeton WordNet 和 Polish WordNet 上验证其优于现有方法。
2023-12-07 cs.AI cs.CL cs.LG
Meta-Learning with MAML on Trees
MediaTek Research（联发科研究院）
在元学习中，从以前的任务中学到的知识被转移到新的任务中，但这种转移只有在任务相关时才有效。在不相关的任务之间共享信息可能会损害性能，目前还不清楚如何在具有层次结构的任务之间转移知识。我们的研究扩展了模型不可知的元学习模型，MAML，利用层次任务关系。我们的算法TreeMAML通过几个梯度步骤使模型适应每个任务，但适应遵循分层树结构：在每一步中，梯度在任务集群中汇集，随后的步骤沿着树向下。我们还实现了一个聚类算法，生成的任务树没有以前的知识的任务结构，使我们能够利用任务之间的隐式关系。我们表明，新的算法，我们的术语TreeMAML，比MAML的任务结构时，是分层的合成实验。为了研究该方法在真实数据中的性能，我们将该方法应用于自然语言理解，利用语言系统树对语言模型进行微调。我们表明，TreeMAML提高了跨语言自然语言推理的最先进的结果。这个结果是有用的，因为世界上大多数语言都资源不足，而跨语言迁移的改进允许NLP模型的国际化。这一结果打开了在其他真实世界的层次数据集中使用该算法的窗口。
2021-03-08 cs.LG
Toward Generalized Cross-Lingual Hateful Language Detection with Web-Scale Data and Ensemble LLM Annotations
本文研究大规模未标注网络数据与基于大语言模型的合成标注对多语言仇恨语检测的提升作用，通过继续预训练BERT模型和集成LLM标注策略，展示了在低资源环境下显著的性能提升。
2026-03-18 cs.CL
Pralekha: Cross-Lingual Document Alignment for Indic Languages
Nilekani Centre at AI4Bharat（AI4Bharat的Nilekani中心）；Microsoft（微软）；National Institute of Information and Communications Technology, Japan（日本信息与通信技术国家研究所）；Indian Institute of Technology, Madras（印度理工学院马德拉斯分校）；Indian Institute of Technology, Bombay（印度理工学院孟买分校）
本文提出Pralekha基准和文档对齐系数DAC，通过块级匹配实现印度语言与英语的细粒度高效文档对齐，显著提升文档级机器翻译性能。
2025-11-10 cs.CL
CLIRudit: Cross-Lingual Information Retrieval of Scientific Documents
CONICET-Universidad de Buenos Aires. Instituto de Ciencias de la Computación (ICC). Buenos Aires, Argentina（CONICET-阿根廷布宜诺斯艾利斯大学。信息计算研究所（ICC）。布宜诺斯艾利斯，阿根廷）；École de bibliothéconomie et des sciences de l’information. Université de Montréal. Montréal, Canada（信息与图书馆科学学院。蒙特利尔大学。蒙特利尔，加拿大）
针对学术搜索中非英文成果检索需求，本文构建英法学术跨语言检索数据集CLIRudit，测试多类检索器性能并给出可复现基准，助力非英文学术内容获取。
2025-11-19 cs.CL cs.IR
MIPIAD: Multilingual Indirect Prompt Injection Attack Defense with Qwen -- TF-IDF Hybrid and Meta-Ensemble Learning
Bangladesh University of Engineering and Technology（孟加拉工程与技术大学）
本文提出MIPIAD框架，结合Qwen2.5-1.5B微调序列分类器、TF-IDF特征和元集成学习，通过合成基准测试在英文和孟加拉文上实现高准确率的攻击检测，有效减少跨语言差距。
2026-05-08 cs.CL cs.LG
Towards Cross-lingual Values Judgment: A Consensus-Pluralism Perspective
State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室）；Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高科技园区（滨江）区块链与数据安全研究院）；Tongyi Lab, Alibaba Group（阿里集团通义实验室）；Nanyang Technological University（南洋理工大学）
本文提出X-Value基准，用于评估LLM跨语言判断内容深层价值的能力，通过两阶段人机协作标注框架解决文化多样性和学科复杂性挑战，涵盖14种语言7大全球议题类别。
2026-05-10 cs.AI cs.CL
A Multiplicative Model for Learning Distributed Text-Based Attribute Representations
University of Toronto（多伦多大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
在本文中，我们提出了一个通用的框架，学习分布式表示的属性：文本的特点，其表示可以共同学习与词嵌入。属性可以对应于文档指示符（学习句子向量），语言指示符（学习分布式语言表示），元数据和辅助信息（如博客作者的年龄，性别和行业）或作者的表示。我们描述了一个三阶模型，其中单词上下文和属性向量成倍地相互作用，以预测序列中的下一个单词。这就引出了条件词相似性的概念：当条件词的属性不同时，词的含义是如何变化的。我们进行了几个实验任务，包括情感分类，跨语言文档分类，和博客作者归属。我们还定性评估条件词邻居和属性条件文本生成。
2014-06-10 cs.CL cs.LG
One Model, Many Languages: Meta-learning for Multilingual Text-to-Speech
Charles University, Faculty of Mathematics and Physics（查理大学数学与物理学院）
我们介绍了一种多语言语音合成的方法，它使用上下文参数生成的元学习概念，并使用更多的语言和更少的训练数据比以前的方法产生自然的多语言语音。我们的模型基于Tacotron 2，具有完全卷积的输入文本编码器，其权重由单独的参数生成器网络预测。为了增强语音克隆，该模型使用了一个带有梯度反转层的对抗性说话者分类器，该梯度反转层可以从编码器中删除特定于说话者的信息。我们安排了两个实验，使用不同水平的跨语言参数共享将我们的模型与基线进行比较，以评估：（1）在少量数据上训练时的稳定性和性能，（2）发音准确性和代码切换合成的语音质量。在训练中，我们使用了CSS10数据集和基于五种语言的通用语音录音的新的小数据集。我们的模型被证明可以有效地跨语言共享信息，并且根据主观评估测试，它产生比基线更自然和准确的码切换语音。
2020-08-03 cs.CL cs.LG eess.AS
Leveraging a New Spanish Corpus for Multilingual and Crosslingual Metaphor Detection
University of the Basque Country UPV/EHU（巴斯克大学UPV/EHU）
缺乏广泛覆盖的数据集注释与日常隐喻表达的语言以外的英语是惊人的。这意味着大多数关于监督隐喻检测的研究都是针对该语言发表的。为了解决这个问题，这项工作提出了第一个语料库注释自然发生的隐喻在西班牙语大到足以开发系统来执行隐喻检测。所呈现的数据集CoMeta包括来自各个领域的文本，即新闻，政治话语，维基百科和评论。为了标记CoMeta，我们应用MIPVU方法，这是最常用于系统地注释真实数据上的隐喻的指南。我们使用我们新创建的数据集，通过微调几个多语言和单语言最先进的大语言模型来提供有竞争力的基线。此外，通过利用现有的VUAM英语数据，除了CoMeta，我们提出的，尽我们所知，第一个跨语言的实验监督隐喻检测。最后，我们进行了详细的错误分析，探讨了这两种语言和数据集之间看似高的日常隐喻迁移。
2022-10-24 cs.CL
Establishing degrees of closeness between audio recordings along different dimensions using large-scale cross-lingual models
CNRS（法国国家科学研究中心）；Université Paris-Cité（巴黎城市大学）；LACITO（语言与东方文明研究中心）；Université Sorbonne Nouvelle（新索邦大学）；LISN（信息、信号与图像处理实验室）；Université Paris-Saclay（巴黎-萨克雷大学）
本研究提出一种无监督的ABX测试方法，利用预训练多语言模型的语音表示，通过三个实验验证了不同维度下录音的接近程度，为低资源语言研究开辟新途径。
2024-02-08 cs.CL cs.SD eess.AS
Biomedical term normalization of EHRs with UMLS
Vicomtech；UPV/EHU（巴斯克大学）
本文提出了一种新的原型，生物医学术语规范化的电子健康记录摘录与统一医学语言系统（UMLS）元词库。尽管设计上是多语言和跨语言的，但我们首先专注于处理西班牙语的临床文本，因为目前还没有针对这种语言和特定目的的工具。该工具基于Apache Lucene来索引Metathesaurus并从输入文本生成映射候选项。它使用IXA管道进行基本语言处理，并使用UKB工具包解决歧义。它已通过测量其协议MetaMap在两个英语-西班牙语平行语料库进行了评估。此外，我们提出了一个基于Web的界面的工具。
2018-05-24 cs.CL
EvoGrad: Efficient Gradient-Based Meta-Learning and Hyperparameter Optimization
The University of Edinburgh（爱丁堡大学）；Samsung AI Research Centre, Cambridge（三星人工智能研究中心）
最近，基于递归的元学习和超参数优化取得了重大进展，使得神经网络与许多超参数一起实现了实际的端到端训练。然而，现有的方法相对昂贵，因为它们需要计算二阶导数并存储更长的计算图。这一成本阻碍了它们扩展到更大的网络架构。我们提出了EvoGrad，一种新的元学习方法，它利用进化技术来更有效地计算超梯度。EvoGrad估计关于超参数的超梯度，而无需计算二阶梯度，或存储更长的计算图，从而显着提高效率。我们评估EvoGrad的三个实质性的最近元学习的应用，即跨域少样本学习与功能明智的转换，嘈杂的标签学习与元权重网和低资源的跨语言学习与Meta表示转换。结果表明，EvoGrad显著提高了效率，并使元学习能够扩展到更大的架构，例如从ResNet10到ResNet34。
2021-10-27 cs.LG cs.NE stat.ML
Evolution of Efficient Symbolic Communication Codes
Novosibirsk State University（新西伯利亚国立大学）；Aigents（艾真特公司）
该研究将语言结构视为通信编码演化产物，通过最大化反熵等指标开展元学习以优化分词，经多语言实验验证了不同指标对各语言及子词解析的差异化作用。
2023-06-11 cs.CL cs.IT cs.LG
A Culturally-Rich Romanian NLP Dataset from "Who Wants to Be a Millionaire?" Videos
University of Bucharest Faculty of Mathematics and Computer Science（布加勒斯特大学数学与计算机科学学院）
本文构建了一个源自罗马尼亚版《谁想成为百万富翁？》视频的文化丰富问答数据集，并通过基准、机器翻译和跨语言实验揭示LLM在本土文化问题上的性能短板。
2025-06-06 cs.CL cs.LG
Learning to Learn Morphological Inflection for Resource-Poor Languages
New York University（纽约大学）
我们建议铸造的任务形态变形-映射一个词元到一个指示的变形形式-资源贫乏的语言作为一个元学习问题。将每种语言视为一个单独的任务，我们使用来自高资源源语言的数据来学习一组模型参数，这些参数可以作为对资源贫乏的目标语言进行微调的强大初始化点。在3个语言家族的29种目标语言上进行的实验表明，我们提出的方法优于所有基线。特别是，它获得了比先前提出的跨语言迁移模型高31.7%的绝对准确度，并且在语言上平均超过1.7%的绝对准确度。
2020-04-28 cs.CL
A Longitudinal, Multinational, and Multilingual Corpus of News Coverage of the Russo-Ukrainian War
本文介绍DNIPRO语料库，包含24.6万篇俄乌战争新闻，涵盖五国和三种语言，提供详尽元数据和人工标注，用于分析地缘政治叙事差异、媒体框架和信息战。
2026-03-12 cs.CL cs.SI
Universal Conceptual Structure in Neural Translation: Probing NLLB-200's Multilingual Geometry
University of Alberta（阿尔伯塔大学）
本研究通过探测NLLB-200的表示几何结构，发现其学习了语言通用的概念表示，并展示了跨语言一致性的证据。
2026-11-04 cs.AI cs.CL cs.LG
Toward Culturally Grounded Natural Language Processing
Independent Researcher（独立研究员）
本文探讨多语言NLP中文化素养与语言能力的脱节问题，提出通过丰富上下文元数据和文化分层评估等方法，推动文化扎根的NLP研究。
2026-03-27 cs.CL
BabelDOC: Better Layout-Preserving PDF Translation via Intermediate Representation
School of Computer Engineering and Science, Shanghai University, Shanghai, China（1 上海大学计算机工程与科学学院，上海，中国）；Funstory.ai Limited, Hong Kong SAR, China（2 Funstory.ai有限公司，香港特别行政区，中国）；Department of Computer Science and Engineering, Shanghai Jiao Tong University, Shanghai, China（3 上海交通大学计算机科学与工程系，上海，中国）
BabelDOC通过中间表示框架实现布局保持的PDF翻译，解决语言处理与布局保持的矛盾，提升翻译精度和文档一致性。
2026-05-11 cs.CL cs.CV
Meta-X$_{NLG}$: A Meta-Learning Approach Based on Language Clustering for Zero-Shot Cross-Lingual Transfer and Generation
Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）
近年来，NLP社区见证了多语言和跨语言迁移研究的快速发展，其中监督从高资源语言（HRL）转移到低资源语言（LRL）。然而，跨语言迁移在不同语言之间并不一致，特别是在zero-shot设置中。为了实现这一目标，一个有前途的研究方向是在有限的注释数据的情况下跨多个任务学习可共享的结构。下游的多语言应用程序可能会从这种学习设置中受益，因为全球大多数语言都是低资源的，并且与其他语言共享一些结构。在本文中，我们提出了一种新的元学习框架（称为Meta-X $_{NLG}$）学习共享结构的类型多样的语言的基础上元学习和语言聚类。这是朝着统一的跨语言迁移未见过的语言迈出的一步。我们首先聚类的语言表示的基础上，并确定每个集群的质心语言。然后，用所有质心语言训练Meta学习算法，并在zero-shot设置中对其他语言进行评估。我们在两个NLG任务（抽象文本摘要和问题生成），5个流行的数据集和30种类型不同的语言上证明了这种建模的有效性。在强基线基础上的持续改进表明了拟议框架的效力。该模型的精心设计使得这种端到端NLG设置不太容易受到意外翻译问题的影响，这是zero-shot跨语言NLG任务中的一个突出问题。
2022-03-19 cs.CL
A Shared Geometry of Difficulty in Multilingual Language Models
The University of Queensland（昆士兰大学）；Polytechnic University of Milan（米兰理工大学）
本研究发现多语言语言模型中问题难度的表示分为两个阶段：浅层表示具有跨语言泛化能力，而深层表示在同语言性能高但跨语言泛化差。
2026-01-19 cs.AI cs.CL
Enhanced Meta-Learning for Cross-lingual Named Entity Recognition with Minimal Resources
Microsoft Research（微软研究院）
对于没有标注资源的语言，从资源丰富的语言中转移知识是命名实体识别（NER）的有效解决方案。虽然所有现有的方法直接从源代码学习模型转移到目标语言，在本文中，我们提出了微调学习模型与一些类似的例子给出了一个测试用例，这可能有利于预测利用结构和语义信息传达在这样的类似的例子。为此，我们提出了一个Meta学习算法，以找到一个良好的模型参数初始化，可以快速适应给定的测试用例，并提出了构建多个伪NER任务的元训练计算句子相似度。为了进一步提高模型在不同语言之间的泛化能力，我们引入了一个掩码方案，并在元训练期间使用额外的最大项来增强损失函数。我们进行了广泛的实验，跨语言的命名实体识别与最少的资源超过五个目标语言。结果表明，我们的方法显著优于现有的最先进的方法。
2020-07-15 cs.CL
Fantastic Metrics and How to Find Them: Meta-Evaluating Metrics for Multi-lingual Style-Personalized Generation
Columbia University（哥伦比亚大学）；The University of York（约克大学）
本研究针对多语言风格个性化生成指标，提出基于回归的元评估框架，构建大规模SPTG基准，发现经人类评分校准的简单指标可媲美LLM评判器，还明确了指标性能相关的标注特征与集成优势条件。
2026-10-15 cs.CL
ProofWala: A Framework for Multilingual Proof Data Synthesis and Theorem-Proving
University of Texas, Austin, USA（得克萨斯大学奥斯汀分校）
提出ProofWala框架，通过itp-interface库实现与交互式定理证明器的程序化交互，支持多语言证明数据合成、并行证明搜索，并验证了跨语言与跨领域迁移的有效性。
2026-05-29 cs.AI cs.LG cs.LO
From 50K to 8.2 Million in 24 Hours: Vozinha's Algorithmic Consecration and the Multilingual Making of World Cup Visibility
Universidad Anáhuac México（墨西哥阿纳瓦克大学）
通过多语言语料库和九框架叙事分类法，分析2026年世界杯后Vozinha的算法封圣过程，揭示不同语言承载不同叙事框架，将平台粉丝数作为语言对象研究可见性构建。
2026-06-19 cs.CL cs.CY cs.SI
Deep Exploration of Cross-Lingual Zero-Shot Generalization in Instruction Tuning
LG AI Research（LG AI研究院）
本文通过英语与韩语元数据集的指令微调实验，并引入含51个基准的KORANI及跨语言模板，证明跨语言零样本泛化可显著提升未见任务表现。
2024-06-13 cs.CL
Cem Mil Podcasts: A Spoken Portuguese Document Corpus For Multi-modal, Multi-lingual and Multi-Dialect Information Access Research
Spotify（声田）；Silo AI（希洛人工智能公司）
本研究发布了葡萄牙语播客数据集Cem Mil Podcasts，介绍其采样、统计及方言分布情况，验证了多语言摘要和文本元数据分类的有效性，为多模态多语言多方言播客信息获取研究提供支持。
2023-12-13 cs.CL
Meta-Pretraining for Zero-Shot Cross-Lingual Named Entity Recognition in Low-Resource Philippine Languages
University of Cambridge（剑桥大学）
针对低资源语言NER微调大模型的落地限制，本研究用一阶MAML替换部分自回归目标预训练小型解码器LM，在他加禄语、宿务语测试中提升了零样本跨语言NER效果并缩短收敛时间。
2025-10-04 cs.AI cs.CL
