GeoMLAMA: Geo-Diverse Commonsense Probing on Multilingual Pre-Trained Language Models
University of California, Los Angeles（加州大学洛杉矶分校）
最近的工作表明，预训练的语言模型（PLM）存储从数据中学习到的关系知识，并利用它来执行下游任务。然而，不同地区的常识可能有所不同。例如，在美国婚礼上新娘礼服的颜色是白色，而在中国婚礼上是红色。在本文中，我们介绍了一个基准数据集，地理多样性常识多语言语言模型分析（GeoMLAMA），探索在多语言PLM的关系知识的多样性。GeoMLAMA包含英语、汉语、印地语、波斯语和斯瓦希里语的3，125个提示，广泛覆盖了来自美国、中国、印度、伊朗和肯尼亚文化的人们共享的概念。我们在GeoMLAMA上对11个标准的多语言PLM进行了基准测试。有趣的是，我们发现1）较大的多语言PLM变体不一定比其较小的变体更好地存储地理多样性概念; 2）多语言PLM本质上并不偏向西方国家的知识（美国）; 3）一个国家的母语可能不是探索其知识的最佳语言，4）一种语言可能更好地探索关于非语言的知识。而不是自己的祖国。代码和数据在https://github.com/WadeYin9712/GeoMLAMA上发布。
2022-11-29 cs.CL
COPAL-ID: Indonesian Language Reasoning with Local Culture and Nuances
MBZUAI（穆罕默德·本·扎耶德人工智能大学）
提出了融入印尼本土文化与语境的常识推理数据集COPAL-ID，包含标准印尼语和雅加达方言版本，实验表明现有先进多语言模型在理解印尼本土细微语境上仍远不及人类表现。
2024-04-21 cs.CL
BUT-FIT at SemEval-2020 Task 4: Multilingual commonsense
Brno University of Technology（布尔诺理工大学）
本文介绍了BUT-FIT团队在SemEval 2020任务4 -常识验证和解释中的工作。我们参与了所有三个子任务。在子任务A和B中，我们的提交基于预训练的语言表示模型（即ALBERT）和数据增强。我们尝试通过多语言模型和机器翻译的数据集或翻译的模型输入来解决另一种语言捷克语的任务。我们表明，一个强大的机器翻译系统，我们的系统可以在另一种语言中使用的准确性损失很小。在子任务C中，我们基于预训练序列到序列模型（BART）的提交在BLEU评分排名中排名第一，然而，我们发现BLEU与人类评估之间的相关性很低，我们的提交最终排名第四。我们分析了评估中使用的指标，并根据子任务B的模型提出了一个额外的分数，该分数与我们的手动排名以及基于相同原则的重新排名方法相关。我们对所有子任务进行了错误和数据集分析，并提出了我们的发现。
2020-08-21 cs.CL
Common Sense Beyond English: Evaluating and Improving Multilingual Language Models for Commonsense Reasoning
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
常识推理的研究迄今仅限于英语。我们的目标是评估和改进流行的多语言语言模型（ML-LM），以帮助推进常识推理（CSR）超越英语。我们收集了米奇语料库，包括11种不同语言的561 k句子，可用于分析和改进ML-LM。我们提出了米奇探测器，一种语言无关的探测任务，用于公平地评估不同语言中流行的ML-LM的常识。此外，我们还创建了两个新的数据集，X-CSQA和X-CODAH，通过将其英文版本翻译为其他15种语言，以便我们可以评估流行的ML-LM跨语言常识推理。为了提高英语以外的性能，我们提出了一种简单而有效的方法--多语言对比预训练（MCP）。它显著增强了句子表示，在两个基准测试中都获得了很大的性能增益。
2021-06-13 cs.AI cs.CL
MINDS: A Cross-cultural Dialogue Corpus for Social Norm Classification and Adherence Detection
SRI International（SRI国际研究院）
针对现有社会规范推理研究难以适配真实多轮跨文化对话的问题，本文提出Norm-RAG检索增强智能体框架，构建MINDS双语跨文化对话数据集，实验证明该方法可提升规范检测性能与泛化能力。
2025-11-13 cs.CL
Marco-LLM: Bridging Languages via Massive Multilingual Training for Cross-Lingual Enhancement
Alibaba International Digital Commerce（阿里巴巴国际数字商业）
本文提出Marco-LLM，通过低资源多语言数据收集与基于Qwen2的持续预训练，在多项多语言基准和任意到任意翻译任务上显著提升性能并保持主流语言能力。
2024-12-05 cs.CL
CLICKER: Attention-Based Cross-Lingual Commonsense Knowledge Transfer
Amazon Alexa AI（亚马逊Alexa人工智能部门）
跨语言常识推理（CSR）的最新进展是由多语言预训练模型（mPTM）的发展促进的。虽然mPTM显示出为不同语言编码常识知识的潜力，但将在大规模英语语料库中学习到的常识知识转移到其他语言是具有挑战性的。为了解决这个问题，我们提出了基于注意力的跨语言常识知识搜索器（CLICKER）框架，它最大限度地减少了英语和非英语语言之间的性能差距在常识问答任务。CLICKER通过区分非常识知识和常识知识，有效地提高了非英语语言的常识推理。在公共基准测试上的实验结果表明，CLICKER在英语以外的跨语言CSR任务中取得了显着的改善。
2023-02-26 cs.CL
Do LLMs exhibit the same commonsense capabilities across languages?
University of Alicante（阿利坎特大学）；University of Utrecht（乌得勒支大学）
本研究通过新基准MULTICOM评估多种开源LLM在四种语言上的常识生成，发现英语表现最佳，低资源语言表现较差，凸显多语言常识生成的局限性。
2025-09-08 cs.CL
From Multilingual Complexity to Emotional Clarity: Leveraging Commonsense to Unveil Emotions in Code-Mixed Dialogues
IIIT Delhi（德里英迪拉·甘地信息技术学院）；NVIDIA（英伟达）；IIT Delhi（德里印度理工学院）
本研究针对混合语言对话情感识别问题，提出一种整合常识信息与对话上下文的创新方法，通过高效流水线提取常识并采用先进融合技术结合对话表示，实验证明该方法显著提升了情感识别性能。
2023-10-19 cs.AI cs.CL
OASIS: A Multilingual and Multimodal Dataset for Culturally Grounded Spoken Visual QA
Qatar Computing Research Institute（卡塔尔计算研究 institute）
OASIS是一个多语言多模态数据集，涵盖图像、文本和语音，旨在评估模型在现实场景中的文化导向推理能力，包含0.92M真实图像和14.8M问答对。
2026-05-12 cs.AI cs.CL
HeadlineCause: A Dataset of News Headlines for Detecting Causalities
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Yandex（Yandex公司）
发现文本中隐含的因果关系是一项需要常识和世界知识的任务。现有的数据集集中在常识因果推理或明确的因果关系。在这项工作中，我们提出了HeadlineCause，一个用于检测新闻标题对之间隐含因果关系的数据集。该数据集包括来自英语新闻的5000多个标题对和来自俄语新闻的9000多个标题对，这些标题对通过众包标记。这些对从完全不相关或属于同一主题的对到包括因果关系和反驳关系的对。我们还提出了一组模型和实验，证明了数据集的有效性，包括一个多语言的XLM-RoBERTA为基础的因果关系检测模型和一个基于GPT-2的模型可能的影响预测。
2021-09-28 cs.CL cs.LG
AlexaTM 20B: Few-Shot Learning Using a Large-Scale Multilingual Seq2Seq Model
Amazon Alexa AI（亚马逊Alexa人工智能部门）
在这项工作中，我们证明了多语言大规模序列到序列（seq 2seq）模型，预训练的混合去噪和因果语言建模（CLM）的任务，是更有效的Few-Shot学习者比解码器只有模型在各种任务。特别是，我们训练了一个200亿参数的多语言seq 2seq模型，称为Alexa教师模型（AlexaTM 20 B），并表明它在单次摘要任务上实现了最先进的（SOTA）性能，优于更大的540 B PaLM解码器模型。AlexaTM 20 B还在Flores-101数据集上实现了SOTA单镜头机器翻译，特别是针对低资源语言，几乎涵盖了模型支持的所有语言对（阿拉伯语，英语，法语，德语，印地语，意大利语，日语，马拉地语，葡萄牙语，西班牙语，泰米尔语和泰卢固语）。我们还显示在zero-shot设置中，AlexaTM 20 B在SuperGLUE和SQuADv 2数据集上的性能优于GPT 3（175 B），并在XNLI，XCOPA，Paws-X和XWinograd等多语言任务上提供SOTA性能。总的来说，我们的研究结果为seq 2seq模型提供了一个令人信服的案例，作为大规模语言模型（LLM）训练的仅解码器模型的强大替代方案。
2022-08-03 cs.CL cs.LG
A Commonsense-Infused Language-Agnostic Learning Framework for Enhancing Prediction of Political Polarity in Multilingual News Headlines
Jožef Stefan Institute（约热夫·斯泰凡研究所）；Jožef Stefan International Postgraduate School（约热夫·斯泰凡国际研究生院）
本文提出一种通过翻译-检索-翻译策略注入推理性常识的语言无关学习框架，结合注意力机制与多语言预训练模型，在五种语言、超62.6K条新闻标题上显著提升了政治极性预测性能，并揭示了翻译质量对低资源语言表现的影响。
2022-12-01 cs.AI cs.CL
It's All in the Heads: Using Attention Heads as a Baseline for Cross-Lingual Transfer in Commonsense Reasoning
Yandex；HSE University（高等经济学院）
常识推理是自然语言处理中的关键问题之一，但标记数据的相对稀缺阻碍了英语以外语言的发展。预训练的跨语言模型是强大的语言不可知表示的来源，但其固有的推理能力仍在积极研究中。在这项工作中，我们设计了一个简单的方法来常识推理，训练一个线性分类器与权重的多头注意力的功能。为了评估这种方法，我们创建了一个多语言Winograd模式语料库，通过处理标准化管道中先前工作的几个数据集，并根据样本外性能来衡量跨语言泛化能力。该方法与最近的监督和无监督的方法进行常识推理的竞争，即使在应用于其他语言的zero-shot方式。此外，我们证明了大多数的性能是由相同的小子集的注意头所有研究的语言，这提供了证据的通用推理能力，在多语言编码器。
2021-11-30 cs.CL cs.LG
LangBridge: Multilingual Reasoning Without Multilingual Supervision
KAIST（韩国科学技术院）；University of Washington（华盛顿大学）；NAVER AI Lab（NAVER AI实验室）；Carnegie Mellon University（卡内基梅隆大学）
本文提出LangBridge，一种零样本方法，通过引入极少量可训练参数连接多语言理解模型与推理模型，仅用英语数据训练即可显著提升低资源语言在数学、代码、逻辑和常识推理任务上的性能。
2024-06-03 cs.CL
Physical Commonsense Reasoning for Lower-Resourced Languages and Dialects: a Study on Basque
本文提出BasPhyCo数据集，评估LLM在巴斯克语中物理常识推理能力，发现低资源语言中LLM在处理方言时物理常识能力有限。
2026-04-13 cs.CL
LLM-powered Data Augmentation for Enhanced Cross-lingual Performance
City, University of London（伦敦城市大学）；Microsoft（微软）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文利用大语言模型对多语言常识推理数据集进行数据增强，通过微调较小多语言模型验证其有效性，发现LLM生成数据能显著提升性能，并评估了生成文本的自然度与逻辑一致性。
2023-10-22 cs.CL
It Depends: Resolving Referential Ambiguity in Minimal Contexts with Commonsense Knowledge
School for Computation, Information and Technology（计算、信息与技术学院）；Technical University of Munich（慕尼黑技术大学）
本文研究大语言模型在多轮对话中利用常识消解指称歧义的能力，发现现有模型倾向单一解释或罗列所有指称而非模糊限定或澄清，且简化语言请求会加剧该问题；通过直接偏好优化微调Llama-3.1-8B可显著改善各类请求下的歧义消解表现。
2025-09-19 cs.CL
An Interdisciplinary Review of Commonsense Reasoning and Intent Detection
University of Maryland, Baltimore County（马里兰大学巴尔的摩分校）
该跨学科综述梳理了2020-2025年三大顶会的28篇文献，分别从多维度总结常识推理与意图检测的研究进展，结合NLP与HCI视角指出领域发展趋势与现存研究缺口。
2025-06-16 cs.CL cs.HC
mSCoRe: a $M$ultilingual and Scalable Benchmark for $S$kill-based $Co$mmonsense $Re$asoning
Department of Computer Science, University of Oregon（俄勒冈大学计算机科学系）；Adobe Research（Adobe研究）
针对多语言常识推理评估的空白，提出包含技能分类体系、数据合成流水线和复杂度扩展框架的mSCoRe基准，实验表明现有推理增强LLM在更高复杂度的多语言常识推理上仍存在显著局限性。
2025-08-13 cs.AI cs.CL
Prix-LM: Pretraining for Multilingual Knowledge Base Construction
University of Cambridge（剑桥大学）；University of Southern California（南加州大学）
知识库包含了大量的结构化世界知识和常识知识。因此，它们往往补充基于文本的分发信息，并促进各种下游任务。由于其手动构建是资源和时间密集型的，最近的努力已经尝试利用大型预训练的语言模型（PLM），以生成额外的单语知识事实的知识库。然而，这些方法还没有被尝试用于构建和丰富多语言知识库。除了更广泛的应用之外，这种多语言知识库可以提供比单语言更丰富的组合知识（例如，English）KBs.用不同语言表达的知识可能是互补的，分布不均匀：这意味着用资源丰富的语言提供的知识可以转移到资源较少的语言。为了实现这一目标，在共享/统一的空间中表示多语言知识至关重要。为此，我们提出了一个统一的表示模型，Prix-LM，多语言知识库的建设和完成。我们利用两种类型的知识，单语三元组和跨语言的链接，从现有的多语言知识库中提取，并通过因果语言建模目标调整多语言编码器XLM-R。Prix-LM将有用的多语言和基于知识库的事实知识集成到一个模型中。标准的实体相关的任务，如链接预测在多种语言，跨语言的实体链接和双语词典归纳的实验，证明了其有效性，与收益报告强任务专业化的基线。
2022-03-09 cs.CL
UrduBench: An Urdu Reasoning Benchmark using Contextually Ensembled Translations with Human-in-the-Loop
本文提出UrduBench，通过上下文融合翻译和人工参与验证，构建乌尔都语推理基准测试，评估不同模型在多种提示策略下的表现，揭示多步骤推理在乌尔都语中的挑战及语言对齐的重要性。
2026-01-28 cs.AI cs.CL
Specialized Decision Models vs. General-Purpose LLMs: Benchmarking Jev Across Knowledge, Reasoning, and Multilingual Tasks
Dalian Maritime University（大连海事大学）；Dalian University of Technology（大连理工大学）
本研究在13项多选择基准上对比专用决策模型Jev与19个分三级的通用LLM，发现Jev在知识类任务上可媲美前沿级LLM，但在数学应用题上表现逊于所有LLM。
2026-10-09 cs.CL
Multilingual Knowledge Transfer under Data Constraints via Lexical Interventions
Apple（苹果公司）
提出LINK方法，利用双语词汇对预训练数据中的高资源语言部分进行词汇替换，无需额外模型训练或大量平行数据，即可有效提升低资源语言的知识迁移效果。
2026-05-22 cs.CL
Teaching LLMs to Abstain across Languages via Multilingual Feedback
University of Washington（华盛顿大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Microsoft Research（微软研究院）
针对 LLM 跨语言知识差异导致弃权性能不均的问题，本文提出多语言反馈与自我反思方法，在三类 QA 数据集和多个模型上显著提升低资源语言弃权表现。
2025-02-14 cs.CL
Cross-lingual Representation Learning via Centroid Intervention Fusion
KU Leuven（鲁汶大学）
本文针对大语言模型跨语言性能不均的问题，提出CIF框架整合多语言干预投影，在四类基准测试中提升了跨语言性能，尤其优化了低资源语言表现。
2026-08-28 cs.CL
MAD-X: An Adapter-Based Framework for Multi-Task Cross-Lingual Transfer
Technical University of Darmstadt（达姆施塔特工业大学）；University of Cambridge（剑桥大学）；DeepMind（深度思维）
最先进的预训练多语言模型（如多语言BERT和XLM-R）背后的主要目标是通过zero-shot或Few-Shot跨语言迁移在低资源语言中启用和引导NLP应用程序。然而，由于模型容量有限，它们的迁移性能在这些低资源语言和预训练期间未见过的语言上是最弱的。我们提出了MAD-X，一个基于适配器的框架，通过学习模块化语言和任务表示，可以实现高可移植性和参数高效传输到任意任务和语言。此外，我们还介绍了一种新的可逆适配器架构和一种强基线方法，用于将预训练的多语言模型适应新语言。MAD-X在命名实体识别和因果常识推理上跨一组典型的不同语言的跨语言迁移方面优于最先进的技术水平，并在问答上取得了有竞争力的结果。我们的代码和适配器可在AdapterHub.ml上获得
2020-10-06 cs.CL
Multilingual Language Model Pretraining using Machine-translated Data
Centre for Artificial Intelligence, University College London（伦敦大学学院人工智能中心）；Together AI；Mila, McGill University（米拉-麦吉尔大学）；Research and Development Center for Large Language Models, National Institute of Informatics（国立信息学研究所大语言模型研发中心）
本文提出将高质量英文数据集FineWeb-Edu机器翻译为九语构建TransWebEdu，并预训练TransWebLLM，以更少数据在多项非英语推理任务上达到或超越现有强模型。
2025-02-18 cs.CL
Language Models are Multilingual Chain-of-Thought Reasoners
Google Research（谷歌研究院）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；Stanford University（斯坦福大学）；Dartmouth College（达特茅斯学院）
我们评估的推理能力的大语言模型在多语种设置。我们引入了多语言小学数学（MGSM）基准，通过手动翻译GSM8K数据集的250个小学数学问题（Cobbe等人，2021年）分为10个不同类型的语言。我们发现，通过思维链提示解决MGSM问题的能力随着模型规模的增加而出现，并且模型具有非常强大的多语言推理能力，即使在孟加拉语和斯瓦希里语等代表性不足的语言中也是如此。最后，我们表明，多语言推理能力的语言模型扩展到其他任务，如常识推理和词的上下文语义判断。MGSM基准可在https://github.com/google-research/url-nlp上公开获得。
2022-10-06 cs.AI cs.CL cs.LG
Cross-Cultural Transfer of Commonsense Reasoning in LLMs: Evidence from the Arab World
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文研究大语言模型常识推理的跨文化迁移，通过在13个阿拉伯国家数据集上评估轻量级对齐方法，发现仅用12个文化特定示例即可平均提升10%性能，且非本文化示范可达到或超过本文化对齐效果，证明高效跨文化对齐可行。
2025-09-23 cs.AI cs.CL
FixMyPose: Pose Correctional Captioning and Retrieval
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
随着健康趋势的发展，人们对物理治疗和瑜伽/舞蹈等个人锻炼的兴趣也在增加。然而，如果没有专家的指导，这样的练习很难进行（这是不可能远程扩展到每个学员的个性化反馈）。因此，比以往任何时候都更需要自动姿态校正系统，我们引入了一个名为FixMyPose的新字幕数据集来满足这一需求。我们收集纠正“当前”姿势看起来像“目标”姿势的描述（英语和印地语）。所收集的描述具有有趣的语言特性，例如与环境对象的自我中心关系、类似参考等，需要对空间关系的理解和关于姿势的常识性知识。此外，为了避免ML偏见，我们在具有不同人口统计特征的角色之间保持平衡，这些角色在几个内部环境中执行各种运动（例如，家、办公室）。从我们的数据集，我们介绍了姿势校正字幕任务和它的反向目标姿势检索任务。在校正字幕任务期间，模型必须生成如何从当前移动到目标姿态图像的描述，而在检索任务中，模型应该在给定初始姿态和校正描述的情况下选择正确的目标姿态。我们提出了强大的交叉注意基线模型（单/多模式，RL，多语言），并表明我们的基线在其他图像差异数据集上进行评估时与其他模型具有竞争力。我们还提出了新的特定于任务的指标（对象匹配，身体部位匹配，方向匹配），并进行更可靠的评估人类评估，我们展示了一个很大的人类模型的性能差距，这表明有前途的未来工作的空间。为了验证我们的FixMyPose数据集的仿真到现实迁移，我们收集了一组真实图像，并在这些图像上显示…
2021-04-04 cs.AI cs.CL cs.CV
Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning
Cohere Labs（Cohere 实验室）；Cohere
本文提出通过数据混合优化SFT，构建Tiny Aya L2-Thinker模型，在60种语言上实现超93%的L2推理率，证明推理可跨语言泛化。
2026-09-10 cs.CL
Why We Build Local Large Language Models: An Observational Analysis from 35 Japanese and Multilingual LLMs
Institute of Science Tokyo（东京科学研究所）；National Institute of Advanced Industrial Science and Technology（国家先进工业科学与技术研究院）；NII LLMC（日本信息基础设施中心）
本研究通过评估35个LLM在19个基准上的表现，发现英语训练可提升日语学术能力，而日语训练仅对日语知识问答和翻译任务至关重要，且日语能力随计算预算缩放。
2025-10-16 cs.CL
Eliciting Better Multilingual Structured Reasoning from LLMs through Code
University of Pennsylvania（宾夕法尼亚大学）；AI Labs（AI实验室）
本文提出xSTREET多语言推理数据集，并通过代码注释增强训练和代码原语提示推理两种方法，有效缩小了LLM在非英语推理任务上的性能差距。
2024-06-12 cs.AI cs.CL
SeaEval for Multilingual Foundation Models: From Cross-Lingual Alignment to Cultural Reasoning
Nanyang Technological University（南洋理工大学）；Institute for Infocomm Research (IR), A*STAR（新加坡科技研究局信息通信研究所）；Centre for Frontier AI Research (CFAR), A*STAR（新加坡科技研究局前沿人工智能研究中心）
本研究提出多语言基础模型基准SeaEval，从语义、多语言脆弱性及文化理解等维度测试开源与闭源模型，发现模型存在指令改写敏感、暴露偏差、多语言表现不一致等问题，为多语言多文化模型研究提供评估基础。
2024-07-11 cs.AI cs.CL
CURE-Med: Curriculum-Informed Reinforcement Learning for Multilingual Medical Reasoning
University of Virginia（弗吉尼亚大学）；Indian Institute of Technology Patna（印度理工学院帕纳布分校）；Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）；MBZUAI（中东技术研究所）
本文提出CURE-MED框架，通过课程引导的强化学习提升多语言医学推理的逻辑正确性和语言稳定性，实验表明在13种语言上均优于基线模型，实现了高一致性与高正确率。
2026-04-26 cs.AI cs.CL
Does Cross-Cultural Alignment Change the Commonsense Morality of Language Models?
CyberAgent（赛博agent（CyberAgent））
该研究针对多语言模型常用英语偏好数据对齐可能边缘化非英语用户偏好的问题，以日语模型为对象，用JCM和ETHICS数据集评估英语资源对齐后的常识道德适配性，发现常识道德部分可跨文化迁移、部分不可。
2024-06-24 cs.AI cs.CL cs.CY
CausalAbstain: Enhancing Multilingual LLMs with Causal Reasoning for Trustworthy Abstention
Department of Computer Science, Hong Kong Baptist University（香港 Baptist 大学计算机科学系）；School of Mathematics and Statistics, The University of Melbourne（墨尔本大学数学与统计学学院）；School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算与信息系统学院）
本文提出CausalAbstain方法，从因果视角帮助多语言大语言模型选择有用反馈并改进弃权决策，在百科与常识问答基准上优于现有基线。
2025-06-03 cs.AI cs.CL
Plausibility as Commonsense Reasoning: Humans Succeed, Large Language Models Do not
University of Chicago（芝加哥大学）
研究探讨大语言模型是否能像人类一样在歧义解析中结合世界知识与句法结构。通过土耳其前置定语从句附着歧义，发现人类表现出显著的可解释性效应，而大语言模型则表现不一致。
2026-04-20 cs.AI cs.CL
Breaking Language Barriers: Equitable Performance in Multilingual Language Models
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；NSF Center for Computer Assisted Synthesis (CCAS), University of Notre Dame（国家科学基金会计算机辅助合成中心（CCAS）、诺特大学）；University of Notre Dame（诺特大学）
本文针对低资源语言中LLM常识推理性能不足的问题，提出在受控语码转换合成数据上微调LLM，并构建了基于CommonSenseQA的新数据集，实验证明该方法能显著提升低资源语言性能且不损害高资源语言表现。
2025-08-18 cs.AI cs.CL
BengaliMoralBench: A Benchmark for Auditing Moral Reasoning in Large Language Models within Bengali Language and Culture
North South University（北南大学）；Computational Intelligence and Operations Laboratory（计算智能与运营实验室）；Hanyang University（翰林大学）
本文提出BengaliMoralBench，一个针对孟加拉语和文化背景的道德推理评估基准，涵盖五个道德领域，通过三种伦理框架进行标注，评估不同模型的性能差异及文化适应性问题。
2026-04-18 cs.CL
Evaluating o1-Like LLMs: Unlocking Reasoning for Translation through Comprehensive Analysis
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）
本文综合评估多个类o1大语言模型的多语言翻译表现，分析模型规模、成本速度与温度参数的影响，发现DeepSeek-R1等模型建立新基准并兼具文化翻译优势。
2025-02-17 cs.CL
Few-shot Learning with Multilingual Language Models
Meta AI
大规模的生成语言模型，如GPT-3是有竞争力的Few-Shot学习器。虽然这些模型能够联合表示许多不同的语言，但它们的训练数据以英语为主，这可能限制了它们的跨语言泛化。在这项工作中，我们训练多语言生成语言模型上的语料库涵盖了不同的语言，并研究他们的少数和零样本学习能力在广泛的任务。我们拥有75亿个参数的最大模型在20多种代表性语言的少样本学习中开创了最新的技术水平，在多语言常识推理（0次设置中的绝对准确率提高了+7.4%，4次设置中提高了+9.4%）和自然语言推理（0次和4次设置中各提高了+5.4%）方面优于同等规模的GPT-3。在FLORES-101机器翻译基准测试中，我们的模型在182个方向中的171个方向上优于GPT-3，有32个训练样本，同时在45个方向上超过了官方监督基线。我们对不同的多语言提示方法进行了深入分析，特别是通过模板和演示示例，通过跨语言迁移可以实现跨语言的强少样本学习性能。最后，我们评估了我们的模型在社会价值的任务，如仇恨言论检测在五种语言，并发现它有类似的大小的GPT-3模型的局限性。
2022-11-10 cs.AI cs.CL
Language as a Latent Variable for Reasoning Optimization
Zhejiang University（浙江大学）
研究探讨语言作为潜在变量对推理性能的影响，提出polyGRPO框架通过多语言数据优化模型，提升推理准确率和跨任务泛化能力。
2026-04-23 cs.CL
Modelling Latent Translations for Cross-Lingual Transfer
Mila – Quebec Artificial Intelligence Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；Google Research（谷歌研究院）；University of Cambridge（剑桥大学）；Facebook（脸书）
虽然在多个任务和语言中实现了最先进的结果，但基于语法的跨语言迁移往往被忽视，而倾向于使用大量多语言预训练的编码器。可以说，这是由于它的主要局限性：1）翻译错误的分类阶段和2）最大似然翻译的表达能力不足。为了解决这个问题，我们提出了一种新的技术，通过将中间翻译视为潜在的随机变量，将传统管道的两个步骤（翻译和分类）集成到一个模型中。因此，1）神经机器翻译系统可以用最小风险训练的变体进行微调，其中奖励是下游任务分类器的准确性。此外，2）可以提取多个样本来近似推断期间所有可能翻译的预期损失。我们评估我们的新的潜在的基于推理的模型上的一系列多语言NLU任务，包括常识推理，释义识别，和自然语言推理。我们报告了zero-shot和少样本学习设置的增益，平均高达2.7个准确点，这对于低资源语言（例如，海地克里奥尔语）。最后，我们进行了深入的分析，比较不同的底层NMT模型，并评估替代翻译对下游性能的影响。
2021-07-23 cs.CL
Beyond English-Centric Training: How Reinforcement Learning Improves Cross-Lingual Reasoning in LLMs
Zhejiang University（浙江大学）；Westlake University（西湖大学）
本文系统比较 RL 与 SFT 对大语言模型跨语言推理的影响，发现 RL 准确率和泛化更强，且非英语 RL 训练效果优于英语训练。
2025-09-28 cs.CL
A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity
Centre for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；The Hong Kong University of Science and Technology（香港科技大学）
本文基于23个数据集和自建多模态数据集，系统评估ChatGPT的多任务、多语言、多模态能力，发现其在多数任务上优于零样本大语言模型，但推理可靠性不足且存在幻觉问题，同时验证了多轮提示工程可借助人类协作提升模型性能。
2023-11-28 cs.AI cs.CL
Sailor: Open Language Models for South-East Asia
Sea AI Lab（Sea AI实验室）；SUTD（新加坡科技设计大学）
Sailor 是基于 Qwen1.5 持续预训练的 0.5B 至 7B 开放语言模型系列，面向东南亚多语言场景，通过 BPE dropout、数据清洗去重和代理模型优化数据混合，在常识推理、问答、阅读理解和考试等任务上表现优异。
2024-04-04 cs.AI cs.CL
Figurative and Cultural Knowledge in LLMs: Investigating Cross-Domain Transfer through Fine-Tuning
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）
本研究通过在四款大语言模型上对阿拉伯文化类数据微调，发现诗歌微调可提升习语理解，文化微调则降低阿拉伯模型谚语理解，且跨领域迁移效果不佳。
2026-08-20 cs.CL
EENLP: Cross-lingual Eastern European NLP Index
Financial University of Russia（俄罗斯联邦政府财政金融大学）；MEPhI（莫斯科国立核研究大学）；University Politehnica of Bucharest（布加勒斯特理工大学）；University of Szeged（塞格德大学）；Notre Dame College, Dhaka（达卡圣母学院）；Mozaik Education（Mozaik教育）
由于东欧语言的NLP资源稀少，我们提出了一个现有东欧语言资源的广泛索引（90多个数据集和45多个模型），作为github存储库发布，供社区更新。此外，为了支持常识推理任务的评估，我们提供了手工制作的跨语言数据集的五个不同的语义任务（即新闻分类，释义检测，自然语言推理（NLI）任务，鸣叫情绪检测，新闻情绪检测）的一些东欧语言。我们在这些数据集上使用现有的多语言模型进行了几次实验，以定义性能基线，并将其与其他语言的现有结果进行比较。
2022-05-10 cs.AI cs.CL cs.NE
Is continuous CoT better suited for multi-lingual reasoning?
Lamarr Institute（拉马尔研究所）；Fraunhofer IAIS（弗劳恩霍夫人工智能研究所）；University of Bonn（波恩大学）
本文提出连续链式推理方法，证明其在多语言推理任务中优于传统方法，尤其在低资源语言和零样本设置中表现更优，同时显著提升推理效率。
2026-03-09 cs.AI cs.CL cs.LG
Crosslingual Reasoning through Test-Time Scaling
Brown University（布朗大学）；MBZUAI；Stanford University（斯坦福大学）；University of Tübingen（图宾根大学）；Capital One；Cohere Labs（Cohere实验室）
本文研究以英语为中心的推理语言模型通过测试时扩展实现跨语言泛化的潜力与机制，发现其能提升多语言数学推理、遵循“引用并思考”模式，并指出高资源语言推理更优而低资源及域外推理仍需改进。
2025-05-08 cs.AI cs.CL cs.LG
Fragile Mastery: Are Domain-Specific Trade-Offs Undermining On-Device Language Models?
Vedas College, Tribhuwan University（特里布万大学维达斯学院）；Madan Bhandari Memorial College, Tribhuwan University（特里布万大学马丹·班达里纪念学院）
本研究提出广义边缘模型（GEM），通过稀疏交叉注意力路由器平衡端侧语言模型的领域特化与跨领域泛化，并引入三个新指标揭示压缩强度与脆弱性的关联。
2025-03-16 cs.CL
