Tackling Ambiguity with Images: Improved Multimodal Machine Translation and Contrastive Evaluation
Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学)
本文提出一种基于强文本MT模型、神经适配器和引导式自注意力的多模态机器翻译方法,并构建对比式多语言多模态评估集CoMMuTE,在标准基准上取得有竞争力结果,在对比测试集上大幅超越现有MMT系统。
2023-05-26 cs.CL cs.CV
Improving Speech Emotion Recognition in Under-Resourced Languages via Speech-to-Speech Translation with Bootstrapping Data Selection
National Taiwan University(台湾大学);National Tsing Hua University(清华大学)
针对非英、中语言情感标注稀缺问题,提出用表达性 S2ST 与自举数据选择生成目标语言标注数据,提升多语言 SER 的跨模型与跨语言泛化性能。
2025-01-07 cs.CL cs.SD eess.AS
MERIT: Multilingual Expert-Reward Informed Tuning for Chinese-Centric Low-Resource Machine Translation
Xi’an Jiaotong-Liverpool University(西交利物浦大学)
针对中文到低资源东南亚语言的机器翻译,MERIT框架通过语料预处理和奖励引导优化,显著提升了翻译质量,优于单纯模型扩展。
2026-04-06 cs.CL
CROP: Zero-shot Cross-lingual Named Entity Recognition with Multilingual Labeled Sequence Translation
Microsoft Research Asia(微软亚洲研究院);The University of Hong Kong(香港大学);Beihang University(北京航空航天大学)
命名实体识别(NER)面临着标注训练数据缺乏的问题,特别是对于没有标注数据的低资源语言。跨语言NER已经被提出来通过经由对齐的跨语言表示或机器翻译结果将知识从高资源语言转移到低资源语言来缓解这个问题。然而,跨语言NER方法的性能受到翻译或标签投影质量不理想的严重影响。为了解决这些问题,我们提出了一个跨语言实体投影框架(CROP),使zero-shot跨语言NER的帮助下,多语言标记序列翻译模型。具体地,目标序列首先被翻译成源语言,然后由源NER模型标记。我们进一步采用标记序列翻译模型,将标记序列映射回目标语言,并标记目标原始句子。最终,整个管道通过自我训练的方式集成到端到端模型中。两个基准测试的实验结果表明,我们的方法大大优于以前的强基线+3 7 F1分数的大幅度,并实现了最先进的性能。
2022-10-13 cs.CL
Cross-Lingual Auto Evaluation for Assessing Multilingual LLMs
Nilekani Centre at AI4Bharat(AI4Bharat 奈尔肯中心);IIT Madras(印度理工学院马德拉斯分校);New York University(纽约大学);Microsoft(微软);National Institute of Information and Communications Technology, Kyoto, Japan(京都国立信息与通信技术研究所)
本文提出跨语言自动评测套件CIA Suite,包括评估模型Hercule和测试集Recon,通过利用英语参考答案实现低资源多语言评估,实验表明其与人工判断一致性优于专有模型。
2025-07-18 cs.CL
Compass: Large Multilingual Language Model for South-east Asia
Shopee(虾皮)
针对东南亚低资源语言大模型效果不佳的问题,提出专为东南亚定制的多语言大模型CompassLLM,通过多阶段课程预训练、指令微调与DPO对齐,在多任务上超越多个基准模型。
2024-04-14 cs.CL
EMMA-X: An EM-like Multilingual Pre-training Algorithm for Cross-lingual Representation Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Machine Intelligence Technology Lab, Alibaba DAMO Academy(阿里巴巴达摩院机器智能技术实验室)
本文提出类EM多语言预训练算法EMMA-X,通过在海量非平行语料上统一跨语言表示学习与语义关系预测任务并相互监督,在XRETE基准上取得最先进性能。
2023-10-26 cs.CL
Romanization-based Large-scale Adaptation of Multilingual Language Models
Technical University of Darmstadt(达姆施塔特工业大学);Google Research(谷歌研究院);University of Cambridge(剑桥大学)
本文提出利用UROMAN工具对多语言预训练语言模型进行大规模罗马化适配,在14种低资源语言上验证了其在未见文字和有限数据场景下的有效性,并表明基于罗马化数据的分词器在多数语言中优于非音译方法。
2023-04-18 cs.CL cs.LG
CUTE: A Multilingual Dataset for Enhancing Cross-Lingual Knowledge Transfer in Low-Resource Languages
Minzu University of China(中国民族大学);National Language Resource Monitoring & Research Center Minority Languages Branch(国家语言资源监测与研究中心少数民族语言分中心)
本文构建并开源了包含中、英、维吾尔、藏四语的大规模语料库CUTE,验证了其机器翻译质量,并证明该数据集能有效提升大语言模型对低资源语言的处理能力。
2025-09-21 cs.CL
The Annotation Scarcity Paradox in Low-Resource NLP Evaluation: A Decade of Acceleration and Emerging Constraints
DSFSI & AfriDSAI, University of Pretoria(DSFSI与AfriDSAI, Pretoria大学)
本文探讨了低资源NLP评估中由于标注资源不足导致的矛盾,分析了过去十年中评估方法的发展阶段,并提出了新的解决方案以提升评估的公平性和有效性。
2026-07-01 cs.CL
Dataset Scarcity Limits Robust Evaluation of Multilingual Embedding Models: A Case Study of Slavic Languages
Jožef Stefan Institute(约热夫·斯泰凡研究所)
该研究针对多语言嵌入模型评估不均衡问题,提出二维分析框架并应用于斯拉夫语言子集,发现基准测试稀疏性严重,确定了高可迁移性模型,强调需结合证据强度解读结论。
2026-08-26 cs.CL
Scalable Multilingual Multimodal Machine Translation with Speech-Text Fusion
Harbin Institute of Technology(哈尔滨工业大学);Pengcheng Laboratory(鹏城实验室)
本文提出一种语音引导的机器翻译框架,通过融合语音和文本提升多语言翻译性能,并在多个基准上取得新突破。
2026-03-03 cs.CL
BETA-Labeling for Multilingual Dataset Construction in Low-Resource IR
Wichita State University(威奇托州立大学);Begum Rokeya University, Rangpur(朗普尔贝古姆·罗凯亚大学);Khulna University of Engineering & Technology(库尔纳工程技术大学);Ulster University(阿尔斯特大学)
本文提出BETA-标注框架构建低资源语言信息检索数据集,探讨跨语言数据集重用的可行性和风险,揭示语言依赖性偏差对数据集可靠性的影响。
2026-09-09 cs.AI cs.CL
WADER at SemEval-2023 Task 9: A Weak-labelling framework for Data augmentation in tExt Regression Tasks
Netaji Subhas University of Technology(内塔吉·苏巴斯理工大学);Northeastern University(东北大学)
亲密关系是人际关系的重要组成部分,语言是表达亲密关系的重要手段,文本亲密关系分析可以揭示不同语境下的社会规范,并作为测试计算模型理解社会信息能力的基准。在本文中,我们提出了一种新的弱标记策略,用于文本回归任务中的数据增强,称为WADER。WADER使用数据增强来解决数据不平衡和数据稀缺的问题,并提供了一种跨语言、zero-shot任务的数据增强方法。我们使用WADER对最先进的预训练多语言语言模型的性能进行了基准测试,并分析了抽样技术的使用,以减轻数据中的偏差并最佳地选择增强候选者。我们的研究结果表明,WADER优于基线模型,并为减轻文本回归任务中的数据不平衡和稀缺性提供了方向。
2023-03-05 cs.CL cs.LG
Adapting Where It Matters: Depth-Aware Adaptation for Efficient Multilingual Speech Recognition in Low-Resource Languages
The University of Melbourne(墨尔本大学)
DAMA通过深度感知适应框架,针对不同层的适应需求优化参数,实现低资源语言高效多语言语音识别。
2026-02-01 cs.CL cs.SD eess.AS
Translate, then Detect: Leveraging Machine Translation for Cross-Lingual Toxicity Classification
FAIR at Meta(Meta 的 FAIR 研究院);University College London(伦敦大学学院);University of the Basque Country (UPV/EHU)(巴斯克大学)
本文系统比较了基于翻译与语言专用/多语言的毒性分类流程,发现先翻译后分类在多数语言中更优,且传统分类器优于LLM评判器,为多语言内容审核提供了实用指导。
2025-09-17 cs.CL
A Comprehensive Understanding of Code-mixed Language Semantics using Hierarchical Transformer
IIIT-Delhi(德里印度理工学院)
语码混用作为一种流行于多语言社区的文本交际模式,已成为网络社会媒体中的一个重要研究课题。由于数据的稀缺性和缺乏鲁棒的语言不变的表示学习技术,混合语言的语义和形态学习仍然是一个关键的挑战。任何形态丰富的语言都可以从字符、子词和词级嵌入中受益,帮助学习有意义的相关性。在本文中,我们探讨了一个层次化的基于转换器的架构(HIT),学习代码混合语言的语义。HIT由多头自我注意和外积注意组成,可以同时理解语码混合文本的语义和句法结构。我们评估了6种印度语言(孟加拉语,古吉拉特语,印地语,泰米尔语,泰卢固语和马拉雅拉姆语)和西班牙语在17个数据集上的9个NLP任务所提出的方法。HIT模型在所有任务中的表现都优于最先进的代码混合表示学习和多语言语言模型。我们使用基于掩码语言建模的预训练、零样本学习和迁移学习方法进一步证明了HIT架构的可推广性。我们的实证结果表明,预训练目标显着提高下游任务的性能。
2022-04-27 cs.CL
CLIPTrans: Transferring Visual Knowledge with Pre-trained Models for Multimodal Machine Translation
Boston College(波士顿学院);BITS Pilani(贝拉理工学院皮拉尼校区);Microsoft India(微软印度);Harvard University(哈佛大学)
提出CLIPTrans,利用预训练多模态M-CLIP和多语言mBART,通过轻量映射网络对齐嵌入空间,两阶段训练,在MMT基准上平均提升+2.67 BLEU。
2023-08-29 cs.AI cs.CL cs.CV
Multilingual Pre-training with Language and Task Adaptation for Multilingual Text Style Transfer
University of Groningen(格罗宁根大学)
我们利用预先训练的seq2seq模型mBART进行多语言文本样式传输。使用机器翻译的数据以及黄金对齐的英语句子在我们考虑的三种目标语言中产生了最先进的结果。此外,鉴于并行数据的普遍稀缺性,我们提出了一个模块化的方法,多语言正式迁移,其中包括两个培训策略,目标适应语言和任务。我们的方法实现了竞争力的表现,没有单语任务特定的并行数据,并可以应用到其他风格转移任务以及其他语言。
2022-03-16 cs.CL
Analysis of Multi-Source Language Training in Cross-Lingual Transfer
Hanyang University(汉阳大学);Sony AI(索尼人工智能)
本文研究跨语言迁移(XLT)的内部机制,提出多源语言训练(MSLT)技术,发现其能增加不同语言嵌入空间的混合以利用语言无关信息,并提出启发式方法识别有效语言组合以提升性能。
2024-06-05 cs.CL
Cross-Lingual Transfer for Low-Resource Natural Language Processing
EUSKAL HERRIKO UNIBERTSITATEA(巴斯克大学)
本论文研究低资源语言的跨语言迁移学习,提出T-Projection标注投影方法和约束解码算法以提升序列标注性能,并开发了首个多语言医学模型Medical mT5。
2025-02-04 cs.CL
SumTra: A Differentiable Pipeline for Few-Shot Cross-Lingual Summarization
University of Technology Sydney(悉尼科技大学);RoZetta Technology(罗泽塔科技公司)
本文提出一种端到端可微的“先摘要后翻译”流水线SumTra,通过复用单语资源实现卓越的跨语言摘要零样本性能,并在仅用10%微调样本时于多语言上超越基线。
2024-03-20 cs.CL
A Data Selection Approach for Enhancing Low Resource Machine Translation Using Cross-Lingual Sentence Representations
SCTR’s Pune Institute of Computer Technology(SCTR浦那计算机技术学院);Indian Institute of Technology Madras(印度马德拉斯理工学院);L3Cube Labs(L3Cube实验室)
本文针对英语-马拉地语低资源机器翻译中数据噪声问题,提出基于IndicSBERT跨语言句子表示的数据过滤方法,通过语义等价性评估筛选训练数据,显著提升了翻译质量,并为其他低资源语言翻译任务提供了可借鉴的框架。
2024-09-04 cs.CL cs.LG
Synthetic Data Generation and Joint Learning for Robust Code-Mixed Translation
Washington Post(华盛顿邮报);IIIT Delhi(德里 Indraprastha 信息技术学院);IIT Delhi(印度理工学院德里分校);Microsoft India(微软印度)
本文针对代码混合语言到英语的翻译问题,构建了约420万句对的Hinglish-English平行语料库HINMIX,并提出基于鲁棒扰动的联合训练模型RCMT,通过参数共享处理噪声,在Hinglish和零样本Bengalish翻译任务上均优于现有方法。
2024-04-29 cs.CL cs.LG
Relevance-guided Neural Machine Translation
Boston University(波士顿大学)
本文提出一种基于可解释性的神经机器翻译训练方法,在低资源条件下对法语、古吉拉特语和哈萨克语与英语互译进行无监督和有监督训练,实验表明该方法优于简单基线,为后续探索奠定基础。
2023-11-30 cs.CL
Parallel Corpora for Machine Translation in Low-resource Indic Languages: A Comprehensive Review
Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);Boston University(波士顿大学);Santa Clara University(圣克拉拉大学)
本文首次系统评述低资源印度语言机器翻译的平行语料库,分类梳理现有资源,分析创建挑战与开放问题,并提出跨语言学习等未来方向。
2025-04-22 cs.CL cs.LG
Multilingual Transformer Language Model for Speech Recognition in Low-resource Languages
Microsoft(微软)
训练和部署Transformer LM用于低资源语言的混合语音识别第二遍重新排序是具有挑战性的,这是由于(1)低资源语言的数据稀缺,(2)训练和刷新100多个单语模型的昂贵计算成本,以及(3)考虑到稀疏流量,托管效率低下。在这项研究中,我们提出了一种新的方法来组多个低资源的地区在一起,并优化性能的多语言Transformer LM在ASR。我们的本地组多语言Transformer LM在降低维护成本和运营费用方面优于传统的多语言LM。此外,对于低资源,但高流量的地区,部署单语模型是可行的,我们表明,微调我们的本地组多语言LM产生更好的单语LM候选人比基线单语LM。
2022-09-08 cs.CL
MUST: A Multilingual Student-Teacher Learning approach for low-resource speech recognition
University of Sheffield(谢菲尔德大学)
本文提出MUST多语言学生-教师学习方法,通过后验概率映射克服知识蒸馏中字符集不一致的限制,利用教师集成训练低资源语音识别模型,使相对字符错误率最多降低9.5%。
2023-10-29 cs.CL cs.SD eess.AS
Speech-MASSIVE: A Multilingual Speech Dataset for SLU and Beyond
University of Trento(特伦托大学);NAVER LABS Europe(NAVER欧洲实验室);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
本文构建涵盖12种语言的多模态多任务数据集 Speech-MASSIVE,支持 SLU 基线评测及语音转写、语言识别、语音翻译等任务。
2024-08-07 cs.CL cs.SD eess.AS
mPMR: A Multilingual Pre-trained Machine Reader at Scale
The Chinese University of Hong Kong(香港中文大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
提出mPMR方法,通过MRC风格预训练直接继承多语言NLU能力至下游任务,提供统一求解器处理跨语言片段抽取与序列分类,并抽取依据解释分类过程。
2023-05-23 cs.CL
NaijaS2ST: A Multi-Accent Benchmark for Speech-to-Speech Translation in Low-Resource Nigerian Languages
Mila - Quebec AI Institute(魁北克人工智能研究所);McGill University(麦吉尔大学);Google DeepMind(谷歌DeepMind);Hausa NLP(豪萨自然语言处理);Imperial College(帝国理工学院);University of Pretoria(南非彼得里亚大学);Masakhane NLP(马萨坎自然语言处理);Naijá Wikipedia Community(尼日利亚维基百科社区);Canada CIFAR AI Chair(加拿大CIFAR人工智能主席)
针对低资源非洲语言语音翻译数据稀缺问题,构建了涵盖伊博语、豪萨语、约鲁巴语和尼日利亚皮钦语的平行语音数据集NaijaS2ST(每语种约50小时),并系统评估了级联、端到端及音频大模型方法,发现少样本音频大模型在语音到文本翻译中更优,而语音到语音翻译中所有范式性能相近。
2026-10-14 cs.SD
GigaAM Multilingual: Foundation Model for Underrepresented Languages
SaluteDevices, Russia(SaluteDevices)
针对多语言ASR中长尾语言数据稀缺问题,提出GigaAM Multilingual,用Conformer编码器在大量音频上预训练,预训练时引入聚类级数据平衡策略,微调时采用领域感知采样方法,在目标语言上优于其他编码器,发布相关模型提供多语言适应方法。
2026-07-14 cs.CL eess.AS
A Comparison of Architectures and Pretraining Methods for Contextualized Multilingual Word Embeddings
ILLC, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)
在多语言自然语言处理(NLP)领域中,缺乏许多语言的注释数据是一个众所周知的挑战。因此,最近的许多研究集中在zero-shot迁移学习和跨语言的联合训练,以克服低资源语言的数据稀缺性。在这项工作中,我们(i)执行命名实体识别(NER)和词性(POS)标记任务的最先进的多语言单词和句子编码器的全面比较;和(ii)提出了一种新的方法,用于创建多语言上下文词嵌入,将其与多个基线进行比较,并显示它在zero-shot传输设置中的最先进水平或以上。最后,我们表明,我们的方法可以更好地在联合培训设置跨语言的知识共享。
2019-12-15 cs.CL
XLTime: A Cross-Lingual Knowledge Transfer Framework for Temporal Expression Extraction
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Dataminr Inc.(Dataminr公司);Walmart Global Tech(沃尔玛全球科技);Beihang University(北京航空航天大学)
时态表达式提取(TEE)是理解自然语言中时间的关键。它在自然语言处理(NLP)任务中有应用,如问答、信息检索和因果推理。到目前为止,这一领域的工作主要集中在英语上,因为其他语言的标记数据很少。我们提出了XLTime,一个新的多语言TEE框架。XLTime基于预先训练的语言模型,并利用多任务学习来促进英语和非英语语言之间的跨语言知识转移。XLTime解决了由于目标语言中的数据不足而导致的问题。我们应用XLTime与不同的语言模型,并表明它优于以前的自动SOTA方法对法语,西班牙语,葡萄牙语和巴斯克语,由大利润率。XLTime还大大缩小了手工制作的HeidelTime方法的差距。
2022-05-03 cs.CL cs.LG
Non-Linear Pairwise Language Mappings for Low-Resource Multilingual Acoustic Model Fusion
University of Sheffield(谢菲尔德大学)
多语言语音识别作为一种有效的方法来弥补低资源语言的数据不足,已经引起了人们的极大关注。端到端(e2 e)建模优于传统的混合系统,主要是因为没有词典要求。然而,在有限的数据场景中,混合DNN-Hacking仍然优于e2 e模型。此外,手动词典创建的问题已经通过许多语言的字素到音素(G2 P)和文本到IPA音译的公开可用的训练模型得到缓解。本文提出了一种新的混合DNN-HMM声学模型融合的方法,在一个多语言的低资源的语言设置。针对目标语言语音信号,将来自不同单语声学模型的后验分布融合在一起。为每个源-目标语言对训练单独的回归神经网络,以将后验从源声学模型转换为目标语言。与ASR训练相比,这些网络需要非常有限的数据。与多语言和单语言基线相比,后路融合分别产生了14.65%和6.5%的相对增益。跨语言的模型融合表明,可比的结果可以实现不使用后验的语言相关的ASR。
2022-07-07 cs.CL eess.AS
Sometin Beta Pass Notin: Improving Multilingual ASR for Nigerian Languages via Knowledge Distillation
Nigerian Languages(尼日利亚语言)
本文提出SBPN模型,通过两阶段知识蒸馏方法提升尼日利亚多种语言的语音识别性能,显著降低词错误率并优于现有多语言模型。
2026-09-29 cs.CL eess.AS
Parameter-efficient Adaptation of Multilingual Multimodal Models for Low-resource ASR
Indian Institute of Technology Bombay(印度孟买印度理工学院)
本文研究在低资源ASR中结合参数高效微调与纯文本适配,利用SeamlessM4T多模态模型实现跨语言迁移,在零样本设置下相对基线最高降低17% WER。
2024-10-17 cs.AI cs.CL cs.LG
Towards Truly Multilingual ASR: Generalizing Code-Switching ASR to Unseen Language Pairs
University of Tokyo(东京大学)
通过模型合并和领域泛化方法,研究从有限语言对中学到的代码切换能力能否泛化到未见语言对,实验表明双语CS-ASR模型对未见语言对有一定泛化能力但有限。
2026-06-19 cs.CL eess.AS
Text Generation Models for Luxembourgish with Limited Data: A Balanced Multilingual Strategy
University of Luxembourg(卢森堡大学);Lancaster University(兰卡斯特大学)
本文针对卢森堡语数据稀缺问题,提出基于T5架构并结合等量德语和法语数据的平衡多语言文本生成模型,并引入首个卢森堡语文本生成基准LuxGen进行评估。
2024-12-20 cs.CL
Enhancing Indonesian Automatic Speech Recognition: Evaluating Multilingual Models with Diverse Speech Variabilities
Institut Teknologi Bandung(万隆理工学院);University of Indonesia(印度尼西亚大学);Japan Advanced Institute of Science and Technology(日本先进科学技术学院);Nara Institute of Science and Technology(奈良科学技术大学)
本研究评估了MMS和Whisper等多语言模型在多样语音变异性下的印尼语ASR能力,发现微调的Whisper模型表现最佳,且说话风格变异性对模型性能影响最大。
2024-10-14 cs.CL cs.SD eess.AS
Zero-shot Sentiment Analysis in Low-Resource Languages Using a Multilingual Sentiment Lexicon
MBZUAI(穆罕默德·本·扎耶德人工智能大学);Technical University of Darmstadt(达姆施塔特工业大学);The University of Melbourne(墨尔本大学)
本文提出利用多语言词典预训练,在不使用句子级情感数据的情况下,提升低资源语言的零样本情感分析性能,并在34种语言上优于微调模型和大型语言模型。
2024-02-03 cs.CL
A Unified Speech LLM for Diarization and Speech Recognition in Multilingual Conversations
Institute of Science Tokyo(东京科学研究所)
本文提出一种统一语音大语言模型,以端到端方式联合执行多语言对话中的说话人分离与语音识别,通过重构训练数据格式和推理流程,在 MLC-SLM Challenge 任务 II 上较基线实现 54.87% 的相对改进。
2025-06-26 cs.AI cs.CL cs.SD
Multilingual KokoroChat: A Multi-LLM Ensemble Translation Method for Creating a Multilingual Counseling Dialogue Dataset
本文提出多LLM集成翻译方法,通过翻译日文咨询语料库KokoroChat生成多语言咨询对话数据集,验证了该方法在翻译质量上的优越性。
2026-04-06 cs.CL
One-To-Many Multilingual End-to-end Speech Translation
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Trento(特伦托大学)
如今,训练用于口语翻译(口语翻译)的端到端神经模型仍然必须面对极端的数据稀缺条件。与自动语音识别(ASR)和机器翻译(MT)等密切相关的任务相比,现有的并行语料库确实小了几个数量级,这些任务通常包括数千万个实例。为了应对数据匮乏,在本文中,我们探讨了迁移学习在端到端的学习任务的多语言方法的有效性。多语言解决方案在机器翻译中得到了广泛的研究,通常依赖于"\textit{target forcing}“,其中多语言并行数据通过在输入序列前添加指定目标语言的语言标记来组合以训练单个模型。然而,当在语音翻译中进行测试时,我们的实验表明,MT类\textit{target forcing},按原样使用,是不能有效地区分目标语言。因此,我们提出了一个变体,使用目标语言嵌入来根据语言在空间的不同部分中移动输入表示,以便更好地支持所需目标语言的输出。我们对从英语到六种语言的端到端翻译的实验表明,在翻译成类似语言时,特别是在这些数据不足的情况下,有了重要的改进。当使用英语ASR数据作为附加语言(最高达$+2.5$ BLEU点)时,可获得进一步的改进。
2019-10-08 cs.CL eess.AS
VFA: Empowering Multilingual MLLMs via Vision-Free Adaptation
Southern University of Science and Technology(南方科技大学);Microsoft Research Asia(微软亚洲研究院);Shanghai University of Finance and Economics(上海财经大学);Peking University(北京大学)
本研究针对多模态大语言模型的英语中心化问题,提出VFA框架,通过组合任务向量实现多语言增强与视觉对齐解耦,仅用少量数据就提升了多语言模型性能并保留原有能力。
2026-08-28 cs.AI cs.CL
Turning Speech Language Models into Multilingual Listeners
针对语音语言模型多语言能力不足的问题,提出大规模合成数据集MULTISPEECHQA和基准MULTISPEECH-BENCH,通过微调Qwen 2.5-Omni提升性能,证明合成数据是廉价有效的解决方案。
2026-09-29 cs.CL
No Optimal Language Set Exists for Multilingual Instruction Tuning: Insights from a Linguistically-Informed Study
Wageningen University and Research(瓦赫宁根大学与研究中心);Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学);Koç University(科克大学);KUIS AI Lab(KUIS人工智能实验室)
研究多语言指令微调中语言集选择问题,通过评估基于多种特征的语言信息选择策略与随机基线对比,发现固定预算下无通用语言选择策略,性能因任务和模型而异,超阈值加语言会致性能下降,还讨论了相关影响和评估陷阱。
2026-07-28 cs.CL cs.LG
CONAN -- COunter NArratives through Nichesourcing: a Multilingual Dataset of Responses to Fight Online Hate Speech
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Trento(特伦托大学)
尽管在法律和政策方面做出了前所未有的努力,以充分应对社交媒体平台上的仇恨内容,但处理网上仇恨仍然是一个棘手的问题。以删除内容或暂停用户的标准方式处理仇恨言论可能会被指控审查和过度封锁。另一种策略,到目前为止研究界很少关注,是用反叙事(即知情的文本回应)来反对仇恨内容。在本文中,我们描述了第一个大规模,多语言,基于专家的仇恨言论/反叙事对数据集的创建。这个数据集是由来自三个不同非政府组织的100多名操作员努力建立的,他们将自己的培训和专业知识应用于这项任务。与收集的数据一起,我们还提供了关于专家人口统计学,仇恨和反应类型的额外注释,以及通过翻译和释义的数据增强。最后,我们提供了初步的实验来评估我们的数据的质量。
2019-10-08 cs.CL cs.CY
UniCoM: A Universal Code-Switching Speech Generator
Dept. of Electrical & Electronic Engineering, Yonsei University(电子与电气工程系,延世大学)
本文提出通用语码混合器UniCoM及SWORDS算法,通过词性感知的翻译替换生成自然语码转换语音,并构建CS-FLEURS数据集,在ASR和S2TT任务上表现与现有数据集相当。
2025-08-21 cs.CL cs.SD eess.AS
SONAR-SLT: Multilingual Sign Language Translation via Language-Agnostic Sentence Embedding Supervision
German Research Center for Artificial Intelligence (DFKI GmbH)(德国人工智能研究中心(DFKI GmbH));Saarland Informatics Campus(萨尔兰信息技术校区);Barcelona Supercomputing Center (BSC-CNS)(巴塞罗那超级计算中心(BSC-CNS))
本文提出SONAR-SLT,利用语言无关多模态嵌入监督手语翻译,结合耦合增强方法,实现直接多语言翻译并在低资源下提升BLEURT性能。
2025-10-22 cs.CL
Multilingual Hate Speech Detection and Counterspeech Generation: A Comprehensive Survey and Practical Guide
Bilkent University(比尔肯特大学);Missouri University of Science and Technology(密苏里科技大学)
本文综述并指导多语言仇恨言论检测与反仇恨言论生成,分析单语言系统在非英语和混合语言环境中的不足,提出三阶段框架,整合最新NLP进展,强调数据稀缺、公平性与多模态解决方案。
2026-03-01 cs.CL
Trans-Zero: Self-Play Incentivizes Large Language Models for Multilingual Translation Without Parallel Data
National Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家实验室,南京大学);ByteDance Research(字节跳动研究)
针对多语言机器翻译依赖平行数据、低资源语言数据稀缺及灾难性遗忘问题,提出结合G-MCTS与偏好优化的自博弈框架TRANS-ZERO,仅用单语数据就达到媲美有监督方法的性能,且在非英语翻译方向表现优异。
2025-05-17 cs.CL
SynthDetoxM: Modern LLMs are Few-Shot Parallel Detoxification Data Annotators
AIRI;Skoltech(斯克里普挑战学院);Sber AI;ISP RAS Research Center for Trusted AI(俄罗斯科学院可信人工智能研究中心)
本文提出SynthDetoxM多语言并行去毒化数据集,利用九个开源大语言模型在少样本设置下生成16,000个高质量句子对,实验证明其训练效果优于人工标注数据集和所有被评估的大语言模型。
2025-02-10 cs.CL
ControlAudio: Tackling Text-Guided, Timing-Indicated and Intelligible Audio Generation via Progressive Diffusion Modeling
Tsinghua University(清华大学);Shengshu AI(盛舒AI);University of Science and Technology of China(中国科学技术大学);Monash University(墨尔本大学)
ControlAudio通过多任务学习和渐进扩散建模,实现文本、时间及音素特征的精细控制,提升音频生成的时序精度和语音清晰度,达到当前最优水平。
2026-04-20 cs.AI cs.CL cs.SD