Evaluating DisCoCirc in Translation Tasks & its Limitations: A Comparative Study Between Bengali & English
University of Oxford(牛津大学)
本文扩展DisCoCirc框架至孟加拉语并应用于英孟互译,重新评估其减少语言冗余的效果,发现因语言结构差异存在局限性,即使简单句也难处理,还探讨了英语连词与布尔逻辑的联系。
2025-11-02 cs.CL
No Rumours Please! A Multi-Indic-Lingual Approach for COVID Fake-Tweet Detection
Dept. of CSE IIT Kharagpur, India(印度 IIT 卡哈拉格普尔分校计算机科学与工程系);Dept. of CSE IIIT Delhi, India(印度德里信息技术学院计算机科学与工程系);IBM Research Bangalore, India(印度班加罗尔 IBM 研究院)
当前全球大流行的COVID-19造成的突然广泛威胁对我们的生活产生了前所未有的影响。人类正在经历前所未有的巨大恐惧和对社交媒体的依赖。恐惧不可避免地导致恐慌、猜测和错误信息的传播。许多政府为了公众的福祉采取了措施来遏制这种错误信息的传播。除了全球措施外,为了有效地推广,人口统计学上的地方语言系统在这一努力中也可发挥重要作用。为此,我们提出了一种方法,可以从社交媒体(如推文)中早期检测出关于COVID-19的假新闻,适用于除英语之外的多种索引语言。此外,我们还创建了印地语和孟加拉语推文的注释数据集,用于假新闻检测。我们提出了一个基于BERT的模型,增加了从Twitter中提取的其他相关特征,以识别假推文。为了将我们的方法扩展到多种印度语言,我们采用了基于mBERT的模型,该模型在印地语和孟加拉语中创建的数据集上进行了微调。我们还提出了一种零样本学习方法来缓解这种低资源语言的数据稀缺问题。通过严格的实验,我们表明,我们的方法在虚假推文检测中达到了89%左右的F-Score,优于最先进的(SOTA)结果。此外,我们还为两种印度语,印地语和孟加拉语建立了第一个基准。使用我们的注释数据,我们的模型在印地语中实现了约79%的F-Score,在孟加拉语推文中实现了81%的F-Score。我们的zero-shot模型在没有任何注释数据的情况下,在印地语中实现了约81%的F-Score,在孟加拉语推…
2020-10-14 cs.CL cs.LG cs.SI
Cross-Lingual Probing and Community-Grounded Analysis of Gender Bias in Low-Resource Bengali
Department of Computer Science(计算机科学系);AIUB, Dhaka, Bangladesh;Department of Information Technology(信息科技系);Wilmington University, Delaware, USA;WUST, Virginia, USA;Faculty of Information Science(信息科学系);Technology Multimedia University, Melaka, Malaysia(技术多媒体大学, Melaka, Malaysia);Centre for Intelligent Cloud Computing(智能云计算中心)
本研究通过跨语言探测和社区导向分析,揭示了孟加拉语中性别偏见的特征,强调需本地化方法和社区参与以减少偏见。
2026-01-25 cs.AI cs.CL
HIT: A Hierarchically Fused Deep Attention Network for Robust Code-mixed Language Representation
Optum Global Advantage (UnitedHealth Group)(Optum Global Advantage(联合健康集团));IIIT-Delhi(德里英迪拉·甘地信息技术学院)
理解资源稀缺的语码混合文本的语言学和形态学仍然是文本处理的一个关键挑战。虽然词嵌入可以方便地支持低资源语言的下游任务,但在提高语言表示的质量方面还有很大的空间,特别是对于代码混合语言。在本文中,我们提出了HIT,一个强大的表示学习方法的代码混合文本。HIT是一个基于层次转换器的框架,它捕获单词之间的语义关系,并使用融合的注意力机制分层学习单词级语义。HIT包含两个注意力模块,一个多头自我注意力和一个外积注意力模块,并计算它们的加权和以获得注意力权重。我们对一种欧洲(西班牙语)和五种印度语(印地语,孟加拉语,泰米尔语,泰卢固语和马拉雅拉姆语)的HIT在11个数据集上的四个NLP任务的评估表明,与各种最先进的系统相比,性能有了显着的提高。我们进一步展示了在迁移学习设置(有和没有微调)中学习到的表示在任务之间的适应性。
2021-05-30 cs.CL
Emotion Classification in a Resource Constrained Language Using Transformer-based Approach
Chittagong University of Engineering & Technology(吉大港工程与技术大学)
虽然情感分类的研究在高资源语言中取得了显着进展,但对于孟加拉语等资源受限的语言来说,这仍然是一个起步阶段。然而,缺乏必要的语言处理工具和基准语料库的不足,使得孟加拉语的情感分类任务更具挑战性和复杂性。这项工作提出了一种基于transformer的技术,将孟加拉语文本分类为六种基本情绪之一:愤怒,恐惧,厌恶,悲伤,喜悦和惊讶。孟加拉语情感语料库由6243文本的分类任务。使用各种机器学习(LR、RF、MNB、SVM)、深度神经网络(CNN、BiLSTM、CNN+BiLSTM)和基于Transformer(Bangla-BERT、m-BERT、XLM-R)的方法进行实验。实验结果表明,XLM-R通过在测试数据上实现最高加权$f_1$ -评分$69.73\%$而优于所有其他技术。该数据集可在https://github.com/omar-sharif03/NAACL-SRW-2021上公开获得。
2021-04-17 cs.CL
IndicIRSuite: Multilingual Dataset and Neural Information Models for Indian Languages
IIT Bombay(印度理工学院孟买分校)
该研究推出面向11种印度语言的神经信息检索资源套件IndicIRSuite,包含多语言数据集INDIC-MARCO与11个单语检索模型Indic-ColBERT,实验验证其在多个基准上取得显著性能提升,填补了印度语言大规模神经IR资源的空白。
2023-12-15 cs.CL cs.IR
Cost-Efficient Cross-Lingual Retrieval-Augmented Generation for Low-Resource Languages: A Case Study in Bengali Agricultural Advisory
Dept. of Computer Science and Engineering(计算机科学与工程系);East West University(东-西大学)
本文提出了一种低成本的跨语言检索增强生成框架,用于孟加拉语农业咨询,通过翻译和领域关键词注入提升生成质量,实现低资源语言下的高效农业知识访问。
2026-01-05 cs.AI cs.CL
Cross-Linguistic Offensive Language Detection: BERT-Based Analysis of Bengali, Assamese, & Bodo Conversational Hateful Content from Social Media
LUT University(拉彭兰塔理工大学);University of Oulu(奥卢大学);University of Helsinki(赫尔辛基大学)
针对社交媒体多语言仇恨言论检测问题,研究基于多种BERT模型开展HASOC-2023任务4的孟加拉语、阿萨姆语、博多语仇恨内容检测,发现XML-Roberta-large多数场景优于单语模型,团队在对应赛道取得第三、第五名的成绩。
2023-12-16 cs.CL cs.LG
Balanced End-to-End Monolingual pre-training for Low-Resourced Indic Languages Code-Switching Speech Recognition
Kanari AI(卡纳里人工智能公司);Johns Hopkins University(约翰斯·霍普金斯大学);Qatar Computing Research Institute, HBKU(哈马德·本·哈利法大学卡塔尔计算研究所)
语码转换ASR的成功设计往往取决于转换后语码资源的可用性。这种依赖性损害了ASR在孟加拉语和印地语等低资源语言中的发展。在本文中,我们利用迁移学习的方法来设计端到端(E2 E)CS ASR系统的两个低资源的语言对使用不同的单语语音数据和一小部分嘈杂的CS数据。我们训练CS-ASR,遵循两个步骤:(i)使用基于卷积增强的Transformer(Conformer)的声学模型和n-gram语言模型构建一个健壮的双语ASR系统,以及(ii)用有限的噪声CS数据微调整个E2 E ASR。我们在MUCS 2021挑战赛上测试了我们的方法,并在CS赛道上获得了第三名。然后,我们使用在低资源印度语言的多语言和代码转换ASR挑战(MUCS 2021)中为印度语-英语和孟加拉语-英语对发布的嘈杂CS数据测试了所提出的方法,并在CS轨道中获得了第三名。与从抓取YouTube和学习音译对中受益的领先的两个系统不同,我们提出的迁移学习方法专注于只使用有限的CS数据,而不进行数据清理或数据重新分割。我们的方法在印地语-英语和孟加拉语-英语中分别实现了14.1%和27.1%的单词出错率(WER)相对增益。我们提供了详细的指导方针的步骤,以微调自我注意力为基础的模型有限的数据ASR。此外,我们发布了本文中使用的代码和配方。
2022-02-15 cs.CL cs.SD eess.AS
Indic-Transformers: An Analysis of Transformer Language Models for Indian Languages
NeuralSpace;Reverie Language Technologies(Reverie语言技术公司)
基于Transformer架构的语言模型在文本分类、问答和标记分类等广泛的NLP任务上都取得了最先进的性能。然而,这种性能通常在高资源语言(如英语,法语,西班牙语和德语)上进行测试和报告。另一方面,印度语言在这些基准中的代表性不足。尽管一些印度语言被包括在多语言Transformer模型的训练中,但它们并不是这些工作的主要重点。为了具体评估印度语言的性能,我们分析了这些语言模型,通过广泛的实验,在印地语,孟加拉语和泰卢固语的多个下游任务。在这里,我们比较了微调预训练模型的模型参数与从头开始训练语言模型的效果。此外,我们从经验上反对数据集大小和模型性能之间的严格依赖关系,而是鼓励特定于任务的模型和方法选择。我们在印地语和孟加拉语的文本分类任务上实现了最先进的性能。最后,我们提出了处理印度语言建模的有效策略,并为社区发布了我们的模型检查点:https://huggingface.co/neuralspace-reverie。
2020-11-04 cs.CL cs.LG
Synthesizing the Virtual Advocate: A Multi-Persona Speech Generation Framework for Diverse Linguistic Jurisdictions in Indic Languages
Indian Institute of Technology, Delhi(印度理工学院德里分校)
本研究提出一种多角色语音生成框架,用于生成印地语系语言的合成法庭演讲,探讨了Gemini 2.5 TTS模型在不同语言中的表现及改进方向。
2026-01-19 cs.CL
indic-punct: An automatic punctuation restoration and inverse text normalization framework for Indic languages
Thoughtworks(思特沃克);Ekstep Foundation(Ekstep基金会)
自动语音识别(ASR)生成的文本大多数时候没有任何标点符号。缺少标点符号会影响文本的可读性。此外,诸如情感分析、机器翻译之类的下游NLP任务通过具有标点符号和句子边界信息而大大受益。我们提出了一种使用预训练IndicBERT模型的文本自动标点方法。逆文本规范化是通过手写加权有限状态转换器(WFST)语法来完成的。我们已经为11种印度语言开发了这个工具,即印地语,泰米尔语,泰卢固语,卡纳达语,古吉拉特语,马拉地语,奥迪亚语,孟加拉语,阿萨姆语,马拉雅拉姆语和旁遮普语。所有代码和数据都是公开的。可用
2022-03-31 cs.CL
MATra: A Multilingual Attentive Transliteration System for Indian Scripts
Chandigarh University(昌迪加尔大学);SRM Institute of Science and Technology(SRM科学技术学院)
音译是NLP领域的一项任务,其中输出的单词是使用任何外语的字母书写的发音相似的单词。今天,这个系统已经开发了几种语言对,涉及英语作为源或目标词,并部署在谷歌翻译和聊天机器人等几个地方。然而,在印度语翻译成其他印度语的研究很少。本文展示了一种基于Transformers(经过一些修改)的多语言模型,该模型可以提供比该领域中所有现有模型更高的性能和准确性,并且比最先进的模型获得更好的结果。本文展示了一个模型,可以执行以下五种语言之间的任何一对音译-英语,印地语,孟加拉语,卡纳达语和泰米尔语。它适用于语言是任何书面任务中沟通障碍的情况。该模型击败了最先进的技术(对于上述五种语言中的所有语言对-英语,印地语,孟加拉语,卡纳达语和泰米尔语),并达到了80.7%的前1准确率,比目前最好的结果高出约29.5%。此外,该模型在语音准确性方面达到了93.5%(音译主要是基于语音/声音的任务)。
2022-08-23 cs.CL
Measuring the Tokenization Premium: A Cost Audit for Underserved Language Communities
John Jay College of Criminal Justice, City University of New York(纽约城市大学约翰杰刑事司法学院);The City College of New York, City University of New York(纽约城市大学城市学院);University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本研究通过构建标记化公平审计(TEA)基准,测量了孟加拉语、印地语等5种语言的标记化溢价,发现标记化会给服务不足语言社区带来经济和功能障碍,凸显需重视标记化的公平性。
2026-08-11 cs.CL cs.CY
Which India Survives Translation? Narrative Homogenisation Across Indian Oral Traditions in LLMs
本研究通过分析Claude Sonnet和Gemini两款LLMs对印度三种不同口头传统的文本生成,发现存在部分叙事同质化,且区域语言提示会降低传统文本保真度,为相关文化误解研究提供了轻量补充方法。
2026-09-01 cs.CL
Joint Transformer/RNN Architecture for Gesture Typing in Indic Languages
Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
手势打字是一种通过创建经过相关键的连续轨迹来在基于触摸的键盘上键入单词的方法。这项工作的目的是开发一个键盘,支持手势打字在印度语言。我们首先注意到,在处理印度语言时,需要满足两类不同的用户:(i)喜欢输入本地印度脚本(梵文,孟加拉语等)的用户。以及(ii)喜欢键入英文脚本但希望将输出音译为本地脚本的用户。在这两种情况下,我们都需要一个模型,它将跟踪作为输入,并将其映射到预期的单词。为了实现这些模型的开发,我们创建并发布了两个数据集。首先,我们创建了一个数据集,其中包含来自7种印度语言的193,658个单词的键盘痕迹。其次,我们从维基数据中收集了104,412个英语-印度语音译对。使用这些数据集,我们建立了一个模型,执行路径解码,音译和音译校正。与以前的方法不同,我们提出的模型在解码过程中不做共同字符独立性假设。我们的模型在7种语言中的总体准确率在70- 95%之间。
2022-03-26 cs.CL cs.HC cs.LG
FIND: Toward Multimodal Financial Reasoning and Question Answering for Indic Languages
Indian Institute of Technology Patna(印度理工学院帕纳分校);Microsoft(微软)
本文提出FinVQA基准和FIND框架,针对多语言印度语言金融推理挑战,通过多模态和数值推理提升金融决策准确性。
2026-05-13 cs.CL
Code Switched and Code Mixed Speech Recognition for Indic languages
ThoughtWorks(思特沃克);EkStep Foundation(EkStep基金会)
训练多语言自动语音识别(ASR)系统是具有挑战性的,因为声学和词汇信息通常是特定于语言的。由于缺乏开源数据集和不同方法的结果,为印度语言训练多语言系统更加困难。我们比较了端到端的多语种语音识别系统的性能,单语模型的语言识别(LID)的条件下的性能。来自多语言模型的解码信息用于语言识别,然后与单语言模型相结合,以获得50%的跨语言WER改进。我们还提出了一个类似的技术来解决代码切换的问题,并实现了21.77和28.27的WER超过印地语英语和孟加拉语英语分别。我们的工作讨论了如何Transformer为基础的ASR,特别是wav2vec 2.0可以应用于开发多语言ASR和代码切换ASR的印度语言。
2022-06-13 cs.CL eess.AS
Towards Visually-Guided Movie Subtitle Translation for Indic Languages
Department of Computer Science and Engineering(计算机科学与工程系);Indian Institute of Technology Patna(印度理工学院帕纳布分校)
本文研究了视觉引导的电影字幕翻译,针对低资源印地语等语言,提出两种轻量视觉锚定策略,发现时间错位是长视频的主要障碍,而选择性视觉锚定能有效提升翻译质量。
2026-05-12 cs.CL
L3Cube-HindBERT and DevBERT: Pre-Trained BERT Transformer models for Devanagari based Hindi and Marathi Languages
Indian Institute of Technology Madras(印度理工学院马德拉斯分校);L3Cube Pune(L3Cube浦那)
模型中心目前提供的单语印地语BERT模型在下游任务上的表现并不比多语言模型好。我们提出了L3 Cube-HindBERT,一个在印地语单语语料库上预训练的印地语BERT模型。此外,由于印度语、印地语和马拉地语共享梵文脚本,我们为两种语言训练单个模型。我们发布了DevBERT,这是一个在马拉地语和印地语单语数据集上训练的Devanagari BERT模型。我们评估这些模型的下游印地语和马拉地语文本分类和命名实体识别任务。基于HindBERT和DevBERT的模型比多语言MuRIL、IndicBERT和XLM-R有显著的改进。基于这些观察,我们还发布了其他印度语言卡纳达语,泰卢固语,马拉雅拉姆语,泰米尔语,古吉拉特语,阿萨姆语,奥迪亚语,孟加拉语和旁遮普语的单语BERT模型。这些模型在https://huggingface.co/l3cube-pune上共享。
2023-01-08 cs.CL cs.LG
Table Question Answering for Low-resourced Indic Languages
University of Amsterdam(阿姆斯特丹大学);Elsevier(爱思唯尔)
针对低资源语言表格问答研究空白,提出全自动大规模数据生成方法,应用于孟加拉语和印地语,训练的模型性能优于现有最优LLMs,且方法可推广至其他低资源语言。
2024-10-04 cs.CL
SMPOST: Parts of Speech Tagger for Code-Mixed Indic Social Media Text
IIT Patna(印度理工学院帕特纳分校);MNIT Jaipur(马拉维亚国家理工学院斋浦尔分校)
社交媒体的使用在过去几年中急剧增长。用户在通过社交媒体进行交流时使用非正式语言。交流的语言通常是混合的,人们用英语转录他们的地区语言,这种技术被发现非常受欢迎。自然语言处理(NLP)的目的是从这些文本中推断信息,其中词性标注(PoS)在获得书面文本的韵律方面起着重要作用。对于代码混合的印度社交媒体文本的PoS标记任务,我们开发了一个基于条件随机场分类器的监督系统。为了有效地解决这个问题,我们集中精力提取丰富的语言特征。我们参加了三个不同的语言对,即。英语-印地语,英语-孟加拉语和英语-泰卢固语在三个不同的社交媒体平台,Twitter,Facebook和WhatsApp。该系统能够成功地分配粗以及细粒度的PoS标签标签为一个给定的代码混合的句子。实验表明,我们的系统是相当通用的,在所有领域的所有三种语言对表现出令人鼓舞的性能水平。
2017-02-02 cs.CL
The RGNLP Machine Translation Systems for WAT 2018
Jawaharlal Nehru University(贾瓦哈拉尔·尼赫鲁大学);ADAPT Centre, Dublin City University(都柏林城市大学ADAPT中心);Carnegie Mellon University(卡内基梅隆大学)
本文介绍了2018年版WAT共享任务的印度语言多语言任务的机器翻译(MT)系统的系统描述。在我们的实验中,我们(RGNLP团队)在所有语言对中探索了统计和神经方法。(We进一步提出了一个广泛的比较语言相关的问题,为这两种方法的背景下,低资源的设置。我们的PBSMT模型在共享任务的英语到泰卢固语,印地语,孟加拉语,泰米尔语部分的所有自动评估指标中得分最高。
2018-12-03 cs.CL
IndicMedDialog: A Parallel Multi-Turn Medical Dialogue Dataset for Accessible Healthcare in Indic Languages
University of Birmingham(布里斯托尔大学);Heritage Institute of Technology(遗产理工学院);Madan Mohan Malaviya University of Technology(马丹·莫汉·马尔维亚理工学院)
本文提出IndicMedDialog数据集,包含英语和九种印地语系语言的多轮医疗对话,通过生成合成咨询并进行翻译、验证和处理,提升多语言医疗对话系统的现实性和可访问性。
2026-05-13 cs.AI cs.CL cs.IR
Intent Identification and Entity Extraction for Healthcare Queries in Indic Languages
IIT Kharagpur(印度理工学院卡哈拉格普尔分校);University of Maryland, College Park(马里兰大学帕克分校);Carnegie Mellon University(卡内基梅隆大学)
在印度等发展中国家,资源匮乏的语言的数据稀缺和技术限制对医疗保健领域复杂的NLU系统的发展构成了威胁。为了评估医疗保健领域各种最先进的语言模型的现状,本文首先提出了两个不同的医疗保健数据集,Indian Healthcare Query Intent-WebMD和1 mg(IHQID-WebMD和IHQID-1 mg)和一个真实世界的印度医院查询数据(英语和多种印度语言)(印地语、孟加拉语、泰米尔语、泰卢固语、马拉地语和古吉拉特语),它们用查询意图和实体进行注释。我们的目标是检测查询意图并提取相应的实体。我们进行了广泛的实验,一组模型在各种现实的设置和探索两种情况下的基础上访问英语数据(成本较低)和访问目标语言数据(更昂贵)。通过实证分析,我们分析了具体的实际相关性。结果,表示在整体F1分数方面表明,我们的方法是实际有用的,以确定意图和实体。
2023-02-19 cs.CL cs.IR
IndicMMLU-Pro: Benchmarking Indic Large Language Models on Multi-Task Language Understanding
Artificial Intelligence Institute, University of South Carolina(南卡罗来纳大学人工智能学院);Rochester Institute of Technology(罗切斯特理工学院);Meta AI;Amazon Gen AI(亚马逊生成式人工智能部门)
本文提出了IndicMMLU-Pro基准,基于MMLU Pro框架评估大语言模型在9种印度次大陆主要语言的多任务理解能力,涵盖语言理解、推理与生成任务,并提供了最先进多语言模型的基线结果。
2025-01-28 cs.AI cs.CL
MMCFND: Multimodal Multilingual Caption-aware Fake News Detection for Low-resource Indic Languages
Indian Institute of Technology Indore(印度英迪尔印度理工学院)
本文提出了面向低资源印度语系的多模态多语言标题感知假新闻检测框架MMCFND,并构建了包含7种语言共28,085个实例的数据集MMIFND,通过融合视觉、文本和图像标题特征,有效提升了假新闻检测性能。
2024-10-14 cs.CL
L3Cube-IndicNews: News-based Short Text and Long Document Classification Datasets in Indic Languages
Pune Institute of Computer Technology(浦那计算机技术学院);Indian Institute of Technology Madras(印度马德拉斯理工学院);L3Cube Labs(L3Cube实验室)
本文提出L3Cube-IndicNews,为10种印度语言构建新闻标题、长文档和长段落三类分类数据集,并用多种BERT模型评估,推动印度区域语言主题分类与跨语言分析研究。
2024-04-26 cs.CL cs.LG
A Three-Pronged Approach to Cross-Lingual Adaptation with Multilingual LLMs
Indian Institute of Technology Bombay(印度孟买理工学院);SML
本研究探讨三种低资源跨语言适应方法,通过主导语言监督、词重排及持续预训练,使英语主导的Llama-2有效迁移至孟加拉语、印地语和泰米尔语。
2024-06-25 cs.CL
Tokenization Matters: Improving Zero-Shot NER for Indic Languages
University of Washington(华盛顿大学);New York University(纽约大学);Liverpool John Moores University(利物浦约翰·莫尔斯大学)
本研究系统比较了BPE、SentencePiece和字符级分词策略,发现SentencePiece在低资源印度语言的零样本NER中优于BPE,因其更好地保留实体一致性和语言结构,尤其适用于形态丰富的极低资源语言。
2025-04-23 cs.AI cs.CL
L3Cube-IndicHeadline-ID: A Dataset for Headline Identification and Semantic Evaluation in Low-Resource Indian Languages
Department of Information Technology, PICT, Pune(信息科技系,PICT,普那);Indian Institute of Technology Madras, Chennai(印度理工学院马德拉斯分校,钦奈);L3Cube Labs, Pune(L3Cube实验室,普那)
针对低资源印度语言语义评估基准缺失的问题,该研究推出覆盖11种语言的L3Cube-IndicHeadline-ID标题识别数据集,测试句子Transformer性能,为印度语言NLP及RAG等应用提供多用途评估基准。
2025-09-02 cs.CL cs.LG
SurakshaEval: An Indic Safety Benchmark for Multilingual LLMs
Inception42;Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);University of Michigan(密歇根大学);Institute of Computer Science Artificial Intelligence & Technology(计算机科学人工智能与技术研究院);International Institute of Information Technology Hyderabad(海得拉巴国际信息技术学院);Ministry of Electronics and IT India(印度电子与信息技术部);Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
针对现有LLM安全评估数据集忽视印度语言文化安全风险的问题,本文推出SurakshaEval基准,测试发现多语言LLM在印度语场景下安全表现不足,凸显了适配区域数据的安全评估框架的必要性。
2026-08-11 cs.CL
Chitranuvad: Adapting Multi-Lingual LLMs for Multimodal Translation
Krutrim AI
Chitranuvad通过ViT图像编码器和适配器层将视觉信息融入多语言大语言模型,实现多模态翻译,在WAT2024印地语挑战集上取得SOTA。
2025-02-27 cs.CL cs.CV
Role of Language Relatedness in Multilingual Fine-tuning of Language Models: A Case Study in Indo-Aryan Languages
IBM Research(IBM研究院);IIT Bombay(印度理工学院孟买分校)
我们探索了利用多语言微调在NLP模型中利用属于同一家族的语言的相关性的影响。我们假设并验证了预训练的语言模型的多语言微调可以在下游NLP应用程序上产生更好的性能,而不是在单个语言上微调的模型。第一种详细的研究,以跟踪性能变化的语言添加到一个基础语言的分级和贪婪(在这个意义上的最佳提升性能)的方式,这表明,仔细选择相关语言的子集可以显着提高性能比利用所有相关的语言。印度-雅利安(IA)语系被选为研究对象,确切的语言是孟加拉语,古吉拉特语,印地语,马拉地语,奥里亚语,旁遮普语和乌尔都语。通过将所有语言的文本简单地基于规则音译为梵文,可以跨越脚本障碍。实验在mBERT,IndicBERT,MuRIL和两个基于RoberTa的LM上进行,最后两个由我们预先训练。低资源语言,如奥里亚语和旁遮普语,被认为是多语言微调的最大受益者。文本蕴涵、实体分类、章节标题预测、IndicGLUE任务和词性标注构成了我们的测试平台。与单语微调相比,我们在下游任务中获得了高达150%的相对性能改善。令人惊讶的是,对于任何语言来说,都有其他语言的特定组合可以产生最佳性能,任何额外的语言实际上都是有害的。
2021-09-22 cs.CL
A2TTS: TTS for Low Resource Indian Languages
Indian Institute of Technology Bombay(印度理工学院孟买学院)
本文提出A2TTS,一种基于扩散模型和说话人编码器的多语言TTS系统,通过交叉注意力时长预测与无分类器引导提升零样本多说话人生成能力,并在IndicSUPERB数据集上验证了七种低资源印度语言的效果。
2025-07-21 cs.AI cs.CL cs.SD
Creating Multilingual Mental Health Dialogue Datasets: Limits of Persona-Based Localization via Nationality and Language
Pennsylvania State University(宾夕法尼亚州立大学)
研究通过修改人物角色中的国籍和语言参数生成中文、孟加拉语和印地语临床对话,发现仅添加这些参数会导致跨语言临床不一致,且LLM评估非英语文本的抑郁严重度时存在不准确性。
2026-06-19 cs.AI cs.CL cs.HC
Rasa: Building Expressive Speech Synthesis Systems for Indian Languages in Low-resource Settings
AI4Bharat;Indian Institute of Technology Madras(马德拉斯印度理工学院)
本文发布首个面向印度语言的多语言富有表现力TTS数据集Rasa,覆盖阿萨姆语、孟加拉语和泰米尔语,并通过消融实验证明少量中性加表现力数据即可构建可用系统,为低资源语言语音合成提供了实用方案。
2024-08-30 cs.CL cs.LG cs.SD
Utilizing Multilingual Encoders to Improve Large Language Models for Low-Resource Languages
School of Mathematical and Computational Sciences, Massey University, Auckland, New Zealand(数学与计算科学学院,梅西大学,奥克兰,新西兰);Department of Computer Science, The Open University, Milton Keynes, United Kingdom(计算机科学系,开放大学,米利顿凯斯,英国)
本文提出一种融合多语言编码器所有中间层的新架构,通过全局Softmax加权和Transformer Softmax学习词元权重,仅用英语数据训练即显著提升低资源语言上的LLM性能。
2025-11-08 cs.CL
Cross-lingual Editing in Multilingual Language Models
Indian Institute of Technology Gandhinagar(印度理工学院甘地纳格尔分校)
本文提出跨语言模型编辑(XME)范式,研究多语言模型中单语言事实编辑对其他语言的传播,实验发现现有编辑技术在跨书写体系语言上性能受限,并公开了数据集和代码。
2024-02-03 cs.AI cs.CL
Paramanu: Compact and Competitive Monolingual Language Models for Low-Resource Morphologically Rich Indian Languages
Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立理工学院);LIG(格勒诺布尔信息学实验室);Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
Paramanu通过低成本训练方法,在五种印度语言上实现了高性能,优于多数多语言模型。
2026-01-22 cs.AI cs.CL
Transsion TSUP's speech recognition system for ASRU 2023 MADASR Challenge
Transsion TSUP(传音TSUP)
本研究针对低资源印度语言ASR适配问题,为ASRU 2023 MADASR挑战赛开发了覆盖四赛道的识别系统,通过不同架构模型搭配优化解码策略,在孟加拉语、博杰普尔语上取得了较低的词错误率。
2023-07-20 cs.CL cs.SD eess.AS
Confabulations from ACL Publications (CAP): A Dataset for Scientific Hallucination Detection
Charles University, Prague(查尔斯大学,布拉格);Independent Researcher(独立研究者);University of Helsinki, Finland(赫尔辛基大学);University of British Columbia, Vancouver, Canada(不列颠哥伦比亚大学,温哥华,加拿大);Chosun University, South Korea(成均馆大学,韩国)
该论文提出了CAP数据集,一个多语言科学幻觉检测资源,包含900个科学问题和7000多个来自16个模型的生成答案,用于检测LLM在科学文本生成中的事实性错误。
2025-10-25 cs.CL
Machine Translation Advancements of Low-Resource Indian Languages by Transfer Learning
Huawei Translation Service Center(华为翻译服务中心)
本文介绍华为翻译中心向WMT24提交的低资源印度语言机器翻译系统,采用微调IndicTrans2和多语言模型训练两种迁移学习策略,在多个语言对上取得了优异的BLEU成绩。
2024-09-24 cs.AI cs.CL