WLV-RIT at HASOC-Dravidian-CodeMix-FIRE2020: Offensive Language Identification in Code-switched YouTube Comments
University of Wolverhampton（伍尔弗汉普顿大学）；Rochester Institute of Technology（罗切斯特理工学院）
本文介绍了WLV-RIT进入印度-欧洲语言中的仇恨言论和攻击性内容识别（HASOC）共享任务2020。HASOC 2020组织者为参与者提供了注释数据集，其中包含以德拉维语（马拉雅拉姆语-英语和泰米尔语-英语）混合的社交媒体帖子。我们参与了任务1：代码混合马拉雅拉姆语Youtube评论中的攻击性评论识别。在我们的方法中，我们利用现有的英语数据，通过应用跨语言的上下文词嵌入和迁移学习来预测马拉雅拉姆语数据。我们进一步改善使用各种微调策略的结果。我们的系统在测试集上取得了0.89的加权平均F1分数，在12名参与者中排名第5位。
2020-11-01 cs.AI cs.CL cs.LG
A Twitter BERT Approach for Offensive Language Detection in Marathi
Pune Institute of Computer Technology（浦那计算机技术学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
自动攻击性语言检测对于打击仇恨言论的传播至关重要，特别是在社交媒体上。本文介绍了我们在低资源印度语马拉地语攻击性语言识别方面的工作。这个问题被制定为一个文本分类任务，以确定一个tweet作为进攻性或非进攻性。我们在这个分类任务中评估了不同的单语言和多语言BERT模型，重点是用社交媒体数据集预训练的BERT模型。我们比较了MuRIL，MahaTweetBERT，MahaTweetBERT-Hateful和MahaBERT在HASOC 2022测试集上的性能。我们还探索了其他现有的马拉地仇恨言论语料库HASOC 2021和L3立方体MahaHate的外部数据增强。MahaTweet BERT是一个BERT模型，在对组合数据集（HASOC 2021 + HASOC 2022 + MahaHate）进行微调时，对马拉地语推文进行了预训练，在HASOC 2022测试集上的F1得分为98.43，优于所有模型。有了这个，我们还提供了HASOC 2022 / MOLD v2测试集的最新结果。
2022-12-20 cs.CL
Hate and Offensive Speech Detection in Hindi and Marathi
Pune Institute of Computer Technology（浦那计算机技术学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
情感分析是确定文本数据极性的最基本的NLP任务。在多语种文本方面也做了大量工作。然而，由于数据不足，仇恨和攻击性言论检测仍然面临挑战，特别是对于印地语和马拉地语等印度语言。在这项工作中，我们考虑在印地语和马拉地语文本中的仇恨和攻击性言论检测。该问题被公式化为使用最先进的深度学习方法的文本分类任务。我们探索了不同的深度学习架构，如CNN，LSTM，以及BERT的变体，如多语言BERT，IndicBERT和单语言RoBERTa。基于CNN和LSTM的基本模型通过快速文本词嵌入来增强。我们使用HASOC 2021印地语和马拉地语仇恨言论数据集来比较这些算法。马拉地语数据集由二进制标签组成，印地语数据集由二进制以及更细粒度的标签组成。我们表明，基于transformer的模型表现最好，甚至基本模型与FastText嵌入一起提供了有竞争力的性能。此外，通过正常的超参数调整，基本模型在细粒度印地语数据集上的表现优于基于BERT的模型。
2021-11-01 cs.CL cs.LG
BhashaSetu: Cross-Lingual Knowledge Transfer from High-Resource to Extreme Low-Resource Languages
Department of Computer Science and Engineering, Indian Institute of Technology Kanpur（计算机科学与工程系，印度理工学院坎浦尔）
BhashaSetu通过引入GETR方法，实现了从高资源语言到极端低资源语言的跨语言知识转移，显著提升了词性标注和命名实体识别任务的性能。
2026-02-05 cs.AI cs.CL cs.LG
L3Cube-MahaHate: A Tweet-based Marathi Hate Speech Detection Dataset and BERT models
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
社交媒体平台被许多人用来表达他们的想法和意见。然而，这些平台也助长了大量的仇恨和辱骂内容。因此，必须遏制仇恨言论在这些平台上的传播。在印度，马拉地语是广泛受众使用的最流行的语言之一。在这项工作中，我们提出了L3 Cube-MahaHate，第一个主要的仇恨语音数据集在马拉地语。数据集来自Twitter，手动注释。我们的数据集包括超过25000个不同的tweet标签分为四个主要类别，即仇恨，进攻，亵渎，而不是。我们提出了用于收集和注释数据的方法以及在此过程中面临的挑战。最后，我们使用基于CNN、LSTM和Transformers的深度学习模型来呈现基线分类结果。我们探索单语言和多语言的变体BERT像马哈BERT，IndicBERT，mBERT，和xlm-RoBERTa和单语言模型比他们的多语言同行表现得更好。MahaBERT模型在L3 Cube-MahaHate语料库上提供了最好的结果。数据和模型可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-05-22 cs.CL cs.LG
L3Cube-HindBERT and DevBERT: Pre-Trained BERT Transformer models for Devanagari based Hindi and Marathi Languages
Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；L3Cube Pune（L3Cube浦那）
模型中心目前提供的单语印地语BERT模型在下游任务上的表现并不比多语言模型好。我们提出了L3 Cube-HindBERT，一个在印地语单语语料库上预训练的印地语BERT模型。此外，由于印度语、印地语和马拉地语共享梵文脚本，我们为两种语言训练单个模型。我们发布了DevBERT，这是一个在马拉地语和印地语单语数据集上训练的Devanagari BERT模型。我们评估这些模型的下游印地语和马拉地语文本分类和命名实体识别任务。基于HindBERT和DevBERT的模型比多语言MuRIL、IndicBERT和XLM-R有显著的改进。基于这些观察，我们还发布了其他印度语言卡纳达语，泰卢固语，马拉雅拉姆语，泰米尔语，古吉拉特语，阿萨姆语，奥迪亚语，孟加拉语和旁遮普语的单语BERT模型。这些模型在https://huggingface.co/l3cube-pune上共享。
2023-01-08 cs.CL cs.LG
CIBuzzBench: A Benchmark for Cross-Lingual Understanding of Chinese Internet Buzzwords
Dalian University of Technology（大连理工大学）；Meta AI；Beijing University of Posts and Telecommunications（北京邮电大学）；Meituan（美团）；Beijing Police College（北京警察学院）
针对大语言模型跨语言理解中文网络流行语能力不足的问题，构建首个中译英基准CIBuzzBench，包含3001个流行语及多维度标注，设计含义解释、对应匹配和危害检测三项任务，实验表明现有模型在非字面解释、稳健匹配和危害检测上仍存在显著困难。
2026-09-21 cs.AI cs.CL
The Illusion of Cross-Lingual Safety in Low-Resource Languages
研究发现大型语言模型的跨语言安全迁移在四种非洲低资源语言中极为有限，现有多语言安全对齐仅停留在表面。
2026-08-12 cs.CL
Exploring multi-task multi-lingual learning of transformer models for hate speech and offensive speech identification in social media
Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
仇恨言论已成为在线社交媒体平台的主要内容审核问题。鉴于在线内容制作的数量和速度，在任何平台上都不可能手动调节与仇恨言论相关的内容。在本文中，我们利用一个多任务和多语言的方法，最近提出的Transformer神经网络的基础上解决三个子任务的仇恨言论。这些子任务是2019年印欧语言仇恨言论和攻击性内容识别（HASOC）共享任务的一部分。我们通过利用多任务模型来扩展我们对该竞赛的提交，这些模型使用三种方法进行训练，a）具有单独任务负责人的多任务学习，b）反向翻译，以及c）多语言训练。最后，我们研究了各种模型的性能，并确定了基于Transformer的模型表现不同且更好的实例。我们表明，可以利用不同的组合方法来获得可以在不同的语言和任务上轻松推广的模型，同时（在某些情况下）牺牲轻微的准确性，以大大减少推理时间计算成本。我们开源了HASOC 2019代码的更新版本，并在https://github.com/socialmediaie/MTML_HateSpeech上进行了新的改进。
2021-01-27 cs.AI cs.CL cs.LG
Galileo at SemEval-2020 Task 12: Multi-lingual Learning for Offensive Language Identification using Pre-trained Language Models
Baidu Inc.（百度公司）
本文描述了Galileo在SemEval-2020任务12中检测和分类社交媒体中的攻击性语言的性能。针对攻击性语言识别问题，提出了一种基于预训练语言模型、ERNIE和XLM-R的多语种识别方法。针对攻击性语言的分类问题，提出了一种基于软标签的知识蒸馏方法。我们的团队参与了所有三个子任务。在子任务A -攻击性语言识别中，我们在所有语言的平均F1分数方面排名第一。我们也是唯一一支在所有语言中排名前三的团队。我们还在子任务B -犯罪类型自动分类和子任务C -犯罪目标识别中获得了第一名。
2020-10-07 cs.CL
Cross-lingual Inductive Transfer to Detect Offensive Language
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）；Netaji Subhas Institute of Technology, New Delhi（新德里内塔吉·苏巴斯技术学院）
随着社交媒体的使用越来越多，在多种语言和领域中观察到许多使用冒犯性语言的情况。这一现象导致越来越需要检测社交媒体中跨语言使用的攻击性语言。在OffensEval 2020中，组织者发布了\textit{multilingual Offensive Language Identification Dataset}（mOLID），其中包含五种不同语言的推文，以检测攻击性语言。在这项工作中，我们引入了一个跨语言的归纳方法来识别使用上下文词嵌入\textit{XLM-RoBERTa}（XLM-R）的推文中的攻击性语言。我们表明，我们的模型在所有五种语言上都具有竞争力，在英语任务中获得第四名，F1得分为$0.919$，在土耳其语任务中获得第八名，F1得分为$0.781$。进一步的实验证明，我们的模型在零样本学习环境中具有竞争力，并且可以扩展到其他语言。
2020-07-07 cs.CL cs.IR
NLPDove at SemEval-2020 Task 12: Improving Offensive Language Detection with Cross-lingual Transfer
Sogang University（西江大学）；Seoul National University（首尔大学）；Language Technologies Institute, Carnegie Mellon University（卡内基梅隆大学语言技术研究所）
本文介绍了我们的方法来识别攻击性语言在多语言环境中的任务。我们研究了两种数据增强策略：使用具有不同阈值的附加半监督标签和具有数据选择的跨语言迁移。与仅使用手动注释的数据集训练的基线相比，利用半监督数据集导致性能提高。我们提出了一个新的度量，翻译嵌入距离，以衡量跨语言数据选择的实例的可移植性。我们还介绍了为社交媒体文本量身定制的各种预处理步骤，以及微调预训练的多语言BERT（mBERT）以进行攻击性语言识别的方法。我们的多语言系统在2020年的OffensEval上取得了希腊语，丹麦语和土耳其语的竞争结果。
2020-08-04 cs.CL
LIIR at SemEval-2020 Task 12: A Cross-Lingual Augmentation Approach for Multilingual Offensive Language Identification
KU Leuven（鲁汶大学）
本文介绍了我们的系统，题为“LIIR”的SemEval-2020任务12在社交媒体中的多语言攻击性语言识别（OffensEval 2）。我们参加了英语、丹麦语、希腊语、阿拉伯语和土耳其语的分任务A。我们分别针对英语和非英语语言调整和微调了Google AI提供的BERT和多语言Bert模型。对于英语语言，我们使用两个微调的BERT模型的组合。对于其他语言，我们提出了一种跨语言的增强方法，以丰富训练数据，我们使用多语言BERT获得句子表示。LIIR在希腊语、土耳其语、英语、阿拉伯语和丹麦语中的排名分别为14/38、18/47、24/86、24/54和25/40。
2020-07-17 cs.CL
Cross-lingual Offensive Language Detection: A Systematic Review of Datasets, Transfer Approaches and Challenges
Queen Mary University of London（伦敦玛丽女王大学）；Heriot-Watt University（赫瑞瓦特大学）
本文系统综述了社交媒体中跨语言攻击性语言检测的数据集、迁移方法及挑战，分析了67篇相关论文，总结了实例、特征和参数三种迁移方法，并提供了未来研究方向。
2026-02-12 cs.CL
Mono vs Multilingual BERT for Hate Speech Detection and Text Classification: A Case Study in Marathi
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
Transformers是用于各种自然语言处理任务的最杰出的体系结构。这些模型在大型文本语料库上进行了预训练，旨在为文本分类等任务提供最先进的结果。在这项工作中，我们进行了单语和多语BERT模型之间的比较研究。我们专注于马拉地语，并在马拉地语的仇恨言论检测，情感分析和简单文本分类的数据集上评估模型。我们使用标准的多语言模型，如mBERT，indicBERT和xlm-RoBERTa，并与MahaBERT，MahaALBERT和MahaRoBERTa，马拉地语的单语模型进行比较。我们进一步表明，马拉地语单语模型优于多语言的BERT变体在五个不同的下游微调实验。我们还通过冻结BERT编码器层来评估来自这些模型的句子嵌入。我们表明，单语MahaBERT为基础的模型提供了丰富的表示相比，多语言同行的句子嵌入。然而，我们观察到这些嵌入不够通用，并且在域外社交媒体数据集上不起作用。我们考虑两个马拉地仇恨言论数据集L3 Cube-MahaHate，HASOC-2021，马拉地情绪分类数据集L3 Cube-MahaSent和马拉地标题，文章分类数据集。
2022-04-19 cs.CL cs.LG
A Data Selection Approach for Enhancing Low Resource Machine Translation Using Cross-Lingual Sentence Representations
SCTR’s Pune Institute of Computer Technology（SCTR浦那计算机技术学院）；Indian Institute of Technology Madras（印度马德拉斯理工学院）；L3Cube Labs（L3Cube实验室）
本文针对英语-马拉地语低资源机器翻译中数据噪声问题，提出基于IndicSBERT跨语言句子表示的数据过滤方法，通过语义等价性评估筛选训练数据，显著提升了翻译质量，并为其他低资源语言翻译任务提供了可借鉴的框架。
2024-09-04 cs.CL cs.LG
BhashaVerse : Translation Ecosystem for Indian Subcontinent Languages
Language Technologies Research Centre, IIIT-Hyderabad（印度信息技术研究所海得拉巴分校语言技术研究中心）
本文提出BhashaVerse翻译生态系统，面向36种印度语言构建语料库并综合评估机器翻译，以提升低资源与多文字场景下的跨语言沟通质量。
2025-01-02 cs.AI cs.CL
BHRAM-IL: A Benchmark for Hallucination Recognition and Assessment in Multiple Indian Languages
BITS Pilani, Hyderabad Campus（贝拉理工学院皮拉尼分校海得拉巴校区）
BHRAM-IL是一个用于多印度语言中幻觉识别与评估的基准，通过评估14种多语言LLM在多个任务上的表现，揭示了幻觉检测的跨语言和事实性问题。
2025-12-01 cs.AI cs.CL cs.ET
A simple language-agnostic yet very strong baseline system for hate speech and offensive content identification
Laboratoire d’analyse statistique des textes - Statistical Analysis of Text Laboratory (LAST - SATLab)（文本统计分析实验室（LAST - SATLab））；Institut de recherche en sciences psychologiques（心理科学研究所）；Université catholique de Louvain（鲁汶天主教大学）
为了自动识别推文中的仇恨言论和攻击性内容，SATLab团队提出了一种基于经典监督算法的系统，该算法只提供字符n-gram，因此完全与语言无关。在特征权重和分类器参数方面进行优化后，它在多语言HASOC 2021挑战赛中达到了英语的中等性能水平，英语很容易依赖于许多外部语言资源开发深度学习方法，但对于两种资源较少的语言，印地语和马拉地语，它的性能要好得多。甚至在这些语言中的三个任务的平均性能时，它也会首先结束，超过许多深度学习方法。这些表现表明，这是一个有趣的参考水平，以评估使用更复杂的方法，如深度学习或考虑补充资源的好处。
2022-02-05 cs.CL
A Text-to-Text Model for Multilingual Offensive Language Identification
Aston University（阿斯顿大学）；George Mason University（乔治梅森大学）
本文提出基于 T5/mT5 的编码器-解码器冒犯性语言识别模型，利用 SOLID、CCTK 训练并优化阈值，在英语及六语种基准上达到最先进性能。
2023-12-06 cs.CL
A Federated Learning Approach to Privacy Preserving Offensive Language Identification
George Mason University（乔治梅森大学）；Lancaster University（兰卡斯特大学）；Aston University（阿斯顿大学）
针对社交媒体攻击性语言识别中的用户隐私问题，提出基于联邦学习的去中心化隐私保护架构及模型融合方法，在4个英文基准数据集上性能优于基线，还开展了英西跨语言初步实验。
2024-04-17 cs.CL cs.LG
Hate Speech and Offensive Language Detection using an Emotion-aware Shared Encoder
Samovar（萨莫瓦实验室）；Telecom SudParis（南巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
社交媒体平台的兴起从根本上改变了人们的沟通方式，这些发展的结果之一是在线使用滥用内容的增加。因此，自动检测这些内容对于禁止不适当的信息，减少社交媒体平台上的毒性和暴力至关重要。现有的仇恨言论和攻击性语言检测工作基于预训练的Transformer模型产生了有希望的结果，然而，他们只考虑了通过注释数据集生成的滥用内容特征的分析。本文提出了一种多任务联合学习方法，该方法结合了从另一个语料库中提取的外部情感特征，以处理标记数据集的不平衡和稀缺性。我们的分析使用了两个著名的基于transformer的模型，BERT和mBERT，后者用于解决多语言场景中的滥用内容检测。我们的模型通过Transformers的共享编码器共享表示，联合学习滥用内容检测和情感特征。这种方法提高了数据效率，通过共享表示减少过拟合，并通过利用辅助信息确保快速学习。我们的研究结果表明，情感知识有助于更可靠地识别数据集中的仇恨言论和攻击性语言。我们的仇恨语音检测多任务模型表现出3%的性能提高基线模型，但多任务模型的性能不显着的攻击性语言检测任务。更有趣的是，在这两个任务中，多任务模型比单任务模型表现出更少的假阳性错误。
2023-02-17 cs.CL cs.IT cs.LG
Harnessing Cross-lingual Features to Improve Cognate Detection for Low-resource Languages
IIT Bombay（印度理工学院孟买分校）；IITB-Monash Research Academy（印度理工学院孟买分校-莫纳什大学联合研究学院）；Monash University（莫纳什大学）；NICT（日本情报通信研究机构）
同源词是同一词汇形式在不同语言中的变体;例如西班牙语中的“fonema”和英语中的“phoneme”都是同源词，两者都意味着“声音的单位”。自动检测任意两种语言之间的同源词的任务可以帮助下游的NLP任务，例如跨语言信息检索、计算系统发生学和机器翻译。在本文中，我们展示了使用跨语言的词嵌入检测同源十四个印度语言。我们的方法介绍了使用上下文从知识图谱生成改进的特征表示同源检测。然后，我们评估了我们的同源检测机制对神经机器翻译（NMT）的影响，作为一个下游任务。我们评估我们的方法来检测同源词的一个具有挑战性的数据集的12种印度语言，即梵语，印地语，阿萨姆语，奥里亚语，卡纳达语，古吉拉特语，泰米尔语，泰卢固语，旁遮普语，孟加拉语，马拉地语，马拉雅拉姆语。此外，我们还为另外两种印度语言创建了评估数据集，即Konkani和尼泊尔语。我们观察到高达18%的点，在F分数方面，同源检测的改善。此外，我们观察到使用我们的方法提取的同源词有助于将NMT质量提高高达2.76 BLEU。我们还公开发布我们的代码、新构建的数据集和跨语言模型。
2021-12-16 cs.CL
NLP-CUET@DravidianLangTech-EACL2021: Offensive Language Detection from Multilingual Code-Mixed Text using Transformers
Chittagong University of Engineering and Technology（吉大港工程技术大学）
互联网的日益普及促进了社交媒体的使用，并鼓励个人自由表达意见。然而，它也为内容污染者传播攻击性帖子或内容创造了一个场所。大多数此类攻击性帖子都是以跨语言的方式编写的，可以轻松逃避在线监控系统。本文提出了一个自动化系统，可以识别攻击性文本从多语言代码混合数据。在这项任务中，数据集以三种语言提供，包括泰米尔语，马拉雅拉姆语和卡纳达语代码与英语混合，要求参与者为每种语言实现单独的模型。为了完成这些任务，我们采用了两种机器学习技术（LR，SVM），三种深度学习（LSTM，LSTM+Attention）技术和三种基于Transformers器（m-BERT，Indic-BERT，XLM-R）的方法。结果表明，XLM-R在泰米尔语和马拉雅拉姆语中的表现优于其他技术，而m-BERT在卡纳达语中得分最高。所提出的模型获得了加权$f_1$得分$0.76$（泰米尔语），$0.93$（马拉雅拉姆语）和$0.71$（卡纳达语）与等级分别为$3^{rd}$，$5^{th}$和$4^{th}$。
2021-02-28 cs.CL
Multilingual GSM-Symbolic: What determines capability transfer across languages?
Aarhus University（奥胡斯大学）；Danish Foundation Models（丹麦基础模型公司）；University of Alabama（阿拉巴马大学）；Alexandra Institute（亚历山德拉研究所）；Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）；The University of Tokyo（东京大学）；IT University of Copenhagen（哥本哈根信息技术大学）；Massachusetts General Hospital（马萨诸塞州总医院）；Bocconi University（博科尼大学）；University of Southern Denmark（南丹麦大学）；University of Iceland（冰岛大学）；University of the Faroe Islands（法罗群岛大学）；Zendesk（Zendesk公司）；University of Copenhagen（哥本哈根大学）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；National Library of Sweden（瑞典国家图书馆）
本研究提出多语言GSM-Symbolic数据集，量化模型大小、语言资源、推理和类型学距离对跨语言能力迁移的影响，并揭示模型大小和推理可缩小语言间性能差距。
2026-10-06 cs.AI cs.CL
One to rule them all: Towards Joint Indic Language Hate Speech Detection
NeuralSpace（NeuralSpace 公司）
本文是对2021年印欧语言仇恨言论和攻击性内容识别（HASOC）共享任务的贡献。今天的社交媒体是各种语言的有毒和仇恨对话的温床。最近的新闻报道表明，目前的模型很难自动识别以少数民族语言发布的仇恨。因此，有效遏制仇恨言论是一个严峻的挑战和令人感兴趣的问题。我们提出了一个多语言架构，使用最先进的Transformer语言模型，共同学习仇恨和攻击性的语音检测跨三种语言，即英语，印地语和马拉地语。在所提供的测试语料中，子任务1A的宏F1得分分别为0.7996、0.7748、0.8651，子任务1B的细粒度分类的宏F1得分分别为0.6268、0.5603。这些结果表明，利用多语种的培训计划的有效性。
2021-09-28 cs.CL
L3Cube-IndicSBERT: A simple approach for learning cross-lingual sentence representations using multilingual BERT
MKSSS’ Cummins College of Engineering for Women（MKSSS康明斯女子工程学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
提出通过聚合翻译 NLI/STS 数据并微调普通多语言 BERT 的简单方法，构建并发布面向 10 种印度语言的 L3Cube-IndicSBERT，在跨语言与单语相似度任务上优于多个基线。
2023-04-22 cs.CL cs.LG
Lost in Translation? A Comparative Study on the Cross-Lingual Transfer of Composite Harms
本研究通过复合危害基准测试，探讨了跨语言迁移中安全对齐的稳定性，发现攻击成功率在印度语言中显著上升，但上下文性危害迁移较温和，强调翻译基准在多语言安全测试中的必要性。
2026-02-08 cs.AI cs.CL
Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs
针对 LLMs 安全对齐以英语为中心导致的跨语言偏见问题，提出多语言评估基准 INCLUDE，评估十款 LLMs 后发现孟加拉语在开源模型中偏见最高、英语在开源与闭源模型中偏见表现反转的现象。
2026-08-20 cs.AI cs.CL cs.CY
Investigating Lexical Sharing in Multilingual Machine Translation for Indian Languages
Saarland University（萨尔大学）；Inria（法国国家信息与自动化研究所）
本研究聚焦印度语言多语言机器翻译的词汇共享，探究数据采样与词表大小的性能权衡、音译对跨文字泛化的作用及对未见语言的泛化性，发现音译无明显提升，原文字训练的模型已具备跨文字鲁棒性。
2023-05-04 cs.AI cs.CL
Do Multilingual VLMs Reason Equally? A Cross-Lingual Visual Reasoning Audit for Indian Languages
Indian Institute of Information Technology, Raichur（印度信息技术学院赖丘尔分校）
本文通过将MathVista、ScienceQA和MMMU的980道题翻译成印度语言，评估了8种VLM在七种语言中的表现，发现切换至印度语言时准确率下降9.8-25个百分点，且达罗毗荼语比印欧语下降更多，链式推理反而降低了部分语言的性能。
2026-03-23 cs.CL cs.LG
IRIS: Interleaved Reinforcement with Incremental Staged Curriculum for Cross-Lingual Mathematical Reasoning
Singapore Institute of Technology（新加坡理工学院）；IIIT Delhi（德里印度理工学院）；University of California, San Diego（加州大学圣地亚哥分校）；Nanyang Technological University（南洋理工大学）；NVIDIA
IRIS通过结合逐步增加难度的监督微调与逆课程强化学习，提升多语言数学推理能力，尤其在低资源和双语环境下表现突出。
2026-04-27 cs.CL
NLP-CUET@LT-EDI-EACL2021: Multilingual Code-Mixed Hope Speech Detection using Cross-lingual Representation Learner
Chittagong University of Engineering and Technology（吉大港工程技术大学）
近年来，已经开发了几个系统来规范负面信息的传播，并从在线平台上消除攻击性，攻击性或辱骂性的内容。然而，为确定积极、鼓励和支持的内容而进行的研究数量有限。在这项工作中，我们的目标是确定社交媒体帖子/评论是否包含希望言论。我们提出了三种不同的模式，以确定希望在英语，泰米尔语和马拉雅拉姆语的讲话，以达到这一目的。为了实现这一目标，我们采用了各种机器学习（支持向量机，逻辑回归，集成），深度学习（卷积神经网络+长短期记忆）和基于Transformer（m-BERT，Indic-BERT，XLNet，XLM-Roberta）的方法。结果表明，XLM-Roberta优于所有其他技术获得加权$f_1$ -分数的$0.93$，$0.60$和$0.85$分别为英语，泰米尔语和马拉雅拉姆语。我们的团队在这三项任务中分别获得了$1^{st}$、$2^{nd}$和$1^{st}$等级。
2021-02-28 cs.CL
Reasoning-Guided Claim Normalization for Noisy Multilingual Social Media Posts
TIFIN
本文提出基于六何问题分解与推理引导的声明规范化方法，通过LoRA微调Qwen3-14B并结合检索增强少样本学习，在仅用英语训练的情况下实现20种语言的跨语言迁移，在多个排行榜上取得领先成绩。
2025-11-07 cs.CL
A Multilingual Parallel Corpora Collection Effort for Indian Languages
International Institute of Information Technology - Hyderabad（国际信息技术研究所海得拉巴分校）；Indian Institute of Technology - Kanpur（印度理工学院坎普尔分校）
我们提出了10种印度语言的句子对齐平行语料库-印地语，泰卢固语，泰米尔语，马拉雅拉姆语，古吉拉特语，乌尔都语，孟加拉语，奥里亚语，马拉地语，旁遮普语和英语-其中许多被归类为低资源。语料库是从在线资源汇编而成的，这些资源的内容跨语言共享。所呈现的语料库显著地扩展了现有的资源，这些资源要么不够大，要么局限于特定的领域（如健康）。我们还提供了一个独立的测试语料库，该语料库是从一个独立的在线来源编译的，可以独立地用于验证10种印度语言的性能。此外，我们报告了使用机器翻译的最新进展和使用基于深度神经网络的方法进行跨语言检索的工具来构建此类语料库的方法。
2020-07-15 cs.CL
Multilingual Content Moderation: A Case Study on Reddit
SRI International（斯坦福国际研究院）；University of Pittsburgh（匹兹堡大学）
内容审核是根据预定义的平台规则标记内容的过程。越来越需要人工智能版主来保护用户，并保护人类版主的心理健康免受创伤性内容的影响。虽然先前的工作集中于识别仇恨/攻击性语言，但它们不足以满足内容审核的挑战，因为1）审核决定是基于违反规则的，这包括对攻击性言论的检测，以及2）这样的规则通常在社区之间不同，这需要自适应解决方案。我们建议通过引入一个包含180万条Reddit评论的多语言数据集来研究内容审核的挑战，该数据集涵盖英语，德语，西班牙语和法语的56个子Reddit。我们进行了广泛的实验分析，突出潜在的挑战，并提出相关的研究问题，如跨语言迁移，标签噪声（人类偏见）下的学习，适度模型的转移，并预测违反规则。我们的数据集和分析可以帮助您更好地应对自动审核的挑战和机遇。
2023-02-19 cs.CL
Multilingual Text Style Transfer: Datasets & Models for Indian Languages
Charles University（查理大学）；University of Galway（戈尔韦大学）；Panlingua Language Processing LLP（Panlingua语言处理有限责任合伙公司）
本文聚焦印度多语言情感迁移任务，构建了八种印度语言的平行数据集，评估了多种基准模型及LLMs，证明了平行数据与MSF方法的有效性，是该领域的首次全面探索。
2024-08-27 cs.CL
EkoHate: Abusive Language and Hate Speech Detection for Code-switched Political Discussions on Nigerian Twitter
Afe Babalola University（阿费·巴巴洛拉大学）；Saarland University（萨尔大学）；University College London（伦敦大学学院）
本文构建了针对尼日利亚拉各斯州州长选举语码转换政治讨论的辱骂性语言和仇恨言论数据集EkoHate，采用二元和四标签方案，评估显示监督学习下F1分别达95.1和70.3，并验证了其跨数据集的迁移泛化能力。
2024-04-28 cs.CL
Challenge Dataset of Cognates and False Friend Pairs from Indian Languages
Indian Institute of Technology Bombay（印度理工学院孟买分校）；IITB-Monash Research Academy（印度理工学院孟买分校-莫纳什大学联合研究院）；Monash University（莫纳什大学）
同源词存在于不同语言的同一文本的多个变体中（例如，德语中的“hund”和英语中的“hound”是“狗”的意思。它们对各种自然语言处理（NLP）应用提出了挑战，例如机器翻译、跨语言意义消歧、计算系统发生学和信息检索。解决这个问题的一个可能的解决方案是识别跨语言对的同源词。在本文中，我们描述了创建两个同源数据集的12种印度语言，即梵语，印地语，阿萨姆语，奥里亚语，卡纳达语，古吉拉特语，泰米尔语，泰卢固语，旁遮普语，孟加拉语，马拉地语和马拉雅拉姆语。我们从一个印度语言的同源词典检索同源数据，并利用链接的印度语言Wordnets生成同源集。此外，我们使用Wordnet数据为11个语言对创建了一个False Friends数据集。我们还使用以前可用的基线同源检测方法来评估我们的数据集的有效性。我们还在词典编纂者的帮助下进行了手动评估，并与本文一起发布了精心策划的黄金标准数据集。
2021-12-17 cs.CL
IndicSQuAD: A Comprehensive Multilingual Question Answering Dataset for Indic Languages
First Author Affiliation（第一作者机构）；Second Author Affiliation（第二作者机构）
本文构建涵盖九种印度语言的多语言抽取式问答数据集 IndicSQuAD，并通过单语 BERT 与 MuRIL-BERT 基线评估揭示低资源挑战。
2025-05-13 cs.CL cs.LG
Tokenization Matters: Improving Zero-Shot NER for Indic Languages
University of Washington（华盛顿大学）；New York University（纽约大学）；Liverpool John Moores University（利物浦约翰·莫尔斯大学）
本研究系统比较了BPE、SentencePiece和字符级分词策略，发现SentencePiece在低资源印度语言的零样本NER中优于BPE，因其更好地保留实体一致性和语言结构，尤其适用于形态丰富的极低资源语言。
2025-04-23 cs.AI cs.CL
Multilingual Evaluation of Semantic Textual Relatedness
Pune Institute of Computer Technology（浦那计算机技术学院）
针对现有NLP研究多聚焦英语、多语言语义文本相关性（STR）研究不足的问题，本文依托SemEval-2024共享任务，在三种学习范式下探究多语言模型在四种语言STR任务上的表现，取得可观结果，为低资源语言相关研究提供启发。
2024-04-13 cs.CL
A Novel Multi-Task Learning Approach for Context-Sensitive Compound Type Identification in Sanskrit
IIT Kanpur（印度理工学院坎普尔分校）；IIT Kharagpur（印度理工学院克勒格布尔分校）；IIT Mandi（印度理工学院曼迪分校）
复合现象在梵语中是普遍存在的。它有助于实现简洁表达思想，同时丰富了语言的词汇和结构形式。在这项工作中，我们专注于梵语复合类型识别（SaCTI）的任务，在那里我们考虑的问题，确定一个复合词的组成部分之间的语义关系。早期的方法仅仅依赖于从组件中获得的词汇信息，而忽略了对SaCTI有用的最关键的上下文和句法信息。然而，SaCTI任务是具有挑战性的，主要是由于隐式编码的上下文敏感的复合组件之间的语义关系。因此，我们提出了一种新的多任务学习架构，它结合了上下文信息和丰富的补充句法信息，使用形态标记和依存句法分析作为两个辅助任务。SaCTI基准数据集上的实验显示，与最先进的系统相比，绝对增益为6.1分（准确度）和7.7分（F1分数）。此外，我们的多语言实验证明了所提出的架构在英语和马拉地语中的有效性。https://github.com/ashishgupta2598/SaCTI
2022-09-11 cs.CL
"A Passage to India": Pre-trained Word Embeddings for Indian Languages
Indian Institute of Technology Bombay（印度理工学院孟买分校）；IITB-Monash Research Academy（印度理工学院孟买分校-莫纳什大学联合研究学院）；Monash University（莫纳什大学）
密集的词向量或“词嵌入”对词的语义属性进行编码，现在已经成为机器翻译（MT）、问答（QA）、词义消歧（WSD）和信息检索（IR）等NLP任务的组成部分。在本文中，我们使用各种现有的方法来创建多个词嵌入的14种印度语言。我们为所有这些语言放置这些嵌入，即，阿萨姆语、孟加拉语、古吉拉特语、印地语、卡纳达语、康卡尼语、马拉雅拉姆语、马拉地语、尼泊尔语、奥迪亚语、旁遮普语、梵语、泰米尔语和泰卢固语。相对较新的方法，强调迎合上下文（BERT，ELMo等）已经显示出显著的改进，但是需要大量的资源来生成可用的模型。我们发布使用上下文和非上下文方法生成的预训练嵌入。我们还使用MUSE和XLM来训练上述所有语言对的跨语言嵌入。为了展示我们嵌入的有效性，我们评估了所有这些语言的XPOS，UPOS和NER任务的嵌入模型。我们使用8种不同的方法发布了总共436个模型。我们希望它们对资源受限的印度语言NLP有用。本文的题目是E.M.福斯特，最初出版于1924年。
2021-12-27 cs.CL
IIITH-BUT system for IWSLT 2025 low-resource Bhojpuri to Hindi speech translation
International Institute of Information Technology, Hyderabad, India（国际信息科技学院，海得拉巴）
本文提出 IIITH-BUT 系统，通过超参数优化、速度扰动、SpecAugment 及与马拉地语联合训练，显著提升低资源博杰普尔语到印地语语音翻译性能，并分析了翻译错误类型。
2025-06-05 cs.CL eess.AS
CLSE: Corpus of Linguistically Significant Entities
Google（谷歌）；Predibase
针对NLG中命名实体处理导致的语法错误问题，构建了涵盖34种语言、74种语义类型的语言学显著实体语料库CLSE，并基于其生成SGD-CLSE基准，在法语、马拉地语和俄语上评估了神经、模板及混合NLG系统的质量基线。
2023-08-30 cs.CL
SeeGULL Multilingual: a Dataset of Geo-Culturally Situated Stereotypes
Google Research（谷歌研究院）
针对多语言模型安全公平评估依赖英文资源、难适配不同文化刻板印象评估的问题，研究结合大语言模型生成与文化背景验证，构建了覆盖20种语言、23个地区的2.5万余条刻板印象的多语言数据集，助力识别模型评估缺口。
2024-03-08 cs.CL cs.CV
IndicParam: Benchmark to evaluate LLMs on low-resource Indic Languages
Indian Institute of Management Indore（印度管理学院印度尔）
IndicParam通过评估20种LLM在低资源印度-斯瓦希里语言上的表现，揭示了跨语言迁移的局限性，并为这些语言提供了挑战性的基准测试。
2026-09-29 cs.CL
L3Cube-IndicNews: News-based Short Text and Long Document Classification Datasets in Indic Languages
Pune Institute of Computer Technology（浦那计算机技术学院）；Indian Institute of Technology Madras（印度马德拉斯理工学院）；L3Cube Labs（L3Cube实验室）
本文提出L3Cube-IndicNews，为10种印度语言构建新闻标题、长文档和长段落三类分类数据集，并用多种BERT模型评估，推动印度区域语言主题分类与跨语言分析研究。
2024-04-26 cs.CL cs.LG
Code-mixed Sentiment and Hate-speech Prediction
针对代码混合文本的情感分析和仇恨言论检测任务，研究构建了支持非正式语言的英-印地语、英-斯洛文尼亚语双语预训练模型，并评估多类模型性能，发现微调双语及社交媒体专用多语模型表现最佳且在代码混合数据上性能略优。
2024-05-21 cs.CL
SurakshaEval: An Indic Safety Benchmark for Multilingual LLMs
Inception42；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；University of Michigan（密歇根大学）；Institute of Computer Science Artificial Intelligence & Technology（计算机科学人工智能与技术研究院）；International Institute of Information Technology Hyderabad（海得拉巴国际信息技术学院）；Ministry of Electronics and IT India（印度电子与信息技术部）；Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
针对现有LLM安全评估数据集忽视印度语言文化安全风险的问题，本文推出SurakshaEval基准，测试发现多语言LLM在印度语场景下安全表现不足，凸显了适配区域数据的安全评估框架的必要性。
2026-08-11 cs.CL
Factorization of Fact-Checks for Low Resource Indian Languages
IIIT-Delhi（德里印度信息技术学院）
技术的进步和互联网对每个人的可访问性正在彻底改变实时的信息。自由表达你的想法而不通过任何可信度检查，导致虚假内容在生态系统中传播。它可能对个人和整个社会产生灾难性的影响。在印度，假新闻的传播也越来越猖獗。被揭穿的信息经常被重新发布，并替换描述，声称它描述了一些不同的事件。为了遏制这种捏造的故事，有必要调查这种公开的重复和虚假声明。大多数关于自动事实核查和虚假新闻检测的研究仅限于英语。但是对于像印度这样一个只有10%的识字人口会说英语的国家来说，地方语言在传播谎言方面的作用是不能被削弱的。在本文中，我们介绍了FactDRIL：第一个大规模的多语言事实检查数据集的区域印度语言。我们收集了一个涵盖11种低资源语言的7个月的详尽数据集。我们提出的数据集包括9，058个属于英语的样本，5，155个属于印地语的样本，其余8，222个样本分布在各种区域语言中，即孟加拉语，马拉地语，马拉雅拉姆语，泰卢固语，泰米尔语，奥里亚语，阿萨姆语，旁遮普语，乌尔都语，僧伽罗语和缅甸语。我们还介绍了FactDRIL中三个M（多语言，多媒体，多领域）的详细特征，以及其他各种属性的完整列表，使其成为一个独特的数据集进行研究。最后，我们提出了数据集的一些潜在用例。我们希望这个数据集将是一个有价值的资源，并作为一个起点，以打击低资源语言的假新闻扩散。
2021-02-23 cs.CL cs.CY
