WLV-RIT at HASOC-Dravidian-CodeMix-FIRE2020: Offensive Language Identification in Code-switched YouTube Comments
University of Wolverhampton(伍尔弗汉普顿大学);Rochester Institute of Technology(罗切斯特理工学院)
本文介绍了WLV-RIT进入印度-欧洲语言中的仇恨言论和攻击性内容识别(HASOC)共享任务2020。HASOC 2020组织者为参与者提供了注释数据集,其中包含以德拉维语(马拉雅拉姆语-英语和泰米尔语-英语)混合的社交媒体帖子。我们参与了任务1:代码混合马拉雅拉姆语Youtube评论中的攻击性评论识别。在我们的方法中,我们利用现有的英语数据,通过应用跨语言的上下文词嵌入和迁移学习来预测马拉雅拉姆语数据。我们进一步改善使用各种微调策略的结果。我们的系统在测试集上取得了0.89的加权平均F1分数,在12名参与者中排名第5位。
2020-11-01 cs.AI cs.CL cs.LG
Galileo at SemEval-2020 Task 12: Multi-lingual Learning for Offensive Language Identification using Pre-trained Language Models
Baidu Inc.(百度公司)
本文描述了Galileo在SemEval-2020任务12中检测和分类社交媒体中的攻击性语言的性能。针对攻击性语言识别问题,提出了一种基于预训练语言模型、ERNIE和XLM-R的多语种识别方法。针对攻击性语言的分类问题,提出了一种基于软标签的知识蒸馏方法。我们的团队参与了所有三个子任务。在子任务A -攻击性语言识别中,我们在所有语言的平均F1分数方面排名第一。我们也是唯一一支在所有语言中排名前三的团队。我们还在子任务B -犯罪类型自动分类和子任务C -犯罪目标识别中获得了第一名。
2020-10-07 cs.CL
NLP-CUET@LT-EDI-EACL2021: Multilingual Code-Mixed Hope Speech Detection using Cross-lingual Representation Learner
Chittagong University of Engineering and Technology(吉大港工程技术大学)
近年来,已经开发了几个系统来规范负面信息的传播,并从在线平台上消除攻击性,攻击性或辱骂性的内容。然而,为确定积极、鼓励和支持的内容而进行的研究数量有限。在这项工作中,我们的目标是确定社交媒体帖子/评论是否包含希望言论。我们提出了三种不同的模式,以确定希望在英语,泰米尔语和马拉雅拉姆语的讲话,以达到这一目的。为了实现这一目标,我们采用了各种机器学习(支持向量机,逻辑回归,集成),深度学习(卷积神经网络+长短期记忆)和基于Transformer(m-BERT,Indic-BERT,XLNet,XLM-Roberta)的方法。结果表明,XLM-Roberta优于所有其他技术获得加权$f_1$ -分数的$0.93$,$0.60$和$0.85$分别为英语,泰米尔语和马拉雅拉姆语。我们的团队在这三项任务中分别获得了$1^{st}$、$2^{nd}$和$1^{st}$等级。
2021-02-28 cs.CL
A Systematic Analysis of Subwords and Cross-Lingual Transfer in Multilingual Translation
University of Cape Town(开普敦大学)
本文系统分析子词分割方法对多语言翻译中跨语言迁移的影响,发现子词正则化促进多语言建模协同,BPE更利于跨语言微调,并揭示正字法词边界差异比语言不相关性更阻碍迁移。
2024-03-29 cs.CL
A Federated Learning Approach to Privacy Preserving Offensive Language Identification
George Mason University(乔治梅森大学);Lancaster University(兰卡斯特大学);Aston University(阿斯顿大学)
针对社交媒体攻击性语言识别中的用户隐私问题,提出基于联邦学习的去中心化隐私保护架构及模型融合方法,在4个英文基准数据集上性能优于基线,还开展了英西跨语言初步实验。
2024-04-17 cs.CL cs.LG
A Phonemically Comprehensive, ASCII-Only Romanization Scheme for Thai and Lao: Systematic Cross-Lingual Correspondence and Chinese-User-Friendly Design
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文提出一种音位全面、纯ASCII的泰语和老挝语罗马化方案,统一设计以保持系统对应,兼顾拼音和粤拼,并采用紧凑声调表示,便于学习与跨语言处理。
2026-09-18 cs.CL
Multilingual Content Moderation: A Case Study on Reddit
SRI International(斯坦福国际研究院);University of Pittsburgh(匹兹堡大学)
内容审核是根据预定义的平台规则标记内容的过程。越来越需要人工智能版主来保护用户,并保护人类版主的心理健康免受创伤性内容的影响。虽然先前的工作集中于识别仇恨/攻击性语言,但它们不足以满足内容审核的挑战,因为1)审核决定是基于违反规则的,这包括对攻击性言论的检测,以及2)这样的规则通常在社区之间不同,这需要自适应解决方案。我们建议通过引入一个包含180万条Reddit评论的多语言数据集来研究内容审核的挑战,该数据集涵盖英语,德语,西班牙语和法语的56个子Reddit。我们进行了广泛的实验分析,突出潜在的挑战,并提出相关的研究问题,如跨语言迁移,标签噪声(人类偏见)下的学习,适度模型的转移,并预测违反规则。我们的数据集和分析可以帮助您更好地应对自动审核的挑战和机遇。
2023-02-19 cs.CL
Cross-lingual Models of Word Embeddings: An Empirical Comparison
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Carnegie Mellon University(卡内基梅隆大学)
尽管人们对使用跨语言知识来学习各种任务的词嵌入感兴趣,但文献中缺乏对可能方法的系统比较。我们进行了广泛的评估,四个流行的方法诱导跨语言嵌入,每一个需要不同形式的监督,在四个排版不同的语言对。我们的评估设置跨越四个不同的任务,包括单语言和跨语言相似性的内在评估,以及下游语义和句法应用程序的外在评估。我们发现,需要昂贵的跨语言知识的模型几乎总是表现得更好,但廉价的监督模型往往在某些任务上具有竞争力。
2016-06-08 cs.CL
To Translate or Not to Translate: A Systematic Investigation of Translation-Based Cross-Lingual Transfer to Low-Resource Languages
University of Würzburg(维尔茨堡大学);Center for Artificial Intelligence and Data Science (CAIDAS)(人工智能与数据科学中心(CAIDAS))
该研究系统性评估并提出了面向低资源语言的基于翻译的跨语言迁移方法,证明其效果优于多语言语言模型零样本迁移,还提出了适配无MT支持语言的策略及更优的模型选择方法,为XLT研究的基线设置提供参考。
2024-07-10 cs.CL
A Systematic Comparison of Multilingual Interpretability Methods Reveals Anisotropy-Driven Failures
Linköping University(林雪平大学)
该研究系统比较4种共享度量指标在21个多语言基础模型中的表现,发现指标分歧源于表征各向异性,控制变量后仅ILO与跨语言迁移高度相关,推荐将ILO作为主要共享度量并结合各向异性诊断。
2026-09-07 cs.CL
Measuring Cross-Lingual Transferability of Multilingual Transformers on Sentence Classification
Beijing Institute of Technology(北京理工大学)
提出IGap指标,用于测量多语言Transformer在句子分类上的跨语言迁移能力,实验证明其优于基线,并揭示三个相关发现。
2023-05-15 cs.CL
Cross-lingual Offensive Language Identification for Low Resource Languages: The Case of Marathi
Rochester Institute of Technology(罗切斯特理工学院);University of Wolverhampton(伍尔弗汉普顿大学)
攻击性语言在社交媒体上的广泛存在促使开发能够自动识别此类内容的系统。除了少数显著的例外,大多数关于自动攻击性语言识别的研究都涉及英语。为了解决这个缺点,我们引入了MOLD,马拉地语攻击性语言数据集。MOLD是为马拉地语编制的第一个此类数据集,从而为低资源的印度-雅利安语言的研究开辟了一个新的领域。我们在这个数据集上展示了几个机器学习实验的结果,包括零短路和其他迁移学习实验,这些实验是在孟加拉语、英语和印地语现有数据的最先进的跨语言Transformers上进行的。
2021-09-08 cs.AI cs.CL cs.LG
A Twitter BERT Approach for Offensive Language Detection in Marathi
Pune Institute of Computer Technology(浦那计算机技术学院);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
自动攻击性语言检测对于打击仇恨言论的传播至关重要,特别是在社交媒体上。本文介绍了我们在低资源印度语马拉地语攻击性语言识别方面的工作。这个问题被制定为一个文本分类任务,以确定一个tweet作为进攻性或非进攻性。我们在这个分类任务中评估了不同的单语言和多语言BERT模型,重点是用社交媒体数据集预训练的BERT模型。我们比较了MuRIL,MahaTweetBERT,MahaTweetBERT-Hateful和MahaBERT在HASOC 2022测试集上的性能。我们还探索了其他现有的马拉地仇恨言论语料库HASOC 2021和L3立方体MahaHate的外部数据增强。MahaTweet BERT是一个BERT模型,在对组合数据集(HASOC 2021 + HASOC 2022 + MahaHate)进行微调时,对马拉地语推文进行了预训练,在HASOC 2022测试集上的F1得分为98.43,优于所有模型。有了这个,我们还提供了HASOC 2022 / MOLD v2测试集的最新结果。
2022-12-20 cs.CL
CIBuzzBench: A Benchmark for Cross-Lingual Understanding of Chinese Internet Buzzwords
Dalian University of Technology(大连理工大学);Meta AI;Beijing University of Posts and Telecommunications(北京邮电大学);Meituan(美团);Beijing Police College(北京警察学院)
针对大语言模型跨语言理解中文网络流行语能力不足的问题,构建首个中译英基准CIBuzzBench,包含3001个流行语及多维度标注,设计含义解释、对应匹配和危害检测三项任务,实验表明现有模型在非字面解释、稳健匹配和危害检测上仍存在显著困难。
2026-09-21 cs.AI cs.CL
ML2B: Benchmarking LLMs on Cross-Lingual ML Pipeline Generation
HSE University(俄罗斯伏尔加格勒国立大学);Constructor University(Constructor大学);National University of Singapore(新加坡国立大学)
ML2B是首个评估大语言模型跨语言ML流水线生成能力的基准,含多领域多语言任务,实验发现跨语言性能退化高度依赖任务,挑战了传统多语言模型能力假设。
2026-07-30 cs.CL
Can Embedding Similarity Predict Cross-Lingual Transfer? A Systematic Study on African Languages
Carnegie Mellon University Africa(卡内基梅隆大学非洲分校);North-West University(北开普敦大学)
本文通过系统评估五种嵌入相似性度量,发现余弦间隙和检索度量能有效预测跨语言迁移成功,同时揭示了模型特定分析的重要性。
2026-01-06 cs.CL cs.LG
Quantifying Cross-Lingual Transfer in Paralinguistic Speech Tasks
Barcelona Supercomputing Center (BSC)(巴塞罗那超级计算中心);Universitat Politècnica de Catalunya (UPC)(加泰罗尼亚理工大学)
本文提出跨语言迁移矩阵(CLTM)以量化副语言语音任务中语言间的迁移效应,通过性别识别和说话人验证任务分析不同语言间的性能差异。
2026-10-07 cs.CL eess.AS
SWORD: Wikidata-based Distortions Reveal Hidden Cross-Lingual Inconsistencies in LLM Factual Error Rejection
Soongsil University(崇实大学);KAIST(韩国科学技术院)
提出SWORD基准,通过扰动Wikidata三元组生成多语言事实错误陈述,揭示LLM依赖分布熟悉度而非事实验证,并在亚洲语言上出现显著性能下降。
2026-09-10 cs.CL
On the Limitations of Cross-lingual Encoders as Exposed by Reference-Free Machine Translation Evaluation
EPFL(洛桑联邦理工学院);Royal Holloway University of London(伦敦大学皇家霍洛威学院);Technische Universität Darmstadt(达姆施塔特工业大学);University of Mannheim(曼海姆大学)
跨语言编码器的评估通常通过在有监督的下游任务中的zero-shot跨语言迁移或通过无监督的跨语言文本相似性来执行。在本文中,我们关注的是无参考机器翻译(MT)评估,我们直接将源文本与(有时是低质量的)系统翻译进行比较,这代表了多语言编码器的自然对抗设置。无参考评估有望对机器翻译系统进行网络规模的比较。我们系统地研究了一系列基于最先进的跨语言语义表示的指标,这些语义表示是通过预训练的M-BERT和LASER获得的。我们发现,它们作为无参考机器翻译评估的语义编码器表现不佳,并确定了它们的两个关键限制,即,(a)相互翻译表示之间的语义不匹配,更突出的是,(b)无法惩罚“翻译”,即,低质量的直译。我们提出了两个部分补救措施:(1)事后重新对齐的向量空间和(2)耦合的语义相似性为基础的指标与目标端语言建模。在段级MT评估中,我们的最佳度量超过基于参考的BLEU 5.7个相关点。
2020-06-08 cs.CL
ANHALTEN: Cross-Lingual Transfer for German Token-Level Reference-Free Hallucination Detection
CAIDAS, University of Würzburg(维尔茨堡大学CAIDAS机构);NEC Laboratories Europe(欧洲NEC实验室);University of Mannheim(曼海姆大学)
本文提出德语词元级无参考幻觉检测数据集ANHALTEN,并探索跨语言迁移方法,发现少样本迁移在多数设置下最有效,且更大上下文长度提升检测性能。
2024-07-18 cs.CL
Multilingual and Cross-Lingual Intent Detection from Spoken Data
PolyAI Limited(PolyAI有限公司)
我们提出了一个系统的研究,多语言和跨语言的意图检测口语数据。该研究利用了这项工作中提出的一种新资源,称为MInDS-14,这是使用语音数据进行意图检测任务的第一个训练和评估资源。它涵盖了从电子银行领域的商业系统中提取的14个意图,与14种不同语言的口语示例相关联。我们的关键结果表明,将机器翻译模型与最先进的多语言句子编码器(例如,LaBSE)可以在MInDS-14中涵盖的大多数目标语言中产生强大的意图检测器,并提供跨不同轴的比较分析:例如,zero-shot与少样本学习、翻译方向和语音识别的影响。我们认为这项工作是朝着更具包容性的开发和评估来自口语数据的多语言意图检测器迈出的重要一步,与以前的工作相比,它涉及的语言范围要广得多。
2021-04-17 cs.CL
ChemCLIR-Bench: Benchmarking Cross-Lingual Information Retrieval in Multilingual Chemical Patents
McMaster University(麦克马斯特大学);BASF Canada Inc.(巴斯夫加拿大公司)
该工作构建了多语言化学专利CLIR基准,评估八种嵌入模型,发现跨语言检索性能显著下降,强调需更稳健的方法。
2026-09-22 cs.CL
Not All Languages Are Created Equal in LLMs: Improving Multilingual Capability by Cross-Lingual-Thought Prompting
Microsoft Research Asia(微软亚洲研究院);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
针对LLMs多语言能力不均的问题,提出跨语言思考提示(XLT)方法,通过通用模板激发跨语言与逻辑推理,在7个基准上显著提升多语言任务表现并缩小语言间性能差距。
2023-10-22 cs.CL
Cross-lingual Aspect-Based Sentiment Analysis: A Survey on Tasks, Approaches, and Challenges
University of West Bohemia in Pilsen, Faculty of Applied Sciences, Department of Computer Science and Engineering(西波希米亚大学普日森分校应用科学学院计算机科学与工程系);NTIS -- New Technologies for the Information Society(信息社会新科技机构)
本文全面综述了跨语言基于方面的情感分析(ABSA)的任务、数据集、建模与迁移方法,并探讨了基于LLMs的研究现状及未来挑战。
2025-08-13 cs.CL
Revisiting the Primacy of English in Zero-shot Cross-lingual Transfer
Google Research(谷歌研究院)
尽管它们取得了成功,但大型预训练的多语言模型并没有完全缓解对标记数据的需求,这对于所有目标语言来说都是很麻烦的。Zero-shot跨语言迁移正在成为一种实用的解决方案:预先训练的模型,后来在一种迁移语言上进行微调,在许多目标语言上进行测试时,表现出令人惊讶的性能。英语是迁移的主要源语言,流行的zero-shot基准也加强了这一点。然而,这种默认选择并没有经过系统的审查。在我们的研究中,我们将英语与其他迁移语言进行了比较,以进行微调,包括两个预训练的多语言模型(mBERT和mT5)以及多分类和问答任务。我们发现,其他高资源的语言,如德语和俄语往往更有效地转移,特别是当一组目标语言是不同的或未知的先验。出乎意料的是,即使训练集是从英语自动翻译的,这也是真的。这一发现可以对多语言zero-shot系统产生直接影响,并应告知未来的基准设计。
2021-06-30 cs.CL
Assessing the Role of Lexical Semantics in Cross-lingual Transfer through Controlled Manipulations
Hebrew University of Jerusalem(耶路撒冷希伯来大学)
该研究通过人工操控英语句子模拟目标语言特征的方法,评估词汇语义等语言属性对跨语言迁移中语言与英语预训练表示空间对齐质量的影响,发现词汇匹配程度的影响远大于文字、词序等属性。
2024-08-14 cs.CL
Enhancing LLM Language Adaption through Cross-lingual In-Context Pre-training
Zhejiang University(浙江大学);Tongyi Lab, Alibaba Group(阿里巴巴集团 Tongyi 实验室)
本文提出跨语言上下文预训练方法CrossIC-PT,通过交错排列语义相关的双语文档并进行下一个词预测,在不依赖平行语料的情况下增强大语言模型的多语言迁移能力,在多个模型和语言上取得显著性能提升。
2025-09-19 cs.CL
Multilingual and cross-lingual document classification: A meta-learning approach
University of Amsterdam(阿姆斯特丹大学);Facebook AI
世界上绝大多数语言都被认为是成功应用深度学习方法的资源不足。在这项工作中,我们提出了一种元学习方法,在有限的资源设置文件分类,并证明其有效性在两个不同的设置:Few-Shot,跨语言适应以前看不见的语言;和多语种联合训练时,有限的目标语言数据是在训练过程中。我们对几种元学习方法进行了系统的比较,调查了数据可用性方面的多个设置,并表明元学习在具有异构任务分布的设置中蓬勃发展。我们对现有的元学习方法提出了一个简单而有效的调整,它允许更好,更稳定的学习,并在几种语言上建立了一个新的艺术状态,同时只使用少量的标记数据来对其他语言进行同等的处理。
2021-04-24 cs.CL
Generative Models Enhanced by Sequence Labelling and Aspect-Code Switching Improve Cross-lingual Aspect-Based Sentiment Analysis
University of West Bohemia in Pilsen(比尔森西波希米亚大学);NTIS – New Technologies for the Information Society(NTIS——信息社会新技术研究院);Faculty of Applied Sciences(应用科学学院)
本文提出SeqLab框架结合序列标注与方面代码切换技术,在11种语言、3个领域的跨语言ABSA任务中超越SOTA,还评估了多语言对并拓展至更具挑战的TASD任务。
2026-09-01 cs.CL
Expanding the Text Classification Toolbox with Cross-Lingual Embeddings
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);Swisscom (Switzerland) AG(瑞士电信(瑞士)股份公司);University of Southern California (USC)(南加利福尼亚大学);Swisscom AG(瑞士电信股份公司)
文本分类和自然语言处理(NLP)的大部分工作都集中在英语或其他少数几种拥有数亿单词文本语料库的语言上。这正在创造一个新版本的数字鸿沟:人工智能(AI)鸿沟。基于迁移的方法,如跨语言文本分类(CLTC)-将不同语言编写的文本分类到一个共同的分类法中的任务,是解决新兴AI鸿沟的一个很有前途的解决方案。CLTC最近的工作集中在展示使用双语词嵌入作为特征的好处,将CLTC问题降级为仅仅基于简单平均感知器的基准。在本文中,我们更广泛和系统地探讨了CLTC问题的两种风格:新闻主题分类和社交媒体中的文本流失意图检测(TCID)。特别是,我们测试的假设,嵌入上下文更有效,多任务的学习多语言词嵌入和文本分类;我们探索CLTC的神经架构;我们从双到多语言词嵌入。对于所有架构、词嵌入类型和数据集,我们注意到支持多语言联合训练的一致增益趋势,特别是对于低资源语言。
2019-03-26 cs.CL
Zero-shot Reading Comprehension by Cross-lingual Transfer Learning with Multi-lingual Language Representation Model
National Taiwan University(台湾大学)
由于收集每种语言的训练数据是不可行的,因此人们对跨语言迁移学习越来越感兴趣。本文系统地研究了基于多语种语料库预训练语言表征模型的zero-shot跨语言迁移学习在阅读理解任务中的应用。实验结果表明,使用预先训练好的语言表示,零样本学习是可行的,不需要将源数据翻译成目标语言,甚至会降低性能。我们进一步探讨了模型在zero-shot设置中学习了什么。
2019-09-15 cs.CL cs.LG stat.ML
Tokenization and Morphological Fidelity in Uralic NLP: A Cross-Lingual Evaluation
University of Eastern Finland(东芬兰大学);AI-Bio Convergence Research Institute(人工智能-生物融合研究所);Soongsil University(崇实大学)
本文通过比较三种子词方法在六个乌拉尔语中的表现,发现OBPE在形态对齐和标注准确性上优于传统方法,尤其在拉丁字母语中表现突出。
2026-02-14 cs.CL
Zero-Shot to Full-Resource: Cross-lingual Transfer Strategies for Aspect-Based Sentiment Analysis
Media Informatics Group, University of Regensburg, Regensburg, Germany(莱茵河畔大学媒体信息学小组);Information Science Group, University of Regensburg, Regensburg, Germany(莱茵河畔大学信息科学小组)
本文评估了七种语言的ABSA方法,探讨了不同Transformer架构在零资源、数据仅用和全资源设置下的表现,发现大语言模型在复杂任务中表现最佳,同时提出两个新的德语数据集以促进多语言ABSA研究。
2026-04-29 cs.CL
A Systematic Evaluation of Cross-Lingual Consistency Enhancement Methods in Multilingual Language Models
University of Groningen(格罗宁根大学);LMU Munich(慕尼黑大学);University of Amsterdam(阿姆斯特丹大学)
本研究针对多语言语言模型的跨语言一致性增强方法开展统一评估,发现后训练方法更可靠,直接分布对齐效果显著,且未对文化相关问答的响应能力造成系统性损害,为相关研究提供参考。
2026-09-22 cs.AI cs.CL
Effects of Cross-lingual Evidence in Multilingual Medical Question Answering
HiTZ Center - Ixa, University of the Basque Country UPV/EHU(巴斯克大学希茨中心 - Ixa,巴斯克国家大学UPV/EHU)
本文研究了多语言医疗问答中跨语言证据的作用,探讨了不同规模模型在三种外部证据源下的表现,发现大模型在英语中表现更优,而低资源语言需结合英式和目标语言检索以获得相近准确率。
2026-04-22 cs.CL
CCFQA: A Benchmark for Cross-Lingual and Cross-Modal Speech and Text Factuality Evaluation
CCFQA是一个用于评估多模态大语言模型跨语言和跨模态事实性能力的基准,通过少样本迁移学习策略在多语言语音问答任务中取得与GPT-4o-mini-Audio相当的性能。
2026-01-27 cs.CL
Biomedical Machine Translation for Low-Resource Arabic-Script Languages via Cross-Lingual Transfer and LoRA Adapter Merging
研究针对阿拉伯语脚本低资源语言生物医学翻译稀缺问题,利用阿拉伯语和波斯语作枢纽,通过LoRA微调训练特定领域适配器,评估少样本学习、最小监督适应及零数据LoRA适配器合并三种策略,展现不同策略效果及跨语言转移局限性。
2026-07-27 cs.CL
XQ-MEval: A Dataset with Cross-lingual Parallel Quality for Benchmarking Translation Metrics
Nara Institute of Science and Technology(奈良科学技术大学);Fudan University(复旦大学)
本文提出XQ-MEval数据集,通过注入错误并过滤生成伪翻译,评估翻译度量标准的跨语言评分偏见问题,提供了首个实证证据。
2026-04-19 cs.CL
Toward a Cross-Lingual Romanization Ecosystem for Sinitic Languages: A Paired Mandarin-Cantonese Case Study
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文提出汉藏语系罗马字生态系统框架,开发多种汉藏语系语言罗马字方案及配套开源基础设施,经实验验证其可提升低资源汉藏语系语音技术的迁移效果。
2026-09-11 cs.CL
The Devil Is in the Word Alignment Details: On Translation-Based Cross-Lingual Transfer for Token Classification Tasks
University of Würzburg Center for Artificial Intelligence and Data Science (CAIDAS)(乌尔姆大学人工智能与数据科学中心)
本文系统研究了词对齐器在基于翻译的跨语言迁移标签投影中的底层设计决策,发现优化算法、过滤和预分词可使其媲美基于标记的方法,并提出集成translate-train和translate-test预测的新策略,显著提升性能与鲁棒性。
2025-08-08 cs.CL
Lost in Interpretation: The Plausibility-Faithfulness Trade-off in Cross-Lingual Explanations
Indian Institute of Technology Kharagpur(印度理工学院Khargpur分校);TCG Crest(TCG研究中心);National University of Singapore(新加坡国立大学)
本文研究了跨语言解释中可信度与忠实度之间的权衡,发现以英语为枢纽的解释在与人类理由的一致性上表现更好,但其证据在模型预测中的因果基础较弱。研究发现,英语解释虽然流畅,但与原生语言条件相比,其解释的全面性下降了5.7倍,甚至在任务准确性保持稳定的情况下,也未能保留语义细微差别。因此,建议在输入语言中审计解释,报告多方面的忠实度指标,并将英语解释视为沟通摘要而非忠实的决策轨迹。
2026-05-19 cs.CL
Exploring multi-task multi-lingual learning of transformer models for hate speech and offensive speech identification in social media
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
仇恨言论已成为在线社交媒体平台的主要内容审核问题。鉴于在线内容制作的数量和速度,在任何平台上都不可能手动调节与仇恨言论相关的内容。在本文中,我们利用一个多任务和多语言的方法,最近提出的Transformer神经网络的基础上解决三个子任务的仇恨言论。这些子任务是2019年印欧语言仇恨言论和攻击性内容识别(HASOC)共享任务的一部分。我们通过利用多任务模型来扩展我们对该竞赛的提交,这些模型使用三种方法进行训练,a)具有单独任务负责人的多任务学习,b)反向翻译,以及c)多语言训练。最后,我们研究了各种模型的性能,并确定了基于Transformer的模型表现不同且更好的实例。我们表明,可以利用不同的组合方法来获得可以在不同的语言和任务上轻松推广的模型,同时(在某些情况下)牺牲轻微的准确性,以大大减少推理时间计算成本。我们开源了HASOC 2019代码的更新版本,并在https://github.com/socialmediaie/MTML_HateSpeech上进行了新的改进。
2021-01-27 cs.AI cs.CL cs.LG
CReMa: Crisis Response through Computational Identification and Matching of Cross-Lingual Requests and Offers Shared on Social Media
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院);Qatar Computing Research Institute, Hamad Bin Khalifa University(哈马德·本·哈利法大学卡塔尔计算研究所)
本文提出CReMa方法,通过融合文本、时间与空间特征并利用危机预训练模型和多语言嵌入,在16种语言的社交媒体数据上实现请求与提供的跨语言识别与匹配,并构建了百万级全球数据集基准。
2024-08-29 cs.CL
Cross-lingual Data Transformation and Combination for Text Classification
Southern Medical University(南方医科大学);Mayo Clinic(妙佑医疗国际)
文本分类是文本数据采掘的一项基本任务。为了训练一个可推广的模型,必须收集大量的文本。为了解决数据不足的问题,有时可能需要跨语言数据。然而,跨语言数据源可能会遭受数据不兼容性,因为用不同语言编写的文本可能包含不同的单词序列和语义模式。机器翻译和词嵌入对齐为跨语言数据训练提供了转换和组合数据的有效途径。据我们所知,很少有工作做评估如何进行语义空间转换和数据组合的方法影响分类模型的性能训练从跨语言资源。在本文中,我们系统地评估了两种常用的CNN(卷积神经网络)和RNN(递归神经网络)文本分类器的性能与不同的数据转换和组合策略。单语模型是从英语和法语以及它们的翻译和对齐嵌入中训练出来的。我们的研究结果表明,语义空间转换可以有条件地提高单语模型的性能。双语模型是从英语和法语的组合训练的。我们的研究结果表明,跨语言分类模型可以通过从翻译或对齐的嵌入空间学习来显著受益于跨语言数据。
2019-06-23 cs.CL cs.IR
Towards Unifying Multi-Lingual and Cross-Lingual Summarization
Soochow University(苏州大学);Tencent Inc(腾讯公司);Beijing University of Posts and Telecommunications(北京邮电大学);Fudan University(复旦大学)
本文将多语言摘要(MLS)与跨语言摘要(CLS)统一为多对多摘要(M2MS)设定,提出通过三阶段预训练学习语言建模、跨语言及摘要能力的预训练模型Pisces,在零样本方向上显著超越基线。
2023-05-16 cs.AI cs.CL
Cross-Lingual Jailbreak Detection via Semantic Codebooks
AI Talent Hub, ITMO University(AI人才中心、ITMO大学)
本文研究通过语言无关的语义相似性检测跨语言 jailbreak 攻击,评估了四种语言、两种翻译流程、三种嵌入模型和三种目标 LLM 的效果,发现语义相似性在标准基准上表现良好,但在分布偏移情况下性能下降。
2026-04-28 cs.AI cs.CL
Evaluating Multilingual Text Encoders for Unsupervised Cross-Lingual Retrieval
University of Mannheim(曼海姆大学);University of Cambridge(剑桥大学)
基于神经Transformer架构的预训练多语言文本编码器,如多语言BERT(mBERT)和XLM,在无数的语言理解任务上取得了很好的性能。因此,它们已被采用作为多语言和跨语言表示学习和迁移的一个去范例,使跨语言词嵌入(CLWEs)有效地过时。然而,问题仍然存在,在何种程度上这一发现推广1)无监督的设置和2)特设跨语言IR(CLIR)的任务。因此,在这项工作中,我们提出了一个系统的实证研究集中在国家的最先进的多语言编码器跨语言的文档和句子检索任务在大量的语言对的适用性。与有监督的语言理解相比,我们的研究结果表明,对于无监督的文档级CLIR -一种没有针对IR特定微调的相关性判断的设置-预训练编码器未能显着优于基于CLWE的模型。对于高级CLIR,我们证明了可以实现最先进的性能。然而,使用通用多语言文本编码器“现成的”并不能达到峰值性能,而是依赖于它们的变体,这些变体进一步专门用于句子理解任务。
2021-01-21 cs.CL cs.IR
On the Limitations of Cross-Lingual Consistency in Multilingual Text-to-image Generation
Khalifa University(哈利法大学);Queen Mary University of London(伦敦玛丽女王大学);The Chinese University of Hong Kong(香港中文大学);The University of Western Australia(西澳大学);The University of Melbourne(墨尔本大学);University of Central Florida(中佛罗里达大学)
本文针对多语言文本到图像生成的跨语言一致性局限,构建含10种语言、3.3万条提示词的LingT2I基准,经分析揭示语言相关生成规律,为开发更鲁棒的多语言T2I模型奠定基础。
2026-08-12 cs.AI cs.CL
How and Where to Translate? The Impact of Translation Strategies in Cross-lingual LLM Prompting
Amazon(亚马逊)
该研究针对跨语言RAG系统中知识库与上下文语言不一致的问题,系统评估不同提示翻译策略对RAG增强LLM分类任务的影响,发现优化策略可显著提升跨语言知识共享与下游性能,为低资源语言场景提供优化方向。
2025-07-21 cs.AI cs.CL
A Survey on Cross-Lingual Summarization
Soochow University(苏州大学);Tencent Inc(腾讯公司);Beijing University of Posts and Telecommunications(北京邮电大学);Fudan University(复旦大学)
跨语言摘要是用一种语言生成摘要的任务(例如,英语)以不同的语言(例如,中文)。在全球化背景下,这一课题越来越受到计算语言学界的关注。然而,对这项任务仍然缺乏全面的审查。因此,我们对该领域的数据集、方法和挑战进行了首次系统的批判性综述。具体来说,我们仔细组织现有的数据集和方法,根据不同的构造方法和解决方案的范例,分别。对于每一种类型的数据集或方法,我们都详细介绍和总结了以前的工作,并进一步将它们相互比较,以提供更深入的分析。最后,我们还讨论了有前途的方向,并提供了我们的想法,以促进未来的研究。本调查面向跨语言摘要的初学者和专家,我们希望它能成为对该领域感兴趣的研究人员和工程师的起点和新想法的来源。
2022-08-30 cs.AI cs.CL
Free Lunch: Robust Cross-Lingual Transfer via Model Checkpoint Averaging
Center For Artificial Intelligence and Data Science, University of Würzburg(维尔茨堡大学人工智能与数据科学中心);Language Technology Lab, University of Cambridge(剑桥大学语言技术实验室)
本文针对零样本和少样本跨语言迁移中依赖目标语言验证数据导致性能高估的问题,提出在任务微调期间平均模型检查点的简单方法,在多种语义和词元分类任务上系统提升鲁棒性与性能,并降低超参数敏感性。
2023-05-26 cs.CL
Embedding structure matters: Comparing methods to adapt multilingual vocabularies to new languages
University of Washington(华盛顿大学)
本文针对多语言模型语言适配中跨语言词汇表计算成本高的问题,提出多种紧凑语言特定词汇表替换及嵌入矩阵重新初始化技术,并通过系统实验证明其能高效提升低资源语言性能,且简单方法可与Focus方法相媲美。
2023-10-26 cs.CL
Cross-Lingual Sentiment Misalignment: Auditing Multilingual Language Models for Inversion Risk, Dialectal Representation, and Affective Stability
Institute of Information Technology University of Dhaka(达卡大学信息科技学院);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文通过控制基准框架评估多语言Transformer模型在平行孟加拉语-英语句子对上的表现,揭示了模型在情感反向、同理心不对称和方言表示中的问题,提出需引入情感稳定性指标以提升跨语言可靠性。
2026-04-30 cs.CL cs.HC
A Curious Class of Adpositional Multiword Expressions in Korean
Georgetown University(乔治城大学);University of Pittsburgh(匹兹堡大学);Allen Institute for AI(人工智能研究院)
本文研究了韩语中后方位动词结构(PVCs)的多词表达,提出标注指南以促进跨语言框架整合。
2026-02-17 cs.CL