Data Augmentation for Sign Language Gloss Translation
Bar-Ilan University(巴伊兰大学);Carnegie Mellon University(卡内基梅隆大学);Allen Institute for AI(艾伦人工智能研究所)
手语翻译(英语:Sign language translation,缩写为手语翻译)通常被分解为视频到注释识别和注释到文本翻译,其中注释是按照它们被签名的顺序转录的口语单词的序列。我们在这里专注于注释到文本的翻译,我们将其视为低资源神经机器翻译(NMT)问题。然而,与传统的低资源NMT不同,注释到文本的翻译不同,因为注释-文本对通常具有比口语对更高的词汇重叠和更低的句法重叠。我们利用这种词汇重叠和处理句法分歧,提出了两个基于规则的语法生成伪平行的单语口语文本的注释文本对。通过对由此获得的合成数据进行预训练,我们将美国手语(ASL)到英语和德国手语(DGS)到德语的翻译分别提高了3.14和2.20 BLEU。
2021-05-16 cs.CL
ArabGlossBERT: Fine-Tuning BERT on Context-Gloss Pairs for WSD
Lebanese University(黎巴嫩大学);Birzeit University(比尔宰特大学)
使用预训练的Transformer模型(如BERT)已被证明在许多NLP任务中是有效的。本文介绍了我们的工作,微调BERT模型的阿拉伯语词义消歧(WSD)。我们将WSD任务视为双对二进制分类任务。首先,我们构建了一个标记的阿拉伯语上下文注释对(~ 167 k对)的数据集,我们从阿拉伯语本体和比尔宰特大学的大型词典数据库中提取。每一对被标记为真或假,并在每个上下文中的目标词进行识别和注释。其次,我们使用这个数据集来微调三个预先训练的阿拉伯语BERT模型。第三,我们实验了在上下文中使用不同的监督信号来强调目标词。我们的实验取得了令人鼓舞的结果(准确率为84%),尽管我们在实验中使用了大量的感官。
2022-05-19 cs.AI cs.CL cs.IR
Context-gloss Augmentation for Improving Word Sense Disambiguation
National Tsing-Hua University(国立清华大学)
词义消歧的目的是确定一个多义词在特定语境中的词义。使用BERT的深度学习技术在该领域取得了非常有前途的成果,并且已经提出了不同的方法来整合结构化知识以提高性能。与此同时,越来越多的数据增强技术已被证明对NLP任务有用。在以前的作品利用BERT和WordNet知识的基础上,我们探索不同的数据增强技术的上下文光泽对,以提高性能的WSD。在我们的实验中,我们表明,无论是词级和词级的增强方法是有效的策略,词义消歧。此外,我们发现,可以通过添加从词汇知识库中获得的上位词的注释来提高性能。我们比较和分析了不同的上下文光泽增强技术,结果表明,应用回翻译光泽表现最好。
2021-10-14 cs.CL cs.LG
Data Augmentation for Maltese NLP using Transliterated and Machine Translated Arabic Data
University of Malta(马耳他大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
针对马耳他语与阿拉伯语系亲属语言存在的正字法差距,本文提出利用阿拉伯语资源通过音译方案、机器翻译方法及新型音译系统进行跨语言数据增强,显著提升了马耳他语NLP任务中单语和多语模型的性能。
2025-09-20 cs.CL
Cross-modality Data Augmentation for End-to-End Sign Language Translation
Thrust of Artificial Intelligence, HKUST (Guangzhou)(香港科技大学(广州)人工智能学科);Tencent AI Lab(腾讯人工智能实验室);Department of Computer Science and Engineering, HKUST(香港科技大学计算机科学与工程系);Guangzhou HKUST Fok Ying Tung Research Institute(广州香港科技大学霍英东研究院)
提出跨模态数据增强框架XmDA,通过跨模态混合和知识蒸馏将gloss-to-text翻译能力转移到端到端手语翻译,显著优于基线并增强文本生成。
2024-06-04 cs.CL
CultranAI at PalmX 2025: Data Augmentation for Cultural Knowledge Representation
Qatar University(卡塔尔大学);University of Toronto(多伦多大学);Qatar Computing Research Institute(卡塔尔计算研究所)
本研究针对阿拉伯文化知识表征任务,提出结合数据增强与LoRA微调的CultranAI系统,构建超2.2万道文化选择题数据集,微调Fanar-1-9B-Instruct模型,在PalmX 2025共享任务盲测集上获70.50%准确率、排名第5。
2025-10-01 cs.AI cs.CL
Investigating Lexical Replacements for Arabic-English Code-Switched Data Augmentation
New York University Abu Dhabi(纽约大学阿布扎比分校);University of Stuttgart(斯图加特大学);The German International University in Cairo(开罗德国国际大学)
本文研究了基于词对齐平行语料库的词汇替换方法来合成方言阿拉伯语-英语语码转换文本,发现预测模型和随机选择CS点在MT、ASR和ST等下游任务中表现相当且优于字典替换,显著提升了系统性能。
2023-04-04 cs.CL
Ensemble of pre-trained language models and data augmentation for hate speech detection from Arabic tweets
Echahid Cheikh Larbi Tebessi University(沙希德·谢赫·拉比·特贝西大学);Laboratory of Vision and Artificial Intelligence (LAVIA)(视觉与人工智能实验室)
针对阿拉伯语推文仇恨言论检测中的性能有限与数据不平衡问题,提出结合预训练语言模型集成学习和半监督数据增强的方法,在五分类基准上优于现有工作。
2024-07-02 cs.AI cs.CL
Adapting BERT for Word Sense Disambiguation with Gloss Selection Objective and Example Sentences
Nanyang Technological University(南洋理工大学)
使用预先训练的语言模型(例如BERT)的领域自适应或迁移学习已被证明是许多自然语言处理任务的有效方法。在这项工作中,我们建议制定词义消歧作为一个相关性排名任务,并微调BERT序列对排名任务,以选择最可能的意义定义给定的上下文句子和候选意义定义的列表。我们还介绍了一个数据增强技术的WSD使用现有的例子从WordNet的句子。使用所提出的训练目标和数据增强技术,我们的模型能够在英语全词基准数据集上获得最先进的结果。
2020-10-01 cs.CL cs.LG
LIIR at SemEval-2020 Task 12: A Cross-Lingual Augmentation Approach for Multilingual Offensive Language Identification
KU Leuven(鲁汶大学)
本文介绍了我们的系统,题为“LIIR”的SemEval-2020任务12在社交媒体中的多语言攻击性语言识别(OffensEval 2)。我们参加了英语、丹麦语、希腊语、阿拉伯语和土耳其语的分任务A。我们分别针对英语和非英语语言调整和微调了Google AI提供的BERT和多语言Bert模型。对于英语语言,我们使用两个微调的BERT模型的组合。对于其他语言,我们提出了一种跨语言的增强方法,以丰富训练数据,我们使用多语言BERT获得句子表示。LIIR在希腊语、土耳其语、英语、阿拉伯语和丹麦语中的排名分别为14/38、18/47、24/86、24/54和25/40。
2020-07-17 cs.CL
Doing More with Less: Data Augmentation for Sudanese Dialect Automatic Speech Recognition
Independent Researcher(独立研究者)
本文通过数据增强技术提升苏丹方言ASR性能,结合自训练和TTS增强,实现低资源方言的高效识别
2026-01-11 cs.AI cs.CL
Leveraging Domain Adaptation and Data Augmentation to Improve Qur'anic IR in English and Arabic
本文针对英语和阿拉伯语古兰经信息检索数据稀缺问题,采用领域自适应训练、数据增强及伊斯兰语料库与领域 LM 预训练,提升 MRR@10 和 NDCG@5 并取得双语最先进结果。
2023-12-05 cs.AI cs.CL
LSTM-TDNN with convolutional front-end for Dialect Identification in the 2019 Multi-Genre Broadcast Challenge
University of Kent(肯特大学)
本文介绍了一种新的方言识别(DID)系统开发的第五版的多流派广播挑战,细粒度阿拉伯语方言识别(MGB-5 ADI挑战)的任务。该系统通过采用卷积和长短期记忆递归(CLSTM)架构来改进传统DNN x向量性能,以结合卷积神经网络前端用于特征提取和后端递归神经网络捕获更长时间依赖性的优势。此外,我们研究了一个低资源方言在高度不平衡的训练集使用时间尺度修改(TSM)的密集增强。这将话语转换成若干时间拉伸或时间压缩的版本,随后用于训练CLSTM系统而不使用任何其他语料库。在本文中,我们还研究了使用MUSAN和RIR数据集的语音增强,以正常方式增加现有训练数据的数量和多样性。结果表明,首先,CLSTM架构优于传统的DNN x向量实现。其次,采用基于TSM的速度扰动产生一个小的性能改善的不平衡的数据,最后,传统的数据增强技术产生进一步的好处,在相关的说话人和语言识别任务的证据。我们的系统在ASRU 2019上展示的MGB-5 ADI挑战赛的15个参赛项目中获得第二名。
2019-12-19 cs.CL cs.SD eess.AS
Building on Huang et al. GlossBERT for Word Sense Disambiguation
University of Southern California(南加州大学)
我们提出了词义消歧(WSD)问题。在语言中,同一形式的单词根据上下文可以有不同的含义。虽然人类很容易通过上下文推断出这些单词的含义或注释,但机器却在这项任务上遇到了困难。因此,我们打算复制并扩展Huang等人的结果。GlossBERT是他们设计的一种消除这些单词歧义的模型(Huang等人,2019年)。具体来说,我们提出了以下增强:数据集调整(阿尔法超参数),合奏方法,并更换BERT与BART和AL BERT。以下GitHub存储库包含本报告中使用的所有代码,这些代码扩展了Huang等人提供的代码。
2021-12-14 cs.AI cs.CL
Arabic Dysarthric Speech Recognition Using Adversarial and Signal-Based Augmentation
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文提出结合基于信号的语速节奏调整与PWG对抗增强的多阶段方法,并通过Conformer微调和文本纠正,显著提升阿拉伯语构音障碍语音识别性能。
2023-06-07 cs.CL cs.SD eess.AS
Scaling Arabic Medical Chatbots Using Synthetic Data: Enhancing Generative AI with Synthetic Patient Records
Dept. of Computer Science, Qatar University, Doha, Qatar(计算机科学系,卡塔尔大学,多哈)
针对阿拉伯语医疗数据稀缺问题,提出利用ChatGPT-4o和Gemini生成8万条合成问答对扩充训练集,微调多个LLM的实验表明合成数据有效提升了模型性能,其中ChatGPT-4o数据表现更优。
2025-09-12 cs.CL
Data Augmentation using Transformers and Similarity Measures for Improving Arabic Text Classification
Princess Sumaya University for Technology (PSUT)(公主SUMaya技术大学(PSUT))
提出基于 AraGPT-2 的阿拉伯语文本数据增强方法,并结合多种相似度度量评估生成句,用 AraBERT 验证其在四个情感数据集上的分类增益。
2023-08-20 cs.AI cs.CL cs.LG
Koshur Pixel: a large-scale synthetic ocr dataset for kashmiri
针对低资源语言克什米尔语,提出首个大规模合成OCR数据集Koshur Pixel,包含613,078个图像-文本对,采用SynthOCR-Gen框架生成,覆盖多种字体和文本粒度,并集成25种以上数据增强策略,为训练OCR系统、数字化克什米尔文本遗产提供基础资源。
2026-06-23 cs.CL cs.CV
600k-ks-ocr: a large-scale synthetic dataset for optical character recognition in kashmiri script
Independent Researcher(独立研究者)
600K-KS-OCR数据集通过大规模合成图像和多种格式转录,为克什米尔语的光学字符识别研究提供低资源语言支持。
2026-01-03 cs.CL cs.CV
IAI Group at CheckThat! 2024: Transformer Models and Data Augmentation for Checkworthy Claim Detection
University of Stavanger(斯塔万格大学)
本文介绍IAI团队在CheckThat! 2024任务1中,利用Transformer模型、少样本链式思维、微调、数据增强和跨语言迁移学习,在英荷阿三语可核查声明检测中分别取得第九、第三和第一的成绩。
2024-08-02 cs.CL
Textual Data Augmentation for Arabic-English Code-Switching Speech Recognition
KANARI AI(卡纳里人工智能公司);Johns Hopkins University(约翰斯·霍普金斯大学);Qatar Computing Research Institute(卡塔尔计算研究所)
话语内语码转换(CS)在口语内容中的普遍性要求语音识别(ASR)系统处理混合语言。设计CS-ASR系统有许多挑战,主要是由于数据稀缺,语法结构复杂性和领域不匹配。最常见的解决CS的方法是训练ASR系统与可用的转录CS语音,以及单语数据。在这项工作中,我们提出了一个零样本学习CS-ASR的方法,通过人工生成CS文本来增强单语数据。我们基于我们的方法随机词汇替换和等价约束(EC),同时利用对齐的翻译对生成随机和语法上有效的CS内容。我们的实证结果表明,65.5%的相对减少语言模型困惑,7.7%的ASR WER在两个生态有效的CS测试集。使用EC对生成的文本进行的人工评估表明,超过80%的文本具有足够的质量。
2023-01-11 cs.CL cs.SD eess.AS
Accenture at CheckThat! 2021: Interesting claim identification and ranking with contextually sensitive lexical training data augmentation
Accenture(埃森哲)
本文讨论了埃森哲团队在CLEF 2021 CheckThat!实验,任务1,确定社交媒体上的声明是否会引起广大受众的兴趣,并应进行事实核查。Twitter培训和测试数据以英语、阿拉伯语、西班牙语、土耳其语和保加利亚语提供。索赔将被分类(值得检查/不值得检查),并按事实检查员的优先顺序排列。我们的方法使用深度神经网络Transformer模型,在提供的训练数据集上应用上下文敏感的词汇增强来创建额外的训练样本。这种增强方法提高了所有语言的性能。总的来说,我们的架构和数据增强管道为阿拉伯语生成了最好的提交系统,并根据提供的英语,西班牙语,土耳其语和保加利亚语训练数据的数量进行了性能扩展。本文研究了每种语言的深度神经网络架构以及提供的数据,以研究为什么这种方法对阿拉伯语如此有效,并讨论了可能对这个问题有用的其他数据增强措施。
2021-07-12 cs.CL cs.IR
Data Augmentation Methods for Anaphoric Zero Pronouns
Queen Mary University of London(伦敦玛丽女王大学);Qassim University(卡西姆大学)
在阿拉伯语、汉语、意大利语、日语、西班牙语等亲降语言中,某些句法位置的未实现(空)论元可以指代先前引入的实体,因此被称为回指零代词。然而,现有的研究回指零代词解释的资源仍然有限。本文使用五种数据增强方法自动生成和检测回指零代词。我们使用增强的数据作为额外的训练材料的两个照应零代词系统阿拉伯语。我们的实验结果表明,数据增强提高了两个系统的性能,超过了最先进的结果。
2021-09-20 cs.AI cs.CL cs.LG
Context-Aware Dialectal Arabic Machine Translation with Interactive Region and Register Selection
University of Toledo(托莱多大学);Claremont Graduate University(克莱蒙特研究生大学)
本文提出一种上下文感知的阿拉伯语方言机器翻译框架,通过规则基于的数据增强生成多区域语料,提升翻译输出的方言和语域可控性。
2026-04-07 cs.CL
LinTO Audio and Textual Datasets to Train and Evaluate Automatic Speech Recognition in Tunisian Arabic Dialect
LINAGORA(LINAGORA公司)
针对突尼斯阿拉伯语方言因语言复杂性和数据稀缺导致ASR系统开发困难的问题,提出了包含多源文本与真实语码转换音频的LinTO数据集,为构建和评估该方言的ASR系统提供了高质量材料。
2025-04-03 cs.CL cs.SD eess.AS
UAlberta at SemEval-2023 Task 1: Context Augmentation and Translation for Multilingual Visual Word Sense Disambiguation
Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所);University of Alberta(阿尔伯塔大学)
阿尔伯塔大学团队为SemEval-2023 V-WSD任务提出结合BabelNet释义与多模态编码器的新算法,通过语言模型生成描述增强短上下文以提升准确率,最终在56支队伍中排名第18。
2023-06-24 cs.CL
HumVI: A Multilingual Dataset for Detecting Violent Incidents Impacting Humanitarian Aid
Dataminr, Inc.(达塔明尔公司);Northwestern University(西北大学);Insecurity Insight(不安全洞察机构)
本文提出多语言数据集HumVI,用于检测影响人道主义援助的暴力事件,并提供基于深度学习的基准测试以解决领域扩展等任务挑战。
2024-10-15 cs.AI cs.CL cs.LG
Arabic Tweet Act: A Weighted Ensemble Pre-Trained Transformer Model for Classifying Arabic Speech Acts on Twitter
本研究针对Twitter方言阿拉伯语言语行为分类问题,提出基于BERT的加权集成学习方法,构建标注数据集并采用数据增强解决类别不平衡,性能优于单模型。
2024-01-30 cs.AI cs.CL
Abjad-Kids: An Arabic Speech Classification Dataset for Primary Education
Arab International University(阿拉伯国际大学)
本文提出Abjad-Kids数据集,用于阿拉伯语儿童语音分类,通过CNN-LSTM架构解决阿拉伯语音素相似性和样本不足问题,实验显示静态语言基分组效果更优,但存在过拟合风险,未来需增加数据量。
2026-03-11 cs.CL cs.HC cs.LG
Cross-Language Approach for Quranic QA
Faculty of Computer Science, MSA University(MSA大学计算机学院)
针对古兰经问答中数据稀缺及现代标准阿拉伯语与古典阿拉伯语差异的挑战,提出通过机器翻译扩充数据集并微调多种预训练语言模型的跨语言方法,显著提升了检索性能。
2025-01-29 cs.CL cs.IR