ChatGPT as Data Augmentation for Compositional Generalization: A Case Study in Open Intent Detection
Ingenuity Labs Research Institute（创新实验室研究所）；Queen’s University（女王大学）；Smith School of Business（史密斯商学院）；Department of Electrical and Computer Engineering（电气与计算机工程系）
本研究针对开放意图检测的组合泛化挑战，提出用ChatGPT生成合成数据做数据增强的方法，经多基准验证性能优于现有技术，证明大语言模型在自然语言理解数据增强中的潜力。
2023-08-25 cs.AI cs.CL
Leveraging Large Language Models for Code-Mixed Data Augmentation in Sentiment Analysis
The Harker School（哈克尔学校）
本研究提出利用大型语言模型生成合成代码混合数据以增强情感分析性能，在西班牙语-英语中F1提升9.32%，并验证了少样本提示方法的有效性，尤其对低基线场景有益。
2024-11-01 cs.CL
RISCORE: Enhancing In-Context Riddle Solving in Language Models through Context-Reconstructed Example Augmentation
本文提出RISCORE方法，通过上下文重构示例增强少样本提示，显著提升语言模型在垂直和横向谜语解决任务中的表现。
2024-12-17 cs.CL
A study of the impact of generative AI-based data augmentation on software metadata classification
Peoples' Friendship University of Russia (RUDN University)（俄罗斯人民友谊大学（RUDN大学））；Joint Institute for Nuclear Research（联合核研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Skövde（舍夫德大学）；Indian Institute of Technology (ISM) Dhanbad（印度理工学院（印度矿业学院）丹巴德分校）
本文提出一种基于机器学习的框架，利用神经上下文表示预测代码-注释对的有用性，并结合LLM生成数据进行数据增强，在FIRE IRSE 2023任务中F1分数比基线提高4%。
2023-10-14 cs.AI cs.CL cs.LG
Exploring the Potential of Large Language Models in Generating Code-Tracing Questions for Introductory Programming Courses
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Penn State University（宾夕法尼亚州立大学）
本文探讨了利用GPT4在编程入门课程中生成代码追踪问题的应用，通过设计提示并建立人工评估指标比较其与人类专家的质量，揭示了LLMs的潜力并贡献了独特数据集。
2023-10-23 cs.CL cs.CY
Optimizing Chain-of-Thought Reasoning: Tackling Arranging Bottleneck via Plan Augmentation
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）
本文通过将思维链推理分解为安排与执行，发现瓶颈主要在安排环节，并提出基于抽象计划的训练与推理方法，在数学和工具使用任务上显著提升长距离推理泛化能力。
2024-10-22 cs.CL
Can We Achieve More with Less? Exploring Data Augmentation for Toxic Comment Classification
Stanford University（斯坦福大学）
本文解决了机器学习中最大的限制之一：数据稀缺。具体来说，我们探索是否可以从小数据集建立高精度的分类器，利用数据增强技术和机器学习算法的组合。在这篇论文中，我们尝试了简单的数据增强（EDA）和反向翻译，以及三种流行的学习算法，逻辑回归，支持向量机（SVM）和双向长短期记忆网络（Bi-LSTM）。对于我们的实验，我们利用维基百科有毒评论数据集，以便在探索数据增强的好处的过程中，我们可以开发一个模型来检测和分类评论中的有毒言论，以帮助反击网络欺凌和在线骚扰。最终，我们发现数据增强技术可以用来显着提高分类器的性能，是一个很好的策略，以打击缺乏数据的NLP问题。
2020-07-02 cs.AI cs.CL cs.IR
To Code, or Not To Code? Exploring Impact of Code in Pre-training
Cohere For AI；Cohere
本研究系统探究预训练中代码数据对通用性能的影响，发现代码是泛化关键，能显著提升推理、知识、生成及代码任务表现。
2024-08-20 cs.CL
Don't Judge Code by Its Cover: Exploring Biases in LLM Judges for Code Evaluation
IPAI, Seoul National University（IPAI，首尔国立大学）；Dept. of ECE, Seoul National University（电子工程系，首尔国立大学）；LG AI Research（LG人工智能研究）
本文研究了LLM评委在评估代码时存在的偏见问题，揭示了其在处理语义等价但表面不同的代码时的不稳定性，并指出需要更稳健的评估方法。
2026-08-24 cs.CL cs.SE
Exploring Distributional Shifts in Large Language Models for Code Analysis
University of Southern California（南加州大学）；IIT, Delhi（德里印度理工学院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Microsoft Azure AI（微软Azure人工智能）
本文研究CodeT5、Codex和ChatGPT在代码摘要与生成中的跨领域分布偏移，提出多任务学习结合检索示例少样本微调，并扩展至多领域联合适应。
2023-12-05 cs.CL cs.LG cs.SE
Exploring Data Augmentation Methods on Social Media Corpora
University of California, Berkeley（加州大学伯克利分校）
数据增强已被证明在计算机视觉中广泛有效。在自然语言处理（NLP）中，数据增强仍然是一个活跃的研究领域。目前还没有一种广泛接受的增强技术可以在任务和模型架构之间很好地工作。在本文中，我们探讨了数据增强技术的文本分类的背景下，使用两个社会媒体数据集。我们探索了流行的数据增强方法，从过采样、简易数据增强（Wei和Zou，2019）和反向翻译（Sennrich等人，2015）。我们还考虑灰度，一个相对未开发的数据增强技术，旨在减轻强度的形容词的例子。最后，我们考虑一种少样本学习方法：模式开发训练（PET）（Schick et al.，2020年）。对于实验，我们使用BERT Transformer架构。结果表明，增强技术只提供了最小的和不一致的改进。同义词替换提供了一些性能改进的证据，灰度化的形容词尺度是一个值得进一步探索的领域。少样本学习实验表明，与监督训练相比，少样本学习有一致的改进，当类很容易分离时，少样本学习似乎很有希望，但进一步的探索是有价值的。
2023-03-03 cs.CL
Exploring Train and Test-Time Augmentations for Audio-Language Learning
Seoul National University（首尔大学）
本文探索音频-语言多模态学习中的训练与测试时数据增强，提出首个多模态配对增强PairMix和多级测试时增强Multi-TTA，在自动音频描述和音频-文本检索任务上显著优于基线。
2023-05-23 cs.CL cs.SD eess.AS
Exploring ChatGPT-based Augmentation Strategies for Contrastive Aspect-based Sentiment Analysis
Hong Kong Metropolitan University（香港都会大学）；Lingnan University（岭南大学）；University of Southern Queensland（南昆士兰大学）
针对方面级情感分析中标注数据稀缺的问题，提出三种基于ChatGPT的数据增强策略并结合对比学习，实验验证其均能提升性能，其中上下文-方面增强策略效果最优。
2024-09-17 cs.CL
Exploring Neural Net Augmentation to BERT for Question Answering on SQUAD 2.0
University of California, Berkeley（加州大学伯克利分校）
增强机器回答问题的能力一直是近年来NLP研究的一个相当关注的话题。语言模型如语言模型嵌入（ELMo）[1]和Transformers双向编码器表示（BERT）[2]在开发通用语言模型方面非常成功，可以为大量下游语言任务进行优化。在这项工作中，我们专注于用不同的输出神经网络架构来增强预训练的BERT语言模型，并比较它们在斯坦福问答数据集2.0（SQUAD 2.0）提出的问答任务上的表现。此外，我们还微调了预训练的BERT模型参数，以证明其适应专门语言任务的有效性。我们最好的输出网络是上下文化的CNN，它在不可回答和可回答的问答任务上都有表现，F1得分分别为75.32和64.85。
2020-03-08 cs.AI cs.CL cs.LG
BrightCookies at SemEval-2025 Task 9: Exploring Data Augmentation for Food Hazard Classification
Wageningen Food Safety Research（瓦赫宁根食品安全研究所）；Centre for Language Studies（语言研究系）；Radboud University（拉德堡德大学）
本文针对SemEval-2025食品危害检测挑战，提出三种词级数据增强技术改善少数类分类，发现transformer模型整体性能更优，其中上下文词插入显著提升了细粒度少数危害类的预测准确率。
2025-04-29 cs.CL
Exploring Selective Retrieval-Augmentation for Long-Tail Legal Text Classification
University of Cambridge（剑桥大学）
针对法律文本分类中的长尾标签问题，本文提出仅从训练集检索并增强低频标签样本的 SRA 方法，在 LEDGAR 和 UNFAIR-ToS 上相较 LexGLUE 基线持续提升 micro-F1 与 macro-F1。
2025-08-29 cs.CL cs.IR
Prediction of ICD Codes with Clinical BERT Embeddings and Text Augmentation with Label Balancing using MIMIC-III
University of California, Berkeley（加州大学伯克利分校）
本文使用MIMIC-III数据集实现了ICD代码预测任务的最新结果。这是通过使用临床BERT（Alsentzer等人，2019年）。嵌入和文本增强以及标签平衡，以提高ICD章节和ICD疾病代码的F1评分。我们将改进的性能主要归因于使用新颖的文本增强来在训练过程中打乱句子的顺序。与Top-32 ICD代码预测（Keyang Xu，et.（见上文）在F1得分为0.76的情况下，我们实现了0.75的最终F1得分，但是在总共前50个ICD代码上。
2020-08-24 cs.AI cs.CL
Myanmar XNLI: Building a Dataset and Exploring Low-resource Approaches to Natural Language Inference with Myanmar
Macquarie University（麦考瑞大学）
本文针对低资源语言缅甸语扩展XNLI任务，构建myXNLI数据集，评估多语言模型并探索数据增强方法（准确率提升2个百分点），还研究方法对其他低资源语言的泛化性，助力低资源语言NLP研究。
2025-04-13 cs.AI cs.CL
Code-switching Sentence Generation by Generative Adversarial Networks and its Application to Data Augmentation
National Taiwan University（台湾大学）
语码转换是指在言语或文本中处理替代语言。它部分地依赖于说话人和领域，因此完全用语言规则来解释这一现象是具有挑战性的。与大多数单语任务相比，数据不足是语码转换的一个问题。为了在没有昂贵的人工注释的情况下缓解这个问题，我们提出了一种用于代码切换数据增强的无监督方法。通过使用生成对抗网络，我们可以从单语句子生成内部语码转换句子。将该方法应用于两个语料库，实验结果表明，生成的语码转换语句提高了语码转换语言模型的性能。
2019-06-19 cs.CL
Language Agnostic Code-Mixing Data Augmentation by Predicting Linguistic Patterns
Johns Hopkins University（约翰斯·霍普金斯大学）
在这项工作中，我们专注于内部语义代码混合，并提出了几种不同的合成代码混合（SCM）数据增强方法，在不同数量的标记黄金数据的下游情感分析任务上优于基线。最重要的是，我们提出的方法表明，战略性地替换部分句子在矩阵语言与一个常数掩码显着提高分类精度，激励进一步的语言学见解的现象代码混合。我们在各种低资源和跨语言环境中测试了我们的数据增强方法，在极其稀缺的英语-马拉雅拉姆语数据集上达到了7.73%的相对改善。我们得出结论，语码转换模式在语码混合句中也是重要的模型学习。最后，我们提出了一个语言无关的SCM算法，是廉价的，但非常有助于低资源的语言。
2022-11-14 cs.CL
CST5: Data Augmentation for Code-Switched Semantic Parsing
Google（谷歌）
将语义解析器扩展到代码交换输入一直是一个具有挑战性的问题，主要是由于缺乏监督的训练数据。在这项工作中，我们介绍了CST5，一种新的数据增强技术，微调T5模型使用一个小的种子集（$\approx$ 100话语），以产生代码转换的话语从英语话语。我们表明，CST5生成高质量的代码转换数据，无论是内在的（每人的评价）和extraderior通过比较基线模型，没有数据增强的训练模型与增强的数据。根据经验，我们观察到使用CST 5，可以通过使用多达20倍的标记数据来实现相同的语义解析性能。为了帮助这一领域的进一步研究，我们还发布了（a）Hinglish-TOP，迄今为止最大的人类注释代码转换语义解析数据集，包含10k人类注释印地语-英语（Hinglish）代码转换话语，以及（b）超过170K CST 5从TOPv2数据集生成的代码转换话语。人工评估表明，人工注释的数据以及CST 5生成的数据质量良好。
2022-11-14 cs.CL
Source Code Data Augmentation for Deep Learning: A Survey
Monash University（莫纳什大学）；Singapore Management University（新加坡管理大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Beihang University（北京航空航天大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）；Australian National University（澳大利亚国立大学）
本文综述了源代码数据增强用于深度学习的方法，涵盖代表性技术、优化策略、实际应用及未来挑战，并提供了持续更新的论文资源库。
2023-11-13 cs.AI cs.CL cs.SE
Data Augmentation for End-to-end Code-switching Speech Recognition
针对语码转换语音识别训练数据不足的问题，提出音频拼接、基于单词翻译/插入生成文本的TTS三种数据增强方法，可结合SpecAugment，在200小时汉英数据集上WER相对无增强系统降24.0%，较仅用SpecAugment仍有13.0%增益。
2024-11-03 cs.CL eess.AS
ConCSE: Unified Contrastive Learning and Augmentation for Code-Switched Embeddings
Chung-Ang University（中央大学）；University of British Columbia（不列颠哥伦比亚大学）
针对英韩语码转换（CS）场景，本文构建了Koglish-GLUE和Koglish-NLI数据集，并提出统一对比学习与增强方法ConCSE，有效提升了CS句子的语义表示能力。
2024-12-20 cs.AI cs.CL
Learn to Code-Switch: Data Augmentation using Copy Mechanism on Language Modeling
构建用于训练代码转换语言模型的大规模数据集具有挑战性并且非常昂贵。为了缓解这个问题，使用并行语料库一直是一个主要的解决方案。然而，现有的解决方案使用的语言约束，可能无法捕捉到真实的数据分布。在这项工作中，我们提出了一种新的方法来学习如何生成代码转换句子从平行语料库。我们的模型使用Seq2Seq模型与指针网络相结合，从单语句子中对齐和选择单词，并形成语法代码转换句子。在我们的实验中，我们表明，通过使用增强的句子训练语言模型，与LSTM基线相比，我们将困惑分数提高了10%。
2018-10-30 cs.CL
Data Augmentation Techniques for Machine Translation of Code-Switched Texts: A Comparative Study
New York University Abu Dhabi（纽约大学阿布扎比分校）；University of Stuttgart（斯图加特大学）
本文比较了词汇替换、语言学理论和回译三种数据增强方法在埃及阿拉伯语-英语语码转换机器翻译中的效果，发现回译和基于CSW预测的词汇替换在有并行数据时表现最佳，而语言学理论和随机词汇替换在无并行数据时同样有效。
2023-10-23 cs.CL
VietMix: A Naturally-Occurring Parallel Corpus and Augmentation Framework for Vietnamese-English Code-Mixed Machine Translation
University of Maryland, College Park（马里兰大学帕克分校）；Harvard University（哈佛大学）
VietMix为越南语-英语混合机器翻译提供首个自然发生的平行语料库及增强框架，通过数据增强提升模型性能。
2026-01-09 cs.AI cs.CL cs.LG
Improving Code-Switching and Named Entity Recognition in ASR with Speech Editing based Data Augmentation
Shanghai Jiao Tong University（上海交通大学）
针对端到端ASR在语码转换、命名实体识别场景的不足，以及传统数据增强生成语音质量差的问题，提出基于文本语音编辑的增强方法，效果优于现有方案。
2023-06-14 cs.CL cs.SD eess.AS
How to choose "Good" Samples for Text Data Augmentation
Guangdong University of Foreign Studies（广东外语外贸大学）；Guangdong University of Technology（广东工业大学）；Guangzhou Key Laboratory of Multilingual Intelligent Processing（广州市多语言智能处理重点实验室）
基于深度学习的文本分类模型需要大量的标记数据才能获得有竞争力的性能。然而，对大规模语料库进行标注费时费力。为了解决这个问题，许多研究试图使用数据增强来扩大语料库的大小。然而，数据增强可能潜在地产生一些噪声增强样本。在自然语言处理领域，目前还没有研究增强样本的样本选择问题。在本文中，我们提出了一种新的自训练选择框架，具有两个选择器，以选择高质量的样本从数据增强。具体来说，我们首先使用基于熵的策略和模型预测来选择增强样本。考虑到在上述步骤中，一些高质量的样本可能会被错误地过滤，我们提出从词重叠和语义相似度两个角度来召回它们。实验结果表明，我们的框架的有效性和简单性。
2023-02-02 cs.CL
Investigating Lexical Replacements for Arabic-English Code-Switched Data Augmentation
New York University Abu Dhabi（纽约大学阿布扎比分校）；University of Stuttgart（斯图加特大学）；The German International University in Cairo（开罗德国国际大学）
本文研究了基于词对齐平行语料库的词汇替换方法来合成方言阿拉伯语-英语语码转换文本，发现预测模型和随机选择CS点在MT、ASR和ST等下游任务中表现相当且优于字典替换，显著提升了系统性能。
2023-04-04 cs.CL
Data Augmentation for Code Translation with Comparable Corpora and Multiple References
Carnegie Mellon University（卡内基梅隆大学）；Language Technologies Institute（语言技术研究所）
本文提出两种代码翻译数据增强方法：构建可比语料库和生成多重参考翻译，并通过单元测试过滤，使 CodeT5 在 Java、Python 和 C++ 间的翻译计算准确率平均提升 7.5%。
2024-10-04 cs.CL cs.LG cs.SE
TextAttack: A Framework for Adversarial Attacks, Data Augmentation, and Adversarial Training in NLP
Department of Computer Science, University of Virginia（弗吉尼亚大学计算机科学系）；Computer Science and Artificial Intelligence Laboratory, MIT（麻省理工学院计算机科学与人工智能实验室）
虽然已经有大量的研究使用对抗攻击来分析NLP模型，但每种攻击都在自己的代码库中实现。开发NLP攻击并利用它们来提高模型性能仍然具有挑战性。本文介绍了TextAttack，这是一个用于NLP中的对抗攻击、数据增强和对抗训练的Python框架。TextAttack从四个组件构建攻击：目标函数，一组约束，转换和搜索方法。TextAttack的模块化设计使研究人员能够很容易地从新的和现有的组件的组合构建攻击。TextAttack提供了文献中16种对抗攻击的实现，并支持各种模型和数据集，包括BERT和其他Transformers，以及所有GLUE任务。TextAttack还包括数据增强和对抗训练模块，用于使用对抗攻击的组件来提高模型的准确性和鲁棒性。TextAttack正在使NLP民主化：任何人都可以在任何模型或数据集上尝试数据增强和对抗训练，只需几行代码。代码和教程可在https://github.com/QData/TextAttack上获得。
2020-10-05 cs.AI cs.CL cs.LG
CoSDA-ML: Multi-Lingual Code-Switching Data Augmentation for Zero-Shot Cross-Lingual NLP
Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）；Harbin Institute of Technology（哈尔滨工业大学）
多语言上下文嵌入，如多语言BERT（mBERT），已在各种zero-shot跨语言任务中显示出成功。然而，这些模型受到不同语言的子词的上下文表示不一致的限制。现有的工作解决这个问题的双语投影和微调技术。我们提出了一个数据增强框架来生成多语言的代码切换数据，以微调mBERT，它鼓励模型对齐表示从源和多个目标语言一次混合他们的上下文信息。与现有的工作相比，我们的方法不依赖于双语句子进行训练，对于多个目标语言只需要一个训练过程。对5个任务19种语言的实验结果表明，我们的方法导致显着提高性能的所有任务相比，mBERT。
2020-07-13 cs.CL
Dataflow-Guided Retrieval Augmentation for Repository-Level Code Completion
Nanjing University（南京大学）；State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；National Institute of Healthcare Data Science, Nanjing University（南京大学国家卫生数据科学研究院）
提出数据流引导的检索增强方法DraCo，通过构建仓库特定上下文图精确检索跨文件背景知识，提升私有仓库代码补全的准确性与效率。
2024-05-30 cs.CL cs.SE
Bemba Speech Translation: Exploring a Low-Resource African Language
Kreasof AI Research Labs（Kreasof人工智能研究实验室）；African Institute for Mathematical Sciences (AIMS)（非洲数学科学研究所）；Trinity College Dublin（都柏林三一学院）
本文针对IWSLT 2025低资源赛道，基于Whisper和NLLB-200构建Bemba到英语的级联语音翻译系统，并采用回译等数据增强技术探究合成数据的影响。
2025-06-02 cs.CL cs.SD eess.AS
Exploring the Impact of Data Quantity on ASR in Extremely Low-resource Languages
University of Washington（华盛顿大学）；National Tsing Hua University（清华大学）；United Link Co., Ltd.（联合链接有限公司）；Academia Sinica（中国科学院）
针对阿美语和赛德克语极低资源ASR，提出基于语言分类器与单类分类器的多语言语料数据选择方案，用于SSL模型持续预训练并显著提升识别性能。
2025-09-30 cs.CL cs.SD eess.AS
GLaRA: Graph-based Labeling Rule Augmentation for Weakly Supervised Named Entity Recognition
University of Michigan（密歇根大学）；Bosch Research and Technology Center（博世研究中心）
代替使用昂贵的手动注释，研究人员已经提出使用启发式标记规则来训练命名实体识别（NER）系统。然而，设计标签规则是具有挑战性的，因为它通常需要大量的手动工作和领域专业知识。为了缓解这个问题，我们提出了\textsc{GLaRA}，一个基于图的标签规则增强框架，学习新的标签规则从未标记的数据。我们首先创建一个图，图中的节点表示从未标记数据中提取的候选规则。然后，我们设计了一个新的图神经网络，通过探索规则之间的语义关系来扩充标注规则。最后，我们应用未标记数据的增强规则来生成弱标记，并使用弱标记数据训练NER模型。我们在三个NER数据集上评估了我们的方法，发现当给定一小组种子规则时，我们可以在最佳基线上实现+20\%F1分数的平均改进。
2021-04-13 cs.CL
ASR Under Noise: Exploring Robustness for Sundanese and Javanese
MBZUAI；University of Waterloo（滑铁卢大学）
该研究针对爪哇语和巽他语，探索基于Whisper的ASR模型在噪声环境下的鲁棒性，通过实验合成噪声增强、SpecAugment等训练策略，发现噪声感知训练可显著提升鲁棒性，并揭示了语言特定的挑战与改进方向。
2025-09-30 cs.CL
Exploring Code Style Transfer with Neural Networks
University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）；IBM Research（IBM研究院）
风格是自然语言文本的重要组成部分，它反映了文本基调的变化，同时保持了底层信息的不变。即使程序设计语言有严格的语法规则，它们也有风格。代码可以用相同的功能编写，但使用不同的语言功能。然而，编程风格很难量化，因此作为这项工作的一部分，我们专门为Python定义了风格属性。为了构建样式的定义，我们利用层次聚类来捕获样式定义，而不需要指定转换。除了定义样式之外，我们还探索了预训练的代码语言模型捕获有关代码样式的信息的能力。为此，我们微调了预训练的代码-语言模型，并评估了它们在代码风格转换任务中的表现。
2022-09-13 cs.CL
Enhancing Robustness of AI Offensive Code Generators via Data Augmentation
University of Naples Federico II（那不勒斯费德里科二世大学）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
本文提出对攻击性代码的自然语言描述添加扰动并用于数据增强，评估并提升了三种先进AI代码生成器在扰动输入下的鲁棒性。
2024-10-19 cs.CL cs.CR cs.LG
Exploring the Naturalness of Buggy Code with Recurrent Neural Networks
University of Virginia（弗吉尼亚大学）
统计语言模型是自然语言处理中的一种强有力的工具。最近，它们已被用于其他顺序数据，如源代码。(Ray例如，2015）示出了可以训练n-gram源代码语言模式，并且使用它来通过经由关于语言模型的熵确定“不自然”行来预测代码中的错误行。在这项工作中，我们建议使用一个更先进的语言建模技术，长短期记忆循环神经网络，建模源代码和分类错误行的基础上熵。我们表明，我们的方法在使用AUC的错误线分类任务中略优于n-gram模型。
2018-03-21 cs.CL cs.LG cs.SE
Exploring the Curious Case of Code Prompts
University of Pennsylvania（宾夕法尼亚大学）
本文在问答、情感和摘要等更广泛任务上比较三款 GPT 模型的代码提示与文本提示，发现代码提示并非普遍更优，其效果受提示风格和文本指令微调影响。
2023-04-26 cs.CL
Textual Data Augmentation for Arabic-English Code-Switching Speech Recognition
KANARI AI（卡纳里人工智能公司）；Johns Hopkins University（约翰斯·霍普金斯大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
话语内语码转换（CS）在口语内容中的普遍性要求语音识别（ASR）系统处理混合语言。设计CS-ASR系统有许多挑战，主要是由于数据稀缺，语法结构复杂性和领域不匹配。最常见的解决CS的方法是训练ASR系统与可用的转录CS语音，以及单语数据。在这项工作中，我们提出了一个零样本学习CS-ASR的方法，通过人工生成CS文本来增强单语数据。我们基于我们的方法随机词汇替换和等价约束（EC），同时利用对齐的翻译对生成随机和语法上有效的CS内容。我们的实证结果表明，65.5%的相对减少语言模型困惑，7.7%的ASR WER在两个生态有效的CS测试集。使用EC对生成的文本进行的人工评估表明，超过80%的文本具有足够的质量。
2023-01-11 cs.CL cs.SD eess.AS
Acoustic and Textual Data Augmentation for Improved ASR of Code-Switching Speech
Radboud University（拉德堡德大学）；National University of Singapore（新加坡国立大学）
在本文中，我们描述了几种技术，以改善声学和语言模型的自动语音识别（ASR）系统上的代码切换（CS）的语音。我们的重点是确认弗里斯兰语-荷兰语无线电广播，其中一种混合语言，即弗里斯兰语，是一种资源不足的语言。在以前的工作中，我们已经提出了几个自动转录策略CS语音，以增加可用的训练语音数据量。在这项工作中，我们将探讨如何声学建模（AM）可以受益于单语语音数据属于高资源的混合语言。为了这个目的，我们训练国家的最先进的AM，这是无效的，由于缺乏训练数据，对显着增加量的CS语音和单语荷兰语语音。此外，我们改进的语言模型（LM），通过创建代码转换文本，这是在实践中几乎不存在的，通过（1）生成文本使用经常性的LM训练的训练CS语音数据的转录，（2）添加自动转录的CS语音数据的转录和（3）翻译荷兰语文本提取的大型荷兰语语音语料库的转录。我们报告称，由于声学和文本训练数据的增加，CS ASR性能显着提高。
2018-07-28 cs.CL
Leveraging Language Identification to Enhance Code-Mixed Text Classification
SCTR’S Pune Institute of Computer Technology（SCTR’S浦那计算机技术学院）；L3Cube Pune（L3Cube浦那）；Indian Institute of Technology Madaras（印度理工学院马德拉斯分校）
针对低资源印地语-英语代码混合文本，本文提出结合词级语言识别与语言增强的BERT分类流水线，并在五个下游数据集上验证其性能提升。
2023-06-08 cs.CL cs.LG
Improving Multilingual Speech Models on ML-SUPERB 2.0: Fine-tuning with Data Augmentation and LID-Aware CTC
Carnegie Mellon University（卡内基梅隆大学）
本文针对ML-SUPERB 2.0多语言语音任务，提出结合冻结上游训练、部分微调、低秩适配、数据增强及LID感知CTC损失正则化的适配策略，使LID准确率相对提升14%、ASR CER相对降低30%，并在Interspeech 2025挑战赛中获得第二名。
2025-06-03 cs.CL cs.SD eess.AS
Syntax-based data augmentation for Hungarian-English machine translation
Department of Automation and Applied Informatics（自动化与应用信息学系）；Budapest University of Technology and Economics（布达佩斯技术与经济大学）；Eötvös Loránd Research Network（厄特沃什·罗兰研究网络）；Institute for Computer Science and Control（计算机科学与控制研究所）
我们使用Hunglish 2语料库为匈牙利语-英语和英语-匈牙利语训练基于transformer的神经机器翻译模型。我们最好的模型在匈牙利语英语和英语匈牙利语上的BLEU得分分别为40.0和33.4。此外，我们目前正在进行的工作，基于语法的增强神经机器翻译的结果。我们的代码和模型都是公开的。
2022-01-18 cs.CL cs.LG
Exploiting Spectral Augmentation for Code-Switched Spoken Language Identification
Swiggy (Bundl Technologies India Limited)（Swiggy（印度邦德尔科技有限公司））
需要口语识别（LID）系统来识别给定音频样本中存在的语言，并且通常可以是许多语音处理相关任务（诸如自动语音识别（ASR））中的第一步。自动识别语音信号中的语言不仅在科学上是有趣的，而且在印度这样的多语言国家中具有实际重要性。在许多印度城市，当人们相互交流时，可能会混合多达三种语言。这些可能包括该省的官方语言，印地语和英语（有时邻近省份的语言也可能在这些互动中混合）。这使得口语LID任务在印度背景下极具挑战性。虽然在印度语言的背景下已经实现了相当多的LID系统，但大多数这样的系统使用的是组织内部收集的小规模语音数据。在目前的工作中，我们对三种印度语言（古吉拉特语，泰卢固语和泰米尔语）与英语混合的代码进行口语LID。这项任务是由微软研究团队组织的，作为一个口头LID挑战。在我们的工作中，我们修改了通常的频谱增强方法，并提出了一个语言掩码，区分语言ID对，这导致了噪声鲁棒的口语LID系统。所提出的方法相对于微软提出的基线系统，在挑战中建议的两个共享任务的三种语言对上，LID准确性相对提高了约3-5%。
2020-10-14 cs.CL cs.SD eess.AS
Exploring Machine Speech Chain for Domain Adaptation and Few-Shot Speaker Adaptation
Southern University of Science and Technology（南方科技大学）；Microsoft China（微软中国）
机器语音链将端到端（E2 E）自动语音识别（ASR）和文本到语音（TTS）集成到一个循环中进行联合训练，已被证明可以有效地利用大量未配对数据进行数据增强。在本文中，我们探索语音链中的TTS->ASR管道，对神经TTS和E2 E ASR模型进行领域自适应，仅使用来自目标域的文本数据。我们进行了实验，通过适应从有声读物域（LibriSpeech）到呈现域（TED-LIUM），有一个相对的词出错率（WER）减少10%的E2 E ASR模型上的TED-LIUM测试集，和一个相对的WER减少51.5%的神经TTS生成的合成语音在呈现域。此外，我们通过以无监督的方式使用目标说话者的一些话语，对E2 E ASR应用Few-Shot说话者自适应，从而获得额外的收益。
2021-04-08 cs.CL cs.SD eess.AS
