Transferable Modeling Strategies for Low-Resource LLM Tasks: A Prompt and Alignment-Based Approach
Carnegie Mellon University(卡内基梅隆大学);Georgia Institute of Technology(佐治亚理工学院);San Francisco State University(旧金山州立大学);Northeastern University(东北大学);Rutgers University(罗格斯大学)
本文提出一种结合知识迁移、对齐损失、软提示微调和冻结策略的统一框架,在极少标注下提升大语言模型在低资源跨语言任务上的性能、稳定性与可扩展性。
2025-07-02 cs.CL
On Importance of Layer Pruning for Smaller BERT Models and Low Resource Languages
Pune Institute of Computer Technology(浦那计算机技术学院);L3Cube Labs(L3Cube实验室);Indian Institute of Technology Madras(马德拉斯印度理工学院)
本文研究层剪枝在低资源语言BERT模型中的效果,发现剪枝模型可在减少层数的同时保持性能并优于同规模从头训练模型,其中中间层剪枝策略尤为有效。
2025-01-01 cs.CL cs.LG
Exploiting Cross-Lingual Knowledge in Unsupervised Acoustic Modeling for Low-Resource Languages
The Chinese University of Hong Kong(香港中文大学)
本文研究了零资源环境下的自动语音识别(ASR)的无监督声学建模(UAM)问题。UAM不仅在解决ASR技术发展中数据稀缺的普遍问题方面非常重要,而且对于许多非主流应用也至关重要,例如语言保护,语言习得和病理性言语评估。本研究集中在两个研究问题。第一个问题涉及在给定语言中的基本(子字级)语音单元的无监督发现。在零资源条件下,可以仅从声学信号推断语音单元,而不需要或涉及任何语言方向和/或约束。第二个问题被称为无监督子字建模。从本质上讲,需要从未转录的语音中学习帧级特征表示。学习的特征表示是子词单元发现的基础。期望它是语言上有区别的,并且对非语言因素是鲁棒的。特别是广泛使用的跨语言知识的子词单元发现和建模是本研究的重点。
2020-07-29 cs.CL cs.SD eess.AS
Contrastive Decoding for Synthetic Data Generation in Low-Resource Language Modeling
ETH Zürich(苏黎世联邦理工学院);University of Copenhagen(哥本哈根大学)
本文提出利用对比解码生成合成语料,与原始数据混合训练,提升低资源语言建模及下游任务性能,尤其增强推理能力。
2025-10-09 cs.AI cs.CL cs.LG
Modeling Acoustic-Prosodic Cues for Word Importance Prediction in Spoken Dialogues
Rochester Institute of Technology(罗切斯特理工学院)
会话中的韵律提示有助于听者辨别信息。我们调查是否可以使用口语对话中的声学线索,以确定个别单词的重要性的意义的谈话转向。聋人和听力困难的人通常依赖于现场会议中的实时字幕。单词出错率是一个传统的用于评估自动语音识别的度量标准,它未能捕捉到某些单词对于系统正确转录比其他单词更重要。我们提出并评估使用声学特征进行3类单词重要性预测的神经架构。我们的模型与最先进的基于文本的单词重要性预测模型相比具有竞争力,并且在不完美的ASR输出上运行时表现出特别的优势。
2019-07-16 cs.CL
The Importance of Being Recurrent for Modeling Hierarchical Structure
University of Amsterdam(阿姆斯特丹大学);Leiden University(莱顿大学)
最近的工作表明,当训练递归神经网络(RNN)以解决常见的自然语言处理任务(例如语言建模)时,它可以隐式地捕获和利用分层信息(Linzen et al.,2016)和神经机器翻译(Shi等人,2016年)。相比之下,尽管非递归神经网络在许多NLP任务中取得了成功,但用非递归神经网络对结构化数据进行建模的能力却很少受到关注(Gehring等人,2017; Vaswani等人,2017年)。在这项工作中,我们比较了这两种架构-经常性与非经常性-关于他们的能力,模型层次结构,并发现,递归确实是重要的,为此目的。
2018-08-28 cs.CL
Multi-task Learning for Low-resource Second Language Acquisition Modeling
School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院);Baidu Inc.(百度公司);Beijing Language and Culture University(北京语言大学)
二语习得建模是根据学习者的所学知识预测学习者是否能正确回答问题。它是个性化学习系统的基本组成部分,近年来受到越来越多的关注。然而,据我们所知,几乎所有现有的方法不能很好地工作在低资源的情况下,由于缺乏训练数据。幸运的是,在不同的语言学习任务之间存在一些潜在的共同模式,这为我们解决低资源的二语习得建模问题提供了机会。受此思想的启发,本文提出了一种新的SLA建模方法,该方法通过多任务学习来学习不同语言学习数据集之间的潜在共同模式,并进一步应用于提高低资源场景下的预测性能。大量的实验表明,所提出的方法比国家的最先进的基线在低资源的情况下表现得更好。同时,在非低资源情况下,它也略有改善。
2020-08-31 cs.CL
A Corpus for Modeling Word Importance in Spoken Dialogue Transcripts
Rochester Institute of Technology(罗切斯特理工学院)
受一个项目的激励,为聋人或听力困难的人创建一个系统,该系统将使用自动语音识别(ASR)在与听力正常的人的面对面会议期间产生英语口语的实时文本字幕,我们已经用单词重要性注释的覆盖来增强Switchboard会话对话语料库的成绩单,每个单词都有一个数字分数,以表明它对每一轮对话意义的重要性。此外,我们通过训练自动单词重要性标记模型来证明该语料库的实用性;我们的最佳性能模型在有序6类单词重要性分类任务中的F分数为0.60,与人类注释者的一致性(一致性相关系数)为0.839(注释者之间的一致性分数为0.89)。最后,我们讨论了我们打算未来的应用程序,这个资源,特别是评估ASR性能的任务,即创建指标,预测ASR输出字幕文本的可用性DHH用户优于Word出错率(WER)。
2019-07-16 cs.CL
Understanding Cross-Domain Adaptation in Low-Resource Topic Modeling
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文针对低资源主题建模提出域适应框架 DALTA,通过共享编码器、专用解码器与对抗对齐实现选择性知识迁移,并以泛化界和实验证明其性能优势。
2025-06-09 cs.CL
Low Resourced Machine Translation via Morpho-syntactic Modeling: The Case of Dialectal Arabic
New York University Abu Dhabi(纽约大学阿布扎比分校);Ohio State University(俄亥俄州立大学);Carnegie Mellon University Qatar(卡内基梅隆大学卡塔尔分校)
我们提出了第二次评估阿拉伯语方言到方言的机器翻译的努力,第一次利用外部资源超出了一个小的平行语料库。由于缺乏自然发生的平行数据,这个问题以前没有得到认真的关注;但它的重要性是由方言阿拉伯语的广泛使用和方言间变异的广度所证明的,与罗曼语相当。我们的研究结果表明,建模的形态和语法显着提高方言到方言的翻译,虽然优化这样的数据稀疏模型需要考虑方言之间的语言差异和可用数据和资源的性质。在单参考盲测试集上,未翻译的输入得分为6.5 BLEU,仅在并行数据上训练的模型达到14.6,枢轴技术和形态句法建模将性能显着提高到17.5。
2017-12-18 cs.CL
MELM: Data Augmentation with Masked Entity Language Modeling for Low-Resource NER
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Nanyang Technological University(南洋理工大学)
数据增强是解决低资源情景下数据稀缺问题的有效办法。然而,当应用于令牌级任务,如NER,数据增强方法往往遭受令牌标签错位,这导致不满意的性能。在这项工作中,我们提出了掩蔽实体语言建模(MELM)作为一种新的数据增强框架低资源NER。为了缓解标记标签不对齐的问题,我们显式地将NER标签注入到句子上下文中,因此微调的MELM能够通过显式地调节它们的标签来预测掩蔽的实体标记。因此,MELM生成具有新实体的高质量增强数据,这提供了丰富的实体规则性知识并提高了NER性能。当来自多种语言的训练数据可用时,我们还将MELM与代码混合集成以进一步改进。我们证明了MELM在单语,跨语言和多语言NER在各种低资源水平的有效性。实验结果表明,我们的MELM提出了实质性的改善基线方法。
2022-03-18 cs.CL
Low-resource neural machine translation with morphological modeling
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出一种面向低资源神经机器翻译的形态建模框架,采用双层Transformer编码形态信息、多任务多标签训练与束搜索解码,并通过注意力增强集成预训练语言模型及数据增强,在基尼亚卢旺达语—英语翻译上取得与大型多语言模型相当的竞争力。
2024-04-03 cs.CL
TFD: A Comprehensive Structured Tibetan Foundation Dataset for Low-Resource Language Processing and Large-Scale Modeling
University of Electronic Science and Technology of China(电子科技大学);Xizang University(西藏大学);ZenWeave AI;The State Key Laboratory of Tibetan Intelligence(藏语智能国家重点实验室);Nanyang Technological University(南洋理工大学)
为解决藏语大语言模型开发中缺乏覆盖预训练、指令微调、安全对齐、偏好优化和推理监督等完整流程的数据集问题,提出首个结构化、大规模、专家精选的藏语基础数据集TFD,包含超过110亿词元的统一语料库及链式推理数据集,通过训练Sun-Shine系列藏语模型在理解、安全、推理和生成基准上取得显著提升。
2026-05-26 cs.CL
Importance of Search and Evaluation Strategies in Neural Dialogue Modeling
New York University(纽约大学);Facebook AI Research(Facebook人工智能研究院)
我们研究了搜索策略在神经对话建模中的影响。我们首先比较两个标准的搜索算法,贪婪和束搜索,以及我们新提出的迭代束搜索,产生一个更多样化的候选响应集。我们评估这些策略在现实的全面对话与人类,并提出了一个基于模型的贝叶斯校准,以解决注释者的偏见。这些对话进行了分析,使用两个自动度量:由模型和话语多样性分配的对数概率。我们的实验表明,更好的搜索算法会导致更高的评分对话。然而,找到最佳的选择机制,从更多样化的候选人中进行选择,仍然是一个悬而未决的问题。
2019-11-03 cs.CL cs.LG
Low-Resource Task-Oriented Semantic Parsing via Intrinsic Modeling
Facebook(脸书)
面向任务的语义解析模型通常具有高的资源需求:为了支持新的本体(即,意图和插槽),从业者众包成千上万的样本进行监督微调。部分原因是由于事实上的复制生成解析器的结构;这些模型将本体标签视为离散实体,依赖于并行数据来导出其含义。在我们的工作中,我们利用了我们对本体标签的内在了解;例如,SL:TIME_ZONE具有分类类型“slot”和基于语言的跨度“time zone”。利用这种动机,我们通过离线和在线阶段来构建我们的方法。在预处理过程中,对于每个本体标签,我们将其内在属性提取到组件中,并将每个组件插入到库存中作为排序缓存。在训练过程中,我们微调了一个seq 2seq,预先训练好的Transformer将话语和库存映射到帧,解析由话语和本体令牌组成的树。我们的公式鼓励模型将本体标签视为其内在属性的联合,因此在低资源设置中基本上自举学习。实验表明,我们的模型是高度样本效率:使用来自TOPv 2的低资源基准,我们的库存解析器优于复制生成解析器+15 EM绝对(44%相对)时,微调10个样本从一个看不见的域。
2021-04-15 cs.CL
IPA-CHILDES & G2P+: Feature-Rich Resources for Cross-Lingual Phonology and Phonemic Language Modeling
Department of Computer Science & Technology, University of Cambridge, U.K.(计算机科学与技术系,剑桥大学);ALTA Institute, University of Cambridge, U.K.(ALTA研究所,剑桥大学)
该研究推出G2P+音位转换工具和31语儿童语音音位数据集IPA CHILDES,填补现有数据集多语言、自发语、儿童导向语的空白,验证了音位分布特性可跨语言学习音系区别特征。
2025-06-12 cs.CL
The Importance of the Current Input in Sequence Modeling
Universidad Autónoma de Madrid(马德里自治大学)
序列建模的最新进展主要基于深度学习方法。目前的技术水平涉及使用标准LSTM架构的变体,并结合几种技巧来提高经过训练的神经网络的最终预测率。然而,在某些情况下,这些调整可能过于适应所处理的特定问题。在这篇文章中,我们展示了一个非常简单的想法,在输入和输出之间添加直接连接,跳过递归模块,导致与自然语言处理相关的序列建模问题中的预测精度增加。在不同问题上进行的实验表明,将这种连接添加到递归网络中总是可以改善结果,而不管体系结构和特定于训练的细节如何。当这个想法被引入到领导该领域的模型中时,所产生的网络在语言建模问题中实现了一个新的最先进的困惑。
2021-12-22 cs.CL cs.LG
Bilingual Language Modeling, A transfer learning technique for Roman Urdu
NUCES (FAST)(NUCES(FAST))
预训练的语言模型现在广泛用于自然语言处理。尽管它们取得了成功,但将它们应用于低资源语言仍然是一个巨大的挑战。虽然多语言模型有很大的希望,但将它们应用于特定的低资源语言(如罗马乌尔都语)可能会过度。在本文中,我们展示了如何代码转换属性的语言可以用来执行跨语言迁移学习从相应的高资源语言。我们还展示了这种称为双语语言建模的迁移学习技术如何用于为罗马乌尔都语生成性能更好的模型。为了使培训和实验,我们还提出了一个收集的小说语料库罗马乌尔都语提取各种来源和社交网站,如Twitter。我们训练了罗马乌尔都语的单语、多语和双语模型--在掩蔽语言建模(MLM)任务中,与单语和多语模型的2%和11%相比,所提出的双语模型实现了23%的准确率。
2021-02-22 cs.CL
DN at SemEval-2023 Task 12: Low-Resource Language Text Classification via Multilingual Pretrained Language Model Fine-tuning
本文针对低资源非洲语言情感分析任务,提出基于多语言 XLM-R 模型微调的解决方案,在 AfriSenti-SemEval 2023 任务 12 多语言赛道中取得第三名,并指出构建更全面数据集与模型的必要性。
2023-05-04 cs.CL
Limitations of Religious Data and the Importance of the Target Domain: Towards Machine Translation for Guinea-Bissau Creole
University of Edinburgh(爱丁堡大学);University of Sheffield(谢菲尔德大学)
本文构建了几内亚比绍克里奥尔语机器翻译新数据集,通过训练基于transformer的模型发现,少量目标领域数据能大幅提升翻译性能,且葡语到Kiriol翻译效果最佳,旨在促进低资源克里奥尔语的机器翻译研究。
2025-04-03 cs.CL
Improving Low-Resource Knowledge Tracing Tasks by Supervised Pre-training and Importance Mechanism Fine-tuning
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Guangdong Institute of Smart Education, Jinan University(暨南大学广东智慧教育研究院);TAL Education Group(好未来教育集团)
针对低资源知识追踪中交互稀少、易过拟合且架构难选的问题,本文提出LoReKT框架,通过多源监督预训练与重要性机制微调提升迁移效果,并在六个公开数据集上验证了AUC和Accuracy优势。
2024-10-25 cs.AI cs.CL cs.CY
Efficient Language Modeling for Low-Resource Settings with Hybrid RNN-Transformer Architectures
University of Bamberg(班贝格大学);University of Stuttgart(斯图加特大学)
本文提出在 Transformer 中选择性替换注意力层为前馈和准循环神经网络层,以在低数据体制下提升性能并降低参数量,实验证明其在参数量更少时优于或媲美现有模型。
2025-02-02 cs.CL
RASMALAI: Resources for Adaptive Speech Modeling in Indian Languages with Accents and Intonations
Indian Institute of Technology Madras(印度理工学院马德拉斯学院);Huggingface;AI4Bharat, WSAI(AI4Bharat,WSAI)
我们提出RASMALAI大规模语音数据集及IndicParlerTTS模型,支持23种印度语言和英语的可控表现性语音合成,通过文本描述实现高质量多语言语音生成。
2025-05-27 cs.CL
From Masked Language Modeling to Translation: Non-English Auxiliary Tasks Improve Zero-shot Spoken Language Understanding
IT University of Copenhagen(哥本哈根信息技术大学);Factmata(Factmata公司);Tokyo Metropolitan University(东京都立大学);University of Groningen(格罗宁根大学);University of Trento(特伦托大学);Fondazione The Microsoft Research – University of Trento Centre for Computational and Systems Biology (COSBI)(微软研究院-特伦托大学计算与系统生物学中心基金会(COSBI))
缺乏对低资源语言的公开评估数据限制了口语语言理解(SLU)的进展。由于像意图分类和槽填充这样的关键任务需要大量的训练数据,因此期望在高资源语言中重用现有数据以开发用于低资源场景的模型。我们引入了xSID,这是一个跨语言插槽和意图检测的新基准,适用于6个语言家族的13种语言,包括一种资源非常少的方言。为了应对这一挑战,我们提出了一种联合学习方法,使用英语SLU训练数据和来自原始文本、语法和翻译的非英语辅助任务进行传输。我们研究了两种设置,它们在预训练嵌入的类型和语言覆盖范围方面有所不同。我们的研究结果表明,联合学习的主要任务与掩蔽语言建模是有效的插槽,而机器翻译转移的工作最好的意图分类。
2021-05-15 cs.CL
Improved Meta Learning for Low Resource Speech Recognition
Massey University(梅西大学)
我们提出了一个新的Meta学习为基础的框架,低资源语音识别,改进了以前的模型不可知Meta学习(MAML)的方法。MAML是一种简单而强大的Meta学习方法。然而,MAML存在一些核心缺陷,如训练不稳定和收敛速度较慢。为了解决这些问题,我们采用了多步损失(MSL)。MSL的目标是计算MAML内部循环的每一步的损失,然后将它们与加权重要性向量相结合。重要性向量确保最后一步的损失比前几步更重要。我们的实证评估表明,MSL显着提高了训练过程的稳定性,从而也提高了整个系统的准确性。我们提出的系统优于基于MAML的低资源ASR系统在各种语言的字符出错率和稳定的训练行为。
2022-05-11 cs.CL cs.LG cs.SD
The Importance of Generation Order in Language Modeling
Google Brain(谷歌大脑)
神经语言模型是用于机器翻译、摘要、音频转录和其他任务的最先进系统的关键组件。这些语言模型在本质上几乎是普遍自回归的,从左到右每次生成一个标记的句子。本文通过一种新的两遍语言模型,生成部分填充的句子“模板”,然后填充缺失的令牌,研究令牌生成顺序对模型质量的影响。我们比较了构建这两个通道的各种策略,并观察到模型质量的惊人变化。我们发现最有效的策略是在第一遍生成功能词,然后在第二遍生成内容词。我们相信这些实验结果证明了神经语言模型的生成顺序的更广泛的调查。
2018-08-23 cs.CL cs.LG stat.ML
Multilingual bottleneck features for subword modeling in zero-resource languages
University of Edinburgh(爱丁堡大学)
我们如何有效地为没有转录数据的语言开发语音技术?许多现有的方法根本不使用注释资源,但是利用来自其他语言的大型注释语料库的信息是有意义的,例如以从监督语音识别系统获得的多语言瓶颈特征(BNF)的形式。在这项工作中,我们评估的好处BNF的子词建模(特征提取)在六个看不见的语言上的一个字的歧视任务。首先,我们建立了一个强大的无监督基线结合现有的两种方法:声道长度归一化(VTLN)和对应的自动编码器(cAE)。然后,我们表明,在一种语言上训练的BNF已经超过了这个基线;包括多达10种语言会带来额外的改进,这是仅仅从一种语言中添加更多数据所无法比拟的。最后,我们表明,cAE可以进一步提高的BNF,如果高质量的相同的词对。
2018-06-18 cs.CL eess.AS
ZeroSyl: Simple Zero-Resource Syllable Tokenization for Spoken Language Modeling
Electrical and Electronic Engineering, Stellenbosch University, South Africa(斯瓦兹堡大学电子与电气工程系,南非)
提出ZeroSyl,一种无需训练的方法,直接从冻结的WavLM模型中提取音节边界和嵌入,实现竞争性的音节分割性能,并在词汇、句法和叙事基准上优于先前方法。
2026-06-17 cs.CL eess.AS
Self-Normalized Importance Sampling for Neural Language Modeling
RWTH Aachen University(亚琛工业大学);AppTek GmbH(AppTek有限公司)
为了缓解神经语言模型的softmax标准化中必须遍历全部词汇的问题,提出了基于采样的训练标准,并在大词汇量基于单词的神经语言模型的上下文中进行了研究。这些训练标准通常享有更快的训练和测试的好处,但代价是在困惑方面的性能略有下降,并且单词出错率几乎没有明显下降。虽然噪声对比估计是最受欢迎的选择之一,但最近我们发现,只要进行额外的校正步骤,其他基于采样的标准也可以表现良好,其中从原始模型输出中恢复预期的类后验概率。在这项工作中,我们提出了自归一化重要性采样。与我们以前的工作相比,在这项工作中考虑的标准是自归一化的,没有必要进一步进行校正步骤。通过自规范化语言模型训练和格重评分实验,我们表明,我们提出的自规范化重要性采样是面向研究和面向生产的自动语音识别任务的竞争力。
2022-06-17 cs.CL cs.SD eess.AS
Adversarial Multitask Learning for Joint Multi-Feature and Multi-Dialect Morphological Modeling
New York University Abu Dhabi(纽约大学阿布扎比分校)
形态标记对于形态丰富的语言是具有挑战性的,这是由于大的目标空间和需要更多的训练数据来最小化模型稀疏性。形态丰富的语言的方言变体遭受更多,因为它们往往更嘈杂,资源更少。在本文中,我们探讨了使用多任务学习和对抗训练,以解决形态丰富性和方言的变化,在完整的形态标记的背景下。我们使用多任务学习联合形态建模的功能在两个方言,并作为跨方言建模的知识转移计划。我们使用对抗训练来学习方言不变特征,这些特征可以帮助知识转移方案从高资源变体到低资源变体。我们使用两种方言变体:现代标准阿拉伯语(高资源“方言”)和埃及阿拉伯语(低资源方言)作为案例研究。我们的模型在这两方面都取得了最先进的结果。此外,对抗训练在使用较小的训练数据集时提供了更显着的改进。
2019-10-28 cs.CL cs.LG
The Zero Resource Speech Benchmark 2021: Metrics and baselines for unsupervised spoken language modeling
Facebook AI Research(Facebook人工智能研究院);EHESS(社会科学高等学院);CNRS(法国国家科学研究中心);INRIA(法国国家信息与自动化研究所)
我们引入了一个新的无监督任务,口语建模:从没有任何标签的原始音频信号中学习语言表示,以及零资源语音基准2021:一套4个黑盒,zero-shot指标,在4个语言水平上探索学习模型的质量:语音,词汇,语法和语义。我们展示了由三个无监督系统串联而成的复合基线的结果和分析:自监督对比表示学习(CPC),聚类(k-means)和语言建模(LSTM或BERT)。语言模型基于从聚类学习的表示导出的伪文本进行学习。这个简单的流水线在所有四个指标上都表现出了优于机会的性能,证明了从原始语音进行口语建模的可行性。与在相同数据上训练的基于文本的“背线”系统相比,它的性能也更差,描绘了由更复杂的端到端模型探索的空间。
2020-12-01 cs.CL cs.SD eess.AS
Surfing the modeling of PoS taggers in low-resource scenarios
University of Vigo(维戈大学)
本文评估了在低资源场景下,通过早期估计学习曲线来选择非深度模型的方法,并以加利西亚语词性标注器生成为案例,验证了该方法的可靠性。
2024-02-04 cs.CL cs.LG
Learning Who Disagrees: Demographic Importance Weighting for Modeling Annotator Distributions with DiADEM
Rochester Institute of Technology(罗切斯特理工学院)
DiADEM通过学习群体重要性权重,有效建模标注者分歧,优于现有方法,在多个基准上取得显著成果,揭示种族和年龄对标注者分歧的关键影响。
2026-04-09 cs.AI cs.CL
Multilingual and Unsupervised Subword Modeling for Zero-Resource Languages
Idiap Research Institute(Idiap研究所);University of Edinburgh(爱丁堡大学);Stellenbosch University(斯泰伦博斯大学)
零资源语言的子词建模旨在学习语音音频的低级表示,而不使用目标语言的转录或其他资源(例如文本语料库或发音词典)。一个好的表示应该捕捉语音内容,并从其他类型的可变性中抽象出来,比如说话人的差异和通道噪声。以前在这方面的工作主要集中在目标语言数据的无监督学习,并且只在本质上进行了评估。在这里,我们直接比较了多种方法,包括一些只使用目标语言语音数据的方法和一些使用其他(非目标)语言转录语音的方法,我们使用两种内在指标以及下游无监督分词和聚类任务进行评估。我们发现,结合两个现有的目标语言的方法产生更好的功能比单独的方法。然而,通过使用在其他语言上训练的模型来提取目标语言瓶颈特征,可以获得更好的结果。仅使用另一种语言的跨语言培训就足以提供这种好处,但多语言培训的帮助更大。除了这些结果,这两个内在的措施和外在的任务,我们讨论了不同类型的学习功能之间的质的差异。
2020-04-07 cs.CL eess.AS
DialectS2S: End-to-End Speech Dialogue Modeling for Low-Resource Chinese Dialects
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Wuhan AI Research(武汉人工智能研究院);GWM AI Lab(长城汽车人工智能实验室)
针对低资源汉语方言语音数据稀缺及语义不一致问题,提出DialectS2S模型,通过合成流水线与自对齐后训练策略提升方言语音生成质量,开源框架实现性能突破。
2026-08-17 cs.AI cs.CL
READ: Recurrent Adapter with Partial Video-Language Alignment for Parameter-Efficient Transfer Learning in Low-Resource Video-Language Modeling
本文提出READ框架,通过递归计算和部分最优传输对齐,提升低资源视频-语言建模任务的性能,优于现有迁移学习方法。
2026-05-12 cs.CL cs.CV
Adaptive Pruning for Large Language Models with Structural Importance Awareness
Harbin Engineering University(哈尔滨工程大学);Shenzhen Future Network of Intelligence Institute (FNii-Shenzhen)(深圳未来网络智能研究院(香港中文大学(深圳)));The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Nanyang Technological University(南洋理工大学)
本文提出结构感知自适应剪枝方法SAAP,通过自适应重要性融合度量和分组微调策略,在保持性能的同时降低大型语言模型的计算与内存开销,并在准确率和生成速度上优于基线方法。
2024-12-19 cs.AI cs.CL cs.LG
ConsistTL: Modeling Consistency in Transfer Learning for Low-Resource Neural Machine Translation
University of Macau(澳门大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
迁移学习是一种简单而强大的方法,可用于提高低资源神经机器翻译(NMT)的模型性能。现有的NMT迁移学习方法都是静态的,通过参数初始化将知识从父模型迁移到子模型。本文提出了一种新的NMT迁移学习方法ConsistTL,它可以在子模型的训练过程中不断地从父模型中迁移知识。具体来说,对于子模型的每个训练实例,ConsistTL为父模型构造语义等价的实例,并鼓励该实例的父子预测一致性,相当于子模型在父模型的指导下学习每个实例。在五个低资源NMT任务上的实验结果表明,ConsistTL在强迁移学习基线上有显著的改进,在广泛使用的WMT 17土耳其语-英语基准测试上,与现有的反向翻译模型相比,增益高达1.7 BLEU。进一步的分析表明,ConsistTL可以提高儿童模型的推理校准。代码和脚本可以在https://github.com/NLP2CT/ConsistTL上免费获得。
2022-12-08 cs.AI cs.CL cs.LG