Improving Dysarthric Speech Intelligibility Using Cycle-consistent Adversarial Training
Seoul National University（首尔国立大学）
构音障碍是一种影响数百万人的运动性语言障碍。构音障碍者的言语比非构音障碍者的言语更难理解，从而导致显著的沟通困难。我们工作的目标是开发一个模型，构音障碍，以健康的语音转换使用周期一致的GAN。使用18，700个构音障碍和8，610个健康对照韩语话语，这些话语是为了在先前的研究中自动识别语音键盘而记录的，该生成器被训练成在谱域中将构音障碍转换为健康语音，然后将其转换回语音。客观评价使用自动语音识别的生成的话语上举行了测试集显示，识别性能得到改善，与原来的dysarthic语音进行对抗训练后，作为绝对WER已降低了33.4%。实验结果表明，所提出的基于GAN的转换方法对于改善构音障碍语音的可懂度是有用的。
2020-01-10 cs.CL cs.SD eess.AS
Cyclic Defense GAN Against Speech Adversarial Attacks
École de Technologie Supérieure (ÉTS), Université du Québec（魁北克大学高等技术学院）
提出了一种新的防御方法来对抗最先进的白盒和黑盒对抗攻击算法。我们的方法适合隐式反应防御算法类别，因为它不直接操纵潜在的恶意输入信号。相反，它使用循环生成对抗网络用合成频谱图重建类似信号。这种循环框架有助于产生稳定的生成模型。最后，我们将重建的信号输入到语音到文本模型中进行转录。针对DeepSpeech、Kaldi和Lingvo模型开发的针对性和非针对性对抗攻击进行的实验证明了所提出的防御在不利场景中的有效性。
2021-08-22 cs.CR cs.SD eess.AS
Noise Flooding for Detecting Audio Adversarial Examples Against Automatic Speech Recognition
The College University of Chicago（芝加哥大学学院）；University of Colorado Colorado Springs（科罗拉多斯普林斯分校科罗拉多大学）
神经模型在各种任务中得到广泛使用，并已成为许多工业系统的关键组成部分。尽管它们有效且广受欢迎，但它们并非没有可利用的缺陷。最初应用于计算机视觉系统，对抗性示例的生成是对图像进行看似不可感知的扰动的过程，目的是诱导基于深度学习的分类器对图像进行错误分类。由于语音处理的最新趋势，这已经成为语音识别模型中的一个值得注意的问题。在2017年底，一种攻击被证明对语音命令分类模型非常有效。词汇量有限的语音分类器，如语音命令模型，在各种应用程序中使用得非常频繁，特别是在电话环境中管理自动话务员。因此，这种攻击产生的对抗性例子可能会产生现实世界的后果。虽然以前在防御这些对抗性示例方面的工作已经研究了使用音频预处理来减少或扭曲对抗性噪声，但这项工作探索了用随机噪声淹没音频信号的特定频带以检测对抗性示例的想法。这种不需要重新训练或修改模型的泛洪技术受到计算机视觉工作的启发，并建立在语音分类器对自然噪声相对鲁棒的想法之上。一种结合了5个不同频带的组合防御方法，用于用噪声淹没信号，其性能优于音频空间中其他现有的防御方法，检测对抗性示例的准确率为91.8%，召回率为93.5%。
2018-12-25 cs.CL cs.CR cs.LG
Muting Whisper: A Universal Acoustic Adversarial Attack on Speech Foundation Models
本文提出一种通用声学对抗攻击，通过学习Whisper的<|endoftext|>标记的声学实现并前置到语音上，使模型忽略语音并仅转录该标记，实现97%以上样本的静音效果，且可跨数据集迁移，既带来风险也有隐私保护等潜在益处。
2024-07-17 cs.CL cs.SD eess.AS
Unpaired Speech Enhancement by Acoustic and Adversarial Supervision for Speech Recognition
KAIST（韩国科学技术院）；Mokwon University（木原大学）；KAIST Institute for Artificial Intelligence（韩国科学技术院人工智能研究所）
许多语音增强方法试图学习噪声和干净语音之间的关系，使用声学室模拟器获得。我们指出了几个局限性的增强方法依赖于干净的语音目标，这项工作的目标是提出一种替代学习算法，称为声学和对抗监督（AAS）。AAS使得增强的输出既最大化了预训练的声学模型上的转录的可能性，又具有干净语音的一般特征，这提高了对看不见的噪声语音的泛化。我们采用连接主义的时间分类和不成对的条件边界平衡生成对抗网络作为AAS的损失函数。AAS在两个数据集上进行了测试，包括加性噪声没有混响和混响，Librispeech + DEMAND和CHiME-4。通过可视化不同损失组合的增强语音，我们展示了每个监督的作用。AAS实现了较低的字出错率比其他国家的最先进的方法使用干净的语音目标在两个数据集。
2018-11-06 cs.CL cs.LG cs.SD
Anonymizing Speech with Generative Adversarial Networks to Preserve Speaker Privacy
University of Stuttgart（斯图加特大学）
为了保护语音数据的隐私，说话人匿名化的目的是通过改变语音记录中的声音来隐藏说话人的身份。这通常伴随着个人保护和下游应用程序数据可用性之间的隐私实用性权衡。这方面的挑战之一是创造出听起来尽可能自然的不存在的声音。在这项工作中，我们建议通过使用Wasserstein距离作为成本函数的生成对抗网络生成说话人嵌入来解决这个问题。通过将这些人工嵌入到语音到文本到语音的管道中，我们在隐私和实用性方面优于以前的方法。根据标准的客观指标和人工评估，我们的方法生成了原始录音的可理解和内容保护但隐私保护的版本。
2022-10-20 cs.CL cs.SD eess.AS
Adversarial Example Devastation and Detection on Speech Recognition System by Adding Random Noise
College of Information Science and Engineering, Ningbo University（宁波大学信息科学与工程学院）
基于深度神经网络的自动语音识别（ASR）系统容易受到对抗性示例的攻击，特别是如果命令依赖的ASR失败。提出了一种对抗性样本的防御方法，以提高ASR系统的鲁棒性和安全性。我们提出了一个算法的破坏和检测对抗的例子，可以攻击当前先进的ASR系统。我们选择了一个先进的文本和命令相关的ASR系统作为我们的目标，生成对抗的例子，基于优化的攻击文本相关的ASR和基于GA的算法命令相关的ASR。该方法是基于输入变换的对抗性的例子。不同的随机强度和噪声种类被添加到对抗性示例中，以恢复先前添加到正常示例中的扰动。实验结果表明，该方法具有良好的性能。对于样本的破坏性，加入噪声后的原始语音相似度可以达到99.68%，对抗性样本的相似度可以达到零，对抗性样本的检测率可以达到94%。
2021-10-17 cs.CR cs.MM cs.SD
Investigating Generative Adversarial Networks based Speech Dereverberation for Robust Speech Recognition
Northwestern Polytechnical University（西北工业大学）；Xiaomi（小米）
我们研究了生成对抗网络（GANs）在语音去混响中的使用，以实现鲁棒的语音识别。最近已经研究了GANs用于语音增强以去除加性噪声，但是仍然缺乏研究它们在语音去混响中的能力的工作，并且使用GANs的优点还没有完全建立。在本文中，我们对ASR中基于GAN的去混响前端的使用进行了深入的研究。首先，我们研究了不同去混响网络（GAN中的生成器）的有效性，并发现LSTM在我们的数据集中与前馈DNN和CNN相比有显著的改进。其次，在深层LSTM中进一步添加剩余连接也可以提高性能。最后，我们发现，对于GAN的成功，重要的是在训练期间使用相同的小批量数据更新生成器和训练器。此外，使用混响声谱图作为一个条件，在以前的研究中建议，可能会降低性能。总之，当在强多条件训练声学模型上进行测试时，与基线DNN去混响网络相比，我们基于GAN的去混响前端实现了14%-19%的相对CER减少。
2018-10-25 cs.CL cs.SD eess.AS
Defense against Adversarial Attacks on Hybrid Speech Recognition using Joint Adversarial Fine-tuning with Denoiser
Center for Language and Speech Processing, Johns Hopkins University（约翰霍普金斯大学语言与语音处理中心）
对抗性攻击是对自动语音识别（ASR）系统的威胁，提出防御措施来保护它们变得势在必行。在本文中，我们进行了实验，以表明K2构象混合ASR受到白盒对抗攻击的强烈影响。我们提出了三种防御方法--去噪预处理器、逆向微调ASR模型和逆向微调ASR与去噪器的联合模型。我们的评估显示，去噪预处理器（在离线对抗性示例上训练）无法抵御自适应白盒攻击。然而，使用去噪器和ASR的串联模型对去噪器进行逆向微调提供了更强的鲁棒性。我们评估了这种防御的两个变体-一个更新两个模型的参数，第二个保持ASR冻结。联合模型提供了一个平均绝对下降19.3%的地面真值（GT）WER参考基线对快速梯度符号法（FGSM）攻击与不同的$L_\infty$规范。采用冻结ASR参数的联合模型在7次迭代中对投影梯度下降（PGD）给出了最好的防御，相对于基线，GTWER平均绝对增加了22.3%;在500次迭代中对PGD给出了最好的防御，GTWER平均绝对减少了45.08%，对抗性目标WER增加了68.05%。
2022-04-08 cs.CR cs.SD eess.AS
Speech waveform synthesis from MFCC sequences with generative adversarial networks
Aalto University（阿尔托大学）；National Institute of Informatics（国立信息学研究所）；NTT Communication Science Laboratories, NTT Corporation（NTT公司NTT通信科学实验室）
本文提出了一种从滤波器组梅尔频率倒谱系数（MFCC）生成语音的方法，MFCC被广泛用于语音应用，如ASR，但通常被认为不能用于语音合成。首先，我们预测基频和浊音信息的MFCC与自回归递归神经网络。其次，包含在MFCC的频谱包络信息被转换为全极点滤波器，并与这些滤波器匹配的桨距同步励磁模型的训练。最后，我们引入了一个基于生成对抗网络的噪声模型，以向建模的激励信号添加一个真实的高频随机分量。实验结果表明，在测试时只需要MFCC信息，就可以得到高质量的语音重建。
2018-04-03 cs.CL cs.SD eess.AS
Leveraging Domain Features for Detecting Adversarial Attacks Against Deep Speech Recognition in Noise
Aalborg University（奥尔堡大学）
近年来，基于深度模型的自动语音识别（ASR）取得了重大进展，导致其在现实世界中的广泛部署。同时，针对深度ASR系统的对抗性攻击非常成功。已经提出了各种方法来保护ASR系统免受这些攻击。然而，现有的基于分类的方法专注于深度学习模型的设计，而缺乏对领域特定特征的探索。这项工作利用基于滤波器组的特征来更好地捕获攻击的特征，以改进检测。此外，本文分析了分别使用语音和非语音部分检测对抗性攻击的潜力。最后，考虑到ASR系统可能部署的不利环境，我们研究了各种类型的声学噪声和信噪比的影响。大量的实验表明，逆滤波器组的功能通常在清洁和噪声环境中表现得更好，检测是有效的，无论是使用语音或非语音部分，和声学噪声可以大大降低检测性能。
2022-11-03 cs.CR cs.LG cs.SD
AIPNet: Generative Adversarial Pre-training of Accent-invariant Networks for End-to-end Speech Recognition
Facebook AI（脸书人工智能研究院）；National Taiwan University（台湾大学）
口音作为语音变异的主要来源之一，对语音识别系统的鲁棒性提出了巨大的挑战。在本文中，我们的目标是建立一个统一的端到端的语音识别系统，概括以及跨口音。为此，我们提出了一种新的预训练框架AIPNet基于生成对抗网（GAN）的口音不变的表示学习：口音不变的预训练网络。我们对AIPNet进行了预训练，通过对口音数据进行对抗性训练，将口音不变和口音特定的特征从声学特征中分离出来，而口音数据不一定是可用的。我们通过将口音不变模块与用于多口音语音识别的基于注意力的编码器-解码器模型连接，进一步微调AIPNet。在实验中，我们的方法进行了比较，对四个基线，包括口音依赖和口音独立的模型。在9种英语口音上的实验结果表明，该方法在所有口音中均能使用音译词时，平均WER降低了2.3 \sim 4.5%，在只有美国口音中使用音译词时，平均WER降低了1.6 \sim 6.1%.
2019-11-27 cs.CL cs.SD eess.AS
Adversarial Attacks on Speech Recognition Systems for Mission-Critical Applications: A Survey
Deakin University（迪肯大学）
机器关键型应用程序是一个系统，它对特定和敏感的操作（如搜索和恢复，救援，军事和应急管理行动）的成功至关重要。机器学习、自然语言处理、话音识别和语音处理技术的最新进展自然允许开发和部署基于语音的会话接口以与各种机器关键应用交互。虽然这些对话界面允许用户发出语音命令来执行战略和关键活动，但它们对对抗攻击的鲁棒性仍然不确定和不清楚。事实上，对抗性人工智能（AI）是指一组试图用欺骗性数据欺骗机器学习模型的技术，是AI和机器学习研究界日益增长的威胁，特别是对于机器关键型应用程序。对抗攻击最常见的原因是在机器学习模型中造成故障。对抗攻击可能需要将不准确或伪造的样本作为模型的训练数据，或者引入恶意设计的数据来欺骗已经训练好的模型。在专注于机器关键型应用的语音识别的同时，在本文中，我们首先回顾了现有的语音识别技术，然后，我们调查了对抗攻击和防御这些系统的有效性，然后概述了研究挑战，防御建议和未来的工作。本文旨在为研究人员和从业人员提供参考，以帮助他们了解所面临的挑战，定位自己，并最终帮助他们改善现有的语音识别模型的关键任务的应用程序。关键词：关键任务应用，对抗性人工智能，语音识别系统。
2022-02-22 cs.CR cs.LG cs.SD
Unsupervised Domain Adaptation by Adversarial Learning for Robust Speech Recognition
Institute for Natural Language Processing, University of Stuttgart（斯图加特大学自然语言处理研究所）
在本文中，我们研究了使用对抗学习来无监督地适应看不见的记录条件，更具体地说，是单麦克风远场语音。我们适应基于神经网络的声学模型训练与近距离交谈干净的语音新的录音条件下使用未转录的适应数据。我们在意大利SPEECON数据集上的实验结果表明，我们提出的方法实现了19.8%的相对字错误率（WER）减少相比，未适应的模型。此外，这种自适应方法是有益的，即使当从另一种语言（即法语）的数据上进行，给出12.6%的相对WER减少。
2018-07-30 cs.AI cs.CL cs.SD
Adversarial Learning of Raw Speech Features for Domain Invariant Speech Recognition
Indraprastha Institute of Information Technology（英德拉普拉斯塔信息技术学院）；Synaptitude Brain Health（Synaptitude大脑健康公司）；Verisk Analytics（Verisk分析公司）
基于神经网络的声学建模的最新进展已经显示出自动语音识别（ASR）性能的显著改进。为了使声学模型能够处理大的声学变化，大量的标记数据是必要的，这通常是昂贵的获得。本文探讨了对抗性训练的应用，以从原始语音中学习对声学变化不变性的特征。这种声学变化在本文中被称为域移位。本文提出的实验研究利用了域对抗神经网络（DANN）的架构[1]，该架构使用来自两个不同域的数据。DANN是一个Y形网络，由一个多层CNN特征提取器模块组成，该模块对标签（senone）分类器和所谓的域分类器是通用的。在多个数据集上评估DANN的效用，这些数据集具有由于性别和说话者口音差异而引起的域偏移。有前途的实证结果表明，对抗训练的强度在ASR中的无监督域适应，从而强调了DANN从原始语音学习域不变特征的能力。
2018-05-21 cs.SD eess.AS
Robust Automatic Speech Recognition via WavAugment Guided Phoneme Adversarial Training
Alibaba Group（阿里巴巴集团）；Chinese Academy of Sciences（中国科学院）
针对ASR模型需兼顾干净样本性能与抗扰动、抗域偏移能力的难题，提出WavAugment引导的音素对抗训练方法wapat，通过音素空间对抗增强与增强样本音素引导的对抗生成提升泛化性，在ESB基准上实现6.28%的WER降低，刷新SOTA。
2023-07-24 cs.CL cs.SD eess.AS
Arabic Dysarthric Speech Recognition Using Adversarial and Signal-Based Augmentation
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出结合基于信号的语速节奏调整与PWG对抗增强的多阶段方法，并通过Conformer微调和文本纠正，显著提升阿拉伯语构音障碍语音识别性能。
2023-06-07 cs.CL cs.SD eess.AS
Detecting Adversarial Attacks On Audiovisual Speech Recognition
Imperial College London（帝国理工学院）
对抗攻击对深度学习模型构成了威胁。然而，针对对抗性检测方法的研究，尤其是在多模态领域的研究非常有限。在这项工作中，我们提出了一个有效的和简单的检测方法的基础上的音频和视频流之间的时间相关性。其主要思想是，由于增加了对抗性噪声，对抗性示例中音频和视频之间的相关性将低于良性示例。我们使用同步置信度分数作为视听相关性的代理，并基于它，我们可以检测对抗攻击。据我们所知，这是第一个关于检测对视听语音识别模型的对抗攻击的工作。我们将最近的对抗攻击应用于在GRID和LRW数据集上训练的两个视听语音识别模型。实验结果表明，该方法是检测此类攻击的有效方法。
2021-02-12 cs.CV cs.SD eess.AS
Domain Adversarial Neural Networks for Dysarthric Speech Recognition
Imperial College London（帝国理工学院）；University of Southampton（南安普顿大学）
语音识别系统在过去的几年中已经有了显著的改进，然而，对于口音或受损语音的情况，它们的性能显著下降。这项工作探讨域对抗神经网络（DANN）的说话人无关的语音识别的UAS数据集的构音障碍的语音。使用端到端CNN将原始音频作为输入来执行对10个口语数字的分类任务。将结果与说话者自适应（SA）模型以及说话者相关（SD）和多任务学习模型（MTL）进行比较。实验结果表明，DANN的绝对识别率为74.91%，比基线识别率提高了12.18%。此外，DANN模型实现了与SA模型77.65%的识别率相当的结果。我们还观察到，当标记的构音障碍的语音数据是可用的DANN和MTL执行类似，但当它们不是DANN执行优于MTL。
2020-10-07 cs.CL cs.LG cs.SD
INTapt: Information-Theoretic Adversarial Prompt Tuning for Enhanced Non-Native Speech Recognition
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；University of Illinois at Urbana-Champaign (UIUC)（伊利诺伊大学厄巴纳-香槟分校）
本文提出INTapt方法，通过对抗提示微调在不更新预训练模型权重的情况下，将非母语英语语音特征向母语英语对齐，从而提升非母语语音识别性能。
2023-05-25 cs.CL cs.SD eess.AS
Completely Unsupervised Speech Recognition By A Generative Adversarial Network Harmonized With Iteratively Refined Hidden Markov Models
National Taiwan University（台湾大学）
对于世界上95%以上的低资源语言来说，为训练ASR系统生成一个大型注释语音语料库仍然很困难，但是为这些语言收集一个相对较大的未标记数据集是更容易实现的。这就是为什么一些最初的努力已经报道了完全无监督的语音识别学习从未标记的数据，虽然相对较高的出错率。在本文中，我们开发了一个生成对抗网络（GAN）来实现这一目的，其中生成器和鉴别器迭代地相互学习以提高性能。我们进一步使用一组隐马尔可夫模型（HMRM），从机器生成的标签中迭代改进，以与GAN协调工作。在TIMIT数据集上的初步实验实现了33.1%的电话出错率，这比以前的最先进水平低8.5%。
2019-08-23 cs.CL cs.SD eess.AS
Towards Robust Speech-to-Text Adversarial Attack
本文介绍了一种新的对抗算法，用于攻击最先进的语音到文本系统，即DeepSpeech，Kaldi和Lingvo。我们的方法是基于开发一个扩展的传统的失真条件的对抗性优化配方使用Cramèr积分概率度量。最小化这个度量，它测量原始样本和对抗样本分布之间的差异，有助于制作非常接近合法语音记录子空间的信号。这有助于产生针对空中回放的更鲁棒的对抗信号，而不采用对变换操作的昂贵期望或静态房间脉冲响应模拟。我们的方法优于其他有针对性的和非有针对性的算法在字出错率和匹配级别的准确性与竞争力的性能上制作的对抗信号的质量。与其他七种强大的白盒和黑盒对抗攻击相比，我们提出的方法对多个连续的空中回放具有更强的弹性，证实了其在嘈杂环境中的更高鲁棒性。
2021-03-15 cs.LG cs.SD eess.AS
Adversarial Data Augmentation for Disordered Speech Recognition
The Chinese University of Hong Kong（香港中文大学）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
迄今为止，对无序语音的自动识别仍然是一项极具挑战性的任务。潜在的神经运动条件，往往与共同发生的身体残疾，导致难以收集大量的受损语音所需的ASR系统的发展。为此，数据增强技术在当前无序的语音识别系统中起着至关重要的作用。与现有的数据增强技术仅修改说话速率或频谱轮廓的整体形状相比，在数据增强期间使用深度卷积生成对抗网络（DCGAN）对无序和正常语音之间的细粒度频谱-时间差异进行建模，以将正常语音频谱修改为更接近无序语音的频谱。在UASpeech语料库上进行的实验表明，在最先进的混合DNN系统上，所提出的对抗性数据增强方法始终优于使用节奏或速度扰动的基线增强方法。在不使用数据增强的情况下，在基线系统上获得了高达3.05%（相对9.7%）的总体字错误率（WER）降低。最后的学习隐藏单元贡献（LHUC）扬声器适应系统使用最好的对抗增强方法给出了一个整体的WER为25.89%的UASpeech测试集的16个构音障碍的扬声器。
2021-08-02 cs.SD eess.AS
RSD-GAN: Regularized Sobolev Defense GAN Against Speech-to-Text Adversarial Attacks
Fédération des Caisses Desjardins du Québec（魁北克德雅尔丹储蓄信贷联盟）
本文介绍了一种新的基于合成的防御算法，用于对抗各种对抗攻击，这些攻击是为了挑战尖端的语音到文本转录系统的性能而开发的。我们的算法实现了一个基于Sobolev的GAN，并提出了一种新的正则化器，用于有效地控制整个生成模型的功能，特别是在训练过程中的神经网络。我们在受害者DeepSpeech、Kaldi和Lingvo语音转录系统上进行了大量实验，取得的结果证实了我们的防御方法在针对性和非针对性对抗攻击方面的卓越性能。
2022-09-24 cs.LG cs.SD eess.AS
Senone-aware Adversarial Multi-task Training for Unsupervised Child to Adult Speech Adaptation
Institute for Infocomm Research, A*STAR（资讯通信研究院，新加坡科技研究局）
儿童语音的声学建模是具有挑战性的，因为声道中的生理差异引起的高声学可变性。公开数据集的缺乏使这项任务更具挑战性。在这项工作中，我们提出了一种特征自适应方法，通过利用对抗性多任务训练来最大限度地减少成人和儿童语音之间senone（绑定三音素状态）水平的声学不匹配，并利用大量转录的成人语音。我们验证所提出的方法上的三个任务：儿童语音识别，儿童发音评估，和儿童流畅度分数预测。实证结果表明，我们提出的方法始终优于竞争基线，实现了7.7%的相对误差减少语音识别和高达25.2%的相对收益的评估任务。
2021-02-23 cs.AI cs.SD eess.AS
Breaking the Data Barrier: Towards Robust Speech Translation via Adversarial Stability Training
NetEase Youdao Information Technology (Beijing) Co., LTD.（网易有道信息技术（北京）有限公司）
在流水线语音翻译系统中，自动语音识别（ASR）系统会将识别错误传递给下游的机器翻译（MT）系统。标准的机器翻译系统通常在由干净文本组成的并行语料库上进行训练，并且在具有识别噪声的文本上表现不佳，这是语音翻译界众所周知的差距。在本文中，我们提出了一个训练架构，旨在使神经机器翻译模型对语音识别错误更强大。我们的方法同时使用对抗学习和数据增强来解决编码器和解码器的问题。在IWSLT2018语音翻译任务上的实验结果表明，我们的方法可以弥合ASR输出和MT输入之间的差距，在有噪声的ASR输出上比基线高出2.83 BLEU，同时在干净文本上保持接近的性能。
2019-10-28 cs.CL eess.AS
Did you hear that? Adversarial Examples Against Automatic Speech Recognition
University of California, Los Angeles（加州大学洛杉矶分校）
语音是人类之间常见且有效的通信方式，智能手机和家庭集线器等现代消费者设备配备了基于深度学习的准确自动语音识别，以实现人机之间的自然交互。最近，研究人员已经展示了针对机器学习模型的强大攻击，这些攻击可以欺骗它们产生不正确的结果。然而，几乎所有以前的对抗攻击研究都集中在图像识别和目标检测模型上。在这篇简短的论文中，我们首次展示了针对语音分类模型的对抗攻击。我们的算法通过添加小的背景噪声来执行有针对性的攻击，成功率为87%，而无需知道底层模型参数和架构。我们的攻击只改变了音频片段样本子集的最低有效位，并且噪声不会改变我们人类研究中评估的89%的人类听众对音频片段的感知。
2018-01-02 cs.CL cs.CR
Speaker Identity Preservation in Dysarthric Speech Reconstruction by Adversarial Speaker Adaptation
The Chinese University of Hong Kong（香港中文大学）；SpeechX Limited（深圳声希科技有限公司）；Centre for Perceptual and Interactive Intelligence（感知与交互智能中心）
构音障碍语音重建（DSR），旨在改善构音障碍语音的质量，仍然是一个挑战，不仅因为我们需要恢复语音是正常的，而且还必须保持说话人的身份。为了控制说话人的身份，本文研究了由说话人识别优化的说话人编码器（SE）提取的说话人表示。然而，SE可能无法完全捕获以前看不见的构音障碍扬声器的特征。为了解决这个研究问题，我们提出了一种新的多任务学习策略，即，对抗性说话人自适应（ASA）。ASA的主要任务微调SE与目标构音障碍说话者的语音，以有效地捕获身份相关的信息，和次要任务应用对抗训练，以避免异常说话模式的重建语音的合并，通过正则化重建语音的分布接近的参考语音的高质量。实验表明，该方法可以实现增强的说话人相似度和可比的语音自然度与强大的基线方法。与构音障碍语音相比，对于中度构音障碍和中重度构音障碍的说话人，重建语音的绝对错误率分别降低了22.3%和31.5%。我们的演示页面在这里发布：https://wendison.github.io/ASA-DSR-demo/
2022-02-18 cs.CL cs.MM cs.SD
StyleTTS 2: Towards Human-Level Text-to-Speech through Style Diffusion and Adversarial Training with Large Speech Language Models
Columbia University（哥伦比亚大学）
提出StyleTTS 2模型，通过风格扩散和结合大型语音语言模型的对抗训练，首次在单/多说话人数据集上实现人类水平的文本转语音合成。
2023-11-20 cs.AI cs.CL cs.LG
Adversarial Data Augmentation Using VAE-GAN for Disordered Speech Recognition
The Chinese University of Hong Kong（香港中文大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
迄今为止，对无序语音的自动识别仍然是一项极具挑战性的任务。潜在的神经运动条件，往往与共同发生的身体残疾，导致难以收集大量的受损语音所需的ASR系统的发展。本文提出了一种新的变分自动编码器生成对抗网络（VAE-GAN）的个性化的无序语音增强方法，同时学习编码，生成和歧视合成受损语音。单独的潜在功能，推导出学习构音障碍的语音特征和音素上下文表示。还包含了自我监督的预训练Wav 2 vec 2.0嵌入功能。在UASpeech语料库上进行的实验表明，所提出的对抗性数据增强方法始终优于基线速度扰动和非VAE GAN增强方法，具有训练的混合TDNN和端到端Conformer系统。在LHUC扬声器自适应之后，使用基于VAE-GAN的增强的最佳系统在16个构音障碍扬声器的UASpeech测试集上产生了27.78%的总体WER，并且在具有“非常低”可懂度的扬声器子集上产生了57.31%的最低公布WER。
2023-03-19 cs.SD eess.AS
MP3 Compression To Diminish Adversarial Noise in End-to-End Speech Recognition
Chair of Human-Machine Communication, Department of Electrical and Computer Engineering, Technical University of Munich（慕尼黑工业大学电气与计算机工程系人机通信教席）
音频对抗示例（AAE）表示专门创建的输入，旨在欺骗自动语音识别（ASR）系统进行错误分类。目前的工作提出了MP3压缩作为一种手段，以减少由ASR系统转录的音频样本中的对抗性噪声（AN）的影响。为此，我们使用快速梯度符号方法为端到端的混合CTC注意力ASR系统生成AAE。然后，我们的方法通过两个客观指标进行验证：（1）字符错误率（CER），用于测量在未压缩以及MP3压缩数据集上训练的四个ASR模型的语音解码性能;（2）通过特征反转在时域中重建的未压缩和MP3压缩AAE的信噪比（SNR）。我们发现，与未压缩的AAE相比，应用于AAE的MP3压缩确实降低了CER。此外，特征反转（重建）AAE在MP3压缩后具有显著更高的SNR，表明AN减少。与AN相比，MP3压缩应用于用常规噪声增强的话语导致更多的转录错误，进一步证明MP3编码仅能有效减少AN。
2020-07-25 cs.CR cs.SD eess.AS
Investigation of Densely Connected Convolutional Networks with Domain Adversarial Learning for Noise Robust Speech Recognition
Institute for Natural Language Processing, University of Stuttgart（斯图加特大学自然语言处理研究所）
我们研究了密集连接的卷积网络（DenseNets）及其扩展与域对抗训练的噪声鲁棒性语音识别。DenseNets是非常深入，紧凑的卷积神经网络，它在计算机视觉的最新成果上表现出令人难以置信的改进。我们的实验结果表明，DenseNets比其他基于神经网络的模型（如深度前馈神经网络和卷积神经网络）对噪声更具鲁棒性。此外，域对抗学习可以进一步提高DenseNets对已知和未知噪声条件的鲁棒性。
2021-12-19 cs.CL cs.LG eess.AS
Mitigating Closed-model Adversarial Examples with Bayesian Neural Modeling for Enhanced End-to-End Speech Recognition
Amazon Alexa AI（亚马逊Alexa人工智能部门）
在这项工作中，我们的目标是提高系统的鲁棒性的端到端的自动语音识别（ASR）对不利的噪声语音的例子。我们专注于严格和经验的“封闭模型对抗鲁棒性”设置（例如，设备上或云应用）。对抗性噪声仅由闭模型优化（例如，进化和零阶估计），而不直接访问目标ASR模型的梯度信息。我们提出了一种先进的贝叶斯神经网络（BNN）为基础的对抗检测器，它可以模拟潜在的分布对自适应对抗扰动与分歧的测量。我们进一步模拟了RNN Transducer，Conformer和基于wav 2 vec-2.0的ASR系统的部署场景。利用所提出的基于BNN的检测系统，与当前针对对抗性语音示例的模型增强方法相比，我们将LibriSpeech数据集的检测率提高了+2.77%至+5.42%（相对+3.03%至+6.26%），并将单词错误率降低了5.02%至7.47%。
2022-02-17 cs.AI cs.LG cs.NE
Audio Adversarial Examples for Robust Hybrid CTC/Attention Speech Recognition
Technical University of Munich（慕尼黑工业大学）
自动语音识别（ASR）的最新进展展示了端到端系统如何能够实现最先进的性能。有一种趋势是更深入的神经网络，但是这些ASR模型也更复杂，更容易受到精心设计的噪声数据的影响。这些音频对抗示例（AAE）之前在使用连接主义时间分类（CTC）以及基于注意力的编码器-解码器架构的ASR系统上进行了演示。根据混合CTC/注意力ASR系统的思想，本文提出了生成AAE的算法，将这两种方法结合到一个联合CTC-注意力梯度方法中。使用混合CTC/注意力端到端ASR模型对两个参考句子进行评估作为案例研究，以及TEDSTV 2语音识别任务。然后，我们展示了该算法在对抗训练中的应用，以获得更强大的ASR模型。
2020-07-21 cs.SD eess.AS
Exploring Speech Enhancement with Generative Adversarial Networks for Robust Speech Recognition
UC San Diego（加州大学圣地亚哥分校）；Google（谷歌）
我们研究了生成对抗网络（GANs）用于语音增强的有效性，在提高自动语音识别（ASR）系统的噪声鲁棒性的背景下。先前的工作表明，GANs可以有效地抑制原始波形语音信号中的加性噪声，提高感知质量指标;然而，这种技术在ASR的背景下并不合理。在这项工作中，我们进行了详细的研究，以衡量GANs在增强受加性和混响噪声污染的语音的有效性。受图像处理最新进展的启发，我们提出在log-Mel滤波器组谱而不是波形上操作GANs，这需要更少的计算，并且对混响噪声更具鲁棒性。虽然GAN增强提高了干净训练的ASR系统对噪声语音的性能，但它达不到传统多风格训练（MTR）所实现的性能。通过将GAN增强功能附加到噪声输入和再训练，我们实现了相对于MTR系统7%的WER改善。
2018-10-31 cs.LG cs.NE cs.SD
Training Augmentation with Adversarial Examples for Robust Speech Recognition
Northwestern Polytechnical University（西北工业大学）；Mobvoi AI Lab（出门问问人工智能实验室）；University of Washington（华盛顿大学）
本文探讨了在训练语音识别系统中使用对抗性示例来提高深度神经网络声学模型的鲁棒性。在训练过程中，使用快速梯度符号法生成对抗性样本，对原始训练数据进行扩充。与传统的基于数据变换的数据增强方法不同，该方法基于当前声学模型参数动态生成样本。我们在Aurora-4和CHiME-4单通道任务的实验中评估了对抗性数据增强的影响，显示出对噪声和通道变化的鲁棒性。当将对抗性示例与教师/学生训练相结合时，获得了进一步的改进，导致Aurora-4上的相对单词出错率降低了23%。
2018-06-17 cs.CL cs.LG eess.AS
Audio Adversarial Examples: Attacks Using Vocal Masks
我们在自动语音到文本系统上构建音频对抗示例。给定任何音频波形，我们通过覆盖从原始音频生成的音频声掩模来产生另一个。我们将我们的音频对抗攻击应用于五个SOTA STT系统：DeepSpeech，Julius，Kaldi，wav2letter@anywhere和CMUSphinx。此外，我们还聘请了人类注释者来转录对抗性音频。我们的实验表明，这些对抗性的例子欺骗了最先进的语音到文本系统，但人类能够始终如一地挑选出语音。这种攻击的可行性为研究机器和人类对语音的感知引入了一个新的领域。
2021-02-06 cs.AI cs.SD eess.AS
Universal Adversarial Perturbations for Speech Recognition Systems
UC San Diego（加州大学圣地亚哥分校）
在这项工作中，我们证明了普遍存在的对抗性音频扰动，导致错误的转录音频信号的自动语音识别（ASR）系统。我们提出了一种算法，找到一个单一的准不可感知的扰动，当添加到任何任意的语音信号，将最有可能欺骗受害者语音识别模型。我们的实验通过为最先进的ASR系统- Mozilla DeepSpeech制作音频不可知的通用扰动来展示我们所提出的技术的应用。此外，我们还通过对基于WaveNet的ASR系统进行可转移性测试，证明了这种扰动在训练过程中不可用的模型中具有很大的普遍性。
2019-08-15 cs.LG cs.SD eess.AS
Incorporating Talker Identity Aids With Improving Speech Recognition in Adversarial Environments
Harvard University（哈佛大学）
针对语音识别模型在噪声等分布外条件下性能脆弱的问题，提出融合Whisper语音嵌入与ECAPA-TDNN说话人嵌入的Transformer联合模型，在高噪声和强增强语音场景下鲁棒性优于Whisper，干净环境下性能相当。
2024-10-07 cs.AI cs.SD eess.AS
Adversarial Feature-Mapping for Speech Enhancement
Microsoft AI and Research（微软人工智能与研究院）
具有深度神经网络的特征映射通常用于单通道语音增强，其中特征映射网络直接将噪声特征转换为对应的增强特征，并被训练以最小化增强特征和干净特征之间的均方误差。在本文中，我们提出了一个对抗性的特征映射（AFM）方法的语音增强，提出了对抗性学习的特征映射方法。引入一个附加的神经网络来区分增强的特征和真正干净的特征。这两个网络联合优化，以最大限度地减少特征映射损失，同时最小化最大化的歧视损失。通过这种对抗性的多任务训练，增强特征的分布被进一步推向干净特征的分布。为了在ASR任务上实现更好的性能，进一步提出了senone-aware（SA）AFM，其中声学模型网络与特征映射和SVM网络联合训练，以优化除了AFM损失之外的senone分类损失。在CHiME-3数据集上进行评估，所提出的AFM相对于真实噪声数据和特征映射基线分别实现了16.95%和5.27%的相对字错误率（WER）改善，SA-AFM相对于多条件声学模型实现了9.85%的相对WER改善。
2019-04-30 cs.AI cs.CL cs.SD
Imperceptible, Robust, and Targeted Adversarial Examples for Automatic Speech Recognition
University of California, San Diego（加州大学圣地亚哥分校）；Google Brain（谷歌大脑）
对抗性示例是由对手设计的机器学习模型的输入，以导致不正确的输出。到目前为止，对抗性例子在图像领域得到了最广泛的研究。在这个领域，对抗性的例子可以通过对图像进行不可感知的修改来构建，从而导致错误分类，并且在物理世界中是实用的。相比之下，当前应用于语音识别系统的有针对性的对抗性示例都没有这些特性：人类可以很容易地识别对抗性扰动，并且它们在空中播放时无效。本文在这两个方面都取得了进展。首先，我们通过利用听觉掩蔽的心理声学原理开发了有效的不可感知的音频对抗示例（通过人类研究进行了验证），同时在任意整句目标上保持100%的目标成功率。接下来，我们通过构建即使在应用逼真的模拟环境失真后仍然有效的扰动，在物理世界的空中音频对抗示例方面取得了进展。
2019-06-07 cs.LG cs.SD eess.AS
Catch Me If You Can: Blackbox Adversarial Attacks on Automatic Speech Recognition using Frequency Masking
University of Edinburgh（爱丁堡大学）
自动语音识别（ASR）模型是普遍的，特别是在用于家用电器的语音导航和话音控制的应用中。ASR的计算核心是深度神经网络（DNN），已被证明易受对抗性扰动的影响;很容易被攻击者滥用以生成恶意输出。为了帮助测试ASRS的安全性和鲁棒性，我们提出了生成黑盒（与DNN无关）的技术，这些技术可以跨ASR进行无针对性的对抗攻击。这与专注于白盒目标攻击的现有工作形成对比，这些攻击耗时且缺乏可移植性。我们的技术生成对抗攻击，通过使用心理声学模型操纵音频信号，保持音频扰动低于人类感知的阈值，没有人类可听的差异。我们使用三种流行的ASR和两个输入音频数据集，使用的指标-字出错率（WER）的输出转录，原始音频的相似性，攻击成功率不同的ASR和检测分数的防御系统，我们的技术评估的可移植性和有效性。我们发现我们的对抗攻击可以跨ASR进行移植，不容易被最先进的防御系统检测到，并且在输出传输上有显著差异，同时听起来与原始音频相似。
2022-04-12 cs.CL cs.SD cs.SE
To Reverse the Gradient or Not: An Empirical Comparison of Adversarial and Multi-task Learning in Speech Recognition
Facebook AI Research（脸书人工智能研究院）
转录的数据集通常包含数据中每个实例的说话者身份。我们研究了两种在训练过程中整合这些信息的方法：多任务学习和对抗学习。在多任务学习中，目标是说话人预测;如果语音识别和说话人识别这两个任务共享一组共同的底层特征，我们预计这种联合训练会提高性能。相反，对抗学习是一种学习对说话者不变的表示的方法。然后，我们期望更好的性能，如果这个学习的不变性有助于推广到新的扬声器。虽然这两种方法在语音识别的上下文中看起来很自然，但它们是不兼容的，因为它们对应于反向传播到模型的相反梯度。为了更好地了解这些方法在出错率方面的效果，我们在受控环境中比较了这两种策略。此外，我们探索使用额外的未转录的数据在半监督，对抗学习的方式，以提高出错率。我们的研究结果表明，在大数据集上训练的深度模型已经在没有任何辅助损失的情况下开发了对说话者的不变表示。当考虑对抗学习和多任务学习时，对声学模型的影响似乎很小。然而，以半监督方式训练的模型可以提高错误率。
2019-02-14 cs.CL cs.LG cs.SD
Beyond Waveform Robustness: Robust Feature-Vocoder Adversarial Attacks on Automatic Speech Recognition
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Wuhan University（武汉大学）
提出一种基于自监督学习表示和声码器的黑盒对抗攻击方法，通过扰动声学-语音特征而非波形，提高了攻击的可迁移性和对防御的绕过能力。
2026-06-04 cs.AI cs.CR cs.SD
Imperio: Robust Over-the-Air Adversarial Examples for Automatic Speech Recognition Systems
Ruhr University Bochum（波鸿鲁尔大学）
自动语音识别（ASR）系统可以通过有针对性的对抗性示例被愚弄，这些示例诱导ASR响应于改变的音频信号而产生任意的transmittance。然而，最先进的对抗性示例通常必须直接输入ASR系统，并且在房间中播放时不会成功。少数几个公开的空中对抗性例子可以分为三类：它们要么是手工制作的例子，它们非常显眼，以至于人类听众一旦被提醒其内容就可以很容易地识别目标转录，或者它们需要关于攻击发生的房间的精确信息，因此不能转移到其他房间。在本文中，我们展示了第一个产生通用对抗性示例的算法，该算法在不适应特定环境的空中攻击中保持稳健。因此，不需要房间特性的先验知识。相反，我们使用房间脉冲响应（RIR）来计算任意房间特征的鲁棒对抗示例，并使用ASR系统Kaldi来演示攻击。此外，我们的算法可以利用心理声学的方法来隐藏低于人类听觉阈值的原始音频信号的变化。在实际实验中，我们证明了对抗性示例适用于不同的房间设置，并且扬声器和麦克风之间不需要直接的视线。因此，攻击者可以为任何目标转录创建不显眼的对抗性示例，并在没有任何先验知识的情况下将其应用于任意房间设置。
2020-11-24 cs.CR cs.LG cs.SD
Massively Multilingual Adversarial Speech Recognition
Johns Hopkins University（约翰斯·霍普金斯大学）
我们报告了在多达100种语言上训练的多语言端到端语音识别模型的适应性。我们的研究结果揭示了目标语言和预训练语言之间的语音，音韵，语言家族，地理位置和正字法维度的相似性的相对重要性。在这种情况下，实验证明了两个额外的预训练目标的有效性，鼓励语言独立的编码器表示：一个上下文无关的音素目标配对的语言对抗分类目标。
2019-04-03 cs.CL cs.LG
Domain Adversarial Training for Accented Speech Recognition
Mobvoi AI Lab（出门问问人工智能实验室）；University of Washington（华盛顿大学）
在本文中，我们提出了一个域对抗训练（DAT）算法，以减轻口音语音识别的问题。为了减少标记的源域数据（“标准”口音）和未标记的目标域数据（带有重口音）之间的不匹配，我们使用域对抗训练（DAT）目标来增强Kaldi TDNN网络的学习目标，以鼓励模型学习口音不变的特征。在使用三种普通话口音的实验中，我们表明，与仅使用标准口音数据训练的基线相比，当我们没有带口音语音的转录时，DAT可以将相对字符出错率降低高达7.45%。我们还发现，当与重音数据上的自动转换训练结合使用时，DAT也有好处。此外，我们发现，DAT是优于多任务学习的口音语音识别。
2018-06-07 cs.CL
Robust Speech Recognition Using Generative Adversarial Networks
Baidu Research（百度研究院）
本文描述了一个通用的，可扩展的，端到端的框架，使用生成对抗网络（GAN）的目标，使强大的语音识别。使用所提出的方法训练的编码器通过学习将嘈杂音频映射到与干净音频相同的嵌入空间来享受改进的不变性。与以前的方法不同，新框架不依赖于信号处理中经常需要的领域专业知识或简化假设，而是以数据驱动的方式直接鼓励鲁棒性。我们表明，新方法提高了香草序列到序列模型的模拟远场语音识别，而无需专门的前端或预处理。
2017-11-05 cs.CL cs.LG
Enhancing Pre-trained ASR System Fine-tuning for Dysarthric Speech Recognition using Adversarial Data Augmentation
The Chinese University of Hong Kong（香港中文大学）
本文针对构音障碍语音识别数据少、微调泛化差的问题，比较了多种数据增强方法，提出基于GAN的对抗数据增强，在UASpeech上显著降低WER并取得已发表最低错误率16.53%。
2024-01-01 cs.SD eess.AS
Selective Masking Adversarial Attack on Automatic Speech Recognition Systems
Wuhan University（武汉大学）
本文提出选择性掩蔽对抗攻击（SMA），针对双说话人同时发声的 ASR 场景，通过选择性掩蔽优化算法生成对抗样本，在 Conformer-CTC 上实现 100% 攻击成功率和 37.15dB 信噪比，优于现有基线。
2025-04-06 cs.CR cs.SD
Detecting Adversarial Examples for Speech Recognition via Uncertainty Quantification
Ruhr University Bochum（波鸿鲁尔大学）
机器学习系统，特别是自动语音识别（ASR）系统容易受到对抗性攻击，其中攻击者恶意地改变输入。在ASR系统的情况下，最有趣的情况是有针对性的攻击，其中攻击者的目的是迫使系统识别任意音频样本中的给定目标传输。越来越多的复杂的，准不可察觉的攻击提出了对策的问题。在本文中，我们专注于混合ASR系统，并比较了四种声学模型在攻击下指示不确定性的能力：前馈神经网络和三个专门为不确定性量化设计的神经网络，即贝叶斯神经网络，蒙特卡洛辍学和深度合奏。我们采用声学模型的不确定性度量来构建一个简单的一类分类模型，用于评估输入是良性的还是敌对的。基于这种方法，我们能够检测到接收算子曲线得分超过0.99的对抗性示例。用于不确定性量化的神经网络同时减少了对攻击的脆弱性，这反映在与标准混合ASR系统相比恶意目标文本的识别准确性较低。
2020-08-02 cs.CR cs.LG cs.SD
Neural Predictor for Black-Box Adversarial Attacks on Speech Recognition
Sony（索尼）
最近的工作已经揭示了自动语音识别（ASR）模型对对抗性示例（AE）的脆弱性，即，在音频信号的转录中引起错误的小扰动。因此，研究音频对抗攻击是迈向强大ASR的第一步。尽管在攻击音频示例方面取得了重大进展，但黑盒攻击仍然具有挑战性，因为只提供了传输的硬标签信息。由于这种有限的信息，现有的黑盒方法通常需要过多的查询来攻击单个音频示例。在本文中，我们介绍了NP-攻击，神经预测为基础的方法，逐步演变的搜索对一个小的对抗扰动。给定扰动方向，我们的神经预测器直接估计导致错误转录的最小扰动。特别是，它使NP攻击能够通过基于梯度的优化准确地学习有希望的扰动方向。实验结果表明，NP攻击实现了竞争力的结果与其他国家的最先进的黑盒对抗攻击，而需要显着较少的查询数量。NP-Attack的代码可以在网上找到。
2022-03-18 cs.AI cs.LG cs.SD
Multi-Discriminator Sobolev Defense-GAN Against Adversarial Attacks for End-to-End Speech Systems
École de Technologie Supérieure (ÉTS), Université du Québec（魁北克大学高等技术学院）
本文介绍了一种针对尖端语音转文本系统开发的端到端对抗攻击的防御方法。提出的防御算法有四个主要步骤。首先，我们使用短时傅立叶变换用二维频谱图表示语音信号。其次，我们迭代地找到一个安全的向量使用频谱子空间投影操作。该操作使用附加的正则化项来最小化谱图之间的弦距离调整。第三，我们使用一个新的GAN架构训练Sobolev积分概率度量合成这样一个安全向量的频谱图。为了提高模型的性能方面的稳定性和学习模式的总数，我们施加了额外的约束的发电机网络。最后，我们从合成的频谱图和Griffin-Lim相位近似技术重建信号。我们评估了针对DeepSpeech，Kaldi和Lingvo模型的六种强大的白盒和黑盒对抗攻击的防御方法。我们的实验结果表明，我们的算法优于其他国家的最先进的防御算法的准确性和信号质量。
2021-03-15 cs.LG cs.SD eess.AS
Adversarial Training of End-to-end Speech Recognition Using a Criticizing Language Model
College of Electrical Engineering
在本文中，我们提出了一种新的对抗性训练（AT）的端到端的语音识别使用批评语言模型（CLM）的方法。以这种方式，CLM和自动语音识别（ASR）模型可以迭代地相互挑战和学习以提高性能。由于CLM只将文本作为输入，因此可以在端到端训练中使用这种方法中的大量未配对文本数据。此外，AT可以应用于使用任何基于深度学习的语言建模框架的任何端到端ASR模型，并与任何现有的端到端解码方法兼容。实验结果表明，该方法能够在不同的场景下有效地从辅助文本数据中获得一致的改进。
2018-11-02 cs.CL
