A Hybrid Approach for Speech Enhancement Using MoG Model and Neural Network Phoneme Classifier
Bar-Ilan University（巴伊兰大学）
本文提出了一种单麦克风语音增强算法。提出了一种混合生成混合高斯模型（MoG）和判别式神经网络（NN）的混合方法。所提出的算法分两个阶段执行，训练阶段，不重复，和测试阶段。首先，将无噪声语音功率谱密度（PSD）建模为MoG，表示语音信号中基于音素的多样性。然后用音素标记数据库训练神经网络，以梅尔频率倒谱系数（MFCC）作为输入特征进行音素分类。给定音素分类结果，使用生成模型和判别模型两者获得语音存在概率（SPP）。然后执行软谱减法，同时更新噪声估计。判别式神经网络保持了语音的连续性，而基于生成音素的MoG保持了语音的频谱结构。使用真实的语音和噪声信号进行了广泛的实验研究。我们还比较了所提出的算法与其他语音增强算法。我们表明，我们获得了显着的改善，在语音质量的措施和语音识别的结果比以前的方法。
2015-10-25 cs.SD
Wavelet speech enhancement based on nonnegative matrix factorization
National Taiwan University（台湾大学）；Academia Sinica（中央研究院）；National Institute of Information and Communications Technology（日本国立信息与通信技术研究所）；National Chi Nan University（暨南国际大学）
对于大多数最先进的语音增强技术，频谱图通常比相应的时域原始数据更优选，因为它在长时间跨度上揭示了更紧凑的呈现以及明显的时间信息。然而，产生频谱图的短时傅立叶变换（STFT）通常使原始信号失真，从而限制了相关语音增强技术的能力。在这项研究中，我们提出了一种新的语音增强方法，采用离散小波包变换（DWPT）和非负矩阵分解（NMF）的算法，以克服上述限制。简而言之，首先应用DWPT将时域语音信号分割成一系列子带信号，而不引入任何失真。然后，我们利用NMF突出每个子带的语音分量。最后，增强的子带信号通过逆DWPT连接在一起，以在时域中重建噪声降低的信号。我们评估建议DWPT-NMF基于语音增强方法的MHINT任务。实验结果表明，该方法在提高语音质量和可懂度方面有很好的效果，优于传统的基于STFT-NMF的方法。
2016-01-11 cs.SD
On the Importance of Super-Gaussian Speech Priors for Machine-Learning Based Speech Enhancement
Universität Hamburg（汉堡大学）
为了增强噪声信号，基于机器学习的单通道语音增强方案利用关于典型语音频谱结构的先验知识。为了确保良好的泛化并满足计算复杂性和存储器消耗方面的要求，某些方法将其自身限制为学习语音频谱包络。我们将这些方法称为基于机器学习谱包络（MLSE）的方法。在本文中，我们通过理论和实验分析表明，对于基于MLSE的方法，超高斯先验可以减少语音频谱谐波之间的噪声，这是无法实现的使用高斯估计，如维纳滤波器。为了进行评估，我们使用基于深度神经网络（DNN）的音素分类器和低秩非负矩阵分解（NMF）框架作为基于MLSE的方法的示例。听力实验和仪器测量证实，虽然超高斯先验只产生适度的改进经典的增强方案，基于MLSE的方法，超高斯先验显然作出了重要的区别，并显着优于高斯先验。
2018-01-16 cs.SD
Plugin Speech Enhancement: A Universal Speech Enhancement Framework Inspired by Dynamic Neural Network
China Mobile Research Institute（中国移动研究院）
本文提出插件式语音增强框架Plugin-SE，通过权重预测方法从下游训练信息中学习任务关系，并结合门控模块构建动态神经网络，以解决通用语音增强中下游模块特征感知不足的问题，实验证明其在多种下游任务上优于或媲美现有联合训练方法。
2024-02-20 cs.SD eess.AS
Incorporating Real-world Noisy Speech in Neural-network-based Speech Enhancement Systems
Carnegie Mellon University（卡内基梅隆大学）；Facebook Reality Labs Research（脸书现实实验室研究）
受监督的语音增强依赖于在训练期间退化的语音信号及其干净的参考信号的并行数据库。此设置禁止使用可能更好地代表使用此类系统的场景的真实世界降级语音数据。在本文中，我们探讨的方法，使监督语音增强系统训练真实世界的退化语音数据。具体来说，我们提出了一个半监督的语音增强方法，我们首先训练一个修改后的矢量量化变分自编码器，解决了源分离任务。然后，我们使用这个训练的自动编码器，进一步训练一个增强网络，使用现实世界的嘈杂的语音数据，通过计算一个基于三元组的无监督损失函数。实验表明，将真实世界的数据在训练语音增强系统的有前途的结果。
2021-09-21 cs.SD eess.AS
A two-step backward compatible fullband speech enhancement system
Kuaishou Technology（快手科技）
基于深度学习的语音增强方法已经超越了传统方法。虽然这些新的方法中有许多是在宽带（16 kHz）的采样率，一个新的全带（48 kHz）的语音增强系统，本文提出。与现有的利用感知激励特征来使用单个网络结构训练全带语音增强的全带系统相比，所提出的系统是两步系统，其确保良好的全带语音增强质量，同时向后兼容于现有的宽带系统。
2022-01-28 cs.SD eess.AS
Phoneme-based Distribution Regularization for Speech Enhancement
University of Science and Technology of China（中国科学技术大学）；Microsoft Research Asia（微软亚洲研究院）
现有的语音增强方法主要是在信号级或时频域将语音与噪声分离。他们很少注意损坏信号的语义信息。在本文中，我们的目标是弥合这一差距，提取音素身份，以帮助语音增强。具体来说，我们提出了一个基于音素的分布正则化（PbDr）的语音增强，它将逐帧音素信息纳入语音增强网络的条件方式。由于不同的音素往往会导致不同的频率特征分布，我们建议学习一个参数对，即规模和偏见，通过音素分类向量调制的语音增强网络。调制参数对不仅包括帧方面的条件，而且还包括频率方面的条件，其有效地将特征映射到音素相关分布。通过这种方式，我们明确规范的语音增强功能的识别向量。在公开数据集上的实验表明，该PbDr模块不仅可以提高语音增强的感知质量，而且可以提高ASR系统对增强后语音的识别准确率。该PbDr模块也可以容易地结合到其他语音增强网络中。
2021-04-08 cs.SD eess.AS
Teaching Speech Enhancement Models to Sing: Domain Adaptation from Speech Enhancement to Singing Voice Separation
针对歌声分离训练数据有限问题，将其作为从语音增强到歌声分离的域适应，研究全量微调和LoRA参数高效微调策略，实验表明两种策略均有效提升歌声分离性能，LoRA微调还能保留语音增强能力，证明适配预训练模型是数据稀缺时训练歌声分离模型的有效策略。
2026-07-14 cs.SD eess.AS
On Single-Channel Speech Enhancement and On Non-Linear Modulation-Domain Kalman Filtering
Imperial College London（帝国理工学院）
这份报告的重点是算法，执行单通道语音增强。本文作者在[1]、[2]、[3]、[4]和[5]中使用调制域卡尔曼滤波算法进行语音增强，即噪声抑制和去混响。调制域卡尔曼滤波可以应用于噪声和后期混响抑制，并且在[2]、[1]、[3]和[4]中，设计、实现和测试了执行调制域卡尔曼滤波的各种基于模型的语音增强算法。[2]中的基于模型的增强算法估计并跟踪语音相位。[5]中的基于短时傅里叶变换的增强算法使用[6]中提出的活动语音电平估计器。本报告介绍了不同的算法如何执行语音增强和算法在本报告中讨论的是针对研究人员感兴趣的单声道语音增强。算法由不同的处理块和技术组成[7];理解系统设计期间所做的实现选择很重要，因为这可以提供有助于开发新算法的见解。索引术语-语音增强，去混响，去噪，卡尔曼滤波器，最小均方误差估计。
2018-10-31 cs.SD eess.AS
Objective and Subjective Evaluation of Diffusion-Based Speech Enhancement for Dysarthric Speech
Delft University of Technology（代尔夫特理工大学）；Erasmus Medical Centre (EMC)（埃因霍温医学院）；Indian Inst. of Information Technology Allahabad（阿利哈巴德信息科技学院）；Dept. of Plastic and Reconstructive Surgery（整形外科与重建外科系）；Dept. of Electronics and Communication（电子与通信系）
针对构音障碍语音对ASR系统的挑战，本研究探索扩散模型在构音障碍语音增强中的应用，通过评估两种扩散算法和一种信号处理算法对语料库可懂度、质量及ASR性能的影响，验证其提升识别性能的潜力。
2025-08-25 cs.SD eess.AS
A Perceptual Weighting Filter Loss for DNN Training in Speech Enhancement
使用深度神经网络（DNN）的单通道语音增强已显示出有前途的性能，因此正在深入研究。在本文中，在用于语音增强的DNN训练期间，我们不是将均方误差（MSE）应用为损失函数，而是设计了由加权滤波器激励的感知加权滤波器损失，因为其用于合成分析语音编码，例如，码激励线性预测（CELP）实验结果表明，所提出的简单的损失函数提高了语音增强性能相比，参考DNN与MSE损失的感知质量和噪声衰减。所提出的损失函数可以有利地应用于现有的基于DNN的语音增强系统，而无需修改用于语音增强的DNN拓扑。提出的方法的源代码是可用的。
2019-08-18 cs.SD eess.AS
Joint Noise Reduction and Listening Enhancement for Full-End Speech Enhancement
National Institute of Informatics（国立情报学研究所）；The Graduate University for Advanced Studies (SOKENDAI)（综合研究大学院大学（SOKENDAI））
语音增强（SE）方法主要集中于从噪声输入中恢复干净的语音。然而，在现实世界的语音通信中，噪声往往不仅存在于说话者，而且存在于听者环境中。虽然SE方法可以抑制扬声器语音中包含的噪声，但它们不能处理实际存在于收听者侧的噪声。为了解决这种复杂但常见的情况，我们研究了一种基于深度学习的联合框架，该框架将降噪（NR）与听力增强（LE）集成在一起，其中NR模块首先抑制噪声，然后LE模块修改去噪语音，即，NR模块的输出，以进一步提高语音清晰度。因此，增强的语音可以更少噪声并且对于收听者来说更容易理解。实验结果表明，我们提出的方法取得了可喜的成果，显着优于不相交处理方法在各种语音评价指标。
2022-03-22 cs.SD eess.AS
NeuralEcho: A Self-Attentive Recurrent Neural Network For Unified Acoustic Echo Suppression And Speech Enhancement
Tencent AI Lab（腾讯人工智能实验室）
声学回声消除在全双工语音通信中起着重要的作用，同时也是在扬声器重放的情况下进行识别的前端语音增强。在本文中，我们提出了一个全深度学习框架，隐式估计回声/噪声和目标语音的二阶统计量，并通过基于注意力的递归神经网络联合解决回声和噪声抑制问题。该模型在客观语音质量指标、语音识别精度和模型复杂度方面优于最先进的联合回声消除和语音增强方法F-T-LSTM。我们表明，该模型可以与说话人嵌入更好的目标语音增强，并进一步开发一个分支的自动增益控制（AGC）的任务，形成一个一体化的前端语音增强系统。
2022-05-20 cs.SD eess.AS
Test-time adaptation for speech enhancement with an autoregressive speech prior
CentraleSupélec（中央超级电子学院）；Inria（法国国家信息与自动化研究所）；University of Hamburg（汉堡大学）
该研究提出一种基于自回归语音先验的单utterance测试时自适应方法，通过最小化分布散度提升语音增强模型在噪声不匹配场景下的性能，相关成果已在线公开。
2026-09-04 cs.AI cs.SD
Speech enhancement with weakly labelled data from AudioSet
ByteDance（字节跳动）
语音增强是提高退化语音信号的可懂度和感知质量的任务。最近，基于神经网络的方法已经被应用于语音增强。然而，许多基于神经网络的方法需要噪声和干净的语音对用于训练。我们提出了一个语音增强框架，可以用大规模弱标记的AudioSet数据集进行训练。弱标记数据仅包含音频片段的音频标记，而不包含语音的起始或偏移时间。我们首先应用预训练的音频神经网络（PANNs）来检测音频片段中包含语音或声音事件的锚片段。然后，我们随机混合两个检测到的锚段包含语音和声音事件作为一个混合物，并建立一个条件声源分离网络使用PANN预测语音增强的软条件。在推理中，我们输入一个带噪的语音信号，其中“Speech”的独热编码作为训练系统的条件，以预测增强的语音。我们的系统在VoiceBank-DEMAND数据集上实现了2.28的PESQ和8.75 dB的SSNR，分别优于之前的2.16和7.73 dB的SEGAN系统。
2021-02-19 cs.SD eess.AS
Impulsive Noise Detection for Intelligibility and Quality Improvement of Speech Enhancement Methods Applied in Time-Domain
Military Institute of Engineering（军事工程学院）
本文介绍了一种新的基于希尔伯特-黄变换域的语音增强方法，以消除脉冲噪声对语音质量的影响。噪声分量的估计和选择是基于分解模式的冲动指数。针对五种不同脉冲指数和非平稳程度的噪声，在不同信噪比下进行了语音增强实验。采用三种语音增强算法作为基线，从时域和谱域两个方面进行了评价分析。所提出的解决方案实现了最好的结果，在客观的质量措施和类似的语音清晰度率的竞争力的方法。
2019-10-07 cs.SD eess.AS
Student-Teacher Learning for BLSTM Mask-based Speech Enhancement
Johns Hopkins University（约翰斯·霍普金斯大学）
基于双向长短期记忆（BLSTM）神经网络的谱掩模估计已广泛应用于各种语音增强应用中，并在基于掩模波束形成器的多通道语音增强技术中取得了巨大的成功。然而，当这些掩模用于单通道语音增强时，它们严重地使语音信号失真并且使它们不适合于语音识别。本文提出了一种单通道语音增强的师生学习模式。来自多通道增强的波束成形信号作为教师网络的输入被给出以获得软掩模。将软掩模目标的附加交叉熵损失项与原始损失相结合，使得具有单通道输入的学生网络被训练以模仿通过波束成形用多通道输入获得的软掩模。CHiME-4挑战单通道跟踪数据的实验显示ASR性能的改善。
2018-03-27 cs.SD eess.AS
Using Speech Foundational Models in Loss Functions for Hearing Aid Speech Enhancement
The University of Sheffield（谢菲尔德大学）；WS Audiology（西万拓听力技术公司）；Toshiba（东芝）
本文提出在助听器语音增强的损失函数中利用自监督语音表示距离，以提升可懂度，实验显示相比SNR损失，HASPI、STOI、PESQ和SI-SNR均提高，且仅训练时需大模型推理。
2024-07-18 cs.SD eess.AS
Phonetic Feedback for Speech Enhancement With and Without Parallel Speech Data
The Ohio State University（俄亥俄州立大学）
虽然深度学习系统在语音增强研究中取得了显著进展，但这些系统尚未充分利用深度学习系统的潜力来提供高级反馈。特别是，语音反馈是罕见的语音增强的研究，即使它包括有价值的自上而下的信息。我们使用模仿损失的技术来提供语音反馈到现成的增强系统，并在CHiME-4数据上找到客观可懂度分数的增益。该技术采用在干净语音上训练的冻结声学模型来向增强模型提供有价值的反馈，即使在没有并行语音数据可用的情况下。我们的工作是第一个显示可理解性改善的神经增强系统没有并行语音数据，我们表明语音反馈可以提高一个国家的最先进的神经增强系统训练的并行语音数据。
2020-03-03 cs.CL cs.SD eess.AS
Exploring WavLM on Speech Enhancement
Institute for Information & communications Technology Promotion（信息与通信技术振兴院）；Microsoft Research Asia（微软亚洲研究院）
近年来，对用于端到端语音编码的自监督学习方法的兴趣激增，因为它们取得了巨大的成功。特别是，WavLM在各种语音处理任务上表现出了最先进的性能。为了更好地了解自我监督学习模型用于语音增强的功效，在这项工作中，我们设计并进行了一系列实验，结合WavLM和两个高质量的语音增强系统的三个资源条件。此外，我们提出了一个基于回归的WavLM训练目标和噪声混合数据配置，以进一步提高下游增强性能。DNS挑战数据集和仿真数据集上的实验表明，WavLM有利于语音增强任务的语音质量和语音识别精度，特别是对于低微调资源。对于高微调资源条件，仅字错误率得到实质性改善。
2022-11-18 cs.SD eess.AS
Hallucination in Perceptual Metric-Driven Speech Enhancement Networks
University of Sheffield（谢菲尔德大学）；TOSHIBA Cambridge Research Laboratory（东芝剑桥研究实验室）
本文识别了感知度量驱动的语音增强网络中的幻觉问题，即增强系统通过欺骗语音质量预测器来引入幻觉，并旨在揭示这一潜在缺陷。
2024-05-24 cs.SD eess.AS
Dual-Stage Low-Complexity Reconfigurable Speech Enhancement
Facebook Reality Labs（Facebook现实实验室）
本文提出了一种双级、低复杂度、可重构的语音增强方法。在输入数据和音频内容的驱动下，所提出的两阶段语音增强方法分别在第一阶段和第二阶段执行粗处理和细处理。在本文中，我们证明了所提出的语音增强解决方案显着提高了3倍电信语音质量评估（3QUEST）的语音平均意见分数（SMOS）和噪声MOS（NMOS）的近场和远场应用的指标。此外，所提出的语音增强方法大大提高了信噪比（SNR）和主观听觉体验。相比之下，传统的语音增强方法虽然增加了NMOS和SNR，但降低了SMOS。此外，所提出的语音增强方案可以很容易地应用于语音通信和会议系统以及语音触发应用的捕获路径和语音渲染路径中。
2021-05-17 cs.SD eess.AS eess.SP
Incorporating Ultrasound Tongue Images for Audio-Visual Speech Enhancement through Knowledge Distillation
National Engineering Research Center of Speech and Language Information Processing, University of Science and Technology of China（中国科学技术大学国家语言语音信息处理工程研究中心）
本文提出在训练阶段利用知识蒸馏，将预训练的音频-唇部-舌部语音增强教师模型的知识传递给音频-唇部学生模型，从而在推理时无需超声舌像即可提升语音增强的质量与可懂度。
2023-11-20 cs.SD eess.AS
CycleGAN with Dual Adversarial Loss for Bone-Conducted Speech Enhancement
Key Laboratory of Intelligent Computing and Signal Processing of Ministry of Education, Anhui University（安徽大学智能计算与信号处理教育部重点实验室）
骨导语音与气导语音相比，具有屏蔽背景噪声的独特优势。增强骨导语音有助于提高其质量和可懂度。本文提出了一种新的具有双重对抗损失的CycleGAN（CycleGAN-DAL）用于骨导语音增强。该方法同时使用对抗性损失和循环一致性损失来学习前向和循环映射，其中对抗性损失被替换为分类对抗性损失和缺陷对抗性损失以巩固前向映射。与传统的基线方法相比，它可以学习骨导语音和目标语音之间的特征映射，而无需额外的空气传导语音辅助。此外，所提出的方法还避免了通常发生在传统的统计模型的过光滑问题。实验结果表明，该方法优于基线方法，如CycleGAN，GMM和BLSTM。关键词：骨导语音增强，双对抗损失，并行CycleGAN，高频语音重建
2021-11-02 cs.SD eess.AS
Analysis of Noisy-target Training for DNN-based speech enhancement
Nagoya University（名古屋大学）
基于深度神经网络（DNN）的语音增强通常使用干净的语音作为训练目标。然而，很难收集大量干净的语音，因为录音成本很高。换句话说，当前语音增强的性能受到训练数据量的限制。为了放宽该限制，已经提出了利用噪声语音作为训练目标的噪声目标训练（NyTT）。虽然实验表明，NyTT可以训练DNN而无需干净的语音，但尚未进行详细的分析，并且其行为尚未得到很好的理解。在本文中，我们进行各种分析，以加深我们对NyTT的理解。此外，基于NyTT的属性，我们提出了一种改进的方法，该方法与使用干净语音的方法相当。此外，我们表明，我们可以提高性能，通过使用大量的噪声语音与干净的语音。
2022-11-02 cs.SD eess.AS
VSEGAN: Visual Speech Enhancement Generative Adversarial Network
vivo AI Lab（vivo人工智能实验室）；Trinity College Dublin（都柏林大学三一学院）
语音增强是提高噪声环境下语音质量的一项重要任务。由于语音的视觉方面基本上不受声学环境的影响，因此几种现有技术的方法已经引入了用于语音增强的视觉信息。本文提出了一种新的框架，涉及语音增强的视觉信息，通过结合生成对抗网络（GAN）。具体地说，提出的视觉语音增强GAN由两个以对抗方式训练的网络组成：i）一个采用多层特征融合卷积网络增强输入含噪语音的生成器，ii）一个采用最小化纯净语音信号和增强语音信号分布之间差异的改进器。实验结果表明，该模型的性能优于几个国家的最先进的
2022-04-20 cs.SD eess.AS eess.IV
Closing the Gap Between Time-Domain Multi-Channel Speech Enhancement on Real and Simulation Conditions
Shanghai Jiao Tong University（上海交通大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Carnegie Mellon University（卡内基梅隆大学）
基于深度学习的时域模型，例如Conv-TasNet，在单通道和多通道语音增强方面都显示出巨大的潜力。然而，时域语音增强模型的实验大多是在模拟环境下进行的，其良好的性能能否推广到实际应用中还没有得到很好的研究。在本文中，我们的目的是提供一个有见地的调查应用多通道Conv-TasNet为基础的语音增强的模拟和真实数据。我们的初步实验表明，在ASR性能方面，两种条件之间存在很大的性能差距。有几种方法被用来缩小这一差距，包括将多通道Conv-TasNet集成到具有各种策略的波束形成模型中，以及语音增强和语音识别模型的联合训练。在CHiME-4语料库上的实验表明，本文提出的方法在保持前端强大的语音增强能力的同时，可以大大降低仿真数据与真实数据之间的语音识别性能差异。
2021-10-27 cs.SD eess.AS
Joint Far- and Near-End Speech Intelligibility Enhancement based on the Approximated Speech Intelligibility Index
RTX A/S（RTX公司）；Aalborg University（奥尔堡大学）
本文研究了在一个噪声环境中采集的信号在另一个噪声环境中呈现给听者的语音增强问题。最近，它已被证明，这个问题的最佳解决方案，需要考虑在两个环境中的噪声源联合。然而，现有的基于最佳互信息的方法需要一个复杂的系统模型，包括自然语音变化，并依赖于近似和假设的基础信号分布。在本文中，我们建议使用一个更简单的信号模型，并优化语音清晰度的近似语音清晰度指数（ASII）的基础上。我们推导出一个封闭形式的解决方案的联合远，近端语音增强的问题，是独立的信号系数的边缘分布，并达到类似的性能，现有的工作。此外，我们不需要为自然语音变化建模或优化。
2021-11-15 cs.SD eess.AS
Breaking the trade-off in personalized speech enhancement with cross-task knowledge distillation
Microsoft Research（微软研究院）
与无条件语音增强模型相比，个性化语音增强（PSE）模型具有去除干扰语音和背景噪声的能力，因此获得了令人满意的结果。与无条件语音增强不同，因果PSE模型可能偶尔错误地移除目标语音。当目标说话者长时间沉默时，PSE模型也倾向于泄漏干扰语音。我们表明，现有的PSE方法遭受语音过抑制和干扰泄漏之间的权衡，解决一个问题的代价是其他。我们提出了一个新的PSE模型训练框架，使用跨任务的知识蒸馏，以减轻这种权衡。具体来说，我们利用个性化的语音活动检测器（pVAD）在训练过程中，排除非目标语音帧被错误地识别为包含目标扬声器与硬或软分类。这防止PSE模型过于激进，同时仍然允许模型学习在输入语音可能由干扰说话者说出时抑制输入语音。全面的评估结果，涵盖各种PSE的使用场景。
2022-11-05 cs.SD eess.AS
DDS: A new device-degraded speech dataset for speech enhancement
National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies (SOKENDAI)（综合研究大学院大学）
在不受控制的环境中，消费级设备上记录了现实生活中大量且不断增长的语音内容，导致语音质量下降。将这种低质量的设备降级语音转换成高质量语音是语音增强（SE）的目标。本文介绍了一种新的语音数据集，DDS，以促进对SE的研究。DDS提供高质量语音（在专业录音室录制）和低质量语音的多个版本的对齐平行录音，产生约2，000小时的语音数据。DDS数据集通过结合不同的声学环境和麦克风设备，涵盖了27种真实的录音条件，每个条件版本由来自六个麦克风位置的多个录音组成，以模拟不同的噪声和混响水平。我们还测试了几个SE基线系统的DDS数据集，并显示记录多样性对性能的影响。
2022-03-22 cs.SD eess.AS
Bridging the Gap Between Monaural Speech Enhancement and Recognition with Distortion-Independent Acoustic Modeling
The Ohio State University（俄亥俄州立大学）
自几年前引入深度学习以来，单耳语音增强已经取得了巨大的进步。虽然增强语音已被证明具有更好的可理解性和质量的人类听众，它直接馈送到自动语音识别（ASR）系统训练与嘈杂的语音没有产生预期的改善ASR性能。在识别上缺乏增强益处，或者单耳语音增强和识别之间的差距，通常归因于在增强过程中引入的语音失真。在这项研究中，我们分析了失真的问题，比较不同的声学模型，并探讨了失真无关的单耳语音识别的训练计划。实验结果表明，与失真无关的声学建模能够克服失真问题。这样的声学模型还可以与不同于在训练期间使用的语音增强模型一起工作。此外，在CHiME-2语料库上，本文研究的模型优于以前最好的系统。
2019-03-13 cs.CL cs.SD eess.AS
LPCSE: Neural Speech Enhancement through Linear Predictive Coding
University of Chinese Academy of Sciences（中国科学院大学）；Terminus Group（特斯联集团）；University College London（伦敦大学学院）；The University of Sheffield（谢菲尔德大学）
对5G/B5 G通信系统中的体验质量的日益严格的要求已经导致了新兴的神经语音增强技术，然而，神经语音增强技术已经与语音发音和失真的现有的基于专家规则的模型（诸如经典的线性预测编码（LPC）语音模型）隔离地开发，因为难以将模型与自动可区分的机器学习框架集成。在本文中，为了提高神经语音增强的效率，我们介绍了一种基于LPC的语音增强（LPCSE）架构，它利用了强归纳偏见的LPC语音模型结合神经网络的表达能力。在LPCSE中通过两个新颖的块实现可区分的端到端学习：一个块利用专家规则来减少将LPC语音模型集成到神经网络中时的计算开销，以及一个块通过将线性预测系数映射到滤波器极点来确保模型的稳定性并避免端到端训练中的梯度爆炸。实验结果表明，LPCSE能有效地恢复因传输损耗而失真的语音共振峰，在LJ语音语料上的语音质量感知评价（PESQ）和短时客观可懂度（STOI）方面优于现有的两种同等规模的神经网络语音增强方法.
2022-06-22 cs.SD eess.AS
A Framework for Unified Real-time Personalized and Non-Personalized Speech Enhancement
Amazon Web Services（亚马逊云科技）
在这项研究中，我们提出了一种方法来训练一个单一的语音增强网络，可以执行个性化和非个性化的语音增强。这是通过合并指定增强输出类型的逐帧调节输入来实现的。为了提高增强输出的质量并减轻过度抑制，我们尝试通过语音活动的存在或不存在来重新加权帧，并将增强应用于扬声器嵌入。通过在多任务学习设置下进行训练，我们经验性地表明，所提出的统一模型在个性化和非个性化语音增强基准上都获得了令人满意的结果，并且达到了与专门针对任一任务训练的模型相似的性能。所提出的方法的强大性能表明，统一的模型是一个更经济的替代品相比，保持单独的任务特定的模型在推理过程中。
2023-02-23 cs.SD eess.AS
End-to-end speech enhancement based on discrete cosine transform
Beijing University of Posts and Telecommunications（北京邮电大学）
由于语音信号具有短时稳定性，以往的语音增强方法主要集中在短时谱估计上。然而，这些方法往往只估计干净的幅度谱和重用的噪声相位时，重新合成语音信号，这是不可能有效的短时傅立叶变换（STFT）。目前，基于动态神经网络的语音增强方法主要是幅度谱和相位谱的联合估计。这些方法通常给出比幅度谱估计更好的性能，但需要更大的计算和存储开销。在本文中，我们提出使用离散余弦变换（DCT）重建一个有效的短时频谱。在U-net结构下，我们对真实的声谱图进行了增强，最终达到了理想的性能。
2019-10-22 cs.SD eess.AS
Deep neural network techniques for monaural speech enhancement: state of the art analysis
University of Cambridge（剑桥大学）
本文综述了深度神经网络在单声道语音增强中的主流技术，涵盖特征提取、全局与局部特征建模、监督与无监督训练及预训练模型应用，旨在总结该领域的主要趋势。
2023-06-20 cs.LG cs.SD eess.AS
Speech Enhancement with Intelligent Neural Homomorphic Synthesis
Tencent Ethereal Audio Lab（腾讯天籁音频实验室）
大多数神经网络语音增强模型通过直接映射傅立叶变换频谱或波形而忽略语音产生数学模型。在这项工作中，我们提出了一个神经源滤波器网络的语音增强。具体地说，我们使用同态信号处理和倒谱分析来获得含噪语音的激励和声道。与传统的信号处理不同，我们使用一个专注递归网络（ARN）模型预测的比率掩模来代替提升分离函数。然后，使用两个卷积注意递归网络（CARN）网络分别预测干净语音的激励和声道。系统的输出是从估计的激励和人声合成的。实验证明，我们提出的方法性能更好，与FullSubNet相比，SI-SNR提高了1.363dB。
2022-10-28 cs.SD eess.AS
Investigating the Effects of Diffusion-based Conditional Generative Speech Models Used for Speech Enhancement on Dysarthric Speech
Bayer AG（拜耳公司）；Idiap Research Institute（伊迪亚普研究所）
首次探索基于扩散的预训练语音增强模型对无噪声环境下帕金森病构音障碍语音的影响，发现该模型会丢失病理声学线索，但残差信号融合可提供互补线索。
2024-12-18 cs.LG cs.SD eess.AS
Unsupervised Speech Enhancement using Data-defined Priors
本文提出双分支编码器-解码器与对抗训练框架，利用不成对干净语音和噪声数据定义先验，实现无监督语音增强，并揭示域内干净数据会导致性能评估过于乐观。
2025-09-26 cs.AI cs.SD eess.AS
A Conformer-based ASR Frontend for Joint Acoustic Echo Cancellation, Speech Enhancement and Speech Separation
Google LLC（谷歌有限责任公司）
我们提出了一种提高自动语音识别（ASR）的鲁棒性的前端，该前端在单个模型中联合实现三个模块：声学回声消除、语音增强和语音分离。这通过使用上下文增强神经网络来实现，该上下文增强神经网络可以可选地利用不同类型的侧输入：（1）回放音频的参考信号，其对于回声消除是必要的;（2）噪声上下文，其对于语音增强是有用的;以及（3）表示感兴趣的目标说话者的语音特征的嵌入向量，这不仅在语音分离中是关键的，而且有助于回声消除和语音增强。我们提出了详细的评估表明，联合模型的性能几乎以及特定于任务的模型，并显着降低在嘈杂的条件下，即使使用大规模的最先进的ASR模型的单词错误率。与噪声基线相比，联合模型在低信噪比条件下将回声消除数据集上的单词错误率降低了至少71%，在噪声数据集上降低了10%，在多说话者数据集上降低了26%。与特定于任务的模型相比，联合模型在回声消除数据集上的性能在10%以内，在噪声数据集上的性能在2%以内，在多说话者数据集上的性能在3%以内。
2021-11-18 cs.SD eess.AS
ctPuLSE: Close-Talk, and Pseudo-Label Based Far-Field, Speech Enhancement
Department of Computer Science and Engineering, Southern University of Science and Technology（计算机科学与工程系，南方科技大学）
针对神经语音增强模型对真实数据泛化性差的问题，本文提出ctPuLSE方法，利用近讲增强生成伪标签，直接在真实远场混合信号上训练模型，在CHiME-4上验证了其有效性。
2025-09-24 cs.SD eess.AS
Spoken Speech Enhancement using EEG
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
在本文中，我们演示了使用生成对抗网络（GAN）为基础的模型，门控递归单元（GRU）回归为基础的模型，时间卷积网络（TCN）回归模型，最后使用混合TCN GRU回归模型使用脑电图（EEG）信号的语音增强。我们比较了我们的基于EEG的语音增强的结果与传统的对数最小均方误差（MMSE）语音增强算法和我们提出的方法表现出显着的改善语音增强质量相比，传统的方法。我们的总体结果表明，EEG功能可以用来清洁语音记录在存在背景噪声。据我们所知，这是第一次口头语音增强证明使用EEG功能记录在并行与口头讲话。
2020-04-19 cs.LG cs.SD eess.AS
A Speech Enhancement Algorithm based on Non-negative Hidden Markov Model and Kullback-Leibler Divergence
Aalborg University（奥尔堡大学）；Capturi A/S（Capturi公司）
提出了一种基于Kullback-Leibler散度的非负矩阵分解（NMF）和隐马尔可夫模型（NMF-HMM）相结合的有监督单通道语音增强方法。隐马尔可夫模型的应用，可以考虑语音信号的时间动态信息。在训练阶段，Poisson的和，导致KL发散度量，被用作HMM每个状态的观察模型。这确保了计算上有效的乘法更新可以用于所提出的模型的参数更新。在在线增强阶段，我们提出了一种新的最小均方误差（MMSE）估计建议NMF-HMM。该估计器可以使用并行计算来实现，从而节省了时间复杂度。所提出的算法的性能进行了客观的措施。实验结果表明，该策略比现有的语音增强方法具有更好的语音增强性能。与传统的基于NMF的语音增强方法相比，该算法的短时客观可懂度（STOI）提高了5%，语音质量感知评价（PESQ）提高了0.18%.
2020-06-30 cs.SD eess.AS
Self-supervised Learning for Speech Enhancement
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（奥多比研究院）
单通道语音增强的监督学习需要仔细标记的训练示例，其中将噪声混合输入到网络中，并训练网络以产生接近理想目标的输出。为了放松对训练数据的条件，我们考虑以自监督的方式训练语音增强网络的任务。我们首先使用有限的干净语音训练集，并通过对其幅度谱图进行自动编码来学习潜在表示。然后，我们自动编码的语音混合记录在嘈杂的环境和训练产生的自动编码器共享一个潜在的代表性与干净的例子。我们表明，使用这种训练模式，我们现在可以使用一个可自主训练的网络将嘈杂的语音映射到其干净的版本，而不需要标记的训练示例或人工干预。
2020-06-18 cs.SD eess.AS
Single-Microphone Speech Enhancement and Separation Using Deep Learning
鸡尾酒会问题包括理解复杂声学环境中的语音信号的挑战性任务，其中多个扬声器和背景噪声信号同时干扰感兴趣的语音信号。在这种复杂的声学情况下，能够有效地提高语音可懂度和语音信号的质量的信号处理算法是非常需要的。特别是对于涉及移动通信设备和听力辅助设备的应用。由于机器学习技术的重新出现，今天被称为深度学习，与这些算法相关的挑战可能会被克服。在这篇博士论文中，我们研究和开发了基于深度学习的技术，用于鸡尾酒会问题的两个子学科：单麦克风语音增强和单麦克风多说话者语音分离。具体而言，我们对基于现代深度学习的单麦克风语音增强算法的泛化能力进行了深入的实证分析。我们表明，这样的算法的性能是密切相关的训练数据，和良好的泛化能力，可以实现精心设计的训练数据。此外，我们提出了uPIT，一种基于深度学习的单麦克风语音分离算法，并报告了与说话者无关的多说话者语音分离任务的最新结果。此外，我们表明，uPIT工程以及联合语音分离和增强没有明确的先验知识的噪声类型或扬声器的数量。最后，我们表明，基于深度学习的语音增强算法，旨在最大限度地减少经典的短时谱幅度均方误差导致增强的语音信号，这是本质上最佳的STOI，一个国家的最先进的语音清晰度估计。
2018-12-04 cs.SD eess.AS
On TasNet for Low-Latency Single-Speaker Speech Enhancement
Aalborg University（奥尔堡大学）；Oticon A/S（奥迪康公司）
近年来，语音处理算法取得了巨大的进步，主要是由于深度学习的复兴。这对于语音分离尤其如此，其中时域音频分离网络（TasNet）已经导致了显着的改进。然而，对于单说话者语音增强的相关任务，这是显而易见的重要性，它仍然是未知的，如果TasNet架构同样成功。在本文中，我们表明，TasNet提高了最先进的语音增强，并实现了最大的增益调制噪声源，如语音。此外，我们表明，TasNet学习一个有效的内域表示，其中目标和噪声信号分量是高度可分离的。对于干扰语音信号的噪声来说尤其如此，这可以解释为什么TasNet在分离任务中表现如此出色。此外，我们表明，TasNet表现不佳的大帧跳数和猜测，混叠可能是这种性能下降的主要原因。最后，我们证明了TasNet始终优于最先进的单扬声器语音增强系统。
2021-03-27 cs.SD eess.AS
A Flow-Based Neural Network for Time Domain Speech Enhancement
Friedrich-Alexander-University Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；Fraunhofer IIS（弗劳恩霍夫集成电路研究所）
语音增强涉及目标语音信号与干扰背景的区分。尽管近年来使用变分自编码器或生成对抗网络（GANs）的生成方法越来越多地被使用，但基于归一化流（NF）的系统仍然很少，尽管它们在相关领域取得了成功。因此，在本文中，我们提出了一个NF框架，直接建模的增强过程中的密度估计干净的语音话语的条件下，他们的嘈杂的同行。来自语音合成的WaveGlow模型适于使得能够在时域中直接增强有噪声的话语。此外，我们还证明了非线性输入压扩通过均衡输入样本的分布来提高模型性能。对公开数据集的实验评估显示，与当前最先进的基于GAN的方法相比，结果相当，同时使用客观评估指标超越了所选基线。
2021-06-16 cs.SD eess.AS
Improving Speech Enhancement through Fine-Grained Speech Characteristics
Carnegie Mellon University（卡内基梅隆大学）；Meta Reality Labs Research（Meta现实实验室）
虽然基于深度学习的语音增强系统在提高语音信号的质量方面取得了快速进展，但它们仍然可以产生包含伪像并且听起来不自然的输出。我们提出了一种新的语音增强方法，旨在通过优化语音的关键特征来提高增强信号的感知质量和自然度。我们首先确定关键的声学参数，已被发现与语音质量（如抖动，微光，和频谱通量），然后提出目标函数，其目的是减少干净的语音和增强语音之间的差异相对于这些功能。完整的声学特征集是扩展的Geneva声学参数集（eGeMAPS），其包括与语音感知相关联的25个不同属性。鉴于这些特征计算的不可微性质，我们首先构建eGeMAPS的可微估计器，然后使用它们来微调现有的语音增强系统。我们的方法是通用的，可以应用于任何现有的基于深度学习的增强系统，以进一步改善增强的语音信号。在深度噪声抑制（DNS）挑战数据集上进行的实验结果表明，我们的方法可以改进最先进的基于深度学习的增强系统。
2022-07-11 cs.LG cs.SD eess.AS
MVNet: Memory Assistance and Vocal Reinforcement Network for Speech Enhancement
Tianjin University（天津大学）；Chinese Academy of Social Sciences（中国社会科学院）；Shenzhen Research Institute of Big Data, the Chinese University of Hong Kong（香港中文大学深圳大数据研究院）
语音增强提高了语音质量，促进了各种下游任务的性能。然而，目前的语音增强工作主要集中在提高下游自动语音识别（ASR）的性能，只有相对较少的工作集中在自动说话人确认（ASV）任务上。在这项工作中，我们提出了一个MVNet组成的记忆辅助模块，提高了下游ASR的性能和语音增强模块，提高了ASV的性能。此外，我们设计了一个新的损失函数来提高说话人声音的相似度。在Libri2mix数据集上的实验结果表明，该方法在语音质量、可懂度、说话人声音相似度等多个指标上均优于基线方法。
2022-09-15 cs.SD eess.AS
Weighted Speech Distortion Losses for Neural-network-based Real-time Speech Enhancement
Microsoft Research（微软研究院）
针对实时单通道语音增强，研究了训练递归神经网络（RNN）的几个方面，这些方面影响增强语音的客观和主观质量。具体来说，我们专注于一个RNN，增强了单帧输入，单帧输出的基础上，最经典的信号处理方法所采用的框架的短时间语音频谱。我们提出了两个新的均方误差为基础的学习目标，使单独控制语音失真与降噪的重要性。建议的损失函数进行评估，广泛接受的客观质量和可懂度的措施，并与其他竞争力的在线方法。此外，我们研究了特征归一化和不同批次序列长度对增强语音的客观质量的影响。最后，我们展示了所提出的方法和最先进的基于RNN的实时方法的主观评级。
2020-02-12 cs.SD eess.AS
An individualized super Gaussian single microphone Speech Enhancement for hearing aid users with smartphone as an assistive device
本文提出了一种基于超高斯联合最大后验概率的单麦克风语音增强增益函数。开发的语音增强方法在智能手机上实现，这种安排作为助听器的辅助设备。我们引入了一个权衡参数，在派生的增益函数，允许智能手机用户自定义他们的听力偏好，通过控制噪声抑制和语音失真的量在实时的基础上，他们在嘈杂的现实世界的声学环境中感知的听觉舒适度。客观的质量和可懂度的措施表明所提出的方法的有效性相比，基准技术在本文中考虑。主观结果反映了有用的开发语音增强应用在现实世界中的噪声条件下的信号噪声比水平为0 dB和5 dB。
2018-12-10 cs.SD eess.AS
The PCG-AIID System for L3DAS22 Challenge: MIMO and MISO convolutional recurrent Network for Multi Channel Speech Enhancement and Speech Recognition
Tencent PCG（腾讯平台与内容事业群）
本文介绍了PCG-AIID系统在L3 DAS 22挑战任务1：办公室混响环境下的三维语音增强中的应用。我们提出了一个两阶段的框架来解决多通道语音去噪和去混响。在第一级中，多输入多输出（MIMO）网络被应用于去除背景噪声，同时保持多通道信号的空间特性。在第二阶段中，多输入和单输出（MISO）网络被应用于从期望的方向和后滤波来增强语音。因此，我们的系统在ICASSP 2022 L3 DAS 22挑战中排名第三，并显著优于基线系统，同时在盲测集上实现了3.2%的WER和0.972的STOI。
2022-02-21 cs.SD eess.AS
Exploring Tradeoffs in Models for Low-latency Speech Enhancement
Google Research（谷歌研究院）；Google Chrome Audio（谷歌Chrome音频团队）
我们探讨了各种神经网络配置的单通道和双通道频谱掩模为基础的语音增强。我们的最佳模型在CHiME2语音增强任务上的先前最先进的性能上提高了0.4分贝的信号失真比（SDR）。我们研究权衡，如非因果前瞻，计算和参数计数与增强性能，发现零前瞻模型可以实现，平均而言，在0.03 dB SDR的最佳双向模型。此外，我们发现，200毫秒的前瞻性足以实现与我们最好的双向模型相当的性能。
2018-11-16 cs.SD eess.AS
Single Channel Speech Enhancement Using Outlier Detection
Stanford University（斯坦福大学）；Google Inc.（谷歌公司）
语音失真是单通道语音增强算法普遍存在的问题，阻碍了单通道语音增强算法的广泛应用。提出了一种基于字典的语音增强方法，强调保持潜在的语音。干净语音的频谱块被采样和聚类以训练字典。给定噪声语音频谱补丁，选择最佳匹配字典条目并用于估计每个时频点处的噪声功率。噪声估计步骤被公式化为离群值检测问题，其中假设每个bin处的噪声仅在其是最佳匹配字典条目的对应bin的离群值时才存在。该框架在去除与存储在训练字典中的典型口语单元严重偏离的频谱元素时分配更高的优先级。即使没有一个单独的噪声模型的帮助下，这种方法可以实现显着的各种非平稳噪声的降噪，同时有效地保留在更具挑战性的噪声环境中的底层语音。
2016-05-04 cs.LG cs.SD
Generic Speech Enhancement with Self-Supervised Representation Space Loss
本文提出一种基于自监督学习模型特征表示域距离最小化的新型训练准则，构建通用语音增强前端，在保持感知质量的同时提升多下游任务性能。
2025-07-10 cs.SD eess.AS eess.SP
