Teaching Speech Enhancement Models to Sing: Domain Adaptation from Speech Enhancement to Singing Voice Separation
针对歌声分离训练数据有限问题，将其作为从语音增强到歌声分离的域适应，研究全量微调和LoRA参数高效微调策略，实验表明两种策略均有效提升歌声分离性能，LoRA微调还能保留语音增强能力，证明适配预训练模型是数据稀缺时训练歌声分离模型的有效策略。
2026-07-14 cs.SD eess.AS
On Single-Channel Speech Enhancement and On Non-Linear Modulation-Domain Kalman Filtering
Imperial College London（帝国理工学院）
这份报告的重点是算法，执行单通道语音增强。本文作者在[1]、[2]、[3]、[4]和[5]中使用调制域卡尔曼滤波算法进行语音增强，即噪声抑制和去混响。调制域卡尔曼滤波可以应用于噪声和后期混响抑制，并且在[2]、[1]、[3]和[4]中，设计、实现和测试了执行调制域卡尔曼滤波的各种基于模型的语音增强算法。[2]中的基于模型的增强算法估计并跟踪语音相位。[5]中的基于短时傅里叶变换的增强算法使用[6]中提出的活动语音电平估计器。本报告介绍了不同的算法如何执行语音增强和算法在本报告中讨论的是针对研究人员感兴趣的单声道语音增强。算法由不同的处理块和技术组成[7];理解系统设计期间所做的实现选择很重要，因为这可以提供有助于开发新算法的见解。索引术语-语音增强，去混响，去噪，卡尔曼滤波器，最小均方误差估计。
2018-10-31 cs.SD eess.AS
Objective and Subjective Evaluation of Diffusion-Based Speech Enhancement for Dysarthric Speech
Delft University of Technology（代尔夫特理工大学）；Erasmus Medical Centre (EMC)（埃因霍温医学院）；Indian Inst. of Information Technology Allahabad（阿利哈巴德信息科技学院）；Dept. of Plastic and Reconstructive Surgery（整形外科与重建外科系）；Dept. of Electronics and Communication（电子与通信系）
针对构音障碍语音对ASR系统的挑战，本研究探索扩散模型在构音障碍语音增强中的应用，通过评估两种扩散算法和一种信号处理算法对语料库可懂度、质量及ASR性能的影响，验证其提升识别性能的潜力。
2025-08-25 cs.SD eess.AS
A Perceptual Weighting Filter Loss for DNN Training in Speech Enhancement
使用深度神经网络（DNN）的单通道语音增强已显示出有前途的性能，因此正在深入研究。在本文中，在用于语音增强的DNN训练期间，我们不是将均方误差（MSE）应用为损失函数，而是设计了由加权滤波器激励的感知加权滤波器损失，因为其用于合成分析语音编码，例如，码激励线性预测（CELP）实验结果表明，所提出的简单的损失函数提高了语音增强性能相比，参考DNN与MSE损失的感知质量和噪声衰减。所提出的损失函数可以有利地应用于现有的基于DNN的语音增强系统，而无需修改用于语音增强的DNN拓扑。提出的方法的源代码是可用的。
2019-08-18 cs.SD eess.AS
Joint Noise Reduction and Listening Enhancement for Full-End Speech Enhancement
National Institute of Informatics（国立情报学研究所）；The Graduate University for Advanced Studies (SOKENDAI)（综合研究大学院大学（SOKENDAI））
语音增强（SE）方法主要集中于从噪声输入中恢复干净的语音。然而，在现实世界的语音通信中，噪声往往不仅存在于说话者，而且存在于听者环境中。虽然SE方法可以抑制扬声器语音中包含的噪声，但它们不能处理实际存在于收听者侧的噪声。为了解决这种复杂但常见的情况，我们研究了一种基于深度学习的联合框架，该框架将降噪（NR）与听力增强（LE）集成在一起，其中NR模块首先抑制噪声，然后LE模块修改去噪语音，即，NR模块的输出，以进一步提高语音清晰度。因此，增强的语音可以更少噪声并且对于收听者来说更容易理解。实验结果表明，我们提出的方法取得了可喜的成果，显着优于不相交处理方法在各种语音评价指标。
2022-03-22 cs.SD eess.AS
NeuralEcho: A Self-Attentive Recurrent Neural Network For Unified Acoustic Echo Suppression And Speech Enhancement
Tencent AI Lab（腾讯人工智能实验室）
声学回声消除在全双工语音通信中起着重要的作用，同时也是在扬声器重放的情况下进行识别的前端语音增强。在本文中，我们提出了一个全深度学习框架，隐式估计回声/噪声和目标语音的二阶统计量，并通过基于注意力的递归神经网络联合解决回声和噪声抑制问题。该模型在客观语音质量指标、语音识别精度和模型复杂度方面优于最先进的联合回声消除和语音增强方法F-T-LSTM。我们表明，该模型可以与说话人嵌入更好的目标语音增强，并进一步开发一个分支的自动增益控制（AGC）的任务，形成一个一体化的前端语音增强系统。
2022-05-20 cs.SD eess.AS
Speech enhancement with weakly labelled data from AudioSet
ByteDance（字节跳动）
语音增强是提高退化语音信号的可懂度和感知质量的任务。最近，基于神经网络的方法已经被应用于语音增强。然而，许多基于神经网络的方法需要噪声和干净的语音对用于训练。我们提出了一个语音增强框架，可以用大规模弱标记的AudioSet数据集进行训练。弱标记数据仅包含音频片段的音频标记，而不包含语音的起始或偏移时间。我们首先应用预训练的音频神经网络（PANNs）来检测音频片段中包含语音或声音事件的锚片段。然后，我们随机混合两个检测到的锚段包含语音和声音事件作为一个混合物，并建立一个条件声源分离网络使用PANN预测语音增强的软条件。在推理中，我们输入一个带噪的语音信号，其中“Speech”的独热编码作为训练系统的条件，以预测增强的语音。我们的系统在VoiceBank-DEMAND数据集上实现了2.28的PESQ和8.75 dB的SSNR，分别优于之前的2.16和7.73 dB的SEGAN系统。
2021-02-19 cs.SD eess.AS
Impulsive Noise Detection for Intelligibility and Quality Improvement of Speech Enhancement Methods Applied in Time-Domain
Military Institute of Engineering（军事工程学院）
本文介绍了一种新的基于希尔伯特-黄变换域的语音增强方法，以消除脉冲噪声对语音质量的影响。噪声分量的估计和选择是基于分解模式的冲动指数。针对五种不同脉冲指数和非平稳程度的噪声，在不同信噪比下进行了语音增强实验。采用三种语音增强算法作为基线，从时域和谱域两个方面进行了评价分析。所提出的解决方案实现了最好的结果，在客观的质量措施和类似的语音清晰度率的竞争力的方法。
2019-10-07 cs.SD eess.AS
Student-Teacher Learning for BLSTM Mask-based Speech Enhancement
Johns Hopkins University（约翰斯·霍普金斯大学）
基于双向长短期记忆（BLSTM）神经网络的谱掩模估计已广泛应用于各种语音增强应用中，并在基于掩模波束形成器的多通道语音增强技术中取得了巨大的成功。然而，当这些掩模用于单通道语音增强时，它们严重地使语音信号失真并且使它们不适合于语音识别。本文提出了一种单通道语音增强的师生学习模式。来自多通道增强的波束成形信号作为教师网络的输入被给出以获得软掩模。将软掩模目标的附加交叉熵损失项与原始损失相结合，使得具有单通道输入的学生网络被训练以模仿通过波束成形用多通道输入获得的软掩模。CHiME-4挑战单通道跟踪数据的实验显示ASR性能的改善。
2018-03-27 cs.SD eess.AS
Using Speech Foundational Models in Loss Functions for Hearing Aid Speech Enhancement
The University of Sheffield（谢菲尔德大学）；WS Audiology（西万拓听力技术公司）；Toshiba（东芝）
本文提出在助听器语音增强的损失函数中利用自监督语音表示距离，以提升可懂度，实验显示相比SNR损失，HASPI、STOI、PESQ和SI-SNR均提高，且仅训练时需大模型推理。
2024-07-18 cs.SD eess.AS
Exploring WavLM on Speech Enhancement
Institute for Information & communications Technology Promotion（信息与通信技术振兴院）；Microsoft Research Asia（微软亚洲研究院）
近年来，对用于端到端语音编码的自监督学习方法的兴趣激增，因为它们取得了巨大的成功。特别是，WavLM在各种语音处理任务上表现出了最先进的性能。为了更好地了解自我监督学习模型用于语音增强的功效，在这项工作中，我们设计并进行了一系列实验，结合WavLM和两个高质量的语音增强系统的三个资源条件。此外，我们提出了一个基于回归的WavLM训练目标和噪声混合数据配置，以进一步提高下游增强性能。DNS挑战数据集和仿真数据集上的实验表明，WavLM有利于语音增强任务的语音质量和语音识别精度，特别是对于低微调资源。对于高微调资源条件，仅字错误率得到实质性改善。
2022-11-18 cs.SD eess.AS
Hallucination in Perceptual Metric-Driven Speech Enhancement Networks
University of Sheffield（谢菲尔德大学）；TOSHIBA Cambridge Research Laboratory（东芝剑桥研究实验室）
本文识别了感知度量驱动的语音增强网络中的幻觉问题，即增强系统通过欺骗语音质量预测器来引入幻觉，并旨在揭示这一潜在缺陷。
2024-05-24 cs.SD eess.AS
Incorporating Ultrasound Tongue Images for Audio-Visual Speech Enhancement through Knowledge Distillation
National Engineering Research Center of Speech and Language Information Processing, University of Science and Technology of China（中国科学技术大学国家语言语音信息处理工程研究中心）
本文提出在训练阶段利用知识蒸馏，将预训练的音频-唇部-舌部语音增强教师模型的知识传递给音频-唇部学生模型，从而在推理时无需超声舌像即可提升语音增强的质量与可懂度。
2023-11-20 cs.SD eess.AS
CycleGAN with Dual Adversarial Loss for Bone-Conducted Speech Enhancement
Key Laboratory of Intelligent Computing and Signal Processing of Ministry of Education, Anhui University（安徽大学智能计算与信号处理教育部重点实验室）
骨导语音与气导语音相比，具有屏蔽背景噪声的独特优势。增强骨导语音有助于提高其质量和可懂度。本文提出了一种新的具有双重对抗损失的CycleGAN（CycleGAN-DAL）用于骨导语音增强。该方法同时使用对抗性损失和循环一致性损失来学习前向和循环映射，其中对抗性损失被替换为分类对抗性损失和缺陷对抗性损失以巩固前向映射。与传统的基线方法相比，它可以学习骨导语音和目标语音之间的特征映射，而无需额外的空气传导语音辅助。此外，所提出的方法还避免了通常发生在传统的统计模型的过光滑问题。实验结果表明，该方法优于基线方法，如CycleGAN，GMM和BLSTM。关键词：骨导语音增强，双对抗损失，并行CycleGAN，高频语音重建
2021-11-02 cs.SD eess.AS
Analysis of Noisy-target Training for DNN-based speech enhancement
Nagoya University（名古屋大学）
基于深度神经网络（DNN）的语音增强通常使用干净的语音作为训练目标。然而，很难收集大量干净的语音，因为录音成本很高。换句话说，当前语音增强的性能受到训练数据量的限制。为了放宽该限制，已经提出了利用噪声语音作为训练目标的噪声目标训练（NyTT）。虽然实验表明，NyTT可以训练DNN而无需干净的语音，但尚未进行详细的分析，并且其行为尚未得到很好的理解。在本文中，我们进行各种分析，以加深我们对NyTT的理解。此外，基于NyTT的属性，我们提出了一种改进的方法，该方法与使用干净语音的方法相当。此外，我们表明，我们可以提高性能，通过使用大量的噪声语音与干净的语音。
2022-11-02 cs.SD eess.AS
Closing the Gap Between Time-Domain Multi-Channel Speech Enhancement on Real and Simulation Conditions
Shanghai Jiao Tong University（上海交通大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Carnegie Mellon University（卡内基梅隆大学）
基于深度学习的时域模型，例如Conv-TasNet，在单通道和多通道语音增强方面都显示出巨大的潜力。然而，时域语音增强模型的实验大多是在模拟环境下进行的，其良好的性能能否推广到实际应用中还没有得到很好的研究。在本文中，我们的目的是提供一个有见地的调查应用多通道Conv-TasNet为基础的语音增强的模拟和真实数据。我们的初步实验表明，在ASR性能方面，两种条件之间存在很大的性能差距。有几种方法被用来缩小这一差距，包括将多通道Conv-TasNet集成到具有各种策略的波束形成模型中，以及语音增强和语音识别模型的联合训练。在CHiME-4语料库上的实验表明，本文提出的方法在保持前端强大的语音增强能力的同时，可以大大降低仿真数据与真实数据之间的语音识别性能差异。
2021-10-27 cs.SD eess.AS
Joint Far- and Near-End Speech Intelligibility Enhancement based on the Approximated Speech Intelligibility Index
RTX A/S（RTX公司）；Aalborg University（奥尔堡大学）
本文研究了在一个噪声环境中采集的信号在另一个噪声环境中呈现给听者的语音增强问题。最近，它已被证明，这个问题的最佳解决方案，需要考虑在两个环境中的噪声源联合。然而，现有的基于最佳互信息的方法需要一个复杂的系统模型，包括自然语音变化，并依赖于近似和假设的基础信号分布。在本文中，我们建议使用一个更简单的信号模型，并优化语音清晰度的近似语音清晰度指数（ASII）的基础上。我们推导出一个封闭形式的解决方案的联合远，近端语音增强的问题，是独立的信号系数的边缘分布，并达到类似的性能，现有的工作。此外，我们不需要为自然语音变化建模或优化。
2021-11-15 cs.SD eess.AS
Breaking the trade-off in personalized speech enhancement with cross-task knowledge distillation
Microsoft Research（微软研究院）
与无条件语音增强模型相比，个性化语音增强（PSE）模型具有去除干扰语音和背景噪声的能力，因此获得了令人满意的结果。与无条件语音增强不同，因果PSE模型可能偶尔错误地移除目标语音。当目标说话者长时间沉默时，PSE模型也倾向于泄漏干扰语音。我们表明，现有的PSE方法遭受语音过抑制和干扰泄漏之间的权衡，解决一个问题的代价是其他。我们提出了一个新的PSE模型训练框架，使用跨任务的知识蒸馏，以减轻这种权衡。具体来说，我们利用个性化的语音活动检测器（pVAD）在训练过程中，排除非目标语音帧被错误地识别为包含目标扬声器与硬或软分类。这防止PSE模型过于激进，同时仍然允许模型学习在输入语音可能由干扰说话者说出时抑制输入语音。全面的评估结果，涵盖各种PSE的使用场景。
2022-11-05 cs.SD eess.AS
DDS: A new device-degraded speech dataset for speech enhancement
National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies (SOKENDAI)（综合研究大学院大学）
在不受控制的环境中，消费级设备上记录了现实生活中大量且不断增长的语音内容，导致语音质量下降。将这种低质量的设备降级语音转换成高质量语音是语音增强（SE）的目标。本文介绍了一种新的语音数据集，DDS，以促进对SE的研究。DDS提供高质量语音（在专业录音室录制）和低质量语音的多个版本的对齐平行录音，产生约2，000小时的语音数据。DDS数据集通过结合不同的声学环境和麦克风设备，涵盖了27种真实的录音条件，每个条件版本由来自六个麦克风位置的多个录音组成，以模拟不同的噪声和混响水平。我们还测试了几个SE基线系统的DDS数据集，并显示记录多样性对性能的影响。
2022-03-22 cs.SD eess.AS
LPCSE: Neural Speech Enhancement through Linear Predictive Coding
University of Chinese Academy of Sciences（中国科学院大学）；Terminus Group（特斯联集团）；University College London（伦敦大学学院）；The University of Sheffield（谢菲尔德大学）
对5G/B5 G通信系统中的体验质量的日益严格的要求已经导致了新兴的神经语音增强技术，然而，神经语音增强技术已经与语音发音和失真的现有的基于专家规则的模型（诸如经典的线性预测编码（LPC）语音模型）隔离地开发，因为难以将模型与自动可区分的机器学习框架集成。在本文中，为了提高神经语音增强的效率，我们介绍了一种基于LPC的语音增强（LPCSE）架构，它利用了强归纳偏见的LPC语音模型结合神经网络的表达能力。在LPCSE中通过两个新颖的块实现可区分的端到端学习：一个块利用专家规则来减少将LPC语音模型集成到神经网络中时的计算开销，以及一个块通过将线性预测系数映射到滤波器极点来确保模型的稳定性并避免端到端训练中的梯度爆炸。实验结果表明，LPCSE能有效地恢复因传输损耗而失真的语音共振峰，在LJ语音语料上的语音质量感知评价（PESQ）和短时客观可懂度（STOI）方面优于现有的两种同等规模的神经网络语音增强方法.
2022-06-22 cs.SD eess.AS
A Framework for Unified Real-time Personalized and Non-Personalized Speech Enhancement
Amazon Web Services（亚马逊云科技）
在这项研究中，我们提出了一种方法来训练一个单一的语音增强网络，可以执行个性化和非个性化的语音增强。这是通过合并指定增强输出类型的逐帧调节输入来实现的。为了提高增强输出的质量并减轻过度抑制，我们尝试通过语音活动的存在或不存在来重新加权帧，并将增强应用于扬声器嵌入。通过在多任务学习设置下进行训练，我们经验性地表明，所提出的统一模型在个性化和非个性化语音增强基准上都获得了令人满意的结果，并且达到了与专门针对任一任务训练的模型相似的性能。所提出的方法的强大性能表明，统一的模型是一个更经济的替代品相比，保持单独的任务特定的模型在推理过程中。
2023-02-23 cs.SD eess.AS
End-to-end speech enhancement based on discrete cosine transform
Beijing University of Posts and Telecommunications（北京邮电大学）
由于语音信号具有短时稳定性，以往的语音增强方法主要集中在短时谱估计上。然而，这些方法往往只估计干净的幅度谱和重用的噪声相位时，重新合成语音信号，这是不可能有效的短时傅立叶变换（STFT）。目前，基于动态神经网络的语音增强方法主要是幅度谱和相位谱的联合估计。这些方法通常给出比幅度谱估计更好的性能，但需要更大的计算和存储开销。在本文中，我们提出使用离散余弦变换（DCT）重建一个有效的短时频谱。在U-net结构下，我们对真实的声谱图进行了增强，最终达到了理想的性能。
2019-10-22 cs.SD eess.AS
Speech Enhancement with Intelligent Neural Homomorphic Synthesis
Tencent Ethereal Audio Lab（腾讯天籁音频实验室）
大多数神经网络语音增强模型通过直接映射傅立叶变换频谱或波形而忽略语音产生数学模型。在这项工作中，我们提出了一个神经源滤波器网络的语音增强。具体地说，我们使用同态信号处理和倒谱分析来获得含噪语音的激励和声道。与传统的信号处理不同，我们使用一个专注递归网络（ARN）模型预测的比率掩模来代替提升分离函数。然后，使用两个卷积注意递归网络（CARN）网络分别预测干净语音的激励和声道。系统的输出是从估计的激励和人声合成的。实验证明，我们提出的方法性能更好，与FullSubNet相比，SI-SNR提高了1.363dB。
2022-10-28 cs.SD eess.AS
A Conformer-based ASR Frontend for Joint Acoustic Echo Cancellation, Speech Enhancement and Speech Separation
Google LLC（谷歌有限责任公司）
我们提出了一种提高自动语音识别（ASR）的鲁棒性的前端，该前端在单个模型中联合实现三个模块：声学回声消除、语音增强和语音分离。这通过使用上下文增强神经网络来实现，该上下文增强神经网络可以可选地利用不同类型的侧输入：（1）回放音频的参考信号，其对于回声消除是必要的;（2）噪声上下文，其对于语音增强是有用的;以及（3）表示感兴趣的目标说话者的语音特征的嵌入向量，这不仅在语音分离中是关键的，而且有助于回声消除和语音增强。我们提出了详细的评估表明，联合模型的性能几乎以及特定于任务的模型，并显着降低在嘈杂的条件下，即使使用大规模的最先进的ASR模型的单词错误率。与噪声基线相比，联合模型在低信噪比条件下将回声消除数据集上的单词错误率降低了至少71%，在噪声数据集上降低了10%，在多说话者数据集上降低了26%。与特定于任务的模型相比，联合模型在回声消除数据集上的性能在10%以内，在噪声数据集上的性能在2%以内，在多说话者数据集上的性能在3%以内。
2021-11-18 cs.SD eess.AS
ctPuLSE: Close-Talk, and Pseudo-Label Based Far-Field, Speech Enhancement
Department of Computer Science and Engineering, Southern University of Science and Technology（计算机科学与工程系，南方科技大学）
针对神经语音增强模型对真实数据泛化性差的问题，本文提出ctPuLSE方法，利用近讲增强生成伪标签，直接在真实远场混合信号上训练模型，在CHiME-4上验证了其有效性。
2025-09-24 cs.SD eess.AS
A Speech Enhancement Algorithm based on Non-negative Hidden Markov Model and Kullback-Leibler Divergence
Aalborg University（奥尔堡大学）；Capturi A/S（Capturi公司）
提出了一种基于Kullback-Leibler散度的非负矩阵分解（NMF）和隐马尔可夫模型（NMF-HMM）相结合的有监督单通道语音增强方法。隐马尔可夫模型的应用，可以考虑语音信号的时间动态信息。在训练阶段，Poisson的和，导致KL发散度量，被用作HMM每个状态的观察模型。这确保了计算上有效的乘法更新可以用于所提出的模型的参数更新。在在线增强阶段，我们提出了一种新的最小均方误差（MMSE）估计建议NMF-HMM。该估计器可以使用并行计算来实现，从而节省了时间复杂度。所提出的算法的性能进行了客观的措施。实验结果表明，该策略比现有的语音增强方法具有更好的语音增强性能。与传统的基于NMF的语音增强方法相比，该算法的短时客观可懂度（STOI）提高了5%，语音质量感知评价（PESQ）提高了0.18%.
2020-06-30 cs.SD eess.AS
Self-supervised Learning for Speech Enhancement
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（奥多比研究院）
单通道语音增强的监督学习需要仔细标记的训练示例，其中将噪声混合输入到网络中，并训练网络以产生接近理想目标的输出。为了放松对训练数据的条件，我们考虑以自监督的方式训练语音增强网络的任务。我们首先使用有限的干净语音训练集，并通过对其幅度谱图进行自动编码来学习潜在表示。然后，我们自动编码的语音混合记录在嘈杂的环境和训练产生的自动编码器共享一个潜在的代表性与干净的例子。我们表明，使用这种训练模式，我们现在可以使用一个可自主训练的网络将嘈杂的语音映射到其干净的版本，而不需要标记的训练示例或人工干预。
2020-06-18 cs.SD eess.AS
Single-Microphone Speech Enhancement and Separation Using Deep Learning
鸡尾酒会问题包括理解复杂声学环境中的语音信号的挑战性任务，其中多个扬声器和背景噪声信号同时干扰感兴趣的语音信号。在这种复杂的声学情况下，能够有效地提高语音可懂度和语音信号的质量的信号处理算法是非常需要的。特别是对于涉及移动通信设备和听力辅助设备的应用。由于机器学习技术的重新出现，今天被称为深度学习，与这些算法相关的挑战可能会被克服。在这篇博士论文中，我们研究和开发了基于深度学习的技术，用于鸡尾酒会问题的两个子学科：单麦克风语音增强和单麦克风多说话者语音分离。具体而言，我们对基于现代深度学习的单麦克风语音增强算法的泛化能力进行了深入的实证分析。我们表明，这样的算法的性能是密切相关的训练数据，和良好的泛化能力，可以实现精心设计的训练数据。此外，我们提出了uPIT，一种基于深度学习的单麦克风语音分离算法，并报告了与说话者无关的多说话者语音分离任务的最新结果。此外，我们表明，uPIT工程以及联合语音分离和增强没有明确的先验知识的噪声类型或扬声器的数量。最后，我们表明，基于深度学习的语音增强算法，旨在最大限度地减少经典的短时谱幅度均方误差导致增强的语音信号，这是本质上最佳的STOI，一个国家的最先进的语音清晰度估计。
2018-12-04 cs.SD eess.AS
On TasNet for Low-Latency Single-Speaker Speech Enhancement
Aalborg University（奥尔堡大学）；Oticon A/S（奥迪康公司）
近年来，语音处理算法取得了巨大的进步，主要是由于深度学习的复兴。这对于语音分离尤其如此，其中时域音频分离网络（TasNet）已经导致了显着的改进。然而，对于单说话者语音增强的相关任务，这是显而易见的重要性，它仍然是未知的，如果TasNet架构同样成功。在本文中，我们表明，TasNet提高了最先进的语音增强，并实现了最大的增益调制噪声源，如语音。此外，我们表明，TasNet学习一个有效的内域表示，其中目标和噪声信号分量是高度可分离的。对于干扰语音信号的噪声来说尤其如此，这可以解释为什么TasNet在分离任务中表现如此出色。此外，我们表明，TasNet表现不佳的大帧跳数和猜测，混叠可能是这种性能下降的主要原因。最后，我们证明了TasNet始终优于最先进的单扬声器语音增强系统。
2021-03-27 cs.SD eess.AS
A Flow-Based Neural Network for Time Domain Speech Enhancement
Friedrich-Alexander-University Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）；Fraunhofer IIS（弗劳恩霍夫集成电路研究所）
语音增强涉及目标语音信号与干扰背景的区分。尽管近年来使用变分自编码器或生成对抗网络（GANs）的生成方法越来越多地被使用，但基于归一化流（NF）的系统仍然很少，尽管它们在相关领域取得了成功。因此，在本文中，我们提出了一个NF框架，直接建模的增强过程中的密度估计干净的语音话语的条件下，他们的嘈杂的同行。来自语音合成的WaveGlow模型适于使得能够在时域中直接增强有噪声的话语。此外，我们还证明了非线性输入压扩通过均衡输入样本的分布来提高模型性能。对公开数据集的实验评估显示，与当前最先进的基于GAN的方法相比，结果相当，同时使用客观评估指标超越了所选基线。
2021-06-16 cs.SD eess.AS
MVNet: Memory Assistance and Vocal Reinforcement Network for Speech Enhancement
Tianjin University（天津大学）；Chinese Academy of Social Sciences（中国社会科学院）；Shenzhen Research Institute of Big Data, the Chinese University of Hong Kong（香港中文大学深圳大数据研究院）
语音增强提高了语音质量，促进了各种下游任务的性能。然而，目前的语音增强工作主要集中在提高下游自动语音识别（ASR）的性能，只有相对较少的工作集中在自动说话人确认（ASV）任务上。在这项工作中，我们提出了一个MVNet组成的记忆辅助模块，提高了下游ASR的性能和语音增强模块，提高了ASV的性能。此外，我们设计了一个新的损失函数来提高说话人声音的相似度。在Libri2mix数据集上的实验结果表明，该方法在语音质量、可懂度、说话人声音相似度等多个指标上均优于基线方法。
2022-09-15 cs.SD eess.AS
Weighted Speech Distortion Losses for Neural-network-based Real-time Speech Enhancement
Microsoft Research（微软研究院）
针对实时单通道语音增强，研究了训练递归神经网络（RNN）的几个方面，这些方面影响增强语音的客观和主观质量。具体来说，我们专注于一个RNN，增强了单帧输入，单帧输出的基础上，最经典的信号处理方法所采用的框架的短时间语音频谱。我们提出了两个新的均方误差为基础的学习目标，使单独控制语音失真与降噪的重要性。建议的损失函数进行评估，广泛接受的客观质量和可懂度的措施，并与其他竞争力的在线方法。此外，我们研究了特征归一化和不同批次序列长度对增强语音的客观质量的影响。最后，我们展示了所提出的方法和最先进的基于RNN的实时方法的主观评级。
2020-02-12 cs.SD eess.AS
An individualized super Gaussian single microphone Speech Enhancement for hearing aid users with smartphone as an assistive device
本文提出了一种基于超高斯联合最大后验概率的单麦克风语音增强增益函数。开发的语音增强方法在智能手机上实现，这种安排作为助听器的辅助设备。我们引入了一个权衡参数，在派生的增益函数，允许智能手机用户自定义他们的听力偏好，通过控制噪声抑制和语音失真的量在实时的基础上，他们在嘈杂的现实世界的声学环境中感知的听觉舒适度。客观的质量和可懂度的措施表明所提出的方法的有效性相比，基准技术在本文中考虑。主观结果反映了有用的开发语音增强应用在现实世界中的噪声条件下的信号噪声比水平为0 dB和5 dB。
2018-12-10 cs.SD eess.AS
The PCG-AIID System for L3DAS22 Challenge: MIMO and MISO convolutional recurrent Network for Multi Channel Speech Enhancement and Speech Recognition
Tencent PCG（腾讯平台与内容事业群）
本文介绍了PCG-AIID系统在L3 DAS 22挑战任务1：办公室混响环境下的三维语音增强中的应用。我们提出了一个两阶段的框架来解决多通道语音去噪和去混响。在第一级中，多输入多输出（MIMO）网络被应用于去除背景噪声，同时保持多通道信号的空间特性。在第二阶段中，多输入和单输出（MISO）网络被应用于从期望的方向和后滤波来增强语音。因此，我们的系统在ICASSP 2022 L3 DAS 22挑战中排名第三，并显著优于基线系统，同时在盲测集上实现了3.2%的WER和0.972的STOI。
2022-02-21 cs.SD eess.AS
Exploring Tradeoffs in Models for Low-latency Speech Enhancement
Google Research（谷歌研究院）；Google Chrome Audio（谷歌Chrome音频团队）
我们探讨了各种神经网络配置的单通道和双通道频谱掩模为基础的语音增强。我们的最佳模型在CHiME2语音增强任务上的先前最先进的性能上提高了0.4分贝的信号失真比（SDR）。我们研究权衡，如非因果前瞻，计算和参数计数与增强性能，发现零前瞻模型可以实现，平均而言，在0.03 dB SDR的最佳双向模型。此外，我们发现，200毫秒的前瞻性足以实现与我们最好的双向模型相当的性能。
2018-11-16 cs.SD eess.AS
Improving Speech Enhancement via Event-based Query
Microsoft Research Asia（微软亚洲研究院）
现有的基于深度学习的语音增强（SE）方法要么使用盲端到端训练，要么将说话者嵌入或语音信息显式纳入SE网络以增强语音质量。在本文中，我们认为语音和噪声作为不同类型的声音事件，并提出了一个基于事件的查询方法SE。具体地，可以区分语音与噪声的代表性语音嵌入首先用声音事件检测（SED）任务进行预训练。然后将嵌入聚类到固定的黄金语音查询中，以帮助SE网络从嘈杂的音频中增强语音。黄金语音查询可以离线获得，并可推广到不同的SE数据集和网络。因此，引入了很少的额外复杂性，并且不需要每个发言者的登记。实验结果表明，该方法产生显着的收益相比，基线和黄金查询很好地推广到不同的数据集。
2023-02-24 cs.SD eess.AS
Speech Enhancement Using Multi-Stage Self-Attentive Temporal Convolutional Networks
Clemson University（克莱姆森大学）；Nokia Bell Labs（诺基亚贝尔实验室）
多阶段学习是一种顺序调用多个深度学习模块的有效技术。本文通过使用多级结构将多级学习应用于语音增强，其中每一级包括自注意（SA）块，随后是具有加倍膨胀因子的时间卷积网络（TCN）块的堆叠。每个阶段生成一个预测，该预测在后续阶段中被细化。融合块被插入在后面的级的输入处以重新注入原始信息。将所得到的多阶段语音增强系统（简而言之，多阶段SA-TCN）与使用LibriSpeech和VCTK数据集的最先进的深度学习语音增强方法进行比较。对多级SA-TCN系统的超参数进行微调，确定SA块、融合块和级数的影响。使用多级SA-TCN系统作为前端的自动语音识别系统进行了研究。结果表明，多级SA-TCN系统表现良好，相对于其他国家的最先进的系统方面的语音增强和语音识别分数。
2021-02-24 cs.SD eess.AS
AMRConvNet: AMR-Coded Speech Enhancement Using Convolutional Neural Networks
Samsung R&D Institute Philippines（三星菲律宾研发研究所）；University of the Philippines（菲律宾大学）
使用语音编码将语音转换为数字信号以进行有效传输。然而，这通常会降低语音的质量和带宽。本文探讨了卷积神经网络在人工带宽扩展（ABE）和语音增强中的应用，特别是在2G蜂窝电话呼叫中使用的自适应多速率（AMR）。在本文中，我们介绍了AMRConvNet：一个卷积神经网络，对AMR编码的语音进行ABE和语音增强。该模型直接对输入和输出语音的时域进行操作，但使用组合的时域重建损失和频域感知损失进行优化。AMRConvNet导致AMR比特率为4.75k的平均意见分数-收听质量目标（MOS-LQO）平均提高了0.425分，AMR比特率为12.2k的MOS-LQO平均提高了0.073分。AMRConvNet在AMR比特率输入中也表现出了鲁棒性。最后，消融测试表明，我们的组合时域和频域损失导致比单独使用任一损失略高的MOS-LQO和更快的训练收敛。
2020-08-24 cs.SD eess.AS
Amplifying Artifacts with Speech Enhancement in Voice Anti-spoofing
Department of Computer Engineering, Faculty of Engineering（计算机工程系，工程学院）；University of Southern California（南加州大学）
本研究针对语音反欺骗中伪造痕迹隐蔽的问题，提出含加噪、提取、放大三步的模型无关流程，利用语音增强放大伪造痕迹，兼容多种模型，在ASVspoof2019和2021基准上显著提升检测性能。
2025-06-13 cs.SD eess.AS
Improving Frame-Online Neural Speech Enhancement with Overlapped-Frame Prediction
Carnegie Mellon University（卡内基梅隆大学）
在短时傅立叶变换（STFT）域中的帧在线语音增强系统通常具有等于窗口大小的算法延迟，这是由于在逆STFT（iSTFT）中使用双加。这种算法延迟允许增强模型利用未来的上下文信息，长度最多等于窗口大小。然而，这一信息仅部分地被当前的框架在线系统利用。为了充分利用它，我们提出了一种用于基于深度学习的帧在线语音增强的重叠帧预测技术，在每一帧中，我们的深度神经网络（DNN）预测当前和几个过去的帧，而不是只预测当前帧。此外，我们提出了一个损失函数，占预测和预言的目标信号之间的规模差异。对含噪混响语音增强的实验表明了该算法的有效性。
2022-06-16 cs.SD eess.AS
Harmonic enhancement using learnable comb filter for light-weight full-band speech enhancement model
Nanjing University（南京大学）；ByteDance（字节跳动）；Horizon Robotics（地平线机器人）
针对轻量级全频带语音增强中传统梳状滤波器依赖基频估计、易损伤语音质量的问题，本文提出端到端训练的可学习梳状滤波器及DNN基频估计器，实验显示其优于PercepNet和DeepFilterNet。
2023-06-01 cs.SD eess.AS
Exploring the Best Loss Function for DNN-Based Low-latency Speech Enhancement with Temporal Convolutional Networks
Carnegie Mellon University（卡内基梅隆大学）；Sony Corporation（索尼公司）；Sony Europe B.V.（索尼欧洲有限公司）
近年来，深度神经网络（DNN）已成功用于语音增强，基于DNN的语音增强正成为一个有吸引力的研究领域。虽然基于短时傅里叶变换（STFT）的时频掩蔽在过去几年中已经广泛用于基于DNN的语音增强，但是也已经提出了诸如时域音频分离网络（TasNet）的时域方法。最合适的方法取决于数据集的规模和任务的类型。在本文中，我们探讨了最佳的语音增强算法在两个不同的数据集。我们提出了一个基于STFT的方法和损失函数，使用问题不可知的语音编码器（PASE）功能，以提高主观质量的较小的数据集。我们提出的方法在Voice Bank + DEMAND数据集上是有效的，并且与其他最先进的方法相比毫不逊色。我们还实现了一个低延迟版本的TasNet，我们将其提交给了DNS Challenge，并通过开源将其公开。我们的模型在DNS Challenge数据集上实现了出色的性能。
2020-08-20 cs.SD eess.AS
Narrow-band Deep Filtering for Multichannel Speech Enhancement
Westlake University（西湖大学）；Inria Grenoble Rhône-Alpes（法国国家信息与自动化研究所格勒诺布尔-罗纳-阿尔卑斯分部）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
在本文中，我们解决的问题，多通道语音增强的短时傅立叶变换（STFT）域。长短时间记忆（LSTM）网络将与多通道噪声语音信号的频率仓相关联的STFT系数序列作为输入。网络的输出是相应的单通道净化语音序列。我们提出了几个干净的语音网络的目标，即幅度比掩模，复杂的STFT系数和（平滑）空间滤波器。所提出的模型的一个突出特点是，具有相同参数的相同LSTM架构在频率区间进行训练。所提出的方法被称为窄带深度滤波。这种选择与传统的宽带语音增强方法形成对比。所提出的深度滤波能够通过利用语音和噪声不同的时间和空间特征来区分语音和噪声：语音是非平稳的和空间相干的，而噪声是相对平稳的，并且在信道之间弱相关。这在精神上与无监督技术类似，例如谱减法和波束成形。我们描述了广泛的实验与混合信号（噪声被添加到干净的语音）和真实的信号（现场录音）。我们凭经验评估所提出的架构变体使用语音增强和语音识别指标，我们比较我们的结果与几个国家的最先进的方法得到的结果。根据这些实验，我们得出结论，窄带深度滤波具有非常好的语音增强和语音识别性能，以及在说话人可变性和噪声类型方面的出色泛化能力。
2020-09-23 cs.SD eess.AS
Leveraging Mamba with Full-Face Vision for Audio-Visual Speech Enhancement
Academia Sinica（台湾“中央研究院）
针对现有基于Mamba的语音增强模型难以应对多说话人复杂场景的问题，提出融合全脸视觉时空信息与Mamba时序骨干的音视频增强模型AVSEMamba，在AVSEC-4挑战赛单声道赛道取得榜首，多项指标优于基线。
2025-09-30 cs.SD eess.AS
Evaluating Multichannel Speech Enhancement Algorithms at the Phoneme Scale Across Genders
Université de Lorraine, CNRS, Inria, LORIA（卢瓦尔大学、法国国家科学研究中心、法国国家信息与自动化研究所、LORIA研究所）
本文在音素尺度上评估多通道语音增强算法，发现性别差异在语句级微小但在音素级显著，算法对女性语音（尤其塞音、擦音、元音）干扰抑制更好且伪影更少。
2025-06-23 cs.SD eess.AS
Personalized speech enhancement combining band-split RNN and speaker attentive module
Nanjing University（南京大学）；ByteDance（字节跳动）；Horizon Robotics（地平线机器人）
在语音增强（SE）模型中可以利用目标说话人信息来更有效地提取期望的语音。以往的工作是通过级联或仿射变换将说话人嵌入引入到语音增强模型中。在本文中，我们提出了一个扬声器注意模块计算的注意力分数之间的扬声器嵌入和中间功能，这是用来重新缩放的功能。通过将该模块合并到最先进的SE模型中，我们构建了ICASSP信号处理大挑战：DNS挑战5（2023）的个性化SE模型。我们的系统在track1的盲测试集上获得了0.529的最终分数，在track2上获得了0.549的最终分数。
2023-03-16 cs.SD eess.AS
The CHiME-7 UDASE task: Unsupervised domain adaptation for conversational speech enhancement
Google（谷歌）
本文介绍了第7届CHiME挑战赛的UDASE任务，旨在利用CHiME-5数据集的真实含噪录音对语音增强模型进行无监督领域自适应，以去除加性背景噪声并估计纯净混响语音。
2023-10-02 cs.SD eess.AS
Self-attending RNN for Speech Enhancement to Improve Cross-corpus Generalization
The Ohio State University（俄亥俄州立大学）
深度神经网络（DNN）代表了监督语音增强的主流方法，这主要是因为它们能够使用分层表示对复杂函数进行建模。然而，最近的一项研究表明，在单个语料库上训练的DNN无法推广到未经训练的语料库，特别是在低信噪比（SNR）条件下。开发一种与噪声、说话人和语料库无关的语音增强算法对于实际应用是必不可少的。在这项研究中，我们提出了一个自关注递归神经网络，或关注递归网络（ARN），时域语音增强，以提高跨语料库的泛化。ARN由递归神经网络（RNN）组成，并增加了自注意块和前馈块。我们评估ARN在不同的语料库与非平稳噪声在低信噪比条件下。实验结果表明，ARN大大优于竞争的时域语音增强方法，如RNN和双路径ARN。此外，我们还报告了一个重要的发现，即两种流行的语音增强方法：复谱映射和时域增强，在大规模训练的情况下，RNN和ARN获得了类似的结果。我们还提供了一个具有挑战性的子集的测试集在这项研究中使用的评估未来的算法，并促进直接比较。
2022-03-18 cs.SD eess.AS
DNN Based Speech Enhancement for Unseen Noises Using Monte Carlo Dropout
Indian Institute of Science（印度科学学院）
在这项工作中，我们提出使用辍学作为贝叶斯估计器，以提高深度神经网络（DNN）的泛化能力，用于语音增强。通过使用蒙特卡罗（MC）丢弃，我们表明DNN在不可见噪声和SNR条件下具有更好的增强效果。DNN在SNR为0，5和10 dB的Factory 2，M109，Babble，Leopard和Volvo噪声中进行语音训练，并在白色，粉红色和factory 1噪声中进行语音测试。语音样本来自TIMIT数据库，噪声来自NOISEX-92。在另一个实验中，我们训练五个DNN模型，分别对Factory 2，M109，Babble，Leopard和Volvo噪声，在0，5和10 dB SNR下的语音进行破坏。模型精度（使用MC dropout估计）用作平方误差的代理，以根据DNN模型在每帧测试数据上的性能动态选择最佳DNN模型。
2018-06-01 cs.SD eess.AS
Using RLHF to align speech enhancement approaches to mean-opinion quality scores
Ohio State University（俄亥俄州立大学）；Ohio Supercomputer Center（俄亥俄超级计算机中心）
本文提出用RLHF框架结合MOS奖励模型微调语音增强模型，在Voicebank+DEMAND上取得最佳主客观质量，并验证策略梯度与MSE损失缺一不可。
2024-10-17 cs.SD eess.AS
Enhancement of Noisy Speech with Low Speech Distortion Based on Probabilistic Geometric Spectral Subtraction
Texas A M University（德州农工大学）；Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）；Concordia University（康考迪亚大学）
提出了一种基于概率几何谱减法（PGA）的短时幅度谱语音增强方法。该方法在增益函数中引入噪声估计的置信度参数，避免了噪声估计的高估和低估，既有效地去除了噪声，又防止了语音失真。然后，在合成增强帧之前，将噪声补偿幅度谱与未改变的相位谱重新组合以产生修改的复谱。广泛的模拟进行使用的语音文件在NOIZEUS数据库中，以评估所提出的方法的性能。
2018-02-13 cs.SD eess.AS
Phonetic Feedback for Speech Enhancement With and Without Parallel Speech Data
The Ohio State University（俄亥俄州立大学）
虽然深度学习系统在语音增强研究中取得了显著进展，但这些系统尚未充分利用深度学习系统的潜力来提供高级反馈。特别是，语音反馈是罕见的语音增强的研究，即使它包括有价值的自上而下的信息。我们使用模仿损失的技术来提供语音反馈到现成的增强系统，并在CHiME-4数据上找到客观可懂度分数的增益。该技术采用在干净语音上训练的冻结声学模型来向增强模型提供有价值的反馈，即使在没有并行语音数据可用的情况下。我们的工作是第一个显示可理解性改善的神经增强系统没有并行语音数据，我们表明语音反馈可以提高一个国家的最先进的神经增强系统训练的并行语音数据。
2020-03-03 cs.CL cs.SD eess.AS
Dual-Stage Low-Complexity Reconfigurable Speech Enhancement
Facebook Reality Labs（Facebook现实实验室）
本文提出了一种双级、低复杂度、可重构的语音增强方法。在输入数据和音频内容的驱动下，所提出的两阶段语音增强方法分别在第一阶段和第二阶段执行粗处理和细处理。在本文中，我们证明了所提出的语音增强解决方案显着提高了3倍电信语音质量评估（3QUEST）的语音平均意见分数（SMOS）和噪声MOS（NMOS）的近场和远场应用的指标。此外，所提出的语音增强方法大大提高了信噪比（SNR）和主观听觉体验。相比之下，传统的语音增强方法虽然增加了NMOS和SNR，但降低了SMOS。此外，所提出的语音增强方案可以很容易地应用于语音通信和会议系统以及语音触发应用的捕获路径和语音渲染路径中。
2021-05-17 cs.SD eess.AS eess.SP
VSEGAN: Visual Speech Enhancement Generative Adversarial Network
vivo AI Lab（vivo人工智能实验室）；Trinity College Dublin（都柏林大学三一学院）
语音增强是提高噪声环境下语音质量的一项重要任务。由于语音的视觉方面基本上不受声学环境的影响，因此几种现有技术的方法已经引入了用于语音增强的视觉信息。本文提出了一种新的框架，涉及语音增强的视觉信息，通过结合生成对抗网络（GAN）。具体地说，提出的视觉语音增强GAN由两个以对抗方式训练的网络组成：i）一个采用多层特征融合卷积网络增强输入含噪语音的生成器，ii）一个采用最小化纯净语音信号和增强语音信号分布之间差异的改进器。实验结果表明，该模型的性能优于几个国家的最先进的
2022-04-20 cs.SD eess.AS eess.IV
