在过去的几年里,语音识别取得了巨大的进步。曾经被认为是极其困难的任务,如黑板,现在接近人类的表现水平。MALACH语料库(LDC目录LDC 2012 S 05)是由Shoah视觉历史基金会幸存者收集的大屠杀证词大型档案的375小时子集,对语音社区提出了重大挑战。该集合由不受约束的自然语音组成,其中充满了不流利、重口音、与年龄相关的协同发音、未提示的说话者和语言切换以及情感语音--所有这些对于语音识别系统来说仍然是悬而未决的问题。即使对于熟练的人类注释者来说,转录也是一个挑战。本文提出了社区的地方集中在MALACH语料库开发语音识别系统,更强大的口音,不流利和情绪化的讲话。为了降低进入门槛,我们创建了一个词典、培训和测试设置,并展示了使用当前深度学习技术的基线结果。元数据刚刚由LDC发布(LDC 2019 S11)。希望这一资源将使社区能够在这些基线的基础上建立起来,以便更广泛的受众能够获得这些和相关口述历史中极其重要的信息。
英文摘要:
There has been huge progress in speech recognition over the last several years. Tasks once thought extremely difficult, such as SWITCHBOARD, now approach levels of human performance. The MALACH corpus (LDC catalog LDC2012S05), a 375-Hour subset of a large archive of Holocaust testimonies collected by the Survivors of the Shoah Visual History Foundation, presents significant challenges to the speech community. The collection consists of unconstrained, natural speech filled with disfluencies, heavy accents, age-related coarticulations, un-cued speaker and language switching, and emotional speech - all still open problems for speech recognition systems. Transcription is challenging even for skilled human annotators. This paper proposes that the community place focus on the MALACH corpus to develop speech recognition systems that are more robust with respect to accents, disfluencies and emotional speech. To reduce the barrier for entry, a lexicon and training and testing setups have been created and baseline results using current deep learning technologies are presented. The metadata has just been released by LDC (LDC2019S11). It is hoped that this resource will enable the community to build on top of these baselines so that the extremely important information in these and related oral histories becomes accessible to a wider audience.
Prosodic features improve sentence segmentation and parsing
University of Edinburgh(爱丁堡大学)
解析口语对话提出了解析文本所没有的挑战,包括缺乏清晰的句子边界。我们从以前的工作中知道,韵律有助于解析单个句子(Tran et al. 2018),但我们想展示韵律对解析未分割成句子的语音的影响。在英语Switchboard语料库上的实验中,我们发现韵律有助于我们的模型进行解析和准确识别句子边界。然而,我们发现,性能最好的解析器不一定是产生最好的句子分割性能的解析器。我们建议,最好的解析,而不是来自建模句子边界与其他成分的边界。
Unsupervised Speech Recognition via Segmental Empirical Output Distribution Matching
Carnegie Mellon University(卡内基梅隆大学);Tencent AI Lab(腾讯人工智能实验室)
我们考虑的问题,训练语音识别系统,而不使用任何标记的数据,假设学习者只能访问输入的话语和音素的语言模型估计从一个非重叠的语料库。我们提出了一种完全无监督的学习算法,该算法在解决两个子问题之间交替进行:(i)针对给定的音素分割边界集学习音素分类器,以及(ii)基于给定的分类器细化音素边界。为了解决第一个子问题,我们引入了一种新的无监督代价函数,称为分段经验输出分布匹配,其概括了(Liu et al.,2017年),为集团公司。对于第二子问题,我们开发了一种近似MAP方法来细化Wang et al.(2017)获得的边界。TIMIT数据集上的实验结果表明,这种完全无监督的音素识别系统是成功的,它实现了41.6%的音素错误率(PER)。虽然与现有的有监督系统相比仍有较大差距,但通过引入oracle边界和匹配语言模型,可以将PER提高到32.5%,接近于相同模型结构的有监督系统,显示了该方法的巨大潜力.
解析口语对话带来了独特的困难,包括不流利和类似于广告的单元之间的无标记边界。以前的工作已经表明,韵律可以帮助解析不流利的语音(Tran et al. 2018),但假设解析器的输入已经被分割成类似韵律的单元(SU),这在现有的语音应用中是不正确的。我们研究韵律如何影响一个分析器,接收整个对话轮作为输入(一个回合为基础的模型),而不是黄金标准的预分割SU(一个SU为基础的模型)。在英语Switchboard语料库上的实验中,我们发现,当单独使用成绩单,话轮为基础的模型有麻烦分割SU,导致更差的分析性能比SU为基础的模型。然而,韵律可以有效地取代黄金标准SU边界:韵律,回合为基础的模型表现以及SU为基础的模型(90.79与90.65 F1得分,分别),尽管执行两个任务(SU分割和解析),而不是一个(解析单独)。分析表明,音高和强度特征对于该语料库是最重要的,因为它们允许模型正确区分SU边界和语音不流利-这是模型在其他方面难以做到的区别。
Towards Unsupervised Speech Recognition Without Pronunciation Models
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Massachusetts Institute of Technology (MIT)(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
本文提出词级无监督 ASR 方向,通过联合语音与文本掩码 token 填充去除发音词典依赖,迭代优化分词并取得 20%–23% WER。
Phone-purity Guided Discrete Tokens for Dysarthric Speech Recognition
The Chinese University of Hong Kong(香港中文大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);National Research Council of Canada(加拿大国家研究委员会)
Hierarchical Representation of Prosody for Statistical Speech Synthesis
Institute of Behavioural Sciences, University of Helsinki(赫尔辛基大学行为科学研究所);Aalto University(阿尔托大学);University of Alberta(阿尔伯塔大学);Institute for Reconstructive Sciences in Medicine (iRSM), Misericordia Hospital(misericordia 医院医学重建科学研究所(iRSM))
S-JEPA : Soft Clustering Anchors for Self-Supervised Speech Representation Learning
Carnegie Mellon University(卡内基梅隆大学);New York University(纽约大学);James Silberrad Brown Center for AI(詹姆斯·西尔伯拉德·布朗人工智能中心);Columbia University(哥伦比亚大学);Northeastern University(东北大学);Stanford University(斯坦福大学);Amazon GenAI(亚马逊生成式人工智能)
C-VARC: A Large-Scale Chinese Value Rule Corpus for Value Alignment of Large Language Models
BrainCog Lab, Institute of Automation, Chinese Academy of Sciences, Beijing, China(中国科学院自动化研究所脑认知实验室,北京,中国);Beijing Key Laboratory of Safe AI and Superalignment, Beijing, China(北京安全人工智能与超对齐关键实验室,北京,中国);Beijing Institute of AI Safety and Governance, Beijing, China(北京人工智能安全与治理研究所,北京,中国);The School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, China(中国科学院大学人工智能学院,北京,中国);Long-term AI, Beijing, China(长期人工智能,北京,中国)