首页/论文/2104.05055

arXiv 2104.050552021-04cs.CLcs.SDeess.AS

NeMo逆向文本规范化：从开发到生产

NeMo Inverse Text Normalization: From Development To Production

NVIDIA（英伟达）；Google（谷歌）；The Graduate Center, City University of New York（纽约市立大学研究生中心）

Yang Zhang, Evelina Bakhturina, Kyle Gorman, Boris Ginsburg

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

反向文本规范化（ITN）将口语域自动语音识别（ASR）输出转换为书面域文本，以提高ASR输出的可读性。许多国家的最先进的ITN系统使用手写加权有限状态传感器（WFST）的语法，因为这项任务具有极低的容忍度不可恢复的错误。我们为ITN引入了一个基于开源Python WFST的库，它可以实现从开发到生产的无缝路径。我们描述了ITN语法规则的英语规范，但该库可以适用于其他语言。它也可以用于书面到口语的文本规范化。我们使用Google Text标准化数据集的修改版本来评估NeMo ITN库。

英文摘要：

Inverse text normalization (ITN) converts spoken-domain automatic speech recognition (ASR) output into written-domain text to improve the readability of the ASR output. Many state-of-the-art ITN systems use hand-written weighted finite-state transducer(WFST) grammars since this task has extremely low tolerance to unrecoverable errors. We introduce an open-source Python WFST-based library for ITN which enables a seamless path from development to production. We describe the specification of ITN grammar rules for English, but the library can be adapted for other languages. It can also be used for written-to-spoken text normalization. We evaluate the NeMo ITN library using a modified version of the Google Text normalization dataset.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

从多语言流式自动语音识别主干到肯尼亚语言系统：以数据为中心的Nemotron 3.5对基库尤语、多洛语和卡伦金语的适配

From a Multilingual Streaming ASR Backbone to Kenyan-Language Systems: Data-Centric Adaptation of Nemotron 3.5 for Kikuyu, Dholuo, and Kalenjin

C-elo Labs（C-elo实验室）

该研究针对非洲语言自动语音识别的问题，将NVIDIA Nemotron 3.5 ASR Streaming 0.6B适配到基库尤语、多洛语和卡伦金语，介绍了全参数微调等方法及语料库审核等流程，给出了各语言模型的实验结果及负面发现，为多语言模型适配特定语言系统提供了可审核记录。

2026-07-22cs.CL

用于逆文本规范化的动态上下文感知流式预训练语言模型

Dynamic Context-Aware Streaming Pretrained Language Model For Inverse Text Normalization

AIVietnam University of Science（AIVietnam 科学大学）；Ho Chi Minh City, Vietnam（胡志明市，越南）；Vietnam National University（越南国家大学）

本文提出一种用于逆文本规范化的流式预训练语言模型，通过在训练和推理中引入动态上下文感知机制以自适应调整块大小并整合右上下文信息，在越南语数据集上以低延迟实现了与非流式模型相当的准确率。

2025-05-30cs.CLcs.SDeess.AS

使用数据增强改进数据驱动的反向文本规范化

Improving Data Driven Inverse Text Normalization using Data Augmentation

University of California Merced（加州大学默塞德分校）；Meta Inc.（Meta公司）

反向文本规范化（ITN）用于将自动语音识别（ASR）系统的口语形式输出转换为书面形式。传统的手工ITN规则可能很复杂，难以转录和维护。同时，神经建模方法需要在与ASR系统相同或相似的域中的高质量的大规模讲写对示例（域内数据）来进行训练。这两种方法都需要昂贵且复杂的注释。在本文中，我们提出了一个数据增强技术，有效地产生丰富的口语，书面数字对从域外的文本数据与最少的人的注释。我们的经验表明，使用我们的数据增强技术训练的ITN模型在所有数字表面（如基数，货币和分数）上始终优于仅使用域内数据训练的ITN模型，总体准确率为14.44%。

2022-07-20cs.CLcs.LGcs.SD

神经逆向文本规范化

Neural Inverse Text Normalization

Amazon AWS AI（亚马逊AWS人工智能部门）

虽然已经有几个贡献，探索最先进的技术，文本规范化，逆文本规范化（ITN）的问题仍然相对未开发。最著名的方法利用基于有限状态转换器（FST）的模型，其依赖于手动策划的规则，因此不可扩展。我们提出了一个有效的和强大的神经解决方案ITN利用基于Transformer的seq2seq模型和基于FST的文本规范化技术的数据准备。我们表明，这可以很容易地扩展到其他语言，而不需要语言专家手动策划他们。然后，我们提出了一个混合框架，用于将神经ITN与FST集成，以克服生产环境中常见的可恢复错误。我们的经验评估表明，所提出的解决方案最大限度地减少了不正确的扰动（插入，删除和替换）ASR输出，并保持高质量，即使在域外的数据。基于Transformer的模型注入预训练，在多个数据集上始终实现较低的WER，并且能够在英语，西班牙语，德语和意大利语数据集上优于基线。

2021-02-12cs.CLeess.AS

NEMO：从PubMed从属关系字符串中提取组织名称并进行规范化

NEMO: Extraction and normalization of organization names from PubMed affiliation strings

Lnx Research LLC（Lnx研究有限责任公司）

我们提出NEMO，一个系统提取的隶属关系中的组织名称和规范化的组织名称。我们的解析过程涉及到多个字典的多层规则匹配。该系统在提取组织名称时达到了98%以上的f-分数。我们的标准化过程涉及基于局部序列比对度量的聚类和基于查找连接组件的局部学习。在归一化中也观察到高精度。NEMO是将每篇生物医学论文及其作者与组织名称（以其规范形式）和组织的地缘政治位置关联起来的缺失环节。这项研究可能有助于分析大型社交网络的组织美化一个特定的主题，提高性能的作者消歧，在作者的合著者网络中添加薄弱环节，增强NLM的MARS系统，以纠正OCR输出的隶属关系字段中的错误，并自动索引PubMed引文与规范化的组织名称和国家。我们的系统是作为一个图形用户界面，可与本文一起下载。

2011-07-28cs.CL

THA：面向高棉语的加权有限状态文本规范化和逆文本规范化

THA: Weighted Finite-State Text Normalization and Inverse Text Normalization for Khmer

Digital Government Committee（数字政府委员会）

针对高棉语缺乏开源文本规范化工具的问题，提出基于加权有限状态转换器的Tha工具包，实现整行分词分类与音节边界约束，在谷歌测试集上取得高准确率并开源。

2026-09-28cs.CL

更多相关论文收起更多论文

双形式自动语音识别（DF-ASR）：面向中文语音识别的语义感知逆文本规范化

Dual-Form ASR: Semantics-Aware Inverse Text Normalization for Chinese Speech Recognition

本文提出DF-ASR框架，通过LLM驱动的双形式监督及ITN-MWER目标，实现语义感知的中文ASR-ITN，在SpeechIO中文子集上性能优于开源系统，可保留转录形式的提示级控制。

2026-09-04cs.CLcs.SD

Thutmose Tagger：用于反向文本规范化的单通道神经模型

Thutmose Tagger: Single-pass neural model for Inverse Text Normalization

NVIDIA（英伟达）

反向文本规范化（ITN）是自动语音识别（ASR）中必不可少的后处理步骤。它将数字、日期、缩写和其他符号类从ASR生成的口语形式转换为它们的书面形式。人们可以将ITN视为一个机器翻译任务，并使用神经序列到序列模型来解决它。不幸的是，这种神经模型容易产生幻觉，可能导致不可接受的错误。为了缓解这个问题，我们提出了一个单通道令牌分类器模型，将ITN作为一个标记任务。该模型为每个输入标记分配一个替换片段，或者将其标记为删除或复制而不进行更改。我们提出了一种基于ITN实例粒度对齐的数据集准备方法。所提出的模型是不太容易产生幻觉的错误。该模型在Google Text Normalization数据集上进行训练，并在英语和俄语测试集上达到最先进的句子准确度。标签和输入单词之间的一一对应提高了模型预测的可解释性，简化了调试，并允许后处理校正。该模型比序列到序列模型更简单，更容易在生产环境中优化。模型和准备数据集的代码作为NeMo项目的一部分发布。

2022-07-29cs.AIcs.CL

indic-punct：一个用于印度语的自动标点恢复和反向文本规范化框架

indic-punct: An automatic punctuation restoration and inverse text normalization framework for Indic languages

Thoughtworks（思特沃克）；Ekstep Foundation（Ekstep基金会）

自动语音识别（ASR）生成的文本大多数时候没有任何标点符号。缺少标点符号会影响文本的可读性。此外，诸如情感分析、机器翻译之类的下游NLP任务通过具有标点符号和句子边界信息而大大受益。我们提出了一种使用预训练IndicBERT模型的文本自动标点方法。逆文本规范化是通过手写加权有限状态转换器（WFST）语法来完成的。我们已经为11种印度语言开发了这个工具，即印地语，泰米尔语，泰卢固语，卡纳达语，古吉拉特语，马拉地语，奥迪亚语，孟加拉语，阿萨姆语，马拉雅拉姆语和旁遮普语。所有代码和数据都是公开的。可用

2022-03-31cs.CL

面向语音识别的多空白 Transducer

Multi-blank Transducers for Speech Recognition

NVIDIA（英伟达）；Carnegie Mellon University（卡内基梅隆大学）

针对标准RNN-T语音识别推理速度受限的问题，本文提出多空白RNN-T方法，引入消耗多帧的大空白符号并搭配logit欠归一化训练策略，在英德多数据集上实现推理超90%/139%相对加速且提升识别准确率，代码将在NeMo工具包开源。

2024-04-11cs.LGcs.SDeess.AS

四位一体：一种用于自动语音识别的反向文本规范化、标点、大写和不流利的联合方法

Four-in-One: A Joint Approach to Inverse Text Normalization, Punctuation, Capitalization, and Disfluency for Automatic Speech Recognition

Microsoft Corporation（微软公司）

实体的标点、大写和格式等特征对于可读性、理解和自然语言处理任务都很重要。然而，自动语音识别（ASR）系统产生没有格式化的口语形式的文本，并且用于格式化的标记方法一次仅处理一个或两个特征。在本文中，我们统一口语到书面语的文本转换通过两个阶段的过程：首先，我们使用一个单一的Transformer标记模型，共同产生令牌级的标签，反向文本规范化（ITN），标点符号，大写，和不流利。然后，我们应用标签来生成书面形式的文本，并使用加权有限状态转换器（WFST）语法来格式化标记的ITN实体跨度。尽管将四个模型合并为一个，但我们的统一标记方法在多个领域的基准测试集上匹配或优于所有四个任务的特定任务模型。

2022-10-26cs.CL

与语言无关的数据驱动反向文本规范化

Language Agnostic Data-Driven Inverse Text Normalization

Meta Platforms, Inc.（Meta平台公司）

随着自动语音识别（ASR）模型的出现，迫切需要将口语形式的文本（从ASR）转换为书面形式。这种逆文本规范化（ITN）问题吸引了来自各个领域的研究人员的关注。最近，一些工作表明，数据驱动的ITN方法可以输出高质量的书面形式的文本。由于标注的口语-书面语数据集的稀缺性，对非英语数据驱动的ITN的研究非常有限。在这项工作中，我们提出了一个语言无关的数据驱动的ITN框架，以填补这一空白。具体来说，我们将数据增强与神经机器翻译的数据结合起来用于低资源语言。此外，我们设计了一个评估方法，语言无关的ITN模型时，只有英文数据。我们的实证评估表明，这种语言无关的建模方法是有效的低资源的语言，同时保持高资源的语言的性能。

2023-01-24cs.CLcs.LG

基于预训练文本到文本语言模型与读-标记-写策略的高效同步逆文本规范化研究

Towards Efficient Simultaneous Inverse Text Normalization with Pretrained Text-to-Text Language Model and Read-Tag-Write Policy

UNEY

该研究针对流式逆文本规范化的非流式问题，提出适配预训练文本到文本模型的流式端到端系统，经越南语数据集验证，其准确率优于混合方法且满足实时延迟要求。

2026-10-15cs.CL

用于自动语音识别的流式、快速和准确的设备上反向文本规范化

Streaming, fast and accurate on-device Inverse Text Normalization for Automatic Speech Recognition

Microsoft Corp.（微软公司）

自动语音识别（ASR）系统通常以词汇形式产生输出。然而，人类更喜欢书面形式的输出。为了弥补这一差距，ASR系统通常采用反向文本规范化（ITN）。在以前的工作中，加权有限状态传感器（WFST）已被用来做ITN。WFST非常适合此任务，但它们的大小和运行时成本可能会使嵌入式应用程序的部署具有挑战性。在本文中，我们描述了一个设备上的ITN系统，是流，轻量级和准确的发展。我们系统的核心是一个流Transformer标记器，它标记来自ASR的词汇标记。标签告知可能应用哪个ITN类别（如果有的话）。在此之后，我们仅在标记的文本上应用ITN类别特定的WFST，以可靠地执行ITN转换。我们表明，建议的ITN解决方案的执行相当于强大的基线，同时在尺寸上显着较小，并保留定制功能。

2022-11-07cs.AIcs.CL

通过局部李群变换实现构音障碍语音归一化以提升鲁棒自动语音识别

Dysarthria Normalization via Local Lie Group Transformations for Robust ASR

Independent Researcher（独立研究者）

本文提出用局部李群变换建模构音障碍语音的时频与幅度失真，通过仅用合成扭曲健康语音训练的神经网络推断并逆转变形，在TORGO上最多降低17个百分点WER且不损害干净语音性能。

2025-05-04cs.CLcs.LGcs.SD

基于统一transformer的双向文本规范化框架

A Unified Transformer-based Framework for Duplex Text Normalization

NVIDIA（英伟达）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）

文本规范化（TN）和逆文本规范化（ITN）分别是文本到语音合成和自动语音识别中必不可少的预处理和后处理步骤。对于TN或ITN，已经提出了许多方法，从加权有限状态传感器到神经网络。尽管它们的性能令人印象深刻，但这些方法的目标是只解决两个任务中的一个，而不是两个。因此，在一个完整的口语对话系统，两个独立的模型TN和ITN需要建立。这种异质性增加了系统的技术复杂性，这反过来又增加了生产环境中的维护成本。出于这一观察，我们提出了一个统一的框架，建立一个单一的神经双工系统，可以同时处理TN和ITN。结合一个简单但有效的数据增强方法，我们的系统实现了最先进的结果对谷歌TN数据集的英语和俄语。他们还可以在内部英语TN数据集上达到95%以上的精确度，而无需任何额外的微调。此外，我们还创建了一个清洁的数据集从口语维基百科语料库德语和报告的性能，我们的系统上的数据集。总体而言，实验结果表明，提出的双重文本规范化框架是非常有效的，适用于一系列领域和语言

2021-08-23cs.CL

开放语音识别排行榜：迈向可重复和透明的多语言和长文本语音识别评估

Open ASR Leaderboard: Towards Reproducible and Transparent Multilingual and Long-Form Speech Recognition Evaluation

Hugging Face, Inc.（Hugging Face公司）；NVIDIA（英伟达）；University of Cambridge（剑桥大学）；Mistral AI（Mistral AI公司）；OpenAI（OpenAI公司）

本文介绍了开放语音识别排行榜，通过学术和工业社区的贡献，比较了86种开源和专有系统在12个数据集上的表现，标准化WER和RTFx评估，促进模型架构和工具包的准确-效率比较。

2026-03-30cs.AIcs.CLcs.SD

用于具有改进的束搜索的延迟控制的ASR的RNN-T

RNN-T For Latency Controlled ASR With Improved Beam Search

Facebook AI（Facebook人工智能实验室）

诸如用于自动语音识别（ASR）的RNN传感器（RNN-T）的基于神经传感器的系统将传统混合ASR系统的各个组件（声学模型、语言模型、标点模型、反向文本规范化）混合成一个单个模型。这大大简化了训练和推理，因此使RNN-T成为ASR系统的理想选择。在这项工作中，我们研究了RNN-T在推理时间期间需要可调延迟预算的应用程序中的使用。我们还提高了原来提出的RNN-T束搜索算法的解码速度。我们在英语视频ASR数据集上评估了我们提出的系统，结果表明，与经过良好调整的混合ASR基线相比，神经RNN-T模型可以实现相当的WER和更好的计算效率。

2020-01-16cs.CLcs.LGeess.AS

通过数据增强、半监督学习与后对齐方法提升神经逆文本正则化的鲁棒性

Improving Robustness of Neural Inverse Text Normalization via Data-Augmentation, Semi-Supervised Learning, and Post-Aligning Method

SK Telecom（SK电信）

本文针对ASR生成口语文本的域外问题，提出结合数据增强、大语言模型辅助的半监督学习及后对齐方法的直接训练策略，显著提升神经逆文本正则化在多种ASR场景下的鲁棒性。

2023-09-12cs.CL