Khmer Word Search: Challenges, Solutions, and Semantic-Aware Search
Techo Startup Center（特乔创业中心）
搜索是电子词典、搜索引擎、电子商务平台等数字平台和应用的关键功能之一。虽然某些语言的搜索功能微不足道，但高棉语的单词搜索由于其复杂的书写系统而具有挑战性。字符的多重顺序和单词的不同拼写实现对高棉语单词搜索功能造成了限制。此外，拼写错误是常见的，因为健壮的拼写检查器在输入设备平台上通常不可用。这些挑战阻碍了高棉语在搜索嵌入式应用程序中的使用。此外，由于缺乏类似WordNet的高棉语词汇数据库，不可能在单词之间建立语义关系，从而无法进行语义搜索。在本文中，我们提出了一套强大的解决方案，以应对上述挑战与高棉词搜索。提出的解决方案包括字符顺序规范化，字形和音素为基础的拼写检查，高棉语单词语义模型。语义模型基于词嵌入模型，该模型在3000万词的语料库上训练，用于捕获词之间的语义相似性。
2021-12-16 cs.CL
Correcting the Autocorrect: Context-Aware Typographical Error Correction via Training Data Augmentation
Rutgers University–New Brunswick（罗格斯大学新不伦瑞克分校）
在本文中，我们探讨了人工生成的印刷错误的基础上，现实世界的统计。我们首先利用一小组注释数据来计算拼写错误统计。然后，这些被调用引入错误到更大的语料库。生成方法使我们能够生成特别具有挑战性的错误，需要上下文感知的错误检测。我们使用它来创建一组英语错误检测和纠正数据集。最后，我们检查机器学习模型的有效性，以检测和纠正错误的基础上，这些数据。数据集可在http://typo.nlproc.org上获得
2020-05-03 cs.CL cs.IR cs.LG
PERCORE: A Deep Learning-Based Framework for Persian Spelling Correction with Phonetic Analysis
提出PERCORE框架，融合深度学习与语音分析，在波斯语拼写纠错中实现真词检测F1=0.890、纠正F1=0.905及非词纠正F1=0.891，显著优于现有方法。
2024-07-20 cs.AI cs.CL
Detection is the central problem in real-word spelling correction
University of Toronto（多伦多大学）
实词拼写纠正在其目标和挑战方面不同于非词拼写纠正。在这里，我们表明，在真正的单词拼写校正的中心问题是检测。来自非单词拼写校正的方法，其集中于在候选校正中的选择，不充分地解决检测，因为检测是预先假定的或严重受限的。正如我们在本文中所展示的那样，仅仅在句子的上下文中区分预期的单词和它的随机紧密变化是一项可以使用简单模型高精度执行的任务。在几乎所有情况下，三元模型都是足够的。当句子中的每个单词都是潜在的错误时，困难就来了，有一大堆可能的候选更正。尽管有其优势，三元模型不能可靠地发现真正的错误，而不引入更多的，至少不是在没有增加结构的情况下以明显的顺序方式使用。检测任务暴露了在选择任务中不可见的弱点。
2014-08-15 cs.CL
Correcting Arabic Soft Spelling Mistakes using BiLSTM-based Machine Learning
The University of Jordan（约旦大学）
软拼写错误是一类在阿拉伯语母语者和外国学习者中普遍存在的拼写错误。有些错误是印刷错误。它们的出现是由于一些阿拉伯字母的拼写变化和决定其正确用法的复杂规则。许多人放弃了这些规则，并且考虑到相同的语音，他们经常混淆这些字母。在本文中，我们提出了一个双向的长短期记忆网络，纠正这类错误。我们开发，训练，评估和比较一组BiLSTM网络。我们在字符级别上处理拼写校正问题。我们处理古典和现代标准阿拉伯语的阿拉伯语文本。我们把这个问题看作是一对一的序列转录问题。由于软阿拉伯语错误类包括省略和添加错误，以保持一对一的序列转录，我们提出了一个简单的低资源，但有效的技术，保持一对一的排序，并避免使用昂贵的编码器-解码器架构。我们训练BiLSTM模型，使用转换输入和随机错误注入方法来纠正拼写错误。我们推荐一种配置，它有两个BiLSTM层，使用dropout正则化，并使用后一种训练方法进行训练，错误注入率为40%。最好的模型纠正了96.4%的注入错误，并在软拼写错误的真实测试集上实现了1.28%的低字符出错率。
2021-08-02 cs.CL cs.LG
Synthetic Error Dataset Generation Mimicking Bengali Writing Pattern
United International University（联合国际大学）
在使用英语键盘书写孟加拉语时，用户经常会犯拼写错误。任何孟加拉语拼写检查器或段落校正模块的准确性在很大程度上取决于它所基于的错误数据集的类型。手动生成此类错误数据集是一个繁琐的过程。在本研究中，我们提出一个演算法，借由分析使用QWERTY英文键盘的孟加拉文书写模式，从正确的孟加拉文单字自动产生拼错的孟加拉文单字。作为我们分析的一部分，我们已经形成了一个列表，最常用的孟加拉语单词，语音相似的可替换集群，经常误压可替换集群，经常误压插入倾向集群和一些规则Juktakkhar（恒定字母集群）处理，同时产生错误。
2020-05-21 cs.CL
Improving the quality of Persian clinical text with a novel spelling correction system
Bushehr University of Medical Sciences（布什尔医科大学）
本文针对波斯语临床文本拼写错误校正难题，提出微调预训练模型并结合基于字符视觉相似性的PERTO算法，在真实词错误校正上取得91.5%的F1分数，显著提升了临床文档质量。
2024-08-07 cs.AI cs.CL
Spelling Error Correction Using a Nested RNN Model and Pseudo Training Data
iFLYTEK Research（科大讯飞研究院）
提出了一种用于英语拼写纠错的嵌套递归神经网络（nested RNN）模型，并基于语音相似度生成伪数据对其进行训练。该模型融合了拼写信息和上下文信息，采用端到端的方式进行训练。这避免了特征工程，并且不像传统方法那样依赖于噪声信道模型。实验表明，该方法在纠正拼写错误方面优于现有系统。
2018-11-01 cs.CL
Unsupervised Context-Sensitive Spelling Correction of English and Dutch Clinical Free-Text with Word and Character N-Gram Embeddings
University of Antwerp（安特卫普大学）
我们提出了一种无监督的上下文敏感的拼写校正方法，临床自由文本，使用词和字符的n-gram嵌入。我们的方法生成拼写错误的替换候选人，并根据他们的语义适合他们的排名，通过计算一个候选人的矢量化表示和拼写错误的上下文之间的加权余弦相似性。为了调整这个模型的参数，我们生成了自我诱导的拼写错误语料库。我们对两种语言进行了实验。对于英语，我们在手动注释的MIMIC-III测试集上的表现大大优于现成的拼写校正工具，并对抗噪声信道模型的频率偏差，表明可以成功地利用神经嵌入来改善最先进的水平。对于荷兰语，我们在安特卫普大学医院的手动注释的临床记录上的表现也优于现成的拼写校正工具，但是不能提供经验证据证明我们的方法也在这种情况下抵消了噪声信道模型的频率偏差。然而，我们的上下文敏感的模型和我们的噪声信道模型的实现获得高分的测试集，建立一个国家的最先进的荷兰临床拼写校正与噪声信道模型。
2017-10-19 cs.CL
Context-sensitive Spelling Correction Using Google Web 1T 5-Gram Information
Lebanese Association for Computational Sciences (LACSC)（黎巴嫩计算科学协会）
在计算机中，拼写检查是检测文本中拼写错误的单词并有时提供拼写建议的过程。基本上，拼写检查器是一种使用单词字典来执行拼写检查的计算机程序。字典越大，错误检测率越高。拼写检查器基于常规词典的事实，它们遭受数据稀疏问题，因为它们不能捕获大量词汇，包括专有名称，特定领域术语，技术术语，特殊首字母缩略词和术语。因此，它们表现出较低的错误检测率，并且经常无法捕获文本中的主要错误。本文提出了一种新的上下文相关的拼写校正方法，用于检测和纠正数字文本文档中的非单词和真实单词错误。该方法基于Google Web 1 T 5-gram数据集的数据统计，该数据集由从万维网中提取的大量n-gram单词序列组成。基本上，所提出的方法包括检测拼写错误的错误检测器、基于字符2-gram模型生成校正建议的候选拼写生成器以及执行上下文错误校正的错误校正器。在一组来自不同领域的文本文档上进行的实验表明，该方法具有出色的拼写错误纠正率，并大大减少了非单词和真实单词错误。在进一步的研究中，所提出的算法是并行化，以降低错误检测和纠正过程的计算成本。
2012-04-26 cs.CL
SinSpell: A Comprehensive Spelling Checker for Sinhala
University of Moratuwa（莫拉图瓦大学）
我们已经建立了SinSpell，这是一个全面的僧伽罗语拼写检查器，有超过1600万人使用，主要在斯里兰卡。然而，直到最近，僧伽罗语还没有覆盖范围可以接受的拼写检查程序。Sinspell仍然是唯一的开源僧伽罗语拼写检查器。SinSpell识别可能的拼写错误并提出更正建议。它还包含一个自动纠正明显错误的模块。为了保持准确性，SinSpell被设计为基于Hunspell的规则系统。从几个来源汇编了一套文字，并加以验证。这些词被分为形态类，每类的有效词根、后缀和前缀都被识别出来，还有不规则词和例外词的列表。对僧伽罗语文件语料库中的错误进行了分析，并确定了常见的拼写错误单词和常见错误类型。我们发现，最常见的错误是在元音长度和相似的发音字母。由于不正确的输入和编码的错误也被发现。这个分析被用来开发建议生成器和自动校正器。
2021-07-07 cs.CL
AraSpell: A Deep Learning Approach for Arabic Spelling Correction
Lebanese American University（黎巴嫩美国大学）
本文提出 AraSpell 框架，利用 RNN 与 Transformer 等 seq2seq 架构及人工错误注入数据进行阿拉伯语拼写纠正，并在10万句测试集上显著降低 WER 与 CER。
2024-05-11 cs.AI cs.CL
Neural OCR Post-Hoc Correction of Historical Corpora
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（莱布尼茨汉诺威大学）；Austrian National Library（奥地利国家图书馆）；Amazon（亚马逊）
光学字符识别（OCR）对于更深入地访问历史收藏至关重要。OCR需要考虑拼写变化、字体或语言演变（即，新字母、单词拼写）作为字符、单词或分词转录错误的主要来源。对于历史印刷品的数字语料库，由于扫描质量低和缺乏语言标准化，错误进一步加剧。对于OCR事后纠正任务，我们提出了一种基于递归（RNN）和深度卷积网络（ConvNet）组合的神经方法来纠正OCR转录错误。在字符级，我们灵活地捕捉错误，并解码的基础上，一种新的注意力机制的正确输出。考虑到输入和输出的相似性，我们提出了一个新的损失函数，奖励模型的纠正行为。在德语历史书籍语料库上的评估表明，我们的模型是强大的，在捕捉各种OCR转录错误和减少单词出错率的32.3%，超过89%。
2021-02-01 cs.CL
Chinese Spelling Correction: A Comprehensive Survey of Progress, Challenges, and Opportunities
University of Science and Technology of China（中国科学技术大学）
本文综述中文拼写纠错从预训练语言模型到 LLM 的发展，分析方法优劣与基准数据集局限，并指出利用 LLM 推理能力提升纠错性能的未来方向。
2025-02-17 cs.AI cs.CL
An Empirical Investigation of Domain Adaptation Ability for Chinese Spelling Check Models
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
该研究构建金融、医疗、法律三个含领域术语的新数据集，评估多种典型中文拼写检查模型及ChatGPT的跨领域适应能力，发现模型在新领域性能显著下降。
2024-01-26 cs.AI cs.CL
Chinese Spelling Error Detection Using a Fusion Lattice LSTM
North China University of Technology（北方工业大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
拼写错误检测在许多自然语言处理应用中起着至关重要的预处理作用。由于汉语的特点，汉语拼写错误检测比英语拼写错误检测更具挑战性。现有的方法主要是在流水线框架下，人为地将错误检测过程分为两个步骤。因此，这些方法带来了错误传播，并且由于语言环境的复杂性而不能总是很好地工作。而且现有的方法只采用字或词信息，而忽略了将字、词、拼音信息融合在一起的积极作用。我们提出了一个LF-LSTM-CRF模型，它是LSTMCRF的扩展，具有词格和字符串融合输入。该模型利用端到端的框架，将错误检测作为一个整体过程，并动态集成字符，单词和字符信息。在SIGHAN数据上的实验表明，我们的LF-LSTM-CRF始终优于具有类似外部资源的现有方法，并证实了采用端到端框架的可行性以及字符，单词和字符信息集成的可用性。
2019-11-25 cs.CL
On Multilingual Training of Neural Dependency Parsers
University of Wrocław（弗罗茨瓦夫大学）
我们表明，最近提出的神经依赖解析器可以通过对来自同一家族的多种语言进行联合训练来改进。解析器被实现为一个深度神经网络，其唯一的输入是单词的正字法表示。为了成功解析，网络必须发现如何从单词拼写中推断出语言相关的概念。我们分析了网络学习的字符和单词的表示，以确定语言的哪些属性被考虑在内。特别是，我们表明，解析器已经大致学会了拉丁字符与西里尔文对应，它可以组波兰语和俄语的话，有一个类似的语法功能。最后，我们评估了从通用数据集的选定语言的解析器，并表明它是有竞争力的其他最近提出的最先进的方法，同时具有简单的结构。
2017-05-29 cs.CL cs.LG cs.NE
Spelling Correction in Agglutinative Languages
本文提出了一种基于两级形态学和动态规划搜索算法的黏着语拼写纠正方法。在黏着语中的拼写纠正与英语等语言有很大的不同。由于派生词缀和屈折词缀的生成性构词，这些语言中的词的概念比字典中的词条要广泛得多。在概述了某些问题和相关的数学问题之后，我们正式提出了问题和我们的解决方案。然后，我们提出的结果，从我们的实验与拼写纠正土耳其语，乌拉尔-阿尔泰语粘滞语言。结果表明，当编辑距离为1时，在95%的情况下，我们可以找到预期的正确词，在74%的情况下，我们可以将其作为第一候选词。
1994-10-07 cmp-lg cs.CL
Context-Sensitive Malicious Spelling Error Correction
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
恶意拼写错误的单词通过改变特定的关键字来工作，旨在阻止现有的网络环境控制自动化应用程序，如互联网上的骚扰内容检测和垃圾邮件检测。在本文中，我们专注于恶意拼写纠正，这需要一种方法，依赖于上下文和目标关键字的表面形式。在两个应用程序的背景下-亵渎检测和垃圾邮件检测-我们表明，恶意拼写错误严重降低其性能。然后，我们提出了一个上下文敏感的恶意拼写校正方法，使用词嵌入，并证明其优越的性能相比，国家的最先进的拼写检查。
2019-01-23 cs.CL
Combining Trigram-based and Feature-based Methods for Context-Sensitive Spelling Correction
本文讨论了纠正拼写错误的问题，导致有效的，但意外的话（如“和平”和“件”，或“安静”和“quite”），也纠正特定的词的使用错误的问题（如“不”和“数”，或“之间”）。这种更正需要上下文信息，并且不能由诸如Unix“spell”之类的常规拼写程序处理。首先，我们介绍一种称为Trigrams的方法，它使用词性三元组来编码上下文。与以前基于单词三元组的方法相比，该方法使用了少量的参数。然而，它实际上无法区分具有相同词性的单词。对于这种情况，一种称为贝叶斯的基于特征的方法表现得更好;但是当单词之间的区别取决于句法约束时，贝叶斯不如三元组有效。然后介绍了一种称为Tribayes的混合方法，它结合了前两种方法中的最佳方法。实验验证了Tribayes的性能改善。Tribayes还与Microsoft Word中的语法检查器进行了比较，并发现其具有更高的性能。
1996-06-03 cmp-lg cs.CL
Spell Once, Summon Anywhere: A Two-Level Open-Vocabulary Language Model
Department of Computer Science, Johns Hopkins University（约翰霍普金斯大学计算机科学系）；Johns Hopkins University（约翰霍普金斯大学）
我们展示了已知单词的拼写如何帮助我们处理开放词汇NLP任务中的未知单词。我们提出的方法可以用于扩展任何封闭词汇生成模型，但在本文中，我们专门考虑神经语言建模的情况。我们的贝叶斯生成故事结合了标准的RNN语言模型（生成每个句子中的单词标记）和基于RNN的拼写模型（生成每个单词类型中的字母）。这两个RNN分别捕获句子结构和单词结构，并且像语言学一样保持分离。通过调用第二个RNN来生成上下文中新单词的拼写，我们获得了一个开放词汇的语言模型。对于已知的单词，通过结合来自类型拼写和标记上下文的证据自然地推断出嵌入。与基线（包括一个新的强基线）相比，我们击败了以前的工作，并在多个数据集上建立了最先进的结果。
2020-02-25 cs.CL
Towards a single proposal is spelling correction
本文提出的研究依赖于不同类型的知识的综合使用，以提高非词上下文敏感校正的一般非限制性文本的第一猜测的准确性。现有技术的拼写校正系统（例如ispell）除了检测拼写错误之外，还通过提供接近于拼写错误的单词的一组候选校正来帮助用户。基于ispell的修正建议，我们建立了几个猜测者，并以不同的方式进行组合。首先，我们评估了所有的可能性，并选择了最好的语料库与人工生成的打字错误。其次，最佳组合是在有真正拼写错误的文本上测试的。后者的结果表明，我们可以预期自动非单词纠正的所有错误在一个自由运行的文本与80%的精度和一个单一的建议98%的时间（平均1.02建议）。
1998-06-15 cmp-lg cs.CL
Algorithms for certain classes of Tamil Spelling correction
泰米尔语有一个粘着的，双音的，字母音节的结构，提供了一个显着的组合爆炸形态所有这些都有效地用于泰米尔散文，诗歌从古代到现代的连续性链。然而，对于语言理解来说，拼写校正目的中的一些作为字典外的词而存在挑战。在本文中，作者提出的算法技术，以处理特定的问题，连接的话（字典外）（音译）[thendRalkattRu] = [thendRal]+[kattRu]时，部分单独存在于单词列表中的有效方式。泰米尔语的形态结构使得有必要依赖于综合分析方法，字典列表永远不足以真正捕捉语言。在本文中，我们试图作出总结的各种已知算法的特定类别的泰米尔语拼写错误。我们相信这一系列的建议，以改善未来的拼写检查。我们还注意到，没有涵盖许多重要的技术，如词缀删除和其他此类技术的关键重要性，在基于规则的拼写检查。
2019-09-22 cs.CL
Lenient Evaluation of Japanese Speech Recognition: Modeling Naturally Occurring Spelling Inconsistency
Google DeepMind（谷歌DeepMind）
针对日语 ASR 中普遍存在的异体拼写导致 CER 误判的问题，本文结合词汇资源、文本处理和 NMT 构建参考转写的合理再拼写格，实现宽松评估并显著降低 CER。
2023-06-07 cs.CL
CSCD-NS: a Chinese Spelling Check Dataset for Native Speakers
WeChat AI, Tencent Inc.（腾讯微信人工智能部门）
本文提出CSCD-NS，首个面向母语者的中文拼写检查数据集，含4万样本，规模为现有数据集的十倍，并引入输入法模拟方法生成高质量伪数据，发现生成式模型因长度和发音约束而逊于BERT类模型。
2024-05-23 cs.AI cs.CL
Parallel Spell-Checking Algorithm Based on Yahoo! N-Grams Dataset
Lebanese Association for Computational Sciences（黎巴嫩计算科学协会）
拼写检查是检测文本中拼写错误的单词并有时提供建议的过程。基本上，拼写检查器的字典越大，错误检测率就越高;否则，拼写错误将无法检测到。不幸的是，传统的字典遭受词汇和数据稀疏的问题，因为它们不包括不可或缺的涵盖专有名称，特定领域的术语，技术行话，特殊的首字母缩略词和术语的大量词汇。因此，拼写检查器将招致低错误检测和纠正率，并且将无法标记文本中的所有错误。本文提出了一种新的并行共享内存拼写检查算法，使用丰富的现实世界的字统计从雅虎！N-Grams Dataset用于纠正计算机文本中的非单词和真实单词错误。从本质上讲，所提出的算法可以分为三个子算法，以并行的方式运行：错误检测算法，检测拼写错误，候选生成算法，生成更正建议，并执行上下文错误校正的错误校正算法。对一组包含拼写错误的文本文章进行的实验表明，显着的拼写错误纠正率，导致在电子文本中的非单词和真实单词错误的根本减少。在进一步的研究中，所提出的算法是优化的消息传递系统，以便变得更灵活，成本更低的分布式机器上扩展。
2012-04-01 cs.CL
Error-tolerant Finite State Recognition with Applications to Morphological Analysis and Spelling Correction
容错识别使得能够识别稍微偏离由底层有限状态识别器识别的常规集合中的任何字符串的字符串。这种识别在信息检索中的容错形态学处理、拼写校正和近似字符串匹配中有应用。在描述了所涉及的概念和算法之后，我们给出了两个应用程序的例子：在形态分析的背景下，容错识别允许拼写错误的输入单词形式被纠正，并同时进行形态分析。我们提出了一个应用程序，这对土耳其语单词的粘着形态的容错分析。该算法可以应用于形态分析的任何语言的形态是完全捕获的一个单一的（可能是非常大的）有限状态传感器，无论涉及的构词过程和morphographemic现象。在拼写校正的上下文中，可以使用容错识别来从特定编辑距离内的给定拼写错误的字符串中枚举正确的候选形式。同样，它可以应用于任何语言，其单词列表包括所有屈折形式，或其形态完全由有限状态转换器描述。我们提出了一些语言的拼写校正的实验结果。这些结果表明，这种识别对于许多欧洲语言如英语、荷兰语、法语、德语、意大利语的拼写校正中的候选生成非常有效（和其他）具有非常大的词根和屈折形式的单词列表（有些包含超过200，000份表格），在SparcStation 10/41上在10到45毫秒内（编辑距离为1）生成所有候选解决方案。对于土耳其语中的拼写纠正，容错
1995-07-21 cmp-lg cs.CL
Automatic Real-word Error Correction in Persian Text
本文提出一种多层次方法，结合语义分析、特征选择和分类器，用于波斯文本真词错误纠正，检测F值达96.6%，纠正准确率达99.1%，优于以往模型。
2024-07-20 cs.CL
Semantics or spelling? Probing contextual word embeddings with orthographic noise
Cornell University（康奈尔大学）
通过向输入单词引入单字符交换的正字法噪声，发现预训练语言模型生成的上下文词嵌入对噪声高度敏感，且敏感性与子词分词相关，表明这些表示可能不是可靠的语义代理。
2024-08-08 cs.CL
Evaluating Informal-Domain Word Representations With UrbanDictionary
University of Edinburgh（爱丁堡大学）
现有的语料库的内在评价不针对非正式领域的任务，如Twitter或新闻评论论坛。我们想测试非正式单词的表示是否满足省略显式文本规范化作为预处理步骤的承诺。一个可能的评估指标，这样的领域是接近的拼写变体。我们提出了如何计算这样一个指标，以及如何使用UrbanDictionary收集拼写变体数据集。
2016-06-27 cs.CL
Spelling Correction with Denoising Transformer
HubSpot, Inc.（HubSpot公司）；Dublin, Ireland（爱尔兰都柏林）
我们提出了一种新的方法进行拼写校正短输入字符串，如搜索查询或个别的话。其核心是一个程序，用于生成人工错别字，这些错别字密切遵循人类表现出的错误模式。该过程用于根据Transformer架构对生产拼写纠正模型进行训练。该型号目前在HubSpot产品搜索中提供。我们表明，我们的方法来错别字生成优于普遍的做法，添加噪音，忽略了人类的模式。我们还演示了我们的方法如何可以扩展到资源稀缺的设置和训练拼写校正模型，阿拉伯语，希腊语，俄语，和Setura-languages，而不使用任何标记的数据。
2021-05-12 cs.AI cs.CL cs.LG
Real-Word Error Correction with Trigrams: Correcting Multiple Errors in a Sentence
Department of Computer Engineering, Kerman Branch, Islamic Azad University（伊斯兰阿扎德大学克尔曼分校计算机工程系）
拼写纠正是文本挖掘中的一项基本任务。在这项研究中，我们评估了由Mays，Damerau和Mercer提出的实字纠错模型，并描述了该模型的几个缺点。我们提出了一个新的变化，侧重于检测和纠正多个真实的字错误的句子，通过操纵概率上下文无关文法（PCFG），区分项目之间的搜索空间。我们在华尔街日报语料库上测试了我们的方法，并表明它优于Hirst和Budanitsky的基于WordNet的方法以及Wilcox-O 'Hearn，Hirst和Budanitsky的固定窗口大小方法。O 'Hearn，Hirst和Budanitsky的固定窗口大小方法。
2023-02-07 cs.AI cs.CL
Robsut Wrod Reocginiton via semi-Character Recurrent Neural Network
Johns Hopkins University（约翰斯·霍普金斯大学）
人类的语言处理机制通常比计算机更强大。来自心理语言学文献的Cmabrigde Uinervtisy（剑桥大学）效应已经证明了这样一种强大的字处理机制，其中混杂的单词（例如Cmabrigde / Cambridge）被识别出的成本很小。另一方面，用于单词识别的计算模型（例如拼写检查器）在具有这种噪声的数据上表现不佳。受Cmabrigde Uinervtisy效应研究结果的启发，我们提出了一个基于半字符级循环神经网络（scRNN）的单词识别模型。在我们的实验中，我们证明了与现有的拼写检查器和基于字符的卷积神经网络相比，scRNN在单词拼写校正（即单词识别）方面具有更强大的性能。此外，我们证明了该模型是合理的认知复制心理语言学实验人类阅读困难使用我们的模型。
2017-02-07 cs.CL
OCR Post-Processing Error Correction Algorithm using Google Online Spelling Suggestion
LACSC – Lebanese Association for Computational Sciences（黎巴嫩计算科学协会（LACSC））
随着数字光学扫描仪的出现，许多纸质书籍，教科书，杂志，文章和文档正在转变为可以由计算机操作的电子版本。为此，开发了OCR，即光学字符识别的缩写，用于将扫描的图形文本转换为可编辑的计算机文本。不幸的是，OCR仍然是不完美的，因为它偶尔会错误地识别字母和错误地识别扫描文本，导致OCR输出文本中的拼写错误和语言错误。本文提出了一种基于上下文的OCR后处理纠错算法，用于检测和纠正OCR非字和实字错误。该算法基于Google的在线拼写建议，该建议利用了一个内部数据库，其中包含从网络上收集的大量术语和单词序列，便于为OCR过程中拼写错误的单词提出可能的替代方案。实验结果表明，OCR错误纠正率有了明显的提高。未来的研究可以改进所提出的算法，使其可以并行化，并在多处理平台上执行。
2012-04-01 cs.CL
Spelling Correction in Healthcare Query-Answer Systems: Methods, Retrieval Impact, and Empirical Evaluation
Oracle Corporation（Oracle公司）
本文研究了医疗问答系统中拼写纠正对检索的影响，通过实证分析发现拼写纠正显著提升检索性能，尤其在查询端纠正效果更佳。
2026-02-25 cs.CL
Persian Typographical Error Type Detection Using Deep Neural Networks on Algorithmically-Generated Misspellings
University of Tehran（德黑兰大学）
本文提出基于 FarsTypo 数据集和融合词嵌入、字符嵌入及双向 LSTM 的深度序列神经网络，用于检测 51 类波斯语排版错误，准确率达 97.62% 且速度领先。
2024-05-05 cs.AI cs.CL
A Bayesian hybrid method for context-sensitive spelling correction
两类方法已被证明是有用的解决词汇歧义。第一个依赖于在歧义目标词的一定距离内存在特定的词;第二个使用目标词周围的词和词性标记的模式。这些方法有互补的覆盖范围：前者捕捉词汇的“气氛”（话语主题，时态等），而后者捕获本地语法。Yarowsky利用了这种互补性，通过使用决策列表将两种方法结合起来。其思想是汇集组件方法提供的证据，然后通过应用单个最强的证据来解决目标问题，无论它是什么类型。本文以Yarowsky的工作为出发点，将决策表应用于上下文敏感的拼写纠正问题。决策列表被发现，总的来说，优于任何一种成分方法。然而，人们发现，进一步的改进可以通过考虑不仅是单一的最强有力的证据，但所有可用的证据。一种新的混合方法，贝叶斯分类器的基础上，提出了这样做，并证明其性能的改善。
1996-06-03 cmp-lg cs.CL
A context sensitive real-time Spell Checker with language adaptability
Amazon（亚马逊）
我们提出了一个新的语言适应拼写检查系统，检测拼写错误，并建议上下文敏感的更正在实时的【形】。我们表明，我们的系统可以扩展到新的语言，最小的语言特定的处理。可用的文献主要讨论英语拼写检查，但没有公开可用的系统可以扩展到其他语言的开箱即用。大多数系统都不能实时的【形】工作。我们解释了使用维基百科文章数据和手动策划的视频字幕生成语言的单词词典和n-gram概率词典的过程。我们提出的结果产生一个拼写错误的单词的建议列表。我们还提出了三种方法来创建真实世界的排版错误的嘈杂通道数据集。我们将我们的系统与行业公认的11种语言的拼写检查工具进行比较。最后，我们展示了我们的系统在24种语言的合成数据集上的性能。
2019-10-23 cs.CL cs.LG stat.ML
A Methodology for Generative Spelling Correction via Natural Spelling Errors Emulation across Multiple Domains and Languages
SberDevices
本文提出一种生成式拼写纠错方法，通过模拟自然拼写错误丰富模型预训练，并推出包含预训练模型和增强算法的SAGE库。
2023-09-13 cs.CL
Unveiling the Impact of Multimodal Features on Chinese Spelling Correction: From Analysis to Design
University of Science and Technology Beijing（北京科技大学）；Fudan University（复旦大学）
针对中文拼写纠错中多模态特征利用不足及LLMs过度纠正问题，本文通过MACU实验分析提出新型多模态模型NamBert，在基准数据集上超越SOTA方法，并系统比较了其与LLMs的优劣。
2025-04-10 cs.CL
A symbolic Perl algorithm for the unification of Nahuatl word spellings
ICTT, Avignon Université（阿维尼翁大学ICTT）；Inst. de Investigaciones en Educación, Universidad Veracruzana（韦拉克鲁斯大学教育研究所）；GIL, Universidad Nacional Autónoma de México（墨西哥国立自治大学GIL）；Avignon, France（法国阿维尼翁）
本文提出了一种基于符号正则表达式的算法，用于自动统一纳瓦特语词汇拼写，并通过语义任务评估其效果。
2025-11-24 cs.CL
Learning New Words from Unlabeled Test Data in Automatic Speech Recognition
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Korea Advanced Institute of Science and Technology（韩国科学技术院）
本文提出一种在测试时从未标记数据学习新词上下文表示与拼写的ASR方法，利用CTC声学模型、语言模型及适应模块，通过KLD优化，在LibriSpeech和构音障碍数据上分别降低OOV字符错误率14.97%和6.67%。
2026-09-25 cs.CL eess.AS
An Unsupervised method for OCR Post-Correction and Spelling Normalisation for Finnish
University of Helsinki（赫尔辛基大学）；Rootroo Ltd（Rootroo有限公司）；University of Gothenburg（哥德堡大学）
已知历史语料库包含由数字化过程中使用的OCR（光学字符识别）方法引入的错误，通常被认为是降低NLP系统的性能。手动纠正这些错误是一个耗时的过程，并且很大一部分自动方法一直依赖于规则或监督机器学习。我们建立在以前的工作上的全自动无监督提取并行数据训练一个基于字符的序列到序列NMT（神经机器翻译）模型进行OCR纠错设计的英语，并适应芬兰提出的解决方案，考虑到丰富的形态的语言。我们的新方法显示出更高的性能，同时保持完全无监督，并增加了拼写规范化的好处。源代码和模型可以在GitHub和Zenodo上找到。
2020-11-06 cs.CL cs.LG
Post-Editing Error Correction Algorithm for Speech Recognition using Bing Spelling Suggestion
Lebanese Association for Computational Sciences（黎巴嫩计算科学协会）
ASR是自动语音识别的缩写，是将口头语音转换为可由计算机操作的文本的过程。虽然ASR有几种应用，但它仍然是错误的和不精确的，特别是如果在输入语音质量低的恶劣环境中使用。提出了一种基于Bing在线拼写建议的ASR编辑后纠错方法和算法。在这种方法中，ASR识别的输出文本使用Bing的拼写建议技术进行拼写检查，以检测和纠正错误识别的单词。更具体地说，该算法将ASR输出文本分解为几个单词标记，这些单词标记作为搜索查询提交给Bing搜索引擎。返回的拼写建议意味着查询拼写错误;因此它被建议的更正所取代;否则，不执行更正，算法继续下一个令牌，直到所有令牌都得到验证。对不同语言的各种语音进行的实验表明，成功地减少了ASR错误的数量，提高了整体纠错率。未来的研究可以改进所提出的算法，以便它可以并行化，以利用多处理器计算机。
2012-03-23 cs.CL
Misspelling Correction with Pre-trained Contextual Language Model
Purdue University（普渡大学）
拼写不规则，现在被称为拼写错误，已经发现了几个世纪。作为人类，我们能够根据它们在句子中的位置，感知的发音和上下文来理解大多数拼写错误的单词。与人类不同，计算机系统不具备人脑所具备的方便的自动完成功能。虽然许多程序提供拼写校正功能，但许多系统不考虑上下文。此外，人工智能系统的功能是按照它们被训练的方式来运行的。由于目前许多自然语言处理（NLP）系统都是在语法正确的文本数据上训练的，因此许多系统在对抗性示例时很脆弱，但正确拼写的文本处理对学习至关重要。在本文中，我们研究了如何在上下文中纠正拼写错误，使用预训练的语言模型BERT。我们提出了两个实验，基于BERT和编辑距离算法，排名和选择候选更正。实验结果表明，当适当结合时，BERT和编辑距离的上下文词嵌入能够有效地纠正拼写错误。
2021-01-08 cs.CL
Context-aware Stand-alone Neural Spelling Correction
University of Texas at Dallas（德克萨斯大学达拉斯分校）；Baidu USA（百度美国）
针对自然语言处理系统易受拼写噪声影响的问题，提出结合拼写信息与全局上下文、基于预训练语言模型微调的序列标注式联合拼写纠错方案，在独立拼写纠错任务上F0.5分数较此前最优提升12.8%。
2020-11-12 cs.CL
Spelling Correction through Rewriting of Non-Autoregressive ASR Lattices
Google, Inc（谷歌公司）
提出一种基于FST的CTC词格重写拼写纠错技术，直接从词片段进行G2P转换，无需重训ASR模型，在上下文实体测试集上实现15.2%的SER相对降低。
2024-09-24 cs.CL cs.SD eess.AS
Unsupervised Language agnostic WER Standardization
Microsoft（微软）
词出错率（WER）是用于评估自动语音识别（ASR）系统的标准度量。然而，WER未能提供一个公平的评价人类感知质量的拼写变化，缩写，或复合词所产生的凝集。基于区域/地理、替代缩写、借用词以及从外语到目标语言脚本的代码混合词的音译，多种拼写变体可能是可接受的。类似地，在凝集的情况下，通常凝集的以及分裂的形式是可接受的。以前的工作通过使用手动识别的归一化对来处理这个问题，并在计算WER之前将它们应用于转录和假设。在本文中，我们提出了一个自动WER规范化系统，包括两个模块：拼写规范化和分割规范化。所提出的系统是无监督和语言不可知的，因此可扩展。ASR在四种语言的35 K话语上的实验产生了13.28%的平均WER减少。这些自动识别的标准化对的人的判断表明，我们的WER标准化的评价是高度一致的ASR输出的感知质量。
2023-03-09 cs.CL
Eval-GCSC: A New Metric for Evaluating ChatGPT's Performance in Chinese Spelling Correction
Tsinghua University（清华大学）；WeChat AI, Tencent Inc（腾讯微信AI）；Xinjiang University（新疆大学）
针对传统指标低估ChatGPT在中文拼写纠正任务中表现的问题，提出新评估指标Eval-GCSC，通过词级和语义相似性放宽约束，实验显示其与人工评估一致，ChatGPT表现媲美传统分类模型。
2023-11-14 cs.AI cs.CL
Vision Language Models Are Not (Yet) Spelling Correctors
MBZUAI；Institute of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院）
本文提出首个真实场景视觉拼写纠正基准 ReViCo，系统评估中英文 VLMs 的纠正能力，发现现有模型远逊于人类，并通过联合 OCR-纠正流水线与背景信息增强两种方法实现性能提升。
2025-09-22 cs.CL cs.CV
A spelling correction model for end-to-end speech recognition
Google NYC（谷歌纽约）
用于语音识别的基于注意力的序列到序列模型使用单个神经网络联合训练声学模型、语言模型（LM）和对齐机制，并且仅需要并行的音频-文本对。因此，端到端模型的语言模型组件仅在转录的音频-文本对上进行训练，这导致性能下降，特别是在罕见单词上。虽然已经有各种各样的工作着眼于将在纯文本数据上训练的外部LM整合到端到端框架中，但它们都没有考虑到模型的特征误差分布。在本文中，我们提出了一种新的方法来利用纯文本数据，通过训练拼写校正（SC）模型来明确纠正这些错误。在LibriSpeech数据集上，我们证明了该模型在直接纠正顶级ASR假设时，WER比基线模型相对提高了18.6%，在使用外部LM进一步重新评分扩展的n-最佳列表时，WER相对提高了29.0%。
2019-02-19 cs.AI cs.CL cs.LG
Vartani Spellcheck -- Automatic Context-Sensitive Spelling Correction of OCR-generated Hindi Text Using BERT and Levenshtein Distance
Birla Institute of Technology, Mesra（贝拉理工学院梅斯拉分校）
传统的光学字符识别（OCR）系统生成高度屈折的印度语（如印地语）的文本，由于宽的字母表集、复合字符和在单词中分割字符的困难，其往往遭受差的准确性。自动拼写错误检测和上下文敏感错误校正可用于通过后处理这些OCR系统生成的文本来提高准确性。以前开发的大多数用于印地语拼写错误校正的语言模型都是上下文无关的。在本文中，我们提出了Vartani拼写检查-一种上下文敏感的方法，使用最先进的Transformer - BERT结合Levenshtein距离算法，俗称编辑距离的印地语文本的拼写校正。我们使用一个查找字典和基于上下文的命名实体识别（NER）检测可能的拼写错误的文本。我们提出的技术已被广泛使用的Tesseract OCR对印地语史诗罗摩衍那产生的文本的大型语料库进行了测试。准确率为81%，结果显示出显着的改善，比以前建立的一些上下文敏感的印地语纠错机制。我们还解释了如何Vartani拼写检查可用于在文本编辑器环境中连续键入期间的即时自动更正建议。
2020-12-14 cs.AI cs.CL cs.LG
A Comprehensive Approach to Misspelling Correction with BERT and Levenshtein Distance
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Sharif DeepMine Ltd.（谢里夫DeepMine有限公司）
本研究提出一种结合BERT掩码语言模型与Levenshtein距离的综合方法，用于识别和纠正文本中的多种拼写错误，在波斯语评估中表现优于现有系统。
2024-07-24 cs.AI cs.CL cs.LG
An open diachronic corpus of historical Spanish: annotation criteria and automatic modernisation of spelling
Universitat d’Alacant（阿利坎特大学）
历史西班牙语的IMPACT-es历时语料库汇编了100多本书-包含约800万个单词-除了一个补充词典，该词典将1万多个词元与文件中发现的不同变体的证明联系起来。本文本语料库和随附的词典已根据开放许可证（Creative Commons by-nc-sa）发布，以允许在语言学研究中对其进行深入开发。语料库中大约7%的单词（旨在提高最常见单词形式的覆盖率的选择）已经用它们的词元，词性和现代等价物进行了注释。本文介绍了注释遵循的标准和标准，基于文本编码倡议的建议，用于表示数字形式的文本。作为一个例证的历时文本资源和语言学研究之间可能的协同作用，我们描述了应用统计机器翻译技术来推断概率上下文敏感的规则，自动现代化的拼写。当将输出与文本的监督现代版本进行比较时，使用这种类型的统计方法的自动现代化导致非常低的字符出错率。
2013-06-28 cs.CL cs.DL
