Grammatical Error Correction with Neural Reinforcement Learning
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出了一种基于强化学习的神经编码解码器模型。与传统的最大似然估计（MLE）不同，该模型直接优化目标，该目标考虑了任务级别，特定于任务的评估指标，避免了MLE中的暴露偏差问题。我们证明，NRL优于MLE在人类和自动化的评价指标，实现了最先进的流畅性为导向的GEC语料库。
2017-07-02 cs.CL
JFLEG: A Fluency Corpus and Benchmark for Grammatical Error Correction
Johns Hopkins University（约翰斯·霍普金斯大学）；Grammarly
我们提出了一个新的平行语料库，JHU FLuency-Extended GUG语料库（JFLEG）的开发和评估语法错误纠正（GEC）。与其他语料库不同，它代表了广泛的语言水平，并使用整体流畅性编辑，不仅纠正语法错误，还使原文听起来更地道。我们描述的类型的更正和基准四个领先的GEC系统在这个语料库，确定具体的领域，他们做得很好，以及他们如何可以改善。JFLEG满足了新的黄金标准的需要，以正确评估GEC的当前状态。
2017-02-14 cs.CL
Grammatical Error Correction in Low-Resource Scenarios
Charles University（查理大学）；Faculty of Mathematics and Physics（数学与物理学院）
英语语法错误纠正是一个长期研究的问题，有许多现有的系统和数据集。然而，对其他语言的纠错研究却非常有限。在本文中，我们提出了一个新的数据集AKCES-GEC语法错误纠正捷克语。然后我们在捷克语、德语和俄语上进行了实验，结果表明，当使用合成并行语料时，Transformer神经机器翻译模型可以在这些数据集上达到新的最先进的结果。AKCES-GEC在CC BY-NC-SA 4.0许可下发布于https://hdl.handle.net/11234/1-3057，GEC模型的源代码可在https://github.com/ufal/low-resource-gec-wnut2019获得。
2019-10-16 cs.CL
Chinese Grammatical Correction Using BERT-based Pre-trained Model
Nomura Research Institute, Ltd.（野村综合研究所株式会社）；Retrieva, Inc.（Retrieva公司）；Tokyo Metropolitan University（东京都立大学）
近年来，预训练模型得到了广泛的研究，一些下游任务也从它们的使用中受益。在这项研究中，我们验证了两种方法的有效性，这两种方法将Cui et al.（2020）开发的基于BERT的预训练模型结合到中文语法纠错任务的编码器-解码器模型中。我们还分析了错误类型，并得出结论，双精度级的错误还有待解决。
2020-11-04 cs.CL
Towards Unsupervised Grammatical Error Correction using Statistical Machine Translation with Synthetic Comparable Corpus
Tokyo Metropolitan University（东京都立大学）
我们引入了基于短语的统计机器翻译的无监督技术，用于在Google翻译创建的伪学习者语料库上训练语法错误纠正（GEC）。我们通过在各种GEC数据集上的实验验证了我们的GEC系统，包括Building Educational Applications 2019（2019年7月）共享任务的低资源跟踪。结果，我们在低资源轨道的测试数据下获得了28.31分的F_0.5分数。
2019-07-23 cs.CL
Edit-level Majority Voting Mitigates Over-Correction in LLM-based Grammatical Error Correction
Nara Institute of Science and Technology（奈良科学技术研究所）
本文提出一种无需训练的推理方法，通过多候选生成模型进行编辑层面多数投票，缓解LLM在语法纠错中的过纠正问题，在多个语言基准测试中优于贪婪和MBR解码。
2026-05-13 cs.CL
An Extended Sequence Tagging Vocabulary for Grammatical Error Correction
University of Cambridge（剑桥大学）；The ALTA Institute（ALTA研究所）；Imperial College London（帝国理工学院）；King’s College London（伦敦国王学院）
我们扩展了目前的序列标记的方法，语法错误纠正（GEC）通过引入专门的标签，拼写纠正和形态变化使用的SymSpell和LemmInflect算法。我们的方法提高了泛化能力：建议的新标签集允许更少的标签来纠正更大范围的错误。我们的研究结果表明，整体和目标错误类别的性能提高。我们进一步表明，我们的新的标签集训练的合奏优于那些训练的基准标签集上的公共基准。
2023-02-12 cs.CL
There's No Comparison: Reference-less Evaluation Metrics in Grammatical Error Correction
Johns Hopkins University（约翰斯·霍普金斯大学）；Grammarly
当前用于自动评估语法错误校正（GEC）系统的方法依赖于黄金标准参考。然而，这些方法受到惩罚的语法编辑是正确的，但不是在黄金标准。我们发现，参考无语法性指标与人类的判断非常强烈的相关性，并与领先的基于参考的评估指标竞争。通过内插这两种方法，我们实现了最先进的相关性与人类的判断。最后，我们表明，GEC指标是更可靠的，当它们被计算在句子级别，而不是语料库级别。我们已经建立了一个CodaLab网站，使用通用数据集和不同的评估指标对GEC输出进行基准测试。
2016-10-07 cs.CL
Grammatical Error Correction as GAN-like Sequence Labeling
Shanghai Jiao Tong University（上海交通大学）
在语法错误校正（GEC）中，与序列到序列模型相比，序列标记模型享有快速推理;然而，序列标记GEC模型中的推理是一个迭代过程，因为句子被传递到模型进行多轮校正，这使模型暴露于每轮错误逐渐减少的句子。传统的GEC模型从具有固定出错率的句子中学习。将其与迭代校正过程相结合会导致训练和推理之间的不匹配，从而影响最终性能。为了解决这种不匹配，我们提出了一个类似GAN的序列标记模型，它由一个语法错误检测器和一个语法错误标记器组成，语法错误标记器以Gumbel-Softmax采样作为生成器。通过从真实的误差分布中采样，与传统的合成GEC误差相比，我们的误差更真实，从而减轻了上述失配并允许更好的训练。我们在几个评估基准的结果表明，我们提出的方法是有效的，并提高了以前的国家的最先进的基线。
2021-05-29 cs.CL
Type-Driven Multi-Turn Corrections for Grammatical Error Correction
Xiamen University（厦门大学）；Tencent Cloud Xiaowei（腾讯云小微）
语法错误纠正（GEC）旨在自动检测和纠正语法错误。在这方面，主导模型通过一次迭代学习来训练，同时在推理期间执行多次迭代的校正。以前的研究主要集中在数据增强的方法来对抗曝光偏差，这有两个缺点。首先，他们简单地混合额外构建的训练实例和原始的训练模型，这不能帮助模型明确地意识到逐步校正的过程。其次，他们忽视了不同类型的修正之间的相互依赖性。在本文中，我们提出了一种类型驱动的多圈校正方法的GEC。使用这种方法，从每个训练实例中，我们还构建了多个训练实例，每个实例都涉及特定类型错误的纠正。然后，我们使用这些额外构造的训练实例和原始的训练实例依次对模型进行训练。实验结果和深入的分析表明，我们的方法显着有利于模型训练。特别是，我们的增强型模型实现了最先进的单一模型性能的英语GEC基准。我们在Github上发布代码。
2022-03-17 cs.CL
Grammatical Error Correction and Style Transfer via Zero-shot Monolingual Translation
University of Tartu（塔尔图大学）；Tilde
语法错误纠正和文本风格迁移都可以被视为单语序列到序列转换任务，但缺乏直接注释的数据，使它们对大多数语言都不可行。我们提出了一种方法，在同一个训练模型中完成这两个任务，并且只使用正则语言并行数据，而不需要纠错或风格适应的文本。我们将我们的模型应用于三种语言，并对这两项任务进行了全面的评估，表明该模型对于一些错误类型和风格转移方面是可靠的。
2019-10-22 cs.CL
Enhancing Grammatical Error Correction Systems with Explanations
Tencent AI Lab（腾讯人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）；Westlake University（西湖大学）；Zhejiang University（浙江大学）
本研究为增强语法错误纠正系统的解释性，推出标注证据词与错误类型的大型数据集EXPECT，提出基线模型并分析，经人工验证其解释可辅助二语学习者理解语法规则、判断是否接受修正。
2023-06-10 cs.CL
Automatic Metric Validation for Grammatical Error Correction
The Hebrew University of Jerusalem（希伯来大学）
语法纠错（GEC）中的度量验证目前是通过观察人类和度量诱导的排名之间的相关性来完成的。然而，这种相关性研究是昂贵的，方法上的麻烦，并遭受低评分者之间的协议。我们提出了MAEGE，GEC指标验证的自动方法，克服了许多困难与现有的做法。使用\maege的实验为度量质量提供了新的线索，例如，标准$M^2$度量在语料库级别的排名中表现不佳。此外，我们使用MAEGE进行度量行为的详细分析，表明纠正某些类型的错误是一贯的惩罚现有的指标。
2018-05-07 cs.CL
Near Human-Level Performance in Grammatical Error Correction with Hybrid Machine Translation
University of Edinburgh（爱丁堡大学）；Microsoft（微软）
我们结合了两种最流行的自动语法纠错（GEC）方法：基于统计机器翻译（SMT）的GEC和基于神经机器翻译（NMT）的GEC。该混合动力系统在CoNLL-2014和JFLEG基准测试中取得了最新的结果。该GEC系统保留了SMT输出的准确性，同时生成了更流畅的句子，因为它是NMT的典型。我们的分析表明，所创建的系统比迄今为止报道的任何其他GEC系统更接近人类水平的性能。
2018-04-16 cs.CL
Interpretability for Language Learners Using Example-Based Grammatical Error Correction
Tokyo Institute of Technology（东京工业大学）
语法纠错不仅要注重纠错的准确性，更要注重对语言学习的可解释性。然而，现有的基于神经元的GEC模型主要是为了提高精度，其可解释性还没有被探索。一个有前途的方法，以提高可解释性是一个基于实例的方法，它使用类似的检索的例子，以产生更正。此外，例子在语言学习中也是有益的，帮助学习者理解语法错误/正确的文本的基础，提高他们写作的信心。因此，我们假设，将基于实例的方法纳入GEC可以提高可解释性，以及支持语言学习者。在这项研究中，我们介绍了一个基于实例的GEC（EB-GEC），提出的例子，语言学习者作为一个校正结果的基础。这些例子由与给定输入及其预测校正相似的正确和不正确句子对组成。实验表明，EB-GEC提供的例子帮助语言学习者决定接受或拒绝GEC输出的建议。此外，实验还表明，检索的例子提高了校正的准确性。
2022-03-14 cs.CL
The CoNLL-2013 Shared Task on Grammatical Error Correction
Department of Computer Science National University of Singapore（计算机科学系国立新加坡大学）；Centre for English Language Communication National University of Singapore（英语语言沟通中心国立新加坡大学）；Nuance Communications, Inc.（Nuance通讯公司）
本文介绍了致力于语法错误纠正的CoNLL-2013共享任务，给出了任务定义、数据集、评估指标与评分器，概述了参赛团队的各种方法并展示了评估结果。
2025-07-13 cs.CL
Efficient and Interpretable Grammatical Error Correction with Mixture of Experts
National University of Singapore（新加坡国立大学）；MBZUAI（Mohamed bin Zayed 人工智能大学）
针对语法错误纠正系统组合计算成本高的问题，提出混合专家模型MoECE，以更少参数量达到T5-XL的性能，且能在推理时识别错误类型，实现可解释纠正。
2024-10-30 cs.CL
The CUED's Grammatical Error Correction Systems for BEA-2019
University of Cambridge（剑桥大学）
我们描述了剑桥大学工程系在2019年语法错误纠正共享任务中的两个条目。我们对低资源轨道的提交是基于先前使用有限状态转换器与强神经语言模型的工作。我们的限制跟踪系统是一个纯神经系统，由神经语言模型和神经机器翻译模型组成，这些模型经过反向翻译训练，并结合了检查点平均和微调-没有任何额外的工具，如拼写检查器。后一个系统已被用于与剑桥大学计算机实验室合作的一个单独的系统组合入口。
2019-06-29 cs.CL
FCGEC: Fine-Grained Corpus for Chinese Grammatical Error Correction
Zhejiang University（浙江大学）；Huawei Co., Ltd（华为技术有限公司）
本文提出细粒度中文语法纠错语料库FCGEC及Switch-Tagger-Generator基线模型，在低资源场景下优于现有GEC基准模型，并揭示了模型与人类水平之间的显著差距。
2022-10-22 cs.CL
Inherent Biases in Reference based Evaluation for Grammatical Error Correction and Text Simplification
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
众所周知，普遍使用太少的参考文献来评估文本到文本的生成会使对其质量的估计产生偏差（{ \it低覆盖率偏差}或LCB）。本文表明，克服LCB在语法错误纠正（GEC）的评估不能达到重新缩放或通过增加参考文献的数量在任何可行的范围内，与以前的建议。这是由于句子的有效更正的长尾分布。具体来说，我们表明，LCB激励GEC系统，以避免纠正，即使他们可以产生一个有效的纠正。因此，现有系统通过对输入进行很少但有针对性的改变，获得与人类相比相当或更好的性能。对文本简化的类似影响进一步支持了我们的主张。
2019-09-18 cs.CL
ChatGPT or Grammarly? Evaluating ChatGPT on Grammatical Error Correction Benchmark
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯人工智能实验室）
ChatGPT是由OpenAI开发的前沿人工智能语言模型，由于其在回答后续问题方面惊人的强大能力而引起了大量关注。在这份报告中，我们的目标是评估ChatGPT的语法错误纠正（GEC）任务，并将其与商业GEC产品（例如，语法上）和最先进的模型（例如，GECToR）。通过对CoNLL2014基准数据集的测试，我们发现ChatGPT在自动评估指标方面的表现不如那些基线（例如，$F_{0.5}$评分），尤其是在长句上。我们检查了输出，发现ChatGPT超越了一个接一个的修正。具体而言，它更喜欢改变某些短语或句子结构的表面表达，同时保持语法正确性。人工评估定量地证实了这一点，并表明ChatGPT产生较少的校正不足或错误校正问题，但更多的过度校正。这些结果表明，ChatGPT被自动评估指标严重低估，可能是GEC的一个有前途的工具。
2023-03-15 cs.CL
Exploring the Feasibility of Multilingual Grammatical Error Correction with a Single LLM up to 9B parameters: A Comparative Study of 17 Models
Poznan University of Technology（波兹南技术大学）；Adam Mickiewicz University（亚当·密茨凯维奇大学）
本文比较了 17 个流行模型在英、德、意、瑞典四种语言上的单模型多语言语法纠错表现，发现六个模型能提升全部语言的语法正确性，其中 Gemma 9B 表现最佳。
2025-05-09 cs.CL
Comparison of Grammatical Error Correction Using Back-Translation Models
Tokyo Metropolitan University（东京都立大学）；Recruit Co., Ltd.（瑞可利株式会社）；Tokyo Institute of Technology（东京工业大学）
语法错误纠正（GEC）缺乏足够的并行数据。因此，GEC研究开发了各种方法来生成伪数据，这些伪数据包括成对的语法和人工生成的不语法句子。目前，生成伪数据的主流方法是回译（BT）。大多数以前使用BT的GEC研究对GEC和BT模型都采用了相同的架构。然而，GEC模型有不同的修正趋势，这取决于它们的架构。因此，在这项研究中，我们比较了在不同BT模型（即Transformer、CNN和LSTM）生成的伪数据上训练的GEC模型的校正趋势。结果证实，每种错误类型的校正趋势是不同的每一个BT模型。此外，我们研究了使用不同BT模型生成的伪数据组合时的校正趋势。结果表明，不同BT模型的组合与不同种子的单个BT模型相比，提高或内插了每种错误类型的F0.5分数。
2021-04-16 cs.CL
A Language Model for Grammatical Error Correction in L2 Russian
HSE University（高等经济大学）
本文针对现有俄语拼写检查器难以处理第二语言写作错误的问题，提出一种基于俄罗斯国家语料库报纸子语料库训练的语言模型流水线，并在RULEC-GEC语料库上验证其纠错质量。
2023-07-04 cs.CL
Detection-Correction Structure via General Language Model for Grammatical Error Correction
Peking University（北京大学）
本文提出DeCoGLM，基于通用语言模型GLM的集成检测-纠正结构，通过容错检测模板和自回归掩码填充实现多任务学习，在英语和中文GEC数据集上达到先进水平。
2024-05-28 cs.CL
Neural Network Translation Models for Grammatical Error Correction
NUS Graduate School for Integrative Sciences and Engineering（新加坡国立大学综合科学与工程研究生院）；National University of Singapore（新加坡国立大学）
基于短语的统计机器翻译（SMT）系统先前已经用于语法错误校正（GEC）的任务以实现最先进的准确性。SMT系统的优越性来自于它们能够学习从错误文本到正确文本的文本转换，而无需显式地对错误类型进行建模。然而，基于短语的SMT系统受到离散词表示、线性映射和缺乏全局上下文的限制。在本文中，我们使用两个不同的但互补的神经网络模型，即神经网络全球词典模型和神经网络联合模型来解决这些限制。这些神经网络可以通过使用单词的连续空间表示和学习非线性映射来更好地泛化。此外，他们可以更有效地利用上下文信息从源句。通过添加这两个组件，我们实现了统计上显着的改进，在一个国家的最先进的GEC系统的语法错误纠正的准确性。
2016-06-01 cs.CL
System Combination for Grammatical Error Correction Based on Integer Programming
National University of Singapore（新加坡国立大学）
本文提出了一种基于非线性整数规划的语法纠错系统组合方法。我们的方法根据错误类型优化了新型F评分目标，并结合了多个端到端GEC系统。所提出的IP方法优化了对数据中存在的每个语法错误类型的单个最佳系统的选择。IP方法结合国家的最先进的独立GEC系统的实验表明，组合系统优于所有独立的系统。在2019年的共享任务中，将两个最好的参与系统结合起来，F0.5分数提高了3.61%，达到了73.08%的F0.5分数。我们还进行了实验，比较我们的IP方法与另一个国家的最先进的系统组合方法GEC，展示IP的竞争力的组合能力。
2021-11-02 cs.CL
Reliability Crisis of Reference-free Metrics for Grammatical Error Correction
Nara Institute of Science and Technology（奈良科学技術研究所）
本文针对GEC无参考指标易被对抗性系统操纵的问题，提出攻击SOME、Scribendi、IMPARA及基于LLM指标的策略，揭示现有自动评估可靠性不足，呼吁更鲁棒的方法。
2025-09-30 cs.CL
Stronger Baselines for Grammatical Error Correction Using Pretrained Encoder-Decoder Model
Tokyo Metropolitan University（东京都立大学）；Retrieva, Inc.（雷特里瓦公司）
关于语法错误纠正（GEC）的研究已经报道了使用大量伪数据预训练Seq 2Seq模型的有效性。然而，由于伪数据的大小，这种方法需要对GEC进行耗时的预训练。在这项研究中，我们探索了双向和自回归Transformers（BART）作为GEC的通用预训练编码器-解码器模型的实用性。通过使用GEC的通用预训练模型，可以消除耗时的预训练。我们发现，单语和多语言BART模型在GEC中实现了高性能，其中一个结果与英语GEC中目前的强结果相当。我们的实现可在GitHub（https：//github.com/Katsumata420/generic-pretrained-GEC）上公开获取。
2020-09-30 cs.CL
An Empirical Study of Incorporating Pseudo Data into Grammatical Error Correction
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Tohoku University（东北大学）；Future Corporation（Future株式会社）
在语法纠错模型的训练中引入伪数据是提高模型性能的主要因素之一。然而，缺乏共识的实验配置，即，选择如何产生或使用的伪数据。在这项研究中，这些选择通过广泛的实验进行了研究，并在CoNLL-2014测试集（$F_{0.5}=65.0$）和IBM-2019共享任务的官方测试集（$F_{0.5}=70.2$）上实现了最先进的性能，而无需对模型架构进行任何修改。
2019-09-02 cs.CL
A Multilayer Convolutional Encoder-Decoder Neural Network for Grammatical Error Correction
NUS Graduate School for Integrative Sciences and Engineering（新加坡国立大学综合科学与工程研究生院）；National University of Singapore（新加坡国立大学）
我们使用多层卷积编码器-解码器神经网络改进文本中语法、拼写和搭配错误的自动纠正。网络初始化为嵌入，嵌入使用字符N-gram信息，以更好地适应此任务。当在常见的基准测试数据集（CoNLL-2014和JFLEG）上进行评估时，我们的模型在此任务上的表现大大优于所有先前的神经方法，以及基于强统计的机器翻译系统，该系统具有在相同数据上训练的神经和特定于任务的特征。我们的分析表明，卷积神经网络在通过注意力捕获局部上下文方面优于长短期记忆（LSTM）网络等递归神经网络，从而提高了纠正语法错误的覆盖率。通过集成多个模型，并通过重新评分来整合N-gram语言模型和编辑功能，我们的新方法成为第一种在语法性和流畅性方面优于当前最先进的基于统计机器翻译的方法的神经方法。
2018-01-26 cs.CL
Evaluating the Capability of Large-scale Language Models on Chinese Grammatical Error Correction Task
Peking University（北京大学）
本文在4个中文GEC数据集上评估3种不同规模的LLM，发现其因过度纠正而不及既有sota模型，且表现随数据分布显著变化。
2025-03-15 cs.CL
gec-metrics: A Unified Library for Grammatical Error Correction Evaluation
Nara Institute of Science and Technology（奈良科学技術研究所）
介绍gec-metrics库，通过统一接口使用和开发语法纠错评估指标，确保公平比较，具有可扩展性，并包含元评估及分析可视化功能，代码以MIT许可证发布。
2025-05-26 cs.CL
Construction of a Quality Estimation Dataset for Automatic Evaluation of Japanese Grammatical Error Correction
Tokyo Metropolitan University（东京都立大学）；RIKEN（理化学研究所）
在语法错误纠正中，自动评价是语法错误纠正系统研究和开发的一个重要因素。以往的自动评测研究表明，在不使用参考语句的情况下，基于人工评测的数据集构建的质量估计模型可以实现高性能的英语GEC自动评测。然而，质量估计模型尚未在日本进行研究，因为没有数据集用于构建质量估计模型。因此，在这项研究中，我们创建了一个质量估计数据集与手动评估，建立一个自动评估模型，为日本GEC。此外，我们进行了元评估，以验证数据集的有用性，在建立日本的质量估计模型。
2022-01-20 cs.CL
Grammatical Error Correction in Low Error Density Domains: A New Benchmark and Analyses
Siteimprove（Siteimprove公司）；University of Copenhagen（哥本哈根大学）；Alexandra Institute（亚历山德拉研究所）；King’s College London（伦敦国王学院）；Imperial College London（伦敦帝国理工学院）
语法错误纠正（GEC）系统的评估主要集中在非英语母语学习者撰写的文章上，然而这只是GEC应用程序的一部分。我们的目标是扩大GEC的目标领域，并发布CWEB，这是GEC的一个新基准，由不同熟练程度的英语使用者生成的网站文本组成。网站数据是一个常见而重要的领域，包含的语法错误比学习者的文章少得多，这对最先进的GEC系统提出了挑战。我们证明，这背后的一个因素是系统无法依赖于一个强大的内部语言模型在低错误密度域。我们希望这项工作将促进开放领域的GEC模型，推广到不同的主题和流派的发展。
2020-10-15 cs.CL
Proficiency Matters Quality Estimation in Grammatical Error Correction
Tokyo Metropolitan University（东京都立大学）；Tokyo Institute of Technology（东京工业大学）；RIKEN（理化学研究所）
本研究旨在探讨学习者对语料的熟练程度对语法错误纠正（GEC）的监督质量估计（QE）模型的影响。在先前的工作中，用于GEC评估的QE模型已经获得了与手动评估的高度相关性。然而，当在现实世界的背景下运作时，用于报告结果的数据具有局限性，因为以前的作品偏向于具有相对较高熟练程度的学习者的数据。为了解决这个问题，我们创建了一个QE数据集，其中包括多个熟练程度，并探讨了对GEC的QE进行熟练程度评估的必要性。我们的实验表明，评估数据集熟练程度的差异会影响QE模型的性能，而熟练程度评估有助于创建更强大的模型。
2022-01-17 cs.CL
A Nested Attention Neural Hybrid Model for Grammatical Error Correction
Microsoft AI & Research（微软人工智能与研究部）；Google Research（谷歌研究院）；Microsoft Research（微软研究院）
语法纠错（GEC）系统致力于纠正词序和用法方面的全局错误以及拼写和变形方面的局部错误。在神经机器翻译研究的基础上，提出了一种新的基于嵌套注意层的混合神经模型。实验表明，新模型可以通过结合单词和字符级别的信息来有效地纠正这两种类型的错误，并且在标准CoNLL-14基准数据集上测量时，该模型的性能显着优于以前的GEC神经模型。进一步的分析还表明，所提出的模型的优越性，可以在很大程度上归因于嵌套的注意力机制，这已被证明是特别有效的纠正局部错误，涉及小的正字法编辑的使用。
2017-07-10 cs.CL
MuCGEC: a Multi-Reference Multi-Source Evaluation Dataset for Chinese Grammatical Error Correction
Soochow University（苏州大学）；DAMO Academy（达摩院）；Alibaba Group（阿里巴巴集团）
本文介绍了MuCGEC，一个多参考多源汉语语法错误纠正（CGEC）评估数据集，由7,063个句子组成，这些句子来自三个汉语作为第二语言（CSL）学习者源。每句话由三名注释者更正，他们的更正由一名高级注释者仔细审查，导致每句话有2.3个参考文献。我们用两个主流的CGEC模型进行实验，即，序列到序列模型和序列到编辑模型，两者都通过大型预训练语言模型进行了增强，在以前的数据集和我们的数据集上实现了具有竞争力的基准性能。我们还讨论了CGEC评估方法，包括多个引用的效果和使用基于字符的度量。我们的注释指南、数据和代码可从\url{https://github.com/HillZhang1999/MuCGEC}获得。
2022-05-04 cs.CL
A Simple but Effective Classification Model for Grammatical Error Correction
Zhejiang University（浙江大学）；Shanghai Liulishuo Information Technology Ltd（上海流利说信息技术有限公司）
在这项研究中，我们将语法错误纠正（GEC）作为一个分类问题，对于不同类型的错误，确定一个目标词，分类器从一组可能的选择中预测正确的单词形式。我们提出了一种新的神经网络为基础的特征表示和分类模型，训练使用大型文本语料库没有人类注释。具体来说，我们使用RNN来表示目标词的左右上下文。所有的特征嵌入都是以端到端的方式联合学习的。实验结果表明，该方法在CoNLL-2014测试集上的性能优于其他分类器方法（F0.5 45.05%）.该模型简单有效，适合于工业化生产。
2018-07-02 cs.CL
Improving Grammatical Error Correction with Machine Translation Pairs
Beihang University（北京航空航天大学）；Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）
我们提出了一种新的数据合成方法来生成不同的纠错句子对，以提高语法纠错，这是基于一对不同质量的机器翻译模型（即，穷与好）。差的翻译模型类似于ESL（英语作为第二语言）学习者，并且倾向于生成在流畅性和语法正确性方面质量较低的翻译，而好的翻译模型通常生成流畅和语法正确的翻译。我们分别用基于短语的统计机器翻译模型和神经机器翻译模型来建立差语言模型模型和好翻译模型。将桥语言中相同句子的译文对作为纠错句子对，可以构造出无限的伪并行数据。我们的方法是能够产生不同的流畅性提高模式，而不受限制的预定义的规则集和种子纠错数据。实验结果表明，我们的方法的有效性，并表明它可以与其他合成数据源相结合，以产生进一步的改进。
2020-11-01 cs.CL
UA-GEC: Grammatical Error Correction and Fluency Corpus for the Ukrainian Language
Grammarly（Grammarly公司）
我们提出了一个语料库专业注释的语法错误纠正（GEC）和流畅性编辑在乌克兰语。据我们所知，这是乌克兰语的第一个GEC语料库。我们收集了来自不同贡献者的错误文本（20，715句），包括母语和非母语人士。这些数据涵盖了各种各样的写作领域，从文字聊天和散文到正式写作。专业的校对人员纠正并注释了语料库中与流畅性、语法、标点符号和拼写有关的错误。该语料库可用于开发和评估乌克兰的GEC系统。更一般地说，它可以用于研究多语言和低资源NLP，形态丰富的语言，文档级GEC和流畅性校正。该语料库可在https://github.com/grammarly/ua-gec上公开获取
2022-11-08 cs.CL
Explanation based In-Context Demonstrations Retrieval for Multilingual Grammatical Error Correction
State Key Laboratory of Multimedia Information Processing（多媒体信息处理国家重点实验室）；School of Computer Science, Peking University（北京大学计算机学院）
针对多语言语法错误纠正中上下文示例选择难题，提出基于语法错误解释（GEE）的检索方法，通过匹配错误模式选示例，在5种语言实验中优于现有技术，无需额外训练或适配。
2025-02-12 cs.CL
Multi-Dimensional Evaluation of LLMs for Grammatical Error Correction
King's College London（伦敦国王学院）；Hosei University（Hosei大学）；Waseda University（早稻田大学）；University of Sheffield（谢菲尔德大学）
本文评估最新LLM在语法纠错中的表现，发现微调后的GPT-4o在编辑精度、流畅度保持和意义保留上表现最佳，同时揭示参考基度量低估GEC性能的问题。
2026-05-08 cs.CL
Cross-Corpora Evaluation and Analysis of Grammatical Error Correction Models --- Is Single-Corpus Evaluation Enough?
RIKEN AIP（理化学研究所AIP）；Tohoku University（东北大学）；Tokyo Metropolitan University（东京都立大学）；Konan University（甲南大学）
本研究探讨了对语法纠错模型进行跨语料库评价的必要性。GEC模型之前已经基于单个常用语料库进行了评估：CoNLL-2014基准。然而，评估仍然是不完整的，因为任务的难度取决于测试语料库和条件，如作家的熟练程度和论文主题。为了克服这一限制，我们评估了几种GEC模型的性能，包括基于NMT的模型（LSTM，CNN和Transformer）和基于SMT的模型，针对各种学习者语料库（CoNLL-2013，CoNLL-2014，FCE，JFLEG，ICNALE和KJ）。评价结果表明，模型的排名有很大的差异，取决于语料库，表明单语料库的评价是不够的GEC模型。
2019-04-05 cs.CL
Focus Is What You Need For Chinese Grammatical Error Correction
Tsinghua University（清华大学）；Meituan（美团）；Peng Cheng Laboratory（鹏城实验室）
中文语法错误纠正（CGEC）旨在自动检测和纠正中文文本中包含的语法错误。从长期来看，研究者认为CGEC是一个具有一定不确定性的任务，即一个不符合语法的句子往往有多个指称。然而，我们认为，尽管这是一个非常合理的假设，但对于这个时代主流模型的智能来说，这太苛刻了。在本文中，我们首先发现多个引用实际上并没有给模型训练带来积极的收益。相反，如果CGEC模型在训练过程中能够关注小而重要的数据，则对模型有利。此外，我们提出了一个简单而有效的训练策略，称为OneTarget，以提高CGEC模型的聚焦能力，从而提高CGEC性能。大量的实验和详细的分析证明了我们发现的正确性和我们提出的方法的有效性。
2022-10-27 cs.CL
LLM-based Code-Switched Text Generation for Grammatical Error Correction
University of Manchester（曼彻斯特大学）
本研究针对语码转换文本语法纠错的数据稀缺问题，利用 LLM 生成合成数据构建数据集，并训练出能同时纠正单语与 CSW 文本语法错误且显著优于现有系统的模型，以辅助 ESL 学习者。
2024-10-14 cs.CL
Byte-Level Grammatical Error Correction Using Synthetic and Curated Corpora
Miðeind ehf.；University of Copenhagen（哥本哈根大学）
本文研究语法纠错，比较字节级与子词级编码，提出先用合成错误语料预训练再用真实人工纠错语料微调的方法，证明字节级模型在拼写及复杂语义、风格和语法错误上均优于子词方法，并在冰岛语上验证了有效性。
2023-05-29 cs.CL
Grammatical Error Correction via Mixed-Grained Weighted Training
University of Science and Technology of China（中国科学技术大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
针对语法错误纠正任务中数据固有差异被忽略的问题，提出MainGEC方法，通过设计token级和句子级训练权重进行混合粒度加权训练，在两种方式及两个基准数据集上均取得显著性能提升。
2023-11-23 cs.CL
Evaluation of really good grammatical error correction
Stockholm University（斯德哥尔摩大学）
本文利用瑞典语学习者文本数据集结合指标与人工评判评估多种 GEC 系统，发现少样本 GPT-3 显著领先，并揭示现有评估偏差，发布人工译后编辑与多维评价数据集。
2023-08-17 cs.CL
Leveraging Denoised Abstract Meaning Representation for Grammatical Error Correction
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, Peking University（北京大学数据科学中心）
本文提出AMR-GEC模型，首次将去噪后的抽象语义表示（AMR）作为额外知识融入序列到序列语法纠错框架，在BEA-2019和CoNLL-2014任务上达到与强基线相当的性能，并将训练时间减少32%。
2023-07-05 cs.CL
Beyond Reference-Based Evaluation: Reward Models for Meta-Evaluation of Grammatical Error Correction
University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；Scribendi Inc.（Scribendi公司）
本文提出RM-EVAL，一种基于SEEDA人类偏好数据训练的无参考奖励模型，用于语法纠错的元评估，并通过奖励引导的文本生成（RGTG）改进GEC系统，实验证明其与人类判断高度一致且能提升生成质量。
2026-09-29 cs.CL
Towards Automated Document Revision: Grammatical Error Correction, Fluency Edits, and Beyond
RIKEN（理化学研究所）；Allen Institute for AI（艾伦人工智能研究所）；Earth Species Project（地球物种项目）；Octanove Labs（Octanove实验室）；Tohoku University（东北大学）
自然语言处理技术已经迅速改善了自动语法纠错任务，社区开始探索文档级修订，作为下一个挑战之一。为了超越基于NLP的文档级自动语法纠错，存在两个主要障碍：（1）很少有公共语料库具有由专业编辑注释的文档级修订，以及（2）由于存在无限的修订可能性，因此不可能引出所有可能的参考文献并使用这些参考文献评估修订的质量。本文件处理这些挑战。首先，我们介绍了一个新的文件修订语料库，TETRA，专业编辑修改学术论文样本ACL选集，其中包含一些微不足道的语法错误，使我们能够更专注于文件和段落级的编辑，如连贯性和一致性。第二，我们探索参考和可解释的元评估方法，可以检测文件修订的质量改进。我们展示了TETRA与现有文档修订语料库相比的独特性，并证明了微调的预训练语言模型可以区分修订后的文档质量，即使差异很小。这一令人鼓舞的结果将鼓励社区在未来进一步探索自动化文档修订模型和指标。
2022-05-23 cs.CL
Mining Error Templates for Grammatical Error Correction
Soochow University（苏州大学）；DAMO Academy（达摩院）；Alibaba Group（阿里巴巴集团）
一些语法错误纠正（GEC）系统结合了手工制作的规则，并取得了积极的效果。然而，手动定义规则是费时费力的。鉴于此，我们提出了一种方法来自动挖掘错误模板的GEC。错误模板是一个用于识别文本错误的正则表达式。我们使用网络爬虫从互联网上获取这样的错误模板。对于每一个模板，我们进一步选择相应的纠正措施，通过使用语言模型的困惑作为一个标准。基于该方法，我们已经积累了1,119个中文GEC错误模板。在新提出的CTC-2021中文GEC基准上的实验结果表明，结合我们的错误模板可以有效地提高强GEC系统的性能，特别是在训练数据很少的两种错误类型上。我们的错误模板可从\url{https://github.com/HillZhang1999/gec_error_template}获得。
2022-06-23 cs.CL
A Self-Refinement Strategy for Noise Reduction in Grammatical Error Correction
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Tohoku University（东北大学）；Tokyo Metropolitan University（东京都立大学）
现有的语法错误纠正（GEC）方法主要依赖于对手动创建的GEC数据集的监督学习。然而，很少有人关注验证和确保数据集的质量，以及低质量的数据如何影响GEC的性能。我们确实发现，有一个不可忽视的“噪音”量，错误被不适当地编辑或留下未纠正。为了解决这个问题，我们设计了一种自细化方法，其关键思想是通过利用现有模型的预测一致性来对这些数据集进行去噪，并优于强去噪基线方法。我们进一步应用了特定于任务的技术，并在CoNLL-2014、JFLEG和BLOG-2019基准测试中实现了最先进的性能。然后，我们分析了所提出的去噪方法的效果，发现我们的方法可以提高更正的覆盖率，并促进流畅性编辑，这反映在更高的召回率和整体性能上。
2020-10-07 cs.CL
