Larger Context Window, Fewer Overcorrections: Optimizing Prompts and Batching for Minimal-Edit Grammatical Error Correction
Ukrainian Catholic University（乌克兰天主教大学）；YouScan；Zendesk
针对最小编辑语法纠错中LLM过度修正问题，提出基于分类法指令、句子批处理和LLM辅助提示优化的方法，在BEA-2019上达到F0.5=78.32，接近微调SOTA。
2026-09-11 cs.CL
HyperEdit: Unlocking Instruction-based Text Editing in LLMs via Hypernetworks
University of Connecticut（康涅狄格大学）；San Francisco State University（旧金山州立大学）；University of California, Riverside（加州大学河滨分校）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Florida State University（佛罗里达州立大学）；University of Notre Dame（圣约翰大学）
HyperEdit通过超网络动态适应和差分感知正则化，提升大语言模型在基于指令的文本编辑任务中的性能，实现9%-30%的BLEU提升。
2025-12-14 cs.CL cs.LG
Reducing Sequence Length by Predicting Edit Operations with Large Language Models
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Tokyo Institute of Technology（东京工业大学）
本文提出预测源文本编辑跨度以减少局部序列转换任务的目标序列长度和推理成本，在四项任务中达到基线相当甚至最先进的性能。
2023-10-21 cs.CL
Corpora Generation for Grammatical Error Correction
Google Research（谷歌研究院）
语法错误纠正（GEC）最近已经使用序列到序列框架建模。然而，与序列转换问题，如机器翻译，GEC遭受缺乏大量的并行数据。我们描述了两种方法生成大型并行数据集的GEC使用公开的维基百科数据。第一种方法从维基百科的编辑历史中提取源-目标对，具有最小的过滤能力，而第二种方法通过桥梁语言的往返翻译将噪声引入维基百科的句子。这两种策略产生类似大小的平行语料库，包含大约4 B个标记。我们采用了迭代解码策略，这是专为我们构建的语料库的松散监督性质。我们证明了使用任何类型的语料库训练的神经GEC模型具有相似的性能。在Lang-8语料库和集成上微调这些模型使我们能够在CoNLL-2014基准和JFLEG任务上超越最先进的技术。我们提供了系统的分析，比较了两种方法来生成数据，并强调了集成的有效性。
2019-04-10 cs.CL stat.ML
LEWIS: Levenshtein Editing for Unsupervised Text Style Transfer
The University of Tokyo（东京大学）；University of Washington（华盛顿大学）
许多类型的文本风格转换可以通过小而精确的编辑来实现（例如，从我度过了一段可怕的时光......我有一个伟大的时间……）。我们提出了一个粗略到精细的编辑器的风格转换，转换文本使用Levenshtein编辑操作（例如插入，替换，删除）。与以前的单跨度编辑方法不同，我们的方法同时编辑源文本中的多个跨度。为了训练没有并行风格的文本对（例如+/-情感语句对），我们提出了一个无监督的数据合成过程。我们首先使用样式分类器attention将文本转换为样式无关的模板（例如，我有一个SLOT时间...），然后使用微调的预训练语言模型来填充这些模板中的槽。我们的方法优于现有的生成和编辑风格的情感（Yelp，亚马逊）和礼貌（礼貌）转移方法。特别是，多跨度编辑比单跨度编辑实现了更高的性能和更多样化的输出。此外，与以前的无监督数据合成方法相比，我们的方法产生了更高质量的并行样式对，提高了模型性能。
2021-05-18 cs.CL
APEX-VW: A Document-Level English-Spanish Post-Editing Dataset in the Healthcare Domain
Universitat Politècnica de València（瓦伦西亚理工大学）；Lancaster University（兰卡斯特大学）；Universidad de Granada（格拉纳达大学）
本文提出APEX-VW医疗领域文档级英西后编辑数据集，含4.2万词文档及专业后编辑数据，可用于术语规范化等研究，为相关任务提供基准。
2026-08-11 cs.CL
End2End Acoustic to Semantic Transduction
LIUM - Le Mans University（勒芒大学计算机科学实验室）；LIA - Avignon University（阿维尼翁大学计算机科学实验室）；McGill University（麦吉尔大学）
在本文中，我们提出了一个新的端到端序列到序列的口语语言理解模型使用注意力机制。它可靠地选择上下文声学特征，以假设语义内容。设计并测试了一个能够从声学跨度中提取所有发音单词和概念的初始架构。该系统采用浅层融合语言模型，在法语媒体语料库上实现了13.6的概念出错率和18.5的概念值出错率，与现有技术相比降低了2.8个百分点。该转导达到15.4 CER和21.6 CVER，而没有任何新类型的上下文。
2021-02-01 cs.CL cs.SD eess.AS
LaSEr-Edit: Localized Span-level Error Editing with Energy-based Localization
Graduate School of Data Science（数据科学研究生院）；Seoul National University（首尔国立大学）；Georgia Institute of Technology（佐治亚理工学院）
研究针对大语言模型满足约束问题，提出LaSEr-Edit方法。利用轻量级特定任务的基于能量的模型进行错误定位，提出LaSEr-LLM Edit和LaSEr-EBM Edit两种文本修订方法，实验表明该方法能有效控制文本，多约束下也表现良好。
2026-09-29 cs.CL cs.LG
Predicting Compact Phrasal Rewrites with Large Language Models for ASR Post Editing
Google Research（谷歌研究院）
本文提出一种基于短语的编辑表示，用于LLM在ASR后编辑任务中的紧凑改写，在LibriSpeech上以较小长度缩减损失实现了WER差距的大幅缩小。
2025-01-23 cs.AI cs.CL cs.LG
Converge to the Truth: Factual Error Correction via Iterative Constrained Editing
ByteDance AI Lab（字节跳动人工智能实验室）
给定一个可能错误的声明语句，我们如何以最小的编辑自动纠正它？现有的方法要么需要大量的虚假和纠正的索赔对监督训练或不处理好错误跨越多个令牌内的话语。在本文中，我们提出了VENCE，一种新的方法，用于事实错误纠正（FEC）与最小的编辑。VENCE将FEC问题公式化为相对于目标密度函数的迭代采样编辑动作。我们仔细设计了目标函数，预测真实性分数来自离线训练的事实验证模型。VENCE使用远程监督的语言模型（T5）基于关于输入标记和编辑动作的真实性分数的反计算梯度来对最可能的编辑位置进行采样。在公共数据集上的实验表明，与以前最好的远程监督方法相比，VENCE将广泛采用的SARI度量提高了5.3（或相对提高了11.8%）。
2023-02-23 cs.CL
arXivEdits: Understanding the Human Revision Process in Scientific Writing
Georgia Institute of Technology（佐治亚理工学院）；Ohio State University（俄亥俄州立大学）
科学出版物是交流研究发现的主要手段，其中写作质量至关重要。然而，以前的工作研究人类编辑过程在这一领域主要集中在摘要或介绍部分，导致一个不完整的图片。在这项工作中，我们提供了一个完整的计算框架，研究文本修订科技写作。我们首先介绍arXivEdits，这是一个新的注释语料库，包含来自arXiv的751篇完整论文，在其多个版本的修订中具有黄金句子对齐，以及细粒度的跨级编辑及其1,000个句子对的潜在意图。它支持我们的数据驱动分析，以揭示研究人员修改论文的常见策略。为了扩大分析，我们还开发了自动方法来提取文档，句子和单词级别的修订。在我们的语料库上训练的神经CRF句子对齐模型达到了93.8 F1，能够可靠地匹配不同版本之间的句子。我们制定的编辑提取任务作为一个跨度对齐问题，我们提出的方法提取更多的细粒度和可解释的编辑，相比常用的差异算法。在我们的数据集上训练的意图分类器在细粒度意图分类任务上达到78.9 F1。我们的数据和系统发布在tiny.one/arxivedits。
2022-10-31 cs.CL
SWiPE: A Dataset for Document-Level Simplification of Wikipedia Pages
Salesforce AI（赛富时人工智能研究院）
本文提出SWiPE数据集，利用完整修订历史重建英文维基百科到简单英文维基百科的文档级简化编辑过程，标注5,000个文档对和超过40,000处编辑，并通过自动标注模型及实验证明该数据集能提升简化模型生成复杂编辑的能力。
2023-05-30 cs.CL
Fine-Tuning LLMs with Fine-Grained Human Feedback on Text Spans
Columbia University（哥伦比亚大学）；Microsoft（微软公司）；Johns Hopkins University（约翰霍普金斯大学）
本文提出基于文本片段的细粒度人类反馈方法，通过反馈驱动的改进链提升语言模型微调效果。
2025-12-29 cs.CL
Constraint-Aware Counterfactual Editing for Aspect-Based Sentiment Analysis
Oklahoma State University（俄克拉荷马州立大学）
研究基于方面的情感分析中的反事实评估难题，提出CAVE-ABSA框架，通过定位观点跨度、可控重写、修复优化、多维度过滤等生成和验证方面级反事实，用于数据集构建及测试模型情感推理能力。
2026-07-16 cs.CL
Output Vector Editing for Memorization Mitigation in Large Language Models
Center for Information and Language Processing, LMU Munich（慕尼黑大学语言与信息处理中心）；Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Pioneer Centre for AI（人工智能先锋中心）
提出输出向量编辑方法，通过约束优化修改MLP神经元输出向量引入干扰项，在不改变激活值的情况下抑制记忆化序列，在OLMo-7B上实现87.9%抑制率，并揭示MLP编辑的机制边界。
2026-10-22 cs.CL
NewsEdits: A News Article Revision Dataset and a Document-Level Reasoning Challenge
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of California, Los Angeles（加州大学洛杉矶分校）
新闻文章修改历史提供了线索，叙述和事实的演变，在新闻文章。为了便于分析这种演变，我们提出了第一个公开的数据集的新闻修订历史，新闻编辑。我们的数据集是大规模和多语种的;它包含来自三个国家的22家英语和法语报纸来源的120万篇文章，460万个版本，覆盖时间跨度为15年（2006-2021）。我们定义了文章级别的编辑操作：添加、删除、编辑和重构，并开发了一个高精度的提取算法来识别这些操作。为了强调许多编辑操作的事实性质，我们进行了分析，显示添加和删除的句子比未更改的句子更有可能包含更新事件，主要内容和引用。最后，为了探索编辑操作是否是可预测的，我们介绍了三个新的任务，旨在预测版本更新期间执行的操作。我们表明，这些任务对于专家来说是可能的，但对于大型NLP模型来说是具有挑战性的。我们希望这可以刺激叙事框架的研究，并为记者追逐突发新闻提供预测工具。
2022-06-14 cs.CL
DiffusER: Discrete Diffusion via Edit-based Reconstruction
University of Tokyo（东京大学）；Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）；Inspired Cognition（Inspired Cognition公司）
在文本生成中，一次一个标记从头开始生成文本的模型目前是主导范式。尽管这些模型性能很好，但它们缺乏修改现有文本的能力，这限制了它们在许多实际场景中的可用性。我们希望通过DiffusER（通过基于编辑的重建进行扩散）来解决这个问题，这是一种基于去噪扩散模型的新的基于编辑的文本生成模型--一类使用去噪步骤的马尔可夫链来增量生成数据的模型。DiffusER不仅是一个强大的生成模型，在跨越机器翻译、摘要和风格转换的多个任务上与自回归模型相媲美;它还可以执行标准自回归模型不太适合的其他各种生成。例如，我们证明了DiffusER使用户可以在原型或不完整序列上生成条件，并根据以前的编辑步骤继续修改。
2022-10-30 cs.CL cs.LG
Do Text Edits Generalize to Visual Generation? Benchmarking Cross-Modal Knowledge Editing in UMMs
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）；University of Toronto（多伦多大学）；University of Washington（华盛顿大学）
提出跨模态知识编辑基准UniKE，发现文本编辑在图像生成中效果显著下降（VQA准确率仅18.5%），并提出推理增强参数编辑方法提升跨模态迁移效果。
2026-05-30 cs.CL cs.CV
dots.tts.edit: Precisely Controlled Speech Editing with a Continuous Autoregressive Model
dots.tts Team（dots.tts团队）
本研究提出dots.tts.edit语音编辑工具，采用XML风格结构化指令接口，基于连续自回归TTS模型，在doteBench评估中表现优异，音频质量与现有系统相当。
2026-10-30 cs.AI cs.CL cs.SD
Operation-Guided Progressive Human-to-AI Text Transformation Benchmark for Multi-Granularity AI-Text Detection
Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·泽亚德人工智能大学）；University College London（伦敦大学学院）
提出OpAI-Bench基准，通过九种渐进修订版本和五种AI编辑操作，模拟人机协作编辑过程，支持文档、句子、词元和跨度多粒度检测，揭示AI文本可检测性受编辑操作、领域和累积修订历史影响，并发现混合作者中间版本比纯人类或纯AI端点更难检测。
2026-06-04 cs.AI cs.CL cs.LG
Text Simplification by Tagging
Grammarly（Grammarly公司）
基于编辑的方法最近在多个单语序列转导任务上显示出有希望的结果。与传统的序列到序列（Seq2Seq）模型相比，这些方法在并行语料库上训练时从头开始学习生成文本，这些方法已被证明更有效，因为它们能够学习进行快速准确的转换，同时利用强大的预训练语言模型。受这些想法的启发，我们提出了TST，一个简单而高效的文本简化系统，基于序列标记，利用预先训练的基于transformer的编码器。我们的系统在现有系统的训练和推理中进行了简单的数据增强和调整，这使得它不太依赖于大量并行训练数据，对输出提供了更多的控制，并实现了更快的推理速度。我们最好的模型在该任务的基准测试数据集上实现了接近最先进的性能。由于它是完全非自回归的，因此它的推理速度比当前最先进的文本简化系统快11倍以上。
2021-03-08 cs.AI cs.CL cs.LG
Equal CER, Unequal Damage: Severity-Weighted Character Error Rate for OCR
University of Rochester（罗切斯特大学）
针对OCR的标准CER存在惩罚力度不均问题，提出semCER方法，由LLM评判字符编辑严重性，在多语言实验中表现更贴合读者评判，发布了相关数据集与评分器。
2026-10-15 cs.AI cs.CL cs.CV
