Exploiting Unlabeled Data for Neural Grammatical Error Detection
Beihang University（北京航空航天大学）；Tsinghua University（清华大学）
近年来，对非母语写作者语篇中语法错误的识别和纠正受到越来越多的关注。虽然已经建立了一些注释语料库，以促进数据驱动的语法错误检测和纠正方法，但它们在数量和覆盖范围方面仍然有限，因为人工注释是劳动密集型的，耗时的，昂贵的。在这项工作中，我们提出利用未标记的数据训练神经网络为基础的语法错误检测模型。其基本思想是将错误检测作为一个二元分类问题，并从未标记的数据中获得正面和负面的训练样本。我们引入了一个基于注意力的神经网络来捕获影响被检测单词的长距离依赖关系。实验表明，该方法的性能明显优于支持向量机和卷积网络与固定大小的上下文窗口。
2016-11-29 cs.CL
Revisiting Classification Taxonomy for Grammatical Errors
Tsinghua University（清华大学）；University of Electronic Science and Technology of China（电子科技大学）；Peng Cheng Laboratory（鹏城实验室）；Tencent（腾讯）
本文提出系统性定性评估框架，从互斥性、覆盖度、均衡性和可用性四方面审视语法错误分类体系，并构建多体系标注数据集以揭示现有体系缺陷。
2025-02-18 cs.CL
Statistical Function Tagging and Grammatical Relations of Myanmar Sentences
University of Computer Studies（计算机研究大学）
本文描述了一种基于上下文无关文法（CFG）的缅甸语句子语法关系，并结合基于语料库的功能标注系统。缅甸句子统计功能标记的部分挑战来自缅甸具有自由短语顺序和复杂的形态系统这一事实。功能标注是缅甸语句子语法关系的预处理步骤。在功能标注任务中，利用正确的切分、词性标注和组块信息对缅甸语句子的功能进行标注。我们应用上下文无关文法（CFG）来找出功能标签的语法关系。我们还创建了一个功能标注的标注语料库，并提出了缅甸句子的语法规则。实验表明，我们的分析取得了很好的结果，简单句和复杂句。
2012-03-08 cs.CL
Efficient Grammatical Error Correction Via Multi-Task Training and Optimized Training Schedule
Steklov Institute of Mathematics（斯捷克洛夫数学研究所）
本文针对语法错误纠正缺乏标注数据的问题，提出利用多任务训练和优化训练调度更高效地使用数据，以400M参数的BART模型超越了11B参数的T5-XXL。
2023-11-20 cs.CL
FCGEC: Fine-Grained Corpus for Chinese Grammatical Error Correction
Zhejiang University（浙江大学）；Huawei Co., Ltd（华为技术有限公司）
本文提出细粒度中文语法纠错语料库FCGEC及Switch-Tagger-Generator基线模型，在低资源场景下优于现有GEC基准模型，并揭示了模型与人类水平之间的显著差距。
2022-10-22 cs.CL
How do you correct run-on sentences it's not as easy as it seems
Grammarly
连写句是常见的语法错误，但迄今为止很少有研究解决这个问题。这项工作介绍了两个机器学习模型，以纠正运行的句子，优于相关任务，标点符号恢复和整句语法错误纠正领先的方法。由于此错误的注释数据有限，我们尝试从干净的新闻专线文本中人工生成训练数据。我们的研究结果表明，人工训练数据是可行的这项任务。我们讨论了纠正运行和其他类型的错误，有低覆盖率的错误注释语料库的影响。
2018-09-21 cs.CL
GitHub Typo Corpus: A Large-Scale Multilingual Dataset of Misspellings and Grammatical Errors
缺乏大规模数据集一直是NLP任务（如拼写纠正和语法错误纠正（GEC））发展的主要障碍。作为这些任务的补充新资源，我们提供了GitHub Typo Corpus，这是一个大规模的多语言拼写错误和语法错误数据集，以及从GitHub收集的更正，GitHub是一个托管和共享git存储库的大型流行平台。我们已经公开的数据集包含超过15种语言的超过35万次编辑和6500万个字符，使其成为迄今为止最大的拼写错误数据集。我们还描述了我们的过程中过滤真正的错别字编辑的基础上学习的分类器在一个小的注释子集，并证明，错别字编辑可以识别F1 ~ 0.9使用一个非常简单的分类器，只有三个功能。对数据集的详细分析表明，现有的拼写校正器仅实现了约为100%的F-度量。0.5，这表明该数据集是一个新的，丰富的拼写错误来源，补充了现有的数据集。
2019-11-28 cs.CL
Grammatical Error Correction via Mixed-Grained Weighted Training
University of Science and Technology of China（中国科学技术大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
针对语法错误纠正任务中数据固有差异被忽略的问题，提出MainGEC方法，通过设计token级和句子级训练权重进行混合粒度加权训练，在两种方式及两个基准数据集上均取得显著性能提升。
2023-11-23 cs.CL
Automatic Annotation of Grammaticality in Child-Caregiver Conversations
Aix-Marseille University（艾克斯-马赛大学）
提出一种儿童-看护者对话中上下文相关语法性的编码方案，训练基于Transformer的模型实现自动标注并达到人类一致性，验证了儿童语法性随年龄稳定增长。
2024-03-21 cs.CL
Benchmarking zero-shot and few-shot approaches for tokenization, tagging, and dependency parsing of Tagalog text
Electrical and Electronics Engineering Institute（电气与电子工程学院）；University of the Philippines（菲律宾大学）
任何书面语言中文本的语法分析通常涉及许多基本处理任务，例如标记化、形态标记和依存句法分析。对于具有大型数据集的语言，最先进的系统可以在这些任务上实现高准确性，但对于具有很少或没有注释数据的语言，结果很差。为了解决这个问题的TagSword语言，我们研究使用替代语言资源创建特定于任务的模型，在没有依赖性注释的TagSword数据。我们还探讨了使用词嵌入和数据增强，以提高性能时，只有少量的注释TagSign数据可用。我们表明，这些zero-shot和Few-Shot的方法产生了显着的改进，语法分析的域和域外的标签文本相比，国家的最先进的监督基线。
2023-01-06 cs.CL
Zero-shot Cross-Lingual Transfer for Synthetic Data Generation in Grammatical Error Detection
Ubisoft La Forge（育碧拉福奇实验室）
本文提出一种两阶段微调方法，利用多语言预训练模型的零样本跨语言迁移能力生成合成错误数据，用于低资源语言的语法错误检测，优于现有无标注方法。
2024-07-16 cs.AI cs.CL
Linguistic Rules-Based Corpus Generation for Native Chinese Grammatical Error Correction
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Tencent Cloud Xiaowei（腾讯云小微）；Tsinghua University（清华大学）；Peng Cheng Laboratory（鹏城实验室）；Sun-Yat Sen University（中山大学）
汉语语法纠错是一项具有挑战性的自然语言处理任务，也是人类日常生活中的一个常见应用。近年来，许多数据驱动的方法被提出用于CGEC研究的发展。然而，CGEC领域存在两个主要限制：首先，缺乏高质量的注释训练语料库阻止了现有CGEC模型的性能得到显着改善。其次，在广泛使用的测试集语法错误不是由母语为汉语的人，导致CGEC模型和实际应用之间的差距显着。在本文中，我们提出了一种基于语言规则的方法来构建大规模的CGEC训练语料库自动生成的语法错误。此外，我们提出了一个具有挑战性的CGEC基准完全来自母语为中国的人在现实世界中的情况下所犯的错误。大量的实验和详细的分析不仅表明，该方法构造的训练数据有效地提高了CGEC模型的性能，而且反映出该基准测试是CGEC领域进一步发展的优秀资源。
2022-10-19 cs.CL
Large corpora and large language models: a replicable method for automating grammatical annotation
University of Gothenburg（哥德堡大学）；Université Paris Cité（巴黎西岱大学）
本文提出一种基于Claude 3.5 Sonnet的可复现有监督方法，通过提示工程与少量训练数据实现英语语法构式标注，准确率超90%，为大规模语料语法变异研究提供高效工具。
2025-04-10 cs.CL
A BERT-based Unsupervised Grammatical Error Correction Framework
Guangdong University of Technology（广东工业大学）；Peking University（北京大学）；Yunnan Minzu University（云南民族大学）；Guangdong University of Foreign Studies（广东外语外贸大学）
本研究提出一种基于BERT的无监督语法错误纠正框架，将GEC视为多类分类任务，包含数据流构建、句子困惑度评分及错误检测与纠正模块，并提出新的伪困惑度评分方法，在Tagalog和Indonesian语料库上表现优异。
2023-03-30 cs.CL
Towards Minimal Supervision BERT-based Grammar Error Correction
Carnegie Mellon University（卡内基梅隆大学）
现有的语法纠错模型通常将纠错任务视为序列生成，这需要大量的标注数据，限制了在数据有限的情况下的应用。我们尝试从预训练的语言模型中整合上下文信息，以利用注释并使多语言场景受益。实验结果表明，Transformers的双向编码器表征（BERT）在语法纠错任务中具有很强的潜力。
2020-01-10 cs.AI cs.CL
GrammarGPT: Exploring Open-Source LLMs for Native Chinese Grammatical Error Correction with Supervised Fine-Tuning
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Soochow University（苏州大学）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；University of Science and Technology of China（中国科学技术大学）
本文提出 GrammarGPT，利用 ChatGPT 合成与人工标注的约千条混合数据及错误不变增强，对开源 LLM 进行指令微调，在中文语法纠错任务上以少 1200 倍数据显著超越 SOTA。
2023-08-17 cs.CL
Automatic Extraction of Tagset Mappings from Parallel-Annotated Corpora
本文介绍了AMALGAM项目（词汇语法标注模型之间的自动映射）的一些最新工作。我们正在研究如何映射之间的领先语料库注释方案，以提高其resuability。将所有包含的语料库整理成单个大型注释语料库将为语音和手写识别等任务提供更详细的语言模型。特别是，我们专注于从语料库中提取映射的方法，已根据一个以上的注释方案进行注释。
1995-06-08 cmp-lg cs.CL
Wronging a Right: Generating Better Errors to Improve Grammatical Error Detection
University College London（伦敦大学学院）
语法错误校正与其他机器学习任务一样，极大地受益于大量高质量训练数据，而这些数据的产生通常是昂贵的。虽然编写一个程序来自动生成真实的语法错误是困难的，但人们可以学习自然发生的错误的分布，并尝试将它们引入其他数据集。以这种方式使用统计机器翻译诱导错误的初步工作已经显示出希望;我们研究廉价构建合成样本，给出一个小语料库的人类注释的数据，使用现成的注意序列到序列模型和一个直接的后处理过程。我们的方法产生了充满错误的人工数据，帮助香草双向LSTM在语法错误检测方面超越了以前的最新技术水平，并且之前引入的模型获得了超过5%的$F_{0.5}$分数的进一步改进。当试图确定一个给定的句子是否是合成的时，人类注释者最多只能获得39.39 $F_1$分数，这表明我们的模型生成的大多是类似人类的实例。
2018-09-26 cs.CL cs.LG stat.ML
A Data-Driven Approach to Idiomaticity Based on Experts' Criteria in Theoretical Linguistics
Tyumen State University（塔戈尔大学）；Aston University（阿斯顿大学）
基于理论语言学专家标注的16项标准，分析286个多词表达的习语性分布，发现无绝对习语表达，词汇标准影响最大。
2026-05-31 cs.CL
GiesKaNe: Bridging Past and Present in Grammatical Theory and Practical Application
University of Giessen（吉森大学）
本文介绍GiesKaNe历史句法树库的语料编纂方法，提出机器辅助文本分类和从现有标注推导标准标注的新方法，并证明可基于简单电子表格和现有基础设施实现，无需专门标注工具。
2025-02-07 cs.CL
RuBLiMP: Russian Benchmark of Linguistic Minimal Pairs
University of Edinburgh（爱丁堡大学）；HSE University（高等经济大学）；University of Groningen（格罗宁根大学）；Ghent University（根特大学）；SaluteDevices（SaluteDevices公司）；Toloka AI（Toloka AI公司）；University of Oslo（奥斯陆大学）
该研究构建含4.5万对句子的俄语最小对立体基准RuBLiMP，评估25个模型，揭示其在结构关系、否定、及物性和时态理解上仍落后于人类。
2024-10-01 cs.CL
YACLC: A Chinese Learner Corpus with Multidimensional Annotation
Beijing Language and Culture University（北京语言大学）；Beijing Normal University（北京师范大学）；Yunnan Normal University（云南师范大学）；Northeastern University（东北大学）；Shanghai University of Finance and Economics（上海财经大学）；Tsinghua University（清华大学）
学习者语料库收集第二语言学习者，即第二语言或外语学习者的语言数据。该资源对第二语言习得研究、外语教学和自动语法纠错具有重要意义。然而，针对对外汉语学习者的学习者语料库研究却很少。因此，我们建议建立一个大规模、多维的汉语学习者语料库。为了构建语料库，我们首先获得了大量的由汉语学习者生成的富文本。然后，我们设计了一个注释方案，包括句子的可接受性评分以及语法错误和流畅性为基础的更正。我们建立了一个众包平台来有效地执行注释（yaclc.wenmind.net）。我们将该语料库命名为YACLC（Yet Another Chinese Learner Corpus），并将其作为CUGE基准测试的一部分（http：//www.example.com）发布。cuge.baai.ac.cn通过对语料库中的原文和注释的分析，我们发现YACLC具有相当大的规模和非常高的注释质量。希望该语料库能进一步促进汉语国际教育和汉语语法错误自动纠正的研究。
2021-12-30 cs.CL
Data Augmentation for Spoken Grammatical Error Correction
ALTA Institute, Department of Engineering（ALTA研究所，工程系）
针对SGEC标注数据稀缺问题，提出全自动生成含语法错误与不流利现象音频-文本对的方法及客观评估指标，并在S&I Corpus上验证其对书面GEC和SGEC的增强价值。
2025-07-25 cs.AI cs.CL cs.SD
Building a resource for studying translation shifts
本文介绍了一种跨学科的方法，它汇集了语料库语言学和翻译研究领域。它介绍了正在进行的工作，创建一个语料库资源，翻译转移明确注释。翻译移位是指在翻译过程中发生的偏离源文本和目标文本之间的正式对应关系的现象。如果机器翻译的输出与人类翻译相似，那么以系统的方式注释这种转变的资源将使研究需要解决的现象成为可能。本文中描述的资源包含英语源文本（议会议事录）及其德语翻译。移位注释基于谓词-论元结构，并分两步进行：首先，以简单的方式单语注释谓词及其论元。然后，相应的英语和德语谓词和参数彼此对齐。无论何时发生变化（主要是语法或语义上的变化），对齐都会被相应地标记。
2006-06-22 cs.CL
RoLegalGEC: Legal Domain Grammatical Error Detection and Correction Dataset for Romanian
National University of Science and Technology POLITEHNICA Bucharest（波兰亚技术大学布加勒斯特分校）；Paris 1 Panthéon-Sorbonne University（巴黎1大学蓬莎博纳大学）；University of Bucharest（布加勒斯特大学）
本文提出RoLegalGEC数据集，包含35万条法律文本中的语法错误及标注，评估多种神经网络模型用于检测和纠正语法错误，丰富罗马尼亚语研究资源。
2026-04-22 cs.AI cs.CL cs.LG
"When Data is Scarce, Prompt Smarter"... Approaches to Grammatical Error Correction in Low-Resource Settings
IIT Madras（印度理工学院马德拉斯学院）；AI4Bharat
本研究通过提示方法和少量样本策略，利用大型语言模型在低资源印地语系语言中实现高效语法错误纠正，取得领先成果。
2025-11-25 cs.AI cs.CL
GECTurk: Grammatical Error Correction and Detection Dataset for Turkish
Koç University（科奇大学）
本文提出面向土耳其语的GECTurk数据集及合成数据生成流水线，覆盖20余条语法规则并构建13万平行句对，通过三类基线模型验证其在领域外场景下的高质量与可迁移性。
2023-09-20 cs.CL cs.LG
Annotated Speech Corpus for Low Resource Indian Languages: Awadhi, Bhojpuri, Braj and Magahi
Dr. Bhimrao Ambedkar University（比姆拉奥·阿姆贝德卡尔博士大学）；Indian Institute of Technology-Kharagpur（印度理工学院克勒格布尔分校）；Microsoft Research India（微软印度研究院）；Panlingua Language Processing LLP（泛语语言处理有限责任合伙公司）；National University of Ireland, Galway（爱尔兰国立大学戈尔韦分校）
在本文中，我们讨论了一个正在进行的工作，为四个低资源的印度-雅利安语言-阿瓦地，Bhojpuri，Braj和Magahi使用语言数据汇集的字段方法的语音语料库的发展。目前，该语料库的总规模约为18小时（约为18小时）。4-5小时每种语言），它是转录和注释的语法信息，如词性标签，形态特征和普遍的依赖关系。我们讨论了我们以这些语言收集数据汇集的方法，其中大部分是在COVID-19大流行期间进行的，目的之一是为讲这些语言的低收入群体创造一些额外收入。在本文中，我们还讨论了这些语言的自动语音识别系统的基线实验的结果。
2022-06-26 cs.CL cs.SD eess.AS
Multi-Task Self-Supervised Learning for Disfluency Detection
Harbin Institute of Technology（哈尔滨工业大学）；University of Oxford（牛津大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
大多数现有的不流利表达检测方法严重依赖于人类注释的数据，这在实践中是昂贵的。为了解决训练数据瓶颈，我们研究了用于组合多个自监督任务的方法，即，受监督的任务，其中可以收集数据而无需手动标记。首先，我们通过随机添加或删除未标记的新闻数据中的单词来构建大规模的伪训练数据，并提出了两个自监督的预训练任务：（i）标记任务，以检测添加的噪声单词。(ii)句子分类，以区分原始句子和语法错误的句子。然后，我们将这两项任务结合起来，共同训练一个网络。然后使用人工注释的不流利检测训练数据来微调预训练的网络。在常用的英语Switchboard测试集上的实验结果表明，与以前的系统（使用完整数据集进行训练）相比，我们的方法可以通过使用不到1%（1000句）的训练数据来实现具有竞争力的性能。我们在完整数据集上训练的方法明显优于以前的方法，在英语交换机上减少了21%的错误。
2020-04-09 cs.CL
Speak & Improve Corpus 2025: an L2 English Speech Corpus for Language Assessment and Feedback
ALTA Institute（阿尔塔研究所）；University of Cambridge（剑桥大学）；Cambridge University Press and Assessment（剑桥大学出版社与评估部）；Enhanced Speech Technology Ltd（增强语音技术有限公司）
本文介绍Speak & Improve语料库2025，一个含整体评分和错误标注的L2英语口语数据集，旨在解决公开高质量标注数据缺乏问题，支持口语评估、反馈及ASR、GEC等技术研究。
2024-12-17 cs.CL
Czech Grammar Error Correction with a Large and Diverse Corpus
Charles University, Faculty of Mathematics and Physics（查理大学数学与物理学院）；Charles University, Faculty of Arts（查理大学文学院）
我们介绍了一个大型和多样化的捷克语语料库注释语法错误纠正（GEC）的目的是在这一领域的语言以外的英语仍然稀缺的数据资源作出贡献。捷克语语法纠错语料库（GECCC）提供了四个领域，涵盖了从非母语人士撰写的高错误密度文章到网站文本的错误分布，其中错误预计要少得多。我们比较了几个捷克GEC系统，包括几个基于Transformer的系统，为未来的研究奠定了坚实的基础。最后，我们对人类对我们数据的判断进行了通用GEC指标的元评估。我们在http://hdl.handle.net/11234/1-4639上以CC BY-SA 4.0许可证公开提供新的捷克GEC语料库。
2022-04-21 cs.CL
BiST: A Gold Standard Bangla-English Bilingual Corpus for Sentence Structure and Tense Classification with Inter-Annotator Agreement
Kennesaw State University（肯尼索州立大学）
BiST是一个精心编纂的孟加拉语-英语双语语料库，用于句子级别的语法分类，标注了句法结构和时态。该语料库包含30,534个句子，通过多阶段框架和Fleiss Kappa值确保高质量标注，支持语法建模任务。
2026-04-06 cs.AI cs.CL
Prediction of Item Difficulty for Reading Comprehension Items by Creation of Annotated Item Repository
Stanford University（斯坦福大学）
本文通过创建包含阅读材料和学生成绩数据的注释仓库，利用惩罚回归模型预测项目难度，同时结合LLM嵌入进一步提升预测性能，为阅读理解题的分类和过滤提供工具。
2026-03-31 cs.CL
Introducing corpora Hlava Cor and Hlava AD: Human Label Variation in Coreference and Discourse Relations
Charles University, Faculty of Mathematics and Physics, Institute of Formal and Applied Linguistics（查理大学数学物理学院形式与应用语言学研究所）
为探究文本连贯性理解中的个体差异，构建了两个多标注捷克语语料库，分别针对共指识别和话语关系标注，并收集标注者的解释，发现标注一致性约60-65%，且自动模型分歧处人类标注更困难。
2026-06-25 cs.CL
Silver Syntax Pre-training for Cross-Domain Relation Extraction
IT University of Copenhagen（哥本哈根信息技术大学）；University of Turku（图尔库大学）；LMU Munich（慕尼黑大学）
本文针对跨域关系抽取数据标注成本高的问题，提出利用句法结构与语义的亲和性，通过高精度句法分析器自动获取最短依赖路径上的句法关系作为预训练数据，在无额外标注下于六种跨域设置中五种优于基线。
2023-05-18 cs.CL
Deep Learning Models in Detection of Dietary Supplement Adverse Event Signals from Twitter
University of Minnesota（明尼苏达大学）；University of Florida（佛罗里达大学）
目的：这项研究的目的是开发一个深度学习管道，以检测Twitter上饮食不良事件（DS AE）的信号。材料和方法：我们从2012年到2018年获得了247，807条提到DS和AE的推文。我们在2,000条随机选择的推文上标注了生物医学实体和关系。对于概念提取任务，我们比较了传统的词嵌入与SVM，CRF和LSTM-CRF分类器的性能BERT模型。对于关系抽取任务，我们将GloVe向量与CNN分类器与BERT模型进行了比较。我们在每个任务中选择表现最好的模型来组装端到端的深度学习管道来检测DS AE信号，并将结果与来自DS知识库的已知DS AE进行比较（即，iDISK）。结果：在两个任务中，基于BERT的模型都优于传统的词嵌入。表现最好的概念提取模型是BioBERT模型，它可以识别补充剂、症状和身体器官实体，F1分数分别为0.8646、0.8497和0.7104。性能最好的关系抽取模型是BERT模型，它可以分别以0.8335和0.7538的F1分数识别目的和AE关系。端到端管道能够提取DS适应症和DS AE，F1评分分别为0.7459和0.7414。与iDISK相比，我们可以找到已知和新型的DS-AE。结论：我们已经证明了使用基于BioBERT的深度学习管道从Twitter检测DS AE信号的可行性。
2021-06-21 cs.CL cs.IR
Naamah: A Large Scale Synthetic Sanskrit NER Corpus via DBpedia Seeding and LLM Generation
Centre for Development of Advanced Computing (C-DAC)（发展高级计算中心）
本文提出Naamah，一个包含102942个句子的高质量梵语NER数据集，结合DBpedia实体提取与混合推理模型生成，用于评估XLM RoBERTa和IndicBERTv2模型。
2026-04-29 cs.AI cs.CL
An Empirical Study of Automatic Post-Editing
Peking University（北京大学）
自动译后编辑（APE）旨在通过自动纠正机器翻译输出中的错误来减少人工译后编辑工作。由于人工标注的训练数据数量有限，数据稀缺是所有APE系统面临的主要挑战之一。为了缓解真实训练数据的缺乏，目前的APE系统大多采用数据增强方法来生成大规模人工语料库。鉴于数据增强在APE中的重要性，本文分别研究了人工语料库和人工数据域的构建方法对APE模型性能的影响。此外，APE的难度在不同的机器翻译（MT）系统之间是不同的。我们在一个困难的APE数据集上研究了最先进的APE模型的输出，以分析现有APE系统中的问题。首先，我们发现：1）具有高质量源文本和机器翻译文本的人工语料库能够更有效地提高APE模型的性能; 2）领域内人工训练数据能够更好地提高APE模型的性能，而无关的领域外数据实际上会干扰模型的性能; 3）现有的APE模型在包含长源文本或高质量机器翻译文本的情况下会遇到困难; 4）最新的APE模型在语法和语义添加问题上工作良好，但输出容易出现实体和语义遗漏错误。
2022-09-16 cs.CL
Annotations for Exploring Food Tweets From Multiple Aspects
Artificial Intelligence Research Center, National Institute of Advanced Industrial Science and Technology（产业技术综合研究所人工智能研究中心）；University of Latvia（拉脱维亚大学）
本研究基于已收集12年、含近300万条推文的拉脱维亚推特食客语料库LTEC，补充了覆盖四类任务的人工标注评估子集，通过基线模型实验并指出未来建模挑战。
2024-12-09 cs.AI cs.CL
Synthetic4Health: Generating Annotated Synthetic Clinical Letters
The University of Manchester（曼彻斯特大学）
针对临床信函含敏感信息难以用于科研训练的问题，本研究基于Bio_ClinicalBERT探索不同掩码策略生成去标识化合成临床信函，验证了仅编码器模型的优势及合成信函在下游NER任务中的替代潜力。
2024-09-14 cs.AI cs.CL
MDC-R: The Minecraft Dialogue Corpus with Reference
Queen Mary University of London（伦敦大学玛丽女王学院）；Universität Wien（维也纳大学）；University of Illinois（伊利诺伊大学）；Swansea University（斯旺西大学）
本文介绍了带有指代专家标注的Minecraft对话语料库（MDC-R），通过补充原始MDC的回指和指示指代标注，并经实验验证了其在指代表达理解任务中的价值。
2025-08-10 cs.CL
The Moral Foundations Weibo Corpus
Wenzhou Kean University（温州肯恩大学）；Nanchang Hangkong University（南昌航空大学）
为填补中文领域道德情感数据集空白，研究构建了包含25,671条微博评论的Moral Foundation Weibo Corpus，基于十大道德类别进行人工标注，并利用大语言模型进行对比实验提供分类基线。
2024-11-14 cs.CL cs.LG
Building Korean Sign Language Augmentation (KoSLA) Corpus with Data Augmentation Technique
Yonsei University（延世大学）；Korea Nazarene University（韩国拿撒勒大学）
我们提出了一个有效的手语翻译语料库的框架。借助于一个简单但戏剧性的数据增强技术，我们的方法将文本转换为注释的形式，以最小的信息损失。手语由手势信号、非手势信号和标志性特征组成。根据专业手语翻译，非手动信号，如面部表情和手势，在传达准确的含义发挥着重要作用。通过考虑手语的语言特征，我们提出的框架是第一次和独特的尝试，建立一个多模态手语增强语料库（以下简称为KoSLA语料库）包含手动和非手动模式。我们建立的语料库在医院环境中展示了自信的结果，显示了增强数据集的性能提高。为了克服数据不足的问题，我们采用了数据增强技术，如同义词替换，以提高翻译模型和可用数据的效率，同时保持手语的语法和语义结构。为了实验的支持，我们验证了数据增强技术的有效性和有用性，我们的语料库进行正常的句子和手语注释之间的翻译任务上的两个标记。结果令人信服，证明与KoSLA语料库的BLEU分数是显着的。
2022-07-12 cs.AI cs.CL cs.LG
Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本文提出SPIN自我对弈微调方法，使LLM利用先前迭代生成的数据并区分人工标注响应，在无额外标注数据下实现显著性能提升。
2024-06-14 cs.AI cs.CL cs.LG
Wake Word Detection with Alignment-Free Lattice-Free MMI
Johns Hopkins University（约翰斯·霍普金斯大学）；Xiaomi Inc.（小米公司）；Northwestern Polytechnical University（西北工业大学）
始终在线的口语接口，例如个人数字助理，依赖于唤醒词来开始处理口语输入。我们提出了新的方法来训练混合DNN/HMM唤醒词检测系统从部分标记的训练数据，并使用它在在线应用中：（i）我们删除了LF-MMI训练算法中的帧级对齐的先决条件，允许使用未转录的训练示例，这些示例仅针对唤醒词的存在/不存在进行注释;（ii）我们表明，经典的关键字/填料模型必须补充一个明确的非语音（沉默）模型，以获得良好的性能;（iii）我们提出了一个基于FST的解码器进行在线检测。我们评估我们的方法在两个真实的数据集，显示50%-90%的减少，在预先指定的误报率比以前公布的最好的数字，并重新验证他们的第三个（大）的数据集。
2020-07-28 cs.CL cs.SD eess.AS
Oral to Web: Digitizing 'Zero Resource'Languages of Bangladesh
Bangladesh Computer Council（孟加拉国计算机委员会）；Jahangirnagar University（贾hangirnagar大学）
本文介绍了多语言云语料库，旨在为孟加拉国的濒危语言提供数字化资源，涵盖42种语言，通过系统田野工作和多模态数据收集，支持低资源NLP和语言保护。
2026-03-06 cs.CL cs.HC
Annotations on a Budget: Leveraging Geo-Data Similarity to Balance Model Performance and Annotation Cost
University of Michigan（密歇根大学）
针对基础模型训练数据地理分布不均导致低代表性国家效果差、标注成本高的问题，提出通过识别视觉差异大的主题来源国及相似国补充训练的方法，平衡性能与成本，相关资源已开源。
2024-03-12 cs.AI cs.CL cs.CV
