Exploiting N-Best Hypotheses to Improve an SMT Approach to Grammatical Error Correction
National University of Singapore（新加坡国立大学）
语法错误纠正是指发现并纠正第二语言学习者所写文章中的语法错误。GEC的统计机器翻译（SMT）方法，其中第二语言学习者写的句子被翻译成语法正确的句子，已经达到了最先进的准确性。然而，SMT方法无法利用全局上下文。在本文中，我们提出了一种新的方法来提高GEC的准确性，利用SMT方法产生的n-最好的假设。具体来说，我们构建了一个分类器来对n个最佳假设中的编辑进行评分。分类器可用于选择适当的编辑或重新排序n个最佳假设。我们将这些方法应用到一个国家的最先进的GEC系统，使用SMT的方法。我们的实验表明，我们的方法实现了统计上显着的改进，在准确性上的最佳公布结果的基准测试数据集上的GEC。
2016-06-01 cs.CL
Neural Machine Translation from Simplified Translations
SYSTRAN
语篇简化的目的是在保持语篇意义不变的前提下，减少语篇在词汇、语法和结构上的复杂性。在机器翻译的背景下，我们引入了简化翻译的想法，以提高深度神经翻译模型的学习能力。我们进行初步的实验表明，翻译的复杂性实际上是减少了在翻译的源双文本相比，目标参考的双文本，而使用神经机器翻译（NMT）系统上学习完全相同的双文本。基于知识蒸馏的思想，我们使用简化的双文本训练了一个NMT系统，并证明了它优于在参考数据集上构建的初始系统。当使用参考和自动翻译来学习网络时，性能进一步提高。我们进行了初步分析的翻译语料库和报告的准确性结果的建议的方法对英语到法语和英语到德语的翻译任务。
2016-12-19 cs.CL
Dialects of Translationese Shape Language Model Learning
Department of Computer and Information Science（计算机与信息科学系）；Linköping University（林雪平大学）
本文研究了在不同源语言翻译的机器翻译数据上训练模型，探讨词汇多样性和源-目标句法相似性如何影响模型学习与语言建模。
2026-10-12 cs.CL
Evolutionary Algorithm for Sinhala to English Translation
Sri Lanka Institute of Information Technology（斯里兰卡信息技术学院）；Murdoch University（莫道克大学）
机器翻译是自然语言处理中的一个研究领域，主要研究从一种语言到另一种语言的翻译。为了实现MT，使用了从统计方法到深度学习方法的许多方法。然而，这些方法要么需要大量的数据，要么需要对语言有清晰的理解。僧伽罗语的数字文本较少，可以用来训练深度神经网络。此外，僧伽罗语具有复杂的规则，因此，很难创建统计规则，以便在MT中应用统计方法。本研究的重点是僧伽罗语到英语的翻译使用进化算法（EA）。EA用于识别僧伽罗语文本的正确含义并将其翻译为英语。传递僧伽罗语文本以识别含义，从而获得句子的正确含义。使用EA进行翻译。翻译后的文本被传递到语法正确的句子。这表明可以获得准确的结果。
2019-07-06 cs.CL cs.NE
The Limits of BPE Tokenization in Polish: Segmentation-Flexional Forms, Grammatical Anchoring, and First-Person Stability in Inflectional Language Models
University of Lower Silesia DSW（下西里西亚DSW大学）
本文以波兰语为案例，揭示BPE分词在屈折语言中无法稳定锚定语法范畴，提出语法形式锚定概念，并建议通过次词汇稳定化、屈折系统锚定及维持语法“我”来改进建模。
2026-09-17 cs.CL
Bi-Text Alignment of Movie Subtitles for Spoken English-Arabic Statistical Machine Translation
Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）；School of Computing Sciences, University of East Anglia（东英吉利大学计算科学学院）
我们描述了为获取更好的口语文本英语-阿拉伯语机器翻译资源所做的努力。特别是，我们将电影字幕视为一种独特而丰富的资源，因为一种语言的字幕经常被翻译成其他语言。电影字幕作为一种资源并不新鲜，在以前的研究中已经探索过;然而，在这里，我们创建了一个更大的双文本（迄今为止最大的），我们进一步为其生成更好的质量对齐。给定不同语言的同一部电影的字幕，一个关键问题是如何在片段级别对齐它们。通常，这是使用基于长度的对齐来完成的，但是对于电影字幕，还有时间信息。在这里，我们利用这些信息来开发一种原始算法，该算法优于当前最好的字幕对齐工具subalign。评估结果表明，将我们的bitext添加到IWITORY训练bitext中，可以产生超过两个BLEU点的绝对改进。
2016-09-05 cs.CL
The Logic for a Mildly Context-Sensitive Fragment of the Lambek-Grishin Calculus
Keio University（庆应义塾大学）
虽然上下文无关文法的特点是一个简单的证明理论的语法形式主义，即范畴语法和它的逻辑Lambek演算，没有这样的特征是已知的树邻接文法，甚至任何轻度上下文敏感的语言类在过去的四十年，尽管一些努力。本文解决了这一问题。在现有的片段的Lambek-Grishin演算捕获树邻接语言的基础上，我们提出了一个逻辑称为HLG：一个证明理论的表征树邻接语言的Lambek-Grishin演算的基础上限制到超边替换文法与秩二的Moot研究。HLG定义在具有割容许性的显示演算中。一些新的技术，如纯结构连接词，有用性，并证明网络HLG的图论参数的证明。
2021-01-10 cs.CL
Technical report: Graph Neural Networks go Grammatical
University of Rouen Normandy（鲁昂诺曼底大学）；University of Tours（图尔大学）
本研究提出基于上下文无关文法连接代数语言与图神经网络的框架，通过文法约简推导出符合三阶Weisfeiler-Lehman测试的G²N²模型，实验证明其在下游任务中效率优于同类3-WL GNN。
2023-10-04 cs.CL cs.LG
A Multilingual Semantic Wiki Based on Attempto Controlled English and Grammatical Framework
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
我们描述了一个语义维基系统与底层控制的自然语言语法实现语法框架（GF）。该语法将wiki内容限制为Attempto Controlled English（ACE）的一个定义良好的子集，并促进ACE与许多其他自然语言的语言片段之间的精确双向自动翻译，从而使wiki内容可以多语言访问。此外，我们的方法允许自动翻译成Web本体语言（OWL），这使得自动推理的wiki内容。因此，开发的wiki环境允许用户通过用户友好的多语言自然语言界面来构建、查询和查看OWL知识库。作为进一步的功能，底层的多语言语法被集成到wiki中，并且可以协作编辑以扩展wiki的词汇表，甚至定制其句子结构。这项工作展示了Attempto控制的英语和语法框架的现有技术的结合，并实现为现有的语义维基引擎AceWiki的扩展。
2013-03-11 cs.CL cs.HC
Language-independence of DisCoCirc's Text Circuits: English and Urdu
University of Oxford（牛津大学）；Quantinuum（昆腾纽姆（量子计算公司））
DisCoCirc是一个新提出的框架，用于使用合成生成电路来表示文本的语法和语义。虽然它构成了分类分布组合（DiscoCat）框架的发展，但它暴露了全新的功能。特别是，[14]建议DisCoCirc在某种程度上消除了语言之间的语法差异。在本文中，我们提供了一个草图，这确实是英语和乌尔都语的限制片段的情况。我们首先为乌尔都语片段开发DisCoCirc，就像在[14]中为英语所做的那样。从英语语法到乌尔都语语法有一个简单的翻译，反之亦然。然后，我们表明，英语和乌尔都语之间的语法结构的差异-主要涉及到单词和短语的顺序-消失时，传递到DisCoCirc电路。
2022-08-11 cs.CL cs.LO
An In-Vitro Study on Cross-Lingual Generalization in Language Models
Dalle Molle Institute for Artificial Intelligence (IDSIA)（达勒莫利人工智能研究所（IDSIA））
通过构建两种程序生成的语言，独立控制词汇距离、少数语言比例等变量，研究语言模型跨语言迁移的机制，发现迁移主要取决于分词是否保留可复用的跨语言子结构，且词汇量越小越有利于掩码迁移。
2026-05-26 cs.AI cs.CL
AMR-to-text generation as a Traveling Salesman Problem
University of Rochester（罗切斯特大学）；Singapore University of Technology and Design（新加坡科技设计大学）；IBM T.J. Watson Research Center（IBM T.J.沃森研究中心）
AMR到文本生成的任务是为给定的AMR图生成维持语义含义的语法文本。首先将AMR图分割成较小的片段，然后为每个片段生成翻译，最后通过解决非对称广义旅行商问题（AGTSP）来决定顺序。训练最大熵分类器来估计旅行成本，并使用TSP求解器来找到最优解。最终模型在SemEval-2016 Task 8数据集上报告的BLEU得分为22.44。
2016-09-23 cs.CL
A Dual-Contrastive Framework for Low-Resource Cross-Lingual Named Entity Recognition
Guangdong University of Foreign Studies（广东外语外贸大学）
跨语言命名实体识别（NER）由于可以缓解低资源语言的数据饥渴问题，近年来成为研究热点。然而，很少有研究关注的情况下，源语言标记的数据也是有限的，在某些特定的领域。这种情况下的一种常见方法是通过转换或基于生成的数据增强方法生成更多的训练数据。不幸的是，我们发现，简单地结合源语言数据和相应的翻译不能充分利用翻译后的数据，所获得的改进是有限的。在本文中，我们描述了我们的新的双对比框架ConCNER跨语言NER有限的源语言标记数据的情况下。具体而言，基于源语样本及其译文，我们设计了两个不同语法层次的跨语言净认率对比目标，即翻译对比学习（TCL）和标签对比学习（LCL），分别用于封闭翻译句子对之间的句子表征和封闭相同标签内的标记表征。此外，我们利用知识蒸馏方法，其中上述训练的NER模型被用作教师，在未标记的目标语言数据上训练学生模型，以更好地适应目标语言。我们在各种各样的目标语言上进行了广泛的实验，结果表明，ConCNER往往优于多个基线方法。为了重现性，我们的代码可以在https://github.com/GKLMIP/ConCNER上找到。
2022-04-02 cs.CL
Improving Estonian Text Simplification through Pretrained Language Models and Custom Datasets
Institute of Computer Science（计算机科学研究所）；University of Tartu（塔尔图大学）
本文利用预训练语言模型和定制数据集，改进爱沙尼亚文本简化效果，验证了LLaMA在低资源语言中的优越性。
2026-01-23 cs.CL
Toward automatic generation of control structures for process flow diagrams with large language models
University of Zurich（苏黎世大学）
提出一种基于Transformer的端到端方法，将控制结构预测视为翻译任务，利用SFILES 2.0表示PFD拓扑，通过预训练和微调实现自动生成，在生成数据上达到74.8%-89.2%的Top-5准确率。
2026-06-08 cs.CL math.OC
Adapting LLMs for the Medical Domain in Portuguese: A Study on Fine-Tuning and Model Evaluation
School of Sciences São Paulo State University (UNESP)（圣保罗州立大学科学学院）
本研究通过微调ChatBode-7B并对比InternLM2等模型，评估葡萄牙语医疗大语言模型的表现，发现InternLM2整体最佳，而DrBode存在灾难性遗忘，同时指出评估者间一致性低的问题，为后续医学领域多语言模型研究奠定基础。
2024-09-30 cs.AI cs.CL
TreeGAN: Syntax-Aware Sequence Generation with Generative Adversarial Networks
Worcester Polytechnic Institute（伍斯特理工学院）；Apple（苹果公司）；Huawei（华为）
生成对抗网络（GANs）在图像生成方面表现出了很大的能力，其中判别模型指导生成模型的训练以构建类似于真实图像的图像。最近，GANs已经从生成图像扩展到生成序列（例如，诗歌、音乐和密码）。现有的序列生成GANs主要集中在一般序列上，这是无语法的。然而，在许多实际应用中，我们需要用一种形式语言生成序列，并受其相应文法的约束。例如，要测试数据库的性能，可能需要生成一个SQL查询集合，这些查询不仅与真实用户的查询相似，而且遵循目标数据库的SQL语法。生成这样的序列是非常具有挑战性的，因为GANs的生成器和编译器都需要考虑序列的结构和形式语言中的给定语法。为了解决这些问题，我们研究了使用GANs的语法感知序列生成问题，其中将真实序列的集合和一组预定义的语法规则赋予生成器和生成器。我们提出了一种新的GAN框架，即TreeGAN，将一个给定的上下文无关文法（CFG）的序列生成过程。在TreeGAN中，生成器采用递归神经网络（RNN）来构建解析树。然后，每个生成的解析树可以被转换为给定语法的有效序列。该算法使用树结构的RNN来区分生成的树和真实的树。我们证明了TreeGAN可以为任何CFG生成序列，并且它的生成完全符合给定的语法。在合成和真实数据集上的实验表明，TreeGAN显着提高了上下文无关语言中序列生成的质量。
2018-08-22 cs.AI cs.CL
