Polysemy in Controlled Natural Language Texts
Institute of Mathematics and Computer Science, University of Latvia（拉脱维亚大学数学与计算机科学研究所）
计算语义学和基于逻辑的受控自然语言（CNL）没有系统地解决实词的词义消歧问题，即，他们倾向于只解释一些对构建话语表征结构至关重要的功能词。我们发现，微本体和多词单元允许整合的丰富和多义的多领域背景知识到CNL，从而提供解释的内容词。该方法通过扩展Attempto控制英语（ACE）与多义和程序结构，从而产生一个更自然的CNL命名为PAO覆盖叙事多域文本。
2015-11-20 cs.CL
The Controlled Natural Language of Randall Munroe's Thing Explainer
VU University Amsterdam（阿姆斯特丹自由大学）
用受控自然语言（CNL）编写的文本或整本书很少会非常受欢迎，但去年出版的一本书确实如此。Randall Munroe的Thing Explainer只使用了1 '000个最常用的英语单词，并配以图画来解释复杂的事物，如核反应堆，喷气发动机，太阳系和洗碗机。这种受限语言对于CNL社区来说是一个非常有趣的新案例。我在这里描述它的地方在现有的方法控制自然语言的背景下，我提供了第一个分析从科学的角度来看，涵盖了字的产生式规则和字的分布。
2016-05-09 cs.CL
How Easy is it to Learn a Controlled Natural Language for Building a Knowledge Base?
The Open University（开放大学）
知识工程（KE）控制自然语言编辑器的最新发展已经引起了人们的期望，他们将使KE任务更容易，甚至使非工程师建立知识库。这项探索性的研究集中在新手和专家在知识工程，在他们试图学习一种受控的自然语言（CNL）被称为OWL简化英语，并用它来建立一个小的知识库。参与者在任务期间的行为通过眼动追踪和屏幕记录进行观察。这是一个比以前的研究更雄心勃勃的用户研究的尝试，因为我们使用一个自然发生的文本作为领域知识的来源，并离开他们没有指导选择哪些信息，或如何编码它。我们已经确定了一些技能（能力）需要这个困难的任务和作者面临的关键问题。
2014-06-09 cs.CL
A Principled Approach to Grammars for Controlled Natural Languages and Predictive Editors
Yale University School of Medicine（耶鲁大学医学院）
控制自然语言（CNL）与形式逻辑的直接映射已被提出来提高知识表示系统，查询接口和形式规格说明的可用性。预测编辑器是解决CNLs易读难写问题的一种流行方法。这样的预测编辑器需要能够“向前看”，以显示给定未完成句子的所有可能的延续。然而，这样的前瞻功能，很难实现一个令人满意的方式与现有的语法框架，特别是如果CNL支持复杂的非本地结构，如照应参考。在这里，方法和算法提出了一个新的语法符号称为Codeco，这是专门为控制自然语言和预测编辑器。提出了一种基于扩展图解析算法的Codeco解析方法。一个很大的Attempto Controlled English（ACE）子集已经在Codeco中得到了代表。对该文法和解析器实现的评价表明，该方法是实用的、充分的和有效的。
2012-11-15 cs.CL
Specifying Logic Programs in Controlled Natural Language
编写计算机程序的规范并不容易，因为必须考虑应用领域和软件开发的不同概念世界。为了弥合这一概念上的差距，我们提出了控制自然语言作为一种声明性和应用程序特定的规范语言。受控自然语言（英语：Controlled natural language）是自然语言的一个子集，可以被计算机准确有效地处理，但表达能力足以让非专业人士自然使用。受控自然语言中的规范被自动翻译成Prolog子句，从而成为形式化的和可执行的。翻译使用了一个明确的小句语法（DCG）增强功能结构。语篇表征理论（DRT）的帮助下，解决的规范，如回指的语篇间参考。生成的Prolog子句被添加到知识库中。我们已经实现了一个原型规范系统，成功地处理一个简单的自动柜员机的规格。
1995-07-21 cmp-lg cs.CL
Attempto - From Specifications in Controlled Natural Language towards Executable Specifications
从非正式需求中推导出正式规范是困难的，因为必须考虑到应用领域和软件开发的不同概念世界。为了弥合概念上的差距，我们提出了控制自然语言作为一个文本的逻辑正式规格说明。规范语言Attempto Controlled English（ACE）是自然语言的一个子集，可以被计算机准确有效地处理，但表达能力足以允许自然使用。Attempto系统将ACE中的规范转换为话语表示结构和Prolog。所得到的知识库可以在ACE中进行查询以进行验证，并且可以执行该知识库以进行仿真、原型设计和规范验证。
1996-03-12 cmp-lg cs.CL
Controlled Text Generation with Natural Language Instructions
ETH Zürich（苏黎世联邦理工学院）
本文提出 InstructCTG 框架，将文本约束自动提取并表述为自然语言指令及示范来微调语言模型，在不改变解码过程的情况下灵活实现多约束受控生成，并支持少样本适应新约束。
2023-06-08 cs.AI cs.CL cs.LG
Controlled Diversity: Length-optimized Natural Language Generation
Faculty of Informatics and Mathematics, OTH Regensburg（雷根斯堡应用技术大学信息与数学学院）
本文提出通过数据扩充和微调技术训练大语言模型遵循严格长度要求，实验表明该方法有效提升长度对齐度，并指出使用模型自身响应数据可避免质量下降。
2025-02-26 cs.AI cs.CL
Verifiable Source Code Documentation in Controlled Natural Language
ETH Zurich（苏黎世联邦理工学院）；University of Chile（智利大学）
编写关于软件内部的文档很少被认为是一种有价值的活动。当软件在多开发人员环境中不断发展时，这是非常耗时的，并且产生的文档是脆弱的。不幸的是，传统的编程环境对文档的编写和维护支持不足。由于缺乏软件结构文档，对软件产品的整体质量产生了负面影响，因此后果是严重的。我们表明，使用受控的自然语言与推理机和查询引擎是一种可行的技术，用于验证文档和源代码的一致性和准确性。使用ACE，一个国家的最先进的控制自然语言，我们提出了积极的成果的可理解性和一般的可行性创建和验证文档。作为一个案例研究，我们使用自动文档验证来识别和修复一个重要软件架构中的严重缺陷。此外，用户实验表明，我们的语言是更快，更容易学习和理解比其他形式语言的软件文档。
2013-11-12 cs.AI cs.CL cs.HC
Controlled Natural Language Generation from a Multilingual FrameNet-based Grammar
Språkbanken, University of Gothenburg（哥德堡大学语言库）；Department of Computer Science and Engineering, University of Gothenburg（哥德堡大学计算机科学与工程系）
本文介绍了一个目前双语，但潜在的多语种的语法库实现语法框架。本文的贡献是双重的。首先，它提供了一种方法论的方法来自动生成语法的基础上提取的语义句法配价模式从FrameNet标注语料库。其次，它提供了两个用例的概念证明，说明如何收购多语言语法可以在不同的CNL应用程序中的艺术和旅游领域的开发。
2014-06-10 cs.CL
Verbalizing Ontologies in Controlled Baltic Languages
Institute of Mathematics and Computer Science, University of Latvia（拉脱维亚大学数学与计算机科学研究所）
受控的自然语言（主要是基于英语的）最近已经出现了作为OWL本体创作的看似非正式的补充手段，如果与专业知识工程师使用的正式符号相比。在本文中，我们提出的例子控制拉脱维亚语已被设计为符合最先进的Attempto控制英语的状态。我们还讨论了与控制立陶宛语，正在设计的平行关系。
2012-11-02 cs.AI cs.CL
CNL2ASP: converting controlled natural language sentences into ASP
University of Genova（热那亚大学）；University of Calabria（卡拉布里亚大学）
本文提出CNL2ASP工具，将受控自然语言句子自动翻译为ASP规则，并在合成及现实组合问题上验证，其性能可与专家编码媲美。
2023-11-17 cs.AI cs.CL cs.LO
A Survey and Classification of Controlled Natural Languages
ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）
这里所说的受控自然语言（CNL）传统上有许多不同的名称。特别是在过去的四十年里，设计了各种各样的语言。它们被应用于改善人类之间的交流，改善翻译，或为正式符号提供自然和直观的表示。尽管存在明显的差异，但将所有这些语言放在同一个保护伞下似乎是明智的。为了使各种语言的秩序，这里提出了一个通用的分类方案。对现有的以英语为基础的CNLs进行了全面的调查，列出并描述了从1930年到今天的100种语言。对这些语言的分类表明，它们形成了一个单一的分散的云，填充了自然语言（如英语）和形式语言（如命题逻辑）之间的概念空间。本文的目标是为CNL提供一个通用的术语和通用的模型，有助于理解它们的一般性质，为对该领域感兴趣的研究人员提供一个起点，并帮助开发人员做出设计决策。
2015-07-07 cs.CL
PCFG-based Natural Language Interface Improves Generalization for Controlled Text Generation
Johns Hopkins University（约翰斯·霍普金斯大学）；MIT（麻省理工学院）；University of Washington（华盛顿大学）
现有的工作控制文本生成（CTG）假设一个控制接口的分类属性。在这项工作中，我们提出了一个自然语言（NL）的接口，我们工艺PCFG嵌入控制属性到自然语言命令，并提出了现有的CTG模型，以命令作为输入的变体。在我们的实验中，我们设计了定制的设置来测试模型的泛化能力。我们发现我们的基于PCFG的命令生成方法是有效的处理看不见的命令相比，固定设置的模板，我们提出的NL模型可以有效地推广到看不见的属性，NL接口启用的新功能，以及看不见的属性组合。有趣的是，我们发现，简单的条件生成方法，增强了我们提出的NL接口，是一个强大的基线，在这些具有挑战性的设置。
2022-10-14 cs.CL cs.LG
A Multilingual FrameNet-based Grammar and Lexicon for Controlled Natural Language
University of Gothenburg（哥德堡大学）；University of Latvia（拉脱维亚大学）
Berkeley FrameNet是基于框架语义学理论的英语词汇语义资源库。它已被广泛用于自然语言处理应用程序中，并启发了许多语言的框架网的开发。我们提出了一种方法论的方法来提取和生成一个计算多语言的基于FrameNet的语法和词汇。该方法利用FrameNet标注语料库自动提取一组跨语言语义-句法配价模式。基于伯克利框架网和瑞典框架网的数据，所提出的方法已经实现了语法框架（GF），一个类别的语法形式主义专门为多语言语法。语法和词典的实现由FrameNet的设计支持，在GF资源语法库已经提供的语际语法API之上提供框架语义抽象层，语际语义API（应用程序编程接口）。对习得的语法和词汇的评价表明了该方法的可行性。此外，我们说明了如何在两个不同的多语言控制的自然语言的应用程序中利用基于FrameNet的语法和词典。所生成的资源在开源许可证下可用。
2015-11-12 cs.CL
Embedded Controlled Languages
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
受嵌入式程序设计语言的启发，嵌入式CNL（受控自然语言）是整个自然语言（其宿主语言）的适当片段，但它具有识别整个宿主语言的解析器。这使得处理CNL外的输入并向用户提供有用的反馈成为可能，而不仅仅是报告语法错误。这个扩展的摘要解释了GF（语法框架）中嵌入式CNL实现的主要概念，并以机器翻译和其他一些正在进行的工作为例。
2014-06-16 cs.CL
Linguistic Analysis of Requirements of a Space Project and their Conformity with the Recommendations Proposed by a Controlled Natural Language
CLLE-ERSS, CNRS and Université Toulouse 2 – Le Mirail（CLLE-ERSS，法国国家科学研究中心和图卢兹第二大学）；CNES（法国国家空间研究中心）
法国国家航天局（法国空研中心）实施的这一项目的长期目标是，根据真实和定期的要求编写一份写作指南。作为该项目的第一步，本文提出了一个语言分析的要求，法国国家空间研究中心的工程师写在法国。其目的是确定它们在多大程度上符合INCOSE中规定的两条规则，INCOSE是最近的写作要求指南。虽然CNES的工程师在编写需求时没有义务遵循任何受控自然语言，但我们认为，主要由于编写者的经验，语言错误很可能会从这项任务中出现。这个问题是使用自然语言处理工具来识别不符合INCOSE规则的句子。我们进一步审查这些句子，以了解为什么这些建议不能（或不应该）总是适用于指定大型项目。
2014-06-06 cs.CL cs.SE
RuleCNL: A Controlled Natural Language for Business Rule Specifications
Université de Franche-Comté（弗朗什-孔泰大学）；Global Data Excellence Ltd.（Global Data Excellence有限公司）
业务规则代表了公司定义其业务、执行其操作以实现其目标的主要手段。因此，它们需要明确地表达以避免业务涉众之间的不一致，并且需要正式地表达以便于机器处理。一个有前途的解决方案是使用受控自然语言（CNL），它是自然语言和形式语言之间的良好中介。本文提出了RuleCNL，这是一个用于定义业务规则的CNL。它的核心特性是业务规则定义与业务词汇表的一致性，这确保了业务领域的可跟踪性和一致性。RuleCNL工具提供了编辑器，可以帮助最终用户编写流程并自动映射到业务词汇语义和业务规则（Semantics of Business Vocabulary and Business Rules，SBVR）标准。SBVR基于一阶逻辑，包括称为语义公式的结构，这些结构构成规则的含义。
2014-06-09 cs.CL cs.SE
Novelty Controlled Paraphrase Generation with Retrieval Augmented Conditional Prompt Tuning
Bloomberg（彭博社）
释义生成是自然语言处理中一项基本而长期的任务。在本文中，我们集中在两个贡献的任务：（1）我们提出检索增强提示微调（RAPT）作为一个参数有效的方法，以适应大型预训练的语言模型的释义生成;（2）我们提出新颖性条件RAPT（NC-RAPT）作为一个简单的模型无关的方法，使用专门的提示令牌控制释义生成不同层次的词汇新颖性。通过在四个数据集上进行广泛的实验，我们证明了所提出的方法的有效性，保留了原始文本的语义内容，同时诱导词汇的新颖性。
2022-03-12 cs.AI cs.CL
WikiIns: A High-Quality Dataset for Controlled Text Editing by Natural Language Instruction
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, Peking University（北京大学数据科学中心）；The MOE Key Laboratory of Computational Linguistics, Peking University（北京大学计算语言学教育部重点实验室）；Schools of Electronic Engineering and Computer Science, Peking University（北京大学电子工程与计算机科学学院）
针对现有受控文本编辑数据集指令信息不足的问题，研究者构建并发布了高质量数据集WikiIns，包含多类标注数据及自动生成的大规模银标训练集，并开展了相关分析以助力文本编辑研究。
2023-10-08 cs.CL
A Multilingual Semantic Wiki Based on Attempto Controlled English and Grammatical Framework
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
我们描述了一个语义维基系统与底层控制的自然语言语法实现语法框架（GF）。该语法将wiki内容限制为Attempto Controlled English（ACE）的一个定义良好的子集，并促进ACE与许多其他自然语言的语言片段之间的精确双向自动翻译，从而使wiki内容可以多语言访问。此外，我们的方法允许自动翻译成Web本体语言（OWL），这使得自动推理的wiki内容。因此，开发的wiki环境允许用户通过用户友好的多语言自然语言界面来构建、查询和查看OWL知识库。作为进一步的功能，底层的多语言语法被集成到wiki中，并且可以协作编辑以扩展wiki的词汇表，甚至定制其句子结构。这项工作展示了Attempto控制的英语和语法框架的现有技术的结合，并实现为现有的语义维基引擎AceWiki的扩展。
2013-03-11 cs.CL cs.HC
Controlled Generation with Prompt Insertion for Natural Language Explanations in Grammatical Error Correction
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Tokyo Institute of Technology（东京工业大学）
本文提出基于提示插入的受控生成方法，通过自动提取并插入纠错点提示，引导大语言模型为语法纠错生成完整自然语言解释，并构建XGEC数据集验证其有效性。
2023-09-20 cs.CL
On Systematically Building a Controlled Natural Language for Functional Requirements
University of Luxembourg（卢森堡大学）；University of Ottawa（渥太华大学）
[上下文]自然语言（NL）在软件需求规格说明（SRS）中无处不在。然而，尽管它的流行和广泛的使用，NL是非常容易的质量问题，如冗长，模糊和不完整。受控自然语言（CNL）已被提出作为一种方法，以防止质量问题的需求文档，同时保持灵活性，编写和沟通的要求，在一个直观的和普遍理解的方式。[目的]与金融领域的行业合作伙伴合作，系统地开发和评估CNL，命名为Rimay，旨在帮助分析师编写功能需求。[方法]我们依靠扎根理论来构建Rimay，并遵循众所周知的指导方针进行和报告工业案例研究。[结果]我们的主要贡献是：（1）系统地定义了一个面向功能需求的CNL的定性方法，该方法是通用的，适用于金融领域以外的信息系统;（2）描述功能需求的CNL文法;这种语法是从我们在金融领域的经验中得到的，但是应该适用于其他信息系统领域，（3）通过一个工业案例对我们的CNL（Rimay）进行了实证评估。我们的贡献借鉴了15个代表性的SRS，共包含来自金融领域的3215个NL要求声明。[结论]我们的评估表明，Rimay具有足够的表达能力，可以在四个以前从未见过的金融领域SRS中捕获平均88%（460个中的405个）的NL需求声明。
2020-05-04 cs.CL cs.SE
The effect of wording on message propagation: Topic- and author-controlled natural experiments on Twitter
Cornell University（康奈尔大学）；Google Inc.（谷歌公司）
考虑一个人试图在社交网络上传播一个重要消息。他/她可能会花几个小时来制作信息。这真的重要吗虽然之前有大量的工作研究预测社交媒体内容的受欢迎程度，但措辞本身的影响很少被研究，因为它经常与作者和主题的受欢迎程度混淆。为了控制这些混杂因素，我们利用了一个令人惊讶的事实，即有许多对tweet包含相同的url，由同一个用户编写，但使用不同的措辞。有了这样的配对，我们会问：哪个版本吸引了更多的转发？事实证明，这是一项比预测热门话题更困难的任务。尽管如此，人类可以比偶然更好地回答这个问题（但远非完美），我们开发的计算方法可以比普通人和在非受控数据上训练的强大竞争方法做得更好。
2014-05-06 cs.CL cs.SI physics.soc-ph
Probing the Natural Language Inference Task with Automated Reasoning Tools
Advancing Machine and Human Reasoning (AMHR) Lab（推进机器与人类推理（AMHR）实验室）；University of South Florida（南佛罗里达大学）
自然语言推理（NLI）任务是现代NLP中的一项重要任务，因为它提出了一个广泛的问题，许多其他任务可以简化为：给定一对句子，第一个是否包含第二个？虽然NLI的当前基准数据集的最新技术是基于深度学习的，但值得使用其他技术来检查NLI任务的逻辑结构。我们这样做是通过测试如何以及面向机器的控制自然语言（Attempto控制英语）可以用来解析NLI句子，以及如何自动定理证明可以在由此产生的公式的原因。为了提高性能，我们开发了一套语法和语义转换规则。我们报告他们的表现，并讨论NLI和基于逻辑的NLP的影响。
2020-05-06 cs.AI cs.CL cs.SC
Improving User Controlled Table-To-Text Generation Robustness
University of Edinburgh（爱丁堡大学）；The Hong Kong Polytechnic University（香港理工大学）
在这项工作中，我们研究了用户控制的表到文本的生成，用户探索的内容在一个表中选择单元格和阅读的自然语言描述自动产生的自然语言发生器。这样的生成模型通常从仔细选择的单元选中单元组合（干净单元选择）学习;然而，在实践中，用户可能选择意外的、冗余的或不相干的单元组合（有噪声的单元选择）。在实验中，我们发现，模型表现良好的测试集来自相同的分布作为训练数据，但其性能下降时，现实的嘈杂的用户输入进行评估。我们提出了一个微调制度，额外的用户模拟嘈杂的细胞选择。使用所提出的机制进行微调的模型在用户嘈杂的测试用例中获得4.85个BLEU点，在干净的测试用例中获得1.4个BLEU点;并在ToTTo数据集上实现了相当的最先进性能。
2023-02-20 cs.CL
Are Style Guides Controlled Languages? The Case of Koenig & Bauer AG
University of Hildesheim（希尔德斯海姆大学）
受控的工业应用自然语言通常被认为是对翻译和多语言交流挑战的回应。本文介绍了Koenig & Bauer AG采取的一种完全不同的方法，其主要目标是改进技术文档的编写过程。最重要的是，本文探讨了受控语言的概念，并演示了如何从非语言的考虑中产生风格指南。此外，它还展示了从松散的语言建议到精确和规定性规则的过渡，并调查了这些规则是否可以被视为一种成熟的控制语言。
2014-06-13 cs.CL
STA: Self-controlled Text Augmentation for Improving Text Classifications
University College Dublin（都柏林大学）；Huawei Ireland Research Centre（华为爱尔兰研究中心）
尽管最近在机器学习方面取得了进展，但许多任务仍然涉及在低数据状态下工作，这可能使解决自然语言问题变得困难。最近，在自然语言处理（NLP）领域出现了许多文本增强技术，这些技术可以用新的示例来丰富训练数据，尽管它们并非没有警告。例如，简单的基于规则的探试法是有效的，但缺乏相对于原始文本的语义内容和句法结构的变化。另一方面，更复杂的深度学习方法可能会导致文本内在含义的极端变化，并将不必要的噪声引入训练数据中。为了更可靠地控制增强示例的质量，我们引入了一种最先进的自控文本增强（STA）方法。我们的方法严格控制的生成过程中，通过引入一个自我检查的过程，以确保生成的例子保留原始文本的语义内容。多个基准测试数据集上的实验结果表明，STA大大优于现有的国家的最先进的技术，而定性分析表明，生成的例子都是词汇多样性和语义可靠。
2023-02-24 cs.AI cs.CL cs.LG
Can Transformers Reason in Fragments of Natural Language?
ASUS Intelligent Cloud Services (AICS)（华硕智能云服务（AICS））；University of Manchester（曼彻斯特大学）；Instytut Informatyki Uniwersytet Opolski（奥波莱大学信息学研究所）
最先进的基于深度学习的自然语言处理（NLP）方法被认为具有涉及自然语言文本推理的各种能力。在本文中，我们进行了一个大规模的实证研究调查的检测正式有效的推理控制片段的自然语言的可满足性问题变得越来越复杂。我们发现，虽然基于transformer的语言模型在这些场景中表现得令人惊讶，但更深入的分析表明，它们似乎过拟合数据中的表面模式，而不是获得控制这些片段中推理的逻辑原则。
2022-11-10 cs.AI cs.CL
Controlled Low-Rank Adaptation with Subspace Regularization for Continued Training on Large Language Models
Beijing University of Posts and Telecommunications（北京邮电大学）；LI Auto Inc.（理想汽车）
针对大语言模型持续学习中的灾难性遗忘问题，提出基于LoRA结构的子空间正则化方法CLoRA，通过约束更新矩阵零空间方向平衡模型容量与遗忘程度，在相关任务中表现更优。
2025-03-21 cs.AI cs.CL
Risk-Controlled Lean-as-Judge for Natural-Language Mathematical Reasoning
Imperial College London（伦敦帝国理工学院）；Huawei Noah’s Ark Lab（华为诺亚实验室）；UCL Centre for AI（大学学院伦敦人工智能中心）
针对 Lean 评判自然语言数学答案时信号稀疏且不忠实的问题，提出 COVCAL 选择器，通过有限样本选择性风险控制，在自动形式化覆盖率足够高时保证接受答案的准确率。
2026-05-27 cs.AI cs.CL cs.LO
Thinking-while-speaking: A Controlled, Interleaved Reasoning Method for Real-Time Speech Generation
Huawei Technologies（华为技术）
本文提出了一种受控交错推理方法InterRS，用于实时语音生成，通过在自然语音生成过程中插入推理步骤，提高了语音流畅性和推理深度，实验表明其在数学和逻辑基准测试中表现更优，并生成更自然流畅的答案。
2026-05-20 cs.CL
CEV-LM: Controlled Edit Vector Language Model for Shaping Natural Language Generations
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出轻量级半自回归语言模型CEV-LM，通过受约束编辑向量精确控制文本的速度、信息量和迂回度，在保持语义的同时以更少数据和参数超越现有CTG模型。
2024-02-22 cs.CL cs.LG
Controlled Crowdsourcing for High-Quality QA-SRL Annotation
Bar-Ilan University（巴伊兰大学）；Intel AI Lab（英特尔人工智能实验室）；Paul G. Allen School of Computer Science & Engineering（保罗·G·艾伦计算机科学与工程学院）；Allen Institute for AI（艾伦人工智能研究所）；Facebook AI Research（脸书人工智能研究院）；University of Washington（华盛顿大学）
问答驱动的语义角色标注（QA-SRL）是一种开放、自然的语义角色标注方法，具有很好的可操作性。最近，一个大规模的众包QA-SRL语料库和一个经过训练的解析器被发布。试图复制QA-SRL注释的新文本，我们发现，由此产生的注释缺乏质量，特别是在覆盖范围，使他们不足以进一步研究和评估。在本文中，我们提出了一个改进的众包协议复杂的语义标注，涉及工人的选择和培训，以及数据整合阶段。将该协议应用于QA-SRL产生了高质量的注释，覆盖率大幅提高，产生了新的黄金评估数据集。我们相信，我们的注释协议和黄金标准，将促进未来可复制的自然语义注释的研究。
2020-05-13 cs.CL
Controlled Randomness Improves the Performance of Transformer Models
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；Deutsche Telekom（德国电信）
本文提出在微调语言模型时引入受控随机性（噪声），探索靶向噪声对模型参数的影响，实验证明该方法在联合命名实体识别与关系抽取及文本摘要两个下游任务上均提升了性能。
2023-10-20 cs.CL cs.LG
Language identification of controlled systems: Modelling, control and anomaly detection
形式语言技术在过去已经被用来研究自治动力系统。然而，对于受控系统，需要新的特征来区分由系统生成的信息和输入控制。我们展示了如何控制动力系统的建模框架自然导致制定的上下文相关的语法。提出了一种在线生成文法生成式的学习算法，并将其用于建模、控制和异常检测。机电驱动器的实际应用进行了说明。语法插值技术产生准确的结果和模式检测能力的语言为基础的制定使其成为一个有前途的技术，早期检测异常或错误的行为。
2000-07-25 cs.CL
INAUT, a Controlled Language for the French Coast Pilot Books Instructions nautiques
Institut Mines-Télécom（矿业电信研究所）；Télécom Bretagne（布列塔尼电信学院）
我们描述INAUT，一个控制的自然语言，致力于海上导航的知识库的协作更新和自动生成的海岸试点书籍（指令nautiques）的法国国家水文和海洋服务SHOM。INAUT基于法语，并大量使用地理参考实体。在描述了整个系统的结构，详细介绍了语言及其生成，并讨论了三个主要的应用程序INAUT（文件制作，与ENCs的互动和知识库的协作更新），我们得出结论，未来的扩展和开放的问题。
2014-05-15 cs.CL
LFC-DA: Logical Formula-Controlled Data Augmentation for Enhanced Logical Reasoning
Guangzhou University（广州大学）
本文提出LFC-DA流水线，通过符号逻辑公式控制数据增强，在ReClor和LogiQA上显著提升预训练模型的逻辑推理准确率。
2025-11-05 cs.CL
CoCon: A Self-Supervised Approach for Controlled Text Generation
Nanyang Technological University（南洋理工大学）；Amazon AI（亚马逊人工智能）；Mila（米拉研究所）；Polytechnique Montreal（蒙特利尔理工学院）
预训练的基于transformer的语言模型（LM）显示出卓越的自然语言生成能力。由于其巨大的潜力，控制这种LM的文本生成越来越受到关注。虽然有一些研究试图控制生成文本的高级属性（如情感和主题），但仍然缺乏对单词和短语级别的内容进行更精确的控制。在这里，我们建议内容调节器（CoCon）控制LM的输出文本与内容输入，在细粒度的水平。在我们的自我监督方法中，CoCon块通过调节LM保留的内容输入来学习帮助LM完成部分观察到的文本序列。通过实验，我们表明，CoCon可以自然地将目标内容纳入生成的文本和控制高层次的文本属性在一个zero-shot的方式。
2022-06-10 cs.CL cs.LG cs.NE
Toward Controlled Generation of Text
Carnegie Mellon University（卡内基梅隆大学）；Petuum, Inc.（Petuum公司）
文本的通用生成和操作是具有挑战性的，并且与最近在视觉领域中的深度生成建模相比，成功有限。本文旨在生成合理的自然语言句子，其属性是动态控制的学习解开潜在表示指定的语义。我们提出了一个新的神经生成模型，它结合了变分自动编码器和整体属性判别器，有效地施加语义结构。通过对离散文本样本的可微近似，对独立属性控制的明确约束以及生成器和判别器的高效协作学习，我们的模型甚至只从单词注释中学习高度可解释的表示，并生成具有所需属性的逼真句子。定量评估验证了句子和属性生成的准确性。
2018-09-13 cs.AI cs.CL cs.LG
DExperts: Decoding-Time Controlled Text Generation with Experts and Anti-Experts
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
尽管最近在自然语言生成方面取得了进展，但控制所生成文本的属性仍然具有挑战性。我们建议D专家：解码时间专家，一种用于受控文本生成的解码时间方法，将预训练的语言模型与专家产品中的“专家”LM和/或“反专家”LM相结合。直觉上，在集合中，只有当专家认为它们可能，而反专家认为它们不太可能时，令牌才会获得高概率。我们将DExperts应用于语言解毒和情感控制生成，在自动和人工评估方面优于现有的可控生成方法。此外，由于DEvexpert仅对预训练LM的输出进行操作，因此它对较小规模的（反）专家有效，包括在GPT-3上操作时。我们的工作突出了调整小LM的文本与（联合国）理想的属性，有效的解码时间转向的承诺。
2021-06-03 cs.CL
Controlled Language Generation for Language Learning Items
Educational Testing Service（教育考试服务中心）
这项工作的目的是采用自然语言生成（NLG），以快速生成项目的英语语言学习应用程序：这需要两个语言模型能够生成流利的，高质量的英语，并控制生成的输出，以匹配相关项目的要求。我们尝试使用深度预训练模型来完成这项任务，开发新的方法来控制语言学习相关因素的项目：不同水平的不同句子和测试语法的论点结构。人类评估显示，所有模型的语法得分都很高（4分中有3.4分及以上），并且高级熟练度模型的长度（24%）和复杂度（9%）都高于基线。我们的研究结果表明，我们可以实现强大的性能，同时增加额外的控制，以确保为个人用户提供多样化的定制内容。
2022-11-28 cs.CL
ToTTo: A Controlled Table-To-Text Generation Dataset
Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）；Georgia Tech（佐治亚理工学院）
我们提出了ToTTo，一个开放领域的英语表到文本数据集，有超过120，000个训练样本，提出了一个控制生成任务：给定一个维基百科表和一组突出显示的表单元格，产生一个句子的描述。为了获得生成的目标是自然的，但也忠实于源表，我们引入了一个数据集的建设过程中，注释者直接修改现有的候选句子从维基百科。我们对我们的数据集和注释过程进行了系统的分析，以及通过几个最先进的基线实现的结果。虽然通常很流畅，但现有的方法经常会出现表格不支持的短语，这表明该数据集可以作为高精度条件文本生成的有用研究基准。
2020-10-06 cs.CL cs.LG
Sequence-to-Sequence Models for Data-to-Text Natural Language Generation: Word- vs. Character-based Processing and Output Diversity
Institute for Natural Language Processing (IMS)（自然语言处理研究所）；Universität Stuttgart（斯图加特大学）
我们提出了一个基于单词和基于字符的序列到序列模型的数据到文本的自然语言生成，生成结构化输入的自然语言描述的比较。在最近两代挑战的数据集上，我们的模型实现了与最佳挑战提交相比相当或更好的自动评估结果。随后的详细统计和人工分析揭示了两种输入表示之间的差异以及生成文本的多样性。在一个由模板生成的合成训练数据的对照实验中，我们展示了神经模型学习模板的新组合的能力，从而超越了它们所训练的语言结构。
2018-10-11 cs.CL
Controlled Text Generation for Black-box Language Models via Score-based Progressive Editor
Seoul National University（首尔大学）；Kakao Corp.（Kakao公司）
本文提出ScoPE方法，通过在黑盒语言模型生成过程中以词元级别渐进修改上下文并最大化目标分数，在保持流畅性的同时实现有效的受控文本生成。
2024-06-08 cs.CL
Don't Learn, Ground: A Case for Natural Language Inference with Visual Grounding
Utrecht University（乌特勒支大学）
本文提出了一种基于视觉依托的零样本自然语言推理方法，通过生成视觉表示并比较与假设的相似度，实现高精度推理，展示了对文本偏见的鲁棒性。
2025-11-21 cs.CL
Using Natural Language Processing to Predict Costume Core Vocabulary of Historical Artifacts
Alexandria University（亚历山大大学）；Virginia Tech（弗吉尼亚理工大学）
历史服饰文物是人类研究的宝贵资源。特别是，他们可以提供重要的见解，其相应的时代的社会方面。这些见解通常来自服装图片以及附带的描述，通常存储在一个标准化和受控的词汇表中，该词汇表准确描述服装和服装项目，称为服装核心词汇表。从服装描述中构建准确的服装核心可能具有挑战性，因为历史服装项目通常是捐赠的，并且附带的描述可能基于未经培训的个人，并使用项目时期的通用语言。在本文中，我们提出了一种方法，使用自然语言处理（NLP）映射的自由形式的文本描述的历史项目的控制词汇表提供的CONDITION核心。尽管数据集有限，但我们能够训练基于Universal Sentence Encoder的NLP模型来执行这种映射，对于Coconut Core词汇的子集，测试准确率超过90%。我们描述了我们的方法，设计选择，和我们的方法的发展，并显示了看不见的描述的预测的coconut核心的可行性。随着更多的服装描述仍在策划用于培训，我们希望有更高的准确性，更好的概括性。
2022-11-24 cs.CL cs.DL cs.IR
