Are Style Guides Controlled Languages? The Case of Koenig & Bauer AG
University of Hildesheim（希尔德斯海姆大学）
受控的工业应用自然语言通常被认为是对翻译和多语言交流挑战的回应。本文介绍了Koenig & Bauer AG采取的一种完全不同的方法，其主要目标是改进技术文档的编写过程。最重要的是，本文探讨了受控语言的概念，并演示了如何从非语言的考虑中产生风格指南。此外，它还展示了从松散的语言建议到精确和规定性规则的过渡，并调查了这些规则是否可以被视为一种成熟的控制语言。
2014-06-13 cs.CL
Natural Language Embedded Programs for Hybrid Language Symbolic Reasoning
The Chinese University of Hong Kong（香港中文大学）；Massachusetts Institute of Technology（麻省理工学院）；Peking University（北京大学）
本文提出自然语言嵌入式程序（NLEP）框架，通过让语言模型生成并执行 Python 程序来处理自然语言表示，统一提升数学符号推理、文本分类、问答和指令遵循等任务的性能，并保持推理过程可解释。
2024-03-29 cs.CL
The Controlled Natural Language of Randall Munroe's Thing Explainer
VU University Amsterdam（阿姆斯特丹自由大学）
用受控自然语言（CNL）编写的文本或整本书很少会非常受欢迎，但去年出版的一本书确实如此。Randall Munroe的Thing Explainer只使用了1 '000个最常用的英语单词，并配以图画来解释复杂的事物，如核反应堆，喷气发动机，太阳系和洗碗机。这种受限语言对于CNL社区来说是一个非常有趣的新案例。我在这里描述它的地方在现有的方法控制自然语言的背景下，我提供了第一个分析从科学的角度来看，涵盖了字的产生式规则和字的分布。
2016-05-09 cs.CL
Codeco: A Grammar Notation for Controlled Natural Language in Predictive Editors
University of Zurich（苏黎世大学）
现有的语法框架对于受控自然语言（CNL）并不特别有效，特别是如果它们要用于预测编辑器。我在本文中介绍了一种新的语法符号，称为Codeco，这是专为CNLs和预测编辑器。两个不同的解析器已经实现，并在Codeco中表示了Attempto Controlled English（ACE）的一个大子集。结果表明，Codeco是一种实用、充分和有效的方法。
2011-03-29 cs.CL
Polysemy in Controlled Natural Language Texts
Institute of Mathematics and Computer Science, University of Latvia（拉脱维亚大学数学与计算机科学研究所）
计算语义学和基于逻辑的受控自然语言（CNL）没有系统地解决实词的词义消歧问题，即，他们倾向于只解释一些对构建话语表征结构至关重要的功能词。我们发现，微本体和多词单元允许整合的丰富和多义的多领域背景知识到CNL，从而提供解释的内容词。该方法通过扩展Attempto控制英语（ACE）与多义和程序结构，从而产生一个更自然的CNL命名为PAO覆盖叙事多域文本。
2015-11-20 cs.CL
Language identification of controlled systems: Modelling, control and anomaly detection
形式语言技术在过去已经被用来研究自治动力系统。然而，对于受控系统，需要新的特征来区分由系统生成的信息和输入控制。我们展示了如何控制动力系统的建模框架自然导致制定的上下文相关的语法。提出了一种在线生成文法生成式的学习算法，并将其用于建模、控制和异常检测。机电驱动器的实际应用进行了说明。语法插值技术产生准确的结果和模式检测能力的语言为基础的制定使其成为一个有前途的技术，早期检测异常或错误的行为。
2000-07-25 cs.CL
INAUT, a Controlled Language for the French Coast Pilot Books Instructions nautiques
Institut Mines-Télécom（矿业电信研究所）；Télécom Bretagne（布列塔尼电信学院）
我们描述INAUT，一个控制的自然语言，致力于海上导航的知识库的协作更新和自动生成的海岸试点书籍（指令nautiques）的法国国家水文和海洋服务SHOM。INAUT基于法语，并大量使用地理参考实体。在描述了整个系统的结构，详细介绍了语言及其生成，并讨论了三个主要的应用程序INAUT（文件制作，与ENCs的互动和知识库的协作更新），我们得出结论，未来的扩展和开放的问题。
2014-05-15 cs.CL
Controlled Language Generation for Language Learning Items
Educational Testing Service（教育考试服务中心）
这项工作的目的是采用自然语言生成（NLG），以快速生成项目的英语语言学习应用程序：这需要两个语言模型能够生成流利的，高质量的英语，并控制生成的输出，以匹配相关项目的要求。我们尝试使用深度预训练模型来完成这项任务，开发新的方法来控制语言学习相关因素的项目：不同水平的不同句子和测试语法的论点结构。人类评估显示，所有模型的语法得分都很高（4分中有3.4分及以上），并且高级熟练度模型的长度（24%）和复杂度（9%）都高于基线。我们的研究结果表明，我们可以实现强大的性能，同时增加额外的控制，以确保为个人用户提供多样化的定制内容。
2022-11-28 cs.CL
A Principled Approach to Grammars for Controlled Natural Languages and Predictive Editors
Yale University School of Medicine（耶鲁大学医学院）
控制自然语言（CNL）与形式逻辑的直接映射已被提出来提高知识表示系统，查询接口和形式规格说明的可用性。预测编辑器是解决CNLs易读难写问题的一种流行方法。这样的预测编辑器需要能够“向前看”，以显示给定未完成句子的所有可能的延续。然而，这样的前瞻功能，很难实现一个令人满意的方式与现有的语法框架，特别是如果CNL支持复杂的非本地结构，如照应参考。在这里，方法和算法提出了一个新的语法符号称为Codeco，这是专门为控制自然语言和预测编辑器。提出了一种基于扩展图解析算法的Codeco解析方法。一个很大的Attempto Controlled English（ACE）子集已经在Codeco中得到了代表。对该文法和解析器实现的评价表明，该方法是实用的、充分的和有效的。
2012-11-15 cs.CL
How Easy is it to Learn a Controlled Natural Language for Building a Knowledge Base?
The Open University（开放大学）
知识工程（KE）控制自然语言编辑器的最新发展已经引起了人们的期望，他们将使KE任务更容易，甚至使非工程师建立知识库。这项探索性的研究集中在新手和专家在知识工程，在他们试图学习一种受控的自然语言（CNL）被称为OWL简化英语，并用它来建立一个小的知识库。参与者在任务期间的行为通过眼动追踪和屏幕记录进行观察。这是一个比以前的研究更雄心勃勃的用户研究的尝试，因为我们使用一个自然发生的文本作为领域知识的来源，并离开他们没有指导选择哪些信息，或如何编码它。我们已经确定了一些技能（能力）需要这个困难的任务和作者面临的关键问题。
2014-06-09 cs.CL
A Survey and Classification of Controlled Natural Languages
ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）
这里所说的受控自然语言（CNL）传统上有许多不同的名称。特别是在过去的四十年里，设计了各种各样的语言。它们被应用于改善人类之间的交流，改善翻译，或为正式符号提供自然和直观的表示。尽管存在明显的差异，但将所有这些语言放在同一个保护伞下似乎是明智的。为了使各种语言的秩序，这里提出了一个通用的分类方案。对现有的以英语为基础的CNLs进行了全面的调查，列出并描述了从1930年到今天的100种语言。对这些语言的分类表明，它们形成了一个单一的分散的云，填充了自然语言（如英语）和形式语言（如命题逻辑）之间的概念空间。本文的目标是为CNL提供一个通用的术语和通用的模型，有助于理解它们的一般性质，为对该领域感兴趣的研究人员提供一个起点，并帮助开发人员做出设计决策。
2015-07-07 cs.CL
Cross-Lingual Stability of LLM Judges Under Controlled Generation: Evidence from Finno-Ugric Languages
Zendesk
研究揭示了在受控生成条件下，LLM评判者在不同芬兰-乌戈里语系语言中的稳定性问题，发现语用判断存在排名不稳定性，需针对特定语言进行校准。
2026-02-02 cs.CL
Verbalizing Ontologies in Controlled Baltic Languages
Institute of Mathematics and Computer Science, University of Latvia（拉脱维亚大学数学与计算机科学研究所）
受控的自然语言（主要是基于英语的）最近已经出现了作为OWL本体创作的看似非正式的补充手段，如果与专业知识工程师使用的正式符号相比。在本文中，我们提出的例子控制拉脱维亚语已被设计为符合最先进的Attempto控制英语的状态。我们还讨论了与控制立陶宛语，正在设计的平行关系。
2012-11-02 cs.AI cs.CL
Critic-Guided Decoding for Controlled Text Generation
Seoul National University（首尔国立大学）；NAVER AI Lab（NAVER人工智能实验室）；University of Richmond（里士满大学）
引导语言生成朝向目标或远离不期望的内容一直是利用语言模型（LM）的长期目标。最近的工作表明，强化学习和加权解码的有效方法，以实现更高水平的语言控制和质量的利弊。在这项工作中，我们提出了一种新的批评解码方法控制语言生成（CriticControl），结合了强化学习和加权解码的优势。具体来说，我们采用演员批评的框架训练LM转向评论家从不可微的奖励模型。类似于加权解码，我们的方法冻结了语言模型，并使用所谓的评论家操纵输出令牌分布，提高训练效率和稳定性。我们的方法上的三个控制生成任务，即主题控制，情绪控制和解毒的评估表明，我们的方法比以前的方法产生更多的连贯性和良好的控制文本。此外，CriticControl在zero-shot设置中展示了卓越的泛化能力。人体评估研究也证实了我们的发现。
2022-12-21 cs.CL
Evaluating Large Language Models on Controlled Generation Tasks
University of Southern California（南加州大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Amazon（亚马逊）；Google DeepMind（谷歌DeepMind）；ETH Zurich（苏黎世联邦理工学院）
本文评估大型语言模型在受控生成任务上的可控性，通过与微调较小模型对比发现其能力呈落后、相当或超越的谱系分布，并指出其在满足细粒度硬约束方面存在困难。
2023-10-23 cs.CL
DeltaFlow: Noise-Adaptive Bidirectional Gated Delta Networks for Embedded Language Flows
DeltaFlow是噪声自适应双向门控Delta网络，通过两种变体及噪声自适应内存控制、计划时间状态一致性技术，在OpenWebText基准上降低困惑度、提升吞吐量，可作为密集注意力的高效替代方案。
2026-08-04 cs.CL
Controlled Text Generation for Black-box Language Models via Score-based Progressive Editor
Seoul National University（首尔大学）；Kakao Corp.（Kakao公司）
本文提出ScoPE方法，通过在黑盒语言模型生成过程中以词元级别渐进修改上下文并最大化目标分数，在保持流畅性的同时实现有效的受控文本生成。
2024-06-08 cs.CL
Snips Voice Platform: an embedded Spoken Language Understanding system for private-by-design voice interfaces
Snips（Snips公司）
本文介绍了Snips语音平台的机器学习架构，这是一种在物联网设备的微处理器上执行口语语言理解的软件解决方案。嵌入式推理是快速和准确的，同时通过设计来加强隐私，因为没有收集个人用户数据。我们专注于自动语音识别和自然语言理解，详细介绍了我们训练高性能机器学习模型的方法，这些模型足够小，可以在小型设备上实时运行。此外，我们描述了一个数据生成过程，提供足够的，高质量的训练数据，而不损害用户的隐私。
2018-12-06 cs.CL cs.NE
Controlled Natural Language Generation from a Multilingual FrameNet-based Grammar
Språkbanken, University of Gothenburg（哥德堡大学语言库）；Department of Computer Science and Engineering, University of Gothenburg（哥德堡大学计算机科学与工程系）
本文介绍了一个目前双语，但潜在的多语种的语法库实现语法框架。本文的贡献是双重的。首先，它提供了一种方法论的方法来自动生成语法的基础上提取的语义句法配价模式从FrameNet标注语料库。其次，它提供了两个用例的概念证明，说明如何收购多语言语法可以在不同的CNL应用程序中的艺术和旅游领域的开发。
2014-06-10 cs.CL
Architecture of a Web-based Predictive Editor for Controlled Natural Language Processing
Macquarie University（麦考瑞大学）
在本文中，我们描述了一个基于Web的预测文本编辑器正在开发的控制自然语言彭$^{ASP)$的体系结构。这种受控语言可用于编写非单调规范，其表达能力与答案集程序相同。为了支持这些规范的编写过程，预测文本编辑器与受控的自然语言处理器异步通信，该受控的自然语言处理器为规范文本的作者生成先行类别和附加辅助信息。文本编辑器可以为不同的可能的句子完成、照应表达式同时显示多组先行类别，并支持向词典中添加新的内容词。
2014-06-27 cs.AI cs.CL
Soft Reasoning: Navigating Solution Spaces in Large Language Models through Controlled Embedding Exploration
King's College London, UK（伦敦国王学院）；The Alan Turing Institute, UK（艾伦·图灵研究所）；University of Warwick, UK（沃里克大学）
本文提出Soft Reasoning框架，通过结合嵌入扰动和贝叶斯优化来优化首token嵌入，有效平衡探索与利用，提升LLMs复杂推理准确性与连贯性，且计算成本低、与模型无关。
2025-09-13 cs.CL
Controlled Evaluation of Grammatical Knowledge in Mandarin Chinese Language Models
Harvard University（哈佛大学）；MIT（麻省理工学院）
先前的工作表明，结构监督有助于英语语言模型学习句法现象的概括，如主谓一致。然而，目前还不清楚这种归纳偏见是否也会提高语言模型在类型不同的语言中学习语法依赖关系的能力。在这里，我们调查这个问题在普通话中，这有一个标识符，主要是基于音节的书写系统;不同的词序;和稀疏的形态比英语。我们在两个不同大小的汉语普通话数据集上训练LSTM、递归神经网络文法、Transformer语言模型和Transformer参数化生成句法分析模型。我们评估模型学习汉语语法的不同方面的能力，评估句法和语义关系。我们发现暗示性的证据表明，结构监督有助于在干预内容中代表句法状态，并提高低数据设置中的性能，这表明在获取依赖关系时，分层归纳偏见的好处可能会超出英语。
2021-09-22 cs.CL
Lexpresso: a Controlled Natural Language
Defence Science & Technology Organisation（国防科学与技术组织）
本文介绍了“Lexpresso”的概述，一个受控的自然语言在国防科学技术组织开发的双向自然语言接口的高级信息融合系统。本文描述了Lexpresso的主要特征，包括词汇覆盖率、表现力和句法语义结构的范围。它还触及到它的紧密集成与一个正式的语义形式主义，并尝试性地对PENS系统进行分类。
2014-07-08 cs.AI cs.CL
Palette of Language Models: A Solver for Controlled Text Generation
China Mobile Research Institute（中国移动研究院）
针对多属性受控文本生成中线性组合单属性模型易忽视重叠并引发冲突的问题，提出基于全概率定律与条件互信息最小化的 Palette of Language Models 组合策略。
2025-03-14 cs.CL
Controlled Text Generation for Large Language Model with Dynamic Attribute Graphs
Renmin University of China（中国人民大学）；Nankai University（南开大学）；Institute for Advanced Algorithms Research (Shanghai)（（上海）高级算法研究院）
提出DATG框架，利用动态属性图调节关键属性词实现LLM受控文本生成，在毒性缓解和情感转换任务中控制准确率最高提升19.29%，并降低困惑度。
2024-05-24 cs.CL
Specifying Logic Programs in Controlled Natural Language
编写计算机程序的规范并不容易，因为必须考虑应用领域和软件开发的不同概念世界。为了弥合这一概念上的差距，我们提出了控制自然语言作为一种声明性和应用程序特定的规范语言。受控自然语言（英语：Controlled natural language）是自然语言的一个子集，可以被计算机准确有效地处理，但表达能力足以让非专业人士自然使用。受控自然语言中的规范被自动翻译成Prolog子句，从而成为形式化的和可执行的。翻译使用了一个明确的小句语法（DCG）增强功能结构。语篇表征理论（DRT）的帮助下，解决的规范，如回指的语篇间参考。生成的Prolog子句被添加到知识库中。我们已经实现了一个原型规范系统，成功地处理一个简单的自动柜员机的规格。
1995-07-21 cmp-lg cs.CL
EmMark: Robust Watermarks for IP Protection of Embedded Quantized Large Language Models
University of California, San Diego（加利福尼亚大学圣迭戈分校）
提出 EmMark 水印框架，通过策略性选择权重参数嵌入签名，为边缘设备上的嵌入式量化大语言模型提供可验证、保性能且抗移除与伪造的知识产权保护。
2024-02-27 cs.CL cs.CR
Oolong: Investigating What Makes Transfer Learning Hard with Controlled Studies
Stanford University（斯坦福大学）
本文通过受控变换 GLUE 基准语言的实验，发现句法偏移可恢复，而词汇不对齐和嵌入矩阵重新初始化难以恢复，为跨语言迁移设计提供了关键因素参考。
2024-01-23 cs.CL
Processing Natural Language on Embedded Devices: How Well Do Transformer Models Perform?
Auburn University（奥本大学）；Washington State University（华盛顿州立大学）
该研究测试了多款基于BERT的Transformer模型在不同配置嵌入式设备上的多任务性能，验证了无GPU的低配置嵌入式设备也能运行复杂NLP任务，为模型嵌入式部署提供参考。
2024-03-07 cs.CL cs.SY eess.SY
Attempto - From Specifications in Controlled Natural Language towards Executable Specifications
从非正式需求中推导出正式规范是困难的，因为必须考虑到应用领域和软件开发的不同概念世界。为了弥合概念上的差距，我们提出了控制自然语言作为一个文本的逻辑正式规格说明。规范语言Attempto Controlled English（ACE）是自然语言的一个子集，可以被计算机准确有效地处理，但表达能力足以允许自然使用。Attempto系统将ACE中的规范转换为话语表示结构和Prolog。所得到的知识库可以在ACE中进行查询以进行验证，并且可以执行该知识库以进行仿真、原型设计和规范验证。
1996-03-12 cmp-lg cs.CL
Starfish: A Prototype for Universal Preprocessing and Text-Embedded Programming
Dalhousie University（达尔豪斯大学）
本文提出了一种通用文本预处理和文本嵌入式编程（PTEP）的概念。预处理和文本嵌入式编程以碎片化和相互隔离的方式广泛应用于程序设计语言和框架中。PTEP的思想可以在\TeX \排版系统的实现中找到;它们在PHP和类似的Web语言中很突出，最后它们被用在MySQL数据科学框架中。本文介绍了这一领域的研究和相关工作在一个更统一的框架，我们描述了实现系统海星，满足以下新的原则PTEP：通用性，更新和替换模式，灵活性，可配置性和透明度。我们描述了海星，这是一个开放源代码的系统，实现通用的预处理和文本嵌入式编程在Perl的操作模型和设计。该系统是透明的，它的设计允许在其他程序设计语言以及直接执行。
2020-07-05 cs.CL cs.PL
The OLAC Metadata Set and Controlled Vocabularies
随着语言数据和相关技术的激增以及语言资源社区的迅速扩大，查找和重用现有资源变得越来越困难。是否有任何词汇资源，某某语言？什么工具可以处理这种特殊格式的成绩单？对于这种类型的语言数据，什么是好的格式？由于网络搜索引擎是一种不可靠的查找语言资源的方法，像这样的问题在许多邮件列表中占据主导地位。本文介绍了一种基于开放档案计划的语言资源发现的数字基础设施，称为OLAC -开放语言档案社区。OLAC元数据集和相关的受控词汇表有助于实现一致的描述和集中的搜索。我们报告元数据集和受控词汇表的进展，描述当前的问题，并征求语言资源社区的意见。
2001-05-21 cs.CL cs.DL
Controlled Natural Languages and Default Reasoning
Stony Brook University（石溪大学）
受控自然语言是知识表示和推理的有效语言。它们是基于某些自然语言设计的，具有受限的词汇和语法。CNL与它们的基础语言相比是明确和简单的。它们保持了自然语言的表达性和连贯性。在这份报告中，我们专注于一类CNLs，称为面向机器的CNLs，它具有定义良好的语义，可以确定性地翻译成形式语言，如Prolog，做逻辑推理。在过去的20年里，出现了许多面向机器的CNL，并已被用于许多应用领域的问题解决和问答。然而，很少有人支持非单调推理。在我们的工作中，我们提出了非单调扩展CNL支持可废止推理。在本报告的第一部分，我们调查CNLs和比较三个有影响力的系统：尝试控制英语（ACE），可处理英语（PENG）和计算机可处理英语（CPL）。我们比较他们的语言设计，语义解释和推理服务。在本文的第二部分，我们首先分析了自然语言中典型的非单调性，如缺省、例外和会话含义。然后，我们提出了他们的CNL表示和相应的形式化形式的可废止推理称为逻辑程序设计与推理和论证理论（LPDA）。
2019-05-11 cs.AI cs.CL
Using Knowledge-Embedded Attention to Augment Pre-trained Language Models for Fine-Grained Emotion Recognition
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（新加坡科技研究局）
现代情绪识别系统被训练成只能识别一小部分情绪，因此无法捕捉人们在日常生活中体验和表达的广泛情绪。为了进行更多的移情互动，未来的人工智能必须执行\textit{fine-grained}情感识别，区分更多不同的情感。在这里，我们专注于通过将外部知识引入预先训练的自我注意力模型来提高细粒度的情感识别。我们提出了知识嵌入注意力（KEA）使用知识的情感词汇，以增加从预先训练的ELECTRA和BERT模型的上下文表示。我们的结果和误差分析在几个数据集上优于以前的模型，并且能够更好地区分容易混淆的情绪，例如害怕和恐惧。
2021-07-31 cs.AI cs.CL
Controlled Natural Language Processing as Answer Set Programming: an Experiment
Macquarie University（麦考瑞大学）
大多数受控自然语言（CNL）都是在依赖于不同软件组件的流水线架构的帮助下处理的。在本文中，我们以实验的方式研究了答案集编程（ASP）如何适合作为解析CNL、推导所得语法树的正式表示以及使用该表示进行推理的统一框架。我们开始从一个列表中的输入标记在ASP符号，并显示如何输入可以转换成一个语法树使用ASP语法，然后到具体的ASP规则的形式的一组事实。这些事实然后由ASP元解释器处理，允许我们推断新知识。
2014-07-15 cs.AI cs.CL
PCFG-based Natural Language Interface Improves Generalization for Controlled Text Generation
Johns Hopkins University（约翰斯·霍普金斯大学）；MIT（麻省理工学院）；University of Washington（华盛顿大学）
现有的工作控制文本生成（CTG）假设一个控制接口的分类属性。在这项工作中，我们提出了一个自然语言（NL）的接口，我们工艺PCFG嵌入控制属性到自然语言命令，并提出了现有的CTG模型，以命令作为输入的变体。在我们的实验中，我们设计了定制的设置来测试模型的泛化能力。我们发现我们的基于PCFG的命令生成方法是有效的处理看不见的命令相比，固定设置的模板，我们提出的NL模型可以有效地推广到看不见的属性，NL接口启用的新功能，以及看不见的属性组合。有趣的是，我们发现，简单的条件生成方法，增强了我们提出的NL接口，是一个强大的基线，在这些具有挑战性的设置。
2022-10-14 cs.CL cs.LG
MeteoRA: Multiple-tasks Embedded LoRA for Large Language Models
Nanjing University（南京大学）
针对多LoRA适配器嵌入大语言模型时推理阶段任务自主感知切换难的问题，提出基于全模式MoE架构的MeteoRA框架及前向加速策略，性能与传统PEFT相当且复合任务表现更优。
2024-10-09 cs.AI cs.CL
A Multilingual Semantic Wiki Based on Attempto Controlled English and Grammatical Framework
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
我们描述了一个语义维基系统与底层控制的自然语言语法实现语法框架（GF）。该语法将wiki内容限制为Attempto Controlled English（ACE）的一个定义良好的子集，并促进ACE与许多其他自然语言的语言片段之间的精确双向自动翻译，从而使wiki内容可以多语言访问。此外，我们的方法允许自动翻译成Web本体语言（OWL），这使得自动推理的wiki内容。因此，开发的wiki环境允许用户通过用户友好的多语言自然语言界面来构建、查询和查看OWL知识库。作为进一步的功能，底层的多语言语法被集成到wiki中，并且可以协作编辑以扩展wiki的词汇表，甚至定制其句子结构。这项工作展示了Attempto控制的英语和语法框架的现有技术的结合，并实现为现有的语义维基引擎AceWiki的扩展。
2013-03-11 cs.CL cs.HC
Linguistic Analysis of Requirements of a Space Project and their Conformity with the Recommendations Proposed by a Controlled Natural Language
CLLE-ERSS, CNRS and Université Toulouse 2 – Le Mirail（CLLE-ERSS，法国国家科学研究中心和图卢兹第二大学）；CNES（法国国家空间研究中心）
法国国家航天局（法国空研中心）实施的这一项目的长期目标是，根据真实和定期的要求编写一份写作指南。作为该项目的第一步，本文提出了一个语言分析的要求，法国国家空间研究中心的工程师写在法国。其目的是确定它们在多大程度上符合INCOSE中规定的两条规则，INCOSE是最近的写作要求指南。虽然CNES的工程师在编写需求时没有义务遵循任何受控自然语言，但我们认为，主要由于编写者的经验，语言错误很可能会从这项任务中出现。这个问题是使用自然语言处理工具来识别不符合INCOSE规则的句子。我们进一步审查这些句子，以了解为什么这些建议不能（或不应该）总是适用于指定大型项目。
2014-06-06 cs.CL cs.SE
Contrastive Perplexity for Controlled Generation: An Application in Detoxifying Large Language Models
SAP SE（SAP股份有限公司）
提出基于原型的对比困惑度微调框架，通过对抗性释义构建困难负样本，在保持下游任务性能的同时显著减少大型语言模型的有毒内容生成。
2025-05-30 cs.CL cs.LG
Controlled Low-Rank Adaptation with Subspace Regularization for Continued Training on Large Language Models
Beijing University of Posts and Telecommunications（北京邮电大学）；LI Auto Inc.（理想汽车）
针对大语言模型持续学习中的灾难性遗忘问题，提出基于LoRA结构的子空间正则化方法CLoRA，通过约束更新矩阵零空间方向平衡模型容量与遗忘程度，在相关任务中表现更优。
2025-03-21 cs.AI cs.CL
RuleCNL: A Controlled Natural Language for Business Rule Specifications
Université de Franche-Comté（弗朗什-孔泰大学）；Global Data Excellence Ltd.（Global Data Excellence有限公司）
业务规则代表了公司定义其业务、执行其操作以实现其目标的主要手段。因此，它们需要明确地表达以避免业务涉众之间的不一致，并且需要正式地表达以便于机器处理。一个有前途的解决方案是使用受控自然语言（CNL），它是自然语言和形式语言之间的良好中介。本文提出了RuleCNL，这是一个用于定义业务规则的CNL。它的核心特性是业务规则定义与业务词汇表的一致性，这确保了业务领域的可跟踪性和一致性。RuleCNL工具提供了编辑器，可以帮助最终用户编写流程并自动映射到业务词汇语义和业务规则（Semantics of Business Vocabulary and Business Rules，SBVR）标准。SBVR基于一阶逻辑，包括称为语义公式的结构，这些结构构成规则的含义。
2014-06-09 cs.CL cs.SE
ELF: Embedded Language Flows
MIT（麻省理工学院）
本文提出ELF，一种基于连续时间流匹配的连续嵌入空间扩散模型，通过最小调整即可在离散领域有效工作，实验显示其在生成质量与采样步骤上优于现有模型。
2026-11-06 cs.AI cs.CL cs.LG
Physical Property Understanding from Language-Embedded Feature Fields
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出结合大型语言模型、语言嵌入点云与零样本核回归的视觉方法，实现无需标注的开放世界物体三维物理属性密集预测。
2024-04-05 cs.AI cs.CL cs.CV
Verifiable Source Code Documentation in Controlled Natural Language
ETH Zurich（苏黎世联邦理工学院）；University of Chile（智利大学）
编写关于软件内部的文档很少被认为是一种有价值的活动。当软件在多开发人员环境中不断发展时，这是非常耗时的，并且产生的文档是脆弱的。不幸的是，传统的编程环境对文档的编写和维护支持不足。由于缺乏软件结构文档，对软件产品的整体质量产生了负面影响，因此后果是严重的。我们表明，使用受控的自然语言与推理机和查询引擎是一种可行的技术，用于验证文档和源代码的一致性和准确性。使用ACE，一个国家的最先进的控制自然语言，我们提出了积极的成果的可理解性和一般的可行性创建和验证文档。作为一个案例研究，我们使用自动文档验证来识别和修复一个重要软件架构中的严重缺陷。此外，用户实验表明，我们的语言是更快，更容易学习和理解比其他形式语言的软件文档。
2013-11-12 cs.AI cs.CL cs.HC
An Exploratory Study of Tweets about the SARS-CoV-2 Omicron Variant: Insights from Sentiment Analysis, Language Interpretation, Source Tracking, Type Classification, and Embedded URL Detection
University of Cincinnati（辛辛那提大学）
本文介绍了一项探索性研究的结果，该研究针对Twitter上不断生成的大数据，这些数据与分享有关COVID-19大流行的信息、新闻、观点、意见、想法、反馈和经验有关，特别关注Omicron变体，这是目前SARS-CoV-2的全球主要变体。共研究了12028条关于Omicron变体的推文，并分析了推文的具体特征，包括情感，语言，来源，类型和嵌入式URL。这项研究的结果是多方面的。首先，从情感分析中，观察到50.5%的推文具有中性情感。其他情绪-坏的，好的，可怕的和伟大的分别在15.6%，14.0%，12.5%和7.5%的推文中被发现。其次，语言翻译的结果显示，65.9%的推文是用英语发布的。其次是西班牙语、法语、意大利语和其他语言。第三，来源追踪的结果显示，Android版Twitter与35.2%的推文相关。紧随其后的是Twitter Web App、iPhone版Twitter、iPad版Twitter和其他来源。第四，研究推文的类型发现，转发占推文的60.8%，其次是原创推文和回复，分别占推文的19.8%和19.4%。第五，在嵌入URL分析方面，发现最常见的嵌入推文的域名是twitter.com，其次是biorxiv.org，nature.com和其他域名。最后，为了支持该领域的类似研究，我们开发了一个Twitter数据集，该数据集包含自2021年11月24日首次发现该变体病例以…
2022-07-20 cs.CL cs.LG cs.SI
Undecimated Wavelet Transform for Word Embedded Semantic Marginal Autoencoder in Security improvement and Denoising different Languages
Anna University（安娜大学）
本文提出将非抽取小波变换与词嵌入语义边际自编码器（WESMA）结合，通过特征提取、降维和降噪提升多语言场景下的安全检测与去噪能力，实验验证了该方法在不同语言中的鲁棒性和有效性。
2023-07-06 cs.CL cs.CR cs.IR
CEV-LM: Controlled Edit Vector Language Model for Shaping Natural Language Generations
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出轻量级半自回归语言模型CEV-LM，通过受约束编辑向量精确控制文本的速度、信息量和迂回度，在保持语义的同时以更少数据和参数超越现有CTG模型。
2024-02-22 cs.CL cs.LG
Controlled Text Generation with Natural Language Instructions
ETH Zürich（苏黎世联邦理工学院）
本文提出 InstructCTG 框架，将文本约束自动提取并表述为自然语言指令及示范来微调语言模型，在不改变解码过程的情况下灵活实现多约束受控生成，并支持少样本适应新约束。
2023-06-08 cs.AI cs.CL cs.LG
CNL2ASP: converting controlled natural language sentences into ASP
University of Genova（热那亚大学）；University of Calabria（卡拉布里亚大学）
本文提出CNL2ASP工具，将受控自然语言句子自动翻译为ASP规则，并在合成及现实组合问题上验证，其性能可与专家编码媲美。
2023-11-17 cs.AI cs.CL cs.LO
Language-biased image classification: evaluation based on semantic representations
INRIA（法国国家信息与自动化研究所）；ENS Rennes（雷恩高等师范学院）；Université de Bordeaux（波尔多大学）；Microsoft Research Montreal（微软蒙特利尔研究院）
人类对嵌入文字的图像表现出语言偏见的图像识别，称为图片-文字干扰。这种干扰依赖于层次语义类别，反映了人类的语言处理与视觉处理高度互动。与人类类似，最近的人工模型在文本和图像上联合训练，例如，OpenAI CLIP，显示语言偏向的图像分类。探索这种偏见是否会导致类似于在人类中观察到的干扰，有助于理解模型从语言和视觉的联合学习中获得了多少层次语义表示。本研究介绍了认知科学文献中的方法学工具，以评估人工模型的偏差。具体来说，我们引入了一个基准任务，以测试叠加在图像上的单词是否会扭曲不同类别级别的图像分类，如果可以，扰动是否是由于语言和视觉之间的共享语义表示。我们的数据集是一组单词嵌入图像，由自然图像数据集和具有上位/基本类别级别的分层单词标签组成。使用这个基准测试，我们评估CLIP模型。我们发现，提出的话扭曲的图像分类的模型在不同的类别水平，但效果不依赖于图像和嵌入的话之间的语义关系。这表明，在CLIP视觉处理的语义词表示不共享的图像表示，虽然词表示强烈占主导地位的词嵌入的图像。
2022-03-12 cs.CL cs.CV cs.LG
LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure
Ellis Institute（埃利斯研究所）
本研究推出专为美国小学定制的LITTLECURRICULUM语料库，训练得到受知识边界约束的LittleLearner模型，构建沙盒用于研究模型知识习得，实验证实其注入新知识后不会提升超范围能力。
2026-11-09 cs.AI cs.CL cs.LG
