Grammar-Aligned Decoding
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of California San Diego(加州大学圣地亚哥分校)
本文提出语法对齐解码(GAD)方法,通过适应性采样与近似期望未来(ASAp)算法,提升语法约束下生成输出的质量和概率匹配度。
2026-09-04 cs.AI cs.CL cs.LG
Learning Context-Free Grammars for Grammar-Constrained Decoding via Declarative Agentic Programming with Guarantees
Amazon Web Services(亚马逊云科技);Purdue University(普渡大学)
本研究提出名为Autogrammar的声明式智能体,可从文档和执行数据自动学习上下文无关文法,用于语法约束解码,在三种DSLs上的实验显示其生成的文法性能优于现有基线,能显著提升端到端LM的真实任务表现。
2026-08-07 cs.AI cs.CL cs.PL
Grammar Prompting for Domain-Specific Language Generation with Large Language Models
Massachusetts Institute of Technology(麻省理工学院);Google DeepMind(谷歌DeepMind);Google Research(谷歌研究院)
本文提出 grammar prompting,通过在上下文中提供 BNF 语法约束,让 LLM 先预测语法再生成 DSL 输出,从而提升其在多种结构化语言生成任务上的泛化与表现。
2023-11-03 cs.AI cs.CL
Learning Adaptive Language Interfaces through Decomposition
Computer Science Department, Stanford University(斯坦福大学计算机科学系)
我们的目标是创建一个交互式自然语言界面,有效和可靠地从用户那里学习,以完成模拟机器人设置中的任务。我们引入了一个神经语义解析系统,通过分解学习新的高级抽象:用户交互式地教系统分解成低层次的步骤,它可以理解的描述新的行为的高层次的话语。不幸的是,现有的方法要么依赖于语法,语法分析句子的灵活性有限,要么依赖于神经序列到序列模型,这些模型不能有效或可靠地从单个示例中学习。我们的方法弥补了这一差距,展示了现代神经系统的灵活性,以及基于语法的方法的一次性可靠推广。我们的众包互动实验表明,随着时间的推移,用户在使用我们的系统时,通过利用他们刚刚教授的内容,可以更有效地完成复杂的任务。与此同时,让用户足够信任系统,从而激励他们教授高水平的话语仍然是一个持续的挑战。最后,我们讨论了一些我们需要克服的障碍,以充分实现互动模式的潜力。
2020-10-11 cs.AI cs.CL cs.LG
Tractable Hierarchical Control of Autoregressive Language Models
University of Edinburgh(爱丁堡大学)
研究如何约束自回归大语言模型生成,核心方法是将其提炼为可处理概率模型,利用有限时长$LR(k)$文法可多项式时间计算满足情况的特性,实现对LLM生成的有效约束与引导,确保输出满足形式句法约束。
2026-07-24 cs.AI
Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code
College of AI, Tsinghua University(清华大学人工智能学院)
本文发现语法约束解码(GCD)可被利用发起名为CodeSpear的越狱攻击,使LLM生成恶意代码;并提出安全对齐方法CodeShield,通过生成蜜罐代码防御该攻击。
2026-11-05 cs.AI cs.CL cs.CR
Grammar-Guided Code Watermarking with Green Temperature
Yonsei University(延世大学)
提出GTCW,将语法约束解码与概率感知水印结合,在代码生成中通过绿色温度重加权增强水印信号,保持语法完整性,在五个基准上平均AUROC达73.61%,优于基线。
2026-10-06 cs.AI cs.CR
$\texttt{SEM-CTRL}$: Semantically Controlled Decoding
本文提出SEM-CTRL,通过集成基于答案集语法的约束,使LLM在不微调的情况下保证输出的语法和语义正确性,实验显示其在多种任务中优于现有模型。
2026-04-09 cs.AI cs.CL cs.LG
Valid Text-to-SQL Generation with Unification-based DeepStochLog
KU Leuven(鲁汶大学);Örebro University(厄勒布鲁大学)
针对大语言模型生成不可执行 SQL 的问题,提出基于合一语法与 DeepStochLog 的神经符号框架,通过硬约束和双向语言模型接口保证查询有效,并显著提升执行准确率与真实结果一致性。
2025-03-17 cs.AI cs.CL
Learning and Enforcing Context-Sensitive Control for LLMs
Imperial College London(伦敦帝国学院);City University of London(伦敦城市大学);ILASP Limited, UK(英国ILASP有限公司);The Alan Turing Institute(艾伦·图灵研究所)
本文提出一种自动学习上下文敏感约束的框架,通过两阶段过程提升LLM生成的有效性,使小型模型也能完美遵守约束,优于其他方法。
2026-04-12 cs.AI cs.CL cs.LG
Decomposition of the NVALUE constraint
LIRMM;CNRS(法国国家科学研究中心);NICTA(国家信息与通信技术研究院);University of NSW(新南威尔士大学);École Polytechnique de Montréal(蒙特利尔综合理工学院)
我们研究分解的NVALUE,一个全球性的约束,可用于模拟各种各样的问题,价值需要计数。虽然分解通常会阻碍传播,我们确定了一个分解,保持一个全局视图,强制执行绑定的一致性分解实现绑定的一致性,原来的全球NVALUE约束。这样的分解提供了先进的解决技术,如nogood学习和基于影响的分支算法的前景。它们还可以帮助SAT和IP求解器利用全局约束的传播。
2009-09-17 cs.AI
Decompositions of All Different, Global Cardinality and Related Constraints
LIRMM(LIRMM实验室);CNRS(法国国家科学研究中心);NICTA(澳大利亚国家信息与通信技术研究院);UNSW(新南威尔士大学);EPM(蒙特利尔工程学院)
我们发现,一些常见的和重要的全局约束,如ALL-DIFFERENT和GCC可以分解成简单的算术约束,我们实现了边界或范围的一致性,在某些情况下,甚至更大的修剪。这些分解可以很容易地添加到新的求解器。它们还通过共享变量来提供对传播器状态的访问的其他约束。这种共享可以用于改善约束之间的传播。我们报告我们的分解在一个伪布尔求解器的实验。
2009-05-22 cs.AI
Circuit Complexity and Decompositions of Global Constraints
LIRMM;CNRS(法国国家科学研究中心);NICTA(澳大利亚国家信息与通信技术研究院);UNSW(新南威尔士大学)
我们表明,从电路复杂性的工具可以用来研究分解的全局约束。特别是,我们研究了分解的全局约束的合取范式的属性,单位传播的分解执行同一级别的一致性作为一个专门的传播算法。我们证明了一个约束传播子有一个多项式大小的分解当且仅当它可以由一个多项式大小的单调布尔电路计算。因此,单调布尔电路的大小的下界转化为全局约束的分解的大小的下界。例如,我们证明了没有多项式大小的分解的域一致性传播的ALLDIFFERENT约束。
2009-05-22 cs.AI cs.CC
The Generation-Recognition Asymmetry: Six Dimensions of a Fundamental Divide in Formal Language Theory
Independent Researcher(独立研究者)
本文探讨了生成和识别在形式语言理论中的不对称性,通过六个维度分析生成和识别之间的差异,并指出生成和识别在计算复杂性、歧义性、方向性、信息可用性、语法推断和时间性等方面存在显著差异。
2026-05-20 cs.AI cs.CC cs.CL
Pattern Decomposition with Complex Combinatorial Constraints: Application to Materials Discovery
Stanford University(斯坦福大学);Cornell University(康奈尔大学);Joint Center for Artificial Photosynthesis(人工光合作用联合中心);California Institute of Technology(加州理工学院)
在大量噪声数据中识别重要成分或因子是机器学习和数据采掘的关键问题。出于材料发现中的模式分解问题,旨在发现可再生能源的新材料,例如用于燃料和太阳能电池,我们引入CombiFD,一个基于因素的模式分解框架,允许将先验知识作为约束,包括复杂的组合约束。此外,我们提出了一个新的模式分解算法,称为AMIQO,基于解决一系列(混合整数)二次规划。我们的方法在材料发现问题上大大优于最先进的方法,可以扩展到更大的数据集,并恢复更精确和有物理意义的分解。我们还展示了我们的方法的有效性,强制执行背景知识对其他应用领域。
2014-11-27 cs.AI cs.LG stat.ML