The Parser Already Knows: Lightweight Bias Correction in Constrained Decoding
解析器已掌握:约束解码中的轻量级偏差校正
专题命中 效率与部署 :language model(abstract,abstract_cn);分类 cs.CL、cs.LG
AI总结 该研究针对语法约束解码中刚性屏蔽扭曲模型分布的问题,利用增量解析的语法状态提出轻量级离线 logit 校正,在几乎不增加开销的情况下优于基线方法,兼顾了语言模型的概率完整性与语法一致性。
Comments 9 pages, 5 figures