Thinking Before Constraining: A Unified Decoding Framework for Large Language Models
先思考再约束:大型语言模型的统一解码框架
机构 * Télécom Paris, Institut Polytechnique de Paris(巴黎电信学院,巴黎理工学院) ; Nokia Bell Labs(诺基亚贝尔实验室) ; Nokia(诺基亚)
AI总结 提出In-Writing混合方法,通过触发令牌将自由形式推理与结构化解码解耦,在分类和推理任务上准确率提升高达27%。
Comments v2-EMNLP