Speech World Model: Causal State-Action Planning with Explicit Reasoning for Speech
语音世界模型:基于显式推理的语音因果状态-动作规划
AI总结 研究旨在改进语音语言模型推理弱的问题,采用模块化视角和世界模型观点,将语音理解分解为四个模块通过因果图通信,建立认知状态搜索空间,实现显式推理,让语音理解更透明可控。
Comments Accepted to 2026 ICLR
期刊&会议
International Conference on Learning Representations · 会议 · Machine Learning
语音世界模型:基于显式推理的语音因果状态-动作规划
AI总结 研究旨在改进语音语言模型推理弱的问题,采用模块化视角和世界模型观点,将语音理解分解为四个模块通过因果图通信,建立认知状态搜索空间,实现显式推理,让语音理解更透明可控。
Comments Accepted to 2026 ICLR
PM-KVQ:用于长思维链语言模型的渐进式混合精度键值缓存量化
机构 * Tsinghua University(清华大学) ; Infinigence-AI ; Columbia University(哥伦比亚大学) ; OPPO AI Center(OPPO人工智能中心) ; Shanghai Jiaotong University(上海交通大学)
AI总结 针对长思维链语言模型因键值缓存内存开销大导致性能下降的问题,提出渐进式混合精度KV缓存量化(PM-KVQ),通过渐进量化策略和逐块内存分配减少累积误差,用带位置插值的校准策略增加校准长度,提升了推理性能和吞吐量。
Comments Accepted by ICLR 2026. Code available at https://github.com/thu-nics/PM-KVQ