大模型推理能力

LiveThinking: Enabling Real-Time Efficient Reasoning for AI-Powered Livestreaming via Reinforcement Learning

Yuhan Sun, Zhiwei Huang, Wanqing Cui, Shaopan Xiong, Yazhi Guo, Meiguang Jin, Junfeng Ma

机构 * Taobao \& Tmall Group of Alibaba Hangzhou Zhejiang China ； Taobao \& Tmall Group of Alibaba Beijing China ； ROLL Team of Alibaba Hangzhou Zhejiang China ； Taobao \& Tmall Group of Alibaba ； ROLL Team of Alibaba 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

Comments 12 pages, 8 figures

Role-Conditioned Refusals: Evaluating Access Control Reasoning in Large Language Models

Đorđe Klisura, Joseph Khoury, Ashish Kundu, Ram Krishnan, Anthony Rios

机构 * University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校） ； Louisiana State University（路易斯安那州立大学） ； Cisco Research（思科研究） 纠错

专题命中 测试时计算 ：reasoning(title)；verifier(abstract)；分类 cs.CL

Comments 8 pages + Appendix

Can Speech LLMs Think while Listening?

Yi-Jen Shih, Desh Raj, Chunyang Wu, Wei Zhou, SK Bong, Yashesh Gaur, Jay Mahadeokar, Ozlem Kalinli, Mike Seltzer

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Meta Superintelligence Labs（Meta超智能实验室） 纠错

专题命中 测试时计算 ：reasoning(abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI

Contrastive Decoding for Synthetic Data Generation in Low-Resource Language Modeling

Jannek Ulm, Kevin Du, Vésteinn Snæbjarnarson

机构 * ETH Zürich（苏黎世联邦理工学院） ； University of Copenhagen（哥本哈根大学） 纠错

专题命中 测试时计算 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 13 pages, 3 figures

OWL: Overcoming Window Length-Dependence in Speculative Decoding for Long-Context Inputs

Jaeseong Lee, seung-won hwang, Aurick Qiao, Gabriele Oliaro, Ye Wang, Samyam Rajbhandari

机构 * Snowflake AI Research（Snowflake AI研究院） ； Seoul National University（首尔国立大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 测试时计算 ：verifier(abstract)；分类 cs.CL、cs.AI

AutoRed: A Free-form Adversarial Prompt Generation Framework for Automated Red Teaming

Muxi Diao, Yutao Mou, Keqing He, Hanbo Song, Lulu Zhao, Shikun Zhang, Wei Ye, Kongming Liang, Zhanyu Ma

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Peking University（北京大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

专题命中 测试时计算 ：verifier(abstract)；分类 cs.CL

FlashDLM: Accelerating Diffusion Language Model Inference via Efficient KV Caching and Guided Diffusion

Zhanqiu Hu, Jian Meng, Yash Akhauri, Mohamed S. Abdelfattah, Jae-sun Seo, Zhiru Zhang, Udit Gupta

机构 * Cornell University（康奈尔大学） 纠错

专题命中 测试时计算 ：reasoning(abstract)；分类 cs.CL