APEX: Asynchronous Parallel CPU-GPU Execution for Online LLM Inference on Constrained GPUs
APEX:异步并行CPU-GPU执行用于受限GPU上的在线LLM推理
专题命中 其他推理 :reasoning(abstract);chain-of-thought(abstract)
AI总结 APEX通过动态调度策略提升受限GPU上的LLM推理效率,提高吞吐量并保持延迟。
AI 大模型
大模型数学、逻辑、规划、多步推理和测试时计算能力。
APEX:异步并行CPU-GPU执行用于受限GPU上的在线LLM推理
专题命中 其他推理 :reasoning(abstract);chain-of-thought(abstract)
AI总结 APEX通过动态调度策略提升受限GPU上的LLM推理效率,提高吞吐量并保持延迟。
小型与大型语言模型之间排放与性能的权衡
机构 * School of Computer Science and Artificial Intelligence(计算机科学与人工智能学院) ; Plaksha University(普拉克斯大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本研究通过比较LLMs与微调SLMs在自然语言处理、推理和编程任务中的性能与排放权衡,证明小型模型在减少碳排放的同时能保持相近的性能表现。
Comments 6 pages. Accepted as a full paper to the 3rd International Conference on Foundation and Large Language Models (IEEE FLLM) 2025
多感官智能的愿景:感知、科学与协同
机构 * MIT Media Lab and MIT EECS(MIT媒体实验室和MIT电子工程与计算机科学系)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出未来十年多感官人工智能的研究愿景,强调通过感知、科学和协同三大主题推动多感官技术发展,提升人与AI的交互体验。
当前智能体无法利用世界模型作为前瞻性工具
机构 * UIUC(伊利诺伊大学香槟分校) ; THU(清华大学) ; JHU(约翰霍普金斯大学) ; Columbia(哥伦比亚大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文研究了当前智能体能否利用世界模型作为工具提升前瞻性认知,发现其在模拟调用和结果整合方面存在显著不足。
Comments 36 Pages, 13 Figures, 17 Tables (Meta data updated)
稳定偏好优化:一种针对灾难性偏好转移的双层方法
机构 * Tongji University(同济大学) ; AsiaInfo Technologies(亚洲信息科技)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出稳定偏好优化框架,通过约束偏好学习在安全对齐区域,解决灾难性偏好转移问题,提升偏好学习方法的稳定性和性能。
基于大视觉-语言模型的异常思维链
机构 * NOVALINCS, NOVA School of Science and Technology(NOVALINCS、NOVA科学与技术学院) ; NOVALINCS, Universidade da Beira Interior(NOVALINCS、贝拉内尔大学) ; DeepNeuronic
专题命中 其他推理 :reasoning(abstract);chain-of-thought(abstract)
AI总结 本文提出CoAT框架,通过引入异常偏见提升大视觉-语言模型在异常检测和分类任务中的性能。
Comments 2 pages, 3 figures, 1 table. Accepted for RECPAD 2025
具有主动知识 grounding 的情感多模态代理用于情感对齐的营销对话
机构 * Hunan Police Academy, Department of Criminal Investigation(湖南警察学院犯罪侦查系) ; Business College, California State University(加州州立大学长滩分校商学院) ; Northwestern University(西北大学) ; AI Agent Lab, Vokram Group(Vokram集团AI代理实验室) ; Beijing University of Technology(北京理工大学) ; Zheng Zhou University of Light Industry(郑州轻工业大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 AffectMind通过主动知识 grounding 和情绪-意图对齐模型,提升营销对话中的情感一致性与说服效果。
通过上下文神经错误本增强的检索反馈
机构 * School of CSE Chung-Ang University(计算机科学与工程学院 Chung-Ang 大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 REFINE通过结构化反馈框架,系统分析并缓解多模态推理中的错误,提升推理效率和可扩展性。
Comments Accepted at EMNLP 2025 main
健康AI中的“准备”幻觉
机构 * Scripps Research Translational Institute(斯克里普斯研究转化研究所)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文通过对抗性压力测试揭示了健康AI在现实应用中的鲁棒性和推理能力不足,强调了对AI系统责任和真实医疗需求的重视。
CONCUR:连续约束和无约束路由的框架
机构 * MIT(麻省理工学院) ; Harvard University(哈佛大学) ; University of Pennsylvania(宾夕法尼亚大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 CONCUR提出了一种支持连续和无约束路由的框架,通过模块化设计和多表示学习提升路由效率与准确性。
Be My Eyes: 通过多智能体协作扩展大型语言模型到新模态
机构 * University of Southern California(南加州大学) ; Microsoft Research(微软研究院) ; University of California, Davis(加州大学戴维斯分校)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 BeMyEyes通过多智能体协作扩展LLMs到多模态推理,利用高效VLMs与强大LLMs的互补优势,实现轻量级开源解决方案。
通过知识不对称利用从检索增强生成系统中进行细粒度隐私提取
专题命中 其他推理 :reasoning(abstract);chain-of-thought(abstract)
AI总结 本文提出一种利用知识不对称性从RAG系统中细粒度提取隐私信息的攻击框架,通过自适应提示和神经网络训练实现高隐私提取率。
基于空间知识图的多模态合成
机构 * Zhejiang University(浙江大学) ; Nanjing University of Science and Technology(南京理工大学) ; Huzhou University(湖州大学) ; Harbin Institute of Technology(哈尔滨工业大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 SKG2DATA通过空间知识图引导多模态合成,提升多模态大语言模型的空间感知与推理能力。
Comments IEEE/ACM Transactions on Audio, Speech and Language Processing
机构 * Department of Computer Science, TU Dortmund University(图恩-多特蒙德大学计算机科学系) ; Bonn-Aachen International Center for Information Technology, University of Bonn(波恩-亚琛国际信息科技中心,波恩大学) ; Computer Science School, University of Sheffield(谢菲尔德大学计算机科学学院) ; Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔人工智能与机器学习研究所)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments Accepted for publication in TACL
机构 * Indian Institute of Technology Kanpur(印度理工学院坎浦尔分校) ; SRM Institute of Science and Technology(SRM科学与技术学院) ; Symbiosis Law School Pune(苏比斯法学院浦那分校) ; IISER Kolkata(印度科学研究所库勒卡布尔分校) ; University of Birmingham, Dubai, United Arab Emirates(布里斯托尔大学迪拜分校)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments Paper accepted in the AACL-IJCNLP 2025 conference
机构 * Shanghai Jiao Tong University(上海交通大学) ; Zhejiang University(浙江大学)
专题命中 其他推理 :reasoning(abstract);chain-of-thought(abstract)
Comments 27 pages, 14 figures, under review as a conference paper
机构 * Huawei Noah’s Ark Lab(华为诺亚实验室) ; University College London(伦敦大学学院)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments 27 pages, 9 figures, 5 tables. Accepted to EMNLP 2025
机构 * University of Colorado, Anschutz(科罗拉多大学安舒茨分校) ; University of Chicago(芝加哥大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
机构 * Guangdong Lab of AI and Digital Economy (SZ), China(广东人工智能与数字经济实验室(深圳)) ; College of Computer Science and Software Engineering, Shenzhen University, China(深圳大学计算机科学与软件工程学院) ; Hong Kong University of Science and Technology (Guangzhou), China(香港科技大学(广州)) ; Tencent, Shenzhen, China(腾讯(深圳)) ; School of Information Technology, Carleton University, Canada(卡尔顿大学信息技术学院)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments 34 pages, 19 figures
机构 * Yuan Ze University(元智大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments Accepted by The 38th Conference of Open Innovations Association FRUCT, 2025
机构 * Zhejiang University(浙江大学) ; Ant Group(蚂蚁集团)
专题命中 其他推理 :reasoning(abstract);CoT(abstract)
Comments Accepted by NeurIPS 2025
机构 * cs.unc.edu(北卡罗来纳大学教堂山分校计算机科学系)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments 37 pages, 5 figures. Code: https://github.com/ltjed/freephdlabor
专题命中 其他推理 :reasoning(abstract);chain-of-thought(abstract)
机构 * MATS † ETH Zurich(MATS 伦理与理论学者(ETH 瑞士联邦理工学院)) ; MATS † University College London(MATS 伦理与理论学者(伦敦大学学院)) ; Google DeepMind(谷歌DeepMind)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
机构 * X-LANCE Lab, School of Computer Science MoE Key Lab of Artificial Intelligence, SJTU AI Institute Shanghai Jiao Tong University, Shanghai, China(X-LANCE实验室,计算机科学学院,人工智能关键实验室,上海交通大学人工智能研究院,上海,中国) ; Jiangsu Key Lab of Language Computing, Suzhou, China(语言计算重点实验室,苏州,中国) ; AISpeech Co., Ltd., Suzhou, China(AISpeech公司,苏州,中国) ; Center for Artificial Intelligence Research (CAiRE) Hong Kong University of Science and Technology, Hong Kong, China(人工智能研究中心(CAiRE)香港科技大学,香港,中国) ; Suzhou Laboratory, Suzhou, China(苏州实验室,苏州,中国)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
专题命中 其他推理 :chain-of-thought(abstract);CoT(abstract)
机构 * Sea AI Lab(海智实验室) ; National University of Singapore(新加坡国立大学) ; Singapore Management University(新加坡管理学院)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
专题命中 其他推理 :chain-of-thought(abstract);CoT(abstract)
Comments EMNLP 2025 Oral
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.AI、cs.LG
Comments Published at COLM 2025