Optimizing Teacher-Student Partitioning for Scalable Knowledge Distillation on HPC Systems
优化师生划分以实现 HPC 系统上的可扩展知识蒸馏
机构 * Qualcomm AI Research（高通AI研究）
AI总结 针对知识蒸馏中师生模型不对称性，提出 HPC 感知方法，通过解耦师生划分、避免冗余数据结构并选择最优拆分策略，在 HPC 集群上实现高达 67% 的吞吐量提升。
大厂专区
Qualcomm（高通）
Gated Relational Alignment via Confidence-based Distillation for Efficient VLMs
基于置信度蒸馏的门控关系对齐用于高效视觉语言模型
机构 * Department of Information Technology（信息科技系） ； Electrical Engineering, ETH Zurich, Zurich, Switzerland（电气工程，苏黎世联邦理工学院，苏黎世，瑞士） ； Qualcomm AI Research, Amsterdam, the Netherlands（高通人工智能研究，阿姆斯特丹，荷兰） ； Department of Electrical, Electronic and Information Engineering（电气、电子与信息工程系） ； University of Bologna, Bologna, Italy（博洛尼亚大学，博洛尼亚，意大利） ； School of Electrical and Electronic Engineering（电气与电子工程学院）
AI总结 提出GRACE框架，通过信息瓶颈原理统一知识蒸馏与量化感知训练，使用置信度门控解耦蒸馏、关系中心核对齐和自适应控制器，在INT4量化下实现性能超越FP16基线并接近教师模型，同时显著降低内存和提升吞吐量。
Comments Accepted to the International Conference on Machine Learning (ICML 2026)
Event-Grounded Question Answering over Long Audio via Structured Retrieval
基于结构化检索的长音频事件问答
机构 * Qualcomm Technologies, Inc., India（印度高通技术公司） ； Qualcomm Technologies, Inc., USA（美国高通技术公司） ； University of Turku, Finland（芬兰图尔库大学）
AI总结 提出LA-RAG框架，通过音频基础模型将长音频转为带时间戳的事件记录并存入SQL数据库，结合意图感知检索和LLM生成，实现低延迟高精度的长音频问答，在多个基准上提升时间定位F1达11-17%。
Comments Submitted to EMNLP 2026 Industry Track
