Dynamic Rebatching for Efficient Early-Exit Inference with DREX
动态重新分组以实现高效的早退推理
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG
AI总结 DREX通过动态重新分组和优化策略提升早退推理效率,提高吞吐量并保障输出质量。
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
动态重新分组以实现高效的早退推理
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG
AI总结 DREX通过动态重新分组和优化策略提升早退推理效率,提高吞吐量并保障输出质量。
HI-SQL:通过动态提示集成优化文本到SQL系统
机构 * Quantiphi Analytics Solutions Pvt Ltd(Quantiphi分析解决方案私人有限公司)
专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG
AI总结 HI-SQL通过动态提示集成优化文本到SQL系统,提升查询准确性和效率。
Comments Accepted at International Joint Conference on Neural Networks (IJCNN), IEEE, 2025
Journal ref 2025 International Joint Conference on Neural Networks (IJCNN)
LLMQ:面向消费级GPU的高效低精度预训练
机构 * IST Austria(奥地利因斯布鲁克理工大学)
专题命中 效率与部署 :pretraining(title);分类 cs.LG
AI总结 LLMQ通过优化消费级GPU的内存和通信瓶颈,实现了高效低精度语言模型的训练,无需额外算法近似,可在中端显卡上训练大模型。
通过推测解码和NPU协同执行加速移动语言模型
机构 * Peking University(北京大学) ; Beijing University of Posts and Telecommunications(北京邮电大学)
专题命中 效率与部署 :language model(title);分类 cs.CL
AI总结 本文提出sd.npu框架,通过推测解码和NPU协同执行,提升移动设备RAG任务的效率与能耗表现。
混合归因先验用于可解释和鲁棒模型训练
机构 * School of Computer Science, Peking University(北京大学计算机科学学院) ; Key Lab of High Confidence Software Technologies, Peking University(北京大学高可信软件技术重点实验室) ; Kling Team(Kling团队) ; Department of Systems Engineering and Engineering Management, CUHK(CUHK系统工程与工程管理系)
专题命中 效率与部署 :language model(abstract);small language model(abstract);分类 cs.AI、cs.LG
AI总结 本文提出CAP Hybrid方法,通过结合CAP与现有归因技术,提升模型的可解释性和鲁棒性。
Comments 15 pages
DenoiseRotator: 通过重要性集中增强大语言模型的剪枝鲁棒性
机构 * Shanghai Jiao Tong University(上海交通大学) ; HKUST(香港科技大学) ; Meituan(美团)
专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG
AI总结 DenoiseRotator通过重要性集中提升大语言模型剪枝鲁棒性,采用可学习正交变换优化参数重要性分布,有效减少稀疏性约束下的性能下降。
Comments Accepted at NeurIPS 2025
通过用户个性化配置实现对话中的前瞻性个性化
机构 * Zhejiang University(浙江大学) ; Zhejiang Key Laboratory of Medical Imaging Artificial Intelligence(浙江省医学影像人工智能重点实验室)
专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL
AI总结 本文提出PersonalAgent,通过构建和动态完善用户档案,实现对话中的长期个性化和用户偏好推断,提升对话代理的适应性和连贯性。
面向神经处理单元的因果推断运算上下文驱动性能建模
机构 * Ming Hsieh Department of Electrical and Computer Engineering, University of Southern California(明希德电气与计算机工程系,南加州大学)
专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.LG
AI总结 本文研究了NPUs上因果推断运算的性能瓶颈,通过对比二次注意力与子二次替代方案,为边缘平台的高效长上下文推断提供优化方向。
Comments IEEE HiPC 2025
Bounty Hunter: 自主、全面的多面对手模拟
专题命中 效率与部署 :large language model(abstract);language model(abstract)
AI总结 Bounty Hunter是一种自动化对手模拟工具,通过Caldera平台实现自主、全面的多面对手模拟,提升安全评估和入侵检测研究的效率与真实性。
Comments 15 pages, 9 figures
熵-蓄水池Bregman投影:信息几何统一模型崩溃
机构 * Independent Researcher(独立研究者)
专题命中 效率与部署 :language model(abstract);分类 cs.AI、cs.LG
AI总结 ERBP通过信息几何框架统一模型崩溃现象,提供熵流监控和预算的设计规则。
放大意识蒸馏(MAD):一种用于吉像素整张图像统一表征学习的自监督框架
机构 * Center for Applied Artificial Intelligence, University of Kentucky(应用人工智能中心,肯塔基大学) ; Sanders-Brown Center on Aging, University of Kentucky(老龄化桑德斯-布朗中心,肯塔基大学) ; Department of Electrical and Computer Engineering, University of Kentucky(电气与计算机工程系,肯塔基大学) ; Division of Neuropathology, University of Pittsburgh(神经病理学部,匹兹堡大学) ; Department of Biomedical Informatics, Emory University(生物医学信息学系,埃默里大学) ; Department of Pathology and Laboratory Medicine, University of California Davis(病理学与实验室医学系,加州大学戴维斯分校) ; Department of Laboratory Medicine and Pathology, University of Texas Health(实验室医学与病理学系,德克萨斯大学健康科学中心)
专题命中 效率与部署 :foundation model(abstract);分类 cs.AI、cs.LG
AI总结 MAD通过跨尺度对应关系学习吉像素整张图像的统一表征,实现放大不变的表征学习和分割一致性。
Comments 10 pages, 4 figures, 5 tables, submitted to AMIA 2026 Informatics Summit
算力感知量化
机构 * Harvard College(哈佛学院)
专题命中 效率与部署 :post-training(abstract);分类 cs.AI、cs.LG
AI总结 AIQ通过动态调整每层位宽提升算力并保持精度,适用于内存受限的神经网络模型。
利用神经网络贝叶斯算法执行的高效受迫弹性带方法
机构 * SLAC National Accelerator Laboratory(SLAC国家加速器实验室)
专题命中 效率与部署 :foundation model(abstract);分类 cs.LG
AI总结 本研究提出NN-BAX框架,通过神经网络联合学习能量景观和MEP,显著降低计算成本并提升效率。
Comments 21 pages, 12 figures
一种用于遥感领域的高效且有效的编码器模型
机构 * INESC-ID, Instituto Superior Técnico, University of Lisbon(INESC-ID,理工学院,里斯本大学) ; Department of Computer Science, Faculty of Science and Technology, Universidade NOVA de Lisboa(计算机科学系,科学与技术学院,诺瓦大学) ; School of Architecture, Civil and Environmental Engineering, EPFL(建筑、土木和环境工程学院,EPFL)
专题命中 效率与部署 :language model(abstract)
AI总结 本文提出了一种高效且紧凑的编码器模型,用于处理遥感领域的多任务学习,包括图像文本生成和跨模态检索。
具有模拟电路的密集关联记忆
专题命中 效率与部署 :language model(abstract)
AI总结 本文提出了一种基于模拟电路的DenseAM加速器,实现了在模型大小不变的情况下恒定时间推断,展示了模拟DenseAM在高效大规模推断中的优势。
RecTok: 修复流中的重建蒸馏
机构 * Peking University(北京大学) ; Nanyang Technological University(南洋理工大学) ; TeleAI
专题命中 效率与部署 :foundation model(abstract)
AI总结 RecTok通过流语义蒸馏和重建-对齐蒸馏提升高维视觉分词器的重建和生成性能,实现更丰富的潜在空间结构。
MUSE:多尺度密集自蒸馏用于核检测与分类
机构 * DAMO Academy, Alibaba Group(阿里集团 DAMO 院)
专题命中 效率与部署 :foundation model(abstract)
AI总结 MUSE通过多尺度密集自蒸馏方法,有效解决组织病理学中核检测与分类的核心挑战,提升细粒度核级表示能力。
Comments 12 pages, 7 figures
MedChat: 一种基于大语言模型的多智能体多模态诊断框架
机构 * University at Albany, State University of New York(纽约州立大学阿布扎克分校)
专题命中 领域大模型 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.AI、cs.LG
AI总结 MedChat通过多智能体框架结合专用视觉模型和角色特定LLM代理,提升多模态诊断的可靠性与交互性。
Journal ref Proc. 2025 IEEE 8th International Conference on Multimedia Information Processing and Retrieval (MIPR), pp. 456-462, 2025
LLM4ES: 通过大语言模型学习事件序列中的用户嵌入
专题命中 领域大模型 :language model(title,abstract);large language model(title);LLM(abstract)
AI总结 LLM4ES通过大语言模型学习事件序列中的用户嵌入,实现金融等领域用户分类任务的高性能表现。
评估用于沸石合成事件提取(ZSEE)的LLM:对提示策略的系统分析
机构 * Birla Institute of Technology and Science, Pilani, India(巴尔·印度技术科学学院,比兰利,印度)
专题命中 领域大模型 :prompting(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 本文评估了不同提示策略在沸石合成事件提取中的效果,发现零样本方法在事件分类上表现优异,但细粒度提取任务需领域适应模型。
Comments Under Review
ArcBERT: 一个基于大语言模型的集成多组学元数据探索搜索引擎
专题命中 领域大模型 :LLM(title,abstract);large language model(abstract);language model(abstract)
AI总结 ArcBERT是一种基于大语言模型的搜索引擎,通过语义匹配和元数据结构理解,提升多组学数据的探索效率。
人工智能驱动科学发现中的验证需求
机构 * Samsung AI, Cambridge, UK(三星人工智能,英国坎布里奇) ; IBM Research, Yorktown Heights, USA(IBM研究院,美国尤里茨山) ; Imperial Business School, London, UK(帝国商业学院,英国伦敦)
专题命中 领域大模型 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI
AI总结 本文探讨了人工智能驱动科学发现中验证的重要性,指出验证机制是确保科学进步的关键。
MedNuggetizer: 基于置信度的信息 nugget 从医学文档中提取
专题命中 领域大模型 :LLM(abstract);large language model(abstract);language model(abstract)
AI总结 MedNuggetizer 通过大型语言模型提取和聚类医学文档中的信息 nugget,帮助临床医生高效获取可靠的医学证据。
Comments Preprint accepted at ECIR 2026
利用人工智能辅助解决数学统计学中的研究问题
机构 * Department of Statistics and Data Science, University of Pennsylvania(统计与数据科学系,宾夕法尼亚大学)
专题命中 领域大模型 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 利用GPT-5辅助解决数学统计学中稳健密度估计的未解决问题,推导出最小最大最优误差率。
Comments added references
ChatGPT 和 Gemini 参与韩国大学入学考试——地球科学I
专题命中 领域大模型 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 本研究分析了ChatGPT和Gemini在地球科学I考试中的多模态推理能力,发现模型在感知与认知之间存在差距,揭示了AI在科学评估中的局限性。
Comments 23 pages, 9 tables, 1 figure
aiXiv:一个由AI科学家生成的下一代开放获取生态系统
专题命中 领域大模型 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 aiXiv是一个由AI科学家生成的下一代开放获取生态系统,通过多代理架构和API接口,实现人类与AI科学家的协同,提升AI生成科研内容的质量和传播效率。
Comments Preprint under review. Code is available at https://github.com/aixiv-org. Website is available at https://aixiv.science
行为令牌发声更大:解耦可解释推荐与行为词汇
专题命中 领域大模型 :large language model(abstract);language model(abstract);分类 cs.LG
AI总结 BEAT通过解耦行为词汇与语义,提升推荐系统的可解释性和零样本性能。
Comments accepted by AAAI 2026
MedicoSAM:医疗影像的SAM鲁棒性改进
机构 * Institute of Computer Science, University of Göttingen(计算机科学研究所,哥廷根大学)
专题命中 领域大模型 :foundation model(abstract);pretraining(abstract)
AI总结 MedicoSAM通过改进Segment Anything模型,提升医疗影像交互式分割性能,但未提升语义分割效果,模型已公开提供。
将学术与产业对齐:一项关于工业需求和学术能力的AI驱动软件工程实证研究
专题命中 领域大模型 :large language model(abstract);language model(abstract)
AI总结 本文通过分析学术研究与工业需求的差距,揭示AI驱动软件工程中的关键挑战,旨在引导未来研究更贴近实际应用。
新的位置科学模型及其在无人机灾害救援中的应用
专题命中 领域大模型 :SFT(abstract)
AI总结 本文提出了一种新的数学框架,用于确定无人机救援任务中移动基站的最佳位置,考虑风影响和无人机异质性,以提高灾害响应效率。