语言大模型 / LLM

Intrinsic Structure as a Proxy for Saliency: SVD-Based Weight Preservation for Mixed-Precision Quantization in Large Language Models

内在结构作为显著性代理：基于SVD的权重保持用于大型语言模型中的混合精度量化

Shashank Landge, Abhishek Patil, Tejas kamble, Bhushan Buddhivant, Priyanka Joshi

机构 * Department of Computer Science, Indian Institute of Information Technology Pune（计算机科学系，印度信息技术学院浦那） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于SVD的无数据权重保持方法，通过保留主成分权重提升大型语言模型混合精度量化的性能。

DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models

DeepSeek-V3.2: 推动开放大规模语言模型的前沿

DeepSeek-AI, Aixin Liu, Aoxue Mei, Bangcai Lin, Bing Xue, Bingxuan Wang, Bingzheng Xu, Bochao Wu, Bowei Zhang, Chaofan Lin, Chen Dong, Chengda Lu, Chenggang Zhao, Chengqi Deng, Chenhao Xu, Chong Ruan, Damai Dai, Daya Guo, Dejian Yang, Deli Chen, Erhang Li, Fangqi Zhou, Fangyun Lin, Fucong Dai, Guangbo Hao, Guanting Chen, Guowei Li, H. Zhang, Hanwei Xu, Hao Li, Haofen Liang, Haoran Wei, Haowei Zhang, Haowen Luo, Haozhe Ji, Honghui Ding, Hongxuan Tang, Huanqi Cao, Huazuo Gao, Hui Qu, Hui Zeng, Jialiang Huang, Jiashi Li, Jiaxin Xu, Jiewen Hu, Jingchang Chen, Jingting Xiang, Jingyang Yuan, Jingyuan Cheng, Jinhua Zhu, Jun Ran, Junguang Jiang, Junjie Qiu, Junlong Li, Junxiao Song, Kai Dong, Kaige Gao, Kang Guan, Kexin Huang, Kexing Zhou, Kezhao Huang, Kuai Yu, Lean Wang, Lecong Zhang, Lei Wang, Liang Zhao, Liangsheng Yin, Lihua Guo, Lingxiao Luo, Linwang Ma, Litong Wang, Liyue Zhang, M. S. Di, M. Y Xu, Mingchuan Zhang, Minghua Zhang, Minghui Tang, Mingxu Zhou, Panpan Huang, Peixin Cong, Peiyi Wang, Qiancheng Wang, Qihao Zhu, Qingyang Li, Qinyu Chen, Qiushi Du, Ruiling Xu, Ruiqi Ge, Ruisong Zhang, Ruizhe Pan, Runji Wang, Runqiu Yin, Runxin Xu, Ruomeng Shen, Ruoyu Zhang, S. H. Liu, Shanghao Lu, Shangyan Zhou, Shanhuang Chen, Shaofei Cai, Shaoyuan Chen, Shengding Hu, Shengyu Liu, Shiqiang Hu, Shirong Ma, Shiyu Wang, Shuiping Yu, Shunfeng Zhou, Shuting Pan, Songyang Zhou, Tao Ni, Tao Yun, Tian Pei, Tian Ye, Tianyuan Yue, Wangding Zeng, Wen Liu, Wenfeng Liang, Wenjie Pang, Wenjing Luo, Wenjun Gao, Wentao Zhang, Xi Gao, Xiangwen Wang, Xiao Bi, Xiaodong Liu, Xiaohan Wang, Xiaokang Chen, Xiaokang Zhang, Xiaotao Nie, Xin Cheng, Xin Liu, Xin Xie, Xingchao Liu, Xingkai Yu, Xingyou Li, Xinyu Yang, Xinyuan Li, Xu Chen, Xuecheng Su, Xuehai Pan, Xuheng Lin, Xuwei Fu, Y. Q. Wang, Yang Zhang, Yanhong Xu, Yanru Ma, Yao Li, Yao Li, Yao Zhao, Yaofeng Sun, Yaohui Wang, Yi Qian, Yi Yu, Yichao Zhang, Yifan Ding, Yifan Shi, Yiliang Xiong, Ying He, Ying Zhou, Yinmin Zhong, Yishi Piao, Yisong Wang, Yixiao Chen, Yixuan Tan, Yixuan Wei, Yiyang Ma, Yiyuan Liu, Yonglun Yang, Yongqiang Guo, Yongtong Wu, Yu Wu, Yuan Cheng, Yuan Ou, Yuanfan Xu, Yuduan Wang, Yue Gong, Yuhan Wu, Yuheng Zou, Yukun Li, Yunfan Xiong, Yuxiang Luo, Yuxiang You, Yuxuan Liu, Yuyang Zhou, Z. F. Wu, Z. Z. Ren, Zehua Zhao, Zehui Ren, Zhangli Sha, Zhe Fu, Zhean Xu, Zhenda Xie, Zhengyan Zhang, Zhewen Hao, Zhibin Gou, Zhicheng Ma, Zhigang Yan, Zhihong Shao, Zhixian Huang, Zhiyu Wu, Zhuoshu Li, Zhuping Zhang, Zian Xu, Zihao Wang, Zihui Gu, Zijia Zhu, Zilin Li, Zipeng Zhang, Ziwei Xie, Ziyi Gao, Zizheng Pan, Zongqing Yao, Bei Feng, Hui Li, J. L. Cai, Jiaqi Ni, Lei Xu, Meng Li, Ning Tian, R. J. Chen, R. L. Jin, S. S. Li, Shuang Zhou, Tianyu Sun, X. Q. Li, Xiangyue Jin, Xiaojin Shen, Xiaosha Chen, Xinnan Song, Xinyi Zhou, Y. X. Zhu, Yanping Huang, Yaohui Li, Yi Zheng, Yuchen Zhu, Yunxian Ma, Zhen Huang, Zhipeng Xu, Zhongyu Zhang, Dongjie Ji, Jian Liang, Jianzhong Guo, Jin Chen, Leyi Xia, Miaojun Wang, Mingming Li, Peng Zhang, Ruyi Chen, Shangmian Sun, Shaoqing Wu, Shengfeng Ye, T. Wang, W. L. Xiao, Wei An, Xianzu Wang, Xiaowen Sun, Xiaoxiang Wang, Ying Tang, Yukun Zha, Zekai Zhang, Zhe Ju, Zhen Zhang, Zihua Qu

机构 * DeepSeek-AI 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；post-training(abstract)；分类 cs.CL

AI总结 DeepSeek-V3.2通过高效注意力机制、强化学习框架和大规模代理任务合成流水线，在计算效率与推理能力上取得突破，超越GPT-5并获国际竞赛金牌。

TokenPowerBench: Benchmarking the Power Consumption of LLM Inference

TokenPowerBench：评估大语言模型推理的能耗基准

Chenxu Niu, Wei Zhang, Jie Li, Yongjian Zhao, Tongyang Wang, Xi Wang, Yong Chen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 TokenPowerBench是首个用于评估大语言模型推理能耗的轻量可扩展基准，通过测量和分析不同设置对能效指标的影响，帮助用户优化能耗和可持续性。

Comments Accepted by the AAAI'26 Conference Main Track

iMAD: Intelligent Multi-Agent Debate for Efficient and Accurate LLM Inference

iMAD: 智能多智能体辩论用于高效准确的LLM推理

Wei Fan, JinYi Yoon, Bo Ji

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 iMAD通过智能触发多智能体辩论，高效减少令牌消耗并提升LLM推理准确性

Comments Accepted in AAAI 2026 (Oral)

DynTaskMAS: A Dynamic Task Graph-driven Framework for Asynchronous and Parallel LLM-based Multi-Agent Systems

DynTaskMAS: 一种基于动态任务图的异步和并行LLM多智能体系统框架

Junwei Yu, Yepeng Ding, Hiroyuki Sato

机构 * The University of Tokyo（东京大学） ； Hiroshima University（广岛大学） ； National Institute of Informatics（国家信息研究所） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 DynTaskMAS通过动态任务图框架提升基于LLM的多智能体系统在异步并行任务处理中的效率与性能。

WeMMU: Enhanced Bridging of Vision-Language Models and Diffusion Models via Noisy Query Tokens

WeMMU: 通过噪声查询标记增强视觉-语言模型与扩散模型的桥梁

Jian Yang, Dacheng Yin, Xiaoxuan He, Yong Li, Fengyun Rao, Jing Lyu, Wei Zhai, Yang Cao, Zheng-Jun Zha

机构 * MoE Key Laboratory of Brain-inspired Intelligent Perception and Cognition, University of Science and Technology of China（脑启发智能感知与认知联合实验室，中国科学技术大学） ； ZheJiang University（浙江大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)

AI总结 WeMMU通过噪声查询标记和VAE分支，提升视觉-语言模型与扩散模型的连接效率，缓解泛化崩溃问题，实现稳定持续学习。

Just-in-time and distributed task representations in language models

语言模型中的即时任务表示与分布式任务表示

Yuxuan Li, Declan Campbell, Stephanie C. Y. Chan, Andrew Kyle Lampinen

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示了语言模型通过即时任务表示和持续敏感性来实时处理新任务的机制。

AskNearby: An LLM-Based Application for Neighborhood Information Retrieval and Personalized Cognitive-Map Recommendations

AskNearby: 一种基于LLM的邻里信息检索与个性化认知地图推荐应用

Luyao Niu, Zhicheng Deng, Boyang Li, Nuoxian Huang, Ruiqi Liu, Wenjia Zhang

机构 * Peking University（北京大学） ； Qianmo Smart Link（千摩智能链接） ； New York University（纽约大学） ； Imperial College London（伦敦帝国学院） ； Tencent（腾讯） ； Tongji University（同济大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 AskNearby通过整合检索增强生成和认知地图模型，提升邻里信息检索与个性化推荐效果，解决局部生活信息可及性问题。

Boosting Medical Vision-Language Pretraining via Momentum Self-Distillation under Limited Computing Resources

通过有限计算资源下的动量自蒸馏提升医学视觉-语言预训练

Phuc Pham, Nhu Pham, Ngoc Quoc Ly

机构 * Faculty of Information Technology, University of Science, Ho Chi Minh City, Vietnam（信息科技学院，科学大学，胡志明市，越南） ； Vietnam National University, Ho Chi Minh City, Vietnam（越南国家大学，胡志明市，越南） 纠错

专题命中 效率与部署 ：pretraining(title)；language model(abstract)；分类 cs.AI

AI总结 本研究通过动量自蒸馏与梯度累积提升医学视觉-语言预训练效率，实现高效多模态学习并提升零样本分类和少量样本适应性能。

Comments WACV 2026

Adaptive Prediction-Powered AutoEval with Reliability and Efficiency Guarantees

具有可靠性和效率保证的自适应预测-驱动AutoEval

Sangwoo Park, Matteo Zecchin, Osvaldo Simeone

机构 * Department of Engineering（工程系） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出R-AutoEval+框架，通过自适应构造模型评估变量，实现模型评估的可靠性保障和样本效率提升。

Comments NeurIPS 2025 (spotlight)

Data-Efficient Motor Condition Monitoring with Time Series Foundation Models

数据高效电机状态监测与时间序列基础模型

Deyu Li, Xinyuan Liao, Shaowei Chen, Shuai Zhao

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出基于时间序列基础模型的电机状态监测框架，通过预训练特征迁移提升诊断效率，实验表明MOMENT和Mantis在数据稀少情况下均取得显著性能提升。

Trinity: Disaggregating Vector Search from Prefill-Decode Disaggregation in LLM Serving

Trinity: 从LLM服务中解耦向量搜索与预填解码解耦

Yi Liu, Chen Qian

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 Trinity通过整合向量搜索到单一GPU池，优化PD解耦LLM服务的检索效率，减少尾部延迟。

Graph VQ-Transformer (GVT): Fast and Accurate Molecular Generation via High-Fidelity Discrete Latents

图VQ-Transformer（GVT）：通过高保真离散潜在表示实现快速准确的分子生成

Haozhuo Zheng, Cheng Wang, Yang Liu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GVT通过高保真离散潜在表示实现快速准确的分子生成，结合图Transformer与RCM节点排序和RoPE，提升分子生成效率与准确性。

Animating Language Practice: Engagement with Stylized Conversational Agents in Japanese Learning

使语言练习生动化：在日语学习中与风格化对话代理的互动

Zackary Rackauckas, Julia Hirschberg

机构 * Columbia University, RoleGaku（哥伦比亚大学，RoleGaku） ； Columbia University（哥伦比亚大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 Jouzu通过动漫风格的对话代理提升日语学习者的互动体验和语言表达能力。

Decentralized Multi-Agent System with Trust-Aware Communication

去中心化多智能体系统与信任感知通信

Yepeng Ding, Ahmed Twabi, Junwei Yu, Lingfeng Zhang, Tohru Kondo, Hiroyuki Sato

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出了一种基于区块链的去中心化多智能体系统，通过信任感知通信协议解决传统集中式系统中的信任、可扩展性和抗审查问题。

Fantasy: Efficient Large-scale Vector Search on GPU Clusters with GPUDirect Async

Fantasy: 在GPU集群上高效进行大规模向量搜索

Yi Liu, Chen Qian

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 Fantasy通过在GPU集群中流水线向量搜索与数据传输，利用GPUDirect Async技术提高大规模向量搜索的效率和吞吐量。

GraphMatch: Fusing Language and Graph Representations in a Dynamic Two-Sided Work Marketplace

GraphMatch: 在动态双侧工作市场中融合语言和图表示

Mikołaj Sacha, Hammad Jafri, Mattie Terzolo, Ayan Sinha, Andrew Rabinovich

机构 * Upwork Inc.（Upwork公司） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 GraphMatch通过融合预训练语言模型与图神经网络，解决动态双侧工作市场中的匹配问题，实现高效推荐。

Data Curation Through the Lens of Spectral Dynamics: Static Limits, Dynamic Acceleration, and Practical Oracles

通过频谱动态的视角进行数据整理：静态限制、动态加速与实用预言机

Yizhou Zhang, Lun Du

专题命中 效率与部署 ：RLHF(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过频谱动态视角提出数据整理方法，揭示静态修剪的局限性及动态加速的潜力，强调理想预言机对学习加速的理论贡献。

Few-shot Protein Fitness Prediction via In-context Learning and Test-time Training

少样本蛋白质适应性预测通过上下文学习和测试时训练

Felix Teufel, Aaron W. Kollasch, Yining Huang, Ole Winther, Kevin K. Yang, Pascal Notin, Debora S. Marks

机构 * Harvard Medical School（哈佛医学院） ； University of Copenhagen（哥本哈根大学） ； Novo Nordisk A/S（诺和诺德公司） ； Microsoft Research（微软研究院） ； Technical University of Denmark（丹麦技术大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 PRIMO通过上下文学习和测试时训练，在少样本条件下实现蛋白质适应性预测，优于零样本和全监督基线。

Comments AI for Science Workshop (NeurIPS 2025)

Unleashing Hour-Scale Video Training for Long Video-Language Understanding

释放小时级视频训练以实现长视频-语言理解

Jingyang Lin, Jialian Wu, Ximeng Sun, Ze Wang, Jiang Liu, Yusheng Su, Xiaodong Yu, Hao Chen, Jiebo Luo, Zicheng Liu, Emad Barsoum

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 本文提出VideoMarathon数据集和Hour-LLaVA模型，通过小时级视频训练提升长视频-语言理解能力。

Comments NeurIPS 2025, Project page: https://videomarathon.github.io/

Sampling-Based Model Predictive Control for Dexterous Manipulation on a Biomimetic Tendon-Driven Hand

基于采样的模型预测控制在仿生腱驱动手的灵巧操作中的应用

Adrian Hess, Alexander M. Kübler, Benedek Forrai, Mehmet Dogar, Robert K. Katzschmann

机构 * Soft Robotics Lab, Department of Mechanical and Process Engineering, ETH Zurich（苏黎世联邦理工学院机械与过程工程系软机器人实验室） ； School of Computer Science, University of Leeds（利兹大学计算机科学学院） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 本研究提出利用基于采样的模型预测控制实现仿生腱驱动手的灵巧操作，通过结合视觉语言模型与实时优化器，有效生成接触丰富的行为。

Comments For a video, see https://youtu.be/u4d6v3ohsOI

Journal ref 2025 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)