语言大模型 / LLM

Shift-and-Sum Quantization for Visual Autoregressive Models

Shift-and-Sum 量化用于视觉自回归模型

Jaehyeon Moon, Bumsub Ham

机构 * Yonsei University（延世大学） ； Articron 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 提出针对视觉自回归模型的训练后量化框架，通过移位求和量化减少注意力值乘积误差，并采用重采样策略校准数据，在图像生成等任务上达到新最优。

Comments ICLR 2026

Open-SWE-Traces: Advancing Dual-Mode Multilingual Distillation for Software Engineering Agents

Open-SWE-Traces：推进软件工程智能体的双模式多语言蒸馏

Wasi Uddin Ahmad, Nikolai Ludwig, Somshubra Majumdar, Boris Ginsburg

机构 * NVIDIA（英伟达） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；分类 cs.AI

AI总结 为解决软件工程智能体训练数据稀缺问题，构建包含20万条轨迹、覆盖9种编程语言的数据集，采用混合推理合成方法，微调Qwen3-30B-A3B系列模型，在SWE-bench基准上取得领先性能。

Comments Work in progress

The Information-Theoretic Benefit of Shared Representations under Orthogonality Constraints

正交约束下共享表示的信息论优势

Thomas Dittrich, Oliver Potocki, Philipp Grohs

机构 * Johann Radon Institute of Computational and Applied Mathematics, Austrian Academy of Sciences（奥地利科学院约翰·拉东计算与应用数学研究所） ； Faculty of Mathematics, University of Vienna（维也纳大学数学学院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 本文通过信息论框架，证明在正交约束下，联合近似比单独近似需要更少的描述长度，揭示了共享表示在组合架构中的效率优势。

How to Score Experts for One-Shot MoE Expert Pruning: A Unified Formulation and Selection Principle

如何为一次性MoE专家剪枝评分：统一公式与选择原则

Zongfang Liu, Jinghui Zhang, Zijian Ma, Guangyi Chen, Xin Yuan

机构 * Zhejiang University（浙江大学） ； Westlake University（西湖大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 提出一次性MoE专家剪枝的统一公式，基于路由频率、门控权重和激活强度三个因素，推导出任务无关剪枝应使用基于激活的准则，任务特定剪枝可保留路由频率和门控信息，并据此提出两种新准则MAN和MSAN，在多个模型和基准上取得最优性能。

Towards Data-Efficient Cross-Device Generalization of Grad-Shafranov Equilibria via Transfer Learning Neural Operator

通过迁移学习神经算子实现Grad-Shafranov平衡的数据高效跨设备泛化

Jay Phil Yoo, William Howes, Yashika Ghai, Kazuma Kobayashi, Souvik Chakraborty, Syed Bahauddin Alam

机构 * Grainger College of Engineering, Nuclear, Plasma & Radiological Engineering Department, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校格兰杰工程学院核、等离子体与放射工程系） ； Fusion Energy Division, Oak Ridge National Lab（橡树岭国家实验室聚变能源部） ； National Center for Supercomputing Applications（国家超级计算应用中心） ； Department of Applied Mechanics, Indian Institute of Technology Delhi（印度理工学院德里分校应用力学系） ； Yardi School of Artificial Intelligence, Indian Institute of Technology Delhi（印度理工学院德里分校亚迪人工智能学院） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 提出跨设备神经算子框架，将平衡重建转化为算子学习问题，通过多几何预训练实现数据高效迁移，Wavelet Neural Operator在100个目标样本下达到低于4%的L2误差。

Efficient Reinforcement for Visual-Textual Thinking with Discrete Diffusion Model

基于离散扩散模型的视觉-文本思维高效强化学习

Yoonjeon Kim, Yuhta Takida, Chieh-Hsin Lai, Eunho Yang, Yuki Mitsufuji

机构 * KAIST（韩国科学技术院） ； Sony AI（索尼AI） ； AITRICS ； Sony Group Corporation（索尼集团公司） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI

AI总结 提出用离散扩散模型替代自回归模型进行多模态强化学习，通过局部视觉编辑减少计算量，并设计分解奖励分配策略解决跨模态干扰问题。

Quantizing Time-Series Models As Dynamical Systems: Trajectory-Based Quantization Sensitivity Score

将时间序列模型量化为动力系统：基于轨迹的量化敏感度评分

Mariya Pavlova, Harrison Bo Hua Zhu, Lidia Vitanova, Elizaveta Semenova, Yingzhen Li

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 提出基于轨迹的量化敏感度评分（TQS），从动力系统稳定性角度分析量化误差传播，实现无需校准数据的混合精度量化。

Comments ICML 2026, Workshop on Forecasting as a New Frontier of Intelligence

Next-Latent Prediction Transformers Learn Compact World Models

下一潜在预测变换器学习紧凑世界模型

Jayden Teoh, Manan Tomar, Kwangjun Ahn, Edward S. Hu, Tim Pearce, Pratyusha Sharma, Akshay Krishnamurthy, Riashat Islam, Alex Lamb, John Langford

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 提出NextLat方法，通过潜在空间中的自监督预测训练变换器学习紧凑世界模型，提升泛化能力和推理效率。

Comments Microsoft Research Preprint

Quantization Robustness of Monotone Operator Equilibrium Networks

单调算子均衡网络的量化鲁棒性

James Li, Philip H. W. Leong, Thomas Chaffey

机构 * School of Electrical and Computer Engineering, The University of Sydney（悉尼大学电气与计算机工程学院） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 分析单调算子均衡网络在低精度硬件部署时权重量化对收敛性和均衡解的影响，提出基于谱扰动和单调性边界的理论保证，并通过MNIST实验验证了量化精度与收敛性的相变关系。

Comments 6 pages, 4 figures. Accepted for publication in IEEE Control Systems Letters (L-CSS)

In-Context Learning Is Provably Bayesian Inference: A Generalization Theory for Meta-Learning

上下文学习可证明是贝叶斯推断：元学习的泛化理论

Tomoya Wakayama, Taiji Suzuki

机构 * University of Tokyo（东京大学） ； National Institute of Information and Communications Technology（信息通信技术国家研究所） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 本文在元学习框架下，将上下文学习总风险分解为贝叶斯差距和后验方差，并证明Transformer通过预训练选择最优元算法，在测试时快速收敛到真实任务的最优算法。

Video-Based Optimal Transport for Feedback-Efficient Offline Preference-Based Reinforcement Learning

基于视频的最优传输用于反馈高效的离线偏好强化学习

Tung M. Luu, Hwanhee Kim, Younghwan Lee, Chang D. Yoo

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 提出VOTP框架，利用视频基础模型和最优传输生成伪标签，仅需少量人类反馈即可学习有效奖励函数，显著降低标注成本。

Comments ICML 2026 (Oral)

Instance-Aware Knowledge Distillation for Semi-Supervised Learning of an On-Board Multi-Task Dense Prediction Model for Collision Avoidance System

面向碰撞避免系统的半监督学习中的实例感知知识蒸馏用于车载多任务密集预测模型

Gyutae Hwang, Sang Jun Lee

机构 * Division of Electronics and Information Engineering, Jeonbuk National University（全北国立大学电子与信息工程学部） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 提出实例感知知识蒸馏框架，利用教师模型领域先验和基础模型实例知识生成伪标签，训练轻量学生模型在边缘设备上实时执行多任务密集预测，在实例分割上超越教师，计算量降低22.68倍。

Comments 13 pages, 7 figures

VL2Spike: Spike-driven Distillation from VLMs for Low-Power Visual Perception in Embodied AI

VL2Spike：面向具身AI低功耗视觉感知的VLM脉冲驱动蒸馏

Zinan Liu, Eric Zheng, Soumyaratna Debnath, Hao Shi, Ling Xiao, Lin Wang

机构 * School of EEE, Nanyang Technological University (NTU)（南洋理工大学电气与电子工程学院） ； Department of Computer Science, University of Toronto（多伦多大学计算机科学系） ； Advanced Micro Devices, Inc.（超威半导体公司） ； State Key Laboratory of Extreme Photonics and Instrumentation, Zhejiang University（浙江大学极端光子学与仪器国家重点实验室） ； Faculty of Information Science and Technology, Hokkaido University（北海道大学信息科学与技术学院） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 提出VL2Spike框架，通过时空视觉脉冲蒸馏和脉冲原型引导语言蒸馏，将VLM多模态知识迁移至Spikformer，在静态数据集上提升6.81%性能且能耗仅15.7%，并显著增强机器人视觉地点识别能力。

Comments 9 pages, 4 figures, 8 tables

EPIC: A System Framework for Efficient Egocentric Perception on Embodied AR Glasses

EPIC：面向具身AR眼镜的高效自我中心感知系统框架

Tianhua Xia, Haiyu Wang, Jiajing Zheng, Su Chen, Sai Qian Zhang

专题命中 效率与部署 ：foundation model(abstract)

AI总结 提出EPIC系统，通过算法-硬件协同优化，利用注视、姿态和惯性信号推断用户意图，仅保留高分辨率感知输入中最具信息量的部分，平均减少27.5倍内存占用和24.3倍能耗，同时保持自我中心视频理解任务的智能辅助精度。

MambAdapter: Lightweight Mamba-Based Adapters for Parameter-Efficient Transfer Learning in Speech and Audio

MambAdapter：基于轻量级Mamba适配器的语音和音频参数高效迁移学习

Salman Hussain Ali, Umberto Cappellazzo, Mirco Ravanelli

机构 * Université de Montréal（蒙特利尔大学） ； Imperial College London（伦敦帝国理工学院） ； Concordia University（康科迪亚大学） ； Mila – Quebec AI Institute（魁北克AI研究院） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 提出MambAdapter方法，将Mamba状态空间模型集成到低秩瓶颈适配器中，通过参数共享和轻量级Mamba模块实现音频特征的高效建模，在四个音频分类和五个语音识别任务上匹配或超越现有PETL方法。

Comments Accepted to Interspeech 2026. Code available at: https://github.com/salman-ha/MambAdapter

CausalDrive: Real-time Causal World Models for Autonomous Driving

CausalDrive: 用于自动驾驶的实时因果世界模型

Tianyi Yan, Huan Zheng, Dubing Chen, Meizhi Qu, Yingying Shen, Lijun Zhou, Mingfei Tu, Bing Wang, Guang Chen, Hangjun Ye, Haiyang Sun, Cheng-zhong Xu, Jianbing Shen

机构 * SKL-IOTSC, CIS, University of Macau（澳门大学协同创新研究院，科技学院） ； Xiaomi EV（小米汽车） ； CASIA（中国科学院自动化研究所） 纠错

专题命中 效率与部署 ：post-training(abstract)

AI总结 提出CausalDrive，一种可控、实时的驾驶世界渲染器，通过因果预测和Context-Forced DMD架构实现交互式模拟，支持闭环评估、强化学习后训练和人在环仿真。

Label Shift Aware Adaptation for Online Zero-shot Learning with Contrastive Language-Image Pre-Training (CLIP)

基于对比语言-图像预训练（CLIP）的在线零样本学习中的标签偏移感知自适应

Pengxiao Han, Changkun Ye, Yanshuo Wang, Jinguang Tong, Miaohua Zhang, Xuesong Li, Jie Hong, Lars Petersson

机构 * Australian National University（澳大利亚国立大学） ； China North Vehicle Research Institute（中国北方车辆研究所） ； The Hong Kong Polytechnic University（香港理工大学） ； Griffith University（格里菲斯大学） ； CSIRO（澳大利亚联邦科学与工业研究组织） ； The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 针对在线零样本学习中测试数据与CLIP训练数据分布不匹配的问题，提出标签偏移感知（LSA）方法，通过域自适应和标签偏移校正提升分类性能。

Ultra Flash: Scaling Real-Time Streaming Video Generation to High Resolutions

Ultra Flash: 将实时流式视频生成扩展到高分辨率

Luxury, Jie Huang, Zihao Fan, Xiaoxiao Ma, Jun-hao Zhuang, Yuming Li, Zeyue Xue, Siming Fu, Haoran Li, Mingchen Zhong, Guohui Zhang, Shichen Ma, Yijun Liu, Jiaqi Shi, Yanwen Ma, Yaofeng Su, Haoyu Wang, Yaowei Li, Songchun Zhang, Weiyang Jin, Yuxuan Bian, Shiyi Zhang, Haojun Xu, Shuai Lu, Xin Han, Wei Tang, Haoyang Huang, Nan Duan

机构 * JD Explore Academy（京东探索研究院） ； USTC（中国科学技术大学） ； PKU（北京大学） ； THU（清华大学） ； BUAA（北京航空航天大学） ； FDU（复旦大学） ； HKUST（香港科技大学） ； HKU（香港大学） ； CUHK（香港中文大学） 纠错

专题命中 效率与部署 ：preference optimization(abstract)

AI总结 提出Ultra Flash级联框架，通过架构保持的超分辨率训练、因果流式潜在上采样器和高分辨率解码器、以及级联优化方案，在单GPU上实现1K分辨率约30 FPS和2K分辨率约18 FPS的实时高分辨率流式视频生成。

LISTEN: Lightweight Industrial Sound-representable Transformer for Edge Notification

LISTEN：面向边缘通知的轻量级工业声音可表示Transformer

Changheon Han, Yun Seok Kang, Yuseop Sim, Hyung Wook Park, Martin Byung-Guk Jun

机构 * School of Mechanical Engineering, Purdue University（普渡大学机械工程学院） ； Department of Mechanical Engineering, UNIST（UNIST机械工程系） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 提出轻量级工业声音基础模型LISTEN，通过知识蒸馏从大模型IMPACT压缩，仅用少量数据微调即可在边缘设备上实现实时机器监控，性能接近大模型。

Journal ref Advanced Engineering Informatics, Volume 76, Part A, 2026, 104944

Whose hotel does the AI recommend? An algorithm audit of reputation signals in LLM-assisted hotel selection

AI推荐哪家酒店？LLM辅助酒店选择中声誉信号的算法审计

Mirza Samad Ahmed Baig, Syeda Anshrah Gillani, Asher Ali

机构 * Fandaqah, Al Khobar, Saudi Arabia（沙特阿拉伯阿尔科巴尔Fandaqah） ； Hamdard University, Karachi, Pakistan（巴基斯坦卡拉奇哈姆达德大学） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过随机选择联合实验审计12种LLM，发现客人评分和价格主导推荐，但过度重视生态认证而忽略管理回复，且列表位置（无内容特征）有因果影响。

Comments 32 Pages

Deterministic Integrity Gates for LLM-Assisted Clinical Manuscript Preparation: An Auditable Biomedical Informatics Architecture

用于LLM辅助临床手稿准备的确定性完整性门控：一种可审计的生物医学信息学架构

Yoojin Nam, Jinhoon Jeong, Namkug Kim

机构 * University of Ulsan College of Medicine（蔚山大学医学院） ； Asan Medical Center（峨山医疗中心） ； Aperivue ； AMIST, Asan Medical Center（AMIST，峨山医疗中心） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种确定性完整性门控架构，通过将工作流分解为可独立验证的技能并在每个阶段设置确定性检查，解决了LLM生成临床手稿中的虚假引用、数据漂移和报告指南缺失问题。

Comments 28 pages, 3 figures, 4 tables; includes supplementary material (deterministic-detector inventory, per-class defect breakdown, worked example). Software (MIT): https://github.com/Aperivue/medsci-skills . Archived on Zenodo: concept DOI https://doi.org/10.5281/zenodo.20155321 and version DOI (v3.8.0) https://doi.org/10.5281/zenodo.20582972

Are LLM-based Chatbots Good Enough to Support Computer Science Students in Multiple-Choice Exercises?

基于LLM的聊天机器人是否足以支持计算机科学学生完成多项选择题练习？

Markos Stamatakis, Omkar Gavali, Joshua Berger, Christian Wartena, Anett Hoppe, Ralph Ewerth

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究评估了多种LLM聊天机器人在大学计算机科学多项选择题中的表现，并探讨其对学生学习的影响，发现GPT-4o和GPT-5表现最佳，但提供答案和解释并未普遍提升学生成绩。

Comments 13 pages (excluding references), 6 tables, 1 figure, 1 equation

Let Them Steal: Trapping Large Language Model Extraction Attacks with Knowledge Honeypot

让他们偷：用知识蜜罐诱捕大语言模型提取攻击

Yuyang Dai, Yushun Dong

机构 * Florida State University（佛罗里达州立大学） 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出知识陷阱防御方法，通过蜜罐知识图和面包屑引导消耗攻击者查询预算，在保持合法用户性能的同时降低替代模型一致性6.2%。

Comments 16 pages

Guiding Federated Graph Recommendation with LLM-encoded knowledge

利用LLM编码知识指导联邦图推荐

Thi Minh Chau Nguyen, Hien Trang Nguyen, Duc Anh Nguyen, Van Ho-Long, Thanh Trung Huynh, Zhao Ren

机构 * institutetext（机构） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对联邦图推荐中跨客户端图表示对齐难的问题，提出利用大语言模型编码的语义信号指导结构表示的选择性聚合，提升推荐准确性。

Comments Technical Report

Online Domain-aware LLM Decoding for Continual Domain Evolution

在线领域感知的LLM解码用于持续领域演变

Mohammad Abu-Shaira, Weishi Shi

机构 * University of North Texas（北卡罗来纳州立大学） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；分类 cs.AI、cs.LG

AI总结 本文提出在线领域感知解码框架ODD，通过概率融合和自适应置信度调节，提升LLM在持续领域变化中的适应能力，实验表明其在语法和语义生成任务中表现优异。

Journal ref Advances in Knowledge Discovery and Data Mining, PAKDD 2026, LNAI 16600, pp. 565-577, Springer, 2026

LLM Jaggedness Unlocks Scientific Creativity

LLM Jaggedness Unlocks Scientific Creativity

Shray Mathur, J. Anibal Boscoboinik, Esther H. R. Tsai, Kevin G. Yager

机构 * Center for Functional Nanomaterials, Brookhaven National Laboratory（功能纳米材料中心，布鲁赫萨尔国家实验室） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了大型语言模型（LLMs）在科学创意生成中的不规则进步现象，提出了SciAidanBench基准测试集，通过评估不同模型在科学问题上的创意生成能力，揭示了模型在跨任务、提示和领域层面的不均衡表现，并展示了如何通过推理计算、知识聚合和头脑风暴等机制利用这种不规则性来提升科学创造力。

LLMs on Tabular Data with Limited Semantics: Evidence from Industrial Car Retrofit Prediction

有限语义表格数据上的LLM：来自工业汽车改造预测的证据

Aina Vila Pons, Ioannis Tzachristas, Constantinos Antoniou

机构 * Technical University of Munich（慕尼黑工业大学） ； BMW Group（宝马集团） 纠错

专题命中 领域大模型 ：LLM(title_cn,summary_cn)；foundation model(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 研究在工业表格数据中，LLM（嵌入、直接分类、混合堆叠）与经典树集成方法的对比，发现LLM在语义受限时效果有限，但嵌入和混合方法仍有价值。

LLM-Assisted Stance Detection in Scientific Discourse: A Test Case in Bayesian Cognitive Science

科学话语中的立场检测：以贝叶斯认知科学为例的LLM辅助方法

Eyup Engin Kucuk, Tarik Kelestemur, Ömer Dağlar Tanrikulu

机构 * University of New Hampshire（新罕布什尔大学） ； Independent Researcher（独立研究员） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 提出结合理论驱动编码手册、专家标注和诊断门控提示优化的方法，利用三个前沿LLM检测贝叶斯模型在科学文本中的现实主义/工具主义立场，在210篇文章的6858条引文中达到0.78的联合信度。

Comments 9 pages, 4 figures; Code and data: https://github.com/EyupEK/autoresearch_bayes

What LLMs Must Forget to Teach Effectively: A DIY Approach to Premodern Japanese Language Pedagogy

LLM必须忘记什么才能有效教学：前现代日语教学法的DIY方法

Ariel Stilerman, Andrew Nelson, Alan Cheng, Caleb Langley, Sera Wang, Camilla Piana, Pelin Çılgın, Qianhe Qin, Teisha Nishimitsu, Liaoliao Zhang, Huiting Liu, Josh Eyre, Gavin Sherry

专题命中 领域大模型 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于大型语言模型（LLM）的DIY教学框架，通过提示工程创建定制工具，避免LLM过度解释或产生幻觉，从而促进前现代日语文学和语言课程中的主动理解与教学对齐。

Speaking the Language of Science: Toward a General-Purpose Generative Foundation Model for the Natural Sciences

说科学的语言：面向自然科学的通用生成基础模型

Mingyang Li, Yurou Liu, Jieping Ye, Bing Su, Ji-Rong Wen, Zheng Wang

机构 * Alibaba Group（阿里巴巴集团） ； Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） 纠错

专题命中 领域大模型 ：foundation model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出LOGOS模型，通过统一科学语法将异构任务转化为自回归框架中的下一个词预测，在多个科学任务上匹配或超越领域专用基线，验证了“一模型适用于所有”的可行性。