语言大模型 / LLM

The Critical Role of Model Selection in Causal Inference: A Comparative Analysis of Classification Models within the InferBERT Framework for Pharmacovigilance

模型选择在因果推断中的关键作用：基于InferBERT框架的药物警戒分类模型比较分析

Csaba Kiss, Roland Molontay, Gabriele Pergola

机构 * Department of Stochastics, Institute of Mathematics, Budapest University of Technology and Economics（布达佩斯技术与经济大学数学研究所随机学系） ； Institute of Biostatistics and Network Science, Semmelweis University（塞梅维什大学生物统计学与网络科学研究所） ； Department of Computer Science, University of Warwick（华威大学计算机科学系） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.LG

AI总结 本研究在InferBERT框架下比较XGBoost、ALBERT、BioBERT和Med-LLaMA四种模型，发现领域特定预训练（BioBERT）在药物警戒因果ADE检测中优于简单基线和大型LLM，校准改善ECE但对准确率和因果发现影响不一。

Comments 10 pages, 5 figures

ConSA: Controllable Sparsity in Hybrid Attention via Learnable Allocation

ConSA: 通过可学习分配实现混合注意力中的可控稀疏性

Yao Chen, Yinqi Yang, Junyuan Shang, Xiangzhao Hao, Simeng Zhang, Yilong Chen, Tingwen Liu, Shuohuan Wang, Dianhai Yu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） ； Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 提出ConSA框架，通过L0正则化和增广拉格朗日约束学习全注意与滑动窗口注意的最优分配，实现用户指定的稀疏目标，在0.6B和1.7B规模LLM上优于规则基线，并发现底层SWA与中层FA的集中分配模式。

Brick-DICL: Dynamic In-Context Learning for Automated Brick Schema Classification

Brick-DICL：用于自动化Brick模式分类的动态上下文学习

Yiyue Qian, Shinan Zhang, Huan Song, Negin Sokhandan, Hannah Marlowe, Diego Socolinsky

机构 * Amazon AWS Generative AI Innovation Center（亚马逊AWS生成式AI创新中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Brick-DICL两阶段动态上下文学习框架，通过元数据检索和类别检索增强大语言模型领域知识，结合多模型过滤机制，实现楼宇管理系统点位的自动化Brick分类，显著提升准确率并减少人工验证。

RLRC: Reinforcement Learning-based Recovery for Compressed Vision-Language-Action Models

RLRC：基于强化学习的压缩视觉-语言-动作模型恢复

Yuxuan Chen, Yixin Han, Yize Huang, Xiao Li

机构 * State Key Laboratory of Mechanical System and Vibration（机械系统与振动国家重点实验室） ； Shanghai Key Laboratory of Intelligent Robotics（上海智能机器人重点实验室） ； School of Mechanical Engineering, Shanghai Jiao Tong University（上海交通大学机械工程学院） 纠错

专题命中 效率与部署 ：SFT(summary_cn,abstract)；分类 cs.AI

AI总结 提出RLRC三阶段压缩恢复流程，通过结构化剪枝、SFT和强化学习恢复以及量化，实现8倍内存减少和2.3倍推理加速，同时保持任务成功率。

Comments 8 pages, 10 figures; accepted by RA-L 2026

Journal ref IEEE Robotics and Automation Letters, vol. 11, no. 7, pp. 8864-8871, July 2026

Fast Speech Foundation Model Distillation Using Interleaved Stacking

快速语音基础模型蒸馏使用交错堆叠

Eungbeom Kim, Kyogu Lee

机构 * IPAI ； AIIS ； Dept. of Intelligence and Information（智能与信息系） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出交错堆叠方法加速语音基础模型蒸馏训练，通过保持层位置一致性解决性能下降问题，在SUPERB上验证有效性。

Comments Accepted by Interspeech 2026

DeSRPA: Decoupled Speech Role-Playing Agent via Inference-Time Intervention

DeSRPA: 通过推理时干预的解耦语音角色扮演智能体

Wenqiu Tang, Zhen Wan, Takahiro Komamizu, Ichiro Ide

机构 * Nagoya University（名古屋大学） ； National Institute of Informatics（国立情报学研究所） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出DeSRPA框架，通过推理时干预冻结骨干模型，利用双层控制向量机制解耦认知推理与副语言表达，在语音角色扮演中实现个性与情感一致性，超越端到端微调方法。

Comments Accepted to INTERSPEECH 2026

Electrohydrodynamic coupling and stochastic branching in a miniaturized ns-pulsed He plasma jet

微型纳秒脉冲氦等离子体射流中的电流体耦合与随机分支

Y Agha, K Giotis, D Stefas, N Fagnon, G P Vafakos, V Vavourakis, H Höft, P Svarnas, G Lombardi, K Gazeli

专题命中 效率与部署 ：SLM(summary_cn,abstract)

AI总结 通过实验与CFD模拟，研究微米级大气压氦等离子体射流中放电与流动的耦合，发现0.3 slm流量下放电能量最高、射流准直最佳，并首次定量分析了随机分支现象。

DeMaVLA: A Vision-Language-Action Foundation Model for Generalizable Deformable Manipulation

DeMaVLA：面向可泛化可变形物体操作的视觉-语言-动作基础模型

Taiyi Su, Jian Zhu, Tianjian Wang, Youzhang He, Zitai Huang, Jianjun Zhang, Chong Ma, Hanyang Wang, Tianjiao Zhang, Munan Yin, Weihao Ding, Yi Xu

机构 * Tongji University（同济大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI

AI总结 提出DeMaVLA模型，采用VLM骨干与动作专家结合流匹配生成连续动作，通过剪枝Transformer层提升效率，并利用大规模真实世界数据和人类反馈数据聚合训练，实现可变形物体折叠操作的多类别泛化。

Comments 14 pages, 2 figures

Model Validation of Agentic AI Systems: A POMDP-Based Framework for Belief-State, Forecast, and Policy Validation

智能体AI系统的模型验证：基于POMDP的信念状态、预测与策略验证框架

Matthew Francis Dixon

机构 * Quiota LLC（Quiota公司） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出基于部分可观测马尔可夫决策过程（POMDP）的智能体AI模型验证框架，将自主决策分解为信息、信念、预测、动作和效用组件独立验证，并通过投资组合管理案例展示其有效性。

Comments 28 pages, 3 figures, 6 tables. Source code available from https://github.com/mfrdixon/agentic-AI-as-POMDP

SoftMoE: Soft Differentiable Routing for Mixture-of-Experts in LLMs

SoftMoE: 用于大语言模型混合专家网络的软可微路由

Mikołaj Zasada, Łukasz Struski, Jacek Tabor, Marcin Kurdziel

机构 * AGH University of Krakow, Poland（克拉科夫AGH大学） ； Faculty of Mathematics（数学系） ； Computer Science, Jagiellonian University, Poland（计算机科学系，杰哥利安大学，波兰） ； Centre for Credible Artificial Intelligence, Warsaw University of Technology（可信人工智能中心，华沙技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出SoftMoE，通过软top-k LapSum松弛替代离散路由，实现专家路由的梯度优化，并学习每层专家激活数量，在语言建模中激活更少专家达到相当或更优性能。

Comments Accepted at ICML 2026

MIVE: A Minimalist Integer Vector Engine for Softmax LayerNorm and RMSNorm Acceleration

MIVE：用于Softmax、LayerNorm和RMSNorm加速的极简整数向量引擎

Kosmas Alexandridis, Giorgos Dimitrakopoulos

机构 * Integrated Circuits Lab, Electrical and Computer Engineering, Democritus University of Thrace (DUTH), Greece（德摩克利特大学特拉克分校集成电路实验室，电气与计算机工程，德摩克利特大学特拉克分校（DUTH），希腊） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种可编程的极简整数向量引擎MIVE，通过统一数据通路执行Softmax、LayerNorm和RMSNorm三种操作，最大化硬件共享，提升面积和硬件效率。

LineageMark: Multi-user White-box Watermarking for Contribution Tracing in Model Derivation Chains

LineageMark：模型衍生链中用于贡献追踪的多用户白盒水印

Bingxue Zhang, Xiaofeng Xu, Feida Zhu

机构 * University of Shanghai for Science and Technology（上海科技大学） ； Singapore Management University（新加坡国立大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出LineageMark框架，通过投影法在模型参数中嵌入水印，支持多用户、多阶段衍生链中的贡献追踪，对重水印、微调等扰动具有鲁棒性。

Comments 14 pages, 2 figures

miniReranker: Efficient Multimodal Reranking through Visual Cache Reuse and Interaction Sparsity

miniReranker: 通过视觉缓存重用和交互稀疏性实现高效多模态重排序

Yingqi Fan, Xuan Lu, Anhao Zhao, Junlong Tong, Ping Nie, Kai Zou, Yunpu Ma, Wei Zhang, Xiaoyu Shen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出miniReranker，通过视觉优先格式、早期退出、窄交互带和嵌入器引导剪枝，将重排序运行时间降至密集实现的1%以下，同时保持96%以上的性能。

Membership Inference Attacks against Large Audio Language Models

针对大型音频语言的成员推断攻击

Jia-Kai Dong, Yu-Xiang Lin, Hung-Yi Lee

机构 * National Taiwan University（国立台湾大学） ； NTU Artificial Intelligence Center of Research Excellence（国立成功大学人工智能卓越研究中心） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.AI

AI总结 首次系统评估大型音频语言模型的成员推断攻击，提出盲基线协议控制分布偏移，发现跨模态记忆仅源于说话人声纹与文本绑定。

Comments Accepted by Interspeech 2026

PowerOPD: Stabilizing On-Policy Distillation with Bounded Power Transformation

PowerOPD：利用有界幂变换稳定在线策略蒸馏

Anhao Zhao, Junlong Tong, Yingqi Fan, Ping Nie, Wenjie Li, Xiaoyu Shen

机构 * Eastern Institute of Technology, Ningbo（宁波东方理工大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； University of Waterloo（滑铁卢大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对在线策略蒸馏中log-ratio奖励无界导致训练不稳定问题，提出基于Box-Cox幂变换的有界、符号一致奖励族PowerOPD，在数学推理任务上平均提升Avg@8/Pass@8达+6.37/+5.71，并降低59.2%时间与23.1%显存。

MODE: Modality-Decomposed Expert-Level Mixed-Precision Quantization for MoE Multimodal LLMs

MODE: 面向MoE多模态大语言模型的模态分解专家级混合精度量化

Yuanteng Chen, Peisong Wang, Zhilei Liu, Nanxin Zeng, Yuantian Shao, Shiqiang Lang, Tao Liu, Chuangyi Li, Qinghao Hu, Gang Li, Jing Liu, Jian Cheng

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对MoE多模态大语言模型在专家重要性估计中存在的跨模态和视觉内偏差，提出模态分解的专家级混合精度量化框架MODE，通过分解选择频率、过滤冗余视觉令牌并评估模态敏感性，在给定预算下分配比特宽度，在W3A16下平均性能损失控制在2.9%以内。

Comments 18 pages, 8 figures

Olmo Hybrid: From Theory to Practice and Back

Olmo Hybrid：从理论到实践再回到理论

William Merrill, Yanhong Li, Tyler Romero, Anej Svete, Caia Costello, Pradeep Dasigi, Dirk Groeneveld, David Heineman, Bailey Kuehl, Nathan Lambert, Chuan Li, Kyle Lo, Saumya Malik, DJ Matusz, Benjamin Minixhofer, Jacob Morrison, Luca Soldaini, Finbarr Timbers, Pete Walsh, Noah A. Smith, Hannaneh Hajishirzi, Ashish Sabharwal

机构 * Allen Institute for AI（Allen人工智能研究所） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.LG

AI总结 本文通过理论分析和实验验证，证明混合模型（结合注意力与线性RNN）在表达能力、扩展效率上优于纯Transformer，并训练了7B参数的Olmo Hybrid模型，在标准评估中超越Olmo 3。

Comments Corrected author list and typos in appendix

PLATE: Plasticity-Tunable Efficient Adapters for Geometry-Aware Continual Learning

PLATE: 可塑性可调的几何感知持续学习高效适配器

Romain Cosentino

机构 * Salesforce AI Research（Salesforce人工智能研究） 纠错

专题命中 效率与部署 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 提出无需旧任务数据的持续学习方法PLATE，利用预训练网络的几何冗余性，通过结构化低秩更新显式控制可塑性-保留权衡，提升最坏情况保留保证。

Continual Self-Improvement with Lightweight Experiential Latent Memories

持续自我改进：轻量级经验潜在记忆

Vaggelis Dorovatas, Nancy Kalaj, Rahaf Aljundi

机构 * Toyota Motor Europe（丰田汽车欧洲公司） ； University of Trento（特伦托大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出一种在线方法，将推理时计算转化为轻量级模块化潜在记忆，通过自生成测试时信号进行训练，实现持续改进且避免灾难性遗忘。

Distributed General-Purpose Agent Networks: Architecture, Key Mechanisms, and Prototypes

分布式通用智能体网络：架构、关键机制与原型

Shengli Zhang, Deen Ma, Zibin Lin, Taotao Wang

机构 * College of Electronics and Information Engineering, Shenzhen University（深圳大学电子与信息工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出分布式通用智能体网络架构，通过协议适配层连接上层任务语义与底层网络操作，解决语义公告传播、可信身份与多主题声誉、语义梯度机制设计三大核心问题，实现开放可信的智能体协作。

One-Step Token-to-Waveform Generation with MeanFlow in Latent Space

基于潜在空间中MeanFlow的一步式Token到波形生成

Zheqi Dai, Guangyan Zhang, Zhen Ye, Jingyu Li, Haolin He, Chunyat Wu, Yiwen Guo, Qiuqiang Kong

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出MeanFlow在高度压缩潜在空间中实现一步式Token2Wav生成，解决多步流匹配解码器的速度-质量权衡，RTF提升17倍且质量损失可忽略。

Comments 5 pages, 1 figure

MLLMs Get It Right, Then Get It Wrong: Tracing and Correcting Late-Layer Textual Bias

MLLMs 先正确后错误：追踪并纠正后层文本偏见

Xingming Li, Ao Cheng, Qiyao Sun, Xixiang He, Xuanyu Ji, Runke Huang, Qingyong Hu

机构 * National University of Defense Technology（国防科技大学） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Intelligent Game and Decision Lab（智能博弈与决策实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 发现多模态大语言模型在中间层形成正确视觉预测，但最终输出时被文本覆盖，通过检测预测方向变化（85%失败转向文本，89%成功转向视觉）提出无训练方法CALRD，在冲突基准上提升高达9.4%。

Comments Accepted at IJCAI 2026. 16 pages, 10 figures

ITME: Inference Tiered Memory Expansion with Disaggregated CXL-Hybrid Memories

ITME：基于解耦CXL混合内存的分层推理内存扩展

Hakbeom Jang, Younghoon Min, Sunwoong Kim, Taeyoung Ahn, Hanyee Kim, Youngpyo Joo, Hoshik Kim, Jongryool Kim

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对大语言模型推理中TB级上下文状态的内存瓶颈，提出ITME架构，利用CXL混合内存实现字节可寻址的远程内存扩展，通过确定性访问模式优化数据移动，提升吞吐量达35.7%。

LoopCoder-v2: Only Loop Once for Efficient Test-Time Computation Scaling

LoopCoder-v2: 仅循环一次以实现高效的测试时计算扩展

Jian Yang, Shawn Guo, Wei Zhang, Tianyu Zheng, Yaxin Du, Haau-Sing Li, Jiajun Wu, Yue Song, Yan Xing, Qingsong Cai, Zelong Huang, Chuan Hao, Ran Tao, Xianglong Liu, Wayne Xin Zhao, Mingjie Tang, Weifeng Lv, Ming Zhou, Bryan Dai

机构 * Beihang University（北京航空航天大学） ； IQuest Research ； Langboat（浪波） ； Renmin University of China（中国人民大学） 纠错

专题命中 效率与部署 ：instruction tuning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出并行循环Transformer（PLT）并研究循环次数选择，发现两循环变体在代码生成等任务上显著提升，而三循环以上性能下降，揭示了增益-成本权衡。

Visual Verification Enables Inference-time Steering and Autonomous Policy Improvement

视觉验证实现推理时引导与自主策略改进

Mingtong Zhang, Dhruv Shah

机构 * Princeton University（普林斯顿大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI

AI总结 提出VERITAS框架，利用预训练通用机器人策略作为生成器，结合无梯度视觉验证器在推理时评估动作，实现无需额外训练的推理时策略引导和离线策略改进。

Comments Website: https://veritas-improvement.github.io

VISTA: Scale-Aware Visual Navigation via Action History Conditioning

VISTA：通过动作历史条件实现尺度感知的视觉导航

Maeva Guerrier, Koki Kobayashi, Simon Roy, Jana Pavlasek, Giovanni Beltrame

机构 * Polytechnique Montreal（蒙特利尔理工学院） ； MILA（MILA研究所） ； Institute of Science Tokyo（东京科学大学） ； CoRA Lab（CoRA实验室） ； Mist Lab（Mist实验室） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 针对视觉导航基础模型因动作归一化导致的尺度脆弱性，提出通过动作历史条件化提供物理位移上下文，并集成DINOv3编码器增强重复环境中的特征表示，实现零样本跨环境部署。

From Compression to Deployment: Real-Time and Energy-Efficient FastGRNN on Ultra-Constrained Microcontrollers

从压缩到部署：超受限微控制器上的实时节能FastGRNN

Emre Can Kizilates

机构 * Electronics Engineer Independent Researcher, Izmir, Turkey 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 针对超受限微控制器，提出端到端开源FastGRNN压缩部署方案，结合低秩分解、稀疏化和量化，在8位和16位MCU上实现实时50Hz推理，模型仅566字节权重，F1达0.918，并贡献了跨平台确定性推理、循环预热延迟、无乘法器查找表和硬件能耗分析。

Comments 14 pages, 8 figures. Code: https://github.com/emre1998/fastgrnn-har

Rethinking Cross-Layer Information Routing in Diffusion Transformers

重新思考扩散变换器中的跨层信息路由

Chao Xu, Maohua Li, Qirui Li, Yixuan Xu, Yanke Zhou, Yunhe Li, Cuifeng Shen, Hanlin Tang, Kan Liu, Tao Lan, Lin Qu, Shao-Qun Zhang

机构 * Nanjing University（南京大学） ； Alibaba Group（阿里巴巴集团） ； Zhejiang University（浙江大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 本文研究了扩散变换器中跨层信息流动的问题，通过系统性的实证分析，识别了传统残差加法的三个具体症状，并提出了扩散适应性路由（DAR）方法，以实现可学习、时间步适应和非递增的子层输出聚合，从而提升模型性能。

Experimentally validated quantum-secure federated learning over a multi-user quantum network

在多用户量子网络上实验验证的量子安全联邦学习

Zhi-Ping Liu, Xiao-Yu Cao, Hao-Wen Liu, Xiao-Ran Sun, Yu Bao, Jian-Yu Shen, Yu-Shuo Lu, Hua-Lei Yin, Zeng-Bing Chen

机构 * National Laboratory of Solid State Microstructures（固态微结构国家实验室） ； School of Physics, Collaborative Innovation Center of Advanced Microstructures, Nanjing University, Nanjing 210093, China（物理系，先进微结构协同创新中心，南京大学，南京210093，中国） ； School of Physics（物理系） ； Key Laboratory of Quantum State Construction（量子态制备重点实验室） ； Manipulation (Ministry of Education), Renmin University of China, Beijing 100872, China（操控（教育部），中国人民大学，北京100872，中国） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文提出QuNetQFL协议，通过分布式量子密钥掩蔽局部模型更新，实现信息论安全的聚合。实验验证在四客户端量子网络上，提升分类准确率并展示在语言任务和大规模模拟中的扩展性。

Comments 25 pages, 7 figures, 7 tables, Accepted by Research

Journal ref Research 9, 1299 (2026)

AIMER: Calibration-Free Task-Agnostic MoE Expert Pruning

AIMER: 免校准任务无关的MoE专家剪枝

Zongfang Liu, Guangyi Chen, Shengkun Tang, Yifan Shen, Huan Wang, Xin Yuan

机构 * Zhejiang University（浙江大学） ； Westlake University（西湖大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 提出AIMER方法，通过专家权重的集中度模式识别独特专家，实现免校准的任务无关MoE专家剪枝，在7B至47B模型上优于现有方法。