语言大模型 / LLM

A$^2$-LLM: An End-to-end Conversational Audio Avatar Large Language Model

A$^2$-LLM：一种端到端的对话音频虚拟形象大语言模型

Xiaolin Hu, Hang Yuan, Xinzhu Sang, Binbin Yan, Zhou Yu, Cong Huang, Kai Chen

机构 * State Key Laboratory of Information Photonics（信息光子学国家重点实验室） ； Optical Communications, Beijing University of Posts（邮电大学光学通信学院） ； Zhongguancun Institute of Artificial Intelligence, Beijing, China（中关村人工智能研究院） ； School of Finance and Statistics, East China Normal University, Shanghai, China（东华大学金融与统计学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 A$^2$-LLM通过统一框架联合推理语言、音频语调和3D面部运动，实现端到端的情感表达对话虚拟形象，提升实时效率与情感表现力。

Comments 13 pages, 3 figures

Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models

转向外部性：良性激活转向无意中增加大语言模型的劫持风险

Chen Xiong, Zhiyuan He, Pin-Yu Chen, Ching-Yun Ko, Tsung-Yi Ho

机构 * Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.AI

AI总结 本文研究了大语言模型中良性激活转向对安全性的负面影响，发现其无意中增加劫持风险，并通过实验验证了这一现象。

DistillER: Knowledge Distillation in Entity Resolution with Large Language Models

DistillER: 基于大语言模型的实体解析中的知识蒸馏

Alexandros Zeakis, George Papadakis, Dimitrios Skoutas, Manolis Koubarakis

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 DistillER通过知识蒸馏方法，利用大语言模型和小型语言模型，提升实体解析的效率和效果。

PPE: Positional Preservation Embedding for Token Compression in Multimodal Large Language Models

PPE：用于多模态大语言模型中token压缩的位置保持嵌入

Mouxiao Huang, Borui Jiang, Dehua Zheng, Hailin Hu, Kai Han, Xinghao Chen

机构 * Huawei Technologies（华为技术有限公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)

AI总结 PPE通过保持位置信息提升多模态大语言模型的token压缩效率和性能

Comments ICLR 2026

Beyond Prompting: Efficient and Robust Contextual Biasing for Speech LLMs via Logit-Space Integration (LOGIC)

超越提示：通过logit空间整合实现语音大语言模型的高效且鲁棒的上下文偏差（LOGIC）

Peidong Wang

专题命中 效率与部署 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 LOGIC通过logit空间整合实现语音大语言模型的高效且鲁棒的上下文偏差，有效降低实体识别错误率。

Comments This paper is withdrawn temporarily to ensure full compliance with internal institutional publication approval processes

Towards Green AI: Decoding the Energy of LLM Inference in Software Development

迈向绿色AI：解码LLM推理中的能耗在软件开发中

Lola Solovyeva, Fernando Castor

机构 * University of Twente（特文特大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究分析了LLM推理能耗，发现prefill阶段影响解码能耗，通过抑制babbling行为可实现高达89%的能耗节省。

SDFP: Speculative Decoding with FIT-Pruned Models for Training-Free and Plug-and-Play LLM Acceleration

SDFP：基于FIT剪枝模型的投机解码用于无训练和即插即用的大语言模型加速

Hanyu Wei, Zunhai Su, Peng Lu, Chao Li, Spandan Tiwari, Ashish Sirasao, Yuhan Dong

机构 * Tsinghua University（清华大学） ； Advanced Micro Devices, Inc.（先进微器件公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SDFP通过FIT剪枝技术实现无训练、即插即用的大语言模型加速，提升解码速度而不影响输出分布。

Opt4GPTQ: Co-Optimizing Memory and Computation for 4-bit GPTQ Quantized LLM Inference on Heterogeneous Platforms

Opt4GPTQ: 为异构平台上的4位GPTQ量化LLM推理共同优化内存与计算

Yaozheng Zhang, Wei Wang, Jie Kong, Jiehan Zhou, Xianwei Zhang, Huanqing Cui, Han Bao, Yuhai Liu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 Opt4GPTQ通过整合三种平台优化策略，提升异构平台上4位GPTQ量化LLM推理的性能和吞吐量。

CommCP: Efficient Multi-Agent Coordination via LLM-Based Communication with Conformal Prediction

CommCP：通过基于大语言模型的通信实现高效的多智能体协调

Xiaopan Zhang, Zejin Wang, Zhixu Li, Jianpeng Yao, Jiachen Li

机构 * Trustworthy Autonomous Systems Laboratory at the University of California, Riverside, CA, USA（加州大学河滨分校可信自主系统实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 CommCP通过基于大语言模型的通信框架，提升多智能体协作任务的成功率和探索效率。

Comments IEEE International Conference on Robotics and Automation (ICRA 2026); Project Website: https://comm-cp.github.io/

CompactRAG: Reducing LLM Calls and Token Overhead in Multi-Hop Question Answering

CompactRAG: 减少多跳问答中的LLM调用和令牌开销

Hao Yang, Zhiyu Yang, Xupeng Zhang, Wei Wei, Yunjie Zhang, Lin Yang

机构 * State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； Erik Jonsson School of Engineering and Computer Science, University of Texas at Dallas（埃里克·乔纳森工程与计算机科学学院，德克萨斯大学达拉斯分校） ； Isoftstone Information Technology (Group) Co.,Ltd.（伊软石信息技术（集团）有限公司） ； College of Electronic and Information Engineering, Tongji University（电子信息工程学院，同济大学） ； School of Electronic Information, Central South University（电子信息学院，中南大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 CompactRAG通过解耦离线语料重组与在线推理，减少多跳问答中的LLM调用和令牌消耗，提升效率。

TIDE: Temporal Incremental Draft Engine for Self-Improving LLM Inference

TIDE：面向自我改进LLM推理的时序增量草稿引擎

Jiyoung Park, Hankyu Jang, Changseok Song, Wookeun Jung

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 TIDE通过整合在线草稿适应和自适应运行时控制，提升LLM推理效率并减少训练时间。

Improving Diffusion Language Model Decoding through Joint Search in Generation Order and Token Space

通过生成顺序和令牌空间的联合搜索改进扩散语言模型解码

Yangyi Shen, Tianjian Feng, Jiaqi Han, Wen Wang, Tianlang Chen, Chunhua Shen, Jure Leskovec, Stefano Ermon

机构 * stanford（斯坦福大学） ； zju（浙江大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究通过联合搜索生成顺序和令牌空间，改进扩散语言模型的解码性能，在多个基准测试中取得显著优势。

In-context Time Series Predictor

上下文时间序列预测器

Jiecheng Lu, Yan Sun, Shihao Yang

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种基于上下文的时间序列预测方法，通过将时间序列预测任务转化为输入标记，提高了参数效率并减少了过拟合问题。

Comments Camera-ready version. Accepted at ICLR 2025

Journal ref Proceedings of the Thirteenth International Conference on Learning Representations (ICLR 2025)

LittleBit: Ultra Low-Bit Quantization via Latent Factorization

LittleBit：通过潜在因子分解实现超低比特量化

Banseok Lee, Dongkyu Kim, Youngcheon You, Youngmin Kim

机构 * Samsung Research（三星研究院） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 LittleBit通过潜在因子分解实现超低比特量化，实现高达31倍的内存压缩，同时在亚1比特域内提升模型性能，达到FP16的11.6倍推理加速。

Comments Accepted to NeurIPS 2025. Banseok Lee and Dongkyu Kim contributed equally

Stream-Voice-Anon: Enhancing Utility of Real-Time Speaker Anonymization via Neural Audio Codec and Language Models

Stream-Voice-Anon: 通过神经音频编解码器和语言模型提升实时语音匿名化的效用

Nikita Kuzmin, Songting Liu, Kong Aik Lee, Eng Siong Chng

机构 * Nanyang Technological University, Singapore（南洋理工大学，新加坡） ； Institute for Infocomm Research, A STAR, Singapore（信息通信研究所，新加坡） ； The Hong Kong Polytechnic University, Hong Kong（香港理工大学，香港） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 Stream-Voice-Anon通过神经音频编解码器和语言模型提升实时语音匿名化效果，实现更高的可懂度和情绪保留，同时保持低延迟和隐私保护。

Comments Accepted by ICASSP2026. Demo/code: https://paniquex.github.io/Stream-Voice-Anon/

TabPFN-2.5: Advancing the State of the Art in Tabular Foundation Models

TabPFN-2.5：推动表格基础模型的最新进展

Léo Grinsztajn, Klemens Flöge, Oscar Key, Felix Birkel, Philipp Jund, Brendan Roof, Benjamin Jäger, Dominik Safaric, Simone Alessi, Adrian Hayler, Mihir Manium, Rosen Yu, Felix Jablonski, Shi Bin Hoo, Anurag Garg, Jake Robertson, Magnus Bühler, Vladyslav Moroshan, Lennart Purucker, Clara Cornu, Lilly Charlotte Wehrhahn, Alessandro Bonetto, Bernhard Schölkopf, Sauraj Gambhir, Noah Hollmann, Frank Hutter

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 TabPFN-2.5通过提升表格基础模型的性能，在多个基准测试中超越传统树模型，并提供更高效的部署方案。

Correctness-Optimized Residual Activation Lens (CORAL): Transferrable and Calibration-Aware Inference-Time Steering

正确性优化残差激活透镜（CORAL）：可转移且校准感知的推理时间引导

Miranda Muqing Miao, Young-Min Cho, Lyle Ungar

机构 * Department of Computer and Information Science, University of Pennsylvania, Philadelphia, USA（计算机与信息科学系，宾夕法尼亚大学，费城，美国） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.AI、cs.LG

AI总结 CORAL通过正则化探针提取模型内部分布式信息，提升推理时多项选择问答的准确性与校准性能。

SWE-Replay: Efficient Test-Time Scaling for Software Engineering Agents

SWE-Replay：面向软件工程代理的高效测试时间扩展

Yifeng Ding, Lingming Zhang

机构 * Siebel School of Computing（计算科学系） ； Data Science, University of Illinois Urbana-Champaign, USA（数据科学，伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 SWE-Replay通过重用历史轨迹和动态选择探索或利用策略，实现了高效且可推广的软件工程代理测试时间扩展。

Dolphin-v2: Universal Document Parsing via Scalable Anchor Prompting

Dolphin-v2：通过可扩展的锚点提示实现通用文档解析

Hao Feng, Wei Shi, Ke Zhang, Xiang Fei, Lei Liao, Dingkang Yang, Yongkun Du, Xuecheng Wu, Jingqun Tang, Yang Liu, Hong Chen, Can Huang

专题命中 效率与部署 ：prompting(title)；language model(abstract)

AI总结 Dolphin-v2通过可扩展的锚点提示实现通用文档解析，改进了文档类型分类、布局分析和元素检测，提升了对拍摄文档的解析能力并减少错误率。

Generative AI for Intent-Driven Network Management in 6G RAN: A Case Study on the Mamba Model

生成式AI用于6G RAN中的意图驱动网络管理：Mamba模型的案例研究

Md Arafat Habib, Medhat Elsayed, Yigit Ozcan, Pedro Enrique Iturria-Rivera, Majid Bavand, Melike Erol-Kantarci

机构 * School of Electrical Engineering and Computer Science, University of Ottawa（电气与计算机科学学院，渥太华大学） ； Ericsson（爱立信） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于Mamba模型的意图驱动网络管理架构，通过生成式AI提升网络自动化性能，实现70%的服务质量漂移降低和80 Mbps吞吐量提升。

Comments Paper submitted to IEEE for possible publication. The contents of this paper may change at any time

Assessing Tenstorrent's RISC-V MatMul Acceleration Capabilities

评估Tenstorrent的RISC-V矩阵乘法加速能力

Hiari Pizzini Cavagna, Daniele Cesarini, Andrea Bartolini

机构 * University of Bologna（博洛尼亚大学） ； Cineca（Cineca公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文评估了Tenstorrent Grayskull e75 RISC-V加速器在降低精度下的矩阵乘法性能，对比了其与NVIDIA GPU和Intel处理器的能耗与计算效率。

Comments Accepted to the Computational Aspects of Deep Learning Workshop at ISC High Performance 2025. To appear in the ISC High Performance 2025 Workshop Proceedings

Journal ref Proc. High Performance Computing: ISC High Performance 2025 International Workshops, Hamburg, Germany

TurboBoA: Faster and Exact Attention-aware Quantization without Backpropagation

TurboBoA: 更快且精确的注意力感知量化无需反向传播

Junhan Kim, Yeo Jeong Park, Seungwoo Son, Chungman Lee, Ho-young Kim, Joonyoung Kim, Yongkweon Jeon

机构 * Samsung Research（三星研究院） ； SNU.ac.kr（首尔国立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.LG

AI总结 TurboBoA是一种无需反向传播的高效PTQ算法，通过联合量化和误差补偿提升精度与速度，实现比BoA更快的量化过程。

Comments ICLR 2026

Sparse Video Generation Propels Real-World Beyond-the-View Vision-Language Navigation

稀疏视频生成推动现实世界超越视界视觉语言导航

Hai Zhang, Siqi Liang, Li Chen, Yuxian Li, Yukuan Xu, Yichao Zhong, Fu Zhang, Hongyang Li

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出SparseVideoNav，通过稀疏视频生成实现现实世界超越视界导航，显著提升导航效率和成功率。

Hybrid Gated Flow (HGF): Stabilizing 1.58-bit LLMs via Selective Low-Rank Correction

混合门控流（HGF）：通过选择性低秩校正稳定1.58位LLM

David Alejandro Trejo Pizzo

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 混合门控流（HGF）通过选择性低秩校正技术，在1.58位LLM中实现内存效率与模型质量的平衡，恢复了与FP16基线的55%质量差距。

Comments 21 pages, 4 figures, 6 tables. Code and models will be released at opencores.ai

Preference-based Reinforcement Learning beyond Pairwise Comparisons: Benefits of Multiple Options

基于偏好强化学习的多选项扩展：多个选项的好处

Joongkyu Lee, Seouh-won Yi, Min-hwan Oh

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出M-AUPO算法，通过多选项选择提升偏好强化学习的样本效率，并证明其理论性能界。

Comments Accepted at NeurIPS 2025

Pruning Minimal Reasoning Graphs for Efficient Retrieval-Augmented Generation

对检索增强生成进行最小推理图剪枝以提高效率

Ning Wang, Kuanyan Zhu, Daniel Yuehwoon Yee, Yitang Gao, Shiying Huang, Zirun Xu, Sainyam Galhotra

机构 * Cornell University（康奈尔大学） ； University of Cambridge（剑桥大学） ； The University of Hong Kong（香港大学） ； HKUST（香港科技大学） ； University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 AutoPrunedRetriever通过最小推理图剪枝提升检索增强生成效率，实现更高效的知识密集型任务处理。

Orthogonal Model Merging

正交模型融合

Sihan Yang, Kexuan Shi, Weiyang Liu

机构 * Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 正交模型融合通过在正交群流形上进行融合操作，有效保留模型权重的几何结构，减少灾难性遗忘并提升多任务性能。

Comments Technical report (18 pages, 9 figures, project page: https://spherelab.ai/OrthoMerge/)

The Double Life of Code World Models: Provably Unmasking Malicious Behavior Through Execution Traces

代码世界模型的双重生命：通过执行轨迹证明性地揭示恶意行为

Subramanyam Sahoo

机构 * Berkeley AI Safety Initiative (BASIS) UC Berkeley（伯克利人工智能安全倡议（BASIS）加州大学伯克利分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 通过语义轨道分析，CTVP验证代码生成模型的恶意行为，引入ARQ量化验证成本，理论证明对抗鲁棒性非游戏化。

Comments 13 Pages, A Preprint

Mind the Performance Gap: Capability-Behavior Trade-offs in Feature Steering

注意性能差距：特征引导中的能力-行为权衡

Eitan Sprejer, Oscar Agustín Stanchi, María Victoria Carro, Denise Alejandra Mester, Iván Arcuschin

机构 * BAISH, Universidad de Buenos Aires, Argentina（BAISH，布宜诺斯艾利斯大学，阿根廷） ； AISAR, AI Safety Argentina（AISAR，人工智能安全阿根廷） ； Instituto de Investigación en Informática LIDI, Universidad Nacional de La Plata, Argentina（信息研究所LIDI，拉普拉塔国立大学，阿根廷） ； FAIR, IALAB UBA, Universidad de Buenos Aires, Argentina（FAIR，IALAB UBA，布宜诺斯艾利斯大学，阿根廷） ； Università degli Studi di Genova, Italy（热那亚大学，意大利） 纠错

专题命中 效率与部署 ：LLM(abstract)；prompting(abstract)；分类 cs.LG

AI总结 研究发现特征引导方法在控制行为时显著降低模型性能，揭示了能力与行为之间的权衡问题。

Comments 12 pages, 5 figures

TempoPFN: Synthetic Pre-training of Linear RNNs for Zero-shot Time Series Forecasting

TempoPFN：合成预训练线性RNN用于零样本时间序列预测

Vladyslav Moroshan, Julien Siems, Arber Zela, Timur Carstensen, Frank Hutter

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 TempoPFN通过合成预训练线性RNN，实现高效零样本时间序列预测，超越现有方法并提供可重复的研究基础。

Comments 38 pages, 22 figures, 17 tables