语言大模型 / LLM

Communication Compression for Tensor Parallel LLM Inference

张量并行大语言模型推断中的通信压缩

Jan Hansen-Palmus, Michael Truong Le, Oliver Hausdörfer, Alok Verma

机构 * Recogni ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过压缩加速器间通信来减少张量并行大语言模型推断的延迟，实现TTFT减少2倍且性能损失可忽略。

Adversarial Contrastive Learning for LLM Quantization Attacks

对抗对比学习用于大语言模型量化攻击

Dinghong Song, Zhiwei Xu, Hai Wan, Xibin Zhao, Pengfei Su, Dong Li

机构 * Tsinghua University（清华大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出对抗对比学习方法，通过最大化良性与有害响应概率差距，有效提升大语言模型量化攻击的成功率。

Comments 14 pages, 5 figures

LoRA-Drop: Temporal LoRA Decoding for Efficient LLM Inference

LoRA-Drop：用于高效LLM推理的时序LoRA解码

Hossein Rajabzadeh, Maryam Dialameh, Chul B. Park, Il-Min Kim, Hyock Ju Kwon

机构 * University of Waterloo（滑铁卢大学） ； University of Toronto（多伦多大学） ； Queen’s University（皇后大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LoRA-Drop通过时序计算计划和低秩LoRA校正，实现高效LLM推理，提升解码速度2.6倍并减少45-55%的KV缓存占用。

DiffBench Meets DiffAgent: End-to-End LLM-Driven Diffusion Acceleration Code Generation

DiffBench 与 DiffAgent：端到端的 LLM 驱动扩散加速代码生成

Jiajun jiao, Haowei Zhu, Puyuan Yang, Jianghui Wang, Ji Liu, Ziqiong Liu, Dong Li, Yuejian Fang, Junhai Yong, Bin Wang, Emad Barsoum

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本文提出DiffBench和DiffAgent，通过LLM驱动的闭环流程，实现端到端的扩散模型加速代码生成，显著提升生成策略的有效性。

Comments Accepted to AAAI 2026

CalliReader: Contextualizing Chinese Calligraphy via an Embedding-Aligned Vision-Language Model

CalliReader：通过嵌入对齐的视觉-语言模型 contextualizing 中文书法

Yuxuan Luo, Jiaqi Tang, Chenyi Huang, Feiyang Hao, Zhouhui Lian

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学计算机技术研究院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；instruction tuning(abstract)

AI总结 CalliReader通过字符级切片、视觉-文本对齐和嵌入指令微调，解决中文书法的上下文识别问题，实现比现有方法和专业书法家更高的准确性与更低的幻觉率。

Comments 11 pages

Journal ref Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV) 2025

IPA: An Information-Reconstructive Input Projection Framework for Efficient Foundation Model Adaptation

IPA: 一种信息重构的输入投影框架，用于高效的基础模型适应

Yuan Yin, Shashanka Venkataramanan, Tuan-Hung Vu, Andrei Bursuc, Matthieu Cord

机构 * Sorbonne Université（索邦大学） ； CNRS（国家科学研究中心） ； ISIR（信息科学研究所） 纠错

专题命中 效率与部署 ：foundation model(title)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 IPA通过信息重构的输入投影框架提升基础模型适应效率，实现更高准确率与更少参数消耗。

Comments Accepted to TMLR

ReCode: Unify Plan and Action for Universal Granularity Control

ReCode：统一计划与行动以实现通用粒度控制

Zhaoyang Yu, Jiayi Zhang, Huixue Su, Yufan Zhao, Yifan Wu, Mingyi Deng, Jinyu Xiang, Yizhang Lin, Lingxiao Tang, Yuyu Luo, Bang Liu, Chenglin Wu

机构 * DeepWisdom ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Renmin University of China（中国人民大学） ； Zhejiang University（浙江大学） ； Université de Montréal & Mila（蒙特利尔大学及Mila） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ReCode通过递归代码生成统一规划与行动，实现通用粒度控制，提升智能体在不同决策粒度上的灵活性和效率。

Linear Script Representations in Speech Foundation Models Enable Zero-Shot Transliteration

语音基础模型中的线性脚本表示可实现零样本转写

Ryan Soh-Eun Shim, Kwanghee Choi, Kalvin Chang, Ming-Hao Hsu, Florian Eichin, Zhizheng Wu, Alane Suhr, Michael A. Hedderich, David Harwath, David R. Mortensen, Barbara Plank

机构 * LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Carnegie Mellon University（卡内基梅隆大学） ； University of California, Berkeley（加州大学伯克利分校） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.CL

AI总结 通过在语音基础模型中引入线性脚本表示，实现对语音识别输出脚本的零样本控制，提升多语言转写性能。

Agent.xpu: Efficient Scheduling of Agentic LLM Workloads on Heterogeneous SoC

Agent.xpu: 高效调度代理LLM工作负载于异构SoC

Xinming Wei, Jiahao Zhang, Haoran Li, Jiayu Chen, Haoning Guan, Rui Qu, Maoliang Li, Xiang Chen, Guojie Luo

机构 * School of Computer Science, Peking University（北京大学计算机科学学院） ； The University of Hong Kong（香港大学） ； National Key Laboratory for Multimedia Information Processing, Peking University（北京大学多媒体信息处理国家重点实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 Agent.xpu通过异构执行图和流感知协调技术，高效调度代理LLM工作负载，提升主动吞吐量和反应性响应性能

When Prompting Meets Spiking: Graph Sparse Prompting via Spiking Graph Prompt Learning

当提示遇见脉冲：通过脉冲图提示学习进行图稀疏提示

Bo Jiang, Weijun Zhao, Beibei Wang, Jin Tang

机构 * School of Computer Science and Technology, Anhui University（计算机科学与技术学院，安徽大学） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.LG

AI总结 本文提出SpikingGPF，通过脉冲神经元机制学习稀疏图提示，提升图任务的鲁棒性和效率。

Making MoE-based LLM Inference Resilient with Tarragon

用Tarragon使基于MoE的LLM推理更加健壮

Songyu Zhang, Aaron Tam, Myungjin Lee, Shixiong Qi, K. K. Ramakrishnan

机构 * UC Riverside（加州大学河滨分校） ； Cisco Research（思科研究） ； University of Kentucky（肯塔基大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 Tarragon通过将故障影响限制在个别工作者上，实现了更健壮的MoE推理，显著降低了故障导致的停滞时间。

Audit Me If You Can: Query-Efficient Active Fairness Auditing of Black-Box LLMs

审计我：查询高效主动公平性审计黑盒大语言模型

David Hartmann, Lena Pohlmann, Lelia Hanslik, Noah Gießing, Bettina Berendt, Pieter Delobelle

机构 * Weizenbaum Institut Berlin（魏泽恩堡研究所柏林） ； Technische Universität Berlin（柏林技术大学） ； FIZ Karlsruhe（卡尔斯鲁厄FIZ） ； KU Leuven（鲁汶大学） ； Aleph Alpha（Aleph Alpha公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 BAFA通过主动查询减少资源消耗，实现高效黑盒LLM公平性审计

Comments Submitted to ACL ARR 2026

Leveraging the true depth of LLMs

利用大语言模型的真实深度

Ramón Calvo González, Daniele Paliotta, Matteo Pagliardini, Martin Jaggi, François Fleuret

机构 * University of Geneva（日内瓦大学） ； EPFL（瑞士联邦理工学院） ； FAIR at META（META 的 FAIR） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 通过重构计算图并并行评估连续层对，提升大语言模型的推理效率，同时保持较高的准确率。

Hypothesize-Then-Verify: Speculative Root Cause Analysis for Microservices with Pathwise Parallelism

假设-验证：基于路径并行的微服务推测根本原因分析

Lingzhe Zhang, Tong Jia, Yunpeng Zhai, Leyi Pan, Chiming Duan, Minghua He, Pei Xiao, Ying Li

机构 * Peking University（北京大学） ； Alibaba Group（阿里巴巴集团） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 SpecRCA通过假设-验证范式提升微服务系统根本原因分析的准确性和效率。

Comments accepted by ICSE-NIER'26

TextBO: Bayesian Optimization in Language Space for Eval-Efficient Self-Improving AI

TextBO: 在语言空间中基于贝叶斯优化的评估高效自改进AI

Enoch Hyunwook Kang, Hema Yoganarasimhan

机构 * University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 TextBO是一种在语言空间中基于贝叶斯优化的评估高效自改进AI算法，通过结合文本梯度与最佳N选择策略，实现高效自改进。

Generative AI for Networking

生成式人工智能用于网络

Faisal Zaman, Ouns Bouachir, Moayad Aloqaily, Ismaeel Al Ridhawi

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文探讨生成式人工智能在提升网络性能和实现自适应网络中的作用，并展示利用transformers自注意力机制进行长期流量预测的案例。

Comments Accepted in IEEE AIMS-FLLM 2025

LTX-2: Efficient Joint Audio-Visual Foundation Model

LTX-2：高效的音频-视觉联合基础模型

Yoav HaCohen, Benny Brazowski, Nisan Chiprut, Yaki Bitterman, Andrew Kvochko, Avishai Berkowitz, Daniel Shalem, Daphna Lifschitz, Dudu Moshe, Eitan Porat, Eitan Richardson, Guy Shiran, Itay Chachy, Jonathan Chetboun, Michael Finkelson, Michael Kupchick, Nir Zabari, Nitzan Guetta, Noa Kotler, Ofir Bibi, Ori Gordon, Poriya Panet, Roi Benita, Shahar Armon, Victor Kulikov, Yaron Inger, Yonatan Shiftan, Zeev Melumian, Zeev Farbman

机构 * Lightricks（利光科技） 纠错

专题命中 效率与部署 ：foundation model(title)

AI总结 LTX-2是一种高效的音频-视觉联合基础模型，通过统一的双流变压器架构生成高质量的音频视觉内容，支持多语言提示和模态感知的可控生成。

LittiChoQA: Literary Texts in Indic Languages Chosen for Question Answering

LittiChoQA：用于问答的印度语言文学文本

Aarya Khandelwal, Ritwik Mishra, Rajiv Ratn Shah

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LittiChoQA是一个针对印度语言文学文本的大型问答数据集，通过完整上下文微调在性能上表现最佳，同时上下文缩短显著提升了处理效率。

Comments Submitted to ARR Jan cycle. Targetting AACL 2026

Aha Moment Revisited: Are VLMs Truly Capable of Self Verification in Inference-time Scaling?

顿悟时刻再审视：VLMs在推理时间缩放中真的能自我验证吗？

Mingyuan Wu, Meitang Li, Jingcheng Yang, Jize Jiang, Kaizhuo Yan, Zhaoheng Li, Hanchao Yu, Minjia Zhang, Klara Nahrstedt

机构 * University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Michigan Ann Arbor（密歇根大学安娜堡分校） ； Meta 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究发现VLMs在推理时间缩放中自我验证效果有限，生成能力优于验证策略，且视觉信息整合不足。

Comments Neurips 2025 Multimodal Algorithmic Reasoning Workshop Oral. In submission

Efficient Context Scaling with LongCat ZigZag Attention

高效上下文扩展与LongCat ZigZag注意力

Chen Zhang, Yang Bai, Jiahuan Li, Anchun Gui, Keheng Wang, Feifan Liu, Guanyu Wu, Yuwei Jiang, Defei Bu, Li Wei, Haihang Jing, Hongyin Tang, Xin Chen, Xiangzhou Huang, Fengcun Li, Rongxiang Weng, Yulei Qian, Yifan Lu, Yerui Sun, Jingang Wang, Yuchen Xie, Xunliang Cai

机构 * Meituan, China（美团，中国） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.CL、cs.AI

AI总结 LongCat ZigZag Attention通过稀疏化全注意力模型，提升长上下文处理效率，实现高效长期推理和代理能力。

Comments 10 pages, 3 figures, 3 tables

Exploratory Causal Inference in SAEnce

科学探索中的因果推断

Tommaso Mencattini, Riccardo Cadei, Francesco Locatello

机构 * Institute of Science and Technology（科学与技术研究所） ； École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出神经效应搜索方法，通过预训练模型和稀疏自动编码器，在真实世界科学试验中实现了无监督因果效应识别。

Beyond Patch Aggregation: 3-Pass Pyramid Indexing for Vision-Enhanced Document Retrieval

超越补丁聚合：面向视觉增强文档检索的三阶段金字塔索引

Anup Roy, Rishabh Gyanendra Upadhyay, Animesh Rameshbhai Panara, Robin Mills, Aidan Millar

机构 * Inception AI ； Mubadala 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 VisionRAG是一种无OCR、模型无关的多模态检索系统，通过三阶段金字塔索引提升文档检索效率和准确性。

Self-Routing RAG: Binding Selective Retrieval with Knowledge Verbalization

自路由RAG：通过知识语言化绑定选择性检索

Di Wu, Jia-Chen Gu, Kai-Wei Chang, Nanyun Peng

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 SR-RAG通过将LLM本身作为知识源，实现多源选择性检索，提升效率和准确性。

Enhancing Safety in Automated Ports: A Virtual Reality Study of Pedestrian-Autonomous Vehicle Interactions under Time Pressure, Visual Constraints, and Varying Vehicle Size

提升自动化港口的安全性：一项虚拟现实研究，探讨时间压力、视觉限制和不同车辆尺寸下行人与自动驾驶车辆的交互

Yuan Che, Mun On Wong, Xiaowei Gao, Haoyang Liang, Yun Ye

专题命中 效率与部署 ：prompting(abstract)

AI总结 本研究通过虚拟现实实验探讨了时间压力、视觉限制和车辆尺寸对港口行人与自动驾驶车辆交互安全的影响，提出了提升港口自动驾驶系统安全性的策略。

Software-Defined Agentic Serving

软件定义代理服务

Saurabh Agarwal, Marco Laju, Jayanth Srinivasa, Myungjin Lee, Aditya Akella

专题命中 效率与部署 ：LLM(abstract)

AI总结 本文提出一种受SDN启发的代理服务框架，通过动态调整通信属性实现高效、响应灵敏的代理服务系统。

ReCCur: A Recursive Corner-Case Curation Framework for Robust Vision-Language Understanding in Open and Edge Scenarios

ReCCur：一种递归角落案例校准框架，用于开放和边缘场景中的鲁棒视觉-语言理解

Yihan Wei, Shenghai Yuan, Tianchen Deng, Boyang Lou, Enwen Hu

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 ReCCur通过递归框架实现低计算量的角落案例校准，提升开放和边缘场景下的视觉-语言理解鲁棒性。

SAGOnline: Segment Any Gaussians Online

SAGOnline: 在线分割任意高斯

Wentao Sun, Quanyun Wu, Hanqing Xu, Kyle Gao, Zhengsen Xu, Yiping Chen, Dedong Zhang, Lingfei Ma, John S. Zelek, Jonathan Li

机构 * University of Waterloo（滑铁卢大学） ； East China Normal University（东华大学） ； University of Calgary（卡尔加里大学） ； Sun Yat-Sen University（中山大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 SAGOnline提出一种实时、零样本的3D分割框架，通过光栅化感知的几何共识机制实现跨视角一致的分割，提升AR/VR和机器人中的交互式3D理解能力。

Comments 11 pages, 6 figures

EgoLog: Ego-Centric Fine-Grained Daily Log with Ubiquitous Wearables

EgoLog：基于普及式可穿戴设备的以自我为中心的细粒度日常日志

Lixing He, Bufang Yang, Di Duan, Zhenyu Yan, Guoliang Xing

专题命中 效率与部署 ：LLM(abstract)

AI总结 EgoLog通过融合音频与IMU数据及LLM推理，实现了基于普及式可穿戴设备的细粒度日常日志识别，提升了场景和活动识别的准确性。

Large Language Model Guided Decoding for Self-Supervised Speech Recognition

基于大语言模型的引导解码用于自监督语音识别

Eyal Cohen, Bhiksha Raj, Joseph Keshet

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出一种结合大语言模型与自监督语音模型的引导解码方法，通过综合语音评分与LLM评分提升转录准确性，尤其在处理复杂语音输入时表现优异。

Comments 12 pages, 2 figures. This work has been submitted to the IEEE for possible publication

A Lay User Explainable Food Recommendation System Based on Hybrid Feature Importance Extraction and Large Language Models

一种基于混合特征重要性提取和大语言模型的可解释食品推荐系统

Melissa Tessa, Diderot D. Cidjeu, Rachele Carli, Sarah Abchiche, Ahmad Aldarwishd, Igor Tchappi, Amro Najjar

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出一种基于混合特征重要性提取和大语言模型的食品推荐系统，旨在为普通用户提供更清晰、全面的推荐结果解释，提升用户信任和透明度。