语言大模型 / LLM

E$^3$-Pruner: Towards Efficient, Economical, and Effective Layer Pruning for Large Language Models

E$^3$-Pruner：面向大语言模型高效、经济和有效的层剪枝

Tao Yuan, Haoli Bai, Yinfei Pan, Xuyang Cao, Tianyu Zhang, Lu Hou, Ting Hu, Xianzhi Yu

机构 * Huawei Technologies（华为技术有限公司） ； Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL

AI总结 E$^3$-Pruner通过可微掩码优化和熵感知知识蒸馏，实现了大语言模型的高效、经济和有效层剪枝，显著提升性能与效率。

Reproducibility Report: Test-Time Training on Nearest Neighbors for Large Language Models

可重复性报告：为大语言模型进行邻近邻居测试时训练

Boyang Zhou, Johan Lindqvist, Lindsey Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 通过测试时训练邻近邻居方法，提升大语言模型在多种领域上的性能，尤其在结构化数据集上表现显著。

Holographic Knowledge Manifolds: A Novel Pipeline for Continual Learning Without Catastrophic Forgetting in Large Language Models

全息知识流形：一种实现大语言模型持续学习中无灾难性遗忘的新型流程

Justin Arndt

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 全息知识流形通过分形量化等技术实现大语言模型持续学习中零灾难性遗忘，提升知识压缩效率并降低训练成本。

Comments This paper includes significant errors discovered post publication by the author

Response Attack: Exploiting Contextual Priming to Jailbreak Large Language Models

响应攻击：利用上下文优先级来劫持大语言模型

Ziqi Miao, Lijun Li, Yuan Xiong, Zhenhua Liu, Pengyu Zhu, Jing Shao

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Xi’an Jiaotong University（西安交通大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 响应攻击通过利用对话中中间响应作为上下文优先级，有效劫持大语言模型生成违反政策的内容。

Comments 20 pages, 10 figures. Code and data available at https://github.com/Dtc7w3PQ/Response-Attack

The Rise of Parameter Specialization for Knowledge Storage in Large Language Models

大语言模型中用于知识存储的参数专业化趋势的兴起

Yihuai Hong, Yiran Zhao, Wei Tang, Yang Deng, Yu Rong, Wenxuan Zhang

机构 * Alibaba Group（阿里巴巴集团） ； New York University（纽约大学） ； National University of Singapore（新加坡国立大学） ； Singapore Management University（新加坡管理大学） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究分析了大语言模型中MLP参数的知识存储方式，发现参数专业化提高了知识利用效率，并通过实验验证了其重要性。

Comments Accepted in NeurIPS 2025

SlsReuse: LLM-Powered Serverless Function Reuse

SlsReuse：基于LLM的无服务器函数重用

Jinfeng Wen, Yuehan Sun

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 SlsReuse是首个基于LLM的无服务器函数重用框架，通过语义增强表示和多级修剪策略提升函数推荐效果。

Sometimes Painful but Certainly Promising: Feasibility and Trade-offs of Language Model Inference at the Edge

有时痛苦但无疑有前途：边缘设备上语言模型推断的可行性和权衡

Maximilian Abstreiter, Sasu Tarkoma, Roberto Morabito

机构 * University of Helsinki（赫尔辛基大学） ； EURECOM 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨了边缘设备上语言模型推断的可行性及权衡，评估了不同设备的性能指标，揭示了模型大小与效率之间的平衡问题。

Comments Paper currently under review in an ACM journal. This version reflects reviewer-driven revisions: calibrated power measurements validated with external hardware, updated figures and conclusions, added downstream benchmarks (HellaSwag, Winogrande, TruthfulQA, ARC), clarified hardware scope and cold-start behavior, corrected Orin GPU Q4_0 results, improved visuals, and discussed emerging GenAI NPUs

LLM-DSE: Searching Accelerator Parameters with LLM Agents

LLM-DSE: 使用LLM代理搜索加速器参数

Hanyu Wang, Xinrui Wu, Zijian Ding, Su Zheng, Chengyue Wang, Neha Prakriya, Tony Nowatzki, Yizhou Sun, Jason Cong

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 LLM-DSE通过多代理框架结合LLM与设计空间探索，高效优化HLS指令参数，实现性能提升并减少运行时间。

MMT-ARD: Multimodal Multi-Teacher Adversarial Distillation for Robust Vision-Language Models

MMT-ARD: 多模态多教师对抗蒸馏用于鲁棒视觉-语言模型

Yuqi Li, Junhao Dong, Chuanguang Yang, Shiping Wen, Piotr Koniusz, Tingwen Huang, Yingli Tian, Yew-Soon Ong

机构 * The City University of New York, CUNY（纽约城市大学） ； Nanyang Technological University（南洋理工大学） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Technology Sydney（悉尼技术大学） ； Data61, CSIRO（CSIRO数据61研究所） ； Shenzhen University of Advanced Technology（深圳先进技术大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 MMT-ARD通过多教师对抗蒸馏提升视觉-语言模型的对抗鲁棒性，实验显示鲁棒精度提升4.32%，训练效率提高2.3倍。

Comments 10 pages

Beyond Code Similarity: Benchmarking the Plausibility, Efficiency, and Complexity of LLM-Generated Smart Contracts

超越代码相似性：评估LLM生成智能合约的可信度、效率和复杂性

Francesco Salzano, Simone Scalabrino, Rocco Oliveto, Remo Pareschi

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文评估了LLM生成智能合约的可信度、效率和复杂性，发现检索增强生成显著提升了功能正确性，但生成代码仍需专家验证。

Comments 20 pages

DocSLM: A Small Vision-Language Model for Long Multimodal Document Understanding

DocSLM：一种用于长多模态文档理解的小型视觉-语言模型

Tanveer Hannan, Dimitrios Mallios, Parth Pathak, Faegheh Sardari, Thomas Seidl, Gedas Bertasius, Mohsen Fayyaz, Sunando Sengupta

机构 * Microsoft（微软公司） ； LMU Munich（慕尼黑大学） ； MCML ； FAIR Meta（Meta FAIR） ； UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 DocSLM通过高效的小型视觉-语言模型，在受限内存下实现长多模态文档理解，使用更少的资源达到与先进方法相当的性能。

Efficient Penalty-Based Bilevel Methods: Improved Analysis, Novel Updates, and Flatness Condition

高效罚函数法：改进分析、新更新方法及平坦性条件

Liuyuan Jiang, Quan Xiao, Lisha Chen, Tianyi Chen

机构 * University of Rochester（罗切斯特大学） ； Cornell University（康奈尔大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出PBGD-Free算法，通过解耦变量和引入平坦性条件，改进双层优化的收敛性和效率。

Comments arXiv admin note: text overlap with arXiv:2507.20400

Explore More, Learn Better: Parallel MLLM Embeddings under Mutual Information Minimization

探索更多，学习更好：基于互信息最小化的并行 MLLM 嵌入

Zhicheng Wang, Chen Ju, Xu Chen, Shuai Xiao, Jinsong Lan, Xiaoyong Zhu, Ying Chen, Zhiguo Cao

机构 * Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出基于互信息最小化的并行解耦框架，通过多条并行路径提升多模态嵌入质量，实现高效且鲁棒的嵌入空间。

Improving Generalization of Neural Combinatorial Optimization for Vehicle Routing Problems via Test-Time Projection Learning

通过测试时投影学习提升神经组合优化在车辆路径问题中的泛化能力

Yuanyao Chen, Rongsheng Chen, Fu Luo, Zhenkun Wang

机构 * School of Automation and Intelligent Manufacturing, Southern University of Science and Technology, Shenzhen, China（自动化与智能制造学院，南方科技大学，深圳，中国） ； Guangdong Provincial Key Laboratory of Fully Actuated System Control Theory and Technology, Southern University of Science and Technology, Shenzhen, China（广东省全驱动系统控制理论与技术重点实验室，南方科技大学，深圳，中国） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室，深圳，中国） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出通过测试时投影学习提升神经组合优化在车辆路径问题中的泛化能力，无需再训练即可增强模型对大规模问题的适应性。

Comments arXiv admin note: text overlap with arXiv:2505.24627

Mesh RAG: Retrieval Augmentation for Autoregressive Mesh Generation

Mesh RAG: 用于自回归网格生成的检索增强

Xiatao Sun, Chen Liang, Qian Wang, Daniel Rakita

机构 * Yale University（耶鲁大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 Mesh RAG通过检索增强方法提升自回归网格生成的效率和质量，实现快速生成与增量编辑。

CleverDistiller: Simple and Spatially Consistent Cross-modal Distillation

CleverDistiller: 简单且空间一致的跨模态知识蒸馏

Hariprasath Govindarajan, Maciej K. Wozniak, Marvin Klingner, Camille Maurice, B Ravi Kiran, Senthil Yogamani

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 CleverDistiller通过简单有效的跨模态知识蒸馏方法，在自动驾驶任务中实现语义分割和3D目标检测的高性能表现。

Comments Accepted to BMVC 2025

Improving Multimodal Distillation for 3D Semantic Segmentation under Domain Shift

改进多模态蒸馏以应对激光雷达语义分割中的域移位

Björn Michele, Alexandre Boulch, Gilles Puy, Tuan-Hung Vu, Renaud Marlet, Nicolas Courty

机构 * CNRS, IRISA, Univ. Bretagne Sud（CNRS、IRISA、布列塔尼大学） ； LIGM, Ecole des Ponts, Univ Gustave Eiffel, CNRS（LIGM、巴黎理工学院、古斯塔夫·埃菲尔大学、CNRS） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 本研究提出改进多模态蒸馏方法，通过冻结预训练主干网络并训练MLP头，提升激光雷达语义分割在域移位下的性能。

Comments Accepted at BMVC 2025

UI-Styler: Ultrasound Image Style Transfer with Class-Aware Prompts for Cross-Device Diagnosis Using a Frozen Black-Box Inference Network

UI-Styler: 超声图像风格迁移与跨设备诊断的类感知提示使用冻结黑盒推理网络

Nhat-Tuong Do-Tran, Ngoc-Hoang-Lam Le, Ching-Chun Huang

专题命中 效率与部署 ：prompting(abstract)

AI总结 UI-Styler通过类感知提示策略和模式匹配机制，提升超声图像跨设备诊断的准确性和性能。

Comments Project page: https://dotrannhattuong.github.io/UIStyler, Accepted to WACV 2026

VLM-Augmented Degradation Modeling for Image Restoration Under Adverse Weather Conditions

增强型退化建模用于恶劣天气下的图像修复

Qianyi Shao, Yuanfan Zhang, Renxiang Xiao, Liang Hu

专题命中 效率与部署 ：language model(abstract)

AI总结 本文提出了一种结合视觉-语言模型和隐式记忆库的统一模型，用于在恶劣天气下高效恢复图像，提升了修复精度和计算效率。

Journal ref Proc. 2025 30th International Conference on Automation and Computing (ICAC), pp. 1-6, 2025

Near-Optimal Dropout-Robust Sortition

近优Dropout鲁棒排序

Maya Pal Gambhir, Bailey Flanigan, Aaron Roth

专题命中 效率与部署 ：prompting(abstract)

AI总结 本文提出了一种高效的损失最小化算法，用于在成员退出的情况下保持小组的代表性和适当规模，同时平衡鲁棒性、损失和公平性。

Trust-Aware Multimodal Data Fusion for Yield Estimation: A Case Study of the 2020 Beirut Explosion

具有信任意识的多模态数据融合用于产量估计：贝鲁特2020爆炸的案例研究

Lekha Patel, Craig Ulmer, Stephen J. Verzi, Daniel J. Krofcheck, Indu Manickam, Asmeret Naugle, Jaideep Ray

专题命中 效率与部署 ：language model(abstract)

AI总结 本文提出一种基于贝叶斯分数后验框架的多模态数据融合方法，用于估计爆炸产量，通过信任权重校准不同观测数据，提升不确定性量化和抗偏差能力。

Comments 19 pages, 4 figures, supplementary material, journal

VLM-SFD: VLM-Assisted Siamese Flow Diffusion Framework for Dual-Arm Cooperative Manipulation

VLM-SFD：基于视觉语言模型的双臂协作操作Siamese流扩散框架

Jiaming Chen, Yiyu Jiang, Aoshen Huang, Yang Li, Wei Pan

机构 * Department of Computer Science, The University of Manchester（计算机科学系，曼彻斯特大学） ； School of Control Science and Engineering, Shandong University（控制科学与工程学院，山东大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 VLM-SFD通过双编码器-解码器架构和视觉语言模型，提升双臂协作操作的模仿学习效率与泛化能力。

Comments Accepted by IEEE RA-L