语言大模型 / LLM

Trustworthy and Controllable Professional Knowledge Utilization in Large Language Models with TEE-GPU Execution

在大语言模型中实现可信且可控的专业知识利用：TEE-GPU执行

Yifeng Cai, Zhida An, Yuhan Meng, Houqian Liu, Pengli Wang, Hanwen Lei, Yao Guo, Ding Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出PKUS系统，通过将专业知识作为可分离的制品，实现大语言模型中可信且可控的专业知识利用，提升模型性能并降低延迟。

Quantifying the Impact of Structured Output Format on Large Language Models through Causal Inference

通过因果推理量化结构化输出格式对大语言模型的影响

Han Yuan, Yue Zhao, Li Zhang, Wuqiong Luo, Zheng Ma

机构 * Global Decision Science, American Express（全球决策科学，美国运通） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文通过因果推理分析结构化输出对大语言模型生成的影响，发现多数情况下无显著因果效应，但特定情况下受指令影响。

Basis Selection: Low-Rank Decomposition of Pretrained Large Language Models for Target Applications

基底选择：为特定应用预训练大语言模型的低秩分解

Yang Li, Daniel Agyei Asante, Changsheng Zhao, Ernie Chang, Yangyang Shi, Vikas Chandra

机构 * Iowa State University（爱荷华州立大学） ； Meta 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种针对特定应用的LLM低秩分解方法，通过识别并去除冗余部分，有效压缩模型大小并保持性能。

Comments Transactions on Machine Learning Research (TMLR), 2025

Auxiliary Descriptive Knowledge for Few-Shot Adaptation of Vision-Language Model

辅助描述性知识用于视觉-语言模型的少样本适应

SuBeen Lee, GilHan Park, WonJun Moon, Hyun Seok Seong, Jae-Pil Heo

机构 * Sungkyunkwan University（顺天妇女大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)

AI总结 本文提出ADK框架，通过生成丰富的描述性提示提升视觉-语言模型在少样本适应中的性能，提供两种知识类型以增强类别区分能力。

PAACE: A Plan-Aware Automated Agent Context Engineering Framework

PAACE：一种计划感知的自动代理上下文工程框架

Kamer Ali Yuksel

机构 * Kamer Ali Yuksel（独立研究者） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 PAACE通过计划感知的上下文工程框架提升LLM代理的准确性并减少上下文负载，实现高效多步骤任务处理。

XLM: A Python package for non-autoregressive language models

XLM：一种用于非自回归语言模型的Python包

Dhruvesh Patel, Durga Prasad Maram, Sai Sreenivas Chintha, Benjamin Rozonoyer, Andrew McCallum

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 XLM是一个Python包，旨在加速非自回归语言模型的实现，并提供预训练模型供研究社区使用。

Comments Code available at https://github.com/dhruvdcoder/xlm-core

Enabling Disaggregated Multi-Stage MLLM Inference via GPU-Internal Scheduling and Resource Sharing

通过GPU内部调度和资源共享实现解耦的多阶段MLLM推理

Lingxiao Zhao, Haoran Zhou, Yuezhi Che, Dazhao Cheng

机构 * Wuhan University（武汉大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 通过GPU内部调度和资源共享实现解耦的多阶段MLLM推理，提升吞吐量和延迟性能

OptScale: Probabilistic Optimality for Inference-time Scaling

OptScale: 推断时间缩放的概率最优性

Youkang Wang, Jian Wang, Rubing Chen, Xiao-Yong Wei

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 OptScale通过概率框架和动态样本决策，提升LLMs推理性能并减少采样开销。

Comments Accepted by AAAI-2026

Accelerating Multi-modal LLM Gaming Performance via Input Prediction and Mishit Correction

通过输入预测和误位修正加速多模态大语言模型游戏性能

Ziyang Lin, Zixuan Sun, Sanhorn Chen, Xiaoyang Chen, Roy Zhao

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 通过输入预测和误位修正方法，显著降低多模态大语言模型游戏性能的推理延迟，提升整体控制效果。

Comments UIUC 25 Fall CS 498

The Diffusion Duality

扩散对偶性

Subham Sekhar Sahoo, Justin Deschenaux, Aaron Gokaslan, Guanghan Wang, Justin Chiu, Volodymyr Kuleshov

机构 * School of Computer and Communication Sciences, EPFL（计算机与通信科学学院，瑞士洛桑联邦理工学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Duo通过结合高斯扩散技术提升训练和采样效率，实现离散扩散模型在文本生成中的性能突破。

Comments ICML 2025. We provide the code at: https://github.com/s-sahoo/duo [v3] includes improved theory, clearer presentation, and a new future work section

Atom: Efficient On-Device Video-Language Pipelines Through Modular Reuse

Atom：通过模块化重用实现高效的设备端视频-语言流水线

Kunjal Panchal, Saayan Mitra, Somdeb Sarkhel, Haoliang Wang, Ishita Dasgupta, Gang Wu, Hui Guan

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 Atom通过模块化重用提升设备端视频-语言流水线效率，实现27-33%的执行速度提升，同时保持性能稳定。

LUMIA: A Handheld Vision-to-Music System for Real-Time, Embodied Composition

LUMIA: 一种用于实时具身创作的手持视觉到音乐系统

Chung-Ta Huang, Connie Cheng, Vealy Lai

专题命中 效率与部署 ：language model(abstract)

AI总结 LUMIA通过视觉到音乐的实时具身创作系统，将环境互动与生成式AI结合，实现基于感知的即兴音乐创作。

Comments 6 pages, 15 pages with appendix, NeurIPS 2025 Creative AI track