语言大模型 / LLM

Experience-Driven Dynamic Exits for LLMs with Reinforcement Learning

基于强化学习的经验驱动动态退出机制用于大语言模型

Yanyu Zhu, Hoilam Pao, Niu Hu, Wei Guo, Shaoxiong Zhan, Boyu Lai, Zitai Wang, Yongqin Zeng, Hai-Tao Zheng

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对大语言模型自回归推理慢的问题，提出LEDE框架，利用离线强化学习动态选择最优退出层和推测长度，实现2.0-2.7倍加速，并比静态推测基线额外提升17%速度。

From Long News to Accurate Forecast: Importance-Aware Fusion and PRM-Guided Reflection for Time Series Forecasting

从长新闻到准确预测：面向时间序列预测的重要性感知融合与PRM引导的反思

Mingyang Liu, Qingcan Kang, Yuke Wang, Shixiong Kai, Kaichao Liang, Hui-Ling Zhen, Tao Zhong, Mingxuan Yuan, Linqi Song

机构 * Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； Huawei Noah’s Ark Lab（华为诺亚实验室） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出一种结合重要性感知新闻压缩和过程奖励模型（PRM）引导检索的框架，解决长新闻上下文窗口限制和迭代检索无引导问题，提升时间序列预测精度并减少迭代次数。

Reproducibility is the New Copyleft: Defining AGI-oriented Reproducible Builds

可重现性是新的Copyleft：定义面向AGI的可重现构建

Masayuki Hatta

机构 * Surugadai University（上贺茂大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出面向通用人工智能（AGI）的可重现构建作为Copyleft的功能等价物，通过定义七项要求来确保模型从声明输入到输出的比特精确可重现性，并论证协议而非平台是更优的治理框架。

Comments Accepted at AGI-26. To appear in the proceedings (Springer LNCS)

Predicting Inference-Time Scaling Gains from Labeled Validation-Set Output Statistics

从标注验证集输出统计量预测推理时缩放增益

Luyang Zhang, Jingyan Li

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 效率与部署 ：language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 提出一种基于标注验证集输出统计量的轻量级方法，通过三个核心特征（提示级一致性扩散、标签辅助的首个正确样本位置、完成长度方差）结合熵特征，使用岭回归预测最佳-of-N推理缩放增益，达到Spearman ρ=0.90的相关性。

Cost-Aware Query Routing in RAG: Empirical Analysis of Retrieval Depth Tradeoffs

RAG中的成本感知查询路由：检索深度权衡的实证分析

Sanjay Mishra

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出CA-RAG框架，通过为每个查询选择最优的检索深度和生成配置组合，在保证答案质量的同时减少令牌成本和延迟。

Comments 13 pages , 18 figures , 8 tables

DFlare: Scaling Up Draft Capacity for Block Diffusion Speculative Decoding

DFlare: 扩展块扩散推测解码的草稿容量

Jiebin Zhang, Zhenghan Yu, Song Liu, Eugene J. Yu, Zheng Li, Dawei Zhu, Jiangshan Duo, Weimin Xiong, Yifan Song, Guanghua Yu, Jianchen Zhu, Sujian Li

机构 * School of Computer Science, Peking University（北京大学计算机科学系） ； Tencent（腾讯） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 提出DFlare方法，通过轻量级逐层融合机制扩展草稿模型容量，在多个基准上实现平均5.52倍加速。

Comments 12 pages, 3 figures

Emergent Ordinal Geometry in Transformers Trained on Local Comparisons

局部比较训练下Transformer中涌现的序数几何

Nishit Singh

机构 * Birla Institute of Technology and Science, Pilani（比拉理工学院和科学学院，皮兰） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 通过仅训练相邻比较，Transformer模型在未见远距离对上展现出泛化能力，并形成一维序数几何结构，其决策置信度与排名距离单调相关，类似于符号距离效应。

Comments 11 pages, 12 figures

Who Deserves the Reward? SHARP: Shapley Credit-based Optimization for Multi-Agent System

谁应得奖励？SHARP：基于Shapley信用的多智能体系统优化

Yanming Li, Xuelin Zhang, WenJie Lu, Ziye Tang, Maodong Wu, Haotian Luo, Tongtong Wu, Zijie Peng, Hongze Mi, Yibo Feng, Naiqiang Tan, Chao Huang, Lian Peng, Li Shen

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对多智能体系统中信用分配难题，提出SHARP框架，通过分解奖励机制（全局广播奖励、Shapley边际信用奖励和工具过程奖励）实现精确信用归因，显著提升强化学习性能。

The Agent's First Day: Benchmarking Learning, Exploration, and Scheduling in the Workplace Scenarios

Agent 的第一天：在工作场景中基准测试学习、探索和调度

Daocheng Fu, Jianbiao Mei, Rong Wu, Xuemeng Yang, Jia Xu, Ding Wang, Pinlong Cai, Yong Liu, Licheng Wen, Botian Shi

机构 * Fudan University（复旦大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Zhejiang University（浙江大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对多模态大语言模型在动态工作场景中面临的任务调度、主动探索和持续学习三大挑战，提出动态评估环境 EvoEnv，实验表明现有 agent 在这些方面存在显著不足。

SkelHCC: A Hyperbolic CLIP-Driven Cache Adaptation Framework for Skeleton-based One-Shot Action Recognition

SkelHCC：一种基于双曲CLIP驱动的缓存自适应框架用于骨架基础的一次动作识别

Yanan Liu, Anqi Zhu, Jingmin Zhu, Jun Liu, Hossein Rahmani, Mohammed Bennamoun, Farid Boussaid, Dan Xu, Qiuhong Ke

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出SkelHCC框架，利用双曲几何编码骨架层次结构，结合CLIP和免训练缓存实现一次动作识别，在三个数据集上达到最优。

Comments Accepted by ICML 2026

GFFMERGE: Efficient Merging of Graph Neural Force Fields and Beyond

GFFMERGE: 图神经力场的高效合并及其扩展

Parth Verma, Parv P. Singh, Vipul Garg, Ishita Thakre, N. M. Anoop Krishnan, Sayan Ranu

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 提出GFFMERGE框架，通过凸嵌入对齐问题解析解实现图神经网络的闭式模型合并，在力场回归任务中恢复接近联合训练的性能，并实现5-27倍加速。

PAND: Prompt-Aware Neighborhood Distillation for Lightweight Fine-Grained Visual Classification

PAND：面向提示的邻域蒸馏用于轻量级细粒度视觉分类

Qiuming Luo, Yuebing Li, Feng Li, Chang Kong

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出PAND框架，通过提示感知语义校准和邻域感知结构蒸馏，将大型视觉语言模型知识迁移至轻量网络，在细粒度分类任务上超越现有方法。

Comments Accepted by ICIP2026

When Attention Collapses: Stage-Aware Visual Token Pruning from Structure to Semantics

当注意力崩溃时：从结构到语义的阶段性视觉令牌剪枝

Jiahui Wang, Kai Zhang, Mai Han, Huanghe Zhang

机构 * Shandong University（山东大学） ； National University of Singapore (Suzhou) Research Institute（新加坡国立大学（苏州）研究院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 针对视觉语言模型推理中视觉令牌剪枝因依赖单一注意力分数导致特征多样性下降的问题，提出两阶段剪枝框架STS，先通过排斥采样最大化结构多样性，再通过指令感知交叉注意力过滤语义无关令牌，从而提升保留令牌的结构多样性与细粒度任务对齐。

MOSAIC: Efficient Mixture-of-Agent Scheduling via Adaptive Aggregation and Inference Concurrency

MOSAIC: 通过自适应聚合和推理并发的高效混合智能体调度

Saptarshi Mitra, Yifan Zhang, Rachid Karami, Phyo Pyae Moe Aung, Nazmul Takbir, Sreetama Sarkar, Souvik Kundu, Sitao Huang

机构 * University of California, Irvine, USA（加州大学 Irvine 分校） ； University of Southern California, Los Angeles, USA（南加州大学洛杉矶分校） ； Intel, USA（英特尔公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.LG

AI总结 针对混合智能体系统在有限GPU资源下的负载不均衡问题，提出基于整数线性规划调度器和置信度感知自适应聚合的MOSAIC框架，实现最高2.5倍专家阶段、4.23倍聚合阶段和1.7~2.3倍端到端加速，精度损失在0.1个百分点内。

Comments 13 pages, 8 main pages

X-Restormer++: 1st Place Solution for the UG2+ CVPR 2026 All-Weather Restoration Challenge

X-Restormer++：UG2+ CVPR 2026全天气恢复挑战赛第一名解决方案

Youwei Pan, Leilei Cao, Yingfang Zhu, Fengjie Zhu

机构 * TEX AI, Transsion Holdings（TEX AI，Transsion控股） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 提出基于X-Restormer的双阶段训练与双模型集成推理方法，结合梯度引导边缘感知损失，在全天气图像恢复挑战赛中取得第一名。

Beyond Compression: Quantifying Spectral Accessibility in Vision Representations

超越压缩：量化视觉表示中的频谱可访问性

Akayou A. Kitessa, Yijun Zhao

机构 * Fordham University（福特汉姆大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 通过残差频谱损失（RSL）测量线性可恢复的带限傅里叶能量，研究视觉语言模型中投影层对表示频谱结构的影响，发现CLIP和DINOv2中频谱可访问性随深度非单调变化，中间层峰值后下降，且CLIP的投影是频谱中性的，而DINOv2的[CLS]池化导致频谱结构损失。

ImageAuditor: Membership Inference Attack against Image-based Retrieval-Augmented Generation

ImageAuditor: 针对基于图像的检索增强生成系统的成员推理攻击

Jinghuai Zhang, Pengyue Yu, Zhexiao Lin, Kunlin Cai, Fnu Suya, Yuan Tian

专题命中 效率与部署 ：prompting(abstract)

AI总结 提出首个针对基于图像的检索增强生成（IRAG）的成员推理攻击方法ImageAuditor，通过奖励引导策略优化解决跨模态检索和判别信号提取两大挑战，在仅需四次查询时AUROC超过80%。

ResCLIP: Residual Attention for Training-free Dense Vision-language Inference

ResCLIP: 用于无训练密集视觉-语言推理的残差注意力

Yuhang Yang, Jinhong Deng, Wen Li, Lixin Duan

机构 * University of Electronic Science and Technology of China（电子科学与技术大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 提出残差交叉相关自注意力模块和语义反馈精炼模块，利用中间层交叉相关注意力重组空间信息，提升CLIP在密集预测任务中的性能。

Journal ref Proceedings of the Computer Vision and Pattern Recognition Conference. 2025: 29968-29978

Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation

Taiji: 面向工业LLM增强推荐的帕累托最优策略优化与语义ID权衡

Yuecheng Li, Zeyu Song, Jing Yao, Chi Lu, Peng Jiang, Kun Gai

机构 * Kuaishou Technology（快手科技） ； Unaffiliated（无隶属） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出Taiji框架，通过逆向工程推理和开放拒绝采样生成高质量CoT数据，并采用帕累托最优策略优化（POPO）自适应调整跨域奖励权重，实现LLM语义知识与推荐ID特征的帕累托最优权衡，在快手广告平台部署后服务超4亿日活用户。

Comments 8 pages, 2 figures

LLM-Assisted Reranking to Operationalize Nuanced Objectives in Recommender Systems

LLM辅助重排序以在推荐系统中实现细微目标

Amir Ghasemian, Homa Hosseinmardi, Upasana Dutta, Duncan J. Watts

机构 * Department of Communication, University of California, Los Angeles, CA 90095（通信系，加州大学洛杉矶分校，CA 90095） ； Department of Computer and Information Science, University of Pennsylvania, Philadelphia, PA 19104（计算机与信息科学系，宾夕法尼亚大学，Philadelphia, PA 19104） ； Amenenberg School of Communication, University of Pennsylvania, Philadelphia, PA 19104（安纳伯格通信学院，宾夕法尼亚大学，Philadelphia, PA 19104） ； Operations, Information, and Decisions Department, University of Pennsylvania, Philadelphia, PA 19104（运营、信息与决策系，宾夕法尼亚大学，Philadelphia, PA 19104） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究通过零样本指令提示对YouTube侧边栏候选进行重排序，发现无约束的LLM辅助重排序会放大极端和阴谋论内容，而轻量级提示正则化可在轻微损失相关性的情况下减少极端内容并增加意识形态多样性。

Comments 30 pages total; 11 pages, 5 figures, 2 tables (main text); 19 pages, 11 figures, 9 tables (appendix)

Whose Name Comes Up? II: Benchmarking and Intervention-Based Auditing of LLM-Based Scholar Recommendation

谁的名字出现？II：基于基准测试和干预审计的LLM学者推荐系统

Lisette Espín-Noboa, Gonzalo Gabriel Méndez

机构 * Complexity Science Hub Vienna（维也纳复杂性科学中心） ； Universitat Politècnica de València（巴塞罗那理工大学） ； Inria Rennes（里昂国家信息与自动化研究所） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出LLMScholarBench基准，通过温度变化、表示约束提示和检索增强生成等干预措施审计22个LLM在物理专家推荐中的技术质量和社会代表性，发现干预措施带来不同权衡。

Comments In Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2 (KDD '26). 30 pages: 11 pages in main (6 figures, 1 table), 19 pages in appendix (22 figures, 2 tables)

Assessing and Mitigating Miscalibration in LLM-Based Social Science Measurement

评估与缓解基于LLM的社会科学测量中的校准误差

Jinyuan Wang, Ningyuan Deng, Yi Yang

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究LLM在社会测量中的校准问题，提出软标签蒸馏方法，通过训练小型分类器将校准误差降低43.2%的ECE和34.0%的Brier分数。

Conditional Hypothesis Generation for LLM-Based Text Analysis with Researcher-Specified Covariates

基于研究者指定协变量的条件假设生成用于LLM文本分析

Paiheng Xu, Jing Liu, Wei Ai

机构 * University of Maryland, College Park（马里兰大学 College Park 分校） 纠错

专题命中 领域大模型 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 提出条件假设生成框架，通过纳入研究者指定的协变量来引导LLM发现相关子组内而非全局的差异模式，并采用特征-协变量交互和分层内去均值与逆频率重加权两种方法解决子组不平衡和符号反转问题。

TALKPLAY: Multimodal Music Recommendation with Large Language Models

TALKPLAY: 基于大语言模型的多模态音乐推荐

Seungheon Doh, Keunwoo Choi, Juhan Nam

机构 * KAIST（韩国科学技术院） ； talkpl.ai 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 提出TALKPLAY系统，通过将推荐转化为token生成问题，利用大语言模型处理多模态音乐特征，实现端到端对话式推荐，显著优于单模态方法。

TalkPlay-Tools: Conversational Music Recommendation with LLM Tool Calling

TalkPlay-Tools: 基于大语言模型工具调用的对话式音乐推荐

Seungheon Doh, Keunwoo Choi, Juhan Nam

机构 * KAIST（韩国科学技术院） ； talkpl.ai 纠错

专题命中 领域大模型 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 提出一种基于LLM工具调用的统一检索-重排序流水线，通过布尔过滤、稀疏检索、稠密检索和生成式检索的组合，实现端到端的对话式音乐推荐。

Comments Accepted for publication at The Workshop on AI for Music, Neural Information Processing Systems (NeurIPS-AI4Music)

Selective Token-Level Cryptographic Redaction for Privacy-Preserving Clinical Deployment of Large Language Models

选择性令牌级密码学编辑用于大型语言模型的隐私保护临床部署

Farhan Sheth, Ziyuan Yang, Yongying Lan, Si Yong Yeo

机构 * MedVisAI Lab, Singapore（新加坡MedVisAI实验室） ； Ruijin Hospital, Shanghai Jiao Tong University School of Medicine, China（中国上海交通大学医学院瑞金医院） ； Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore（新加坡南洋理工大学Lee Kong Chian医学院） 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 提出HERALD框架，通过令牌级密码学编辑仅加密敏感令牌，在保护隐私的同时保持下游模型效用，在分类和医疗问答任务上接近明文性能。

Comments 33 pages, 8 figures, 26 tables

Embracing Anisotropy: Turning Massive Activations into Interpretable Control Knobs for Large Language Models

拥抱各向异性：将大规模激活转化为大型语言模型的可解释控制旋钮

Youngji Roh, Hyunjin Cho, Jaehyung Kim

机构 * Yonsei University（延世大学） 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出一种基于幅度的无训练方法识别领域关键维度，将其作为可解释的语义检测器，并通过仅对这些维度进行激活引导，在领域适应和越狱场景中优于传统全维度引导方法。

Comments ACL 2026 Main Conference

Hallucination Detection-Guided Preference Optimization for Clinical Summarization

基于幻觉检测的偏好优化用于临床摘要生成

Shamanth Kuthpadi Seethakantha, Dung Ngoc Thai, Vara Prasad Gudi, Simran Tiwari, Rami Matar, Avijit Mitra, Wenlong Zhao, Andrew McCallum, Wael Salloum

机构 * Manning College of Information and Computer Sciences（Manning信息与计算机科学学院） ； Ensemble HP ； Columbia University（哥伦比亚大学） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） 纠错

专题命中 领域大模型 ：preference optimization(title)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出利用幻觉检测器指导迭代修正的推理时方法及偏好学习微调，显著减少临床摘要中的幻觉。

Position: Prioritize Identifying Structure, Not Complex Models, for Scientific Discovery

立场：优先识别结构，而非复杂模型，以促进科学发现

Tyler H. McCormick

专题命中 领域大模型 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文论证现代机器学习在高维代理机制下存在通用欠定性，提出“机制性机器学习”的具体标准，以确保以LLM为中心的工作流真正支持科学而非模拟科学。

Comments Will appear as a position paper in ICML

VirtualMLE: A Virtual ML Engineer that Optimizes Sequential Recommenders

VirtualMLE: 一种优化序列推荐器的虚拟机器学习工程师

Shiteng Cao, Jingwen Liu, Junda She, Zhiheng Li

专题命中 领域大模型 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 提出VirtualMLE，一种利用LLM认知能力将推荐器优化组织为执行、反思和记忆更新闭环的框架，在SASRec和HSTU上以更少试验达到竞争性推荐质量，并展示了跨数据集迁移调优启发式的潜力。