arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2025-12-11 至 2025-12-11 共收录 24 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 24 篇

2408.10631 2025-12-11 cs.LG cs.AI cs.CL 93%

LLM-Barber: Block-Aware Rebuilder for Sparsity Mask in One-Shot for Large Language Models

LLM-Barber:用于大语言模型单次剪枝的块感知重排器

Yupeng Su, Ziyi Guan, Xiaoqun Liu, Tianlai Jin, Dongkuan Wu, Zhengfei Chen, Graziano Chesi, Ngai Wong, Hao Yu

机构 * School of Microelectronics, Southern University of Science and Technology(微电子学院,南方科技大学) Department of Electrical and Electronic Engineering, University of Hong Kong(电气与电子工程系,香港大学)

专题命中 效率与部署 :LLM(title,abstract);large language model(title,abstract);language model(title,abstract);post-training(abstract)

AI总结 LLM-Barber 是一种新型单次剪枝框架,通过块感知误差优化提升大语言模型剪枝效率,实现高性能与低计算复杂性。

Comments Accepted by ICCAD 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09473 2025-12-11 cs.HC 89%

An Efficient Interaction Human-AI Synergy System Bridging Visual Awareness and Large Language Model for Intensive Care Units

一种高效的交互人机协同系统:连接视觉意识与大语言模型用于重症监护室

Yibowen Zhao, Yiming Cao, Zhiqi Shen, Juan Du, Yonghui Xu, Lizhen Cui, Cyril Leung

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出一种基于云-边-端架构的人机协同系统,通过视觉感知数据提取和大语言模型驱动的语义交互,提升ICU中患者数据处理的效率和安全性。

Comments This paper has been accepted by the Late Breaking Papers of the 2025 International Conference on Human Computer Interaction (HCII 2025)

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.02603 2025-12-11 eess.AS cs.CL cs.SD 88%

SEAL: Speech Embedding Alignment Learning for Speech Large Language Model with Retrieval-Augmented Generation

SEAL:用于带有检索增强生成的语音大语言模型的语音嵌入对齐学习

Chunyu Sun, Bingyu Liu, Zhichao Cui, Junhan Shi, Anbin Qi, Tian-hao Zhang, Dinghao Zhou, Lewei Lu

机构 * SenseTime Research(商汤科技研究院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 SEAL通过统一的语音和文本嵌入框架,提升语音大语言模型的检索效率与准确性,减少延迟并增强多模态检索能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09892 2025-12-11 cs.LG cs.AI cs.DS stat.ML 81%

Provably Learning from Modern Language Models via Low Logit Rank

通过低logit秩从现代语言模型中获得可证明的学习

Noah Golowich, Allen Liu, Abhishek Shetty

机构 * Microsoft Research(微软研究院) UC Berkeley(加州大学伯克利分校) MIT(麻省理工学院)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出了一种基于低logit秩结构的高效算法,用于从查询中获得现代语言模型的可证明学习保证。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.08943 2025-12-11 cs.CL cs.AI 81%

Noise-Robust Abstractive Compression in Retrieval-Augmented Language Models

在检索增强语言模型中实现抗噪的抽象压缩

Singon Kim

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文提出ACoRN方法,通过细粒度文档分类和离线数据增强提升检索增强语言模型中抗噪的抽象压缩性能,实验表明其在保持答案准确性的同时提升了评估指标。

Comments Master's thesis, Korea University, 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.19253 2025-12-11 cs.LG cs.AI 79%

MAESTRO: Multi-Agent Environment Shaping through Task and Reward Optimization

MAESTRO:通过任务和奖励优化进行多智能体环境塑造

Boyuan Wu

机构 * Department of Mechanical and Industrial Engineering(机械与工业工程系) University of Toronto(多伦多大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 MAESTRO通过任务和奖励优化提升多智能体强化学习的环境塑造能力,结合LLM生成课程和奖励函数,提高性能和稳定性。

Comments Preprint. 16 pages, 6 figures. Preliminary version; extended experiments and analysis forthcoming

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09504 2025-12-11 cs.SD 78%

DMP-TTS: Disentangled multi-modal Prompting for Controllable Text-to-Speech with Chained Guidance

DMP-TTS: 解耦多模态提示的可控文本到语音系统 with 链式引导

Kang Yin, Chunyu Qiang, Sirui Zhao, Xiaopeng Wang, Yuzhe Liang, Pengfei Cai, Tong Xu, Chen Zhang, Enhong Chen

机构 * University of Science and Technology of China(科学技术大学)

专题命中 效率与部署 :prompting(title,abstract)

AI总结 DMP-TTS通过解耦多模态提示和链式引导技术,实现了更强的文本到语音风格可控性,同时保持良好的可懂度和自然度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09307 2025-12-11 cs.CV 78%

From SAM to DINOv2: Towards Distilling Foundation Models to Lightweight Baselines for Generalized Polyp Segmentation

从SAM到DINOv2:迈向将基础模型蒸馏到轻量级基线以实现通用息肉分割

Shivanshu Agnihotri, Snehashis Majhi, Deepak Ranjan Nayak, Debesh Jha

机构 * Malaviya National Institute of Technology, Jaipur, India(马利瓦国家理工学院,印度斋普尔) Côte d’Azur University, France(蔚蓝海岸大学,法国) University of South Dakota, USA(南达科他大学,美国)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 本文提出Polyp-DiFoM框架,通过将基础模型的表示蒸馏到轻量级基线中,提升息肉分割的准确性和效率,同时减少计算开销近9倍。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.00718 2025-12-11 cs.CV 78%

VFM-ISRefiner: Towards Better Adapting Vision Foundation Models for Interactive Segmentation of Remote Sensing Images

VFM-ISRefiner: 向更适应交互分割遥感图像的视觉基础模型迈进

Deliang Wang, Peng Liu, Yan Ma, Rongkai Zhuang, Lajiao Chen, Bing Li, Yi Zeng

机构 * Aerospace Information Research Institute, Chinese Academy of Sciences(中国科学院航天信息研究所) School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences(中国科学院大学电子电气与通信工程学院) School of Information Science and Technology, Beijing Forestry University(北京林业大学信息科学与技术学院)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 VFM-ISRefiner提出了一种基于点击的交互分割框架,通过适配器调优和混合注意力机制提升遥感图像分割的精度和效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.03166 2025-12-11 cs.CV 78%

RingMoE: Mixture-of-Modality-Experts Multi-Modal Foundation Models for Universal Remote Sensing Image Interpretation

RingMoE:面向通用遥感图像解释的多模态专家混合多模态基础模型

Hanbo Bi, Yingchao Feng, Boyuan Tong, Mengyu Wang, Haichen Yu, Yongqiang Mao, Hao Chang, Wenhui Diao, Peijin Wang, Yue Yu, Hanyang Peng, Yehong Zhang, Kun Fu, Xian Sun

机构 * Aerospace Information Research Institute, Chinese Academy of Sciences(中国科学院航天信息研究所) School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences(中国科学院大学电子电气与通信工程学院) University of Chinese Academy of Sciences(中国科学院大学) Key Laboratory of Target Cognition and Application Technology(TCAT), Aerospace Information Research Institute, Chinese Academy of Sciences(目标认知与应用技术重点实验室) Department of Electronic Engineering, Tsinghua University(清华大学电子工程系) Peng Cheng Laboratory, Shenzhen(鹏城实验室)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 RingMoE是一种多模态专家混合模型,通过自监督学习和物理信息嵌入,提升遥感图像的多模态处理能力,实现从单模态到多模态的高效适应。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09872 2025-12-11 cs.CR cs.AI 77%

FlipLLM: Efficient Bit-Flip Attacks on Multimodal LLMs using Reinforcement Learning

FlipLLM: 通过强化学习高效攻击多模态大语言模型的位翻转攻击

Khurram Khalil, Khaza Anuarul Hoque

机构 * Department of Electrical Engineering and Computer Science(电气工程与计算机科学系) University of Missouri-Columbia(密苏里大学哥伦比亚分校)

专题命中 效率与部署 :large language model(abstract);language model(abstract);foundation model(abstract);分类 cs.AI

AI总结 FlipLLM通过强化学习高效识别多模态大语言模型的位翻转攻击漏洞,显著提升攻击检测速度和防御指导价值。

Comments Accepted in IEEE HOST 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09304 2025-12-11 cs.AR 75%

RACAM: Enhancing DRAM with Reuse-Aware Computation and Automated Mapping for ML Inference

RACAM:通过重用感知计算和自动映射增强DRAM用于ML推理

Siyuan Ma, Jiajun Hu, Jeeho Ryoo, Aman Arora, Lizy Kurian John

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 RACAM通过重用感知计算和自动映射提升DRAM性能,实现LLM推理的高加速和高能效。

详情

展开后加载摘要…

URL PDF HTML 收藏
2404.18496 2025-12-11 cs.SE 75%

AI-powered Code Review with LLMs: Early Results

基于AI的代码审查与LLM:初步结果

Zeeshan Rasheed, Malik Abdul Sami, Muhammad Waseem, Kai-Kristian Kemell, Xiaofeng Wang, Anh Nguyen, Kari Systä, Pekka Abrahamsson

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 本文提出基于LLM的代码审查方法,旨在提高代码质量和开发者教育,通过检测代码问题和减少发布后bug来优化开发流程。

Comments 8 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09555 2025-12-11 cs.CV 73%

Building Reasonable Inference for Vision-Language Models in Blind Image Quality Assessment

构建合理的视觉-语言模型推理以实现盲图像质量评估

Yuan Li, Zitang Sun, Yen-ju Chen, Shin'ya Nishida

机构 * Graduate School of Informatics, Kyoto University(京都大学信息学研究生院)

专题命中 效率与部署 :language model(title,journal_ref)

AI总结 本文提出一种两阶段调优方法,通过分离视觉感知与质量推断,提升视觉-语言模型在盲图像质量评估中的推理稳定性与可靠性。

Comments Accepted to the ICONIP (International Conference on Neural Information Processing), 2025

Journal ref Building Reasonable Inference for Vision-Language Models in Blind Image Quality Assessment. In: Taniguchi, T., et al. Neural Information Processing. ICONIP 2025. Lecture Notes in Computer Science, vol 16310. Springer, Singapore

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09487 2025-12-11 cs.CL cs.AI cs.IR 73%

RouteRAG: Efficient Retrieval-Augmented Generation from Text and Graph via Reinforcement Learning

RouteRAG: 通过强化学习实现文本和图的高效检索增强生成

Yucan Guo, Miao Su, Saiping Guan, Zihao Sun, Xiaolong Jin, Jiafeng Guo, Xueqi Cheng

机构 * CAS Key Laboratory of Network Data Science and Technology, Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所网络数据科学与技术重点实验室) School of Computer Science and Technology, University of Chinese Academy of Sciences(中国科学院大学计算机科学与技术学院)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 RouteRAG通过强化学习实现文本和图的高效混合检索增强生成,提升多轮推理和复杂任务的适应性与效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09010 2025-12-11 cs.CV cs.AI 70%

Towards Lossless Ultimate Vision Token Compression for VLMs

面向视觉语言模型的无损终极视觉标记压缩

Dehua Zheng, Mouxiao Huang, Borui Jiang, Hailin Hu, Xinghao Chen

机构 * Huawei Noah’s Ark Lab(华为诺亚实验室)

专题命中 效率与部署 :LLM(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出LUVC框架,通过正交空间轴的迭代合并和频谱修剪单元,实现视觉语言模型中视觉标记的无损压缩,提升推理速度并保持精度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09619 2025-12-11 cs.RO 67%

GLaD: Geometric Latent Distillation for Vision-Language-Action Models

GLaD:面向视觉-语言-动作模型的几何潜在蒸馏

Minghao Guo, Meng Cao, Jiachen Tao, Rongtao Xu, Yan Yan, Xiaodan Liang, Ivan Laptev, Xiaojun Chang

机构 * MBZUAI University of Illinois Chicago(伊利诺伊大学芝加哥分校)

专题命中 效率与部署 :LLM(abstract);pretraining(abstract)

AI总结 GLaD通过引入几何意识的预训练机制,提升了视觉-语言-动作模型的空间推理和策略泛化能力,无需依赖深度传感器或3D标注。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09548 2025-12-11 cs.MA 67%

Supporting Dynamic Agentic Workloads: How Data and Agents Interact

支持动态代理工作负载:数据与代理如何相互作用

Ioana Giurgiu, Michael E. Nidd

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种以代理为中心的数据织物,旨在高效支持动态、多模态的代理工作负载,通过注意力引导的数据检索、语义微缓存等机制提升数据处理效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22348 2025-12-11 cs.AR 67%

FADiff: Fusion-Aware Differentiable Optimization for DNN Scheduling on Tensor Accelerators

FADiff: 面向张量加速器的DNN调度融合感知可微优化

Shuao Jia, Zichao Ling, Chen Bai, Kang Zhao, Jianwang Zhai

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 FADiff通过融合感知的可微优化框架,实现了对DNN调度的高效优化,提升张量加速器上的推理性能。

Comments 7 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.20427 2025-12-11 cs.CV 67%

Seedream 4.0: Toward Next-generation Multimodal Image Generation

Seedream 4.0:迈向下一代多模态图像生成

Team Seedream, :, Yunpeng Chen, Yu Gao, Lixue Gong, Meng Guo, Qiushan Guo, Zhiyao Guo, Xiaoxia Hou, Weilin Huang, Yixuan Huang, Xiaowen Jian, Huafeng Kuang, Zhichao Lai, Fanshi Li, Liang Li, Xiaochen Lian, Chao Liao, Liyang Liu, Wei Liu, Yanzuo Lu, Zhengxiong Luo, Tongtong Ou, Guang Shi, Yichun Shi, Shiqi Sun, Yu Tian, Zhi Tian, Peng Wang, Rui Wang, Xun Wang, Ye Wang, Guofeng Wu, Jie Wu, Wenxu Wu, Yonghui Wu, Xin Xia, Xuefeng Xiao, Shuang Xu, Xin Yan, Ceyuan Yang, Jianchao Yang, Zhonghua Zhai, Chenlin Zhang, Heng Zhang, Qi Zhang, Xinyu Zhang, Yuwei Zhang, Shijia Zhao, Wenliang Zhao, Wenjia Zhu

机构 * ByteDance(字节跳动)

专题命中 效率与部署 :LLM(abstract);post-training(abstract)

AI总结 Seedream 4.0通过高效多模态框架实现文本到图像生成、图像编辑和多图像组合,展示卓越的多模态能力与高效推理性能。

Comments Seedream 4.0/4.5 Technical Report

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09723 2025-12-11 cs.LG 57%

Mixture of Lookup Key-Value Experts

检索键值专家的混合

Zongcheng Wang

机构 * The School of Mathematics, Renmin University of China(中国人民大学数学学院)

专题命中 效率与部署 :LLM(abstract);分类 cs.LG

AI总结 本文提出MoLKV模型,通过上下文感知机制改进MoLE,降低验证损失,提升小规模任务性能。

Comments Preliminary Version; Work in Progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.09666 2025-12-11 cs.CL 57%

Neurosymbolic Information Extraction from Transactional Documents

从交易文件中提取神经符号信息

Arthur Hemmer, Mickaël Coustaty, Nicola Bartolo, Jean-Marc Ogier

专题命中 效率与部署 :language model(abstract);分类 cs.CL

AI总结 本文提出了一种神经符号框架,通过结合符号验证方法提升交易文件信息提取的准确性和效率。

Comments 20 pages, 2 figures, accepted to IJDAR (ICDAR 2025)

Journal ref IJDAR 28, 475-485 (2025)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.07100 2025-12-11 cs.LG 57%

Dual Refinement Cycle Learning: Unsupervised Text Classification of Mamba and Community Detection on Text Attributed Graph

双精炼循环学习:Mamba和社区检测在文本属性图上的无监督文本分类

Hong Wang, Yinglong Zhang, Hanhan Guo, Xuewen Xia, Xing Xu

机构 * College of Physics and Information Engineering, Minnan Normal University(物理与信息工程学院,福建师范大学)

专题命中 效率与部署 :language model(abstract);分类 cs.LG

AI总结 DRCL通过双向精炼循环整合结构和语义信息,实现无监督文本属性图的社区检测与分类,其Mamba分类器在无标注数据下表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.18485 2025-12-11 cond-mat.mtrl-sci 50%

Active Δ-learning with universal potentials for global structure optimization

具有通用势函数的主动Δ学习用于全局结构优化

Joe Pitfield, Mads-Peter Verner Christiansen, Bjørk Hammer

专题命中 效率与部署 :foundation model(abstract)

AI总结 本文提出了一种基于主动学习的Δ模型方法,用于改进通用机器学习势函数以实现更高效的全局结构优化。

详情

展开后加载摘要…

URL PDF HTML 收藏