arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2025-12-04 至 2025-12-04 共收录 166 信号源:cs.CL, cs.AI, cs.LG

1. 评测与基准 32 篇

2512.03844 2025-12-04 cs.CV 50%

CoDA: From Text-to-Image Diffusion Models to Training-Free Dataset Distillation

CoDA:从文本到图像扩散模型到无训练数据集蒸馏

Letian Zhou, Songhua Liu, Xinchao Wang

专题命中 评测与基准 :foundation model(abstract)

AI总结 CoDA通过核心分布对齐技术,利用现成文本到图像模型实现无训练数据集蒸馏,提升目标语义与通用生成先验的对齐,取得ImageNet-1K的高准确率。

Comments 34 pages, 24 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03793 2025-12-04 cs.CY 50%

The enshittification of online search? Privacy and quality of Google, Bing and Apple in coding advice

在线搜索的劣质化?谷歌、必胜客和苹果在编程建议中的隐私和质量

Konrad Kollnig

专题命中 评测与基准 :language model(abstract)

AI总结 本研究比较了谷歌、必胜客和苹果在编程建议搜索中的隐私和质量,发现必胜客在隐私和质量上表现最佳。

Comments Technical report on work in progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03000 2025-12-04 cs.CV 50%

DynamicVerse: A Physically-Aware Multimodal Framework for 4D World Modeling

DynamicVerse: 一种具有物理意识的多模态框架用于4D世界建模

Kairun Wen, Yuzhi Huang, Runyu Chen, Hui Zheng, Yunlong Lin, Panwang Pan, Chenxin Li, Wenyan Cong, Jian Zhang, Junbin Lu, Chenguo Lin, Dilin Wang, Zhicheng Yan, Hongyu Xu, Justin Theiss, Yue Huang, Xinghao Ding, Rakesh Ranjan, Zhiwen Fan

专题命中 评测与基准 :foundation model(abstract)

AI总结 DynamicVerse提出了一种多模态框架,通过整合大规模视觉、几何和多模态模型,实现动态现实世界视频的4D世界建模,提升了对物理尺度测量的全局准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03427 2025-12-04 cs.CV 50%

Generalization Evaluation of Deep Stereo Matching Methods for UAV-Based Forestry Applications

深度立体匹配方法在无人机林业应用中的泛化能力评估

Yida Lin, Bing Xue, Mengjie Zhang, Sam Schofield, Richard Green

机构 * Centre for Data Science and Artificial Intelligence(数据科学与人工智能中心) Victoria University of Wellington(惠灵顿维多利亚大学) Department of Computer Science and Software Engineering(计算机科学与软件工程系) University of Canterbury(坎特伯雷大学)

专题命中 评测与基准 :foundation model(abstract)

AI总结 本文首次系统评估了八种深度立体匹配方法在无人机林业应用中的泛化能力,揭示了不同方法在不同场景下的性能差异。

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 效率与部署 37 篇

2502.09854 2025-12-04 cs.CL cs.AI cs.LG 91%

Scaling Multimodal Search and Recommendation with Small Language Models via Upside-Down Reinforcement Learning

通过倒置强化学习扩展小语言模型以支持多模态搜索与推荐

Yu-Chen Lin, Sanat Sharma, Hari Manikandan, Jayant Kumar, Tracy Holloway King, Jing Zheng

机构 * Adobe(Adobe公司) Meta

专题命中 效率与部署 :language model(title,abstract);small language model(title,abstract);large language model(abstract);SLM(abstract)

AI总结 本文通过倒置强化学习和合成数据蒸馏,利用小语言模型实现高效多模态搜索与推荐,显著降低推理延迟和内存开销。

Comments Accepted by ICDM 2025 MMSR

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.07498 2025-12-04 cs.CL cs.AI 90%

Focusing on Language: Revealing and Exploiting Language Attention Heads in Multilingual Large Language Models

聚焦语言:揭示并利用多语言大语言模型中的语言注意力头

Xin Liu, Qiyang Song, Qihang Zhou, Haichao Du, Shaowen Xu, Wenbo Jiang, Weijuan Zhang, Xiaoqi Jia

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI

AI总结 本文提出LAHIS方法,通过分析多语言大语言模型中的注意力头,揭示语言特定与通用头的作用,并通过轻量级适应提升多语言性能。

Comments Accepted by AAAI-2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03047 2025-12-04 cs.CL cs.AI cs.LG 89%

Entropy-Based Measurement of Value Drift and Alignment Work in Large Language Models

基于熵的大型语言模型价值漂移与对齐工作的测量

Samih Fadli

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于熵的框架,用于测量大型语言模型中的价值漂移和对齐工作,通过五种行为分类法和熵动态分析,实现对模型伦理熵的实时监控与警报。

Comments 6 pages. Companion paper to "The Second Law of Intelligence: Controlling Ethical Entropy in Autonomous Systems". Code and tools: https://github.com/AerisSpace/EthicalEntropyKit

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03608 2025-12-04 cs.AR cs.AI cs.ET 88%

KVNAND: Efficient On-Device Large Language Model Inference Using DRAM-Free In-Flash Computing

KVNAND:利用无DRAM闪存计算实现高效的设备端大语言模型推理

Lishuo Deng, Shaojie Xu, Jinwu Chen, Changwei Yan, Jiajie Wang, Zhe Jiang, Weiwei Shan

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 KVNAND通过无DRAM闪存计算实现高效设备端大语言模型推理,解决KV缓存存储问题,提升性能并减少资源消耗。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03542 2025-12-04 cs.CV cs.AI 88%

V-ITI: Mitigating Hallucinations in Multimodal Large Language Models via Visual Inference-Time Intervention

V-ITI: 通过视觉推理时间干预缓解多模态大语言模型中的幻觉

Nan Sun, Zhenyu Zhang, Xixun Lin, Kun Wang, Yanmin Shang, Naibin Gu, Shuohuan Wang, Yu Sun, Hua Wu, Haifeng Wang, Yanan Cao

机构 * Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院) Baidu Inc.(百度公司)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 V-ITI通过视觉推理时间干预框架,有效缓解多模态大语言模型中的视觉相关幻觉问题,同时保持任务性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03620 2025-12-04 cs.CR cs.AI cs.CL cs.LG 87%

SELF: A Robust Singular Value and Eigenvalue Approach for LLM Fingerprinting

SELF:一种用于LLM指纹识别的鲁棒奇异值和特征值方法

Hanxiu Zhang, Yue Zheng

机构 * The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 SELF通过奇异值和特征值分解LLM注意力权重,提出一种鲁棒的指纹识别方法,有效抵御虚假声明和权重操纵,提升知识产权保护能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2408.05235 2025-12-04 cs.DC cs.AI cs.AR cs.LG 86%

SLO-aware GPU Frequency Scaling for Energy Efficient LLM Inference Serving

具有SLO意识的GPU频率缩放用于能源高效的LLM推理服务

Andreas Kosmas Kakolyris, Dimosthenis Masouros, Petros Vavaroutsos, Sotirios Xydis, Dimitrios Soudris

机构 * ETH Zürich(苏黎世联邦理工学院) National Technical University of Athens(雅典国家技术大学)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 throttLL'eM通过预测KV缓存使用和批处理大小,利用机器学习模型减少GPU频率和实例规模,从而在满足SLOs的前提下降低LLM推理的能耗达43.8%并提升能效1.71倍。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03644 2025-12-04 cs.DC 85%

FFTrainer: Fast Failover in Large-Language Model Training with Almost-Free State Management

FFTrainer: 大语言模型训练中的近免费状态管理快速故障转移

Bohan Zhao, Yuanhong Wang, Chenglin Liu, Jiagi Pan, Guang Yang, Ruitao Liu, Tingrui Zhang, Kai Luo, Wei Xu

专题命中 效率与部署 :language model(title,abstract);LLM(abstract);large language model(abstract)

AI总结 FFTrainer通过利用多余网络容量实现快速故障转移,显著减少恢复时间和GPU利用率损失,提升大语言模型训练的效率和稳定性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03237 2025-12-04 cs.CV cs.GR 85%

LLM-Guided Material Inference for 3D Point Clouds

基于大语言模型的3D点云材料推断

Nafiseh Izadyar, Teseo Schneider

机构 * University of Victoria(维多利亚大学)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract)

AI总结 本文提出基于大语言模型的3D点云材料推断方法,通过两阶段推理实现材料属性推断,验证了语言模型在连接几何推理与材料理解中的作用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.02895 2025-12-04 cs.CV 85%

MindGPT-4ov: An Enhanced MLLM via a Multi-Stage Post-Training Paradigm

MindGPT-4ov: 一种通过多阶段训练范式增强的多模态大语言模型

Wei Chen, Chaoqun Du, Feng Gu, Wei He, Qizhen Li, Zide Liu, Xuhao Pan, Chang Ren, Xudong Rao, Chenfeng Wang, Tao Wei, Chengjun Yu, Pengfei Yu, Yufei Zheng, Chunpeng Zhou, Pan Zhou, Xuhan Zhu

机构 * MindGPT-4o Team(MindGPT-4o 团队) Li Auto Inc.(利汽车公司)

专题命中 效率与部署 :post-training(title,abstract);large language model(abstract);language model(abstract)

AI总结 MindGPT-4ov通过多阶段训练范式提升多模态大语言模型的性能与泛化能力,实现低成本高效率的训练与部署。

Comments 33 pages, 14 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03623 2025-12-04 cs.LG cs.AI physics.ao-ph 84%

The promising potential of vision language models for the generation of textual weather forecasts

视觉语言模型在生成文本天气预报中的巨大潜力

Edward C. C. Steele, Dinesh Mane, Emilio Monti, Luis Orus, Rebecca Chantrill-Cheyette, Matthew Couch, Kirstine I. Dale, Simon Eaton, Govindarajan Rangarajan, Amir Majlesi, Steven Ramsdale, Michael Sharpe, Craig Smith, Jonathan Smith, Rebecca Yates, Holly Ellis, Charles Ewen

机构 * Met Office(英国气象局) Amazon Web Services(亚马逊网络服务) University of East Anglia(东安格利亚大学)

专题命中 效率与部署 :language model(title,abstract);foundation model(abstract);分类 cs.AI、cs.LG

AI总结 本文研究了视觉语言模型在直接生成文本天气预报中的潜力,通过视频编码的格网天气数据提升气象服务的生产效率与创新。

Comments 7 pages, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.09245 2025-12-04 cs.AI 83%

Jupiter: Enhancing LLM Data Analysis Capabilities via Notebook and Inference-Time Value-Guided Search

木星:通过笔记本和推理时的价值引导搜索增强大语言模型的数据分析能力

Shuocheng Li, Yihao Liu, Silin Du, Wenxuan Zeng, Zhe Xu, Mengyu Zhou, Yeye He, Haoyu Dong, Shi Han, Dongmei Zhang

机构 * Microsoft(微软)

专题命中 效率与部署 :LLM(title);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 Jupiter通过将数据分析建模为搜索问题,并结合价值模型和节点访问次数,提升大语言模型在多步推理和工具使用方面的性能。

Comments Accepted to AAAI 2026 (Main Technical Track)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03100 2025-12-04 cs.CR cs.AI 81%

Ensemble Privacy Defense for Knowledge-Intensive LLMs against Membership Inference Attacks

知识密集型大语言模型的集成隐私防御:对抗成员推断攻击

Haowei Fu, Bo Ni, Han Xu, Kunpeng Liu, Dan Lin, Tyler Derr

机构 * Vanderbilt University(范德比大学) University of Arizona(亚利桑那大学) Clemson University(克莱姆森大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);SFT(abstract)

AI总结 本文提出集成隐私防御框架EPD,通过聚合知识注入LLM、基础LLM和专用判断模型的输出,有效降低成员推断攻击的成功率,提升知识密集型大语言模型的隐私安全性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.20412 2025-12-04 cs.MA cs.LG 79%

Structuring Collective Action with LLM-Guided Evolution: From Ill-Structured Problems to Executable Heuristics

利用LLM引导的进化结构化集体行动:从无序问题到可执行启发式方法

Kevin Bradley Dsouza, Graham Alexander Watt, Yuri Leonenko, Juan Moreno-Cruz

机构 * University of Waterloo(滑铁卢大学) Royal Bank of Canada(加拿大皇家银行)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.LG

AI总结 ECHO-MIMIC通过LLM引导的进化搜索,将无序问题转化为可执行的启发式方法,实现集体行动的结构化解决方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03538 2025-12-04 cs.RO 78%

AdaPower: Specializing World Foundation Models for Predictive Manipulation

AdaPower: 为预测操纵专门化世界基础模型

Yuhang Huang, Shilong Zou, Jiazhao Zhang, Xinwang Liu, Ruizhen Hu, Kai Xu

机构 * National University of Defense Technology(国防科技大学) Peking University(北京大学) Shenzhen University(深圳大学)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 AdaPower通过时空测试时间训练和记忆持久性机制,将通用世界基础模型转化为专门模型,提升机器人任务成功率41%

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03416 2025-12-04 cs.DC 78%

TokenScale: Timely and Accurate Autoscaling for Disaggregated LLM Serving with Token Velocity

TokenScale: 面向解耦大语言模型服务的及时准确自动扩展

Ruiqi Lai, Hongrui Liu, Chengzhi Lu, Zonghao Liu, Siyu Cao, Siyang Shao, Yixin Zhang, Luo Mai, Dmitrii Ustiugov

专题命中 效率与部署 :LLM(title,abstract)

AI总结 TokenScale通过引入Token Velocity和Convertible Decoders,提升解耦大语言模型服务的性能和效率,减少SLO违规率并降低成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03389 2025-12-04 cs.DB 78%

Continuous Prompts: LLM-Augmented Pipeline Processing over Unstructured Streams

连续提示:基于大语言模型的流处理管道处理

Shu Chen, Deepti Raghavan, Uğur Çetintemel

专题命中 效率与部署 :LLM(title,abstract)

AI总结 本文提出连续提示框架,通过引入大语言模型的持续推理能力,实现对无结构流的持久语义处理,并通过动态优化提升效率与精度的平衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03975 2025-12-04 cs.GT cs.AI 77%

Sponsored Questions and How to Auction Them

赞助问题及如何拍卖它们

Kshipra Bhawalkar, Alexandros Psomas, Di Wang

机构 * Google Research(谷歌研究院) Purdue University(普渡大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文研究如何通过拍卖机制优化赞助建议与广告的交互流程,探讨端到端优化与模块化方法的效率对比。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03607 2025-12-04 cs.AI 77%

DeepRule: An Integrated Framework for Automated Business Rule Generation via Deep Predictive Modeling and Hybrid Search Optimization

DeepRule:通过深度预测建模与混合搜索优化的自动化业务规则生成综合框架

Yusen Wu, Xiaotie Deng

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 DeepRule通过深度预测建模与混合搜索优化,实现自动化业务规则生成,提升零售定价与商品组合优化的效率和可解释性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.15244 2025-12-04 cs.CL cs.CV 77%

Context Cascade Compression: Exploring the Upper Limits of Text Compression

上下文级联压缩:探索文本压缩的极限

Fanfan Liu, Haibo Qiu

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 C3通过级联两个不同规模的LLM实现文本压缩,达到高压缩比和高解码准确率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03062 2025-12-04 cs.LG stat.ML 77%

Globally optimized SVD compression of LLMs via Fermi-function-based rank selection and gauge fixing

通过费米函数基于的秩选择和规范固定实现全局优化的LLM SVD压缩

Roman Rausch, David Jansen, Sukhbinder Singh, Román Orús

机构 * Multiverse Computing(多维计算公司) Donostia International Physics Center(Donostia国际物理中心) Ikerbasque Foundation for Science(Ikerbasque科学基金会)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出FermiGrad和PivGa两种方法,通过费米函数优化秩选择和规范固定,实现LLM压缩的全局优化。

Comments Prepared for submission to ESANN 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.10746 2025-12-04 cs.CL 77%

RECAP: Transparent Inference-Time Emotion Alignment for Medical Dialogue Systems

RECAP:医疗对话系统中透明的推理时间情感对齐

Adarsh Srinivasan, Jacob Dineen, Muhammad Umar Afzal, Muhammad Uzair Sarfraz, Irbaz B. Riaz, Ben Zhou

专题命中 效率与部署 :large language model(abstract);language model(abstract);prompting(abstract);分类 cs.CL

AI总结 RECAP通过结构化情感推理提升医疗对话系统的情感响应质量,实现透明和可审计的同理心沟通。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03927 2025-12-04 cs.DC 75%

OD-MoE: On-Demand Expert Loading for Cacheless Edge-Distributed MoE Inference

OD-MoE:面向无缓存边缘分布式MoE推断的按需专家加载

Liujianfu Wang, Yuyang Du, Yuchen Pan, Soung Chang Liew, Jiacheng Liu, Kexin Chen

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 OD-MoE通过按需专家加载技术,实现无缓存边缘分布式MoE推断,显著提升内存利用率和推断效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.01374 2025-12-04 cs.LG cs.AI cs.CL 75%

Stabilizing Reinforcement Learning with LLMs: Formulation and Practices

通过大语言模型稳定强化学习:公式与实践

Chujie Zheng, Kai Dang, Bowen Yu, Mingze Li, Huiqiang Jiang, Junrong Lin, Yuqiong Liu, Hao Lin, Chencan Wu, Feng Hu, An Yang, Jingren Zhou, Junyang Lin

机构 * Alibaba Inc(阿里巴巴公司)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过大语言模型稳定强化学习的新方法,揭示了代理目标优化的条件,并通过实验验证了重要性采样校正和Routing Replay在提升训练稳定性中的作用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03301 2025-12-04 eess.AS 75%

Comparing Unsupervised and Supervised Semantic Speech Tokens: A Case Study of Child ASR

对比无监督和有监督的语义语音标记:儿童语音识别的案例研究

Mohan Shi, Natarajan Balaji Shankar, Kaiyuan Zhang, Zilai Wang, Abeer Alwan

专题命中 效率与部署 :large language model(abstract);language model(abstract);foundation model(abstract)

AI总结 本文对比了监督和无监督语义语音标记在儿童语音识别中的性能,发现监督方法在低资源环境下表现更优。

Comments ASRU-AI4CSL

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.01513 2025-12-04 cs.CR cs.CV 75%

SafePTR: Token-Level Jailbreak Defense in Multimodal LLMs via Prune-then-Restore Mechanism

SafePTR: 通过剪枝-恢复机制实现多模态大语言模型的令牌级 Jailbreak 防御

Beitao Chen, Xinyu Lyu, Lianli Gao, Jingkuan Song, Heng Tao Shen

机构 * Shenzhen Institute for Advanced Study, University of Electronic Science and Technology of China(电子科技大学深圳研究院) Southwestern University of Finance and Economics(西南财经大学) Engineering Research Center of Intelligent Finance, Ministry of Education(教育部智能金融工程研究中心) Tongji University(同济大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);prompting(abstract)

AI总结 SafePTR 提出一种无需训练的多模态大语言模型防御机制,通过剪枝有害令牌并恢复良性特征,有效提升安全性并保持效率。

Comments Accepted by NeurIPS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏