语言大模型 / LLM

Learning to Drive is a Free Gift: Large-Scale Label-Free Autonomy Pretraining from Unposed In-The-Wild Videos

学习驾驶是免费礼物：从未经处理的现实视频中进行大规模无标签自主性预训练

Matthew Strong, Wei-Jer Chang, Quentin Herau, Jiezhi Yang, Yihan Hu, Chensheng Peng, Wei Zhan

机构 * Applied Intuition ； Stanford University（斯坦福大学） ； UC Berkeley（加州大学伯克利分校） 纠错

专题命中 预训练与数据 ：pretraining(title)；foundation model(abstract)

AI总结 本文提出一种无标签、教师引导的框架，通过未经处理的现实视频学习自动驾驶表示，无需姿态、标签或LiDAR，实现高效的自动驾驶感知和规划。

Comments Accepted at CVPR 2026

Revisiting the Role of Foundation Models in Cell-Level Histopathological Image Analysis under Small-Patch Constraints -- Effects of Training Data Scale and Blur Perturbations on CNNs and Vision Transformers

重新审视基础模型在小像素病理图像细胞级分析中的作用——在小补丁约束下训练数据规模和模糊扰动对CNN和视觉变换器的影响

Hiroki Kagiyama, Toru Nagasaka, Yukari Adachi, Takaaki Tachibana, Ryota Ito, Mitsugu Fujita, Kimihiro Yamashita, Yoshihiro Kakeji

机构 * Division of Gastrointestinal Surgery, Department of Surgery, Kobe University Graduate School of Medicine（Kobe大学医学研究院外科部胃肠外科部） ； Association of Medical Artificial Intelligence Curation（医学人工智能 curation协会） ； Center for Medical Education and Clinical Training, Kindai University Faculty of Medicine（Kindai大学医学部医学教育与临床培训中心） ； Department of Biophysics, Kobe University Graduate School of Health Sciences（Kobe大学健康科学研究院生物物理学部） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 本研究探讨了在小补丁约束下，基础模型与任务特定架构在细胞级病理图像分析中的性能差异，发现任务特定架构在数据充足时表现更优。

NeighborMAE: Exploiting Spatial Dependencies between Neighboring Earth Observation Images in Masked Autoencoders Pretraining

NeighborMAE: 利用邻近遥感图像间的空间依赖性在掩码自编码器预训练中进行建模

Liang Zeng, Valerio Marsocci, Wufan Zhao, Andrea Nascetti, Maarten Vergauwen

机构 * KU Leuven（卢森堡大学） ； ESA Φ \Phi -lab（欧洲航天局Φ实验室） ； HKUST(GZ)（香港科技大学（珠海）） ； KTH（皇家理工学院） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 NeighborMAE通过联合重建邻近遥感图像，利用空间依赖性提升掩码自编码器在遥感图像预训练中的性能。

Unifying Heterogeneous Multi-Modal Remote Sensing Detection Via Language-Pivoted Pretraining

通过语言枢轴预训练统一异构多模态遥感检测

Yuxuan Li, Yuming Chen, Yunheng Li, Ming-Ming Cheng, Xiang Li, Jian Yang

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 BabelRS通过语言枢轴预训练框架统一异构多模态遥感检测，解耦模态对齐与任务学习，提升训练稳定性与检测性能。

TokenCom: Vision-Language Model for Multimodal and Multitask Token Communications

TokenCom: 一种用于多模态和多任务令牌通信的视觉-语言模型

Feibo Jiang, Siwei Tu, Li Dong, Xiaolong Li, Kezhi Wang, Cunhua Pan, Zhu Han, Jiangzhou Wang

机构 * Hunan Provincial Key Laboratory of Intelligent Computing and Language Information Processing, Hunan Normal University（湖南省级智能计算与语言信息处理重点实验室，湖南师范大学） ； School of Information Science and Engineering, Hunan Normal University（信息科学与工程学院，湖南师范大学） ； Changsha Social Laboratory of Artificial Intelligence, Hunan University of Technology and Business（长沙人工智能社会实验室，湖南工业大学） ； School of Computer Science, Hunan University of Technology and Business（计算机科学学院，湖南工业大学） ； Department of Computer Science, Brunel University London（伦敦布鲁内尔大学计算机科学系） ； National Mobile Communications Research Laboratory, Southeast University（东南大学国家移动通信研究中心） ； Department of Electrical and Computer Engineering, University of Houston（电子与计算机工程系，休斯顿大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)

AI总结 TokenCom提出了一种新的视觉-语言模型框架TaiChi，通过双视觉分词器和双向注意力网络提升多模态和多任务令牌通信的性能。

Animal behavioral analysis and neural encoding with transformer-based self-supervised pretraining

基于变换器的自监督预训练的动物行为分析与神经编码

Yanchen Wang, Han Yu, Ari Blau, Yizi Zhang, The International Brain Laboratory, Liam Paninski, Cole Hurwitz, Matt Whiteway

机构 * Columbia University（哥伦比亚大学） ； International Brain Laboratory（国际脑实验室） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 BEAST通过自监督预训练的变换器框架，提升动物行为分析和神经编码的性能，适用于多种神经行为任务。

PPT: Pretraining with Pseudo-Labeled Trajectories for Motion Forecasting

PPT：基于伪标签轨迹的运动预测预训练

Yihong Xu, Yuan Yin, Éloi Zablocki, Tuan-Hung Vu, Alexandre Boulch, Matthieu Cord

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 PPT通过利用伪标签轨迹进行预训练，提升运动预测的泛化能力和在低数据环境下的性能。

Comments 8 pages, 6 figures, accepted to ICRA 2026

MedTri: A Platform for Structured Medical Report Normalization to Enhance Vision-Language Pretraining

MedTri：一种用于结构化医学报告标准化以增强视觉-语言预训练的平台

Yuetan Chu, Xinhua Ma, Xinran Jin, Gongning Luo, Xin Gao

机构 * King Abdullah University of Science and Technology (KAUST)（卡塔尔国王科技大学） ； Faculty of Computing, Harbin, China（哈尔滨计算学院） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 MedTri通过结构化医学报告标准化提升视觉-语言预训练效果，提供统一三元组格式并支持模块化增强策略。

Joint-Aligned Latent Action: Towards Scalable VLA Pretraining in the Wild

联合对齐的潜在动作：迈向大规模野外VLA预训练

Hao Luo, Ye Wang, Wanpeng Zhang, Haoqi Yuan, Yicheng Feng, Haiweng Xu, Sipeng Zheng, Zongqing Lu

机构 * Peking University（北京大学） ； Renmin University of China（中国人民大学） ； BeingBeyond 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 JALA通过联合对齐的潜在动作预训练框架，提升从人类数据中大规模预训练视觉-语言-动作模型的效率与性能。

Comments CVPR2026

SpecAware: A Spectral-Content Aware Foundation Model for Unifying Multi-Sensor Learning in Hyperspectral Remote Sensing Mapping

SpecAware: 一种面向光谱-内容的统一多传感器学习的超光谱遥感制图基础模型

Renjie Ji, Xue Wang, Chao Niu, Wen Zhang, Yong Mei, Kun Tan

机构 * Key Laboratory of Spatial-Temporal Big Data Analysis and Application of Natural Resources in Megacities (Ministry of Natural Resources), East China Normal University（空间-时间大数据分析与应用国家级重点实验室（自然资源部），东华师范大学） ； School of Geospatial Artificial Intelligence, East China Normal University（地理信息人工智能学院，东华师范大学） ； Key Laboratory of Geographic Information Science (Ministry of Education), East China Normal University（地理信息科学重点实验室（教育部），东华师范大学） ； School of Geographic Sciences, East China Normal University（地理科学学院，东华师范大学） ； Shanghai Municipal Institute of Surveying and Mapping（上海市测绘院） ； Institute of Defense Engineering, AMS（工程院，AMS） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 SpecAware是一种基于光谱-内容感知的超光谱遥感制图基础模型，通过统一多传感器学习框架实现跨传感器的高效联合学习。

Improving Reliability of Machine Learned Interatomic Potentials With Physics-Informed Pretraining

通过物理指导预训练提升机器学习互原子势的可靠性

Qianyu Zheng, Victor Fung

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 通过物理指导预训练提升机器学习互原子势的可靠性，提高预测准确性和MD稳定性。

Measuring Validity in LLM-based Resume Screening

基于LLM的简历筛选有效性测量

Jane Castleman, Zeyu Shen, Blossom Metevier, Max Springer, Aleksandra Korolova

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 本文提出了一种系统方法，用于测量LLM在简历筛选中的有效性，揭示了多种模型在选择合格候选人时的不一致性及潜在偏见问题。

Faster Training, Fewer Labels: Self-Supervised Pretraining for Fine-Grained BEV Segmentation

更快的训练，更少的标签：用于细粒度BEV分割的自监督预训练

Daniel Busch, Christian Bohn, Thomas Kurbiel, Klaus Friedrichs, Richard Meyes, Tobias Meisen

机构 * University of Wuppertal（乌珀塔尔大学） ； APTIV（APTIV公司） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文提出一种自监督预训练方法，通过减少标注数据和训练时间，提升细粒度BEV分割性能。

Comments This Paper has been accepted to the 2026 IEEE Intelligent Vehicles Symposium (IV)

The Speech-LLM Takes It All: A Truly Fully End-to-End Spoken Dialogue State Tracking Approach

语音大语言模型一网打尽：一种真正端到端的语音对话状态跟踪方法

Nizar El Ghazal, Antoine Caubrière, Valentin Vielzeuf

专题命中 预训练与数据 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出利用语音大语言模型实现端到端语音对话状态跟踪，通过比较不同上下文管理策略，发现完整语音对话输入能获得最佳性能，同时压缩历史信息能保持准确性与效率的平衡。

Comments Accepted for presentation at LREC 2026

Mitigating Pretraining-Induced Attention Asymmetry in 2D+ Electron Microscopy Image Segmentation

缓解2D+电子显微镜图像分割中预训练引起的注意力不对称

Zsófia Molnár, Gergely Szabó, András Horváth

机构 * ITK, PPCU（ITK、PPCU） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文提出了一种基于均匀通道初始化的预训练权重修改方法，以缓解电子显微镜图像分割中预训练引起的注意力不对称问题，从而提升模型可解释性并保持分割性能。

A Synthetic Data-Driven Radiology Foundation Model for Pan-tumor Clinical Diagnosis

面向肿瘤临床诊断的合成数据驱动放射学基础模型

Wenhui Lei, Hanyu Chen, Zitian Zhang, Luyang Luo, Qiong Xiao, Yannian Gu, Peng Gao, Yankai Jiang, Ci Wang, Guangtao Wu, Tongjia Xu, Yingjie Zhang, Pranav Rajpurkar, Xiaofan Zhang, Shaoting Zhang, Zhenning Wang

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 PASTA通过合成数据驱动的方法，构建了跨肿瘤放射学基础模型，实现了45项肿瘤学任务的先进性能，并在临床场景中提升了诊断效率和准确性。

Comments 63 pages, 7 figures

Fully 3D Unrolled Magnetic Resonance Fingerprinting Reconstruction via Staged Pretraining and Implicit Gridding

基于分阶段预训练和隐式栅格化的全3D磁共振指纹重建

Yonatan Urman, Mark Nishimura, Daniel Abraham, Xiaozhi Cao, Kawin Setsompop

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 SPUR-iG通过分阶段预训练和隐式栅格化实现高效3D磁共振指纹重建，提升精度和速度。

ProAgentBench: Evaluating LLM Agents for Proactive Assistance with Real-World Data

ProAgentBench：基于真实数据评估LLM代理的前瞻性帮助

Yuanbo Tang, Huaze Tang, Tingyu Cao, Lam Nguyen, Anping Zhang, Xinwen Cao, Chunkang Liu, Wenbo Ding, Yang Li

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 ProAgentBench通过真实用户数据构建基准，评估LLM代理在连续工作流程中的前瞻性帮助能力，揭示真实数据对预测准确性的提升作用。

A Contrastive Learning Foundation Model Based on Perfectly Aligned Sample Pairs for Remote Sensing Images

基于完美对齐样本对的远程 sensing 图像对比学习基础模型

Hengtong Shen, Haiyan Gu, Haitao Li, Yi Yang, Agen Qiu

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 本文提出PerA方法，通过完美对齐样本对生成通用遥感图像特征，提升自监督学习在遥感任务中的适应性和效率。

Comments This article has been accepted for publication in Geo-spatial Information Science, published by Taylor & Francis

PhysBrain: Human Egocentric Data as a Bridge from Vision Language Models to Physical Intelligence

PhysBrain: 人眼视角数据作为视觉语言模型到物理智能的桥梁

Xiaopeng Lin, Shijie Lian, Bin Yu, Ruoqi Yang, Zhaolong Shen, Changti Wu, Yuzhuo Miao, Yurun Jin, Yukun Shi, Jiyan He, Cong Huang, Bojun Cheng, Kai Chen

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Zhongguancun Academy（中关村学院） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究院） ； Harbin Institute of Technology（哈尔滨工业大学） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)

AI总结 PhysBrain通过将人类眼动视频转化为多级具身监督，提升机器人在眼动感知和长期规划中的能力，实现从人类视角到机器人控制的有效迁移。

Comments 21 pages, 8 figures

Benchmarking Foundation Models for Mitotic Figure Classification

对有监督模型进行基准测试以进行分裂图分类

Jonas Ammeling, Jonathan Ganz, Emely Rosbach, Ludwig Lausser, Christof A. Bertram, Katharina Breininger, Marc Aubreville

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 本研究通过LoRA调整基础模型，在仅用10%训练数据的情况下达到接近100%性能，并在未见领域中表现优异。

Comments Accepted for publication at the Journal of Machine Learning for Biomedical Imaging (MELBA) https://melba-journal.org/2026:003

Journal ref Machine.Learning.for.Biomedical.Imaging. 2026 (2026)

A Low-Cost Vision-Based Tactile Gripper with Pretraining Learning for Contact-Rich Manipulation

一种低成本的基于视觉的触觉夹具，用于接触丰富的操作

Yaohua Liu, Binkai Ou, Zicheng Qiu, Ce Hao, Hengjun Zhang

机构 * Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） ； Innovation and Research and Development Department, BoardWare Information System Company Ltd.（创新与研发部，BoardWare信息系统有限公司） ； School of Artificial Intelligence, Nanjing Agricultural University（人工智能学院，南京农业大学） ； School of Computing, National University of Singapore（计算机学院，新加坡国立大学） ； School of Electronic Engineering and Automation, Guilin University of Electronic Technology（电子工程与自动化学院，桂林电子科技大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本研究提出了一种低成本的视觉-触觉夹具，通过融合视觉和触觉反馈，提升接触丰富环境中的操作性能。

CARE: Multi-Task Pretraining for Latent Continuous Action Representation in Robot Control

CARE：用于机器人控制的潜在连续动作表示的多任务预训练

Jiaqi Shi, Xulong Zhang, Xiaoyang Qu, Jianzong Wang

机构 * Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 CARE通过多任务预训练学习连续动作表示，提升机器人控制的可扩展性和可解释性。

Comments Accepted to 2026 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2026)

Do Pathology Foundation Models Encode Disease Progression? A Pseudotime Analysis of Visual Representations

病理基础模型是否编码疾病进展？对视觉表示的伪时间分析

Pritika Vig, Ren-Chin Wu, William Lotter

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Department of Pathology, Dana-Farber Cancer Institute（达纳-法伯癌症研究所病理部） ； Department of Data Science, Dana-Farber Cancer Institute（达纳-法伯癌症研究所数据科学部） ； Brigham and Women's Hospital（布里奇沃特医院） ； Harvard Medical School（哈佛医学院） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 研究探讨视觉基础模型是否能隐式学习连续疾病进程，通过伪时间分析发现模型在表示空间中能组织疾病状态，轨迹保真度与分类性能相关。

Comments 21 pages, 17 figures. Appendix included

bi-modal textual prompt learning for vision-language models in remote sensing

双模文本提示学习用于遥感图像的视觉-语言模型

Pankhi Kashyap, Mainak Singha, Biplab Banerjee

机构 * Indian Institute of Technology Bombay（印度理工学院班加罗尔分校） ； University of Trento（特伦托大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)

AI总结 BiMoRS通过双模提示学习框架提升遥感图像视觉-语言模型的适应性与泛化能力。

Comments Accepted in ICASSP 2026

Proactive Hardening of LLM Defenses with HASTE

通过HASTE主动增强LLM防御

Henry Chen, Victor Aranda, Samarth Keshari, Ryan Heartfield, Nicole Nichols

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 HASTE通过主动生成对抗样本提升LLM防御效果，有效降低基线检测器误报率并优化检测模型性能。

Comments Accepted at peer review NDSS 2026, Last-X workshop. Camera ready copy forthcoming

LLM-based Semantic Search for Conversational Queries in E-commerce

基于大语言模型的语义搜索用于电商会话查询

Emad Siddiqui, Venkatesh Terikuti, Xuan Lu

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 本文提出基于大语言模型的语义搜索框架，通过结合领域嵌入与结构化过滤，提升电商会话查询的检索精度与召回率。

CGPT: Cluster-Guided Partial Tables with LLM-Generated Supervision for Table Retrieval

CGPT: 基于LLM生成监督的聚类引导部分表格用于表格检索

Tsung-Hsiang Chou, Chen-Jui Yu, Shui-Hsiang Hsu, Yao-Chung Fan

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 CGPT通过聚类引导和LLM生成监督提升表格检索性能，实现跨领域泛化和模型优化。

Comments Accepted at The Web Conference 2026 (WWW 2026)

SmoothCLAP: Soft-Target Enhanced Contrastive Language\--Audio Pretraining for Affective Computing

SmoothCLAP: 用于情感计算的软目标增强对比语言-音频预训练

Xin Jing, Jiadong Wang, Andreas Triantafyllopoulos, Maurice Gerczuk, Shahin Amiriparian, Jun Luo, Björn Schuller

机构 * CHI -- Chair of Health Informatics, TUM University Hospital, Munich, Germany（健康信息学系，塔尔博特大学医院，德国慕尼黑） ； Huawei, Netherlands（华为，荷兰） ； GLAM, Imperial College London, UK（GLAM，伦敦帝国学院，英国） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 SmoothCLAP通过引入软目标和副语言特征，改进了对比语言-音频预训练，以更准确地捕捉情感的连续性，从而提升情感计算任务的性能。

Comments 5 pages, accepted by ICASSP 2026

Infrared Object Detection with Ultra Small ConvNets: Is ImageNet Pretraining Still Useful?

红外小规模卷积网络目标检测：ImageNet预训练仍然有用吗？

Srikanth Muralidharan, Heitor R. Medeiros, Masih Aminbeidokhti, Eric Granger, Marco Pedersoli

机构 * LIVIA, Dept. of Systems Engineering, ETS Montreal, Canada（LIVIA，系统工程系，蒙特利尔大学） ； International Laboratory on Learning Systems (ILLS)（学习系统国际实验室） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文研究了超小型卷积网络在红外目标检测中的性能，发现ImageNet预训练在一定容量阈值后对鲁棒性提升有限，建议避免过于小的模型以提高鲁棒性。

Comments Accepted to WACV 2026