语言大模型 / LLM

Knowledge-enhanced Pretraining for Vision-language Pathology Foundation Model on Cancer Diagnosis

基于知识增强的视觉语言病理基础模型用于癌症诊断

Xiao Zhou, Luoyi Sun, Dexuan He, Wenbin Guan, Ge Wang, Ruifen Wang, Lifeng Wang, Xiaojun Yuan, Xin Sun, Ya Zhang, Kun Sun, Yanfeng Wang, Weidi Xie

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Xinhua Hospital Affiliated to Shanghai Jiao Tong University School of Medicine（上海交通大学医学院附属新华医院） ； School of Artificial Intelligence（人工智能学院） ； Department of Pathology（病理学部） ； Department of Oral Pathology（口腔病理学部） ； Department of Pediatric Hematology/Oncology（儿科血液肿瘤科） ； Clinical Research and Innovation Unit（临床研究与创新单元） ； Department of Pediatric Cardiology（儿童心脏病科） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；pretraining(title,abstract)；language model(abstract)

AI总结 本文提出KEEP模型，通过整合疾病知识图谱提升癌症诊断的视觉语言基础模型性能，显著优于现有方法。

Comments V2: fixed typos, updated experimental results, added ablation

Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches

评估基于语言的抑郁症检测中的算法偏见：DNN和LLM方法的比较

Obed Junias, Prajakta Kini, Theodora Chaspari

机构 * Computer Science University of Colorado Boulder Boulder, CO, USA ； Inst. Cognitive Science \& Computer Science University of Colorado Boulder Boulder, CO, USA 纠错

专题命中 预训练与数据 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文比较了DNN和LLM在抑郁症检测中的性能与公平性，发现LLM在少数群体表现更优，但种族差异仍存在。

Comments 7 pages, 1 figure. This paper has been accepted to the IEEE-EMBS International Conference on Biomedical and Health Informatics (BHI 2025), Georgia Institute of Technology, Atlanta, Georgia, October 26-29, 2025

daVinci-Dev: Agent-native Mid-training for Software Engineering

daVinci-Dev：面向软件工程的代理原生中训练

Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei Liu

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 daVinci-Dev通过代理原生数据合成和中训练方法，在软件工程中实现了更高效的代理能力，优于现有方法。

GMS-CAVP: Improving Audio-Video Correspondence with Multi-Scale Contrastive and Generative Pretraining

GMS-CAVP：通过多尺度对比和生成预训练提升音频视频对应关系

Shentong Mo, Zehua Chen, Jun Zhu

机构 * Carnegie Mellon University（卡内基梅隆大学） ； MBZUAI ； Tsinghua University（清华大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 GMS-CAVP通过多尺度对比和生成预训练方法提升音频视频对应关系建模，实现更深入的跨模态理解和高保真生成。

Proactive Hardening of LLM Defenses with HASTE

通过HASTE主动增强LLM防御

Henry Chen, Victor Aranda, Samarth Keshari, Ryan Heartfield, Nicole Nichols

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 HASTE通过主动生成对抗样本提升LLM防御效果，有效降低基线检测器误报率并优化检测模型性能。

Comments Accepted at peer review NDSS 2026, Last-X workshop. Camera ready copy forthcoming

SIPDO: Closed-Loop Prompt Optimization via Synthetic Data Feedback

SIPDO：通过合成数据反馈实现闭环提示优化

Yaoning Yu, Ye Yu, Peiyan Zhang, Kai Wei, Haojing Luo, Haohan Wang

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； University of South Florida（佛罗里达州立大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SIPDO通过合成数据反馈闭环优化提示，提升提示性能并优于传统提示微调方法。

From Tables to Time: Extending TabPFN-v2 to Time Series Forecasting

从表格到时间：将TabPFN-v2扩展到时间序列预测

Shi Bin Hoo, Samuel Müller, David Salinas, Frank Hutter

机构 * University of Freiburg（弗赖堡大学） ； Prior Labs（Prior实验室） ； Meta ； ELLIS Institute（ELLIS研究所） ； Tübingen University of Freiburg（弗赖堡大学图宾根分校） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本文提出TabPFN-TS，通过结合轻量级时间特征化与预训练的TabPFN-v2，将预测视为表格回归问题，在时间序列预测中实现高效且多功能的性能。

Comments This revision extends the previous version by adding evaluations on covariate-aware forecasting tasks, additional ablation studies, and a dedicated limitations section. It also substantially rewrites and reorganizes the manuscript to improve clarity and overall readability

TIGaussian: Disentangle Gaussians for Spatial-Awared Text-Image-3D Alignment

TIGaussian: 解耦高斯分布以实现空间感知的图文-3D对齐

Jiarun Liu, Qifeng Chen, Yiru Zhao, Minghua Liu, Baorui Ma, Sheng Yang

机构 * Unmanned Vehicle Dept., Cainiao Inc., Alibaba Group, Hangzhou, China（阿里巴巴集团 Cainiao 无人机部门，杭州，中国） ； Hillbot, Sunnyvale, USA（Hillbot，美国 Sunnyvale） ； Beijing Academy of Artificial Intelligence, Beijing, China（北京人工智能研究院，北京，中国） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)

AI总结 TIGaussian通过多分支3DGS分词器和模态特定对齐策略，实现空间感知的图文-3D跨模态对齐，提升3D相关任务的预训练效果。

Creating a Causally Grounded Rating Method for Assessing the Robustness of AI Models for Time-Series Forecasting

为评估时间序列预测中AI模型的鲁棒性构建一个因果基础的评分方法

Kausik Lakkaraju, Rachneet Kaur, Parisa Zehtabi, Sunandita Patra, Zhen Zeng, Siva Likitha Valluru, Biplav Srivastava, Marco Valtorta

机构 * University of South Carolina（南卡罗来纳大学） ； J.P. Morgan AI Research（摩根大通AI研究） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种因果基础的评分方法，用于评估时间序列预测中AI模型的鲁棒性，通过分析不同扰动和数据分布下的表现，验证了多模态和专门模型在鲁棒性和准确性上的优势。

Comments arXiv admin note: text overlap with arXiv:2406.12908

Length-Adaptive Interest Network for Balancing Long and Short Sequence Modeling in CTR Prediction

长度自适应兴趣网络：平衡长序列和短序列建模以提升CTR预测

Zhicheng Zhang, Zhaocheng Du, Jieming Zhu, Jiwei Tang, Fengyuan Lu, Wang Jiaheng, Song-Li Wu, Qianhui Zhu, Jingyu Li, Hai-Tao Zheng, Zhenhua Dong

专题命中 预训练与数据 ：prompting(abstract)；分类 cs.AI

AI总结 LAIN通过引入长度自适应机制，平衡长短序列建模，提升CTR预测性能。

Comments Accepted at AAAI 2026

EgoHandICL: Egocentric 3D Hand Reconstruction with In-Context Learning

EgoHandICL: 以自身为中心的3D手重建与上下文学习

Binzhu Xie, Shi Qiu, Sicheng Zhang, Yinqiao Wang, Hao Xu, Muzammal Naseer, Chi-Wing Fu, Pheng-Ann Heng

机构 * Department of Computer Science and Engineering, The Chinese University of Hong Kong（计算机科学与工程系，香港中文大学） ； Institute of Medical Intelligence and XR, The Chinese University of Hong Kong（医学智能与XR研究院，香港中文大学） ； Department of Computer Science, Khalifa University（计算机科学系，哈利法大学） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 EgoHandICL通过上下文学习框架提升以自身为中心的3D手重建的鲁棒性和一致性，结合视觉语言模型和掩码自动编码器实现更精确的手-物体交互推理。

Comments Accepted in ICLR 2026, Codebase: https://github.com/Nicous20/EgoHandICL

Phonological Tokenizer: Prosody-Aware Phonetic Token via Multi-Objective Fine-Tuning with Differentiable K-Means

语音标记器：通过可微k-means的多目标微调实现的音调感知音素标记

Kentaro Onda, Hayato Futami, Yosuke Kashiwagi, Emiru Tsunoo, Shinji Watanabe

机构 * The University of Tokyo（东京大学） ； Sony Group Corporation（索尼集团公司） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文提出Phonological Tokenizer，通过可微k-means和多任务目标微调，生成保留音系信息且剔除说话人身份的语音标记，用于提升语音语言模型的性能。

Comments Accepted to ICASSP 2026