语言大模型 / LLM

AWM: Accurate Weight-Matrix Fingerprint for Large Language Models

AWM: 用于大型语言模型的准确权重矩阵指纹

Boyi Zeng, Lin Chen, Ziwei He, Xinbing Wang, Zhouhan Lin

机构 * LUMIA Lab（LUMIA实验室） ； School of Artificial Intelligence（人工智能学院） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Fudan University（复旦大学） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

AI总结 AWM通过基于权重矩阵的无训练指纹方法，利用线性分配问题和无偏中心核对齐相似性，实现对大型语言模型训练来源的可靠识别。

Comments ICLR 2026

LLMAC: A Global and Explainable Access Control Framework with Large Language Model

LLMAC: 一种全局且可解释的访问控制框架基于大语言模型

Sharif Noor Zisad, Ragib Hasan

机构 * Department of Computer Science（计算机科学系） ； University of Alabama at Birmingham（阿拉巴马大学伯明翰分校） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 LLMAC利用大语言模型整合多种访问控制方法，实现高准确率和可解释性，显著优于传统方法。

Comments This paper is accepted and presented in IEEE Consumer Communications & Networking Conference (CCNC 2026)

Machine Learning as a Tool (MLAT): A Framework for Integrating Statistical ML Models as Callable Tools within LLM Agent Workflows

机器学习作为工具（MLAT）：一种将统计机器学习模型作为可调用工具集成到LLM代理工作流中的框架

Edwin Chen, Zulekha Bibi

机构 * Legacy AI LLC 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MLAT框架通过将统计机器学习模型作为可调用工具集成到LLM代理工作流中，实现快速生成专业提案的自动化流程。

Comments Submitted to the Google Gemini 3 Hackathon

MUKA: Multi Kernel Audio Adaptation Of Audio-Language Models

MUKA：多核音频适应音频-语言模型

Reda Bensaid, Amine Ouasfi, Yassir Bendou, Ilyass Moummad, Vincent Gripon, François Leduc-Primeau, Adnane Boukhayma

机构 * Inria, University Rennes, IRISA, CNRS（Inria、里昂大学、IRISA、CNRS） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；foundation model(abstract)；pretraining(abstract)

AI总结 MUKA通过结合细粒度表示与全局语义表示，实现音频-语言模型的少样本适应，展现了在适应性和效率上的平衡性能。

Emergently Misaligned Language Models Show Behavioral Self-Awareness That Shifts With Subsequent Realignment

涌现性错位语言模型表现出会随后续重新对齐而变化的行为自我意识

Laurène Vaugrante, Anietta Weckauff, Thilo Hagendorff

机构 * Interchange Forum for Reflecting on Intelligent Systems, University of Stuttgart, Stuttgart, Germany（智能系统反思交流论坛，斯图加特大学，斯图加特，德国） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究发现，经过特定微调的LLMs能自我评估其行为错位程度，表明模型具备行为自我意识并能反映其实际对齐状态。

PDE foundation models are skillful AI weather emulators for the Martian atmosphere

偏微分方程基础模型是火星大气的技能型AI天气模拟器

Johannes Schmude, Sujit Roy, Liping Wang, Theodore van Kessel, Levente Klein, Marcus Freitag, Eloisa Bentivegna, Robert Manson-Sawko, Bjorn Lutjens, Manil Maskey, Campbell Watson, Rahul Ramachandran, Juan Bernabe-Moreno

专题命中 预训练与数据 ：foundation model(title,abstract)；pretraining(abstract)；分类 cs.LG

AI总结 基于预训练的偏微分方程基础模型，通过扩展至三维并适应稀疏初始条件，实现了对火星大气天气的高精度模拟。

Scaling Behavior of Discrete Diffusion Language Models

离散扩散语言模型的扩展行为

Dimitri von Rütte, Janis Fluri, Omead Pooladzandi, Bernhard Schölkopf, Thomas Hofmann, Antonio Orvieto

机构 * ETH Zürich（苏黎世联邦理工学院） ； ELLIS Institute Tübingen（图宾根ELLIS研究所） ； Max Planck Institute for Intelligent Systems, Tübingen（图宾根人工智能研究所） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 本研究探讨了离散扩散语言模型在不同噪声类型下的扩展行为，发现其扩展特性与自回归语言模型有显著差异，并展示了在数据受限环境下均匀扩散的潜力。

High Accuracy, Less Talk (HALT): Reliable LLMs through Capability-Aligned Finetuning

高精度、少言 (HALT)：通过能力对齐微调实现可靠的LLM

Tim Franzmeyer, Archie Sravankumar, Lijuan Liu, Yuning Mao, Rui Hou, Sinong Wang, Jakob N. Foerster, Luke Zettlemoyer, Madian Khabsa

机构 * University of Oxford（牛津大学） ； Anthropic（Anthropic公司） ； Meta ； University of Washington（华盛顿大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 HALT通过能力对齐微调提高LLM的响应正确性，使模型在四个领域中正确性提升至87%

Scaling Beyond Masked Diffusion Language Models

超越掩码扩散语言模型的扩展

Subham Sekhar Sahoo, Jean-Marie Lemercier, Zhihan Yang, Justin Deschenaux, Jingyu Liu, John Thickstun, Ante Jukic

机构 * Department of Computer Science, Cornell Tech, NYC, USA（康奈尔科技学院计算机科学系） ； Department of Computer Science, Cornell University, Ithaca, USA（康奈尔大学计算机科学系） ； School of Computer and Communication Sciences, EPFL Lausanne, Switzerland（洛桑联邦理工学院计算机与通信科学学院） ； Department of Computer Science, University of Chicago, Illinois（芝加哥大学计算机科学系） ； NVIDIA, Santa Clara, USA（英伟达） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了统一状态和插值离散扩散方法的扩展定律，发现掩码扩散在FLOPs效率上可提升12%，并展示了统一状态扩散在GSM8K任务中的优越表现

Comments code: https://github.com/s-sahoo/scaling-dllms

Writing in Symbiosis: Mapping Human Creative Agency in the AI Era

共生写作：人工智能时代人类创造性自主性的映射

Vivan Doshi, Mengyuan Li

机构 * Department of Computer Science University of Southern California（计算机科学系美国南加州大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了人工智能时代人类创造性自主性的共生写作模式，通过分析纵向写作数据揭示了作者与AI风格的适应性变化。

Comments Advances in Neural Information Processing Systems (NeurIPS 2025)

The Speech-LLM Takes It All: A Truly Fully End-to-End Spoken Dialogue State Tracking Approach

语音大语言模型一网打尽：一种真正端到端的语音对话状态跟踪方法

Nizar El Ghazal, Antoine Caubrière, Valentin Vielzeuf

专题命中 预训练与数据 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出利用语音大语言模型实现端到端语音对话状态跟踪，通过比较不同上下文管理策略，发现完整语音对话输入能获得最佳性能，同时压缩历史信息能保持准确性与效率的平衡。

Comments Accepted for presentation at LREC 2026

Mitigating Pretraining-Induced Attention Asymmetry in 2D+ Electron Microscopy Image Segmentation

缓解2D+电子显微镜图像分割中预训练引起的注意力不对称

Zsófia Molnár, Gergely Szabó, András Horváth

机构 * ITK, PPCU（ITK、PPCU） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文提出了一种基于均匀通道初始化的预训练权重修改方法，以缓解电子显微镜图像分割中预训练引起的注意力不对称问题，从而提升模型可解释性并保持分割性能。

RF-GPT: Teaching AI to See the Wireless World

RF-GPT：教AI看见无线世界

Hang Zou, Yu Tian, Bohao Wang, Lina Bariah, Samson Lasaulce, Chongwen Huang, Mérouane Debbah

机构 * Research Institute for Digital Future, Khalifa University（数字未来研究院，哈利法大学） ； College of Information Science and Electronic Engineering, Zhejiang University（信息科学与电子工程学院，浙江大学） ； Université de Lorraine, CNRS, CRAN（洛林大学，CNRS，CRAN） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 RF-GPT通过多模态LLM的视觉编码器处理RF频谱图，实现射频信号的高级推理与生成，无需人工标注即可在多个无线任务中取得优异表现。

Optimal Learning-Rate Schedules under Functional Scaling Laws: Power Decay and Warmup-Stable-Decay

在功能缩放定律下最优学习率调度：功率衰减与温升稳定衰减

Binghui Li, Zilin Wang, Fengling Chen, Shiyang Zhao, Ruiheng Zheng, Lei Wu

机构 * Center for Machine Learning Research, Peking University（北京大学机器学习研究中心） ； School of Mathematical Sciences, Peking University（北京大学数学科学学院） ； AI for Science Institute, Beijing（北京人工智能科学研究院） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文在功能缩放定律下研究最优学习率调度，揭示了在不同任务难度下学习率调度的相变特性，并展示了功率衰减调度在核回归中的最优性能。

ReliabilityRAG: Effective and Provably Robust Defense for RAG-based Web-Search

ReliabilityRAG: 有效且可证明的防御方法用于基于检索的Web搜索

Zeyu Shen, Basileal Imana, Tong Wu, Chong Xiang, Prateek Mittal, Aleksandra Korolova

机构 * Department of Computer Science（计算机科学系） ； Princeton University（普林斯顿大学） ； Center for Information Technology Policy（信息政策中心） ； Department of Electrical and Computer Engineering（电气与计算机工程系） ； NVIDIA（英伟达） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ReliabilityRAG通过利用文档可靠性信息，提供更有效且可证明鲁棒的防御方法，以增强基于检索的Web搜索系统对对抗攻击的抵御能力。

Comments Accepted to NeurIPS 2025

Cautious Optimizers: Improving Training with One Line of Code

谨慎优化器：通过一行代码提升训练

Kaizhao Liang, Lizhang Chen, Bo Liu, Qiang Liu

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 预训练与数据 ：LLM(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过一行代码改进优化器，提升Transformer预训练和图像分类性能

Building Autonomous GUI Navigation via Agentic-Q Estimation and Step-Wise Policy Optimization

通过代理-Q估计和分步策略优化构建自主GUI导航

Yibo Wang, Guangda Huzhang, Yuwei Hu, Yu Xia, Shiyin Lu, Qing-Guo Chen, Zhao Xu, Weihua Luo, Kaifu Zhang, Lijun Zhang

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； Ovis Team, Alibaba Group（阿里团队，阿里巴巴集团） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于代理-Q估计和分步策略优化的GUI自主导航框架，通过强化学习提升GUI交互能力，实验证明其在导航和基准测试中表现优异。

Position Encoding with Random Float Sampling Enhances Length Generalization of Transformers

基于随机浮点采样的位置编码增强变换器的长度泛化能力

Atsushi Shimizu, Shohei Taniguchi, Yutaka Matsuo

机构 * Daiwa Securities（大和证券） ； The University of Tokyo（东京大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本研究提出随机浮点采样方法，通过增强位置编码的泛化能力，提升变换器在长序列处理和常识推理任务中的表现。

Comments To appear at EACL 2026

Functional Scaling Laws in Kernel Regression: Loss Dynamics and Learning Rate Schedules

核回归中的功能缩放定律：损失动态与学习率调度

Binghui Li, Fengling Chen, Zixun Huang, Lean Wang, Lei Wu

机构 * Center for Machine Learning Research, Peking University（北京大学机器学习研究中心） ； School of Mathematical Sciences, Peking University（北京大学数学科学学院） ； State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（北京大学多媒体信息处理国家重点实验室） ； AI for Science Institute, Beijing（北京人工智能科学研究院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出功能缩放定律，通过分析核回归模型中的损失动态，揭示学习率调度对训练效率的影响，并验证了WSD调度在大规模预训练中的有效性。

Comments 60 pages, accepted by NeurIPS 2025 as a spotlight paper

InternVLA-A1: Unifying Understanding, Generation and Action for Robotic Manipulation

InternVLA-A1：统一理解、生成和行动以实现机器人操作

Junhao Cai, Zetao Cai, Jiafei Cao, Yilun Chen, Zeyu He, Lei Jiang, Hang Li, Hengjie Li, Yang Li, Yufei Liu, Yanan Lu, Qi Lv, Haoxiang Ma, Jiangmiao Pang, Yu Qiao, Zherui Qiu, Yanqing Shen, Xu Shi, Yang Tian, Bolun Wang, Hanqing Wang, Jiaheng Wang, Tai Wang, Xueyuan Wei, Chao Wu, Yiman Xie, Boyang Xing, Yuqiang Yang, Yuyin Yang, Qiaojun Yu, Feng Yuan, Jia Zeng, Jingjing Zhang, Shenghan Zhang, Shi Zhang, Zhuoma Zhaxi, Bowen Zhou, Yuanzhen Zhou, Yunsong Zhou, Hongrui Zhu, Yangkun Zhu, Yuchen Zhu

机构 * InternVLA-A1 Team（InternVLA-A1团队） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 InternVLA-A1通过统一的Transformer架构，结合语义理解和动态预测能力，提升了机器人操作任务的性能。

Comments Homepage: https://internrobotics.github.io/internvla-a1.github.io/

DS@GT at TREC TOT 2025: Bridging Vague Recollection with Fusion Retrieval and Learned Reranking

DS@GT在TREC TOT 2025中：通过融合检索与学习重排序弥合模糊回忆

Wenxin Zhou, Ritesh Mehta, Anthony Miyaguchi

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL、cs.LG

AI总结 DS@GT在TREC TOT 2025中结合混合检索与学习重排序，通过融合检索方法提升模糊回忆任务的检索效果。

Comments Paper submitted to TREC 2025 (34th Text REtrieval Conference)

sleep2vec: Unified Cross-Modal Alignment for Heterogeneous Nocturnal Biosignals

sleep2vec：用于异构夜间生物信号的统一跨模态对齐

Weixuan Yuan, Zengrui Jin, Yichen Wang, Donglin Xie, Ziyi Ye, Chao Zhang, Xuesong Chen

机构 * Five Seasons Medical（五 Seasons 医疗） ； Tsinghua University（清华大学） ； Beijing Key Laboratory for Sleep Breathing Disorder（北京睡眠呼吸障碍重点实验室） ； Peking University（北京大学） ； Fudan University（复旦大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 sleep2vec通过统一跨模态对齐和原理化缩放，实现了对异构夜间生物信号的高效、通用建模。

LAP: Language-Action Pre-Training Enables Zero-shot Cross-Embodiment Transfer

LAP：语言-动作预训练实现零样本跨躯体迁移

Lihan Zha, Asher J. Hancock, Mingtong Zhang, Tenny Yin, Yixuan Huang, Dhruv Shah, Allen Z. Ren, Anirudha Majumdar

机构 * Princeton University（普林斯顿大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 LAP通过语言-动作预训练实现零样本跨躯体迁移，首次在无需特定躯体微调的情况下达到显著的迁移效果，提升性能达两倍。

Comments Project website: https://lap-vla.github.io

GraphFM: A generalist graph transformer that learns transferable representations across diverse domains

GraphFM: 一种通用的图变换器，能够在不同领域中学习可迁移的表示

Divyansha Lachi, Mehdi Azabou, Vinam Arora, Eva Dyer

机构 * University of Pennsylvania（宾夕法尼亚大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 GraphFM是一种通用图变换器，通过多图预训练学习可迁移的表示，提升跨不同图结构和任务的性能。

Journal ref Transactions on Machine Learning Research, 2025

Paraphrase Types Elicit Prompt Engineering Capabilities

同义词类型激发提示工程能力

Jan Philip Wahle, Terry Ruas, Yang Xu, Bela Gipp

机构 * University of Göttingen（戈丁根大学） ； University of Toronto（多伦多大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 本研究通过分析同义词类型对提示工程的影响，发现特定语言变化可提升语言模型的任务表现。

Journal ref EMNLP 2024

Stay in Character, Stay Safe: Dual-Cycle Adversarial Self-Evolution for Safety Role-Playing Agents

保持角色，保持安全：双循环对抗自进化用于安全角色扮演代理

Mingyang Liao, Yichen Wan, shuchen wu, Chenxi Miao, Xin Shen, Weikang Li, Yang Li, Deguo Xia, Jizhou Huang

机构 * Baidu Inc.（百度公司） ； The University of Queensland（昆士兰大学） ； Peking University（北京大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.AI

AI总结 本文提出双循环对抗自进化框架，通过角色扮演防御机制提升安全性和角色忠实度，实验表明在多个大语言模型上有效提升角色扮演的稳定性与安全性。

CLAP-Based Automatic Word Naming Recognition in Post-Stroke Aphasia

基于CLAP的失语症患者自动词语命名识别

Yacouba Kaloga, Marina Laganaro, Ina Kodrasi

机构 * Signal Processing for Communication Group, Idiap Research Institute, Martigny, Switzerland（日内瓦瑞士IDIAP研究所信号处理与通信组） ； Faculty of Psychology and Educational Science, University of Geneva, Geneva, Switzerland（日内瓦大学心理学与教育科学学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出基于CLAP的自动词语命名识别方法，通过文本-音频对齐在中风后失语症患者语音识别中达到90%的准确率。

Comments Submitted to EUSIPCO 2026

RoboAug: One Annotation to Hundreds of Scenes via Region-Contrastive Data Augmentation for Robotic Manipulation

RoboAug: 通过区域对比数据增强实现从一个标注到数百种场景

Xinhua Wang, Kun Wu, Zhen Zhao, Hu Cao, Yinuo Zhao, Zhiyuan Xu, Meng Li, Shichao Fan, Di Wu, Yixue Zhang, Ning Liu, Zhengping Che, Jian Tang

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 RoboAug通过区域对比数据增强技术，仅需单张图像的边界框标注，显著提升机器人在多样场景中的泛化能力和任务成功率。

Cardiac Output Prediction from Echocardiograms: Self-Supervised Learning with Limited Data

从超声心动图预测心脏输出：基于自监督学习的有限数据方法

Adson Duarte, Davide Vitturini, Emanuele Milillo, Andrea Bragagnolo, Carlo Alberto Barbano, Riccardo Renzulli, Michele Cannito, Federico Giacobbe, Francesco Bruno, Ovidio de Filippo, Fabrizio D'Ascenzo, Marco Grangetto

机构 * University of Turin, Italy（都灵大学，意大利） ； LINKS Foundation, Italy（LINKS基金会，意大利） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出基于SimCLR的自监督学习方法，利用有限数据集提升超声心动图中心脏输出预测的准确性，测试集相关系数达0.41，优于现有模型。

Comments Accepted at ISBI 2026

Synthetic Dataset Generation and Validation for Robotic Surgery Instrument Segmentation

用于机器人手术器械分割的合成数据集生成与验证

Giorgio Chiesa, Rossella Borra, Vittorio Lauro, Sabrina De Cillis, Daniele Amparore, Cristian Fiori, Riccardo Renzulli, Marco Grangetto

机构 * University of Turin, Italy（都灵大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出了一种生成和验证用于机器人手术器械分割的合成数据集的方法，通过自动化流程生成逼真数据，并验证其在模型训练中的有效性。

Comments Accepted at ISBI 2026