语言大模型 / LLM

Self-Routing: Parameter-Free Expert Routing from Hidden States

自路由：从隐藏状态中无参数的专家路由

Jama Hussein Mohamud, Drew Wagner, Mirco Ravanelli

机构 * Mila - Quebec AI Institute（Mila - 魁北克人工智能研究所） ； Universite de Montreal（蒙特利尔大学） ； Concordia University（康考迪亚大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 本文提出自路由机制，通过直接利用隐藏状态子空间作为专家logits，无需额外路由参数，实现更平衡的专家利用。在GPT-2语言模型和ImageNet-1K分类任务中，自路由在性能上与传统路由方法相当，且提升专家利用率。

RAG-3DSG: Enhancing 3D Scene Graphs with Re-Shot Guided Retrieval-Augmented Generation

RAG-3DSG: 通过重拍引导的检索增强生成增强3D场景图

Yue Chang, Rufeng Chen, Zhaofan Zhang, Yi Chen, Yifan Tian, Sihong Xie

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 RAG-3DSG通过重拍引导的不确定性估计缓解3D场景图中的语义不一致问题，利用对象级检索增强生成方法提升机器人任务中的场景表示可靠性。

Comments Accepted by ECCV

INTRYGUE: Induction-Aware Entropy Gating for Reliable RAG Uncertainty Estimation

INTRYGUE：面向可靠RAG不确定性估计的诱导感知熵门控

Alexandra Bazarova, Andrei Volodichev, Daria Kotova, Alexey Zaytsev

机构 * Applied AI Institute（应用人工智能研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；分类 cs.AI

AI总结 本文提出INTRYGUE方法，通过诱导头激活模式门控预测熵，解决RAG中熵基不确定性估计的机械悖论问题，提升hallucination检测性能。

Bi-semantic Chemical Embedder for Joint Representation Learning of SMILES and Natural Language

用于SMILES与自然语言联合表示学习的双语义化学嵌入器

David Ming Segura, Jeremy Goumaz, Joshua W. Sin, Bojana Ranković, Philippe Schwaller

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 该研究提出双语义化学嵌入模型CheMatE，通过两阶段训练将SMILES与自然语言联合表示，在分子性质预测等下游任务上表现具竞争力。

LMs as Task-Specific Knowledge Bases: An Interpretability Analysis

语言模型作为任务特定知识库：一种可解释性分析

Amit Elhelo, Amir Globerson, Mor Geva

机构 * Blavatnik School of Computer Science and AI, Tel Aviv University（特拉维夫大学布拉瓦特尼克计算机科学与人工智能学院） ； Google Research（谷歌研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 通过行为和机制分析，发现语言模型以任务特定方式编码知识，不同任务对同一事实的查询结果不一致，且参数定位实验揭示了不同任务涉及不同参数子集。

Calibrating Semantic Uncertainty from Observable Language-Model Probabilities

从可观察的语言模型概率校准语义不确定性

Matthew F. Dixon

机构 * Artificial Intelligence Finance Institute (AIFI)（人工智能金融研究所） ； Quiota LLC（Quiota公司） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 研究如何从语言模型概率校准语义不确定性，引入语义映射方法，经测试该方法在处理专业市场文本和模拟时，语言衍生概率表现良好，能恢复后验且稳定，语义映射将问题转化为可测试统计问题并产生可审计后验估计。

GeoFlowVLM: Geometry-Aware Joint Uncertainty for Frozen Vision-Language Embedding

GeoFlowVLM: 基于几何的联合不确定性用于冻结视觉-语言嵌入

Mayank Nautiyal, Li Ju, Andreas Hellander, Ekta Vats, Prashant Singh

机构 * Department of Information Technology, Uppsala University（乌普萨拉大学信息科技系） ； SciLifeLab, Uppsala University（乌普萨拉大学SciLifeLab） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 GeoFlowVLM通过流匹配学习双编码VLM嵌入的联合分布，解决视觉-语言模型中缺乏联合不确定性的问题，提出条件检索熵和边际典型性得分以量化不确定性。

AREA3D: Active Reconstruction Agent with Unified Feed-Forward 3D Perception and Vision-Language Guidance

AREA3D: 带有统一前馈3D感知和视觉-语言引导的主动重建代理

Tianling Xu, Shengzhe Gan, Leslie Gu, Yuelei Li, Fangneng Zhan, Hanspeter Pfister

机构 * Southern University of Science and Technology（南方科技大学） ； Harvard University（哈佛大学） ； California Institute of Technology（加州理工学院） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 AREA3D通过统一前馈3D感知与视觉-语言引导，实现高效主动3D重建，尤其在稀疏视角下提升重建精度。

Journal ref Tianling Xu, Shengzhe Gan, Leslie Gu, Yuelei Li, Fangneng Zhan, Hanspeter Pfister. The IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (The IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)), 2026

Parallel Tokenizers: Rethinking Encoder Models' Vocabulary Design in Cross-Lingual Transfer of Low-Resource Languages

并行分词器：重新思考低资源语言跨语言转移中编码器模型的词汇设计

Muhammad Dehan Al Kautsar, Fajri Koto

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 针对低资源语言跨语言转移中因词汇映射问题限制表示学习的情况，提出并行分词器框架，先单语训练再对齐词汇表，实验表明该方法训练的模型在多任务中优于传统基线，对推进多语言表示学习意义重大。

Comments 17 pages, 25 tables, 6 figures

Hierarchical Self-Supervised Representation Learning Framework for Multivariate Time Series Grounded in ECG Analysis

一种用于多变量时间序列的轻量级自监督学习框架：基于层次JEPA的心电图数据方法

Siwon Kim

机构 * Research Institute of Basic Sciences, Seoul National University（首尔大学基础科学研究院） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 提出ER-JEPA，一种轻量级自监督学习框架，通过层次化联合嵌入预测架构对多变量时间序列进行表征学习，在心电图数据上实现高效预训练和下游任务最优性能。

Comments 29 pages, 8 figures. Further clarified, added the new downstream task in the abstract and intro since last update.<< Polished text, improved formatting, fixed speed benchmark result, and added new downstream task. Code will be made publicly available soon

Semantic Anchoring for Robotic Action Representations

用于机器人动作表示的语义锚定

Yuan Xu, Youheng Shi, Chengyang Li, Wentao Zhu, Yizhou Wang

机构 * Peking University（北京大学） ； Eastern Institute of Technology, Ningbo（宁波东方理工大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 研究VLA模型微调后动作表示结构受损问题，受镜像神经元理论启发，通过系统探测证实结构变化与任务表现相关。提出即插即用方法，将动作表示锚定到语义流形并分解通道，经多基准测试验证，有效提升了模型在真实世界任务中的表现。

Comments Project Page: https://xy02-05.github.io/SemanticMN

Agent Step Value: Auditing Evaluator-Channel Reversals in Black-Box Agent Traces

智能体步骤值：使用基于状态的语言模型评估器进行状态转换测量

Andrew Zhang, Chengzhan Li

机构 * KTH Royal Institute of Technology（皇家理工学院） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.AI

AI总结 研究提出智能体步骤值（ASV）框架，通过状态转换测量评估智能体动作，能定位最终答案分数等遗漏的关键信息，还介绍了具体方法及工具，并用实验验证其有效性。

Comments adds source-contract intervention and two-wave retry study; re-acquires cube and extends bridge cohort to n=98 to 100

Hallo4D: Multi-Modal Hallucination Mitigation for Consistent Spatio-Temporal Generation

Hallo4D：用于一致时空生成的多模态幻觉缓解

Hongbo Wang, Huaibo Huang, Jie Cao, Jin Liu, Haoyang Tong, Ran He

机构 * Institute of Automation, Chinese Academy of Science（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Shanghaitech University（上海科技大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 研究针对3D和4D内容生成中的时空幻觉问题，提出Hallo4D框架，利用多模态语言模型，通过生成-检测-校正范式及多种技术提升一致性，实验证明其在多样生成设置下优于基线，提供了可扩展通用的一致性感知内容生成方案。

From Observation to Insight: Mechanistic World Models and the Quest for Autonomous Discovery

从观察到洞察：机制世界模型与自主发现探索

Ingmar Posner, Anson Lei, Bernhard Schölkopf

机构 * MPI for Intelligent Systems & ELLIS Institute（马克斯·普朗克智能系统研究所及埃利斯研究所） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.AI

AI总结 本文探讨科学发现问题，提出机制世界模型这一新设计范式，将可重复使用机制置于核心，推导其计算能力、设计原则等，指出虽有不同研究方向捕捉该范式要素但缺统一框架，为推动AI走向自主科学发现提供基础和蓝图。

Attractor Geometry of Transformer Memory: From Conflict Arbitration to Confident Hallucination

Transformer记忆的吸引子几何：从冲突仲裁到自信 hallucination

Qiyao Liang, Risto Miikkulainen, Ila Fiete

机构 * Massachusetts Institute of Technology（麻省理工学院） ； University of Texas Austin（德克萨斯大学奥斯汀分校） ； Cognizant（Cognizant公司） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 研究Transformer记忆中冲突与hallucination的几何机制，揭示吸引子基底在隐藏状态空间中的作用，通过合成任务验证几何边界在区分正确回忆与hallucination中的有效性。

Comments Inadvertent premature posting before full approval of all listed co-authors

Geometry-Aware Uncertainty Coresets for Robust Visual In-Context Learning in Histopathology

面向几何的不确定性聚类用于病理学中鲁棒的视觉上下文学习

Franciskus Xaverius Erick, Johanna Paula Müller, Bernhard Kainz

机构 * FAU Erlangen-Nürnberg, Erlangen, DE（埃尔兰根-纽伦堡大学） ； Department of Computing, Imperial College London, London, UK（伦敦帝国理工学院计算机系） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 本文提出GAUC，一种无需训练的聚类选择方法，直接在预训练的多模态嵌入空间中操作，通过优化三个目标提升视觉上下文学习的鲁棒性、准确性和校准性。

GlaBoost: A Multimodal Structured Framework for Glaucoma Risk Stratification

GlaBoost：用于青光眼风险分层的多模态结构化框架

Cheng Huang, Zeyu Han, Weizheng Xie, Karanjit Kooner, Tsengdar Lee, Jui-Kai Wang, Jia Zhang

机构 * Department of Computer Science, Southern Methodist University（计算机科学系，南方 Methodist 大学） ； Department of Ophthalmology, UT Southwestern Medical Center（眼科学系，UT 南方医学中心） ； High Performance Computing Program, National Aeronautics and Space Administration（高性能计算计划，国家航空航天局） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 研究针对青光眼检测，提出多模态梯度提升框架GlaBoost，统一眼底图像嵌入、文本评估及生物标志物三信号预测风险，融合后用增强XGBoost分类，性能超基线且可解释。

Comments Accepted by IEEE 48th EMBC (2026)

MetaOthello: A Controlled Study of Multiple World Models in Transformers

MetaOthello: Transformer中多个世界模型的控制研究

Aviral Chawla, Galen Hall, Juniper Lovato

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 通过引入共享语法但规则或分词不同的Othello变体套件，训练小型GPT处理混合数据，发现Transformer不划分容量为孤立子模型，而是收敛于跨变体因果转移的共享棋盘状态表示。

Comments Camera-ready version. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

Semantic Generative Tuning for Unified Multimodal Models

语义生成微调用于统一多模态模型

Songsong Yu, Yuxin Chen, Ying Shan, Yanwei Li

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tencent ARCLab（腾讯ARCLab） 纠错

专题命中 知识编辑与模型理解 ：post-training(abstract)；分类 cs.AI

AI总结 本文提出语义生成微调（SGT）方法，通过将高阶语义任务作为生成代理，统一多模态模型的感知与生成能力，提升多模态理解和生成质量。

Comments 14 pages, 13 figures

A Latent Representation Learning Framework for Hyperspectral Image Emulation in Remote Sensing

遥感高光谱图像模拟的潜在表示学习框架

Chedly Ben Azizi, Claire Guilloteau, Gilles Roussel, Matthieu Puigt

机构 * univ-littoral（里弗拉尔大学） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 提出基于潜在表示的高光谱模拟框架，支持光谱级和空间-光谱级模拟，通过变分自编码器与参数映射两步策略，在PROSAIL模拟数据和Sentinel-3 OLCI图像上优于传统回归方法，并保持下游参数反演性能。

Robust Representation Learning in Masked Autoencoders

掩码自编码器中的鲁棒表示学习

Anika Shrivastava, Renu Rameshan, Samar Agnihotri

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 本文通过分析掩码自编码器（MAE）的表示学习机制，发现其预训练和微调后的表示对模糊、遮挡等退化具有鲁棒性，并通过层间分析和敏感性指标揭示了其类感知子空间和全局注意力机制。

Comments To appear in ICPR 2026. 10 pages, 5 figures, and 2 tables

Hierarchical Concept-to-Appearance Guidance for Multi-Subject Image Generation

多主体图像生成的层次化概念到外观引导

Yijia Xu, Zihao Wang, Haokun Gui, Jinshi Cui

机构 * Peking University（北京大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 提出层次化概念到外观引导框架(CAG)，通过VAE dropout训练和对应感知掩码注意力模块，实现多主体图像生成中身份一致性和精确组合控制。

A Deep Generative Model for Resting-State EEG Synthesis and Transferable Representation Learning

一种用于静息态脑电合成与可迁移表示学习的深度生成模型

Yeganeh Farahzadi, Morteza Ansarinia, Zoltan Kekecs

机构 * Institute of Psychology, Eötvös Loránd University（埃斯特哈兹·洛朗大学心理学研究所） ； Doctoral School of Psychology, Eötvös Loránd University（埃斯特哈兹·洛朗大学心理学博士学院） ； Department of Behavioural and Cognitive Sciences, University of Luxembourg（卢森堡大学行为与认知科学系） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.AI

AI总结 提出REST-GAN框架，结合对抗训练与自监督重构，从原始时域信号合成静息态EEG并学习可迁移表示，在频谱、连接性及分类任务中表现优异。

Stable and Steerable Sparse Autoencoders with Weight Regularization

基于权重正则化的稳定且可操控的稀疏自编码器

Piotr Jedryszek, Oliver M. Crook

机构 * Department of Biology, University of Oxford, Oxford, UK（牛津大学生物学系） ； Kavli Institute for Nanoscience Discovery, University of Oxford, Oxford, UK（牛津大学纳科学发现研究所） ； Department of Chemistry, University of Oxford, Oxford, UK（牛津大学化学系） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 通过L1/L2权重正则化提高稀疏自编码器的跨种子特征一致性，并在语言模型上提升操控成功率，同时保持可解释性分数。

Descriptive versus Regulatory Uncertainty in Bounded Predictive Systems

描述性不确定性与监管性不确定性在有界预测系统中的区别

Ahmed Gamal Eldin

机构 * Nova University Lisbon – Cairo Branch (NOVA IMS)（里斯本诺瓦大学-开罗分校区（NOVA IMS）） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 本文研究了有界预测系统中描述性不确定性与监管性不确定性的区别，证明了当前Transformer架构在推理时仅限于描述性不确定性，并通过热力学原理和实验验证了这种区别，发现熵与准确性相互正交，且系统规模不影响熵的平坦性。

Mitigating Object Hallucinations in LVLMs via Attention Imbalance Rectification

通过注意力不平衡修正减轻LVLM中的对象幻觉

Han Sun, Qin Li, Peixin Wang, Min Zhang

机构 * Shanghai Key Laboratory of Trustworthy Computing, East China Normal University（上海可信计算实验室，东华大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 发现多模态和token间注意力不平衡是对象幻觉的因果因素，提出轻量级解码干预方法AIR，通过重新分配注意力权重修正不平衡，在多个基准上减少幻觉达35.1%，并提升通用能力。

Comments CVPR 2026 Findings Track, code is available at https://github.com/Ice-wave/AIR

Ensembling Sparse Autoencoders

集成稀疏自编码器

Soham Gadgil, Chris Lin, Su-In Lee

机构 * Paul G. Allen School of Computer Science \& Engineering, University of Washington 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 针对单个稀疏自编码器只能捕获激活空间中有限特征的问题，提出通过朴素Bagging和Boosting集成多个SAE，理论证明可降低重构误差，实验表明集成方法在重构质量、稳定性和下游任务上优于扩展单个SAE。

Comments Accepted to ICML 2026

ExPLAIND: Unifying Model, Data, and Training Attribution to Study Model Behavior

ExPLAIND：统一模型、数据和训练归因以研究模型行为

Florian Eichin, Yupei Du, Philipp Mondorf, Maria Matveev, Barbara Plank, Michael A. Hedderich

机构 * University of Michigan（密歇根大学） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 提出ExPLAIND框架，统一归因于模型组件、数据和训练轨迹，支持跨粒度解释，通过梯度路径核和AdamW核机器推导参数级和步骤级影响分数，验证了Transformer的Grokking和EuroLLM预训练中的两阶段动态。

Comments published at ICML 2026, code at https://github.com/mainlp/explaind

BrainPro: Towards Large-scale Brain State-aware EEG Representation Learning

BrainPro：迈向大规模脑状态感知的脑电图表征学习

Yi Ding, Muyun Jiang, Weibang Jiang, Shuailei Zhang, Xinliang Zhou, Chenyu Liu, Shanglin Li, Yong Li, Cuntai Guan

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Advanced Telecommunications Research Institute International（先进电信研究院） ； Southeast University（东南大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 提出BrainPro模型，通过检索式空间对齐和脑状态解耦模块，学习共享与特定状态表征，在9个公共BCI数据集上取得最优性能。

Comments 31 pages, 11 figures

NetBurst: Event-Centric Forecasting of Bursty, Intermittent Time Series

NetBurst: 以事件为中心的突发间歇性时间序列预测

Satyandra Guthula, Jaber Daneshamooz, Charles Fleming, Kesheng Wu, Walter Willinger, Arpit Gupta

机构 * University of California, Santa Barbara（加州大学圣巴bara分校） ； Cisco Research（思科研究） ； Lawrence Berkeley National Laboratory（伯克利国家实验室） ； Northwestern University（西北大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 针对网络遥测数据中罕见突发和长间隔低活动的“野性”统计特性，提出NetBurst事件中心管道，通过压缩低活动期、分离突发时序和幅度流学习统一表示，在预测误差、突发分布匹配和异常描述性上显著优于Chronos-2等基线。