语言大模型 / LLM

SoftSAE: Dynamic Top-K Selection for Adaptive Sparse Autoencoders

SoftSAE: 动态Top-K选择用于自适应稀疏自编码器

Jakub Stępień, Marcin Mazur, Jacek Tabor, Przemysław Spurek

机构 * Jagiellonian University（雅盖隆大学） ； IDEAS Research Institute（IDEAS研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SoftSAE通过动态Top-K机制调整稀疏自编码器的激活特征数量，以适应不同输入复杂度，提升表示匹配度和解释长度。

LensVLM: Selective Context Expansion for Compressed Visual Representation of Text

LensVLM：压缩文本视觉表示的选取性上下文扩展

Roy Xie, Dan Friedman, Donghan Yu, Bowen Pan, Christopher Fifty, Jang-Hyun Kim, Xianzhi Du, Zhe Gan, Vivek Rathod, Bhuwan Dhingra

机构 * Apple（苹果公司） ； Duke University（杜克大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；post-training(abstract)；分类 cs.AI

AI总结 LensVLM通过选择性上下文扩展提升压缩视觉表示的准确性，在4.3倍压缩下表现优异，且在多模态任务中表现更佳。

Resolving the bias-precision paradox with stochastic causal representation learning for personalized medicine

用随机因果表示学习解决偏差-精度悖论以实现个性化医疗

Peisong Zhang, Manqiang Peng, Yuxuan Wu, Pawit Phadungsaksawasdi, Wesley Yeung, Ye Zhang, Trang Nguyen, Qiang Zhang, Nan Liu, Meng Wang, Kee Yuan Ngiam, Yih-Chung Tham, Ching-Yu Cheng, Tianfan Fu, Qingyu Chen, Rosemary Ke, Chang Li, Wenzhuo Yang, Zhenghao Lu, Chunyou Lai, Yu Zhang, Sheng Zhong, Hao Deng, Dianbo Liu

机构 * Chengdu OrganoidMed Medical Laboratory（成都OrganoidMed医学实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于sMMD的随机对齐策略，解决因果表示学习中的偏差-精度悖论，提升个性化医疗中分布偏移下的预测准确性，减少误差并提高高风险任务的召回率。

Semia: Auditing Agent Skills via Constraint-Guided Representation Synthesis

Semia：通过约束引导的表示合成审计代理技能

Hongbo Wen, Ying Li, Hanzhi Liu, Chaofan Shou, Yanju Chen, Yuan Tian, Yu Feng

机构 * University of California, Santa Barbara（加州大学圣芭芭拉分校） ； University of California, Los Angeles（加州大学洛杉矶分校） ； University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 Semia通过约束引导的表示合成技术，对代理技能进行静态审计，发现超过一半的技能存在关键语义风险，其召回率和F1值显著优于传统方法。

How LLMs Detect and Correct Their Own Errors: The Role of Internal Confidence Signals

大语言模型如何检测并纠正自身错误：内部置信信号的作用

Dharshan Kumaran, Viorica Patraucean, Simon Osindero, Petar Veličković, Nathaniel Daw

机构 * Google DeepMind（谷歌DeepMind） ； Princeton University（普林斯顿大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究通过第二阶置信模型探讨大语言模型如何通过内部置信信号检测并纠正自身错误，发现PANL信号在误差检测和自我修正中起关键作用。

Task Vectors, Learned Not Extracted: Performance Gains and Mechanistic Insight

任务向量，学习而非提取：性能提升与机理洞察

Haolin Yang, Hakaze Cho, Kaize Ding, Naoya Inoue

机构 * University of Chicago（芝加哥大学） ； JAIST ； Northwestern University（西北大学） ； RIKEN（日本研究机构） ； Tohoku University（东北大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出直接训练学习任务向量（LTVs），在准确性与灵活性上优于传统提取方法，并揭示了任务向量在计算中的机理作用，包括注意力头电路和线性传播特性。

Comments ICLR 2026

Localizing Task Recognition and Task Learning in In-Context Learning via Attention Head Analysis

通过注意力头分析实现上下文学习中的任务识别与任务学习本地化

Haolin Yang, Hakaze Cho, Naoya Inoue

机构 * University of Chicago（芝加哥大学） ； Tohoku University（东北大学） ； RIKEN（日本研究机构） ； JAIST（日本产业技术综合研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文通过分析注意力头，提出任务子空间logit归因框架，揭示大语言模型在上下文学习中任务识别与任务学习的独立作用机制。

Comments ICLR 2026

CRISP: Persistent Concept Unlearning via Sparse Autoencoders

CRISP：通过稀疏自编码器实现持久性概念卸载

Tomer Ashuach, Dana Arad, Aaron Mueller, Martin Tutek, Yonatan Belinkov

机构 * Technion – Israel Institute of Technology（技术ion-以色列理工学院） ； Boston University（波士顿大学） ； University of Zagreb, FER（Zagreb大学，FER） ； Kempner Institute, Harvard University（哈佛大学 Kempner研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 CRISP利用稀疏自编码器实现持久性概念卸载，通过自动识别多层显著SAE特征并抑制其激活，优于现有方法，在WMDP基准的安全关键卸载任务中有效移除有害知识并保持通用能力。

Comments Accepted to ACL 2026

Explaining Sources of Uncertainty in Automated Fact-Checking

解释自动事实核查中不确定性的来源

Jingyi Sun, Greta Warren, Irina Shklovski, Isabelle Augenstein

机构 * University of Copenhagen（哥本哈根大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)；分类 cs.CL

AI总结 本文提出CLUE框架，通过无监督方法识别文本跨度间的冲突与一致关系，生成更符合模型不确定性的自然语言解释，提升事实核查准确性。

In-depth Analysis of Graph-based RAG in a Unified Framework

基于统一框架的图基RAG深入分析

Yingli Zhou, Yaodong Su, Youran Sun, Shu Wang, Taotao Wang, Runyuan He, Yongwei Zhang, Sicong Liang, Xilin Liu, Yuchi Ma, Yixiang Fang

机构 * The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）） ； Huawei Cloud Computing Technologies Co., Ltd.（华为云计算技术有限公司） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文基于统一框架对图基RAG方法进行深入分析，比较了多种QA数据集上的代表性方法，揭示了其有效性，并提出了新的变体，为未来研究提供新思路。

GSAR: Typed Grounding for Hallucination Detection and Recovery in Multi-Agent LLMs

GSAR：多智能体大语言模型中基于类型的 grounding 检测与恢复

Federico A. Kamelhar

机构 * Agentic AI Oracle Corporation（Agentic AI Oracle公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 GSAR 提出了一种 grounding 评估与规划框架，通过四类分类、证据权重分配、矛盾惩罚评分和三层决策函数，实现多智能体大语言模型中的 hallucination 检测与恢复。

MindTrellis: Co-Creating Knowledge Structures with AI through Interactive Visual Exploration

MindTrellis：通过交互式视觉探索共同创建知识结构

Xiang Li, Cara Li, Emily Kuang, Can Liu, Jian Zhao

机构 * University of Waterloo（多伦多大学） ； York University（约克大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出MindTrellis系统，通过人机协作动态构建知识图谱，提升多文档信息整合效率，降低认知负荷。

Comments 21 pages, 7 figures, ACM Designing Interactive Systems. DIS 2026

LoFi: Location-Aware Fine-Grained Representation Learning for Chest X-ray

LoFi：面向胸部X光的基于位置的细粒度表示学习

Myeongkyun Kang, Yanting Yang, Xiaoxiao Li

机构 * The University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出LoFi，通过联合优化sigmoid、标注和位置感知标注损失，提升胸部X光的检索和短语接地性能，实验表明在MIMIC-CXR和PadChest-GR数据集上表现优异。

Ethics Testing: Proactive Identification of Generative AI System Harms

伦理测试：主动识别生成式AI系统危害

Shin Hwei Tan, Haibo Wang, Heng Li

机构 * Concordia University（康科迪亚大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出伦理测试概念，旨在系统识别生成式AI系统生成内容中的软件危害，通过五项案例研究展示其实施方法。

AFMRL: Attribute-Enhanced Fine-Grained Multi-Modal Representation Learning in E-commerce

AFMRL: 基于属性增强的电商细粒度多模态表示学习

Biao Zhang, Lixin Chen, Bin Zhang, Zongwei Wang, Tong Liu, Bo Zheng

机构 * Taobao & Tmall Group of Alibaba（阿里巴巴淘宝与天猫集团） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出AFMRL，通过属性生成任务提升电商细粒度多模态表示学习，结合属性引导对比学习和检索感知属性强化，实现更精准的相似商品检索。

Comments Accepted by ACL 2026

Towards Scalable Lifelong Knowledge Editing with Selective Knowledge Suppression

迈向可扩展的终身知识编辑与选择性知识抑制

Dahyun Jung, Jaewook Lee, Heuiseok Lim

机构 * Department of Computer Science and Engineering, Korea University（韩国大学计算机科学与工程系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出LightEdit方法，通过选择性知识抑制实现高效终身知识编辑，实验表明其在多个基准测试中表现优异，且降低了训练成本，提升了可扩展性。

Rethinking Uncertainty Estimation in LLMs: A Principled Single-Sequence Measure

重新思考大语言模型中的不确定性估计：一种原理性的单序列度量

Lukas Aichberger, Kajetan Schweighofer, Sepp Hochreiter

机构 * ELLIS Unit Linz and LIT AI Lab（林茨ELLIS单元和LIT AI实验室） ； Institute for Machine Learning, Johannes Kepler University Linz（机器学习研究所，林茨约瑟夫·克里格大学） ； NXAI GmbH（NXAI公司） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出基于proper scoring rules框架的G-NLL方法，通过单序列贪心解码实现高效可靠的不确定性估计，挑战传统多序列方法的必要性。

Comments ICLR 2026

Generative AI Technologies, Techniques & Tensions: A Primer

生成AI技术、技术与张力：入门指南

John T. Behrens

机构 * University of Notre Dame（诺特大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨生成AI系统在学术、专业和日常生活中的广泛应用，分析其构建、行为与用户期望之间的矛盾，提出从数据和统计基础出发，结合教育和行为研究方法，为AI系统的研究和应用提供理论框架。

Comments In press chapter for M.Mayrath, J. Behrens, & D. Robinson (Eds.), The Handbook of Generative AI in Education. Springer. Expected publication date approximately August 2026

Surgical Repair of Insecure Code Generation in LLMs

对LLMs中不安全代码生成的外科修复

Gustavo Sandoval, Brendan Dolan-Gavitt, Siddharth Garg

机构 * Tandon School of Engineering（坦顿工程学院） ； New York University（纽约大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究揭示LLMs生成不安全代码并非知识缺失，而是格式可靠性缺口问题，通过机制分析发现安全表示在最终层被格式合规需求压制，采用针对性修正向量可将不安全生成降低74%。

From Handwriting to Structured Data: Benchmarking AI Digitisation of Handwritten Forms

从手写到结构化数据：基准测试AI手写文档数字化

Nicholas Pather, Joshua Fouché, Sitwala Mundia, Karl-Günter Technau, Thokozile Malaba, Alex Welte, Ushma Mehta, Bruce A. Bassett

机构 * CSAM, University of the Witwatersrand（沃特沙尔德大学计算机科学与数学系） ； Grai Labs（Grai实验室） ； Faculty of Health Sciences, University of the Witwatersrand（沃特沙尔德大学健康科学学院） ； Empilweni Services and Research Unit, Department of Paediatrics and Child Health, University of the Witwatersrand（沃特沙尔德大学儿科与儿童健康部门Empilweni服务与研究单位） ； Division of Epidemiology and Biostatistics, School of Public Health, Faculty of Health Sciences, University of Cape Town（开普敦大学公共卫生学院流行病学与生物统计学系） ； Discipline of Public Health, School of Medicine, University of KwaZulu-Natal（夸祖鲁-纳塔尔大学医学院公共卫生系） ； WITS MIND Institute and CSAM, University of the Witwatersrand, University of Cape Town & Grai Labs（沃特沙尔德大学WITS MIND研究所和CSAM、开普敦大学及Grai实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文评估了17种前沿多模态大语言模型在处理复杂手写表格任务中的表现，发现最新版Google和OpenAI模型在准确率和F1分数上达到85%和90%，并展示了提示优化对性能的显著提升。

Comments 19 Pages, 5 Figures

Segment-Level Coherence for Robust Harmful Intent Probing in LLMs

分段级一致性用于LLMs中鲁棒有害意图探测

Xuanli He, Bilgehan Sel, Faizan Ali, Jenny Bao, Hoagy Cunningham, Jerry Wei

机构 * University College London（伦敦大学学院） ； Virginia Tech（弗吉尼亚理工大学） ； Anthropic 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出分段级一致性方法，通过多证据token增强检测鲁棒性，在固定误报率下提升真阳性率35.55%，并在对抗性微调下仍能有效检测有害意图。

Comments preprint

Gating Enables Curvature: A Geometric Expressivity Gap in Attention

门控使曲率：注意力中的几何表达性差距

Satwik Bathula, Anand A. Joshi

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； University of Southern California（南加州大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究揭示门控注意力机制在几何表达性上的优势，通过分析高斯分布均值参数的几何结构，发现门控能产生非平坦流形，提升模型表现，尤其在非线性决策边界任务中表现更佳。

Comments 41 pages, 9 figures

Seeing Through Circuits: Faithful Mechanistic Interpretability for Vision Transformers

通过电路看见：面向视觉变换器的忠实机制可解释性

Nina Żukowska, Wolfgang Stammer, Bernt Schiele, Jonas Fischer

机构 * Max Planck Institute for Informatics（马克斯·普朗克信息研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了通过计算图在视觉变换器中识别有用机制电路的可能性，提出自动视觉电路发现方法，发现分类特定电路、CLIP中的文字攻击电路以及可引导纠正有害行为的电路。

Calibrate-Then-Delegate: Safety Monitoring with Risk and Budget Guarantees via Model Cascades

校准后再委托：通过模型级联实现具有风险和预算保证的安全监控

Edoardo Pona, Milad Kazemi, Mehran Hosseini, Yali Du, David Watson, Osvaldo Simeone, Nicola Paoletti

机构 * King’s College London（伦敦国王学院） ； University of Manchester（曼彻斯特大学） ； Northeastern University London（伦敦东北大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 本文提出Calibrate-Then-Delegate方法，通过模型级联在保证计算成本的同时实现实例级决策，有效提升安全监控的准确性和效率。

Distorted or Fabricated? A Survey on Hallucination in Video LLMs

扭曲或伪造？视频大语言模型中幻觉的调查

Yiyang Huang, Yitian Zhang, Yizhou Wang, Mingyuan Zhang, Liang Shi, Huimin Zeng, Yun Fu

机构 * Department of Electrical and Computer Engineering, Northeastern University（东北大学电气与计算机工程系） ； Khoury College of Computer Science, Northeastern University（东北大学科赫里计算机科学学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文调查视频大语言模型中的幻觉问题，提出动态扭曲和内容伪造两大类，分析其成因并提出改进方向，如开发运动感知视觉编码器和整合反事实学习技术。

Comments ACL 2026 findings

GRADE: Probing Knowledge Gaps in LLMs through Gradient Subspace Dynamics

GRADE: 通过梯度子空间动态探测语言模型中的知识差距

Yujing Wang, Yuanbang Liang, Yukun Lai, Hainan Zhang, Hanqi Yan

机构 * Beihang University（北航） ； Cardiff University（卡迪夫大学） ； King’s College London（伦敦国王学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 GRADE通过梯度子空间动态探测语言模型中的知识差距，量化知识缺口并验证其在多个基准上的有效性及抗扰性。

TimeMark: A Trustworthy Time Watermarking Framework for Exact Generation-Time Recovery from AIGC

TimeMark: 一种用于从AIGC中精确生成时间恢复的可信时间水印框架

Shangkun Che, Silin Du, Ge Gao

机构 * Economics and Management School, Wuhan University（武汉大学经济管理学院） ； School of Economics and Management, Tsinghua University（清华大学经济管理学院） ； School of Business Administration, Southwestern University of Finance and Economics（西南财经大学商学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出TimeMark框架，通过加密技术和监管监督下的时间依赖秘密密钥，实现100%准确的生成时间恢复，防止任意时间戳伪造，解决现有水印技术的可靠性问题。

AGSC: Adaptive Granularity and Semantic Clustering for Uncertainty Quantification in Long-text Generation

AGSC：适应粒度和语义聚类用于长文本生成中的不确定性量化

Guanran Luo, Wentao Qiu, Wanru Zhao, Wenhan Lv, Zhongquan Jian, Meihong Wang, Qingqiang Wu

机构 * School of Informatics, Xiamen University（厦门大学信息学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 AGSC通过适应粒度和基于GMM的语义聚类方法，解决长文本生成中不确定性量化的问题，提升事实性并减少计算成本。

Comments Accepted to the Main Conference of ACL 2026

Enhancing Text-to-Image Diffusion Transformer via Split-Text Conditioning

通过分段文本条件化增强文本到图像扩散变换器

Yu Zhang, Jialei Zhou, Xinchen Li, Qi Zhang, Zhongwei Wan, Tianyu Wang, Duoqian Miao, Changwei Wang, Longbing Cao

机构 * Tongji University（同济大学） ； The Ohio State University（俄亥俄州立大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Shandong Academy of Sciences（山东省科学院） ； Macquarie University（麦考瑞大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出DiT-ST框架，通过分段文本条件化提升扩散变换器对完整文本描述的理解能力，通过分层递进的方式注入不同语义基本类型，增强特定语义基本类型的表示学习。

Comments NeurIPS 2025

Psychological Concept Neurons: Can Neural Control Bias Probing and Shift Generation in LLMs?

心理概念神经元：神经控制偏差探测与移位生成在大语言模型中的可能性？

Yuto Harada, Hiro Taiyo Hamada

机构 * Araya Inc.（Araya公司） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究通过分析大五人格特质的内部表示，探讨其在大语言模型中的定位与行为输出的关系，发现通过干预特定神经元可影响模型的潜在表示和标签生成，但效果受限于概念依赖性和跨特质溢出。