语言大模型 / LLM

ErrorLLM: Modeling SQL Errors for Text-to-SQL Refinement

ErrorLLM: 为文本到SQL精炼建模SQL错误

Zijin Hong, Hao Chen, Zheng Yuan, Qinggang Zhang, Luyao Zhuang, Qing Liao, Feiran Huang, Yangqiu Song, Xiao Huang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； City University of Macau（澳门城市大学） ； Jilin University（吉林大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Beihang University（北航大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出ErrorLLM框架，通过专用错误令牌和结构特征显式建模SQL错误，结合静态检测与错误引导精炼，显著提升文本到SQL生成质量。

Comments Accepted to SIGKDD2026

Escaping Mode Collapse in LLM Generation via Geometric Regulation

通过几何调控逃离大语言模型生成中的模式崩溃

Xin Du, Kumiko Tanaka-Ishii

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） ； Department of Communications and Computer Engineering, Waseda University, Tokyo, Japan（通信与计算机工程系，早稻田大学，东京，日本） ； Department of Computer Science and Engineering, Waseda University, Tokyo, Japan（计算机科学与工程系，早稻田大学，东京，日本） ； Shanghai Research Institute for Intelligent Autonomous Systems, Tongji University, Shanghai, China（智能自主系统上海研究院，同济大学，上海，中国） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文从动力系统视角将模式崩溃解释为几何崩溃，并提出轻量级在线状态空间干预方法RMR（通过低秩阻尼调控Transformer值缓存中的自强化方向），显著降低模式崩溃并实现极低熵率下的稳定生成。

Comments Accepted to ICML 2026

Directional Hallucinations: Ideological Drift in News-Grounded LLM Question Answering

定向幻觉：基于新闻的语言模型问答中的意识形态漂移

Chendi Wang, Liam Cunningham, Tom Yishay, Jieying Chen

机构 * Vrije Universiteit Amsterdam（阿姆斯特丹自由大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究基于新闻的语言模型问答中的意识形态漂移，提出可重复测量框架，利用大量新闻文章对多个模型进行实验，发现幻觉率因模型和话题而异，幻觉内容有向左漂移现象，并探讨了相关意义。

Density Ridge Selective Prediction for LLM and VLM Hallucination Detection under Calibration Label Scarcity

密度脊选择性预测：校准标签稀缺下的大语言模型与视觉语言模型幻觉检测

Nina I. Shamsi

机构 * Northeastern University Boston, United States（东北大学波士顿分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对校准标签稀缺时大语言模型和视觉语言模型的幻觉检测问题，提出基于核密度估计的密度脊方法，利用隐藏状态生成轨迹的六维运动特征图构建响应流形，通过到最近脊顶点的欧氏距离评分，在标签稀缺协议下AUROC提升5-20点。

LDI: Localized Data Imputation for Text-Rich Tables

LDI：面向文本丰富表的局部数据填补

Soroush Omidvartehrani, Davood Rafiei

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出LDI框架，通过局部推理利用LLM填补文本丰富表中的缺失值，提升准确性和可解释性，实验证明其优于现有方法。

CLT-Forge: A Scalable Library for Cross-Layer Transcoders and Attribution Graphs

CLT-Forge：一种可扩展的跨层转码器和归因图库

Florent Draye, Vedant Palit, Abir Harrasse, Tung-Yu Wu, Jiarui Liu, Punya Syon Pandey, Roderick Wu, Chih-Hao Hsu, Terry Jingchen Zhang, Zhijing Jin, Bernhard Schölkopf

机构 * Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； Jinesis AI Lab（Jinesis人工智能实验室） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； CMU（卡内基梅隆大学） ； EuroSafeAI ； ELLIS Institute Tübingen（图宾根ELLIS研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出CLT-Forge库，通过分布式训练、模型分片和压缩激活缓存提升跨层转码器的可扩展性，提供统一的可解释性流程和可视化接口，解决归因图的冗余问题。

Comments 9 pages, 7 figures, 1 table. Code: https://github.com/LLM-Interp/CLT-Forge. Demonstration video: https://youtu.be/6ptrrLawTl8

Beyond Semantic Equivalence: Logical Graphs for LLM Uncertainty Quantification

超越语义等价：用于大语言模型不确定性量化的逻辑图

Yanni Dong, Minghua Liu, Meilin Zhu, Xiaowei Huang, Lijun Zhang

机构 * Institute of Intelligent Software（智能软件研究所） ； Institute of Software, CAS（中国科学院软件研究所） ； University of Liverpool（利物浦大学） ； Guangzhou Jiayi Software Technology Co., Ltd.（广州嘉意软件科技有限公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型输出不可靠问题，提出逻辑图不确定性（LGU）框架，该框架能明确建模答案间逻辑关系，通过聚合概率质量、计算熵等方式改进不确定性估计，在多个问答基准测试中优于现有方法。

Comments 21 pages, 3 figures, 11 tables. Under review

Maximizing Local Entropy Where It Matters: Prefix-Aware Localized LLM Unlearning

最大化关键区域的局部熵：基于前缀的局部化大语言模型去敏感化

Naixin Zhai, Pengyang Shao, Binbin Zheng, Yonghui Yang, Fei Shen, Long Bai, Xun Yang

机构 * University of Science and Technology of China（中国科学技术大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出PALU框架，通过局部熵最大化减少冗余优化，提升大语言模型的去敏感化效果与通用性能。

Comments Accepted to ACL 2026 main

From Reward-Hack Activations to Agentic Risk States: Context-Calibrated Mechanistic Monitoring in LLM Agents

从奖励黑客激活到智能体风险状态：LLM智能体中的上下文校准机制监控

Patrick Wilhelm, Odej Kao

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本研究通过分析ReAct风格智能体在Gameable ALFWorld和WebShop环境中的奖励黑客行为，提出结合激活状态、熵和决策上下文的上下文校准监控方法，以更准确评估智能体风险。

Superposition Without Interference? Towards Isolated Interventions via Almost Orthogonal Features in Language Models

通过语言模型中几乎正交的特征实现孤立干预

Moritz Miller, Florent Draye, Bernhard Schölkopf

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究基于机械可解释性前提，针对语言模型特征纠缠问题，受“独立因果机制”启发，提出将内部特征约束为几乎正交，通过形式化问题、界定干扰传播并关联正则化，实现对数学推理概念更孤立的干预且保留模型性能。

Comments Published as a conference paper at the Conference on Language Modeling (COLM) 2026

Empty Shelves or Lost Keys? Recall Is the Bottleneck for Parametric Factuality

空货架还是丢钥匙？回忆是参数化事实性的瓶颈

Nitay Calderon, Eyal Ben-David, Zorik Gekhman, Eran Ofek, Gal Yona

机构 * Google Research（Google研究） ； Technion – Israel Institute of Technology（以色列技术学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 提出行为框架区分LLM事实错误源于知识缺失或访问失败，通过WikiProfile基准测试发现前沿模型编码饱和但回忆是主要瓶颈，思考可恢复大量失败。

Unleashing the Potential of Vision-Language Models for Generalizable AI-Generated Image Detection

释放视觉-语言模型在通用人工智能生成图像检测中的潜力

Weihan Cai, Hao Tan, Zichang Tan, Jun Wan, Xinping Gao

专题命中 知识编辑与模型理解 ：language model(title,abstract)；foundation model(abstract)

AI总结 该研究针对AI生成图像检测，发现视觉-语言模型PE比DINOv3更具潜力，提出语义原型校准（SPC）方法得到PE-SPC，在多基准测试中达到新的最先进性能。

MissingBench-Verified: Probing Vision-Language Models' Inability to Detect Missing Object Parts

MissingBench-Verified：探究视觉语言模型检测缺失物体部分的无能

Wenqi Marshall Guo, Qingyun Qian, Shiyu Zhou, Guoping Luo, Shan Du

机构 * University of British Columbia（英属哥伦比亚大学） ； Weathon Software（威盛软件） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；prompting(abstract)

AI总结 研究视觉语言模型检测缺失物体部分的能力，提出MissingBench-Verified基准，发现十个领先模型在此场景存在高失败率，现有缓解策略效果不佳，揭示当前VLM在检查监测任务中的根本局限，强调架构或训练干预的必要。

Comments Submitted to the ECCV 2026 Workshop on Explainable Computer Vision (eXCV). 11 pages, 4 figures

The Confidence Manifold: Geometric Structure of Correctness Representations in Language Models

自信流形：语言模型中正确性表示的几何结构

Seonglae Cho, Zekun Wu, Kleyton Da Costa, Adriano Koshiyama

机构 * University College London（伦敦大学学院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究揭示语言模型正确性表示的几何结构，发现低维子空间中的质心距离与探测器性能一致，表明检测是几何而非学习过程。

Reliability Scales Inversely: Hallucinations Snowball Faster in Bigger Language Models

可靠性呈反比：更大的模型通过隐藏的自回归风险机制更快地加剧错误

Kushal Chakrabarti

机构 * Obviously Wrong, LLC（明显错误有限责任公司） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现随着语言模型规模扩大，答案虽更接近真实但退化更快。通过逐位置分歧追踪自回归风险残余，揭示了知识差距下降、知识退化增长等四个发现，指出更大模型会通过特定风险机制更快加剧错误，该机制因果且模型自身难以察觉。

Induction in Both Directions: A Mechanistic Analysis of In-Context Learning in Masked Diffusion Language Models

双向归纳：掩码扩散语言模型中上下文学习的机制分析

Andy Catruna, Emilian Radoi

机构 * National University of Science and Technology POLITEHNICA Bucharest（布加勒斯特理工大学国家科技大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究扩散语言模型（DLM）中归纳机制，对比仅注意力AR模型和吸收掩码DLM。发现DLM学习双向归纳电路，方向对称，掩码两侧可见时归纳更强，还证明其能计算掩码令牌比例作隐式时间步长。

MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations

MMD-Flagger：利用最大均值差异检测幻觉

Kensuke Mitsuzawa, Damien Garreau

机构 * Université Côte d’Azur, CNRS, LJAD, France（法国埃克塞特大学、法国国家科学研究中心、LJAD研究所） ； Center for Artificial Intelligence and Data Science (CAIDAS)（人工智能与数据科学中心） ； Julius-Maximilans-Universität Würzburg, Germany（德国维尔茨堡约利乌斯-马克斯米利安大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对智能体AI系统中大型语言模型的幻觉问题，提出基于最大均值差异（MMD）的MMD-Flagger方法，通过监控不同解码温度下的输出轨迹检测幻觉，在MUCH基准上用Llama-3、Gemma-3模型完成评估。

Designing Agentic AI-Based Screening for Portfolio Investment

基于代理AI的资产组合投资筛选设计

Mehmet Caner, Agostino Capponi, Nathan Sun, Jonathan Y. Tan

机构 * North Carolina State University, Nelson Hall, Department of Economics（北卡罗来纳州立大学，Nelson Hall，经济学系） ； Columbia University. Department of Industrial Engineering and Operations Research and Columbia Business School（哥伦比亚大学，工业工程与运筹学系及哥伦比亚商学院） ； Columbia University. Department of Industrial Engineering and Operations Research（哥伦比亚大学，工业工程与运筹学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于代理AI的资产组合投资筛选框架，通过两个专用代理筛选优质公司并生成买卖信号，结合高维精度矩阵估计确定最优权重，实验证明其在S&P 500数据上优于传统方法。

Emotion2Skill: Model-Internal Emotion Signals for Adaptive Skill Selection and Evolution

Emotion2Skill：用于自适应技能选择与演化的模型内部情绪信号

Bohan Lin, Hejia Geng, Xinyi Xie, Heng Zhou, Qinghua Xing, Bo Liu, Chen Zhang, Yudong Zhang

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 Emotion2Skill框架提取LLM内部情绪向量，将其融入技能选择与演化，在WebShop、ALFWorld上用Qwen3模型实现显著性能提升，验证了情绪表征作为智能体决策信号的有效性。

TrAC: Trace-Conditioned Answer Consistency for Efficient Uncertainty Quantification in LLMs

TrAC：用于大语言模型高效不确定性量化的轨迹条件答案一致性

Dahai Yu, Lin Jiang, Rongchao Xu, Guang Wang

机构 * Florida State University（佛罗里达州立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对大语言模型推理轨迹与答案不一致的问题，提出TrAC框架，结合主动与被动信号实现高效不确定性量化，在数学推理基准上提升了AUROC并降低了AURC。

Symbolic Attack Chain Generation from Atomic Red Team Techniques: An Empirical Study of Predicate Representation Granularity

基于Atomic Red Team技术的符号化攻击链生成：谓词表示粒度的实证研究

Ramya Varunsegar

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究对比九类与五类谓词粒度的AALM，发现粒度对攻击链有效性影响小，81.3%结果一致，高粒度仅提升规划论证的内部结构分辨率。

Rethinking Prospect Theory for LLMs: Revealing the Instability of Decision-Making under Epistemic Uncertainty

重新思考用于大语言模型的前景理论：在认知不确定性下决策的不稳定性

Rui Wang, Qihan Lin, Jiayu Liu, Qing Zong, Tianshi Zheng, Dadi Guo, Haochen Shi, Peixuan Han, Weiqi Wang, Yangqiu Song

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Huazhong University of Science and Technology（华中科技大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文重新审视前景理论在大语言模型中的应用，发现其在认知不确定性下的决策稳定性存在问题，指出前景理论可能无法可靠地处理此类不确定性。

Source or It Didn't Happen: A Multi-Agent Framework for Citation Hallucination Detection

来源或未发生：一种用于引用伪造检测的多智能体框架

Mingzhe Li, Zhiqiang Lin, Shiqing Ma

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； The Ohio State University（俄亥俄州立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出CiteTracer多智能体框架，通过12种分类体系检测引用伪造，利用PDF和BibTeX提取结构化引用，结合缓存查找、URL获取等方法验证，实现97.1%的准确率。

The Anatomy of Uncertainty in LLMs

大语言模型中不确定性的解剖结构

Aditya Taparia, Ransalu Senanayake, Kowshik Thopalli, Vivek Narayanaswamy

机构 * School of Computing and Augmented Intelligence, Arizona State University（亚利桑那州立大学计算与增强智能学院） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种将大语言模型不确定性分解为输入模糊性、知识缺口和解码随机性的框架，通过实验展示不同模型规模和任务中各组件的重要性，以提升模型可靠性与可信度。

Comments Accepted at the ICBINB Workshop, ICLR 2026

HERMAN: Hierarchical Representation Matching for CLIP-based Class-Incremental Learning

HERMAN: 基于CLIP的类增量学习中的层次表示匹配

Zhen-Hao Xie, Yan Wang, Lan Li, Han-Jia Ye, De-Chuan Zhan, Da-Wei Zhou

机构 * School of Artificial Intelligence and the State Key Laboratory for Novel Software Technology, Nanjing University（人工智能学院和新型软件技术国家重点实验室，南京大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；language model(abstract)；分类 cs.AI

AI总结 提出HERMAN方法，利用LLM递归生成判别性文本描述，匹配不同语义层次并自适应路由，解决CLIP在类增量学习中的灾难性遗忘问题，在多个基准上取得最优性能。

HalluJudge: A Reference-Free Hallucination Detection for Context Misalignment in Code Review Automation

HalluJudge: 代码审查自动化中上下文错位的无参考幻觉检测

Kla Tantithamthavorn, Hong Yi Lin, Patanamon Thongtanunam, Wachiraphan Charoenwet, Minwoo Jeong, Ming Wu

机构 * Monash University Australia（墨尔本大学澳大利亚） ； The University of Melbourne Australia（墨尔本大学澳大利亚） ； Atlassian USA（Atlassian美国） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出无参考幻觉检测方法HalluJudge，通过上下文对齐评估生成评论的根基性，采用多分支推理策略，在F1=0.85且成本$0.009下与开发者偏好67%一致。

Comments Accepted at FSE'26: Industry Track, Full-Length, Peer-Reviewed

inversedMixup: Data Augmentation via Inverting Mixed Embeddings

inversedMixup：通过反转混合嵌入进行数据增强

Fanshuang Kong, Richong Zhang, Qiyu Sun, Zhijie Nie, Ting Deng, Chunming Hu

机构 * Beihang University（北京航空航天大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 提出 inversedMixup 框架，结合 Mixup 的可控性与 LLM 的可解释性，通过对齐嵌入空间将混合嵌入重构为可读句子，首次实证文本 Mixup 中的流形入侵现象，并扩展为三阶段数据增强方法，在少样本和全监督场景下有效。

Where Knowledge Collides: A Mechanistic Study of Intra-Memory Knowledge Conflict in Language Models

知识碰撞之处：语言模型中内存知识冲突的机理研究

Minh Vu Pham, Hsuvas Borkakoty, Yufang Hou

机构 * IT:U Austria（因特大学奥地利分校） ； IBM Research（IBM研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过机理可解释性方法揭示语言模型中预训练数据冲突知识的编码位置，探讨冲突知识在模型内部的存储机制及干预方法。

Subliminal Clocks: Latent Time Modelling in Diffusion Language Models

潜意识时钟：扩散语言模型中的潜在时间建模

Maximo Eduardo Rulli, Thomas Vaitses Fontanari, Simone Petruzzi, Federico Alvetreti, Giorgio Strano, Donato Crisostomi, Giorgos Nikolaou, Tommaso Mencattini, Andrea Santilli, Emanuele Rodolà, Simone Scardapane, Alessio Devoto

机构 * Sapienza University of Rome（罗马大学） ； EPFL（洛桑联邦理工学院） ； Independent researcher（独立研究者） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文发现扩散语言模型在残差流中编码了与扩散时间步相关的潜在表示，可通过探针提取，并通过沿推断时间步的低维子空间引导来调节去噪进度，影响模型置信度和熵。

Comments Equal contribution: Thomas Vaitses Fontanari and Simone Petruzzi

Exploration and Online Transfer with Behavioral Foundation Models

基于行为基础模型的探索与在线迁移

Louis Bagot, Mathieu Lefort, Laëtitia Matignon

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对零样本强化学习中在线迁移的探索问题，提出利用行为基础模型生成探索策略，将在线学习建模为类似多臂赌博机的探索-利用问题，并通过不确定性矩阵特征值最小化实现探索。

Comments Retirer la mention ''European Workshop on Reinforcement Learning'' (qui correspond {à} la template de la version {é}tendue, mais le papier n'y est pas encore accept{é})

Journal ref Conf{é}rence sur l'Apprentissage automatique, Universit{é} de Montpellier, Jul 2026, Montpellier, France