语言大模型 / LLM

Test Case Selection for Deep Neural Networks: A Replication Study on LLMs for Code

深度神经网络的测试用例选择：面向代码的大语言模型的复现研究

Ali Asgari, Mitchell Olsthoorn, Annibale Panichella

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)

AI总结 本文对深度神经网络测试用例选择技术在代码大语言模型上的有效性进行了大规模复现研究，发现基于不确定性的特征对早期故障发现有效，而基于表示的特征对准确率估计更鲁棒，且性能因任务和模型而异。

Comments Accepted at ISSTA 2026, the 35th ACM SIGSOFT International Symposium on Software Testing and Analysis

Jolia: Concept-Level Vision-Language Alignment for 3D CT Contrastive Learning

Jolia: 用于3D CT对比学习的概念级视觉-语言对齐

Julien Khlaut, Charles Corbière, Baptiste Callard, Amaury Prat, Leo Butsanets, Antoine Saporta, Théo Danielou, Leo Machado, Korentin Le Floch, Tom Boeken, Pierre Manceron, Corentin Dancette

机构 * Raidium ； Department of Vascular and Oncological Interventional Radiology, Hôpital Européen Georges Pompidou, AP-HP（欧洲乔治·蓬皮杜医院血管与肿瘤介入放射科，AP-HP） ； Faculté de Santé, Université Paris-Cité（巴黎西岱大学健康学院） ； HEKA, INRIA（HEKA，法国国家信息与自动化研究所） ； Imaging Department, Fondation Ophtalmologique Adolphe de Rothschild（阿道夫·罗斯柴尔德眼科基金会影像科） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；pretraining(abstract)

AI总结 提出ConQuer方法，通过概念查询将报告拆分为特定概念部分，学习交叉注意力查询以匹配图像特征，实现概念级对齐，在胸部与腹部CT上训练的Jolia模型在多项任务中超越CLIP基线。

ActiveScope: Actively Seeking and Correcting Perception for MLLMs

ActiveScope: 主动寻求和纠正MLLMs的感知

Yajing Wang, Chao Bi, Junshu Sun, Shufan Shen, Zhaobo Qi, Shuhui Wang, Qingming Huang

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； State Key Lab of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences, Beijing, China（中国科学院人工智能安全国家重点实验室，计算技术研究所，北京，中国） ； Harbin Institute of Technology (Weihai)（哈尔滨工业大学（威海）） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 提出ActiveScope框架，通过语义锚点定位和干扰抑制细化模块，解决MLLMs在高分辨率图像中的细粒度感知问题，在V* Bench上达到96.34%准确率。

Comments ICML 2026

Who Wins the Conflict? Mechanistic Interpretability of Text Bias in Audio LLMs

谁赢得冲突？音频大模型中文本偏差的机制可解释性

Hyebin Cho, Suho Yoo, Jaehyuk Jang, Changick Kim, Joon Son Chung

机构 * School of Electrical Engineering, KAIST（韩国科学技术院电子工程学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 本文通过机制分析揭示音频大模型中的文本主导偏差，发现文本路径主动抑制完整音频表征，并提出无训练干预方法back-patching以增强音频表征，缓解文本主导。

Comments Preprint

S$^2$COPE: Self-Supervised Concept Discovery via Preference Learning

S$^2$COPE: 通过偏好学习进行自监督概念发现

Shilong Xiang, Zirui Zhang, Chengzhi Mao

机构 * Rutgers University（罗格斯大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；preference optimization(abstract)

AI总结 提出S$^2$COPE框架，利用视觉大语言模型在自监督偏好优化循环中自主发现结构化概念，无需任何标签，在多个领域提升下游分类准确率。

Vision-Language Asymmetry in Bistable Image Captioning

双稳态图像描述中的视觉-语言不对称性

Arohan Agate

机构 * Arohan Agate 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)

AI总结 通过83个双稳态刺激的行为基线和稀疏自编码器分析，发现视觉塔中同时激活两种解释，但因果干预仅能翻转默认主导刺激的描述，揭示视觉表征与语言承诺之间的不对称性。

Comments Accepted at ICML 2026 Workshop on Philosophy of Machine Learning

Lost in Migration: Exposing Android Framework Vulnerabilities in Parallel Java-Kotlin Implementations

迷失在迁移中：揭示Android框架中Java-Kotlin并行实现的安全漏洞

Rui Li, Wenrui Diao, Debin Gao

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 本文首次系统研究Android框架中Java-Kotlin并行实现的语义差异，设计ParaDroid分析框架识别并比较并行方法，发现37个可利用漏洞，其中3个已确认并分配CVE。

Comments 14 pages

Does the Heart Show Your Pain? Tackling the X-ITE Pain Challenge with Self-Supervised ECG Representation Learning

心脏能反映你的疼痛吗？用自监督心电表示学习应对X-ITE疼痛挑战赛

Dominika Kunc, Przemysław Kazienko, Stanisław Saganowski

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本研究针对X-ITE疼痛挑战赛，结合自监督心电表示学习与多模态预训练，分析疼痛识别中的心电信号特性，为可穿戴疼痛监测提供了基础。

Comments 5 pages, 3 Figures, 1 Table, appear in the Proceedings of the 13th International Conference on Affective Computing and Intelligent Interaction Workshops and Demos (ACIIW 2025)

Gathered, Not Admitted: How Attention Brings a Latent Variable into Verbalizable Form

聚集而非准入：注意力如何将隐变量转化为可表述形式

Parsa Mazaheri

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究通过实验发现语言模型不存在词工作空间理论预测的准入门，揭示了隐变量的可读形式由中层窗口内注意力介导的需求特异性聚集产生，而非门控机制。

Comments 26 pages, 9 figures, 6 tables. Code and data: https://github.com/parsa-mz/innerj

Low-Interaction-Rank Learning: Unifying Multiplicative Dual-Encoder Heads

低交互秩学习：统一乘法双编码器头

Zijian Zhao, Sen Li

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出低交互秩学习框架，统一乘法双编码器头架构，解决其设计决策、可识别性等问题，经实验验证该框架可解释对比维度不可解释性并恢复真实模式。

Avalon-ToM-Bench: Evaluating Fine-Grained Theory of Mind via Asymmetric Game Mechanics

Avalon-ToM-Bench：通过非对称游戏机制评估细粒度心理理论

Yen-Shan Chen, Yu Chian Duan, Chih-En Kuo, Jian-Bin Wu, Yun-Nung Chen

机构 * National Taiwan University（台湾大学） ； CyCraft AI Lab（CyCraft人工智能实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出Avalon-ToM-Bench基准，基于阿瓦隆游戏机制评估大语言模型的细粒度心理理论，发现模型ToM能力不足源于推理策略而非知识或表征，推理训练比测试时思维链增益更显著。

On the Robustness of LLMs' Internal Representation of Code Correctness

大型语言模型内部代码正确性表示的鲁棒性研究

Francisco Ribeiro, Sohaila Abdulsattar, Renata Gonzalez, Mahmoud Kassem, Sarah Nadi

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究系统探究大型语言模型内部代码正确性信号的鲁棒性，发现无最优提取配置且分离故障无法提升信号质量。

Comments 14 pages

Vision-Language Grounding as Bidirectional Concept Correspondence

视觉-语言 Grounding 作为双向概念对应

Jieyu Zhang, Ziqi Gao, Luke Zettlemoyer, Ranjay Krishna

机构 * University of Washington（华盛顿大学） ； Allen Institute for AI（艾伦人工智能研究所） ； FAIR at Meta（Meta FAIR实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究将视觉-语言 Grounding 建模为双向概念对应，提出 ConCor-1 模型统一相关任务，在长文本数据集和零样本 LVIS 上对应 F1 分别提升 48%、29%，性能优于基线。

Semantic Alignment of AI Models: Concept Collapse, Checkpoint Dynamics, and Cross-Lingual Transfer

AI模型的语义对齐：概念坍缩、检查点动态与跨语言迁移

Tyler Ashoff, Jordan Rodu

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 该研究针对语言模型基准测试的难点，提出用拓扑方法将模型高维嵌入空间与可解释基线严格比较，以实现多模态对齐，追踪模型适应并测试跨语言短语理解。

Comments Code available at github.com/tylerashoff/persiscope (PyPI: persiscope)

Can Humans Dream of Electric Sheep? Human-Written Samples for Fine-Grained Vision-and-Language Hallucination Benchmarking

人类能否“梦到”电子羊？用于细粒度视觉语言幻觉基准测试的人类编写样本

Timothee Mickus, Claudio Savelli, Eduardo Calò, Emilio Raimond, Stella Frank, Hengyu Luo, Flavio Giobergia, Vincent Segonne, Chuyuan Li, Aman Sinha, Lorenzo Vaiani, Jörg Tiedemann, Raúl Vázquez

机构 * University of Helsinki（赫尔辛基大学） ； Politecnico di Torino（都灵理工大学） ； Universiteit Utrecht（乌得勒支大学） ； Université Bretagne Sud（南布列塔尼大学） ； University of Copenhagen（哥本哈根大学） ； University Grenoble Alpes（格勒诺布尔阿尔卑斯大学） ； University of Lorraine（洛林大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对模型迭代快导致幻觉评估普适性不足的问题，构建多语言人类编写幻觉样本数据集，证实其可替代模型生成样本用于细粒度视觉语言幻觉基准测试。

Crossing-Free Probabilistic K-Line Forecasts Without Retraining

无需重新训练的无交叉概率K线预测

Runyao Yu, Yuchen Tao, Yujie Chen, Wentao Wang, Derek W. Bunn

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出无需重新训练的KQSP方法，解决概率K线预测的分位数与K线交叉问题，保持预测准确性并将交叉率降至零。

Comments 8 pages, 2 figures, 6 tables

Emergent Latent-State Computation under Stochastic Volatility

随机波动率下的涌现潜态计算

Xiaoyu Huang, Lulu Wang

机构 * Temple University（天普大学） ； Dickinson College（迪金森学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究序列模型在部分可观测下如何表示潜在随机动态，发现在随机波动率设置中有两阶段计算，Transformer中潜态可解码性在特定阶段出现，输出头替换揭示部分退化原因，为机械可解释性提供有用基准。

When Activation Oracles Learn Not to Read: Concept-Specific Blind Spots in Fine-Tuned Oracles

当激活预言机学会不读取时：微调预言机中的特定概念盲点

Tobias Bersia, Tatiana Gaintseva

机构 * Queen Mary University of London（伦敦玛丽女王大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究在禁忌词猜测设置下，激活预言机经微调后成为特定概念反读取器的现象，发现其无法恢复自身训练时存在的概念，失败源于读取路径，揭示了行为泄漏等因素可分离，引发对可解释性接口可靠性的担忧。

Hallucination Rates in Language Generation

语言生成中的幻觉率

Debmalya Panigrahi, Fan Wei, Ian Zhang

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究有（无限）幻觉的语言生成极限，表明即使幻觉率为0也使极限生成更强大，展示了由幻觉率和生成目标语言比例表征的语言集合严格层次结构，确立幻觉率为语言生成理论研究的重要参数。

What, Where, and How: Disentangling the Roles of Task, Language, and Model in Code Model Representations

是什么、在哪里以及如何：解开任务、语言和模型在代码模型表示中的作用

Piotr Wilam

机构 * University College London（伦敦大学学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究独立训练的语言模型在代码表示上的情况，通过2x2设计扩展概念电路提取方法，测量语法概念，发现任务决定概念获专用电路，模型决定电路位置及增长方式，还得出如Rust与Python电路差异等结论，为后续测试奠定基础。

Comments 16 pages, 11 figures, 6 tables. Code: https://github.com/piotrwilam/Atlas2x2 ; dataset: https://huggingface.co/datasets/piotrwilam/Atlas2x2

Scaling Interpretable Transformers with Parity Bottleneck Layers

使用奇偶瓶颈层扩展可解释的Transformer

Andrew Mack, Kraig Yuheng Tou, Mark Henry, Zhengxun Wu, Lauren Greenspan

机构 * Principles of Intelligence（智能原理） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究旨在解决训练可解释Transformer模型的难题，提出ParityTransformer架构，通过奇偶瓶颈层实现，实验表明其在稀疏探测任务中表现良好，在特征相关指标上更优，朝着训练内部表示可设计解释的模型迈出一步。

Measuring Monosemanticity in Sparse Autoencoders via Latent Activation Coherence

通过潜在激活一致性测量稀疏自编码器中的单语义性

Katarzyna Filus, Sebastian Pokuciński

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对可解释人工智能中评估稀疏自编码器单语义性的挑战，提出无标签的Tversky单语义性分数（TMS），通过激活集一致性衡量。在多种模型和设置下评估，结果显示TMS受编码器各向异性影响小，能揭示训练动态，还能体现概念删除有效性。

Comments This is a preprint version. A shorter version of this paper has been accepted for presentation and publication in the post-workshop proceedings of the 8th International Workshop on eXplainable Knowledge Discovery in Data Mining (XKDD 2026), co-located with ECML PKDD 2026. The appendix is included only in this preprint and is not part of the peer-reviewed proceedings paper

Retrieval is Enough: Training-Free Interpretability with a Tool-Using Agent

检索就足够了：使用工具的智能体实现无需训练的可解释性

Sriram Balasubramanian, Soheil Feizi

机构 * University of Maryland（马里兰大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究神经网络激活可解释性方法，提出HARP方法，即让语言模型智能体利用激活向量数据库及工具，通过迭代查询、形成并验证假设来实现无需训练的可解释性，该方法在多方面表现出色，还凸显现有训练方法局限并推动新基准测试。

Comments 25 pages, 7 figures

CAMMAR: Culture-Aware Matryoshka for Metaphorical Arabic Representations

CAMMAR：用于隐喻阿拉伯语表示的文化感知套娃

Suzan Awinat, Alfonso Ortega del Puente

机构 * Autonomous University of Madrid (UAM)（马德里自治大学） ； IE University（IE大学） ； Oviedo University（奥维耶多大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对阿拉伯语语言模型语义模糊问题，提出CAMMAR框架，通过分阶段语义课程组织意义到嵌套子空间，基于词汇与隐喻表示距离产生隐喻性几何度量，在新数据集上评估，有监督时检测隐喻效果好，还发现基于形态学词根有提升。

Comments 14 pages, 5 figures

When Structured Sparse Autoencoders Learn Consistent Concepts Across Modalities

当结构化稀疏自编码器跨模态学习一致概念时

Weiduo Liao, Yunqiao Yang, Ying Wei

机构 * Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究视觉语言模型中普通稀疏自编码器难以学习模态一致概念的问题，提出结构化稀疏自编码器$S^2AE$，通过图像块分组及结构化稀疏正则化强化概念一致性，经实验验证该方法在语义对齐等方面有提升，能促进跨模态表示更连贯解缠。

Uncertainty-gated selection for block-sparse attention

用于块稀疏注意力的不确定性门控选择

Thomas Rossi

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对块稀疏注意力截断短视问题，提出信息价值路由器，通过测量 top-k 截断决定性程度调整保留集。该方法与主干无关，可堆叠现有方法。实验表明其在多个模型上提升召回率，保留准确率，且减少运行时间。

The Signs Were Always There: Training-Free Concept Detection and Steering in Raw Transformer Dimensions

Bag of Dims：通过维度级符号模式实现无需训练的机制可解释性

Varun Reddy Nalagatla

机构 * Amazon Web Services（亚马逊云服务） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Bag of Dims框架，证明Transformer隐藏状态的标准基即可作为无需训练的特征基，通过维度符号模式编码语义，并在三个模型上验证了其有效性。

Comments Preprint. 35 pages, 5 figures. Detection method reproducible from the paper; full steering code to follow

What Images Cannot Say: Language-Guided Olfactory Representation Learning

图像无法表达的：语言引导的嗅觉表征学习

Eleftherios Tsonis, Xi Wang, Vicky Kalogeiton

机构 * LIX, École Polytechnique, IP Paris, CNRS（LIX，巴黎高等理工学院，IP巴黎，CNRS） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究图像与嗅觉对齐难题，提出SCENT多模态框架，利用视觉语言模型生成场景描述符，训练气味编码器，通过语言引导潜在分解分离特定对象气味与环境贡献，提升跨模态检索性能，产生可解释表征。

Comments ECCV 2026. Project page: https://www.lix.polytechnique.fr/vista/projects/2026_scent_tsonis/

Mitigating Factual Hallucination in Large Reasoning Models via Mixed-Mode Advantage Regularization

通过混合模式优势正则化减轻大型推理模型中的事实幻觉

Kaishen Wang, Tong Zheng, Xuehao Cui, Ruibo Chen, Tianyi Xiong, Heng Huang

机构 * Department of Computer Science, University of Maryland, College Park（计算机科学系，马里兰大学，College Park） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究大型推理模型在面向事实问答中存在思维诱导幻觉的问题，提出MARGO框架，通过构建混合模式展开组评估思维价值，抑制幻觉思维，实验证明该方法在提升事实可靠性的同时保留了推理能力。

Comments 19 pages, 3 figures, 8 tables

Knowledge Knows, Verbalization Tells: Disentangling Latent Directions for Mathematical Solvability in LLMs

知识所知，语言所表：解开大语言模型中数学可解性的潜在方向

Nikolaos Xiros, Maria-Eleni Zoumpoulidi, Georgios Paraskevopoulos

机构 * Institute for Language and Speech Processing, Athena Research Center（语言与语音处理研究所，雅典娜研究中心） 纠错

专题命中 知识编辑与模型理解 ：prompting(abstract)；分类 cs.CL、cs.LG

AI总结 研究大语言模型数学推理中数学问题可解性判定难题，通过分别探究可解性知识与语言表达的表征，揭示二者在模型隐藏状态中可分离，还表明提示不可解线索等可减少编造，操纵表征能改善模型弃权。

Comments 14 pages, 9 Figures