语言大模型 / LLM

Flow-SLM: Joint Learning of Linguistic and Acoustic Information for Spoken Language Modeling

Ju-Chieh Chou, Jiawei Zhou, Karen Livescu

机构 * Toyota Technological Institute at Chicago（芝加哥技术学院） ； Stony Brook University（石溪大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；SLM(title)；分类 cs.CL

Comments ASRU 2025. Project page: https://jjery2243542.github.io/flowslm.github.io/

Statistical Coherence Alignment for Large Language Model Representation Learning Through Tensor Field Convergence

Jonathan Gale, Godfrey Aldington, Harriet Thistlewood, Thomas Tattershall, Basil Wentworth, Vincent Enoasmo

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL

Comments arXiv admin note: This paper has been withdrawn by arXiv due to disputed and unverifiable authorship

Large Language Models Are Human-Like Internally

Tatsuki Kuribayashi, Yohei Oseki, Souhaib Ben Taieb, Kentaro Inui, Timothy Baldwin

机构 * MBZUAI ； The University of Tokyo（东京大学） ； University of Mons（蒙斯大学） ； Tohoku University（东北大学） ； RIKEN（日本理化学研究所） ； The University of Melbourne（墨尔本大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL

Comments This is a pre-MIT Press publication version of the paper

Latent Lexical Projection in Large Language Models: A Novel Approach to Implicit Representation Refinement

Ziad Shaker, Brendan Ashdown, Hugo Fitzalan, Alistair Heathcote, Jocasta Huntington

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL

Comments arXiv admin note: This paper has been withdrawn by arXiv due to disputed and unverifiable authorship

GeoRSMLLM: A Multimodal Large Language Model for Vision-Language Tasks in Geoscience and Remote Sensing

Zilun Zhang, Haozhan Shen, Tiancheng Zhao, Bin Chen, Zian Guan, Yuhao Wang, Xu Jia, Yuxiang Cai, Yongheng Shang, Jianwei Yin

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.AI

Small Language Models Also Work With Small Vocabularies: Probing the Linguistic Abilities of Grapheme- and Phoneme-Based Baby Llamas

Bastian Bunzeck, Daniel Duran, Leonie Schade, Sina Zarrieß

专题命中 知识编辑与模型理解 ：language model(title,abstract)；small language model(title)；分类 cs.CL

Comments Accepted at COLING 2025

Exploring Multilingual Concepts of Human Value in Large Language Models: Is Value Alignment Consistent, Transferable and Controllable across Languages?

Shaoyang Xu, Weilong Dong, Zishan Guo, Xinwei Wu, Deyi Xiong

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL

Comments EMNLP 2024 findings, code&dataset: https://github.com/shaoyangxu/Multilingual-Human-Value-Concepts

Predicting Distance matrix with large language models

Jiaxing Yang

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.LG

When Does Visual Prompting Outperform Linear Probing for Vision-Language Models? A Likelihood Perspective

Hsi-Ai Tsao, Lei Hsiung, Pin-Yu Chen, Tsung-Yi Ho

专题命中 知识编辑与模型理解 ：prompting(title,abstract)；language model(title)；分类 cs.LG

WikiChat: Stopping the Hallucination of Large Language Model Chatbots by Few-Shot Grounding on Wikipedia

Sina J. Semnani, Violet Z. Yao, Heidi C. Zhang, Monica S. Lam

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL

Comments Findings of EMNLP 2023

Who Wrote it and Why? Prompting Large-Language Models for Authorship Verification

Chia-Yu Hung, Zhiqiang Hu, Yujia Hu, Roy Ka-Wei Lee

专题命中 知识编辑与模型理解 ：language model(title,abstract)；prompting(title)；分类 cs.CL

Comments 7 pages,1 figure

How does the pre-training objective affect what large language models learn about linguistic properties?

Ahmed Alajrami, Nikolaos Aletras

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL

Comments Accepted at ACL 2022

DeMTS: Denoising Trajectories as Multivariate Time Series for Hallucination Detection in Diffusion Language Models

DeMTS：将去噪轨迹作为多元时间序列用于扩散语言模型的幻觉检测

Xin Zhang, Yili Wang, Yue Tan, Xin He, Yanyu Qian, Yixin Liu, Yi Chang, Shirui Pan, Xin Wang

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对现有D-LLMs幻觉检测方法压缩轨迹丢失关键信息的问题，提出DeMTS框架，将去噪轨迹作为多元时间序列，实验显示其性能优于现有方法且兼具鲁棒性、效率与迁移性。

Perturbation-based Regional Interpretability through Subtraction Mapping (PRISM): naming-error dissociations in language models and post-stroke aphasia

基于减法映射的扰动型区域可解释性方法（PRISM）：语言模型与卒中后失语症中的命名错误分离现象

Xiang Guan, Roger D. Newman-Norlund, Yong Yang, Saeed Ahmadi, Regan Willis, Nadra Salman, Kalil Warren, Srihari Nelakuditi, Chris Rorden, Leonardo Bonilha, Julius Fridriksson

机构 * University of South Carolina（南卡罗来纳大学） ； ALLT.AI, LLC（ALLT.AI有限责任公司） ； USC School of Medicine（南卡罗来纳大学医学院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 本研究开发PRISM方法，将神经成像减法分析适配至Transformer语言模型，对比模型与213名卒中后失语症患者的命名错误模式，验证了音素偏向性分离等结果，为模型功能专业化提供可证伪的空间分辨率测试工具。

Comments 49 pages, 6 figures, 1 table. Supplementary methods, 6 tables and 5 figures included

LEX-EC: A Lexical Evidence-Channel Audit Framework for Zero-Shot LLM Personality Classification in Black-Box Settings

LEX-EC：黑盒设置下用于零样本大语言模型人格分类的词汇证据通道审计框架

Brittany Harbison, Ashok K. Goel

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究针对大语言模型人格分类可解释性问题，提出LEX-EC框架，结合多种诊断与词汇消融，通过对不同文本体裁分析，展示特质关联与词汇证据关系，联合评估多项指标，将词汇方法应用于黑盒人格标签可解释性。

Comments Appendix and link to Code repo provided; this version also contains a refined Discussion section and a small error regarding Table 1 was corrected

Uncertainty-Aware Trust Estimation for Multi-LLM Systems via Structured Expert Judgement

通过结构化专家判断对多语言模型系统进行不确定性感知信任估计

Jiawei Zheng, Jiazhen Zhang

机构 * DigitLab, University of Exeter（数字实验室，埃克塞特大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究多语言模型聚合问题，核心方法是采用结构化专家判断，通过上下文感知校准问题及库克式对数加权估计专家可靠性，主要贡献是在异构和受污染情况下实现更好的准确性-可靠性平衡，强调聚合时需校准信任。

Internal Knowledge Without External Expression: Probing the Generalization Boundary of a Classical Chinese Language Model

无外部表达的知识：探索经典中文语言模型的泛化边界

Jiuting Chen, Yuan Lian, Hao Wu, Tianqi Huang, Hiroshi Sasaki, Makoto Kouno, Jongil Choi

机构 * Eaglewood Japan Co., Ltd.（日本鹰木公司） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；RLHF(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 研究通过训练纯经典中文语料库的Transformer模型，探讨模型能否区分已知与未知输入，并揭示内部与外部不确定性之间的差异。

Comments 27 pages, 4 figures, supplementary material included

A Shared Geometry of Difficulty in Multilingual Language Models

多语言语言模型中的共同难度几何

Stefano Civelli, Pietro Bernardelle, Nicolò Brunello, Gianluca Demartini

机构 * The University of Queensland（昆士兰大学） ； Polytechnic University of Milan（米兰理工大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究发现多语言语言模型中问题难度的表示分为两个阶段：浅层表示具有跨语言泛化能力，而深层表示在同语言性能高但跨语言泛化差。

Journal ref Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers), 2026

Towards Mitigation of Hallucination for LLM-empowered Agents: Progressive Generalization Bound Exploration and Watchdog Monitor

迈向减轻基于大语言模型的智能体幻觉：渐进泛化边界探索与看门狗监测

Siyuan Liu, Wenjing Liu, Zhiwei Xu, Xin Wang, Bo Chen, Tao Li

机构 * College of Computer Science, Nankai University（南开大学计算机科学学院） ； Haihe Lab of ITAI College of intelligent Science and Technology, Inner Mongolia University of Technology（内蒙古工业大学智能科学与技术学院海河实验室） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Department of Electrical and Computer Engineering, Stony Brook University（石溪大学电气与计算机工程系） ； Department of Computer Science, Michigan Technological University（密歇根技术大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型赋能智能体的幻觉问题，提出HalMit黑箱框架，用概率分形采样技术并行生成查询触发异常响应，以识别泛化边界来检测幻觉，提升智能体可靠性。

Journal ref Proceedings of the 28th European Conference on Artificial Intelligence (ECAI 2025), IOS Press, 2025

Societal Alignment Frameworks Can Improve LLM Alignment

社会对齐框架可以改进大语言模型对齐

Karolina Stańczak, Nicholas Meade, Mehar Bhatia, Hattie Zhou, Konstantin Böttinger, Jeremy Barnes, Jason Stanley, Jessica Montgomery, Richard Zemel, Nicolas Papernot, Nicolas Chapados, Denis Therien, Timothy P. Lillicrap, Ana Marasović, Sylvie Delacroix, Gillian K. Hadfield, Siva Reddy

机构 * ETH Zurich（苏黎世联邦理工学院） ； Mila, McGill University（麦吉尔大学米尔人工智能实验室） ； University of Cambridge（剑桥大学） ； Columbia University（哥伦比亚大学） ； University of Toronto, Google DeepMind（多伦多大学与DeepMind） ； McGill University, ServiceNow（麦吉尔大学与ServiceNow） ； Google DeepMind（谷歌DeepMind） ； University of Utah（犹他大学） ； King's College London（伦敦国王学院） ； Johns Hopkins University（约翰霍普金斯大学） ； Mila, McGill University, ServiceNow（麦吉尔大学米尔人工智能实验室与ServiceNow） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出借鉴社会、经济和契约对齐框架来改进大语言模型对齐，探讨不确定性在其中的作用，并将目标未指定性视为机遇而非缺陷，同时强调参与式对齐界面设计的必要性。

Constrained Paraphrase Consistency for LLM Hallucination Detection

约束释义一致性用于大语言模型幻觉检测

Shanshan Lin, Dongsheng Hong, Sibo Ju, Chao Chen, Xi Zhang, Xiangwen Liao

机构 * Fuzhou University（福州大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出约束一致性幻觉检测器(CCHD)，通过约束优化利用释义一致性，无需额外数据，在多个基准上超越现有方法。

Comments Accepted to ICASSP 2026

DLLM-JEPA: Joint Embedding Predictive Architectures for Masked Diffusion Language Models

DLLM-JEPA：用于掩码扩散语言模型的联合嵌入预测架构

Sangdae Nam

机构 * Sangdae Nam 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出DLLM-JEPA，通过将联合嵌入预测架构与掩码扩散语言模型结合，消除显式多视图数据和双梯度前向传播需求，在多个任务上提升准确率并降低训练FLOPs。

Comments 17 pages, 4 figures, 13 tables. Accepted at SPIGM Workshop, ICML 2026

A Monosemantic Attribution Framework for Stable Interpretability in Clinical Neuroscience Transformer-Based Language Models

面向临床神经科学中基于Transformer的语言模型的稳定可解释性的单语义归因框架

Michail Mamalakis, Tiago Azevedo, Cristian Cosentino, Chiara D'Ercoli, Subati Abulikemu, Zhongtian Sun, Richard Bethlehem, Pietro Lio

机构 * Department of Computer Science and Technology（计算机科学与技术系） ； Cancer Research UK（癌症研究英国公司） ； Cambridge Institute（剑桥研究所） ； University of Cambridge（剑桥大学） ； United Kingdom（英国） ； DIMES（迪梅斯） ； University of Calabria（卡拉布里亚大学） ； Italy（意大利） ； Department of Computer Automatic and Management Engineering (DIAG)（计算机自动与管理工程系） ； Sapienza Università di Roma（罗马大学萨皮恩扎） ； Department of Psychiatry（精神病学系） ； School of Computing（计算学院） ； University of Kent（肯特大学） ； Department of Psychology（心理学系） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出一种通过单语义特征提取整合归因与机制视角的统一可解释性框架，生成稳定的输入级重要性分数，促进语言模型在认知健康和神经退行性疾病中的安全应用。

Probing Persona-Dependent Preferences in Language Models

探测语言模型中依赖人格的偏好

Oscar Gilg, Pierre Beckmann, Daniel Paleka, Patrick Butlin

机构 * MATS ； EPFL（瑞士联邦理工学院） ； ETH Zürich（苏黎世联邦理工学院） ； Eleos AI Research（Eleos AI研究） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过训练线性探针来探测语言模型中不同人格下的偏好表示，发现偏好向量在不同人格间具有共享特性，并能通过调整偏好向量来影响模型的输出选择。

Comments 41 pages, 45 figures. Code: https://github.com/oscar-gilg/Preferences. Earlier write-up on LessWrong: https://www.lesswrong.com/posts/pxC2RAeoBrvK8ivMf/models-have-linear-representations-of-what-tasks-they-like-1

Reverse-Engineering Model Editing on Language Models

语言模型上的逆向工程模型编辑

Zhiyu Sun, Minrui Luo, Yu Wang, Zhili Chen, Tianxing He

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了语言模型中参数编辑的漏洞，提出了一种名为KSTER的逆向工程攻击方法，通过利用参数更新的低秩结构恢复编辑数据，并提出subspace camouflage防御策略以降低重建风险。

Comments Accepted to ICML 2026

Where is the Mind? Persona Vectors and LLM Individuation

心灵在哪里？人格向量与大语言模型个体化

Pierre Beckmann, Patrick Butlin

机构 * EPFL（瑞士联邦理工学院） ； Idiap Research Institute（Idiap研究所） ； Eleos AI Research（Eleos AI研究） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨大语言模型中个体化问题，通过机制可解释性分析人格向量和人格空间，提出虚拟实例观及两种新观点，论证注意力流维持心理连接，人格结构假说支持人格相关观点。

VITA-QinYu: Expressive Spoken Language Model for Role-Playing and Singing

VITA-QinYu：用于角色扮演和演唱的表达性口语语言模型

Jiacheng Xu, Heting Gao, Liufei Xie, Zhenchuan Yang, Lijiang Li, Yiting Chen, Bin Zhang, Meng Chen, Chaoyu Fu, Weifeng Zhao, Wenjiang Zhou

机构 * QinYu Team（秦宇团队） ； VITA-Team（VITA团队） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；SLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 VITA-QinYu是首个支持角色扮演和演唱生成的端到端口语语言模型，通过混合语音-文本范式和多代码本音频令牌提升表达性，优于同类模型7个百分点，在演唱和对话任务中均取得显著成果。

Comments https://tme-lyra-lab.github.io/VITA-QinYu/

Jailbreaking Vision-Language Models Through the Visual Modality

通过视觉模态 jailbreak 视觉-语言模型

Aharon Azulay, Jan Dubiński, Zhuoyun Li, Atharv Mittal, Yossi Gandelsman

机构 * Warsaw University of Technology（华沙理工大学） ； NASK National Research Institute（波兰国家研究研究院） ； University of Liverpool（利物浦大学） ； Indian Institute of Technology Roorkee（印度理工学院拉胡尔分校） ； Toyota Technological Institute at Chicago（芝加哥丰田技术研究所） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；post-training(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出四种利用视觉组件的 jailbreak 攻击，揭示了文本安全训练无法自动推广到视觉传达的有害意图，展示了视觉模态在安全对齐中的关键作用。

Comments Accepted to ICML 2026

The Shape of Adversarial Influence: Characterizing LLM Latent Spaces with Persistent Homology

对抗影响的形状：利用持久同调表征大语言模型的潜在空间

Aideen Fay, Inés García-Redondo, Qiquan Wang, Haim Dubossarsky, Anthea Monod

机构 * Microsoft Security Response Center（微软安全响应中心） ； AIDOS Lab, University of Fribourg（弗里堡大学AIDOS实验室） ； Department of Mathematics, Imperial College London（伦敦帝国理工学院数学系） ； Queen Mary University of London（伦敦大学量子玛丽学院） ； Imperial College London（伦敦帝国理工学院） ； Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文利用持久同调方法分析对抗输入如何改变大语言模型潜在空间的几何拓扑结构，揭示了潜在空间压缩和拓扑特征的普遍性。

SafeSeek: Universal Attribution of Safety Circuits in Language Models

SafeSeek: 语言模型中安全回路的通用归因

Miao Yu, Siyuan Fu, Moayad Aloqaily, Zhenhong Zhou, Safa Otoum, Xing fan, Kun Wang, Yufei Guo, Qingsong Wen

机构 * University of Science ； United Arab Emirates University ； Nanyang Technological University ； Zayed University ； Intelligent Science \& Technology Academy of CASIC 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SafeSeek框架，通过优化识别语言模型中的完整安全回路，验证了在后门攻击和安全对齐场景中的有效性，展示了安全回路的识别与利用方法。