语言大模型 / LLM

Probing the Creativity of Large Language Models: Can models produce divergent semantic association?

Honghua Chen, Nai Ding

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

Comments Accepted for publication in Findings of EMNLP 2023

Towards Mitigating Hallucination in Large Language Models via Self-Reflection

Ziwei Ji, Tiezheng Yu, Yan Xu, Nayeon Lee, Etsuko Ishii, Pascale Fung

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted by the findings of EMNLP 2023

Chain-of-Verification Reduces Hallucination in Large Language Models

Shehzaad Dhuliawala, Mojtaba Komeili, Jing Xu, Roberta Raileanu, Xian Li, Asli Celikyilmaz, Jason Weston

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

Large language models converge toward human-like concept organization

Mathias Lykke Gammelgaard, Jonathan Gabel Christiansen, Anders Søgaard

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

Large Language Models and Knowledge Graphs: Opportunities and Challenges

Jeff Z. Pan, Simon Razniewski, Jan-Christoph Kalo, Sneha Singhania, Jiaoyan Chen, Stefan Dietze, Hajira Jabeen, Janna Omeliyanenko, Wen Zhang, Matteo Lissandrini, Russa Biswas, Gerard de Melo, Angela Bonifati, Edlira Vakaj, Mauro Dragoni, Damien Graux

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

Comments 30 pages

Exploring the In-context Learning Ability of Large Language Model for Biomedical Concept Linking

Qinyong Wang, Zhenxiang Gao, Rong Xu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

Can Large Language Models Change User Preference Adversarially?

Varshini Subhash

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

Model-Agnostic Policy Explanations with Large Language Models

Zhang Xi-Jia, Yue Guo, Shufei Chen, Simon Stepputtis, Matthew Gombolay, Katia Sycara, Joseph Campbell

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Carnegie Mellon University（卡内基梅隆大学） ； Purdue University（普渡大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title,abstract)；分类 cs.LG

Comments To appear in Proceedings of the 2nd Conference on Language Modeling (COLM 2025). arXiv admin note: substantial text overlap with arXiv:2311.18062

HINT: Toward an Executable Hardware-Intent Representation Layer for LLM-Driven RTL Generation

HINT：面向大语言模型驱动的RTL生成的可执行硬件意图表示层

Tairan Cheng, Yi Liu, Dongsheng Zuo, Zhengyuan Shi, Hongji Zhang, Xiangfei Hu, Maoshuo He, Hao Yan, Qiang Xu

专题命中 知识编辑与模型理解 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出HINT可执行硬件意图表示层，用于LLM驱动的RTL生成，在7个算子案例中全量生成合规可综合RTL，面积较人工实现及直接C2RTL结果显著降低，还验证了其在各类复杂设计中的有效性。

Hyperdimensional Probe: Decoding LLM Representations via Vector Symbolic Architectures

超维探针：通过向量符号架构解码大语言模型表示

Marco Bronzini, Carlo Nicolini, Bruno Lepri, Jacopo Staiano, Andrea Passerini

机构 * University of Trento（特伦托大学） ； Ipazia S.p.A.（Ipazia公司） ； Fondazione Bruno Kessler (FBK)（布鲁诺·凯塞勒基金会） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究旨在解码大语言模型表示，提出超维探针，结合符号表示与神经探测，利用向量符号架构和超向量代数统一先前方法，能深入提取输入特征并支持输出分析，实验表明其可在多场景提取语义信息，推进了语义理解。

Comments CODE: https://github.com/Ipazia-AI/hyperprobe

Zero-source LLM Hallucination Detection with Human-like Criteria Probing

零源大语言模型幻觉检测：类人类标准探测

Jiahao Yang, Shuhai Zhang, Hailong Kang, Feng Liu, Qi Chen, Mingkui Tan

机构 * South China University of Technology（华南理工大学） ； The University of Melbourne（墨尔本大学） ； Pazhou Laboratory（帕乔实验室） ； Australian Institute for Machine Learning, Adelaide University（澳大利亚机器学习研究所，阿德莱德大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出HCPD范式，通过类人类标准探测机制模拟人类评估者的多面推理，结合奖励对齐和多样本聚合，实现零源条件下的有效可解释幻觉检测。

Comments Accepted at ICML 2026

Whisper-GPT -- Continuous Discrete Hybrid Representation Language Models For Speech And Music

Whisper-GPT -- 语音和音乐的连续离散混合表示语言模型

Prateek Verma

机构 * Stanford University（斯坦福大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出Whisper-GPT，一种结合连续音频表示（如频谱图）和离散音频令牌的生成式大语言模型，解决了离散令牌方法上下文长度过长的问题，在语音和音乐的下一个令牌预测中降低了困惑度和负对数似然。

Comments 6 pages, 3 figures. 50th International Conference on Acoustics, Speech and Signal Processing, Hyderabad, India

Aligning LLMs with Human Uncertainty: A Beta-Bernoulli Calibrator for LLM Forecasting

将LLM与人类不确定性对齐：用于LLM预测的Beta-Bernoulli校准器

Hui Dai, Ryan Teehan, Parsa Torabian, Mengye Ren

机构 * Agentic Learning AI Lab（代理学习AI实验室） ； New York University（纽约大学） ； The University of Chicago（芝加哥大学） ； Chronologies AI 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出Beta-Bernoulli校准器（BBC），通过结合二元结果和人类预测信号，将初始点估计转换为事件似然分布，实现校准和不确定性量化。

DLM-Scope: Mechanistic Interpretability of Diffusion Language Models via Sparse Autoencoders

DLM-Scope：通过稀疏自编码器实现扩散语言模型的机制可解释性

Xu Wang, Bingqing Jiang, Yu Wan, Baosong Yang, Lingpeng Kong, Difan Zou

机构 * The University of Hong Kong（香港大学） ； Tongyi Lab, Alibaba Group Inc（阿里云实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；post-training(abstract)

AI总结 DLM-Scope通过稀疏自编码器首次实现扩散语言模型的机制可解释性，展示了其在特征提取和干预中的有效性。

Comments 23 pages

How Post-Training Reshapes LLMs: A Mechanistic View on Knowledge, Truthfulness, Refusal, and Confidence

Hongzhe Du, Weikai Li, Min Cai, Karim Saraipour, Zimin Zhang, Himabindu Lakkaraju, Yizhou Sun, Shichang Zhang

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； University of Alberta（阿尔伯塔大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Harvard University（哈佛大学） 纠错

专题命中 知识编辑与模型理解 ：post-training(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

Comments COLM 2025

MedRep: Medical Concept Representation for General Electronic Health Record Foundation Models

Junmo Kim, Namkyeong Lee, Jiwon Kim, Kwangsoo Kim

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

Comments 18 pages

Probing the Emergence of Cross-lingual Alignment during LLM Training

Hetong Wang, Pasquale Minervini, Edoardo M. Ponti

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；pretraining(abstract)

Comments Accepted to Findings of the Association for Computational Linguistics: ACL 2024

Chainpoll: A high efficacy method for LLM hallucination detection

Robert Friel, Atindriyo Sanyal

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

What's Left? Concept Grounding with Logic-Enhanced Foundation Models

Joy Hsu, Jiayuan Mao, Joshua B. Tenenbaum, Jiajun Wu

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

Comments NeurIPS 2023. First two authors contributed equally. Project page: https://web.stanford.edu/~joycj/projects/left_neurips_2023

Claim-Level Confidence Calibration for Reliable Decision Making with Large Language Models

面向大型语言模型可靠决策的声明级置信度校准

Toghrul Abbasli, Kentaroh Toyoda, Yuan Wang, Li Chen

机构 * Tsinghua University（清华大学） ； Vulcan Research（伏尔坎研究院） ； AIFT ； Keio Global Research Institute (KGRI)（庆应全球研究所（KGRI）） ； China Mobile Research Institute（中国移动研究院） ； Zhongguancun Laboratory（中关村实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 该研究针对大型语言模型的幻觉及置信度与事实不匹配问题，提出黑箱场景下的声明级置信度校准框架，在TriviaQA等数据集上降低了事实问题的预期校准误差。

Comments In Proceedings of The 5th Workshop on Uncertainty Reasoning and Quantification in Decision Making (held in conjunction with ACM SIGKDD 2026), Jeju, Korea

DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning

DynHD: 通过去噪动态偏差学习检测扩散大语言模型的幻觉

Yanyu Qian, Yue Tan, Yixin Liu, Wang Yu, Shirui Pan

机构 * Nanyang Technological University, Singapore（新加坡南洋理工大学） ； Griffith University, Australia（澳大利亚格里菲斯大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出DynHD，通过空间和时间视角解决扩散大语言模型幻觉检测中的信息密度不均和去噪动态建模问题，采用语义感知证据构造模块和偏差检测器提升检测性能。

Comments Accepted by EMNLP 2026 Findings. 16 pages, 8 figures, 5 tables

Truth Lies Deep: Countering Semantic Camouflage via Latent Intent Verification

真相藏于深处：通过潜在意图验证对抗语义伪装

Md. Hasib Ur Rahman

专题命中 知识编辑与模型理解 ：SLM(abstract,abstract_cn)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对大语言模型安全对齐的表面性问题，该研究提出潜在意图验证（LIV）方法，利用小型语言模型早期层的有害特征，在不重新训练的情况下，将语义伪装攻击的检测性能提升20%-50%。

Comments 5 pages, 3 figures. Accepted at the 2026 IEEE 2nd International Conference on Quantum Photonics, Artificial Intelligence, and Networking (QPAIN)

Journal ref Proc. 2026 IEEE 2nd International Conference on Quantum Photonics, Artificial Intelligence, and Networking (QPAIN), 2026

Large Language Model-Driven Small-Capitalization Trading: Integrating Financial News Sentiment, Macroeconomic Indicators, and Technical Signals

大语言模型驱动的小盘股交易：整合财经新闻情绪、宏观经济指标与技术信号

Alireza Kargarzadeh, Nariman Khaledian, Navid Parvini, Arman Khaledian

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出将大语言模型预测的分解型风险输入投资组合协方差矩阵的方法，在罗素2000股票上验证分离纯阿尔法与纯贝塔选股机制的策略，其在40天持有期下夏普比率达2.33，表现优于双渠道一致机制。

Pop-Up Distractions Reveal Bag-of-Events Behavior in Video Large Language Models

弹出式干扰揭示视频大语言模型中的事件袋行为

Oscar Chew, Serhii Honcharenko, Qian-Hui Chen, Patricia Lu, Dishant Zaveri, Khoa D. Doan, Kuan-Hao Huang

机构 * Texas A&M University（德克萨斯A&M大学） ； National Taiwan University（台湾国立大学） ； Stanford University（斯坦福大学） ； VinUniversity（文大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 通过插入无关广告片段，发现视频大语言模型常将不同片段的事件错误关联，表现出将视频视为事件集合而非时间序列的“事件袋”行为。

Covert Visual Prompt Injection against Commercial Multimodal Large Language Models

对抗性提示注入攻击多模态大语言模型

Meiwen Ding, Song Xia, Chenqi Kong, Xudong Jiang

机构 * Rapid-Rich Object Search Lab, School of Electrical and Electronic Engineering, Nanyang Technological University（南洋理工大学电气与电子工程学院快速丰富目标搜索实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文研究了针对强大闭源多模态大语言模型的不可察觉视觉提示注入攻击，通过界文本叠加嵌入恶意提示并优化视觉扰动，提升攻击性能。

NeuroBreak: Unveil Internal Jailbreak Mechanisms in Large Language Models

NeuroBreak：揭示大语言模型的内部越狱机制

Chuhan Zhang, Ye Zhang, Bowen Shi, Yuyou Gan, Tianyu Du, Shouling Ji, Dazhan Deng, Yingcai Wu

机构 * Zhejiang University（浙江大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 NeuroBreak是一个自上而下的大语言模型越狱分析系统，可分析神经元级安全机制、关键神经元，经评估验证了有效性，为开发下一代防御策略提供机制见解。

Comments 11 pages, 10 figures. Accepted to IEEE VIS 2026

Minimal, Local, Causal Explanations for Jailbreak Success in Large Language Models

最小、局部、因果解释用于大语言模型中的对抗成功

Shubham Kumar, Narendra Ahuja

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文研究了大语言模型对抗成功的因果机制，提出LOCA方法通过局部解释识别最小的中间表示变化，以解释对抗成功的原因。

Comments Published at COLM 2026 (updated bib)

CrossHallu: Do Hallucination Signals Generalize Across Languages and Domains in Large Language Model's Internals?

CrossHallu：大语言模型内部的幻觉信号能否跨语言和领域泛化？

Aisha Alansari, Malak Alkhorasani, Hamzah Luqman

机构 * King Fahd University of Petroleum and Minerals（法赫德国王石油与矿产大学） ； Imam Abdulrahman bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·费萨尔大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究大语言模型内部幻觉检测信号能否跨语言和领域泛化，通过CrossHallu对六个模型的内部表征在生成式问答任务上进行评估，结果揭示了模型内部状态幻觉信号跨语言和领域转移的情况。

Do LLMs Know What Is Private Internally? Probing and Steering Contextual Privacy Norms in Large Language Model Representations

大语言模型是否了解内部隐私？在大型语言模型表示中探测和引导上下文隐私规范

Haoran Wang, Li Xiong, Kai Shu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文研究了大语言模型中上下文隐私规范的编码结构，通过探测和引导上下文隐私参数，揭示了模型在隐私保护上的不足，并展示了如何通过结构化控制减少隐私泄露。

From Found to Designed: Concepts as a Design Axis for Large Language Models

从发现到设计：将概念作为大语言模型的设计轴

Chen Shani

机构 * Tel Aviv University（特拉维夫大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 该研究针对大语言模型概念级结构依赖事后发现而非设计的问题，提出将概念作为设计轴，划分设计空间维度并分析现有模式，推动转向设计带显式概念表示的大语言模型。