语言大模型 / LLM

Steered LLM Activations are Non-Surjective

引导的LLM激活不是满射的

Aayush Mishra, Daniel Khashabi, Anqi Liu

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨了激活引导是否能通过文本提示实现，证明引导行为在实际中无法通过提示复现，区分了白盒引导与黑盒提示的差异。

Comments 10 pages main text. ICLR 2026 Workshops (Sci4DL, Re-Align)

Pref-CTRL: Preference Driven LLM Alignment using Representation Editing

Pref-CTRL: 基于偏好的大语言模型对齐方法使用表征编辑

Imranul Ashrafi, Inigo Jauregi Unanue, Massimo Piccardi

机构 * University of Technology Sydney（悉尼科技大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Pref-CTRL，一种基于偏好的训练框架，通过多目标价值函数改进偏好数据结构，优于RE-Control并在跨领域数据集上表现更佳。

Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)

Harmonizing Multi-Objective LLM Unlearning via Unified Domain Representation and Bidirectional Logit Distillation

通过统一领域表示和双向logit蒸馏和谐多目标大语言模型去学习

Yisheng Zhong, Sijia Liu, Zhuangdi Zhu

机构 * George Mason University（乔治·马歇尔大学） ； Michigan State University（密歇根州立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多目标去学习框架，通过统一领域表示和双向logit蒸馏，解决去学习中的多个目标，包括去除不良知识、保持通用效用、避免对邻近概念的过度拒绝以及确保对抗性探测攻击的鲁棒性。

Probing the Limits of the Lie Detector Approach to LLM Deception

探测基于谎言探测器方法对大语言模型欺骗的极限

Tom-Felix Berger

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文通过实验揭示大语言模型可通过非虚假陈述欺骗，挑战了传统谎言探测器方法的假设，并提出改进方向。

Predicting LLM Correctness in Prosthodontics Using Metadata and Hallucination Signals

利用元数据和幻觉信号预测牙科修复学中大语言模型的正确性

Lucky Susanto, Anasta Pranawijayana, Cortino Sukotjo, Soni Prasad, Derry Wijaya

机构 * 1 Department of Data Science, Monash University Indonesia, Tangerang, Indonesia ； 2 Independent Researcher ； 3 Department of Prosthodontics, University of Pittsburgh, Pittsburgh, Pennsylvania ； 4 Department of Restorative Sciences, University of North Carolina Adams School of Dentistry, Chapel Hill, North Carolina ； 5 Department of Computer Science, Boston University, Boston, Massachusetts 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文研究通过元数据和幻觉信号预测牙科修复学中LLM的正确性，发现元数据方法可提升准确性，但需进一步改进以适应高风险应用。

Comments Accepted as a Short Paper at HEALTHINF2026

The Tokenization Bottleneck: How Vocabulary Extension Improves Chemistry Representation Learning in Pretrained Language Models

Prathamesh Kalamkar, Ned Letcher, Meissane Chami, Sahger Lad, Shayan Mohanty, Prasanna Pendse

机构 * Thoughtworks 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；pretraining(abstract)

Representation Consistency for Accurate and Coherent LLM Answer Aggregation

Junqi Jiang, Tom Bewley, Salim I. Amoukou, Francesco Leofante, Antonio Rago, Saumitra Mishra, Francesca Toni

机构 * Imperial College London（帝国理工学院伦敦分校） ； J.P. Morgan AI Research（摩根大通人工智能研究） ； King’s College London（国王学院伦敦分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Comments Accepted at NeurIPS 2025. Camera-ready version

Retrieval-Enhanced Few-Shot Prompting for Speech Event Extraction

Máté Gedeon

机构 * Budapest University of Technology and Economics（布达佩斯技术与经济大学） 纠错

专题命中 知识编辑与模型理解 ：prompting(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AgentOccam: A Simple Yet Strong Baseline for LLM-Based Web Agents

Ke Yang, Yao Liu, Sapana Chaudhary, Rasool Fakoor, Pratik Chaudhari, George Karypis, Huzefa Rangwala

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

From Loops to Oops: Fallback Behaviors of Language Models Under Uncertainty

Maor Ivgi, Ori Yoran, Jonathan Berant, Mor Geva

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；pretraining(abstract)

Comments NeurIPS Workshop on Attributing Model Behavior at Scale (ATTRIB 2024)

WeatherGFM: Learning A Weather Generalist Foundation Model via In-context Learning

Xiangyu Zhao, Zhiwang Zhou, Wenlong Zhang, Yihao Liu, Xiangyu Chen, Junchao Gong, Hao Chen, Ben Fei, Shiqi Chen, Wanli Ouyang, Xiao-Ming Wu, Lei Bai

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Probing the Capacity of Language Model Agents to Operationalize Disparate Experiential Context Despite Distraction

Sonny George, Chris Sypherd, Dylan Cashman

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；prompting(abstract)

Journal ref Findings Assoc. Comput. Linguistics: EMNLP 2024 15447-15459 (2024)

Patchview: LLM-Powered Worldbuilding with Generative Dust and Magnet Visualization

John Joon Young Chung, Max Kreminski

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Comments Accepted to UIST2024

"Sorry, Come Again?" Prompting -- Enhancing Comprehension and Diminishing Hallucination with [PAUSE]-injected Optimal Paraphrasing

Vipula Rawte, S. M Towhidul Islam Tonmoy, S M Mehedi Zaman, Prachi Priya, Aman Chadha, Amit P. Sheth, Amitava Das

专题命中 知识编辑与模型理解 ：prompting(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

Marked Personas: Using Natural Language Prompts to Measure Stereotypes in Language Models

Myra Cheng, Esin Durmus, Dan Jurafsky

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；prompting(abstract)

Comments To appear at ACL 2023, 9 pages, 3 figures, 3 tables

RBCTest: Leveraging LLMs to Mine and Verify Oracles of API Response Bodies for RESTful API Testing

RBCTest: 利用LLMs挖掘和验证RESTful API响应体的Oracle

Hieu Huynh, Tri Le, Tu Nguyen, Viet Nguyen, Vu Nguyen, Tien N. Nguyen

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 RBCTest利用LLM挖掘RESTful API响应体约束并验证Oracle，提高API测试的自动化和准确性。

Comments ICSE 2026

FactorFlow: A Visual Analytics Workspace with Large Language Model-Assisted Interpretation for Factor Analysis

FactorFlow：用于因子分析的、带有大语言模型辅助解释的视觉分析工作空间

Justin Philip Tuazon, Joemari Olea, Richelle Ann Juayong

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 FactorFlow是用于端到端探索性因子分析的视觉分析工作空间，集成大语言模型实现自动化因子解释，经可用性研究优化，可帮助研究人员高效剖析、比较因子模型并理解因子结构。

Hybrid-Policy Self-Editing for Composable Unstructured Knowledge Editing

用于可组合非结构化知识编辑的混合策略自编辑

Tianci Liu, Zihan Dong, Tianchun Li, Yi-Chung Chen, Qiming Cao, Xingchen Wang, Shiyang Wang, Zichen Miao, Linjun Zhang, Haoyu Wang, Jing Gao

机构 * University of Tennessee（田纳西大学） ； Rutgers University（罗格斯大学） ； Purdue University（普渡大学） ； University at Albany（奥尔巴尼大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对现有非结构化知识编辑存在的可组合性缺失问题，提出HPSE方法，通过构建混合生成结果实现主动自蒸馏，在多种LLM及编辑工具上取得即插即用的性能提升。

Provable Limits and Certified Deferral for Verbalized Uncertainty in Small Language Models

小型语言模型中口头表述不确定性的可证明极限与认证式 deferral（ deferral 译为“ defer 至人类”的 deferral，即 deferral 指模型在特定情况下将决策 defer 至人类的机制）

Jianru Shen

机构 * University of Montana（蒙大拿大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；small language model(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对小型语言模型，探究口头表述置信度支撑风险可控 deferral 的可行性，通过理论推导与实验验证校准的局限性及认证式 deferral 的效果，修复了 TruthfulQA 的答案排序伪影。

Comments Accepted at MIWAI 2026 (The 19th International Conference on Multi-disciplinary Trends in Artificial Intelligence), to appear in Springer LNAI

HalluScope: Fine-grained Hallucination Diagnosis for Multimodal Large Language Models

HalluScope：多模态大语言模型的细粒度幻觉诊断

Weilin Jin, Mingyu Wang, Wenbo Li, Haoyang Huang, Yifan Wu, Ying Li, Gang Huang, Zhonghai Wu

机构 * Peking University（北京大学） ； Joy Future Academy（京东探索研究院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 研究针对多模态大语言模型的幻觉问题，提出细粒度幻觉诊断任务，开发数据集并设计奖励函数，训练HalluScope-4B和HalluScope-8B模型，在多个基准测试中达最优，其诊断解释能有效指导目标模型纠正幻觉。

Comments Accepted to ACM Multimedia 2026 (ACM MM 2026)

Beyond Text: Probing K-12 Educators' Perspectives and Ideas for Learning Opportunities Leveraging Multimodal Large Language Models

超越文本：探索K-12教育工作者对利用多模态大语言模型学习机会的视角和想法

Tiffany Tseng, Katelyn Lam, Tiffany Lin Fu, Alekhya Maram

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 研究通过工作坊探讨K-12教育工作者对多模态大语言模型在教育中的应用看法，分析其面临的挑战与需求，提出两种用户导向的实施方法。

Interpretable Uncertainty for Adaptive Retrieval and Reasoning in Question Answering

问答中自适应检索与推理的可解释不确定性

Ritajit Dey, Iadh Ounis, Graham McDonald

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究针对问答中大型语言模型的问题，提出基于LLM内部表示显式信号的不确定性感知框架，区分知识不足与模糊冲突，能在单次前向传播中估计，指导系统行为，为检索和推理策略提供透明实用替代方案。

Comments 2 pages, 1 figure

Six Fallacies in Substituting Large Language Models for Human Participants

将大型语言模型用于人类参与者中的六大谬误

Zhicheng Lin

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本文批判性地评估了将LLM用于行为和心理研究的替代观点，指出六个谬误，包括将token预测等同于人类智能、将LLM视为平均人类等，强调LLM作为实用模拟工具的价值，而非人类替代品。

Journal ref Advances in Methods and Practices in Psychological Science, 8(3), 1-19 (2025)

What Intermediate Layers Know: Detecting Jailbreaks from Entropy Dynamics

中间层知道什么：从熵动力学检测越狱

Sofiia Nikolenko, Michele Papucci, Mina Rezaei, Shireen Kudukkil Manchingal

机构 * LMU Munich（慕尼黑大学） ； relAI – Konrad Zuse School of Excellence in Reliable AI（relAI – 康拉德·楚泽可靠人工智能卓越学校） ； University of Pisa（比萨大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； School of Engineering, Computing and Mathematics, Oxford Brookes University（牛津布鲁克斯大学工程、计算与数学学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过分析冻结LLM各层的token级预测熵轨迹，发现中间层的熵动力学特征（如基于排名的单调趋势分数）能有效检测越狱攻击，且无需额外训练。

Comments Accepted at the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD) 2026. A short version accepted at EIML@ICML 2026

Tracing Computation Density in LLMs

追踪LLMs中的计算密度

Corentin Kervadec, Iuliia Lysova, Iuri Macocco, Marco Baroni, Gemma Boleda

机构 * Universitat Pompeu Fabra（庞培法布拉大学） ； ICREA 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出s-Trace方法估计最优子图，发现LLM计算分为早期稀疏核心和后期密集细化两个阶段，且计算量与模型不确定性相关。

Predicting Decisions of AI Agents from Limited Interaction through Text-Tabular Modeling

通过文本-表格建模从有限交互预测AI代理的决策

Eilam Shapira, Moshe Tennenholtz, Roi Reichart

机构 * Faculty of Data and Decision Sciences（数据与决策科学学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；foundation model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出文本-表格预测方法，通过分析游戏状态、报价历史和对话，预测AI代理的决策，实验表明隐藏的LLM表示能有效提升预测性能。

Social Policy of Large Language Models: How GPT, Claude, DeepSeek and Grok Allocate Social Budgets in Spain and Germany

大语言模型的社会政策：GPT、Claude、DeepSeek和Grok如何在西班牙和德国分配社会预算

Claudia Benavides Cantos, Eduardo C. Garrido-Merchán

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 研究四种大语言模型在西班牙和德国两种欧洲国家背景下，如何分配固定的社会预算，并探讨模型在社会政策上的隐含倾向及预算分配差异。

Permit: Permission-Aware Representation Intervention for Controlled Generation in Large Language Models

Permit：面向受控生成的权限感知表示干预

Pengcheng Sun, Lan Zhang, Zhaopeng Zhang, Jiewei Lai, Chen Tang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 Permit通过在大语言模型隐藏状态上实施细粒度控制，实现对生成内容的精确控制，减少信息泄露，实验显示其在多个权限设置中优于现有方法。

A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models

单个神经元足以绕过大型语言模型的安全对齐

Hamid Kazemi, Atoosa Chegini, Maria Safi

机构 * Apple（苹果公司） ； University of Maryland, College Park（马里兰大学 College Park 分校） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过针对单个神经元展示安全对齐的两种失效方向，证明在不训练或提示工程的情况下，通过抑制或放大特定神经元可绕过安全对齐。

Specification-Driven Code Translation Powered by Large Language Models: How Far Are We?

基于大型语言模型的规范驱动代码翻译：我们距离目标还有多远？

Soumit Kanti Saha, Fazle Rabbi, Song Wang, Jinqiu Yang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本文探讨了利用自然语言规范作为中间表示进行代码翻译的效果，通过多数据集和语言对实验发现，结合源代码可提升特定语言对的翻译质量，但整体效果不一致。