语言大模型 / LLM

Do different prompting methods yield a common task representation in language models?

不同的提示方法是否会在语言模型中产生共同的任务表示？

Guy Davidson, Todd M. Gureckis, Brenden M. Lake, Adina Williams

机构 * FAIR at Meta（Meta 的 FAIR 部门） ； New York University（纽约大学） ； Princeton University（普林斯顿大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；prompting(title,abstract)；LLM(abstract)；分类 cs.CL、cs.LG

AI总结 研究通过函数向量分析不同提示方法对语言模型任务表示的影响，发现不同提示形式导致不同的任务机制，支持结合指令和演示的实践。

Comments 10 pages, 4 figures; presented at NeurIPS 2025

Semantic Energy: Detecting LLM Hallucination Beyond Entropy

语义能量：超越熵的LLM幻觉检测

Huan Ma, Jiadong Pan, Jing Liu, Yan Chen, Joey Tianyi Zhou, Guangyu Wang, Qinghua Hu, Hua Wu, Changqing Zhang, Haifeng Wang

机构 * Tianjin University（天津大学） ； Baidu Inc.（百度公司） ； A*STAR Centre for Frontier AI Research (CFAR)（A*STAR前沿人工智能研究中心） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 语义能量通过直接操作LLM最后层logits，结合语义聚类和能量分布，提升幻觉检测和不确定性估计的可靠性。

Layer Probing Improves Kinase Functional Prediction with Protein Language Models

层探查提升基于蛋白质语言模型的激酶功能预测

Ajit Kumar, IndraPrakash Jha

机构 * Adobe（Adobe公司） ； IIIT Delhi（德里印度理工学院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过评估ESM-2模型各层，发现中后期Transformer层能显著提升激酶功能预测的准确率和可靠性。

Comments 14 pages, 7 figures, 3 tables; includes code and dataset links

Fantastic Features and Where to Find Them: A Probing Method to combine Features from Multiple Foundation Models

非凡特性及其获取方法：一种结合多个基础模型特征的探测方法

Benjamin Ramtoula, Pierre-Yves Lajoie, Paul Newman, Daniele De Martini

机构 * University of Oxford（牛津大学） ； Polytechnique Montréal（蒙特利尔理工学院） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；分类 cs.LG

AI总结 ComBo是一种结合多个基础模型特征的探测方法，通过紧凑表示和轻量级transformer实现高效任务预测，优于现有探测方法并提升模型性能。

Comments Published at NeurIPS 2025

Evaluating LLMs in Open-Source Games

评估大型语言模型在开源游戏中的表现

Swadesh Sistla, Max Kleiman-Weiner

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文评估了LLMs在开源游戏中预测策略和分析合作策略形成的能力。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025)

CC-FMO: Camera-Conditioned Zero-Shot Single Image to 3D Scene Generation with Foundation Model Orchestration

CC-FMO：基于相机的零样本单图像到3D场景生成与基础模型协调

Boshi Tang, Henry Zheng, Rui Huang, Gao Huang

机构 * Tsinghua University（清华大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)

AI总结 CC-FMO通过结合语义感知和结构化潜在表示，实现基于相机的零样本单图像到3D场景生成，提升场景连贯性和实例保真度。

HARMONY: Hidden Activation Representations and Model Output-Aware Uncertainty Estimation for Vision-Language Models

HARMONY：隐藏的激活表示和模型输出感知的不确定性估计用于视觉-语言模型

Erum Mushtaq, Zalan Fabian, Yavuz Faruk Bakman, Anil Ramakrishna, Mahdi Soltanolkotabi, Salman Avestimehr

机构 * University of Southern California（南加州大学） ； Amazon AGI（亚马逊人工智能实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 HARMONY通过整合生成token、模型输出不确定性分数和隐藏表示，提升视觉-语言模型的不确定性估计性能。

COMPASS: Context-Modulated PID Attention Steering System for Hallucination Mitigation

COMPASS：基于上下文调节的PID注意力转向系统用于减少幻觉

Kenji Sahay, Snigdha Pandya, Rohan Nagale, Anna Lin, Shikhar Shiromani, Kevin Zhu, Dev Sunishchal

机构 * Algoverse ； Georgia Institute of Technology（佐治亚理工学院） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 COMPASS通过上下文调节PID注意力转向系统减少大型语言模型的幻觉，通过可解释的反馈回路提升生成的准确性与可解释性。

Comments 9 pages, 6 figures including algorithmns, 2 tables

Improving Region Representation Learning from Urban Imagery with Noisy Long-Caption Supervision

通过噪声长描述监督提升城市影像区域表示学习

Yimei Zhang, Guojiang Shen, Kaili Ning, Tongwei Ren, Xuebo Qiu, Mengmeng Wang, Xiangjie Kong

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出UrbanLN框架，通过长文本意识和噪声抑制提升城市影像区域表示学习，有效解决细粒度特征对齐与噪声干扰问题。

Comments Accepted as a full paper by AAAI-26

Optimizing LVLMs with On-Policy Data for Effective Hallucination Mitigation

利用策略数据优化LVLMs以实现有效的幻觉缓解

Chengzhi Yu, Yifan Xu, Yifan Chen, Wenyi Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Hong Kong Baptist University（香港 Baptist 大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 本文提出利用策略数据优化LVLMs，通过幻觉分类器和动态加权DPO算法，显著降低幻觉率并提升模型性能。

Measuring and Guiding Monosemanticity

测量和引导单义性

Ruben Härle, Felix Friedrich, Manuel Brack, Stephan Wäldchen, Björn Deiseroth, Patrick Schramowski, Kristian Kersting

机构 * Computer Science Department, TU Darmstadt（图宾根大学计算机科学系） ； Lab1141 ； Aleph Alpha Research（Aleph Alpha研究） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； CERTAIN ； Centre of Cognitive Science, TU Darmstadt（图宾根大学认知科学中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出G-SAE方法，通过在训练期间将潜在表示条件化于标记概念，以提高大型语言模型的可解释性和可控性。

CLIP-RL: Aligning Language and Policy Representations for Task Transfer in Reinforcement Learning

CLIP-RL: 通过强化学习任务迁移对齐语言和策略表示

Chainesh Gautam, Raghuram Bharadwaj Diddigi

机构 * Department of Data Science and Artificial Intelligence（数据科学与人工智能系） ； International Institute of Information Technology（国际信息技术研究所） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.AI

AI总结 CLIP-RL通过对比学习对齐语言和策略表示，提升强化学习任务迁移效率。

Comments 4 pages, 2 figures, accepted as a extended abstract at RLDM 2025

Class-Conditional Distribution Balancing for Group Robust Classification

基于类别条件分布平衡的组鲁棒分类

Miaoyun Zhao, Chenrong Li, Qiang Zhang

机构 * Dalian University of Technology（大连理工大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出了一种基于类别条件分布平衡的鲁棒分类方法，通过样本重新加权策略消除对偏见注释的依赖，有效消除虚假相关性，提升模型在现实世界中的泛化能力。

NeuroVolve: Evolving Visual Stimuli toward Programmable Neural Objectives

NeuroVolve：通过可编程神经目标演化视觉刺激

Haomiao Chen, Keith W Jamison, Mert R. Sabuncu, Amy Kuceyeski

机构 * Cornell University（康奈尔大学） ； Cornell Tech（康奈尔科技） ； Weill Cornell Medicine（韦尔医学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 NeuroVolve通过可编程神经目标生成视觉刺激，揭示大脑区域间的协同与对抗性调节关系，实现脑引导的图像编辑与首选刺激生成的统一。