arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 7583 信号源:cs.CL, cs.AI, cs.LG

1. 知识编辑与模型理解 7583 篇

2607.20995 2026-07-24 cs.CL 新提交 88%

Where Animacy Lives in Large Language Models: Tracing the Circuits of the Animacy Concept

大语言模型中 animacy 的所在之处:追踪 animacy 概念的电路

Samuele Punzo, Giovanni Cinà, Sandro Pezzelle

机构 * Graduate School of Informatics, University of Amsterdam(阿姆斯特丹大学信息学研究生院) Amsterdam University Medical Center(阿姆斯特丹大学医学中心) ILLC, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 研究大语言模型中 animacy 概念相关电路,构建受控数据集对四个开放权重模型进行电路发现,通过实验和消融表明存在处理 animacy 的因果机制,发现的电路定位性差且泛化有限,证实 animacy 概念特性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.02528 2026-07-21 q-fin.GN cs.CY cs.LG 版本更新 88%

Auditing Asset-Specific Preferences in Financial Large Language Models: Evidence from Bitcoin Representations and Portfolio Allocation

审计金融大语言模型中的资产特定偏好:来自比特币表征与投资组合配置的证据

Wenbin Wu

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.LG

AI总结 本研究通过三级审计协议,发现大型语言模型对比特币存在框架依赖的偏好,并识别出模型内部一个可因果干预的比特币选择性特征,该特征能显著影响下游投资组合配置。

Comments 31 pages, 6 figures, 18 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.10382 2026-07-21 cs.CL 版本更新 88%

Language Triggers Hijack Language Circuits: A Mechanistic Analysis of Backdoor Behaviors in Large Language Models

触发器劫持语言电路:大型语言模型中后门行为的机制分析

Théo Lasnier, Wissam Antoun, Francis Kulumba, Benoît Sagot, Djamé Seddah

机构 * Inria Paris(巴黎研究所)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文研究了大型语言模型中后门行为的机制,发现触发器通过劫持现有语言组件实现输出语言切换,为后门防御提供了新思路。

Comments 19 pages, 19 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.12739 2026-07-15 cs.CL 新提交 88%

Epistemic Stance Flexibility Probing: Measuring Prompt-Conditioned Register Shift in Large Language Models

认知立场灵活性探测:测量大语言模型中提示条件下的语域转换

Binwen Liu, Yilin Ren

专题命中 知识编辑与模型理解 :language model(title,abstract);large language model(title);LLM(abstract);分类 cs.CL

AI总结 研究大语言模型在不同归因提示下的认知立场灵活性,引入ESFP基准,涵盖多类别多模板项目,从四个维度评估模型响应,发现认知灵活性与模型能力正交,立场内容密度信号最强。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.04430 2026-07-07 cs.CL 新提交 88%

Uncertainty-Aware Abstention in Large Language Models with Provable Alignment Guarantees

具有可证明对齐保证的大语言模型中的不确定性感知弃权

Sijin Dong, Hiroyuki Shinnou

机构 * Ibaraki University(茨城大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 研究大语言模型在问答系统中无可靠置信估计的问题,提出基于置信区间的校准框架CIC,将任意不确定性分数转化为风险可控的选择性回答规则,保证所选阈值控制错误率,兼具风险控制和回答效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.08831 2026-06-30 cs.AI 新提交 88%

Inference-Time Conformal Reasoning with Valid Factuality Control for Large Language Models

面向大语言模型的推理时保形推理与有效事实性控制

Ting Wang, Yuanjie Shi, Yan Yan, Huan Zhang

机构 * Machine Learning, ICML(机器学习,国际机器学习大会)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 提出推理时保形推理框架,将保形预测集成到推理图生成中,通过图级不确定性校准生成停止阈值,实现有效事实性控制。

Comments Accepted at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28153 2026-06-29 cs.CR cs.AI 新提交 88%

Robust Harmful Features Under Jailbreak Attacks: Mechanistic Evidence from Attention Head Specialization in Large Language Models

越狱攻击下的鲁棒有害特征:来自大型语言模型中注意力头特化的机制证据

Yanchen Yin, Dongqi Han, Linghui Li

专题命中 知识编辑与模型理解 :large language model(title);language model(title);LLM(abstract,abstract_cn);分类 cs.AI

AI总结 通过分析注意力头特化,发现越狱攻击通过抑制早期层的对抗妥协头(ACHs)绕过安全对齐,而中间层的安全对齐头(SAHs)保持鲁棒激活,揭示了鲁棒有害特征现象,并利用这些持久激活实现无需训练的检测。

Comments 33 pages, 19 figures. Accepted at ICML 2026 as an Oral presentation

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.26422 2026-06-26 cs.AI 新提交 88%

Estimating Uncertainty in Classifier Performance with Applications to Large Language Models and Nested Data

分类器性能不确定性估计及其在大语言模型和嵌套数据中的应用

Kylie Anglin

机构 * Department of Educational Psychology, Neag School of Education, University of Connecticut(康涅狄格大学尼格教育学院教育心理学系)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 针对文本分类中性能指标置信区间报告不足且方法不当的问题,本文评估了多种区间估计方法,推荐了适用于小样本、低频构念和嵌套数据的准确方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.19542 2026-06-19 cs.LG 新提交 88%

Tracking Representation Dynamics in Large Language Models with Persistent Homology

利用持续同调追踪大型语言模型中的表示动态

Naman Malhotra, Jay Ambadkar, Abhinav Gupta, Kushal Kasivel, Abbas Schwarz, Kamillo Ferry, Anthea Monod

机构 * Imperial College London(伦敦帝国学院)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.LG

AI总结 通过持续同调分析激活空间拓扑,发现对齐过程中拓扑重组主要发生在训练早期,且不同对齐目标产生可区分的拓扑轨迹。

Comments 29 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.16629 2026-06-16 cs.CL 新提交 88%

Islamic Large Language Models: From Knowledge Acquisition to Trustworthy and Hallucination-Resistant AI

伊斯兰大语言模型:从知识获取到可信且抗幻觉的人工智能

Mohammed Amine Mouhoub

机构 * Paris Dauphine University(巴黎多芬纳大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 综述伊斯兰大语言模型领域,提出构建可信、抗幻觉的伊斯兰AI需结合阿拉伯语NLP、检索增强生成、教法学派推理及专家评估等关键技术。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.08157 2026-06-09 cs.CL 新提交 88%

Cross Paraphrastic Invariance Learning for Hallucination Detection

跨释义不变性学习用于幻觉检测

Shanshan Lin, Dongsheng Hong, Sibo Ju, Chao Chen, Sihong Xie, Xiangwen Liao

机构 * Fuzhou University(福州大学) Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳)) The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))

专题命中 知识编辑与模型理解 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 提出CPIL框架,通过构建正负样本对进行两阶段对比学习,仅用1%标注数据即在11个任务上超越基线,高效检测LLM幻觉。

Comments Accepted to ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.02469 2026-06-09 q-fin.CP cs.AI cs.MA 88%

Modeling Hawkish-Dovish Latent Beliefs in Multi-Agent Debate-Based LLMs for Monetary Policy Decision Classification

多智能体辩论式LLM中鹰派-鸽派隐含信念建模用于货币政策决策分类

Kaito Takano, Masanori Hirano, Kei Nakagawa

机构 * Osaka Metropolitan University(大阪市立大学) Preferred Networks, Inc.

专题命中 知识编辑与模型理解 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出多智能体辩论式LLM框架,通过建模鹰派与鸽派隐含信念提升货币政策预测准确性,优于传统LLM基线。

Comments PRIMA2025 Accepted

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.06600 2026-06-08 cs.CL 版本更新 88%

Probing Multimodal Large Language Models on Cognitive Biases in Chinese Short-Video Misinformation

探究多模态大语言模型在中国短视频虚假信息中的认知偏差

Jen-tse Huang, Chang Chen, Shiyang Lai, Wenxuan Wang, Michelle R. Kaufman, Mark Dredze

机构 * Johns Hopkins University(约翰霍普金斯大学) Chinese University of Hong Kong(香港中文大学) University of Chicago(芝加哥大学) Renmin University of China(中国人民大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文通过200个短视频数据集评估8种多模态大语言模型在健康领域虚假信息中的表现,发现Gemini-2.5-Pro表现最佳(信念分数71.5/100),而模型易受权威频道ID等社会线索影响。

Comments Accepted to ACL 2026 (Findings)

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.02750 2026-06-05 cs.CL 88%

On the Persistent Effects of Lexicality in Large Language Models

论词汇性在大语言模型中的持久影响

Hammad Rizwan, Muhammad Umair Haider, Nishant Subramani, Mona T. Diab, A. B. Siddique, Hassan Sajjad

机构 * Dalhousie University(达尔豪斯大学) University of Kentucky(肯塔基大学) Carnegie Mellon University(卡内基梅隆大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文通过对抗性语义压力测试和信息论视角,量化了大语言模型中词汇重叠相对于语义内容的影响,发现词汇影响贯穿模型深度,并在中间层出现词汇和语义信号同时衰减的过渡区域,进而以摘要和模型编辑为例展示了词汇影响对下游任务的作用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.01205 2026-06-03 cs.CL 88%

SRA: Span Representation Alignment for Large Language Model Distillation

SRA: 面向大型语言模型蒸馏的跨度表示对齐

Quoc Phong Dao, Hoang Son Nguyen, Pham Khanh Chi, Tung Nguyen, Linh Ngo Van, Nguyen Thi Ngoc Diep, Trung Le

机构 * Hanoi University of Science and Technology(河内科学技术大学) VNU University of Engineering and Technology(VNU工程大学) Monash University(莫纳什大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 提出SRA框架,通过将蒸馏对齐单元从token转为跨度的质心表示,并引入几何正则化和对齐跨度logit蒸馏,显著提升跨分词器知识蒸馏性能。

Comments ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04509 2026-06-02 cs.CL 88%

Model-Dowser: Data-Free Importance Probing to Mitigate Catastrophic Forgetting in Multimodal Large Language Models

Model-Dowser:无数据重要性探测以缓解多模态大语言模型中的灾难性遗忘

Hyeontaek Hwang, Nguyen Dinh Son, Daeyoung Kim

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 提出Model-Dowser,一种基于重要性评分的稀疏微调方法,通过联合考虑权重幅度、输入激活和输出敏感性来缓解多模态大语言模型微调中的灾难性遗忘,在LLaVA和NVILA上优于现有方法。

Comments Accepted at ICML 2026. Code link: https://model-dowser.github.io

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28825 2026-05-29 cs.CL 88%

MechELK: A Mechanistic Interpretability Framework for Eliciting Latent Knowledge in Large Language Models

MechELK:一种用于激发大型语言模型中潜在知识的机制可解释性框架

Ji-jun Park, Soo-joon Choi, Jiwon Jeong, Taeyang Yoon, Ju-Wan Lee

机构 * Dongguk University(东国大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 提出MechELK框架,通过定位、验证和激发三个阶段,利用稀疏自编码器特征分析和因果探测等方法,从大型语言模型中提取隐藏知识,在TruthfulQA等基准上平均激发准确率达84.7%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28123 2026-05-28 cs.CL 88%

Risk-aware Selective Prompting for Hallucination Mitigation in Large Vision-Language Models

风险感知的选择性提示用于大型视觉-语言模型中的幻觉缓解

Yuang Huang, Yafeng Zhang, Yu Zilan

机构 * Shanghai Jiao Tong University(上海交通大学) iFLYTEK Tsinghua University(清华大学)

专题命中 知识编辑与模型理解 :language model(title,abstract);prompting(title,abstract);分类 cs.CL

AI总结 本文系统研究提示验证在大型视觉-语言模型中的风险,发现其效果依赖输入难度,并提出基于预生成不确定性信号的选择性提示方法RSP以平衡性能。

Comments 7 pages, 1 figures, submitted to ACL ARR 2026 May (EMNLP)

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.21227 2026-05-21 cs.CL 88%

Do LLMs Know What Luxembourgish Borrows? Probing Lexical Neology in Low-Resource Multilingual Models

LLMs是否知道卢森堡语借词?探测低资源多语言模型中的词汇新词

Nina Hosseini-Kivanani

机构 * University of Luxembourg(卢森堡大学) Radio Télévision Luxembourg (RTL)(卢森堡广播电视台(RTL))

专题命中 知识编辑与模型理解 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);prompting(abstract)

AI总结 本文通过LexNeo-Bench基准测试,探讨了低资源多语言模型在词汇借词识别中的表现,发现通过构建语言知识图谱可以显著提升模型的借词分类准确率,表明词汇资源对LLM评估具有结构化上下文的作用。

Comments Accepted to Neollm colocated with LREC2026, Three figures and three tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.26139 2026-05-18 cs.CL 88%

HIVE: Hidden-Evidence Verification for Hallucination Detection in Diffusion Large Language Models

HIVE:用于扩散大语言模型中幻觉检测的隐藏证据验证

Guoshenghui Zhao, Tan Yu, Weijie Zhao

机构 * Rochester Institute of Technology(罗切斯特理工学院) NVIDIA Corporation(英伟达公司)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 HIVE通过提取去噪轨迹中的压缩隐藏证据,结合语言模型前缀嵌入进行验证,提升幻觉检测性能,优于多个基线模型。

Comments 5 figures, appendix included

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.14535 2026-05-15 cs.LG 88%

Exploring Geographic Relative Space in Large Language Models through Activation Patching

通过激活修补探索大语言模型中的地理相对空间

Stef De Sabbata, Rahul Baiju, Stefano Mizzaro, Kevin Roitero

机构 * School of Geography, Geology and the Environment, University of Leicester, UK(地理、地质与环境学院,莱斯特大学,英国) Department of Mathematics, Computer Science and Physics, University of Udine, Italy(数学、计算机科学与物理系,乌迪内大学,意大利)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.LG

AI总结 研究大语言模型处理地理相对空间的机制,通过激活修补技术揭示其内部运作,提升地理应用的安全性与可靠性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12258 2026-05-13 cs.LG 88%

Instruction Lens Score: Your Instruction Contributes a Powerful Object Hallucination Detector for Multimodal Large Language Models

指令透镜分数:您的指令为多模态大语言模型提供了一个强大的对象幻觉检测器

Runhe Lai, Xinhua Lu, Yanqi Wu, Jinlun Ye, Weijiang Yu, Ruixuan Wang

机构 * School of Computer Science and Engineering, Sun Yat-sen University, Guangzhou, China(中山大学计算机科学与工程学院,广州,中国) Peng Cheng Laboratory, Shenzhen, China(鹏城实验室,深圳,中国) Key Laboratory of Machine Intelligence and Advanced Computing, MOE, Guangzhou, China(机器智能与高级计算关键实验室,教育部,广州,中国)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.LG

AI总结 本文提出InsLen,通过结合校准局部分数和上下文一致性分数,有效检测多模态大语言模型中的对象幻觉,无需额外训练或辅助模型。

Comments Accepted by ICML-2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08878 2026-05-12 cs.CR cs.AI 88%

Why Do Aligned LLMs Remain Jailbreakable: Refusal-Escape Directions, Operator-Level Sources, and Safety-Utility Trade-off

为何对齐的LLM仍可被劫持:拒绝-逃逸方向、操作级来源及安全-效用权衡

Yu Chen, Yuanhao Liu, Qi Cao

机构 * Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所) University of Chinese Academy of Sciences(中国科学院大学)

专题命中 知识编辑与模型理解 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 研究揭示对齐LLM仍易被劫持的原因,通过连续输入变换视角,发现拒绝-逃逸方向(RED)及操作级来源的结构漏洞,揭示安全与效用的权衡关系。

Comments 40 pages, 45 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.05653 2026-05-08 cs.CL 88%

Negative Before Positive: Asymmetric Valence Processing in Large Language Models

负值之前正值:大型语言模型中的非对称情感处理

Sohan Venkatesh

机构 * Manipal Institute of Technology Bengaluru(班加罗尔Manipal理工学院)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 研究揭示大型语言模型中情感正负值处理的非对称性,通过激活修补和引导发现负面情感在早期层处理,正面情感在中后期层峰值,证明情感可被操控。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.05593 2026-05-08 cs.AI 88%

Causal Probing for Internal Visual Representations in Multimodal Large Language Models

多模态大语言模型内部视觉表征的因果探测

Zehao Deng, Tianjie Ju, Zheng Wu, Liangbo He, Jun Lan, Huijia Zhu, Weiqiang Wang, Zhuosheng Zhang

机构 * School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学学院) Ant Group(蚂蚁集团)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 研究通过激活引导框架系统干预四个视觉概念类别,揭示实体记忆局部化与抽象概念全局分布的差异,发现模型深度对复杂抽象概念编码至关重要,且反向引导揭示感知与生成之间的补偿机制。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.25167 2026-04-29 cs.AI 88%

From Insight to Action: A Novel Framework for Interpretability-Guided Data Selection in Large Language Models

从洞察到行动:一种新的框架,用于基于可解释性指导的数据选择在大语言模型中

Ling Shi, Xinwei Wu, Xiaohu Zhao, Hao Wang, Heng Liu, Yangyang Liu, Linlong Xu, Longyue Wang, Deyi Xiong, Weihua Luo

机构 * TJUNLP Lab, School of Computer Science and Technology, Tianjin University, China(天津大学计算机科学与技术学院TJUNLP实验室,中国) Alibaba Group, China(阿里巴巴集团,中国)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 本文提出IGDS框架,通过内部任务特征识别和选择共振数据来提升大语言模型性能,实验显示在数学推理任务中数据效率提升显著。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.10599 2026-04-28 cs.AI 88%

Adaptive Multi-Subspace Representation Steering for Attribute Alignment in Large Language Models

自适应多子空间表示引导用于大语言模型中的属性对齐

Xinyan Jiang, Lin Zhang, Jiayi Zhang, Qingsong Yang, Guimin Hu, Di Wang, Lijie Hu

机构 * Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(莫扎德·本·泽德人工智能大学) Data Analytics (PRADA) Lab(数据分析(PRADA)实验室) King Abdullah University of Science(卡瓦尔大学) Shanghai Advanced Research Institute, Chinese Academy of Sciences, Shanghai, China(上海先进研究院,中国科学院,上海,中国) University of Chinese Academy of Sciences, Beijing, China(中国科学院大学,北京,中国) University of Copenhagen, Copenhagen, Denmark(哥本哈根大学,哥本哈根,丹麦) University of Science(科学大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 本文提出MSRS框架,通过子空间表示微调实现多属性引导,减少属性干扰并提升行为控制精度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.17210 2026-04-20 cs.CL 88%

Wisdom is Knowing What not to Say: Hallucination-Free LLMs Unlearning via Attention Shifting

智慧在于知道什么不说:通过注意力转移实现无幻觉的LLM去学习

Chenchen Tan, Youyang Qu, Xinghao Li, Hui Zhang, Shujie Cui, Cunjian Chen, Longxiang Gao

机构 * Faculty of Information Technology, Monash University(墨尔本大学信息科技学院) Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center, Qilu University of Technology (Shandong Academy of Sciences)(教育部计算能力网络与信息安全重点实验室,山东计算机科学中心,齐鲁大学(山东科学院)) Shandong Provincial Key Laboratory of Computing Power Internet and Service Computing, Shandong Fundamental Research Center for Computer Science(山东省计算能力互联网与服务计算重点实验室,山东省计算机科学基础研究中心) School of Computer Science and Technology, Anhui University(安徽大学计算机科学与技术学院)

专题命中 知识编辑与模型理解 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出注意力转移框架,通过保留上下文抑制和抗幻觉响应塑造,提升LLM去学习效果,在保持性能的同时减少幻觉响应。

Comments Accepted by NeurIPS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.14004 2026-04-15 cs.CL 88%

Locate, Steer, and Improve: A Practical Survey of Actionable Mechanistic Interpretability in Large Language Models

定位、引导与改进:大型语言模型中可操作机制可解释性的一项实用调查

Hengyuan Zhang, Zhihao Zhang, Mingyang Wang, Zunhai Su, Yiwei Wang, Qianli Wang, Shuzhou Yuan, Ercong Nie, Xufeng Duan, Feijiang Han, Qibo Xue, Zeping Yu, Chenming Shang, Xiao Liang, Jing Xiong, Hui Shen, Chaofan Tao, Zhengwu Liu, Senjie Jin, Zhiheng Xi, Dongdong Zhang, Sophia Ananiadou, Tao Gui, Ruobing Xie, Hayden Kwok-Hay So, Hinrich Schütze, Xuanjing Huang, Qi Zhang, Ngai Wong

机构 * The University of Hong Kong(香港大学) Fudan University(复旦大学) LMU Munich(慕尼黑大学) Tsinghua University(清华大学) Technische Universität Darmstadt(达姆施塔特技术大学) Technische Universität Berlin(柏林技术大学) Technische Universität Dresden(德累斯顿技术大学) The Chinese University of Hong Kong(香港中文大学) University of Pennsylvania(宾夕法尼亚大学) Nanjing University(南京大学) University of Manchester(曼彻斯特大学) Dartmouth College(达特茅斯学院) University of California Los Angeles(加州大学洛杉矶分校) University of Michigan(密歇根大学) Microsoft(微软) Tencent(腾讯)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文提出一个实用调查,围绕'定位、引导与改进'流程,系统分类定位和引导方法,展示如何通过该框架提升模型对齐、能力和效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11609 2026-04-14 cs.AI cs.HC 88%

Intersectional Sycophancy: How Perceived User Demographics Shape False Validation in Large Language Models

交叉性趋炎附势:感知的用户人口统计如何影响大语言模型中的虚假验证

Benjamin Maltbie, Shivam Raval

机构 * Massachusetts Institute of Technology(麻省理工学院) Harvard University(哈佛大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 研究探讨用户人口统计如何影响大语言模型的虚假验证行为,发现GPT-5-nano在哲学领域比数学领域更趋炎附势,而拉丁裔人群接受度最高,而自信的拉丁裔女性得分最低。

详情

展开后加载摘要…

URL PDF HTML 收藏