arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-28 至 2026-08-28 共收录 20 信号源:cs.CL, cs.AI, cs.LG

1. 知识编辑与模型理解 20 篇

2608.26417 2026-08-28 physics.optics cs.LG 新提交 90%

Towards a universal meta-optics solver via large language models

基于大语言模型的通用超光学求解器研究

Huanshu Zhang, Lei Kang, Yuyan Chen, Luxiang Wang, Zhaolong Cao, Douglas H. Werner

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);分类 cs.LG

AI总结 该研究提出基于Gemma-2-9B大语言模型的统一工作流,将多家族超表面相关信息转换为文本格式微调,实现跨家族光学响应预测与逆设计,MSE平均降低56.5%,减少了对任务特定架构的需求。

Comments Accepted for publication in Nano Letters

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.14496 2026-08-28 cs.AI 版本更新 90%

LLM-Powered Swarms: A New Frontier or a Conceptual Stretch?

大语言模型驱动的群体:新前沿还是概念延伸?

Muhammad Atta Ur Rahman, Melanie Schranz, Samira Hayat

机构 * Lakeside Labs GmbH(莱克西德实验室)

专题命中 知识编辑与模型理解 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文针对OpenAI的Swarm框架实现的经典与LLM驱动的Boids、蚁群优化算法,评估其是否符合经典群体智能原则,发现LLM驱动群体虽能模拟类群体动态,但计算开销达经典版本的300倍,不适用于实时系统。

Comments This is the author's version of a paper submitted to IEEE Intelligent Systems. 2 Tables, 2 Figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.27165 2026-08-28 cs.CL 新提交 88%

Prediction of Prediction (PoP): Inter-Layer Activation Fusion for Single-Pass Hallucination Detection in Large Language Models

预测的预测(PoP):用于大语言模型单次通过幻觉检测的层间激活融合

Himal Badu

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本研究提出PoP机制,通过融合单次前向传播的层间隐藏表示检测大语言模型幻觉,在TruthfulQA基准上AUROC达75.5%,延迟增加不足1.2%,无需额外生成传播。

Comments 7 pages, 3 figures, 9 tables. Single-author preprint on white-box, single-pass hallucination detection using inter-layer activation divergence, cross-layer fusion, temporal drift, and calibrated risk scoring. Evaluated on TruthfulQA, HaluEval 2.0, and FaithDial with Llama-3, Qwen2.5, and Mistral backbones

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.05876 2026-08-28 cs.CL 版本更新 88%

Addressing the Reasoning Gap: Mechanistic Circuit-Based Knowledge Editing in Large Language Models

基于机制电路的知识编辑在大语言模型中

Tianyi Zhao, Yinhan He, Wendy Zheng, Chen Chen

机构 * University of Virginia(弗吉尼亚大学)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文提出MCircKE框架,通过识别因果电路实现精准的知识编辑,解决大语言模型在动态环境中更新知识时的推理缺口问题,提升多跳推理能力。

Comments EMNLP 2026 Findings

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.27397 2026-08-28 cs.CL cs.AI 新提交 88%

Making Clinical Language Models Auditable: Concept-Guided Fine-Tuning for Robust Prediction

使临床语言模型可审计:概念引导的鲁棒预测微调

Jin Mu, Guanhua Chen

机构 * University of Wisconsin–Madison(威斯康星大学麦迪逊分校)

专题命中 知识编辑与模型理解 :language model(title,abstract);LLM(summary_cn,abstract);分类 cs.CL、cs.AI

AI总结 本研究提出基于SAE的可审计临床文本分类框架CAST,通过提取并抑制病历人工制品特征,在MIMIC-IV死亡率预测任务上提升了基线性能并保留与强LLM相当的效果,同时提供可审计的特征级轨迹。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.18037 2026-08-28 cs.AI cs.CL cs.MA 版本更新 88%

ProvenanceGuard: Source-Aware Factuality Verification for MCP-Based LLM Agents

ProvenanceGuard: 基于MCP的LLM智能体的源感知事实性验证

Ander Alvarez, Santhiya Rajan, Alessandro Genuardi, Oliver Wirjadi, Samuel Mugel, Román Orús

机构 * Multiverse Computing Parque Cientifico y Tecnológico de Gipuzkoa(吉普斯夸科技园) Centre for Social Innovation(社会创新中心) Donostia International Physics Center(多诺斯蒂亚国际物理中心) Ikerbasque Foundation for Science(伊克尔巴斯克科学基金会)

专题命中 知识编辑与模型理解 :LLM(title,title_cn);分类 cs.CL、cs.AI

AI总结 提出ProvenanceGuard,一种源感知验证器,通过追踪MCP工具调用、分解声明并路由到特定源,检测跨源混淆错误,在医疗领域数据集上优于源无关基线。

Comments 20 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26887 2026-08-28 cs.CL 新提交 86%

Planting a Latent Variable in Natural-Looking Text: a More Realistic Test of Belief States in LLMs and Their Link to Concept Geometry

在自然文本中植入潜在变量:对大语言模型(LLM)信念状态及其与概念几何联系的更真实测试

Alexandru-Iulius Jerpelea

机构 * Columbia University(哥伦比亚大学)

专题命中 知识编辑与模型理解 :LLM(title_cn,summary_cn);分类 cs.CL

AI总结 本研究在自然文本中植入可控潜在变量,训练小型Transformer追踪其贝叶斯后验信念,发现其状态按马尔可夫链排列成环,为LLM信念状态与概念几何的关联提供了实证支持。

Comments 9 pages, 13 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26419 2026-08-28 q-bio.QM cs.LG 新提交 85%

Interpreting Latent Protein Language Model Features with Geometric Annotations

用几何注释解释潜在蛋白质语言模型的特征

Siddharth Setlur, Djordje Mihajlovic, Darrick Lee

专题命中 知识编辑与模型理解 :language model(title,abstract);LLM(abstract,abstract_cn);分类 cs.LG

AI总结 本研究提出基于蛋白质Cα主链几何特征的自动可扩展方法,解释ESM-2的SAE特征,发现局部几何与多数SAE特征显著相关,可区分同数据库注释的SAE特征,为残基级SAE神经元激活蛋白质注释提供了稳健方法,搭建了机制可解释性与结构生物学的桥梁。

Comments 25 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.27402 2026-08-28 cs.CL cs.AI cs.LG 新提交 85%

How Language Models Organize and Structure Moral Knowledge

语言模型如何组织与构建道德知识

Orion Reblitz-Richardson

机构 * Distiller Labs(蒸馏实验室)

专题命中 知识编辑与模型理解 :language model(title,abstract);large language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 该研究探究大型语言模型的道德知识组织方式,通过线性探针揭示其道德表征的几何结构,发现其道德整合分量具特异性,且道德困境表征反映冲突结构而非预判决断。

Comments 31 pages, 16 figures. Code and outputs at this https URL (https://github.com/deepsteer/deepsteer)

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.25732 2026-08-28 cs.CL cs.AI 版本更新 82%

What the "Spotless" Mind Remembers: How Knowledge Entanglement Shapes What Leaks After Unlearning in LLMs

“无瑕疵”心智记住了什么:知识纠缠如何影响大语言模型(LLMs)在遗忘后泄露的内容

Aakriti Shah, Yifan Hu, Thai Le

机构 * Computer Science University of Southern California(计算机科学南加州大学) Computer Science Indiana University(计算机科学印第安纳大学)

专题命中 知识编辑与模型理解 :LLM(summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 该研究探究LLM中知识纠缠与遗忘后事实泄露的关系,发现GA+KL等算法会反转纠缠度与回忆率的正相关,训练出可预测遗忘后提示事实性的模型用于模型审计。

Comments 17 pages, 6 figures, 12 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26357 2026-08-28 cs.CL 新提交 70%

Cross-lingual Representation Learning via Centroid Intervention Fusion

基于质心干预融合的跨语言表示学习

Wei Sun, Marie-Francine Moens

机构 * KU Leuven(鲁汶大学)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文针对大语言模型跨语言性能不均的问题,提出CIF框架整合多语言干预投影,在四类基准测试中提升了跨语言性能,尤其优化了低资源语言表现。

Comments EMNLP 2026 (Main)

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.03605 2026-08-28 cs.CL 版本更新 70%

AEScorer: An Agentic Evidence-Grounded Framework for Graded Factuality Verification

DiVA: 基于代理-判别验证器的细粒度事实性验证

Hui Huang, Muyun Yang, Yuki Arase

机构 * Harbin Institute of Technology(哈尔滨工业大学) Institute of Science Tokyo(东京科学研究所)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 DiVA通过结合生成模型和判别模型的能力,提出了一种细粒度事实性验证方法,并构建了FGVeriBench基准,有效提升了事实性验证的精度和适用性。

Comments Accepted by Findings of EMNLP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26462 2026-08-28 cs.LG cs.AI cs.CL 新提交 67%

Diff Mining: Logit Differences Reveal Finetuning Objectives

Diff Mining:对数差揭示微调目标

Greg Kocher, Robert West, Clément Dumas, Julian Minder

机构 * EPFL(洛桑联邦理工学院) ENS Paris-Saclay(巴黎萨克雷高等师范学校) Université Paris-Saclay(巴黎萨克雷大学) MATS

专题命中 知识编辑与模型理解 :language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 提出Diff Mining框架,通过对比微调模型与基础模型的对数来识别微调目标,在微调领域检测、偏见识别等任务上优于现有方法,可用于开发微调审计工具。

Comments 37 pages, 7 figures. ICLR 2026 Workshop: Principled Design for Trustworthy AI. Code available at this https URL (https://github.com/science-of-finetuning/diffing-toolkit)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22642 2026-08-28 cs.LG cs.AI 版本更新 62%

Mol-JEPA: A multimodal Joint Embedding Predictive Architecture for Molecules

Mol-JEPA:用于分子的多模态联合嵌入预测架构

Florian Rottach, Sebastian Schieferdecker, William Rudman, Randall Balestriero, Carsten Eickhoff

机构 * University of Tübingen(蒂宾根大学) Boehringer Ingelheim(勃林格殷格翰) The University of Texas at Austin(德克萨斯大学奥斯汀分校) Brown University(布朗大学)

专题命中 知识编辑与模型理解 :foundation model(abstract);分类 cs.AI、cs.LG

AI总结 针对分子基础模型的化学无效增强等局限,提出Mol-JEPA多模态框架,利用模态掩码融入生化上下文,在基准测试中展现出优异性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.27020 2026-08-28 stat.ML cs.LG 新提交 57%

Representation Measurements Under Function-Preserving Reparameterizations

函数保持重参数化下的表示测量

Abdullah Karasan

专题命中 知识编辑与模型理解 :language model(abstract);分类 cs.LG

AI总结 该研究指出列排列并行分析违反函数保持重参数化不变性,经多模型、多域实验验证其分量计数与决策易受参考分布影响,正交不变比较器则更稳定。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26641 2026-08-28 cs.CL 新提交 57%

Information-Guided Frontier Decoding: Contextual Utility-Driven Commitment in dMLLMs

信息引导的前沿解码:扩散多模态语言模型(dMLLMs)中上下文效用驱动的提交

Xingyou Fang, Jingxing Zhong, Xiaosong Yuan, Xiaofeng Zhang

机构 * Fuzhou University(福州大学) Jilin University(吉林大学) Shanghai Jiao Tong University(上海交通大学)

专题命中 知识编辑与模型理解 :language model(abstract);分类 cs.CL

AI总结 针对扩散多模态语言模型解码时结构令牌过早提交削弱上下文传播的问题,提出无需训练的信息引导前沿解码策略,通过多维度排序优化候选选择,在多类基准上实现了优于现有方法的性能。

Comments Accepted to Findings of EMNLP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.25757 2026-08-28 cs.RO cs.LG 版本更新 57%

LM-X: Explainable Action Modeling with Progress, Event, and Uncertainty Prediction for Generalist Robot Manipulation

LM-X:面向通用机器人操控的、具备进度、事件与不确定性预测能力的可解释动作建模方法

Jin Lou, Zhiyuan Jing, Andong Chen, Xupeng Wang, Yuan Xu, Yuexuan Li, Xingdong Zhu, Zhijie Zhu, Yingwei Ji, Wenpeng Nie, Yufei Liu, Boyang Xing, Lei Jiang, Yan Cui, Ying Chu, Jingxuan Zhu, Jingyi Li, Liangliang Chen, Jinyan Liu, Zhiqi Song, Jidong Zhang, Hongming Li, Yuchen Zhu

机构 * Humanoid Robot (Shanghai) Co., Ltd.(人形机器人(上海)有限公司) E-surfing Digital Life Technology Co., Ltd., China Telecom(中国电信天翼数字生活科技有限公司)

专题命中 知识编辑与模型理解 :pretraining(abstract);分类 cs.LG

AI总结 LM-X是一种面向通用机器人操控的可解释动作建模方法,通过多尺度预测信号提升操控成功率,在RoboTwin2.0等任务上显著优于现有模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26586 2026-08-28 q-bio.QM 新提交 50%

RegimeFormer: A Large Protein Model of Global Perturbation Regimes

RegimeFormer:一种用于全局扰动 regime 的大型蛋白质模型

Siyuan Ma, Yi Chai, Yi Wu, Qixin Zhang, Yajing Yuan, Kanglu Zhao, Zhikang Chen, Haowei Wang, Shuying Cao, Xiaolei Yu, Xiangfei Han, Yun Liu, Yang Liu, Tingting Zhu, Dacheng Tao

专题命中 知识编辑与模型理解 :language model(abstract)

AI总结 研究针对蛋白质突变响应全局表征缺失问题,提出 RegimeFormer 大型蛋白质扰动模型并配套 RegimeAtlas,其可识别蛋白质扰动 regime,改善取代预测,衍生先验优化下游建模,为蛋白质扰动景观研究提供可扩展框架。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26208 2026-08-28 q-bio.GN 新提交 50%

Learning Interpretable Tumor Microenvironment Representations by Fitting Pan-Cancer Cell State-Niche Correlation

通过拟合泛癌细胞状态-生态位关联学习可解释的肿瘤微环境表征

Xiao Xiao, Jiashu He, Shiyang Zhang, Meiyi Mao

专题命中 知识编辑与模型理解 :foundation model(abstract)

AI总结 本研究提出泛癌空间转录组学基础模型GITIII-scale,通过建模细胞间相互作用及配体-受体通路学习肿瘤微环境表征,在未见过的癌症类型中更准确恢复生态位状态变化,可识别潜在药物靶点。

Comments 9 pages manuscript, 3 figures, AI for science paper

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.27226 2026-08-28 cs.CV 新提交 50%

DINOcular: Self-Supervised Visuospatial Representations

DINOcular:自监督视觉空间表征学习

Farkhat Almukhamedov, Sami Azirar, Hermann Blum

机构 * University of Bonn(波恩大学)

专题命中 知识编辑与模型理解 :foundation model(abstract)

AI总结 DINOcular是一种从RGB-D观测学习联合视觉空间表征的自监督框架,通过块间与块内融合集成几何先验,在3D几何基准上优于同规模方法,且在RGB-D语义分割任务中保持竞争力。

详情

展开后加载摘要…

URL PDF HTML 收藏