AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
几何感知蒸馏用于提示调优生物医学视觉-语言模型
机构 * Department of Machine Learning（机器学习系） ； Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出Omni-Geometry知识蒸馏（OGKD）框架，通过注入类别关系结构到教师模型，生成保留真实标签同时尊重类间几何的方向性目标，并设计全局几何感知蒸馏（GAD）和标签引导几何蒸馏（LGD）损失，在11个医学数据集上平均提升准确率1.7%-2.8%。
Comments Preprint. Code is available at https://github.com/tientrandinh/OGKD
MM-BizRAG：面向通用企业问答的多模态检索增强生成再思考
机构 * JPMorgan Chase & Co.（摩根大通公司） ； Georgia Institute of Technology（佐治亚理工学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出MM-BizRAG框架，通过文档结构感知分割和布局感知解析，结合统一LLM驱动的工件转换与推理时多模态组装，无需微调即可提升企业文档问答性能，在异构企业数据集和两个公开基准上超越基线最多32个百分点。
Comments Accepted at ACL 2026 (Industry Track)
策展合成数据不会崩溃：具有多元偏好的生成式再训练的理论研究
机构 * University of Washington（华盛顿大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 通过理论分析证明，基于多个奖励函数进行策展的递归训练可以避免生成模型崩溃，并收敛到满足加权纳什议价解的稳定分布。
Comments Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026
价值纠缠：大型语言模型中不同种类好的混淆
机构 * Independent Department of Cognitive Sciences, UC Irvine（独立认知科学系，加州大学 Irvine 分校）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 通过探测模型行为、嵌入和残差流激活，发现大型语言模型普遍存在价值纠缠，即道德、语法和经济三种价值被混淆，其中语法和经济价值过度受道德价值影响，通过选择性消融与道德相关的激活向量可修复此问题。
从图检索到模式实现：面向异构知识图谱的文本到SPARQL的反事实验证
机构 * University of Bristol（布里斯托大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出SchemaForge框架，通过问题条件化的模式切片对齐和反事实验证，在异构知识图谱上提升文本到SPARQL查询生成的执行准确率。
ISO 26262分析：在汽车软件中安全使用机器学习
机构 * University of Waterloo（滑铁卢大学）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文分析了在汽车软件中使用机器学习对ISO 26262安全生命周期的影响，并提出适应该标准以容纳机器学习的建议。
Comments 6 pages, 3 figures
视觉指令调优通过抽象对齐模态
机构 * Area Science Park, Trieste, Italy（特里埃斯特Area Science Park）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 通过探针分析和因果干预，发现视觉指令调优将视觉特征直接嵌入LLM的中间语义层，绕过早期单模态处理层，并通过扩展和强化现有抽象阶段对齐视觉与文本表示。
GFFMERGE: 图神经力场的高效合并及其扩展
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； University of Cambridge（剑桥大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出GFFMERGE框架，通过凸嵌入对齐问题解析解实现图神经网络的闭式模型合并，在力场回归任务中恢复接近联合训练的性能，并实现5-27倍加速。
MobEvolve：用于可解释人类移动性生成的智能体自进化启发式系统
机构 * The Hong Kong Polytechnic University（香港理工大学） ； McGill University（麦吉尔大学） ； MIT（麻省理工学院） ； Tsinghua University（清华大学） ； Autorité régionale de transport métropolitain（大都会交通地区管理局） ； Université de Montréal（蒙特利尔大学） ； Mila – Quebec AI Institute（魁北克人工智能研究所）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出MobEvolve，首个智能体自进化启发式框架，通过LLM代理迭代演化内部逻辑，在保持可解释性和推理效率的同时，在个体轨迹保真度、群体分布对齐和行为合理性上超越现有方法。
现代LLM与人脑EEG共享的效价轴：饱和规律
机构 * King Abdullah University of Science and Technology（卡布斯大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本研究通过构建从大型语言模型（LLM）中提取的一维效价方向（V轴），发现其与人类EEG神经活动对齐，但进一步对齐策略无法提升解码性能，并形式化为“饱和规律”，指出改进应来自监督无法触及的残差子空间。
TInR：探索大语言模型中的工具内化推理
机构 * The Hong Kong Polytechnic University（香港理工大学） ； Southeast University（东南大学） ； University of Edinburgh（爱丁堡大学） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出TInR-U框架，通过工具内化、监督微调和强化学习三阶段训练，使LLM无需外部文档即可进行工具集成推理，在域内和域外设置中均取得优越性能。
Comments Accepted to ACL 2026
超越端到端视频模型：基于LLM的多智能体系统用于教育视频生成
机构 * Baidu Inc.（百度公司）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出LASEV，一种基于LLM的分层多智能体系统，通过将教育视频生成分解为多个专业智能体协作，解决端到端模型在逻辑严谨性和知识表示方面的不足，实现低成本、高吞吐量的自动化教学视频生产。
Comments Accepted at ACM SIGKDD 2026 (KDD '26), Applied Data Science Track. 10 pages, 2 figures, 5 tables. The project is available at \url{https://robitsg.github.io/LASEV}
推进解码策略：局部典型采样在大型语言模型中的增强
机构 * Praxis Business School（普拉克斯商业学校） ； San Jose State University（旧金山州立大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出自适应语义感知典型性采样（ASTS）改进局部典型采样算法，通过动态熵阈值、多目标评分和奖惩调整，在保持计算效率的同时提升文本生成的流畅性、多样性和连贯性。
Comments This is the accepted but pre-reviewed version of the chapter that has been accepted for publication in the Springer volume 'Decision-Making in Computational Intelligence-Based Systems,' edited by Witold Pedrycz, Gilberto Rivera, Rose Ma Rodriguez, and Salvador Ibarra Martinez. The chapter is 39 pages long, and it contains 2 figures and 6 tables. This is NOT the final camera-ready version
Journal ref Recent Advances in Artificial Neural Networks. Intelligent Systems Reference Library, vol 283. Springer, Cham, 2026
MuCRASP: 多模态思维链推理感知的结构化剪枝
机构 * Indian Institute of Technology, Kharagpur（印度理工学院，哈里科普尔）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 针对视觉语言模型在结构化剪枝后思维链推理准确性下降的问题，提出MuCRASP框架，通过识别推理关键令牌并保持跨模态对齐，在压缩下维持推理质量。
Comments Preprint ver. 2
人类心理测量问卷误判LLM行为
机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院） ； Department of Communication, Interdisciplinary Program in Artificial Intelligence, Seoul National University（首尔国立大学通信系人工智能交叉学科项目）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 通过比较LLM在Likert问卷和生成概率上的价值与人格特征，发现问卷存在系统性偏差，提出基于生成概率的评估方法更准确。
Comments 38 pages, 6 figures
谁获得功劳或责备？在现代AI系统中分配责任
机构 * Harvard University, Cambridge, MA, USA（哈佛大学） ； University of California, Los Angeles, Los Angeles, CA, USA（加州大学洛杉矶分校） ； University of Illinois Urbana-Champaign, Urbana-Champaign, IL, USA（伊利诺伊大学厄巴纳-香槟分校）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一个归因框架，通过反事实问题量化模型开发各阶段（预训练、微调等）对最终行为的影响，并设计无需重训练的估计器，成功识别并移除多阶段任务中的虚假关联。
CRITIC-R1: 学习结构化评论用于检索增强生成
机构 * Nankai University（南开大学） ； Beihang University（北航） ； Guangxi Normal University（广西师范大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出CRITIC-R1框架，通过强化学习将RAG评论建模为结构化错误诊断问题，设计保守判断对齐和诊断质量对齐奖励函数，提升检索增强生成的答案质量。
Comments 17 pages,13 figures
DLM-SWAI: 在扩散语言模型去掩码之前引导它们
机构 * Department of Computer Science（计算机科学系） ； Yonsei University（延世大学）
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 提出一种无需训练的引导方法DLM-SWAI，通过预计算的词级风格分数在去噪步骤中偏置词分布，实现扩散语言模型的可控生成。
Comments preprint
视觉虫洞：异构多智能体系统中的潜在空间通信
机构 * Purdue University（普渡大学） ； Contextual AI（情境人工智能） ； Carnegie Mellon University（卡内基梅隆大学） ； Georgia Institute of Technology（佐治亚理工学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 提出Vision Wormhole框架，通过通用视觉编解码器将推理轨迹映射到共享连续空间，实现异构VLM间的潜在状态传输，无需配对翻译器，降低对齐复杂度并提升效率。
Comments Preprint. Work in progress
超越双语迁移：指令微调中的多语言代码切换
机构 * The University of Tokyo（东京大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究通过跨四种语言的句子级多语言代码切换指令微调，验证了多语言代码切换能有效提升大语言模型的多语言理解性能，超越了传统双语迁移设置。
从自回归到扩散：利用严格因果与弹性视野高效适配大型语言模型
机构 * School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院） ； School of Computer Science, Wuhan University（武汉大学计算机学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出FLUID框架，通过严格因果对齐和弹性视野机制，将自回归模型高效适配为扩散模型，实现并行文本生成并大幅降低训练成本。
Comments Accepted by ACL 2026
Transformer语言模型中的注意力白熊效应
机构 * Yale University（耶鲁大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 通过表征探测、注意力分析和行为语义泄露实验，发现指令抑制下Transformer语言模型仍能恢复被禁止概念的表征并影响后续生成，揭示了行为对齐与表征对齐之间的根本差距。
Comments Currently under review at EMNLP 2026
评估基于LLM的社会智能体的真实性：对西班牙在线新闻反应的案例研究
机构 * Faculty of Computer Science, University of Murcia（计算机科学系，穆尔西亚大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 通过比较真实与LLM生成的西班牙新闻评论，研究LLM在仇恨言论、情感和语义对齐三个维度上的真实性，发现现成模型表现不佳，微调可部分改善。
面向混合专家模型中多语言下游任务的路由对齐微调
机构 * City University of Hong Kong（香港城市大学） ； Carnegie Mellon University（卡内基梅隆大学） ； The University of Hong Kong（香港大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 针对混合专家模型在多语言下游任务中的路由结构异构问题，提出RA-MoE三阶段框架，通过中间层语言通用对齐区识别任务相关专家，并引入路由对齐损失增强目标语言路由，实验表明该方法优于标准微调和强基线。
流形上的推理：扩散语言模型中用于自我验证的双向一致性
机构 * Institute of Science and Technology for Brain-Inspired Intelligence（脑启发智能科学与技术研究院） ； Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； University of Science and Technology of China（中国科学技术大学） ； IEG, Tencent Inc.（腾讯IEG）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出双向流形一致性（BMC），一种无训练、无监督的度量方法，通过前向掩码和后向重建循环量化生成序列的稳定性，用于扩散语言模型的诊断、推理和对齐。
Comments 31 pages, 7 figures. Accepted to the 43rd International Conference on Machine Learning (ICML 2026). Camera-ready version
Journal ref Proceedings of the 43rd International Conference on Machine Learning, PMLR 306, 2026
注意力头的奇异向量与特征对齐
机构 * Department of Computer Science, Boston University, Boston, USA ； Faculty of Computing \& Data Sciences, Boston University, Boston, USA
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文通过理论分析和实验验证，解释了注意力头奇异向量与特征表示对齐的原因和条件，并提出了稀疏注意力分解作为对齐的可检验预测。
Comments To be published in ICML 2026
有意学习，直觉行动：解锁多模态大语言模型的测试时推理能力
机构 * Kyoto University（京都大学） ； Initial S ； NEC Corporation, Japan（日本NEC公司）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 提出D2I框架，通过训练时使用基于规则的格式奖励进行有意推理以增强模态对齐，推理时移除显式策略转为直觉推理，从而提升多模态大语言模型的推理能力，无需额外标注或复杂奖励。
Comments 22 pages, 24 figures
xKV：通过对齐奇异向量提取的跨层KV缓存压缩
机构 * Cornell University（康奈尔大学） ； University of Washington（华盛顿大学） ； Department of Computer Science, National Yang Ming Chiao Tung University（国立阳明交通大学计算机科学系） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Surrey（塞夫顿大学） ； Microsoft Research Asia（微软亚洲研究院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 提出xKV，一种通过跨层共享低秩子空间压缩KV缓存的后训练方法，实现高达8倍压缩且保持长上下文任务精度，并引入选择性重建实现端到端加速。
Comments ICML 2026
一个通用悬崖与一个设计指纹：LLM编排下的跨段缺陷检测
机构 * Research Institute of Criminal Psychiatry（刑事精神病研究机构） ； Sex Offender Medical Center（性犯罪医疗中心） ； Department of Neuropsychiatry, Graduate School of Medicine, Kyoto University（京都大学医学研究生院神经精神病学部门）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究揭示在LLM编排下，所有模型检测跨段矛盾缺陷的能力大幅下降（检测率降低三分之二以上），并发现不同对齐范式下的模型行为差异，其中一家开发商的模型随对齐增强呈现报告标准偏移。
Comments 24 pages, 2 figures. Data and code: doi:10.5281/zenodo.20372696
聚类即推理：思维链图学习的 $k$-均值解释
机构 * University of Electronic Science and Technology of China（电子科技大学） ； Singapore Management University（新加坡国立大学） ； Michigan State University（密歇根州立大学） ； The Chinese University of Hong Kong（香港中文大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出KCoT框架，通过将Transformer块与$k$-均值算法建立数学对应，将思维链推理与图表示学习统一，实现迭代语义-拓扑交互，在标准基准上超越现有方法。
Comments Accepted by ICML 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈