大模型对齐与安全

Reachability Analysis and Safety Verification for Neural Network Control Systems

神经网络控制系统可达性分析与安全性验证

Weiming Xiang, Taylor T. Johnson

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出利用线性规划算法对神经网络控制器的可达集进行过近似，并结合常微分方程模型进行闭环系统可达集估计，最终通过检查估计可达集与不安全区域的交集实现神经网络控制系统的安全性验证。

Comments 21 pages, 6 figures

Reachability-Based Safety and Goal Satisfaction of Unmanned Aerial Platoons on Air Highways

基于可达性的无人机编队安全性和目标满足性研究

Mo Chen, Qie Hu, Jaime Fisac, Kene Akametalu, Casey Mackin, Claire Tomlin

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出利用空气高速路结构对无人机编队进行 tractable 分析，通过混合系统模型和 Hamilton-Jacobi 可达性方法，确保编队在不同模式转换中的安全性和目标满足性，同时通过仿真验证了该方法的有效性。

Comments American Institute of Aeronautics and Astronautics Journal of Guidance, Control, and Dynamics, January 30, 2017

SafeGuardPF: Safety Guaranteed Reactive Potential Fields for Mobile Robots in Unknown and Dynamic Environments

SafeGuardPF: 保障安全的反应势场用于未知和动态环境中的移动机器人

Rafael Rodrigues da Silva, Samuel Silva, Grigoriy Dubrovskiy, Hai Lin

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出SafeGuardPF方法，通过将反应势场运动控制器建模为混合自动机，并利用微分动态逻辑形式化验证其安全性，确保机器人在动态环境中避免碰撞。

Comments 8 pages, 9 figures, Submitted for publication in 2017 American Control Conference (ACC2017)

Sparse Control of Alignment Models in High Dimension

高维中对齐模型的稀疏控制

Mattia Bongini, Massimo Fornasier, Oliver Junge, Benjamin Scharf

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出在高维空间中通过随机线性映射降低维度，实现对共识涌现模型的稀疏控制，以高效引导系统趋近共识。

Comments 39 pages

Robust Distance-Based Formation Control of Multiple Rigid Bodies with Orientation Alignment

多刚体鲁棒距离基形成控制

Alexandros Nikou, Christos K. Verginis, Dimos V. Dimarogonas

专题命中 其他安全 ：alignment(title)

AI总结 本文研究了在3D空间中，针对第二类非线性多智能体系统，设计了去中心化无模型控制协议，实现距离和方向基的形成控制，并通过仿真验证了控制器性能。

Comments IFAC Word Congress 2017

Unpredictability of AI

AI的不可预测性

Roman V. Yampolskiy

机构 * Computer Engineering and Computer Science University of Louisville（计算机工程与计算机科学路易斯维尔大学） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文研究了AI安全领域中一个核心问题，即智能系统的行为预测难题，证明了即使知道终端目标，也无法准确预测超人类智能系统的行为，对AI安全产生了深远影响。

Geometry-Aware Distillation for Prompt Tuning Biomedical Vision-Language Models

几何感知蒸馏用于提示调优生物医学视觉-语言模型

Tran Dinh Tien, Zhiqiang Shen

机构 * Department of Machine Learning（机器学习系） ； Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出Omni-Geometry知识蒸馏（OGKD）框架，通过注入类别关系结构到教师模型，生成保留真实标签同时尊重类间几何的方向性目标，并设计全局几何感知蒸馏（GAD）和标签引导几何蒸馏（LGD）损失，在11个医学数据集上平均提升准确率1.7%-2.8%。

Comments Preprint. Code is available at https://github.com/tientrandinh/OGKD

MM-BizRAG: Rethinking Multimodal Retrieval-Augmented Generation for General Purpose Enterprise Q&A

MM-BizRAG：面向通用企业问答的多模态检索增强生成再思考

Hanoz Bhathena, Parin Rajesh Jhaveri, Rohan Mittal, Prateek Singh, Aymen Kallala, Rachneet Kaur, Yiqiao Jin, Zhen Zeng, Adwait Ratnaparkhi, Denis Kochedykov

机构 * JPMorgan Chase & Co.（摩根大通公司） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出MM-BizRAG框架，通过文档结构感知分割和布局感知解析，结合统一LLM驱动的工件转换与推理时多模态组装，无需微调即可提升企业文档问答性能，在异构企业数据集和两个公开基准上超越基线最多32个百分点。

Comments Accepted at ACL 2026 (Industry Track)

Curated Synthetic Data Doesn't Have to Collapse: A Theoretical Study of Generative Retraining with Pluralistic Preferences

策展合成数据不会崩溃：具有多元偏好的生成式再训练的理论研究

Ali Falahati, Mohammad Mohammadi Amiri, Kate Larson, Lukasz Golab

机构 * University of Washington（华盛顿大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 通过理论分析证明，基于多个奖励函数进行策展的递归训练可以避免生成模型崩溃，并收敛到满足加权纳什议价解的稳定分布。

Comments Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Value Entanglement: Conflation Between Different Kinds of Good In (Some) Large Language Models

价值纠缠：大型语言模型中不同种类好的混淆

Seong Hah Cho, Junyi Li, Anna Leshinskaya

机构 * Independent Department of Cognitive Sciences, UC Irvine（独立认知科学系，加州大学 Irvine 分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 通过探测模型行为、嵌入和残差流激活，发现大型语言模型普遍存在价值纠缠，即道德、语法和经济三种价值被混淆，其中语法和经济价值过度受道德价值影响，通过选择性消融与道德相关的激活向量可修复此问题。

From Graph Retrieval to Schema Realization: Counterfactual Validation for Text-to-SPARQL over Heterogeneous Knowledge Graphs

从图检索到模式实现：面向异构知识图谱的文本到SPARQL的反事实验证

Chengxiao Dai, Yue Xiu, Dusit Niyato

机构 * University of Bristol（布里斯托大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出SchemaForge框架，通过问题条件化的模式切片对齐和反事实验证，在异构知识图谱上提升文本到SPARQL查询生成的执行准确率。

An Analysis of ISO 26262: Using Machine Learning Safely in Automotive Software

ISO 26262分析：在汽车软件中安全使用机器学习

Rick Salay, Rodrigo Queiroz, Krzysztof Czarnecki

机构 * University of Waterloo（滑铁卢大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文分析了在汽车软件中使用机器学习对ISO 26262安全生命周期的影响，并提出适应该标准以容纳机器学习的建议。

Comments 6 pages, 3 figures

RePercENT: Scaling Disentangled Representation Learning Beyond Two Modalities

RePercENT：将解耦表示学习扩展到两种模态之外

Vasiliki Rizou, Pascal Frossard, Dorina Thanou

机构 * EPFL（瑞士联邦理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出RePercENT框架，通过多模态即插即用架构和联合优化目标，实现超过两种模态的可扩展成对解耦，无需联合预训练并降低计算复杂度。

Towards Pretraining Text Encoders for TabPFN

面向TabPFN的文本编码器预训练

Mustafa Tajjar, Alexander Pfefferle, Lennart Purucker, Frank Hutter

机构 * University of California, Berkeley（加州大学伯克利分校） ； DeepMind（深度思维） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出TabPFN文本适配器，通过轻量级适配器将文本嵌入映射到TabPFN的嵌入空间，避免PCA瓶颈，保留TabPFN数值优势，训练效率更高。

PersonaTree: Structured Lifecycle Memory for Person Understanding in LLM Agents

PersonaTree: 面向LLM智能体人物理解的结构化生命周期记忆

Yubo Hou, Jingwei Song, Hongbo Zhang, Zhisheng Chen, Bang Xiao, Tao Wan, Zengchang Qin

机构 * School of ASEE, Beihang University, Beijing, China（北京航空航天大学航空科学与工程学院） ； The University of Hong Kong, Hong Kong, China（香港大学） ； Peking University, Beijing, China（北京大学） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； School of BME, Beihang University, Beijing, China（北京航空航天大学生物医学工程学院） ； CAIR and CECS, VinUniversity, Hanoi, Vietnam（越南河内 Vin 大学 CAIR 和 CECS） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出PersonaTree，一种结构化生命周期记忆框架，通过三级人物树和显式支持路径，将交互证据抽象为人物理解，在多个基准上取得领先性能。

Plan First, Judge Later, Run Better: A DMAIC-Inspired Agentic System for Industrial Anomaly Detection

先计划，后评判，更优运行：一种受DMAIC启发的工业异常检测智能体系统

Yongzi Yu, Ao Li, Le Wang, Ziyue Li, Fugee Tsung, Yuxuan Liang, Man Li

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Shanghai University of Finance and Economics（上海财经大学） ； Technische Universität München（慕尼黑技术大学） ； Southwestern University of Finance and Economics（西南财经大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 提出受DMAIC启发的多智能体系统DMAIC-IAD，通过先制定标准化操作程序（SOP）再生成策略，并引入预训练的无执行评判模型来排序候选策略，无需昂贵运行时试验，在四种模态上平均检测性能提升37.76%。

The Saturation Trap and the Subjectivity of Intervention Timing: Why Affect-Based Triggers and LLM Judges Fail to Time Interventions on Autonomous Agents

饱和陷阱与干预时机的主观性：为什么基于情感的触发器和LLM评判者无法在自主智能体上把握干预时机

Manvendra Modgil

机构 * manvendramodgil.ai 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究通过18维情感动力学引擎HEART诊断自主智能体干预时机问题，发现状态饱和陷阱、LLM评判者的能力与上下文门槛，以及人类标注者之间极低的干预时机一致性，表明干预时机是一个低可靠性构念。

Comments 11 pages, 5 tables. Code and data:https://github.com/2025eb1100268-tech/intervention-timing-saturation-trap

veriFIRE: an Industrial Case Study in Verifying Consistency Properties for a DNN-Based Wildfire Detection System

veriFIRE：基于DNN的野火检测系统一致性属性验证的工业案例研究

Idan Refaeli, Maya Swisa, Itay Buchnik, Alon Zada, Guy Amir, Elad Mandelbaum, Ziv Freund, Guy Katz

机构 * The Hebrew University of Jerusalem（海法大学） ； Elbit Systems - ISTAR & EW - Elisra L.T.D ； Cornell University（康奈尔大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种端到端方法，通过将应用需求编码为求解器兼容查询，利用现有神经网络验证器验证野火检测系统中的单调性和有界响应等一致性属性，并在真实背景样本上评估，展示了工业系统可获得有意义的领域特定保证。

Comments To appear in The 9th International Symposium on AI Verification (SAIV)

Denoise First, Orthogonalize Later: Understanding Momentum in Muon via Spectral Filtering

先降噪，后正交：通过谱滤波理解Muon中的动量

Xianliang Li, Zihan Zhang, Weiyang Liu, Han Bao

机构 * The Institute of Statistical Mathematics（统计数学研究所） ； The Graduate Institute for Advanced Studies, SOKENDAI（SOKENDAI高级研究院） ； National Institute of Informatics（国家信息研究所） ； The Chinese University of Hong Kong（香港中文大学） ； Tohoku University（东北大学） ； RIKEN AIP（理化学研究所AIP） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文通过谱滤波理论证明Muon优化器中的动量能抑制梯度扰动、扩大谱间隙，从而稳定正交化步骤，并证明先动量后正交化比相反顺序或去除动量更优。

CR-Seg: Attention-Guided and CoT-Enhanced Coarse-to-Refined Reasoning Segmentation

CR-Seg：注意力引导与CoT增强的由粗到精推理分割

Yifan Cao, Xiaocui Yang, Faxian Wan, Shi Feng, Daling Wang, Yifei Zhang

机构 * School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出CR-Seg两阶段框架，通过注意力图提取和全局到局部思维链，实现由粗到精的推理分割，解决跨模态对齐和推理-答案不一致问题。

Retrieval and competition: how a protein foundation model starts a protein

检索与竞争：蛋白质基础模型如何启动蛋白质

Piotr Jedryszek, Oliver M. Crook

机构 * Department of Biology, University of Oxford, Oxford, UK（牛津大学生物学系） ； Kavli Institute for Nanoscience Discovery, University of Oxford, Oxford, UK（牛津大学纳科学发现研究所） ； Department of Chemistry, University of Oxford, Oxford, UK（牛津大学化学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 通过追踪ESM2-8M预测蛋白质起始甲硫氨酸的计算路径，发现模型依赖位置先验检索而非直接识别，揭示了模型置信度与生物学证据之间的脱节。

Comments updated figure 4

Towards A Generative Protein Evolution Machine with DPLM-Evo

迈向生成式蛋白质进化机器：DPLM-Evo

Xinyou Wang, Liang Hong, Jiasheng Ye, Zaixiang Zheng, Yu Li, Shujian Huang, Quanquan Gu

机构 * Nanjing University（南京大学） ； CUHK（香港大学） ； Fudan University（复旦大学） ； ByteDance（字节跳动） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出DPLM-Evo，一种显式建模替换、插入和删除操作的进化离散扩散框架，在单序列设置下实现蛋白质突变效应预测的最优性能，并支持变长模拟进化与蛋白质编辑优化。

Comments A peer-reviewed version was accepted to ICML 2026

Hint Tuning: Less Data Makes Better Reasoners

Hint Tuning：更少的数据造就更好的推理者

Siqi Fan, Minghao Li, Xiaoqian Ma, Xiusheng Huang, Zhuo Chen, Bowen Qin, Liujie Zhang, Shuo Shang, Weihang Chen

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Xiaohongshu Inc.（小红书公司） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出Hint Tuning方法，通过自动构建三种提示状态（无提示、稀疏提示、完整提示）的训练数据，使推理模型根据问题难度校准推理深度，仅用1K样本即可在多个主流推理模型上平均减少31.5%的token生成，同时保持竞争性准确率。

Path-conditioned training: a principled way to rescale ReLU neural networks

路径条件训练：一种缩放ReLU神经网络的原则性方法

Arthur Lebeurrier, Titouan Vayer, Rémi Gribonval

机构 * Université de Lyon（里昂大学） ； CNRS（法国国家科学研究中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种基于路径提升框架的几何准则来缩放ReLU网络参数，通过最小化该准则实现核对齐，从而加速训练。

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea, PMLR 306 (2026)

Towards Better Understanding of Program-of-Thought Reasoning in Cross-Lingual and Multilingual Environments

在跨语言和多语言环境中更好地理解程序思维推理

Patomporn Payoungkhamdee, Pume Tuchinda, Jinheon Baek, Samuel Cahyawijaya, Can Udomcharoenchaikit, Potsawee Manakul, Peerat Limkonchotiwat, Ekapol Chuangsuwanich, Sarana Nutanong

机构 * School of Information Science and Technology, VISTEC（信息科学与技术学院，VISTEC） ； KAIST（韩国科学技术院） ； Cohere ； SCB 10X ； AI Singapore（AI新加坡） ； Department of Computer Engineering, Chulalongkorn University（朱拉隆梭大学计算机工程系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 通过分离推理与代码执行，提出评估程序思维提示的框架，发现微调显著提升多语言推理能力，且推理质量与答案准确性强相关。

Journal ref Findings of the Association for Computational Linguistics: ACL 2025

Improving the Efficiency and Effectiveness of LLM Knowledge Distillation for Conversational Search

提升大语言模型知识蒸馏在对话搜索中的效率与效果

Stan Fris, Jan Hutter, Jan Henrik Bertrand, Simon Lupart, Mohammad Aliannejadi

专题命中 其他安全 ：alignment(abstract)

AI总结 本研究通过引入对比损失和正则化损失改进基于KLD的蒸馏方法，在对话搜索中同时提升了检索精度和推理效率。

Comments SCAI Workshop at SIGIR '26}{July 20--24, 2026}{Melbourne, Naarm, Australia

SAILRec: Steering LLM Attention to Dual-Side Semantically Aligned Collaborative Embeddings for Recommendation

SAILRec: 引导LLM注意力到双端语义对齐的协同嵌入用于推荐

Xi Wu, Jiale Wang, Zihan Wang, Yichen Gao, Xiaocui Yang, Shi Feng, Daling Wang, Yifei Zhang

专题命中 其他安全 ：alignment(abstract)

AI总结 针对LLM推荐系统中协同嵌入利用不足的问题，提出SAILRec模型，通过双端语义对齐和层次注意力引导，平衡内部语义知识与外部协同知识，在MovieLens-1M和Amazon-Book上优于基线。

Comments 17 pages, including appendices

RSC: Decentralized Rigid Formation Flocking for Large-Scale Swarms via Hybrid Predictive Control and Online Reconfiguration

RSC：通过混合预测控制与在线重配置实现大规模集群的分散式刚性编队集群

Ganyu Zou, Linhan Wang, Chen Dai, Siji Chen, Chang-Tien Lu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：safety(abstract)

AI总结 提出一种分散式控制框架RSC，结合有限时域轨迹预测与反应式人工势场安全控制器，并引入在线领航-跟随重配置机制，在25架无人机杂乱环境中实现83%的编队保持、避障与目标跟踪成功率。

Comments 8 pages, 4 figures, two-column format

Towards an Ideometrics-Based Understanding of Consciousness, Time, Space and Dreams

基于意念测量学的意识、时间、空间与梦境理解

Igor Rudan

专题命中 其他安全 ：safety(abstract)

AI总结 本文从意念测量学视角提出意识通过意念过程减少信息熵，使系统模拟并选择最优未来，并探讨了时间、空间与梦境的演化意义。

Comments 38 pages, 2 tables, 95 references

TrajTok: Learning Trajectory Tokens enables better Video Understanding

TrajTok: 学习轨迹令牌以实现更好的视频理解

Chenhao Zheng, Jieyu Zhang, Jianing Zhang, Weikai Huang, Ashutosh Kumar, Quan Kong, Oncel Tuzel, Chun-Liang Li, Ranjay Krishna

机构 * University of Washington（华盛顿大学） ； Allen Institute for Artificial Intelligence（人工智能研究院） ； Apple（苹果公司） ； Woven by Toyota, Inc（丰田纺织公司） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 提出TrajTok，一种端到端视频令牌化模块，通过隐式时空聚类生成对象轨迹令牌，提升视频理解效率与性能。

Comments CVPR 2026