大模型对齐与安全

Defining Operational Conditions for Safety-Critical AI-Based Systems from Data

从数据定义安全关键AI系统的操作条件

Johann Christensen, Elena Hoemann, Frank Köster, Sven Hallerbach

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出了一种基于多维核表示的方法，从已有数据后验定义安全关键AI系统的操作条件领域，以实现更有效的认证。

Elign: Equivariant Diffusion Model Alignment from Foundational Machine Learning Force Fields

Elign：从基础机器学习力场中等效扩散模型对齐

Yunyang Li, Lin Huang, Luojia Xia, Wenhe Zhang, Mark Gerstein

机构 * Department of Computer Science, Yale University, New Haven, USA（计算机科学系，耶鲁大学，新 Haven，USA） ； Program in Computational Biology and Biomedical Informatics, Yale University, New Haven, USA（计算生物学与生物医学信息学项目，耶鲁大学，新 Haven，USA） ； IQuestLab 纠错

专题命中 安全训练 ：alignment(title)；分类 cs.LG

AI总结 Elign通过结合基础机器学习力场和强化学习优化，实现了等效扩散模型的对齐，提升分子构象生成的准确性和效率。

From Basins to safe sets: a machine learning perspective on chaotic dynamics

从盆地到安全集：从机器学习视角看混沌动力学

David Valle, Alexandre Wagemakers, Miguel A. F. Sanjuán

专题命中 安全训练 ：safety(abstract)

AI总结 本文从机器学习视角探讨混沌动力学，展示数据驱动方法在加速经典任务和实现可扩展干预方面的潜力。

Comments Chaos control, machine learning, neural networks, basins of attraction, transient chaos