大模型对齐与安全

Towards Worst-Case Guarantees with Scale-Aware Interpretability

面向尺度感知可解释性的最坏情况保证

Lauren Greenspan, David Berman, Aryeh Brill, Ro Jefferson, Artemy Kolchinsky, Jennifer Lin, Andrew Mack, Anindita Maiti, Fernando E. Rosas, Alexander Stapleton, Lucas Teixeira, Dmitry Vaintrob

机构 * Principles of Intelligence, USA（智能原理研究所，美国） ； Centre for Theoretical Physics, Queen Mary University of London（理论物理中心，伦敦女王大学） ； Universitat Pompeu Fabra, Barcelona, Spain（庞培法布拉大学，巴塞罗那，西班牙） ； Perimeter Institute for Theoretical Physics, Waterloo ON, Canada（皮尔姆研究所，滑铁卢，加拿大） ； Department of Informatics, University of Sussex（信息学院， Sussex 大学） ； Department of Brain Sciences, Imperial College London（脑科学系，伦敦帝国学院） ； Centre for Eudaimonia and human flourishing, University of Oxford（幸福与人类繁荣中心，牛津大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出通过物理重整化框架开发具有鲁棒性和忠实性的尺度感知可解释性工具，以提升人工智能的安全性。

Correctness-Optimized Residual Activation Lens (CORAL): Transferrable and Calibration-Aware Inference-Time Steering

正确性优化残差激活透镜（CORAL）：可转移且校准感知的推理时间引导

Miranda Muqing Miao, Young-Min Cho, Lyle Ungar

机构 * Department of Computer and Information Science, University of Pennsylvania, Philadelphia, USA（计算机与信息科学系，宾夕法尼亚大学，费城，美国） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 CORAL通过正则化探针提取模型内部分布式信息，提升推理时多项选择问答的准确性与校准性能。

Ontology-Driven Robotic Specification Synthesis

基于本体的机器人规范综合

Maksym Figat, Ryan M. Mackey, Michel D. Ingham

机构 * Warsaw University of Technology (WUT)（华沙技术大学） ； NASA Jet Propulsion Laboratory (JPL)（美国国家航空航天局喷气推进实验室） ； California Institute of Technology（加州理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出基于本体的RSTM2方法，用于安全关键任务中机器人系统规范综合，通过随机时Petri网实现多层级蒙特卡洛模拟，支持架构权衡与资源分配。

Comments 8 pages, 9 figures, 3 tables, journal

VGGT-Motion: Motion-Aware Calibration-Free Monocular SLAM for Long-Range Consistency

VGGT-Motion：具有运动感知的校准自由单目SLAM用于长距离一致性

Zhuang Xiong, Chen Zhang, Qingshan Xu, Wenbing Tao

机构 * National Key Laboratory of Science and Technology on Multi-spectral Information Processing（科学与技术多光谱信息处理国家重点实验室） ； Huazhong University of Science and Technology（华中科技大学） ； College of Computing and Data Science（计算与数据科学学院） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 VGGT-Motion通过运动感知子地图构造和锚点驱动的直接Sim(3)对齐策略，实现了高效且稳健的校准自由单目SLAM，提升了长距离轨迹的精度和效率。

Applying Ground Robot Fleets in Urban Search: Understanding Professionals' Operational Challenges and Design Opportunities

在城市搜索中应用地面机器人队伍：理解专业人员的操作挑战与设计机会

Puqi Zhou, Charles R. Twardy, Cynthia Lum, Myeong Lee, David J. Porfirio, Michael R. Hieb, Chris Thomas, Xuesu Xiao, Sungsoo Ray Hong

机构 * George Mason University（乔治·马歇尔大学） ； Virginia Tech（弗吉尼亚理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文探讨了在城市搜索中应用地面机器人队伍对公共安全专业人员操作挑战的影响，提出了减轻认知和体力负担的设计机会。

Comments Under review