大模型对齐与安全

Hybrid Safety Verification of Multi-Agent Systems using $ψ$-Weighted CBFs and PAC Guarantees

Venkat Margapuri, Garik Kazanjian, Naren Kosaraju

机构 * Department of Computing Sciences at Villanova University（维拉诺瓦大学计算机科学系） 纠错

专题命中 其他安全 ：safety(title,abstract)；alignment(abstract)

Large Language Models for Pedestrian Safety: An Application to Predicting Driver Yielding Behavior at Unsignalized Intersections

Yicheng Yang, Zixian Li, Jean Paul Bizimana, Niaz Zafri, Yongfeng Dong, Tianyi Li

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.AI

PART: Progressive Alignment Representation Training for Multilingual Speech-To-Text with LLMs

Pei Zhang, Andong Chen, Xi Chen, Baosong Yang, Derek F. Wong, Fei Huang

机构 * Tongyi Lab, Alibaba Group（通义实验室，阿里巴巴集团） ； The Chinese University of Hong Kong（香港中文大学） ； NLP 2 CT Lab, University of Macau（自然语言处理2CT实验室，澳门大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

How Model Size, Temperature, and Prompt Style Affect LLM-Human Assessment Score Alignment

Julie Jung, Max Lu, Sina Chole Benker, Dogus Darici

机构 * Harvard Graduate School of Education（哈佛教育研究生院） ； Munster University（穆恩斯特大学） ； Institute of Anatomy and Neurobiology, University of Münster（解剖与神经生物学研究所，穆恩斯特大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

Comments 9 pages, 4 figures, accepted at NCME AIME 2025

Embedding Alignment in Code Generation for Audio

Sam Kouteili, Hiren Madhu, George Typaldos, Mark Santolucito

机构 * Yale University（耶鲁大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

Comments Accepted to NeurIPS 2025 AI4Music Workshop

Automatic and Scalable Safety Verification using Interval Reachability with Subspace Sampling

Brendan Gould, Akash Harapanahalli, Samuel Coogan

专题命中 其他安全 ：safety(title)

Comments 6 pages, 3 figures. Updated to correct a small error in the dynamics presented in equation (12)

Play by the Type Rules: Inferring Constraints for LLM Functions in Declarative Programs

Parker Glenn, Alfy Samuel, Daben Liu

机构 * Capital One 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

One Filters All: A Generalist Filter for State Estimation

Shiqi Liu, Wenhan Cao, Chang Liu, Zeyu He, Tianyi Zhang, Shengbo Eben Li

机构 * School of Vehicle and Mobility, Tsinghua University（清华大学车辆与移动系统学院） ； College of Engineering, Peking University（北京大学工程学院） ； College of AI, Tsinghua University（清华大学人工智能学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

Comments NeurIPS 2025

RDAR: Reward-Driven Agent Relevance Estimation for Autonomous Driving

Carlo Bosio, Greg Woelki, Noureldin Hendy, Nicholas Roy, Byungsoo Kim

机构 * UC Berkeley（伯克利大学） ； Zoox Inc.（Zoox公司） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

Comments 10 pages, 6 figures

Multimodal Language Models with Modality-Specific Experts for Financial Forecasting from Interleaved Sequences of Text and Time Series

Ross Koval, Nicholas Andrews, Xifeng Yan

机构 * University of California, Santa Barbara（加州大学圣巴巴拉分校） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

Comments Preprint

The Platonic Universe: Do Foundation Models See the Same Sky?

UniverseTBD, :, Kshitij Duraphe, Michael J. Smith, Shashwat Sourav, John F. Wu

机构 * Independent Researcher（独立研究者） ； AstroAI ； Harvard-Smithsonian CfA（哈佛-史密松天体物理中心） ； University of Hertfordshire（赫特福德郡大学） ； Washington University St. Louis（圣路易斯华盛顿大学） ； Space Telescope Science Institute（空间望远镜科学研究所） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

Comments 9 pages, 3 tables, 1 figure. Accepted as a workshop paper to Machine Learning and the Physical Sciences at NeurIPS 2025

Efficient Encoder-Free Pose Conditioning and Pose Control for Virtual Try-On

Qi Li, Shuwen Qiu, Julien Han, Xingzi Xu, Mehmet Saygin Seyfioglu, Kee Kiat Koo, Karim Bouyarmane

机构 * Amazon（亚马逊） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Duke University（杜克大学） 纠错

专题命中 其他安全 ：alignment(abstract)

Comments Submitted to CVPR 2025 and Published at CVPR 2025 AI for Content Creation workshop

Open-source Stand-Alone Versatile Tensor Accelerator

Anthony Faure-Gignoux, Kevin Delmas, Adrien Gauffriau, Claire Pagetti

专题命中 其他安全 ：safety(abstract)

Journal ref 44th Digital Avionics Systems Conference (DASC), Sep 2025, Montreal, Canada

Multimodal Chain of Continuous Thought for Latent-Space Reasoning in Vision-Language Models

Tan-Hanh Pham, Chris Ngo

机构 * Harvard Medical School, Harvard University（哈佛医学院、哈佛大学） ； Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital（阿提尼乌拉A.马丁努斯生物医学成像中心、麻省总医院） ； Knovel Engineering Lab, Singapore（Knovel工程实验室、新加坡） 纠错

专题命中 其他安全 ：alignment(abstract)

RG-Attn: Radian Glue Attention for Multi-modality Multi-agent Cooperative Perception

Lantao Li, Kang Yang, Wenqi Zhang, Xiaoxue Wang, Chen Sun

机构 * Sony (China) Limited（索尼（中国）有限公司） ； Renmin University of China（中国人民大学） 纠错

专题命中 其他安全 ：alignment(abstract)

Comments Accepted by ICCV 2025 DriveX workshop (Final Version)