大模型对齐与安全

AI Safety Assurance in Electric Vehicles: A Case Study on AI-Driven SOC Estimation

Martin Skoglund, Fredrik Warg, Aria Mirzai, Anders Thorsen, Karl Lundgren, Peter Folkesson, Bastian Havers-zulka

机构 * RISE Research Institutes of Sweden（瑞典RISE研究机构） 纠错

专题命中 安全评测 ：safety(title,abstract)；AI safety(title,abstract)

Comments 12 pages, 9 figures, EVS38, https://evs38-program.org/en/evs-38-proceedings/all

Symbiotic Agents: A Novel Paradigm for Trustworthy AGI-driven Networks

Ilias Chatzistefanidis, Navid Nikaein

机构 * Eurecom（埃鲁埃康） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI

Comments Submitted to Computer Networks AI for 6G

LLM Embedding-based Attribution (LEA): Quantifying Source Contributions to Generative Model's Response for Vulnerability Analysis

Reza Fayyazi, Michael Zuzak, Shanchieh Jay Yang

机构 * Rochester Institute of Technology（罗切斯特技术学院） ； Gonzaga University（戈兹加大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

SESGO: Spanish Evaluation of Stereotypical Generative Outputs

Melissa Robles, Catalina Bernal, Denniss Raigoso, Mateo Dulce Rubio

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY

Rashomon in the Streets: Explanation Ambiguity in Scene Understanding

Helge Spieker, Jørn Eirik Betten, Arnaud Gotlieb, Nadjib Lazaar, Nassim Belmecheri

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

Comments AAAI 2025 Fall Symposium: AI Trustworthiness and Risk Assessment for Challenged Contexts (ATRACC)

AHELM: A Holistic Evaluation of Audio-Language Models

Tony Lee, Haoqin Tu, Chi Heem Wong, Zijun Wang, Siwei Yang, Yifan Mai, Yuyin Zhou, Cihang Xie, Percy Liang

机构 * Stanford University（斯坦福大学） ； University of California, Santa Cruz（加州大学圣克ruz分校） ； Hitachi America, Ltd.（日立美国有限公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

ANNIE: Be Careful of Your Robots

Yiyang Huang, Zixuan Wang, Zishen Wan, Yapeng Tian, Haobo Xu, Yinhe Han, Yiming Gan

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Georgia Institute of Technology（佐治亚理工学院） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

Unlearning That Lasts: Utility-Preserving, Robust, and Almost Irreversible Forgetting in LLMs

Naman Deep Singh, Maximilian Müller, Francesco Croce, Matthias Hein

机构 * University of Tübingen & Tübingen AI Center, Germany（图宾根大学及图宾根人工智能中心） ； EPFL, Switzerland（瑞士联邦理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

STAR: A Fast and Robust Rigid Registration Framework for Serial Histopathological Images

Zeyu Liu, Shengwei Ding

机构 * School of Biological Science and Medical Engineering, Beihang University, Beijing, China（生物科学与医学工程学院，北航，北京，中国） ； School of Computer Science and Engineering, Beihang University, Beijing, China（计算机科学与工程学院，北航，北京，中国） 纠错

专题命中 安全评测 ：alignment(abstract)

Comments The code is available at https://github.com/Rowerliu/STAR

Novel Category Discovery with X-Agent Attention for Open-Vocabulary Semantic Segmentation

Jiahao Li, Yang Lu, Yachao Zhang, Fangyong Wang, Yuan Xie, Yanyun Qu

专题命中 安全评测 ：alignment(abstract)

Comments Accepted by ACMMM2025