Superposition disentanglement of neural representations reveals hidden alignment
机构 * UC San Diego(圣迭戈大学) ; Cold Spring Harbor Laboratory(冷泉港实验室)
专题命中 其他安全 :alignment(title,abstract);分类 cs.LG
AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
机构 * UC San Diego(圣迭戈大学) ; Cold Spring Harbor Laboratory(冷泉港实验室)
专题命中 其他安全 :alignment(title,abstract);分类 cs.LG
专题命中 其他安全 :alignment(title,abstract)
Comments Accepted to AAAI 2026. Code is available at https://github.com/lessiYin/DSANet
机构 * Beijing Institute of Technology(北京理工大学)
专题命中 其他安全 :alignment(title,abstract)
Comments 10 pages, 6 figures
机构 * University of California, Berkeley(加州大学伯克利分校) ; Korea University(韩国大学) ; Chalmers University of Technology(查尔姆斯理工大学) ; University of Gothenburg(哥德堡大学) ; University of California, Santa Cruz(加州大学圣克ruz分校)
专题命中 其他安全 :safety(abstract);分类 cs.AI、cs.LG
Journal ref NASA Formal Methods Conference 2025
机构 * EXL Health AI Lab at MEDIQA-OE 2025(EXL健康AI实验室)
专题命中 其他安全 :safety(abstract);分类 cs.CL、cs.AI
Comments 2 figures 7 pages
机构 * Department of Environmental Sciences, Informatics and Statistics(环境科学、信息学与统计学系) ; Department of Linguistic Sciences And Foreign Literatures(语言科学与外国文学系)
专题命中 其他安全 :alignment(abstract);分类 cs.CL、cs.AI
专题命中 其他安全 :alignment(abstract);分类 cs.CL
Comments AAAI2026 Main Track Accepted
专题命中 其他安全 :alignment(abstract);分类 cs.AI
专题命中 其他安全 :alignment(abstract);分类 cs.CL
Comments AAAI'26, Oral Paper
专题命中 其他安全 :alignment(abstract);分类 cs.AI
Comments Accepted by AAAI 2026
机构 * Hangzhou International Innovation Institute, Beihang University(北京航空航天大学杭州国际创新研究院) ; School of Artificial Intelligence, Beihang University(北京航空航天大学人工智能学院) ; Nanyang Technological University(南洋理工大学) ; University of Leicester(莱斯特大学) ; School of Astronautics, Beihang University(北京航空航天大学航天学院)
专题命中 其他安全 :alignment(abstract);分类 cs.AI
专题命中 其他安全 :alignment(abstract);分类 cs.CL
Comments Accepted by AAAI 2026 Oral. Project link: https://zhanghao-aaai2026-sps.github.io/AAAI2026-SPS/
专题命中 其他安全 :alignment(abstract);分类 cs.LG
Comments Accepted to NeurIPS 2025 (Oral)
专题命中 其他安全 :alignment(abstract);分类 cs.LG
Comments Accepted at AAAI 2026
机构 * Manning College of Information & Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院) ; Institute for the Study of the Ancient World, New York University(纽约大学古代世界研究所)
专题命中 其他安全 :alignment(abstract);分类 cs.CL