大模型对齐与安全

Chameleon: Adaptive Adversarial Agents for Scaling-Based Visual Prompt Injection in Multimodal AI Systems

Chameleon：基于尺度的视觉提示注入的自适应对抗代理

M Zeeshan, Saud Satti

专题命中 提示注入 ：prompt injection(title)；分类 cs.AI

AI总结 Chameleon是一种自适应对抗框架，通过动态优化图像扰动来暴露和利用多模态AI系统中的缩放漏洞，显著提高攻击成功率并影响决策准确性。

Comments 5 pages, 2 figures, IEEE Transactions on Dependable and Secure Computing

Boundary-Aware Test-Time Adaptation for Zero-Shot Medical Image Segmentation

面向边界的测试时适应用于零样本医学图像分割

Chenlin Xu, Lei Zhang, Lituan Wang, Xinyu Pu, Pengfei Ma, Guangwu Qian, Zizhou Wang, Yan Wang

机构 * School of Computer Science, Sichuan University（四川大学计算机学院） ； Pittsburgh Institute, Sichuan University（四川大学匹兹堡学院） ； Institute of High Performance Computing, Agency for Science, Technology and Research (A*STAR)（科技研究局高性能计算研究所） 纠错

专题命中 提示注入 ：alignment(abstract)；prompt injection(abstract)

AI总结 BA-TTA-SAM通过测试时适应提升SAM在医学图像零样本分割中的性能，采用高斯提示注入和边界感知注意力对齐机制，实现12.4%的Dice分数提升。