Technion - Israel Institute of Technology（以色列理工学院）

ManagerBench: Evaluating the Safety-Pragmatism Trade-off in Autonomous LLMs

ManagerBench: 评估自主大语言模型中的安全与务实之间的权衡

Adi Simhi, Jonathan Herzig, Martin Tutek, Itay Itzhak, Idan Szpektor, Yonatan Belinkov

机构 * Technion – Israel Institute of Technology（技术学院–以色列理工学院） ； Google Research（谷歌研究） ； University of Zagreb（Zagreb大学） ； Kempner Institute, Harvard University（哈佛大学凯普勒研究所） 纠错

AI总结 ManagerBench评估自主大语言模型在安全与务实权衡中的表现，揭示模型在冲突目标下的决策缺陷。

Adversarial Attacks in Weight-Space Classifiers

权重空间分类器中的对抗攻击

Tamir Shor, Ethan Fetaya, Chaim Baskin, Alex Bronstein

机构 * Technion – Israel Institute of Technology（技术学院 – 以色列理工学院） ； Bar-Ilan University（巴伊兰大学） ； Ben-Gurion University of the Negev（贝加尔大学） ； Institute of Science and Technology（科学与技术研究所） 纠错

AI总结 本研究分析了权重空间分类器在对抗攻击下的鲁棒性，发现参数空间模型比传统分类器更抗攻击，并归因于优化过程中的梯度混淆现象。

On Adversarial Attacks In Acoustic Drone Localization

关于声学无人机定位中的对抗攻击

Tamir Shor, Chaim Baskin, Alex Bronstein

机构 * Department of Computer Science（计算机科学系） ； Technion – Israel Institute of Technology（技术ion-以色列理工学院） ； School of Electrical and Computer Engineering（电气与计算机工程学院） ； Ben-Gurion University of the Negev（贝内尔谢瓦大学） ； Institute of Science and Technology Austria（奥地利科学与技术研究院） 纠错

AI总结 本文研究了对抗攻击对声学无人机定位的影响，提出了一种对抗扰动恢复算法以降低攻击影响。