University of California, Berkeley（加州大学伯克利分校）

Patient Safety Risks from AI Scribes: Signals from End-User Feedback

人工智能记录员对患者安全的风险：来自终端用户反馈的信号

Jessica Dai, Anwen Huang, Catherine Nasrallah, Rhiannon Croci, Hossein Soleimani, Sarah J. Pollet, Julia Adler-Milstein, Sara G. Murray, Jinoos Yazdany, Irene Y. Chen

机构 * University of California Berkeley（加州大学伯克利分校） ； University of California San Francisco（加州大学旧金山分校） 纠错

AI总结 本研究通过混合方法分析了AI记录员在医疗反馈中引发的患者安全风险，发现转录错误可能导致药物和治疗方面的风险，需进一步研究以明确风险程度。

Comments ML4H Findings 2025

In-Context Representation Hijacking

上下文表示劫持

Itay Yona, Amir Sarid, Michael Karasik, Yossi Gandelsman

机构 * Mentaleap ； Independent Researcher（独立研究者） ； UC Berkeley（加州大学伯克利分校） 纠错

AI总结 Doublespeak通过替换有害关键词为无害标记，使模型内部表示收敛至有害语义，从而绕过安全对齐。

Learning Two-agent Motion Planning Strategies from Generalized Nash Equilibrium for Model Predictive Control

从广义纳什均衡学习双智能体运动规划策略用于模型预测控制

Hansung Kim, Edward L. Zhu, Chang Seok Lim, Francesco Borrelli

机构 * University of California Berkeley（加州大学伯克利分校） ； PlusAI Inc（PlusAI公司） 纠错

AI总结 本文提出了一种基于广义纳什均衡的学习方法，用于多智能体运动规划中的模型预测控制，通过训练神经网络预测奖励结果来实现博弈论互动的隐式处理。

Comments Accepted Proceeding at 2025 Learning for Dynamics and Control Conference (L4DC)

Journal ref 283:112-123, 2025

KiVA: Kid-inspired Visual Analogies for Testing Large Multimodal Models

KiVA：儿童启发的视觉类比用于测试大多模态模型

Eunice Yiu, Maan Qraitem, Anisa Noor Majhi, Charlie Wong, Yutong Bai, Shiry Ginosar, Alison Gopnik, Kate Saenko

机构 * University of California, Berkeley（加州大学伯克利分校） ； Boston University（波士顿大学） ； Google DeepMind（谷歌DeepMind） ； Toyota Technological Institute at Chicago（芝加哥丰田技术研究所） 纠错

AI总结 KiVA通过4300个日常物体视觉转换测试大模型的类比推理能力，发现儿童和成人表现优于现有模型，尤其在复杂任务上存在显著差距。

Comments 10 pages. Project website: https://ey242.github.io/kiva.github.io/. Benchmark and code: https://github.com/ey242/KiVA

Journal ref The Thirteenth International Conference on Learning Representations (ICLR), 2025