Meta

Inadvertent Context Leakage in Language Models

语言模型中的无意上下文泄漏

Jaiden Fairoze, Neal Mangaokar, Kamalika Chaudhuri, Sanjam Garg, Saeed Mahloujifar

机构 * FAIR, Meta Superintelligence Labs（Meta超级智能实验室FAIR） ； University of California, Berkeley（加利福尼亚大学伯克利分校） ； Google DeepMind（谷歌DeepMind） 纠错

AI总结 该研究发现语言模型的上下文窗口会无意泄漏敏感用户信息，提出自适应攻击方法，在8个专有模型上验证了2、4位数秘密的重建准确率，还展示了两种实际攻击方式，指出泄漏是模型能力的副产品。

FleetSieve: Decision-Critical Profiling for SLO-Aware LLM Fleet Configuration

FleetSieve：面向SLO感知的大语言模型集群配置的决策关键型性能分析

Huang Cheng, Scott Zhang, Aubert Li

机构 * Meta 纠错

AI总结 FleetSieve是一种面向SLO感知的LLM集群配置的决策关键型性能分析方法，通过联合建模容量与尾部延迟选择测量，可减少GPU资源消耗，避免违反SLO，提升集群决策效率。