针对 Llama 3 的模型反演攻击：从大型语言模型中提取个人身份信息
Model Inversion Attacks on Llama 3: Extracting PII from Large Language Models
AI总结：
本文研究针对 Meta 多语言模型 Llama 3.2 的模型反演攻击，通过精心设计的提示词成功提取密码、邮箱和账号等个人身份信息，揭示小型 LLM 的隐私脆弱性，并探讨差分隐私与数据清洗等防御策略。
摘要：
大型语言模型（LLMs）已经变革了自然语言处理，但其记忆训练数据的能力带来了重大的隐私风险。本文研究了针对 Llama 3.2 模型的模型反演攻击，该模型是 Meta 开发的多语言 LLM。通过使用精心设计的提示词查询该模型，我们展示了个人身份信息（PII）的提取，例如密码、电子邮件地址和账号。我们的发现凸显了即使是较小的 LLM 也容易受到隐私攻击，并强调了稳健防御的必要性。我们讨论了潜在的缓解策略，包括差分隐私和数据清洗，并呼吁对隐私保护机器学习技术进行进一步研究。
英文摘要：
Large language models (LLMs) have transformed natural language processing, but their ability to memorize training data poses significant privacy risks. This paper investigates model inversion attacks on the Llama 3.2 model, a multilingual LLM developed by Meta. By querying the model with carefully crafted prompts, we demonstrate the extraction of personally identifiable information (PII) such as passwords, email addresses, and account numbers. Our findings highlight the vulnerability of even smaller LLMs to privacy attacks and underscore the need for robust defenses. We discuss potential mitigation strategies, including differential privacy and data sanitization, and call for further research into privacy-preserving machine learning techniques.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
