SafeGPT：防止企业LLM使用中的数据泄露和不道德输出
SafeGPT: Preventing Data Leakage and Unethical Outputs in Enterprise LLM Use
AI总结：
提出SafeGPT双护栏系统，通过输入侧检测/编辑、输出侧审核/重构及人工反馈，有效降低数据泄露风险和偏见输出。
摘要：
大型语言模型（LLM）正在改变企业工作流程，但当员工无意中共享机密数据或生成违反政策的内容时，会带来安全和伦理挑战。本文提出SafeGPT，一个双护栏系统，防止敏感数据泄露和不道德输出。SafeGPT集成了输入侧检测/编辑、输出侧审核/重构以及人工反馈循环。实验表明，SafeGPT有效降低了数据泄露风险和偏见输出，同时保持了用户满意度。
英文摘要：
Large Language Models (LLMs) are transforming enterprise workflows but introduce security and ethics challenges when employees inadvertently share confidential data or generate policy-violating content. This paper proposes SafeGPT, a two-sided guardrail system preventing sensitive data leakage and unethical outputs. SafeGPT integrates input-side detection/redaction, output-side moderation/reframing, and human-in-the-loop feedback. Experiments demonstrate SafeGPT effectively reduces data leakage risk and biased outputs while maintaining satisfaction.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
