发表机构
University of South Carolina（南卡罗来纳大学）
机构由 AI 辅助整理，请以论文原文为准。AI 中文总结
针对公共卫生信息访问，尤其是母婴健康资源导航，设计实现安全约束大语言模型系统。采用多层架构，含领域受限RAG等，通过可控数据管道确保回复基于精选资源。经场景验证，系统安全约束执行一致、性能稳定，为相关领域部署LLM系统提供指导。
AI 中文摘要
我们展示了一个用于公共卫生信息访问的安全约束大语言模型（LLM）系统的设计与实现，重点是母婴健康（MCH）资源导航。基于LLM的系统虽为信息检索提供了灵活自然的接口，但在医疗环境中部署存在安全、信任和生成不受控等风险。本工作探索在安全关键环境中约束LLM行为的实用设计模式。引入多层架构，集成领域受限的检索增强生成（RAG）、防止医疗建议的严格边界执行、匿名多用户会话管理以及用于监控和合规的全面审计日志记录。设计的关键是可控数据管道，使所有回复基于精选的公共卫生资源，避免依赖预训练模型的医学知识。在实际公共卫生环境中实现该系统，并对范围内、范围外和紧急查询进行基于场景的验证。结果显示安全约束得到一致执行、资源可靠落地且系统性能稳定，平均响应时间为5.3秒。除特定应用外，还讨论了在平衡安全、可用性和系统灵活性方面的设计权衡和经验教训。我们的发现为在医疗保健和其他需要严格信息边界和问责制的领域部署基于LLM的系统提供了实用指导。
英文摘要
Conversational AI can improve access to public health information, but public-facing healthcare applications require safeguards against inappropriate medical guidance and unsupported generation. We present a Safety-First Science Gateway for maternal and child health (MCH) resource navigation that combines large language models (LLMs) and retrieval-augmented generation (RAG) with a multi-layer safety architecture. The gateway integrates emergency handling, domain/scope screening, source attribution, anonymous session management, and operational audit logging while restricting retrieval to curated institutional resources. We describe the gateway architecture, prototype implementation, and functional verification of selected workflows. The current system provides resource provenance and safety-bounded navigation; it does not constitute a clinical decision-support system or automated claim-by-claim verification of generated health information. This work provides a reusable architectural framework for conversational navigation of curated public-health resources.
