RUBEN：基于规则的检索增强大语言模型输出解释工具
RUBEN: Rule-Based Explanations for Retrieval-Augmented LLM Systems
AI总结：
RUBEN通过新型剪枝策略发现最小规则集解释检索增强大语言模型输出，用于测试安全训练和对抗性提示注入效果。
摘要：
本文展示了RUBEN，一种用于发现检索增强大语言模型（LLM）在数据驱动应用中输出的最小规则集的交互式工具。我们利用新颖的剪枝策略，高效地识别出一个包含所有其他规则的最小规则集。我们进一步展示了这些规则在LLM安全方面的新型应用，特别是用于测试安全训练的鲁棒性和对抗性提示注入的有效性。
英文摘要：
This paper demonstrates RUBEN, an interactive tool for discovering minimal rules to explain the outputs of retrieval-augmented large language models (LLMs) in data-driven applications. We leverage novel pruning strategies to efficiently identify a minimal set of rules that subsume all others. We further demonstrate novel applications of these rules for LLM safety, specifically to test the resiliency of safety training and effectiveness of adversarial prompt injections.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
