FaTRQ: Tiered Residual Quantization for LLM Vector Search in Far-Memory-Aware ANNS Systems
FaTRQ:面向远内存感知的ANNS系统中的分层残差量化
机构 * San Diego State University(圣地亚哥州立大学)
专题命中 向量检索 :vector search(title);retrieval-augmented generation(abstract);RAG(abstract);分类 cs.IR
AI总结 FaTRQ通过分层残差量化和自定义加速器,提升ANNS系统的存储效率和吞吐量。