RAG / 检索增强生成

Private LLM Inference on Consumer Blackwell GPUs: A Practical Guide for Cost-Effective Local Deployment in SMEs

在消费级Blackwell GPU上进行私有LLM推理：为中小企业实现低成本本地部署的实用指南

Jonathan Knoop, Hendrik Holtmann

机构 * IE Business University（IE商学院） 纠错

专题命中 RAG评测 ：RAG(abstract)；分类 cs.AI

AI总结 本文评估了消费级Blackwell GPU在LLM推理中的性能，证明其在多数中小企业工作负载中可替代云服务，但长上下文RAG任务仍需高端GPU。

Comments 15 pages, 18 tables, 7 figures. Includes link to GitHub repository and Docker image for reproducibility

TEMPO: A Realistic Multi-Domain Benchmark for Temporal Reasoning-Intensive Retrieval

TEMPO：一个用于时间推理密集检索的多领域基准

Abdelrahman Abdallah, Mohammed Ali, Muhammad Abdul-Mageed, Adam Jatowt

专题命中 RAG评测 ：RAG(abstract)；分类 cs.IR

AI总结 TEMPO是一个结合时间推理与多领域检索的基准，通过复杂查询和多步骤检索规划，评估检索系统在时间信息处理上的挑战和性能。