RAGFlow infiniflow/ragflow

能干什么

一个把「一堆 PDF/Word/网页」变成可问答知识库的 RAG 引擎：文档解析（尤其擅长复杂排版/PDF 表格）、切分、向量化、检索、生成全链路自带，回答带引用溯源（哪句话来自哪份文档哪一段）。Agent 原生——能接工具、做多轮检索。可自托管，模型端点可指向本地 LLM，也能接在线 API。

怎么干

• Docker Compose 一键起（docker compose up -d）
• 在网页端建知识库、传文档、选解析方式
• 问答时可把生成端点指成本地模型（Ollama / vLLM 等）

本站怎么用

「本地模型 + 自己的文档」是读者落地最多的一步——聊天是起点，喂文档才是生产力。RAGFlow 是这条链的知识库侧。注意它要连一个 embedding 模型 + 主模型：embedding 常驻显存，主模型按 /capacity/ 查档位，两者显存要加起来算。

显存口径

总账 = 主模型（按 /capacity/ 档位）+ embedding 模型常驻（常见 0.5–1.5G 级）+ 检索向量内存。16G 档是「本地 RAG 比较舒服」的常见起点，8G 档用小 embedding + 小主模型也能跑。