大家好，我是程序员寒山。

最近火爆的Deepseek，让我们再次把本地知识库的搭建提上了日程。

如何使用大模型高效地管理和利用知识，同时解决大模型专业应用方向的能力，成为了迫切需要解决的问题。
本文将详细介绍如何使用Ollama、Deepseek R1大语音模型、Nomic-Embed-Text向量模型和AnythingLLM共同搭建一个本地的私有RAG知识库。

0. 准备工作

什么是RAG？

RAG是一种结合了信息检索和大模型（LLM）的技术，在对抗大模型幻觉、高效管理用户本地文件以及数据安全保护等方面具有独到的优势。

主要包括：

• 索引：将文档库分割成较短的 Chunk，并通过编码器构建向量索引。
• 检索：根据问题和 chunks 的相似度检索相关文档片段。
• 生成：以检索到的上下文为条件，生成问题的回答。

在开始之前，确保我们需要使用的工具和库：

• Ollama
• Deepseek R1 LLM模型
• Nomic-Embed-Text向量模型
• AnythingLLM

1. 安装 Ollama

Ollama