近火爆的Deepseek，让我们再次把本地知识库的搭建提上了日程。

如何使用大模型高效地管理和利用知识，同时解决大模型专业应用方向的能力，成为了迫切需要解决的问题。

RAG（Retrieval-Augmented Generation）增强信息检索和生成模型，能够从大规模知识库中检索相关信息并生成高质量的反馈。

本文将详细介绍如何使用Ollama、Deepseek R1大语音模型、Nomic-Embed-Text向量模型和AnythingLLM共同搭建一个本地的私有RAG知识库。

0. 准备工作

什么是RAG？

RAG是一种结合了信息检索和大模型（LLM）的技术，在对抗大模型幻觉、高效管理用户本地文件以及数据安全保护等方面具有独到的优势。

主要包括：

• 索引：将文档库分割成较短的 Chunk，并通过编码器构建向量索引。
• 检索：根据问题和 chunks 的相似度检索相关文档片段。
• 生成：以检索到的上下文为条件，生成问题的回答。

在开始之前，确保我们需要使用的工具和库：

• Ollama
• Deepseek R1 LLM模型
• Nomic-Embed-Text向量模型
• AnythingLLM

1. 安装 Ollama

Ollama 是一个用于本地运行大型语言模型的工具。

可以通过以下步骤安装 Ollama：

1.1 下载 Ollama

• 访问 Ollama 的 https://ollama.com/官方网站，下载适合你操作系统的安装包。

1.2 安装 Ollama

1.3 验证安装

• 打开终端或命令提示符，输入 ollama --version，确保安装成功。

1.4 Ollama常用命令

2. 配置 DeepSeek R1 模型

2.1 下载 DeepSeek R1 模型

• 从 Ollama的官方网站下载 DeepSeek R1 模型文件。

ollama run deepseek-r1:7b

2.2 启动模型

• 启动和下载模型是同一个命令，如果没有下载过的新模型会直接下载，以及下载过的则直接启动。

ollama run deepseek-r1:7b

3. 配置 Nomic-Embed-Text 模型

3.1 下载 Nomic-Embed-Text 模型

• 从 Ollama的官方网站下载 nomic-embed-text 模型文件。

ollama pull nomic-embed-text

3.2 模型下载完成

4. 安装AnythingLLM

AnythingLLM 是一个功能强大且灵活的开源平台，旨在帮助用户轻松构建和部署基于大型语言模型 (LLM) 的私有化应用程序。

它提供了直观的用户界面、丰富的功能以及高度的可定制性，即使是没有任何编程经验的用户也能快速上手：

1. https://anythingllm.com/desktop，登录官网。
2. 下载对应的版本

3. 打开anythingllm。

5. 搭建RAG本地知识库

现在已经安装并配置好了Ollama、Deepseek R1、Nomic-Embed-Text和AnythingLLM，接下来我们将它们结合起来搭建一个本地的私有RAG知识库。

5.1 数据准备

首先，你需要准备一个知识库数据集。这个数据集可以是一个包含大量文档的目录，也可以是一个预处理的JSON文件。确保每个文档都有一个唯一的ID和文本内容。

我们准备一个Deepseek Janus pro的介绍文档。

5.2 构建索引

使用Nomic-Embed-Text将知识库中的文档转换为向量表示，并构建一个索引：

5.3 检索相关信息

使用Deepseek R1和检索本地向量数据库：

7. 总结

通过本文的介绍，你已经学会了如何搭建一个本地的私有RAG知识库。

这个知识库可以帮助你高效地管理和利用知识，同时增强大模型专业应用方向的能力。

希望这篇文章对你有所帮助，有问题欢迎留言！