想了解AI产品的来看一下什么是本地化知识库部署 操作流程介绍

想了解AI产品的来看一下什么是本地化知识库部署 操作流程介绍

本地化知识库部署是指将知识库相关的软件、模型和数据安装并运行在本地服务器或个人计算机等本地设备上，而非存储在云端或其他远程服务器上。其优势在于数据安全性和隐私性更高，可避免数据在网络传输和云端存储过程中可能面临的风险，对于一些对响应速度要求较高的场景，本地部署可减少网络延迟，提供更快速的服务

。以下是以 Ollama 和 RAGFlow 为例的本地化知识库部署操作流程：

1. 安装 Ollama：登录 Ollama 官网，下载适用于本地系统的安装包并进行安装。安装后可在 CMD 窗口输入 “ollama” 查看是否安装成功。

2. 配置环境变量：创建名为 “OLLAMA_MODELS” 的环境变量，变量值设置为大模型下载存储的目录位置，如 “F:\OllamaModels”。

3. 下载模型：根据本地硬件配置，选择合适版本的 DeepSeek 模型。打开命令行终端，输入相应命令下载模型，如 “ollama run deepseek - r1:7b”，等待模型下载并启动成功。

4. 安装 Docker：下载并安装 Docker 客户端，用于后续部署 RAGFlow。

5. 部署 RAGFlow：从 RAGFlow 官方 GitHub 仓库下载相关资源。进入下载完的 RAGFlow 文件夹中的 docker 文件夹，修改.env 文件内的 RAGFLOW_IMAGE 变量，如设置为 “infiniflow/ragflow:v0.18.0” 以获取带嵌入模型的版本。在 RAGFlow 目录中打开命令行，输入 “docker compose -f docker/docker - compose.yml up -d”，使用 docker - compose.yml 启动项目，并在后台运行。

6. 配置端口：若出现端口未开放问题，需在本地 Windows 开放 11434 端口。可搜索并进入 “Windows Defender 防火墙设置”，选择 “入站规则”→“新建规则”，按提示选择 “端口”，输入 11434 端口并设置允许连接，完成端口配置。

7. 设置默认模型：打开 RAGFlow 界面，点击右上角头像，在左侧找到模型提供商，选择 Ollama，根据下载的模型名称添加 LLM，并设置默认模型，配置聊天模型与嵌入模型。

8. 创建知识库：回到 RAGFlow 主界面，点击 “知识库” 并创建，输入知识库名称，配置权限及嵌入模型，选择合适的解析方法后保存。

9. 上传文件：在创建好的知识库中，上传需要纳入知识库的文件，如 TXT、PDF、DOCX 等格式的文档，系统会对文件进行解析和处理，完成本地化知识库的搭建。