本地化知识库部署的操作步骤详细解析 以及申请的周期和对公司专业人员的要求
本地化知识库部署操作步骤因所选工具和模型不同会有差异,以常见的 Ollama 和 Cherry Studio 为例,具体步骤如下:
准备工作:确保有足够的存储资源,至少 50GB 空闲空间,用于存放模型、文档和向量数据库。确定所需的 Embedding 模型,如 nomic - embed - text、bge - m3 等。
安装 Ollama:访问Ollama 官网下载对应操作系统的安装包进行安装。若想更改默认安装路径到 D 盘,可在 D 盘新建文件夹如 D:\ollama,以管理员权限打开命令行,切换到 D 盘后执行安装命令。安装完成后,可在命令行输入 “ollama”,若显示相关信息则表示安装成功。
配置环境变量:若希望模型下载到指定路径,如 D:\ollama\models,需编辑系统环境变量。新建名为 “OLLAMA_MODELS” 的变量,值设为指定路径,将该路径添加到系统的 path 变量中,配置完后重启 Ollama。
下载并运行模型:在官网 Models 里搜索 DeepSeek 模型,如 deepseek - r,使用 “ollama run deepseek - r1:1.5b” 命令下载指定版本模型。下载过程中可查看进度,下载完成显示 “success” 后会自动开启对话,可输入文本测试模型是否正常运行。也可使用 “ollama list” 命令查看已安装模型。同样方法可下载 Embedding 模型。
安装 Cherry Studio:访问 [Cherry Studio 官网](https://cherry - ai.com/download) 下载安装包并安装,安装后打开运行。
配置模型连接:打开 Cherry Studio,点击左下角 “设置”-“模型服务”,选择 Ollama,点击管理按钮,在列出的模型后面点击加号添加模型,本地模型无需配置 API 密钥,添加完成即配置成功。可切换到对话窗口,在Zui上方选择 Ollama 提供的配置好的模型进行对话,验证是否成功。
构建知识库:点击左侧 “知识库”-“添加”,输入知识库名称,选择嵌入模型,可选择 Ollama 安装的 nomic - embed - text 等。点击创建好的知识库,上传文件,若遇到解析失败,可尝试切换适合的嵌入向量模型库。
使用知识库:在对话问答框里选择对应的知识库进行提问,系统会根据知识库检索并做出回答,验证问答功能是否正常。

本地化知识库部署申请周期通常在 6 个月左右,具体时长取决于企业规模、技术复杂度、硬件采购流程等因素。具体阶段及耗时如下:
需求调研与方案设计:明确业务需求、数据规模、安全合规要求,设计技术架构,耗时 2-4 周。
硬件采购与环境搭建:采购服务器等硬件,部署机房,耗时 4-8 周。
软件部署与配置:安装操作系统、数据库等,配置知识库管理系统,集成安全组件,耗时 2-4 周。
数据迁移与测试:导入历史数据,测试知识库功能和安全性,耗时 2-6 周。
验收与上线:进行内部验收、用户培训,制定应急预案,耗时 1-2 周。
对公司专业人员的要求如下:
技术技能:需要有熟悉 AI 技术的专业人员,如了解机器学习、自然语言处理相关知识,能够选择合适的模型和算法。要掌握服务器、数据库、操作系统等相关知识,具备服务器配置、数据库管理、操作系统安装与优化等技能,以便进行硬件环境搭建和软件部署配置。还需有人员熟悉网络架构和安全技术,能确保网络环境稳定安全,进行防火墙配置、数据加密等操作。
运维能力:具备专业的运维人员,能够对本地化知识库系统进行日常监控,及时发现并解决系统运行过程中出现的问题,如服务器故障、性能瓶颈等。要定期进行数据备份和恢复演练,确保数据安全和系统高可用性。
项目管理能力:若部署项目规模较大,需要有项目管理人员,能够协调各部门资源,制定项目计划,把控项目进度,确保项目按计划顺利推进,及时解决项目中的沟通协调问题。
