DeepSeek本地化部署(DeepSeek+olloma+Dify)
文章目录
- 概要
- 需要准备的工具
- Ollama准备内容
- Docker准备内容
- Dify准备内容
- 本地访问Dify
概要
提示:本篇文章主要讲述如何部署本地Deepseek私有大模型,使用Windows+无显卡环境进行部署
需要准备的工具
Ollama、Docker Desktop
下载地址:
Ollama:https://ollama.com/download
Docker Desktop:https://www.docker.com/
Ollama准备内容
进入我提供的Ollama下载链接后,选择Windwos,点击Download for Windows进行下载.
安装完成后,使用cmd命令窗口执行ollama list,有下述Name Id Size Modified返回即可,这个命令是展示我们使用ollama下载的模型列表,我这边就有deepseek-r1.1.5b的模型与nomic-Embed模型
然后在命令窗口内输入 ollama run deepseek-r1:1.5b 此命令是进行下载1.5b的deepseek模型,这个模型是用于无显卡的环境下可以进行使用大模型,如果有条件的可以使用其他更多参数的模型。
下载完成后,就会显示下面这个图片,就代表我们的模型已经启动成功了.Ollama这块就可以告一段落了。
Docker准备内容
因此要用到Docker这个容器化平台,先从官网 https://www.docker.com 下载,这里依然选择Windows版:
下载后安装,选项全默认即可:
安装完成需要重新启动Windows:
重启后需要同意Docker的条款,并注册你的账号:
Docker安装部分就告一段落了。
Dify准备内容
根据官方部署文档,我们克隆官方的docker 文件进行部署,首先进入到local 目录下,执行cd /usr/local,然后执行下面命令克隆下来
sudo git clone https://github.com/langgenius/dify.git
然后我们进入dify文件夹里的docker目录,然后执行docker命令部署运行dify,执行后等待部署完成,Dify部分下载内容可能需要科学上网,部分镜像不在国内,如果不支持科学上网,可以使用Open WebUI
sudo docker compose up -d
docker部署运行完成后,我们输入指令sudo docker ps即可看到运行的容器,其中在运行的容器列表可以看到有个nginx的容器,且对外访问的是80端口,这个就是我们外部访问的端口,下面我们进行本地访问测试
本地访问Dify
上面在docker中成功部署且运行后,接下来进行本地访问,上面我们查看到对外访问端口是80,本地访问地址是http://localhost/,首次进入需要进行配置管理员账号。
配置完账号就可以进入工作台,导入自己的资料库进行私有化部署自己的Deepsseek了。