当前位置: 首页 > news >正文

DeepSeek本地化部署(DeepSeek+olloma+Dify)

文章目录

    • 概要
    • 需要准备的工具
    • Ollama准备内容
    • Docker准备内容
    • Dify准备内容
    • 本地访问Dify

概要

提示:本篇文章主要讲述如何部署本地Deepseek私有大模型,使用Windows+无显卡环境进行部署

需要准备的工具

Ollama、Docker Desktop

下载地址:
Ollama:https://ollama.com/download
Docker Desktop:https://www.docker.com/

Ollama准备内容

进入我提供的Ollama下载链接后,选择Windwos,点击Download for Windows进行下载.在这里插入图片描述
安装完成后,使用cmd命令窗口执行ollama list,有下述Name Id Size Modified返回即可,这个命令是展示我们使用ollama下载的模型列表,我这边就有deepseek-r1.1.5b的模型与nomic-Embed模型
在这里插入图片描述
然后在命令窗口内输入 ollama run deepseek-r1:1.5b 此命令是进行下载1.5b的deepseek模型,这个模型是用于无显卡的环境下可以进行使用大模型,如果有条件的可以使用其他更多参数的模型。
下载完成后,就会显示下面这个图片,就代表我们的模型已经启动成功了.Ollama这块就可以告一段落了。
在这里插入图片描述

Docker准备内容

因此要用到Docker这个容器化平台,先从官网 https://www.docker.com 下载,这里依然选择Windows版:
在这里插入图片描述
下载后安装,选项全默认即可:

在这里插入图片描述
安装完成需要重新启动Windows:
在这里插入图片描述
重启后需要同意Docker的条款,并注册你的账号:
在这里插入图片描述
Docker安装部分就告一段落了。

Dify准备内容

根据官方部署文档,我们克隆官方的docker 文件进行部署,首先进入到local 目录下,执行cd /usr/local,然后执行下面命令克隆下来

sudo git clone https://github.com/langgenius/dify.git

然后我们进入dify文件夹里的docker目录,然后执行docker命令部署运行dify,执行后等待部署完成,Dify部分下载内容可能需要科学上网,部分镜像不在国内,如果不支持科学上网,可以使用Open WebUI

sudo docker compose up -d

docker部署运行完成后,我们输入指令sudo docker ps即可看到运行的容器,其中在运行的容器列表可以看到有个nginx的容器,且对外访问的是80端口,这个就是我们外部访问的端口,下面我们进行本地访问测试
在这里插入图片描述

本地访问Dify

上面在docker中成功部署且运行后,接下来进行本地访问,上面我们查看到对外访问端口是80,本地访问地址是http://localhost/,首次进入需要进行配置管理员账号。
在这里插入图片描述
配置完账号就可以进入工作台,导入自己的资料库进行私有化部署自己的Deepsseek了。

相关文章:

  • vmware虚拟机中Ubuntu系统磁盘扩容
  • 《Generative Adversarial Nets》-GAN:生成对抗网络,一场伪造者与鉴定师的终极博弈
  • 深度学习——同一台电脑使用ssh配置多个github账号
  • LLM - 白话向量模型和向量数据库
  • CI/CD
  • 【Qt】supervisorctl进程管理:启动、重启、环境设置
  • 求阶乘的和(信息学奥赛一本通-1091)
  • 蛋白质功能预测论文阅读记录2025(DPFunc、ProtCLIP)
  • L2-4 吉利矩阵
  • 【小白向】Ubuntu|VMware 新建虚拟机后打开 SSH 服务、在主机上安装vscode并连接、配置 git 的 ssh
  • OkHttp3 详解及开发实例—官方原版(一)
  • 计算机毕业设计:基于web的乡村旅游系统
  • ubuntu软件——视频、截图、图片、菜单自定义等
  • ROS实践(三)机器人描述文件xacro(urdf扩展)
  • 【MySQL】用户管理和权限
  • Hive SQL 精进系列:COALESCE 手册
  • 【面试】计算机网络
  • 面试之《IntersectionObserver的使用》
  • AI 大模型统一集成|让 AI 聊天更丝滑:WebSocket 实现流式对话!
  • 数据批处理(队列方式)
  • 王星昊再胜连笑,夺得中国围棋天元赛冠军
  • 一回合摘下“狮心”,张名扬霸气回应观众:再嘘一个我听听
  • 六部门:进一步优化离境退税政策扩大入境消费
  • 剪纸纹样“流动”在水乡,谁不忆江南
  • 2025全国知识产权宣传周:用AI生成的图片要小心什么?
  • 乐聚创始人:人形机器人当前要考虑泡沫问题,年底或将进入冷静期