大模型本地部署之ollama安装及deepseek、qwen等模型下载操作
大模型本地部署之----ollama安装指南
最新版--下载方式
Download Ollama on macOS
因github下载较慢,可以网上搜索github加速工具下载
----download后加版本号
例如: https://github.com/ollama/ollama/releases/download/v0.6.5/OllamaSetup.exe
通过网盘分享的文件:ollama-v0.6.5.zip
链接: https://pan.baidu.com/s/1zpPj99lsRiTrvOehbP3b2w?pwd=yatx 提取码: yatx
--来自百度网盘超级会员v7的分享
下载完成后找到文件
---默认点击安装C盘目录
---因占用C盘故命令行cmd执行修改安装目录操作执行
安装之前先设置指定模型安装目录位置--配置环境变量--新建D:\data\ollamamodel
开始安装-ollama-指定安装目录
执行后点击install等待安装即可
安装完成后
或
即安装运行成功
部分环境变量安装参考
添加系统环境变量OLLAMA_MODELS:
变量名:OLLAMA_MODELS,
变量值:path/to/your/models(该路径用于存储模型文件)
添加系统环境变量OLLAMA_HOST:
变量名:OLLAMA_HOST
变量值:0.0.0.0(表示允许其他电脑访问 Ollama)
添加系统环境变量OLLAMA_PORT:
变量名:OLLAMA_PORT
变量值:11434(11434是ollama默认端口,也可修改为其他接口)
添加系统环境变量OLLAMA_PORT:
变量名:OLLAMA_ORIGIN
变量值:*(允许任意源跨域访问)
环境变量添加完成后重启电脑
模型下载
官网参考选取模型
---常用模型
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run qwen2.5
ollama run llama3