在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用
环境:
Win10专业版
Ubuntu20.04
问题描述:
在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用,原电脑win10上的ollama下载的模型,复制到ubuntu20.04的ollama上推理
解决方案:
一、Windows端模型文件定位与提取
- 定位模型存储路径
Windows默认路径:C:\Users\[用户名]\.ollama\models
需复制两个核心目录:
•blobs
:存放所有模型二进制文件(文件名以sha256哈希值命名)
•manifests
:包含模型元数据(路径为manifests/registry.ollama.ai/library/[模型名]/版本文件
)
-
选择性提取文件
二、Ubuntu端模型部署
- 目录准备与权限设置
/usr/share/ollama/.ollama/models/chmod -R a+w /usr/share/ollama/.ollama/models
- 文件传输
找到对应模型文件
上传到服务器
三、服务验证
-
重启Ollama服务(一般不重启,没读到再重启试试)
sudo systemctl restart ollama
-
模型状态检查
# 查看模型列表 ollama list
就会出现新迁移的模型,最后run一下试试
四、常见问题处理
问题现象 | 解决方案 |
---|---|
模型列表不显示 | 检查manifests 目录结构是否为registry.ollama.ai/library/[模型名]/版本文件 |
推理时报权限错误 | 执行sudo chmod -R 755 /usr/share/ollama/.ollama/models |
服务启动失败 | 检查systemd配置:sudo journalctl -u ollama.service -b |
显存不足导致推理中断 | 改用较小参数模型(如1.5b替代7b),或添加swap空间 |
迁移验证要点:
- 对比Windows与Ubuntu的blobs目录文件哈希值(使用
sha256sum
命令) - 确保manifest文件中的digest值与实际blobs文件对应
- 通过
ollama ps
查看模型加载状态