Ollama离线安装完整指南与常见问题解决
·
快速体验
- 打开 InsCode(快马)平台 https://www.inscode.net
- 输入框输入如下内容
帮我开发一个Ollama离线安装辅助工具,解决Linux系统下因网络问题导致的安装失败。系统交互细节:1.自动检测CPU架构 2.提供离线包下载链接 3.生成修改好的install.sh脚本 4.指导环境变量配置。注意事项:需区分x86_64和arm64架构。 - 点击'项目生成'按钮,等待项目生成完整后预览效果

一、离线安装核心步骤解析
-
硬件环境检测 通过
lscpu命令确认CPU架构是x86_64还是arm64,这是选择正确安装包的前提。不同架构的二进制文件不兼容,选错会导致运行异常。 -
安装包获取技巧 官方下载地址可能较慢,建议通过GitHub或Gitee镜像获取。将下载的
ollama-linux-[架构]文件保存到自定义目录(如/home/Ollama),避免系统目录权限问题。 -
脚本关键修改点
- 注释掉原脚本中的curl下载命令(约65行)
- 修改安装路径指向本地离线包(约73行)
-
注意保持脚本中的权限设置(o0-g0-m755)
-
模型目录配置 通过
OLLAMA_MODELS环境变量指定大模型存储位置,避免默认目录空间不足。建议设置在/home分区并确保有足够空间(至少20GB)。
二、典型问题解决方案
- GPU支持异常处理
- NVIDIA显卡需确认已安装CUDA驱动,可通过
nvidia-smi验证 - AMD显卡需要ROCm环境,若缺失会提示下载依赖包
-
无GPU时自动降级为CPU模式运行
-
systemd服务管理
- 安装脚本会自动创建ollama系统用户和服务
- 手动重启服务可用
systemctl restart ollama -
日志查看路径:/var/log/syslog
-
权限问题排查
- 运行前用
chmod +x给脚本添加执行权限 - 目录权限问题可通过
ls -l检查 - 建议全程使用普通用户+sudo方式执行

三、进阶使用建议
- 模型运行优化
- 首次运行会下载模型,建议提前准备好代理
- 可用
ollama list查看已安装模型 -
停止服务释放资源:
service ollama stop -
多版本管理
- 通过VER_PARAM参数指定版本号
-
旧版本备份:复制/usr/share/ollama目录
-
安全注意事项
- 不要直接以root运行服务
- 定期清理/tmp临时文件
- 生产环境建议配置防火墙规则
遇到安装困难时,可以尝试在InsCode(快马)平台快速生成定制化安装工具,其可视化操作界面能自动处理架构判断和脚本修改,比手动操作更高效可靠。平台还提供实时日志查看和资源监控功能,特别适合需要频繁调试的场景。
更多推荐


所有评论(0)