一、Ollama是什么?

Ollama 是一个本地部署和运行大型语言模型 (LLM) 的开源框架。Ollama的核心目标就是让在本地电脑上运行强大的AI模型变得像安装一个普通软件一样简单.

二、Ollama安装和升级

本文的ollama使用是在ubuntu22.04系统,其他版本的系统命令行类似

官方推荐升级方法

在系统终端或命令后执行以下命令,可能需要切换root权限,有时候网络下载比较慢,需要重试多次

curl -fsSL https://ollama.com/install.sh | sh

下载安装包升级

去github下载安装包,目前最新版本是v0.31.1
ollama发布版本github下载链接
下载之后安装步骤请参考

#解压文件,如果zstd命令没有 执行apt install zstd
zstd -d ollama-linux-amd64.tar.zst
#需要切换root权限
sudo -i
#解压到默认的ollama安装目录 一般是 /usr/local
tar -xvf ollama-linux-amd64.tar -C /usr/local

ollama 配置

如果ollama配置为service的方式运行
要修改ollama的api或者web api启动的端口 模型文件目录 /etc/systemd/system/ollama.service
添加环境变量配置Environment=“OLLAMA_HOST=0.0.0.0:8001”

验证安装

#查看模型列表
ollama list
#查看当前版本
ollama --version

二、Ollama模型下载及运行

模型下载

下载一个小模型试试 ,例如 deepseek-r1:1.5b

ollama download deepseek-r1:1.5b

非官方下载,ollama有一些国内镜像站可以下载模型,需要带上镜像站的前缀

ollama download alibayram/Qwen3-30B-A3B-Instruct-2507:latest

运行模型

ollama run  deepseek-r1:1.5b

首次加载模型时间要长一点,等待模型加载完成就可以开始对话
ollama聊天界面命令行
需要退出聊天输入/bye

总结

还可以通过open webUI访问ollama , ollama也可以被 OpenClaw很方便的调用

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐