Open WebUI + Ollama部署方案
ollama+open web ui本地部署deepseek等AI模型
·
Ubuntu环境下Open WebUI + Ollama部署方案
一.实验方案
Ubuntu VM + Docker Compose + Ollama + Open WebUI + Knowledge Base/RAG
二.实验架构
↓ 浏览器访问
Ubuntu 虚拟机
├── Docker
├── Ollama 容器:运行 deepseek-r1 / qwen 等本地模型
└── Open WebUI 容器:网页界面 + 多文件上传 + 知识库/RAG
三.操作步骤
一.更新 Ubuntu
sudo apt update && sudo apt upgrade -y
sudo apt install -y curl wget vim git ca-certificates gnupg lsb-release
二.查看系统信息
1.查看系统发行版本
lsb_release -a
2.查看 Ubuntu 当前内存和交换分区的使用情况
free -h
3.查看磁盘空间
df -h
三.安装 Docker
sudo apt-get install -y ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg \
-o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update
sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
四.创建 Open WebUI + Ollama 项目目录
mkdir -p ~/local-ai/open-webui cd ~/local-ai/open-webui
五.创建 docker-compose.yml
写入内容:
ollama:
image: ollama/ollama:latest
container_name: ollama
restart: always
ports:
- "11434:11434"
volumes:
- ollama:/root/.ollama
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: always
depends_on:
- ollama
ports:
- "3000:8080"
environment:
- OLLAMA_BASE_URL=http://ollama:11434
# 多文件知识库设置
- RAG_FILE_MAX_SIZE=100
- RAG_FILE_MAX_COUNT=50
- RAG_EMBEDDING_ENGINE=ollama
- RAG_OLLAMA_BASE_URL=http://ollama:11434
- RAG_EMBEDDING_MODEL=nomic-embed-text
# 建议先关闭外部 OpenAI,纯本地实验
- ENABLE_OPENAI_API=False
volumes:
- open-webui:/app/backend/data
volumes:
ollama:
open-webui:
六:启动服务
cd ~/local-ai/open-webui
docker compose up -d
查看容器:
docker ps
七:拉取模型
1.进入ollama容器:
拉取deepseek模型(根据个人电脑性能和需要,按需拉取对应模型)
ollama pull deepseek-r1:8b
2.拉取知识库向量模型ollama pull nomic-embed-text
3.测试模型ollama run deepseek-r1:8b
八.浏览器访问 Open WebUI
http:/虚拟机ip:3000
最后注册进入
更多推荐




所有评论(0)