Ubuntu环境下Open WebUI + Ollama部署方案

一.实验方案

Ubuntu VM + Docker Compose + Ollama + Open WebUI + Knowledge Base/RAG

二.实验架构

   ↓ 浏览器访问
Ubuntu 虚拟机
   ├── Docker
   ├── Ollama 容器:运行 deepseek-r1 / qwen 等本地模型
   └── Open WebUI 容器:网页界面 + 多文件上传 + 知识库/RAG

三.操作步骤

一.更新 Ubuntu

sudo apt update && sudo apt upgrade -y
sudo apt install -y curl wget vim git ca-certificates gnupg lsb-release

二.查看系统信息

1.查看系统发行版本

lsb_release -a

2.查看 Ubuntu 当前内存和交换分区的使用情况

free -h

3.查看磁盘空间

df -h

三.安装 Docker

sudo apt-get install -y ca-certificates curl

sudo install -m 0755 -d /etc/apt/keyrings

sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg \
  -o /etc/apt/keyrings/docker.asc

sudo chmod a+r /etc/apt/keyrings/docker.asc

echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
  $(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

sudo apt-get update

sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

四.创建 Open WebUI + Ollama 项目目录

mkdir -p ~/local-ai/open-webui cd ~/local-ai/open-webui

五.创建 docker-compose.yml

写入内容:

  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: always
    ports:
      - "11434:11434"
    volumes:
      - ollama:/root/.ollama

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: always
    depends_on:
      - ollama
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434

      # 多文件知识库设置
      - RAG_FILE_MAX_SIZE=100
      - RAG_FILE_MAX_COUNT=50
      - RAG_EMBEDDING_ENGINE=ollama
      - RAG_OLLAMA_BASE_URL=http://ollama:11434
      - RAG_EMBEDDING_MODEL=nomic-embed-text

      # 建议先关闭外部 OpenAI,纯本地实验
      - ENABLE_OPENAI_API=False
    volumes:
      - open-webui:/app/backend/data

volumes:
  ollama:
  open-webui:

六:启动服务

cd ~/local-ai/open-webui

docker compose up -d
查看容器:
docker ps

七:拉取模型

1.进入ollama容器:


拉取deepseek模型(根据个人电脑性能和需要,按需拉取对应模型)
ollama pull deepseek-r1:8b
2.拉取知识库向量模型
ollama pull nomic-embed-text
3.测试模型
ollama run deepseek-r1:8b

八.浏览器访问 Open WebUI

http:/虚拟机ip:3000
最后注册进入

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐