Docker 部署指南

如果你希望在服务器或 NAS 上部署 OmniNote,方便局域网内多人协同使用,推荐使用 Docker 方式。

模型推理服务在宿主机直接运行(不走 Docker),以获得最佳性能和 GPU 兼容性。

一、适用场景

部署方式 适用场景
快速开始 个人电脑,即装即用
Docker 部署(本文档) 服务器、NAS、局域网多人协同

二、准备工作

  1. 服务器已安装 Docker 和 Docker Compose
  2. 从百度网盘下载部署文件

百度网盘

链接: https://pan.baidu.com/s/1n8vLUY53MfqJDfWDJLK89A?pwd=w7ms

文件 说明
omni-note-data 数据文件(配置、模型、工具、启动脚本)
omni-note-app_latest.tar.gz Docker 镜像

三、部署步骤

3.1 加载 Docker 镜像

docker load -i omni-note-app_latest.tar.gz

3.2 准备数据目录

统一的数据准备步骤见 数据准备

Docker 部署额外注意:将网盘中的 docker-compose.yml 放在 omni-note/ 根目录下

3.3 下载推理引擎

若本机运行模型服务,按 数据准备 · 下载推理引擎 下载并放置推理引擎;若使用外部 API 可跳过本节。

3.4 启动 OmniNote 容器

cd ~/omni-note
docker compose up -d

3.5 启动模型服务

./modelManager

启动后浏览器打开 http://127.0.0.1:8025,在界面中操作即可。

详细操作说明见 管理界面使用说明

3.6 访问

浏览器打开 http://<服务器IP>:7000

四、最终目录结构

部署完成后的最终目录结构见 数据准备 · 目录结构

五、使用外部 API(可选)

如果不想在宿主机运行模型服务,可以配置云端 API。编辑 instance/config.py

MODEL_CONFIGS = {
    'LLM': {
        'model': "你的模型名称",
        'model_server': "https://api-inference.modelscope.cn/v1",
        'api_key': "你的API_KEY"
    },
}
服务商 API 地址
ModelScope https://api-inference.modelscope.cn/v1
DashScope(阿里) https://dashscope.aliyuncs.com/compatible-mode/v1
火山引擎 https://ark.cn-beijing.volces.com/api/v3
OpenAI https://api.openai.com/v1

六、日常运维

# 查看运行状态
docker ps | grep omni-note

# 查看日志
docker logs -f omni-note

# 重启
docker compose restart

# 停止
docker compose down

七、数据备份

所有数据在 instance/ 目录下,备份此目录即可:

tar -czf omni-note-backup-$(date +%Y%m%d).tar.gz instance/

也可以在 OmniNote 网页上使用数据备份与恢复功能。

八、升级版本

拿到新版本镜像后:

# 1. 停止容器
docker compose down

# 2. 加载新镜像
docker load -i omni-note-app_latest.tar.gz

# 3. 重新启动
docker compose up -d

instance/ 目录不要覆盖,里面是你的数据。

九、常见问题

容器启动后无法访问?

docker ps | grep omni-note     # 检查是否在运行
docker logs omni-note           # 查看启动日志

知识库检索无结果?

  • 确认嵌入/重排序模型服务在宿主机已启动
  • 检查 instance/config.py 中的服务地址
  • 在知识库管理页面点击重建索引

上传文件报错?

  • 检查 instance/ 目录写入权限
  • 单文件不超过 50MB
Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐