EVA-01部署教程：Docker Swarm集群中EVA-01服务发现与健康检查配置

1. 引言：为什么需要集群化部署？

想象一下，你正在指挥一个NERV作战中心，EVA-01是你的王牌武器。但如果只有一台终端，一旦它“暴走”或需要维护，整个系统就会瘫痪。在真实的生产环境中，单点部署的风险太高了。

这就是为什么我们要把EVA-01部署到Docker Swarm集群里。简单来说，Docker Swarm就像是一个由多台计算机组成的“作战编队”，你可以在这个编队里运行多个EVA-01的“分身”。这样做有几个明显的好处：

  • 高可用性：一个“分身”出问题了，其他“分身”能立刻顶上，保证服务不中断。
  • 负载均衡：很多用户同时上传图片、发送指令时，请求会被自动分配到不同的“分身”上处理，不会让某一个过载。
  • 易于扩展：当用户量激增时，你只需要在集群里增加几个“分身”就能轻松应对，就像增加作战单位一样简单。

今天这篇教程，我就带你一步步完成这个“作战编队”的组建，重点解决两个核心问题：服务发现（如何让用户找到可用的EVA-01）和健康检查（如何确保每个“分身”都处于健康状态）。跟着做，你就能拥有一个稳定、可靠的EVA-01集群。

2. 环境准备与集群搭建

在开始部署EVA-01之前，我们需要先搭建好Docker Swarm这个“作战平台”。这里假设你至少有两台或多台安装了Docker的Linux服务器（虚拟机或物理机均可）。

2.1 初始化Swarm集群

首先，选择一台服务器作为“指挥官”（Manager节点）。在这台机器上执行初始化命令：

# 在选定的Manager节点上执行
sudo docker swarm init --advertise-addr <MANAGER_IP>

请将 <MANAGER_IP> 替换成你这台服务器的内网IP地址。命令执行成功后，你会看到一段类似下面的输出，其中包含一个用于其他节点加入集群的 docker swarm join 命令，请保存好它。

Swarm initialized: current node (abcd1234) is now a manager.

To add a worker to this swarm, run the following command:

    docker swarm join --token SWMTKN-1-xxxx... <MANAGER_IP>:2377

2.2 添加工作节点

然后，在其他作为“作战单位”（Worker节点）的服务器上，运行上一步得到的 docker swarm join 命令。

# 在每一台Worker节点服务器上执行
sudo docker swarm join --token <TOKEN> <MANAGER_IP>:2377

添加完成后，回到Manager节点，运行以下命令查看集群节点状态：

sudo docker node ls

你应该能看到所有节点都列出来了，并且Manager节点的状态是 Ready 和 Leader。

2.3 创建Overlay网络

为了让集群内所有EVA-01“分身”能互相通信，我们需要创建一个特殊的网络。

# 在Manager节点上创建名为eva-net的Overlay网络
sudo docker network create --driver overlay --attachable eva-net

这个 eva-net 网络就像是为EVA-01们建立的专用加密通信频道。

3. 编写EVA-01的Swarm部署配置

接下来是核心步骤：编写一个告诉Swarm如何部署和运行EVA-01的“作战手册”，也就是Docker Compose文件。我们将其命名为 docker-compose.swarm.yml。

version: '3.8'

services:
  eva-01:
    image: your-registry/eva-01:latest  # 请替换为你构建或拉取的EVA-01镜像
    deploy:
      replicas: 3  # 指定启动3个副本（分身）
      update_config:
        parallelism: 1      # 滚动更新时，每次更新1个副本
        delay: 10s          # 每次更新间隔10秒
      restart_policy:
        condition: on-failure
        delay: 5s
        max_attempts: 3
      placement:
        constraints:
          - node.role == worker  # 指定只部署在Worker节点上，Manager节点通常用于管理
    ports:
      - published: 8501    # 对外暴露的端口
        target: 8501       # 容器内部Streamlit默认端口
        protocol: tcp
        mode: host         # 使用host模式，便于外部直接访问，也可用ingress模式
    networks:
      - eva-net
    volumes:
      - eva-data:/app/data  # 建议挂载卷，用于持久化模型等数据
    environment:
      - MAX_PIXELS=1048576  # 环境变量示例：限制处理图像的最大像素
    healthcheck:  # 健康检查配置！
      test: ["CMD", "curl", "-f", "http://localhost:8501/_stcore/health"]
      interval: 30s
      timeout: 10s
      retries: 3
      start_period: 40s

volumes:
  eva-data:
    driver: local  # 生产环境建议使用更可靠的驱动如NFS

networks:
  eva-net:
    external: true  # 使用我们之前创建的外部overlay网络

让我解释一下这个“作战手册”里的几个关键指令：

  • replicas: 3：这是“分身”的数量。我们指定启动3个完全一样的EVA-01服务实例。
  • healthcheck：这是本教程的重点之一——健康检查。它让Swarm每隔30秒（interval）就自动检查一次每个“分身”是否还活着。检查方式是向容器内的健康检查端点发送请求。如果连续失败3次（retries），Swarm就会认为这个“分身”不健康，并可能重新调度或重启它。start_period 给了容器40秒的启动宽限期。
  • ports：我们将容器内的8501端口映射到宿主机的8501端口。mode: host 意味着每个节点上的端口直接对外，访问哪个节点的IP，就连接到哪个节点上的服务。你也可以使用默认的 ingress 模式，Swarm会通过内部负载均衡来分配流量。
  • eva-net：所有“分身”都接入这个网络，它们可以通过服务名 eva-01 相互发现。

4. 部署服务与验证

“作战手册”准备好了，现在开始部署。

4.1 部署服务

在Manager节点上，运行部署命令：

sudo docker stack deploy -c docker-compose.swarm.yml eva-cluster

这个命令创建了一个名为 eva-cluster 的堆栈（Stack），并按照我们的配置启动服务。

4.2 验证部署状态

稍等片刻，使用以下命令查看服务状态：

# 查看堆栈内所有服务状态
sudo docker stack services eva-cluster

# 更详细地查看每个服务副本（分身）的运行状态和所在节点
sudo docker service ps eva-cluster_eva-01

在 docker service ps 的输出中，你应该能看到3个 eva-01 的副本，状态都是 Running，并且被分配到了不同的Worker节点上。健康检查的结果也会在这里显示，如果健康检查失败，状态会变为 Unhealthy。

4.3 测试服务访问

由于我们使用了 ports 的 host 模式，现在你可以通过访问 任何一个运行了EVA-01副本的Worker节点的IP地址和8501端口 来打开EVA-01的界面。

例如，如果某个Worker节点的IP是 192.168.1.101，那么在浏览器访问： http://192.168.1.101:8501

你应该能看到熟悉的“暴走白昼”界面。多访问几个不同的节点IP，确认每个“分身”都能正常工作。

5. 核心实战：配置服务发现与负载均衡

现在，3个“分身”都跑起来了，但用户不可能记住所有IP。我们需要一个统一的“指挥部”来接收所有请求，并智能地分发给后端的“分身”。这就是服务发现和负载均衡。

在Docker Swarm中，当你使用默认的 ingress 路由网格时，这个功能是自动提供的。但我们在上面用了 host 模式以便演示，现在我们来配置一个更典型的、带负载均衡的方案。

5.1 修改部署配置为Ingress模式

首先，修改 docker-compose.swarm.yml 中的端口部分：

    ports:
      - target: 8501
        published: 8501
        protocol: tcp
        # 移除 mode: host，默认即为 ingress 模式

5.2 引入负载均衡器（以Nginx为例）

在生产环境中，我们通常会在Swarm集群前放置一个独立的负载均衡器（如Nginx、HAProxy）。我们可以在Swarm内部部署一个Nginx服务来实现这个功能。

创建一个新的Compose文件 docker-compose.lb.yml：

version: '3.8'

services:
  nginx-lb:
    image: nginx:alpine
    deploy:
      mode: global  # 在集群每个节点上都部署一个副本
      placement:
        constraints:
          - node.role == manager  # 通常放在Manager节点，也可以放宽
    ports:
      - published: 80
        target: 80
      - published: 443
        target: 443
    volumes:
      - ./nginx.conf:/etc/nginx/nginx.conf:ro
    networks:
      - eva-net

networks:
  eva-net:
    external: true

5.3 配置Nginx负载均衡

创建 nginx.conf 配置文件：

events {
    worker_connections 1024;
}

http {
    upstream eva_backend {
        # 关键！这里使用Docker Swarm内部的服务名进行服务发现
        server eva-cluster_eva-01:8501;
        # 实际上，Swarm的DNS会解析出该服务所有健康副本的IP
        # 无需手动列出所有IP，Nginx会自动进行负载均衡
    }

    server {
        listen 80;
        server_name your-domain.com; # 替换为你的域名或使用_

        location / {
            proxy_pass http://eva_backend;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
            # 增加Streamlit相关代理设置
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade";
        }
    }
}

核心原理：server eva-cluster_eva-01:8501; 这一行就是服务发现的关键。Nginx不需要知道后端具体有多少个IP，它只需要向Docker Swarm的内部DNS查询 eva-cluster_eva-01 这个服务名，DNS会自动返回所有健康副本的IP地址列表。Nginx随后会以轮询（默认）等方式将用户请求分发到这些IP上。

5.4 部署负载均衡器

# 部署负载均衡器堆栈
sudo docker stack deploy -c docker-compose.lb.yml lb-stack

# 重新部署EVA-01服务（使用ingress模式）
sudo docker stack deploy -c docker-compose.swarm.yml eva-cluster

现在，用户只需要访问运行Nginx的节点IP（或配置的域名），请求就会被自动转发到后端的某个健康的EVA-01副本上。即使某个副本因健康检查失败而重启，Swarm的DNS也会及时更新列表，Nginx会自动将流量切走。

6. 健康检查的进阶配置与排错

健康检查是集群稳定的基石。让我们更深入地看看。

6.1 定制更精准的健康检查

Streamlit的健康端点可能不够全面。我们可以为EVA-01编写一个自定义的健康检查脚本 health_check.py：

#!/usr/bin/env python3
import sys
import requests
try:
    # 检查Web服务
    resp = requests.get('http://localhost:8501/_stcore/health', timeout=5)
    if resp.status_code != 200:
        sys.exit(1)
    # 可以在这里添加更多检查，例如模型加载状态、GPU内存等
    # ...
    sys.exit(0)
except Exception as e:
    print(f"Health check failed: {e}", file=sys.stderr)
    sys.exit(1)

在Dockerfile中复制此脚本，并修改Compose文件中的健康检查指令：

healthcheck:
  test: ["CMD", "python", "/app/health_check.py"]  # 使用自定义脚本
  interval: 30s
  timeout: 10s
  retries: 3
  start_period: 60s  # 给EVA-01更长的启动时间（加载模型）

6.2 查看与排错

如果服务出现异常，可以通过以下命令诊断：

# 1. 查看服务详细状态，关注健康状态列
sudo docker service ps --no-trunc eva-cluster_eva-01

# 2. 查看具体某个容器的日志，特别是健康检查失败时
sudo docker service logs eva-cluster_eva-01 --tail 50

# 3. 直接进入容器内部手动执行健康检查命令，看输出什么
# 首先找到容器ID
sudo docker ps | grep eva-01
# 然后执行检查
sudo docker exec -it <CONTAINER_ID> python /app/health_check.py

常见的健康检查失败原因包括：应用启动过慢（需要增加 start_period）、检查命令或路径错误、容器内资源（如内存）不足等。

7. 总结

通过这篇教程，我们完成了EVA-01从单机部署到Docker Swarm集群化部署的升级。我们重点解决了两个生产环境的核心问题：

  1. 服务发现与负载均衡：通过Docker Swarm内置的DNS和Nginx这样的负载均衡器，我们构建了一个统一的访问入口。用户无需关心后端有多少个EVA-01副本，集群会自动将请求分发到健康的实例上，实现了高可用和水平扩展。
  2. 健康检查：我们为EVA-01服务配置了健康检查探针。Swarm会持续监控每个副本的健康状况，自动隔离或重启不健康的实例，确保服务整体的稳定性和可靠性。

这套“作战编队”的部署模式，使得你的EVA-01视觉神经同步系统具备了企业级应用的韧性。无论是应对突发的流量增长，还是进行无缝的服务更新，都能从容应对。现在，你的EVA-01已经不再是孤胆英雄，而是一个协同作战的精英小队了。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。

# 服务发现
Logo
https://edu.csdn.net/learn/39067/627173?utm_source=2019755004

汇聚全球AI编程工具，助力开发者即刻编程。

更多推荐

cover

一个 API 入口调用多个大模型：AiiOnly客户端 + CC Switch 打通 Codex AI编程流程

avatar AI编程社区
cover

VSCode Claude Code + MiMo 中转免登录完整配置教程（解决原生登录弹窗 + 模型报错）

avatar AI编程社区
cover

从零开始做一个属于自己的 Skill（保姆级教程）

avatar AI编程社区