Linux服务器离线部署PyTorch 1.10 GPU版（CUDA 11.3）完整实战指南

在企业内网或科研实验室中，经常会遇到服务器无法连接外网的情况。本文将手把手教你如何在这种隔离网络环境下，从零开始搭建PyTorch 1.10 GPU开发环境。不同于简单的安装教程，我们重点关注 如何精准获取正确的whl文件 、 处理依赖关系 以及 完整的验证流程 ，确保你的深度学习环境一次配置成功。

1. 准备工作：获取正确的安装文件

在开始之前，我们需要在有网络的环境中准备好所有必要的安装文件。这一步至关重要，因为一旦进入离线环境，再发现缺少文件就会非常麻烦。

1.1 确定系统环境参数

首先确认你的目标服务器环境：

• 操作系统 ：Linux（通常是CentOS或Ubuntu）
• Python版本 ：3.8（推荐）
• CUDA版本 ：11.3
• GPU架构 ：x86_64

可以通过以下命令检查这些信息：

# 检查Python版本
python3 --version

# 检查CUDA版本（如果已安装）
nvcc --version

# 检查系统架构
uname -m

1.2 下载PyTorch whl文件

访问PyTorch官方whl文件仓库：

• CPU版本：https://download.pytorch.org/whl/cpu/torch_stable.html
• CUDA 11.3版本：https://download.pytorch.org/whl/cu113/torch_stable.html

对于PyTorch 1.10 GPU版（CUDA 11.3），你需要下载以下文件：

文件名	说明
torch-1.10.0+cu113-cp38-cp38-linux_x86_64.whl	PyTorch主库
torchvision-0.11.1+cu113-cp38-cp38-linux_x86_64.whl	计算机视觉扩展库

注意：文件名中的"cu113"表示CUDA 11.3，"cp38"表示Python 3.8，"linux_x86_64"表示64位Linux系统。

1.3 收集依赖包

PyTorch依赖一些Python包，需要一并下载：

• numpy
• pillow
• typing-extensions
• dataclasses (Python 3.6需要)

可以使用pip下载这些包及其依赖：

pip download numpy pillow typing-extensions dataclasses

这将下载所有需要的.whl文件到当前目录。

2. 文件传输与服务器准备

2.1 传输文件到离线服务器

将下载的所有.whl文件传输到离线服务器，常用方法有：

• U盘拷贝
• 内网文件共享服务
• 跳板机中转

建议将所有文件放在服务器上的统一目录，例如 /opt/pytorch_offline 。

2.2 服务器环境检查

在服务器上执行以下检查：

# 检查NVIDIA驱动是否安装
nvidia-smi

# 检查CUDA Toolkit是否安装（可选）
nvcc --version

# 检查conda是否可用
conda --version

提示：如果缺少NVIDIA驱动或CUDA Toolkit，需要先在服务器上安装它们。这通常需要管理员权限。

3. 创建并配置Python虚拟环境

使用conda创建隔离的Python环境是最佳实践，可以避免污染系统Python环境。

3.1 创建虚拟环境

conda create -n pytorch1.10 python=3.8
conda activate pytorch1.10

3.2 安装基础依赖

首先安装必要的系统库（需要sudo权限）：

sudo yum install -y libjpeg-turbo-devel openblas-devel  # CentOS
# 或
sudo apt-get install -y libjpeg-dev libopenblas-dev  # Ubuntu

4. 离线安装PyTorch及其依赖

4.1 安装Python依赖包

进入存放.whl文件的目录，按顺序安装依赖：

pip install numpy-*.whl
pip install pillow-*.whl
pip install typing_extensions-*.whl

4.2 安装PyTorch主包

pip install torch-1.10.0+cu113-cp38-cp38-linux_x86_64.whl
pip install torchvision-0.11.1+cu113-cp38-cp38-linux_x86_64.whl

4.3 验证安装

创建一个Python脚本 verify.py ：

import torch
print(f"PyTorch版本: {torch.__version__}")
print(f"CUDA可用: {torch.cuda.is_available()}")
print(f"GPU数量: {torch.cuda.device_count()}")
if torch.cuda.is_available():
    print(f"当前GPU: {torch.cuda.current_device()}")
    print(f"设备名称: {torch.cuda.get_device_name(0)}")

运行脚本：

python verify.py

预期输出类似：

PyTorch版本: 1.10.0+cu113
CUDA可用: True
GPU数量: 1
当前GPU: 0
设备名称: NVIDIA GeForce RTX 3090

5. 常见问题排查

5.1 CUDA不可用

如果 torch.cuda.is_available() 返回False，检查：

1. NVIDIA驱动 ：确保 nvidia-smi 能正确显示GPU信息
2. CUDA版本匹配 ：PyTorch whl文件中的CUDA版本应与系统安装的CUDA版本一致
3. 环境变量 ：确保 LD_LIBRARY_PATH 包含CUDA库路径

5.2 版本不兼容错误

如果遇到类似"not a supported wheel on this platform"的错误，检查：

• Python版本是否匹配（cp38表示Python 3.8）
• 操作系统是否匹配（linux_x86_64表示64位Linux）
• 文件名是否正确完整

5.3 性能优化建议

安装完成后，可以进一步优化PyTorch性能：

# 启用cudnn自动调优
torch.backends.cudnn.benchmark = True

# 设置默认tensor类型为CUDA
torch.set_default_tensor_type('torch.cuda.FloatTensor')

6. 环境备份与迁移

为了便于在其他服务器上部署相同环境，可以导出环境配置：

# 导出conda环境
conda env export > pytorch1.10.yaml

# 导出pip包列表
pip freeze > requirements.txt

在其他服务器上恢复环境：

conda env create -f pytorch1.10.yaml
conda activate pytorch1.10
pip install -r requirements.txt

7. 进阶配置

7.1 多GPU支持

如果你的服务器有多个GPU，可以配置数据并行：

import torch.nn as nn

model = nn.DataParallel(model)  # 包装模型
model = model.cuda()  # 移动到GPU

7.2 混合精度训练

启用自动混合精度(AMP)可以提升训练速度并减少显存占用：

from torch.cuda.amp import autocast, GradScaler

scaler = GradScaler()

with autocast():
    outputs = model(inputs)
    loss = criterion(outputs, targets)
    
scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()

7.3 JIT编译优化

使用TorchScript可以将模型转换为优化后的形式：

scripted_model = torch.jit.script(model)
scripted_model.save("model.pt")

8. 实际应用测试

为了确保环境完全正常工作，建议运行一个简单的训练测试：

import torch
import torch.nn as nn
import torch.optim as optim

# 定义一个简单模型
model = nn.Sequential(
    nn.Linear(10, 50),
    nn.ReLU(),
    nn.Linear(50, 1)
).cuda()

# 模拟数据
inputs = torch.randn(100, 10).cuda()
targets = torch.randn(100, 1).cuda()

# 训练循环
optimizer = optim.SGD(model.parameters(), lr=0.01)
criterion = nn.MSELoss()

for epoch in range(10):
    optimizer.zero_grad()
    outputs = model(inputs)
    loss = criterion(outputs, targets)
    loss.backward()
    optimizer.step()
    print(f"Epoch {epoch}, Loss: {loss.item()}")

如果这段代码能正常运行并显示损失值下降，说明你的PyTorch GPU环境已经完全配置成功。