CPU、GPU与显卡

CPU和GPU

CPU和GPU都是处理器，但擅长的任务不同。

• CPU（Central Processing Unit，中央处理器）

  • 擅长处理复杂逻辑、程序控制和通用计算。

  • 核心数量相对较少，但单个核心的处理能力较强。

• GPU（Graphics Processing Unit，图形处理器）

  • 最初主要用于图像渲染。

  • 拥有大量计算核心，适合执行大量重复的并行计算，可以理解为许多工人同时处理任务。

  • 深度学习需要进行大量矩阵运算，因此GPU是目前AI训练的核心硬件。

显卡

显卡是一整套硬件设备，通常包括：

• GPU芯片

• 显存

• 电路板

• 供电模块

• 风扇和散热系统

显卡主要分为两类：

• 集成显卡

  • GPU通常集成在CPU内部或与CPU封装在一起。

  • 功耗较低，性能相对较弱，适合办公和视频播放等任务。

• 独立显卡

  • 使用独立的GPU芯片和显存。

  • 性能更强，适合游戏、图形处理和AI计算。

显存

显存又叫 VRAM（Video RAM），可以理解为GPU使用的专用内存。

AI训练时，以下内容通常需要加载到显存中：

• 模型参数

• 输入数据

• 中间计算结果

• 梯度等训练数据

显存不足时，模型可能无法运行，或者需要减小batch size、模型规模等。

Intel、NVIDIA与CUDA

Intel

Intel（英特尔）是一家芯片公司，主要以CPU产品闻名，同时也设计和销售GPU。

常见产品包括：

• Intel Core系列CPU

• Xeon服务器CPU

• Intel Arc系列GPU

NVIDIA

NVIDIA（英伟达）是一家以GPU和AI计算平台为核心的芯片公司。

常见产品包括：

• RTX系列：主要用于游戏、图形处理，也可以进行AI计算

• A100、H100：主要用于数据中心和AI训练

AI爆发后，大模型训练需要大量GPU计算。由于NVIDIA的GPU性能较强，并且拥有成熟的CUDA软件生态，因此其GPU成为AI训练领域的主流硬件。

CUDA

CUDA是NVIDIA提供的GPU通用计算平台和软件生态，使程序能够调用NVIDIA GPU进行并行计算。

例如PyTorch中的：

model.cuda()

表示将模型移动到支持CUDA的NVIDIA GPU上进行计算。

常见调用关系：

Python代码
  ↓
PyTorch
  ↓
CUDA
  ↓
NVIDIA GPU

AI为什么会影响电脑价格

AI的发展增加了GPU和相关硬件的需求：

AI计算需求增加
  ↓
GPU需求增加
  ↓
GPU芯片和显卡价格受到影响
  ↓
部分配备高性能独立显卡的电脑价格上涨

但电脑价格不仅由显卡决定，还会受到CPU、内存、硬盘、供应链和产品定位等因素影响。因此，更准确地说：

GPU价格上涨可能导致游戏电脑、AI工作站和高性能服务器涨价，但不一定会使所有电脑同时涨价。