大模型的算力高度依赖显卡（主要是GPU），因为GPU擅长并行处理大模型训练和推理中海量的矩阵/向量运算，而CPU难以高效胜任这种规模的并发计算。‌‌

• ‌架构适配‌：大模型（如Transformer）核心运算是数十亿至万亿级参数的矩阵乘法，GPU拥有数千个轻量核心，可同时执行这些‌高度并行、低逻辑依赖‌的操作；CPU则只有少数强核心，擅长串行调度但并行吞吐远低于GPU。
• ‌性能碾压‌：单张高端GPU（如H100）的FP16算力可达数百TFLOPS，比顶级CPU快‌数十至上百倍‌，且专为AI优化（如Tensor Core加速稀疏矩阵）；用CPU训练GPT-3级模型可能耗时数年，GPU集群可缩至数周。
• ‌生态固化‌：PyTorch/TensorFlow等框架底层深度优化了CUDA（NVIDIA GPU指令集），显存带宽（如HBM3）和互联技术（NVLink）也围绕GPU构建，形成‌难以替代的软硬件生态‌。
• ‌显存瓶颈‌：大模型参数（如70B模型在FP16下需约140GB显存）需直接加载至显卡高带宽显存（VRAM），CPU内存访问延迟高、带宽低，无法支撑实时前向/反向传播。‌‌

   简言之，‌“算力=算得快+存得下”‌，GPU在并行效率、显存容量与生态支持上综合胜出，故成为大模型事实上的算力载体。虽有ASIC/FPGA等替代探索，但当前仍无法撼动GPU主导地位。‌‌