centos pytorch怎么加速

在 CentOS 上加速 PyTorch，一般从 硬件加速、软件环境、代码层面 三个方向入手。下面按实用性从高到低说明。

一、使用 GPU 加速（最有效）

1. 确认是否有 NVIDIA GPU

nvidia-smi

有输出说明有 GPU。

2. 安装合适的 NVIDIA 驱动 + CUDA

CentOS 常见做法：

# 查看显卡
lspci | grep -i nvidia

# 安装驱动（示例）
yum install kmod-nvidia
# 或官方 run 文件

3. 安装 CUDA + cuDNN

• CUDA ≥ 11.7 推荐
• cuDNN 对应 CUDA 版本

4. 安装 GPU 版 PyTorch

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

5. 验证 GPU 是否可用

import torch
print(torch.cuda.is_available())
print(torch.cuda.get_device_name(0))

二、使用多线程 / 多进程（CPU 场景）

1. 设置 PyTorch 线程数

torch.set_num_threads(8)  # 根据 CPU 核数

2. 数据加载加速

DataLoader(..., num_workers=8, pin_memory=True)

三、使用 MKL / OpenBLAS（CPU 数学加速）

CentOS 默认可能没开 MKL：

pip install intel-extension-for-pytorch

或安装 MKL：

yum install mkl mkl-devel

验证：

 torch.__config__.show()

四、使用 AMP（混合精度）

GPU 上显著加速

from torch.cuda.amp import autocast, GradScaler

scaler = GradScaler()
with autocast():
    output = model(input)
    loss = criterion(output, target)
scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()

五、使用 TorchScript / 推理加速

1. TorchScript

scripted = torch.jit.script(model)
scripted(input)

2. 推理专用（可选）

• TensorRT
• ONNX + ONNX Runtime
• Torch-TensorRT

六、CentOS 系统级优化

1. 关闭节能模式

cpupower frequency-set -g performance

2. 调整文件描述符

ulimit -n 65535

七、常见坑（CentOS 特有）

❌ 用系统 Python（太老）
✅ 用 conda 或 pyenv

❌ 用 CPU PyTorch 跑 GPU 模型
✅ 确认 torch.cuda.is_available()

❌ yum 源 CUDA 太旧
✅ 官方 CUDA run 文件

快速选择方案

如果你愿意，可以告诉我：

• CentOS 版本
• 是否有 GPU
• 训练还是推理
• PyTorch 版本

我可以直接给你一套可复制的安装命令。