以下是提升CentOS上PyTorch训练速度的关键方法：
model.to('cuda')），并安装cuDNN库以加速卷积等操作。torch.cuda.amp进行混合精度训练（FP16/FP32），减少显存占用并加速计算。DistributedDataParallel替代DataParallel，支持多卡并行训练，提升扩展性。DataLoader的num_workers（建议设置为CPU核心数的2-4倍）和prefetch_factor，并行加载数据。pin_memory=True，减少CPU与GPU的数据传输延迟。batch_size（通常为8的倍数），充分利用GPU内存。torch.no_grad()禁用梯度计算，节省显存。torch.backends.cudnn.benchmark = True，让库自动选择最优卷积算法。nvidia-smi监控GPU利用率，通过PyTorch Profiler定位性能瓶颈（如数据加载、计算延迟）。torch.utils.checkpoint技术分块存储中间结果，降低显存占用。
