结论先说:
CentOS 上的 Docker 是可以使用的 GPU 的,但前提是你正确安装了 NVIDIA 驱动,并使用 NVIDIA Container Toolkit(原 nvidia-docker2)。
下面分情况说清楚。
查看驱动是否安装:
nvidia-smi
能正常显示 GPU 信息就说明驱动 OK。
docker run --gpus 参数# 添加仓库
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | \
sudo tee /etc/yum.repos.d/nvidia-docker.repo
# 安装
yum install -y nvidia-container-toolkit
# 重启 docker
systemctl restart docker
docker run --rm --gpus all nvidia/cuda:11.8.0-base nvidia-smi
如果看到 GPU 列表,说明 CentOS + Docker + GPU 已打通 ✅
docker: Error response from daemon: could not select device driver原因:
nvidia-container-toolkit解决:
yum install -y nvidia-container-toolkit
systemctl restart docker
CentOS 8 已 EOL,建议:
检查:
lsmod | grep nvidia
nvidia-smi
没有输出说明驱动没装。
✅ 深度学习(PyTorch / TensorFlow)
✅ 推理服务
✅ CUDA 编译
✅ 科学计算
CentOS 的 Docker 完全可以用 GPU,只要装好 NVIDIA 驱动 + nvidia-container-toolkit,用
--gpus参数即可。
如果你愿意,可以告诉我:
我可以直接给你一套可复制的安装命令。