在 Ubuntu 上使用 PyTorch 调用 GPU,一般按下面几步来:
nvidia-smi
如果能看到显卡信息(如 CUDA Version),说明驱动已安装。
nvidia-smi
右上角会显示 CUDA Version(驱动支持的上限)
(不一定是系统已安装的 CUDA Toolkit)
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
版本对应:
可在官网查看: https://pytorch.org/get-started/locally/
import torch
print(torch.__version__)
print(torch.cuda.is_available()) # True 表示可用
print(torch.cuda.device_count())
print(torch.cuda.get_device_name(0))
device = "cuda" if torch.cuda.is_available() else "cpu"
model = MyModel().to(device)
x = x.to(device)
y = y.to(device)
for x, y in dataloader:
x, y = x.to(device), y.to(device)
output = model(x)
loss = criterion(output, y)
loss.backward()
optimizer.step()
torch.cuda.is_available() 返回 False可能原因:
print(torch.version.cuda)
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
如果你愿意,可以告诉我:
我可以给你精确命令。