运行时错误：没有可用的 CUDA GPU

Question

我想在我的笔记本电脑中训练 gpt2 模型，并且我的笔记本电脑中有一个 GPU，我的操作系统是 windows ，但我在 python 中总是遇到此错误：

torch._C._cuda_init()
RuntimeError: No CUDA GPUs are available

当我尝试在 python 控制台中检查 GPU 的可用性时，我得到了答案：

import torch
torch.cuda.is_available()
Out[4]: True

但是我无法通过

获取版本

nvcc version 
#or  nvcc --version
NameError: name 'nvcc' is not defined

我使用这个命令来安装CUDA

conda install pytorch torchvision torchaudio cudatoolkit=10.2 -c pytorch  

如何使 GPU 可用于 python？

Answer 1

就我而言，问题是我尝试安装的 CUDA 驱动程序不支持我的 GPU 型号。根据您的情况，请检查哪个 CUDA 驱动程序支持您的 GPU 型号。您现在正在安装 10.2。就我而言，CUDA 11.0 和 11.2 支持我的 GPU 型号，但不支持我尝试安装的 11.3。

如果您在一段时间后遇到相同的错误，如果您运行可以自动更新硬件的云虚拟机，则可能会发生这种情况，以下是解决方法：

删除 CUDA 驱动程序

sudo apt-get remove --purge nvidia*

然后按如下方式重新安装驱动程序。笔记！在这种情况下，我在 x64 系统上有 debian 发行版。

wget https://developer.download.nvidia.com/compute/cuda/repos/debian11/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo add-apt-repository contrib
sudo apt-get update
sudo apt-get -y install cuda 

从链接获取适用于您的发行版和系统的正确命令：https://developer.nvidia.com/cuda-downloads?target_os=Linux

祝你好运！

Answer 2

1：确保使用以下资源安装 nvidia 驱动程序 https://developer.nvidia.com/cuda-downloads 安装驱动程序时请务必检查操作系统 2：如果正在训练您的模型并且您正在使用终端，您可以检查以下存储库 https://github.com/paulmunyao/visual-chatgpt - 在快速启动部分下

Answer 3

确保您已安装 CUDA。对我来说，我从 NVIDIA 目录安装它：https://developer.nvidia.com/cuda-downloads