我有一个两个 GPU 的 NVIDIA 驱动程序，在 ubuntu 上使用 python 代码显示它是一个 GPU ID

Question

我有一个 2 A100 PCIE (80GB VRAM) GPU，但 NVIDIA 给我的可见 GPU 是 1。

例如0索引GPU，我无法在ubuntu服务器上获取1索引GPU。

这是代码结果

此命令显示什么：

nvidia-smi

这是结果

所以我想在 ubntu 服务器中使用 python 运行两个 GPU 及其 GPU ID。

Answer 1

您是否尝试过更新 CUDA_VISIBLE_DEVICES 环境变量？

尝试通过将代码设置为使用两个 GPU 来执行代码。

CUDA_VISIBLE_DEVICES=0,1 python your_script.py