如何让我的 GPU 在笔记本电脑上发挥全部潜力？

Question

在此处输入图像描述[在此处输入图像描述][2]我有一台带有两个 GPU 的笔记本电脑 英特尔和英伟达 我从 github 下载了一个 AI 模型的存储库来创建图像 当我运行它时，我发现我的 GPU 几乎无法工作 然后我意识到几乎所有事情都会发生这种情况，所有负载都落在 CPU 上

几乎所有我想要让 GPU 工作的方法都不起作用 我很乐意提供帮助

我尝试将计算机性能更改为高 也尝试更改 nvidia 控制面板设置

Answer 1

英特尔显卡对 AI 毫无用处，所以别管它了。 NVIDIA GPU 只有 4GB 显存。检查它是否足以运行您的目标模型；许多较新的型号无法容纳在那个小 VRAM 中。为了节省空间，您也许可以使用量化模型（例如 float16）。根据您的 AI 模型和运行时，可能存在较低的 VRAM 选项，但代价是模型的部分内容交换到 VRAM 时会出现一些延迟。

您可能想更具体地了解您尝试使用的模型以及正在运行的运行时（即库/应用程序）。