Milvus GPU 特定图像在没有 GPU 的集群上运行

Question

我需要创建一个可以在启用 GPU 和禁用 GPU 的 Kubernetes 节点上运行的 Milvus 集群。

如果集群中的节点支持 GPU，则。利用 GPU。 在 GPU 不可用的节点中，则默认使用非 GPU 特定的功能。

对于 GPU，您需要安装 CUDA 驱动程序，而在非 GPU 中则不需要。

如何处理这两种类型的节点或集群？

Answer 1

您需要使用 GPU 映像来运行所有内容

https://milvus.io/docs/install_standalone-docker-compose-gpu.md

https://milvus.io/docs/install_cluster-helm-gpu.md

您可以调整内存量。

调整 milvus.yaml 中的 GPU 内存设置

还在版本 2.4.14 及更高版本中进行了修复，确保它可以正常工作而不会出现警告或问题。 所以等待下一个版本或进行相应调整。