macOS 容器内的 Apple Metal API，可能吗？

Question

我正在开发一个利用Metal API进行加速的应用数学项目，我想知道是否可以使用containerd在macOS中封装Metal API调用。目前，我所有的苹果机器都是x86。我还有一些linux机器和win机器。我计划使用 K8s 来组织所有机器，因此如果 macOS 允许我在 containerd 中使用 Metal API 那就太好了。

Answer 1

您可以看看这个项目：https://github.com/makllama/makllama

它在 macOS 上使用 virtual-kubelet + containerd 来分发 LLM 任务。