作为开发人员如何利用 Apple Silicon/M1 处理器上的神经引擎？

Question

我正在努力在 SO、Google 或 Apple 的开发人员文档上找到这个问题的答案。

Apple 是否为任何语言提供 API，允许开发者在 macOS 上利用新型 M1 芯片的神经引擎？

搜索Apple的开发者文档，可以看到Metal Performance Shaders库中的很多功能，似乎都使用了GPU加速。

使用标签

apple-m1 或 apple-silicon 以及关键字“neural”搜索 SO 没有任何有用的信息。

在 r/AppleDevelopers 中搜索“神经”没有结果。

我认为必须有一些关于如何使用神经核心进行开发的信息。这些内核仅适用于 Apple 开发者和商业合作伙伴吗？

Answer 1

Apple 不向 Neural Engine 提供直接的公共 API。 某些框架可能通过神经引擎加速：

加速
CoreML
BNNS
机器学习计算

Answer 2

不幸的是没有。目前您只能通过 Core ML 使用神经引擎。 目前没有用于对 ANE 进行编程的公共框架。有几个私有的、未记录的框架，但显然我们不能使用它们，因为苹果拒绝使用私有框架的应用程序。 （也许未来苹果会提供AppleNeuralEngine.framework的公共版本） 但。检查这个

https://github.com/hollance/neural-engine/tree/master/docs 还有这个https://github.com/antgroup-arclab/ANETools 您可以了解 ANE 的工作原理以及如何使用它。