pytorch 如何利用 Apple Silicon 的神经网络引擎（NPU）训练模型和生成向量？

Question

Apple Silicon 有 CPU、GPU、NPU

看了这两篇文章：

MPS backend
深度学习系列50：苹果m1芯片加速pytorch

发现 pytorch 运行的时候，可以选择 device 为 mps

这个 mps 的调用了 Apple Silicon 的 GPU 还是 NPU？ 还是两者都有？

如果 mps 是调用了 GPU 的话，那我要怎么选择 NPU 呢？

---

我自己感觉这个 mps 只是调用了 Apple Silicon 的 GPU

Answer 1

MPS 只能用到 GPU 。

NPU 一般是推理用的，不用于训练。用 NPU 需要用 CoreML 。现在苹果还没有开放 NPU 编程。