标量CPU与矢量GPU与矩阵AI与空间FPGA

Question

“ ...体系结构的广度跨越标量（CPU），矢量（GPU），矩阵（AI）和空间（FPGA）”

我还没有听说过将CPU与GPU分别描述为标量与矢量。此外，AI被描述为一种体系结构（是的，ML肯定需要大矩阵-但是矩阵体系结构是什么意思-而不是像NVIDIA Titans那样经常被用来加速ML的GPU）或FPGA被描述为空间体系结构（空间从什么意义上讲-不是3D AR / VR / XR空间计算正确吗？）

有人可以解释这样的陈述（source）的含义吗？

Answer 1

• CPU是标量的：每个周期，一条指令对1个数据字进行操作。
• GPU是向量：每个周期，一条指令对许多数据字进行操作。
• [矩阵：每个周期，有1条指令将矩阵相乘（通常是较小的矩阵，例如2x4 * 4x2以产生大小为2x2的输出矩阵）。
• 空间体系结构：与传统体系结构（CPU / GPU）相比，指令流经管道，此处数据流经处理元素的网格。

现代CPU具有某些矢量功能（AVX），并且可能具有专门的矩阵处理硬件（Intel Nervana）。除了作为传统的矢量处理器之外，现代GPU还采用了专门的矩阵处理硬件（NVIDIA Volta / Turing）。