操作系统：macos Catalina 10.15.2xcode：11.3coreml3.0
我将相同的模型输入提供给相同的mlmodel。但是使用cpu设备和gpu设备的推断结果是不同的。
结果如下，左边的文件是使用cpu的推理结果（第二列），右边的文件是使用CpuAndGpu的推理结果（第二列）。我使用超越比较来比较这两个文件，并且标有红色的数据是不同的。
有人知道该问题及其解决方法吗？
这本身不是问题。在GPU上使用16位浮点数，而在CPU上使用32位浮点数。 16位浮点数的精度较低，这说明了您得到的不同结果。
有些数字会稍大一些，有些数字会略小一些，但通常这些效果会抵消，您不会注意到它们之间的差异。
>