我使用一组代表性图像成功将 YOLOv5 Nano 转换为 tflite (Ultralytics 出口也能做到这一点)。我可以看到输入的刻度和零点,这很好。我还可以要求 float32 输入和输出,并且转换器插入量化和反量化运算符 - 到目前为止一切都很好。
但是,输出不正确,我不知道使用 8 位量化如何正确,因为 BB 在图像坐标 (0..640) 中给出,置信度/概率在范围 (0.640) 中给出。 .1) 在相同的输出张量中——并且两者都不能使用相同尺度+零点值来表示。
一般问题是如何将 YOLOv5 Nano 转换为 TF-lite 8bit 量化?
我也会问一个有风险的 XY 问题:
如何导出 Ultralytics 模型,使 BB 也在 0..1 范围内(相对于图像大小)? 谢谢!
解决了。 使用 Ultralytics export.py 进行导出即可完成。 坐标已标准化。