OpenVino 图像子集异步推理

Question

我正在尝试为我的服务实现异步 openvino 推理（实际上从队列中获取输入图像（使用rabbitmq））。

找到了官方教程https://docs.openvino.ai/2023.2/notebooks/115-async-api-with-output.html，但是这里的实现使用了视频流。我在 async_api 方法中将视频输入更改为图像输入时遇到困难。所以他们正在做这样的事情（简而言之），其中 VideoPlayer 是一个标准的 cv2 视频流。

...
player = utils.VideoPlayer(source, flip=flip, fps=fps, skip_first_frames=skip_first_frames)
player.start()
frame = player.next()
curr_request.set_tensor(input_layer_ir, ov.Tensor(frame))
curr_request.start_async()
while True:
   next_frame = player.next()
   next_request.set_tensor(input_layer_ir, ov.Tensor(resized_frame))
   next_request.start_async()
   curr_request.wait()
...

那么，如果我想使用一些图像列表或一些消费者，有什么更好的方法来获取下一帧？

Answer 1

OpenVINO™ 确实提供了一个 Python 示例，该示例使用异步推理请求 API 使用图像源而不是视频来运行图像分类。

图像分类异步 Python 示例的示例代码可从我们的OpenVINO 存储库获取。

该示例支持通过图像文件路径输入图像并异步运行推理。此外，图像文件的输入参数采用列表格式，因此最简单的方法是提供图像路径列表。