我有一个张量流模型,我打算使用张量流为模型推理进行部署。
只是想知道在服务收到请求之后和进入tensorflow模型之前是否有办法添加一些自定义逻辑。具体来说,我需要从外部数据库执行查找步骤,这将丰富应用程序通过REST调用接收的数据。
或者,这可能作为张量流图的一部分吗?
如果它可以捆绑在服务层中,那么为此创建单独的服务听起来有点过分。
我会说你可以将TF服务器包装成一个烧瓶应用程序,它接收一个REST请求,应用额外的逻辑(数据库查找),并填充并向TF服务器发送请求(通过HTTP或GRPC)。我认为不可能将其作为“TF图的一部分”。