tensorflow-serving 相关问题

TensorFlow Serving是一种灵活的高性能服务系统，适用于机器学习模型，专为生产环境而设计。 TensorFlow服务可以轻松部署新算法和实验，同时保持相同的服务器架构和API。 TensorFlow Serving提供与TensorFlow模型的开箱即用集成，但可以轻松扩展以提供其他类型的模型和数据。

使用带有ssl配置的tensorflow_model_server

我在配置tensorflow以使用ssl证书时遇到了麻烦。在本地计算机上运行实验。我正在使用的tensorflow环境是在tensorflow / serving中指定的：1 ....

tensorflow ssl openssl ssl-certificate tensorflow-serving

回答 1 投票 1

我如何将onnx模型转换为tensorflow保存的模型？

我正在尝试使用tf-serving部署我的火炬模型。我已将我的火炬模型导出到onnx。如何生成用于tf服务的PB模型？

tensorflow tensorflow-serving onnx

回答 1 投票 0

Tensorflow-serving找不到元图定义

我正在尝试使用tensorflow-serving（如果有任何区别，请加载到docker上，以服务于经过训练的Tensorflow模型）。

python tensorflow tensorflow-serving

回答 1 投票 0

当副本包含空格时如何使用bazel交叉编译docker build图像上的tensorflow-serving

背景信息我想在不支持标准tensorflow构建中使用的现代cpu指令的某些较旧的机器（目标系统）上运行tensorflow-serving。我用了这些...

linux docker cross-compiling bazel tensorflow-serving

回答 1 投票 1

将数据馈入Tensorflow 2.0中的已部署模型中

tensorflow tensorflow-serving tensorflow2.0

回答 1 投票 0

TensorFlow服务错误-找不到与提供的标签匹配的元图def：{服务}

我正在尝试还原TensorFlow的Saver对象（.ckpt。*），并将其转换为SavedModel对象（.pb），以便可以通过TensorFlow Serving进行部署。这就是我的转换方式：使用tf.Session（）...

tensorflow tensorflow-serving

回答 2 投票 0

来自CMake的用于自定义op tensorflow服务的构建文件

我是C ++的新手，我遵循此脚本为句子构建了custom_ops。从他们解释的描述中，运行cmake -DSPM_USE_BUILTIN_PROTOBUF = OFF -...

tensorflow build cmake bazel tensorflow-serving

回答 1 投票 0

没有docker的centos rhel 7的tensorflow-model-server

有没有办法在没有docker的情况下为centos rhel 7用户使用tensorflow-model-server。我找不到它的文档

tensorflow tensorflow-serving

回答 1 投票 0

Tensorflow预测变量：指定serving_input_receiver_fn

我想从tf.estimator.Estimator模型构建预测变量。因此，我需要指定一个input_receiver_fn，以指定从接收器张量到特征的预处理图...

tensorflow tensorflow-serving tensorflow-estimator

回答 1 投票 0

通过docker在tensorflow中进行详细登录

是否可以通过docker在tf服务中设置日志级别？我看到了这些参数，但没有看到有关在此处登录的任何信息--port = 8500 int32用于侦听gRPC的端口...

tensorflow logging tensorflow-serving

回答 1 投票 0

为什么我的使用bazel build copt avx2的TensorFlow服务无助于加快推理速度？

我正在使用tensorflow-v1.12.0构建我的tf服务服务。我已经尝试过各种可用于我的CPU的copt。但是结果没有达到我的预期。下图显示了每个副本的性能...

c++ tensorflow bazel tensorflow-serving

回答 1 投票 0

Tensorflow中的自定义资源

出于某些原因，我需要为Tensorflow实施自定义资源。我试图从查找表实现中获得启发。如果我很了解，我需要实现3个TF操作：...

c++ tensorflow tensorflow-serving

回答 1 投票 2

将预训练的张量流模型转换为张量流服务

我正在尝试使用张量流服务。但是，任何可下载的经过预训练的模型（例如从此处：TF检测动物园）在save_models / variables中都没有任何文件...

python tensorflow tensorflow-serving

回答 1 投票 0

向tensorflow服务模型进行卷曲查询以预测API中断

我正在使用本教程TensorFlow和Docker一起查询curl -d'{“ instances”：[1.0，2.0，5.0]}'\ -X POST http：// localhost：8501 / v1 / models / half_plus_two：预测它返回`C：\ WINDOWS \ ...

rest tensorflow curl tensorflow-serving

回答 1 投票 0

如何保存使用Tensorflow 1.xx中的.meta检查点模型作为部分的Tensorflow 2.0模型？

我已经使用tensorflow 1.15训练模型并保存为检查点（带有.meta，.index和.data文件）。我需要在此图的开头和结尾添加一些其他操作。 ...

tensorflow keras tensorflow-serving tensorflow2.0 checkpoint

回答 1 投票 0

如何保存使用Tensorflow 1.xx中带有.meta检查点的模型作为部分的Tensorflow 2.0模型？

我已经使用tensorflow 1.15训练模型并保存为检查点（带有.meta，.index和.data文件）。我需要在此图的开头和结尾添加一些其他操作。 ...

tensorflow keras tensorflow-serving tensorflow2.0 checkpoint

回答 1 投票 0

使用tensorflow服务和docker服务通用句子编码器模型

我在本地驱动器上保存了通用句子编码器模型。我正在尝试使用tensorflow服务在docker容器上提供模型。命令：sudo docker run -p 8502：8502 --name tf-serve -v ...

python docker tensorflow tensorflow-serving

回答 1 投票 -1

Tensorflow服务无法找到GPU

我正在尝试将训练有素的keras模型服务于张量流服务。导出部分还不错，我在加载模型之前与tf.device（'/ gpu：0'）：一起使用。但是当我尝试为其提供服务时，GPU设备...

tensorflow keras tensorflow-serving tensorflow-gpu

回答 1 投票 0

向Tensorflow服务发布Postman请求以预测REST API

Windows 10和Docker tensorflow / serving。在构造JSON以请求预测时遇到问题，希望有人可以帮助我。我尝试了不同格式的json，没有一个...

json api request postman tensorflow-serving

回答 1 投票 1

Tensorflow服务对象检测客户端

我有一个运行对象检测器模型的tensorflow服务docker容器。为了生成此模型，我使用了以下代码input_img = sess.graph.get_tensor_by_name（'Placeholder：0'）...

python docker tensorflow deep-learning tensorflow-serving

回答 1 投票 0

tensorflow-serving 相关问题

最新问题