如何查詢Tensorflow初始服務模型從gcloud中部署到Nodejs中

Question

我希望通過遵循官方教程https://tensorflow.github.io/serving/serving_inception.html從我部署在gcloud/kubernet上的Web服務器查詢tensorflow初始微調模型。

我完成了所有步驟，並在本地我可以查詢遠程服務器$ bazel-bin/tensorflow_serving/example/inception_client --server=146.148.88.232:9000 --image=/path/to/my_cat_image.jpg 。

我不明白我怎麼能從Web服務器（nodejs，Rails，flask ..）查詢服務器。

Answer 1

您應該構建一個gRPC客戶端來查詢gRPC服務器。

以下是在nodejs中構建gRPC的示例。

gRPC sample nodejs

Demo