如何使用張力流爲多個模型服務

Question

如何使用多個tensorflow模型？ 我使用碼頭集裝箱。

model_config_list: { 

    config: { 
    name: "model1", 
    base_path: "/tmp/model", 
    model_platform: "tensorflow" 
    }, 
    config: { 
    name: "model2", 
    base_path: "/tmp/model2", 
    model_platform: "tensorflow" 
    } 
} 

Answer 1

內置官方tensorflow servingdocker file

泊塢窗圖像內。然後搬運工圖像。

/usr/local/bin/tensorflow_model_server --port=9000 --model_name=model_name --model_config_file=/serving/models.conf 

here /serving/models.conf與您的文件類似。