CNTK：用於並行請求處理和clone（）方法性能

Question

C＃樣品在用於並行請求處理的C＃樣品 https://github.com/Microsoft/CNTK/blob/zhouwang/cseval-example-clone/Examples/Evaluation/CNTKLibraryCSEvalCPUOnlyExamples/CNTKLibraryCSEvalExamples.cs

是多麼昂貴它調用rootFunc.Clone（ParameterCloningMethod.Share）？ 我們目前正在根據我們在我們的服務中收到的要求調用它，但值得知道這是否是不可取的做法。 ）

預先感謝

Answer 1

克隆（與參數共享不貴regardign內存開銷，因爲所有克隆實例共享模型的參數，例如權重。關於延遲，它也應該很低，因爲它只創建一些內存中網絡描述數據結構。當然，如果您使用池來管理所有克隆的實例，您將獲得更好的性能。