如何重塑預先訓練的權重，將它們輸入到三維卷積神經網絡？

Question

我已經使用Matlab預先訓練了三維卷積圖層的權重。權重是具有維度（512,4,4,4,160）的5d張量。 [out_channels，filter_depth，filter_height，filter_width，in_channels]

現在我想輸入它作爲在tensorflow的tf.nn.conv3d中進行微調的初始權重。我發現三維卷積神經網絡的權重形狀應該是：（4,4,4,160,512）。[filter_depth，filter_height，filter_width，in_channels，out_channels]。我可以只使用tf.Variable（）。reshape（4,4,4,160,512）？但如果我只是使用重塑，我覺得這不是正確的重量。

Answer 1

的tf.transpose操作可以重新排序軸：https://www.tensorflow.org/versions/r0.11/api_docs/python/array_ops.html#transpose

只要張量input的初始形狀是(512,4,4,4,160)的tf.transpose(input, perm=[4,1,2,3,0])輸出張量將具有形狀(160,4,4,4,512)。

此外，您可能需要沿一些軸或軸反轉您的重量。在張量流中，卷積實現爲互相關：https://www.tensorflow.org/versions/r0.11/api_docs/python/nn.html#convolution