2
我正在研究卷積神經網絡,它要求內核權重的某些部分不可排除。 tf.nn.conv2d(x,W)將可訓練變量W作爲權重。我怎樣才能讓W的某些元素不可消除?Tensorflow:可訓練可變掩模
我正在研究卷積神經網絡,它要求內核權重的某些部分不可排除。 tf.nn.conv2d(x,W)將可訓練變量W作爲權重。我怎樣才能讓W的某些元素不可消除?Tensorflow:可訓練可變掩模
也許你可以有你的訓練的權重W1
,表明口罩M
在訓練的變量和常量/ untrainable權重矩陣W2
,並使用
W = tf.multiply(W1, tf.cast(M, dtype=W1.dtype)) + tf.multiply(W2, tf.cast(tf.logical_not(M), dtype=W2.dtype))
你的意思是你要的重量的各個元素矩陣不可訓練?或者你想讓你的一些節點不可訓練?我認爲這不是輟學會解決的問題嗎? – JCooke
我的意思是我想要一個權重矩陣的單個元素是不可訓練的。 –