Keras訓練稀疏模型

Question

我正試圖訓練一個稀疏模型，即一些模型參數在優化期間必須保持爲零。

在Keras中這可能爲參數定義一個掩碼，以便優化器不會更新被掩碼的掩碼嗎？

不幸的是，凍結一層不會工作，因爲我需要以更細粒度的方式掩蓋參數。

Answer 1

您可以使用tf.where在參數和tf.stop_gradient(parameters)之間選擇元素。