如何初始化Keras模型中的偏差？

Question

我想在Keras中建立一個合成模型，並且我需要給權重和偏差賦值。分配砝碼很簡單，我使用的是這裏提供的說明：https://keras.io/initializations/。 但是，我找不到有關如何分配偏差的任何說明。有任何想法嗎？

Answer 1

你可以在這裏找到答案。 https://keras.io/layers/core/

權重：numpy的陣列的列表，以設定爲初始權重。列表 應分別具有形狀（input_dim，output_dim）和 （output_dim）的2個元素，分別用於權重和偏差。

當添加新的層，可以定義參數「權重」，它包含具有形狀speicified初始瓦特和b列表。

model.add(Dense(50, input_dim= X_train.shape[1], weights = [np.zeros([692, 50]), np.zeros(50)]))

Answer 2

初始化小的正值，例如0.1

偏見由於我們使用RELU神經元，它也是很好的做法有輕微的正初始偏置初始化它們，以避免「死神經元」。

Answer 3

您也可以使用bias_initializer這樣的：

model.add(Dense(64, 
       kernel_initializer='random_uniform', 
       bias_initializer='zeros') 

這是https://keras.io/initializers/