batch-normalization

1熱度

2回答

Tensorflow：同一圖像的不同激活值

我試圖重新訓練（讀取微調）MobileNet圖像分類器。 由張量流here（來自tutorial）給出的再訓練腳本僅更新新添加的完全連接圖層的權重。我修改了這個腳本來更新預訓練模型的所有圖層的權重。我正在使用MobileNet架構，深度倍數爲0.25，輸入尺寸爲128. 但是，在重新訓練時，我觀察到一個奇怪的現象，如果我將某個特定圖像作爲批量推理的輸入與其他圖像進行比較，一些圖層後的值與圖像單獨傳

python machine-learning tensorflow conv-neural-network batch-normalization 2017-09-23

---

1熱度

2回答

BatchNormalization層給出意想不到的輸出值

鑑於輸入值[1, 5]和標準化他們應該產生類似[-1, 1]if I understand correctly，因爲 mean = 3 var = 4 result = (x - mean)/sqrt(var) 然而這個最小示例 import numpy as np import keras from keras.models import Model from keras.lay

tensorflow keras normalization batch-normalization 2017-09-27

---

1熱度

1回答

Keras BatchNormalization總體參數更新，而在tensorflow

我在Ubuntu 16.04使用Keras 2.0.8與Tensorflow 1.3.0在CUDA 8.0和cuDNN 6. 我使用兩個BatchNormalization層（keras層）訓練在我的模型和培訓中使用tensorflow管道。我在這裏面臨兩個問題 - BatchNorm層總體參數（均值和方差）的未更新在訓練甚至設置K.learning_phase後到真。結果，推論完全失敗。我需要一

python tensorflow keras batch-normalization 2017-10-06

---

0熱度

1回答

恢復訓練後的張量流模型，編輯與節點相關聯的值並保存它

我已經訓練了一個帶有tensorflow的模型並在訓練過程中使用了批量規範化。批量規範化要求用戶傳遞一個布爾值，稱爲is_training，以設置模型是處於訓練階段還是測試階段。 當模型進行訓練，如下圖所示 is_training = tf.constant(True, dtype=tf.bool, name='is_training') 我已經保存了訓練模型is_training被設置爲常數

python machine-learning tensorflow deep-learning batch-normalization 2017-08-17

---

0熱度

1回答

Tensorflow批處理標準導致培訓損失和驗證損失之間的不平衡？

下面的代碼片段是我的代碼。我使用隊列加載訓練數據，並使用Feed加載驗證圖像。隨着訓練過程的進行，訓練損失和訓練的準確性恰到好處。但是，就驗證階段而言，驗證損失和準確性很奇怪。驗證損失太高，無論我運行多少個步驟，驗證的準確性都太低，就像隨機猜測一樣。但是，當我在函數load_validate_img_data中將'is_training'參數設置爲True而不是False時，驗證損失和準確性恰到好

tensorflow batch-normalization 2017-08-21

---

0熱度

1回答

keras中的BatchNormalization圖層如何在測試階段實現？

我最近想用批標準化的keras構建原來的文件中提及神經network.As，在批標準化測試和培訓再寄一次行爲不同檢查文檔： keras.layers.BatchNormalization(axis=-1, momentum=0.99, epsilon=0.001, center=True, scale=True, beta_initializer='zeros', gamma_initializ

keras batch-normalization 2017-10-11

---

6熱度

1回答

批量規範化而不是輸入規範化

我可以在輸入層之後立即使用批量規範化層，而不是規範化我的數據嗎？我希望獲得類似的效果/表現嗎？ 在keras功能，將是這樣的： x = Input (...) x = Batchnorm(...)(x) ...

machine-learning neural-network keras artificial-intelligence batch-normalization 2017-10-16

---

0熱度

1回答

如何防止咖啡中的重量更新

我的網絡的某些層加載了預訓練模型。我想修復他們的參數並訓練其他層。 我跟着this page並設置lr_multidecay_multi爲0，propagate_down: false，甚至base_lr: 0在求解weight_decay: 0。然而，測試損失（每次測試使用所有測試圖像）在每個測試中仍然非常緩慢地變化。經過數千iters準確性將達到0（從預裝模型加載時的80％）。 這裏是AA兩層

machine-learning neural-network deep-learning caffe batch-normalization 2017-08-29

---

3熱度

2回答

恢復模型時使用批量規範？

我有一個小問題，在張量流中恢復模型時使用批量常量。 下面是我的批處理規範從here： def _batch_normalization(self, input_tensor, is_training, batch_norm_epsilon, decay=0.999): """batch normalization for dense nets. Args: inp

tensorflow neural-network deep-learning restore batch-normalization 2017-10-18

---

1熱度

1回答

在tf.slim中，是否需要將依賴項添加到損失中

在tf.slim中，我使用了batch_norm。 我的問題是：我是否需要明確地添加依賴到損失？ 我認爲，苗條知道我已經使用了batch_norm，它是否已經自動添加依賴到損失？我很困擾。

tensorflow batch-normalization 2017-09-10

---