2016-12-28 73 views
1

我一直在我的電腦上編譯這個程序的bird image preprocessing與8GB內存,英特爾酷睿i7-4th gen。處理器,但每次就是被運行了一段時間出此錯誤後卡:編譯時編譯器自動使用GPU還是必須手動使用它?

File "bird.py", line 13, in <module> 
    X,Y,X_test,Y_test = pickle.load(open("full_dataset.pkl", "rb")) 
MemoryError 

其事tensorflow一個新手,我不知道是否正在使用CUDA(我已經成功安裝),或者是它只是CPU仍在執行計算。

回答

2

在任何GPU計算(或者實際上任何TensorFlow計算)發佈之前,您看到的錯誤都會被提升。 MemoryError意味着取消數據集的取消可能導致內存不足,或者數據中存在一些損壞。嘗試加載較小的數據集以查看問題是否存在。對於你原來的問題,如果你已經安裝了TensorFlow的GPU版本以及CUDA(即CUDA 8.0)和cuDNN的兼容版本,TensorFlow會將大部分計算轉移到GPU上,包括矩陣乘法和卷積將包括訓練期間的大部分時間。