神經網絡結果不好

我正在研究神經網絡。我正在探索使用大型數據集進行培訓的效果。目前我正在蹩腳的結果。有什麼建議麼？我不想使用除numpy以外的任何庫，請保持簡單。我是一名GCSE學生，所以我對微積分也不瞭解。爲了提高我的網絡IVE說：第二隱藏層，多個時期，不同的激活功能（RELU而不是乙狀結腸），每層更多隱藏節點...但我的結果仍然是可怕的！神經網絡結果不好

import numpy as np 

x = np.array([ 
    [0000], 
    [0001], 
    [0010], 
    [0100], 
    [1000], 
    [0011], 
    [0110], 
    [1100], 
    [1001], 
    [1001], 
    [1110], 
    [1101], 
    [1011], 
    [1111], 
    [1111], 
    [1111], 
    [1111] 
    ]) 

y = np.array([ 
    [0, 1, 0, 0, 0, 1, 0, 0, 1, 1, 0, 1, 1, 1, 1, 1, 1] 
    ]).T 

w = np.random.random((1, 1)) 
w2 = np.random.random((1, 1)) 
w3 = np.random.random((1, 1)) 

for j in xrange(500000): 
    a2 = 1/(1 + np.exp(-(np.dot(x, w)))) 
    a3 = 1/(1 + np.exp(-(np.dot(a2, w2)))) 
    a4 = 1/(1 + np.exp(-(np.dot(a3, w3)))) 
    a4delta = (y - a4) * (a4 * (1 - a4)) 
    a3delta = a4delta.dot(w3.T) * (a3 * (1 - a3)) 
    a2delta = a3delta.dot(w2.T) * (a2 * (1 - a2)) 
    w3 += a3.T.dot(a4delta) 
    w2 += a2.T.dot(a3delta) 
    w += x.T.dot(a2delta) 
print(a4)

來源

2017-07-29 Finn Williams

您是否試圖確定二進制序列是否以1結尾？ –

另外，我對Python有點熟悉，但是我不能讓你的代碼運行，因爲它認爲'0001'是一個無效的標記，也許是因爲你有前導0。有什麼我失蹤？ –

我認爲主要的問題是在輸入 - 你的情況是x是一個功能的向量;我不認爲模型可以從中學習。你爲什麼不製作具有4個特徵的矢量？

x = np.array([ 
[0,0,0,0], 
[0,0,0,1], 
[0,0,1,0], 
[0,1,0,0], 
[1,0,0,0], 
[0,0,1,1], 
[0,1,1,0], 
[1,1,0,0], 
[1,0,0,1], 
[1,0,0,1], 
[1,1,1,0], 
[1,1,0,1], 
[1,0,1,1], 
[1,1,1,1], 
[1,1,1,1], 
[1,1,1,1], 
[1,1,1,1] 
])

而且改變權重形狀：

w = np.random.random((4, 4)) 
w2 = np.random.random((4, 4)) 
w3 = np.random.random((4, 1))

隨着這些變化的淨提供了良好的效果。

來源

2017-07-29 16:23:06

是的，我會建議同樣的事情，但我不能讓代碼運行......很高興它成功了！ –

非常感謝你們兩位，我會試試這個 –

你得到了什麼結果？我得到了像3.55891306e-03這樣的指數數字....不是我所希望的... –

神經網絡結果不好

回答

相關問題