如何解決神經網絡的準確性成爲不變的問題？

Question

我使用一些簡單的模型：

model = Sequential() 

model.add(Dense(12, input_dim=len(allKeys), activation='tanh', kernel_initializer='uniform')) 
model.add(Dense(31, activation='tanh')) 
model.add(Dense(N, activation='relu')) 

model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy']) 

model.fit(X, Y, epochs=500, batch_size=40) 

X.shape（31，147） Y.shape（31，13）

在X的值是0或一些下低於1.0 。 Y是稀疏陣列，一列中的一列是1，其餘列是0.

acc始終低於0.25。大部分時間只是0.12。如果我添加丟失圖層，我會發現acc值會發生變化，但不會超過0.25，大多數時候只會給出更糟糕的結果。

Epoch 290/500 31/31 [==============================] - 0s - loss：9.6283 - acc：0.1290 Epoch 291/500 31/31 [==============================] - 0s - loss： 9.6283 - acc：0.1290 Epoch 292/500 31/31 [==============================] - 0s - loss ：9.6283 - acc：0.1290

----------------------------更新後的代碼---------- --------------------

model = Sequential() 

model.add(Dense(12, input_dim=len(allKeys), activation='tanh', kernel_initializer='uniform')) 
model.add(Dense(31, activation='tanh')) 
model.add(Dropout(0.2)) 
model.add(Dense(N, activation='softmax')) 

sgd = SGD(lr=0.001, momentum=0.3, decay=0.0, nesterov=False) 
model.compile(optimizer=sgd,loss='categorical_crossentropy',metrics=['accuracy']) 
one_hot_labels = to_categorical(Y, num_classes=N) 

model.fit(X, one_hot_labels, epochs=100, batch_size=40) 

Answer 1

嘗試玩學習率。對於這種情況，我看起來像默認值太高。

Answer 2

基於行

model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy']) 

你打算做分類。如果是這樣的話，你需要改變

model.add(Dense(N, activation='relu')) 

到

model.add(Dense(N, activation='softmax')) 

同時，確保在Y向量是一個熱載體。您可以使用keras to_categorical函數實現此目的。