序列標記與LSTM中的未知標記

Question

我已經用a，b，c標記標記了數據集，並且必須用a，b，c等標記標記傳入序列。它應該對已知序列進行分類和標記，或者說我以前沒有見過。

我想我應該定製我的網絡，使標籤獨立。所以標籤分數的總和不應該是1，並且每個標籤分數是獨立於其他的。

例如

sequence a : .95, 0.1, 0,01 
sequence b : .02, 0.87, 0.9 
unknown : .2, .15, .12 

所以我應該在我的神經網絡改變什麼設置：

model.add(LSTM(128, input_dim=128, input_length=10, unroll=True, implementation=0)) 
model.add(Dense(3, activation='sigmoid')) 
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=[accuracy']) 

Answer 1

所有你需要的是Dense(4,...)而不是Dense (3,...)。

四個輸出之間絕對不存在依賴關係。如果激活是softmax，它將總計1。