神經網絡 - 預測輸出層只有一個神經元的MNIST數字

是否可以創建一個神經網絡，在輸出層有一個神經元，可以在訓練後直接預測NMIST數據集中的數字。例如，如果我們將數字3作爲輸入，則輸出層神經元應使輸出值接近3.神經網絡 - 預測輸出層只有一個神經元的MNIST數字

注意：可能有任意數量的具有任意數量隱藏層的神經元。

在此先感謝。

這是我嘗試過使用Tensorflow。

import tensorflow as tf 
from mnist import MNIST 
import numpy as np 


inputs = tf.placeholder(tf.float32, shape=(1, 784)) 
labels = tf.placeholder(tf.float32, shape=(1, 1)) 

logits = tf.layers.dense(inputs, 1) 
loss = 9.0 * tf.sigmoid(logits) - labels # As we want predicted value in [0 - 9] 

train_op = tf.train.GradientDescentOptimizer(0.01).minimize(loss) 

init = tf.global_variables_initializer() 

with tf.Session() as sess: 
    sess.run(init) 
    mnist = MNIST() 
    for i in range(100001): 
    data, label = mnist.get_train_data() 
    lab = np.zeros((1,1), np.float32) 
    lab[0][0] = label 
    _, _loss, _logits= sess.run([train_op, loss, logits], feed_dict={inputs: np.reshape(data, (1, 784)), labels: lab}) 
    if i%5000 == 0: 
     print("Step: %d Loss: %6f <== logits %s, Actual: %6f" % (i, _loss, str(_logits), label)) 



Step: 0 Loss: -0.436195 <== logits [[ 0.02835961]], Actual: 5.000000 
Step: 5000 Loss: -6.999933 <== logits [[-11.80182171]], Actual: 7.000000 
Step: 10000 Loss: -2.999990 <== logits [[-13.7065649]], Actual: 3.000000 
Step: 15000 Loss: -4.999864 <== logits [[-11.09644413]], Actual: 5.000000 
Step: 20000 Loss: -5.000000 <== logits [[-17.01583481]], Actual: 5.000000 
Step: 25000 Loss: -2.999971 <== logits [[-12.66251564]], Actual: 3.000000 
Step: 30000 Loss: -2.999927 <== logits [[-11.72266102]], Actual: 3.000000 
Step: 35000 Loss: -0.999898 <== logits [[-11.38729763]], Actual: 1.000000 
Step: 40000 Loss: -7.000000 <== logits [[-17.59585381]], Actual: 7.000000 
Step: 45000 Loss: -3.000000 <== logits [[-17.72655296]], Actual: 3.000000 
Step: 50000 Loss: -5.000000 <== logits [[-16.65830421]], Actual: 5.000000 
Step: 55000 Loss: -6.999999 <== logits [[-15.97771645]], Actual: 7.000000 
Step: 60000 Loss: -3.000000 <== logits [[-17.10641289]], Actual: 3.000000 
Step: 65000 Loss: -4.999984 <== logits [[-13.26896667]], Actual: 5.000000 
Step: 70000 Loss: -5.000000 <== logits [[-19.57778549]], Actual: 5.000000 
Step: 75000 Loss: -2.999995 <== logits [[-14.30502892]], Actual: 3.000000 
Step: 80000 Loss: -2.999982 <== logits [[-13.13857365]], Actual: 3.000000 
Step: 85000 Loss: -0.999971 <== logits [[-12.63682747]], Actual: 1.000000 
Step: 90000 Loss: -7.000000 <== logits [[-19.08620071]], Actual: 7.000000 
Step: 95000 Loss: -3.000000 <== logits [[-19.23719406]], Actual: 3.000000 
Step: 100000 Loss: -5.000000 <== logits [[-17.85402298]], Actual: 5.000000

來源

2017-08-24 Asis Patra

這當然是可能的，但它不是一個好主意。數字識別是一個分類問題。通過僅使用單個輸出神經元，您提出將其視爲迴歸問題。你正在做的隱含假設是，數字上相互接近的數字也是看起來類似。這顯然不是這種情況。例如，3和5看起來與3和4看起來更相似，因爲底部是相同的。

來源

2017-08-24 12:43:01 GeertH

我同意@Geerth，但只想添加一點。事實上，如果你使用迴歸模型而不是分類，這是真實的。但迴歸模型假設您的輸入是有序的（您可以使用任何順序，例如1,2,3 ....或1,3,2,5,4或其他任何順序，並且您的模型將具有不同的參數）。 "Introduction to Statistical Learning"這本書有一些關於它的好主意（它是免費的）。

來源

2017-08-25 09:13:36

神經網絡 - 預測輸出層只有一個神經元的MNIST數字

回答

相關問題