3

我試圖用神經網絡軟件包構建一個神經網絡,但我遇到了一些麻煩。我已經成功使用nnet包,但沒有運氣與neuralnet之一。我已經閱讀了整個文檔包,找不到解決方案,或者我無法發現它。神經網絡預測爲所有預測返回相同的值

我使用的訓練命令是

nn<-neuralnet(V15 ~ V1 + V2 + V3 + V4 + V5 + V6 + V7 + V8 + V9 + V10 + V11 + V12 + V13 + V14,data=test.matrix,lifesign="full",lifesign.step=100,hidden=8) 

和預測

result<- compute(nn,data.matrix)$net.result 

培訓需要一大堆長於NNET培訓。我曾嘗試使用與nnet(反向傳播而不是反向傳播)相同的算法,但沒有更改激活函數(以及linear.output=F)和其他所有內容,結果未得到改善。預測值都是一樣的。我不明白爲什麼nnet爲我工作,而neuralnet沒有。

我真的可以使用一些幫助,我(缺乏)理解這兩個東西(神經網絡和R)這可能是原因,但無法找到原因。我的數據集是UCI。我想使用神經網絡進行二元分類。的數據的樣本將是:

25,Private,226802,11th,7,Never-married,Machine-op-inspct,Own-child,Black,Male,0,0,40,United-States,<=50K. 
38,Private,89814,HS-grad,9,Married-civ-spouse,Farming-fishing,Husband,White,Male,0,0,50,United-States,<=50K. 
28,Local-gov,336951,Assoc-acdm,12,Married-civ-spouse,Protective-serv,Husband,White,Male,0,0,40,United-States,>50K. 
44,Private,160323,Some-college,10,Married-civ-spouse,Machine-op-inspct,Husband,Black,Male,7688,0,40,United-States,>50K. 
18,?,103497,Some-college,10,Never-married,NA,Own-child,White,Female,0,0,30,United-States,<=50K. 
34,Private,198693,10th,6,Never-married,Other-service,Not-in-family,White,Male,0,0,30,United-States,<=50K. 
29,?,227026,HS-grad,9,Never-married,?,Unmarried,Black,Male,0,0,40,United-States,<=50K. 
63,Self-emp-not-inc,104626,Prof-school,15,Married-civ-spouse,Prof-specialty,Husband,White,Male,3103,0,32,United-States,>50K. 
24,Private,369667,Some-college,10,Never-married,Other-service,Unmarried,White,Female,0,0,40,United-States,<=50K. 
55,Private,104996,7th-8th,4,Married-civ-spouse,Craft-repair,Husband,White,Male,0,0,10,United-States,<=50K. 
65,Private,184454,HS-grad,9,Married-civ-spouse,Machine-op-inspct,Husband,White,Male,6418,0,40,United-States,>50K. 
36,Federal-gov,212465,Bachelors,13,Married-civ-spouse,Adm-clerical,Husband,White,Male,0,0,40,United-States,<=50K. 
26,Private,82091,HS-grad,9,Never-married,Adm-clerical,Not-in-family,White,Female,0,0,39,United-States,<=50K. 

轉換成一個矩陣,其中的因素作爲數值:

V1 V2 V3 V4 V5 V6 V7 V8 V9 V10 V11 V12 V13 V14 V15 
39 7 77516 10 13 5 1 2 5 2 2174 0 40 39 0 
50 6 83311 10 13 3 4 1 5 2 0 0 13 39 0 
38 4 215646 12 9 1 6 2 5 2 0 0 40 39 0 
53 4 234721 2 7 3 6 1 3 2 0 0 40 39 0 
28 4 338409 10 13 3 10 6 3 1 0 0 40 5 0 
37 4 284582 13 14 3 4 6 5 1 0 0 40 39 0 
49 4 160187 7 5 4 8 2 3 1 0 0 16 23 0 
52 6 209642 12 9 3 4 1 5 2 0 0 45 39 1 
31 4 45781 13 14 5 10 2 5 1 14084 0 50 39 1 
42 4 159449 10 13 3 4 1 5 2 5178 0 40 39 1 
37 4 280464 16 10 3 4 1 3 2 0 0 80 39 1 
30 7 141297 10 13 3 10 1 2 2 0 0 40 19 1 
23 4 122272 10 13 5 1 4 5 1 0 0 30 39 0 

摘要的預測值的:

 V1   
Min. :0.2446871 
1st Qu.:0.2446871 
Median :0.2446871 
Mean :0.2451587 
3rd Qu.:0.2446871 
Max. :1.0000000 

價值Wilcoxon-Mann-Whitney檢驗(曲線下面積)顯示預測性能與隨機性相同。

performance(predneural,"auc")@y.values 
[1] 0.5013319126 

回答

7

當你用神經網絡得到奇怪的結果時,首先要考慮的原因是規範化。您的數據必須進行標準化,否則,培訓會導致偏斜的NN,從而產生相同的結果,這是一種常見的症狀。

看看你的數據集,有值>> 1,這意味着它們全部都是由NN處理的。其原因是傳統上使用的響應函數在大約0的某個範圍之外(幾乎)是恆定的。

在將數據饋送到神經網絡之前,請始終對數據進行標準化。