如何使用KNN對MATLAB中的數據進行分類？

Question

我在理解K-NN分類是如何在MATLAB中工作時遇到問題。' 這裏有個問題，我有一個大型數據集（超過1500個主題的65個特徵）及其相應類的標籤（0或1）。 根據我已經解釋的內容，我必須將數據分成訓練，測試和驗證子集，以對數據執行監督式訓練，並通過K-NN進行分類。 首先，劃分3個小組的最佳比例是多少（每個數據集大小的1/3）？

我已經看過ClassificationKNN/fitcknn函數，以及crossval函數（理想地分割數據），但我真的不知道如何使用它們。

綜上所述，我想 - 將數據分成3組 - 「訓練」 KNN（我知道這不是一個需要訓練的方法，但等同於培訓）與訓練子集 - 分類的測試子集並得到它的分類錯誤/性能 - 進行驗證測試有什麼意義？

我希望你能幫幫我，謝謝你提前

編輯：我想我是能夠做到這一點，但是，如果這是不是要求太多了，你可以看到，如果我錯過了什麼？這是我的代碼，一個隨機的情況下：

nfeats=60;ninds=1000; 
trainRatio=0.8;valRatio=.1;testRatio=.1; 
kmax=100; %for instance... 
data=randi(100,nfeats,ninds); 
class=randi(2,1,ninds); 
[trainInd,valInd,testInd] = dividerand(1000,trainRatio,valRatio,testRatio); 
train=data(:,trainInd); 
test=data(:,testInd); 
val=data(:,valInd); 
train_class=class(:,trainInd); 
test_class=class(:,testInd); 
val_class=class(:,valInd); 
precisionmax=0; 
koptimal=0; 
for know=1:kmax 
     %is it the same thing use knnclassify or fitcknn+predict?? 
     predicted_class = knnclassify(val', train', train_class',know); 
     mdl = fitcknn(train',train_class','NumNeighbors',know) ; 
     label = predict(mdl,val'); 
     consistency=sum(label==val_class')/length(val_class); 
     if consistency>precisionmax 
      precisionmax=consistency; 
      koptimal=know; 
     end 
    end 
mdl_final = fitcknn(train',train_class','NumNeighbors',know) ; 
label_final = predict(mdl,test'); 
consistency_final=sum(label==test_class')/length(test_class); 

非常感謝您的所有幫助

Answer 1

爲了您1日問題「什麼是分3個亞組的最佳比例」有隻有經驗法則：

1. 訓練數據量是最重要的。越多越好。 因此，使其儘可能大並且絕對大於測試或驗證數據。

2. 測試和驗證數據具有類似的功能，因此可以方便地爲它們分配相同數量的數據 。但有足夠的數據能夠識別過度適應是非常重要的。因此，他們應該從數據基礎中完全隨機挑選出來。

因此，50/25/25或60/20/20分區是相當普遍的。但是，如果您的總數據量相對於您選擇的拓撲結構的權重總數很小（例如，網絡中有10個權重，數據中只有200個權重），那麼70/15/15甚至80/10/10可能是更好的選擇。

關於你的第二個問題「驗證測試有什麼意義？：

通常情況下，您將對訓練數據選擇模型進行訓練，然後通過將訓練模型應用於看不見的數據（驗證集）來評估「成功」。

如果您現在完全停止提高準確性的努力，您確實不需要對數據進行三個分區。但通常情況下，您覺得您可以通過例如改變權重或隱藏層的數量或...現在一個大循環開始與多次迭代運行：

1）變化的權重和拓撲結構，2）列車，3）驗證，不滿意，轉到1）

這個循環的長期效果，越來越多地將模型與驗證數據相匹配，所以結果變得更好，並不是因爲您智能地改進了拓撲，而是因爲您無意識地瞭解了驗證集的屬性以及如何處理它們。現在

，你的神經網絡的最終和唯一有效的精度估計上確實看不到數據：測試集。這隻做一次，對揭示過度適應也很有用。您現在不允許再啓動第二個更大的循環來禁止任何適應測試集！