SVM - Slack變量

Question

我明白，在SVM（支持向量機）中，您可以添加一個鬆弛變量ε來「軟化」邊界。從一些教科書中閱讀，它提到ε> 1將允許相應的樣本被錯誤歸類爲屬於錯誤的類別。因此，例如，如果我們有：

g = yf(x) 

是實際的類標籤（1或-1），模型的預測（實數）之間的產品，那麼將導致g是積極的任何正確分類樣本。 （即：要麼兩個Y和F（X）是積極的，他們都爲負

因此，我們可以計算模型的損失max(0, 1-g)其中任何錯誤分類的樣本將導致1-g > 0和積極的損失通過增加ε項。我們得到max(0,1-g-ε)這使得模型誤差更寬容。

然而，當時確實只是ε> 1允許misclassificatoin而0 <ε< 1只允許樣品trepass保證金，同時仍然被正確地分類？

Answer 1

對於0 <ξ≤11 $該點在邊界和正確的si之間de超平面。

因此，ξ/ || w || < 1/|| w ||。這被稱爲邊際違規

ξ> 1 只有意味着錯誤分類，因爲ξ/ || w ||> 2/|| w ||。

另一件事是鬆弛變量（ξ）本身意味着損失最大（0,1-g）。

如果您有疑問，請參考this文件。

注：我已經使用ξ而不是ε來避免任何符號濫用。