2013-02-02 56 views
4

我在讀安德魯·吳的機器學習筆記,但功能裕度定義搞糊塗了:如何理解SVM的功能裕度?

enter image description here

我可以理解幾何保證金是距離x到它的超平面,但如何理解功能保證金?爲什麼他們這樣定義它的公式?

+0

公式就是這樣,因爲你可以使用「內核」函數將值映射到另一個更高維的空間。這個函數的例子是多項式或RBF。功能邊界可能是特定功能在映射空間上的幾何邊界! – soufanom

+0

這個問題是舊的,但我已經掛爲重複的人似乎有更好的接受的答案(http://stackoverflow.com/questions/20058036/svm-what-is-a-functional-margin)。 – BartoszKP

回答

3

把它看成是這樣的:瓦特^ T.x_i + b是模型的爲第i個數據點的預測。 Y_i是它的標籤。如果預測和基本事實具有相同的符號,那麼gamma_i將是正數。進一步的「內部」級邊界這種情況下是,更大的gamma_i將是:這是更好,因爲,總結了所有我,你有你自己的類之間更大的分離。如果預測和標籤在符號上不一致,那麼這個數量將是負數(預測變量的不正確決定),這會降低您的保證金,並且它會減少越多,您就越不正確(類似於鬆弛變量) 。

-1

官能餘量用於縮放。

幾何餘量=官能餘量/範數(W)。

或者,當範數(W)= 1,則邊緣是幾何餘量

2

功能邊距:

這使點的位置相對於所述平面,其不依賴於幅度。

幾何比例:

這給定的訓練示例和給定平面之間的距離。

0

可以功能保證金轉移到基於以下兩個假設幾何保證金:

  1. || w^|| == 1,因此(W^T)X + B ==((W^T)X + B)/ || ||瓦特,這是從點x的直線y =幾何距離(W^T) X + b。

  2. 只有兩種類別的目標,其中Y_I只能是+1和-1。因此,如果Y_I的符號的行的面與其中點x位於(Y_I> 0時(W^T)X + B> 0,Y_I < 0時(W^T)X + B < 0) ,乘以y_i就等價於獲得距離(w^T)x + b的絕對值。