三角洲組件不顯示重量學習規則的乙狀結腸激活MLP

Question

作爲一個概念的基本證明，在一個網絡分類K類與輸入x，偏置b，輸出y，S樣本，權重v和t教師信號在其中如果匹配樣本在k類下，t（k）等於1。

Variables

讓X_（是）代表S_（TH）樣品中的I_（th）的輸入功能。 v_（ks）表示保存與s_（th）樣本內所有輸入的k_（th）輸出的連接權重的向量。 t_（s）表示s_（th）樣本的教師信號。

如果我們擴展了上述變量考慮多個樣品，下面的變化具有同時聲明變量Z_（k）時，激活函數f，並使用紹興德勝熵成本函數被應用（。）： Derivation

通常在學習規則中，delta（t_（k）-y_（k））總是包含在內，爲什麼Delta不顯示在這個等式中？我錯過了什麼或顯示不是必須的三角洲規則？

Answer 1

我設法找到解決方案，很明顯，當我們考慮Kronecker delta時，其中（δck= 1，如果一個類匹配分類器，否則δck）。這意味着推導藉此形狀：

Derivation

這導致delta規則。