什麼是三重損失後向傳播梯度公式？

Question

我想用咖啡來實現Schroff, Kalenichenko and Philbin "FaceNet: A Unified Embedding for Face Recognition and Clustering", 2015中描述的三重損失。

我是新來的，所以如何計算反向傳播的梯度？

Answer 1

我假設你定義損失層

layer { 
    name: "tripletLoss" 
    type: "TripletLoss" 
    bottom: "anchor" 
    bottom: "positive" 
    bottom: "negative" 
    ... 
} 

現在你需要計算梯度w.r.t每個「底」 S的。

梯度WRT 「錨」 輸入（fa）：

梯度WRT 「正」 輸入（fp）：

損失由下式給出

「負」輸入的梯度（fn）：

---

原來的計算（我離開這裏了感情上的原因......）

請參閱comment修正的最後一項。