使用學習參數學習其他參數

Question

是否有這樣做的名稱 - 如果是這樣，是否通常會皺眉？我無法通過網絡學習某個模型參數......但與其他參數的地面實況（實驗室測試）相比，可以獲得較好的結果。我想知道如果我可以使用這些學習參數作爲另一個網絡的輸入來學習最初給算法帶來很多困難的參數。

Answer 1

通常訓練一個模型來模仿其他模型的行爲稱爲模型轉移。關於它的文獻豐富而且越來越多。很多這項工作往往是相當研究。我特別喜歡Geoffrey Hinton的演示文稿Dark Knowledge。