0
在度量學習的訓練過程中,如果成本函數是凸的,那麼我可以使用梯度下降法,並得到最優解。用於多度量學習的「替代優化」方法
現在,我想訓練訓練集中的N(N可能非常大,例如100)度量,並且一種方法是調整成本函數以使這些N度量合併爲大的度量矩陣並且使用梯度下降的方法,但是,如果N很大,這種方法不是很好,在這種情況下,是否有一些「替代優化」的方法我可以使用?, 我可以修正第2〜僅爲第1個度量制定梯度下降,然後修復第1個,第3個至第N個度量並僅爲第2個度量製作梯度下降。 這種「替代優化」方法是否存在一些必要條件
你使用了什麼梯度下降法? –
這很大程度上取決於您正在優化的功能(尺寸如何分離)。有時你必須一次做完所有事情,有時候一次很好,有時一次一批或者分批次,多次傳球(多次傳球的批次是我常常贊成的折中方案) – Dave