lnsrch問題與優化-R，BFGS

Question

我想用BFGS（和L-BFGS-B）使用優化來擬合非線性最小二乘問題。當我提供分析梯度時，分析結果異常終止，最終解決方案總是非常接近起點。但是，當我不提供漸變時，它似乎收斂很好。這是否對任何人提出任何數字問題？我很確定漸變是正確的。這可能是一個縮放問題？ 感謝您的幫助。

Answer 1

你很確定漸變是正確的。你證明了它嗎？你有沒有通過有限差分來計算梯度，看看它們是否與分析梯度差不多？我認爲這是首先看的地方。我必須做同樣的事情。

P.S.你有沒有考慮過Metropolis-Hastings？它速度很慢但強健，不需要漸變或Hessian。