Nesterovs第三種方法 - 在Python中的實現

Question

我正在尋找實現Nesterov的方法爲我的算法正在編寫的Python。任何人都可以請指點我的文檔，可以幫助我開始實施這種方法嗎？我是專業程序員，因此看着非理論版本。

我試着通過這個http://www.ee.ucla.edu/~vandenbe/236C/lectures/fgrad.pdf，但是當他們提到prox操作符時，我感到很震驚。什麼是prox操作符，並且有沒有實現prox操作符的指針？

非常感謝您的時間。

Answer 1

Boyd的paper解釋近端操作符以及它如何很好地使用。方程1.2顯示了prox_ {λλ}（v）的定義，它本質上是一個小的凸優化問題，在「最小化f和接近v之間」進行折衷。至於實現，它通常取決於函數f。例如，如果f是凸集合的指示函數（如果該點在集合中爲0，而在其他地方爲+無窮大），則近端算子是該集合上的歐幾里德投影。您可以查看POGS solver的源代碼，並查看它們定義的各種近端運算符（它們只能解析一小部分函數，​​即使這樣它們也可以涉及Lambert W函數或找到三次多項式的根）