如何實現tensorflow中的優化功能？

Question

minΣ（|| XI-X CI ||^2 +λ || || CI），

ST CII = 0，

其中X是形狀d * N和C的矩陣形狀爲n * n，xi和ci分別表示X和C的列。

X在這裏已知的，基於X我們想找到C.

Answer 1

與通常一樣，你需要向量化它的損失，而不是用列工作：

loss = X - tf.matmul(X, C) 
loss = tf.reduce_sum(tf.square(loss)) 

reg_loss = tf.reduce_sum(tf.square(C), 0) # L2 loss for each column 
reg_loss = tf.reduce_sum(tf.sqrt(reg_loss)) 

total_loss = loss + lambd * reg_loss 

---

爲了在C的對角線上實現零約束，最好的方法是用另一個常數將其添加到損失中lambd2：

reg_loss2 = tf.trace(tf.square(C)) 
total_loss = total_loss + lambd2 * reg_loss2