Tensorflow中的Gauss-Newton產品

Question

我想使用Gauss-Newton近似值作爲優化問題的衡量指標，例如用於擬合GAE https://arxiv.org/abs/1506.02438中的值函數的方法。然而，有誰知道如何有效地計算這些產品？問題在於我無法在Tensorflow中計算雅可比矩陣，這使得難以按照每個示例進行單列計算。本技術報告https://arxiv.org/pdf/1510.01799.pdf給出了一個解決方案，但是這會對可以使用的網絡體系結構產生一些限制。它是否存在更一般的解決方案？

Answer 1

截至2017年4月，在TensorFlow中沒有通用的有效方法來計算每個示例漸變，在所有示例中調用tf.gradients可能是現在最好的。