觀察tensorflow RNN模型權重

Question

我使用tensorflow這裏發表RNN翻譯模型：
translation model

我想按照我自己的想法，在這部分代碼的變化。
我想要做的第一件事是在每一層看到target_weights。
我知道的是，首先是一個target_weights的數組，其中包含填充零和句子中每個單詞的1。
初始化後，它被饋送到session.run方法，它會肯定會改變。
現在我想知道是否有人知道我應該如何在學習過程中看到這個數組面臨的變化。
或者其他的東西，我怎樣才能看到每個圖層的權重，並檢查每個圖層對應的值。

在此先感謝

Answer 1

什麼你正在尋找可能TensorBoard是，它爲您提供了可視化網絡的任意值/統計能力。

所有你需要做的就是通過

tf.scalar_summary("norm of weights going", norm_of_weights) 

添加summarizers在你的代碼，例如後來就創建彙總作家

merged = tf.merge_all_summaries() 
writer = tf.train.SummaryWriter("logs_directory/", sess.graph_def) 

，這將創造你的日誌，你可以通過張量板來分析。 您定義摘要的方式，您登錄哪些東西等等取決於您，並僅取決於問題。你想分別跟蹤每個重量嗎？如果是這樣 - 爲每一個添加標量摘要。你只需要一個簡短的演變？關注這些規範。您還可以通過tf.histogram_summary等監視柱狀圖（例如激活分佈）。