可視化嵌入空間（神經網絡）是什麼意思？

Question

我正在閱讀關於活動識別論文https://arxiv.org/pdf/1705.07750.pdf。在這裏，他們使用初始v1的3D卷積來執行活動識別。我正在聽一場講話，表示從視頻中可視化功能的嵌入空間。

1）可視化嵌入空間意味着什麼？您是在查看已經學過的過濾器，還是正在尋找類似活動的集合？

2）您是否只是將權重矩陣可視化以查看它捕獲的特徵？如果是，哪個權重矩陣？

3）tf.summary.image（）是否有助於可視化權重矩陣？

Answer 1

嵌入空間是一些學習算法產生的特徵空間。在（卷積）神經網絡的特定情況下，這通常意味着在某個預定義層上的輸出特徵映射之一（平坦化）或完全連接層之一的輸出。

將會看到的是而不是的權重矩陣，但是對於某些輸入測試數據所生成的特徵值。例如，需要完整的測試集並將其傳遞到網絡，並計算特定圖層中每個圖像的特徵，然後將這些值可視化。

TensorBoard具有自動可視化嵌入和其他功能空間的功能，您應該使用look。

請注意，在某些應用程序上下文（如NLP）中，嵌入的定義稍有不同，但用法相同。