3

我已經使用ENCOG實現了一個維數減少算法,該算法將一個數據集(稱爲A)與多個特徵相關聯,並將其減少爲僅具有一個特徵(我需要用於時間序列分析)的數據集(B)。維度減少是否可逆?

現在我的問題是,我有一個來自B的值 - 通過時間序列分析預測,我可以將它轉換回像A數據集一樣的兩維嗎?

回答

1

降維(壓縮信息)在自動編碼器中是可逆的。自動編碼器是中間有瓶頸層的規則神經網絡。例如,第一層有20個輸入,中間層有10個神經元,最後一層有20個神經元。當你訓練這樣的網絡時,你迫使它將信息壓縮到10個神經元,然後再次解壓縮最後一層的誤差(期望的輸出矢量等於輸入矢量)。當您使用衆所周知的反向傳播算法來訓練這樣的網絡時,它將執行PCA - 主成分分析。 PCA返回不相關的功能。這不是很強大。

通過使用更復雜的算法來訓練自動編碼器,您可以使其執行非線性ICA獨立分量分析。 ICA返回統計獨立的功能。該訓練算法搜索具有高泛化能力的低複雜度神經網絡。作爲正規化的副產品,您可以獲得ICA。

+0

謝謝,我已經認識到自動編碼器可以做相反的操作,當然精確度有時不太好,但至少它是某種東西。 –

+0

@Mac,你能否提供你的第一句話的參考?我不認爲這是真的。 –

+0

上半年的網絡編碼,後半部分解碼。當你看建築時可以立刻看到它。你需要什麼樣的參考?什麼是downvote爲? – Maciej

0

不,維度降低一般是不可逆的。它失去了信息。