2017-04-07 73 views
1

假設我們有訓練的神經網絡....神經網絡(反向傳播)

我的問題是將相同的神經網絡產生的數據回來,如果我們應用什麼以前是輸出在目前的輸入?

我正在研究MNIST數據集,並想知道如果我們使用反向傳播算法從輸出端訓練我們的網絡(使用最終輸出作爲來自該端的輸入)將會發生什麼。

這可能是一個很普通,但我仍然需要一些幫助來自社會

我的想法說,它可以取回數據(或近似原始數據集)... 可以證明是合理的嗎?

+0

'''2 + 3 = 5'''。 '''5 = 0 + 5; 1 + 4; 2 + 3'''。對於一些數學背景檢查雙射函數和鴿子的原理。對於一些閱讀關於做不同但類似的東西尋找一些稱爲*深神經網絡很容易被愚弄*的論文。 – sascha

+0

@ sascha如果存在給定函數的逆函數會怎麼樣... – Aditya

+0

檢查NN架構的內部工作原理並決定自己。由於這些是多層次的,所以除了理論上的情況之外,雙射性質都會丟失。 – sascha

回答

1

據我所知。它不能。特別是因爲activation functions(主要)是非線性的。

神經網絡是一個黑盒子(見this answer)。其次,採取f(x) = x^2。如果你想從f(n)計算n,那麼有兩種可能的解決方案;對於神經網絡來說也是一樣的,可以有多種解決方案,所以不可能將它們全部逆轉。但重點是:僅僅因爲你知道函數的反函數,並不意味着你知道神經網絡的逆。這是一個黑盒子!

然而,你可以想象一個神經元對特定輸入的反應。例如,這是「方面」神經網絡查找識別臉部:

enter image description here

Google Deepdream也放大它尋找識別某些對象的問題。一探究竟!

+0

@托馬斯W如果給定函數的逆使用存在... – Aditya

+1

@ADITYA如果?沒有。有兩個原因,首先,神經網絡是一個黑盒子(請參閱http://stats.stackexchange.com/a/93713/147931)。其次,採取'f(x)= x^2'。如果你想從f(n)計算n,那麼有兩種可能的解決方案;對於神經網絡來說也是一樣的,可以有多種解決方案,所以不可能將它們全部逆轉。但重點是:僅僅因爲你知道函數的反函數,並不意味着你知道神經網絡的逆。這是一個黑盒子! –

相關問題