1

我對神經網絡的計算能力很感興趣。普遍認爲經常性神經網絡是圖靈完備的。現在我正在尋找一些證明這一點的論文。關於神經網絡的圖靈完備性有哪些實用的證明?什麼nns可以執行代碼/算法?

我發現迄今:

  • 圖靈可計算性與神經網絡,華億達T. Siegelmann和愛德華多·D·桑塔格,1991

    我覺得這是從理論角度纔有意思因爲它需要具有無限精確性的神經元活動(以某種方式將該狀態編碼爲有理數)。

  • S.富蘭克林和M.加爾鬆,神經可計算

    這需要神經元的無限數量,也並沒有真正似乎是多大的實際。

(注:another question of mine試圖指出這種理論等成果和實踐之間的問題。)

我在尋找多爲它確實可以執行一些代碼的一些神經網絡,我可以也在實踐中模擬和測試。當然,在實踐中,他們會有一些有限的記憶。

有沒有人知道這樣的事情?

回答

1

有點偏離主題,但可能對您的搜索有用(這聽起來像是碩士/博士論文)。根據我使用分類,分割等學習算法的經驗,由於其強大的數學基礎,貝葉斯學習優於所有形式的神經網絡,遺傳算法和其他漂亮的探測算法。

在我的書中,數學基礎使得技術優於臨時方法。例如,貝葉斯網絡的結果可以在數學上被解釋爲一個概率(如果你喜歡,即使有一個p值),而神經網絡往往是猜測。不幸的是,貝葉斯統計不像「神經網絡」那樣性感,雖然它可以說是更加有用和有根據的。

我很高興看到有人在學術環境中正式將此動搖出來。

+0

有趣的陳述。我還想看看計算能力比較中一些更正式和更好的結果。但是我認爲(經常性的)神經網絡在他們可以計算的東西(圖靈機可以做的所有事情)與從貝葉斯網絡中得到的東西相比顯然更強大。 – Albert 2010-06-19 12:06:09