我目前正在構建一個神經網絡庫。爲了簡單起見,我將它構造爲一個對象圖。我想知道是否有人能夠量化基於陣列的方法的性能優勢。我現在的工作非常適合構建接近任意複雜性的網絡。支持常規(反向支持)網絡以及經常性網絡。我正在考慮讓訓練有素的網絡「編譯」成一些「更簡單」的形式,例如數組。神經網絡結構
我只是想看看有沒有人有任何實際的建議或經驗建立神經網絡,部署到生產。以數組爲基礎而不是基於對象圖的最終產品有什麼好處?
P.S內存佔用不如速度重要。
我目前正在構建一個神經網絡庫。爲了簡單起見,我將它構造爲一個對象圖。我想知道是否有人能夠量化基於陣列的方法的性能優勢。我現在的工作非常適合構建接近任意複雜性的網絡。支持常規(反向支持)網絡以及經常性網絡。我正在考慮讓訓練有素的網絡「編譯」成一些「更簡單」的形式,例如數組。神經網絡結構
我只是想看看有沒有人有任何實際的建議或經驗建立神經網絡,部署到生產。以數組爲基礎而不是基於對象圖的最終產品有什麼好處?
P.S內存佔用不如速度重要。
這一切都取決於你使用的語言 - 我假設你使用的是C衍生物。
在我的實現中,我發現對象圖方法遠遠優越。速度有一些折衷,但維護的便利性超過了對象查找調用。這一切都取決於你是否在尋找訓練速度或解決速度......我假設你最擔心的是訓練速度?
如果需要的話,你總是可以微調優化一些對象調用問題。
考慮到你的子網絡的次要動機,我認爲以對象爲基礎更重要 - 它使得更容易取出部分工作。
這已經有一段時間了,但我記得速度通常只是神經網絡訓練中的一個問題。
我沒有任何編寫這樣一個庫的個人經驗,但我可以將您鏈接到一些流行的開源項目,您可以從中學習。 (我個人只是使用這些現有的圖書館之一。)
人們開始在AI利用GPGPU技術,並具有矩陣形式的神經網絡可以充分利用典型圖形卡中的矩陣運算速度要快得多。
那我也考慮過但我們目前集羣沒有任何的GPU。我計劃在未來實現這一點,以說服人們,我們需要在我們的羣集 – 2009-01-24 07:07:47