CNTK - 模型的不完整培訓

Question

使用CNTK python API我已經訓練了一個三層前饋網絡來玩一個簡單的基於網格的棋盤遊戲。如果我使用小板（6 x 6）網格，則模型會成功訓練。該模型在100場比賽中以100％的成功進行比賽。但是，如果我將棋盤大小增加到21 x 21，訓練似乎會在100場比賽中以90％的成績飽和。

增加訓練時間或改變訓練參數似乎不會提高模型的性能。

• 我錯過了什麼？
• CNTK是否支持使用「dropouts」？
• 有其他的技術來提高訓練

Answer 1

是輟學的支持。目前，文件位於：

https://cntk.ai/pythondocs/cntk.ops.html?highlight=dropout#cntk.ops.dropout

什麼樣的激活功能，您使用的？如果您正在使用Sigmoids，請嘗試ReLUs。如果使用ReLU，則可能由於大的梯度流動而在培訓期間死亡。嘗試使用Leaky ReLU或Param ReLU。所有這些都由該工具包支持。