我的工作中，我需要訓練的模型對各種輸入對象分類機器學習項目信息;爲簡單起見，我們假設我正在創建一個模型，可以將圖像分類爲包含貓或狗。機器學習算法，其提供描述爲什麼一個分類是由
但是，我不僅對分類這些對象感興趣，而且對理解爲什麼算法將圖像分類爲狗或貓。決策樹允許其描述爲什麼一個例子進行分類基礎上，實例的特徵或那種方式，像這樣非常好的視覺效果：
我是新來的機器學習，所以我不熟悉如何很多學習算法的工作;是否有任何其他的算法，這將允許對一個可視化（或信息），其可以給一些見解，爲什麼輸入例如被分類的一種方式或其他，基於該示例的特徵？
有一個這樣的可視化工具（神經網絡），它可以幫助您顯現特定參數如何影響輸出分類。它可能會讓你直觀地瞭解網絡如何正確分類特定標籤。 你可以看看這裏： http://playground.tensorflow.org/
由於任何線性和複雜的非線性分類始終可以表示/轉化爲神經網絡，它可以幫助你更好的概括。
有跡象表明，已經爲深發展的學習特別型號 - 幾個功能強大的可視化方法，可視化圖像分類是一個良好的探索空間。僅舉幾個可能的方法：以上
的鏈接是從Keras文檔。這些方法的原始研究論文在docs-- Keras鏈接確實提供了一個高層次的解釋的一個好工作，如果你想要更多的細節，你可以下潛到研究論文。
我不知道你使用的構建模型是什麼，但Keras提供實現這些方法的一些偉大的可視化工具。我在這裏寫了一篇關於使用Grad-CAM可視化學習過程的博客文章;它可能會提供更多的上下文，並且還有一個指向有效代碼示例的鏈接：http://innolitics.com/10x/visualizing-image-classification/。