caffe中自動編碼器的稀疏字段是什麼？

Question

這個字段在Autoencoder中是什麼？
它有什麼意義？

layer { 
    name: "encode1" 
    type: "InnerProduct" 
    bottom: "data" 
    top: "encode1" 
    param { 
    lr_mult: 1 
    decay_mult: 1 
    } 
    param { 
    lr_mult: 1 
    decay_mult: 0 
    } 
    inner_product_param { 
    num_output: 1000 
    weight_filler { 
     type: "gaussian" 
     std: 1 
     sparse: 15 
    } 
    bias_filler { 
     type: "constant" 
     value: 0 
    } 
    } 
} 

這是一種空間型autoencoder？ （是否是K-sparse自動編碼器？）

Answer 1

如果您查看重量填充代碼，它將用於計算用於初始化bernoulli random number generator的非零權重概率。

non_zero_probability = sparse/num_output 

最終它被用來掩蓋由gaussian distribution生成的原始權重。它與K-sparse autoencoder沒有任何關係。