含義在對數似然對數。最大化算法

Question

我已經實現了exp。最大化算法，它收斂並正確返回mu和sigma的值，我已經檢查了各種示例。

我試圖繪製日誌可能性，但我不知道它將如何看待正確的形式？ 下面是公式： 而我的情節，y是對數似然值，x是迭代次數。

負值很奇怪，也許我應該規範可能性？對數似然意味着在Exp。最大化？

logLikelihood = 0; 
for i = 1 : n 
    logTemp = 0; 
    for j = 1 : k 
     logTemp = logTemp + p(j) * mvnpdf(x(i,:), mu(j,:), sigma(:,:,j)); 
    end 
    logLikelihood = logLikelihood + log(logTemp); 
end 
plot(iteration, logLikelihood,'r*'); 
hold on; 

Answer 1

數概率永遠是否定的，因爲它是一個概率（P < 1）的對數。您的概率（不是logprop。）的順序是p = 10^-1000，這是正常的。例如，10000個有偏差的骰子卷的最可能的序列將具有非常小的概率（但其他序列更不可能）。

的logpropability是一個結構來避免消失的概率，那就是該計劃將剛輪他們以爲零，當它的程序最有可能打破了與例如一些標準化爲零分裂。