2012-03-23 30 views
0

我寫了一個優化例程,並且在每次迭代中容差都被取消。在每次迭代中進行比較,閾值容限爲1e-10。我計算了一個連續迭代的記錄,並且觀察到在某一點上,容差從一次迭代到下一次迭代減少很多,從0.000573789變爲-1。#IND(NaN,對不對?)。並沒有檢測到閾值。儘管公差閾值已經達到,但迭代更進一步。C++ - 在優化例程中追逐一段文字到NaN

我應該比較1e-10和NaN的電流容差嗎?問題從哪裏來?所有的事情都是雙重的。

感謝和問候。

+0

我們需要一些代碼。 – orlp 2012-03-23 16:47:10

回答

2

首先你不應該有NaN。爲NaN啓用信號,在調試器中運行並修復代碼。

您可能會感興趣this article有用。