作者SAngelWing (涼涼的風)
看板MATLAB
標題[討論] 數值方面的問題
時間Sun Jan 13 03:48:13 2013
請問一下，怎麼得到正確的值
因為程式用到這個值，遇到了這奇怪的問題
>> floor(120e-9*1e9)
ans =
119
這是什麼造成的？？？有沒有解決的方法
同樣的
>> floor(120e-15*1e15)
ans =
120
試了其他的就沒有這個問題，好怪...
--
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 36.237.70.147
2F：→ vaakaa:floor(120*(1e-9)*1e9)=120 01/13 10:30
3F：→ H45:改用 symbolic math toolbox 提供的物件計算，或自己實作大數 01/13 13:06
4F：→ SAngelWing:原來如此，謝謝 01/14 01:27