作者SAngelWing (凉凉的风)
看板MATLAB
标题[讨论] 数值方面的问题
时间Sun Jan 13 03:48:13 2013
请问一下，怎麽得到正确的值
因为程式用到这个值，遇到了这奇怪的问题
>> floor(120e-9*1e9)
ans =
119
这是什麽造成的？？？有没有解决的方法
同样的
>> floor(120e-15*1e15)
ans =
120
试了其他的就没有这个问题，好怪...
--
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 36.237.70.147
2F：→ vaakaa:floor(120*(1e-9)*1e9)=120 01/13 10:30
3F：→ H45:改用 symbolic math toolbox 提供的物件计算，或自己实作大数 01/13 13:06
4F：→ SAngelWing:原来如此，谢谢 01/14 01:27