作者mark643kimo (小庄)
看板MATLAB
标题[讨论] 判断式很奇怪
时间Thu Mar 28 21:21:55 2013
我学弟修课写MATLAB碰到一个问题我也解不出
Ftbr = 0.28;
precision = 10000;
if 5600>=((Ftbr)*precision)/0.5
......
end
然後程式跳不进if里面
PS:0.28*10000/0.5=5600
感谢各位大大~
--
第一话:似乎在哪篇PAPER见过的样子 第二话:那真是太令人高兴了
第三话:已经没甚麽好害怕了(断头 第四话:研究、毕业,都是存在的
第五话:怎麽可能会後悔呢 第六话:这种事绝对很奇怪啊
第七话:你能创造真正的论文吗? 第八话:我,真是个笨蛋
第九话:那样的事,老师都丢给学生做 第十话:再也不依靠任何人了
第十一话:最後留下的研究生 第十二话:我最要好的毕业证书...
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.112.48.70
1F:→ mark643kimo:布林判断这个5600>=((Ftbr)*precision)/0.5是0 03/28 21:25
2F:推 CBET:浮点数问题 ((Ftbr)*precision)/0.5 = 5.600000000000001e+03 03/28 23:18
这不太合理吧?
因为数学直接算是没有任何小数点的阿?
※ 编辑: mark643kimo 来自: 123.193.20.26 (03/28 23:36)
3F:→ sinoky:你把 F*p/0.5 - 5600 就知到了。 03/29 00:15
4F:→ doom8199:先去了解电脑是怎麽储存浮点数 03/29 00:20
所以是因为储存0.28用的浮点数
了解了,感谢~
※ 编辑: mark643kimo 来自: 123.193.20.26 (03/29 00:57)