作者ilovecurl (ilovecurl)
看板Visual_Basic
标题[VB6 ] 关於>=运算式结果的问题
时间Sat Aug 6 13:34:57 2011
我在EXCEL下写
若我设定一个变数a = [P1],我在工作表中的P1输入一个值假设是2.1
那判断式 2.05 >= a - 0.05 为何会传会false呢? 2.05 >= 2.05不是应该True吗?
换个方式,若写 a >= 2.1 却是True没错,这让我百思不得其解,是我哪里观念有误呢?
请教各位先进,谢谢!
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 114.32.69.88
1F：推 LPH66:浮点数精确度问题 可参考冼老师的文章 08/06 15:53
3F：→ ilovecurl:太感谢拉,马上看...不然想破头也不知道 08/06 16:14