作者ilovecurl (ilovecurl)
看板Visual_Basic
標題[VB6 ] 關於>=運算式結果的問題
時間Sat Aug 6 13:34:57 2011
我在EXCEL下寫
若我設定一個變數a = [P1],我在工作表中的P1輸入一個值假設是2.1
那判斷式 2.05 >= a - 0.05 為何會傳會false呢? 2.05 >= 2.05不是應該True嗎?
換個方式,若寫 a >= 2.1 卻是True沒錯,這讓我百思不得其解,是我哪裡觀念有誤呢?
請教各位先進,謝謝!
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.32.69.88
1F：推 LPH66:浮點數精確度問題 可參考冼老師的文章 08/06 15:53
3F：→ ilovecurl:太感謝拉,馬上看...不然想破頭也不知道 08/06 16:14