作者mmh (..)
看板Visual_Basic
標題[VBA ]textbox問題
時間Mon Sep 21 22:35:09 2009
想問ㄧ下 我用vba做出表單 表單上有textbox1 textbox2
想在excel輸出 textbox1-textbox2
dim t1 as single
dim t2 as single
t1=textbox1
t2=textbox2
但是數值一直會帶很奇怪的小數
例如 266.3-266.0 會是0.29998779296875
不知道是什麼原因?
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 202.39.223.6
1F：→ MOONRAKER:這很正常。你可用format()限制精度避免這個問題。 09/21 23:29
2F：推 fumizuki:電腦是2進位儲存資料，2進位無法整除所以會出現無窮小數 09/22 21:28