作者mmh (..)
看板Visual_Basic
标题[VBA ]textbox问题
时间Mon Sep 21 22:35:09 2009
想问ㄧ下 我用vba做出表单 表单上有textbox1 textbox2
想在excel输出 textbox1-textbox2
dim t1 as single
dim t2 as single
t1=textbox1
t2=textbox2
但是数值一直会带很奇怪的小数
例如 266.3-266.0 会是0.29998779296875
不知道是什麽原因?
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 202.39.223.6
1F：→ MOONRAKER:这很正常。你可用format()限制精度避免这个问题。 09/21 23:29
2F：推 fumizuki:电脑是2进位储存资料，2进位无法整除所以会出现无穷小数 09/22 21:28