作者windknife18 (windknife18)
看板Visual_Basic
标题Re: [VB6 ] 要怎麽准确计算小数点?
时间Wed May 6 13:50:42 2009
根据该网站的建议，将以下程式写在 button 内，执行後
在「即时运算视窗」确实是输出
0.01
0.01
Dim a As Object, b As Object
Dim c As Decimal, d As Decimal
a = 12.55
b = 12.54
c = a
d = b
Debug.Print(CDec(a) - CDec(b))
Debug.Print(c - d)
※ 引述《jimpop (popmij)》之铭言：
: 我使用的是 VB 2005 不知道分类有没有错!?
: 最近在写一个特别的计算机~
: 写着写着却发现....
: 似乎小数点的计算有些问题~~
: 如:
: 12.55-12.54 应该是 0.01 !!
: 但是得到的答案是 0.0100000000000016
: !!!!!!!!!!!!!!!
: 怎麽会这样~~~
: 爬过文後~发现~似乎一直存在这问题~~
: 有试过用网路上有篇的做法~
: http://tinyurl.com/cdddaz
: 但是....不知道是它的版本关系还是我弄错~~
: 我还是会有严重的误差值
: 想请问各位大大~~有没有解决方法呢!!??
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.131.84.79
1F：→ jimpop:@@原来是我自己弄错了~~谢谢!! 05/07 17:07