作者everydayfive (原来令人沉重的爱不是爱~)
看板MATLAB
标题[问题]非常小的浮点数 数值运算
时间Tue Apr 10 17:10:10 2012
大家好，
我现在遇到一个问题，我想要精确的计算非常小的数的加法运算，
目前我可以算出一个差值 P=9.337769019712045e-14
要把这个差值P加上一个数A=0.999999999997528,
得到一个数B=0.99999999999762157.
可是现在问题来了，我在计算B-A时所得到的值却没有办法与P相同，
B-A=9.336975637097567e-14，好像超过10^(-16)後就差很多了…
不知道有没有什麽办法可以更精确的计算到小数点20位後面？
我有爬过文，发现有人说用vpa或sym可以试着解决这问题，
但我用过vpa了，不知道要怎麽结合sym使用？
所以还是不知如何下手，想请问是否有人知道解决方法？
非常谢谢大家~
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 193.145.39.154