作者candy88257 (阿泰斯)
看板MATLAB
标题[讨论] 有人知道matlab的预设精度吗?
时间Fri Feb 21 09:47:02 2014
不是显示精度喔
是计算精度
有人知道matlab的预设精度吗?
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.130.17.253
1F:→ sunev:eps ? 02/21 10:00
2F:→ celestialgod:double? 02/21 12:48
4F:→ celestialgod:The default is double precision. 02/21 12:49
5F:→ celestialgod:但你可自己调整计算精度 02/21 12:50
6F:→ celestialgod:详细就看连结~~ 02/21 12:50
7F:→ alamabarry:双精度浮点运算...~~还有浮点运算误差.. 02/21 15:20
8F:→ candy88257:感谢各位!!! 02/21 21:38