作者longted3 (LONGTED)
看板MATLAB
标题[运算] 32767 这个值 代表的意义
时间Wed Jul 9 02:51:12 2014
我有一个非常大的矩阵 10几万列 x 10 几万行 我写一个简单的程式 针对
每一行的值相加 结果得出 有很多行相加的结果 32757 问题是不可能 这麽刚好
因为每个值都不依样 有正有负 加出来却是依样值 所以想请问一下32757 在
matlab 中有代表特殊的意思吗 比方说overflow 因为32757 刚好是(2^15-1)
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.168.183.175
※ 文章网址: http://webptt.com/cn.aspx?n=bbs/MATLAB/M.1404845475.A.36C.html
1F：→ celestialgod:MATLAB int16的最大值... 07/09 03:35
2F：→ celestialgod:a = 32768; int16(a) => ans = 32767 07/09 03:36
3F：推 tingop:天堂的正义值 07/10 13:50
4F：推 kurt28:推楼上XDDDDDD 07/10 14:22