作者longted3 (LONGTED)
看板MATLAB
標題[運算] 32767 這個值 代表的意義
時間Wed Jul 9 02:51:12 2014
我有一個非常大的矩陣 10幾萬列 x 10 幾萬行 我寫一個簡單的程式 針對
每一行的值相加 結果得出 有很多行相加的結果 32757 問題是不可能 這麼剛好
因為每個值都不依樣 有正有負 加出來卻是依樣值 所以想請問一下32757 在
matlab 中有代表特殊的意思嗎 比方說overflow 因為32757 剛好是(2^15-1)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.168.183.175
※ 文章網址: http://www.ptt.cc/bbs/MATLAB/M.1404845475.A.36C.html
→ celestialgod:MATLAB int16的最大值... 07/09 03:35
→ celestialgod:a = 32768; int16(a) => ans = 32767 07/09 03:36
推 tingop:天堂的正義值 07/10 13:50
推 kurt28:推樓上XDDDDDD 07/10 14:22