作者BaaaSwin (codown)
看板Grad-ProbAsk
標題[理工] 計組 IEEE754
時間Sun Nov 11 13:09:34 2012
Converting an integer variable to a single precision FP number will lose
precision.
答案給的是:true
我疑惑的是整數變數並沒有小數,照理說不會被捨棄才對
還是我哪邊誤解的題目的意思了??
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.43.62.213
推 ddczx:整數有效位數是31 bit,化成浮點數後要花一些在次方上,以單精 11/11 13:26
→ ddczx:度而言剩小數點後23位有效了,故有些會被捨棄 11/11 13:26
→ BaaaSwin:!!我懂了 謝謝:) 11/11 13:38