看板 Grad-ProbAsk 關於我們 聯絡資訊
Converting an integer variable to a single precision FP number will lose precision. 答案給的是:true 我疑惑的是整數變數並沒有小數,照理說不會被捨棄才對 還是我哪邊誤解的題目的意思了?? -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 114.43.62.213
ddczx:整數有效位數是31 bit,化成浮點數後要花一些在次方上,以單精 11/11 13:26
ddczx:度而言剩小數點後23位有效了,故有些會被捨棄 11/11 13:26
BaaaSwin:!!我懂了 謝謝:) 11/11 13:38