各位大大
關於float的精度問題
課本上說float的精度在小數點後六位,也就是說最小可以表示到0.000001(10^-6)
但IEEE754的格式,最小的正數如下
0 00000000 00000000000000000000000
既為1*2^-127
其結果化成10進位為2^-127,比10^-6小那麼多
是我對精度的理解錯了嗎
因為課本上寫是因為IEEE格式小數占了23bit,
2^23=8388608,比10^6還小,但比10^7大
麻煩各位!
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.105.177 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_and_CPP/M.1592685578.A.746.html
※ 編輯: a27839579 (180.217.105.177 臺灣), 06/21/2020 04:40:34