作者ddd23236 (James)
看板Grad-ProbAsk
標題[理工] 計組 上冊 P.234
時間Sat Oct 14 14:53:34 2017
請問一下(d)將整數用浮點數表示
為什麼會lose precision ?
http://i.imgur.com/eUaeaqK.jpg
-----
Sent from JPTT on my Asus Z00D.
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.103.41
※ 文章網址: https://www.ptt.cc/bbs/Grad-ProbAsk/M.1507964016.A.73E.html
推 king8313: 把32bit二進位整數先平移成左邊只留下一個1,就會發現你 10/14 15:23
→ king8313: 的mantissa可能不夠表示小數點後的位數。應該是這樣 10/14 15:23
→ ddd23236: 了解 題目應該寫成...may lose precision比較好xD 10/14 15:45
→ ddd23236: 謝謝king8313 10/14 15:46