看板 Grad-ProbAsk 關於我們 聯絡資訊
請問一下(d)將整數用浮點數表示 為什麼會lose precision ? http://i.imgur.com/eUaeaqK.jpg ----- Sent from JPTT on my Asus Z00D. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.103.41 ※ 文章網址: https://www.ptt.cc/bbs/Grad-ProbAsk/M.1507964016.A.73E.html
king8313: 把32bit二進位整數先平移成左邊只留下一個1,就會發現你 10/14 15:23
king8313: 的mantissa可能不夠表示小數點後的位數。應該是這樣 10/14 15:23
ddd23236: 了解 題目應該寫成...may lose precision比較好xD 10/14 15:45
ddd23236: 謝謝king8313 10/14 15:46