作者LaPass (LaPass)
看板Database
標題[討論] 轉型計算問題
時間Fri Feb 13 15:44:02 2015
http://i.imgur.com/gAMcmxa.jpg
SELECT '0.940'*5000*10,0.940*10*5000,'0.940'*10*5000
為什麼只有 '0.940'*10*5000 會差那一點點?
版本: MySQL 5.6.20
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.163.219.211
※ 文章網址: https://www.ptt.cc/bbs/Database/M.1423813445.A.F98.html
→ LaPass: 找到原因了,'0.940'會被轉成浮點數,有浮點誤差 02/15 02:45
→ LaPass: 直接給0.940會被當成十進制精準的處理方式 02/15 02:46