看板 Cad_Cae 關於我們 聯絡資訊
小弟最近發現一個問題 問題如下 (< (* 100 1.255 ) 125.5) → T ???? (= (* 100 1.355 ) 135.5) → T ???? 1.255乘100小於125.5 1.355甚至其他數都不會有這個問題 驗算後發現以下問題 (setq a (+ (* 100 2.255) 0.50)) → 226.0 (setq b (- 226 a)) → 0.0 感覺沒什麼問題 但以下卻不一樣 (setq a (+ (* 100 1.255 ) 0.50)) → 126.0 (setq b (- 126 a)) → 1.42109e-014 到底是為什麼??? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.128.158.146 ※ 文章網址: https://www.ptt.cc/bbs/Cad_Cae/M.1464072500.A.843.html ※ 編輯: comelin99 (220.128.158.146), 05/24/2016 14:48:50 ※ 編輯: comelin99 (220.128.158.146), 05/24/2016 16:57:33
gamer: 浮點運算精度問題吧,隨便找本計算機概論,裡面都會寫 05/24 23:56
comelin99: 可是我今天要寫程式 遇到1.255數值不就毀了.. 還是有 05/25 01:28
comelin99: 什麼解決方法 05/25 01:28
enightcat: 不會毀了.就是精度的問題. 判斷相等的話.有另外的函數 05/26 23:18
enightcat: 可用 05/26 23:18
enightcat: 我都用(equal a b 精度值) 比如.(equal a b 0.01) 去判 05/26 23:21
enightcat: 別.. 05/26 23:21