推 OrzOGC: 1.4x10的-14次方,應該是精度問題 06/09 09:27
https://i.imgur.com/WzHmhFs.png
補充一下 上面的3-2.9是有小括號的 (3-2.9)*15*10
圖片忘記打上去
還蠻困擾的 其他算起來都是正常的 偏偏只有這種組合會出現這種情況
(其他格遇到跟這張圖片相同配置的情況就會有計算有問題的狀況)
※ 編輯: andy90498 (112.105.240.116 臺灣), 06/09/2019 09:43:09
→ sa12e3: office板或許會比較容易得到 您要的答案。 06/09 10:21
→ sa12e3: 個人認為也是精準度的設定造成了誤差。 06/09 10:24
噓 KEKEKUO: >< 06/09 11:02
推 newacc: google浮點誤差 06/09 11:15
→ newacc: 是電腦二進位造成的問題,目前沒有完美解決方案,可以用「 06/09 11:18
→ newacc: 小數點後n位四捨五入」做處理 06/09 11:18
→ sa12e3: 解決方案應該是用一個欄位來處理浮點數且需要搭配回圈使 06/09 11:44
→ sa12e3: 用。 06/09 11:45
推 wray: 這是正常的。你最後得到的數也是極為接近0的數。或許如樓上 06/09 20:41
→ wray: 所說,加個四捨五入之類的來處理吧。 06/09 20:41