→ motoman:原po要不要貼部份code來討論看看? 我認為是資料型態混合的 04/15 21:07
→ motoman:運算造成的錯誤 講簡單點 單精度和雙精度一起加減乘除 04/15 21:08
→ motoman:後面的值就會有問題 因為兩者的資料儲存方式不同 04/15 21:09
→ motoman:sorry 沒注意到原po有寫@@ 雙精度的確是準到15位 04/15 21:18
→ motoman:那樣是正常的 (上面三行推文當我沒說 鬼打牆) 04/15 21:21
→ latinboy: 使用浮點數最最基本的觀念 by 冼鏡光 04/15 22:08
→ latinboy:要做數值的人 上一篇文章先讀到懂 問題就少很多 :) 04/15 22:09
→ endpeople:那篇文章我前幾天有看過了...似乎無法解決我的問題... 04/15 22:49
→ perceval:High-Precision Software 04/16 00:23
推 latinboy: 不知道你是做什麼問題需要這麼準 XD 算PI嗎??? 04/16 20:49
→ latinboy: 如果有效位數只要16~20 你可以試著用64bits整數換算 04/16 20:50
→ latinboy: 如果需要很多位數 試試大數運算吧 04/16 20:50