[VB6 ] 要怎麼準確計算小數點?

[jimpop (popmij)]

我使用的是  VB 2005 不知道分類有沒有錯!?

最近在寫一個特別的計算機~
寫著寫著卻發現....
似乎小數點的計算有些問題~~
如:
12.55-12.54   應該是 0.01 !!
但是得到的答案是   0.0100000000000016

!!!!!!!!!!!!!!!

怎麼會這樣~~~
爬過文後~發現~似乎一直存在這問題~~
有試過用網路上有篇的做法~
http://tinyurl.com/cdddaz
但是....不知道是它的版本關係還是我弄錯~~
我還是會有嚴重的誤差值

想請問各位大大~~有沒有解決方法呢!!??


--
※ 發信站: 批踢踢實業坊(ptt.cc) 
◆ From: 125.229.92.80
推 Peruheru:我的做法是
→ Peruheru:假如我要娶到小數點後五位，我就乘上一萬，再無條件捨去
→ Peruheru:之後再除以一萬這樣XDD
→ Peruheru:小數點的精準度本來就會有所誤差，還蠻難解決的
→ Peruheru:之前做到因為有小數點後很多位加上很大的數
→ Peruheru:搞到運算結果變成overflow還是underflow我都搞不清楚了
→ adrianshum:樓上的做法是沒法解決問題的.誤差不會因為這樣做而消失
推 Peruheru:我知道啊...這只是一個治標不治本的方法
→ MOONRAKER:format位數弄少一點就好了 正常人誰會需要算到小數點下
→ MOONRAKER:十幾位 所有的浮點運算都需要適當的format
→ jimpop:p大~我了解了~~這個方法也不錯~~謝謝!!