看板 Visual_Basic 關於我們 聯絡資訊
根據該網站的建議,將以下程式寫在 button 內,執行後 在「即時運算視窗」確實是輸出 0.01 0.01 Dim a As Object, b As Object Dim c As Decimal, d As Decimal a = 12.55 b = 12.54 c = a d = b Debug.Print(CDec(a) - CDec(b)) Debug.Print(c - d) ※ 引述《jimpop (popmij)》之銘言: : 我使用的是 VB 2005 不知道分類有沒有錯!? : 最近在寫一個特別的計算機~ : 寫著寫著卻發現.... : 似乎小數點的計算有些問題~~ : 如: : 12.55-12.54 應該是 0.01 !! : 但是得到的答案是 0.0100000000000016 : !!!!!!!!!!!!!!! : 怎麼會這樣~~~ : 爬過文後~發現~似乎一直存在這問題~~ : 有試過用網路上有篇的做法~ : http://tinyurl.com/cdddaz : 但是....不知道是它的版本關係還是我弄錯~~ : 我還是會有嚴重的誤差值 : 想請問各位大大~~有沒有解決方法呢!!?? -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.131.84.79
jimpop:@@原來是我自己弄錯了~~謝謝!! 05/07 17:07