作者ttsmarco (tts)
看板C_Sharp
標題[問題] decimal 運算結果不正確
時間Wed Jan 14 22:43:50 2015
最近遇到個很奇怪的現象
假設程式碼為:
decimal int_A = decimal.Parse("1000");
decimal int_B = 10;
decimal report_num = int_A - int_B;
label1.Text = report_num.ToString();
1000與10只是舉例,A與B實際上都是0~10000以內的整數
(日後數值可能有小數點下2~3位,所以用decimal)
但運算結果(leabl1)偶爾會不正確,不是多1就是少1
但這不是Double型別才會有的現象嗎?
還是問題是出在str轉decimal呢?
還請高手指點,3Q
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 59.127.31.198
※ 文章網址: https://www.ptt.cc/bbs/C_Sharp/M.1421246632.A.02F.html
→ TobyH4cker: 測試你的程式碼,沒遇到此問題,不過我是用 label1.Te 01/15 12:38
→ TobyH4cker: xt = report_num.ToString(); 01/15 12:38
感謝,原文漏掉Orz ,已經補上
推 CrazyAngel: ToString 指定位數應該可以拿到比較精確的數字 01/15 12:52
感謝,有ToString,原文漏掉了
※ 編輯: ttsmarco (59.127.31.198), 01/15/2015 15:45:57
→ ttsmarco: 問題還未解決,請問還有什麼可能原因呢? 01/27 09:39