[討論] 四捨五入或無條件捨位竟然無視指數...?

[candy88257 (阿泰斯)]

如:

gx=1.001e3
fix(gx)=1000    %!!!!!!!!!!!!!!!!!!!!

怎回事...

用format long g的話

有沒有辦法只讓gx是顯示1001，而程式碼的其他部分的數字是照預設顯示?

求高手協助!!

--
※ 發信站: 批踢踢實業坊(ptt.cc) 
◆ From: 140.130.17.157
→ prouno:那就用round, floor 或 ceil吧 :)
→ candy88257:上面題目有點問錯  應該是以下
→ candy88257:amin=2.817;amax=2.818;ad=0.000001;
→ candy88257:alla=((amax-amin)/ad)+1;ra=fix(alla)
→ candy88257:算出來alla是1.0010e+3;但ra卻是1000
→ candy88257:發現原因，alla=1000.99999999989
→ candy88257:但怎會算成這樣？不是要1001整數嗎？
→ kdjf:float point error
→ candy88257:浮點數不準確我知道，但是有辦法解決嗎? 目前我是加個
→ candy88257:round,只是怕有例外...