推 yonny: 用Round函數先把c和abmean取到相同小數位 04/08 22:13
→ welly7566: 感謝~真的可以了!! 04/10 05:22
請問各位大大有沒有碰過，計算結果應該是0時，
結果卻變成類似-7.10543E-15這樣很小的數值出來??
要算 c - (a+b)/2 這個公式
a.b.c都是資料集裡的變數
程式：
abmean = MEAN(a, b) ;
ES = c - abmean ;
但是 c 和abmean相等時 ，ES這欄計算出來，有時卻不會等於0
(不相等時的結果都正確....)
a.b.c 都是股價資料，小數位最多2位； 算出來的 abmean，小數位最多3位
請問要如何避免這種情況發生，才能算出正確的0呢？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.225.53.218
※ 文章網址: https://www.ptt.cc/bbs/Statistics/M.1428488573.A.154.html