看板 Office 關於我們 聯絡資訊
軟體:EXCEL 版本:2010 https://1drv.ms/x/s!Atm-62X8Ehs-gpkoz71-PECTNRXMbw?e=kbNYSq 如附檔 B2、B3正確結果應當為1.4%-1.5% 但公式輸出結果為1.3%-1.4% 奇怪的是我重新輸入B2、B3的值為1.4%後 公式就輸出1.4%-1.5%了 會是所謂的浮點數問題嗎 但我旁邊下幾個判斷式都是TRUE 請指教了 謝謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 210.202.69.28 ※ 文章網址: https://www.ptt.cc/bbs/Office/M.1556529717.A.186.html
soyoso: 個人覺得這是浮點數精確度的問題,這方面有一定位數以內的 04/29 18:32
soyoso: 精確度,查了一下,實際內文連結檔案是超過這個位數的 04/29 18:32
soyoso: https://i.imgur.com/18IXrBb.jpg 04/29 18:32
soyoso: b2、b3所被儲存格的數值為 1.3999999999999999E-2 04/29 18:33
soyoso: 也因超過規範位數,精確度上就不正確。1.邏輯判斷上可能是 04/29 18:35
soyoso: 以被調整後的值來比對的,而2.match的部分則是以儲存的值 04/29 18:36
soyoso: 來做比對 04/29 18:36
home0303: 感謝S大 這個難處在於連編輯列都顯示為1.4%(0.014) 實在 04/29 21:23
home0303: 是很難事先偵測出來 04/29 21:23
soyoso: 那以函數round來排除試試 04/29 22:35
home0303: 報告S大使用Round的確可以排除此狀況 因為原始資料來自 04/29 23:09
home0303: 系統下檔 資料乍看十分正常就沒想到要事先做這道功夫 04/29 23:10
home0303: 請問 是否未來只要涉及小數的欄位 都先用Round處理過 04/29 23:11
home0303: 為佳呢?? 起碼這次我真是嚇到了 04/29 23:11
soyoso: 看來來自貴司系統下的檔,小數欄位以函數round處理過的話 04/29 23:21
soyoso: 應是為佳。不然就要看系統匯出方面是否可以調整了 04/29 23:23
soyoso: 如不方便的話,就只好原po多勞一下了 04/29 23:24
home0303: 謝謝S大 公司MIS好像不易溝通(笑) 只能經一事長一智 04/29 23:39