作者wgene (wgene)
看板Math
標題FLOP計算
時間Sat Feb 13 14:37:35 2021
請問一下
精確度是3 digits (比如:1.00), 以十進位表示數字(比如0.1=1.00*10^-1)
現在 T1=T2=T3=....=T100=1, T101=2100
為什麼 T1+T2+...+T100+T101=2200
然後 T101+T1+T2+...+T100=2100
謝謝!
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 100.36.131.156 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Math/M.1613198257.A.02B.html
※ 編輯: wgene (100.36.131.156 美國), 02/13/2021 14:38:40
推 kilva : T101+T1=2100,繼續加到T100還是2100 02/13 14:47
→ kilva : T1+...+T100=100,100+2100=2200 02/13 14:49
→ kilva : 精確度只有3位數,1001取3位數,只能是1000 02/13 14:51
推 LPH66 : 你都寫科學記號了, 回想一下科學記號運算的特點 02/13 16:58