推 wowtiger:你說的是定點運算? 03/18 01:06
→ garsam:定點的我懂...但浮點的有點錯亂= =a 03/18 01:08
→ garsam:其實我只是想問一個16位元的浮點運算!!它的範圍?? 03/18 01:09
推 wowtiger:sEEEEEEEEmmmmmmmmmmmmmmmmmmmmmmm 03/18 01:09
→ wowtiger:?????????^^^^^^^^^^^^^^^^0000000 03/18 01:09
→ garsam:樓上是啥@@? 03/18 01:11
→ wowtiger:你是指 half precsion ? 03/18 01:11
→ garsam:還是我問錯了...我只是想問C6713的浮點可以精確到?? 03/18 01:14
推 TroyLee:直接去問賣你的業務比較快...C6416 C6713沒用過..@@ 03/18 01:17
→ garsam:6416我懂...6713沒業務啊啊啊啊!! 03/18 01:19
推 wowtiger:half precsion 最大就 32768+32768*1023/1024=65504 03/18 01:19
→ wowtiger:依照 IEEE754 規則 6.103515625e-5 以下開始 denormal 03/18 01:20
→ MOONRAKER:16-b已經quardraple precision了,試想你平常用的浮點 03/18 07:43
→ MOONRAKER:才4-byte…說錯了,16-b = 2 bytes 那的確是half prec 03/18 07:44
推 VictorTom:16bits浮點跟16bits精確的浮點應該不太一樣吧?_? 03/18 09:24
→ VictorTom:小弟的認知是幾bits精確應該是指mantisa有幾bits能存. 03/18 09:24
→ VictorTom:以IEEE754 float來說, 23bits=>0.301x23約十進位6位. 03/18 09:25
→ VictorTom:所以16bits的mantisa大約換算十近位有效位數在4位左右. 03/18 09:26
→ VictorTom:PS. 0.301是log2, 不過為什麼這麼算我已經還給老師了Orz 03/18 09:27
推 VictorTom:如果真是說half precision, 10位的mantisa約十近位3位. 03/18 09:29
→ VictorTom:N bits精確就是二近位的浮點數1.(N個0或1)為止還是準的. 03/18 09:32