推 stupid0319: int沒有2147483648這個數01/29 22:44
對,不小心打錯了,他的最高就是2的32次方-1
→ stupid0319: float精度好高,可能被優化到64bit的mmx暫存器上了01/29 22:49
※ 編輯: andy15281528 (219.68.122.68), 01/29/2019 23:21:32
推 stupid0319: 如果都是放在FPU,或是MMX,是足夠放int整數值的01/29 23:31
推 LPH66: 這裡什麼問題都沒有, 因為 2^32 可以被 float 表示01/30 00:30
→ LPH66: IEEE 規定是 round to nearest (四捨五入)01/30 00:32
→ LPH66: (這裡是二進位所以應該叫零捨一入, 不過就是這個概念)01/30 00:33
如果是這樣解釋,那我大概了解了,先謝謝你的回答
不過float浮點數正規化後不是只能存23個小數點嗎,但是int換成2進位後會有30個小數
點,這樣不是有7個會遺失嗎,還是我哪裡理解錯誤了呢
※ 編輯: andy15281528 (219.68.122.68), 01/30/2019 01:09:42
推 LPH66: 所以遺失的被零捨一入了, 那因為丟掉的都是一所以進位01/30 01:19
→ LPH66: 進位就變成 1.0000*2^32 是個可以完整在 float 裡儲存的數01/30 01:20
→ LPH66: 一個觀念: IEEE754 浮點數就是二進位的科學記號01/30 01:21
→ LPH66: 這裡用科學記號的概念來講就只是取固定位數後進行捨入01/30 01:21
→ LPH66: 大約就是十進位 99999999 取五位變成 1.0000*10^8 的感覺01/30 01:22
原來如此!!!有如醍醐灌頂阿!!!真的是太感謝你了,解決我這幾天的疑惑
※ 編輯: andy15281528 (219.68.122.68), 01/30/2019 02:35:35
※ 編輯: andy15281528 (219.68.122.68), 01/30/2019 02:36:57
推 stupid0319: 原po可以設計多個int跟float測試01/30 08:01
→ stupid0319: 這有關暫存器的使用跟有沒回存回記憶體 01/30 08:02
→ stupid0319: 測了一下a代0x7FFFFFE0, float一樣出2147483648.0000001/30 08:41
→ stupid0319: 精度還是有誤差的,不要亂用浮點數當int用 01/30 08:48
實際上不會亂用,只是題目剛好這樣出
→ stupid0319: 原PO的理解其實是沒錯的,多測幾個數值01/30 09:00
我來多測試看看
推 suhorng: 記得是 round to even, 在二進位不是零捨一入, 而是一 01/30 09:31
→ suhorng: 可能捨去也有可能進位, 總之是要弄到偶數 01/30 09:32
我也有在某個地方看到說 如果近似值非常接近的話,先優先選擇偶數呈現
※ 編輯: andy15281528 (223.136.153.40), 01/30/2019 12:29:00
剛剛做了一些小測試,發現有一個明顯的分水嶺在於 7fffffbf+1後,程式碼如下,更一
頭霧水了
https://ideone.com/bxwsyg
※ 編輯: andy15281528 (223.136.153.40), 01/30/2019 13:42:51
剛剛把他們轉換成2進位利用浮點數運算之後,突然清晰了起來
原本7FFFFFBF的二進位尾數是0111111,捨去第一位為0所以沒進位
+1之後變成1000000,就像是L大所說的開始進位了,由於前面也都是1所以直接爆掉變成8
0000000,傳回int才會變成負數。
※ 編輯: andy15281528 (223.136.153.40), 01/30/2019 14:06:52
推 LPH66: 就是這樣而已沒錯, 沿用我最後一行推文的類比來說 01/30 15:31
→ LPH66: 就是 99999499 / 99999500, 同樣取五位前者捨去後者進位 01/30 15:32