→ BaaaSwin:->捨棄了2個bit 11/08 01:15
→ BaaaSwin:p.204 如果某數期最低有效位元被捨掉2個位元->誤差2ulp 11/08 01:18
→ BaaaSwin:我覺得張凡是對的,他ulp翻成'最後位置單元數' 11/08 01:20
→ gn123:這樣原文書不就是錯了? 11/08 09:55
推 seal0112:紅算盤p.255上面寫上 2 ulps唷 11/08 11:58
2.56*10^2 + 2.34*10^4 (with no guard and round)
算出應該是2.36*10^4
可是張凡說ulp是2 (上課好像是說ulp全都整數?)
可是計組講義&助教改題目 這題應該是0.56ulp ( 最小單位捨棄了0.56)
請教一下板上高手 謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.113.66.184