作者doggingg (doggingg)
看板Grad-ProbAsk
標題[理工] [計組] float
時間Fri Feb 11 19:43:06 2011
please explain why there is a trade-off between precision and range
when representing a float point number in computer arithmetic???
這題題目看不太懂，只知道問跟浮點數相關的問題，請問該怎麼回答呢??
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 122.116.208.79
→ BenLinus:我覺得是表示一浮點數的bit總數固定, 如果用來表示 02/11 20:17
→ BenLinus:exponent 的bit數增加, range變大; 但相對fraction bit數 02/11 20:18
→ BenLinus:就減少, presion就下降了 02/11 20:18
→ doggingg:那請問題目是在問啥，我不懂trade off用在這是啥意思 02/11 20:22
→ BenLinus:一好沒有兩好的意思, 這個好那個就壞 02/11 20:27