推 punkdog:中間加個判定式 把小於e-10以下的都變零? 12/12 11:18
推 minusHa:簡單的計算過程像什麼? 有些像分數或根號的換成小數以後 12/12 11:25
→ minusHa:會有誤差, 我們算是 0 是因為我們沒換成小數以後才計算 12/12 11:25
推 bxxl:浮點運算本來就不是完全精確的,會差一點點也很常見 12/14 22:03
標題說的不是很清楚請見諒Q.Q
我遇到的問題是有一個矩陣經過一些計算之後(都是一些簡單的加減乘)，有一些我認為計算後為零的值在command window顯示為0.0000，
然後我想用ceil()做無條件進位，可是這些0.000卻變為1 !!
之後才發現這些0.000是一個很微小的數(ex. 1.3878e-016)，可是我覺得在計算過程應該沒有錯啊...
不知道是否有大大能解惑，感謝~
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.37.90.84