推 zmark:你是要進行大數運算嗎?也許這個站能幫你: 11/02 00:07
推 terryys:10^15 single precision就夠了吧，我記得可以到10^3x 11/02 00:50
推 target8917:double 才是 10^3x次方 11/06 00:00
推 terryys:single precision~10^38 double precision~10^308 11/06 00:26
最近要寫程式計算一些光譜的boardening
需要做10^15 ~ 10^-15 之間的數值模擬
問題很明顯~就是overflow的問題
要不然就是出來的data 顯示 NaN
非常的卡關~
有辦法處理這方面的問題嗎~
ㄒ0ㄒ
感謝
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.115.30.225