推 marktb:唔..好深奧..我在去找找相關資料看看了 謝謝 11/23 14:15
推 commiserate:中文叫做「大數演算法」的樣子 11/23 18:43
※ 引述《marktb (Mark)》之銘言：
: 目前正在試寫尤拉數程式
: 但發現vb他只能顯示到.13個小數點
: 請問有辦法讓他突破嗎?
: 以下是我的程式碼
: Dim a,n As Double
: n = TextBox1.Text
: a = (1 + n) ^ (1 / n)
: Label1.Text = a
: TextBox2.Text = a
: 還是說資料型態限制的關係呢?
: 有沒有其他資料型態可以讓他沒有這個限制?
事實上用decimal的話後面的小數點可以拉更長
(但是decimal的值域比single and double小很多)
然而你的算式會用到次方運算
這必須先轉成double才能計算
所以用decimal無意義
so..
前一篇推文裡有說
這你可能要去找人家寫好numeric library來用
或是自己找演算法來implement囉
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 220.133.110.47
※ 編輯: GreatShot 來自: 220.133.110.47 (11/23 09:30)