※ 引述《taioceans (海洋)》之銘言：
> 這是什麼阿
> 我不太懂這個名詞，請教大家這到底是什麼？
就 K-L information number 啊!
請查網路或機率概論或數統教本, "entropy" 關鍵字.
或查專門談 information theory 的書.
> Let f and g be two probablity density functions.
> The Kullback-Leibler information number is defined as
> f(X) f(x)
> K(f,g)=E[㏒---------]=∫㏒-------f(x)dx
> g(X) g(x)
> 而且我該如何知道K(f,g)≧0？
利用 Jensen's inequality. 因 -log(x) 是 convex, 故
E[-log(g(X)/f(X)] ≧ - log{E[g(X)/f(X)]} = 0.
--
嗨! 你好! 祝事事如意, 天天 happy! 統計專業版, 需要你的支持! :)
無名小站 telnet://wretch.twbbs.org Statistics (統計方法討論區)
盈月與繁星 telnet://ms.twbbs.org Statistics (統計：讓數字說話)
成大計中站 telnet://bbs.ncku.edu.tw Statistics (統計方法及學理討論區)
交大資訊次世代 telnet://bs2.twbbs.org Statistics (統計與機率)
★本文未經本人同意請勿轉載; 回覆請勿全文引用, 請僅留下直接涉及部分。
--
夫兵者不祥之器物或惡之故有道者不處君子居則貴左用兵則貴右兵者不祥之器非君子
之器不得已而用之恬淡為上勝而不美而美之者是樂殺人夫樂殺人者則不可得志於天下
矣吉事尚左凶事尚右偏將軍居左上將軍居右言以喪禮處之殺人之眾以哀悲泣之戰勝以
喪禮處之道常無名樸雖小天下莫能臣侯王若能守之萬物將自賓天地相合以降甘露民莫
之令而自均始制有名名亦既有夫亦將知止知止可以不殆譬道之在天 163.15.188.87海