Re: [機統] likelihood 和 probability 的差別

[CCWck (幹嘛要暱稱)]

※ 引述《andy2007 (...)》之銘言：
: 各位前輩好，我對於likelihood 和 probability 的理解有些困難，想請求前輩們的指點
: 在維基百科：http://en.wikipedia.org/wiki/Likelihood_function
: 提到說：
: 機率　：用於在已知一些參數的情況下，預測接下來的觀測所得到的結果。
: 似然性：用於在已知某些觀測所得到的結果時，對有關事物的性質的參數進行估計。
: 並且用以下例子來解釋：
: 已知投出的硬幣正面朝上和反面朝上的機率各自是p_H = 0.5
: 則投兩次都是正面朝上的機率是0.25，就是
: P(HH | p_H = 0.5) = 0.5 * 0.5 = 0.25
簡單來說 如果機率事先給定 出現某一pattern的機率
很容易算出
: (在已經知道硬幣正面朝上的機率是0.5時，求出兩次都是正面朝上的機率)
: 而
: L(p_H = 0.5 | HH) = P(HH | p_H = 0.5) = 0.25
: 在觀測到兩次投擲都是正面朝上時，p_H = 0.5 的似然性是0.25
: (這並不表示當觀測到兩次正面朝上時p_H = 0.5的機率是0.25) <= 這句話是什麼意思？
: 他的意思是說
而likelihood反過來 再已知pattern的情況 我們要去"猜" 原本的機率
今天你丟一硬幣連續兩次 都是正面
若已知硬幣出現正面的機率>0 (不是兩邊都反面的假硬幣)
那我們可以去"猜" 這個硬幣 本來出現正面的機率
這個硬幣 有可能是 出現正面的機率是0.01 也有可能出現正面的機率是0.99 甚至是1
但是L(p_H=1| HH)=1 並不是說 出現正面的機率是1 這只是一個參考值
而這個值只是要告訴你 這個硬幣正面機率為1 比正面機率為0.99的機會大

多想幾個例子
如果硬幣正面機率為0.01 連續兩次正面就是0.0001
如果硬幣正面機率為0.99 連續兩次正面就是0.9801
如果硬幣正面機率為1 連續兩次正面就是1
看起來 似乎 最有可能的情況就是 這個硬幣本來就是兩邊都正面

再換個例子 今天玩一個小遊戲
某人擲一硬幣 兩次 皆出現正面
請你和路人ABCDE猜測這硬幣原本出現正面的機率 看誰猜的最接近
請記得猜1的機會最高
:  L(p_H = 0.5 | HH)  = 0.25 不是：
: 當觀測到兩次都是正面朝上時，會使得"硬幣正面朝上的機率為0.5"
:                                           ↑
:                                        這件事情的機率是0.25 (是這個意思嗎？)
不是
: 但是這兩個式子卻是用等號連結起來 L(p_H = 0.5 | HH) = P(HH | p_H = 0.5) = 0.25
: 那這樣子要怎麼解釋 "p_H = 0.5 的似然性是 0.25"？
: 被名詞搞的暈頭轉向 Orz，到底什麼是似然性(likelihood)？
: 可否用淺顯易懂的方式來區分 likelihood 和 probability？
: 除此之外，機率密度函數(pdf)的積分一定為1，但是似然函數的積分不為1
因為likelihood不是機率 當然沒有需要pdf積分為1的問題
: 這是為什麼呢？可以用比較直觀的想法來解釋嗎？
一句話解釋
likelihook是用已知觀察事件 對欲檢定參數的機率 的可能性作估計
: 程度很差，謝謝各位前輩指點迷津 <(_ _)>

--
※ 發信站: 批踢踢實業坊(ptt.cc) 
◆ From: 58.115.142.236
→ penguin7272 :小遊戲的例子我覺得猜 1 不會是均衡
→ CCWck       :其實那是max likelihood的估計法
推 andy2007    :謝謝前輩，所以likelihood是一個相對值嗎？
→ andy2007    :因為L(p_H=1| HH) > L(p_H=0.99| HH)，所以
→ andy2007    :「選擇p_H=1」會比選擇「p_H=0.99」來達到兩次都是HH
→ andy2007    :的可能性還高，而L(p_H=0.99| HH) = 0.9801這裡的
→ andy2007    :"0.9801"，代表的是選擇「p_H=0.99」來達到兩次都是
→ andy2007    :(HH)的"可能性(possibility)"，而不是"機率"嗎？
→ CCWck       :大概可以這麼說