作者peter308 (pete)
看板Physics
標題Re: [問題] 機器學習RBM模型中的 能量函數解釋
時間Fri Jul 3 16:02:21 2020
※ 引述《davidwales (cluster)》之銘言:
: ※ 引述《loser113 (洨大魯蛇ㄍ)》之銘言:
: : 參考對岸之乎介紹
: : https://zhuanlan.zhihu.com/p/40120848
: : 模型概念圖
: : https://pic3.zhimg.com/80/v2-b81b786ae6eb1bbaa1c04c7b3963e8ea_1440w.jpg
: : 目前在學RBM裡面用了一個能量函數 ( nergy function)
: : https://pic1.zhimg.com/80/v2-8f783076cd101380913929745026c7e0_1440w.jpg
: : 利用物理概念但是 還是不太懂設置這函數的用意
: : 目前已獲得的訊息是能量越低越穩定
: : 機器學習模型追求是準確度
: : 裡面演算法運算 是找到某個參數最大概似函數最大值 (這邊數學部分就不多做解釋)
: : 使得聯合函數最大
: : https://pic2.zhimg.com/80/v2-e0db53e5ff23cd01b8a8f11f965fb0e9_1440w.jpg
: : 其中
: : https://pic3.zhimg.com/80/v2-148857ea03b7564bbf5bc500df86568a_1440w.jpg
: : 理論上是每個P都相等機率相乘會最大 那不太懂這邊追求每個P相近
: : 用物理怎麼解釋節點(每組V到模型的差異相近?)
: : 或者更直接一點 怎麼解釋追求 每個P相近 對於模型準確度有甚麼關係
: https://www.sciencedirect.com/science/article/pii/S0370157319300766
: 這篇文章有回答你的疑問
: 可以參考一下
: 作者群全部是物理學家
: 所以他們的ML觀點可能會比較容易讓物理系學生吸收理解
: 希望有點幫助!
RBM 在物理上 是借用 Ising model 和 Hubbard-Stranvoich transformatiion
把原本的Ising model變成是是可以用平均場理論去處理的一個問題
你看到的那個 RBM Energy Form
其實原始是一個Ising model的能量位勢 哈密頓量 H
H = -Σa_i‧V_i - 1/2ΣV_i J_ij V_j
其中 a_i 是外加磁場,
V_i, V_j 是在i,j-site上的自旋量 (For Ising model, 1,0,-1)
J_ij 是coupling constant
接下來 我們透過Hubbard-Stranvoich transformation
引進一個Bosonic field (latent variable) 後,
可將原本的H 變成一個多出latent variable的 H'
h_\mu 是多出來的 bosonic field (或是latent variable)
H' = -Σa_i.V_i + 1/2Σh_\mu^2 - Σv_iW_iu h_\mu
原本的 H 中的 ΣV_i.J_ij.V_j 這項
會變成 H'中 Σv_i.W_iu.h_\mu 一個平均場的項,
W_iu 就是監督學習中常見的 weighting matrix
你把 H' 拆解回去 H 就會發現其實
H就是一個 Ising model 在外加磁場 a_i 下的總位能函數
引進Hubbard-Stranovich 目的只是讓我們在解Ising model時
變成一個可以用 effective mean field theory來處理的問題 (比較容易處理)
回應你的式子
a_i = 外加磁場
V_i, V_j = site i, j 上的spin
h_j = bosonic field
一般作法就是先用Monte Carlo sample出dataset
再從dataset 去訓練出weighting matrix的矩陣元素(參數)
訓練出參數就可以去做後續的預測分析或是用來非常快速的找出磁性系統的基態解了
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.117.32.216 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Physics/M.1593763346.A.5B0.html
※ 編輯: peter308 (140.117.32.216 臺灣), 07/03/2020 16:03:34
※ 編輯: peter308 (140.117.32.216 臺灣), 07/03/2020 16:05:30
※ 編輯: peter308 (140.117.32.216 臺灣), 07/03/2020 16:57:45
※ 編輯: peter308 (203.204.149.227 臺灣), 07/04/2020 13:33:03
※ 編輯: peter308 (203.204.149.227 臺灣), 07/04/2020 13:39:02
※ 編輯: peter308 (203.204.149.227 臺灣), 07/04/2020 13:40:58
※ 編輯: peter308 (203.204.149.227 臺灣), 07/04/2020 13:43:05