[問題] Dropout的值

[PyTorch (屁眼火炬)]

我看github上面很多code好像大家幾乎都用


dropout=0.幾

有人會把他tune到小數點後3,4位嗎?

好奇專業的機器學習從業人員是怎摸做的?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.53.11
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1524834751.A.7E5.html
→ kumitang: 一般都0.4-0.75吧 印象中
推 kula0000: dropout有隨機的性質在，沒必要用到很精準吧?
→ Rprogramming: 那如果設0.1會怎樣?介於overfitting一半嗎?
→ hl4: https://goo.gl/c8eu49 可以參考看看
→ PyTorch: 感謝
推 EGsux: dropout就是做一個mask在你的W上面 rand(size(W)) > p(drop
→ EGsux: out)
→ EGsux: 所以你做到三四位影響不大 10%變10.34%那種