看板 DataScience 關於我們 聯絡資訊
大家好,我最近用tensorflow做RNN,時間序列資料的預測時,想要加入batch normaliza tion,但又在網路上看到有些觀點是RNN不適合使用BN,不知道大家的看法是什麼呢? 至於在做batch normalization時,是應該在input之後馬上做嗎?如果想要放在rnn cell 的水平方向或是垂直方向,要怎麼寫呢? 另外發現tensorflow有做好的layer normalization,但是只有lstm的(tf.contrib.rnn.L ayerNormBasicLSTMCell),如果我沒有要用lstm,而是要用gru或是一般的rnn的話應該要 怎麼寫呢? 感謝各位! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.113.136.219 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1524823014.A.BD5.html
bibo9901: 我記得有幾篇文章都表示RNN+BN只會瘋狂overfit 05/10 08:41