[問題] 顯存不足內存來湊

[Fordevoted (最佳化)]

作業系統：windows10
使用工具：keras with tensorflow backend
問題內容：
因為gpu是940MX 顯存只有2G
最近train model 瘋狂遇上resourceExhaustederror
之前有聽說TF有顯存不足內存來補
但不知道Keras是否也能如此，爬了一些網上資料後卻好像沒有類似的說法

不知道版上大大們對於keras 使用TF backend調用內存是否有些頭緒
還是這類的補法終究只是都市傳說
小弟不勝感激



-----
Sent from JPTT on my Samsung SM-J710GN.

--
標題  [問卦] 有沒有被告白的八卦？
→ mlien: 我被告白過  她說"請緊握扶手站穩踏階" 讓我好害羞
→ yspen: 上次有個女聲很親切的告訴我  先按解除鎖定  再按熱水
→ mausstin: 以為會被報警抓走
→ nacy204327: 有時候本肥宅會魯到開Google翻譯我喜歡你  叫他唸出來
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.115.142.88
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1543498316.A.C7C.html
※ 編輯: Fordevoted (140.115.142.88), 11/29/2018 21:34:39
→ Mchord: 2G也只能跑入門範例吧，確定要做的話顯卡錢是最不能省的
推 michellehot: 不能 雖然有share memory可用 但是tensorflow不支援
→ michellehot: https://goo.gl/KT4s9u
推 michellehot: 因為activation和normalization也都會吃vram
推 michellehot: 如果真的vram不足的話 調整batch size或是
→ michellehot: 檢視一下model的效率
推 michellehot: backend是用來檢視由keras建立的model下
→ michellehot: 用到的記憶體量
推 yoyololicon: 存錢買顯卡ㄅ
推 yiefaung: 2G有點慘...
→ yiefaung: https://goo.gl/nrgffR
→ yiefaung: https://github.com/openai/gradient-checkpointing
→ yiefaung: trade-off一下
→ zxp9505007: 還真的是都市傳說
→ fo40225: TF>1.9.0 per_process_gpu_memory_fraction設大於1就行了
→ fo40225: 代價是速度降1/10(1080ti) 940mx不知道會降多少
推 fo40225: Linux限定 https://docs.nvidia.com/cuda/
→ fo40225: cuda-c-programming-guide/index.html#um-requirements
→ fo40225: 還要compute capability>6 940mx無法使用
推 f496328mm: 現在顯卡不貴八，1070也才1萬
推 sma1033: 認真覺得如果連顯示卡都不想買還是別做了...工具是必要的
推 chobit199685: 真的要跑大架構就買泰坦卡吧
推 bor1286: 調batch size或使用data generation
→ yoyololicon: 能不能調精度啊 用float16之類
推 zxp9505007: 其實外接顯卡可以試試 真的不錯用