Re: [問題] 跑Keras的model正常GPU使用率會是多少

[pipidog (如果狗狗飛上天)]

※ 引述《HumuHumu (呼姆呼姆)》之銘言：
: ※ [本文轉錄自 deeplearning 看板 #1QfakpUB ]
: 作者: HumuHumu (呼姆呼姆) 看板: deeplearning
: 標題: [問題] 跑Keras的model正常GPU使用率會是多少
: 時間: Mon Mar 12 17:43:12 2018
: 我已經重複安裝很多變anaconda cudnn cuda等等了
: 但是我跑keras的model不管怎樣跑起來的速度都還是跟使用CPU跑的速度差不多
: 而且打開工作管理員，GPU使用率都只有7~8%左右
: 請問這樣是有在用GPU跑的嗎??
: 我不管裝幾次都是這種結果 我不知道該怎麼解決他嗚嗚嗚

看了一下你的推文,你用的是Geforce 1080,這種等級的卡,跑個
小ANN(我猜你的ANN,指的是MLP的意思吧?)你期待看到啥GPU使用
率? 1080有2560個cuda core啊. 用10%已經有256個core了.不少
了,如果你是用那種筆電內建的卡,也就2,3百個core的,這已經幾
乎要滿載了.

我的卡是Titan Xp,不要說這種小MLP了,就算是用CNN跑MNIST都是
低於10%. 你真的想燒機,看看GPU使用率狂飆的快感,好歹也要
玩些幾百MB起跳的影像模型,例如VGG16,或VGG19你才看的到1080被
操的不要不要的感覺.

所以玩玩看style-transfer吧,裡面會用到Vgg16,跟Vgg19可以讓
你操卡操到爽:

https://github.com/kevinzakka/style-transfer

* BTW, windows顯示的那個使用率是copy engine的使用率,當你
的GPU記憶體很大的時候,copy自然就會低一點. 你要看GPU的計算
使用率,你應該要看的是compute_0那個欄位.

--
★人生中最溫暖的夏天是在紐約的冬天★

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 73.66.168.95
※ 文章網址: https://www.ptt.cc/bbs/Python/M.1520882939.A.904.html
→ pipidog: BTW,而且你的GPU記憶體滿載了,這表示你確實用到GPU了.
→ pipidog: 不過滿載不是因為資料大,而是TF預設都會佔用整顆GPU,避免
→ pipidog: 計算碎片化,你若是用PyTorch,則是要多少才用多少.
※ 編輯: pipidog (73.66.168.95), 03/13/2018 03:34:39
推 aaaba: 讚讚讚
推 HumuHumu: 感謝大大解惑，因為我一直覺得運算速度很慢，GPU使用率
→ HumuHumu: 又低，所以我一直以為我灌錯tensorflow版本
→ pipidog: 計算量太小，用GPU反而比CPU慢，因為光資料的搬動就花去
→ pipidog: 不少時間了。這很正常。
推 goldflower: 有gpu使用率就代表有用gpu啊XD  可用nvidia-smi看
→ goldflower: 螢幕應該沒啥影響