[請益] 市面上有可以用於DL訓練的TPU電腦嗎

[cs410567cs (dinosaur)]

現在市面上有可以用於深度學習訓練的TPU電腦嗎
google找了一下
好像有google TPU 的版子
可是算力好像只能用來預測
有能用來訓練的嗎
還是要買GPU?

可是用GPU跟TPU速度真的差很多
用kaggle TPU 20多分鐘的模型
用kaggle GPU 要6個小時(雖然優化一些程式碼應該可以加快)

另外問一個問題
9月要出的N卡30XX系列的
會對機器學習部份做優化嗎
不然一定被google的TPU打趴阿

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.42.190.19 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1595001867.A.229.html
推 qwe753951   : 別說優化，NV消費級的顯卡只有被閹割的分
推 aegis43210  : 半精度2080Ti就夠強啦?
推 silverair   : 不是阿，專門開發的設備和市售卡不能比也是正常的吧
→ jeff40108   : 專門架構當然屌虐
→ jeff40108   : 但就是沒有市場
推 silverair   : 真的要用也只能cloud tpu吧，google就是想靠這個賺
→ asdfjoe     : TPU沒有外賣吧 就算有板子也拿不到TPU吧 只有跟Goog
→ asdfjoe     : le租的方式
https://www.asus.com/tw/AIoT-Industrial-Solutions/Tinker-Edge-T/
那這個是?
※ 編輯: cs410567cs (114.42.190.19 臺灣), 07/18/2020 01:44:43
推 yoshonabee  : 用gcs吧，不然colab加減用
推 FXW11314    : edge tpu不等於tpu吧
我甩蠢了
→ allyourshit : 有看過NV的jetson nano嗎？128cuda夠不夠你用？
→ allyourshit : dev kit 99鎂應該負擔得起吧
→ allyourshit : 這是老黃專門為dl開發的工具
※ 編輯: cs410567cs (114.42.190.19 臺灣), 07/18/2020 02:01:30
→ IceStoneb   : http://i.imgur.com/lH6ncdZ.jpg
→ IceStoneb   : 他只建議做Transfer learning
→ IceStoneb   : 這文件你有興趣可看看
→ IceStoneb   : https://coral.ai/docs/edgetpu/models-intro/#tran
→ IceStoneb   : sfer-learning
→ IceStoneb   : 而且TPU可套的model也很少
→ IceStoneb   : RNN CNN 有些不支援
→ IceStoneb   : GPU大部分都可以訓練
→ kuma660224  : 論專業AI, TPU本來就會比泛用GPU更有效率
→ kuma660224  : 不然廠商做TPU是嫌錢太多嗎
→ kuma660224  : GPU優勢是親民  有遊戲市場當分母
→ kuma660224  : 1對1打不贏, 你有考慮多對1嗎
→ kuma660224  : 如果你有足夠需求 我記得谷歌有賣雲端算力
→ kuma660224  : 不賣TPU, 但可以賣算力
→ Saren       : Coral board記得有管道可以買 但這只有edge
推 bitcch      : 通常都是給edge device用的
→ friedpig    : cloud tpu精度到底多少 看起來怎麼好像是只有bfloat
→ friedpig    : 32?  用老黃顯卡你願意自己去修code 用到int4 int8
→ friedpig    : fp16之類的也都會有巨幅提升阿 新一代應該87%遊戲卡
→ friedpig    : 還是有一定的tensor core 30系列有tf32 也是大
→ friedpig    : 進步八
→ friedpig    : TF32雖然偷精度 但是原先code都不用改 能套的範圍
→ friedpig    : 更大一點
→ keith43     : intel neural compute stick ?